Beatrice Fihn hat 2017 für ICAN, die Internationale Kampagne zur Abschaffung von Atomwaffen, den Friedensnobelpreis entgegengenommen. Heute kämpft die in Genf wohnhafte Schwedin mit der von ihr gegründeten Organisation Lex International dafür, dass das Töten in Menschenhand bleibt.

Das klingt nach einem seltsamen Ziel für eine Abrüstungsaktivistin. Fihn arbeitet nach eigenen Worten seit 2006 daran, die Zerstörungskraft von Kriegen zu begrenzen, und sie tut es ohne Schwärmerei: «Ich glaube nicht an eine Welt, in der weisse Tauben fliegen und alle in Frieden und Harmonie leben.» Ich habe sie im Herbst 2026 für 20 Minuten interviewt. Anlass war eine Uno-Konferenz in Genf zur Frage, ob die Staaten über einen Vertrag zu autonomen Waffen verhandeln.

Leben retten darf die KI nur unter Aufsicht

Beatrice Fihn im Gespräch

Ihre Grundfrage: «Wenn wir Maschinen Menschen töten lassen, was bleibt dann von uns?» Sie erzählt von Aufnahmen, auf denen Soldaten sich einer Drohne ergeben wollen, ohne zu wissen, ob jemand sie sieht. Und sie vergleicht den Krieg mit dem Operationssaal, wo niemand einen Roboter unbeaufsichtigt arbeiten lässt: «Wir erlauben der KI im Moment nicht, ohne menschliche Aufsicht Leben zu retten. Warum sollten wir ihr erlauben, ohne Aufsicht Menschen zu töten?»

Darin stecken zwei Fragen, die über den Krieg hinausgehen. Was heisst es, dass ein Mensch entscheidet? Wo die KI das Ziel wählt und ihm Sekunden für Ja oder Nein bleiben, sagt Fihn: «Kein Mensch kann das wirklich.» Und was schuldet man dem, über den entschieden wird? Für sie macht es einen grundlegenden Unterschied, «ob jemand aus seinen eigenen Gründen entscheidet oder ein Algorithmus».

Die KI legt vor, der Mensch unterschreibt

Fihn zieht selbst einen Vergleich aus dem Alltag: «Es ist ein wenig wie im Journalismus: Der Text ist nicht von der KI geschrieben, aber wenn Sie mit KI recherchieren und redigieren, wo liegt dann die Grenze?»

Diese Frage trifft jede Organisation, die mit KI arbeitet. Heikel wird es selten erst beim Entscheid. Die KI ordnet die Dossiers, reiht die Bewerbungen, schreibt den Entwurf; der Mensch wählt aus dem, was die KI ihm vorlegt.

Dann das Tempo. Die KI liefert schneller, als ein Mensch prüfen kann, und irgendwann wird aus der Prüfung eine beiläufig erteilte Unterschrift. Wie viel Urteil im Ablauf Platz hat – haben muss –, ist eine Führungsfrage. Sie lässt sich nicht an die Person abschieben, die auf «Freigeben» klickt. Wer «Am Ende entscheidet ein Mensch» in eine KI-Richtlinie schreibt, sollte dazuschreiben, wie viel Zeit dieser Mensch zum Prüfen bekommt und ob er Nein sagen darf.

Dann die Summe. Viele vertretbare Einzelentscheide ergeben manchmal ein Muster, das niemand will oder beschlossen hat.

Gegen KI spricht das nicht. Fihn räumt ein, dass sich mit ihr in manchen Fällen Müdigkeit und Emotionen ausschalten lassen. Dass KI im Krieg deshalb weniger zivile Opfer fordert, darauf deutet für sie bisher nichts hin. Die nötige Aufsicht bemisst sie an den Folgen: Beim Kalender braucht es sehr wenig, beim Atomkrieg sehr viel.

Nur liest sich diese Skala von aussen anders als von innen. Eine Absage ist für die HR-Organisation Routine und für den betroffenen Bewerber ein Einschnitt. Fihn sagt über Bewerbungsgespräche mit einer Maschine: «Es hat etwas Unmenschliches, vor einer KI zu sitzen, die Ja oder Nein sagt zu einer Stelle oder einem Studienplatz.» Der Bewerber will wissen, ob jemand – ein Mensch – hingeschaut hat und aus welchen Gründen.

Das Interview mit Beatrice Fihn ist am 15. November 2026 bei 20 Minuten erschienen: «Wenn wir Maschinen Menschen töten lassen, was bleibt von uns?»