KI im Krieg : Ideologische Maschinen

WOZ: Herr Bhila, im Februar wurde eine Schule in der iranischen Stadt Minab von einer Rakete getroffen. Mindestens 175 Menschen starben, darunter 120 Kinder. Vermutlich sind die USA für den Angriff verantwortlich. Welche Rolle spielte künstliche Intelligenz?

Ishmael Bhila: Erste Berichte deuten darauf hin, dass das KI-System Maven Smart System an der Zielgenerierung beteiligt war – dasselbe System, das innerhalb der ersten 24 Stunden des Krieges gegen den Iran über tausend Zielkoordinaten erzeugte. Solche Empfehlungsalgorithmen geben Entscheidungsträger:innen ein übersteigertes Selbstvertrauen, und die Illusion ihrer Genauigkeit führt dann zu solch schwerwiegenden Fehlern.

Frage:Hätte der Angriff verhindert werden können?

Antwort:Gäbe es ein Verbot oder wenigstens eine Regulierung automatisierter Waffensysteme oder generell künstlicher Intelligenz im Krieg, hätte der Angriff möglicherweise nie stattgefunden.

Frage:Wann spricht man eigentlich von autonomen Waffensystemen?

Antwort:Laut der Definition des IKRK gilt eine Waffe als autonomes Waffensystem, wenn sie Ziele ohne menschliche Einwirkung auswählt und Gewalt auf sie anwendet. Die Entscheidung, Leben zu nehmen, wird dabei an Maschinen delegiert, ohne dass eine wirkliche menschliche Kontrolle stattfindet.

Frage:Und was unterscheidet sie von konventionellen Drohnen, wie sie die USA in Pakistan oder Afghanistan eingesetzt haben?

Antwort:Bei einer ferngesteuerten Drohne verfolgt ein Mensch das Ziel auf einem Bildschirm, manchmal über Stunden oder Tage. Der Soldat entwickelt – paradoxerweise – eine Art Bindung. Man sieht, wie jemand mit seiner Familie lebt, wo er schläft, wohin er geht. Die Forschung spricht von einer «moralischen Verletzung» – einer psychischen Wunde beim Bediener, wenn er sich mit der Moral seiner Handlungen bei einem Drohnenangriff auseinandersetzen muss. Das mag zynisch klingen, aber es stellt eine Form menschlicher Zurückhaltung dar.

Frage:Aber überprüft heutzutage in der Regel nicht auch ein Mensch, was die KI vorschlägt?

Antwort:Theoretisch ja. Die Entwickler autonomer militärischer Systeme sprechen von einem «human in the loop», einer Person, die die Entscheidung bestätigt. Die Realität ist jedoch komplizierter. Zunächst gibt es das Konzept des «human on the loop»: Jemand überwacht das System zwar, greift aber nur dann ein, wenn etwas schiefzulaufen scheint. Hinzu kommt der «automation bias»: Gibt die Technologie eine Empfehlung ab, neigen Menschen dazu, diese zu akzeptieren – schlichtweg, weil sie Computern vertrauen. Wenn das System behauptet, eine bestimmte Person sei ein Terrorist – wer will da dem Algorithmus widersprechen? Dazu kommt der operative Druck: Wenn ein System innert Sekunden tausend potenzielle Ziele identifiziert, bleibt keine Zeit für eine Überprüfung.
 

Der Friedensforscher

Der simbabwische Friedensforscher Ishmael Bhila arbeitet an der Uni Paderborn zu autonomen Waffensystemen und den Perspektiven des Globalen Südens. Er beobachtet die Verhandlungen zur Rüstungskontrolle bei den Vereinten Nationen in Genf und New York. Bhila ist zudem Mitglied der «Campaign to Stop Killer Robots», eines Zusammenschlusses von über 270 zivilgesellschaftlichen Organisationen.

ausklappen einklappen

Frage:Das klingt nach einem Videospiel.

Antwort:Ja. Das System Lavender, das Israels Militär in Gaza einsetzt, vergibt Punkte an potenzielle Ziele. Es berechnet, wie viele zivile Todesopfer beim Angriff auf eine bestimmte Person als akzeptabel gelten. Bei einem rangniedrigen Kämpfer lag dieser Wert in den ersten Kriegswochen bei bis zu zehn oder fünfzehn; bei hochrangigen Kommandeuren überschritt er die Marke von hundert. Diese Logik stuft Menschen als entbehrlich ein, spricht ihnen das Recht auf Leben ab. Es ist ein Algorithmus, der berechnet, wie viele Menschen sterben müssen. Das ist nicht abstrakt, das geschieht gerade.

Frage:Militärvertreter:innen argumentieren, diese Systeme ermöglichten präzisere Angriffe und würden Zivilist:innen somit besser schützen.

Antwort:Untersuchungen legen das Gegenteil nahe. Kriege werden durch diese Systeme stark beschleunigt – Ziele werden schneller ausgewählt, die Zerstörung schreitet rascher voran. In Gaza markierte Lavender Zehntausende Palästinenser:innen als potenzielle Ziele. Ein General der US Air Force merkte bereits 2021 an, dass ein KI-gestütztes Zielsystem unter realen Bedingungen eine Trefferquote von lediglich rund 25 Prozent erreichte – obwohl das System selbst seine eigene Zuverlässigkeit auf 90 Prozent schätzte. Die Maschine ist nicht präziser. Sie ist lediglich schneller.

Frage:Die Hersteller behaupten, die Systeme würden sich mit der Zeit verbessern.

Antwort:Das ist ein besonders sadistisches Argument. Denn diese Systeme werden nicht nur in Laboren getestet – sie werden an echten Menschen erprobt. In Libyen, Äthiopien, Gaza, im Iran. Es herrscht ein sehr westlicher, sehr «positivistisch»-naiver Glaube vor, Technologie sei von Natur aus neutral, objektiv und fortschrittlich – dass sie zwar Fehler mache, diese aber letztlich überwinden werde. Doch diese «Fehler» sind Menschenleben. Und die Modelle sind keineswegs frei von Ideologie.

Frage:Inwiefern?

Antwort:Die Systeme tragen die Vorurteile jener in sich, die sie entwickelt haben – ein Phänomen, das als «algorithmische Verzerrung» bekannt ist. Die gesellschaftlichen Vorurteile, die wir hegen – Rassismus, Sexismus und dergleichen –, sind in diesen Systemen codiert und werden durch technologische Gewalt reproduziert. Project Maven – das zentrale KI-gestützte Zielerfassungsprogramm des US-Militärs – wurde explizit im Kontext des «Krieges gegen den Terror» entwickelt, wobei der Fokus auf einer ganz bestimmten Gruppe und einem spezifischen Profil von Menschen lag. Alex Karp, der CEO von Palantir, das bei der Entwicklung eine zentrale Rolle spielte, hat öffentlich erklärt, er wolle dem Westen «zu seiner offensichtlichen, ihm innewohnenden Überlegenheit verhelfen». Genau diese Ideologie ist in den Systemen festgeschrieben.

Frage:In der Ukraine hilft die Palantir-Software dem Militär im Kampf gegen die russische Invasion. Dem «Time»-Magazin sagte Karp, das biete die Möglichkeit, Palantirs Mission zu erfüllen, «den Westen zu verteidigen».

Antwort:Die Entscheidung des Systems darüber, wer als Mensch gilt und wer nicht, ist sowohl historisch als auch strukturell bedingt. Wie Sie an den Aussagen von Karp sehen: Die Ukrainer:innen werden von den Entwicklern dieser Technologien als schutzwürdige Menschen betrachtet. Die Menschen in Gaza wurden – derselben Logik folgend – offenbar nicht auf diese Weise wahrgenommen. Folglich muss der Einsatz dieser Systeme im Kontext jener ungleichen globalen Strukturen verstanden werden, die bestimmte Bevölkerungsgruppen zu blossen «Wegwerfmenschen» degradieren.

Frage:Warum gibt es kein internationales Verbot von KI-Waffen?

Antwort:Seit 2014 gibt es Bemühungen, automatisierte Waffensysteme in die Konvention über bestimmte konventionelle Waffen (CCW) aufzunehmen, einen Waffenkontrollvertrag der Uno, der den Einsatz besonders grausamer Waffen reguliert oder verbietet. Doch es gibt viele Hürden, etwa das Konsensprinzip der CCW: Demnach können Ergebnisse nur erzielt werden, wenn alle Vertragsstaaten zustimmen – jeder Staat besitzt also ein Vetorecht.

Frage:Welche Staaten blockieren denn?

Antwort:Vor allem die USA, Russland, Israel und die Türkei. Offiziell sagen sie, sie wollten der Innovation nicht im Weg stehen und hielten die bestehenden Gesetze für ausreichend. Inoffiziell verfolgen sie aber ökonomische und militärische Interessen. Eine verbindliche Regulierung würde ihren vermeintlichen strategischen Vorteil einschränken. Und Staaten mit imperialen Ambitionen sehen in diesen Waffen ein Mittel, um diese zu verfolgen, ohne das Leben eigener Soldat:innen aufs Spiel zu setzen.

Frage:Und wer setzt sich für eine Regulierung ein?

Antwort:Mehr als hundert Staaten – die meisten davon aus dem Globalen Süden – fordern ein völkerrechtlich verbindliches Instrument. Dazu gehören unter anderem Sierra Leone, Costa Rica, Mexiko und Uruguay. Ihnen haben sich europäische Länder wie Österreich, Irland und die Schweiz angeschlossen. Es gibt auch bereits einen Entwurf für ein Zusatzprotokoll zur CCW, das autonome Waffensysteme regulieren würde. Und im November stimmten in der Uno-Generalversammlung 156 Staaten für eine Resolution, die zu dringendem Handeln aufruft. Lediglich 5 Staaten stimmten dagegen.

Frage:Warum engagieren sich die Staaten des Globalen Südens so stark in dieser Frage?

Antwort:Die Systeme ermöglichen es, die Souveränität eines Staates zu verletzen, ohne dabei Spuren zu hinterlassen, die eine potenzielle Verantwortung nach sich ziehen würden. Und historisch betrachtet, dies ist der Kern der Sache, haben viele dieser Staaten imperiale Gewalt am eigenen Leib erfahren. In diesen Technologien erkennen sie die gleiche Logik wieder – wenn auch in einer neuen Form.

Frage:Können Sie Beispiele nennen?

Antwort:Der Einsatz von KI-gestützten Empfehlungssystemen – etwa Claude bei der Entführung von Nicolás Maduro in Venezuela und im Iran, Lavender in Gaza sowie Maven im Nahen Osten generell – deutet auf die weitverbreitete Nutzung aufstrebender Militärtechnologien im Globalen Süden hin.

Frage:Wie schätzen Sie die Chancen auf ein internationales Abkommen ein?

Antwort:Die nächste Überprüfungskonferenz der CCW ist für November in Genf angesetzt. Die Frage wird sein, ob ein Mandat für tatsächliche Vertragsverhandlungen verabschiedet wird – oder ob es bei unverbindlichen Diskussionen bleibt.

Frage:Und wenn es keine Regulierung gibt?

Antwort:Das erleben wir bereits. Die Logik der Mächtigen setzt sich durch. Und das sind nicht nur die alten imperialen Mächte, sondern auch Länder wie die Türkei, die Vereinigten Arabischen Emirate oder Indien: Staaten, die wissen, dass diese Technologien günstiger sind als konventionelle militärische Machtmittel, und die ihre eigenen Einflusssphären aufbauen. Wenn es keine Regulierung gibt, sinkt die Schwelle zur Kriegsführung. Das Tempo der Zerstörung nimmt zu. Und die Frage, wer ein legitimes Ziel darstellt – wer als Mensch zählt und wer nicht –, wird nicht mehr von einem Menschen beantwortet, sondern von einer Maschine. ●