KI-System stuft Zivilisten als militärische Ziele ein

Seit über zehn Jahren versammeln sich Regierungen in Genf, um Regeln für autonome Waffen zu entwerfen. Im September trafen sich Delegierte aus 128 Nationen, um ein verbindliches Abkommen über automatisierte Waffen zu schließen, wie der ehemalige Direktor von Human Rights Watch, Kenneth Roth, im The Guardian schrieb.

Doch Vertreter, die von Donald Trump und Wladimir Putin entsandt wurden, arbeiteten daran, wichtige Schutzmaßnahmen zu schwächen. Entscheidend war, dass sie eine Bestimmung verwässerten, die menschliche Bediener dazu verpflichtete, von Software erstellte militärische Ziele vor der Durchführung von Angriffen zu überprüfen.

Während sich globale Debatten um futuristische Killerroboter drehen, entscheidet Software-Automatisierung bereits in aktuellen Konflikten über Leben und Tod.

Im Gazastreifen setzten Militärkräfte einen Algorithmus namens „Lavender“ ein, um Telefonnutzungsmuster zu verfolgen und mutmaßliche Militante zu identifizieren, so Roth. Ein weiteres Programm namens „Where’s Daddy“ verfolgte diese Personen dann zu ihren Familienhäusern, wobei Angehörige als Kollateralschaden in Kauf genommen wurden.

Ein bloßer Stempel

Bei früheren Militäroperationen wurden Zielauswahlen gründlich überprüft, bevor Kommandeure einen Angriff genehmigten. Doch nach dem Hamas-Angriff vom 7. Oktober führte eine überwältigende Nachfrage nach Zielen dazu, dass diese traditionellen Schutzmaßnahmen beiseitegeschoben wurden. Computersysteme wählten Kandidaten aus und leiteten sie an Geheimdienstoffiziere weiter, die sie dann direkt an Feldeinheiten zur Durchführung der Angriffe gaben.

Dieser Hochgeschwindigkeits-Workflow reduzierte die menschliche Aufsicht auf eine schnelle Formalität. Geheimdienstoffiziere genehmigten routinemäßig Computerempfehlungen, ohne sie zu hinterfragen.

Ein Offizier erinnerte sich daran, täglich Dutzende von Akten bearbeitet zu haben, wobei er lediglich zwanzig Sekunden für jede Auswahl aufwendete. „Ich hatte als Mensch keinen Mehrwert, außer ein Genehmigungsstempel zu sein“, erklärte der Offizier und merkte an, dass die automatisierte Einrichtung enorme Zeitersparnisse mit sich brachte.

Einige Mitarbeiter verteidigten die Praxis und argumentierten, dass Software verhindere, dass menschliche Trauer und Wut Entscheidungen im Krieg trübten. Wie ein Soldat es ausdrückte: „Ich habe viel mehr Vertrauen in einen statistischen Mechanismus als in einen Soldaten, der vor zwei Tagen einen Freund verloren hat.“

Schwindende menschliche Kontrolle

Doch Computerprogramme spiegeln unweigerlich die Annahmen und Regeln wider, die von ihren menschlichen Schöpfern festgelegt wurden. Programmierer entscheiden, wie viele Beweise benötigt werden, um jemanden als Ziel zu klassifizieren, und welche Fehlermarge toleriert wird. Selbst militärische Schätzungen räumten ein, dass etwa 10 Prozent der Zielpersonen überhaupt keine Kombattanten waren, so Roths Kolumne.

Kommandeure zeigten auch eine Bereitschaft, schwere Kollateralschäden in Kauf zu nehmen, und erlaubten bis zu 20 zivile Todesfälle für einen einzigen niedrigrangigen Verdächtigen. Rechtsexperten halten solche Verhältnisse nach den internationalen humanitären Regeln der Verhältnismäßigkeit für rechtswidrig. Der israelische Präsident Isaac Herzog spiegelte diese Denkweise wider, als er behauptete, „eine ganze Nation da draußen“ sei verantwortlich.

Dieses Klima fördert das, was das Internationale Komitee vom Roten Kreuz als „Automatisierungsverzerrung“ bezeichnet, bei der Bediener Computerausgaben ohne ausreichende Hinterfragung vertrauen. Die maßgebliche Präzision der Software wiegt das Personal in Selbstzufriedenheit, was Roth als die „Banalität des Bösen“ beschrieb, wenn gewöhnliche Soldaten blind „dem System“ vertrauen.

Ohne intensive Hinterfragung und echte Rechenschaftspflicht der Kommandeure besteht die Gefahr, dass automatisierte Systeme tödliche militärische Entscheidungen zu einer kalten, mechanischen Routine machen.

Quelle: The Guardian