Kathrine Frich
Das Pentagon plant Systeme, die Online-Diskurse verfolgen, abweichende Stimmen identifizieren und mit gezielten Botschaften reagieren können.
Das Pentagon plant Systeme, die Online-Diskurse verfolgen, abweichende Stimmen identifizieren und mit gezielten Botschaften reagieren können.
Pentagon setzt auf KI-gestützte Propaganda zur Beeinflussung globaler Meinungen
Ein kürzlich enthülltes Pentagon-Dokument deutet darauf hin, dass die Vereinigten Staaten den Einsatz von KI-generierter Propaganda zur Beeinflussung ausländischer Bevölkerungen prüfen.
Der von The Intercept veröffentlichte Plan beschreibt die Absicht des Militärs, KI zu nutzen, um „Narrative zu kontrollieren“ und „abweichende Argumente“ online in Echtzeit zu unterdrücken.
SOCOM plant ‚autonome‘ Einflusskampagnen
Das Dokument, erstellt vom U.S. Special Operations Command (SOCOM), fordert KI-Agenten und Systeme auf Basis großer Sprachmodelle (LLM), die Einflussoperationen in großem Maßstab mit minimaler menschlicher Aufsicht durchführen können.
SOCOM räumt ein, dass die Geschwindigkeit digitaler Informationen schnellere, automatisierte Reaktionen erfordert.
„Ein Programm, das unsere Ziele unterstützt, kann es uns ermöglichen, Narrative zu kontrollieren und Zielgruppen in Echtzeit zu beeinflussen“, heißt es in dem Dokument.
Software könnte Einzelpersonen gezielt ansprechen und abweichende Meinungen unterdrücken
Das Pentagon sieht Systeme vor, die Online-Diskurse verfolgen, abweichende Stimmen identifizieren und mit maßgeschneiderten Botschaften reagieren können.
SOCOM sucht „automatisierte Systeme, die Informationen aus der Online-Umgebung extrahieren, die Lage analysieren und mit Botschaften reagieren, die mit den eigenen Zielen übereinstimmen.“
Propaganda könnte auf jeden Zielpersonen zugeschnitten werden
Das Pentagon hofft, Systeme zu entwickeln, die auf Profile und Netzwerke von Personen oder Gruppen zugreifen und diese analysieren können, die US-Narrative kritisieren.
Das Ziel ist es, gezielte Botschaften zu erstellen, „die in der Lage sind, genau diese Person oder Gruppe zu beeinflussen“, heißt es in dem Dokument.
Simulation und Einsatz KI-gesteuerter Botschaften
SOCOM möchte auch Werkzeuge, die simulieren, wie eine Propagandabotschaft von der Öffentlichkeit aufgenommen werden könnte, bevor sie veröffentlicht wird.
Das Pentagon plant, generative KI-Systeme nicht nur für die Inhaltserstellung, sondern auch für die psychologische Wirkungstests auf verschiedene Zielgruppen zu nutzen.
Pentagon prüft auch Deepfakes für offensive Zwecke
Unter den in der Pentagon-„Wunschliste“ aufgeführten Tools befindet sich Deepfake-Technologie für potenziell offensive Einsätze.
Dazu gehört das Erzeugen gefälschter Bilder oder Videos zur Unterstützung umfassender Einflusskampagnen — eine Taktik, die oft kritisiert wird, wenn sie von anderen Regimen eingesetzt wird.
Kritiker warnen vor ‚repressiver Macht‘ und globaler Wirkung
Ein 2023 von der US-Regierung finanzierter Bericht von Freedom House warnte vor der „repressiven Macht der künstlichen Intelligenz“.
Der Bericht prognostizierte einen Anstieg KI-getriebener Desinformation und äußerte Bedenken, wie autoritäre Regierungen solche Technologien ausnutzen könnten.
Beamte sagen, die USA müssen mit China und Russland konkurrieren
William Marcellino von der RAND Corporation erklärte, solche Maßnahmen seien notwendig, um mit Rivalen mitzuhalten.
„Regime wie in China und Russland betreiben KI-gestützte, groß angelegte bösartige Einflussoperationen“, sagte er. „Um diesen Kampagnen entgegenzuwirken, sind wahrscheinlich KI-Reaktionen in großem Maßstab erforderlich.“
Gesetze verbieten Propaganda im Inland, aber Schlupflöcher bleiben
Obwohl US-Gesetze Propaganda an Amerikaner verbieten, erschwert die anonyme Natur von Online-Plattformen die Durchsetzung.
Ein SOCOM-Sprecher betonte, dass die Programme mit „US-Recht und -Politik“ übereinstimmen und alle Maßnahmen unter den „Responsible AI“-Rahmen des Verteidigungsministeriums fallen.
