OpenAI blockiert russische Konten im Zusammenhang mit Propagandakampagne

Während Unternehmen diese Systeme als Werkzeuge für Forschung, Kreativität und Kommunikation bewerben, werden sie zugleich auf möglichen Missbrauch überwacht.

Ein neuer Bericht von OpenAI zeigt, wie einige Akteure versucht haben, KI-Systeme zu nutzen, um große Mengen politischer Inhalte im Internet zu erzeugen.

Angebliche Propagandanetzwerke

OpenAI erklärte in einem Bericht mit dem Titel Disrupting Malicious Uses of Our Models, dass mit dem Kreml verbundene Akteure ChatGPT und andere Tools genutzt hätten, um große Mengen an Inhalten für Einflusskampagnen zu produzieren.

Laut dem Bericht war eine der Operationen mit dem russischen Netzwerk Rybar verbunden, das einen großen Telegram-Kanal betreibt und auch Konten auf anderen Plattformen unterhält.

OpenAI-Forscher erklärten, dass Nutzer mithilfe von ChatGPT Artikel, Beiträge in sozialen Netzwerken und Kommentare erstellt hätten. Einige Inhalte wurden auf Englisch und Spanisch verfasst, obwohl die Eingaben auf Russisch erfolgten.

Zu den Narrativen der Kampagne gehörten Lob für Russland und seine Verbündeten, Kritik an der Ukraine sowie Vorwürfe westlicher Einmischung.

Einflusskampagnen

OpenAI erklärte, dass die Operation Beiträge sowohl für russische als auch für internationale Zielgruppen produziert habe.

Ein im Bericht genanntes Beispiel betrifft einen Artikel, in dem Deutschland beschuldigt wird, ein Einflussnetzwerk in Moldau aufzubauen. In einem anderen Fall baten Nutzer ChatGPT, Kommentare zu diesem Artikel zu erstellen.

Der Bericht beschreibt außerdem einen separaten Vorschlag für wahlbezogene Aktivitäten in mehreren afrikanischen Ländern.

Diese Pläne umfassten Berichten zufolge sowohl Online-Kampagnen als auch Offline-Aktivitäten, etwa den Aufbau lokaler Unterstützernetzwerke und die Organisation öffentlicher Veranstaltungen.

Aktivität in Afrika

Eine weitere im Bericht identifizierte Operation betraf Konten, die längere geopolitische Inhalte mit Schwerpunkt auf Afrika südlich der Sahara erzeugten.

Ein Teil dieses Materials erschien auf Facebook-Seiten, die sich als Nachrichtenmedien ausgaben, unter anderem in Südafrika, Ghana, Kenia und Angola.

Die Artikel lobten häufig Russland und kritisierten zugleich die Ukraine, die Vereinigten Staaten und das Vereinigte Königreich.

Laut OpenAI richteten sich einige Beiträge auch gegen einzelne Politiker, darunter den ukrainischen Präsidenten Wolodymyr Selenskyj und den US-Präsidenten Donald Trump.

Falsche Identitäten

Der Bericht stellt fest, dass viele der Artikel unter den Namen fiktiver Autoren veröffentlicht wurden.

OpenAI-Forscher erklärten, sie hätten jeden aufgeführten Autor überprüft und keine Hinweise darauf gefunden, dass diese Personen tatsächlich existieren.

Das Unternehmen teilte mit, dass es die an den Aktivitäten beteiligten Konten nach der Identifizierung der Operationen blockiert habe.

Quellen: OpenAI; United24Media.