Nutzung von ChatGPT durch chinesischen Beamten enthüllt mutmaßliche globale Einschüchterungskampagne

Die Nutzung von ChatGPT als eine Art digitales Tagebuch durch einen chinesischen Strafverfolgungsbeamten hat laut einem neuen Bericht von OpenAI unbeabsichtigt Details einer weitreichenden Einfluss- und Einschüchterungsoperation gegen chinesische Dissidenten im Ausland offengelegt.

Dem Bericht zufolge dokumentierte der Beamte Aspekte einer verdeckten Kampagne, die unter anderem das Vortäuschen der Identität von US-Einwanderungsbehörden sowie die Verwendung gefälschter juristischer Dokumente umfasste, um Kritiker der chinesischen Regierung im Ausland zum Schweigen zu bringen.

Vortäuschung amerikanischer Behörden und gefälschte Gerichtsdokumente

Laut OpenAI beschrieb der ChatGPT-Nutzer Operationen, bei denen chinesische Akteure angeblich als US-Einwanderungsbeamte auftraten, um einen in den USA ansässigen chinesischen Dissidenten davor zu warnen, seine öffentlichen Äußerungen hätten gegen amerikanisches Recht verstoßen.

In einem weiteren Fall schilderte der Nutzer den Versuch, gefälschte Dokumente eines US-County-Gerichts zu erstellen, um das Social-Media-Konto eines Dissidenten entfernen zu lassen.

OpenAI erklärte, das umfassendere Netzwerk habe offenbar Hunderte von Akteuren und Tausende gefälschte Social-Media-Konten auf mehreren Plattformen umfasst.

„So sieht moderne chinesische transnationale Repression aus“, sagte Ben Nimmo, leitender Ermittler bei OpenAI, vor der Veröffentlichung des Berichts. „Es ist nicht nur digital. Es geht nicht nur um Trolling. Es ist industrialisiert. Es geht darum, Kritiker der KPCh mit allem, überall und gleichzeitig anzugreifen.“

CNN bat die chinesische Botschaft in Washington, D.C., um eine Stellungnahme.

ChatGPT als operatives Protokoll

OpenAI zufolge nutzte der Beamte ChatGPT, um die Aktivitäten des verdeckten Netzwerks zu protokollieren und zu organisieren. Ein Großteil der mit der Kampagne verbundenen Inhalte wurde mit anderen Tools erstellt und über Social-Media-Konten sowie Websites verbreitet.

Nach Identifizierung der Aktivitäten sperrte OpenAI das Konto.

Ermittler konnten Beschreibungen aus den ChatGPT-Protokollen mit realen Online-Aktivitäten in Verbindung bringen. In einem Fall beschrieb der Nutzer die Fälschung eines Nachrufs und von Grabsteinbildern, um den Tod eines chinesischen Dissidenten vorzutäuschen. Falsche Gerüchte über dessen Tod tauchten 2023 online auf, wie ein chinesischsprachiger Bericht von Voice of America berichtet.

In einem weiteren Fall bat der Nutzer ChatGPT, einen Plan zur Diffamierung der designierten japanischen Premierministerin Sanae Takaichi zu entwerfen, indem Empörung über US-Zölle auf japanische Waren verstärkt werden sollte. ChatGPT verweigerte dies laut OpenAI. Ähnliche Hashtags, die Takaichi angriffen, erschienen jedoch später in einem populären japanischen Online-Forum.

KI-Rivalität und geopolitische Dimension

Die Erkenntnisse kommen zu einem Zeitpunkt zunehmender Spannungen zwischen den Vereinigten Staaten und China im Bereich der künstlichen Intelligenz.

Gleichzeitig befindet sich das Pentagon Berichten zufolge in einem Konflikt mit dem KI-Unternehmen Anthropic über in dessen Modell integrierte Schutzmechanismen. Verteidigungsminister Pete Hegseth hat Anthropic-CEO Dario Amodei eine Frist gesetzt, die Schutzmaßnahmen anzupassen, andernfalls drohe der Verlust eines Vertrags mit dem Verteidigungsministerium.

Michael Horowitz, ein ehemaliger Pentagon-Beamter mit Schwerpunkt auf aufkommenden Technologien, sagte, der OpenAI-Bericht „zeigt klar, wie China aktiv KI-Tools einsetzt, um Informationsoperationen zu verstärken“.

„Der KI-Wettbewerb zwischen den USA und China verschärft sich weiter“, sagte Horowitz, inzwischen Professor an der University of Pennsylvania. „Dieser Wettbewerb findet nicht nur an der technologischen Spitze statt, sondern auch darin, wie Chinas Regierung die alltägliche Arbeit ihres Überwachungs- und Informationsapparats plant und umsetzt.“

Quellen: CNN; OpenAI-Bericht; VOAChinese