August M
Die Sorgen über künstliche Intelligenz und Online-Schäden nehmen in ganz Asien zu, da Regierungen abwägen, wie weit sie bei der Regulierung mächtiger neuer Technologien gehen sollen. Jüngste Schritte zweier Länder haben den Fokus auf die Technologie von Elon Musk und ihre globalen Auswirkungen gelenkt.
Der Druck wächst auch andernorts, da Regulierungsbehörden und politische Entscheidungsträger die Entwicklungen genau beobachten.
Zugang gesperrt
Nach Angaben der BBC haben Malaysia und Indonesien den Zugang zu Grok, dem KI-Chatbot der mit Musks Social-Media-Plattform X verbunden ist, blockiert. Die beiden südostasiatischen Länder erklärten, das Tool sei zur Erstellung sexuell expliziter und nicht einvernehmlicher Deepfake-Bilder verwendet worden.
Beamte sagten, Grok ermögliche es Nutzerinnen und Nutzern, Fotos realer Personen zu manipulieren, unter anderem indem diese in freizügiger Kleidung dargestellt würden.
Beide Regierungen warnten, dass die Technologie missbraucht werden könne, um pornografische Inhalte mit Frauen und Kindern zu erstellen.
Es wird angenommen, dass es sich um die ersten Länder weltweit handelt, die den KI-Chatbot vollständig verboten haben.
Bedenken der Aufsichtsbehörden
Die malaysische Kommunikations- und Multimedia-Kommission erklärte, sie habe zuvor Mitteilungen an X herausgegeben, nachdem eine „wiederholte missbräuchliche Nutzung“ von Grok festgestellt worden sei. Die Reaktion der Plattform habe es versäumt, die zentralen Risiken anzugehen, die sich aus dem Design von Grok ergäben.
Stattdessen habe sich X vor allem auf Mechanismen zur Meldung durch Nutzer konzentriert, was Malaysia als unzureichend bezeichnete.
Die Kommission erklärte, Grok werde so lange gesperrt bleiben, bis wirksame Schutzmaßnahmen eingeführt seien, und rief die Öffentlichkeit dazu auf, schädliche Online-Inhalte zu melden.
Indonesien reagiert
Indonesiens Ministerin für Kommunikation und digitale Angelegenheiten, Meutya Hafid, sagte, der Einsatz von Grok zur Erstellung sexuell expliziten Materials verstoße gegen „Menschenrechte, Würde und Online-Sicherheit“.
Das Ministerium habe X um eine Klarstellung gebeten, wie Grok genutzt werde. Indonesien ist für ein striktes Vorgehen gegen Online-Pornografie bekannt und hat in der Vergangenheit unter anderem Websites wie OnlyFans und Pornhub gesperrt.
Einige indonesische X-Nutzerinnen und -Nutzer, deren Bilder manipuliert wurden, sagten, sie hätten sich wütend und gedemütigt gefühlt.
Betroffene melden sich zu Wort
Kirana Ayuningtyas, eine Rollstuhlfahrerin, die Beiträge über ihren Alltag teilt, sagte der BBC, jemand habe Grok angewiesen, ihr Foto so zu bearbeiten, dass sie in einem Bikini zu sehen sei.
Sie erklärte, sie habe ihre Privatsphäre-Einstellungen geändert und die Plattform kontaktiert, um das Bild entfernen zu lassen. „Leider hat nichts davon wirklich funktioniert“, sagte sie und fügte hinzu, es sei belastend gewesen, nicht zu wissen, ob die Bilder weiterhin verbreitet würden.
Zunehmender internationaler Druck
Die BBC berichtete, dass Groks Nutzung zur Erstellung sexualisierter Bilder weltweit auf scharfe Kritik von Führungspersönlichkeiten gestoßen sei. Der britische Premierminister Sir Keir Starmer bezeichnete die Praxis als „beschämend“ und „ekelhaft“.
Technologieministerin Liz Kendall sagte, sie würde die Regulierungsbehörde Ofcom unterstützen, falls diese beschließen sollte, den Zugang zu X im Vereinigten Königreich wegen Verstößen gegen Online-Sicherheitsgesetze zu sperren. Musk hat der britischen Regierung vorgeworfen, die Meinungsfreiheit unterdrücken zu wollen.
Die BBC teilte mit, sie habe Grok um eine Stellungnahme gebeten.
Quelle: BBC