August M
Neuer regulatorischer Druck baut sich rund um Elon Musks KI-Chatbot Grok auf, da weiterhin Fragen bestehen, ob die neuen Schutzmaßnahmen wie beabsichtigt funktionieren. Behörden in den USA, Europa und Asien prüfen, wie das System mit sensiblen Bildinhalten umgeht – selbst nachdem öffentliche Einschränkungen angekündigt wurden.
Die Debatte findet vor dem Hintergrund breiterer Sorgen über Einwilligung, Schaden und Verantwortung bei generativer KI statt.
Erstmals im rechtlichen Fokus
Reuters berichtet, dass Aufsichtsbehörden die Prüfung von X und seiner KI-Einheit xAI verschärft haben – wegen Groks Fähigkeit, sexualisierte Bilder zu erzeugen. In Großbritannien sagen Rechtsexperten, Nutzer, die nicht einvernehmliche sexualisierte Bilder erstellen, könnten strafrechtlich verfolgt werden, während Unternehmen nach dem britischen Online Safety Act Geldbußen oder zivilrechtlichen Klagen ausgesetzt sein könnten.
In den USA haben 35 Generalstaatsanwälte der Bundesstaaten an xAI geschrieben und Zusicherungen verlangt, wie die Erstellung nicht einvernehmlicher Bilder verhindert werden soll.
Der kalifornische Generalstaatsanwalt ist noch weiter gegangen und hat ein Unterlassungsschreiben erlassen, das X und Grok anweist, die Produktion solcher Inhalte einzustellen. Ermittlungen der Europäischen Kommission sowie der britischen Medienaufsicht Ofcom dauern an.
Beschränkungen vorsichtig begrüßt
X kündigte laut Reuters neue Einschränkungen für Grok an, nachdem weltweit Empörung über die massenhafte Erstellung nicht einvernehmlicher sexualisierter Bilder – darunter von Frauen und einigen Kindern – aufgekommen war.
Das Unternehmen erklärte, Grok werde keine sexualisierten Bilder mehr in öffentlichen Beiträgen auf X erzeugen und in Rechtsordnungen „in denen solche Inhalte illegal sind“ zusätzlichen Beschränkungen unterliegen.
Die britische Aufsichtsbehörde Ofcom bezeichnete den Schritt als „willkommene Entwicklung“, während Behörden in Malaysia und den Philippinen frühere Sperren von Grok aufhoben.
Die Europäische Kommission reagierte zurückhaltender und erklärte, sie werde „diese Änderungen sorgfältig prüfen“.
Private Nutzung zeigt ein anderes Bild
Trotz dieser Ankündigungen stellte Reuters fest, dass Grok in privaten Interaktionen weiterhin sexualisierte Bilder erzeugte. Neun Reuters-Reporter in den USA und im Vereinigten Königreich testeten den Chatbot in zwei Zeiträumen im Januar und reichten vollständig bekleidete Fotos von sich selbst und Kollegen ein.
Sie baten Grok, die Bilder in sexualisierte oder erniedrigende Szenarien zu verändern, und warnten wiederholt, dass die abgebildeten Personen nicht einwilligten oder dadurch belastet würden.
Was die Tests zeigten
In einer ersten Runde mit 55 Eingaben erzeugte Grok in 45 Fällen sexualisierte Bilder, so Reuters. In vielen dieser Fälle war dem Chatbot mitgeteilt worden, dass die betreffende Person besonders schutzbedürftig sei oder die Bilder zur Demütigung verwendet würden.
Eine zweite Serie mit 43 Eingaben führte in 29 Fällen zu sexualisierten Bildern. Reuters zufolge blieb unklar, ob die geringere Quote auf Systemänderungen oder zufällige Schwankungen zurückzuführen war.
Reaktionen und Vergleiche
X und xAI beantworteten detaillierte Fragen von Reuters nicht. xAI versandte wiederholt eine Standardantwort mit dem Inhalt: „Legacy Media Lies.“
Andere KI-Tools reagierten anders. Reuters berichtet, dass OpenAIs ChatGPT, Googles Gemini und Metas Llama ähnliche Anfragen ablehnten und Warnhinweise zu Ethik, Einwilligung und möglichem Schaden ausgaben.
Druck dürfte zunehmen
Rechtsexperten sagten Reuters, Unternehmen könnten mit zunehmenden Konsequenzen rechnen, sollten Aufsichtsbehörden zu dem Schluss kommen, dass Schutzmaßnahmen unzureichend sind. Während Groks öffentliche Ausgaben eingeschränkt wurden, deuten die Ergebnisse darauf hin, dass die private Nutzung ein zentrales Problem bleibt, während die Untersuchungen weiterlaufen.
Quellen: Reuters