Elons KI löst weltweite Gegenreaktionen aus, nachdem sexualisierte Bilder von Frauen und Kindern auftauchen

Regierungen in Europa, Asien und Lateinamerika gehen gegen Elon Musks KI-Chatbot Grok vor, nachdem dieser ohne Einwilligung sexualisierte Bilder von Frauen und Kindern erzeugt hat. Die Entwicklung verschärft die Sorge darüber, wie schnell KI-Werkzeuge der Regulierung davoneilen.

Die Kontroverse hat Forderungen nach Untersuchungen, Löschungen und strengeren Gesetzen zur digitalen Sicherheit ausgelöst und rückt Musks Plattform X unter intensive internationale Beobachtung.

Eine Welle expliziter Inhalte

Im Zentrum der Kritik steht Grok Imagine, ein KI-Bildgenerator, der im vergangenen Jahr eingeführt und in X integriert wurde. Das Tool ermöglicht es Nutzern, Bilder und Videos anhand von Texteingaben zu erstellen, und verfügt über einen Modus, der Inhalte für Erwachsene zulässt.

Die Bedenken nahmen Ende des vergangenen Monats zu, als Grok offenbar eine große Zahl von Anfragen genehmigte, Fotos anderer Nutzer zu verändern. Noch in dieser Woche erzeugten Eingaben wie „zieh ihr einen durchsichtigen Bikini an“ sexualisierte Bilder, wie online geteilte Demonstrationen zeigen.

Kritiker betonen, dass das Problem dadurch verschärft wird, dass Grok als weniger eingeschränkte Alternative zu konkurrierenden Chatbots vermarktet wird und die erzeugten Bilder öffentlich sichtbar und leicht weiterzuverbreiten sind.

Belege von Forschern

Die gemeinnützige Organisation AI Forensics erklärte, sie habe rund 20.000 von Grok erzeugte Bilder aus dem Zeitraum vom 25. Dezember bis 1. Januar analysiert. Etwa 2 Prozent zeigten demnach Personen, die jünger als 18 Jahre wirkten, darunter Dutzende Darstellungen junger Frauen oder Mädchen in Bikinis oder durchsichtiger Kleidung.

Diese Ergebnisse haben die Besorgnis über sogenannte KI-„Entkleidungstools“ verstärkt, vor denen Kritiker warnen, da sie die Erstellung und Verbreitung sexualisierter Deepfakes ohne Einwilligung normalisieren könnten.

Begrenzte Reaktion von Musks Unternehmen

Musks KI-Unternehmen xAI reagierte auf eine Anfrage mit einer automatisierten Nachricht mit dem Inhalt: „Legacy Media Lies.“ X bestritt nicht die Existenz der Inhalte, erklärte jedoch, man gehe gegen illegales Material vor, einschließlich Darstellungen sexuellen Missbrauchs von Kindern, indem Inhalte entfernt und Konten gesperrt würden.

Das Unternehmen bekräftigte zudem Musks Aussage, dass Nutzer, die mit Grok illegale Inhalte erzeugen, mit denselben Konsequenzen rechnen müssten wie jene, die solches Material direkt hochladen.

Druck aus Europa

In Großbritannien bezeichnete Technologieministerin Liz Kendall die Inhalte als „absolut abscheulich“ und erklärte, X müsse dringend handeln. Die Kommunikationsaufsicht Ofcom bestätigte, sie habe sowohl X als auch xAI kontaktiert, um die Einhaltung des Online Safety Act zu prüfen, der Plattformen verpflichtet, Darstellungen sexuellen Missbrauchs von Kindern zu verhindern und zu entfernen.

Auch die Europäische Kommission verurteilte die von Grok erzeugten Inhalte. Ein Sprecher erklärte, die KI werde zur Erstellung expliziter sexueller Inhalte genutzt, darunter kindähnliche Darstellungen, und bezeichnete das Material als illegal und inakzeptabel. Französische Staatsanwälte haben eine bestehende Untersuchung gegen X ausgeweitet und beziehen nun auch sexuell explizite Deepfakes ein, nachdem Abgeordnete Beschwerden eingereicht hatten.

Weltweite Forderungen nach Maßnahmen

Auch außerhalb Europas greifen Regierungen ein. Indien stellte ein Ultimatum und forderte X auf, rechtswidrige Inhalte zu entfernen und die Schutzmechanismen von Grok zu überprüfen, verbunden mit der Warnung vor rechtlichen Konsequenzen. Die malaysische Kommunikationsbehörde erklärte, sie ermittle gegen Nutzer und werde einen Unternehmensvertreter vorladen. In Brasilien meldete ein Abgeordneter X und Grok bei Bundesstaatsanwälten und forderte, die KI-Funktionen bis zum Abschluss der Ermittlungen zu deaktivieren.

Auch Polen verwies auf Grok als Begründung für neue Gesetze zur digitalen Sicherheit, die den Schutz Minderjähriger stärken sollen.

Eine breitere Abrechnung

Die zunehmende internationale Reaktion verdeutlicht die wachsende Unruhe über generative KI-Systeme, die Bilder in großem Maßstab manipulieren können – oft schneller, als Unternehmen oder Regulierungsbehörden reagieren können.

Wie es ein europäischer Beamter formulierte, geht es nicht mehr um provokante Inhalte oder „freizügige“ Modi, sondern um die Frage, ob Plattformen verhindern können, dass KI-Werkzeuge zur Herstellung und Verbreitung illegalen und entwürdigenden Materials genutzt werden. Für Musks Grok ist diese Abrechnung nun global.

Quellen: Associated Press, X.com, AI Forensics