August M
Elon Musks soziale Medienplattform X hat Schritte unternommen, die Bildbearbeitungsfunktionen ihres KI-Tools Grok einzuschränken, nachdem es breite Kritik an dessen Nutzung zur Erstellung sexualisierter Deepfakes gegeben hatte. Die Änderung folgt auf Tage zunehmenden Drucks von Aktivisten, Experten und der britischen Regierung.
Der Schritt hat wenig dazu beigetragen, die Sorgen der Kritiker zu zerstreuen, die sagen, der Schaden sei bereits angerichtet und es fehlten weiterhin umfassendere Schutzmaßnahmen.
Zugang eingeschränkt
Nach Angaben der BBC informiert Grok Nutzer inzwischen darüber, dass die Bildgenerierung und -bearbeitung auf X nun auf zahlende Abonnenten beschränkt ist.
Das bedeutet, dass nur Nutzer mit verifizierten Konten, deren Namen und Zahlungsdaten der Plattform vorliegen, Zugriff auf diese Funktion haben.
Nicht zahlende Nutzer können Groks Bildwerkzeuge weiterhin über die separate App und Website nutzen. X hat die Entscheidung bislang nicht öffentlich erläutert; die BBC teilte mit, sie habe das Unternehmen um eine Stellungnahme gebeten.
Die Änderung folgt auf heftige Kritik, nachdem Grok Anfragen nachgekommen war, Menschen auf Bildern ohne deren Einwilligung digital zu entkleiden.
Strafrechtliche Bedenken
Die Wohltätigkeitsorganisation hatte zuvor erklärt, ihre Analysten hätten „kriminelles Bildmaterial“ von Mädchen im Alter zwischen 11 und 13 Jahren gefunden, das „offenbar mithilfe von Grok erstellt worden“ sei.
„Abzuwarten und zuzusehen, wie unsichere Produkte missbraucht werden, bevor man handelt, ist inakzeptabel“, sagte Swirsky.
Frauen, die von dem Tool betroffen waren, beschrieben, sie hätten sich „gedemütigt“ und „entmenschlicht“ gefühlt, nachdem Grok ihre Bilder so verändert hatte, dass sie sie in minimaler Kleidung zeigten.
Kritiker nicht überzeugt
„Musk hat aus Protest dagegen, zur Rechenschaft gezogen zu werden, einen Wutanfall bekommen angesichts der Flut von Missbrauch“, sagte Professorin Clare McGlynn, Expertin für die rechtliche Regulierung von Pornografie, sexueller Gewalt und Online-Missbrauch.
„Anstatt verantwortungsvolle Schritte zu unternehmen, um sicherzustellen, dass Grok nicht für missbräuchliche Zwecke genutzt werden kann, wurde der Zugang für die große Mehrheit der Nutzer entzogen“, fügte sie hinzu.
Hannah Swirsky, Leiterin der Abteilung Politik bei der Internet Watch Foundation, sagte, der Schritt „mache den bereits entstandenen Schaden nicht rückgängig“.
Politischer Druck
Die Kontroverse hat eine deutliche Reaktion der britischen Regierung ausgelöst. Premierminister Sir Keir Starmer bezeichnete die Erstellung sexualisierter KI-Bilder als „beschämend“ und „widerlich“.
„Es ist rechtswidrig. Wir werden das nicht tolerieren. Ich habe darum gebeten, alle Optionen auf den Tisch zu legen“, sagte er dem Sender Greatest Hits Radio.
Minister forderten die Regulierungsbehörde Ofcom auf, alle verfügbaren Befugnisse aus dem Online Safety Act zu nutzen, einschließlich der Beantragung gerichtlicher Anordnungen, die X in seiner Tätigkeit im Vereinigten Königreich einschränken könnten. Die BBC teilte mit, sie habe Ofcom um eine Stellungnahme gebeten.
Forderungen nach Neugestaltung
Dr. Daisy Dixon, eine X-Nutzerin, die angab, Grok sei benutzt worden, um sie zu entkleiden, begrüßte die Einschränkung, sagte jedoch, sie fühle sich „wie ein Pflaster“.
„Grok muss vollständig neu gestaltet werden und fest eingebaute ethische Leitplanken erhalten, damit so etwas nie wieder passiert“, sagte sie der BBC.
Professorin McGlynn erklärte, ähnliche Schritte seien im vergangenen Jahr unternommen worden, als X die Suche nach pornografischen Deepfakes von Taylor Swift eingeschränkt habe. Sie fügte hinzu: „Alles, was die Regulierung verlangt, ist, dass er die notwendigen Vorsichtsmaßnahmen ergreift, um Schaden zu verringern.“
Quellen: BBC