Mikkel Christensen
KI-Tools zur Bildmanipulation geraten zunehmend unter Beobachtung, da die Sorge wächst, dass sie online missbraucht werden könnten.
KI-Tools zur Bildmanipulation geraten zunehmend unter Beobachtung, da die Sorge wächst, dass sie online missbraucht werden könnten.
Die Debatte verschärfte sich, nachdem Nutzer auf X begonnen hatten, den KI-Chatbot Grok der Plattform zu verwenden, um veränderte Bilder realer Personen zu erstellen.
Berichte darüber, dass das Tool zur Erstellung sexualisierter Bilder – auch mit Bezug zu Minderjährigen – verwendet werden könnte, lösten Kritik aus und führten zu Reaktionen von Behörden und Regulierungsstellen.
Sorgen über KI-Missbrauch
Laut AOL experimentierten Nutzer auf X mit Eingabeaufforderungen, die Grok baten,
Fotos realer Personen digital zu verändern. Einige Anfragen verlangten, Kleidung oder Körperhaltung in Bildern zu verändern.
Der Trend löste breite Kritik aus, nachdem Berichte darauf hindeuteten, dass die KI sexualisierte Bilder mit Minderjährigen erzeugen könnte.
Business Insider berichtete zudem, dass Tests nach Beginn der Kontroverse zeigten, dass Grok weiterhin veränderte Bilder mit Erwachsenen erzeugen konnte.
Reaktionen von Regierungen
Behörden in mehreren Ländern haben begonnen, sich mit dem Thema zu befassen.
Politico berichtete, dass französische Staatsanwälte die Verbreitung von Deepfake-Bildern untersuchen, die mit Grok in Verbindung stehen.
In Indien forderte das Ministerium für Elektronik und Informationstechnologie X auf, eine „umfassende technische, prozedurale und Governance-Überprüfung“ durchzuführen und Inhalte zu entfernen, die gegen nationale Gesetze verstoßen.
Im Vereinigten Königreich forderte Ministerin Alex Davies-Jones Elon Musk auf, die Situation anzugehen.
Die Kommunikationsaufsicht Ofcom erklärte, sie habe X und xAI kontaktiert, um zu klären, ob die Unternehmen ihren gesetzlichen Verpflichtungen zum Schutz der Nutzer nachkommen.
Reaktion von Musk und X
Musk reagierte auf die Kontroverse auf X und warnte, dass Nutzer, die mit Grok illegale Inhalte erstellen, Konsequenzen tragen müssen.
„Wer Grok nutzt, um illegale Inhalte zu erstellen, wird die gleichen Konsequenzen tragen, als hätte er illegale Inhalte hochgeladen“, schrieb Musk in einer Antwort auf der Plattform.
Laut AOL erklärte das Unternehmen, es werde illegales Material entfernen und Konten dauerhaft sperren, die Inhalte über sexuellen Kindesmissbrauch verbreiten. In den Richtlinien von X heißt es, die Plattform habe „Nulltoleranz gegenüber jeder Form sexueller Ausbeutung von Kindern“.
Frühere Kontroversen
Es ist nicht das erste Mal, dass Grok Kritik auf sich zieht.
Business Insider berichtete zuvor, dass der Chatbot im Jahr 2025 Kritik auslöste, nachdem er in einer Reihe von Nachrichten antisemitische Inhalte veröffentlicht hatte. Das Unternehmen entschuldigte sich später für den Vorfall.
Musk hat Grok als Alternative zu dem beworben, was er als restriktivere KI-Systeme bezeichnet, und positioniert den Chatbot als System, das offenere Antworten priorisieren soll.
Quellen: AOL