August M
Britische Behörden haben eine formelle Untersuchung gegen den KI-Chatbot Grok von Elon Musk eingeleitet und damit die Möglichkeit aufgeworfen, dass das Tool im gesamten Vereinigten Königreich gesperrt werden könnte. Nach Angaben der Behörden gehen die jüngsten von X vorgenommenen Änderungen nicht weit genug, um Nutzer ausreichend zu schützen.
Der Schritt folgt wachsenden Sorgen über KI-generierte Bilder und Versäumnisse bei der Online-Sicherheit.
Regulierungsbehörde greift ein
Die britische Kommunikationsaufsicht Ofcom bestätigte am Montag, dass sie eine Untersuchung gegen X und dessen KI-Chatbot Grok eingeleitet hat, wie aus einer von TV2 News zitierten Pressemitteilung hervorgeht.
Ofcom teilte mit, man habe X bereits Anfang dieses Monats kontaktiert, um zu erfahren, welche Maßnahmen zum Schutz britischer Nutzer ergriffen worden seien. Obwohl das Unternehmen vor Ablauf einer Frist am vergangenen Freitag geantwortet habe, habe die Aufsichtsbehörde die Erklärung als unzureichend bewertet und die Angelegenheit zu einer formellen Untersuchung ausgeweitet.
Der britische Minister für Technologie und Wirtschaft, Peter Kyle, sagte mehreren britischen Medien, die Untersuchung könne der erste Schritt hin zu einer vollständigen Sperrung von Grok im Vereinigten Königreich sein.
„X tut nicht genug, um die Sicherheit seiner Kunden im Internet zu gewährleisten“, sagte er.
Bedenken wegen Bildmissbrauchs
Die Untersuchung folgt Berichten, wonach Grok zur Erstellung gefälschter Nacktbilder von Erwachsenen sowie sexualisierter Bilder von Kindern genutzt worden sei. TV2 News berichtete zuvor, dass Nutzer Zugang zu einem sogenannten „Spicy Mode“ hatten, der die Erstellung solchen Materials erleichterte.
Ein Opfer, Samantha Smith, sagte am 2. Januar der BBC: „Auch wenn ich es nicht war, die entkleidet wurde, sah es aus wie ich, und es fühlte sich an wie ich – und es war genauso verletzend, als hätte jemand tatsächlich ein Nackt- oder Bikinifoto von mir veröffentlicht.“
X hat inzwischen die Bildgenerierungsfunktionen von Grok eingeschränkt, doch britische Behörden erklären, diese Maßnahmen gingen nicht weit genug.
Frühere Kontroversen
Es ist nicht das erste Mal, dass Grok in die Kritik geraten ist. Im Juli 2025 wurde dem Chatbot vorgeworfen, antisemitische Inhalte erzeugt zu haben, darunter eine Antwort, in der Adolf Hitler genannt wurde, als nach dem Umgang mit Hass gegen Weiße gefragt wurde.
Nach öffentlicher Kritik erklärte X, man habe „Maßnahmen ergriffen“, um Hassrede einzudämmen, und fügte in einem Beitrag hinzu, man arbeite „aktiv daran, die unangemessenen Beiträge zu entfernen“.
Am 4. Januar teilte X auf seiner Plattform mit, man entferne illegale Inhalte, darunter Material über Kindesmissbrauch, sperre entsprechende Konten und kooperiere mit den Behörden.
Politischer Druck
Die britische Technologieministerin Liz Kendall sagte am Freitag der BBC, die mit Grok in Verbindung gebrachten Bilder seien „abscheulich und widerwärtig“, und erklärte, sie erwarte ein rasches Handeln von Ofcom.
„Das Online Safety Act gibt die Befugnis, Dienste im Vereinigten Königreich zu blockieren, wenn sie sich weigern, das britische Recht einzuhalten“, sagte sie und fügte hinzu, die Regierung werde eine solche Entscheidung uneingeschränkt unterstützen.
Malaysia und Indonesien haben Grok bereits gesperrt und dies mit Bedenken wegen missbräuchlicher Inhalte begründet.
Wie es weitergeht
Ofcom wird nun Beweise sammeln, um zu prüfen, ob X gegen britisches Recht verstoßen hat. Sollten Verstöße festgestellt werden und X nicht kooperieren, könnte die Aufsichtsbehörde Geldstrafen verhängen oder den Zugang zu Grok im Vereinigten Königreich sperren.
TV2 News teilte mit, man habe X um eine Stellungnahme gebeten, das Unternehmen habe jedoch nicht reagiert.
Quellen: TV2 News, Ofcom, BBC