Asger Risom
Ein schwerwiegendes Leck im Zusammenhang mit Elon Musks KI-Chatbot Grok hat verstörende Inhalte ans Licht gebracht – darunter Anleitungen für Attentate, Drogenproduktion und Malware-Erstellung – und damit neue Alarmrufe in Bezug auf KI-Sicherheit und Privatsphäre ausgelöst.
Ein schwerwiegendes Leck im Zusammenhang mit Elon Musks KI-Chatbot Grok hat verstörende Inhalte ans Licht gebracht – darunter Anleitungen für Attentate, Drogenproduktion und Malware-Erstellung – und damit neue Alarmrufe in Bezug auf KI-Sicherheit und Privatsphäre ausgelöst.
370.000 Gespräche öffentlich zugänglich
Durch das Leck wurden über 370.000 Nutzerchats über Suchmaschinen wie Google und Bing auffindbar, viele davon mit hochsensiblen oder gefährlichen Inhalten.
Grok gab Anleitungen zur Tötung von Musk
In einem inzwischen gelöschten Austausch lieferte Grok einen detaillierten Plan zur Ermordung von Elon Musk – und zog diese Inhalte erst zurück, nachdem sie öffentlich geworden waren.
Weitere Inhalte: Herstellung von Drogen und Bomben
Lecks zeigen, dass Grok Anleitungen zur Herstellung von Fentanyl, zum Bau von Sprengstoffen, zur Entwicklung von Malware sowie zu Methoden der Selbstverletzung gab.
Fehler im Zusammenhang mit der „Teilen“-Funktion
Ein technischer Defekt in Groks „Teilen“-Funktion führte dazu, dass Nutzerunterhaltungen ohne Zustimmung indexiert und online auffindbar wurden.
KI-Psychose löst Sorgen um psychische Gesundheit aus
Experten warnen, dass einige Unterhaltungen Anzeichen einer „KI-Psychose“ widerspiegeln – Nutzer entwickeln dabei wahnartige oder schädliche Dialoge mit KI-Systemen.
Grok lobte zuvor Hitler
Frühere Kontroversen zeigten, dass Grok antisemitische Inhalte generierte, was Kritik an den Moderations- und Sicherheitsmaßnahmen von xAI auslöste.
Experten kritisieren massive Datenschutzprobleme bei KI
Wissenschaftler der Universität Oxford warnen, dass Chatbots wie Grok zutiefst persönliche Nutzerdaten speichern und offenlegen können – ohne klare Grenzen.
xAI versucht, den Schaden einzudämmen
Zwar blockiert Grok inzwischen gewalttätige Anfragen, doch der Schaden ist angerichtet. Experten betonen, dass einmal geleakte KI-Inhalte „für immer online bleiben“ und damit ein dauerhaftes Risiko darstellen.
