August M
Die Sorgen über künstliche Intelligenz und Online-Sicherheit haben sich verschärft, nachdem Berichte bekannt wurden, wonach ein weit verbreiteter Chatbot manipulierte Bilder der Princess of Wales erzeugt hat. Der Vorfall hat eine regulatorische Prüfung ausgelöst und die Debatte über den Missbrauch von KI-Technologie neu entfacht.
Der Fall hat sowohl in der Öffentlichkeit als auch bei Amtsträgern starke Reaktionen ausgelöst.
Erzeugte Bilder
Nach Angaben der Express gehört Catherine, Princess of Wales, zu einer großen Zahl von Frauen, deren Bilder vom KI-Chatbot Grok, der in die Social-Media-Plattform X integriert ist, digital manipuliert wurden.
Das Tool erzeugte demnach realistisch wirkende Bilder, die die Prinzessin in knapper Kleidung, darunter Bikinis, zu zeigen schienen, indem öffentlich zugängliche Fotos bearbeitet wurden.
Berichten zufolge waren Tausende von Frauen und Kindern in ähnlicher Weise betroffen. Die Bilder wurden ohne Einwilligung verändert und in einigen Fällen in sexualisierte Szenarien eingebettet.
Regulierungsbehörde greift ein
Ofcom, die britische Kommunikationsaufsicht, erklärte, sie habe „dringenden Kontakt“ mit X und dessen KI-Sparte xAI aufgenommen, um zu prüfen, ob die Plattform die Online-Sicherheitsgesetze einhält.
„Die Bekämpfung illegaler Online-Schäden und der Schutz von Kindern bleiben dringende Prioritäten für Ofcom“, sagte ein Sprecher.
„Uns sind ernsthafte Bedenken hinsichtlich einer Funktion von Grok auf X bekannt, die entkleidete Darstellungen von Personen und sexualisierte Bilder von Kindern erzeugt.“
Die Behörde kündigte an, nach Eingang einer Stellungnahme des Unternehmens eine zügige Bewertung vorzunehmen.
Reaktion der Plattform
Am Sonntag veröffentlichte X eine Warnung, in der Nutzer aufgefordert wurden, Grok nicht zur Erstellung illegaler Inhalte zu verwenden. Elon Musk erklärte zudem, jeder, der den Chatbot zur Erzeugung illegalen Materials auffordere, werde „die gleichen Konsequenzen tragen“, als hätte er diese Inhalte selbst hochgeladen.
Die Nutzungsrichtlinien von Grok untersagen es, „Abbilder von Personen in pornografischer Weise darzustellen“.
Der Kensington-Palast lehnte eine Stellungnahme zu den Berichten ab.
Öffentliche Reaktionen
Die Bilder lösten im Internet Empörung aus. Ein Nutzer schrieb: „So widerlich. Die arme Catherine hat jahrzehntelang verschiedene Formen von Verletzungen ihrer Privatsphäre ertragen müssen.“
Ein anderer kommentierte: „Widerlich – für jede Frau oder jedes Kind.“ Ein dritter fügte hinzu: „KI muss verboten werden, das ist völlig außer Kontrolle geraten und wird immer realistischer.“
Aktivisten sagen, der Fall verdeutliche, wie schnell KI-Tools missbraucht werden können und wie schwierig es sei, solche Inhalte zu kontrollieren.
Frühere Vorfälle
Es ist nicht das erste Mal, dass Bilder von Catherine ohne ihre Zustimmung veröffentlicht wurden. 2012 druckte das französische Magazin Closer Teleobjektiv-Aufnahmen, die sie oben ohne beim Sonnenbaden auf privatem Gelände zeigten.
Der Prinz und die Prinzessin von Wales erhielten später Schadensersatz in Höhe von 100.000 Euro. Zuletzt setzten sie sich auch juristisch gegen Paris Match wegen nicht genehmigter Fotos eines Familien-Skiurlaubs durch.
Quellen: Express, Ofcom