EU geht gegen KI-„Nacktgeneratoren“ vor – große Maßnahmen nach globaler Empörung

Europäische Gesetzgeber treiben neue Beschränkungen für KI-Tools voran, da die Sorge über Missbrauch zunimmt.

Der Schritt folgt wachsender Empörung über explizite Bilder, die ohne Zustimmung erstellt wurden.

Der Vorschlag richtet sich gegen einen umstrittenen Bereich der KI-Entwicklung, der in mehreren Ländern Besorgnis ausgelöst hat.

Gesetzgeber handeln

Laut AFP haben Mitglieder des Ausschusses für bürgerliche Freiheiten des Europäischen Parlaments Pläne gebilligt, KI-Systeme zu verbieten, die sexualisierte Deepfakes erzeugen.

Die Maßnahme zielt insbesondere auf sogenannte „Nudification“-Apps ab, die gefälschte explizite Bilder von Personen ohne deren Zustimmung erstellen können.

Eine endgültige Abstimmung im Europäischen Parlament ist für den 26. März angesetzt.

Wachsende Besorgnis

Der Vorstoß folgt auf weltweite Kritik an nicht einvernehmlichen Bildern im Zusammenhang mit Elon Musks Chatbot Grok.

Gesetzgeber argumentieren, dass solche Tools bereits Schaden verursacht haben, insbesondere für Frauen und Minderjährige.

„Das ist ein großer Erfolg, besonders für Frauen und Kinder in Europa“, sagte Kim van Sparrentak von den Grünen und warnte vor den emotionalen Auswirkungen auf die Opfer.

Forderungen nach Schutzmaßnahmen

Der irische Abgeordnete Michael McNamara, der die Arbeit an der Gesetzgebung leitet, erklärte, das Ziel sei es, schädliche, gewinnorientierte Anwendungen zu beseitigen.

Er bezeichnete die betroffenen Tools als „Nudification-Apps ohne Zustimmung, die viel Leid für den Profit einiger verursacht haben“.

Der Vorschlag baut auf breiteren Bemühungen auf, die EU-Regeln für künstliche Intelligenz zu verschärfen.

Reaktion der Plattformen

Auch Technologieunternehmen stehen unter Druck zu reagieren. Im Januar erklärte X, man habe „null Toleranz“ gegenüber sexualisierten Deepfakes, die Frauen und Kinder betreffen.

Die Plattform, auf der Grok verfügbar ist, kündigte neue Maßnahmen zur Verhinderung solcher Inhalte an.

Unterdessen hat die Europäische Kommission eine Untersuchung gegen den Chatbot im Rahmen der digitalen Vorschriften der EU eingeleitet.

Quellen: AFP, The News International