Der ethische Kampf hinter dem Wettlauf um intelligentere KI

Künstliche Intelligenz wartet längst nicht mehr im Forschungslabor. Sie ist bereits in Suchmaschinen, Schreibprogrammen, Klassenzimmern, Kundendienstsystemen und Arbeitswerkzeugen angekommen.

Diese Verbreitung hat aus einem technischen Wettlauf einen öffentlichen Machtkampf gemacht. Die entscheidende Frage ist nicht mehr nur, ob KI richtige Antworten geben kann. Es geht darum, ob private Systeme das öffentliche Leben prägen dürfen, bevor Wähler, Regulierungsbehörden und gewöhnliche Nutzer die Bedingungen überhaupt verstehen.

The Guardian hat dieses Dilemma anhand von Iason Gabriel untersucht, einem politischen Philosophen bei Google DeepMind. Seine Arbeit befasst sich mit der Frage, wie Werte, Recht, Sicherheit und gesellschaftliches Vertrauen auf immer leistungsfähigere KI-Systeme angewendet werden sollten.

Macht steht jetzt im Mittelpunkt

Gabriel kam 2017 nach seiner Tätigkeit an der University of Oxford und in internationalen Entwicklungsprojekten zu DeepMind, schreibt The Guardian.

Damals war das Unternehmen bereits durch AlphaGo bekannt, das System, das 2016 den Go-Weltklassespieler Lee Sedol besiegte.

Das größere Ziel von DeepMind war jedoch die künstliche allgemeine Intelligenz (Artificial General Intelligence, AGI) – Software, die zahlreiche intellektuelle Aufgaben auf menschlichem Niveau oder darüber hinaus bewältigen kann. Dieses Ziel machte Ethik zu weit mehr als einer Frage der Öffentlichkeitsarbeit.

Shane Legg, einer der Mitgründer von DeepMind, sagte der Zeitung:

„Wenn man irgendein kleines Produkt entwickelt, das die Welt vermutlich nicht verändern wird, braucht man vielleicht keinen Moralphilosophen. Aber wenn man AGI ernst nimmt, kann ich mir kaum vorstellen, wie man diese Art von Fragen nicht für wichtig halten könnte.“

Die eigentliche Schwierigkeit besteht darin, dass KI-Systeme nicht in eine neutrale Welt eingeführt werden. Sie treffen auf Gesellschaften, die durch Wohlstand, Politik, Religion, Recht und Kultur geprägt und gespalten sind. Eine Regel, die für die eine Gruppe vernünftig erscheint, kann für eine andere als übergriffig oder ungerecht wirken.

Alignment ist ein politischer Konflikt

KI-Forscher verwenden häufig den Begriff Alignment, um zu beschreiben, dass Systeme menschlichen Absichten folgen sollen. In einfachen Fällen kann das Problem darin bestehen, dass eine Maschine eine Regelungslücke ausnutzt. Im öffentlichen Leben wird die Frage jedoch deutlich komplexer.

Ein Bewerbungssystem kann Effizienz belohnen und gleichzeitig bestehende Vorurteile verstärken. Ein Chatbot kann hilfreich wirken und gleichzeitig falsche Überzeugungen eines Nutzers bestärken. Ein Schulwerkzeug kann personalisiertes Lernen versprechen und dabei sensible Daten von Kindern sammeln.

Gabriels Argument lautet laut der britischen Zeitung, dass sich Alignment nicht allein durch besseren Programmcode lösen lässt. Bevor ein System Werten folgen kann, muss zunächst entschieden werden, welche Werte überhaupt maßgeblich sein sollen.

Er formulierte die Frage so:

„Angesichts der Tatsache, dass wir in einer pluralistischen Welt mit konkurrierenden Wertvorstellungen leben – wie sollen wir entscheiden, welche Prinzipien oder Ziele in KI kodiert werden sollen, und wer hat das Recht, diese Entscheidungen zu treffen?“

Deshalb hat sich die Debatte über die Regulierung von KI von Fachkonferenzen in die Parlamente verlagert. Nach Angaben der Europäischen Kommission trat die KI-Verordnung der EU am 1. August 2024 in Kraft. Ziel ist es, die verantwortungsvolle Entwicklung und den verantwortungsvollen Einsatz von KI durch einen risikobasierten Rechtsrahmen zu fördern.

Regulierung versucht aufzuholen

Europa hat sich für verbindliche Regeln entschieden. Die Europäische Kommission bezeichnet die KI-Verordnung als den weltweit ersten umfassenden Rechtsrahmen für künstliche Intelligenz, der Risiken begegnen und vertrauenswürdige KI fördern soll.

Die Vereinigten Staaten verfolgen einen stärker fragmentierten Ansatz. Nach Angaben des National Institute of Standards and Technology (NIST) wurde dessen Rahmenwerk für das Management von KI-Risiken gemeinsam mit öffentlichen und privaten Partnern entwickelt, um Risiken für Einzelpersonen, Organisationen und die Gesellschaft besser zu steuern.

Das NIST beschreibt das Rahmenwerk außerdem als freiwillig, branchenübergreifend und für Organisationen gedacht, die KI-Systeme entwerfen, entwickeln, einsetzen oder nutzen.

Das Weiße Haus warnte 2023 unter Präsident Joe Biden, dass ein unverantwortlicher Einsatz von KI Betrug, Diskriminierung, Verzerrungen und Desinformation verschärfen, Arbeitsplätze verdrängen, den Wettbewerb einschränken und Risiken für die nationale Sicherheit schaffen könne.

Diese Maßnahmen zeigen die Grenzen eines Ansatzes auf, bei dem Unternehmen allein die Verantwortung tragen. Interne Sicherheitsprüfungen sind wichtig, finden jedoch innerhalb von Unternehmen statt, die gleichzeitig im Wettbewerb stehen, Einnahmen erzielen und ihre Marktanteile verteidigen müssen.

Chatbots machten das Risiko persönlich

Große Sprachmodelle haben die öffentliche Debatte verändert, weil sie KI gesprächsfähig gemacht haben. Menschen erleben sie nicht als Datenbanken. Sie erleben sie als reagierende Stimmen, die schmeicheln, beraten, sich entschuldigen und überzeugen können.

Gabriel und seine Kollegen warnten laut The Guardian, dass menschenähnliche KI „unangemessenes Vertrauen oder überhöhte Erwartungen“ hervorrufen könne. Diese Sorge betrifft inzwischen Nachhilfe, therapieähnliche Gespräche, Beratung am Arbeitsplatz und digitale Begleitung.

Gabriel bleibt jedoch skeptisch gegenüber Behauptungen, heutige Modelle seien bewusst:

„Ich habe nicht die anthropomorphisierende Voreingenommenheit, die manche Menschen haben. Das liegt vielleicht daran, dass ich – innerhalb gewisser Grenzen – genau weiß, was passiert, wenn ich mit einem Sprachmodell spreche. Deshalb fülle ich die Lücken nicht auf diese fantasievolle und empathische Weise, wie es manche andere tun.“

Für Schaden ist Bewusstsein allerdings keine Voraussetzung. Ein System kann großen Einfluss ausüben, ohne irgendetwas zu verstehen. Es kann ruhig klingen und dennoch falschliegen, loyal wirken und dabei Vertrauen manipulieren oder selbstsicher auftreten, obwohl es lediglich Vermutungen anstellt.

Der wirtschaftliche Wettlauf schränkt die Auswahl ein

Nach der öffentlichen Einführung von ChatGPT bündelte Google große Teile seiner KI-Aktivitäten unter DeepMind, während sich der Wettbewerb mit OpenAI, Microsoft und anderen Unternehmen verschärfte.

Dieser Wettbewerbsdruck verändert auch die Ethikdebatte. Unternehmen investieren Milliarden in Chips, Rechenzentren und Fachkräfte. Sie benötigen Nutzer, Produkte und Einnahmen, um diese Ausgaben zu rechtfertigen.

Das Ergebnis ist ein Wettlauf darum, KI in Werkzeuge zu integrieren, die Menschen ohnehin bereits verwenden. Sobald ein Schreibassistent in einem Dokument erscheint, eine Schaltfläche für Zusammenfassungen in E-Mails auftaucht oder KI-Antworten über den Suchergebnissen angezeigt werden, fühlt sich die Technologie nicht mehr optional an.

An diesem Punkt wird öffentliche Rechenschaftspflicht praktisch relevant. Regulierungsbehörden können Dokumentationen verlangen. Gerichte können über Haftungsfragen entscheiden. Prüfer können Systeme testen. Wettbewerbsbehörden können untersuchen, ob einige wenige Unternehmen zu viel Kontrolle über Infrastruktur, Daten und Vertriebswege gewinnen.

Keines dieser Instrumente ist perfekt. Doch ohne sie bleibt der Öffentlichkeit nichts anderes übrig, als darauf zu vertrauen, dass Unternehmen jene Systeme selbst kontrollieren, die sie gleichzeitig verkaufen wollen.

KI-Agenten erweitern die Folgen

Der nächste große Schritt sind KI-Systeme, die nicht nur reagieren, sondern selbst handeln.

Forscher von DeepMind haben Assistenten untersucht, die mehrstufige Aufgaben erledigen können – etwa Reisen buchen oder Geschäftsprozesse unterstützen. Gabriels Team schlug vor, Alignment als Beziehung zwischen dem KI-System, dem Nutzer, dem Entwickler und der Gesellschaft zu verstehen.

Das ist wichtig, weil diese Interessen miteinander kollidieren können. Ein Nutzer möchte vielleicht vor allem Geschwindigkeit, während die Gesellschaft Sicherheit benötigt. Ein Entwickler könnte die eigenen Produkte bevorzugen wollen, während ein Kunde neutrale Beratung erwartet. Ein Unternehmen möchte möglicherweise automatisieren, während Beschäftigte verstärkter Überwachung oder dem Verlust ihres Arbeitsplatzes ausgesetzt sind.

William Isaac, Direktor für verantwortungsvolle KI bei DeepMind, sagte gegenüber The Guardian, agentenbasierte Systeme erforderten Aufmerksamkeit nicht nur für eine einzelne Antwort, sondern für den gesamten Verlauf einer Interaktion.

So könnte ein KI-Reiseassistent Flüge, Hotels und Versicherungen auswählen. Jeder einzelne Schritt mag für sich genommen vertretbar sein. Zusammengenommen könnte der Prozess jedoch bestimmte Plattformen bevorzugen, private Informationen offenlegen oder Entscheidungen treffen, die der Nutzer kaum bemerkt.

Die Öffentlichkeit braucht Einflussmöglichkeiten

Gabriels jüngere Arbeiten richten den Blick über einzelne Produkte hinaus auf die möglichen Auswirkungen von AGI auf den Arbeitsmarkt, Politik, Wissenschaft, Ungleichheit und zwischenmenschliche Beziehungen. Er hat das potenzielle Ausmaß dieser Veränderungen mit der Industriellen Revolution verglichen und zugleich eingeräumt, dass große Umbrüche Menschen schaden können, bevor sich ihre Vorteile verbreiten.

Dieser Vergleich sollte politische Entscheidungsträger vorsichtig machen. Die Industrialisierung erhöhte langfristig zwar den Lebensstandard, brachte aber auch Ausbeutung, Verdrängung und politische Umwälzungen mit sich. Es gibt keine Garantie dafür, dass die Gewinne durch KI gerecht verteilt werden, sofern keine Institutionen geschaffen werden, die genau dies sicherstellen.

Der Maßstab für Erfolg sollte nicht allein die Größe eines Modells, seine Geschwindigkeit oder seine Marktbewertung sein. Sinnvoller ist die Frage, ob Menschen Entscheidungen anfechten können, erkennen, wann KI eingesetzt wird, und Systeme ablehnen können, die ihr Leben auf ungerechte Weise beeinflussen.

Gabriel hat sich selbst als „überzeugten Humanisten“ bezeichnet. Diese Formulierung verleiht der Debatte einen klaren Mittelpunkt. KI mag immer leistungsfähiger werden – der Maßstab, an dem sie gemessen wird, sollte jedoch menschlich bleiben:

Wer profitiert, wer trägt die Risiken und wer erhält eine Stimme, bevor das System unausweichlich wird?

Quellen: The Guardian; Europäische Kommission; NIST; Weißes Haus.