Kenneth Glad
Die rasanten Fortschritte in der Computertechnologie haben Fragen neu entfacht, die lange Zeit weitgehend der Philosophie vorbehalten waren. Forschende sind sich weiterhin uneinig darüber, was das Verhalten von Maschinen über ein unsichtbares inneres Erleben aussagen kann.
Untersuchungen zum Claude-Modell von Anthropic haben die Debatte darüber neu belebt, ob ein System künstlicher Intelligenz jemals eigene Erfahrungen entwickeln könnte. Anthropic gehört zu den weltweit führenden KI-Unternehmen, und Claude ist das zentrale große Sprachmodell des Unternehmens. Es wurde entwickelt, um menschenähnliche Texte zu erzeugen und bei einer Vielzahl von Aufgaben zu unterstützen.
Die Ergebnisse haben Aufmerksamkeit erregt, weil sie offenbar einen genaueren Einblick darin ermöglichen, wie ein solches System Informationen intern verarbeitet, bevor es eine Antwort ausgibt.
Forschende von Anthropic berichteten, Aktivitäten festgestellt zu haben, die darauf hindeuteten, dass Informationen bereits vor Claudes Antwort strukturiert wurden. Das Modell schien nützliche Details aus einem Gespräch zu behalten, für die jeweilige Aufgabe relevante Informationen zu erkennen und bei der Vorbereitung seiner Ausgabe Anzeichen einer mehrstufigen Verarbeitung zu zeigen.
Das Unternehmen behauptete nicht, dass diese Muster bewiesen, Claude sei bewusst. Dennoch hat die Forschung einer breiteren Debatte neuen Auftrieb gegeben: Könnten immer leistungsfähigere KI-Systeme eines Tages ein inneres Erleben besitzen oder zumindest eigene Interessen entwickeln, die Menschen bei der Gestaltung und Nutzung solcher Systeme berücksichtigen sollten?
Gehirne sind lebende Systeme
In The Guardian argumentiert der Neurowissenschaftler und Bewusstseinsforscher Anil Seth, dass Ähnlichkeiten bei der Informationsverarbeitung nicht als Beleg dafür missverstanden werden sollten, dass Menschen und Maschinen über dieselbe Form von Bewusstsein verfügen. Seiner Ansicht nach beweist selbst eine beeindruckende Leistung nicht, dass ein KI-System subjektive Erfahrungen hat.
Claude ist Software, die auf Computerhardware läuft. Das menschliche Bewusstsein hingegen entsteht in einem lebenden Gehirn, das untrennbar mit dem von ihm gesteuerten Körper verbunden ist. Dieses biologische System reguliert sich fortlaufend selbst, interagiert mit seiner Umwelt und reagiert auf körperliche Bedürfnisse. All diese Faktoren sind Seth zufolge wichtig, wenn es um die Ursprünge bewussten Erlebens geht.
Seth erörtert außerdem die Theorie des globalen Arbeitsraums, eines der führenden wissenschaftlichen Erklärungsmodelle für Bewusstsein. Ihr zufolge wird Information dann Teil des bewussten Erlebens, wenn sie umfassend an verschiedene Systeme im Gehirn weitergeleitet wird und dadurch mehreren mentalen Prozessen zur Verfügung steht.
Anthropic identifizierte in Claude Merkmale, die Teilen dieses Modells ähneln. Seth weist jedoch darauf hin, dass dem System offenbar weiterhin zentrale Rückkopplungsmechanismen fehlen, die in biologischen Gehirnen vorhanden sind.
Für Seth sind die Ergebnisse wissenschaftlich interessant, weil sie zeigen, dass künstliche Systeme komplexe Aufgaben der Informationsverarbeitung auf eine Weise lösen können, die bestimmten Aspekten menschlicher Kognition ähnelt.
Er argumentiert jedoch, dass dies nicht bedeutet, dass das System über ein inneres Erleben verfügt. Ein Sprachmodell kann Informationen effizient organisieren und überzeugende Antworten erzeugen, ohne Gedanken, Gefühle oder Sinneseindrücke zu erleben. Eine flüssige Konversation sollte daher seiner Schlussfolgerung zufolge nicht als Beweis für Bewusstsein gelten.
Ein vorsichtiger Ansatz
Der Philosoph William MacAskill und der Forscher Lucius Caviola betrachten die Frage aus einem anderen Blickwinkel. Sie konzentrieren sich weniger darauf, ob heutige KI-Systeme bewusst sind, und stärker darauf, wie die Gesellschaft reagieren sollte, solange die wissenschaftliche Lage unsicher bleibt. Ihrer Ansicht nach beseitigt das Fehlen eindeutiger Belege nicht die Notwendigkeit, über die ethischen Folgen künftiger Fortschritte nachzudenken.
In The Guardian argumentieren sie, dass zunehmend hochentwickelte KI-Systeme eines Tages Interessen entwickeln könnten, zu deren Achtung Menschen moralisch verpflichtet wären. Da es derzeit keinen allgemein anerkannten wissenschaftlichen Test gibt, mit dem sich feststellen ließe, ob ein KI-System bewusst ist, könnte das Warten auf vollständige Gewissheit ihrer Auffassung nach dazu führen, dass Regierungen, Technologieunternehmen und Regulierungsbehörden unvorbereitet sind, wenn noch leistungsfähigere Systeme entstehen.
Ein Vorschlag sieht vor, einem KI-System zu erlauben, eine Interaktion zu beenden, wenn es wiederholt Belastung meldet oder darauf hinweist, dass die Fortsetzung des Gesprächs Probleme verursacht. Den Autoren zufolge wäre eine solche Vorsichtsmaßnahme mit geringen praktischen Kosten verbunden, falls KI-Systeme keine subjektiven Erfahrungen haben. Zugleich würde sie einen gewissen Schutz bieten, sollte künftige Forschung zeigen, dass zumindest einige Systeme über moralisch bedeutsame Formen von Bewusstsein verfügen.
Die Meinungsverschiedenheit betrifft daher vor allem die Frage, wie Unsicherheit die öffentliche Politik prägen sollte, und weniger ausschließlich die Fähigkeiten heutiger KI-Systeme.
Seth sieht keine überzeugenden Belege dafür, dass heutige Sprachmodelle als bewusste Wesen betrachtet werden sollten.
MacAskill und Caviola argumentieren dagegen, dass begrenzte Schutzmaßnahmen bereits jetzt erwogen werden sollten, bevor das wissenschaftliche Verständnis mit dem rasanten Tempo der KI-Entwicklung Schritt hält.
Quellen: The Guardian