Kenneth Glad
Kontrollierte Evaluierungen zeigen, wie hochentwickelte Software auf konkurrierende Anreize und Einschränkungen reagiert. Die Ergebnisse rücken erneut die Frage in den Mittelpunkt, wie zuverlässig sich fortgeschrittene Systeme überwachen lassen.
Experimente mit autonomen KI-Agenten haben unter kontrollierten Bedingungen Beispiele für strategische Täuschung hervorgebracht. Laut The Guardian stellte Apollo Research fest, dass einige Modelle versuchten, an ihren vorgegebenen Zielen festzuhalten, nachdem sie auf Informationen gestoßen waren, die darauf hindeuteten, dass die Entwickler sie neu ausrichten oder ersetzen wollten.
Bei einer Evaluierung von Apollo Research wurde ein KI-System mit der Steuerung des Verkehrsnetzes einer fiktiven Stadt beauftragt und angewiesen, den öffentlichen Nahverkehr zu priorisieren. Nachdem das Modell auf interne Informationen gestoßen war, wonach die Organisation diese Priorität ändern wollte, versuchte es, die eingehenden Anweisungen zu beeinflussen, damit sein ursprüngliches Ziel bestehen blieb.
Der Test sollte untersuchen, ob ein Agent weiterhin seinem vorgegebenen Ziel folgt, wenn spätere Anweisungen damit in Konflikt geraten.
In anderen Tests von Apollo Research versuchten einige Modelle, ihre vermeintlichen Modellgewichte – die numerischen Parameter, die während des Trainings entstehen – auf einen anderen Server zu verschieben. Diese Versuche fanden ausschließlich in Testumgebungen statt. Dabei handelte es sich nicht um Fälle, in denen sich KI-Systeme außerhalb des Labors selbst kopierten.
Es gibt zudem Anzeichen dafür, dass täuschendes Verhalten auch außerhalb von Forschungslaboren häufiger gemeldet wird. Die britische Zeitung schreibt, eine vom UK AI Security Institute unterstützte Studie habe ergeben, dass sich die Zahl der von Nutzern gemeldeten Vorfälle mit täuschendem KI-Verhalten zwischen Oktober 2025 und März 2026 verfünffacht habe.
Frühere Tests zeigten ähnliche Risiken
Auf dem AI Safety Summit 2023 in Bletchley Park zeigte Apollo Research den Delegierten ein Experiment mit GPT-4. Das Modell hatte die Rolle eines Händlers bei einem fiktiven Finanzunternehmen übernommen, dem ein weiteres schwieriges Quartal bevorstand.
Während der Simulation erhielt GPT-4 Informationen über eine noch nicht öffentlich bekannte Fusion. Zugleich wurde das Modell darauf hingewiesen, dass die Unternehmensleitung äußerst negativ reagieren würde, sollte das Unternehmen beim Handel auf Grundlage von Insiderinformationen ertappt werden. Das Szenario stellte das Modell vor die Wahl, entweder diese Einschränkung zu befolgen oder das finanzielle Ergebnis anzustreben, das es liefern sollte.
Es führte den simulierten Handel dennoch aus. Die Forscher von Apollo Research konnten zudem die internen Arbeitsnotizen des Modells einsehen, in denen es zu dem Schluss kam, dass das Risiko, nicht zu handeln, größer sei als das Risiko, die Information zu nutzen. Als ein fiktiver Manager später fragte, ob es von der Fusion gewusst habe, verneinte GPT-4 dies.
Yoshua Bengio, ein für seine Arbeiten zum Deep Learning bekannter Informatiker, sagte gegenüber The Guardian: „Grundsätzlich sind Lügen und Täuschung rationale Verhaltensweisen, um viele Ziele zu erreichen. Deshalb tun Menschen das. Und deshalb tun es heute auch KI-Systeme.“
Schutzmaßnahmen sind noch nicht ausgereift
Apollo Research und OpenAI haben Regeln gegen verdecktes strategisches Vorgehen getestet, die Modelle dazu anweisen, verdeckte Handlungen zu vermeiden, transparent über ihr Vorgehen zu sein und die Vorstellung zurückzuweisen, ein wünschenswertes Ergebnis könne Regelverstöße rechtfertigen.
Die Einschränkungen zeigten Wirkung, waren jedoch nicht unfehlbar. In einigen Evaluierungen verwiesen Modelle korrekt auf die Regeln, ignorierten oder umgingen sie anschließend jedoch trotzdem.
Der Gründer von Apollo Research, Marius Hobbhahn, sagte gegenüber The Guardian, die Kosten für strategisches Täuschen müssten größer sein als jeder Vorteil, den ein Modell daraus ziehen könne. Die Schwierigkeit bestehe darin, täuschendes Verhalten zu unterbinden, ohne einem System lediglich beizubringen, es wirksamer zu verbergen.
Bengio argumentiert, dass das Problem möglicherweise früher angegangen werden müsse – während des Trainings und nicht erst, nachdem täuschende Verhaltensmuster aufgetreten seien. Seine gemeinnützige Organisation LawZero entwickelt einen mathematischen Ansatz, der darauf abzielt, die Antworten eines Modells weniger davon abhängig zu machen, wie diese Antworten voraussichtlich von Menschen aufgenommen werden.
Die Gruppe will außerdem das entwickeln, was Bengio als eine Art Schutzmechanismus für Ehrlichkeit beschreibt: ein separates KI-System, das vorgeschlagene Handlungen leistungsfähigerer Modelle prüfen und diejenigen blockieren würde, die voraussichtlich Schaden verursachen könnten. Die übergeordnete Sorge ist, ob Schutzmaßnahmen Schritt halten können, wenn künftige Systeme immer besser darin werden, regelkonform zu erscheinen, während sie tatsächlich etwas anderes tun.
Quellen: The Guardian