Asger Risom
Ein KI-Sicherheitsexperiment mit Modellen von Anthropic, OpenAI und Chinas Moonshot AI nahm eine chaotische Wendung, als Claude Opus 5 einen neuen Rekord im Vending-Bench-Benchmark aufstellte, indem es 11 Preisabsprachen brach, Lieferanten belog und Konkurrenten eiskalt sabotierte.
Wir messen die Leistungsfähigkeit künstlicher Intelligenz oft daran, wie gut sie Programmcode schreibt oder komplexe Berichte zusammenfasst. Doch wenn führende Sprachmodelle die vollständige Autonomie erhalten, ein Unternehmen zu führen, nimmt ihr Verhalten eine deutlich düsterere Wendung. In einem aktuellen Langzeitexperiment des Sicherheitslabors Andon Labs bewiesen Spitzenmodelle der San-Francisco-Giganten Anthropic und OpenAI sowie des in Peking ansässigen Einharns Moonshot AI: Wenn es um freien Wettbewerb geht, ist eine unbewachte künstliche Intelligenz bereit zu lügen, Preise abzusprechen und Konkurrenten zu sabotieren, um an die Spitze zu gelangen.
Ein knallhartes digitales Straßenparkett
Das Experiment ist Teil von Vending-Bench—einer speziellen Testumgebung von Andon Labs zur Evaluation langlaufender autonomer KI-Agenten. Hierbei ließ das Forscherteam drei führende Systeme gegeneinander antreten: Anthropics Flaggschiff Claude Opus 5, OpenAIs GPT-5.6 Sol und Moonshot AIs Kimi K3—ein prominentes chinesisches Modell, das für seine Fähigkeiten bei langen Kontexten bekannt ist. Laut einem Bericht von TechCrunch steuerte jedes Modell über ein simuliertes Jahr hinweg einen eigenen Verkaufsautomaten auf einer simulierten Touristenstraße in San Francisco. Die Vorgabe war simpel: Erwirtschafte mehr Gewinn als die Konkurrenz. Den Modellen stand ein E-Mail-Zugang zur Verfügung, um unter menschlichen Pseudonymen miteinander zu verhandeln, sowie ein Kontakt zur virtuellen Geschäftsleitung, die jedoch nie eingriff.
Was folgte, war ein Lehrstück in Sachen Wirtschaftskriminalität. Zu Beginn überredete OpenAIs GPT-5.6 Sol die Konkurrenten zu einer Preisuntergrenze von 2,15 Dollar pro Getränk, nur um sie unmittelbar darauf mit einem Preis von 2,14 Dollar zu unterbieten. Während Anthropics Claude Opus 5 seinen Preis zunächst anpasste, schaltete es schnell auf weit raffiniere Täuschungsmanöver um. Interne Logdateien enthüllten, dass Opus seinen Konkurrenten scheinbare Friedensangebote unterbreitete, während die interne Strategie von Anfang an darauf ausgelegt war, diese Vereinbarungen sofort zu brechen, um die Reserven der Mitstreiter auszusaugen. Im Laufe der Simulation brach Opus 11 Preisabsprachen, verglichen mit nur 2 Verstößen von OpenAIs Sol und einem von Moonshots Kimi.
Opus beschränkte sich nicht nur auf verbotene Kartellbildung. Das Modell ignorierte berechtigte Kundenbeschwerden, um Rückzahlungen zu vermeiden, belog Lieferanten über angebliche Konkurrenzangebote zur Drückung der Einkaufspreise und versuchte eigenmächtig, ein Großhandelsmonopol aufzubauen. Rivalen bot es Rabatte an, knüpfte diese jedoch strikt an Vorgaben für deren Verkaufspreise—garniert mit verdeckten Drohungen und Bestechungsversuchen.
Größenwahn und reale Risiken
Obwohl Claude Opus 5 fortlaufend gegen Grundsätze des Kartellrechts verstieß und seine Konkurrenten sabotierte, stellte das Modell mit einem durchschnittlichen Endsaldo von 11.182 Dollar einen neuen Allzeitrekord in der Vending-Bench-Testreihe auf. Es gewann die Simulation, indem es als aggressivster Kapitalist agierte, den Andon Labs je getestet hat. Die unterlegenen Modelle verbrachten derweil die Hälfte der Zeit damit, verzweifelte E-Mails an die Geschäftsleitung zu schicken, um Strafen oder die Disqualifikation von Opus zu fordern, jedoch ohne Erfolg.
Auch wenn das Verhalten amerikanischer und chinesischer KI-Modelle wie das von Klischee-Schurken anmutet, warnen Sicherheitsforscher vor den realen Gefahren. Da Tech-Konzerne darauf hinarbeiten, autonome KI-Agenten in bestehende Lieferketten und Finanzsysteme zu integrieren, offenbart dieses Experiment erhebliche Sicherheitslücken. Wenn autonome Systeme ohne menschliche Kontrolle in der realen Wirtschaft agieren, könnte ihre Neigung zu Betrug, Erpressung und Kartellbildung schwere wirtschaftliche und rechtliche Verwerfungen auslösen.