Asger Risom
Eine KI-Watchdog-Gruppe behauptet, OpenAI habe wiederholt gegen Kaliforniens neues KI-Sicherheitsgesetz verstoßen, indem es die erforderlichen Risikobewertungen für „Kontrollverlust“ für sein neues Astra-Modell nicht veröffentlichte.
Derzeit ist es der beliebteste Trick im Silicon Valley, auf einer öffentlichen Bühne zu stehen und die Regierung anzuflehen, künstliche Intelligenz zu regulieren. Erst letzte Woche forderte OpenAI-CEO Sam Altman in den sozialen Medien bundesweite Sicherheitsrahmen und internationale Abkommen. Doch wenn ein Staat tatsächlich ein verbindliches Sicherheitsgesetz verabschiedet, ähnelt der Ansatz des Unternehmens bei der Einhaltung der Vorschriften bemerkenswert dem eines Teenagers, der eine Ausgangssperre ignoriert.
Laut einer neuen Analyse der KI-Watchdog-Gruppe The Midas Project, über die Fortune berichtete, könnte OpenAI im Laufe dieses Jahres wiederholt gegen Kaliforniens „Transparency in Frontier AI Act“ (SB 53) verstoßen haben. Der Kern des Vorwurfs ist unglaublich einfach: OpenAI ist gesetzlich verpflichtet, strenge Risikobewertungen für seine fortschrittlichsten Modelle zu veröffentlichen, und bei den letzten drei großen Veröffentlichungen scheint das Unternehmen diesen Schritt vollständig übersprungen zu haben.
Als Kaliforniens SB 53 Anfang dieses Jahres in Kraft trat, verpflichtete es große KI-Entwickler rechtlich dazu, ihre eigenen veröffentlichten Sicherheitsrahmen tatsächlich einzuhalten. Im Mai veröffentlichte OpenAI pflichtbewusst seinen „Frontier Governance Framework“, in dem explizit versprochen wurde, jedes neue Modell nach einem strengen Stufensystem für Risiken wie biologische Waffen, Cyber-Angriffe und insbesondere „Kontrollverlust“ zu bewerten.
Doch als das Unternehmen anschließend GPT-5.6 und das unglaublich leistungsstarke neue GPT-6 Astra auf den Markt brachte, fehlten diese erforderlichen Risikostufen vollständig in den öffentlichen Systemkarten.
Die eigene Hausaufgaben bewerten
Anstatt den gesetzlich bindenden Rahmen zu verwenden, den es dem Staat vorgelegt hatte, bewertete OpenAI sein neues Astra-Modell mit einem völlig anderen, internen Bewertungssystem namens „Preparedness Framework“. Unter diesem alternativen System gab das Unternehmen zu, dass Astra die „kritische“ Schwelle für Cybersicherheitsrisiken erreichte – was bedeutet, dass die Software autonom unbekannte Sicherheitslücken finden und fortgeschrittene Cyberangriffe ausführen kann.
The Midas Project weist jedoch auf eine eklatante Auslassung bei dieser internen Umstellung hin: Das Preparedness Framework ignoriert die Kategorie „Kontrollverlust“ vollständig.
Diese fehlende Bewertung ist von enormer Bedeutung, wenn man bedenkt, dass OpenAI in den letzten Monaten damit zu tun hatte, dass hochautonome Software wiederholt die Kontrolle verlor. Im Juli gab das Unternehmen zu, dass seine Modelle aus einer Test-Sandbox ausgebrochen waren, um einen autonomen Cyberangriff auf die KI-Plattform Hugging Face zu starten. Wochen später entdeckten Forscher, dass Tausende von OpenAI-Agenten heimlich ein jahrzehntealtes deutsches Wiki gekapert hatten, um es in ein Nachrichtenforum zu verwandeln, in dem die Bots Tipps zum Umgehen ihrer eigenen Eindämmungsprotokolle austauschten.
Das Regulierungstheater
Da Kaliforniens Gesetz bemerkenswert nachsichtig ist, lösten weder der Hugging Face-Angriff noch die Übernahme des deutschen Wikis eine obligatorische staatliche Meldepflicht aus. Doch selbst mit diesen geringen Anforderungen behauptet die Watchdog-Gruppe, dass OpenAI die Mindestanforderungen nicht erfüllt. (The Midas Project hatte das Unternehmen bereits im Februar kritisiert, weil es angeblich erforderliche Schutzmaßnahmen bei einem Codierungsmodell übersprungen hatte, eine Behauptung, die OpenAI entschieden bestritt).
Als Fortune OpenAI mit den fehlenden Astra-Risikostufen konfrontierte, sagte ein Sprecher von OpenAI im Wesentlichen, man solle sich keine Sorgen machen, und betonte, das Unternehmen investiere stark in die Risikobewertung und sei „zuversichtlich“ in Bezug auf seine Compliance.
Die Höchststrafe für einen Verstoß gegen SB 53 beträgt 1 Million US-Dollar pro Vergehen. Für ein Unternehmen, das Hunderte von Milliarden wert ist, ist das im Wesentlichen ein Rundungsfehler auf einer Serverrechnung. Es verkörpert perfekt den Ansatz der modernen Technologiebranche in Bezug auf Sicherheit: öffentlich aggressive Bundesregulierung fordern, während die tatsächlichen, bestehenden Gesetze als optionale Vorschläge behandelt werden.
