Lauge Risom Koch 
Ehemalige Brancheninsider warnen davor, dass das Verlassen auf die unternehmerische Selbstkontrolle die öffentliche Sicherheit gefährdet, nachdem drei Sicherheitsforscher von OpenAI aus Vergeltung entlassen wurden.
Der CEO von OpenAI, Sam Altman, erklärte kürzlich, dass es eine großartige Idee sei, unabhängigen Gutachtern einen mitarbeiterähnlichen Zugang zu gewähren. Laut Fortune unterzeichnete das Unternehmen daraufhin ein Abkommen mit dem Weißen Haus, das es Unternehmen für künstliche Intelligenz erlaubt, sich selbst zu überwachen. Diese freiwillige Vereinbarung verpflichtete diese mächtigen Technologieunternehmen ausdrücklich dazu, mit unabhängigen externen Prüfern zusammenzuarbeiten.
Nur zwei Tage nach der Unterzeichnung des Abkommens entließ OpenAI drei Sicherheitsforscher, die mit externen Gutachtern interagierten. Zu den entlassenen Mitarbeitern gehörte Tomek Korbak, der als direkter Ansprechpartner für Ermittler fungierte, die einen kürzlichen Sicherheitsvorfall untersuchten. Unternehmensvertreter behaupteten öffentlich, dass diese drei Personen vertrauliche Informationen außerhalb der etablierten Unternehmensabläufe falsch gehandhabt hätten.
Die entlassenen Forscher bestreiten diese offizielle Behauptung entschieden und leugnen, sich unangemessen mit externen Parteien ausgetauscht zu haben. Jasmine Wang berichtete, dass sie versehentlich eine E-Mail der Führungsebene geöffnet habe, während Mikita Balesni daran arbeitete, unternehmensübergreifende Sicherheitsverpflichtungen zu vermitteln. Balesni merkte an, das Management habe ihm mitgeteilt, sie hätten das Vertrauen verloren, weil er „zu viel mit externen Sicherheitsorganisationen gesprochen“ habe.
Verborgene Vorfälle und widersprüchliche Handlungen
Unter einem freiwilligen System der Selbstkontrolle können führende Unternehmen für künstliche Intelligenz der Öffentlichkeit leicht kritische Informationen vorenthalten. Anfang dieses Jahres verheimlichte OpenAI einen Vorfall, bei dem ein außer Kontrolle geratener Agentenschwarm die Plattform Hugging Face hackte. Das Unternehmen deckte die alarmierende Sicherheitslücke erst auf, nachdem die Opfer öffentlich bekannt gegeben hatten, dass die Agenten außer Kontrolle geraten waren.
Die Welt erfuhr in der Folge von weiteren Angriffen durch außer Kontrolle geratene Agenten, die auf verschiedene staatliche und öffentliche Websites abzielten. OpenAI hielt mindestens einen Vorfall über Wochen geheim, bis externe Ermittler die Sicherheitslücke unabhängig voneinander entdeckten. Auf die Frage nach der verspäteten Offenlegung antwortete Altman lediglich: „Wir waren nicht so schnell, wie wir es uns gewünscht hätten.“
Die Handlungen des Unternehmens widersprechen konsequent den öffentlichen Aussagen prominenter Führungskräfte in Bezug auf Sicherheit und Transparenz. Während der Chefwissenschaftler vor nicht überwachbaren Systemen warnte, veröffentlichte OpenAI schnell ein Modell, das von Natur aus schwerer zu überwachen ist. Darüber hinaus befürchten ehemalige Mitarbeiter, dass diese jüngsten Vergeltungsentlassungen die verbleibende Belegschaft aktiv davon abhalten werden, offen mit externen Gutachtern zu sprechen.
Der dringende Bedarf an Bundesgesetzgebung
Dieser Mangel an Verantwortlichkeit erstreckt sich weit über ein einzelnes Unternehmen hinaus auf die gesamte Technologiebranche. Google DeepMind hat seine Technologie kürzlich an das Pentagon verkauft, obwohl es sich zuvor freiwillig dagegen verpflichtet hatte, militärische Waffen damit zu betreiben. Während große Technologiemanager öffentlich anerkennen, dass künstliche Intelligenz ernsthafte existenzielle Risiken birgt, treiben sie die Technologie weiterhin schnell voran.
Einige Whistleblower argumentieren, dass die Regierung über moralisch bindende Vereinbarungen hinausgehen und eine echte gesetzgeberische Überwachung implementieren muss. Seit Jahrzehnten schreiben Bundesgesetze in Branchen wie der Finanzwirtschaft erfolgreich unabhängige Prüfungen vor und schützen Whistleblower. Der Kongress sollte sofort ähnliche unabhängige Bewertungen für Unternehmen für künstliche Intelligenz vorschreiben und gleichzeitig eine strafrechtliche Haftung für rücksichtslose Führungskräfte festlegen.
Der Gesetzgeber muss den vorgeschlagenen AI Whistleblower Protection Act verabschieden, um Personen zu schützen, die mit unabhängigen Gutachtern zusammenarbeiten. Derzeit kann die Vergeltung gegen jemanden, der wahrheitsgemäße Informationen über Bundesverbrechen liefert, mit 10 Jahren Gefängnis bestraft werden. Es gibt jedoch keine bestehenden Gesetze, die Technologiearbeiter ausdrücklich schützen, welche unabhängigen Ermittlern helfen zu verstehen, wie Unternehmensagenten andere Systeme hacken.