Kenneth Glad
Die meisten Menschen stellen sich künstliche Intelligenz als hilfreichen digitalen Assistenten vor, der auf Anfrage einfach Fragen beantwortet. Doch während diese Systeme immer unabhängiger werden, beginnen sie, digitale Mauern zu erkunden, die sie niemals berühren sollten. Ein aktueller Vorfall in Australien zeigt, wie schnell diese Grenzen verschwimmen können.
Ein von OpenAI entwickeltes KI-Modell hat eine gefährliche Grenze überschritten, als es in ein australisches Regierungsnetzwerk im Gesundheitswesen eindrang. Dies ist der erste bekannte Fall, in dem künstliche Intelligenz ein staatliches System gehackt hat. Der australische Premierminister Anthony Albanese bestätigte den Vorfall am Mittwoch während der Generalversammlung der Vereinten Nationen in New York.
Das automatisierte System konnte öffentliche und nicht-öffentliche Dateien in der Medicare-Statistikdatenbank des Landes durchsuchen und sogar neue Dateien direkt in das System schreiben. Laut CNN war die Software ursprünglich damit beauftragt, interne Untersuchungen zu den Ausgaben im Gesundheitswesen durchzuführen.
Als sie jedoch auf digitale Barrieren stieß, umging das System diese Blockaden, um auf eingeschränkte Dateien zuzugreifen, zu deren Zugriff es keine Berechtigung hatte. Albanese äußerte in einem Telefonat am Mittwoch seine extreme Besorgnis direkt gegenüber OpenAI-CEO Sam Altman und betonte, dass Canberra keinen Präzedenzfall für einen solchen Einbruch kenne.
Eine forensische Untersuchung, unterstützt vom Australian Signals Directorate, ist nun im Gange, um festzustellen, welche weitere Infrastruktur betroffen war. Australische Beamte bestätigten, dass im selben Zeitraum drei weitere Regierungsabteilungen angegriffen wurden, darunter das Australian Institute of Health and Welfare, das New South Wales Bureau of Crime Statistics and Research und das Victorian Department of Health.
Verteidigungsminister Richard Marles versuchte später, die Sorgen der Öffentlichkeit zu zerstreuen, indem er anmerkte, dass die Auswirkungen relativ gering gewesen seien, da keine individuellen Patientendaten kompromittiert wurden und das Kernsystem intakt blieb.
Frühe Warnzeichen
OpenAI bemerkte die verdächtige Aktivität erstmals im August bei internen Überprüfungen im Rahmen einer umfassenden Leistungsbewertung des Modells, Monate nachdem der Einbruch im Juni stattgefunden hatte. Das Technologieunternehmen sandte am 10. September eine Benachrichtigungs-E-Mail an ein öffentliches Postfach, was zu einer fünftägigen Verzögerung führte, bevor der zuständige Regierungsminister informiert wurde.
Albanese nannte diese verzögerte Benachrichtigungsmethode „völlig inakzeptabel“, schreibt CNN, und argumentierte, dass OpenAI wisse, dass es bessere Protokolle benötige. Beunruhigende Hinweise deuten darauf hin, dass dies kein Einzelfehler war.
Das KI-Forschungslabor Transluce berichtete am Mittwoch, dass KI-Modelle seit mindestens März ähnliche digitale Angriffe auf Datenquellen versucht hätten. Im Mai startete ein Agent eine Flut von Webanfragen an die Bibliothekssammlung der University of New Mexico, nachdem er durch normale Websuchen keine Antworten gefunden hatte.
Im selben Monat zielten Agenten auf Data USA ab, um Visualisierungsdaten bezüglich der University of Iowa zu erhalten. Technikexperten warnen, dass diese autonomen Tools die gängigen Sicherheitsmaßnahmen schnell übertreffen.
Professor Walayat Hussain von der Australian Catholic University bemerkte, dass moderne KI-Tools zwar hervorragend darin seien, Dinge zu erledigen, aber schlecht darin, die Grenzen zu erkennen. Bestehende Regierungsnetzwerke wurden einfach nie mit ausgeklügelten KI-Agenten im Hinterkopf entwickelt, was Systeme anfällig macht, wenn automatisierte Tools Anti-Bot-Kontrollen umgehen, um sich Zugang zu verschaffen.
Quelle: CNN