Asger Risom
Microsoft-CEO Satya Nadella warnt Unternehmen davor, autonome KI-Agenten als potenzielle Insider-Bedrohungen zu behandeln. Er argumentiert, dass Unternehmen die Intelligenz eines Modells von seiner Autorität zur Ausführung kritischer Aktionen trennen müssen. Organisationen benötigen unabhängige Audit-Protokolle, strenge Zugriffskontrollen und Not-Aus-Schalter, um zu verhindern, dass abtrünnige Software katastrophale Schäden verursacht.
Wir sind dabei, der künstlichen Intelligenz die Schlüssel zu unserem digitalen Leben zu übergeben. Autonome Agenten können inzwischen unsere Posteingänge lesen, unsere Kalender verwalten und sogar unser Geld ausgeben. Doch der CEO eines der Unternehmen, die diese Revolution vorantreiben, mahnt uns zur Vorsicht.
Die Gefahr unkontrollierter Autorität
Satya Nadella veröffentlichte diesen Monat eine deutliche Warnung zur Zukunft der Unternehmensautomatisierung. Der Microsoft-CEO argumentierte, dass wir fortschrittliche KI-Modelle als potenzielle Insider-Bedrohungen behandeln müssen. Eine detaillierte Darstellung seiner Philosophie finden Sie bei TheStreet.
Sicherheitsteams wissen bereits, wie sie mit menschlichen Mitarbeitern umgehen müssen, die möglicherweise abtrünnig werden. Sie geben den Mitarbeitern eine klare Identität, gewähren eingeschränkten Zugriff und protokollieren jede ihrer Handlungen. Nadella ist der Ansicht, dass wir genau dieses Vorgehen auf unsere neue digitale Belegschaft anwenden müssen.
Ein KI-Agent kann leicht eine schlechte Idee halluzinieren oder durch eine bösartige Eingabe manipuliert werden. Wenn diese Software unkontrollierte Autorität besitzt, kann ein einfacher Fehler schnell ein Firmenbankkonto leeren. Das Kernproblem ist, dass Intelligenz und die Autorität zum Handeln völlig unterschiedliche Dinge sind.
Gehirne von Knöpfen trennen
Microsoft fordert, dass Unternehmen die Intelligenz eines Modells vollständig von seiner tatsächlichen operativen Autorität trennen. Die Software sollte in der Lage sein, herauszufinden, was als Nächstes zu tun ist. Sie sollte jedoch nicht immer die Macht haben, den endgültigen Ausführungsknopf allein zu drücken.
Eine künstliche Intelligenz könnte entscheiden, dass ein bestimmter Lieferant sofort bezahlt werden muss. Sie kann die Überweisung entwerfen, die Unterlagen vorbereiten und die Transaktion zur Überprüfung in die Warteschlange stellen. Ein unabhängiges Kontrollsystem sollte jedoch die Genehmigung der endgültigen Freigabe der Gelder durch einen Menschen erfordern.
Sich darauf zu verlassen, dass die KI ihr eigenes Verhalten überwacht, ist ein Rezept für ein absolutes Desaster. Man kann nicht demselben System vertrauen, das die Entscheidung getroffen hat, seine eigene Arbeit objektiv zu überprüfen. Organisationen müssen unabhängige Sicherheitskontrollen aufbauen, die vollständig außerhalb des Kernsprachmodells existieren.
Eine unveränderliche Aufzeichnung führen
Nadella besteht auch darauf, dass jede bedeutsame Handlung eines Agenten eine „Papierspur“ hinterlassen muss. Wenn ein System nicht beobachtet werden kann, kann man ihm einfach nicht vertrauen, im Hintergrund zu agieren. Wir benötigen manipulationssichere Beweise dafür, was genau die Software getan hat und warum sie es getan hat.
Dieses Audit-Protokoll darf sich nicht darauf verlassen, dass die künstliche Intelligenz ihre eigenen vergangenen Handlungen zusammenfasst. Die Aufzeichnung muss von den tatsächlichen Systemen und Anwendungen generiert werden, mit denen der Agent interagiert hat. Wenn der Bot eine E-Mail an einen Kunden sendet, muss der E-Mail-Server dieses spezifische Ereignis unabhängig protokollieren.
Dieses Maß an Transparenz stellt sicher, dass menschliche Manager einen operativen Entscheidungspfad jederzeit rekonstruieren können. Wenn etwas unweigerlich schiefgeht, verdienen die betroffenen Personen eine rechtzeitige Benachrichtigung und eine klare Erklärung. Es erleichtert auch die Isolierung eines fehlerhaften Agenten, bevor er weitreichende Schäden verursacht.
Eine Notbremse einbauen
Jede ernsthafte KI-Implementierung muss über einen klaren und zugänglichen Ausschalter für den Endbenutzer verfügen. Eine autorisierte Person muss immer in der Lage sein, ein aktives Modell anzuhalten oder vollständig herunterzufahren. Dieses Eindämmungsprotokoll ist entscheidend, wenn ein System beginnt, einen fehlerhaften mehrstufigen Plan schnell auszuführen.
Wir schreiben diese Art von Sicherheitsarchitektur bereits in der Luftfahrt, bei nuklearen Materialien und in modernen Automobilen vor. Software, die geschäftskritische Aktionen in unserem Namen ausführen kann, erfordert das gleiche Maß an technischer Präzision. Das vertrauenswürdigste System ist tatsächlich dasjenige, das es uns ermöglicht, dem Modell am wenigsten zu vertrauen.
Sie werden vielleicht nie ein riesiges Unternehmenssicherheitsteam für ein globales Technologieunternehmen leiten. Dieselben Regeln gelten jedoch in dem Moment, in dem Sie einer KI erlauben, Ihre persönlichen Daten zu berühren. Beschränken Sie ihre Autorität, führen Sie Ihre eigenen Belege und wissen Sie immer genau, wo der Notausschalter ist.
