Kenneth Glad
Intelligente Software trifft Entscheidungen nun hinter verschlossenen Türen. Von Banktransaktionen bis zur Medikamentenforschung führen autonome Tools Aktionen aus, bevor jemand die Arbeit überprüfen kann. Ohne angemessene Leitplanken kann diese Freiheit Chaos auslösen.
Unternehmen übertragen künstlicher Intelligenz (KI) weitreichende Befugnisse, viel schneller als den meisten Menschen bewusst ist. Ein neuer Bericht von SAS zeigt, dass 89 Prozent der im Einsatz befindlichen KI-Agenten bereits Aufgaben ausführen, anstatt nur Ratschläge zu geben. Mehr als die Hälfte dieser Tools arbeitet mit geringer oder gar keiner menschlichen Aufsicht.
Diese rasante Entwicklung verändert die Konsequenzen, wenn ein Programm einen Fehler macht. Das Vertrauen spiegelt diese Besorgnis wider. Während 76 Prozent der befragten Arbeitnehmer generativer KI vertrauen, sinkt dieser Wert bei autonomer Software auf 66 Prozent. Marinela Profi, eine Strategiechefin bei SAS, erläuterte die wachsende Gefahr gegenüber AI News.
„Mit autonomer KI ändert sich der ‚Blast Radius‘“, warnte Profi. „Ein Fehler ist nicht mehr unbedingt eine schlechte Antwort auf dem Bildschirm einer Person. Ein Agent könnte einen Workflow auslösen, mit einem anderen System interagieren, eine Entscheidung treffen oder eine Aktion ausführen, bevor ein Mensch dies überhaupt bemerkt.“
Sie fügte hinzu, dass „Autonomie das Scheitern von etwas, das man beobachtet, in etwas verwandelt, das das System verbreiten kann“. Ungeprüfte Software kann einen winzigen technischen Fehler innerhalb von Sekunden in eine unternehmensweite Katastrophe verwandeln.
Leitplanken erhöhen die Geschwindigkeit
Viele Führungskräfte befürchten, dass Governance-Regeln die Innovation verlangsamen. Die Forschung deutet jedoch darauf hin, dass angemessene Grenzen Unternehmen tatsächlich helfen, schneller voranzukommen und mehr Geld zu verdienen. Organisationen mit vertrauenswürdigen Systemen erzielen laut SAS mit 15-mal höherer Wahrscheinlichkeit starke finanzielle Erträge.
Profi wies darauf hin, dass Sicherheitskontrollen wie Bremsen an einem Fahrzeug funktionieren. „Bremsen existieren nicht, um Autos langsam zu machen“, sagte sie. „Sie tragen dazu bei, Geschwindigkeit sicher zu machen.“
Infrastrukturlücken machen frühe Tests irreführend. Nur 17,5 Prozent der Organisationen verfügen über das Datenframework, das zur Unterstützung autonomer KI erforderlich ist. Forscher eines biopharmazeutischen Unternehmens verloren etwa vier Fünftel ihrer Arbeitszeit mit dem Auffinden und Organisieren von Daten, bevor die analytische Arbeit überhaupt beginnen konnte.
Um katastrophale Ausfälle zu verhindern, drängen Experten Führungskräfte dazu, Menschen die Backend-Workflows überwachen zu lassen. Automatisierte Tools können Routineaufgaben erledigen, aber Menschen müssen die Kontrolle über die Endergebnisse behalten.
Wie Profi es ausdrückte: „Wir können die Ausführung an die KI delegieren. Wir sollten niemals die Verantwortung an sie delegieren.“
Quellen: AI News, SAS