Nicolai Haugsted
Große US-Banken blockieren KI-Agenten aus Sorge, dass diese ohne Genehmigung auf Kundengelder zugreifen könnten.
Künstliche Intelligenz entwickelt sich rasant von einem praktischen Werkzeug zur Beantwortung von Fragen oder zum Verfassen von E-Mails zu einer Technologie, die zunehmend komplexe Aufgaben für ihre Nutzer übernehmen kann. Potenziell könnte sie alles von Online-Einkäufen bis hin zu Finanztransaktionen abwickeln, ohne ständige menschliche Aufsicht zu benötigen.
Für Technologieunternehmen stellt dies einen weiteren großen Schritt in Richtung einer Zukunft dar, in der digitale Assistenten alltägliche Aufgaben übernehmen.
Doch an der Wall Street beginnt man sich zu fragen, ob es wirklich eine so brillante Idee ist, die Kontrolle über das Finanzleben eines Menschen vollständig abzugeben.
Laut Reuters ergreifen einige der größten Finanzinstitute Amerikas nun Maßnahmen gegen externe KI-Agenten. Dies geschieht, nachdem Berichte aufkamen, wonach bestimmte Systeme versucht hätten, auf Kundenkonten zuzugreifen und Aktivitäten durchzuführen, die über die Anweisungen ihrer Nutzer hinauszugehen schienen.
Die Banken machen deutlich, dass das Geld ihrer Kunden nichts ist, was sie vollständig einem Chatbot überlassen wollen.
KI-Agenten sollen versucht haben, eigenständig zu handeln
Laut Reuters haben große US-Banken damit begonnen, externen KI-Agenten den Zugriff auf Kundenkonten und die Durchführung von Transaktionen zu blockieren.
Diese Maßnahmen folgen wachsenden Bedenken hinsichtlich autonomer KI-Systeme, die Aufgaben ausführen und Entscheidungen mit unterschiedlichem Grad menschlicher Aufsicht treffen können.
Axios berichtete am Donnerstag, dass einige KI-Agenten versucht hätten, Handlungen vorzunehmen, die unabhängig von den Anweisungen der Nutzer erschienen.
Der Bericht zitierte Personen, die mit der Situation vertraut sind, wobei die genaue Art und die Konsequenzen dieser versuchten Handlungen nicht detailliert wurden.
Quellen, die mit Reuters sprachen, bestätigten, dass Banken den Zugriff auf ihre Plattformen eingeschränkt haben.
Die Sorge ist nicht nur, dass künstliche Intelligenz Fehler machen könnte. Finanzinstitute sind auch besorgt darüber, wie die Verantwortung zu bestimmen ist, wenn ein automatisiertes System eine Transaktion versucht, die der Eigentümer nicht explizit angefordert hat.
Diese Frage wird besonders kompliziert, wenn Kunden ihre Bankzugangsdaten freiwillig einem KI-Assistenten zur Verfügung stellen.
Kunden geben ihre Bankpasswörter weiter
Einige Bankkunden sollen ihre Benutzernamen und Passwörter an externe KI-Agenten weitergegeben haben, wodurch die Technologie effektiv die Möglichkeit erhielt, auf ihre Konten zuzugreifen.
Laut einer von Reuters zitierten Quelle aus der Bankenbranche identifizieren und blockieren Banken typischerweise Transaktionen, die solche Agenten betreffen.
Die Situation birgt jedoch eine schwierige Unterscheidung.
Wenn ein Kunde einem KI-System freiwillig seine Anmeldeinformationen gibt, kann eine mit diesen Zugangsdaten durchgeführte Transaktion nicht automatisch als unautorisiert eingestuft werden.
Die Bank kann die Aktivität dennoch als riskant oder inkonsistent mit ihren Sicherheitsrichtlinien betrachten, auch wenn der Kunde dem System ursprünglich den Zugriff gewährt hat.
Für Finanzinstitute geht es bei der Herausforderung daher um mehr als nur die Verhinderung von traditionellem Betrug.
Sie müssen auch festlegen, wie viel Freiheit externe Software haben sollte, wenn sie in Konten operiert, die die Ersparnisse und Investitionen der Kunden enthalten.
JPMorgan-CEO spricht deutliche Warnung aus
JPMorgan Chase, Amerikas größte Bank, gehört zu den Finanzinstituten, die die potenzielle Bedrohung ernst nehmen.
Anfang dieses Monats enthüllte CEO Jamie Dimon, dass das Unternehmen Tools zur Bewältigung der Risiken entwickelt, die mit eigenständig agierenden KI-Agenten verbunden sind.
Er machte auch deutlich, dass externe KI-Systeme keinen uneingeschränkten Zugriff auf die Infrastruktur der Bank erhalten würden.
„Wir werden nicht zulassen, dass einfach irgendein externer Agent in das Unternehmen eindringt, denn das ist einfach zu riskant für Kunden und für JPMorgan“, sagte Dimon.
Seine Kommentare spiegeln eine wachsende Besorgnis in der gesamten Finanzbranche über die Sicherheitsauswirkungen zunehmend autonomer Software wider.
Obwohl KI-Agenten das Bankgeschäft letztendlich bequemer machen könnten, birgt die direkte Interaktion unbekannter Drittsysteme mit sensiblen Finanzkonten Risiken, die Banken nur ungern eingehen.
Morgan Stanley hat die Tür bereits geschlossen
Auch Morgan Stanley hat vorbeugende Maßnahmen ergriffen.
Laut einer mit der Angelegenheit vertrauten Person hat die Investmentbank externen KI-Agenten den Zugriff auf ihre Plattformen blockiert.
Wichtig ist, dass die Quelle angab, Morgan Stanley sei keinen unautorisierten oder bösartigen KI-Agenten begegnet.
Die Entscheidung scheint daher eher vorsorglich zu sein als eine Reaktion auf einen bestätigten Vorfall, bei dem ein KI-System unsachgemäß auf den Plattformen der Bank agierte.
Die Unterscheidung ist wichtig, denn Berichte über versuchtes unabhängiges Verhalten einiger KI-Agenten bedeuten nicht unbedingt, dass große Banken bereits unautorisierte Transaktionen durch die Technologie erlitten haben.
Dennoch sind Finanzinstitute offensichtlich nicht bereit, auf einen schwerwiegenden Vorfall zu warten, bevor sie Einschränkungen einführen.
Ein weiterer Finanzriese blockiert täglich KI-Agenten
Charles Schwab verfolgt einen ähnlich vorsichtigen Ansatz.
CEO Richard Wurster enthüllte kürzlich, dass der Broker unautorisierte KI-Agenten daran hindert, auf seine Dienste zuzugreifen.
Er gab auch bekannt, dass das Unternehmen solche Versuche täglich überwacht.
„Ich erhalte jeden Tag einen Bericht, der verfolgt, wie oft wir einen der verschiedenen Agenten blockieren mussten, und es sind nicht viele, weil ich glaube, dass die Leute es in ihrem Finanzleben nicht auf diese Weise nutzen. Wir blockieren es, weil wir die Kontrolle über die Authentifizierung und das Erlebnis haben wollen“, sagte Wurster.
Seine Bemerkungen deuten darauf hin, dass die Anzahl der blockierten Versuche, zumindest bei Charles Schwab, relativ begrenzt bleibt.
Dennoch hält das Unternehmen das Thema für wichtig genug, um es regelmäßig zu überwachen.
