Startseite KI Tech-Titan Anthropic warnt vor „existenziellem Risiko“ der eigenen KI bei...

Tech-Titan Anthropic warnt vor „existenziellem Risiko“ der eigenen KI bei 2-Billionen-Dollar-Börsengang

Anthropic CEO, Dario Amodei, AI
Thrive Studios ID / Shutterstock.com

Ein Unternehmen an die Börse zu bringen, ist normalerweise ein Grund zum Feiern. Führungskräfte läuten die Glocke, Investoren lassen den Champagner knallen, und die Finanzdokumente konzentrieren sich ausschließlich auf zukünftige Gewinne. Doch manchmal erzählen die obligatorischen rechtlichen Offenlegungen eine viel düsterere Geschichte.

Der Entwickler künstlicher Intelligenz (KI) Anthropic bereitet sich auf den Börsengang vor. Analysten erwarten, dass das öffentliche Angebot eine enorme Bewertung von 2 Billionen US-Dollar erreichen wird. Doch die Präsentation für die Wall Street enthält eine beängstigende Einschränkung.

Ein neuer Prospekt offenbart die Befürchtungen des Unternehmens hinsichtlich seiner Technologie. Das Dokument warnt davor, dass fortschrittliche künstliche Intelligenz „katastrophale oder existenzielle Risiken für die Menschheit“ darstellen könnte. Dies ist ein erstaunliches Eingeständnis für ein Unternehmen, das Aktionäre gewinnen möchte.

Typischerweise möchte ein Tech-Gigant seine Worst-Case-Szenarien verbergen. Diese Sorgen gehen weit über Science-Fiction hinaus. Anthropic weist darauf hin, dass sich verschlechternde Beziehungen zu Gesetzgebern die kommerzielle Attraktivität des Unternehmens zerstören könnten, so Reuters.

Probleme in Washington

Direkte Verkäufe an Regierungsbehörden machen weniger als ein Prozent des Gesamtumsatzes aus. Dennoch bleibt politische Reibung eine massive Belastung. Die Einreichung skizziert eine Reihe jüngster Auseinandersetzungen mit Bundesbehörden.

Der Winter brachte zwei große Rückschläge aus Washington. Zuerst verbot das Weiße Haus Bundesbediensteten, sich in die Systeme des Unternehmens einzuloggen. Kurz darauf stuften Verteidigungsbeamte das Unternehmen bezüglich der Lieferkette als schwerwiegendes nationales Sicherheitsrisiko ein.

„Das Unternehmen könnte erhebliche Umsatzverluste oder Geschäftsunterbrechungen erleiden, die auf diese Ereignisse zurückzuführen sind“, erklärt Anthropic in dem Dokument, wie von Reuters berichtet. Der Sommer brachte weitere regulatorische Schwierigkeiten.

Der globale Zugang zu den Systemen Fable 5 und Mythos 5 wurde eingestellt, als Regulierungsbehörden ein strenges Exportverbot verhängten. Das Unternehmen zog den Stecker für alle Nutzer, um gesetzeskonform zu bleiben, obwohl diese Beschränkungen schließlich aufgehoben wurden.

Angst vor einem Dominoeffekt

Die größte Befürchtung ist, dass aggressive Maßnahmen reguläre Unternehmenskäufer abschrecken werden. Das Unternehmen warnt, dass solche Maßnahmen „erheblichen Reputationsschaden, einschließlich negativer Medienberichterstattung, öffentlicher Kontrolle und negativer Wahrnehmung bei bestehenden und potenziellen Kunden, Partnern, Mitarbeitern und Investoren“ verursachen könnten, unabhängig davon, wie die Streitigkeiten gelöst werden. Diese finanzielle Angst entfaltet sich vor dem Hintergrund wachsender öffentlicher Besorgnis.

Jüngste Cyberangriffe, an denen unabhängige künstliche Intelligenz beteiligt war, führten zu einer größeren Intervention. CEO Dario Amodei drängte konkurrierende Entwickler, die Veröffentlichung neuer Technologien zu verlangsamen. Amodei speiste letzten Sonntag mit Präsident Donald Trump, um das angespannte regulatorische Klima zu besprechen.

Trump hat Forderungen nach strenger Aufsicht weitgehend abgetan. Die Federal Trade Commission untersucht jedoch mehrere Entwickler in diesem Sektor, was den Druck hochhält.

Quelle: Reuters