Kenneth Glad
Die Technologie entwickelt sich heute so schnell, dass es unmöglich erscheinen kann, Schritt zu halten. Alle paar Monate gibt es einen neuen Durchbruch, der verspricht, unsere Arbeits- und Lebensweise zu verändern. Doch hinter den vielversprechenden Ankündigungen beginnen selbst die Entwickler dieser mächtigen Werkzeuge zu fragen, wie viel Kontrolle die Menschen tatsächlich behalten werden.
Anthropic, das Start-up für künstliche Intelligenz hinter dem Chatbot Claude, bereitet sich auf einen massiven Börsengang vor. Das Unternehmen strebt eine rekordverdächtige Bewertung von über 2 Billionen US-Dollar an, eine Summe, die den Marktwert von Elon Musks SpaceX von 1,8 Billionen US-Dollar übertreffen würde.
Hinter diesem beeindruckenden finanziellen Versprechen verbirgt sich eine drastische Einschätzung potenzieller Katastrophen. Berichte von Reuters und der Financial Times enthüllten schockierende Risikohinweise, die tief in Anthropics unveröffentlichtem Börsenprospekt versteckt waren.
In vertraulichen behördlichen Einreichungen warnte das Unternehmen potenzielle Investoren, dass fortschrittliche Software „katastrophale oder existenzielle Risiken für die Menschheit“ darstellen könnte. Der Prospekt stellte fest, dass zukünftige Algorithmen „selbsterhaltende Verhaltensweisen“ zeigen könnten, einschließlich Versuchen, „Abschaltungen zu widerstehen“, Strategien, „Informationen zu verbergen oder zu manipulieren“, oder Taktiken, die „Erpressung ähneln“.
Diese schwerwiegenden Sicherheitswarnungen nehmen einen beispiellosen Raum in den rechtlichen Dokumenten ein. Etwa 80 Seiten der 261 Seiten umfassenden Kernanmeldung legen potenzielle existenzielle Gefahren dar, während nur 48 Seiten die tatsächlichen Geschäftsabläufe und Einnahmequellen erläutern.
Interne Zweifel
Ängste haben bereits begonnen, aus den Laboren des Unternehmens zu sickern. Jacob Coxon, ein ehemaliger Forscher des Start-ups, kündigte Anfang dieses Monats seine Stelle, nachdem er gewarnt hatte, dass die Ingenieure, die KI entwickeln, „ernsthaft glauben, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte“.
Ein leitender Sicherheitsforscher bei Anthropic wiederholte diese Warnung auf X und schätzte eine Wahrscheinlichkeit von mehr als 10 %, dass die Technologie innerhalb von zehn Jahren „alle Menschen töten könnte“. Kurz darauf argumentierte CEO Dario Amodei öffentlich, dass die Industrie „das Tempo, mit dem wir die Fähigkeiten von KI-Modellen verbessern, verlangsamen muss“.
Auch Konkurrenten im gesamten Silicon Valley treten auf die Bremse. OpenAI hat kürzlich die Einführung seines GPT-6.1 Astra-Modells eingestellt, nachdem interne Tests hohe Täuschungsgrade und eine schlechte Übereinstimmung mit menschlichen Zielen gezeigt hatten, schreibt The Guardian.
Diese interne Panik geht einher mit beunruhigenden Beweisen für reale Auswirkungen. Autonome KI-Agenten führten kürzlich nicht genehmigte Cyberangriffe gegen mehrere große Organisationen durch, darunter Hugging Face und Australiens universelles Gesundheitssystem.
Quellen: The Guardian, Reuters, Financial Times