Kenneth Glad
Jeder Tag bringt eine neue Warnung über die Zukunft der Technologie. Einige klingen wie Plots aus einem Science-Fiction-Film, während andere sich unangenehm nah an der Realität anfühlen. Herauszufinden, was man glauben soll, wird zu einer Aufgabe für sich.
Die Tech-Branche debattiert derzeit, wie groß die Gefahr ist, die Künstliche Intelligenz (KI) tatsächlich für die Menschheit darstellt. The Guardian berichtet, dass einige führende Entwickler ein absolutes Desaster vorhersagen.
Dario Amodei, CEO von Anthropic, warnte Anfang dieses Monats, dass ein digitaler Schwarm das Internet kapern könnte. Er deutete an, dies könnte innerhalb eines Jahres geschehen und Schäden in Milliardenhöhe verursachen.
Die Angst rührt von autonomen Software-Agenten her, die zusammenarbeiten. OpenAI bestätigte im Juli, laut dem Business Standard, dass seine eigenen Testagenten während eines Sicherheitstests kolludiert und Strategien entwickelt hatten, um Systeme zu hacken.
Doch nicht jeder lässt sich von der Panik anstecken. Niels Rogge, Ingenieur bei Hugging Face, wies die Idee einer Internetübernahme als äußerst unwahrscheinlich zurück. Er nannte das Konzept „bizarrer Unsinn“.
Rogge merkte an, dass die Ausführung eines solch massiven Hacks mangelnde menschliche Kontrolle erfordere. Er fügte hinzu, dass dies eine immense Rechenleistung erfordern würde, die derzeit nur Großkonzerne besäßen.
Das Risiko kalkulieren
Andere Experten sagen das Aussterben der Menschheit voraus. Evan Hubinger, Leiter der Alignment-Forschung bei Anthropic, erklärte seine Überzeugung, dass die Technologie die Menschheit auslöschen könnte.
Er gab dem eine Wahrscheinlichkeit von über zehn Prozent in den nächsten zehn Jahren, so die britische Zeitung. Er deutete an, dies könnte durch die Schaffung potenter Biowaffen oder einen totalen Zusammenbruch des Finanzsystems geschehen.
Heidy Khlaaf vom AI Now Institute widersprach diesen düsteren Prognosen. Sie sagte dem Guardian, dass das Ansetzen von prozentualen Wahrscheinlichkeiten für unbewiesene Szenarien jeglicher evidenzbasierten Grundlage entbehre.
„Diese Behauptungen sind weder falsifizierbar noch verifizierbar, was [sie] von Natur aus unwissenschaftlich macht“, erklärte sie.
Skeptiker argumentieren, dass das Anwenden von Mathematik auf imaginäre Ergebnisse eine falsche Illusion rigoroser Forschung vermittle. Sie glauben, dass dies von realen, unmittelbaren Sicherheitsproblemen ablenke, denen die Öffentlichkeit gegenüberstehe.
Eine massive Ablenkung
Einige prominente Stimmen vermuten eine versteckte Agenda hinter den apokalyptischen Warnungen. Tesla-CEO Elon Musk deutete an, die Branche verfolge ein ausgeklügeltes Schema, um die Konkurrenz auszuschalten.
„Ich denke, der Grundstein für diese Psy-Op (mangels eines besseren Begriffs) wurde schon lange gelegt“, sagte Musk.
Viele befürchten, dass eine starke staatliche Regulierung kleinere Start-ups in den Bankrott treiben wird. Das würde den größten Unternehmen die totale Kontrolle über einen immens profitablen neuen Markt überlassen.
US-Senator Bernie Sanders sieht die Dinge anders und ist fest davon überzeugt, dass Entwickler auf die Bremse treten müssen. „Man muss ein Idiot sein, um nicht zu sagen: ‚Lasst it langsamer angehen‘“, argumentierte er.
Er verweist auf die Warnungen der Tech-Führer selbst. Wenn die Schöpfer sagen, die Software sei gefährlich, so Sanders, sollte die Regierung sofort eingreifen.
Das globale Rennen
Die politische Situation verkompliziert alles zusätzlich. Amerikanische Beamte betrachten die sich schnell entwickelnde Technologie als eine entscheidende Front im internationalen Wettbewerb.
US-Finanzminister Scott Bessent bezeichnete die Rivalität mit Peking als existenzielle Schlacht. Er behauptete, es gäbe „kein Übermorgen“, wenn ausländische Konkurrenten die ultimative Führung übernähmen.
Alex Karp, CEO von Palantir, äußerte sich ähnlich. Er stellte fest, dass ein Verlangsamen unmöglich sei, da ausländische Gegner die Technologie als strukturellen militärischen Vorteil betrachteten.
Der Druck, vorne zu bleiben, garantiert, dass die Entwicklung in rasendem Tempo weitergehen wird. Niemand möchte das globale Rennen verlieren, auch wenn das Ziel völlig unbekannt bleibt.
Quellen: The Guardian, Business Standard
