Jens Asbjørn Bøgen
Seine Warnung erfolgt zu einem Zeitpunkt, an dem der globale Wettbewerb an Fahrt gewinnt und politische Diskussionen Mühe haben, Schritt zu halten.
Eine führende Stimme im Bereich der Sicherheit künstlicher Intelligenz hat die Debatte über die langfristigen Risiken fortgeschrittener Systeme neu entfacht und argumentiert, dass die Gesellschaft das Ausmaß der Bedrohung drastisch unterschätze.
In einem Gespräch in Lex Fridmans Podcast sagte Roman Yampolskiy, Informatiker an der University of Louisville, er sehe langfristig kein gutes Ergebnis für die Menschheit, falls wir allgemeine Superintelligenzen entwickeln.
Tatsächlich zitieren Futurism und Express Yampolskiy mit der Aussage im Interview, dass es ein Risiko von 99,9 % gebe, dass KI die Menschheit innerhalb des nächsten Jahrhunderts auslöschen könnte.
Das Interview, das im Sommer 2024 veröffentlicht wurde, präsentierte seine Ansicht, dass kein existierendes Modell echte Sicherheit bewiesen habe und künftige Versionen kritische Schwächen erben oder verstärken könnten.
Das Unbekannte erforschen
Yampolskiy, bekannt für seine Arbeit in KI-Sicherheit und Cybersicherheit, gehört zu einer kleinen, aber einflussreichen Gruppe früher KI-Pioniere, die Regierungen dazu drängen, potenzielle katastrophale Folgen anzuerkennen.
Seine Bedenken gewannen an Aufmerksamkeit während dessen, was er als ein sich verschärfendes Rennen um technologische Vorherrschaft unter Präsident Donald Trumps KI-Wettbewerbsagenda beschrieb.
Laut Yampolskiy resultiert das größte Risiko aus einer wachsenden Kluft zwischen KI-Leistung und menschlicher Aufsicht, wodurch die Gesellschaft Technologien ausgesetzt sei, die sie nicht zuverlässig kontrollieren könne.
Deutliche Meinungsverschiedenheiten
Nicht alle Forschenden teilen seine Prognose.
Eine Studie der University of Oxford und der Universität Bonn, basierend auf den Antworten von mehr als 2.700 KI-Fachleuten, schätzte die Wahrscheinlichkeit eines menschlichen Aussterbens durch KI auf lediglich 5 %.
Mitautorin Katja Grace merkte an, die Debatte drehe sich vor allem um das Ausmaß der Gefahr. „Die Uneinigkeit scheint darin zu bestehen, ob das Risiko 1 % oder 20 % beträgt“, sagte sie.
Mehrere hochrangige Technologen, darunter Google-Brain-Mitgründer Andrew Ng und KI-Wegbereiter Yann LeCun, haben Auslöschungsbefürchtungen vollständig zurückgewiesen. LeCun warf Branchenführern wie OpenAI-Chef Sam Altman vor, aus strategischen Gründen „alarmistische“ Erzählungen voranzutreiben.
Quellen: Lex Fridman Podcast, University of Louisville, University of Oxford, Express, Futurism