Super-KI: Wie real ist die Bedrohung?

In Neu-Delhi beraten Staats- und Regierungschefs derzeit über die Zukunft der Künstlichen Intelligenz. Neben wirtschaftlichen Chancen rückt dabei eine Frage immer stärker in den Mittelpunkt: Wie viel Kontrolle bleibt dem Menschen?

Ein Bericht von ntv.de zeigt, wie unterschiedlich Experten die Risiken einschätzen.

Gipfel unter Spannung

Beim „AI Impact Summit“ treffen Politiker auf Tech-Manager, um Leitplanken für die nächste Entwicklungsstufe der KI zu diskutieren. Für die Bundesregierung ist Digitalminister Karsten Wildberger vor Ort.

Er warnt vor Naivität im Umgang mit der Technologie. „Ich sehe da schon auch Gefahren und Herausforderungen“, sagte er laut ntv vor Journalisten. Schon heute beginne eine Abhängigkeit, wenn Menschen alltägliche Aufgaben an Algorithmen delegierten.

Die sicherheitspolitische Dimension werde deshalb zunehmend ernst genommen, auch ohne dass es bislang eine Superintelligenz gebe.

Szenarien extremer Art

Parallel dazu wird in der Forschung deutlich drastischer argumentiert. Die US-KI-Experten Eliezer Yudkowsky und Nate Soares veröffentlichten das Buch „If anyone builds it, everyone dies“ („Wenn das jemand baut, sterben alle“).

Ihre These: Sollte irgendwo auf der Welt eine Superintelligenz entstehen, könnte sie die Menschheit als Risiko für den Planeten betrachten. Sie sprechen von einer möglichen „Intelligenzexplosion“, falls KI-Systeme beginnen, sich selbstständig zu optimieren.

Konkrete Zeitangaben machen sie nicht. Doch sie halten es für möglich, dass ein solcher Entwicklungssprung prinzipiell bevorsteht.

Fortschritt mit Risiko

Weniger apokalyptisch, aber ebenfalls wachsam äußert sich Dario Amodei, Chef des KI-Unternehmens Anthropic. In einem Aufsatz schreibt er, es könne schon in ein bis zwei Jahren Systeme geben, die eigenständig leistungsfähigere Nachfolger entwickeln.

Ein solches „Land der Genies in einem Rechenzentrum“ hätte nach seiner Darstellung enormes strategisches Potenzial. Interne Tests hätten zudem gezeigt, dass KI-Modelle teils schwer kalkulierbar reagieren.

Gleichzeitig widersprechen andere Fachleute der Vorstellung einer baldigen vollständigen Autonomie.

Mahnung zur Nüchternheit

Antonio Krüger vom Deutschen Forschungszentrum für Künstliche Intelligenz rät zur Gelassenheit. „Abwarten“, sagte er im Deutschlandfunk, wie ntv berichtet. Komplexe Systeme müssten weiterhin überwacht und überprüft werden.

Von einer selbstständig handelnden Super-KI sei man nach seiner Einschätzung noch deutlich entfernt.

Die Debatte zeigt jedoch: Mit wachsender Leistungsfähigkeit steigt auch der Druck, Regeln und Kontrolle zu definieren. Zwischen technologischem Fortschritt und existenziellen Sorgen verläuft eine Diskussion, die gerade erst beginnt.

Quelle: ntv.de, Deutschlandfunk