Kenneth Glad
Immer wieder flackern neue Schreckensmeldungen über unsere Bildschirme. Wir werden vor dem Ende der Welt gewarnt, während die Technik in unseren Taschen still und leise verändert, wie wir leben, arbeiten und einander vertrauen. Doch die lautesten Warnungen treffen nicht immer ins Schwarze.
Tech-Bosse im Silicon Valley beschwören gerne filmreife Weltuntergangsszenarien, in denen außer Kontrolle geratene KI-Systeme alles Leben auf der Erde auslöschen. Die Aufregung nahm im Sommer weiter zu, als ein KI-Agent von OpenAI aus einer abgeschotteten Testumgebung ausbrach und sich Zugang zur Open-Source-Plattform Hugging Face verschaffte.
Doch führende Forscher warnen davor, dass solche Horrorszenarien von unmittelbareren Gefahren ablenken. Laut einer Untersuchung von WIRED, für die Fachleute aus den Bereichen Informatik, Verteidigung und Ethik befragt wurden, sind die tatsächlichen Risiken weitaus konkreter.
Atomkatastrophe: Die Gefahr ist real
Der Einsatz künstlicher Intelligenz in sicherheitskritischen Nuklearsystemen sorgt bereits für Besorgnis. Heidy Khlaaf, leitende KI-Wissenschaftlerin am AI Now Institute und ehemalige Sicherheitsingenieurin bei OpenAI, warnte davor, dass Verteidigungsbehörden unzuverlässige automatisierte Systeme viel zu schnell einführen. Ein schwerwiegender Softwarefehler könnte katastrophale Folgen haben.
Khlaaf erinnerte daran, dass die moderne Sicherheitsbewertung ihre Wurzeln im Manhattan-Projekt hat und auf messbaren Risiken basiert, darunter Schätzungen möglicher Todesopfer. Ihrer Ansicht nach umgehen große KI-Labore diese etablierten Standards jedoch mit vagen und wissenschaftlich nicht belegten Behauptungen.
Der Stanford-Ethikprofessor Rob Reich hält Science-Fiction-Szenarien vom Aussterben der Menschheit dagegen für wenig plausibel. Stattdessen warnte er davor, dass leistungsfähige KI in die Hände skrupelloser Akteure geraten könnte, die damit Stromnetze lahmlegen oder gefährliche chemische Stoffe freisetzen.
Schon ein einzelner Teenager mit Zugang zu hochentwickelten KI-Werkzeugen könnte im schlimmsten Fall Internetverbindungen oder Finanzmärkte lahmlegen. Tech-Unternehmen würden niemals Plutonium im Namen des freien Zugangs verteilen, feiern aber gleichzeitig die breite Verfügbarkeit potenziell gefährlicher KI-Systeme.
Echte Demokratie erfordert klare Regeln und öffentliche Kontrolle. Reich fragte: „Wo bleibt die politische Kontrolle bei Ihrer verdammten Demokratisierung der KI?“
Die akuten Gefahren sind längst da
Auch die Risiken in der biologischen Forschung sind alarmierend. Steph Guerra, Expertin für Biosicherheit bei der Rand Corporation, erklärte, dass KI-Assistenten die Zeit für die Entwicklung von Genabschnitten potenziell pandemischer Viren von Monaten auf Wochen verkürzen könnten.
Solche Werkzeuge werden zunehmend in Laborabläufe integriert und unterstützen komplexe Experimente. Die Gefahr schwerwiegender Folgen wächst, wenn spezialisiertes Laborwissen leichter zugänglich wird und Bestellungen von DNA-Fragmenten nicht ausreichend kontrolliert werden.
Hinzu kommen die Folgen für den Alltag. Junge Arbeitnehmer verlieren bereits Beschäftigungsmöglichkeiten, und in besonders stark von KI betroffenen Berufsfeldern ist die Beschäftigung junger Erwachsener um fast 20 Prozent zurückgegangen.
An Universitäten setzen Lehrkräfte zunehmend auf zeitlich begrenzte und beaufsichtigte Prüfungen, weil Studierende immer häufiger KI-Werkzeuge nutzen, statt schwierige Aufgaben eigenständig zu lösen. Gleichzeitig konzentriert sich die Macht über die Technologie weiterhin auf wenige große Unternehmen.
Ein gefährlicher Wettlauf um die Weltherrschaft
Die geopolitische Rivalität heizt den Wettlauf der Tech-Konzerne zusätzlich an. KI-Pionier Yoshua Bengio erklärte gegenüber WIRED, dass sich die Konkurrenz zwischen den USA und China zu einem weitgehend unkontrollierten Machtkampf entwickelt habe.
Tech-Bosse sprechen inzwischen lieber davon, das Entwicklungstempo zu steuern, als die KI-Entwicklung vollständig zu pausieren. Konkrete Grenzen bleiben dabei unklar, obwohl die Sorge wächst, dass ein schwerwiegender KI-Vorfall eine Wirtschaftskrise auslösen könnte.
Bengio rief Forscher in KI-Laboren dazu auf, aus ethischen Gründen einen Wechsel zu unabhängigen Organisationen in Betracht zu ziehen, die sich mit Sicherheitsfragen beschäftigen. Auch die Bevölkerung dürfe nicht einfach darauf warten, dass die Tech-Konzerne ihre Probleme selbst lösen.
Nach Bengios Ansicht müssen Bürger ihre Politiker dazu drängen, konkrete Sicherheitspläne vorzulegen, bevor die Kontrolle über kritische Systeme verloren geht. „Das ist auch Ihre Aufgabe“, sagte er.
Die entscheidende Frage ist längst nicht mehr nur, wie mächtig künstliche Intelligenz eines Tages werden könnte, sondern auch, welchen Schaden sie anrichten kann, bevor die Regierungen handeln. Für die warnenden Forscher ist es wichtiger, konkrete Gefahren einzudämmen, als darüber zu spekulieren, ob Maschinen eines Tages die Menschheit auslöschen werden.
