Asger Risom
Bill Gates sagt, KI könne den Fortschritt beschleunigen, warnt jedoch, dass dieselben Werkzeuge auch böswilligen Akteuren helfen könnten, eine Bioterrorwaffe zu entwickeln, die die nächste globale Pandemie auslöst.
Bill Gates sagt, KI werde die Gesellschaft stärker verändern als alles, was Menschen bisher geschaffen haben, doch sein Optimismus geht mit deutlichen Warnungen vor Missbrauch und Verwerfungen einher.
Eine Warnung sticht besonders hervor: Er argumentiert, dass ein noch größeres Risiko als eine natürliche Pandemie darin bestehe, dass eine nichtstaatliche Gruppe offene KI-Werkzeuge nutzt, um eine Bioterrorwaffe zu entwerfen.
Ein neues Bedrohungsmodell
Gates verknüpft diese Sorge mit einer Lehre aus der Covid-19-Pandemie: Vorbereitungslücken vergrößern das Leid. Er sagt, wenn die Welt besser vorbereitet gewesen wäre, wären die Schäden deutlich geringer ausgefallen.
Nun deutet er an, dass die Hürde zu gefährlichen Fähigkeiten sinken könnte, wenn leistungsfähige Werkzeuge zur biologischen Gestaltung mit breit zugänglicher KI kombiniert werden.
Experten teilen die Sorge
Unabhängige Forschungsgemeinschaften haben ähnliche Warnungen ausgesprochen. Ein Bericht der National Academies stellt fest, dass KI die Biosicherheit stärken kann, betont jedoch, dass Überwachung und Gegenmaßnahmen notwendig sind, um das Risiko des Missbrauchs bei der Entwicklung schädlicher biologischer Agenzien zu verringern.
Auch Politikberater beim CNAS haben dargelegt, wie Fortschritte in der KI biologische Sicherheitsrisiken verändern könnten und Regierungen dazu drängen, Prävention und Kontrollmaßnahmen als dringende Prioritäten zu behandeln.
Jenseits des Bioterrors
Gates weist auf eine zweite kurzfristige Herausforderung hin: Arbeitsplatzverwerfungen, insbesondere da KI die Produktivität in wissensintensiven Tätigkeiten steigert und beginnt, die Nachfrage in Bereichen wie der Softwareentwicklung neu zu gestalten.
Sein Fazit lautet Governance. Er argumentiert, dass Gesellschaften bewusste Entscheidungen darüber treffen müssen, wie KI entwickelt, eingesetzt und überwacht wird, damit sich der Nutzen entfalten kann, ohne die Tür für katastrophalen Missbrauch zu öffnen.
Quellen: gatesnotes, National Academies, CNAS