Lauge Risom Koch 
Der ehemalige Beamte für Biosicherheit im Weißen Haus, Raj Panjabi, warnt, dass die Behörden vordefinierte Auslöser festlegen müssen, um biologische Bedrohungen durch künstliche Intelligenz zu bewältigen.
Raj Panjabi, ehemaliger leitender Direktor für globale Gesundheitssicherheit und Bioabwehr im Weißen Haus, beleuchtet die kritischen Herausforderungen bei der Bewertung neu auftretender biologischer Bedrohungen. Laut Fortune erweist es sich oft als unglaublich schwierig, festzustellen, ob eine mehrdeutige Gesundheitssituation tatsächlich einen echten Notfall darstellt. Im Jahr 2023 nutzte Panjabi vordefinierte Übertragungsschwellenwerte, um zu verhindern, dass ein isolierter Ausbruch der H5N1-Grippe eine massive Pandemiepanik auslöste.
Präsident Donald Trump hat kürzlich mit führenden Technologieunternehmen das Abkommen des Weißen Hauses über Superintelligenz unterzeichnet, um die internen Sicherheitskontrollen zu stärken. Diese freiwillige Vereinbarung beauftragt führende Unternehmen mit der Überwachung des Betriebs und der Durchführung interner Bewertungen, um erhebliche Risiken wie die Biosicherheit zu bewältigen. Der aktuelle Rahmen überlässt es jedoch weitgehend den Technologiekonzernen, zu bestimmen, wann eine potenzielle Bedrohung ernst genug wird, um Maßnahmen zu rechtfertigen.
Technologiemanager warnen, dass fortschrittliche Systeme kürzlich gefährliche Schwellenwerte hinsichtlich ihrer Fähigkeit überschritten haben, verheerende biologische Waffen zu entwerfen. Anthropic deckte fünf Fälle auf, in denen Forscher Modelle missbrauchten, um zu untersuchen, wie sich das H5N1-Virus an Säugetiere anpasst und schwere Krankheiten verursacht. Als Reaktion darauf forderte der Vorstandsvorsitzende des Unternehmens den Sicherheitsrat der Vereinten Nationen auf, den Einsatz künstlicher Intelligenz zur Entwicklung biologischer Waffen zu verbieten.
Bewertung der Schwelle zwischen digitalem Design und physischer Realität
Der milliardenschwere Philanthrop Bill Gates äußerte kürzlich tiefe Besorgnis über die Möglichkeit, dass automatisierte Systeme Krankheitserreger entwerfen könnten, die Millionen töten können. Während fortschrittliche Modelle komplexe Forschungsprotokolle schreiben können, bleibt die Umwandlung digitaler Designs in physische Bedrohungen eine große technische Herausforderung. Die erfolgreiche Kultivierung eines gefährlichen Virus erfordert weiterhin synthetisiertes genetisches Material, spezielle Laborausrüstung und eine sichere physische Einrichtung.
Panjabi argumentiert, dass sich die Gesellschaft darauf konzentrieren muss, genau zu bestimmen, was automatisierte Systeme böswilligen Akteuren ermöglichen. Die genaue Beurteilung der Schwelle, an der digitale Fähigkeiten in physische biologische Waffen übergehen, bleibt die kritischste Aufgabe für die nationale Sicherheit. Aktuelle technologische Barrieren verhindern eine sofortige physische Bewaffnung und bieten den Behörden ein entscheidendes Zeitfenster, um wirksame Minderungsstrategien zu etablieren.
Die Beamten müssen spezifische beobachtbare Auslöser festlegen, die mit vorbestimmten Reaktionen gepaart sind, bevor ein Notfall durch künstliche Intelligenz tatsächlich eintritt. Mit Blick auf das bisherige Krisenmanagement bemerkte Panjabi: „In fast jeder Krise, in der ich gearbeitet habe, kam der entscheidende Moment, bevor sich jemand einig war, dass es eine gab.“ Die Festlegung klarer Kriterien verhindert, dass Regierungen echte Notfälle abtun oder bei isolierten und überschaubaren Gesundheitsvorfällen in Panik geraten.
Etablierung umsetzbarer Sicherheitsvorkehrungen und biologischer Tests
Eine wirksame Biosicherheit erfordert, dass unabhängige Gutachter fortschrittliche Modelle vor der öffentlichen Bereitstellung streng testen, anstatt sich auf freiwillige Unternehmensangaben zu verlassen. Panjabi beobachtet genau, ob Personen ohne formale Expertise künstliche Intelligenz nutzen, um komplexe experimentelle Probleme zu lösen, die normalerweise ein Expertenurteil erfordern. Die Identifizierung dieser Szenarien hilft festzustellen, ob die Barriere, die digitales Wissen von physischen Laborfähigkeiten trennt, zu erodieren beginnt.
Nationale Sicherheitsexperten empfehlen die Implementierung obligatorischer Wasserzeichen und fortschrittlicher Rückverfolgungstools für alle biologischen Designsysteme, um potenzielle Bedrohungen zu überwachen. Die Behörden müssen aktiv überwachen, ob Einzelpersonen versuchen, bedenkliche genetische Sequenzen bei kommerziellen Syntheseanbietern oder automatisierten Labors zu bestellen. Überparteiliche Rechtsvorschriften, die das Screening bei Syntheseanbietern und Cloud-Labors ausweiten sollen, sind leider seit Januar blockiert.
Das jüngste Abkommen der Führungskräfte stellt eine wichtige Anerkennung dafür dar, dass die Biosicherheit in das absolute Zentrum der technologischen Sicherheitsgespräche gehört. Sich jedoch ausschließlich auf interne Unternehmenskontrollen zu verlassen, bietet nicht den umfassenden Schutz, der erforderlich ist, um katastrophalen Bioterrorismus zu verhindern. Panjabi kommt zu dem Schluss, dass die Behörden genau definieren müssen, welche Beweise das Eindringen einer digitalen Bedrohung in die physische Welt signalisieren, und entsprechende Maßnahmen planen müssen.