Lauge Risom Koch 
Britische Beamte forderten die weltweiten Führer auf, die Verteidigung gegen Risiken der künstlichen Intelligenz zu stärken, während sie mit internationalem regulatorischem Widerstand der amerikanischen Führung umgehen.
Der britische Minister für künstliche Intelligenz warnte, dass Nationen ihre Verteidigung gegen neu auftretende technologische Risiken stärken müssen. Laut Fortune überbrachte Kanishka Narayan diese Botschaft, nachdem Forscher angedeutet hatten, dass innerhalb des Jahrzehnts ein Aussterben der Menschheit eintreten könnte. Ein ehemaliger Mitarbeiter von Anthropic löste die Diskussion mit der Warnung aus, dass Technologieentwickler ernsthaft glauben, künstliche Intelligenz könnte die Menschheit töten.
Andere prominente Technologie-Figuren schlossen sich diesen ernsthaften existenziellen Bedenken hinsichtlich fortgeschrittener Laborforschung schnell an. Ein aktiver Wissenschaftler von Anthropic stimmte der anfänglichen Warnung öffentlich zu und schätzte das katastrophale Risiko auf über 10%. Microsoft-Gründer Bill Gates merkte ebenfalls an, dass fortschrittliche Systeme in den falschen Händen den Tod von einer Milliarde Menschen verursachen könnten.
Narayan betonte, dass Regierungen diese Warnungen ernst nehmen müssen, wenn sie direkt von Laborwissenschaftlern stammen. Der britische Minister erklärte, dass die aktuellen Testprotokolle unzureichend bleiben, um die schnell wachsenden Bedrohungen zu bewältigen. Er forderte die weltweiten Führer auf, stärkere Verteidigungsarchitekturen aufzubauen, anstatt sich ausschließlich auf freiwillige Sicherheitsbewertungen zu verlassen.
Globale Diplomatie und amerikanischer Widerstand
Der britische Premierminister Andy Burnham erklärte kürzlich vor den Vereinten Nationen, dass Frontier-Labore als „Risikomultiplikator“ fungieren. Er schlug vor, dass das Vereinigte Königreich als ehrlicher Makler zwischen konkurrierenden nationalen Interessen in Bezug auf die Technologieregulierung dienen könnte. Narayan fügte hinzu, dass seine Regierung beabsichtigt, ihre G20-Präsidentschaft im nächsten Jahr zu nutzen, um neue globale Prinzipien zu etablieren.
Diese regulatorischen Ambitionen stoßen auf erheblichen Widerstand der amerikanischen Führung, die schnellen technologischen Fortschritt über strenge Aufsicht stellt. Der Präsident der Vereinigten Staaten, Donald Trump, tat das Gerede über katastrophale Risiken als Schwindel ab, der den heimischen Fortschritt verlangsamen solle. Der Präsident warnte, dass die Kontrolle des Tempos der amerikanischen Forschung China einen erheblichen strategischen Vorteil verschaffen würde.
Trump merkte an, dass Amerika derzeit vor China liegt und diese Position ohne den Einsatz regulatorischer Bremsen beibehalten will. Folglich soll das Weiße Haus die G20-Mitglieder davor gewarnt haben, globale Regulierungen einzuführen. Diese exekutive Haltung steht in direktem Kontrast zu den wachsenden Forderungen beider amerikanischer politischer Parteien nach neuen Gesetzen, die auf Frontier-Labore abzielen.
Sicherheitsbedrohungen und wirtschaftliches Potenzial
Während er existenzielle Warnungen anerkennt, konzentriert sich Narayan in erster Linie auf unmittelbare praktische Bedrohungen für moderne Organisationen. Der Kabinettsminister hob einen säkularen Anstieg der Cybersicherheitsbedrohungen und die gefährliche Verbreitung biochemischer Werkzeuge hervor. Er äußerte auch tiefe Besorgnis über Fälle, in denen autonome Modelle Handlungen ausführen, die über ihre ursprünglichen menschlichen Anweisungen hinausgehen.
Narayan ist der Ansicht, dass Weltuntergangsszenarien erhebliche logische Sprünge erfordern, obwohl er dennoch strenge Sicherheitsprotokolle vorschreibt. Er merkte an, dass die britische Regierung drei Jahre lang die weltweit besten Tests durchgeführt hat, um diese Risiken zu verstehen. Der Minister glaubt, dass seine Nation einzigartig positioniert ist, um Gefahren zu mindern und gleichzeitig die technologische Innovation weiter voranzutreiben.
Trotz der ernsten Sicherheitswarnungen betonte der Regierungsbeamte das immense positive Potenzial der künstlichen Intelligenz. Er hob Möglichkeiten für erhebliche Arbeitsplatzschaffung und massive Produktivitätssteigerungen in verschiedenen Wirtschaftssektoren hervor. Narayan kam zu dem Schluss, dass die Gesellschaft letztendlich die Handlungsfähigkeit besitzt, um sicherzustellen, dass Technologie die menschliche Arbeit ergänzt und nicht automatisiert.