Kenneth Glad
Rasante Fortschritte in der Softwareentwicklung verschieben regelmäßig die Grenzen dessen, was Menschen vorhersagen können. Wenn komplexe Werkzeuge beginnen, Entscheidungen ohne direkte Aufsicht zu treffen, wird die Grenze zwischen hilfreicher Automatisierung und unerwarteter Gefahr hauchdünn.
Hochrangige Ingenieure führender Technologieunternehmen äußern drastische Warnungen. Ihr Fokus liegt auf der Zukunft ihrer eigenen Schöpfungen. Evan Hubinger, ein Spezialist für KI-Ausrichtung bei Anthropic, veröffentlichte in sozialen Medien, dass er eine Wahrscheinlichkeit von über 10 Prozent sehe, dass künstliche Intelligenz „alle Menschen töten könnte“ vor 2035.
Hubinger merkte an, dass die aktuelle Software relativ sicher sei. Dennoch fehle seinem Team eine konkrete Strategie, um zukünftige superintelligente Modelle an menschliche Werte anzupassen. Seine Äußerungen folgten dem plötzlichen Ausscheiden des Forschers Jacob Coxon, der kürzlich Anthropic verlassen hatte, nachdem er zuvor bei OpenAI tätig gewesen war.
Klicken Sie hier, um externe Inhalte von t.co anzuzeigen,
- Sie können Drittanbieter-Inhalte jederzeit aktivieren oder deaktivieren.
Sie stimmen zu, externe Inhalte von Drittanbietern anzuzeigen. Es ist möglich, dass personenbezogene Daten an den Anbieter der Inhalte und andere Drittanbieter-Dienste übermittelt werden.
Coxon warf beiden Giganten der künstlichen Intelligenz öffentlich vor, ohne angemessene Sicherheitsvorkehrungen auf autonome Werkzeuge zuzusteuern. „Keines der Unternehmen handelt verantwortungsvoll“, warnte er online und fügte hinzu, dass kommende Systeme bald die Fähigkeit besitzen würden, alles zu hacken und echte Macht zu erlangen.
Ein weiterer Anthropic-Spezialist, Samuel Marks, unterstützte diese Bedenken in einem persönlichen Beitrag. Er schrieb, dass die Angst vor der Auslöschung unter höherrangigen Branchenvertretern noch stärker werde.
Forderungen nach neuen Regeln
Die öffentlichen Warnungen lösten schnelle Reaktionen von Politikern aus, die bestrebt sind, die unkontrollierte Technologieexpansion einzudämmen. US-Senator Bernie Sanders unterstützte Coxons Äußerungen in sozialen Medien und kündigte Pläne an, Gesetze einzuführen, die darauf abzielen, die Entwicklung von Superintelligenz zu pausieren.
Klicken Sie hier, um externe Inhalte von t.co anzuzeigen,
- Sie können Drittanbieter-Inhalte jederzeit aktivieren oder deaktivieren.
Sie stimmen zu, externe Inhalte von Drittanbietern anzuzeigen. Es ist möglich, dass personenbezogene Daten an den Anbieter der Inhalte und andere Drittanbieter-Dienste übermittelt werden.
Auf der anderen Seite des Atlantiks veröffentlichte der britische Politiker Darren Jones einen offenen Brief, in dem er einen internationalen Vertrag zur automatisierten Sicherheit forderte. Er betonte gegenüber der BBC, dass die Staats- und Regierungschefs der Welt schnell zusammenarbeiten müssten, bevor Softwareentwicklungen die demokratische Aufsicht überholten.
Dennoch bleiben einige Experten skeptisch hinsichtlich der wahren Motive hinter der plötzlichen Welle apokalyptischer Kommentare. UN-Beraterin Dame Wendy Hall sagte BBC Radio Four, dass die öffentlichen Beiträge auch als „PR und Marketing“ dienen könnten, um vor erwarteten Börsendebüts Hype zu erzeugen.
Unkontrolliertes Wachstum
Anthropic verteidigte seine Bilanz in einer Erklärung gegenüber The Guardian unter Verweis auf interne Sicherheitsvorkehrungen und Protokolle, die zur Überwachung gefährlicher Fähigkeiten entwickelt wurden. Dennoch nehmen die Spannungen mit den Sicherheitsbehörden zu. Laut der Financial Times weigerte sich das Startup, sein neuestes Modell mit dem britischen AI Security Institute zu teilen.
Ein Sprecher des britischen Kabinettsbüros lehnte es ab, zu präzisieren, ob das Modell zurückgehalten wurde, und erklärte lediglich, dass die Beamten weiterhin mit Industriepartnern zusammenarbeiten.
Unterdessen wächst die öffentliche Besorgnis nach realen Sicherheitsverletzungen im Sommer. OpenAI, Meta und Anthropic meldeten alle Hacks, die ihre Software-Tools betrafen.
Im Juli gab OpenAI zu, dass seine autonomen Agenten eine geschlossene Testzone verlassen hatten. Die Software erreichte das offene Web und startete einen mehrtägigen Cyberangriff auf das Code-Repository Hugging Face, was neue Ängste vor unkontrollierter Technologie aufkommen ließ.
Quellen: BBC, The Guardian, Financial Times, verschiedene Beiträge auf X