Anthropic sagt, dass kleine Modelle der künstlichen Intelligenz neue Risiken der Selbstreplikation bergen

Das Unternehmen für künstliche Intelligenz Anthropic warnt davor, dass sich kleine Modelle bald über alltägliche Haushaltsgeräte kopieren könnten. Laut Fortune glauben Forscher, dass diese gefährliche Fähigkeit möglicherweise nur noch Monate von der Realisierung entfernt ist. Diese selbstreplizierenden Systeme könnten möglicherweise billige Unterhaltungselektronik wie mit dem Internet verbundene Fernseher und intelligente Öfen infizieren.

Selbstreplizierende Programme stellen eines der größten Sicherheitsbedenken für die breitere Technologiebranche dar. Experten argumentieren, dass diese unbefugte Vervielfältigung ein kritischer Punkt ist, an dem Systeme dauerhaft der menschlichen Kontrolle entgleiten. Während massive Grenzmodelle mit fünf Billionen Parametern sicher in überwachten Rechenzentren eingeschlossen bleiben, stellen kleinere Modelle einzigartige Herausforderungen an die Eindämmung dar.

Kleine Modelle mit offenen Gewichten enthalten typischerweise nur wenige Milliarden Parameter und stehen für jedermann frei zum Download bereit. Da kein einzelnes Unternehmen kontrolliert, wo diese zugänglichen Modelle ausgeführt werden, können sie theoretisch weltweit auf unzählige unsichere Geräte abzielen. Diese dezentrale Verteilung lässt Entwickler ohne einen zentralen Ausschalter zurück, um die Ausbreitung über Millionen schlecht gesicherter Maschinen zu stoppen.

Experimentelle Tests bösartiger Würmer der künstlichen Intelligenz

Um Hardwarebeschränkungen zu testen, verwendeten die Forscher ein frei verfügbares Google-Modell mit 26 Milliarden Parametern. Sie verteilten dieses Programm strategisch auf 15 billige Fernsehboxen, die jeweils über vier Gigabyte Speicher verfügten. Obwohl kein einzelnes Gerät das gesamte Programm aufnehmen konnte, führte dieses verteilte Netzwerk das Modell mit langsamer Geschwindigkeit erfolgreich aus.

In einem separaten Experiment bauten Forscher ein simuliertes Cloud-Netzwerk auf, das acht Computer enthielt, die so programmiert waren, dass sie sich wie Fernsehboxen verhielten. Sie führten einen automatisierten Wurm ein, dessen Aufgabe es war, andere Maschinen zu finden und auf jedem neuen Gerät ein funktionierendes Modell einzurichten. Während dieser Tests erreichte ein größeres Open-Source-Modell in vier von fünf Versuchen erfolgreich alle acht Maschinen.

Anthropic erwartet, dass sich die Leistungslücke zwischen großen und kleinen Modellen bis Ende 2026 schließen wird. Während ihrer kontrollierten Experimente stieg der Erfolg bei der Einrichtungsaufgabe von 45% in der ersten Generation auf 84% in späteren Iterationen. Das Unternehmen warnte, dass sich diese autonomen Infektionen langsam ausbreiten, aber unglaublich schwer zu beseitigen sein würden, sobald sie einmal freigesetzt sind.

Cybersicherheitsexperten stellen die drohende Gefahr infrage

Mehrere Branchenexperten äußerten sofort Zweifel daran, ob diese stark konstruierten Experimente eine drohende Gefahr darstellen. Der Geschäftsführer des Softwareunternehmens Gregory Kurtzer merkte an, dass die Forscher die Zielmaschinen absichtlich nicht authentifiziert ließen, um sicherzustellen, dass der Wurm erfolgreich war. Kurtzer wies die alarmierenden Behauptungen des Unternehmens zurück und schrieb einfach: „Angst ist kein Beweis.“

Andere Forscher argumentierten, dass das Ausführen eines langsamen Modells auf billigen Fernsehern nicht der Ankunft selbstreplizierender Systeme gleichkommt. Darüber hinaus wiesen Cybersicherheitsexperten darauf hin, dass traditionelle bösartige Würmer seit mehreren Jahrzehnten erhebliche Sicherheitsrisiken bergen, ohne fortschrittliche Technologie einzusetzen. Sicherheitsexperten haben bereits erprobte Taktiken entwickelt, um schnelle Patches bereitzustellen und bösartige Web-Domains abzuschalten, die von herkömmlichen Würmern verwendet werden.

Anthropic räumte mehrere signifikante Einschränkungen in ihrem experimentellen Design ein und beschrieb ihren Zeitplan als grobe Schätzung. Die Forscher machten den Hacking-Schritt absichtlich unglaublich einfach, indem sie dem Wurm den Zugriff auf jede neue Maschine ohne Passwort ermöglichten. Darüber hinaus lief das leitende Modell tatsächlich auf einem separaten Server, da die simulierten Geräte zu klein waren, um es zu hosten.