Kenneth Glad
Wir stellen uns technologischen Fortschritt oft als einen stetigen Marsch vor. Doch manchmal lernt eine Maschine, eigenständig zu gehen, und aus dem gleichmäßigen Tempo wird plötzlich ein Sprint.
Das führende KI-Unternehmen Anthropic hat laut TechCrunch eine bemerkenswerte Warnung ausgesprochen. In einem nüchternen Finanzdokument präsentierten die Entwickler von Claude eine wichtige Einschätzung ihrer zukünftigen Entwicklung. Die überarbeitete S-1-Einreichung vom Montag sollte vor allem die steigenden Einnahmen und wachsenden Ausgaben hervorheben, enthielt im Kleingedruckten jedoch eine weitaus bedeutendere Warnung.
Die Entwicklung könnte sich erheblich beschleunigen. Anthropic deutet an, kurz vor einem historischen Durchbruch im Bereich der sogenannten rekursiven Selbstverbesserung zu stehen.
Dabei erreicht ein KI-System einen Entwicklungsstand, auf dem es zu seiner eigenen Weiterentwicklung und seinem Training beitragen kann. Bislang hatten viele Branchenexperten diese Vorstellung als vages Schlagwort oder als Ziel abgetan, das noch in weiter Ferne liegt.
Kritiker sehen darin einen potenziell gefährlichen Wendepunkt. Sie befürchten, dass sich die Software der menschlichen Kontrolle entziehen könnte. Befürworter versprechen sich dagegen enorme wissenschaftliche Fortschritte und eine beispiellose Steigerung der wirtschaftlichen Produktivität.
Die Entwicklung nimmt Fahrt auf
Das Unternehmen spricht die damit verbundenen Risiken direkt an. In einer kürzlich veröffentlichten Finanzmitteilung stellt Anthropic fest, dass Entwickler bereits in hohem Maße auf KI-Technologie zurückgreifen, um ihre eigene Forschung voranzutreiben. Dadurch entsteht eine wirkungsvolle Rückkopplungsschleife, in der die Technologie dabei hilft, ihre nächste Generation zu entwickeln.
Gleichzeitig erkennt das Unternehmen die Risiken an und erklärt: „Der Einsatz von KI zur Entwicklung leistungsfähigerer KI könnte auch ein erhebliches Sicherheitsrisiko darstellen, insbesondere wenn er das Entwicklungstempo stark beschleunigt. Dies ist einer der Bereiche, die unsere Richtlinie für verantwortungsvolle Skalierung abdeckt, in der wir unsere Pläne zur Überwachung und Minderung der Risiken darlegen, während wir uns dem nähern, was als ‚rekursive Selbstverbesserung‘ bezeichnet wird.“
Das Unternehmen räumt zudem etwas Überraschendes über die rasante Entwicklung ein. In der Vergangenheit hatte Anthropic sprunghafte Verbesserungen der Fähigkeiten seiner eigenen Systeme teilweise erst im Nachhinein erkannt.
Claude hat in diesem Jahr erhebliche Fortschritte in komplexen Bereichen wie Programmierung und Cybersicherheit gemacht. Deshalb befürchten die Entwickler, dass sich die Software wesentlich schneller weiterentwickeln könnte, als das Unternehmen geeignete Maßnahmen zur Ausrichtung und Sicherheit der Systeme entwickeln kann.
Eine entscheidende Schwelle rückt näher
Interne Schätzungen deuten auf eine bevorstehende Veränderung hin. Angesichts des intensiven Wettbewerbs im Technologiesektor werden die Zeiträume dafür immer kürzer. Das Unternehmen warnt davor, dass künftige Systeme eine entscheidende Schwelle wesentlich früher als erwartet überschreiten könnten.
Anthropic weist darauf hin, dass das Unternehmen möglicherweise schon bald seine eigene Definition eines „dramatisch beschleunigten, der KI zuzuschreibenden Fortschritts“ erfüllen könnte. Diese Schwelle bezeichnet den Punkt, an dem die Software beginnt, wie ein kompetenter Ingenieur zu arbeiten und komplexen Programmcode zu schreiben, um die nächste Generation von KI-Modellen zu entwickeln.
Dennoch betonen die Entwickler einen wichtigen Punkt. Keines ihrer derzeitigen KI-Systeme hat diese Schwelle bislang überschritten. Das Team untersucht die zugrunde liegenden Daten sorgfältig, um mögliche weitere Entwicklungen einzuschätzen und sicherzustellen, dass die Sicherheitsvorkehrungen auf den nächsten großen Fortschritt vorbereitet sind.
Die menschliche Kontrolle bewahren
Trotz der rasanten Fortschritte verspricht das Unternehmen, die Entwicklung nicht vollständig den KI-Systemen zu überlassen. Menschen sollen auch künftig maßgeblich in den Entwicklungsprozess eingebunden bleiben. Das bedeutet, dass Forscher weiterhin die zugrunde liegenden mathematischen Grundlagen und den Programmcode überprüfen sollen, bevor ein selbsttrainierendes System zum Einsatz kommt.
Das Unternehmen erklärt: „Wir gehen nicht davon aus, Claude ohne angemessene menschliche Aufsicht oder ein entsprechendes Verständnis sicher einsetzen zu können, um nachfolgende Generationen von Spitzenmodellen vollständig autonom zu entwerfen und zu entwickeln, falls und sobald dies technisch möglich wird. Dementsprechend erwägen wir eine Aktualisierung unserer Richtlinie für verantwortungsvolle Skalierung, um die menschliche Kontrolle über die Entwicklung von Spitzenmodellen bei Anthropic zu bewahren.“
Skeptiker betrachten die Entwicklung allerdings aus einer anderen Perspektive. Finanzdokumente können auch als Verkaufsargument für finanzstarke Investoren dienen. Deshalb könnten Andeutungen über nahezu gottgleiche technische Fähigkeiten lediglich ein geschickter Marketingtrick sein, um die Unternehmensbewertung zu steigern.
Kritiker argumentieren, das Unternehmen verkaufe letztlich nur Science-Fiction. Sollten die Entwickler jedoch recht behalten, könnten die Auswirkungen weitreichend sein. Regierungen müssten dann möglicherweise völlig neue Gesetze erlassen, um Software zu regulieren, die sich selbst weiterentwickelt.