Kenneth Glad
Wir vertrauen darauf, dass Maschinen unsere Termine verwalten und E-Mails entwerfen. Ihnen jedoch ein scharfes Instrument anzuvertrauen, erfordert ein ganz anderes Maß an Vertrauen. Ein Start-up hat diese Grenze nun überschritten, und die Ergebnisse wirken wie aus einem Science-Fiction-Film.
Ein kalifornisches Biotechnologieunternehmen ließ kürzlich ein KI-Modell eine Hirnoperation an einer lebenden Maus durchführen. Gabriel Ocana Santero leitet das Unternehmen Exin Therapeutics in San Francisco. Laut Wired wollte er herausfinden, was passiert, wenn ein digitaler Assistent die physische Kontrolle über Laborgeräte erhält.
Das Team baute eine speziell angefertigte Operationsstation. Eine Kamera überwachte, wie die Software eine robotergesteuerte Nadel führte, um dem Tier eine Gentherapie mittels Injektion zu verabreichen.
Zunächst öffnete ein Tierarzt den Schädel der Maus. Anschließend übernahm die Maschine die Kontrolle. Sie wählte anhand einer Tabelle die genaue Behandlung aus und regelte die Geschwindigkeit der präzisen Injektion.
Die Maschine sagt Nein
Das Experiment verlief nicht ganz nach Plan. Laut Wired versuchten die Forscher zunächst, das von Anthropic entwickelte KI-System Claude Opus 5.5 einzusetzen.
Die Software weigerte sich schlichtweg, die Nadel einzuführen. Sie erkannte ein Sicherheitsrisiko und stoppte den Vorgang, bevor das Tier möglicherweise verletzt werden konnte.
Santero erklärte gegenüber Wired, das System habe die Versuchsplanung problemlos bewältigt, bevor es den Eingriff verweigerte. „Es hat die Versuchsplanung durchgeführt, aber als es Zeit für die Injektion war, sagte es: ‚Etwas in meiner Ausgabe sagt mir, dass ich das nicht tun sollte‘“, so Santero.
Softwarewechsel
Exin Therapeutics wechselte daraufhin rasch zu Claude Sonnet 5. Diese Version der Software war bereit, die Aufgabe abzuschließen.
Das Team hatte umfangreiche Sicherheitsvorkehrungen getroffen. Ein Mensch musste den endgültigen Plan genehmigen, und über einen großen Not-Aus-Schalter ließ sich die Stromversorgung im Notfall sofort unterbrechen.
Dennoch führte ein kleiner Softwarefehler während des Eingriffs zu fehlerhaften Koordinaten. Der Hauptassistent bemerkte das Problem, weigerte sich jedoch, seinen eigenen Code zu ändern, um es zu beheben.
Ein weiterer digitaler Assistent musste einspringen und den Code ohne nähere Kenntnis der Zusammenhänge korrigieren. Die Korrektur funktionierte, doch die unerwartete Verzögerung verlängerte den normalerweise 45-minütigen Eingriff auf deutlich mehr als eine Stunde.
Ausblick
Die Maus überlebte den Eingriff. Santero bestätigte, dass sie sich gut erhole, während das Team darauf wartet, ob die Epilepsiebehandlung die Anfälle eindämmen kann.
Derzeit ist das Start-up davon überzeugt, dass automatisierte Laborsysteme direkt an lebenden Organismen lernen müssen, statt sich nur auf Lehrbücher zu stützen. Santeros Team plant, schon bald weitere KI-Modelle wie Grok zu testen.
Langfristig sollen Computer neben der Injektion auch das anfängliche Bohren in den Schädel übernehmen. Damit möchte das Unternehmen weitere Schritte des chirurgischen Eingriffs automatisieren.
Menschliche Aufsicht bleibt unerlässlich, insbesondere bei Eingriffen an Lebewesen. Der Einsatz autonomer Systeme bei Operationen an Menschen liegt noch in weiter Ferne, und das robotergesteuerte Durchtrennen von Knochen birgt erhebliche Risiken. „Ein Fehler in diesem Stadium könnte die Maus schwer verletzen“, sagte Santero gegenüber Wired.