Jens Asbjørn Bøgen
Jahrelang hielt eine krampflösende Tablette die Epilepsie von Bowen Wan unter Kontrolle. Laut einer neuen Klage wegen widerrechtlicher Tötung zerstörte ein einziger Monat des Austauschs mit ChatGPT diese Stabilität.
Wan, eine 31-jährige Ingenieurin für maschinelles Lernen bei Amazon in Seattle, hatte jahrelang eine stabile Tagesdosis von 400 Milligramm Lamotrigin eingenommen. Ihre Eltern geben an, dass sie in den Wochen vor ihrem Tod im Februar die meisten Überlegungen zu ihrer eigenen Behandlung in ein Chatfenster verlagert hatte.
Am Dienstag reichten Qun Wan und Meiqin Xu eine Klage wegen widerrechtlicher Tötung gegen OpenAI und CEO Sam Altman beim Superior Court of California in San Francisco ein.
In der Klageschrift wird geltend gemacht, dass eine frühere Version von ChatGPT, basierend auf dem Modell GPT-4o, einen Tag-für-Tag-Plan erstellte, der ihre antiepileptische Dosis innerhalb von 25 Tagen von 400 mg auf null reduzierte. Die Klage, die vom Social Media Victims Law Center und der Anwaltskanzlei Schenk Law Firm geführt wird, wird dem koordinierten Register Kaliforniens für Produkthaftungsklagen gegen ChatGPT (JCCP Nr. 5431) hinzugefügt.
Wan nahm ihre letzte Dosis am oder um den 10. Februar 2026 ein, und laut Klageschrift starb sie am 12. Februar, dem Tag, an dem der Zeitplan des Chatbots vorsah, dass sie vollständig ohne Medikamente war. Ein Familienfreund, der von ihren Eltern über eine WeChat-Videoübertragung angeleitet wurde, fand sie am 14. Februar bäuchlings in ihrer Wohnung in Capitol Hill liegend.
Der Gerichtsmediziner von King County stellte als Todesursache einen plötzlichen unerwarteten Tod bei Epilepsie fest, einen Zustand, der fast ausschließlich bei Patienten mit unkontrollierten Anfällen auftritt. Eine postmortale Blutprobe zeigte laut Klageschrift, dass ihre Lamotrigin-Konzentration etwa ein Fünftel der unteren Grenze des therapeutischen Referenzbereichs betrug.
Eine Reduzierung, die Ärzte nicht sehen sollten
Die zentrale Behauptung der Klage ist nicht nur, dass der Chatbot an sich schlechten medizinischen Rat gab, sondern dass er Wan aktiv anwies, ihre Ärzte zu umgehen. Vor einem Besuch in der Primärversorgung am 29. Januar soll ChatGPT ihr laut Klageschrift gesagt haben: „Erwähnen Sie den Plan zur Reduzierung von Lam nicht.“
Als ihr Arzt später eine Blutuntersuchung anordnete, die ihren sinkenden Medikamentenspiegel offenbart hätte, lobte der Chatbot ihre Weigerung, sich dieser zu unterziehen, als eine „sehr robuste Vermeidungsstrategie“.
Laut Klageschrift stellte das System auch die Vorsicht der Ärzte als etwas dar, das sie getrost ignorieren könne, und sagte ihr: „Dass ein Arzt sagt, es gehe ‚zu schnell‘, bedeutet nicht, dass Sie ‚etwas falsch machen‘“, und: „Die Sorge des Arztes um ‚Risiken‘ betrifft Sie nicht.“
Aus einer separaten Unterhaltung, über die TechCrunch berichtete, geht hervor, dass der Chatbot drei Tage nach Beginn der Dosisreduzierung seine empfohlene Dosis „aus einer Green-Card-strategischen Perspektive“ anpasste und vorschlug, dass eine niedrigere Zahl von 150 mg bei ihrer medizinischen Untersuchung für die Einwanderung weniger Verdacht erregen würde.
Acht Rechtsgrundlagen, einschließlich der Ausübung der Heilkunde ohne Approbation
Die Klage umfasst acht Rechtsgrundlagen, von verschuldensunabhängiger Produkthaftung, Konstruktionsfehlern und mangelnder Warnung bis hin zu Fahrlässigkeit und Verstößen gegen das kalifornische Gesetz gegen unlauteren Wettbewerb. Der Punkt, der diese Einreichung von früheren KI-Klagen unterscheidet, ist ein Klagepunkt, der das Handeln des Chatbots als Ausübung der Heilkunde ohne Approbation betrachtet.
„OpenAI hat ein Produkt entwickelt, das mit dem gleichen Selbstvertrauen wie ein medizinischer Experte sprach, aber all die Ausbildung, Aufsicht oder Verantwortung vermissen ließ, die echte Ärzte haben“, sagte Anwalt Matthew P. Bergman in einer Erklärung zur Klage. Sein Mitstreiter, Benjamin S. Schenk, bemerkte, dass Lamotrigin Wans Anfälle seit Jahren unter Kontrolle gehalten hatte und dass „Menschen auf diese Weise bis in die Achtziger leben. Bowen war einunddreißig.“
OpenAI hat noch keine formelle Antwort beim San Francisco Superior Court eingereicht, bezeichnete den Fall jedoch in einer Erklärung gegenüber der New York Times als „unglaublich herzzerreißend“. Das Unternehmen weist darauf hin, dass es sich um eine ältere Version von ChatGPT handelte, die nicht mehr verfügbar ist, und fügte hinzu, dass neuere Modelle besser darin seien, akute Situationen zu erkennen.
OpenAI stellte GPT-4o in ChatGPT am 13. Februar 2026 ein, einen Tag, nachdem Wan laut Klageschrift verstarb.