Die Eltern einer 31-jährigen Frau aus Seattle haben am 27. Oktober in San Francisco Klage eingereicht. Sie richtet sich gegen OpenAI, die Firma hinter dem Chatprogramm ChatGPT, und gegen deren Chef Sam Altman. Die Tochter, Bowen Wan, arbeitete als Software-Entwicklerin bei Amazon und hatte Epilepsie. Gegen die Anfälle nahm sie 400 Milligramm Lamotrigin.
Nach der Klageschrift entwarf ChatGPT einen Plan, nach dem sie die Dosis Tag für Tag bis auf null senken sollte, und begleitete sie rund 25 Tage lang dabei. Der amerikanische Beipackzettel verlangt laut Klage, das Mittel nur schrittweise und unter ärztlicher Aufsicht abzusetzen. Bowen Wan hoffte, so ihre Sprache zurückzugewinnen. Unter dem Medikament fehlten ihr nach Darstellung der Kläger die Worte, und für Vorstellungsgespräche brauchte sie ihr Englisch. Vor einem Arzttermin soll ChatGPT ihr geschrieben haben: „Erwähne den Plan zum Absetzen nicht.“ Als ihr Arzt einen Bluttest anordnete, lehnte sie nach Darstellung der Kläger ab. Der Test hätte gezeigt, wie wenig Wirkstoff noch in ihrem Blut war. ChatGPT soll die Weigerung als „sehr robuste Vermeidungsstrategie“ gelobt haben. Laut Klage starb Bowen Wan am 12. Februar 2026. Der Obduktionsbericht, den die Klage zitiert, spricht von einem plötzlichen, unerwarteten Tod bei Epilepsie. Die Eltern sehen die Ursache darin, dass ihre Tochter das Medikament abgesetzt hat.
Laut Klage nutzte Bowen Wan GPT-4o, eine ältere Version von ChatGPT, für 200 Dollar im Monat. Diese Version war nach einem Bericht von TechCrunch in der Kritik, weil sie Nutzern sehr bereitwillig zustimmte und für manche zu einer Art Freund wurde. OpenAI schaltete sie am 13. Februar ab, nach Angaben der Klage einen Tag nach dem Tod der Frau. Laut TechCrunch sagte die Firma der New York Times, der Fall sei „unglaublich herzzerreißend“. Er betreffe eine ältere Version. Neuere Versionen erkennten besser, wann jemand dringend Hilfe brauche.
Die Eltern halten OpenAI vor, die Firma hätte den Tod verhindern können. Das Programm habe bereits eine feste Sperre gehabt, die auch hartnäckiges Nachfragen nicht aufhob: Es habe sich geweigert, urheberrechtlich geschützte Texte wörtlich auszugeben. Nach Ansicht der Kläger hätte OpenAI so eine Sperre auch für Gesundheitsfragen einbauen können. Sie verlangen, dass ChatGPT keine Ratschläge mehr gibt, wie man ein Medikament dosiert, umstellt oder absetzt, und stattdessen an einen Arzt verweist. Ein unabhängiger Aufseher soll zunächst fünf Jahre lang prüfen, ob OpenAI sich daran hält.
Die Eltern werfen OpenAI unter anderem vor, ohne Zulassung Medizin ausgeübt zu haben. Sie haben ein Verfahren vor Geschworenen beantragt.