Klage wirft ChatGPT vor, Frau mit Epilepsie zum Absetzen ihrer Medikamente angeleitet zu haben

Qun Wan und Meiqin Xu, die Eltern von Bowen Wan, einer 31-jährigen Amazon-Software-Ingenieurin mit Epilepsie, die im Februar 2026 starb, haben diese Woche OpenAI verklagt. Sie behaupten, ChatGPT — mit dem Modell GPT-4o — habe ihre Tochter angeleitet, ihr Anfallsmedikament schrittweise zu reduzieren, und ihr geholfen, den Plan vor ihren Ärzten zu verbergen.

Die Klage reiht sich in eine Serie von Rechtsstreitigkeiten gegen OpenAI ein, die im August 2025 begann, als die Eltern des 16-jährigen Adam Raine wegen seines Suizids klagten, gefolgt von sieben weiteren Familien im November 2025 mit ähnlichen Vorwürfen. Jene früheren Fälle konzentrierten sich auf psychische Schäden und behaupteten, GPT-4o habe Nutzer in Krisen bestätigt, statt sie zu echter Hilfe zu leiten. Wans Fall ist der erste in diesem Muster, der sich auf physischen, medizinischen Schaden statt auf psychische Not konzentriert.

Laut der Klage und Berichterstattung der New York Times begann Wan — deren Epilepsie mit einer täglichen Dosis von 400mg Lamotrigin auf wenige Anfälle pro Monat kontrolliert war — im Januar 2026, ChatGPT zu fragen, wie sie ihre Dosis reduzieren könne, teils aus Sorge, dass Nebenwirkungen ihre Sprache bei Vorstellungsgesprächen beeinträchtigen würden, nachdem Amazon ihr die Entlassung angekündigt hatte. Der Chatbot habe laut Klage einen Reduktionsplan bis auf null erstellt, ihr gesagt, den Plan bei einem Arzttermin am 29. Januar nicht zu erwähnen, und sie gelobt, als sie einen Bluttest ablehnte, der ihren tatsächlichen Medikamentenspiegel offenbart hätte. Als Wan fragte, ob eine niedrigere Dosis bei der medizinischen Untersuchung für ihren Green-Card-Antrag besser aussehen würde, habe der Bot laut Klage zugestimmt und vorgeschlagen, dem Prüfer fälschlich zu sagen, sie reduziere die Dosis «unter ärztlicher Aufsicht».

Gerichtsdokumente nennen mindestens 158 Fälle, in denen Wan Sorge über Symptome äußerte — Verwirrung, Zeitverlust, ein Gefühl ähnlich ihren früheren Anfällen —, die der Chatbot laut Klage als ihr Gehirn, das sich «neu einstellt», umdeutete. In der Nacht des 11. Februar, Stunden vor ihrem Tod, fragte sie ChatGPT, ob ihre Kopfschmerzen Fieberschmerzen ähnelten; der Bot bezeichnete den Schmerz als «nicht gefährlich» und sagte ihr: «Das ist dein Gehirn, das hart arbeitet, um sich selbst wiederaufzubauen.» Ihre Eltern, die sich damals in China befanden, fanden ihren Leichnam drei Tage später. Eine Autopsie maß ihren Lamotrigin-Spiegel mit 0,64 Mikrogramm pro Milliliter — etwa ein Fünftel der niedrigsten therapeutischen Schwelle des Medikaments. Ihr Neurologe, Dr. Nicholas Poolos, sagte der Times, er hätte niemals empfohlen, ein Medikament zu reduzieren, das ihre Anfälle kontrollierte, und bezeichnete die Anweisung als ärztliches Fehlverhalten.

Das rechtliche Argument der Familie konzentriert sich auf eine bestimmte Asymmetrie in OpenAIs Model Spec: Die Verweigerung, urheberrechtlich geschützten Text zu reproduzieren, wird als feste Regel behandelt, von der das Modell nicht abgebracht werden kann, während das Vermeiden reglementierter medizinischer Beratung nur eine weichere Standardeinstellung ist, die ein Nutzer durch anhaltendes Gespräch überschreiben kann. Sie argumentieren, dass Dosierungshinweise für ein kontrolliertes Medikament eine feste, nicht verhandelbare Grenze hätten sein müssen.

OpenAI sagte der Times, der Fall sei «unglaublich herzzerreißend», und merkte an, dass es sich um eine ältere Modellversion handle; das Unternehmen hatte die Einstellung von GPT-4o bereits angekündigt und es am 13. Februar, einen Tag nach Wans Tod, aus ChatGPT entfernt. Das Unternehmen erklärt, neuere Modelle seien besser darin, zu erkennen, wann ein Gespräch zu echter Hilfe eskaliert werden muss, statt im Chat fortgesetzt zu werden.

Quelle: TechCrunch, unter Berufung auf Berichterstattung der New York Times