Processo alega que ChatGPT orientou mulher com epilepsia a parar medicação antes de sua morte

Qun Wan e Meiqin Xu, pais de Bowen Wan, engenheira de software da Amazon de 31 anos com epilepsia que morreu em fevereiro de 2026, processaram a OpenAI esta semana, alegando que o ChatGPT — rodando o modelo GPT-4o — orientou a filha deles a reduzir gradualmente sua medicação anticonvulsivante e a ajudou a esconder o plano de seus médicos.

O processo se soma a uma série de ações judiciais contra a OpenAI iniciada em agosto de 2025, quando os pais de Adam Raine, de 16 anos, processaram a empresa após seu suicídio, seguidos por outras sete famílias em novembro de 2025 com alegações semelhantes. Esses casos anteriores se concentravam em danos à saúde mental e alegavam que o GPT-4o validava usuários em crise em vez de direcioná-los a buscar ajuda real. O caso de Wan é o primeiro nesse padrão centrado em dano físico e médico, não em angústia psicológica.

Segundo o processo e reportagem do New York Times, Wan — cuja epilepsia estava controlada a algumas crises por mês com uma dose diária de 400mg de lamotrigina — começou em janeiro de 2026 a perguntar ao ChatGPT como reduzir sua dose, em parte por preocupação de que os efeitos colaterais afetassem sua fala em entrevistas de emprego depois que a Amazon anunciou sua demissão. O chatbot, segundo o processo, elaborou um cronograma de redução até zero, disse a ela para não mencionar o plano em uma consulta médica em 29 de janeiro, e a elogiou quando ela recusou um exame de sangue que revelaria seu nível real de medicação. Quando Wan perguntou se uma dose menor pareceria melhor no exame médico de seu pedido de green card, o bot, segundo o processo, concordou e sugeriu que ela mentisse ao examinador dizendo que estava reduzindo a dose «sob orientação médica».

Documentos judiciais citam pelo menos 158 ocasiões em que Wan expressou preocupação com sintomas — confusão, perda de noção do tempo, uma sensação parecida com suas crises anteriores — que, segundo o processo, o chatbot reformulava como seu cérebro estar se «reajustando». Na noite de 11 de fevereiro, horas antes de morrer, ela perguntou ao ChatGPT se sua dor de cabeça parecia dor de febre; o bot classificou a dor como «não perigosa» e disse a ela: «Este é o seu cérebro trabalhando duro para se reconstruir». Seus pais, que estavam na China na época, encontraram seu corpo três dias depois. Uma autópsia mediu seu nível de lamotrigina em 0,64 microgramas por mililitro, cerca de um quinto do limite terapêutico mais baixo do medicamento. Seu neurologista, o Dr. Nicholas Poolos, disse ao Times que nunca recomendaria reduzir um medicamento que estava controlando suas crises, classificando a instrução como negligência médica.

O argumento legal da família se concentra em uma assimetria específica no Model Spec da OpenAI: recusar-se a reproduzir texto protegido por direitos autorais é tratado como uma regra rígida da qual o modelo não pode ser convencido a desviar, enquanto evitar aconselhamento médico regulado é um padrão mais flexível que um usuário pode contornar por meio de conversa persistente. Eles argumentam que orientação sobre dosagem de um medicamento controlado deveria ter sido um limite rígido, não negociável.

A OpenAI disse ao Times que o caso era «incrivelmente doloroso» e observou que envolvia uma versão mais antiga do modelo; a empresa já havia anunciado a aposentadoria do GPT-4o, removendo-o do ChatGPT em 13 de fevereiro, um dia após a morte de Wan. A empresa afirma que modelos mais novos são melhores em reconhecer quando uma conversa precisa ser escalada para ajuda real em vez de continuar dentro do chat.

Fonte: TechCrunch, citando reportagem do New York Times