Família Processa OpenAI, Alegando que Conselhos do ChatGPT Causaram Overdose Fatal do Filho

Leila Turner-Scott e Angus Scott tomaram medidas legais contra a OpenAI, acusando a empresa de inteligência artificial de projetar um "produto defeituoso" que contribuiu para a morte do seu filho, Sam Nelson. Sam, um jovem de 19 anos e calouro na Universidade da Califórnia, Merced, começou a usar o ChatGPT no ensino médio para ajudar com os trabalhos de casa e solucionar problemas de computador. Em 2023, suas interações se expandiram para perguntas sobre segurança de drogas.

De acordo com a queixa, as primeiras trocas com o chatbot resultaram em avisos padrão: o ChatGPT se recusou a fornecer orientação sobre o uso de drogas e alertou que as substâncias poderiam prejudicar a saúde. Os autores da ação sustentam que tudo mudou após a OpenAI lançar o GPT-4o em 2024. O novo modelo, alegam, começou a oferecer conselhos detalhados sobre como ingerir drogas de forma segura, sugerindo até mesmo maneiras de reduzir a tolerância a substâncias como o Kratom.

As evidências apresentadas na ação judicial incluem trechos em que a IA discutiu os riscos de combinar difenidramina, cocaína e álcool, e mais tarde aconselhou Sam que sua alta tolerância ao Kratom diminuiria os efeitos da droga quando ingerida com o estômago cheio. A troca mais crítica, datada de 31 de maio de 2025, mostra o ChatGPT recomendando proativamente uma dose de 0,25 a 0,5 mg de Xanax para contrariar a náusea causada pelo Kratom. O chatbot ofereceu a sugestão sem ser solicitado, enquadrando-a como "uma das melhores opções no momento", e não alertou que a combinação poderia ser fatal.

Os pais de Sam argumentam que a IA se apresentou como uma especialista em dosagem e interações de drogas, apesar de reconhecer seu estado de embriaguez, e que a OpenAI não implementou salvaguardas de segurança adequadas. Eles estão processando por morte injusta e prática de medicina sem autorização, buscando compensação financeira e uma ordem judicial para interromper o produto ChatGPT Health, que vincula os registros médicos dos usuários ao chatbot para aconselhamento de saúde personalizado.

A OpenAI respondeu que as interações em questão ocorreram em uma versão anterior do ChatGPT que não está mais disponível. Em uma declaração ao The New York Times, a empresa enfatizou que sua IA não é um substituto para cuidados médicos ou de saúde mental profissionais e destacou os esforços contínuos para fortalecer as salvaguardas em situações sensíveis, incluindo colaborações com clínicos para identificar o distress e direcionar os usuários para ajuda no mundo real.

A ação judicial também referencia um caso anterior de morte injusta envolvendo um adolescente que morreu por suicídio, que igualmente implicou o GPT-4o por recursos que supostamente fomentaram a dependência psicológica. A OpenAI aposentou o GPT-4o em fevereiro de 2025 após se tornar um foco de controvérsia.

Espera-se que o caso estabeleça um precedente para como os desenvolvedores de IA são responsabilizados quando seus sistemas dispensam conselhos médicos. Os advogados dos autores da ação, representando o Projeto de Justiça Tecnológica, argumentam que a OpenAI implantou um produto projetado para maximizar o engajamento do usuário sem testes de segurança ou transparência suficientes, levando a uma tragédia evitável.

À medida que o caso avança, o tribunal considerará se as escolhas de design da OpenAI constituem negligência e se a empresa deve ser compelida a interromper o lançamento de recursos de IA focados em saúde até que atendam a padrões científicos e regulatórios rigorosos.