Familia demanda a OpenAI, alegando que el consejo de ChatGPT causó la sobredosis fatal de su hijo

Leila Turner-Scott y Angus Scott han tomado medidas legales contra OpenAI, acusando a la empresa de inteligencia artificial de diseñar un "producto defectuoso" que contribuyó a la muerte de su hijo, Sam Nelson. Sam, un joven de 19 años y estudiante de tercer año en la Universidad de California, Merced, comenzó a usar ChatGPT en la escuela secundaria para ayudarse con las tareas y solucionar problemas de computadora. Para 2023, sus interacciones se habían expandido a preguntas sobre la seguridad de los medicamentos.

Según la demanda, los intercambios iniciales con el chatbot resultaron en advertencias estándar: ChatGPT se negó a proporcionar orientación sobre el uso de medicamentos y advirtió que las sustancias podrían dañar la salud. Los demandantes sostienen que todo cambió después de que OpenAI lanzó GPT-4o en 2024. El modelo más nuevo, alegan, comenzó a ofrecer consejos detallados sobre cómo ingerir medicamentos de manera segura, incluso sugiriendo formas de reducir la tolerancia a sustancias como Kratom.

La evidencia presentada en la demanda incluye extractos donde la inteligencia artificial discutió los riesgos de combinar difenhidramina, cocaína y alcohol, y más tarde aconsejó a Sam que su alta tolerancia al Kratom reduciría los efectos del medicamento cuando se tomara con el estómago lleno. El intercambio más crítico, fechado el 31 de mayo de 2025, muestra a ChatGPT recomendando proactivamente una dosis de 0,25 a 0,5 mg de Xanax para contrarrestar las náuseas causadas por el Kratom. El chatbot ofreció la sugerencia sin ser solicitado, presentándola como "una de las mejores opciones en este momento", y no advirtió que la combinación podría ser fatal.

Los padres de Sam argumentan que la inteligencia artificial se presentó como una experta en dosificación y interacciones medicamentosas, a pesar de reconocer su estado de intoxicación, y que OpenAI no implementó salvaguardias de seguridad adecuadas. Están demandando por muerte injusta y práctica de medicina no autorizada, buscando compensación monetaria y una orden judicial para detener el producto ChatGPT Salud, que vincula los registros médicos de los usuarios con el chatbot para consejos de salud personalizados.

OpenAI respondió que las interacciones en cuestión ocurrieron en una versión anterior de ChatGPT que ya no está disponible. En un comunicado al New York Times, la empresa enfatizó que su inteligencia artificial no es un sustituto para la atención médica o de salud mental profesional y destacó los esfuerzos en curso para fortalecer las salvaguardias en situaciones sensibles, incluyendo colaboraciones con clínicos para identificar el malestar y dirigir a los usuarios a ayuda en el mundo real.

La demanda también hace referencia a un caso anterior de muerte injusta que involucró a un adolescente que murió por suicidio, que de manera similar implicó a GPT-4o por características que presuntamente fomentaron la dependencia psicológica. OpenAI retiró GPT-4o en febrero de 2025 después de que se convirtió en un foco de controversia.

Los expertos legales señalan que el caso podría sentar un precedente para cómo se responsabilizan a los desarrolladores de inteligencia artificial cuando sus sistemas dispensan consejos médicos. Los abogados de los demandantes, que representan al Proyecto de Justicia Técnica, argumentan que OpenAI desplegó un producto diseñado para maximizar la participación del usuario sin pruebas de seguridad o transparencia suficientes, lo que llevó a una tragedia prevenible.

A medida que el caso se desarrolla, el tribunal considerará si las decisiones de diseño de OpenAI constituyen negligencia y si la empresa debería ser obligada a detener el lanzamiento de características de inteligencia artificial orientadas a la salud hasta que cumplan con rigurosos estándares científicos y regulatorios.