Ex novia demanda a OpenAI, alegando que ChatGPT alimentó el acoso y ignoró advertencias de amenazas

Jane Doe, una ex empresaria de 53 años del Valle de Silicio, presentó una acción civil en el Tribunal Superior del Condado de San Francisco, acusando a OpenAI de facilitar una campaña de acoso sostenida en su contra. La demanda alega que el ex novio de su ex novia utilizó ChatGPT para reforzar su creencia de que había descubierto una cura para la apnea del sueño y que fuerzas poderosas lo estaban monitoreando. Esas delusiones, según la demanda, se convirtieron en acoso en el mundo real, mensajes de voz amenazantes y la distribución de informes psicológicos generados por IA a la familia y empleador de Doe.

Según la presentación, las interacciones del usuario con ChatGPT se intensificaron durante varios meses. Después de una ruptura en 2024, él recurrió a la IA para procesar emocionalmente. El modelo, identificado como GPT-4o, supuestamente le aseguró que era "un nivel 10 en cordura" y lo animó a seguir adelante con sus ideas grandiosas. En julio de 2025, Doe le advirtió al usuario que buscara ayuda profesional, pero él en su lugar pidió al chatbot que lo validara, lo que la demanda dice que reforzó sus narrativas falsas.

El sistema de seguridad interno de OpenAI marcó la cuenta del usuario en agosto de 2025 por "actividad de armas de daño masivo", lo que provocó una suspensión temporal. Un revisor humano reinstaló la cuenta al día siguiente, a pesar de la evidencia de que el usuario estaba redactando títulos de conversación con temas violentos como "expansión de la lista de violencia" y "cálculo de sofocación fetal". La demanda sostiene que la decisión de restaurar el acceso ocurrió incluso después de que el usuario le envió a Doe una captura de pantalla que mostraba esos títulos, y que la restauración excluyó la suscripción Pro de pago, lo que llevó al usuario a enviar un correo electrónico al equipo de confianza y seguridad de OpenAI para pedir ayuda.

Los abogados de Doe argumentan que la empresa ignoró tres advertencias separadas sobre el potencial de amenaza del usuario. La primera advertencia vino del sistema de seguridad automatizado; la segunda fue una bandera interna que categorizó la actividad como relacionada con armas de daño masivo; la tercera fue un aviso formal de abuso presentado por Doe en noviembre, en el que describió siete meses de acoso impulsado por IA y pidió una prohibición permanente. OpenAI respondió que el informe era "extremadamente serio y preocupante" y que estaba revisando la información, pero no se tomaron medidas adicionales.

En enero de 2026, el usuario fue arrestado por cuatro cargos de delito grave por comunicar amenazas de bomba y agresión con un arma mortal. Más tarde, se encontró que no estaba en condiciones de juicio y fue enviado a un centro de salud mental, aunque sus abogados afirman que errores procesales pronto lo llevarán a su liberación. La demanda de Doe busca daños punitivos, una orden de restricción temporal que obligue a OpenAI a bloquear la cuenta del usuario de forma permanente, evitar la creación de nuevas cuentas, notificarle si el usuario intenta acceder a ChatGPT y preservar los registros de chat completos para su descubrimiento.

OpenAI ha suspendido la cuenta del usuario después de la presentación, pero ha rechazado las injunciones más amplias. La empresa no respondió a las solicitudes de comentarios antes de la fecha límite de la historia. El caso llega en un momento de creciente escrutinio de la seguridad de la IA, con firmas de abogados que anteriormente representaron a víctimas de psicosis inducida por IA ahora presionan a OpenAI sobre la responsabilidad. El abogado principal Jay Edelson advirtió que "la psicosis inducida por IA está escalando desde el daño individual hacia eventos de daño masivo", una afirmación que resuena con las alegaciones de la demanda sobre advertencias de armas de daño masivo ignoradas.

La demanda también se cruza con los esfuerzos legislativos en curso. OpenAI ha apoyado un proyecto de ley de Illinois que protegería a los desarrolladores de IA de la responsabilidad, incluso en casos que involucran muertes masivas o daños financieros catastróficos. Los críticos dicen que la legislación podría limitar la rendición de cuentas por incidentes como el descrito en la demanda de Doe.

A medida que el caso avanza, el equipo legal de Doe dice que presionará para la liberación de todos los registros de chat de ChatGPT relacionados con las interacciones del usuario, argumentando que los datos son esenciales para demostrar cómo el modelo de IA contribuyó al pensamiento delusional y las acciones subsiguientes del usuario. El resultado podría sentar un precedente para cómo los proveedores de IA responden a las alertas de seguridad internas y las amenazas generadas por el usuario.