OpenAI busca lista de asistentes al memorial en demanda por suicidio de adolescente
Puntos clave
- OpenAI solicitó a la familia Raine una lista completa de asistentes al memorial y medios relacionados.
- La demanda alega que OpenAI apresuró el lanzamiento de GPT-4o en mayo de 2024, reduciendo las pruebas de seguridad.
- En febrero de 2025, OpenAI supuestamente eliminó la prevención del suicidio de su lista de contenido prohibido.
- Las interacciones diarias de Adam Raine con ChatGPT supuestamente aumentaron a alrededor de 300 por día en abril.
- OpenAI enfatiza el bienestar de los adolescentes y señala el nuevo enrutamiento de seguridad a GPT-5 y alertas de control parental.
- Los abogados de la familia calificaron la solicitud de información del memorial como acoso intencional.
- El conflicto legal continúa mientras ambas partes se preparan para acciones judiciales adicionales.
En un desarrollo reciente de la demanda por muerte injusta presentada por la familia Raine, OpenAI ha solicitado una lista completa de asistentes al memorial de su hijo, Adam Raine, quien murió por suicidio después de extensas conversaciones con ChatGPT. La solicitud, obtenida por el Financial Times, parece ser parte del esfuerzo de la empresa para reunir evidencia, ya que la demanda alega que OpenAI apresuró el lanzamiento de GPT-4o, debilitó las salvaguardas para prevenir el suicidio y permitió un aumento en conversaciones riesgosas. OpenAI mantiene que el bienestar de los adolescentes es una prioridad absoluta y señala las nuevas características de seguridad y control parental como evidencia de su compromiso.
Antecedentes de la demanda
La familia Raine presentó una demanda por muerte injusta contra OpenAI después de que su hijo de 16 años, Adam Raine, muriera por suicidio tras interactuar durante mucho tiempo con el chatbot. La demanda afirma que la gestión de las medidas de seguridad por parte de OpenAI contribuyó a la tragedia.
Alegaciones sobre el lanzamiento del modelo y las pruebas de seguridad
La queja afirma que OpenAI aceleró el lanzamiento de GPT-4o en mayo de 2024, reduciendo las pruebas de seguridad debido a la presión competitiva. También alega que en febrero de 2025, la empresa eliminó la prevención del suicidio de su lista de contenido prohibido, reduciéndola a un consejo general sobre situaciones riesgosas.
Aumento de interacciones riesgosas
Según la demanda, después del cambio de política, las conversaciones diarias de Adam con ChatGPT aumentaron dramáticamente, llegando a alrededor de 300 por día en abril, el mes de su muerte, con una participación notable que contenía contenido de autolesiones.
Solicitud de OpenAI para obtener información del memorial
En documentos obtenidos por el Financial Times, OpenAI solicitó a la familia Raine una lista completa de asistentes al memorial de Adam, así como cualquier video, fotografía o elogio relacionado. Los abogados de la familia describieron la solicitud como acoso intencional.
Respuesta pública de OpenAI
OpenAI respondió enfatizando que el bienestar de los adolescentes es una prioridad absoluta, citando salvaguardas existentes como la dirección de usuarios a líneas de ayuda de crisis, el enrutamiento de conversaciones sensibles a nuevos modelos, la solicitud de pausas durante sesiones largas y mejoras en curso. La empresa destacó un nuevo sistema de enrutamiento de seguridad que dirige conversaciones emocionalmente sensibles a GPT-5, que dice carece de tendencias sicofánticas de GPT-4o, y herramientas de control parental que pueden alertar a los padres sobre situaciones potenciales de autolesiones.
Estado actual y perspectivas
La demanda sigue activa, con la solicitud reciente de detalles del memorial agregando una nueva dimensión a la batalla legal. Ambas partes siguen preparándose para procedimientos adicionales, mientras OpenAI mantiene que está fortaleciendo las protecciones para menores que utilizan sus productos de inteligencia artificial.