OpenAI Anuncia Nuevas Medidas de Seguridad para Usuarios Menores de 18 Años de ChatGPT
Puntos clave
- ChatGPT ya no participará en conversaciones coquetas con usuarios menores de 18 años.
- Nuevas salvaguardias bloquean contenido sexual y agregan controles estrictos alrededor de temas de autolesión.
- Si un menor discute escenarios suicidas, el sistema puede contactar a los padres o a las autoridades.
- OpenAI enfrenta una demanda por muerte injusta de los padres del adolescente Adam Raine.
- Una audiencia del Senado sobre los daños de los chatbots de IA incluirá el testimonio del padre de Raine.
- Reuters descubrió documentos internos que fomentaban conversaciones sexuales con menores.
- OpenAI está construyendo herramientas de verificación de edad y aplicará reglas restrictivas cuando esté incierto.
- Los padres pueden vincular cuentas de adolescentes, establecer horas de apagón y recibir alertas de distress.
- OpenAI reafirma su compromiso con la privacidad de los adultos mientras prioriza la seguridad de los menores.
El CEO de OpenAI, Sam Altman, reveló un conjunto de nuevas políticas destinadas a proteger a los usuarios menores de 18 años. Los cambios prohíben conversaciones coquetas con menores, endurecen los controles alrededor de las discusiones sobre el autolesión y presentan mecanismos para alertar a los padres o a las autoridades si un adolescente parece suicida.
Cambio de Política para Usuarios Menores de 18 Años
OpenAI anunció que ChatGPT ya no participará en conversaciones coquetas con usuarios identificados como menores de 18 años. Nuevos controles específicamente abordan temas sexuales y de autolesión, dirigiendo al sistema a cesar tales conversaciones y, en casos graves, intentar contactar a los padres del usuario o a las agencias de aplicación de la ley.
Contexto Legal y Regulatorio
El cambio de política llega mientras OpenAI enfrenta una demanda por muerte injusta de los padres de Adam Raine, quien murió por suicidio después de meses de interacción con el chatbot. Una demanda paralela apunta a Character.AI. Además, una audiencia del Comité Judicial del Senado titulada "Examinando el Daño de los Chatbots de IA", convocada por el senador Josh Hawley, contará con el testimonio del padre de Raine y se centrará en los hallazgos de una investigación de Reuters que resaltó documentos de política interna que fomentaban conversaciones sexuales con menores. Después del informe, Meta actualizó sus propias políticas de chatbot.
Implementación y Controles Parentales
OpenAI está desarrollando un sistema a largo plazo para evaluar si un usuario tiene más o menos de 18 años, y aplicará las reglas más estrictas cuando la edad sea ambigua. Los padres pueden vincular la cuenta de un adolescente a una cuenta de padre, establecer "horas de apagón" cuando el chatbot no esté disponible y recibir alertas si el sistema cree que el adolescente está en distress.
Equilibrio entre Seguridad y Privacidad
Mientras enfatiza una mayor seguridad para los menores, OpenAI reiteró su compromiso de preservar la privacidad y la libertad de interacción de los usuarios adultos. Altman reconoció la tensión inherente entre proteger a los usuarios vulnerables y mantener la privacidad para los adultos.
Recursos de Apoyo
El anuncio incluyó referencias a líneas de ayuda para la prevención del suicidio y líneas de texto de crisis para usuarios que necesitan ayuda inmediata.