OpenAI Introduce Predicción de Edad para Proteger a Menores en ChatGPT
Puntos clave
- OpenAI agrega predicción de edad a ChatGPT para identificar a usuarios probablemente menores de 18 años.
- Los menores identificados reciben filtros de contenido que bloquean violencia gráfica, desafíos riesgosos, roleos sexuales o violentos, autolesiones y estándares de belleza insalubres.
- Los adultos identificados incorrectamente pueden verificar su edad con una selfie para recuperar el acceso completo.
- La función se está implementando en todo el mundo, con un lanzamiento retrasado en la Unión Europea para cumplir con los requisitos regulatorios.
- El movimiento responde al aumento en la escrutinio del impacto de los chatbots de IA en las audiencias más jóvenes.
OpenAI ha agregado un sistema de predicción de edad a ChatGPT que evalúa señales de comportamiento y cuenta para identificar a usuarios que probablemente tengan menos de 18 años. Cuando un usuario es identificado como menor, la plataforma aplica automáticamente salvaguardias que limitan la exposición a violencia gráfica, desafíos riesgosos, roleos sexuales o violentos, contenido de autolesiones y estándares de belleza insalubres. Los adultos que son identificados incorrectamente como menores pueden recuperar el acceso completo confirmando su edad con una selfie. La función se está implementando en todo el mundo, con un lanzamiento retrasado en la Unión Europea para cumplir con los requisitos regionales.
Nueva Salvaguardia de Predicción de Edad de OpenAI
OpenAI anunció el despliegue de un modelo de predicción de edad para su servicio ChatGPT. El sistema analiza una combinación de información proporcionada por el usuario, edad de la cuenta, momento de actividad y patrones de uso para estimar si un usuario probablemente tiene menos de 18 años. Esta evaluación activa un conjunto de medidas de protección diseñadas para reducir la exposición de los menores a contenido potencialmente dañino.
Restricciones de Contenido para Menores Estimados
Cuando un usuario es identificado como menor, ChatGPT limita automáticamente el acceso a varias categorías de material. Estas incluyen violencia gráfica o imágenes gore, desafíos virales que podrían fomentar comportamientos riesgosos, roleos sexuales, románticos o violentos, representaciones de autolesiones y contenido que promueve estándares de belleza extremos, dietas insalubres o acoso por la apariencia física. El objetivo es crear un entorno de conversación más seguro para los usuarios más jóvenes, mientras aún permite que el chatbot funcione de manera efectiva.
Proceso de Verificación para Adultos
Los adultos que son clasificados incorrectamente como menores tienen la opción de restaurar el acceso sin restricciones. El método de verificación implica enviar una selfie para confirmar la edad, asegurando que los usuarios adultos legítimos puedan continuar utilizando la gama completa de funciones de ChatGPT sin barreras innecesarias.
Lanzamiento Global y Consideraciones Regionales
La función de predicción de edad se está introduciendo en todo el mundo. OpenAI señaló una excepción para la Unión Europea, donde el lanzamiento se retrasará para cumplir con las regulaciones regionales específicas. La empresa indicó que el lanzamiento en la UE ocurrirá en las próximas semanas.
Contexto y Motivación
Este desarrollo sigue un aumento en la escrutinio del impacto de los chatbots de IA en las audiencias más jóvenes, incluidas acciones legales y discusiones en entornos gubernamentales. Al incorporar salvaguardias basadas en la edad, OpenAI busca abordar las preocupaciones sobre los menores que se encuentran con contenido sensible o dañino durante las interacciones con la IA.
Mirando Hacia Adelante
El sistema de predicción de edad de OpenAI representa un paso proactivo hacia la implementación responsable de la IA. La empresa planea monitorear la efectividad de las salvaguardias y ajustar el modelo según sea necesario para equilibrar la seguridad con la experiencia del usuario en mercados diversos.