OpenAI Agrega Sistema de Predicción de Edad a ChatGPT para Limitar el Acceso a Menores de 18 Años
Puntos clave
- OpenAI introduce un sistema de predicción de edad para los usuarios de ChatGPT que no han revelado su edad.
- El algoritmo utiliza señales de comportamiento como la antigüedad de la cuenta y los patrones de actividad para estimar si un usuario es menor de 18 años.
- Los usuarios menores de edad pueden verificar su identidad a través de Persona con una selfie en vivo y un documento de identificación emitido por el gobierno.
- Los filtros de contenido para los usuarios menores de 18 años bloquean la violencia gráfica, las representaciones de autolesiones, los desafíos virales riesgosos, el juego de roles sexual o violento y el contenido dañino sobre la belleza o la dieta.
- La iniciativa se alinea con las tendencias más amplias de la industria hacia la verificación de edad, los controles parentales y las nuevas regulaciones que apuntan a la seguridad en línea de los jóvenes.
- Los expertos señalan tasas de precisión altas para las tecnologías modernas de reconocimiento facial y estimación de edad, pero el desempeño en el mundo real a gran escala sigue siendo incierto.
- Los defensores llaman a un enfoque holístico, de "seguridad por diseño", que incluya transparencia, rendición de cuentas y educación en alfabetización digital.
OpenAI está implementando una función de predicción de edad para los usuarios de ChatGPT que no han proporcionado su edad. El sistema evalúa señales de comportamiento como la antigüedad de la cuenta y los patrones de actividad para estimar si un usuario es menor de 18 años. Si un usuario es identificado como menor de edad, puede verificar su identidad a través de una selfie en vivo y un documento de identificación emitido por el gobierno utilizando el servicio de verificación de Persona.
La Nueva Función de Predicción de Edad de OpenAI
OpenAI anunció que ChatGPT ahora empleará un algoritmo de predicción de edad para las cuentas que no han revelado la edad del usuario. La tecnología examina una serie de señales de comportamiento, incluyendo la antigüedad de la cuenta y los patrones de actividad, para estimar si el usuario es menor de 18 años. Si el sistema identifica a un usuario como menor de edad, el individuo puede confirmar su edad a través de un proceso de verificación ofrecido por Persona, que requiere una selfie en vivo y un documento de identificación emitido por el gobierno.
Medidas de Seguridad Ampliadas para Usuarios Jóvenes
Herramienta de predicción de edad es parte del esfuerzo más amplio de OpenAI para aplicar "medidas de seguridad para reducir la exposición a contenido sensible o potencialmente dañino". La página de soporte de la empresa detalla los tipos de material que se filtrarán para los usuarios menores de 18 años, como violencia gráfica, representaciones de autolesiones, desafíos virales riesgosos, juego de roles sexual o violento y contenido que promueve estándares de belleza extremos, dietas insanas o acoso contra el cuerpo.
Contexto de la Industria y Presión Legal
Opiniones de Expertos sobre Precisión y Eficacia
Jake Parker, director senior de relaciones gubernamentales de la Asociación de la Industria de Seguridad, señaló que los algoritmos modernos de reconocimiento facial y estimación de edad pueden lograr tasas de precisión altas, superiores al 99,5% para la coincidencia de identidad y más del 95% para la estimación de edad, cuando se implementan correctamente. Sin embargo, Parker advirtió que el desempeño del sistema de predicción de edad en la gran base de usuarios de OpenAI, estimada en alrededor de 800 millones de usuarios activos semanales, queda por verse.
Llamadas a un Enfoque Holístico
Kristine Gloria, directora de operaciones de Young Futures, enfatizó que las soluciones técnicas por sí solas son insuficientes. Abogó por prácticas de "seguridad por diseño" que integren transparencia, rendición de cuentas y educación en alfabetización digital en el desarrollo de plataformas. Gloria argumentó que las familias necesitan un apoyo más amplio para navegar los desafíos presentados por la inteligencia artificial generativa, en lugar de confiar únicamente en herramientas de monitoreo.
Mirando Hacia Adelante
El lanzamiento de la función de predicción de edad de OpenAI agrega una nueva dimensión a sus funciones de control parental, pero su impacto final dependerá de la precisión del algoritmo, la conformidad de los usuarios con los procesos de verificación y el compromiso colectivo de la industria para proteger a los jóvenes en línea. El movimiento señala un cambio continuo hacia una moderación de contenido más rigurosa basada en la edad en los servicios digitales.