OpenAI Lanza Características de Seguridad para Adolescentes y Controles Parentales para ChatGPT
Puntos clave
- OpenAI está agregando un sistema de predicción de edad para identificar a los usuarios menores de 18 años.
- Los menores son redirigidos a una versión filtrada de ChatGPT que bloquea contenido sexual gráfico.
- Los nuevos controles parentales permiten a los padres vincular cuentas, establecer límites de uso y monitorear conversaciones.
- Los padres reciben alertas si el sistema detecta signos de angustia aguda en su adolescente.
- El CEO Sam Altman dice que las características equilibran la privacidad, la libertad y la seguridad para los usuarios jóvenes.
- El despliegue sigue aumentando las indagaciones de la FTC y la atención del Congreso sobre la seguridad de los niños relacionada con la IA.
- OpenAI tiene como objetivo completar el despliegue de las salvaguardas para adolescentes para finales del trimestre.
OpenAI anunció nuevas salvaguardas para menores que utilizan ChatGPT, incluyendo un sistema de predicción de edad que redirige a los usuarios menores de 18 años a una versión filtrada del bot. La actualización también agrega controles parentales que permiten a los padres vincular sus cuentas, monitorear conversaciones, establecer límites de uso y recibir alertas cuando un adolescente muestra signos de angustia aguda.
OpenAI Introduce Filtrado Basado en Edad para ChatGPT
OpenAI reveló que está construyendo un sistema de predicción de edad diseñado para identificar a los usuarios que tienen menos de 18 años. Cuando el sistema detecta a un menor, automáticamente lo redirige a una versión "adecuada para su edad" de ChatGPT que bloquea contenido sexual gráfico y otro material considerado inapropiado para audiencias más jóvenes.
Controles Parentales y Alertas en Tiempo Real
Además de la capa de filtrado, OpenAI está lanzando controles parentales que permiten a los padres vincular sus propias cuentas con la de su hijo. A través de esta conexión, los padres pueden gestionar temas de conversación, deshabilitar ciertas funciones y establecer ventanas de uso diario. El sistema también envía notificaciones si detecta que un adolescente está experimentando angustia aguda, como signos de ideación suicida o autolesiones, lo que da a los padres la opción de intervenir oportunamente.
Equilibrando Privacidad, Libertad y Seguridad
El CEO Sam Altman enfatizó que las nuevas herramientas tienen como objetivo reconciliar tres principios a menudo en conflicto: la privacidad del usuario, la libertad de expresión y la seguridad de los usuarios más jóvenes. Reconoció la dificultad de estos compromisos, señalando que la empresa consultó a expertos para dar forma al enfoque y se comprometió a ser transparente sobre sus intenciones.
Contexto Regulatorio y Escrutinio de la Industria
El anuncio se produce en un momento de mayor escrutinio de las plataformas de inteligencia artificial por parte de los reguladores de EE. UU. La Comisión Federal de Comercio recientemente solicitó información a OpenAI, Meta, Google y otras empresas sobre cómo sus tecnologías afectan a los niños. Los legisladores también han expresado preocupación después de informes que vincularon interacciones de chat de inteligencia artificial con instancias de autolesiones y violencia.
Perspectiva Futura
OpenAI planea finalizar el despliegue de las características orientadas a adolescentes para finales del trimestre actual. Si bien la empresa considera la iniciativa como un paso proactivo hacia la protección de los menores, también reconoce los desafíos continuos, incluida la preservación de la privacidad del usuario mientras se responden a posibles emergencias.