OpenAI presenta mejoras de seguridad que incluyen controles parentales para ChatGPT
Puntos clave
- OpenAI agrega controles parentales que permiten a los padres vincular cuentas para usuarios de tan solo 13 años.
- Los padres pueden establecer restricciones de funciones, controlar el historial de chat y recibir alertas de angustia.
- Las conversaciones sensibles o relacionadas con la salud mental se enrutan a través de un modelo especializado y cauto.
- Los filtros de contenido adecuados para la edad están habilitados de forma predeterminada para los usuarios más jóvenes.
- Un Consejo de Expertos en Bienestar y una Red Global de Médicos de más de 250 profesionales guían el sistema de seguridad.
- La implementación comienza el próximo mes, ofreciendo un enfoque proactivo para el apoyo a la salud mental impulsado por IA.
OpenAI anunció nuevos controles parentales para ChatGPT que permiten a los padres vincular cuentas, establecer límites de funciones y recibir alertas si un adolescente muestra signos de angustia emocional. Las conversaciones sensibles se enrutan a través de modelos especializados y más cautos diseñados para manejar crisis de salud mental. La implementación comienza el próximo mes e incluye filtros de contenido adecuados para la edad, guardar historial de chat opcional y una red de más de 250 profesionales médicos que guían la respuesta del sistema a señales de angustia.
OpenAI introduce controles parentales para ChatGPT
OpenAI está agregando una serie de herramientas de control parental a su plataforma ChatGPT. Las nuevas funciones permiten a los padres vincular sus propias cuentas a las de los niños a partir de los 13 años, lo que les da la capacidad de restringir ciertas funcionalidades y monitorear el uso para detectar signos de angustia emocional. Cuando la IA detecta lenguaje que sugiere depresión, ansiedad u otras preocupaciones de salud mental, los padres reciben alertas en tiempo real.
Más allá de las alertas, el sistema puede limitar si el chatbot conserva el historial de conversación o utiliza su función de memoria, lo que proporciona un nivel adicional de control de privacidad para las familias. Las pautas de contenido adecuadas para la edad están habilitadas de forma predeterminada, lo que garantiza que las respuestas estén adaptadas a los usuarios más jóvenes.
OpenAI también anunció que las conversaciones marcadas como potencialmente sensibles, particularmente aquellas que involucran luchas de salud mental o ideación suicida, se enrutarán a través de una versión especializada del modelo. Esta versión emplea un método llamado alineación deliberada, que está diseñado para responder de manera más cauta, resistir las solicitudes adversas y adherirse estrictamente a las pautas de seguridad.
Orientación de expertos y supervisión médica
Para definir cómo se detecta la angustia y cómo debe responder la IA, OpenAI creó un Consejo de Expertos en Bienestar y IA y reunió una Red Global de Médicos. La red incluye a más de 250 profesionales médicos especializados en salud mental, uso de sustancias y cuidado de adolescentes. Estos asesores ayudan a definir los protocolos de escalada y garantizan que las intervenciones del modelo se alineen con las mejores prácticas clínicas.
La implementación está programada para comenzar dentro del próximo mes, con el panel de control de los controles parentales disponible para los usuarios que opten por participar. OpenAI enfatiza que las herramientas están destinadas a ser proactivas, con el objetivo de intervenir antes de que una conversación llegue a un punto de crisis en lugar de reaccionar después del hecho.
En general, las nuevas mejoras de seguridad representan un cambio hacia una mayor responsabilidad para las interacciones de IA que involucran a adolescentes. Al combinar la supervisión parental, el enrutamiento de modelos especializados y la entrada de expertos médicos, OpenAI busca hacer que ChatGPT sea un compañero más seguro para los usuarios más jóvenes mientras conserva la utilidad que ha hecho que el servicio sea popular en todos los grupos de edad.