OpenAI Introduce Ruta de Modelo de Razonamiento y Controles Parentales para Mejorar la Seguridad de ChatGPT
Puntos clave
- OpenAI enrutará chats que muestran signos de malestar agudo a modelos de razonamiento avanzados como GPT‑5.
- Se introducirán controles parentales, que permitirán a los padres vincular cuentas y establecer reglas de respuesta adecuadas para la edad.
- Los padres podrán deshabilitar la memoria y el historial de chat y recibir alertas si se detecta malestar agudo en su adolescente.
- El Modo de Estudio y los recordatorios de pausas de sesión siguen en vigor para promover hábitos de uso saludables.
- Las mejoras de seguridad forman parte de una iniciativa de 120 días que tiene como objetivo lograr mejoras más amplias dentro del año.
- OpenAI está colaborando con profesionales de la salud mental a través de su Red de Médicos Globales y el Consejo de Expertos.
OpenAI anunció planes para mejorar la seguridad de ChatGPT al dirigir automáticamente conversaciones sensibles a modelos de razonamiento más avanzados, como GPT‑5, y al lanzar controles parentales que permiten a los padres gestionar la interacción de sus adolescentes con el chatbot. Estas medidas forman parte de una iniciativa más amplia para responder a incidentes recientes en los que el sistema no detectó el malestar del usuario.
Enrutamiento Mejorado para Interacciones Sensibles
OpenAI reveló un nuevo enrutador en tiempo real que puede elegir entre modelos de chat eficientes y modelos de razonamiento más sofisticados en función del contexto de la conversación. Cuando el sistema identifica signos de malestar agudo, cambiará al usuario a un modelo de razonamiento como GPT‑5, que dedica más tiempo a procesar la solicitud y está diseñado para ser más resistente a las solicitudes dañinas.
Lanzamiento de Controles Parentales
La empresa también está preparando el lanzamiento de controles parentales que permiten a los padres vincularse a la cuenta de su adolescente. Estos controles están habilitados de forma predeterminada e incluyen reglas de comportamiento del modelo adecuadas para la edad, la opción de deshabilitar la memoria y el historial de chat, y la capacidad de recibir alertas si el sistema detecta malestar agudo en un adolescente. Los padres podrán gestionar cómo responde el chatbot, proporcionando una salvaguardia contra contenido potencialmente dañino.
Modo de Estudio y Esfuerzos de Seguridad Continuos
OpenAI introdujo previamente un Modo de Estudio para fomentar el pensamiento crítico mientras se estudia, y continúa incorporando recordatorios dentro de la aplicación que sugieren pausas durante sesiones largas e intensivas. Las nuevas características de seguridad forman parte de una iniciativa de 120 días destinada a preview y eventualmente lanzar mejoras comprehensivas dentro del año.
Colaboración con Expertos en Salud Mental
Para dar forma a su estrategia de seguridad, OpenAI está colaborando con especialistas en áreas como trastornos alimentarios, uso de sustancias y salud adolescente a través de su Red de Médicos Globales y un Consejo de Expertos en Bienestar y IA. Estas colaboraciones tienen como objetivo definir métricas de bienestar, establecer prioridades y diseñar salvaguardias futuras.