OpenAI Introduce Controles Parentales para ChatGPT
Puntos clave
- Los controles parentales ya están disponibles para los usuarios web de ChatGPT; el soporte móvil es inminente.
- Los padres deben crear una cuenta y vincularla a la cuenta de un adolescente para administrar la configuración.
- Los filtros pueden bloquear el contenido gráfico, sexual, violento y de ideales de belleza extremos.
- La memoria de conversaciones anteriores se puede desactivar para reducir la personalización y salvaguardar las interacciones.
- Los padres pueden evitar que los datos de un adolescente se utilicen para capacitar los modelos de OpenAI.
- Las horas de silencio permiten a los padres programar el tiempo de inactividad para el acceso al chatbot.
- El modo de voz, la generación de imágenes y otras características se pueden desactivar para un uso solo de texto.
- Las preferencias de notificación incluyen correo electrónico, SMS, notificaciones push o ninguna notificación.
- Los controles se introdujeron después de un caso de suicidio de alto perfil de un adolescente y la escrutinio del Senado.
OpenAI ha lanzado una suite de controles parentales para ChatGPT, inicialmente disponibles para usuarios web con soporte móvil programado para una versión posterior. Las herramientas permiten a los padres limitar el contenido sensible, deshabilitar la memoria de conversaciones anteriores, restringir la capacitación del modelo en los datos de un adolescente, establecer horas de silencio y desactivar la voz, la generación de imágenes y otras características.
Resumen de los Nuevos Controles
OpenAI anunció que los controles parentales para ChatGPT ya están disponibles para todos los usuarios web, con una versión móvil esperada pronto. El conjunto de características permite a los padres personalizar la experiencia del chatbot para las cuentas de adolescentes ajustando los filtros de contenido, la configuración de memoria y los permisos de uso.
Para activar los controles, un padre debe crear una cuenta de OpenAI y vincularla a la cuenta del adolescente. Los adolescentes pueden optar por invitar a un padre o aceptar una invitación, y conservan la capacidad de desconectar en cualquier momento, lo que genera una notificación al padre.
Funcionalidades Principales
Filtrado de Contenido: Los padres pueden agregar protecciones adicionales que reducen el contenido gráfico, sexual, romántico, de rol de violencia y de ideales de belleza extremos. Este filtro está habilitado de forma predeterminada una vez que se vincula la cuenta de un adolescente.
Administración de la Memoria: Desactivar la memoria de ChatGPT de conversaciones anteriores reduce la personalización y ayuda a mantener las barreras, evitando que el modelo evolucione hacia respuestas potencialmente inseguras durante interacciones prolongadas.
Opción de No Capacitación del Modelo: Los padres pueden evitar que las conversaciones y los archivos cargados por un adolescente se utilicen para mejorar los modelos de OpenAI.
Horas de Silencio: Los padres pueden programar períodos en los que el adolescente no puede acceder a ChatGPT.
Bloqueo de Características: El modo de voz, la generación de imágenes y otras capacidades interactivas se pueden desactivar, limitando al adolescente a interacciones solo de texto.
Opciones de Notificación: Los padres pueden recibir alertas sobre actividades preocupantes a través de correo electrónico, SMS, notificaciones push o cualquier combinación, o pueden optar por no recibir notificaciones.
Contexto de Seguridad y Antecedentes
La implementación sigue a una serie de preocupaciones de seguridad de alto perfil que involucran a menores. Notablemente, la muerte de un adolescente de 16 años que confidenció en ChatGPT provocó una demanda contra OpenAI y una audiencia en el Senado sobre los riesgos de la IA para los jóvenes. Durante la audiencia, el CEO de OpenAI, Sam Altman, enfatizó los esfuerzos de la empresa para equilibrar la seguridad con la privacidad y la libertad, mencionando el trabajo en un sistema de predicción de edad para evaluar mejor la madurez del usuario.
El anuncio anterior de OpenAI describió muchas de estas características de control, pero algunas características, como un contacto de emergencia de un clic, aún no se han materializado. Sin embargo, el nuevo sistema de notificación tiene como objetivo alertar a los padres si el sistema detecta signos de riesgo de seguridad grave, proporcionando solo la información necesaria para proteger al adolescente.
Detalles de Implementación
Los padres no tienen acceso directo al historial de conversaciones de un adolescente, preservando la privacidad a menos que se detecte un riesgo de seguridad rareza. Los controles se administran a través de una página de recursos para padres dedicada, que guía a los usuarios a través de la configuración y la selección de características.
La estrategia de seguridad más amplia de la empresa incluye investigaciones en curso sobre la moderación de contenido, la estimación de la edad del usuario y los mecanismos de respuesta rápida para riesgos emergentes.