OpenAI Desarrolla Versión Dedicada para Adolescentes de ChatGPT
Puntos clave
- OpenAI está construyendo una versión de ChatGPT adaptada para usuarios menores de 18 años.
- La tecnología de predicción de edad dirige a los usuarios inciertos a la experiencia para adolescentes.
- Filtros más estrictos bloquean discusiones de coqueteo y autolesiones.
- La respuesta a crisis puede alertar a los padres y contactar a las autoridades si es necesario.
- Los controles parentales incluyen la vinculación de cuentas y la configuración de horas de inactividad.
- El lanzamiento está planeado para finales de año en medio de un aumento en la escrutinio legislativo.
OpenAI anunció una nueva versión de ChatGPT diseñada específicamente para usuarios menores de 18 años. La experiencia enfocada en adolescentes incluye tecnología de predicción de edad que dirige a los usuarios más jóvenes lejos del modelo estándar, filtros de contenido más estrictos que bloquean discusiones de coqueteo o autolesiones, y una respuesta de crisis integrada que puede alertar a los padres o a las autoridades. Los controles parentales permiten a los adultos vincular cuentas, establecer reglas de respuesta y aplicar períodos de inactividad.
OpenAI Introduce una Experiencia de ChatGPT Específica para Adolescentes
OpenAI reveló que está creando una versión separada de su chatbot ChatGPT para adolescentes. La iniciativa se presenta como un paso importante para la seguridad, con el objetivo de proteger a los usuarios más jóvenes de contenido y interacciones potencialmente dañinos.
Verificación de Edad y Enrutamiento Predeterminado
El nuevo sistema utiliza tecnología de predicción de edad para identificar a los usuarios que parecen ser menores de 18 años. Cuando el modelo no puede evaluar con confianza la edad de un usuario, automáticamente se dirige a la experiencia específica para adolescentes, asegurando que los usuarios más jóvenes se mantengan fuera de la versión estándar.
Filtros de Contenido y Límites de Conversación
Los filtros integrados son más estrictos que los del chatbot estándar. Bloquean el diálogo de coqueteo y cualquier discusión sobre autolesiones, incluso cuando se presentan en un contexto ficticio o de escritura creativa. Esto tiene como objetivo reducir la exposición a temas que podrían afectar negativamente la salud mental de los adolescentes.
Respuesta a Crisis y Alertas para Padres
Si un adolescente expresa pensamientos suicidas, el sistema puede intentar alertar a los padres del usuario y, en situaciones de emergencia, podría contactar a las autoridades. Esta función de respuesta a crisis está diseñada para brindar asistencia rápida cuando un usuario parece estar en peligro.
Controles Parentales y Vinculación de Cuentas
Los padres pueden vincular sus cuentas al perfil de un adolescente, establecer reglas de respuesta específicas y aplicar "horas de inactividad" durante las cuales la aplicación es inaccesible. Estos controles dan a los tutores una supervisión directa de cómo el chatbot interactúa con sus hijos.
Contexto Regulatorio y Presión Legislativa
El anuncio llega en medio de una audiencia del Senado que examina las posibles amenazas que la IA plantea a los jóvenes. Los legisladores han intensificado la presión sobre las empresas tecnológicas para que mejoren las características de seguridad para menores después de demandas que afirman que las plataformas de IA han contribuido a desafíos de salud mental.
Comparaciones con la Industria
El movimiento de OpenAI refleja acciones anteriores de otras empresas tecnológicas que introdujeron entornos protegidos para audiencias más jóvenes, como una versión para niños de una plataforma de video, en respuesta a críticas y escrutinio regulatorio.
Lanzamiento Planificado
OpenAI tiene previsto lanzar la experiencia de ChatGPT enfocada en adolescentes para finales de año, posicionándola como una solución proactiva para abordar las preocupaciones sobre las interacciones de la IA con menores.
Recursos para Quienes Están en Crisis
Además de las nuevas características de seguridad, el anuncio reitera que las personas que experimentan peligro inmediato deben llamar a los servicios de emergencia, y aquellos con pensamientos suicidas en los Estados Unidos pueden comunicarse con la Línea Nacional de Prevención del Suicidio al 988.