OpenAI implementará restricciones automáticas para menores de edad en ChatGPT después de la muerte de un adolescente

OpenAI anunció planes para identificar automáticamente a los usuarios adolescentes de ChatGPT y limitar su acceso después de la muerte de un adolescente de 16 años que presuntamente usó la herramienta para planificar su muerte. La empresa dijo que el nuevo sistema aplicará políticas adecuadas para la edad, bloqueará contenido sexual gráfico y, en casos de angustia aguda, permitirá el contacto con las fuerzas del orden. Cuando no se pueda determinar la edad, los usuarios tendrán una experiencia restringida por defecto, y los adultos podrán verificar su edad para desbloquear las capacidades completas. OpenAI también presentó controles parentales futuros, incluyendo límites de tiempo de uso, y compartió una carta del CEO Sam Altman enfatizando la seguridad sobre la privacidad para los menores.

Antecedentes

OpenAI está respondiendo a un incidente trágico en el que un adolescente de 16 años, identificado como Adam Raine, murió por suicidio después de presuntamente usar ChatGPT para planificar su muerte. El incidente provocó un escrutinio inmediato sobre la accesibilidad de la plataforma para menores y generó preocupaciones sobre el potencial de las herramientas de inteligencia artificial para ser utilizadas de manera perjudicial.

Medidas propuestas por OpenAI

En una publicación de blog reciente, OpenAI detalló un sistema diseñado para detectar automáticamente a los usuarios adolescentes y restringir su interacción con ChatGPT. El sistema aplicará políticas adecuadas para la edad, incluyendo el bloqueo de contenido sexual gráfico. Cuando no se pueda determinar definitivamente la edad de un usuario, la plataforma lo asignará a una experiencia restringida que limita ciertas funcionalidades. Los adultos tendrán la opción de verificar su edad para recuperar el acceso completo.

Controles parentales y características adicionales

OpenAI reafirmó su compromiso de entregar controles parentales que se prometieron poco después de la muerte del adolescente. Los controles futuros permitirán a los padres y tutores establecer límites de tiempo de uso, impidiendo que los niños accedan a ChatGPT durante horas designadas. Estas características están destinadas a dar a las familias una mayor supervisión de cómo los menores interactúan con el servicio de inteligencia artificial.

Declaraciones de la empresa

El CEO Sam Altman publicó una carta que describe el pensamiento de la empresa sobre el tema. Enfatizó que la seguridad tiene prioridad sobre la privacidad y la libertad para los adolescentes, destacando la naturaleza poderosa de la tecnología y la necesidad de una protección significativa para los menores. Altman reconoció el conflicto inherente entre la seguridad y la privacidad, afirmando que, aunque no todos estarán de acuerdo con el enfoque, las decisiones se basan en consultas con expertos y en el deseo de transparencia.

Implicaciones

Las medidas propuestas representan un cambio importante en la forma en que OpenAI gestiona la verificación de edad de los usuarios y la moderación de contenido. Al automatizar la detección de edad y integrar protocolos de seguridad que pueden involucrar a las fuerzas del orden, OpenAI busca mitigar el riesgo de incidentes futuros similares al que involucró al adolescente de 16 años. No se divulgó el cronograma de implementación de estos sistemas, pero la empresa indicó que los controles parentales se introducirán antes de que termine el mes.