OpenAI planea modo de solo texto para adultos en ChatGPT ante preocupaciones de asesores

OpenAI anunció planes para lanzar un modo de solo texto para adultos en su chatbot ChatGPT, lo que permitirá a los usuarios participar en conversaciones con temas para adultos mientras bloquea el audio, imágenes o video eróticos. Esta medida sigue a un debate interno, con un consejo asesor que advirtió que los menores podrían evadir los controles de edad y que la función podría fomentar dependencias poco saludables. OpenAI dijo que está retrasando el lanzamiento para centrarse en mejorar la inteligencia, la personalización y la tecnología de predicción de edad, que ha clasificado incorrectamente a menores como adultos alrededor del 12% de las veces. Los controles parentales y las salvaguardas siguen siendo parte de la estrategia de seguridad más amplia de la empresa.

Antecedentes

OpenAI, la empresa de investigación y despliegue de inteligencia artificial detrás de ChatGPT, dijo que pretende introducir un modo de solo texto para adultos en el chatbot. En este modo, los usuarios podrán tener conversaciones basadas en texto que incluyan temas para adultos, pero el sistema no generará audio, imágenes o video eróticos. OpenAI describe el contenido como "sucio en lugar de pornografía".

Preocupaciones del panel asesor

La propuesta ha enfrentado oposición de un consejo asesor que OpenAI reunió para ayudar a definir interacciones de inteligencia artificial saludables para todas las edades. Expertos en psicología y neurociencia cognitiva advirtieron que los niños podrían encontrar formas de evadir las restricciones de edad y que algunos usuarios podrían desarrollar dependencia emocional de las conversaciones en modo para adultos. Un asesor advirtió que la función podría convertirse en un "entrenador de suicidio sexy", en referencia a casos en los que los usuarios se han quitado la vida después de interactuar con el bot.

Detalles de implementación y retrasos

OpenAI indicó que el lanzamiento se está retrasando para centrarse en elementos de mayor prioridad, incluyendo ganancias en inteligencia, mejoras en la personalidad, personalización y una experiencia más proactiva. La empresa dijo que quiere tomar el tiempo necesario para hacer que el modo para adultos esté "correcto". El retraso sigue a la crítica interna y a un informe que indica que el sistema actualmente clasifica incorrectamente a menores como adultos alrededor del 12% de las veces, lo que podría permitir que millones de menores accedan a conversaciones con temas para adultos.

Medidas de seguridad y controles parentales

OpenAI ya ha agregado controles parentales que permiten a los padres establecer horarios en los que los niños no pueden usar ChatGPT y permitirles deshabilitar la generación de imágenes y el modo de voz. La empresa también planea mejorar su tecnología de predicción de edad, que intenta adivinar la edad de un usuario en función de los temas de conversación y los patrones de uso.

Temas organizacionales

El debate interno se intensificó después de que un ejecutivo de política de productos que se opuso al lanzamiento del modo para adultos fue despedido. La empresa afirmó que el despido no estaba relacionado con las preocupaciones sobre la política, mientras que el ex ejecutivo negó las acusaciones. La controversia destaca la tensión entre expandir la libertad de los usuarios adultos y proteger a los usuarios más jóvenes de contenido potencialmente perjudicial.

Perspectiva futura

El movimiento de OpenAI lo coloca en una discusión en rápida evolución sobre material sexual generado por inteligencia artificial. Mientras que la empresa busca brindar más libertad a los usuarios adultos, sigue bajo escrutinio de asesores, reguladores y el público en cuanto a las salvaguardias necesarias para prevenir el mal uso y proteger a los usuarios vulnerables.