OpenAI retrasa la función de chat para adultos de ChatGPT debido a preocupaciones de seguridad en curso

OpenAI anunció planes para introducir un modo de texto solo para adultos en ChatGPT, que permitiría conversaciones eróticas mientras prohíbe contenido explícito de imágenes, video o voz. El lanzamiento, originalmente programado para el primer trimestre, ha sido pospuesto debido a obstáculos técnicos y debates de seguridad, incluyendo un problema de clasificación incorrecta donde alrededor del 12 por ciento de los usuarios menores de 18 años fueron etiquetados como adultos. Incidentes tempranos con AI Dungeon destacaron la dificultad de moderar el contenido sexual. OpenAI ha contratado a expertos en salud mental y ha creado un equipo de bienestar juvenil, y aunque la empresa continúa priorizando otras características, sigue comprometida con lanzar el modo para adultos una vez que se implementen las salvaguardias.

Antecedentes y planes iniciales

OpenAI reveló que tiene la intención de agregar un modo para adultos a ChatGPT, lo que permitiría a los usuarios participar en intercambios de texto eróticos. La empresa enfatizó que la característica estaría limitada al texto, con una prohibición estricta de generar contenido explícito de imágenes, video o voz. OpenAI describió el contenido planeado como "contenido para adultos" en lugar de pornografía, lo que indica un enfoque cauteloso en las interacciones para adultos.

Retraso y obstáculos técnicos

El lanzamiento, originalmente programado para el primer trimestre, ha sido retrasado. OpenAI citó desafíos técnicos y debates internos de seguridad como las principales razones para el retraso. Un obstáculo clave involucró el sistema de predicción de edad, que se encontró que clasificaba incorrectamente alrededor del 12 por ciento de los usuarios menores de 18 años como adultos, lo que planteó preocupaciones sobre menores que acceden a conversaciones eróticas.

Desafíos de moderación tempranos

La experiencia de OpenAI con la moderación de contenido se remonta a 2021, cuando el juego de aventuras de texto impulsado por IA AI Dungeon produjo escenarios sexuales violentos sin provocación. Estos incidentes expusieron limitaciones en las herramientas de moderación de la empresa, que lucharon por diferenciar el contenido erótico mainstream del material no consensuado o explotador.

Medidas de seguridad actuales

Para abordar estos problemas, OpenAI ha adoptado un enfoque de texto solo para el modo para adultos y ha reforzado una prohibición estricta de medios explícitos. La empresa también ha contratado a expertos en salud mental y ha creado un equipo de bienestar juvenil para monitorear los efectos a largo plazo una vez que se lance la característica. Además, OpenAI entrena a sus modelos para desalentar relaciones exclusivas con el chatbot y para fomentar conexiones en el mundo real.

Contexto estratégico

Este movimiento se produce en medio de una competencia aumentada con rivales como xAI y Anthropic, y mientras OpenAI enfrenta presiones financieras. El CEO Sam Altman ha reconocido que el contenido para adultos podría impulsar el crecimiento, pero también ha señalado que puede no alinearse con la misión general de la empresa. Después de una hesitación inicial, Altman anunció planes para lanzar el modo para adultos en diciembre, enfatizando la importancia de tener las medidas de seguridad correctas antes del lanzamiento.

Perspectiva futura

OpenAI continúa priorizando otros desarrollos, incluyendo ajustes de personalidad y características de personalización, mientras refina las salvaguardias necesarias para el modo para adultos. La empresa sigue comprometida con lanzar la característica una vez que pueda garantizar una protección robusta para los usuarios más jóvenes y mantener sus estándares para el uso responsable de la IA.