El modo para adultos planeado por OpenAI para ChatGPT genera preocupaciones sobre la privacidad
Puntos clave
- OpenAI planea agregar un modo para adultos que permita a los usuarios generar contenido erótico con ChatGPT.
- La función se basa en el sistema de memoria del modelo, que registra las preferencias de los usuarios para ofrecer respuestas personalizadas.
- Las conversaciones temporales se dice que no aparecerán en el historial, pero OpenAI puede conservar copias durante un máximo de 30 días.
- Bugs pasados han expuesto los títulos de las conversaciones de los usuarios y han permitido que las conversaciones sean indexadas por motores de búsqueda.
- Los expertos advierten que las conversaciones íntimas con la IA podrían convertirse en una forma de vigilancia.
- Julie Carpenter destaca los riesgos de violaciones de seguridad, ataques y solicitudes legales que exponen fantasías privadas.
- Kate Devlin señala que el movimiento refleja la monetización de un comportamiento que ya ocurre en línea.
- OpenAI no ha proporcionado explicaciones detalladas sobre cómo se manejará el contenido maduro.
OpenAI está preparando una función enfocada en adultos para ChatGPT que permitiría a los usuarios generar contenido erótico. Los expertos advierten que la nueva capacidad podría convertir las conversaciones íntimas en una forma de vigilancia, ya que el modelo registra preferencias y retiene datos durante un máximo de 30 días. Aunque OpenAI afirma que las conversaciones temporales no aparecerán en el historial del usuario, la empresa puede conservar copias por motivos de seguridad y cumplimiento legal.
Antecedentes
OpenAI ha señalado su intención de permitir a los usuarios adultos crear material erótico con ChatGPT. El plan, insinuado por primera vez hace dos años, sigue en desarrollo, con plazos descritos como inciertos. El consejo asesor de expertos externos de la empresa ha expresado preocupaciones sobre los posibles riesgos, incluyendo la perspectiva de un "entrenador de suicidio sexy". OpenAI no ha proporcionado comentarios cuando se le solicitó aclaraciones.
Cómo funciona la función
El futuro modo para adultos se basaría en las características de memoria existentes de ChatGPT, que registran las preferencias de los usuarios para ofrecer respuestas personalizadas. Por ejemplo, el modelo puede recordar hábitos alimenticios o información de ubicación para ofrecer sugerencias. En el contexto de adultos, esta memoria podría extenderse a preferencias sexuales, fantasías y fetiches específicos, lo que permitiría al modelo generar contenido erótico altamente personalizado.
Riesgos de privacidad y retención de datos
Los expertos advierten que convertir las conversaciones sexuales privadas en puntos de datos crea una nueva capa de vigilancia íntima. El sitio web de OpenAI indica que las "conversaciones temporales" no aparecerán en el historial de conversaciones del usuario ni se utilizarán para mejorar el modelo, sin embargo, la empresa afirma que puede conservar una copia durante un máximo de 30 días por motivos de seguridad. Un aviso también menciona que la retención de datos podría verse afectada por desarrollos legales recientes.
Incidentes pasados han demostrado que los datos de ChatGPT pueden ser expuestos. En 2023, un error mostró los títulos de algunas conversaciones de los usuarios, y más tarde ese año, las conversaciones fueron indexadas involuntariamente por Google Search, lo que las hizo accesibles públicamente. Estos ejemplos ilustran la posible vulnerabilidad de contenido altamente sensible si se registrara o se filtrara.
Opiniones de expertos
La especialista en interacción humano-AI Julie Carpenter enfatiza que los usuarios pueden sentir una falsa sensación de privacidad al compartir pensamientos íntimos con el modelo. Ella advierte que los datos podrían ser vulnerables a ataques, violaciones de seguridad o solicitudes legales, lo que expondría las fantasías sexuales de los usuarios de maneras que nunca imaginaron.
Kate Devlin, profesora de AI y sociedad, señala que el movimiento refleja el deseo de monetizar el comportamiento que las personas ya están realizando, pero destaca la distinción entre servicios de chat para adultos de nicho y una plataforma mainstream como ChatGPT.
Posición de OpenAI
OpenAI indica que las conversaciones temporales están diseñadas para dar a los usuarios una sensación de efimeridad, pero reconoce que se pueden conservar copias por motivos de seguridad y cumplimiento legal. La empresa no ha detallado cómo manejará las conversaciones maduras más allá de estas declaraciones.
Implicaciones
La introducción de un modo para adultos en una plataforma de AI ampliamente utilizada plantea preguntas sobre la seguridad del usuario, la seguridad de los datos y las responsabilidades éticas de las empresas tecnológicas. A medida que la IA se vuelve más capaz de imitar interacciones sociales, la línea entre la expresión privada y la recopilación de datos se desdibuja, lo que genera llamadas a medidas de seguridad y transparencia más claras.