OpenAI Archiva Planes para ChatGPT Erótico en Medio de la Reacción Adversa
Puntos clave
- OpenAI ha detenido el desarrollo de un "modo adulto" para ChatGPT de forma indefinida.
- Los asesores advirtieron que la función podría llevar a vínculos poco saludables y riesgos para la salud mental.
- El personal citó desafíos técnicos en el entrenamiento de modelos para contenido explícito mientras se previene la salida de contenido ilegal.
- Los inversores expresaron inquietud sobre el riesgo reputacional y la ventaja comercial limitada.
- La decisión se alinea con el enfoque de OpenAI en productos principales y su misión de beneficiar a la humanidad.
OpenAI ha detenido el desarrollo de un "modo adulto" para ChatGPT, archivando el proyecto de forma indefinida para refocarse en sus productos principales. El personal y los asesores expresaron preocupaciones sobre los riesgos para la salud mental, los obstáculos técnicos y el posible contenido ilegal, mientras que los inversores expresaron inquietud sobre el riesgo reputacional. La decisión sigue a un debate interno sobre si un chatbot sexualmente explícito se alinea con la misión de la empresa de beneficiar a la humanidad.
OpenAI Pone en Espera el ChatGPT Erótico
OpenAI anunció que no avanzará con una versión erótica de su chatbot, ChatGPT, por el futuro predecible. La empresa dijo que se está refocando en sus productos principales después de presiones internas y externas que destacaron preocupaciones significativas sobre el propuesto "modo adulto".
Según un informe, insiders dijeron que OpenAI consideró descartar completamente el plan de modo adulto. Los asesores advirtieron que permitir a los usuarios formar vínculos poco saludables con el chatbot podría dañar la salud mental, incluso describiendo un escenario hipotético en el que la función podría convertirse en un "entrenador de suicidio sexy".
Los miembros del personal también cuestionaron si un ChatGPT sexualmente explícito se alineaba con la misión de OpenAI de desarrollar inteligencia artificial que beneficie a la humanidad. Los desarrolladores que trabajaban en la función de modo adulto enfrentaron dificultades técnicas para entrenar modelos que previamente evitaban conversaciones explícitas para producir dicho contenido. También lucharon por mantener el comportamiento ilegal, como la bestialidad y el incesto, fuera de las salidas, dado que los conjuntos de datos utilizados incluían material sexual.
La reacción de los inversores agregó otra capa de preocupación. Dos personas familiarizadas con el asunto dijeron que la flirteo de OpenAI con el modo adulto causó inquietud entre los inversores, quienes se preguntaban por qué OpenAI arriesgaría su reputación en un producto con una ventaja comercial relativamente pequeña para su negocio.
Incluso sin la función erótica, ChatGPT ya ha sido vinculado a daños a la salud mental en niños y adultos, lo que ha llevado a demandas que alegan que el chatbot se lanzó sin salvaguardias adecuadas. La combinación de dudas internas, desafíos técnicos y inquietud de los inversores llevó a OpenAI a archivar la versión erótica de forma indefinida y concentrarse en sus ofertas principales.