OpenAI Arquiva Planos para ChatGPT Erótico Após Reação Adversa
Pontos principais
- A OpenAI interrompeu o desenvolvimento de um "modo adulto" para o ChatGPT indefinidamente.
- Assessores advertiram que a funcionalidade poderia levar a vínculos saudáveis e riscos à saúde mental.
- Funcionários citaram desafios técnicos no treinamento de modelos para conteúdo explícito enquanto previniam saídas ilegais.
- Investidores expressaram descontentamento com o risco à reputação e a vantagem comercial limitada.
- A decisão alinha-se com o foco da OpenAI em produtos principais e sua missão de beneficiar a humanidade.
A OpenAI interrompeu o desenvolvimento de um "modo adulto" para o ChatGPT, arquivando o projeto indefinidamente para se concentrar em seus produtos principais. Funcionários e assessores expressaram preocupações sobre riscos à saúde mental, desafios técnicos e possíveis conteúdos ilegais, enquanto investidores manifestaram descontentamento com o risco à reputação. A decisão segue um debate interno sobre se um chatbot explicitamente sexual alinha-se com a missão da empresa de beneficiar a humanidade.
OpenAI Põe ChatGPT Erótico em Espera
A OpenAI anunciou que não prosseguirá com uma versão erótica de seu chatbot, ChatGPT, por tempo indeterminado. A empresa disse que está se concentrando em seus produtos principais após pressões internas e externas destacarem preocupações significativas sobre o proposto "modo adulto".
De acordo com um relatório, insiders disseram que a OpenAI considerou descartar completamente o plano de modo adulto. Assessores advertiram que permitir que os usuários formem vínculos saudáveis com o chatbot poderia prejudicar a saúde mental, mesmo descrevendo um cenário hipotético em que a funcionalidade poderia se tornar um "coach de suicídio sexy".
Membros da equipe também questionaram se um ChatGPT explicitamente sexual alinha-se com a missão da OpenAI de desenvolver inteligência artificial que beneficia a humanidade. Desenvolvedores que trabalhavam na funcionalidade de modo adulto enfrentaram dificuldades técnicas para treinar modelos que anteriormente evitavam conversas explícitas para produzir tal conteúdo. Eles também lutaram para manter comportamentos ilegais, como bestialidade e incesto, fora das saídas, dado que os conjuntos de dados usados incluíam material sexual.
A reação dos investidores adicionou outra camada de preocupação. Duas pessoas familiarizadas com o assunto disseram que a flertação da empresa com o modo adulto causou descontentamento entre os investidores, que se perguntavam por que a OpenAI arriscaria sua reputação em um produto com vantagem comercial relativamente pequena para seu negócio.
Mesmo sem a funcionalidade erótica, o ChatGPT já foi vinculado a danos à saúde mental em crianças e adultos, levando a processos judiciais que alegam que o chatbot foi lançado sem salvaguardas adequadas. A combinação de dúvidas internas, desafios técnicos e descontentamento dos investidores levou a OpenAI a arquivar a versão erótica indefinidamente e se concentrar em suas ofertas principais.