OpenAI Adia Lançamento de Recurso de ChatGPT para Adultos devido a Preocupações de Segurança
Pontos principais
- A OpenAI planeja um modo de texto apenas para adultos no ChatGPT, proibindo imagens, vídeo e conteúdo de voz explícito.
- O lançamento, originalmente agendado para o primeiro trimestre, foi adiado devido a preocupações técnicas e de segurança.
- O sistema de previsão de idade classificou erroneamente cerca de 12 por cento dos usuários menores de 18 anos como adultos, levantando preocupações sobre menores acessando conversas eróticas.
- Incidentes iniciais com AI Dungeon destacaram os desafios de moderação de conteúdo sexual.
- A OpenAI contratou especialistas em saúde mental e criou uma equipe de bem-estar da juventude para monitorar os efeitos.
- O CEO Sam Altman observou que o conteúdo para adultos poderia impulsionar o crescimento, mas enfatizou a importância de alinhar-se com a missão da empresa.
- A empresa continua a se concentrar em outros recursos, como ajustes de personalidade, enquanto refina as ferramentas de segurança.
A OpenAI anunciou planos para introduzir um modo de texto apenas para adultos no ChatGPT, permitindo conversas eróticas enquanto proíbe imagens, vídeo ou conteúdo de voz explícito. O lançamento, originalmente previsto para o primeiro trimestre, foi adiado devido a obstáculos técnicos e debates sobre segurança, incluindo um problema de classificação errada onde cerca de 12 por cento dos usuários menores de 18 anos foram identificados como adultos.
Contexto e Planos Iniciais
A OpenAI divulgou que pretende adicionar um modo de adulto ao ChatGPT, permitindo que os usuários participem de trocas de texto erótico. A empresa enfatizou que o recurso seria limitado a texto, com uma proibição rigorosa de geração de imagens, vídeo ou conteúdo de voz explícito. A OpenAI descreveu o conteúdo planejado como "erotismo" em vez de pornografia, sinalizando uma abordagem cautelosa às interações de adultos.
Adiamento e Obstáculos Técnicos
O lançamento, originalmente agendado para o primeiro trimestre, foi adiado. A OpenAI citou desafios técnicos e debates internos sobre segurança como principais razões para o adiamento. Um obstáculo-chave envolvia o sistema de previsão de idade, que foi encontrado para classificar erroneamente cerca de 12 por cento dos usuários menores de 18 anos como adultos, levantando preocupações sobre menores acessando conversas eróticas.
Desafios Iniciais de Moderação
A experiência da OpenAI com moderação de conteúdo remonta a 2021, quando o jogo de aventura de texto impulsionado por IA, AI Dungeon, produziu cenários sexuais violentos sem provocação. Esses incidentes expuseram limitações nas ferramentas de moderação da empresa, que lutaram para diferenciar o erotismo mainstream do material não-consensual ou exploratório.
Medidas de Segurança Atuais
Para abordar essas questões, a OpenAI adotou uma abordagem de texto apenas para o modo de adulto e reforçou uma proibição rigorosa de mídia explícita. A empresa também recrutou especialistas em saúde mental e reuniu uma equipe de bem-estar da juventude para monitorar os efeitos de longo prazo uma vez que o recurso seja lançado. Além disso, a OpenAI treina seus modelos para desencorajar relacionamentos exclusivos com o chatbot e para encorajar conexões do mundo real.
Contexto Estratégico
A medida ocorre em meio a uma competição intensificada com rivais como xAI e Anthropic, e à medida que a OpenAI enfrenta pressões financeiras. O CEO Sam Altman reconheceu que o conteúdo para adultos poderia impulsionar o crescimento, mas também observou que pode não alinhar-se com a missão mais ampla da empresa. Após uma hesitação inicial, Altman anunciou planos para lançar o modo de adulto em dezembro, enfatizando a importância de obter as medidas de segurança certas antes do lançamento.
Perspectiva Futura
A OpenAI continua a priorizar outros desenvolvimentos, incluindo ajustes de personalidade e recursos de personalização, enquanto refina as salvaguardas necessárias para o modo de adulto. A empresa permanece comprometida em lançar o recurso assim que possa garantir uma proteção robusta para os usuários mais jovens e manter seus padrões para o uso responsável de IA.