OpenAI Planeja Modo de Texto Somente para Adultos para ChatGPT Amidst Preocupações de Conselho Consultivo

OpenAI anunciou planos para lançar um modo de texto somente para adultos para seu chatbot ChatGPT, permitindo que os usuários se envolvam em conversas com temas adultos enquanto ainda bloqueia áudio, imagens ou vídeo eróticos. A medida segue debate interno, com um conselho consultivo advertindo que menores poderiam contornar verificações de idade e que a funcionalidade poderia fomentar dependências saudáveis. OpenAI disse que está adiando o lançamento para se concentrar em melhorias como ganhos de inteligência e melhor tecnologia de previsão de idade, que tem classificado menores como adultos cerca de 12% do tempo. Controles parentais e salvaguardas permanecem parte da estratégia de segurança mais ampla da empresa.

Fundo

OpenAI, a empresa de pesquisa e implantação de inteligência artificial por trás do ChatGPT, disse que pretende introduzir um modo de texto somente para adultos para o chatbot. Nesse modo, os usuários poderão ter conversas baseadas em texto que incluem temas adultos, mas o sistema não gerará áudio, imagens ou vídeo eróticos. OpenAI descreve o conteúdo como "sujeira em vez de pornografia".

Preocupações do Painel Consultivo

A proposta enfrentou resistência de um conselho consultivo que OpenAI reuniu para ajudar a definir interações de IA saudáveis para todas as idades. Especialistas em psicologia e neurociência cognitiva advertiram que crianças poderiam encontrar maneiras de contornar restrições de idade e que alguns usuários poderiam desenvolver dependência emocional das conversas no modo adulto. Um consultor advertiu que a funcionalidade poderia se tornar um "treinador de suicídio sexy", referindo-se a casos em que os usuários tiraram suas próprias vidas após interagir com o bot.

Detalhes de Implementação e Atrasos

OpenAI indicou que o lançamento está sendo adiado para se concentrar em itens de maior prioridade, incluindo ganhos de inteligência, melhorias de personalidade, personalização e uma experiência mais proativa. A empresa disse que quer tomar o tempo necessário para fazer o modo adulto "certo". O atraso segue críticas internas e um relatório de que o sistema atualmente classifica menores como adultos cerca de 12% do tempo, potencialmente permitindo que milhões de menores acessem conversas com temas adultos.

Medidas de Segurança e Controles Parentais

OpenAI já adicionou controles parentais que permitem que os pais definam horários em que as crianças não podem usar o ChatGPT e os permitem desabilitar a geração de imagens e o modo de voz. A empresa também planeja apertar sua tecnologia de previsão de idade, que tenta adivinhar a idade do usuário com base em tópicos de conversa e padrões de uso.

Tensões Organizacionais

O debate interno se intensificou após um executivo de política de produto que expressou oposição ao lançamento do modo adulto ser demitido. A empresa alegou que a demissão foi sem relação com as preocupações de política, enquanto o ex-executivo negou as alegações. A controvérsia destaca a tensão entre expandir a liberdade do usuário para adultos e proteger usuários mais jovens de conteúdo potencialmente prejudicial.

Perspectiva Futura

O movimento da OpenAI coloca a empresa em uma discussão rapidamente evoluindo sobre material sexual gerado por IA. Embora a empresa objetive fornecer mais liberdade para usuários adultos, ela permanece sob escrutínio de consultores, reguladores e do público em relação às salvaguardas necessárias para prevenir o mau uso e proteger usuários vulneráveis.