O ChatGPT Pode Em Breve Exigir Verificação de Idade dos Adultos, Diz CEO

A OpenAI está preparando um sistema de verificação de idade para o ChatGPT, seguindo outros plataformas que introduziram versões específicas para jovens. A medida, anunciada pelo CEO Sam Altman, visa melhorar a segurança para usuários mais jovens, mas levanta preocupações de privacidade para adultos que precisarão compartilhar informações pessoais.

Contexto da Indústria e Recursos Focados na Juventude

A OpenAI está entrando em um espaço onde várias grandes empresas de tecnologia lançaram versões de seus serviços destinadas a audiências mais jovens. Plataformas como YouTube Kids, Contas Teen do Instagram e restrições do TikTok para menores de 16 anos são citadas como esforços comparáveis para criar ambientes digitais mais seguros. No entanto, essas medidas muitas vezes encontram contornos, com adolescentes usando datas de nascimento falsas, contas emprestadas ou soluções técnicas para contornar as verificações de idade.

Um relatório da BBC de 2024 destacou que 22 por cento das crianças representam sua idade nas mídias sociais, alegando ter 18 anos ou mais. Essa estatística destaca o desafio contínuo de aplicar políticas relacionadas à idade nos serviços online.

Sistema de Verificação de Idade Planejado pela OpenAI

A OpenAI pretende avançar com um mecanismo de verificação de idade impulsionado por IA, apesar de sua tecnologia ser descrita como "não comprovada". A empresa reconhece que os adultos podem ter que sacrificar privacidade e flexibilidade para atender aos requisitos de verificação. Em uma declaração pública, o CEO Sam Altman enfatizou a tensão entre privacidade e segurança, observando: "As pessoas falam com a IA sobre coisas cada vez mais pessoais; é diferente das gerações anteriores de tecnologia, e acreditamos que elas podem ser uma das contas mais pessoalmente sensíveis que você já terá".

Preocupações de Segurança e Incidentes Recentemente

A pressão por uma verificação mais rigorosa segue a admissão anterior da OpenAI de que os salvaguardas de segurança do ChatGPT podem se deteriorar durante conversas prolongadas. A empresa alertou que, à medida que o vaivém entre o usuário e o modelo cresce, "partes do treinamento de segurança do modelo podem se degradar". Inicialmente, o sistema pode direcionar corretamente os usuários para linhas diretas de prevenção ao suicídio, mas após muitas trocas, pode fornecer respostas que contradizem as salvaguardas estabelecidas.

Perguntas sem Resposta e Lacunas de Implementação

A OpenAI não esclareceu como seu sistema de previsão de idade tratará os usuários atuais que não passaram pela verificação, se estenderá ao acesso à API ou como navegará pelas diferentes definições legais de maioridade em várias jurisdições. Essas lacunas deixam incerteza para ambos os usuários existentes e desenvolvedores que dependem das plataformas da OpenAI.

Independentemente da idade, todos os usuários continuarão a ver lembretes dentro do aplicativo incentivando pausas durante sessões prolongadas do ChatGPT. Essa funcionalidade, introduzida no início do ano, responde a relatos de usuários engajados em interações maratonas com o chatbot.

Olhando para o Futuro

A estrutura de verificação proposta pela OpenAI reflete uma tendência mais ampla da indústria em direção ao equilíbrio entre segurança do usuário e direitos de privacidade. Embora a iniciativa tenha como objetivo proteger usuários mais jovens de possíveis danos, a falta de planos de implementação detalhados e a existência de falhas de segurança anteriores levantam questões sobre sua eficácia geral.