OpenAI Lança Recursos de Segurança para Adolescentes e Controles Parentais para ChatGPT
Pontos principais
- OpenAI está adicionando um sistema de previsão de idade para identificar usuários com menos de 18 anos.
- Menores são redirecionados para uma versão filtrada do ChatGPT que bloqueia conteúdo sexual gráfico.
- Novos controles parentais permitem que os pais vinculem contas, definam limites de uso e monitorem conversas.
- Os pais recebem alertas se o sistema detectar sinais de distresse agudo no seu adolescente.
- O CEO Sam Altman afirma que os recursos equilibram privacidade, liberdade e segurança para usuários jovens.
- O lançamento segue aumentos nas investigações da FTC e atenção congressional à segurança de crianças relacionada à IA.
- OpenAI pretende concluir a implantação de salvaguardas para adolescentes até o final do trimestre.
OpenAI anunciou novas salvaguardas para menores que usam ChatGPT, incluindo um sistema de previsão de idade que redireciona usuários com menos de 18 anos para uma versão filtrada do bot. A atualização também adiciona controles parentais que permitem que os pais vinculem suas contas, monitorem conversas, definam limites de uso e recebam alertas quando um adolescente mostra sinais de distresse agudo.
OpenAI Introduz Filtragem Baseada em Idade para ChatGPT
OpenAI divulgou que está construindo um sistema de previsão de idade projetado para identificar usuários com menos de 18 anos. Quando o sistema detecta um menor, ele redireciona automaticamente o usuário para uma versão "adequada para a idade" do ChatGPT que bloqueia conteúdo sexual gráfico e outros materiais considerados inadequados para audiências mais jovens.
Controles Parentais e Alertas em Tempo Real
Além da camada de filtragem, OpenAI está lançando controles parentais que permitem que os pais vinculem suas próprias contas com a do filho. Por meio dessa conexão, os pais podem gerenciar tópicos de conversa, desabilitar recursos específicos e definir janelas de uso diário. O sistema também envia notificações se detectar que um adolescente está experimentando distresse agudo, como sinais de ideia suicida ou autolesão, dando aos pais a opção de intervir prontamente.
Equilibrando Privacidade, Liberdade e Segurança
O CEO Sam Altman enfatizou que as novas ferramentas visam reconciliar três princípios frequentemente conflitantes: privacidade do usuário, liberdade de expressão e segurança dos usuários mais jovens. Ele reconheceu a dificuldade dessas compensações, observando que a empresa consultou especialistas para moldar a abordagem e se comprometeu com a transparência sobre suas intenções.
Contexto Regulatório e Scrutínio da Indústria
O anúncio ocorre em meio a um aumento do escrutínio das plataformas de IA pelos reguladores dos EUA. A Comissão Federal de Comércio recentemente solicitou informações à OpenAI, Meta, Google e outras empresas sobre como suas tecnologias afetam as crianças. Os legisladores também expressaram preocupações após relatos ligarem interações de bate-papo de IA a instâncias de autolesão e violência.
Perspectiva Futura
OpenAI planeja finalizar o lançamento dos recursos focados em adolescentes até o final do trimestre atual. Embora a empresa veja a iniciativa como um passo proativo para proteger os menores, também reconhece desafios contínuos, incluindo a preservação da privacidade do usuário enquanto responde a possíveis emergências.