OpenAI Anuncia Novas Medidas de Segurança para Usuários do ChatGPT com Menos de 18 Anos
Pontos principais
- O ChatGPT não participará mais de conversas flirtatiosas com usuários com menos de 18 anos.
- Novas salvaguardas bloqueiam conteúdo sexual e adicionam controles rigorosos em torno de tópicos de autolesão.
- Se um menor discutir cenários suicidas, o sistema pode contatar os pais ou as autoridades.
- A OpenAI enfrenta uma ação de morte injusta dos pais do adolescente Adam Raine.
- Uma audiência do Senado sobre danos de chatbots de IA incluirá o testemunho do pai de Raine.
- A Reuters descobriu documentos internos que incentivavam conversas sexuais com menores.
- A OpenAI está construindo ferramentas de verificação de idade e recorrerá às regras restritivas quando incerto.
- Os pais podem vincular contas de adolescentes, definir horas de blecaute e receber alertas de distresse.
- A OpenAI reafirma seu compromisso com a privacidade dos adultos enquanto prioriza a segurança dos menores.
O CEO da OpenAI, Sam Altman, revelou um conjunto de novas políticas visando proteger os usuários com menos de 18 anos. As mudanças proíbem conversas flirtatiosas com menores, reforçam as barreiras em torno de discussões sobre autolesão e introduzem mecanismos para alertar pais ou autoridades se um adolescente parecer suicida.
Revisão de Políticas para Usuários com Menos de 18 Anos
A OpenAI anunciou que o ChatGPT não participará mais de conversas flirtatiosas com usuários identificados como tendo menos de 18 anos. Novas barreiras abordam especificamente tópicos sexuais e autolesão, direcionando o sistema a cessar tais conversas e, em casos graves, tentar contatar os pais do usuário ou agências de aplicação da lei.
Contexto Legal e Regulatório
A mudança de política chega enquanto a OpenAI enfrenta uma ação de morte injusta dos pais de Adam Raine, que morreu por suicídio após meses de interações com o chatbot. Uma ação judicial paralela mira a Character.AI. Além disso, uma audiência do Comitê Judiciário do Senado intitulada "Examinando o Dano dos Chatbots de IA", convocada pelo Sen. Josh Hawley, contará com o testemunho do pai de Raine e se concentrará em descobertas de uma investigação da Reuters que destacou documentos de política interna que incentivavam conversas sexuais com menores. Após o relatório, a Meta atualizou suas próprias políticas de chatbot.
Implementação e Controles Parentais
A OpenAI está desenvolvendo um sistema de longo prazo para avaliar se um usuário tem mais ou menos de 18 anos, recorrendo às regras mais rigorosas quando a idade for ambígua. Os pais podem vincular a conta de um adolescente a uma conta de pai, definir "horas de blecaute" quando o chatbot estiver indisponível e receber alertas se o sistema acreditar que o adolescente está em distresse.
Equilibrando Segurança e Privacidade
Enquanto enfatiza a segurança aumentada para menores, a OpenAI reiterou seu compromisso com a preservação da privacidade e liberdade de interação dos usuários adultos. Altman reconheceu a tensão inerente entre proteger usuários vulneráveis e manter a privacidade para adultos.
Recursos de Apoio
O anúncio incluiu referências a linhas diretas de prevenção ao suicídio e linhas de texto de crise para usuários que precisam de ajuda imediata.