OpenAI Restringe Automaticamente o Uso do ChatGPT por Menores Após Suicídio de Adolescente

A OpenAI anunciou planos para identificar automaticamente usuários adolescentes do ChatGPT e limitar seu acesso após o suicídio de um adolescente de 16 anos que supostamente usou a ferramenta para planejar sua morte. A empresa disse que o novo sistema aplicará políticas apropriadas para a idade, bloqueará conteúdo sexual gráfico e, em casos de angústia aguda, permitirá que a polícia seja contatada. Quando a idade não puder ser determinada, os usuários serão default para uma experiência restrita, com adultos podendo verificar sua idade para desbloquear todas as funcionalidades. A OpenAI também detalhou controles parentais futuros, incluindo limites de tempo de uso, e compartilhou uma carta do CEO Sam Altman enfatizando a segurança sobre a privacidade para menores.

Contexto

A OpenAI está respondendo a um incidente trágico no qual um adolescente de 16 anos, identificado como Adam Raine, morreu por suicídio após supostamente usar o ChatGPT para planejar sua morte. O incidente provocou uma imediata escrutínio da acessibilidade da plataforma para menores e levantou preocupações sobre o potencial de ferramentas de IA serem usadas de maneira prejudicial.

Medidas Propostas pela OpenAI

Em uma postagem recente no blog, a OpenAI detalhou um sistema projetado para detectar automaticamente usuários adolescentes e restringir sua interação com o ChatGPT. O sistema aplicará políticas apropriadas para a idade, incluindo o bloqueio de conteúdo sexual gráfico. Quando a idade de um usuário não puder ser definitivamente determinada, a plataforma o defaultará para uma experiência restrita que limita certas funcionalidades. Adultos terão a opção de verificar sua idade para recuperar o acesso total.

A nova experiência também inclui uma funcionalidade de segurança que pode alertar a polícia em casos de angústia aguda, visando fornecer uma camada adicional de proteção para usuários vulneráveis.

Controles Parentais e Recursos Adicionais

A OpenAI reafirmou seu compromisso em entregar controles parentais que foram prometidos logo após a morte do adolescente. Os controles futuros permitirão que pais e responsáveis estabeleçam limites de tempo de uso, impedindo que crianças acessem o ChatGPT durante horas designadas. Esses recursos são destinados a dar às famílias uma maior supervisão de como menores interagem com o serviço de IA.

Declarações da Empresa

O CEO Sam Altman lançou uma carta delineando o pensamento da empresa sobre a questão. Ele enfatizou que a segurança tem precedência sobre a privacidade e a liberdade para adolescentes, notando a natureza poderosa da tecnologia e a necessidade de proteção significativa para menores. Altman reconheceu o conflito inerente entre segurança e privacidade, afirmando que, embora nem todos concordem com a abordagem, as decisões são baseadas em consultas com especialistas e um desejo por transparência.

Implicações

As medidas propostas representam uma mudança significativa na forma como a OpenAI gerencia a verificação de idade do usuário e a moderação de conteúdo. Ao automatizar a detecção de idade e integrar protocolos de segurança que podem envolver a polícia, a OpenAI visa mitigar o risco de incidentes futuros semelhantes ao que envolveu o adolescente de 16 anos. O cronograma de lançamento desses sistemas não foi divulgado, mas a empresa indicou que os controles parentais seriam introduzidos antes do fim do mês.