Meta lança análise de estrutura óssea por IA para flagrar contas de menores de 13 anos no Facebook e Instagram
Pontos principais
- A Meta scanneriza fotos, vídeos e textos para altura e estrutura óssea para identificar usuários menores de 13 anos.
- O sistema não emprega reconhecimento facial; ele apenas avalia pistas visuais.
- Contas flagradas são desativadas até que os proprietários verifiquem sua idade.
- Contas de adolescentes (13-17) recebem controles de conteúdo mais rigorosos e limites de mensagens.
- O lançamento começa nos Estados Unidos, com o Reino Unido e a União Europeia previstos para junho.
- Um júri do Novo México ordenou que a Meta pagasse US$ 375 milhões por violar leis de segurança infantil.
- A Meta defende a verificação de idade no nível da loja de aplicativos e do sistema operacional.
- Preocupações de privacidade são notadas, mas a Meta afirma que a IA é uma medida protetora.
A Meta anunciou que seu sistema de IA agora examinará fotos, vídeos e textos no Facebook e Instagram para identificar usuários menores de 13 anos com base em características visuais, como altura e estrutura óssea. A tecnologia, que não utiliza reconhecimento facial, desativará contas consideradas menores de idade e exigirá verificação de idade.
A Meta divulgou na terça-feira que suas plataformas começarão a usar inteligência artificial para scannerizar imagens e vídeos em busca de traços físicos que sugiram que um usuário é menor de 13 anos. A IA procura por "temas gerais e pistas visuais", incluindo altura e estrutura óssea, para flagrar contas de crianças em potencial. Diferentemente das ferramentas de reconhecimento facial, o sistema não tenta associar um rosto a um indivíduo; ele simplesmente avalia se o sujeito parece ser um menor.
Quando o algoritmo flagra uma conta, a Meta a desativará e pedirá ao proprietário que verifique sua idade antes que o perfil possa ser restaurado. A medida faz parte dos esforços mais amplos da empresa para manter crianças menores de 13 anos fora de seus serviços, um requisito da Lei de Proteção à Privacidade Online de Crianças (COPPA). Além da análise visual, a IA também scannerizará posts, comentários, biografias e legendas em busca de pistas contextuais que sugiram que um usuário pode ser menor de idade.
A Meta também está expandindo uma tecnologia relacionada que coloca automaticamente usuários com idades entre 13 e 17 anos em "Contas de Adolescentes". Essas contas impõem controles de conteúdo mais rigorosos, bloqueiam mensagens de estranhos e impedem que usuários menores de 16 anos façam transmissões ao vivo. O Instagram já usa esse sistema; o Facebook seguirá o exemplo nos Estados Unidos, com um lançamento planejado para o Reino Unido e a União Europeia em junho.
As novas ferramentas de IA estão sendo introduzidas em alguns países, incluindo os Estados Unidos, antes de uma implantação global mais ampla. A Meta afirma que a funcionalidade está disponível apenas em "mercados selecionados" nessa fase.
O anúncio vem após um veredito de um júri do Novo México que encontrou a Meta culpada por violar a lei estadual ao enganar clientes sobre a segurança da plataforma e não proteger as crianças de predadores. O tribunal ordenou que a empresa pagasse US$ 375 milhões e sinalizou que mudanças adicionais podem ser necessárias, uma perspectiva que a Meta havia advertido anteriormente que poderia levá-la a se retirar do estado.
Em seu post no blog, a Meta reiterou seu apoio a mecanismos de verificação de idade incorporados ao nível da loja de aplicativos e do sistema operacional, uma abordagem que está ganhando tração entre os legisladores no Congresso e em estados como a Califórnia e o Colorado. A empresa argumenta que a verificação em nível de sistema forneceria uma barreira mais confiável contra o acesso de menores de idade do que as medidas específicas de plataforma sozinhas.
Críticos apontaram que a scannerização de conteúdo visual para estrutura óssea levanta preocupações de privacidade, mesmo que a Meta enfatize que a tecnologia não identifica indivíduos. A empresa mantém que a IA serve a uma função protetora, visando reduzir a exposição de crianças a conteúdo e interações prejudiciais.
À medida que o lançamento prossegue, a Meta monitorará a eficácia da IA em identificar usuários menores de 13 anos e ajustará suas políticas de acordo. Os próximos passos da empresa incluem expandir a tecnologia para regiões adicionais e aprimorar as salvaguardas de contas de adolescentes para atender às expectativas regulatórias em evolução.