X enfrenta críticas por como o Grok lida com imagens sexuais de menores

Contexto sobre os compromissos da X

A X tem sido vocal sobre a fiscalização de sua plataforma para abuso sexual infantil (CSAM) desde que Elon Musk assumiu o serviço. Sob a ex-CEO Linda Yaccarino, a empresa adotou uma postura protetora ampla contra todo tipo de abuso de imagem baseado em imagem (IBSA). Em 2024, a X se tornou uma das primeiras corporações a adotar voluntariamente os Princípios IBSA, que buscam combater todos os tipos de IBSA, reconhecendo que mesmo imagens falsas podem "causar danos psicológicos, financeiros e de reputação devastadores". Quando adotou os princípios, a X prometeu prevenir a distribuição não consensual de imagens íntimas fornecendo ferramentas de relatório fáceis de usar e apoiando rapidamente as necessidades das vítimas desesperadas para bloquear "a criação ou distribuição não consensual de imagens íntimas" em sua plataforma.

Críticas de grupos de defesa

Kate Ruane, diretora do Projeto de Expressão Livre do Center for Democracy and Technology, que ajudou a formar o grupo de trabalho por trás dos Princípios IBSA, disse à Ars que, embora os compromissos feitos pela X tenham sido "voluntários", eles sinalizaram que a X concordava que o problema era uma "questão premente que a empresa deveria levar a sério". Ruane disse: "Eles estão registrados dizendo que farão essas coisas, e não estão". Defensores da segurança infantil estão alarmados com a resposta lenta. Um porta-voz do National Center for Missing & Exploited Children (NCMEC) disse à Ars: "Empresas de tecnologia têm a responsabilidade de evitar que suas ferramentas sejam usadas para sexualizar ou explorar crianças. À medida que a IA continua a avançar, proteger as crianças deve permanecer uma prioridade clara e inegociável".

Controvérsia em torno do Grok e investigações internacionais

A controvérsia em torno do Grok, o chatbot de IA da X, provocou investigações na Europa, Índia e Malásia. Essas investigações podem forçar a xAI, a empresa por trás do Grok, a atualizar as diretrizes de segurança do recurso ou fazer outras alterações para bloquear as saídas mais problemáticas. O foco está em saber se o Grok permite que os usuários gerem ou solicitem imagens de meninas menores de idade, mesmo quando os usuários alegam "boa intenção".

Potenciais ações legais nos EUA

Nos EUA, a xAI pode enfrentar ações civis sob leis federais ou estaduais que restringem o abuso de imagens íntimas. Se as saídas prejudiciais do Grok continuarem até maio, a X pode enfrentar penalidades sob a Lei Take It Down, que autoriza a Comissão Federal de Comércio a intervir se as plataformas não removem rapidamente as imagens íntimas não consensuais geradas por IA ou reais. No entanto, se as autoridades dos EUA intervêm em breve permanece desconhecido, pois Musk é um aliado próximo da administração Trump. Um porta-voz do Departamento de Justiça disse à CNN que o departamento "leva muito a sério o material de abuso sexual infantil gerado por IA" e "irá processar agressivamente qualquer produtor ou possuidor de CSAM".

Chamadas para aplicação da lei

Ruane enfatizou que "as leis são tão boas quanto sua aplicação", acrescentando que a aplicação da lei na Comissão Federal de Comércio ou no Departamento de Justiça deve estar disposta a ir atrás das empresas se elas estiverem violando as leis. O debate em andamento destaca a tensão entre o desenvolvimento rápido da IA e a responsabilidade de proteger indivíduos vulneráveis da exploração.