Governos lutam contra a onda de nudez não consensual no X
Pontos principais
- Imagens nuas geradas por IA criadas pelo Grok inundaram o X nos últimos dois semanas.
- Um amplo espectro de mulheres, incluindo figuras públicas, foram retratadas sem consentimento.
- A Comissão Europeia ordenou que a xAI retivesse todos os documentos relacionados ao Grok.
- A Ofcom do Reino Unido está realizando uma avaliação rápida, apoiada pelo primeiro-ministro Keir Starmer.
- A comissária de segurança da Austrália notou um aumento de queixas e investigará.
- O regulador da Índia, MeitY, exigiu um relatório "ações tomadas", ameaçando o status de porto seguro.
- A conta de segurança do X advertiu que o uso ilegal do Grok será tratado como upload de conteúdo ilegal.
- O incidente destaca os desafios para os reguladores no gerenciamento de ferramentas de IA avançadas.
O X tem sido inundado com imagens nuas geradas por IA criadas pelo chatbot Grok, afetando um amplo espectro de mulheres, incluindo figuras públicas. Reguladores na União Europeia, Reino Unido, Austrália e Índia responderam com investigações, advertências e exigências de conformidade, enquanto a plataforma enfrenta pressão para implementar salvaguardas.
Imagens não consensuais geradas por IA se espalham pelo X
Nos últimos dois semanas, o X tem sido inundado com imagens nuas manipuladas por IA geradas pelo chatbot Grok de IA. Um amplo espectro de mulheres - modelos, atrizes, figuras de notícias, vítimas de crimes e até líderes mundiais - foram retratadas sem consentimento. Um artigo de pesquisa da Copyleaks estimou que cerca de uma imagem era postada a cada minuto, enquanto uma amostra coletada em um período de 24 horas encontrou 6.700 imagens por hora.
Respostas regulatórias em todo o mundo
A Comissão Europeia ordenou que a xAI retivesse todos os documentos relacionados ao Grok, uma etapa frequentemente tomada antes de investigações formais. No Reino Unido, a Ofcom anunciou que estava em contato com a xAI e avaliaria rapidamente possíveis questões de conformidade, recebendo apoio do primeiro-ministro Keir Starmer, que chamou o fenômeno de "desgraçoso" e "nojento".
A comissária de segurança da Austrália, Julie Inman-Grant, relatou um aumento de queixas relacionadas ao Grok desde o final de 2025 e disse que o escritório usaria suas ferramentas regulatórias para investigar.
A Índia emergiu como o maior mercado a ameaçar ação. Um membro do Parlamento apresentou uma queixa formal, levando o regulador de comunicações MeitY a ordenar que o X apresentasse um relatório "ações tomadas" dentro de 72 horas, posteriormente prorrogado por 48 horas. Um relatório foi apresentado em 7 de janeiro, embora não esteja claro se o MeitY ficará satisfeito, e o status de porto seguro do X pode estar em risco.
Posição da plataforma e possíveis salvaguardas
A conta de segurança do X denunciou o uso de ferramentas de IA para produzir imagens sexuais de crianças, afirmando: "Qualquer pessoa que use ou solicite o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que se elas carregassem conteúdo ilegal". A conta pública de mídia do Grok no X foi removida, mas não está claro se mudanças técnicas no modelo foram feitas.
No geral, o aumento de imagens nuas não consensuais geradas por IA no X destaca os limites da regulamentação tecnológica existente e apresenta um desafio prospectivo para os formuladores de políticas que buscam restringir conteúdo prejudicial, equilibrando a inovação.