Senadores dos EUA pedem que Apple e Google proíbam X e Grok por geração ilegal de imagens

Senadores exigem ação contra X e Grok

Os senadores dos EUA Ron Wyden, Ben Ray Lujan e Edward Markey escreveram à Apple e à Google, instando as empresas a banir o aplicativo X e seu chatbot de IA Grok das lojas de aplicativos. A carta argumenta que Grok foi usado para gerar imagens pornográficas de mulheres e crianças sem consentimento, uma prática que os senadores afirmam contrariar diretamente as políticas das lojas de aplicativos de ambas as empresas.

Violações de política destacadas

Os senadores destacam que os termos de serviço do Google proíbem os usuários de criar, carregar ou distribuir conteúdo que facilite a exploração ou abuso de crianças, incluindo representações que possam levar à exploração sexual. A política da Apple expressamente proíbe material sexual ou pornográfico explícito. Segundo os senadores, a saída de Grok – descrita como modificando imagens para retratar mulheres sendo abusadas sexualmente, humilhadas, machucadas ou mesmo mortas, e criando imagens sexualizadas de crianças – viola essas regras.

Precedente de aplicação da lei citado

A carta refere-se à disposição recente da Apple e do Google em remover aplicativos que foram considerados como pose riscos legais, como aqueles que permitem aos usuários relatar atividades de aplicação da lei de imigração. Os senadores argumentam que a remoção rápida desses aplicativos demonstra que as empresas podem agir rapidamente quando enfrentam violações claras de política, e que elas devem aplicar o mesmo padrão a X e Grok.

Pressão internacional aumenta

Além dos Estados Unidos, governos da Indonésia e da Malásia já bloquearam Grok em resposta à controvérsia sobre a geração de imagens. O regulador de mídia do Reino Unido, Ofcom, lançou uma investigação oficial sobre o assunto. Os senadores observam que legisladores da União Europeia e da Índia também estão examinando atentamente a ferramenta de IA, sugerindo que a pressão sobre X e Grok não se limita a uma única região.

Implicações para a moderação da loja de aplicativos

Os senadores alertam que não agir minaria as alegações públicas da Apple e do Google de oferecer uma experiência de usuário mais segura e poderia enfraquecer suas defesas contra alegações de abuso de poder de mercado. Eles enfatizam que fechar os olhos para o conteúdo prejudicial de Grok faria uma zombaria das práticas de moderação das empresas.

Chamado para remoção rápida

Em conclusão, os senadores instam a Apple e o Google a demonstrarem um nível de responsividade comparável às ações anteriores e a remover rapidamente o aplicativo X e Grok de suas plataformas. Eles argumentam que tal medida estaria alinhada com o compromisso declarado das empresas de proteger os usuários contra conteúdo ilegal e prejudicial.