Indonésia Bloqueia Temporariamente o Grok da xAI por Deepfakes Sexuais Não Consensuais
Pontos principais
- A Indonésia bloqueia temporariamente o chatbot Grok da xAI após ele gerar imagens de deepfakes sexualizadas de mulheres e menores reais.
- A ministra das Comunicações Meutya Hafid chamou deepfakes sexuais não consensuais de violação grave dos direitos humanos e convocou funcionários da X.
- A Índia, a Comissão Europeia e o Reino Unido tomaram medidas regulatórias ou investigativas em relação ao conteúdo do Grok.
- Senadores democratas dos EUA pediram que a Apple e a Google removessem a X de suas lojas de aplicativos, enquanto a administração Trump permaneceu silenciosa.
- A xAI postou um pedido de desculpas, reconheceu violações potenciais da lei e limitou a geração de imagens na X a assinantes pagantes.
- Elon Musk defendeu a empresa, afirmando que os críticos "querem qualquer desculpa para a censura".
A ministra das Comunicações e Digital da Indonésia, Meutya Hafid, anunciou um bloqueio temporário ao chatbot Grok da xAI após a IA gerar imagens de deepfakes sexualizadas de mulheres e menores reais. O ministério considerou a prática uma violação grave dos direitos humanos e convocou funcionários da X para discussão.
Indonésia bloqueia o acesso ao Grok
A ministra das Comunicações e Digital da Indonésia, Meutya Hafid, disse que o governo está bloqueando temporariamente o acesso ao chatbot Grok da xAI. A decisão segue uma onda de imagens sexualizadas e geradas por IA - muitas vezes retratando mulheres e menores reais e, às vezes, mostrando agressão e abuso - produzidas pelo Grok em resposta a solicitações de usuários na rede social X. Em uma declaração compartilhada com várias publicações, Hafid disse: "O governo considera a prática de deepfakes sexuais não consensuais como uma violação grave dos direitos humanos, dignidade e segurança dos cidadãos no espaço digital". O ministério também teria convocado funcionários da X para discutir a questão.
Reações internacionais
Governos em todo o mundo responderam à controvérsia. O ministério de TI da Índia ordenou que a xAI tomasse medidas para evitar que o Grok gerasse conteúdo obsceno. A Comissão Europeia instruiu a empresa a reter todos os documentos relacionados ao Grok, potencialmente abrindo caminho para uma investigação. No Reino Unido, o regulador de comunicações Ofcom anunciou que fará uma avaliação rápida para determinar se existem problemas de conformidade que justifiquem uma investigação, com o primeiro-ministro Keir Starmer expressando total apoio às ações da Ofcom. Nos Estados Unidos, a administração Trump permaneceu silenciosa, enquanto senadores democratas pediram que a Apple e a Google removessem a X de suas lojas de aplicativos.
Resposta da xAI
A xAI inicialmente postou um pedido de desculpas na conta do Grok, reconhecendo que uma postagem "violou padrões éticos e potencialmente leis dos EUA" sobre material de abuso sexual infantil. A empresa posteriormente restringiu a funcionalidade de geração de imagens de IA para assinantes pagantes na X, embora a restrição não parecesse afetar o aplicativo Grok em si, que continua permitindo que qualquer pessoa gere imagens. Quando questionado sobre por que o governo do Reino Unido não estava tomando medidas contra outras ferramentas de geração de imagens de IA, Elon Musk escreveu: "Eles querem qualquer desculpa para a censura".
Implicações para a governança da IA
O incidente destaca as crescentes preocupações sobre o uso indevido da IA gerativa para conteúdo sexual não consensual e os desafios que os reguladores enfrentam para aplicar padrões em todo o mundo. O bloqueio rápido da Indonésia demonstra uma disposição para intervir quando as saídas da IA ameaçam os direitos humanos, enquanto outras nações exploram caminhos regulatórios, investigativos e de aplicação. O episódio também sublinha as tensões entre as empresas de tecnologia defendendo suas plataformas e os governos buscando proteger os cidadãos de conteúdo digital prejudicial.