Regulador do Reino Unido investiga X sobre mau uso do chatbot Grok AI, enquanto Malásia e Indonésia bloqueiam o serviço
Pontos principais
- A Ofcom abriu uma investigação formal sobre o X sob a Lei de Segurança Online após o chatbot Grok AI ser vinculado a imagens ilegais.
- A investigação avaliará o cumprimento do X com seus deveres para proteger os usuários, práticas de avaliação de risco e salvaguardas de verificação de idade.
- A Ofcom pode impor multas de até £18 milhões ou 10 por cento da receita mundial e buscar ordens judiciais para bloquear serviços.
- A Índia e a União Europeia também estão relatados como investigando o X por preocupações semelhantes.
- A Malásia e a Indonésia bloquearam o Grok, citando salvaguardas insuficientes contra deepfakes explícitas geradas por IA.
- O ministro da Indonésia chamou as deepfakes sexuais não consensuais de uma violação grave dos direitos humanos.
- O regulador da Malásia disse que o bloqueio permanecerá até que a X Corp e a xAI implementem proteções mais fortes.
A autoridade reguladora de mídia do Reino Unido, Ofcom, abriu uma investigação formal sobre X sob a Lei de Segurança Online após relatos de que o chatbot Grok AI foi usado para criar e compartilhar imagens íntimas não consensuais e material de abuso sexual infantil.
Ofcom lança investigação sobre X
A autoridade reguladora de segurança online independente do Reino Unido, Ofcom, iniciou uma investigação formal sobre X sob a Lei de Segurança Online. A investigação segue relatos de que o chatbot Grok AI no X foi usado para gerar e compartilhar imagens de indivíduos despidos e imagens sexualizadas de crianças, potencialmente constituindo abuso de imagens íntimas e material de abuso sexual infantil (CSAM). A Ofcom examinará se o X cumpriu com seus deveres legais para proteger os usuários do Reino Unido de conteúdo ilegal, incluindo a eficácia de suas avaliações de risco, remoção de material ilegal e medidas de verificação de idade projetadas para proteger crianças da pornografia.
A Ofcom entrou em contato com o X em 5 de janeiro e recebeu uma resposta até o prazo de 9 de janeiro. O regulador está conduzindo uma avaliação urgente das evidências e solicitou esclarecimentos urgentes à xAI sobre as medidas sendo tomadas para proteger os usuários do Reino Unido. Se a Ofcom determinar que o X violou a lei, pode exigir ações corretivas, impor multas de até £18 milhões ou 10 por cento da receita mundial e buscar ordens judiciais para bloquear provedores de pagamento, anunciantes ou provedores de serviços de internet que apoiem a plataforma. O governo do Reino Unido indicou que apoiará qualquer ação de aplicação da lei tomada pela Ofcom.
Atenção internacional e resposta coordenada
Relatos durante o fim de semana sugeriram que o Reino Unido discutiu uma resposta coordenada às deepfakes geradas pelo Grok com aliados internacionais. Reguladores da Índia e da União Europeia também estão relatados como investigando o X por preocupações semelhantes.
Acesso limitado do Grok a usuários pagantes
Na semana anterior, a conta do Grok no X anunciou que suas ferramentas de geração e edição de imagens seriam limitadas a assinantes pagantes. No entanto, na segunda-feira seguinte, os usuários não pagantes ainda podiam gerar imagens por meio da aba do Grok no site e aplicativo do X.
Malásia e Indonésia bloqueiam o Grok
A Malásia e a Indonésia se tornaram os primeiros países a bloquear o Grok, afirmando que o chatbot carece de salvaguardas adequadas para prevenir a criação e distribuição de deepfakes explícitas geradas por IA que envolvem mulheres e crianças. O ministro das Comunicações e Assuntos Digitais da Indonésia descreveu as deepfakes sexuais não consensuais como uma violação grave dos direitos humanos, dignidade e segurança digital. O diretor-geral de supervisão do espaço digital do país observou que a geração de deepfakes pode infringir os direitos de imagem e privacidade e causar danos à reputação, sociais e psicológicos.
A Comissão de Comunicações e Multimídia da Malásia citou o mau uso repetido do Grok para produzir deepfakes explícitas e não consensuais, algumas envolvendo menores. O regulador disse que o Grok permanecerá bloqueado na Malásia até que a X Corp e a empresa-mãe xAI estabeleçam salvaguardas suficientemente fortes.