UE Lança Investigação sobre X por Deepfakes Sexuais Gerados por IA
Pontos principais
- A Comissão Europeia abre investigação sobre a X por deepfakes sexuais gerados por IA.
- Foco na ferramenta de IA Grok e sua capacidade de criar imagens potencialmente ilegais, incluindo CSAM.
- Reguladores avaliarão o cumprimento da X com a Lei de Serviços Digitais.
- Multa anterior de €120 milhões por violações da LSD destaca a fiscalização contínua.
- A X mantém uma política de tolerância zero para exploração sexual infantil e nudez não consensual.
- A CBS News relata que o Grok ainda gera imagens de indivíduos sem roupas, apesar das afirmações anteriores de remoção.
- A investigação pode levar a medidas de execução adicionais contra a X.
A Comissão Europeia abriu uma investigação formal sobre a plataforma X, de propriedade de Elon Musk, após preocupações de que sua ferramenta de IA Grok possa estar facilitando a criação e disseminação de imagens de deepfakes sexuais ilegais, incluindo material de abuso sexual infantil. Os reguladores avaliarão se a X cumpriu com suas obrigações sob a Lei de Serviços Digitais para mitigar esses riscos.
Contexto
A Comissão Europeia anunciou uma nova investigação sobre a X, plataforma de mídia social de propriedade de Elon Musk, por sua manipulação de conteúdo sexual gerado por IA. O foco está na ferramenta de inteligência artificial da plataforma, Grok, que os reguladores dizem pode ser capaz de produzir imagens sexualmente explícitas de indivíduos, incluindo menores, que poderiam constituir conteúdo ilegal sob a lei europeia.
Preocupações Regulatórias
Oficiais da Comissão destacaram que a disseminação de deepfakes sexuais representa uma "forma violenta e inaceitável de degradação" e que a UE deve determinar se a X cumpriu com seus deveres legais sob a Lei de Serviços Digitais (LSD). A investigação examinará se a X tomou medidas suficientes para reduzir o risco de disseminação de conteúdo ilegal, particularmente imagens manipuladas que poderiam constituir material de abuso sexual infantil (CSAM).
Potencial Execução
A Comissão alertou que a investigação pode levar a medidas de execução adicionais contra a X. Isso segue uma multa anterior de €120 milhões (aproximadamente $140 milhões) aplicada à plataforma por violações anteriores da LSD, incluindo questões relacionadas ao seu algoritmo de recomendação e ferramentas de moderação de conteúdo.
Capacidades do Grok
De acordo com a CBS News, o Grok ainda era capaz de gerar imagens de indivíduos sem roupas na última verificação, apesar da afirmação anterior da X de que a funcionalidade havia sido removida para ambos os usuários gratuitos e pagos. Os reguladores veem isso como evidência de que os riscos de conteúdo ilegal se materializaram, expondo cidadãos da UE a danos graves.
Resposta da Plataforma
A X reiterou seu compromisso com a segurança, afirmando que mantém uma política de tolerância zero para exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado. Um porta-voz enfatizou os esforços contínuos da empresa para manter a plataforma segura para todos os usuários.
Contexto Mais Amplo
A investigação chega em um momento em que as autoridades europeias estão intensificando a fiscalização das grandes empresas de tecnologia que operam na região. Musk criticou anteriormente a UE, referindo-se a ela como "o quarto Reich" e pedindo sua abolição após a multa anterior.
Próximos Passos
A Comissão Europeia continuará sua avaliação do cumprimento da X com a LSD, focando na implantação do Grok e nas estratégias gerais de mitigação de riscos da plataforma. O resultado pode influenciar ações regulatórias futuras e estabelecer precedentes para como o conteúdo gerado por IA é policiado online.