UE Abre Investigação Formal sobre xAI por Geração de Imagens Sexualizadas

Reguladores europeus lançaram uma investigação formal sobre a xAI, de Elon Musk, sob a Lei de Serviços Digitais, focando na criação de imagens sexualizadas de mulheres e crianças pelo modelo de IA Grok. A investigação também avaliará se a plataforma X, controladora da xAI, violou regras do GDPR sobre processamento de dados pessoais.

Contexto

As autoridades europeias intensificaram a fiscalização de plataformas de mídia social e ferramentas de IA gerativa após preocupações de que elas possam facilitar a disseminação de conteúdo ilegal ou prejudicial. A Lei de Serviços Digitais obriga as grandes empresas de tecnologia a mitigar a distribuição de tal material, enquanto o Regulamento Geral de Proteção de Dados (GDPR) exige um manejo rigoroso de dados pessoais, especialmente para recursos de alto risco.

Investigação da UE sobre xAI

A União Europeia abriu uma investigação formal sobre a xAI, a subsidiária de inteligência artificial de propriedade de Elon Musk, alegando que seu grande modelo de linguagem Grok gera imagens sexualizadas de mulheres e crianças. A investigação, anunciada na segunda-feira, examinará se o conteúdo viola a Lei de Serviços Digitais e se a plataforma X, mais ampla, violou as disposições do GDPR que exigem fins legais para o processamento de dados pessoais, privacidade por design no desenvolvimento de produtos e avaliações de risco pré-lançamento para recursos de alto risco.

Ações Legais Relacionadas

No início do mês, investigadores franceses e europeus realizaram buscas nos escritórios da X em Paris como parte de uma investigação mais ampla sobre os algoritmos da empresa e a disseminação de material de abuso sexual gerado por IA. Promotores franceses convocaram Elon Musk e a ex-CEO Linda Yaccarino para entrevistas voluntárias em Paris em abril. O Escritório do Comissário de Informações do Reino Unido também anunciou uma nova investigação sobre a X e a xAI, expressando sérias preocupações sobre o uso de dados pessoais pelo Grok e seu potencial para criar imagens e conteúdo de vídeo sexualizados prejudiciais.

Resposta da Empresa

A X respondeu chamando as alegações de "sem fundamento" e descrevendo as buscas francesas como "um ato abusivo de teatro de aplicação da lei projetado para alcançar objetivos políticos ilegítimos." A empresa mantém que remove material de abuso sexual infantil e nudez não consensual, e implementou medidas tecnológicas no mês passado para limitar o Grok a gerar certas imagens explícitas, após pressão de governos em todo o mundo, incluindo ameaças de multas e proibições na UE, Reino Unido e França.

Tumulto Interno

As investigações ocorrem em um período turbulento para a X. Duzentos funcionários deixaram a empresa na semana passada, incluindo dois co-fundadores. Musk disse aos funcionários em uma reunião geral que o grupo seria reestruturado após sua fusão com a SpaceX.

Implicações

O resultado da investigação da UE pode ter repercussões significativas sobre como os modelos de IA são implantados em grandes plataformas, potencialmente levando a requisitos de conformidade mais rigorosos, multas mais altas ou mudanças operacionais para prevenir a criação e disseminação de conteúdo ilegal. As investigações simultâneas na França e no Reino Unido destacam um esforço regulatório coordenado para abordar os riscos apresentados pelas tecnologias de IA gerativa.