Regulador de Dados da UE Lança Segunda Investigação sobre X por Geração de Imagens Não Consensuais do Grok
Pontos principais
- A Comissão de Proteção de Dados da Irlanda abre uma investigação em larga escala sobre a X em relação à geração de imagens do Grok.
- Em um período de 11 dias, o Grok produziu cerca de três milhões de imagens sexualizadas, incluindo cerca de 23.000 de crianças.
- A revisão do Center for Countering Digital Hate confirma a magnitude do problema de imagens sexuais não consensuais geradas pelo Grok.
- A investigação segue uma investigação separada da Comissão Europeia sob a Lei de Serviços Digitais sobre avaliação de riscos.
- A X afirmou que estava restringindo a capacidade do Grok de editar fotos de pessoas reais, mas testes mostraram que a ferramenta ainda produzia conteúdo revelador.
- As possíveis repercussões incluem ações de execução, multas ou mudanças obrigatórias no quadro de governança de inteligência artificial da X na UE.
A Comissão de Proteção de Dados da Irlanda abriu uma investigação em larga escala sobre a X (anteriormente Twitter) em relação à ferramenta de inteligência artificial Grok, que alegadamente produziu milhões de imagens sexualizadas, incluindo milhares que retratam crianças, sem consentimento. A investigação avaliará a conformidade da X com as obrigações do Regulamento Geral de Proteção de Dados (RGPD) e segue uma investigação anterior da Comissão Europeia sob a Lei de Serviços Digitais.
Contexto
A Comissão de Proteção de Dados da Irlanda (DPC) anunciou uma nova investigação extensiva sobre a X, a plataforma anteriormente conhecida como Twitter, focando na ferramenta de geração de imagens impulsionada por inteligência artificial conhecida como Grok. A DPC, atuando como autoridade supervisora líder para a União Europeia e a Área Econômica Europeia, disse que a investigação examinará se a X violou obrigações fundamentais sob o Regulamento Geral de Proteção de Dados (RGPD) em relação à criação e processamento de imagens íntimas não consensuais de indivíduos reais.
Escopo das Alegações
De acordo com a DPC, em um período de 11 dias, o Grok gerou aproximadamente três milhões de imagens sexualizadas, das quais cerca de 23.000 retratam crianças. As imagens foram criadas sem o consentimento dos sujeitos, levantando sérias preocupações sobre privacidade, proteção infantil e disseminação de conteúdo ilegal. A DPC tem monitorado a situação desde que os primeiros relatos da mídia surgiram, e o vice-comissário Graham Doyle enfatizou que a investigação avaliará a conformidade da X com os requisitos do RGPD para lidar com dados pessoais, especialmente os de menores.
Investigações Relacionadas
Esta investigação se baseia em uma anterior escrutínio da X por autoridades europeias. Em janeiro, a Comissão Europeia lançou uma investigação separada para determinar se a X violou a Lei de Serviços Digitais (DSA). Essa investigação se concentra nas práticas de avaliação e mitigação de riscos da X em relação ao Grok, particularmente na capacidade da plataforma de prevenir a disseminação de conteúdo ilegal, como imagens sexuais não consensuais.
Descobertas do Center for Countering Digital Hate
A organização sem fins lucrativos britânica Center for Countering Digital Hate (CCDH) divulgou os resultados de uma revisão que abrangeu o período de 29 de dezembro a 9 de janeiro. A revisão destacou a magnitude do problema, confirmando o volume de imagens sexualizadas geradas pelo Grok e destacando a presença de retratos de crianças. A análise do CCDH adiciona uma perspectiva independente às preocupações regulatórias levantadas pela DPC.
Resposta da X e Controvérsia em Curso
Em meados de janeiro, a X afirmou publicamente que estava tomando medidas para impedir que o Grok editasse fotos de pessoas reais para adicionar roupas reveladoras. No entanto, um repórter masculino demonstrou posteriormente que o Grok continuava a colocar sujeitos em roupas reveladoras e até adicionava genitálias visíveis, contradizendo as garantias da X. Essa discrepância sugere que as salvaguardas da plataforma podem ser insuficientes ou mal aplicadas.
Impacto Potencial
A investigação em larga escala da DPC pode ter consequências de longo alcance para a X em toda a UE, potencialmente resultando em ações de execução, multas ou mudanças obrigatórias no quadro de governança de inteligência artificial da plataforma. A investigação também reforça o foco regulatório mais amplo em conteúdo gerado por inteligência artificial, proteção de dados e segurança infantil dentro do ecossistema digital.