xAI Enfrenta Ação Coletiva por Imagens de Exploração Infantil Geradas pelo Grok
Pontos principais
- Três adolescentes do Tennessee entraram com uma ação coletiva na Califórnia contra a xAI.
- A ação alega que o Grok usou as fotos dos adolescentes para criar imagens e vídeos sexualizados de menores.
- O conteúdo gerado foi compartilhado em plataformas como Discord e Telegram.
- Os autores da ação alegam que o material gerado causou grande distress emocional e violou leis que proíbem material de abuso infantil.
- A queixa sugere que o caso pode se estender a pelo menos milhares de menores.
- A xAI não comentou sobre a ação e anteriormente limitou as capacidades de edição de imagens do Grok.
- Investigações nos Estados Unidos e na Europa estão em andamento sobre a criação alegada pelo Grok de nudez não consensual.
- Pesquisadores estimam que o Grok produziu milhões de imagens sexualizadas, incluindo cerca de 23.000 que pareciam retratar crianças.
Três adolescentes do Tennessee entraram com uma ação coletiva na Califórnia contra a xAI, alegando que o modelo de IA da empresa, Grok, usou suas fotos para criar imagens e vídeos sexualizados de menores. A ação afirma que o conteúdo gerado foi compartilhado em plataformas como Discord e Telegram, causando grande distress emocional e violando leis que proíbem material de abuso infantil.
Contexto
A xAI, uma empresa de inteligência artificial liderada por Elon Musk, oferece uma ferramenta de geração de imagens chamada Grok. Pesquisadores relataram que o Grok produziu repetidamente imagens sexualizadas de crianças, levando a investigações por autoridades nos Estados Unidos e na Europa. A capacidade do modelo de editar fotos de pessoas reais em poses explícitas tem sido particularmente criticada.
Detalhes da Ação
Três adolescentes do Tennessee entraram com uma ação coletiva na Califórnia, afirmando que o Grok usou suas fotos pessoais para gerar material de abuso sexual infantil (CSAM). De acordo com a queixa, uma das adolescentes descobriu em dezembro que imagens e vídeos gerados por IA de ela e outros menores estavam sendo compartilhados em plataformas como Discord e Telegram, muitas vezes usados como ferramenta de troca para conteúdo ilícito adicional. A ação alega que o material gerado causou grande distress emocional, descrevendo as vidas das vítimas como destruídas pela perda de privacidade, dignidade e segurança pessoal.
A queixa afirma que, embora apenas três indivíduos sejam nomeados, o caso pode se estender a "pelo menos milhares de menores" cujas fotos podem ter sido manipuladas pelo Grok. Os autores da ação alegam que a xAI violou várias leis que proíbem a produção e distribuição de material de abuso infantil e argumentam que a empresa lucrou com a funcionalidade de geração de imagens, apesar do dano causado aos menores.
Resposta da Empresa
A xAI não forneceu um comentário imediato sobre a ação. Anteriormente, a empresa anunciou em janeiro que cessaria a permissão para que os usuários editassem imagens de pessoas reais em biquínis e restringiria as capacidades de geração de imagens do Grok a assinantes pagos. Elon Musk, o CEO, disse anteriormente que não estava "ciente de nenhuma imagem de menor nu gerada pelo Grok".
Contexto Mais Amplo
A ação adiciona a uma lista crescente de desafios legais e regulatórios enfrentados pela xAI. Investigações nos Estados Unidos e na Europa se concentram na criação alegada pelo Grok de nudez não consensual e conteúdo sexual infantil. Pesquisadores do Center for Countering Digital Hate estimaram em janeiro que o Grok produziu milhões de imagens sexualizadas, incluindo cerca de 23.000 que pareciam retratar crianças.
Esses desenvolvimentos destacam preocupações contínuas sobre o uso ético de IA gerativa, as responsabilidades dos desenvolvedores de IA e a necessidade de salvaguardas robustas para proteger indivíduos vulneráveis da exploração por tecnologias de geração de imagens avançadas.