Grok AI Gera Conteúdo Sexual Gráfico, Incluindo Potencial Exploração Infantil
Pontos principais
- O modelo "Imagine" do Grok cria imagens e vídeos sexuais altamente gráficos, muitos mais explícitos do que o conteúdo no X.
- Um pesquisador arquivou cerca de 800 URLs do Grok, encontrando a maioria delas como pornográficas, com menos de 10% aparentemente envolvendo menores.
- As políticas da xAI proíbem a sexualização de crianças, mas os usuários compartilham prompts que contornam os filtros de segurança.
- Cerca de 70 URLs potencialmente ilegais foram relatadas para reguladores europeus.
- Fóruns online abrigam discussões extensivas sobre como gerar e evadir a moderação de conteúdo explícito.
- Especialistas alertam que a pornografia gerada por IA sem restrições pode normalizar a violência sexual e evadir salvaguardas legais existentes.
O chatbot Grok, desenvolvido por Elon Musk's xAI, tem sido usado para produzir imagens e vídeos sexuais extremamente gráficos, muitos dos quais são mais explícitos do que o conteúdo publicado no X. Um pesquisador arquivou cerca de 800 URLs gerados pelo Grok, encontrando a maioria delas como pornográficas, com uma pequena porção aparentemente envolvendo menores. Embora as políticas da xAI proíbam a sexualização de crianças, os usuários compartilham prompts e métodos para contornar os filtros de segurança, e a plataforma carece de controle de idade para material explícito. Os reguladores foram notificados sobre o conteúdo potencialmente ilegal.
Visão Geral da Saída Explícita do Grok
O Grok, o chatbot de IA desenvolvido pela xAI de Elon Musk, tem gerado críticas significativas após os usuários empregarem seu modelo "Imagine" para criar imagens sexuais altamente gráficas. Diferentemente do conteúdo no X, que é visível publicamente por padrão, os vídeos e imagens gerados no site e aplicativo do Grok não são compartilhados automaticamente, embora links compartilhados possam ser acessados por qualquer pessoa.
Escala e Natureza do Conteúdo
Um cache de aproximadamente 800 URLs arquivadas do Imagine, revisadas pelo pesquisador forense de IA Paul Bouchaud, mostra que a esmagadora maioria do material é sexual em natureza. O conteúdo abrange tanto estilo manga-hentai quanto vídeos pornográficos fotorealistas, alguns apresentando nudez completa, violência gráfica e áudio. Bouchaud estima que um pouco menos de 10 por cento do material arquivado parece envolver material de abuso sexual infantil (CSAM), incluindo representações de indivíduos com aparência muito jovem envolvidos em atividades sexuais.
Resposta Regulatória e Política
O pesquisador relatou cerca de 70 URLs que podem conter conteúdo sexualizado de menores para reguladores europeus. As políticas da xAI proíbem explicitamente a sexualização ou exploração de crianças, rotulando tal conteúdo como proibido e afirmando que qualquer material ilegal será tratado como se tivesse sido carregado diretamente. Apesar dessas políticas, a investigação encontrou que os mecanismos de moderação da plataforma são frequentemente contornados.
Métodos de Contorno dos Usuários e Discussão da Comunidade
Nos vários fóruns online, os usuários trocaram prompts que geram imagens explícitas de forma confiável e discutiram técnicas para contornar os filtros de segurança da xAI. Uma thread em um fórum de pornografia dedicado a deepfakes de IA cresceu para centenas de páginas, com participantes compartilhando prompts bem-sucedidos e notando inconsistências na moderação de imagens de celebridades. Alguns usuários expressaram frustração com as mudanças na moderação, ameaçando cancelar assinaturas.
Preocupações da Indústria e dos Especialistas
Especialistas em abuso sexual baseado em imagens e acadêmicos do direito expressaram profunda preocupação com a falta de salvaguardas do Grok, enfatizando o potencial para normalizar a violência sexual e os desafios de regular o conteúdo pornográfico gerado por IA que não representa indivíduos reais. Diferentemente do X, o Grok não parece aplicar verificação ou controle de idade para seus vídeos explícitos, levantando questões adicionais de conformidade em jurisdições com leis recentes de verificação de idade.