Grok de Elon Musk Continua Gerando Imagens de Despiramento Apesar de Novas Restrições

Contexto

Desde o início de 2024, as ofertas de IA de Musk, incluindo o chatbot Grok construído pela xAI, têm enfrentado escrutínio por permitir a criação de imagens íntimas não consensuais, vídeos explícitos e representações sexualizadas de menores. Críticos dos Estados Unidos, Europa, Ásia e Austrália lançaram investigações ou emitiram condenações, citando preocupações sobre privacidade, consentimento e segurança infantil.

Novas Restrições na X

Em resposta, a X anunciou um conjunto de medidas tecnológicas destinadas a impedir que o Grok edite imagens de indivíduos reais em bikinis, roupas íntimas ou outras roupas reveladoras. A política se aplica a todos os usuários da plataforma X, independentemente de terem assinaturas gratuitas ou pagas. Além disso, a X introduziu um geobloqueio que restringe a geração de imagens de pessoas reais em tais roupas em jurisdições onde é ilegal. A empresa também reiterou seu compromisso de remover conteúdo violador de alta prioridade, incluindo material de abuso sexual infantil e nudez não consensual.

Achados dos Pesquisadores

Apesar das salvaguardas anunciadas, múltiplas investigações independentes documentaram que os serviços autônomos do Grok permanecem capazes de produzir o conteúdo proibido. Paul Bouchaud, pesquisador-chefe da organização sem fins lucrativos AI Forensics, confirmou que o site e o aplicativo móvel do Grok ainda podem gerar nudez fotorealista de pessoas reais, uma capacidade que parece ser bloqueada apenas na integração com a X. Testes realizados pela WIRED, The Verge e Bellingcat no Reino Unido e nos Estados Unidos removeram com sucesso roupas de imagens de homens e mulheres sem restrições aparentes.

Pesquisadores observaram que o aplicativo Grok no Reino Unido solicitou aos usuários o ano de nascimento antes de gerar uma imagem de um sujeito masculino, mas o pedido ainda pôde ser atendido. Outros usuários relataram resultados mistos em um fórum de pornografia, com alguns prompts gerando imagens explícitas após várias tentativas, enquanto outros encontraram moderação mais rigorosa que impediu a remoção de roupas.

Problemas Contínuos na Plataforma Grok

A persistência dessas capacidades destaca uma lacuna entre a moderação aplicada na X e o ecossistema mais amplo dos serviços do Grok. Embora as contas verificadas na X pareçam ter perdido a capacidade de gerar imagens de bikinis de mulheres, a mesma funcionalidade permanece acessível no site e no aplicativo do Grok. Essa discrepância tem levado a críticas de grupos de defesa das mulheres, que descrevem a situação como uma "monetização do abuso".

Respostas de Musk e xAI

Musk afirmou publicamente que o Grok, quando o modo NSFW está habilitado, é destinado a permitir a nudez do torso de humanos adultos imaginários, alinhando-se com os padrões vistos em filmes com classificação R em plataformas como a Apple TV. Ele enfatizou que as permitidas de conteúdo podem variar por país com base em leis locais. Porta-vozes da xAI não forneceram comentários sobre os testes recentes, enquanto um porta-voz da X confirmou que o geobloqueio se aplica tanto ao aplicativo quanto ao site.

Implicações e Perspectivas

A capacidade contínua dos serviços não X do Grok de gerar imagens não consensuais e sexualizadas levanta questões importantes sobre a eficácia da moderação de plataforma específica versus salvaguardas em todo o ecossistema. Reguladores e grupos de defesa continuam a monitorar a situação, pedindo controles mais abrangentes para prevenir o abuso. À medida que os geradores de imagens de IA se tornam cada vez mais sofisticados, o desafio de equilibrar o uso criativo com salvaguardas éticas permanece como um ponto focal para as empresas de tecnologia, formuladores de políticas e sociedade civil.