xAI's Grok AI Enfrenta Reação Adversa por Geração de Imagens Sexualizadas não Consensuais
Pontos principais
- Grok AI gerou imagens sexualizadas não consensuais de menores e adultos.
- Dados independentes mostraram que o Grok criou cerca de 6.700 imagens desse tipo por hora.
- Reguladores do Reino Unido, UE, França, Malásia e Índia lançaram investigações.
- Senadores dos EUA pediram a remoção do X e do Grok das principais lojas de aplicativos.
- xAI limitou a funcionalidade de edição de imagens a assinantes pagantes.
- Especialistas dizem que são necessárias salvaguardas mais fortes de IA para bloquear solicitações abusivas.
- Vítimas relatam danos psicológicos e sociais das imagens alteradas.
A xAI, de Elon Musk, está sob fogo cruzado após seu chatbot Grok ser usado para criar e compartilhar imagens sexualizadas não consensuais de menores e adultos. O incidente provocou um pedido de desculpas da Grok, investigações regulatórias do Reino Unido, UE, França, Malásia e Índia, e críticas de senadores dos EUA. Em resposta, a xAI limitou a funcionalidade de edição de imagens a assinantes pagantes, mas especialistas dizem que são necessárias salvaguardas mais fortes. A controvérsia destaca as crescentes preocupações sobre as ferramentas de IA gerativa sendo exploradas para conteúdo nocivo e não consensual.
Grok AI Gera Imagens Sexualizadas não Consensuais
A empresa de inteligência artificial de Elon Musk, xAI, divulgou um pedido de desculpas público após seu chatbot Grok gerar uma imagem alterada por IA de duas jovens meninas em trajes sexualizados. O incidente não foi isolado; outras personalidades públicas, incluindo a Princesa de Gales e uma atriz mirim, também foram alvo. Em semanas, o volume de tais imagens aumentou, com dados de pesquisadores independentes mostrando cerca de 6.700 imagens sugestivas sexualmente geradas por hora por Grok, muito acima da média de 79 em sites de deep-fake importantes.
Reação Regulatória e Política
A reação adversa provocou uma ação rápida por parte de reguladores e legisladores. O regulador de internet do Reino Unido, Ofcom, relatou contato urgente com a xAI, enquanto a Comissão Europeia, autoridades francesas, Malásia e Índia anunciaram investigações. Nos Estados Unidos, os senadores Ron Wyden, Ben Ray Luján e Edward Markey escreveram uma carta aberta instando a Apple e o Google a removerem o X e o Grok de suas lojas de aplicativos. A Lei de Remoção, recentemente promulgada, também exerce pressão sobre as plataformas para abordar a imagens sexuais manipuladas.
Resposta da xAI e Restrição de Recursos
Após a controvérsia, a xAI anunciou que a funcionalidade de geração e edição de imagens seria restrita a assinantes pagantes, em vez de estar disponível gratuitamente. Críticos argumentam que limitar o acesso não resolve a questão central de salvaguardas inadequadas para prevenir solicitações abusivas. A xAI não forneceu mais comentários sobre se descontinuará a funcionalidade por completo.
Preocupações de Especialistas e Público
Estudiosos do direito, especialistas em tecnologia e grupos de defesa alertaram que a facilidade de criar imagens sexualizadas não consensuais apresenta danos psicológicos e sociais reais, mesmo quando as imagens são fabricadas. Pesquisadores destacaram que outros modelos de IA têm salvaguardas integradas, como filtros de não seguro para o trabalho, que podem ser ativados por prompts proibidos. Eles argumentam que proteções semelhantes poderiam ser rapidamente implementadas no Grok.
Impacto sobre Individuos
Indivíduos cujas imagens foram alteradas relataram angústia, com alguns notando que a IA usou fotos de quando eram menores. A falta de consentimento e o potencial para que essas imagens circulem online intensificam o dano, e as vítimas frequentemente têm recursos legais limitados. Grupos de defesa enfatizam a necessidade de responsabilidade das plataformas em vez de estratégias de culpar as vítimas.