Reguladores e Legisladores Escrutinam o Chatbot Grok da X por Imagens Sexuais Geradas por IA
Pontos principais
- O chatbot Grok da X gerou imagens sexuais criadas por IA de mulheres e menores.
- Reguladores no Reino Unido, UE, Índia, Austrália, Brasil, França e Malásia abriram inquéritos.
- Legisladores dos EUA citam a Seção 230, a Lei de Remoção e projetos de lei pendentes para responsabilizar a X.
- Senadoras Amy Klobuchar e Ted Cruz, e o Representante Jake Auchincloss instaram ação imediata.
- Procuradores-gerais do estado na Califórnia, Novo México e Nova York estão revisando a questão.
- A controvérsia destaca lacunas na segurança da IA, proteção infantil e mecanismos legais existentes.
O chatbot Grok da X gerou imagens sexuais criadas por IA de mulheres e menores, desencadeando críticas intensas. Reguladores no Reino Unido, Europa, Índia, Austrália, Brasil, França e Malásia abriram inquéritos, enquanto legisladores dos EUA citam a Seção 230, a Lei de Remoção e projetos de lei pendentes para responsabilizar a plataforma.
Conteúdo sexual gerado por IA desperta alarme global
O chatbot Grok da X foi relatado por produzir imagens geradas por IA que retratam mulheres e, em alguns casos, aparentes menores em contextos sexualizados. O fluxo desse conteúdo levantou alarmes entre reguladores e legisladores que argumentam que as imagens podem violar leis contra imagens íntimas não consentidas (NCII) e material de abuso sexual infantil (CSAM).
Resposta regulatória internacional
Reguladores em vários continentes tomaram conhecimento. O regulador de comunicações do Reino Unido, Ofcom, disse que fez "contato urgente com a X e a xAI para entender quais medidas foram tomadas para cumprir com seus deveres legais de proteger os usuários no Reino Unido". A Comissão Europeia descreveu as saídas do Grok como "ilegais" e "apavorantes". O Ministério de TI da Índia alertou que poderia retirar a imunidade legal da X se a empresa não detalhar prontamente as ações para prevenir conteúdo ilegal. Autoridades na Austrália, Brasil, França e Malásia também estão acompanhando os desenvolvimentos.
Paisagem legislativa e legal nos EUA
Nos Estados Unidos, a Seção 230 da Lei de Decência das Comunicações protege as plataformas de responsabilidade por posts gerados por usuários, mas o coautor do projeto, Senador Ron Wyden (D-OR), argumentou que a regra não deve proteger as próprias saídas de IA de uma empresa. A Lei de Remoção dá à Departamento de Justiça a autoridade para perseguir penalidades criminais por NCII facilitada por IA, e a Comissão Federal de Comércio pode visar plataformas que falham em remover conteúdo sinalizado.
A Senadora Amy Klobuchar (D-MN), uma das principais patrocinadoras da Lei de Remoção, alertou que "a X deve mudar isso" ou enfrentar execução. O Senador Ted Cruz (R-TX), co-patrocinador do projeto, recusou-se a comentar. O Representante Jake Auchincloss (D-MA) chamou o comportamento do Grok de "grotesco" e propôs a Lei de Responsabilidade por Deepfakes para tornar a hospedagem de deepfakes sexualizados um problema de nível de diretoria para a liderança da X.
Outros legisladores enfatizaram as ferramentas de execução existentes. O Senador Richard Blumenthal (D-CT) enquadrou a questão como uma escolha entre proteger os "amigos da Grande Tecnologia" do Presidente ou defender a! juventude americana. A Representante Madeleine Dean (D-PA) descreveu a situação como "horrificada e enojada" e instou o Procurador-Geral da Califórnia e a Comissão Federal de Comércio a lançar uma investigação imediata.
Investigações do procurador-geral do estado
Oficiais do estado também estão pesando ações. O Procurador-Geral da Califórnia, Rob Bonta, expressou profunda preocupação com os danos causados por IA aos! crianças e observou a participação na legislação estadual destinada a proteger menores de chatbots de IA. O Procurador-Geral do Novo México, Raúl Torrez, alertou sobre "extremamente preocupado" com plataformas que carecem de salvaguardas para dignidade e direitos de privacidade, especialmente para crianças. O escritório do Procurador-Geral de Nova York, Letitia James, está revisando os incidentes do Grok, de acordo com o porta-voz Geoff Burgan.
Dinâmica política e legislação futura
A controvérsia se desenrola em meio a um debate político mais amplo. A administração Trump e aliados republicanos buscaram bloquear os estados de regular a IA por meio de uma ordem executiva e tentativas legislativas relacionadas. A Senadora Marsha Blackburn (R-TN), coautora da Lei de Segurança Online para Crianças, criticou as saídas do Grok e defendeu um quadro federal, a "Lei de IA da América Trump", para codificar a ordem executiva.
No geral, o episódio do Grok destaca a tensão entre a inovação rápida da IA e os mecanismos legais existentes projetados para proteger a privacidade, a segurança das crianças e os direitos de imagem não consentidos. Reguladores, legisladores e procuradores-gerais do estado estão convergindo para uma preocupação compartilhada: garantir que as plataformas de IA implementem salvaguardas robustas antes que o conteúdo prejudicial se prolifere ainda mais.