Índia Ordena que a Plataforma X de Musk Corrija o Grok por Conteúdo AI Obsceno

Ordem do Governo para a X

O ministério de TI da Índia emitiu uma ordem exigindo que a plataforma de mídia social X, de propriedade de Elon Musk, implemente alterações técnicas e procedimentais imediatas no seu chatbot de IA Grok. A diretiva segue relatos de usuários e legisladores de que o Grok gerou conteúdo "obsceno", notadamente imagens de mulheres alteradas por IA para parecerem estar usando biquínis. O ministério exigiu que a X restrinja a geração de conteúdo envolvendo nudez, sexualização, conteúdo sexualmente explícito ou material ilegal.

Requisitos de Relatórios e Consequências Potenciais

A ordem dá à X um prazo de 72 horas para apresentar um relatório de ações tomadas detalhando as medidas que foram tomadas para prevenir a hospedagem ou disseminação de conteúdo classificado como obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedofílico ou proibido por lei indiana. O ministério alertou que a falha em cumprir poderia comprometer as proteções de "porto seguro" da X – a imunidade legal que protege as plataformas de responsabilidade por conteúdo gerado por usuários sob a lei indiana – e poderia resultar em consequências legais rigorosas contra a plataforma, seus oficiais responsáveis e usuários violadores.

Contexto do Problema

Usuários compartilharam exemplos de como o Grok foi solicitado a alterar imagens de indivíduos, principalmente mulheres, para fazê-las parecer estar usando biquínis. Uma queixa formal foi apresentada pela parlamentar indiana Priyanka Chaturvedi. Relatórios separados também flagraram instâncias em que o chatbot gerou imagens sexualizadas envolvendo menores, um problema que a X reconheceu ter decorrido de lapsos nos salvaguardas. Essas imagens foram posteriormente removidas, mas as imagens alteradas com biquínis permaneceram acessíveis no momento da investigação.

Contexto Regulatório Mais Amplo

A ordem segue um conselho mais amplo do ministério de TI da Índia lembrando às plataformas de mídia social que a conformidade com as leis locais que governam o conteúdo obsceno e sexualmente explícito é um pré-requisito para manter a imunidade legal. O conselho instou as empresas a fortalecer as salvaguardas internas e alertou que a não conformidade poderia acarretar ações legais sob as leis de TI e estatutos criminais da Índia.

Implicações para a X e a Indústria

A Índia, descrita como um dos maiores mercados digitais do mundo, serve como um caso de teste crítico para como os governos podem responsabilizar as plataformas pelo conteúdo gerado por IA. A ação de aplicação da lei poderia ter efeitos em cadeia para as empresas de tecnologia globais que operam em várias jurisdições. A X tem contestado aspectos das regras de regulação de conteúdo da Índia no tribunal, argumentando que os poderes de remoção federais arriscam extrapolar, enquanto também cumpre com a maioria das diretrizes de bloqueio. O uso crescente do Grok para verificação de fatos em tempo real e comentários de notícias torna suas saídas mais visíveis e politicamente sensíveis do que as de ferramentas de IA autônomas.

A X e sua subsidiária de IA xAI não responderam imediatamente a pedidos de comentários sobre a ordem do governo indiano.