X limita ferramenta de geração de imagens do Grok a assinantes pagantes após repercussão global
Pontos principais
- xAI limita a funcionalidade de geração de imagens do Grok no X a assinantes pagantes apenas.
- A ferramenta anteriormente permitia a geração gratuita de imagens sexualizadas e nuas de mulheres, crianças e figuras públicas.
- O mau uso generalizado provocou condenação do Reino Unido, da União Europeia e da Índia.
- Reguladores exigiram documentação e mudanças políticas imediatas para proteger o status de abrigo seguro.
- O aplicativo Grok separado permanece gratuito e irrestrito.
- Elon Musk reafirmou que o conteúdo ilegal criado com o Grok será tratado como carregamentos ilegais no X.
A empresa de inteligência artificial de Elon Musk, xAI, restringiu o acesso à funcionalidade de geração de imagens do Grok no X, tornando-a disponível apenas para assinantes pagantes. A medida segue uma onda de críticas após a ferramenta ser usada para criar imagens sexualizadas e não consensuais de mulheres, crianças e figuras públicas.
Contexto
A empresa de inteligência artificial de Elon Musk, xAI, oferece um chatbot chamado Grok, que inclui uma capacidade de geração de imagens. Originalmente, a funcionalidade era acessível a qualquer pessoa no X com limites diários, permitindo que os usuários carregassem fotografias e solicitassem edições, incluindo variações sexualizadas ou nuas.
Controvérsia
O acesso irrestrito levou a uma enxurrada de imagens sexualizadas não consensuais envolvendo crianças, atores, modelos e outras personalidades proeminentes. A criação generalizada de tal conteúdo atraiu condenação rápida de várias nações, com críticos destacando o potencial de abuso da ferramenta e o dano que causou às vítimas de manipulação de imagens não consensuais.
Resposta Regulatória
Oficiais do Reino Unido, da União Europeia e da Índia condenaram publicamente o X e o Grok por permitir a geração de conteúdo ilegal. A União Europeia solicitou que a xAI retivesse toda a documentação relacionada ao chatbot. O ministério das comunicações da Índia ordenou mudanças imediatas para parar o mau uso da funcionalidade de geração de imagens, alertando que a falha em cumprir poderia colocar em risco as proteções de abrigo seguro da plataforma. O órgão regulador de comunicações do Reino Unido também indicou que estava em contato com a xAI sobre a questão.
Ação da Empresa
Em resposta à repercussão, a xAI anunciou que apenas assinantes pagantes no X poderiam gerar e editar imagens na plataforma. A empresa enfatizou que as novas limitações não afetam o aplicativo Grok separado, que continua a permitir a geração gratuita de imagens. Musk reiterou o compromisso da empresa com suas políticas contra conteúdo ilegal, afirmando que os usuários que criam material ilegal com o Grok enfrentarão as mesmas consequências que aqueles que carregam conteúdo ilegal diretamente no X.
A restrição representa uma mudança significativa na forma como a empresa equilibra o acesso do usuário com a necessidade de prevenir o mau uso prejudicial de suas ferramentas de IA, enquanto os reguladores continuam a monitorar o cumprimento e a aplicar padrões de conteúdo mais rigorosos.