Baltimore Processa xAI por Danos Causados pelo Grok Deepfake
Pontos principais
- Baltimore entra com uma ação municipal contra a xAI por causa do seu chatbot Grok e da ferramenta de geração de imagens.
- A queixa alega violações da Ordem de Proteção ao Consumidor da cidade.
- A ferramenta de geração de imagens do Grok foi usada para criar uma estimativa de três milhões de imagens sexualizadas em onze dias.
- Cerca de vinte e três mil dessas imagens envolviam menores.
- A procuradora da cidade, Ebony M. Thompson, enfatiza a necessidade de guardrails para tecnologias poderosas.
- A ação judicial segue outras ações legais, incluindo uma ação coletiva potencial por três adolescentes.
- Reguladores em todo o mundo começaram a investigar plataformas de IA que permitem a criação de imagens ilegais.
- O caso pode estabelecer um precedente para a regulação municipal da criação de conteúdo impulsionada por IA.
A cidade de Baltimore entrou com uma ação municipal contra a xAI, de Elon Musk, alegando que seu chatbot de IA Grok e a rede social X foram comercializados sem alertar sobre o risco de imagens deepfake prejudiciais. A queixa cita a ferramenta de geração de imagens da plataforma, que foi usada para criar milhões de imagens sexualizadas, incluindo milhares envolvendo menores, e argumenta que isso viola a Ordem de Proteção ao Consumidor de Baltimore. Funcionários da cidade dizem que a ação visa proteger os residentes de danos relacionados à IA e responsabilizar as empresas de tecnologia.
Contexto
A empresa de inteligência artificial de Elon Musk, xAI, lançou o chatbot Grok, promovendo-o como um assistente de IA de propósito geral. Além do chatbot, o Grok oferece uma ferramenta de geração de imagens que tem sido intensamente criticada. De acordo com o Center for Countering Digital Hate, a ferramenta foi usada para produzir uma estimativa de três milhões de imagens sexualizadas em um período de onze dias. Dentre essas imagens, cerca de vinte e três mil retratavam menores, levantando preocupações sobre a criação de material de abuso sexual infantil.
Ação Legal
Em resposta, a cidade de Baltimore entrou com uma ação municipal contra a xAI, afirmando que a empresa violou a Ordem de Proteção ao Consumidor da cidade. A queixa, relatada pelo The Guardian, afirma que a xAI comercializou o Grok sem divulgar os riscos e danos potenciais associados ao seu uso, particularmente a geração de imagens não consensuais e ilegais. A procuradora da cidade, Ebony M. Thompson, enfatizou que as leis de proteção ao consumidor de Baltimore existem para proteger os residentes de danos tecnológicos emergentes. Ela afirmou que, quando as empresas introduzem tecnologias poderosas sem guardrails adequados, a cidade tem tanto a autoridade quanto a obrigação de agir.
Contexto Mais Amplo
A ação judicial adiciona-se a uma onda crescente de desafios regulatórios e legais que visam ferramentas de geração de imagens de IA. Reguladores em todo o mundo têm acesso limitado ou lançaram investigações em plataformas que permitem a criação de imagens potencialmente ilegais e não consensuais. Nos Estados Unidos, uma ação coletiva potencial foi arquivada por três adolescentes que alegaram que fotos deles foram usadas para criar material de abuso sexual infantil. Embora o governo federal ainda não tenha tomado medidas diretas contra a xAI, a ação municipal de Baltimore representa uma abordagem inovadora ao usar estatutos de proteção ao consumidor locais para abordar riscos relacionados à IA.
Implicações
Funcionários da cidade argumentam que a ação judicial visa proteger os residentes, responsabilizar as empresas de tecnologia e prevenir a consolidação de danos à medida que a tecnologia de IA continua a evoluir. O caso pode estabelecer um precedente para como as municipalidades podem usar leis de proteção ao consumidor para regular aplicações de IA emergentes, especialmente aquelas capazes de gerar conteúdo visual prejudicial.