Google Retira Modelo de IA Gemma Após Senadora Acusá-lo de Fabricar Alegações
Pontos principais
- A Google removeu seu modelo de IA Gemma da plataforma AI Studio.
- A senadora Marsha Blackburn alegou que o modelo fabricou uma alegação criminal contra ela.
- O Gemma é destinado ao uso de desenvolvedores, não para responder a perguntas factuais do público.
- A Google manterá o Gemma disponível via API para desenvolvedores.
- A empresa enfatizou seu compromisso em reduzir alucinações de IA.
- A alegação falsa envolvia uma suposta campanha em 1987, enquanto a campanha real foi em 1998.
- Os links fornecidos pelo modelo levavam a páginas de erro ou artigos não relacionados.
A Google anunciou que sua família de modelos de IA Gemma foi retirada da plataforma AI Studio após a senadora republicana Marsha Blackburn acusar o modelo de fabricar uma grave alegação criminal contra ela. A empresa afirmou que o Gemma é destinado a desenvolvedores, não para responder a perguntas factuais do público, e permanecerá acessível via API. A Google reiterou seu compromisso em reduzir alucinações em seus modelos, enquanto aborda as preocupações de difamação levantadas pela senadora.
Contexto
A série Gemma da Google é comercializada como uma família de modelos de IA projetados para desenvolvedores integrarem em aplicações. Os modelos são oferecidos por meio da plataforma AI Studio da Google e, separadamente, via uma API para uso de desenvolvedores. A Google enfatizou que o Gemma não é um chatbot voltado para o consumidor e não deve ser usado para responder a perguntas factuais.
Reclamação da Senadora
A senadora Marsha Blackburn, republicana do Tennessee, escreveu ao CEO da Google, Sundar Pichai, alegando que o Gemma gerou uma declaração falsa afirmando que ela havia sido acusada de um relacionamento sexual com um policial rodoviário durante sua campanha para o senado estadual em 1987. O modelo também forneceu uma lista de artigos de notícias falsificados para apoiar a alegação. Blackburn observou que o ano da campanha alegado era incorreto; sua campanha real ocorreu em 1998, e os links fornecidos pelo modelo levavam a páginas de erro ou conteúdo não relacionado. Ela caracterizou a resposta como difamação e exigiu que a Google desativasse o modelo até que ele pudesse ser controlado.
Resposta da Google
Em uma postagem no X, a conta de notícias oficial da Google, a empresa afirmou que havia "visto relatórios de não-desenvolvedores tentando usar o Gemma no AI Studio e fazer perguntas factuais a ele". Para evitar mais confusão, a Google removeu o acesso ao Gemma da plataforma AI Studio, afirmando que o modelo continuaria disponível para desenvolvedores por meio da API. A empresa reiterou seu compromisso em "minimizar alucinações e continuar melhorando todos os nossos modelos".
Implicações
O incidente destaca os desafios contínuos com alucinações de IA - situações em que os modelos geram informações falsas ou enganosas que parecem factuais. Embora a Google reconheça esses problemas, o episódio sublinha a tensão entre ferramentas de IA voltadas para desenvolvedores e expectativas públicas de precisão, especialmente quando figuras políticas estão envolvidas. A reclamação da senadora adiciona uma dimensão política, provocando escrutínio sobre como as saídas de IA podem impactar reputações e a importância de salvaguardas robustas contra a difamação.