Google Retira Visões Gerais de IA de Consultas de Saúde Seletivas Após Relatório do Guardian
Pontos principais
- Investigação do Guardian encontrou Visões Gerais de IA enganosas para consultas de exames de fígado.
- Google removeu Visões Gerais de IA para as consultas exatamente destacadas pelo relatório.
- Variações das consultas inicialmente ainda mostraram resumos gerados por IA.
- Porta-voz do Google disse que a empresa não comenta sobre remoções individuais.
- Clínicos internos revisaram as consultas e encontraram as informações em grande parte precisas.
- British Liver Trust recebeu bem a remoção, mas alertou sobre questões mais amplas de conteúdo de saúde de IA.
- TechCrunch buscou comentários adicionais sobre a situação.
Após uma investigação do Guardian que destacou visões gerais de IA enganosas para consultas de saúde relacionadas ao fígado, o Google removeu essas visões gerais dos resultados de busca. A remoção afeta consultas como "qual é o intervalo normal para exames de sangue do fígado" e variações semelhantes.
Contexto
O Guardian realizou uma investigação sobre as Visões Gerais de IA do Google, um recurso que fornece respostas concisas às consultas dos usuários diretamente nos resultados de busca. A investigação descobriu que, para consultas relacionadas à saúde sobre intervalos de referência de exames de fígado, as Visões Gerais de IA apresentavam números que não levavam em conta fatores como nacionalidade, sexo, etnia ou idade. Essa omissão poderia levar os usuários a supor incorretamente que seus resultados de exames eram normais.
Consultas específicas examinadas pelo Guardian incluíram "qual é o intervalo normal para exames de sangue do fígado" e "qual é o intervalo normal para exames de função hepática." O relatório observou que, embora as Visões Gerais de IA para essas frases exatas tenham sido removidas, variações como "intervalo de referência de lft" ainda produziam resumos gerados por IA na época do teste.
Resposta do Google
Após a publicação da história do Guardian, o Google removeu as Visões Gerais de IA para as consultas exatamente destacadas. Ao testar as consultas mais tarde naquele dia, nenhuma delas exibiu Visões Gerais de IA, embora a opção de fazer a mesma consulta no Modo IA ainda estivesse disponível. Em vários casos, o resultado de busca mais alto foi o próprio artigo do Guardian discutindo a remoção.
Um porta-voz do Google se recusou a comentar sobre remoções individuais, afirmando que a empresa não discute alterações específicas, mas trabalha para fazer melhorias gerais. O porta-voz também mencionou que uma equipe interna de clínicos revisou as consultas identificadas pelo Guardian e concluiu que, em muitos casos, as informações não eram imprecisas e eram apoiadas por sites de alta qualidade.
Reações e Implicações Mais Amplas
Vanessa Hebditch, diretora de comunicações e política da British Liver Trust, descreveu a remoção como "notícias excelentes." No entanto, ela enfatizou que se concentrar em um único resultado de busca não aborda a preocupação maior com as Visões Gerais de IA para tópicos de saúde em geral. O incidente destaca os desafios contínuos em garantir que as informações de saúde geradas por IA sejam precisas e apropriadamente contextualizadas.
TechCrunch entrou em contato para obter mais comentários, destacando o interesse mais amplo da indústria em como as principais plataformas lidam com o conteúdo de saúde impulsionado por IA. O episódio ilustra a tensão entre fornecer respostas rápidas geradas por IA e a necessidade de informações médicas nuanciadas e sonoras que levem em conta variáveis de pacientes individuais.