Google retira resúmenes de IA de ciertas consultas de salud después de un informe de The Guardian
Puntos clave
- La investigación de The Guardian encontró resúmenes de IA engañosos para las consultas de pruebas del hígado.
- Google eliminó los resúmenes de IA para las consultas exactas destacadas en el informe.
- Las variaciones de las consultas inicialmente aún mostraron resúmenes generados por IA.
- Un portavoz de Google dijo que la empresa no comenta sobre eliminaciones individuales.
- Los clínicos internos revisaron las consultas y encontraron que la información era en gran medida precisa.
- La British Liver Trust celebró la eliminación, pero advirtió sobre problemas más amplios con el contenido de salud de IA.
- TechCrunch solicitó un comentario adicional sobre la situación.
Después de una investigación de The Guardian que destacó resúmenes de IA engañosos para ciertas consultas de salud relacionadas con el hígado, Google ha retirado esos resúmenes de sus resultados de búsqueda. La eliminación afecta consultas como "cuál es el rango normal para las pruebas de sangre del hígado" y variaciones similares. Un portavoz de Google dijo que la empresa no comenta sobre eliminaciones individuales, pero señaló que los clínicos revisaron las consultas destacadas y encontraron que la información era en gran medida precisa. La British Liver Trust celebró el cambio, pero advirtió que persisten problemas más amplios con el contenido de salud generado por IA.
Antecedentes
The Guardian realizó una investigación sobre los resúmenes de IA de Google, una función que proporciona respuestas concisas a las consultas de los usuarios directamente en los resultados de búsqueda. La investigación encontró que para las consultas relacionadas con la salud sobre los rangos de referencia de las pruebas del hígado, los resúmenes de IA presentaban números que no tenían en cuenta factores como la nacionalidad, el sexo, la etnia o la edad. Esta omisión podría llevar a los usuarios a asumir incorrectamente que sus resultados de las pruebas eran normales.
Las consultas específicas examinadas por The Guardian incluyeron "cuál es el rango normal para las pruebas de sangre del hígado" y "cuál es el rango normal para las pruebas de función del hígado". El informe señaló que aunque los resúmenes de IA para estas frases exactas fueron eliminados, las variaciones como "rango de referencia de lft" aún produjeron resúmenes generados por IA en el momento de la prueba.
Respuesta de Google
Después de que se publicó la historia de The Guardian, Google eliminó los resúmenes de IA para las consultas exactas destacadas. Al probar las consultas más tarde esa mañana, ninguna de ellas mostró resúmenes de IA, aunque la opción de hacer la misma consulta en modo de IA seguía disponible. En varios casos, el resultado de búsqueda principal fue el artículo de The Guardian en sí, que discutía la eliminación.
Un portavoz de Google se negó a comentar sobre eliminaciones individuales, afirmando que la empresa no discute cambios específicos, pero trabaja para hacer mejoras generales. El portavoz también mencionó que un equipo interno de clínicos revisó las consultas identificadas por The Guardian y concluyó que, en muchos casos, la información no era inexacta y estaba respaldada por sitios web de alta calidad.
Reacciones y implicaciones más amplias
Vanessa Hebditch, directora de comunicaciones y política de la British Liver Trust, describió la eliminación como "noticias excelentes". Sin embargo, enfatizó que centrarse en un solo resultado de búsqueda no aborda la preocupación más amplia de los resúmenes de IA para temas de salud en general. El incidente destaca los desafíos continuos para garantizar que la información de salud generada por IA sea precisa y contextualizada adecuadamente.
TechCrunch solicitó un comentario adicional, subrayando el interés más amplio de la industria en cómo las principales plataformas manejan el contenido de salud impulsado por IA. El episodio ilustra la tensión entre proporcionar respuestas rápidas generadas por IA y la necesidad de información médica matizada y sonora que tenga en cuenta las variables individuales de los pacientes.