IA na Saúde Enfrenta Desafios de Viés e Privacidade Amidst Crescente Adoção
Pontos principais
- O Google afirma que trata o viés do modelo de IA "extremamente a sério" e está desenvolvendo salvaguardas de privacidade.
- A Open Evidence fornece resumos médicos gerados por IA com citações de fontes para clínicos.
- A UCL e a King's College London criaram o modelo Foresight usando dados anonimizados de milhões de pacientes.
- Chris Tomlinson destacou a vantagem dos dados em escala nacional para representar demografia diversa.
- O NHS pausou o projeto Foresight após uma reclamação de proteção de dados da BMA e do Royal College of General Practitioners.
- Pesquisadores europeus desenvolveram o Delphi-2M para prever a suscetibilidade a doenças usando dados do UK Biobank.
- Especialistas alertam que os sistemas de IA podem alucinar, apresentando riscos na tomada de decisões clínicas.
- O pesquisador do MIT Ghassemi enfatizou o potencial da IA para abordar lacunas de saúde importantes em vez de ganhos de desempenho incrementais.
Ferramentas de IA médica estão expandindo seu alcance, mas especialistas alertam que elas podem subestimar sintomas em mulheres e minorias étnicas e levantar preocupações de privacidade. O Google afirma que trata o viés do modelo com seriedade e está desenvolvendo técnicas para proteger dados sensíveis. A Open Evidence, usada por centenas de milhares de médicos, relies em citações de jornais médicos e fontes regulamentares.
Crescente Uso de IA em Ambientes Clínicos
A inteligência artificial está sendo cada vez mais integrada aos fluxos de trabalho médicos. A Open Evidence, uma ferramenta empregada por um grande número de médicos, se baseia em jornais médicos, rótulos da FDA dos EUA, diretrizes de saúde e revisões de especialistas para resumir históricos de pacientes e recuperar informações. Cada saída gerada por IA é acompanhada de uma citação à sua fonte, proporcionando transparência para os clínicos.
Abordando o Viés em IA Médica
O Google enfatizou que leva o viés do modelo "extremamente a sério" e está desenvolvendo técnicas de privacidade que podem sanear conjuntos de dados sensíveis enquanto protegem contra a discriminação. Pesquisadores sugerem que a redução do viés começa com a seleção cuidadosa de dados de treinamento, defendendo conjuntos de dados de saúde diversificados e representativos.
Iniciativas de Pesquisa em Grande Escala
A University College London e a King’s College London colaboraram com o Serviço Nacional de Saúde do Reino Unido para desenvolver um modelo de IA gerativo chamado Foresight. O modelo foi treinado em dados de pacientes anonimizados de dezenas de milhões de indivíduos, abrangendo registros de admissões hospitalares e vacinações contra a Covid-19. O pesquisador principal Chris Tomlinson observou que os dados em escala nacional "permitem que representemos o estado completo e kaleidoscópico da Inglaterra em termos de demografia e doenças", oferecendo uma base mais forte do que conjuntos de dados mais genéricos.
Cientistas europeus também criaram um modelo de IA chamado Delphi-2M, que prevê a suscetibilidade a longo prazo a doenças usando registros médicos anonimizados de centenas de milhares de participantes no UK Biobank.
Preocupações de Privacidade e Scrutínio Regulamentar
O projeto Foresight do NHS foi pausado para permitir que o Escritório do Comissário de Informações do Reino Unido considere uma reclamação de proteção de dados apresentada pela British Medical Association e pelo Royal College of General Practitioners. A reclamação destacou preocupações sobre o uso de dados de saúde sensíveis no treinamento do modelo.
Riscos de Alucinação e Impacto Clínico
Especialistas alertam que os sistemas de IA podem "alucinar" — produzir respostas fabricadas —, o que poderia ser especialmente prejudicial em contextos médicos. Apesar desses riscos, o pesquisador do MIT Ghassemi expressou otimismo, afirmando que a IA traz "benefícios enormes para a saúde" e deve se concentrar em abordar lacunas críticas de saúde em vez de apenas melhorar a performance marginal de tarefas.