OpenAI’s ChatGPT Health plantea inquietudes sobre confianza y privacidad

OpenAI presentó ChatGPT Health, una clínica virtual impulsada por inteligencia artificial que puede leer registros médicos electrónicos y datos de fitness para ofrecer asesoramiento de salud personalizado. Aunque el servicio promete explicaciones más claras del lenguaje médico y una comprensión más rápida de los resultados de las pruebas, expertos y usuarios expresan fuertes inquietudes sobre la privacidad de los datos, la falta de cobertura de HIPAA y el riesgo de alucinaciones de la inteligencia artificial. La confianza, la transparencia y las salvaguardias regulatorias se citan como esenciales antes de que se pueda considerar una adopción generalizada segura.

Antecedentes

OpenAI lanzó ChatGPT Health como una clínica virtual dedicada que puede ingerir registros médicos electrónicos (EMRs) y datos de aplicaciones de fitness y salud. La función está diseñada para ofrecer respuestas personalizadas sobre resultados de laboratorio, dieta, ejercicio y preparación para visitas al médico. La empresa comercializa el servicio como una forma de ayudar a los millones de personas que hacen preguntas sobre salud y bienestar cada semana.

Potenciales beneficios

Los partidarios señalan que la plataforma podría hacer que la información médica sea más accesible. Puede traducir el complejo lenguaje médico a un lenguaje plano, destacar puntos que vale la pena discutir con un médico y analizar rápidamente los resultados de las pruebas confusas. En un sistema de atención médica sobrecargado, dichas capacidades podrían proporcionar claridad inmediata para los usuarios que carecen de acceso fácil a la atención médica regular.

Problemas de privacidad y confianza

A pesar de la conveniencia prometida, muchos usuarios expresan hesitación sobre compartir datos de salud sensibles con un proveedor de inteligencia artificial comercial. El autor del artículo de la fuente destaca una falta de confianza, señalando que los sistemas de inteligencia artificial pueden producir respuestas alucinadas o inexactas. OpenAI no está sujeto a HIPAA, la ley federal que rige la protección de la información médica, lo que significa que la plataforma opera bajo las reglas de privacidad de tecnología de consumo estándar en lugar de las salvaguardias más estrictas que se aplican a los proveedores de atención médica tradicionales.

Los datos cargados en ChatGPT Health podrían ser vulnerables a filtraciones, piraterías o citaciones legales. Aunque el servicio aísla las conversaciones de salud y permite a los usuarios eliminar sus datos, el riesgo subyacente permanece porque la información reside fuera del ecosistema de atención médica tradicional.

Perspectiva de expertos

Alexander Tsiaras, fundador y director ejecutivo de la plataforma de datos médicos StoryMD, enfatiza que la confianza será el desafío central tanto para las personas como para el sistema de atención médica en general. Pide transparencia en la forma en que se ingieren los datos, en la forma en que se previenen las alucinaciones y en la forma en que la plataforma se alinea con los marcos regulatorios establecidos. Sin dichas medidas, los usuarios pueden ser reacios a confiar a una entidad comercial sus registros de salud de por vida.

Conclusión

ChatGPT Health ofrece una visión de cómo la inteligencia artificial podría complementar la gestión de la salud personal, pero su éxito depende de abordar las inquietudes sobre privacidad, seguridad y confiabilidad. Hasta que no estén en vigor salvaguardias sólidas y una supervisión regulatoria clara, muchos usuarios potenciales siguen siendo escépticos sobre integrar su información médica más sensible con el servicio.