Meta lanza Muse Spark AI, permite a los usuarios subir datos de salud en medio de preocupaciones de privacidad

Los laboratorios de superinteligencia de Meta presentaron Muse Spark esta semana, un modelo de inteligencia artificial generativa que promete analizar los datos de salud de los usuarios y ofrecer información personalizada. La función debutó dentro de la aplicación Meta AI y está programada para integrarse en las plataformas insignia de la empresa, Facebook, Instagram y WhatsApp, en las próximas semanas.

A diferencia de los chatbots genéricos, Muse Spark pide a los usuarios que "peguen sus números de un rastreador de fitness, un monitor de glucosa o un informe de laboratorio". Luego, afirma calcular tendencias, marcar patrones y generar visualizaciones. El modelo puede, por ejemplo, tomar una serie de lecturas de presión arterial y resaltar posibles preocupaciones, según el anuncio de lanzamiento de Meta.

Meta destacó una colaboración con más de 1.000 médicos para curar los datos de entrenamiento que alimentan a Muse Spark, diciendo que la entrada médica hace que las respuestas del bot sean "más factuales y comprehensivas". La empresa posiciona la herramienta como una ayuda educativa en lugar de un sustituto de un médico.

La capacidad de subir datos biométricos personales no es única de Meta. OpenAI's ChatGPT y Anthropic's Claude también ofrecen modos enfocados en la salud que pueden extraer datos de las aplicaciones de salud de Apple o Android de los usuarios, mientras que Google permite a los usuarios de Fitbit compartir información médica con su entrenador de salud de inteligencia artificial.

Los expertos advierten que estas comodidades conllevan riesgos de privacidad significativos. "Cuanto más información le des, más contexto tiene sobre ti y, potencialmente, mejores respuestas", señaló Monica Agrawal, profesora asistente en la Universidad de Duke y cofundadora de la plataforma compatible con HIPAA, Layer Health. "Pero por otro lado, existen preocupaciones importantes de privacidad al compartir tus datos de salud sin protecciones". Muse Spark opera bajo la política de privacidad de Meta, que permite que los datos retenidos se utilicen para futuros entrenamientos de modelos y podrían informar la publicidad dirigida.

Los profesionales médicos expresaron inquietud sobre el servicio. Gauri Agarwal, médica y profesora asociada en la Universidad de Miami, dijo que no conectaría sus propios registros de salud a un sistema que no puede controlar completamente. "Estos chatbots ahora permiten que conectes tus propios datos biométricos, y honestamente, eso me hace sentir bastante nerviosa", advirtió.

Los críticos también señalaron el potencial del modelo para proporcionar consejos peligrosos. Cuando se le pidió que generara un régimen de ayuno intermitente extremo, Muse Spark generó un plan de 500 calorías al día, una recomendación que podría provocar desnutrición o agravar trastornos alimentarios.

Meta respondió que Muse Spark está destinado a fines educativos solo, comparando su papel con el de un profesor de escuela de medicina en lugar de un médico en ejercicio. La empresa enfatiza que los usuarios deben compartir solo los datos con los que se sientan cómodos y que la herramienta incluye solicitudes para eliminar identificadores personales antes del análisis.

A medida que el mercado de la salud de inteligencia artificial se expande, los reguladores y los clínicos urgen precaución. Kenneth Goodman, fundador del Instituto de Bioethics y Política de Salud, dijo que necesitaría una investigación sólida que demuestre beneficios para la salud antes de respaldar tales herramientas. Hasta que surjan salvaguardias más claras, se aconseja a los usuarios que traten a Muse Spark como un recurso suplementario, no como un sustituto de la atención médica profesional.