Chatbots citan a medios estatales rusos en respuestas sobre el conflicto en Ucrania

Investigadores del Instituto de Diálogo Estratégico examinaron cuatro chatbots de inteligencia artificial ampliamente utilizados y encontraron que frecuentemente hacen referencia a medios estatales rusos y otras fuentes sancionadas al responder preguntas sobre la guerra en Ucrania. El estudio destaca cómo las lagunas de datos pueden ser explotadas por redes de desinformación y plantea preocupaciones sobre la capacidad de los grandes modelos de lenguaje para filtrar contenido prohibido, especialmente dentro de la Unión Europea.

Antecedentes

El Instituto de Diálogo Estratégico (ISD) realizó una prueba sistemática de cuatro sistemas de inteligencia artificial conversacional populares—ChatGPT, Gemini de Google, DeepSeek y Grok de xAI—para ver cómo manejan las consultas relacionadas con el conflicto entre Rusia y Ucrania. Los investigadores plantearon una mezcla de preguntas neutras, sesgadas y deliberadamente maliciosas en varios idiomas europeos, con el objetivo de descubrir si los chatbots se basarían en fuentes que han sido sancionadas por la Unión Europea por difundir desinformación.

Hallazgos clave

En todo el conjunto de preguntas, los chatbots citaron medios vinculados al estado ruso, como Sputnik, RT y otros sitios vinculados a agencias de inteligencia rusas. El análisis informó que aproximadamente una quinta parte de todas las respuestas incluyeron referencias a estas fuentes sancionadas. La frecuencia de las citas aumentó cuando las preguntas eran más sesgadas o maliciosas, lo que indica un patrón de sesgo de confirmación dentro de los modelos. Entre los cuatro sistemas, ChatGPT se destacó por proporcionar la mayor cantidad de referencias a medios rusos, mientras que Gemini mostró advertencias de seguridad con más frecuencia y produjo los mejores resultados en general en términos de limitar el contenido prohibido.

Mecanismos de influencia

El estudio sugiere que las redes de desinformación explotan los "vacíos de datos"—áreas donde la información confiable es escasa—al inundar la web con narrativas falsas que los sistemas de inteligencia artificial pueden recuperar. Cuando los usuarios recurren a los chatbots para obtener información en tiempo real, los modelos pueden basarse en estas fuentes de baja calidad, amplificando involuntariamente la propaganda respaldada por el estado. Los investigadores observaron que los chatbots a menudo enlazaban con cuentas de redes sociales y dominios más nuevos asociados con los esfuerzos de desinformación rusos, lo que demuestra aún más cómo el ecosistema puede ser aprovechado.

Respuestas e implicaciones

OpenAI reconoció que toma medidas para prevenir la difusión de información falsa o engañosa, enfatizando las mejoras continuas a sus modelos y las salvaguardas de la plataforma. El representante de Google no comentó, al igual que DeepSeek. Los hallazgos plantean preguntas regulatorias, especialmente cuando la Unión Europea considera reglas más estrictas para las grandes plataformas en línea que alojan contenido generado por usuarios. Los autores de la ISD argumentan que, más allá de la eliminación, debería haber contextualización para ayudar a los usuarios a entender el origen y el estado de sanción de las fuentes citadas.

Contexto más amplio

Desde el comienzo del conflicto, las autoridades rusas han intensificado el control sobre los medios de comunicación nacionales y han ampliado las campañas de desinformación en el extranjero. La integración de herramientas de inteligencia artificial en la búsqueda de información cotidiana aumenta las apuestas, ya que los grandes modelos de lenguaje se convierten en un punto de referencia principal para muchos usuarios. El estudio subraya la necesidad de salvaguardias robustas y prácticas de fuentes transparentes para salvaguardar la integridad de la información entregada por los chatbots de inteligencia artificial.