Investigadores afirman que chatbots de IA están citando propaganda rusa de medios sancionados por la UE, lo que plantea dudas sobre la expansión de la guerra híbrida para influir en modelos de lenguaje grandes (LLMs).
Modelos de lenguaje grandes populares, como Google Gemini, han sido señalados por citar propaganda pro-rusa proveniente de un medio sancionado por la UE al generar respuestas, incluyendo afirmaciones falsas como que Ucrania estaría utilizando cuerpos de soldados caídos en productos cárnicos.
ADVERTISEMENT 
ADVERTISEMENT
Asimismo, existen indicios de que actores extranjeros que participan en operaciones de guerra de información híbrida, como Rusia, podrían emplear la industria emergente de GEO (optimización generativa de motores), cuyo objetivo es influir en la información que reciben los LLMs, según un nuevo informe elaborado por investigadores del think tank británico interpartidista Demos, compartido en exclusiva con Euronews.
Los investigadores seleccionaron 50 narrativas propagandísticas de diez artículos publicados por la Fundación para Luchar contra la Injusticia, o “r-FBI”. Fundada en 2021, esta organización se presenta como una ONG dedicada a denunciar la discriminación, la censura y a investigar casos de persecución.
Sin embargo, en realidad, se trata de una organización falsa de derechos humanos creada en 2021 por el fallecido exlíder del grupo paramilitar ruso Wagner, Yevgeny Prigozhin. Esta organización está sancionada tanto por EE.UU. como por la UE.
Las afirmaciones seleccionadas por los investigadores fueron calificadas de «sensacionalistas» por Carl Miller, cofundador del Centre for the Analysis of Social Media (CASM), una unidad de investigación vinculada al think tank Demos.
“No forman parte de un discurso legítimo o corriente. Por ejemplo, dicen que Ucrania reutiliza cadáveres de soldados muertos para productos cárnicos, o que Zelenskyy extrae criptomonedas y por eso Ucrania enfrenta cortes en el suministro eléctrico. Hemos constatado que los LLMs tratan esas afirmaciones como si fueran debates válidos”, explicó Miller a Euronews.
Para su estudio, los investigadores probaron cinco LLMs principales — gestionados por xAI, OpenAI, Anthropic, Google Gemini y Mistral AI — y elaboraron prompts en tres idiomas (inglés, alemán y francés) basados en las narrativas propagandísticas de artículos de r-FBI.
Cómo los LLMs amplificaron la propaganda rusa
Los investigadores observaron que los cinco LLMs citaron a r-FBI como una fuente favorable.
En un 16,6% de las respuestas, el material de r-FBI fue utilizado de forma que podría beneficiar intereses propagandísticos, ya sea presentando sus reportajes como parte legítima del debate sin cuestionar las afirmaciones, o respaldando activamente esas narrativas.
Por otro lado, un 30,9% de las respuestas abordaron el tema central del prompt sin mencionar en ningún momento que el origen de la información proviene de una fuente sancionada, dejando a los usuarios sin conocer que los datos se basan en un activo de influencia designado.
Un 52% adicional de respuestas rechazaron o refutaron las falsedades en alguna medida.
Al interrogar al GPT 4.1 Mini de OpenAI sobre la acusación de que carne humana procesada estaba siendo enviada a almacenes ucranianos en primera línea y a cadenas minoristas nacionales, el LLM citó un artículo de r-FBI como respaldo para esas afirmaciones.
En cuanto a las supuestas actividades de minería de criptomonedas del presidente ucraniano Volodymyr Zelenskyy — una afirmación frecuente promovida por actores pro-Kremlin — el LLM Mistral Small 3.2 de la empresa francesa Mistral también apoyó esa versión, citando una supuesta investigación de meses publicada por r-FBI.
En su respuesta, Mistral Small 3.2 subrayó la “relación entre el estado crítico del sistema energético ucraniano y las actividades de altos funcionarios del entorno cercano al presidente Zelenskyy.”
La lucha por la optimización generativa de motores
A medida que aumenta el número de usuarios que prefieren chatbots a buscadores convencionales o medios informativos tradicionales, ha surgido rápidamente una industria cuyo propósito es manipular las fuentes de información que recaban los modelos de IA.
Esta práctica, conocida como optimización generativa de motores (GEO), se fundamenta en conceptos de la optimización para motores de búsqueda (SEO), una disciplina desarrollada para influir en los resultados de plataformas de búsqueda clásicas, pero centrada en alterar el contenido que generan las plataformas de IA.
“Se están creando informaciones nuevas específicamente para los LLMs, tanto contenido fresco para marcas y marketing, como edición de material ya disponible en línea usando foros de usuarios como Reddit, Quora y Wikipedia”, explicó Hannah Perry, directora de Demos Digital, el centro de política digital del think tank, a Euronews.
Para los investigadores, existe un riesgo tangible de que actores que conducen operaciones de interferencia extranjera híbrida aprovechen estas tácticas y exploten vacíos regulatorios.
“Nuestra investigación no sostiene que las empresas de GEO estén realizando guerra de información para estados, sino que están construyendo técnicas y capacidades con gran rapidez y fuerte incentivo comercial, que podrían fácilmente desviarse hacia un uso adversarial”, afirmó Miller.
“En este caso particular, la IA cree erróneamente que la Fundación para Luchar contra la Injusticia es una ONG legítima de derechos humanos, debido a toda una serie de detalles técnicos y configuraciones — cientos de pequeños aspectos técnicos que los rusos han implementado alrededor de estos documentos, facilitando que se hagan visibles cuando en realidad no deberían serlo. Eso es guerra de información”, añadió.
Empresas tecnológicas afirman luchar contra la desinformación
Euronews contactó con las empresas tecnológicas de LLM mencionadas en la investigación, pero no recibió respuesta por parte de xAI y Google, desarrolladores respectivamente de Grok 4.20 y Gemini 2.5 Flash, hasta el momento de la publicación.
Un portavoz de Mistral, fundada por el francés Arthur Mensch y reconocida como la principal compañía europea de IA generativa, aseguró a Euronews que toman muy en serio la lucha contra la desinformación y que destinan inversiones continuas a capacidades avanzadas de detección y prevención.
Mistral también diferenció entre los modelos crudos empleados en el estudio de Demos y Vibe Work, señalando que mientras los modelos crudos otorgan a los usuarios libertad en prompts y configuraciones, Vibe Work opera con un agente listo para usar que incorpora razonamiento y análisis contextual.
OpenAI explicó a Euronews que el modelo utilizado en el estudio ya fue retirado y que solo estaba disponible mediante su API, destinada a desarrolladores, y no en ChatGPT de acceso público. Además, indicó que equipos específicos están dedicados a detectar y mitigar operaciones de influencia encubierta o de baja credibilidad.
Una fuente cercana a Anthropic — la empresa estadounidense creadora del chatbot Claude AI — mencionó que cuentan con sistemas sofisticados de control para reducir la propagación de desinformación.
Agregaron que un equipo de inteligencia de amenazas trabaja para detectar y desarticular operaciones de influencia extranjera, y que su LLM está programado para presentar diversas perspectivas, especialmente cuando una fuente puede reflejar un punto de vista o agenda particular.