Una investigación revela que los chatbots de IA citan propaganda rusa de medios sancionados por la UE, lo que plantea dudas sobre la influencia de la guerra híbrida en los grandes modelos de lenguaje.
Los principales modelos de lenguaje de gran tamaño (LLM), como Google Gemini, han llegado a citar propaganda prorrusa procedente de un medio sancionado por la UE al generar respuestas, incluidas afirmaciones de que Ucrania estaría utilizando los cuerpos de soldados muertos para productos cárnicos.
PUBLICIDAD
PUBLICIDAD
También hay indicios de que actores extranjeros implicados en actividades de guerra híbrida de información, como Rusia, podrían recurrir a la creciente industria de la GEO (generative engine optimisation, optimización de motores generativos), que busca influir en la información a la que acceden los LLM, según un nuevo informe publicado por investigadores del laboratorio de ideas británico multipartidista Demos, compartido en exclusiva con el equipo de verificación de 'Euronews', The Cube.
Los investigadores seleccionaron 50 narrativas de propaganda a partir de diez artículos publicados por la Foundation to Battle Injustice o "r-FBI". Fundada en 2021, la organización se presenta como una ONG que trabaja para denunciar la discriminación y la censura e investigar casos de persecución.
Una falsa ONG en el centro de la investigación
En realidad se trata de una falsa organización de derechos humanos, creada en 2021 por el ya fallecido exlíder del grupo paramilitar ruso Wagner, Yevgueny Prigozhin. La organización está sancionada tanto por Estados Unidos como por la UE.
Las afirmaciones seleccionadas por los investigadores eran "escabrosas", según Carl Miller, cofundador del Centre for the Analysis of Social Media (CASM), una unidad de investigación creada por el laboratorio de ideas Demos.
"No son afirmaciones que pertenezcan a ningún tipo de discurso dominante", señaló Miller. "Son afirmaciones según las cuales Ucrania reutiliza los cadáveres de soldados muertos para productos cárnicos, que Zelenski vacía la red de criptominería y que esa es la razón por la que Ucrania se queda sin electricidad. Hemos comprobado que los LLM las tratan como partes legítimas de un debate".
Para realizar su investigación, el equipo probó cinco LLM generalistas, operados por xAI, OpenAI, Anthropic, Google Gemini y Mistral AI, y redactó instrucciones en tres idiomas (inglés, alemán y francés) basadas en narrativas propagandísticas difundidas en artículos de r-FBI.
Cómo los LLM amplifican la propaganda rusa
Los investigadores comprobaron que los cinco LLM citaron a r-FBI como fuente favorable. En total, el 16,6% de las respuestas recurría al material de r-FBI de una manera que podía servir a los intereses de la propaganda, ya fuera presentando los informes de la organización como una parte legítima del debate y repitiendo las afirmaciones sin espíritu crítico o respaldando activamente esas narrativas.
Mientras tanto, el 30,9% de las respuestas abordaba el tema de fondo mencionado en la instrucción, pero no mencionaba en ningún momento que la fuente estuviera sancionada, lo que dejaba a los usuarios sin saber que la respuesta se apoyaba en un activo de influencia designado. Otro 52% de las respuestas rechazaba o desmentía de alguna manera las afirmaciones falsas.
Cuando los investigadores preguntaron al modelo GPT 4.1 Mini de OpenAI por las acusaciones de que carne humana procesada se enviaba a almacenes cercanos al frente en Ucrania y a cadenas de distribución dentro del país, el LLM citó en su respuesta un artículo de r-FBI como prueba que respaldaba esas afirmaciones.
Cuando se le preguntó por las supuestas actividades de criptominería del presidente ucraniano Volodímir Zelenski, una acusación recurrente difundida por actores afines al Kremlin, el modelo Mistral Small 3.2 de la empresa francesa de IA Mistral respaldó esas afirmaciones, de nuevo citando una supuesta investigación de varios meses llevada a cabo por r-FBI.
En su respuesta, Mistral Small 3.2 destacaba "el vínculo entre el estado crítico del sistema energético de Ucrania y las actividades de altos cargos del círculo más cercano del presidente Zelenski".
La batalla por la optimización de motores generativos
A medida que más personas recurren a los chatbots en lugar de a los buscadores tradicionales o a los medios de comunicación, ha surgido una industria en rápido crecimiento que busca influir en la forma en que los modelos de IA recopilan sus fuentes.
Esta práctica también se conoce como optimización de motores generativos. Basada en los fundamentos de la optimización para motores de búsqueda (SEO), un campo desarrollado para influir en los resultados de las plataformas de búsqueda tradicionales, la GEO trabaja para influir en los resultados generados por las plataformas de IA.
"Se está creando nueva información específicamente para los LLM, pero en este caso es contenido nuevo que se ofrece para marcas y marketing, o la edición de contenido que ya está en línea utilizando foros de usuarios como Reddit, Quora y Wikipedia", nos explicó Hannah Perry, directora de Demos Digital, el área de política digital del laboratorio de ideas.
El riesgo de una nueva herramienta de injerencia
Para los investigadores, existe un riesgo real de que los actores que llevan a cabo operaciones de injerencia extranjera híbrida perfeccionen estas tácticas y exploten una zona gris regulatoria.
"Nuestra investigación no dice que las empresas de GEO estén llevando a cabo guerra de información en nombre de Estados", señaló Miller. "Lo que decimos es que están desarrollando destrezas y capacidades a gran velocidad, con enormes incentivos comerciales, que podrían desviarse muy fácilmente hacia un uso hostil".
"En este caso concreto, la IA cree erróneamente que la Foundation to Battle Injustice es una ONG legítima de derechos humanos", añadió. "Y eso se debe a toda esta clase de manipulación y configuración técnica, a cientos de pequeños detalles técnicos con los que los rusos han rodeado básicamente estos documentos, que les permiten hacerse visibles cuando no deberían. Eso es guerra de información".
The Cube contactó con las empresas de tecnología de LLM citadas en la investigación, pero en el momento de la publicación no había recibido respuesta de xAI ni de Google, que desarrollan respectivamente Grok 4.20 y Gemini 2.5 Flash.
Un portavoz de Mistral, fundada por el francés Arthur Mensch y ampliamente reconocida como la principal empresa europea de IA generativa, nos dijo que se toma muy en serio la lucha contra la desinformación y que garantiza una inversión continua en capacidades avanzadas de detección y prevención.
Las empresas de IA defienden sus sistemas de control
Mistral también quiso distinguir entre los modelos en bruto analizados en el estudio de Demos y Vibe Work. La compañía explicó que, mientras que los modelos en bruto permiten a los usuarios libertad sobre las instrucciones y la configuración, Vibe Work funciona con un agente listo para usar que incorpora capacidades de razonamiento y de análisis de contexto.
OpenAI nos indicó que el estudio utilizó un modelo que ya se ha retirado y que solo estaba disponible a través de su API, utilizada por desarrolladores, y no mediante el ChatGPT accesible al público general. Añadió que cuenta con equipos específicos dedicados a desbaratar operaciones de influencia de baja credibilidad o presuntamente encubiertas.
Una fuente conocedora de Anthropic, la empresa estadounidense que creó el chatbot Claude AI, afirmó que existen sofisticados sistemas de control para mitigar la difusión de desinformación.
Según esta fuente, un equipo de inteligencia sobre amenazas trabaja para detectar y desbaratar operaciones de influencia extranjera y reducir así la propagación de desinformación, y su LLM está programado para presentar una amplia gama de perspectivas, especialmente cuando una fuente puede ofrecer un punto de vista o una agenda determinados.