Una oleada de vídeos generados con IA sobre protestas en toda Europa ha aparecido en TikTok. Según varios expertos, buscan "amplificar la polarización social".
Una serie de vídeos generados con inteligencia artificial que muestran a miles de personas manifestándose en varias ciudades europeas contra la inmigración, la situación del país, el Gobierno actual o en defensa de valores nacionalistas llevasemanas circulando en TikTok.
PUBLICIDAD
PUBLICIDAD
Los vídeos analizados se han publicado en los últimos cuatro meses y algunos han superado las 300.000 visualizaciones.
El equipo de verificación de 'Euronews', The Cube, ha identificado este tipo de contenidos dirigidos a usuarios de Portugal, Francia, Alemania, Irlanda, Italia y Reino Unido, y muchos parecen creer que las imágenes son reales. Sin embargo, ninguna de las protestas que aparecen en estos vídeos es real, aunque se utilizan diversas tácticas para intentar convencer a los usuarios de lo contrario.
Para empezar, muchos de los vídeos se hacen pasar por canales informativos legítimos. Por ejemplo, en uno de los vídeos parece aparecer una periodista portuguesa que trabajaría para el medio público 'RTP', como sugiere el logotipo en su micrófono, mientras que los rótulos insertados en la pieza recuerdan a los del canal privado 'SIC Notícias'.
Su ubicación tampoco encaja, en la vida real el río Tajo pasa justo por el lugar donde en el vídeo se ve el edificio desde el que supuestamente informa.
El equipo de The Cube también contactó con 'RTP', que aseguró que la periodista del vídeo generado con IA no trabaja para la cadena y que no tiene ninguna relación con la grabación difundida en TikTok.
Aunque los motivos de estas supuestas protestas son imprecisos, con lemas que denuncian "la situación del país", algunos mensajes presentes en los vídeos enlazan con formaciones de extrema derecha. Es el caso de varias piezas en alemán detectadas por el equipo de The Cube, que incluyen mensajes de apoyo al partido Alternativa para Alemania (AfD).
En otros casos aparecen comentarios de usuarios de TikTok que mencionan a estos partidos y les piden que den un paso al frente para resolver cuestiones como la migración. Entre las figuras citadas se encuentran André Ventura, del partido portugués de extrema derecha Chega, el partido francés Agrupación Nacional y la alemana Alice Weidel, de la AfD.
La mayoría de los vídeos concluyen invitando al público a interactuar, ya sea compartiendo su opinión sobre las protestas o indicando desde qué ciudad las están viendo. Expertos sostienen que el objetivo principal de producir masivamente este tipo de contenidos es manipular la percepción pública y agravar la polarización social en Europa, lo que supone un riesgo serio para el debate democrático.
"El público interactúa con estos vídeos sobre todo porque las imágenes sintéticas conectan directamente con ansiedades políticas y agravios culturales ya existentes", explicó a The Cube Bruna Martins dos Santos, de WITNESS, una organización global que analiza el impacto de las tecnologías emergentes, en especial la inteligencia artificial generativa y los 'deepfakes'.
Tácticas de desinformación conocidas
Todos estos vídeos recurren a tres técnicas habituales de desinformación, el lenguaje emocional, el uso de contenidos generados con IA y la apelación a la polarización. La mayoría de estas tácticas funcionan como señuelo para generar participación, según Martins dos Santos.
"Temas como la inmigración, el nacionalismo o la idea de decadencia social provocan respuestas emocionales muy fuertes", señaló. "Este efecto es especialmente intenso en las plataformas de vídeo corto, donde el impacto visual y la carga emocional se imponen al contexto y llevan a los espectadores a procesar primero el espectáculo, el tamaño de la multitud, las banderas y los cánticos, mucho antes de que cuestionen su autenticidad".
Además, los algoritmos de recomendación de las redes sociales amplifican esta dinámica al dirigir contenidos visuales provocadores a los usuarios más propensos a identificarse con ellos. El uso de la IA para producir este material abarata y facilita escalar la producción, lo que incrementa de forma eficaz las visualizaciones, el número de seguidores y los indicadores de interacción, añadió Martins dos Santos.
¿Por qué sigue disponible este tipo de contenido?
Los propios responsables de TikTok han etiquetado estos vídeos como generados con IA. La plataforma afirma que prohíbe el contenido generado con IA que sea "engañoso en cuestiones de interés público" o que vulnere sus directrices sobre desinformación.
De hecho, va más allá y advierte, "el contenido sin etiquetar puede ser eliminado, restringido o etiquetado por nuestro equipo, según el daño que pueda causar". Sin embargo, algunos vídeos parecen esquivar estos filtros.
"El hecho de que estos vídeos sigan en línea puede implicar una vulneración de las propias normas de TikTok, pero también pone de relieve fallos en la capacidad de sus herramientas de detección", advirtió Martins dos Santos.
Además, en virtud de la Ley de Servicios Digitales europea, la plataforma está obligada a adoptar medidas eficaces contra los contenidos que puedan afectar de forma negativa "al discurso cívico y a los procesos electorales".
"Aunque la permanencia de estos vídeos no supone automáticamente una infracción de las normas, plantea preguntas importantes sobre la eficacia de los mecanismos de detección, los criterios de etiquetado y los algoritmos de recomendación de TikTok", señaló Santos.
TikTok no respondió de inmediato a la petición de comentarios.
Protestas reales sacuden Europa en las últimas semanas
Aunque los vídeos generados con IA muestran protestas inventadas que nunca tuvieron lugar, en las últimas semanas se han registrado numerosas manifestaciones en toda Europa por distintos motivos.
A las que más atención se ha prestado quizá sea a las protestas en España por la crisis de Ceuta, donde se calcula que unas 80.000 personas lograron cruzar la frontera entre Marruecos y el enclave español en el norte de África. La mayoría de los migrantes ha regresado desde entonces, pero las estimaciones apuntan a que hasta 13.000 podrían seguir en Ceuta, lo que ha desencadenado protestas por la gestión de la crisis por parte del Gobierno.
En Alemania, por su parte, se han celebrado manifestaciones contra la AfD después de que el partido lograra una victoria aplastante en unas elecciones regionales a comienzos de septiembre.
En Suiza, miles de personas salieron recientemente a la calle para denunciar la inacción del Gobierno ante el calentamiento global.