Cerca de 200 vídeos falsos sobre las acciones del ICE, generados por IA, han tenido millones de visitas en las redes sociales. Los expertos afirman que este fenómeno puede socavar la confianza de la opinión pública.
A finales de febrero, la cadena pública alemana 'ZDF' destituyó a un corresponsal en Estados Unidos tras la aparición de un vídeo generado por inteligencia artificial (IA) en un reportaje sobre los agentes del Servicio de Inmigración y Control de Aduanas (ICE).
PUBLICIDAD
PUBLICIDAD
La cadena se disculpó por utilizar el vídeo, que mostraba a unos niños aferrados a su madre mientras ésta era detenida por agentes del ICE. El vídeo tenía una marca de agua de Sora, clara indicación de que había sido creado por la herramienta de vídeo de OpenAI.
The Cube, el equipo de comprobación de hechos de 'Euronews', descubrió que el vídeo es uno de los miles de clips generados por IA de agentes del ICE que están inundando las redes sociales, muchos de ellos sin un etiquetado claro y acumulando millones de visitas.
200 vídeos en una sola cuenta de Instagram
Los datos compartidos con The Cube por la empresa de detección de IA TruthScan muestran más de 200 vídeos cortos que muestran a agentes del ICE persiguiendo a profesores, discutiendo con camareros en bares y realizando detenciones en el metro.
TruthScan afirma haber extraído más de 200 vídeos de una sola cuenta de Instagram. Los vídeos son cortos, dramáticos y con una gran carga emocional. The Cube descubrió que la cuenta sigue publicando numerosos vídeos del ICE generados por IA, algunos de los cuales obtienen miles, y otros millones, de visualizaciones.
Hay varios indicios de que los vídeos no son reales: en un ejemplo, parece salir vapor a través de una superficie sólida durante un enfrentamiento entre un agente del ICE y un trabajador de una cafetería, un sutil indicio de que el vídeo ha sido generado por IA.
Según TruthScan, cada vídeo duraba exactamente 10 o 15 segundos, lo que sugiere claramente que se generaron utilizando el modelo de vídeo Sora 2 de OpenAI, que ofrece a los usuarios opciones de vídeo de 10 o 15 segundos. A diferencia de muchos vídeos generados por IA que contienen una marca de agua, la mayoría de estos clips de ICE no la tienen.
Del mismo modo, en noviembre del año pasado, '404 Media' informó de que los vídeos generados por IA de agentes del ICE procedentes de una cuenta de Facebook se hicieron virales, y uno de ellos generó 4 millones de visitas. Desde entonces, los vídeos han sido retirados.
Un riesgo mayor para la confianza pública
Los expertos afirman que el riesgo va más allá de los vídeos individuales etiquetados incorrectamente y se extiende a la proliferación de contenidos falsos sobre cuestiones políticas delicadas, lo que puede socavar la confianza pública.
"Hay un riesgo significativo para las respuestas colectivas a las acciones de las fuerzas del orden, tanto negativas como positivas", Ari Abelson, cofundador de OpenOrigins, una empresa de autenticidad de medios que detecta deepfakes.
"Es una preocupación para las fuerzas del orden que quieren mantener su confianza, pero también es importante para las instituciones que les exigen responsabilidades cuando se extralimitan", dijo Abelson a The Cube.
Como en el caso de la emisión de 'ZDF', el contenido de ICE generado por IA no se limita a cuentas anónimas. A veces llega incluso a las más altas esferas de la función pública. En enero, la Casa Blanca publicó una imagen alterada digitalmente de la activista y abogada Nekima Levy Armstrong tras su detención en una protesta relacionada con el ICE en Minnesota. Un análisis muestra que la imagen alterada muestra a Armstrong con la piel más oscura y visiblemente sollozante en comparación con la imagen original.
Ausencia de salvaguardas que indiquen claramente que el contenido es falso
La Casa Blanca respondió a las preguntas sobre la manipulación de la imagen con un mensaje del director adjunto de Comunicaciones, Kaelan Dorr, que decía: "Una vez más a las personas que sienten la necesidad de defender reflexivamente a los autores de crímenes atroces en nuestro país, les comparto este mensaje: La aplicación de la ley continuará. Los memes continuarán".
Armston dijo que estaba "disgustada" con la Casa Blanca por publicar la imagen. Según Abelson, la preocupación surge por la ausencia de salvaguardas que indiquen claramente que el contenido es falso.
"Las caricaturas políticas siempre se han utilizado en política, y éstas se están utilizando de forma muy similar", dijo. "La diferencia clave es lo hiperrealistas que se están volviendo los vídeos".
"Los espacios sociales y de información requieren una cosa: la capacidad de demostrar que una foto y un vídeo son reales, para que podamos disfrutar de los falsos como ficciones, y sentir la gravedad de los acontecimientos de la vida real", añadió.