Macron se enteró de un supuesto golpe de Estado contra él a través de un vídeo falso generado con IA y viral en Facebook. El caso expone el impacto político de los 'deepfakes' y las dificultades para regularlos en redes sociales.
El presidente de Francia, Emmanuel Macron, descubrió la noticia de su propio supuesto derrocamiento, después de recibir un mensaje de preocupación, junto con un enlace a un vídeo de Facebook.
"El domingo 14 de diciembre uno de mis homólogos africanos se puso en contacto, escribiendo: "Querido presidente, ¿qué le está pasando? Estoy muy preocupado", declaró Macron a los lectores del diario local francés 'La Provence' el 16 de diciembre.
Junto al mensaje, un convincente vídeo en el que se ve un helicóptero girando, militaresy multitudes congregadas, mientras una mujer, que parece una presentadora de noticias, se dirige a la cámara.
"Informes extraoficiales sugieren que se ha producido un golpe de Estado en Francia, liderado por un coronel cuya identidad no ha sido revelada, junto con la posible caída de Emmanuel Macron. Sin embargo, las autoridades no han emitido una declaración clara", dice.
Excepto que nada en este vídeo es auténtico: en realidad, fue creado con IA. Tras descubrir el vídeo, Macron pidió a Pharos, el portal oficial francés de señalización de contenidos ilícitos en línea, que llamara a Meta, la empresa matriz de Facebook, para que retirara el vídeo falso. Pero esa petición fue rechazada, ya que la plataforma alegó que no violaba sus "normas de uso". El presidente francés decidió entonces encargarse él mismo de su retirada.
"Tiendo a pensar que tengo más poder para presionar que otras personas", dijo Macron. "O mejor dicho, que es más fácil decir que algo es grave si soy yo quien llama, pero no funciona". "Esta gente se burla de nosotros", añadió. "No les importa la serenidad de los debates públicos, no les importa la democracia, y por eso nos están poniendo en peligro".
Entonces, ¿quién está detrás de estos vídeos falsos?
El vídeo original, que rápidamente acumuló más de 12 millones de visitas, fue publicado originalmente por una cuenta de Facebook llamada Islam, que, a pesar de su nombre, no publica contenido religioso.
El adolescente que dirige la cuenta vive en Burkina Faso y se gana la vida impartiendo cursos sobre cómo rentabilizar la inteligencia artificial. Al final retiró el vídeo más de una semana después de su publicación inicial, debido a la controversia política y pública.
El equipo de 'Euronews' de The Cube ha intentado ponerse en contacto con él a través del número que aparece en su cuenta de Facebook en varias ocasiones, pero hasta ahora nuestras llamadas han quedado sin respuesta.
En algunos vídeos, se puede ver a presentadores de noticias generados por IA sosteniendo un micrófono con el logotipo de 'Radio France Internationale' (RFI), la rama internacional de la radio pública francesa.
Algunos vídeos llevan la marca de agua Sora, lo que sugiere que muchos de estos contenidos se produjeron probablemente con esta tecnología. Sora 2, una tecnología creada por OpenAI, la misma empresa que fundó ChatGPT, permite a los usuarios generar vídeos hiperrealistas de 10 segundos de duración a partir de mensajes de texto.
Aunque en otros vídeos no aparece este logotipo, es posible eliminarlo durante la posproducción. Desde su lanzamiento en octubre, la tecnología ha provocado polémica, dando lugar a una proliferación de vídeos de IA muy sofisticados y difíciles de discernir en las redes sociales.