Un personaje de IA diseñado para prevenir el extremismo se convierte en un símbolo de la extrema derecha en Europa. La figura de Amelia circula por internet con mensajes contra la inmigración y el Gobierno, transformando un proyecto educativo en una herramienta viral.
Personajes casi idénticos generados por inteligencia artificial han aparecido en las los rincones de X y Facebook de toda Europa, promoviendo mensajes contra la inmigración y el Gobierno.
PUBLICIDAD
PUBLICIDAD
Se han compartido en línea versiones del mismo personaje, como la Emma holandesa, la Maria alemana y la Amelia irlandesa. Cada personaje tiene sus propios símbolos nacionales y referencias políticas. En Alemania, Maria viste un dirndl tradicional bávaro y expresa su amor por una "cerveza fría en el pub de nuestro pueblo".
Afirma que su Gobierno ya no la protege y pide a "valientes caballeros" que defiendan su patria de los inmigrantes musulmanes. En los Países Bajos, una creación de Emma insiste en que la Navidad debe celebrarse "a la manera tradicional".
En Irlanda, una versión pelirroja del personaje llama al taoiseach del país, Micheál Martin, "portavoz de Bruselas". Bruselas, insiste, obliga a Irlanda a tener "fronteras abiertas", a pesar de que Irlanda no forma parte del espacio Schengen.
Por separado, estos vídeos han atraído miles de visitas e interacciones, sobre todo en X. Estos imitadores se remontan a la versión más conocida, que surgió primero en el Reino Unido. Aquí, Amelia, una colegiala generada por inteligencia artificial con el pelo morado, se ha convertido en viral, y su primer post viral acumula más de 1,4 millones de visitas.
Las versiones del personaje se han multiplicado en Facebook, Instagram, X y Telegram: Amelia aparece en cómics manga y junto a Harry Potter y la Familia Real en imágenes generadas digitalmente, animando a los residentes del Reino Unido a "recuperar su país" en medio de una inmigración musulmana descontrolada y un Gobierno incompetente.
Los insólitos orígenes de Amelia
La organización que creó el personaje en el que se basan los memes virales afirma que gran parte de la narrativa en línea que rodea a Amelia es engañosa. Una versión inicial de Amelia apareció en Pathways, un juego educativo desarrollado por la empresa social británica Shout Out UK en colaboración con las autoridades locales de Hull y East Riding of Yorkshire.
El proyecto fue financiado por el Ministerio del Interior británico en el marco de un programa de prevención del extremismo.
El juego pide a los alumnos que elijan un personaje y lo sitúen en varios escenarios en línea, donde se les pide que tomen decisiones sobre cómo responder a mensajes y a diversas formas de presión de grupo.
Matteo Bergamini, director general de Shout Out UK, explicó al equipo de comprobación de hechos de Euronews, The Cube, que el juego se desarrolló en el trasfondo de 2023, cuando las autoridades locales de Hull y Yorkshire constataron que la radicalización era más arriesgada en la red, especialmente para los menores de entre 13 y 18 años.
"La amenaza procedía principalmente del emergente ecosistema online de extrema derecha", explicó Bergamini, añadiendo que el juego en sí estaba dirigido y limitado a estas zonas del Reino Unido.
El juego no estaba pensado para ser jugado de forma aislada y formaba parte de un paquete de aprendizaje más amplio diseñado para permitir a los profesores facilitar debates matizados sobre comportamientos inseguros frente a seguros, añadió.
En el juego, Amelia no es una protagonista ni un modelo a seguir, sino un personaje secundario que anima al personaje principal a adoptar comportamientos de riesgo en la red.
Además, el juego no sugiere, contrariamente a lo que se afirma en internet, que un profesor remita a un niño a Prevent, un programa del Gobierno británico, por cuestionar la migración masiva.
Al parecer, el meme Amelia surgió en los círculos de extrema derecha como reacción a lo que consideraban una caricatura que criticaba sus opiniones contra la inmigración y el 'Papá Estado'.
The Cube se puso en contacto con algunos creadores del meme, que no respondieron a tiempo para su publicación.
Versiones extremas y monetización
La mayoría de los memes de Amelia, sobre todo en plataformas convencionales como X, son relativamente inofensivos. No sería necesario retirarlos en virtud de las normas de la Ley de Servicios Digitales (DSA).
La DSA obliga a las plataformas a retirar contenidos ilegales como la incitación al odio, el terrorismo y el material de explotación sexual infantil, así como determinados tipos de publicidad perjudicial.
Pero los investigadores que han seguido de cerca el rápido auge de Amelia afirman que existen versiones extremas del personaje en comunidades online especializadas y en aplicaciones como Telegram.
Siddharth Venkataramakrishnan, analista del Instituto para el Diálogo Estratégico (ISD), con sede en Londres, afirma que el meme ha sido adoptado por un amplio espectro de comunidades en línea, desde quienes lo utilizan con ironía hasta algunas de las mayores cuentas antimigrantes.
Aunque no todas las versiones del personaje contienen un discurso de odio, hay versiones que utilizan imágenes deshumanizadoras y violentas dirigidas a comunidades específicas.
Shout Out UK afirma que su personaje ha sido "usado como meme y sexualizado" en internet por personajes de derechas, y que muchos lo relacionan con lenguaje racista y antisemita, y con clichés nazis y de extrema derecha.
Según la organización, la campaña ha trascendido los espacios de internet y ha dado lugar al envío de amenazas y mensajes malintencionados a miembros de su personal.
Amelia también se ha convertido en un vehículo de monetización. La DSI ha identificado cuentas que promocionan memes-moneda con temática de Amelia, una tendencia habitual en los movimientos virales de las redes sociales.
En este sentido, Venkataramakrishnan afirma que no está claro qué cuentas publican memes de Amelia por sus mensajes políticos y cuáles lo hacen para obtener beneficios. "¿Dónde está el límite entre apoyar algo por ideología y apoyarlo porque se quiere ganar dinero?
Venkataramakrishnan explicó que los memes con carga emocional también tienen más probabilidades de ganar adeptos en las redes sociales una vez que la participación empieza a aumentar, un efecto que habría empujado a los memes de Amelia a propagarse rápidamente.