Un personaje de IA creado para educación ha sido convertido en un meme político que se difunde por Europa y está vinculado en gran medida a narrativas de extrema derecha y engañosas.
Casi idénticos personajes generados por IA han surgido en diversas zonas de X y Facebook por toda Europa, transmitiendo mensajes antiinmigración y anti-gubernamentales.
Se han compartido versiones de este mismo personaje en línea, tales como «Emma» en neerlandés, «Maria» en alemán y «Amelia» en Irlanda.
Cada personaje presenta símbolos nacionales y referencias políticas propias. En Alemania, Maria lleva un dirndl tradicional de Baviera y expresa su aprecio por una «cerveza fría en el pub del pueblo». Afirma que su gobierno ya no la protege y convoca a «valientes caballeros» para defender su tierra de los inmigrantes musulmanes.
En Países Bajos, la creación IA de Emma sostiene que la Navidad debe celebrarse «de la manera tradicional».
En Irlanda, una versión pelirroja del personaje califica al taoiseach Micheál Martin como «portavoz de Bruselas». Según ella, Bruselas obliga a Irlanda a mantener «fronteras abiertas», pese a que Irlanda no forma parte del área Schengen.
Estos videos, individualmente, han recabado miles de visualizaciones e interacciones, especialmente en X.
Estos imitadores se remontan a la versión más conocida, que apareció inicialmente en el Reino Unido. Allí, Amelia, una estudiante generada por IA con cabello púrpura, se volvió viral, alcanzando en su primera publicación más de 1.4 millones de vistas.
Las variantes del personaje han proliferado en Facebook, Instagram, X y Telegram: Amelia aparece en cómics manga y junto a Harry Potter y la Familia Real en imágenes digitales, instando a los residentes del Reino Unido a «recuperar su país» frente a la inmigración musulmana sin control y un gobierno incompetente.
Los orígenes poco probables de Amelia
La organización responsable de crear el personaje en el que se basan estos memes virales indica que gran parte de las narrativas en línea sobre Amelia son engañosas.
Una versión inicial de Amelia apareció en Pathways, un juego educativo desarrollado por la empresa social británica Shout Out UK en colaboración con autoridades locales de Hull y East Riding of Yorkshire. El proyecto recibió financiación del Ministerio del Interior del Reino Unido como parte de un programa de prevención contra el extremismo.
El juego invita a los estudiantes a elegir un personaje que se sitúa en diversos escenarios en línea, donde deben tomar decisiones sobre cómo responder a publicaciones, mensajes y diferentes tipos de presión social.
Matteo Bergamini, CEO de Shout Out UK, explicó al equipo de verificación de hechos de Euronews, The Cube, que el juego se diseñó durante 2023, cuando las autoridades locales detectaron que la radicalización ocurría principalmente en línea, especialmente entre adolescentes de 13 a 18 años.
«La amenaza provenía principalmente del incipiente ecosistema de extrema derecha en línea», declaró Bergamini, añadiendo que el juego estaba dirigido y limitado a esas áreas específicas del Reino Unido.
El juego no está concebido para utilizarse de forma aislada, sino que forma parte de un paquete pedagógico más amplio para que los docentes puedan facilitar debates detallados sobre comportamientos seguros e inseguros en línea, explicó.
Amelia en el juego no es protagonista ni modelo a seguir, sino un personaje secundario que incita al principal a adoptar conductas riesgosas en Internet.
Además, contrario a afirmaciones en línea, el juego no sugiere que un profesor derive a un alumno al programa Prevent del gobierno del Reino Unido para interrogarlo sobre migración masiva.
Al parecer, el meme de Amelia surgió en círculos de extrema derecha como una reacción ante lo que consideraban una caricatura crítica hacia sus posturas antiinmigración y contra el «estado paternalista».
The Cube intentó contactar a algunos creadores del meme, pero no recibieron respuesta antes de la publicación.
Versiones extremas y monetización
La mayoría de los memes de Amelia, especialmente en plataformas populares como X, son relativamente inofensivos y no requieren ser retirados bajo las normativas de la Ley de Servicios Digitales (DSA).
Dicha ley obliga a las plataformas a eliminar contenidos ilegales como discursos de odio, terrorismo, explotación sexual infantil y ciertos tipos de publicidad dañina.
No obstante, investigadores que han seguido el rápido auge de Amelia señalan que hay versiones extremas del personaje circulando en comunidades en línea de nicho y en aplicaciones como Telegram.
Siddharth Venkataramakrishnan, analista del think tank con sede en Londres Institute for Strategic Dialogue (ISD), comentó que el meme ha sido adoptado por un rango amplio de comunidades digitales, desde quienes lo usan irónicamente hasta algunas de las cuentas antiinmigrantes más influyentes.
Aunque no todas las versiones incluyen discursos de odio, algunas emplean imágenes deshumanizadoras y violentas dirigidas hacia comunidades específicas.
Shout Out UK afirma que su personaje ha sido «memificado y sexualizado» en línea por actores de derecha, muchos de los cuales lo relacionan con lenguaje racista y antisemita, símbolos nazis y tropos de extrema derecha.
Según la organización, esta campaña traspasó los espacios en internet y derivó en amenazas y mensajes maliciosos dirigidos a sus empleados.
Amelia también se ha convertido en un medio para obtener beneficios económicos. El ISD ha detectado cuentas que promocionan criptomonedas con temática de Amelia, una tendencia común en movimientos virales en redes sociales.
Al respecto, Venkataramakrishnan advierte que no está claro cuáles cuentas difunden memes de Amelia con fines políticos y cuáles lo hacen para buscar interacciones lucrativas.
«¿Dónde se traza la línea entre apoyar algo por ideología y hacerlo con motivaciones económicas?», planteó.
Asimismo, explicó que los memes cargados emocionalmente tienden a ganar más tracción en redes sociales una vez que comienzan a generar interacciones, un factor que habría impulsado la rápida difusión de los memes de Amelia.