Casi 200 clips generados por IA mostrando agentes de ICE han acumulado millones de visualizaciones en redes sociales, según datos compartidos con The Cube.
La emisora pública alemana ZDF retiró a su corresponsal en EE. UU. a finales de febrero tras la aparición de un clip generado por inteligencia artificial en un informe sobre agentes de US Immigration and Customs Enforcement (ICE).
ADVERTISEMENT 
ADVERTISEMENT
La cadena pidió disculpas por utilizar el clip, que mostraba a niños aferrados a su madre durante su detención por agentes de ICE. El video contenía una marca de agua de Sora, indicativo claro de que fue creado con la herramienta de video de OpenAI.
El equipo de verificación de hechos de Euronews, The Cube, descubrió que el video es uno entre miles de clips generados por IA sobre agentes de ICE que inundan las redes sociales, muchos sin etiquetado explícito y que en conjunto suman millones de reproducciones.
Patrón recurrente
Datos proporcionados a The Cube por la empresa de detección de IA TruthScan revelan más de 200 clips breves con imágenes de agentes de ICE perseguidos por profesores, peleando en bares y siendo arrestados por la policía de Nueva York (NYPD) en el metro.
TruthScan indicó que extrajo más de 200 videos de una única cuenta de Instagram. Estos clips son cortos, cargados de dramatismo y emociones intensas.
The Cube constató que la cuenta sigue publicando masivamente clips de ICE generados por IA, algunos con miles y otros con millones de vistas.
Existen varios indicios que señalan la falsedad de estos videos: en un caso, se observa vapor ascendiendo a través de una superficie sólida durante un enfrentamiento entre un agente de ICE y un trabajador de un café — una señal sutil de la naturaleza sintética del clip.
De acuerdo a TruthScan, cada video dura exactamente 10 o 15 segundos, lo que sugiere que fueron generados con el modelo de video Sora 2 de OpenAI, que proporciona estas duraciones como opciones a sus usuarios.
A diferencia de muchos otros videos generados por IA que llevan marca de agua, la mayoría de estos clips de ICE carecen de ella.
Asimismo, en noviembre del año pasado, 404 Media reportó que clips generados por IA de agentes de ICE provenientes de una cuenta en Facebook se hicieron virales, alcanzando uno de ellos 4 millones de vistas; dichos videos fueron eliminados posteriormente.
Impacto más amplio en la confianza pública
Especialistas alertan que el riesgo no solo está en la incorrecta etiquetación de clips aislados, sino también en la expansión generalizada de contenidos falsos sobre temas políticos sensibles, lo cual puede erosionar la confianza pública.
«Existe un riesgo significativo para las respuestas colectivas ante las acciones de las fuerzas del orden, tanto negativas como positivas,» afirmó Ari Abelson, cofundador de OpenOrigins, empresa especializada en autenticidad mediática y detección de deepfakes.
«Esto preocupa a las agencias policiales que buscan preservar su credibilidad, pero también a las instituciones que las supervisan cuando exceden sus límites,» explicó Abelson a The Cube.
Como ocurrió con la emisión de ZDF, el contenido generado por IA sobre ICE no se limita a cuentas anónimas y, en ocasiones, llega a niveles elevados del ámbito público.
En enero, la Casa Blanca publicó una imagen digitalmente alterada de la activista y abogada Nekima Levy Armstrong tras su arresto en una protesta relacionada con ICE en Minnesota.
El análisis reveló que la imagen modificada muestra a Armstrong con tono de piel más oscuro y lágrimas visibles, en contraste con la foto original.
La respuesta de la Casa Blanca a las preguntas sobre la manipulación visual fue un mensaje del director adjunto de comunicaciones Kaelan Dorr, que decía: «UNA VEZ MÁS, a quienes sienten la necesidad de defender reflexivamente a los perpetradores de crímenes atroces en nuestro país, les comparto este mensaje: la aplicación de la ley continuará. Los memes también.»
Armstrong expresó estar «indignada» por la publicación de la imagen por parte de la Casa Blanca.
Abelson apunta que la preocupación aumenta si no existen mecanismos claros que adviertan que el material es falso o manipulado.
«Las caricaturas políticas siempre se han usado en política, y estas se utilizan de manera muy similar,» comentó. «La diferencia principal radica en lo hiperrealistas que se están volviendo estos videos.»
«Los espacios sociales e informativos necesitan una condición fundamental: poder verificar que una foto o video sea auténtico, para así aceptar los falsos como ficción y comprender la gravedad de los eventos reales,» añadió.