Indudablemente, una de las aplicaciones más frecuentes en estos primeros años del desarrollo de la Inteligencia Artificial es la creación y modificación de imágenes. Inicialmente, solo era posible generar imágenes como un perro cocinando o un unicornio en el espacio, pero el avance acelerado de esta tecnología ha hecho que hoy resulte sumamente difícil distinguir entre contenido real y generado por IA.
Los niveles de detalle y verosimilitud que alcanzan los sistemas de IA son tan elevados que identificar su autoría no es tarea sencilla. Aunque esto puede resultar útil para bromas o trabajos que requieren edición, en casi todos los ámbitos se ha detectado un uso indebido.
Específicamente, la capacidad de modificar imágenes o crearlas desde cero se está empleando para fabricar «deepfakes» de personas (en ocasiones figuras públicas) realizando acciones que jamás han hecho, así como también para cometer fraudes relacionados con «productos dañados». Esto lo han denunciado desde Logicalis Spain, proveedor global en servicios de TI y soluciones digitales, quienes han identificado esta tendencia en crecimiento en sectores como la restauración rápida, moda, electrónica y mobiliario.
Estas tecnologías permiten a cualquier usuario generar en segundos imágenes hiperrealistas de productos «defectuosos» que no existen, buscando obtener reembolsos o compensaciones. Se han reportado casos de comida rápida deteriorada, productos que llegan rotos o prendas con desperfectos, entre otros ejemplos.
En este contexto, Logicalis advierte que las políticas de devolución cada vez más flexibles, sumadas a la accesibilidad de la manipulación de imágenes, están creando nuevas modalidades de fraude masivo, generando un impacto económico y reputacional creciente para las marcas.
Por ello, los especialistas remarcan la urgencia de implementar sistemas inteligentes de verificación de imágenes, análisis automatizado de patrones sospechosos, modelos de riesgo basados en datos y estrategias de trazabilidad digital que permitan diferenciar el contenido genuino de aquel generado sintéticamente.
«El desafío no radica en transformar cada reclamación o alerta en una investigación forense, sino en integrar tecnología, procesos y cultura digital para actuar con mayor inteligencia y anticipación ante riesgos emergentes, protegiendo tanto la seguridad como la confianza del consumidor», concluye Ramón Rico Gómez, Cybersecurity Operations Manager.