Hace una semana, el presidente del Gobierno, Pedro Sánchez, dio a conocer que el ejecutivo impedirá el acceso a menores de 16 años a las redes sociales, normativa que forma parte de un conjunto de cinco medidas legislativas y regulatorias dirigidas a «combatir los abusos de las grandes plataformas digitales y asegurar un entorno digital seguro, democrático y respetuoso con los derechos fundamentales».
Además, Sánchez propone terminar con la expansión de los discursos de odio, desarrollando un sistema de seguimiento, medición y trazabilidad capaz de establecer una ‘Huella de Odio y Polarización’ para visibilizar la permisividad de las plataformas digitales que sustentan este tipo de contenidos cuya influencia está generando una mayor fractura social.
«El 50% de los usuarios de redes sociales padecen ataques de odio»
«Vamos a implementar un sistema que monitoree, cuantifique y revele cómo las plataformas digitales fomentan la división y potencian el odio», detalló Sánchez, «propagar odio debe implicar una consecuencia, una consecuencia legal, por supuesto, además de una económica y una ética que las plataformas ya no podrán ignorar».
Para esta labor, el Ministerio de Inclusión, Seguridad Social y Migraciones cuenta con un equipo compuesto por ocho personas responsables de vigilar las cinco principales redes sociales señaladas por el Gobierno: Facebook, Instagram, TikTok, YouTube y X. Este grupo utiliza el Sistema FARO (Filtrado y Análisis de Odio en las Redes Sociales), una herramienta personalizada que reproduce el sistema MOOD empleado por LaLiga en su lucha contra los enlaces piratas que transmiten fútbol.
Dicha tecnología inspecciona las plataformas para identificar comentarios violentos, racistas o xenófobos; al hacerlo, asigna una puntuación entre 0 y 10 que mide el grado de toxicidad del contenido y, gracias a la tecnología de Séntisis, una IA con más de 50.000 reglas lingüísticas para capturar contexto, emociones y sarcasmo, evita confundir expresiones sin mala intención con odio verdadero.
Actualmente, el sistema funciona sobre texto, pero se proyecta automatizar la detección de odio en imágenes, videos y audios, adaptándose conforme avancen las capacidades tecnológicas.