La Inteligencia Artificial ha emergido como el nuevo vigilante silencioso en las puertas del empleo, determinando quién es seleccionado, evaluado o ascendido. No obstante, un informe innovador alerta sobre riesgos significativos de sesgos ocultos que reproducen la desigualdad y ponen en riesgo la equidad en el trabajo.
El Instituto de Ciencia de los Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra ha desarrollado un Libro Blanco que establece las bases para crear un estándar ético de certificación en sistemas de IA aplicados a Recursos Humanos (RR.HH.). Este documento, parte del proyecto piloto IA+Igual, responde directamente a las directrices de la Unión Europea sobre el uso responsable de IA en ámbitos con altos riesgos.
La trampa del algoritmo: cuatro desafíos urgentes
El estudio, fundamentado en casos prácticos en siete compañías que emplean algoritmos para la gestión del personal, identifica cuatro retos esenciales que requieren atención inmediata para garantizar que la tecnología sea una herramienta de avance y no de exclusión.
- Persistencia de ‘sesgos invisibles’: El desafío más crítico consiste en que eliminar variables sensibles como género o discapacidad del proceso de selección no asegura decisiones imparciales. Según el investigador José Luis Poveda Marina, los algoritmos hallan formas de reproducir desigualdades estructurales mediante variables relacionadas, afectando de forma especial a grupos vulnerables y comprometiendo la igualdad en el acceso laboral.
- Carencia de auditoría en RR.HH.: El informe destaca la ausencia de estándares de auditoría que permitan una evaluación rigurosa de la equidad, legalidad y transparencia de estos sistemas. Sin un marco claro de revisión, resulta imposible certificar que los algoritmos cumplen con la normativa vigente.
- Vacíos legales frente a la IA generativa: La aparición de modelos como la IA generativa intensifica el problema al introducir nuevos vacíos legales. La capacidad de estos sistemas para alterar su conducta plantea serias incertidumbres sobre la trazabilidad de sus decisiones y, especialmente, la asignación de responsabilidades en casos de errores discriminatorios.
- Invisible para colectivos vulnerables: Las restricciones legales actuales sobre el tratamiento de datos sensibles, diseñadas para proteger la privacidad, generan un efecto paradójico: complican el análisis de desigualdades estructurales. Esta limitación dificulta corregir sesgos históricos y perpetúa situaciones de exclusión en el ámbito laboral.
La visión estratégica: de la técnica a la ética
El propósito central de DATAI es promover la aplicación de la IA en la gestión del talento humano bajo una estricta supervisión ética, legal y organizativa. «Es imprescindible desarrollar una inteligencia artificial que no solo sea técnicamente avanzada, sino también entendible, justa y socialmente responsable», declara Poveda Marina.
Marisa Cruzado, coordinadora del proyecto, destaca que este desafío es multidisciplinar y crucial para el futuro del trabajo: «Para lograr una inteligencia artificial que potencie las capacidades y refuerce nuestros valores europeos de equidad, se debe actuar ahora con perspectiva ética y estratégica.»
Financiado con recursos Next Generation (UE), el proyecto IA+Igual es una iniciativa pionera en Europa que persigue convertir la tecnología en un instrumento para un desarrollo equitativo y sostenible en el entorno empresarial.