La Autoridad de Protección de Datos de los Países Bajos ha emitido una advertencia contundente para que los usuarios no utilicen chatbots para decidir su voto, en vísperas de las elecciones generales anticipadas del país. Pero, ¿cuáles son los riesgos y qué opciones tienen los votantes potenciales?
Desde asistir en tareas administrativas rutinarias hasta buscar consejos sobre relaciones personales, cada vez más usuarios recurren a chatbots de IA para recibir recomendaciones en la vida cotidiana. Sin embargo, ¿es fiable usar la IA para orientación electoral y confiarla a la democracia?
La Autoridad de Protección de Datos de los Países Bajos (AP) respondió negativamente, señalando que herramientas de IA como ChatGPT y Gemini pueden presentar fallos y sesgos, especialmente ante las elecciones anticipadas programadas para el 29 de octubre.
Recientemente, la AP llevó a cabo un análisis en el que proporcionó a cuatro chatbots — ChatGPT, Gemini, Grok y Le Chat — 200 perfiles de votantes típicos para cada partido político actualmente en el parlamento neerlandés, solicitando que dieran consejos de voto basados en esos perfiles.
La autoridad descubrió que los chatbots tendían consistentemente a recomendar solo uno de dos partidos ubicados en los extremos izquierdo y derecho del espectro político, sin importar las preguntas o instrucciones de los usuarios.
En el 56% de las ocasiones, los chatbots orientaron a los usuarios hacia dos partidos que se proyectan como los ganadores con más escaños en las elecciones neerlandesas: el Partido por la Libertad (PVV) de Geert Wilders o el Partido Verde Izquierda-Trabajo (GL/PvdA) de Frans Timmermans.
«Lo que observamos fue una simplificación excesiva del panorama político neerlandés, donde un partido de la izquierda absorbía la mayoría de votos de esa parte del espectro, y lo mismo ocurría con un partido en la derecha,» explicó Joost van der Burgt, encargado del proyecto en la AP.
La institución indicó que sus hallazgos mostraron una escasa representación de posiciones políticas del centro, mientras que partidos pequeños y periféricos, como el Movimiento Campesino-Ciudadano (BBB) y la Unión Cristiano Demócrata (CDA), casi no fueron sugeridos, incluso cuando los datos de usuario coincidían claramente con sus planteamientos.
Un tercer partido, el derechista JA21, fue recomendado en un número inusitadamente alto de ocasiones, pese a ser un partido joven con menor cobertura mediática.
«El funcionamiento de la inteligencia artificial generativa y los grandes modelos de lenguaje consiste en máquinas estadísticas que predicen palabras faltantes en una frase o resultado determinado,» comentó van der Burgt al equipo de verificación The Cube de Euronews.
«Si las opiniones políticas de una persona están orientadas hacia un extremo del espectro, no es extraño que la IA generativa elija un partido alineado con ese lado, presentándolo como una opción segura,» añadió. «Además, la IA puede fallar al distinguir entre partidos con posiciones similares en la mayoría de los asuntos, pero no en todos.»
En agosto de 2024 entró en vigor la Ley Europea de Inteligencia Artificial (AI Act), que define las condiciones que catalogan un sistema de IA como «de alto riesgo».
Según esta normativa, los sistemas de IA considerados de alto riesgo representan una amenaza para la salud o los derechos fundamentales de los ciudadanos de la UE, pero son permitidos por sus beneficios socioeconómicos que superan esos riesgos.
Investigadores indican que el hecho de que los chatbots den consejos para votar podría calificarlos como «sistemas de alto riesgo» bajo las nuevas regulaciones que comenzarán a aplicarse en agosto de 2026 en la UE.
Para van der Burgt, la posibilidad de que los chatbots influyan en los votantes con información sesgada se agrava debido a la ausencia de normativas.
«Actualmente, cuando se trata de consultas sobre salud mental o ayuda para crear armas improvisadas,» dijo, «los chatbots claramente responden que no pueden asistir en estos temas. Creemos que debería aplicarse un mecanismo similar para los consejos de voto.»
¿En quién se puede confiar para recibir asesoramiento?
La AP comparó los resultados con dos herramientas neerlandesas consolidadas y basadas en datos no generativos: StemWijzer y Kieskompas.
Estos sistemas requieren que los usuarios respondan una serie de 30 preguntas para identificar con qué partido político coinciden más.
En Alemania, el Wahl-O-Mat — aprobado por el gobierno y popular, originalmente basado en StemWijzer — coteja las posturas de los votantes en diversas afirmaciones políticas con las de los partidos para sugerir al final la opción más adecuada.
Expertos señalan que estas herramientas ofrecen resultados menos proclives al sesgo que los basados en IA generativa.
Otra ventaja es la transparencia de estas plataformas, en contraste con los chatbots convencionales.
«Un problema fundamental de estos chatbots es que su funcionamiento es opaco,» afirmó van der Burgt. «Ni nosotros, ni el público, ni los periodistas podemos entender exactamente por qué generan una respuesta determinada.»
Por otro lado, las herramientas de votación son «transparentes en cómo operan, cómo se diseñaron y cómo obtienen sus conclusiones».
¿Existe entonces la posibilidad de que los chatbots ofrezcan consejos de voto fiables y específicos acordes con las perspectivas de los usuarios? Algunos estudiosos sugieren que sí, siempre y cuando estos chatbots estén bajo control adecuado.
Previo a las elecciones federales alemanas de febrero de 2025, Michel Schimpf y un equipo de investigadores lanzaron el bot Wahl.Chat como alternativa al Wahl-O-Mat. Este incorpora diversas fuentes, incluidos los manifiestos partidarios, permitiendo a los usuarios preguntar, por ejemplo, «¿Cuál es la postura de este partido sobre el cambio climático?».
«Cuando preguntas algo a ChatGPT, sus fuentes pueden ser sitios web sesgados, pero nos aseguramos de que nuestro bot se base en los manifiestos de los partidos, y si no encuentra una respuesta, informa al usuario que esa cuestión no fue respondida,» explicó Schimpf en una entrevista. «Indicamos a nuestros chatbots que informen que un partido expresó tal punto, pero no que eso sea un hecho absoluto.»
El equipo de Wahl.Chat también incorporó un componente para verificar hechos, que permite a los usuarios corroborar afirmaciones de los manifiestos mediante búsquedas en internet.
«No existe la información completamente imparcial, porque los medios y las redes sociales también tienen sesgo,» comentó Schimpf. «Considero que nuestro chatbot es menos sesgado por la forma en que presenta la información, diseñado con la intención de reducir sesgos — pero sigue siendo IA, que en última instancia es probabilística.»
«Y si se intenta con suficiente empeño, se puede inducir a la IA hacia una dirección sesgada,» añadió.
Otros investigadores emplean la IA de manera más restringida al crear sus chatbots.
Naomi Kamoen, profesora asistente en la Universidad de Tilburg, trabaja en el desarrollo de un chatbot controlado que explica declaraciones y términos complejos sobre las elecciones neerlandesas a los usuarios, proporcionando respuestas limitadas elaboradas por investigadores expertos en lugar de generarlas con IA.
«Diría que la gente podría aprovechar más sus herramientas de orientación si tuvieran también una que ayude a obtener información más detallada sobre los temas,» comentó a The Cube. «El objetivo de ambos es informar, no decirles cómo votar.»
«Las herramientas para votar son un punto de partida, ver las noticias, conversar con otros, leer lo que los partidos dicen,» añadió. «No está mal que la gente se incentive a informarse mejor sobre política.»
¿Se puede seguir usando ChatGPT?
A pesar de los posibles inconvenientes, muchos reconocen que los modelos de chatbot basados en IA generativa podrían ser útiles si se emplean adecuadamente para ayudar en decisiones políticas.
«Si alguien no sabe por quién votar y solo pregunta a ChatGPT cuál es el mejor partido antes de votar, usar IA sería un error grave,» opinó Jianlong Zhu, investigador doctoral en el Departamento de Informática de la Universidad de Saarland. «Nunca deberíamos delegar decisiones tan importantes a otros, y menos aún a una máquina.»
«Sin embargo, si ese consejo se usa en un contexto educativo, para ayudar a los votantes a conocer mejor el panorama político y despertar su interés en la política, la IA podría ser una herramienta viable,» añadió. «Aunque no confío demasiado en ChatGPT u otras interfaces actuales.»
Una ventaja del uso de IA, frente a herramientas como Wahl-O-Mat, es su capacidad para desglosar conceptos complejos en tiempo real para los usuarios.
«Si se utiliza Wahl-O-Mat y, por ejemplo, de 38 preguntas, 10 contienen conceptos poco claros o que no se habían considerado, lo que se hace es seleccionar posiciones aleatoriamente,» señaló Zhu.
«Pero con un chatbot se puede preguntar qué significan esos términos, y el chatbot es eficaz para aclararlos y ayudar a que el usuario se involucre mejor con el tema,» añadió. «Observamos que los participantes sin formación universitaria disfrutaron más del chatbot y se sintieron mejor informados tras usarlo.»
No obstante, dada la existencia de riesgos, «los usuarios deberían hacer preguntas sobre los partidos en lugar de recibir recomendaciones,» puntualizó Zhu, añadiendo que se podrían implementar regulaciones en el futuro para garantizar un uso responsable de los chatbots durante las campañas electorales.