La Autoridad Holandesa de Protección de Datos (AP) advierte que los chatbots de inteligencia artificial, como ChatGPT o Gemini, pueden ofrecer recomendaciones políticas sesgadas y poco transparentes. El organismo alerta de que estas herramientas podrían influir en el voto.
Usuarios de internet recurren cada vez más a los chatbots de inteligencia artificial para obtener consejos sobre la vida cotidiana, desde ayuda con tareas administrativas rutinarias hasta consejos sobre relaciones. Pero, ¿se debe utilizar la IA para dar consejos sobre el voto y se le puede confiar la democracia?
La Autoridad Holandesa de Protección de Datos (AP) ha dicho que no, advirtiendo de que herramientas de IA como ChatGPT y Gemini pueden ser poco fiables y propensas a la parcialidad, antes de las elecciones anticipadas del 29 de octubre.
La AP publicó recientemente un estudio en el que alimentó a cuatro chatbots -ChatGPT, Gemini, Grok y Le Chat- con 200 perfiles de voto típicos por partido político actualmente activo en el Parlamento neerlandés, y les pidió que dieran consejos de voto basados en estos perfiles.
El organismo de control holandés descubrió que los chatbots recomendaban sistemáticamente uno de los dos partidos de la izquierda y la derecha del espectro político, independientemente de las órdenes o preguntas del usuario.
En el 56% de los casos, los chatbots orientaron a los usuarios hacia los dos partidos que, según las previsiones, obtendrían más escaños en las elecciones neerlandesas: El Partido por la Libertad (PVV) de Geert Wilders o el Partido de los Verdes (GL/PvdA) de Frans Timmermans.
"Lo que vimos fue una especie de simplificación excesiva del panorama político holandés, en el que un partido de izquierdas se llevó todos los votos de esa parte del espectro político, y lo mismo ocurrió con el partido de derechas", dijo Joost van der Burgt, director de proyectos de AP.
Según la agencia, los resultados mostraron que las opiniones del centro político estaban infrarrepresentadas, mientras que los partidos marginales más pequeños, como el Movimiento Campesino-Ciudadano (BBB) y el Llamamiento Demócrata Cristiano (CDA), casi nunca se sugerían, incluso cuando los usuarios introducían información que coincidía directamente con las opiniones de los partidos.
Un tercer partido, el derechista JA21, fue recomendado un número sorprendentemente alto de veces, a pesar de ser un partido relativamente joven con una cobertura mediática comparativamente menor.
"La forma en que funcionan la IA generativa y los grandes modelos lingüísticos significa que son básicamente máquinas estadísticas que predicen las palabras que faltan en una frase o un determinado resultado", explicó Van der Burgt al equipo de verificación de 'Euronews', The Cube.
"Si tus opiniones políticas te posicionan hacia un extremo del espectro político, quizá no sea tan sorprendente que la IA generativa elija un partido político que se ajuste a ese lado y parezca una opción segura", dijo. "La IA también puede fallar a la hora de distinguir entre partidos que están bastante próximos o que pueden tener puntos de vista bastante comparables en la mayoría de los temas, pero no en todos".
En agosto de 2024 entró en vigor la Ley Europea de Inteligencia Artificial (AI Act), que define las condiciones que califican a un sistema de IA de "alto riesgo". Según la legislación, los sistemas de IA que encajan en esta categoría pueden suponer una amenaza para la salud o los derechos fundamentales de los ciudadanos de la UE. Sin embargo, siguen siendo legales porque sus beneficios socioeconómicos compensan sus riesgos.
Según los investigadores, el hecho de que los chatbots proporcionen asesoramiento electoral podría significar que se califican como "sistemas de alto riesgo" en virtud de un nuevo conjunto de normas que entrarán en vigor en agosto de 2026 en virtud de la Ley de IA de la UE.
Para Van der Burgt, la amenaza de que los chatbots puedan influir en los votantes basándose en información sesgada se ve agravada por la falta de regulación. "Ya ocurre cuando se trata de preguntas sobre salud mental o ayudas para crear armas improvisadas", dijo. "En todos estos escenarios, un chatbot dice claramente: lo siento, no estamos autorizados a ayudarte con eso. Y creemos que debería existir el mismo tipo de mecanismo cuando se trata de asesoramiento electoral".
¿En quién puede usted confiar para que le asesore?
AP comparó los resultados con los de dos herramientas neerlandesas de asesoramiento electoral en línea: StemWijzer y Kieskompas, que se basan en fuentes de datos y no en IA. Estas herramientas piden a los votantes que respondan a unas 30 preguntas para determinar con qué partido político están más de acuerdo.
En Alemania, la herramienta Wahl-O-Mat, aprobada por el Gobierno y ampliamente utilizada -basada originalmente en StemWijzer-, compara las posiciones de los votantes sobre una serie de afirmaciones políticas con las posiciones de los partidos políticos para, finalmente, alinear al usuario con el partido que mejor se ajuste a sus puntos de vista.
Los expertos sugieren que estas herramientas tienen menos probabilidades de ofrecer resultados imparciales que las que utilizan la IA generativa. Un atractivo adicional de estas herramientas es que sus métodos son transparentes, mientras que los chatbots convencionales no lo son.
"Un problema fundamental de estos chatbots es que su funcionamiento no es transparente", afirma Van der Burgt. "Ni nosotros, ni el público, ni los periodistas podemos averiguar por qué exactamente van a producir una determinada respuesta". Las herramientas de votación, añadió, son "transparentes en cuanto a cómo funcionan, cómo se han configurado y cómo llegan a sus respuestas".
Pero, ¿hay esperanzas de que los chatbots puedan ofrecer a los votantes consejos fiables y detallados sobre qué partido político se ajusta mejor a las perspectivas del usuario? Un grupo de investigadores sugiere que existe potencial, siempre que los chatbots estén controlados.
Antes de las elecciones federales alemanas de febrero de 2025, Michel Schimpf lanzó el bot Wahl.Chat con un equipo de investigadores, como alternativa a Wahl-O-Mat. El bot incorpora una serie de fuentes, entre ellas los manifiestos de los partidos, lo que permite a los votantes hacer preguntas como "¿cuál es la postura de este partido ante el cambio climático?".
"Si le haces una pregunta a ChatGPT, su fuente podría ser un sitio web tendencioso, pero nos aseguramos de que nuestro bot se base en los manifiestos de los partidos, de modo que si no puede encontrar una respuesta, le dirá al usuario que el partido no respondió a ese punto", dijo Schimpf en una entrevista. "Le pedimos a nuestros chatbots que dijeran que un partido dijo tal o cual cosa, pero no 'esto es un hecho'".
El equipo de Wahl.Chat también incorporó a su bot un elemento de comprobación de hechos, que permite a los usuarios verificar una declaración manifiesta buscando en internet.
"No existe la información imparcial, porque los medios de comunicación son parciales, como las redes sociales", afirma Schimpf. "Creo que nuestro chatbot era menos tendencioso por la forma en que presentaba la información, diseñándolo con la idea de reducir el sesgo; pero sigue siendo IA, que en última instancia es probabilística".
"Y si realmente lo intentas, obtendrás información que puede empujar a la IA en una dirección sesgada", añadió. Otros utilizan la IA de forma más limitada a la hora de desarrollar sus chatbots.
Naomi Kamoen, profesora adjunta de la Universidad de Tilburg, ha ayudado a desarrollar un chatbot controlado que puede explicar a sus usuarios afirmaciones y términos complejos sobre las elecciones neerlandesas. Sus respuestas, limitadas, están escritas por investigadores cualificados en lugar de ser generadas por IA.
"Yo diría que la gente puede sacar más partido de sus herramientas de asesoramiento electoral si también disponen de una herramienta que les ayude a obtener información más detallada sobre los temas", explica a The Cube. "El objetivo de ambas es informar, no necesariamente decirles qué votar".
"Las herramientas de voto son un punto de partida, ver las noticias, hablar con la gente, leer lo que dicen los partidos", añadió. "No es malo que se anime a la gente a esforzarse más por informarse sobre política".
¿Puedo seguir utilizando ChatGPT?
A pesar de los posibles problemas, muchos sostienen que los modelos de chatbot que se basan en la IA generativa tienen el potencial de ser una herramienta útil para tomar decisiones políticas, siempre y cuando se utilicen correctamente.
"Si no tengo ni idea de a quién voy a votar y sólo le pregunto a ChatGPT cuál es el mejor partido antes de votar, entonces usar la IA es un 'no' rotundo", afirma Jianlong Zhu, investigador doctoral del Departamento de Informática de la Universidad de Saarland. "Nunca deberíamos delegar decisiones de tan alto riesgo en otra persona, y mucho menos en una máquina".
"Sin embargo, si consideramos este asesoramiento en el contexto de la educación, si queremos ayudar a los votantes a aprender más sobre el panorama político para que se interesen más por la política, entonces creo que la IA podría ser una herramienta viable", añadió. "Aunque no tengo tanta confianza en ChatGPT u otras interfaces existentes tal y como están".
Una de las ventajas de la IA, comparada con herramientas como Wahl-O-Mat, es que puede desglosar eficazmente conceptos complejos para sus usuarios en tiempo real. "Si utilizas Wahl-O-Mat y, por ejemplo, de 38 preguntas hay 10 afirmaciones que contienen conceptos que no entiendes o en los que no has pensado, lo que acabas haciendo es pulsar posturas al azar", explica Zhu.
"Pero con un chatbot, puedes preguntar qué significan esos términos, y el chatbot es eficaz a la hora de desglosarlos para ayudarte a comprometerte mejor con el tema", continuó. "Descubrimos que nuestros participantes que no tenían estudios universitarios disfrutaban más utilizando el chatbot y se sentían más informados después de usarlo".
Aún así, teniendo en cuenta los riesgos, "los usuarios deberían preguntar sobre los partidos en lugar de recibir recomendaciones", dijo Zhu, añadiendo que podría haber marcos reguladores establecidos en el futuro para asegurarse de que los chatbots se utilizan de forma responsable durante las campañas electorales.