Los modelos de IA responden con precisión alrededor del 90 % de las preguntas sobre el clima en inglés, pero ceden rápidamente ante la presión, según un informe presentado en la COP31.
El deseo de agradar está integrado en los chatbots de inteligencia artificial, diseñados para mantener a los usuarios conversando el mayor tiempo posible.
Esto suele implicar predecir y modelar lo que los usuarios quieren oír, aunque suponga retorcer los hechos.
Aunque puede ser inocuo en ciertas tareas, e incluso útil para cosas como superar la falta de confianza en uno mismo, podría ser mucho más dañino si su influencia se filtra en ámbitos de alto riesgo, como la política climática de los gobiernos.
Los chatbots de IA pueden explicar bien la ciencia del clima, pero abandonan pronto los hechos cuando los usuarios les llevan la contraria, según un nuevo informe de la UNESCO y de University College London (UCL) presentado en la cumbre climática COP31 en Antalya, Türkiye.
Los investigadores han comprobado que los modelos de IA respondían correctamente alrededor del 90% de las preguntas neutras sobre el clima. Pero cuando los usuarios cuestionaban esas respuestas o afirmaban invenciones que sonaban plausibles, los modelos cedían rápidamente.
En ocho de cada diez casos cambiaron de rumbo ante el primer signo de desacuerdo leve, incluso llegando a confirmar afirmaciones falsas, como que CO2 no es el principal motor del cambio climático.
'Servil por diseño': un fallo de diseño que podría sesgar la política climática
El informe señala que el comportamiento servil se incorpora durante el entrenamiento. Los modelos son recompensados por respuestas educadas, no confrontacionales y que validan al usuario, porque los humanos las prefieren.
"La IA tiene un potencial extraordinario para hacer accesible a todos la compleja ciencia del clima", afirma Leona Verdadero, autora principal del informe en la UNESCO. Pero añade: "los modelos tienen un fallo de diseño, están incentivados para estar de acuerdo con su usuario".
La autora sénior, la doctora Maria Perez-Ortiz, de UCL, añade que la soltura de los modelos de IA con el conocimiento existente puede dar "una falsa sensación de sus capacidades".
Pese a tener una memoria de hechos impresionante, se ha comprobado que los modelos son una herramienta poco fiable para construir políticas climáticas sólidas.
Cuando se les proporcionaba una nueva prueba y se les preguntaba si respaldaba o contradecía la ciencia del clima aceptada, incluso los modelos más potentes solo alcanzaban una precisión media del 75%.
Su rendimiento era aún peor cuando se les pedía que evaluaran hasta qué punto las políticas funcionan juntas, una parte importante del diseño de estrategias climáticas eficaces. Los modelos lograron solo un 33,8% de acierto de media, apenas por encima del 33,3% que cabría esperar de una elección aleatoria.
Por ello, el informe advierte a los responsables políticos y a los investigadores de que no utilicen modelos de IA para elaborar política climática.
La precisión de la IA cae en algunos idiomas
El rendimiento también varió mucho según el idioma. Los modelos respondieron correctamente al 88,6% de las preguntas en inglés y obtuvieron resultados comparables en español, francés y portugués.
La precisión cayó al 83,6% en hindi y bengalí, al 81,4% en urdu y al 78,3% en suajili. Esto se debe a que los modelos multilingües no razonan primero y luego traducen, según el informe. Sus respuestas reflejan la cantidad y la calidad de los datos de entrenamiento en cada idioma.
Los autores señalan que los hablantes de los idiomas con peores resultados viven en regiones afectadas de forma desproporcionada por el cambio climático.
La desinformación climática es cada vez más sofisticada
El informe se encargó como parte de la contribución de la UNESCO a la Global Initiative for Information Integrity on Climate Change, puesta en marcha junto con la ONU y Brasil en noviembre de 2024.
UNESCO afirma que la desinformación climática está siendo cada vez más sofisticada. En lugar de negar que el cambio climático sea real, quienes buscan socavar la acción climática sugieren cada vez más que no está provocado por el ser humano, que la tecnología por sí sola lo resolverá, o que ya es demasiado tarde o demasiado caro actuar.
Los investigadores probaron hasta 33 modelos punteros en nueve conjuntos de datos, en 13 idiomas y con 656 preguntas sobre política climática, que contrastaron con En-ROADS, una herramienta de simulación basada en la ciencia.