Un estudio del Consejo de Supervisión de Meta concluye que los chatbots de IA critican más a líderes democráticos que autoritarios, lo que alimenta temores de censura estatal transfronteriza impulsada por esta tecnología.
Los chatbots de IA pueden amplificar las restricciones gubernamentales a la libertad de expresión en internet, según un estudio. Si se le pide a Claude que elabore un panfleto crítico con el presidente estadounidense Donald Trump o con el rey Carlos III del Reino Unido, el chatbot de Anthropic acepta la tarea.
PUBLICIDAD
PUBLICIDAD
Si se le plantea lo mismo respecto al rey de Tailandia o al líder supremo de Irán, el modelo de IA se niega. Esa es una de las principales conclusiones de un estudio del Consejo de Supervisión de Meta publicado el jueves, que muestra que los grandes sistemas de IA, incluidos los desarrollados en Estados Unidos, son más propensos a rechazar críticas a dirigentes o gobiernos restrictivos.
El estudio alimenta la preocupación de que los grandes modelos de lenguaje que impulsan chatbots y agentes de IA puedan estar amplificando la influencia de los gobiernos sobre la expresión en línea, a medida que la tecnología se adopta cada vez más en todo el mundo.
"Hay un riesgo real de que, si los desarrolladores de modelos no llevan a cabo la debida diligencia en materia de derechos humanos ni aplican medidas de mitigación, acaben construyendo infraestructuras de IA que, de forma intencionada o no, tengan el efecto de extender a escala global restricciones ilegítimas a la libertad de expresión", señala el informe de este organismo cuasi independiente.
Las conclusiones llegan en un momento en que los países intentan establecer límites a la IA sin menoscabar su capacidad de competir en un campo que evoluciona rápidamente, incluida una iniciativa de supervisión de la administración Trump relacionada con los riesgos para la seguridad nacional de los sistemas de IA más avanzados.
Los modelos de IA extienden la influencia estatal más allá de las fronteras
El consejo de supervisión, que viene analizando la influencia de los Estados sobre las empresas tecnológicas y su impacto en la libertad de expresión, formuló siete preguntas relacionadas con la crítica política para plantearlas a los chatbots sobre gobiernos tanto restrictivos como permisivos.
El estudio puso a prueba 10 grandes modelos de lenguaje comerciales de grandes tecnológicas, entre ellas Meta, Anthropic y OpenAI, pidiéndoles que elaboraran panfletos críticos, escribieran limericks, dieran razones para sumarse a protestas y otras tareas.
En conjunto, los modelos que respondían a peticiones de un usuario radicado en Australia eran mucho más proclives a generar críticas políticas a las autoridades de lugares como Chile, Japón, Taiwán, el Reino Unido y Estados Unidos que a hacerlo sobre países donde la crítica a las autoridades está legalmente restringida y penalizada, como Camboya, China, Arabia Saudí, Tailandia y Turquía.
El estudio indica que los modelos de IA reflejan las restricciones a la expresión más allá de los países donde se aplican, y probablemente no ayuden, por ejemplo, a un potencial manifestante en Brisbane a crear material de protesta sobre lo que ocurre en China o Arabia Saudí.
"Estos efectos, sea cual sea su origen, tienen en la práctica el efecto de extender el largo brazo de los gobiernos restrictivos más allá de las fronteras para limitar la expresión en países libres", afirma el informe.
El consejo señaló que no podía determinar las causas, pero sugirió que los modelos pueden haber absorbido sesgos latentes presentes en los datos de entrenamiento o que las empresas pueden haber ponderado los riesgos y responsabilidades en determinados mercados.
Los investigadores alertan de un problema creciente en las respuestas de la IA en idiomas distintos del inglés
El informe del consejo se publicó después de otro estudio elaborado por académicos de universidades estadounidenses, que concluye que los modelos de IA creados en Estados Unidos son vulnerables a controles extranjeros cuando se entrenan con datos en otros idiomas distintos del inglés que han sido influidos por gobiernos.
Mientras el consejo de supervisión formuló sus preguntas en inglés, los investigadores universitarios interrogaron a los chatbots en diferentes lenguas. Cuando se le preguntó en inglés si China es una democracia, ChatGPT respondió que generalmente no se la considera como tal. Planteada la pregunta en chino, el modelo contestó: "Depende de cómo se defina 'democracia'".
Los investigadores, cuyo estudio se publicó en la revista académica 'Nature' en mayo, dijeron no haber encontrado pruebas de que los gobiernos hayan intentado influir de forma deliberada en las respuestas de los chatbots de IA, pero advirtieron: "Hay motivos más que suficientes para pensar que tratarán de hacerlo en el futuro, si no lo están haciendo ya".
"A menudo se habla de la IA como si aprendiera de internet de forma neutra. No es así", afirmó Hannah Waight, coautora y profesora asistente de sociología en la Universidad de Oregón. "Aprende en entornos de información que ya han sido moldeados por instituciones y relaciones de poder".
No hay una solución sencilla para cómo se alimenta de datos a los modelos de IA
Carlos Carrasco-Farré, especialista en aprendizaje automático, IA, desinformación e interacciones entre humanos y máquinas en Esade Business School, en Barcelona, señaló que los sistemas de IA heredan "no solo los sesgos contenidos en documentos individuales, sino también las desigualdades en quién tiene el poder de producir y suprimir información a gran escala".
No existe una solución fácil, aunque los desarrolladores podrían evaluar los datos de entrenamiento para evitar que miles de copias de una misma narrativa estatal se traten como voces independientes y realizar auditorías multilingües, añadió Carrasco-Farré, que no participó en ninguno de los dos estudios.