En una carta abierta, los expertos piden a los líderes mundiales y a los gigantes tecnológicos que den prioridad al multilingüismo en el desarrollo de la inteligencia artificial.
PUBLICIDAD
Expertos francófonos han alertado del predominio del inglés en el desarrollo de la inteligencia artificial (IA) y han advertido de los riesgos potenciales para la "diversidad cultural global" y la "soberanía nacional". En una carta abierta publicada el viernes por el Future of Life Institute, los expertos señalan la falta de diversidad lingüística y cultural en los modelos de IA y en las evaluaciones de seguridad.
Argumentan que estas deficiencias "suponen una amenaza para la soberanía nacional de los Estados en los que se distribuyen y para la seguridad de los usuarios". Los expertos piden a los líderes mundiales y a los gigantes tecnológicos que den prioridad al multilingüismo en el desarrollo de la IA, y que no lo consideren una ocurrencia tardía, sino un aspecto fundamental para crear una IA segura, equitativa y verdaderamente global.
En enero, investigadores de la Universidad de Brown descubrieron que las salvaguardias diseñadas para evitar que la GPT-4 de OpenAI respondiera a peticiones peligrosas fallaban cuando recibía peticiones en idiomas como el zulú o el gaélico escocés. Esto permitió a los investigadores obtener respuestas generadas por la IA sobre cómo construir una bomba casera. Esta vulnerabilidad fue posible gracias a que la IA recibió las instrucciones en idiomas que en su mayoría están ausentes de sus datos de entrenamiento. Las traducciones se hicieron con Google Traductor.
La publicación de la carta se produce el mismo día que comienza la cumbre de la Francofonía y mientras Francia se prepara para acoger la Cumbre de Acción sobre IA en febrero. Francia no ha ocultado que quiere convertirse en un centro neurálgico de la IA, y el Gobierno ha invertido en la tecnología y en las superestrellas de la IA generativa MistralAI y H Company.
Las empresas de IA siguen apostando por el inglés
Sin embargo, las principales empresas tecnológicas publican y desarrollan sus modelos de IA en inglés. A pesar de que los modelos de IA están disponibles en muchos otros idiomas, muchas lenguas locales no se incluyen y los conjuntos de datos suelen entrenarse en inglés. Los académicos afirman que el enfoque centrado en la lengua inglesa de la IA puede dar lugar a interpretaciones erróneas y a una toma de decisiones equivocada en diversos contextos lingüísticos.
Entre los firmantes de la carta figuran Mohamed Farahat, Vicepresidente del Grupo Asesor Multisectorial (MAG) del Foro Africano para la Gobernanza de Internet (AFIGF) y representantes de la Escuela Politécnica Federal de Lausana y el Ministerio de Educación de Túnez.
"La carta reclama normas internacionales que garanticen que un sistema es seguro y beneficioso para todos los usuarios, y aborda la necesidad crítica de evaluaciones multilingües y multiculturales", declaró a 'Euronews Next' Imane Bello, responsable de la cumbre sobre seguridad de la IA en el Future of Life Institute.
Sin embargo, también es importante para los países anglófonos. "Si no se tienen en cuenta los aspectos relacionados con la seguridad multilingüe de la IA, el trabajo actual y en curso en torno a la ciencia de las evaluaciones podría perderse una parte muy importante", dijo. "En segundo lugar, no tener en cuenta este aspecto tan importante puede perjudicar a las comunidades vulnerables", añadió.