António Guterres, secretario general de Naciones Unidas, asegura que el comité supone un paso fundamental hacia una comprensión científica global de esta nueva tecnología.
La ONU ha nombrado esta semana un panel científico mundial de 40 expertos que estudiará los riesgos de la inteligencia artificial (IA), pese a la fuerte oposición de Estados Unidos. La decisión llega en un momento en que varios exempleados de empresas de IA han dado la voz de alarma sobre esta tecnología.
PUBLICIDAD
PUBLICIDAD
La Asamblea General de la ONU ha aprobado la creación del panel por 117 votos a 2, con Estados Unidos y Paraguay en contra y las abstenciones de Túnez y Ucrania. Rusia, China y los aliados europeos han votado a favor.
Los expertos del Panel Científico Internacional Independiente sobre la Inteligencia Artificial (IA) publicarán un informe anual que sintetizará y analizará los riesgos, las oportunidades y los impactos de la IA dentro de lo que la ONU denomina el "primer organismo científico mundial de este tipo". La creación del panel supone "un paso fundamental hacia una comprensión científica global de la IA", afirma António Guterres, secretario general de la ONU.
"En un mundo en el que la IA avanza a toda velocidad", dice Guterres, "este panel aportará lo que faltaba, un análisis científico riguroso e independiente que permitirá a todos los Estados miembros, con independencia de su capacidad tecnológica, participar en igualdad de condiciones". La votación en la ONU coincide con protestas y dimisiones de empleados en empresas de inteligencia artificial por la preocupación que suscitan sus prácticas.
Mrinank Sharma, antiguo investigador de seguridad de Anthropic, advirtió en una carta abierta de que "el mundo está en peligro" por el desarrollo de la IA y otras crisis. Por su parte, Zoe Hitzig, exresponsable de investigación de OpenAI, declaró al 'New York Times' que tiene "serias reservas" sobre la estrategia que está siguiendo su antigua empresa.
Algunas de las figuras más destacadas del mundo de la IA, como Dario Amodei, consejero delegado de Anthropic, Sam Altman, de OpenAI, y Steve Wozniak, cofundador de Apple, también han alertado sobre los riesgos de esta tecnología.
"Una extralimitación significativa del mandato de la ONU", según Estados Unidos
Los 40 miembros del panel han sido seleccionados entre más de 2.600 candidatos tras una evaluación independiente de varios órganos de la ONU y de la Unión Internacional de Telecomunicaciones, según Guterres. Estos desempeñarán su cargo durante un mandato de tres años.
Europa cuenta con 11 plazas en el panel: Joelle Barral, de Francia; Melahat Bilge Demirkoz, de Turquía; Anna Korhonen, de Finlandia; Aleksandra Korolova, de Letonia; Andrei Neznamov, de Rusia; Maximilian Nickel y Bernhard Scholkopf, de Alemania; Roman Orus, de España; Johanna Pirker, de Austria; Piotr Sankowski, de Polonia, y Silvio Savarese, de Italia.
La representante de Estados Unidos, Lauren Lovelace, ha calificado el panel como "una extralimitación significativa del mandato y las competencias de la ONU" y afirmó que "la gobernanza de la IA no es una cuestión que deba dictaminar Naciones Unidas".
En su lugar, Lovelace ha reclamado a la ONU que se centre en sus "misiones esenciales", como la paz y la seguridad internacionales, los derechos humanos y la ayuda humanitaria, en vez de "tratar de regular o sofocar el desarrollo de tecnologías transversales [...] que determinarán la competencia económica y estratégica en el siglo XXI".
El presidente de Estados Unidos, Donald Trump, ha defendido una regulación mínima de la IA, con el objetivo de recortar la burocracia federal y evitar un "mosaico" de leyes estatales que pueda frenar la innovación. A pesar de la oposición de Estados Unidos, el país cuenta con dos representantes en el panel: Vipin Kumar, profesor de la Universidad de Minnesota, y Martha Palmer, profesora jubilada de la Universidad de Colorado y experta en lingüística.