Los críticos temen que sus conclusiones sobre riesgos que van desde ciberataques hasta armas biológicas puedan suavizarse para favorecer al sector tecnológico.
El organismo del Gobierno estadounidense que evalúa la seguridad de la inteligencia artificial avanzada no tiene un responsable permanente y ha dejado de publicar sus investigaciones, según la agencia Associated Press.
PUBLICIDAD
PUBLICIDAD
Dos antiguos altos cargos del Gobierno explicaron a la agencia que el personal del Centro para el Avance de la Innovación y las Normas para la Superinteligencia (Center for Advancing Innovation and Standards for Super Intelligence - CAISSI), que depende del Departamento de Comercio, ha recibido recientemente instrucciones para informar de manera informal a una oficina de la Casa Blanca.
Los críticos señalan que el cambio podría politizar el trabajo del centro. Advierten de que sus conclusiones podrían suavizarse para acomodarse a las empresas de IA, que en gran medida han quedado encargadas de vigilarse a sí mismas.
Caroline Siegel Singh, de la organización Federación de Científicos Estadounidenses (Federation of American Scientists), explicó que el objetivo era que "expertos tecnócratas no partidistas o bipartidistas" dieran forma a las políticas en interés del público.
Otros sostienen que unos vínculos más estrechos con el presidente, Donald Trump, podrían aumentar la visibilidad del centro y aportarle más financiación. CAISSI recibe 10 millones de dólares (8,94 millones de euros) al año, aproximadamente una octava parte del presupuesto de su homólogo en el Reino Unido.
En cambio, la Oficina de IA de la Unión Europea (EU’s AI Office), integrada en la Comisión Europea y que desde agosto tiene potestad para imponer multas a los desarrolladores de los modelos de IA más avanzados, cuenta con más de 125 empleados y, según se ha informado, está incorporando a otras 40 personas.
Sin líder, sin informes, sin supervisión
A CAISSI le ha costado mantener una dirección estable. Collin Burns, antiguo investigador de Anthropic, fue apartado del cargo de director tras solo cuatro días en abril, supuestamente por sus vínculos con la empresa.
Su sucesor, Chris Fall, dimitió tres meses después.
Arvind Raman, que dirige el organismo matriz del centro, el Instituto Nacional de Estándares y Tecnología (National Institute of Standards and Technology), ejerce ahora como director en funciones. En agosto, el Congreso preguntó por qué el centro había dejado de publicar sus informes sobre seguridad.
En septiembre, Trump instó a las empresas de IA a comprometerse con una "autorregulación enorme" en virtud de un pacto voluntario, pero su Administración no ha explicado cómo comprobará que cumplen.
La Casa Blanca no respondió a las preguntas sobre CAISSI. En su lugar señaló a la nueva Fuerza de Superinteligencia de Trump (Super Intelligence Force), que está dirigida por el director nacional de Inteligencia, Jay Clayton.
Amos Toh, del Brennan Center for Justice, advirtió a AP de que tratar la seguridad de la IA como una cuestión de seguridad nacional entrañaba el riesgo de dejar en segundo plano la protección de los consumidores, la privacidad y los derechos civiles.
"Todas estas decisiones tienen enormes consecuencias públicas y deberían explicarse y justificarse ante la opinión pública", señaló Toh. "Y eso no está ocurriendo."