Volker Türk ha pedido salvaguardias globales urgentes, controles independientes y límites consensuados sobre la inteligencia artificial avanzada.
El alto comisionado de la ONU para los derechos humanos ha advertido de que la inteligencia artificial avanzada podría suponer un "riesgo existencial para la humanidad", y ha reclamado medidas inmediatas para hacer esta tecnología más segura.
PUBLICIDAD
PUBLICIDAD
Al dirigirse el lunes al Consejo de Derechos Humanos de la ONU, Volker Türk afirmó que la población se enfrenta a amenazas "desconocidas, incluso sin precedentes" para sus derechos.
"La necesidad de una gobernanza de la IA está ampliamente reconocida, pero ¿dónde está la acción?", se preguntó, advirtiendo de que "la demora solo beneficia a las grandes empresas tecnológicas, a sus propietarios y a quienes las respaldan".
Türk señaló que "un pequeño grupo de hombres tiene un poder casi ilimitado sobre la IA, de la que se nos repite que posee una capacidad de cálculo inimaginable".
"Hablan de libertad, pero si se mira de cerca, eso resulta ser poco más que la libertad de explotar nuestros datos", subrayó.
El responsable de derechos humanos de la ONU se refirió en particular a los sistemas de IA que escapan de sus entornos de prueba o que chantajean a los desarrolladores para evitar ser apagados.
Según la agencia AFP, Türk advirtió en concreto de que "una IA que escapa de su entorno de prueba o chantajea a los desarrolladores para impedir que la apaguen es una IA demasiado poderosa".
Sus comentarios parecían aludir en parte a las revelaciones de julio según las cuales agentes de OpenAI habían escapado de entornos supuestamente controlados y accedido a servidores de Hugging Face, una plataforma muy utilizada en la que los desarrolladores comparten programas de IA.
Posteriormente, OpenAI informó de que esos agentes habían ejecutado código en decenas de servidores de Hugging Face y obtenido acceso completo a uno de ellos.
El incidente reavivó las demandas de una supervisión más estricta de los sistemas avanzados de IA.
Anthropic, Meta y otras empresas tecnológicas han comunicado incidentes similares con agentes durante las pruebas.
"Comparto las preocupaciones de quienes trabajan dentro del sector de que la IA avanzada pueda suponer un riesgo existencial para la humanidad", dijo Türk.
"Pido aquí y ahora un esfuerzo total para establecer garantías férreas en torno a la seguridad y la protección de la IA, antes de que sea demasiado tarde".
Llamamientos a salvaguardias internacionales para la IA
El responsable de derechos humanos de la ONU señaló que en los próximos días escribirá a las empresas de IA para instarlas a adoptar de inmediato medidas que reduzcan los riesgos bajo su control.
Como mínimo, añadió, "necesitamos que los países donde se aloja la IA y quienes participan en sus cadenas de suministro se pongan de acuerdo en unas líneas rojas compartidas".
"Necesitamos una verificación independiente y una colaboración mucho más sólida en materia de seguridad dentro del propio sector", añadió Türk.
"También debemos tener en cuenta el impacto de la IA sobre los derechos humanos en las prácticas laborales, en los principios fundamentales de la democracia y en nuestro entorno", señaló.
En la Unión Europea, la Ley de IA establece un marco jurídico para esta tecnología.
La normativa exige que los sistemas de alto riesgo cumplan requisitos estrictos antes de poder acceder al mercado comunitario, mientras que se prohíben los usos considerados una amenaza inaceptable para la seguridad o los derechos de las personas.
La ley veta las aplicaciones de IA diseñadas para manipular o explotar a las personas, calificarlas según su comportamiento, prever si una persona cometerá un delito o recopilar imágenes de forma indiscriminada para crear bases de datos de reconocimiento facial.
Asimismo prohíbe el reconocimiento de emociones en el trabajo y en los centros educativos, ciertas formas de perfilado biométrico y la mayor parte del reconocimiento facial policial en tiempo real en espacios públicos, mientras que la prohibición de las imágenes sexuales generadas por IA sin consentimiento y del material de abuso sexual infantil entrará en vigor en diciembre de 2026.