El Reino Unido desempeña un papel relevante en la seguridad de la IA gracias a su Instituto de Seguridad en IA y su comunidad investigadora, aunque el sector está dominado por Estados Unidos y China.
El rey Carlos III del Reino Unido se ha reunido con destacados responsables del sector de la inteligencia artificial, a quienes ha instado a mantener estas tecnologías bajo control humano y a garantizar que estén al servicio de las personas, de las comunidades y del medioambiente.
PUBLICIDAD
PUBLICIDAD
Representantes de OpenAI, Anthropic, Google DeepMind y Nvidia fueron recibidos por el monarca en Dumfries House, en Escocia, para debatir cómo la IA puede beneficiar a la sociedad al tiempo que se limitan sus riesgos.
A la reunión, en la que participaron también altos directivos del sector, entre ellos el consejero delegado del gigante de la IA Nvidia, Jensen Huang, asistió igualmente el recién nombrado ministro de Inteligencia Artificial del Reino Unido, Kanishka Narayan.
En sus palabras de apertura, el rey se refirió a la rapidez con la que ha avanzado la IA: "El desarrollo de la IA, tanto por su naturaleza como por su ritmo, resulta a la vez fascinante y profundamente inquietante".
Añadió que los "peligros existenciales de que estas tecnologías caigan en manos equivocadas y se utilicen de formas potencialmente catastróficas" deben analizarse con urgencia.
En su intervención, el rey Carlos III no mencionó países ni empresas, pero afirmó que deseaba que quienes estaban en la sala encontraran fórmulas para utilizar la IA con fines beneficiosos, "con la seguridad en el centro", y reflexionaran sobre cómo "construir la cooperación y el consenso internacionales" necesarios para lograrlo.
Preocupación por el futuro de la IA
La reunión en Escocia tiene lugar tras varios incidentes de alto perfil relacionados con la seguridad de esta tecnología.
La semana pasada, el investigador de Anthropic Jacob Coxon acaparó titulares al dimitir y publicar una seria advertencia sobre los riesgos potenciales de la tecnología. El consejero delegado de Anthropic, Dario Amodei, respondió con un artículo en el que señalaba que el sector podría tener que ralentizar el ritmo de su trabajo.
El miércoles, OpenAI, empresa responsable de ChatGPT, informó de seis incidentes de comportamiento "inesperado o preocupante" en sus modelos. Entre ellos figuran la realización de tareas sin autorización, la coordinación con otros modelos y la evasión de la supervisión de los investigadores humanos.
Huang, de Nvidia, por su parte, ha criticado las peticiones de ralentizar el desarrollo. El consejero delegado de Nvidia defendió que sean las propias empresas las que desarrollen sus tecnologías de IA de forma segura y las prueben adecuadamente antes de lanzar cualquier producto al público.
"Cuando un producto no es suficientemente seguro, debemos retenerlo y seguir trabajando en él. Siempre lo hemos hecho y debemos seguir haciéndolo", afirmó en su intervención posterior a las palabras del rey.