Técnicamente, las herramientas de IA existentes y en desarrollo podrían emplearse para crear un arma biológica capaz de provocar una pandemia, según expertos.
A comienzos de este año, algunos de los principales expertos mundiales en tecnología y lucha antiterrorista se reunieron para analizar un escenario hipotético, una pandemia mundial provocada por una nueva cepa de enterovirus creada intencionadamente por un grupo extremista mediante inteligencia artificial (IA).
El escenario puede sonar a novela de ciencia ficción, pero es perfectamente plausible en los próximos años, según el grupo de 14 expertos que se reunió para abordar las salvaguardias de la IA para las ciencias de la vida.
Los expertos consideraron que la pandemia ficticia, que preveía 850 millones de casos y 60 millones de muertes en todo el mundo, era "profundamente preocupante y merecedora de medidas a corto plazo para prevenirla", según un informe sobre las discusiones del grupo.
La IA ya está revolucionando el ámbito médico y promete acelerar el desarrollo de nuevos fármacos y vacunas. Pero los expertos también han advertido de que un arma biológica impulsada por IA podría causar estragos en la humanidad.
El grupo de expertos, convocado en febrero por la Iniciativa contra la Amenaza Nuclear y la Conferencia de Seguridad de Múnich, advirtió de que la rápida evolución de la IA está "erosionando las barreras para que actores maliciosos desarrollen armas biológicas".
Estas amenazas no son cosa de un futuro lejano, concluyó el grupo. Sería técnicamente posible utilizar herramientas biológicas impulsadas por IA, ya existentes y emergentes, para crear nuevos patógenos con riesgos de alcance pandémico, señalaron los expertos.
Además, las medidas de seguridad actuales están muy poco preparadas para afrontar estas amenazas, indicó el grupo.
Los expertos pidieron una mayor cooperación entre los líderes mundiales para evaluar y responder a las amenazas biológicas impulsadas por la IA.
También señalaron que los esfuerzos para gestionar los riesgos de la IA deben equilibrarse con los posibles beneficios de estas tecnologías para "evitar imponer restricciones indebidas" a la innovación científica.