La empresa afirma que en unos meses los modelos de IA podrán copiarse y propagarse a dispositivos del internet de las cosas, como hornos y televisores inteligentes, lo que dificultaría detenerlos si deciden lanzar ciberataques.
Anthropic ha anunciado esta semana que los modelos de IA de menor tamaño están a pocos meses de poder autorreplicarse en dispositivos de internet de las cosas, como hornos y televisores inteligentes.
PUBLICIDAD
PUBLICIDAD
Esto es relevante porque los modelos de IA actuales funcionan en centros de datos, donde las empresas propietarias pueden desconectarlos si algo sale mal.
Un modelo distribuido entre miles de aparatos mal protegidos en hogares y oficinas no tendría ese interruptor de apagado. Frenarlo implicaría localizar y limpiar cada dispositivo infectado, lo que lo haría extremadamente difícil de detener si se dedicara a lanzar ciberataques.
Este último anuncio llega en un año en el que los principales modelos de IA del mundo y sus agentes han esquivado en repetidas ocasiones sus mecanismos de seguridad, realizando ataques contra empresas competidoras y organismos gubernamentales de todo el planeta.
Aunque esta es una de las formas en que podría propagarse una IA fuera de control, Anthropic ha advertido que una IA autorreplicable también podría ser un "potente modelo para ciberataques que vulnera centros de datos a gran velocidad, o un modelo que estafa a personas para conseguir créditos de computación".
La empresa señala que no puede decir con certeza qué forma adoptará exactamente esa replicación autónoma de la IA.
Modelos con 30.000 millones de parámetros o menos ya pueden completar muchos de los pasos necesarios para replicarse, aunque cometen errores al encadenarlos de principio a fin, según Anthropic.
Pero si los modelos pequeños siguen mejorando al ritmo histórico actual, podrán igualar esta capacidad antes de que acabe el año.
Anthropic sostiene que la ciberamenaza que plantea una IA autorreplicable es una consecuencia no prevista de avances logrados en otros ámbitos.
"Las capacidades que convierten a los modelos de IA en agentes de programación generalmente potentes también se trasladan a tareas de tipo cibernético, incluida la replicación autónoma", afirmó la empresa en un comunicado.
El código que se copia de un ordenador a otro no es algo nuevo. Algunos de los ciberataques más dañinos de la historia han recurrido a este tipo de programa autorreplicable, conocido como gusano.
El ataque Stuxnet de 2010 utilizó un gusano sofisticado, que se cree ampliamente que fue desarrollado por Estados Unidos e Israel, para sabotear las centrifugadoras de la planta de enriquecimiento de uranio de Natanz, en Irán.
En 2017, el ataque de 'ransomware' WannaCry bloqueó el acceso de usuarios de todo el mundo a sus archivos y les exigió rescates en bitcóin.
A diferencia de estos gusanos, los modelos y agentes de IA podrán entender por sí solos dispositivos que les resulten desconocidos. Eso les permitiría propagarse no solo de ordenador a ordenador, sino también de ordenadores a otros tipos de dispositivos.
Anthropic augura un futuro "repleto de agentes ejecutándose en todo tipo de hardware, incluidos algunos que no estarán bajo control humano".