Bastaron apenas unas horas, no semanas, para que un modelo de IA de Anthropic detectara vulnerabilidades en sistemas clasificados del Gobierno estadounidense.
Un modelo de inteligencia artificial desarrollado por Anthropic ha identificado vulnerabilidades en sistemas informáticos altamente sensibles del Gobierno estadounidense durante un ejercicio de pruebas, según explicó a la agencia Associated Press un responsable estadounidense.
PUBLICIDAD
PUBLICIDAD
Este responsable, que habló bajo condición de anonimato, afirmó que Anthropic se había aliado con agencias de inteligencia estadounidenses para realizar las pruebas con el modelo Mythos de la compañía.
El modelo detectó ciertas vulnerabilidades en cuestión de horas, aunque eso no significa, según el responsable, que fuera capaz de explotarlas en ese plazo.
Las pruebas se realizaron en el marco de una iniciativa de Anthropic denominada Project Glasswing, que reunió a empresas tecnológicas con el objetivo de proteger el software crítico de las "graves" consecuencias que Mythos podría suponer para la seguridad pública, la seguridad nacional y la economía.
El senador demócrata Mark Warner, de Virginia, ya había mencionado brevemente estas pruebas durante una audiencia celebrada el 11 de junio ante la Comisión de Banca, Vivienda y Asuntos Urbanos del Senado.
"Esta herramienta logró entrar en casi todos nuestros sistemas clasificados, no en semanas sino en horas", afirmó, atribuyendo esta información al jefe de la Agencia de Seguridad Nacional (NSA) y del Mando Cibernético estadounidense, el general Joshua Rudd.
Aumentan las tensiones
Pese a la cooperación entre Anthropic y las agencias estadounidenses, las tensiones entre la empresa, con sede en California, y la administración Trump han ido en aumento.
Anthropic ha expresado su preocupación por el uso que el Ejército estadounidense podría hacer de su inteligencia artificial, mientras que la administración ha empezado a limitar el uso de algunos de sus modelos.
A comienzos de este mes, la administración emitió una directriz que obliga a Anthropic a impedir que ciudadanos extranjeros utilicen sus modelos más recientes, conocidos como Fable 5 y Mythos 5.
Anthropic lanzó este mes Fable de forma generalizada, una versión limitada del más avanzado Mythos, al que la empresa ha restringido de forma muy estricta el acceso por motivos de ciberseguridad.
La directriz llegó diez días después de que el presidente Donald Trump firmara una orden ejecutiva que establece un marco para que el Gobierno federal evalúe, durante un máximo de un mes antes de su publicación, los riesgos para la seguridad nacional que plantean los sistemas de inteligencia artificial más avanzados.
La orden establece que la participación de los desarrolladores de inteligencia artificial sería voluntaria.
Anthropic afirmó que había desactivado los modelos para todos sus clientes a fin de cumplir la directriz, pero añadió que no considera justificadas las medidas del Gobierno en relación con el problema de seguridad que había señalado.
Rechazo de la industria
Más de 100 expertos en ciberseguridad y directivos de empresas como Adobe y Nvidia han escrito al Gobierno para pedirle que retire la directriz, advirtiendo de que la medida podría beneficiar a los adversarios de Estados Unidos más de lo que los perjudica.
En su carta, los firmantes señalan que los modelos Mythos de Anthropic son "bastante buenos" a la hora de detectar fallos de software y convertir vulnerabilidades en armas, pero "no son excepcionalmente buenos en estas tareas".
Muchos explican que utilizan regularmente otros modelos de base y de código abierto para auditorías de seguridad y formación, y advierten de que es peligroso prescindir de las mejores capacidades de ciberdefensa "sin una buena razón" en un momento en que los adversarios de Estados Unidos avanzan con rapidez.