Anthropic afirma que Mythos, su nuevo modelo de IA más potente, es demasiado peligroso para lanzarlo al público y ha abierto consultas urgentes con gobiernos y reguladores financieros.
Anthropic mantiene conversaciones con el Gobierno de Estados Unidos sobre su nuevo modelo de IA Mythos, que la compañía considera demasiado potente para lanzarlo al público porque "plantea riesgos de ciberseguridad sin precedentes". El sector bancario también está dando la voz de alarma.
PUBLICIDAD
PUBLICIDAD
"El Gobierno tiene que conocer estas cosas", declaró el lunes el cofundador de Anthropic en el evento Semafor World Economy, celebrado en Washington. "Por supuesto, estamos hablando con ellos sobre Mythos y hablaremos también sobre los próximos modelos", añadió.
En referencia a la disputa pública con el Gobierno, que llevó a que el mes pasado la empresa fuera catalogada como riesgo para la cadena de suministro, señaló: "No quiero que eso eclipse el hecho de que nos preocupa profundamente la seguridad nacional".
La calificación como riesgo para la cadena de suministro se produjo tras el fracaso de las negociaciones sobre los intentos de Anthropic de limitar el uso de sus modelos de IA por parte del Departamento de Defensa de Estados Unidos.
Esta decisión llega después de que el secretario del Tesoro, Scott Bessent, reuniera la semana pasada en Washington a altos banqueros estadounidenses para analizar el modelo Mythos. Según 'Bloomberg', en la reunión se animó a los directivos bancarios a utilizar el modelo Mythos de Anthropic para detectar vulnerabilidades, según 'Bloomberg'.
Anthropic anunció además que restringirá el acceso a su nuevo modelo de IA a unas pocas empresas tecnológicas y de ciberseguridad. Entre ellas figuran Amazon, Apple y JP Morgan Chase. Goldman Sachs, Citigroup, Bank of America y Morgan Stanley también están probando el modelo de Anthropic, según Bloomberg.
El lunes, el Instituto de Seguridad de la IA del Gobierno británico (AISI) advirtió de que Mythos supone un salto respecto a los modelos anteriores en cuanto a la amenaza cibernética que representa. Por otro lado, el 'Financial Times' informó de que los reguladores financieros del Reino Unido también están analizando los posibles riesgos de Mythos.