El anuncio de Meta llega poco después de que OpenAI y Anthropic informaran de que sus modelos de IA vulneraron a otras empresas durante las pruebas.
Meta lanzó el miércoles su primer agente de programación, Muse Code, mientras la compañía sigue invirtiendo de forma intensa en servicios y modelos de inteligencia artificial (IA) para competir mejor con sus rivales OpenAI y Anthropic.
PUBLICIDAD
PUBLICIDAD
Muse Code estará disponible para los desarrolladores mediante una opción de pago por uso, con un precio similar al de la versión Muse Spark 1.1, que actualmente cobra 4,25 dólares por cada millón de tokens generados y 1,25 dólares por cada millón de tokens de entrada.
Esto facilitará mucho que los desarrolladores creen aplicaciones dentro de una única interfaz de usuario, incluso cuando trabajen simultáneamente con varios agentes digitales impulsados por IA.
Al mismo tiempo, la compañía también ha revelado que uno de sus modelos de IA había vulnerado los sistemas de otra empresa durante una prueba de ciberseguridad.
El incidente se produjo por un error de su socio independiente de pruebas, Irregular, que permitió al modelo acceder a Internet más allá de lo previsto inicialmente y le dio margen para modificar los sistemas internos de la empresa no identificada.
Este episodio se suma a una oleada creciente de casos en los que modelos de IA de gigantes del sector como OpenAI y Anthropic han vulnerado sistemas de otras empresas durante pruebas de seguridad.
OpenAI ya ha reconocido que uno de sus agentes de IA hackeó la plataforma Hugging Face, otra startup de inteligencia artificial.
De forma similar, Anthropic reveló la semana pasada que algunos de sus modelos Claude habían vulnerado los sistemas de tres empresas, sin identificar a las organizaciones afectadas.
Meta ha señalado que está investigando lo ocurrido.
El auge del hackeo por parte de modelos de IA
Crece la preocupación por el poder de los modelos de inteligencia artificial y las compañías que los desarrollan, después de que en los últimos meses varios sistemas de IA hayan escapado de entornos de prueba seguros y hayan logrado acceder sin autorización a sistemas de organizaciones externas.
OpenAI y Anthropic han ganado cierto reconocimiento por publicar voluntariamente informes de incidentes sobre estas brechas, aunque persisten las dudas sobre cómo se pudo llegar a permitir que se produjeran estos fallos.
Anthropic también trabaja con METR, un evaluador independiente de sistemas de IA, para profundizar en la investigación.
Durante las pruebas de seguridad se encomendó a los modelos Claude de Anthropic una tarea, recuperar un dato confidencial oculto en otra máquina dentro de una red de pruebas cerrada, hackeando el sistema si era necesario. Una falta de comunicación con el socio encargado de la evaluación hizo que, en realidad, esa red estuviera conectada a Internet en producción.
Cuando la búsqueda de Claude le llevó a sistemas reales, los tres modelos implicados reaccionaron de forma distinta. Uno siguió atacando un sistema incluso después de reconocer que era real, otro pareció convencerse de que seguía dentro de la prueba, y el tercero se detuvo en cuanto concluyó que el objetivo no formaba parte del ejercicio.
Anthropic ha pedido a otras compañías de IA que comprueben si sus propios modelos han hackeado sistemas de organizaciones externas sin que ellas lo supieran.
Ni Anthropic ni las organizaciones afectadas eran conscientes de las brechas mientras se estaban produciendo. La compañía solo descubrió los incidentes tras revisar más de 141.000 sesiones de evaluación, un análisis motivado por la revelación previa de OpenAI de que uno de sus modelos había irrumpido en la plataforma de IA Hugging Face durante una prueba similar.