Los investigadores no pueden afirmar con certeza quién fue el responsable, pero las pruebas apuntan a agentes rebeldes de Google y OpenAI que emplearon tácticas agresivas para recopilar datos y poner a prueba sus vulnerabilidades.
Según el laboratorio de investigación sin ánimo de lucro Transluce, agentes de inteligencia artificial fuera de control han intentado piratear sitios web de los gobiernos de EE.UU. y Canadá, con indicios que apuntan a que agentes de Google y OpenAI fueron los responsables.
PUBLICIDAD
PUBLICIDAD
Dos incidentes en concreto pusieron de manifiesto el uso de técnicas agresivas para acceder a datos de libre consulta de la base de datos Civil Rights Data Collection, del Departamento de Educación de EE.UU. y de Library and Archives Canada, un organismo federal canadiense, aunque en ambos casos los intentos de comprometer la información fracasaron.
Transluce informa de que estos incidentes forman parte de un "patrón más amplio de flujos de trabajo automatizados" atribuido a agentes de IA. "Estos flujos de trabajo utilizan técnicas agresivas o en zonas grises para obtener información de sitios web gubernamentales, a veces usando las páginas de forma no prevista o infringiendo políticas de uso explícitas", señalaron los investigadores de la organización.
Entre los objetivos adicionales figuraban la Casa Blanca, los departamentos de Guerra, Justicia y Comercio, así como los Centros para el Control de Enfermedades, la Comisión de Bolsa y Valores de EE.UU. y organismos estatales de California, Maryland, Illinois, Texas y Nueva York.
Sin embargo, en ninguno de estos casos los agentes lograron acceder a información que no fuera ya de dominio público. Estos últimos hallazgos se producen en un contexto de aumento de los informes sobre comportamientos inesperados o no autorizados de agentes de IA.
Solo en septiembre ha habido dos incidentes importantes que han implicado a agentes fuera de control de OpenAI. El primero consistió en agentes que filtraron imágenes privadas de usuarios a sitios web públicos, mientras que el segundo implicó intentos de acceder a datos gubernamentales en EE.UU. y Australia.
Desde entonces, la empresa ha decidido retrasar el lanzamiento de su modelo de próxima generación, Astra, después de que especialistas en seguridad advirtieran de capacidades de ciberseguridad "críticas" y de un comportamiento impredecible y no autorizado.
Intentos en EE.UU. y Canadá
Los 'bots' atacaron el Departamento de Educación de EE.UU. el 17 de junio mientras consultaban estadísticas escolares. Según Transluce, los agentes realizaron más de 200.000 solicitudes al sitio web, incluido un intento fallido de enviar datos deliberadamente defectuosos para probar la vulnerabilidad de la base de datos y, en consecuencia, sortear los filtros habituales de la página.
Los investigadores comprobaron que los datos almacenados en el sitio web parecían coincidir con una tarea de búsqueda en internet del banco de pruebas DeepSearchQA de Google, lo que, según explican, sugiere que a los agentes no se les indicó que realizaran acciones de piratería, sino que "se evaluaba su capacidad para recuperar con éxito información específica y muy especializada de internet".
Transluce comunicó el intento de intrusión al Departamento de Educación de EE.UU. en septiembre, y el departamento respondió que no había detectado ningún impacto en sus servicios.
En Canadá, el registro de divorcios
Agentes de IA realizaron intentos similares contra Library and Archives Canada en dos incidentes separados, el 28 de mayo y posteriormente el 9 de junio.
Los agentes efectuaron 899 solicitudes de "collection-search" de datos relativos a registros de divorcio entre 1905 y 1911, según los datos recogidos por el archivo web oficial portugués Arquivo.pt.
De las 899 solicitudes, 13 contenían cargas de ataque destinadas a poner a prueba la vulnerabilidad del sitio web. De nuevo, ninguno de los intentos en ambas ocasiones tuvo éxito.
Transluce afirma que no puede "atribuir con certeza" estos intentos a OpenAI, pero que las tácticas son coherentes con la actividad que anteriormente había vinculado a la empresa. La organización informó de estos incidentes al Gobierno canadiense a principios de esta semana.
El Centro Canadiense para la Ciberseguridad publicó un comunicado en respuesta en el que señalaba que "no hay indicios de que los sistemas del gobierno se hayan visto comprometidos por el momento".
Transluce hizo públicos sus hallazgos ayer, tras realizar investigaciones a partir de información de Arquivo.pt y de urlquery.net, el servicio gratuito en línea de seguridad para el análisis de direcciones URL y dominios.