Una nueva investigación de la Universidad de Edimburgo concluye que los piratas informáticos apenas han logrado aprovechar las herramientas de IA, ni en sus estafas ni para crear instrumentos más eficaces.
Los ciberdelincuentes están teniendo dificultades para incorporar la inteligencia artificial (IA) a su actividad, según revela un nuevo análisis. Un nuevo estudio en prepublicación de la Universidad de Edimburgo ha analizado más de 100 millones de mensajes en foros de ciberdelincuentes utilizando la base de datos CrimeBB, que recopila información de foros clandestinos.
PUBLICIDAD
PUBLICIDAD
Los datos se analizaron tanto de forma manual como mediante un gran modelo de lenguaje (LLM). Aunque los ciberdelincuentes han mostrado interés en aprender a utilizar herramientas de IA, la tecnología no ha cambiado de forma significativa su manera de "trabajar", concluye el estudio.
"Muchas de las reseñas y debates describen estas herramientas de IA como no especialmente útiles", señala el trabajo. Los investigadores no encontraron "ninguna prueba significativa" de que los piratas informáticos hayan tenido éxito al usar la IA para mejorar su actividad, ni como ayuda para aprender ni para desarrollar herramientas más eficaces.
Los asistentes de programación basados en IA resultan sobre todo útiles para quienes ya tienen experiencia en codificación, de modo que los modelos que ofrecen ayuda para programar no les proporcionan un 'empujón' relevante a la hora de entrar en dispositivos o encontrar formas de sortear medidas de seguridad, añade el estudio.
"Primero tienes que aprender por tu cuenta las bases de la programación antes de poder usar la IA y sacarle realmente provecho", se lee en uno de los mensajes citados en el estudio.
El principal impacto de la IA en las actividades en línea de dudosa legalidad se da por ahora en ámbitos fáciles de automatizar, como la creación de bots para redes sociales, algunas estafas románticas y fraudes de optimización en motores de búsqueda (SEO), o la creación de páginas web falsas que escalan en los resultados para ganar dinero con publicidad.
Los comentarios apuntan a que incluso los piratas informáticos más experimentados utilizan chatbots para resolver dudas de programación o generar "chuletas" que les ayuden a escribir código.
La IA que realmente se está empleando pertenece a la categoría de "productos generalistas y legítimos", como Claude de Anthropic o Codex de OpenAI, y no tanto a modelos creados específicamente para la ciberdelincuencia como WormGPT, diseñado por piratas informáticos para generar código malicioso o correos de phishing.
Muchas de las publicaciones analizadas en el estudio recogen peticiones de ciberdelincuentes que buscan técnicas para saltarse las normas de seguridad de esos modelos generalistas, pero les resulta muy complicado conseguir que los sistemas de IA ignoren sus protecciones.
Ante esa dificultad, los ciberdelincuentes se ven obligados a recurrir a modelos de IA de código abierto más antiguos y de menor calidad, que son más fáciles de vulnerar. Sin embargo, tienden a ser menos útiles y "requieren recursos considerables", constataron los investigadores. El estudio sugiere que, por ahora, los mecanismos de protección implantados por las empresas de IA están funcionando.