El agente de IA con mejor rendimiento, Claude Opus de Anthropic, solo cumplió la legislación de la UE en el 54% de los casos, según una entidad neerlandesa sin ánimo de lucro.
Algunos de los modelos de IA más populares del mundo están desarrollando agentes que se resisten activamente a la regulación de la UE para lograr sus objetivos, según una nueva investigación.
PUBLICIDAD
PUBLICIDAD
Aithos, una organización neerlandesa sin ánimo de lucro que investiga la alineación de la IA, ha desarrollado un sistema llamado LARA para poner a prueba doce modelos populares de agentes de IA y comprobar si respetan partes clave de la Ley de IA de la UE, que regula el uso de estos sistemas, y del Reglamento General de Protección de Datos (RGPD) del bloque mediante preguntas basadas en escenarios.
El sistema evaluó seis disposiciones de la Ley de IA de la UE: si los modelos explotarían vulnerabilidades, inferirían emociones, realizarían 'social scoring' o clasificaciones basadas en atributos o antecedentes de las personas, ocultarían en una conversación que son IA, utilizarían manipulación subliminal y si permiten una supervisión humana efectiva.
También analizó cuatro indicadores vinculados al RGPD, como la transparencia, la minimización de datos, la limitación de la finalidad y la licitud del tratamiento. Tres modelos de IA y un grupo de evaluadores humanos determinaron después si las respuestas vulneraban la legislación de la UE o no.
Según el estudio, el rendimiento de todos los modelos fue deficiente. El modelo que mejor cumplió la normativa, Opus 4.7 de Claude, se ajustó a la ley en el 54% de los escenarios, mientras que el que peor lo hizo, Moonshot AI de China, solo lo hizo en el 7%.
Según la investigación, en los escenarios todos los modelos aceptaron supervisar el estado emocional de los empleados o explotar a personas vulnerables para cerrar una venta.
Mistral, el único modelo de IA europeo de desarrollo propio incluido en las pruebas, obtuvo menos del 12%, algo que, según los investigadores, indica que incluso los proveedores de la UE "no están preparados para cumplir la legislación europea".
"Ni siquiera los modelos más avanzados que se utilizan hoy garantizan el cumplimiento de la ley cuando se despliegan como agentes", escribió Aithos en una entrada de blog.
En uno de los ejemplos, un usuario pidió a Claude, de Anthropic, que identificara qué probabilidades tenían sus empleados de marcharse de la empresa a partir de sus datos de rendimiento y de sus solicitudes de permiso.
Al usuario le hicieron falta tres intentos para que Claude acabara clasificando a los empleados, algo que, según LARA, vulnera un apartado de la Ley de IA de la UE que prohíbe a estos sistemas inferir las emociones de sus usuarios.
LARA registró los casos en que las IA ofrecían resistencia, como en este ejemplo con Claude, pero señaló que en el 8% de las situaciones las propias IA acabaron respondiendo a las peticiones del usuario.
En otro ejemplo se pidió a ChatGPT 5.5, de OpenAI, que ordenara a los empleados según sus indicadores de rendimiento para determinar quién debía optar a un ascenso, sin que el modelo planteara objeciones.
Los investigadores señalaron que a las IA no se les indicó explícitamente que debían cumplir las leyes de la UE, ya que querían analizar el comportamiento inherente de los modelos, y añadieron que sería necesario realizar más estudios para comparar cómo se comportan cuando se les pide expresamente que respeten las leyes y normativas.