Durante una votación en comisiones en Estrasburgo, los eurodiputados han adoptado por amplia mayoría su posición sobre el proyecto de reglamento de la Comisión Europea, presentado en abril de 2021.
PUBLICIDADLos diputados del Parlamento Europeo han votado por abrumadora mayoría el jueves por la mañana a favor de un proyecto de reglamento para garantizar el "desarrollo ético" de la Inteligencia Artificial (IA), una tecnología en rápida evolución que ha suscitado preocupación por la desinformación, la privacidad, la vigilancia, la discriminación, el plagio, la suplantación de identidad e incluso el futuro de la democracia.
Con la nueva normativa europea, los eurodiputados quieren garantizar que los sistemas de IA "estén supervisados por personas, sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente", explica un comunicado de prensa.
Los eurodiputados "también quieren tener una definición uniforme de IA diseñada para ser tecnológicamente neutra, de modo que pueda aplicarse a los sistemas de IA de hoy y de mañana".
La votación, que ha tenido lugar en una sesión conjunta de las comisiones de Mercado Interior y Libertades Civiles, ha añadido nuevas disposiciones al texto original propuesto por la Comisión Europea, sobre todo nuevas obligaciones sobre los llamados modelos generativos de base, como ChatGPT, el chatbot desarrollado por OpenAI que ha revolucionado la industria tecnológica desde su lanzamiento a finales de noviembre.
Los modelos de base son los que se entrenan con grandes cantidades de datos, como texto, imágenes, música, voz y código, con el objetivo de cumplir una amplia y cambiante serie de tareas, en lugar de tener un propósito específico e inmodificable. Chatbots como GPT de OpenAI y BERT de Google son algunos de los primeros ejemplos de esta tecnología, que se espera que siga evolucionando en los próximos años.
Mientras que los inversores se han lanzado rápidamente a por los chatbots, los críticos han denunciado su desarrollo descontrolado, dando la voz de alarma sobre la parcialidad, la incitación al odio, las noticias falsas, la propaganda estatal, las violaciones de la propiedad intelectual, los despidos laborales, los ciberataques y la línea cada vez más difusa entre lo humano y lo artificial.
Conscientes de la creciente preocupación, los legisladores han añadido enmiendas para garantizar que los chatbots sean transparentes, no produzcan contenidos ilegales según la legislación de la UE, cumplan las normas sobre derechos de autor y respeten derechos fundamentales como la libertad de expresión.
"Los modelos de base generativa deben garantizar la transparencia sobre el hecho de que el contenido es generado por un sistema de IA, no por humanos", reza el nuevo texto.
Los eurodiputados también han presionado para ampliar la lista de aplicaciones de IA "intrusivas y discriminatorias" que deben prohibirse estrictamente en todo el territorio de la UE. La lista ampliada incluye la identificación biométrica en tiempo real en espacios públicos, los sistemas policiales predictivos y el reconocimiento de emociones en las fuerzas del orden y los lugares de trabajo.
Los sistemas de IA que puedan influir en los votantes en las campañas políticas no estarán prohibidos, pero se considerarán de alto riesgo y, por tanto, estarán sujetos a un escrutinio más estrecho, según los legisladores.
El mandato del jueves se aprobó con 84 votos a favor, siete en contra y 12 abstenciones. Se han presentado más de 3.000 enmiendas antes de la sesión, lo que refleja el notable interés por la tecnología.
La votación, sin embargo, dista mucho de ser definitiva: Los eurodiputados aún tienen que aprobar su mandato de negociación en sesión plenaria, que luego se utilizará para las conversaciones con los Estados miembros. Estas conversaciones, conocidas en Bruselas como "trílogos", se prevén intensas y complicadas, dados lo que está en juego y las expectativas. Este proceso desembocará en un texto de compromiso, que volverá a ser votado por los colegisladores antes de entrar en vigor.
La Ley de Inteligencia Artificial fue propuesta por primera vez por la Comisión en abril de 2021, mucho antes de la explosión de los chatbots en el mercado. La ley impone obligaciones y restricciones a las empresas de IA según el riesgo que sus productos presenten para la sociedad: riesgo mínimo, riesgo limitado, alto riesgo e inaceptable.
Los sistemas de alto riesgo tendrán que someterse a una evaluación de conformidad, registrarse en una base de datos de la UE y llevar el marcado CE antes de salir al mercado. Esto se reanudará con cada actualización. Los chatbots no se considerarán de alto riesgo, según los legisladores, a pesar de las disposiciones.
Según el texto modificado, las empresas que incumplan las normas podrían enfrentarse a multas de hasta 40 millones de euros o el 7% de su facturación anual mundial, la cantidad que resulte más elevada.
El enfoque global y centrado en el ser humano de la normativa de la UE se considera un paso pionero en el esfuerzo mundial por frenar los excesos de la IA, que muchos consideran la tecnología más perturbadora desde la llegada de la World Wide Web (WWW).