La Ley de Inteligencia Artificial de la UE aún no está grabada en piedra y las elecciones europeas podrían cambiar las cosas. Pero por el momento, la industria tecnológica teme que la Ley ahogue la competencia. Mientras tanto, artistas y autores se han mostrado más receptivos.
PUBLICIDADAcordada tras una maratoniana negociación de 36 horas este mes, la Ley de Inteligencia Artificial de la UE se considera histórica, pero las reacciones del sector tecnológico, los grupos de defensa de los derechos y los políticos del continente son diversas. La Unión Europea aprobó a última hora del pasado viernes el primer conjunto de normas provisionales del mundo para regular la inteligencia artificial (IA), pero los detalles del texto legislativo aún no se han concretado.
Las normas clasifican las aplicaciones de IA en cuatro niveles de riesgo e imponen las normas más estrictas a la IA de alto riesgo y prohibida. Uno de los puntos conflictivos que dieron lugar a las negociaciones fue cómo se regularían los modelos de cimentación, la tecnología en la que se basa el ChatGPT de OpenAI.
Nunca es una buena idea
Francia y Alemania advirtieron contra el exceso de regulación, ya que querían proteger a sus empresas campeonas en el campo de la IA.
"Podemos decidir regular mucho más rápido y mucho más fuerte que nuestros principales competidores. Pero regularemos cosas que ya no produciremos ni inventaremos. Esto nunca es una buena idea", dijo el presidente francés Emmanuel Macron el lunes (11 de diciembre).
"Cuando miro a Francia, es probablemente el primer país en términos de inteligencia artificial en Europa continental. Estamos codo con codo con los británicos. Ellos no tendrán esta regulación sobre los modelos fundacionales. Pero, sobre todo, estamos muy por detrás de los chinos y los estadounidenses", añadió, refiriéndose a la start-up francesa de IA Mistral.
La UE planea regular los modelos fundacionales asegurándose de que los desarrolladores faciliten documentación que incluya métodos de entrenamiento y datos. También se regularán dando a los usuarios derecho a presentar denuncias y prohibiéndoles la discriminación. Las empresas que incumplan las normas se enfrentan a multas de 35 millones de euros o el 7% de los ingresos mundiales. Algunos dicen que esto va demasiado lejos.
Consecuencias potencialmente desastrosas
La Computer & Communications Industry Association afirmó que el texto se aleja en gran medida del "enfoque sensato basado en el riesgo" propuesto por la Comisión, que daba prioridad a la innovación por encima de una regulación excesivamente prescriptiva.
La organización afirmó que la Ley imponía "obligaciones estrictas" a los desarrolladores de tecnologías punteras que sustentan muchos sistemas posteriores y, por tanto, es probable que obstaculice la innovación en Europa. Esto podría provocar un éxodo de talentos en IA, advirtió.
"Lamentablemente, la velocidad parece haber prevalecido sobre la calidad, con consecuencias potencialmente desastrosas para la economía europea. El impacto negativo podría sentirse mucho más allá del sector de la IA", dijo Daniel Friedlaender, vicepresidente senior y jefe de CCIA Europa.
No apoya a los campeones europeos
France Digitale, organización independiente que representa a start-ups e inversores europeos, afirmó que la IA en la categoría de alto riesgo tendrá que obtener el marcado CE, un proceso largo y costoso que podría perjudicar a las start-ups. Pero el grupo celebra que las start-ups que operan en sectores de alto riesgo puedan presentar una petición contra esa categoría y demostrar que su IA no es de alto riesgo y debe ser recategorizada.
En cuanto a la IA generativa y los modelos fundacionales, France Digitale dijo que la normativa es "muy estricta" y también podría perjudicar a las empresas, ya que tendrán que revelar sus modelos de negocio privados, que luego podrían copiar otras compañías. "Pedimos que no se regulara la tecnología como tal, sino los usos de la misma. La solución adoptada hoy por Europa equivale a regular las matemáticas, lo que no tiene mucho sentido", dijo el grupo.
France Digitale también advirtió de que la Comisión puede añadir más criterios a través de actos delegados, lo que puede ser arriesgado para las nuevas empresas que "necesitan visibilidad y previsibilidad para desarrollar sus modelos de negocio." "No podemos cambiar las reglas del juego en cualquier momento", dijo el grupo.
"Aceptar" las normas sobre derechos de autor
La mayoría de los modelos de IA se entrenan con material que se encuentra en Internet, lo que ha provocado una serie de demandas por derechos de autor por parte de artistas y las empresas que los representan contra las empresas de IA.
La Ley contiene normas estrictas sobre derechos de autor, entre las que se incluye la obligación de respetar la legislación vigente de la UE en materia de derechos de autor. Las empresas también deben hacer público un resumen de los contenidos que utilizan para entrenar modelos de IA de uso general. Las Sociedades Europeas de Autores (GESAC), que representan a 32 sociedades de autores europeas y a más de un millón de autores, han acogido con satisfacción este requisito de transparencia y la política de adhesión a la normativa vigente de la UE.
"Una aplicación sólida que permita a los titulares de derechos ejercer adecuadamente sus derechos en virtud de la legislación de la UE es crucial para garantizar que los principios acordados tengan un impacto real en la práctica", declaró Véronique Desbrosse, directora general de la asociación. "Las sociedades de autores esperan abrazar este nuevo mercado y generar valor tanto para los creadores como para las empresas, al tiempo que contribuyen tanto a la innovación como a la creación en Europa".
Ciberseguridad y reconocimiento facial
La Ley de Inteligencia Artificial de la UE impone restricciones estrictas a la tecnología de reconocimiento facial y otras señales de comportamiento, salvo excepciones policiales. Las restricciones al uso de tecnología de reconocimiento facial han sido bien acogidas, al igual que las normas de protección de datos. Aunque no existe una legislación específica para proteger los datos, la Ley está diseñada para funcionar junto con las normas GDPR de la UE, el reglamento de protección de datos de la UE.
Sin embargo, Valmiki Mukherjee, ejecutivo de la industria de la ciberseguridad, declaró a Euronews Next que la Ley podría enfrentarse a retos similares a los del GDPR. "Aplicar la Ley a los sistemas de IA de propósito general sin restringir su uso etiquetándolos a todos como de alto riesgo podría ser un reto", dijo.
"También existe el problema potencial de crear un gran sistema de vigilancia internacional para evitar la IA basada en la vigilancia. No está claro cómo funcionará esto con las normas de ciberseguridad que aún se están desarrollando".
PUBLICIDADUna tecnología potente a prueba de futuro
Aunque el borrador original del texto aún se está ultimando, un proceso que según algunos comentaristas podría prolongarse hasta enero de 2024 o incluso más allá, hay otra presión temporal, las nuevas elecciones al Parlamento Europeo en junio, que podría agitar las cosas en los puntos que aún quedan por acordar.
"No parece que haya tiempo suficiente antes de las elecciones al Parlamento para tramitar la Directiva sobre responsabilidad de la IA, por lo que tendrá que ser aprobada por el nuevo Parlamento y la nueva Comisión que nombre", afirma Benjamin Docquir, responsable de TI y datos del bufete jurídico internacional Osborne Clarke.
Es posible que el nuevo Parlamento de la UE también tenga que decidir sobre la legislación relativa a la IA en el lugar de trabajo. Otro factor a decidir será la regulación del software de IA de código abierto, que permite copiar y reutilizar libremente el código informático, lo que da permiso a cualquiera para construir su propio chatbot. OpenAI y Google han advertido de que el software de código abierto puede ser peligroso, ya que la tecnología puede utilizarse para difundir desinformación.
Dado que la tecnología de IA se está desarrollando rápidamente y que es poco probable que la Ley de IA de la UE entre en vigor para los miembros de la UE hasta dentro de dos años, la normativa podría ser ya demasiado antigua a pesar de los esfuerzos por hacerla flexible. "En cuanto a lo que puede cambiar en la Ley de IA, los legisladores se han esforzado por hacerla flexible, pero la aparición de la IA generativa ha demostrado la dificultad de hacerla a prueba de futuro en relación con una tecnología tan potente", dijo Docquir.