Desde esta semana, la Ley de IA de la UE obliga a etiquetar los 'deepfakes' y a otros contenidos generados con inteligencia artificial, pero muchos expertos alertan de que el rápido avance de esta tecnología, los vacíos técnicos y la falta de normas comunes pueden dificultar su aplicación.
A partir de este domingo, las empresas de inteligencia artificial estarán sujetas a nuevas obligaciones en virtud de la Ley de IA de la UE que les exigen que los 'deepfakes' y otros contenidos generados por IA sean claramente reconocibles como artificiales. Sin embargo, los desafíos técnicos suscitan dudas sobre la eficacia real de estas normas.
PUBLICIDAD
PUBLICIDAD
Hace dos años, la UE aprobó una amplia normativa para regular la inteligencia artificial y creó una Oficina de IA específica para supervisar la aplicación de esta legislación pionera.
Entre sus muchas disposiciones, la Ley de IA incluye los primeros regímenes de transparencia del mundo para los sistemas artificiales y obliga a los proveedores de sistemas de IA generativa como Claude, de Anthropic, y ChatGPT, de OpenAI, a garantizar que el contenido generado o manipulado artificialmente pueda ser identificado como tal.
Las normas son más estrictas para los 'deepfakes', imágenes, audios o vídeos realistas generados o alterados por IA que imitan la apariencia, la voz o las acciones de una persona real de forma que puede llevar al público a creer que dijo o hizo algo que nunca ocurrió.
De la sátira a la manipulación
Como cualquier tecnología, la IA puede utilizarse con fines tanto creativos como dañinos. Bruselas reconoce que no todo el contenido sintético es engañoso, el creado con fines claramente artísticos, creativos, satíricos o de ficción queda en general fuera del alcance de las obligaciones de revelar los 'deepfakes'.
Un ejemplo famoso llegó en 2023, cuando una imagen generada por IA del papa Francisco con un abrigo acolchado blanco muy de moda se hizo viral en todo el mundo. La imagen era falsa, pero se interpretó en gran medida como una broma.
Sin embargo, la misma tecnología puede emplearse con fines mucho más dañinos. En 2024, la estrella del pop Taylor Swift se convirtió en el objetivo de una oleada de imágenes explícitas generadas por IA que se difundieron en internet sin su consentimiento, lo que reavivó el debate sobre los riesgos de los medios sintéticos.
Los 'deepfakes' también se han convertido en una herramienta de manipulación política. En 2022, poco después de que Rusia lanzara su invasión a gran escala de Ucrania, apareció un vídeo falso en el que el presidente ucraniano, Volodímir Zelenski, instaba a los soldados a rendirse. Se desmontó rápidamente, pero demostró hasta qué punto los medios sintéticos pueden utilizarse como arma en tiempo de guerra.
La preocupación es que unos contenidos generados por inteligencias artificiales cada vez más realistas, amplificados por las plataformas de redes sociales, dificulten que la ciudadanía distinga la información veraz del material fabricado.
Regular los deepfakes
Para afrontar este desafío, la Comisión Europea elaboró un código de buenas prácticas voluntario como marco que indica cómo deben las empresas revelar el origen artificial del contenido sintético mediante marcas legibles por máquinas, así como etiquetas visibles para los 'deepfakes'.
La idea es sencilla, la gente debe saber cuándo está viendo contenido generado o alterado por IA. Por eso las normas se aplican tanto a las empresas que desarrollan la tecnología como a quienes utilizan la IA con fines profesionales, mientras que los usos personales quedan fuera de su ámbito.
El código de buenas prácticas no solo aborda el marcado, también los mecanismos de detección asociados, que requieren de la colaboración de todos los actores implicados, desde las empresas de IA y las plataformas de redes sociales hasta las organizaciones de la sociedad civil y los verificadores de datos. La cuestión más complicada es si la tecnología podrá cumplir de forma fiable esa promesa.
Una norma, muchos obstáculos
El primer desafío es geográfico. La UE puede regular a las empresas que operan en el mercado europeo o se dirigen a él, pero el contenido en línea no se detiene en las fronteras. Un 'deepfake' creado fuera de Europa puede llegar igualmente a millones de usuarios europeos en cuestión de minutos.
El segundo desafío es la madurez técnica. Grandes empresas de IA como OpenAI y Google han respaldado en términos generales las obligaciones de transparencia y han firmado el código de buenas prácticas de la Comisión. Sin embargo, también han advertido de que las tecnologías de detección y marcado siguen siendo un objetivo cambiante.
Por ahora no existe una solución única para todo el sector. Las empresas están probando distintos enfoques, desde las marcas de agua y los metadatos hasta los sistemas de trazabilidad del contenido, que no siempre son compatibles ni se comunican entre sí.
El tercer desafío es que las huellas digitales son frágiles. Los expertos advierten de que las marcas de agua pueden eliminarse, modificarse o perderse cuando el contenido se edita, se comprime o se comparte entre plataformas. Rastrear el historial completo de una imagen o un vídeo generados por IA a través de múltiples ediciones puede resultar extremadamente difícil.
Debido a estas limitaciones, los investigadores sostienen que ninguna tecnología por sí sola será suficiente. Es posible que las empresas necesiten un enfoque por capas que combine varios métodos.
"Una combinación de soluciones es más eficaz que cualquier medida aislada. Por tanto, una buena práctica consiste en aplicar múltiples capas de marcado y detección para el contenido generado por IA", concluía el estudio técnico de la Comisión Europea sobre esta cuestión.
Mantener el ritmo
La UE ha asumido un papel de liderazgo a la hora de afrontar uno de los grandes retos de la era de la IA, un mundo en el que el contenido sintético es cada vez más difícil de distinguir de la realidad.
Pero que Bruselas logre o no mantener el ritmo de una tecnología que evoluciona a una velocidad extraordinaria determinará si las normas de transparencia de la Ley de IA se convierten en una salvaguardia eficaz o se quedan en una simple etiqueta pegada a un problema que no deja de ir un paso por delante.