Hasta ahora, la Ley de IA de la UE se vinculaba sobre todo a obligaciones estrictas para sistemas de alto riesgo y grandes tecnológicas, pero desde este mes nuevas normas de transparencia se aplican también a creadores individuales, autónomos y usuarios corrientes.
Las nuevas normas de transparencia previstas en el artículo 50 de la ley entraron en vigor el 2 de agosto y, a partir de ahora, toda persona que cree, publique o utilice contenido generado por IA en el mercado de la UE afronta nuevas obligaciones o se expone a multas de varios millones.
PUBLICIDAD
PUBLICIDAD
Hasta ahora, los debates sobre el cumplimiento de la Ley de IA se centraban sobre todo en los sistemas de alto riesgo y en las grandes empresas, pero las nuevas normas de transparencia de la UE para los sistemas de IA y el contenido generado por IA pasarán a la lista de tareas de muchas personas y compañías dentro y fuera de la UE cuando termine el receso estival.
Las nuevas normas, que entraron en vigor el 2 de agosto de 2026, se aplicarán a un amplio abanico de actores, tanto personas físicas como jurídicas, ya sean empresas, medios de comunicación, organizaciones no gubernamentales, diseñadores, agencias de publicidad y otros.
Las normas se aplicarán no solo a entidades o personas con sede en la UE, sino también a quienes se encuentren fuera si los sistemas o el contenido se utilizan en el mercado europeo.
Además, las obligaciones se aplicarán con independencia de que el servicio sea de pago o gratuito.
Aunque existen exenciones o normas más suaves para el uso individual, fines de investigación y científicos, sistemas de código abierto y contenidos artísticos, creativos o satíricos, conviene tomarse en serio las directrices y analizar qué operaciones, productos y contenidos deben etiquetarse para evitar posibles sanciones.
Los proveedores y usuarios que no cumplan las nuevas normas podrán ser sancionados con multas de hasta 15 millones de euros o hasta el 3% de su volumen de negocios mundial total. Las instituciones de la UE podrán ser multadas con hasta 750.000€.
Cuatro grandes obligaciones de transparencia para los sistemas de IA y el contenido afectado por IA
Las directrices se presentan como un documento explicativo del artículo 50 de la Ley de IA, que fija las obligaciones de transparencia para cuatro grandes grupos.
El artículo 50(1) establece las obligaciones para los sistemas de IA que interactúan directamente con personas físicas y exige a los proveedores que los diseñen y desarrollen de manera que cualquier persona sepa que está interactuando con un sistema de IA.
El artículo 50(2) fija las obligaciones para los sistemas de IA que manipulan contenido sintético de imagen, vídeo, audio o texto. Esto significa que los proveedores deben marcar las salidas de la IA en un formato legible por máquina y detectable.
El artículo 50(3) establece las obligaciones para los sistemas de IA diseñados para el reconocimiento de emociones y el reconocimiento biométrico. En este caso, los usuarios deben informar a las personas físicas de que están siendo expuestas al sistema de IA.
El artículo 50(4) recoge las obligaciones para los sistemas de IA que generan, manipulan o difunden contenidos de tipo 'deepfake' o textos destinados a informar al público sobre cuestiones de interés público. Aquí, los usuarios deben indicar que el contenido ha sido generado, mejorado o manipulado mediante IA.
Chatbots, agentes y bots
Para que un sistema de IA quede sujeto a las obligaciones del artículo 50 de la Ley de IA, debe cumplir la definición de la Comisión Europea: el sistema tiene que interactuar con personas físicas, haber sido diseñado con la intención de interactuar con ellas e interactuar de forma directa, en tiempo real o casi real.
Esto significa que los asistentes de voz basados en IA, los chatbots, las líneas de atención automatizadas, los compañeros virtuales, los avatares, los robots, los bots de IA, los agentes de programación y otros agentes de IA están sujetos al artículo 50 de la Ley de IA y deben seguir las directrices de la Comisión Europea.
Autores, diseñadores, influencers y podcasters
La nueva regla general debería ser etiquetar todo contenido generado o mejorado mediante IA, ya sea audio, vídeo, imagen, texto o 'deepfake', especialmente si guarda relación con cuestiones de interés público.
Aunque existen exenciones y normas más flexibles para los contenidos que solo se han editado con ayuda de la IA sin cambiar sustancialmente el material original o que han pasado por una revisión humana y editorial, las fronteras de lo que se considera un cambio sustancial son difusas.
Del mismo modo, la revisión y supervisión editorial también debe ser sustancial, no limitarse a correcciones menores de gramática u ortografía, y una persona concreta debe asumir la plena responsabilidad del contenido publicado.
Para redactores, autores y blogueros, deben etiquetarse contenidos como resúmenes de texto generados por IA, textos completos y paráfrasis que cambien el estilo, la estructura o el significado.
Si el texto generado o significativamente mejorado por IA contiene información relacionada con cuestiones de interés público, como la administración y los servicios públicos, la justicia y las fuerzas de seguridad, los derechos fundamentales, la seguridad pública, la sanidad, la protección del medio ambiente, la seguridad del consumidor, la economía y otros ámbitos, también debe etiquetarse.
No es necesario etiquetar las correcciones menores de gramática, la revisión ortográfica y el pulido estilístico.
En el caso de los influencers en redes sociales y de quienes usan aplicaciones de edición facial, también debe etiquetarse el contenido si los rostros de las fotos existentes se sustituyen o sufren modificaciones faciales sustanciales.
La edición de imágenes para uso personal queda fuera de estas obligaciones de transparencia, pero cualquier contenido con finalidad comercial puede quedar sujeto a las nuevas normas de la UE.
Para diseñadores gráficos y de vídeo, debe etiquetarse todo contenido de vídeo e imagen en el que se eliminen, sustituyan o inserten objetos y personas en material ya existente.
También ha de etiquetarse el contenido que altere la forma del cuerpo o el color de la piel de una persona o en el que se apliquen aclarados, oscurecimientos y cambios extremos de color y contraste que modifiquen el sentido, la intención o el mensaje del contenido.
Igualmente, debe señalarse la generación de vídeos que representen hechos que no ocurrieron, así como las imágenes o vídeos que modifiquen la representación de personas, objetos, acontecimientos o hechos, o cualquier otra alteración sustancial del contenido.
No es necesario etiquetar el formato general ni las ediciones que mejoran la claridad, el recorte, ajustes menores de color o luz, el enfoque, la eliminación de polvo y manchas, ojos rojos o fondos, la pixelación y el difuminado de rostros, la estabilización de vídeo, pequeños ajustes de la velocidad de reproducción y otras ediciones generales que no alteren de forma extrema el contenido.
En el caso de podcasters, editores de audio y locutores de radio, debe etiquetarse la síntesis de voz realista en la voz de una persona concreta.
Responsabilidades en la relación cliente-agencia y empleador-empleado
Si una empresa contrata servicios de diseño a una agencia de publicidad o de diseño gráfico y no decide ni controla si la agencia utiliza o no IA y cómo lo hace, las obligaciones de transparencia corresponden a la agencia, no al cliente.
De forma análoga, las obligaciones de transparencia recaen en el empleador o la persona jurídica, no en un empleado individual ni siquiera en un autónomo o contratista que produzca contenido afectado por IA.
Cuando el usuario de un sistema de IA sea una persona jurídica bajo cuya autoridad se utiliza el sistema, por ejemplo una empresa de publicidad, los empleados individuales que actúan siguiendo las instrucciones y bajo el control de esa persona jurídica, como animadores digitales, diseñadores web, creadores de contenido o periodistas, no deben considerarse usuarios diferenciados de ese sistema.
Una persona jurídica sigue siendo el usuario incluso cuando involucra a terceros, como contratistas o autónomos, en el funcionamiento del sistema en su nombre y bajo su responsabilidad y control.
Normas sobre 'deepfakes'
Los 'deepfakes' deben etiquetarse si se asemejan a personas, objetos, lugares, entidades o acontecimientos reales y pueden parecer auténticos y veraces a quienes los vean.
También aquí existen exenciones para contenidos artísticos, creativos, satíricos o de ficción, pero si el 'deepfake' se utiliza con fines profesionales debe etiquetarse igualmente.
Los 'deepfakes' de personas reales, políticos, famosos, directores generales de empresas, la clonación de voz mediante audio generado por IA o incluso imágenes generadas por IA de anuncios de productos y envases que parecen mejores que en la realidad deben estar claramente señalados.
Exenciones, uso individual, código abierto, fuerzas de seguridad, fines científicos y de investigación
Las exenciones de las obligaciones de transparencia se aplican a los usuarios que son personas físicas y utilizan IA para actividades personales no profesionales, a los científicos e investigadores, a los sistemas de código abierto y a las fuerzas y cuerpos de seguridad.
Sin embargo, si una persona actúa a título particular pero su actividad personal se solapa con su actividad profesional y obtiene un beneficio económico, es probable que se apliquen las obligaciones de transparencia.
En el ámbito del código abierto, tanto proveedores como usuarios deben seguir garantizando el cumplimiento de sus respectivas obligaciones de transparencia.
Recomendaciones de etiquetado
Los proveedores tienen que marcar sus sistemas de IA en un formato legible por máquina para permitir la detección entre sistemas y asegurar que las salidas de esos sistemas sean identificables como generadas o manipuladas por IA.
Los usuarios deben, por su parte, etiquetar el contenido generado o manipulado por IA de forma clara y fácilmente distinguible.
Las directrices de la Comisión Europea señalan que algunas técnicas de marcado de IA no son necesarias o resultan insuficientes si se utilizan aisladamente, como las siguientes:
- Los avisos incluidos únicamente en los términos y condiciones, en las URL o en la documentación
- Los marcados legibles solo por máquina, como metadatos o marcas de agua, que no son visibles para los usuarios
- Las señales poco claras o ambiguas, por ejemplo referencias genéricas como asistente
- Los avisos excesivamente genéricos, por ejemplo la fórmula los servicios de este sitio web utilizan IA
- Las descripciones excesivamente técnicas, por ejemplo este sistema utiliza modelos de lenguaje de gran tamaño
Este artículo se publicó originalmente en EU Tech Loop (fuente en inglés) y se ha compartido en 'Euronews' en el marco de un acuerdo de sindicación.