A partir del 2 de diciembre, una prohibición afectará a las empresas que desarrollan sistemas de inteligencia artificial para falsificaciones sexuales y a los usuarios que crean contenidos íntimos falsos de personas reales sin consentimiento.
Los legisladores comunitarios han acordado prohibir las conocidas como 'aplicaciones nudificadoras' en el marco de la ley Omnibus Digital sobre IA. Estas controvertidas herramientas pueden generar imágenes o vídeos sexuales creados por IA que "desnudan" a las personas sin su consentimiento, lo que suscita preocupación por la privacidad y el uso ético de la tecnología.
PUBLICIDAD
PUBLICIDAD
La IA de nueva generación hace que la creación de contenidos sintéticos sea cada vez más asequible y realista. Según el Servicio de Investigación del Parlamento Europeo, en 2025 había en línea unos ocho millones de 'deepfakes', y en 2026 el 90% de los contenidos en línea serán generados por IA.
Hasta ahora, la legislación de la UE ha abordado los 'deepfakes' de forma indirecta, tratándolos como violaciones de la privacidad y la transparencia, lo que ha dado lugar a peticiones de una mayor protección mediante una prohibición total en toda la UE.
"Se percibía una laguna en la legislación a la hora de abordarlos.Por eso se consideró que el ómnibus era una oportunidad para abordarlo", declaró el eurodiputado Michael McNamara, de Renovar Europa en el Parlamento Europeo y coponente de la comisión de Libertades Civiles, Justicia y Asuntos de Interior.
Aunque los colegisladores todavía tienen que dar luz verde formal a su posición, Europa ya está dando una señal clara: las 'apps nudificadoras' son una forma grave de abuso sexual digital que deben prohibirse antes de que entren en el mercado.
¿Qué es un "nudificador"?
Las aplicaciones de 'desnudificación' manipulan fotos ordinarias para crear imágenes cada vez más realistas y sexualmente explícitas ('deepfakes') utilizando IA generativa. Según las estimaciones actuales, hasta el 96% se crearon sin el conocimiento del sujeto.
Estas herramientas utilizan modelos de aprendizaje profundo, reconocimiento de imágenes y tecnología de reconstrucción corporal para sintetizar imágenes de aspecto realista basadas en la iluminación, la pose y el tono de piel de la foto original. Básicamente, rastrean o deducen la forma del sujeto a través de su ropa e inventan un cuerpo desnudo que coincida.
Esta tecnología es accesible a través de muchas aplicaciones móviles -la App Store solía albergar apps como 'DeepNude' y 'ClothOff'-, sitios web especializados y 'bots' automatizados en plataformas como Telegram, a menudo comercializados como "arte de IA" o entretenimiento.
El X de Elon Musk facilitó enormemente el acceso a estas aplicaciones; a principios de enero de 2026,Grok creaba aproximadamente 6.700 imágenes sexualizadas por hora, docenas de las cuales implicaban a niños.
La Comisión Europea inició una investigación formal sobre las leyes de seguridad digital de Grok, y la reacción provocó que X aplicara restricciones. Ahora, la generación de imágenes de personas reales con ropa reveladora está bloqueada en algunos países. La función está limitada a los suscriptores de pago, aunque los usuarios del sitio siguen encontrando formas de engañar a la IA mediante mensajes.
Estas herramientas convierten a la IA generativa en un instrumento selectivo para el acoso y el abuso digital, despojando al sujeto de su autonomía corporal. Los contenidos explícitos no consentidos violan directamente los derechos fundamentales a la intimidad y socavan las normas éticas digitales. Estos programas se catalogan cada vez más como tecnologías depredadoras.
"Hay ciertas prácticas que no son broma. Se trata de personas. Y en esta batalla, la dignidad debería estar siempre en el lado ganador", ha declarado el eurodiputado alemán de los Verdes Sergey Lagodinsky.
Estas herramientas causan angustia psicológica y daño reputacional a las víctimas: un estudio de UNICEF de 2026 en 11 países reveló que al menos 1,2 millones de niños vieron manipulada su imagen en 'deepfakes' sexuales en 2025. Un estudio del mismo año señaló que las amenazas de publicar contenido sexual explícito no consentido aumentan las probabilidades de planes de suicidio, intentos de suicidio y autolesiones.
Las herramientas también se dirigen de forma desproporcionada a mujeres y niñas, que representan el 99% de las víctimas de 'deepfakes' y alimentaron un aumento del 26% por ciento en imágenes generadas de abuso sexual infantil (CSAM) desde 2024 y un aumento de delitos como la sextorsión y el chantaje.
¿Cómo funciona la prohibición?
El acuerdo provisional del 7 de mayo se dirige a los creadores de IA en general, prohibiendo cualquier sistema específicamente diseñado para generar este tipo de contenido incluyendo imágenes, vídeo y audio.
Responsabiliza directamente a los creadores de modelos de IA a gran escala si sus sistemas se utilizan para crear imágenes de desnudos no consentidas. A partir de ahora, estas empresas deberán incorporar bloqueos de seguridad permanentes en su software principal para impedir que los usuarios las generen. También prohíbe las representaciones realistas de partes íntimas y actos sexuales explícitos.
La prohibición afectará a los proveedores, es decir, a cualquier empresa que comercialice estos sistemas en la UE o los ofrezca a los ciudadanos del bloque, a las organizaciones que utilicen o alojen estos programas y permitan contenidos explícitos no consentidos y, sobre todo, a los usuarios que sean sorprendidos explotando la inteligencia artificial para generar este tipo de contenidos.
La UE desplaza la responsabilidad principal de los usuarios finales a las empresas que crean los modelos. En palabras de Lagodinsky, "no podemos imponer el comportamiento humano. Así que vamos contra la propia tecnología".
Los proveedores están ahora obligados a evaluar cualquier "uso indebido previsible" de su tecnología antes de que llegue al público. Deberán aplicar medidas para impedir que los usuarios eludan los filtros con avisos ingeniosos o pequeñas alteraciones de la imagen. Para garantizar el cumplimiento, la Oficina de Inteligencia Artificial supervisará si estas salvaguardas están integradas en la arquitectura central del modelo.
"Las plataformas restringirían el acceso a ciertas indicaciones y a ciertas conductas, igual que ChatGPT o Grok ya dicen que ciertas peticiones no están permitidas", expresó Lagodinsky. "Los procesos legislativos son mucho más lentos que la innovación. Solo podremos hacer frente a esto si tenemos una forma basada en principios de regular en función del riesgo. Por eso, por ejemplo, existe la posibilidad de que la Comisión añada determinadas nuevas tecnologías como tecnologías de riesgo en la Ley de IA", añadió.
Si una empresa no aplica estas normas, se enfrenta a severas medidas coercitivas en el marco de la Ley de IA. Las sanciones por incumplimiento son cuantiosas, con multas de hasta 35 millones de euros o el 7% de la facturación global total de una empresa.
El acuerdo también faculta a las autoridades nacionales para retirar totalmente del mercado de la UE los productos de IA inseguros. Para el 2 de diciembre de 2026, todos los proveedores deberán demostrar que sus sistemas cumplen estas normas de seguridad o se enfrentarán a sanciones económicas. Esta supervisión se aplica tanto a las empresas con sede en la UE como a los desarrolladores internacionales que ofrecen sus servicios de IA a residentes europeos.
Instrumentos jurídicos antes de la prohibición
"No creo que los responsables políticos la subestimaran necesariamente [la evolución de la IA]. Ciertamente, hasta ahora ha habido una gran falta de seguridad jurídica", dijo McNamara.
Antes de la prohibición, la UE calificaba principalmente los deepfakes y la 'nudificación' de problemas de contenido y violaciones de la privacidad y la transparencia. Aunque ninguna ley prohibía específicamente estas actividades, una mezcla de normativas sobre protección de datos, derechos de imagen, privacidad y responsabilidad de las plataformas las regulaba como IA de propósito general (GPAI) o sistemas de riesgo limitado.
"Una de las discusiones clave ha sido [...] si regular o no regular [los contenidos generados por IA], con la actual Administración de Estados Unidos abogando por un enfoque de no intervención", declaró McNamara a 'Euronews'.
La Ley de Servicios Digitales (DSA) es una normativa clave para las plataformas en línea. Sin embargo, es una herramienta reactiva que obliga a las grandes plataformas en línea (VLOP) a abordar los contenidos ilegales y la desinformación eliminando los 'deepfakes' sólo cuando tienen conocimiento de ellos. También exige mecanismos de notificación de deepfakes y otras medidas para mitigar los riesgos sistémicos derivados de sus plataformas.
- Las normas actuales de la Ley de IA sobre 'deepfakes' no impiden crear o compartir imágenes no consentidas. Solo obligan a los proveedores a revelar el uso de IA en la creación de contenidos en línea y a los usuarios a etiquetar claramente los contenidos sintéticos. Tampoco está prevista la reparación de las víctimas. La ley trata las imágenes íntimas no consentidas (NCII) y el material de abuso sexual infantil (CSAM) en términos de transparencia, permitiendo una discreción significativa al proveedor bajo el Código de Prácticas GPAI.
El Reglamento General de Protección de Datos (RGPD) es una normativa general sobre privacidad, no adaptada específicamente a los contenidos sintéticos. Aborda el tratamiento ilícito de los datos de las personas sin prohibir los 'deepfakes' en su forma actual ni crear soluciones centradas en las víctimas. Las imágenes íntimas no consentidas provocan humillación y daños a la reputación, que requieren recursos más allá de la protección de datos, como el acoso, la difamación y el derecho penal.
La Directiva 2024/1385 de la UE sobre la violencia contra las mujeres en línea y fuera de línea tipifica como delito la violencia de género facilitada por la tecnología (TFGBV). Esto incluye herramientas digitales para vigilar, acosar y silenciar a mujeres y niñas. Aunque garantiza la protección jurídica contra el contenido sexual deepfake, el texto no se refiere específicamente a las aplicaciones de nudificación.