Más de 20 chicas españolas han denunciado haber recibido imágenes suyas desnudas generadas por inteligencia artificial. Pero, ¿pueden castigarse legalmente los deepfakes?
PUBLICIDADrecibieron en sus móviles fotos en las que aparecían desnudas.
Ninguna de ellas se había hecho esas fotografías, pero parecían completamente reales.
Las imágenes habían sido robadas de sus cuentas de instagram y creadas con una aplicación que utiliza Inteligencia Artificial para distribuirlas en grupos de Whatsapp.
Las menores salían completamente vestidas en las fotografías reales, pero la aplicación conseguía que el desnudo pareciese completamente real.
"Los montajes son superrealistas, es muy preocupante y una auténtica barbaridad", contaba Miriam Al Adib, una de las madres de las niñas, en su cuenta de instagram.
“Me lo contó mi hija con un disgusto tremendo, me dijo: Mamá, mira lo que me han hecho”, añadía.
Al Adib incluso aseguraba que las fotografías podrían haber llegado a portales de internet como Onlyfans o páginas pornográficas. Todo mientras las niñas aguantaban los comentarios de sus compañeros.
-”No os quejéis, que luego subís fotos que casi se os ve el coño”, le dijeron a una de las niñas.
La más joven de las afectadas tiene tan solo 11 años y está en sexto de primaria.
Otra de las madres afectadas, Fátima Gómez, contaba en el canal de televisión Extremadura TV que a su hija le habían llegado a extorsionar.
Su hija le enseñó una conversación con un chico en la que él le pedía dinero, al negarse recibió una foto de ella desnuda.
Las madres se han organizado para denunciar lo ocurrido y la Policía Nacional ha confirmado que ha abierto una investigación y ya ha identificado a varios menores supuestamente implicados.
Algunos de ellos son compañeros de clase de las niñas, tal y como confirmaba en rueda de prensa el subdelegado del Gobierno de la región, Francisco Mendoza.
El caso ha sido puesto en manos de la Fiscalía de Menores y el propio alcalde de la localidad advertía: “puede haberse iniciado como una broma, pero la trascendencia es mucho mayor y puede tener consecuencias graves para los que hayan elaborado estas fotografías”.
10 euros por 25 fotografías de desnudos
Las creaciones hiperrealistas realizadas con inteligencia artificial, más conocidas como deepfakes, fueron realizadas con la aplicación ClothOff.
Bajo el lema “Desnuda a cualquiera, desnuda a una chica gratis”, la aplicación permite desvestir a cualquier persona que aparezca en una fotografía en la galería de imágenes del teléfono. Cuesta casi 10 euros usar su Inteligencia Artificial para crear 25 imágenes de personas sin ropa.
A pesar de que los desnudos no son reales, el sufrimiento de las niñas al ver su fotografía sí lo ha sido y eso es precisamente lo que denuncian las madres.
“No sois conscientes del daño que habéis hecho a todas las chicas. No sois conscientes, además, del delito que habéis cometido”, aseguraba Al Adib en su cuenta de instagram.
PUBLICIDAD“A mi hija le ha dicho uno que ha hecho cosas con su foto”, decía otra de las madres al diario El País.
Pero, ¿puede castigarse este delito al tratarse de deepfakes?
“Una cuestión es que deba castigarse y otra es que pueda castigarse tal como está redactada la ley en el caso de España y en los demás países de la Unión Europea”, asegura a Euronews Manuel Cancio, catedrático de Derecho Penal de la Universidad Autónoma de Madrid.
El catedrático señala que hay un vacío legal ya que usar las caras de las menores en las fotografías afecta a su intimidad, pero al hablar de delitos en los que se difunden imágenes íntimas, es la imagen en su conjunto la que atenta contra la intimidad.
“Como está generada por deepfake, no se está afectando a la intimidad real de la persona en cuestión. El efecto que tiene (sobre la víctima) puede ser muy parecido a que realmente las hubieran grabado desnudas, pero la ley va un paso por detrás”, añade.
PUBLICIDADCancio asegura que el encaje legal que tendría lo sucedido sería un delito de ataque a la integridad moral, “un especie de cajón desastre para cuando no sabemos dónde encajarlo”.
En marzo del 2022 la Comisión Europea, en una directiva en relación a crímenes por vía informática, proponía que se criminalizasen este tipo de delitos. Según el catedrático, el Código Penal holandés es el único que cuenta con un precepto que lo podría cubrir.
¿Puede considerarse pornografía infantil?
Los expertos difieren sobre si el delito podría considerarse distribución de pornografía infantil o estar castigados con penas mayores y prefieren ser cautos.
Para Leandro Núñez, abogado especializado en nuevas tecnologías del bufete Audens, la clave no está en que la fotografía sea cien por cien real, sino que aparente ser real.
“Lo más relevante es si la cara es identificable. Podríamos estar hablando de pornografía infantil, delitos contra la integridad moral o una divulgación de imágenes de contenido sexual no consentido”, asegura a Euronews el abogado.
PUBLICIDAD“En el caso de que sea un delito contra la integridad moral, no sería clasificado como delito muy grave, por lo que tendría penas menos elevadas de seis meses a dos años de prisión”, añade.
Otros expertos, como Eloi Font, abogado en Font Advocats a law firm specialised in Digital Law, sí creen que podría encajarse como delito similar a cuando se reproducen imágenes sexuales de menores.
En ese caso, la pena se podría situar en una horquilla de entre cinco y nueve años de cárcel.