Dinamarca busca proteger a los ciudadanos daneses, así como a intérpretes y artistas cuya imagen o voz pueda ser imitada y difundida sin su consentimiento.
En 2021, la streamer danesa de videojuegos Marie Watson recibió una imagen suya de una cuenta desconocida de Instagram.
Reconoció al instante la foto de vacaciones de su cuenta de Instagram, pero algo era distinto. Le habían quitado la ropa de forma digital para hacerla parecer desnuda. Era un deepfake.
"Me sobrepasó muchísimo", recordó Watson. "Me puse a llorar de repente, porque de pronto estaba ahí desnuda".
En los cuatro años transcurridos desde su experiencia, los deepfakes, imágenes, vídeos o audios muy realistas de personas o hechos reales generados por inteligencia artificial (IA), no solo se han vuelto más fáciles de crear en todo el mundo, también parecen o suenan exponencialmente más reales.
Se debe a los avances tecnológicos y a la proliferación de herramientas de IA generativa, incluidas las de generación de vídeo de OpenAI y Google.
Estas herramientas permiten a millones de usuarios producir contenido con facilidad, también con fines ilícitos que van desde recrear a celebridades como Taylor Swift y Katy Perry hasta alterar elecciones y humillar a adolescentes y mujeres.
Ley de derechos de autor
Como respuesta, Dinamarca busca proteger tanto a los ciudadanos de a pie como a intérpretes y artistas cuya apariencia o voz puedan ser imitadas y difundidas sin permiso.
Un proyecto de ley que se espera aprobar a comienzos del próximo año modificaría la legislación sobre derechos de autor para prohibir la difusión de deepfakes y así proteger los rasgos personales de los ciudadanos, como su apariencia o su voz, frente a imitaciones y publicaciones en línea sin su consentimiento.
Si se aprueba, los ciudadanos daneses obtendrían derechos de autor sobre su propia imagen. En teoría, podrían exigir a las plataformas que retiren contenidos difundidos sin su permiso. La ley seguiría permitiendo la parodia y la sátira, aunque no está claro cómo se determinará.
Expertos y autoridades afirman que la legislación danesa estaría entre las medidas más amplias adoptadas por un gobierno para combatir la desinformación mediante deepfakes.
Henry Ajder, fundador de la consultora Latent Space Advisory y uno de los principales expertos en IA generativa, dijo que aplaude al Gobierno danés por reconocer que la ley debe cambiar.
"Porque ahora mismo, cuando la gente pregunta '¿qué puedo hacer para protegerme de que me hagan un deepfake?', la respuesta que tengo que dar la mayoría de las veces es 'no hay mucho que puedas hacer'", dijo, "sin llegar a decir 'bórrate de internet por completo'. Lo cual no es realmente posible".
Añadió, "No podemos fingir que esto es lo de siempre en la forma en que pensamos esas partes clave de nuestra identidad y nuestra dignidad".
Deepfakes y desinformación
El presidente de Estados Unidos, Donald Trump, firmó en mayo una ley bipartidista que tipifica como delito publicar o amenazar con publicar imágenes íntimas sin el consentimiento de la persona, incluidos deepfakes.
El año pasado, Corea del Sur adoptó medidas para frenar la pornografía con deepfakes, entre ellas castigos más duros y normas más estrictas para las plataformas de redes sociales.
El ministro de Cultura danés, Jakob Engel-Schmidt, dijo que el proyecto cuenta con un amplio apoyo de los legisladores en Copenhague, porque estas manipulaciones digitales siembran dudas sobre la realidad y difunden desinformación.
"Si puedes hacer un deepfake de un político sin que él o ella pueda lograr que se retire, eso socavará nuestra democracia", dijo a periodistas durante una conferencia sobre IA y derechos de autor en septiembre.
El equilibrio adecuado
La ley solo se aplicaría en Dinamarca y es poco probable que implique multas o cárcel para los usuarios de redes sociales. Pero las grandes plataformas tecnológicas que no retiren deepfakes podrían afrontar multas severas, dijo Engel-Schmidt.
Ajder señaló que YouTube, propiedad de Google, por ejemplo, tiene un "sistema muy, muy bueno para lograr el equilibrio entre la protección de los derechos de autor y la libertad creativa".
Los esfuerzos de la plataforma sugieren que reconoce "la magnitud del reto que ya tenemos y lo mucho que va a agravarse", añadió.
Twitch, TikTok y Meta, propietaria de Facebook e Instagram, no respondieron a las solicitudes de comentario.
Engel-Schmidt afirmó que Dinamarca, que ostenta en la actualidad la presidencia rotatoria de la Unión Europea, ha suscitado interés por su propuesta legislativa entre varios socios de la UE, entre ellos Francia e Irlanda.
El abogado de propiedad intelectual Jakob Plesner Mathiasen dijo que la legislación evidencia la necesidad generalizada de combatir un peligro en línea que ya se ha infiltrado en todos los ámbitos de la vida danesa.
"Creo que esto deja claro que el ministerio no habría elaborado este proyecto si no hubiera motivos", dijo.
"Lo vemos con las noticias falsas, con las elecciones. Lo vemos con la pornografía y también con personas famosas y con gente corriente, como tú y yo".
La 'Danish Rights Alliance', que protege los derechos de las industrias creativas en internet, apoya el proyecto porque, según su directora, la actual ley de derechos de autor no llega lo suficientemente lejos.
El actor de doblaje danés David Bateson, por ejemplo, se vio indefenso cuando clones de su voz generados por IA se compartieron en línea entre miles de usuarios. Bateson puso voz a un personaje del popular videojuego 'Hitman', además de a los anuncios en inglés de la juguetera danesa Lego.
"Cuando denunciamos esto a las plataformas, dicen 'De acuerdo, pero ¿a qué normativa se refiere?'", dijo Maria Fredenslund, abogada y directora de la alianza.
"No podíamos señalar una norma exacta en Dinamarca".
"Una vez está en internet, se acabó"
Watson había oído hablar de otras influencers que encontraron en internet imágenes suyas manipuladas digitalmente, pero nunca pensó que le pudiera pasar.
Al adentrarse en un lado oscuro de la red, donde usuarios anónimos venden y comparten imágenes deepfake, a menudo de mujeres, dijo que le sorprendió lo fácil que era crear esas fotos con herramientas disponibles en línea.
"Bastaba literalmente con buscar 'deepfake generator' en Google o 'how to make a deepfake' y aparecían todas esas webs y generadores", dijo Watson, de 28 años.
Celebra que su Gobierno esté actuando, pero no es optimista. Cree que hay que ejercer más presión sobre las plataformas sociales.
"No debería ser posible subir este tipo de imágenes", dijo. "Una vez está en internet, se acabó. No puedes hacer nada, se escapa a tu control".