Grok ha provocado numerosas críticas por generar imágenes falsas de desnudos en mujeres y menores de edad reales. Una comisión bipartidista del Congreso de Estados Unidos, impulsada por Paris Hilton, trata de legislar esta lacra, y la Fiscalía francesa registra la sede parisina de X este martes.
El organismo británico de protección de datos ha abierto este martes una investigación sobre X y xAI. Reino Unido pretende determinar si las empresas de Elon Musk han cumplido la legislación de protección de datos personales en relación con la generación de 'deepfakes' de contenido sexual o desnudos por parte del chatbot Grok.
PUBLICIDAD
PUBLICIDAD
Se trata de una investigación más amplia por parte del Gobierno británico sobre Grok, que afronta una ola de críticas internacionales por permitir a los usuarios crear y compartir imágenes sexualizadas de mujeres y menores a partir de simples instrucciones de texto.
"Los informes sobre Grok plantean interrogantes profundamente preocupantes sobre cómo se han utilizado los datos personales de las personas para generar imágenes íntimas o sexualizadas sin su conocimiento ni consentimiento, y sobre si se han establecido las salvaguardias necesarias para impedirlo", afirma en un comunicado William Malcolm, director ejecutivo de riesgos regulatorios e innovación en la Oficina del Comisionado de Información.
"Perder el control de los datos personales de esta manera puede causar un daño inmediato y significativo. Esto es especialmente grave cuando hay menores implicados", añade el comunicado. El mes pasado, el organismo independiente encargado de la seguridad en internet en el Reino Unido, Ofcom, abrió una investigación formal sobre X para determinar si está cumpliendo con su obligación de proteger a la ciudadanía frente a contenidos ilegales.
Gobiernos de todo el mundo han condenado la plataforma y han abierto investigaciones sobre ella. La semana pasada, la Comisión Europea abrió una investigación sobre la red social para determinar si hizo lo suficiente para reducir el riesgo de creación y difusión de estas imágenes. Además, la Fiscalía de París ha informado este mismo martes que está llevando a cabo un registro en la oficina francesa de X tras recibir informes sobre el posible uso del algoritmo de X para injerencia extranjera.
Paris Hilton aúna a republicanos y demócratas para frenar los 'deepfakes' en Estados Unidos
La empresaria multimillonaria se unió recientemente a las congresistas estadounidenses Alexandria Ocasio-Cortez y Laurel Lee, representantes del ala demócrata y republicana de la Cámara, respectivamente, para sacar adelante Defiance, una ley que persigue los casos que estudia Reino Unido.
El proyecto de ley, aprobado por unanimidad en el Senado y que ahora debe presentarse ante la Cámara de Representantes, brindaría a las víctimas de 'deepfakes' generados por IA una vía legal para presentar cargos contra sus abusadores. "No se trata solo de tecnología, se trata de poder", declaró Hilton. "Se trata de que alguien use la imagen de otra persona para humillarla, silenciarla y despojarla de su dignidad. Pero las víctimas merecen más que disculpas a posteriori; merecemos justicia".
Hilton afirmó que también ha sido blanco de 100.000 'deepfakes' sexualizados de IA. "Ninguno es real, ninguno es consensuado. Y cada vez que aparece uno nuevo, regresa esa horrible sensación, ese miedo de que alguien en algún lugar lo esté viendo ahora mismo y piense que es real", afirmó. "Take it Down nos permitió la eliminación, y Defience nos brindará recursos y restitución", declaró Ocasio-Cortez tras su presentación.