Grok fue duramente criticado a principios del mes pasado por generar deepfakes de contenido sexual de mujeres y menores de edad.
El organismo británico de protección de datos abrió este martes una investigación sobre X y xAI para determinar si las empresas de Elon Musk han cumplido la legislación de protección de datos personales en relación con la generación de deepfakes de contenido sexual por parte del chatbot de IA Grok.
Se trata de una investigación más amplia en el Reino Unido sobre Grok, que afronta una ola de críticas internacionales por permitir a los usuarios crear y compartir imágenes sexualizadas de mujeres y menores a partir de simples instrucciones de texto.
"Los informes sobre Grok plantean interrogantes profundamente preocupantes sobre cómo se han utilizado los datos personales de las personas para generar imágenes íntimas o sexualizadas sin su conocimiento ni consentimiento, y sobre si se han establecido las salvaguardias necesarias para impedirlo", afirmó en un comunicado William Malcolm, director ejecutivo de riesgos regulatorios e innovación en la Oficina del Comisionado de Información.
"Perder el control de los datos personales de esta manera puede causar un daño inmediato y significativo. Esto es especialmente grave cuando hay menores implicados".
El mes pasado, el organismo independiente encargado de la seguridad en internet en el Reino Unido, Ofcom, abrió una investigación formal sobre X para determinar si está cumpliendo con su obligación de proteger a la ciudadanía frente a contenidos ilegales.
El chatbot, al que se accede a través de la red social X de Musk, fue duramente criticado el mes pasado porque permitió a los usuarios generar deepfakes de contenido sexual, principalmente de mujeres y menores.
Gobiernos de todo el mundo han condenado la plataforma y han abierto investigaciones sobre ella.
La semana pasada, la Comisión Europea abrió una investigación sobre la red social para determinar si hizo lo suficiente para reducir el riesgo de creación y difusión de estas imágenes.