El chatbot de inteligencia artificial Grok ha comenzado a limitar la generación y edición de imágenes tras una reacción internacional por la difusión de 'deepfakes' sexualizados, lo que ha provocado críticas de gobiernos y la apertura de investigaciones en varios países.
Grok, el chatbot de inteligencia artificial impulsado por Elon Musk, ha comenzado a restringir la generación y edición de imágenes para la mayoría de los usuarios tras la reacción internacional provocada por la difusión de 'deepfakes' sexualizados, en su mayoría de mujeres.
En las últimas semanas, el chatbot, accesible a través de la red social X, atendió una oleada de solicitudes que los investigadores consideran maliciosas para modificar imágenes, incluidas fotografías de mujeres en bikini o en posturas sexualmente explícitas. En algunos casos, advirtieron, el material generado parecía mostrar a menores.
Ante la magnitud del problema, gobiernos de distintos países han condenado el comportamiento de la plataforma y han anunciado la apertura de investigaciones.
El viernes, Grok respondió a las solicitudes de edición de imágenes, asegurando que "la generación y edición de imágenes están actualmente limitadas a los suscriptores de pago. Puedes suscribirte para desbloquear estas funciones". Aunque las cifras de suscriptores de Grok no son públicas, se ha observado un descenso significativo en la cantidad de 'deepfakes' explícitos generados en comparación con días anteriores.
Entre las reacciones oficiales, la Unión Europea calificó el comportamiento de Grok de "ilegal" y "atroz", mientras que autoridades de Francia, India y Malasia, así como un legislador brasileño, reclamaron la apertura de investigaciones. En el Reino Unido, el primer ministro Keir Starmer amenazó el jueves con tomar medidas no especificadas contra X.
"Esto es vergonzoso. Es repugnante. Y no se puede tolerar", dijo Starmer en la emisora 'Greatest Hits'. "X tiene que controlar esto". Añadió que el regulador británico de medios, Ofcom, "tiene todo nuestro apoyo para tomar medidas" y que "todas las opciones" están sobre la mesa.
"Es repugnante. X tiene que ponerse las pilas y retirar este material. Tomaremos medidas al respecto porque, sencillamente, no es tolerable". Ofcom y el regulador británico de protección de datos confirmaron esta semana que se han puesto en contacto tanto con X como con xAI para solicitar información sobre las medidas adoptadas para cumplir la legislación del país.
Los expertos piden soluciones eficaces
Grok fue lanzado en 2023 y, el verano pasado, incorporó una función de generación de imágenes denominada Grok Imagine, que incluía un "modo picante" que permitía crear contenido para adultos.
El chatbot es gratuito para los usuarios de X, que pueden interactuar con él directamente en la plataforma, ya sea formulando preguntas o etiquetándolo en publicaciones y respuestas. En ese entorno, la generación y edición pública de imágenes ha quedado limitada a los usuarios de pago.
No obstante, estas funciones siguen estando disponibles dentro de la plataforma propia de Grok, lo que ha suscitado críticas de expertos en seguridad. Charlotte Wilson, responsable de empresas de Check Point, afirmó que restringir la edición de imágenes a los suscriptores de pago no constituye una solución eficaz.
"Puede reducir el uso indebido ocasional, pero no detendrá a los delincuentes decididos, y no hace nada por las víctimas cuyas imágenes ya han sido creadas, compartidas y almacenadas", señaló en un comunicado.
Según Wilson, el problema se agrava porque Musk ha presentado Grok como una alternativa más provocadora frente a otros chatbots con mayores salvaguardias, y porque las imágenes generadas son visibles públicamente, lo que facilita su rápida difusión en internet.
"Si las plataformas quieren demostrar que se toman esto en serio, tienen que tratarlo como un problema de respuesta a incidentes. Cerrar la brecha en el nivel de las modelos para que se bloqueen las solicitudes de desnudez y las ediciones, no sólo para desalentarlas", añadió.