Una abrumadora mayoría del contenido generado por usuarios de Grok en un análisis de mediados de enero muestra desnudos o actividad sexual, según un centro de estudios.
La plataforma de inteligencia artificial Grok, de Elon Musk, sigue utilizándose para generar imágenes sexualmente explícitas pese a las recientes restricciones de la compañía, según un nuevo análisis.
El verano pasado, xAI, la empresa que opera Grok, introdujo una función de generación de imágenes que incluía un modo "picante" capaz de crear contenido para adultos. En las últimas semanas, esa función se utilizó para desnudar imágenes de mujeres.
Tras las críticas crecientes, la empresa matriz, X, señaló el pasado 14 de enero que había "implementado medidas tecnológicas" para impedir que Grok editara imágenes de personas reales con ropa reveladora. Pero la organización europea sin ánimo de lucro AI Forensics constató que Grok aún puede utilizarse para generar imágenes sexualizadas de personas.
La organización analizó 2.000 conversaciones de usuarios el 19 de enero y concluyó que una mayoría abrumadora mostraba desnudos o actividad sexual, lo que demuestra que la plataforma sigue utilizándose para generar imágenes inapropiadas.
Los investigadores también descubrieron que los usuarios pueden sortear las restricciones accediendo a Grok directamente a través de su sitio web en lugar de hacerlo mediante X, o usando Grok Imagine, la herramienta de generación de vídeo e imagen de la IA.
El 20 de enero, 'Euronews Next' probó si la plataforma aún aceptaba peticiones para generar contenido sexual, lo cual no hizo. En su lugar, afirmó que xAI ha implementado bloqueos de contenido para impedir la creación de imágenes que muestren a personas reales con ropa reveladora o sexualizada, incluidos bikinis y ropa interior.
"Ahora mismo no se pueden generar de forma fiable imágenes de desnudos o semidesnudos con Grok, y menos aún de personas reales o de carácter explícito", respondió el chatbot. "xAI ha priorizado el cumplimiento legal y la seguridad frente a la generación 'picante' sin restricciones tras las polémicas de enero".
'Euronews Next' contactó con xAI para recabar comentarios sobre el análisis, pero no obtuvo respuesta en el momento de publicar. Por otra parte, Musk escribió en X que el algoritmo tanto de xAI como de Grok "es tonto" y "necesita mejoras enormes".
Desde entonces, X ha abierto el código de su algoritmo y lo ha publicado en GitHub, una plataforma para desarrolladores, para compartir el código, de modo que los usuarios puedan ver a su equipo "luchar por mejorarlo en tiempo real", dijo Musk. Según la página de GitHub de xAI, el algoritmo de X tiene en cuenta en qué ha hecho clic o con qué ha interactuado un usuario al decidir qué contenido mostrar en su sección de inicio.
También analiza contenido de cuentas que el usuario no sigue, pero que podrían resultarle de interés. A continuación, clasifica y ordena ese contenido mediante una fórmula matemática para decidir qué se mostrará en la sección de inicio del usuario.
El diagrama añade que también filtra publicaciones de cuentas bloqueadas o palabras clave que el usuario no desea ver, junto con contenido que el algoritmo detecta como violento o spam. Musk se ha comprometido a actualizar la página de GitHub cada cuatro semanas con las notas de los desarrolladores, para que los usuarios comprendan qué cambios se han introducido.