La medida se toma horas después de que el multimillonario declarase que no tenía conocimiento de ninguna "imagen de menores sin ropa" realizada por Grok.
Grok, el chatbot de inteligencia artificial de Elon Musk, no podrá generar o editar fotos en las que aparezcan personas reales desnudas en aquellos países donde esta práctica sea ilegal, según un comunicado publicado en su plataforma de redes sociales X, la antigua Twitter.
El anuncio se produjo a última hora del miércoles, tras la encendida reacción mundial contra las imágenes sexualizadas de mujeres y niños generadas por este chatbot. También se produce pocas horas después de que Musk declarase que no tenía conocimiento de ninguna "imagen de menores sin ropa" realizada por Grok. El miércoles, el estado de California anunció la apertura de una investigación sobre la proliferación de material sexual explícito no consentido producido con Grok.
La empresa de Musk, xAI, dice ahora que geobloqueará los contenidos si infringen las leyes de un lugar concreto. "Hemos implementado medidas tecnológicas para evitar que la cuenta Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis, ropa interior y otros atuendos reveladores", ha dicho.
La norma se aplicará a todos los usuarios, incluidos los suscriptores de pago, que tienen acceso a más funciones. xAI también ha limitado la creación o edición de imágenes sólo a los suscriptores de pago, "para garantizar que las personas que intenten abusar de la cuenta Grok para violar la ley o nuestras políticas puedan ser responsabilizadas".
Malasia e Indonesia han emprendido acciones legales y han bloqueado el acceso a Grok. El Reino Unido y la Unión Europea están investigando posibles violaciones de las leyes de seguridad en línea. Francia e India también han emitido advertencias, exigiendo controles más estrictos. Asimismo, Brasil ha reclamado una investigación sobre el uso indebido de Grok.
Las funciones de edición de Grok están "facilitando la producción a gran escala de imágenes íntimas 'deepfake' no consentidas que se están utilizando para acosar a mujeres y niñas en todo internet, incluso a través de la plataforma de medios sociales X", reza el anuncio de California.
"La avalancha de informes que detallan el material no consentido y sexualmente explícito que xAI ha producido y publicado en línea en las últimas semanas es espeluznante. Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en internet", afirma el comunicado citado por el fiscal general del Estado, Rob Bonta. "Tenemos tolerancia cero con la creación y difusión por internet de imágenes íntimas no consentidas o de material de abusos sexuales a menores", concluyó.