El regulador Ofcom está investigando a X en virtud de la Ley de Seguridad Online. "Hemos decidido abrir una investigación formal para determinar si X ha incumplido sus obligaciones legales en virtud de la Ley de Seguridad en Línea".
El organismo de control de los medios de comunicación del Reino Unido está investigando la plataforma de redes sociales X de Elon Musk por el uso del chatbot de inteligencia artificial (IA) Grok, que ha sido objeto de escrutinio por haber sido utilizado indebidamente para generar imágenes sexualmente explícitas y no consentidas.
En un comunicado, Ofcom afirma que ha habido "informes muy preocupantes" sobre el uso del chatbot para crear y compartir imágenes de personas sin ropa, así como "imágenes sexualizadas de niños".
La plataforma de inteligencia artificial fue bloqueada en Malasia e Indonesia el fin de semana después de que las autoridades dijeran que se estaba utilizando indebidamente para generar deepfakes sexuales no consentidas.
Lanzado en 2023, Grok es de uso gratuito en X. Los usuarios pueden hacer preguntas al chatbot en la plataforma de redes sociales y etiquetar publicaciones creadas directamente por ellos o respuestas a publicaciones de otros usuarios. El verano pasado, la empresa añadió una función generadora de imágenes, Grok Imagine, que incluía el llamado "modo picante", capaz de generar contenido para adultos.
Si X no cumple los requisitos de Ofcom, el organismo de control de los medios de comunicación puede solicitar una orden judicial que obligue a los proveedores de servicios de Internet a bloquear totalmente el acceso al sitio en el Reino Unido.
Si se demuestra que X ha infringido la ley, Ofcom podría imponerle una multa de hasta el 10% de sus ingresos mundiales o 18 millones de libras (20 millones de euros). La secretaria de Tecnología del Reino Unido, Liz Kendal, hablará el lunes por la tarde sobre Grok.