La investigación formal sobre X llega tras las protestas por la incapacidad de la plataforma para impedir la creación de imágenes sexualmente explícitas de personas reales, incluidos niños.
La Comisión Europea ha abierto una investigación formal sobre Grok, el chatbot de X, después de que la función de edición de imágenes de su herramienta de IA incorporada se utilizara ampliamente para desnudar virtualmente fotos de mujeres reales y niñas sin su consentimiento.
Como informó en primer lugar 'Handelsblatt', la investigación analizará si la plataforma de redes sociales hizo lo suficiente para mitigar el riesgo de que se crearan y difundieran las imágenes.
Si se descubre que X ha infringido las normas de la UE sobre plataformas en línea, en virtud de la Ley de Servicios Digitales (DSA) del bloque, la Comisión Europea podría multar a la empresa con hasta el 6% de su facturación anual global. El pasado diciembre, la Comisión Europea multó a la red social de Elon Musk con 120 millones de euros por sus marcas de verificación de cuentas y sus prácticas publicitarias.
La polémica función de pago conocida como 'modo picante'
Los problemas surgieron el verano pasado después de que la herramienta de inteligencia artificial integrada en la plataforma, Grok, fuera mejorada con una función de pago conocida como 'modo picante', que permitía a los usuarios incitarla a crear contenido explícito. Elon Musk se burló de las protestas en un post de su cuenta X.
A principios de este mes, mientras crecía la indignación mundial por la función, un portavoz de la Comisión condenó esta funcionalidad en los términos más enérgicos. "Esto no es 'picante'", dijeron. "Esto es ilegal. Es atroz. Es repugnante. Esto no tiene cabida en Europa".
En respuesta a la indignación y la alarma públicas, X acabó aplicando medidas para impedir que Grok permitiera la edición de imágenes de personas reales para ponerlas en ropa reveladora y situaciones sexuales, con restricciones aplicables a todos los usuarios, incluidos los suscriptores de pago.
X también declaró que se habían retirado de la plataforma las imágenes de menores alteradas por Grok con contenido sexual y que los usuarios implicados en su creación habían sido expulsados.
Las imágenes han sido retiradas, pero el mal ya está hecho
"Tomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM, por sus siglas en inglés), eliminándolo, suspendiendo permanentemente las cuentas y trabajando con los gobiernos locales y las fuerzas de seguridad según sea necesario", publicó la cuenta de X Safety.
No es la primera vez que Grok es objeto de escrutinio por presuntas infracciones de la legislación europea. El pasado noviembre, el chatbot de inteligencia artificial generó contenidos que negaban el Holocausto.
Actualmente, se están llevando a cabo investigaciones sobre el chatbot de la plataforma en Francia, Reino Unido y Alemania, así como en Australia. Grok ha sido prohibido en Indonesia y Malasia. La Comisión dijo que había enviado una solicitud de información en virtud de la DSA, y que todavía está analizando la respuesta.