La Comisión Europea ha abierto una investigación formal sobre Grok, el chatbot de inteligencia artificial integrado en X, por su uso para generar imágenes sexualizadas no consentidas de mujeres y menores de edad.
Las plataformas en línea como X tienen "obligaciones muy claras" de restringir los contenidos ilegales, declaró el martes la responsable de tecnología de la UE, Henna Virkkunen, en el programa matinal Europe Today de 'Euronews', un día después de que la UE abriera una investigación formal a Grok, el chatbot de inteligencia artificial (IA), por difundir imágenes sexualizadas de mujeres reales y niñas menores de edad sin su consentimiento.
"Los proveedores de servicios deben aplicar prácticas que garanticen que no se difunden contenidos ilegales", declaró la vicepresidenta ejecutiva de la Comisión Europea. Virkkunen añadió que el Ejecutivo también está analizando otros riesgos relacionados con Grok más allá de la función de imágenes ahora modificada.
Grok es un chatbot de inteligencia artificial desarrollado por la empresa de Elon Musk xAIe integrado en su plataforma de redes sociales X. El lunes, la Comisión inició una investigación formal sobre Grok, a raíz de la preocupación generalizada por su función de edición de imágenes. La herramienta generó millones de imágenes de este tipo en cuestión de semanas.
La Comisión ha estado en contacto con X
Virkkunen confirmó que la investigación se centra en si X ha cumplido con sus obligaciones en virtud de la Ley de Servicios Digitales (DSA) para evaluar y mitigar los riesgos sistémicos. "Grok está cada vez más integrado en los servicios de X, así que es importante ver cómo se están cuidando esos riesgos", dijo.
Si se descubre que X ha incumplido la DSA, podría enfrentarse a multas de hasta el 6% de su facturación anual global. La empresa ya ha sido sancionada una vez: el pasado diciembre, la Comisión multó a la empresa con 120 millones de euros por marcas de verificación de cuentas y prácticas publicitarias engañosas.
A pesar de las críticas abiertas de Musk a la normativa de la UE, Virkkunen dijo que la Comisión ha estado en contacto permanente con X. El Ejecutivo ya había pedido información a la empresa sobre cómo evalúa los riesgos y le ordenó conservar documentos relacionados con Grok y X antes del procedimiento formal.
Presiones de Washington para reducir la normativa digital
La investigación sobre Grok se desarrolla en un contexto de crecientes tensiones transatlánticas sobre las normas tecnológicas de la UE. También el lunes, la plataforma estadounidense WhatsApp, propiedad de Meta, fue designada "plataforma en línea muy grande" en virtud de la DSA, sometiéndola a la supervisión más estricta del bloque.
Al mismo tiempo, se ha intensificado el cabildeo del sector tecnológico en Bruselas, con un gasto estimado en más de 150 millones de euros al año, según una investigación de una ONG. Las empresas tecnológicas estadounidenses y la Administración Trump han acusado a Bruselas de exceso de regulación, argumentando que leyes como la DSA, la Ley de Mercados Digitales y la Ley de Inteligencia Artificial ahogan la innovación.
Preguntado por las presiones de Washington para revertir las normas, Virkkunen se mostró firme: "Estas normas digitales son muy importantes para los europeos", afirmó. "Queremos asegurarnos de que nuestros ciudadanos puedan confiar en las tecnologías, que nuestro entorno digital sea justo, transparente, democrático y seguro".
Equilibrio entre regulación e innovación
A menudo se presenta a la UE como más reguladora que innovadora, crítica que Virkkunen rebatió afirmando que de lo que se trata es de encontrar un equilibrio. "Impulsar la innovación, pero al mismo tiempo ser conscientes de los riesgos", dijo.
Además de la regulación, Virkkunen destacó los esfuerzos por hacer Europa más atractiva para las empresas emergentes y de nueva creación, incluidos los planes para el llamado '28º régimen', un marco jurídico diseñado para facilitar a las empresas operar en toda la UE.
"Estamos simplificando los procesos y las normas, creando un mejor mercado único e impulsando los mercados de capitales para que las nuevas empresas tengan acceso a la financiación", dijo. "Europa tiene todo lo que necesita para ser competitiva".
Al preguntar a Virkkunen por el nuevo acuerdo comercial UE-India, afirmó que era "una gran noticia para todos", señalando la cooperación tecnológica que sería un pilar clave de la relación, sobre todo en lo que se refiere al talento.
"India tiene muchos expertos en TIC, y en Europa nos falta mucha mano de obra", dijo Virkkunen, argumentando que unos lazos más estrechos podrían ayudar a atraer a profesionales cualificados para cubrir el déficit de competencias digitales de Europa.