Las autoridades de Corea del Sur anunciaron que reforzarán la revisión y la retirada de anuncios problemáticos generados con IA e impondrán multas punitivas.
Corea del Sur exigirá a los anunciantes que etiqueten sus anuncios elaborados con inteligencia artificial (IA) a partir del próximo año, con el objetivo de frenar la proliferación de promociones engañosas con supuestos expertos inventados o celebridades falsificadas con 'deepfake' que avalan productos alimentarios o farmacéuticos en las redes sociales.
Tras una reunión de coordinación de políticas presidida el miércoles por el primer ministro Kim Min-seok, los responsables anunciaron que intensificarán el examen y retirada de anuncios problemáticos generados con IA e impondrán multas punitivas, alegando riesgos crecientes para los consumidores, en especial las personas mayores que tienen dificultades para distinguir si un contenido está hecho con IA.
Lee Dong-hoon, director de política económica y financiera en la Oficina de Coordinación de Políticas del Gobierno, afirmó en una comparecencia que esos anuncios están "alterando el orden del mercado" y que "actuar con rapidez es ahora esencial".
"Se obligará a cualquiera que cree, edite y publique fotos o vídeos generados con IA a etiquetarlos como elaborados con IA, y se prohibirá a los usuarios de la plataforma eliminar o manipular esas etiquetas", dijo.
Los anuncios generados con IA que recurren a supuestos expertos fabricados digitalmente o a vídeos y audios de celebridades falsificados con 'deepfake', que promocionan desde pastillas para adelgazar y cosméticos hasta sitios de juego ilegales, se han convertido en habituales en YouTube, Facebook y otras plataformas sociales en Corea del Sur.
El Gobierno intentará revisar la ley de telecomunicaciones y otras normas relacionadas para que la obligación de etiquetar los contenidos generados con IA, junto con una vigilancia reforzada y medidas punitivas, pueda entrar en vigor a comienzos de 2026. Las empresas que operan las plataformas también serán responsables de asegurar que los anunciantes cumplen las reglas de etiquetado, añadió Lee.
La IA alimenta el auge de los anuncios falsos
Los responsables aseguran que resulta cada vez más difícil vigilar y detectar el creciente número de anuncios falsos alimentados por la IA. El Ministerio de Seguridad Alimentaria y Farmacéutica de Corea del Sur identificó más de 96.700 anuncios ilegales online de alimentos y productos farmacéuticos en 2024 y 68.950 hasta septiembre de este año, frente a unos 59.000 en 2023.
El problema se extiende también a ámbitos como la educación privada, los cosméticos y los servicios de juego ilegal, lo que deja a la Agencia del Consumidor de Corea y a otros organismos de control luchando por seguir el ritmo, según la Oficina de Coordinación de Políticas del Gobierno.
Más allá de los anuncios engañosos y la desinformación, Corea del Sur también lidia con abusos sexuales facilitados por la IA y otras tecnologías digitales. Un Tribunal de Seúl condenó el mes pasado a cadena perpetua a un hombre de 33 años por dirigir una red de chantaje en online que explotó o abusó sexualmente de más de 200 víctimas, entre ellas numerosos menores amenazados con 'deepfakes' y otras imágenes y vídeos sexuales manipulados.
Los responsables prevén elevar las multas y además introducir sanciones punitivas el próximo año para desincentivar la creación de anuncios falsos generados con IA, y advierten de que quienes difundan a sabiendas información falsa o fabricada online o a través de otras redes de telecomunicaciones podrían ser responsables de indemnizaciones de hasta cinco veces las pérdidas causadas.
Asimismo, reforzarán la vigilancia y acelerarán los procedimientos de retirada, con revisiones en un máximo de 24 horas e implantando un proceso de emergencia para bloquear anuncios dañinos incluso antes de concluir la deliberación. También prevén potenciar las capacidades de supervisión del Ministerio de Seguridad Alimentaria y Farmacéutica y de la Agencia del Consumidor de Corea, usando la IA, por supuesto.
Pese a los riesgos, crece la apuesta de Corea del Sur por la IA
El primer ministro Kim, número dos del país por detrás del presidente Lee Jae Myung, dijo durante la reunión de coordinación de políticas que es crucial "minimizar los efectos secundarios de las nuevas tecnologías" a medida que el país abraza la "era de la IA".
Los planes para etiquetar los anuncios generados con IA se anunciaron mientras Lee, en una reunión aparte con líderes empresariales, reiteraba las ambiciones de su Gobierno en materia de IA, comprometiendo esfuerzos nacionales para reforzar las capacidades de Corea del Sur en chips informáticos avanzados que impulsan la carrera global por la IA.
Los planes del Gobierno incluyen más inversión en I+D para chips específicos de IA y otros productos semiconductores avanzados, así como ampliar los polos de fabricación de chips más allá de las áreas metropolitanas cercanas a la capital, Seúl, hacia las regiones del sur. Los fabricantes surcoreanos de chips, entre ellos Samsung Electronics y SK Hynix, sumaron más del 65% del mercado mundial de chips de memoria el año pasado.