La función de «detección de similitud» de la empresa de redes sociales está dirigida a los políticos que afrontan el aluvión de desinformación en línea.
TikTok ha anunciado este viernes que ha empezado a desplegar una función opcional llamada 'Likeness Detection' para ayudar a los creadores a localizar y marcar el contenido generado por IA que utiliza su imagen en la plataforma, mientras la compañía intenta combatir la desinformación producida con IA.
La herramienta está dirigida a ayudar a personajes públicos, incluidos miembros de gobiernos, políticos y cuentas de partidos, a detectar y denunciar contenido generado por IA que use su imagen sin consentimiento.
La medida llega en un momento en que Europa ya se enfrenta a una ola de campañas de desinformación y de deepfakes impulsadas por IA que alteran sus procesos electorales y, con otros nueve países europeos llamados a las urnas en los próximos 12 meses, podría resultar decisiva.
Los usuarios que cumplan los requisitos pueden inscribirse verificando su identidad con un socio externo de confianza. Después se les avisa cuando contenidos y cuentas de TikTok pueden estar utilizando su imagen y pueden revisarlos dentro de la propia herramienta.
A continuación, los usuarios pueden informar directamente a los equipos de seguridad de TikTok sobre esos contenidos para que los examinen y actúen.
La Unión Europea empezó a aplicar el pasado 2 de agosto las normas de transparencia sobre inteligencia artificial previstas en la Ley de IA (AI Act), que incluyen la obligación de etiquetar los deepfakes y otros contenidos generados por IA.
TikTok ha hecho esfuerzos en los últimos años para frenar los deepfakes, como exigir a los creadores que etiqueten las imágenes, audios y vídeos realistas generados por IA, tal y como también establece la Ley de IA.
Identify AI-Generated Content
La compañía también ha lanzado una nueva herramienta de transparencia para que los usuarios comprueben si un contenido se ha creado o editado con las funciones de creación de la propia red social.
TikTok señaló que la herramienta 'Identify AI-Generated Content' es gratuita y puede utilizarla cualquier persona, incluso quienes no tengan cuenta.
La plataforma permite subir una imagen o un vídeo para comprobar si se ha generado o editado con las herramientas de IA propias de TikTok, incluidas las aplicaciones CapCut, Dreamina, Hypic y Pippit de su empresa matriz, ByteDance.
Admite una amplia gama de formatos, entre ellos los más habituales como JPEG, PNG y MP4, con un límite de tamaño de 20 megabytes por imagen o 100 megabytes por cada vídeo o archivo de audio.
La herramienta busca dos señales de que el contenido ha sido generado con IA: credenciales en los metadatos incorporadas por las aplicaciones de TikTok y ByteDance, y marcas de agua invisibles incrustadas directamente en el contenido, más difíciles de eliminar.
La empresa ha asegurado que la herramienta borra todo el contenido en cuanto se ha subido y verificado, y que nunca se utiliza para entrenar modelos de IA.
TikTok advierte a los usuarios de que la herramienta solo detecta si un contenido ha sido creado o editado con sus propias herramientas de IA o con aplicaciones de ByteDance, por lo que no es un método infalible para identificar contenido generado por IA.