Encuéntranos
Publicidad

TikTok lanza una herramienta para que figuras públicas detecten deepfakes y frenen la desinformación

Compartir Comentarios Sigue a Euronews en Google
Fuente: Foto AP
Fuente: AP Photo -  Derechos de autor  Copyright 2018 The Associated Press. All rights reserved
Derechos de autor Copyright 2018 The Associated Press. All rights reserved
Por Jonathan Benton
Publicado
Compartir Close Button

La función de «detección de similitud» de la empresa de redes sociales está dirigida a los políticos que afrontan el aluvión de desinformación en línea.

TikTok ha anunciado este viernes que ha empezado a desplegar una función opcional llamada 'Likeness Detection' para ayudar a los creadores a localizar y marcar el contenido generado por IA que utiliza su imagen en la plataforma, mientras la compañía intenta combatir la desinformación producida con IA.

PUBLICIDAD
PUBLICIDAD

La herramienta está dirigida a ayudar a personajes públicos, incluidos miembros de gobiernos, políticos y cuentas de partidos, a detectar y denunciar contenido generado por IA que use su imagen sin consentimiento.

La medida llega en un momento en que Europa ya se enfrenta a una ola de campañas de desinformación y de deepfakes impulsadas por IA que alteran sus procesos electorales y, con otros nueve países europeos llamados a las urnas en los próximos 12 meses, podría resultar decisiva.

Los usuarios que cumplan los requisitos pueden inscribirse verificando su identidad con un socio externo de confianza. Después se les avisa cuando contenidos y cuentas de TikTok pueden estar utilizando su imagen y pueden revisarlos dentro de la propia herramienta.

A continuación, los usuarios pueden informar directamente a los equipos de seguridad de TikTok sobre esos contenidos para que los examinen y actúen.

La Unión Europea empezó a aplicar el pasado 2 de agosto las normas de transparencia sobre inteligencia artificial previstas en la Ley de IA (AI Act), que incluyen la obligación de etiquetar los deepfakes y otros contenidos generados por IA.

TikTok ha hecho esfuerzos en los últimos años para frenar los deepfakes, como exigir a los creadores que etiqueten las imágenes, audios y vídeos realistas generados por IA, tal y como también establece la Ley de IA.

Identify AI-Generated Content

La compañía también ha lanzado una nueva herramienta de transparencia para que los usuarios comprueben si un contenido se ha creado o editado con las funciones de creación de la propia red social.

TikTok señaló que la herramienta 'Identify AI-Generated Content' es gratuita y puede utilizarla cualquier persona, incluso quienes no tengan cuenta.

La plataforma permite subir una imagen o un vídeo para comprobar si se ha generado o editado con las herramientas de IA propias de TikTok, incluidas las aplicaciones CapCut, Dreamina, Hypic y Pippit de su empresa matriz, ByteDance.

Admite una amplia gama de formatos, entre ellos los más habituales como JPEG, PNG y MP4, con un límite de tamaño de 20 megabytes por imagen o 100 megabytes por cada vídeo o archivo de audio.

La herramienta busca dos señales de que el contenido ha sido generado con IA: credenciales en los metadatos incorporadas por las aplicaciones de TikTok y ByteDance, y marcas de agua invisibles incrustadas directamente en el contenido, más difíciles de eliminar.

La empresa ha asegurado que la herramienta borra todo el contenido en cuanto se ha subido y verificado, y que nunca se utiliza para entrenar modelos de IA.

TikTok advierte a los usuarios de que la herramienta solo detecta si un contenido ha sido creado o editado con sus propias herramientas de IA o con aplicaciones de ByteDance, por lo que no es un método infalible para identificar contenido generado por IA.

Ir a los atajos de accesibilidad
Compartir Comentarios Sigue a Euronews en Google

Noticias relacionadas