La organización europea sin ánimo de lucro AI Forensics descubrió un "ecosistema de abusos" que operaba en Telegram, con usuarios que distribuían y vendían contenidos sexuales sin consentimiento a través de las fronteras a pesar de los esfuerzos de moderación de la plataforma.
Una red a gran escala de unas 25.000 personas difundió material sexual no consentido y pornografía infantil por toda España e Italia a través del servicio de mensajería instantánea Telegram, según un nuevo informe.
PUBLICIDAD
PUBLICIDAD
AI Forensics, un instituto europeo sin ánimo de lucro que estudia algoritmos, descubrió un "ecosistema de abusos a escala" tras revisar 2,8 millones de mensajes de Telegram en 16 grupos durante seis semanas.
Según su informe, la mayoría de los usuarios que comparten contenido sexual no consentido son hombres jóvenes heterosexuales que comparten contenido de mujeres que son sus parejas, ex parejas o conocidas. Los contenidos más extremos muestran a niños en situaciones de incesto y violación.
El informe llega después de que los miembros del Parlamento Europeo respaldaran el mes pasado la prohibición de los sistemas de inteligencia artificial (IA) que "desnudan" imágenes -o crean imágenes de desnudos falsos- quitando la ropa a un sujeto sin su consentimiento.
Una de cada tres mujeres de la Unión Europea ha sufrido violencia sexual desde los 15 años, lo que incluye la ciberviolencia, según el Instituto Europeo de la Igualdad de Género.
¿Qué contenidos se difunden?
Según el estudio, los jóvenes suelen obtener el material de origen de intercambios privados en la aplicación de redes sociales Instagram y la aplicación de mensajería privada WhatsApp.
Los autores monetizan los vídeos cobrando tarifas únicas de hasta 50 euros por el acceso completo a los canales y archivos de estos contenidos. En algunos casos, también cobran una cuota de suscripción mensual de 5 euros.
Los bots que desnudan se anuncian a menudo en esos canales como herramientas para generar más contenidos no consentidos. "Esto ha permitido a los delincuentes aumentar el volumen, la velocidad y la facilidad con la que este contenido es perpetrado", según un comunicado de prensa de AI Forensics.
Según el estudio, las mujeres que aparecen en los vídeos suelen ser nombradas, etiquetadas y localizadas a través de enlaces de perfil que se comparten en los canales de Telegram.
Este contenido se redistribuye después en otras plataformas, como TikTok e Instagram. Reddit se utiliza como pasarela de captación que difunde enlaces a los canales originales de Telegram donde la gente puede encontrar el contenido de pago.
El contenido llegó a unas 52.000 personas: 27.000 en Italia y otras 25.000 en España, según AI Forensics. La ONG dijo que esto sugiere que la forma en que el contenido sexual no consentido se está difundiendo en las redes sociales no está restringido por las fronteras nacionales o los límites de la plataforma y es un "problema estructural que es de alcance europeo y exige una respuesta europea."
La moderación de Telegram es insuficiente, según el informe
Telegram habría cerrado algunos de los grupos que AI Forensics observó, pero estos volvieron a crearse con los mismos nombres "apenas unas horas después". La organización europea dijo que eso significa que las prácticas de moderación de Telegram son "insuficientes".
Recomendó que la moderación en Telegram incluya mecanismos de denuncia y la aplicación de las políticas de la plataforma, especialmente el modelo de suscripción Premium, porque ofrece a los creadores una forma de monetizar estos contenidos.
La organización sin ánimo de lucro señaló que la Comisión Europea también debería designar a Telegram como Plataforma Online Muy Grande (VLOP, por sus siglas en inglés) en virtud de la Ley de Servicios Digitales (DSA, por sus siglas en inglés), el marco jurídico de la UE para la responsabilidad de las plataformas online, la moderación de contenidos y la seguridad de los usuarios.
Esta designación significaría que la plataforma estaría sujeta a obligaciones más estrictas, como ser transparente sobre el funcionamiento de su algoritmo y realizar evaluaciones de riesgo de contenidos nocivos.
Una ley que facilite la eliminación de abusos sexuales a menores
En febrero, la plataforma afirmó que tenía "significativamente menos" de 45 millones de usuarios, que es el límite de la UE para ser etiquetada como VLOP. AI Forensics también quiere que la Ley de IA de la UE incluya disposiciones que faciliten la eliminación de abusos sexuales a menores e imágenes no consentidas de las plataformas.
'Euronews Next' se puso en contacto con Telegram para obtener una respuesta al informe, pero no recibió una respuesta inmediata. El contenido sexual infantil y el material no consentido están restringidos en Telegram, según los términos de servicio de la plataforma.
La moderación de contenidos mediante inteligencia artificial, así como el personal, se encargan de contrarrestar los abusos. Los usuarios también pueden denunciar contenidos que infrinjan los términos y condiciones de la plataforma.
Telegram puede suspender temporal o permanentemente ciertas funciones de la cuenta de alguien, como la comunicación con personas con las que no esté conectado. En caso de infracciones graves, la plataforma podría bloquear o eliminar usuarios, bots, publicaciones, canales y grupos.