El algoritmo de Youtube inundó de contenidos violentos cuentas que se suponía eran de niños estadounidenses de entre 9 y 14 años aficionados a los videojuegos.
PUBLICIDAD¿Podría existir una relación entre la violencia armada y las recomendaciones de vídeos en Youtube? Eso es lo que han intentado averiguar los investigadores del proyecto Transparencia Tecnológica, una ONG con sede en Estados Unidos.
Crearon cuentas de Youtube distintas haciéndose pasar por niños de entre 9 y 14 años que viven en Estados Unidos y a los que les encanta jugar a vídeojuegos.
Los analistas sólo veían contenidos sobre videojuegos, pero algunas cuentas hacían clic en los vídeos recomendados por el algoritmo de Youtube, mientras que los otros perfiles ignoraban estas sugerencias.
El estudio descubrió que las cuentas que hicieron clic en los vídeos recomendados por la plataforma se vieron rápidamente inundadas de contenido violento sobre tiroteos en escuelas y sobre cómo manejar armas de fuego. Aproximadamente 12 vídeos al día durante 1 mes
Las cuentas que ignoraron las sugerencias también recibieron algunos vídeos violentos, pero diez veces menos que las demás.
Por ejemplo, un vídeo enviado a una de las cuentas mostraba a una niña sosteniendo y disparando una pistola.
Lo preocupante es que estos vídeos están llegando a audiencias más amplias El proyecto Transparencia Tecnológica tuiteó un comentario bajo una escena de una película vista casi un millón de veces que mostraba un tiroteo en un colegio. Un usuario dijo que esta escena es "lo que le motiva cada día".
Para Katie Paul, directora del proyecto Transparencia Tecnológica, estos vídeos no sólo violan las políticas de Youtube, sino que además podrían llevar a niños vulnerables por un camino peligroso
"Es sólo otro ejemplo de los fallos en el control de calidad de una plataforma que ha dicho repetidamente al Congreso de EE.UU., al público y a los padres que es una plataforma segura y que sus algoritmos no recomiendan contenidos cada vez más extremos. Nuestro experimento demostró que, de hecho, sí recomiendan crear contenidos cada vez más extremos", afirma Paul.
No es la primera vez que Youtube y otras redes sociales son objeto de críticas por promover contenidos peligrosos.
Los autores de algunos tiroteos masivos han utilizado Youtube para buscar contenidos violentos e incluso a veces han retransmitido en directo sus ataques.
En publicaciones en la plataforma, el tirador detrás del ataque a la escuela que mató a 17 personas en Parkland, Florida, hace 5 años, escribió cosas violentas como "Voy a ser un tirador escolar profesional".
En algunos casos, Youtube ya había eliminado algunos de los vídeos identificados por el estudio, pero en otros casos el contenido sigue estando disponible.
Nos pusimos en contacto con Youtube para recoger su reacción, pero no obtuvimos respuesta antes de la preparación de este programa.