“La plataforma de video perpetúa una imagen deshumanizante de los migrantes y su sistema de recomendación premia las narrativas xenófobas, lo que retroalimenta un contexto de un discurso político de extrema derecha en ascenso”, afirmó una auditoría externa publicada en diciembre 2022.

Se trata del primer análisis de su tipo realizado por la firma consultora Eticas, especializada en detectar vulnerabilidades algorítmicas de la caja negra, que es una parte impenetrable de cualquier sistema de inteligencia artificial cuyas entradas y operaciones no son visibles para el usuario y otros actores interesados.

La aspiración de Eticas es reducar la tecnología alimentada por la Inteligencia Artificial con mejor data y contenido. En la actualidad colabora con las autoridades españolas para auditar el algoritmo de prevención de la violencia machista que utiliza el Ministerio del Interior e intenta desarrollar herramientas de transparencia para los algoritmos laborales de las empresas.

Xenofobia y deshumanización
El informe de Eticas señala que la aparente democratización de los contenidos en las redes sociales no está exenta de riesgos por el impacto que esos medios emergentes tienen en las actitudes individuales y públicas hacia la migración.

Y aunque hay muchos estudios sobre la narrativa migratoria en los medios tradicionales, no había investigaciones exhaustivas sobre la representación de los migrantes en YouTube, la segunda red social más utilizada con más de 2.500 millones de seguidores y una de las fuentes preferidas para consumir noticias.

“En los videos de YouTube más vistos, los migrantes se muestran como masas anónimas sin rostros reconocibles con los que empatizar, en su mayoría hombres adultos no blancos, y frecuentemente con la presencia de fuerzas armadas. En el mejor de los casos, se los retrata como víctimas sin agencia”, dijo el análisis.

Otro dato interesante de la radiografía realizada a las entrañas de YouTube es que la marcada diferencia que hay en la representación entre los migrantes y refugiados. La Convención de las Naciones Unidas de 1951 definió que los refugiados son personas que huyen de conflictos armados o persecución, en una medida que pretendió diferenciar a los solicitantes de asilo europeos después del fin de la Segunda Guerra Mundial de las personas que se movilizaban desde otras partes del mundo.

“A diferencia de los migrantes, los refugiados en los videos son en su mayoría personas reconocibles, hombres y mujeres blancos, y con menos frecuencia en un contexto de cruce de fronteras”.