"Upload Knights"

Comment les terroristes disséminent leurs vidéos de décapitations sur YouTube

Et ce n'est que la partie émergée de l'iceberg : d'innombrables vidéos en apparence plus discrètes cachent une réalité tout aussi sombre.

par Rita Katz
30 Mai 2017, 5:00am

Dans le dernier spectacle du comique américain Dave Chappelle sur Netflix, il y a une vanne sur le fait de cliquer sur le bouton "don't like" en-dessous d'une vidéo de décapitation de l'Etat islamique.

"Comment ça se fait que ce mec puisse couper des têtes sur YouTube ?", demande Chappelle, pour souligner l'absurdité de la situation.

Don't like. Clic.

En vérité, cela n'a rien de nouveau - cela fait longtemps qu'on trouve du contenu extrémiste sur YouTube. Mais depuis que des centaines d'annonceurs majeurs ont commencé à rompre leurs contrats avec YouTube et Google ces derniers mois pour ne pas être associés à ce type de contenus, le problème se fait nettement plus pressant.

Les services proposés par Google - et tout particulièrement YouTube - sont privilégiés par les organisations terroristes pour diffuser leur propagande. Et malgré tous les efforts déployés par Google pour les chasser, ces groupes parviennent toujours à implanter leurs contenus sur ses serveurs.

État des lieux

La quantité de liens YouTube et Google créés pour diffuser des contenus à caractère terroriste est colossale. Prenez par exemple une vidéo de recrutement intitulée "Et tu seras meilleur". Cette vidéo de 35 minutes, publiée le 18 mars, appelle des individus de tous âges à rejoindre Daesh en présentant des kamikazes d'origine et de profession diverses - un médecin, un combattant handicapé, un jeune enfant - qui racontent leur trajectoire avant que l'on voie des images de leurs opérations suicides respectives.

Image: SITE

Quand l'EI publie une vidéo comme celle-ci, un réseau de médias pro-EI - traducteurs, diffuseurs, influenceurs, créateurs de liens - se met immédiatement en branle pour la diffuser aussi largement que possible sur Internet. Un groupe très important mais peu connu du grand public, The Upload Knights (ou Fursan al-Rafa en arabe), joue un rôle majeur dans la dissémination de ces contenus en créant des centaines de liens chaque jour sur divers sites de streaming et de partage de fichiers.

On comprend bien à quel point YouTube est important pour The Upload Knights et les autres organisations médiatiques liées à des groupes terroristes. En moins de deux jours après la publication de "Et tu seras meilleur", The Upload Knights ont distribué la vidéo et sa bannière promotionnelle à l'aide 136 liens, rien que sur les services liés à Google : 69 sur YouTube, 54 sur Google Drive, et 13 sur Google Photos.

N'oubliez pas qu'on parle là d'une seule vidéo, et d'une seule organisation. Entre le 8 mars et le 18 - c'est-à-dire dans les 10 jours précédent la sortie de la vidéo - la chaîne de The Upload Knights a posté 515 liés sur les services gérés par Google : 328 sur YouTube, 148 sur Google Drive, et 39 sur Google Photos.

YouTube est tout aussi important pour Al-Qaïda (AQ) et ses filiales. Il suffit de voir comment Al-Qaïda dans la péninsule arabique (AQPA) donne la priorité à YouTube lorsqu'il s'agit de diffuser des vidéos. Quand elle a publié, le 3 mai, une vidéo montrant des combats contre les Forces de sécurité yéménites, la chaîne d'AQPA l'a transmise via trois liens : deux renvoyant vers des compilations de plus de 130 liens sur des sites spécialisés, et un lien YouTube.

AQPA diffusant une vidéo sur Telegram. Image: SITE

Il existe d'autres vidéos djihadistes sur YouTube qui sont visuellement plus sobres, mais tout aussi insidieuses. YouTube héberge des discours de leaders religieux extrémistes comme Anwar al-Awlaki, un citoyen américain décédé que de nombreux terroristes considèrent encore comme l'une des influences majeures de leur radicalisation. Comme le disait une jeune recrue adolescente de l'EI dans une série de questions-réponses sur internet quand on lui demandait ce qu'elle faisait pendant ses insomnies : "Je regarde des vidéos de propagande sur YouTube et je traîne sur Twitter."

Et il n'y a pas que les contenus djihadistes qui pourrissent les serveurs de YouTube. Des vidéos racistes et fanatiques comme celles où figure "Moonman", un mème utilisé par les suprémacistes blancs américains, montrent des Juifs et des membres d'autres minorités être abattus sur fond de cris tels que "Des camps de la mort pour les noirs" ou "Le fascisme est de retour" (pour vous faire une idée d'à quel point il est facile de trouver ces vidéos, tapez donc le mot "Moonman" dans la barre de recherche de YouTube.

Autant dire que les inquiétudes des annonceurs ne sont pas sans fondement.

Comment les terroristes exploitent YouTube

On ne peut pas dire que YouTube n'a rien fait pour empêcher les contenus terroristes de se retrouver sur ses serveurs. Voici la politique de YouTube en la matière :

YouTube interdit strictement tous les contenus visant à recruter pour des organisations terroristes, à inciter à la violence, à célébrer des attaques terroristes ou à faire la promotion d'actes de terrorisme. Nous ne permettons pas aux organisations terroristes d'utiliser YouTube. Les contenus traitant d'événements liés à des actes de terrorisme ou des informations traitant d'activités terroristes peuvent être autorisés sur le site pour peu qu'ils soient contextualisés et objectifs. Toutefois, les images violentes ou choquantes peuvent être soumises à des restrictions d'âge ou à des messages d'avertissement.

Jusqu'ici, YouTube a facilité la tâche des utilisateurs désireux de signaler des contenus violant cette politique et cherche même à mettre en place des systèmes détectant automatiquement les contenus terroristes. Toutefois, la propagande terroriste dépasse largement le simple cadre des affreuses vidéos d'exécutions que les technologies de détection pourraient chercher à identifier. Et les groupes terroristes ont toujours su trouver un moyen d'échapper aux utilisateurs et aux administrateurs qui tentent de brider leur influence.

Par exemple, pour empêcher que des utilisateurs signalent les vidéos extrémistes, les groupes médiatiques terroristes et autres diffuseurs tels que The Upload Knights ou As-Sahab (la maison de production d'Al-Qaïda) choisissent souvent de classer leurs vidéos comme "non-répertoriées", ce qui signifie qu'on ne peut pas les trouver via une simple recherche - il faut impérativement cliquer sur un lien pour les consulter. Cette fonctionnalité permet de rendre la vidéo accessible uniquement à ceux qui soutiennent l'organisation. Mais il reste assez facile d'en trouver le lien sur Telegram, par exemple, ce qui permet ensuite de la diffuser sur les réseaux sociaux.

Une vidéo de l'EI (gauche) et d'AQPA (droite) publiées sur YouTube et marquées comme non répertoriées. Image: SITE

Les groupes terroristes publient aussi des vidéos qui ne sont pas vraiment ce que le titre laisse entendre. On y entend un simple message audio par-dessus une image fixe comportant un message redirigeant les utilisateurs vers d'autres liens situés dans la description de la vidéo. Prenez par exemple cette vidéo de la province de Ninive, en Irak, postée le 26 avril :

Sur l'image, on peut lire "Le lien est dans la description," où l'on trouve un autre lien YouTube. Image: SITE

Dans les commentaires de cette vidéo, qui a ensuite été supprimée, on trouvait plusieurs autres liens, ce qui donnait à la page des airs de forum djihadiste ou de chat Telegram privé :

Image: SITE

Trouver de meilleures solutions

Par leur nature même, les groupes terroristes sont très attachés à leur image de marque. Il est donc logique que les contenus diffusés par ces organisations soient souvent porteurs d'éléments récurrents : hashtags, slogans, watermarks... Par exemple, les vidéos de l'agence Amaq, liée à l'EI, débutent toujours par la même animation, que l'on peut voir dans ces captures d'écran prises sur YouTube :

Image: SITE

Il en va de même pour les contenus diffusés par Al-Qaïde et ses filiales. Par exemple, les captures d'écran ci-dessous montrent des images que l'on retrouve presque systématiquement au début et à la fin des vidéos d'AQPA :

Image: SITE

YouTube utilise déjà des technologies capables de reconnaître ce genre d'éléments sur ses serveurs. Dès lors, si l'entreprise est capable de reconnaître des contenus enfreignant les lois du copyright ou ses politiques, pourquoi ne le fait-elle pas pour la propagande de groupes tels que l'EI ou Al-Qaïda.

Il faut aussi souligner que quand YouTube supprime une vidéo d'un groupe tel que The Upload Knights, il ne supprime pas nécessaire la chaîne qui l'a postée, ce qui permet au groupe de reposter d'autres vidéos autant qu'il le souhaite.

Prenez par exemple une vidéo de l'EI provenant de la province de l'Euphrate, postée le 5 avril. Les captures d'écran ci-dessous montrent les statistiques de la vidéo, qui comptait 220 vues sur YouTube avant d'être supprimée, et un aperçu pris sur Telegram, où elle a été largement diffusée.

Image: SITE

Malgré la suppression de la vidéo, la chaîne YouTube qui l'avait postée est toujours active, comme on le voit ci-dessous.

Image: SITE

Supprimer ces chaînes pourrait au moins dissuader un peu les groupes terroristes. En les laissant actives, YouTube leur permet clairement de diffuser plus facilement leurs vidéos suivantes. Dans la foulée de l'attaque de Manchester, par exemple, la chaîne Telegram de The Upload Knights a rapidement posté plusieurs vidéos de l'Etat Islamique menaçant l'occident. Chaque vidéo n'a été postée qu'avec cinq liens, les premiers renvoyant vers YouTube et Google Drive.

Image: SITE

On trouve de très nombreuses chaînes similaires sur la plateforme. Une rapide recherche en arabe de The Upload Knights mène vers tout un ensemble de chaînes, toutes marquées du nom et du logo de The Upload Knights.

Image: SITE

Beaucoup de groupes terroristes utilisent également des scripts comme Rapidleech, qui leur permettent de poster du contenu sur plusieurs services simultanément, y compris YouTube, et de répéter facilement le même processus pour chaque nouveau contenu. Du coup, tout ce qui est uploadé grâce à ce type de manoeuvre devrait immédiatement attirer l'attention des modérateurs de la plateforme.

L'attrait des groupes extrémistes pour YouTube et l'énergie qu'ils consacrent à s'y maintenir envoient un message clair et inquiétant : les terroristes pensent toujours tenir la plateforme entre leurs mains. Dans une réponse adressée aux annonceurs inquiets au mois de mars, Ronan Harris, le directeur de Google UK, avait déclaré que l'entreprise avait conscience de "devoir faire mieux", tout en promettant de "fournir de nouveaux moyens plus simples et efficaces pour empêcher que les publicités des annonceurs apparaissent à côté de contenus sensibles."

Le problème de Google avec les contenus terroristes n'est pas une simple affaire de revenus publicitaires ; c'est aussi une question de sécurité. Ceci dit, nous devons tous souhaiter que YouTube et les autres plateformes de partage de vidéos parviennent à chasser les contenus extrémistes de leurs serveurs, et qu'elles développent de nouvelles solutions dans ce but. Peut-être qu'alors, le sketch de Dave Chappelle perdra de sa pertinence ; mais en attendant, il est plus que jamais dans l'air du temps.

Rita Katz, qui dirige l'agence de renseignements SITE, a infiltré des groupes terroristes, témoigné devant le Congrès américain et au cours de procès pour terrorisme, et a personnellement conseillé la Maison Blanche et des enquêteurs du Ministère de la Justice, des Finances et de l'Intérieur. Ses enquêtes et témoignages ont guidé l'action du gouvernement américain contre des organisations et individus terroristes.

Mme Katz est l'auteure de TERRORIST HUNTER: The Extraordinary Story of a Woman who Went Undercover to Infiltrate the Radical Islamic Groups Operating in America