Tech

Wie Dschihadisten Enthauptungsvideos an YouTubes Zensur vorbeischmuggeln

YouTube hat ein Extremismus-Problem, denn terroristische Gruppen nutzen die Plattform intensiv, um Propaganda zu verbreiten. Die bisherigen Gegenmaßnahmen des Video-Portals sind dabei nur unzureichend.

von Rita Katz
06 Juni 2017, 10:28am

Bild: blackboard1965 | Shutterstock

Terrororganisationen weltweit haben die Sozialen Medien schon lange als wirksames Propagandainstrument für sich entdeckt. Extremistische Inhalte werden hier so fleißig verbreitet, dass der sogenannte IS sogar Stellen für Social Media-Manager ausschreibt.

Für die Betreiber der Netzwerke stellt das zeitnahe Identifizieren und anschließende Zensieren solchen Contents eine große Herausforderung dar. Erst im März geriet YouTube enorm in Kritik, nachdem Hunderte großer Werbekunden damit gedroht hatten, ihre Verträge auszusetzen: Zu oft waren ihre Anzeigen vor Videos mit extremistischen Inhalten abgespielt worden.

Folgt Motherboard auf Facebook, Instagram, Snapchat und Twitter

Unter den Online-Plattformen scheinen vor allem die Google-Dienste, insbesondere YouTube, für Terrororganisationen effektive und wichtige Tools zu sein, um ihre Propaganda zu verbreiten. Denn trotz YouTubes Bemühungen, extremistische und gewaltverherrlichende Inhalte vom Portal fern zu halten, gelingt es radikalen Gruppen immer wieder, ihre Videos auf die Seite zu schmuggeln.

YouTube als Propagandainstrument

Man darf den Aufwand nicht unterschätzen, den Dschihadisten betreiben, um das Propagandamaterial möglichst weit zu verbreiten. Jedes Mal, wenn der sogenannte IS ein neues Video veröffentlicht, macht sich eine ganze Armee an IS-treuer Medienprofis ans Werk: Übersetzer, Promoter, Social Media-Experten. Eine sehr wichtige Rolle spielt dabei die eher unbekannte islamistische Mediengruppe Die Ritter des Uploads (oder Fursan al-Rafa auf Arabisch). Sie erstellt täglich Hunderte Links, um die islamistischen Medienerzeugnisse auf unterschiedlichen Streaming-Plattformen und File-Sharing-Seiten zu verbreiten.

Wie die Terror verherrlichende Medienmaschinerie funktioniert, sieht man am Beispiel des IS-Recruitment-Videos mit dem Titel "Und du wirst überlegen sein" – einer der Inhalte, die den Massenboykott von Werbekunden gegen YouTube ausgelöst hatten. Das 35-minütige Video, das am 18. März veröffentlicht wurde, fordert Menschen aller Altersklassen dazu auf, sich dem IS anzuschließen. Dazu porträtiert der Clip das Leben von Selbstmordattentätern aus allen Gesellschaftsschichten: einen Arzt, einen verletzten Kämpfer, ein kleines Kind.

Bild: SITE

Welche Bedeutung YouTube für Die Ritter des Uploads und andere terroristische Mediengruppen besitzt, ist nicht zu übersehen. Innerhalb von zwei Tagen nach der Veröffentlichung von "Und du wirst überlegen sein" hatten Die Ritter des Uploads das Video und seine Werbebanner über 136 Links von cloud-basierten Google-Diensten verbreitet: 69 davon auf YouTube, 54 auf Google Drive und 13 für Google Fotos.

In den zehn Tagen unmittelbar vor der Veröffentlichung des Videos am 18. März wurden vom Kanal der Ritter des Uploads insgesamt 515 Links für Google-Dienste gepostet: 328 für YouTube, 148 für Google Drive und 39 für Google Fotos.

Auch für al-Qaida (AQ) ist YouTube enorm wichtig. So verbreitete der Medienkanal des Terrornetzwerks am 3. Mai beispielsweise ein Video über einen Zusammenstoß mit jemenitischen Sicherheitskräften auf Googles Videoportal.

AQAP veröffentlicht ein Video auf Telegram. Screenshot: SITE

Andere Dschihad-Videos auf YouTube wirken dagegen auf den ersten Blick vielleicht eher unauffällig. Doch nur weil hier kein Blut fließt, heißt das noch lange nicht, dass die Clips deswegen harmlos sind. So findet sich auf YouTube ein ganzes Archiv an Reden radikaler Prediger wie Anwar Al-Awlaki, ein islamistischer Extremist, der zu Lebzeiten vermutlich als Anwerber für al-Qaida tätig war.

Der IS sucht neue Social Media-Manager: „Ruf an die Ritter des Uploading"

Auf die Frage, was sie mache, wenn sie nicht schlafen könne, antwortete eine jugendliche IS-Anwärterin aus Colorado einst bezeichnenderweise: "Ich schaue mir Vorträge auf YouTube an und bin auf Twitter." Und es sind bei weitem nicht nur islamistische Inhalte, von denen die YouTube-Server heimgesucht werden. Auf der Video-Plattform finden sich auch gewalttätige rassistische Videos, wie die von "Moonman", einem rassistischen Meme von Anhängern der White Supremacy. In den Clips sieht man, wie Juden und andere Minderheiten erschossen werden, während eine mechanische Stimme verkündet, dass "Vernichtungslager für Schwarze" und "Faschismus" wieder in Mode seien.

Wie Terroristen YouTube für ihre Zwecke missbrauchen

Nun ist es nicht so, dass YouTube die terroristische Propaganda auf seiner Plattform bisher völlig ignoriert hätte. In seinen Nutzungsbedingungen stellt sich das Portal klar gegen die Verbreitung terroristischer Inhalte:

Auf YouTube werden unter keinen Umständen Videos geduldet, in denen Mitglieder für terroristische Organisationen angeworben, terroristische Angriffe gefeiert oder auf sonstige Weise terroristische Handlungen unterstützt werden. Außerdem sind Inhalte, in denen zu Gewalt aufgerufen wird, strengstens untersagt. Die Verwendung von YouTube durch ausländische terroristische Organisationen ist ebenfalls unzulässig. Inhalte, die der Dokumentation terroristischer Angriffe oder der Berichterstattung dienen, sind unter Umständen erlaubt, wenn genügend Kontextinformationen bereitgestellt werden und der Zweck dieser Inhalte nachvollziehbar ist. Grausames oder potenziell verstörendes Filmmaterial kann jedoch mit Altersbeschränkungen und Warnungen versehen werden.

YouTube macht es seinen Nutzern außerdem leicht, Inhalte zu melden, die gegen die Nutzungsbedingungen verstoßen. Auch an einer automatischen Erkennung terroristischer Inhalte wird fortlaufend gearbeitet. Allerdings besteht terroristische Propaganda aus viel mehr als den blutigen Enthauptungsvideos, nach denen eine Erkennungssoftware möglicherweise sucht. Ebenso beunruhigend ist, dass es terroristischen Gruppen in der Vergangenheit immer wieder gelungen ist, den wachsamen Augen von Administratoren und anderen Usern zu entgehen.

Um zu verhindern, dass andere Nutzer extremistische Videos melden, markieren die Ritter des Uploads oder al-Qaidas As-Sahab Media Foundation ihre YouTube Videos oft als "nicht gelistet". Somit können diese Videos nur über einen direkten Link aufgerufen, nicht aber über die Suchfunktion von YouTube gefunden werden. Auf diese Weise bleiben die Propagandavideos im Prinzip nur den eigenen Anhängern zugänglich und können gezielt an Interessenten geschickt werden. Denn die Links lassen sich bequem über Messenger-Dienste wie Telegram verschicken und anschließend über andere Social Media-Kanäle weiterverbreiten.

Das IS-Video (links) und das AQAP-Video (rechts) wurden auf YouTube hochgeladen aber als nicht gelistet markiert. Bild: SITE

Ein weiterer beliebter Trick der extremistischen Gruppen: Sie laden Videos hoch, in denen nur ein Standbild zu sehen ist. Ein eingeblendeter Text im Clip verweist dann auf andere Links, die in der Videobeschreibung zu finden sind. Ein Beispiel dafür ist dieses Video aus der IS-Provinz Ninawa vom 26. April:

In dem Video steht, dass der Link in der Video-Beschreibung zu finden ist. Screenshot: SITE

In den Kommentaren zu dem Video, das schließlich von YouTube gelöscht wurde, waren mehrere weiterführende Links angegeben, so dass YouTube fast wie ein passwortgeschütztes Dschihad-Forum oder eine private Telegram-Gruppe fungierte:

Bild: SITE

Was YouTube heute schon tun könnte

Terroristische Gruppen sind grundsätzlich sehr auf Markenbildung bedacht: Alle Veröffentlichungen weisen grundsätzlich immer wiederkehrende Symbole und Elemente auf, darunter Hashtags, bestimmte Formulierungen und Wasserzeichen. Die Videos von der IS-eigenen Amaq News Agency beginnen beispielsweise immer mit derselben Animation, wie man diesem YouTube-Screenshot entnehmen kann:

Bild: SITE

Auch die Propagandamaterialien von al-Qaida weisen stets die gleichen Wasserzeichen auf. Diese Screenshots zeigen beispielsweise ein typisches Intro und den Abspann eines AQAP-Videos:

Bild: SITE

YouTube nutzt bereits Erkennungssoftware, die die meisten derartiger Elemente als solche erkennen könnte. Darum stellt sich die Frage: Wenn YouTube die Software einsetzen kann, um Inhalte zu erkennen, die Urheberrechte verletzen, warum kann es dann nicht die gleichen Methoden im Kampf gegen islamistische Propaganda vom IS oder al-Qaida einsetzen? Eine entsprechende Anfrage von Motherboard Deutschland an YouTube blieb bis zum Zeitpunkt der Veröffentlichung dieses Artikels unbeantwortet.

Ein weiteres Problem: Oft entfernt YouTube nur ein bestimmtes Video – der Kanal, der das Video gepostet hat, wird jedoch nicht gesperrt. Das war auch bei einem IS-Video vom 5. April der Fall. Die Screenshots zeigen, dass das Video 220 mal angeschaut wurde, bevor es gesperrt wurde, sowie ein Thumbnail des Clips auf Telegram, wo er weit verbreitet wurde.

Bild: SITE

Der dazugehörige YouTube-Kanal war dagegen am 22. Mai noch immer online.

Bild: SITE

Wenn YouTube nicht nur einzelne Clips, sondern auch die entsprechenden Kanäle löschen würde, könnten sie den terroristischen Gruppen wenigstens ein paar Steine in den Weg legen. Denn indem die Kanäle weiter bestehen bleiben, gewährt YouTube den Propagandisten einen Vorsprung, wenn es darum geht, das nächste Video zu posten. Die Ritter des Uploads begannen beispielsweise kurze Zeit nach dem Anschlag in Manchester damit, frühere IS-Videos mit Gewaltaufrufen gegen den Westen hochzuladen. Jedes dieser Videos wurde mit fünf Links gepostet, von denen die ersten zwei zu YouTube und Google Drive führten.

Bild: SITE

Und es gibt sehr viele dieser Kanäle auf YouTube. Eine kurze Suchanfrage auf Arabisch nach den Rittern des Uploads spuckt eine ganze Reihe an Kanälen aus, die mit dem Namen und dem Logo der Gruppe gekennzeichnet sind:

Bild: SITE

Viele terroristische Mediengruppen nutzen außerdem Uploading-Dienste wie Rapidleech, mit denen Inhalte gleichzeitig auf verschiedene Plattformen, darunter auch YouTube, hochgeladen werden können. Die Verwendung derartiger Skripte sollte für die Administratoren von Plattformen wie YouTube zumindest ein Warnsignal sein, den hochgeladenen Content genauer unter die Lupe zu nehmen.

Dass extremistische Gruppen YouTube nach wie vor für sich beanspruchen und immer neue Wege finden, auf dem Videoportal präsent zu bleiben, sendet ein deutliches und beunruhigendes Signal: die Terroristen sind der Meinung, die Plattform im Griff zu haben.

Als Reaktion auf den Werbe-Boykott im März verkündete der Geschäftsführer von Google UK, Ronan Harris, dass das Unternehmen wisse, dass es "mehr tun muss". Den Werbekunden versprach er, "einfachere und bessere Möglichkeiten", um sicherzustellen, dass Werbeanzeigen künftig nicht mehr neben kontroversen Inhalten auftauchen.

Doch bei YouTubes Problem mit extremistischen Inhalten geht es um weit mehr als um Werbeeinnahmen – es geht auch um unsere Sicherheit. Darum sollten wir nicht nur von Google, sondern auch allen anderen Online-Kommunikationsunternehmen fordern, dass schon bald neue, flexible Lösungen im Kampf gegen extremistische Inhalte auf ihren Plattformen zum Einsatz kommen.

Rita Katz ist Gründerin der SITE Intelligence Group in Washington. Sie schleuste sich in islamistische Organisationen ein, sagte als Terrorismus-Expertin vor US-Gerichten aus und beriet Mitarbeiter des Weißen Haus, des Justizministeriums und der Homeland Security. Rita Katz ist Autorin von "Die Terroristenjägerin. Wie ich das Netzwerk des islamistischen Terrors aufdeckte".