Menschen

Morddrohungen auf YouTube: Warum ausgerechnet ein Gesetz dafür sorgt, dass niemand Hilal hilft

"Schade, dass es dich nicht erwischt hat in Hanau", schreibt jemand unter ihr Video – und das war erst der Anfang.

von Rebecca Baden
07 Mai 2020, 3:15am

Foto: privat 

Am 21. Februar lädt Hilal ein Video auf ihrem YouTube-Kanal hoch. Sie steht darin vor einem Whiteboard mit bunten Magneten und dem Logo ihres Accounts "Strong Hijabi" und erklärt, wie sie sich zum Sport motiviert. Nach dem Upload geht sie schlafen. In der Zeit schreibt ein Unbekannter Hilal einen Kommentar unter das Video: "Schade, dass es dich nicht erwischt hat in Hanau." Zwei Tage vorher hatte ein Rassist dort zehn Menschen ermordet.

Bis dahin habe Hilal nicht viel mit Hate Speech zu tun gehabt, erzählt sie heute. Nur hin und wieder bekäme sie Kommentare, hinter denen sie rassistische Verfassende vermutet. Rund 260 Menschen folgen Hilal auf YouTube, kein großer Account, die Rückmeldungen unter ihren Videos sind alle positiv. Sie zeigt sich darin beim Gewichteheben im Fitnessstudio, auf der Fitness-Messe Fibo, beim Urlaub in Istanbul. Zuletzt erklärte Hilal in einem butterblumengelben Hidschab, wie sie die Isolation, Ramadan und ihre Sportroutine kombiniert.

An jenem Morgen, an dem Hilal den Kommentar liest, in dem ihr ein Fremder unter einem Fitness-Video den Tod wünscht, macht sie einen Screenshot. Sie geht zur Arbeit und nach ihrer Schicht zur Polizei. So erzählt es Hilal heute. "Ich bin mit einem mulmigen Gefühl dorthin gegangen", erinnert sich Hilal. Sie sei sich nicht sicher gewesen, ob sie auf dem Revier mit ihrem Anliegen ernst genommen werde.


Auch bei VICE: Die Cannabis Queen von Beverly Hills


Der Polizist auf dem Hamburger Polizeirevier habe sich während Hilals Schilderung Notizen aufgeschrieben, ihre Anzeige und Personalien aufgenommen, erzählt sie. Dann habe er die Kollegen vom Landeskriminalamt angerufen, die für den Fall zuständig seien. "Der Beamte hat mich dafür gelobt, dass ich mit der Sache zur Polizei gekommen bin", sagt Hilal, und es klingt, als habe sie sich wider Erwarten doch ernst genommen gefühlt.

Dennoch wird der Urheber des Kommentars wahrscheinlich nicht dafür bestraft. Der Grund dafür sitzt nicht an einem Schreibtisch in einem Hamburger Polizeirevier, sondern in einem Office der Google-Tochter YouTube.

Das sind die Lücken des Netzwerkdurchsetzungsgesetzes

Plattformen wie YouTube sind seit dem Inkrafttreten des deutschen Netzwerkdurchsetzungsgesetzes (NetzDG) im Oktober 2017 dazu verpflichtet, offensichtlich rechtswidrige Inhalte zu löschen. Doch es gab in der Vergangenheit immer wieder Kritik, dass YouTube nicht besonders verantwortungsbewusst mit strafbaren Inhalten und Hate Speech umgehe.

Erst im Dezember reagierte die Google-Tochter darauf mit einer umfangreichen Aktualisierung der Harassment Policy. "Wir haben dieses Jahr erkannt, dass wir im Bereich Belästigung mehr tun können, um unsere Creator und unsere Community zu schützen", hieß es in der offiziellen Mitteilung. Zu den Neuerungen gehörte unter anderem das Versprechen, belästigende und bedrohliche Kommentare strenger zu löschen.

Auch der Kommentar unter Hilals Video wurde entfernt, noch bevor sie mit dem Screenshot zur Polizei ging. Aber: Auch eine gelöschte Straftat ist eine Straftat, die eigentlich verfolgt werden müsste. Doch ohne die Nutzerdaten ist der Beweis für Ermittelnde wertlos. Sie sind auf YouTube angewiesen. Das ist die größte Lücke des NetzDG.

1588757098993-hate-kommentare-youtube-2
Hilal will, dass die Kommentare unzensiert gezeigt werden, damit die Härte des Falls deutlich wird

"Alles, was gelöscht wird, kennen wir nicht. Und was wir nicht kennen, können wir auch nicht verfolgen", sagt Christoph Hebbecker gegenüber VICE. Er ist Staatsanwalt bei der Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen (ZAC NRW) und dort im Bereich Hate Speech tätig. Gemeinsam mit einer Kollegin ist er für das mit der dortigen Landesanstalt für Medien initiierte Projekt "Verfolgen statt nur Löschen" zuständig.

"Es wird mit Sicherheit nur ein Bruchteil dessen, was strafrechtlich relevant ist, verfolgt", sagt Hebbecker, und er klingt dabei fast ein bisschen verzweifelt. "Deswegen sind wir als Strafverfolger von dem Netzwerkdurchsetzungsgesetz, so wie es jetzt gilt, natürlich auch nicht vollkommen begeistert."

Die Bundesregierung hat mittlerweile reagiert und Gesetzesentwürfe für eine Überarbeitung des NetzDG vorgelegt. Bei "schwersten Straftaten" wie Volksverhetzung oder Morddrohungen sollen die Plattformbetreibenden die Inhalte und die dazugehörigen IP-Adressen künftig ans Bundeskriminalamt weiterleiten. Dann bleibt aber noch immer das Problem der Masse. Laut Hebbecker gibt es Prognosen, die in solchen Fällen von Ermittlungsverfahren "im deutlich sechsstelligen Bereich" ausgehen: "Mit dem aktuellen Personalbestand ist es so nicht machbar."

Für Hilals Fall kommt die Neuerung des NetzDG ohnehin zu spät. Der Kommentator unter ihren Videos wird sich wahrscheinlich hinter der Anonymität seines Standard-Profilbildes verstecken können.

Die Kommentare des Users werden immer brutaler

Rund 87.400 Ergebnisse zeigt Google an, wenn man den Usernamen der unbekannten Person, die Hilal den Tod wünschte, in der Suche eingibt. Der erste Treffer landet auf dem Wikipedia-Artikel eines ehemaligen DDR-Soldaten. Weiter unten folgen die Webseiten eines Journalisten und eines Fotografen mit dem gleichen Namen. Laut Wikipedia wurde in den 50ern ein deutscher Geologe geboren, der so heißt. Und auch auf YouTube gibt es 17 Profile mit demselben Vor- und Nachnamen aus dem Kommentar.

1588756951475-hate-kommentare-youtube-1
Hilal weiß nicht, wer hinter dem orangefarbenen Profilbild steckt

Hilal weiß nicht, ob der User mit dem orangefarbenen Profilbild im echten Leben ein gewaltbereiter Rechtsextremist ist oder ein rassistischer Teenie. Aber in den Wochen nach ihrem Besuch bei der Polizei merkt sie: "Der hatte es richtig auf mich abgesehen." Denn die Person kommentiert wieder und wieder unter ihre Videos.

Unter Hilals Beitrag über ihre Fehlgeburt schreibt er: "Wenn ich in so einer stinkenden Muslima sein müsste, würde ich mich auch umbringen." Jedes Mal wenn YouTube einen Kommentar entfernt habe, so Hilal, habe er noch frauenfeindlicher und rassistischer reagiert.

Hilal macht Screenshots der Kommentare für die Polizeiakte, bevor sie verschwinden. Sie liegen VICE vor. Damit ist Hilal dem NetzDG und YouTube einen Schritt voraus. Aber die Polizei kann aus dem einfarbigen Profilbild nicht herleiten, wer der Unbekannte ist. Dafür braucht sie Auskünfte von YouTube, die sie nicht bekommt. Das zeigen die kommenden Wochen.

Auch nach einer konkreten Drohung kann niemand Hilal helfen

Wochen nach dem ersten Kommentar schreibt der User: "Die AfD wird sich um dich kümmern. Bitte wehre dich nicht dagegen! Es wird schnell geschehen." Hilal erinnert sich, an dem Tag im Fitnessstudio gewesen zu sein. Als sie den Kommentar gesehen habe, habe sie direkt das LKA angerufen – und nicht, wie bei den vorherigen Kommentaren, das Kommissariat. "Das war eine Morddrohung", sagt sie. "Und ich wollte nicht mehr warten, bis das LKA sich endlich bei mir meldet."

Den weiteren Verlauf beschreibt Hilal wie einen bürokratischen Staffellauf: Die Person am Telefon ist nicht zuständig. Hilal wird mit einem Sachbearbeiter verbunden. Der erklärt, dass er noch auf die Akte warte. Er versucht, Hilal zu ermutigen. Sie solle nicht denken, es wolle sich niemand kümmern. Sie schickt die Screenshots. Kurze Zeit später meldet sich der Sachbearbeiter wieder. Schlechte Nachrichten.

1588757030507-hate-kommentare-youtube-3
"Der Ermittler hat mir gesagt, dass er mir gerne helfen würde", sagt Hilal. "Aber er habe nichts in der Hand."

Die Ermittler hätten sich mit dem Verdachtsfall an YouTube gewendet, um mehr Informationen über den Nutzer herauszufinden, erzählt Hilal heute. Doch das Unternehmen habe sich geweigert, Nutzerdaten zu teilen – um die Privatsphäre des Nutzers und die Meinungsfreiheit auf der Plattform zu schützen. "Der Ermittler hat mir gesagt, dass er mir gerne helfen würde", sagt Hilal. "Aber er habe nichts in der Hand." Selbst wenn der Fall vor Gericht gehen würde, gäbe es ohne die Informationen keinen Angeklagten.

Nur "in einem Bruchteil der Fälle" kooperieren die Plattformen mit den Behörden

Google selbst gibt zu dem Thema nur schwammige Antworten. Zu dem konkreten Fall könne man sich nicht äußern, erklärt ein Konzernsprecher gegenüber VICE. Die restlichen Fragen beantwortet er mit allgemeinen Informationen zur Umsetzung des NetzDG auf YouTube. Allerdings: Wann und warum die Plattform sich auch bei konkreten Verdachtsfällen weigert, mit den Strafverfolgungsbehörden zusammenzuarbeiten, wird darin nicht thematisiert.

Ein Verlauf wie in Hilals Fall ist laut Christoph Hebbecker nicht ungewöhnlich. "Wir sind in vielen Ermittlungsverfahren auf Daten von den Betreibern der sozialen Plattformen angewiesen", sagt Hebbecker. "Aber nur in einem Bruchteil der Fälle bekommen wir diese Daten auch tatsächlich geliefert."

Die Betreibenden hätten ihren Hauptsitz oft in den USA und würden justizielle Rechtshilfeersuche fordern, erklärt Hebbecker. Das bedeutet: Die deutschen Behörden müssten Rechtshilfe im Herkunftsland der Firmen erfragen und hoffen, dass die Inhalte auch dort strafbar seien – ein komplizierter Prozess. "Und die Meinungsfreiheit ist in den Vereinigten Staaten in deutlich weiterem Umfang gewährleistet als in Deutschland", sagt Hebbecker. "Man kann das gut oder schlecht finden. Aber das, was die Betreiber der sozialen Plattformen machen, ist nicht rechtswidrig."

Das Problem liegt nicht bei YouTube, sondern bei allen, sagt Hilal

In Tech-Konzernen wie Google sind Einzelgeschichten wie die von Hilal in etwa so bedeutend wie einer von Millionen Likes unter einem YouTube-Schminktutorial. Die Folgen für die Betroffenen sind allerdings erheblich. Hilal sagt, sie habe nach den Kommentaren ihr Social-Media-Verhalten umgestellt: Die Locations über ihren Instagram-Posts habe sie entfernt, Menschen aus ihrem privaten Umfeld sei sie entfolgt, damit der Unbekannte keine persönlichen Beziehungen nachverfolgen kann.

Für Hilal liegt das Problem nicht nur bei YouTube. Es liegt auch bei der Polizei, in der bundesweit immer wieder rechte Strukturen durchscheinen. Und bei erheblichen Teilen der Weißen deutschen Gesellschaft, die selbst nach Hanau noch immer mit Schulterzucken auf die Rassismuserfahrungen von Betroffenen reagieren.

"Wenn man mir droht, dass sich die AfD um mich kümmert – heißt das, dass ich jetzt auf einer Liste stehe? Heißt es, dass man es auf mich abgesehen hat? Ist das eine leere Drohung? Oder ist der User jemand, der in einer rechtsextremen Gruppe tief verwurzelt ist?", fragt Hilal. "Es sind gerade erst Dinge passiert, nach denen man erst recht nicht sagen kann: Das ist nur Geschwätz aus dem Internet."

Der Attentäter von Hanau hatte vor seiner Tat ein Schriftstück im Internet hochgeladen, in dem er rechte Verschwörungstheorien und rassistische Gedanken teilte. Seine Opfer heißen Ferhat, Gökhan, Hamza, Said, Mercedes, Sedat, Kaloyan, Fatih, Vili, Gabriele.

Folge Rebecca auf Twitter und VICE auf Facebook, Instagram und Snapchat.

Tagged:
hate speech
Cyberkriminalität