Justitia, ein Laptop und eine EU-Flagge
Illustration: Russlan
Tech

Inside xHamster: So reagiert die Politik auf unsere Undercover-Recherche

Müssen Pornoplattformen stärker reguliert werden? VICE-Recherchen zeigen, wie xHamster möglicherweise illegale Inhalte massenhaft durchwinkt. Kritik kommt vom Justizministerium und aus dem EU-Parlament.
27.10.20
insidexhamster_russlan_04
Inside xHamster: Lese hier alle Texte der Artikelserie

Extrem strenge Regeln und extreme Freiheit sind im Internet nur wenige Klicks voneinander entfernt. Facebook, Deutschlands meistbesuchte Social-Media-Website, löscht zum Beispiel konsequent Fotos mit weiblichen Brustwarzen. Aber xHamster, Deutschlands meistbesuchte Pornoseite, lässt selbst Fotos von möglicherweise Minderjährigen online – außer sie sehen mit "hoher Wahrscheinlichkeit" aus wie unter 18.

Das und mehr zeigt unsere Undercover-Recherche im Löschteam von xHamster, die wir hier veröffentlicht haben.

xHamster darf solche internen Regeln festlegen. Es gibt dazu keine konkreten gesetzlichen Vorgaben, die unmittelbar gelten. So darf xHamster seine Löscharbeiter auch anweisen, "echtes" und gespieltes Weinen voneinander zu unterscheiden, um Fotos von möglichen Vergewaltigungen zu überprüfen. Auch das geht aus unseren Recherchen hervor. Die Plattform muss keine detaillierte Rechenschaft darüber ablegen, wie gut sie Opfer von sexualisierter Gewalt schützt oder wie viele illegale Uploads sie entfernt.

Hier gibt es alle Texte der Artikelserie Inside xHamster.

Definitiv handeln muss eine Plattform, wenn sie mit Sicherheit von einem Rechtsverstoß erfährt, etwa indem sich das Opfer einer heimlich erstellten Aufnahme persönlich meldet. Das Prinzip heißt "Notice and Takedown". Es ist der Gegenentwurf zur Pflicht, pauschal alles zu prüfen. Auf sozialen Netzwerken sichert dieses Prinzip die Meinungsfreiheit.

Brenzlig wird es im Fall von Pornoplattformen wie xHamster, wo Nutzer anonym und kostenlos Nacktaufnahmen verbreiten können, ohne direkt nachweisen zu müssen, dass die gezeigten Personen einverstanden sind. Die Gefahr ist hoch, dass Nutzer ungehindert Aufnahmen von Vergewaltigungen und sexualisierter Gewalt verbreiten – oder Aufnahmen von Ex-Partnerinnen, die nicht für die Öffentlichkeit bestimmt sind, sogenannte Rachepornos.

Facebook hat sich für dieses Problem eine pauschale Lösung ausgedacht: Die Plattform verbietet "grundsätzlich Bilder mit sexuellen Inhalten, um das Teilen nicht-einvernehmlicher Inhalte sowie von unzulässigen Inhalten in Zusammenhang mit Minderjährigen zu verhindern". So ein Verbot ergibt auf Pornoseiten aber keinen Sinn. Aktuell gibt es für diese Websites keine fundierte Regulierung zum Schutz von Opfern sexualisierter Gewalt.

Justizministerium: Kein "bewusstes Wegschauen"

Wir haben die Ergebnisse unserer xHamster-Recherche mit dem Justizministerium, mit Netzpolitikern und mit dem Missbrauchsbeauftragten der Bundesregierung geteilt. Die Reaktionen lassen sich als alarmiert zusammenfassen.

Eine Sprecherin des Justizministeriums schreibt in ihrer Antwort an VICE, es müsse "ausgeschlossen sein, dass Anbieter durch ein 'bewusstes Wegschauen' oder eine laxe Kontrollpraxis einer Verantwortlichkeit entgehen". Sie verweist auf laufende Gesetzesvorhaben, die auch Pornoplattformen betreffen könnten.

In der Theorie klingt das zunächst positiv. Das Justizministerium halte "verpflichtende Anforderungen für Betreiber von Online-Portalen zum effektiven Umgang mit strafbaren Inhalten" für einen wichtigen Baustein beim Kampf gegen strafbare Inhalte im Netz. Die Frage ist nur, wie das in der Praxis aussehen soll.

Strengere Regeln für Pornoplattformen fordert auch der Missbrauchsbeauftragte der Bundesregierung, Johannes-Wilhelm Rörig. Bisher stünden die Chancen, mit Missbrauchsabbildungen ungestraft davon zu kommen, viel zu gut, sagt Rörig gegenüber VICE. "Wir brauchen in Deutschland eine gesetzliche Verpflichtung für Internet-Provider, Missbrauchsabbildungen im Netz melden zu müssen." Als weiteres Ziel nennt Rörig "die Pflicht der Anbieter zur (möglichst automatisierten) Suche nach Missbrauchsinhalten" auf ihren Plattformen.

Wenig Hoffnung machen die Pläne des Justizministeriums zur Reform eines Gesetzes namens NetzDG. Das Gesetz beinhaltet unter anderem eine Meldepflicht, die dabei helfen soll, dass Rechtsverletzungen in sozialen Netzwerken nicht folgenlos bleiben. Betroffene Anbieter müssen regelmäßig einen "deutschsprachigen Bericht über den Umgang mit Beschwerden über rechtswidrige Inhalte auf ihren Plattformen" veröffentlichen.

Auf Pornoplattformen wie xHamster ist das NetzDG aber nicht anwendbar. Daran wird voraussichtlich auch die geplante Reform nichts ändern, ebensowenig das geplante "Gesetz gegen Hasskriminalität". Das liegt unter anderem daran, dass die Regulierungen nur für Plattformen mit mehr als zwei Millionen registrierten Nutzerinnen und Nutzern in Deutschland gelten sollen.

Ein Großteil der Nutzer von xHamster ist aber nicht registriert, denn um Videos und Fotos auf xHamster zu anzuschauen, braucht man das nicht. Genauso verhält es sich bei Konkurrenz-Websites wie PornHub. Betroffene von sexualisierer Gewalt auf Pornoplattformen können vom NetzDG also keine Hilfe erwarten. Auf unsere konkrete Nachfrage hat xHamster nicht geantwortet, ob es mehr oder weniger als zwei Millionen registrierte Nutzer in Deutschland hat.

"Kontrollpraxis offensichtlich ungenügend"

Etwas besser sind die Aussichten auf EU-Ebene. In der EU wird derzeit an einem "Digital Services Act" gearbeitet. Das Gesetzespaket soll die rechtlichen Verpflichtungen von Plattformen neu definieren. Als Firma mit Sitz in Zypern wäre xHamster davon betroffen. Offenbar legt auch das Justizministerium Hoffnungen in dieses Gesetzespaket. Das Ministerium schreibt, es setze sich "dafür ein, dass der zukünftige europäische Rechtsrahmen effektive Sorgfaltsanforderungen für die Anbieter enthält." Im Umkehrschluss bedeutet das: Der aktuelle deutsche Rechtsrahmen ist da wohl nicht so effektiv.

Auch der Europaabgeordnete und SPD-Politiker Tiemo Wölken spricht den geplanten "Digital Services Act" an, als wir ihm die Ergebnisse unserer Recherche vorlegen. "Die Kontrollpraxis dieser Webseiten ist offensichtlich ungenügend", sagt Wölken mit Blick auf Pornoplattformen. "Oftmals ist fraglich, ob die Nutzungsbedingungen der Plattformen überhaupt ausreichen, um Rechtsverstöße zu vermeiden." Wölken überzeugt es nicht, wenn Nutzungsbedingungen – wie im Fall von xHamster – von Uploadern pauschal verlangen, Einverständniserklärungen zu besitzen. "Dies reicht für mich definitiv nicht aus."

Hast du mal bei Pornhub, xHamster oder einer anderen großen Pornoplattform gearbeitet – oder arbeitest dort noch immer? Hast du schon mal versucht, Inhalte von dort löschen zu lassen? Wir würden uns freuen von dir zu hören. Du erreichst uns verschlüsselt via Signal oder WhatsApp (+49 152 1012 4551) sowie Threema 27DS6P2R, am besten mit einem Gerät, das nicht deinem Arbeitgeber gehört.

Das geplante Gesetzespaket der EU solle Plattformen beim Umgang mit nutzergenerierten Inhalten klare Regeln geben, sagt Wölken. Als Berichterstatter im Rechtsausschuss des EU-Parlaments übernimmt er eine wichtige Rolle bei der Gesetzgebung. Das Europäische Parlament fordere, dass sich Plattformen und Behörden grundsätzlich besser austauschen, so Wölken.

Wie das aber konkret ablaufen könnte – etwa ob xHamster dann gelöschte Fotos der Polizei melden müsste –, steht noch nicht fest. Wölken bezeichnet so eine Meldepflicht zumindest als denkbaren Weg. Wie es mit dem Vorhaben weitergeht, hängt als Nächstes von der Europäischen Kommission ab.

Petition zur Kontrolle von Pornoplattformen gestartet

Zusätzlicher Druck kommt derzeit durch eine neue Petition an das Justizministerium, gestartet von Betroffenen, deren Aufnahmen gegen ihren Willen im Netz kursierten. Die Petition spricht ausdrücklich xHamster und Pornhub an, Deutschlands meistbesuchte Pornoseiten.

Verlangt wird eine "klare rechtliche Grundlage, um Pornoplattformen in die Verantwortung nehmen zu können". Dazu gehört unter anderem die Forderung, Pornoplattformen in das NetzDG einzubeziehen. Zudem sollten Plattformen Inhalte vor dem Upload überprüfen und eine Auskunftspflicht gegenüber Betroffenen haben. Stand 26. Oktober wurden mehr als 52.000 Unterschriften gesammelt.

Was eine Meldepflicht für Pornoplattformen bedeuten würde

In den USA, Kanada, Australien, Neuseeland und Großbritannien gibt es bereits eine Art Meldepflicht: Es ist eine freiwillige Selbstverpflichtung, an der sich auch Digitalkonzerne wie Google und Facebook beteiligen. Die Konzerne melden Behörden Aufnahmen mit Verdacht auf sexualisierte Gewalt an Kindern und veröffentlichen Berichte über ihre Bemühungen im Kampf gegen diese Aufnahmen.

Mit umfassenden Meldungen bei Behörden ließe sich erstmals Wissen über das konkrete Ausmaß des Problems sammeln. Auch Nutzerinnen und Nutzer können dafür etwas tun. Wenn sie im Alltag auf Nacktaufnahmen von mutmaßlichen Minderjährigen stoßen, können sie die Polizei informieren. Das unterstütze die Polizei auch dabei, die eigentlichen Täterinnen und Täter zu ermitteln, heißt es auf einer Infoseite der Polizeien von Bund und Ländern. Dahinter steht unter anderem der Gedanke, dass betroffene Kinder und Jugendliche eventuell noch immer in Gefahr schweben und ihnen Gewalt angetan werden könnte. Die Polizei rät aber dringend davon ab, solche Inhalte aktiv zu suchen.

Was aber tut xHamster, wenn die eigenen Löscharbeiter übereinstimmend Aufnahmen als "minderjährig" eingestuft haben? Laut Nutzungsbedingungen arbeite die Plattform "enthusiastisch" mit jeglichen Strafverfolgungsbehörden zusammen, die gegen sogenannte Kinderpornografie ermitteln. Aber um welche Behörden in welchen Ländern handelt es sich? Eine Antwort auf diese Fragen hat xHamster zurückgewiesen: "Wir können die Details dieser Zusammenarbeit aus Sicherheitsgründen nicht preisgeben."

Nach der Löscharbeit ist vor der Löscharbeit

Trotz der aktuell laxen Regeln von xHamster kommen schon jetzt jeden Tag eine Menge Fotos zusammen, die von xHamster entfernt werden. Auch wir haben bei der Recherche als Löscharbeiter Dutzende Bilder zum Löschen markiert, die eindeutig gegen die xHamster-Regeln verstoßen.

Es wäre nachhaltig, wenn xHamster etwas gegen die erneute Verbreitung derselben Fotos tun würde. Betroffene von sogenannten Rachepornos werden geradezu davon verfolgt, dass Täter die Aufnahmen immer und immer wieder hochladen. Dagegen gibt es technische Lösungen. Von verbotenen Bildern lassen sich digitale Fingerabdrücke errechnen, sogenannte Hashes, und in einer digitalen Datenbank speichern. Möchte jemand ein Bild hochladen, dessen Hash bereits in der Datenbank ist, könnte dieser Upload verhindert oder nachträglich entfernt werden.

Diese Technologie kommt bereits bei Facebook, Microsoft, YouTube und Twitter zum Einsatz. Damit soll auch die Verbreitung von Terrorvideos erschwert werden. Die US-amerikanische NGO "National Center for Missing and Exploited Children" (NCMEC) betreibt zudem eine Hash-Datenbank für Aufnahmen sexualisierter Gewalt gegenüber Kindern und Jugendlichen. Plattformen können diese Datenbank kostenlos nutzen, auch Facebook und YouTube machen da zum Beispiel mit. Im Februar 2020 teilte xHamster dem US-Magazin Slate mit, nicht mit NCMEC zusammenzuarbeiten, aber dafür "offen" zu sein.

Wir haben gefragt, ob auch xHamster eine solche Technologie einsetzt, damit beispielsweise gelöschte Fotos von Minderjährigen nicht wieder und wieder hochgeladen werden können. xHamster-Sprecher Hawkins hat das weder verneint noch bejaht: "Es gibt interne Mechanismen und ein sich ständig weiterentwickelndes System, um dies zu überprüfen."

Netzpolitiker Tiemo Wölken findet, solche Technologien sollten Menschen nicht ersetzen. "Ich bin der Meinung, dass Algorithmen die Filterung von Inhalten durch qualifizierte Mitarbeiter zwar unterstützen können, warne aber davor, dass sich diese Algorithmen selbstständig machen können." Entscheidungen, Inhalte zu löschen, seien vom Kontext abhängig, den Algorithmen eben nicht erkennen, so Wölken. "Deshalb sollte die finale Entscheidung in jedem Fall von einem Menschen getroffen werden."

"Zweifelhafte Aufnahmen nicht veröffentlichen"

Meldepflichten und Datenbanken haben einen Nachteil: Sie sind keine Hilfe für Betroffene, deren Aufnahmen jetzt neu im Netz kursieren. Die netzpolitische Sprecherin der Linksfraktion im Bundestag, Anke Domscheit-Berg, hat für dieses Problem einen Vorschlag – betont jedoch, dass sie noch keine Idee habe, wie sich das konkret in der Praxis umsetzen ließe.

Aktuell lässt xHamster unseren Recherchen zufolge zweifelhafte Fotos von mutmaßlich Minderjährigen oder Betroffenen sexualisierter Gewalt so lange online, bis ein Regelverstoß als sicher gilt. Das könnte Domscheit-Berg zufolge aber genau umgekehrt ablaufen. Wenn ein Foto gemeldet würde, "sollte es eine Pflicht zur Löschung oder alternativ zum Nachweis der Legalität durch die Nutzer innerhalb einer vorgegebenen Frist geben, während der fragliche Inhalt nicht mehr zugänglich ist." Wenn ein solcher Nachweis nicht erbracht werden könne, sei der Inhalt im Zweifelsfall zu löschen.

In eine ähnliche Richtung geht die Einschätzung des Rechtsanwalts Mirko Laudon. Er weiß aus eigener Erfahrung als Strafanwalt, wie schwer es ist, die Volljährigkeit eines Menschen mit bloßem Auge zu bestimmen. "Das ist gerade in den Grenzfällen praktisch niemals sicher zu beurteilen", sagt Laudon. Auch bei einer geringen Wahrscheinlichkeit, dass es sich um ein Kind handele, müsste das Foto oder Video von einer Pornoplattform gelöscht werden. "Im Ergebnis müsste man also sagen, dass man gar keine 'Teen'-Aufnahmen unbekannter Herkunft (sprich: mit ungeklärtem Alter) veröffentlichen dürfte."

Nur wie könnte eine so große Pornoplattform wie xHamster Altersnachweise und Einverständniserklärungen effektiv sammeln und überprüfen? Wie könnten dabei die Daten der Uploader geschützt werden? Schließlich sind viele Darstellerinnen und Darsteller auf den Schutz ihrer Anonymität angewiesen.

Ein praktisches Vorbild für einen wirksamen Schutz gegen die Verbreitung sexualisierter Gewalt auf Pornoplattformen gibt es noch nicht. Anke Domscheit-Berg warnt vor Symbolpolitik. "Das ist keineswegs trivial und ich würde natürlich keine Regelung verabschieden wollen, deren Umsetzung nicht klar oder nicht machbar ist." Deshalb sei es zunächst der wichtigste Schritt, dafür zu sorgen, dass Plattformen sich an bereits geltende rechtliche Vorgaben halten.

Außerdem fordert Domscheit-Berg, mehr Wissen über das Thema zu sammeln. "Wichtig wären Studien, um Formen und Ausmaß dieser missbräuchlichen und strafrechtlich relevanten Nutzungen besser zu verstehen." Die Linksfraktion werde deshalb weiterhin die Bundesregierung auffordern, über digitale Gewalt zu forschen und Daten zu erheben.

Luft nach oben gibt es bei dem Thema gewiss. Im Jahr 2018 stellte die Linksfraktion eine Kleine Anfrage an die Bundesregierung: "Wie oft wurden Formen digitaler Gewalt nach Kenntnis der Bundesregierung jeweils in den vergangenen fünf Jahren angezeigt, und wie oft kam es zu Verurteilungen?"

Die ernüchternde Antwort: Die Regierung hat keine Ahnung. Fälle von digitaler Gewalt werden schlicht bei anderen Delikten hinzugerechnet, und niemand kann aktuell beziffern, wie groß das Problem wirklich ist.

Beratung und Unterstützung bei sexualisierter Gewalt finden Betroffene, Angehörige, Fachkräfte und alle Menschen, die sich Sorgen um ein Kind machen, in Deutschland beim Hilfetelefon Sexueller Missbrauch, 0800 22 55 530 (kostenfrei und anonym) und auf dem Hilfeportal www.hilfeportal-missbrauch.de. Hilfe bieten auch die bundesweiten Frauenberatungsstellen und Frauennotrufe.

Wer in der Schweiz sexualisierte Gewalt erlebt hat, findet bei der Frauenberatung Links zu Beratungsstellen. Betroffene Männer erhalten Hilfe im Männerhaus. In Österreich wird ein 24-Stunden-Hilfenotruf unter 01 71 719 angeboten.

Folge Yannah und Sebastian auf Twitter und VICE auf Facebook, Instagram  und Snapchat.