Interne Dokumente zeigen, wie Facebooks Moderatoren Nacktbilder überprüfen

Facebook schult seine Mitarbeiter gezielt für den Kampf gegen Rachepornos, Sextortion und Dick Pics, das geht aus einem Schulungsvideo und anderen internen Dokumenten hervor, die Motherboard vorliegen. Vor allem der Umgang mit den Penisbildern zeigt, dass sich Facebooks Richtlinien zum Umgang mit Nacktbildern ständig weiterentwickeln.

Die Informationen zu Facebooks internen Abläufen überschneiden sich teilweise mit denen, die der Guardian bereits 2017 veröffentlicht hat. Das nun vorliegende Material ist jedoch neuer und enthält teils andere Informationen. Motherboard konnte bestätigen, dass einige der Leute, die im Trainingsmaterial erwähnt werden, tatsächlich für Facebook arbeiten. Das deutet daraufhin, dass die Dokumente echt sind. Auf unsere Anfrage hin hat Facebook die nicht öffentlich bekannten Inhalte aus dem Trainingsmaterial nicht dementiert.

Rachepornos sind ein globales Problem, das sich über viele Plattformen und Social-Media-Seiten erstreckt: Intime Aufnahmen oder geleakte Nacktbilder werden von Ex-Partnern oder Fremden ohne Zustimmung im Netz verbreitet. Bei der sogenannten Sextortion versuchen Täter, ihre Opfer zu erpressen. Sie fordern entweder Geld oder weitere Nacktbilder.

Aus dem vorliegenden Material geht hervor, dass Facebook offenbar fälschlicherweise Facebook-Konten von Nutzerinnen gesperrt hat, die ungefragt mit Dick Pics belästigt worden sind. Der Grund: Wenn Nutzer Dick Pics, die sie erhalten haben, auf ihrer Pinnwand posten, kann es passieren, dass diese Bilder von Moderatoren als Rachepornografie gewertet werden. Die Bilder werden dann an einen Vorgesetzten weitergeleitet, der darüber entscheidet, ob das Nutzerkonto gesperrt wird.

In einem Fall, der öffentlich bekannt wurde, hatte Facebook das Konto einer Nutzerin gesperrt, die sich gegen ungefragte Penisbilder wehren wollte, indem sie dem Absender ebenfalls Bilder von Penissen sendete. Zensierte Screenshots dieser Konversation teilte sie später auf Facebook.

Aus einem internen Schulungsvideo geht hervor, dass Facebook diese Vorgehensweise nun ändert. Moderatoren sollen Dick Pics weiterhin löschen, weil sie gegen die Nacktbild-Richtlinien von Facebook verstoßen, aber nicht das Nutzerkonto sperren. Nutzer müssen demnach in einem solchen Fall aber in ihrem Post deutlich machen, dass sie das betreffende Dick Pic gegen ihren Willen erhalten haben, damit Moderatoren es nicht irrtümlicherweise als Rachepornografie einordnen.

Facebook räumt im Trainingsmaterial ein, dass diese neue Regelung wiederum nicht männlichen Betroffenen schaden darf, deren intime Bilder ohne Einverständnis geteilt werden.

Auf Broadly: Der qualvolle Kampf gegen Rachepornos

Aus dem Trainingsmaterial geht hervor, es lasse sich offenbar leicht zwischen finanziell motivierter Erpressung und Rachepornos unterscheiden; trotzdem räumt Facebook ein, dass es Ausnahmen gebe. In letzter Zeit wurde Facebook öfter dafür kritisiert, Aufnahmen nackter Menschen falsch zu deuten und unberechtigerweise zu sperren. Beispielsweise wurde die Aufnahme des vor einem Napalm-Angriff fliehenden Mädchens namens Kim Phúc als pornografischer Inhalt eingeordnet und gelöscht. Dabei ist das Bild eines der bekanntesten Fotos aus dem Vietnam-Krieg und gilt als historisches Zeitzeugnis.

Wenn es darum geht, etwas als Racheporno zu flaggen, kann der Kontext des Posts laut Facebooks Trainingsmaterial genauso wichtig sein wie das Bild selbst.

"Es ist interessant, dass Facebook sich so sehr auf die Motivation hinter dem Post konzentriert", schreibt Anwältin Carrie Goldberg in einer E-Mail an Motherboard. Goldberg ist auf Fälle spezialisiert, in denen es um sexuelle Belästigung und Rachepornos geht. Die Anwältin ist der Meinung, es handele sich um Rachepornografie, sobald ein Täter eine Aufnahme ohne Einverständnis verbreitet.

Um zu bestätigten, dass es sich bei Aufnahmen um Rachepornos handelt, prüfen Facebooks Moderatoren, ob die Bilder nackte oder teilweise nackte Personen und sexuelle Posen zeigen. Außerdem überprüfen sie, in welchem Kontext die Bilder gepostet wurden. Das ging bereits auch aus den Folien hervor, die der Guardian 2017 veröffentlichte. Den nun vorliegenden Materialien zufolge sollen Moderatoren außerdem überprüfen, ob das Gesicht und der Name der fotografierten Person mit der Person übereinstimmen, die das Bild gemeldet hat.

"Wir nutzen Bilderkennungsprogramme, um die Bilder abzugleichen und somit die weitere Verbreitung von Bildern zu verhindern. Wir haben ein Team, das darauf spezialisiert ist, die Inhalte zu überprüfen und zu entfernen", erklärte Facebook gegenüber Motherboard.

Folgt Motherboard auf Facebook, Instagram, Snapchat und Twitter