Anzeige
Tech

Diese Entwicklerin sammelt Dickpics für einen Penis-Filter

Kesley Bressler erzählt uns, warum Plattformen Nutzerinnen besser schützen sollten und welche Penisse noch durch den Filter rutschen.

von Sebastian Meineck
23 September 2019, 9:38am

Hand: imago images | fStop Images || Bananen: Pixabay | CC0 || Collage: VICE

In manchen Situationen können Penisse willkommen sein – aber niemals, wenn sie unaufgefordert im Posteingang landen. Dann sind sie in etwa so erwünscht wie der kleine Finger eines Fremden im eigenen Ohr.

Auch Kesely Bressler hat schon unaufgefordert Dickpicks bekommen – wie wohl die meisten Menschen mit einem öffentlichen Social-Media-Account, die nicht zufällig Hetero-Männer sind. Jetzt geht Bressler in die Offensive.

Die Entwicklerin aus Seattle arbeitet an einer Software namens SafeDM, die per Bilderkennung automatisch alle Penisse aus dem Posteingang tilgen soll. Eine erste Version soll bald erscheinen, schrieb sie im per Mail geführten Gespräch mit VICE.

Um die Software mit neuem Bildmaterial zu testen, bittet Bressler nun interessierte Penisträger um Hilfe. Wer will, darf der Entwicklerin also auf Twitter seine Rübe schicken, in diesem Fall einvernehmlich und im Namen der Wissenschaft.

Bressler erzählt VICE, welche Fotos bisher eingereicht wurden, warum Instagram, Facebook und Twitter ihre Nutzerinnen besser schützen sollten – und woran ihr Penis-Detektor noch scheitert.

VICE: Hat niemand bezweifelt, ob du die Penisbilder wirklich im Namen der Wissenschaft sammelst?
Kelsey Bressler: Doch. Jemand hat mir vorgeworfen, ich würde die Dickpics horten, um mich damit zu vergnügen. LOL!!

Ist diese Aktion wichtig für die Entwicklung der Software – oder vor allem Werbung?
Wir testen die Software mit den Bildern und nehmen aktiv Verbesserungen vor. Abgesehen davon freuen wir uns, dass Leute an unserer Arbeit interessiert sind und darüber sprechen. Unerwünschte Nacktfotos sind ein Problem, das angesprochen werden muss. Umfragen zeigen: Mehr als die Hälfte der jüngeren Frauen in sozialen Medien haben schon ein Nacktfoto von einem Mann erhalten. Einigen Frauen passiert das sogar ständig. Wir sind froh, wenn wir eine Debatte darüber anstoßen können, wie sich dieses Problem lösen lässt.

Wie viele unerwünschte Dickpics hast du schon erhalten?
Schwer zu sagen. Aber vor ein paar Wochen ist es mal wieder passiert.

Unerwünschte Dickpics sind ätzend – aber wie ist es mit Dickpics im Namen der Wissenschaft?
Die haben mich nicht gestört, weil ich danach gefragt habe und weil alle Beteiligten wussten, warum das passiert. Die Leute waren wirklich nett und hilfsbereit. Innerhalb weniger Tage habe ich mehr als 1.000 Bilder erhalten. Ich habe mir nicht viele dieser Bilder angeschaut. Aber die Bilder, die ich gesehen habe, waren sehr interessant: Ein Penis war in lilafarbenem Glitter eingehüllt und ein anderer befand sich in einem Hot-Dog-Brötchen.

"Viele Leute haben mir das Gesicht von Donald Trump geschickt"

Welche anderen Fotos außer Dickpics haben Leute "zum Spaß" eingereicht?
Vor allem Politiker. Und viele Hot Dogs.

Was für Dickpics erkennt die Filter-Software nicht?
Der Filter erwischt alle Arten von Penissen. Aus 100 Dickpics kann die Software mehr als 90 korrekt erkennen. Soweit ich weiß, erkennt sie sowohl schlaffe als auch erigierte Penisse. Nur wenn Penisse von anderen Dingen verdeckt werden, zum Beispiel einem Käfig, könnten sie dem Filter entkommen. Ich erinnere mich auch nur an einen Fall, in dem die Software fälschlicherweise etwas anderes für einen Penis gehalten hat. Das war natürlich ein Hot Dog.

Eine der ältesten Regeln im Internet lautet: Niemals Nacktbilder mit Gesicht verschicken. Haben das alle Leute beherzigt?
Ich habe kein einziges Nacktbild mit Gesicht gesehen. Aber viele Leute haben mir das Gesicht von Donald Trump geschickt.

Die Dickpics lassen sich per Twitter-DM einreichen, aber Twitter bietet keine Ende-zu-Ende-Verschlüsselung. Sollten sich die Teilnehmer wegen Datenschutz sorgen?
Ja, es ist immer gut, sich zu fragen, was mit deinen Bildern passiert. Ich weiß das besser als viele andere, denn auch von mir wurden schon Bilder geleakt. Wir raten allen Teilnehmenden, nicht ihr Gesicht zu zeigen und es besser bleiben zu lassen, wenn sie irgendwelche Zweifel haben. Es gibt genügend Leute, die trotz der Risiken im Namen der Wissenschaft mitmachen möchten.

Manchmal hat Software zur Bilderkennung einen rassistischen Bias, etwa weil sie vorwiegend mit Fotos von weißen Menschen trainiert wurde. Wie gut erkennt der Filter Penisse von nicht-weißen Personen?
Auf Grundlage unserer Testergebnisse haben wir keinen Anlass anzunehmen, dass es einen rassistischen Bias gibt.

Mit welchen Messengern lässt sich der Dickpic-Filter verknüpfen?
Unser Prototyp arbeitet mit Twitter. Aber wir glauben, jede Plattform mit Direktnachrichten kann davon profitieren. Die Software erkennt und löscht das Foto aus deinem Postfach. Wir arbeiten noch an einem Feature, das auch die Person blockiert, die dir ein Dickpic schickt.


Auch auf VICE: Der qualvolle Kampf gegen Rachepornos


Twitter, Instagram, Facebook und viele andere sind schon ganz gut darin, Nacktheit in Bildern zu erkennen. Und sie haben jede Menge Geld und Entwickler. Kann deine Software das toppen?
Twitter verlässt sich aktuell darauf, dass Nutzer heikle Inhalte melden. Das funktioniert in der Timeline, aber nicht in privaten Nachrichten. Wenn die Plattformen so gut darin sind, Nacktheit zu erkennen, warum unternehmen sie dann nicht mehr? Ich höre jeden Tag, dass schon wieder jemand ein unerwünschtes Nacktfoto erhalten hat. Mir geht es nicht darum, was ich besser kann. Ich will etwas tun, was die anderen nicht ausreichend anpacken.

Grenzverletzendes Verhalten und digitale Gewalt gegen Frauen hat viele Facetten. Wie viel kann der Dickpic-Filter ausrichten?
Die Software kann dabei helfen, das Internet zu einem sichereren Ort zu machen und Online-Räume inklusiver zu gestalten. Um nicht belästigt zu werden, stellen Frauen ihre Accounts häufig so ein, dass sie gar keine Direktnachrichten von Fremden erhalten können. Ich hoffe, der Filter nimmt vielen Frauen diese Last, sodass sie sich sorgenfreier im Internet beteiligen können.

Folge Sebastian auf Twitter und VICE auf Facebook , Instagram und Snapchat.

Tagged:
tech
Motherboard
Facebook
Social Media
diskriminierung
Digitale Gewalt
Plattformen