Facebook

Cum luptă Facebook cu pozele cu penisuri

Motherboard a obținut materialele din care moderatorii Facebook învață cum să-și dea seama ce încalcă politica platformei și ce e pornografie din răzbunare.
IG
translated by Irina Gache
16.5.18
Imagine: Sam Cole

Moderatorii de la Facebook se confruntă cu provocările pornografiei din răzbunare, escrocheriile sexuale și cu oamenii care distribuie fotografii nesolicitate cu penisuri. Asta reiese din cea mai recentă scurgere de informații la care a avut acces și Motherboard. Moderatorilor companiei li s-a spus de curând să nu-i mai pedepsească pe oamenii care se plâng că primesc poze nesolicitate cu penisuri, lucru care arată că politica Facebook-ului în privința nudității evoluează constant.

Publicitate

Motherboard a obținut o selecție de materiale pentru moderatorii Facebookului și de asemenea o copie a unui video care oferă mai multe detalii despre cum Facebook își învață moderatorii să lupte împotriva pornografiei din răzbunare și a escrocheriilor sexuale. O parte din material se suprapune cu ce a publicat The Guardian în 2017, dar materialul oferit celor de la Motherboard e mai recent și include informații diferite. Motherboard confirmă că unele persoane menționate în videoclipurile de training și în materiale sunt angajați Facebook, lucru care sugerează că sunt pe bune. Când au fost întrebați despre ele, cei de la Facebook nu au discutat despre detalii specifice și private incluse în alte părți ale arhivei.

Pornografia din răzbunare e o problemă globală pe internet și pe rețelele sociale, cu oameni care distribuie fotografii intime și explicite cu foste iubite, parteneri și alții fără acordul lor. Iar șantajele sexuale, unde oamenii hărțuiesc țintele fie pentru bani sau pentru mai multe fotografii nud, sunt o mare problemă în special pe Facebook.

„Șantajul sexual este o problemă majoră pe Facebook – am văzut cum a crescut într-o afacere imensă care prinde în cursă și stoarce de bani oameni în fiecare zi”, a scris celor de la Motherboard într-un email, Carrie Goldberg, avocată specializată în hărțuiri sexuale și cazuri de pornografie din răzbunare.

O secțiune a materialelor de studiu obținute de Motherboard. Imagine: Motherboard

În videoclipul obținut de Motherboard, trainerul confirmă că Facebook a dezactivat conturile victimelor care postează despre cum primesc poze nesolicitate cu penisuri sau „despre distribuirea de imagini nedorite cu organe genitale adulte”, în limbajul propriu al celor de la Facebook. În mai multe exemple date în timpul trainingului, utilizatorii Facebook au postat pe profilurile lor screenshot-uri cu pozele nedorite cu penisuri ca să se plângă că le-au fost trimise.

În trecut, moderatorii Facebook ar fi putut cataloga imaginile astea ca fiind pornografie din răzbunare, și ar fi dat materialul unui superior ca să-l revizuiască (numită „extindere” în materialele Facebook-ului), care apoi ar fi dezactivat contul victimei. Într-un caz raportat public, Facebook a dezactivat contul unei femei care a postat screenshot-uri cenzurate cu interacțiunea ei cu un bărbat care i-a trimis o poză cu un penis; tipa i-a raspuns bărbatului cu o grămadă de alte poze cu penisuri găsite de ea online.

Publicitate

Dar, dupa cum reiese din video, Facebook își schimbă politica și spune moderatorilor să șteargă pur și simplu imaginile care încalcă politica sa în legătură cu nuditatea, în loc să penalizeze de fapt utilizatorii. Materialul de training obținut de Motherboard arată de asemenea că Facebook va trebui să găsească un echilibru în abordare ca să protejeze victimele masculine ale distribuirii de imagini intime fără aprobare, și să se asigure că schimbul politicii nu îi va afecta nici pe ei.

Văzând cât de complexe pot fi totuși regulile pentru moderatorii Facebook, victima pozei cu penis trebuie să condamne în mod explicit poza cu penisul printr-un post personal ca Facebook să facă ceva în privința asta, conform videoclipului. Altfel, moderatorii ar putea vedea postul ca fiind o altă bucată de pornografie din răzbunare.

Într-adevăr, deși materialele de training ale Facebook spun că ar trebui să fie ușor să faci diferența între șantaje sexuale pentru bani și pornografie din răzbunare, trainerul recunoaște că anumite situații pot să nu fie așa de clare. Ăsta este genul ăla de ambiguitate cu care se luptă Facebook, iar compania a fost criticată recent pentru clasificarea greșită a nudității. De exemplu, nu doar că a banat victimele pozelor cu penisuri în anumite cazuri, dar a și marcat o fotografie istorică cu așa-numita fată Napalm ca fiind pornografie.

Când vine vorba despre etichetarea a ceva ca pornografie din răzbunare, contextul postării poate fi la fel de important ca imaginea în sine, conform videoclipului sau materialului de training.

Publicitate

„Este interesant că se concentrează pe motivație – poziția noastră chiar nu contează. Delictul pornografiei nonconsensuale are loc când un infractor distribuie o imagine fără a avea acordul pentru asta, noi nu credem că (și legi din mai multe state reflectă asta) intențiile infractorului contează”, a spus Goldberg, avocata.

Pentru pornografie din răzbunare, moderatorii verifică imaginea să vadă dacă are nuditate sau o poziție sexuală, și confirmă lipsa acordului verificând dacă postarea are un context răzbunător, după cum arată cadrele publicate anterior de The Guardian. Dar în noile cadre ieșite la iveală, moderatorilor li se mai spune acum să verifice dacă fața persoanei din imagine și fața persoanei care raportează imaginea este aceeași și la fel și numele ei.

„Folosim tehnologii de potrivire a imaginilor ca să ajutăm la prevenirea distribuirii de astfel de fotografii. Avem de asemenea o echipă dedicată de revizori de conținut care sunt învățați să le verifice și să le șteargă”, au spus cei de la Facebook pentru Motherboard într-o declarație.

Articolul a apărut inițial pe VICE US.