facebook
Internet

Cum își pregătește Facebook oamenii care-ți dau block

Un fost angajat de la Facebook mi-a povestit cum decide compania dacă o persoană e potrivită să analizeze toată ziua conținut violent și explicit.
28.2.19

Pe 25 februarie, Casey Newton de la The Verge a publicat o investigație imensă despre cum se bazează Facebook pe angajații cu contract de muncă pe perioadă determinată ca să-și modereze platforma. Moderatorii de conținut de la Cognizant, o companie de „servicii profesionale” cu sediul în Arizona, câștigă aproximativ 28 800 de dolari pe an ca să modereze postări care includ ură, violență grafică și conținut sexual, suicid sau automutilare.

Publicitate

Articolul lui Newton îți oferă o ocazie rară de a vedea cum e să ai un astfel de job; unele dintre sursele cu care a vorbit au zis că au fost radicalizate de conținutul pe care l-au văzut în fiecare zi, altele au atacuri de panică și anxietate, iar un moderator a zis că a început să doarmă cu pistolul lângă el. La Cognizant, moderatorii de conținut ai Facebook primesc nouă minute de „wellness time” pe zi, ca să-și protejeze sănătatea mintală. Unii dintre ei au zis că pot fi concediați pentru că au o „rată de acuratețe” prea scăzută.

Anul trecut, împreună cu Joseph Cox de la Motherboard, am făcut timp de câteva luni o investigație despre politicile de moderare a conținutului ale Facebook. În cadrul acestei investigații, am fost la sediul Facebook din Menlo Park, California, ca să le iau interviuri persoanelor care se ocupă de așa ceva. Unul dintre liderii lor era, pe atunci, Brian Doegan. Doegan era trainer-ul moderatorilor și a stabilit ghidul de reguli după care erau ghidați aceștia.

Acest interviu a avut loc la sfârșitul lunii iunie 2018. Între timp, Doegan nu mai lucrează pentru companie și se pare că Facebook nu l-a înlocuit încă. Pe lângă Doegan, au mai participat la interviu și două purtătoare de cuvânt de la Facebook, Carolyn Glanville și Ruchika Budhraja, care au adăugat lămuriri când a fost nevoie. Deși Doegan a părăsit compania, acesta e cel mai extins interviu pe care Facebook l-a dat vreodată despre protocolul specific pentru pregătirea moderatorilor.

MOTHERBOARD: Care e procesul prin care cineva devine moderator de conținut?
BRIAN DOEGEN: După ce se stabilește că are talent pentru acest rol – îi analizăm abilitățile de limbaj și tot felul de alte caracteristici – poate începe trainingul. Începem prin aclimatizarea lor la cultura Facebook, le explicăm care e misiunea noastră. Apoi urmează o abordare în trei etape. Una e pre-antrenamentul, urmează programa și apoi post-antrenamentul și menținerea.

În pre-antrenament, ne asigurăm că toți reprezentanții noștri au ocazia să urmărească alți angajați mai experimentați care fac același job. Ca să înțeleagă cum va decurge o zi din viața lor. Și au multe de învățat în această etapă, chiar de la oamenii care fac deja jobul respectiv foarte bine. Așadar, când trec la programă, au deja un nivel de înțelegere mai mare. Acoperim toate standardele comunității și le discutăm pe rând. Avem conversații complexe pe marginea materialului.

Publicitate

Toată lumea?
Da, și cei vechi, și cei noi. Cum spuneam, antrenamentul nu se încheie niciodată. O parte din el e lectura, care e foarte importantă și cu care mulți sunt familiari, pentru că au trecut prin școală. Dar există și componenta practică. Toată experiența se desfășoară pe mai multe săptămâni. Și fiecare tip de abuz e diferit, acțiunile motivate de ură sunt diferite de cele de tip bullying, care e foarte diferit de conținutul sexual. Așadar, încercăm să încadrăm fiecare tip de conținut în categoria corectă. E un proces care e în continuă evoluție.

Există persoane specializate doar pe un anumit tip de conținut?
Noi ne antrenăm moderatorii să lucreze cu toate tipurile de abuz.

Adică nu aveți un expert pe discurs motivat de ură sau o echipă expertizată în conținut sexual?
Avem anumiți experți specializați pe anumite tipuri de abuz și ținem mereu legătura cu ei ca să le oferim angajaților cea mai bună experiență de training.

CAROLYN GLANVILLE: Aș vrea să elaborez puțin…

BRIAN DOEGEN: Îți cer scuze dacă am zis ceva greșit.

CAROLYN GLANVILLE: Nu, deloc, stai liniștit, am vrut doar să explic cât mai clar. Așadar, cum a zis și el, moderatorii noștri sunt antrenați pentru toate tipurile de abuz, dar există unii angajați care cunosc mai bine politicile și recurgem la ei când e vorba de nuanțe subtile. Apoi, sunt lucruri de care se ocupa echipa de marketing. Sau sunt domenii foarte sensibile, cum ar fi exploatarea copiilor, care necesită oameni care să trateze corect și rapid problema, pe căile corecte. Dar cel mai greu e să antrenăm masele, să ne asigurăm că angajații Facebook din toată lumea funcționează după aceleași reguli.

Publicitate

BRIAN DOEGEN: Corect, mulțumesc pentru precizare. De exemplu, pregătirea pentru mesajele motivate de ură din Turcia e foarte diferită de felul în care e monitorizată ura în Texas, din punct de vedere cultural. Așadar, avem echipe de piață, compuse din profesioniști specializați în anumite piețe și limbi, și colaborăm cu ei ca să ne asigurăm că pregătirea noastră are cele mai relevante exemple.

E un job super dificil. Cum îl descrieți angajaților aflați la început de drum? Le spuneți la ce o să se uite în fiecare zi?
BRIAN DOEGEN: Da, recunoaștem că e un job dificil. Știu foarte bine asta, pentru că monitorizez și oamenii care postează acest tip de conținut, cât și pregătirea. Nu e un job pentru oricine, știm foarte clar asta și le-o spunem tuturor. Totul începe în etapa de selectare a talentelor. Ne asigurăm că angajații care vor face asta știu foarte bine în ce se bagă. Apoi, îi supunem unor teste și misiuni ca să ne asigurăm că plasăm persoanele potrivite în rolurile potrivite. După asta, le dăm ocazia direct să vadă cum arată jobul unui moderator. Bineînțeles, îi susținem pe parcurs și avem un program foarte eficient, în cadrul căruia toți au acces la resursele și serviciile de care au nevoie.

Nu sunt expert în strategii de resurse umane, dar sunt curios dacă pregătirea se bazează pe teorii academice sau pe cele mai bune practici pe care le-ați observat în alte industrii? Sau a fost construit de la zero special pentru moderarea de conținut?
În unele aspecte, suntem foarte unici. Suntem singura organizație care oferă acest tip de antrenament la acest nivel. Evident că ne-am inspirat, totuși, și din modele coporatiste.

Publicitate

Cel cu care ne-am identificat cel mai mult se numește 70-20-10. Acest model sugerează că aproximativ șaptezeci de procente din ce știi ca profesionist, ca editor, ca reporter, ai învățat prin practică, douăzeci de procente din pregătire și lucrul în echipă cu persoane mai experimentate și zece procente prin învățare formală. Așadar, încercăm să echilibrăm învățarea formală cu practica la job și cu pregătirea și urmăm cu sfințenie acest model.

Există o perioadă în care moderatorii își fac treaba pe un site de test?
Da, le oferim ocazia să exerseze și avem chiar și un instrument foarte valoros, un mod de simulare care îți permite să acționezi ca la un conținut real. E o copie a aceluiași sistem pe care acești angajați îl folosesc în fiecare zi, dar e folosit doar pentru exerciții. Așadar, deciziile pe care le iei acolo nu au impact asupra unei comunități de două miliarde de oameni. E un instrument foarte valoros pentru noi, pentru că moderatorii au ocazia să se antreneze, iar noi le putem oferi coaching personalizat. Așadar, în mod ipotetic, dacă ai probleme cu conținutul motivat de ură, putem analiza informațiile în funcție de rezultatele simulărilor tale și te putem pregăti pe acel subiect.

Mai avem și alte teste care arată mai mult sau mai puțin ca aplicația pe care o folosesc moderatorii pe site.

Ce înseamnă un moderator de succes? Adică, evident că vă doriți o acuratețe de sută la sută, dar chiar e realist?
Evident că scopul e de sută la sută acuratețe, dar poate că vă poate spune Carolyn mai multe despre asta. La urma urmei, în spatele fiecărui abuz, în spatele fiecărui report e o persoană. De asta e un job atât de dificil.

Publicitate

CAROLYN GLANVILLE: Cred că ai fi surprins să știi cât de mare e rata de acuratețe, dar motivele pentru care n-am vorbit până acum despre asta e pentru că, așa cum a zis și el, aceste erori care există sunt cauzate de o persoană. Și acestea sunt cele promovate și cele care supără oamenii, așa că, oricât de mare ar fi acuratețea, n-o să fie niciodată de ajuns, d-aia mereu încercăm să ajungem în punctul în care să nu mai existe greșeli.

Când antrenați angajații, bănuiesc că puneți accent pe faptul că vreți o acuratețe de sută la sută, dar evident că oamenii tot vor face greșeli. Cum le transmiteți mesajul acesta fără să-i panicați?
BRIAN DOEGEN: Învățarea se face într-un spațiu sigur. Nu îi învățăm cu biciul, e foarte important și spiritul de comunitate.

RUCHIKA BUDHRAJA: Noi știm că nimeni nu e perfect și le spunem asta și angajaților, dar care e alternativa la imperfecțiune? Totul ar trebui să devină automatizat, iar oamenii nu vor asta. Dar dacă angajăm oameni, e clar că vor face greșeli. Cred că ne dorim să vorbim mai mult despre automatizare și algoritmi, poate că cele două merg mână în mână. Dacă cei care revizuiesc vor vedea că vorbim deschis despre asta, atunci nu vor mai fi atât de copleșiți în interior.

CAROLYN GLANVILLE: Cred că există foarte puține cazuri când cineva e concediat pentru că a făcut o greșeală. Dacă observăm o greșeală, persoana respectivă e antrenată din nou sau ne analizăm mai bine politicile și ghidul, în caz că există nelămuriri sau scăpări. Greșelile scot lucrurile astea la suprafață.

Majoritatea trainer-ilor sunt moderatori de conținut care cresc în funcție?
BRIAN DOEGEN: Unii dintre ei da, și chiar îi încurajăm în direcția carierei. Cei care par să aibă motivație și talent pentru coaching ajung până la urmă în rolul de trainer sau șef de echipă.

Spuneți pe față că jobul e dificil, că se vor confrunta zilnic cu imagini violente. Ce le oferiți ca să le salvați sănătatea mintală?
În primul rând, înainte să înceapă jobul, vorbim foarte mult despre tot ce e posibil să vadă, ca să nu fie expuși direct. Apoi, au acces la consilieri, pot vorbi cu colegii mai experimentați. Au la dispoziție camere de relaxare, unde pot să se joace. Sau dacă au avut o zi mai grea pot pleca mai devreme acasă. Echipa e solidă și putem înlocui pe oricine în caz că are nevoie să-și ia o pauză.

Publicitate

CAROLYN GLANVILLE: Din perspectiva antrenorului, am observat un lucru interesant. Noi oferim consiliere pentru orice moderator de conținut, dar în multe țări nu e acceptabil din punct de vedere cultural să primești acest ajutor. Din acest motiv, trebuie să supraveghem atent angajații și să ne asigurăm că angajatorii din orice țară știu ce servicii să le ofere și cum să pună problema, astfel încât să fie acceptabil cultural pentru ei. Unora le e simplu să străbată holul și să meargă în biroul consilierului, dar alții nu pot face asta. Unii nici nu-și dau seama că au probleme. Dar e interesant că trebuie să luăm în calcul toate aceste nuanțe culturale și, în același timp, să ne asigurăm că toți angajații știu ce resurse au la dispoziție.

Aveți antrenamente diferite pentru fiecare țară în parte? De exemplu, practici care să se potrivească cel mai bine în India? Sau în România?
BRIAN DOEGEN: Învățarea e o artă și, în același timp, o știință. Nu, nu există cercetări care să fi dovedit că anumite practici sunt mai bune pentru India sau orice altă țară. Dar da, încercăm să ne adaptăm la stilurile de învățare diferite din fiecare țară. De aceea punem accentul pe diversitatea modalităților.

Ai spune că și moderarea de conținut e o artă și o știință?
Da, e bazată pe știință, există o metodologie pe care o folosim, metodologia ISD.

Crezi că Facebook prețuiește rolul ființei umane în acest proces?
Absolut, mi se pare evident din felul în care creștem și investim atâtea resurse în acest proces. În cei 17 ani de carieră, n-am văzut nicio companie care să investească atât de mult în această funcție.

Articolul a apărut inițial pe VICE US.