Kako zaposleni u Fejsbuku moderiraju terorističke napade u živim prenosima

Ovog petka je barem 49 ljudi ubijeno u terorističkim napadima na džamije u Krajstčrču na Novom Zelandu. Jedan napadač je prenosio napad uživo preko Facebook Live usluge za striming. Snimci su bili eksplicitni i Fejsbuk je obrisao napadačeve naloge na toj mreži, kao i na Instagramu, mada je snimak stigao na druge mrežne lokacije.

Ovaj događaj ukazuje na teškoće oko moderacije sadržaja koji se prenosi uživo, gde video koji naizgled deluje bezazleno brzo može da eskalira u nasilan, bez imalo upozorenja. "Ne mogu da zamislim da sam moderator koji je morao da bude svedok tog lajvstrima sa Novog Zelanda“, izvor sa direktnim poznavanjem strategija koje Fejsbuk koristi da moderira sadržaj je rekao za Motherboard.

Kao i bilo koji sadržaj na Fejsbuku, bili to postovi, fotografije ili snimljen video, korisnici mogu da prijave žive prenose za koje smatraju da sadrže nasilje, govor mržnje, zlostavljanje ili druge oblike ponašanja koji krše pravila Fejsbuka. Pošto se to desi, moderatori pregledaju sadržaj i donose odluku o tome šta činiti sa prenosom.

Prema internom dokumentu za trening moderatora na Fejsbuku, u koji je Motherboard imao uvid, moderatori mogu da "snuzuju“ prenos, što znači da ga privremeno odlože. Snuzovan prenos se moderatorima pojavlkuje ponovo na svakih pet minuta, kako bi mogli da provere da li se nešto događa.

Moderatori takođe imaju opciju da ga ignorišu, čime praktično odbacuju prijavu; da obrišu prenos; ili da stvar podignu do nivoa gde če se njome baviti specijalizovani tim koji pregledati da li je reč o opasnim stvarima kao što je terorizam. U slučaju terorizma, taj tim će obeležiti prenos tako da on dođe pre specijalni Fejsbukov Law Enforcement Response tim (LERT), koji radi direktno sa policijom. U slučaju terorističkog čina u Krajstčrču, Fejsbuk nam je rekao da je kontaktirao novozelandsku policiju već na samom početku incidenta.

Kada se potencijalni slučaj terorizma tako podiže na viši nivo, moderatori prvo treba da odgovore na nekoliko pitanja o sadržaju: šta se to događa što ukazuje na to da korisnik čini terorističko delo? Šta je korisnik rekao što ukazuje na to da će se desiti zločin? Ko je u opasnosti? Šta korisnik pokazuje u videu? Kakva mu je okolina; da li je u kolima?

Konačno, moderatori mogu da “obeleže” prenos pomoću brojnih etiketa, kao što je “uznemirujuće”, “osetljivo”, “za odrasle”, “niskog kvaliteta”, kako stoji u dokumentu za trening.

Kada pregledaju žive prenose, moderatori mogu da pogledaju ono što u tom trenutku ide uživo, kao i delove koji su već emitovani, a više moderatora može da se bavi istim klipom, tako da svaki premotava do trenutka gde je prethodni stao, piše u dokumentu.

ZNACI UPOZORENJA

Moderatori se obučavaju da obraćaju pažnju na “znake upozorenja” koji ukazuju na to da će se u prenosu uskoro dogoditi nešto što narušava pravila, nastavlja se u dokumentu. Ovo uključuje pokušaje samoubistva, gde se ljudi opraštaju ili govore o tome da će okončati sebi život. Dokument takođe govori moderatorima da paze na “simptome očaja”, kao što su “plakanje, moljenje ili preklinjanje”.

Drugi izvor sa direktnim poznavanjem strategija moderacije u Fejsbuku je rekao za Motherboard da “živi prenosi umeju da budu malo teži u smislu da nekada pokušavaš da nadzireš živi prenos i da istovremeno pregledaš ono što je prethodno bilo, što baš i ne može da se izvede kada moraš da pratiš i zvuk”.

Naravno, kada je reč o oružjima, naročito vatrenim, prenos može da u milisekundi preraste iz nenasilnog u nasilan. U tom smislu, činjenica da korisnici lako mogu da emituju nasilje preko Facebook Live platforme ne ukazuje na to da se kompanija ne trudi da nađe način da to spreči, ali ukazuje na poteškoće koje živi prenosi predstavljaju za sva platforme.

U videu napada na Novom Zelandu, napadač pokazuje nekoliko komada oružja na samom početku prenosa, a kasnije u toku snimka se ta oružja pojavljuju nekoliko puta dok on vozi za džamiji.

“Nisam siguran kako je ovaj video uspeo da stigne do 17 minuta prenosa”, kaže za Motherboard drugi izvor sa direktnim poznavanjem strategije koje Fejsbuk koristi da moderira sadržaj.

Među alatima koji moderatori imaju na raspolaganju je i interfejs koji im omogućava pregled živog prenosa, što uključuje i niz thumbnailova da bi se imao bolji uvid u to kako napreduje prenos; grafikon koji pokazuje engagement korisnika na određenim tačkama; kao i mogućnost da se ubrza ili uspori snimak, na primer ako žele da skoče na deo sa problematičnim sadržajem ili da zastanu na trenutak kako bi bliže pogledali određeni segment snimka.

Sudeći prema žigu u uglu prenosa, u ovom slučaju je napadač koristio aplikaciju LIVE4, koja prenosi video sa GoPro kamere direktno na Facebook Live.

“Bili smo šokirani vestima, kao i svi drugi”, rekao je emailom Aleks Žukov, CEO kompanije LIVE4. “Spremni smo da radimo sa organima reda i pružimo podatke koji su im potrebni za istragu, kao i sa predstavnicima Fejsbuka, kako bismo osigurali da platforma ostane bezbedna i upotrebljavana samo na način na koji je to zamišljeno. Blokiraćemo pristup svakome ko širi zlo. Nažalost, nemamo tehničkih mogućnosti da blokiramo bilo kakav prenos u trenutku kada se događa”, dodao je.

Mia Garlik, iz novozelandskog ogranka Fejsbuka je u izjavi za Motherboard navela: “Saosećamo sa žrtvama, njihovim porodicama i zajednicom koja je pogođena ovim užasnim činom. Policija Novog Zelanda nas je upozorila na video na Fejsbuku ubrzo posle početka prenosa i brzo smo uklonili njegove naloge na Fejsbuku i Instagramu, kao i sam video. Takođe uklanjamo bilo kakvu podršku ili hvalu zločinu i njegovom počinicou ili počiniocima, istog trenutka kada saznamo. Radićemo direktno za policijom Novog Zelanda u daljoj istrazi.”

Članak je prvobitno objavljen na VICE US.