Na návštěvě v nedávno otevřeném německém centru pro mazání obsahu na Facebooku

Článek původně vyšel na Motherboardu.

Facebook umožnil novinářům přístup do svého nového centra určeného k mazání obsahu v německém Essenu. V pětipatrové budově nyní více než 400 zaměstnanců maže komentáře, fotografie a videa, která porušují pravidla Facebooku.

Během tohoto procesu musí zaměstnanci někdy posuzovat znepokojivá videa a fotografie. Velkou část viditelného obsahu tvoří buď nenávistné komentáře, spam nebo obsah, za nímž stojí falešné účty, jak nám sdělil mluvčí Facebooku. V podstatě se dá říct, že tito zaměstnanci vynášejí odpad, který na síti vytváří 2 miliardy aktivních uživatelů měsíčně z celého světa. Obsah, který není na Facebooku povolen (jak to stanovují vlastní pravidla platformy) musí posoudit a případně smazat moderátoři obsahu. Tahle důležitá práce je dost složitá a vyčerpávající.

V essenském centru začali první zaměstnanci pracovat loni v říjnu. V budově umístěné v průmyslovém parku pár minut pěšky od centra Essenu pracovalo na konci roku 2017 už 500 zaměstnanců. Centrum je nyní druhým zařízením svého druhu v Německu spolu s dalším, které se nachází v západním Berlíně.

Jako součást návštěvy nám Facebook umožnil nahlédnout do jednoho ze zaměstnaneckých prostorů. Podle zaměstnanců společnosti je tento pracovní prostor reprezentativní ukázkou všech ostatních místností v budově. „Floor“ (patro), jak zde zaměstnanci tyto prostory nazývají, není příliš odlišné od standardních open space kanceláří. Místa, na nichž měli novináři povoleno fotit, ukazují zhruba 20 zaměstnanců sedících u své počítačové obrazovky.

Facebook nám během naší 30minutové návštěvy nepovolil se zaměstnanci mluvit, ani se podívat na jejich obrazovky. Za přítomnosti novinářů však zaměstnanci ve skutečnosti žádný obsah vytvořený uživateli stejně nekontrolovali. Mluvčí Facebooku nám řekl, že to bylo z bezpečnostních důvodů.

Hned vedle pracovní plochy se nachází místnost určená k meetingům a odpočinku. Vybavení zde blízce připomíná první německé centrum pro mazání obsahu vedené společností Arvato v Berlíně.

Centrum má na starost společnost Competence Call Center (CCC). Zaměstnance nenajímá přímo Facebook, ale CCC po několikakolovém přijímacím pohovoru. Společnost patří mezi nejvýše postavené společnosti v oboru managementu komunikace. Mezi zákazníky CCC jsou například PayPal nebo eBay. Společnost se stará o velké množství stránek jak v Německu, tak i v zahraničí.

Pro facebookové centrum mazání obsahu si CCC pronajala svoje vlastní kanceláře v Essenu. Momentálně však zabírá několik pater budovy stále předchozí nájemník. Ten má brzy budovu opustit a všechna patra pak mají být vyhrazena pouze pro sociální síť. Zde budou mít zaměstnanci CCC k dispozici celkovou plochu o rozměru 10 tisíc metrů čtverečních a k tomu speciálně vytvořenou „relaxační zónu“ s dalším tisícem metrů čtverečních.

Všechen obsah, jenž centrem projde, musí nejprve nahlásit uživatelé Facebooku. Zaměstnanci CCC obsah, který by porušoval pravidla Facebooku, sami aktivně nevyhledávají. Doteď se v Essenu posuzovaly a mazaly pouze nenávistné komentáře, spamy, falešné profily a explicitní fotografie a videa.

Co všechno do kategorie nenávistných projevů spadá, definují interní pravidla Facebooku, také známá jako Community Standards (Komunitní standardy). Vymáhání těchto pravidel je velmi ošemetné a stalo se předmětem mnoha kontroverzí.

V tomto případě se Facebook řídí německým Prosazovacím zákonem pro sítě (Netzwerkdurchsetzungsgesetz) zaměřeným na nenávistné projevy a fake news, jenž vešel v platnost v říjnu 2017. Regulace známá pod označením „zákon Facebooku“ má za cíl přimět sociální sítě, aby byly více systematické v mazání kriminálně relevantního obsahu. V některých případech musí sítě reagovat během 24 hodin, pokud tak neučiní, hrozí jim obrovské pokuty. Zákon je nicméně velmi sporný. Kritici se obávají, že to povede k nadměrnému mazání obsahu, které by v extrémních případech mohlo porušovat svobodu slova.

Během návštěvy novinářů mluvčí Facebooku neustále zdůrazňovali jeden cíl –zajištění kvality. Pro Facebook je důležité předcházet situacím, kdy příspěvek jeden zaměstnanec smaže, zatímco další by ho nesmazal. To je složitý úkol, neboť se neustále objevují obsahy, které nabízejí různé interpretace.

K zajištění toho, aby všichni zaměstnanci CCC správně interpretovali a uplatňovali pravidla pro mazání stejně, společnost používá „zásadu čtyř očí“: zatímco přezkoumání obsahu vždy provádí pouze jeden zaměstnanec, „statisticky významný počet oznámení přezkoumá náhodně druhý zaměstnanec,“ uvedl přítomný mluvčí Facebooku. Od každého CCC zaměstnance se očekává, že během jednoho týdne uskuteční obrovské množství takových hlášení ohledně obsahu svých kolegů.

Obzvlášť drastický a citlivý obsah jako propaganda teroru, znázorňování extrémního násilí nebo dětská pornografie není určeno k posuzování v Essenu, jak Motherboardu potvrdil mluvčí Facebooku. Podle zprávy, kterou zveřejnily německé noviny Süddeutsche Zeitung, je tento druh obsahu zpracováván mazacím centrem Facebooku v Berlíně. Zaměstnanci CCC neprověřují ani živá vysílání na Facebooku. Jak nám společnost sdělila, v současné době nemá v plánu rozšiřovat rozsah obsahu, který se v Essenu kontroluje.

Pravidla, jimiž se zaměstnanci v Essenu řídí, vytvořilo speciální oddělení Facebooku – tzv. Strategický tým. Tým Facebooku pro řízení komunikace, který je zodpovědný za vymáhání pravidel, pověřuje úkoly společnosti jako CCC nebo Arvato – které zde mají své vlastní postupy a mechanismy.

Pravidla se nepřetržitě přizpůsobují aktuálnímu vývoji ve společnosti. Zaměstnanci Facebooku, s nimiž jsme během návštěvy mluvili, poukazovali například na syrskou uprchlickou krizi. Facebook přidal uprchlíky do svých směrnic, v nichž spadají pod skupinu lidí, kteří potřebují ochranu. Předtím to tak nebylo. Změnu provedli, aby se mohly nenávistné komentáře proti uprchlíkům prošetřit a smazat.

Pro ujištění, že jsou Facebook a CCC na stejné lodi, bylo 10 zaměstnanců CCC posláno na šestitýdenní výcvik do evropské centrály Facebooku pro komunikační operace v Dublinu. Během posledních pár měsíců také několik zaměstnanců Facebooku strávilo celkem osm týdnů v Essenu. Plánují se vrátit do Essenu každý měsíc na několik týdnů, aby (kromě dalších věcí) přezkoumali realizování směrnic pro mazání.

Základní hrubá mzda zaměstnanců je 10,50 euro na hodinu. Jsou zde však i zaměstnanci na vyšších pozicích, kteří začínají na 15 eurech za hodinu. Za práci v noci a v sobotu jsou příplatky. Platy zaměstnanců jsou nad minimální mzdou, která je v Severním Porýní-Vestfálsku 9,10 euro za hodinu. Všichni zaměstnanci zde v současné době pracují na plný úvazek a mají smlouvu na více jak 40 hodin týdně. Jelikož je zařízení obsazené po celý den, pracuje se na směny.

Jak uvádí CCC manažer Ulf Herbrechter, některý obsah může „být intenzivnější a příliš názorný“, a proto mají zaměstnanci v Essenu k dispozici čtyři psychology. Společnost tak reagovala na kritickou diskuzi, kterou vyvolalo první centrum Facebooku pro mazání obsahu. Novináři ze Süddeutsche Zeitung psali o velkém nátlaku a vysokých požadavcích na zaměstnance kvůli zachování tajemství v mazacím centru v Berlíně v Arvatu. Velké množství zaměstnanců Arvata se nicméně proti kritice ohradilo. „Každý, koho tady znám, je na svou práci hrdý,“ svěřil se západoněmeckému rozhlasu WDR jeden osmatřicetiletý zaměstnanec společnosti Arvato.

„Zachraňujeme tady životy.“ Tohle prohlášení jsme slyšeli i během návštěvy v Essenu. Facebook nám ovšem během naší návštěvy nedovolil mluvit se zaměstnanci o konkrétních případech, na kterých pracovali.

Facebook k tomuto neposkytl žádná konkrétní čísla. V létě 2017 nicméně Richard Allen, evropský viceprezident Facebooku pro veřejné vztahy, tvrdil, že během jednoho měsíce se vymazalo kolem 15 tisíc příspěvků. Jednalo se především o nenávistné komentáře pocházející z Německa.

Objevuje se ale podstatně více nahlášeného obsahu – Facebook mluví o číslech v řádu miliard. Tento údaj se ale nevztahuje pouze na nenávistné projevy. Spíše zahrnuje všechen obsah, který by mohl být narušením pravidel komunikace Facebooku. Nemohl nám ale sdělit, jak velký počet tohoto obsahu přichází z Německa.

To, že je řízení obsahu složitou výzvou dokonce i pro Facebook, dokazují nejen obrovská množství mazaných příspěvků a nahlášení, ale i samotný pohled do procesů na síti. Po naší návštěvě je zde stále mnoho nezodpovězených otázek. Facebook se snaží, především v Německu, být transparentní, ovšem specifika daných pravidel, jimiž se zaměstnanci řídí, zůstávají stále tajemstvím.

Jedna věc je ale jistá – po lidech řídících obsah, tedy takových, jaké jsme potkali v Essenu a v Berlíně, se do budoucna bude zvyšovat poptávka. Mark Zuckerberg nedávno oznámil, že Facebook chce zvýšit počet těchto lidí po celém světě z 10 tisíc na 20 tisíc. Společnosti jako Arvato a CCC by tak mohly brzy uzavřít více smluv.