Pubblicità
Motherboard

Fare il moderatore su Facebook è così terrificante che una donna ha fatto causa

A detta della querelante, Facebook non offrirebbe il sostegno psicologico necessario per affrontare la "continua e costante esposizione a immagini altamente tossiche e inquietanti sul luogo di lavoro."

di Jason Koebler e Joseph Cox
26 settembre 2018, 2:01pm

Immagine: Jason Koebler 

Venerdì scorso, una donna in California ha fatto causa a Facebook, accusando l'azienda di averla "esposta a contenuti altamente tossici, pericolosi e dannosi durante il periodo di assunzione come moderatrice dei contenuti a Facebook."

Selena Scola ha lavorato come moderatrice al quartier generale di Facebook a Menlo Park, in California, dal giugno 2017 fino allo scorso marzo, stando alla deposizione legale. Lavorava per un contraente chiamato Pro Unlimited, Inc., che aiuta Facebook a cancellare i contenuti che violano gli standard della Community. Facebook impiega circa 7.500 moderatori in giro per il mondo, il cui compito è cancellare espressioni deliberate di odio, immagini e video violenti e autolesionisti, contenuti di nudo e sessuali, bullismo e una varietà di altri contenuti che violano in un modo o nell'altro le regole del social.

Gli avvocati di Scola dicono che la donna ha sviluppato un disturbo da stress post-traumatico dovuto alla "continua e costante esposizione a immagini altamente tossiche e inquietanti sul luogo di lavoro," e sostengono che Facebook non offra i servizi di assistenza per la salute mentale appropriati ai propri moderatori. Il caso è stato aperto come azione legale collettiva, ma al momento Scola è l'unica querelante; la causa allude al potenziale coinvolgimento di "migliaia" di moderatori — attuali o passati — in California.

La querela non include, al momento, dettagli specifici sul mestiere di Scola, ma si basa su inchieste relative a come funziona la moderazione contenuti; gli avvocati di Scola hanno detto a Motherboard che, a tempo debito nel processo legale, la donna fornirà i dettagli necessari. "Questa querela non include certe specificità perché la signora Scola teme che Facebook possa contrattaccare facendo leva su un presunto accordo di non divulgazione."

Moderare contenuti online è un mestiere difficile — diversi documentari, indagini approfondite e articoli di legge hanno sottolineato come i moderatori lavorino turni lunghi e siano sottoposti a contenuti destabilizzanti, e abbiano il compito più difficile di tutti — determinare se un frammento di contenuto violi o meno le bizantine e incostanti regole di Facebook. Facebook si fregia della propria accuratezza e con oltre 2 miliardi di utenti, chiede ai propri moderatori di revisionare milioni di post potenzialmente in violazione delle regole ogni giorno.

"Un esterno fa probabilmente fatica a capire, non siamo semplicemente esposti a video grafici — dobbiamo anche guardarli per bene, spesso più volte, per isolare gli elementi specifici che violano la politica aziendale," ha detto a Motherboard un informatore tra i moderatori. "Un video magari mostra un pestaggio violento, e noi dobbiamo guardarlo dozzine di volte, alle volte con altre persone presenti, per decidere se le azioni della vittima contano come auto-difesa o meno, o se l'aggressore è la stessa persona che ha pubblicato il video."

La fonte ha dichiarato che i moderatori "non sono affatto stupiti" che Facebook sia stato citato in giudizio. "È una cosa di cui diversi colleghi o ex-colleghi parlano spesso."

Un'altra persona tra i moderatori di Facebook ha detto a Motherboard "Non sono sorpreso."

L'accusa sostiene che "Facebook non fornisce ai propri moderatori il training sufficiente né che implementi standard di sicurezza adatti... I sintomi da PTSD di Scola possono scatenarsi quando tocca un mouse, entra in un edificio freddo, guarda una scena violenta in televisione, sente rumori forti o viene spaventata. i suoi sintomi appaiono anche quando ricorda o descrive le immagini grafiche a cui è stata esposta durante il lavoro."

Un portavoce di Facebook ha detto a Motherboard che l'azienda sta "al momento visionando queste dichiarazioni."

"Ci rendiamo conto che questo lavoro è spesso difficile. È il motivo per cui teniamo in altissima considerazione il sostegno dei nostri moderatori, a partire dal loro training, passando per i benefit che ricevono, fino all'offrire aiuto psicologico e risorse a chiunque revisioni i contenuti di Facebook," ha detto il portavoce. "Gli impiegati di Facebook ricevono tutto questo nel quartier generale e chiediamo alle aziende con cui siamo partner per la revisione dei contenuti di fare altrettanto, compresa la consulenza psicologica in sito — disponibile alla sede in cui la querelante lavorava — e altre risorse come aree per rilassarsi in molte delle nostre strutture."

Quest'anno, quando abbiamo visitato i quartier generali di Facebook, diversi impiegati di alto livello ci hanno detto che l'azienda sta lavorando affinché il compito dei propri moderatori sia il meno stressante e traumatico possibile. L'azienda ha protocolli di training specifici per queste figure, ma — per la causa legale — sarebbero insufficienti.

"Esistono luoghi fisici in cui puoi recarti, se hai bisogno di rilassarti o se vuoi giocare a un gioco, o startene per conto tuo, il sistema di sostegno è robusto"

"Questo mestiere non è per tutti, onestamente, e lo sappiamo bene," ha detto a Motherboard lo scorso giugno Brian Doegan, di Facebook. Ha detto che i neo assunti vengono sottoposti a contenuti espliciti gradualmente, così che "non deve succedere in modo radicale, ma possiamo avere conversazioni su ciò che vedono e ciò che vedranno."

Doegan ha detto che ci sono stanze in ogni ufficio progettate per aiutare gli impiegati a decomprimere dallo stress.

"Ciò che trovo ammirevole è che in qualsiasi fase di questo ruolo, hai accesso a consulenti e la possibilità di conversare con altre persone," ha detto. "Esistono luoghi fisici in cui puoi recarti, se hai bisogno di rilassarti o se vuoi giocare a un gioco, o startene per conto tuo, il sistema di sostegno è robusto e coerente nell'azienda."

Carolyn Glanville, portavoce di Facebook, ha detto a giugno a Motherboard che ogni ufficio e contraente che si occupa di moderazione contenuti dispone di servizi per la salute mentale, ma che il tipo di servizio offerto varia da paese a paese, perché l'azienda valuta anche in base alla cultura.

"Se [in certi paesi] è ok attraversare il corridoio per andare da un consulente, in altre culture non si usa, ma le persone lo fanno fuori dall'orario di lavoro, e magari i colleghi non ne hanno idea," ha detto.

La causa intentata da Scola chiede alla corte di creare "un programma medico finanziato da Facebook per facilitare diagnosi e cure adeguate alla querelante e alla collettività per trauma psicologico, compreso ma non limitato a disturbi da stress post-traumatico."

Ora, un giudice in California deciderà se il caso ha motivo di procedere in tribunale.

Questo articolo è apparso originariamente su Motherboard US.