Como o Facebook treina seus moderadores para ver conteúdos grotescos

Na segunda-feira, o site Verge publicou uma grande investigação sobre a dependência do Facebook de trabalhadores terceirizados para moderar sua plataforma. Moderadores de conteúdo da Cognizant, uma empresa com escritório no Arizona, podem ganhar US$ 28,8 mil por ano moderando postagens que podem incluir conteúdo de ódio, imagens fortes de violência, sexo, suicídio e autoflagelação.

A matéria é uma rara janela para entender como realmente é ser um empregado terceirizado do Facebook; algumas das fontes disseram que foram radicalizadas pelo conteúdo em que clicavam diariamente, outros tinham ataques de ansiedade e de pânico, e um moderador disse que começou a dormir com uma arma. Na Cognizant, os moderadores de conteúdo do Facebook têm nove minutos por dia de “tempo de bem-estar” para fazer pausas de saúde mental. Alguns deles disseram que podem ser demitidos se tiveram uma baixa “taxa de precisão”.

Ano passado, o repórter da Motherboard Joseph Cox e eu passamos vários meses cobrindo uma investigação sobre como o Facebook faz suas políticas de moderação de conteúdo e sobre como seu aparato maior funciona. Como parte daquela investigação, fui para a sede do Facebook em Menlo Park, na Califórnia, para fazer entrevistas gravadas com pessoas no comando da operação de moderação de conteúdo da empresa. Um dos líderes era Brian Doegan, que na época era o “Líder de Aprendizado Global” do Facebook. Ele chefiava as práticas de treinamento de moderadores de conteúdo do Facebook – basicamente, ele ajudou a criar diretrizes pelas quais os moderadores deveriam ser treinados e formatou as melhores práticas para contratá-los.

Esta entrevista aconteceu no final de junho de 2018. Desde então Doegan saiu da empresa. Segundo a lista de vagas, o Facebook não o substituiu. A entrevista foi ligeiramente editada para maior clareza. Além de Doegan, as porta-vozes do Facebook Carolyn Glanville e Ruchika Budhraja participaram da entrevista e acrescentaram esclarecimentos quando necessário. Apesar de Doegan ter deixado a empresa, essa é a entrevista mais extensa que o Facebook já deu sobre os protocolos específicos que eles têm para treinar moderadores e contratar empregados, até onde eu sei.

MOTHERBOARD: Como é o processo de contratação para um moderador de conteúdo?

BRIAN DOEGAN: Observamos habilidade com linguagem, o mercado local e coisas assim antes de botá-lo na posição. Quando é colocado no posto de emprego, é aí que começa sua jornada de aprendizado. Começamos aclimatando o pessoal à cultura do Facebook, sobre o que somos, qual é nossa missão. Envolvemos basicamente uma abordagem de três fases. Divido nossa experiência de treinamento para contratação em três categorias distintas. Tem um pré-treinamento e o shadowing, que é atuar como sombra de um funcionário mais experiente, tem nosso currículo formal e os materiais que consideramos para ter essa conversa. Por fim temos o pós-treinamento e reforço contínuo.

O pré-treinamento é onde garantimos que todos nossos representantes tenham a oportunidade de realmente ser como uma sombra e observar pessoas mais experientes no papel de moderação. Eles conseguem uma boa base do que é um dia na vida de um moderador. E tem muito aprendizado aí, só pela natureza do fato de que eles têm uma oportunidade de realmente interagir com pessoas que já fazem esse trabalho bem. Isso leva várias semanas e é muito abrangente. Cobrimos todos os nossos padrões de comunidade e, nessa troca, tem a oportunidade para a prática, para discussão, por exemplo. Tem realmente uma conversa sobre o que acontece cercando o material.

Isso se aplica a moderadores terceirizados também…

Sim.

Todo mundo, então.

E isso é uma coisa da qual nos orgulhamos, a consistência que temos naquele espaço. Mas nisso são realmente três coisas trabalhando juntas, o treinamento nunca termina. Então, sim, tem um elemento saudável de aula, que a maioria de nós está familiarizado por ter sido exposto durante a universidade etc. Mas também tem um componente de trabalho, que é muito prático. Então, tentativa e erro.

Observamos métricas, damos a oportunidade de acessar nosso conhecimento, num ambiente muito seguro, então podemos fornecer treinamento individual. Então há aula, treinamento formal e orientação. Depois vem realmente o apoio prático. E basicamente juntamos tudo isso numa experiência de várias semanas. E cada tipo de abuso é diferente, acionamento de ódio é muito diferente de acionamento de bullying, que é muito diferente de conteúdo sexual. Então, de uma perspectiva de design, tentamos realmente conseguir a mistura certa de modalidades de alvo na política certa. E estamos sempre evoluindo e revisitando isso.

As pessoas se especializam em tipos diferentes de conteúdo?

No geral, equipamos nossos moderadores e nossos revisores de conteúdo para que eles possam agir com todos os nossos tipos de abuso.

Mesmo os treinadores? Tipo, esse é nosso especialista de discurso de ódio, essa é a equipe especialista em discurso de ódio, essa equipe é especializada em conteúdo sexual…

Definitivamente temos especialistas em temas, que se especializam em tipos de abuso, e realmente, o objetivo do treinamento é ficarmos bem próximos dos nossos especialistas em temas para que possamos pegar essa informação e converter na melhor experiência de treinamento possível, e aí entregamos isso para o nosso site pelo mundo.

CAROLYN GRANVILLE: Também vou elaborar ligeiramente sobre isso…

BRIAN DOEGAN: Desculpe se me equivoquei.

CAROLYN GRANVILLE: Não se equivocou, eu só queria colocar um pouco mais. Então, nossos revisores, como ele disse, são treinados em todos os nossos padrões de comunidade quando você tem o canal de escalada onde eles são ligeiramente mais bem informados sobre certas políticas. Você tem a equipe de políticas que pode pesquisar em algumas dessas coisas. Mas aí você também tem a equipe de mercados e algumas dessas coisas meio que entram aí. Claro que no processo tem certas áreas onde entra um pouco mais de treinamento, ou especialização, como imagens de exploração infantil, isso não vai ser compartilhado amplamente, tem um subconjunto específico que vai poder lidar com essas coisas direito por meio dos canais corretos. Mas o treinamento é global.

BRIAN DOEGAN: Certo, e obrigado, esse é um bom ponto. Nisso, por exemplo, treinamento e monitoramento contra ódio na Turquia é muito diferente de monitorar o ódio no Texas. Culturalmente, então, como a Carolyn apontou, alavancamos o que chamamos de equipes de mercado, que são um corpo de profissionais especializados em certos mercados e línguas, e muitas vezes fazemos parceria com eles para garantir que nosso treinamento tenha os exemplos mais relevantes.

Moderador de conteúdo é um trabalho muito difícil. Como isso é retratado para os empregados quando eles estão começando? Tem um lugar onde vocês explicam quais são os tipos de coisa que lidarão todos os dias?

BRIAN DOEGAN: E reconhecemos que é um trabalho difícil. Passo muito tempo monitorando esse pessoal e acionando esse conteúdo também, então assim posso continuar relevante com tudo que está acontecendo e monitorando a experiência de aprendizado. Esse não é um trabalho para todo mundo e reconhecemos isso. Na minha mente, isso começa na seleção de talentos. Se envolvendo no processo de entrevista e processo de seleção, garantindo que o pessoal tenha um alto nível de entendimento no que eles estão entrando. Também fazemos isso por várias avaliações e outras abordagens criativas para garantir que estamos conseguindo as pessoas certas para os papéis. Esse é o começo da conversa. Desse ponto em diante, uma das razões para fazermos shadowing logo no começo é que queremos que as pessoas tenham oportunidade de ver a vida de um moderador para eles terem um gosto realista do que é isso. E uma das coisas de que me orgulho é que temos um programa muito amplo de resiliência para que todo mundo se sinta apoiado, e eles sempre têm acesso a recursos e serviços, e coisas como essas em qualquer ponto do processo.

Não sou um especialista em estratégias de RH ou treinamento, mas estou curioso se o treinamento é modelado numa teoria acadêmica ou isso foi construído do zero…

Em alguns pontos, somos muito únicos. Somos a única organização que está fornecendo – é isso que me empolga no meu trabalho – esse tipo de treinamento nessa escala. Mas claro que treinamento e treinamento corporativo têm muitos modelos de legado.

Um que parece termos mais nos identificado é chamado o modelo 70-20-10. E novamente, coloque os números de lado por um minuto, mas o tom desse modelo sugere que aproximadamente 70% do que você sabe como um profissional, como editor, como repórter, você provavelmente aprendeu por meio do trabalho, da prática. 20% foi por meio de instrução, e tendo o prazer de trabalhar com pessoas que podem te mostrar as coisas. E 10% por meio de aprendizado formal. Então tentamos equilibrar aprendizado formal, o trabalho na prática e também instrução, então esse modelo se encaixa muito bem em termos do que estamos tentando fazer e mantemos isso no cerce de tudo que fazemos. Porque, como já falamos, treinamento nunca é um tamanho único, e nunca é uma modalidade, é uma mistura de diferentes tipos de formato.

O que é sucesso para um moderador de conteúdo? É uma precisão de 99%?

Acho que não falamos publicamente da métrica real, mas 100% é sempre o objetivo, e talvez a Carolyn possa falar um pouco mais sobre isso, mas esse sempre é o objetivo. Porque no final das contas, atrás de cada tipo de abuso, de cada denúncia está uma pessoa, e é isso que torna essa posição tão desafiadora.

CAROLYN GRANVILLE: Acho que você ficaria surpreso com quão alta a taxa de precisão é, mas as razões para nunca termos realmente falado sobre isso até agora, como ele disse, esses erros, que existem, é uma pessoa, e essas pessoas acabam sendo publicadas, e são com essas pessoas que as outras pessoas ficam revoltadas e então não importa qual seja nosso número, nunca vai ser o suficiente. Estamos sempre tentando trabalhar para alcançar aquele estado de não ter erros.

Quando vocês estão treinando pessoas ou logo depois de contratá-las, vocês obviamente enfatizam que querem 100% de precisão, mas claro que erros serão cometidos, e suponho que trabalhar sob a suposição de que se você cometer qualquer erro, pode ser catastrófico, provavelmente não é realista. Então como isso é passado para as pessoas?

BRIAN DOEGAN: O aprendizado é um espaço seguro, só para o propósito de aprendizado, certo? Então não ensinamos com punho de ferro, por falta de um termo melhor, e posso te dizer, do design até a execução e monitoramento, que minha equipe está consistentemente avaliando a qualidade desses programas. O foco é realmente na comunidade.

RUCHIKA BUDHRAJA: Imagino se uma parte disso está sobre nós para estabelecer expectativas externas. Tipo, não vamos ser perfeitos, acho que dizemos muito isso, mas qual a alternativa para não ser perfeito? Tudo ser varrido por automação, sabe, as pessoas não querem isso, e então quando temos que ter pessoas, você vai ter erros. Acho que também estamos tentando falar mais sobre automação e nossos algoritmos, então, talvez os dois andem de mãos dadas. Se os revisores nos veem falando sobre isso externamente, então eles não ficam sobrecarregados com isso internamente.

CAROLYN GRANVILLE: Eu diria que provavelmente há alguns casos, não posso falar de exemplos específicos, onde alguém é demitido por cometer um erro. Se começamos a ver que erros estão sendo cometidos, que isso significa que um retreinamento precisa acontecer, ou isso acaba em tipo outro fluxo onde estamos começando a ver pessoas cometendo erros nesse tipo de conteúdo, talvez tenha algo na nossa política que precisamos analisar, talvez tenha um problema nas nossas ferramentas, talvez tenha algo que ainda não foi identificado. Então acho que erros também ajudam a mostrar algumas dessas coisas, que é uma coisa boa que precisamos abordar.

Até onde vai a resiliência, sei que muito já foi escrito sobre isso, esse trabalho é difícil, você está vendo imagens fortes com frequência, discurso de ódio, coisas assim. Mas o que vocês oferecem?

BRIAN DOEGAN: De uma perspectiva de treinamento, tocamos em resiliência em cada tipo de abuso. É algo sobre o que falamos, revisitamos isso cedo, nesse módulo de treinamento, então não te expomos radicalmente, mas em vez disso temos uma conversa sobre o que isso é, e o que vamos observar, para garantir que você está nesse nível. Acho que os esforços mais amplos de resiliência, pra mim, e o que admiro, é que em qualquer ponto desse papel você tem acesso a ajuda, você tem acesso a conversar com outras pessoas. Há lugares físicos reais onde você pode ir, se quiser só relaxar, ou se quiser jogar um jogo, ou se só quiser sair dali, sabe, ser você mesmo, esse sistema de apoio é bem robusto, e isso é consistente em toda a empresa.

CAROLYN GRANVILLE: Da perspectiva de treinamento, acho que uma coisa que é interessante, nem tanto para o treinamento, mas resiliência no geral, acho, você olha para a natureza global do que fazemos, oferecemos aconselhamento de resiliência para qualquer pessoa que faz revisão de conteúdo, mas veja a aceitação cultural em certo lugares do mundo, e não é necessariamente culturalmente aceito ter esse tipo de ajuda, ou falar com alguém publicamente, então temos que trabalhar muito perto com nossos parceiros ou nossos sites ou seja lá o que for, seja qual for o formato, para garantir que esses empregados saibam que isso está disponível de um jeito que também é culturalmente aceito por eles. Enquanto alguns estão bem em só atravessar o corredor para falar com um psicólogo, e eles não se importam, em outras culturas, as pessoas não fazem isso, elas fazem isso por horas, e outras pessoas podem não saber isso. É interessante que temos que levar essas nuances em conta.

Vocês precisam fazer isso em termos de treinamento real também, tipo, pessoas nessas partes do mundo aprendem desse jeito, essa é a melhor prática na Índia, essa é a melhor prática em…

BRIAN DOEGAN: Aprendizado é tanto uma arte quanto uma ciência. Como uma empresa muito movida por dados, certo, isso não se resume a, tipo, não há pesquisa dizendo que esse é o jeito de ensinar na Índia, isso não existe. Mas o que fazemos, é o que as pessoas podem ver aqui, e interagir com o que estamos aprendendo. Nosso objetivo realmente é acomodar uma variedade de estilos de aprendizado cultural diferentes. E é por isso que colocamos tanta ênfase em diferentes modalidade. Se é que isso responde sua pergunta. Mas você está peguntando uma coisa que nenhum profissional de aprendizado pode responder com precisão militar, posso te dizer isso. Mas é uma boa pergunta, não me entenda mal.

Você mencionou que ensino é uma arte, não ciência. Moderação de conteúdo é uma arte não uma ciência também…

Ou arte e ciência. Sim, tem uma ciência, tem uma metodologia para nossa necessidade de triagem e assim por diante, que usamos, a metodologia ISD.

Vocês acham que o Facebook valoriza o papel humano nesse processo?

Com certeza, na minha mente isso é evidenciado com base na pura natureza do, tipo, na nossa escala e crescimento, e estamos colocando muitos recursos atrás disso para fazer do jeito certo. Em meus 17 anos de carreira, nunca vi uma tentativa de investir tanto nessa função.

Leia mais matérias de ciência e tecnologia no canal MOTHERBOARD .
Siga o Motherboard Brasil no Facebook e no Twitter.
Siga a VICE Brasil no Facebook, Twitter, Instagram e YouTube .