Documentos vazados revelam a dificuldade do Facebook em lidar com pênis não-solicitados

Os moderadores do Facebook sofrem com os desafios impostos pelo revenge porn, extorsão sexual e o compartilhamento de fotos de pinto não-solicitadas. Ao menos é o que podemos interpretar com base em documentos vazados que caíram em nossas mãos.

Os moderadores da empresa agora são orientados a não punirem quem reclama de receber fotos não-solicitadas, o que mostra a evolução constante das práticas da plataforma em torno do tema nudez.

Tivemos acesso a diversos materiais de treinamento para moderadores do Facebook, bem como a cópia de um vídeo que revela em maiores detalhes o contexto em que a empresa treina seus moderadores para combaterem práticas de revenge porn e extorsão sexual.

Parte do material se mistura ao que já havia sido publicado pelo The Guardian em 2017, mas o que obtivemos é mais recente e conta com informações diferentes. (Confirmamos que pessoas e materiais citados no vídeo são mesmo do Facebook, o que sugere a genuidade do conteúdo. O Facebook não contestou detalhes específicos e não-revelados ao público quando questionado.)

Revenge porn é um problema global. Pessoas compartilham fotos íntimas de natureza explícita de ex-namorados, parceiros e terceiros sem seu consentimento. Já a extorsão se dá por meio do assédio praticado contra determinados alvos por dinheiro ou mais fotos íntimas, um grande problema em específico no próprio Facebook.

“A extorsão sexual é um problema enorme no Facebook – nós vimos a prática se tornar um verdadeiro negócio que atinge e extorque pessoas todos os dias”, afirmou Carrie Goldberg, advogada especializada em assédio sexual e revenge porn, via email.

No vídeo ao qual tivemos acesso, o instrutor reconhece que o Facebook vinha desabilitando as contas daqueles que afirmavam receberem fotos íntimas não-solicitadas. Ao longo de vários exemplos dados durante o treinamento, usuários postavam prints das fotos em seus murais para reclamar da situação.

Anteriormente, os moderadores da rede poderiam marcar tais imagens como revenge porn, repassando o material então para ser analisado por um superior (ou “agravamento”, no jargão da plataforma), que então poderia desabilitar a conta da vítima.

Em um caso específico que veio a público, o Facebook desativou a conta de uma mulher que havia postado prints censurados de suas interações com um homem que havia lhe enviado uma foto íntima; sua reação foi enviar ao indivíduo em questão uma quantidade gigantesca de fotos de piroca encontradas na internet.

Mas, de acordo com o vídeo, o Facebook estaria mudando suas práticas Agora eles orientam seus moderadores a deletarem tais imagens por violarem as normas da rede em vez de penalizar os usuários.

Por mais que o material de treinamento afirme que distinguir extorsões e revenge porn seja algo fácil, o instrutor reconhece que algumas situações podem ser bem menos claras do que se espera. É com este tipo de ambiguidade com a qual a rede tem de lidar. Um exemplo claro foi quando a foto histórica conhecida como “Napalm Girl” foi categorizada como pornografia.

Quando é chegada a hora de classificar algo como revenge porn, o contexto vingativo da postagem pode ser tão importante quanto a imagem em si, de acordo com os materiais de treinamento.

“É interessante ver que estão focando na motivação – nossa postura é que realmente não importa. O crime ocorre quando é distribuída uma imagem sem consentimento, não acreditamos que a intenção faça diferença”, disse Goldberg, a advogada.

Em casos de revenge porn, os moderadores indicam que a imagem contém nudez ou poses sexuais, confirmando a falta de consentimento ao verificar se há um contexto vingativo na postagem, como mostrado nos slides publicados previamente pelo The Guardian.

Mas no novo material vazado, os moderadores também são orientados a verificar se o rosto da pessoa na foto e quem está denunciando a imagem combina, bem como seu nome.

“Utilizamos tecnologia de identificação de fotos para impedir o compartilhamento de imagens, além de contar com uma equipe dedicada de revisores de conteúdo treinadas para análise e remoção destas”, disse o Facebook em nota ao Motherboard.

Que tenhamos cada vez menos nudes não-solicitadas e vingativas em nossas caixas de entrada.

Leia mais matérias de ciência e tecnologia no canal MOTHERBOARD .
Siga o Motherboard Brasil no Facebook e no Twitter .
Siga a VICE Brasil no Facebook , Twitter, no Instagram e no YouTube.