Publicidade
Motherboard

Já tem gente usando inteligência artificial para fazer vídeos eróticos com rostos de amigas e conhecidas

Era questão de tempo para o fake porn chegar até nós.

por Samantha Cole; Traduzido por Ananda Pieratti
31 Janeiro 2018, 9:00am

Na semana passada, publicamos uma matéria sobre um subreddit chamado "deepfakes", frequentado por um grupo crescente de usuários que usam vídeos disponíveis publicamente e um algoritmo de aprendizado de máquina para criar vídeos eróticos falsos. Essa tecnologia, como já falamos, é capaz de isolar o rosto de uma celebridade e colá-lo no corpo de uma atriz pornô. Em alguns casos, o resultado final é extremamente realista. Os vídeos são feitos por meio do FakeApp, um aplicativo gratuito e simples de usar.

Uma das maiores preocupações dos cientistas e especialistas em ética com quem conversei já se tornou realidade: alguns usuários começaram a explorar a possibilidade de usar o aplicativo para criar vídeos de pessoas que eles conhecem na vida real — amigas, conhecidas, ex-namoradas, colegas de sala — sem a permissão delas.

Em uma conversa entre entusiastas ocorrida pelo app de mensagens Discord, alguns usuários afirmaram estar trabalhando em vídeos eróticos de pessoas que eles conhecem: mulheres com quem eles estudaram no ensino médio, por exemplo. Um usuário afirmou ter feito um vídeo "muito bom" de uma ex-colega de sala, para tanto usando cerca de 380 fotos retiradas de seus perfis no Instagram e no Facebook.

Enquanto isso, mais e mais pessoas no Reddit e no Discord estão discutindo a possibilidade de criar vídeos pornôs de ex-namoradas e pedindo ajuda para transformar esse sonho em realidade:

Passei boa parte da última semana monitorando essas comunidades, e descobri que, nelas, certas práticas já foram difundidas entre suas dezenas de milhares de usuários. Essas práticas são uma consequência natural de comportamentos que podem ser observados no Reddit e em outras comunidades com pouca monitoração.

Com essa matéria, esperamos desmistificar essas comunidades, de forma que as vítimas da pornografia simulada de forma não-consensual possam compreender as táticas usadas contra elas — e de forma que as plataformas se sintam forçadas a proteger seus usuários, oferecendo opções de privacidade para aqueles que não conhecem essas funções.

Atualização: Após a publicação dessa matéria, o aplicativo Discord tirou do ar o canal onde usuários discutiam a criação de vídeos pornôs falsos. "Somos obrigados a desligar os servidores e banir permanentemente os usuários sempre que identificamos a presença de pornografia não-consensual", disse um representante da Discord à Business Insider . "Estudamos esses servidores e tiramos eles do ar imediatamente".

Com a ajuda de ferramentas de código aberto como o Instagram Scraper e o DownAlbum, uma extensão do Chrome, é possível baixar todas as fotos de perfis do Facebook e do Instagram. Essas ferramentas podem ser usadas para fins menos duvidosos. Um exemplo: se alguém baixar e arquivar todas as imagens postadas na conta do Instagram do Motherboard, isso aumenta a possibilidade de que essas imagens nunca desapareçam da internet. Ao mesmo tempo, os criadores de deepfakes podem usar esses aplicativos para construir os bancos de dados necessários para a produção de vídeos eróticos falsos.

Uma vez reunidas as fotos, é preciso encontrar o corpo de uma atriz pornô que combine com o rosto da pessoa escolhida. Um rosto não se encaixa em qualquer corpo — é preciso levar em consideração seu formato, o cabelo da pessoa em questão e outras variáveis. Quanto melhor o encaixe, mais convincente o resultado final. Essa parte do processo de criação dos deepfakes já foi semi-automatizada.

Para encontrar a combinação perfeita, entusiastas dos deepfakes estão usando sites que afirmam usar softwares de reconhecimento facial para encontrar atrizes pornôs que se pareçam com a pessoa retratada no vídeo falso. Sites como o Porn World Doppelganger, o Porn Star By Face e o FindPornFace oferecem esse tipo de serviço. Embora nenhuma dessas ferramentas seja particularmente sofisticada, elas permitem que os criadores desses deepfakes encontrem a atriz pornô perfeita para seus vídeos. Após o usuário inserir uma foto da pessoa escolhida, esses sites selecionam uma atriz pornô semelhante à foto. Em seguida, o usuário pode pesquisar vídeos dessa atriz em sites como o Pornhub e criar seu próprio deepfake.

Até o momento, não se sabe exatamente como esses sites funcionam; a única informação que temos é a de que eles usam alguma forma de tecnologia de "reconhecimento facial". Entramos em contato com os criadores dos sites Porn World Doppelganger e do Porn Star By Face, e atualizaremos essa matéria assim que recebermos uma resposta. O Porn Star By Face afirma ter 2.347 atrizes e atores pornôs em seu banco de dados, todos eles retirados de sites como o Pornhub e o YouPorn. Não sabemos se esses sites pediram a permissão desses atores antes de adicioná-los ao seus bancos de dados.

Um representante do FindPornFace me disse por mensagem que seu site é "um pouco inútil" quando se trata de vídeos feitos no FakeApp, visto que "esse app não precisa só de uma atriz com nariz, boca ou olhos parecidos, ele precisa de alguém com o mesmo formato de cabeça, mandíbula, cor de pele e assim por diante", disse ele. "É um trabalho diferente. Mas sim, algumas das atrizes que aparecem nos resultados do nosso site podem ser usadas para fazer um deepfake. É verdade".

O Porn Star By Face diz estar aperfeiçoando seu algoritmo: "Cada pesquisa ajuda a treinar nossa rede neural, então por favor compartilhe o link com seus amigos. Nós nos esforçamos para oferecer um alto nível de precisão. Usamos várias fotos com ângulos diferentes para criar um modelo de cada atriz. Depois de criar esse modelo, o testamos e corrigimos possíveis erros".

A página inicial do FindPornFace traz o seguinte aviso: "Ao usar nosso serviço, você está concordando em não fazer upload de qualquer conteúdo que retrate alguém abaixo dos 21 anos e/ou sem a permissão explícita dessa pessoa". Na mesma linha, o Porn World Doggelganger sugere que os usuários insiram fotos de si mesmos, não de terceiros. No entanto, o site também oferece uma série de buscas rápidas de sósias de celebridades como Selena Gomez, Nicki Minaj, Kylie Jenner e Courtney Cox.

Ferramentas como o FindPornFace estão apenas automatizando parte de um processo que comunidades do Reddit, 4chan e sites de revenge porn como o Anon-IB têm feito há anos: encontrar atrizes pornôs parecidas com outras pessoas (e também usar o corpo dessas atrizes pornôs em montagens).

Uma dessas comunidades, o subreddit "doppelbangher", tem quase 36.000 seguidores (outro subreddit intitulado "dopplebangher" tem 11.000). Muitas, se não boa parte, das fotos postadas nesse subreddit são de conhecidas dos usuários: amigas, colegas de sala, mães de amigos, conhecidas e paixonites. Os usuários criam um tópico com a foto (ao que tudo indica quase sempre sem o consentimento da pessoa em questão) e outros usuários sugerem atrizes pornôs que se parecem com a pessoa retratada nela. O site FindPornFace tem uma conta no Reddit, e pode ser visto comentando em muitos dos tópicos dos subreddits citados acima.

Os moderadores do r/doppelbangher aconselham os usuários do subreddit a postar essas fotos em sites como o imgur antes de usá-las, evitando assim que elas sejam rastreadas. Postar informações pessoais, assim como qualquer tipo de revenge porn, é proibido e resulta em banimento, escrevem eles. "Por favor, pensem em como alguém se sentiria ao encontrar sua foto por aqui".

Durante minha pesquisa, vi usuários pedindo ajuda para encontrar a sósia perfeita da "madrasta de um amigo", de "uma colega de trabalho", de "uma amiga da faculdade", de "uma amiga de quem sou a fim", e da "aluna mais gata da engenharia", junto de fotos retiradas de redes sociais.

Caso alguém encontre uma foto sua na página, ela pode solicitar que a foto seja retirada. Mas se os usuários seguirem as dicas disponibilizadas pelos próprios moderadores, as chances de encontrar seu rosto em um subreddit obscuro diminuem drasticamente.

Tudo isso acontece em uma área cinzenta da lei de privacidade, como explicado nessa matéria da Wired sobre o estatuto legal dos deepfakes. Celebridades podem processar os criadores dessas montagens por uso indevido de imagem. Já o resto de nós têm pouca chance de conseguir algo na justiça. A lei que fala de revenge porn não possui uma cláusula sobre montagens. Na maior parte das vezes, cabe às próprias plataformas impedir que conteúdos como esses sejam compartilhados.

"Essas cenas de sexo são feitas sem o consentimento das celebridades. Isso é errado", disse uma atriz pornô em dezembro, quando publicamos nossa primeira matéria sobre os deepfakes. A forma como lidamos com sósias e montagens pornográficas está relacionada à nossa visão de celebridades — em especial mulheres — e atrizes pornôs como objetos, e não pessoas "de verdade". É possível observar essa ideia na obsessão dos membros da comunidade deepfake com figuras públicas e não, digamos, suas vizinhas.

Entramos em contato com o Reddit e os moderadores dessas comunidades, e traremos atualizações em breve.

Leia mais matérias de ciência e tecnologia no canal MOTHERBOARD.
Siga o Motherboard Brasil no Facebook e no Twitter.
Siga a VICE Brasil no Facebook , Twitter e Instagram .