Estamos todos fodidos: a IA agora cola rosto de qualquer um em vídeos pornô

Está rolando um vídeo da atriz Gal Gadot transando com seu meio-irmão na internet, mas há um detalhe: não é o corpo de Gadot. Trata-se de uma colagem do rosto da artista com corpo não tão destoante do dela em uma cena incestuosa pré-existente.

O vídeo foi criado com auxílio de um algoritmo de machine learning. O criador da peripécia usou materiais de fácil acesso e comandos de código aberto que qualquer um com o mínimo de conhecimento sobre a tecnologia pode fazer.

Trecho do vídeo completo, hospedado no SendVids, com o rosto de Gal Gadot no corpo de uma atriz pornográfica.

O material não engana ninguém que o analisa comcuidado. Por vezes o rastreamento dos movimentos faciais não funciona muito bem e rola aquele lance meio uncanny valley. Olhando de primeira, porém, a coisa até que funciona. Ainda mais se levarmos em consideração de que se trata do trabalho de uma única pessoa – um usuário do Reddit chamado ‘deepfakes’ – não um estúdio enorme capaz de recriar uma jovem Princesa Leia em Rogue One com auxílio de CGI.

O usuário, aliás, usa ferramentas de machine learning de código aberto tais como o TensorFlow, disponibilizado pelo Google gratuitamente para pesquisadores, universitários e qualquer um com interesse em machine learning.

Como aquela ferramenta da Adobe que faz com que as pessoas falem qualquer coisa e o algoritmo Face2Face capaz alterar um vídeo gravado com monitoramento facial em tempo real, este novo modelo de pornografia falsa mostra que estamos prestes a viver em mundo em que será ridiculamente simples criar vídeos críveis de gente fazendo e falando coisas que nunca de fato fizeram. Incluindo sexo.

Até então, deepfakes postou vídeos pornográficos com os rostos de Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza e Gal Gadot no Reddit. Entrei em contato com os representantes e agências dessas atrizes, informando sobre os vídeos falsos e atualizarei a matéria caso me respondam.

Pornografia forjada de celebridades em que imagens são editadas para se assemelharem a famosos sem roupa já não é novidade há tempos. Seus adeptos são muitos. O próprio deepfakes possui grandes fãs de seu trabalho. Ele é, afinal, o pioneiro.

De acordo com deepfakes – que não quis revelar sua identidade para evitar escrutínio público – o software tem como base diversas bibliotecas de código aberto, tais como Keras com backend TensorFlow. Para compilar os rostos das celebridades, deepfakes afirma ter utilizado fontes como a busca de imagens do Google, bancos de imagens e vídeos no YouTube. O deep learning consiste de redes de pontos conectados que rodam processos em cima dos dados que foram inseridos. Neste caso, ele treinou o algoritmo com vídeos pornograficos e o rosto de Gal Gadot e, após este “treinamento”, os pontos se organizaram de forma a completar uma tarefa específica como manipular vídeo em tempo real.

O pesquisador especializado em inteligência artificial Alex Champandard me disse via email que uma placa de vídeo boa, acessível ao consumidor comum, poderia processar este tipo de efeito em algumas horas, mas até mesmo um processador comum, sem placa de vídeo, poderia fazer o mesmo, ainda que de forma mais lenta, ao longo de dias.

“Não é mais tão complicado assim”, disse Champandard.

A facilidade com que se pode fazer algo do tipo assusta: deixando de lado toda a técnica envolvida, só seriam necessárias algumas fotos suas, coisas que muito de nós já fornecemos numa boa ao auxiliar na criação de gigantescos bancos de dados de nossos próprios rostos. (Vale lembrar: são 24 bilhões de selfies foram postadas no serviço de fotos do Google entre 2015 e 2016.) É de se considerar a possibilidade de um programador amador rodar um algoritmo de forma a criar uma sex tape de algum desafeto.

Em conversa por email, deepfakes comentou não ser um pesquisador profissional do ramo, e sim apenas um programador interessado em machine learning.

“Apenas encontrei uma forma inteligente de fazer trocas de rostos”, afirma, ao falar de seu algoritmo. “Com centenas de imagens de rostos, posso gerar com facilidade milhões de imagens distorcidas para treinar a rede. Depois disso, insiro o rosto de outra pessoa na rede e ela achará que se trata de mais uma imagem distorcida, então tentará fazê-la se parecer com o rosto utilizado nos treinos.”

Em postagem no Reddit, deepfakes mencionou estar usando um algoritmo semelhante ao desenvolvido por pesquisadores da Nvidia que vale-se de deep learning para, por exemplo, transformar uma cena de verão em uma cena de inverno rapidamente. Os pesquisadores, por sua vez, negaram-se a comentar esta possível aplicação.

Os resultados estão longe de serem perfeitos nos exemplos postados por deepfakes. No vídeo de Gadot, por exemplo, há momentos em que uma caixa surge ao redor de seu rosto em que é possível ver a imagem original, assim como seus olhos e boca não batem com o que a atriz está falando – mas se você estiver disposto a crer, poderia muito bem ser Gadot. Em outros vídeos, o trabalho de deepfakes é ainda mais convincente.

A atriz pornográfica Grace Evangeline me disse via mensagem direta no Twitter que atrizes do ramo estão acostumadas a terem seu trabalho distribuídos gratuitamente por aí em sites como o SendVid, onde se encontra o vídeo de Gadot, sem sua permissão, mas que desta vez era algo diferente, algo que ela nunca havia visto.

“Algo importante que sempre tem que estar presente é o consentimento”, disse Evangeline. “Consentimento na vida privada e também em filmes. Criar falsas cenas de sexo com celebridades tira delas o direito ao consentimento, é errado.”

Mesmo para quem vive diante das câmeras, a violação de limites pessoais é problemática. Mostrei o vídeo à Alia Janine, atriz pornográfica aposentada há 15 anos. “É perturbador”, comentou ao telefone. “Mostra como alguns homens encaram mulheres apenas como objetos que podem manipular e forçar a fazer o que bem entendem… É um desrespeito total com os atores e atrizes do filme, bem como as atrizes em questão.”

Perguntei a deepfakes se ele já havia parado para refletir sobre as implicações éticas de sua tecnologia, se ele havia pensado em questões como consentimento, revenge porn e chantagem ao criar este algoritmo. Eis a resposta:

“Toda e qualquer tecnologia pode ser usada com motivações ruins, é impossível impedir isso”, comentou, comparando seu trabalho ao da tecnologia que recriou Paul Walker após sua morte no filme Velozes e Furiosos 7. “A principal diferença é como é fácil qualquer um fazer isso. Não acho que seja ruim para pessoas comuns começarem a mexer com pesquisas em machine learning.”

Em termos éticos, as implicações são “enormes”, de acordo com Champandard. O uso malicioso da tecnologia não pode ser evitado, mas rebatido de alguma forma.

“Precisamos ter um debate público sobre o tema em alto e bom som”, disse. “Todos precisam saber como é fácil criar vídeos e imagens falsas, ao ponto de que será difícil determinar o que é falso ou não em poucos meses. Claro que tudo isso já era possível há tempos, mas seriam necessários muitos recursos e profissionais envolvidos, e hoje tudo pode ser feito por um único programador com um computador relativamente novo.”

Champandard disse que pesquisadores já podem começar a desenvolver tecnologia para detecção de vídeos falsos, de forma a ajudar a determinar o que é real ou não. Já as regulamentações de internet podem ser alteradas de forma a moderar o que acontece quando tal tipo de material forjado e abusos ligados a este surgirem.

“De uma forma bem esquisita, trata-se de algo bom”, comentou Champandard. “É uma questão de focar em transformar a sociedade para que possa lidar com isso.”

Leia mais matérias de ciência e tecnologia no canal MOTHERBOARD.
Siga o Motherboard Brasil no Facebook e no Twitter.
Siga a VICE Brasil no Facebook , Twitter e Instagram .