Tech by VICE

Criador do DeepNude, um aplicativo que despia fotos de mulheres, tirou o produto do ar

Um aplicativo que usava um algoritmo para 'despir' imagens de mulheres foi descontinuado por seu criador, citando problemas no servidor e danos em potencial.

por Samantha Cole; Traduzido por Marina Schnoor
01 Julho 2019, 1:51pm

O criador do DeepNude, um app que usava algoritmo de aprendizado de máquina para “despir” imagens de mulheres vestidas, anunciou na quinta-feira que vai matar o software, depois de muitas reações negativas pelo jeito como o produto objetificava mulheres.

Na quarta-feira, a Motherboard deu a notícia sobre como um programado anônimo, que usa o pseudônimo “Alberto”, tinha criado o DeepNude, um aplicativo que pegava imagens de mulheres vestidas e, com um clique e alguns segundos, transformava a imagem num nude sobrepondo seios e vulva realistas no corpo delas com um algoritmo.

O algoritmo usa redes contraditórias generativas (GANs em inglês), e é treinado com milhares de imagens de mulheres nuas. O DeepNude só funcionava com imagens de mulheres, segundo Alberto, porque era mais fácil encontrar imagens de mulheres nuas na internet.

Depois da matéria da Motherboard, o servidor do aplicativo, que tinha um link para Linux e Windows, saiu do ar:

"Nos desculpamos pelos vários problemas. Sério. Não esperávamos esse tráfego. A melhor coisa, se o aplicativo não baixar bem agora, é tentar mais tarde."

Na tarde de quinta, a conta no Twitter do DeepNude anunciou que o aplicativo estava morto: Nenhuma outra versão será lançada e mais ninguém terá acesso ao aplicativo.

“Criamos esses projeto para entretenimento dos usuários meses atrás”, o criador escreveu numa declaração postada com o tuíte. “Achamos que venderíamos algumas cópias todo mês de maneira controlada... Nunca achamos que ele viralizaria e que não poderíamos controlar o tráfego.”

Quando falei com Alberto por e-mail na quarta, ele disse que teve dúvidas sobre a moralidade e a ética envolvidas no uso do aplicativo. “Isso é certo? Pode prejudicar alguém?”, ele disse que se perguntou. “Acho que o que você pode fazer com o DeepNude, você também pode fazer com o Photoshop (depois de ver algumas horas de tutoriais)”, ele disse. Se a tecnologia já existe, ele afirmou, alguém eventualmente criaria algo assim.

Desde então, segundo a declaração, ele decidiu que não queria ser o responsável por essa tecnologia.

“Não queremos fazer dinheiro desse jeito”, diz a declaração. “Claro, algumas cópias do DeepNude ainda serão compartilhadas na internet, mas não queremos ser aqueles vendendo esse produto.” Alberto alegou ser apenas uma “entusiasta da tecnologia”, motivado por curiosidade e um desejo de aprender. A mesma razão dada pelo criador de deepfakes a Motherboard em dezembro de 2017: que ele era apenas um programador interessado em aprendizado de máquinas. Mas como a ascensão subsequente de pornô de vingança falso usando deepfakes ilustrou, esse uso da tecnologia sobre o corpo de mulheres é prejudicial, às vezes podendo destruir a vida das vítimas em nome desse “entusiasmo”.

“O mundo não está pronto ainda para o DeepNude”, conclui a declaração. Mas como esses algoritmos e aplicativos problemáticos mostram, não há uma solução simples para tecnologias como o DeepNude, e as atitudes sociais que apagam a autonomia corporal e consentimento das mulheres.

Siga a VICE Brasil no Facebook, Twitter, Instagram e YouTube.