O criador do DeepNude, um app que usava algoritmo de aprendizado de máquina para “despir” imagens de mulheres vestidas, anunciou na quinta-feira que vai matar o software, depois de muitas reações negativas pelo jeito como o produto objetificava mulheres.Na quarta-feira, a Motherboard deu a notícia sobre como um programado anônimo, que usa o pseudônimo “Alberto”, tinha criado o DeepNude, um aplicativo que pegava imagens de mulheres vestidas e, com um clique e alguns segundos, transformava a imagem num nude sobrepondo seios e vulva realistas no corpo delas com um algoritmo.O algoritmo usa redes contraditórias generativas (GANs em inglês), e é treinado com milhares de imagens de mulheres nuas. O DeepNude só funcionava com imagens de mulheres, segundo Alberto, porque era mais fácil encontrar imagens de mulheres nuas na internet.Depois da matéria da Motherboard, o servidor do aplicativo, que tinha um link para Linux e Windows, saiu do ar:
Publicidade
"Nos desculpamos pelos vários problemas. Sério. Não esperávamos esse tráfego. A melhor coisa, se o aplicativo não baixar bem agora, é tentar mais tarde."Na tarde de quinta, a conta no Twitter do DeepNude anunciou que o aplicativo estava morto: Nenhuma outra versão será lançada e mais ninguém terá acesso ao aplicativo.“Criamos esses projeto para entretenimento dos usuários meses atrás”, o criador escreveu numa declaração postada com o tuíte. “Achamos que venderíamos algumas cópias todo mês de maneira controlada… Nunca achamos que ele viralizaria e que não poderíamos controlar o tráfego.”Quando falei com Alberto por e-mail na quarta, ele disse que teve dúvidas sobre a moralidade e a ética envolvidas no uso do aplicativo. “Isso é certo? Pode prejudicar alguém?”, ele disse que se perguntou. “Acho que o que você pode fazer com o DeepNude, você também pode fazer com o Photoshop (depois de ver algumas horas de tutoriais)”, ele disse. Se a tecnologia já existe, ele afirmou, alguém eventualmente criaria algo assim.Desde então, segundo a declaração, ele decidiu que não queria ser o responsável por essa tecnologia.“Não queremos fazer dinheiro desse jeito”, diz a declaração. “Claro, algumas cópias do DeepNude ainda serão compartilhadas na internet, mas não queremos ser aqueles vendendo esse produto.” Alberto alegou ser apenas uma “entusiasta da tecnologia”, motivado por curiosidade e um desejo de aprender. A mesma razão dada pelo criador de deepfakes a Motherboard em dezembro de 2017: que ele era apenas um programador interessado em aprendizado de máquinas. Mas como a ascensão subsequente de pornô de vingança falso usando deepfakes ilustrou, esse uso da tecnologia sobre o corpo de mulheres é prejudicial, às vezes podendo destruir a vida das vítimas em nome desse “entusiasmo”.“O mundo não está pronto ainda para o DeepNude”, conclui a declaração. Mas como esses algoritmos e aplicativos problemáticos mostram, não há uma solução simples para tecnologias como o DeepNude, e as atitudes sociais que apagam a autonomia corporal e consentimento das mulheres.Siga a VICE Brasil no Facebook, Twitter, Instagram e YouTube.