O reconhecimento facial para estrelas pornô pode se tornar um pesadelo

Os robôs estão assistindo pornô. E os atores e atrizes amadores devem ficar preocupados.

O Pornhub anunciou, dias atrás, que está utilizando aprendizado de máquina e reconhecimento facial para detectar cerca de 10.000 estrelas do pornô por meio do site. A aposta do site é organizar o conteúdo para facilitar o usuário a achar estrela favorita ou fetiche mais eficiente.

Até o momento, o recurso escaneou 50.000 vídeos em um teste beta. Até o início do ano que vem, o Pornhub pretende escanear todos os cinco milhões de vídeos hospedados no site.

Por fim – com o auxílio dos usuários, que votam positiva ou negativamente nas tentativas da IA – a empresa afirma que chegará ao ponto em que a visão do computador poderá discernir cor de cabelo, posição sexual e fetiche dos vídeos. O Pornhub não quis me contar qual empresa de visão computacional criou a IA em questão. Alegou um contrato de sigilo, o que significa que não sabemos se, por exemplo, a empresa que criou essa IA terá acesso aos dados depurados. Por mais que essa tecnologia pareça incrível em um primeiro momento para os jovens que sempre querem saber nomes de vídeos com títulos generalistas e pouco específicos, há duas grandes coisas a se considerar a respeito a essa tecnologia: a pirataria de pornô e a privacidade dos atores e atrizes. Assim como na maioria dos vídeos, os clipes pornôs quase nunca permanecem em um único lugar. Uma única mídia pode ser postada no YouTube, no Vimeo e em outros sites de vídeo, mas algumas cenas pornográficas podem ser colocadas no Pornhub, no YouPorn, no xvideos, no xHamster, e assim por diante, muitas vezes por pessoas que não são as detentoras de seus direitos. Isso significa que, assim como toda a indústria do entretenimento, a pornográfica tem um problema com a pirataria. Em teoria, o aprendizado de máquina pode ser utilizado para detectar quando conteúdo com direitos autorais for postado e pode ser utilizado para removê-lo do Pornhub, criando um sistema similar ao sistema "Content ID" do YouTube, que compara áudios e vídeos a fim de identificar conteúdo protegido por direitos autorais postado por terceiros. Para atores e atrizes pornôs, e empresas que produzem pornô, um sistema de identificação de conteúdo fomentado pela IA seria muito mais eficiente do que a caça à cada ocorrência de pirateamento do trabalho, e enviaria uma notificação de retirada do conteúdo ao proprietário ou host do site – algo com que artistas independentes de todo o tipo lidam constantemente, uma luta fatigante e sem esperanças.

Em agosto, quando conversamos sobre um programa criado por usuários para rastrear sites de streaming e de download de vídeos automaticamente e em âmbito local, a cam model Charley Hart me contou que a pirataria no pornô é um problema que infringe não só sua autonomia criativa, mas sua vida no geral. As pessoas costumam pesquisar por seus atores e atrizes favoritos(as), e quando os visualizadores estão "tentando ter uma fantasia grátis", mesmo na forma de menos visualizações no host site original, isso os prejudica demais – e a indústria como um todo também. Porém, de acordo com o Pornbhub, esse esforço em IA não tem a ver com a prevenção de infrações da Lei dos Direitos Autorais do Milênio Digital (sigla em inglês DMCA). "Nós já utilizamos um fornecedor de tecnologia de digitais semelhante ao Content ID do YouTube para escanear nossos vídeos", um porta-voz do Pornhub me contou.

Com a tecnologia de reconhecimento facial e de posição, esse sistema tende a ser aprimorado – por esse ponto de vista, o sistema de IA do Pornhub pode ser vantajoso para atores, atrizes e empresas que trabalham com a pornografia. Contudo, especialistas alertam para a presença de sérios problemas de privacidade para modelos pornôs amadores(as). Hart me contou que segurança e privacidade são a preocupação primordial para atores e atrizes menos conhecidos(as), que, muitas vezes, não querem divulgar suas identidades. O Pornhub afirma que somente utilizará o reconhecimento facial em atores e atrizes pornôs profissionais já presentes no banco de dados. Contudo, mesmo que o Pornhub aplique essa tecnologia de forma ética, sua existência deve ser questionada. É muito provável que esse tipo de recurso não seja proprietário por muito tempo, e levando em consideração que algumas pessoas na internet têm o hábito de encontrar a identidade de modelos amadoras(es), essa tecnologia subjacente poderá fomentar essa prática. Serviços como o Pornstar.id e a ferramenta de busca sexual da Megacam já existem, e facilitam a descoberta da identidade das pessoas que trabalham com pornografia com a pesquisa de imagem reversa. Esses serviços atuam na busca por "doppelgängers" do fetiche, mas podem ser facilmente utilizado por parceiros abusivos que tentam encontrar links das vítimas que trabalham na internet.
Neil Brown, advogado em especialização de leis de tecnologia e internet, me contou que a distinção entre os profissionais e os amadores no banco de dados é muito importante. "Se a ferramenta for aplicada ao conteúdo (genuinamente) não profissional, a possibilidade de dano é consideravelmente alta", Brown me contou via mensagens do Twitter.

"E isso será real se as tentativas forem feitas para incluir identificadores de outras fontes, como fotografias compartilhadas em redes sociais", afirma. "Imagine se um vídeo em que você aparece, postado por um colega ou parceiro sem sua permissão e, como resultado da aplicação da IA à biblioteca de conteúdo de um site, ele agrupar não somente todos os vídeos em que você aparece, mas incluir seu nome, perfil do Facebook e do Twitter, e assim por diante." É fácil imaginar um futuro no qual terceiros utilizam aprendizado de máquina, reconhecimento facial e contas nas redes sociais para identificar as pessoas um banco de dados de nudes gigante. Mesmo se o Pornhub tomar as devidas precauções, essas não são boas notícias para ninguém.

Leia mais matérias de ciência e tecnologia no canal MOTHERBOARD.
Siga o Motherboard Brasil no Facebook e no Twitter.
Siga a VICE Brasil no Facebook , Twitter e Instagram .