Motherboard

Uma IA pode ser usada para detectar mentiras nos tribunais e isso não é bom

Em fase de testes nos EUA, recurso possui 90% de eficácia na leitura de vozes e microexpressões faciais. Será que vale o risco?
28.12.17

Os tribunais são locais imprecisos. A culpa do réu pode ser refutada por evidências físicas consideráveis, enquanto, em outros, pode ser influenciada pelo relato de uma testemunha enviesada.

No fim, aqui nos EUA, chega-se a 12 pessoas não especialistas – estranhos – que discutem em uma sala. Parece uma ideia perturbadora. Eu pelo menos acho assustadora, embora muito interessante.

Por isso que me chamou a atenção um estudo publicado no início desta semana no arVix que descreve um sistema com base em aprendizado automático para identificar fraudes em vídeos de tribunais. Ele usa visão de computador para identificar e classificar microexpressões faciais e análises de frequências de áudio para identificar padrões de voz reveladores.

Publicidade

Descobriu-se que o classificador de fraudes resultante tem praticamente 90% de precisão, superando muito os humanos designados para a mesma função. Isso se baseou em avaliações de 104 vídeos de júris simulados com atores instruídos para serem verdadeiros ou mentirosos.

“A falsidade é comum em nosso dia a dia”, inicia o estudo. “Algumas mentiras são inofensivas, mas outras podem ter consequências graves e se tornarem uma ameaça para a sociedade. Por exemplo, mentir no tribunal pode afetar a justiça e permitir que um culpado fique livre. Assim, a detecção exata de uma mentira em situações de alto risco é crucial para a segurança pessoal e pública.”

Modelos de aprendizado automático são criados para fazer previsões com base em certas características que são medidas de algumas propriedades com um valor de predição hipotético. Por exemplo: se você quiser um modelo capaz de prever a probabilidade de um carro quebrar daqui a um ano, será necessário observar vários carros que quebraram ou não e também vários elementos que descrevem esses carros, como a quilometragem, o ano e o fabricante. Essas serão as características.

No estudo do tribunal, as características incluem as já mencionadas microexpressões como “lábios salientes” e “cenho franzido”. Essas são as características mais importantes e úteis por trás do modelo, que também incorpora análise de áudio e de transcrição textual dos tribunais. As características de áudio e texto não contribuem muito para a precisão total do modelo preditivo. As microexpressões são, em geral, suficientes para revelar uma mentira.

Como funciona a detecção num simples e pouco elaborado gráfico. Crédito: Divulgação

É claro que, para chegar a um modelo preditivo, é necessário uma fonte de verdade sólida. Isto é, precisamos dispor de exemplos nos quais sabemos que uma pessoa está sendo mentirosa. E é aí que o estudo se torna um pouco mais maleável. Ele se baseia em um conjunto de dados para detecção de mentiras lançado há alguns anos pelos cientistas da computação da Universidade do Michigan e da Universidade de North Texas, ambas dos EUA. O conjunto de dados basicamente consiste em vídeos nos quais participantes foram solicitados a serem verdadeiros ou falsos em diversos cenários. A execução é mais engenhosa do que parece. Ainda assim, não dá para não pensar na limitação de não haver nenhum tipo de dado “do mundo real”. Tudo está baseado em encenação, afinal.

A subjetividade de um tribunal é tanto um erro quanto uma característica. Ela permite elementos como empatia, mas também (frequentemente) permite determinações muito erradas de culpa. Isso é desconcertante, assim como a ideia de detectores de mentira baseados em IA e o tipo de impacto que isso pode ter para os juízes e o júri.

Como seres humanos, existem algumas mentiras com as quais podemos conviver, e costumamos aceitá-las como normais – as pequenas mentiras. Elas podem ou não desqualificar uma testemunha ou condenar um réu. Um computador, entretanto, não faz esse tipo de determinação. Para uma máquina, uma mentira é uma mentira, mesmo que, como indivíduos, nós saibamos que isso não vem ao caso.

Leia mais matérias de ciência e tecnologia no canal MOTHERBOARD.
Siga o Motherboard Brasil no Facebook e no Twitter.
Siga a VICE Brasil no Facebook , Twitter e Instagram .