A verdadeira ameaça não é a inteligência artificial, mas sim a incompetência artificial

FYI.

This story is over 5 years old.

Tecnologia

A verdadeira ameaça não é a inteligência artificial, mas sim a incompetência artificial

Esqueça os perigos da super inteligência artificial. Cientistas afirmam que a inteligência artificial de baixa qualidade pode ser nossa verdadeira inimiga.

Os últimos anos foram difíceis para os especialistas em IA. Imagine que, de um instante para o outro, tecnólogos famosos e grandes nomes do mundo científico começaram a enxergar seu campo de pesquisa como uma ameaça clara e urgente à sobrevivência da espécie humana. Você só quer tentar prever o uso apropriado de emojis com base em análises textuais e lá vem Elon Musk dizer que seu campo de pesquisa — que ele nem conhece direito — é o prenúncio do apocalipse.

Publicidade

Não é como se os cientistas da computação nunca houvessem criticado o interesse desmedido pela IA, mas um acadêmico que ninguém conhece (ou seja, todos eles) dizendo algo como "a IA é muito mais complexa do que imaginam" estará sempre em desvantagem em relação à uma celebridade cujo trabalho é basicamente fazer grandes discursos públicos.

Neste mês, esse pobre acadêmico é Alan Bundy, professor de raciocínio automatizado da Universidade de Edimburgo, na Escócia, que afirmou na revista Communications of the ACM que a IA é de fato uma ameaça, mas não por seu excesso de competência. Na verdade, o pesquisador afirma o oposto: a maior ameaça à humanidade é a "burrice artificial". Máquinas incompetentes, limitadas e atrapalhadas.

Bundy diz que muitos dos recentes avanços no campo da IA são limitados. Temos máquinas que sabem jogar Jeopardy e Go — ambas frutos de investimentos exorbitantes— mas isso não quer dizer que elas sejam de fato inteligentes.

"A singularidade se baseia em um modelo linear de inteligência, similar ao QI, onde cada espécie animal tem seu lugar e ao longo do qual a IA está avançando aos poucos", escreve Bundy. "Isso não é o que chamamos de inteligência. Segundo a amplamente aceita teoria de Aaron Sloman, a inteligência deve ser representada como um espaço multidimensional, composto por vários tipos de inteligência e com a IA progredindo em diferentes direções."

O problema é que o público não entende isso — em grande parte porque ninguém se dá ao trabalho de explicar. Nós, humanos, temos o que chamamos de inteligência geral e, quando vemos uma simulação de inteligência na TV, concluímos que ela também possui algo parecido com a inteligência geral, ainda que um computador que joga xadrez esteja fadado a ser sempre um computador que joga xadrez. Nas palavras de Bundy: "Muitos humanos enxergam inteligência onde há apenas um sistema limitado."

Publicidade

Em outras palavras: máquinas incompetentes. Bundy tem um posicionamento curioso em relação a esta questão, visto que ele foi um dos cientistas britânicos que se opuseram, no começo dos anos 80, à Iniciativa de Defesa Estratégica (ou SDI, na sigla original) elaborada por Ronald Reagan e Edward Teller, apresentada inicialmente como um sistema de IA fechado (ou seja: sem interferência humana) que iria, em teoria, detectar mísseis soviéticos e explodi-los com lasers antes que eles destruíssem o mundo.

A SDI pareceu uma ótima ideia para os políticos americanos, mas o que eles não compreendiam é que a IA que imaginavam ainda não existia. Falsos positivos em sistemas de detecção de mísseis eram extremamente comuns, sendo desencadeados por, entre outras coisas, pássaros e o nascer da lua. Mas no caso em questão, um falso positivo poderia ser o início de uma guerra nuclear.

"Felizmente, esses sistemas contavam com um humano encarregado de abortar qualquer retaliação injustificada ao suposto ataque", escreve Bundy. "Um grupo de cientistas de Edimburgo se reuniu com cientistas do Ministério da Defesa britânico associados à criação da SDI, e eles concordaram com a gente. Pouco depois a SDI foi silenciosamente transformada em um programa mais sensato. Esse é um ótimo exemplo de cientistas de outras áreas superestimando a capacidade de máquinas burras;"

Bundy acrescenta que os pesquisadores da área da computação "precisam divulgar essas histórias para garantir que elas sejam compreendidas".

Ele também argumenta que a inteligência artificial continuará a evoluir de forma afunilada; em outras palavras, novas tecnologias irão continuar a assustar os alarmistas com suas habilidades limitadas, mesmo embora elas sejam "incrivelmente burras" para todo o resto.

Nada mudou desde os anos 80: o público e os políticos ainda veem as máquinas como primores do conhecimento especializado, ignorando suas limitações diante de tarefas mais complexas — ou, em outras palavras, mais humanas.

Tradução: Ananda Pieratti