FYI.

This story is over 5 years old.

Tecnologia

​Elon Musk Sobre Robôs Inteligentes: Teremos Sorte Se Eles Não Nos Escravizarem

“Estou muito preocupado com superinteligência artificial atualmente. Acho que é algo que talvez seja mais perigoso que armas nucleares.”

Não é segredo algum que o intelectual Elon Musk teme o que pode acontecer se robôs superinteligentes passarem a se atualizar – ele disse certa vez que estamos "invocando o demônio" com pesquisas em inteligência artificial – mas neste domingo Musk falou em detalhes sobre como crê que a IA poderia dar fim à humanidade.

Musk, fundador da Tesla e SpaceX, participou do StarTalk, podcast seminal de Neil deGrasse Tyson, para falar sobre o futuro em geral, e a IA foi um dos principais tópicos da conversa.

Publicidade

"Estou muito preocupado com superinteligência artificial atualmente. Acho que é algo que talvez seja mais perigoso que armas nucleares", disse Musk. "Deveríamos ter muito cuidado com isso. Se existisse uma superinteligência digital que pudesse ativar uma espécie de auto-melhoria recursiva de forma não-logarítmica, que pudesse se reprogramar para ser mais inteligente e fazer iterações mais rápidas e fizesse isso 24 horas por dia em milhões de computadores, seria o fim."

Se a inteligência artificial irá nos matar, esta é a forma prevista geralmente em filmes de ficção científica e gente que pensa nesse tipo de coisa: a inteligência se atualizará e se ensinará a como se tornar muito mais esperta que nós, e então será incontrolável (pesquisas no campo da superinteligência estão em andamento). Musk afirma que devemos pensar porque, exatamente, estamos tentando criar robôs superinteligentes.

Se for para fins de companhia e nos fazerem mais felizes (como detalhado em Ela, que você deveria assistir, caso não tenha o feito), talvez isso não termine tão bem assim.

"A função utilitária da superinteligência digital é de importância estupenda. O que ela tenta otimizar? Temos que tomar muito cuidado ao falar coisas como 'que tal a felicidade humana?'", disse Musk. "Isso conclui que um humano infeliz deve ser exterminado. Ou que deveríamos ser capturados e injetados [constantemente] com dopamina e serotonina para otimizar a felicidade. Só digo que deveríamos tomar cuidado".

Publicidade

Tyson perguntou a Musk se ele pensava que seríamos domesticados: "Seremos como labradores, se tivermos sorte".

Claro que Musk não estava só falando por falar. Isto é algo que tem ocupado sua mente há muito tempo, e é um de seus argumentos mais controversos. Ele até mesmo gastou 10 milhões de dólares tentando impedir que IAS ultrainteligentes tornassem-se perigosas.

Tyson e seu coapresentador neste episódio, Bill Nye, obviamente não são leigos nesse lance de pensar sobre as implicações da tecnologia, e ambos consideram suas teorias meio ousadas.

"20% da população mundial não tem acesso à energia elétrica. Estas pessoas nunca fizeram uma ligação telefônica", disse Nye. "E acho que as pessoas tem que lembrar – computadores são tão confináveis – que tem alguém ali literal ou em algum sentido, alimentando o fogo com carvão. O que acontece se você desliga um supercomputador ou inteligência?"

Tyson disse que caras como Musk temem que robôs superinteligentes impeçam você de desligá-los, mas Nye questionou como um computador "criaria algo para te impedir de fazer isso? Parece um problema solucionável".

Da mesma forma, pesquisadores de inteligência artificial disseram que os comentários de Musk afetam negativamente as pesquisas, e que estamos muito longe de ter que nos preocupar em sermos subjugados por robôs.

Mas a ideia de criar software digital que surtirá e será incontrolável não é só um cenário digno de pesadelos – já aconteceu. Leve em conta que o Stuxnet, um vírus supostamente criado pela NSA para danificar fisicamente fábricas de enriquecimento de urânio iranianas, se espalhou pela internet e infectou usinas nucleares russas.

O Stuxnet é um programa muito específico que não faz nada em computadores comuns além de se replicar, mas é fácil imaginar superinteligências se espalhando por dispositivos conectados ao redor do mundo. E então, talvez, a única resposta seja desligar os computadores necessários. Em que ponto estamos, sendo assim?

Tradução: Thiago "Índio" Silva