​Koliko treba da se plašim singulariteta

Singularitet je hipoteza profesora informatike i romanopisca Vernora Vindža, koji je 1993. godine izjavio da će tehnologija uskoro dovesti do tako dramatičnih promena kao što je to svojevremeno bilo pojavljivanje života na Zemlji i da će se nakon toga "okončati era čoveka". Pod tim je mislio da će, u dobru ili zlu, kompjuteri početi da upravljaju svime.

Neki futuristi, poput Reja Kurcvajla, smatraju da kad bude nastupio singularitet, to će biti jebeno sjajno . Kontantno samo-unapređujuće mašine počeće iznutra da nam popravljaju ćelije, misle umesto nas kad se nama ne misli i uopšteno sve okreću nabolje.

Ali za paranoične ljubitelje naučne fantastike poput mene, singularitet je mitski momenat kada će ljudi platiti za svoj prometejski tehnološki hibris — verovatno u vidu rata protiv zlih kompjutera, kao u filmu Terminator 2: Sudnji dan, koji sam, za potrebe ovog članka, iskoristio kao model za zli singularitet.

Taj koncept zlog singulariteta testirao sam kod nekoliko naučnika. Većina se složila da racionalna osoba ne bi trebalo sve vreme da bude pod stresom zbog njega (kao ja). "Moje je mišljenje da nema nikakvog razloga za strah", rekao mi je Danko Nikolić, istraživač sa Instituta Maks Plank za istraživanje mozga i stručnjak za veštačku inteligenciju. Ali veštačka inteligencija zvuči kao da i dalje može da nam priredi neka zastrašujuća iznenađenja.

Dobar Terminator: "Sajberdin postaje najveći snabdevač vojnih kompjuterskih sistema. Svi nevidljivi bombarderi unapređuju se ugrađivanjem Sajberdinovih kompjutera i više nemaju ljudsku posadu. Posle toga, izvršavaju letove sa savršenim operativnim učinkom. Usvaja se Zakon o finansiranju Skajneta. Sistem je pušten u promet 4. avgusta 1997. godine. Ljudsko odlučivanje uklonjeno je iz strateške odbrane."

Zahvaljujući dronovima tipa "predator" i "riper" , izgleda kao da se dobar deo onoga što je dovelo do Sudnjeg dana u Terminatoru 2 već ostvarilo. Samo što dronovi teško da imaju "savršen operativni učinak", budući da su slavni po ubijanju više civila nego neprijateljskih vojnika. Ruku na srce, to ih ne čini manje strašnim, ali za sada ovaj aspekt Sudnjeg dana deluje kao da je još veoma daleko.

I iako je zastrašujuća pomisao da bi se — sa ili bez singulariteta — samostalni roboti uskoro mogli naći na ratištima , vredi napomenuti da će robotski vojnici još dugo biti totalno sranje, prema rečima Pitera Asara, filozofa nauke i tehnologije u Novoj školi i portparola Kampanje za zaustavljanje robota ubica.

"Sistemima ne ide dobro smišljanje sopstvenih ciljeva", rekao mi je on. Jeste, možemo da ukažemo na jezive primere softvera koji pobeđuje najbolje ljudske umove u šahu ili prepoznavanja lica naših prijatelja na Fejsbuku. Ali te sposobnosti su rezultati gomile podataka, koje su sakupila neka veoma strpljiva ljudska bića. Da bi kompjuter samostalno pronalazio i rešavao probleme, rekao je Asaro, "bila bi nam potrebna praktično naučna revolucija u informatici reda veličine Ajnštajna koji je zamenio Njutna."

Dakle, ukratko rečeno, u dogledno vreme samostalni naoružani roboti verovatno neće zameniti — na primer — policiju, što je utešno saznanje zato što bi oni bili manji ili veći preduslov za fazu broj dva.

Dobar Terminator: "Skajnet počinje da uči geometrijskom progresijom. Postaje samosvestan u 2:14 noću, po istočnom računanju vremena, 29. avgusta. U panici, ljudi pokušavaju da ga isključe."

Sara Konor: "Skajnet se opire."

Mogu li kompjuteri da razviju svest nalik ljudskoj i " probude se "? Za potrebe ove kolumne, nije me briga za to iz dva razloga: 1) I dalje je pod znakom pitanja da li to ima bilo kakvog smisla i 2) mašina bez svesti koja planira da me ubije i dalje je strašna ko sam đavo.

Ali nezavisno od toga da li su roboti sami po sebi svesni, singularitet zahteva da sistemi veštačke inteligencije iskažu ono što Rej Kurcvel zove Zakonom ubrzanih reakcija ili ono što Asaro zove "model akceleracije". Tako se zamišlja stanje u kojem će "stvari početi da se razvijaju tako brzo da će sistem preuzeti kontrolu i sam početi da se usavršava".

Da li će se to stvarno desiti? Možda, ali prema Nikolićevim rečima, verovatno neće.

Zabluda je pretpostaviti da povećanje kompjuterske moći znači isto što i povećanje sofistikacije, objasnio je on. "To je kao da kažete da ako budemo nabavili dovoljno papira i olovaka, svi će moći da napišu remek-dela u rangu jednog Dostojevskog." Nikolić je nagovestio da bi ogroman napredak u neuronskim mrežama — uvezanim kompjuterima koji oponašaju način na koji rade neuroni u našem mozgu — mogao da dovede do neke vrste ubrzane akceleracije, ali i dalje izražava sumnju u to da će samo-podstaknuti eksponencijalni rast veštačke inteligencije ikad biti moguć. Kao ilustraciju, naveo je neka ograničenja ljudskog mozga.

Mi ljudi možemo da učimo stvari, ali ne možemo, na kraju krajeva, da prespojimo sopstvene mozgove tako da bismo bili pametniji. To važi i za inteligentnu neurološku mrežu. "Možete da unesete izmene u kompjuterski softver, ali ne biste znali šta to treba da izmenite da biste postali inteligentniji", rekao mi je on. Drugim rečima, super inteligentni kompjuter bi mogao da se unapredi, i to bi nam verovatno bilo od koristi, ali ne bi nužno bila eksponencijalna inteligencija samo zato što je krenuo da nadograđuje bolje pentijume i više njih na svoju matičnu ploču.

Dakle, singularitet u kojem svesni roboti sa oružjem marširaju post-apokaliptičnim autoputevima ponavljajući: "Ubij sve ljude" verovatno je holivudska glupost. Ali praskozorje svakog oblika onog što je Vindž nazvao "nadljudskom inteligencijom" i dalje je strašno iz drugih razloga, rekao mi je Asaro. "Kao i sa svakom drugom tehnologijom koja je ušla u široku upotrebu, treba da nas brine kako će se veštačka inteligencija razvijati i kakav će uticaj izvršiti na naše živote."

Čak i ako su inteligentni roboti koji preuzmu kontrolu nad našim životima prijateljski nastrojeni i samo žele da nas zaštite, oni bi mogli da nas ugroze — ekonomski i društveno. Jeste, Silicijumska dolina fetišizuje tzv. disruptivne tehnologije koje se samo pojave i izbiju nam žičane telefone iz ruku, izbace nam kolekcije kompakt diskova kroz prozor i urnišu posao taksi službi. Ali disruptivne tehnologije imaju i loših strana. Na primer, od uspona Ubera, istakao je on, "ekonomski je imala korist samo jedna kompanija, na štetu više stotina ili hiljada drugih."

Dakle, kad veštačka inteligencija bude stigla, zabrinut je Asoro, mogla bi to da bude samo još jedna u dugom nizu tehnologija koje se pojavljuju u društvu i izbacuju aspekte naših života koje cenimo u kontejner zaborava. I nakon nekog oblika singulariteta, ako veštačka inteligencija bude sama predvodila inovaciju i usvajanje novih tehnologija, ubrzani marš progresa koji donosi te inovacije postaće manje ubrzani marš, a sve više tornado "kojim više nijedan pojedinac niti jedna grupa neće moći da upravljaju".

Ta pomisao napola izaziva strah, a napola ushićenje.

Konačna presuda: Koliko treba da se plašim singulariteta?

3/5: Preznojio sam se

Pratite VICE na Facebooku, Twitteru i Instagramu