Davanje ljudskih prava robotima moglo bi da ih spreči da nas unište

Nedavno je Odbor za pravna pitanja Evropskog parlamenta glasao o izveštaju u kojem se predlaže da sofisticirani roboti i drugi oblici veštačke inteligencije dobiju status "elektronske osobe".

U izveštaju se konkretno tvrdi da "pametni, samostalni roboti" – koji se definišu kao mašine sposobne da uče iz iskustva, donose nezavisne odluke i delaju transformativno na okolinu – treba da se smatraju pravno odgovornim za svoja dela. Evo dva primera koje izveštaj direktno uzima u razmatranje: pametni roboti sposobni da povrede ljudska bića, pa nam je potreban pravni okvir za sprovođenje kazne; i pametni roboti sposobni da stvore materijal podložan autorskim pravima kao što je kompjuterski kod, pa nam je potreban pravni okvir za određivanje njihovih prava na intelektualnu svojinu.

Sve je ovo još u povoju, a Evropski parlament neće glasati da li da se predlog pretvori u zakon sve do februara, ali – kao što su pravnici koji kritikuju izveštaj već istakli – čitava rabota kao da utire put dodeljivanju ljudskih prava robotima. Ako robote ne treba da smatramo mašinama ili alatima, već osobama, kako onda da shvatimo našu interakciju sa njima? Kakve odgovornosti, na primer, inženjeri koji razvijaju tehnologiju veštačke inteligencije imaju prema svesti koju stvaraju? Šta je sa vlasnicima kompanija koje koriste pametne robote kao izvor radne snage ili korisnicima usluga koje roboti pružaju – od saobraćaja preko seksa do palijativne nege? Ako udarim robota i polomim mu šasiju, da li se to računa kao napad? Ako je robot programiran da se replicira, ima li on pravo na porodičan život?

Ne zavaravajte se: mi već vodimo rat sa mašinama, čiji uspon preti da ugrozi čovečanstvo masivnim gašenjem poslova zbog automatizacije, potencijalnim nadmašivanjem svih naših kognitivnih sposobnosti dubokim neuronskim mrežama i, na kraju, našim porobljavanjem u zagrljaj metalnih robotskih kandži.

U svetlu svega toga, predlozi iz ovog izveštaja deluju posebno alarmantno – dok bi robotska pobuna mogla da izbije svakog časa, EU se možda već sprema da počne da maše belom zastavom. Trebalo bi da se upustimo u istorijski egzistencijalnu bitku, a ti ispravljači banana iz Brisela žele da se osiguraju da ne mogu da polomim blagajnu sa samoposlugom a da me ne optuže za ubistvo! Možda su svi ti glasači za Bregzit ipak bili u pravu.

Ali ako malo bolje obratite pažnju, videćete da taj izveštaj zapravo predlaže nešto veoma pametno. Status elektronske osobe nije način da se mašine oslobode; to je način da se one kontrolišu. Iako se u izveštaju navode potencijalne prednosti tehnologije veštačke inteligencije – za koju se smatra da će vrlo verovatno dovesti do revolucije u proizvodnji do te mere da će biti omogućen "bukvalno neograničen prosperitet" – u izveštaju se takođe ističu opasnosti kojima nas izlažu sofisticirani roboti. Navedeni su, redom, zabrinutost za budućnost zapošljavanja, sve veću nejednakost i fizičku bezbednost ljudi, često veoma oštrim rečnikom.

Ne treba zato da iznenadi što će, iako izveštaj predviđa svet u kojem pametni, samostalni roboti imaju neka prava, njima – baš kao i biološkim ljudskim bićima – biti nametnut ogroman broj obaveza. Pametni roboti moraju, na primer, da registruju svoj identitet u centralizovanoj bazi podataka. Oni (ili, tačnije, njihovi vlasnici) moraju da učestvuju u nekoj vrsti osiguranja koje će isplaćivati odštetu žrtvama štete koju naprave. Njihov izvorni kod mora biti dostupan zakonodavcima. Mora da im se instalira dugme za uništenje. Iako će u budućnosti pametni roboti možda moći da polažu prava na, recimo, autorstvo nad nekim kodom koji su sami napravili, ta prava moći će da ostvare samo u okviru pravnog okvira koji im značajno otežava da se pobune i unište nas.

Ovo nagoveštava dublju istinu o tome kako funkcionišu ljudska prava. Često o pravnim okvirima kao što je Evropska konvencija o ljudskim pravim razmišljamo kao o pretvaranju naših najdragocenijih sloboda u svetinju. U tome svakako ima i nešto istine: u najmanju ruku, značajno je što vlast priznaje, makar samo na papiru, da je fundamentalno pogrešno mučiti ljude, ubijati ih nasumice ili im uskraćivati pravo na fer suđenje.

Ali takvi pravni okviri služe i da nas definišu: subjekat koji Evropska konvencija o ljudskim pravima opisuje nije biološka stvarnost, već ideal koji je nastao istorijski: "ljudsko biće" je životinja koja, nekako suštinski, ima pravo na slobodu verskog izražavanja i stupanja u brak sa drugim ljudskim pojedincem kad dođe u određene godine. Ima pravo da ne budu porobljeno, ali isto tako ova konvencija i dalje ljudsko biće smatra nečim što može da bude naterano na obavezno služenje vojnog roka.

Ako ne budu uvršćeni u ove pravne okvire, roboti bi mogli da delaju tako da te pravne okvire ometaju ili čak ukinu. Era mašina ima potencijal da se radikalno razlikuje od svake obične ljudske epohe koja joj je prethodila – čak do te mere da ljudska bića više neće biti ni nužna. Ali ako im se nađe mesto u pravnim okvirima koje smo razvili da bismo definisali sami sebe, roboti bi mogli da nam pomognu da ih održimo.

Ima li boljeg načina da zaustavimo gubitak ljudskih poslova nego da dozvolimo robotima da osnivaju sindikate – pretvarajući ih u manje atraktivan izvor jeftine radne snage? A šta je sa robotskim političkim strankama? Roboti ne bi bili više toliko motivisani da nas nasilno svrgnu s vlasti kad bi mogli da učestvuju na izborima. Ima li boljeg načina da se spreči da seks sa robotima zameni tradicionalan, biološki snošaj nego dozvoliti robotima da stupaju u brak i odgajaju decu? Ima li boljeg načina da se uspori ekonomska propast nego da se robotima ponudi plata i da se programiraju tako da imaju želju da kupuju predmete koje prave?

Ako se ukloni suštinska razlika između ljudi i robota, onda nam oni više neće predstavljati pretnju. Možda će se u budućnosti samostalni roboti smatrati prosto "ljudima", dok genetski istorijat ljudi (ili njegovo odsustvo), iz etičke perspektive, neće biti mnogo važno. Roboti će postati naši prijatelji, kolege, supružnici – a polagaće račune istim legalnim vlastima kao i mi.

(Gornja slika čovekolikog robota: slika scene via)

Još na VICE.com

Prete li nam roboti ubice

Kako se 'Prava Lutka' slaže sa svim ostalim seks robotima

Ko radi sve te prljave, fizičke poslove u "Westworldu", roboti?

Pratite VICE na Facebooku, Twitteru i Instagramu