U ratovima budućnosti, autonomni roboti-ubice će se boriti do smrti

Tekst je prvobitno objavljen na VICE UK.

U Doktoru Strejndžlavu, kultnom filmu Stenlija Kjubrika iz 1964. događaji izvan kontrole SAD i ruskih vođa okidaju spiralu događaja koji dovode do apokalipse sveta, kao kubanska raketna kriza, ali sa drugačijim krajem.

Dok se odvija treća revolucija u ratovanju – nakon pojave baruta i nuklearnog oružja – stručnjaci i aktivisti se plaše da će zbog naoružavanja veštačke inteligencije, i poriva da se razviju autonomni ubojiti sistemi naoružanja (Ausn), svet biti bliži tom stanju nego ikada ranije.

„Ako se trenutno razvijanje autonomnog oružja od strane visokotehnoloških nacija ne zaustavi, globalna bezbednost bi mogla da bude dramatično destabilizovana“, kaže mi Noel Šarki, profesor veštačke inteligencije i robotike sa Univerziteta u Šefildu. „Slučajni sukob između neprijateljskih robota na granici ili u međunarodnim vodama bi mogao da eskalira u rat koji ljudi ne bi mogli ni da razumeju, niti spreče. Sukob bi mogao da bude okončan za nekoliko minuta, pre nego što bi bilo ko mogao da ga spreči, uz ogromna razaranja i gubitke života“.

Razne preteče polu-autonomnog oružja već postoje, kao što je mehanizovana straža u korejskoj demilitarizovanoj zoni, koja bi automatski pucala na uljeze, ali trka u naoružanju kada su u pitanju Ausn – takođe poznati i kao roboti-ubice – je u toku, što znači da će u nekom trenutku u bliskoj budućnosti najjače nacije na svetu imati pregršt autonomnih lovačkih aviona i tenkova, pored ostalih sistema naoružanja, i to sa malo, ili bez imalo ljudske kontrole.

Vlade se ove nedelje sastaju u UN da prodiskutuju o tome da li i kako da regulišu Ausn, a aktivisti kažu da vreme za bilo kakvu smislenu akciju ističe.

„Da bi se izbeglo da u budućnosti roboti-ubice, a ne ljudi, donose odluke, vlade moraju da deluju sada“, kaže Meri Veram iz Hjuman Rajts Voč, koordinatorka kampanje za zaustavljanje robota-ubica. „Vlade bi morale da izglasaju međunarodni sporazum o potpuno autonomnom oružju. Bilo kakve manje mere su osuđene na neuspeh“.

Brojne zemlje su izrazile svoju podršku za potpunu zabranu, uključujući Austriju, koja je postala prva država EU koja se u ponedeljak pridružila nizu država koje se zalažu za nju. Ali preventivna zabrana za sada izmiče aktivistima, uprkos apelima Ilona Maska na stručnjake da se založe za potpunu zabranu, i desetina zemalja koje su priznale da razvijaju Ausn.

Autonomija je samoproklamovana prekretnica u budućnosti vojne strategije SAD, i izazvala je meteorsko povećanje fondova za robotiku, od 91.5 milijarde dolara 2016. do verovatno 188 milijardi do 2020. dok Rusija, Kina i drugi povećavaju svoje investicije, da ne bi zaustali. Supersila razvija prototip bezrepnog, bespilotnog aviona X-47B – čiji domet je deset puta veći od običnog lovca F-25 – koji će biti u stanju da uzleti u svim vremenskim uslovima, leti u eskadrilama i doliva gorivo u vazduhu.

Posebno je dizajniran da bude korišćen na Pacifiku, nakon žučnog izveštaja o spremnosti vojske SAD koji je otkrio da SAD kaska za Kinom, koja sada ima hipersonične projektile koji bi potencijalno mogli da im daju odlučujuću prednost u bilo kakvom budućem ratu u Južnom kineskom moru.

„Iako se mora priznati da je vizija futuristička, može se zamisliti scenario po kome UUV-ovi uočavaju, prate, identifikuju, ciljaju i uništavaju neprijatelja – i sve to autonomno“, piše u izveštaju Ministarstva odbrane SAD. Tu su „zamišljeni automatski sistemi koji glatko operišu sa sistemima pod ljudskom kontrolom, sa namerom da se postepeno smanjuje ljudska kontrola i donošenje odluka koji su potrebni za kontrolisanje automatskog dela strukture naoružanja“.

Kinezi svoje oružje generalno više drže pod velom tajne, ali nedavno su predstavili nešto od svojih dostignuća na Međunarodnom sajmu i konferenciji odbrane, jednom od najvećih sajmova naoružanja na svetu, u Dubaiju. Sve jača supersila je razvila dron CH-5, bespilotnu borbenu letelicu, koja može da leti 60 sati neprekidno, i uskoro će biti u mogućnosti da bez prekida preleti 18 hiljada kilometara. Komentatori kažu da kineski napredak u veštačkoj inteligenciji može da dovede do toga da one u budućnosti postanu deo flote autonomnih dronova.

Rusija takođe napreduje u istraživanju i razvoju Ausn-ova. „Ko god je u prednosti kada je u pitanju veštačka inteligencija će vladati svetom“, rekao je prošle godine Vladimir Putin. „Veštačka inteligencija je budućnost, ne samo za Rusiju, već za čitavo čovečanstvo“.

Kalašnjikov, proizvođač automatske puške AK-74, razvio je potpuno automatizovani sistem lake artiljerije, koji koristi neutralnu umreženu tehnologiju za identifikovanje mete i donošenje odluka. Takođe je započeo i serijsku proizvodnju bešumnog drona, koji bi u budućnosti mogao da bude opremljen naoružanjem.

I UK takođe razvija sisteme naoružanja koji poseduju autonomiju, i među brojnim je državama sa visokotehnološkom vojnom industrijom koje se protive preventivnoj zabrani, uprkos nedavnoj tvrdnji Tereze Mej da želi da UK bude predvodnik u etičkoj veštačkoj inteligenciji.

Borbena letelica Taranis iz UK je dizajnirana da pogađa udaljene mete „čak i na drugom kontinentu“, i dok su iz Ministarstva odbrane izjavili da će ljudi ostati angažovani, Hjuman Rajts Voč kaže da je Taranis primer za prelazak na sve veću autonomiju.

Ovo oružje takođe može da bude hakovano i ponaša se nepredvidljivo, kada je suočeno sa neočekivanim okolnostima; stručnjaci ističu neuspeh odbrambenog raketnog sistema Patriot u prvom Zalivskom ratu kao dokaz da raznorazno oružje može da zakaže na nepoznate načine.

„Autonomni sistemi naoružanja su pod potpunom kontrolom kompjutera, sa svim inherentnim problemima koje korišćenje kompjutera sa sobom nosi“, nastavlja Šarki. „Problem je u tome što ako ih svaka, ili veliki broj zemalja budu imale, nećemo znati kako će reagovati jedni na druge. To su nepoznati algoritmi međusobnog ratovanja, i sama ta činjenica ih čini nepredviljivim i suprotstavljenim pravilima ratovanja“.