Ratovanje robotima dovešće do još više žrtava

Roboti ubice. Ako ove reči u vama bude bilo šta osim zebnje, gotovo sigurno radite u sektoru vojne tehnologije (u kom slučaju: čestitam na dobro plaćenom poslu, ali etički ste dužni da sabotirate sve projekte svoje firme).

Napredak u bolju veštačke inteligencije AI omogućio je razvoj potpuno autonomnih oružanih sistema — tenkovi, topovi, brodovi, avioni — sve je to danas tehnološki izvodljivo. Iako Ujedinjene nacije pokušavaju da zabrane korišćenje ovih mašina, predviđa se da će one sa vremenom imati sve više zapaženu ulogu u oružanim sukobima koji će obeležiti 21. vek.

To je bar jedna od spekulacija koje su početkom meseca objavili iz Ministarstva odbrane, u izveštaju pod zabrinjavajuće ružičasto-bezbrižnim naslovom: Budućnost počinje danas. Autori tvrde da je rat "prirodo ljudska aktivnost čije karakteristike određuju političari i stratezi, društvo i tehnologija", ali da bi češća upotreba robota ubica u budućim sukobima mogla da „izmeni suštinsku prirodu ratovanja" pa će ubuduće biti "manje stvari prepušteno osećanjima, strasti, i slučaju."

Ovu rečenicu direktno sledi gore prikazana ilustracija robota koji stoji u sred polja procvetale lavande. Nisam siguran šta bi taj prizor trebalo da nam kaže. Sa jedne strane, robot stoji prilično pasivno, sunce zalazi, sugeriše se harmonija sa prirodom i svetom. Ništa bolje od robota-vojnika! Oni nam pomažu, manje ljudi-vojnika će morati da umre! Sa druge strane robot gleda u stranu, van kadra, naizgled ka nečemu što namerava da uništi. Možda ka teroristima, možda ka selu punom nedužnih ljudi. Ko zna šta je algoritam odlučio.

U tome je valjda i problem: Ko može da zna šta će veštačka inteligencija na bojnom polju odlučiti da uništi? Neprijatelja, ili mene i vas, ili nama drage osobe? Algoritmi ne rade uvek kako treba — umeju da očuvaju predrasude iz prošlosti što vodi ka nepredvidivim nuspojavama, u zavisnosti od toga koliko smo užasni bili u toj prošlosti. A pošto pričamo o vojnim aktivnostima… prilično užasni. Još jedan razlog zbog kog zvuči izuzetno smisleno tradicionalna SF ograda od robota sposobnih da naškode ljudskim bićima.

Opet, izveštaj i ne uzima olako mogućnost upotrebe autonomnih oružanih sistema na ratištima budućnosti. Autori navode da će, bar u početku, "borbene mašine dejstvovati pod direktnim ljudskim nadzorom." Ovo bi trebalo da smanji šansu da nešto pretupče i odluče da nas sve pobiju (umesto da pobiju samo one među nama koje im nadzornici kažu). Ali "sa porastom poverenja u sposobnosti ovih mašina, moguće je da će postepeno početi da deluju i bez nadzora" što bi verovatno vodilo u "najdublju" etičku problematiku. Autori priznaju da "mašina ne bi uzela u razmatranje element ljudske patnje, pa je moguće da bi se prelako odlučila na nasilje."

Ali to je se tretira kao najgori mogući scenario. Postoji i spekulativna alternativa: "bez ograničenja koja idu uz ego, oholost, i nacionalističke težnje, moguće je da bi veštačka inteligencija racionalnije procenila potencijalnu cenu svakog sukoba, i ređe donosila pogrešne odluke. Potencijalno, mašinski hladni hiper-logični proračuni uklonili bi element strasti iz ratnih dejstava (…) nasilje bi se možda ređe viđalo".

Zvuči kao primamljiva mogućnost, ali mi ovde pričamo o autonomnom oružju, jebote. Kako je moguće da se javnost ne zabrine?

Roboti ubice ipak nisu osnovna tema kojom se bavi izveštaj o "Budućnosti" koja "počinje danas"; iznosi se širi pregled kriznog stanja na globalnom planu. "Svet je svakog dana sve kompleksniji i sve više promenljiv. Jedino što je pouzdano u vezi sa budućnošću je činjenica da ništa nije pouzdano." Konkretno bi klimatske promene mogle da budu uzrok budućih problema, kako suša i glad budu povećavale šansu da se razviju neredi, sukobi, i populaciona izmeštanja. Siromaštvo i neravnopravnost nastaviće da raste kako razvijeni svet bude prestao da se razvija — potencijalno bi najbogatiji slojevi mogli da steknu pristup tehnologiji podmlađivanja koja bi im praktično omogućila da žive večno. Ali za ostatak populacije ostaju samo siromaštvo, loša ishrana, i duševne bolesti. Svesno povlačenje u grupe istomišljenika na društvenim mrežama biće sve veća politička pretnja.

Zvuči kao prilično ispravna dijagnoza. Ali kako se to leči? Da li bi trebalo da uzroke prepoznamo u svom auto-destruktivnom ekonomskom sistemu? Da razvijemo nove modele vlasništva koje će nam omogućiti da taj sistem korigujemo? Pa… tekst se time do kraja uopšte ne bavi. Izveštaj kao da definiše ulogu "bezbednosnih" sistema kao očuvanje statusa kvo; samo treba "maksimalno iskoristiti šanse“ i "svesti rizike na minimum". Ovo praktično predstavlja pokušaj da se održi "multilateralni" svetski poredak kojim dominira ugovorima definisana saradnja između moćnih država. Ovaj sistem bi mogao zajednički da nađe rešenje za klimatske promene — zvuči lepo, kao da to nismo već pokušali Pariskim sporazumom – ali takođe bi mogao da prisilno ograniči broj imigranata iz zemalja Trećeg sveta. Što zvuči blago rečeno problematično.

Klimatske promene već jesu jedan od najvećih uzročnika migracija. Već vode ka politici sve strožijih granica između razvijenih i nerazvijenih država. Kad budu naišli najteži efekti, ostanak u izvesnim delovima sveta značiće sigurnu smrt. A šta će tada odlučiti naš odgovorni "multilateralni" svetski poredak? Da se izbeglim ljudima pruži utočište? Ne ako budemo nastavili da sledimo aktuelne trendove.

U tom kontekstu, zašto onda svet ulaže u robote-ubice? Odgovor se sam nameće: kako bi olakšali nasilno zatvaranje granica pred žrtvama klimatskih promena. Filozof Teodor Adoro u eseju pod naslovom "Obrazovanje posle Aušvica" kaže da je Holokaust bio moguć isključivo zato što se društvom upravljalo na hladno pragmatičan način. Počinioci su tada zatvarali oči pred stvarnim posledicama svojih dela, sakrivali se iza "vela tehnologije“" Bili su samo operateri jednog mehanizma, on je bio taj koji je ubijao druge ljude, nikako oni. "Ne prepuštati stvari osećanjima, strasti, i slučaju" lako bi moglo da znači više nasilja, a ne manje.

Pratite Toma Vajmana preko Tvitera.