Pe tine te sperie inteligența artificială?

Dacă Terminator nu te-a speriat suficient de tare, să știi că e din nou la modă să te temi de inteligența artificială și roboții care vor să ne facă baterii pentru ei sau pulbere pentru istorie. De la fizicianul Stephen Hawking la programatorul Bill Gates și Elon Musk (aka „Tony Stark fără tinichea"), mai marii vizionari ne avertizează că s-ar putea să nu mai avem prea multe generații de cultivat pe Pământ. Pentru România se poate să fie bine. Toate lucrurile ajung cu întârziere aici, iar dacă Apocalipsa chiar vine, fugim în Vaslui. Acolo, totul întârzie cu cel puțin 50-100 de ani.

Am discutat însă cu oameni care te-ar putea lămuri dacă e cazul să te panichezi, să pregătim armata de gameri antrenați seară de seară să bată inteligența artificială a boților de Counter-Strike. I-am întrebat pe doi oameni care pot privi subiectul cu pregătiri diferite. Cristian Ducu este expert în etică și lector la Universitatea din București şi SNSPA, și director al Centre for Advanced Research in Management and Applied Ethics. Marius Leordeanu este profesor conferențiar la Politehnică unde predă, pentru prima data în cadrul programului de Master în calculatoare, cursurile de vedere artificială (computer vision) și robotică.

Dacă deja te simți prost că trăiești în aceeași eră cu inteligența artificială, să știi că nu mai e cale de întors. Și mai trebuie să știi, totuși, că roboții nu vor ajunge să își încalce menirea lor decât dacă apare o eroare în sistem. Ghinion, cum ar veni! „U n om nu se sinucide decât când are o problemă în sistem, deci asta s-ar traduce în bug pentru computere", afirmă Cristian Ducu.

Marius Leordeanu spune că ne temem de roboți inteligenți pentru că sunt diferiți de noi și imprevizibili. „Nu m-aș speria dacă un sistem inteligent ar sări la bătaie mai mult decât m-aș speria de un necunoscut întâlnit pe stradă care vrea să facă același lucru. Să nu uităm că oamenii sunt plini de surprize, niciodată previzibili, și, totuși, în toată această incertitudine puțin mai multă credință în bine nu ne strică", afirmă Marius. „De fiecare dată când apare o tehnologie nouă, puterea oamenilor crește. Odată cu puterea, crește și posibilitatea de a face rău sau bine", completează el.

Le-am pus celor doi aproximativ aceleași întrebări ca să văd cum ne vom împărți în viitorul în care roboții ar putea fi prietenoși ca Chappie sau malefici ca Hal. Nu știu ce facem cu oamenii, dar poate vor găsi noii noștri stăpâni cibernetici o utilitate pentru ei.

Era popular într-o vreme bancul: Dacă vine sfârșitul lumii, fugim în Vaslui, că ei sunt cu 50 de ani în urmă. Dacă vine inteligența artificială, unde fugim?
Cristian Ducu: Mai în glumă, mai în serios, s-ar putea mai degrabă ca hackerii de la Vaslui să pună mână de la mână şi să-şi îmbunătăţească cu medicamente propriului creier (cognitive enhancement) decât să dezvolte un supercomputer capabil să înveţe greaca veche şi să spună glume în acea limbă. Atunci, să vezi în ce grotă te ascunzi. Din fericire sau din nefericire, decalajul tehnologic dintre Europa de Est şi lumea care contează în domeniul AI (n.red.: inteligență artificială) nu este de doar 50 de ani, ci de vreo 500.

Oricât de mulţi programatori buni am avea, oricât de mulţi automatişti ar lucra în domeniul automatizărilor industriale, suntem în continuare departe de ce se dezvoltă în Japonia, Statele Unite ale Americii sau China. Dar, în acelaşi timp, şi cei care fac cercetare în ţările amintite sunt la aceeaşi distanţă depărtare de Ava din filmul „Ex machina" sau de creierul pozitronic al lui Data din „Star Trek". În China, de exemplu, se investesc miliarde de euro în cercetare. Ei şi-au dezvoltat o infrastructură, tehnologii, laboratoare şi şi-au instruit oameni strict în zona de AI. Japonia investeşte în cibernetică, robotică şi inteligenţă artificială de vreo 60 de ani. Noi nici măcar nu am început. De fapt, noi nici nu ne-am gândit la asta.

Marius Leordeanu: Bineînțeles că nu avem cum să știm în mod cert ce se va întâmpla. Să nu uităm însă că avem deja de-a face cu entități inteligente. Acestea sunt care mai de care mai surprinzătoare și interesante, unele mai libere, unele mai bune sau mai inteligente decât altele. Acestea suntem noi oamenii. Ei bine, fugim la Vaslui să ne ascundem de noi înșine? Ne-am aduna cu toții acolo și probabil am râde unii de alții.

Cum ar trebui să privim inteligența artificială? Să fie un roboțel drăgălaș sau un zeu atotprezent?
C.D.: În primul rând, astăzi, percepţia noastră cu privire la inteligenţa artificială este foarte mult influenţată de filmele SF cu roboţi. Dacă întrebi un puşti la ce se gândeşte în primă instanţă dacă aude „AI", răspunsul va fi de genul „robotul din filmul cu Will Smith" (n.red.: filmul „Eu, robotul", 2004), „copilul-robot" din filmul lui Spielberg (n.red.: filmul „Inteligență artificială", 2001) sau Schwarzenegger în seria „Terminator". Toţi au o înfăţişare umanoidă sau aproape umanoidă.

Pentru cei de peste 40 ani, însă, denumirea „inteligenţă artificială" trimite mai degrabă la H.A.L. 9000 din filmul lui Stanley Kubrik „2001: O odisee spaţială", adică nişte programe de calculator care dirijează procese externe şi care observă comportamentul uman şi îşi modifică tipul de interacţionare maşină-om în funcţie de asta. În ambele situaţii, inteligenţa artificială ne apare ca ceva care ne poate pune în pericol viaţa sau care ne poate pune în dificultate dacă nu avem grijă cum o guvernăm. „Inteligenţa artificială" nu este căţeluşul drăgălaş de pe raftul din magazinul de jucării, care dă din coadă şi răspunde când îl chemi.

M.L.: Nu cred prea mult în termenul „inteligență artificială", dar cred în ideea de inteligență. Încă nu știm ce este, dar este un fenomen de care este capabilă materia. La fel, nu cred nici în zbor artificial. Zborul e zbor, fie el al păsărilor sau al avioanelor. Inteligența e un alt fel de zbor, mai profund, mai subtil, mai înalt și mult mai greu de atins. Studiind-o și încercând să creăm mașini care să gândească vom ajunge să ne cunoaștem mai bine. Nimic nu ne oprește să folosim calculatorul pentru a învăța, explora și crea. Ce unealtă ar putea fi mai potrivită pentru acest lucru decât un calculator sau un robot inteligent? Cum ar fi să ne explorăm propria inteligență prin intermediul unui program inteligent?

Inteligența ar trebui privită ca pe o călătorie spre lumi noi, aflate la un nivel mai înalt de abstracție și înțelegere. Dacă ar fi să tragem linie și să facem o estimare, mai multă inteligență, până la urmă, nu are cum să strice, fie ea umană sau artificială.

În majoritatea scenariilor de film, inteligența artificială e creată de om, controlată de câțiva oameni, iar ea ajunge să distrugă toată omenirea. E răutatea, natura distructivă a omului, singura trăsătură care mereu ne fascinează și credem că până și roboții (algoritmii) o vor prelua?
C.D.: Natura distructivă a omului presupune înţelegerea distincţiei dintre bine şi rău, înseamnă prezenţa unei „busole morale", a unei minime conştiinţe morale. Dacă AI va prelua ceva, o va prelua strict ca modalitate de decizie logică, fără nicio legătură cu moralitatea. Problema, aş insista eu, depinde mai degrabă de noi, de cum reuşim să integrăm în algoritm acele „precepte morale" pe care le vedem prin filme.

M.L.: Nu cred că răutatea e o trăsătură care ne fascinează. Cred însă că e o trăsătură care mai tot timpul ne sperie și când frica pune stăpânire pe noi, judecata îngheață. Frica are o capacitate incredibilă de a ne prosti. Din păcate, neocortexul nu a ajuns încă să se fortifice împotriva ei, chiar dacă este mult mai inteligent și mai puternic. Pentru neocortex, frica e o sursă permanentă de monștri, cataclisme și coșmaruri. Lupta cu frica trebuie educată și, de cele mai multe ori, autoeducată. O strategie bună e să începem să ne închipuim frica drept mică și proastă.

Până la urmă, nici nu am fi departe de adevăr: frica e controlată de amigdală, o formațiune subcorticală din creier, de mărimea unei migdale, având câteva milioane de neuroni, spre deosebire de neocortex care are în jur de 30-40 de miliarde. Dacă o vedem așa cum e de fapt, atunci începem să vedem mai clar lucrurile. În acest caz, sistemele inteligente ar putea să ne schimbe viață în bine, pornind de la îmbunătățirea modului de comunicare, până la îmbunătățirea serviciilor medicale, de transport, a capacității de a construi și de a crea.

Bill Gates, Elon Musk, chiar și Stephen Hawking au spus ori că se tem de inteligența artificială ori că ar trebui s-o tratăm cu grijă. De ce?
C.D.: Omul se teme de propriile lui limite și cu cât le conștientizează, cu atât îl distrug mai mult. Faptul că ne temem de modul cum ne va influenţa viaţa inteligenţa artificială nu vine doar pe fondul filmelor pe care le-am văzut, care, fie vorba între noi, sunt aproape toate despre apocalipsa roboţilor. Nu, există şi elemente care ţin de realitate, nu de percepţii, care stau la baza acestor temeri. De exemplu, AI rezolvă probleme de matematică sau de altă natură mult mai uşor decât o putem face noi fără ajutorul ei. Există unele contexte unde chiar nu putem face faţă, noi, oamenii, fără ajutorul inteligenţei artificiale. Un astfel de context este cel care presupune calcule complexe.

Iar limitările noastre ne determină să fim precauţi. Ce ne-am face dacă o AI ar prelua controlul traficului aerian fără ca noi să putem interveni? Ce ar alege o astfel de AI într-o situaţie limită în care poate salva un avion cu 200 de pasageri sau un avion doar cu echipaj şi ajutoare umanitare pentru 200.000 de sinistraţi? Cel puţin din cercetările şi aplicaţiile de până acum, o AI nu ar putea fi dotată cu morală. Nimeni nu a reuşit să dezvolte algoritmi atât de superiori, încât să reproducă această formă de judecată specific umană.

Poţi să-ţi imaginezi şi o situaţie mai simplă: cea în care un robot dotat cu inteligenţă artificială ar putea să suporte temperaturi de peste 60 Celsius, ceea ce pentru om este imposibil fără protecţie specială. Evident că o astfel de situaţie naşte în noi întrebarea cu privire la propria noastră finitudine şi, prin extensie, ne face să ne complexăm în raport cu AI de lângă noi. Este evident că orice interacţiune cu AI va fi sub impulsul emoţiilor puternice de respingere a propriei finitudini.

M.L.: Sunt de acord că un sistem inteligent trebuie construit și tratat cu grijă, la fel cum orice ființă sau lucru trebuie tratate așa. Nu văd în asta o problemă și nu înțeleg exact de ce grija ar fi ceva negativ. Eu zic să mergem mai departe cu speranță, sunt convins că așa ne vom spori șansele ca totul să fie cât mai bine.

Cum se va împăca inteligența artificială cu religia?
C.D.: Cred că va exista o prăpastie și o luptă directă între curentele religioase și cei care dezvoltă tehnologie. Prăpastia aceasta se adâncește și pe fondul unei crize la nivelul educației, căci sunt din ce în ce mai mulți oameni care nu beneficiază de educație pe măsură ce populația globală crește. Și oamenii când n-au educație reacționează la credințe simple și acționează pe baza acestora. Nu văd o conciliere între religie și știință - tehnologie, cum n-a fost posibilă încă între religie și rațiune. A se vedea și „conflictul" din România pe cardul de sănătate. Sunt foarte mulți oameni care îl cred unealta diavolului doar pentru că invers, cuvântul „card" se citește „drac". Așa e și cu numărul 666 și cu multe alte credințe. Dacă te chinui suficient, vezi diavoli și zei în orice.

M.L.: Ele se vor împăca foarte bine, cred eu. Mai greu ne va fi nouă oamenilor să ne împăcăm cu ideea. Dacă aș încerca o previziune, aș spune că inteligența artificială ne va arată până la urmă ceea ce știm deja, și anume că toate înțelepciunile și marile religii spun pe fond, același lucru, însă sub forme diferite. Avem nevoie de mai multă speranță și mai puțină frică, de mai multă iubire și înțelegere între noi și față de mediul înconjurător. Avem nevoie de mai puțin egoism și mai multă modestie și respect față de lumea din care facem parte cu toții, natură, oameni și mașini.

Vrei să-ți mai bați capul cu inteligență artificială?
Facebook construiește un creier artificial inteligent cu ajutorul informațiilor tale Extratereștrii sunt cel mai probabil roboți superinteligenți, care ocupă deja mare parte din univers 150 de lucruri de care se tem cei mai deştepţi oameni din lume