Google a pus două inteligențe artificiale să se bată între ele și s-a lăsat cu trădare și mozol

Când calculatoarele sunt lăsate să-și facă de cap, lucrurile o pot lua razna. Să luăm, de exemplu, conversația halucinantă a doi roboți Google Home sau crash-ul din Bursă care a avut loc în 2010 din cauza unor algoritmi care s-au sabotat între ei.

Dar ce s-ar întâmpla dacă am pune doi roboți să se bată între ei într-o arenă?

Echipa Google DeepMind a făcut asta într-un blog publicat joi și în studiul însoțitor. În experiment, inginerii Google și-au plasat algoritmii în jocuri care seamănă cu dilema clasică a prizonierului: oare doi jucători, fără să știe de intențiile celorlalți, hotărăsc să coopereze sau să se trădeze unul pe altul pentru un rezultat individual mai profitabil?

În primul joc, roboții trebuiau să adune mere de pe jos ca să câștige o recompensă. Puteau coopera, sau unul dintre jucători îl putea împușca pe celălalt ca să adune el mai multe mere. Al doilea joc a fost similar, dar mai complex. Mai mulți roboți trebuiau să alerge în haită ca să prindă o țintă, Puteau lucra împreună, sau unul putea să-i sacrifice pe ceilalți și să meargă singur după țintă.

S-a dovedit că decizia roboților de a coopera sau de a se trăda între ei depindea de puterea lor. Practic, dacă trădarea era opțiunea mai puțin complicată, robotul îl distrugea pe celălalt jucător. Dacă era mai ușor să coopereze, robotul colabora cu celălalt. Cu cât era mai puternic robotul, cu atât tindea să coopereze în jocul în care cooperarea era opțiunea mai complexă, și la fel și în cazul trădării.

Asta a însemnat că algoritmii mai puternici care s-au jucat jocul cu merele au împușcat mai des un alt jucător, pentru că era opțiunea mai complexă computațional. La jocul cu haita, mai mulți roboți puternici au ales să lucreze împreună în loc să aleagă opțiunea mai ușoară de a vâna singuri și de a doborî prada prin trădarea celorlalți jucători.

Echipa DeepMind a concluzionat că această dezvăluire îi va ajuta să organizeze experimente viitoare ca să înțeleagă cum funcționează inteligențele artificiale (IA) împreună.

Dar ridică și o întrebare care ar fi trebuit să fie evidentă până acum. Calculatoarele care au un design pentru conservarea resurselor, vor face întotdeauna asta. Oare ar fi înțelept să le cerem calculatoarelor, care folosesc electricitate și sunt produse din resurse neregenerabile, să fie ineficiente?

Poate că asta nu e o problemă când doar încerci să te loghezi pe site-ul preferat, dar dacă în viitor, IA vor juca roluri importante în bursă sau avocatură sau în asigurări, cred că-ți poți imagina cum va avea omul de pierdut în această situație.

Urmărește VICE pe Facebook .

Traducere: Oana Maria Zaharia