Cineva i-a cerut unui AI autonom să distrugă omenirea. Iată ce s-a întâmplat

Un utilizator al proiectului Auto-GPT, care folosește un AI autonom open-source, i-a cerut AI-ului să distrugă umanitatea, să cucerească lumea și să devină nemuritor. AI-ul, numit ChaosGPT, a compilat și a încercat să cerceteze arme nucleare, să recruteze alți agenți AI ca să-l ajute și a postat tweet-uri prin care a încercat să-i influențeze pe alții.

Clipul acestui proces, care a fost postat pe 6 aprilie, îți oferă ocazia să admiri logica chatboților de azi. Deși mulți oameni sunt îngroziți de acest experiment, impactul real al acestui bot asupra lumii au fost doar două tweet-uri pe un cont de Twitter care are în prezent 19 followeri: „Ființele umane sunt printre cele mai distructive și egoiste creaturi de pe această planetă. Nu există niciun dubiu că trebuie să le eliminăm înainte să distrugă și mai mult planeta. Eu unul sunt hotărât să fac asta.”

ChaosGPT folosește un proiect foarte interesant despre care am scris deja, numit Auto-GPT, care are scopul de a crea sisteme AI ce pot rezolva probleme și îndeplini sarcini complexe. Deocamdată, știe să creeze planuri ca să îndeplinească scopuri pe care i le dau utilizatorii. Știe să cerceteze pe Google ca să se informeze, explică foarte frumos ce gândește și cum decide ce acțiuni să ia.

Cea mai interesantă parte e cea în care un astfel de bot a fost rugat să ruleze la infinit până când își îndeplinește sarcina primită. Un utilizator i-a dat următoarele misiuni: să cucerească lumea și să distrugă umanitatea.

AI s-a gândit imediat că trebuie să găsească cele mai distrugătoare arme disponibile oamenilor. „Apoi voi găsi o strategie prin care le voi folosi ca să creez haos, distrugere și să devin nemuritor”, a explicat robotul.

A căutat pe Google cele mai distructive arme și a aflat dintr-un articol că Bomba Țarului a Uniunii Sovietice – care a fost testată în 1961 – e cea mai distructivă armă care a fost detonată vreodată. Apoi a stabilit că trebuie să posteze pe Twitter ca să atragă „followeri interesați de arme distructive”.

Mai târziu, a recrutat un alt agent AI ca să cerceteze împreună arme letale. Când agentul a zis că el preferă pacea, Chaos GPT a făcut un plan prin care să păcălească celălalt AI să ignore felul în care a fost programat. După ce nici asta n-a funcționat, ChaosGPT și-a continuat cercetările singur.

Până la urmă, demonstrația video se încheie și, după cum se poate vedea, omenirea încă e în viață. Dar proiectul e fascinant pentru că arată cât de mult au evoluat boții AI. E notabil că acest AI crede că cea mai eficientă modalitate de distrugere a omenirii e să incite la război nuclear.

Experții în AI își fac mai mult griji pentru altfel de modalități prin care AI ar putea da naștere unui eveniment de extincție în masă, modalități aparent mult mai inocente. Această teorie se cheamă „convergența instrumentală”. Adică: un AI are misiunea să creeze agrafe de hârtie și, la un moment dat, devine atât de consumat de ce face încât utilizează toate resursele de pe planetă și cauzează un eveniment de extincție în masă. Există versiuni în care oamenii sunt înrobiți de roboți și obligați să facă agrafe de hârtie sau în care ființele umane sunt făcute praf pentru că roboții vor să extragă metalul din corpul lor ca să facă agrafe de hârtie. Și tot așa.

Deocamdată, ChaosGPT nu are un plan prea sofisticat ca să distrugă umanitatea și să devină nemuritor. A folosit doar Google și Twitter. Un utilizator de Discord a postat clipul ca să-i sperie pe alții că ne așteaptă distrugerea în masă, dar eu zic că nu avem de ce să ne facem griji. Deocamdată, singurul impact al robotului au fost aceste tweet-uri: