De acum încolo poți pune fața oricui peste vedetele din filme porno

Articolul ăsta a apărut inițial în VICE SUA.

Există un video pe Internet cu Gal Gadot care face sex cu fratele ei. Dar nu este cu adevărat corpul lui Gadot, abia dacă e fața ei acolo. Este o aproximare, un face swap ca să pară că face sex cu adevărat în acel clip porno incestuos.

Videoul a fost creat cu ajutorul unui algoritm de machine learning și au fost folosite doar resurse ușor de accesat și cod open-source. Oricine are o înțelegere rudimentară a algoritmilor deep learning poate face un astfel de clip.

Nu o să păcălească pe nimeni care se uită mai cu atenție. Câteodată fața nu se mulează corespunzător şi parcă apar valuri, dar la prima vedere pare credibil. Este uimitor mai ales că vorbim despre munca unei singure persoane, un utilizator Reddit care foloseşte pseudonimul „deepfakes”, și nu un studio de efecte speciale care poate recrea digital cu ajutorul CGI o Prințesă Leia tânără în Rogue One. În schimb, deepfakes foloseşte unelte de învățare precum TensorFlow, pe care Google îl pune la dispoziție cercetătorilor, doctoranzilor şi oricui interesat de machine learning.

Așa cum unealta Adobe îi poate face pe oameni să spună orice, iar algoritmul Face2Face poate înlocui fața dintr-un video înregistrat prin urmărirea ei în timp real, acest nou tip de pornografie falsă arată că suntem pe punctul de a trăi într-o lume în care genul ăsta de videouri vor fi extrem de ușor de creat. Clipuri cu oameni care nu au zis sau făcut niciodată lucrurile alea. Sau care să fi făcut sex.

Până acum, deepfakes a postat pe Reddit clipuri porno hardcore cu fețele lui Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza și Gal Gadot. I-am informat despre aceste clipuri false pe managerii și/sau agenții de presă care îi reprezintă și voi reveni cu actualizări în cazul în care voi primi un răspuns.

Falsurile porno cu celebrități, în care imaginile sunt photoshopate ca să pară că sunt într-adevăr ele cele care pozează nud, este o categorie porno veche de ani de zile care are deja o rețea de fani înfocați. Oamenii care comentează în subreddit-ul în care postează deepfakes sunt mari fani ai muncii sale. Asta este cea mai nouă tehnologie în cadrul acestui gen porno.

Conform declarației lui deepfakes, care a refuzat să-și facă publică identitatea pentru a se feri de ochii publicului, software-ul are la bază mai multe librării opensource, precum Keras cu backend TensorFlow. Pentru a pune laolaltă fețele celebrităților, deepfakes a spus că a folosit Google Image Search, poze stock și videouri Youtube. Deep learning constă în rețele de noduri interconectate care rulează automat calcule asupra datelor de intrare. În acest caz, au instruit algoritmul pe videouri porno și pe fața lui Gal Gadot. După suficient „instructaj”, nodurile s-au așezat singure pentru a completa o sarcină anume, precum manipularea într-un mod convingător şi rapid.

Cercetătorul în inteligență artificială Alex Champandard mi-a spus într-un mail că o placă video decentă, neprofesională, ar putea procesa acest efect în câteva ore, dar la fel de bine poate fi realizat și cu o unitate centrală de procesare, doar că ar dura mai mult, poate zile întregi.

„Nu mai este așa mare brânză”, a spus Champandard.

Ușurința cu care poți face asta este înfricoșătoare. În afară de provocarea tehnică, nu ai nevoie decât de imagini cu fața ta, în contextul în care mulți creăm deja baze de date extinse cu fețele noastre. În perioada 2015-2016, 24 de miliarde de selfie-uri au fost încărcate în Google Photos. Nu este dificil să-ți imaginezi un programator amator care și-ar rula propriul algoritm ca să creeze un clip porno pe care să-l folosească ca să hărțuiască pe cineva.

Deepfakes mi-a spus că nu este un cercetător, ci doar un programator interesat de machine learning.
„Am găsit doar o metodă inteligentă de a face swap”, a spus el când s-a referit la algoritmul lui. „Cu ajutorul sutelor de portrete, pot genera milioane de imagini deformate pentru a-i putea oferi rețelei material de învățare”, a spus el. „Dacă după asta încarc fața altcuiva, rețeaua va crede că este o altă imagine deformată și o face să arate ca fața din materialul de învățare”.

Într-un thread pe Reddit, deepfakes a menționat că a folosit un algoritm similar cu cel dezvoltat de cercetătorii Nvidia care folosește deep learning, de exemplu, pentru a transforma instantaneu un peisaj de vară într-unul de iarnă. Cercetătorii Nvidia care au dezvoltat algoritmul au refuzat să comenteze asupra acestei posibile întrebuințări.

În aproape toate exemplele pe care le-a postat deepfakes, rezultatul nu este perfect. În videoul cu Gadot, la un moment dat apare un pătrat în zonele în care iese de fapt imaginea reală, iar cuvintele nu se sincronizează cu gura și ochii ei. Dar dacă închizi ochii pe jumătate și uiți pentru o clipă ce se întâmplă, ar putea la fel de bine să fie Gadot. Deepfakes a făcut clipuri mult mai convingătoare.
Actrița porno Grace Evangeline mi-a spus printr-un mesaj privat pe Twitter că starurile porno sunt obișnuite ca munca lor să fie distribuită fără permisiunea lor pe site-uri cu acces gratuit precum SendVid, unde a fost încărcat fake-ul Gal Gadot. Dar ea a spus că asta a fost diferit. N-a mai văzut așa ceva până acum.

„Un lucru important de care este mereu nevoie este consimțământul”, a spus Evangeline. „Atât consimțământul în viața privată, cât și cel pentru un clip. Crearea unor scene false de sex cu celebrități îi privează de consimțământ. Este greșit”.

Chiar și pentru aceia a căror viață se rezumă la apariția în fața camerei, violarea vieții private este îngrijorătoare. I-am arătat clipul cu Gadot Aliei Janine, o fostă actriță porno care a fost în industria sexului timp de 15 ani. „Este tulburător”, mi-a spus la telefon. „Demonstrează într-un fel că unii bărbați privesc femeile doar ca pe niște obiecte pe care le pot manevra și forța să facă orice vor… Arată o lipsă completă de respect pentru actorii și actrițele porno din film.”

L-am întrebat pe deepfakes dacă a luat în calcul implicațiile etice ale acestei tehnologii. I-au venit în minte concepte precum consimțământul, revenge porno și șantajul atunci când dezvolta acest algoritm?
„Orice tehnologie poate fi folosită în scopuri rele și este imposibil să oprești asta”, a spus el, făcând o legătură cu aceeași tehnologie care a fost folosită pentru a-l readuce pe Paul Walker la viață în Furious 7. „Diferența principală este cât de ușor e s-o faci. Nu cred că e o chestie rea ca oamenii obișnuiți să înceapă să exploreze machine learning.”

Din punct de vedere etic, implicațiile sunt „uriașe”, a spus Champandard. Folosirea tehnologiei în moduri nocive nu poate fi evitată, dar poate fi contracarată.

„Trebuie să avem o dezbatere puternică și publică”, a spus el. „Toată lumea trebuie să știe cât de ușor este să falsifici imagini și videouri, până în punctul în care vom ajunge în câteva luni să nu mai putem deosebi falsurile de realitate. Desigur, acest lucru era deja posibil de multă vreme, dar erau necesare o grămadă de resurse și profesioniști în efecte vizuale. Acum poate fi făcut de un singur programator cu un hardware recent.”

Champandard a spus că cercetătorii pot începe dezvoltarea tehnologiei necesare pentru detectarea videourilor false, iar ar fi necesară o politică a internetului pentru a reglementa ce va se întâmpla cu aceste tipuri de falsuri și hărțuiri atunci când vor apărea.

„Într-un mod ciudat, ăsta-i un lucru bun”, a spus Champandard. „Trebuie să ne concentrăm atenția pe transformarea societății ca să putem face față lucrurilor de genul ăsta”.