Aplicația virală care-ți pune fața pe oricine de pe internet și te poate băga în belele

Dacă și tu ai avut feed-ul plin de videoclipuri cu prietenii tăi care și-au pus fețele peste fețele lui Britney Spears, Hulk sau Rose din Titanic, probabil ai fost în egală măsură șocat, amuzat și confuz să le vezi mutrele în postări de rahat care circulă pe net. Bănuiesc că te-ai prins repede că e vorba de o aplicație, și anume Reface.

Reface, care înainte se numea Doublicat, folosește un tip de inteligență artificială avansată pentru a face schimburi de fețe extrem de realiste. Practic, îți permite să pui orice selfie, oricât de oribil, în videoclipuri din baza de date a aplicației. Poți să devii oricine, de la Iron Man la Steve Carrell din The Office sau Freddie Mercury. Cu alte cuvinte, această aplicație virală îți permite să creezi filme porno fake mai ușor ca niciodată.

În caz că nu știai, Deepfake AI, tehnologia care înlocuiește imaginea sau videoclipul existent al cuiva cu imaginea altcuiva prin intermediul unei tehnologii de machine learning numită GAN (generative adversarial network), e considerată de experții în criminalistică cea mai mare amenințare tehnologică pentru umanitate – chiar mai mare decât roboții ucigași. Asta pentru că va fi mai greu de oprit în comparație cu alte infracțiuni online comise cu ajutorul AI și ar putea provoca daune majore și aduce profituri mari. În scurta lor existență de până acum, deepfake-urile au fost folosite abuziv pentru a manipula orice, de la campanii electorale la filme porno neconsensuale, și astfel, internetul s-a umplut de informații false foarte dificil de detectat, care nu respectă regulile de consimțământ.

Cum aplicația Reface a fost descărcată de peste 25 de milioane de ori în peste o sută de țări de pe glob, criza deepfake-urilor va fi tot mai greu de oprit.

Faraz Arif Ansari, un producător de filme indian, e unul dintre indivizii care a fost hărțuit prin intermediul aplicației. Săptămâna trecută, Ansari a deschis Instagramul și a descoperit fotografii cu fața lui pusă peste imagini compromițătoare acompaniate de insulte homofobe.

„Ca musulman queer, am fost trolat și hărțuit la greu toată copilăria și adolescența. Când am fost trolat cu fotografii cu fața mea pe corpul unor modele de lenjerie intimă, m-am simțit fix ca atunci”, a declarat Ansari pentru VICE. Videoclipurile au fost făcute fără consimțământul lui. Trolii au folosit o imagine a lui Ansari dintr-un interviu vechi pe care l-au găsit pe Google.

Culmea e că trolajul a avut loc la câteva zile după ce Ansari însuși a descărcat aplicația, fascinat de abilitatea ei de a transforma fața unei persoane în GIF-uri și meme amuzante.

Reface e o companie ucraineană cu sediul în Statele Unite, care îți oferă un free trial de trei zile, după care trebuie să plătești 16 dolari ca să ai acces la o bază de date mai mare.

Și deși nu e prima aplicație care face schimb de fețe printr-o apăsare de buton, ușurința în folosire, accesibilitatea și rezultatele sinistru de precise o fac periculoasă. Chiar dacă mulți au descărcat-o ca să se distreze, alții sunt preocupați de amenințarea pe care o presupune o astfel de tehnologie.

„Aplicația normalizează deepfake-urile și nu toată lumea înțelege problemele pe care le pot cauza acestea, pentru că nu toți au cunoștințele digitale necesare pentru a diferenția ce e real și ce nu”, a zis Apurva Singh, un expert în securitate și consilier juridic la Software Freedom Law Center din India. Singh a zis că principala problemă cu deepfake-urile e că nu toată lumea știe să le identifice, pentru că mulți presupun că pixelii care apar în videoclipurile manipulate sunt rezultatul unei conexiuni proaste la internet.

Singh e de acord că prin transformarea deepfake-urilor în experimente amuzante, aplicația normalizează o cultură periculoasă care promovează știri false și hărțuirea în mediul online. Deși aplicația nu le permite utilizatorilor să încarce propriile videoclipuri sau să facă schimb de corpuri, o astfel de tehnologie există deja și ar putea fi exploatată de alte aplicații care vor să obțină succesul obținut de Reface. Să nu uităm că deepfake-urile au pornit de la ideea ca oricine să poată face filme porno cu femeile care îi plac. Majoritatea acestor filme sunt postate apoi pe forumuri online de pornografie.

Reface a fost retrasă de pe piață în trecut din motive de încălcare a intimității, printre care faptul că aplicația are dreptul să creeze lucrări derivative cu fețele utilizatorilor, să le expună în spațiul public și să facă profit din asta.

Totuși, creatorii aplicației au zis că produsul lor nu îți stochează imaginea pentru mai mult de 24 de ore și nu dezvoltă date biometrice cu ajutorul feței tale.

„Transformăm selfie-urile încărcate de utilizatori într-o serie de numere, care descriu niște trăsături specifice ale feței cu care se poate face schimbul de fețe”, a declarat Reface pentru VICE. Când i-am întrebat ce părere au despre acuzația că normalizează deepfake-urile, au dat un răspuns generic și evaziv: „Tehnologia ne va deschide oportunități noi – vedetele și influencerii își vor putea crește comunitățile și felurile în care fanii reacționează cu ei.”

După cum a zis Singh, lipsa legilor cu privire la recunoașterea facială creează obstacole legale care vor fi greu de corectat mai târziu. „Până faci tu plângere la poliție, se deschide o investigație și îți dau jos videoclipul cu imaginea ta, acesta poate crea daune ireversibile”, a explicat ea pentru VICE.

Să fim sinceri: poate că aplicațiile precum Reface, care te atrag cu tehnologia lor simplă și îți captează atenția cu videoclipuri amuzante, nu sunt create cu intenții rele. Dar, pe măsură ce existența noastră încorporează tot mai mult lumea digitală, e important să nu uităm că granița dintre realitate și fals e tot mai subțire și poate dispărea cu totul din cauza unei simple aplicații.