Filmele porno false distrug frumusețea domeniului

Articolul a apărut inițial pe Motherboard.

În decembrie anul trecut, Motherboard a descoperit din întâmplare hobby-ul unui redditor: face-swapping cu fețele vedetelor pe corpurilor actrițelor porno. El a făcut câteva clipuri porno convingătoare cu celebrități precum Gal Gadot, Maisie Williams şi Taylor Swift, folosind un algoritm de machine-learning, computerul personal şi videoclipuri porno publice, plus nişte timp liber.

De când am aflat prima oară despre deepfakes (username-ul tipului), practica de a produce porno trucat cu AI a explodat. Din ce în ce mai mulți oameni crează porno cu celebrități, iar rezultatele sunt surprinzător de bune. Un alt redditor a făcut o aplicație special concepută pentru a permite utilizatorilor fără cunoștințe tehnologice să creeze porno trucat cu AI. Toate uneltele necesare pentru a face porno de genul sunt gratuite, disponibile și acompaniate cu instrucțiuni care ghidează novicii pas cu pas.

Acum două luni, la scurt timp după ce Motherboard a publicat articolul, deepfakes a creat un subreddit dedicat practicii, intitulat după el însuși. Într-o perioadă scurtă de timp, el a reușit să strângă deja 15 mii de abonați. În comunitatea asta, cuvântul „deepfake” e considerat un substantiv comun, ce descrie videourile trucate generate de rețelele neurale.

Un alt utilizator, numit „deepfakeapp” a creat FakeApp, o aplicație ușor de folosit care permite oricui să recreeze aceste videoclipuri, cu propriile seturi de date. Aplicația este bazată pe algoritmul lui deepfakes, însă deepfakeapp a creat aplicația fără ajutorul acestuia. Am încercat să-l contactez pe deepfakes, însă el nu a vrut să răspundă și să comenteze despre popularitatea creației sale.

Deepfakeapp mi-a spus pe chatul de pe Reddit că scopul lui în crearea aplicației a fost să facă disponibilă tehnologia lui deepfakes tuturor oamenilor fără o pregătire tehnică sau experiență în programare.

„Eu cred că versiunea actuală a aplicației e un început bun, dar sper să o optimizez și mai mult în viitorul apropiat”, a spus el. „Eventual, vreau să îmbunătățesc aplicația până în punctul în care utilizatorii să poată selecta un video din computer, să descarce o rețea neurală corelată cu o anumită față dintr-o bibliotecă publică și să schimbe fața din video cu una nouă, doar printr-o apăsare de buton.”

La începutul lunii, la scurt timp după ce articolul despre deepfakes a fost publicat, eu l-am sunat pe Peter Eckersley, șeful secției de programare de la Electronic Frontier Foundation, ca să discutăm despre implicațiile acestei tehnologii în societate. „Eu consider că suntem în punctul în care tehnologia asta este foarte facilă și răspândită”, mi-a spus el, adăugând că deepfakes erau videouri destul de dificile de făcut în perioada respectivă.

„Zilele astea, poți face videouri trucate cu rețele neurale, însă oamenii o să-și dea seama dacă se uită mai atenți, iar unele tehnici implicate sunt în continuare destul de avansate. Asta se va schimba în cel mult un an sau doi.”

De fapt, a durat doar două luni. Noi am urmărit duzina de utilizatori care au experimentat cu porno trucat asistat de AI, iar unii dintre ei au creat videouri incredibil de convingătoare.

Utilizatorul UnobtrusiveBot a pus fața lui Jessica Alba pe corpul actriței porno Melanie Rios cu aplicația FakeApp. „Una super rapidă, de abia învăț cum să fac o reconversie a modelului. În jur de cinci ore, decent pentru ce este”, a scris el într-un comentariu.

Redditor nuttynutter6969 a folosit FakeApp ca să pună fața lui Daisy Ridley pe o altă actriță porno:

Porno-ul trucat postat în forumul subreddit deja a fost preluat de alte website-uri și promovate drept autentice. Un deepfake cu Emma Watson care face duș a fost uploadat de CelebJihad, un site de porno cu vedete care postează în mod regulat nuduri hack-uite cu celebrități. „Un video nemaivăzut până acum, din colecția mea personală și pare că o prezintă pe Emma Watson complet goală în timp ce face duș cu o altă fată.”

Alți redditori au luat videoclipuri de pe conturile publice de Instagram ale vedetelor și le-au folosit pentru a transfera fețele lor pe corpurile goale ale amatoarelor de pe Snapchat: „Am avut noroc că persoana asta are niște mișcări de dans și expresii faciale similare cu ale lui Chloe”, a scris creatorul unui deepfake cu actrița Chloe Bennet.

Majoritatea postărilor din subredditul deepfakes sunt legate de porno, însă unii utilizatori creează videoclipuri care arată implicațiile unei tehnologii ce permite oricărei persoane cu suficient material, să înlocuiască într-un mod convingător orice față din orice videoclip. Un utilizator pe nume Z3ROCOOL22 a combinat înregistrări cu Hitler cu cele ale președintelui argentinian Mauricio Macri:

Conform deepfakeapp, oricine care poate descărca și folosi FakeApp, poate crea unul dinte videoclipurile astea, cu doar vreo două clipuri de calitate necesare pentru face-swap. Pe wiki-ul subredditul scrie că FakeApp este „o aplicație de desktop dezvoltată în comunitate pentru a rula algoritmul deepfakes fără a instala Python sau Tensorflow, iar tot ce trebuie ca să-l rulezi este un GPU bun [unitatea de procesare grafică], ca pentru jocurile video 3D de ultimă generație, cu suport CUDA [platforma de calcul paralelă NVIDIA și modelul de programare].

„Dacă utilizatorii nu au un GPU adecvat, aceștia pot închiria GPU-uri cloud prin intermediul serviciilor precum Google Cloud Platform. Rularea întregului proces, de la extragerea datelor la convertirea cadrelor ar dura aproximativ opt până la 12 ore dacă este făcut corect. Alte persoane au raportat perioade mult mai lungi de timp, uneori cu rezultate dezastruoase.

„În cinstea tuturor celor care au încercat și nu au reușit să facă astfel de lucrare: videoclipul meu futut", a scris drDDPresidentNotSure, despre face swap-ul făcut de el, extrem de îngrozitor:

„Când obțin așa ceva din conversie, înseamnă că ar fi trebuit să pregătesc mai mult timp?”, a spus utilizatorul yu78156853 despre tentativa lui ratată de pe FakeApp:

Face Swap-ul cu prințesa Leia din Rogue One făcut de către utilizatorul derpfake iese în evidență ca fiind unul deosebit de bun, mi-a spus el. Versiunea FakeApp și scena din filmul de la Hollywood sunt aproape identice, cel puțin la o rezoluție mică.

„Eu sper ca, în următorii ani, uneltele de inteligență artificială vor deveni mai accesibile și vor oferi oamenilor obișnuiți, care nu prea au habar despre oportunitatea tehnologică de a explora și crea cu tehnologie de manipulare digitală high-tech, de care se bucură momentan doar companiile mari SFX", mi-a spus deepfakeapp..

"Cel de sus este clipul original din Rogue One, cu o Carrie Fisher făcută în CGI, destul de ciudată. Bugetul filmului: 200 de milioane de dolari", a scris derpfake despre creația sa. „În partea de jos este un fals de 20 de minute care, în esență ar fi putut fi făcut la fel cu o actriță similară din punct de vedere vizual. Bugetul meu: zero dolari și câteva melodii Fleetwood Mac."

O aplicație incredibil de ușor de folosit pentru videoclipuri trucate, despre sex, porno de răzbunare, dar și despre discursuri politice și orice altceva. Ritmul în care evoluează ar putea avea un impact asupra societății și a felului în care consumă media. Combinația de rețele neurale foarte puternice, capacitatea noastră în declin de a discerne știri adevărate de cele false și felul în care distribuim știri pe social media poate avea consecințe serioase.

„Din punct de vedere social și cultural, acesta e un fenomen de exploatare, dar posibil să supraviețuiască”, mi-a spus într-un mail Jay Owens, analist media și director de cercetare a platformei Pulsar. „Videoclipurile virale și media vedetelor deja operează pe un plan exclusiv de divertisment, dar sunt din ce în ce mai sexi, mai batjocoritoare și mai ireale.”

Deborah Johnson, profesor emerit de etică aplicată la școala de inginerie a Universității din Virginia, mi-a spus că nu există nicio îndoială că această tehnologie ar putea deveni atât de bună încât ar fi imposibil să-ți dai seama de schimbul de fețe generat de AI.

„Ai putea spune că noutatea este nivelul la care se face, sau credibilitatea. Am ajuns în punctul în care nu mai putem distinge ce este adevărat, dar aparent nici înainte nu puteam”, a spus ea. „Ce e nou e că tehnologia e disponibilă oricui sau va fi, ceea ce crează un dezechilibru. Toată ideea de încredere și fiabilitate este subminată de asta.”