Koliko treba da nas brinu lažni snimci Toma Kruza?

Ispalo je da iza TikTok dipfejk videa zbog koji je ceo internet upao u frku stoji ekipa ozbiljnih profesionalca
4.3.21
​Images of a deepfake of Tom Cruise that were posted to TikTok by the account @deeptomcruise
Fotografije deepfake snimaka Tom Kruza objavljenih na profilu @deeptomcruise (TikTok)

Video snimci Toma Kruza kako izvodi mađioničarski trik i igra golf izgleda da zaista predstavljaju pretnju po globalnu demokratiju. Ili je makar takva reakcija mase na deepfake snimke ove holivudske zvezde koji su se pojavili na TikToku prošle nedelje.

Deepfake video obično znači da je nečije lice namontirano na tuđe telo u snimku, što se postiže korišćenjem veštačke inteligencije poznate kao “generative adversarial network” kako bi se facijalni pokreti mete uskladili sa pokretima novog lica.

Reklame

Ovi uverljivi, ali očigledno fejk video snimci često su u javnosti predstavljani kao pretnja po društvo, zbog toga što ova tehnologija sada stvara takav kvalitet snimaka da prosečan korisnik nije u stanju da shvati da je u pitanju dezinformacija, lažni snimak.

Osim, naravno, ukoliko to nije slučaj.

Ovi video snimci Toma Kruza, okačeni na @deeptomcruise nalog na mreži TikTok, pregledani su više od jedanaest miliona puta na ovoj aplikaciji i još puno puta na drugim platformama. Iznenada su izbrisani sa TikTok-a, nedugo nakon što je VICE News kontaktirao ljude koji su ih stvorili.

Od kad su ovi video snimci postali viralni, Tom Kruz je otvorio verifikovan TikTok nalog, do sada ništa nije okačio i ima samo 17,700 pratilaca — u poređenju sa 384,000 pratilaca koje ima profil @deeptomcruise.

Video snimci na profilu @deeptomcruise prikazuju lažnog Kruza kako igra golf, kako se sapliće dok priča priču o sovjetskom lideru Mihailu Gorbačovu, ali i kako izvodi mađioničarski trik sa novičićem.

“Sada ću vam pokazati malo magije… U pitanju je prava magija”, kaže lažni Kruz. “Sve je stvarno.”

Nije upitno da li su ovi video snimci zaista dobri. Skenirani su od strane nekoliko najboljih javno dostupnih alatki za prepoznavanje deepfake snimaka i nijedan ih nije okarakterisao kao takve. To je mnoge dovelo do tvrdnje da je sofisticiranost ovih snimaka stigla do tog nivoa da će društvene mreže uskoro biti preplavljene sličnim sadržajem.

Reklame

Ipak, to verovatno nije tačno, uzevši u obzir količinu vremena i novca potrebnih da bi se stvorili ovakvi snimci.

Oni su delo belgijskog vizuelnog umetnika koji se bavi vizuelnim efektima po imenu Kris Ume, koji je deo grupe poznate kao Deep Voodoo Studio, što je tim na svetskom nivou najboljih deepfake umetnika koji su okupljeni od strane stvaralaca TV serije “South Park,” Treja Parkera i Meta Stouna. Ovaj tim je sarađivao sa engleskim glumcem Peterom Serafinovicem na produkciji jutjub šoua pod nazivom“Sassy Justice” prošle godine, gde su nekoliko puta puštani deepfake snimci poznatih ličnosti i političara.

Ovi TikTok video snimci nisu delo samo Umeovog tima, već su i proizvod saradnje sa Majlsom Fišerom, koji je već poznat kao dvojnik Toma Kruza koji je 2019. godine objavio viralni video u kome Kruz navodno objavljuje da će se kandidovati na izborima 2020.

Ume i Fišer sarađivali su ranije ove godine na snimku koji je nastavak ove priče, u kome je Kruz priznao poraz na izborima. Ume je potpisan na ovom video snimku na Jutjubu kao deepfake umetnik.

Ume je takođe govorio o izuzetno kompleksnim tehnikama potrebnim kako bi se napravili prethodni deepfake snimci.

Dakle, iako ovi TikTok snimci nekima možda izgledaju kao da su napravljeni za nekoliko minuta, puno vremena, tehnička ekspertiza, kao i pravi glumac neophodni su kako bi ovi snimci izgledali ovako.

Reklame

I umesto što služe kao prediktor mračne budućnosti u kojoj će mase biti dezinformisane, oni treba da nam budu primer šta sve može biti učinjeno uz dovoljno vremena i resursa.

“Problem sa narativom oko ovih snimaka je što se previđa da ove snimke nije lako napraviti”, kaže za VICE News Sem Gregori, programski direktor pri neprofitnoj organizaciji Witness, koja se bavi ljudskim pravima. “U pitanju su odlični deepfake snimci, napravljeni sa puno truda i sa imitatorom. Nije istina da smo okruženi deepfake snimcima. Živimo u svetu gde ima previše polulažnih snimaka - jednostavnih, bez konteksta, ili editovanih snimaka.”

Deepfake tehnologija hajpovana je kao velika pretnja u toku prethodnih nekoliko godina. U junu 2019, eksperti su upozoravali da bi ovakvi snimci mogli ugroziti prošlogodišnje predsedničke izbore u SAD. Čak je i Mark Cukerberg rekao Kongresu da je deepfake tehnologija “sve veća pretnja”.

Ovakva upozorenja ispostavilo se da su bila nepotrebna. Ipak, sada ona autoritarnim režimima daju izgovor da ne uzmu u obzir legitimne dokaze, time što ih ocene kao lažne snimke.

“Kompletna retorika koja se formira oko izjave da više ne možemo verovati ni sopstvenim očima ide u korist autoritarnim vlastima i teoretičarima zavere koji će ovo koristiti kako bi opovrgli prave snimke”, kaže Gregori.

Ipak, skoro je jedan snimak treninga postlan, kada je slučajno usnimio i vojni puč u Mjanmaru. Iako je ovaj snimak bio pravi, mnogi amateri istraživači na internetu otpisali su ga kao da je lažni. A kada je predsednik Donald Tramp priznao poraz, mnogi QAnon teoretičari zavere takođe su u nezadovoljstvu govorili da je i on deepfake.