È uscito un deepfake inquietantissimo di Mark Zuckerberg e ora è un casino

Due artisti e un'azienda pubblicitaria hanno creato un deepfake del fondatore di Facebook Mark Zuckerberg — facendogli dire cose che non ha mai detto — e lo hanno caricato su Instagram.

Il video, creato da Bill Posters e Daniel Howe in collaborazione con l'azienda pubblicitaria Canny, mostra Mark Zuckerberg seduto a una scrivania, mentre fa un monologo inquietante sul potere di Facebook. In sovrimpressione al video, c'è una scritta che replica lo stile di un telegiornale americano che recita "Stiamo migliorando la trasparenza sulle inserzioni pubblicitarie," come se il tutto fosse effettivamente parte di un servizio da notiziario.

"Immaginate per un secondo: un uomo con il controllo completo dei dati rubati di miliardi di persone, tutti i loro segreti, le loro vite, il loro futuro," dice il clone di Zuckerberg nel video. "Devo tutto a Spectre. Spectre mi ha mostrato che chiunque controlla i dati, controlla il futuro."

Il video originale risale al settembre 2017 ed è un discorso di Zuckerberg in merito alle interferenze della Russia nelle elezioni USA e al ruolo di Facebook nella faccenda. La descrizione del post su Instagram spiega che il video è stato creato usando la tecnologia di sostituzione dei dialoghi in video (VDR) di CannyAI.

Questo deepfake di Zuckerberg è uno tra tanti realizzati da Canny insieme a Posters — ce ne sono anche uno di Kim Kardashian e uno di Donald Trump, per esempio —, nel contesto di Spectre, una mostra che ha avuto luogo durante lo Sheffield Doc Fest nel Regno Unito.

"Tratteremo questo contenuto nello stesso modo in cui trattiamo ogni episodio di disinformazione su Instagram," ha detto un portavoce di Instagram a Motherboard. "Se i fact-checkers esterni lo segnalano come falso, lo filtreremo dai sistemi di consigliati di Instagram come Esplora e le pagine hashtag."

A seguito della diffusione virale di un video manipolato che ritrae la politica americana Nancy Pelosi, Facebook è stato costretto a prendere una posizione su se sia legittimo o no che immagini alterate possano restare sul sito. Anziché cancellare il video, l'azienda ha scelto di togliergli priorità, così da farlo apparire meno spesso nel feed degli utenti, e aggiunto informazioni provenienti da fact-checker esterni.

Al tempo, Neil Potts, direttore delle politiche pubbliche di Facebook, ha detto che se qualcuno avesse postato un video manipolato di Zuckerberg simile a quello di Nancy Pelosi, sarebbe rimasto online. Ora che esiste davvero un deepfake dove Zuckerberg ammette di avere il controllo totale dei dati sottratti a miliardi di persone e di essere pronto a controllare il futuro, e si trova su Instagram, piattaforma di proprietà di Facebook, la dichiarazione di Potts verrà messa alla prova.

I fondatori di Canny, Omer Ben-Ami e Jonathan Heimann, hanno detto al blog FXGuide che il loro lavoro deriva da algoritmi sviluppati dai ricercatori dell'Università di Washington, che hanno trasformato delle clip audio di persone che parlano in video realistici di persone modellate per far sì che sembrino dire proprio quelle parole. I ricercatori della UW hanno dimostrato la tecnica, ai tempi, usando la faccia di Barack Obama. Hanno detto di essersi anche ispirati al programma Face2Face di Stanford, che permette una ricostruzione del volto in tempo reale.

Ben-Ami ha spiegato a Motherboard che pre creare i video finti, Canny ha usato un algoritmo di intelligenza artificiale di loro proprietà, allenato su scene da 20-45 secondi di un determinato volto, per 12-24 ore. Non sembra molto, ma abbiamo già visto come i deepfake possono essere generati anche soltanto da una foto in primo piano.

Per il deepfake di Zuckerberg, gli ingegneri di Canny hanno deliberatamente tagliato un segmento da 21 secondi dal video originale che durava sette minuti, e hanno allenato l'algoritmo su quella clip, oltre a una serie di video del doppiatore che parla e ricostruito i frame nel video di Zuckerberg per farli combaciare con i movimenti del volto dell'attore.

Il risultato è piuttosto realistico—se lasciate in muto. La voce sovrapposta al video è chiaramente diversa da quella di Zuckerberg ed è palese che sia qualcuno che cerca di imitarlo. Ma la persona nel video sbatte gli occhi, si muove e gesticola esattamente come farebbe Zuckerberg.

Ben-Ami ha detto che per Canny questa è tanto un'opportunità per educare il pubblico sull'uso della IA oggi, ma anche per immaginare cosa verrà dopo. "Il vero potenziale che vediamo per questa tecnologia è l'abilità di creare un modello realistico di un essere umano," ha detto. "Per noi si tratta del vero passo successivo verso un'evoluzione digitale, in cui, prima o poi, ognuno di noi avrà una copia digitale, un essere umano Universale ed Eterno. Questo cambierà il modo in cui condividiamo e raccontiamo le storie, ricordiamo i nostri cari e creiamo contenuti."

Questo articolo è apparso originariamente su VICE US.