Advertentie
Tech by VICE

In deze IDFA-installatie zie je hoe de eerste maanlanding óók had kunnen aflopen

Aan de hand van een gesimuleerde speech van Richard Nixon laten de makers het gevaar van deepfakes zien.

door DJ Pangburn
28 november 2019, 12:27pm

Screenshot via 'In Event of Moon Disaster'

In afwachting van de maanlanding in 1969, bereidde de Amerikaanse journalist en speechschrijver William Sapphire een toespraak voor president Richard Nixon voor – voor het geval dat de ruimtemissie zou mislukken en de astronauten niet meer terug zouden keren. Hij schreef een plechtige voordracht met de titel In Event of Moon Disaster. En dat is ook precies de naam van een nieuwe installatie, die nu op IDFA te zien is. In die installatie zie je hoe een deepfake van Richard Nixon de toespraak van Sapphire voordraagt. Het is een alternatieve vertelling van de maanlanding, die gemaakt is met deepfake-technologie.

De deepfake-Nixon spreekt toeschouwers aan vanuit een woonkamer uit de jaren zestig, met bijpassend behang, meubilair en televisietoestel, inclusief oubollige tv-reclames. Daarmee is In Event of Moon Disaster niet alleen een commentaar op het gevaar van deepfakes, maar ook een voorbeeld van wat je in artistiek opzicht met verschillende computergebaseerde media kunt doen.

“De eerste maanlanding is een van de meest gedenkwaardige historische gebeurtenissen in de laatste vijftig tot honderd jaar,” vertelt Francesca Panetta, een van de makers van de installatie, aan Motherboard. Ze is ook journalist en maakt deel uit van het MIT Center for Advanced Virtuality. “Zoals mensen vragen waar je was op 11 september 2011, of toen JFK werd neergeschoten, vragen ze ook waar je was tijdens de eerste maanlanding. We wilden kijken wat er zou gebeuren als je met deepfake-technologie een alternatieve geschiedenis schept, maar tegelijkertijd echt archiefmateriaal gebruikt – zoals dus de speech van Sapphire.”

De meeste deepfake-video's worden gemaakt voor porno, dus niet zozeer voor nepnieuws. Maar er zijn toch veel zorgen dat deze technologie misbruikt zou kunnen worden om verkiezingen te beïnvloeden, door bijvoorbeeld de illusie te wekken dat politici bepaalde dingen hebben gezegd of gedaan.

Zoals Panetta zegt, is de geschiedschrijving altijd al afhankelijk geweest van wie het precies vertelt, maar met deepfake-technologie wordt dit nog een stuk kwetsbaarder. Daarom kozen ze ervoor om de potentie van deepfakes niet te laten zien aan de hand van het nieuws van nu, maar door een grote gebeurtenis uit het verleden in een nieuw jasje te steken.

“Eigenlijk was dit nog heel anders dan hoe de meeste mensen deepfakes kennen,” vertelt Halsey Burgund, een geluidskunstenaar die ook aan het project gewerkt heeft, en deel uitmaakt van het MIT Open Documentary Lab. “Deze deepfake bestaat uit twee delen: de beelden van een sprekende Nixon, en daarnaast zijn synthetische stem.”

Om de stem van Nixon na te bootsen werkte het team samen met het Oekraïense bedrijf Respeecher. Dit bedrijf maakt gebruik van speech-to-speech-spraaksynthese, een proces waarbij ze een AI een stemgeluid laten creëren op basis van een bestaande stem. Ze lieten een stemacteur de toespraak inspreken, en dat kwam er vervolgens uit met dezelfde intonatie, maar met de stem van Nixon.

Voor de beelden werkte het team samen met Canny AI (dat ook verantwoordelijk was voor de deepfake van Mark Zuckerberg). Ze filmden een acteur die de toespraak voorlas, en kozen vervolgens video's van Nixon uit die de AI als bron kon gebruiken.

“Omdat we het publiek kritisch willen laten nadenken over deepfakes, hebben we ook een krant in de installatie verwerkt waarin staat hoe deepfakes werken en wat er problematisch aan is,” zegt Harrell. “Er is ook veel discussie over de neurale netwerken [zoals die Respeecher gebruikt] en de vooringenomenheid van algoritmen, en hoe deze technologieën misleidend kunnen werken. Dat vind ik een belangrijk aspect van dit project.”

Panetta zegt dat het team momenteel ook een digitale versie van In Event of Moon Disaster aan het maken is, die ze uit willen brengen in het komende voorjaar.

Dit artikel verscheen oorspronkelijk bij VICE US.

In Event of Moon Disaster is van 29 november tot en met 1 december gratis te zien in het DocLab van IDFA in de Tolhuistuin in Amsterdam.

Tagged:
documentaire
maanlanding
deepfake