Advertentie
Tech by VICE

Door de stem van een CEO na te bootsen hebben dieven ruim 200.000 euro gejat

Een man dacht dat zijn baas aan de telefoon vroeg of hij geld kon overmaken naar een geheime rekening, maar in werkelijkheid werd hij door een deepfake om de tuin geleid.

door Edward Ongweso Jr
06 september 2019, 12:01pm

Christopher Furlong via Getty Images

The Wall Street Journal schreef afgelopen week dat de CEO van een Brits energiebedrijf dacht dat hij met zijn baas aan het bellen was, de directeur van het Duitse moederbedrijf, en hij gevraagd werd om 240.000 dollar (zo’n 217.500 euro) over te maken naar een geheim account. In werkelijkheid was het echter een nagemaakte stem – waarschijnlijk is het de eerste overval ter wereld die is aangedreven door kunstmatige intelligentie.

De verzekeraar van het bedrijf, Euler Hermes, gaf woensdag wat nieuwe informatie over de zaak prijs, maar wilde niet noemen om welk bedrijf het precies ging. De Britse directeur werd eind van de middag gebeld en werd door zijn Duitse baas – of de nagemaakte stem van zijn baas dus – gevraagd of hij geld kon overmaken naar een Hongaars account, omdat hij wilde “besparen op boetes voor achterstallige betalingen”. Tijdens het bellen kreeg hij al een mailtje waarin het banknummer stond. “De software was in staat om zijn stem perfect na te bootsen, inclusief toon, interpunctie en Duitse accent,” aldus woordvoerder van Euler Hermes.

De zogenaamde baas zei dat hij nog terug zou bellen voor een tweede betaling, wat tot argwaan leidde bij de Britse directeur. Hij besloot zijn baas zelf terug te bellen. In een e-mail aan Euler Hermes zegt hij dat “de nep-Johannes vroeg of hij me kon spreken, terwijl ik nog gewoon met de echte Johannes aan de lijn hing.”

De afgelopen jaren zijn deepfakes steeds geavanceerder geworden. Het lukt online platforms niet om ze te detecteren en bedrijven hebben geen idee hoe ze met de gevolgen om moeten gaan. En het ontdekken van een deepfake is slechts nog het begin, want vanwege de natuur van het moderne internet – het feit dat er geld wordt verdiend aan aandacht van gebruikers, en dat het loont om viral content te produceren – zal het altijd een weg naar publiek vinden. Afgelopen juni werden er overtuigende deepfakes van Mark Zuckerberg gepubliceerd op Instagram, wat een reactie leek te zijn op een gemanipuleerde video van de Democraat Nancy Pelosi. Er is nog steeds geen duidelijke overeenstemming over hoe Facebook met die, of toekomstige situaties, zou moeten omgaan.

Dit alles wordt nog eens versterkt door de verdienmodellen van bedrijven als Facebook en Google. Techno-socioloog Zeynep Tufekci waarschuwde al dat ze een strategie hanteren waarmee ze gebruikers “vatbaarder voor advertenties maken” en tegelijkertijd hun “politieke, persoonlijke en sociale informatiestromen” beheren. Die kerndynamiek, gecombineerd met de constante evolutie van deepfake-technologie, betekent dat dit probleem waarschijnlijk alleen nog maar groter gaat worden. Tenzij de bedrijven die erachter zitten ervan overtuigd worden dat ze hun verdienmodellen moeten veranderen.

Dit artikel verscheen oorspronkelijk bij VICE US.