Dankzij AI wordt catfishing nog makkelijker

Als je online datet kun je af en toe best bedrogen uitkomen. Omdat je zelf je tinderdate net iets anders had voorgesteld in je hoofd, maar ook omdat diegene alleen maar foto's heeft uitgekozen waarop je nét niet kunt zien dat het stiekem een zestigjarige man met een bierbuik is die vanuit een obscuur zolderkamertje de boel zit te beduvelen.

Dat is één ding, maar met de recentste technologische ontwikkelingen kan catfishing nog een stuk verder gaan.

Computers kunnen nu bijvoorbeeld nepvideo’s genereren, van mensen die dingen zeggen of doen die ze in het echt nooit hebben gezegd of gedaan. Die video’s worden ‘deepfakes’ genoemd omdat ze gegenereerd worden door ‘deep learning’, een vorm van machine learning. Vorige week ging er nog een deepfake van Mark Zuckerberg het internet over.

Deepfakes zijn niet de enige manier waarop AI met je perceptie van de werkelijkheid kan fucken. Computers die deep learning gebruiken kunnen nu ook gezichten genereren die niet bestaan in het echt, en zulke foto’s worden al gebruikt om mensen te catfishen. Associated Press schreef vorige week bijvoorbeeld over het LinkedIn-profiel van Katie Jones, een vrouw met veel politieke connecties. Het profiel bleek hartstikke nep te zijn en de profielfoto had alle kenmerken van een door AI gegenereerd portret. Het nepprofiel was erin geslaagd om connecties aan te gaan met tientallen gebruikers met een politieke achtergrond.

Dat je met AI gezichten kan generen maakt het nog lastiger om zeker te weten of je online lover wel echt is. Vroeger was het natuurlijk ook mogelijk dat iemand waarmee je online praatte een foto had gejat van iemand anders, maar die foto moest wel van een echt persoon zijn. Met reverse image search kon je zo achterhalen waar de foto vandaan kwam, en dus uitvogelen wie jou aan het catfishen was. Met door AI gegenereerde gezichten werkt dat helaas niet.

De techniek van AI wordt steeds toegankelijker. Als je bijvoorbeeld op de site thispersondoesnotexist.com kijkt, krijg je elke keer een nieuw gegenereerd gezicht als je de pagina vernieuwt. De website maakt gebruik van een soort machine learning dat Generative Adversarial Networks heet, of GANs. Deze programma’s genereren nieuwe gezichten aan de hand van een enorme dataset van beelden – in dit geval portretfoto’s. De GAN-code waar de website gebruik van maakt werd vorig jaar door chipmaker Nvidia gelanceerd.

Maar het houdt niet op bij gezichten. Er komen constant nieuwe websites bij die open source GAN-code gebruiken, waaronder ook sites die neppe woningadvertenties of kattenfoto’s creëren. Als je genoeg vrije tijd hebt, zou je dus een datingprofiel kunnen vullen met door AI gegenereerde foto’s van een persoon, z’n woning, en zelfs z’n huisdier.

“Het lijkt het gebruikelijke traject van nieuwe technologie te volgen,” zegt Maurice Turner, technoloog van het Center for Democracy and Technology, in een telefoongesprek met Motherboard. “Het begint met onderzoek, dan worden het betaalde online diensten, en binnenkort is het gewoon een app op je telefoon.”

Die kant gaat het al op. Vorige week gebruikte een mannelijke student in Californië al de gender-swap-filter van Snapchat om een tinderprofiel te maken, waarbij hij zich voordeed als een minderjarig meisje. Hij gebruikte dit profiel om een politieagent te verleiden, en stuurde screenshots van hun gesprek naar het politiekorps. De agent werd gearresteerd omdat hij met verkeerde motieven met een minderjarige communiceerde.

Hoewel het steeds moeilijker wordt om nepbeelden te spotten door al deze technologie, zijn er wel een paar dingen waar je in ieder geval op kan letten. Gezichten die door AI zijn gemaakt, kunnen bepaalde kenmerken hebben: vaag of verkeerd geplaatst haar, asymmetrische gelaatstrekken, scheve tanden, te grote of te kleine tanden, kleurverschil aan de randen van het gezicht, of schilderachtige details in het algemeen. Bij video’s kan het helpen om te letten op hoe de ogen knipperen, omdat deepfakes vaak veel minder knipperen dan echte mensen.

“Eerst zien, dan geloven” is online al lang geen goede vuistregel meer. Nu het steeds makkelijker wordt om gezichten te manipuleren of genereren, kunnen mensen online ook overtuigender liegen. “Ik hoop niet dat mensen te sceptisch worden over elk contact dat ze online hebben,” zegt Turner. “Dan verliezen ze al het vertrouwen in persoonlijke interactie, of dat nu online is of niet.”