Reddit heeft deepfakes eindelijk verboden
Illustratie: Seth Laupus

Reddit heeft deepfakes eindelijk verboden

Eindelijk doen ze iets aan die AI-gegenereerde nepporno.
8.2.18

Gisteravond rond 19 uur heeft Reddit r/deepfakes offline gehaald. Dat was de subreddit waar al die AI-nepporno werd gedeeld die de laatste tijd zoveel in het nieuws was.

Een woordvoerder van Reddit zei het volgende in een email aan Motherboard:

“Reddit streeft ernaar om een toegankelijk en open platform voor al haar gebruikers te zijn door dialoog en discussie te stimuleren. Op 7 februari 2018 hebben we twee aanpassingen aan onze regels voor onvrijwillige porno en seksuele of suggestieve beelden van minderjarigen gemaakt. Dit beleid bestond eerder uit één regel, maar wordt nu opgesplitst in twee duidelijke regels. Communities voor dit soort content en gebruikers die dit soort content posten, worden van de site verwijderd.”

Rond 19 uur deelde een admin de nieuwe regels over seksuele of suggestieve beelden van minderjarigen en onvrijwillige porno. “Zoals we al eerder hebben gezegd, willen we Reddit toegankelijker maken voor alle gebruikers. En we zullen ons beleid daarom blijven bijwerken waar dat nodig is,” schreef u/landoflobsters in een thread .

De subreddit telde vlak voordat-ie offline gehaald werd al bijna 90.000 gebruikers. Andere subreddits met deepfakes, zoals r/FakeApp, r/SFWdeepfakes en r/videofakes zijn niet offline gehaald, omdat ze “safe for work” zijn en dus geen porno bevatten.

Afgelopen week kondigen Discord , Gfycat , Pornhub en Twitter allemaal al een verbod op onvrijwillige porno – en dus deepfakes – aan. Omdat de filmpjes en gifjes niet op Reddit stonden, maar op hostingsites als Gfycat, Sendvid en imgur, gingen sommige redditors ervan uit dat ze niet op hun platform geband zouden worden. Een aantal leden van de subreddit voelde wel nattigheid en was daarom al bezig met het zoeken naar nieuwe plekken om de deepfakes te posten.

Door deze wijziging van de algemene voorwaarden werden ook een aantal subreddits die al veel eerder bestonden dan r/deepfakes, zoals r/CelebFakes en r/YouTubeFakes, offline gehaald. In deze subreddits werden al jaren plaatjes gedeeld waarin de hoofden van beroemdheden op de lichamen van pornoacteurs werden gephotoshopt.

In december ontdekte Motherboard redditor “deepfakes”. Hij was de eerste die dit soort AI-porno publiekelijk postte. Hij deelde zijn werk eerst op de subreddit r/CelebFakes en niet lang daarna maakten zijn fans de subreddit r/deepfakes als ‘eerbetoon’ aan zijn werk.

Ook al heeft Reddit besloten om de centrale plek voor deepfakes offline te halen, toch betekent dat niet dat ze daarmee in één klap van het internet verdwijnen. De programma’s en instructies om zo’n filmpje te maken, zijn nog steeds heel makkelijk te vinden. En deepfake-fans hebben ook allerlei nieuwe websites en platforms in het leven geroepen om hun narigheid te verspreiden.

Dit artikel verscheen eerder op Motherboard US.