Met deze seksistische app kunnen gebruikers AI-gegenereerde vrouwen beoordelen

Twintig jaar nadat Mark Zuckerberg FaceMash creëerde, de beruchte seksistische ‘hot or not’-website die als voorloper van Facebook diende, heeft een ontwikkelaar het in zijn hoofd gehaald om precies hetzelfde te doen – alleen zijn de vrouwen dit keer door AI gegenereerd. 

De nieuwe website, smashorpass.ai, voelt als een walgelijke parodie van Zuckerbergs beschamende beginjaren, maar is blijkbaar bedoeld als een oprecht experiment om het vermogen van aanbevelingen van AI-afbeeldingen te onderzoeken. Net als Zucks oorspronkelijke site laat “Smash or Pass” afbeeldingen van vrouwen zien en nodigt het gebruikers uit om ze met een positieve of negatieve reactie te beoordelen. Het enige verschil is dat alle “vrouwen” eigenlijk AI-gegenereerde afbeeldingen zijn, die veel kenmerkende tekenen vertonen van de seksistische bias die bij veel machine learning-systemen aanwezig is. 

Om te beginnen hebben bijna alle denkbeeldige vrouwen die door de site worden gegenereerd absurd grote borsten, en hebben hun gezichten de verontrustende geretoucheerde kwaliteit die typisch is voor AI-generatoren. Hun figuren zijn vaak ook duidelijk omlijnd en gecontrasteerd met de achtergrond, nog een overduidelijk kenmerk van door AI gegenereerde afbeeldingen van mensen. Nog verontrustender is dat bij sommige afbeeldingen het gezicht volledig is weggelaten, en er vrouwelijke figuren zonder hoofd en met enorme borsten worden afgebeeld. 

Volgens Emmet Halm, de nieuwbakken ontwikkelaar van de site, is Smash or Pass een “generatieve AI-party game" die “geen verdere uitleg nodig heeft”. 

“Je weet wat jullie te doen staat, jongens,” tweette Halm toen hij het project introduceerde en mannen uitnodigde om de vrouwelijke vorm op een leuke en nieuwe manier te objectificeren. De tweet waarin hij de website debuteerde kreeg ruim 500 retweets en 1500 likes. In een daaropvolgende tweet claimde hij dat de top 3-afbeeldingen op de site allemaal zo’n 16.000 “smashes” hadden gekregen.

Het is begrijpelijk dat AI-experts het project zowel huiveringwekkend als hilarisch toondoof vinden. “Het is echt ontmoedigend dat technologie in de twintig jaar sinds de lancering van FaceSmash nog steeds wordt gezien als een acceptabel medium om te objectificeren en kliks binnen te harken,” vertelt Sasha Lucciono, een AI-onderzoeker bij HuggingFace, aan Motherboard nadat ze de Smash or Pass-website had gebruikt.

Eén ontwikkelaar, Rona Wang, reageerde door een bijna identieke parodie-website te maken waarop mannen beoordeeld kunnen worden – niet op hun uiterlijk, maar op hoe waarschijnlijk het is dat ze ongewenst of gevaarlijk gedrag jegens vrouwen zullen vertonen. 

De seksistische en racistische vooroordelen die AI-systemen vertonen zijn uitgebreid vastgelegd, maar dat houdt AI-ontwikkelaars niet tegen om apps te lanceren die doordrongen zijn met deze vooroordelen. In sommige gevallen zien ontwikkelaars met “anti-woke”-standpunten de bias tegen vrouwen en gemarginaliseerde mensen als een kenmerk van AI, en niet als een mankement. Sommige mensen die van conservatieve woede willen profiteren hebben zelfs, zonder enig bewijs, het tegenovergestelde geclaimd – dat AI “woke” is omdat populaire tools zoals ChatGPT geen racistische opmerkingen willen maken. 

De claims van de ontwikkelaar over het vermogen van de site lijken enigszins overdreven te zijn. In een reeks tweets beweerde Halm dat het project een afbeeldings-aanbevelings-engine is die “zichzelf recursief verbetert” en de data van je kliks gebruikt om je voorkeur voor AI-gegenereerde vrouwen te bepalen. Maar de huidige versie van de site verbetert zichzelf helemaal niet – als je de site lang genoeg gebruikt zullen de afbeeldingen zichzelf op een gegeven moment herhalen, en Halm zegt dat het recursieve vermogen in een toekomstige versie zal worden toegevoegd. 

De site werd niet door iedereen op social media goed ontvangen. Iemand met een blauw vinkje zei: “Bro wtf is dit. Het idee van je esthetische GenAI afbeeldingstool is leuk, maar je had het letterlijk met elke andere categorie kunnen doen om het concept te bewijzen, zoals eten, interieurdesign, landschappen, etc.” Halm was niet bereikbaar voor commentaar.

“Ik ben in de arena, ik probeer dingen uit,” tweette Halm. “Sommige ideeën moeten gewoon bestaan.”

Luccioni wijst erop dat nee, dat absoluut niet zo hoeft te zijn. 

“Er zijn enorme hoeveelheden niet-menselijke data beschikbaar, en deze tool had gebruikt kunnen worden om afbeeldingen van katten, honden of planten te genereren – en toch zien we machine-gegenereerde afbeeldingen van rondborstige vrouwen,” zegt Luccioni. “Als een vrouw die in het door mannen gedomineerde vak van AI werkt, vind ik dit dieptriest.”

Dit artikel verscheen oorspronkelijk op Motherboard.

Volg VICE België en VICE Nederland ook op Instagram.