ansiktsigenkänning

Forskaren som hävdar att AI kan se på ditt ansikte om du är gay

"Jag tycker inte att den här teknologin ska användas alls, någonsin."
MR
illustration av Magnus Randlöv
3.10.17
Foto: Journal of Personality and Social Psychology/Stanford University

En studie från Stanford University har rört upp starka känslor bland hbtq-personer. Forskarna Michal Kosinsky och Yilun Wang lät ett program för ansiktsigenkänning jämföra över 14 000 ansiktsbilder på en dejtingsajt och gruppera dem som antingen homo- eller heterosexuella.

Resultatet: datorn hade rätt i 81 procent av fallen när den skulle gissa vem av två män som identifierade sig som homo respektive hetero. För kvinnor låg siffran på 71 procent. En annan slutsats i studien var att homosexuellas ansiktsdrag skiljer sig från heterosexuellas. En lesbisk kvinna skulle till exempel ha bredare käke än en straight. Studien ska publiceras i Journal of Personality and Social Psychology, men har redan fått utstå massiv kritik från diverse hbtq-organisationer. RFSL:s förbundsordförande Magnus Kolsjö har bland annat sagt att studien skadar mer än den gör gott.

Annons

Jag satte mig ner med Kosinsky, den ena forskaren bakom studien, för att prata om vad han kommit fram till och varför studien gjordes överhuvudtaget.

VICE: Varför ville ni studera det här?
Michal Kosinsky : Jag har i många år forskat på internetsäkerhet – Facebooklikes, statusuppdateringar, tweets. Senaste tiden har jag sett ett allt större intresse för ansiktsigenkänning. Företag här i Kalifornien kom till mig och sa, "Vi har ett otroligt datorprogram. Vi kan inte berätta hur det fungerar men det kan räkna ut saker om folk med extremt hög träffsäkerhet. Hur gör vi det här på ett etiskt sätt?" De verkade förstå att de jobbade inom ett etiskt minfält, men ingen verkade vilja upplysa allmänheten om att det här är något som sker i detta nu.

Vi övervägde att titta på brott eller andra personliga egenskaper, men saknade data. Dessutom misstänkte vi att jämförelsen mellan homo- och heterosexuella personer vore en bra startpunkt. Människor kan ju – om än med begränsade resultat – bedöma andras läggning.

Vänta, pratar du om "gaydar" nu?
Korrekt. Det har faktiskt gjorts studier där folk kunnat skilja mellan homo- och heterosexuella genom att titta på bilder – alltså strikt kontrollerade bilder där man avlägsnat hår, smink och så vidare. Träffsäkerheten var inte nödvändigtvis hög, men så länge det fanns något de kunde identifiera i vissa fall tänkte vi att en dator skulle kunna prestera bättre.

Annons

Är det här en artificiell intelligens?
Vi utvecklade inga nya program utan använde ansiktsigenkänningsprogram som redan finns. Men ja, ett Deep Neural Network – den typ av program som vi använt – är i princip en slags artificiell intelligens. De är gjorda för att förbättra sig själva, de är självlärande.

Apples nya iPhone X kommer sakna hemknapp och i stället låsas upp via ansiktsigenkänning. Betyder det här att Apple kommer veta att jag är bög?
Det korta svaret är ja. Som sagt, våra metoder var väldigt enkla. Apples ansiktsigenkänning är förmodligen mycket bättre än vad vi använde.

Det långa svaret är att Apple redan vet om du är gay eller inte. Apple behöver inte se ditt ansikte – dina övriga digitala fotavtryck skickar redan signaler om din läggning. Huruvida ett företag aktivt läser av de här signalerna är en annan femma.

Vem mer har tillgång till sån här teknologi?
Vem som helst. Det är computer science 101. Och med tanke på alla maskiner med inbyggda kameror vi använder – datorer, smartphones, bilar, övervakningskameror – är nog våra resultat blyga i jämförelse med vad som kan åstadkommas av någon som verkligen hade resurser.

Hur kommer vi märka av det här i framtiden? Är du orolig över något speciellt?
Ja. I många länder är homosexualitet olagligt, till och med straffbart med döden. Vi i västvärlden älskar våra nya iPhones som känner igen våra ansikten. Det vi glömmer är att samma telefoner kommer att användas av länder utan samma lagar och relativa tolerans. Vi lämnar i princip över massförstörelsevapen till människorna där.

Annons

I er studie skiljer sig homo- och heterosexuella personers ansikten åt. Är det ett argument för att sexuell läggning är ärftlig?
Målet med studien var inte en djupare förståelse för sexuell läggning. Det finns bättre sätt att undersöka det. Våra resultat stämmer överens med många ärftlighetsteorier, vilket stöder våra fynd.

Borde fler än homosexuella oroa sig?
Självklart. Alla har ju bröder, mammor, barn som påverkas direkt. Jag har också upptäckt saker som jag inte kan publicera än eftersom jag fortfarande jobbar med dem. Det här är ju väldigt känsligt, men det tycks som att sexuell läggning inte är det enda personliga draget en bild kan avslöja. Man kan göra samma sak med religiösa eller politiska åsikter.

Allt det här låter väldigt mörkt. Finns det inga positiva användningsområden för den här teknologin?
Än en gång – det är svåra etiska frågor. Men potentiellt skulle du kunna förutspå att ett barn riskerar att utveckla problematiska beteenden i framtiden. Då skulle du kunna se till att barnet får rätt resurser. Skolkuratorer gör ju redan det här idag.

Du kan också träna ett program att skilja mellan godartade födelsemärken på en patient och såna som kan leda till cancer. Så ja, det finns positiva användningsområden. Problemet är att de negativa är så pass allvarliga.

"Det här är ju väldigt känsligt, men det tycks som att sexuell läggning inte är det enda personliga draget en bild kan avslöja. Man kan göra samma sak med religiösa eller politiska åsikter."

Du har fått hård kritik, till och med hatbrev, från hbtq-personer. Vice ordförande för Sveriges största hbtq-organisation RFSL menar att ni har utvecklat det här verktyget och lagt det i händerna på folk.
Jag är inte immun mot kritik. Jag vägde riskerna med att publicera det här länge. Det skulle kunna finnas de som inte tänkt på att göra det här förrän nu. Men det går inte att komma runt om man vill varna folk. Om vice ordföranden visste vad jag vet om tekniken företag har tillgång till, vilka problem de redan löser åt förtryckande regeringar, tror jag att han hade känt annorlunda.

Bilderna ni jämfört är i princip selfies från en dejtingsajt. Jag tänker på ljus, vinklar, Photoshop och Facetune. Säger inte det här mer om hur folk framställer sig själva än faktiska drag?
Utan tvekan. Det är en felkälla vi försökt reducera så gott det går. Men även om vårt utseende inte hade något med läggning att göra skulle datorn ändå kunna hitta tusentals små skillnader på ett sätt en människa inte kan. Det skulle vara väldigt svårt för en person att veta hur man ändrar sitt utseende för att se mer eller mindre gay ut.

Annons

Hur ska jag då göra för att skydda mig från det här?
Det uppenbara är ju att se till att ens bilder inte finns på sajter som LinkedIn eller Facebook. Men när det kommer till kritan kommer den stat som vill hitta en bild på en medborgare göra det om den vill. I det långa loppet kan ingen undfly den här teknologin. Vi kommer inte att begränsa vår teknologiska utveckling. Men vi borde se till att inte bara exportera iPhones utan även mänskliga rättigheter och tolerans.

Varken du eller Dr Wang är del av hbtq-communityt – varför intresserar ni er för det här?
Nu är du snabb att döma! Som våra största kritiker skulle säga – sexualitet är inget enkelt. Visst, vi studerade bara folk som definierat sig som antingen gay eller straighta. Men det vore förhastat att dra slutsatser om min eller Dr Wangs identiteter. För att inte tala om alla våra vänner och kollegor.

Okej. Vad gör du härnäst?
Jag fortsätter nog [jobba] med ansikten ett tag till. Det finns fler persondrag jag vill forska kring.

Jag måste fråga. Testade du och Dr Wang programmet på era egna ansikten?
Nej. Inget gott kan komma av det vi undersökt. Vem bryr sig om vad ett program säger om ens läggning? Det definierar man själv. Jag tycker inte att den här teknologin ska användas alls, någonsin. Det är just därför jag vill varna folk: du behöver inte Michal Kosinski för att bygga sån här programvara – den används redan där ute.

Erik Galli och Magnus Randlöv finns på Instagram