Reklame
Tech by VICE

Aplikacija DeepNude koja skida odeću sa fotografija žena je ipak uklonjena

Ova aplikacija koja algoritamski 'skida odeću' sa fotografija žena uklonjena je od strane divelopera, koji navode da je to usled preopterećenosti servera, ali i zbog potencijalne štete koju bi mogla da nanese.

pisao Samantha Cole
02 Jul 2019, 6:00am

Stvaralac aplikacije DeepNude, aplikacije koja je koristila algoritam mašinskog učenja kako bi “skinula“ odeću sa žena na fotografijama, najavio je u četvrtak da će ukloniti softver, nakon viralnog odjeka koji je ova aplikacija dobila zbog svog načina na koji objektifikuje žene.

U sredu je Motherboard izveštavao o tome da je anonimni programer koji se potpisuje kao “Alberto“ napravio DeepNude, aplikaciju koja koristi mašinsko učenje da otkloni odeću sa ženskih slika, ona čini da žene zaista izgledaju gole. Aplikacija je koštala pedeset američkih dolara.

Softver, nazvan DeepNude, koristio je sliku obučene osobe i kreirao novu, golu sliku iste osobe. Zamenjuje odeću golim grudima i vaginom i radi isključivo kada su u pitanju slike žena. Kada je Motherboard pokušao da upotrebi sliku muškarca, njegove pantalone su zamenjen slikom vagine. Dok aplikacija DeepNude ima manje uspeha na slikama potpuno obučenih žena, čini se da najbolje radi na slikama gde je osoba već otkila veći deo kože. Testirali smo aplikaciju na desetine fotografija i dobili najvernije rezultate na slikama visoke rezolucije iz izdanja Sports Illustrated Swimsuit.

Otkako je Motherboard pisao o takozvanim deepfakes krajem 2017. godine, mediji i političari su se fokusirali na opasnost koja predstavlja sredstvo dezinformacije. Ali ono što je najrazornije kod upotrebe deepfake-a jeste to kako se ova tehnika koristi protiv žena: bilo da govorimo o eksperimentisanju u kome se koriste slike žena bez njihovog pristanka ili zlonamernom širenju nekonsenzualne pornografije na internetu. DeepNude je evolucija tehnologije koja je lakša i brža za upotrebu nego pravljenje deepfake-a.

DeepNude je lansiran kao vebstranica koja pokazuje primer kako softver radi i bio je dostupan kao Windows ili Linux aplikacija od 23. juna.

Anonimni kretor DeepNuda, rekao je za Motherboard da je softwer baziran na pix2pix, open-source algoritmu koji su razvili istraživači na Univerzitetu Berkli u Kaliforniji. Pix2pix koristi GANs (generative adversarial networks) koji radi tako što trenira algoritam na velikom skupu slika – u slučaju DeepNnude, više od 10.000 fotografija golih žena – a zatim pokušava da unapredi samog sebe. Ovaj algoritam je sličan onom što se koristi u deepfake videima i onome što automibili koji simuliraju vožnju koriste da “zamišljaju” scenarije na putu.

Algoritam radi samo sa ženama, rekao je Alberto, jer je slike golih žena lakše pronaći na internetu – ali sada se nada da će stvoriti i mušku verziju.

“Mreže su multiplikovane, jer svaka od njih ima drugačiji zadatak: lociranje odeće, maskiranje odeće. Spekulisanje anatomskog položaja. “Učiniti ih živim,” izjavio je on. “Sve to čini procesuiranje sporim (30 sekundi na normalnom računaru), ali to se može poboljšati i ubrzati u budućnosti.”

Alberto je rekao da je bio inspirisan da napravi DeepNude oglasima za gadžete poput X-Ray naočara koje je video dok je pregledavao časopise iz 60ih i 70ih, kojima je imao pristup u detinjstvu. Logo za DeepNude - čovek koji nosi spiralne naočare, jeste upravo odavanje počasti tim reklamama.

“Kao i svi bio sam fasciniran idejom da oni zaista mogu postojati i da je pamćenje na njih ostalo”, poručio je on. “Pre otprilike dve godine otkrio sam potencijal AI I počeo da proučavam osnove. Kada sam saznao da su Gan mreže u stanju da pretvore dnevnu fotografiju u noćnu, shvatio sam da bi bilo moguće transformisati obučenu fotografiju u onu golu. Eureka! Shvatio sam da su rendgenske naočare moguće! Vođen zabavom i entuzijazmom prema tom otkriću , uradio sam prve testove u dobio zanimljive rezultate.”

Alberto je rekao da je nastavio da eksperimentiše iz “zabave” i radoznalosti.

“Ja nisam voajer, ja sam tehnološki entuzijasta, “ kaže on. “Nastavljamo da poboljšavamo algoritam. Nedavno, takođe zbog prethodnih neuspeha (drugih startapa) i ekonomskih problema, pitao sam se da li mogu imati ekonomski profit od ovog algoritma. To je razlog zašto sam napravio DeepNude.”

Ipak, nakon što je Motherboard objavio priču o ovoj aplikaciji, server na kome se nalazila ova aplikacija je krešovao:

U četvrtak popodne, tviter nalog DeepNude objavio je da je aplikacija mrtva, a neće biti objavljene ni druge verzije, takođe, najavljeno je i da će svima onima koji su već preuzeli ovu aplikaciju pristup njoj biti onemogućen.

"Ovaj projekat napravili smo pre nekoliko meseci u cilju zabave korisnika," piše u tvitu. "U planu nam je bilo da eventualnoimamo nekoliko popusta na cenu svakog meseca... Nikada nismo ni pomišljali na to da bi aplikacija mogla da postane viralna, i da nećemo biti u stanju da kontrolišemo protok podataka."

Kada smo razgovarali sa Albertom mejlom u sredu, on je rekao da je sebi postavljao pitanja o moralnosti i mogućnostima etičke upotrebe ove aplikacije. “Da li je ovo dobro? Može li povrediti nekoga?“, rekao je on da se pitao. “Mislim da ono što možete da uradite sa DeepNudom, možete da uradite veoma dobro sa Fotošopom (nakon tutorijala od nekoliko sati),“ rekao je on, konstatujući da DeepNude ne šalje same slike samo ih kreira I omogućava korisniku da uradi šta želi sa tim rezultatima.

“Rekao sam sebi: tehnologija je spremna (svima je dostupna)”, izjavio je on. “Dakle, ako neko ima loše namere, posedovanje DeepNuda ne menja mnogo tu činjenicu… Ako ja to ne učinim, učiniće neko drugi za godinu dana.”

Od tada, sudeći prema izjavi u tvitu, on je odlučio da ne želi da bude onaj koji je odgovoran za distrubuciju ovakve tehnologije.

"Ne želimo da zarađujemo na ovaj način“, piše u izjavi. “Naravno da će neke kopije DeepNude fotografija biti šerovane onlajn, ali ipak, mi ne želimo da budemo oni koji će ovu aplikaciju prodavati.” On navodi da je on samo “tehnološki entuzijasta“, koji je motivisan radoznalošću i željom za učenjem. Istu ovu pesmu pevao je i kreator “dipfejkova“ sa kojim je Motherboard razgovarao 2017: da je n samo programer zainteresovan za mašinsko učenje. Ipak, sve češća zastupljenost lažnih “osvetničkih“ porno sadržaja koji su nastali korišćenjem deepfake softvera pokazao je da ovakva manipulacija ženskim telima može izazvati veliku štetu, a ponekad čak i ishode koji mogu uništiti ugled, pa i život žrtava, a sve to usled akcija takozvanih “entuzijasta“.

"Ovaj svet i dalje nije spreman za DeepNude," zaključeno je u izjavi. Ipak, ono što su nam ovi algoritmi pokazali je da ne postoji jednostavno rešenje za tehnologiju poput DeepNudes, kao i da postoji socijetalna težnja da se ukine telesna autonomija žena, kao i da se obezvredni potreba za pristankom.

Ovaj članak je prvobitno objavljen na VICE US.