Cine-i femeia asta horror care apare în toate imaginile generate de inteligența artificială

Generatoarele de imagini bazate pe inteligență artificială precum DALL-E și Midjourney au devenit foarte populare în ultima vreme, și nu e de mirare. Prin intermediul unor modele de machine learning care au exersat pe miliarde de imagini, sistemele creează lumi care îmbină familiarul cu fantasticul.

Evident că așa au apărut o grămadă de legende urbane AI, pentru că nimeni nu poate explica procesul prin care rețelele neuronale complexe decid ce imagini să creeze. Cel mai recent exemplu vine de la un artist AI numit Supercomposite, care a postat imagini grotești cu o femeie care apare la anumite căutări.

Femeia, pe care artistul o numește Loab, a fost descoperită prima oară ca rezultat al unei tehnici numite „negative prompt weights”, prin care un utilizator încearcă să facă sistemul AI să genereze opusul a ce tastează. Practic, e ca și cum îi spui sistemului: „Generează ce crezi tu că e opusul căutării mele”.

În acest caz, utilizarea tehnicii negative-weight asupra termenului „Brando” a generat imaginea unui logo peste un apus urban și cuvintele „DIGITA PNTICS”. Când Supercomposite a folosit tehnica pe cuvintele din logo, a apărut Loab.

„Practic, portretul ei e compus dintr-o colecție de trăsături care sunt total opuse unor anumite căutări”, a scris Supercomposite pe Twitter.

Imaginile au devenit rapid virale pe social media și au stârnit tot felul de speculații cu privire la tulburătorul fenomen. Supercomposite susține că imaginile generate sunt influențate de domeniile horror și gore. Și oricâte variații s-au adăugat, imaginile conțin aceeași femeie înfricoșătoare.

În percepția sistemului AI, femeia are trăsături foarte macabre, așa că orice imagine în care apare ea devine una de coșmar.

„Nu pot confirma ce model au folosit sistemele AI, dar e clar că Loab apare în imaginile create de mai multe sisteme”, a declarat Supercomposite pentru Motherboard.

Chiar e Loab o prezență în cadrul sistemului sau e doar o iluzie apărută din dorința oamenilor de a vedea tipare peste tot?

Din păcate, e greu de ajuns la o concluzie. Sistemele generatoarelor de imagini sunt antrenate pe miliarde de imagini și sunt mult prea complexe ca să înțelegem cum au ajuns la anumite rezultate. Tocmai de asta ne avertizau experții în etică despre pericolele unor astfel de sisteme.

OpenAI a implementat niște controale manuale pentru DALL-E care blochează și filtrează anumiți termeni, ca să împiedice sistemul să genereze imagini false cu celebrități. Dar alte sisteme nu au aceste metode de protecție, iar unii utilizatori au creat cu ajutorul lor tot felul de imagini porno dubioase.

De curând, un grup de artiști AI au zis că au descoperit un limbaj ascuns la DALL-E, dar n-au reușit să dovedească această teorie.

Deocamdată, aceste fenomene sunt prea noi ca să le înțelegem și, ca orice lucru pe care nu-l înțelegem, ne sperie. Dar oamenilor le place să fie speriați.