L’app IA che trasforma le tue foto in illustrazioni ha un problema

Negli ultimi giorni, TikTok, Instagram e altri social si stanno riempiendo di ritratti che sembrano creati da illustratori professionisti, ma che sono, in realtà, prodotti da una app che sfrutta un modello di intelligenza artificiale, chiamata Lensa AI. Se hai visto una persona che segui sui social trasformarsi nella potenziale splendida protagonista di una graphic novel fantasy, sai di cosa stiamo parlando. Ma come funziona e che problemi solleva?

L’uso di strumenti di intelligenza artificiale per generare opere d’arte—o immagini inedite in generale—è in rapida ascesa, tra app come Dall-E, Midjourney e Stable Diffusion. Lensa AI, app creata in realtà nel 2018 da Prisma Labs, è un editor per foto e video diventato ora virale grazie all’introduzione di filtri che trasformano qualsiasi foto in un’illustrazione sofisticata, scalando la classifica di app di IA per smartphone su App Store e Google Play.

“Lensa è una app di editing di immagini tutto in uno, che porta le tue foto a un livello successivo,” si legge sul sito della app. Sfruttando proprio il modello open source Stable Diffusion, Lensa permette di creare “avatar magici” per un’iscrizione annuale da 39,99 dollari, o di generare un numero fisso di 50 ritratti illustrati per un pagamento una tantum di 3,99 dollari. Lensa mette inoltre a disposizione una versione prova che dura una settimana e una versione gratuita—quest’ultima non comprende, però, la creazione delle illustrazioni, ma solo tool di editing più comuni.

Sia che parliamo di immagini generate su input testuali che di filtri illustrati applicati su fotografie, le intelligenze artificiali coinvolte funzionano sulla base di dataset enormi da cui “imparano” a fare quello che fanno. Nella maggior parte dei casi, però, questi dataset sono costruiti pescando a strascico da internet, e “sono di solito impossibili da controllare per un essere umano,” ha scritto in precedenza su Motherboard a riguardo Chloe Xiang, “perché contengono centinaia di milioni e in alcuni casi miliardi di immagini e sono privi di strumenti di ricerca interna utilizzabili.” Per questo, possono potenzialmente contenere illustrazioni senza previo consenso degli artisti che le hanno create originariamente, materiale pornografico non consensuale o immagini di violenza, come le esecuzioni dell’ISIS.

In alcuni post su Instagram che raccolgono i risultati di Lensa AI, si leggono commenti che denunciano il problema, e chiedono alle persone di non contribuire allo sfruttamento di opere e artisti senza rispetto dei diritti d’autore.

La diffusione virale dei ritratti creati con Lensa AI sta dunque riportando ancora una volta a galla l’annosa questione dei diritti d’autore (o copyright) nel mondo dell’arte IA—che non riguarda l’opera inedita generata, ma l’infinità di opere su cui un’intelligenza artificiale deve “allenarsi” per imparare a generare immagini di un certo tipo.

Poiché i dataset su cui le IA sono allenate raccolgono immagini in modo massiccio e arbitrario, chi crea i contenuti originali resta senza alcun tipo di riconoscimento—o remunerazione—per il contributo dato involontariamente e si ritrova poi a competere con IA in grado di replicare un certo stile in pochi secondi.

Proprio per aiutare creator digitali a capire se il loro lavoro è incluso nei dataset usati per istruire modelli di IA, l’artista e musicista Holly Herndon ha creato Have I Been Trained, un sito che permette di effettuare ricerche all’interno del dataset open source LAION-5B—che contiene 5,8 miliardi di immagini prese da internet ed è usato da alcuni strumenti IA, compreso Stable Diffusion—digitando il proprio nome o il titolo di una propria opera e segnalare la propria volontà di restare dentro o fuori dal processo di allenamento delle IA.

Lensa è sicuramente una app che stuzzica l’immaginazione di utenti in tutto il mondo che desiderano creare ritratti originali—e non è di certo l’unica a offrire strumenti del genere. È anche una app che—come tutte le app di editing foto che diventano virali—suscita le solite domande sulla privacy (a questo proposito, Prisma Labs ha detto di appoggiarsi al servizio di cloud di Amazon Web Services per elaborare le foto degli utenti e che, non appena la IA è allenata, queste vengono cancellate). È una app che si porta dietro pregiudizi nei confronti di corpi non conformi, ed è, soprattutto, una app che ci ricorda che la IA progredisce a velocità incalcolabili e quanto sia importante capirne le implicazioni su larga scala il prima possibile.