La polizia predittiva è diventata realtà in Italia e non ce ne siamo accorti

Lo scorso 16 novembre, la polizia di Venezia ha arrestato un italiano di 55 anni per furto aggravato. Secondo quanto riportato dai giornali, gli agenti erano già sul posto al momento del colpo, perché un algoritmo di polizia predittiva avrebbe previsto un furto tra le 3 e le 4 di mattina.

Siamo ufficialmente nel dominio della fantascienza e non è neppure la prima volta: il software KeyCrime, sviluppato da un ufficiale della questura di Milano, aveva fatto parlare di polizia predittiva già nel 2016.

In questo caso, però, il sistema si chiama XLAW, è stato sviluppato da Elia Lombardo, ispettore della questura di Napoli ed è già stato sperimentato a Napoli e a Prato.

Lombardo, contattato da Motherboard via email, ha definito XLAW un lavoro “sartoriale,” perché “sviluppato da colui che, di fronte ad un problema rappresentato dal dover meglio prevenire la criminalità, ha ideato e sviluppato una soluzione prima di tutto utile per se stesso, tenuto conto che mi occupo di strategie di controllo del territorio.”

Cosa fa un algoritmo poliziotto?

L’algoritmo, ha spiegato l’ispettore, “è stato sviluppato a valle di uno studio criminologico indipendente validato da due università, la Federico II e la Parthenope di Napoli.” L’idea centrale è che i reati come rapine, borseggi e furti “hanno le caratteristiche di essere ciclici e stanziali perché prodotti da soggetti deviati modestamente organizzati, che usano questi espedienti per costruire un profitto in un arco temporale relativamente breve.” In questo modo è possibile individuare delle “riserve di caccia.”

XLAW impiega il machine learning per trovare dei modelli criminali a partire dalle segnalazioni fornite e “nel tempo possono sorgere nuovi modelli che il software è in grado di trovare ed assimilare senza l’intervento del programmatore,” ha specificato Lombardo. Inoltre, offre un sistema per la previsione: “i crimini hanno la caratteristica di essere ciclici e stanziali, il software è in grado di scoprire quali [crimini rientrano in questi modelli] e di porli in evidenza sotto forma di alert georeferenziato.”

Vengono segnalate anche le caratteristiche del sospetto quali genere, altezza, cittadinanza, segni distintivi e biometrica.

I poliziotti, quindi, possono ricevere degli alert già due ore prima del potenziale furto, per andare a pattugliare in anticipo la zona. In uno screenshot del funzionamento del software — presente sul sito dello sviluppatore — si nota come vengano segnalate anche le caratteristiche del sospetto quali genere, altezza, cittadinanza, segni distintivi e biometrica.

Lombardo ha precisato che il suo software si differenzia dagli altri — che si basano su statistica e calcolo delle probabilità — perché adotta un approccio euristico: “il sistema si concentra sul fenomeno nella sua interezza assoluta e non su singoli soggetti ed è deputato a trovare modelli criminali che non sono rappresentati da singoli soggetti ma dal tipo di target, preda, ecc.”

Eppure, quando parliamo di machine learning, parliamo sempre di algoritmi che producono un risultato effettuando dei calcoli che cercano di ridurre l’errore di una determinata funzione di costo. Un approccio euristico vorrebbe dire che la funzione di costo sembrerebbe essere stata implementata secondo gli studi effettuati dall’ispettore, ma questo non vuol dire necessariamente che sia l’unica soluzione o che sia necessariamente la migliore.

Purtroppo non è possibile avere accesso al software poiché i diritti sul codice sorgente sono detenuti esclusivamente dallo sviluppatore

Purtroppo non è possibile avere accesso al software poiché i diritti sul codice sorgente sono detenuti esclusivamente dallo sviluppatore e il software è ceduto in comodato d’uso gratuito alla Direzione Centrale Anticrimine del Ministero dell’Interno.

Alla richiesta se sia opportuno rendere pubblici questo tipo di algoritmi e valutare con un’analisi d’impatto il loro funzionamento ed eventuali problematiche, Lombardo ha afferma di credere “che si possa ragionare sull’argomento, […] io ritengo che le elaborazioni dovrebbero essere pubbliche ma dovrei dilungarmi parecchio per motivare questa mia affermazione.”

Nel caso del software KeyCrime, in una precedente richiesta FOIA, la questura di Milano ha affermato di non avere “eventuali dati e studi sull’impatto del software nella lotta al crimine; variabili tenute in considerazione dal software per effettuare le analisi; eventuali valutazioni da parte del Garante per la protezione dei dati personali.”

La polizia predittiva è davvero efficace?

L’ispettore Lombardo ha sottolineato che l’algoritmo di XLAW tiene in considerazione diversi fattori, come le informazioni demografiche, sociali ed economiche di ciascuna città — tra cui il numero di cittadini, eventi pubblici, orari dei mezzi di trasporto, numeri di scuole, chiese, edifici pubblici, e particolari periodi di festività — “e vengono acquisite dalle banche dati pubbliche e inserite nel sistema in un database di struttura primario.” Allo stesso tempo, ha continuato Lombardo, “le informazioni sui reati commessi vengono acquisite ogni giorno sia dalle denunce dei cittadini e quindi dalle banche dati interne alle forze dell’ordine, che dalle informazioni che circolano sui media e social media.”

Predictive policing uses racially biased data and makes racially biased predictions. @EzekielACLU #policereform https://t.co/yivJaKJAlF

— ACLU (@ACLU) September 2, 2016

Secondo alcune statistiche rilasciate dallo stesso Elia Lombardo in un’intervista, con la sperimentazione di XLAW a Prato “i reati sono diminuiti del 32% e gli arresti aumentati del 54%” e lo stesso software sembra produrre simili risultati anche a Venezia.

Secondo i dati ISTAT, però, sembra che i reati in Italia siano in calo in generale. Inoltre, secondo le critiche mosse ad altri sistemi di polizia predittiva negli USA, si potrebbe generare un feedback positivo che aumenta i controlli in una determinata zona, facendo emergere così reati sommersi che inducono l’algoritmo a produrre più alert per quella stessa zona.

Alla richiesta di ulteriori chiarimenti sull’efficacia reale di XLAW nel calo dei reati e su eventuali problemi — come bias razziali o sociali, aspetti etici della profilazione delle persone e trasparenza delle decisioni — dell’algoritmo, l’ispettore Lombardo afferma: “Preciso che XLAW non è attivo in tutta Italia ma sperimentalmente solo in alcune province — Napoli, Prato, Salerno, Venezia — e laddove sperimentato i reati sono calati rispetto all’anno precedente.”

Inoltre, aggiunge, il software “ha anche un’altra funzione, che ho definito calcolo della Pressione Criminale: attraverso una ulteriore operazione viene calcolato il numero degli eventi in ragione del numero di popolazione e numero di tutte le componenti socio demografiche; questa funzione permette di capire a quale pressione criminale è sottoposto il territorio in esame. Dove si è utilizzato il software dopo solo un mese l’indice si è ridotto.”

Questo riferimento agli effetti di XLAW dopo un mese di impiego è incluso anche nello studio indipendente pubblicato dall’università Federico II di Napoli cui si è fatto riferimento in precedenza — fra gli autori dello studio, però, figura anche lo stesso Elio Lombardo.

L’ispettore conferma che i dati vengono verificati continuamente ed è quindi “da escludere che la riduzione [dei reati] sia avvenuta per puro caso.”

I dubbi sul metodo delle “riserve di caccia”

La teoria per cui esistono delle “riserve di caccia” in cui è necessario inviare le forze dell’ordine per prevenire futuri reati è sicuramente affascinante, ma rischia forse di offrire una soluzione tecnologica a un problema di natura completamente diversa.

Sin dai primi calcolatori utilizzati per ottenere le previsioni meteo, il sogno dell’uomo è stato quello di poter anticipare, prevedere, e controllare ogni fenomeno futuro. Nel caso della polizia predittiva, però, i dati che vengono raccolti potrebbero già contenere dei bias che inducono il software a commettere degli errori. Alcuni report della polizia potrebbero essere incompleti, alcuni dati demografici dei comuni non aggiornati, le descrizioni delle vittime incomplete o addirittura fuorvianti.

In un mondo che poggia sempre di più sul vaticinio algoritmico, il controllo sull’origine e la qualità dei dati che vengono dati in pasto al software è fondamentale. In alcuni casi, potremmo effettivamente essere di fronte a delle zone più a rischio, ma, in altri, potrebbe trattarsi di quartieri con problemi socio-economici che non possono essere risolti dal solo impiego della polizia — perché hanno una natura politica.

L’ispettore Lombardo ha ribadito l’accuratezza dei suoi risultati sugli studi di crimini predatori, sottolineando come “le riserve di caccia di cui le ho scritto nella precedente [email] sono infungibili. Presidiare le aree dove scatta un alert non significa aumentare i controlli ma significa controllarle nel momento giusto.”

Anziché organizzare perlustrazioni randomiche, le pattuglie “possono controllare il territorio in maniera chirurgica e puntuale,” ha concluso Lombardo.