Amazon sta vendendo software di riconoscimento facciale alla polizia

L'associazione che l'ha scoperto ha definito il software 'Rekognition' pericoloso e ha chiesto a Jeff Bezos di fermarne la vendita alle autorità.
23.5.18
Immagine: Shutterstock

Amazon ha venduto un software per il riconoscimento facciale piuttosto economico alle istituzione di polizia in almeno due stati degli Stati Uniti, ad un fabbricante di body-camera per la polizia e a un'azienda che svolge attività di intelligence e di analisi dati per l'autorità, secondo alcuni documenti interni di questi dipartimenti di polizia e al materiale promozionale diffuso da Amazon stessa.

Pubblicità

Il software, creato da Amazon Web Services, si chiama ”Amazon Rekognition” e promette di ”svolgere il riconoscimento in tempo reale di persone di interesse a partire da un live streaming delle telecamere dei poliziotti sfruttando il database di metadati facciali in vostro possesso,” stando a quanto riportato sui materiali promozionali dell'azienda. Il software sfrutta degli algoritmi di riconoscimento visivo per tracciare e identificare i tratti delle persone che combaciano con un database esistente di video e foto.

Il software è stato creato lo scorso anno, ma nuovi documenti ottenuti tramite richieste Freedom of Information Act da parte della American Civil Liberties Union mostrano come stia venendo attualmente utilizzato dalla polizia, e come l'azienda speri di usarlo in futuro, oltre a rivelare che i centri dati federali americani sarebbero interessati all'utilizzo della tecnologia.

Questo tipo di utilizzo di Rekognition da parte dell'autorità evidenzia come Amazon, una delle aziende più potenti del mondo, sia ormai entrata nel mercato della sorveglianza per le autorità.

Durante il summit AWS dell'azienda a Seoul, in Corea del Sud, Ranju Das, direttore di Rekognition, ha spiegato che a Orlando, in Florida, il dipartimento di polizia è un "partner di lancio" per la tecnologia.

”È una smart city, con telecamere disposte in tutta la città,” ha dichiarato Das. ”Le telecamere che dispongono dell'autorizzazione inviano i dati in streaming ad Amazon… analizziamo il video in tempo reale e lo confrontiamo con il database di volti che abbiamo a disposizione,” ha aggiunto, spiegando che la tecnologia potrebbe essere utilizzata per rintracciare la localizzazione delle principali ”persone di interesse” della città e che il sistema potrebbe inviare avvisi in tempo reale alla polizia.

LEGGI ANCHE: Amazon vuole controllare l'infrastruttura fondamentale della nostra economia

Un portavoce del Dipartimento di Polizia di Orlando mi ha detto che si tratta solo di un test della tecnologia e che ”al momento, non stanno utilizzando la tecnologia in veste investigativa o in qualsiasi spazio pubblico.”

Il sito di Rekognition e la sua collaborazione con il produttore di videocamere indossabili per la polizia Body Worn fanno pensare che Amazon e le forze dell'ordine abbiano interesse a identificare le persone in tempo reale, mentre si trovano in luoghi pubblici. È importante sottolineare come Amazon abbia modificato uno degli esempi di utilizzo riportati sul suo sito da ”Sicurezza pubblica: body-camera per i rappresentati della legge” a ”Esempio: Trovare persone scomparse sui social media.”

Pubblicità

Amazon segnala anche che vende il suo software anche a Data Fusion Systems, una società il cui ”obiettivo è fornire informazioni utili alle autorità.”

”Il materiale promozionale di Amazon a riguardo sembra un manuale pratico per la sorveglianza autoritaria,” mi ha detto Matt Cagle, avvocato per le libertà civili e questioni tecnologiche dell'ACLU della California del Nord. ”Amazon ha raccomandato l'utilizzo di Rekognition per le body-camera delle forze dell'ordine, questo le trasformerebbe da uno strumento che responsabilizza gli ufficiali a strumenti di sorveglianza rivolto verso il pubblico.”

Un portavoce di AWS mi ha spiegato via mail che ”Amazon richiede che i suoi clienti rispettino la legge e agiscano in modo responsabile quando utilizzano i servizi AWS. Quando scopriamo che un cliente abusa dei servizi di AWS, sospendiamo il suo diritto di utilizzare i nostri servizi.”

Rekognition in uso

In effetti, non era un segreto che i dipartimenti di polizia fossero interessati e avessero acquistato questa tecnologia — le notizie locali nella contea di Washington, Oregon, riportavano che l'ufficio dello Sceriffo aveva acquistato e stava utilizzando la tecnologia; inoltre, in precedenza, era stato segnalato anche l'interesse della città di Orlando e Amazon pubblicizza entrambe le città come suoi clienti.

Tuttavia, e-mail, presentazioni, contratti e altri documenti relativi a Rekognition ottenuti dall'ACLU a partire dai due dipartimenti mostrano che il software è poco costoso e ha già attirato l'interesse da parte dei centri federali di fusione dei dati, che aggregano i dati tra giurisdizioni e dipartimenti e sono visti come un vero e proprio incubo per le libertà civili.

”Tutto questo sta accadendo in un momento in cui le proteste pubbliche hanno raggiunto il loro massimo storico e il governo federale sta attaccando gli immigrati ed etichettando gli attivisti neri come criminali,” ha detto Cagle.

I documenti della contea di Washington mostrano che il dipartimento ha speso 400 dollari per caricare sui server di Amazon un database di 305.000 foto segnaletiche risalenti al 2001. I dipartimento spende circa 6 dollari al mese per utilizzare il software che effettua i match con il database già citato delle persone sospettate di aver commesso crimini: ”Lo usiamo solo quando indaghiamo su attività criminali e vogliamo verificare se abbiamo individuato un sospetto,” mi ha detto al telefono Jeff Talbot, un funzionario dell'informazione pubblica del dipartimento. ”Non lo stiamo usando per spiare le persone o per fare sorveglianza in tempo reale… ci sono state discussioni e abbiamo redatto delle politiche per proibire qualsiasi azione che si spinga oltre quello che stiamo già facendo in questo momento.”

Pubblicità

”Non stiamo cercando di nascondere che lo stiamo facendo, siamo orgogliosi di questo software,” ha aggiunto Talbot. ”Si tratta semplicemente di trovare metodi innovativi per garantire la sicurezza delle persone nella nostra comunità.”

Vuoi restare sempre aggiornato sulle cose più belle pubblicate da MOTHERBOARD e gli altri canali? Iscriviti alla nostra newsletter settimanale.

Tuttavia, un documento di presentazione usato per la formazione ottenuto dall'ACLU mostra che il servizio può incappare in dei falsi positivi. Una delle slide nella presentazione ha mostrato un'istanza con un match del 94,66 per cento rispetto a una foto del database, ma non era la persona giusta. Un'altra diapositiva mostra un'immagine di OJ Simpson aveva che matcha al 95,53 per cento con un uomo bianco con baffi e capelli grigi lunghi.”

”Spero di estendere il nostro archivio di immagini a quello di tutte le forze dell'ordine nella zona metropolitana di Portland. E forse anche a tutto l'Oregon e oltre,” ha scritto in una mail per Amazon, Chris Adzima, senior analyst di sistemi informativi per lo sceriffo della contea di Washington.

Adzima ha scritto un post per Amazon nel giugno 2017 in cui ha raccontato come ha usato il software per identificare un uomo che aveva rubato dei prodotti da un negozio di ferramenta sulla base di filmati di sorveglianza del negozio. Le e-mail inviate tra Adzima e Amazon mostrano che Amazon abbia dato delle indicazioni ad Adzima su come scrivere quel post.

“Abbiamo modificato la voce narrante del racconto dalla prima persona singolare — io — alla prima persona plurale — noi,” gli ha scritto un dipendente di Amazon in una mail sul post. ”Questo su richiesta dell'account team che non voleva far sembrare che tu fossi un programmatore-lupo solitario che lavora con AWS (può anche essere così, ma non vogliono dare quell'impressione).”

Amazon ha inoltre richiesto al reparto di firmare un accordo di non divulgazione su Rekognition — una pratica comune nell'industria delle tecnologie di sorveglianza. Ad esempio, Harris Corp. richiede alle forze dell'ordine di firmare un accordo di non divulgazione per il suo sito che simula celle telefoniche StingRay, che è ampiamente utilizzata dalla polizia per rintracciare i telefoni cellulari. La contea di Washington non ha firmato subito la NDA di Amazon, così, un dipendente Amazon ha contattato Adzima diverse volte e lui ha dovuto comunicargli che si sarebbe assicurato che venisse firmata.

Pubblicità

”Per me, va bene!" ha risposto il dipendente. "La squeaky wheel accetta l'NDA.”

Cagle ha dichiarato che ”il pubblico ha il diritto di sapere quando le forze dell'ordine stanno cercando di acquisire o utilizzare tecnologie di sorveglianza che comprendono il riconoscimento facciale.”

Dalle email emerge anche che un funzionario dell'Oregon TITAN Fusion Center ha contattato Adzima dopo che la rivista Government Technology aveva scritto un articolo su Rekognition.

”Mi chiedevo, c'è la possibilità che il Fusion Center e il Watch Center diffondano le foto attraverso di voi?” scriveva l'ufficiale. "Per quanto ne so, voi siete i primi ad abbracciare questa tecnologia tra le forze dell'ordine.”

I centri di fusione sono stati avviati poco dopo l'11 settembre come mezzo per aggregare i dati locali, statali, federali e del settore privato. I dati possono provenire da registri del traffico, scuole, ISP e società di telecomunicazioni, banche, registri pubblici, forze dell'ordine e da altri. Secondo quanto riportato sul suo sito, l'Oregon TITAN Fusion Center è gestito dal "Dipartimento di Giustizia, Polizia di Stato, la Oregon State Sheriff's Association, l'Oregon Association of Chiefs of Police, Oregon District Attorney's Association, il Department of Homeland Security, il Salem Police Department e l'FBI.”

Attualmente, Rekognition confronta le sue immagini e video solo con le immagini che le varie forze dell'ordine caricano sul proprio cloud AWS, ma se i centri di fusione dovessero caricare i propri dati aggregati sui servizi cloud AWS, la potenza e l'ampiezza del database corrispondente supererebbero di gran lunga quella di qualsiasi singolo dipartimento di polizia.

L'ACLU e decine di altri gruppi per le libertà civili — tra cui Human Rights Watch, Freedom of the Press Foundation, Muslim Justice League, WITNESS, Demand Progress Action e CAIR — hanno scritto una lettera al CEO di Amazon Jeff Bezos per esortarlo a interrompere la vendita di Rekognition alle forze dell'ordine.

Pubblicità

”La gente dovrebbe essere libera di camminare per strada senza essere sorvegliata dal governo,” dice la lettera. ”Il riconoscimento facciale nelle comunità americane minaccia questa libertà e all'interno di comunità di colore sovraffollate, potrebbe di fatto eliminarla.”

Amazon, da parte sua, ha detto di essere orgogliosa di Rekognition ed è convinta che aiuti a migliorare il mondo, sostenendo che la tecnologia potrebbe essere utilizzata per aiutare a identificare le persone scomparse.

”Come tecnologia, Amazon Rekognition ha molte applicazioni utili nel mondo reale (ad esempio, varie agenzie hanno utilizzato Rekognition per trovare persone rapite, i parchi di divertimento l'ahno utilizzato per trovare i bambini che si perdono al loro interno, il matrimonio reale che si è appena tenuto lo scorso fine settimana ha utilizzato Rekognition per identificare i partecipanti al matrimonio, eccetera),” ha dichiarato l'azienda. ”Oggi la nostra qualità di vita sarebbe molto più basse se vietassimo l'uso delle nuove tecnologie, perché c'è sempre chi potrebbe scegliere di abusarne. Immaginate cosa sarebbe successo se ci fosse stato vietato di acquistare un computer solo perché è possibile utilizzarlo anche per scopi illegali?”

Questo articolo è comparso originariamente su Motherboard US.

Seguici su Facebook e Twitter.