Cum au ajuns locuitorii acestui oraș românesc să fie supravegheați ca la Big Brother

De câțiva ani, termenul de oraș smart apare de unde nu te aștepți. Fie că ți-l amintești de când l-a menționat Gabriela Firea într-un context cel puțin dubios, ori ca titlul care îi oferă supremația Clujului peste orașele din Europa, conceptul a intrat în vocabularul edililor și consiliilor locale drept sursă de promisiuni fantastice, rar aduse la finalizare. Nu și în Câmpia Turzii, unde este implementat primul sistem de supraveghere din spațiul public autohton care utilizează inteligență artificială pentru identificarea și prevenirea infracțiunilor. E posibil ca un catalizator pentru decizie să fi fost momentul în care orașul a ajuns în atenția României prin imagini cu tineri care ar fi consumat drogul zombie. Sistemul există de la finalul lui 2020 și se impune o întrebare: cu ce preț?

Ca să înțeleg mai bine cum și dacă poate tehnologia să răspundă la problemele comunităților și orașelor mici, ca în cazul Câmpia Turzii, am vorbit cu un profesor de informatică, cercetător și creator al unui sistem de detecție smart, și cu un antropolog specializat în dezvoltare urbană. Am dus dezbaterea în zone gri, doar ca să mă asigur că și cetățenii știu ce-i privește din umbră.

„În domeniul studiilor urbane și în urbanism nu există un acord al specialiștilor asupra unei definiții exacte a termenului de smart city”, după cum menționează Gruia Bădescu, cercetător în studii urbane. „Un numitor comun pentru multitudinea de definiții a acestui termen ar fi utilizarea tehnologiei pentru luarea deciziilor urbane, unii specialiști invocând existența unei note referitoare la sustenabilitate, însă implicarea tehnologiei computerizate reprezintă partea centrală.”

În Câmpia Turzii, Orange România, cel mai mare operator de telecomunicaţii de pe plan local și un pionier al proiectelor de smart city din țară, a fost selectat pe sistemul de achiziții publice de stat în 2019 pentru implementarea unui sistem de supraveghere video îmbunătățit. Prin parteneriatul pe care firma îl avea cu SecurifAI, o companie care livrează servicii majoritar sistemului privat de supraveghere video pe bază de inteligență artificială, proiectul a devenit primul serviciu public de supraveghere video care utilizează AI pentru identificarea potențialelor infracțiuni, cu un cost de circa 1,7 milioane lei.

SecurifAi a pornit în 2016 ca un startup co-fondat de Radu Ionescu, profesor la Facultatea de Matematică și Informatică de la Universitatea din București, și Valeriu Filip, antreprenor și cofondator al mai multor companii. Ei au fost motivați de atacurile teroriste din Europa din acea vreme și de cercetările făcute de Radu în lucrarea sa de doctorat pe subiectul AI. Au pornit de la un studiu asupra analizei expresiilor faciale din imagini și fondatorii au transformat cercetările într-un proiect la care au adăugat și alte sisteme de detecție și de tracking de evenimente anormale, care întregesc paleta de servicii oferită de companie. 

Implicarea Orange în proiecte de smart city este motivată de nevoia de „a schimba în bine experiența cetățenilor, a business-urilor și a autorităților în orașe” după cum precizează Cristian Pațachia, Development & Innovation Manager Orange România. „Conceptul de oraș inteligent propus de Orange Business Services are la bază o platformă deschisă și interoperabilă, ce poate fi extinsă și adaptată nevoilor în schimbare ale cetățenilor și municipalităților.” Referitor la modul în care soluțiile sunt adaptate pentru fiecare oraș în parte, Cristian menționează că procesul include un audit unde se lucrează la „identificarea acelor probleme ce pot fi rezolvate ori simplificate prin tehnologie”. 

Inteligența Artificială în contextul smart city promite să aducă orașele către o nouă eră, unde siguranța de pe străzi să fie asigurată prin monitorizare video inteligentă constantă, accesul în instituții să se facă cu ajutorul recunoașterii faciale, transportul în comun să fie eficientizat pe baza asimilării de date referitoare la rutele aglomerate și la fluxul de oameni, cât și prin eficientizarea generală a serviciilor publice prin artificii tehnologice. 

Ca toate acestea să se desfășoare conform planului, resursa de bază necesară este o mină de controverse: datele personale. „De multe ori autoritățile locale, dar și corporațiile, vorbesc despre investițiile în tehnologie și smart cities ca fiind un bun absolut, că tehnologia nu poate face decât bine. Totuși, tehnologia ar trebuie înțeleasă cu tot cu posibilele probleme pe care le poate crea. Astfel, poți construi un oraș care să fie smart enough, și care să nu fie deloc acaparator”, explică Gruia.

Discuția referitoare la contextul în care datele personale pot fi utilizate de entități publice și mai ales de cele private e din ce în ce mai aprinsă de la lansarea reglementărilor GDPR. Curtea Europeană de Justiție a susținut în 2020 că acțiunea operatorilor de servicii de supraveghere ar trebui „limitată la strictul necesar”, iar transmiterea și păstrarea datelor de comunicații ar trebui realizată doar atunci când există o „amenințare gravă la adresa securității naționale”.

Utilizarea AI în folosul securității și bunăstării naționale și locale este des întâlnit în democrațiile liberale - 51 la sută dintre democrațiile avansate utilizează sisteme de supraveghere AI. Spre deosebire de echivalentul lor uman, algoritmii nu obosesc niciodată, iar acuratețea și precizia asociată acestor sisteme e mai eficientă decât o armată de dispeceri. Oricum, odată ce știi că ești constant urmărit și procesat de sisteme care au fost antrenate să descopere anormalul, tinzi să te conformezi „normalului”.

Când vine vorba de consimțământul pe care oamenii ar trebui să-l ofere pentru preluarea, procesarea și stocarea datelor personale, deși reglementările la nivel european există, implementarea lor în practicile naționale încă rămâne de dorit. Deși în lege scrie: „consimțământul ar trebui să fie dat printr-un act afirmativ clar care să stabilească o indicație liberă, specifică, informată și neechivocă a acordului persoanei vizate cu privire la prelucrarea datelor cu caracter personal care îl privesc”, definiția exactă a datelor personale poate lăsa urme de incertitudine referitor la ce întrece limitele: „Informațiile care, atunci când sunt prelucrate, ar putea avea un impact asupra unei persoane, chiar dacă acesta nu a fost scopul principal, sunt, de asemenea, considerate date personale”. Așadar, unde se sfârșește puterea GDPR-ului și unde începe o breșă a drepturilor omului?

Gruia subliniază că, atunci când ne raportăm la integrarea tehnologiei în spațiul public, e bine să ne întrebăm cine, ce și pentru cine face: „Când vorbim de «cine», ne gândim la corporații care dezvoltă tehnologii în propriul interes și pentru profit, sau la autorități, care le dezvoltă pentru control. Trebuie să ne întrebăm în ce măsură ajung aceste tehnologii să fie făcute de și pentru cetățeni.” Aici găsim diferența între smart city și civic tech, unde inițiativele vin de la firul ierbii, propunerile sunt făcute de organizații comunitare, ONG-uri sau direct de grupurile care vor folosi acea tehnologie pentru a obține avantaje comune, cu și pentru comunitate.

În Câmpia Turzii, odată cu primirea mandatului în 2016 și în urma discuțiilor cu poliția locală și cea națională, primarul Dorin Lojigan a constatat că numărul de camere de supraveghere aflate în funcțiune era unul scăzut și acestea nu erau suficient de performante pentru nevoile orașului, de la probleme cu depozitarea ilegală a gunoaielor la parcările neregulamentare din oraș.

Trendul investițiilor în supraveghere video intensă nu e de ieri, de azi. În urma unei cercetări finalizate, Gruia Bădescu a descoperit niște modele repetitive în valul de finanțări europene pentru integrare și dezvoltare urbană din 2010 în România: „Majoritatea orașelor analizate s-au dovedit atrase de instalarea de camere de luat vederi pentru reducerea infracționalității, în loc de crearea de centre comunitare sau locuințe sociale.”

Conform ANERSFR, coeficientul de criminalitate la nivelul Câmpiei Turzii era în 2020 de 151 la sută, în creștere față de 2019, domeniul de încadrare a ratei de criminalitate fiind unul ridicat comparativ cu media criminalității județene de 9,27 la sută. Sistemul implementat de Orange în parteneriat cu SecurifAI include peste 130 de camere video de supraveghere și este poziționat în zonele fierbinți ale municipiului: la intrările și ieșirile din oraș, în intersecțiile aglomerate, în zonele cu risc de depozitare neconformă a deșeurilor, în piețe, parcuri, locuri de joacă, dar și la periferia orașului și în zonele în care au cel mai des loc spargeri de locuințe.

Locuitorii au fost înștiințați de implementarea proiectului și în zonele cu camere de supraveghere există plăcuțe avertizoare, dar oricum singurul mod de a evita fluxurile video este să rămână în case.

De ce ar fi necesară implementarea serviciilor de supraveghere inteligentă în orașele mici și mijlocii, unde nu se întrevede vreun atac terorist prea curând?

În perspectiva SecurifAI, aceste sisteme eficientizează munca oamenilor și sporesc siguranța resimțită de locuitori. „Eu am experiență în AI cât să-mi dau seama că sistemele nu pot funcționa independent. Încă nu am ajuns în punctul în care sistemele să ia decizii singure – deși lumea are impresia că AI o să preia omenirea, suntem departe de punctul ăsta. Sistemele nu funcționează independent pentru că și ele, la fel ca oamenii, pot să mai greșească, pot da detecții false. Nu pot să dai amendă unui om despre care sistemul a spus că a parcat într-un loc interzis dacă el s-a oprit acolo cu o avarie și sistemul nu și-a dat seama de lucrul asta. Decizia finală o ia omul”, susține Radu Ionescu, CTO SecurifAI.

În Câmpia Turzii, în pachetul de servicii oferit de SecurifAI au fost integrate sistemul de detecție și urmărire de mașini, pentru identificarea evenimentelor anormale, sistemul pentru detecția aruncării gunoiului, sistemul de recunoaștere a plăcuțelor de înmatriculare pentru evenimente în trafic sau la locul accidentului, cât și un sistem pentru conformitatea cu GDPR, care aplică pe imaginile video preluate un efect de blur care împiedică identificarea directă a persoanelor.

Când vine vorba de recunoașterea și etichetarea elementelor surprinse în fluxurile video, în funcție de seturile de date pe care a fost antrenat algoritmul din spatele serviciilor și calitatea imaginilor prelucrate, acestea pot returna răspunsuri eronate, fenomen cunoscut ca algorithmic bias. Și SecurifAI recunoaște limitările sistemelor sale, referitor la acuratețe și precizie: „Lucrăm constant la adaptabilitatea sistemul fix, pentru eliminarea detecțiilor false. Nu ne putem asigura sută la sută că nu trimitem alerte eronate. AI nu poate să funcționeze perfect sută la sută. Sunt cazuri în care ne uităm pe imagini video și nu ne dădeam nici noi seama dacă acolo e o persoană sau nu, dacă sunt condiții de ploaie, furtună sau ceață. Încercăm să adaptăm sistemul și, pe măsură ce adăugăm date, să-l îmbunătățim.”

Conform unui studiu IBM, persoanele de culoare au șanse mult mai ridicate să fie identificate greșit de sistemele de supraveghere inteligente, deoarece bazele de date disponibile online pe care se realizează cel mai des antrenarea algoritmilor au subiecți majoritari albi. Odată identificați greșit și introduși în bază de date, aceștia cu greu se mai poți dezlipi de repercusiunile care vin la pachet.

În cazul soluției din România, SecurifAI susține că a analizat situațiile de tip bias pe zona de expresii și recunoaștere facială, vârstă și gen și a încercat să testeze sistemele pentru vârste diferite. „Unde am văzut că nu funcționează egal, am încercat să ajustăm. La estimarea de vârstă, am observat ca sistemul funcționa foarte bine pe intervalul 20-40 de ani și mai slab pe extremități, iar aici, ca soluție, am adăugat date pe celalalte categorii de vârsta pentru a crește performanța”, explică Radu Ionescu.

„Pentru că această temă a orașelor smart e sensibilă, implicarea locuitorilor e esențială. A implica tehnologii care colectează date de la locuitori e foarte problematic, iar cetățenii trebuie să știe ce se întâmplă și să se poată opună”, susține Gruia. Ca exemplu pozitiv în cazul tehnologiilor utilizate pentru binele comunității, Gruia menționează primăria din Stockholm, care a introdus o aplicație prin care cetățenii pot raporta probleme din comunitate, fie o groapă, fie o defecțiune din spațiul public. „În momentul în care creezi o un spațiu pentru participarea continuă a cetățenilor și îi implici în deciziile luate, creezi civic technology care va duce la o dezvoltare armonioasă și la formarea unui smart city mult mai democratic decât cel deținut doar de stat sau de corporații.”

Radu vede viitorul fără tehnologie ca unul neeficient: „Tehnologia trebuie să rămână la nivelul de a oferi alerte și rapoarte oamenilor care sa ia decizia finală în fiecare situație. Deși acuratețea sistemului e mai bună decât a oamenilor, există o problemă de etică nesoluționată: trolley paradox. Ai o mașină autonomă cu trei pasageri și un om care apare pe stradă. Sistemul trebuie să ia decizia dacă trage de volan și e posibil să rănească pasagerii sau dacă rănește persoana de pe carosabil. E posibil ca decizia luată de sistem să nu-ți convină. E mai bine ca deciziile astea să nu fie făcute de sisteme, deoarece nu există o soluție perfectă”, conchide acesta.