L'importanza dell'etica per il futuro della tecnologia

La tecnologia si sta evolvendo molto più velocemente del previsto, e l'unico modo per evitare che internet si trasformi in una fogna è affidarsi all'etica.
24 maggio 2016, 12:52pm
via Wikipedia

All'inizio del 2016, la redazione americana di Motherboard ha pubblicato un articolo piuttosto interessante poco dopo la conclusione dell'ultimo State of the Union di Barack Obama (l'annuale discorso alla nazione del Presidente degli Stati Uniti)—La tesi era semplice: lo State of the Union di Obama ha parlato perlopiù di tecnologia perché, be', ormai praticamente tutto è tecnologia.

Non discuteremo qui della correttezza di questa affermazione, ma è indubbio che la sensazione sia quella: dopo che per anni l'argomento è rimasto ad esclusivo uso e consumo di una ristretta cerchia di adepti, da ormai diversi mesi la corsa all'informazione è evidente—Tutti parlano di tecnologia, ma in pochissimi sanno farlo.

Il problema, in questo senso, è davvero semplice: la tecnologia si muove più veloce di noi. Ammesso e non concesso che una persona qualunque voglia cominciare a esplorare questo mondo partendo già munita del bagaglio di conoscenze necessario per poter approfondire il tema, rimanere informati su tutte le tematiche che la tecnologia oggigiorno tocca è una faticaccia. Per questo motivo, uno dei tasti più delicati nell'ambito riguarda i principi etici da applicare allo sviluppo di questi strumenti: d'altronde come è possibile parlare di etica senza conoscere l'argomento da normare? Di questo si è parlato ampiamente nel corso del panel Data Revolution in real life, a cui hanno partecipato Nadia Pisanti (Università di Pisa), Anne Sophie Bordry (Tetramos) e Andrej Zwitter (Università di Groningen), durante la prima edizione di Data Driven Innovation | Rome 2016 Open Summit, una conferenza tenutasi Roma dal 20 al 22 maggio, dedicata all'innovazione e alle sfide tecnologiche, economiche e sociali legate ai Dati.

L'utente medio sfrutta degli strumenti di cui non conosce il funzionamento, e dunque non conosce i prodotti delle sue azioni sulla rete.

Come è possibile discutere di questo tipo di tematiche quando il dibattito si consuma nelle cerchie di pochi, informati burocrati o di pochissimi, tecnici programmatori? Il divario è evidente: l'utente medio sfrutta degli strumenti di cui non conosce il funzionamento, e dunque non conosce i prodotti delle sue azioni sulla rete—In breve, non ha idea della mole di dati che genera a partire da una banale ricerca su Google. Nella maggior parte dei casi questo tipo di conoscenza non solo è trasmessa ancora in maniera insufficiente, ma spesso si tratta di questioni così tecniche e approfondite da risultare incomprensibili a chi non ha completa dimestichezza con l'argomento.

Per Andrej Zwitter, professore di etica legale dell'Università di Groningen e membro del Netherlands Association for International Affairs, bisogna cambiare punto di vista: anziché sperare che il trattamento dei dati venga effettuato in maniera etica, bisogna costruire dei sistemi che implicano l'etica nel processo di trattamento stesso—È il principio dell'"ethics by design."

"Il principio dell'ethics by design prevede un sistema che permette la produzione e lo stoccaggio di un volume ben preciso di dati, niente di più dello stretto indispensabili," mi ha spiegato il prof. Zwitter per email. "Questo perché il potere che questi dati (e anche la conoscenza derivante da essi) ha fornito a coloro che li raccolgono è priva di qualsivoglia tipo di freno o controllo. I dati catturati dai sensori che ci circondano ogni giorno sono diventati così pervasivi e dettagliati da rilevare qualsiasi azione umana, che si tratti di cellulari, o di sensori nelle nostre macchine o nelle nostre case."

Il principio di trattamento etico dei dati sta per diventare una questione seriamente cruciale: fino ad oggi tutte le paranoie manifestate dagli addetti ai lavori (e recentemente il mio feed degli articoli qui su Motherboard ne è un perfetto esempio) potevano essere in qualche modo considerate borderline schizofreniche—Spesso e volentieri si fatica a discernere il mondo digitale percepito da chi lo vive in maniera approfondita ogni giorno da quello esperito dall'utente medio. Negli ultimi mesi, però, il mercato retail ha visto l'avvicendarsi forzato dello spettro dell'Internet of Things, l'internet delle cose.

Per anni etichettata come niente più che una moda tecnologica, i grandi produttori sembrano aver definitivamente deciso che è ora che l'internet of things diventi nei fatti una realtà concreta del nostro mondo fisico, oltre che di quello digitale. Proprio in questo senso, con l'imminente invasione di oggetti che nel loro apparente uso quotidiano creano un ponte di dati tra l'universo fisico e quello digitale, il principio dell''ethics by design' sta per diventare urgente. Se il flusso di dati generato su internet è stato finora esclusiva di chi, in un certo senso, aveva una minima idea di come funzionasse lo strumento, l'internet of things è pensato per raccogliere dati sul mondo che lo circonda anche quando l'utente di questi dati se ne fa ben poco. Proprio per questo motivo stabilire delle policy che regolino questi rilevamenti è fondamentale: per evitare che le aziende incaricate di raccogliere i dati abusino del loro potere.

"L'internet of things ci proietta nel mondo digitale," mi spiega il professore. "Per ora, gran parte di questi dati, quando non proviene dai nostri telefoni o da altri nostri dispositivi personali, non sono associati con la nostra identità. Ciononostante, la diffusione di chip RFID e identificatori simili presenti nei nostri smartphone o addirittura nei nostri corpi, per esempio, potrebbe permettere a dei sensori esterni di associare qualunque tipo di dato alla nostra persona,"—Quello che Zwitter mi ha descritto è un mondo biometrico parallelo a quello tradizionale: senza normative definite sui principi etici da applicare alla raccolta dei dati, smetteremo di produrre dati in quanto esseri umani e, al contrario, saremo umani in virtù dei dati che produciamo.

Penso sia arrivato il momento di ristabilire i nostri diritti sui nostri dati, di chiedere ai nostri governi di essere all'altezza del loro impegno per il rispetto dei diritti umani, e di chiedere alle aziende private di sviluppare dei piani per gestire questi dati compatibilmente ai diritti umani. Al momento, sembra che ogni cosa venga conservata per sempre, ed è un aspetto che deve cambiare. Nel mio paper ho proposto un nuovo modo per pensare ai dati, secondo la loro natura permanente o transitorie e a seconda che siano condiviso in senso privato o pubblico. — Emily Taylor, Come internet sta privatizzando i diritti umani

"Lo stiamo già facendo: stiamo associando al nostro DNA biologico un DNA digitale che descrive il nostro comportamento, ciò che ci piace e la nostra personalità. Questo DNA è in parte accessibile a chiunque abbia la giuste abilità tecniche. In questo senso siamo davvero giunti all'era dell'homo digitalis."

La questione non si manifesta solo a livello individuale: quando poche grandi aziende si adoperano nella raccolta sistemica di dati appartenenti a persone provenienti da tutto il mondo, il potere di influenza che ne deriva trasforma il ruolo di queste stesse aziende—Come recentemente dimostrato dal caso Apple vs FBI e dalle accuse rivolte a Facebook di modificare e censurare il flusso di news amplificato dal social network, sembra che la tendenza di queste entità del mondo della tecnologia sia quella di rivestire incarichi sempre più vicini alla sfera politica e il mezzo attravrso cui stanno operando questa trasformazione è l'iter di privatizzazione che sta venendo applicata i dati personali che vengono raccolti.

"Ogni piattaforma social amministra il nostro comportamento attraverso il codice e attraverso i termini di utilizzo che stabilisce," mi spiega Zwitter. "Assieme, il codice e i termini di utilizzo sono diventati i principi legislativi che governano il cyberspazio. Allo stesso tempo, la quantità di informazioni raccolte da queste aziende private su di noi è incredibile—Mi riferisco ai vari Google, agli altrettanti Facebook, ma parlo anche di tutte le entità che conservano questi dati e li rivendono in blocco agli inserzionisti pubblicitari e, a volte, ai criminali."

La biopolitica studia il modo in cui i sistemi, le istituzioni, le organizzazioni, le procedure e le attività di tutti i giorni includono elementi il cui scopo (implicito o esplicito, consapevole o meno) è quello di esercitare potere e controllo sul corpo e sulla psicologia delle persone. La biopolitica dei dati fa la stessa cosa, ma partendo dall'analisi delle pratiche connesse ai dati. — Salvatore Iaconesi, L'hacker che ha reso open-source il suo cancro al cervello

"L'utente medio non sa nulla di questi data center e rivenditori: queste aziende private hanno ottenuto il potere di informare e dimostrare riguardo ciò che sappiamo e riguardo le nostre sensazioni nei confronti di un determinato avvenimento—Lo dimostra il caso dello studio sull'umore portato avanti da Facebook—Il risultato è il cosiddetto Big Nudging, l'ingegnerizzazione di un comportamento desiderato attraverso degli stimoli basati sulle informazioni raccolte dalle preferenze delle persone," continua Zwitter.

"Allo stesso modo, i governi mirano a ottenere lo stesso potere—I governi, però, possono essere in un certo senso controllati attraverso i meccanismi della democrazia, ma questo non può succedere nel caso di aziende private," continua. "Un modo per controllarle consiste nel disseminare informazioni sulle loro azioni (a volte poco etiche) di modo da raggiungere il grande pubblico e riuscire così a fare pressione su di loro attraverso i meccanismi di mercato. Un altro modo è convincere i governi a obbligare queste aziende a rispettare gli stessi diritti umani a cui le istituzioni di governance devono rispondere," mi spiega. "In questo secondo caso, però, si presentano alcuni problemi: a) Le grandi corporation tendono a fuggire le giurisdizioni nazionali fornendo servizi in altri paesi in cui le normative sono meno rigide (internet non ha confini); b) Con la diffusione dei Big Data e del Big Nudging, ciò di cui abbiamo bisogno è una nuova concezioni di diritti che ancora non esistono, come la privacy collettiva e di gruppo (per esempio, i diritti di piccoli gruppi a combattere la profilazione e l'invasione della loro privacy condivisa e collettiva)," mi spiega Zwitter.

"Più di tutto, comunque, abbiamo bisogno che persone con un forte senso etico e capaci di mettere il benessere e la libertà degli individui e della società sopra tutto alla guida di queste grandi aziende. Ciò significa anteporre il principio dell'ethics by design ai guadagni economici."

"If it's for free, you're the product

Motherboard Italia20 maggio 2016

In un contesto di questo tipo, in cui si scontrano realtà di governance isolate dai confini nazionali e realtà aziendali che coprono superfici ormai trans-nazionali, pensare a dei principi di legislazione sostenibile può risultare difficile, se non impossibile—Potrebbe essere ragionevole ad applicare il principio dell''ethics by design' al concetto stesso di internet, ristrutturandolo per intero? "Credo che tentare di normare internet sia impossibile senza sacrificare gran parte dei suoi vantaggi," mi spiega il professore.

"Il rischio che i nuovi strumenti forniti da queste tecnologie vengano sfruttati per ottenere potere sugli altri è ovvio; ciononostante, questa tendenza aiuta a capire quanto, questo potere, sia basato sulla capacità di determinate entità di conoscere i loro utenti e di controllare le informazioni che arrivano a loro," mi spiega. "Credo che il modo migliore per combattere questi potere sia informare le persone, dai giovani studenti delle elementari fino ai pensionato, dagli avvocati fino agli informatici e agli ingegneri." La questione quindi sembra piuttosto basilare: laddove l''ethics by design' non è innestabile, l'unica via di uscita è informare gli utenti—Innalzare il livello di conoscenza dello strumento nella speranza che la questione etica emerga da sé.

"In breve, per l'utente medio, meglio conosce la tecnologia che sempre più sta cambiando la sua vita quotidiana, maggiori sono le probabilità che si interfacci ad essere in maniera responsabile," mi spiega. "Questo processo deve prevedere anche la trasmissione dei principi etici di base della nostra società—'Ethics by design' significa semplicemente che gli sviluppatori e gli ingegneri informatici, nello sviluppare queste nuove tecnologie, non devono rispondere solamente al codice deontologico che regola la loro professione, ma anche ai principi etici che regolano la società in senso più ampio."

Si tratta dunque di un cambiamento che può avvenire soltanto in senso verticale—Difficilmente avverrà dall'alto, perché che ci piaccia o meno queste violazioni dei principi etici nel trattamento dei dati da parte dell'industria sono ormai legate a doppio filo con dei flussi di denaro indispensabili per la sopravvivenza delle entità stesse. Quello che serve è un'educazione dal basso, di modo che gli stessi operatori dell'industria possano agire eticamente a partire direttamente dallo sviluppo delle tecnologie, "Se questi principi sono chiari, allora gli ingegneri al servizio di queste industrie private ci penseranno due volte prima di implementare artifici tecnici che potrebbero avere implicazioni sociali poco etiche," mi spiega il professore.

"Per questo motivo, io e Roberto Zicari—professore della Goethe Universitat di Francoforte, ndr—

abbiamo sviluppato 5 semplici principi

che ognuno di noi può seguire, anche in senso passivo semplicemente non agendo contro di loro, e che dovrebbero essere gli obiettivi finali di ogni tipo di industria globale:

  • Non fare del male.
  • Usa i dati per contribuire a creare un principio di coesistenza pacifica.
  • Usa i dati per aiutare le persone vulnerabili e i bisognosi.
  • Usa i dati per preservare e migliorare l'ambiente naturale.
  • Usa i dati per aiutare a creare un mondo equo privo di discriminazioni."