Dobbiamo controllare i nostri algoritmi, prima che ci distruggano

Un gruppo di ricercatori sostiene che l'umanità abbia bisogno di un 'Biosphere Code' che si assicuri che i nostri algoritmi siano sotto controllo, prima che distruggano l'ambiente.

Gli algoritmi—sequenze di numeri generate al computer per eseguire determinate operazioni—hanno un impatto incredibile sul nostro pianeta, spesso a nostra totale insaputa. Non si tratta solo di quelli che la NSA ha probabilmente impiegato per spiarci, ma di algoritmi che influenzano qualsiasi cosa dall'economia, alla musica, ai sistemi finanziari.

"Usiamo algoritmi per qualsiasi cosa, per monitorare l'ambiente, per fare proiezioni dei rischi finanziari, per determinare dove andare a pesca," mi ha detto Victor Galaz, uno degli autori del Biosphere Code Manifesto e ricercatore al Stockholm Resilience Centre. "È importante avere chiaro il quadro generale di come questi strumenti stiano dando forma al mondo."

Il Biosphere Code sostiene che gli algoritmi debbano essere controllati meglio, dato che sono alla base dell'infrastruttura tecnologica del mondo e contribuiscono "all'estrazione e allo sviluppo di risorse naturali come minerali, cibo, combustibili fossili." Il manifesto è stato redatto in sei mesi, ad opera di un gruppo di accademici, artisti, hacker, imprenditori, sviluppatori di videogiochi, attivisti, filosofi e ambientalisti. Il gruppo ha preso ispirazione dagli Oxford Principles del 2009, metro di analisi dei rischi della geoingegneria. Secondo Galaz, gli Oxford Principles sono la prova di come una lista scritta di valori possa far fiorire un dibattito più esteso.

In poche parole, il gruppo del Biosphere Code ha stabilito sette principi fondamentali, che invocano un maggiore impegno da parte di chi sviluppa software nel calcolare le potenziali conseguenze degli algoritmi, e che chiedono che gli algoritmi ad alto impatto sulla biosfera siano, tra le altre cose, open source.

"Se utilizzi determinati algoritmi nel modo giusto, puoi ottimizzare le cose in modo che siano elastiche," mi ha spiegato Anders Sandberg, un ricercatore al Future of Humanity Institute della Oxford University. "Puoi ottimizzare i processi per consumare meno risorse, o per capire quando qualcosa non va, così che le persone diventino consapevoli del problema più in fretta."

Galaz ha usato l'esempio del settore finanziario come situazione in cui l'uso scorretto di algoritmi potrebbe avere effetti dannosi sull'ambiente. Poche persone, ha detto, sanno esattamente chi siano i responsabili degli algoritmi finanziari che si occupano dei flussi economici e, se i dati generati da questi algoritmi fossero scorretti, potrebbero causare un crollo nel mercato. Il che potrebbe avere effetti devastanti sui produttori delle economie in via di sviluppo, i quali si troverebbero obbligati a stremare la propria terra per produrre ancora più raccolto, ha spiegato Galaz.

Ciò che i ricercatori vogliono è che si crei una maggiore consapevolezza del modo in cui gli algoritmi stanno dando forma alle nostre vite e a ciò che ci circonda.

"Spero che questo manifesto si diffonda, così che le persone possano riflettere sulla necessità di adattare gli algoritmi alla nostra società in continuo cambiamento," ha detto Galaz.

Benché le Climate Change Talks delle Nazioni Unite siano previste per la fine del 2015, Galaz ha detto che la funzione degli algoritmi e il loro ruolo nel dare forma all'ambiente non saranno argomento di discussione.

"Il punto cruciale è mettere la questione in agenda. Gli algoritmi sono responsabili di molto più del semplice search di Amazon—stanno plasmando il futuro del clima mondiale," ha detto.