Tech by VICE

La nuova IA di Google chiama la gente al posto tuo, e lo fa spaventosamente bene

La sottile linea che separa il "CHE BOMBA" dal "OH CAZZO".

di Giulia Trincardi
09 maggio 2018, 3:35pm

Un paio di giorni fa, ho ricevuto una chiamata promozionale pre-registrata — di per sé, niente di nuovo, fatta eccezione per un dettaglio: la voce si è presentata con un nome proprio: “Ciao, sono Maria, ti chiamo da [azienda telefonica a caso].” L’episodio mi ha fatto riflettere e mi sono chiesta: quanto manca perché queste voci passino da essere solo automatiche a essere intelligenti, fino a risultare umane senza esserlo?

A quanto pare, molto poco. Giusto una manciata di ore fa, alla conferenza per sviluppatori I/O — evento che Google tiene ogni anno a Mountain View — il CEO del colosso tech Sundar Pichai ha presentato in anteprima Google Duplex, il nuovo assistente vocale IA che sbriga telefonate noiose al posto tuo. E lo fa davvero bene.

Duplex è pensato per sollevarti dalla gestione telefonica di cose come fissare appuntamenti di lavoro, sedute dal parrucchiere e prenotazioni al ristorante — il tutto relazionandosi magnificamente con le sfumature della voce umana che sente. Infine, invia una notifica di conferma a cose fatte.

La cosa che ha lasciato sconvolto il pubblico di I/O (e la sottoscritta), però, è che è impossibile riconoscere come artificiali le voci di Duplex. In uno degli esempi di conversazione offerti da Pichai, si sente Duplex addirittura mormorare un “mh-mh” assertivo, mentre la parrucchiera (umana) dall’altra parte chiede di attendere in linea mentre controlla l’agenda del salone; nel secondo esempio, la IA riesce a uscire con estrema eleganza da un’incomprensione dovuta alla scarsa conoscenza dell’inglese del suo interlocutore. Nel video dell’evento si sente il pubblico ridere colpito davanti a entrambe le scene — che possiamo considerare il ponte definitivo sulla famosa uncanny valley, almeno per le nostre orecchie.

Per quanto la tecnologia dietro a Duplex — il risultato di anni di lavoro in campi come natural language understanding, deep learning e texture speech, spiega Pichai — lasci a bocca aperta, non sono tardati i dubbi sulle sue potenziali implicazioni negative. Nel momento in cui disponiamo di una versione di Alexa/Siri/Cortana che è a tutti gli effetti capace di interagire con gli esseri umani — oltre che con Spotify o il browser per illuminarci sulla vera ricetta della carbonara —, cosa ci assicura che l’utilizzo della stessa sia sempre benevolo?

Il passo per finire a usare Duplex per chiudere relazioni d’amore o intasare qualche azienda o esercizio di messaggi di spam e false prenotazioni estremamente sofisticati potrebbe essere breve.

Inoltre — come alcuni hanno commentato sotto il video della conferenza — per interagire con una persona al telefono, un’intelligenza artificiale avrà plausibilmente bisogno di registrare la conversazione in qualche modo. Come eserciti il tuo consenso nei confronti di un robot che potrebbe registrare la vostra conversazione, se non sai neanche di stare parlando con un robot?

È possibile immaginare che, nel prossimo futuro, gli assistenti vocali debbano dichiarare all’inizio della telefonata di essere un’intelligenza artificiale? O finiremo per delegare tutte le nostre telefonate a Duplex che parleranno solo con altri Duplex e il loro livello di cortesia reciproca non avrà importanza?

Sono un sacco di domande ancora vaghe — al limite dell’esistenziale, forse — ma come il passato recente ha dimostrato, le tecnologie innovative presentate a Google I/O hanno determinato anche e soprattutto discussioni successive significative in termini di privacy e rimodellamento del nostro rapporto con i dati che permettiamo a Google di raccogliere su di noi, in cambio di un nuovo strumento con cui facilitare la gestione della nostra vita quotidiana.

Vuoi restare sempre aggiornato sulle cose più belle pubblicate da MOTHERBOARD e gli altri canali? Iscriviti alla nostra newsletter settimanale.