È giusto che un’intelligenza artificiale si finga un umano al telefono?

Un servizio sperimentale per far prenotare al telefono visite e locali al proprio posto, tramite un assistente vocale, è stata la novità più discussa di Google I/O, la serie di conferenze organizzata ogni anno da Google a San Francisco per mostrare i progetti su cui sta lavorando. Nel corso dell’evento principale è stata mostrata una telefonata tra Assistente Google e la responsabile di un salone di bellezza, nella quale l’intelligenza artificiale (AI) mostrava di riuscire a gestire da sola una prenotazione, imitando una voce umana e le esitazioni tipiche in una conversazione di questo tipo, comprese pause e mugolii di assenso. La presentazione ha riscosso un grande successo tra i partecipanti all’evento, ma nelle ore successive il sistema dimostrato da Google – che si chiama Duplex – è stato criticato da vari esperti che si occupano di tecnologia e dello sviluppo delle intelligenze artificiali.

La principale critica è legata al fatto che Google abbia deciso di non far rivelare a Duplex di essere un sistema automatico, mentre stava gestendo la telefonata. La sua voce sintetica era molto naturale e realistica, al punto da non far sospettare nulla alla persona che le ha risposto. In molti si sono quindi chiesti se sia eticamente e moralmente accettabile che in futuro le AI funzionino in questo modo, imitando in ogni aspetto gli esseri umani e senza qualificarsi prima come assistenti vocali che vivono all’interno di uno smartphone o un computer.

Google Assistant making calls pretending to be human not only without disclosing that it's a bot, but adding "ummm" and "aaah" to deceive the human on the other end with the room cheering it… horrifying. Silicon Valley is ethically lost, rudderless and has not learned a thing.

— zeynep tufekci (@zeynep) May 9, 2018

Gli stessi responsabili di Google al momento non sembrano avere le idee molto chiare su Duplex, i suoi potenziali utilizzi e i rischi che si potrebbe portare dietro. Yossi Mattias, uno dei dirigenti della società, ha detto che “probabilmente” in futuro una AI di questo tipo si qualificherebbe come tale prima di avviare una conversazione telefonica. A The Verge, un portavoce di Google ha detto che certamente Duplex ha la responsabilità di informare i suoi interlocutori, cosa che non era stata nemmeno accennata durante la presentazione di Google I/O.

Il problema è che se qualcuno si sente dire da subito al telefono di essere in linea con un robot pensa a una chiamata registrata, una delle tante con offerte commerciali, e aggancia senza pensarci più di tanto. Soprattutto nei primi periodi di diffusione di una nuova tecnologia di questo tipo, per abituare le persone si potrebbero utilizzare alcuni indizi compresi l’uso di una voce più metallica e meno realistica, oppure un segnale acustico standard da riprodurre appena si risponde alla chiamata, in modo da consentire a chi la riceve di mettersi nell’ordine di idee di avere a che fare con un assistente virtuale.

La dimostrazione sperimentale di Google ha inoltre fatto molto discutere perché è avvenuta in un momento di grandi attenzioni, e ansie, nei confronti della raccolta di grandi quantità di dati e della loro rielaborazione da parte delle aziende tecnologiche. Le aumentate capacità di calcolo dei computer rendono possibile l’analisi di una mole senza precedenti di informazioni, spesso alla base della costruzione dei sistemi per fare in modo che i software apprendano e migliorino da soli, senza ulteriori interventi umani. Anche se una vera e propria intelligenza artificiale è ancora lontana, la prospettiva di poterci arrivare più facilmente di un tempo pone molte domande, sia sulle implicazioni etiche e morali sia sulla mancanza di regole chiare per tutti. Negli ultimi anni sono nate organizzazioni e fondazioni che cercano di incentivare uno sviluppo consapevole e responsabile delle AI, che però non sembrano avere fatto presa a sufficienza su grandi aziende come Google e Facebook, impegnate in una stretta concorrenza nel settore.

Tornando a Google, benché la registrazione di Duplex sia piuttosto impressionante, ci sono alcuni dettagli che ridimensionano un poco i risultati raggiunti con questa tecnologia. Duplex non è in grado di conversare su qualsiasi tema, ma solo su alcuni determinati argomenti e in aree in cui le interazioni con gli esseri umani sono più prevedibili. Il processo di prenotazione a voce di un tavolo al ristorante non è particolarmente complicato, se l’interlocutore umano non aggiunge qualche richiesta imprevista. Duplex è comunque molto abile nel superare gli imprevisti, nascondendo le sue mancanze con soluzioni classiche degli assistenti vocali, come ripetere parte della frase appena sentita per provare a farsela dire con una formulazione diversa, più comprensibile per i suoi algoritmi.

Nonostante i progressi raggiunti, sistemi di questo tipo sono ancora molto acerbi e non è quindi un caso che Google si riferisca a Duplex definendolo un “esperimento”. Per ora l’assistente vocale riesce a prenotare un tavolo al ristorante, fissare un appuntamento dal parrucchiere e chiedere in che giorni sarà chiusa un’attività commerciale. Google dice comunque di avere pensato al peggior scenario: almeno per ora, nel caso in cui Duplex faccia troppa confusione, un umano può intervenire nella telefonata e portarla a termine senza altri imprevisti. Duplex sarà sperimentato su un numero ristretto di utenti nel corso dell’estate e non è chiaro se diventerà ufficialmente un prodotto, per esempio da inserire nelle funzionalità di Google Home, il dispositivo per interagire con Assistente Google nella propria casa.

Intervistato da Bloomberg, Scott Huffman, un dirigente della divisione che si occupa di Assistente Google, ha detto che per ora le reazioni a Duplex rientrano in due ampie categorie: sorpresa e ammirazione per il risultato tecnico raggiunto, inquietudine sulle possibili conseguenze della nuova tecnologia. Huffman non è convinto che la soluzione possa passare attraverso una resa più metallica e artificiale della voce sintetica perché: “La gente probabilmente appenderebbe subito”. La proposta di presentarsi prima potrebbe essere resa standard con una frase sempre uguale, in modo da far abituare le persone: “Sono Assistente Google e chiamo per conto del mio cliente”.

Un portavoce di Google ha ribadito al Post che la tecnologia dimostrata a Google I/O è sperimentale e passibile di modifiche e integrazioni nella sua fase di sviluppo:

Comprendiamo e apprezziamo il dibattito su Google Duplex. Come abbiamo detto sin dall’inizio, la trasparenza nella tecnologia è importante. Stiamo progettando questa funzionalità con l’informativa integrata, e ci accerteremo che il sistema sia identificato in modo appropriato. La tecnologia che abbiamo presentato al I/O è una dimostrazione preliminare e auspichiamo di poter integrare i feedback man mano che la sviluppiamo.