Gli assistenti vocali e le vite degli altri

Ci sono persone che per lavoro ascoltano quello che dite ad Alexa, Siri e Google, scrive Bloomberg

Dal film "Le vite degli altri"

Gli assistenti vocali – come quelli di Amazon, Google e Apple – stanno diventando strumenti sempre più familiari nelle nostre vite: moltissime persone li utilizzano ogni giorno chiedendo le cose più disparate, dalle previsioni del tempo al risultato di una partita, dalle notizie di oggi alla canzone che vorremmo ascoltare. Questi dispositivi generalmente restano sempre in ascolto, ma si attivano solo nel momento in cui viene pronunciata una determinata frase (“Alexa” per Amazon Echo, “Ehi Siri” per i dispositivi Apple, “Ehi Google” o “Ok Google” per quelli di Google). Tutte le domande che rivolgiamo loro dopo il comando di attivazione vengono registrate e conservate nei server di queste aziende – a meno che non le si elimini manualmente – ma non solo: vengono anche ascoltate da qualcuno, nel senso di qualche persona.

Dentro Amazon, Google e Apple, infatti, ci sono delle persone che ascoltano ogni giorno migliaia di ricerche vocali di utenti di tutto il mondo, al fine di migliorare la qualità dell’assistente vocale, insegnandogli a rispondere correttamente alle diverse richieste. È una cosa di cui si sa molto poco e che le stesse società non hanno mai spiegato pubblicamente, viste le implicazioni sulla privacy delle persone. Bloomberg ha raccontato le storie di sette dipendenti di Amazon che per lavoro ascoltano le conversazioni delle persone con Alexa, l’assistente vocale dei dispositivi Amazon Echo. Tra loro ci sono sia dipendenti a tempo pieno di Amazon che collaboratori, che lavorano da diverse città del mondo per circa nove ore al giorno, ascoltando fino a mille file audio per turno di lavoro. Amazon ha specificato che i lavoratori non hanno modo di identificare le persone che parlano in una registrazione.

Il loro lavoro è piuttosto meccanico: si limitano a trascrivere quello che la persona ha chiesto ad Alexa, specificando di volta in volta a cosa si riferisca. L’obiettivo è rendere gli assistenti vocali sempre più affidabili, insegnandogli nuove parole o modi di dire e allenando l’algoritmo a commettere il minor numero possibile di errori nelle risposte alle richieste degli utenti. In alcuni casi però, racconta Bloomberg, queste persone ascoltano anche conversazioni che dovrebbero rimanere private e che soltanto per caso sono state captate da Alexa, come una persona che canta sotto la doccia o un bambino che piange. È capitato anche che queste persone ascoltassero per caso registrazioni di fatti con possibili implicazioni criminali, come quando due impiegati rumeni si trovarono davanti quella che credettero essere un’aggressione sessuale. I due hanno detto di averlo riferito ai loro superiori, per sapere come avrebbero dovuto comportarsi, ma gli fu risposto che non era compito di Amazon intervenire.

«Prendiamo molto seriamente la sicurezza e la privacy delle informazioni personali dei nostri clienti», ha detto Amazon a Bloomberg. «Noi annotiamo solo una parte estremamente piccola delle registrazioni di Alexa per migliorare il nostro servizio. […] Abbiamo garanzie tecniche e operative rigorose e abbiamo una politica di tolleranza zero per l’abuso del nostro sistema». Bloomberg è riuscita a visionare un documento interno che mostra come alle conversazioni registrate e ascoltate da Amazon non sono associati il nome completo dell’utente o l’indirizzo, ma che era visibile il loro nome proprio, il numero del loro account e il numero seriale del dispositivo usato.

Nella pagina delle domande frequenti relative all’uso di Alexa, Amazon non dice che le conversazioni fatte con l’assistente vocale vengono ascoltate da qualcuno, ma si limita a dire che Alexa utilizza le registrazioni vocali «per rispondere alle tue domande, soddisfare le tue richieste e migliorare la tua esperienza e i nostri servizi». Non c’è un modo per impedire che le proprie conversazioni siano ascoltate da qualcuno, ma si può scegliere che non vengano utilizzate per lo sviluppo di Alexa: in questo caso bisogna andare nel menu delle impostazioni sulla privacy del proprio account Alexa e disattivare la funzione “Contribuisci allo sviluppo di nuove funzionalità”.

L’inchiesta di Bloomberg si è concentrata su Amazon, ma sembra che cose simili accadano anche ad Apple e Google. In un documento sulla sicurezza e la privacy degli utenti, Apple dice che le conversazioni avute con Siri, il suo assistente vocale, vengono conservate per sei mesi nei server per permettere all’algoritmo di imparare le abitudini e le preferenze dell’utente, e dopo ne viene fatta una copia che può essere utilizzata per altri due anni da Apple per migliorare il sistema di riconoscimento vocale. Apple specifica che alle registrazioni non sono associate informazioni che potrebbero permettere l’identificazione delle persona che parla, e aggiunge che una piccola parte delle registrazioni può essere utilizzata anche dopo due anni per l’ulteriore sviluppo di Siri.

Secondo Bloomberg anche a Google ci sono alcuni dipendenti che possono ascoltare le conversazioni avute con il suo assistente vocale, Google Assistant, per migliorare il servizio. Anche in questo caso le registrazioni non sono associate alle informazioni personali degli utenti, e in più l’audio è conservato in forma distorta in modo che le voci non siano riconoscibili.