I problemi dei dispositivi che ci ascoltano in continuazione

Negli ultimi anni diverse aziende e startup hanno messo in vendita dispositivi basati sull’intelligenza artificiale pensati per ascoltare continuamente l’utente, in modo da analizzarne le conversazioni, ricordare appuntamenti e dare consigli sulla base di quanto sentito nel corso del giorno.

Un caso emblematico, in questo senso, è quello di Friend, una startup statunitense che nel 2024 presentò un dispositivo a forma di ciondolo, in grado di ascoltare in continuazione quello che l’utente diceva e dare consigli con un tono diretto e ironico. Altre aziende, come Pocket e Plaud, hanno creato prodotti pensati per le riunioni e per gli ambienti di lavoro, in grado di registrare quanto viene detto per poi riassumerlo o analizzarlo sulla base delle richieste dell’utente.

La diffusione di prodotti simili sta già cambiando le abitudini di molti utenti, sempre più abituati a comunicare vocalmente con i sistemi AI con cui lavorano, ma sta anche generando polemiche sui rischi legati alla violazione della privacy delle persone che potrebbero essere registrate senza il loro consenso. Da questo punto di vista, il fenomeno ricorda quello dei Ray-Ban Meta Glasses, gli occhiali smart di Meta.

Pur non essendo progettati per un ascolto continuo e indiscriminato, infatti, questi dispositivi sono dotati di fotocamere, sensori e microfoni, e possono quindi registrare e riprendere in qualsiasi momento, spesso passando inosservati. L’unico segnale è infatti una spia luminosa sulla montatura che si accende mentre l’apparecchio sta registrando. Il risultato è che molti utenti li usano per riprendere persone che non ne sono al corrente e pubblicare questi video online, motivo per cui sono stati molto criticati e soprannominati “pervert glasses”, occhiali da pervertito.

– Leggi anche: Gli occhiali di Meta vendono bene ma razzolano male

La reazione negativa legata a questi abusi ha spinto Meta a intervenire con un nuovo modello di occhiali smart “audio-only”, cioè senza videocamera.

Il problema della violazione della privacy altrui – di amici, colleghi e passanti che non sanno di essere registrati – però rimane. Secondo Guido Scorza, giurista ed ex componente del Garante per la protezione dei dati personali, «questi e altri dispositivi esistono ed esisteranno sempre di più». Fanno parte di quello che definisce un «baratto», ovvero un processo iniziato anni fa con i social network e gli smartphone, per cui l’utente ottiene dei servizi in cambio della condivisione di dati personali con le aziende.

Stando al Regolamento europeo sui dati personali (GDPR), le responsabilità di eventuali abusi o invasioni della privacy altrui ricadono sul fornitore del servizio che raccoglie e tratta i dati registrati, non sul produttore del dispositivo che è stato usato: questi a volte coincidono, ma non sempre. Secondo Scorza, il regolamento potrebbe essere aggiornato specificando che anche il produttore può essere responsabile di eventuali abusi, se progetta un prodotto che «consente troppo facilmente invasioni della privacy da parte degli utenti».

​​La cattiva nomea di questi dispositivi non ha comunque impedito a Apple di presentare delle nuove funzionalità, Live Rewind e Siri Recap, che sembrano andare nella direzione dell’ascolto continuo degli utenti. Le novità hanno fatto molto discutere: per gli standard del settore, infatti, Apple è particolarmente attenta alla privacy dei suoi utenti, e le novità in questione sono state viste come un drastico cambio di strategia per l’azienda.

La decisione di Apple può essere però spiegata in due modi: da un lato, la necessità di inseguire Meta, che ha una posizione dominante nel settore degli occhiali smart; e dall’altro, la competizione nel settore delle AI, che sta spingendo molte aziende tecnologiche a produrre dispositivi simili.

Live Rewind e Siri Recap interessano per ora solo le versioni più avanzate dello smartwatch di Apple. Con Live Rewind si può ottenere una trascrizione di quanto detto negli ultimi 15 secondi premendo due volte la Digital Crown, la corona del dispositivo: è una funzione che può tornare utile durante conversazioni di lavoro, per esempio se ci si è distratti per un istante e si vuole essere sicuri di non aver perso dettagli importanti. Quanto a Siri Recap, invece, una volta attivata dall’utente permette di registrare le sue conversazioni per poi riassumerle e offrire consigli o promemoria.

– Leggi anche: I nostri cellulari non ci ascoltano

Le registrazioni di Live Rewind, però, non vengono salvate ma continuamente sovrascritte: quando l’utente richiede la trascrizione di quanto detto negli ultimi 15 secondi, la porzione di audio richiesta viene convertita in testo e la registrazione corrispondente eliminata. Le elaborazioni necessarie avvengono all’interno del dispositivo, in una parte isolata dal resto del sistema, detta Secure Enclave. Al momento dell’attivazione di Live Rewind, inoltre, Apple Watch emette un avviso sonoro per avvisare gli altri che l’utente sta utilizzando quel servizio (non sono invece previsti avvisi per Siri Recap).

Secondo Jenna Sherman, direttrice dell’organizzazione non profit UltraViolet, il problema principale è che questi dispositivi sono spesso attivi di default, e sta ai singoli utenti decidere se disattivarli. «Poter scegliere di disattivarli è molto diverso dallo sceglierli attivamente», ha spiegato al sito The Verge. «Nel primo caso una persona deve essere informata e scegliere consapevolmente qualcosa; nel secondo, la scelta è passiva e non mette alcun potere nelle mani del consumatore».

Quanto alle spie luminose o agli avvisi sonori, non possono essere considerate una soluzione. Anzi, conclude Sherman, «si finisce per scaricare sui consumatori la responsabilità di stare attenti a mille cose diverse, quando quella responsabilità dovrebbe essere, dal punto di vista etico e legale, delle aziende stesse».