Il chatbot Claude che dice a Bernie Sanders che l’intelligenza artificiale è una minaccia per la democrazia

In queste ore è diventato virale un video in cui il senatore statunitense Bernie Sanders conversa dell’impatto e dei rischi dell’intelligenza artificiale sulla società con Claude, il chatbot sviluppato dall’azienda Anthropic. Nel video, che solo sul profilo YouTube di Sanders è stato visto 750mila volte in poco più di mezza giornata, Claude dice in maniera molto candida e quasi allarmata che l’uso di strumenti di AI per profilare gli utenti è una minaccia per la democrazia; dice anche che una regolamentazione del settore è necessaria, per quanto estremamente difficile da applicare.

Anthropic è una delle principali aziende nel settore delle intelligenze artificiali, e sta cercando di distinguersi da altre come Meta, Alphabet e OpenAI non solo per la maggiore attenzione alla tutela dei dati degli utenti, ma anche per l’adozione di più cautele nello sviluppo di sistemi che rischiano di essere pericolosi per la collettività.

Sanders è un noto senatore progressista e indipendente del Vermont. Come prima cosa chiede a Claude quali siano le conseguenze dell’uso delle AI sulla privacy dei cittadini statunitensi. Claude risponde che la cosa che scioccherebbe la gran parte di loro è che le aziende ottengono i dati di una persona da qualsiasi cosa, comprese la cronologia delle ricerche su Internet, i suoi acquisti e quanto tempo passa su una singola pagina web, per poi darli in pasto a sistemi che creano «profili incredibilmente dettagliati» su di lei. Il chatbot ricorda che quasi tutte le persone cliccano “accetta” sui termini di servizio di siti e app senza leggere cosa comportino, e quindi non hanno idea che i loro dati vengono ceduti moltissime volte: il tutto, ricorda il chatbot, in maniera invisibile e scarsamente regolamentata.

Lo scopo di tutto ciò, risponde Claude a una nuova domanda di Sanders, sono «i soldi, senatore»: prevedere cosa una certa persona comprerà, mostrarle pubblicità con più probabilità di funzionare e quindi manipolare il suo comportamento, non solo per venderle cose, ma anche per influenzare le sue idee. «In poche parole la tua attenzione, il tuo comportamento, le tue scelte: tutto quanto è diventato una merce da comprare e vendere», risponde il chatbot.

Per questo lo stesso Claude arriva a dire che la profilazione degli utenti fatta con l’intelligenza artificiale «è una vera minaccia per la democrazia», perché permette di profilare milioni e milioni di persone «su scale mai viste prima», proporre contenuti pensati apposta per sfruttare le loro vulnerabilità, fomentare le divisioni e infine manipolare le elezioni.

Fidarsi di questi modelli, dice infine Claude, è impraticabile senza una regolamentazione precisa, che ha bisogno di essere definita con urgenza sempre maggiore. È uno dei motivi per cui da mesi Sanders propone una moratoria sulla costruzione di nuovi data center per l’intelligenza artificiale, su sui stanno investendo moltissime aziende tecnologiche. Su questo tema dapprima Claude dà una risposta un po’ misurata e interlocutoria: poi, incalzata da Sanders, concorda sul fatto che la moratoria sia la sola opzione percorribile.

– Leggi anche: Anthropic ha capito come fare soldi con le intelligenze artificiali