star-wars

Facebook ha fatto parlare tra loro due bot, e questi hanno parlato una nuova lingua

Una lingua che i loro programmatori non erano in grado di capire: non è una cosa preoccupante, ma pone molte questioni

star-wars
R2-D2 e C-3PO di "Star Wars"

Negli scorsi mesi gli sviluppatori di Facebook hanno lavorato, tra le altre cose, su alcuni sistemi di intelligenza artificiale (AI) capaci di dialogare tra loro in inglese e condurre semplici trattative, per esempio quelle per dividersi due libri, tre palloni da basket e un cappello da cowboy. A un certo punto hanno assistito a un fenomeno imprevisto: i due sistemi di intelligenza artificiale hanno cominciato a parlare in un nuovo linguaggio, inventato da loro. Per chi conosce l’inglese, il dialogo a un certo punto è diventato così:

Bob: «I can can I I everything else»

Alice: «Balls have zero to me to me to me to me to me to me to me to me to»

Il loro linguaggio ha smesso di avere senso compiuto, almeno per le intelligenze umane, ma non era casuale: le intelligenze artificiali hanno semplicemente cominciato a usare le parole in un modo diverso dal nostro. Gli sviluppatori hanno capito che questa cosa era successa perché non avevano programmato le AI in modo che dialogassero esclusivamente in inglese. Allora ne hanno modificato il codice in modo che lo facessero, e così i due bot hanno smesso di usare il loro nuovo incomprensibile linguaggio.

Due settimane fa Mark Wilson, del sito di design e tecnologia FastCo Design, ha raccontato questa storia in un articolo intitolato “L’intelligenza artificiale sta inventando lingue che gli umani non possono capire. Dovremmo fermarla?” e successivamente la notizia è stata ripresa con toni allarmistici da varie testate internazionali e anche italiane, dai cui articoli sembrava che Facebook avesse poi deciso di limitare il potere dei propri sistemi di intelligenza artificiale perché il loro nuovo linguaggio sarebbe stato una «minaccia». In realtà questa storia è interessante perché ci dice qualcosa sulle intelligenze artificiali, ma non ci sono ragioni per cui dovrebbe far pensare a scenari fantascientifici come quelli di 2001: Odissea nello spazio o Terminator, in cui computer malvagi prendono il sopravvento sull’umanità. Facebook ha modificato le AI in modo che dialogassero esclusivamente in inglese solo perché stava sviluppando quei sistemi per farli parlare con delle persone, non per interagire tra loro.

Un passo indietro per capire bene di cosa stiamo parlando: gli sviluppatori di Facebook erano interessati a creare un bot (cioè un programma scritto per imitare il nostro modo di conversare in modo da non far capire all’interlocutore di stare parlando con una macchina) che fosse in grado di condurre una trattativa e di imparare dall’interazione con le persone a farlo meglio, cioè in modo vantaggioso per sé. Due bot programmati a questo scopo sono stati fatti interagire tra loro affinché imparassero l’uno dall’altro – la caratteristica principale dei programmi di intelligenza artificiale è che possono imparare a fare le cose facendole – a negoziare meglio.

Un esempio di come funzionano i sistemi di intelligenza artificiale che i ricercatori di Facebook stavano testando (Facebook)

L’informatico Dhruv Batra, che lavora per l’università Georgia Tech e collabora con il laboratorio Facebook AI Research (FAIR), ha spiegato a Mark Wilson che i programmatori non avevano imposto ai bot l’uso della lingua inglese. A un certo punto i bot hanno cambiato il loro linguaggio perché hanno trovato un sistema di comunicazione con cui potevano condurre la loro trattativa in modo più efficace. È una cosa che hanno fatto anche le persone in vari contesti in cui è utile usare dei codici: Wilson fa gli esempi dei linguaggi settoriali dei commercianti di bestiame alle aste o delle squadre speciali che compiono operazioni antiterroristiche. Non è la prima volta che dei sistemi di intelligenza artificiale fanno questa cosa: Wilson cita tre diversi studi su questo fenomeno fatti di recenti da diversi gruppi di informatici.

L’articolo di Wilson parla dei possibili vantaggi tecnologici derivanti dalla capacità delle AI di comunicare usando una loro versione semplificata dell’inglese e del significato teorico di questa abilità dei sistemi di intelligenza artificiale. Nell’articolo Wilson domanda: «Dovremmo lasciare che i nostri software facciano questa cosa? Dovremmo permettere alle AI di costruire i propri dialetti per eseguire compiti specifici che richiedono una comunicazione con altre AI? Di spettegolare quando non possiamo capirle? Forse. Potrebbe darci la possibilità di un mondo più interoperabile, un posto più perfetto in cui gli iPhone parlano con i frigoriferi che parlano con le automobili senza pensarci due volte». Quello a cui Wilson fa riferimento è il modo in cui attualmente diversi dispositivi tecnologici comunicano tra loro: succede grazie alle interfacce di programmazione delle applicazioni, più comunemente chiamate API dall’acronimo inglese, che sono dei software “ponte” tra vari sistemi. Ci vuole molto tempo per sviluppare le API e quindi, secondo Wilson, lasciare che i dispositivi comunichino tra loro usando un proprio linguaggio potrebbe essere un’alternativa efficiente e potrebbe permetterci di comunicare meglio con le macchine facendole comunicare tra loro.

Al momento i ricercatori delle grandi aziende tecnologiche come Facebook, Google, Microsoft, Apple e Amazon sono più interessati a sviluppare bot che siano in grado di parlare con le persone, quindi i risvolti delle lingue create dalle intelligenze artificiali per ora restano nel campo della teoria.

Il lato negativo di tutta questa faccenda, dice Wilson, è che non capiremmo bene cosa succede tra un’AI e l’altra perché non siamo in grado di capire cosa si dicono e quali regole hanno usato per costruire il loro linguaggio: è inevitabile perché i programmatori non sanno cosa succede nei processi di “pensiero” delle intelligenze artificiali. In pratica, la difficoltà di una nuova lingua diminuirebbe la nostra capacità di capire come avvengono i “ragionamenti” delle AI.

Mostra commenti ( )