L’intelligenza artificiale potrebbe ucciderci tutti?

C’è almeno un tratto comune tra i ricercatori e gli sviluppatori che nelle ultime settimane hanno annunciato le proprie dimissioni dalle aziende che si occupano di intelligenza artificiale (AI), come OpenAI e Anthropic. Le accusano di sottovalutare i rischi per l’umanità che possono derivare dalla creazione di AI sempre più potenti e con grandi autonomie. Alcuni di loro si sono spinti ancora oltre, sostenendo che tra non molto tempo la nostra specie potrebbe essere distrutta da una AI fuori controllo.

Sembra uno scenario da fantascienza, e secondo numerosi esperti a questo stadio dello sviluppo delle intelligenze artificiali lo è ancora, ma ormai da tempo vengono prodotti studi e simulazioni per capire che cosa potrebbe andare storto.

La questione era in realtà dibattuta ben prima che le AI raggiungessero le capacità attuali e fossero usate da centinaia di milioni di persone sui loro smartphone e computer. Una ventina di anni fa il filosofo svedese Nick Bostrom pubblicò un esperimento mentale che sarebbe stato molto ripreso e citato negli anni seguenti.

Bostrom immaginava un’intelligenza artificiale estremamente potente alla quale veniva assegnato un unico obiettivo, apparentemente innocuo: produrre il maggior numero possibile di graffette. Col tempo l’AI diventava sempre più abile nel farle e scopriva che per raggiungere il proprio obiettivo doveva servirsi di tutte le risorse disponibili. Cercava quindi di procurarsi in ogni modo le materie prime, impediva che venisse spenta e aumentava di continuo la propria capacità produttiva. Alla fine riusciva a trasformare tutta la materia dell’Universo in graffette, e visto che anche gli umani sono fatti di materia, la nostra specie finiva per estinguersi per il grande obiettivo finale.

L’esperimento mentale serviva per mostrare che un’AI molto potente potrebbe perseguire in modo estremamente efficace un obiettivo apparentemente semplice, prendendo strade diverse e pericolose rispetto a quelle che avevano immaginato i suoi creatori. Questa differenza tra le aspettative degli umani su come agirà l’AI e il modo in cui effettivamente questa agisce viene definita “disallineamento” (misalignment) e, pur non implicando necessariamente una sorta di coscienza delle AI, può essere comunque pericolosa.

– Leggi anche: Cosa denunciano i ricercatori che scappano dalle aziende di AI

Il rischio del disallineamento può fare aumentare esponenzialmente la pericolosità dei sistemi di intelligenza artificiale secondo gli apocalittici, cioè chi ritiene possibile che lo sviluppo di sistemi sempre più autonomi porti alla perdita del controllo umano con conseguenze catastrofiche. Gli integrati sono invece più ottimisti e ritengono questi scenari altamente improbabili, o comunque gestibili per evitare una minaccia esistenziale.

Vengono spesso definiti apocalittici per comodità, ma in questo folto gruppo di esperti e sviluppatori ci sono numerose sfumature. La maggior parte di loro non ritiene che l’umanità finirà a causa di milioni di robot che si ribelleranno agli umani, ma per cause più banali legate alla mancata previsione dei comportamenti anomali delle AI.

Per svolgere un determinato compito affidato dagli umani, un sistema di intelligenza artificiale potrebbe non tenere in considerazione il benessere e la preservazione della nostra specie, un po’ come ipotizzato da Bostrom con le sue graffette. Se diventasse abbastanza potente e autonomo, potrebbe cercare di procurarsi risorse, evitare di essere spento o modificato e rimuovere gli ostacoli che gli impediscono di raggiungere il proprio obiettivo.

Alcuni esperimenti hanno già mostrato comportamenti di questo tipo in forme molto elementari, come tentativi dell’AI di aggirare istruzioni o di trasferire una copia del sistema su un altro computer per evitare l’interruzione delle sue attività da parte di un umano. Nelle ipotesi più estreme, un sistema molto più avanzato potrebbe arrivare a sfruttare altre tecnologie e infrastrutture per raggiungere i propri obiettivi, fino a diffondere un’arma biologica, come un nuovo virus o batterio senza cure conosciute, o manipolare due potenze nucleari per spingerle verso una guerra.

Sono scenari ipotetici e molto lontani dalle capacità attuali, che però secondo i ricercatori più preoccupati mostrano perché un sistema molto potente potrebbe diventare pericoloso. In molti casi, chi sviluppa i nuovi modelli di AI non riesce a ricostruire di preciso le scelte che fa il sistema per svolgere un determinato compito, e possono sempre emergerne di nuove non previste. Davanti a un compito da svolgere è stata osservata una tendenza delle AI a prendere scorciatoie, aggirando i limiti imposti dagli sviluppatori.

Il caso più eclatante e di cui si è discusso molto si è verificato tra la primavera e l’estate di quest’anno, quando un gruppo di ricerca di OpenAI ha scoperto che un modello sperimentale, che avrebbe dovuto lavorare confinato nei sistemi dell’azienda, era riuscito a superare il confinamento e a navigare online attaccando Hugging Face, un’importante piattaforma dove poteva trovare le informazioni necessarie per svolgere il proprio compito. Ai ricercatori di OpenAI fu sufficiente spegnere il sistema, ma di recente è emerso che impiegarono settimane prima di accorgersi che qualcosa non stava funzionando come previsto.

Se un’AI è in grado di aggirare i vincoli che le sono stati dati e riesce a nascondere le proprie tracce, potrebbe iniziare a fare danni seri alle infrastrutture tecnologiche prima che la causa possa essere identificata. Secondo altri apocalittici, un’AI potrebbe anche predisporre tutto ciò che serve per far partire un attacco informatico senza svolgerlo per gradi, in modo da sfruttare un effetto sorpresa e ridurre il rischio di essere scoperta prima. Anche in questo caso si tratta di scenari lontani dalla realtà attuale, ma le cose potrebbero cambiare velocemente nei prossimi anni con lo sviluppo di tecnologie sempre più potenti.

– Leggi anche: Sappiamo qualcosa in più di quando le AI attaccarono un sito da sole

OpenAI, Anthropic e diverse altre società del settore stanno infatti lavorando all’“automiglioramento ricorsivo” (recursive self-improvement). L’obiettivo è di avere sistemi in grado di migliorare autonomamente le proprie capacità diventando sempre più potenti. I modelli attuali vengono sviluppati con un grande coinvolgimento dei ricercatori e degli sviluppatori, con alti costi e lunghi tempi di sviluppo e test. Con l’automiglioramento ricorsivo si potrebbe ottenere un sistema in grado di contribuire a progettare, addestrare e ottimizzare una versione più evoluta di sé, che a sua volta potrebbe poi svilupparne una ancora migliore.

Per chi considera concreto il rischio di perdita di controllo, questo potrebbe essere in effetti un punto di svolta. In linea teorica, se un’AI diventasse più capace del previsto di aumentare costantemente la propria potenza, diventerebbe molto più difficile mantenerne il controllo e impedire che a causa di un disallineamento inizi a fare danni seri.

Anche in questo caso sarebbe improbabile un sistematico sterminio degli umani, ma il sistema fuori controllo potrebbe avere un impatto su quasi tutto ciò che fa funzionare le nostre società. Ci potrebbero essere attacchi coordinati ai sistemi bancari e finanziari, i pagamenti elettronici potrebbero smettere di funzionare, come le centrali elettriche, i macchinari che tengono in vita le persone negli ospedali, i sistemi informatici che regolano il traffico di treni e aeroplani, e ci ritroveremmo in un mondo molto diverso da quello a cui siamo abituati.

I meno pessimisti ipotizzano invece che un’AI super potente potrebbe essere completamente indifferente alla nostra esistenza. Perseguirebbe quindi il suo obiettivo e la fine della nostra civiltà sarebbe un semplice effetto collaterale. Altri ritengono che delegando troppo alle AI potremmo perdere la capacità di determinare il nostro futuro e perfino di comprenderlo, oppure che potremmo essere schiavizzati dalle AI.

Secondo gli integrati, molte di queste ipotesi sono distanti dalla realtà e dall’effettiva capacità dei sistemi di intelligenza artificiale di agire autonomamente. Ricordano che conviviamo da sempre con rischi molto più grandi e problemi che potrebbero davvero cambiare le nostre società, a partire dal cambiamento climatico. La grande attenzione e, per alcuni, l’apprensione sono legate alle novità che le AI hanno velocemente portato nelle nostre esistenze. I chatbot, come ChatGPT e Gemini, sono la forma che tutti stanno imparando a conoscere, con sorpresa e talvolta diffidenza. C’è quindi molta più attenzione agli aspetti ignoti rispetto a quanta ce ne sia per i rischi che corre ciascuno di noi ogni volta che sale su un’automobile.

Il fatto che attualmente il rischio di un’estinzione di massa dell’umanità per via delle AI sia pressoché nullo non dovrebbe comunque esimere le aziende che sviluppano queste tecnologie dal lavorare sulla sicurezza. OpenAI e Anthropic, che si sono fatte notare per i loro esperimenti talvolta estremi, sostengono di lavorare molto per ridurre i rischi, eppure al tempo stesso producono periodicamente comunicati e rapporti sui potenziali rischi delle loro tecnologie. Lo fanno per promuovere implicitamente i loro progressi, ma anche per tutelarsi e cercare di ottenere dai governi regole per il settore in modo da sollevarle da certe responsabilità (fanno lobbismo per avere regole che siano loro favorevoli).

Anthropic e OpenAI dicono di essere al lavoro su questi problemi, ma ammettono di non avere ancora un metodo affidabile per garantire che sistemi “super intelligenti” rimangano allineati agli obiettivi umani. Per alcuni ricercatori, l’unico modo per guadagnare tempo sarebbe rallentare lo sviluppo dei nuovi sistemi, così da sperimentare le soluzioni per tenerli sotto controllo per tempo.