C’è da fidarsi dell’appello sulla sicurezza delle AI?

La proposta di Dario Amodei, il CEO di Anthropic, di rallentare lo sviluppo dei sistemi di intelligenza artificiale per garantirne la sicurezza è arrivata in un momento particolare per il settore. I responsabili delle aziende che lo dominano dicono che le AI potrebbero diventare una minaccia esistenziale per l’umanità, ma al tempo stesso investono decine di miliardi di dollari per costruire modelli sempre più potenti, annunciano di continuo nuovi risultati e cercano capitali per sostenere i loro costi altissimi. Si muovono in una contraddizione evidente: mettono in guardia su dove questa tecnologia possa arrivare, ma sembrano fare di tutto per arrivarci prima della concorrenza.

Per questo la proposta di Amodei è stata accolta con interesse, ma ha sollevato anche dubbi e sospetti. L’accusa è che oltre alla motivazione ufficiale ce ne sia una prettamente economica, legata alla necessità di ridurre le spese e assicurarsi al tempo stesso che non si aggiungano nuovi concorrenti, per lo meno negli Stati Uniti dove la competizione è già molto avanzata.

Ad aumentare la diffidenza nei confronti della proposta c’è anche il fatto che sia stata prontamente sostenuta da due CEO che negli anni hanno mostrato di farsi meno scrupoli su sicurezza e regolamentazione rispetto ad Amodei: Sam Altman di OpenAI e Elon Musk di SpaceX, che controlla xAI.

Tra i responsabili delle grandi società di AI statunitensi, infatti, Amodei aveva già dimostrato in tempi non sospetti di essere attento alle questioni di sicurezza e, più in generale, alle implicazioni legate allo sviluppo e alla diffusione tra la popolazione dei sistemi di intelligenza artificiale. Periodicamente scriveva articoli e brevi saggi sul lavoro di Anthropic, sui progressi raggiunti, sui rischi potenziali e sul modo in cui potessero avere un impatto positivo sulla società. Anthropic ha insomma la reputazione, in parte meritata, di azienda di AI “buona”. La sua nuova proposta rientra quindi in quel filone, ma in molti hanno notato la sua diffusione in una fase particolare.

Anthropic ha in programma di quotarsi in borsa entro la fine dell’anno e secondo alcuni analisti potrebbe raggiungere una valutazione di 2mila miliardi di dollari. Amodei è quindi interessato alla definizione di regole che possano disciplinare un ambito da cui dipende gran parte del futuro economico della sua azienda. Un rallentamento potrebbe rendere più sostenibili le attività di Anthropic, riducendo almeno in parte gli ingenti investimenti per aumentare le capacità e la potenza di calcolo con nuovi data center per alimentare i modelli. E i vantaggi potrebbero esserci anche per i suoi diretti concorrenti.

Altman ha precisato lunedì che “rallentare” non significa fermare lo sviluppo dei sistemi di AI, ma fare in modo che la loro capacità non cresca più rapidamente delle misure necessarie per controllarli. Ha inoltre detto che le aziende potrebbero iniziare ad adottare volontariamente nuovi strumenti di sicurezza senza aspettare nuove leggi e un coinvolgimento delle istituzioni, che almeno in questa fase negli Stati Uniti sono molto riluttanti nel limitare la crescita in un settore considerato strategico per fare concorrenza alla Cina.

La possibilità che AI sempre più potenti, magari in grado di migliorare loro stesse in autonomia, costituiscano una minaccia è contemplata da tempo e non solo nei romanzi di fantascienza. Secondo diversi esperti, in linea teorica si potrebbe sviluppare uno scenario di questo tipo, ma la maggior parte di loro concorda sul fatto che attualmente il rischio sia pressoché nullo e che siamo ancora molto lontani da quanto viene talvolta paventato dagli stessi responsabili delle società che sviluppano AI.

Amodei e Altman hanno accesso a modelli che il pubblico non può vedere e potrebbero quindi avere elementi per ritenere alcuni rischi più vicini di quanto suggeriscano le valutazioni disponibili all’esterno. In questo caso, però, la scelta di continuare a investire enormi risorse per aumentarne le capacità renderebbe ancora più evidente la contraddizione tra la preoccupazione per le conseguenze e la corsa allo sviluppo a ogni costo. Un’altra possibilità è che i rischi siano presentati come molto alti per questioni di posizionamento e marketing.

Per quanto possa suonare terrificante, parlare di modelli estremamente potenti, al punto da diventare potenziali minacce esistenziali per la nostra specie, aiuta ciascuna di queste aziende a trasmettere l’idea di avere tecnologie migliori delle altre. Per diverso tempo ha aiutato ad attrarre nuovi investimenti, ma secondo i più critici ha anche contribuito a gonfiare la “bolla” economica intorno alle AI, che potrebbe scoppiare come avvenuto con la bolla speculativa delle “dot-com” dopo il 2000.

Se la competizione diventasse meno frenetica, come proposto da Amodei, le aziende potrebbero rallentare la spesa e avrebbero più tempo per recuperare i loro investimenti. Secondo questa interpretazione il maggior tempo per occuparsi meglio della sicurezza dei modelli sarebbe quindi un effetto secondario rispetto a quanto sostenuto da Amodei. Anthropic e le altre potrebbero avere inoltre un altro vantaggio.

Regole più severe per i sistemi più potenti potrebbero infatti rendere molto più difficile l’ingresso di nuovi concorrenti al di fuori delle grandi aziende che già oggi si contendono il primo posto nel settore. Valutazioni indipendenti, controlli sulla sicurezza, monitoraggio continuo e requisiti tecnici prima dell’addestramento o della diffusione dei modelli hanno infatti un costo, sia economico sia organizzativo.

Per Anthropic, OpenAI e le altre grandi aziende già dotate di enormi capitali, infrastrutture e gruppi di ricerca sarebbe più facile sostenerlo, mentre per una società appena entrata nel settore quei costi potrebbero diventare un ostacolo considerevole. Una regolamentazione pensata per contenere i rischi dei modelli più avanzati potrebbe così finire per consolidare il vantaggio di chi ha sviluppato quei modelli. E il problema diventerebbe ancora più evidente se fossero le stesse aziende dominanti a contribuire alla definizione degli standard, visto che per ora il governo statunitense non sembra essere interessato a farlo.

Amodei propone che i principali sviluppatori adottino criteri comuni e possano coordinarsi sulle misure di sicurezza, chiedendo anche una limitata esenzione dalle norme antitrust per rendere possibile questo confronto. L’obiettivo dichiarato è evitare che una singola azienda possa ottenere un vantaggio sviluppando sistemi più potenti senza adottare adeguate precauzioni. Ma il meccanismo potrebbe avere anche l’effetto opposto, rendendo più costoso e complesso competere con chi è già sul mercato e lasciando ai grandi operatori una notevole capacità di influire sulle regole che tutti gli altri dovrebbero rispettare.