Il nuovo modello di Anthropic che ha mandato nel panico le banche statunitensi

Nei giorni scorsi il segretario del Tesoro degli Stati Uniti Scott Bessent ha convocato una riunione d’emergenza con i capi delle più grandi banche del paese, per comunicare che i loro sistemi informatici sono a rischio. È una scoperta che è stata fatta grazie a Claude Mythos, il nuovo modello di software di intelligenza artificiale di Anthropic, una delle aziende del settore più importanti al mondo (e con cui il governo statunitense ha un contenzioso aperto).

Dopo averlo creato, Anthropic si è resa conto che questo nuovo modello è talmente potente ed efficace da individuare migliaia di falle di sicurezza nei sistemi di uso comune nelle aziende, anche in quelle finanziarie. Per questa ragione ha deciso di non diffondere pubblicamente il modello, dato che potrebbe essere usato anche per accedere ai sistemi delle più grandi banche e società finanziarie del mondo.

Mythos è un modello definito di general purpose, cioè addestrato per eseguire una grande varietà di compiti, anche alcuni per cui non era stato esplicitamente programmato all’inizio. Mythos ha individuato falle nei sistemi che erano lì da decenni e mai scoperte da nessuno. Anthropic ha condiviso Mythos con un gruppo circoscritto di aziende tra cui Cisco, che si occupa anche di sistemi di sicurezza informatici, Broadcom, Linux Foundation, Amazon, Apple e Microsoft.

Di questa storia hanno scritto diversi media statunitensi e internazionali, e dopo che è stata resa nota il valore in borsa delle società che si occupano di cybersicurezza è sceso, perché ora sono esposte a cause e reclami per non aver mai individuato queste falle. Anthropic ha detto di stare collaborando con specialisti di sicurezza informatica per risolvere il problema e salvaguardare la tenuta del sistema finanziario, usando quindi le informazioni di Mythos a scopo difensivo.

La gravità della situazione si intuisce dalla riunione di emergenza convocata da Bessent, che non ha voluto confermare la storia di Mythos né la riunione stessa. Secondo Bloomberg hanno partecipato i dirigenti di più alto livello delle banche statunitensi, persone che non si scomodano per questioni trascurabili e che erano già a Washington per un altro incontro: l’amministratore delegato di Goldman Sachs, David Solomon, Brian Moynihan di Bank of America, Jane Fraser di Citigroup, Ted Pick di Morgan Stanley e Charlie Scharf di Wells Fargo.

È stato invitato anche l’amministratore delegato di JP Morgan Jamie Dimon, ma non ha potuto partecipare. Peraltro, in una lettera agli azionisti pubblicata questa settimana, Dimon aveva avvertito che la sicurezza informatica resta una grande vulnerabilità delle banche e che «l’intelligenza artificiale quasi certamente aggraverà questo rischio».

Alla riunione ha partecipato anche Jerome Powell, il presidente della Federal Reserve, la banca centrale degli Stati Uniti che ha la responsabilità maggiore riguardo alla stabilità finanziaria del paese. La sua presenza indica che la faccenda ha una rilevanza sistemica, come si dice in gergo economico, cioè in grado di mettere a rischio l’economia nel suo complesso. Anche altre banche centrali stanno prendendo provvedimenti: la banca centrale canadese ha riunito venerdì le principali banche del Canada per discuterne, e lo stesso farà la Banca d’Inghilterra.

Mythos mette in luce come gli enti regolatori abbiano sistemi in ritardo rispetto ai modelli di intelligenza artificiale più recenti, e come non abbiano una piena comprensione del fenomeno. Ciononostante negli ultimi anni qualcosa si è mosso: per esempio alle banche viene sempre più spesso richiesto di tenere da parte alcune riserve per coprire il rischio di attacchi informatici, ormai considerati alla stregua di accidenti comuni come l’errore di un dipendente o una causa giudiziaria. Le banche non hanno preso bene l’imposizione, dato che per loro tenere fermo il capitale è costoso e non profittevole.

Anthropic ha fatto sapere di essere in contatto con il governo statunitense per questa questione della sicurezza informatica, nonostante in questo momento i rapporti tra loro siano pessimi.

Anthropic era stata la prima società di AI a firmare contratti da centinaia di milioni di dollari con il dipartimento della Difesa, ma poi il governo aveva voluto utilizzare i software dell’azienda per qualsiasi uso militare. Anthropic si era detta contraria a certi utilizzi, per esempio per la sorveglianza di massa o in certe operazioni di guerra.

A fine febbraio l’amministrazione di Donald Trump aveva dunque ordinato a tutte le agenzie governative federali di smettere di usare i suoi prodotti, e aveva decretato che Anthropic rappresentasse un rischio per la sicurezza nazionale: la dicitura formale in questi casi è “supply chain risk”, una definizione che può creare molti problemi a un’azienda e al suo business. Anthropic ha fatto causa al governo per questa decisione, e per ora sulla questione è stata emessa una sentenza a favore di Anthropic e un’altra invece a sfavore.

– Leggi anche: La questione tra il Pentagono e le aziende di intelligenza artificiale, dall’inizio