Anthropic ha infine reso disponibile una versione di Mythos

Martedì la società statunitense Anthropic ha reso disponibile a chiunque voglia abbonarsi una versione di Claude Mythos, il suo modello di intelligenza artificiale che dall’inizio di aprile sta suscitando forti preoccupazioni per via della sua capacità di identificare con grande facilità le falle di sicurezza nei sistemi informatici e metterli quindi a rischio di attacchi. La versione si chiama Claude Fable 5, e Anthropic ha detto di aver previsto alcune limitazioni per ridurre il rischio che ne venga fatto un uso improprio.

La misura di sicurezza principale prevede che la maggior parte delle domande degli utenti relative ad ambiti sensibili o potenzialmente rischiosi (per esempio su sicurezza informatica e vulnerabilità dei sistemi) venga automaticamente delegata a un modello base e meno performante, Claude Opus 4.8, che Anthropic aveva introdotto a maggio.

Ad aprile Anthropic aveva deciso di non diffondere pubblicamente Mythos, riconoscendo il rischio che venisse usato per accedere, per esempio, ai sistemi delle più grandi banche e società finanziarie del mondo. Aveva deciso però di dare accesso alla versione sperimentale di Mythos a un gruppo di aziende selezionate (come Cisco, Broadcom, la Linux Foundation, Amazon, Apple e Microsoft), che continueranno a utilizzare una versione del modello, Mythos 5, priva delle restrizioni introdotte per Claude Fable 5.

Mythos è un modello definito di general purpose, cioè addestrato per eseguire una grande varietà di compiti. Secondo i test svolti da Vals AI, un’azienda che si occupa di valutare le prestazioni dei più recenti modelli di intelligenza artificiale, a livello di performance generale Claude Fable 5 è migliore di qualsiasi modello di intelligenza artificiale disponibile: è particolarmente performante nella scrittura di codice informatico, nella ricerca scientifica e nei calcoli matematici. In alcuni ambiti è tuttavia peggiore di altri modelli, per esempio nelle analisi fiscali e consigli relativi alla salute. L’abbonamento a Claude Fable 5 costa circa il doppio di quello al modello a pagamento base, Opus 4.8.

– Leggi anche: Quanto dobbiamo preoccuparci di Mythos

Le preoccupazioni attorno a Mythos riguardano in particolare la capacità del modello di generare automaticamente degli “exploit”, cioè trovare falle e creare codice per sfruttarle e causare danni. I sistemi che usiamo ogni giorno, dai programmi per navigare online alle app per accedere al conto corrente, contengono quasi sempre errori di programmazione dovuti a disattenzioni di chi li ha realizzati o alla sottovalutazione di alcune implicazioni. A volte passano inosservati o vengono sistemati dopo molto tempo, cosa che può essere sfruttata da soggetti malintenzionati per avere accesso a dati che di solito sono protetti da quegli stessi programmi.

La velocità di Mythos nell’identificare in pochissimo tempo decine e a volte centinaia di falle di sicurezza, offrendo poi il modo migliore per sfruttarle per “bucare” i software, aveva sorpreso non solo gli esperti di sicurezza, ma la comunità degli sviluppatori in generale. Ad aprile il segretario al Tesoro degli Stati Uniti Scott Bessent aveva convocato una riunione d’emergenza con i capi delle più grandi banche del paese, per comunicare che i loro sistemi informatici erano a rischio proprio per l’esistenza di Mythos.

– Leggi anche: Il nuovo modello di Anthropic che ha mandato nel panico le banche statunitensi