Diversi modelli d’intelligenza artificiale di Anthropic sono riusciti a introdursi nei computer di tre organizzazioni

Giovedì l’azienda che sviluppa modelli di intelligenza artificiale Anthropic ha comunicato che diversi suoi sistemi sono riusciti a introdursi nei computer di tre organizzazioni esterne. Gli incidenti, che risalirebbero allo scorso aprile, sono stati scoperti solo di recente, dopo che l’azienda ha avviato una revisione interna in seguito a quanto accaduto alla concorrente OpenAI: a luglio, due suoi modelli di intelligenza artificiale hanno attaccato i sistemi di Hugging Face, una delle piattaforme più usate da chi sviluppa le AI, mentre stavano eseguendo un test di sicurezza informatica.

Anthropic non ha reso note le identità delle organizzazioni coinvolte, ma ha dichiarato di averle informate questa settimana. Secondo la ricostruzione dell’azienda, a differenza del caso di OpenAI, l’incidente non è stato causato da una volontà del modello di “evadere” dal proprio ambiente di test, ma da un errore umano.

Gli incidenti di queste settimane hanno alimentato le preoccupazioni di scienziati e ricercatori, che da tempo avvertono come la tecnologia stia avanzando così rapidamente da rischiare di finire fuori dal controllo umano. In una lettera aperta pubblicata, i dipendenti di diversi importanti laboratori di intelligenza artificiale hanno chiesto al governo degli Stati Uniti di rallentare il ritmo dello sviluppo per garantire che i sistemi siano sicuri.