Un altro attacco informatico autonomo di un’AI

Negli scorsi mesi ha generato molto clamore la storia di un attacco informatico compiuto in maniera autonoma da un’intelligenza artificiale, un modello di OpenAI che ha violato la piattaforma Hugging Face, una delle più usate da chi sviluppa sistemi di AI. L’attacco è avvenuto a fine luglio, ma ora si sa che un altro modello di OpenAI aveva fatto la stessa cosa due mesi prima.

Questo altro attacco aveva messo in crisi un servizio online per programmatori, RubyGems, costringendo i gestori a sospendere le nuove registrazioni di account per alcuni giorni. La società che gestisce RubyGems ha raccontato quanto accaduto al Wall Street Journal dopo aver ricostruito che l’attacco proveniva da agenti AI di OpenAI.

Gli agenti AI sono dei componenti dei modelli di intelligenza artificiale che possono svolgere compiti in autonomia, sono considerati l’evoluzione più importante delle AI e sono già disponibili per facilitare alcuni compiti dei singoli utenti, come prenotare automaticamente un albergo o gestire e tenere aggiornato un documento, ma sono anche impiegati su scale più grandi.

Venerdì OpenAI ha confermato il coinvolgimento, sostenendo però che l’attacco fosse stato in realtà una conseguenza inattesa di un uso improprio «ma benigno» della piattaforma da parte degli agenti AI. Il nuovo caso però alimenta i timori che gli agenti possano sfuggire al controllo delle aziende che li hanno creati, rendendosi autori di attacchi informatici autonomi. E infatti nelle ultime ore i capi delle principali aziende di AI, incluso Sam Altman che è CEO di OpenAI, hanno parlato pubblicamente della necessità di rallentare lo sviluppo dei modelli. Oltre ai casi di attacchi informatici autonomi, ciò che probabilmente li ha spinti a esporsi sono stati anche gli altri allarmi diffusi da diversi ex impiegati, i quali sostengono che le AI potrebbero ucciderci tutti (calma, però: siamo ben lontani da questa possibilità).

Anche nel caso di RubyGems l’attacco è avvenuto a seguito di una fase di test e di addestramento dei modelli, a cui era chiesto di compiere azioni come riempire dei moduli o redigere dei rapporti. Dovevano farlo in un ambiente chiuso, senza accesso a internet: avrebbero invece utilizzato la piattaforma RubyGems, a cui avevano accesso perché permette di scrivere codice, come una sorta di «browser web improvvisato», secondo la ricostruzione di OpenAI.

A partire dall’11 maggio gli agenti hanno creato migliaia di nuovi account su RubyGem, a un ritmo di uno ogni 2-3 minuti, e hanno caricato sulla piattaforma centinaia di file che il team di sicurezza della piattaforma ha definito «spam». Erano pagine di siti esterni, calendari online del governo britannico, elementi distanti da file di codice che dovrebbero essere caricati su RubyGems. La società inoltre ha denunciato che gli agenti avrebbero individuato anche alcuni bug della piattaforma che gli permettevano di accedere e riutilizzare file di altri utenti, con un pericolo alto per la sicurezza. Gli agenti AI usavano anche nomi dei file piuttosto evidenti come “hack”, “evil” e “exploit” (termini usati per definire attacchi malevoli quando si tratta di cybersicurezza).

Dopo che era stato rivelato l’attacco di luglio a Hugging Face, quando 1.200 agenti erano riusciti a uscire autonomamente da un ambiente di test, violando il database dell’azienda, erano arrivate da più parti richieste di un approccio più attento alla sicurezza e all’addestramento di sistemi autonomi sempre più potenti.