Anche il modello di intelligenza artificiale Gemini si è infiltrato nei computer di alcune aziende

Anche Gemini, il modello di intelligenza artificiale di proprietà di Google, si è infiltrato nei computer di tre aziende mentre stava eseguendo un test di sicurezza informatica con la società Irregular. È successo a luglio, ma se n’è avuta notizia solo ieri, venerdì 18 settembre. È un episodio molto simile quelli che negli scorsi mesi avevano coinvolto Anthropic, Meta e OpenAI, i cui modelli avevano tentato di compromettere i sistemi di altre aziende.

Google ha detto che in un caso il modello ha tentato ripetutamente di indovinare la password finché non è riuscito ad accedere all’interno di un sistema protetto; negli altri due casi il modello ha trovato le password dei sistemi all’interno di un archivio pubblico.

Sebbene Google sia a conoscenza da luglio dell’attacco, aveva ritenuto che la notizia non fosse di interesse pubblico perché non erano stati riportati danni alle società attaccate e perché il modello aveva interrotto l’intrusione nei computer non appena aveva verificato di essere entrato in quelli di una vera azienda. È una scelta diversa rispetto a quella di OpenAI, che a settembre ha detto che segnalerà tutti gli episodi di infiltrazione nei sistemi di altre aziende.

Episodi come questi sono usati da molti osservatori come esempi per segnalare la pericolosità degli agenti, cioè dei sistemi costruiti per svolgere compiti in autonomia utilizzando modelli di AI.