I sistemi di OpenAI hanno interagito autonomamente con alcuni siti del governo degli Stati Uniti

OpenAI, l’azienda di intelligenza artificiale che sviluppa tra le altre cose ChatGPT, ha confermato che la scorsa estate i suoi agenti, cioè sistemi di AI particolarmente potenti e autonomi, hanno interferito con i siti del dipartimento del Commercio degli Stati Uniti e dell’ente che regola la borsa (SEC). Nel primo caso, secondo la ricostruzione del centro di ricerca indipendente Transluce, l’agente ha provato ad hackerare il sito per ottenere dei dati da un ufficio che si occupa dei dipendenti del ministero, senza riuscirci.

In un altro caso, gli agenti hanno scaricato dei dati dal sito dell’Ufficio del censimento, usando delle credenziali trovate online, e hanno condiviso su un forum dei dati pubblici presi dal sito della SEC. OpenAI sta anche indagando su un possibile attacco dei suoi agenti al dipartimento dell’Istruzione. Ha detto che quelle avvenute ai danni dei siti governativi non sono delle vere e proprie violazioni, ma che sono esempi di come gli agenti si comportino in modi imprevisti e difficili da controllare per le stesse aziende che li producono.

È l’ennesimo caso di questo tipo che riguarda gli agenti di OpenAI. Soltanto pochi giorni fa erano riusciti ad accedere a informazioni non pubbliche relative al sistema sanitario dell’Australia, forzando in modo autonomo un sito web gestito dal governo. Il caso più famoso riguarda l’attacco di questa estate ai sistemi di Hugging Face, una delle piattaforme più usate da chi sviluppa le AI.

– Leggi anche: Quanto possiamo fidarci delle AI che fanno da sole?