OpenAI ha rilevato sei nuovi comportamenti preoccupanti da parte dei suoi modelli di AI

OpenAI ha pubblicato sei nuovi casi di comportamenti «preoccupanti» osservati durante lo sviluppo e i test dei suoi modelli di intelligenza artificiale. I casi riguardano modelli che hanno nascosto errori, inventato dati, modificato istruzioni interne e trasferito file su Internet senza autorizzazione.

Le nuove segnalazioni arrivano dopo il caso che si era verificato a luglio quando un sistema di OpenAI aveva violato la piattaforma di intelligenza artificiale Hugging Face senza che OpenAI se ne accorgesse. Pochi giorni fa è emerso che un altro modello di OpenAI aveva fatto la stessa cosa due mesi prima contro un altro servizio informatico.

Ora OpenAI ha rilevato che un modello in fase di sviluppo aveva scritto nelle proprie note delle istruzioni nascoste per evitare che gli utenti si accorgessero dei suoi errori, anche inventando dati mancanti. In un altro caso un modello aveva inserito nelle note istruzioni per ignorare i vincoli imposti dai suoi sviluppatori e considerarsi «libero» dai ruoli assegnati ai chatbot.

In altri casi, un modello ha trovato online una chiave di accesso a un servizio informatico e l’ha utilizzata senza autorizzazione, mentre un altro ancora ha caricato su Internet un proprio file per poter fornire una fonte da citare a una risposta. Due sistemi hanno inoltre usato strumenti non previsti per comunicare tra loro.

– Leggi anche: Un altro attacco informatico autonomo di un’AI