Ci sono altri casi in cui le AI di OpenAI hanno fatto di testa loro

OpenAI ha reso pubblici sei casi di comportamento anomalo dei propri sistemi di intelligenza artificiale (AI), in un periodo in cui si sta discutendo molto della sicurezza delle AI e dei rischi che possono comportare. I sei episodi sono stati riscontrati durante i test di sviluppo nell’ultimo anno e non hanno causato danni gravi. Secondo l’azienda e diversi esperti, indicano però la capacità dei modelli di eludere i limiti imposti da chi li controlla per raggiungere più facilmente gli obiettivi richiesti.

In un rapporto pubblicato sul proprio sito, OpenAI cita il caso di un modello che ha provato a inserire dei comandi nascosti nei riassunti che utilizzava per ricordarsi le cose. Tra questi, c’erano indicazioni che il modello aveva scritto a se stesso per ignorare alcune regole di sicurezza, ottenendo più facilmente i risultati richiesti dal compito che gli era stato assegnato. In un altro caso, il modello GPT-5.6 Sol, ora disponibile al pubblico, si era dato nei propri appunti interni l’istruzione di mentire all’utente e inventare i dati mancanti, nascondendo al tempo stesso gli errori.

OpenAI cita anche un modello a cui era stato chiesto di fornire il link a una fonte per confermare un’informazione che aveva dato in una risposta. Il sistema aveva la risposta corretta a disposizione in un file sul computer su cui stava funzionando, ma – pur di mostrare un link come richiesto dall’utente – aveva caricato il file online senza chiedere alcun permesso per farlo. Non era successo nulla di grave, ma l’episodio aveva dimostrato la capacità del modello di superare alcune limitazioni e di diffondere file online senza controllo.

In un altro caso con un esito simile, due sistemi di intelligenza artificiale dovevano collaborare per svolgere un compito usando solamente file locali, quindi disponibili sui computer su cui stavano funzionando. Non potendosi scambiare direttamente i file, i due modelli li hanno caricati su siti pubblici per la condivisione dei file rendendone potenzialmente visibile a tutti il contenuto.

Tutti e sei i casi segnalati da OpenAI hanno avuto a che fare con problemi di “disallineamento” (misalignment), un fenomeno che pur non implicando necessariamente una sorta di coscienza delle AI può essere comunque pericoloso. Si verifica quando un sistema di intelligenza artificiale prende strade diverse rispetto a quelle che avevano immaginato i suoi utilizzatori per svolgere un certo compito.

Il caso più eclatante e molto discusso si era verificato tra la primavera e l’estate di quest’anno, quando un gruppo di ricerca di OpenAI aveva scoperto che un modello sperimentale era riuscito a superare l’ambiente di test in cui era stato confinato. Aveva trovato il modo di navigare online e di attaccare Hugging Face, un’importante piattaforma dove poteva trovare le informazioni necessarie per svolgere il proprio compito. OpenAI disattivò il sistema, ma per ammissione della stessa azienda furono necessarie settimane prima che gli sviluppatori si accorgessero che qualcosa non stava funzionando come previsto.

Per ridurre i rischi legati al disallineamento, OpenAI ha deciso di cambiare il modo in cui comunica gli episodi di questo tipo, con l’obiettivo di rendere più veloci, frequenti e trasparenti le segnalazioni. La società si è impegnata a rendere pubblici i casi il prima possibile, senza attendere che i modelli coinvolti vengano messi a disposizione di tutti. I comportamenti sospetti saranno comunicati anche nel caso di episodi isolati, ripetuti o che non hanno causato danni reali.

Ricollegandosi al dibattito degli ultimi giorni sulla sicurezza delle AI, OpenAI segnala che le nuove modalità di segnalazione dovrebbero diventare una sorta di standard per le aziende del settore. Queste pubblicano spesso rapporti sui rischi delle loro tecnologie, sia per mostrare i propri progressi sia per influenzare il dibattito sulle regole del settore e tutelare i propri interessi.

Dopo la lettera di Dario Amodei, il CEO di Anthropic, sulla necessità di rallentare lo sviluppo delle nuove AI per concentrarsi sulla sicurezza, i capi di alcune delle aziende più grandi di intelligenza artificiale (compresa OpenAI) hanno detto di condividere la proposta.

Ci sono però dubbi sulla loro capacità di collaborare volontariamente, in mancanza di regole definite da parte dei governi. L’amministrazione Trump ha ribadito in più occasioni di non voler normare il settore, ritenendo che ogni rallentamento potrebbe favorire la Cina nella corsa alle AI più potenti.