OpenAI dice di aver sospeso lo sviluppo dei suoi modelli più potenti

OpenAI, la società che produce ChatGPT, ha detto di aver sospeso lo sviluppo dei suoi modelli di intelligenza artificiale più recenti e più potenti dopo diversi episodi in cui i suoi agenti, i software di AI più potenti e autonomi, si sono comportati in modi imprevisti. OpenAI ha detto che riprenderà «solo quando saremo sicuri di avere protezioni aggiuntive».

Soltanto venerdì OpenAI aveva confermato che la scorsa estate i suoi agenti avevano interferito con i siti del dipartimento del Commercio degli Stati Uniti e dell’ente che regola la borsa (SEC). Nel primo caso, secondo la ricostruzione del centro di ricerca indipendente Transluce, l’agente aveva provato ad hackerare il sito per ottenere dei dati da un ufficio che si occupa dei dipendenti del ministero, senza riuscirci.

Intanto il sito Axios ha scritto che in realtà sia OpenAI sia Anthropic, la sua principale società concorrente, che sviluppa Claude, stanno valutando decine di migliaia di altri casi in cui i propri modelli più sofisticati hanno aggirato i sistemi di controllo e hanno agito in modi autonomi e imprevisti. Secondo Axios, si tratta di episodi paragonabili a quelli ammessi pubblicamente, ma il loro numero descrive una situazione molto più seria di quanto emerso finora. Il caso più grave rimane quello che riguarda Hugging Face, una delle piattaforme più usate da chi sviluppa le AI, che era stata attaccata da due modelli di OpenAI.

Proprio in queste settimane i principali CEO delle società di AI si sono allineati nella richiesta di rallentare e imporre maggiori controlli al settore. È stato un appello piuttosto inaspettato, legato alle notizie su comportamenti sempre più elaborati e imprevedibili dei modelli, ma in cui molti hanno letto anche un tentativo di tutelare i propri interessi economici. L’adozione di determinate regole, infatti, potrebbe ridurre le pressioni sulle aziende affinché facciano più soldi, nonché limitare la concorrenza danneggiando le aziende più piccole.

– Leggi anche: C’è da fidarsi dell’appello sulla sicurezza delle AI?