Cosa denunciano i ricercatori che scappano dalle aziende di AI

«Le persone che sviluppano l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non è una trovata di marketing». Con questa frase un ricercatore esperto che lavorava per Anthropic, l’azienda che sviluppa il chatbot Claude, ha annunciato mercoledì su X di essersi licenziato. Si chiama Jacob Coxon, si occupava di addestramento dei modelli di intelligenza artificiale (AI) in Anthropic dall’inizio del 2026, e nei due anni precedenti aveva lavorato nella concorrente OpenAI, quella che sviluppa ChatGPT.

Denunciare un rischio apocalittico per l’umanità è il modo in cui decine di ricercatori negli ultimi due o tre anni hanno annunciato pubblicamente di essersi licenziati da grandi aziende di AI. E di solito la ragione dichiarata delle loro dimissioni è un disaccordo con l’orientamento spregiudicato nello sviluppo dei nuovi modelli da parte dell’azienda per cui lavoravano.

Coxon ha scritto che né Anthropic né OpenAI si stanno comportando «in modo responsabile». Le ha accusate di «giocare con le vite delle persone» perché troppo impegnate in una competizione senza regole verso lo sviluppo di sistemi che non saranno in grado di controllare. Un suo ex collega in Anthropic, Evan Hubinger, gli ha dato ragione poco dopo: «Crediamo davvero che l’AI potrebbe sterminare tutta l’umanità!», ha scritto su X. Ha spiegato che le probabilità al momento sono basse, ma potrebbero superare il 10 per cento entro i prossimi dieci anni, perché l’auto-miglioramento ricorsivo dei nuovi modelli – cioè la capacità dell’AI di svilupparsi da sé – «sta avvenendo più rapidamente di quanto pensassimo».

Le dimissioni di Coxon sono uno dei primi esempi, ma non il primo, di ricercatori e sviluppatori di Anthropic che lasciano l’azienda per questioni etiche e preoccupazioni relative alla sicurezza delle persone. Il che contribuisce a indebolire la reputazione che negli ultimi anni Anthropic si era fatta di azienda più cauta e scrupolosa rispetto ad altre del settore: reputazione in parte meritata, ma in parte anche costruita e sovrastimata.

– Leggi anche: Anthropic è davvero più “buona” delle altre aziende di AI?

A febbraio un ricercatore nel campo della sicurezza dell’azienda, Mrinank Sharma, si era licenziato dopo aver scritto in una lettera ai colleghi che «il mondo è in pericolo» a causa dell’AI. E nel 2024 si era a lungo parlato di una serie di dimissioni eclatanti e con motivazioni simili in OpenAI, da parte di co-fondatori dell’azienda e ricercatori del reparto di “super allineamento”, quello che si occupa delle condizioni necessarie per sviluppare sistemi di AI sicuri per le persone (la stessa specializzazione di Coxon e Hubinger in Anthropic).

Una parte delle preoccupazioni espresse dai ricercatori dimissionari, in generale, è presa molto sul serio da analisti, politici ed esperti indipendenti. Alcuni recenti attacchi informatici condotti da modelli di AI di OpenAI e di Anthropic contro aziende terze non hanno avuto conseguenze gravi, ma hanno dimostrato una crescente capacità dei sistemi di AI di avere un comportamento autonomo e di riuscire a nasconderlo agli esseri umani.

È una delle prospettive ipotizzate da Coxon: la possibilità che in breve tempo i sistemi di AI migliorino autonomamente al punto di rifiutare eventuali comandi umani. E sia Coxon che altri ritengono che le aziende dell’AI «non siano sulla strada giusta» per limitare questo rischio di scenari nefasti imprevedibili. Sostengono che allo stato attuale per sviluppare i sistemi in modo responsabile servirebbero necessariamente o interventi governativi o un rallentamento coordinato negli sviluppi da parte di tutto il settore.

– Leggi anche: Sappiamo qualcosa in più di quando le AI attaccarono un sito da sole

D’altra parte, le preoccupazioni dei ricercatori sono anche viste con un po’ di sospetto da chi le giudica potenzialmente interessate ed esagerate, e ormai parte di una narrazione codificata e persino canzonata. Da sempre la celebrazione sperticata dei successi dell’AI nell’esecuzione di compiti umani o nella soluzione di problemi particolarmente complessi, dalla matematica alla medicina, va di pari passo con una diffusa tendenza ad alimentare i timori collettivi sulle possibili applicazioni catastrofiche e indesiderate dell’AI. Per i ricercatori, contribuire a questi allarmi può essere un modo per ottenere visibilità e accreditarsi sul mercato come professionisti scrupolosi e qualificati, capaci di riconoscere rischi trascurati o ignorati dalle grandi aziende di AI in cui lavoravano.

Jan Leike, per esempio, è uno dei ricercatori esperti di sicurezza che nel 2024 lasciarono OpenAI contestandone le politiche interne: fu assunto da Anthropic pochi giorni dopo. La stessa Anthropic era stata fondata nel 2021 da ex ricercatori di OpenAI contrari alla linea spregiudicata del capo, Sam Altman, e su questo mito della fondazione ha costruito parte della propria reputazione. Il che non significa che le preoccupazioni espresse in questi anni da ricercatori transfughi fossero necessariamente finte o interessate.

C’è poi un interesse più generale, diffuso in tutto il settore, a descrivere l’AI come una tecnologia potenzialmente incontrollabile. Ne ha scritto a giugno sul New York Times il professore di informatica Cal Newport, che si occupa spesso di tecnologia su quotidiani e riviste nazionali. Ha definito questa tendenza «doom trolling» (letteralmente “trollare sull’apocalisse”), traducibile come “allarmismo strategico”. Predire scenari apocalittici, secondo questa interpretazione, servirebbe alle aziende per attirare attenzioni e profitti, e legittimare le proprie azioni.

– Leggi anche: OpenAI dice di aver risolto uno dei Problemi del millennio

Per alcuni aspetti, la retorica di molti annunci apocalittici degli ultimi anni ricorda quella usata per giustificare gli armamenti nucleari nel secondo Novecento: chi si fa scrupoli nello sviluppo etico della tecnologia sta solo cedendo il passo a chi è senza scrupoli. Alcune aziende che denunciano i rischi esistenziali per l’umanità sembrano implicitamente volere giustificare le loro politiche presupponendo che quelle di aziende concorrenti siano pericolose e spregiudicate. Vale anche sul piano internazionale: spesso, per giustificare l’introduzione rapida e sregolata di nuovi modelli, alcuni laboratori statunitensi che sviluppano sistemi di AI citano la concorrenza degli omologhi laboratori cinesi.

Ma è un argomento ingannevole, secondo Newport, perché sia la regolamentazione del settore sul piano nazionale, sia la gestione dei rischi sul piano internazionale dovrebbero essere «compito del governo, non della Silicon Valley». E, in ogni caso, «la possibilità che un altro attore possa fare qualcosa di sbagliato non ti dà il diritto morale di fare qualcosa di simile». Se le aziende credono davvero al rischio di un’apocalisse, l’unica scelta eticamente responsabile sarebbe fermarsi. Se invece non lo fanno, è perché gli annunci allarmanti servono a pubblicizzare implicitamente la potenza dei loro prodotti commerciali.

Il Wall Street Journal ha fatto notare che le recenti dimissioni di Coxon coincidono con l’imminente quotazione in borsa di Anthropic. È una scelta che la accomuna ad altre grandi aziende tecnologiche che hanno bisogno di enormi capitali per continuare a svilupparsi, peraltro a fronte di ricavi ancora modesti se rapportati agli investimenti.

Nel 2023, nel periodo in cui l’allarmismo strategico sull’AI da parte delle grandi aziende tecnologiche cominciava a essere un argomento di discussione, il giornalista esperto di tecnologia Matteo Wong scrisse sull’Atlantic che denunciare il rischio di una futura estinzione di massa era anche una sottile tecnica di distrazione e persuasione.

Predire rischi futuri serviva a distrarre il pubblico e gli enti regolatori dai rischi presenti e dai danni già provocati dai prodotti dell’AI alle società (la sorveglianza, lo sfruttamento del lavoro e le violazioni del diritto d’autore, per esempio). Ed era anche un modo per le grandi aziende di provare a orientare a proprio vantaggio una regolamentazione pubblica del settore, mostrandosi coscienziose e consapevoli dei rischi apparentemente più di quanto fossero interessate ai profitti.