L’autore accusato di aver scritto un romanzo interamente con l’AI

Da giorni in Francia si parla di Thélyson Orélien, uno scrittore esordiente canadese di origini haitiane di 38 anni, che è stato accusato di avere usato un programma di intelligenza artificiale per scrivere per intero il suo libro C’était ça ou mourir (“O così o la morte”), pubblicato a marzo in Canada e ad agosto in Francia, e subito acclamato dalla critica.

Lui ha respinto ogni accusa e ha detto che sta preparando con i suoi editori una memoria difensiva che dimostrerebbe che le bozze preparatorie risalgono a un periodo in cui ChatGPT e software simili ancora non esistevano. Intanto venerdì il suo libro è stato escluso dai candidati al prestigioso premio Goncourt, il riconoscimento più importante per la letteratura in lingua francese.

Quello attorno a Orélien è un caso che sta agitando molto l’editoria francese, perché finora questo tipo di accuse aveva coinvolto perlopiù autori anglofoni minori e narrativa di genere. Il libro di Orélien invece ha venduto decine di migliaia di copie, ha ricevuto premi e candidature importanti in Francia, e i diritti di pubblicazione sono già stati venduti in oltre 20 paesi. È un caso diverso dal solito anche perché tutta la vicenda ha un sottotesto politico: Orélien è nero e l’accusa proviene da un account anonimo sul social network X, praticamente sconosciuto prima che un giornalista del quotidiano Le Figaro e alcuni personaggi pubblici vicini ad ambienti conservatori e di estrema destra raccogliessero e rilanciassero l’accusa.

L’attenzione delle ultime ore intorno a Orélien, che vive in Québec, ha anche spinto alcuni giornali canadesi con cui lui aveva collaborato oltre dieci anni fa a rileggere e verificare i suoi vecchi articoli e racconti. Il quotidiano locale La Presse ha scoperto che ampie parti di alcuni articoli e di un racconto erano traduzioni letterali di testi pubblicati da altri autori e non citati da Orélien. Questo comunque non implica la fondatezza dell’accusa secondo cui avrebbe scritto il suo libro d’esordio con l’AI.

Nelle ultime settimane Orélien è stato a Parigi per promuovere il suo libro, che in Francia ha venduto 35mila copie in cinque settimane ed è finalista in diversi premi letterari prestigiosi. È un libro in parte autobiografico, perché racconta la storia di un professore di liceo che se ne va dal suo paese, Haiti, a causa della criminalità, e attraversa il Sudamerica e gli Stati Uniti per poi stabilirsi in Canada. Orélien lasciò Haiti per il Canada dopo il terremoto devastante del 2010.

La polemica è cominciata lunedì scorso, quando il libro ha vinto il premio letterario Fnac: dopo poche ore un account anonimo su X ha scritto che C’était ça ou mourir è un libro «scritto quasi interamente da un’AI». Il nome dell’account è Balance ton Claude, che letteralmente significa “denuncia il tuo Claude” (Claude è il popolare chatbot dell’azienda Anthropic). Sembra un’allusione al movimento #BalanceTonPorc, “denuncia il tuo maiale”, che è il nome con cui si affermò in Francia il movimento MeToo. Il giornalista Samuel Fitoussi, giovane editorialista conservatore del quotidiano Le Figaro, è stato tra i primi a condividere il post di Balance ton Claude, e nelle ultime ore ha ammesso e dimostrato di essere una delle persone che gestiscono l’account.

A sostegno dell’accusa, l’account forniva il risultato dell’analisi di ampie parti del libro fatta tramite un software dell’azienda Pangram, progettato per rilevare se un testo è stato generato tramite AI. È uno dei più noti e utilizzati nel suo genere, perché considerato piuttosto affidabile nei risultati. Ma non è infallibile e ha comunque diversi limiti tipici degli strumenti di questo tipo, che sono basati a loro volta su sistemi di AI. Alcuni funzionano anche meno bene con testi non in inglese, come appunto il libro di Orélien, che è scritto in francese e in creolo haitiano, una lingua creola derivata dal francese.

– Leggi anche: Si può riconoscere un testo scritto dall’intelligenza artificiale?

Kevin Bryan, un professore di economia dell’università di Toronto specializzato in storia dell’innovazione e intelligenza artificiale, ha scritto di aver verificato con Pangram diverse parti del libro di Orélien e di avere ottenuto sempre lo stesso risultato: «100% AI». Ha aggiunto che non ha mai visto un risultato del genere per un singolo libro che non fosse effettivamente stato scritto dall’AI, o con un qualsiasi libro scritto prima del 2022 (l’anno in cui uscì il primo chatbot di massa, ChatGPT).

Il quotidiano Le Monde ha scritto di aver provato a usare Pangram con le pagine iniziali di una quindicina di altri romanzi, inclusi alcuni di successo pubblicati da poco, e in tutti i casi il risultato era «100% umano».

Secondo l’agenzia di stampa AFP, la verifica tramite strumenti diversi da Pangram dà invece risultati discordanti e non basta a fugare i dubbi. Un software utilizzato abitualmente da AFP e sviluppato da InVID-WeVerify, un gruppo internazionale di ricercatori, indica che alcune parti del libro di Orélien che secondo Pangram sono scritte dall’AI sono «molto probabilmente» scritte da un essere umano.

L’accusa è comunque circolata moltissimo sui social e ha ottenuto milioni di visualizzazioni, perché diversi utenti hanno condiviso il post originale anche solo per deridere i critici letterari. Alcuni sostenevano che le giurie dei premi letterari non sono in grado di stabilire se i libri che apprezzano e premiano siano scritti da esseri umani oppure no, e nemmeno di notare alcune strutture sintattiche tipiche dei testi prodotti dai chatbot, molto presenti anche nel libro di Orélien. L’editore francese del libro, Grasset, ha difeso risolutamente lo scrittore, mentre quello canadese, Boréal, ha detto di avere «preso atto delle accuse» e di non «prenderle alla leggera».

– Leggi anche: Perché i chatbot sono fissati con: “Non è X, è Y”?

Parlando con il quotidiano Libération, Orélien si è detto stupito dall’accusa: «Ho sempre amato creare e scrivere, non vedo perché avrei dovuto usare una macchina». E ha poi aggiunto che da quando è arrivato in Francia ha ricevuto «numerosi attacchi razzisti, non da parte di lettori ma da parte di estranei».

Cercando di ricostruire l’origine e l’evoluzione della storia, prima che Fitoussi ammettesse il suo coinvolgimento, Le Monde aveva fatto notare che fino a lunedì l’account anonimo da cui proveniva l’accusa aveva meno di 100 follower. E probabilmente quel messaggio non sarebbe mai diventato virale se non fosse stato condiviso subito da Fitoussi e da altri, tra cui Charles Sapin, vicedirettore del settimanale di estrema destra Valeurs actuelles.

Fitoussi ha 29 anni e nel 2023 aveva scritto un libro contro il “wokismo” intitolato Woke Fiction. Sul suo profilo X dice di essere un investitore nel settore dell’AI. Nel post su X in cui condivideva quello di Balance ton Claude aveva scritto che «le vittime del caso Orélien sono i 35mila lettori che pensavano di trascorrere ore in compagnia di un uomo e della sua soggettività, e che scoprono, traditi, di averle trascorse in compagnia di un robot».

Le Monde ha anche ricordato che il libro di Orélien era uno degli ultimi di cui si era occupato, sia in fase di selezione che di supervisione, l’ex amministratore delegato di Grasset, Olivier Nora, prima che venisse licenziato a metà aprile dal miliardario conservatore e proprietario della casa editrice Vincent Bolloré. In quell’occasione, Orélien aveva manifestato il suo sostegno verso Nora.