Un’enciclica sulle intelligenze artificiali

Lunedì papa Leone XIV ha pubblicato la prima enciclica del proprio papato. È interamente dedicata all’intelligenza artificiale (AI), alle opportunità che offre, ai rischi e ai dilemmi etici e morali che pone non solo per la Chiesa, ma in generale per l’umanità. La pubblicazione era attesa da tempo e sembra essere indirizzata soprattutto ai politici e ai dirigenti delle grandi aziende che hanno sviluppato i principali sistemi di intelligenza artificiale di cui si è parlato molto in questi anni. Uno di loro – il cofondatore di Anthropic Christopher Olah – ha assistito alla presentazione dell’enciclica in Vaticano da parte del papa.

L’enciclica pubblicata oggi si chiama “Magnifica humanitas” (“Umanità magnifica”) e nel sottotitolo spiega di essere un testo «sulla custodia della persona umana nel tempo dell’intelligenza artificiale». Nel lungo testo – quasi 36mila parole nella versione italiana – Leone XIV invita a riconoscere le AI come una tecnologia che farà sempre più parte della nostra esistenza, e che per questo deve essere governata per evitare che crei non solo disparità, ma anche una «disumanizzazione».

Nel testo viene citata la storia biblica della torre di Babele, l’ambizioso tentativo umano di costruire una torre fino al cielo escludendo Dio, un piano frutto «dell’idolatria del profitto che sacrifica i deboli, l’uniformità che appiattisce le differenze, la pretesa di un linguaggio unico». Secondo Leone XIV il rischio della disumanizzazione passa dal tentativo di «costruire il futuro escludendo Dio e riducendo l’altro a mezzo». Qualcosa di analogo all’episodio biblico, dice, sta ora succedendo con le AI, ma secondo lui è ancora possibile evitarne gli esiti avversi.

Come avviene spesso con le encicliche, che sono tra i documenti pontifici più importanti, gli aspetti prettamente religiosi e di fede si intrecciano e a volte vanno in parallelo con quelli più pratici e “laici”, che riguardano tutti. Al di là degli aspetti spirituali, si discute ormai da anni sui confini delle AI e sulla necessità o meno di regolamentarne gli sviluppi, e in questo senso va anche letto l’appello di Leone XIV che scrive: «Chiedo a tutti di fermare il cantiere dell’ennesima Babele e di unire le forze per edificare nel bene, affinché l’umanità non perda mai la propria bellezza».

Negli aspetti più pratici e terreni, l’enciclica cita la necessità di fare intervenire i governi per regolamentare le AI, il cui sviluppo è gestito quasi interamente da aziende private che seguono logiche di profitto non necessariamente allineate a quelle del bene comune. Viene citata l’importanza di istruire i più giovani in modo che possano avere da subito un approccio critico verso questa tecnologia e viene chiesto un impegno, in particolare dai governi, per proteggere i bambini da contenuti violenti e che sessualizzano i corpi umani.

Leone XIV cita l’enciclica “Rerum Novarum” pubblicata 135 anni fa da papa Leone XIII durante la rivoluzione industriale. All’epoca la Chiesa cercava di affrontare gli effetti sociali e spirituali dell’industrializzazione, e di difendere i lavoratori dallo sfruttamento. La nuova enciclica tratta l’avvento delle AI come una trasformazione altrettanto profonda e potenzialmente pericolosa. Leone XIV ricorda che il lavoro non serve solo a guadagnarsi da vivere, ma è una parte essenziale della realizzazione personale e della dignità umana.

Il papa segnala quindi il rischio che le AI si sostituiscano a molti impieghi, creando contesti in cui alle persone viene attribuito valore solo in base alla loro efficienza e produttività, più di quanto avvenga già oggi nelle nostre società. Le strutture nate per proteggere i lavoratori proprio durante la rivoluzione industriale (sindacati, associazioni) potrebbero non essere più sufficienti, e per questo i governi dovrebbero cercare un luogo di confronto con imprese, comunità scientifica e rappresentanti sociali per trovare nuove regole condivise senza che queste ostacolino il processo tecnologico.

Queste preoccupazioni sono condivise ovviamente anche al di fuori della Chiesa e hanno alimentato buona parte del dibattito degli ultimi anni sulle AI, spesso tra gli stessi autori dei progressi più importanti nel settore. Geoffrey Hinton, spesso definito il “padrino dell’intelligenza artificiale” per le sue scoperte sui modelli di reti neurali, parla spesso dei rischi legati alla disinformazione, alla perdita di posti di lavoro e alle minacce esistenziali poste dalle AI verso cui non sembra esserci molto interesse da parte delle aziende che le sviluppano e ne vendono i servizi. Economisti come Joseph Stiglitz e Thomas Piketty sostengono da tempo che le innovazioni tecnologiche tendono a fare aumentare le disuguaglianze e la concentrazione della ricchezza, se non vengono accompagnate da politiche redistributive e protezioni del lavoro incisive.

Leone XIV cita anche la necessità di «disarmare l’AI» in un senso più ampio di quello militare: «Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano». Il papa parla di un compito che oggi «non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’AI è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale».

Nei discorsi pubblici e in alcune dichiarazioni dei mesi scorsi, Leone XIV aveva dimostrato di essere molto interessato alle questioni legate all’impiego delle intelligenze artificiali in numerosi ambiti. Per questo aveva cercato il confronto con i responsabili delle aziende più grandi, ricche e potenti del settore.

Christopher Olah, uno dei cofondatori della società statunitense Anthropic, era al tavolo con papa Leone XIV durante la presentazione dell’enciclica per ricordare la necessità di dialogo con chi materialmente sviluppa i sistemi di intelligenza artificiale e il resto della popolazione, compresi i leader spirituali. Olah è ateo, ma in varie occasioni ha descritto il proprio lavoro in termini spirituali, paragonandolo a quello di un sacerdote che si occupa della formazione morale di un’entità pensante in modo che impari ad avere una buona condotta.

Il Vaticano ha chiarito che la presenza di Olah non costituiva un’approvazione delle attività di Anthropic, che per diverso tempo si è comunque distinta dalle altre grandi aziende tecnologiche che si occupano di AI mostrando di avere maggiore attenzione sulle questioni etiche e di sicurezza legate a questi sistemi. Nelle settimane prima della pubblicazione dell’enciclica, Leone XIV aveva incontrato i rappresentanti di alcune delle più grandi e potenti aziende tecnologiche statunitensi come Google, Meta e Amazon, dimostrando di essere particolarmente interessato alle questioni ancora aperte intorno alle AI e alla loro sicurezza.