Il Papa parla di AI, e lo fa meglio di tanti “esperti”

Papa Leone XIV ha pubblicato ieri la sua prima enciclica, ed è simbolico che sia dedicata all’intelligenza artificiale. Il sottotitolo scelto dal pontefice, “sulla custodia della persona umana nel tempo dell’intelligenza artificiale“, ci rimanda al rapporto fra questa tecnologia strabiliante, che ha colonizzato il pensiero degli ultimi anni, e l’essenza dell’essere umano, oggetto prediletto della riflessione cattolica, e dell’umanesimo in generale.

Prima di considerare il messaggio, tuttavia, non è necessariamente ovvio che sia necessario porsi la domanda fondante. La Persona Umana ha bisogno di essere custodita? Protetta in qualche modo? L’AI è una minaccia che richiede azioni speciali? Il messaggio di Leone XIV sembra andare in questa direzione. Nell’ipotesi, condivisa da chi scrive, che queste questioni siano necessarie e urgenti, il messaggio è un’opportunità preziosa, più unica che rara, di riflettere su temi che spesso lasciamo da parte, troppo presi dall’immediatezza delle nostre azioni quotidiane.

C’è una continuità chiara con il pontificato precedente. Francesco aveva già denunciato il «paradigma tecnocratico» nella Laudato Si’ del 2015, ripreso il tema della frammentazione digitale e della comunicazione algoritmica nella Fratelli Tutti del 2020, e a gennaio 2025 aveva approvato la nota Antiqua et Nova della Dottrina della Fede e del Dicastero per la Cultura, primo documento ufficiale vaticano dedicato all’AI. Leone XIV raccoglie quel filo e lo rilancia, alzando il livello da nota istituzionale a enciclica papale.

Una voce politica dissonante

Ad accompagnarlo c’era almeno uno dei grandi nomi che abbiamo imparato a conoscere: sul palco accanto al pontefice, a parlare in nome dell’industria AI, c’era infatti Chris Olah, cofondatore di Anthropic. Sam Altman, Sundar Pichai, Satya Nadella, Mark Zuckerberg, Elon Musk, Demis Hassabis hanno preferito non commentare. Tacere, in questo caso, è la risposta più eloquente di quante ne potessero scrivere.

D’altra parte Leone XIV parla di mettere regole e freni all’AI, così come parla di pace. Posizionandosi così agli antipodi rispetto all’attuale governo statunitense (con Trump non corre buon sangue), e per conseguenza in antitesi anche rispetto alla maggior parte di Big Tech. Vale la pena ricordare un dettaglio che il silenzio rende più eloquente: Demis Hassabis è membro della Pontificia Accademia delle Scienze dal 2024, e il 19 maggio al Google I/O ha dichiarato che «AGI è ormai all’orizzonte, e sarà la tecnologia più profonda e impattante mai inventata». Sei giorni dopo, il Papa firmava un documento che contesta frontalmente quella stessa antropologia.

Leone XIV traccia alcuni punti fermi e costruisce su quelli un discorso ampio. Il concetto-chiave è disarmare l’intelligenza artificiale, da cui discendono i fronti che l’enciclica affronta in modo più sostanziale: le disuguaglianze, il lavoro, la guerra, la verità come bene comune. Il Pontefice ha invece dedicato ben poco spazio all’emergenza climatica. Peccato, perché è probabilmente un problema più importante di tutti gli altri messi insieme; ma offre meno appigli per costruire un discorso che metta al centro i valori cattolici. Non se ne può fare una colpa al Pontefice, ovviamente, ma avrei preferito che ne parlasse un po’ di più.

Disarmare l’Intelligenza Artificiale

«Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva». Il paragrafo 110 dell’enciclica continua: «Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile».

Il verbo disarmare ha un peso diverso da quelli che hanno dominato il dibattito fino a ieri, come “regolare”, “governare”, “rallentare”. Porta con sé un valore semantico militaresco, violento, pericoloso, e proprio per questo descrive ciò che oggi accade in quattro arene parallele.

L’AI è arma economica, perché chi parte avanti accumula vantaggio strutturale che gli altri non possono colmare. È arma ambientale, perché i suoi consumi materiali stanno ridisegnando il bilancio energetico globale. È arma cognitiva, perché può plasmare narrative, decisioni invisibili, immaginario collettivo. È arma sociale, perché può sostituire lavoro umano su una scala che nessuna delle rivoluzioni industriali precedenti ha conosciuto.

«Le decisioni sull’AI non dovrebbero essere lasciate alle persone dell’industria», ha detto Olah dal palco. Detta dal cofondatore di una delle tre frontier lab al mondo, è una confessione. Detta accanto al Papa, è un’investitura. Il consenso sulla diagnosi sta arrivando. È sulla cura che resta tutto aperto.

L’AI e il problema delle disuguaglianze, non è cosa da poco

«Come accade per ogni grande svolta tecnologica, l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati», scrive Leone XIV al paragrafo 108. E al 109 nomina ciò che pochi nominano: «il lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici» — i milioni di annotatori sottopagati nel Sud globale che insegnano ai modelli cosa è offensivo e cosa è accettabile, perché OpenAI, Google e Anthropic possano vendere prodotti puliti ai clienti enterprise occidentali.

Le disuguaglianze globali sono il secondo grande problema del pianeta dopo la crisi climatica. E, allora, una tecnologia che le accelera non è una buona notizia. Le cifre del talent shortage raccontano che il 65% dei profili AI senior è negli Stati Uniti, il 18% in Cina, meno dell’1% in Italia. Il capitale computazionale dei data center AI è concentrato in quattro hyperscaler. I dataset di addestramento sono proprietà privata di chi è arrivato per primo. Paolo Carozza, della Pontificia Accademia delle Scienze Sociali e chair del Meta Oversight Board, lo dice a TechCrunch in una formula efficace: la pratica di «raccogliere e manipolare» dati umani pone «sfide fondamentali alla libertà cognitiva».

Quando Garry Tan, CEO di Y Combinator (la fucina che ha lanciato OpenAI) confessa a Vanity Fair che in Silicon Valley «la gente è così pronta a fare dell’AGI il proprio dio», non sta facendo letteratura. Sta documentando che chi controlla questa tecnologia ha già abbandonato l’idea che il suo prodotto sia uno strumento: lo pensa già come un soggetto, e si concepisce come il sacerdote che lo serve. È la posizione contro cui Leone XIV ha costruito l’antropologia di Magnifica Humanitas. A poco vale, ma è pur sempre una speranza, il fatto che qualcuno abbia cominciato a fare un timido passo indietro sul termine AGI — definito ora «poco utile» perfino da Sam Altman.

IA come arma climatica

In quarantaduemila parole sull’AI, Leone XIV dedica al nesso AI-clima un solo paragrafo, il 101, dove riconosce che «gli attuali sistemi di IA richiedono grandi quantità di energia e acqua, incidono in modo significativo sulle emissioni di anidride carbonica e consumano risorse in maniera intensiva». Poi chiude con una formula tiepida: «soluzioni tecnologiche più sostenibili». È la lacuna più visibile dell’enciclica.

In un’enciclica che si rifà a Laudato Si’, in un documento che parla di «cura dell’umano», dedicare un capoverso al carburante di tutto il fenomeno è un’omissione inaspettata. La crisi climatica è il problema più grave del pianeta, e l’AI è una variabile che lo aggrava. E che potrebbe anche aiutarci a risolverlo, in teoria.

Secondo il report Energy and AI dell’IEA, i data center globali consumeranno 1.050 TWh entro fine 2026 — più di tre volte il fabbisogno elettrico italiano — con crescita annua del 30%. È una traiettoria che dovrebbe farci preoccupare almeno un po’.

L’AI è quindi arma a doppio taglio sul clima: può aggravare il problema, ma anche fornire strumenti per affrontarlo. I modelli di previsione meteorologica avanzata, la scoperta di nuovi materiali per batterie, l’ottimizzazione delle reti elettriche, l’agricoltura di precisione, il monitoraggio dei sistemi forestali — tutto questo è già in produzione, e in molti casi funziona meglio di quanto previsto cinque anni fa. La domanda vera è se chi controlla l’AI abbia qualche interesse a usarla veramente per questo scopo.

Se la soluzione che un modello AI suggerisce per ridurre le emissioni globali tocca i margini di chi possiede il modello stesso, o di chi detiene il potere in altre forme — penalizzando l’estrazione fossile, smontando le rendite immobiliari, ridistribuendo i diritti d’uso delle risorse — è ragionevole aspettarsi che venga ignorata, o sviata, o ridotta a campagna marketing.

Questa tecnologia appartiene a persone e gruppi che vivono grazie alla concentrazione di potere, e che non potranno mai prendere in considerazione un vero cambio di direzione. Eppure è proprio un radicale cambio di direzione ciò che suggerisce il Papa. Le AI risolveranno solo i problemi che i loro proprietari sono disposti a vedere risolti.

Coltivata, non costruita. E mai neutra

«Le moderne intelligenze artificiali sono più “coltivate” che “costruite”: gli sviluppatori non ne progettano direttamente ogni dettaglio, bensì creano un’architettura sulla quale l’IA “cresce”». Il paragrafo 98 è il passaggio più lucido dell’enciclica sul piano tecnico. Conseguenza diretta che il Papa stesso trae: «aspetti scientifici fondamentali — come le rappresentazioni interne e i processi computazionali di questi sistemi — rimangono al momento sconosciuti».

La scatola nera produce uno spostamento di responsabilità: se nessuno sa, nessuno risponde. Chi costruisce il modello non ne governa il dettaglio; chi lo usa ne capisce solo gli output; chi lo subisce — un candidato scartato da un applicant tracking system, un richiedente credito rifiutato da un algoritmo di scoring, un cittadino profilato per un’assicurazione — si ritrova senza strumenti per protestare e senza interlocutori da interpellare.

«Non possiamo considerare l’IA moralmente neutra». Il giudizio politico centrale arriva al paragrafo 104. Ogni modello porta inscritti i parametri di chi l’ha disegnato, finanziato e addestrato. Ogni decisione di cosa misurare e cosa ignorare, di cosa ottimizzare e cosa scartare, di come classificare persone e situazioni, è una scelta politica camuffata da tecnica. L’AI funziona come un orientamento che noi adottiamo, più che come uno strumento che noi orientiamo.

«Quando un’opinione si forma a partire da contenuti generati e selezionati da algoritmi, lo spazio del dialogo democratico si restringe», scrive il Papa al paragrafo 132 estendendo la cosa alla verità come bene comune. La frase pesa molto se la si legge insieme alla cronaca recente: l’acquisizione di Twitter da parte di Elon Musk e il suo uso aperto per la campagna elettorale di Donald Trump; il chatbot Grok di xAI segnalato dal National Center on Sexual Exploitation per la generazione di immagini pornografiche da foto reali; gli investimenti di Mark Zuckerberg in piattaforme che hanno scelto di sostituire la moderazione umana con sistemi automatici meno costosi. Tutti casi più o meno evidenti di come gli algoritmi possano in qualche modo plasmare le opinioni, seguendo in modo più o meno fedele la visione di una persona che ha il potere di determinare la loro inclinazione.

C’è un nome preciso per la tecnica retorica con cui questa concentrazione di potere viene fatta accettare. Si chiama realismo capitalista (il filosofo britannico Mark Fisher la descrisse meglio di chiunque altro) e consiste nel presentare come naturale e inevitabile ciò che è invece scelta politica di pochi. «Succederà comunque», «non si può fermare il progresso», «o ci adattiamo o restiamo indietro»: il vocabolario con cui Sam Altman, Sundar Pichai, Demis Hassabis raccontano l’AI è il vocabolario con cui trent’anni fa è stato naturalizzato il neoliberismo. Il Papa, al paragrafo 106, ne fotografa la dinamica con una sola riga: «il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile».

Arma sociale: il lavoro, il valore della persona, e la fine di un paradigma

«Nella quarta rivoluzione industriale» le innovazioni «vengono spesso accolte solo in funzione della riduzione dei costi e dell’aumento dei profitti»: il Papa lo dice senza giri di parole nei paragrafi 149-156. E aggiunge un passaggio che vale la pena rileggere: «la regola generale deve restare la tutela dei posti di lavoro e del ruolo insostituibile della persona. L’obiettivo di maggiori profitti non può giustificare scelte che sacrificano sistematicamente l’occupazione, perché la persona umana è fine e non mezzo».

In bocca a un Papa che si chiama Leone XIV (esplicito omaggio al Leone XIII della Rerum Novarum) la formula è particolarmente potente. In qualche modo la penna del Pontefice fa rieccheggiare la visione industriale e politica di uomini come Henry Ford, Adriano Olivetti, Enrico Mattei. Vale la pena nominarlo: questa enciclica è quasi marxista nel suo nucleo socio-economico, nel senso più genuino e meno polemico del termine.

Intanto, i licenziamenti tech del 2026 hanno toccato quota 113 mila in 179 aziende; le rilevazioni indipendenti misurano che solo il 20% è attribuibile ad AI in modo verificabile, ma il 48% viene dichiarato come “AI-driven” per le finestre di trimestrale agli investitori — il fenomeno che gli analisti hanno cominciato a chiamare AI washing dei licenziamenti. Goldman Sachs prevede 16 mila posti netti persi nel settore tecnologico USA nel solo 2026 per sostituzione algoritmica. E il pattern non risparmia nessun settore: persino le banche con investimenti AI massicci come JPMorgan misurano l’efficienza di 450 use case in produzione contro la riduzione del personale di front-office.

Il Papa al paragrafo 159 propone un cambio di paradigma: smettere di valutare le persone in base a ciò che producono. «Il valore della persona non dipende da ciò che realizza o produce». E chiede di superare il PIL come misura unica dello sviluppo, riconoscendo «parametri e metriche complementari» che valorizzino il benessere e non solo l’output. È una proposta che alcuni economisti — da Mariana Mazzucato a Kate Raworth — fanno da anni. Il fatto che ora la rilanci il Vaticano la fa entrare nel dibattito pubblico delle sedi dove fino a ieri restava ai margini, anche se da solo non basta a farla vincere.

Cosa proporre, mentre i CEO tacciono e i governi rinviano

Sam Altman, Sundar Pichai, Satya Nadella, Mark Zuckerberg, Elon Musk, Demis Hassabis, Mustafa Suleyman: nessuno si è fatto sentire sull’enciclica, almeno finora. Anthropic è l’eccezione — Dario Amodei era presente al lancio vaticano e Olah ha parlato per l’azienda, che il 19 maggio aveva anche pubblicato un comunicato ufficiale. Tutti gli altri tacciono. Rispondere darebbe legittimità a un avversario che le contestazioni di regolatori e politici non sono riuscite a costruire. Il silenzio è la confessione che il fronte aperto dal Papa è quello a cui meno sanno come rispondere.

«Abbiamo bisogno di voci morali che gli incentivi non possano piegare», ha detto Olah dal palco. Ha aggiunto: «le aziende come la nostra operano dentro un insieme di incentivi e vincoli che a volte possono entrare in conflitto con fare la cosa giusta. La pressione commerciale, geopolitica, le antiche pressioni dell’orgoglio e dell’ambizione». Detto da chi ha cofondato Anthropic, è una resa preventiva: lo dice perché sa di non potercela fare da solo.

Serve un patto multilaterale di disarmo dell’AI, modellato sul Trattato di non-proliferazione nucleare ma calibrato sulla natura specifica di questa tecnologia. Il Papa non l’ha formulato in modo operativo, ma il messaggio è abbastanza chiaro e lo si può immaginare basato su tre vincoli

1. soglie obbligatorie di efficienza energetica e idrica per i data center AI sopra una certa scala, con audit indipendenti vincolanti. Senza questo, l’AI continuerà ad aggravare la crisi climatica mentre dichiara di volerla risolvere.

2. accesso pubblico controllato ai dataset di training dei modelli sopra una certa soglia di parametri, per audit esterni di bias, contenuti illeciti e provenienza. Senza questo, la “scatola nera” coltivata di cui parla il paragrafo 98 resta una sovranità privata sottratta a ogni controllo democratico.

3. divieto vincolante di delegare ad AI decisioni letali o irreversibili — armi autonome, ma anche scelte mediche, giudiziarie, di sicurezza pubblica senza supervisione umana sostantiva. È la posizione del paragrafo 150 dell’enciclica, e oggi non esiste in nessun trattato internazionale.

«Oggi come oggi, impossibile», dirà chi conosce l’asse Trump-Big Tech, la timidezza europea, la frammentazione del Sud globale. Ed è vero. Ma una proposta impossibile, oggi, è quello che serve. La Convenzione sulle armi chimiche del 1992 fu impossibile fino al giorno prima della firma. La Croce Rossa di Henry Dunant nacque dall’indignazione di un singolo svizzero di fronte a Solferino. Quello che conta è nominare la direzione e rendere visibile l’inerzia colpevole di chi resta fermo. La fattibilità immediata viene dopo.

Il primo grande documento etico-politico sull’AI del 2026 non l’hanno scritto i governi, né i CEO, né i regolatori europei. L’ha scritto un Papa nato a Chicago, formato in Italia, e l’ha presentato accanto al cofondatore dell’unica frontier lab in conflitto pubblico con la propria amministrazione nazionale. Il pontefice fa bene a preoccuparsi di come l’AI possa aumentare le disuguaglianze, produrre disoccupazione su scala industriale, rendere le guerre più asimmetriche di quanto già siano, sbilanciare un potere globale già concentratissimo.

Da solo, ha pochi strumenti per cambiare granché — il magistero non legifera, non tassa, non sanziona. Ma il suo messaggio può contribuire agli sforzi di chi sta provando a evitare gli scenari peggiori: regolatori che costruiscono strumenti, ricercatori di sicurezza che lavorano dall’interno dei laboratori, organizzazioni civili che vigilano, sindacati che si attrezzano per l’ondata di sostituzione, decisori che firmano contratti pluriennali e si chiedono cosa stanno legittimando.

Disarmare l’AI è il compito politico del decennio. La prima cosa che possiamo fare, da chi legge a chi scrive, da chi decide budget a chi vota, è smettere di pretendere che il problema si risolverà da solo perché chi lo crea ha l’intelligenza di risolverlo. Non lo farà. Tocca a noi.