🤖 Disarmiamo l'IA: il tempismo di "Magnifica Humanitas" - Legge Zero #120
Papa Leone XIV interviene nel dibattito globale sull'intelligenza artificiale, chiedendo regole, responsabilità condivise e dialogo. Una posizione autorevole che impone a tutti una scelta di campo.
🧭 TL;DR: ecco di cosa ci occupiamo in questo numero
Papa Leone XIV ha pubblicato Magnifica Humanitas, la sua prima enciclica che è dedicata alla “custodia della persona umana nel tempo dell’intelligenza artificiale”. Ne stanno parlando tutti, ma noi l’abbiamo riletta tre volte prima di provare a scriverne. E non vi proporremo l’ennesima sintesi fatta dall’intelligenza artificiale.
Magnifica Humanitas è un documento lungo (oltre 40mila parole) e ricco di riferimenti e richiami, un’enciclica che parla della società più che della tecnologia.
In questo numero vi raccontiamo perché conta per chi si occupa di regolazione dell’IA. Vedremo come il Vaticano è entrato esplicitamente nel dibattito globale su norme, monopoli e diritti dei lavoratori dell’era algoritmica, perché uno dei co-fondatori di Anthropic era seduto in un’aula vaticana proprio mentre a Washington saltava l’Executive Order sull’IA, chi è il bersaglio senza nome dell’enciclica e cosa c’entrano Babele, il profeta Neemia e - perché no - anche Gandalf con la nuova Rerum Novarum dell’epoca digitale.
🗞️ Una giornata storica
Lunedì 25 maggio 2026, ore 11.30, Aula Nuova del Sinodo, Città del Vaticano.
È gremita la sala lunga e bassa, allestita negli anni ‘70 per i sinodi dei vescovi, che è stata scelta per presentare la prima enciclica di Papa Leone XIV, Magnifica Humanitas. Chi siede in platea - cardinali, vescovi, rappresentanti della Curia, diplomatici, vaticanisti ed esperti del mondo dell’IA - ha la percezione di partecipare a un momento storico. Da giorni, dal momento esatto in cui ne è stata annunciata la pubblicazione, infatti, non si parla d’altro. E l’attesa è grande, soprattutto dopo le prime anticipazioni.
Sul tavolo della presidenza ci sono sette sedie. Sei sedie sono per i relatori. Tre uomini di Chiesa:
il cardinale Víctor Manuel Fernández, Prefetto del Dicastero per la Dottrina della Fede (firmatario di Antiqua et Nova del 2025, un documento sul rapporto tra intelligenza artificiale e intelligenza umana);
il cardinale Michael Czerny, gesuita, Prefetto del Dicastero per il Servizio dello Sviluppo Umano Integrale (tra gli artefici della Laudato Si’ del 2015);
il Segretario di Stato Pietro Parolin (diplomatico di lungo corso, nello stesso ruolo dal 2013).
Ci sono anche due teologhe:
Anna Rowlands (Università di Durham), esperta di teologia politica e di etica delle migrazioni, già consigliera teologica di Papa Francesco per Fratelli Tutti;
e Léocadie Lushombo (Università Santa Clara, originaria del Congo), studiosa della partecipazione politica delle donne in Africa subsahariana, recentemente nominata da Leone XIV membro del Dicastero per lo Sviluppo Umano Integrale.
E poi c'è un ricercatore IA canadese, in giacca scura, camicia bianca e cravatta, su cui sono puntati gli occhi di tutti. È Christopher Olah, co-fondatore di Anthropic (il provider che è in causa con il governo USA per aver rifiutato l’uso militare illimitato dei propri modelli), ma anche ex ricercatore di OpenAI e un tempo vicino a Pieter Thiel (attualmente una delle voci più critiche contro Leone XIV, che ha definito addirittura “l’Anticristo”). L’unico uomo del mercato IA al tavolo è - probabilmente - uno dei maggiori esperti al mondo di interpretabilità dei modelli di intelligenza artificiale (la disciplina che cerca di capire "perché un modello ha risposto così?").
Smentendo la retorica della Silicon Valley (“costruiamo tecnologia per il bene dell’umanità”), Olah pronuncia subito parole non banali, una richiesta d’aiuto che spiega il senso della sua presenza in Vaticano:
Ogni laboratorio di IA di frontiera opera dentro un insieme di incentivi e vincoli che a volte possono entrare in conflitto con il fare la “cosa giusta”. Servono critici informati, che dicano ai laboratori quando stanno fallendo. Servono voci morali che gli incentivi non possano piegare.
Aziende come la nostra operano sotto forti pressioni commerciali, geopolitiche e personali che possono essere in conflitto con gli interessi più ampi della società.
Insomma, non un intervento di circostanza.
Sulla settima sedia, al centro, siede Papa Leone XIV. È la prima volta nella storia che un Pontefice partecipa di persona alla presentazione di una propria enciclica. Di solito, un'enciclica viene affidata ai dicasteri, presentata da loro, commentata da loro. Stavolta no. Stavolta il Papa è in sala, ascolta tutti gli interventi, prende la parola alla fine (in inglese, tanto per far capire da chi vuole essere ascoltato), dà la benedizione. Non è solo un cambio di protocollo. È una dichiarazione di metodo: questo testo non scende dall'alto, nasce da un dialogo, e quel dialogo continua dentro l'Aula del Sinodo. Lo conferma anche la scelta del tavolo, che mette accanto la dottrina, la teologia politica, il pensiero sociale del Sud globale, la diplomazia ecclesiale e - appunto - la ricerca tecnica industriale (con un rappresentante di uno dei provider più quotati).
Nulla è lasciato al caso. E così, la foto dei relatori è già la classica immagine che vale più delle proverbiali mille parole.
📖 Un documento complesso
Mentre in sala iniziano gli interventi dei relatori, sul sito della Santa Sede viene pubblicato il testo dell’enciclica.
Il documento - ormai lo sanno tutti - si intitola Magnifica Humanitas, sottotitolo: "Sulla custodia della persona umana nel tempo dell'intelligenza artificiale". È stato firmato il 15 maggio 2026, esattamente nel 135° anniversario della firma della Rerum Novarum di Leone XIII. E non è un caso, la scelta della data - infatti - sigilla il parallelismo che attraversa tutto il testo (e che è alla base della scelta stessa del nome di Papa Prevost).
Nel 1891, Leone XIII rispondeva allo shock della prima rivoluzione industriale, in un'enciclica che fissò per la prima volta la "questione operaia" come materia del magistero sociale e fondò quella che oggi chiamiamo Dottrina sociale della Chiesa. Nel 2026, Leone XIV - il primo Papa ad usare quotidianamente internet e ad avere un Apple Watch - fa la stessa operazione di fronte a un'altra rivoluzione, quella dell’IA. Il filo dichiarato è esattamente questo: la Chiesa offre, oggi, il proprio patrimonio di dottrina sociale per rispondere agli sviluppi dell'intelligenza artificiale che comportano nuove sfide per la difesa della dignità umana, della giustizia e del lavoro. Sfide che - il sottotesto è chiaro - hanno trovato impreparate istituzioni e regolatori e non possono essere affidate all’autoregolazione dei provider.
Magnifica Humanitas è quasi quattro volte più lunga della Rerum Novarum: 40mila parole suddivise in 245 paragrafi contro i 45 della Enciclica di Leone XIII, mentre ha quasi la stessa stazza di Laudato Si' di Papa Francesco (246 paragrafi, 40.500 parole).
Per orientarsi nel testo, l'enciclica propone due immagini bibliche che tornano dall'inizio alla fine: la torre di Babele (simbolo di un progetto fondato sull'orgoglio e sull'autosufficienza che produce dispersione e omologazione) e la ricostruzione delle mura di Gerusalemme sotto Neemia (simbolo della responsabilità condivisa per un rinnovamento).
Sono le due tentazioni e le due possibilità di ogni rivoluzione tecnica: la corsa individualistica al dominio oppure la costruzione collettiva della convivenza. E il passaggio è sottolineato anche da una delle infografiche preparate dal Vaticano per illustrare l’enciclica (è una novità anche questa).
⚖️ Non basta l’etica, servono le regole
L’enciclica è articolata in sei snodi: un’introduzione, cinque capitoli e una conclusione. Ma, visto che arriviamo ultimi a commentarla, possiamo concentrarci su alcuni aspetti che la rendono di particolare interesse per chi si occupa di regolazione dell’IA. Già, e questo è un punto che va compreso. Il documento, infatti, per come è articolato non esprime solo convincimenti e posizioni di interesse per i fedeli di Santa romana Chiesa. Arun Agrawal, professore dell’Università di Notre Dame, ha fatto notare che nell'enciclica le parole "bene comune" compaiono più volte di "intelligenza artificiale", più di "Chiesa", più di "religione". Tradotto: la Magnifica Humanitas non è davvero un’enciclica sull’IA. Piuttosto usa l'IA come lente per affrontare problemi sociali al tempo stesso vecchi e nuovissimi: la concentrazione di potere, l'erosione della democrazia, un'élite tecnologica che plasma il mondo a proprio vantaggio senza mettere al centro lo sviluppo umano.
E, per affrontare questi problemi, servono le regole.
Lo dice chiaramente il paragrafo 106 dell’enciclica:
Chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana. Questa esigenza è ancora più urgente perché esiste spesso uno squilibrio tra la velocità dello sviluppo tecnologico e il ritmo con cui maturano consapevolezza, norme, controlli e istituzioni capaci di governarne gli effetti. Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito. Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile, finendo per imporre regole dettate da chi possiede dati, infrastrutture e capacità di calcolo.
Chi segue questa newsletter non sarà stupito. Ma - scritto da un Papa in un’enciclica - è un passaggio contro corrente e coraggioso se pensiamo che è stato pubblicato negli stessi giorni in cui il Presidente Trump ha ceduto alle pressioni dei provider e non ha adottato un ordine esecutivo sulla sicurezza dell’IA e che l’Unione Europea ha differito al 2028 la piena applicabilità dell’AI Act (inizialmente pensata per il 2026).
Proprio mentre la retorica della deregulation sembrava aver vinto - a tutte le latitudini - la Magnifica Humanitas afferma la necessità di regole, e più precisamente di regole globali e condivise da tutti.
È una posizione politica e culturale, prima ancora che teologica.
🔑 I concetti chiave
L’enciclica è densa di altri richiami interessanti e vi consigliamo di leggerla (senza farvela riassumere dall’IA). Per guidarvi nella consultazione, abbiamo isolato alcuni dei passaggi - a nostro avviso - più significativi.
I modelli IA sono coltivati, non costruiti (§ 98).
È una delle parti più sorprendenti dell'intera enciclica, perché parla un linguaggio che sembra preso da un paper di mechanistic interpretability. "Tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento. Le moderne intelligenze artificiali sono infatti più 'coltivate' che 'costruite': gli sviluppatori non ne progettano direttamente ogni dettaglio, bensì creano un'architettura sulla quale l'IA 'cresce'. Di conseguenza, aspetti scientifici fondamentali - come le rappresentazioni interne e i processi computazionali di questi sistemi -rimangono al momento sconosciuti." Insomma, se neppure chi li costruisce sa come funzionano al loro interno, la regolazione e il controllo non sono opzionali, ma necessari.L'IA non è moralmente neutra (§ 104).
"Non possiamo considerare l’IA moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. […] Il discernimento etico non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano." Per chi conosce il dibattito tecnico, è la legittimazione filosofica dell'approccio by design. Il § 109 lo dice ancora più chiaramente: "la giustizia sociale non è solo un obiettivo da tutelare dopo l'adozione delle tecnologie, ma una condizione previa da praticare nel loro stesso disegno". Insomma, care piattaforme basta con la retorica del “Move fast and break things”, serve responsabilità in fase di progettazione e sviluppo.
Accountability (§ 105).
A proposito di responsabilità, l'enciclica usa il termine in inglese e lo definisce con precisione: "la possibilità di identificare chi deve 'rendere conto' delle decisioni, motivarle, controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano". Detto in altre parole: per ogni decisione automatizzata che incide sulla vita di una persona deve esserci qualcuno che ne risponde davvero.
L’allineamento non può essere delegato a pochi (§ 107).
Qui l'enciclica si spinge nel vivo di questioni tecniche di sviluppo dei modelli di frontiera. "Non possiamo limitarci a invocare la moralizzazione della macchina, il cosiddetto 'allineamento' dell'IA a valori umani, senza avere il coraggio di porre una ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti, chi controlla l'IA imporrà la propria visione morale, che diventerà l'infrastruttura invisibile dei sistemi. Non serve un'IA più morale, se questa morale è decisa da pochi." Tradotto: la sicurezza dei modelli non può essere lasciata a un esercizio interno delle aziende che li costruiscono, alla loro autoregolazione. Serve un dibattito pubblico.
Su questo, la presenza di uno dei co-fondatori di Anthropic è simbolica: la nuova “Costituzione di Claude” pubblicata alcuni mesi fa, stando a quanto pubblicato dai media, sarebbe proprio un esperimento di governance condivisa e multilaterale. Infatti, la società guidata da Amodei avrebbe consultato alcuni prelati, tra cui padre Brendan McGuire, sacerdote della diocesi di San Jose (Silicon Valley), con un passato da dirigente dell’industria tech.
I dati come bene comune (§ 108).
"La proprietà dei dati non può essere affidata solo a privati, ma va regolamentata. Essi sono frutto del contributo di molti e non possono essere venduti o affidati a pochi. Serve una creatività in grado di gestirli come uno dei beni comuni o collettivi". È la prima volta che un'enciclica si pronuncia in modo così esplicito sui dati (personali e non) - oggetto di tantissimi contenziosi - come oggetto di nuova regolazione pubblica.
Smascherare i nuovi monopoli dell'IA (§ 109).
Leone XIV - come se fosse il documento di apertura di un’indagine antitrust - dice (§95) che "in molti casi nel contesto digitale, il controllo delle piattaforme, delle infrastrutture, dei dati e della capacità di calcolo non è appannaggio degli Stati, ma di grandi attori economici e tecnologici che, di fatto, fissano le condizioni di accesso, le regole della visibilità e le possibilità stesse di partecipazione". Una manciata di aziende. Una manciata di persone, dentro quelle aziende prendono tutte le decisioni. Parlare di “bene comune” in questo contesto è quasi un atto rivoluzionario. "In un mondo dove pochi soggetti concentrano dati, capitale computazionale e capacità normativa, parlare di bene comune significa smascherare questa nuova asimmetria epistemica, economica e politica, nominando i nuovi monopoli dell'IA."
Il lavoro come prima frontiera sociale (§150).
Proprio come davanti a ogni rivoluzione industriale, Magnifica Humanitas si concentra sull’impatto sul lavoro e sui lavoratori. “Mentre l’IA promette di dare impulso alla produttività facendosi carico delle mansioni ordinarie, i lavoratori sono spesso costretti ad adattarsi alla velocità e alle richieste delle macchine, piuttosto che siano queste ultime a essere progettate per aiutare chi lavora. Per questo, contrariamente ai benefici dell’IA che vengono pubblicizzati, gli attuali approcci alla tecnologia possono paradossalmente dequalificare i lavoratori, sottoporli a una sorveglianza automatizzata e relegarli a funzioni rigide e ripetitive.”
Il § 156 introduce una formula che un giurista potrebbe riconoscere come quasi prescrittiva: “ogni introduzione di automazione e di IA dovrebbe essere accompagnata da scelte verificabili di tutela dell’occupazione, di riqualificazione e di partecipazione dei lavoratori”. Scelte verificabili.
E poi il § 164 fissa un criterio operativo molto concreto:
Trasparenza e responsabilità: quando dati e algoritmi incidono su erogazione del credito, selezione del personale, accesso a servizi o opportunità, è necessario che le decisioni siano comprensibili, contestabili e sottoposte a controllo, perché la persona non sia ridotta a profilo.
Comprensibili, contestabili e sottoposte a controllo. Formula sicuramente più efficace di tanti provvedimenti normativi o delle autorità regolatorie.
No alle armi autonome (§ 198)
In una sezione di grande attualità, Leone XIV raccoglie il filo lasciato da Papa Francesco nel discorso al G7 di Borgo Egnazia del 14 giugno 2024, quando il Vaticano portò per la prima volta il tema delle armi letali autonome al tavolo dei grandi della terra.
Non esiste algoritmo che possa rendere la guerra moralmente accettabile. L’IA non sottrae il conflitto alla sua intrinseca disumanità: può soltanto renderlo più rapido e impersonale, abbassando la soglia del ricorso alla violenza e trasformando la difesa in previsione operativa, con le vittime ridotte a dati.
Per questo, il Pontefice fa tre richieste operative chiare: tracciabilità (“per ogni sistema impiegato in ambito bellico devono essere garantite tracciabilità e possibilità di ricostruire le decisioni, così che responsabilità ed eventuali colpe non si dissolvano ‘nella macchina’”), controllo umano (“la scelta di impiegare la forza letale non può essere delegata a processi opachi o automatizzati, ma deve restare sotto un controllo umano effettivo, consapevole e responsabile”) e regole internazionali condivise che “frenino la corsa agli armamenti tecnologici e assicurino una tutela particolare ai civili e alle infrastrutture essenziali alla loro sopravvivenza”.
🕊️ Disarmare l'IA
A metà dell’enciclica c’è un passaggio fortissimo:
Vorrei, infine, usare una parola che mi sta a cuore: “disarmare”. Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale.
È uno slogan, un invito all’azione, un “no” esplicito alla AI race, pronunciato in un'enciclica nel momento esatto in cui Pechino e Washington si contendono apertamente il vantaggio strategico nei modelli di frontiera.
Nella Magnifica Humanitas questi passaggi sono inseriti in una trama fitta è di citazioni e riferimenti, non solo a documenti della dottrina sociale. C’è perfino una nota a piè di pagina del Ritorno del Re di Tolkien. Il passaggio è stato accolto - con sorpresa - in molti commenti del giorno (anche perché Il Signore degli Anelli è caro a Pieter Thiel). La citazione di Tolkien è una battuta di Gandalf a Merry, dopo la battaglia dei Campi del Pelennor, nel capitolo “L’ultimo dibattito”:
Non tocca a noi dominare tutte le maree del mondo; il nostro compito è di fare il possibile per la salvezza degli anni nei quali viviamo, sradicando il male dai campi che conosciamo, al fine di lasciare a coloro che verranno dopo terra sana e pulita da coltivare.
Subito dopo, il Papa aggiunge una propria frase di grande impatto: “La civiltà dell’amore non nasce da un gesto unico e spettacolare, ma da una somma di fedeltà piccole e tenaci, che fanno argine alla disumanizzazione”.
Sradicare il male dai campi che conosciamo è la versione tolkieniana di quel "non possiamo abdicare al nostro compito" di cui scrive Leone XIV. Il Papa, su questo, è esplicito: "non tutti hanno lo stesso potere di incidere sulla realtà […]. Eppure, nessuno è senza responsabilità. Ognuno dispone di un proprio ambito di azione, e lì - non altrove - è chiamato a scegliere se alimentare la logica della forza […] oppure custodire la logica della pace" (§ 212).
Il legislatore, il provider, l’autorità, il giudice, l’avvocato, l’utente, il sindacalista. Tutti, anche noi di LeggeZero, siamo chiamati - anche attraverso le norme - a “disarmare l’IA e a renderla abitabile”. Ciascuno per quello che può.
😂 IA Meme
Il fatto che Anthropic fosse l’unico provider IA a partecipare alla presentazione di Magnifica Humanitas è stato sottolineato da molti commentatori (e da altrettanti meme).
🙏 Grazie per averci letto!
Per ora è tutto, torniamo la prossima settimana.
Se la newsletter ti è piaciuta, sostienici: metti like, commenta o fai girare!
Riflessione molto interessante che fa pensare al rapporto tra etica e tecnologia. In particolare mi ha colpito il fatto che il Papa non condanni l’IA in sé, ma chiede che resti sempre al servizio dell’uomo e non il contrario. Una distinzione che trovo importante e spesso dimenticata.