Finanza

Disarmare l’intelligenza artificiale? Leone XIV tra responsabilità e potere tecnologico (seconda parte) 

Nella prima parte  di questo articolo si è visto come Magnifica Humanitas legge il tempo dell’intelligenza artificiale: l’eredità della Rerum novarum e la scelta di fondo tra Babele e Gerusalemme, un potere tecnologico ormai prevalentemente privato, una macchina che simula senza capire, e i terreni concreti in cui la disumanizzazione cresce – verità, scuola, lavoro, ambiente, nuove schiavitù. Era la diagnosi: dove si concentra il potere, che cosa la macchina non è, dove l’umano rischia di arrendersi. Resta il passaggio decisivo, ed è la materia di questa seconda parte: dalla diagnosi alla responsabilità. Perché sotto ogni terreno torna la stessa domanda – quando una decisione che esclude o seleziona viene affidata a una macchina, chi ne risponde? – e qui tutto, nel documento, converge su una sola parola, quella che dà il titolo all’enciclica: disarmare. Non un programma tecnico, ma una conversione dello sguardo: è ciò che le pagine seguenti mettono alla prova.

Responsabilità, accountability e il senso del “disarmo”. Il filo che tiene insieme quegli ambiti è la responsabilità. Affidare a un algoritmo il potere di selezionare chi merita e chi no – chi accede al credito, al lavoro, a un servizio, a una cura – senza che nessuno si assuma più il peso della decisione significa qualcosa di più della perdita di empatia, che pure si può imitare. Significa dissolvere il luogo stesso dell’imputazione politica. Lo scarto dei deboli viene ammantato di neutralità e oggettività; la decisione appare come esito necessario di un calcolo, non come scelta umana; e così, davanti a una matematica presentata come imparziale, diventa quasi impossibile protestare. È qui che “l’ingiustizia si fa silenziosa”.

Questa è una delle diagnosi più riuscite dell’enciclica, perché coglie il meccanismo prima ancora dell’effetto. Il danno dell’automazione decisionale non sta soltanto nell’errore, nella discriminazione o nell’opacità del sistema. Sta nella sottrazione del soggetto a cui chiedere conto. Se una persona viene esclusa da un prestito, da una graduatoria, da un’assunzione, da un servizio essenziale, deve poter sapere non solo quale criterio sia stato applicato, ma chi lo abbia scelto, chi lo abbia validato, chi lo abbia messo in funzione e chi possa correggerlo. Senza questa catena visibile, la responsabilità si disperde: non decide nessuno, e proprio per questo qualcuno decide senza rispondere.

È qui che l’enciclica richiama la categoria decisiva di accountability: la possibilità di identificare chi deve rendere conto delle decisioni, motivarle, verificarle, correggerle e, quando serve, riparare i danni. La catena delle responsabilità – chi progetta, chi addestra, chi finanzia, chi autorizza, chi impiega – deve restare identificabile e verificabile. Non basta che il sistema funzioni; occorre sapere secondo quali fini funziona, su quali dati è stato formato, quali esclusioni produce, quali interessi serve e quali rimedi lascia aperti a chi ne subisce gli effetti.

È in questa cornice che va inteso il verbo attorno a cui ruota l’intera enciclica: disarmare. Disarmare l’IA non significa rinunciare alla tecnologia, né arrestare l’innovazione. Significa sottrarla alla logica della potenza: la competizione armata, non solo militare ma anche economica e cognitiva; la corsa all’algoritmo più performante, alla banca dati più vasta, alla piattaforma più indispensabile; l’equivalenza implicita tra capacità tecnica e diritto di governare. Disarmare l’IA vuol dire impedirle di diventare una forza che domina l’umano invece di servirlo. Vuol dire toglierla ai monopoli, renderla discutibile, contestabile e quindi abitabile.

Il punto importante è che l’enciclica non lascia questa parola allo stato di immagine. Il disarmo è anche il nome di un programma, e il testo ne indica alcune leve concrete: la proprietà dei dati va regolata e trattata come bene comune, non lasciata alla sola disponibilità privata; gli algoritmi che incidono su diritti fondamentali devono essere sottoposti a trasparenza, verifiche indipendenti e strumenti effettivi di ricorso; le imprese devono assumere criteri di due diligence lungo le filiere; i minori devono essere protetti da limiti di età e responsabilità dei fornitori; lo sviluppo non può essere misurato soltanto dal PIL; la cooperazione internazionale deve orientarsi verso i più vulnerabili. In ambito bellico, il criterio diventa ancora più netto: tracciabilità delle decisioni, controllo umano effettivo sull’uso della forza letale, regole condivise contro la corsa agli armamenti tecnologici.

Resta una difficoltà reale, che il testo dell’enciclica non rimuove: molti degli attori chiamati a “disarmare” l’IA sono privati, transnazionali, economicamente potentissimi, e quasi mai hanno motivi a limitare il proprio potere. Ma proprio per questo l’enciclica non si rivolge soltanto a chi sviluppa e commercializza questi sistemi. Chiama in causa anche gli Stati, le istituzioni sovranazionali, la società civile, le comunità scientifiche, le imprese, i lavoratori, gli educatori. Chiede una politica più presente, capace di rallentare dove tutto accelera, e di trasformare la responsabilità morale in obblighi controllabili.

Qui sta il senso proprio del documento. Un’enciclica non scrive un regolamento attuativo, non istituisce autorità di vigilanza, non determina sanzioni. Ma non per questo resta nel generico. La parola magisteriale è azione quando forma il giudizio, sposta il lessico pubblico, rende moralmente visibile ciò che l’abitudine economica tende a rendere invisibile. In questo caso, il Papa non si limita a chiedere un’IA “più etica”: chiede che la potenza tecnica sia sottoposta a responsabilità, che i monopoli siano ricondotti al bene comune, che le decisioni automatizzate restino imputabili a soggetti umani. Disarmare significa questo: impedire che il potere si nasconda dietro la macchina.

La cultura della potenza e il falso realismo. Il quinto capitolo porta l’analisi nel punto in cui la posta non è più soltanto sociale, economica o culturale, ma letteralmente vitale. La rivoluzione digitale, scrive Leone XIV, sta cambiando “la grammatica dei conflitti”: attacchi cibernetici, manipolazione dell’informazione, automazione delle decisioni strategiche. L’IA non rende la guerra più umana; la rende più rapida, più impersonale, più facile da avviare e più difficile da arrestare. Abbassa la soglia del ricorso alla forza, trasforma il nemico in dato, la vittima in variabile, la distruzione in effetto collaterale. Sulle armi autonome il giudizio è senza appello: il discernimento morale non è riducibile a calcolo, e non è lecito affidare a sistemi artificiali decisioni letali o irreversibili. Nessun algoritmo può rendere moralmente accettabile ciò che, nella sua sostanza, resta lacerazione dell’umano.

A monte di questa deriva c’è quella che l’enciclica chiama una “cultura della potenza”: la normalizzazione della guerra, la riabilitazione del riarmo, la perdita della memoria storica della Shoah e delle guerre mondiali, l’industria bellica trasformata in motore autonomo di scelte politiche, l’opinione pubblica orientata da narrazioni polarizzanti che gli algoritmi amplificano perché lo scontro trattiene, eccita, fidelizza. È qui che il testo raggiunge il suo punto politicamente più duro. Ciò che oggi si presenta come realismo, avverte il Papa, è spesso una forma di irresponsabilità. La Realpolitik che educa le coscienze alla rassegnazione, che considera la guerra inevitabile e liquida la pace come ingenuità, non è lucidità: è rinuncia alla politica. Scambia il fatto con il destino; constata che la forza domina e ne deduce che debba continuare a dominare.

Leone XIV rovescia così il lessico consueto della prudenza. Non è realismo moltiplicare le armi mentre crescono le paure; non è realismo chiamare sicurezza ciò che prepara nuove insicurezze; non è realismo affidare la stabilità del mondo a una competizione tecnologica e militare sempre più opaca. Il ricorso alla guerra in nome di un falso realismo non risolve i problemi dei popoli: li aggrava, li sposta, li rende più profondi. E il testo arriva a una denuncia esplicita del cinismo del potere, quando non esclude che il conflitto armato possa essere usato anche per distogliere l’attenzione dalle crisi interne e come strumento di gestione brutale delle difficoltà politiche.

A questa cultura della potenza l’enciclica oppone la “civiltà dell’amore” di Paolo VI. Non come rifugio sentimentale, né come utopia disarmata nel senso debole del termine, ma come forma esigente di realismo cristiano: tradurre la carità in strutture di giustizia, trasformare l’interdipendenza subita in solidarietà scelta, ricondurre la politica alla sua responsabilità primaria, che è custodire la vita dei popoli. Le cinque piste indicate – disarmare le parole, costruire la pace nella giustizia, assumere lo sguardo delle vittime, coltivare un sano realismo, rilanciare il dialogo – non sono consigli edificanti, ma criteri di governo della complessità.

In questa prospettiva si capisce anche il richiamo alla diplomazia e a un multilateralismo da riformare, non da abbandonare. Compaiono Tolkien, con l’invito a non pretendere di dominare tutte le maree del mondo ma a fare il possibile negli anni che ci sono dati, e Giorgio La Pira, con la sostituzione del metodo della guerra con il metodo del negoziato. Il “sano realismo” che Leone XIV chiede è l’opposto della Realpolitik cinica: non nega interessi, paure e rapporti di forza, ma li guarda senza idolatrarli; non confonde la pace con una parola nobile, ma cerca le condizioni praticabili perché possa diventare storia. È, in fondo, la stessa logica del disarmo applicata alla politica internazionale: togliere alla forza la pretesa di essere l’unica lingua del mondo.

Restare umani. Al termine, l’enciclica non tira semplicemente un bilancio. Raccoglie i fili del discorso e li riconduce ai principi che reggono l’intera dottrina sociale della Chiesa, mostrando che il tempo dell’IA non li rende obsoleti, ma più urgenti. La dignità di ogni persona, che non dipende da ciò che produce e non può essere ridotta a profilo. Il bene comune, che non coincide con la somma degli interessi privati. La destinazione universale dei beni, da estendere oggi anche a dati, algoritmi e infrastrutture digitali. La sussidiarietà, che impedisce di consegnare a pochi il potere di decidere per tutti. La solidarietà, che obbliga a vedere il lavoro invisibile e i corpi consumati da cui dipende il flusso del calcolo. La giustizia, infine, che misura ogni innovazione su una domanda ripresa da Giovanni Paolo II: questa tecnica rende la vita umana, in ogni suo aspetto, più degna dell’uomo?

È anche il momento per chiarire ciò che il documento non è. È stato raccontato come l’enciclica contro l’intelligenza artificiale, ma questa lettura ne tradisce l’impianto. Il testo non condanna la tecnica: la riconosce come parte della storia umana, capace di curare, connettere, educare, custodire la Casa comune. Arriva persino a leggere l’innovazione, in un certo senso, come forma umana di partecipazione all’atto della creazione. Per questo si rivolge a chi sviluppa l’IA non con un’accusa generica, ma con il riconoscimento di una responsabilità proporzionata al potere che esercita.

Ciò che il Papa rifiuta non è la macchina, ma una certa visione dell’uomo. Rifiuta l’idea che l’efficienza sia la misura del valore, che il corpo sia un ostacolo da superare, che il limite sia soltanto un difetto, che la vulnerabilità renda una vita meno degna. Rifiuta una cultura in cui la potenza cresce mentre il cuore si inaridisce, i legami si spezzano e i più fragili diventano scarti di sistema. Per questo il verbo decisivo non è “rifiutare”, ma “disarmare”: non spegnere l’IA, ma liberarla dalla logica del dominio; non uscire dalla tecnica, ma renderla abitabile.

Resta, alla fine, la figura di Neemia. Non lo spettatore rassegnato delle rovine, né il loro commentatore, ma colui che entra nei cantieri della storia e affida a ciascuno un tratto di muro. È forse l’immagine più esatta per leggere l’intera enciclica: non un testo che chiude il discorso, ma un invito a ricostruire. Nei laboratori, nelle imprese, nelle scuole, nelle redazioni, nei tribunali, nelle istituzioni, nelle comunità, il compito è rialzare ciò che è crollato e proteggere ciò che è esposto, mattone dopo mattone.

La scelta che il documento consegna non riguarda un futuro remoto. Comincia adesso, è già cominciato, nel modo in cui progettiamo, regoliamo, insegniamo, lavoriamo, informiamo, decidiamo, combattiamo o costruiamo la pace. Nel tempo dell’IA, in cui la dignità rischia di essere oscurata da nuove forme di disumanizzazione, il dovere urgente è restare profondamente umani. Babele o Gerusalemme: una costruzione grandiosa che ambisce al cielo e disperde, oppure una città ricostruita insieme, più vivibile e più ospitale. La scelta, avverte Leone XIV, non è nelle macchine. Comincia in ciascuno di noi.