Il messaggio per la 57ma Giornata Mondiale della Pace è dedicato da Papa Francesco al tema dell’intelligenza artificiale (=AI, qui), un accostamento che potrebbe sembrare non molto scontato, ma che mostra come anche la tecnologia abbia ormai un ruolo decisivo per una fraterna convivenza tra i popoli.

A tal fine, la riflessione del Papa si àncora su quella più fondamentale sul ruolo della tecnologia nel progresso umano. In genere, le due realtà sono considerate, se non la stessa cosa, perlomeno una la conseguenza dell’altra: lo sviluppo della scienza e della tecnologia[i] non può che generare maggiore benessere e, quindi, grazie a un generalizzato soddisfacimento dei bisogni fondamentali, far venir meno le cause stesse della guerra. Pertanto, nell’immaginario comune, la tecnoscienza costituisce come una moderna escatologia per l’uomo secolarizzato e materialista. Certo, le sue conquiste sono sotto gli occhi di tutti, anche se, come ricorda il Pontefice, esse non sono mai totalmente “neutrali” o incondizionatamente buone, «ma soggette alle influenze culturali», per cui «le direzioni che prendono riflettono scelte condizionate dai valori personali, sociali e culturali di ogni epoca» (n. 2). Per cui è forse più corretto parlare di sviluppo tecno-scientifico, il quale diviene propriamente progresso «nella misura in cui contribuisce a un migliore ordine della società umana, ad accrescere la libertà e la comunione fraterna, porta dunque al miglioramento dell’uomo e alla trasformazione del mondo» (n. 1).

Questa visione generale dello sviluppo tecnologico si può ben applicare all’AI, per la quale, come ricorda giustamente il Papa, non esiste una definizione univoca, trattandosi di «una galassia di realtà diverse e non possiamo presumere a priori che il suo sviluppo apporti un contributo benefico al futuro dell’umanità e alla pace tra i popoli» (n. 2). In breve, quando parliamo di AI ci riferiamo principalmente a una serie di percorsi di ricerca basati sull’informatica (si parla, infatti, di algoritmi), ma aperti praticamente a ogni settore della vita umana: robotica, economia, biologia, medicina, filosofia, e così via. Ebbene sì, anche la filosofia. Perché l’AI è prima di tutto una filosofia di ricerca che cerca di imitare le capacità cognitive umane per svolgere determinati compiti e risolvere problemi. Infatti, già la scelta del nome – intelligenza artificiale – tradisce la non neutralità di tale approccio di studio, che si teme potrebbe portare a una sostituzione dell’uomo in molteplici campi da parte della sua controparte «meccatronica»[ii]. Che fare, allora, di fronte a questa minaccia, che sembrerebbe il primo attentato dell’AI alla pace, ricordando come quest’ultima sia, secondo l’insegnamento della Chiesa, frutto della giustizia e dell’amore[iii]?

Per prima cosa bisogna resistere alla suggestione dell’avvento imminente di una “super AI”, spesso sostenuta dagli “addetti ai lavori” – ma talvolta anche a livello istituzionale (qui) – con evidenti fini promozionali e per celarne le vere criticità (qui); occorre poi ricordare, come ci indica Francesco, «il divario incolmabile che esiste tra questi sistemi, per quanto sorprendenti e potenti, e la persona umana: essi sono, in ultima analisi, “frammentari”, nel senso che possono solo imitare o riprodurre alcune funzioni dell’intelligenza umana» (n. 2). I sistemi di AI sono così potenti perché riproducono una parte delle capacità umane applicandole a compiti ben specifici, sfruttando l’impareggiabile (per noi umani) capacità di calcolo delle macchine odierne. Tuttavia, ritenere che questo sia il primo passo nella direzione che porterebbe alla realizzazione di una “AI generale” o “superintelligenza” sarebbe come credere, per usare la nota ed efficace immagine di H. Dreyfus, che una scimmia che si stia arrampicando su un albero stia facendo i primi passi per arrivare sulla Luna: non si esclude per principio la possibilità di raggiungere un certo risultato; ciò che è certo è che non ci si arriverà percorrendo quella strada.

Ciò non toglie che l’AI abbia le potenzialità per contribuire in maniera grandiosa al progresso umano, e questo Francesco lo sottolinea: «se l’intelligenza artificiale fosse utilizzata per promuovere lo sviluppo umano integrale, potrebbe introdurre importanti innovazioni nell’agricoltura, nell’istruzione e nella cultura, un miglioramento del livello di vita di intere nazioni e popoli, la crescita della fraternità umana e dell’amicizia sociale» (n. 6). È chiaro che la vera minaccia per la pace non viene dall’AI in quanto tale, ma proprio da noi, dagli esseri umani. In questo ambito il rischio viene da quello che il Papa chiama, e che qui ripropone, «paradigma tecnocratico», in particolare dalla perdita del “senso del limite”, per cui «l’essere umano […] mortale per definizione, pensando di travalicare ogni limite in virtù della tecnica, rischia, nell’ossessione di voler controllare tutto, di perdere il controllo su sé stesso» (n. 4). Proprio questa confusione tra AI e intelligenza umana rappresenta uno dei miraggi causati dal paradigma tecnocratico, una «allucinazione» ben più grave di quelle in cui possono incorrere gli algoritmi (n. 3).

Del resto, come già accennato, insistere sui rischi di una fantomatica AI generale o di livello umano è funzionale a deviare lo sguardo da quelli che sono i veri pericoli di un’applicazione indiscriminata di tale tecnologia e che costituiscono una concretissimo rischio per la fratellanza tra i popoli e le singole persone. Il Pontefice non manca di evidenziarli: «sistemi di regolazione delle scelte personali basati sull’organizzazione delle informazioni» al servizio di forme pervasive di controllo e manipolazione sociale; «l’affidamento a processi automatici che categorizzano gli individui, ad esempio attraverso l’uso pervasivo della vigilanza o l’adozione di sistemi di credito sociale […] stabilendo improprie graduatorie tra i cittadini»; l’amplificazione delle discriminazioni sociali attraverso pregiudizi nei dati attraverso i quali gli algoritmi sono addestrati e che infrangono il mito di una AI imparziale e neutrale; in ambito lavorativo ed economico, il «rischio sostanziale di un vantaggio sproporzionato per pochi a scapito dell’impoverimento di molti» (n. 5); infine, naturalmente, si denuncia anche il possibile uso di dispositivi autonomi a esplicita destinazione bellica (n. 6)

In conclusione, il terreno principale su cui si può valorizzare il contributo dell’AI alla pace è quello dell’educazione (n. 7) e del diritto (n. 8). Solo la consapevolezza dell’importanza di un pensiero critico e umano fondato su solidi valori, oltre che della collaborazione internazionale per lo sviluppo di un’AI secondo canoni etici, può aiutare l’umanità a farne uno strumento di autentico progresso e, in ultima istanza, un dono di Dio «affinché la terra «diventi una dimora degna di tutta la famiglia umana» (n. 1).

prof. Andrea Pizzichini

«Tutte le Immagini generate con intelligenza artificiale (Midjourney) sul tema di AI e pace».

[i] Chiameremo, in breve, “tecnoscienza” questa sinergia tra scienza e tecnologia, ben consapevoli che questo termine ha una sua storia e un suo uso, in genere piuttosto critico verso ingenui ottimismi nei confronti della razionalità scientifica.

[ii] Con tale termine si intende l’integrazione di meccanica ed elettronica al fine di sviluppare dispositivi ad alta automazione (qui).

[iii] Pontificio Consiglio della Giustizia e della Pace, Compendio della Dottrina Sociale della Chiesa, n. 494 (qui).