Nel suo recente messaggio per la 57ª Giornata Mondiale della Pace, che si celebra come ogni anno il 1° gennaio, Papa Francesco ha toccato un tema centrale per il futuro della nostra civiltà: Intelligenza artificiale e pace è infatti il titolo di un messaggio che indica i progressi della scienza e della tecnologia come potenziali elementi centrali nella costruzione della pace, in quanto portano “al miglioramento dell’uomo e alla trasformazione del mondo”.

LEGGI QUI IL MESSAGGIO DEL PAPA

Allo stesso modo, tuttavia, questi pur fondamentali progressi “stanno mettendo nelle mani dell’uomo una vasta gamma di possibilità, alcune delle quali possono rappresentare un rischio per la sopravvivenza e un pericolo per la casa comune”.
Nel suo messaggio il Pontefice si sofferma in particolar modo sull’intelligenza artificiale, per la quale intuisce un futuro “tra promesse e rischi”. Questi ultimi sono purtroppo fisiologici e difficili da arginare, perché “la ricerca scientifica e le innovazioni tecnologiche non sono disincarnate dalla realtà e neutrali” come il Papa già rilevò nell’enciclica Laudato si’, ma “soggette alle influenze culturali” e, si potrebbe aggiungere, anche a molte altre pressioni e interessi.
Il Pontefice rileva come ad oggi sia complesso e frammentario parlare dell’intelligenza artificiale, termine con il quale semplifichiamo un’enorme varietà di tecnologie e opportunità che in questa fase sono spesso embrionali, se non addirittura futuribili, che occorre certamente guardare con interesse ma anche con il necessario distacco.
“L’intelligenza artificiale” si legge nel messaggio “deve essere intesa come una galassia di realtà diverse e non possiamo presumere a priori che il suo sviluppo apporti un contributo benefico al futuro dell’umanità e alla pace tra i popoli”.

Le sfide che pone sono tecniche, ma anche antropologiche, educative, sociali e politiche.
[…] Occorre essere consapevoli delle rapide trasformazioni in atto
e gestirle in modo da salvaguardare i diritti umani fondamentali,

rispettando le istituzioni e le leggi che promuovono lo sviluppo umano integrale.

L’intelligenza artificiale dovrebbe essere al servizio del migliore potenziale umano

e delle nostre più alte aspirazioni, non in competizione con essi

Nella riflessione su questa frontiera del progresso, il Santo Padre evidenzia spesso la stella polare della responsabilità e indica chiaramente come questa debba spingere chiunque abbia un ruolo nella progettazione e nell’utilizzo di queste tecnologie a rispettare valori umani fondamentali come “l’inclusione, la trasparenza, la sicurezza, l’equità, la riservatezza e l’affidabilità” come aveva già ricordato durante l’udienza ai partecipanti all’Incontro Minerva Dialogues del 27 marzo 2023.

Responsabilità che, ancor più, deve guidare l’uomo nella scellerata evoluzione degli armamenti e della guerra, che con l’utilizzo di armi automatiche a controllo remoto “ha portato a una minore percezione della devastazione da essi causata e della responsabilità del loro utilizzo, contribuendo a un approccio ancora più freddo e distaccato all’immensa tragedia della guerra”.

Su questo fronte la preoccupazione rispetto ai rischi del progresso tecnologico e dell’intelligenza artificiale arriva al suo culmine e si mostra in tutta la sua drammatica urgenza, perché “i sistemi d’arma autonomi non potranno mai essere soggetti moralmente responsabili” e nessun algoritmo potrà mai eguagliare la “capacità umana di giudizio morale e di decisione etica”.
Se c’è dunque una cosa di cui il mondo e l’umanità non hanno bisogno, sottolinea il Papa, è “che le nuove tecnologie contribuiscano all’iniquo sviluppo del mercato e del commercio delle armi, promuovendo la follia della guerra”.

Ed è forse proprio in questo contesto che emerge in modo più eclatante il rischio che più di ogni altro stiamo correndo: nell’insegnare alle macchine ad assomigliarci e a comportarsi come noi, stiamo sempre più diventando simili a loro, sempre meno capaci di provare emozioni, empatia, solidarietà. In una sola parola, che il Pontefice virgoletta nel suo messaggio, stiamo rischiando che il nostro cuore diventi a sua volta “artificiale”.

Il mondo non ha proprio bisogno che le nuove tecnologie contribuiscano
all’iniquo sviluppo del mercato e del commercio delle armi, promuovendo la follia della guerra.
Così facendo, non solo l’intelligenza, ma il cuore stesso dell’uomo,
correrà il rischio di diventare sempre più “artificiale”.

Tutto questo traccia nuove importanti sfide per l’umanità, da giocare sul piano dell’etica, dell’educazione, del diritto internazionale, così come pongono con assoluta urgenza  il tema del “senso del limite nel paradigma tecnocratico”.

Un nodo fondamentale, che dobbiamo affrontare con responsabilità, consapevolezza e umiltà, perché “l’essere umano, mortale per definizione, pensando di travalicare ogni limite in virtù della tecnica, rischia, nell’ossessione di voler controllare tutto” – cosa che nemmeno le macchine più evolute e i loro sofisticati algoritmi potranno mai fare – “di perdere il controllo su se stesso”.
Ecco perché se ci illudiamo di poter trovare nella tecnologia e nella scienza “una libertà assoluta”, rischiamo invece di cadere nella spirale di una dittatura tecnologica”.

Se non saremo in grado di riconoscere e di accettare il nostro limite di creature, correremo il rischio concreto di naufragare “nel contesto ideologico di un paradigma tecnocratico”, nel quale “le disuguaglianze potrebbero crescere a dismisura, e la conoscenza e la ricchezza accumularsi nelle mani di pochi, con gravi rischi per le società democratiche e la coesistenza pacifica”.
Un rischio che vediamo già concretizzarsi sotto i nostri occhi giorno dopo giorno, ma che spesso preferiamo ignorare, mettendo la testa sotto la sabbia per paura, o peggio sottovalutare.

Eppure già oggi ci rendiamo conto che “le forme di intelligenza artificiale sembrano in grado di influenzare le decisioni degli individui attraverso opzioni predeterminate associate a stimoli e dissuasioni, oppure mediante sistemi di regolazione delle scelte personali basati sull’organizzazione delle informazioni” e che tutti noi possiamo finire facilmente vittime di “forme di manipolazione o di controllo sociale”.

Rischi che Bergoglio vede in modo chiaro e che non si sottrae ad esporre nel proprio messaggio in modo diretto ed esplicito, rilevando come “l’affidamento a processi automatici che categorizzano gli individui, ad esempio attraverso l’uso pervasivo della vigilanza o l’adozione di sistemi di credito sociale, potrebbe avere ripercussioni profonde anche sul tessuto civile, stabilendo improprie graduatorie tra i cittadini”.

Graduatorie che, come sappiamo bene anche dalle più banali vicende e dinamiche familiari, allontanano qualsiasi prospettiva di concordia, solidarietà e coesione sociale, che del resto già in passato è stata spesso considerata un ostacolo alla governabilità e all’assoggettamento delle masse. Come nel caso di quel divide et impera che fu protagonista di ciò che oggi definiamo Pax Romana, ma che al più possiamo catalogare come pacificazione coatta, anziché come una vera pace.

Il messaggio del Papa si chiude infatti con una preghiera che ribadisce come senza uguaglianza e giustizia non ci possa essere nessuna pace:

La mia preghiera all’inizio del nuovo anno
è che il rapido sviluppo di forme di intelligenza artificiale
non accresca le troppe disuguaglianze e ingiustizie già presenti nel mondo,
ma contribuisca a porre fine a guerre e conflitti,
e ad alleviare molte forme di sofferenza che affliggono la famiglia umana.

È questo il senso più autentico della ricerca scientifica e del progresso tecnologico, che non possono davvero definirsi tali se non sono al servizio del bene comune e delle persone, che di essi devono beneficiare anziché temerli, portando benessere e pace all’umanità intera. Affinché questo avvenga davvero occorre che ci siano organismi di controllo attenti e al di sopra di qualsiasi parte e di ogni interesse, che sappiano analizzare, comprendere, normare, ma anche e soprattutto vigilare affinché queste poderose tecnologie non sfuggano al controllo dell’umanità e non concretizzino quella minaccia che oggi sembra ancora soltanto un ottimo spunto per romanzi e film distopici, ma che è già molto più concreta di quanto si possa o si voglia intuire.
Ecco perché la preghiera di Papa Bergoglio non è solo un auspicio e un’invocazione rivolta a Dio, ma un monito per gli uomini e per la loro ambizione.