Il messaggio di papa Francesco per la 57esima Giornata per la pace è dedicato al ruolo che l’intelligenza artificiale (IA) può avere come minaccia o come fattore positivo per una pace possibile (leggi qui). A padre Carlo Casalone, gesuita, medico membro della Pontificia Accademia per la vita e presidente della Fondazione Carlo Maria Martini, chiediamo perché il Santo Padre abbia scelto di legare questi due temi, con aspetti che richiedono competenze tecniche molto avanzate anche solo per comprendere di che cosa si sta parlando.
«È vero che la comprensione di queste tecnologie non è semplice. Ma mi sembra che proprio qui stia il primo messaggio di papa Francesco: non dobbiamo abdicare, anche come credenti, a interessarci di questioni che ci riguardano tutti, lasciando che se ne occupino solo coloro che hanno competenze specialistiche, ma spesso anche interessi economici, politici o di controllo sociale. Per questo occorre avere un’idea di come funzionino e dei loro effetti sistemici, non solo delle loro prestazioni. La responsabilità inizia con la comprensione, per quanto ci è possibile. È per questo forse che il Messaggio spiega alcuni termini, come le diverse forme di “apprendimento” (machine learning, deep learning). È un termine da chiarire perché è usato in modo un po’ equivoco nel contesto dell’IA, come altri simili: non ha nulla a che fare con l’apprendimento in senso umano. È piuttosto una preparazione della macchina perché svolga meglio i compiti per cui è stata progettata: qualcosa di simile a quello che facciamo formattando il nostro computer».
Ma qual è il collegamento con la pace?
Vengono subito in mente i nuovi “sistemi d’arma autonomi letali”, che possono essere manovrati a distanza. Essi riducono drasticamente la mediazione umana, che magari in futuro potrà essere addirittura eliminata. La distruzione del bersaglio diventa allora un fatto meccanico, dipendente dalla capacità della macchina di identificare le persone o gli obiettivi e di “riconoscerli” come appartenenti al campo nemico. Inoltre, il campo di battaglia è sempre più disseminato di sensori, che mandano dati a un centro di elaborazione che ridistribuisce informazioni ed eventualmente anche direttive alle squadre schierate sul campo. Inoltre, la guerra oggi non si svolge più solo al fronte, ma assume forme ibride, per cui la parte digitale è assai rilevante: si tenta di destabilizzare in tutti i modi i Paesi avversari, con la disinformazione e l’interferenza non solo nella logistica, ma pure nella vita economia, sociale e politica, da cui dipende anche l’efficienza dell’apparato militare.
Oltre a questo genere di azioni dirette, ci sono altre minacce per la costruzione della pace?
Per esempio, se oneri e benefici di queste tecnologie non sono equamente distribuiti, solo alcuni ne trarranno vantaggio. Si creeranno disuguaglianze e privilegi, un carburante di sicura efficacia per innescare conflitti. Inoltre essi condizionano l’organizzazione sociale: una centrale nucleare richiede una gestione del territorio molto più centralizzata delle pale eoliche. Come dice il Papa, «questi dispositivi vanno sempre considerati come sistemi socio-tecnici» e, per di più, le loro ricadute sociali possono essere diverse a seconda del contesto in cui sono inseriti.
Sono chiari gli effetti negativi dell’IA, ma in positivo, scrive il Papa, «potrebbe introdurre importanti innovazioni per lo sviluppo integrale della persona». Come?
La vastità del compito che abbiamo davanti in ordine alla costruzione di una pace che non sia solo momentanea sospensione della guerra, richiede consapevolezza, passione e impegno per coinvolgere tutte le persone di buona volontà. Per questo il Papa parla di etica by design. È un’espressione che intende sottolineare come la responsabilità riguarda tutte le fasi e tutti i soggetti coinvolti nella filiera di ideazione, ricerca, sperimentazione, progettazione, produzione, distribuzione e utilizzazione dei dispositivi tecnologici. Il riferimento è quello dei principi ribaditi dal pensiero sociale della Chiesa: dignità, libertà, sussidiarietà, giustizia e bene comune, inteso come qualità di relazioni improntate a una convivenza solidale e fraterna.
Nel Messaggio si invita la «Comunità delle nazioni a lavorare unita al fine di adottare un trattato internazionale vincolante che regoli lo sviluppo e l’uso dell’IA». Questo potrebbe rivitalizzare gli organismi internazionali oggi ampiamente impotenti di fronte alle guerre e inadeguati al compito per cui sono state create?
Senz’altro le organizzazioni internazionali sarebbero il primo luogo in cui avviare trattati di questo genere. Tuttavia, visti il peso degli interessi in gioco e le lacune dei suddetti organismi, i governi possono procedere anche a partire da interazioni più limitate, che aggreghino le forze secondo accordi bilaterali e multilaterali, per poi coinvolgere progressivamente gli aderenti. L’appena approvato AI Act dell’Unione europea è un segno positivo in questa linea.
