Antiqua et nova

Il documento - redatto dai Dicasteri per la Dottrina della Fede e per la Cultura e l’Educazione - parte dalla constatazione che "vi è ampio consenso sul fatto che l’IA segni una nuova e significativa fase nel rapporto dell’umanità con la tecnologia, situandosi al cuore di quello che Papa Francesco ha descritto come un «cambiamento d’epoca»[2]. La sua influenza si fa sentire a livello globale in un’ampia gamma di settori, inclusi i rapporti interpersonali, l’educazione, il lavoro, l’arte, la sanità, il diritto, la guerra e le relazioni internazionali".

La questione che pone è: "Poiché l’IA continua a progredire rapidamente verso traguardi ancora più grandi, è di importanza decisiva prendere in considerazione le sue implicazioni antropologiche ed etiche. Ciò comporta non solo la mitigazione dei rischi e la prevenzione dei danni, ma anche la garanzia che le sue applicazioni siano dirette alla promozione del progresso umano e del bene comune".

Al di là dei passaggi di natura strettamente religiosa, la nota offre spunti di riflessione anche in una prospettiva laica. Sottolinea infatti l’urgenza di trattare l’Intelligenza Aartificiale come un prodotto umano da governare attraverso scelte collettive che rispettino l’etica, l’equità e la giustizia.

Punti principali

1. Centralità della persona. L’intelligenza umana è un fenomeno complesso che coinvolge razionalità, emozioni, relazioni e responsabilità. L’IA, pur simulando alcune capacità umane, rimane confinata a processi logico-matematici e non può replicare l’interezza dell’esperienza umana.
2. Sfide dell’IA. Lo sviluppo e l’uso dell’IA sollevano interrogativi etici su temi come la responsabilità, l’impatto sul lavoro, l’accesso equo ai benefici tecnologici e la possibile erosione delle relazioni autentiche.
3. Prospettiva etica. Il progresso tecnologico deve essere subordinato al benessere umano, promuovendo il bene comune, riducendo le disuguaglianze e salvaguardando la dignità di ogni individuo.
4. Settori critici. La sanità, il lavoro e l’educazione sono campi dove l’IA può avere impatti significativi, sia positivi (efficienza, accessibilità) sia negativi (disuguaglianze, perdita di valore umano).

Nella Nota si legge: "Sebbene sia una straordinaria conquista tecnologica in grado di imitare alcune operazioni associate alla razionalità, l’IA opera soltanto eseguendo compiti, raggiungendo obiettivi o prendendo decisioni basate su dati quantitativi e sulla logica computazionale. Con la sua potenza analitica, per esempio, essa eccelle nell’integrare dati provenienti da svariati campi, nel modellare sistemi complessi e nel favorire collegamenti interdisciplinari. In questo modo, essa potrebbe facilitare la collaborazione tra esperti per risolvere problemi la cui complessità è tale che «non si possono affrontare a partire da un solo punto di vista o da un solo tipo di interessi»[64]. (...) Stabilire un’equivalenza troppo marcata tra intelligenza umana e IA comporta il rischio di cedere a una visione funzionalista, secondo la quale le persone sono valutate in base ai lavori che possono svolgere".

La Nota, dal paragrafo 95 al paragrafo 103, tocca il rapporto fra l'IA e la guerra. Viene sottolineato che l'uso bellico dell'IA, incluse le armi autonome, è motivo di grande preoccupazione etica. La mancanza di capacità di giudizio morale rende queste armi inaccettabili. Papa Francesco propone un controllo umano significativo e il divieto di sistemi autonomi che decidano di togliere vite umane. L'IA potrebbe portare a distruzioni di massa incontrollabili e rappresentare un rischio per la sopravvivenza dell'umanità, richiedendo una nuova prospettiva sul tema della guerra. Il pericolo non risiede solo in scenari futuri, ma anche nell'uso dell'IA da parte di attori malevoli oggi. La storia umana dimostra quanto rapidamente il potere tecnologico possa essere abusato. A questo punto si presenta un bivio per l’umanità: l'IA, come ogni tecnologia, può essere usata per costruire o distruggere. Serve un impegno etico collettivo per prevenire applicazioni militari che minaccino la dignità umana e la vita stessa.

Questi passaggi della nota rappresentano un monito chiaro e urgente: l’uso militare dell’intelligenza artificiale è una delle sfide etiche più gravi del nostro tempo. In particolare, le armi autonome letali minacciano di eliminare ogni freno umano al conflitto, rendendo la guerra più facile e devastante.