Dichiarazione di Roma: appello per una nuova etica globale su intelligenza artificiale e armi nucleariPiù di 200 premi Nobel, scienziati, diplomatici, esperti di tecnologia, capi
religiosi e sostenitori della pace si sono riuniti a Roma questa settimana per
affrontare quello che molti di loro hanno descritto come la sfida definitiva del
nostro tempo: assicurare che l’intelligenza artificiale sia uno strumento al
servizio dell’umanità e non acceleri piuttosto i rischi bellici, in particolare
quelli della guerra nucleare. Svoltasi dal 14 al 16 luglio, la Global Nobel
Laureates Assembly on Artificial Intelligence and Nuclear War, si è conclusa con
l’adozione della Dichiarazione di Roma per una pace disarmata e disarmante
nell’era dell’intelligenza artificiale, delle armi nucleari e autonome, dei
nuovi protocolli digitali e dei modelli emergenti di sviluppo digitale (Vatican
News).
Ospitata a Borgo Laudato Si’ a Castel Gandolfo prima di concludersi al Colle
Capitolino di Roma, l’Assemblea è stata ispirata dall’appello di Papa Leone XIV
per un sistema etico che guidi il rapido sviluppo dell’intelligenza artificiale.
I partecipanti hanno sostenuto che l’IA è diventata molto più di un’innovazione
tecnologica; rappresenta ora una profonda sfida politica, culturale ed etica che
modellerà le relazioni internazionali per generazioni (Angelus News – Multimedia
Catholic News).
La Dichiarazione riconosce che l’umanità si trova davanti a una convergenza
senza precedenti di tecnologie trasformative e capacità militari distruttive.
Anche se l’intelligenza artificiale promette enormi benefici nei campi della
medicina, dell’istruzione, delle scoperte scientifiche e della protezione
ambientale, la sua integrazione nei sistemi militari — comprese le armi autonome
e i sistemi di comando e controllo nucleare — potrebbe aumentare drasticamente
il rischio di conflitti non intenzionali.
Tra i suoi principi cardine, la Dichiarazione di Roma sostiene che le decisioni
legate all’uso di forza letale, e in particolare alle armi nucleari, non devono
mai essere delegate in toto alle macchine. La Dichiarazione richiede un
controllo umano significativo sui sistemi IA, una rinnovata cooperazione
internazionale sul disarmo nucleare, una governance più decisa delle tecnologie
emergenti e un modello di sviluppo incentrato sulla dignità umana piuttosto che
sulla competizione geopolitica (Vatican News).
Sebbene molte dichiarazioni internazionali abbiano messo in guardia sulle armi
nucleari o sull’intelligenza artificiale prese singolarmente, questo incontro ha
sottolineato che le due questioni sono ormai divenute inseparabili. L’IA è
sempre più in grado di processare le informazioni militari, accelerare le
decisioni sul campo di battaglia e operare sistemi autonomi con una rapidità ben
oltre la reazione umana. Durante una crisi nucleare, anche solo un piccolo
errore, un calcolo sbagliato o una manipolazione cyber potrebbero portare a
conseguenze catastrofiche.
L’Assemblea ha dunque collocato la sfida non solo nella regolamentazione della
nuova tecnologia, ma anche nella ridefinizione del rapporto tra umanità e
tecnologia stessa. I partecipanti hanno dichiarato che il progresso scientifico
deve restare subordinato alla responsabilità etica e al bene comune.
La Dichiarazione di Roma giunge inoltre in un momento nel quale i governi
mondiali stanno investendo pesantemente nelle applicazioni militari
dell’intelligenza artificiale, mentre gli accordi internazionali sul controllo
delle armi continuano a indebolirsi. Le attuali dottrine militari si erano
sviluppate in un’era in cui i decisori umani disponevano di più tempo per
valutare le crisi. L’intelligenza artificiale potrebbe comprimere quelle
finestre temporali e prendere una decisione nel giro di pochi secondi,
aumentando la pressione verso risposte automatiche che possono determinare il
destino di milioni di persone.
Per i sostenitori della pace, l’Assemblea rappresenta un seguito importante di
una tradizione che risale alla Dichiarazione di Mainau del 1955, quando i premi
Nobel avvertirono per la prima volta l’umanità dei pericoli esistenziali posti
dalle armi nucleari. Più di recente, i premi Nobel hanno rinnovato quelle
dichiarazioni sui rischi nucleari e sulla governance delle tecnologie emergenti.
La Dichiarazione di Roma ne estende il retaggio riconoscendo che la salvaguardia
della pace nel ventunesimo secolo richiede di affrontare le armi nucleari e
l’intelligenza artificiale come sfide globali interconnesse. (Wikipedia)
Eppure, il contributo più significativo della Dichiarazione risiede forse più in
là delle sue specifiche raccomandazioni. Suggerisce che la governance
dell’intelligenza artificiale non può essere ridotta alla sola regolamentazione
tecnica. Dietro ogni algoritmo, ogni sistema autonomo e ogni applicazione
militare, continuano a esserci delle decisioni profondamente umane legate a
valori, responsabilità e al tipo di civiltà che desideriamo costruire.
Se la Dichiarazione di Roma avrà un’influenza sui governi resta incerto. Ma il
suo messaggio è inequivocabile: l’umanità è giunta a un punto in cui
l’innovazione tecnologica priva di una direzione etica può tramutarsi in una
delle maggiori minacce alla pace. Se l’intelligenza artificiale è destinata a
diventare uno dei più grandi successi della storia, sostiene l’Assemblea, deve
prima di tutto sottostare fermamente alla responsabilità umana ed essere guidata
dai principi di cooperazione, dignità e preservazione della vita.
Post Instagram
Traduzione dall’inglese di Rita Puligheddu
Pressenza New York