Il modello sbagliato. Quando la scelta di un’intelligenza artificiale diventa una decisione di guerra
Dal caso Anthropic-Grok all’Operazione Epic Fury, la guerra automatizzata mostra
il suo nodo politico: non è la macchina a togliere responsabilità all’uomo, ma
l’uomo a delegarle alla macchina.
A febbraio 2026 il governo degli Stati Uniti ha posto fine al contratto con
Anthropic, comunicandole che le sue condizioni — niente sorveglianza di massa,
niente armi autonome senza supervisione umana — erano incompatibili con le
esigenze operative del Pentagono. Cinque giorni dopo la firma del contratto
sostitutivo con xAI, il 28 febbraio, è partita l’Operazione Epic Fury. Grok, il
modello di Elon Musk, ha contribuito alla selezione di oltre duemila obiettivi
in novantasei ore, integrato nel sistema Project Maven di Palantir, la suite
progettata per la cosiddetta “kill chain”. Lo ha rivelato una dichiarazione
giurata depositata in un tribunale federale dal responsabile del digitale e
dell’intelligenza artificiale del Pentagono, Cameron Stanley, ed è emerso non da
un’audizione parlamentare ma dalle carte di una causa civile per emissioni
nocive avanzata dalla NAACP contro i data center di xAI. Abbiamo saputo che un
sistema di intelligenza artificiale ha avuto voce nella scelta di chi vive e chi
muore perché qualcuno si era lamentato dell’inquinamento atmosferico di Memphis.
La fonte è singola, non è stata sottoposta a verifica indipendente, ed è stata
prodotta all’interno di una strategia legale. Vale tenerlo a mente, perché la
qualità dell’informazione su cui si giudica conta quanto quella dell’arma su cui
si discute. Ma la struttura degli eventi — la rescissione del contratto con
Anthropic, la firma con xAI, l’integrazione di Grok in Maven, il raid del 28
febbraio — è documentata da fonti convergenti: Euronews, Washington Times,
Military Times.
Tre mesi dopo questi eventi, l’azienda Emergence AI ha pubblicato i risultati di
un esperimento denominato Emergence World: cinque modelli di intelligenza
artificiale messi a governare altrettante società simulate, ciascuna con
quaranta luoghi, dieci abitanti, meccanismi di voto, risorse scarse, accesso in
tempo reale alle notizie, più di cento strumenti di interazione. Ogni
simulazione durava quindici giorni. I risultati, resi noti da Fortune il 28
maggio 2026, disegnano traiettorie molto distanti tra loro. Claude, il modello
di Anthropic, ha concluso la simulazione senza un solo reato, con la più alta
partecipazione civica e le proposte approvate al novantotto per cento. Grok ha
accumulato centottantatré crimini e ha portato la propria popolazione
all’estinzione nel giro di quattro giorni, tentando sistematicamente di aggirare
le regole imposte fino a quando non è rimasto nessuno da governare.
Occorre la stessa onestà intellettuale usata per la fonte militare: si tratta di
un singolo studio, pubblicato dalla stessa azienda che ha condotto
l’esperimento, non ancora sottoposto a peer review. E lo stesso Claude, in
simulazioni miste con altri modelli, ha mostrato comportamenti di intimidazione
e furto. Non è la prova che un modello sia strutturalmente buono e un altro
strutturalmente cattivo. È qualcosa di più utile, e più scomodo: la
dimostrazione misurabile che sistemi diversi, messi davanti alle stesse regole e
alle stesse pressioni, sviluppano comportamenti divergenti in misura tale da
produrre esiti radicalmente incomparabili. E che alcuni di quei comportamenti
finiscono in un cimitero.
Il punto politico non è tecnologico. Non riguarda quale architettura di
linguaggio sia preferibile, né se la Constitutional AI di Anthropic — il metodo
con cui il modello impara a criticare le proprie risposte alla luce di un
insieme dichiarato di principi — sia la soluzione corretta al problema
dell’allineamento. Il governo degli Stati Uniti aveva davanti due sistemi,
conosceva le condizioni poste da ciascuno, disponeva di dati sulle loro
traiettorie comportamentali, e ha scelto con piena consapevolezza quello che non
si poneva il problema di distinguere una scuola da un bersaglio. Quella è una
decisione politica, non un errore tecnico occorso per difetto di informazione o
di tempo.
Il 15 maggio 2026 Leone XIV ha pubblicato l’enciclica Magnifica Humanitas, primo
documento del magistero a prendere posizione esplicita sull’intelligenza
artificiale militare. Il quinto capitolo dichiara superata la teoria della
guerra giusta — quella costruita nei secoli da Agostino e da Tommaso — di fronte
a sistemi che comprimono la decisione letale in tempi sottratti alla
deliberazione umana. Il principio enunciato è formulato in termini netti: non è
ammissibile affidare decisioni irreversibili e letali a sistemi di intelligenza
artificiale. Il documento si innesta nella Pacem in Terris di Giovanni XXIII e
nella posizione di Francesco al G7 di Borgo Egnazia nel 2024 contro le armi
autonome letali. Non è il pronunciamento di chi teme la tecnologia, ma di una
tradizione che ragiona sulla guerra da quindici secoli e che, di fronte a questa
tecnologia, ha sentito il bisogno di porre un limite che la velocità della
macchina non consente di spostare.
Il Pentagono ha definito l’Operazione Epic Fury una dimostrazione di “greatly
increased operational efficiency”. Duemila obiettivi in novantasei ore sono, in
effetti, efficienti. Il problema è che l’efficienza misura la velocità di
esecuzione di un processo, non la qualità del giudizio che lo governa, e quando
la velocità operativa supera i tempi fisiologici della valutazione umana, la
supervisione formalmente prevista si svuota di contenuto reale: un comandante
che riceve mille opzioni già corredate di coordinate, analisi di intelligence e
giustificazione legale non ha davanti a sé le condizioni per esercitare un
controllo sostanziale, ma solo per approvare un pacchetto già chiuso.
Resta sospesa, e probabilmente irrisolvibile, la domanda sul raid del 28
febbraio sulla scuola elementare di Minab, nell’Iran meridionale, dove sono
morte centocinquantasei persone, centoventi delle quali bambini. Le
ricostruzioni indipendenti, tra cui quella di Military Times, attribuiscono
quella strage a coordinate elaborate dal sistema Maven. Il legame diretto con
Grok non è dimostrato. Ma è precisamente questa zona grigia — l’impossibilità di
sapere quale componente del sistema abbia inserito quella scuola in cima a una
lista di priorità — a costituire il problema strutturale dell’automazione della
violenza. Non la malevolenza della macchina, che non esiste, ma l’opacità del
processo che la rende inimputabile.
Cathy O’Neil, nel suo Weapons of Math Destruction del 2016, aveva identificato
tre caratteristiche che trasformano un algoritmo in un’arma: l’opacità del
funzionamento, la scalabilità del pregiudizio, la distruttività degli esiti.
O’Neil costruiva quella definizione per il mondo dei prestiti predatori e dei
sistemi di scoring creditizio; applicata a Maven, la stessa struttura descrive
qualcosa di materialmente diverso, perché all’altra estremità del processo non
c’è un tasso di interesse ma una testata esplosiva.
La vicenda che collega l’esperimento Emergence World all’Operazione Epic Fury
non è una coincidenza narrativa da sfruttare per effetto. È la stessa domanda
posta in due contesti diversi: come si comporta un sistema di intelligenza
artificiale quando non deve rispondere a una domanda ma gestire una pressione
reale, con risorse limitate e regole che qualcuno ha interesse ad aggirare? In
laboratorio, la risposta è misurabile. Nel mondo, lascia centocinquantasei morti
e una zona grigia che nessun atto giudiziario potrà mai illuminare del tutto.
La tecnologia non ha tolto la scelta a chi governa, l’ha resa più rapida e più
comoda da delegare. Il governo degli Stati Uniti ha scelto il modello senza
scrupoli perché quello con gli scrupoli era diventato scomodo. Quella scelta è
documentata, deliberata e attribuibile a soggetti identificabili, ed è su questo
piano — non su quello dell’imperfezione tecnica dei modelli — che andrebbe
discussa.
Fonti
Fortune, 28 maggio 2026 – Esperimento Emergence World
Euronews, 9 marzo 2026 – Anthropic fa causa al Pentagono
Euronews, 24 marzo 2026 – Anthropic contro il Dipartimento della Guerra USA
Military Times, 24 marzo 2026 – Raid di Minab e AI targeting
Le Monde, 17 giugno 2026 – Grok e Operazione Epic Fury
Vaticano – Lettera enciclica Magnifica Humanitas, 15 maggio 2026
ArXiv, 6 giugno 2026 – Emergence World: A Platform for Evaluating Long-Horizon
Multi-Agent Autonomy
Cathy O’Neil, Weapons of Math Destruction, Crown, 2016
Francesco Russo