È possibile rendere didattica ed etica una tecnologia aziendale-militare? Riflessione sull’Enciclica “Magnifica Humanitas”Come docente della scuola media pubblica, formatasi alla fine degli anni
Novanta, quando ho ricevuto la notizia della pubblicazione dell’enciclica
Magnifica humanitas riguardante le tecnologie digitali e l’uso dell’I.A., pur
essendo laica (ma con un lungo passato come cattolica attiva nel sociale), ho
avuto un moto di speranza che qualcosa, da fonti autorevoli e influenti, anche
se non quelle a cui solitamente attingo per approfondire l’attualità, si levasse
per porre un freno deciso all’influenza dei poteri guerrafondai nel mondo
educativo-formativo, ultima sventura delle tante a cui l’irreversibile processo
di aziendalizzazione della scuola pubblica ci ha tristemente condotto.
Avevamo appena affrontato un difficile Collegio docenti dove la discussione
sull’uso e sulla formazione di questi strumenti era stato oggetto di divisione
tra noi; le nostre figure di riferimento come animatori digitali si sono
proposte la lettura dell’Enciclica come studio estivo e ci siamo lasciati con
l’idea di aggiornare il nostro confronto dopo un’attenta analisi non solo del
documento papale, ma anche di altra bibliografia che, nel frattempo, sembra
essere esplosa.
Luca De Biase, nel suo podcast “Padroni del mondo”, all’episodio numero 37 cita
la “magnifica umanità” di cui parla papa Leone XIV come un possibile antidoto al
totalitarismo cognitivo che le informazioni sintetiche della I.A. possono
alimentare, inquinando le menti e danneggiando le logiche della convivenza.
Spiega chiaramente come i social media rafforzino la propaganda di autocrati
quali Elon Musk, le cui finalità sembrano essere quelle, ad ascoltare le sue
interviste, di migliorare l’umanità in ogni ambito, da quello sanitario a quello
lavorativo, creando un universo tecnologico che risolva miracolosamente ogni
problema, e lo afferma con spudorata mancanza di senso del limite e ferma
convinzione di onnipotenza.
Con atteggiamento più cauto Cristopher Olah, cofondatore di Anthropic, si limita
ad esporre le sue ricerche sul funzionamento dell’I.A. considerando quest’ultima
una macchina espressione delle capacità umane (e non di una tecnologia magica)
che è possibile gestire per rendere fruttuosa l’interazione uomo-macchina.
L’introduzione all’Enciclica, al punto 4, recita: «La tecnica non va
considerata, in se stessa, come forza antagonista rispetto alla persona: al
contrario, essa è radicata nella nostra storia fin dal principio, in quanto
‘fatto profondamente umano, legato all’autonomia e alla libertà dell’uomo’. Lo
sviluppo tecnologico ha contribuito nei secoli a un significativo miglioramento
delle condizioni di vita dell’umanità; allo stesso tempo, ogni fase del
progresso ha mostrato anche il volto ambiguo di strumenti capaci di arrecare
danno quando non orientati al bene. Oggi, tuttavia, ci troviamo dinanzi a una
situazione nuova in cui la potenza e la pervasività delle tecnologie emergenti
si innestano nella trama della quotidianità, plasmano i processi decisionali e
incidono in profondità nell’immaginario collettivo…Le nuove tecnologie aprono un
orizzonte esteso in direzioni che, seppur intuibili, non possiamo ancora
pienamente prevedere. Ciò rende più complesso valutarne l’impatto e gli effetti
a lungo termine sulla dignità delle persone e il bene comune».
La visione di una “magnifica umanità” che ne emerge potrebbe risuonare alquanto
fideistica, se riflettiamo sul fatto che scoperte scientifiche e innovazione
tecnologica non hanno avuto uno sviluppo regolare, lineare e progressivo. A
volte, in questo modo, le riassumiamo ai giovanissimi, tramite l’uso del
manuale, per rendere accessibili i contenuti a studenti e studentesse ancora
inesperti nello studio, ma spesso nel percorso di insegnamento c’è bisogno di
lavorare sull’analisi delle fonti, dei punti di vista diversi e fare
precisazioni nel merito, considerare dei salti all’indietro e dei regressi,
parlare dei margini della società, delle eccezioni, degli insuccessi, della
massa informe di chi la Storia non l’ha fatta perché i “Vinti” non glielo hanno
permesso, introdurre, insomma, delle riflessioni che poco hanno a che fare con
le “magnifiche sorti progressive” e i “significativi miglioramenti delle
condizioni di vita” a cui la tecnica ci avrebbe condotti come umanità: «Parte di
ciò che la modernità chiama progresso si riferisce a quattro secoli di
dispostivi che permettono di non dover prestare attenzione all’alterità, ad
altre forme di vita, agli ecosistemi» (Baptiste Morizot, Manieres d’etere
vivant, Arles, Actes Sud 2020)
Potrebbe apparire riduttivo anche parlare di “volto ambiguo di strumenti capaci
di arrecare danno quando non orientati al bene”: il “dual use” si potrebbe
liquidare così? Come una necessità di mantenere separati due ambiti (civile e
militare) del digitale per non arrecare danni o ci sono interferenze tra i due
che sono comunque inevitabili per la natura stessa dello strumento
aziendale-militare o perlomeno per come è stato concepito e sviluppato negli
ultimi 70 anni[1]?
Noi sospettiamo che, purtroppo, sia la seconda ipotesi quella più vicina a
quanto stiamo vivendo: come Osservatorio contro la militarizzazione della scuola
e delle università abbiamo avuto già modo di soffermarci su questi aspetti: “La
vera faccia dell’intelligenza artificiale: il motore del riarmo“.
L’Enciclica qualifica, senza mezzi termini, certi usi dell’I.A. come violazione
della dignità umana (La normalizzazione della guerra, pag. 32 della Lettera
Enciclica) e nelle sue indicazioni etico-morali fa comunque pressione affinché
si portino in primo piano iniziative, a tutti i livelli, normativo in primis,
per un’adozione tecnologica più riflessiva, quindi più lenta, disarmata e
riconducibile a una risorsa che venga gestita come “bene comune”.
Se pensiamo a uno di questi beni comuni, su cui la cittadinanza negli ultimi
vent’anni si è mossa con maggior forza, l’acqua, agli esaltanti risultati
referendari del 2010 e a come tutto ciò non sia comunque servito ad arginare
l’accaparramento delle risorse idriche da parte dei colossi aziendali globali,
ci viene un certo scoramento e ci chiediamo: accadrà la stessa cosa all’I.A.,
anche se dovesse essere dichiarata “bene comune”? Chi fermerà, in questo caso,
l’avanzata degli interessi strategici che non si fanno scrupoli a scatenare
conflitti bellici? Riuscirà l’Europa a difendere il principio di precauzione
così come per molto tempo aveva fatto (in passato) nei confronti di un’altra
tecnologia, gli O.G.M., applicata, in questo caso, all’agricoltura, per
salvaguardare diritti, libertà, ecologia e risorse?
Nonostante gli ingenti investimenti che lo sviluppo di questi software sta
ricevendo e i brillanti risultati delle quotazioni in borsa delle multinazionali
che li controllano, vale la pena citare lo stesso documento papale quando ci
ricorda che l’indicatore PIL non misura il “ben-essere” delle popolazioni ma
solo l’efficienza del capitale, che, a sua volta, si sposta là dove i margini di
profitto aumentano, ovvero i titoli azionari prosperano, anche fra i gruppi di
produttori di armi. Ma l’I.A., oltretutto, non sta migliorando le condizioni
materiali dei più: il 90% delle imprese non registra aumenti di produttività[2]
e, anzi, rischia di accelerare le disuguaglianze e introdurre un’automazione,
senza occupazione, che distrugge il lavoro senza aumentare la crescita.
Le Big Tech detengono un potere finanziario immenso, tramite il quale riescono a
controllare i social media e, con essi, il dibattito politico, definendone
l’agenda e condizionando pesantemente l’opinione pubblica. L’interdipendenza
stretta tra questi colossi e i governi degli stati sta facendo vacillare le
democrazie, sempre più in difficoltà a normare l’uso delle tecnologie digitali
in base ai principi su cui si sono fondate, fin ora, le carte costituzionali[3].
Stiamo parlando di tecnologie che, trasferite all’ambito militare, alla
logistica e all’intelligence, costituiscono occhi ed orecchie per dati (raccolti
nell’ambito civile) che il reparto militare usa come controllo e sorveglianza
della cittadinanza.
Se uniamo a queste considerazioni il fatto che, negli organismi di
rappresentanza degli atenei, rappresentanti di destra operano censure e
pressioni per ridurre al minimo le critiche verso la partecipazione a progetti
di ricerca “duali” (termine eufemistico, dal momento che l’ambito civile ne
rappresenta una parte minoritaria rispetto al militare), capiamo bene come anche
la libertà di ricerca nel settore pubblico possa essere pesantemente
compromessa. Tale concentrazione di potere tecnologico, che riesce a
condizionare ricerca e politica, svuotando di efficacia il diritto di scelta
delle popolazioni, sta già conducendo ad una moltiplicazione di guerre e
interventi militari.
D’altronde gli LLM (Large Language Model) sono stati sviluppati nell’alveo
della ricerca sul machine learning statunitense non per scopi scientifici,
umanitari o didattici, ma per migliorare servizi on line basati sull’interazione
verbale che non fanno altro che fidelizzare il cliente e creare nuovi
bisogni[4]. Hanno come scopo di fare in modo che l’utente li usi il più
possibile per riuscire a estrapolare dati-linguaggio-parole sui quali basarsi
per i propri output. Sono ancora tecnologie estremamente imprecise, per molti
versi sovrastimate, sia in senso ottimistico che apocalittico: spesso sono le
stesse industrie tecnologiche che illustrano scenari catastrofici per mostrarsi
etiche e responsabili, con regolamenti inefficaci, per spostare l’attenzione
sugli scenari futuri e distoglierla dal disastro presente[5].
C’è forse bisogno, ancor prima di un codice etico, di allargare la riflessione
su una Antropologia per intelligenze artificiali (Filippo Lubrano, 2024): non è
una novità, nella storia della ricerca scientifico-tecnologica, l’idea di creare
una macchina pensante, come ci hanno insegnato gli scritti di Asimov, Turing,
Searle… Il fenomeno mediatico su questi modelli linguistici è esploso ai giorni
nostri non in virtù di una nuova scoperta o invenzione, ma perché a un certo
punto le aziende si sono ritrovate con la possibilità di avere a disposizione
una quantità enorme di dati, come mai prima, che è stata utilizzata con finalità
commerciali e di sorveglianza, non per la costruzione del “bene comune”.
Rileggiamo le Leggi della Robotica[6]:
«0. Un robot non può recar danno all’umanità, né può permettere che, a causa del
proprio mancato intervento, l’umanità riceva danno;
1. Un robot non può recar danno a un essere umano né può permettere che, a causa
del suo mancato intervento, un essere umano riceva danno;
2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali
ordini non vadano in contrasto alla Prima Legge;
3. Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa
non contrasti con la Prima o con la Seconda Legge»
Non ci sembra che oggi ci sia niente di così diverso, a livello etico-morale,
rispetto a ciò su cui anche Asimov si interrogava: alla luce della rilettura di
queste leggi fantascientifiche appare forse più macroscopica la distanza tra
buone finalità scientifiche, didattiche e di reale progresso umano e il panorama
tecnologico, economico e bellicistico attuale, per cui ci domandiamo se, invece
di invocare una improbabile o inesistente I.A. etica non sarebbe meglio
adottare, almeno per ora, una vera e propria obiezione di coscienza totale.
Claudia Giella, Osservatorio contro la militarizzazione delle scuole e delle
università
* [1] D.Tafani, Non senza di noi. Università e docenti che rifiutano i chatbot
di sorveglianza,14/04/2026
* [2]Goldman Sachs,Top of Mind, Gen AI: too much spend, too little benefit?
* [3] Dario Guarascio, Imperialismo digitale, 2026
* [4] S. Penge, Modelli linguistici opachi e modelli didattici trasparenti,
Quaderni della decrescita, ‘26
* [5] Naomi Klein, Shock economy: l’ascesa del capitalismo dei disastri, 2012
* [6] I.Asimov, Io robot, 1950
--------------------------------------------------------------------------------
Se come associazioni o singoli volete sostenerci economicamente potete farlo
donando su questo IBAN: IT06Z0501803400000020000668 oppure qui:
FAI UNA DONAZIONE UNA TANTUM
Grazie per la collaborazione. Apprezziamo il tuo contributo!
Fai una donazione
--------------------------------------------------------------------------------
FAI UNA DONAZIONE MENSILMENTE
Apprezziamo il tuo contributo.
Dona mensilmente
--------------------------------------------------------------------------------
FAI UNA DONAZIONE ANNUALMENTE
Apprezziamo il tuo contributo.
Dona annualmente