Quando l’intelligenza artificiale è un adolescente. E nessuno sa ancora come crescerla
Dario Amodei — uno degli uomini che più di chiunque altro ha contribuito a
costruire l’intelligenza artificiale così come la conosciamo oggi — ha scritto
un saggio che dovrebbe essere letto ben oltre le cerchie tecnologiche. Non
perché spieghi come funziona l’AI. Ma perché ammette qualcosa che raramente chi
costruisce il futuro è disposto a riconoscere: non sappiamo ancora come
governarlo.
La tesi di Amodei è racchiusa in una metafora: la tecnologia contemporanea si
trova in una fase adolescenziale. Cresce a una velocità straordinaria, sviluppa
capacità sempre più potenti, ma le istituzioni che dovrebbero orientarla e
contenerla non riescono a starle dietro. Come un adolescente che ha già la forza
di un adulto ma non ancora la saggezza per usarla, l’intelligenza artificiale
esiste oggi in uno spazio pericolosamente privo di tutele adeguate.
Vale la pena fermarsi su questa immagine. Perché non è retorica. È una diagnosi
politica.
Ogni grande trasformazione tecnologica ha prodotto, prima o poi, un conflitto
tra la velocità dell’innovazione e la lentezza delle istituzioni. È accaduto con
la rivoluzione industriale, con l’energia nucleare, con internet. In ciascuno di
questi casi, il ritardo nella risposta istituzionale ha avuto un costo:
incidenti, soprusi, concentrazioni di potere difficili da smantellare in
seguito.
Con l’intelligenza artificiale, questo ritardo rischia di essere più profondo e
più rapido allo stesso tempo. L’AI non è una macchina che fabbrica oggetti. È un
sistema che produce decisioni, previsioni, raccomandazioni. Decide chi ottiene
un prestito, chi viene segnalato come sospetto, chi vede quale contenuto, quale
candidato viene selezionato per un colloquio di lavoro. Agisce, in modo sempre
più pervasivo, nei gangli della vita quotidiana delle persone.
E lo fa, per lo più, in modo opaco. Senza che i destinatari di quelle decisioni
possano capire perché sono state prese, contestarle, chiedere conto a qualcuno.
Nel 2024, l’Unione europea ha adottato il primo grande quadro normativo dedicato
all’intelligenza artificiale: il Regolamento UE 2024/1689, noto come AI Act. Non
è una legge perfetta. Ma è un tentativo serio di costruire strutture
istituzionali capaci di accompagnare, e non subire, la trasformazione in corso.
L’approccio europeo si fonda su una logica di gradazione del rischio. Alcuni usi
dell’intelligenza artificiale sono vietati senza eccezioni: la manipolazione
subliminale del comportamento umano, la classificazione sociale delle persone da
parte delle autorità pubbliche, il riconoscimento biometrico di massa negli
spazi pubblici. Altri usi, quelli che toccano la vita concreta delle persone —
la selezione del personale, la valutazione degli studenti, le decisioni in campo
sanitario — sono soggetti a requisiti stringenti di trasparenza, controllo
umano, responsabilità.
È un’architettura che parte da un’idea semplice quanto necessaria: non tutta
l’innovazione si equivale, e il grado di scrutinio deve essere proporzionale
alla posta in gioco per le persone.
Il problema che Amodei solleva non si risolve con una legge, per quanto ben
congegnata. Si tratta di qualcosa di più profondo: la capacità collettiva di
ragionare su tecnologie che la maggior parte delle persone — incluse quelle che
le governano — non comprende davvero. Le decisioni più importanti
sull’intelligenza artificiale vengono prese oggi in ambienti tecnici e aziendali
che restano largamente estranei alla deliberazione democratica.
Chi decide quali valori devono essere codificati nei modelli di AI? Chi
stabilisce quali bias sono accettabili e quali no? Chi risponde quando un
sistema automatizzato sbaglia e produce danno? Queste non sono domande tecniche.
Sono domande politiche. E finché restano confinate nei laboratori e nelle sale
riunioni delle grandi aziende tecnologiche, la risposta viene data senza che la
società abbia voce.
La metafora adolescenziale di Amodei vale anche qui. Un adolescente cresce
meglio quando intorno a lui ci sono adulti capaci di accompagnarlo, non di
bloccarlo né di abbandonarlo a sé stesso. La governance dell’AI richiede la
stessa combinazione: presenza, responsabilità, capacità di ascolto. Non paura
del futuro, ma rifiuto della delega incondizionata.
C’è un rischio nell’uso della metafora evolutiva applicata alla tecnologia:
quello di farci credere che lo sviluppo segua una traiettoria naturale, e che il
nostro compito sia solo quello di adattarci. Non è così. Le tecnologie non
crescono da sole. Crescono nella direzione che le scelte umane — economiche,
politiche, regolative — decidono di dargli.
L’AI Act europeo è importante non solo per ciò che prescrive, ma per il
messaggio implicito che veicola: le società democratiche hanno il diritto e il
dovere di porre condizioni allo sviluppo tecnologico. Non in nome della paura,
ma in nome di una visione di futuro in cui la tecnologia serva le persone e non
le assoggetti.
Che questa visione si affermi o meno dipenderà, nei prossimi anni, da scelte
concrete: sulla distribuzione dei benefici dell’automazione, sulla tutela del
lavoro, sull’accesso equo alle tecnologie, sulla trasparenza degli algoritmi che
già oggi influenzano la vita di milioni di persone.
Amodei chiude il suo saggio con un’affermazione che suona quasi come un appello:
la sfida più grande non è la tecnologia in sé, ma la nostra capacità di gestirla
con saggezza. Ma la saggezza non è una virtù individuale. È il prodotto di
processi collettivi, di istituzioni funzionanti, di spazi pubblici in cui le
decisioni possano essere discusse, contestate, cambiate.
L’adolescenza dell’intelligenza artificiale non finirà da sola. E la qualità
dell’età adulta che verrà dipende da chi parteciperà alla sua educazione.
La domanda è: la società civile sarà presente a quel tavolo, o lo lasceremo solo
ai costruttori?
Redazione Napoli