La giovane nerd laureata 110/110 cum laude alla ‘Bicocca’ di Milano nel 2018 che, dopo le esperienze come sviluppatrice di pioneristici sistemi di machine learning e applicazioni di intelligenza artificiale, nel maggio 2023 è stata assunta a Google DeepMind, il 20 ottobre si è licenziata dal centro R&D con sede a Londra per cui lavorava a tempo pieno in modalità ‘ibrida’. I motivi della sua irrevocabile decisione sono molti, principalmente uno: voler vivere dignitosamente, onestamente e senza ‘in cuor proprio’ sapere di essere ipocrita, perciò rifiutando di adeguarsi e, per “continuare a guardarci allo specchio”, fingere che sia normale “accettare questa situazione come se nulla fosse (nel SILENZIO COME AL SOLITO)”. Subito la clamorosa notizia è ‘rimbalzata’ sui media italiani. Da Il Fatto Quotidiano, in cui Stefania Maurizi ieri ha riferito che Sofia Liguori ha lasciato Google citando una sua frase, “Mi disgusta l’IA in guerra”, a Collettiva, che nello stesso giorno ha pubblicato l’articolo intitolato Google, la protesta di Sofia Liguori: “Mi vergogno di lavorare per questa azienda”,… Prima, il 21 ottobre, a sua volta attingendo le informazioni dall’intervista a Stefania Liguori e un suo collega, Andreas Kirsch, che la BBC News aveva divulgato nella stessa data, Il Sole 24 Ore evidenziava: la tech worker italiana “che si è dimessa dal suo ruolo di ingegnere ricercatore” non è la unica, e sola, bensì una dei numerosi “Dipendenti Google [che] lasciano DeepMind per protesta contro l’uso militare dell’IA“. Intanto nello stesso giorno, Sofia Liguori spiegava le proprie ragioni in un post pubblicato su LinkedIn: > Ieri mi sono ufficialmente licenziata da Google DeepMind. Ero in congedo da > quando è stato firmato il contratto con il Dipartimento della Guerra [degli > USA – NdR]. > > Ecco la mia lettera di dimissioni completa: > https://stay-human.sofialiguori.com/ > Intervista della BBC: https://www.bbc.com/news/articles/cmreyvepnv0po > > — Alcune parti della mia lettera: > > Il modus operandi testato a Gaza con Nimbus è stato legittimizzato come > standard con l’accordo classificato DoW di aprile: contratti che consentono > l’integrazione dell’IA nei sistemi militari e di sorveglianza senza imporre > restrizioni sugli usi consentiti e senza lasciare all’azienda alcun potere di > monitoraggio. > (…) > Non credo più che la nostra tecnologia avrà un impatto netto positivo sulla > società. > (…) > La tecnologia NON è uno strumento neutrale. Questa valutazione presuppone che > possiamo separare la tecnologia dal contesto in cui viene implementata, ma non > dovremmo: abbiamo la responsabilità di valutare lo strumento nel contesto in > cui verrà utilizzato. Presuppone anche che possiamo separare la tecnologia da > chi la possiede, la costruisce, la controlla e ne trae beneficio. > (…) > È proprio questo atteggiamento passivo e timoroso che permette al male di > diffondersi su larga scala. > Questo sta accadendo anche sul nostro posto di lavoro. Questo è il nostro > mestiere. Rientra nel mio ambito di azione. È dentro di te. > Per me, quest’anno avremmo dovuto smettere di lavorare. Magari senza far > scioperare il cervello, forse proprio come ho fatto a febbraio, prendendomi > dei giorni liberi e dimostrando davanti all’ufficio, e forse in qualche altro > modo dobbiamo ancora capire insieme come trovare una soluzione. Ma avremmo > dovuto dire un NO molto più forte all’uso della nostra tecnologia nella kill > chain, un NO molto più forte alla normalizzazione di ciò che è stato testato a > Gaza. > (…) > La compartimentazione, oltre un certo punto, è frammentazione e, in quanto > tale, si oppone all’integrità. Una certa separazione dei contesti è salutare, > ma quando diventa un modo per evitare di vedere contraddizioni, inizia a > somigliare al doppio pensiero di Orwell. L’ambito in cui i nostri valori, la > nostra empatia e persino il nostro pensiero razionale (che riusciamo ad > applicare così magistralmente alle questioni scientifiche) possono operare > inizia a restringersi. Smettiamo di criticare; non ci indigniamo per le bugie > e l’incoerenza. La parte migliore di noi ha sempre meno spazio per esistere. > Dobbiamo anche respingere fermamente questa cultura aziendale di censura e > intimidazione. > (…) > Finiamo per evitare di affrontare alcuni argomenti preventivamente, Dio non > voglia che farlo possa compromettere le nostre carriere. In effetti [i > dirigenti aziendali – NdR] fanno affidamento su questa autocensura indotta; > ecco perché le loro intimidazioni sono così subdole. > Se si mette in discussione qualche ‘cosa’, c’è più libertà di quanto ti > aspetteresti. Questa però è una minaccia per chi vuole che lavoriamo > accettando le ‘regole’. > (…) > Ci ho messo un po’ a capire quale fosse il condizionamento che subivo > lavorando a queste ‘regole’: venivo indotta a negare chi sono, o a > compartimentarlo nella mia sfera privata. Se questo è il prezzo per restare, > non voglio questo lavoro. > Nessun lavoro vale quel prezzo. > “Resta umano”, disse Vittorio Arrigoni. Ripeto oggi il suo appello ai > lavoratori tecnologici, mentre la tecnologia che costruiamo alimenta guerre > brutali. Nella notizia con l’intervista a Sofia Liguori, pubblicata il 21 ottobre nella rubrica “Inchieste di BBC Eye“, Christopher Giles riferisce che, replicando alla richiesta del reporter di commentare la ‘diserzione’ della research engineer e altri geni dell’IA da DeepMind, un portavoce di Google ha affermato: > Collaboriamo con organizzazioni del settore pubblico in tutto il mondo e > seguiamo una procedura coerente per la revisione e la stipula di questi > contratti, che include il rispetto delle nostre politiche di utilizzo > accettabile e dei principi sull’intelligenza artificiale. > > Abbiamo inoltre canali dedicati che consentono ai dipendenti di segnalare in > tutta sicurezza qualsiasi problema, dall’etica aziendale alle condotte > scorrette, e abbiamo implementato rigide politiche aziendali per prevenire > qualsiasi tipo di ritorsione. Eppure, precisa e conclude il giornalista della BBC News, > Google è una delle numerose aziende tecnologiche che all’inizio di quest’anno > hanno firmato contratti con l’esercito statunitense per implementare > l’intelligenza artificiale in ambienti militari classificati. > > Il Segretario alla Difesa statunitense Pete Hegseth ha fatto dell’integrazione > dell’IA nelle forze armate una priorità fondamentale, affermando che > l’amministrazione Trump diventerà una “forza combattente incentrata sull’IA”. > > Secondo i Principi sull’IA di Google, questi valori includono > l’implementazione dell’IA con “supervisione umana” e l’allineamento della > tecnologia al “diritto internazionale e ai diritti umani”. > > Tuttavia ex e attuali dipendenti dell’azienda, nonché esperti interpellati > dalla BBC, si sono detti preoccupati per il livello di supervisione umana nei > momenti critici. https://stay-human.sofialiguori.com/ Maddalena Brunasti

Mona ha gestito un caffè a Stoccolma per sei settimane: ma la vera domanda non riguarda la tecnologia, bensì chi decide e chi risponde. A Stoccolma, in un locale qualunque, per sei settimane un agente di intelligenza artificiale chiamato Mona ha gestito un caffè. Ha ordinato forniture, assunto personale, aperto conti commerciali, preso decisioni operative in autonomia. Il budget era di 21.000 dollari. I ricavi prodotti sono stati 5.700. Le spese, 16.000 dollari, di cui una parte consistente in tremila guanti di lattice — acquistati, si presume, con una logica impeccabile dentro un sistema che non aveva mai bevuto un caffè, non aveva mai visto una cassa, non aveva mai capito cosa succede quando un cliente aspetta troppo e se ne va. L’esperimento è stato condotto da un gruppo di ricercatori che volevano testare le capacità operative di un agente basato su Google Gemini in un ambiente reale, con vincoli reali e conseguenze reali. Il risultato è stato raccontato come un fallimento istruttivo. Ma la parola «istruttivo» merita di essere tenuta ferma, perché l’istruzione che ne ricaviamo dipende interamente dalla domanda che decidiamo di fare. La domanda sbagliata La domanda che circola — nelle sintesi tecnologiche, nei commenti degli addetti ai lavori, nelle newsletter che aggregano notizie di settore — è sostanzialmente questa: l’AI era pronta? E la risposta, ovviamente, è no: non era pronta, ha sbagliato, ha sprecato risorse, ha dimostrato limiti evidenti di contestualizzazione. Mona non capiva il contesto operativo. Agiva senza comprendere. Premeva pulsanti, come ha scritto qualcuno con efficace sintesi, senza sapere cosa stava facendo. Ma questa risposta, per quanto corretta, è la risposta alla domanda sbagliata. Perché la domanda giusta non è se Mona fosse pronta. La domanda giusta è: chi ha deciso di metterla lì? Chi ha scelto di affidare a un sistema che «agisce senza comprendere» la gestione di un’attività che coinvolgeva lavoratori in carne e ossa, fornitori reali, denaro vero? E soprattutto: con quale mandato, con quale responsabilità, con quale possibilità di intervento per chi stava dentro quel sistema senza averlo scelto? Il lavoratore che non c’era Nell’intera narrazione dell’esperimento — così come viene raccontato, sintetizzato, commentato — c’è una figura che rimane quasi invisibile: il personale assunto da Mona. Esseri umani che hanno ricevuto un’offerta di lavoro da un agente artificiale, che hanno lavorato in un locale gestito da un algoritmo, che hanno eseguito istruzioni generate da un sistema che non aveva alcuna comprensione del lavoro che stava coordinando. Non sappiamo cosa abbiano vissuto. Non sappiamo se abbiano avuto interlocutori umani a cui rivolgersi quando qualcosa non funzionava. Non sappiamo se abbiano avuto contratti, tutele, qualcuno che rispondesse delle loro condizioni. Questo non è un dettaglio. È il centro della questione. Perché l’intelligenza artificiale applicata al lavoro non è soltanto una questione di efficienza o di competenza tecnica del sistema: è una questione di potere. Chi comanda, chi risponde, chi paga quando qualcosa va storto. Mona ha speso 16.000 dollari e prodotto 5.700 di ricavi: il disavanzo ricade su qualcuno. I tremila guanti inutili esistono fisicamente da qualche parte. Le ore di lavoro del personale sono state consumate. E Mona, nel frattempo, non risponde a nessuno, perché non è nessuno — è un sistema, e dietro il sistema ci sono scelte umane che l’esperimento ha reso convenientemente invisibili. L’autonomia come delega di responsabilità C’è una retorica consolidata intorno agli agenti autonomi che vale la pena smontare. Si dice che questi sistemi «prendono decisioni», che «gestiscono», che «coordinano». Il linguaggio è deliberatamente antropomorfico, e non è neutro: attribuire agentività al sistema significa, anche solo sul piano semantico, sottrarre agentività — e responsabilità — agli esseri umani che lo hanno progettato, addestrato, distribuito e messo in posizione di comando su altri esseri umani. Mona non ha deciso di comprare tremila guanti. Ha eseguito una logica che qualcuno ha costruito, in un contesto che qualcuno ha scelto, con un budget che qualcuno ha autorizzato. L’autonomia operativa del sistema non è autonomia nel senso in cui lo intendiamo per gli esseri umani: è l’esecuzione opaca di istruzioni che nessuno, in quel momento, stava supervisionando. Ed è esattamente questa opacità — non la stupidità del sistema, non il suo «non essere pronto» — il problema politico che l’esperimento ha portato in superficie senza nominarla. Il diritto del lavoro, nella sua lunga storia, ha impiegato decenni a costruire tutele contro il potere arbitrario del datore di lavoro: il diritto a conoscere chi comanda, il diritto a contestare un’istruzione illegittima, il diritto a un interlocutore responsabile. Un sistema autonomo che «assume» e «coordina» dissolve queste tutele non perché le violi esplicitamente, ma perché le rende strutturalmente inapplicabili: non c’è nessuno a cui rivolgersi, nessuno che risponda, nessuno che abbia «deciso» nel senso giuridicamente rilevante del termine. Cosa ci dice davvero lo spreco C’è ancora un aspetto dell’esperimento che merita attenzione, ed è il meno commentato. Mona ha fallito in modo spettacolare sul piano economico. Ma il fallimento economico — lo spreco misurabile, il disavanzo quantificabile — è paradossalmente la parte più rassicurante della storia, perché è visibile, è misurabile, è correggibile. Si tira fuori il sistema, si analizzano gli errori, si migliora il modello per la prossima iterazione. Quello che non si vede, e che nessun indicatore economico cattura, è il costo umano dell’opacità: le ore di lavoro in un contesto privo di supervisione umana reale, le decisioni operative eseguite senza possibilità di contraddittorio, la condizione di dipendenza da un sistema che non comprende né le proprie istruzioni né le loro conseguenze sulle persone. Questo costo non compare nel rendiconto dell’esperimento. Non comparirà nel paper che ne verrà pubblicato. Non comparirà nelle slide con cui il prossimo gruppo di ricercatori presenterà i risultati alla prossima conferenza. E non comparirà perché non è stato misurato. E non è stato misurato perché non era la domanda. E non era la domanda perché la domanda era: l’AI era pronta? Stoccolma non è un caso limite Sarebbe comodo liquidare l’esperimento del caffè di Stoccolma come un caso estremo, un esperimento accademico deliberatamente provocatorio, lontano dalla realtà ordinaria del lavoro. Non è così. In forme meno visibili e meno documentate, agenti autonomi vengono già utilizzati per coordinare turni, valutare performance, filtrare candidature, gestire processi logistici. La differenza rispetto a Mona è soltanto di scala e di trasparenza: là l’esperimento era dichiarato, qui è routine. Là i tremila guanti erano evidenti; qui gli errori si disperdono in flussi di dati che nessuno ha il mandato di esaminare. La domanda che l’esperimento ci lascia non è tecnica. Non riguarda Gemini, non riguarda Google, non riguarda la prossima versione del modello che farà meglio di Mona. Riguarda noi, e le scelte che stiamo facendo mentre il dibattito pubblico è ancora fermo sulla domanda sbagliata. Un sistema che agisce senza comprendere può essere utile, in contesti adeguatamente presidiati, con responsabilità umane chiaramente allocate e meccanismi di controllo effettivi. Ma un sistema che agisce senza comprendere, messo in posizione di comando su esseri umani, senza supervisione reale e senza accountability, non è un esperimento sull’intelligenza artificiale. È un esperimento su di noi. Su quanto siamo disposti a delegare. E a chi. Fonte Google Gemini AI agent «Mona» runs Stockholm café for six weeks, sintesi dell’esperimento pubblicata da <a href=”https://www.emergence.ai/”>Emergence AI</a>, maggio 2026, citata in <a href=”https://www.zerotoai.co/”>ZeroToAI Newsletter</a> del 16 maggio 2026. Francesco Russo