Sally, educatrice artificiale

Nello stato di New York si è tentato di introdurre un sistema di AI in una piccola scuola di provincia: si chiama Sally e ha l’aspetto di una giovane “insegnante di sostegno”, guarda un po’, bianca, giovane e carina. La sospensione del progetto non cancella dubbi e domande, scrive Gianluca Gabrielli di Quando suona la campanella: è questo il futuro educativo ed emotivo che attende i bambini che verranno, naturalmente a partire dalle scuole più povere e periferiche?

Foto Unsplash.com

Trent’anni fa su “Le monde diplomatique” fece scalpore tra noi insegnanti un bell’articolo di Gérard De Sélys sulla Scuola grande affare del XXI secolo.[1] L’autore introduceva una tematica che a suo parere sarebbe diventata attuale in breve tempo, ma che per i lettori europei era ancora una novità; si trattava dell’insegnamento a distanza, pratica avanzata nei luoghi con scuole ubicate in territori sterminati come il continente australiano. Una novità che minacciava di divenire rapidamente di attualità anche in Europa in virtù del giro di affari e di profitti che prometteva ai privati attraverso l’appalto di fette sempre più consistenti del sistema di istruzione. In seguito il tema ha perso di forza mediatica ma non certo di centralità; se ne è parlato meno, probabilmente perché ciò che allora veniva chiamato insegnamento a distanza è stato inglobato nella rapida evoluzione dei sistemi informatici, internet e social, con l’ulteriore doppia accelerazione del Covid e della cosiddetta AI. Così adesso i pacchetti di istruzione standardizzati e trasferibili della vecchia istruzione a distanza sono dei formati che da una parte stanno colonizzando la didattica ministeriale della scuola pubblica e dall’altra si sono evoluti in flessibilità e prestazioni articolandosi in molte interfacce diverse della galassia informatica. Oggi sembra che, rispetto all’enorme velocità di sviluppo di questi sistemi, la capacità di comprenderne le implicazioni e di discuterli sia costantemente in affanno, spesso sostituita dall’accettazione sconsolata o ingenuamente entusiastica di un’agenda dettata dall’ultimo prodotto lanciato – all’inizio gratuitamente – sul mercato del digitale. 

Sally

Quest’estate però, nella Salamanca City Central School District nello stato di New York, è accaduto un episodio interessante, che in Italia rischia di passare sotto silenzio o rimanere limitato ad una distratta lettura estiva, mentre credo meriti una riflessione a scuole aperte. Nello scorso mese di luglio il Sovrintendente scolastico infatti ha annunciato l’intenzione di avviare un progetto pilota per introdurre all’interno dell’istituto tecnico un sistema di intelligenza artificiale a disposizione degli studenti, per “migliorare il coinvolgimento interattivo in classe” e aiutarli a risolvere problematiche didattiche e di relazione. Il sistema sarebbe stato a disposizione degli studenti 24 ore su 24 con la possibilità di accedere ai loro pregressi in modo da poter fornire risposte individualizzate alle loro difficoltà. Non si sarebbe trattato però di un semplice computer, poiché il sistema di AI sarebbe stato integrato in un robot dalle sembianze umane, in particolare con l’aspetto di una donna tra i 16 e 24 anni, castana, pelle chiara in silicone, possibilità di interagire con gli e le studenti anche attraverso mimica facciale e gesti. Il prodotto sarebbe stato fornito dalla ditta Realbotix Corp per 57.590 dollari. Intorno a questo breve e lineare progetto iniziale sono emerse alcune “complicazioni” che la stampa internazionale, dal New York Times al Guardian, hanno riassunto e che hanno portato alla sospensione dell’iniziativa. 

Privacy

Le prime preoccupazioni sono state avanzate in merito alla privacy. Infatti i dati che sarebbero necessari al robot per personalizzare l’intervento costituivano elementi privati degli e delle studenti, la cui tutela evidentemente non può essere sacrificata all’efficienza del progetto. Anche se il responsabile della Realbotix ha subito assicurato che il problema non sarebbe esistito, l’affermazione suscita molti dubbi, perché non si capisce come possa sussistere la capacità di individualizzare interventi senza fare un uso massiccio di informazioni riservate. Diciamo che la contraddizione tra tutela della privacy e la necessità della personalizzazione è costitutiva e insanabile nei sistemi di istruzione basati sull’AI.  

Silicone

Il secondo problema è emerso dalla politica di acquisizioni aziendali della ditta Realbotix. L’azienda infatti, nell’ambito del proprio piano di sviluppo, aveva recentemente acquisito Simulacra, un’altra impresa di Las Vegas che produce bambole sessuali. La coincidenza è alquanto imbarazzante. I manager per l’azienda assicurano che non esiste alcun legame tra le bambole erotiche e l’interfaccia in silicone di Sally, ma questa precisazione non è stata sufficiente a fugare i dubbi. È comunque evidente che chi vende AI ha un forte bisogno di umanizzare i propri risponditori stocastici, esigenza comune a chi fabbrica oggetti finalizzati ad un uso erotico. Entrambe queste tipologie di imprese si candidano per coprire ambiti tendenzialmente resistenti alla semplice commercializzazione – l’istruzione pubblica emersa dall’Ottocento, la sfera sessuale – e per rendere i propri prodotti più soddisfacenti devono fingere umanità. Il silicone ammiccante è il trait d’union.

Nativi americani

Un terzo elemento critico è stato sollevato da genitori degli studenti e studentesse di quella scuola, poiché si tratta di un istituto che insiste nel territorio degli Allegany, nazione Seneca, e che tra i suoi iscritti ha circa il 40 per cento di nativi americani. Poiché di un progetto pilota si tratta, questi genitori della zona hanno criticato il programma, definendone l’implementazione “culturalmente insensibile” e si sono chiesti se non fosse degno di riflessione il fatto che per sperimentare una tale novità si fosse scelto proprio una piccola scuola di provincia con iscritti caratterizzati in questo modo. La critica sembra decisamente fondata; i sistemi di AI abbisognano all’inizio di una grande fase di autoistruzione perché l’efficienza è ancora bassa, la percentuale di “allucinazioni” alta e gli effetti collaterali ancora imprevedibili. Per farlo le aziende spesso “regalano” le versioni ancora in via di perfezionamento e si avvalgono dell’azione dei primi utenti per velocizzarne l’evoluzione. Cosa c’è di meglio di una comunità storicamente vessata e politicamente poco potente per questa sperimentazione d’assalto? 

Sorrisi digitali

Un altro elemento è stato sollevato dai sindacati degli insegnanti: forse – si legge nelle dichiarazioni – i soggetti più deboli della scuola non hanno tanto bisogno di un sostegno di tipo informatico e meccanico, né tanto meno di un’interfaccia siliconica capace di offrire sorrisi digitali, quanto di esseri umani: “I nostri studenti non hanno bisogno di robot. Hanno bisogno di relazioni reali con adulti premurosi. Gli insegnanti si accorgono quando gli studenti sono in difficoltà, festeggiano i loro successi e li aiutano a scoprire chi possono diventare. Nessun robot può farlo, non importa quanto realistica sia la sua pelle o quanto specifico sia il suo accento regionale”, ha dichiarato Melinda Person dell’ NYSUT.  Una posizione opposta viene dall’amministrazione Trump che si è schierata decisamente a favore dell’introduzione dell’AI nelle scuole, e da Melania Trump che ha sollecitato l’introduzione di robot basati sull’AI perfino nelle case dei bambini per “favorire la loro istruzione” e “potenziare le capacità analitiche e di problem solving”.

Sostituzione

Nell’ambito dei sindacati degli insegnanti è emersa un’altra dimensione del problema. “Gli insegnanti non sono stati consultati in merito all’introduzione di questo robot basato sull’AI” ha dichiarato un portavoce, spiegando che con quella cifra l’amministrazione avrebbe potuto assumere invece “due assistenti didattici in carne ed ossa”. Insomma, si pone il problema della sostituzione, anche se il dirigente della scuola e l’amministratore delegato di Realbotix hanno assicurato che Sally non sarebbe mai stata utilizzata al posto di personale umano ma che il programma è stato pensato “come strumento di supporto progettato per aiutare insegnanti e studenti, non per sostituirli”. Eppure è molto difficile pensare che non si tratti di un primo passo in una direzione estremamente preoccupante per la tutela del lavoro dei docenti. È davvero ingenuo ignorare le esperienze maturate negli ultimi 200 anni di innovazioni sul lavoro e gli effetti prodotti sull’occupazione. Certamente le sostituzioni non saranno brutali e di massa, ma progressive e regolate sulla capacità dei soggetti espulsi di digerirne l’effetto, introducendo tutele temporali, incentivi, sussidi, contando sull’area di precariato che semplicemente rallenterà il proprio percorso di ingresso nel sistema scuola. Ciò che viene in mente come esperienza recente è la rapida riduzione e in alcuni casi eliminazione dei cassieri dei grandi magazzini, impiegati nella fase intermedia di questa trasformazione ad insegnare ai clienti a servirsi delle casse automatiche, cioè delle casse che stavano progressivamente sostituendo loro stessi. Sentite come si esprime il delegato di Realbotix: “Gli insegnanti in carne ed ossa rimarranno nelle aule di robotica della Salamanca City Central High School; a loro spetterà la maggior parte dell’attività didattica e il compito di monitorare le risposte fornite dal robot agli studenti”. Trovare le differenze.

Nuove formatrici

Un altra dimensione solo sfiorata nei commenti riguarda l’altra finalità con cui è stata pensata Sally: “strumento di AI personalizzata per i nostri educatori”, ha dichiarato il Soprintendente Mark Beehler. Nella nuova piramide della conoscenza in alto si trova l’AI, depositaria del sapere universale; ad essa attingono in misura diversa i docenti e gli studenti. In prospettiva è presumibile che l’onere della formazione e dell’aggiornamento dei docenti saranno delegati allo strumento AI, più o meno incarnata (embodied AI), con la convinzione di produrre un risultato migliore (un sapere liberato dalle dimensioni relazionali) e più economico (liberato dalle incombenze legate ai corpi viventi).

Sally o Wachiwi?

Infine c’è un dato che circola sottotraccia nei commenti, ma che è stato giustamente esplicitato da un commentatore umoristico del Guardian: Perché non un cinquantenne calvo? Perché Sally, giovane castana dalla pelle chiara, e non Wachiwi, un’anziana nativa della nazione Indiana? Certo, questo sarà il prossimo passaggio, dare una spolverata di politically correct all’interfaccia per renderlo più “digeribile”. 

Il dovere di aprirsi?

In Italia la notizia è rimbalzata, ma in forma leggera, più per deprecare la sospensione del progetto che per analizzarlo e coglierne gli aspetti più discutibili e prospettici. Il tono dei commenti tricolori è destinale e virile al tempo stesso: sulla “Tecnica della scuola” si legge che “anche la scuola dovrà prima o poi aprire alle innovazioni più avanzate”. La capacità di adattamento degli esseri umani è incredibile, chi avrebbe mai pensato che in soli 10 anni la maggior parte della popolazione mondiale sarebbe stata costantemente online con un mini computer in mano a scambiare socialità fittizie con centinaia di sconosciuti. Ma proprio per questo è importante chiedersi se un’opzione come Sally, pur emendata di tutte le ingenuità di questa prima proposta (magari pelle nera, privacy più garantita, ricollocazione dei docenti in soprannumero contrattata con i sindacati) non costituisca davvero il futuro inquietante, educativo ed emotivo insieme, delle prossime generazioni. 

[1] G. De Sélys, La scuola, grande affare del XXI secolo, “Le monde diplomatique”, giugno 1998 

Pubblicato su Quandosuonalacampanella.it

LEGGI ANCHE:

Capacità da allenare a scuola che la tecnologia non chiede più

L'articolo Sally, educatrice artificiale proviene da Comune-info.