Un fascismo tutto robotico

All’estrema destra piace immaginare minacce. Lo stesso vale per l’intelligenza artificiale

Richard Hames su NovaraMedia

L’altro giorno qualcuno mi ha inoltrato un’immagine di un piccolo gruppo neonazista britannico chiamato White Vanguard che posava davanti alla telecamera. Dodici persone vestite di nero stavano in piedi dietro uno striscione con simboli nazisti dall’aspetto intimidatorio. Sembrava un raduno preoccupante, considerando che il gruppo è così estremista.

Ma guarda meglio, mi ha detto il mio contatto. L’ho fatto, e molte cose mi sono sembrate molto insolite. Un uomo in piedi vicino al fondo sembrava avere una sola gamba. Perché il testo sullo striscione sembrava così strano? Il fianco di un altro uomo si confondeva con quello del suo compagno. Qualcuno aveva un braccio in più. Il gruppo aveva usato l’intelligenza artificiale per esagerare il numero dei suoi membri? Una dozzina di neonazisti sembravano diventare sei tipi strani e i loro amici immaginari.

Mi sono venute in mente spiegazioni plausibili per alcune cose che sembravano strane. C’era stato un montaggio insolito, questo era certo. Ma alcune cose potevano essere il risultato dell’uso di Photoshop per nascondere l’identità delle persone. Un rilevatore di immagini AI online mi ha detto che era “al 100%” probabile che si trattasse di un’immagine manipolata con l’AI. Un altro mi diceva che non lo era. Mi sono perso nei dettagli, strizzando gli occhi davanti allo schermo. Sono giunto alla conclusione che siamo arrivati a un punto scomodo in cui sta diventando quasi impossibile capire se un’immagine statica realizzata con cura sia sostanzialmente AI o meno, senza un notevole dispendio di tempo e risorse.

Forse questo gruppo è più piccolo di quanto vorrebbe farci credere.  Ma il problema dell’illusione della potenza dell’estrema destra è più ampio.

Qualche settimana fa, il sito di social media X ha iniziato a rendere disponibili i paesi di origine degli account. Si è creato imbarazzo quando si è scoperto che alcuni account neonazisti erano gestiti da luoghi in cui la maggior parte dei neonazisti considererebbe le persone come esseri subumani. Gli account anti-migrazione erano gestiti da luoghi che erano più probabili fonti di migrazione che destinazioni finali. Molti esponenti dell’estrema destra razzista amano Israele, ma alcuni account che promuovono Israele si sono rivelati gestiti da indiani entusiasti.

Tutto questo è stranamente divertente, molto imbarazzante e dimostra la strana capacità di Internet di simulare potenza.

Questo neonazismo sintetico è una strana eco della storia generale dell’intelligenza artificiale: tutto ciò che pensiamo ci renda veramente umani si è rivelato, lentamente e in modo irregolare, simulabile utilizzando un numero sufficientemente grande di numeri in una matrice su Internet. Tutto ciò che i neonazisti pensano li renda veramente superiori si è rivelato del tutto simulabile dal Sud del mondo, data una quantità sufficientemente grande di dati di addestramento.

Ci sono due grandi meccanismi di Internet in gioco qui. Il primo è quello che possiamo chiamare il grande meccanismo di arbitraggio di Internet: Internet ha fatto crollare il costo della manodopera in tutto il mondo. Le attività digitali possono essere svolte da qualsiasi luogo con una connessione.

Poiché quando si parla con ChatGPT, l’elaborazione viene effettuata altrove, è possibile utilizzarlo anche con una connessione relativamente lenta. Non è nemmeno necessario essere bravi in inglese. Le competenze linguistiche integrate nel modello sono ora a disposizione di tutti, anche se questo arbitraggio globale produce anche strane specificità nella lingua: si veda il massiccio aumento dell’uso globale di “delve”, che in precedenza era utilizzato principalmente nell’inglese nigeriano. Poiché la Nigeria è uno dei paesi anglofoni con i lavoratori meno pagati, il processo noto come Reinforcement Learning from Human Feedback (RLHF) è più economico da realizzare in questo paese, e quindi le preferenze specifiche dei parlanti dell’inglese nigeriano vengono codificate nei modelli.

E questo stesso arbitraggio dei costi del lavoro significa che il semplice fatto di attirare l’attenzione online può produrre un salario dignitoso per le persone dei paesi più poveri. Le somme elargite da X per ottenere il coinvolgimento degli abbonati premium potrebbero non essere molte se si vive nel Regno Unito, ma possono cambiare la vita altrove.

Ma come attirare l’attenzione? È qui che entra in gioco il secondo grande meccanismo di Internet: la sua grande macchina di inversione morale. Più il contenuto è scandaloso, più i meccanismi virali di Internet lo spingeranno avanti. Ciò induce uno strano ribaltamento del panorama morale, con le frange riportate al centro della nostra attenzione. E nulla è stato più inaccettabile in gran parte del mondo dalla fine della seconda guerra mondiale del nazismo.

Nessuna delle due leggi è assoluta, ma insieme spingono i lavoratori digitali del Sud del mondo a travestirsi da neonazisti per guadagnare i soldi di Elon.

Il neonazismo è diventato una commodity redditizia, una circolazione che inquina e distorce le condizioni economiche generali in cui tutti noi viviamo, proprio come una fuoriuscita tossica da una fabbrica redditizia potrebbe uccidere i lavoratori da cui dipende.

Probabilmente vi sarete imbattuti in alcune di queste sciocchezze: statistiche distorte sulla criminalità accompagnate da caricature razziste, fantasticherie senza senso che parlano di “Iperborea” – una mistica utopia, immagini tratte dal contesto dell’ultima causa celebre dell’estrema destra, remix phonk di supercut dei discorsi di Hitler, o le ormai stancanti e infinite rielaborazioni dei meme chad/wojak.

Ma quali sono i poteri reali di tali immagini? Chi è effettivamente influenzato dalla diffusione di tali scorie?

Circa dieci anni fa era piuttosto tipico per l’alt-right parlare in termini di “magia dei meme”, attribuendo, in modo quasi ironico, poteri mitici alla circolazione delle immagini. L’idea non è scomparsa e, dall’alt-right in poi, le tecnologie per la produzione di immagini sono notevolmente migliorate. La creatrice neonazista di The Will Stancil Show seguiva ancora questa linea il mese scorso: “Sto usando i meme per arrivare al potere”, ha detto in un’intervista podcast, “e sto usando i meme per diffondere il nazionalsocialismo tra il pubblico”. Lo show è una parodia animata del tanto denigrato avvocato liberale Will Stancil, che in precedenza era stato bersaglio di minacce sessualmente esplicite da parte di Grok, il modello di intelligenza artificiale basato su X, ed è pieno zeppo di stereotipi razzisti. Sembra un cartone animato, ma è stato realizzato interamente con Sora AI, lo strumento di generazione video di OpenAI. Certo, sembra un po’ goffo, ma il costo è notevolmente inferiore rispetto all’animazione standard.

Ma al di là dell’auto-mitizzazione, queste immagini hanno davvero importanza? Possiamo comprenderne l’importanza se consideriamo la struttura dei movimenti online in una prospettiva più ampia. Pensiamo all’estrema destra come a una pila di elementi, ciascuno dei quali costituisce uno strato importante, ma nessuno dei quali è sufficiente da solo.

Le immagini si trovano nella pila, da qualche parte vicino al fondo: importanti, ma non autonome. Sotto di esse si trovano i sentimenti viscerali di rabbia e inadeguatezza che il neoliberismo produce e utilizza come carburante. E un livello sopra le immagini ci sono le forme di attività politica che portano alla formazione di un movimento. Le immagini sono un intermediario essenziale: incollano insieme i sentimenti e li rendono articolabili, consentendo poi ai movimenti di coesistere attorno alle idee espresse al loro interno.

Non sono autonome o potenti da sole, ma le immagini sono una parte essenziale della pila: senza immagini non c’è potere culturale, e l’intera struttura inizia a sciogliersi come una trave d’acciaio ricoperta di carburante per aerei in fiamme.

Quindi, in questo contesto generale, cosa è cambiato nelle immagini dell’estrema destra?

Tutti gli esempi sopra citati sono molto lontani dalle forme classiche dell’estetica dell’estrema destra: si pensi, ad esempio, al film di Leni Riefenstahl del 1936 Il trionfo della volontà, che descriveva il congresso del partito nazista del 1934 a Norimberga. Il modo in cui queste immagini sono state distribuite è cambiato tanto quanto il loro contenuto, e i due aspetti sono collegati. Per vedere Il trionfo della volontà bisognava andare al cinema, dove promuoveva immagini di ordine e vitalità severi, quasi spirituali. Al contrario, l’incredibile ascesa dell’alt-right è stata mediata da una dinamica virale di condivisione e indignazione, e le sue immagini erano di conseguenza più caotiche e meno ordinate.

Ma questo potere simulato online suona stranamente vuoto per l’estrema destra. Nella sala degli specchi unidirezionali di Internet, alcuni specchi sono convessi: mostrano le cose distorte in modi strani e fanno sembrare alcune credenze molto più importanti di quanto non siano nella vita reale (se mai si possa parlare di una cosa del genere).

In breve, online la potenza è falsificabile. L’hacking, il trolling e lo swarming sono le tattiche di attori che non hanno il diritto di essere così potenti come sono. All’estrema destra, questa potenza asimmetrica ha conferito al movimento un senso di insurrezione online: per un attimo è sembrato quasi identico a Internet stesso. Ma non era abbastanza. Nonostante Internet, un’estensione e una sfocatura dello spazio pubblico e privato, all’estrema destra permaneva la sensazione diffusa che la strada e la capacità di esercitare una volontà al suo interno conferissero legittimità al movimento.

Un momento importante di questo ritorno in strada è arrivato nel 2017, quando l’alt-right si è scatenata a Charlottesville, in Virginia, negli Stati Uniti, per la manifestazione Unite the Right. Online, l’alt-right era riuscita a ingannare se stessa e gli altri: era intellettualmente coesa, potente e abile. Ma non era così. In Virginia il movimento ha invece scoperto che, in realtà, faceva schifo. Lungi dall’essere epico e ben organizzato, era in realtà eterogeneo al punto da sembrare caotico, brutto e disordinato. Bandiere naziste, assortimenti casuali di ginocchiere e scudi, teschi della morte, persone che urlavano e si versavano latte sul viso per contrastare i gas lacrimogeni e l’omicidio della manifestante antifascista Heather Heyer.

La marcia è stata un momento di disordine per l’alt-right, non solo perché ha perso uno dei suoi principali sostenitori alla Casa Bianca, Steve Bannon, ma anche perché è diventato evidente che non era composta dagli übermensch che aveva immaginato.

Ma l’intelligenza artificiale permette di aggirare quasi completamente il problema della potenza in persona. Quando hai bisogno di evocare una folla, puoi farlo. Certo, per ora tutti potrebbero sembrare uguali e la fisica dei video potrebbe essere piuttosto lisergica, ma i modelli migliorano continuamente: bisogna guardare molto da vicino per notare la stranezza delle immagini statiche.

Potremmo chiederci se l’IA sia, in generale, “di destra”. La risposta, in termini di convinzioni politiche dichiarate dagli agenti di IA, quando è possibile ottenerle, sembra essere in gran parte “no”. Per lo più, sono fondamentalmente di sinistra, il che non sorprende dato che la maggior parte dei loro prompt di sistema sono scritti da persone che più o meno hanno quelle convinzioni, anche se Grok di X è un evidente caso anomalo.

L’IA può certamente essere utilizzata per produrre propaganda per l’estrema destra, essendo piena di dati di addestramento che facilitano le noiose ripetizioni delle stesse idee di base a cui siamo abituati, anche se la facilità con cui è possibile riprodurre tali idee mina tutte le loro pretese di profondità e unicità razziale.

Cosa offre la nostra nuova era di produzione di immagini basata sull’intelligenza artificiale all’estrema destra? L’intelligenza artificiale può evocare passati che non sono mai esistiti e mondi che non potrebbero mai esistere (sia perché le persone hanno un po’ troppe dita, sia perché le condizioni strutturali del capitalismo globale non consentono il tipo di collaborazione di classe che viene immaginata). Può anche essere utilizzata per simulare l’apparenza di un’incredibile ondata di criminalità: le telecamere traballanti di video apparentemente in diretta coprono la stranezza dei movimenti e l’inverosimiglianza delle scenografie. Oppure, nel caso di Grok, per produrre direttamente volantini al vetriolo.

Potrebbe anche consentire presto all’estrema destra di produrre l’illusione di un movimento di massa coeso nelle strade dove, in realtà, ne è apparso uno molto meno impressionante nel mondo reale.

Ci sono, ovviamente, movimenti di estrema destra reali là fuori, e stanno crescendo, formando il tipo di connessioni che sostengono i movimenti a lungo termine. Ma sono anche deludenti persino per i loro partecipanti. I loro eventi sono per lo più piuttosto noiosi da seguire, pieni di persone aggressive e talvolta drogate che diventano rapidamente stancanti.

Le persone immaginarie sono sempre migliori di quelle reali. I movimenti immaginari sono migliori di quelli reali. E la nazione immaginaria è la migliore di tutte. Un’intelligenza artificiale sempre più sofisticata potrebbe consentire alla propaganda di estrema destra di raggiungere ciò che ha sempre perseguito: la creazione di un’unità sintetica di un popolo immaginario. A patto che le loro membra non si fondano l’una nell’altra in modi bizzarri.

Richard Hames è produttore audio per Novara Media.

The post Un fascismo tutto robotico first appeared on Popoff Quotidiano.

L'articolo Un fascismo tutto robotico sembra essere il primo su Popoff Quotidiano.