Riportiamo con l'autorizzazione del direttore dell'Espresso, un articolo di Fabio Chiusi pubblicato dall'Espresso lo scorso 17 ottobre. L’Intelligenza artificiale è spesso al servizio di progetti autoritari che accrescono le disuguaglianze e mettono a rischio la democrazia, dice lo studioso Dan McQuillan in una conversazione via Zoom con Fabio Chiusi.

Serve «un approccio antifascista all’intelligenza artificiale», scrive Dan McQuillan nel suo recente volume intitolato “Resisting Ai” (Bristol University Press). Non perché l’Ia sia di per sé fascista, ragiona il docente di Computing sociale e creativo al Goldsmiths College dell’università di Londra, ma in quanto motore di dinamiche congruenti, e in modo strutturale, con politiche fasciste. Lungi dall’essere una mera tecnologia, l’Ia è infatti un “apparato” che somma tecnica, istituzioni e ideologia. E se ne comprendiamo le “operazioni di base”, e le situiamo nell’attuale momento storico, è impossibile ignorare che il cambiamento di paradigma sociale portato dall’Ia «non farà che amplificare politiche di austerity e sviluppi autoritari», si legge nel testo, agile ma durissimo di McQuillan.

La critica non parte, come in molti altri casi, dalle distorsioni degli algoritmi social. Per l’autore, che vanta un dottorato in fisica delle particelle e un passato come direttore delle comunicazioni digitali di Amnesty, il legame tra fascismi e Ia si salda prima, all’incrocio tra le crescenti richieste di efficienza e risparmi nella gestione della cosa pubblica e l’ideologia che fa dell’intelligenza artificiale la panacea, infallibile e oggettiva, di ogni male. È il cosiddetto “soluzionismo”, che riduce problemi sociali complessi - la pandemia, l’emergenza climatica, la questione energetica - a questioni tecnologiche, risolvibili tramite Ia. Tutto diventa materia di “ottimizzazione” statistica. E, in fondo, questo è l’Ia secondo McQuillan: non “intelligenza” - l’autore sembra fare sua la fortunata espressione della ricercatrice Kate Crawford, per cui l’Ia «non è né intelligente né artificiale» - ma «elaborate congetture statistiche», informate da una visione «astrattamente utilitarista» che finisce per insieme nascondere, riprodurre e amplificare ingiustizie e storture sociali, automatizzandole.

Le stesse premesse di quei metodi statistici a base dell’Ia, si legge, si sono accompagnate storicamente a progetti discriminatori, congruenti - come già rilevava lo studioso Yarden Katz nel suo testo del 2020, “Artificial Whiteness” - con i desideri di reazione e mantenimento di uno status quo imbevuto di razzismo e supremazia bianca del ceto dominante. Così, applicando le più avanzate forme di apprendimento automatico a ogni cosa, le persone diventano numeri da gestire come variabili in una lunga equazione contenente i loro diritti sociali, la loro affidabilità creditizia, il rischio che le espressioni del loro volto celino intenzioni criminali, e via predicendo.

Questo impasto di cattive premesse e potenza di calcolo, come ci dice una letteratura sempre più vasta, finisce per colpire di più chi ha già di meno, gli emarginati, le minoranze. Perché l’Ia non si limita a “rappresentare” il mondo, aggiunge McQuillan: “produce” un nuovo ordine materiale e sociale, anche. E il nuovo ordine algoritmico è in realtà una nuova forma di “apartheid”, scrive, solo più inesorabile, fredda, disumana. Perché? «L’Ia crea stati di eccezione», dice McQuillan a L’Espresso in una conversazione via Zoom, perché nella sua smania di categorizzare, separare, dividere, «produce riduzioni semplicistiche», e crea «proprio le categorie che sono utili alla segregazione sociale».

Noi, imbevuti del pregiudizio di neutralità della macchina, pensiamo siano discriminazioni innocue, astratte e imparziali; anzi, crediamo lo siano necessariamente più di quelle umane. E invece McQuillan, seguendo un filone sempre più nutrito di eredi di Langdon Winner e dell’idea secondo cui anche gli artefatti sono politica, ribadisce che l’Ia è inseparabile dal contesto storico e materiale in cui viene utilizzata. E se il contesto parla di un ritorno dell’estremismo di destra e dei nazionalismi sulla scena internazionale, ecco il potenziale dell’Ia dispiegarsi al servizio di progetti estremisti e nazionalisti.

Quel migrante mente o dice la verità, quando sostiene di scappare da un paese in guerra? Un progetto finanziato dall’Unione Europea voleva fosse una macchina “intelligente” a stabilirlo. Ma lo stesso si può dire del riconoscimento facciale usato dalle forze di polizia (sbaglia in modo sproporzionato con le persone di colore), degli strumenti di polizia predittiva (si concentrano proprio nelle aree più povere, dove certi reati vengono commessi da certe categorie di persone), così come dei software “intelligenti” per distribuire sussidi sociali utilizzati in diversi paesi anche in Europa (e che troppo spesso assumono fattori discriminatori tra i criteri di assegnazione, con esiti catastrofici per migliaia di famiglie). Che fare? McQuillan si dice “abolizionista”, ovvero pronto a considerare l’idea che “resistere” all’Ia significhi rimuoverla dall’esistenza. Ma il punto, si affretta a precisare, non è abolire l’Ia tutta, ma mettere in questione le fondamenta ideologiche e pratiche che ne informano l’attuale configurazione.

Se l’Ia è riduzionista, individualista, razzista, pronta a servire qualunque progetto autoritario, ecco l’autore proporre una rivoluzione in cui le parole d’ordine diventano “solidarietà”, “mutualità”, “relazione”; un approccio antifascista, e dunque insieme femminista e anti-colonialista, che vada oltre perfino i tentativi di governare l’Ia tramite la legge (strutturalmente insufficienti, secondo McQuillan) e porti la contestazione e la resistenza al livello più elementare: quello in cui ci si domanda «quale sia il ruolo della computazione avanzata» in una società democratica contemporanea.

Insomma, per l’autore «resistere all’Ia» significa prima di tutto «riposizionare quella resistenza, mettendone in luce il lato positivo; perché abolire non significa solamente liberarsi di qualcosa», ci dice, «ma soprattutto rimpiazzare l’esistente con strutture alternative». Ed è un’altra ribellione essenziale allo status quo: sottrarsi all’incanto di quello che, parafrasando Mark Fisher, McQuillan chiama «realismo dell’Ai», ossia l’incapacità di immaginare arrangiamenti sociali radicalmente diversi da quelli esistenti. E per quanto la prospettiva abolizionista dell’autore sia radicale, estrema (alcune applicazioni dell’Ia, per esempio alla scoperta scientifica, non sembrano risentire dei problemi qui esposti), il provocatorio testo di McQuillan ha il pregio di solleticare la fantasia, rimetterla al servizio di domande più radicali rispetto a quelle che troppo spesso si leggono nel campo dell’Ia. Non si tratta di innovazione, dice a ragione McQuillan, ma di democrazia.

Immagine in anteprima via cognizant.com