Dimmi come guidi…

La maggior parte degli americani si rende conto che esistono due gruppi di persone monitorati regolarmente mentre circolano per il paese. Il primo gruppo è monitorato non per propria decisione ma a seguito di un ordine del tribunale che impone loro un dispositivo di tracciamento legato alla caviglia. Il secondo gruppo comprende tutti gli altri, quasi tutti monitorati volontariamente mentre portano un telefono cellulare in borsa o in tasca.

Queste le parole di Timothy Nee, presidente della Dorman Consulting Associates, sulla capacità di monitoraggio dei sistemi attualmente già in uso o in fase di sviluppo.

Il monitoraggio degli utenti è un vantaggio competitivo per le aziende, che così possono offrire servizi personalizzati, ma ha anche un lato oscuro. Un ristorante non può applicare prezzi diversi a seconda del colore del cliente, ma può offrire a determinati clienti dei buoni sconto, selezionando le persone in base al customer score. In molti casi il servizio offerto e il prezzo pagato dipendono dalle informazioni che l’azienda ha su di noi: credito bancario, carta di credito, assicurazioni, ecc. Tutto ciò è usato per determinare le pubblicità che vediamo e le offerte che riceviamo. Si chiama price discrimination.

Durante la guida, i dati sulla provenienza, il tragitto, i tempi di percorrenza, le soste e la destinazione, nonché le condizioni del veicolo, sono raccolti da una moltitudine di aziende: dal provider di accesso al produttore dello smartphone, dallo sviluppatore del sistema operativo fino alla compagnia di assicurazione della quale, probabilmente, abbiamo una App installata sul telefono.
Questi dati vengono utilizzati per rilevare i comportamenti delle persone, individuando quelli positivi (cioè vantaggiosi per le aziende) e quelli negativi (cioè svantaggiosi). Se guidate troppo veloce o in quartieri a rischio, ma anche se intraprendete un nuovo regime di esercizio fisico per una vita più sana utilizzando una App fitness, l’analisi dei dati indicherà nuovi livelli di rischio assicurativo. Una volta operata l’analisi dei comportamenti l’azienda può agire di conseguenza: infliggendo delle punizioni (dal rialzo del premio fino al blocco del motore) o concedendo dei premi (sconti, coupon), anche in tempo reale.

L'obiettivo è cambiare il comportamento reale delle persone. Su larga scala.

… e ti dirò cosa pensare

Sorveglianza: attenzione focalizzata, sistematica e continua ai dettagli personali al fine di influenzare, gestire, proteggere o dirigere (David Lyon)

Edward Snowden ha sollevato il velo, consentendo a tutti di prendere coscienza dell’attuazione del sogno antico del potere assoluto. L’operazione di controllo e monitoraggio delle comunicazioni telematiche operata dalla National Security Agency (NSA), ha mostrato quanto sia facile aggirare i diritti dei cittadini e spiare ogni loro comunicazione. Ma ha avuto anche l’effetto di focalizzare l’attenzione sul governo americano. Lo scandalo NSA ha contribuito a rafforzare l’idea di un rapporto esclusivo tra istituzione che sorveglia e cittadino che è sorvegliato. Il Datagate ha identificato i “cattivi”.
Ma si tratta di una mera semplificazione, tra l’altro fuorviante e pericolosa: il controllo digitale da parte dei governi non è altro che l’evoluzione di pratiche utilizzate altrove.

Alla fine degli anni ’90, sia gli Usa che l’Europa si sono prodigati per assicurare che Internet fosse un sistema aperto. Furono introdotti incentivi affinché gli intermediari della comunicazione non interferissero con le comunicazioni online. All’epoca le aziende del web avevano più da perdere che da guadagnare nel controllare i contenuti che fluivano attraverso i loro server.
Lo sviluppo di servizi online ha, però, permesso alle aziende private, sostanzialmente libere da pastoie burocratiche, di realizzare forme di business fondate sul monitoraggio dei comportamenti degli utenti.

Le aziende così hanno moltiplicato i sistemi di tracciatura (cookie, advertising identifier) e catalogazione dei comportamenti (edgerank), al fine di realizzare profili sempre più completi di ogni singolo cittadino (clicca qui per verificare quali aziende ti stanno tracciando in questo momento).
Gli studi mostrano come sulla base dei like in Facebook sia possibile realizzare un accurato profilo di una persona, compreso l’orientamento sessuale, la religione, la fede politica, fino a inferire alcuni specifici tratti, quali il narcisismo e la psicopatia. I sistemi di tracciamento e profilazione degli utenti consentono alle aziende di adattarsi ai potenziali compratori, aggiustando le offerte sulla base di precedenti acquisti e dei comportamenti di navigazione online.

Part of the social glue that holds us together is that we like the things our friends like. It's the fuel that keeps the group going. It's a way of social groups reducing conflict (Graham Jones, Clickology: what works in online shopping and how your business can use consumer psychology to succeed)

Ma i limiti della pubblicità sono evidenti (una ricerca del 2013 rivela che ben pochi utenti si fidano della pubblicità online). Tutti noi sappiamo che le aziende cercano di influenzarci instillando un continuo stato di insoddisfazione. Ma essere seguiti da annunci stranamente pertinenti può risultare piuttosto disturbante. Un banale bombardamento pubblicitario alla lunga non funziona. Perché a nessuno piace sentirsi dire cosa deve pensare.

Oggi la navigazione di un utente avviene sempre più tramite gli smartphone. Per esigenze di efficienza e di ottimizzazione della banda Internet, le App sugli smartphone cercano di identificare quali notizie quello specifico utente vorrebbe vedere. Il risultato è che il web che ognuno di noi quotidianamente vede è sempre più costruito sulla base del nostro profilo, ed è un internet diverso da quello degli altri, un Internet nel quale le aziende ti nascondono qualche cosa.

Eli Pariser l’ha definita filter bubble, un Internet ottimizzato in relazione alle nostre preferenze dove non ci vengono presentate opinioni in contrasto con le nostre idee. Ma quali sono gli elementi che davvero influiscono sulla scelta delle notizie? Chi decide quali news vediamo e quali no?

Il passo successivo è stato quello di cercare di influenzare gli utenti.

Nel 2012 Facebook avvia uno studio avente come oggetto la manipolazione emotiva dei suoi utenti in assenza di qualsiasi consenso. Modificando il contenuto dei feed i ricercatori hanno scoperto che le emozioni sono “contagiose”. Riducendo infatti il numero dei messaggi positivi le persone ne producono più con connotazioni negative determinando un trasferimento di emozioni su larga scala, attraverso il social network. Così si riesce a modificare lo stato psicologico degli utenti: è il “contagio emotivo”.

La nuova timeline algoritmica di Twitter non è altro che la manipolazione dei contenuti da presentare agli utenti per verificare come essi rispondono.

Manipolazione

È un mondo nuovo per i data scientist, utilizzati (come nella campagna di Obama) per combinare i profili psicologici tratti dai nostri dati online al fine di strutturare una campagna politica in grado di raggiungere un livello di manipolazione uguale o superiore rispetto a un qualsiasi spot pubblicitario (Google può guidare il voto politico?).

Alcune persone sono inclini al voto conservatore quando si confrontano con scenari spaventosi: sarà sufficiente aumentare il numero delle notizie relative ai reati e le pubblicità dei tool di sicurezza. E per il vicino sempre desideroso di impegnarsi? Basterà presentargli un maggior numero di campagne sociali ("Clicca qui per salvare il mondo!") per soddisfare il suo bisogno di partecipazione.

Siamo così abituati ad aprire un browser e lanciare una ricerca, a usare una App per trovare delle news, che non ci chiederemo mai cosa o chi ha influito sulla scelta delle notizie da presentarci. È la App che si adatta al nostro profilo oppure siamo noi che ci adattiamo alla selezione della App? Chi influenza chi?
Le normative in materia di privacy fanno fatica a stare dietro a questi sistemi e a un certo punto si è compresa la difficoltà per uno Stato sovrano di imporre restrizioni a una multinazionale che opera in decine di paesi.
Come sanzionare infatti un’azienda che raccoglie i dati dei cittadini di una nazione ma li tratta in tutt’altro paese? Per non dimenticare l’incentivo “economico”: potrebbe essere controproducente infliggere sanzioni ad un’azienda con fatturati uguali se non superiori al Pil dell’intero paese, i suoi investimenti servono, non ci possiamo permettere che cambi nazione.

Dopo il primo periodo di relativo laissez faire, alcuni governi hanno progressivamente assunto il medesimo approccio delle aziende.
Hanno cominciato a “spiare” online i propri (e non solo) cittadini, giustificando tale forma di controllo sociale per motivi di sicurezza (lotta al terrorismo, alla pedopornografia, ecc…) o semplicemente per ragioni di efficienza economica. Di seguito hanno iniziato a realizzare forme di propaganda governativa più o meno avanzate.

La Cina da anni utilizza schiere di “disinformatori di Stato” che, nel momento in cui una voce dissidente sfugge al controllo, si occupano di “bombardare” il sito che pubblica una notizia “dissonante”, screditandola, insinuando il dubbio che sia falsa, strumentalizzata, o diffusa per altri reconditi fini.

Ma il controllo digitale è qualcosa di molto complesso, un meccanismo mediato svolto principalmente da soggetti posti al di fuori del controllo dell’istituzione che sorveglia: gli intermediari della comunicazione, i social network, insomma le aziende private.

Una visione del mondo

Perché servirsi delle aziende private? Il primo motivo è strettamente legale. Un governo non può permettersi di agire in violazione delle sue stesse leggi, deve rispettarle, almeno formalmente, e non può apertamente rivolgersi contro i suoi cittadini. La risposta del popolo potrebbe essere devastante: dalla perdita di consenso politico al dissenso operato nelle urne, fino a proteste nelle strade e alla guerra civile.

Ma quello che non può fare un governo è invece consentito alle aziende private che, tra l’altro, non hanno obblighi di trasparenza. Perché nel momento in cui accettiamo le loro policy aziendali, i loro TOS (terms of service) scritti in “legalese” di difficile comprensione per i più, di fatto abdichiamo a parte dei nostri diritti.
Tutte le principali aziende che operano in rete hanno delle specifiche policy per rimuovere contenuti (qui il manuale di rimozione di Facebook) dai loro server, si può trattare di contenuti che presentano nudità, oppure moralmente discutibili, che invitano al razzismo, o provocatori, si può trattare di immagini di studenti ubriachi o fluidi corporei.
In realtà stiamo parlando di un modo per imporre una visione del mondo.

I governi hanno iniziato a portare avanti una grande varietà di iniziative politiche (un pulsante per proteggere il cittadino) tese alla regolamentazione di specifici aspetti della vita online, dalla distribuzione di materiale terroristico all’incitamento dell’odio, dalla pedopornografia alla violazione della proprietà intellettuale, per imbrigliare e sfruttare l’enorme quantità di dati raccolti dalle multinazionali del web. Si tratta di escamotage per sedere alla ricca tavola dei Big Data.

Ma, una cosa è proteggere i bambini dai contenuti pedopornografici online, ben altro è fornire consigli di salute sessuali, bloccando siti o immagini di allattamento al seno, fino a proporre una visione reazionaria della sessualità umana. Anche perché le grandi aziende, mentre da un lato impongono quali usi fare di una bandiera col rischio di riscrivere la storia, per esigenze puramente economiche si adattano tranquillamente, ad esempio censurando contenuti pur di essere presenti nel grande mercato cinese.

Si tratta di aziende che si arrogano il diritto di decidere cosa i loro utenti possono o non possono vedere. E sono le stesse aziende che si trincerano dietro la loro natura privata quando un governo cerca di imporgli qualcosa, mentre loro non hanno alcun problema ad imporre ai loro stessi utenti una diversa visione del mondo.

Un secondo motivo si trova nell’impossibilità di accedere a determinate informazioni. Un utente online può anche essere anonimo o quanto meno difficile da identificare, ma non lo è mai per il suo provider, il suo fornitore di accesso a Internet.
Ad esempio, in Europa numerosi tribunali hanno sancito che non è ammissibile la tracciatura degli utenti al fine di scoprire se hanno violato il copyright, essendo tale tracciatura in contrasto con il diritto alla privacy che prevale. Con la graduate response (Hadopi in Francia, DEA in Gran Bretagna e 6 strikes negli USA) sono, invece, gli stessi provider a identificare internamente l’utente e disporre le eventuali sanzioni, aggirando così le leggi in materia.

Gli intermediari della comunicazione, le aziende di internet, sono il naturale punto di controllo dei contenuti online e sono queste aziende che operano la sorveglianza digitale per fini propri o per conto di terzi. Quante volte abbiamo letto di violazioni della normativa in materia di privacy da parte di aziende che si sono trincerate dietro l’ennesimo “bug” del sistema, giustificandosi con le difficoltà tecniche e l’impossibilità di ottemperare alla norma? E comunque anche una sanzione di centinaia di migliaia di euro di fatto non è che una goccia nel mare di soldi che una multinazionale riesce a ricavare sfruttando i dati dei cittadini.

E poi, chi dovrebbe imporre eventuali sanzioni alle multinazionali? Gli stessi governi che le adoperano come "braccio armato" (gli sceriffi del web) contro i cittadini.
Le prime norme realizzate per fornire una copertura giuridica alla raccolta di dati da parte dell’NSA contenevano, appunto, una sanatoria per le aziende che avevano collaborato. E se oggi alcune aziende iniziano a mostrare insofferenza per gli obblighi che hanno verso l’agenzia americana, è per motivi strettamente economici: gli utenti potrebbero avere meno fiducia e cominciare a disertare i loro servizi.

Il capitalismo della sorveglianza

Nel mondo nuovo dei data scientist il profitto non sta più nell’indirizzare con precisione gli annunci, ma nel plasmare i comportamenti della vita di milioni di persone per alimentare le entrate. È un nuovo modello di business del quale il primo maldestro esempio lo abbiamo visto con l’esperimento “emotivo” di Facebook che, probabilmente, non è altro che la punta dell’iceberg.

Le aziende stanno progressivamente interiorizzando una nuova forma di capitalismo mosso dalle vecchie logiche di accumulazione, un progetto di sorveglianza lucrativo che sovverte i normali meccanismi slegando il capitalismo dalle esigenze reali della popolazione. Il capitalismo della sorveglianza è l’incrocio tra i nuovi vasti poteri digitali delle multinazionali, l’indifferenza radicale che monta oggi nei cittadini e la visione neoliberale del capitalismo finanziario. Una forma parassitaria di profitto che si lega allo sfruttamento indiscriminato dei dati e che necessita urgentemente di una regolamentazione per la tutela dei diritti dei cittadini.

Nel processo che vede contrapposti l’FBI e Apple l’argomento di punta dell’azienda californiana per sottrarsi alle richieste dell’FBI, dopo avere partecipato per anni ai programmi dell’NSA, riguarda il “reasonal burden”, il ragionevole onere che si può imporre a un’azienda privata. Il precedente che riguarda la legge applicata nel caso in questione, l’All Writs Act, è riferito a una azienda di telefonia, una public utility. Ma Facebook, Google e le altre società tecnologiche oggi forniscono servizi che non si possono non considerare come essenziali per la partecipazione sociale di base (a gennaio del 2015 Facebook è stato offline per parecchie ore e molti utenti hanno chiamato il 911, il servizio di emergenza).

Queste aziende sono da molti viste come i messaggeri di un mondo più democratico poiché permettono forme di connessione senza precedenti. Il costo nascosto nei loro prodotti (Google Drive, One Drive, iCloud, ecc) si conta in termini di privacy perduta e di sorveglianza commerciale. È solo la punta dell’iceberg che noi oggi conosciamo attraverso gli inquietanti messaggi commerciali personalizzati che ci seguono ovunque. Ma dietro il velo della propaganda queste aziende manovrano da tempo per spostare il loro modello di business dalla mera raccolta di informazioni all’intervento diretto per modellare la realtà commerciale a loro esclusivo vantaggio. Non basta più vendere un prodotto, occorre innestare nei cittadini un desiderio di appartenenza a qualcosa di unico e speciale: un obiettivo, un sogno, di più, un marchio.

In questo nuovo mondo sempre più immateriale e onirico, dove la forma vale più della sostanza, l'immagine più dell'oggetto e la diffusione più del sapere, i cittadini sono sempre più allo sbando, orfani delle istituzioni che con le proprie mani hanno scavato un solco tra loro, abbandonando progressivamente il terreno della tutela dei diritti, delegando e privatizzando alle grandi aziende per poi, una volta comprese le potenzialità delle nuove tecnologie in termini di "controllo", disperatamente cercare di sedersi alla stessa tavola. E i cittadini, alla ricerca di nuovi punti di riferimento, si allineano dietro l’ennesimo pifferaio magico che promette di tutelare i suoi diritti, nel mentre di quegli stessi diritti ne fa un prodotto commerciale.

Oggi il Grande Fratello non è più l’onnisciente forza oppressiva come in "1984" di George Orwell. Il moderno Grande Fratello ci ha mostrato che nessuno più è davvero indispensabile. Tutti, tranne pochi eletti, sono sacrificabili, e quindi l’unica possibilità è entrare volontariamente nella “casa”, partecipare alla recita, massificarsi, aderire alle regole dominanti del pensiero unico, casomai scegliendo tra le uniche alternative che vengono proposte (governi o aziende?) pena l'esclusione, come scrive Zygmunt Bauman in Sesto potere, la sorveglianza nella modernità liquida.

Il segreto della sorveglianza digitale sta nel controllo dei minuscoli aspetti della vita quotidiana, nelle piccole informazioni che vengono raccolte giorno per giorno. Come consumatori, le nostre attività vengono monitorate dalle banche e dalle assicurazioni per individuare le frodi, le nostre preferenze sono controllate da programmi di fidelizzazione, i nostri movimenti dai gestori di telefonia. Si tratta di una quantità enorme di dati che ci consente di avere dei servizi personalizzati, ma nel contempo permette ad aziende e governi di gestire le risorse, le attività e la popolazione stessa.

Per capire il potere della sorveglianza digitale occorre guardare al mondo opulento tratteggiato dallo scrittore Aldous Huxley (dove l’umanità, pur rigidamente controllata, è sostanzialmente felice) o, meglio ancora, agli scritti del filosofo Antonio Gramsci: il più potente mezzo di controllo a disposizione di uno Stato capitalista moderno non è la coercizione, ma la capacità di plasmare il mondo delle idee. Non si tratta più solo degli annunci personalizzati e delle pubblicità mirate, ma dell’orientare le decisioni degli individui, in modo palese (punizioni e premi delle assicurazioni), o occulto (contagio emotivo). Si tratta di una tecnologia che non appartiene ancora ai governi, che devono quindi esercitarla tramite le aziende tecnologiche.

La verità è che gran parte dei Big Data viene raccolta dalle nostre vite in assenza di consenso e consapevolezza. In futuro la situazione sarà sempre più al di fuori del nostro controllo con l’avvento dell’internet of things (IOT, Internet degli oggetti) che promette di collegare tutti gli oggetti che ci circondano in un unico abbraccio virtuale, per realizzare una comunità nella quale saremo sempre meno padroni delle nostre vite e sempre più schiavi inconsapevoli soggiogati da interessi al di fuori della nostra comprensione, una società nella quale i leader tecnologici saranno idolatrati e il libero arbitrio sarà solo un mero ricordo.

Le grandi aziende stanno gradualmente spostando la discussione sulla necessità di introdurre la crittografia per tutelare i diritti degli individui, così presentandosi come leader di un movimento di liberazione dei cittadini dalle angherie delle istituzioni. Ma sono le stesse multinazionali che per anni hanno alimentato pratiche discriminatorie e hanno permesso la sorveglianza globale.
Discutere di crittografia è solo ammettere che il problema esiste, ma non è certo una soluzione. La crittografia, e gli strumenti di tutela della privacy come l’opt out e il Do not track, sono soluzioni individualizzate e personalizzate, una sorta di arte di arrangiarsi a seconda delle proprie capacità, tecniche o economiche (sono ricco, compro un cellulare con la crittografia, sono povero, non posso permettermelo e quindi non ho diritti). Di fatto la soluzione al problema viene delegata alle stesse grandi aziende che lo hanno creato. Non una soluzione che valga per tutti.

Molti oggi credono che solo un iphone con crittografia potrà difenderli dalle ingerenze dei governi, ma questa identificazione del diritto alla privacy con lo strumento tecnologico è pericolosa perché una volta venuto meno lo strumento (violato l'algoritmo) il diritto sottostante cessa di esistere. Invece occorrono soluzioni generalizzate, basate sul rispetto delle leggi, norme nuove che regolamentino esattamente cosa possono e cosa non possono fare grandi aziende e governi.

Occorrono nuovi modelli sociali che possano rapportarsi correttamente con le problematiche del nuovo millennio, non concedendo tutti gli spazi possibili alle aziende, non privatizzando e delegando le regolamentazioni, ma creando un nuovo patto sociale che assicuri sostanzialmente i diritti dei cittadini e li tuteli dagli abusi del capitalismo preservando l’autodeterminazione per la quale l’umanità ha combattuto a lungo.

Negli Usa la situazione è nota, i cittadini sono costretti a scegliere: schierarsi a fianco di un governo che promette, da anni, di non abusare dei suoi poteri (leggi Un secolo di sorveglianza politica) oppure di un’azienda che per anni ha fornito dati al governo, da sempre li utilizza per “personalizzare” i servizi, e che ora si propone quale paladina della privacy per paura di perdere clienti?

L'Europa è ancora titubante sulla direzione da prendere, basti pensare alla scelta di istituzionalizzare il diritto all’oblio delegandolo ad una azienda privata. L'Europa può fare di meglio.