Sorvegliare e Soggiogare

«Leggendo Il capitalismo della sorveglianza ho sentito subito l’urgenza di far leggere a chiunque questo libro come atto di autodifesa digitale. Con enorme lucidità e coraggio morale, Zuboff mostra non solo come le nostre menti vengano sfruttate per ottenere dati, ma anche come questo processo le cambi in modo rapido e radicale.» (Naomi Klein)
«Ogni nostra email, ogni nostra interazione, ogni nostra emozione è venduta, controllata, manipolata. Mai la società umana ha avuto una così grande concentrazione di ricchezza,conoscenza e potere in così poche mani. Non ve ne siete accorti? Leggete Shoshana Zuboff.» (Roberto Saviano)
«Questo libro è Il Capitale di questa generazione.» (Zadie Smith)

L’era che stiamo vivendo, caratterizzata da uno sviluppo senza precedenti della tecnologia, porta con sé una grave minaccia per la natura umana: un’architettura globale di sorveglianza, ubiqua e sempre all’erta, osserva e indirizza il nostro stesso comportamento per fare gli interessi di pochissimi – coloro i quali dalla compravendita dei nostri dati personali e delle predizioni sui comportamenti futuri traggono enormi ricchezze e un potere sconfinato. È il “capitalismo della sorveglianza”, lo scenario alla base del nuovo ordine economico che sfrutta l’esperienza umana sotto forma di dati come materia prima per pratiche commerciali segrete e il movimento di potere che impone il proprio dominio sulla società sfidando la democrazia e mettendo a rischio la nostra stessa libertà. Il libro di Shoshana Zuboff, frutto di anni di ricerca, mostra la pervasività e pericolosità di questo sistema, svelando come, spesso senza rendercene conto, stiamo di fatto pagando per farci dominare. Il capitalismo della sorveglianza, un’opera già classica e un libro imprescindibile per comprendere la nostra epoca, è l’incubo in cui è necessario immergersi per poter trovare la strada che ci conduca a un futuro più giusto – una strada difficile, complessa, in parte ancora sconosciuta, ma che non può che avere origine dal nostro dire “basta!”

(dal risvolto di copertina di: Shoshana Zuboff, “Il capitalismo della sorveglianza – Il futuro dell’umanità nell’era dei nuovi poteri”, Luiss University Press, Roma 2019, pp. 625, € 25.00.)

Il capitalismo della sorveglianza
- di Gilberto Pierazzuoli -

Il futuro dell’umanità nell’era dei nuovi poteri.
Inevitabilità. Il motto dell’esposizione universale di Chicago del 1933 recita: “La scienza trova, l’industria applica, l’uomo si adatta”. E segna la fiducia incontrastata sulla capacità della scienza di produrre progresso nella certezza che il progresso stesso fosse/sia sempre un bene per l’umanità. Ogni critica all’applicazione di una nuova tecnologia veniva respinta appellandola retrograda anche nel senso che sottende un ripiegamento e un riemergere di tempi ed epoche storiche nelle quali l’umanità aveva sofferto di un’infinità di problematiche e di malesseri. Così anche oggi ci vengono recitati diversi mantra. Oltre a quello sempreverde del progresso, ecco l’inevitabilità o la mancanza, vera o presunta, di possibili alternative a quello che ci viene pro/im-posto. Il futuro ci riserverà meraviglie mentre le fantasie distopiche sono indice di un atteggiamento o forse di una patologia tipica: quella del guastafeste.
Eppure il capitalismo manifatturiero, quello industriale, aveva messo in campo un modo di produzione che soggiogava la natura portando il mondo vicino al collasso, mentre “il capitalismo della sorveglianza” cerca di soggiogare la natura umana dice Shoshana Zuboff. Ma questo è anche il tempo nel quale “la voce squillante delle sue potenziali vittime sarebbero pronte a dare un nome al pericolo e a sconfiggerlo” (pp. 538/39). Una voce che reciterà un altro mantra, che alzerà la voce sino a gridare quello che adesso bisogna gridare: “Basta! Questa deve essere la nostra dichiarazione”, conclude Zuboff in questo saggio corposo nel quale analizza e documenta puntigliosamente ogni sua affermazione in linea con il carattere che ci si aspetta da una docente di economia (prima donna) ad Harvard.
Dal soggiogare la natura a soggiogare la natura umana, questo è il passaggio che si concretizza nel cambiamento di millennio. Ed è questa la time line che l’autrice ci illustra. Agli inizi troviamo l’esplosione della cosiddetta bolla delle dot.com, compagnie che avevano raggiunto alti livelli di capitalizzazione sulla scia di potenziali exploit supponibili a partire dalla loro popolarità nel World Wide Web. Ma che, in realtà, scontavano la difficoltà di capitalizzare questa loro popolarità. L’ambito era ed è particolarmente ammantato da un aura alla quale contribuiscono dei valori pensati fondanti quali quelli che inneggiano a una visione libertaria, innovativa, democratica e gratuita. Alcuni di essi si sono ormai così profondamente radicati da diventare insormontabili. Uno di questi è il nodo intorno al quale si è attorcigliato e sviluppato quello che Zuboff chiama il capitalismo della sorveglianza: è la gratuità dell’accesso alla rete e quella dell’accesso ai servizi. L’evoluzione di Google è paradigmatica di questo stato delle cose. Il motore di ricerca non era così dominante, lo diventa quando applica due principi. Il primo è quello dell’indicizzazione dei risultati che utilizza gli stessi criteri che vengono usati per il rating delle riviste scientifiche e sono principalmente i rimandi e quindi i link da siti che a sua volta hanno punteggi rimarchevoli. Dall’altro è la personalizzazione delle risposte alle query. La personalizzazione permette al motore di mostrare per prima le risposte che hanno più affinità con le discipline e gli argomenti che più interessano l’utente.
Attraverso queste scelte il motore di Google è diventato il più usato in assoluto operando alla fine in un regime di quasi monopolio. Gli accessi al sito di Google erano e sono al primo posto tra tutti i siti del web. Per fare questo Google doveva prendere delle informazioni che riguardavano l’interrogante per conoscerne indole, curiosità, aree di competenza, preferenze e caratteri culturali. Per fare questo occorreva estrarre queste informazioni dai suoi comportamenti nella navigazione nella rete. Occorreva spiare il comportamento in rete di tutti coloro che accedevano alla stessa. Sino a qui il fatto di essere spiati da algoritmi funzionalizzati a migliorare le risposte alle tue domande non creava disagi particolari, ma non creava nemmeno introiti al prestatore di servizi, in questo caso Google che aveva ormai monopolizzato il mercato.
Ma Google si ritrovava in mano – sui suoi server – questa massa di informazioni che avevano alimentato l’algoritmo di ricerca come residuo, scarto, avanzo dell’operazione di ricerca. Poteva però usarle per vendere una forma di pubblicità più mirata. Poteva targettizzare gli utenti per offrire agli inserzionisti un’alta probabilità che i primi fossero realmente interessati al prodotto o al servizio pubblicizzato. Ecco che quei dati utilizzati inizialmente per affinare l’algoritmo di ricerca, diventano preziosi.
Da questa situazione viene fuori il detto: se è gratis, la merce sei tu. Ma come è successo che un privato si sia appropriato di dati concernenti l’insieme dei tuoi comportamenti, propensioni, idee, sentimenti se non difetti e malattie? Perché inizialmente questi dati servivano ad alimentare l’algoritmo che lavorava per te, per restituirti risposte più precise alla tua interrogazione e basta. Nessuno gettava uno sguardo nel calderone delle basi di dati che il motore di Google raccoglieva. Una volta creata la consuetudine, divenne difficile tornare indietro, ma questo invece permise a Google di andare avanti.
Certo c’era e c’è la tutela della privacy, ma poteva essere aggirata ottenendo il consenso del consumatore. Questo lo si otteneva e si ottiene facendogli accettare delle clausole proposte in contratti lunghi e farraginosi che tutti gli utenti sottoscrivono senza leggere. Si apre così il campo all’analisi predittiva. Dopo l’undici settembre, la priorità che si richiedeva di dare alla lotta al terrorismo, appianò ulteriormente la strada costringendoci ad una scelta obbligata tra difesa della nostra incolumità e difesa della nostra privacy.
Il capitale del ventunesimo secolo è di tipo estrattivo. Con il termine estrazione l’autrice intende le relazioni sociali e le infrastrutture materiali con le quali l’azienda impone la propria autorità su tali materie prime per poterne ottenere in quantità tali da sostenere un’economia di scala. Ma anche che l’analisi predittiva possa avere il dovuto successo. Per fare questo la quantità di dati deve essere più ricca possibile e, per predire i comportamenti non soltanto dei singoli ma di masse importanti della popolazione, ne occorrono il più possibile. Ma i numeri delle aziende del capitalismo della sorveglianza sono anch’essi imponenti. Perché certe indagini di mercato riescano a fotografare le opinioni di un gruppo di consumatori o di elettori, servono campioni abbastanza ricchi ma che rimangono ovviamente in scala. Nel caso della raccolta di dati che l’economia della rete permette, siamo di fronte a un livello di scala che tende all’uno a uno; siamo di fronte a quasi la totalità della popolazione, o almeno a una grossa fetta; si pensi ai tre miliardi di utenti che sono attivi ogni giorno in Facebook. Ma se le cose adesso stanno così, come mai le voci allarmate sono così poche? Per vari motivi, Zuboff cita il lavoro di lobby e quello di occultamento messo in atto dalle aziende, ma anche il detto che se non si ha niente da nascondere, non ci si dovrebbe impaurire, non riflettendo sul fatto che, probabilmente, la maggioranza della persone non ha niente da nascondere in generale, ma che poi, in realtà, ci sono cose che uno preferirebbe che non fossero alla conoscenza di tutti. Ho citato Facebook non a caso, è infatti l’azienda che con Google ha il suo core business nella racconta e indicizzazione dei dati basata anche essa, e in parte giustificata, dalla personalizzazione in questo caso della bacheca (la news feed) là dove quella di Google era incentrata sulla risposta alle interrogazioni al motore di ricerca.
Di personalizzazione e dei suoi effetti sulla circolazione delle notizie e dei saperi, ne avevo già parlato in diversi articoli qui, qui, qui e qui. Il lavoro delle grandi aziende legate al web è dunque l’estrazione di dati per offrire pubblicità perfettamente mirate, ma anche per fare qualcosa di più: prevedere il comportamento, ma anche condizionarlo. Niente di particolarmente nuovo, ogni pubblicità, oltre che farti conoscere un prodotto, cerca di convincerti della sua indispensabilità. Ma qui le cose cominciano a diventare un po’ più complesse. Pensiamo all’esperimento che Facebook ha fatto per le elezioni americane di medio termine del 2012. La cosa è conosciuta perché Facebook stessa ha pubblicato su Nature un articolo così intitolato: “Un esperimento d’influenza sociale e mobilitazione politica su 61 milioni di persone”. A un primo gruppo venne mostrata un’affermazione all’inizio del loro news feed (la colonna delle notizie, quella che ci accoglie appena entriamo sul social network e ci mostra tutti i post condivisi dai nostri amici e dalle pagine che seguiamo) che li incoraggia a votare. Comprendeva un link per informarsi sui seggi, un pulsante con la scritta “ho votato”, un contatore che riportava quanti utenti di Facebook avevano affermato di aver votato e sei foto del profilo di amici che avevano già cliccato su “ho votato”. Un secondo gruppo ricevette le stesse informazioni, ma senza le immagini degli amici, mentre il gruppo di controllo non ricevette nessun messaggio. I risultati dimostrarono che gli utenti che avevano ricevuto il messaggio sui social avevano più probabilità di cliccare su “ho votato” rispetto a coloro ai quali era arrivata la semplice informazione.
I “ricercatori” di Facebook determinarono che i messaggi erano uno strumento efficace di tuning. Il team calcolò che i messaggi manipolati avevano mandato 60.000 votanti in più a queste elezioni di quelle del 2010. Più 280.000 che erano andati a votare per “contagio sociale” per un totale di 340.000 voti in più. Così scrive un product manager di Facebook:
«Qualunque utente, a un certo punto della sua presenza in rete, diviene il soggetto di qualche esperimento, che si tratti di vedere una pubblicità in un formato diverso, di usare messaggi e pulsanti differenti, o di avere un feed generato secondo un algoritmo che segue un’altra classificazione: […] Lo scopo fondamentale di molte persone che lavorano con i dati per Facebook è alterare l’umore e il comportamento della gente. Lo fanno in continuazione per farti apprezzare di più le storie, per farti cliccare su più ads, per farti passare più tempo su un certo sito: È così che funziona, lo fanno tutti e tutti sanno che lo fanno tutti» (pp. 318/319). Influenzare la gente ad andare a votare è poca cosa, quasi una “pubblicità progresso”, ma lo scandalo di Cambridge Analytica rimanda a situazioni un po’ più pruriginose.

Il capitale e i suoi attori
Per adesso abbiamo parlato principalmente di due strumenti: del motore di ricerca Google Search e del Social Network Facebook, ma gli strumenti di estrazione dei dati sono molti altri. Nel testo di Zuboff se ne illustrano molti. L’operazione street view di Google è stato un modo non tanto di allargare un servizio ma un espediente per raccogliere più dati. Le auto che mappavano quasi ogni angolo della terra abitata non si limitavano a fare riprese, ma raccoglievano dati sulla presenza localizzata di punti Wi-Fi e delle utenze relative spiando anche in alcuni casi i contenuti delle connessioni.
La app Google Play preinstallata sui telefoni Android controlla continuamente la localizzazione dell’utente, mandando informazioni alle altre app e ai server di Google. I cookie – denominazione affettuosa per delle bricioline di tracciamento che Pollicino/Capitale della sorveglianza lascia – sono presenti in quasi tutti i siti e raccolgono informazioni sulla nostra navigazione ma anche su tante altre cose come permanenza, azioni e sui termini che più usiamo.
Una ricerca riporta che chiunque avesse visitato i cento maggiori siti aveva raccolto qualcosa come più di 6.000 cookie, lo 83 per cento dei quali appartenenti a parti terze non in relazione con il sito visitato. C’era di mezzo l’infrastruttura di tracciamento di Google in 92 dei 100 siti top e in 923 dei 1.000 siti top. Il 78 per cento dà il via a trasferimenti verso un dominio di proprietà di Google e per il resto ad un dominio di proprietà di Facebook. Ma il libro della Zuboff è pieno di tanti altri esempi.
Eccoci ora all’intelligenza artificiale. La visione del mondo delle aziende del capitalismo della sorveglianza è un futuro nel quale la maggioranza delle decisioni le prenderanno le macchine. I frigoriferi compileranno da soli la lista della spesa perché conosceranno il proprio contenuto e le nostre preferenze in termini di alimentazione. Conosceranno anche qualcosa più di noi, per esempio la stagionalità dei prodotti o semplicemente la loro reperibilità con il minimo dello sforzo, sino a fare ordini direttamente al nostro fornitore o al loro fornitore di Fiducia. I termostati alzeranno e abbasseranno le persiane, faranno partire la caldaia o il condizionatore fornendoci la temperatura più consona. La televisione si sintonizzerà automaticamente sui nostri programmi preferiti e ci chiamerà e ordinerà di sederci sul divano. Anche la Democrazia sarà prêt-à-porter. Il regime politico sarà in mano alle macchine che amministreranno la cosa pubblica per il Nostro benessere. E tutti questi gadget estrarranno dati per perpetuare il loro dominio. Ogni oggetto si farà smart per aiutarti e ascoltarti (i televisori Samsung per esempio).
L’Intelligenza Artificiale non è altro che l’Internet delle Cose. È l’apoteosi dell’estrazione dei dati. La pervasività assoluta della sorveglianza con tecnologie che la assecondano come il 5G che forse non è nocivo per la salute fisica più di altri sistemi come i più diffidenti proclamano ma che coadiuva il progetto del panopticon universale. Protesi indossabili che trasmettono dati sulla nostra persona. I telefoni che si sbloccano con l’impronta digitale hanno realizzato il sogno distopico di coloro che ci volevano schedare tutti. Ecco il riconoscimento facciale che fa la stessa funzione delle impronte digitali, ma che mantiene anche il fuoco sul soggetto delle videocamere amatoriali facendoci facilmente immaginare l’uso che permette di riconoscere e trovare chiunque in un mondo pieno di telecamere. Non sono gadget futuribili gli orologi che controllano il battito cardiaco, sino a farti un elettrocardiogramma semplicemente spingendo un bottone o attraverso un comando vocale, facendo così contente le assicurazioni ormai indispensabili per sostituire le garanzie che una sanità privatizzata non è più in grado di dare. L’interfaccia uomo macchina è in evoluzione e il presente che annuncia il futuro è il riconoscimento vocale che ha bisogno di tanta Intelligenza Artificiale, che ha bisogno di sapere tutto di te. Perché già da subito si presenta non come una semplice interfaccia, ma come un assistente elettronico che presto saprà di te più di quanto ti immagini. Che ti stupirà, che si prenderà cura di te sino al punto che non occorrerà che tu Pensi Più A Niente.

Ci rubano il futuro
“La volontà è l’organo con il quale evochiamo l’esistenza del nostro futuro” (Zuboff cita Hannah Arendt) (p. 349). Se il passato è fatto spesso di oggetti, il futuro, la visione del futuro, è fatta di “progetti”. Con la nostra volontà facciamo in modo che i progetti abbiano un seguito, che possano arrivare a termine riempiendo il nostro futuro. Non abbiamo bisogno che qualcuno ci appiani la strada portandoci in un futuro che non abbiamo progettato. Quello non è futuro è solo e soltanto l’espressione del solito vizio del capitale, quello di assecondare l’algoritmo che massimizza il profitto per pochi, anche a scapito dei molti.
Basta non basta. Ritornando al testo possiamo dire che quello che abbiamo detto, la Zuboff lo racconta con abbondanza di particolari e di rimandi bibliografici mettendo insieme più di 60 pagine di note per 625 pagine totali. È una ricercatrice, una scienziata con cattedra di economia ad Harvard, non è una passionaria, proprio perché fa con passione il proprio mestiere. Infine ci dice che occorre dire basta! Occorre che intorno a una grande fioritura dei basta segua un forma di organizzazione tra coloro che gridano basta, per riuscire a rovesciare lo stato di cose presenti voluto dall’ennesimo camuffamento/adeguamento che il capitale è riuscito a mettere in atto. Anche perché – così come per i problemi ambientali provocati da questo modo di produzione – per Zuboff sembra che non possa esistere una forma di capitalismo in grado di evitare le storture che lei giustamente denuncia.

- Gilberto Pierazzuoli - Pubblicato il 27 Ottobre 2019 su Per Un Altra Città. La città invisibile -