È ancora possibile invertire la traiettoria invasiva della tecnologia di sorveglianza?
Quando l’amministrazione Biden ha aggiornato l’elenco di società militari cinesi a cui è vietato l’accesso alle tecnologie statunitensi, non sorprende che abbia aggiunto la Dahua. Si tratta della seconda azienda di telecamere di sorveglianza al mondo, seconda solo alla Hikvision, con prodotti venduti in oltre 180 paesi. Esemplifica il modo in cui le aziende cinesi sono balzate in prima linea nel settore della videosorveglianza e hanno spinto il mondo, in particolare la Cina, ad adottare sempre più tecnologie di sorveglianza.
Negli ultimi dieci anni, gli Stati Uniti – e il mondo più in generale – hanno assistito con crescente senso di allarme all’emergere della Cina come leader globale in questo mercato. In effetti, il governo cinese è stato in prima linea nell’esplorazione di modi per applicare la ricerca all’avanguardia nella visione artificiale, nell’Internet delle cose e nella produzione di hardware nella governance quotidiana.
Ciò ha portato a una serie di violazioni dei diritti umani, in particolare, e forse in modo più brutale, nel monitoraggio delle minoranze etniche musulmane nella regione occidentale dello Xinjiang. Allo stesso tempo, lo stato ha utilizzato anche la tecnologia di sorveglianza a fin di bene: per trovare bambini rapiti, ad esempio, e per migliorare il controllo del traffico e la gestione dei rifiuti nelle città popolose.
Come sostengono i reporter del Wall Street Journal Josh Chin e Liza Lin nel loro nuovo libro Surveillance State, uscito il mese scorso, il governo cinese è riuscito a costruire un nuovo contratto sociale con i suoi cittadini: cedono i propri dati in cambio di una governance più precisa che, idealmente, rende le loro vite più sicure e più facili (anche se non sempre funziona così semplicemente nella realtà).
MIT Technology Review ha recentemente parlato con Chin e Lin dei cinque anni di reportage da cui è nato il libro, esplorando l’errore dell’occidente nel credere che la privacy non sia apprezzata in Cina.
“Gran parte dei media stranieri, quando posti di fronte alla domanda, liquidano semplicemente il concetto dichiarando ‘Oh, i cinesi semplicemente non hanno il concetto di privacy… hanno subito il lavaggio del cervello per accettarla'”, dice Chin . “E abbiamo ritenuto che fosse una conclusione troppo facile per noi, quindi abbiamo voluto approfondire”.
La percezione della privacy è più malleabile di quanto non sembri
Abbiamo anche parlato di come la pandemia abbia accelerato l’uso della tecnologia di sorveglianza in Cina, se la tecnologia stessa possa rimanere neutrale e fino a che punto altri paesi stiano seguendo l’esempio della Cina.
Il modo in cui il mondo dovrebbe rispondere all’ascesa degli stati di sorveglianza “potrebbe essere una delle questioni più importanti che la politica globale deve affrontare al momento”, afferma Chin, “perché queste tecnologie… hanno davvero il potenziale per alterare completamente il modo in cui i governi interagiscono e controllare le persone”.
La Cina ha riscritto la definizione di privacy per vendere un nuovo contratto sociale
Dopo decenni di crescita del PIL a due cifre, il boom economico cinese è rallentato negli ultimi tre anni e si prevede che dovrà affrontare venti contrari ancora più forti. (La Banca mondiale stima attualmente https://www.worldbank.org/en/country/china/overview che la crescita annuale del PIL cinese nel 2022 scenderà al 2,8%.) Quindi il vecchio contratto sociale, che prometteva rendimenti migliori da un’economia guidata da un governo autoritario, è in crisi e ne serve uno nuovo.
Come osservano Chin e Lin, il governo cinese sta ora proponendo l’ipotesi secondo cui, raccogliendo ampiamente i dati di ogni cittadino cinese, si possa scoprire cosa vogliono le persone (senza dare loro voti) e costruire una società che soddisfi le loro esigenze.
Ma per venderlo alla sua gente – che, come altri in tutto il mondo, è sempre più consapevole dell’importanza della privacy – la Cina ha dovuto ridefinire abilmente quel concetto, passando da una comprensione individualistica a una collettivista.
L’idea stessa di privacy è “un concetto incredibilmente confuso e malleabile”, afferma Chin. “Nella legge statunitense, ci sono una dozzina, se non di più, definizioni di privacy. E penso che il governo cinese l’abbia capito e abbia intuito l’opportunità di definire la privacy in modi che non solo non minano lo stato di sorveglianza, ma anzi lo rafforzano”.
Ciò che il governo cinese ha fatto è posizionare lo stato e i cittadini dalla stessa parte della battaglia per la privacy e contro le società private
Consideriamo la recente legislazione cinese come la Legge sulla protezione delle informazioni personali (in vigore da novembre 2021) e la Legge sulla sicurezza dei dati (da settembre 2021), in base alla quale le aziende private devono affrontare severe sanzioni per consentire violazioni della sicurezza o non ottenere il consenso dell’utente per la raccolta dei dati. Ciononostante, proprio in base a queste stesse leggi, lo stato ottiene facilmente i permessi che cerca.
“Gli attacchi alla sicurezza informatica e le fughe di dati non riguardano solo le aziende. Accadono anche alle agenzie governative”, afferma Lin. “Ma in casi simili, i media non riportano la notizia.” Abilitato dalla sua macchina di censura, il governo cinese ha spesso diretto con successo la furia delle persone per le violazioni della privacy lontano dal governo e interamente verso le società private.
La pandemia è stata la scusa perfetta per espandere la tecnologia di sorveglianza
Quando Chin e Lin stavano progettando il libro, immaginavano di finire con un esperimento mentale su cosa sarebbe successo alla tecnologia di sorveglianza se fosse successo di nuovo qualcosa come l’11 settembre. Poi è arrivata la pandemia.
E proprio come l’11 settembre, il coronavirus ha accelerato l’industria della sorveglianza globale, in particolare in Cina.
Chin e Lin riferiscono degli straordinari parallelismi tra il modo in cui la Cina ha utilizzato la sicurezza sociale per giustificare il regime di sorveglianza che ha costruito nello Xinjiang e il modo in cui ha utilizzato la sicurezza fisica per giustificare gli eccessivi strumenti di controllo della pandemia. “In passato, era sempre un virus metaforico: ‘qualcuno è stato infettato da idee terroristiche'”, afferma Lin.
Nello Xinjiang, prima della pandemia, il termine “virus” era usato nei documenti interni del governo per descrivere ciò che lo stato definiva “radicalismo islamico”. “Ma con il covid”, dice, “abbiamo visto la Cina rivoltare davvero l’intero apparato di sorveglianza statale contro l’intera popolazione e contro un virus che era completamente invisibile e contagioso”.
Tornando all’idea che la percezione della privacy può cambiare notevolmente a seconda delle circostanze, la pandemia ha anche fornito il contesto esatto in cui i comuni cittadini possono accettare di rinunciare a una parte maggiore della propria privacy in nome della sicurezza.
“Nel campo della sanità pubblica, la sorveglianza delle malattie non è mai stata controversa, perché il desiderio di monitorare la diffusione di una malattia non viene messo in discussione. Altrimenti come la controlli?” spiega Chin.
“Probabilmente hanno salvato milioni di vite usando quelle tecnologie”, dice, “e il risultato è che hanno venduto [la necessità della] sorveglianza statale a molti cinesi”.
Esiste una tecnologia di sorveglianza “buona” ?
Una volta che qualcuno (o qualche ente) inizia a utilizzare la tecnologia di sorveglianza, è difficile controllarne l’utilizzo: non importa quanto nobile sia il motivo iniziale per svilupparla e distribuirla, la tecnologia può sempre essere utilizzata per scopi dannosi. Per Chin e Lin, la Cina mostra come gli usi “buoni” e “cattivi” della tecnologia di sorveglianza siano sempre intrecciati.
Riferiscono ampiamente su come un sistema di sorveglianza a Hangzhou, la città che ospita Alibaba, Hikvision, Dahua e molte altre società tecnologiche, sia stato costruito sulla benevola premessa di migliorare la gestione della città.
Qui, con una fitta rete di telecamere per strada e un “cervello cittadino” basato su cloud che elabora dati e impartisce ordini, il sistema “città intelligente” viene utilizzato per monitorare i disastri e consentire risposte rapide alle emergenze.
In un esempio degno di nota, gli autori parlano di un uomo che ha accompagnato sua madre in ospedale in ambulanza nel 2019 dopo che era quasi annegata. La città ha potuto accendere tutti i semafori sul proprio percorso per ridurre il tempo necessario per raggiungere l’ospedale. È impossibile sostenere che questo non sia un buon uso della tecnologia.
Ma allo stesso tempo, si è arrivati a un punto in cui le tecnologie della “città intelligente” sono quasi indistinguibili dalle tecnologie della “città sicura”, che mirano a potenziare le forze di polizia e rintracciare presunti criminali. La società di sorveglianza Hikvision, che in parte alimenta il sistema salvavita di Hangzhou, è la stessa che ha facilitato l’incarcerazione massiccia delle minoranze musulmane nello Xinjiang.
La Cina è tutt’altro che l’unico paese in cui la polizia fa affidamento su un numero crescente di telecamere. Chin e Lin evidenziano come la polizia di New York City abbia usato e abusato delle telecamere per costruire un database di riconoscimento facciale e identificare i sospetti, a volte con tattiche legalmente discutibili. (Il MIT Technology Review ha anche riportato all’inizio di quest’anno come la polizia del Minnesota ha costruito un database per sorvegliare manifestanti e giornalisti.)
Chin sostiene che, dato questo track record, la tecnologia stessa non può più essere considerata neutrale. “Alcune tecnologie per loro natura si prestano ad usi dannosi. In particolare con l’intelligenza artificiale applicata alla sorveglianza, si prestano a utilizzi autoritari“, afferma. E proprio come i ricercatori nucleari, ad esempio, gli scienziati e gli ingegneri in queste aree dovrebbero essere più attenti ai potenziali danni della tecnologia.
Interrompere la catena di approvvigionamento globale della tecnologia di sorveglianza: è ancora possibile?
C’è un senso di pessimismo quando si parla di come la tecnologia di sorveglianza avanzerà in Cina, perché l’implementazione invasiva è diventata così diffusa che è difficile immaginare un’inversione di rotta nel Paese.
Ma questo non significa che le persone debbano arrendersi. Un modo chiave per intervenire, sostengono Chin e Lin, è tagliare la catena di fornitura globale della tecnologia di sorveglianza (una rete di cui il MIT Technology Review ha scritto proprio il mese scorso).
Lo sviluppo della tecnologia di sorveglianza è sempre stato uno sforzo globale, con la partecipazione di molte aziende americane. Gli autori raccontano come aziende americane come Intel e Cisco siano state fondamentali per costruire le fondamenta del sistema di sorveglianza cinese. E sono stati in grado di declinare la propria responsabilità dicendo che semplicemente non sapevano quale sarebbe stato l’uso finale dei loro prodotti.
Questo tipo di scusa non funzionerà così facilmente in futuro, perché le aziende tecnologiche globali sono tenute a standard più elevati. Il fatto che abbiano contribuito alle violazioni dei diritti umani dall’altra parte del globo “è diventato una cosa di cui le aziende sono preoccupate e pianificate”, afferma Chin. “Questo è un cambiamento davvero interessante che non vedevamo da decenni”.
Alcune di queste aziende hanno smesso di lavorare con la Cina o sono state sostituite da aziende cinesi che hanno sviluppato tecnologie simili, ma ciò non significa che la Cina abbia ora un sistema di sorveglianza autosufficiente. La catena di fornitura per la tecnologia di sorveglianza è ancora distribuita in tutto il mondo e le aziende tecnologiche cinesi richiedono parti dagli Stati Uniti o da altri paesi occidentali per continuare a costruire i loro prodotti.
L’esempio principale qui è la GPU, un tipo di processore originariamente prodotto per eseguire videogiochi di migliore qualità che da allora è stato utilizzato per alimentare i sistemi di sorveglianza di massa. La Cina fa ancora affidamento per questi su società straniere come Nvidia, che ha sede in California.
“Negli ultimi due anni, c’è stata un’enorme spinta a sostituire la tecnologia straniera con la tecnologia domestica, [ma] queste sono le aree [dove] non possono ancora raggiungere l’indipendenza”, afferma Lin.
Ciò significa che l’Occidente può ancora tentare di rallentare lo sviluppo dello stato di sorveglianza cinese facendo pressione sull’industria. Ma i risultati dipenderanno da quanta volontà politica c’è di scoprire gli anelli chiave nelle catene di approvvigionamento della sorveglianza e di trovare risposte efficaci.
“L’altra cosa davvero importante è solo rafforzare le proprie istituzioni democratiche… come una stampa libera e uno spazio della società civile forte e vibrante”, afferma Lin. Perché la Cina non sarà l’unico paese con il potenziale per diventare uno stato di sorveglianza. Può succedere ovunque, avvertono, compresi i paesi con istituzioni democratiche.
