E’ necessaria un’alleanza democratica globale per stabilire norme, regole e linee guida per le aziende tecnologiche e per concordare protocolli per le attività digitali transfrontaliere tra cui l’interferenza elettorale, la guerra informatica e il commercio online.
di Marietje Schaake
Twitter dovrebbe censurare le bugie dei messaggi del presidente degli Stati Uniti? YouTube dovrebbe eliminare la disinformazione sul covid-19? Facebook dovrebbe fare di più contro l’incitamento all’odio? Tali domande, che affiorano quotidianamente nella copertura dei media, possono far sembrare che il principale rischio “tecnologico” per le democrazie sia la cura dei contenuti da parte delle aziende di social media. Eppure queste controversie sono solo i sintomi di una minaccia più grande: l’influenza del potere privato sul mondo digitale.
Ogni paese democratico del mondo deve affrontare la stessa sfida, ma nessuno può disinnescarla da solo. I cittadini sono rappresentati meglio quando una coalizione dei loro governi invece di una manciata di dirigenti aziendali, definisce i termini della governance e quando sono operativi controlli, equilibri e meccanismi di supervisione.
C’è un lungo elenco di modi in cui le aziende tecnologiche governano le nostre vite senza particolare regolamentazione: dalla costruzione di infrastrutture critiche alla loro difesa, dalla produzione di strumenti informatici offensivi alla progettazione di sistemi di intelligenza artificiale e database governativi. In sostanza, le decisioni prese nell’interesse del mondo commerciale definiscono norme e standard per miliardi di persone.
Le aziende assumono sempre più ruoli statali o sviluppano prodotti che incidono sui diritti fondamentali. Per esempio, i sistemi di riconoscimento facciale che non sono mai stati adeguatamente regolamentati prima di essere sviluppati e implementati sono ora ampiamente utilizzati, al punto da mettere in discussione la privacy delle persone. Allo stesso modo, le aziende raccolgono sistematicamente dati privati, spesso senza consenso; una questione che le autorità di regolamentazione hanno tardato ad affrontare.
Poiché le tecnologie si evolvono più velocemente delle leggi, le discrepanze tra sistema privato e controllo pubblico stanno crescendo. Prendiamo il caso delle aziende che progettano sistemi di “città intelligenti”, le quali promettono che i governi locali saranno in grado di alleviare la congestione monitorando le auto in tempo reale e regolando i tempi dei semafori.
A differenza, per esempio, di una strada costruita da un’azienda di costruzioni, questa infrastruttura digitale non è necessariamente di dominio pubblico. Le aziende che lo realizzano potrebbero incamerare valori e dati che potrebbero non essere soggetti al controllo pubblico.
Questa disparità tra il settore pubblico e quello privato sta andando fuori controllo. C’è un divario di informazioni, un divario di talento e un divario tecnologico. Nel loro insieme, si vanno a sommare a un divario di potere e responsabilità. Esiste quindi un intero livello di controllo della nostra vita quotidiana senza legittimità democratica e con scarsa supervisione.
Perché dovremmo preoccuparci? Perché le decisioni che le aziende prendono sui sistemi digitali potrebbero non aderire a principi democratici essenziali come libertà di scelta, concorrenza leale, non discriminazione, giustizia e responsabilità. Le conseguenze indesiderate di processi tecnologici, decisioni sbagliate o progetti guidati dal business potrebbero creare seri rischi per la sicurezza pubblica e nazionale. E il potere che non è soggetto a controlli ed equilibri sistematici è in contrasto con i principi fondanti della maggior parte delle democrazie.
Oggi, la regolamentazione in campo tecnologico prende spesso la forma di una sfida a tre vie tra i sistemi guidati dallo stato in Cina e Russia, quello guidato dal mercato negli Stati Uniti e una visione basata sui valori in Europa. La realtà, tuttavia, è che ci sono solo due sistemi dominanti di governance tecnologica: quello privatizzato sopra descritto, che si applica all’intero mondo democratico, e uno autoritario.
L’approccio laissez-faire dei governi democratici e la loro riluttanza a tenere a freno le aziende private in patria si manifestano anche sulla scena internazionale. Mentre i governi democratici hanno ampiamente consentito alle aziende di avere mano libera, i governi autoritari hanno iniziato a dare forma alle norme attraverso i forum internazionali.
Questo delicato cambiamento coincide con una tendenza al declino democratico in tutto il mondo, poiché le grandi democrazie come India, Turchia e Brasile sono diventate più autoritarie. Senza politiche mirate e immediate da parte dei governi democratici per riconquistare il potere d’azione, i modelli di governance aziendale e autoritaria eroderanno la democrazia ovunque.
Ciò significa che i governi democratici dovrebbero costruire le proprie piattaforme di social media, data center e telefoni cellulari? No. E’ necessario, però, che rivendichino con urgenza il loro ruolo nella creazione di regole che sostengano i principi fondamentali della democrazia nella sfera tecnologica. Finora questi governi lo hanno fatto solo in parte con leggi a livello nazionale o, nel caso dell’Europa, a livello regionale. Ma per mettere in ginocchio le aziende tecnologiche di livello mondiale, si impone di qualcosa di nuovo: un’alleanza globale che metta la democrazia al primo posto.
Fare squadra
Le istituzioni globali nate all’indomani della seconda Guerra Mondiale, come le Nazioni Unite, l’Organizzazione mondiale del commercio e la NATO, hanno creato un ordine internazionale basato su regole, ma non tengono pienamente conto del mondo digitale nei loro mandati e nelle loro agende, anche se molti stanno finalmente iniziando a concentrarsi sulla cooperazione digitale, sul commercio elettronico e sulla sicurezza informatica.
E mentre il commercio digitale (che richiede le proprie normative, come le regole per il commercio elettronico e i criteri per lo scambio di dati) sta assumendo una crescente importanza, i membri dell’OMC non hanno concordato regole globali che coprano i servizi per la produzione intelligente, le catene di approvvigionamento digitali e altre transazioni abilitate digitalmente.
Ciò di cui abbiamo bisogno ora, quindi, è una grande coalizione democratica che possa offrire un’alternativa significativa ai due modelli esistenti di governance tecnologica, quello privatizzato e quello autoritario. Dovrebbe essere una coalizione globale, aperta ai paesi che soddisfano criteri democratici.
La Community of Democracies, una coalizione di stati creata nel Duemila per promuovere la democrazia ma che non ha mai avuto un grande impatto, potrebbe essere rinnovata e aggiornata per includere un mandato ambizioso per la governance della tecnologia. In alternativa, potrebbe essere istituito un “D7” o “D20”, una coalizione simile al G7 o al G20, ma composta dalle più grandi democrazie del mondo.
Un tale gruppo dovrebbe concordare regolamenti e standard per la tecnologia in linea con i principi democratici fondamentali. Quindi ogni paese membro li implementerebbe a modo suo, proprio come fanno gli Stati membri dell’UE oggi con le direttive europee.
Quali problemi risolverebbe una simile coalizione? Potrebbe, per esempio, adottare una definizione condivisa di libertà di espressione per le aziende di social media. Forse questa definizione sarebbe simile all’approccio europeo ampiamente condiviso, in cui l’espressione è libera, ma prevede chiare eccezioni nei casi di incitamento all’odio e alla violenza.
Oppure la coalizione potrebbe limitare la pratica del microtargeting di annunci politici sui social media, vietando per esempio alle aziende di consentire agli inserzionisti di personalizzare e indirizzare gli annunci sulla base della religione, dell’etnia, dell’orientamento sessuale o dei dati personali raccolti. Per lo meno, la coalizione potrebbe sostenere una maggiore trasparenza sul microtargeting per creare un dibattito più informato su quali pratiche di raccolta dati dovrebbero essere vietate.
La coalizione democratica potrebbe anche adottare standard e metodi di controllo per le operazioni digitali durante le elezioni e le campagne elettorali. Ciò potrebbe significare concordare i requisiti di sicurezza per i sistemi di voto, oltre a standard di anonimato, stress test e metodi di verifica come la richiesta di un backup cartaceo per ogni voto. E l’intera coalizione potrebbe accettare di imporre sanzioni a qualsiasi paese o attore non statale che interferisca con un’elezione o un referendum in uno degli stati membri
Un altro compito che la coalizione potrebbe assumersi è lo sviluppo di regole commerciali per l’economia digitale. Per esempio, i membri potrebbero accettare di non richiedere mai alle aziende di consegnare il codice sorgente del software alle autorità statali, come succede in Cina. Potrebbero anche accettare di adottare norme comuni sulla protezione dei dati per le transazioni transfrontaliere. Tali iniziative consentirebbero la creazione di una sorta di zona di libero scambio digitale tra nazioni che la pensano allo stesso modo.
La Cina ha già qualcosa di simile a questo sotto forma di eWTP, una piattaforma commerciale che consente il commercio globale senza dazi per transazioni inferiori a un milione di dollari. Ma l’eWTP, che è stato avviato dal gigante dell’e-commerce Alibaba, è gestito da aziende del settore privato con sede in Cina. Il governo cinese è noto per avere accesso ai dati tramite aziende private. Senza un’alternativa pubblica e basata su regole, l’eWTP potrebbe diventare la piattaforma globale de facto per il commercio digitale, senza mandato o supervisione democratica.
Un’altra questione che questa coalizione potrebbe affrontare sarebbe la sicurezza delle catene di approvvigionamento per dispositivi come telefoni e laptop. Molti paesi hanno bandito smartphone e apparecchiature di telecomunicazione prodotte da Huawei a causa del timore che la tecnologia dell’azienda possa avere vulnerabilità integrate o backdoor che il governo cinese potrebbe sfruttare. Lo sviluppo proattivo di standard comuni per proteggere l’integrità delle catene di approvvigionamento e dei prodotti creerebbe condizioni di parità tra i membri della coalizione e fiducia nelle aziende che accettano di rispettarli.
Un’altra area che potrebbe essere degna dell’attenzione della coalizione è la guerra cibernetica e il conflitto ibrido (in cui si combinano aggressività fisica e digitale). Negli ultimi dieci anni, un numero crescente di paesi ha identificato la guerra ibrida come una minaccia alla sicurezza nazionale. Qualsiasi nazione con operazioni informatiche altamente qualificate può mettere in crisi paesi che non riescono a investire in difese contro di loro. Nel frattempo, gli attacchi informatici da parte di attori non statali hanno spostato gli equilibri di potere tra gli stati.
A oggi, tuttavia, non esistono criteri internazionali che definiscano quando un attacco informatico si può considerare un atto di guerra. Questa mancanza incoraggia i malintenzionati a colpire ripetutamente. Oltre al loro effetto economico o (geo) politico immediato, tali attacchi erodono la fiducia in una eventuale giustizia.
Una coalizione democratica potrebbe lavorare per colmare queste mancate assunzioni di responsabilità e avviare un tribunale indipendente per indagare su tali attacchi, presumibilmente simile alla Corte permanente di arbitrato dell’Aja, che disciplina le controversie internazionali. I leader dell’alleanza democratica potrebbero quindi decidere, sulla base delle sentenze del tribunale, se debbano seguire sanzioni economiche e politiche.
Questi sono solo alcuni dei modi in cui una coalizione democratica globale potrebbe far avanzare regole che sono gravemente carenti nella sfera digitale. Gli standard della coalizione potrebbero effettivamente diventare globali se i suoi membri rappresentassero una buona parte della popolazione mondiale. Il regolamento generale sulla protezione dei dati dell’UE fornisce un esempio di come potrebbe funzionare.
Sebbene il GDPR si applichi solo all’Europa, le aziende tecnologiche globali devono seguire le sue regole per i propri utenti europei, e questo rende più difficile opporsi poiché altre giurisdizioni adottano leggi simili. Allo stesso modo, i non membri della coalizione democratica potrebbero finire per seguire molte delle sue regole per godere dei benefici.
Se i governi democratici non assumono più potere nella governance tecnologica man mano che i governi autoritari diventano più potenti, il mondo digitale, che fa parte della nostra vita quotidiana, difficilmente manterrà standard democratici. Senza un sistema di chiara legittimità per coloro che governano – senza controlli, contrappesi e meccanismi per una supervisione indipendente – è impossibile ritenere responsabili le aziende tecnologiche. Solo costruendo una coalizione globale per la governance tecnologica, i governi democratici potranno ancora una volta mantenere la democrazia al primo posto.
Marietje Schaake è direttrice delle politiche internazionali presso il Cyber Policy Center della Stanford University e membro dell’Institute for Human-Centered Artificial Intelligence di Stanford. Tra il 2009 e il 2019, Schhake è stata deputata del Parlamento europeo per il partito liberal democratico olandese.
(rp)
