Facebook antepone i profitti alla sicurezza

I fake stanno alimentando la disinformazione e i disordini politici, ma i responsabili aziendali non hanno dimostrato la volontà di intervenire per modificare la situazione. In questa intervista Sofie Zhang, ex manager di Facebook, racconta quanto sia difficile avere delle risposte.

di Jennifer Strong 11-11-21
Il mese scorso, la fonte principale dei file di Facebook apparsi sul “Wall Street Journal”, ha rivelato la sua identità in un episodio di  60 Minutes. Frances Haugen, ex product manager dell'azienda, afferma di essersi fatta avanti dopo aver visto la leadership di Facebook dare ripetutamente priorità al profitto rispetto alla sicurezza. È quindi apparsa davanti ai parlamentari negli Stati Uniti e nel Regno Unito per parlare di ciò che aveva appreso durante la sua permanenza nell’azienda.

Ma Haugen non è stata la prima informatrice interna a Facebook a lanciare l'allarme sull'incapacità o riluttanza dell'azienda di affrontare i gravi problemi causati dagli algoritmi della piattaforma. Nel 2020 si era verificato il caso di Sophie Zhang, che era stata ufficialmente assunta come data scientist di basso livello presso l'azienda. Quando si è dimessa, il suo promemoria di successo di 8.000 parole ha rivelato che aveva identificato dozzine di paesi, tra cui India, Messico, Afghanistan e Corea del Sud, dove account falsi e “Mi piace” consentivano ai politici di fuorviare il pubblico e mantenere il potere. Ha anche rivelato quanto poco l'azienda avesse fatto per mitigare il problema, nonostante i ripetuti sforzi di Zhang per portarlo all'attenzione della dirigenza.

In I was there when, un podcast della serie In Machines We Trust, il direttore Jennifer Strong ha chiesto a Zhang di parlare della sua esperienza a Facebook.

Sophie Zhang: A Facebook ero un data scientist e lavoravo nel team per le relazioni con i clienti. Mi è capitato spesso di lavorare sui fake, ma anche di trovarmi di fronte ad account violati. Ho registrato spesso manipolazioni politiche sofisticate in paesi come Brasile, India, Indonesia, ma difficilmente come quelle viste in Honduras, calcolando le dimensioni minori del paese. 

Stavo mettendo insieme un rapporto su questo problema. Analizzando i messaggi sulla pagina del presidente dell'Honduras Juan Orlando Hernandez, ho notato qualcosa di molto insolito: le persone a cui piaceva la sua pagina e commentavano, in gran parte non erano affatto persone. Erano pagine che fingevano di essere utenti. 

Un piccolo passo indietro. Cosa sono le pagine? Cosa sono gli utenti? Le pagine sono una funzione di Facebook pensata per personaggi pubblici e organizzazioni pubbliche. Quindi, per esempio, “MIT Tech Review” ha una pagina Facebook, anche se la rivista non è una persona e la pagina è gestita da qualcun altro su Facebook. Un singolo utente può controllare molte pagine. Quindi, per esempio, lo stesso amministratore può gestire la pagina CNN, nonché CNN, Filippine e CNN Europa. 

Non c'era nulla che impedisse a un utente di creare centinaia di pagine, dando loro nomi e immagini del profilo come persone reali e facendoli agire come persone reali. In effetti, è stato facile per chi lo faceva perché poteva facilmente passare da una pagina all'altra senza dover accedere e disconnettersi ogni volta. 

Ben presto mi sono resa conto che migliaia di queste pagine false che fingevano di essere utenti riguardavano l’Honduras. E alcune centinaia di esse erano gestite personalmente dall'amministratore della pagina del presidente dell'Honduras. Questa persona era qualcuno che godeva di una notevole quantità di fiducia sui social media nel governo honduregno. E non nascondeva nemmeno il fatto che stava usando migliaia di risorse false per manipolare la propria cittadinanza. 

All'inizio, sono stata molto ingenua. Ho pensato che una volta denunciato l'inganno, tutto si sarebbe risolto. Avrei potuto tornare al mio lavoro di routine. È stato invece l'inizio di un calvario di due anni perché tutti erano d'accordo sul fatto che fosse terribile, ma nessuno sapeva cosa fare.  Abbiamo la capacità di intervenire? È all'interno delle nostre linee guida agire su questo fenomeno?

Fin dall'inizio, ho preso contatti con tutti coloro che a prima vista erano in grado di fare qualcosa. Ne ho parlato a Pages Integrity, a Groups Integrity, al team di integrità civica fino al vicepresidente Guy Rosen. In sostanza era come parlare al vento, come cercare di svuotare l'oceano con uno scolapasta. Alla fine ho capito che il modo migliore per ottenere risultati non era cercare di passare attraverso i canali appropriati, ma pubblicare post su Workplace. Molti di quelli che li hanno letti si sono arrabbiati perché non era il tipo di azienda per cui pensavano di lavorare e per cui volevano lavorare.  Alla fine Facebook ha annullato l'operazione del governo honduregno. 

Poche settimane dopo, si è presentata una situazione simile.  Ancora una volta ingenuamente, avevo pensato che la vicenda dell’Honduras costituisse un precedente e sarebbero state prese delle iniziative per affrontare gli altri casi. Non è successo nulla. Quando ho inviato le informazioni a mia disposizione sui canali appropriati, sono finite in un buco nero. 

Nella seconda metà del 2019, ho sollevato e segnalato altre tre decine di reti di attività politiche non autentiche dall'Afghanistan all'Albania, dal Brasile alla Bolivia, dall'India all'Indonesia. Ci è voluto un po' per capire il modo giusto per ottenere effettivamente risultati e avere una risposta. In genere dipendeva dal fatto che fossero legati a politici e personaggi di spicco, perché in casi simili diventava molto più difficile intervenire.

Faccio un esempio. L'Azerbaigian ha certamente molto meno del 3 per cento della popolazione mondiale, ma la sua rete creava forse un milione di commenti ogni mese, vale a dire il 3 per cento di tutti i commenti delle pagine sui post di altre pagine in tutto il mondo.  Il governo dell'Azerbaigian aveva allestito un enorme stuolo di agenti pagati per danneggiare l'opposizione. Ci è voluto almeno un anno per intervenire, ma nel frattempo il governo azero aveva represso l'opposizione, arrestato esponenti dell'opposizione non qualificati e aveva iniziato una guerra con l'Armenia. 

È diventato sempre più stressante lavorare sulla questione. In sostanza dipendeva interamente da me stabilire quali erano le priorità e cercare di attirare l'attenzione su di esse. Per esempio, ho scelto di non dare priorità alla Bolivia perché era oggettivamente una situazione limitata. Ben dopo le elezioni, ci sono state proteste di massa che sono degenerate in quello che è stato chiamato alternativamente un colpo di stato o una rivolta popolare che ha portato alla caduta del governo boliviano. So che questa non avrebbe dovuto essere una mia responsabilità personale, ma alla fine della giornata, non c'era nessun altro che prendesse una decisione.

Ho deciso fin dall'inizio che avrei fatto del mio meglio per non essere mai giudice, giuria e carnefice, perché avevo già troppo potere nelle mie mani. Non credo che nessuno dovrebbe essere nella posizione di decidere se l'Albania è più importante dell'Azerbaigian o domande del genere. In Albania hanno trovato persone che lavoravano per il governo locale, ma quello che accadeva in Azerbaigian era oggettivamente molto più grave in termini di dimensioni e scala. 

Sapevo bene di non poter affrontare più di un problema alla volta. Così ho scelto di concentrarmi sull'Azerbaigianm. L'Albania ha tenuto le elezioni generali all'inizio di quest'anno, e all'epoca questo tipo di propaganda era ancora in corso. Voglio dire, più di due anni dopo che l'ho scoperto, Facebook non ha ancora fatto nulla.

E posso solo scusarmi profusamente con il popolo albanese. Non avrei dovuto trovarmi in una posizione in cui dovevo scegliere se l'Albania o l'Azerbaigian fossero più importanti. Non posso però far cambiare idea a Mark Zuckerberg. Come azienda, Facebook non ha alcun incentivo a risolvere questo problema più di quanto ci si potrebbe aspettare che la Philip Morris produca sigarette che non creano dipendenza.

(rp)