• MIT Technology Review | Envato Elements

Le fabbriche di troll hanno nel mirino gli USA

Un rapporto interno mostra che su Facebook, prima delle elezioni del 2020, 140 milioni di americani sono stati raggiunti da contenuti di origine non verificata.

di Karen Hao 18-09-21
Nella corsa alle elezioni del 2020, le più contestate nella storia degli Stati Uniti, le pagine più popolari di Facebook per i contenuti dedicati a comunità cristiane e neri americani erano gestite da fabbriche di troll dell'Europa orientale. Queste pagine facevano parte di una rete più ampia che ha raggiunto collettivamente quasi la metà di tutti gli americani, secondo un rapporto interno dell'azienda, e ha raggiunto tale copertura non attraverso la scelta dell'utente, ma principalmente come risultato del design della piattaforma di Facebook e dell'algoritmo acciappaclic.

Il rapporto, scritto nell'ottobre del 2019 e ottenuto da “MIT Technology Review” da un ex dipendente di Facebook non coinvolto nella ricerca, ha rilevato che dopo le elezioni del 2016, Facebook non è riuscita a dare la priorità ai cambiamenti fondamentali nel modo in cui la sua piattaforma promuove e distribuisce le informazioni. L'azienda ha invece perseguito una strategia che prevedeva di volta in volta il monitoraggio e l'annullamento dell'attività dei malintenzionati quando si impegnavano in discorsi politici e l'aggiunta di alcune protezioni che impedivano "il peggio del peggio".

Ma questo approccio ha fatto ben poco per arginare il problema di fondo, osserva il rapporto. Le fabbriche di troll, gruppi professionali che lavorano in modo coordinato per pubblicare contenuti provocatori, spesso di propaganda, sui social network, si sono continuate a costruire un vasto pubblico gestendo reti di pagine Facebook. Il loro contenuto ha raggiunto i 140 milioni di utenti statunitensi al mese, il 75 per cento dei quali non aveva mai seguito nessuna delle pagine. Stavano vedendo il contenuto perché il sistema di raccomandazione dei contenuti di Facebook lo aveva inserito nei loro feed di notizie.

"Non sono gli utenti, ma è la nostra piattaforma che sceglie di dare tutto questo spazio a queste fattorie di troll", ha scritto l'autore del rapporto, Jeff Allen, ex scienziato di dati di alto livello presso Facebook. Joe Osborne, un portavoce di Facebook, ha dichiarato che l’azienda "aveva già indagato su questi argomenti" al momento del rapporto di Allen, aggiungendo: "Da quel momento, abbiamo sostenuto squadre, sviluppato nuove politiche e collaborato con esperti per indirizzare queste reti. Abbiamo intrapreso azioni di contrasto aggressive contro questo tipo di gruppi non autentici stranieri e nazionali e abbiamo condiviso pubblicamente i risultati su base trimestrale".

Nel processo di verifica dei fatti di questa storia poco prima della pubblicazione, “MIT Technology Review” ha scoperto che cinque delle pagine di fabbriche di troll menzionate nel rapporto sono rimaste attive (si veda figura 1). Il rapporto ha rilevato che gli obiettivi erano gli stessi gruppi demografici, cristiani, neri americani e nativi americani, individuati dall'Internet Research Agency (IRA) sostenuta dal Cremlino durante le elezioni del 2016. 

Un'indagine del 2018 di “Buzz Feed News” ha rilevato che almeno un membro dell'IRA russa, incriminato per presunta interferenza nelle elezioni statunitensi del 2016, aveva anche visitato la Macedonia per la nascita delle prime fabbriche di troll, sebbene non si fossero trovate prove concrete di una connessione  (Facebook ha affermato che le sue indagini non hanno nemmeno rivelato un collegamento tra l'IRA e le fabbriche di troll macedoni).

“Questo non è normale né salutare", ha scritto Allen. "Abbiamo autorizzato attori non autentici ad accumulare enormi seguaci per scopi in gran parte sconosciuti ... Il fatto che personaggi con possibili legami con l'IRA abbiano accesso a un numero enorme di utenti negli stessi gruppi demografici presi di mira dall'IRA ha rappresenta un rischio enorme per le elezioni statunitensi del 2020».

Se le fabbriche di troll hanno avuto successo nell'usare queste tattiche, anche qualsiasi altro malintenzionato potrebbe farlo, ha continuato: "Se sono stati raggiunti 30 milioni di utenti statunitensi con contenuti mirati agli afroamericani, non dovremmo affatto essere sorpresi se scopriamo che anche l'IRA raggiunge un vasto pubblico".

Allen ha scritto il rapporto come la quarta e ultima puntata di un lavoro di un anno e mezzo per capire le fabbriche di troll. Ha lasciato l'azienda quello stesso mese, in parte a causa della frustrazione per il fatto che la leadership avesse "effettivamente ignorato" la sua ricerca, secondo l'ex dipendente di Facebook che ha fornito il rapporto. Allen ha rifiutato di commentare.

Il rapporto rivela l'allarmante stato di cose in cui la leadership di Facebook ha lasciato la piattaforma per anni, nonostante le ripetute promesse pubbliche di affrontare in modo aggressivo l'interferenza elettorale proveniente dall'estero. “MIT Technology Review” mette a disposizione il rapporto completo, con i nomi dei dipendenti oscurati, perché ritiene che sia un’operazione nell'interesse pubblico.

Le rivelazioni contenute nel rapporto

- A ottobre 2019, circa 15.000 pagine Facebook con un pubblico a maggioranza statunitense partivano dal Kosovo e dalla Macedonia, luoghi protagonisti di azioni illegali durante le elezioni del 2016.

- Complessivamente, quelle pagine di troll, che il rapporto tratta come una singola pagina a fini di confronto, hanno raggiunto ogni mese 140 milioni di utenti statunitensi (Walmart è la seconda e ne raggiunge 100 milioni) e 360 milioni di utenti globali settimanali. 

- Le pagine della fabbrica di troll nel loro insieme hanno formato:

• la più grande pagina della comunità cristiana americana su Facebook, 20 volte più grande della successiva, raggiungendo mensilmente 75 milioni di utenti statunitensi, il 95 per cento dei quali non aveva mai seguito nessuna delle pagine.

• La più grande pagina della comunità afroamericana su Facebook, tre volte più grande della successiva, raggiungendo mensilmente 30 milioni di utenti statunitensi, l'85 per cento dei quali non aveva mai seguito nessuna delle pagine.

• La seconda pagina dei nativi americani su Facebook, raggiungendo 400.000 utenti mensili, il 90 per cento dei quali non aveva mai seguito nessuna delle pagine.

• La quinta pagina femminile su Facebook, raggiungendo mensilmente 60 milioni di utenti statunitensi, il 90 per cento dei quali non aveva mai seguito nessuna delle pagine.

- Le fabbriche di troll colpiscono principalmente gli Stati Uniti, ma prendono di mira anche il Regno Unito, l'Australia, l'India e i paesi dell'America centrale e meridionale.

- Facebook ha condotto diversi studi che confermano che i contenuti con maggiori probabilità di ottenere il coinvolgimento degli utenti (mi piace, commenti e condivisioni) hanno maggiori probabilità di essere manipolatori. Tuttavia, l’azienda ha continuato a classificare i contenuti nei feed di notizie degli utenti in base al coinvolgimento più elevato.

- Facebook vieta alle pagine di pubblicare contenuti semplicemente copiati e incollati da altre parti della piattaforma, ma non applica la politica contro i malintenzionati noti. Ciò rende facile per chi è straniero pubblicare contenuti interamente copiati e raggiungere comunque un vasto pubblico. Ad un certo punto, ben il 40 per cento delle visualizzazioni di pagine negli Stati Uniti ha riguardato quelle con contenuti principalmente non originali o materiale di originalità limitata.

- Le fabbriche di troll si sono all’inizio fatti strada nei programmi di partnership di Facebook Instant Articles e Ad Breaks, progettati per aiutare le testate giornalistiche e altri editori a monetizzare i loro articoli e video. A un certo punto, grazie alla mancanza di controlli sulla qualità di base, ben il 60 per cento delle letture di Instant Article andava a contenuti plagiati. Ciò ha reso facile per le fabbriche di troll agire inosservate e persino ricevere pagamenti da Facebook.

Facebook permette alle fabbriche di troll di far crescere il loro pubblico

Il rapporto esamina in particolare le fabbriche di troll con sede in Kosovo e Macedonia, gestiti da persone che non comprendono appieno la politica americana. Tuttavia, a causa del modo in cui sono progettati i sistemi di ricompensa dei newsfeed di Facebook, riescono ad avere un impatto significativo sul discorso politico.

Nel rapporto, Allen identifica tre ragioni per cui queste pagine sono in grado di conquistare un pubblico così vasto. Innanzitutto, Facebook non penalizza le pagine per la pubblicazione di contenuti completamente non originali. Se qualcosa è diventato virale in precedenza, probabilmente tornerà ad essere virale quando verrà pubblicato una seconda volta. Ciò rende davvero facile per chiunque creare un enorme seguito tra i neri americani, per esempio. I malintenzionati possono semplicemente copiare contenuti virali dalle pagine dei neri americani, o anche da Reddit e Twitter, e incollarli sulla propria pagina, o talvolta su dozzine di pagine.

In secondo luogo, Facebook invia contenuti accattivanti sulle pagine a persone che non li seguono. Quando gli amici degli utenti commentano o ricondividono i post su una di queste pagine, quegli utenti lo vedranno anche nei loro feed di notizie. Più il contenuto di una pagina viene commentato o condiviso, più viaggia oltre i suoi follower. Ciò significa che le fabbriche di troll, la cui strategia è incentrata sulla ripubblicazione dei contenuti più accattivanti, hanno un'enorme capacità di raggiungere un nuovo pubblico.

In terzo luogo, il sistema di ranking di Facebook spinge i contenuti più accattivanti in alto nei feed di notizie degli utenti. Per la maggior parte, le persone che gestiscono le fabbriche di troll hanno motivazioni finanziarie più che politiche; pubblicano tutto ciò che può suscitare il maggior coinvolgimento, con poca attenzione al contenuto effettivo. Ma poiché è più probabile che la disinformazione, gli acchiappaclic e i contenuti politicamente divisivi ottengano un elevato coinvolgimento (come riconoscono le analisi interne di Facebook), le fabbriche di troll li privilegiano.

Di conseguenza, nell'ottobre del 2019, tutte le 15 pagine principali rivolte ai cristiani americani, 10 delle 15 principali pagine Facebook rivolte ai neri americani e quattro delle prime 12 pagine Facebook rivolte ai nativi americani erano gestite da fabbriche di troll (si vedano figure 2, 3 e 4). "La nostra piattaforma ha dato grande voce nella comunità cristiana americana a una manciata di malintenzionati, che, probabilmente non sono mai stati in chiesa", ha scritto Allen. "La nostra piattaforma ha dato grande spazio nella comunità afroamericana a un gruppo di malintenzionati, che non hanno mai avuto interazioni reali con afroamericani".

Il rapporto ha anche suggerito una possibile soluzione. "Questa è ben lungi dall'essere la prima volta che l'umanità ha combattuto chi è animato da cattive intenzioni nei nostri ecosistemi dei media", ha scritto, indicando l'uso da parte di Google di ciò che è noto come una misura di autorità basata su grafici, che valuta la qualità di una pagina web in base alla frequenza con cui viene citata da altre pagine Web di qualità, per retrocedere i malintenzionati nelle classifiche di ricerca.

"Abbiamo la nostra implementazione di una misura di autorità basata su grafici", ha continuato. Se la piattaforma prendesse in maggiore considerazione questa metrica esistente nella classifica delle pagine, potrebbe aiutare a invertire la tendenza. Quando le classifiche di Facebook danno la priorità al coinvolgimento, le pagine delle fabbriche di troll battono le pagine autentiche, ha scritto Allen., “ma con il sistema dei grafici le pagine autentiche hanno nel 90 per cento dei casi la meglio".

Problemi di fondo

Una ricerca di tutte le pagine delle fabbriche di troll elencate nel rapporto rivela che cinque sono ancora attive quasi due anni dopo: "My Baby Daddy Ain't Shit", che era la più grande pagina Facebook rivolta agli afroamericani nell'ottobre 2019, "Savage Hood" e “Hood Videos”, entrambe rivolte sempre agli afroamericani, “Purpose of Life, indirizzata ai cristiani e “Eagle Spirit”, dedicata ai nativi americani (si veda figura 5).

Il recente e controverso rapporto di Facebook Widely Viewed Content suggerisce che rimangono anche alcune delle vulnerabilità principali sfruttate dalle fabbriche di troll. Secondo un'analisi di Casey Newton su “The Verge”, quindici dei 19 post più visti elencati nel rapporto sono un plagio di altri post che in precedenza erano diventati virali su Facebook o su un'altra piattaforma.

Samantha Bradshaw, ricercatrice della Stanford University che studia l'intersezione tra disinformazione, social media e democrazia, afferma che il rapporto "parla di molti dei problemi sistemici più profondi con la piattaforma e il loro algoritmo nel modo in cui vengono promossi determinati tipi di contenuti verso gli utenti”. Se non vengono risolti, continueranno a creare incentivi economici distorti per i malintenzionati, conclude: "Questo è il problema".


(rp)
  • Figura 1. La più grande pagina della fabbrica di troll rivolta agli afroamericani nell'ottobre del 2019 e oggi ancora attiva su Facebook.
  • Figura 2.
  • Figura 3. Pagine top della comunità cristiana americana su Facebook.
  • Figura 4.
  • Figura 5. Una pagina della fabbrica di troll indirizzata alla comunità cristiana americana.