• Uno striscione che incoraggia i lavoratori a partecipare alle votazioni sindacali apparso in un magazzino Amazon a Bessemer, Alabama. AP

I deepfake seminano confusione su Twitter

In vista di una votazione storica che potrebbe portare alla formazione del primo sindacato in assoluto in un magazzino Amazon con sede negli Stati Uniti, sono apparsi nuovi account Twitter che si presume siano di dipendenti dell’azienda di commercio elettronico.

di Karen Hao 01-04-21
I profili hanno utilizzato foto manipolate e hanno twittato alcune affermazioni decisamente esagerate sulle condizioni da lavoro ad Amazon, ma hanno comunque creato confusione nel pubblico. Un’abile manovra anti-sindacale sui social media da parte dell’azienda? La risposta è quasi certamente no, ma l'uso di deepfake in questo contesto indica una tendenza generale più preoccupante.

C'è una ragione per cui questi nuovi profili deepfake sembrano familiari. Nel 2018, Amazon ha avviato un programma per convincere il pubblico delle buone condizioni lavorative dei suoi magazzinieri. Ha installato postazioni di computer nei magazzini e ha creato account Twitter per un piccolo gruppo di dipendenti, noti come "Amazon FC Ambassador", che potevano twittare durante le ore retribuite su quanto amassero il loro lavoro. 

Il piano è fallito e ha portato alla creazione di numerosi account che facevano una parodia di questo gruppo su Twitter. Amazon ha ridimensionato il programma poco dopo e molti degli account reali originali sono stati sospesi o chiusi, afferma Aric Toler, responsabile delle politiche di formazione e ricerca per il sito di giornalismo investigativo Bellingcat.

A inizio settimana è spuntata la nuova serie di account degli FC amabassadors, o almeno così sembrava. Ma a un’analisi più attenta, si è visto che alcune immagini del profilo presentavano i segni rivelatori della presenza dei deepfake: facce leggermente deformate e sfondi sfocati. Da quel momento è stato il caos.

Le persone hanno in breve pensato che Amazon stessa fosse dietro i nuovi account deepfake come parte di una campagna anti-sindacale sui social media. L’azienda ha dichiarato a Karen Weise, una giornalista del “New York Times” che non era così. Toler, che ha monitorato gli account originali, crede che Amazon stia dicendo la verità. 

Gli account degli FC ambassador originali sono stati tutti registrati con indirizzi e-mail Amazon e pubblicati utilizzando Sprinklr. I nuovi account deepfake, che da allora sono stati sospesi, sono stati registrati utilizzando Gmail e pubblicati tramite l'app web di Twitter. Inoltre, il contenuto dei tweet era chiaramente ironico. Questi account erano probabilmente solo parodie create per prendere in giro Amazon.

"Il tutto, ovviamente, è abbastanza innocuo", dice Toler, “ma rivela un problema più preoccupante, vale a dire che gli account deepfake potrebbero essere distribuiti in modo coordinato sui social media o altrove per scopi molto più sinistri, magari sotto la veste di enti statali.

In effetti, ci sono già stati diversi casi di alto profilo in cui le foto manipolate sono state utilizzate per dannose campagne di disinformazione. Nel dicembre del 2019, Facebook ha identificato e rimosso una rete di oltre 900 pagine, gruppi e account, inclusi alcuni con immagini del profilo manipolate, associate al quotidiano di estrema destra Epoch Times, noto per il suo ruolo in tattiche di disinformazione.

Nell'ottobre del 2020, un falso documento di "intelligence" distribuito tra i circoli del presidente Trump, che è diventato la base per numerose teorie del complotto che circondano Hunter Biden, è stato scritto da un falso analista della sicurezza con un’immagine di profilo alterata.

Toler afferma che i deepfake di volti sono diventati una tendenza nella sua linea di lavoro come investigatore open source su attività online sospette, soprattutto dal lancio di ThisPersonDoesNotExist.com, un sito Web che offre un nuovo volto generato dall'intelligenza artificiale ad ogni aggiornamento. "C'è sempre un percorso obbligato da seguire e la prima domanda è :'Questa persona è reale o no?' Cinque anni fa non ce la ponevamo".

Al momento, dice Toler, l'uso di volti manipolati non ha avuto un grande impatto sul suo lavoro. È ancora relativamente facile per lui identificare quando un'immagine del profilo è un deepfake, proprio come lo è quando la foto è un'immagine d'archivio. Lo scenario più difficile è quando l'immagine è di una persona reale estratta da un account di social media privato che non è indicizzato sui motori di ricerca di immagini.

Una crescente consapevolezza dei deepfakes ha anche spinto le persone a esaminare i media che vedono con più attenzione, afferma Toler, come dimostra la rapidità con cui le persone si sono accorte della falsità degli account Amazon. Ma Sam Gregory, responsabile di programma di Witness, un’associazione senza scopo di lucro per la difesa dei diritti umani, dice che questo non dovrebbe cullarci in un falso senso di sicurezza. “I deepfake migliorano costantemente”, egli continua, "e credo che le persone abbiano troppa fiducia che sarà sempre possibile rilevarli".

Una profonda consapevolezza della presenza dei deepfake potrebbe anche portare le persone a smettere di credere nei media, il che porterebbe a conseguenze altrettanto disastrose, come minare la documentazione delle violazioni dei diritti umani. Gregory incoraggia gli utenti dei social media a evitare di fissarsi sul fatto che un'immagine sia un deepfake o meno. 

Spesso, questo aspetto è solo "una piccola parte del puzzle, un tentativo di attirare l’attenzione”. Le tattiche investigative sono molto più resistenti ai progressi della tecnologia deepfake come si può ben vedere anche dal caso di Amazon. È stato controllando le e-mail degli account e i dettagli dei tweet che Toler alla fine ha stabilito che erano falsi, e non esaminando le immagini del profilo.

(rp)