• Ms Tech/Unsplash
Il pericolo dei deepfake a basso costo
I video manipolati non hanno falsificato le elezioni statunitensi come molti avevano previsto, ma il problema rimane ancora aperto.
di Nina Schick 24-12-20
Il 30 novembre, il portavoce del ministero degli esteri cinese Lijian Zhao ha pubblicato un’immagine sul suo profilo Twitter, in cui un soldato con una bandiera australiana sorride mentre tiene un coltello insanguinato alla gola di un ragazzo, il cui volto è coperto da un velo semitrasparente, con vicino un agnello. Accanto all'immagine, Zhao ha twittato: “Sconvolto dall'assassinio di civili e prigionieri afgani da parte di soldati australiani. Condanniamo fermamente tali atti e chiediamo di ritenerli responsabili".

Il tweet fa riferimento a un recente annuncio dell'Australian Defence Force, che ha definito "informazioni credibili" che 25 soldati australiani siano stati coinvolti negli omicidi di 39 civili e prigionieri afgani tra il 2009 e il 2013. L'immagine pretende di mostrare un soldato australiano in procinto di tagliare la gola di un innocente bambino afghano. Roba esplosiva.

Ma c’è un problema: l'immagine è falsa. A un esame più attento, non è neanche molto convincente. Potrebbe essere stata elaborata da un principiante di Photoshop. Questa immagine è un cosiddetto cheapfake, un media che è stato grossolanamente manipolato, modificato, etichettato in modo ingannevole o contestualizzato in modo improprio per diffondere disinformazione.

Il cheapfake è ora al centro di un grave incidente internazionale. Il primo ministro australiano, Scott Morrison, ha detto che la Cina dovrebbe “vergognarsi profondamente” e ha chiesto scuse per l'immagine “ripugnante”. Pechino ha rifiutato, accusando invece l'Australia di “barbarie” e di cercare di distogliere l’attenzione del pubblico da presunti crimini di guerra da parte delle sue forze armate in Afghanistan.

Ci sono due importanti lezioni politiche da trarre da questo incidente. Il primo è che Pechino ha autorizzato l'uso di un falso a buon mercato da parte di uno dei suoi migliori diplomatici per diffondere attivamente la disinformazione sulle piattaforme online occidentali. La Cina ha tradizionalmente esercitato cautela in tali questioni, con l'obiettivo di presentarsi come una superpotenza benevola e responsabile. Questo nuovo approccio rappresenta una svolta significativa.

Più in generale, tuttavia, questa scaramuccia mostra anche la crescente importanza della disinformazione visiva come strumento politico. Negli ultimi dieci anni, la proliferazione di media manipolati ha rimodellato le realtà politiche (Si pensi, per esempio, ai falsi a buon mercato che hanno catalizzato il genocidio contro i musulmani Rohingya in Birmania o hanno contribuito a diffondere la disinformazione sul covid).

Ora che le potenze globali condividono apertamente i falsi a buon mercato sui social media, cosa impedisce loro, o a qualsiasi altro attore, di mettere in campo disinformazione visiva più sofisticata? Per anni, giornalisti e tecnologi hanno messo in guardia sui pericoli dei "deepfake", vale a dire i "media sintetici" manipolati o creati dall'intelligenza artificiale che hanno aperto la strada ai cheapfakes.

I progressi tecnologici stanno migliorando la qualità della disinformazione visiva, rendendo più facile per chiunque generarla. Man mano che diventa possibile produrre deepfake tramite app per smartphone, quasi chiunque sarà in grado di creare disinformazione visiva sofisticata a costo quasi zero.

Falso allarme

Gli avvertimenti lanciati sulla pericolosità dei deepfake hanno raggiunto un picco febbrile in vista delle elezioni presidenziali statunitensi di quest'anno. Per mesi, politici, giornalisti e accademici hanno discusso su come contrastare la minaccia. Alla vigilia del voto, i legislatori statali del Texas e della California hanno addirittura bandito preventivamente l’uso dei deepfake per evitare che influenzassero le elezioni.

In retrospettiva, queste paure sono state sopravvalutate. A parte alcuni sviluppi interessanti, tra cui una creazione ironica da parte dell'emittente di stato russo Russia Today (RT) in cui un Donald Trump sconfitto ammette di essere la pedina del presidente russo Vladimir Putin, ci sono state poche frodi legate alle elezioni degne di segnalazione. Certamente non si è materializzato nulla che si possa obiettivamente dire che abbia influenzato il risultato. Piuttosto che per sabotare o sfruttare i politici, i deepfake sono ancor oggi usati più spesso per creare porno non consensuale.

Anche se i deepfake non sono ancora diventati le armi di disinformazione di massa che alcuni avevano previsto, non c'è spazio per l'autocompiacimento. Il rischio potenziale è in gran parte mitigato, per ora, da limitazioni tecniche. Man mano che le tecnologie per la creazione di deepfake migliorano, il problema si amplierà.

E anche prima di allora, la semplice consapevolezza dei deepfake sta già avendo un effetto dannoso. Nel prossimo futuro, i malintenzionati saranno in grado di produrre deepfake su tutto, rendendo difficile distinguere gli autentici dai falsi. Questo "doppio bonus" per i manipolatori è noto come “il dividendo del bugiardo”. Sebbene il termine sia stato coniato in un documento fondamentale del 2018 sui deepfakes, non riguarda solo questo tipo di falsi, ma si estende a tutta la disinformazione, compresi quella in campo economico.

Cheapfakes ovunque

Da quando il famigerato video falsificato di Nancy Pelosi, la presidente della Camera, è apparso nel 2019, le manipolazioni a buon mercato sono diventate una caratteristica regolare della vita politica degli Stati Uniti. Quest'anno hanno contribuito a sostenere un'operazione di disinformazione di alto profilo portata avanti dal presidente e dai suoi più stretti collaboratori. La falsa affermazione che le elezioni siano state caratterizzate dalla frode degli elettori è stata costantemente rafforzata da falsi a buon mercato.

Un esempio è un video virale del presidente eletto Joe Biden che dice:  "Abbiamo organizzato, credo, la più imponente organizzazione per la frode elettorale nella storia della politica americana". Se opportunamente contestualizzati, i commenti di Biden possono essere intesi come la descrizione di un programma per proteggere gli elettori in caso di contenzioso infondato sul risultato elettorale. Tuttavia, la clip è stata condivisa sia da Trump sia dalla portavoce della Casa Bianca Kayleigh McEnany e descritta come un'ammissione di frode.

Anche se i voti erano ancora in fase di conteggio, i video autentici di lavoratori elettorali che trascrivevano e raccoglievano voti sono stati condivisi, anche dallo stesso Trump, come "prova" del dumping e della manomissione dei voti. Nel frattempo, un falso virale che mostrava un uomo che "strappava" le schede si è rivelato essere il lavoro di una persona che ama fare scherzi su Tik Tok.

Le accuse di frode elettorale diffusa sono prive di fondamento e i tribunali di tutta l'America stanno respingendo i tentativi del team legale di Trump di contestare il risultato elettorale. All'inizio di questo mese, il procuratore generale Bill Barr (che si dimetterà il 23 dicembre) ha finalmente ammesso che il Dipartimento di Giustizia degli Stati Uniti non ha scoperto prove di frode.


Ma i falsi a buon mercato sembrano aver avuto conseguenze nel mondo reale: all'inizio di dicembre, Gabriel Sterling, responsabile dell’implementazione del sistema di voto in Georgia, ha citato casi di intimidazione e minacce di morte contro chi ha lavorato ai seggi elettorali e ha chiesto: "Ci siamo spinti troppo oltre. E’ ora di finirla!".

In Georgia, uno scrutatore elettorale addetto alle elezioni ha dovuto cambiare città dopo che un  falso video virale di 34 secondi lo ha accusato di aver buttato via una scheda elettorale. La fede nella narrativa delle "elezioni truccate" si colloca su linee partigiane. Un sondaggio di Politico/Morning Consult condotto dopo le elezioni ha rilevato che il 70 per cento degli elettori repubblicani ha dichiarato di non credere a un voto "libero ed equo". 

Il numero di elettori del “Grand Old Party” che hanno espresso una simile sfiducia nei confronti del processo prima delle elezioni è stato del 35 per cento. Al contrario, solo la metà degli elettori democratici (52 per cento) ha dichiarato di ritenere che le elezioni sarebbero state "libere e corrette" prima del 3 novembre. Nei sondaggi condotti dopo la vittoria di Biden, la cifra è salita alle stelle al 90 per cento.

A cosa credere?

La crescente prevalenza della disinformazione visiva sembra influenzare la politica in due modi distinti. In primo luogo, alimenta la proliferazione di tutti i tipi di disinformazione. I manipolatori agiscono con maggiore impunità, fiduciosi di poter evitare il controllo e la responsabilità. Al momento in cui scrivo, il falso a buon mercato condiviso da Lijian Zhao era ancora sul suo profilo Twitter.

In secondo luogo, la crescente prevalenza della disinformazione visiva ci rende più esposti ad altre manipolazioni. Man mano che il pubblico diventa più consapevole dei molti modi in cui i media possono essere falsificati, diventerà più scettico nei confronti di tutti i media.

Questo scetticismo rende più facile per i malintenzionati liquidare gli eventi reali come falsi. Può anche portare a interpretazioni sempre più soggettive e partigiane degli eventi da parte del pubblico stesso. Si consideri, per esempio, la convinzione diffusa tra gli elettori repubblicani che le elezioni statunitensi del 2020 non fossero libere ed eque. 

L'opinione è palesemente falsa, ma come suggeriscono i dati dell'opinione pubblica, non sono solo gli elettori repubblicani a diffidare del processo elettorale. Fino a quando non hanno vinto, gli elettori democratici erano scettici a loro volta. Se un candidato repubblicano vince nel 2024, l'opinione pubblica si dividerà ancora per schieramenti ideologici?

Anche se le previsioni più catastrofiche sulla presenza di deepfake “politici” non si sono realizzate nel 2020, dobbiamo analizzare la loro evoluzione nei cheapfakes e in altre forme di disinformazione politica. I cheapfake di oggi offrono lezioni preziose sui deepfake del futuro. La domanda, quindi, non dovrebbe essere: "Quando emergeranno i deepfake politici?", ma "Come possiamo mitigare i molti modi in cui la disinformazione visiva sta già rimodellando la nostra realtà politica?"

Nina Schick è l'autore di Deepfakes: The Coming Infocalypse.

(rp)