• Ms Tech

L'anno che ha sdoganato i deepfake

Nel 2020, i media sintetici di AI hanno guadagnato la scena di Internet, staccandosi dalla dipendenza assoluta dal settore del porno.

Nel 2018, Sam Cole, giornalista di “Motherboard”, ha scoperto un nuovo e inquietante angolo di Internet. Un utente di Reddit con il nome "deepfakes" pubblicava falsi video porno non consensuali utilizzando un algoritmo di intelligenza artificiale per scambiare i volti delle celebrità con gli attori dei filmati porno. Cole ha lanciato l'allarme sul fenomeno, proprio mentre la tecnologia stava per esplodere. Un anno dopo, il porno deepfake si era diffuso ben oltre Reddit, con app facilmente accessibili che potevano "denudare” qualsiasi donna fotografata.

Da allora i deepfake hanno subito un duro colpo, ed è giusto che sia così. La stragande maggioranza di loro viene ancora utilizzata per la falsificazione dei porno. Con questo strumento, una giornalista investigativa è stata gravemente molestata e, più recentemente, una poetessa e scrittrice è stata spaventata e umiliata. C'è anche il rischio che i deepfake politici generino false notizie convincenti che potrebbero provocare il caos in ambienti politici instabili.

Ma poiché gli algoritmi per manipolare e sintetizzare i media sono diventati più potenti, hanno anche dato origine ad applicazioni positive, a volte divertenti a volte banali. Di seguito forniamo una carrellata di alcuni dei nostri preferiti che riteniamo anticipino ciò che verrà.

Protezione degli informatori

A giugno, Welcome to Chechyna, un film inchiesta sulla persecuzione di persone LGBTQ nella repubblica russa, è diventato il primo documentario a utilizzare i deepfake per tutelare l'identità dei propri soggetti. I personaggi principali della storia, attivisti che combattono la persecuzione, hanno vissuto in clandestinità per evitare di essere torturati o uccisi. 

Dopo aver esplorato molti metodi per nascondere le loro identità, il regista David France ha deciso di dare loro delle "coperture" con i deepfake. Ha chiesto ad altri attivisti LGBT di tutto il mondo di prestare i loro volti, che sono diventati quelli delle persone nel suo film. La tecnica ha permesso alla Francia di preservare l'integrità delle espressioni facciali dei suoi soggetti e quindi il dolore, la paura e l'umanità. In totale il film ha protetto 23 persone, aprendo la strada a una nuova forma di salvaguardia degli informatori. (Si veda figura 1)

A luglio, due ricercatori del MIT, Francesca Panetta e Halsey Burgund, hanno pubblicato un progetto per creare una storia alternativa dello sbarco sulla Luna dell'Apollo del 1969. Chiamato In Event of Moon Disaster, utilizza il discorso che il presidente Richard Nixon avrebbe pronunciato se l'evento epocale non fosse andata secondo i piani. I ricercatori hanno collaborato con due aziende separate per audio e video deepfake e hanno assunto un attore per la performance "di base". Hanno quindi “lavorato” la sua voce e il suo viso attraverso i due tipi di software e li hanno uniti in un deepfake finale di Nixon. (Si veda figura 2)

Mentre questo progetto dimostra come i deepfakes potrebbero creare potenti storie alternative, un altro suggerisce come i deepfakes potrebbero dare vita alla storia reale. A febbraio, la rivista “Time” ha ricreato la marcia su Washington di Martin Luther King Jr. in modalità di realtà virtuale. Il progetto non ha utilizzato la tecnologia deepfake, ma il gigante tecnologico cinese Tencent lo ha successivamente citato in un white paper sui suoi piani per l'intelligenza artificiale, dicendo che i deepfake potrebbero essere utilizzati per scopi simili in futuro.

Memes

Alla fine dell'estate, la blogosfera ha messo le mani su deepfake semplici da realizzare e ha diffuso i risultati nell'universo digitale. Un meme virale in particolare, chiamato "Baka Mitai" (si veda figura 3), ha circolato rapidamente quando le persone hanno imparato a usare la tecnologia per creare le proprie versioni. L'algoritmo specifico che alimenta l’eccentrico prodotto proviene da un documento di ricerca del 2019 che consente a un utente di animare una foto del volto di una persona con un video di qualcun altro. 

L'effetto non è di alta qualità, ma sicuramente assicura il divertimento. Il fenomeno non è del tutto sorprendente, in quanto il gioco e la parodia sono stati una forza trainante nella divulgazione di deepfake e altri strumenti di manipolazione dei media. È per questo che alcuni esperti sottolineano la necessità di regolamentazioni per evitare cha la satira si trasformi in abuso.

Annunci sportivi

Le scadenze continue rendono difficile ospitare contemporaneamente diverse celebrità dello sport. Nel mezzo di un lockdown l’impresa diventa impossibile. Quindi, se si deve registrare uno spot pubblicitario a Los Angeles con persone in quarantena in tutto il paese, l'unica opzione è la finzione. Ad agosto il sito di streaming Hulu ha pubblicato un annuncio per promuovere il ritorno alle attività sportive, con il giocatore NBA Damian Lillard, il giocatore WNBA Skylar Diggins-Smith e il giocatore di hockey canadese Sidney Crosby (si veda link). 

Nel filmato si vedono queste star abbandonare quanto stanno facendo per tornare ai loro sport, brandendo palloni da basket e bastoni da hockey. L’unico problema è che i volti di questi campioni sono stati sovrapposti ai corpi usando la tecnologia deepfake. L'algoritmo è stato addestrato sulle riprese dei giocatori acquisite tramite Zoom. Questi tipi di finzione vanno avanti da anni, ma i deepfake li rendono più facili ed economici che mai, e quest'anno di remoto tutto ha dato una spinta alla tecnologia. Hulu non è l'unico. Altri inserzionisti, inclusa l’emittente sportiva ESPN, hanno sperimentato a loro volta i deepfake. 

Campagne politiche

A settembre, durante i preparativi per le elezioni presidenziali statunitensi, l’organizzazione indipendente 
RepresentUs ha pubblicato un paio di annunci deepfake. Presentavano versioni false del presidente russo Vladimir Putin e del leader nordcoreano Kim Jong-un (si veda link) che trasmettevano lo stesso messaggio: nessuno dei due avrebbe comunque interferito con le elezioni statunitensi, perché l'America ha minato la sua democrazia da sola. Non si è trattato del primo impiego di deepfake durante una campagna politica. 

A febbraio, il politico indiano Manoj Tiwari ha utilizzato i deepfake in un video della campagna elettorale per far sembrare che stesse parlando Haryanvi, il dialetto hindi parlato dal suo elettorato. Ma RepresentUs ha in particolare ribaltato la sceneggiatura sulla tipica narrativa intorno ai deepfake politici. Mentre gli esperti spesso si preoccupano della capacità della tecnologia di seminare confusione e interrompere le elezioni, il gruppo ha cercato di fare esattamente l'opposto: aumentare la consapevolezza degli elettori per proteggere i diritti di voto e aumentare l'affluenza alle urne.

Spettacoli televisivi

A ottobre, Trey Parker e Matt Stone, i creatori di South Park, hanno presentato la loro nuova creazione, Sassy Justice, il primo programma televisivo completamente in deepfake (si veda link). Lo spettacolo satirico settimanale ruota attorno al personaggio di Sassy Justice, un giornalista locale con la faccia di Trump. Sassy intervista figure come Jared Kushner (con la faccia di Kushner sovrapposta a un bambino) e Al Gore. Con Sassy Justice, i deepfake sono andati oltre gli espedienti di marketing o gli inganni dannosi per colpire il mainstream culturale. Anche la stessa tecnologia di deepfake utilizzata per creare i personaggi è oggetto di satira. Nel primo episodio, Sassy "Trump" Justice, nella finzione un difensore dei consumatori, indaga sulla verità dietro le "notizie deepfake".

(rp)
  • Figura 1. Teus Media
  • Figura 2. Panetta e Burgund
  • Ms Tech/Neurips e per gentile concessione di Karen Hao