L’intelligenza artificiale è estremamente capace di persuasione politica e potrebbe automatizzarla su larga scala. Non siamo preparati.
Nel gennaio 2024, il telefono squillò nelle case di tutto il New Hampshire. All’altro capo del filo c’era la voce di Joe Biden, che esortava i democratici a “salvare il proprio voto” saltando le primarie. Sembrava autentico, ma non lo era. La chiamata era falsa, generata dall’intelligenza artificiale.
Oggi, la tecnologia alla base di quella bufala sembra antiquata. Strumenti come Sora di OpenAI consentono ora di creare video sintetici convincenti con sorprendente facilità. L’intelligenza artificiale può essere utilizzata per fabbricare messaggi di politici e celebrità, persino interi servizi giornalistici, in pochi minuti. Il timore che le elezioni possano essere travolte da media falsi realistici è diventato mainstream, e a ragione.
Ma questa è solo metà della storia. La minaccia più profonda non è che l’IA possa semplicemente imitare le persone, ma che possa persuaderle attivamente. E una nuova ricerca pubblicata questa settimana mostra quanto possa essere potente questa persuasione. In due grandi studi sottoposti a revisione paritaria, i chatbot basati sull’IA hanno modificato le opinioni degli elettori in misura sostanziale, molto più di quanto tendano a fare le tradizionali pubblicità politiche.
Nei prossimi anni assisteremo all’ascesa di un’intelligenza artificiale in grado di personalizzare le argomentazioni, testare ciò che funziona e rimodellare silenziosamente le opinioni politiche su larga scala. Questo cambiamento, dall’imitazione alla persuasione attiva, dovrebbe preoccuparci profondamente.
La sfida è che l’intelligenza artificiale moderna non si limita a copiare voci o volti, ma è in grado di sostenere conversazioni, leggere le emozioni e adattare il proprio tono per persuadere. Inoltre, ora può comandare altre intelligenze artificiali, dirigendo modelli di immagini, video e voci per generare i contenuti più convincenti per ogni target. Mettendo insieme questi elementi, non è difficile immaginare come si potrebbe costruire una macchina di persuasione coordinata. Un’IA potrebbe scrivere il messaggio, un’altra potrebbe creare le immagini, un’altra ancora potrebbe distribuirlo su diverse piattaforme e osservare cosa funziona. Non servono esseri umani.
Dieci anni fa, organizzare un’efficace campagna di influenza online significava in genere schierare eserciti di persone che gestivano account falsi e meme farm. Ora questo tipo di lavoro può essere automatizzato, in modo economico e invisibile.
La stessa tecnologia che alimenta i bot del servizio clienti e le app di tutoraggio può essere riutilizzata per influenzare le opinioni politiche o amplificare la narrativa preferita da un governo. E la persuasione non deve necessariamente limitarsi agli annunci pubblicitari o alle chiamate automatiche. Può essere integrata negli strumenti che le persone già utilizzano quotidianamente: feed dei social media, app per l’apprendimento delle lingue, piattaforme di incontri o persino assistenti vocali creati e venduti da soggetti che cercano di influenzare l’opinione pubblica americana. Questo tipo di influenza potrebbe provenire da attori malintenzionati che utilizzano le API di strumenti di intelligenza artificiale popolari su cui le persone già fanno affidamento, oppure da app completamente nuove create con la persuasione integrata fin dall’inizio.
Ed è conveniente. Per meno di un milione di dollari, chiunque può generare messaggi personalizzati e conversazionali per ogni elettore registrato in America. Il calcolo non è complicato. Ipotizziamo 10 brevi scambi per persona, circa 2.700 token di testo, e valutiamoli ai prezzi attuali dell’API di ChatGPT. Anche con una popolazione di 174 milioni di elettori registrati, il totale rimane comunque inferiore a 1 milione di dollari. Gli 80.000 elettori indecisi che hanno deciso le elezioni del 2016 potrebbero essere raggiunti con meno di 3.000 dollari.
Sebbene questa sia una sfida nelle elezioni di tutto il mondo, la posta in gioco per gli Stati Uniti è particolarmente alta, data la portata delle loro elezioni e l’attenzione che attirano da parte di attori stranieri. Se gli Stati Uniti non agiscono rapidamente, le prossime elezioni presidenziali del 2028, o anche le elezioni di medio termine del 2026, potrebbero essere vinte da chiunque automatizzi per primo la persuasione.
La minaccia del 2028
Sebbene ci siano indicazioni che la minaccia che l’IA rappresenta per le elezioni sia esagerata, un numero crescente di ricerche suggerisce che la situazione potrebbe cambiare. Studi recenti hanno dimostrato che GPT-4 può superare le capacità persuasive degli esperti di comunicazione quando genera dichiarazioni su argomenti politici polarizzanti negli Stati Uniti, ed è più persuasivo degli esseri umani non esperti in due terzi dei casi quando discute con elettori reali.
Due importanti studi pubblicati ieri estendono questi risultati a contesti elettorali reali negli Stati Uniti, in Canada, in Polonia e nel Regno Unito, dimostrando che brevi conversazioni con chatbot possono influenzare l’atteggiamento degli elettori fino a 10 punti percentuali, con le opinioni dei partecipanti statunitensi che cambiano quasi quattro volte di più rispetto a quanto avvenuto in risposta agli annunci politici testati nel 2016 e nel 2020. E quando i modelli sono stati esplicitamente ottimizzati per la persuasione, il cambiamento è salito a 25 punti percentuali, una differenza quasi inconcepibile.
Mentre in passato erano appannaggio di aziende con grandi risorse, i moderni modelli linguistici di grandi dimensioni stanno diventando sempre più facili da usare. I principali fornitori di IA come OpenAI, Anthropic e Google integrano nei loro modelli all’avanguardia politiche di utilizzo, filtri di sicurezza automatizzati e monitoraggio a livello di account, e talvolta sospendono gli utenti che violano tali regole.
Ma queste restrizioni si applicano solo al traffico che passa attraverso le loro piattaforme; non si estendono al rapido ecosistema in crescita dei modelli open-source e open-weight, che possono essere scaricati da chiunque disponga di una connessione Internet. Sebbene siano solitamente più piccoli e meno potenti delle loro controparti commerciali, la ricerca ha dimostrato che, con un’attenta programmazione e messa a punto, questi modelli possono ora eguagliare le prestazioni dei principali sistemi commerciali.
Tutto ciò significa che gli attori, siano essi organizzazioni con risorse adeguate o collettivi di base, hanno una strada chiara per implementare su larga scala un’IA politicamente persuasiva. Le prime dimostrazioni sono già avvenute in altre parti del mondo. Nelle elezioni generali indiane del 2024, secondo quanto riferito, sono stati spesi decine di milioni di dollari in IA per segmentare gli elettori, identificare gli elettori indecisi, inviare messaggi personalizzati tramite chiamate automatiche e chatbot e altro ancora. A Taiwan, funzionari e ricercatori hanno documentato operazioni legate alla Cina che utilizzano l’IA generativa per produrre disinformazione più sottile, che va dai deepfake ai modelli linguistici che favoriscono i messaggi approvati dal Partito Comunista Cinese.
È solo questione di tempo prima che questa tecnologia arrivi alle elezioni statunitensi, se non è già successo. Gli avversari stranieri sono in una posizione favorevole per muoversi per primi. Cina, Russia, Iran e altri paesi dispongono già di reti di troll farm, account bot e operatori di influenza segreti. In combinazione con modelli linguistici open- -source che generano contenuti politici fluenti e localizzati, queste operazioni possono essere potenziate. Infatti, non c’è più bisogno di operatori umani che comprendano la lingua o il contesto. Con una leggera messa a punto, un modello può impersonare un organizzatore di quartiere, un rappresentante sindacale o un genitore scontento senza che una persona metta mai piede nel Paese. Le campagne politiche stesse seguiranno probabilmente a ruota. Ogni operazione importante segmenta già gli elettori, testa i messaggi e ottimizza la loro diffusione. L’intelligenza artificiale riduce i costi di tutte queste operazioni. Invece di testare uno slogan tramite sondaggi, una campagna può generare centinaia di argomenti, diffonderli uno per uno e osservare in tempo reale quali di essi influenzano le opinioni.
Il fatto di fondo è semplice: la persuasione è diventata efficace ed economica. Campagne elettorali, comitati di azione politica, attori stranieri, gruppi di pressione e opportunisti giocano tutti sullo stesso campo, dove le regole sono pochissime.
Il vuoto politico
La maggior parte dei responsabili politici non ha ancora colmato il divario. Negli ultimi anni, i legislatori statunitensi si sono concentrati sui deepfake, ignorando però la più ampia minaccia rappresentata dalla persuasione.
I governi stranieri hanno iniziato a prendere più seriamente il problema. L’AI Act 2024 dell’Unione Europea classifica la persuasione legata alle elezioni come un caso d’uso “ad alto rischio”. Qualsiasi sistema progettato per influenzare il comportamento di voto è ora soggetto a requisiti rigorosi. Gli strumenti amministrativi, come i sistemi di IA utilizzati per pianificare eventi di campagna elettorale o ottimizzare la logistica, sono esenti. Tuttavia, gli strumenti che mirano a plasmare le convinzioni politiche o le decisioni di voto non lo sono.
Al contrario, gli Stati Uniti hanno finora rifiutato di tracciare linee significative. Non esistono regole vincolanti su ciò che costituisce un’operazione di influenza politica, né standard esterni che guidino l’applicazione delle norme, né infrastrutture condivise per tracciare la persuasione generata dall’IA attraverso le piattaforme. Il governo federale e quelli statali hanno accennato a una regolamentazione: la Commissione elettorale federale sta applicando vecchie disposizioni in materia di frode, la Commissione federale delle comunicazioni ha proposto norme restrittive sulla divulgazione degli annunci pubblicitari trasmessi dalle emittenti televisive e alcuni stati hanno approvato leggi sui deepfake, ma questi sforzi sono frammentari e lasciano intatta la maggior parte delle campagne digitali.
In pratica, la responsabilità di individuare e smantellare le campagne segrete è stata lasciata quasi interamente alle aziende private, ciascuna con le proprie regole, incentivi e punti ciechi. Google e Meta hanno adottato politiche che richiedono la divulgazione quando gli annunci politici sono generati utilizzando l’intelligenza artificiale. X è rimasta in gran parte in silenzio su questo argomento, mentre TikTok vieta tutta la pubblicità politica a pagamento. Tuttavia, queste regole, per quanto modeste, coprono solo una piccola parte dei contenuti acquistati e visualizzati pubblicamente. Non dicono quasi nulla sulle campagne di persuasione private e non retribuite che potrebbero essere le più importanti.
A loro merito, alcune aziende hanno iniziato a pubblicare rapporti periodici sulle minacce che identificano le campagne di influenza segrete. Anthropic, OpenAI, Meta e Google hanno tutte reso note le rimozioni di account non autentici. Tuttavia, questi sforzi sono volontari e non soggetti a controlli indipendenti. Soprattutto, nulla di tutto ciò impedisce agli attori determinati di aggirare completamente le restrizioni delle piattaforme con modelli open source e infrastrutture esterne alle piattaforme.
Come dovrebbe essere una vera strategia
Gli Stati Uniti non hanno bisogno di bandire l’IA dalla vita politica. Alcune applicazioni potrebbero persino rafforzare la democrazia. Un chatbot ben progettato potrebbe aiutare gli elettori a capire la posizione dei candidati su questioni chiave, rispondere direttamente alle domande o tradurre politiche complesse in un linguaggio semplice. La ricerca ha persino dimostrato che l’IA può ridurre la credibilità delle teorie del complotto.
Tuttavia, ci sono alcune cose che gli Stati Uniti dovrebbero fare per proteggersi dalla minaccia della persuasione dell’IA. In primo luogo, devono proteggersi dalla tecnologia politica di fabbricazione straniera con capacità di persuasione integrate. La tecnologia politica avversaria potrebbe assumere la forma di un videogioco prodotto all’estero in cui i personaggi del gioco riprendono i punti chiave del discorso politico, una piattaforma di social media il cui algoritmo di raccomandazione propende verso determinate narrazioni o un’app per l’apprendimento delle lingue che inserisce messaggi sottili nelle lezioni quotidiane.
Le valutazioni, come la recente analisi di DeepSeek condotta dal Center for AI Standards and Innovation, dovrebbero concentrarsi sull’identificazione e la valutazione dei prodotti di IA, in particolare quelli provenienti da paesi come Cina, Russia o Iran, prima che vengano ampiamente diffusi. Questo sforzo richiederebbe il coordinamento tra agenzie di intelligence, autorità di regolamentazione e piattaforme per individuare e affrontare i rischi.
In secondo luogo, gli Stati Uniti dovrebbero assumere un ruolo guida nella definizione delle regole relative alla persuasione basata sull’IA. Ciò include un accesso più restrittivo alla potenza di calcolo per le attività di persuasione su larga scala da parte di soggetti stranieri, poiché molti attori affitteranno modelli esistenti o noleggeranno la capacità GPU per addestrare i propri. Significa anche stabilire standard tecnici chiari, attraverso i governi, gli organismi di normazione e gli impegni volontari dell’industria, su come dovrebbero funzionare i sistemi di IA in grado di generare contenuti politici, in particolare durante i periodi elettorali delicati. A livello nazionale, gli Stati Uniti devono determinare quali tipi di divulgazione dovrebbero applicarsi ai messaggi politici generati dall’IA, tenendo conto delle preoccupazioni relative al Primo Emendamento.
Infine, gli avversari stranieri cercheranno di eludere queste misure di salvaguardia utilizzando server offshore, modelli open source o intermediari in paesi terzi. Ecco perché gli Stati Uniti hanno bisogno anche di una risposta in materia di politica estera. Gli accordi multilaterali sull’integrità elettorale dovrebbero codificare una norma di base: gli Stati che utilizzano sistemi di IA per manipolare l’elettorato di un altro paese rischiano sanzioni coordinate e l’esposizione pubblica.
Ciò comporterà probabilmente la creazione di un’infrastruttura di monitoraggio condivisa, l’allineamento degli standard di divulgazione e provenienza e la preparazione a condurre operazioni coordinate di smantellamento delle campagne di persuasione transfrontaliere, poiché molte di queste operazioni si stanno già spostando in spazi opachi dove i nostri attuali strumenti di rilevamento sono deboli. Gli Stati Uniti dovrebbero anche spingere affinché la manipolazione elettorale diventi parte dell’agenda più ampia di forum come il G7 e l’OCSE, garantendo che le minacce legate alla persuasione tramite IA non siano trattate come problemi tecnologici isolati, ma come sfide collettive alla sicurezza.
In effetti, il compito di garantire la sicurezza delle elezioni non può ricadere solo sugli Stati Uniti. Un sistema radar funzionante per la persuasione basata sull’IA richiederà partnership con i nostri partner e alleati. Le campagne di influenza raramente sono limitate dai confini e i modelli open source e i server offshore esisteranno sempre. L’obiettivo non è eliminarli, ma aumentare il costo del loro uso improprio e ridurre la finestra in cui possono operare senza essere rilevati in tutte le giurisdizioni.
L’era della persuasione tramite IA è alle porte e gli avversari dell’America sono pronti. Negli Stati Uniti, invece, le leggi sono obsolete, le misure di sicurezza troppo limitate e la supervisione in gran parte volontaria. Se l’ultimo decennio è stato caratterizzato da bugie virali e video manipolati, il prossimo sarà caratterizzato da una forza più sottile: messaggi che sembrano ragionevoli, familiari e abbastanza persuasivi da cambiare i cuori e le menti.
Per Cina, Russia, Iran e altri paesi, sfruttare l’ecosistema informativo aperto degli Stati Uniti è un’opportunità strategica. Abbiamo bisogno di una strategia che consideri la persuasione tramite IA non come una minaccia lontana, ma come un fatto presente. Ciò significa valutare con lucidità i rischi per il discorso democratico, mettere in atto standard reali e costruire un’infrastruttura tecnica e giuridica attorno ad essi. Perché se aspettiamo di vederlo accadere, sarà già troppo tardi.
Tal Feldman è candidato al dottorato in giurisprudenza alla Yale Law School, dove si occupa di tecnologia e sicurezza nazionale. Prima di frequentare la facoltà di giurisprudenza, ha sviluppato modelli di IA per il governo federale ed è stato borsista Schwarzman e Truman. Aneesh Pappu è dottorando e borsista Knight-Hennessy alla Stanford University, nonché ricercatore scientifico presso Google DeepMind, dove si occupa di IA agentica, sicurezza dell’IA e politica tecnologica. Prima di Stanford, è stato borsista Marshall.e, ma questi sforzi sono frammentari e lasciano intatta la maggior parte delle campagne digitali.
