Una nuova proposta invita i social media e le aziende di IA ad adottare rigorosi controlli di verifica, ma l’azienda non si è impegnata a seguire le proprie raccomandazioni.
L’inganno basato sull’intelligenza artificiale permea ormai la nostra vita online. Ci sono casi di alto profilo che si possono facilmente individuare, come quando i funzionari della Casa Bianca hanno recentemente condiviso un’immagine manipolata di un manifestante in Minnesota e poi hanno deriso coloro che hanno chiesto spiegazioni al riguardo. Altre volte, l’inganno si insinua silenziosamente nei feed dei social media e accumula visualizzazioni, come i video che le campagne di influenza russe stanno attualmente diffondendo per scoraggiare gli ucraini dall’arruolarsi.
È in questo caos che Microsoft ha presentato un progetto, condiviso con MIT Technology Review, su come dimostrare cosa è reale online.
Un team di ricerca sulla sicurezza dell’IA dell’azienda ha recentemente valutato l’efficacia dei metodi di documentazione della manipolazione digitale rispetto agli sviluppi più preoccupanti dell’IA odierna, come i deepfake interattivi e i modelli iperrealistici ampiamente accessibili. Ha quindi raccomandato standard tecnici che possono essere adottati dalle aziende di IA e dalle piattaforme di social media.
Per comprendere lo standard di riferimento che Microsoft sta promuovendo, immaginate di avere un dipinto di Rembrandt e di voler documentarne l’autenticità. Potreste descriverne la provenienza con un manifesto dettagliato che indichi da dove proviene il dipinto e tutte le volte che è passato di mano. Potreste applicare una filigrana invisibile all’occhio umano ma leggibile da una macchina. E potreste scansionare digitalmente il dipinto e generare una firma matematica, come un’impronta digitale, basata sulle pennellate. Se mostraste l’opera in un museo, un visitatore scettico potrebbe esaminare queste prove per verificare che si tratti di un originale.
Tutti questi metodi sono già utilizzati in varia misura nel tentativo di verificare i contenuti online. Microsoft ha valutato 60 diverse combinazioni di questi metodi, modellando il modo in cui ciascuna configurazione avrebbe resistito in diversi scenari di errore, dalla rimozione dei metadati alla leggera alterazione o manipolazione deliberata dei contenuti. Il team ha quindi mappato quali combinazioni producono risultati validi che le piattaforme possono mostrare con sicurezza alle persone online e quali sono così inaffidabili da causare più confusione che chiarezza.
Il direttore scientifico dell’azienda, Eric Horvitz, afferma che il lavoro è stato stimolato dalla legislazione, come l’AI Transparency Act della California, che entrerà in vigore ad agosto, e dalla velocità con cui l’intelligenza artificiale si è sviluppata fino a combinare video e voce con una fedeltà sorprendente.
“Si potrebbe definire autoregolamentazione”, ha dichiarato Horvitz a MIT Technology Review. Ma è chiaro che egli considera questo lavoro come un modo per migliorare l’immagine di Microsoft: “Stiamo anche cercando di diventare un fornitore selezionato e desiderato da chi vuole sapere cosa succede nel mondo”.
Ciononostante, Horvitz ha rifiutato di impegnarsi affinché Microsoft utilizzi la propria raccomandazione su tutte le sue piattaforme. L’azienda si trova al centro di un gigantesco ecosistema di contenuti di IA: gestisce Copilot, che può generare immagini e testo; gestisce Azure, il servizio cloud attraverso il quale i clienti possono accedere a OpenAI e ad altri importanti modelli di IA; possiede LinkedIn, una delle piattaforme professionali più grandi al mondo; e detiene una quota significativa in OpenAI. Ma quando gli è stato chiesto dell’implementazione interna, Horvitz ha dichiarato: “I gruppi di prodotto e i leader di tutta l’azienda sono stati coinvolti in questo studio per informare le road map dei prodotti e l’infrastruttura, e i nostri team di ingegneri stanno agendo sulla base dei risultati del rapporto”.
È importante notare che questi strumenti hanno dei limiti intrinseci; proprio come non sono in grado di dirvi cosa significa il vostro Rembrandt, non sono stati creati per determinare se un contenuto è accurato o meno. Rivelano solo se è stato manipolato. È un punto che Horvitz dice di dover sottolineare ai legislatori e ad altri che sono scettici nei confronti delle Big Tech come arbitri dei fatti.
“Non si tratta di prendere decisioni su ciò che è vero e ciò che non lo è”, ha affermato. “Si tratta di creare etichette che indichino semplicemente alle persone da dove provengono le informazioni”.
Hany Farid, professore alla UC Berkeley specializzato in informatica forense ma non coinvolto nella ricerca di Microsoft, afferma che se l’industria adottasse il progetto dell’azienda, sarebbe molto più difficile ingannare il pubblico con contenuti manipolati. Individui sofisticati o governi possono lavorare per aggirare tali strumenti, dice, ma il nuovo standard potrebbe eliminare una parte significativa del materiale fuorviante.
“Non credo che risolva il problema, ma penso che ne elimini una buona parte”, afferma.
Tuttavia, ci sono motivi per considerare l’approccio di Microsoft come un esempio di ottimismo tecnologico un po’ ingenuo. Ci sono prove crescenti che le persone siano influenzate dai contenuti generati dall’intelligenza artificiale anche quando sanno che sono falsi. E in un recente studio sui video pro-russi generati dall’intelligenza artificiale sulla guerra in Ucraina, i commenti che sottolineavano che i video erano stati realizzati con l’intelligenza artificiale hanno ricevuto molto meno coinvolgimento rispetto ai commenti che li trattavano come autentici.
“Ci sono persone che, indipendentemente da ciò che si dice loro, continueranno a credere a ciò che credono?”, chiede Farid. “Sì”. Ma, aggiunge, “c’è una vasta maggioranza di americani e cittadini in tutto il mondo che, secondo me, vogliono conoscere la verità”.
Questo desiderio non ha portato esattamente ad azioni urgenti da parte delle aziende tecnologiche. Google ha iniziato ad aggiungere una filigrana ai contenuti generati dai suoi strumenti di IA nel 2023, cosa che secondo Farid è stata utile nelle sue indagini. Alcune piattaforme utilizzano C2PA , uno standard di provenienza che Microsoft ha contribuito a lanciare nel 2021. Ma l’intera serie di modifiche suggerite da Microsoft, per quanto potenti, potrebbero rimanere solo dei suggerimenti se minacciano i modelli di business delle aziende di IA o delle piattaforme di social media.
“Se i Mark Zuckerberg e gli Elon Musk di questo mondo pensano che apporre etichette ‘generato dall’IA’ su qualcosa ridurrà il coinvolgimento, allora ovviamente sono incentivati a non farlo”, afferma Farid. Piattaforme come Meta e Google hanno già dichiarato che includeranno etichette per i contenuti generati dall’IA, ma un audit condotto da Indicator lo scorso anno ha rilevato che solo il 30% dei post di prova su Instagram, LinkedIn, Pinterest, TikTok e YouTube era correttamente etichettato come generato dall’IA.
Misure più incisive in materia di verifica dei contenuti potrebbero derivare dalle numerose normative sull’IA in fase di elaborazione in tutto il mondo. L’AI Act dell’Unione Europea, così come le norme proposte in India e in altri paesi, obbligherebbero le aziende di IA a richiedere una qualche forma di divulgazione del fatto che un contenuto è stato generato con l’IA.
Una delle priorità di Microsoft è, ovviamente, quella di svolgere un ruolo nella definizione di queste norme. L’azienda ha intrapreso un’azione di lobbying durante la stesura dell’AI Transparency Act della California, che secondo Horvitz ha reso “un po’ più realistici” i requisiti della legislazione su come le aziende tecnologiche devono divulgare i contenuti generati dall’IA.
Ma un’altra preoccupazione molto reale riguarda ciò che potrebbe accadere se l’implementazione di tale tecnologia di verifica dei contenuti fosse effettuata in modo inadeguato. I legislatori richiedono strumenti in grado di verificare ciò che è reale, ma tali strumenti sono fragili. Se i sistemi di etichettatura fossero introdotti in modo affrettato, applicati in modo incoerente o spesso errato, le persone potrebbero finire per diffidarne completamente e l’intero sforzo avrebbe un effetto controproducente. Ecco perché i ricercatori sostengono che in alcuni casi potrebbe essere meglio non mostrare nulla piuttosto che un verdetto che potrebbe essere sbagliato.
Strumenti inadeguati potrebbero anche creare nuove opportunità per quelli che i ricercatori chiamano attacchi sociotecnici. Immaginate che qualcuno prenda un’immagine reale di un evento politico delicato e utilizzi uno strumento di intelligenza artificiale per modificare solo una parte irrilevante dei pixel dell’immagine. Quando questa si diffonde online, potrebbe essere classificata in modo fuorviante dalle piattaforme come manipolata dall’intelligenza artificiale. Ma combinando strumenti di provenienza e filigrana, le piattaforme potrebbero chiarire che il contenuto è stato generato solo in parte dall’intelligenza artificiale e indicare dove sono state apportate le modifiche.
La legge sulla trasparenza dell’IA della California sarà il primo grande banco di prova per questi strumenti negli Stati Uniti, ma la sua applicazione potrebbe essere ostacolata dal decreto presidenziale emanato alla fine dello scorso anno dal presidente Trump, che mira a limitare le normative statali sull’IA ritenute “onerose” per l’industria. L’amministrazione ha inoltre assunto una posizione generalmente contraria agli sforzi volti a contrastare la disinformazione e lo scorso anno, tramite il DOGE, ha annullato le sovvenzioni relative alla disinformazione. E, naturalmente, i canali ufficiali del governo dell’amministrazione Trump hanno condiviso contenuti manipolati con l’AI (MIT Technology Review ha riferito che il Dipartimento della Sicurezza Nazionale, ad esempio, utilizza generatori di video di Google e Adobe per creare contenuti da condividere con il pubblico).
Ho chiesto a Horvitz se i contenuti falsi provenienti da questa fonte lo preoccupano tanto quanto quelli provenienti dal resto dei social media. Inizialmente ha rifiutato di commentare, ma poi ha detto: “I governi non sono stati estranei ai settori che hanno promosso vari tipi di disinformazione manipolatoria, e questo vale a livello mondiale”.
