L’IA sta cambiando il significato stesso di essere un cittadino democratico. Ecco come possiamo sfruttarla per il bene comune.
Ogni pochi secoli, i cambiamenti nel modo in cui circolano le informazioni rimodellano il modo in cui le società si autogovernano. La stampa ha diffuso l’alfabetizzazione nella lingua volgare, contribuendo alla nascita della Riforma e, infine, del governo rappresentativo. Il telegrafo ha reso possibile l’amministrazione di nazioni vaste come gli Stati Uniti, accelerando la crescita del moderno Stato burocratico. I mezzi di comunicazione radiotelevisivi hanno creato un pubblico nazionale condiviso, che a sua volta ha alimentato la democrazia di massa.
Ci troviamo ora nelle prime fasi di un altro cambiamento di questo tipo. Più rapidamente di quanto molti si rendano conto, l’IA sta diventando l’interfaccia primaria attraverso la quale formiamo le nostre convinzioni e partecipiamo all’autogoverno democratico. Se lasciato senza controllo, questo cambiamento potrebbe mettere ulteriormente a dura prova le istituzioni americane, già fragili. Ma potrebbe anche aiutare ad affrontare problemi di lunga data, come il calo dell’impegno civico e l’aggravarsi della polarizzazione. Ciò che accadrà in seguito dipende dalle scelte progettuali che vengono già compiute, che ne siamo consapevoli o meno.
Partiamo da quello che potremmo chiamare il livello epistemico, ovvero il modo in cui arriviamo a conoscere le cose. Le persone si affidano sempre più all’IA per sapere cosa è vero, cosa sta succedendo e di chi fidarsi. La ricerca è già sostanzialmente mediata dall’IA. La prossima generazione di assistenti IA sintetizzerà le informazioni, le inquadrerà e le presenterà con autorevolezza. Per un numero crescente di persone, chiedere a un’IA diventerà il modo predefinito per formarsi un’opinione su un candidato, una politica o un personaggio pubblico. Chiunque controlli ciò che questi modelli dicono avrà quindi un’influenza crescente su ciò che la gente crede.
La tecnologia ha sempre plasmato il modo in cui i cittadini interagiscono con le informazioni. Ma presto sorgerà un nuovo problema sotto forma di agenti IA personali, che possono cambiare non solo il modo in cui le persone ricevono le informazioni, ma anche il modo in cui agiscono in base ad esse. Questi sistemi condurranno ricerche, redigeranno comunicazioni, metteranno in evidenza cause e faranno pressione per conto di un utente. Influenzeranno decisioni quali come votare su una proposta di legge, quali organizzazioni valga la pena sostenere o come rispondere a un avviso governativo. In un senso significativo, inizieranno a mediare il rapporto tra gli individui e le istituzioni che li governano.
Abbiamo già visto con i social media cosa succede quando gli algoritmi ottimizzano il coinvolgimento a scapito della comprensione. Le piattaforme non hanno bisogno di un programma politico esplicito per produrre polarizzazione e radicalizzazione. Un agente che conosce le tue preferenze e le tue ansie – progettato per mantenerti coinvolto – comporta gli stessi rischi. E in questo caso i rischi potrebbero essere ancora più difficili da individuare, perché un agente si presenta come tuo sostenitore. Parla per te, agisce per tuo conto e potrebbe guadagnarsi la tua fiducia proprio attraverso quell’intimità.
Ora allarghiamo lo sguardo al collettivo. Gli agenti di IA e gli esseri umani potrebbero presto partecipare agli stessi forum, dove potrebbe essere impossibile distinguerli. Anche se ogni singolo agente di IA fosse ben progettato e allineato agli interessi del proprio utente, le interazioni di milioni di agenti potrebbero produrre risultati che nessun individuo avrebbe voluto o scelto. Ad esempio, la ricerca mostra che gli agenti che non mostrano pregiudizi individuali possono comunque generare pregiudizi collettivi su larga scala. E, tralasciando ciò che gli agenti fanno gli uni agli altri, c’è ciò che fanno per i loro utenti. Una sfera pubblica in cui ognuno ha un agente personalizzato in sintonia con le proprie opinioni esistenti non è, nel complesso, affatto una sfera pubblica. È un insieme di mondi privati, ciascuno internamente coerente ma collettivamente inospitale per quel tipo di deliberazione condivisa che la democrazia richiede.
Nel loro insieme, queste tre trasformazioni – nel modo in cui conosciamo, agiamo e partecipiamo alla governance collettiva – equivalgono a un cambiamento fondamentale nella struttura della cittadinanza. Nel prossimo futuro, le persone formeranno le loro opinioni politiche attraverso filtri di IA, eserciteranno la loro agenzia civica attraverso agenti di IA e parteciperanno a istituzioni e discussioni pubbliche che sono a loro volta plasmate dalle interazioni di milioni di tali agenti.
La democrazia odierna non è pronta per questo. Le nostre istituzioni sono state progettate per un mondo in cui il potere veniva esercitato in modo visibile, le informazioni viaggiavano abbastanza lentamente da poter essere contestate e la realtà appariva più condivisa, seppur in modo imperfetto. Tutto questo stava già logorandosi molto prima dell’arrivo dell’IA generativa. Eppure questa non deve necessariamente essere una storia di declino. Evitare tale esito richiede che progettiamo qualcosa di meglio.
A livello informativo, le aziende di IA devono intensificare gli sforzi esistenti per garantire che i risultati dei modelli siano veritieri. Dovrebbero anche esplorare alcuni promettenti risultati preliminari secondo cui i modelli di IA possono aiutare a ridurre la polarizzazione. Una recente valutazione sul campo delle verifiche dei fatti generate dall’IA su X ha rilevato che persone con una varietà di punti di vista politici hanno ritenuto le note scritte dall’IA più utili di quelle scritte dall’uomo. L’articolo deve ancora essere sottoposto a revisione tra pari, ma si tratta di una scoperta potenzialmente rivoluzionaria: il fact-checking assistito dall’IA potrebbe essere in grado di raggiungere quel tipo di credibilità trasversale che è sfuggita alla maggior parte degli sforzi umani manuali. Una maggiore comprensione e trasparenza su come i modelli formulano queste affermazioni e danno priorità alle fonti nel processo potrebbe aiutare a rafforzare ulteriormente la fiducia del pubblico.
A livello di agenti, abbiamo bisogno di modi per valutare se gli agenti di IA rappresentano fedelmente i propri utenti. Un agente non deve mai avere un programma proprio né travisare le opinioni del proprio utente: un requisito tecnicamente impegnativo in ambiti in cui gli utenti potrebbero non aver dichiarato esplicitamente alcuna preferenza. Ma la rappresentazione fedele non può nemmeno diventare complice di un ragionamento motivato. Un agente che si rifiuta di presentare informazioni scomode, che impedisce al proprio utente di mettere in discussione le convinzioni precedenti o che non si adatta a un cambiamento di opinione, non agisce nel miglior interesse della persona.
Infine, a livello istituzionale, i responsabili politici dovrebbero affrettarsi a sfruttare il potenziale dell’IA per rendere la governance più reattiva e legittima. Diversi Stati e località stanno già utilizzando piattaforme mediate dall’IA per condurre deliberazioni democratiche su larga scala, basandosi su ricerche che dimostrano che i mediatori IA possono aiutare i cittadini a trovare un terreno comune. Man mano che gli agenti diventano partecipanti sempre più comuni nei processi di consultazione pubblica – e vi sono già prove che i bot stanno distorcendo tali processi – la verifica dell’identità sia per gli esseri umani che per i loro rappresentanti agenti deve essere integrata fin dall’inizio.
Ciò che serve è una nuova generazione di infrastrutture democratiche, tecnologiche e istituzionali, costruite per il mondo che è effettivamente qui. Non progettare per ottenere risultati democratici, in un ambito così importante, significa progettare per qualcos’altro. E la storia del potere senza responsabilità non lascia molto spazio all’ottimismo su quale possa essere quel qualcos’altro.
Andrew Sorota e Josh Hendler guidano il lavoro sull’IA e la democrazia presso l’Ufficio di Eric Schmidt.
