I sistemi di moderazione dei contenuti sono stati abbandonati e definanziati, lasciando molti Paesi alla ricerca di alternative.
Qualche settimana fa, mentre partecipavo alla conferenza sui diritti digitali RightsCon a Taiwan, ho visto in tempo reale come le organizzazioni della società civile di tutto il mondo, compresi gli Stati Uniti, hanno dovuto fare i conti con la perdita di uno dei maggiori finanziatori del lavoro globale per i diritti digitali: il governo degli Stati Uniti.
Come ho scritto nel mio articolo, lo sconvolgente e rapido sventramento del governo statunitense da parte dell’amministrazione Trump (e la sua spinta verso quello che alcuni eminenti politologi chiamano “autoritarismo competitivo”) si ripercuote anche sulle operazioni e sulle politiche delle aziende tecnologiche americane, molte delle quali, ovviamente, hanno utenti ben oltre i confini degli Stati Uniti. I partecipanti alla RightsCon hanno dichiarato di aver già notato dei cambiamenti nella volontà di queste aziende di impegnarsi e investire in comunità che hanno una base di utenti più piccola, soprattutto se non di lingua inglese.
Di conseguenza, alcuni politici e dirigenti d’azienda, in particolare in Europa, stanno riconsiderando la loro dipendenza dalla tecnologia statunitense e si chiedono se sia possibile creare rapidamente alternative migliori e locali. Questo è particolarmente vero per l’IA.
Uno degli esempi più chiari è quello dei social media. Yasmin Curzi, una professoressa di diritto brasiliana che si occupa di politica tecnologica interna, mi ha spiegato come: “Dalla seconda amministrazione Trump, non possiamo più contare sul fatto che [le piattaforme di social media americane] facciano anche il minimo indispensabile”.
I sistemi di moderazione dei contenuti dei social media – che già utilizzano l’automazione e stanno anche sperimentando l’impiego di modelli linguistici di grandi dimensioni per segnalare i post problematici – non riescono a individuare la violenza di genere in luoghi diversi come India, Sudafrica e Brasile. Se le piattaforme iniziano ad affidarsi ancora di più agli LLM per la moderazione dei contenuti, il problema probabilmente peggiorerà, afferma Marlena Wisniak, avvocato specializzato in diritti umani che si occupa di governance dell’IA presso l’European Center for Not-for-Profit Law. “Gli LLM sono moderati male, e gli LLM moderati male vengono poi usati per moderare altri contenuti”, mi dice. “È così circolare, e gli errori continuano a ripetersi e ad amplificarsi”.
Parte del problema è che i sistemi sono stati addestrati principalmente su dati provenienti dal mondo anglofono (e per di più dall’inglese americano) e, di conseguenza, hanno prestazioni inferiori con le lingue e i contesti locali.
Anche i modelli linguistici multilingue, che sono concepiti per elaborare più lingue contemporaneamente, ottengono scarsi risultati con le lingue non occidentali. Per esempio, una valutazione della risposta di ChatGPT alle richieste di assistenza sanitaria ha rilevato che i risultati erano di gran lunga peggiori in cinese e hindi, che sono meno rappresentati nei set di dati nordamericani, che in inglese e spagnolo.
Per molti partecipanti alla RightsCon, questo convalida le loro richieste di approcci all’IA più orientati alla comunità, sia all’interno che all’esterno del contesto dei social media. Questi potrebbero includere piccoli modelli linguistici, chatbot e set di dati progettati per usi particolari e specifici per lingue e contesti culturali particolari. Questi sistemi potrebbero essere addestrati a riconoscere gli usi gergali e gli insulti, a interpretare parole o frasi scritte in un mix di lingue e persino di alfabeti e a identificare il “linguaggio recuperato” (insulti che un tempo il gruppo target ha deciso di abbracciare). Tutti questi elementi tendono a non essere considerati o a essere classificati in modo errato dai modelli linguistici e dai sistemi automatici addestrati principalmente all’inglese anglo-americano. Il fondatore della startup Shhor AI, ad esempio, ha ospitato un panel alla RightsCon e ha parlato della sua nuova API di moderazione dei contenuti incentrata sulle lingue vernacolari indiane.
Molte soluzioni simili sono in fase di sviluppo da anni – e ne abbiamo trattate diverse, tra cui, un’iniziativa guidata da volontari di Mozilla per raccogliere dati di addestramento in lingue diverse dall’inglese, e startup promettenti come Lelapa AI, che sta costruendo AI per le lingue africane. All’inizio di quest’anno, abbiamo persino incluso i modelli linguistici di piccole dimensioni nel nostro elenco 2025 delle 10 tecnologie più innovative.
Tuttavia, questo momento è un po’ diverso. La seconda amministrazione Trump, che influenza le azioni e le politiche delle aziende tecnologiche americane, è ovviamente un fattore importante. Ma ce ne sono altri in gioco.
In primo luogo, la ricerca e lo sviluppo recenti sui modelli linguistici hanno raggiunto il punto in cui la dimensione del set di dati non è più un fattore predittivo delle prestazioni, il che significa che più persone possono crearli. Infatti, “i modelli linguistici più piccoli potrebbero essere degni concorrenti dei modelli linguistici multilingue in lingue specifiche e con scarse risorse”, afferma Aliya Bhatia, visiting fellow presso il Center for Democracy & Technology che si occupa di ricerca sulla moderazione automatica dei contenuti.
Poi c’è il panorama globale. La competizione sull’IA è stata uno dei temi principali del recente Summit sull’IA di Parigi, che si è svolto la settimana prima della RightsCon. Da allora, si sono susseguiti annunci su iniziative di “IA sovrana” che mirano a dare a un Paese (o a un’organizzazione) il pieno controllo su tutti gli aspetti dello sviluppo dell’IA.
La sovranità dell’intelligenza artificiale è solo una parte del desiderio di una più ampia “sovranità tecnologica” che sta prendendo piede, a seguito di preoccupazioni più ampie sulla privacy e sulla sicurezza dei dati trasferiti negli Stati Uniti. Lo scorso novembre, l’Unione Europea ha nominato il suo primo commissario per la sovranità tecnologica, la sicurezza e la democrazia e ha lavorato su piani per un “Euro Stack”, o “infrastruttura pubblica digitale”. La definizione di questa infrastruttura è ancora piuttosto fluida, ma potrebbe includere l’energia, l’acqua, i chip, i servizi cloud, il software, i dati e l’intelligenza artificiale necessari per sostenere la società moderna e l’innovazione futura. Tutti questi elementi sono oggi in gran parte forniti dalle aziende tecnologiche statunitensi. Gli sforzi dell’Europa sono in parte modellati su “India Stack”, l’infrastruttura digitale di quel Paese che include il sistema di identità biometrica Aadhaar. Proprio la scorsa settimana, i legislatori olandesi hanno approvato diverse mozioni per svincolare il Paese dai fornitori di tecnologia statunitensi.
Tutto ciò è in linea con quanto mi ha detto Andy Yen, CEO della società svizzera di privacy digitale Proton, alla RightsCon. Trump, ha detto, “sta facendo sì che l’Europa si muova più velocemente… che si renda conto che l’Europa deve riconquistare la sua sovranità tecnologica”. Ciò è dovuto in parte all’influenza che il Presidente ha sugli amministratori delegati del settore tecnologico, ha detto Yen, e anche semplicemente “perché la tecnologia è il punto di partenza della futura crescita economica di qualsiasi Paese”.
Ma il fatto che i governi siano coinvolti non significa che i problemi di inclusione nei modelli linguistici spariranno. “Penso che ci sia bisogno di una protezione su quale sia il ruolo del governo in questo caso. La questione si complica se il governo decide: ‘Queste sono le lingue che vogliamo promuovere’ o ‘Questi sono i tipi di opinioni che vogliamo siano rappresentati in un set di dati'”, dice Bhatia. “Fondamentalmente, i dati di addestramento su cui un modello si allena sono simili alla visione del mondo che sviluppa”.
È ancora troppo presto per sapere che aspetto avrà tutto questo e quanto si rivelerà un’illusione. Ma a prescindere da ciò che accadrà, questo è uno spazio che terremo d’occhio.
