I sistemi che già oggi decidono chi viene visto, assunto e raccontato hanno imparato da noi anche le idee peggiori sulle donne. Mentre a Ginevra si discute come governarli, conviene capire cosa stiamo insegnando alle macchine e cosa possiamo fare di diverso.
C’è un’immagine che accompagna l’intelligenza artificiale da quando è entrata nelle nostre giornate: quella di uno specchio tecnico e neutro, che restituisce il mondo così com’è. Quando sbaglia, tendiamo a pensare a un difetto di fabbrica, un errore isolato da correggere con una riga di codice. Le settimane di luglio, con il Global Dialogue delle Nazioni Unite sulla governance dell’IA e il summit AI for Good a Ginevra, sono un buon momento per verificare quanto quell’immagine rispecchi veramente tutti.
@Milada Vigerova / Unsplash
UN Women ha messo in fila i numeri, e il quadro che ne emerge sposta il problema dal piano tecnico a quello culturale. Su 133 sistemi analizzati, il 44% mostrava bias di genere e il 26% bias di genere e di provenienza etnica insieme. Invitati a completare frasi che partono dal genere di una persona, i grandi modelli linguistici hanno restituito contenuti sessisti in circa un caso su cinque. Gli stessi modelli hanno associato con regolarità le donne alle parole “casa”, “famiglia”, “figli”, e gli uomini a “carriera”, “dirigenza”, “stipendio”.
Un comportamento che si ripresenta identico in sistema dopo sistema smette di essere un guasto e diventa un pattern. I modelli imparano da ciò che esiste nei dati, privilegiando le associazioni più frequenti e i legami più consolidati. Se per decenni la narrazione dominante ha raccontato le donne soprattutto attraverso la casa e gli uomini soprattutto attraverso il lavoro, la macchina apprende quella grammatica e la riproduce con fedeltà. Il pregiudizio che troviamo nell’output è l’eredità del pensiero umano che ha trovato più spazio nelle narrazioni, restituita su scala e a velocità industriale. Non riflette chi siamo, ma chi ha potuto dire di più e come lo ha detto.
La dimensione è anche politica. Su 138 Paesi esaminati, soltanto 24 citano il genere in una strategia nazionale sull’IA e appena 18 prevedono misure concrete in questa direzione. Il rischio, con le parole di UN Women, è di “vedere la disuguaglianza incorporata nelle fondamenta dei sistemi che useremo per anni”.
Emerge una geografia del potere in cui le donne rappresentano circa il 30% della forza lavoro nell’IA a livello globale: chi progetta questi sistemi somiglia poco ai miliardi di persone che dovrebbe servire. Fuori dal settore, la sproporzione si ribalta e diventa esposizione, perché le donne hanno quasi il doppio delle probabilità degli uomini di occupare lavori ad alto rischio di automazione. Chi partecipa meno alla costruzione della tecnologia è chi ne subirà per primo gli effetti.
È la minaccia dello stereotipo portata su scala industriale. Al posto dello sguardo riduttivo di un singolo interlocutore, che si poteva ancora contestare guardandolo negli occhi, c’è un sistema che riproduce e amplifica quella riduzione milioni di volte al secondo, dietro l’apparenza di oggettività di uno schermo che dice sì o no.
La via d’uscita passa da chi costruisce e governa questi sistemi, e conviene anche ai bilanci. La ricerca dell’Unstereotype Alliance, l’iniziativa promossa da UN Women, mostra che una comunicazione libera da stereotipi porta un incremento delle vendite del 3,46% nel breve periodo e del 16,26% nel lungo, con marchi che hanno il 62% di probabilità in più di essere la prima scelta di chi acquista. Il pregiudizio, oltre a essere un problema etico, è un costo.
L’azione più semplice è anche la più trascurata: rimettere un occhio umano prima della pubblicazione. Oggi solo il 51% di chi lavora nel marketing verifica i contenuti generati dall’IA prima di diffonderli. A giugno, l’Unstereotype Alliance ha rilasciato un manuale operativo pensato proprio per intercettare i bias prima che finiscano in circolazione. È il martedì mattina di questo tema: un controllo in più, prima che la macchina decida al posto nostro.
@Katherine Hanlon / Unsplash
Un intervento più profondo riguarda ciò con cui nutriamo i sistemi: immaginiamo modelli addestrati non sui “curriculum vincenti del passato” ma su mappe di competenze sviluppate in contesti diversi; una IA capace di riconoscere che la pazienza costruita come caregiver è una risorsa professionale, o che la capacità di negoziare affinata in famiglia si trasferisce nella gestione di un team. La stessa tecnologia che oggi filtra, programmata con una grammatica diversa, diventerebbe un’alleata della complessità umana invece che una sua nemica.
La tecnologia per farlo esiste già, ma sembra c’è la volontà di usarla in questo modo? Le decisioni prese questa estate, nelle stanze dove l’IA viene costruita e governata, diranno quale delle due strade abbiamo imboccato: quella di una tecnologia che ci restituisce, amplificata e inesorabile, una versione più povera di noi, oppure quella di avere finalmente uno strumento in grado di rappresentare, senza paura della complessità, quanto siamo ampi.
