• NeONBRAND / Unsplash
Facebook ha deciso di intervenire sui pregiudizi razziali nei suoi algoritmi
Secondo il “Wall Street Journal”, l’azienda ha creato dei nuovi team per limitare il fenomeno del razzismo implicito nei confronti delle minoranza, soprattutto nere e ispaniche, contenuto nei dati che vengono utilizzati per addestrare gli algoritmi.
di Will Douglas Heaven 22-07-20
Negli ultimi anni, un numero crescente di ricercatori e attivisti ha messo in luce il problema dei pregiudizi dell’IA, in particolare nei confronti delle minoranze etniche. Facebook, che utilizza l'apprendimento automatico per assicurare l'esperienza quotidiana dei suoi 2,5 miliardi di utenti, è in ritardo per una valutazione interna di questo tipo. Esistono già numerose prove del fatto che gli algoritmi di pubblicazione degli annunci di Facebook discriminano per “razza” e consentono agli inserzionisti di impedire, per esempio, a specifici gruppi etnici di vedere i loro annunci. 

L’azienda di Zuckerberg ha già in passato dovuto schivare le accuse di parzialità dei suoi sistemi. Ci sono voluti diversi anni di continua sensibilizzazione e pressioni da parte dei gruppi per i diritti civili per arrivare a questo punto. Facebook sta creando i nuovi team dopo un mese di boicottaggio pubblicitario organizzato da gruppi per i diritti civili - tra cui la Anti-Defamation League, Color of Change e il NAACP - che ha portato grandi investitori come Coca-Cola, Disney, McDonald's e Starbucks a sospendere le loro campagne pubblicitarie sul social. 

La mossa è stata accolta con favore. Ma avviare un'indagine è ben lungi dal risolvere il problema del pregiudizio razziale, soprattutto quando nessuno sa davvero come risolverlo. Nella maggior parte dei casi, esiste una distorsione nei dati di addestramento e non si è trovato un accordo sul modo di intervenire.

Un’azione di cambiamento degli algoritmi suscita divisioni. I pregiudizi dell'apprendimento automatico sono una parte dei problemi che i social media si trovano ad affrontare quando di parla di “razza”. Se Facebook modificherà i suoi algoritmi, questa azione dovrebbe far parte di una revisione più ampia che comprenda anche politiche per evitare di dare spazio a politici razzisti, gruppi di suprematisti bianchi e negazionisti dell'Olocausto.

(rp)