• Ms Tech
I nostri dati al servizio del razzismo sistematico
Gli esperti di tecnologie devono assumersi la responsabilità delle ideologie tossiche che vengono trasmesse sulla base dalle modalità di addestramento dei sistemi di algoritmi, penalizzanti per le minoranze.
di Deborah Raji 13-12-20
Mi è stato spesso detto: "I dati non mentono". Tuttavia, questa non è mai stata la mia esperienza. Per me, i dati mentono quasi sempre. I risultati della ricerca di immagini di Google per "pelle sana" mostrano solo donne dalla pelle chiara e una query sulle “ragazze nere" le avvicina al mondo della pornografia. Il set di dati sui volti di CelebA ha etichette di "naso grande" e "labbra grandi" che sono assegnate in modo sproporzionato a volti femminili dalla pelle più scura come il mio. I modelli formati da ImageNet mi etichettano come una "persona cattiva", una "tossicodipendente" o una "fallita". Nei set di dati per la rilevazione del cancro della pelle mancano campioni di tipi di pelle più scura