Quando gli algoritmi sbagliano

Robert Williams, che è stato arrestato ingiustamente a causa di un errore nel sistema di riconoscimento facciale, ha promosso una causa legale in cui chiede che la tecnologia venga bandita. 

di Tate Ryan Mosley 

Il 9 gennaio 2020, la polizia di Detroit si è recata nel sobborgo di Farmington Hill e ha arrestato Robert Williams nel vialetto di casa sua davanti alla moglie e alle giovani figlie con l’accusa di aver rubato orologi da Shinola, un negozio di lusso. L’uomo di colore è stato tenuto in prigione  la notte.

Durante l’interrogatorio, un agente ha mostrato a Williams la foto di un sospetto. La sua risposta, come ha detto all’ACLU, un’organizzazione non governativa per la difesa dei diritti civili e delle libertà individuali, è stata: “Questo non sono io. Spero che non pensiate che tutte le persone di colore si assomiglino”. L’agente avrebbe risposto: “Il computer l’ha riconosciuta”.

L’arresto illegale di Williams, segnalato per la prima volta dal “New York Times” nell’agosto del 2020, si basava su una errata corrispondenza del sistema di riconoscimento facciale del dipartimento di polizia di Detroit. Da allora sono stati resi pubblici altri due casi simili. Entrambi riguardano uomini neri e in tutti e due i casi è stata intrapresa un’azione legale. 

Ora Williams sta seguendo il loro percorso e sta andando oltre, non solo citando in giudizio il dipartimento per il suo arresto illecito, ma cercando di bandire la tecnologia. Qualche giorno fa, l’ACLU e la Civil Rights Litigation Initiative della University of Michigan Law School hanno intentato una causa per conto di Williams, sostenendo che l’arresto ha violato i suoi diritti stabiliti dal quarto emendamento e la legge sui diritti civili del Michigan.

La causa richiede un risarcimento, una maggiore trasparenza sull’uso del riconoscimento facciale e la fine dell’uso di questa tecnologia da parte del Dipartimento di Polizia di Detroit, sia in forme dirette che indirette.

Le ragioni della denuncia

I documenti depositati illustrano dettagliatamente il caso. Nel marzo del 2019, il DPD aveva un’immagine sgranata di un uomo di colore con un berretto rosso ripresa dal video di sorveglianza di Shinola attraverso il suo sistema di riconoscimento facciale, realizzato da un’azienda chiamata DataWorks Plus. Il sistema ha restituito una corrispondenza con una vecchia foto della patente di guida di Williams. 

Inoltre, un appaltatore della sicurezza della Shinola (che non era presente al momento del furto) ha identificato Williams come il ladro. Gli ufficiali della polizia hanno ottenuto un mandato, che richiede più firme dalla direzione del dipartimento, e Williams è stato arrestato. Nella denuncia si sostiene che il falso arresto di Williams è stato un risultato diretto del sistema di riconoscimento facciale e che “questo arresto illecito e il caso di reclusione esemplificano i gravi danni causati dall’uso improprio della tecnologia di riconoscimento facciale”. 

La causa contiene quattro casi d’imputazione, tre dei quali si concentrano sulla mancanza di una ragione plausibile per l’arresto mentre uno si sofferma sulle disparità razziali legate al riconoscimento facciale. “Impiegando una tecnologia che ha dimostrato empiricamente di identificare erroneamente i neri a tassi molto più alti rispetto ad altri gruppi di persone”, si afferma, “il DPD ha negato al signor Williams il pieno e uguale godimento dei servizi del dipartimento di polizia di Detroit a causa della sua etnia”.

Le difficoltà della tecnologia di riconoscimento facciale nell’identificare le persone dalla pelle più scura sono ben documentate. Dopo l’uccisione di George Floyd a Minneapolis nel 2020, alcune città e stati hanno annunciato divieti e moratorie sull’uso del riconoscimento facciale da parte della polizia. Ma molti altri, inclusa Detroit, hanno continuato a usarlo nonostante le crescenti preoccupazioni. 

Le immagini sono spesso scadenti

Quando, l’anno scorso, “MIT Technology” ha parlato con l’avvocato dell’ACLU, Phil Mayor, si è evidenziato che i problemi di razzismo all’interno delle forze dell’ordine americane hanno reso il problema della tecnologia di riconoscimento facciale ancora più preoccupante. A suo parere, “questa è una situazione in cui abbiamo un sistema giudiziario penale che è estremamente veloce ad accusare, ma estremamente lento nel proteggere i diritti delle persone, specialmente quando si parla di persone di colore”.

Eric Williams, un avvocato dell’Economic Equity Practice di Detroit, afferma che le fotocamere hanno molti limiti tecnologici, non ultimo il fatto che sono codificate con gamme di colori per riconoscere il tono della pelle e spesso semplicemente non possono elaborare la pelle più scura.

“Penso che ogni persona di colore nel paese abbia avuto l’esperienza di essere in una foto e l’immagine risulta non nitida”, dice Williams, che è un membro del comitato degli avvocati dell’ACLU del Michigan, ma non sta lavorando su il caso di Robert Williams. “L’illuminazione è uno dei fattori principali quando si tratta della qualità di un’immagine. Quindi il fatto che le forze dell’ordine facciano affidamento, in una certa misura, su immagini davvero scadenti è problematico”. 

Ci sono stati casi che hanno messo in discussione algoritmi distorti e tecnologie di intelligenza artificiale sulla base della razza. Facebook, per esempio, è stata sottoposta a una costante verifica del rispetto dei diritti civili dopo che si è scoperto che i suoi algoritmi pubblicitari mirati diffondono annunci sulla base di razza, sesso e religione. 

YouTube è stata citata in giudizio in una causa collettiva da artisti di colore, secondo i quali i suoi sistemi di intelligenza artificiale profilano gli utenti e censurano o discriminano i contenuti sulla base della razza. YouTube è stato anche citata in giudizio da artisti LGBTQ+ che hanno affermato che i sistemi di moderazione dei contenutihanno contrassegnato le parole “gay” e “lesbica”

Alcuni esperti dicono che era solo questione di tempo prima che l’uso di una tecnologia parziale da parte di una grande istituzione come la polizia si trovasse di fronte a sfide legali. “L’uso del riconoscimento facciale da parte del governo ha chiaramente un impatto diverso contro le persone di colore”, afferma Adam Schwartz, avvocato della Electronic Frontier Foundation. “Uno studio dopo l’altro mostra che questa pericolosa tecnologia ha tassi molto più alti di falsi positivi per le persone di colore rispetto ai bianchi. Pertanto, l’uso governativo di questa tecnologia viola le leggi che vietano al governo di adottare pratiche con impatti disparati”.

Ma Mayor, l’avvocato di Williams, si aspetta una dura battaglia. L’anno scorso ha dichiarato a “MIT Technology Review” che era sicuro che il dipartimento di polizia di Detroit avrebbe continuato a sostenere la validità del riconoscimento facciale come strumento investigativo. “Il caso Williams dimostra che non è affatto vero”, ha detto. 

Una tecnologia al microscopio 

In una dichiarazione, Lawrence Garcia, l’avvocato della città di Detroit, ha affermato che il riconoscimento facciale non è da biasimare per quanto successo. “Come ha spiegato il capo della polizia, l’arresto è stato il risultato di indagini scadenti e non di una tecnologia difettosa”, ha detto Garcia. “Il dipartimento di polizia di Detroit ha condotto un’indagine interna e ha portato avanti accuse di condotta negligente nei confronti di diversi membri del dipartimento. Nuovi protocolli sono stati messi in atto dal DPD per evitare che si verifichino di nuovo problemi simili”.

Ma la causa Williams arriva in un momento critico nel rapporto tra questioni razziali e polizia negli Stati Uniti. È stata depositata quando gli avvocati della difesa hanno iniziato le discussioni nel processo contro Derek Chauvin, l’ufficiale accusato di aver ucciso George Floyd a Minneapolis lo scorso maggio, e il terzo giorno di proteste in risposta alla uccisione di Daunte Wright nel vicino Brooklyn Center, Minnesota. Wright, un uomo di colore di 20 anni, è stato fermato in strada e arrestato su mandato prima che l’agente Kim Potter sparasse e lo uccidesse, presumibilmente scambiando la sua pistola per un taser. 

“Quando il DPD ha deciso di acquistare la tecnologia già si sapeva che i sistemi di riconoscimento facciale erano inclini a identificare erroneamente le persone dalla pelle più scura. Nonostante ciò, in una città che è nera per oltre l’80 per cento, hanno scelto di utilizzare questa tecnologia. In questo modo”, conclude Eric Williams, “si sta chiaramente dando meno valore alle vite e alle libertà civili dei neri rispetto ai bianchi. Succede troppo spesso negli Stati Uniti”.

foto: Robert WilliamsACLU

Related Posts
Total
0
Share