L’adozione di questa tecnologia ha messo in allarme i sostenitori delle libertà civili, soprattutto perché il governo ha promesso di ampliare la sorveglianza di manifestanti e studenti.
La polizia e le agenzie federali hanno trovato un nuovo e controverso modo per aggirare il crescente mosaico di leggi che limitano l’uso del riconoscimento facciale: un modello di intelligenza artificiale in grado di tracciare le persone utilizzando attributi come le dimensioni del corpo, il sesso, il colore e lo stile dei capelli, i vestiti e gli accessori.
Lo strumento, chiamato Track e realizzato dalla società di analisi video Veritone, è utilizzato da 400 clienti, tra cui dipartimenti di polizia statali e locali e università di tutti gli Stati Uniti. Si sta espandendo anche a livello federale: i procuratori statunitensi del Dipartimento di Giustizia hanno iniziato a utilizzare Track per le indagini penali lo scorso agosto. Secondo l’azienda, la più ampia suite di strumenti di intelligenza artificiale di Veritone, che include il riconoscimento facciale in buona fede, è utilizzata anche dal Dipartimento della Sicurezza Nazionale, che ospita le agenzie di immigrazione, e dal Dipartimento della Difesa.
“L’idea alla base di Track è che se non possiamo tracciare i volti delle persone, come possiamo aiutare a identificare i criminali o i comportamenti o le attività dannose?”, spiega Ryan Steelberg, CEO di Veritone. Oltre a tracciare gli individui in cui il riconoscimento facciale non è legalmente consentito, Steelberg afferma che il sistema consente di tracciare i volti quando questi sono oscurati o non visibili.
Il prodotto ha attirato le critiche dell’American Civil Liberties Union che, dopo essere venuta a conoscenza dello strumento attraverso MIT Technology Review, ha dichiarato che si tratta del primo caso di sistema di tracciamento non biometrico utilizzato su scala statunitense. L’associazione ha avvertito che il sistema solleva molti degli stessi problemi di privacy del riconoscimento facciale, ma ne introduce di nuovi in un momento in cui l’amministrazione Trump sta spingendo le agenzie federali ad aumentare il monitoraggio di manifestanti, immigrati e studenti.
Veritone ci ha fornito una dimostrazione di Track, che analizza le persone in filmati provenienti da ambienti diversi, dalle rivolte del 6 gennaio alle stazioni della metropolitana. È possibile utilizzarlo per trovare le persone specificando le dimensioni del corpo, il sesso, il colore e lo stile dei capelli, le scarpe, i vestiti e vari accessori. Lo strumento è poi in grado di assemblare linee temporali, tracciando una persona in diversi luoghi e feed video. È possibile accedervi attraverso le piattaforme cloud di Amazon e Microsoft.
In un’intervista, Steelberg ha dichiarato che il numero di attributi che Track utilizza per identificare le persone continuerà a crescere. Quando gli è stato chiesto se Track distingue in base alla tonalità della pelle, un portavoce dell’azienda ha risposto che è uno degli attributi che l’algoritmo utilizza per distinguere le persone, ma che al momento il software non consente agli utenti di cercare le persone in base al colore della pelle. Track funziona attualmente solo su video registrati, ma Steelberg sostiene che l’azienda è a meno di un anno dal poterlo utilizzare su video in diretta.
Le agenzie che utilizzano Track possono aggiungere filmati provenienti dalle telecamere della polizia, dai droni, dai video pubblici su YouTube o dai cosiddetti filmati caricati dai cittadini (ad esempio dalle telecamere private o dai telefoni cellulari) in risposta alle richieste della polizia.
“Ci piace chiamarla la nostra applicazione Jason Bourne”, dice Steelberg. Si aspetta che la tecnologia venga messa sotto esame nei casi giudiziari, ma dice: “Spero che stiamo scagionando le persone tanto quanto stiamo aiutando la polizia a trovare i cattivi”. Il settore pubblico rappresenta attualmente solo il 6% delle attività di Veritone (la maggior parte dei suoi clienti sono aziende del settore dei media e dell’intrattenimento), ma l’azienda afferma che si tratta del mercato in più rapida crescita, con clienti in California, Washington, Colorado, New Jersey e Illinois.
Questa rapida espansione ha iniziato a destare allarme in alcuni ambienti. Jay Stanley, analista politico senior presso l’ACLU, ha scritto nel 2019 che l’intelligenza artificiale un giorno avrebbe accelerato il noioso compito di setacciare i filmati di sorveglianza, consentendo un’analisi automatica indipendentemente dal fatto che si sia verificato un crimine. Da allora, molte aziende tecnologiche della polizia hanno realizzato sistemi di analisi video in grado di rilevare, ad esempio, quando una persona entra in una determinata area. Tuttavia, secondo Stanley, Track è il primo prodotto che ha visto rendere tecnologicamente fattibile su scala vasta il monitoraggio di determinate persone.
“Si tratta di una tecnologia potenzialmente autoritaria”, afferma. “Una tecnologia che dà grandi poteri alla polizia e al governo e che renderà loro più facile, senza dubbio, risolvere alcuni crimini, ma che renderà anche più facile l’uso eccessivo di questa tecnologia e il suo potenziale abuso”.
Secondo Stanley, le possibilità di una simile sorveglianza abusiva sono particolarmente elevate in questo momento nelle agenzie federali in cui Veritone ha dei clienti. Il mese scorso il Dipartimento per la Sicurezza Nazionale ha dichiarato che monitorerà le attività sui social media degli immigrati e utilizzerà le prove che vi troverà per negare visti e carte verdi, mentre l’Immigrations and Customs Enforcement ha arrestato attivisti in seguito a dichiarazioni o apparizioni a proteste pro-palestinesi.
In un’intervista, Jon Gacek, direttore generale del settore pubblico di Veritone, ha dichiarato che Track è uno “strumento di selezione” destinato a velocizzare il compito di identificare parti importanti dei video, non uno strumento di sorveglianza generale. Veritone non ha specificato quali gruppi all’interno del Dipartimento di Sicurezza Nazionale o di altre agenzie federali utilizzano Track. I Dipartimenti della Difesa, della Giustizia e della Sicurezza Nazionale non hanno risposto alle richieste di commento.
Per i dipartimenti di polizia, questo strumento amplia notevolmente la quantità di video che possono essere utilizzati nelle indagini. Mentre il riconoscimento facciale richiede filmati in cui i volti siano chiaramente visibili, Track non ha questa limitazione. Nathan Wessler, avvocato dell’ACLU, sostiene che questo significa che la polizia potrebbe passare al setaccio video che prima non erano interessati.
“Crea una scala e una natura categoricamente nuove di invasione della privacy e di potenziale abuso che non sono mai state possibili prima d’ora nella storia dell’umanità”, afferma Wessler. “Non si tratta di accelerare ciò che un poliziotto può fare, ma di creare una capacità che nessun poliziotto ha mai avuto prima”.
L’espansione di Track avviene in concomitanza con la diffusione di leggi che limitano l’uso del riconoscimento facciale, a causa di arresti errati in cui gli agenti si sono fidati eccessivamente dei giudizi degli algoritmi. Numerosi studi hanno dimostrato che tali algoritmi sono meno accurati con i volti non bianchi. Le leggi del Montana e del Maine limitano fortemente i casi in cui la polizia può utilizzarli – non è consentito in tempo reale con video in diretta – mentre a San Francisco e Oakland, in California, il riconoscimento facciale è quasi completamente vietato. Track offre un’alternativa.
Sebbene tali leggi facciano spesso riferimento ai “dati biometrici”, Wessler afferma che questa espressione è ben lungi dall’essere chiaramente definita. In genere si riferisce a caratteristiche immutabili come il volto, l’andatura e le impronte digitali piuttosto che a elementi che cambiano, come i vestiti. Ma alcuni attributi, come le dimensioni del corpo, rendono meno chiara questa distinzione.
Considerate anche, dice Wessler, una persona che in inverno indossa spesso gli stessi stivali, cappotto e zaino. “Il loro profilo sarà sempre lo stesso, giorno dopo giorno”, afferma Wessler. “Il potenziale per tracciare una persona nel tempo in base a come si muove in un insieme di diversi feed video salvati è piuttosto equivalente al riconoscimento facciale”.
In altre parole, Track potrebbe fornire un modo per seguire qualcuno che solleva molte delle stesse preoccupazioni del riconoscimento facciale, ma non è soggetto alle leggi che limitano l’uso del riconoscimento facciale perché non coinvolge tecnicamente i dati biometrici. Steelberg ha detto che ci sono diversi casi in corso che includono prove video di Track, ma che non può fare i nomi dei casi o commentare ulteriormente. Per il momento, quindi, non è chiaro se il sistema venga adottato in giurisdizioni in cui il riconoscimento facciale è vietato.
