Un’azienda israeliana ha proposto una tecnologia che si affida al Dna per ricostruire i lineamenti di un volto e riconoscerlo. Al di là dei legittimi dubbi d’ordine scientifico sulla praticabilità di questa strada, i critici avanzano perplessità sul modello di società che ci aspetta
di Tate Ryan-Mosley
Un agente di polizia è sulla scena di un omicidio. Nessun testimone. Nessun filmato della telecamera. Nessun sospetto o movente evidente. Solo un po’ di capelli sulla manica della giacca della vittima. Il DNA delle cellule di un filamento viene copiato e confrontato con un database. Non si trova alcuna corrispondenza e il caso viene chiuso.
Corsight AI, una sussidiaria dell’azienda israeliana di intelligenza artificiale Cortica, ritiene di avere la soluzione per questo tipo di situazioni grazie al DNA che permette di creare un modello di un volto eseguito da un sistema di riconoscimento facciale. È un compito, però, che gli esperti del settore considerano scientificamente insostenibile.
All’interni di una map road aziendale, l’amministratore delegato di Corsight, Robert Watts, e il vicepresidente esecutivo Ofer Ronen hanno presentato il loro prodotto “DNA to Face” all’Imperial Capital Investors Conference di New York City, il 15 dicembre. Secondo IPVM, il gruppo leader di ricerca sulla sorveglianza, che ha condiviso il documento con “MIT Technology Review”, lo strumento “costruisce un profilo fisico analizzando il materiale genetico raccolto in un campione di DNA”.
I materiali di marketing mostrano che l’azienda è focalizzata sulle applicazioni del governo e delle forze dell’ordine per la sua tecnologia. Il suo comitato consultivo è composto infatti da James Woolsey, un ex direttore della CIA, e Oliver Revell, un ex vicedirettore dell’FBI. Ancora si stanno mettendo a punto i presupposti scientifici del futuro sistema, ma gli esperti già affermano che il prodotto aggraverebbe i problemi di etica, privacy e pregiudizi legati da sempre alla tecnologia di riconoscimento facciale. Desta ulteriori preoccupazioni, la strategia di fondo in cui il rilevamento dei volti diventa la strategia principale per identificare le persone con qualsiasi mezzo disponibile, anche impreciso.
L’articolo è stato scritto in collaborazione con Donald Maye di IPVM che ha riferito di non essere stato a conoscenza, prima della presentazione di Corsight, del fatto che un’azienda stava tentando di commercializzare un prodotto di riconoscimento facciale associato a un campione di DNA.
Un passato molto discusso
L’idea di Corsight non è del tutto nuova. Human Longevity, un’azienda di “intelligence sanitaria basata sulla genomica” fondata da due celebrità della Silicon Valley del calibro di Craig Venter e Peter Diamandis, ha affermato di aver utilizzato nel 2017 il Dna per fare delle previsioni sui volti.
“MIT Technology Review” ha riferito che gli esperti avevano avanzato dei dubbi. Un ex dipendente di Human Longevity ha affermato che l’azienda dovrebbe porsi dei problemi etici a scegliere il genoma di una persona e Yaniv Erlich, chief science officer della piattaforma genealogica MyHeritage, ha pubblicato un articolo in cui critica la ricerca.
Una piccola azienda informatica che lavora sul DNA, Parabon NanoLabs, fornisce alle forze dell’ordine rappresentazioni fisiche di persone derivate da campioni di DNA attraverso una linea di prodotti chiamata Snapshot, che include genealogia genetica e rendering 3D di un volto (Parabon pubblica alcuni esempi sul suo sito web con confronti tra foto di persone che le autorità sono interessate a trovare e rendering prodotti dall’azienda).
Le rappresentazioni generate al computer da Parabon sono inoltre dotate di una serie di caratteristiche fenotipiche, come il colore degli occhi e della pelle, a cui viene assegnato un punteggio di affidabilità: per esempio, una probabilità dell’80 per cento che la persona ricercata abbia gli occhi azzurri. Nei modelli di volto vengono anche inseriti fattori non genetici, come peso ed età, quando possibile.
Il sito Web di Parabon afferma che il suo software sta aiutando a risolvere in media un caso alla settimana, ed Ellen McRae Greytak, direttrice del settore bioinformatico dell’azienda, afferma di aver risolto oltre 200 casi negli ultimi sette anni, anche se la maggior parte grazie al contributo della genealogia genetica.
Parabon non include l’AI per il riconoscimento facciale nel suo servizio di fenotipizzazione e stabilisce che i suoi clienti dei dipartimenti di polizia non dovrebbero utilizzare le immagini che genera dai campioni di DNA come input nei sistemi di riconoscimento facciale.
La tecnologia di Parabon “non dice il numero esatto di millimetri tra gli occhi o il rapporto tra occhi, naso e bocca”, afferma Greytak. Senza questo livello di accuratezza, gli algoritmi di riconoscimento facciale non possono fornire risultati affidabili, ma derivare misurazioni così precise dal DNA richiederebbe scoperte scientifiche fondamentalmente nuove. Greytak dice che Parabon predice solo la forma generale del viso di qualcuno, anche se viene messa in dubbio anche la fattibilità scientifica di tale previsione.
È noto che la polizia esegue schizzi forensi basati sulle descrizioni dei testimoni attraverso sistemi di riconoscimento facciale. Uno studio del 2019 del Center on Privacy and Technology della Georgetown Law ha rilevato che almeno una mezza dozzina di dipartimenti di polizia negli Stati Uniti “permettono, se non incoraggiano” l’utilizzo di schizzi forensi, disegnati a mano o generati dal computer, come foto di input per i sistemi di riconoscimento facciale. Gli esperti di intelligenza artificiale hanno avvertito che un tale processo probabilmente porta a livelli di accuratezza inferiori.
Secondo una presentazione disponibile online, Corsight è stato anche criticata in passato per aver esagerato le capacità e l’accuratezza del suo sistema di riconoscimento facciale, che definisce il “sistema di riconoscimento facciale più etico nel caso di condizioni difficili”. In una demo tecnologica per IPVM, lo scorso novembre, il CEO di Corsight Watts ha affermato che il sistema di riconoscimento facciale di Corsight può “identificare qualcuno con un passamontagna”.
IPVM ha riferito che l’utilizzo dell’AI di Corsight su un viso mascherato ha raggiunto un’affidabilità del 65 per cento. Problemi più ampi con l’accuratezza della tecnologia di riconoscimento facciale sono stati ben documentati, anche da “MIT Technology Review”. Sono più pronunciati quando le fotografie sono scarsamente illuminate o scattate ad angoli estremi e quando i soggetti hanno la pelle più scura, sono donne o sono molto vecchi o molto giovani. I sostenitori della privacy hanno criticato la tecnologia di riconoscimento facciale, in particolare i sistemi di Clearview AI che sfruttano i social media come parte del loro motore di abbinamento.
L’uso della tecnologia da parte delle forze dell’ordine è particolarmente gravoso: Boston, Minneapolis e San Francisco sono tra le molte città che l’hanno vietata. Amazon e Microsoft hanno smesso di vendere prodotti di riconoscimento facciale alla polizia e IBM ha ritirato dal mercato il suo software di riconoscimento facciale.
“Pseudoscienza”
“A mio parere, l’idea di creare qualcosa con il livello di granularità e fedeltà necessari per eseguire una ricerca di corrispondenza facciale è assurda”, afferma Albert Fox Cahn, avvocato per i diritti civili e direttore esecutivo del Surveillance Technology Oversight Project, che lavora da tempo su questioni relative ai sistemi di riconoscimento facciale. “Stiamo parlando di pseudoscienza”.
Dzemila Sero, ricercatrice del Computational Imaging Group del Centrum Wiskunde & Informatica, l’istituto di ricerca nazionale per la matematica e l’informatica nei Paesi Bassi, afferma che la scienza per supportare un tale sistema non è ancora sufficientemente sviluppata, almeno non pubblicamente. Citando lo studio del 2017 di Human Longevity, Sero sostiene che il catalogo dei geni necessari per produrre rappresentazioni accurate dei volti da campioni di DNA è attualmente incompleto.
Inoltre, fattori come l’ambiente e l’invecchiamento hanno effetti sostanziali sui volti che non possono essere catturati attraverso la fenotipizzazione del DNA e la ricerca ha dimostrato che i singoli geni non influenzano l’aspetto del viso di qualcuno tanto quanto il sesso e la discendenza. “I tentativi prematuri di implementare questa tecnica probabilmente minerebbero la fiducia e il supporto alla ricerca genomica e non porterebbero alcun beneficio per la società“, ha detto Sero in una e-mail a “MIT Technology Review”.
La ricercatrice ha studiato il concetto inverso del sistema di Corsight, vale a dire “partire dalla faccia per arrivare al DNA”, facendo corrispondere una serie di fotografie 3D con un campione di DNA. In un articolo su “Nature”, Sero e il suo team hanno riportato tassi di accuratezza compresi tra l’80 e l’83 per cento.
Sero afferma, tuttavia, che il suo lavoro non dovrebbe essere utilizzato dai pubblici ministeri come prova incriminante, e che “questi metodi sollevano anche rischi innegabili di ulteriori disparità razziali nella giustizia penale che giustificano cautela contro l’applicazione prematura delle tecniche fino a quando non saranno in atto adeguate salvaguardie”.
Le forze dell’ordine dipendono dai set di dati del DNA, principalmente da GEDmatch, un servizio online per confrontare i file di dati del DNA autosomico di diverse aziende di test, che è stato determinante nella ricerca del famigerato “Golden State Killer”. Ma anche il campionamento del DNA, un tempo considerato l’unica forma di prova scientificamente rigorosa dal National Research Council statunitense, è stato recentemente oggetto di critiche per mancanza di accuratezza.
Fox Cahn, che attualmente sta facendo causa al dipartimento di polizia di New York per ottenere documenti relativi a pregiudizi nell’uso della tecnologia di riconoscimento facciale, afferma che l’impatto dell’ipotetico sistema di Corsight sarebbe disastroso. “È facile immaginare come potrebbe portare a scenari orwelliani“, afferma.
Il futuro della tecnologia di riconoscimento facciale
Nonostante tali preoccupazioni, il mercato della tecnologia di riconoscimento facciale è in crescita e le aziende stanno cercando di conquistare i clienti. Corsight è solo uno dei tanti servizi di corrispondenza delle foto con nuove funzionalità appariscenti, indipendentemente dal fatto che abbiano dimostrato di funzionare.
Molti di questi nuovi prodotti cercano di integrare il riconoscimento facciale con altre forme di riconoscimento. L’azienda russa NtechLab, per esempio, offre sistemi che identificano le persone in base alle loro targhe e ai lineamenti del viso, e il fondatore Artem Kuharenko ha dichiarato lo scorso anno a “MIT Technology Review” che i suoi algoritmi cercano di “estrarre quante più informazioni dal flusso video.
In questi sistemi, il riconoscimento facciale diventa solo una parte di un apparato in grado di identificare le persone con una serie di tecniche, fondendo le informazioni personali attraverso database collegati in una sorta di panopticon di dati.
Il DNA di Corsight sembra essere l’incursione dell’azienda nella costruzione di un pacchetto di sorveglianza completo e futuristico da offrire ai potenziali acquirenti. Ma anche se il mercato di tali tecnologie si espande, Corsight e altri si espongono al rischio di commercializzare tecnologie di sorveglianza afflitte da pregiudizi e imprecisioni.
(rp)
