La storia dell'AI raccontata dai protagonisti

I Was There When, un nuovo progetto di racconti del podcast In Machines We Trust, presenta storie sulle scoperte nell'intelligenza artificiale e nell'informatica, raccontate dalle persone che le hanno vissute in prima persona. La giornalista Jennifer Strong ha incontrato Joseph Atick, che ha contribuito a creare il primo sistema di riconoscimento facciale commercialmente valido.

Sono Jennifer Strong, ospite del podcast In Machines We Trust. Nella prima puntata del progetto "I was there when" abbiamo ospitato Joseph Atick, l'uomo che ha contribuito a creare il primo sistema di riconoscimento facciale commercialmente valido, negli anni 1990.

Joseph Atick: Oggi sono il presidente esecutivo di ID for Africa, un'organizzazione umanitaria che si occupa di fornire alle persone in Africa un'identità digitale in modo che possano accedere ai servizi ed esercitare i propri diritti. Ma non ho sempre lavorato nel campo umanitario. Dopo aver conseguito il dottorato in matematica, insieme ai miei collaboratori ho fatto alcune scoperte fondamentali, che hanno portato al primo riconoscimento facciale commercialmente valido.

Ecco perché le persone si riferiscono a me come il padre fondatore del riconoscimento facciale e dell'industria biometrica. L'algoritmo che descrive il modo in cui un cervello umano riconoscerebbe i volti familiari è diventato chiaro mentre facevamo ricerca matematica, nel periodo in cui ero all'Institute for Advanced Study di Princeton. Ma allora era lontano dall'avere un'idea di come implementare una scoperta del genere. 

È seguto un lungo periodo di mesi di programmazione e fallimento, nuova programmazione e nuovo fallimento. Infine una notte abbiamo completato una versione dell'algoritmo e abbiamo inviato il codice sorgente per la compilazione per ottenere un codice di esecuzione. Sono uscito per andare in bagno e quando sono tornato nella stanza il codice sorgente era stato compilato dalla macchina.

Di solito, lo eseguiva automaticamente. Al rientro in stanza, il sistema ha individuato la mia faccia, l'ha estratta dallo sfondo e ha detto: "Vedo Joseph”. È stato un passaggio cruciale, in cui diversi anni di lavoro hanno finalmente portato a una svolta, anche se in teoria non era necessaria alcuna ulteriore svolta. Solo il fatto di aver capito come implementarlo e aver visto che funzionava, è stato molto, molto gratificante e soddisfacente. 

Avevamo sviluppato un team che si era concentrato sullo sviluppo, sul mettere tutte queste capacità in una piattaforma PC. Quella è stata la vera nascita, nel 1994, del riconoscimento facciale commerciale. 

Le preoccupazioni sono iniziate molto rapidamente. Ho immaginato un futuro in cui non c'era modo di sottrarsi alla proliferazione di fotocamere e le capacità di elaborazione dei computer miglioravano geometricamente. E così nel 1998, ho fatto pressioni sull'industria e ho detto che dovevamo stabilire dei principi per un uso responsabile. Per un po' mi sono tranquillizzato, perché avevamo adottato questo codice di utilizzo responsabile da seguire qualunque fosse stata l'implementazione. 

Tuttavia, quel codice non ha resistito alla prova del tempo. E il motivo è che non avevamo previsto l'emergere dei social media. Fondamentalmente, nel momento in cui abbiamo stabilito il codice nel 1998, abbiamo detto che l'elemento più importante in un sistema di riconoscimento facciale era il database taggato di persone conosciute. Avevamo pensato allora: se non sono nel database.

E’ stato difficile costruire il database. Al massimo ne potevamo approntare 10.000-20.000 perché ogni immagine doveva essere scansionata e inserita a mano. Ora, con la possibilità di taggare, siamo in un mondo in cui ogni speranza di controllare e richiedere a tutti di essere responsabili nell'uso del riconoscimento facciale è difficile. E allo stesso tempo, non manca di certo la possibilità di raccogliere volti su internet, come fanno regolarmente alcune aziende. Nel 2011, ho iniziato a farmi prendere dal panico perché il mondo si stava muovendo in una direzione in cui il riconoscimento facciale sarebbe stato onnipresente, con i volti ovunque disponibili nei database.

All'epoca la gente diceva che ero un allarmista, ma oggi si stanno rendendo conto che è esattamente quello che sta succedendo. Ho fatto pressioni per provvedimenti legislativi che rendano un reato usare la faccia di qualcuno senza il suo consenso. Non è più solo una questione tecnologica. Non possiamo permettere che la tecnologia vada troppo avanti.

La questione del consenso continua ad essere una delle più spinose quando si tratta di tecnologia. Il solo preavviso non mi sembra sufficiente. Per me il consenso deve essere informato. Gli utenti devono capire le conseguenze di quanto sottoscritto per non sentirsi dire: “Ve lo abbiamo detto e, se non aveste voluto, avreste potuto fare altre scelte”.

Trovo anche che sia facile lasciarsi sedurre da tecnologiche appariscenti che potrebbero darci un vantaggio a breve termine nelle nostre vite. Quando ci si rende conto di aver rinunciato a qualcosa di prezioso, si è arrivati al punto in cui non ci si può tirare indietro. Questo è ciò che mi preoccupa. Mi inquieta il fatto che il riconoscimento facciale passi attraverso Facebook, Apple e altri. Non sto dicendo che sia tutto illegittimo. Anzi, molto è legittimo.

Siamo arrivati a una fase in cui il pubblico in generale potrebbe essere diventato indifferente e desensibilizzato perché è circondato di applicazioni. Ma la situazione cambierà quando i media cominceranno a riferire di casi di persone perseguitate. Penso che ci siano molte responsabilità nelle nostre mani. Quindi ritengo che la questione del consenso continuerà a essere un problema per l'industria. E finché questa domanda non avrà una risposta, si devono stabilire dei limiti su cosa si può fare con questa tecnologia. 
 
Il riconoscimento facciale, come lo conosciamo oggi, risale al 1994, ma la maggior parte delle persone pensa che sia stato inventato da Facebook e dagli algoritmi di apprendimento automatico, che sono ora proliferando in tutto il mondo. A un certo punto, ho dovuto dimettermi dall'incarico di CEO perché stavo limitando l'uso della tecnologia che la mia azienda stava promuovendo a causa della paura di conseguenze negative per l'umanità. Sono dell'opinione che gli scienziati devono avere il coraggio di proiettarsi nel futuro e vedere le conseguenze del loro lavoro. 

Non sto dicendo che dovrebbero smettere di fare scoperte. No, sto solo sostenendo che dovremmo essere onesti con noi stessi e avvertire il mondo e i responsabili politici che queste svolte hanno vantaggi e svantaggi. E quindi, nell'usare questa tecnologia, abbiamo bisogno di una sorta di guida e framework per assicurarci che sia incanalata per un'applicazione positiva e non negativa.

(rp)