La possibilità di osservare i passaggi eseguiti da una rete neurale prima prendere una decisione potrebbe gettare una luce sul loro modo di pensare.
di Will Knight
Ricercatori di Google hanno sviluppato un metodo per scrutare nella mente di reti di apprendimento approfondito, e i risultati sono deliziosamente strani.
La procedura: In un paper pubblicato sul giornale Distill, i ricercatori mostrano come svariate tecniche abbinate fra loro possano offrire uno scorcio più chiaro del processo decisionale di una rete neurale. Nel caso della classificazione di immagini, l’approccio permette a una persona di visualizzare gli elementi di una immagine su cui una rete si concentra per determinare cosa stia osservando, se un gatto o un cane. Come si intravede nell’immagine a fianco, le visualizzazioni sono alquanto singolari.
Il problema: L’apprendimento approfondito è un metodo molto efficace nell’insegnare alle macchine come riconoscere immagini, tradurre testo e quant’altro. Allo stesso tempo, però, è un processo incredibilmente vago, il che potrebbe rappresentare un serio problema nel caso in cui si volesse utilizzarlo per rilevare lo svilupparsi di un cancro in un paziente; per decidere se concedere o meno un prestito; oppure controllare un’automobile a guida autonoma. La possibilità di visualizzare le decisioni prese da un sistema di riconoscimento delle immagini potrebbe rivelarsi particolarmente utile in caso di errore da parte di un’automobile autonoma. Persino in caso di errore, gli esseri umani tendono a voler sapere perché una particolare decisione è stata presa.
Chiare incertezze: Non tutti ritengono che le reti neurali approfondite debbano essere interpretabili. In un recente dibattito, ad esempio, Yann Lecunn, capo della dipartimento per l’intelligenza artificiale di Facebook, ha detto che, piuttosto che cercare di comprendere i processi reconditi delle reti neurali approfondite dovremmo concentrarci semplicemente sul loro comportamento; un’idea interessante, magari. Dopotutto, non siamo sempre in grado di motivare le nostre decisioni.
