Un nuovo studio ha scoperto che gli algoritmi di valutazione del rischio sono talvolta migliori delle persone nel prevedere se un criminale verrà arrestato nuovamente entro due anni dall’uscita dal carcere.
di Charlotte Jee
I ricercatori dell’Università di Stanford e dell’Università della California, a Berkeley, hanno riproposto un esperimento del 2018 in cui persone senza formazione erano valide quanto un programma software di valutazione del rischio ampiamente utilizzato chiamato COMPAS. Gli algoritmi di valutazione del rischio sono addestrati sui dati storici di chi ha commesso un reato e dovrebbero aiutare i giudici a determinare se un imputato debba essere tenuto in prigione o essere autorizzato a uscire in attesa del processo.
Il team ha utilizzato un set di dati delle valutazioni del rischio di COMPAS che coprono circa 7.000 imputati reali e lo ha utilizzato per creare profili per ognuno. Questi profili sono stati mostrati a 400 sperimentatori reclutati attraverso l’Amazon Mechanical Turk, chiedendo loro di decidere se pensavano che la persona avrebbe commesso un altro crimine. Lo studio del 2018 ha rilevato che COMPAS aveva un livello di accuratezza di circa il 65 per cento contro il 67 per cento dei neofiti. Il nuovo studio ha replicato da vicino questi risultati.
Ma questa volta l’esperimento originale è stato modificato ed esteso. Per esempio, il team ha verificato se rivelare ulteriori informazioni sugli imputati, dare o rifiutare feedback dopo ogni seduta e limitarsi solo ai crimini violenti poteva fare la differenza. I risultati hanno mostrato che se gli umani non ricevono un feedback sulle loro previsioni o se ottengono molte informazioni aggiuntive su ciascun imputato, l’algoritmo si dimostrava ogni volta più accurato.
Gli autori osservano che nella vita reale, gli umani raramente ricevono un feedback immediato sulle loro decisioni riguardo agli imputati e quindi questo potrebbe essere un confronto più realistico. La ricerca è descritta in un articolo su “Science Advances”.
Una cosa sembra essere chiara: inesattezza e pregiudizio si insinuano nelle previsioni indipendentemente dal fatto che siano state fatte da umani o algoritmi. Tuttavia, la differenza sta nella responsabilità. Laddove le persone possono fare appello contro le decisioni dei giudici, è molto più difficile contestare le decisioni prese da algoritmi, che vengono gradualmente utilizzati per prendere decisioni importanti anche in altri settori oltre la giustizia.
Per questo motivo si lavora costantemente sugli algoritmi, anche se non si tratta di una panacea come in genere si pensa che sia. I gruppi impegnati nella difesa della privacy in Europa sono riusciti a frenare i governi dall’adottare algoritmi poco affidabili in alcuni casi di alto profilo, ma negli Stati Uniti è più difficile opporsi a queste politiche.
(rp)
