L’IA come strumento per combattere i pregiudizi

Dall’inizio della pandemia, un numero crescente di aziende si è rivolto all’intelligenza artificiale per una consulenza nella assunzione di lavoratori, facendo leva su sistemi che prevedono l’utilizzo di algoritmi di scansione facciale, giochi, domande o altre valutazioni per scegliere tra i candidati.

di Tanya Basu

Mentre attivisti e studiosi avvertono che questi strumenti di screening possono perpetuare la discriminazione, i produttori stessi sostengono che l’assunzione con l’ausilio degli algoritmi aiuta a correggere i pregiudizi umani. Gli algoritmi possono essere testati e ottimizzati, mentre i pregiudizi umani sono molto più difficili da modificare, o almeno questo è il pensiero prevalente. 

In un articolo del dicembre 2019, i ricercatori di Cornell hanno esaminato il panorama delle aziende di screening algoritmico per analizzarne affermazioni e comportamenti. Delle 18 identificate con i siti web in lingua inglese, la maggior parte si presentava come un’alternativa più equa al sistema di assunzioni basate sugli operatori umani.

Ma la discriminazione non è l’unica preoccupazione e alcuni studiosi temono che il linguaggio di marketing incentrato sui pregiudizi consenta alle aziende di evitare di affrontare altre questioni, come i diritti dei lavoratori. Una nuova pubblicazione, in fase di prestampa, di una di queste aziende ora serve da importante promemoria.

“Non dovremmo permettere che l’attenzione prestata ai pregiudizi e alle discriminazioni impedisca di prendere in esame altre questioni”, afferma Solon Barocas, professore associato della Cornell University e responsabile del gruppo di ricerca di Microsoft Research, che studia equità e responsabilità algoritmica. 

L’azienda in questione è l’australiana PredictiveHire, fondata nell’ottobre 2013, che propone un chatbot che pone ai candidati una serie di domande aperte e ne analizza le risposte per valutare i tratti della personalità legati al lavoro come “motivazione”, “iniziativa” e “resilienza”. Secondo l’amministratore delegato dell’azienda, Barbara Hyman, i suoi clienti sono datori di lavoro che devono gestire un gran numero di applicazioni, come quelle di vendita al dettaglio, call center e assistenza sanitaria. 

Come ha scoperto lo studio della Cornell, vengono utilizzate attivamente promesse di assunzioni più equilibrate nel suo linguaggio di marketing. Sulla sua home page, compare questa spavalda pubblicità: “Prova Phai. Il tuo copilota per le assunzioni. E’ SUPER RAPIDO. INCLUSIVO, AGGIORNATO. E SOPRATTUTTO, SENZA PREGIUDIZI”.

Come spiegato in precedenza, l’idea di algoritmi “senza pregiudizi” è decisamente fuorviante. In ogni caso, l’ultima ricerca di PredictiveHire suscita preoccupazioni per una ragione diversa. Si concentra sulla costruzione di un nuovo modello di apprendimento automatico che cerca di prevedere la probabilità che un candidato voglia cambiare occupazione più frequentemente di quanto desideri il datore di lavoro. 

Questo studio viene a ridosso della recente ricerca peer-reviewed dell’azienda che ha esaminato la correlazione tra le domande dell’intervista aperta e la personalità (già al centro di serie contestazioni). Poiché gli psicologi del lavoro hanno già mostrato un legame tra personalità e opportunità lavorative, afferma Hyman, l’azienda voleva testare se poteva utilizzare i loro dati esistenti per la previsione. “La fidelizzazione dei dipendenti è un punto focale per molte aziende con cui lavoriamo, visti i costi legati agli alti tassi di abbandono dei dipendenti, stimati al 16 per cento del costo dello stipendio di ciascun dipendente”, egli spiega.

Lo studio ha utilizzato le risposte a testo libero di 45.899 candidati che avevano utilizzato il chatbot di PredictiveHire. Inizialmente ai candidati erano state poste da cinque a sette domande aperte e domande di autovalutazione sulla loro esperienza passata e sulle situazioni lavorative. Alcune di queste domande si riferivano a caratteristiche psicologiche che precedenti studi avevano correlato con la tendenza al cambiamento, come essere più aperti all’esperienza e scarsa concretezza. 

I ricercatori dell’azienda affermano che il modello è stato in grado di prevedere la volontà di cambiare spesso lavoro con significato statistico. Il sito Web di PredictiveHire sta già pubblicizzando questa ricerca come un sistema di valutazione del “rischio del continuo cambiamento“.

Il nuovo lavoro di PredictiveHire è un ottimo esempio di ciò che Nathan Newman sostiene sia uno dei maggiori impatti negativi dei big data sul lavoro. Newman, professore aggiunto presso il John Jay College of Criminal Justice, ha scritto in un documento legale del 2017 che oltre a scopi di discriminazione occupazionale, l’analisi dei big data era stata utilizzata anche per ridurre i salari dei lavoratori.

I test della personalità basati sull’apprendimento automatico, per esempio, vengono sempre più utilizzati nelle assunzioni per escludere potenziali dipendenti che presentano una maggiore probabilità di chiedere aumenti di salari o iscriversi ai sindacati. I datori di lavoro stanno monitorando sempre di più le e-mail, le chat e altri dati dei dipendenti per valutare quali potrebbero voler cambiare lavoro e calcolare l’aumento di paga minimo necessario per farli rimanere. I sistemi di gestione algoritmica come quello di Uber stanno tenendo i lavoratori lontani dagli uffici e dagli spazi assembleari per impedire loro di coordinarsi e di avanzare insieme richieste salariali.

Nessuno di questi esempi dovrebbe essere sorprendente, ha affermato Newman. Sono semplicemente una manifestazione moderna di ciò che i datori di lavoro hanno storicamente fatto per tenere bassi i salari, boicottando le attività sindacali. L’uso delle valutazioni della personalità nelle assunzioni, che risale agli anni 1930 negli Stati Uniti, iniziò infatti come un meccanismo per eliminare le persone che molto probabilmente sarebbero potuti diventare sindacalisti. I test divennero particolarmente popolari negli anni 1960 e 1970, quando gli psicologi del lavoro li avevano perfezionati per valutare i lavoratori per le loro simpatie sindacali.

In questo contesto, la valutazione del rischio di conflittualità di PredictiveHire è solo un altro esempio di questa tendenza. “La minaccia di cambiare lavoro”, sottolinea Barocas, “è uno dei modi principali in cui i lavoratori sono in grado di migliorare il proprio salario. Il professore della Cornell University crede che l’obiettivo di far funzionare meglio il sistema delle assunzioni sia nobile e potrebbe essere raggiunto se i legislatori imponessero una maggiore trasparenza

Attualmente questi strumenti non sono ancora stati sottoposti a una valutazione rigorosa, egli spiega, ma se le aziende fossero più disponibili a rendere pubbliche le loro azioni, sarebbe più facile per gli esperti studiare l’impatto degli strumenti sia sul lavoro sia sulla discriminazione.

Immagine: Screenshot di PredictiveHire

Related Posts
Total
0
Share