La pandemia di coronavirus ha creato un’impennata nella domanda di strumenti di controllo degli esami, ma ci sono buone ragioni perché le università smettano di utilizzarli.
di Shea Swauger
La pandemia di coronavirus è stata un vantaggio per l’industria del controllo dei test. Circa una mezza dozzina di aziende negli Stati Uniti affermano che il loro software può rilevare e prevenire con precisione gli imbrogli nei test online. Examity. HonorLock, Proctorio, ProctorU, Respondus e altre aziende sono cresciute rapidamente da quando i college e le università sono passati alle classi remote.
Anche se non esiste un conteggio ufficiale, è ragionevole affermare che milioni di test controllati algoritmicamente vengono effettuati ogni mese in tutto il mondo. A maggio, Proctorio ha dichiarato al “New York Times” che gli affari erano aumentati del 900 per cento durante i primi mesi della pandemia, al punto che l’azienda ha controllato 2,5 milioni di test in tutto il mondo nel solo mese di aprile.
Sono una bibliotecaria universitaria e ho visto da vicino l’impatto di questi sistemi. Il mio datore di lavoro, l’Università del Colorado Denver, ha un contratto con Proctorio. Mi è diventato chiaro che il proctoring algoritmico, vale a dire il sistema di supervisione, è una moderna tecnologia di sorveglianza che rafforza le teorie suprematiste, il sessismo, la discriminazione verso i disabili e la transfobia. L’uso di questi strumenti costituisce un’invasione della privacy degli studenti e, spesso, una violazione dei diritti civili.
Se sei uno studente che esegue un test controllato da algoritmi, ecco come funziona: quando inizi, il software inizia a registrare la fotocamera del tuo computer, l’audio e i siti web che visiti. Ti osserva per tutta la durata dell’esame, monitorando i tuoi movimenti per identificare ciò che considera comportamenti fraudolenti. Se fai qualcosa che il software ritiene sospetto, chiede al tuo professore di visualizzare la registrazione e fornisce una valutazione, secondo una scala di colori, della tua cattiva condotta.
A seconda di quale azienda ha prodotto il software, utilizzerà una combinazione di apprendimento automatico, intelligenza artificiale e biometria (incluso riconoscimento facciale, rilevamento facciale o tracciamento degli occhi) per fare tutto questo. Il problema è che il riconoscimento facciale e il rilevamento hanno dimostrato in più occasioni di essere razzisti, sessisti e transfobici.
In generale, la tecnologia ha un modello per rafforzare l’oppressione strutturale e questi stessi pregiudizi si stanno manifestando nel software di controllo dei test che danneggia in modo sproporzionato gli studenti emarginati. Una donna di colore della mia università una volta mi disse che quando utilizzava il software di monitoraggio dei test di Proctorio, le veniva sempre chiesto di illuminare di più suo viso. Il software non poteva convalidare la sua identità e le veniva negato l’accesso ai test così spesso che doveva andare dal suo professore per prendere altri accordi. I suoi coetanei bianchi non hanno mai avuto questo problema.
Tipi simili di discriminazione possono verificarsi se uno studente è trans o non binario. Ma se si parla di un uomo bianco cisgender (come la maggior parte degli sviluppatori che realizzano software di riconoscimento facciale), probabilmente non ci saranno problemi. Anche gli studenti con figli sono penalizzati da questi sistemi. Rispondere alle e-mail mentre ci si prende cura dei bambini non è facile. Ma diversi programmi di sorveglianza segnaleranno i rumori nella stanza o chiunque esca dalla visuale della telecamera come atteggiamenti negativi. Ciò significa che anche gli studenti con problemi medici che devono usare il bagno o prendere farmaci frequentemente vengono discriminati.
Al di là di tutti i modi in cui il software di supervisione può discriminare gli studenti, anche il proctoring algoritmico rappresenta una significativa violazione della privacy. Questi prodotti filmano gli studenti nelle loro case e spesso richiedono loro di completare le “scansioni della stanza”, che implicano l’uso della fotocamera per mostrare l’ambiente circostante.
In molti casi, i professori possono accedere alle registrazioni dei loro studenti in qualsiasi momento e persino scaricare queste registrazioni sui loro computer personali. Possono anche vedere la posizione di ogni studente in base al loro indirizzo IP.
La privacy è fondamentale per i bibliotecari come me perché gli utenti si affidano a noi con i loro dati. Dopo l’11 settembre, quando il Patriot Act ha autorizzato il Dipartimento per la sicurezza interna degli Stati Uniti ad accedere ai registri degli utenti delle biblioteche nella loro ricerca di terroristi, molti bibliotecari hanno iniziato a utilizzare un software che cancellava il record di un utente una volta restituito un libro. I prodotti che violano la privacy delle persone e le discriminano vanno contro la mia etica professionale ed è preoccupante vedere tali prodotti adottati con entusiasmo dagli istituti di istruzione superiore.
Questo zelo sarebbe leggermente più comprensibile se ci fosse qualche prova che questi programmi hanno effettivamente realizzato quanto promettono. Per quanto ne so, non esiste un singolo studio sottoposto a revisione dei pari o controllato che dimostri che il software di proctoring rileva o previene efficacemente gli imbrogli. Dato che le università sono orgogliose di prendere decisioni basate sulle prove, questa è una contraddizione lampante.
Fortunatamente, ci sono movimenti organizzati per vietare il software di proctoring e le tecnologie di riconoscimento facciale nei campus, nonché progetti di legge del Congresso per vietare al governo federale degli Stati Uniti di utilizzare il riconoscimento facciale. Ma anche se questa tecnologia fosse bandita, il software di sorveglianza potrebbe ancora esistere come programma che tiene traccia dei movimenti degli occhi e del corpo degli studenti.
Anche se meno apertamente razzista, discriminerebbe comunque le persone con disabilità, i genitori che allattano e le persone neuroatipiche. Questi prodotti non possono essere modificati in corso d’opera, ma devono essere abbandonati. L’imbroglio non è la minaccia per la società che le aziende di proctoring dei test vorrebbero farci credere. Non diluisce il valore dei diplomi o degrada la reputazione istituzionale e gli studenti non stanno cercando di barare. L’unica possibilità vera è fidarsi degli studenti.
Shea Swauger è una bibliotecaria accademica e ricercatrice presso l’Università del Colorado, a Denver.
Immagine di: Iris Wang / Unsplash
(rp)
