Il modello è stato creato per rilevare quando si sta “meditando” un crimine.
Una società di telecomunicazioni statunitense ha addestrato un modello di intelligenza artificiale su anni di telefonate e videochiamate dei detenuti e ora sta testando tale modello per analizzare le loro chiamate, i loro messaggi di testo e le loro e-mail nella speranza di prevedere e prevenire i crimini.
Il presidente di Securus Technologies, Kevin Elder, ha dichiarato al MIT Technology Review che la società ha iniziato a sviluppare i propri strumenti di intelligenza artificiale nel 2023, utilizzando il suo enorme database di chiamate registrate per addestrare modelli di intelligenza artificiale a rilevare attività criminali. Ha creato un modello, ad esempio, utilizzando sette anni di chiamate effettuate dai detenuti nel sistema carcerario del Texas, ma sta lavorando alla creazione di altri modelli specifici per stati o contee.
Nell’ultimo anno, afferma Elder, Securus ha testato gli strumenti di intelligenza artificiale per monitorare le conversazioni dei detenuti in tempo reale. L’azienda ha rifiutato di specificare dove ciò avvenga, ma tra i suoi clienti figurano carceri che ospitano persone in attesa di processo e prigioni per coloro che stanno scontando una pena. Alcune di queste strutture che utilizzano la tecnologia Securus hanno anche accordi con l’Immigrations and Customs Enforcement (ICE) per detenere gli immigrati, anche se Securus non ha un contratto diretto con l’ICE.
“Possiamo puntare quel grande modello linguistico su un intero tesoro [di dati]”, afferma Elder, “per individuare e comprendere quando si sta pensando o contemplando un crimine, in modo da poterlo intercettare molto prima nel ciclo”.
Come per gli altri strumenti di monitoraggio, secondo Elder gli investigatori delle strutture di detenzione possono utilizzare le funzionalità di intelligenza artificiale per monitorare conversazioni selezionate in modo casuale o quelle di individui sospettati di attività criminali dagli investigatori della struttura. Il modello analizzerà le telefonate, le videochiamate, i messaggi di testo e le e-mail, quindi segnalerà le sezioni che devono essere esaminate dagli agenti umani. Questi agenti le invieranno poi agli investigatori per un follow-up.
In un’intervista, Elder ha affermato che le attività di monitoraggio di Securus hanno contribuito a contrastare il traffico di esseri umani e le attività delle bande organizzate all’interno delle carceri, tra gli altri reati, e ha aggiunto che i suoi strumenti vengono utilizzati anche per identificare il personale penitenziario che introduce merce di contrabbando. Tuttavia, l’azienda non ha fornito al MIT Technology Review alcun caso specifico scoperto dai suoi nuovi modelli di intelligenza artificiale.
Le persone in carcere e coloro che chiamano vengono informati che le loro conversazioni vengono registrate. Ma questo non significa che siano consapevoli che tali conversazioni potrebbero essere utilizzate per addestrare un modello di IA, afferma Bianca Tylek, direttrice esecutiva del gruppo di difesa dei diritti dei detenuti Worth Rises.
“Si tratta di un consenso coercitivo; non c’è letteralmente nessun altro modo per comunicare con la propria famiglia”, afferma Tylek. E poiché nella stragrande maggioranza degli Stati i detenuti pagano per queste chiamate, aggiunge, “non solo non li si compensa per l’uso dei loro dati, ma in realtà li si fa pagare mentre si raccolgono i loro dati”.
Un portavoce di Securus ha affermato che l’uso dei dati per addestrare lo strumento “non è incentrato sulla sorveglianza o sul targeting di individui specifici, ma piuttosto sull’identificazione di modelli più ampi, anomalie e comportamenti illegali nell’intero sistema di comunicazione”. Ha aggiunto che le strutture penitenziarie determinano le proprie politiche di registrazione e monitoraggio, che Securus segue, e non ha risposto direttamente alla domanda se i detenuti possano scegliere di non far utilizzare le loro registrazioni per addestrare l’IA.
Altri difensori dei detenuti sostengono che Securus abbia una storia di violazioni delle loro libertà civili. Ad esempio, alcune fughe di notizie dai suoi database di registrazioni hanno rivelato che l’azienda aveva registrato in modo improprio migliaia di chiamate tra i detenuti e i loro avvocati. Corene Kendrick, vicedirettrice del National Prison Project dell’ACLU, afferma che il nuovo sistema di IA consente un sistema di sorveglianza invasiva e che i tribunali hanno specificato pochi limiti a questo potere.
“Riusciremo a fermare il crimine prima che avvenga perché monitoriamo ogni parola e ogni pensiero delle persone incarcerate?”, si chiede Kendrick. “Penso che questa sia una delle tante situazioni in cui la tecnologia è molto più avanti della legge”.
Il portavoce dell’azienda ha affermato che la funzione dello strumento è quella di rendere più efficiente il monitoraggio in caso di carenza di personale, “non di sorvegliare le persone senza motivo”.
Securus avrà più facilità a finanziare il suo strumento di intelligenza artificiale grazie alla recente vittoria dell’azienda in una battaglia con le autorità di regolamentazione su come le società di telecomunicazioni possono spendere il denaro che raccolgono dalle chiamate dei detenuti.
Nel 2024, la Commissione Federale delle Comunicazioni ha emanato un’importante riforma, elaborata e lodata dai sostenitori dei diritti dei detenuti, che vietava alle società di telecomunicazioni di trasferire i costi di registrazione e sorveglianza delle chiamate sui detenuti. Le aziende potevano continuare ad addebitare ai detenuti una tariffa massima per le chiamate, ma le prigioni e i penitenziari erano tenuti a pagare la maggior parte dei costi di sicurezza con i propri bilanci.
Le reazioni negative a questo cambiamento non si sono fatte attendere. Le associazioni degli sceriffi (che in genere gestiscono le carceri di contea) si sono lamentate di non potersi più permettere un adeguato monitoraggio delle chiamate e i procuratori generali di 14 stati hanno fatto causa contro la sentenza. Alcune prigioni e carceri hanno avvertito che avrebbero interrotto l’accesso alle telefonate.
Mentre sviluppava e testava il suo strumento di intelligenza artificiale, Securus ha tenuto incontri con la FCC e ha fatto pressioni per una modifica delle norme, sostenendo che la riforma del 2024 era eccessiva e chiedendo all’agenzia di consentire nuovamente alle aziende di utilizzare le tariffe riscosse dai detenuti per pagare la sicurezza.
A giugno, Brendan Carr, nominato dal presidente Donald Trump alla guida della FCC, ha dichiarato che avrebbe posticipato tutte le scadenze per l’adozione delle riforme del 2024 da parte delle carceri e dei penitenziari, e ha persino segnalato che l’agenzia intende aiutare le società di telecomunicazioni a finanziare le loro attività di sorveglianza basate sull’intelligenza artificiale con le tariffe pagate dai detenuti. In un comunicato stampa, Carr ha scritto che il ritiro delle riforme del 2024 “porterebbe a una più ampia adozione di strumenti utili per la sicurezza pubblica, tra cui l’intelligenza artificiale avanzata e l’apprendimento automatico”.
Il 28 ottobre l’agenzia è andata oltre: ha votato per approvare nuovi limiti tariffari più elevati e consentire ad aziende come Securus di trasferire sui detenuti i costi di sicurezza relativi alla registrazione e al monitoraggio delle chiamate, come ad esempio l’archiviazione delle registrazioni, la loro trascrizione o la creazione di strumenti di intelligenza artificiale per analizzare tali chiamate. Un portavoce di Securus ha dichiarato al MIT Technology Review che l’azienda mira a trovare un equilibrio tra l’accessibilità economica e la necessità di finanziare strumenti essenziali per la sicurezza. “Questi strumenti, che includono le nostre avanzate capacità di monitoraggio e intelligenza artificiale, sono fondamentali per mantenere la sicurezza delle strutture per i detenuti e il personale penitenziario e per proteggere il pubblico”, hanno scritto.
La commissaria della FCC Anna Gomez ha dissentito dalla sentenza del mese scorso. “Le forze dell’ordine”, ha scritto in una dichiarazione, “dovrebbero pagare i costi di sicurezza e protezione non correlati, non le famiglie delle persone incarcerate”.
La FCC chiederà un parere su queste nuove norme prima che entrino definitivamente in vigore.
