L’idea già nota di rendere open source gli algoritmi del social network potrebbe introdurre nuovi rischi per la sicurezza, facendo poco per aumentare la trasparenza
Chris Stokel-Walker
Poche ore dopo che Twitter ha annunciato che avrebbe accettato l’offerta di acquisto di Elon Musk, il CEO di SpaceX ha chiarito i suoi piani per il social network. In un comunicato stampa, Musk ha delineato i cambiamenti radicali che intendeva apportare, inclusa l’apertura degli algoritmi che determinano ciò che gli utenti vedono nel loro feed.
L’ambizione di Musk di rendere open source gli algoritmi di Twitter è guidata dalla sua preoccupazione di lunga data per la potenziale censura politica sulla piattaforma, ma è improbabile che questa mossa ottenga l’effetto che desidera. Invece, potrebbe portare una serie di problemi imprevisti, avvertono gli esperti.
Al di là del rapporto di Musk con l’autorità, il suo desiderio di trasparenza algoritmica coincide con i desideri dei politici di tutto il mondo. L’idea è stata una pietra angolare dei tentativi di più governi di combattere contro la Big Tech negli ultimi anni. Per esempio, Melanie Dawes, amministratore delegato di Ofcom, l’autorità che regola i social media nel Regno Unito, ha affermato che le piattaforme di social media dovranno spiegare come funziona il loro codice.
Anche la legge del 23 aprile sui servizi digitali approvata di recente dall’Unione europea obbligherà le piattaforme a offrire maggiore trasparenza. Negli Stati Uniti, i senatori democratici hanno avanzato proposte per l’Algorithmic Accountability Act nel febbraio 2022. Il loro obiettivo è portare nuova trasparenza e supervisione degli algoritmi che governano le nostre linee temporali e i feed di notizie, e molto altro ancora.
Consentire all’algoritmo di Twitter di essere visibile agli altri e adattabile ai concorrenti, in teoria significa che qualcuno potrebbe semplicemente copiare il codice sorgente di Twitter e rilasciare una versione con un nome diverso. Gran parte di Internet funziona con software open source, il più famoso è OpenSSL, un toolkit di sicurezza utilizzato da gran parte del Web, che nel 2014 ha subito una grave violazione della sicurezza.
Esistono già esempi di social network open source. Mastodon, una piattaforma di microblogging creata dopo che sono emerse le preoccupazioni per la posizione dominante di Twitter, consente agli utenti di ispezionare il suo codice, che è pubblicato sul repository del software GitHub. Ma vedere il codice dietro un algoritmo non ne svela necessariamente il funzionamento e certamente non offre alla persona media molte informazioni sulle strutture e sui processi aziendali che concorrono alla sua creazione.
Inoltre, non esiste un solo algoritmo che controlli Twitter. “Alcuni di loro determineranno ciò che le persone vedranno timeline in termini di tendenze, contenuti o contatti suggeriti”, afferma Catherine Flick, ricercatrice di informatica della De Montfort University nel Regno Unito. Gli algoritmi a cui le persone saranno principalmente interessate sono quelli che controllano quale contenuto appare nelle timeline degli utenti, ma anche questo non sarà estremamente utile senza i dati di addestramento.
“Appare evidente che quello che interessa veramente è il modo in cui gli algoritmi sono stati sviluppati”, afferma Jennifer Cobbe, una ricercatrice dell’Università di Cambridge. Ciò è in gran parte dovuto alla preoccupazione che gli algoritmi di intelligenza artificiale possano perpetuare i pregiudizi umani contenuti nei dati utilizzati per addestrarli. Chi sviluppa algoritmi e quali dati utilizza possono fare una differenza significativa dal punto di vista dei risultati.
Per Cobbe, i rischi superano i potenziali benefici. Il codice del computer non ci fornisce alcuna informazione su come gli algoritmi sono stati addestrati o testati, quali fattori o considerazioni sono stati coinvolti o quali tipi di aspetti hanno avuto la priorità nel processo, quindi l’open-sourcing potrebbe non fare una differenza significativa per la trasparenza su Twitter. Nel frattempo, potrebbe introdurre alcuni significativi rischi per la sicurezza.
Le aziende pubblicano spesso valutazioni d’impatto che sondano e testano i loro sistemi di protezione dei dati per evidenziare punti deboli e difetti. Quando vengono scoperti, vengono riparati, ma i dati vengono spesso oscurati per prevenire rischi per la sicurezza. Gli algoritmi di Twitter open source renderebbero l’intera base di codice del sito Web accessibile a tutti, consentendo potenzialmente ai malintenzionati di esaminare il software e trovare vulnerabilità da sfruttare.
Gli algoritmi di Twitter open-source potrebbero creare un altro problema, vale a dire fornire più strumenti di conoscenza del sistema ai malintenzionati, rendendo difficile uno degli altri obiettivi dichiarati di Musk: “sconfiggere tutti i bot spam”. “Il rischio non è tanto legato allo svelamento del funzionamento del codice dell’algoritmo, quanto alla possibilità di discernere come Twitter imposta i post sulle linetime degli utenti“, afferma Eerke Boiten, professore di cybersicurezza alla De Monfort University.
Ci sono altre conseguenze indesiderate più preoccupanti. Una delle preoccupazioni principali è che gli inevitabili contrasti che si creeranno quando le persone cercheranno, in modo amatoriale, di analizzare l’algoritmo. Ciò potrebbe portare a dibattiti ancora più velenosi e infruttuosi. “L’open source dell’algoritmo non risolverà alcun problema con i pregiudizi”, dice Flick, “e agire per correggere i pregiudizi sarà senza dubbio visto attraverso una lente politica e non tecnologica, come dimostra un recente articolo dei ricercatori di Twitter, in cui si evidenzia come gli algoritmi promuovano più prontamente i contenuti di destra rispetto a quelli di sinistra”.
Immagine: AP
(rp)
