Algoritmi e sistemi di moderazione delle piattaforme sono imprevedibili. E colpiscono chi propone contenuti che possono scontrarsi con i pregiudizi consolidati
Abby Holheiser
La scorsa estate, un creatore di TikTok di nome Ziggi Tyler ha pubblicato un video in cui denunciava un problema inquietante che ha riscontrato in Creator Marketplace, la piattaforma ufficiale di collaborazione tra brand e creator dell’app. Tyler ha affermato di non essere stata in grado di inserire frasi come “Black Lives Matter” e “supportare l’eccellenza nera” nel suo profilo di Marketplace. Tuttavia, erano consentite frasi come “supremazia bianca” e “sostegno dell’eccellenza bianca”.
Se si trascorre molto tempo su TikTok, è facile incappare in discussioni su tematiche simili. Esistono due modi per cercare di comprendere l’impatto della moderazione dei contenuti e degli algoritmi che applicano tali regole: basandosi su ciò che dice la piattaforma e chiedendo agli stessi creatori. Nel caso di Tyler, TikTok si è scusata e ha incolpato un filtro automatico che era stato impostato per contrassegnare le parole associate all’incitamento all’odio, ma che evidentemente non era in grado di valutare il contesto.
Brooke Erin Duffy, ricercatrice della Cornell University, ha collaborato con lo studente laureato Colten Meisner per intervistare 30 creatori di contenuti su TikTok, Instagram, Twitch, YouTube e Twitter nel periodo in cui il video di Tyler è diventato virale. Volevano sapere come i creatori, in particolare quelli più vicini a gruppi emarginati, navigano negli algoritmi e nei sistemi di moderazione delle piattaforme.
I due intervistatori hanno scoperto che i creatori investono molto tempo nella comprensione degli algoritmi che operano sulle diverse piattaforme. Alcuni creatori adattano produzione e promozione dei contenuti in risposta ai pregiudizi algoritmici e ai sistemi di moderazione che incontrano. “MIT Technology Review” ha rivolto a Duffy alcune domande sulla sua prossima ricerca.
I creatori di contenuti hanno discusso a lungo di come algoritmi e moderazione influenzino la loro visibilità sulle piattaforme che li hanno resi famosi. Cosa l’ha sorpresa di più in queste interviste?
Già prima di formulare le domande avevamo la sensazione che le esperienze dei creatori fossero modellate dalla conoscenza dell’algoritmo, ma dopo aver fatto le interviste, abbiamo davvero iniziato a vedere quanto sia radicata questa tematica nella loro vita quotidiana e nel loro lavoro. E’ impressionante la quantità di tempo, energia e attenzione che dedicano alla comprensione del funzionamento di questi algoritmi, spesso dal comportamento imprevedibile.
Quanto sono condizionati i creatori dalla possibilità di vedere i loro contenuti censurati dal sistema di soppressione algoritmica o dalle pratiche di moderazione?
Moltissimo. Questi algoritmi cambiano a piacimento e sfuggono alla normale logica. In molti casi, non c’è neanche comunicazione diretta da parte delle piattaforme. Il problema è che questo meccanismo ha un impatto diretto sul reddito del creatore di contenuti.
Mi ha fatto molto riflettere il concetto di “divieto ombra”, vale a dire la pratica dei sistemi di moderazione di nascondere o limitare la portata dei contenuti senza informare il suo creatore. Si tratta di una delle principali preoccupazioni che i creatori hanno espresso nel corso degli anni. Che ne pensa?
Alcune persone giurano di essere state vittima di questo tipo di divieto e altre persone invece dicono che è stato eliminato solo un contenuto pessimo. È difficile prendere posizione, perché chiunque può fare affermazioni di questo tipo senza tema di smentita. L’ambiguità del divieto è parte ciò che lo rende così potente. Poiché non c’è modo di provare effettivamente che sia successo qualcosa di simile sulla piattaforma, ciò alimenta molte speculazioni. Ma, che esista o meno questa “censura”, vale la pena prendere sul serio il fatto che le persone agiscano come se esistesse.
Cosa si può fare per risolvere questi problemi?
Le piattaforme pubblicizzano in tutti i loro siti Web i loro vantaggi per i creatori e la possibilità, se si possiede abbastanza talento e i contenuti giusti, di arrivare al successo. I creatori di contenuti stanno guadagnando bene, ma non hanno molto voce in capitolo nelle politiche di moderazione delle piattaforme e sulla disomogeneità di fondo di questo tipo di interventi. La trasparenza radicale è difficile da conseguire, ma penso che i creatori dovrebbero avere una maggiore rappresentanza in termini di decisioni che hanno un impatto fondamentale sulle loro attività.
Image by Eriscolors from Pixabay
(rp)
