Confermare quali utenti sono minorenni è politicamente delicato e tecnicamente complicato. Ecco cosa ci dicono le mosse di OpenAI e della FTC.
In che modo le aziende tecnologiche verificano se i loro utenti sono bambini?
Questa domanda ha assunto recentemente una nuova urgenza grazie alla crescente preoccupazione per i pericoli che possono sorgere quando i bambini parlano con i chatbot dotati di intelligenza artificiale. Per anni le grandi aziende tecnologiche hanno chiesto la data di nascita (che si poteva inventare) per evitare di violare le leggi sulla privacy dei minori, ma non erano tenute a moderare i contenuti di conseguenza. Due sviluppi della scorsa settimana mostrano quanto rapidamente stiano cambiando le cose negli Stati Uniti e come questa questione stia diventando un nuovo campo di battaglia, anche tra i genitori e i sostenitori della sicurezza dei minori.
Da una parte c’è il Partito Repubblicano, che ha sostenuto leggi approvate in diversi stati che richiedono ai siti con contenuti per adulti di verificare l’età degli utenti. I critici sostengono che ciò fornisca una copertura per bloccare tutto ciò che è ritenuto “dannoso per i minori”, compresa l’educazione sessuale. Altri Stati, come la California, stanno perseguendo le aziende di IA con leggi volte a proteggere i bambini che parlano con i chatbot (richiedendo loro di verificare chi è un bambino). Nel frattempo, il presidente Trump sta cercando di mantenere la regolamentazione dell’IA una questione nazionale, piuttosto che consentire agli Stati di stabilire le proprie regole. Il sostegno a vari progetti di legge al Congresso è in costante evoluzione.
Cosa potrebbe succedere? Il dibattito si sta rapidamente spostando dalla necessità della verifica dell’età alla responsabilità di chi dovrà occuparsene. Questa responsabilità è una patata bollente che nessuna azienda vuole assumersi.
In un post sul blog pubblicato martedì scorso, OpenAI ha rivelato che intende introdurre la previsione automatica dell’età. In breve, l’azienda applicherà un modello che utilizza fattori come l’ora del giorno, tra gli altri, per prevedere se una persona che sta chattando ha meno di 18 anni. Per coloro che vengono identificati come adolescenti o bambini, ChatGPT applicherà dei filtri per “ridurre l’esposizione” a contenuti come la violenza grafica o i giochi di ruolo sessuali. YouTube ha lanciato qualcosa di simile lo scorso anno.
Se siete favorevoli alla verifica dell’età ma siete preoccupati per la privacy, questa potrebbe sembrare una soluzione vincente. Ma c’è un inconveniente. Il sistema non è perfetto, ovviamente, quindi potrebbe classificare un bambino come adulto o viceversa. Le persone erroneamente etichettate come minori di 18 anni possono verificare la loro identità inviando un selfie o un documento d’identità ufficiale a un’azienda chiamata Persona.
Le verifiche tramite selfie presentano alcuni problemi: falliscono più spesso per le persone di colore e quelle con determinate disabilità. Sameer Hinduja, co-direttore del Cyberbullying Research Center, afferma che il fatto che Persona dovrà conservare milioni di documenti d’identità e una grande quantità di dati biometrici è un altro punto debole. “Se questi dati venissero violati, esporremmo contemporaneamente una popolazione enorme”, afferma.
Hinduja sostiene invece la verifica a livello di dispositivo, in cui un genitore specifica l’età del figlio quando configura il telefono del bambino per la prima volta. Queste informazioni vengono poi conservate sul dispositivo e condivise in modo sicuro con app e siti web.
Questo è più o meno ciò che Tim Cook, CEO di Apple, ha recentemente chiesto ai legislatori statunitensi. Cook si è opposto ai legislatori che volevano obbligare gli app store a verificare l’età degli utenti, il che avrebbe comportato una grande responsabilità per Apple.
Mercoledì arriveranno ulteriori segnali sulla direzione che prenderà la questione, quando la Federal Trade Commission, l’agenzia responsabile dell’applicazione di queste nuove leggi, terrà un workshop di un’intera giornata sulla verifica dell’età. Sarà presente Nick Rossi, responsabile degli affari governativi di Apple. Sarà affiancato dai vertici della sicurezza dei minori di Google e Meta, nonché da un’azienda specializzata nel marketing rivolto ai bambini.
La FTC è diventata sempre più politicizzata sotto la presidenza Trump (il licenziamento dell’unico commissario democratico è stato annullato da un tribunale federale, una decisione che è ora in attesa di revisione da parte della Corte Suprema degli Stati Uniti). A luglio ho scritto di alcuni segnali che indicavano un ammorbidimento della posizione dell’agenzia nei confronti delle aziende di IA. Infatti, a dicembre, la FTC ha ribaltato una sentenza dell’era Biden contro un’azienda di IA che permetteva alle persone di inondare Internet di recensioni false sui prodotti, scrivendo che era in contrasto con il piano d’azione sull’IA del presidente Trump.
Il workshop di mercoledì potrebbe far luce su quanto sarà partigiano l’approccio della FTC alla verifica dell’età. Gli stati repubblicani sono favorevoli a leggi che impongono ai siti web pornografici di verificare l’età degli utenti (ma i critici avvertono che ciò potrebbe essere utilizzato per bloccare una gamma molto più ampia di contenuti). Bethany Soye, una rappresentante repubblicana dello stato che sta guidando uno sforzo per approvare una legge di questo tipo nel suo stato del South Dakota, è prevista come relatrice alla riunione della FTC. L’ACLU si oppone in generale alle leggi che impongono l’identificazione per visitare i siti web e ha invece sostenuto un ampliamento dei controlli parentali esistenti.
Mentre tutto questo viene discusso, però, l’intelligenza artificiale ha messo in subbuglio il mondo della sicurezza dei minori. Ci troviamo di fronte a un aumento della produzione di materiale pedopornografico, a preoccupazioni (e cause legali) relative a suicidi e autolesionismo a seguito di conversazioni con chatbot e a prove inquietanti del legame che i bambini instaurano con i compagni di intelligenza artificiale. Le posizioni contrastanti su privacy, politica, libertà di espressione e sorveglianza complicheranno qualsiasi tentativo di trovare una soluzione. Scrivetemi per farmi conoscere la vostra opinione.
