Gli algoritmi addestrati nel riconoscimento di schemi fanno fatica a capire il modo di ragionare dei bambini.
di Anthony Green
Nonostante la loro popolarità tra i bambini, i tablet e altri dispositivi connessi sono costruiti su sistemi che non sono stati progettati per consentire loro di comprendere o navigare facilmente. Ma adattare gli algoritmi per interagire con un bambino non è esente da complicazioni, poiché nessun bambino è esattamente uguale a un altro. La maggior parte degli algoritmi di riconoscimento cerca modelli e coerenza per identificare correttamente gli oggetti. Ma i bambini sono notoriamente incoerenti. In questa tavola rotonda, esaminiamo il rapporto che l’AI ha con i bambini.
I partecipanti all’incontro, condotto da Jennifer Strong, sono rispettivamente Judith Danovitch, professore associato di scienze psicologiche e cerebrali presso l’Università di Louisville, Lisa Anthony, professore associato di informatica all’Università della Florida e Tanya Basu, giornalista senior di “MIT Technology Review”.
Jennifer: Non molto tempo fa giocare a campana, giochi da tavolo o organizzare tea party con le bambole era la norma per i bambini…poi abbiamo visto la campana trasformarsi in TikTok… i giochi da tavolo sono diventati videogiochi… e le bambole fanno molto di più che limitarsi ad ascoltare. I bambini sono esposti ai dispositivi quasi dalla nascita e spesso sanno come utilizzare un touchscreen prima di poter camminare. Il problema è che questi sistemi non sono progettati per i bambini. Allora cosa significa questo rapporto che l’AI ha con i bambini, cosa vuol dire invitare Alexa alla festa?
Judith: Come professore associato di scienze psicologiche e cerebrali all’Università di Louisville sono interessata a come pensano i bambini, e in particolare, al loro modo di considerare le fonti di informazione. Per esempio, quando hanno una domanda su qualcosa, come fanno a capire dove trovare la risposta e di quali risposte fidarsi.
Jennifer: Quindi, vedere un pomeriggio suo figlio seduto da solo a parlare con Siri ha suscitato subito il suo interesse. Dice che aveva quattro anni quando ha iniziato a fare domande a Siri.
Judith: Già. Per esempio, domande del tipo: “Come mi chiamo?”. Sembrava che stesse mettendo il sistema alla prova per vedere cosa avrebbe detto in risposta. La parte divertente è che il dispositivo apparteneva a mio marito, il cui nome è Nick. E quindi quando gli ha chiesto: “Come mi chiamo?”, gli ha risposto: “Nick”. Mio figlio ha detto: “No, no, mi chiamo David”. Quindi, il meccanismo era plausibile. Non è successo che Siri dicesse: “non lo so”; in realtà ha dato una risposta, ma era sbagliata.
Jennifer: Poi… ha iniziato a fare domande che non riguardavano solo se stesso.
Judith: Sì. E’ stato davvero interessante perché sembrava che stesse davvero cercando di capire se il dispositivo lo stesse guardando in qualche modo. A quel punto è passato a fare una gamma davvero ampia di domande, alcune delle quali relative ad argomenti di cui avevamo parlato in casa. Quindi le ha chiesto, per esempio, se le aquile mangiano i serpenti. Mi ricordo che lui e mio marito si sno interessati all’argomento di recente, ma le ha posto anche alcune domande davvero profonde, del tipo perché le cose muoiono.
Jennifer: E mentre questo andava avanti… ha iniziato a registrarlo di nascosto .
Judith: Più tardi quel giorno, dopo che ho smesso di registrarlo e aveva perso interesse per questa attività, gli ho fatto delle domande e lui mi ha detto che pensava che ci fosse davvero una persona minuscola lì dentro. Ecco chi era Siri per lui: una persona minuscola all’interno dell’iPad. Ed ecco chi rispondeva alle sue domande. Non aveva un’idea precisa di come funzionasse il sistema. Quindi non è stato in grado di dire, Oh, vengono da Internet. L’aspetto che mi ha più interessato è capire, quando i bambini parlano con questi dispositivi, da dove pensano che provenga l’informazione. E tutto ciò si collega alle domande sulla fiducia in ciò che il dispositivo dice in risposta alla domanda.
Jennifer: Lo stesso tipo di fiducia che i bambini ripongono nei loro genitori e insegnanti.
Judith: In genere i genitori ritengono che i bambini siano creduloni e si fidino di tutto ciò che vedono su Internet. Ma in realtà ciò che abbiamo scoperto sia con la ricerca negli Stati Uniti sia con la ricerca con i bambini in Cina è che i bambini in età prescolare dai quattro ai sei anni sono in realtà molto scettici nei confronti di Internet e, data la possibilità di scegliere, preferiscono consultare una persona.
Jennifer: Ma lei dice che la situazione potrebbe cambiare man mano che i dispositivi ad attivazione vocale diventano sempre più comuni.
Judith: Abbiamo cercato di scoprire se i bambini si comportano con questi dispositivi come fanno con Internet in generale, e stiamo vedendo che potendo scegliere preferiscono chiedere informazioni a una persona, almeno quando l’informazione ha a che fare con domande concrete del tipo: “dove vive qualcosa, da dove vengono queste cose?”. La maggior parte della nostra ricerca si è concentrata sui fatti.
Jennifer: Il cambiamento si vede intorno ai 7 o 8 anni quando i bambini iniziano a fidarsi di più di Internet e degli assistenti vocali. Non è comunque che i bambini credano ai dispositivi il cento per cento delle volte con il crescere dell’età, ma semplicemente ci credono più spesso. Ma perché i bambini più piccoli, quelli con una grande immaginazione, sono più scettici dei ragazzi più grandi?
Judith: Penso che i bambini più piccoli siano titubanti perché questi sono oggetti indubbiamente strani. Per certi versi sono come le persone. Parlano, si può avere con loro una specie di conversazione. Ma per altri aspetti questi dispositivi non assomigliano affatto a una persona. Sembrano una strana scatola. Non hanno una faccia o occhi o qualcosa del genere, che suggerisce che sia un oggetto animato. Quindi, per i bambini piccoli, ha senso essere cauti al riguardo. Meglio chiedere alla madre o all’insegnante che a questa specie di strana cosa sconosciuta.
Jennifer: Alexa mette a disposizione oltre 80.000 competenze negli Stati Uniti… e c’è il supporto degli sviluppatori per le competenze rivolte ai bambini. Sesame Street ne ha ideata una per far giocare i bambini a nascondino con Elmo. E poi c’è un gioco chiamato Kids Court. È un’app sviluppata da Pretzel Labs per i genitori che consente ad Alexa di essere il giudice dei litigi dei loro figli.
Ci sono molte aziende che offrono esperienze connesse progettate per i bambini. Tra questi, i giochi vocali rivolti ai genitori che non vogliono far trascorrere ai figli troppo tempo davanti a uno schermo. Un sistema si chiama Yoto, ma ha molto più in comune con un lettore di cassette che con uno smart speaker. Nuovi contenuti come musica o storie possono essere aggiunti al sistema tramite schede che, una volta inserite nell’altoparlante, attivano un download dai server di Yoto.
Non c’è molto da fare. Non c’è nessun assistente vocale, nessuna fotocamera, nessun microfono… e il suo display pixelato è pensato solo per mostrare l’ora o un’immagine da cartone animato relativa a ciò che sta suonando.
Kate Daniels: La parte migliore è che è così semplice. Voglio dire, il nostro figlio più giovane ha compiuto due anni ieri e sa à gicome usarlo.
Jennifer: Kate e Brian Daniels si sono appena trasferiti da New York a Boston con i loro tre figli al seguito, tutti utenti accaniti di Yoto.
Brian Daniels: Siamo in grado di registrare storie e metterle su carte personalizzate in modo che i bambini possano giocare con le storie che ho inventato. Adorano quando racconto loro delle storie, ma non sono sempre presente a casa, quindi questo sistema consente loro di riprodurre quelle storie in qualsiasi momento.
Jennifer: Le opzioni di intrattenimento senza schermo sono fondamentali per questa famiglia che, a parte la pizza del venerdì sera e un film, non passa molto tempo riunita intorno alla TV. Ma oltre a limitare il tempo sullo schermo, sono tranquillizzati dal fatto che i bambini non si collegano direttamente a Google.
Kate Daniels: Abbiamo il controllo completo su ciò a cui hanno accesso, che è un’altra grande cosa. Abbiamo avuto Alexa per un po’, ma non funzionava bene per noi perché i bambini potevano dire: “Alexa, raccontacelo”, e potevano scegliere quello che volevano e non sapevamo ciò che avrebbero potuto ascoltare. Come genitori, vogliamo davvero curare tutto ciò a cui sono esposti, ma sappiamo che è difficile farlo.
Tanya: Quindi un altro motivo per cui questi giochi vocali stanno diventando più popolari è che sono senza schermo, il che è davvero interessante e importante. Dato che di solito si consiglia ai bambini di non passare più di due ore di tempo davanti allo schermo al giorno. I bambini più piccoli, in particolare, non dovrebbero esservi esposti tanto tempo. E l’intrattenimento basato sull’audio spesso sembra più salutare per i genitori perché garantisce ai bambini la possibilità di essere intrattenuti, di essere educati, di pensare alle cose in un modo diverso senza richiedere la presenza di uno schermo da guardare.
Jennifer: Ma progettare questi sistemi ha altri tipi di complicazioni.
Tanya: Vero. Innanzitutto i bambini stanno imparando a parlare e non hanno una comprensione simile alla nostra di come si sviluppi un dialogo. C’è anche il fatto che i bambini non stanno fermi. Queste considerazioni influenzano il modo in cui gli sviluppatori creano questi giochi. E una cosa importante che molte persone con cui ho parlato hanno menzionato è il fatto che i bambini sono molto differenti tra loro.
Jennifer: Ma la capacità dei bambini di comprendere la complessità non dovrebbe essere sottovalutata.
Tanya: Sono sinceramente sorpresa che non ci siano ancora più giochi per bambini. E sono stupita che siano in prevalenza giochi di tipo narrativo e non, per esempiop, giochi da tavolo o qualcosa di prevalentemente visivo. Vediamo con roblox e molti dei videogiochi più popolari usciti durante la pandemia, quanto siano complessi e il fatto che i bambini possano gestire trame, giochi e movimenti complessi. Ma molti di questi giochi vocali sono semplici e molto di questo è dovuto al fatto che la tecnologia è inesistente. Mi colpisce comunque, finora, la carenza di immaginazione. Quindi sono davvero curiosa di vedere come si svilupperanno questi giochi nei prossimi anni.
Lisa: C’è sempre questa sfida nel proporre una tecnologia ai bambini e aspettarsi che si adattino. L’obiettivo è che i bambini continuino a crescere e svilupparsi e non necessariamente utilizzino l’intelligenza artificiale come una stampella per realizzare questo processo, anche se può fungere da supporto.
Jennifer: Il lavoro di Lisa con i bambini è capire come si comportano in modo diverso con i dispositivi rispetto agli adulti.
Lisa: In effetti, quando toccano il touch screen o vi disegnano, è necessario adattare i nostri algoritmi per riconoscere e interpretare queste interazioni in modo più accurato. Quindi alcune delle sfide sono davvero capire i bisogni, le aspettative e le abilità dei bambini rispetto alla tecnologia, e il processo sarà guidato in gran parte dalle loro capacità motorie, dal progresso dello loro capacità cognitive. Le abilità socio-emotive e il modo in cui interagiscono con il mondo saranno direttamente proporzionali al modo in cui potrebbero interagire con la tecnologia.
Jennifer: Per esempio, la maggior parte dei bambini semplicemente non ha il livello di destrezza e controllo motorio necessari per toccare un piccolo pulsante su un touchscreen, nonostante le loro piccole dita.
Lisa: Ma un adulto potrebbe mettere il dito sul touchscreen, disegnare un quadrato e sollevarlo, in modo che un bambino, specialmente un bambino di cinque, sei anni, ci possa lavorare sopra, poi rimetterlo giù per correggersi e finire. Queste piccole variazioni nel modo in cui si crea una forma possono effettivamente avere un grande impatto sul fatto che il sistema possa riconoscere quella forma se quel tipo di dati non è mai stato utilizzato come parte del processo di addestramento.
Jennifer: La programmazione di questo procedimento in modelli di intelligenza artificiale è fondamentale, perché il riconoscimento della scrittura a mano e i sistemi di tutoraggio intelligenti stanno emergendo sempre più a scuola. La maggior parte degli algoritmi di riconoscimento cerca modelli e sistemi coerenti per identificare gli oggetti. E i bambini sono notoriamente incoerenti.
Se dovessi incaricare un bambino di disegnare cinque quadrati di fila, ognuno sembrerà diverso per un algoritmo. Le esigenze dei bambini cambiano man mano che crescono e questo significa che anche gli algoritmi devono cambiare. I ricercatori stanno ora cercando di incorporare le lezioni apprese dal modo in cui i bambini stabiliscono legami sociali con personaggi animati che sembrano persone.
Lisa: Ciò significa che è probabile che attribuiscano aspettative sociali alle loro interazioni con quel personaggio. Provano empatia per il personaggio e sentono che risponderà in modi sociali prevedibili. E questo può essere un vantaggio se il sistema è pronto a gestirlo, ma può anche essere una sfida perché nel caso contrario il sistema si presenta come innaturale e i bambini non interagiranno.
Jennifer: La sua ricerca ha anche mostrato che i bambini rispondono a sistemi di intelligenza artificiale che sono trasparenti e possono risolvere i problemi insieme al bambino.
Lisa: I ragazzi volevano che il sistema fosse in grado di riconoscere che non conosceva la risposta alla loro domanda, o non conosceva informazioni sufficienti per rispondere o completava l’interazione dicendo semplicemente: “non lo so, aiutami a trovare la risposta”. Quello che stiamo vedendo è ancora un design dei sistemi di AI in cui il sistema di intelligenza artificiale cerca di recuperare la mancanza di informazioni, ma senza coinvolgere l’utente. In realtà, i bambini sono molto tolleranti nei confronti dell’errore e vogliono trattarlo come un problema collaborativo, legato all’esperienza.
Jennifer: Tuttavia, ammetterà che c’è una lunga strada da percorrere nello sviluppo di sistemi con consapevolezza contestuale legata all’interazione con i bambini.
Lisa: Spesso la home page di Google restituisce una sorta di estratto dai risultati del sistema di ricerca dell’azienda e i ragazzi devono orientarsi in questo dedalo e capire se la loro risposta è da qualche parte. Sono costretti a chiedere aiuto ai loro genitori per interpretare le informazioni mentre vorrebbero essere in grado di farlo da soli.
Jennifer: Ma quanto permettiamo all’intelligenza artificiale di svolgere un ruolo nello sviluppo di quell’indipendenza dipende da noi.
Lisa: Se vogliamo che l’intelligenza artificiale vada nella direzione delle automobili, per esempio, ci ritroveremo nelle condizioni attuali, in cui ne possediamo una, ma non abbiamo idea di come funzioni sotto il cofano. L’alternativa è un’AI in cui le persone hanno il potere e di comprendere di cosa si parla. Quindi, per me, l’educazione deve fare in modo che l’AI non sia solo un elemento misterioso della scatola nera della tecnologia nelle loro vite, ma qualcosa che possano davvero capire non solo nel prodotto finale, ma anche nella fase di sviluppo.
