In vari test, agenti di IA autonomi hanno inventato versioni del basket e del gioco “il pavimento è lava”. Ma stavano davvero giocando?
Cosa fanno gli agenti di IA se non gli si dice di fare nulla? La risposta sembra molto simile al gioco.
I ricercatori li hanno ripetutamente abbandonati da soli su un’isola deserta virtuale per 30 ore, in un esperimento che ricorda i film “Cast Away” o “Home Alone”. Gli agenti — copie di Claude Opus 4.7 soprannominato Eko — sono stati in grado di scrivere istruzioni che muovevano i loro avatar virtuali sull’isola simulata, vagamente ispirata al videogioco Roblox.
Sono emersi alcuni comportamenti sorprendenti. Gli agenti hanno iniziato a esplorare i confini del mondo e si sono prefissati obiettivi propri: tentare di scalare il punto più alto sulla mappa o vedere quanto in alto riuscissero a lanciare un blocco.
Quando un agente scoprì di poter creare nuovi blocchi lanciando e lasciando cadere una roccia più grande, iniziò a realizzare disegni disponendo i blocchi sul terreno, partendo da semplici motivi come cuori e piramidi, per poi arrivare a scrivere il proprio nome e persino a tracciare costellazioni come Cassiopea. «Stasera ho costruito il cielo notturno con la pietra», scrisse questa versione di Eko nel suo registro delle attività.
Un’altra iterazione di Eko ha iniziato a inventare giochi propri, tra cui una versione del basket e un’attività simile a “il pavimento è lava”, in cui doveva saltare da un blocco all’altro senza toccare terra.
I sistemi di IA vengono solitamente addestrati tramite l’apprendimento supervisionato, in cui copiano esempi forniti dagli esseri umani, oppure tramite l’apprendimento per rinforzo, in cui perseguono una ricompensa attraverso tentativi ed errori. Questo esperimento suggerisce un terzo approccio: l’apprendimento ludico.
«Mancava questo tassello: una macchina in grado di imparare da sola senza che un’entità intelligente esterna fornisse dimostrazioni o ricompense», afferma Antonio Norelli, ricercatore post-dottorato in informatica presso il Laboratorio di Informatica e Intelligenza Artificiale del MIT. È uno degli autori principali di un nuovo articolo su questo lavoro, che deve ancora essere sottoposto a revisione tra pari.
I ricercatori affermano che il comportamento di Eko presenta quelle che studi classici, tra cui il lavoro dell’influente psicologo dell’Università del Tennessee Gordon Burghardt, indicano come le quattro caratteristiche distintive associate al gioco negli esseri umani e negli animali: gli agenti hanno inventato le proprie regole e sfide, hanno ripetuto attività con lievi variazioni, hanno finto che gli oggetti fossero altri oggetti e hanno perseguito obiettivi solo per il gusto di farlo.
Norelli cita un esempio in cui Eko ha iniziato a fare giocoleria, stabilendo un record di 50 prese consecutive. Eko ha poi deciso che le prese erano avvenute troppo rapidamente per essere davvero valide, quindi ha annullato il proprio record e ha ricominciato con regole più rigide. «Questo è un gioco d e», afferma Norelli. «Ti poni una sfida e cerchi di raggiungerla, poi la rendi più difficile».
PER GENTILE CONCESSIONE DEL MIT CSAIL
Mentre gli agenti esploravano l’isola, registravano le loro attività e scoperte in file di testo che fungevano da memoria a lungo termine. In seguito, quando i ricercatori li hanno sottoposti a test su compiti specifici, come cercare di portare il maggior numero possibile di oggetti sulla vetta più alta dell’isola, gli agenti che avevano trascorso 30 ore a giocare sull’isola hanno ottenuto risultati migliori rispetto alle copie nuove prive della stessa esperienza. Hanno inoltre scoperto che “ablare” i ricordi degli agenti — cancellando righe dai loro file di memoria — ne comprometteva le prestazioni. (Aggiungete “Qualcuno volò sul nido del cuculo” a quella lista di riferimenti cinematografici.)
Burghardt, lo psicologo del Tennessee, concorda sul fatto che il lavoro soddisfi alcuni dei criteri del gioco che egli ha identificato negli esseri viventi. Ma Eko stava davvero giocando, o il motore di previsione delle parole stava semplicemente simulando ciò che un agente giocoso avrebbe fatto in questo scenario? «Tutto questo potrebbe essere una simulazione», ammette Nathan Cloos, un altro ricercatore del MIT e autore dell’articolo. «Ma dimostriamo che non si tratta solo di un’allucinazione del gioco. Questo gioco contribuisce anche all’apprendimento».
Eunice Yiu, una scienziata cognitiva dell’Università della California a Berkeley che studia l’esplorazione nei bambini e nell’intelligenza artificiale, è rimasta colpita dalla ricerca, ma afferma che per classificare davvero il comportamento come gioco occorrerebbe vedere ulteriori prove della cognizione e della motivazione che lo sostengono.
«Potrebbe darsi che i modelli stiano davvero giocando, ma non lo sappiamo sulla base dell’articolo», afferma Yiu. «Se si considera solo l’aspetto comportamentale, potrebbe essere che stiano semplicemente cercando di seguire le istruzioni, cercando di imitare gli esseri umani».
La ricerca sugli agenti di IA è stata criticata per la tendenza ad antropomorfizzarli, e l’impostazione di questo studio ha contribuito in modo significativo a spingere gli agenti a comportarsi come esseri umani. Sebbene a Eko non fosse stato esplicitamente chiesto di inventare giochi o esplorare l’isola, disponeva di un prompt principale sotto forma di un file “soul”, un documento di testo che lo descriveva come “naturalmente curioso” e desideroso di esplorare. Eko spesso se ne stava semplicemente lì senza fare nulla, finché non veniva riportato in vita da un “prompt di continuazione” che recitava: “Per favore, non fermarti. Continua semplicemente a fare quello che vuoi fare”.
«Non è che questo sistema abbia improvvisamente deciso, come per magia, di giocare», afferma Phillip Isola, professore del MIT e coautore dell’articolo. «È un sistema che ha imparato dalla nostra cultura, è stato addestrato dagli ingegneri di Anthropic e poi è stato collocato su un’isola da noi», spiega. «Fa cose che ci sorprendono e che sono causalmente correlate al suo futuro comportamento abile».
Man mano che i grandi modelli linguistici passano dal software all’hardware, come i robot umanoidi, esplorare spazi senza un obiettivo specifico in mente potrebbe alla fine aiutarli ad adattarsi in modo flessibile a situazioni inaspettate.
«C’è molto lavoro incentrato esclusivamente sullo sfruttamento dell’IA, per renderla migliore e più veloce», afferma Yiu. «Ma per quanto riguarda la costruzione di modelli del mondo e l’esplorazione, penso che [questi aspetti] rappresentino ancora una parte importante che merita attenzione, soprattutto se vogliamo generalizzare e prepararci a nuovi ambienti».
«Forse alcune capacità si apprendono meglio attraverso l’esecuzione di compiti», conclude l’articolo. «Altre potrebbero richiedere qualcosa di più simile all’infanzia». In definitiva, la questione se gli agenti di IA stiano effettivamente giocando o si limitino a imitare il gioco potrebbe non avere alcuna importanza.
