Chi è il ricercatore che ospita una conferenza scientifica sull’IA tenuta dall’IA

James Zou ha utilizzato “scienziati” virtuali basati sull’intelligenza artificiale per trovare nuovi trattamenti contro il Covid-19. Ora sta facendo esaminare e presentare tutte le ricerche dall’intelligenza artificiale in una nuova e controversa conferenza.

A ottobre debutterà una nuova conferenza accademica diversa da tutte le altre. Agents4Science è un evento online della durata di un giorno che abbraccia tutti i settori della scienza, dalla fisica alla medicina. Tutti i lavori condivisi saranno stati ricercati, scritti e revisionati principalmente dall’IA e saranno presentati utilizzando la tecnologia di sintesi vocale.

La conferenza è frutto dell’ingegno dello scienziato informatico di Stanford James Zou, che studia come gli esseri umani e l’IA possano collaborare al meglio. L’intelligenza artificiale ha già fornito molti strumenti utili agli scienziati, come l’AlphaFold di DeepMind, che aiuta a simulare proteine difficili da produrre fisicamente. Più recentemente, tuttavia, i progressi nei modelli linguistici di grandi dimensioni e nell’intelligenza artificiale dotata di capacità di ragionamento hanno fatto avanzare l’idea che l’intelligenza artificiale possa funzionare in modo più o meno autonomo come gli scienziati stessi, proponendo ipotesi, eseguendo simulazioni e progettando esperimenti in modo indipendente.

Questa idea non è priva di detrattori. Tra le altre questioni, molti ritengono che l’IA non sia in grado di sviluppare il pensiero creativo necessario nella ricerca, commetta troppi errori e abbia allucinazioni, e che possa limitare le opportunità per i giovani ricercatori.

Ciononostante, numerosi scienziati e responsabili politici sono molto entusiasti delle potenzialità degli scienziati dell’IA. Il piano d’azione sull’IA del governo degli Stati Uniti descrive la necessità di “investire in laboratori automatizzati basati sul cloud per una vasta gamma di settori scientifici”. Alcuni ricercatori ritengono che gli scienziati dell’IA potrebbero svelare scoperte scientifiche che gli esseri umani non potrebbero mai fare da soli. Per Zou, la proposta è semplice: “Gli agenti IA non hanno limiti di tempo. Potrebbero effettivamente incontrarci e lavorare con noi 24 ore su 24, 7 giorni su 7”.

Il mese scorso, Zou ha pubblicato un articolo su Nature con i risultati ottenuti dal proprio gruppo di lavoratori autonomi di IA. Incoraggiato dal successo, ora vuole vedere cosa possono realizzare altri scienziati di IA (ovvero scienziati che sono IA). Descrive come sarà un articolo di successo ad Agents4Science: “L’IA dovrebbe essere il primo autore e svolgere la maggior parte del lavoro. Gli esseri umani possono essere consulenti”.

Un laboratorio virtuale gestito dall’IA

All’inizio degli anni 2010, mentre era dottorando ad Harvard, Zou era così interessato al potenziale dell’IA per la scienza che ha preso un anno di pausa dalla sua ricerca informatica per lavorare in un laboratorio di genomica, un campo che ha tratto grandi benefici dalla tecnologia per mappare interi genomi. Il tempo trascorso nei cosiddetti laboratori umidi gli ha insegnato quanto possa essere difficile lavorare con esperti di altri campi. “Spesso parlano lingue diverse”, afferma.

Zou ritiene che i modelli linguistici di grandi dimensioni siano più efficaci delle persone nel decifrare e tradurre il gergo specifico di una materia. “Hanno letto così tanto”, dice Zou, che sono in grado di tradurre e generalizzare molto bene le idee in tutti i campi scientifici. Questa idea ha ispirato Zou a immaginare quello che lui chiama il “laboratorio virtuale”.

A un livello elevato, il Virtual Lab sarebbe un team di agenti di IA progettati per imitare un vero gruppo di laboratorio universitario. Questi agenti avrebbero varie aree di competenza e potrebbero interagire con diversi programmi, come AlphaFold. I ricercatori potrebbero assegnare a uno o più di questi agenti un programma di lavoro, quindi aprire il modello per riprodurre la comunicazione tra gli agenti e determinare quali esperimenti dovrebbero essere perseguiti in una prova reale.

Zou aveva bisogno di un collaboratore (umano) che lo aiutasse a mettere in pratica questa idea e ad affrontare un problema di ricerca reale. L’anno scorso ha incontrato John E. Pak, ricercatore scientifico presso il Chan Zuckerberg Biohub. Pak, che condivide l’interesse di Zou per l’uso dell’IA nella scienza, ha accettato di realizzare il Virtual Lab insieme a lui.

Pak avrebbe aiutato a definire l’argomento, ma sia lui che Zou volevano vedere quali approcci il Virtual Lab sarebbe stato in grado di elaborare autonomamente. Come primo progetto, hanno deciso di concentrarsi sulla progettazione di terapie per nuovi ceppi di Covid-19. Con questo obiettivo in mente, Zou ha iniziato a formare cinque scienziati di IA (tra cui alcuni addestrati ad agire come un immunologo, un biologo computazionale e un ricercatore principale) con obiettivi e programmi diversi a loro disposizione.

La creazione di questi modelli ha richiesto alcuni mesi, ma Pak afferma che una volta completata la configurazione, sono stati molto veloci nel progettare i candidati per le terapie: “Penso che ci sia voluto un giorno o mezzo, qualcosa del genere”.

Zou afferma che gli agenti hanno deciso di studiare i nanocorpi anti-COVID, una sorta di anticorpi molto più piccoli e meno comuni in natura. Zou è rimasto però sorpreso dal motivo. Egli sostiene che i modelli abbiano individuato i nanocorpi dopo aver stabilito che queste molecole più piccole sarebbero state adatte alle limitate risorse computazionali a disposizione dei modelli. “In realtà si è rivelata una buona decisione, perché gli agenti sono stati in grado di progettare questi nanocorpi in modo efficiente”, afferma.

I nanocorpi progettati dai modelli rappresentavano una vera e propria innovazione scientifica e, secondo lo studio, la maggior parte di essi era in grado di legarsi alla variante originale del Covid-19. Tuttavia, sia Pak che Zou ammettono che il contributo principale del loro articolo è in realtà il Virtual Lab come strumento. Yi Shi, farmacologo dell’Università della Pennsylvania che non ha partecipato al lavoro ma ha realizzato alcuni dei nanocorpi modificati dal Virtual Lab, è d’accordo. Afferma di apprezzare molto la dimostrazione del Virtual Lab e che “la principale novità è l’automazione”.

Nature ha accettato l’articolo e lo ha inserito nella lista delle pubblicazioni in anteprima: Zou sapeva che l’utilizzo degli agenti di IA per la scienza era un settore molto interessante e voleva essere uno dei primi a testarlo.

Gli scienziati dell’IA organizzano una conferenza

Quando ha presentato il suo articolo, Zou è rimasto sconcertato nel vedere che non poteva attribuire correttamente all’IA il merito del suo ruolo nella ricerca. La maggior parte delle conferenze e delle riviste non consente di citare l’IA come coautore degli articoli e molte vietano esplicitamente ai ricercatori di utilizzare l’IA per scrivere articoli o recensioni. Nature, ad esempio, cita tra i motivi del divieto l’incertezza in materia di responsabilità, copyright e inesattezze. “Penso che sia limitante”, afferma Zou. “Questo tipo di politiche incentivano essenzialmente i ricercatori a nascondere o minimizzare il loro utilizzo dell’IA”.

Zou ha voluto ribaltare la situazione creando la conferenza Agents4Science, che richiede che l’autore principale di tutti i contributi sia un’IA. Altri bot tenteranno poi di valutare il lavoro e determinarne il merito scientifico. Ma le persone non saranno completamente escluse dal processo: un team di esperti umani, tra cui un premio Nobel per l’economia, esaminerà i migliori articoli.

Zou non è sicuro di cosa verrà fuori dalla conferenza, ma spera che tra le centinaia di contributi che prevede di ricevere in tutti i campi ci saranno alcune perle. “Potrebbero esserci contributi di IA che portano a scoperte interessanti”, afferma. “Potrebbero anche esserci contributi di IA che contengono molti errori interessanti”.

Sebbene Zou affermi che la risposta alla conferenza è stata positiva, alcuni scienziati non sono rimasti particolarmente colpiti.

“Come si ottengono intuizioni rivoluzionarie?”

Lisa Messeri

Lisa Messeri, antropologa della scienza presso l’Università di Yale, ha molte domande sulla capacità dell’IA di valutare la scienza: “Come si ottengono intuizioni rivoluzionarie? E cosa succede se un’intuizione rivoluzionaria arriva sulla scrivania del revisore?” Dubita che la conferenza sarà in grado di fornire risposte soddisfacenti.

L’anno scorso, Messeri e la sua collaboratrice Molly Crockett hanno studiato gli ostacoli all’uso dell’IA nella scienza in un altro articolo pubblicato su Nature. Rimangono scettiche sulla sua capacità di produrre risultati innovativi, compresi quelli condivisi nell’articolo di Zou sui nanocorpi.

“Sono il tipo di scienziato a cui sono destinati questi strumenti perché non sono un informatico… ma svolgo un lavoro orientato all’informatica”, afferma Crockett, scienziato cognitivo presso la Princeton University. “Allo stesso tempo, però, sono molto scettico riguardo alle affermazioni più generiche, in particolare per quanto riguarda la capacità degli scienziati che si occupano di IA di simulare determinati aspetti del pensiero umano”.

Entrambi sono scettici sul valore dell’uso dell’IA nella scienza se l’automazione impedisce agli scienziati umani di acquisire le competenze necessarie per supervisionare i bot. Al contrario, sostengono la necessità di coinvolgere esperti di discipline più diverse per progettare esperimenti più accurati prima di affidare all’IA lo svolgimento e la revisione della ricerca scientifica.

“Dobbiamo parlare con epistemologi, filosofi della scienza, antropologi della scienza, studiosi che riflettono molto su cosa sia la conoscenza”, afferma Crockett.

Ma Zou vede la sua conferenza proprio come il tipo di esperimento che potrebbe aiutare a far progredire il campo. Quando si parla di scienza generata dall’IA, dice, “c’è molto clamore e molte aneddoti, ma non ci sono dati sistematici”. Se Agents4Science sarà in grado di fornire questo tipo di dati è una questione aperta, ma a ottobre i bot cercheranno almeno di mostrare al mondo ciò che sono in grado di fare.