Il termine è presente ovunque questa settimana, ma il suo significato è quanto mai vago. Lavorare su una definizione è importante.
Il concetto di intelligenza artificiale generale – un sistema di intelligenza artificiale ultrapotente che non abbiamo ancora – può essere considerato come un pallone aerostatico, gonfiato ripetutamente con entusiasmo durante i picchi di ottimismo (o di paura) sul suo potenziale impatto e poi sgonfiato quando la realtà non soddisfa le aspettative. Questa settimana, molte notizie sono finite nel pallone dell’AGI. Vi dirò cosa significa (e probabilmente allungherò un po’ troppo la mia analogia).
Innanzitutto, togliamo di mezzo la fastidiosa questione della definizione di AGI. In pratica, si tratta di un termine profondamente nebuloso e mutevole, plasmato dai ricercatori o dalle aziende che intendono costruire la tecnologia. Ma di solito si riferisce a un’intelligenza artificiale futura in grado di superare gli esseri umani in compiti cognitivi. Di quali esseri umani e di quali compiti stiamo parlando fa la differenza nel valutare la realizzabilità, la sicurezza e l’impatto dell’AGI sui mercati del lavoro, sulla guerra e sulla società. Ecco perché definire l’AGI, sebbene sia un’attività poco affascinante, non è pedante ma piuttosto importante, come illustrato in un nuovo documento pubblicato questa settimana da autori di Hugging Face e Google, tra gli altri. In assenza di tale definizione, il mio consiglio quando sentite parlare di AGI è di chiedervi quale versione del nebuloso termine intenda chi parla. (Non abbiate paura di chiedere chiarimenti).
Bene, passiamo alle notizie. Innanzitutto, la scorsa settimana è stato lanciato un nuovo modello di intelligenza artificiale cinese chiamato Manus. Un video promozionale del modello, costruito per gestire compiti “agici” come la creazione di siti web o l’esecuzione di analisi, lo descrive come “potenzialmente, uno sguardo all’intelligenza artificiale”. Il modello sta svolgendo compiti reali su piattaforme di crowdsourcing come Fiverr e Upwork e il responsabile del prodotto di Hugging Face, una piattaforma di IA, lo ha definito “lo strumento di IA più impressionante che abbia mai provato”.
Non è ancora chiaro quanto Manus sia effettivamente impressionante, ma in questo contesto – l’idea dell’IA agonica come trampolino di lancio verso l’AGI – era giusto che l’editorialista del New York Times Ezra Klein dedicasse il suo podcast di martedì all’AGI. Significa anche che il concetto si sta rapidamente spostando al di là dei circoli di IA per entrare nella sfera delle conversazioni a tavola. Klein è stato raggiunto da Ben Buchanan, professore di Georgetown ed ex consigliere speciale per l’intelligenza artificiale alla Casa Bianca di Biden.
Hanno discusso di molte cose – cosa significherebbe l’IA per le forze dell’ordine e la sicurezza nazionale, e perché il governo degli Stati Uniti ritiene essenziale sviluppare l’IA prima della Cina – ma i segmenti più controversi hanno riguardato il potenziale impatto della tecnologia sui mercati del lavoro. Se l’Intelligenza Artificiale sta per eccellere in molti compiti cognitivi, ha detto Klein, allora è meglio che i legislatori inizino a capire cosa significherà per i lavoratori una transizione su larga scala del lavoro dalle menti umane agli algoritmi. Ha criticato i Democratici per il fatto che in gran parte non hanno un piano.
Potremmo considerare che questo gonfi il pallone della paura, suggerendo che l’impatto dell’AGI è imminente e travolgente. A seguire, e a bucare quel palloncino con una spilla da balia gigante, c’è Gary Marcus, professore di scienze neurali alla New York University e critico dell’AGI, che ha scritto una confutazione dei punti sollevati nello show di Klein.
Marcus fa notare che le notizie recenti, tra cui le prestazioni insoddisfacenti del nuovo ChatGPT-4.5 di OpenAI, suggeriscono che l’AGI è molto più lontana di tre anni. Secondo Marcus, i problemi tecnici fondamentali persistono nonostante decenni di ricerca, e gli sforzi per scalare la formazione e la capacità di calcolo hanno raggiunto rendimenti decrescenti. I grandi modelli linguistici, oggi dominanti, potrebbero non essere l’elemento che sblocca l’AGI. Egli sostiene che il settore politico non ha bisogno di più persone che diano l’allarme sull’AGI, sostenendo che questi discorsi in realtà avvantaggiano le aziende che spendono denaro per costruirla più di quanto aiutino il bene pubblico. Abbiamo invece bisogno di più persone che mettano in dubbio le affermazioni sull’imminenza dell’AGI. Detto questo, Marcus non dubita che l’AGI sia possibile. Dubita solo della tempistica.
Subito dopo che Marcus ha cercato di sgonfiarlo, il pallone dell’AGI è stato gonfiato di nuovo. Tre persone influenti – l’ex CEO di Google Eric Schmidt, il CEO di Scale AI Alexandr Wang e il direttore del Center for AI Safety Dan Hendrycks – hanno pubblicato un documento intitolato “Superintelligence Strategy”.
Per “superintelligenza” si intende un’intelligenza artificiale che “supererebbe in modo decisivo i migliori esperti del mondo in quasi tutti i settori intellettuali”, mi ha detto Hendrycks in un’e-mail. “I compiti cognitivi più rilevanti per la sicurezza sono l’hacking, la virologia e la ricerca e lo sviluppo di IA autonome, settori in cui il superamento delle competenze umane potrebbe comportare gravi rischi”.
Nel documento, i ricercatori delineano un piano per mitigare tali rischi: “malfunzionamento dell’IA reciprocamente assicurato”, ispirato al concetto di distruzione reciproca assicurata nella politica delle armi nucleari. “Qualsiasi Stato che persegua un monopolio strategico del potere può aspettarsi una risposta di ritorsione da parte dei rivali”, scrivono gli autori. Gli autori suggeriscono che i chip, così come i modelli di IA open-source con capacità avanzate di virologia o di attacco informatico, dovrebbero essere controllati come l’uranio. In quest’ottica, l’intelligenza artificiale, quando arriverà, porterà con sé livelli di rischio mai visti dall’avvento della bomba atomica.
L’ultima notizia che menzionerò sgonfia un po’ questo pallone. I ricercatori dell’Università Tsinghua e dell’Università Renmin della Cina hanno pubblicato la scorsa settimana un documento sull’intelligenza artificiale. Hanno ideato un gioco di sopravvivenza per valutare i modelli di IA che limita il loro numero di tentativi di ottenere le risposte giuste in una serie di test di riferimento. In questo modo si misura la loro capacità di adattamento e di apprendimento.
È un test davvero difficile. Il team ipotizza che un’intelligenza artificiale in grado di superarlo sarebbe così grande che il suo numero di parametri – il numero di “manopole” in un modello di intelligenza artificiale che possono essere modificate per fornire risposte migliori – sarebbe “di cinque ordini di grandezza superiore al numero totale di neuroni in tutti i cervelli dell’umanità messi insieme”. Utilizzando i chip di oggi, questo costerebbe 400 milioni di volte il valore di mercato di Apple.
I numeri specifici dietro le speculazioni, in tutta onestà, non hanno molta importanza. Ma il documento mette in evidenza qualcosa che non è facile da ignorare nelle conversazioni sull’AGI: la costruzione di un sistema così ultrapotente potrebbe richiedere una quantità davvero insondabile di risorse – denaro, chip, metalli preziosi, acqua, elettricità e lavoro umano. Ma se l’AGI (per quanto nebulosamente definita) è così potente come sembra, allora vale la pena di affrontare qualsiasi spesa.
Cosa ci deve far pensare tutta questa notizia? È giusto dire che questa settimana il pallone dell’intelligenza artificiale è diventato un po’ più grande e che l’inclinazione sempre più dominante tra le aziende e i politici è quella di trattare l’intelligenza artificiale come una cosa incredibilmente potente con implicazioni per la sicurezza nazionale e i mercati del lavoro.
Questo presuppone un ritmo di sviluppo incessante, in cui ogni pietra miliare nei modelli linguistici di grandi dimensioni e ogni nuova versione del modello può essere considerata un trampolino di lancio verso qualcosa come l’AGI.
Se si crede in questo, l’AGI è inevitabile. Ma è una convinzione che non affronta i numerosi ostacoli che la ricerca e la diffusione dell’intelligenza artificiale hanno dovuto affrontare, né spiega come l’intelligenza artificiale specifica di un’applicazione si trasformerà in intelligenza generale. Tuttavia, se si continua a estendere la linea temporale dell’IA abbastanza in là nel futuro, sembra che questi intoppi cessino di avere importanza.
