Sebbene ci siano ragioni per essere preoccupati dell’impatto dell’IA sul clima, non tutte le speranze sono perse. Ecco perché.
Il giorno dopo il suo insediamento, a gennaio, il presidente Donald Trump ha annunciato Stargate, un’iniziativa da 500 miliardi di dollari per la costruzione di infrastrutture di intelligenza artificiale, sostenuta da alcune delle più grandi aziende del settore tecnologico. Stargate mira ad accelerare la costruzione di enormi centri dati e reti elettriche in tutti gli Stati Uniti per garantire il mantenimento del vantaggio sulla Cina.
L’approccio “whatever-it-takes” alla corsa per il dominio mondiale dell’IA è stato il tema di Davos, dice Raquel Urtasun, fondatrice e CEO della startup canadese Waabi, riferendosi all’incontro annuale del World Economic Forum di gennaio in Svizzera, che si è tenuto la stessa settimana dell’annuncio di Trump. “Sono piuttosto preoccupata per la direzione che sta prendendo il settore”, afferma Urtasun.
Non è la sola. “Si stanno investendo dollari, si stanno bruciando GPU, si sta facendo evaporare l’acqua: la direzione è assolutamente sbagliata”, afferma Ali Farhadi, CEO dell’organizzazione no-profit Allen Institute for AI di Seattle.
Ma se si passa al setaccio i discorsi sui costi vertiginosi e sull’impatto climatico, si trovano ragioni per essere fiduciosi. Sono in corso innovazioni che potrebbero migliorare l’efficienza del software che sta alla base dei modelli di intelligenza artificiale, dei chip per computer su cui questi modelli girano e dei centri dati in cui questi chip ronzano tutto il giorno.
Ecco cosa c’è da sapere su come l’uso di energia, e quindi le emissioni di carbonio, potrebbero essere ridotte in tutti e tre questi ambiti, oltre a un ulteriore argomento per un cauto ottimismo: Ci sono ragioni per credere che le realtà aziendali sottostanti si piegheranno alla fine verso un’IA più efficiente dal punto di vista energetico.
1/ Modelli più efficienti
Il punto di partenza più ovvio è rappresentato dai modelli stessi: il modo in cui vengono creati e il modo in cui vengono eseguiti.
I modelli di intelligenza artificiale vengono costruiti addestrando le reti neurali su moltissimi dati. I modelli linguistici di grandi dimensioni sono addestrati su grandi quantità di testo, i modelli di guida autonoma sono addestrati su grandi quantità di dati di guida e così via.
Ma il modo in cui tali dati vengono raccolti è spesso indiscriminato. I modelli linguistici di grandi dimensioni vengono addestrati su insiemi di dati che includono testi raschiati dalla maggior parte di Internet e da enormi biblioteche di libri digitalizzati. La prassi è stata quella di prendere tutto ciò che non è inchiodato, gettarlo nel mix e vedere cosa viene fuori. Questo approccio ha certamente funzionato, ma addestrare più volte un modello su un insieme enorme di dati in modo che possa estrarre da solo i modelli rilevanti è uno spreco di tempo e di energia.
Potrebbe esserci un modo più efficiente. Non ci si aspetta che i bambini imparino semplicemente leggendo tutto ciò che è stato scritto, ma che ricevano un programma di studio mirato. Urtasun pensa che dovremmo fare qualcosa di simile con l’intelligenza artificiale, addestrando i modelli con dati più curati e adatti a compiti specifici. (Waabi addestra i suoi robot-rucks all’interno di una simulazione superrealistica che consente un controllo a grana fine dei dati virtuali che vengono presentati ai suoi modelli).
Non si tratta solo di Waabi. Writer, una startup di intelligenza artificiale che costruisce modelli linguistici di grandi dimensioni per i clienti aziendali, sostiene che i suoi modelli sono più economici da addestrare ed eseguire in parte perché li addestra utilizzando dati sintetici. L’alimentazione dei suoi modelli con set di dati personalizzati piuttosto che con set di dati più grandi ma meno curati rende il processo di addestramento più rapido (e quindi meno costoso). Ad esempio, invece di scaricare semplicemente Wikipedia, il team di Writer prende singole pagine di Wikipedia e ne riscrive i contenuti in formati diversi, come domande e risposte invece di blocchi di testo, e così via, in modo che i suoi modelli possano imparare di più da meno dati.
La formazione è solo l’inizio del ciclo di vita di un modello. Man mano che i modelli sono diventati più grandi, la loro esecuzione è diventata più costosa. I cosiddetti modelli di ragionamento, che elaborano una query passo dopo passo prima di produrre una risposta, sono particolarmente avidi di potenza, perché calcolano una serie di sotto-risposte intermedie per ogni risposta. Il prezzo di queste nuove funzionalità è da capogiro: il modello di ragionamento o3 di OpenAI è stato stimato costare fino a 30.000 dollari per ogni task da eseguire.
Ma questa tecnologia ha solo pochi mesi di vita ed è ancora sperimentale. Farhadi prevede che questi costi si ridurranno presto. Ad esempio, gli ingegneri capiranno come impedire ai modelli di ragionamento di andare troppo avanti in un percorso senza uscita prima di stabilire che non è fattibile. “La prima volta che si fa qualcosa è molto più costoso, poi si capisce come renderlo più piccolo e più efficiente”, dice Farhadi. “È una tendenza abbastanza costante nella tecnologia”.
Un modo per ottenere un aumento delle prestazioni senza grandi aumenti del consumo energetico è quello di eseguire le fasi di inferenza (i calcoli che un modello esegue per ottenere la sua risposta) in parallelo. L’elaborazione in parallelo è alla base di gran parte del software odierno, in particolare dei modelli linguistici di grandi dimensioni (le GPU sono parallele per progettazione). Tuttavia, la tecnica di base potrebbe essere applicata a una gamma più ampia di problemi. Suddividendo un compito ed eseguendone diverse parti contemporaneamente, l’elaborazione in parallelo può generare risultati più rapidamente. Può anche risparmiare energia facendo un uso più efficiente dell’hardware disponibile. Ma richiede nuovi algoritmi intelligenti per coordinare le diverse sottoattività e riunirle in un unico risultato finale.
Anche i modelli più grandi e potenti non saranno sempre utilizzati. Si parla molto di modelli di piccole dimensioni , versioni di modelli linguistici di grandi dimensioni che sono state ridotte in pacchetti tascabili. In molti casi, questi modelli più efficienti hanno le stesse prestazioni di quelli più grandi, soprattutto per casi d’uso specifici.
Man mano che le aziende capiscono come i modelli linguistici di grandi dimensioni si adattino alle loro esigenze (o meno), la tendenza verso modelli su misura più efficienti sta prendendo piede. Non è necessario un LLM universale per gestire l’inventario o per rispondere alle domande dei clienti di nicchia. “Ci sarà un numero davvero elevato di modelli specializzati, non un unico modello che risolve tutto”, afferma Farhadi.
Christina Shim, Chief Sustainability Officer di IBM, sta osservando questa tendenza nel modo in cui i suoi clienti adottano la tecnologia. Lavora con le aziende per assicurarsi che scelgano i modelli più piccoli e meno avidi di energia possibile. “Non si tratta solo del modello più grande che vi darà una grande spinta per i vostri soldi”, dice. Un modello più piccolo che fa esattamente ciò che serve è un investimento migliore di uno più grande che fa la stessa cosa: “Non usiamo una mazza per colpire un chiodo”.
2/ Chip per computer più efficienti
Man mano che il software diventa più snello, anche l’hardware su cui gira diventerà più efficiente. C’è una tensione in gioco: a breve termine, i produttori di chip come Nvidia sono in corsa per sviluppare chip sempre più potenti per soddisfare la domanda delle aziende che vogliono far girare modelli sempre più potenti. Ma a lungo termine questa corsa non è sostenibile.
“I modelli sono diventati così grandi che anche l’esecuzione della fase di inferenza inizia a diventare una grande sfida”, afferma Naveen Verma, cofondatore e CEO di EnCharge AI, azienda emergente produttrice di microchip.
Aziende come Microsoft e OpenAI stanno perdendo denaro facendo funzionare i loro modelli all’interno dei centri dati per soddisfare la domanda di milioni di persone. Modelli più piccoli saranno d’aiuto. Un’altra possibilità è quella di spostare l’elaborazione dai data center alle macchine delle persone.
Microsoft ci ha provato con l’iniziativa Copilot+ PC, con la quale ha commercializzato un PC sovralimentato che consente di gestire un modello di intelligenza artificiale (e di coprire le spese energetiche) da soli. L’iniziativa non è decollata, ma Verma pensa che la spinta continuerà perché le aziende vorranno scaricare il più possibile i costi di gestione di un modello.
Ma per far sì che i modelli di intelligenza artificiale (anche quelli più piccoli) funzionino in modo affidabile sui dispositivi personali delle persone, sarà necessario un cambiamento radicale nei chip che di solito li alimentano. Questi chip devono essere resi ancora più efficienti dal punto di vista energetico, perché devono essere in grado di funzionare solo con una batteria, dice Verma.
È qui che entra in gioco EnCharge. La sua soluzione è un nuovo tipo di chip che abbandona la computazione digitale a favore di una cosa chiamata computazione analogica in-memory. Invece di rappresentare le informazioni con 0 e 1 binari, come l’elettronica all’interno dei chip dei computer digitali convenzionali, l’elettronica all’interno dei chip analogici può rappresentare le informazioni lungo una gamma di valori compresi tra 0 e 1. In teoria, questo consente di fare di più con la stessa quantità di energia.
SHIWEN SVEN WANG
EnCharge è nata dal laboratorio di ricerca di Verma a Princeton nel 2022. “Sappiamo da decenni che il calcolo analogico può essere molto più efficiente – ordini di grandezza più efficienti – di quello digitale”, dice Verma. Ma i computer analogici non hanno mai funzionato bene nella pratica perché facevano molti errori. Verma e i suoi colleghi hanno scoperto un modo per eseguire calcoli analogici precisi.
EnCharge si concentra solo sul calcolo di base richiesto dall’IA oggi. Con il supporto di giganti dei semiconduttori come TSMC, la startup sta sviluppando un hardware che esegue la moltiplicazione matriciale ad alta dimensione (la matematica di base di tutti i modelli di deep-learning) in un chip analogico e poi passa il risultato al computer digitale circostante.
L’hardware di EnCharge è solo uno dei numerosi progetti sperimentali di nuovi chip all’orizzonte. IBM e altri stanno esplorando da anni il cosiddetto calcolo neuromorfico. L’idea è quella di progettare computer che imitino i poteri di elaborazione super-efficienti del cervello. Un altro percorso riguarda i chip ottici, che sostituiscono gli elettroni di un chip tradizionale con la luce, riducendo ancora una volta l’energia necessaria per il calcolo. Nessuno di questi progetti è ancora in grado di competere con i chip elettronici digitali prodotti da aziende del calibro di Nvidia. Ma con l’aumento della domanda di efficienza, queste alternative saranno in attesa.
Non sono solo i chip a poter essere resi più efficienti. Gran parte dell’energia all’interno dei computer viene spesa per far passare i dati avanti e indietro. IBM dichiara di aver sviluppato un nuovo tipo di switch ottico, un dispositivo che controlla il traffico digitale, più efficiente dell’80% rispetto agli switch precedenti.
3/ Raffreddamento più efficiente nei data center
Un’altra enorme fonte di domanda energetica è la necessità di gestire il calore residuo prodotto dall’hardware di fascia alta su cui girano i modelli di intelligenza artificiale. Tom Earp, direttore ingegneristico della società di progettazione Page, costruisce data center dal 2006, e ha lavorato per sei anni per Meta. Earp cerca l’efficienza in ogni aspetto, dalla struttura dell’edificio all’alimentazione elettrica, ai sistemi di raffreddamento e al modo in cui i dati vengono trasferiti all’interno e all’esterno.
Per un decennio o più, con l’attenuarsi della legge di Moore, i progetti dei data center sono stati piuttosto stabili, afferma Earp. Poi tutto è cambiato. Con il passaggio a processori come le GPU e con progetti di chip ancora più nuovi all’orizzonte, è difficile prevedere che tipo di hardware dovrà ospitare un nuovo data center – e quindi quali requisiti energetici dovrà supportare – tra qualche anno. Ma a breve termine la scommessa è che i chip continueranno a diventare più veloci e più caldi: “Quello che vedo è che le persone che devono fare queste scelte stanno pianificando un aumento della quantità di energia di cui avremo bisogno”, dice Earp.
Una cosa è chiara: i chip che eseguono i modelli di intelligenza artificiale, come le GPU, richiedono più energia per unità di spazio rispetto ai precedenti tipi di chip per computer. E questo ha forti implicazioni per l’infrastruttura di raffreddamento all’interno di un data center. “Quando la potenza aumenta, aumenta anche il calore”, spiega Earp.
Con un numero così elevato di chip ad alta potenza, il raffreddamento ad aria (grandi ventole, in altre parole) non è più sufficiente. L’acqua è diventata il refrigerante preferito, perché è più efficace dell’aria nell’allontanare il calore. Questa non è una buona notizia per le fonti d’acqua locali intorno ai data center. Ma ci sono modi per rendere il raffreddamento ad acqua più efficiente.
Un’opzione è quella di utilizzare l’acqua per inviare il calore di scarto di un data center in luoghi dove può essere utilizzato. In Danimarca l’acqua dei centri dati è stata utilizzata per riscaldare le case. A Parigi, durante le Olimpiadi, è stata utilizzata per riscaldare le piscine.
L’acqua può anche fungere da batteria. L’energia generata da fonti rinnovabili, come le turbine eoliche o i pannelli solari, può essere utilizzata per raffreddare l’acqua, che viene immagazzinata fino a quando non sarà necessaria per raffreddare i computer, riducendo così il consumo di energia nelle ore di punta.
Ma con l’aumento del calore dei data center, il raffreddamento ad acqua da solo non basta, sostiene Tony Atti, CEO di Phononic, una startup che fornisce chip di raffreddamento specializzati. I produttori di chip stanno creando chip che spostano i dati sempre più velocemente. Atti fa riferimento a Nvidia, che sta per rilasciare un chip in grado di elaborare 1,6 terabyte al secondo: “A quella velocità di trasmissione dei dati, si scatena l’inferno e la richiesta di raffreddamento aumenta in modo esponenziale”, afferma Atti.
Secondo Atti, i chip all’interno dei server assorbono circa il 45% dell’energia di un data center. Ma il raffreddamento di questi chip richiede quasi altrettanta energia, circa il 40%. “Per la prima volta, la gestione termica sta diventando la porta d’accesso all’espansione di questa infrastruttura AI”, afferma Atti.
I chip di raffreddamento di Phononic sono piccoli dispositivi termoelettrici che possono essere posizionati sopra o vicino all’hardware da raffreddare. Alimentando un chip LED, questo emette fotoni; alimentando un chip termoelettrico, questo emette fononi (che stanno all’energia vibrazionale, ovvero alla temperatura, come i fotoni stanno alla luce). In breve, i chip fononici spingono il calore da una superficie all’altra.
Schiacciati in spazi ristretti all’interno e intorno ai server, questi chip sono in grado di rilevare minimi aumenti di calore e di accendersi e spegnersi per mantenere una temperatura stabile. Quando sono accesi, spingono il calore in eccesso in una tubatura d’acqua per poi portarlo via. Atti dice che possono essere utilizzati anche per aumentare l’efficienza dei sistemi di raffreddamento esistenti. Più velocemente si riesce a raffreddare l’acqua in un data center, meno se ne ha bisogno.
4/ La riduzione dei costi va di pari passo con la riduzione del consumo energetico
Nonostante l’esplosione del consumo energetico dell’IA, c’è motivo di essere ottimisti. La sostenibilità viene spesso considerata un ripensamento o un “nice-to-have”. Ma con l’IA, il modo migliore per ridurre i costi complessivi è tagliare la bolletta energetica. È una buona notizia, perché dovrebbe incentivare le aziende ad aumentare l’efficienza. “Penso che ci sia un allineamento tra sostenibilità climatica e sostenibilità dei costi”, afferma Verma. “Penso che alla fine questo diventerà il grande motore che spingerà il settore a essere più efficiente dal punto di vista energetico”.
Shim è d’accordo: “È solo un buon affare, sai?”.
Le aziende saranno costrette a pensare bene a come e quando utilizzare l’IA, scegliendo opzioni più piccole e su misura ogni volta che sarà possibile, afferma l’esperta: “Basta guardare il mondo in questo momento. La spesa per la tecnologia, come tutto il resto, sarà ancora più critica in futuro”.
Shim ritiene che le preoccupazioni sull’uso dell’energia da parte dell’IA siano valide. Ma ricorda l’ascesa di Internet e il boom dei personal computer 25 anni fa. Con il miglioramento della tecnologia alla base di queste rivoluzioni, i costi energetici sono rimasti più o meno stabili anche se il numero di utenti è salito alle stelle.
È una regola generale che Shim pensa si applicherà anche questa volta: Quando la tecnologia matura, diventa più efficiente. “Penso che sia questo il punto in cui ci troviamo ora con l’IA”, afferma.
L’intelligenza artificiale sta rapidamente diventando una merce, il che significa che la concorrenza di mercato farà scendere i prezzi. Per rimanere in gioco, le aziende cercheranno di ridurre il consumo di energia, se non altro per il bene dei loro profitti.
Alla fine, il capitalismo potrebbe salvarci.
