Gli agenti AI succhiano energia, altro che chatbot qualunque

Un team della KAIST ha analizzato, in quella che gli autori descrivono come la prima misurazione sistematica del genere, quanto costa in energia far “ragionare” un agente AI invece di limitarsi a rispondere a una domanda. Il risultato, presentato alla 32ª IEEE HPCA da Jiin Kim e Minsoo Rhu, è un numero che ha già iniziato a circolare come sintesi choc: un agente basato su un modello da 70 miliardi di parametri può toccare, nei task più gravosi, un picco di 136,5 volte l’energia di una query di generative AI convenzionale, mentre la media per query si attesta su 348,41 Wh. Il dato merita di essere maneggiato con cura, ma il problema che descrive è reale e le aziende che stanno spostando i flussi di lavoro dai chatbot agli agenti farebbero bene a guardarlo da vicino.

Fino a oggi la conversazione sul consumo energetico dell’AI si è concentrata quasi sempre sull’addestramento dei modelli o sull’inferenza singola: la classica domanda-risposta di un chatbot. Lo studio KAIST sposta l’attenzione sul workload che sta prendendo il posto del chatbot in azienda, gli agenti che orchestrano più passaggi per completare un compito, e lo fa con una metodologia sottoposta a peer review, non con una stima di parte diffusa da un vendor interessato a vendere più capacità di calcolo o, al contrario, a minimizzare l’impatto della propria infrastruttura. Il team ha anche reso pubblici i benchmark e le implementazioni degli agenti usati per la misurazione, un dettaglio che conta: chiunque voglia verificare o replicare i numeri può farlo, invece di doversi fidare di una tabella chiusa in un comunicato aziendale.

Un agente non risponde, delibera: ecco perché consuma così tanto

La differenza tra un chatbot e un agente non è cosmetica. Un chatbot riceve una domanda e produce una risposta in un solo passaggio di inferenza. Un agente, invece, pianifica: scompone il compito, richiama strumenti esterni (ricerca web, calcolatrici, ambienti di esecuzione codice), valuta i risultati intermedi, corregge la rotta e solo alla fine restituisce un output. Ogni passaggio è una nuova chiamata al modello, e ogni chiamata ha un costo energetico proprio. Lo studio KAIST misura anche l’effetto collaterale più fastidioso di questa architettura: la latenza di risposta può arrivare fino a 153,7 volte superiore rispetto all’inferenza standard. Chi ha adottato agenti aziendali aspettandosi la reattività di un chatbot avrà già notato la differenza.

Il dato più controintuitivo dello studio riguarda l’utilizzo hardware. Le GPU restano inattive fino al 54,5% del tempo di esecuzione totale, in attesa che tool esterni restituiscano una risposta: una ricerca web che impiega secondi, un’API che risponde con ritardo, un ambiente di esecuzione che compila codice. Il paradosso è che l’azienda paga comunque per quel tempo morto: l’infrastruttura resta allocata, il consumo energetico base non si azzera, e il rapporto tra costo e utilità dell’hardware più costoso del mercato peggiora proprio nel workload che dovrebbe giustificarne l’acquisto. Nessun reparto acquisti compra una GPU di fascia alta pensando che per metà della sua vita utile restera a fissare il vuoto in attesa di un’API di terze parti, eppure è esattamente quello che succede quando il carico è composto da agenti invece che da singole inferenze.

Questo squilibrio tra capacità installata e capacità sfruttata è lo stesso tema affrontato in un precedente articolo di Tom’s Hardware, secondo cui l’efficienza energetica degli agenti AI diventa un problema da architettura software, un livello a monte rispetto al singolo modello. Un modello più efficiente aiuta poco se il flusso che lo orchestra tiene la GPU ad aspettare per metà del tempo: il collo di bottiglia si sposta dal calcolo alla coordinazione tra i pezzi del sistema, e la coordinazione, nel disegno tipico di un agente, richiede round trip continui verso servizi esterni che il modello non controlla e la cui latenza non può comprimere.

Qui serve una correzione di rotta, ed è la stessa che propone un’analisi di Forbes uscita a pochi giorni dal comunicato KAIST. Il moltiplicatore 136,5x non è il numero diventato virale per caso: è un valore di picco, riferito ai task più complessi e più ricchi di chiamate a strumenti esterni, lontano dalla media rappresentativa dell’uso quotidiano di un agente. Trattarlo come la norma è un errore di lettura comune quando un dato accademico finisce sui social, dove il numero più grande vince sempre sul dettaglio metodologico. Il rischio strutturale più rilevante, secondo Forbes, è un altro: i vendor continuano a prezzare gli agenti come se fossero chiamate chatbot flat-rate, scaricando sul cliente il rischio di utilization reale, che varia molto da un task all’altro. Un agente che risponde a una domanda semplice con una sola chiamata a un tool costa poco più di un chatbot; uno che deve incrociare più fonti, eseguire codice e correggersi due o tre volte prima di chiudere il compito può avvicinarsi al picco misurato da KAIST. La distanza tra questi due estremi è ciò che il pricing attuale non distingue.

Mezza rete elettrica USA per far ragionare agenti come si cerca su Google

Il team KAIST ha anche proiettato uno scenario di scala. Se il volume di richieste ad agenti AI raggiungesse i 13,7 miliardi al giorno (un traffico paragonabile a quello attuale della ricerca Google), la domanda di potenza dei data center salirebbe a circa 198,9 GW, oltre la metà del consumo elettrico medio degli Stati Uniti. È una cifra ben oltre la scala dei data center AI oggi in sviluppo, che si misurano ancora in pochi gigawatt. Non è una previsione di consumo garantito, è una proiezione lineare che assume un’adozione degli agenti pari a quella della ricerca web: un’ipotesi aggressiva, ma non implausibile se gli agenti diventano davvero l’interfaccia di default per il lavoro d’ufficio. Per un termine di paragone sulla scala già oggi misurata, i data center AI dovrebbero superare i 1.050 TWh entro il 2026 secondo le stime più recenti: lo scenario KAIST si innesta su una traiettoria di crescita già in corso, non la inventa.

Il conto energetico in azienda non è nella slide del vendor

Le aziende che valutano l’adozione di agenti su larga scala partono spesso da un confronto sbagliato: il prezzo per chiamata o per token, mutuato dal mondo chatbot. Lo studio KAIST dimostra che il carico di lavoro non è equivalente, di un ordine di grandezza. E chi paga la differenza, oggi, è distribuito in modo poco trasparente. Un pezzo lo assorbe il vendor, con margini più sottili di quanto dichiari. Un altro pezzo finisce sul cliente enterprise, con bollette cloud che salgono più del previsto: la stessa dinamica descritta in un altro articolo di Tom’s Hardware, dove i dipendenti che passano dai chatbot agli agenti scoprono che il problema è la bolletta. Il resto lo assorbe la rete elettrica, con progetti di data center dimensionati su stime di consumo ormai superate dai fatti.

Il verdetto sul greenwashing è a due livelli, ed è utile tenerli distinti. Il primo riguarda le dichiarazioni: le grandi aziende tech continuano a comunicare impegni di neutralità carbonica mentre adottano su scala il workload più energivoro mai messo in produzione di massa, lo stesso scarto tra dichiarato e reale già documentato quando Google e Amazon bruciano più carbonio per colpa dell’AI. Il secondo riguarda la pianificazione infrastrutturale: lo scenario dei 198,9 GW non è fantascienza, è l’estrapolazione di un volume di richieste già osservato altrove. Se gli agenti diventano pervasivi come la ricerca web, la rete elettrica che dovrebbe servirli non esiste ancora, da nessuna parte.

Detto questo, il 136,5x resta un limite superiore, non la bolletta media di lunedì mattina. La cautela non è un’attenuante per i vendor: è un invito, per chi valuta un contratto enterprise sugli agenti, a chiedere il costo energetico per task completato, non per chiamata, e a verificare se il prezzo di oggi sconta davvero il consumo di domani o si limita a nasconderlo per un altro trimestre.

Chi firma quel contratto oggi, con un listino pensato per i chatbot, si ritrova comunque a coprire una parte del conto quando i volumi salgono e l’orchestrazione si complica. Il fornitore che ha costruito il prezzo su un modello di consumo sbagliato non lo scoprirà da solo: lo scopre quando arriva la fattura del trimestre in cui gli agenti hanno smesso di essere un progetto pilota.