La bolletta dell'IA: perché il costo dei token sta facendo tremare le aziende

La bolletta dell'IA: perché il costo dei token sta facendo tremare le aziende
Articolo Precedente

precedente
Articolo Successivo

successivo

Redazione Economia Redazione Economia   -   La scorsa settimana, il capo di Instagram, Adam Mosseri, ammetteva di aver dovuto "contenere un po' i costi, mettendo fine alle cose superflue" legate all'uso dell'intelligenza artificiale nella sua azienda.

Un'affermazione che, lungi dall'essere un'eccezione, sta diventando il leitmotiv di un'intera industria alle prese con una realtà finanziaria inaspritasi nell'ultimo anno e mezzo: il costo, sempre più alto e ingestibile, dei token che alimentano i modelli generativi, il cui consumo sembra non avere più freni, spingendo i chief financial officer a rivedere i loro budget con la stessa preoccupazione con cui un tempo si guardava alla bolletta del cloud.

Il token come valuta: un costo esploso per colossi come Uber e Microsoft

Il meccanismo è subdolo perché è strutturale: un token, che corrisponde a un frammento di testo di circa tre quarti di una parola, rappresenta l'unità di misura del "carburante" dell'IA. Ogni richiesta, ogni analisi di un documento, ogni riga di codice generata viene scomposta e processata, e il conto finale per le aziende è direttamente proporzionale alla produttività dei propri dipendenti.

Quello che in isolamento è una frazione di centesimo, moltiplicato per migliaia di ingegneri che lavorano tutto il giorno, si trasforma in una voce di spesa che i controllori aziendali non avevano mai visto. Il caso di Uber è diventato l'esempio più lampante di questa nuova dinamica finanziaria. L'azienda aveva distribuito lo strumento di programmazione Claude Code ad almeno cinquemila ingegneri; in breve tempo, l'84% di loro lo utilizzava attivamente, e il 70% del codice veniva generato o assistito dall'IA.

Numeri che avrebbero fatto felice qualsiasi direttore dell'innovazione, se non fosse che, come ha dichiarato il CTO Praveen Neppalli Naga, il budget per l'IA previsto per tutto il 2026 era stato già "bruciato" in soli quattro mesi, con costi per ingegnere che oscillavano tra i 500 e i 2.000 dollari al mese.

Una dinamica analoga, se non peggiore, si è verificata all'interno della stessa Microsoft: la divisione che si occupa di Windows e Microsoft 365 aveva distribuito l'accesso a Claude Code ai propri ingegneri, i quali lo hanno adottato con entusiasmo, salvo poi scoprire che la fatturazione a consumo aveva bruciato l'intero budget annuale AI in un solo quadriestre. La conseguenza è stata un ordine interno perentorio: stop alle licenze e migrazione forzata verso lo strumento proprietario GitHub Copilot CLI, nella speranza di arginare una spesa fuori controllo.

L'enorme impatto ambientale e il paradosso Nvidia

Ma il costo dell'IA non è solo economico e, come spesso accade, la bolletta nasconde un prezzo ambientale altrettanto salato. Ogni token processato richiede energia elettrica e acqua per raffreddare i server, e i numeri sono semplicemente impressionanti. Secondo l'Agenzia Internazionale dell'Energia, nel 2022 i data center hanno consumato circa 460 TWh di elettricità, quasi il 2% della domanda globale, con proiezioni che parlano di un raddoppio entro il 2026; negli Stati Uniti, il loro fabbisogno potrebbe raggiungere il 12% della produzione nazionale entro il 2028.

I sistemi di raffreddamento, poi, assorbono milioni di litri d'acqua al giorno: un singolo data center di ultima generazione consuma quanto una cittadina di 6.000 abitanti, e in Irlanda i server dei giganti tecnologici assorbono già oltre il 20% dell'elettricità nazionale, provocando tensioni e proteste da parte delle comunità locali.

Il paradosso più grande, però, è che a essere in difficoltà non sono solo le aziende "clienti", ma anche i produttori stessi di questa tecnologia. Bryan Catanzaro, vicepresidente per il deep learning di Nvidia, l'azienda che fornisce al mondo le GPU per l'intelligenza artificiale, ha dichiarato che per il suo team il costo del calcolo supera ormai ampiamente il costo del personale. In altre parole, per la stessa azienda simbolo della corsa all'IA, usare i propri strumenti costa più che pagare le persone che li utilizzano.

Un'ammissione che, da sola, vale più di qualsiasi analisi di mercato e che getta un'ombra sulle narrative ottimistiche che dipingono l'IA come un risparmio automatico. Uno studio del MIT aveva già calcolato che l'automazione tramite IA è economicamente conveniente solo nel 23% dei ruoli lavorativi.

Dalla gamification al razionamento: un cambio di rotta obbligato

Se fino a poco tempo fa le aziende della Silicon Valley incentivavano l'uso massiccio dell'IA tramite classifiche interne sul consumo di token, la musica è cambiata radicalmente. Il CEO di Microsoft, Satya Nadella, ha esortato i dipendenti a fare un passo indietro e a selezionare modelli efficienti sotto il profilo dei costi, mettendo in guardia dall'abuso e sottolineando che l'uso dell'IA deve generare valore e non solo volume. Le aziende stanno quindi passando da una mentalità del tipo "usala il più possibile" a una del tipo "usala dove è giusto, per le persone giuste e entro certi limiti".

La stessa OpenAI, per esempio, ha spento il periodo gratuito per i workspace agent, e le funzioni per PowerPoint adotteranno il modello a consumo dal 6 agosto, mentre Anthropic ha rilasciato controlli di spesa granulari per i suoi clienti enterprise.

Questo nuovo regime sta creando un mercato di consulenti specializzati nel controllo della spesa per l'IA, simile a quello già consolidato per il cloud computing, e ha portato a un ripensamento drastico del modello di business. Gartner stima che entro il 2030 il costo per fare inferenza su un modello da mille miliardi di parametri calerà di oltre il 90%, ma Goldman Sachs prevede che il consumo globale di token crescerà di 24 volte nello stesso periodo, arrivando a 120 migliaia di miliardi di token al mese.

I due dati, letti insieme, sono l'evidenza di un'accelerazione della spesa complessiva, destinata a rendere sempre più complesso per le aziende giustificare l'investimento in un'intelligenza artificiale il cui costo, a conti fatti, rischia di rivelarsi più alto del risparmio promesso.

Puoi condividere questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.