Token apocalypse, il conto salato dell'IA che sta mettendo in crisi le aziende

Token apocalypse, il conto salato dell'IA che sta mettendo in crisi le aziende
Articolo Precedente

precedente
Articolo Successivo

successivo

Redazione Economia Redazione Economia   -   La corsa all'adozione dell'intelligenza artificiale incondizionata, quella che aveva spinto le aziende a esortare i propri dipendenti a usare strumenti come ChatGPT o Claude a ogni costo, ha generato una bolletta che nessuno si aspettava. Il termine che circola tra i piani alti della Silicon Valley e nelle riunioni dei direttori finanziari è ormai uno solo: "Token apocalypse".

Un'espressione che suona quasi apocalittica e che descrive la resa dei conti dopo mesi di utilizzo sperimentale, in cui il consumo di token – l'unità di misura del calcolo dei modelli linguistici – è cresciuto in modo vertiginoso e fuori controllo.

Uber e il budget annuale bruciato in un trimestre

Il caso più emblematico, destinato a diventare un caso di studio, è quello di Uber. Il ceo Dara Khosrowshahi ha ammesso di aver esaurito in un solo trimestre l'intero budget per l'intelligenza artificiale previsto per l'intero anno 2026. L'azienda, che aveva inizialmente incoraggiato un uso massiccio dell'IA tra i suoi ingegneri, si è vista costretta a introdurre tetti di spesa mensili, imponendo limiti a strumenti come Claude Code e Cursor, con un budget fissato intorno ai 1.500 dollari per dipendente.

Un'inversione di rotta brusca che ha colto di sorpresa anche i diretti interessati e che riflette un problema sistemico, non limitato alla sola azienda di trasporti.

L'illusione del "tokenmaxxing" e la fine delle leaderboard

Il fenomeno del "tokenmaxxing" – ovvero la massimizzazione del consumo di token come indicatore di produttività e di adozione dell'IA – ha dominato la scena per circa sei mesi. Le aziende, spinte dalla paura di restare indietro, avevano trasformato l'uso dell'IA in una competizione interna, con tanto di classifiche. Amazon, per esempio, aveva costruito una leaderboard che premiava i dipendenti per il numero di token consumati, mentre Accenture aveva collegato l'adozione dell'IA alle possibilità di promozione.

Il risultato è stato un uso distorto e spesso inutile degli strumenti: convertire PDF in PowerPoint, un compito banale, è diventato uno dei simboli dello spreco di risorse, come ha rivelato un leak audio interno ad Accenture. Gli stessi dirigenti hanno ammesso che la spesa alle stelle non era giustificata da un ritorno misurabile. Meta, dal canto suo, ha dovuto rimuovere la propria classifica interna dopo che un dipendente, soprannominato "Token Legend", aveva consumato l'equivalente di 33 Wikipedia in un solo mese.

Il cambio di rotta e il costo degli agenti autonomi

La retromarcia è stata altrettanto rapida. Amazon e Meta hanno tagliato l'uso interno dell'IA, e molte aziende stanno ora razionando l'accesso ai modelli più costosi. Il passaggio da abbonamenti fissi a tariffazioni basate sul consumo – come quella introdotta da GitHub Copilot il 1° giugno, con costi che possono variare fino a 60 volte tra un modello e l'altro – ha reso la spesa imprevedibile e ha accelerato la crisi. Ma il problema è destinato a peggiorare con l'avvento degli agenti autonomi, che consumano un numero di token di gran lunga superiore rispetto a una semplice chat.

Gli agenti pianificano, chiamano strumenti, leggono file, correggono errori e iterano, moltiplicando i costi per ogni singolo task. Come osserva un'analisi di TechCrunch, il costo non sta più nella risposta finale, ma nella strada che l'IA percorre per arrivarci. La domanda che i CFO si pongono ora non è più "quanti token stiamo consumando", ma "quale valore stiamo ottenendo per ogni token speso".

La risposta delle aziende: razionamento e FinOps per l'IA

La risposta a questa crisi si sta articolando su due fronti. Da un lato, il razionamento: limitare l'uso dei modelli più costosi, introdurre tetti di spesa mensili per utente e bloccare l'accesso a strumenti considerati non essenziali.

Dall'altro, l'adozione di metriche di governance più sofisticate, ispirate al FinOps per il cloud: monitorare il costo per risultato validato, implementare un routing intelligente dei modelli per affidare i compiti semplici a modelli economici e quelli complessi a modelli più potenti, e utilizzare la cache per non pagare integralmente il contesto a ogni chiamata. La bolla del consumo illimitato è esplosa e le aziende si trovano ora a dover costruire una "economia adulta" dell'IA, in cui l'innovazione deve fare i conti con la sostenibilità.

Il mercato sta già prezzando questi dubbi, come dimostra il selloff del 23 giugno che ha colpito i titoli dei produttori di chip, più esposti alle aspettative di una crescita infinita del consumo. La "Token apocalypse" non è la fine dell'IA, ma la fine della sua fase di sperimentazione gratuita.

Puoi condividere questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.