Vai al contenuto

Costi e token: modelli, cache, monitoraggio 💰

Il costo non è una sorpresa, è una leva 💰

Chi usa un coding agent per un paio di settimane se ne accorge subito: il conto cresce. Non è un problema — è un segnale.

Il costo di un agente non è una nota a piè di pagina: è una leva strategica. La differenza tra chi lo usa in modo efficiente e chi lo spreca sta nella comprensione di token, cache e model routing. Imparare a gestire questi tre fattori significa ottenere lo stesso risultato con una frazione del budget.

Un token sprecato non è solo denaro: è latenza, è contesto inutile, è un modello che deve leggere roba che non serve.

Output costa più di input 💸

Questo è il primo concetto da internalizzare: ogni parola che l’agente genera costa più di una parola che legge. Non di poco — spesso 3-5x a secondo del provider.

Significa che un prompt vago che produce 2000 righe di output inutile ti costa enormemente più di un prompt ben strutturato che ne produce 200. E il risultato? Spesso identico.

Alcune strategie concrete:

  • Prompt brevi e diretti: elimina prefazioni, contesto superfluo, esempi non richiesti
  • “Solo codice”: quando il codice parla da solo, chiedi output minimale — niente spiegazioni, niente commenti ridondanti
  • AGENTS.md ben configurato: una guida al contesto chiara riduce le domande di chiarimento dell’agente, tagliando output del ~20%
  • Struttura le richieste: un task ben definito evita che l’agente esplori percorsi inutili

La regola d’oro: se non lo leggerai, non farlo generare.

Model routing 80/15/5 🎯

Non tutti i task richiedono lo stesso livello di intelligenza. Usare un modello frontier per rinominare una variabile è come guidare una Ferrari per andare a comprare il pane.

La regola pratica che funziona: 80% modelli leggeri, 15% intermedi, 5% frontier.

Percentuale Tipo Task tipici
80% Leggero Spiegazioni, documentazione, test base, refactor meccanici, renaming
15% Intermedio Feature multi-file, logica media, refactor con dipendenze
5% Frontier Decisioni architetturali ad alto rischio, debug multi-step, security review

Questo non è un vincolo rigido — è un pattern di default. La chiave è sviluppare l’occhio per capire quando un task serve un modello più potente e quando no.

Il modello giusto al momento giusto non è parsimonia: è competenza.

La cache premia la stabilità ⚡

La cache del contesto è il vantaggio nascosto di chi lavora bene. Se cambi modello o tool a metà sessione, invalidi la cache e il costo ricomincia da zero.

Alcune best practice:

  • Non cambiare modello a metà sessione: se devi passare da un task leggero a uno pesante, valuta se aprire una sessione separata piuttosto che rompere il contesto
  • Istruzioni brevi e permanenti: metti le regole fondamentali in AGENTS.md o equivalente — vengono caricate una volta e restano in cache
  • Contesto stabile: evita di rimuovere e reinserire file dal contesto a ogni turno
  • Sessioni compattate: quando la sessione cresce troppo, comprimila piuttosto che ricominciare da capo

Un prompt di sistema ben costruito può ridurre il consumo di input fino al 25-30% nelle sessioni lunghe, semplicemente perché il modello non deve ri-leggere le stesse istruzioni ad ogni turno.

Sotto-agenti vs sessioni infinite 🤖

La tentazione classica: tenere aperta una sessione per ore, aggiungendo task dopo task. Il risultato? Un contesto che cresce esponenzialmente, costi che esplodono, e un modello che perde il filo.

L’alternativa: delegare a sotto-agenti. Task brevi con contesto circoscritto riducono il consumo di input fino al 60% rispetto alla stessa lavoro fatto in una sessione continua.

Come funziona in pratica:

  • Il task principale analizza il problema e definisce lo scope
  • I sotto-agenti ricevono solo il contesto necessario per il loro pezzo
  • Ogni sotto-agente lavora in isolamento, con input minimo
  • Il risultato viene assemblato alla fine

La complessità non si gestisce con più contesto — si gestisce con meno contesto, ma più strategicamente.

Questo pattern è particolarmente efficace per refactoring ampi, test multipli, e migrazioni dove ogni sotto-task è indipendente.

Telemetria e budget 📊

Non puoi ottimizzare quello che non misuri. Ma attenzione: la telemetria senza analisi è solo numeri.

Strategie practicali:

  • Dashboard di utilizzo: traccia token per sessione, per modello, per tipo di task — non basta sapere quanto spendi, devi capire dove spendi
  • Soglie con notifiche: imposta alert quando il consumo supera una certa soglia — meglio fermarsi e ragionare piuttosto che proseguire a fari spenti
  • Revisione periodica: una volta al mese, rivedi i pattern di utilizzo — troverai sempre task che potevano usare un modello più leggero o una sessione più corta
  • Confronto con la baseline: misura il costo medio per tipo di task e confrontalo nel tempo

L’obiettivo non è minimizzare i costi a ogni costo — è massimizzare il valore per ogni token speso.

Quando NON usare l’agente ⛔

Non tutti i task richiedono un agente. A volte il tool sbagliato peggiora la situazione:

  • Task puramente meccanici con rischio zero: rinominare 50 variabili è un find-and-replace, non serve un modello
  • Debug visivo immediato: se vedi il bug guardando il codice, fixalo — non serve un round trip con l’agente
  • Ricerche di pura documentazione: se sai esattamente dove cercare, vai direttamente alla fonte
  • Task ripetitivi senza variabilità: se lo fai allo stesso modo ogni volta, automa con uno script
  • Quando il contesto è troppo grande per la finestra: frammenta prima, delega poi — non forzare un modello con troppi dati

L’agente è un acceleratore, non un sostituto del pensiero. Usalo quando accelera, non quando rallenta.

Checklist finale ✅

  • Prompt brevi e diretti — niente prefazioni, niente output non richiesto
  • Model routing consapevole — leggero per il 80%, intermedio per il 15%, frontier per il 5%
  • Cache preservata — stesso modello, stesso tool, contesto stabile nella sessione
  • Sotto-agenti per task indipendenti — contesto circoscritto, input ridotto
  • Telemetria attiva — dashboard, soglie, revisione periodica
  • Task matching corretto — non tutto richiede un agente
  • Budget monitorato — sai quanto spendi e dove lo spendi
  • Sessioni compattate — quando cresce troppo, comprimi

Approfondimenti 📚

Ultimo aggiornamento il