Token Budget Wars
Thread X viral (**230,5K vues**, 28 mai 2026, 1h51) de **Jaya Gupta** (@JayaGup10, investisseuse — vraisemblablement Foundation Capital, auteure du cadre *Context Graphs*) intitulé ***« Token Budget Wars »***. **Thèse-pivot** : ***« Enterprise AI has moved from adoption to allocation »*** — la phase 1 de l'IA d'entreprise a prouvé que les modèles savent travailler ; la phase 2 décidera **combien de ce travail vaut la peine**. La nouvelle monnaie au sommet de l'entreprise est la **capacité à quantifier le ROI de l'IA** : *« show me the value »*. Concept canonique : ***marginal token utility*** = *« the business value created by each additional dollar of inference »* — le nombre qui compte à l'échelle, et que **la plupart des entreprises ne peuvent pas voir**. Chronologie : **Claude shippé novembre 2025**, après le lock des budgets annuels 2026 → dès le **Q1**, entreprises *« running multiples ahead of plan »* → l'inférence cesse d'être une ligne d'expérimentation pour devenir un **coût opérationnel récurrent**. Bascule **expérimentation (quelques 100K$) → infrastructure (7 chiffres, 1M$+)** : à l'échelle infra, **la variance technique produit des swings de P&L matériels — deux exécutions du même workflow sur le même input peuvent différer de 5-10× en coût de tokens** sans rien de visiblement cassé, *« a number the CFO has to explain to the CEO »*. **L'IA concurrence le travail** : 3 types de demandes budgétaires (remplacer du travail externalisé / interne / générer du revenu) → glissement vers le ***cost of a completed outcome*** (cost per resolved ticket, processed claim, reviewed contract, completed invoice, avoided hire, retained customer, dollar of revenue moved). **BPO = baseline le plus facile à benchmarker** (déjà tarifé en unités complétées) ; travail interne bien plus dur (employés polyvalents, gains diffus, résistance RH à réduire les effectifs). **Pourquoi c'est différent du SaaS** : le SaaS a appris à traiter l'usage comme proxy de valeur ; l'IA casse ce proxy — *« the signal and the noise share the same unit »* (le token), *« SaaS usage told you the software had been adopted. AI usage tells you the meter is running. It doesn't tell you whether your company is cooking »*. **Trois causes de l'invisibilité de la marginal token utility** : (1) ***retry tails*** — tokens par workflow résolu ≈ **T/p** ; passer de 90% à 70% de complétion augmente le coût effectif de ~**28%**, pas 20%, car les échecs composent ; (2) ***context inflation*** — coût d'inférence ≈ **O(n²)** en longueur de contexte (attention), doubler le contexte **quadruple** le coût de raisonnement (sur-récupération : 50 docs quand 5 suffisent) ; (3) ***routing*** — par défaut on prend le modèle le plus puissant (classification basique sur modèle de raisonnement complexe) ; sur des millions d'appels, la différence entre router les tâches faciles vers un petit modèle et tout envoyer au frontier = *« the difference between a manageable bill and a board-level problem »*. **Bifurcation sectorielle** : entreprises **software** = problème de **mesure de productivité** (déjà instrumenté : PRs, commits, deploys, incidents, cycle time, MTTR — tracke les *« AI layoffs »*) ; entreprises **non-software** = problème de **transformation** (travail opérationnel : claims, underwriting, support, compliance reviews, supply chain exceptions, payment disputes — *right under audit, not just right on average*). **La couche manquante = token-to-outcome attribution** : une couche de conversion reliant dépense d'inférence → travail effectué → outcome business, qui répond à 3 questions (coût réel incluant retries/corrections ; quelles parties du trace ont compté vs thrashing ; le travail a-t-il changé l'operating model). ***Measurement becomes memory*** : pour relier un token à un outcome il faut capturer les **decision traces** (ce que l'agent a vu, récupéré, appelé, ignoré, où il a retried, quand un humain a overridé) — *« decision rationale is one of the most perishable assets in a company »* (vit dans Slack, emails, escalation calls, têtes des gens). Les agents **créent** ces traces ; capturées d'abord pour justifier la dépense, elles deviennent *« more valuable than the cost report »* → un **context graph** (*« although I am so tired of that word these days »*). **The allocation layer is the prize** : qui possède le token-to-outcome attribution fait les **allocation calls** (quels workflows méritent plus de compute, lesquels cappés, lesquels en modèles cheaper, lesquels restent humains, lesquels remplacent le BPO). Les entreprises ne le feront pas seules — elles l'**achèteront comme une transformation** (playbook Fortune 500 : McKinsey + alumni Palantir + top-down CEO, à la manière ERP/BI/digital transformation, un *« program »* avec sponsor exécutif et une infra qui devient la **nouvelle source de vérité**). Cadre par **Charlie Munger** : *« show me the incentive and I will show you the outcome »*. Sous-thèse organisationnelle : instinct exécutif trentenaire *big teams = big jobs/scope/power* → quand l'intelligence devient la **ressource rare**, le nouveau marqueur est *« how much of it you're orchestrating »*. Pertinence directe pour le **positionnement Optimisation des coûts / FinOps agentique** : confirme empiriquement les leviers (routage modèles, prompt caching, hygiène contexte, sub-agents) et déplace le KPI vers le **coût par outcome complété**. Convergence forte avec Bain *cross-system labor* (execution data moat, Cursor), Ng *No AI jobpocalypse* (pricing ancré sur le salaire de l'employé remplacé), DORA ROI (coût par feature), Mensch/Mistral (electron→token), Ensarguet (économie de la computation), Foundation Capital *Context Graphs* (decision traces, même autrice), Wescale *Token Burning*, BFM/Girard (token = fuel de valeur).
**Jaya Gupta** (@JayaGup10) — investisseuse / VC. Très probablement **Foundation Capital** (le thread s'auto-réfère au cadre ***Context Graphs*** — *« ahem, context graph, although I am so tired of that word these days »* — concept porté par Foundation Capital, cf. fiche `bain-100b-saas-opportunity` qui cite *Foundation Capital — Context Graphs trillion-dollar opportunity, 2025-12-22*). Thread publié sur X le **28 mai 2026 à 1h51** · **230 · 5K vues** · format essai long en un seul post. Une réponse notable de **@tuning_engines** (*« DevSecFinOps for the Agentic Era »*) : *« Tokens will basically have to be managed like headcount […] model hierarchies too »*.