Pubblicata il 3 giugno 2026 sul blog Anthropic, questa retrospettiva ingegneristica del team Data Science & Data Engineering (Chen Chang, Clement Peng, Justin Leder, Johanne Jiao, Josh Cherry) racconta come Anthropic ha reso il proprio analytics self-service con Claude: 95% delle query aziendali automatizzate, ~95% di accuratezza in aggregato (fino a ~99% in alcuni domini).

Il punto di partenza è che l'analytics non è codice: "spesso esiste una sola risposta corretta usando un'unica fonte corretta". La sfida non è la creatività generativa ma la capacità di mappare una domanda su entità precise e aggiornate nel modello dati. Tre modalità di fallimento minacciano questo obiettivo: ambiguità concetto↔entità (cosa sono gli "utenti attivi"? si escludono i frodatori? quale finestra temporale?), obsolescenza (staleness) degli asset e della conoscenza dell'agente, e fallimento del retrieval — l'80% delle query fallite aveva comunque l'informazione presente nel corpus. Il peggiore di tutti è il fallimento silenzioso: una risposta sbagliata ma plausibile, usata senza obiezioni.

La risposta è uno "stack di agentic analytics" a quattro livelli. (1) Fondamenta dati: modellazione dimensionale, dataset canonici "single source-of-truth", metadati trattati "come prodotto di prima classe", integrità via CI/CD. (2) Fonti di verità in ordine decrescente di affidabilità: un semantic layer che l'agente è "strutturalmente obbligato (per istruzione della skill) a utilizzare per primo", poi il lineage, un corpus di query distillato in documenti (non retrieval grezzo), e un grafo di conoscenza di business (roadmap, log decisionali, organizzazione). (3) Skills — la leva decisiva: "senza skills … non si superava il 21% … Aggiungendo skills questi numeri salgono costantemente oltre il 95%". Sono organizzate in coppie: una Knowledge skill router (~30 file di riferimento) e una Unbook skill che codifica il flusso di lavoro dell'analista senior (chiarire, trovare fonti, eseguire, revisione avversariale). La manutenzione è colocata: un hook di revisione segnala ogni modifica al modello che non include una modifica alle skill — ~90% delle PR sui dati ora include una skill nello stesso diff. (4) Validazione: eval offline con soglia (~90% per autorizzare un agente), ablation testing, e salvaguardie online (revisione avversariale: +6% di accuratezza ma +32% token e +72% latenza; footer di provenienza; raccolta di correzioni da parte di agenti pianificati).

Due risultati negativi plasmano la dottrina: dare accesso a grep grezzo su migliaia di file SQL sposta l'accuratezza "di meno di un punto" (il collo di bottiglia è la struttura, non l'accesso), e lasciare che l'LLM definisca le metriche è stato "net-negative" — da cui la regola: documentazione generata, definizioni possedute dagli umani. Per iniziare: una manciata di dataset canonici, qualche dozzina di eval, una thin knowledge skill.