Harrison Chase, CEO di LangChain, pubblica un articolo concettuale che stabilisce un cambiamento di paradigma fondamentale nella comprensione dei sistemi agentici IA: nel software tradizionale, il codice documenta l'applicazione; per gli agenti IA, sono le tracce a svolgere questo ruolo.
Nello sviluppo software tradizionale, gli sviluppatori comprendono il funzionamento di un'applicazione esaminandone il codice - la logica decisionale esiste esplicitamente nella codebase. I sistemi basati su agenti funzionano diversamente. Sebbene gli sviluppatori orchestrino le chiamate agli LLM, "le decisioni effettive - quale strumento chiamare, come ragionare sul problema, quando fermarsi, cosa privilegiare - avvengono tutte nel modello in fase di runtime".
Chase afferma che il codice di orchestrazione rimane debuggabile, ma l'intelligenza che guida le decisioni risiede nel modello stesso, non nel repository. Il codice diventa una mera "impalcatura" attorno alla logica effettiva.
Le tracce registrano la sequenza di passaggi eseguiti dagli agenti, documentando pattern di ragionamento, selezioni di strumenti, risultati e tempistiche. Questo cambiamento riconfigura le pratiche operative: "il debug, il testing, il profiling, il monitoraggio - tutto si sposta dall'operare sul codice all'operare sulle tracce".
A differenza del software deterministico, in cui input identici producono output identici, gli agenti IA generano catene di ragionamento diverse a partire dallo stesso input. Confrontare le tracce diventa essenziale per comprendere le differenze comportamentali.
L'articolo dettaglia gli impatti su ciascuna pratica di sviluppo. Il debug passa dall'esame del codice all'ispezione delle tracce per individuare dove il ragionamento ha fallito. Il testing richiede approcci "eval-driven" che catturano le tracce durante l'esecuzione con validazione continua in produzione. L'ottimizzazione delle prestazioni si concentra sui pattern decisionali all'interno delle tracce - individuando chiamate a strumenti superflue e percorsi di ragionamento inefficienti.
Il monitoraggio evolve dalla sorveglianza dell'uptime alla valutazione della qualità, misurando il successo dei task e l'efficienza del ragionamento. Le piattaforme di osservabilità diventano gli spazi di collaborazione principali in cui i team discutono le decisioni degli agenti. L'analisi di prodotto si integra con l'analisi comportamentale degli agenti.
Chase conclude con un avvertimento: "Costruire agenti senza un'osservabilità solida significa operare senza accesso alla documentazione della logica principale".