L'articolo "Context Engineering Needs Domain Understanding" di Rod Johnson introduce il Domain-Integrated Context Engineering (DICE) come evoluzione del context engineering per costruire applicazioni LLM più efficaci e robuste. Johnson inizia riconoscendo il "context engineering" come un progresso prezioso rispetto al "prompt engineering", definendolo come l'arte e la scienza di riempire la finestra di contesto dell'LLM con informazioni pertinenti. Sostiene tuttavia che questa definizione è incompleta, poiché trascura due aspetti cruciali: la natura bidirezionale della comunicazione con gli LLM (ciò che viene inviato e ciò che viene ricevuto) e l'integrazione delle applicazioni LLM con la comprensione del business e i sistemi esistenti.
DICE: estensione concettuale
Per colmare queste lacune, Johnson propone DICE, che estende il context engineering enfatizzando l'uso di un modello di dominio per strutturare il contesto e considerando gli output dell'LLM oltre agli input. L'idea centrale: sebbene gli LLM eccellano nel linguaggio naturale, aggiungere struttura agli input e agli output li rende più sicuri e affidabili. DICE permette agli LLM di "dialogare" utilizzando la terminologia e i concetti consolidati di un'azienda, favorendo una migliore integrazione con le applicazioni esistenti. In questo contesto, gli oggetti di dominio non sono semplicemente strutture di dati ma definiscono comportamenti mirati che possono essere esposti sia al codice scritto manualmente SIA agli LLM come strumenti (tool).
Vantaggi convincenti di DICE
L'articolo evidenzia diversi vantaggi convincenti dell'adozione di DICE. Innanzitutto, consente di utilizzare il codice per strutturare il contesto, trasformando un'"arte delicata" in un processo più scientifico in cui il contesto può essere perfezionato, ragionato e testato. Ciò permette inoltre un filtraggio preciso dei contenuti, migliorando i risultati e risparmiando token. In secondo luogo, DICE facilita un'integrazione più semplice e sicura con i sistemi esistenti, andando oltre le applicazioni Gen AI "dimostrative" verso scenari reali in cui gli agenti necessitano di accesso a funzionalità già presenti. Lavorando con oggetti di dominio, le aziende possono riutilizzare i propri modelli di dominio esistenti e capitalizzare la comprensione del business acquisita con fatica.
Vantaggi aggiuntivi
Altri vantaggi includono una consegna più rapida e una qualità migliorata grazie al riutilizzo dei modelli di dominio tra applicazioni e agenti. DICE offre inoltre opzioni di persistenza strutturata, consentendo un recupero più preciso tramite tecnologie esistenti come SQL o Cypher, un potenziale complemento alla ricerca vettoriale. La struttura e l'incapsulamento aggiunti dal modello di dominio rafforzano la testabilità, il debug e il tracciamento, poiché le informazioni appaiono negli strumenti di osservabilità in un formato strutturato e comprensibile. Infine, l'integrazione di dominio aiuta a gestire il contesto nei flussi multi-fase, prevenendo il degrado della qualità e controllando i costi in token.
Posizionamento strategico
Johnson conclude che l'integrazione di dominio è fondamentale per sbloccare il pieno valore aziendale dell'IA generativa, posizionando le applicazioni aziendali esistenti come l'adiacenza chiave per la Gen AI, piuttosto che la sola data science o gli LLM. L'argomento centrale: la struttura del modello di dominio fa passare le capacità dell'LLM da potenti-ma-caotiche a controllate-e-affidabili, una condizione essenziale per l'adozione enterprise. Concettualizzando gli oggetti di dominio come entità portatrici di comportamenti esponibili come tool, DICE colma il divario concettuale tra il potenziale degli LLM e la realtà aziendale, offrendo un framework per un'integrazione della Gen AI sistematica, affidabile e generatrice di valore nei flussi di lavoro aziendali esistenti. Questa prospettiva pragmatica riconosce che il valore della Gen AI non risiede nell'isolamento, ma in un'integrazione armoniosa con i sistemi collaudati in cui risiede la conoscenza di dominio.