Context Engineering Needs Domain Understanding

L'article « Context Engineering Needs Domain Understanding » de Rod Johnson introduit le Domain-Integrated Context Engineering (DICE) comme une évolution du context engineering pour construire des applications LLM plus efficaces et robustes. Johnson commence par reconnaître le « context engineering » comme une avancée précieuse par rapport au « prompt engineering », le définissant comme l'art et la science de remplir la fenêtre de contexte du LLM avec les informations pertinentes. Il soutient néanmoins que cette définition est incomplète, car elle néglige deux aspects cruciaux : la nature bidirectionnelle de la communication avec les LLM (ce qui est envoyé et ce qui est reçu) et l'intégration des applications LLM avec la compréhension métier et les systèmes existants.

DICE : extension conceptuelle

Pour combler ces lacunes, Johnson propose DICE, qui étend le context engineering en mettant l'accent sur l'usage d'un modèle de domaine pour structurer le contexte et en considérant les sorties des LLM en plus des entrées. L'idée centrale : bien que les LLMs excellent en langage naturel, ajouter de la structure aux entrées et sorties les rend plus sûrs et plus fiables. DICE permet aux LLMs de « converser » en utilisant la terminologie et les concepts établis d'un métier, favorisant une meilleure intégration avec les applications existantes. Les domain objects, dans ce contexte, ne sont pas de simples structures de données mais définissent des comportements ciblés exposables au code écrit manuellement ET aux LLMs comme outils.

Bénéfices convaincants de DICE

L'article met en avant plusieurs bénéfices convaincants de l'adoption de DICE. Premièrement, il permet d'utiliser du code pour structurer le contexte, transformant un « art délicat » en processus plus scientifique où le contexte peut être affiné, raisonné et testé. Cela permet aussi un filtrage précis du contenu, améliorant les résultats et économisant des tokens. Deuxièmement, DICE facilite une intégration plus simple et plus sûre avec les systèmes existants, dépassant les applications Gen AI « de démonstration » vers des scénarios réels où les agents doivent accéder aux fonctionnalités existantes. En travaillant avec des domain objects, les entreprises peuvent réutiliser leurs modèles de domaine existants et capitaliser sur une compréhension métier durement acquise.

Avantages additionnels

D'autres avantages incluent une livraison accélérée et une qualité améliorée grâce à la réutilisation des modèles de domaine entre applications et agents. DICE offre aussi des options de persistance structurée, permettant une récupération plus précise via des technologies existantes comme SQL ou Cypher, complément potentiel à la recherche vectorielle. La structure et l'encapsulation ajoutées par le modèle de domaine renforcent la testabilité, le débogage et le traçage, car l'information apparaît dans les outils d'observabilité sous un format structuré et compréhensible. Enfin, l'intégration du domaine aide à gérer le contexte dans les flux multi-étapes, prévenant la dégradation de qualité et maîtrisant les coûts de tokens.

Positionnement stratégique

Johnson conclut que l'intégration du domaine est primordiale pour libérer la pleine valeur métier de l'IA générative, positionnant les applications métier existantes comme l'adjacence clé de la Gen AI, plutôt que la seule data science ou les LLMs eux-mêmes. L'argument central : la structure du modèle de domaine fait passer les capacités des LLM de puissantes-mais-chaotiques à contrôlées-et-fiables, condition essentielle de l'adoption en entreprise. En conceptualisant les domain objects comme des entités porteuses de comportements exposables comme outils, DICE comble le fossé conceptuel entre le potentiel des LLM et la réalité de l'entreprise, offrant un cadre pour une intégration Gen AI systématique, fiable et créatrice de valeur dans les workflows métier existants. Cette perspective pragmatique reconnaît que la valeur de la Gen AI ne réside pas dans l'isolement, mais dans l'intégration harmonieuse avec les systèmes éprouvés où réside la connaissance du domaine.