Asaf Bord, Engineering Leader chez Northwestern Mutual (une entreprise de services financiers de 160 ans), partage son expérience de construction d'un système de GenBI (Generative Business Intelligence) dans un environnement extrêmement averse au risque. La devise de l'entreprise, "responsabilité générationnelle", impose une stabilité absolue, rendant l'innovation IA difficile à vendre et à déployer.
Pour réussir, Bord a adopté une stratégie de "petits paris" (incremental rollout) et une approche "Crawl, Walk, Run". Au lieu de promettre un agent omniscient immédiatement, ils ont commencé par cibler les experts BI eux-mêmes, puis les managers, utilisant l'IA pour accélérer leur travail plutôt que de les remplacer.
L'architecture technique reflète cette prudence. Plutôt que de laisser l'IA générer du SQL complexe sur toute la base de données (risqué), ils ont construit un pipeline d'agents spécialisés : 1. Metadata Agent : Comprend le contexte de la question. 2. RAG Agent : Cherche d'abord si un rapport certifié existant contient la réponse. Ils ont découvert que 80% des demandes BI consistaient simplement à trouver le bon rapport. Automatiser cela apporte une valeur immense avec un risque minime. 3. SQL Agent : Intervient uniquement si aucun rapport n'existe, pour générer des requêtes ciblées. 4. BI Agent : Formule la réponse finale.
Un point clé de leur succès a été l'utilisation de données réelles et "sales" dès le début, impliquant les utilisateurs métier dans le processus de recherche. Cela a permis de valider la faisabilité réelle et de créer des alliés ("champions") dans l'entreprise. De plus, le projet a été découpé en sprints de 6 semaines, chaque étape livrant une valeur autonome (ex: l'amélioration des métadonnées pour l'IA a servi à toute l'entreprise), permettant au management de garder le contrôle sur l'investissement.
Bord conclut sur une réflexion économique : l'IA remet en cause le modèle de facturation "par siège" (seat-based) des logiciels SaaS, car un seul utilisateur peut désormais produire la valeur de dix.