NuMind présente NuExtract, un modèle de langage spécialisé dans la conversion de texte en données JSON structurées. L'innovation majeure réside dans la création de modèles compacts (de 0.5 milliard à 7 milliards de paramètres) qui égalent ou surpassent les performances de LLM génériques cent fois plus volumineux.

Le modèle excelle dans l'extraction d'informations complexes à partir de documents variés, organisant les données de manière hiérarchique. Les cas d'usage typiques incluent l'analyse de dossiers médicaux, de documents juridiques et de rapports financiers. NuExtract peut fonctionner en mode zéro-shot pour des tâches générales ou être affiné pour des problématiques métier spécifiques.

La méthodologie de création du dataset constitue un élément clé du succès. L'équipe a exploité 300 000 textes anglais issus du dataset C4, utilisant Llama 3 70B pour générer les templates d'extraction et les annotations. Ce processus a produit 50 000 exemples d'entraînement de qualité, avec des arbres d'extraction pouvant atteindre 9 niveaux de profondeur hiérarchique.

Les résultats de performance démontrent l'efficacité de l'approche. NuExtract-tiny surpasse GPT-3.5 malgré une taille 100 fois inférieure. La version standard NuExtract dépasse Llama3-70B tout en étant 35 fois plus compacte. NuExtract-large atteint l'équivalence avec GPT-4o pour une réduction de taille d'un facteur 100.

Ces performances ouvrent des avantages pratiques considérables par rapport aux alternatives propriétaires. Les coûts d'inférence sont drastiquement réduits grâce à la taille compacte des modèles. Le déploiement local ou privé devient réalisable, répondant aux exigences de confidentialité de nombreuses organisations. La capacité de fine-tuning permet d'adapter facilement le modèle à des domaines spécifiques sans expertise ML approfondie.

Le modèle est distribué sous licence MIT, permettant une utilisation libre dans des contextes commerciaux et de recherche. Cette approche open source positionne NuExtract comme une alternative crédible aux API d'extraction propriétaires, particulièrement pour les organisations soucieuses de maîtriser leurs coûts et leurs données.

L'article illustre une tendance importante : les modèles spécialisés de taille modeste peuvent rivaliser avec les géants généralistes sur des tâches ciblées, ouvrant la voie à des déploiements plus économiques et souverains.