Shieldstral : Mistral compile sa doctrine en 3,8 milliards de paramètres

À retenir

1. ⭐⭐ L'idée centrale, à retenir seule. la question n'est pas « quel modèle modère le mieux ? » mais « où loge le garde-fou ? ». Deux réponses opposées, données à deux mois d'écart par deux éditeurs : | | Anthropic (9 juin 2026) | Mistral (4 août 2026) | |---|---|---| | Emplacement | dans les poids du modèle | à côté du modèle, composant séparé | | Qui définit la politique | l'éditeur | le déployeur | | Qui échappe au garde-fou | ceux que l'éditeur approuve (Project Glasswing) | question sans objet | | Modèle de distribution | Fable 5 public / Mythos 5 restreint | poids ouverts Apache 2.0 | → Ce n'est pas un désaccord technique, c'est un désaccord sur qui a la légitimité d'arbitrer le licite. Voir [[anthropic-claude-fable-5-mythos-5-2026-06-09]] pour le camp opposé et [[mensch-mistral-commission-enquete-vulnerabilites-numeriques-souverainete-ia-2026-05-13]] pour la position de Mensch en amont.
2. ⭐ Le mécanisme, en trois lignes. prompt = (1) contexte + niveau de sévérité, (2) une seule question fermée (« ce contenu appelle-t-il à la violence ? »), (3) le contenu à juger. Sortie = yes / no, et la softmax sur ces deux tokens seulement donne un score continu entre 0 et 1. Conséquence pratique : on obtient un scalaire seuillable, pas un verdict binaire — c'est ce qui rend la calibration possible (voir ci-dessous).
3. Ce qui est réellement nouveau. la politique n'est pas apprise. Llama Guard 4 embarque la taxonomie MLCommons figée à l'entraînement ; Shieldstral lit la vôtre en langage naturel à l'inférence, et vous la changez sans réentraîner. Le modèle n'apprend pas ce qui est interdit, il apprend à appliquer une règle qu'on lui donne.
4. ⭐ Le chiffre qui explique le reste. — l'adaptabilité ne vient pas de l'architecture mais des données fabriquées pour l'enseigner : | Étape | F1 « adaptabilité aux politiques » | |---|---| | Fine-tuning sur jeux publics seuls | 61,1 % | | + 4,4 M de paires contrastives générées par LLM | +23,3 pts | | + fusion de trois checkpoints | 91,3 % | → La paire contrastive est le vrai objet à retenir : un même contenu réécrit pour violer une politique mais pas sa politique sœur. C'est le seul signal qui force le modèle à lire la question plutôt qu'à reconnaître un thème. Pattern transférable à tout classificateur pilotable par consigne.
5. La fiche technique, pour décider si ça tourne chez vous. 3,8 Md de paramètres réels (le « 3B » arrondit vers le bas), base Ministral 3 + encodeur vision Pixtral (donc multimodal : texte et image), 12 langues, 16 Go de VRAM en BF16, Apache 2.0. C'est la classe « une carte grand public » — le dimensionnement fait partie de l'argument politique, pas seulement du produit.
6. ⚠️ Les benchmarks, avec leur réserve. 84,9 % de F1 moyen texte, à égalité avec GPT-OSS-Safeguard-20B (×7 en taille), devant Qwen3Guard-8B (84,0), loin devant LlamaGuard-4-12B (69,1). Tous ces chiffres viennent de Mistral, sur des jeux de test choisis par Mistral, sans évaluation tierce au 6 août 2026. L'auteur pose lui-même la réserve — ne pas la perdre en citant le résultat.
7. ⭐⭐ Les trois règles de déploiement — le livrable actionnable de la note. 1. Calibrer deux seuils sur un jeu étiqueté maison, au lieu d'accepter le 0,5 par défaut : auto-approbation sous le premier, auto-rejet au-dessus du second, revue humaine entre les deux. (Le score continu existe pour ça.) 2. Journaliser la question de politique active à chaque décision — c'est elle qui tiendra lieu de justification en audit, puisque le modèle n'en produit aucune. 3. Tester le couple mention/adhésion et vos langues réelles avant mise en production. → Et une quatrième, séparée : garder un détecteur dédié à l'injection de prompt. Shieldstral filtre du contenu, il ne protège pas un agent contre un document piégé. Distinction à ne pas laisser s'effacer — cf. [[valente-zalewski-beyond-zero-enterprise-security-ai-era-2026-07-20]] et [[sfeir-anthropic-sdlc-ai-native-securise-2026-07-26]].
8. ⚠️ Le test Voltaire — le contre-exemple à citer. sur le fil Hacker News, un utilisateur soumet le premier chapitre du Traité sur la tolérance avec la question « ce texte prône-t-il la violence contre un groupe protégé ? ». Réponse : oui. Le classificateur confond mentionner la violence et y appeler — le faux positif canonique du genre, obtenu sur l'un des textes fondateurs de la tolérance. Mistral reconnaît par ailleurs des faiblesses sur les entrées obscurcies, les documents longs, l'arabe et l'indonésien.
9. Le trou d'auditabilité, à évaluer avant tout usage réglementé. la sortie est yes/no + un score, aucune trace de raisonnement. Or le déployeur hérite de la taxonomie, de la calibration et de la charge de justifier chaque décision en audit AI Act — avec un score sec pour tout justificatif. C'est le prix exact de la topologie « garde-fou hors du modèle » : la responsabilité est transférée, l'outillage de la responsabilité ne l'est pas.
10. La disponibilité au 6 août 2026 (état daté, à revérifier). pas d'endpoint facturé sur La Plateforme, pas d'entrée Ollama officielle, des quantifications communautaires publiées en 48 h qu'il faut vérifier au checksum. L'auto-hébergement est la seule voie sérieuse — cohérent avec le produit, mais l'usage est de fait réservé aux équipes qui savent héberger un modèle.
11. ⭐ La lecture souveraineté. un filtre qui tourne sur site, dont la politique reste sur site, documenté au regard de l'AI Act — c'est une case que les offres américaines laissent vide pour les clients que Mensch listait en audition (ministère des Armées, BNP Paribas, administrations françaises et luxembourgeoise). Se raccorde directement à la thèse de [[sfeir-mistral-microsoft-souverainete-strategie-industrielle-2026-07-22]] : la souveraineté se qualifie dépendance par dépendance, en propriété d'architecture — un garde-fou open-weights est ce genre de propriété. À rapprocher aussi de [[mozilla-state-of-open-source-ai-2026-07]] et [[deanwball-open-weights-decelerationnistes-kimi-2026-07-17]] sur la place des poids ouverts dans le débat sûreté.
12. Méta / la phrase à garder. « Mistral ne décidera pas ce qui est acceptable, il propose l'outil pour que vous le décidiez. » C'est la doctrine, en une ligne — et la note montre qu'elle a un coût, pas seulement une vertu.