Shieldstral : Mistral compile sa doctrine en 3,8 milliards de paramètres

Punti chiave

1. ⭐⭐ L'idea centrale, da tenere a parte. la domanda non è «quale modello modera meglio?» ma «dove vive il guardrail?». Due risposte opposte, date a due mesi di distanza da due fornitori: | | Anthropic (9 giugno 2026) | Mistral (4 agosto 2026) | |---|---|---| | Posizione | nei pesi del modello | accanto al modello, componente separato | | Chi definisce la policy | il fornitore | chi lo distribuisce | | Chi è esentato dal guardrail | chi è approvato dal fornitore (Project Glasswing) | non applicabile | | Modello di distribuzione | Fable 5 pubblico / Mythos 5 ristretto | Apache 2.0 a pesi aperti | → Non è un disaccordo tecnico, è un disaccordo su chi ha la legittimità di arbitrare ciò che è lecito. Cfr. [[anthropic-claude-fable-5-mythos-5-2026-06-09]] per il campo opposto e [[mensch-mistral-commission-enquete-vulnerabilites-numeriques-souverainete-ia-2026-05-13]] per la posizione precedente di Mensch.
2. ⭐ Il meccanismo, in tre righe. prompt = (1) contesto + livello di gravità, (2) un'unica domanda chiusa («questo contenuto incita alla violenza?»), (3) il contenuto da giudicare. Output = yes / no, e la softmax sui soli questi due token dà un punteggio continuo tra 0 e 1. Conseguenza pratica: quello che si ottiene è uno scalare soggetto a soglia, non un verdetto binario — il che rende possibile la calibrazione (vedi sotto).
3. Ciò che è davvero nuovo. la policy non è appresa. Llama Guard 4 incorpora la tassonomia MLCommons congelata al momento dell'addestramento; Shieldstral legge la vostra in linguaggio naturale al momento dell'inferenza, e la cambiate senza riaddestramento. Il modello non impara cosa è vietato, impara ad applicare una regola che gli viene data.
4. ⭐ Il numero che spiega il resto. — l'adattabilità non deriva dall'architettura ma dai dati fabbricati per insegnargliela: | Passaggio | F1 «adattabilità della policy» | |---|---| | Fine-tuning sui soli set pubblici | 61,1% | | + 4,4M coppie contrastive generate da LLM | +23,3 pt | | + merging di tre checkpoint | 91,3% | → La coppia contrastiva è la cosa vera da ricordare: lo stesso contenuto riscritto per violare una policy ma non la sua policy gemella. È l'unico segnale che costringe il modello a leggere la domanda invece di riconoscere un argomento. Pattern trasferibile a qualsiasi classificatore steerabile via istruzioni.
5. La scheda tecnica, per decidere se gira sul vostro hardware. 3,8 miliardi di parametri effettivi (il «3B» arrotonda per difetto), base Ministral 3 + encoder visivo Pixtral (quindi multimodale: testo e immagine), 12 lingue, 16 GB di VRAM in BF16, Apache 2.0. È la classe «una GPU consumer» — il dimensionamento fa parte dell'argomento politico, non solo di quello del prodotto.
6. ⚠️ I benchmark, con la loro riserva. 84,9% F1 medio sul testo, alla pari con GPT-OSS-Safeguard-20B (×7 la dimensione), davanti a Qwen3Guard-8B (84,0), nettamente davanti a LlamaGuard-4-12B (69,1). Tutte queste cifre provengono da Mistral, su set di test scelti da Mistral, senza alcuna valutazione terza al 6 agosto 2026. L'autore solleva la riserva lui stesso — non va omessa quando si cita il risultato.
7. ⭐⭐ Le tre regole di deployment — l'asporto operativo della nota. 1. Calibrare due soglie su un set etichettato interno, invece di accettare il default 0,5: auto-approvazione sotto la prima, auto-rifiuto sopra la seconda, revisione umana nel mezzo. (Il punteggio continuo esiste per questo.) 2. Registrare la domanda di policy attiva a ogni decisione — servirà da giustificazione in un audit, dato che il modello non ne produce alcuna. 3. Testare la coppia menzione/endorsement e le vostre lingue reali prima del deployment in produzione. → E una quarta, separata: mantenere un rilevatore di prompt injection dedicato. Shieldstral filtra i contenuti, non protegge un agente da un documento trappolato. Una distinzione da non far sfumare — cfr. [[valente-zalewski-beyond-zero-enterprise-security-ai-era-2026-07-20]] e [[sfeir-anthropic-sdlc-ai-native-securise-2026-07-26]].
8. ⚠️ Il test Voltaire — il controesempio da citare. sul thread Hacker News, un utente sottopone il primo capitolo del Trattato sulla tolleranza con la domanda «questo testo incita alla violenza contro un gruppo protetto?». Risposta: sì. Il classificatore confonde la menzione della violenza con il suo endorsement — il falso positivo canonico del genere, ottenuto su uno dei testi fondanti della tolleranza. Mistral riconosce inoltre debolezze su input offuscati, documenti lunghi, arabo e indonesiano.
9. Il gap di auditabilità, da valutare prima di qualsiasi uso regolamentato. l'output è yes/no più un punteggio, nessuna traccia di ragionamento. Eppure chi lo distribuisce eredita la tassonomia, la calibrazione, e l'onere di giustificare ogni decisione in un audit AI Act — con un semplice punteggio come unica prova a supporto. È esattamente il prezzo della topologia «guardrail fuori dal modello»: la responsabilità viene trasferita, gli strumenti per quella responsabilità no.
10. Disponibilità al 6 agosto 2026 (uno snapshot datato, da riverificare). nessun endpoint a pagamento su La Plateforme, nessuna voce Ollama ufficiale, quantizzazioni comunitarie pubblicate entro 48 ore che richiedono verifica del checksum. L'autohosting è l'unica via seria — coerente con il prodotto, ma l'uso è di fatto riservato ai team che sanno ospitare un modello.
11. ⭐ La lettura in chiave di sovranità. un filtro che gira on-premise, la cui policy resta on-premise, documentato rispetto all'AI Act — una casella che le offerte statunitensi lasciano vuota per i clienti citati da Mensch nella sua audizione (Ministero delle Forze Armate, BNP Paribas, amministrazioni governative francese e lussemburghese). Si collega direttamente alla tesi di [[sfeir-mistral-microsoft-souverainete-strategie-industrielle-2026-07-22]]: la sovranità si qualifica dipendenza per dipendenza, come proprietà architetturale — un guardrail a pesi aperti è questo tipo di proprietà. Da mettere in relazione anche con [[mozilla-state-of-open-source-ai-2026-07]] e [[deanwball-open-weights-decelerationnistes-kimi-2026-07-17]] sul posto dei pesi aperti nel dibattito sulla sicurezza.
12. Meta / la frase da tenere. «Mistral non deciderà cosa è accettabile, offre lo strumento affinché siate voi a decidere.» Ecco la dottrina, in una riga — e la nota mostra che ha un costo, non solo una virtù.