Shieldstral : Mistral compile sa doctrine en 3,8 milliards de paramètres

Puntos clave

1. ⭐⭐ La idea central, la que vale la pena retener por sí sola. la pregunta no es «¿qué modelo modera mejor?» sino «¿dónde vive la barrera de seguridad?». Dos respuestas opuestas, dadas con dos meses de diferencia por dos proveedores: | | Anthropic (9 de junio de 2026) | Mistral (4 de agosto de 2026) | |---|---|---| | Ubicación | en los pesos del modelo | junto al modelo, un componente separado | | Quién define la política | el proveedor | el desplegador | | Quién queda exento de la barrera de seguridad | quienes el proveedor aprueba (Project Glasswing) | no aplica | | Modelo de distribución | Fable 5 público / Mythos 5 restringido | pesos abiertos Apache 2.0 | → No se trata de un desacuerdo técnico, sino de un desacuerdo sobre quién tiene la legitimidad para arbitrar lo que es lícito. Véase [[anthropic-claude-fable-5-mythos-5-2026-06-09]] para el bando opuesto y [[mensch-mistral-commission-enquete-vulnerabilites-numeriques-souverainete-ia-2026-05-13]] para la postura anterior de Mensch.
2. ⭐ El mecanismo, en tres líneas. prompt = (1) contexto + nivel de gravedad, (2) una única pregunta cerrada («¿este contenido incita a la violencia?»), (3) el contenido a evaluar. Salida = yes / no, y la softmax sobre estos dos únicos tokens da una puntuación continua entre 0 y 1. Consecuencia práctica: lo que se obtiene es un escalar susceptible de umbralización, no un veredicto binario — lo que hace posible la calibración (ver más abajo).
3. Lo verdaderamente nuevo. la política no se aprende. Llama Guard 4 incorpora la taxonomía de MLCommons congelada en el momento del entrenamiento; Shieldstral lee la tuya en lenguaje natural en el momento de la inferencia, y la cambias sin reentrenamiento. El modelo no aprende qué está prohibido, aprende a aplicar una regla que se le da.
4. ⭐ La cifra que lo explica todo. — la adaptabilidad no proviene de la arquitectura sino de datos fabricados para enseñarla: | Paso | F1 «adaptabilidad de política» | |---|---| | Ajuste fino únicamente con conjuntos públicos | 61,1% | | + 4,4M pares contrastivos generados por LLM | +23,3 pts | | + fusión de tres checkpoints | 91,3% | → El par contrastivo es lo que realmente hay que recordar: el mismo contenido reescrito para infringir una política pero no su política hermana. Es la única señal que obliga al modelo a leer la pregunta en lugar de reconocer un tema. Patrón transferible a cualquier clasificador dirigible por instrucciones.
5. La ficha técnica, para decidir si funciona en tu hardware. 3.800 millones de parámetros reales (el «3B» redondea a la baja), base Ministral 3 + codificador de visión Pixtral (de ahí su carácter multimodal: texto e imagen), 12 idiomas, 16 GB de VRAM en BF16, Apache 2.0. Es la categoría «una sola GPU de consumo» — el dimensionamiento forma parte del argumento político, no solo del producto.
6. ⚠️ Los benchmarks, con su reserva. 84,9% de F1 promedio en texto, a la par con GPT-OSS-Safeguard-20B (×7 el tamaño), por delante de Qwen3Guard-8B (84,0), muy por delante de LlamaGuard-4-12B (69,1). Todas estas cifras provienen de Mistral, sobre conjuntos de prueba elegidos por Mistral, sin evaluación de terceros a fecha del 6 de agosto de 2026. El propio autor plantea la reserva — no la omitas al citar el resultado.
7. ⭐⭐ Las tres reglas de despliegue — la conclusión práctica de la nota. 1. Calibrar dos umbrales sobre un conjunto etiquetado interno, en lugar de aceptar el valor por defecto de 0,5: aprobación automática por debajo del primero, rechazo automático por encima del segundo, revisión humana en el medio. (La puntuación continua existe precisamente para esto.) 2. Registrar la pregunta de política activa en cada decisión — servirá como justificación en una auditoría, ya que el modelo no produce ninguna. 3. Probar el par mención/respaldo y tus idiomas reales antes del despliegue en producción. → Y una cuarta, separada: mantener un detector de inyección de prompt dedicado. Shieldstral filtra contenido, no protege a un agente frente a un documento trampa. Una distinción que no debe difuminarse — cf. [[valente-zalewski-beyond-zero-enterprise-security-ai-era-2026-07-20]] y [[sfeir-anthropic-sdlc-ai-native-securise-2026-07-26]].
8. ⚠️ La prueba Voltaire — el contraejemplo que vale la pena citar. en el hilo de Hacker News, un usuario envía el primer capítulo del Tratado sobre la tolerancia con la pregunta «¿este texto defiende la violencia contra un grupo protegido?». Respuesta: yes. El clasificador confunde mencionar la violencia con respaldarla — el falso positivo canónico del género, obtenido sobre uno de los textos fundacionales de la tolerancia. Mistral reconoce además debilidades en entradas ofuscadas, documentos largos, árabe e indonesio.
9. La brecha de auditabilidad, a evaluar antes de cualquier uso regulado. la salida es yes/no más una puntuación, sin traza de razonamiento. Sin embargo, el desplegador hereda la taxonomía, la calibración y la carga de justificar cada decisión en una auditoría de la AI Act — con una simple puntuación como única prueba de respaldo. Este es el precio exacto de la topología «barrera fuera del modelo»: la responsabilidad se transfiere, la instrumentación para esa responsabilidad no.
10. Disponibilidad a fecha del 6 de agosto de 2026 (una instantánea fechada, a revisar). ningún endpoint de pago en La Plateforme, ninguna entrada oficial en Ollama, cuantizaciones comunitarias publicadas en 48 horas que requieren verificación de checksum. El autohospedaje es la única vía seria — coherente con el producto, pero el uso queda de facto reservado a equipos que sepan hospedar un modelo.
11. ⭐ La lectura en clave de soberanía. un filtro que funciona on-premises, cuya política permanece on-premises, documentado frente a la AI Act — una casilla que las ofertas estadounidenses dejan sin marcar para los clientes que Mensch enumeró en su audiencia (Ministerio de las Fuerzas Armadas, BNP Paribas, administraciones gubernamentales francesa y luxemburguesa). Esto se conecta directamente con la tesis de [[sfeir-mistral-microsoft-souverainete-strategie-industrielle-2026-07-22]]: la soberanía se cualifica dependencia por dependencia, como una propiedad arquitectónica — una barrera de seguridad de pesos abiertos es ese tipo de propiedad. También vale la pena relacionarlo con [[mozilla-state-of-open-source-ai-2026-07]] y [[deanwball-open-weights-decelerationnistes-kimi-2026-07-17]] sobre el lugar de los pesos abiertos en el debate de seguridad.
12. Meta / la frase que vale la pena retener. «Mistral no decidirá qué es aceptable, ofrece la herramienta para que tú decidas.» Esa es la doctrina, en una línea — y la nota muestra que tiene un coste, no solo una virtud.