Saltar al contenido

root / tags / journalisation

#journalisation

2 fiches

Calidad y Seguridad Traducción verificada automáticamente

Shieldstral : Mistral compile sa doctrine en 3,8 milliards de paramètres

Una nota de vigilancia de **Didier Girard** publicada en **X** el **7 de agosto de 2026**, que interpreta el lanzamiento de **Shieldstral 1.0 3B** (Mistral AI, 4 de agosto de 2026) no como el lanzamiento de un producto sino como **el despliegue en producción de una doctrina**. Punto de partida: el **13 de mayo de 2026**, ante la comisión de investigación de la Asamblea Nacional sobre las vulnerabilidades digitales, **Arthur Mensch** rechazó cualquier papel de supervisión de Mistral sobre el uso final de sus modelos — *"no tenemos legitimidad democrática"* — rechazando explícitamente la postura de **Anthropic**. Menos de tres meses después, Mistral lanza un **modelo de moderación**. El autor descarta la contradicción aparente: **Shieldstral no incorpora ninguna taxonomía de lo lícito y lo ilícito**, responde a una **pregunta que escribe el usuario**. **El mecanismo es el corazón de la nota**: un prompt en tres partes (contexto + severidad / una única pregunta cerrada / el contenido a juzgar), una respuesta `yes` o `no`, y el **softmax sobre estos dos tokens** produce una puntuación continua entre 0 y 1. **La política de moderación no está en los pesos, se lee en el momento de la inferencia** — mientras que **Llama Guard 4** incorpora la taxonomía de MLCommons fijada en el entrenamiento, Shieldstral lee la vuestra en lenguaje natural, modificable **sin reentrenamiento**. El informe técnico (**arXiv:2607.25857**, 28 de julio de 2026) cuantifica el coste de esta elección: el ajuste fino solo con datos públicos = **61,1% de F1** en adaptabilidad de política; **4,4 millones de pares contrastivos** generados por un LLM (el mismo contenido reescrito para infringir una política pero no su política hermana) = **+23,3 puntos**; **91,3%** tras la fusión de tres checkpoints. Características: **3.800 millones de parámetros reales** (el «3B» del nombre redondea a la baja), base **Ministral 3** + codificador de visión **Pixtral**, **12 idiomas**, **16 GB de VRAM en BF16**, **Apache 2.0**. Rendimiento en texto: **84,9% de F1 promedio**, a la par de **GPT-OSS-Safeguard-20B** (siete veces más grande), por delante de **Qwen3Guard-8B** (84,0) y muy por delante de **LlamaGuard-4-12B** (69,1). **Una salvedad planteada por el propio autor**: *todas estas cifras provienen de Mistral, sobre conjuntos de prueba seleccionados por Mistral, y no existía ninguna evaluación de terceros a fecha del 6 de agosto*. La tesis estructurante de la nota es una **oposición de topologías**: en **Anthropic**, la barrera de seguridad vive **en los pesos** y el editor arbitra quién queda exento de ella (**Claude Fable 5** público con medidas de seguridad / **Claude Mythos 5** sin ellas, reservado a los ciberdefensores aprobados de **Project Glasswing**, 9 de junio de 2026); en **Mistral**, la barrera de seguridad **se sitúa fuera del modelo** — un componente separado, abierto, autoalojable, cuya política pertenece a quien lo despliega. Alineación explícita de clientes (ministerio de las Fuerzas Armadas, BNP Paribas, administraciones gubernamentales francesa y luxemburguesa). La nota cierra con un **contratiempo documentado en tres puntos**: **auditabilidad** (salida binaria, sin traza de razonamiento, mientras que quien despliega hereda la carga de la justificación en una auditoría de la AI Act), **robustez** (el primer capítulo del *Tratado sobre la tolerancia* de Voltaire clasificado como «llamada a la violencia» por un usuario en el hilo de Hacker News — una confusión entre mención y respaldo), **disponibilidad** (a fecha del 6 de agosto: sin endpoint facturado en La Plateforme, sin Ollama oficial). Tres reglas de despliegue para cerrar.

#Shieldstral#Shieldstral 1.0 3B#Mistral AI

**Didier Girard** — auteur de la note · publiée sur son compte X. Écrit ici en **analyste de doctrine industrielle** plutôt qu'en testeur : il n'a pas déployé le modèle · il croise une **audition parlementaire** (Mensch, 13 mai) · un **lancement produit** (Shieldstral, 4 août) · un **rapport technique** (arXiv, 28 juillet) et un **contre-exemple concurrent** (Anthropic, 9 juin) pour montrer qu'ils forment une position cohérente. Deux marqueurs de posture : il **borne explicitement la valeur des chiffres** qu'il cite (aucune évaluation tierce) et il **termine par des règles opérationnelles** — l'analyse doit sortir avec sa traduction en décisions de déploiement.

Calidad y Seguridad Traducción verificada automáticamente

Anthropic sécurise un SDLC où l'IA écrit 80 % du code : le cycle redevient le socle

Descifrado de SFEIR (voz de la firma) del informe de Jason Clinton (Deputy CISO, Anthropic) publicado cinco días antes — ya documentado en [[clinton-anthropic-secure-ai-native-sdlc-2026-07-21]]. **El valor añadido no reside en los hechos sino en la tesis que los relee**: si los controles de Anthropic se sostienen, es porque **existe un ciclo con etapas nombradas del que colgarlos** — "el SDLC es el fundamento, no una formalidad". La demostración avanza releyendo el mapeo (**PSR en Plan, CLAUDE.md + egress allowlist en Code, agentes de revisión en Test, DAST continuo en Deploy, triage + enrutamiento SIEM en Monitor**), y después mediante una **anáfora en cuatro partes**: (1) *sin un SDLC, las ganancias de productividad no se materializan* — Clinton cita la **ley de Amdahl**: multiplicar por 8 el volumen de código no multiplica nada si la revisión sigue siendo secuencial y humana, y Anthropic ganó no distribuyendo agentes sino **identificando la etapa bloqueante (Test) y reconstruyéndola** — "no se optimiza un cuello de botella que no se ha mapeado" (haciendo eco del **efecto espejo** de DORA 2025); (2) *sin un SDLC, la seguridad no tiene punto de anclaje* — un **gate es por definición un control situado entre dos etapas**, y las tres amenazas de Clinton se abordan en momentos distintos; (3) *sin un SDLC, no puede formularse ninguna política de **FinOps de tokens*** — el escaneo agéntico se factura por consumo y crece con el volumen de código, así que **el tiering basado en riesgo ES la política de FinOps** (decide dónde se pagan tres pasadas de agente y dónde basta un SAST), de lo contrario "el gasto en tokens no se pilota, se descubre a fin de mes"; (4) *sin un SDLC, no hay nada que medir* — los indicadores (16% → 54% de PR comentados, un tercio de los incidentes pasados interceptados) existen solo porque hay etapas donde puede colocarse un contador; sin eso, solo se producen **cifras de uso** (licencias, tokens) que nada dicen sobre calidad o riesgo. Dos puntos fuertes más allá de la tesis: la lectura del **incident agent-à-agent** ("un perímetro de seguridad que descansa sobre una instrucción en un prompt no es un perímetro"; **el acceso de un agente a otros agentes forma parte de su superficie de ataque**) y una **advertencia metodológica explícita** — cifras de Anthropic sobre Anthropic, no auditadas, publicadas por el proveedor del modelo descrito, en el contexto de una base de código joven sin mainframe: **lo que se transpone es el método, no las cifras**.

#SDLC#SDLC nativo en IA#ciclo de desarrollo

SFEIR (voix éditoriale du cabinet, article non signé individuellement) — commentaire de Jason Clinton (Deputy CISO, Anthropic)