Chris Williams (@voodootikigod) ouvre sa série ADLC en soutenant que faire tourner le SDLC humain sur des modèles est une erreur de catégorie : le cycle classique a été conçu pour contrer des modes de défaillance humains (ego, fatigue, oubli) absents chez les LLM. Il catalogue huit modes de défaillance porteurs (F1-F8) et cinq propriétés exploitables (E1-E5), et pose le principe fondateur : chaque phase d'un cycle agentique doit se rattacher à un mode de défaillance qu'elle défend ou à une propriété qu'elle exploite.
Troisième volet ADLC : Williams fait du test la spécification dans la seule langue que le builder ne peut pas contester. Là où le TDD est une pratique qualité optionnelle pour du code humain, il devient le mécanisme de confiance porteur de tout le cycle quand des agents codent. Trois règles de « rail discipline » : contextes d'écriture séparés (specs-only avant l'implémentation), gel mécanique au niveau de l'outil (pas du prompt), et audits adversariaux (« un test échoue-t-il si on supprime la feature ? »). Préférer le mutation testing au pourcentage de couverture, Goodhart-able à vitesse machine.
Article encyclopédique (Wikipedia, anglais) sur la **loi de Goodhart** : énoncée par l'économiste britannique Charles Goodhart en 1975 à propos de la politique monétaire — « toute régularité statistique observée tend à s'effondrer dès qu'on exerce une pression sur elle à des fins de contrôle » — puis généralisée par l'anthropologue Marilyn Strathern (1997) en l'aphorisme canonique « quand une mesure devient une cible, elle cesse d'être une bonne mesure ». Le sujet relie économie, théorie des incitations, évaluation des politiques publiques et, par extension, l'optimisation des métriques dans les systèmes d'IA.
#loi de Goodhart#mesure devenue cible#régularité statistique
Wikipedia contributors (concept : Charles Goodhart ; généralisation : Marilyn Strathern)