In software, the code documents the app. In AI, the traces do.
LangChain - traces comme documentation agents IA, observabilité, debugging runtime
#traces#observabilité#agents IA
Harrison Chase
root / tags / evaluation
#évaluation
2 fiches
Goodhart's law
Article encyclopédique (Wikipedia, anglais) sur la **loi de Goodhart** : énoncée par l'économiste britannique Charles Goodhart en 1975 à propos de la politique monétaire — « toute régularité statistique observée tend à s'effondrer dès qu'on exerce une pression sur elle à des fins de contrôle » — puis généralisée par l'anthropologue Marilyn Strathern (1997) en l'aphorisme canonique « quand une mesure devient une cible, elle cesse d'être une bonne mesure ». Le sujet relie économie, théorie des incitations, évaluation des politiques publiques et, par extension, l'optimisation des métriques dans les systèmes d'IA.
#loi de Goodhart#mesure devenue cible#régularité statistique
Wikipedia contributors (concept : Charles Goodhart ; généralisation : Marilyn Strathern)