Voce enciclopedica (Wikipedia, inglese) sulla legge di Goodhart: enunciata dall'economista britannico Charles Goodhart nel 1975 a proposito della politica monetaria — "qualsiasi regolarità statistica osservata tende a collassare non appena viene sottoposta a pressione a fini di controllo" — poi generalizzata dall'antropologa Marilyn Strathern (1997) nell'aforisma canonico "quando una misura diventa un obiettivo, cessa di essere una buona misura".
Di Wikipedia contributors// Fonte en.wikipedia.org ↗/Lettura 2 min/.md// Traduzione verificata automaticamente
#legge di Goodhart#misura che diventa obiettivo#regolarità statistica#politica monetaria#incentivi perversi#indicatori corrotti#reward hacking#ottimizzazione delle metriche
La legge di Goodhart è un adagio delle scienze sociali che descrive come una misura perda la propria affidabilità non appena viene trasformata in un obiettivo di pilotaggio. Prende il nome dall'economista britannico Charles Goodhart, che ne formulò il nucleo in un articolo del 1975 dedicato alla politica monetaria nel Regno Unito: "qualsiasi regolarità statistica osservata tende a collassare non appena viene sottoposta a pressione a fini di controllo". L'intuizione nacque dall'analisi delle difficoltà britanniche di gestione monetaria: le correlazioni stabili sfruttate dalle banche centrali come leve di politica cessavano di reggere una volta strumentalizzate.
La formulazione più diffusa, tuttavia, non è quella di Goodhart ma quella dell'antropologa Marilyn Strathern, che nel 1997, in un testo sulla rendicontazione nel sistema universitario, propose la versione generalizzata e memorabile: "quando una misura diventa un obiettivo, cessa di essere una buona misura". Questa riformulazione mette in evidenza la perdita di valore diagnostico che subisce una metrica quando gli individui ottimizzano rispetto alla misura stessa anziché rispetto all'obiettivo sottostante che essa dovrebbe rappresentare.
L'idea appartiene a una costellazione di principi correlati. La legge di Campbell (Donald T. Campbell, 1976) riguarda la corruzione degli indicatori sociali quantitativi utilizzati per il processo decisionale. La critica di Lucas (1976) ne offre l'equivalente macroeconomico: gli effetti di una politica non possono essere previsti a partire dalle relazioni storiche, poiché gli agenti vi si adattano. A questi si aggiungono l'effetto cobra (un incentivo che ricompensa inavvertitamente comportamenti controproducenti) e la fallacia di McNamara (scartare il qualitativo perché sfugge alla quantificazione). Diversi autori hanno arricchito il corpus: Jerome Ravetz (1971), Keith Hoskin (1996) e Jon Danielsson per la modellazione del rischio finanziario.
Le illustrazioni spaziano su numerosi ambiti: in sanità, fare della durata di degenza un obiettivo provoca dimissioni premature e riammissioni; nella ricerca, l'h-index perde valore come misura di reputazione non appena diventa un criterio di valutazione; nella conservazione, le classificazioni di estinzione IUCN sono state inasprite dopo essere state usate per revocare protezioni; nell'istruzione, il No Child Left Behind ha incoraggiato l'avanzamento di classe senza padronanza effettiva; durante la pandemia, gli obiettivi britannici sui test COVID hanno confuso la capacità con l'utilità diagnostica. Il principio riflette in definitiva il modo in cui gli attori razionali ottimizzano all'interno di sistemi misurati — un'eredità delle pratiche di rendicontazione nate nel XIX secolo. Oggi illumina direttamente il reward hacking e la fragilità delle metriche di ottimizzazione nei sistemi di IA.
Punti chiave
Enunciato originale (Charles Goodhart, 1975)."Qualsiasi regolarità statistica osservata tenderà a collassare non appena viene sottoposta a pressione a fini di controllo" — formulato in un articolo sulla gestione monetaria nel Regno Unito. La regolarità economica sfruttata come leva politica cessa di reggere una volta usata come tale.
Riformulazione canonica (Marilyn Strathern, 1997)."Quando una misura diventa un obiettivo, cessa di essere una buona misura" — la versione generalizzata e resa popolare, tratta da un testo sull'audit nel sistema universitario britannico. È la formula oggi più citata, spesso attribuita erroneamente allo stesso Goodhart.
Meccanismo centrale. gli attori razionali ottimizzano verso la misura piuttosto che verso l'obiettivo reale che essa dovrebbe cogliere → il legame tra indicatore e realtà si degrada. La metrica perde il proprio valore diagnostico diventando un obiettivo esplicito.
Legge di Campbell (Donald T. Campbell, 1976/1979). una variante incentrata sugli indicatori sociali quantitativi — quanto più un indicatore viene usato per decisioni sociali, tanto più è soggetto a corruzione e tanto più distorce i processi che dovrebbe monitorare.
Critica di Lucas (Robert Lucas, 1976). un corrispondente macroeconomico — gli effetti di una politica non possono essere previsti a partire dalle relazioni storiche osservate, poiché gli agenti adattano il proprio comportamento alla politica stessa.
Concetti correlati. l'effetto cobra (un incentivo ricompensa inavvertitamente comportamenti controproducenti), la fallacia di McNamara (scartare come irrilevante ciò che non può essere quantificato).
Contributori intellettuali citati. Jerome Ravetz (1971, manipolazione di sistemi con obiettivi complessi), Keith Hoskin (1996, collegamento ai quadri di rendicontazione), Jon Danielsson (applicazione alla modellazione del rischio finanziario).
Esempi settoriali. sanità (ridurre la durata di degenza come obiettivo → dimissioni premature e riammissioni); ricerca (l'h-index perde valore non appena diventa un obiettivo); conservazione (le classificazioni di estinzione IUCN inasprite dopo essere state usate per revocare protezioni); istruzione (No Child Left Behind → avanzamento di classe senza padronanza effettiva); pandemia (gli obiettivi britannici sui test COVID che confondono capacità e utilità diagnostica).
Radice storica. una conseguenza delle pratiche moderniste di rendicontazione nate nella Gran Bretagna del XIX secolo.
Rilevanza per l'IA (collegamento da tracciare). la legge di Goodhart è l'antenato concettuale diretto del reward hacking e della critica ai gate di copertura manipolabili "a velocità macchina" — cfr. la serie ADLC di Chris Williams (mutation testing preferito alla percentuale di copertura proprio perché è Goodhart-abile).
Affermazioni attribuite
toute régularité statistique observée s'effondre dès qu'on exerce une pression sur elle à des fins de contrôle
— Charles Goodhart
quand une mesure devient une cible, elle cesse d'être une bonne mesure
— Marilyn Strathern
un attore razionale ottimizza verso la misura e degrada il legame indicatore-realtà
— loi de Goodhart
Il grafo di conoscenza estratto da questa fiche — 10 entità, 15 relazioni.
In questo grafo :Charles Goodhart · Marilyn Strathern · loi de Goodhart · loi de Campbell · critique de Lucas · effet cobra · sophisme de McNamara · h-index · Donald T. Campbell · Robert Lucas