Artículo enciclopédico (Wikipedia, en inglés) sobre la ley de Goodhart: enunciada por el economista británico Charles Goodhart en 1975 a propósito de la política monetaria — "cualquier regularidad estadística observada tiende a colapsar en cuanto se ejerce presión sobre ella con fines de control" — y luego generalizada por la antropóloga Marilyn Strathern (1997) en el aforismo canónico "cuando una medida se convierte en un objetivo, deja de ser una buena medida".
Por Wikipedia contributors// Fuente en.wikipedia.org ↗/Lectura 2 min/.md// Traducción verificada automáticamente
#ley de Goodhart#medida convertida en objetivo#regularidad estadística#política monetaria#incentivos perversos#indicadores corrompidos#reward hacking#optimización de métricas
La ley de Goodhart es un adagio de las ciencias sociales que describe cómo una medida pierde su fiabilidad en cuanto se convierte en un objetivo de pilotaje. Debe su nombre al economista británico Charles Goodhart, quien formuló su núcleo en un artículo de 1975 dedicado a la política monetaria en el Reino Unido: "cualquier regularidad estadística observada tiende a colapsar en cuanto se ejerce presión sobre ella con fines de control". La intuición surgió del análisis de las dificultades de la gestión monetaria británica: las correlaciones estables que los bancos centrales explotaban como palancas de política dejaron de sostenerse en cuanto fueron instrumentalizadas.
La formulación más difundida, sin embargo, no es la de Goodhart sino la de la antropóloga Marilyn Strathern, quien en 1997, en un texto sobre la rendición de cuentas en el sistema universitario, propuso la versión generalizada y memorable: "cuando una medida se convierte en un objetivo, deja de ser una buena medida". Esta reformulación subraya la pérdida de valor diagnóstico que sufre una métrica cuando los individuos optimizan hacia la medida en sí misma en lugar de hacia el objetivo subyacente que se supone que representa.
La idea pertenece a una constelación de principios afines. La ley de Campbell (Donald T. Campbell, 1976) aborda la corrupción de los indicadores sociales cuantitativos utilizados para la toma de decisiones. La crítica de Lucas (1976) ofrece su equivalente macroeconómico: los efectos de una política no pueden predecirse a partir de relaciones históricas, porque los agentes se adaptan a ellas. A esto se suman el efecto cobra (un incentivo que recompensa involuntariamente un comportamiento contraproducente) y la falacia de McNamara (descartar lo cualitativo porque escapa a la cuantificación). Varios autores han enriquecido el corpus: Jerome Ravetz (1971), Keith Hoskin (1996) y Jon Danielsson para la modelización del riesgo financiero.
Las ilustraciones abarcan numerosos campos: en sanidad, convertir la duración de la estancia en un objetivo provoca altas prematuras y reingresos; en investigación, el índice h se erosiona como medida de reputación en cuanto se convierte en criterio de evaluación; en conservación, las clasificaciones de extinción de la UICN se han endurecido después de haber sido utilizadas para levantar protecciones; en educación, No Child Left Behind favoreció el avance de curso sin dominio real de los contenidos; durante la pandemia, los objetivos de pruebas COVID en el Reino Unido confundieron capacidad con utilidad diagnóstica. El principio refleja, en definitiva, cómo los actores racionales optimizan dentro de los sistemas medidos — un legado de las prácticas de rendición de cuentas nacidas en el siglo XIX. Hoy en día, ilumina directamente el reward hacking y la fragilidad de las métricas de optimización en los sistemas de IA.
Puntos clave
Enunciado original (Charles Goodhart, 1975)."Cualquier regularidad estadística observada tenderá a colapsar en cuanto se ejerza presión sobre ella con fines de control" — formulado en un artículo sobre la gestión monetaria en el Reino Unido. La regularidad económica explotada como palanca de política deja de sostenerse en cuanto se utiliza como tal.
Reformulación canónica (Marilyn Strathern, 1997)."Cuando una medida se convierte en un objetivo, deja de ser una buena medida" — la versión generalizada y popularizada, a partir de un texto sobre la auditoría en el sistema universitario británico. Es la fórmula más citada hoy en día, a menudo atribuida erróneamente al propio Goodhart.
Mecanismo central. los actores racionales optimizan hacia la medida en lugar de hacia el objetivo real que se supone que capta → el vínculo entre indicador y realidad se degrada. La métrica pierde su valor diagnóstico al convertirse en un objetivo explícito.
Ley de Campbell (Donald T. Campbell, 1976/1979). una variante centrada en los indicadores sociales cuantitativos — cuanto más se utiliza un indicador para la toma de decisiones sociales, más sujeto está a la corrupción y más distorsiona los procesos que debía vigilar.
Crítica de Lucas (Robert Lucas, 1976). un equivalente macroeconómico — los efectos de una política no pueden predecirse a partir de las relaciones históricas observadas, porque los agentes adaptan su comportamiento a la propia política.
Conceptos afines. el efecto cobra (un incentivo recompensa involuntariamente un comportamiento contraproducente), la falacia de McNamara (descartar como irrelevante lo que no puede cuantificarse).
Contribuyentes intelectuales citados. Jerome Ravetz (1971, manipulación de sistemas con objetivos complejos), Keith Hoskin (1996, vinculación con los marcos de rendición de cuentas), Jon Danielsson (aplicación a la modelización del riesgo financiero).
Ejemplos sectoriales. sanidad (reducir la duración de la estancia como objetivo → altas prematuras y reingresos); investigación (el índice h pierde valor en cuanto se convierte en un objetivo); conservación (las clasificaciones de extinción de la UICN endurecidas después de haber sido utilizadas para levantar protecciones); educación (No Child Left Behind → avance de curso sin dominio real); pandemia (los objetivos de pruebas COVID en el Reino Unido confundiendo capacidad con utilidad diagnóstica).
Raíz histórica. una consecuencia de las prácticas modernistas de rendición de cuentas nacidas en la Gran Bretaña del siglo XIX.
Pertinencia para la IA (vínculo a establecer). la ley de Goodhart es el ancestro conceptual directo del reward hacking y de la crítica a los coverage gates manipulables / a las métricas "a velocidad de máquina" — cf. la serie ADLC de Chris Williams (se prefiere el mutation testing frente al porcentaje de cobertura precisamente porque este último es Goodhart-able).
Afirmaciones atribuidas
toute régularité statistique observée s'effondre dès qu'on exerce une pression sur elle à des fins de contrôle
— Charles Goodhart
quand une mesure devient une cible, elle cesse d'être une bonne mesure
— Marilyn Strathern
un actor racional optimiza hacia la medida y degrada el vínculo indicador-realidad
— loi de Goodhart
El grafo de conocimiento extraído de esta ficha — 10 entidades, 15 relaciones.
En este grafo :Charles Goodhart · Marilyn Strathern · loi de Goodhart · loi de Campbell · critique de Lucas · effet cobra · sophisme de McNamara · h-index · Donald T. Campbell · Robert Lucas