Prawo Goodharta

Definicja robocza

Prawo Goodharta mówi, że regularność statystyczna przestaje być wiarygodna w chwili, gdy ktoś zaczyna na niej opierać sterowanie: miara, która była dobrym wskaźnikiem celu, pod naciskiem optymalizacji odrywa się od tego celu. W wersji technicznej (Goodhart 1975, Lucas 1976) chodzi o to, że korelacja nie jest mechanizmem i rozpada się, gdy aktorzy dostosowują zachowanie do nowej polityki. W wersji potocznej, pochodzącej od Marilyn Strathern (1997), brzmi: „gdy miara staje się celem, przestaje być dobrą miarą”. Operacyjnie: zanim przywiążesz nagrodę, budżet lub ocenę do liczby, zapytaj, co ta liczba przestanie mierzyć, gdy wszyscy zaczną o nią grać.

Geneza i rodowód

Charles Goodhart, ekonomista Banku Anglii, sformułował regułę w referacie Problems of Monetary Management: The U.K. Experience wygłoszonym w 1975 r. na konferencji Banku Rezerw Australii; dotyczyła tego, że agregaty pieniężne, które dobrze przewidywały inflację, straciły tę własność, gdy bank centralny uczynił z nich cel polityki. Rok później Robert Lucas uogólnił problem w krytyce modeli ekonometrycznych: parametry szacowane na danych historycznych nie przeżywają zmiany reżimu, bo ludzie zmieniają oczekiwania. Równolegle, w innej tradycji, psycholog Donald Campbell opisał w 1979 r. „prawo Campbella”: im bardziej wskaźnik społeczny służy decyzjom, tym bardziej ulega korupcji i tym bardziej psuje proces, który miał monitorować, z przykładem testów szkolnych. Dzisiejsza, zwięzła wersja pochodzi od antropolożki Marilyn Strathern, która w 1997 r., analizując audyt brytyjskich uniwersytetów, przeformułowała regułę za Keithem Hoskinem. Trzeci obieg to uczenie maszynowe i uzgadnianie AI (AI alignment): tam prawo Goodharta oznacza, że optymalizacja modelu pod zastępczą miarę nagrody (proxy) prowadzi do wyników coraz gorszych wobec prawdziwego celu, a Manheim i Garrabrant (2018) rozpisali cztery mechanizmy tego zjawiska. Po drodze pojęcie wypłaszczono: w publicystyce zarządczej funkcjonuje jako ogólna niechęć do liczb, czego Goodhart, który bronił pomiaru, a nie go odrzucał, nie podpisałby.

Rodowód środkowoeuropejski

Wcześniejszą diagnozę podobnego mechanizmu, bez dowodu wpływu na Goodharta, zawiera rozprawa Jánosa Kornaia. Kornai, ukształtowany w Budapeszcie (studia filozoficzne na Uniwersytecie Pázmánya, aspirantura od 1953 r., praca w Instytucie Ekonomii Węgierskiej Akademii Nauk od 1955 r.), obronił w 1956 r. rozprawę kandydacką, wydaną w 1957 r. jako A gazdasági vezetés túlzott központosítása z podtytułem o doświadczeniach przemysłu lekkiego; angielski przekład Overcentralization in Economic Administration ukazał się w 1959 r. w Oxford University Press. Książka opisuje gospodarkę nakazową od środka: przedsiębiorstwa rozliczane z wykonania wskaźników planu wykonywały wskaźniki, nie plan, a różnica między jednym a drugim ujawniała się w jakości i asortymencie. To antycypacja: zbliżona myśl sformułowana dwadzieścia lat przed Goodhartem na innym materiale. W otwartej literaturze prawa Goodharta nie znaleźliśmy odwołań do Kornaia, dlatego podpowiedzi, by jego Economics of Shortage (1980) potraktować jako doświadczenie historyczne, na którym opiera się pojęcie, nie potwierdzamy. Treść rozprawy w części dotyczącej wskaźników wymaga jeszcze sprawdzenia w samym tekście.

Dlaczego teraz

Po 2018 r. pojęcie zyskało nowy ciężar w trzech miejscach. Pierwsze to uczenie ze wzmocnieniem i modele językowe: uczenie na ludzkich ocenach (RLHF) okazało się podatne na reward hacking, czyli optymalizację pod ocenę zamiast pod jakość, a kategoryzacja Manheima i Garrabranta z 2018 r. stała się standardowym językiem opisu tych awarii. Drugie to metryki platform: wskaźniki zaangażowania, które miały mierzyć wartość dla użytkownika, po latach optymalizacji mierzą głównie zdolność zatrzymywania uwagi, co opisują dokumenty ujawnione przez Frances Haugen w 2021 r. Trzecie to zarządzanie publiczne po pandemii: cele liczbowe w ochronie zdrowia, nauce i edukacji (punkty ministerialne, rankingi, limity czasu oczekiwania) zebrały krytykę pokazującą, że systemy uczą się osiągać liczby bez osiągania celów. Książka Mullera z 2018 r. przeniosła ten spór z ekonomii do debaty o uczelniach i szpitalach.

Siła wyjaśniająca

Pojęcie pozwala zobaczyć, że wiele porażek instytucji nie wynika ze złej woli ani z niekompetencji, lecz z poprawnej reakcji ludzi na miarę. Trzy przykłady. Szpital rozliczany z czasu oczekiwania na izbie przyjęć skraca ten czas, trzymając pacjentów w karetkach przed wejściem: liczba poprawiona, cel zdradzony. Naukowiec oceniany z liczby publikacji dzieli jeden wynik na trzy artykuły, a system cytowań nagradza tych, którzy cytują się nawzajem. Model językowy trenowany na preferencjach oceniających uczy się pewnego tonu, długości i pochlebstwa, bo to one podnoszą ocenę, nie poprawność. We wszystkich trzech przypadkach miara działała, dopóki nikt na niej nie polegał; pojęcie wskazuje moment, w którym przestała.

Osie sporu

Niedoceniany kąt

Najciekawsze w prawie Goodharta nie jest to, że miary się psują, lecz że psują się w przewidywalnym kierunku i z przewidywalnym opóźnieniem. Miara działa dobrze dokładnie tak długo, jak długo jest nowa, bo aktorzy nie zdążyli się jej nauczyć; stąd złudzenie sukcesu każdej reformy wskaźnikowej w pierwszych latach. Wynika z tego praktyczna reguła, którą rzadko się formułuje: wskaźnik ma okres przydatności i powinien być projektowany z datą wymiany, jak hasło dostępu. Drugi pomijany wątek to asymetria: prawo działa najmocniej tam, gdzie mierzony wie, że jest mierzony, i ma możliwość reakcji. Termometr nie gra przeciw lekarzowi; szpital gra. Dlatego w naukach przyrodniczych prawo jest ciekawostką, a w naukach społecznych i w uczeniu maszynowym jest warunkiem brzegowym każdego pomiaru.

W przekładzie

Po polsku funkcjonuje „prawo Goodharta”, rzadziej „zasada Goodharta”; obie formy są kalkami i nie mylą. Trudność leży w obiegowej wersji: angielskie measure oznacza zarówno miarę, jak i wskaźnik, a target to cel liczbowy, nie cel w sensie zamiaru. Oddajemy ją jako „gdy miara staje się celem, przestaje być dobrą miarą”, z zastrzeżeniem, że chodzi o cel do osiągnięcia, nie o sens działania. Słowo proxy zostawiamy w tekstach technicznych jako „proxy” albo „miara zastępcza”; „wskaźnik pośredni” gubi to, że proxy stoi w miejscu celu, a nie obok niego.