S9 · REF반론 — 경계를 긋는 자료들

굿하트의 법칙 / 측정의 함정

Charles Goodhart · 1975 · Marilyn Strathern 정식화

측정은 무해해 보이지만, 그 측정이 목표가 되는 순간 사람들은 대상이 아니라 지표를 최적화하기 시작하고, 지표는 재려던 것과 어긋난다. 통화 통계에서 출발한 굿하트의 관찰은 Strathern 의 손에서 "지표가 목표가 되면 좋은 지표이기를 그친다"는 한 문장으로 굳었다. 달성률·채움률·스트릭 같은 게이지를 삶에 붙이는 순간 우리는 이 함정의 입구에 선다 — 우리 모델이 대시보드와 게이지를 절제하는 근거이자, 개입 3지점 철학의 방어 논리다.

무엇인가

Charles Goodhart(1936– )는 영국 경제학자로, 잉글랜드 은행의 통화정책을 다루던 1975년 논문에서 이렇게 적었다 — "관찰된 통계적 규칙성은, 통제 목적으로 그 위에 압력이 가해지는 순간 무너지는 경향이 있다." 중앙은행이 어떤 통화 지표를 목표로 삼아 관리하기 시작하면, 바로 그 관리 행위가 지표와 실물 경제의 관계를 깨뜨린다는 관찰이었다. 20여 년 뒤 인류학자 Marilyn Strathern 이 영국 대학 감사(audit) 를 논하며 이를 대중적 문장으로 다듬었다.

정식말한 이요지
굿하트의 법칙(원문)Goodhart 1975통제 목적의 압력이 가해지면 관찰된 통계적 규칙성은 무너진다
대중적 정식Strathern 1997지표가 목표가 되면 좋은 지표이기를 그친다
캠벨의 법칙Campbell 1976사회 지표를 의사결정에 쓸수록 그것과 대상 과정이 함께 왜곡된다
대리(surrogation)경영·회계대리물을 본질로 착각하고, 본질을 놓친 채 대리물만 좇는다

메커니즘은 게이밍(gaming)대리(surrogation)다. 지표에 보상이 걸리면 사람들은 대상을 개선하는 대신 지표를 개선한다 — 시험 점수가 목표가 되면 교육이 아니라 시험 대비가 늘고, 통화량이 목표가 되면 그 통화량의 정의만 새어 나간다. 식민지 인도의 코브라 현상금이 코브라 사육을 낳았다는 코브라 효과(cobra effect)는 이 왜곡의 우화다. 나아가 사람들은 대리물을 재려던 본질로 착각하기 시작한다 — 삶의 풍요를 재려던 숫자가, 어느새 그 자체로 좇을 목표가 된다.

이 함정은 소비자 제품에서 가장 선명하다. Snapchat 과 Duolingo 의 스트릭(streak) — 연속 사용 일수 — 은 원래 '꾸준함'이라는 대상을 재는 대리 지표였다. 그러나 스트릭이 목표가 되자, 사람들은 언어를 배우기 위해서가 아니라 숫자를 지키기 위해 접속하고, 깨질까 봐 불안해하며, '스트릭 보호' 아이템을 산다. 대상(배움)은 사라지고 지표(연속 일수)만 남는다 — 굿하트의 법칙이 손 안에서 돌아가는 장면이다.

우리 모델과의 접점

개념 모델은 지표를 저장하지 않고 파생한다(원칙 7). 렌즈는 단일 소스 위의 필터+투영이므로(제5장), 달성률·채움률 같은 수치는 원본이 아니라 파생물이다 — 언제든 렌즈를 끄면 사라지는 화면일 뿐이다. 문제는 그 파생물을 게이지·배지·스트릭으로 전시하는 순간 시작된다. 파생 지표가 목표로 굳으면, 사용자는 삶을 사는 대신 지표를 최적화한다.

우리의 지표목표가 되면왜곡
타임라인 채움률빈 구간 0 만들기기록을 위한 기록 · 채우기용 사건 남발
여비 달성률100% 맞추기목표를 낮춰 잡거나 숫자만 최적화 · 실제 재무와 괴리
기록 스트릭(연속 일수)스트릭 유지매일 무의미한 한 줄 · 깨짐 불안(감정 부채)
사건 개수많이 적기사소한 것 남발 · 의미 희석

우리 설계의 방어는 셋이다. 첫째, 개입 3지점의 절제 — 다그치지 않고 사후 통보하는 넛지는 지표를 독촉으로 쓰지 않는다는 약속이다. 둘째, 기본 비공개(원칙 9) — 전시가 없으면 게이밍의 유인 자체가 약하다. 남에게 보이려는 스트릭과 나만 보는 기록은 다른 압력을 받는다. 셋째, 저장보다 파생(원칙 7) — 지표를 원본으로 고정하지 않으면, 삶을 지표에 맞추는 대신 언제든 지표를 끌 수 있다.

지표는 정보로만 두고, 목표로 승격시키지 않는다. 여비 달성률·채움률·스트릭을 게이지로 만드는 순간 삶은 지표 최적화로 왜곡된다. 개입 3지점의 절제, 기본 비공개(원칙 9, 전시가 아니라 소유), 저장보다 파생(원칙 7)은 이미 있는 방어다 — 이를 편의 기능이 아니라 굿하트의 법칙을 막는 결정으로 세우고, 진행 상태를 보여줄 때 '알려주는 정보'와 '채우라는 목표'의 경계를 이 자료로 점검한다.

생각할 거리

  1. 게이지를 아예 두지 않을 것인가. 런웨이·여비 진행 같은 수치는 정보로서 분명히 유용하다. 문제는 정보와 목표의 경계다 — 남은 개월 수를 '보여주는 것'과 그 수를 '늘려야 할 대상'으로 프레이밍하는 것은 다르다. 모든 게이지를 없애는 대신, 어떤 지표가 목표로 굳기 쉬운지(연속·달성·순위)와 그렇지 않은지(잔액·구성)를 갈라 다룰 수 있다.
  2. 생명 에너지 지표는 다른가. Your Money or Your Life는 지출을 '생명 에너지(=시간)'로 환산하는 강력한 단일 지표를 준다. 이건 굿하트의 함정에 걸리나, 아니면 대상 자체를 정직하게 재는 드문 지표인가. 지표가 재려는 것과 지표가 결국 같아질 때(시간=삶)는 게이밍의 여지가 좁다 — 반례로서 경계를 시험한다.
  3. 스트릭의 유혹. 스트릭은 리텐션엔 강력하지만, 피로사회가 말한 자기 착취로 가는 지름길이다. 깨진 스트릭이 남기는 죄책감은 감정 부채가 된다 — 도구가 준 죄책감을 사용자가 갚는 구조. 꾸준함을 응원하되 강박을 심지 않는 형태(부드러운 통보, 되돌릴 수 있는 공백)가 있는가.
  4. 절제의 미학. Tufte의 data-ink 원칙(잉크는 데이터에만)과 Four Thousand Weeks의 유한성 수용은 같은 방향을 가리킨다 — 채우지 않을 자유, 재지 않을 자유. 대시보드화의 충동을 절제하는 것이 기능 부족이 아니라 태도임을 이 둘이 뒷받침한다.
  5. 전시가 없으면 게이밍도 없다. "Against Narrativity"가 경계한 '플롯의 유혹'처럼, 지표의 유혹도 청중이 있을 때 커진다. 기본 비공개(원칙 9)는 그래서 프라이버시 정책이면서 동시에 굿하트 방어책이다. 만약 공유·비교 기능을 열면, 그 순간 어떤 지표가 목표로 굳을지 미리 셈해야 한다.

더 찾아보기

  • Charles Goodhart, "Problems of Monetary Management: The U.K. Experience", 1975 — 법칙의 원전. 통화정책 맥락의 원문 문장을 확인하려면 여기.
  • Marilyn Strathern, "'Improving ratings': audit in the British University system", European Review 5, 1997 — "지표가 목표가 되면…"의 대중적 정식이 처음 나온 글.
  • Donald T. Campbell, "Assessing the Impact of Planned Social Change", 1976 — 캠벨의 법칙. 굿하트와 독립적으로 같은 왜곡을 정식화했다.
  • 검색: Goodhart's law measure becomes target · surrogation metric target gaming · cobra effect perverse incentive · Snapchat Duolingo streak psychology — 원리에서 소비자 UI 사례까지.
  • 같은 장의 이웃: 피로사회(지표 최적화가 자기 착취가 될 때), 경험하는 자아 vs 기억하는 자아(무엇을 재게 하느냐가 대상을 바꾼다), "Against Narrativity"(강요된 완결의 유혹) — 짝으로 읽는다.

내 생각

이 메모는 지도 페이지의 같은 항목과 공유되며, 이 기기(브라우저)에 저장됩니다.