[책마을] 선택과 효용 둘러싼 경제학의 300년 여정
경제학은 사람들의 선택을 다루는 학문이다. 왜 A 대신 B를 선택하는지. 경제학자들은 효용이란 개념을 들고나왔다. A보다 B의 효용이 크기 때문에 사람들이 B를 선택한다는 것이다. 명쾌한 논리지만 문제는 그리 간단하지 않았다. 효용을 측정해 숫자로 나타낼 수 있는지, 개인 간에 효용을 비교할 수 있는지 등을 놓고 치열한 논쟁이 벌어졌다. 더 나아가 A나 B를 갖고 싶다고 무조건 가질 수 없는 불확실한 상황에서는 사람들의 선택이 달라지는 문제가 발생했다.

[책마을] 선택과 효용 둘러싼 경제학의 300년 여정
수학자 출신 저널리스트가 쓴 《경제학 오디세이》는 효용을 둘러싼 경제학계의 300년 여정을 그린 책이다. 수수께끼를 풀어가는 인물들의 이야기가 흥미진진하게 펼쳐진다. 가끔 수식이 등장하지만 몰라도 상관없다. 역사를 다룬 책치고는 간결한 점도 독자의 부담을 던다.

경제학의 역사를 다룬 책은 대개 애덤 스미스로부터 시작한다. 토드 부크홀츠의 스테디셀러인 《죽은 경제학자의 살아있는 아이디어》가 대표적이다. 하지만 《경제학 오디세이》에서는 스미스의 이름을 찾아볼 수 없다. 대신 18세기에 살았던 니콜라스 베르누이, 레몽 드 몽모르, 가브리엘 크라메르, 다니엘 베르누이 등이 첫 장을 연다. 수학자였던 이들은 한 가지 문제에 골똘했다. ‘상트페테르부르크 역설’이라고 불리는 문제였다.

[책마을] 선택과 효용 둘러싼 경제학의 300년 여정
동전 한 개를 앞면이 나올 때까지 던지고, 상금은 던지는 횟수에 비례해 두 배씩 늘어나는 게임이 있다. 첫 회에 바로 앞면이 나오면 1달러를 받고, 두 번째에 앞면이 나오면 2달러, 세 번째에 앞면이 나오면 4달러를 받는 식이다. 이 게임의 기댓값은 무한대다. 따라서 참가비가 얼마든 게임에 참여해야 한다. 하지만 사람들은 참가비를 내려고 하지 않았다. 아무리 기댓값이 커도 앞면이 일찍 나오면 소용이 없었기 때문이었다. 이는 효용으로 설명된다. 게임에 참여해 거액을 받을 수 있지만, 그 가능성이 매우 작아 기대 효용 또한 낮다는 것이다.

‘효용을 극대화해야 한다’는 것은 절대적 진리로 간주됐다. 공리주의자 제러미 벤담은 “옳고 그름의 척도는 최대 다수의 최대 행복”이라고 했다. 벤담의 공리주의는 윤리적 문제를 수반했다. 어떻게 효용을 극대화해야 하는지 구체성도 떨어졌다. 해법을 갖고 등장한 것이 레오 발라, 윌리엄 제번스 등 한계효용학파다. 중요한 것은 한계효용이라고 이들은 강조했다. 재화의 소비를 늘리거나 줄일 때 효용의 변화를 말한다. 무조건 소비를 많이 하는 게 아니라 한계효용이 한계비용과 일치하는 지점까지가 합리적 소비라고 설명한다. 소비가 늘수록 한계효용이 점점 줄어든다는 이들의 주장은 소득 재분배의 가능성도 열었다.

효용에 대한 개념이 고도화됐지만 ‘왜 도박을 하는가’는 여전히 풀리지 않는 수수께끼였다. 상트페테르부르크 역설을 풀면서 다니엘 베르누이 등은 불확실한 상황에서 사람은 위험을 회피하게 된다고 했다. 이는 보험의 등장으로 이어졌다. 도박은 반대다. 일부러 위험을 감수한다. 그냥 비합리적 행동이라고 치부해야 할까. 밀턴 프리드먼과 레너드 새비지는 이 질문에 도전했다. 프리드먼과 새비지는 효용 곡선이 구불구불하다고 주장했다. “추가로 얻은 1만달러의 돈은 추가로 얻은 1달러보다 1만 배 이상 커다란 효용을 제공할지 모른다”는 것이다.

해리 마코위츠는 더 나아가 다음과 같은 질문을 던졌다. ‘10센트를 받을 확률 100%와 1달러를 받을 확률 10% 중 어떤 쪽을 선호하는가’, ‘100만달러를 받을 확률 100%와 1000만달러를 받을 확률 10% 중 어떤 쪽을 선호하는가’. 보통 사람들은 각각 10% 확률의 1달러와 100% 확률의 100만달러를 선호한다. 효용 곡선이 매끈하지 않다는 점을 다시 한번 보여준다.

저자는 아모스 트버스키와 대니얼 카너먼의 행동경제학을 소개하며 책을 끝맺는다. 행동경제학은 ‘효용을 극대화하는 방향으로 인간의 선택이 이뤄진다’는 주류경제학의 핵심 주장이 완전히 틀린 것은 아니지만 그렇지 않을 때도 많다는 것을 보여준다. 방금 들은 말이나 숫자에 따라, 혹은 이익으로 표현하느냐 손실로 표현하느냐에 따라 사람들의 선택은 달라진다.

역사를 아는 게 중요한 이유는 우리가 지금 알고 있는 게 절대적인 진리가 아니라고 말해주기 때문이다. 미시경제학 교과서에 실린 개념들이 어떻게 발전해왔는지 밝히는 이 책은 경제학을 공부하고 있거나 경제학에 관심 있는 사람들에게 좋은 부교재가 될 만하다.

임근호 기자 eigen@hankyung.com