시장은 답을 안다 vs 우리가 항상 합리적 선택을 하는 것은 아니다

경제학은 인간의 선택(choice, decision making)을 다루는 학문이라고 일컬어집니다. 그래서인지 경제학의 근간을 받치는 이론은 철학적이기까지 합니다. 한편, 경제학은 계량화, 정량화될 수 있는 부문에 집중하고 있기 때문에 엄격한 전제를 바탕으로 이상적인 모델을 만드는 방식이 자주 활용되어 왔습니다. 그러한 전제 중에는 '합리적 선택'이라는 것도 있습니다.

합리적 선택은 존 폰 노이만(John Von Neumann)과 오스카 모건스턴(Morgenstern)이 제창한 기대효용 이론(expected utility theory)의 형태로 많은 영향을 미쳤습니다. 이 이론은 중고교 때 이미 접한 것입니다. 인간은 기대값(expected value)이 큰 것을 선호하고 선택한다는 이론입니다.

예컨데, 복권이 2개 있습니다. 하나는 당첨확률이 10%이고 당첨금이 1억 원입니다. 다른 하나는 당첨확률이 20%이고 당첨금이 1억 원입니다. 전자의 기대값은 (1억 원 x 0.1)= 1000만 원이고 후자의 기대값은 (1억 원 x 0.2)= 2000만 원이므로, 누구나, 어떤 경우에도 후자를 선택할 것입니다.

이렇게 당연해 보이고 합리적으로 보이는 기대효용 이론은 경제학, 재무학, 재무관리, 투자론 등의 기본적 전제였습니다. 이 이론을 기반으로 많은 이론들이 구축되었습니다. 이 의심할 여지가 없어 보이는 전제에 대해 약간의 문제제기는 있었지만 대부분 큰 의심을 갖지는 않았습니다.

EMT vs Behavioral Finance

1979년 3월, "Econometrica" 저널에 실린 Daniel Kahneman과 Amos Tversky라는 두 학자의 논문, "Prospect Theory: An analysis of decision under risk"는 바로 그 전제에 깊은 의문을 제기하며 완전히 다른 새로운 관점을 제시합니다. 이 혁신적인 논문을 바탕으로 두 학자는 2002년 노벨 경제학상을 수상하게 됩니다.

Prospect Theory(전망 이론; 기대 이론; 갬블 이론)는 우리가 반드시 합리적인 선택을 하지는 않는다는 것을 아주 설득력있게 설명하면서 큰 파장을 몰고 왔습니다. 심리학적인 접근을 경제학에 접목해 보고자 하는 시도는 그 전에도 몇 차례 이뤄졌었지만 대부분 수학적 뒷받침이 취약해서 큰 영향을 미치지는 못 했습니다. 하지만 전망 이론은 인지심리학(cognitive psychology)을 바탕으로, 경제학 특유의 수학적이고 계량적인 방식을 활용해서 심리학과 경제학을 접목하면서 종래의 관점을 획기적으로 전환시켰습니다. 재무학, 투자론 쪽도 예외가 아니어서, 합리적 선택이나 기대효용 이론을 기반으로 구축되었던 효율적시장 가설(Effcient Market Theory; EMT; EMH)[1]의 근간을 뒤흔듭니다. 게다가 효율적시장 가설은 그 자체가 하나의 '전제' 역할을 하며 많은 파생 연구를 낳았기 때문에 파장은 아주 크고도 깊었습니다. Prospect Theory를 바탕으로 한 행태재무학(Behavioral Finance)은 효율적시장 가설을 전제로 한 포트폴리오 이론과 전혀 다른 방식으로 세계를 바라 보면서 투자에 대한 시각을 완전히 바꾸어 놓았습니다..

리스크 회피형이 아닐 수 있다

이 문서를 포함한 [투자론] 전망이론 시리즈는, 인간의 선택과 의사결정에 관한 관점에 일대 혁신을 가져 온 논문, "Prospect Theory"의 내용을 다룹니다.

논문의 서두는 현대 경제학의 가장 기초를 이루고 있는 기대효용 이론을 실증적으로 반박하는 데서 출발합니다. 일단 간단한 실험을 통해서 기대효용 이론의 문제점을 직접 확인해 보고 논문 내용으로 들어 갑시다.

실험: 여러분은 두 개의 복권 중 하나를 택할 수 있습니다. 하나는 확실하게 1억 원이 당첨된 복권입니다. 다른 하나는 2억5000만 원이 당첨될 확률이 반, 한 푼도 받지 못 할 확률이 반인 복권입니다. 어떤 것을 택하겠습니까?

기대값은 전자가 1억 원, 후자가 (2억5000만 원 x 0.5) + (0 x 0.5) = 1억2500만 원입니다. 이것이 실제 상황이라고 할 때, 후자를 택했습니까? 많은 실험을 여러 곳에서 해 보았지만, 액수가 '중대한' 크기인 경우 압도적 다수가 확실한 1억 원 쪽을 택한 것으로 드러났습니다.

그런데... 다음의 경우에는 어떨까요?

여러분이 어느날 큰 빚을 물려받게 되었습니다. 두 가지 종류의 빚이 있는데 여러분은 둘 중 하나를 택해야만 합니다. 하나는, 1억 원의 빚이 확정된 것입니다. 다른 하나는, 2억5000만 원의 빚을 갚아야 할 확률이 반, 빚이 완전히 탕감되어서 전혀 갚을 필요가 없을 확률이 반입니다. 어느 쪽을 택하겠습니까?

후자의 기대값은 1억2500만 원의 빚이므로 확실한 빚 1억 원보다 더 나쁜 기대값을 갖고 있습니다. 그렇다면 대부분의 사람들이 확실한 빚 1억 원을 택했을까요?

조사 결과는 정반대입니다. 다수는 확실한 빚 1억 원에서 벗어나기 위해 훨씬 더 리스키한 두 번째 안을 택합니다. 왜 기대값이 더 나쁘고 변동성이 더 심해서 훨씬 리스키한 쪽을 선호할까요? 정말로 우리는 리스크 회피형입니까? 우리는 정말 최종 기대값이 더 큰 것을 선호합니까?

바로 이 문제를 다루는 것이 전망이론입니다.

기대 효용 이론(Expected Utility Theory)의 한계

논문 내용에 들어 가기에 앞서, 이 글에서 사용할 용어를 간단하게 살펴 봅시다.

• (x1,p1; x2,p2; ... ; xn,pn)는 x1이라는 결과가 나올 확률이 p1, x2라는 결과가 나올 확률이 p2,...인 복권/게임/도박(prospect; gamble)을 뜻합니다. 물론, p1 + ... + pn = 1입니다. 나올 수 있는 모든 경우의 확률을 합하면 1입니다. 예를 들어, (100,0.5; 200,0.5)는 100이 나올 확률이 0.5, 200이 나올 확률이 0.5인 갬블을 뜻합니다.
• (x,p)는 (x,p;0,1-p)와 같은 뜻입니다. 둘 다, x가 나올 확률이 p이고, x가 나오지 않을 확률은 1-p라는 것을 뜻합니다. 예를 들어, (100,0.7)은 100이 나올 확률이 0.7, 100이 나오지 않을 확률이 0.3인 갬블을 뜻합니다.
• (x)는 리스크 없이 100% x라는 결과를 얻을 수 있는 갬블을 뜻합니다. 확실한 x를 얻을 수 있는 것입니다. 예를 들어, (100)은 항상 100이 나오는 갬블입니다.
• u(x,p)는 x를 얻을 확률이 p인 갬블이 주는 효용(만족도)입니다.

이상의 용어를 사용해서 기대효용 이론을 표현해 보면,

1. 전체 효용(U)은 그 결과의 기대효용의 합과 같다.
   U(x1,p1; ... ; xn,pn)= p1u(x1) + ... + pnu(xn)
   
2. U(w+x1,p1; ... ; w+xn,pn) > u(w)이 성립하는 경우
   (x1,p1; x2,p2; ... ; xn,pn)을 받아 들일 수 있다.
   이것은 효용이 이득(gains)이나 손실(losses)과 관계없이 최종상태에 의해 결정된다는 가정입니다. 예컨데, 내가 원래 100을 갖고 있었든 90을 갖고 있었든 새로운 게임 (100,0.5)가 주는 효용은 똑같다는 것입니다.
3. 사람들은 리스크 회피형이다. 효용함수는 원점에 대해서 오목하다.(u''< 0)
   (100,0.5), 즉, 100을 받을 확률이 반이고, 하나도 받지 못 할 확률이 반인 것과 (50), 즉 확실한 50이 기대되는 것이 있다면, 비록 기대값은 둘 다 50으로 같지만 사람들은 후자를 더 선호한다는 가정입니다.따라서, 50보다 작은 값이 기대되더라도 그게 확실하다면 (100,0.5)보다 선호됩니다. 보통 (43) 전후를 제시하면 (100,0.5)와 선호도가 비슷한 것으로 알려져 있습니다. '정상적인' 사람은, 확실하기만 하다면 기대값이 더 작아도 그쪽을 더 선호하는 리스크회피형(risk-averse) 인간이라는 것입니다.
   (100,0.5)대신 택하는 (43)을 확실성등가라고 합니다. 기대효용 이론에서 본 리스크의 그래프를 참고하세요.
   

너무나 명쾌하고 당연해 보이는 기대효용 이론의 이 같은 주장은, 글 서두에서 해 보았던 간단한 실험을 전혀 설명하지 못 하고 있습니다. 우리는 확실한 보상을 얻기 위해 기대값이 더 낮은 쪽을 오히려 더 선호하기도 하지만, 확실한 손실을 피하기 위해서 훨씬 더 위험한 쪽을 택하기도 합니다. 우리는 항상 리스크 회피형인 것도 아니며, 항상 기대값이 더 큰 쪽을 택하는 것도 아닌 것입니다. 그렇다면 합리적 선택을 기반으로 했던 모든 이론들은 어떻게 되는 것일까요?

Prospect Theory는 이처럼 아주 파장이 큰 문제에 근본적인 의문점을 던졌습니다. 다음 문서에서 본격적으로 다뤄 봅시다.