토머스 셸링(Thomas Schelling) 메릴랜드대 교수와 로버트 아우만(Robert Aumann) 이스라엘 헤브루대 교수가 노벨 경제학상을 공동으로 받은 것은 게임이론을 새롭게 응용해 갈등과 협력에 대한 이해를 증진한 공로를 인정받았기 때문이다. 게임이론은 집단 혹은 기업이 일정한 상황에서 스스로에게 가장 유리한 결과를 가져오도록 행동하는 것을 분석하는 미시경제학의 한 분야다. 메릴랜드대에서 경제학을 전공한 이영선 연세대 교수는 "토머스 셸링 교수는 게임이론 분야에서 학문적 업적을 이룬 대학자로 게임이론을 활용해 공공정책 분야에서 새로운 해법을 제시한 공로를 인정받고 있다"고 평가했다. 셸링 교수는 '갈등의 전략 (The strategy of Conflict)'이라는 저서에서 갈등적 상황에서 적을 제압하는 힘은 자신을 구속할 수 있는 힘에 의해 결정된다고 주장했다. 예를 들어 테러범이 비행기를 납치해 자신들의 동료를 풀어달라고 요구할 경우 대다수 정부는 테러범과 협상에 나서지 않는다는 원칙을 내세우게 마련이다. 하지만 인질들의 목숨이 경각에 달려 있는 상황에서 이 같은 원칙을 지키기는 사실상 불가능하다. 셸링 교수는 어떻게 하면 이런 원칙을 지킬 수 있을지에 대한 해법을 제시하고 있다. 테러범과의 협상을 금지한다는 규정을 헌법이나 그에 버금가는 효력을 가지도록 명기하라는 것이다. 셸링 교수의 이 같은 주장은 게임이론을 한 단계 발전시키고 사회과학 전반에서 유용성을 높인 것으로 평가받고 있다. 아우만 교수는 장기간에 걸친 '무한 반복 게임(infinitely repeated games)'을 통해 행위자들의 행태를 처음으로 분석한 공로를 평가받았다고 스웨덴 왕립과학원은 밝혔다. '죄수의 딜레마'로 대표되는 기존 게임이론이 일회성 관계에만 주목해 '협조'의 여지를 지나치게 배제했던 약점을 보완했다는 것이다. '죄수의 딜레마'에서는 서로 뜻을 합치지 않고 자기 살 길을 찾는 게 최상의 선택이라는 결론이 나온다. 그러나 일상 생활은 그렇게 단순하지 않고 오래 지속되는 관계가 대부분이다. 따라서 반복된 관계 속에서는 보복을 두려워하게 돼 서로 협조하게 된다는 것이다. 개인이 합리적으로 행동하더라도 사회문제는 해결하지 못한다는 죄수의 딜레마를 뒤집은 것이다. 이 같은 아우만 교수의 연구는 가격전쟁 통상전쟁 등 경제적 갈등을 설명하는 데 도움을 준 것은 물론이고 경제학의 범주를 넘어 공통된 자원을 갖고도 왜 어떠한 공동체는 다른 공동체보다 성공하는가를 설명하는 데 도움을 줬다는 평가다. 한순구 연세대 경제학과 교수는 "아우만과 셸링 교수의 연구는 게임이론의 뼈대인 내쉬 균형이론의 단점을 보완했다는 점에서 큰 의미가 있다"고 설명했다. 안재석·김동윤 기자 yagoo@hankyung.com