"수학 우주에 '조합론'과 '대수기하' 잇는 웜홀 만들어"

허준이 교수, '리드 추측'과 '로타 추측' 등 난제 잇따라 해결
연관성 없어 보이던 분야들 사이의 밀접한 연관 발견

세계 수학계의 영예 중에서도 손꼽히는 필즈상(Fields Medal) 을 수상한 허준이(39·June Huh) 미국 프린스턴대 교수 겸 한국 고등과학원(KIAS) 수학부 석학교수는 조합론(組合論·combinatorics)의 여러 난제를 대수기하학(代數幾何學·algebraic geometry)의 기법을 활용해 증명했다.

허준이 교수는 이를 통해 서로 연관성이 크지 않은 듯했던 두 분야 사이에 밀접한 연관이 숨겨져 있었음을 밝혀냈다.

'수학 우주'에서 '조합론'과 '대수기하학'을 잇는 '웜홀' 같은 경로를 허 교수가 찾아냈다는 것이 그의 석사과정 지도교수였던 김영훈 서울대 수리과학부 교수의 비유다.

◇ 조합론과 대수기하학
'조합론'은 단순히 말하자면 '하나, 둘, 셋…'하는 식으로 하나하나 셀 수 있는 구조를 가진 수학적 대상을 다루는 분야라고 할 수 있다.

중·고교 수학에 나오는 '경우의 수'가 조합론의 가장 기초적인 예다.

도시 A와 도시 B를 잇는 길이 여러 갈래일 때 A에서 출발해 B로 가는 방법의 수, 여러 개의 칸을 주어진 몇 가지 색 중 하나씩으로만 칠할 때 이웃한 칸끼리는 색깔을 서로 다르게 칠하는 경우의 수 등을 떠올리면 된다.

조합론의 중심 대상은 유한(finite)하고 이산적(離散的·discrete·연속적이지 않고 띄엄띄엄한)인 구조이며, 흔히 볼 수 있는 예로는 정수, 다각형, 다면체, 논리 연산 등이 있다.

조합론의 연구 분야 중에서 '그래프 이론'(graph theory)라는 것이 있다.

조합론에서 '그래프'란 꼭짓점(vertex·node)들과 그 사이를 잇는 변(edge·link·line)들로 구성된 구조를 가리킨다.

객체들의 쌍들이 어떤 관계를 지니는지를 표시함으로써 서로 연관된 객체들의 구조를 다루는 것이 그래프 이론으로, 구글을 비롯한 인터넷 검색 기술의 핵심적 기반이기도 하다.

'대수기하학' 역시 '대수학과 기하위상수학이 만나는 분야' 등 관점에 따라 다양한 정의가 있지만, 단순화하자면 '곡선, 곡면 등 기하학적 대상들과 대수적 방정식 사이의 관계를 연구하는 분야'다.

과거 고교 수학에서 다루던 원·타원·포물선·쌍곡선등 '도형의 방정식'에 관한 '해석기하학'(analytic geometry)을 더욱 일반화하고 심화한 분야라고 할 수 있다.

◇ 리드 추측 증명
허 교수가 해결한 주요 문제는 리드(Read) 추측, 호가(Hoggar) 추측, 메이슨-웰시(Mason-Welsh) 추측 등 총 10여 개에 이른다.

이 중에서도 '리드 추측'과, 그것의 확장된 형태인 '로타 추측'의 증명이 허 교수의 가장 유명한 학문적 성과로 꼽힌다.

리드 추측을 설명하기 위해서는 조합론의 고전적인 문제인 '4색 문제'부터 시작해야 한다.

이 문제는 평면 지도에 여러 나라들이 있을 때, 어떤 지도이든 4가지 색만 써서 구분해 색칠할 수 있는지 여부에 대한 물음으로, 1852년 프랜시스 구드리(Gutherie)가 처음 연구했다.

이후 수학자들은 4색 문제에서 착안해 지도의 성질을 포착하는 수학적 도구로 '채색다항식'(chromatic polynomial)이라는 함수를 만들었다.

채색다항식이란 어떤 그래프에서 마주 보는 꼭짓점을 서로 다른 n개 이하의 색으로 칠하되, 한 변으로 서로 연결된 두 개의 꼭짓점이 서로 다른 색으로 구분되도록 하는 경우의 수를 계산하는 식이다.

예를 들어 삼각형을 생각해보자. 한 꼭짓점에 칠할 수 있는 색이 n가지(n≥3)라고 하면, 그 꼭짓점의 색을 칠한 다음 꼭짓점에는 n-1가지, 그 다음 꼭짓점에는 n-2가지의 색을 칠할 수 있다.

이 경우를 식으로 나타내면 n x (n - 1) x (n - 2) = n³- 3n² + 2n 이다.

이때 각 항 계수의 절댓값은 1, 3, 2로 커졌다가 줄어든다.

이런 식으로 모든 그래프의 채색다항식에서 계수의 절댓값이 '하나의 산봉우리처럼'(unimodal) 한동안 증가하다가 정점을 찍고 감소할 것이라는 추측이 '리드 추측'(Read's conjecture)이다.

단순한 삼각형이 아니라 다른 모양의 그래프는 채색다항식을 구하는 것이 훨씬 더 까다롭고, 일반화되면 이 물음은 더욱 답하기 어려운 문제가 된다.

이 난제는 1968년 제기됐는데, 허 교수는 2012년 박사과정에 재학 중일 때 대수기하학의 방법론을 활용해 이 추측이 옳음을 증명했다.

허 교수는 2015년 카림 아디프라시토(Karim Adiprasito) 코펜하겐대 수리과학과 교수, 에릭 카츠(Eric Katz) 미국 오하이오주립대 수학과 교수와 공동연구를 통해 리드 추측의 확장된 형태인 로타 추측도 해결했다.

◇ "연관성 없어 보이던 분야 사이에 '웜홀' 연결했다"
허 교수의 방법론은 대수기하학적 방법을 사용해 조합론적 대상을 연구하고, 조합론적 방법을 사용해 대수기하학을 연구할 수 있다는 새로운 관점을 수학계에 제시했다는 점에서 의미가 크다는 것이 전문가들의 설명이다.

허 교수는 그만의 방법론을 통해 다양한 수학적 대상에서 공통적으로 뽑아낼 수 있는 일종의 대수적 구조('코호몰로지'(cohomology)라고 불림)가 기하학과 대수학을 넘어 조합론에도 있음을 밝히고자 하고 있다.

허 교수의 석사과정 지도교수인 김영훈 서울대 수리과학부 교수는 그의 방법론에 대해 "서로 연관성이 없어 보이는 조합론과 대수기하학의 우주 사이에 웜홀(우주 내의 서로 다른 공간을 연결하는 통로)을 만들어 연결한 것"이라고 비유했다.

엄상일 한국과학기술원(KAIST) 수리과학과 교수는 "대수기하학을 조합론의 영역으로 가져와 번역했다"며 "대수기하학과 조합론의 분야가 각자 발전하다 보니 두 영역을 모두 알기 쉽지 않은데, 두 분야를 연결할 수 있다는 관찰을 하는 것 자체가 중요한 것"이라고 설명했다.

조합론은 지난 세기 후반부터 수학의 여러 분야 중에서도 빠르게 발전하고 있다.

오직 0과 1만을 사용해 연산하는 컴퓨터가 등장하면서 유한한 경우의 수를 따지는 알고리즘은 조합수학의 대표적 응용 분야라고 할 수 있다.

허 교수의 연구 역시, 앞으로 정보통신, 반도체 설계, 물류, 기계학습, 통계물리, 인터넷 검색 등 다양한 분야에 무궁무진하게 응용될 잠재력이 있다.

김 교수는 "기초적인 그래프 이론의 활용이 구글 검색을 가능하게 했다"고 최근의 사례를 들면서 앞으로 허 교수의 연구가 사람들의 생활을 혁명적으로 바꾸는 기술의 기초가 될 수 있다고 설명했다.

/연합뉴스