논문 제1저자인 신승우 KAIST 물리학과 연구원이 3D 홀로그래피 현미경을 살펴보고 있다. /박용근 교수 제공
논문 제1저자인 신승우 KAIST 물리학과 연구원이 3D 홀로그래피 현미경을 살펴보고 있다. /박용근 교수 제공
수학과 물리학엔 ‘스칼라’와 ‘벡터’란 기본 개념이 있다. 스칼라는 방향이 없는 물리량을 말한다. 질량, 밀도 등이 스칼라다. 벡터는 크기와 방향을 동시에 갖는 물리량이다. 힘, 속도 등이 대표적이다. 스칼라와 벡터보다 좀 더 복잡한 개념이 ‘텐서(tensor)’다. 텐서는 들어오는 방향과 나가는 방향 두 가지를 갖는 벡터를 말한다. 즉, 물리량이 세 개다. 예를 들어 분필을 뒤틀면 45도 방향으로 잘 깨지는 걸 볼 수 있는데, 이런 힘이 오가는 방향을 표현할 때 텐서를 쓴다. 구글의 인공지능(AI) 기계학습 알고리즘 ‘텐서플로’에서 텐서가 이것이다.

빛은 모든 물질과 상호작용한다. 산란·반사·굴절·흡수 등이다. 물질에 빛이 들어왔을 때 양상을 기술하는 물리량이 ‘유전율 텐서’다. 1900년을 전후해 등장한 고전적 개념이다. 그러나 온전히 측정할 방법이 마땅치 않아 물리학·광학계의 오랜 난제였다.

이유는 수학적 원리에 있다. 연립방정식을 떠올려 보자. 최소한 미지수 개수만큼 방정식이 있어야 문제가 풀린다. (방정식 개수에 해당하는) 빛의 편광 방향은 두 가지(오른쪽·왼쪽)다. 반면 유전율 텐서는 미지수(물리량)가 세 개다. 미지수가 방정식보다 많으니 풀 수가 없었다.

유전율 텐서 일부를 확인하는 방법은 있다. 1967년 유전율 텐서를 3차원(3D) 굴절률로 단순화해 일부를 측정할 수 있는 기술이 발명됐다. 바로 ‘3D 홀로그래피 현미경’이다. 낚시를 할 때 편광선글라스를 쓰면 물고기가 어디 있는지 잘 보이는 원리와 같다.

그러나 홀로그래피 현미경은 광학적 이방성(빛의 입사각 또는 편광에 따라 달라 보이는 성질)을 아예 무시하는 한계가 있었다. LCD를 구성하는 액정이 대표적인 광학적 이방체다. 광학적 이방체는 유전율 텐서를 이용해 수학적으로는 100% 표현할 수 있다. 이방체 존재 여부와 양, 내부 배열, 경계에서 분자 간 상호작용이 모두 수식으로 표현된다. 그러나 이방체의 3D 유전율 텐서 전체를 직접 눈으로 볼 수 있는 방법은 없었다.

박용근 KAIST 물리학과 교수팀은 유전율 텐서의 3D 단층촬영 기법을 최초로 개발했다고 4일 발표했다.

박 교수는 발상의 전환으로 난제를 해결했다. 먼저 어떤 빛(A)의 편광 데이터 2개(a,b)를 얻었다. 그리고 A를 미세하게 살짝 비튼 다른 빛(B)의 편광 데이터 두 가지(c,d)를 확보했다. 공교롭게도 a,b와 c,d 간에 어느 하나는 반드시 일치했다. 즉 방정식과 미지수 개수가 3개로 동일해지면서 유전율 텐서 측정 난제가 풀린 것이다. 그리고 3D 홀로그래피 현미경을 써서 이를 실제로 입증했다.

이번 연구 성과는 세계 3대 학술지 ‘네이처’의 자매지인 네이처머티리얼즈에 실렸다. 박 교수는 “그간 주력하던 3D 홀로그래피 연구에 새로운 수학 개념을 들여 의외의 결과를 얻었다”며 “논문을 평가하던 심사위원들도 반신반의할 정도였다”고 설명했다.

이번 연구 성과는 우선 LCD 소자의 성능 개선에 활용될 것으로 전망된다. 더 기대되는 분야는 암 진단과 항암치료 효과 분석이다. 암을 진단할 땐 암세포를 떼어내 생검(조직검사)을 한다. 생검 시 암 전이에 대한 주요 정보가 암세포 섬유질에서 나오는데, 이 섬유질 역시 미세한 나노미터(㎚) 단위 광학적 이방체라 상태를 확인하기가 매우 어렵다. 박 교수는 “서울아산병원과 이번에 개발한 유전율 3D 단층촬영 기술을 암세포 섬유질에 적용하는 연구를 진행 중”이라고 말했다.

이해성 기자 ihs@hankyung.com