[퓨처테크 현장을 가다①] 암호 전쟁의 ‘핵’ 양자컴퓨터…“내년 양자 시대 열린다”

IBM 왓슨 연구소, 양자컴퓨터 최첨단 기술 연구
“슈퍼컴 100만년 걸려 풀 암호, 양자컴은 1초만에”
양자컴퓨터 ‘어벤져스’ 만든 백악관
IBM·구글 등에 중국과의 양자전쟁 선봉 맡겨

미국 뉴욕시에서 북쪽으로 61㎞ 떨어진 요크타운 하이츠. 인구 1500명의 작은 마을 끝에 갑자기 통유리로 된 7만㎡ 넓이 3층 높이의 반원형 건물이 나온다. IBM 창업자의 이름을 따 1961년 세워진 IBM 왓슨 리서치 센터다. 엄격한 신원 확인 후 들어간 이곳에선 현재 세계에서 가장 최첨단 기술인 1121큐비트 양자컴퓨터를 개발하고 있다. 큐비트는 양자컴퓨터의 성능을 나타내는 단위다.

연구소에서 최고 수준의 보안 등급을 갖고 있는 선임연구원이 안경을 벗고 홍채 인식을 진행했다. 방음 기능을 갖춘 두꺼운 유리문이 열렸다. 연구실 내 헬륨 냉각 펌프에서 울려 퍼지는 규칙적인 소음이 ‘치익 치익 치익’ 하며 귓전을 때렸다.

스콧 크라우더 IBM 양자상용화·비즈니스개발 부문장(부사장) 겸 최고기술책임자(CTO)는 “양자컴퓨터 개발의 최첨단 기술”이라고 설명했다. 양자컴퓨터를 둘러싼 글로벌 기술 경쟁의 최전선을 한국경제신문이 방문했다.

엄지 손톱 크기 퀀텀 칩, 127개 큐비트 정렬

규칙적인 소음을 내는 헬륨 냉각펌프는 1분에 30차례 이상 헬륨 기체의 압축과 팽창을 반복했다. 냉각 펌프에서 이어진 가느다란 빨대 굵기의 스테인리스강 파이프는 ‘샹들리에’로 불리는 냉동기로 이어졌다. 냉동기는 가로X세로X높이 약 2ｍ 크기다. 알루미늄과 구리, 금 소재의 부품이 5단으로 겹쳐 이뤄졌다. 샹들리에라는 별명은 냉동기의 반짝이는 화려한 모습에서 따왔다. 냉동기는 낮은 온도에서 원자와 전자가 정렬하며 양자화 되는 초전도 현상을 구현한다.

냉동기 하단에는 엄지 손톱 크기 정사각형 모양의 작은 ‘퀀텀 프로세서 칩’이 달려 있었다. 상용 서비스 중인 127큐비트 양자컴퓨터 ‘이글’의 두뇌다. 이글 퀀텀 칩은 알루미늄과 나이오븀 합금 등을 얇게 겹친 뒤 미세한 회로도를 식각해 만들어졌다. 양자 현상을 만드는 절대영도(K·켈빈, 영하 273도)에 가깝게 차가웠다. 퀀텀 칩 내부로 전기가 흘렀다. 부도체(전기가 흐르지 않는 물질)를 둘러싼 얇은 막 사이로 5㎓ 정도의 미세한 주파수가 통과했다. 127개의 큐비트가 100㎳(밀리초·1㎳=1000분의 1초) 안팎의 짧은 시간 만에 만들어졌다.

“2023년, 양자컴퓨터 시대 온다”

“양자컴퓨터가 기존 슈퍼컴퓨터의 성능을 뛰어넘는 ‘양자 우위(퀀텀 어드벤티지)’의 시대가 내년부터 올 것이다.”

미국 요크타운 하이츠 IBM 왓슨 리서치 센터에서 한국경제신문을 만난 스콧 크라우더 IBM 양자상용화·비즈니스개발 부문장(부사장) 겸 최고기술책임자(CTO)는 IBM이 개발하는 양자컴퓨터에 대해서 설명하며 이같이 말했다. 세계 양자컴퓨터 개발 경쟁에서 가장 앞서 나가고 있는 기업 중 하나인 IBM의 경영진이 ‘양자 우위’ 시대로 2023년을 직접 공식화한 것은 이번이 처음이다.

양자컴퓨터는 양자물리학의 원리를 적용한 신개념 컴퓨터다. 우주 블랙홀에 대한 연구부터 생명의 근원에 대한 탐구까지 슈퍼컴퓨터로는 수만년 이상 걸릴 것으로 예상되는 난제를 순식간에 풀어낼 것으로 기대를 모은다. 그는 “전통적인 방식의 슈퍼컴퓨터를 아무리 크게 만든다고 하더라도 절대 풀지 못할 문제들이 분명히 있다”고 설명했다.

이런 관점에서 크라우더 부사장은 자신의 업무에 대해서 “회사에서 가장 멋진 일을 하고 있다”라며 강한 자긍심을 보였다. 그는 “과학소설(SF) 속에서나 가능할 것 같은 일을 현실로 옮기고 있기 때문”이라고 설명했다.

양자컴퓨터는 ‘0 또는 1’ 단위의 ‘비트’로 계산하는 기존 컴퓨터와 달리, ‘0 이면서 1’을 의미하는 ‘큐비트’를 이용해 정보처리 속도를 획기적으로 높인다. 1개의 큐비트가 늘어나면 양자컴퓨터 성능은 두 배로 증가한다. 1000큐비트와 100큐비트의 성능 차이는 ‘2의 900 거듭제곱’ 만큼의 천문학적인 성능 차이를 보이는 셈이다.

작년 12월 127큐비트의 ‘이글’ 프로세서까지 개발에 성공한 IBM 왓슨 리서치 센터에서는 오는 12월 433큐비트 ‘오스프리’ 프로세서, 내년 12월 1121큐비트의 ‘콘도르’ 프로세서를 선보일 예정이다.

크라우더 부사장은 “양자 우위의 시대를 위해서는 1000개 이상의 큐비트와 0.01% 이하의 낮은 오류율, 1초 이하 단위의 빠른 연산 속도를 갖춘 양자컴퓨터가 필요하다”며 “IBM은 세 가지 항목에서 모두 목표를 달성해 나가고 있다”고 설명했다.

양자컴퓨터는 인류의 난제를 해결하는 도구가 될 수 있지만 동시에 국가 안보의 위협이 될 수도 있다. 현재 사용하는 암호 기술을 쉽게 파훼할 수 있기 때문이다. 중국의 양자컴퓨터 개발을 미국 정부가 심각하게 받아들이는 배경이다. 크라우더 부사장은 한국의 정치인과 기업인을 위한 조언을 묻자 이같이 답했다.

“양자컴퓨터 기술의 발전은 인류의 밝은 미래를 약속하는 축복인 동시에 위협이다. 위협은 미래에 있다. 하지만 위험에 대한 대비는 지금부터 해야 한다.”

“양자 우위의 시대 준비해야”

양자컴퓨터는 거스를 수 없는 대세다. 이미 IBM 왓슨 연구소는 127큐비트 이글을 포함해 현재 20개의 양자 컴퓨터를 클라우드 서비스로 제공하고 있다. 전 세계 40만명 이상이 본인의 노트북을 이용해 IBM 양자 컴퓨터 센터에 접속해 각종 연구를 진행했다. IBM의 양자컴퓨터를 이용해 발표된 논문은 지금까지 1000편이 넘는다.

양자컴퓨터를 활용한 연구 분야는 무궁무진하다. 2차전지 신소재 개발부터 코로나19 치료제 개발, 금융 투자 포트폴리오 최적화 및 부정 거래 판별법 개발, 인공지능(AI) 빅데이터 강화학습, 원유 탐사, 우주선 개발 등이 포함된다. 전문가들이 “양자컴퓨터를 만드는 기술만큼이나 활용하는 기술도 중요하다”고 강조하는 이유다.

한국에서는 삼성종합기술원, LG전자, 서울대, 연세대, 성균관대, KAIST 등이 IBM과 협업하고 있다. 최근에는 연세대가 양자컴퓨터 센터 설치 협약을 맺었다. 2024년 기준 가장 최신형의 양자컴퓨터를 인천 송도 퀀텀센터에 설치할 예정이다.

김태현 서울대 컴퓨터공학부 교수는 “내년 1000개 이상의 큐비트로 이루어진 양자컴퓨터 개발에 성공한다면 양자 우위의 시대를 열 수 있을 것으로 기대된다”며 “양자컴퓨터 개발 경쟁에 크게 뒤처지고 있는 한국 정부와 기업의 적극적인 투자가 절실한 시점”이라고 말했다.

“양자컴퓨터, 수년 내 국가 안보 위협”

양자 우위의 시대에 가장 위협을 받는 산업 중 하나는 금융이다. 현재 세계 금융기관은 ‘RSA 알고리즘(공개키 암호화)’을 쓴다. 한국 공인인증서도 RSA 방식이다. 기존 슈퍼컴퓨터는 RSA 암호 해독에 100만년 이상 걸린다. 그러나 발전된 양자컴퓨터는 1초 만에 쉽게 풀어낼 것으로 예상된다.

미국은 양자컴퓨터의 위협을 심각하게 여기고 있다. 지난 5월 조 바이든 미국 대통령 명령으로 백악관, 국가안보국(NSA), 국립표준기술연구소(NIST), 중앙안보국(CIA), IBM, 구글 등으로 구성된 민관 합동 협의체가 출범했다. 중국의 양자컴퓨터 해킹으로부터 미국의 데이터를 지키는 방법을 연구하기 시작했다.

크라우더 부사장은 “지금 백악관에서 가장 걱정하는 것은 해커 집단이 은행 등 금융기관과 국가안보기관에서 암호화된 정보를 훔쳐 저장해 둔 뒤, 수년 내 발전한 양자컴퓨터 기술을 활용해 암호를 풀어가는 것”이라고 말했다. 이어 “몇몇 전문가들은 비트코인 거래도 양자컴퓨터로 풀 수 있을 것이라고 보고 있다”고 덧붙였다.

실제로 중국과학기술대는 작년 10월 66큐비트의 초전도 방식 양자컴퓨터 ‘쭈충즈 2.1’을 개발했다. 미국의 IT 컨설팅업체 부즈앨런해밀턴은 “이르면 2027년 중국 양자컴퓨터가 암호화된 정보를 풀어 낼 것”이라고 예측했다. 김 교수는 “지금 생산되는 국가 기밀도 종류에 따라 수십년간 보안을 유지해야 하는 경우가 많을 것”이라며 “양자컴퓨터 공격에 안전한 보안체계를 만드는 투자가 시급하다”고 설명했다.

양자컴퓨터는 무엇?

“양자물리학이 무엇인지 이해했다고 말하는 사람이 있다면 그 사람은 거짓말쟁이다.”
세계적인 물리학자 리처드 파인만은 양자컴퓨터의 기본 원리가 되는 양자물리학의 난해함에 대해서 이같이 말했다. 눈에 보이지 않는 세계의 운동 법칙인 것에 더해 “무엇인가 있기도 하면서 없기도 하다”는 핵심 원리가 직관적으로 이해되지 않기 때문이다.

확률 개념이 들어간 양자물리학의 창시자는 에르빈 슈뢰딩거다. 양자의 움직임을 수학적으로 설명하는 함수를 처음 제안했다. 상자를 열어 봐야 내부의 고양이가 죽어있는지, 살아있는지 알 수 있다는 ‘슈뢰딩거의 고양이’라는 개념으로 흔히 알려졌다.

양자컴퓨터 연구가 급증한 계기는 1994년 피터 쇼어가 “슈퍼컴퓨터로 불가능한 암호 해독을 양자컴퓨터로 풀 수 있다”며 ‘쇼어 알고리즘’을 내놓으면서다. 현재 쓰이는 인터넷 공개키 암호는 막대한 수의 소인수분해가 불가능하다는 점을 이용해 특정 정보에 자물쇠를 걸었다. 쇼어 알고리즘은 양자컴퓨터가 이 자물쇠를 쉽게 깰 수 있다는 충격적인 발표였다.

양자물리학은 노벨물리학상의 단골 주제이기도 하다. 2016년 양자물리학과 위상수학 간 관계를 규명한 마이클 코스털리츠 영국 브라운대 교수 등 3명이 상을 받았다. 이들은 큐비트 간 상호작용(중첩과 얽힘)이 위상수학 공간의 특성과 비슷하다는 점을 밝혀냈다.

양자컴퓨터를 알려면 ‘중첩’과 ‘얽힘’ 개념을 조금이라도 짚고 가야 한다. 양자컴퓨터의 연산 기본단위는 0과 1이 공존하는 큐비트다. 공을 북반구와 남반구로 나눠 동전의 앞면(1) 뒷면(0)처럼 각각 숫자를 붙이고 유리컵을 덮었다고 하자. 이 공은 1과 0이 ‘중첩’돼 있다. 공이 어떻게 어떤 방향으로 있는지는 모른다. 다만 공의 상태는 수학적 도구로 표현이 가능하다. 어느 정도는 1이면서, 동시에 어느 정도는 0이라는 방식이다.

여기에 더해 ‘얽힘’을 알기 위해서는 유리컵 A, B로 덮인 공 a, b가 두 개 있다고 가정하자. 유리컵 A에 레이저를 쏘면 B까지 영향을 받아 공 a와 b가 바뀔 확률이 서로 영향을 주고받는다. B를 컨트롤하지 않았는데도 저절로 연산이 수행된 것이다. 이런 컨트롤이 잘 이뤄지는 것을 양자컴퓨터 논리회로(큐비트)의 기본인 ‘결맞음’이 잘 됐다고 표현한다.

뉴욕=김진원 기자