'알파고의 두뇌' 구글 TPU칩, 엔비디아가 벌벌 떠는 까닭?

CPU 71배, GPU 26배 성능
'GPU 강자' 엔비디아와 AI경쟁

알파고의 압승은 바둑계뿐 아니라 전자업계에도 비상한 관심을 끌었다. 구글이 알파고 인공지능(AI)의 핵심으로 공개한 4개의 TPU(다차원 처리장치) 때문이다. 딥러닝에 특화된 전자부품으로, 스마트폰부터 소셜네트워크서비스(SNS)까지 쓰임새가 확산될 것으로 보인다. 컴퓨터에 일반적으로 쓰이는 CPU(중앙 처리장치)와 대용량 데이터 처리용 GPU(그래픽 처리장치)에 이어 주요 컴퓨터 칩으로 자리잡을 전망이다.

황철성 서울대 재료공학부 교수는 “알파고와 같은 딥러닝의 구동원리는 본질적으로 미분방정식 풀이를 통해 최적값을 산출하는 것”이라며 “TPU는 미분방정식 풀이에 특화된 칩”이라고 말했다. 2차원에 그려진 곡선을 미분하면 1차원의 수식으로 단순화해 쉽게 풀 수 있듯이 AI는 입력된 특정 이미지의 데이터를 단순화해 그 이미지와 다른 이미지를 차별화할 수 있는 최적의 논리회로(로직)를 도출한다.

TPU 하나에는 이 같은 작업을 담당하는 산술논리 연산장치(ALU)가 6만5536개 탑재됐다. 문제가 입력되면 동시에 6만5536회 풀어보며 가장 효율적인 해법을 찾는다. 한 번에 하나의 ALU를 사용하는 CPU 대비 71배, ALU를 강화한 GPU 대비 26배의 AI 과제 처리능력을 갖는다. TPU를 개발한 구글 브레인팀의 클리프 영 연구원은 “인쇄기술에 비유하면 CPU는 한 글자씩, GPU는 한 문장씩 종이에 찍는 방식인 반면 TPU는 한쪽 면 전체를 한 번에 인쇄하는 것으로 볼 수 있다”고 설명했다.

대신 TPU는 CPU나 GPU에서 가능한 대부분의 기능이 없다. 초보적인 CPU에서도 가능한 문서 작성도 TPU만으로는 할 수 없다.

구글 검색, 구글 지도, 구글 번역기 등에는 이미 TPU가 사용되고 있다. 삼성전자 갤럭시 S8에 탑재된 음성인식 AI 빅스비도 TPU와 비슷한 설계가 적용된 퀄컴의 애플리케이션프로세서(AP)로 구현된다. 기능적 한계 때문에 TPU는 CPU를 대체하기보다는 함께 쓰일 것으로 보인다.

반면 GPU 시장의 강자로 꼽히는 엔비디아는 긴장하고 있다. AI 관련 데이터 처리장치로 각광 받고 있는 GPU 시장이 잠식될 여지가 크기 때문이다.

노경목 기자 autonomy@hankyung.com