3년 뒤 100조원 시장…'AI 반도체' 두각 나타낸 한국 스타트업
“엔비디아의 연산속도를 뛰어넘었다.” “추론 분야에서 엔비디아를 능가했다.”

요즘 국내 인공지능(AI) 반도체 스타트업의 기술 개발 성과를 놓고 이런 표현이 적지 않게 등장한다. 그만큼 이들 기업에 대한 관심도 크게 높아졌다. 삼성전자, 인텔 등 빅테크 출신 인재들이 관련 스타트업으로 몰리면서 인재 풀도 한층 두터워졌다. 하지만 일각에선 글로벌 기업의 반도체 성능을 넘기엔 역부족이라는 지적의 목소리도 나온다. 아직 해결해야 할 과제도 적지 않다. 향후 2~3년이 이들 기업의 성공 여부를 가늠하는 기간이 될 것으로 업계는 보고 있다.
○급성장하는 AI 반도체 시장
AI 반도체는 AI 연산에 최적화된 시스템 반도체 제품군을 통칭한다. AI가 필요한 서비스의 대규모 연산을 빠른 속도에 작은 전력 소모로 해낸다. 일종의 특화된 비메모리 반도체다. AI 반도체가 나오기 전에는 중앙처리장치(CPU) 또는 그래픽처리장치(GPU)가 AI의 연산을 처리했다.
3년 뒤 100조원 시장…'AI 반도체' 두각 나타낸 한국 스타트업
CPU는 컴퓨터의 입력과 출력, 각종 명령어 처리 등을 모두 맡는 컴퓨터의 두뇌다. CPU는 보통 데이터를 하나하나 순서대로 직렬로 처리한다. 대규모의 데이터를 동시(병렬)에 분석하는 AI용으로 쓰기에 한계가 있다. 그래서 GPU가 대안으로 떠올랐다. 데이터를 병렬로 처리하기 때문에 AI용으로 쓰이기 시작했다.

하지만 데이터 양이 방대해지면서 GPU만으로는 한계가 나타났다. 그래서 GPU의 병렬 처리 방식을 유지하면서도 AI만을 위한 전용 반도체가 나오기 시작했다. AI에 특화됐다는 의미에서 NPU(neural processing unit·신경망 처리장치)라고도 불린다.

AI 확산으로 AI 반도체 시장이 급격히 커지고 있다. 가트너는 AI 반도체 시장 규모가 2019년 134억9000만달러(약 17조6840억원)에서 2025년 767억7000만달러(약 100조6377억원)로 성장할 것으로 예상했다. 국내 스타트업도 최근 AI 반도체 시장에서 눈에 띄는 성과를 내고 있다.
○주목받는 한국 스타트업
2020년 창업한 리벨리온은 지난해 말 파이낸스용 AI 반도체 ‘아이온’으로 업계의 주목을 받았다. 아이온은 기존 시장의 강자였던 인텔의 ‘고야’보다 처리 속도가 30% 빠르고, 전력 소비 효율은 배 이상 높다고 회사 측은 설명했다. 리벨리온은 회사를 설립한 지 1년이 조금 넘은 시기에 아이온을 개발했다.

박성현 리벨리온 대표는 인텔, 삼성, 스페이스X를 거쳐 모건스탠리에서 퀀트(계량 분석) 개발자로 근무했다. 오진욱 최고기술책임자(CTO)는 IBM 왓슨연구소에서 AI 반도체 수석설계자였다. 의료 AI 스타트업 루닛에서 딥러닝 기술을 개발한 김효은 최고제품책임자(CPO)도 리벨리온에 합류했다.

오픈엣지테크놀로지(오픈엣지)는 AI 반도체의 설계자산(IP) 전문 기업이다. 2017년 12월 설립된 오픈엣지는 AI 반도체 기판의 설계도 역할을 하는 설계자산을 제작해 반도체 회사에 판매한다. 반도체 칩 생산량에 따라 로열티 수입도 늘어나는 사업 모델이다. 영국의 세계적 반도체 설계기업인 ARM과 사업 모델이 비슷하다.

오픈엣지는 삼성전자에서 시스템 반도체를 개발하던 이성현 대표가 SK하이닉스, 칩스앤미디어 등의 연구원들과 창업했다. 차량용 AI 반도체의 핵심인 NPU와 데이터를 저장하고 보내주는 메모리 시스템을 모두 제조할 수 있는 국내 유일한 회사로 알려져 있다. 오픈엣지는 올해 코스닥시장에 상장할 계획이다.

딥엑스도 국내 대표적인 AI 반도체 스타트업 중 하나다. 애플 ‘아이폰X’의 애플리케이션프로세서(AP)를 개발한 김녹원 대표가 2018년 창업했다. 특정 단말기에서 사용하는 일명 ‘에지용 AI 반도체’를 개발한다. '에지용 AI 반도체'는 글로벌 AI 반도체 시장에서 가장 많이 쓰인다. 딥엑스의 NPU는 단말기에서 수집된 데이터를 데이터센터와의 연동 없이 저전력으로 신속하게 처리하는 것이 강점이다.

창업한 지 4년 만에 AI 반도체와 관련한 30여 개 원천 기술을 개발하고 100건 이상의 특허도 확보했다. 주요 제품인 ‘딥엑스 시리즈’는 AI 소프트웨어와 하드웨어를 동시에 최적화하면서 낮은 전력 소모에도 높은 연산 처리 성능을 제공한다고 회사 측은 설명했다.

퓨리오사AI는 지난해 세계적인 AI 반도체 성능 경연대회에서 미국 엔비디아를 제쳐 업계의 주목을 받았다. 첫 번째 시제품인 ‘워보이’가 글로벌 AI 반도체 대회 ‘MLPerf(엠엘퍼프)’ 추론 분야에서 엔비디아의 ‘T4’를 넘어서는 성능 지표를 인정받았다. 워보이는 고성능 컴퓨터 비전(시각 인식) 활용에 적합하게 설계한 반도체다.
○한국 스타트업의 과제?
국내 유망 AI 반도체 스타트업들이 최근 두각을 나타내고 있지만 아직 갈 길이 멀다는 분석도 나온다. 아직 시장의 검증을 제대로 받지 못했다는 우려다. AI 반도체용 IP를 개발한 업체를 제외하고 상용 제품을 내놓은 기업이 아직 없다. 모두 아직 개발 중이다. 업계에서는 고객사가 제대로 사용할 수 있는 제품은 3년 후에 나올 것으로 보고 있다. 그때까지 AI 반도체 스타트업은 특별한 매출 없이 버텨야 한다는 얘기다.

기술 수준을 더 높여야 한다는 지적도 나온다. 반도체 전문 벤처캐피털(VC)의 한 심사역은 “일부 스타트업은 해외 업체보다 기술이 뛰어나다고 주장하지만 면밀하게 보면 모호한 구석이 있다”며 “전체 10개 항목 중 1~2개 정도는 뛰어날 수는 있지만 종합 점수로 보면 글로벌 상위권 기업과의 격차가 상당히 크다”고 설명했다.

기술이 좋아도 고객사를 충분히 확보하는 것 역시 쉽지 않다. AI 반도체가 필요한 업체는 성능뿐만 아니라 충분한 검증을 통해 기존 시스템과의 호환성 및 안정성도 인정받은 반도체를 선호한다. 국내 데이터센터 기업 관계자는 “데이터센터는 0.1초만 문제가 생겨도 서비스 이용에 큰 차질이 생기기 때문에 시장에서 충분히 검증받고 익숙한 외산 AI 반도체를 선호하는 경향이 있다”고 설명했다.

김주완 기자 kjwan@hankyung.com