“5월 리벨리온의 반도체를 사용하겠습니다.”

윤동식 KT클라우드 대표가 최근 ‘KT클라우드 서밋 2023’에서 엔비디아 등 외국산 반도체 의존을 줄이겠다는 의사를 밝혔다. 리벨리온은 2020년 설립된 국내 인공지능(AI) 반도체 스타트업이다. 지난달 세계 최고 권위를 자랑하는 AI 반도체 성능 테스트 ‘엠엘퍼프(MLPerf) 대회’에서 미국 엔비디아와 퀄컴을 앞서 주목받았다. 리벨리온을 창업한 박성현 대표는 미국 매사추세츠공대(MIT) 컴퓨터공학 인공지능랩(CSAIL)에서 박사학위를 마치고 인텔에서 일하다 귀국했다. IBM 왓슨연구소 AI 반도체 수석설계자이던 진욱 최고기술책임자(CTO)도 함께했다.

리벨리온처럼 국내 AI 반도체 생태계를 이끄는 업체는 대부분 스타트업이다. 창업가가 미국에서 시스템 반도체를 개발한 경험을 바탕으로 창업해 대기업과 합종연횡을 이루는 경우가 대부분이다. 미국에서 경력을 쌓고 한국에서 창업에 도전하는 기업가는 흔하지만 AI 반도체 업종은 이런 형태가 두드러진다. 단시간에 대규모 투자금을 유치하고, 기존 반도체 인프라를 적절히 사용하는 곳만 살아남을 수 있기 때문이다. ‘독불장군’ 유형의 창업자는 투자금이 떨어질 때까지 시제품도 내놓지 못할 가능성이 있다. 경력과 학력이 가장 중요한 사업이란 평가도 나온다.

○포스코·현대차·삼성 등 ‘큰 손’과 협력

AI 반도체 스타트업 딥엑스는 최근 포스코DX, 현대자동차그룹과 연이어 손을 잡았다. 포스코DX와 공장과 물류 설비 제어시스템에 AI 반도체를 장착해 자동화 솔루션을 구현할 계획이다. 현대자동차그룹의 로봇 플랫폼 연구조직인 로보틱스랩과도 업무협약(MOU)을 체결해 AI 모델 추론에 쓰이는 신경망처리장치(NPU)를 제공하기로 했다. 딥엑스는 김녹원 대표가 2018년 창업했다. 그는 애플에서 아이폰X의 애플리케이션프로세서(AP)를 만든 시스템 반도체 전문가로 꼽힌다. 딥엑스는 지난달 14일엔 대만 반도체 유통사 코아시아그룹과 MOU를 맺기도 했다. 코아시아그룹은 삼성전자 파운드리사업부의 전속 협력 기업인 코아시아일렉을 계열사로 두고 있다.

사피온은 지난해 4월 SK텔레콤의 사내 AI 반도체 사업부문이 독립한 업체다. SK스퀘어 SK하이닉스가 투자에 참여해 설립을 도왔다. 사피온은 국내 최초의 데이터센터용 AI 반도체인 ‘X220’을 개발하며 주목받았다. 미국 조지아공대 박사 출신인 류수정 대표가 회사를 이끈다. 퓨리오사AI는 류 대표 동문인 백준호 대표가 2017년 창업했다. 백 대표는 미국 반도체기업 AMD의 그래픽처리장치(GPU) 설계팀 출신이다. 퓨리오사AI의 AI 반도체 ‘워보이’는 지난달 삼성전자가 양산에 들어갔다.

○AI 반도체는 GPU 못 이긴다?

일각에선 AI 반도체에 회의적인 의견도 나온다. 최근 AI 연구의 동향 때문이다. AI 반도체의 바탕인 ‘CNN(convolutional neural network)’은 당초 AI가 이미지를 학습하는 핵심 기법이었다. 이미지를 아주 작은 단위로 쪼개서 이를 합하고 곱해가며 내용을 식별하는 원리다. 하지만 2020년 등장해 최근 주목받는 ‘ViT(vision transformer)’ 방식에서는 이런 복잡한 단계가 사라졌다. 더 많은 데이터를 적은 자원으로 학습할 수 있게 된 것이다. 굳이 특화 반도체가 필요 없고, 관련 알고리즘 처리도 GPU가 더 유리하다는 분석이다.

이런 의견을 반박하는 주장도 나온다. 박성현 대표는 “GPU 사용이 더 편해질 수는 있지만 ‘대세가 된다’‘는 주장엔 동의하지 않는다”며 “트랜스포머(문장 속 단어와 같은 데이터 내부의 관계를 추적해 맥락과 의미를 학습하는 신경망) 계열에 맞는 전용 AI 반도체를 만들면 되는 일이고, 마이크로소프트(MS)의 구매 동향을 봐도 GPU와 AI 반도체를 동시에 사는 전략이 이어지고 있다”고 했다. “예전엔 하드웨어의 중요성이 200이었다면 트랜스포머 계열의 등장으로 중요성이 170 정도로 줄어든 것뿐”이라며 “시장에 검증된 NPU가 나타난다면 오히려 GPU 제작사나 사용자 입장에선 매력적인 ‘투자 선택지’(NPU)가 새로 나타난 셈”이라고 덧붙였다. MS나 엔비디아가 GPU를 중심에 놓고 사업 다각화 측면에서 AI 반도체 스타트업에 투자나 인수합병(M&A)을 진행할 수도 있다는 얘기다.

○투자금 소진 전 납품처 찾아야

AI 반도체 스타트업이 넘어야 할 산은 또 있다. ‘고객사 찾기’다. AI 반도체 스타트업들이 대기업과의 협력에 사활을 거는 이유다. AI 반도체는 시제품을 만드는 데만 수십억원에서 수백억원이 드는 고가의 사업이다. 관련 매출을 내기 어렵고 투자금이 소진되기 전에 기술력을 증명해야만 한다. 시제품을 만들 때도, 효용성을 증명할 때도 가장 빠른 수단은 대기업과의 협력이다. 업계가 리벨리온과 KT클라우드의 협업을 주목하는 배경이기도 하다. 2020년 출시된 사피온의 AI 반도체 ‘X220’과 NHN 데이터센터의 협력 이후 국내에선 굵직한 AI 반도체 상용화 소식이 없다.

관련 업체들은 정부 지원도 기대하고 있다. 초기 단계지만 기술력으로 무장한 업체가 잇달아 나타나면서 정부 지원도 늘어나는 추세다. 정부는 2030년까지 AI 반도체 분야에 약 8300억원을 투입하겠다고 선언했다. 상용화 초기 단계인 국산 NPU 고도화 사업을 추진하고, 메모리와 연산 프로세서 기능을 한 칩에 합친 저전력 AI 반도체 ‘PIM’의 개발도 지원한다. 시장조사업체 가트너에 따르면 글로벌 AI 반도체 시장은 2020년 230억달러(약 30조5200억원)에서 2025년에는 700억달러(약 92조8900억원)로 커질 전망이다.

이시은 기자 see@hankyung.com