"HBM 없는 AI 추론…열 빼기 쉬운 적층 구조가 해법"
“앞으로 5년 간 가장 중요한 기술은 메모리와 연산장치를 함께 묶는 첨단 패키징입니다.”

시드 세스 디매트릭스(D-Matrix) 최고경영자(CEO·사진)는 지난 10일(현지시간) 미국 샌타클래라 본사에서 기자와 만나 이같이 말했다. 빅테크가 고대역폭메모리(HBM)를 모으는 사이 스타트업 디매트릭스는 전혀 다른 해법을 모색하고 있었다. HBM을 쓰지 않는 AI칩으로 추론 시장을 공략하겠다는 것이다.

2019년 설립된 디매트릭스는 추론(AI가 작업을 수행하는 과정)용 반도체를 개발하는 스타트업이다. 지난해 시리즈C 투자 유치 때 기업가치 20억달러(약 2조6700억원)를 인정받았다. SK하이닉스와 삼성벤처투자가 각각 시리즈A·B 투자에 참여했다. 세스 CEO는 “초기 투자자인 SK하이닉스는 장기적으로 추론에 새로운 메모리 구조가 필요하다는 문제의식에 공감했다”고 했다.

디매트릭스의 주력 제품은 추론용 칩 ‘커세어’다. 반도체 내 고속 메모리인 정적램(SRAM)을 중심으로 메모리와 연산부를 가깝게 배치해 데이터 이동시간과 전력효율을 높였다. 지난 9월에는 차세대 반도체인 ‘랩터’를 엔비디아의 네트워크 플랫폼 NV링크 퓨전과 MGX 랙에 통합하는 파트너십을 발표했다. 내년 4분기 출시를 목표로 개발 중인 ‘랩터’는 D램을 아래에, 연산장치를 위에 쌓는다. 연산장치 위에 메모리를 올리는 삼성전자의 ‘zHBM’과 위아래 배치가 반대다. 세스 CEO는 “연산장치가 위에 있으면 열을 빼내기 쉽다”며 “이미 확보한 패키징 기술을 활용해 제품을 더 빨리 내놓을 수 있다”고 설명했다.

세스 CEO는 미 중간선거 결과 데이터센터 건설이 지연되면 자사 반도체 가치가 더욱 높아질 것으로 봤다. 엔비디아 호퍼 등 구형 그래픽처리장치(GPU)에 자사 제품을 결합하면 성능을 1.5~2배 높이고 교체 시기를 늦출 수 있어서다.

실리콘밸리=김인엽 특파원 inside@hankyung.com