SK하이닉스 안현 개발총괄 사장이 14일 서울 삼성동 코엑스에서 열린 ‘반도체대전(SEDEX) 2026’에서 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 기조연설을 하고 있다. / 사진=SK하이닉스
SK하이닉스 안현 개발총괄 사장이 14일 서울 삼성동 코엑스에서 열린 ‘반도체대전(SEDEX) 2026’에서 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 기조연설을 하고 있다. / 사진=SK하이닉스
SK하이닉스가 고대역폭메모리(HBM)에 이어 고대역폭플래시(HBF)와 로직 반도체 위에 D램을 쌓는 기술로 인공지능(AI) 메모리 영역을 넓힌다. AI 추론 확대로 급증하는 데이터를 처리하기 위해 개별 제품의 성능뿐 아니라 메모리 간 데이터 이동까지 최적화하겠다는 전략이다.

HBM 넘어 HBF로…대역폭 절반·용량 10배 목표

14일 서울 삼성동 코엑스에서 열린 ‘반도체대전(SEDEX) 2026’의 SK하이닉스 부스. / 사진=SK하이닉스
14일 서울 삼성동 코엑스에서 열린 ‘반도체대전(SEDEX) 2026’의 SK하이닉스 부스. / 사진=SK하이닉스
안현 SK하이닉스 개발총괄 사장(CDO)은 14일 반도체 전시회 'SEDEX 2026' 기조연설에서 'AI 시대, 메모리 기술의 진화 방향'을 주제로 차세대 기술 로드맵을 제시했다. 안 사장은 AI 추론 수요가 늘면서 기존 메모리 구조에 성능과 용량 측면의 새로운 병목이 발생하고 있다고 진단했다. HBM 경쟁력을 높이는 동시에 새로운 메모리 계층을 구축해 AI 인프라의 성능과 에너지 효율을 개선해야 한다고 강조했다.

주요 기술로 제시한 HBF는 HBM에서 확보한 실리콘관통전극(TSV) 적층 기술과 고속 입출력 기술을 낸드플래시에 적용한 메모리다. SK하이닉스는 동세대 HBM 대비 절반 수준의 대역폭과 약 10배의 용량을 개발 목표로 잡았다. HBM과 D램 사이에 배치해 대역폭과 용량 수요에 함께 대응한다는 구상이다.

HBF의 역할은 AI 연산에 필요한 대량의 데이터를 연산기 가까이에 저장하는 것이다. D램과 솔리드스테이트드라이브(SSD)에 접근하는 횟수를 줄여 시스템 성능과 에너지 효율을 높일 수 있을 것으로 회사는 기대하고 있다. 안 사장은 AI 추론이 대규모 데이터를 반복해서 읽는 반면 쓰기 작업은 상대적으로 적어 낸드 기반 HBF에 적합하다고 설명했다.

SRAM과 HBM 사이의 성능 격차를 줄일 기술로는 '3D Stacked DRAM'을 소개했다. 그래픽처리장치(GPU)나 신경망처리장치(NPU) 등 로직 반도체 위에 D램을 적층해 연산기와 데이터의 물리적 거리를 좁히는 구조다. 대규모 AI 모델 추론에 필요한 데이터를 더 가까운 곳에서 빠르게 공급해 성능을 높이고 에너지 소모를 줄이는 게 핵심이다.

"AI 인프라 성능 규모, 2030년 약 20배"

안 사장은 AI 추론 시장이 작업 복잡도와 컨텍스트 길이, 추론 요청량 등 세 가지 측면에서 동시에 성장하고 있다고 분석했다. 이들 요인이 서로 곱해지는 관계로 작용하면서 AI 인프라 수요를 빠르게 늘린다는 설명이다. 그는 2030년 AI 인프라의 성능 규모가 2026년 대비 약 20배로 커질 것으로 전망했다.

추론 수요가 늘면 연산량뿐 아니라 모델 가중치와 중간 데이터를 저장하고 옮기는 수요도 증가한다. 특히 AI가 앞서 처리한 토큰 정보를 저장했다가 재활용하는 'KV 캐시'는 컨텍스트가 길어질수록 더 많은 메모리 용량을 필요로 한다. 대규모 KV 캐시를 처리하려면 HBM부터 D램, SSD까지 여러 계층에 데이터를 분산해 저장해야 한다.

이 과정에서 메모리 계층 사이의 데이터 0이동이 늘어나 성능을 떨어뜨리고 전력 소모를 키우는 병목이 발생한다는 게 안 사장의 진단이다. 과거에는 주로 연산기와 메모리 사이의 성능 격차가 문제였다면, AI 시대에는 서로 다른 메모리 계층 간 격차와 데이터 이동 자체가 제약으로 작용한다는 것이다. 그는 개별 메모리의 성능 개선을 넘어 전체 계층을 최적화해야 한다고 강조했다.
14일 서울 삼성동 코엑스에서 열린 ‘반도체대전(SEDEX) 2026’의 SK하이닉스 부스. / 사진=SK하이닉스
14일 서울 삼성동 코엑스에서 열린 ‘반도체대전(SEDEX) 2026’의 SK하이닉스 부스. / 사진=SK하이닉스

고객 맞춤형 HBM 확대…HBF 표준화 추진

SK하이닉스는 기존 HBM도 고객별 AI 시스템에 맞춰 발전시킬 계획이다. HBM1부터 HBM4E에 이르는 기술 개발 과정에서 용량과 대역폭, 에너지 효율을 높이는 한편 '커스텀 HBM'으로 영역을 확장하고 있다. 베이스 다이에 메모리 컨트롤러와 고객 맞춤형 로직을 직접 탑재해 AI 시스템 구조에 맞는 기능과 성능을 구현하는 방식이다.

CXL과 Storage-Next 등 차세대 메모리·스토리지 기술 개발도 추진한다. 다양한 AI 작업에 대응하도록 메모리 계층을 세분화하고, 각 계층을 연결해 시스템 전체 효율을 높인다는 구상이다. HBF의 선제적인 표준화를 추진하고 글로벌 파트너들과 협력도 강화할 방침이다.

SK하이닉스는 이번 전시에서 AI 서버부터 PC·모바일까지 아우르는 메모리 제품도 선보였다. 서버용 D램으로 256GB 3DS RDIMM과 128GB MRDIMM, 10나노급 6세대(1c) 공정을 적용한 64GB RDIMM 등을 전시했다. 액체냉각을 지원하는 기업용 SSD와 QLC 기반 SSD도 소개했다.

PC·모바일 분야에서는 GDDR7, LPDDR5X, LPDDR6와 UFS4.1, UFS5.0 등을 전시했다. 부스에는 HBM·HBF 구조 모형과 HBM 개발 역사 전시물도 배치했다. 엔비디아 베라 루빈 슈퍼칩과 젠슨 황 최고경영자(CEO)의 사인이 새겨진 HBM 웨이퍼를 함께 선보였다.

홍민성 한경닷컴 기자 mshong@hankyung.com