36GB HBM3E 12H D램(삼성전자 제공)
삼성전자가 5세대 고대역폭메모리 HBM3E의 12단 적층 개발에 성공했다. 이날 마이크론이 양산하겠다고 발표한 HBM3E 8H보다 앞선 제품이다.

삼성전자는 업계 최초로 36GB(기가바이트) HBM3E 12H(12단 적층) D램 개발에 성공했다고 27일 밝혔다. 샘플을 고객사에게 제공하기 시작했으며 상반기 양산할 예정이다. AI반도체 선점 경쟁이 치열해지면서 양산 시점도 앞당긴 것이다.

HBM3E 12H는 24Gb(기가비트) D램 칩을 TSV(Through-Silicon Via) 기술로 12단까지 쌓은 것이다. 초당 최대 1,280GB의 대역폭과 현존 최대 용량인 36GB를 제공한다. 전작인 HBM3(4세대 HBM) 8H 대비 50% 이상 개선된 제품이다.

삼성전자는 'Advanced TC NCF(열압착 비전도성 접착 필름)' 기술로 12H 제품을 8H 제품과 동일한 높이로 구현해 HBM 패키지 규격을 만족시켰다. 또 NCF 소재 두께도 낮추면서 업계 최소 칩간 간격인 '7마이크로미터(um)'를 구현했다. 이를 통해 역시 전작(HBM3 8H) 대비 20% 이상 향상된 수직 집적도를 실현했다.

삼성전자는 HBM3E 12H가 AI 서비스의 고도화로 데이터 처리량이 급증하는 상황 속에서 AI 플랫폼을 활용하는 다양한 기업들에게 최고의 솔루션이 될 것으로 기대하고 있다.

이번 제품을 사용할 경우 GPU 사용량이 줄어 기업들이 총 소유 비용(TCO, Total Cost of Ownership)을 절감할 수 있는 등 리소스 관리를 유연하게 할 수 있는 것도 장점이다.

서버 시스템에 HBM3E 12H를 적용하면 HBM3 8H를 탑재할 때 보다 평균 34% AI 학습 훈련 속도 향상이 가능하며, 추론의 경우에는 최대 11.5배 많은 AI 사용자 서비스가 가능할 것으로 삼성 측은 예상했다. (동일 GPU 인프라 조건에서 내부 데이터와 시뮬레이션을 기반으로 산출)

배용철 삼성전자 메모리사업부 상품기획실장(부사장)은 "앞으로 HBM 고단 적층을 위한 기술 개발에 주력하는 등 고용량 HBM 시장을 선도하고 개척해 나갈 것"이라고 밝혔다.


정원우기자 bkjung@wowtv.co.kr