이재용(왼쪽) 삼성전자 회장과 샘 올트먼 오픈AI CEO. 사진제공=삼성전자
이재용(왼쪽) 삼성전자 회장과 샘 올트먼 오픈AI CEO. 사진제공=삼성전자
독자님들, 추석 잘보내셨나요. 연휴동안 반도체 업계가 깜짝 놀랄 발표가 있었습니다. 바로 오픈AI와 AMD의 AI 반도체 협력 소식입니다.

6GW짜리 초대형 AI 데이터센터를 AMD의 AI 칩으로 채우겠다는 파트너십을 맺었습니다. AI 반도체 '1황' 엔비디아는 물론 AMD와도 협력하며 파격적인 이원화에 돌입해 충격을 줬는데요.

이 사건에서 우리나라 반도체 업계의 관심은 역시 삼성전자로 향하죠. HBM으로 얼마나 수혜를 볼 수 있을까. 과연 파운드리 사업에도 긍정적인 영향이 있을까.

오늘은 현재 삼성전자와 AMD 간 관계, 시장에서 나오는 추정치를 총동원해 HBM 생산량과 예상 매출을 역산해보려고 합니다. 파운드리 이야기도 껴있습니다. 지금부터 저와 산수 여행을 떠나보시겠습니다.
삼성전자와 AMD는 HBM '깐부'
리사수 AMD CEO가 삼성전자와 협력한 HBM-PIM을 소개하고 있다. 사진=ISSCC2023 갈무리
리사수 AMD CEO가 삼성전자와 협력한 HBM-PIM을 소개하고 있다. 사진=ISSCC2023 갈무리
우선 삼성전자와 AMD의 HBM 파트너십 현황을 짚어보겠습니다. 두 회사는 HBM 분야에서 '깐부'입니다. 삼성전자는 10나노급 3세대(1z) D램을 활용한 HBM3, 4세대(1a) HBM을 쓴 HBM3E 모두 AMD에 공급했습니다.

올 하반기 삼성전자 HBM 사업 매출의 상당 부분이 AMD와의 거래에서 발생했을 정도로 중요도가 높습니다. HBM3E 12단을 공급하면서죠.

AMD 역시 삼성 HBM 활용 비율이 높은 것으로 알려졌습니다. 엔비디아와는 반대로 SK하이닉스 HBM 비중이 상당히 낮은 셈이죠. 업계에서 "과거부터 삼성전자와 HBM-프로세스인메모리(PIM) 같은 차세대 제품까지 연구하면서 돈독한 파트너십을 맺고 있다"는 이야기도 나옵니다.

현재 삼성전자는 AMD와 HBM4에서도 긴밀히 협력하고 있습니다. 퀄 완료를 위해 다수의 샘플을 제공하고 있다고 합니다. 지금까지의 양사 관계대로라면 AMD HBM4 공급망에서도 우위를 차지할 수 있을 것이란 전망도 나옵니다.
리사수(왼쪽) AMD CEO와 샘 올트먼 오픈AI CEO. 사진=AMD 유튜브 갈무리
리사수(왼쪽) AMD CEO와 샘 올트먼 오픈AI CEO. 사진=AMD 유튜브 갈무리
그러면 이제 오픈AI와 AMD의 자료를 보겠습니다. 내년 하반기부터 AMD의 신규 AI 반도체인 MI450으로 구성된 서버 랙(Rack)을 1GW 규모로 공급한다고 합니다. 총 5년간 6GW 규모 공급 계약인데, 일단 단기 목표 실현을 하고 차근차근 5GW를 더 채우겠다는 계획 같습니다.

그럼 1GW는 어느정도 규모일까. AMD 공식 발표자료에 따르면 1개 랙 '헬리오스'는 72개의 AI 반도체(MI450)로 구성됐습니다. 이제 추정이 조금씩 들어갑니다.
AMD의 '헬리오스' AI 랙. 72개의 AI 반도체(GPU)를 포함하고 있습니다. 사진제공=AMD
AMD의 '헬리오스' AI 랙. 72개의 AI 반도체(GPU)를 포함하고 있습니다. 사진제공=AMD
HBM 생산량까지 역산을 하려면 MI450의 전력 소모량이 필요합니다. 그러나 아직 이 수치가 불확실합니다. 업계 취재 결과 다양한 관측이 있었습니다. 현존 MI355X의 전력량인 1400W와 맞먹을 것이라는 예상도 있었지만요.

실전은 타깃 성능보다 높을 수밖에 없는데다, 집적도가 높아질수록 전력량이 증가하는 트렌드를 고려하면 2800W까지 오를 수 있다는 전문가 분석도 있었습니다.

그래서 MI450의 전력 소모량은 제가 들은 범위의 평균값인 2100W(2.1kW)로 잡아보겠습니다.

여기에 전체 데이터센터 전력량인 1GW(100만 kW)에서 AI 반도체를 가동할 수 있는 전력 총량을 구하기 위해 전력사용효율(PUE·전체전력량/IT장비 전력량)이라는 값을 가져올텐데, 고밀도 데이터센터의 표준인 1.2를 써보겠습니다.

랙 안에서 GPU 한 장을 온전하게 돌리기 위해 필요한 기타 전력소모량을 GPU 전력량의 20% 정도로 고려해보겠습니다. 이 조건을 놓고 계산을 해보면,

100만 kW(1GW) ÷ 1.2(PUE) = 83만 3333 kW(1GW 데이터 센터에서 GPU 가동에 쓸 수 있는 IT 장비 총 전력량),

83만 3333 kW ÷ (2.1kw(GPU 장당 전력량) x 1.2(추가 전력 소모분 20%)) = 33만 688장.

즉 약 33만 장의 2100W짜리 GPU가 1GW 데이터센터에 들어갈 수 있다는 계산이 나옵니다. 오픈AI가 직접 만든 모델인 챗GPT의 계산 방식을 인용했습니다.
삼성전자 HBM3E 12단. 사진제공=삼성전자
삼성전자 HBM3E 12단. 사진제공=삼성전자
이제 HBM 개수를 역산합니다. MI450 한 장에는 최대 HBM4 12개가 들어갈 것으로 보입니다. AMD가 MI400 GPU의 HBM 총용량이 432GB로 '예상된다'고 발표한 것을 근거로 추정했습니다. 36GB짜리 HBM4 12개면 432GB로 딱 떨어지죠. 그러면,

33만 688 x 12(GPU 한 장당 HBM 개수) = 396만 8256개. 1GW 데이터센터 안에는 약 400만 개의 HBM이 들어가는 셈입니다.

한 걸음 더. 지금 만들어지고 있는 HBM4는 12단으로 쌓았죠. 12를 한번 더 곱하면 4761만 9072개의 코어 다이가 필요하다는 말이 됩니다.

그럼 HBM D램 생산을 위한 웨이퍼에는 500개 정도의 D램 다이가 만들어지니까, 1c D램 수율이 100%라고 가정하면 9만 5000장의 웨이퍼가 이 프로젝트를 위해 만들어져야 하는 걸로 계산됩니다.

삼성전자의 HBM4용 1c D램 수율은 계속 오르고 있는 추세이고, 현재 수율이 40~50%라고 하면 2배 격인 19만장 이상의 웨이퍼가 필요하다고 보여집니다.

긴 산수 끝에 각종 추정을 더 엮어서 정리해보면 아래와 같습니다.
만약 삼성전자가 AMD의 HBM4 퀄 통과를 해서 공급망을 독식할 수 있다면
AI 데이터센터 전경. 사진제공=AMD
AI 데이터센터 전경. 사진제공=AMD
◇내년부터 1년 내내 AMD의 오픈 AI 1GW 프로젝트용 GPU를 지원하려면 수율 40~50% 기준 월 1만 6000장이 넘는 D램 웨이퍼가 필요합니다.

◇현재 업계에서 돌고 있는 HBM4 12단 가격은 500~600달러대로 알려졌습니다. 396만 8256 개 (1GW에 필요한 HBM 수) x 500 달러 (가격) =19억 8412만 8000 달러. 현재 환율(1달러=1430원)로 계산하면 약 2조 8000억 원 매출이 예상됩니다. 600달러로 계산하면 3조 4000억 원 정도가 나옵니다.

◇이 비즈니스 형태가 6GW까지 지속될 수 있다면 5년 간 이걸로만 최대 20조 원을 벌 수 있다는 계산도 할 수 있는데요. 사실 반도체로만 작년 연간으로만 111조 원을 번 삼성전자 DS부문에 지대한 영향을 미친다고 볼 수는 없습니다.

◇AMD X 오픈AI 5년 계약 기간 동안 비즈니스 형태는 얼마든지 변할 수 있습니다. 5년 사이 HBM 갯수가 확 줄고 LPDDR이나 GDDR을 활용한 AI 칩이 나올수도 있는 거니까요.

◇또한 이 웨이퍼 계산은 오픈AI가 삼성·SK하이닉스와 맺은 월 90만장 메모리 협약의 아주 일부처럼 느껴지기도 합니다. 물론 월 90만 장이 HBM만의 웨이퍼는 아닌 건 알고 있지만, 어떤 계산에서 나온 구매의향서(LOI)인지 궁금증도 증폭됩니다.

◇아무튼 삼성이 AI 최강자인 오픈AI의 초대형 프로젝트에 HBM 플레이어로 본격 참여하며 외연 확장의 기회를 잡은 건 분명합니다.

+)이 모든 건 오픈AI의 성장 여부에 따라 크게 달라질 수 있습니다. 과연 오픈AI는 모든 계획을 실행으로 옮길 수 있을까요.
내친 김에 파운드리도 기회 잡을 수 있을까

AMD 관련 파운드리 가능성 이야기도 짧게 보태봅니다. 현재 삼성 파운드리는 AMD의 주요 GPU를 위탁생산하고 있지 않은 것으로 파악됐습니다.

삼성 파운드리는 4나노 공정에서 AMD GPU의 일부인 I/O 다이 개발을 추진하고 있었습니다. 결국 이 프로젝트는 무산됐고 TSMC가 맡는다고 합니다.

그럼에도 삼성 파운드리는 AMD 위탁생산을 여전히 추진 중인 것으로 알려졌습니다. AMD 역시 미국 정부의 칩 생산 내재화 압박을 강하게 받고 있기에 애플과 테슬라에 이어 삼성의 미국 파운드리 공장을 활용할 수 있을 거란 전망도 나옵니다.

AMD가 이번에 오픈AI를 고객사로 잡으며 AI 반도체 업체로서의 잠재력을 보여줬죠. 끈끈한 동맹을 맺어온 삼성전자가 HBM 뿐만 아니라 AMD와 다양한 형태의 반도체 협력을 할 수 있기를 기대하면서 글 마칩니다. 즐거운 주말 보내세요!

강해령 기자 hr.kang@hankyung.com