이재용 삼성전자 회장(왼쪽 사진 왼쪽)이 1일 서울 삼성전자 서초사옥에서 샘 올트먼 오픈AI 최고경영자(CEO)와 글로벌 인공지능(AI) 인프라 구축을 위해 포괄적 협력 의향서(LOI)를 체결한 뒤 악수하고 있다. 최태원 SK그룹 회장(오른쪽 사진 왼쪽)과 올트먼 CEO가 이날 SK서린빌딩에서 창밖을 보며 대화하고 있다. /삼성전자·SK그룹 제공
이재용 삼성전자 회장(왼쪽 사진 왼쪽)이 1일 서울 삼성전자 서초사옥에서 샘 올트먼 오픈AI 최고경영자(CEO)와 글로벌 인공지능(AI) 인프라 구축을 위해 포괄적 협력 의향서(LOI)를 체결한 뒤 악수하고 있다. 최태원 SK그룹 회장(오른쪽 사진 왼쪽)과 올트먼 CEO가 이날 SK서린빌딩에서 창밖을 보며 대화하고 있다. /삼성전자·SK그룹 제공
1~2년 전까지 ‘인공지능(AI) 반도체’의 대명사는 엔비디아의 그래픽처리장치(GPU)였다. 지금은 고대역폭메모리(HBM)가 그 자리를 대신하고 있다. 대용량 데이터를 저장한 뒤 이를 GPU 같은 프로세서에 보내는 HBM 성능에 따라 AI 서비스의 질이 확연히 달라진다는 게 확인됐기 때문이다. 샘 올트먼 오픈AI 최고경영자(CEO) 같은 거물이 삼성과 SK그룹 총수를 찾아 ‘HBM 입도선매’ 계약을 체결한 이유다.

올트먼 CEO는 1일 이재용 삼성전자 회장, 최태원 SK그룹 회장을 각각 만나 HBM 등 AI용 메모리 반도체 관련 공급 의향서(LOI)를 체결했다. 올트먼 CEO는 두 사람에게 ‘AI 반도체의 차질 없는 공급’을 요청했고 두 회장은 ‘원활한 납품’을 약속했다.
올트먼, 이재용·최태원 만나 'HBM 입도선매'
오픈AI는 올해부터 2029년까지 5000억달러(약 700조원)를 투자해 전 세계에 AI 데이터센터를 구축하는 스타게이트 프로젝트를 이끌고 있다. AI 데이터센터엔 데이터 학습·추론을 수행하는 반도체 패키지인 ‘AI가속기’가 들어가는데, HBM은 AI가속기 성능을 좌우하는 핵심 부품이다.

시장조사업체 카운터포인트리서치에 따르면 SK하이닉스와 삼성전자는 올 2분기 기준 글로벌 HBM 시장의 79%를 장악하고 있다. 최근 AI가속기 자체 개발에 나선 오픈AI가 두 회사를 상대로 HBM 입도선매에 나선 배경이다.

올트먼 CEO는 삼성과 SK에 “스타게이트 프로젝트엔 월 90만 장(웨이퍼 투입량 기준) 이상의 HBM이 필요하다”고 전한 것으로 알려졌다. 현재 전 세계 HBM 생산량의 두 배가 넘는 규모다. 올해 HBM 시장 규모는 340억달러(약 48조원). 단순 계산으로만 100조원에 달하는 HBM을 한국 기업에 주문한 셈이다. 반도체업계 관계자는 “계약이 이행되면 한국의 AI 메모리 수출액은 연 수천억달러에 달할 것”이라고 말했다.

올트먼 CEO가 몸이 단 데는 그럴 만한 이유가 있다. 고성능 AI가속기 시장을 장악한 엔비디아가 전 세계 HBM 생산량의 70% 이상을 쓸어가고 있어서다. 엔비디아에 맞서 HBM을 충분히 확보하기 위해 삼성과 SK에 대규모 공급 물량을 보장해주고 값을 후하게 쳐주기로 한 것이다.

메모리 반도체가 ‘AI 서비스 차별화’에 필요한 핵심 부품이 된 것도 올트먼 CEO가 적극적인 구애에 나선 배경으로 꼽힌다. AI가속기 구성 품목 중 GPU의 성능 개선 속도를 메모리 반도체가 못 따라가고 있어서다. 이른바 ‘메모리 월(memory wall)’ 현상이다. 전력 효율이 높은 메모리 반도체를 장착해 AI 데이터센터에 쏟아지는 ‘전기 먹는 하마’라는 비아냥을 없애야 할 필요성도 점점 커지고 있다.

고성능 HBM 개발 능력을 갖춘 삼성전자와 SK하이닉스의 몸값이 높아진 이유다. 두 회사는 최근 들어 HBM뿐 아니라 그래픽D램(GDDR7), 저전력 D램(LPDDR5X) 등 다른 고성능 메모리 반도체를 AI 데이터센터용으로 개발해 납품하고 있다. 삼성과 SK는 점점 더 커지는 데이터센터 저장용량을 충족하기 위해 128테라바이트(TB) 규모 솔리드스테이트드라이브(SSD)를 공급하고 있다.

이번 계약으로 ‘메모리 슈퍼사이클’ 전망도 힘을 받게 됐다.

황정수/박의명/김진원 기자 hjs@hankyung.com