15일(현지시간) 미국 캘리포니아주 새너제이에서 열린 '2026 OCP 글로벌 서밋'에서 전시된 CXL 기반 메모리 확장 기술 관련 장비. AMD 중앙처리장치(CPU)와 그래픽처리장치(GPU) 옆에 CMM-D를 부착해 AI에이전트 사용에 필요한 메모리를 추가로 공급한다. /사진=김인엽 특파원
15일(현지시간) 미국 캘리포니아주 새너제이에서 열린 '2026 OCP 글로벌 서밋'에서 전시된 CXL 기반 메모리 확장 기술 관련 장비. AMD 중앙처리장치(CPU)와 그래픽처리장치(GPU) 옆에 CMM-D를 부착해 AI에이전트 사용에 필요한 메모리를 추가로 공급한다. /사진=김인엽 특파원
인공지능(AI) 에이전트 시대를 맞아 삼성전자의 메모리 기술이 다시 주목받고 있다. AI가 단순한 질문·답변을 넘어 복잡한 업무를 수행하면서 방대한 데이터를 저장하고 처리하는 메모리의 중요성이 커지고 있어서다. 삼성전자가 미국 반도체 기업 AMD와 협업한 메모리 확장 기술을 공개한 현장에 이를 확인하려는 관람객의 발길이 이어졌다.

삼성전자는 지난 12~15일(현지시간) 미국 캘리포니아주 새너제이 컨벤션센터에서 열린 '2026 오픈컴퓨트프로젝트(OCP) 글로벌 서밋'에서 전시 부스 방문객이 지난해보다 3배 이상 증가했다고 밝혔다. 삼성전자는 지난해에 이어 최고 등급인 다이아몬드 스폰서로 참가해 행사장 내 최대 규모의 전시 공간을 마련했다.

가장 관심을 모은 기술 중 하나는 삼성전자와 AMD가 협업한 컴퓨트익스프레스링크(CXL) 기반 메모리 확장 솔루션이었다. CXL은 중앙처리장치(CPU)와 메모리 등 반도체를 고속으로 연결하는 기술이다. 기존 서버에 탑재할 수 있는 메모리 용량의 한계를 극복하고 필요에 따라 메모리 자원을 확장할 수 있다는 것이 특징이다.
미국 새너제이에서 15일(열린) 오픈컴퓨팅프로젝트 글로벌서밋 행사장에서 관람객들이 삼성전자 부스를 보고 있다. /사진=김인엽 특파원
미국 새너제이에서 15일(열린) 오픈컴퓨팅프로젝트 글로벌서밋 행사장에서 관람객들이 삼성전자 부스를 보고 있다. /사진=김인엽 특파원
AI 에이전트가 확산할수록 메모리 용량을 늘리는 기술의 중요성은 커진다. 기존 챗봇과 달리 AI 에이전트는 여러 단계의 작업을 수행하고 이전 대화 내용을 기억해야 한다. 동시에 접속하는 사용자가 많아질수록 처리해야 할 데이터도 급증한다. 연산을 담당하는 그래픽처리장치(GPU)의 성능이 아무리 뛰어나더라도 메모리 용량이 부족하면 AI 서비스 속도가 떨어질 수밖에 없다.

삼성전자와 AMD는 이번 시연에서 CXL 기술을 활용해 메모리 용량을 유연하게 늘리고, AI 작업량이 증가하는 상황에서도 더 많은 사용자를 동시에 지원할 수 있다는 가능성을 제시했다. AI 반도체 경쟁이 연산 속도뿐 아니라 메모리 용량과 활용 효율을 높이는 방향으로 확장되고 있다는 의미다.

삼성전자는 올해 전시 공간을 '토큰화 솔루션'과 'KV 캐시 솔루션' 등 두 개 구역으로 나눴다. 토큰화 솔루션 구역에서는 차세대 고대역폭메모리인 HBM4E와 HBM5, 고객 요구에 맞춰 설계하는 맞춤형 HBM 콘셉트 제품 등을 공개했다. 메모리 내부에서 일부 연산을 처리해 전력 소모를 줄이는 LPDDR5X-PIM 기술도 선보였다.

KV 캐시 솔루션 구역에는 CXL 메모리와 기업용 솔리드스테이트드라이브(SSD)를 전면에 배치했다. KV 캐시는 AI가 이전에 처리한 정보를 재활용하기 위해 연산 결과 일부를 저장하는 기술이다. AI 에이전트가 여러 업무를 동시에 수행하거나 장시간 대화를 이어갈수록 KV 캐시에 필요한 메모리와 저장 공간이 늘어난다. 삼성전자는 SSD와 CXL 메모리를 활용해 이러한 데이터를 효율적으로 관리하는 방안을 제시했다.
삼성전자 파운드리가 생산하는 엔비디아 그록3 LPU가 탑재된 엔비디아 그록3 LPX 컴퓨트 트레이. /사진=김인엽 특파원
삼성전자 파운드리가 생산하는 엔비디아 그록3 LPU가 탑재된 엔비디아 그록3 LPX 컴퓨트 트레이. /사진=김인엽 특파원
메모리뿐 아니라 반도체 위탁생산(파운드리) 기술도 관람객의 눈길을 끌었다. 삼성전자는 엔비디아의 차세대 AI 추론용 반도체 'Groq 3 LPU' 웨이퍼와 LPX 시스템, 2나노미터(㎚·1㎚는 10억분의 1m) 게이트올어라운드(GAA) 공정 웨이퍼를 전시했다. 메모리에서 첨단 파운드리에 이르기까지 AI 인프라 전반에 걸친 기술력을 강조한 것이다.

업계에서는 AI 에이전트의 확산이 메모리 시장의 새로운 성장 동력이 될 것으로 보고 있다. AI 모델의 학습 속도를 높이는 HBM뿐 아니라 추론 과정에서 발생하는 데이터를 저장하고 관리하는 D램과 SSD의 중요성도 커지고 있기 때문이다. 삼성전자 역시 HBM 중심의 AI 메모리 경쟁을 넘어 데이터센터 전체의 메모리 수요를 공략하는 전략을 강화하고 있다.

실리콘밸리=김인엽 특파원 inside@hankyung.com