한국 반도체, CAPEX 경쟁의 시대는 끝났는가 [인사이트 칼럼]

김창욱 BCG 코리아 MD 파트너

김창욱 BCG MD 파트너

최근 반도체 산업의 호황은 과거와 성격이 다르다. 생성형 인공지능(AI) 확산 이후, 반도체 수요의 중심은 스마트폰과 PC 등 소비자 제품에서 AI 데이터센터를 구축·운영하는 하이퍼 스케일러와 이를 활용하는 기업 수요로 빠르게 이동하고 있다. 이에 따라 반도체 수요는 단기 경기 변동에 따라 급격히 흔들리기보다는, 보다 견고한 성장 기반을 형성하는 방향으로 변화하고 있다.

이러한 변화 속에서 메모리 반도체의 역할에 대한 해석도 달라질 필요가 있다. AI 시대의 최대 수혜는 그래픽처리장치(GPU)와 같은 시스템 반도체가 가져가고, 메모리는 일시적 수요 증가 이후 다시 기존 사이클에 종속될 것이라는 시각이 여전히 존재한다. 그러나 AI의 구동 구조를 들여다보면 이러한 해석은 단순화된 측면이 있다.

AI는 학습과 추론이라는 두 단계로 작동한다. 학습 과정에서는 GPU가 주도적인 역할을 하지만, 추론 단계에서는 사고의 결과를 저장하고 반복적으로 불러오는 과정이 핵심이 되며, 이 과정에서 메모리의 중요성은 급격히 커진다. 고용량·고속 메모리는 더 이상 연산을 보조하는 부품이 아니라, AI 시스템의 성능과 확장성을 좌우하는 핵심 요소로 자리 잡고 있다. 엔비디아가 메모리 병목을 반복적으로 언급하며 한국 메모리 기업들과의 협력을 강조하는 배경도 여기에 있다.

사상 최대 CAPEX, 그리고 커지는 리스크

문제는 이러한 구조적 기회가 한국 메모리 기업들에 절대 가볍지만은 않다는 점이다. 주요 메모리 기업들의 연간 설비투자 규모는 이미 200억 달러를 넘어섰고, AI 수요 확대를 감안하면 추가적인 생산능력 확충도 불가피하다. 경기 용인과 평택을 중심으로 진행 중인 신규 팹 투자까지 고려하면, 향후 수년간 감당해야 할 투자 규모는 더욱 커질 수밖에 없다.

이 정도 규모의 투자는 단순한 성장 투자를 넘어선다. 2023~2024년 메모리 다운사이클에서 적자를 경험했던 기업들 입장에서는, 매년 확대되는 설비투자(CAPEX)가 성장 기회이자 동시에 기업의 재무 구조와 존속 가능성에까지 영향을 미칠 수 있는 결정으로 인식될 수밖에 없다. 특히 반도체 설비투자는 투자 결정과 실제 성과 회수 사이에 수년의 시차가 발생하는 구조라는 점에서, 기업이 감내해야 할 불확실성은 더욱 크다.

마이크론 미국 뉴욕주 신공장 조감도 / 마이크론 제공

더 큰 부담은 글로벌 경쟁 환경에서 발생한다. 미국과 일본, 유럽은 반도체 설비투자에 대해 투자금의 33~50%를 직접 보조금 형태로 지원하고 있다. 반면 한국은 세액공제 중심의 지원 구조를 유지하고 있어, 기업이 먼저 대규모 투자를 감내한 뒤 수년이 지나 이익이 발생했을 때 혜택을 받는 방식이다. 이에 따라 한국 메모리 기업들은 동일한 투자를 하더라도 상대적으로 더 큰 재무적 부담을 안고 경쟁에 나서야 하는 구조에 놓여 있다.

CAPEX 이후의 경쟁, 생산성과 실행 역량

BCG와 미국반도체산업협회(SIA)가 공동으로 발표한 ‘2025 미국 반도체 산업 현황 보고서(2025 State of the U.S. Semiconductor Industry)’에 따르면, 반도체 산업은 이미 대규모 설비투자가 상시화된 국면에 진입했다. 설비투자 규모 자체로 차별화를 만들기 어려운 환경에서, 경쟁의 초점은 점차 운영 효율과 실행 역량으로 이동하고 있다는 진단이다.

삼성전자 평택캠퍼스 4공장 건설 현장

이제 한국 반도체 산업이 던져야 할 질문도 달라져야 한다. '얼마나 더 투자할 수 있는지'가 아니라, '동일한 투자로 얼마나 높은 생산성과 수익성을 만들어낼 수 있는가'다. 과거처럼 사이클 변동성이 극심했던 시기에는 수요 예측이 어려웠고, 이에 따라 생산의 유연성을 확보하는 것이 효율화의 핵심이었다. 그러나 기업 수요가 주도하는 구조가 자리 잡으면서, 수요 예측을 고도화하고 이를 기반으로 생산 효율을 높일 여지도 커지고 있다.

여기에 여러 지역에 걸쳐 서로 다른 세대의 팹을 동시에 운영해야 하는 환경도 본격화되고 있다. 팹 간 생산성 편차와 운영 복잡도를 어떻게 줄일지, AI 기술을 어떻게 접목해 실질적인 효과를 낼지가 중요한 과제가 되는 것이다.

SK하이닉스 용인 반도체 클러스터 건설 현장

한동안 호황이 예상되는 상황 속, 수익성에 여유가 생긴 지금이야말로 운영 체계를 객관적으로 돌아볼 적기일 수 있다. 생산성 개선은 단순히 생산량을 늘리는 문제가 아니라, 동일한 CAPEX로 더 많은 산출을 만들어내고 복잡해진 운영 환경에서도 실행력을 유지하는 차원에서 접근해야 한다.

기업과 정부, 역할 분담이 필요하다

물론 모든 숙제를 기업에만 맡길 수는 없다. 글로벌 경쟁 환경을 고려할 때, 정부 역시 투자 리스크를 분산할 수 있는 다양한 정책적 선택지를 검토해야 한다. 직접 보조금이 부담스럽다면, 지역 경제 활성화 등 특정 조건을 충족하는 경우 CAPEX를 지원하거나, 정부가 장비를 구매해 임대하는 방식 등의 대안도 고려해볼 필요가 있다.

AI 호황은 한국 반도체 산업에 분명한 기회를 제공하고 있다. 그러나 CAPEX 경쟁만으로는 그 기회를 지속할 수 있는 경쟁력으로 만들기 어렵다. 투자 이후의 시대, 한국 반도체의 성패는 얼마나 더 투자했는지가 아니라, 동일한 CAPEX로 얼마나 높은 생산성과 수익성을 만들어낼 수 있느냐에서 갈릴 것이다.