엔비디아 블랙웰 기반의 AI 데이터센터용 랙. 엔비디아 제공
엔비디아 블랙웰 기반의 AI 데이터센터용 랙. 엔비디아 제공
인공지능(AI) 반도체 업계에서 소프트웨어를 둘러싼 경쟁이 본격화하고 있다. ‘풀스택’ 소프트웨어로 시장을 장악한 선두 엔비디아는 칩을 넘어 AI 데이터센터 전체를 조율하는 운영 소프트웨어 회사까지 손에 넣으며 도약했다. 엔비디아를 쫓아가고 있는 국내 토종 AI 반도체 업체들은 개발자들이 쉽게 쓸 수 있는 소프트웨어 고도화에 주력하고 있다. 업계 관계자는 “개발자가 얼마나 쉽게 칩을 쓸 수 있느냐를 넘어 랙 스케일 이상에서 서버 간 유기적 연결을 지원하는 것이 AI 반도체 회사의 경쟁력”이라며 “국내 업체들도 하드웨어를 넘어 소프트웨어 전략의 범위를 넓히고 있다”고 말했다.

◇ 엔비디아 ‘슬럼’ 개발 업체 인수

AI 반도체업계 '칩 개발 소프트웨어' 경쟁
22일 업계에 따르면 엔비디아는 최근 스케드엠디를 인수했다. 스케드엠디는 슬럼(Slurm)이라는 소프트웨어를 개발한 기업이다. 슬럼은 AI 데이터센터에서 일어나는 연산 작업을 관리하는 소프트웨어다. 수천~수만 개의 그래픽처리장치(GPU)가 동시에 돌아가는 환경에서 △어떤 작업을 먼저 처리할지 △어떤 서버에 얼마만큼의 연산 자원을 배정할지를 결정하는 역할이다. AI 훈련과 추론에서 데이터 작업이 한꺼번에 몰리는 상황에서도 자원이 충돌하지 않도록 조율하는 ‘교통정리 시스템’인 셈이다.

엔비디아는 이미 10년 이상 스케드엠디와 협력했다. 그럼에도 이 회사를 인수한 건 AI 반도체를 넘어 데이터센터 전체로 영향력을 넓히겠다는 전략으로 분석된다.

AI 반도체업계 '칩 개발 소프트웨어' 경쟁
이미 엔비디아는 쿠다(CUDA)를 중심으로 텐서RT, 네모(NeMo) 등 GPU의 효율성을 올릴 수 있는 풀스택 소프트웨어를 갖추고 있다. 이번 인수로 AI 데이터센터 전체를 운영·조율하는 단계까지 확장했다. 경쟁 반도체 회사들과 격차를 벌리려는 전략이다.

아울러 스케드엠디의 슬럼은 오픈소스 형태로 유지한다. AI를 개발하는 사람이라면 누구나 이 프로그램을 자유롭게 활용할 수 있다는 뜻이다. 대니 오블 스케드엠디 최고경영자(CEO)는 “컴퓨팅 분야에 대한 엔비디아의 전문성과 투자 결정은 슬럼을 한층 강화해 차세대 AI·슈퍼컴퓨팅 업계의 요구를 충족시키는 데 기여할 것”이라고 말했다.

◇ NPU 회사들도 소프트웨어 개발

엔비디아가 한발 더 앞서나가면서 후발주자인 국내 인공신경망처리장치(NPU) 업체들도 최적화 소프트웨어를 구축하기 위해 분주한 모습이다. 토종 AI 서버용 반도체 회사 리벨리온은 ‘RAISE’라는 자체 소프트웨어 개발에 속도를 내고 있다. RAISE는 NPU를 고객사인 AI 서버 회사들이 곧바로 활용할 수 있도록 하는 소프트웨어 플랫폼이다. 이 플랫폼은 파이토치, vLLM 등 기존 AI 개발 도구가 리벨리온 칩에서 잘 작동하도록 연결해주는 역할을 한다.

이를 위해 리벨리온은 글로벌 소프트웨어 회사 레드햇과 협력하고 있다. 레드햇은 1990년대 리눅스라는 오픈소스 생태계를 주도했다. 리벨리온은 ‘레드햇 오픈시프트 AI’라는 플랫폼을 통해 풀스택 AI 추론 솔루션을 제공한다. 박성현 리벨리온 CEO는 “GPU 중심의 AI 서버 환경을 넘어 NPU 기반 추론 인프라의 새로운 대안을 제시할 것”이라고 말했다.

국내 AI 반도체 회사 하이퍼엑셀도 풀스택 소프트웨어를 개발하고 있다. 하이퍼엑셀은 AI 추론 모델에 특화한 LPU(LLM 프로세싱 유닛)를 개발하는 스타트업이다. eDSL이라는 전용 개발 언어를 만들고 있다. LPU의 계산 기능을 직접 설계하고 연산 능력을 극대화하는 AI 언어다. 또 파이토치, vLLM 같은 오픈소스로 공개된 AI 개발 도구를 LPU에서 그대로 사용할 수 있도록 하는 중간 실행 소프트웨어인 ‘하이퍼덱스 SDK’를 개발 중이다.

이진원 하이퍼엑셀 최고기술책임자(CTO)는 “완전한 독자 생태계를 조성하기보다 기존 오픈소스가 LPU에서 최대 성능을 발휘할 수 있는 솔루션을 구축하고 있다”며 “중국 딥시크 출현 이후 AI 최적화 수요가 급증하고 있다”고 했다.

강해령 기자

▶ 풀스택 소프트웨어

반도체의 연산 최적화부터 데이터센터 운영까지 아우르는 칩 개발 소프트웨어 체계. 풀스택 소프트웨어를 고도화할수록 AI 개발자는 칩을 편리하게 활용하면서 기능을 극대화할 수 있다.