LLM이어 산업현장까지…GPU 대신 NPU로 AI 국산화 나선다

기업들 국산 NPU 적용에 속도

GPU보다 싸고 고효율·저전력
SK텔레콤·코오롱베니트 등
리벨리온의 NPU 사용 활발

포스코, 화재·침입 모니터링에
국산 NPU 기반 AI모델 적용

"엔비디아 독점 상황에서
AI자립·기술주권 확보 기대"

포스코DX의 AI연구원이 NPU기반의 객체인식 모델을 테스트하고 있다. /포스코DX 제공

국내 산업계에 신경망처리장치(NPU) 열풍이 불고 있다. 가격이 바싸고 수급이 어려운 엔비디아의 그래픽처리장치(GPU) 대신 쓰일 수 있는 ‘훌륭한 대체재’라는 평가를 받으면서다. NPU는 딥러닝과 같은 인공신경망 연산에 최적화된 인공지능(AI) 특화 반도체로 불린다.

업계에 따르면 현재 활발히 사용되고 있는 엔비디아의 GPU는 컴퓨터 그래픽 처리에 맞춰 개발되어 인공지능(AI) 연산에 적용했을 때 전력 효율이 떨어진다는 한계가 존재한다. 여기에 글로벌 GPU 수급 경쟁까지 심화되며 구하기 어려운데다 가격이 비싸다는 단점도 있다. 이를 보완하기 위해 국내 산업계가 눈을 돌린 곳이 NPU다. GPU와 비교해 비용 절감 효과를 볼 수 있고 고효율·저전력이라는 장점을 가지고 있어서다.

이러한 이점에 기업들도 속속 국산 NPU를 적용하고 나섰다. 자체 거대언어모델(LLM) 개발에 NPU를 적용하는 방식이 가장 활발히 이뤄지고 있다. SK텔레콤은 AI 반도체 에이닷 등 자사 주요 AI 서비스에 리벨리온의 NPU를 적용하기 위한 테스트를 진행했다. 코오롱베니트도 리벨리온의 NPU ‘아톰’과 LG AI연구원의 LLM ‘엑사원’을 적용해 AI 관제 솔루션을 출시했다.

이 가운데 최근 산업현장과 NPU의 결합도 현실화됐다.포스코그룹이 자사 산업현장에 국산 NPU 기반 AI모델을 적용하면서다. 포스코그룹은 그룹 내 시스템통합(SI)계열사인 포스코DX를 통해 산업현장 화재·침입 모니터링 AI모델을 개발하는 데 NPU를 사용했다고 밝혔다. AI 반도체 스타트업 딥엑스의 NPU가 AI 모델에 사용된 것으로 알려졌다. 포스코DX가 개발한 AI 모델은 산업현장의 주요 위험요소로 꼽히는 불꽃·연기 및 침입자 감지 기능을 수행하게 된다.

포스코DX와 딥엑스는 2023년 산업현장에 적용 가능한 ‘엣지 AI솔루션’ 기술 개발을 위한 업무협약을 체결하고 NPU 개발을 공동으로 추진했다. 엣지 AI는 원거리 데이터센터가 아닌 데이터와 인접한 현장에서 실시간 AI 연산이 이루어질 수 있게 만드는 기술이다. 포스코DX는 “딥엑스의 NPU 개발 초기부터 참여했다”며 “NPU가 실제 산업현장의 AI모델에 최적화될 수 있도록 기능 개선 및 안정성 향상 역할을 하고 있다”고 밝혔다.

포스코DX는 이번 화재·침입 모니터링 AI모델 개발에 NPU를 활용하는 것을 시작으로 엣지 AI기술을 확대할 계획이라고 밝혔다. 기존 GPU 기반 AI 시스템을 NPU로 대체할 계획도 내놨다. 포스코DX 관계자는 “추후 제철소와 인천공항 수하물처리시스템(BHS) 등 산업현장 AI 추론 서비스에 NPU 적용을 확대해 나갈 것”이라고 밝혔다.

실제 국산 NPU를 기반으로 AI 모델을 개발하는 기업들의 사례도 늘어나고 있다.

고효율·저전력 기반의 국산 AI 반도체를 사용한 뒤 효율적이고 빠른 실시간 추론이 가능해졌다는 게 업계의 반응이다. 실제 포스코DX도 하드웨어와 비용과 전력 소모량을 줄이는 효과를 체험했다. 포스코DX에 따르면 이번에 개발한 화재·침입 모니터링 AI모델에 NPU를 적용한 결과 기존 GPU와 동일한 수준의 실시간 AI 추론 속도를 내는 데 하드웨어 비용 70%, 전력 소모량 90%의 절감 효과를 보이고 있는 것으로 나타났다.

업계 관계자는 “엔비디아가 AI 반도체 시장을 사실상 독점하고 있는 상황이라 많은 국내 기업들이 GPU 수급과 가격 문제에 직면한 것이 사실”이라며 “국산 NPU 기반 AI모델을 지속적으로 개발하고 적용하게 되면 국가 AI 자립과 기술 주권 확보에도 기여할 것으로 기대하고 있다”고 밝혔다.

최지희 기자 mymasaki@hankyung.com