“온디바이스 인공지능(AI)에 최적화된 신경망처리장치(NPU) 도입이 가속화하고 있다.”(박용인 삼성전자 시스템LSI사업부장)

“AI 노트북의 확산은 산업의 변곡점이 될 것.”(팻 겔싱어 인텔 최고경영자)

최근 스마트폰, 자율주행차 등 개인용 기기에서 자체적으로 작동하는 AI를 뜻하는 ‘온디바이스 AI’가 생성형 AI에 필적하는 메가트렌드로 떠오르고 있다. 대형 서버를 통해 구현되는 챗GPT 등에 비해 비용이 적게 들고 개인 맞춤형 서비스를 제공할 수 있어서다. 삼성전자, 퀄컴 등 반도체 기업들은 온디바이스 AI 서비스를 지원하는 반도체를 잇달아 출시하며 시장 선점을 위한 경쟁을 벌이고 있다.
노트북·폰도 AI 시대…삼성-퀄컴 각축전

“2026년 AI 적용 노트북 비중 50%”

6일 업계에 따르면 글로벌 정보기술(IT)·가전 기업들이 온디바이스 AI를 적용한 기기의 내년 출시를 공식화하고 있다. 온디바이스 AI는 스마트폰, 노트북, 자율주행차, 확장현실(XR) 헤드셋 등 소비자가 직접 활용하는 기기에서 구현되는 AI다. 예컨대 제품 콘셉트를 글로 입력하면 디자인을 해주는 앱이 인터넷 연결 없이도 PC에서 자체적으로 실행되는 식이다.

삼성전자가 적극적으로 움직이고 있다. 내년 1월 공개 예정인 프리미엄 스마트폰 갤럭시S24 시리즈에 텍스트를 이미지로 바꿔주는 기능을 담은 온디바이스 AI가 적용될 전망이다. 노트북과 관련해서도 주요 기업들이 온디바이스 AI 기능을 적용한 신제품을 준비 중이다. 시장조사업체 카운터포인트리서치는 2026년 온디바이스 AI 적용 노트북 비중이 전체 노트북의 50%에 달할 것이란 전망을 내놨다.

온디바이스 AI가 큰 관심을 받는 건 챗GPT 등 대형 서버와 클라우드를 통해 서비스되는 AI 모델의 천문학적인 유지비와 과도한 전력 소모, 낮은 보안성 등에 대한 지적이 나오고 있어서다. 개인 기기에서 AI를 가동하면 전력이 적게 들고 서버 구입비 등을 절감할 수 있는 이점이 있다.

“반도체 칩 가격 연 10%씩 오를 것”

블룸버그 등 외신에 따르면 애플, 삼성전자 등은 스마트폰의 온디바이스 AI 기능을 구독 서비스 형태로 제공하는 방안을 추진 중이다.

다니엘 아라우조 삼성전자 모바일경험(MX)사업부 부사장은 최근 실적설명회에서 “고객들이 매일 사용하는 스마트폰의 핵심 기능에 생성 AI 기술을 적용할 예정”이라고 말했다. 기업들은 클라우드에서 구현되는 초거대 AI와 온디바이스 AI를 동시에 활용하는 ‘하이브리드 AI’ 구현도 추진 중인 것으로 알려졌다.

반도체 기업들의 움직임도 빨라지고 있다. 온디바이스 AI 구현에 NPU가 필수적이기 때문이다. 최근 삼성전자, 퀄컴 등은 NPU와 다른 칩들을 모은 ‘통합칩셋’ 형태로 온디바이스 AI를 지원하는 스마트폰용 반도체를 출시하고 있다. PC용 칩을 개발하는 인텔, AMD, 애플도 최근 온디바이스 AI를 지원하는 노트북용 칩을 공개했다.

크리스티아누 아몽 퀄컴 최고경영자는 최근 “온디바이스에서 구현되는 생성 AI의 영향으로 반도체 칩의 평균 판매가격(ASP)이 수년간 연 10%씩 오를 것”이라고 말했다.

황정수 기자 hjs@hankyung.com