이미지=업스테이지 제공
이미지=업스테이지 제공
국산 인공지능(AI) 반도체, 거대언어모델(LLM), 포털 서비스가 하나로 연결된다. 업스테이지·포털 다음 운영사 AXZ·퓨리오사AI가 인프라부터 모델, 실제 이용자가 쓰는 검색 기능까지 국내 기술로 구축한 풀스택 소버린 AI 상용화에 나섰다.

업스테이지는 15일 AXZ·퓨리오사AI와 협력해 포털 다음의 'AI 요약' 서비스를 국산 AI 기술로 구동한다고 밝혔다.

이 서비스에는 퓨리오사AI의 신경망처리장치(NPU) '레니게이드(RNGD)'와 업스테이지의 LLM '솔라'가 적용된다. 다음 검색 결과를 요약하는 과정에 필요한 반도체, AI 모델, 이용자 서비스가 모두 국내 기업 기술로 구성된 것이다.

3사는 이를 국내 첫 풀스택 소버린 AI 상용화 사례로 소개했다. 해외 빅테크의 그래픽처리장치(GPU)나 범용 LLM에 의존하지 않고 국내 기업이 개발한 반도체와 모델을 실제 대규모 서비스에 적용했다는 점을 강조했다.

김성훈 업스테이지 대표, 이건수 AXZ 대표, 백준호 퓨리오사AI 대표는 이날 경기 성남시 판교 AXZ 사옥에서 만나 각사의 기술 적용 현황과 향후 협력 계획을 공개했다.

이 대표는 "다음 AI 요약은 LLM이 웹 문서를 직접 분석해 검색 결과에 대한 종합적인 답변을 정리해주는 기능"이라며 "다음 검색창에 키워드를 입력하면 핵심 요약과 근거를 함께 제공하며 내용이 바뀌면 AI가 자동 반영해 늘 최신 정보를 확인할 수 있다"고 설명했다.

AXZ는 AI가 사실과 다른 내용을 만들어내는 환각 현상을 줄이기 위해 검색 시스템도 손질했다. 키워드 검색과 벡터 기반 검색을 결합해 솔라에 최신 자료를 제공하고 답변 생성 과정 전반을 조정하는 하네스 엔지니어링을 고도화했다.

이 대표는 "LLM의 고질적인 환각(할루시네이션)을 제어하기 위해 정확한 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화했다"며 "키워드 검색과 벡터 기반 서치를 조합한 하이브리드 서치를 이용해 솔라 LLM에게 가장 관련성 높은 최신 정보를 전달하고 있다"고 말했다.

퓨리오사AI의 레니게이드는 AI 요약 처리에 필요한 연산을 맡는다. 현재 3개 노드로 하루 5억개 토큰을 처리하고 있다. 퓨리오사AI는 모델을 칩에 효율적으로 배치하는 컴파일러와 추론용 서빙 엔진을 자체 설계해 엔비디아 H200과 대등한 성능을 확보했다고 설명했다.

백 대표는 "AI 요약 처리를 위해 3개 노드로 하루 5억개의 토큰을 처리하고 있다"며 "AI 모델을 가속기에 잘 매핑할 수 있는 컴파일러와 최적의 서빙을 위한 엔진 개발 등 하드웨어·소프트웨어를 원천 설계로 구성해 H200와 대등한 성능을 내고 있다"고 설명했다.

퓨리오사AI는 레니게이드를 도입할 경우 추론 비용을 50% 이상 줄일 수 있다고 봤다. 백 대표는 "국산 NPU는 토큰 비용을 획기적으로 절감할 수 있고 GPU보다 전성비(전력 대비 성능)와 가성비가 높다"며 "국제정세를 고려했을 때 전략적 관점에서도 소버린 AI 반도체와 모델, 서비스의 결합이 필요하다"고 말했다.
김성훈 업스테이지 대표(왼쪽부터), 백준호 퓨리오사AI 대표, 이건수 AXZ 대표. 사진=업스테이지 제공
김성훈 업스테이지 대표(왼쪽부터), 백준호 퓨리오사AI 대표, 이건수 AXZ 대표. 사진=업스테이지 제공
다음은 현재 전체 검색 질의의 약 20%를 AI 요약으로 처리하고 있다. 향후 적용 비중을 늘리고 쇼핑·맛집 검색 등 분야별 서비스로 확장할 계획이다. 이용자 개인에게 맞춘 '1인 1에이전트'도 준비 중이다.

이 대표는 "현재 베타 서비스 중인 AI 요약은 전체 질의 규모의 20% 정도를 처리하고 있지만 점진적으로 늘려갈 계획"이라며 "단순 요약을 넘어 쇼핑, 맛집 검색 등 버티컬로 확장하고 다음을 통해 사용자에게 특화된 '1인 1에이전트'를 보급할 준비도 하고 있다"고 했다.

업스테이지는 솔라의 한국어 성능과 자체 소형 모델 설계 역량을 앞세워 국산 LLM 경쟁력을 높일 방침이다. 김 대표는 "해외 빅테크 모델에 맞설 수 있는 국산 LLM 성능을 더욱 고도화해 나가겠다"고 말했다.

AI 모델 확대에 필요한 칩 공급 계획도 공개됐다. 김 대표가 "임베딩 모델도 올리고 싶은데 칩 확보가 어렵다"고 하자 백 대표는 "이미 양산에 성공적으로 돌입한 레니게이드는 연내 1만장까지 충분히 공급 가능하다"고 답했다.

3사는 이번 협력을 시작으로 AI 검색과 에이전트 분야에서 국산 기술 적용을 확대할 계획이다. 업스테이지는 차세대 모델을, 퓨리오사AI는 후속 AI 반도체를 개발하고 AXZ는 다음 검색 서비스의 AI 적용 범위를 넓힌다.

김대영 한경닷컴 기자 kdy@hankyung.com