MS "업무용 챗봇에 한국어 넣었다…토큰 부담도 줄여"

30일 서울서 'MS AI 투어 서울' 개최
한셀만 부사장 "AI로 사업 성과 극대화"
"M365 코파일럿에 한국어 기능 추가"
한국어 토큰 수는 기존 대비 40%로 감소

30일 서울 서초구 양재동에 있는 aT센터에서 스콧 한셀만 마이크로소프트 개발자커뮤니티 부사장이 생성 인공지능(AI) 기반 챗봇에 대해 설명하고 있다. 이주현 기자

마이크로소프트(MS)가 기업용 앱인 M365 코파일럿에서 한국어를 지원하기 시작했다. 영어 대비 비용이 높았던 한국어 데이터 처리 문제도 개선했다.

MS는 30일 서울 서초구 양재동에 있는 aT센터에서 개발자 커뮤니티 행사인 ‘마이크로소프트 AI 투어 서울’을 열었다. MS는 올해 세계 14개 도시를 돌며 인공지능(AI) 개발자들을 위해 AI 상품 개발을 홍보하는 행사를 열고 있다. 키노드 세션을 이끈 스콧 한셀만 MS 개발자커뮤니티 부사장은 “AI는 기술 도구를 넘어서 조직 내 협업을 강화하고 사고 혁신을 촉진해 사업 성과를 극대화하는 역할을 하고 있다”며 “어떤 배경을 가진 개발자든 자신만의 창의적인 아이디어를 실현할 수 있는 AI 앱을 쉽게 만들 수 있다”고 말했다.

MS는 이번 행사에서 M365 코파일럿에서 한국어를 지원하겠다고 알렸다. M365 코파일럿은 기업의 업무를 도와주는 앱으로 지난해 12월 국내 출시됐다. MS의 챗봇인 코파일럿이 거대언어모델(LLM) 기반으로 다양한 질문에 답하는 범용 서비스라면 M365 코파일럿은 MS가 지원하는 오피스 프로그램에 챗봇이 AI 비서로 탑재된 형태다. 그간 M365 코파일럿의 국내 서비스는 영어로만 온전한 활용이 가능했다.

한국 시장에 맞춰 생성 AI 성능을 개선하고 있다는 점도 개발자들의 이목을 끌었다. MS에 따르면 오픈AI의 생성 AI 모델에서 한국어는 같은 내용을 표시하는 경우 영어 대비 토큰 수가 평균 2.36배 많다. 토큰은 AI가 연산에서 처리하게 되는 언어 단위다. 같은 내용의 데이터를 얼마나 적은 수의 토큰으로 처리하느냐는 비용 절감의 핵심이기도 하다. 그간 한국에서 LLM을 구축하던 기업들은 풍부한 한국어 학습을 통해 토큰 수를 줄일 수 있다는 점을 경쟁력으로 내세우곤 했다.

MS는 한국어에 쓰이는 토큰 수를 기존 대비 40% 수준으로 줄였다. GPT-3.5와 GPT-4에서 영어로 ‘Welcome everyone to Microsoft Ai Tour Seoul’을 처리하는 경우엔 토큰 7개가 쓰인다. 한국어로 ‘마이크로소프트 인공지능 서울 행사에 오신 여러분 환영합니다’를 처리할 땐 75개가 필요하다. MS는 이 문장의 토큰 사용 개수를 최근 30개까지 줄이는데 성공했다.

30일 서울 서초구 양재동에 있는 aT센터에서 마이크로소프트가 공개한 생성 인공지능(AI) 기술의 한국어 처리 현황. 이주현 기자

개발자의 생산성을 높여줄 AI 도구들도 함께 소개됐다. MS는 ‘깃허브 코파일럿’, ‘마이크로소프트 코파일럿 스튜디오’의 데모 등을 통한 AI 기술의 활용 방안에 대해 홍보했다. 고객사로는 LG전자와 SK이노베이션이 MS의 플랫폼 서비스(PaaS)인 ‘애저 오픈AI 서비스’를 활용해 앱을 개발한 사례를 알렸다.

MS는 오는 6월 25일까지 ‘AI 오디세이 이니셔티브’를 진행해 AI 부문 개발자들을 지원할 계획이다. 이 프로그램 참여자들은 MS 응용 기술 자격증을 취득해 이 분야 전문 개발자로서 자신의 경쟁력을 공고히 할 수 있다는 게 MS의 설명이다. MS는 서울시와 협업해 스타트업을 지원하는 ‘서울 AI 허브’ 사업도 하고 있다.

조원우 한국마이크로소프트 대표는 “AI는 전 세계 모든 산업의 중요한 변화를 앞당기고 있으며 그 중심엔 개발자들이 있다”며 “개발자들이 나온 미래를 설계할 수 있도록 전방위적인 지원을 아끼지 않겠다”고 했다.

이주현 기자 deep@hankyung.com