AI 가속 솔루션 적용으로 처리 용량 5배 증가
5G 시대 AI 사용자 증가 예상 고려해 개발
글로벌 AI 칩셋 시장 규모도 확장중
보안 등 AI 다방면 분야에 활용 가능
정무경 SK텔레콤 ML인프라랩 팀장이 21일 오전 포럼에서 SK텔레콤이 개발한 AI 가속솔루션을 소개하고 있다./사진=SK텔레콤

정무경 SK텔레콤 ML인프라랩 팀장이 21일 오전 포럼에서 SK텔레콤이 개발한 AI 가속솔루션을 소개하고 있다./사진=SK텔레콤

SK텔레콤(176,000 -0.28%)이 AI(인공지능) 서비스 처리 속도를 20배 가량 높이는 가속 솔루션을 개발해 자사 AI인 '누구'에 첫 적용한다. 서비스 처리 속도가 높아진 것은 가속 솔루션을 적용해 AI 누구의 서비스 용량이 기존 대비 5배 늘어나서다.

정무경 SK텔레콤 ML인프라랩 팀장은 21일 오전 열린 포럼에서 "자사의 AI 인프라 효율성을 극대화하기 위해 개발했다"고 강조했다.

SK텔레콤이 개발한 AI 가속 솔루션은 손바닥 크기의 소형 카드 형태 가속기에 탑재된다. 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라진다.

SK텔레콤이 개발한 AI 가속 솔루션을 활용하면 별도 서버 증설 없이 AI 전체 서비스 용량을 기존 대비 약 5배 늘리는 효과를 기대할 수 있다. GPU(그래픽처리장치) 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나 데이터센터 운용비 절감도 가능하다.

SK텔레콤은 5G(5세대 이동통신) 시대의 AI 사용자 증가를 고려해 이같은 솔루션을 개발하게 됐다고 설명했다. SK텔레콤의 AI 서비스 누구의 월간 실 사용자 수가 급증한 것도 이유가 됐다. 누구는 올해 1분기 기준 월간 실 사용자 수가 300만명을 돌파했다.
정무경 SK텔레콤 ML 인프라랩 팀장이 SK텔레콤이 개발한 AI 가속기를 소개하고 있다./사진=SK텔레콤

정무경 SK텔레콤 ML 인프라랩 팀장이 SK텔레콤이 개발한 AI 가속기를 소개하고 있다./사진=SK텔레콤

정 팀장은 해당 기술을 개발하게 된 이유에 대해 "5G 시대가 오면 속도가 빨라지는 만큼 더 많은 데이터를 인프라에서 처리해야 한다"며 "AI 서비스가 복잡해질 것을 고려했을 때, 현재 시스템에서 처리하면 고품질의 서비스를 하기가 힘들다"고 말했다.

SK텔레콤은 약 2년 간의 연구개발 끝에 AI 가속 솔루션을 개발하고 상용화하는 데 성공했다. SK텔레콤은 자체 기술만으로 ▲하드웨어 및 소프트웨어 설계 ▲솔루션 최적화 ▲상용 클라우드 서비스 적용 등을 완료했다.

미국 시장조사업체 트랙티카가 지난 3월 발표한 보고서에 따르면 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억 달러에 이를 것으로 예상된다. 엔비디아, 구글, 마이크로소프트 등 글로벌 기업들도 AI 가속 솔루션 개발 및 상용화에 적극 나서고 있다.

AI 가속기가 활용될 수 있는 분야는 다양하다. 예를 들어 AI 비서 서비스용 서버에 솔루션을 적용하면 응답시간이 빨라지며 보다 많은 고객들을 동시에 응대 할 수 있다. CC(폐쇄회로)TV 등 보안 서비스 영역에서도 더 많은 영상을 정확히 분석할 수 있다.

정 팀장은 AI 부문의 계획에 대해 "투자 인수는 SK텔레콤이 다방면으로 찾고 있다"며 "저희가 부족한 부분이나 잘하는 부분을 채워줄 수 있는 회사를 중심으로 보고 있다"고 언급했다.

최수진 한경닷컴 기자 naive@hankyung.com

ⓒ 한경닷컴, 무단전재 및 재배포 금지