LG유플러스가 내년부터 인공지능(AI) 모델과 반도체 조합을 최적화해 기업의 AI 운영 비용을 낮추는 사업에 뛰어든다. KT와 SK텔레콤에 이어 LG유플러스까지 사업 진출을 공식화하면서 통신 3사의 ‘AI 최적화 서비스’ 경쟁이 달아오르고 있다.
LG유플러스는 지난 12일 설명회를 열고 자사의 AI 토큰 최적화 기술을 활용한 B2B(기업 간 거래) 사업을 시작할 계획이라고 밝혔다. 토큰은 AI가 질문을 이해하고 답변을 생성할 때 사용하는 데이터 처리 단위다. 기업이 AI를 이용할 때 일반적으로 토큰 사용량에 따라 비용이 발생한다. 하지만 자사 최적화 기술을 활용하면 이 비용을 낮출 수 있다는 게 LG유플러스의 구상이다.
AI 모델 선택부터 답변 생성, 반도체 운영까지 전 과정을 최적화하는 기술이 핵심이다. 간단한 질문은 비교적 작은 모델에 맡겨 비용을 아끼고 복잡한 분석이나 추론이 필요할 때만 고성능 모델을 활용하는 식이다. AI 에이전트가 불필요한 검색과 검증을 반복하지 않도록 작업 경로를 설계하는 기술도 개발하고 있다. 반도체를 작업 특성에 맞춰 조합하는 ‘칩 믹스’ 전략도 추진한다.
기술 검증에서 비용 절감 효과도 확인했다. LG유플러스는 코딩 영역에서 통상적으로 사용하는 모델 대신 자체 AI 모델을 활용해 운영 비용을 약 90% 줄인 사례를 공개했다. 질문에 적합한 모델을 배정하는 기술로 일반 질문 비용도 25% 이상 절감했다.
LG유플러스에 앞서 SK텔레콤과 KT도 토큰 최적화 사업 진출 계획을 밝힌 바 있다. 비용을 낮추면서도 원하는 결과를 얻는 AI 효율성에 기업들의 초점이 맞춰지고 있어서다.