AI 추천 뉴스
KT '모두의 AI' 12월 출격…AI 운영비 최대 20% 낮춘다
이달 클로즈베타·11월 확대 거쳐 연말 정식 출시
토큰 팩토리로 질문별 최적 국산 AI 모델 선택
토큰 팩토리로 질문별 최적 국산 AI 모델 선택
KT는 7일 서울 삼성동 코엑스에서 ‘모두의 AI’ 간담회를 열고 이달 제한된 이용자를 대상으로 베타 서비스를 시작한다고 밝혔다. 11월에는 이용자와 서비스를 늘리고 12월 정식 서비스를 내놓는다. 웹사이트와 애플리케이션을 통해 제공할 예정이다.
하나의 대규모언어모델(LLM)에 의존하지 않는 것이 특징이다. 질문의 성격과 난이도에 따라 적합한 모델을 골라 쓰는 방식이다. 업스테이지 등 컨소시엄에 참여한 국내 AI 기업의 모델을 함께 활용한다.
KT의 토큰 팩토리가 이를 조율한다. 질문별로 최적 모델을 연결하고 불필요한 연산을 줄인다. 차경훈 KT 에이전틱 AI 플랫폼 팀장은 이날 “모델 라우팅과 추론 최적화 등 관련 기술을 종합하면 AI 운영 비용을 약 15~20% 절감할 수 있다”고 설명했다.
서비스 확장은 ‘이음 인사이드’를 활용한다. 모두의 AI 앱뿐 아니라 다음과 다나와 등 외부 서비스 안에서도 AI를 이용할 수 있도록 하는 게 핵심이다. 향후 더 많은 제휴사를 연결해 AI 에이전트 생태계를 넓힐 계획이다.
정식 서비스에서는 단순 질의응답을 넘어 실제 행동까지 연결한다. 여행지를 물으면 숙소를 찾고 예약과 일정 등록으로 이어주는 식이다. 지역 축제를 검색한 뒤 일정을 등록하고 알림을 받는 기능도 준비하고 있다.
라현진 기자 raraland@hankyung.com