KT "전세계 500개 AI 모델 한 곳에 모았다"
KT가 인공지능(AI) 시대에 화폐 단위로 쓰일 토큰을 이용한 사업을 시작한다. 500개 이상의 AI 모델을 모아놓은 플랫폼을 구축해 과금 체계를 마련한 것이다. 이용자는 챗GPT, 클로드 제미나이 등을 각 웹페이지와 앱이 아니라 한 곳에서 골라 쓰기만 하면 된다. 통신사업에서 쌓은 과금·보안 역량을 무기로 AI 플랫폼 시장을 선점하겠다는 목표로, 박윤영 대표가 취임 후 내놓은 ‘AX 플랫폼 컴퍼니’ 전략의 첫 결과물이다.

◇AI를 한 곳에서 저렴하게 이용

KT는 27일 서울 세종로 KT광화문빌딩에서 기자간담회를 열고 AI 플랫폼 ‘토큰팩토리’를 공개했다. 토큰팩토리는 하나의 응용프로그램인터페이스(API)로 국내외 AI 모델을 모두 제공하는 플랫폼으로, 이 같은 시도는 국내에서 처음이다. 이용자는 여러 AI 서비스를 개별적으로 구독할 필요 없이 하나의 플랫폼에서 모델 선택부터 사용량 확인, 비용 관리, 결제까지 처리할 수 있게 된다.

오는 30일 기업 고객을 대상으로 정식 출시한다. 73개 AI 모델을 제공하고 12월에는 글로벌 AI 모델 중개 플랫폼 오픈라우터와 연계해 500개 이상으로 확대한다. 내년 3월에는 개인 개발자와 일반 이용자에게도 서비스를 제공한다.
KT "전세계 500개 AI 모델 한 곳에 모았다"
KT가 자체 개발한 ‘오토모델라우터’를 통해 질문의 난이도와 요구 품질, 비용을 분석하는 방식을 쓴다. 간단한 요약·번역에는 경량 모델을, 복잡한 추론에는 고성능 모델을 배정해 5%의 비용을 아끼고, 입력 문장에서 불필요한 표현을 제거하는 압축 기술을 적용해 토큰 사용을 20% 줄인다. 예컨대 ‘다음 주 출장인데 월요일 오전에 서울에서 부산으로 가는 KTX 열차를 찾아줘’라는 질문을 ‘다음 주 월요일 오전 서울 부산 KTX’로 압축하는 식이다. 질문의 의미를 유지하면서 AI가 처리해야 할 토큰을 줄여 비용과 응답 시간을 낮춘다.

특히 AI 모델 7종은 국내 KT 데이터센터에서 구동한다. 업스테이지 ‘솔라 프로4’, KT ‘믿음 K3.0’, 모티프 ‘모티프3’ 등 국산 모델 3종과 지푸AI의 ‘GLM-5.3-플래시’, 구글 ‘젬마4-31B’ 등 해외 모델 4종이다. 이진형 KT AX사업본부장은 “해외 모델 제공사와 별도 계약을 맺고 국내 데이터센터에서 직접 추론 서비스를 제공하기로 했다”며 “데이터 처리를 국내에서 수행하면서 이용자의 보안과 프라이버시가 해외로 나가지 않고 온전하게 국내에 남게 된다”고 말했다. KT는 해당 모델 외에도 연내 국산 모델, 오픈웨이트 모델, 프론티어 모델 전부를 한곳에서 사용할 수 있도록 할 계획이다.

보안 장치인 가드레일도 적용했다. AI에 입력하는 질문의 개인정보·민감정보와 유해 표현을 점검하고 생성된 답변을 걸러내는 기술이다. 모델의 품질과 안전성을 평가해 라우팅 기준에도 반영한다.

◇KT “토큰이 신성장동력”

KT는 국내 통신3사 중 처음으로 토큰을 이용해 새로운 산업에 진출했다. 배경에는 AI 사용량 폭증이 있다. 오픈라우터가 집계한 주간 토큰 처리량은 지난해 10월 4조8900억 개에서 이달 172조 개로 약 35배 늘었다. 박윤영 KT 대표는 지난 7월 간담회에서 “AI를 쓰는 기업들 사이에서 얼마를 내야 하는지, 최적의 모델 구성은 무엇인지, 보안 문제는 없는지 고민이 커지고 있다”며 토큰 기반 신사업 계획을 밝힌 바 있다.

특히 KT는 통신사업에서 쌓은 과금 역량 노하우가 있다. 통신사가 음성통화 시간과 데이터 사용량을 기록해 요금을 부과하듯 AI 토큰 사용량을 정확하게 측정해 요금을 산정할 수 있다는 얘기다. 기업이 여러 AI 모델을 사용하더라도 각각 결제할 필요 없이 원화로 한 번에 정산할 수 있다는 점은 AI 시대에 경쟁력이 될 것이라는 판단이다.

요금제는 크게 두 가지로 정했다. 스탠더드 요금제는 사용량만큼 후불로 내거나 선불 크레디트를 충전한다. 엔터프라이즈 요금제는 사용 규모와 약정 기간에 따라 할인한다. AI 이용료와 통신 요금을 한꺼번에 청구하는 것도 가능하다. 향후 개인 이용자가 사용할 수 있는 구독제도 출시한다는 계획이다. 박상원 KT AX사업부문장(사진)은 “AI 시장 경쟁은 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하는지를 두고 벌어지고 있다”며 “토큰팩토리는 비용 효율성과 신뢰를 동시에 확보해야 한다는 관점에서 준비했다”고 말했다.

라현진 기자 raraland@hankyung.com