"토큰값 2.5배 비싼데 더 싸다?"…AI 가격 경쟁 기준이 뒤집혔다 [김주완의 글로벌 머니 X파일]

한국경제신문의 투자 전문 유료 플랫폼 '한경 프리미엄9'(www.hankyung.com/premium9)에 실린 기사입니다. '한경 프리미엄9'을 구독하시면 더 많은 주식 투자 기사를 찾아볼 수 있습니다

로이터연합뉴스

글로벌 인공지능(AI) 시장의 가격 경쟁 기준이 ‘토큰을 얼마나 싸게 파느냐’에서 ‘품질 기준을 통과한 업무 한 건을 얼마나 적은 총비용으로 끝내느냐’로 옮겨가고 있다. 오픈AI의 최신 모델 GPT-6 아스트라는 표준 API 토큰 가격이 GPT-5.6 솔의 현재 프로모션 가격보다 2.5배 높다. 하지만 코딩 평가에서는 토큰 사용량을 솔의 약 3분의 1로 줄여 과제당 비용을 전작과 비슷한 수준으로 맞추고 점수는 2점 높였다.

여기에 알리바바, 문샷AI, 딥시크 등 중국 업체가 미국 최상위 모델보다 토큰 단가가 크게 낮은 모델을 내놓으면서 기업의 AI 선택 기준도 가격표나 단순 성능 순위가 아니라 성공률, 재시도, 처리시간, 사람의 검수 비용까지 합친 ‘성공한 작업당 총비용’으로 이동하고 있다는 분석이 나온다.

이전 모델보다 2.5배 비싼 아스트라

8일 오픈AI에 따르면 아스트라의 표준 단문맥 기준 응용프로그램인터페이스(API) 가격은 입력 토큰 100만 개당 10달러, 출력 50달러다. 캐시에 저장된 입력을 다시 읽을 때는 1달러, 캐시에 새로 쓰는 비용은 12.5달러다. 현재 프로모션 가격이 적용되는 GPT-5.6 솔은 각각 4달러, 20달러, 0.4달러, 5달러다.

https://artificialanalysis.ai/

AI 성능이 높아지면서 AI 이용료가 크게 오른 것이다. 같은 입출력 비중을 전제로 하면 아스트라가 2.5배 높은 단가를 상쇄하려면 한 작업에 쓰는 토큰을 솔의 40% 이하로 줄여야 한다. AI 모델 평가업체 아티피셜 애널리시스가 지난 3일 공개한 코딩 에이전트 평가에서는 실제로 이 조건을 넘어섰다.

아스트라는 최고 추론 설정에서 솔의 약 3분의 1만큼 토큰을 쓰고 코딩지수 67점을 기록했다. 과제당 비용은 솔과 비슷했지만 점수는 2점 높았다. 앤트로픽의 최고급 모델 클로드 페이블 5와는 같은 점수를 내면서 비용이 절반 미만이었다.

작업 시간까지 넣으면 차이는 더 벌어질 수 있다. 오픈AI가 공개한 컴퓨터 사용 평가 ‘OSWorld 2.0’의 지연시간 시뮬레이션에서 아스트라는 과제당 약 40분에 평가점수 72.6%를 기록했다. 솔은 약 75분에 65.7%였다.

부분점수를 반영한 평가로, 아스트라는 소요 시간이 약 47% 짧고 점수는 6.9%포인트 높았다. 힉스필드AI의 알렉스 마슈라보프 최고경영자(CEO)는 오픈AI가 공개한 고객 평가에서 “복잡한 창작 워크플로에서 최대 20% 적은 토큰을 썼다”고 말했다.

그러나 코딩의 성과를 다른 업무에 그대로 적용하면 안 된다. 아티피셜 애널리시스의 종합지능지수에서 아스트라와 솔은 똑같이 53점을 받았다. 아스트라는 솔보다 출력 토큰을 약 10% 덜 썼지만 2.5배 높은 가격을 상쇄하지 못해 최고 추론 기준 과제당 비용이 75% 늘었다.

해당 평가에서 아스트라의 환각률은 92%에서 51%로 낮아지고 정확도는 4점 올랐다. 반면 은행 고객 지원과 과학 코딩, 장문맥 추론 평가에서는 2~3점 후퇴했다. 아스트라가 ‘전반적으로 2.5배 비싸다’거나 ‘더 똑똑해져 실제로는 싸다’는 식의 단일 결론이 모두 틀릴 수 있는 이유다.

기업이 봐야 할 관련 계산식은 단순하다. ‘실질 과제당 비용’은 입력·출력·캐시·검색과 외부 도구 호출료에 재시도 비용, 직원 검수 시간, 오류 수정, 보안·통합·운영비를 모두 더한 뒤 품질 기준을 통과한 과제 수로 나눠야 한다.

오픈AI 최고재무책임자(CFO) 세라 프라이어는 “AI의 가치를 이해하려면 ‘완수한 일’이라는 더 강력한 척도가 필요하다”며 "값싼 모델이 여러 번의 시도와 사람 검수를 요구하면 오히려 비싸질 수 있다"고 지적했다. 그는 "달러당 유용한 지능"이라고 표현했다.

ChatGPT Image

에이전트형 AI에서는 이런 차이가 더 벌어진다는 지적이다. 최근 맥킨지가 인용한 연구에 따르면 장시간 문맥을 유지하며 도구를 쓰는 에이전트 과제는 일반 채팅이나 단일 코딩 추론보다 약 1000배 많은 토큰을 소비할 수 있다.

맥킨지가 인용한 한 연구에서는 다중 에이전트 개발 도구로 소프트웨어 과제 30개를 수행했을 때 코드 리뷰 단계가 전체 토큰 사용량의 평균 59.4%를 차지했다. 초기 코드 생성보다 검토와 수정 과정에서 더 많은 토큰이 소모될 수 있다는 뜻이다. 에이전트가 업무를 나누고 다른 모델과 도구를 부르는 방식만 달라져도 같은 결과의 비용이 약 10배까지 달라질 수 있다.

가트너는 이를 ‘추론의 역설’이라고 이름 붙였다. 토큰 단가는 내려가도 AI가 단순 답변에서 다단계 실행으로 진화하면서 에이전트 워크플로당 추론 비용은 2028년까지 5배 넘게 늘어날 것으로 전망했다. 단순 챗봇보다 에이전트 추론 모델에 업무를 보내는 것만으로 공급자의 추론 비용이 최소 5배 늘어날 수 있다는 설명이다.

윌 소머 가트너 수석 디렉터 애널리스트는 “더 효율적인 토큰 경제만으로 AI 비용을 합리화할 수 없다”며 "모든 업무를 한 모델에 맡기기보다 여러 모델을 업무 난도에 맞춰 섞는 체계가 필요하다"고 말했다.

ChatGPT Image

'토큰 경제'에서 '작업 경제'로

AI 이용 가격 단위는 이미 바뀌고 있다. 고객상담 AI 업체 인터컴은 AI가 사람 개입 없이 문의를 끝까지 해결했을 때 건당 0.99달러를 받는다. 영업용 AI가 고객사가 정한 조건에 맞는 잠재고객을 판별해 연결하면 건당 약 10달러를 받는다.

세일즈포스의 에이전트포스는 대화 한 건당 2달러를 받는 방식과 기록 업데이트나 업무 흐름 실행 등 행동 한 번당 20플렉스크레딧, 약 0.10달러를 차감하는 행동 기반 과금 방식을 제공한다.

이런 변화는 중국 AI업체에 기회이자 시험대가 될 수 있다. 중국 모델은 토큰 가격표에서 미국 최상위 모델보다 확실히 싸다. 8일 기준 알리바바클라우드가 제시한 'Qwen3.8-Max' 가격은 100만 토큰당 입력 2달러·출력 6달러다. 아스트라가 입력은 5배, 출력은 약 8.3배 비싸다.

문샷AI의 주력 'Kimi K3'는 캐시 적중 입력 0.30달러, 일반 입력 3달러, 출력 15달러다. 아스트라 가격의 약 30% 수준이다. 코딩 특화 'Kimi K2.7 Code'는 캐시 적중 입력 0.19달러, 일반 입력 0.95달러, 출력 4달러다. 아스트라와 비교하면 일반 입력 가격은 약 10.5분의 1, 출력 가격은 12.5분의 1이다.

딥시크는 시간대별 할인까지 붙였다. 최신 공식 가격표에서 'V4-Flash'의 캐시 미적중 입력은 100만 토큰당 중국 업무시간대 3위안, 비혼잡 시간 1.5위안이고 출력은 각각 9위안과 4.5위안이다. 캐시에 적중한 입력은 각각 0.10위안과 0.05위안에 불과하다.

7월 말 공개 직후의 가격을 적용한 아티피셜 애널리시스 평가에서 V4-Flash의 평균 과제당 비용은 0.03달러로, 당시 페이블 5의 약 105분의 1이었다. 다만 이는 딥시크가 8월 17일 가격 체계를 개편하기 전 수치다.

'Kimi K3'는 0.86달러, 'GPT-5.6 솔'은 1.86달러, 클로드 '페이블 5'는 3.15달러였다. 단순 과제 비용으로는 딥시크가 페이블보다 약 105배 저렴했다. 토큰 단가뿐 아니라 실제 평가에 사용된 토큰량까지 포함한 결과다.

ChatGPT Image

다만 가격 차이에 따라 성능 차이는 있었다. 당시 'V4-Flash'의 종합지능 점수는 50점으로 구글 제미나이 3.6 플래시와 같았지만 'Kimi K3'는 57점이었고, 오픈AI·앤트로픽의 상위 모델은 이보다 9점 이상 높았다. 민감한 기업 데이터의 저장 위치, 규제 준수, 장애 대응, 지연시간과 공급 안정성도 총비용에 포함해야 한다는 주장도 있다.

중국 AI 모델의 압박은 미국 업체의 가격 전략을 바꿀 것이라는 전망도 나온다. 가장 어려운 5~10%의 업무에만 아스트라나 페이블을 쓰고 나머지는 Qwen, Kimi, 딥스크, 미국 업체의 경량 모델를 이용하는 이른바 ‘모델 라우팅’이 확산할 가능성이 크다는 것이다. 값싼 모델이 초안을 만들고 비싼 모델이 검증하거나, 반대로 고성능 모델이 계획을 세우고 저가 모델이 반복 실행을 맡는 방식이다.

아누슈리 버마 가트너 수석 디렉터 애널리스트는 “AI 에이전트는 과업·애플리케이션 특화형에서 에이전트 생태계로 빠르게 진화할 것”이라고 내다봤다. 가트너는 기업용 애플리케이션 가운데 과업 특화 AI 에이전트를 포함한 비중이 2025년 5% 미만에서 2026년 말 40%로 올라갈 것으로 전망했다.

최근 기업들이 AI 비용 계산법에 관심이 커진 이유는 AI 도입 효과가 아직 제한적이기 때문이다. PwC가 지난해 95개국 CEO 4454명을 조사한 '2026년 글로벌 CEO' 설문에서 AI로 매출 증가와 비용 절감을 모두 경험했다는 응답은 12%뿐이었다. 모하메드 칸데 PwC 글로벌 회장은 “소수 기업은 측정할 수 있는 재무 수익을 내지만 다수는 파일럿을 넘지 못하고 있다”고 말했다.

김주완 기자 kjwan@hankyung.com