미국 뉴욕증권거래소의 트레이더 / AP 연합뉴스
미국 뉴욕증권거래소의 트레이더 / AP 연합뉴스

금융당국, 변동성 '주범' 외국인 초단타트레이더 집중 조사

금융당국이 국내 단일종목 레버리지 상장지수펀드(ETF) 거래와 관련해 증시 변동성을 키운 원인으로 지목되는 외국인 초고빈도매매(HFT·High Frequency Trading)에 대한 조사에 착수했다.

30일 금융투자업계에 따르면 금융당국은 외국계 초단타 트레이더에게 직접시장접속(DMA·Direct Market Access) 서비스를 제공한 한국투자증권 등 국내 증권사의 거래 내역을 확보해 주문 패턴과 시장 영향 등을 분석하고 있는 것으로 알려졌다.

HFT는 초고속 컴퓨터와 알고리즘을 활용해 마이크로초(㎲) 단위로 대량의 주문과 취소를 반복하며 미세한 가격 차이를 노리는 거래 기법이다. 이 같은 거래를 위해서는 증권사 주문 시스템을 거치지 않고 거래소에 직접 주문을 전송하는 DMA가 필수적이다. 이들은 그동안 JP모간, 모건스탠리, 골드만삭스 등 글로벌 증권사의 창구를 통해 주로 거래해왔다. 그러나 최근 한국투자증권 등이 DMA 영업을 공격적으로 확대하면서 외국계 HFT 거래가 크게 늘어난 것으로 업계는 보고 있다.

금융당국은 외국계 HFT가 현물과 ETF, 선물시장에서 거래하는 과정에서 단일종목 레버리지 ETF의 기초 종목 변동성을 키웠는지를 집중적으로 들여다보고 있다. 특히 유동성공급자(LP)가 기초주식을 헤지하는 과정에서 HFT가 차익거래에 나서 주가 변동폭을 키우고 수급에 영향을 미쳤는지를 분석 중이다.

금융당국 관계자는 "최근 금융위원장과 자산운용사 간담회에서도 가장 많이 나온 주제가 외국인 HFT였다"며 "당국도 HFT가 어떤 방식으로 국내 시장에 들어와 거래하는지 면밀히 살펴보고 있다"고 말했다.

금융당국은 과도한 주문과 취소를 반복하는 거래에 부담금을 부과하는 '과다호가부담금' 도입도 검토하고 있다. 개인의 단일종목 레버리지 ETF 투자 한도를 총투자금액의 20%로 제한하고, 시장 상황에 따라 레버리지 비율을 조정하는 가변 레버리지 제도도 함께 추진할 방침이다.
미국 뉴욕증권거래소(NYSE). 사진=연합뉴스
미국 뉴욕증권거래소(NYSE). 사진=연합뉴스

'0.000001초'에 수천 번 사고판다

금융당국이 외국인 초고빈도매매(HFT)를 집중 점검하는 것은 단일종목 레버리지 상장지수펀드(ETF) 시장이 급성장하는 과정에서 변동성을 키운 핵심 요인이 될 수 있다는 판단에서다. 전문가들도 ETF 유동성공급자(LP)의 헤지 거래와 외국계 HFT의 초단타 차익거래가 맞물리며 증시를 교란했을 가능성이 있다고 보고 있다.

30일 한국거래소에 따르면 단일종목 레버리지 ETF가 상장한 5월 외국인의 일평균 프로그램 매매대금은 28조1000억원, 6월 28조9000억원으로 상장 이전인 1~4월 일평균(15조4000억원)의 두 배 가까이 증가했다. 코스피 지수가 급락한 이달에도 22조원 규모에 달했다. 업계에선 외국계 초단타 트레이더들이 단일종목 레버리지에 몰리면서 나타난 현상으로 보고 있다.

다만 HFT 자체가 불법은 아니다. HFT는 미국과 유럽 등 주요 선진국에서는 이미 보편화된 거래 방식으로, 미국에서는 주식 거래의 절반을 HFT가 차지한다. 시타델 시큐리티즈, 제인스트리트, 버투 등 전문업체가 초고속 알고리즘을 활용해 ETF와 주식, 선물, 옵션 시장에서 시장조성과 차익거래를 동시에 수행한다. 이들은 현물과 ETF, 파생상품 간 미세한 가격 차이를 포착해 마이크로초(㎲) 단위로 주문과 취소를 반복하는 것이 특징이다. 미국과 유럽의 규제당국도 HFT가 촘촘한 호가를 공급해 시장 유동성을 높이고 거래 비용을 낮추는 순기능이 있다고 인정하고 있다.

국내 시장은 구조가 다르다. 외국계 HFT 업체 대부분이 한국거래소 회원사가 아니다. 이들은 JP모간, 모건스탠리, 골드만삭스, 씨티 등 글로벌 투자은행이나 국내 증권사의 직접시장접속(DMA) 서비스를 이용해 국내 시장에 참여한다. DMA는 기관투자가가 증권사의 주문 인프라를 이용해 거래소에 주문을 직접 전송하는 서비스로 HTS나 MTS보다 주문 지연이 훨씬 적어 HFT에는 사실상 필수적인 인프라다.

최근엔 한국투자증권 등 국내 증권사들이 DMA 전용 회선과 주문 시스템을 제공하고 수수료를 받고 있다. HFT는 하루 수십만 건 이상 주문을 반복하는 만큼 거래대금과 위탁매매 수수료를 동시에 늘릴 수 있다. 한국투자증권은 최근 외국계 알고리즘 주문을 대거 유치하면서 한때 국내 주식 거래대금에서 리테일 강자인 키움증권을 앞섰다.

초단타거래가 만든 '피드백 루프'

전문가들은 국내의 LP와 HFT가 상호작용하면서 시장 변동성을 증폭했을 가능성을 제기한다. LP는 ETF 가격이 기초자산 가치에서 크게 벗어나지 않도록 지속적으로 매수·매도 호가를 제시하고, 투자자가 단일종목 레버리지 ETF를 매수하면 기초주식과 선물, 총수익스와프(TRS) 등을 활용해 즉시 헤지 거래를 수행한다. 단일종목 레버리지 ETF는 일반 ETF보다 레버리지 비율을 유지하기 위한 리밸런싱이 잦아 LP의 헤지 주문도 훨씬 빈번하게 발생한다.

예를 들어 특정 종목의 2배 레버리지 ETF로 자금이 몰리면 LP는 기초주식을 대량 매수해 노출을 맞춘다. 이 과정에서 현물과 ETF, 선물 사이에 일시적인 가격 괴리가 생기면 HFT는 이를 포착해 차익거래에 나선다. HFT의 주문으로 가격이 다시 움직이면 LP는 바뀐 가격에 맞춰 다시 헤지 규모를 조정한다. 결국 LP의 헤지 주문이 가격을 움직이고, HFT가 이를 거래하며, 다시 LP가 추가 헤지에 나서는 '피드백 루프(feedback loop)'가 형성될 수 있다는 것이다. 시장이 급등하거나 급락하는 국면에서는 이러한 알고리즘 간 상호작용이 단기 변동성을 더욱 키울 수 있다는 분석이다.

그러나 업계에선 외국계 HTF와 시장 변동성의 인과 관계를 입증하기는 쉽지 않을 것이란 관측이 많다. 해외 브로커를 통해 유입된 주문의 실제 주체와 알고리즘 거래 내역까지 확보하기는 어렵기 때문이다. 거래소도 최종 주문자가 HFT 업체인지 일반 헤지펀드인지를 외부에서 구분하기 어려운 것으로 알려졌다. 한 자산운용사 관계자는 "외국인 HFT의 영향을 확인하려면 외국계 브로커의 체결 패턴과 주문·취소율, ETF 설정·환매 규모, LP의 헤지 거래, 기초종목의 초단기 가격 움직임 등을 함께 분석해야 한다"고 말했다.

금융당국은 HFT를 제한하기 위해 한국거래소 규정을 손질해 과도한 주문과 취소를 반복하는 거래에 '과다호가부담금'을 부과하는 방안을 검토 중이다. 그러나 일각에선 단일종목 레버리지의 책임을 외국계 투자자에게 전가하고 있다는 지적도 나온다. 금융업계 관계자는 "일반 종목과 비교해 단일종목 레버리지에 외국인 투자 비중이 과도하게 높다고 볼 수 없다"며 "과다호가부담금은 외국계 알고리즘 투자자들이 한국 시장을 떠나게 만들고 모건스탠리캐피털인터내셔널(MSCI) 선진국지수 편입에도 악영향을 미칠 수 있다"고 말했다.

전예진/심우일 기자 ace@hankyung.com