[단독] "초단타로 코스닥 교란"…美 시타델증권 조사한다

금융당국, 시타델 '정조준'
매매 창구 메릴린치도 제재

미국 초대형 헤지펀드 그룹인 시타델이 국내 주식 불공정거래 혐의로 금융당국 조사를 받는다.코스닥시장에서 수십조원의 초단타매매(고빈도매매)로 시장을 교란한 혐의다.

10일 금융투자업계에 따르면 한국거래소는 오는 19일 시장감시위원회를 열어 시타델의 매매 창구 역할을 한 메릴린치 제재안을 확정한다. 거래소 관계자는 “메릴린치에 대해 시장감시 규정 위반으로 제재를 확정한 뒤 시타델은 자본시장법 위반 혐의로 당국에 통보할 방침”이라고 말했다.

미국 시카고에 본사를 둔 시타델은 인공지능(AI) 기술을 활용한 매매로 유명한 세계적인 퀀트 헤지펀드로 320억달러를 운용한다. 이번 조사 대상은 같은 계열인 시타델증권이다. 고빈도매매와 옵션거래에 특화된 이 회사는 지난해 한국 주식시장 거래 규모가 급증하자 메릴린치 창구를 통해 하루에 1000억원 규모로 코스닥 종목 수백 개를 초단타로 매매했다. 수개월간 거래금액은 10조원을 웃돈 것으로 추정된다. 시타델의 매매 창구 역할을 한 메릴린치의 거래금액은 지난해 84조원으로 전년보다 두 배 가까이 급증했다.

시타델이 활용한 기법은 알고리즘 매매로 일정 가격에 자동 주문을 내도록 컴퓨터 프로그램을 짜 매매하는 방식이다. 코스닥 투자자들의 투기 성향을 활용해 상당한 차익을 낸 것으로 알려졌다. 이 과정에서 손실을 본 개인투자자들이 청와대 국민청원을 통해 잇달아 불공정거래 의혹을 제기했다.

'1000분의 1초' 쪼개 초단타매매…코스닥株 하루 수백개씩 '쥐락펴락'

한국 주식시장은 고빈도매매 ‘무풍지대’로 통했다. 세계 최고 수준인 거래세(0.25%) 때문이다. 미국 헤지펀드 그룹인 시타델은 이런 진입 장벽을 쉽게 뚫었다. 투기 성향이 강한 코스닥 단타족의 외국인 추종 매매 심리를 역이용하는 알고리즘(컴퓨터를 활용한 자동매매)으로 연 7~8% 수준의 수익을 거둔 것으로 전해졌다. 메릴린치 직접주문전용선(DMA: Direct Market Access)을 통해 밀리세컨드(1000분의 1초) 이상의 속도로 주문할 수 있는 최첨단 슈퍼컴퓨터와 네트워크도 동원됐다.

국내에서 알고리즘 고빈도매매 관련 불공정거래 혐의가 불거진 건 이번이 처음이다. 알고리즘에 의한 매매에 고의성을 적용하기 어려운 만큼 시세조종보다는 시장교란 혐의에 초점이 맞춰져 있다.

시타델 알고리즘 매매 패턴은

10일 금융투자업계에 따르면 코스닥시장에서 메릴린치 창구로 대량 매매가 집중적으로 이뤄진 건 지난해 3월부터 11월까지로 추정된다. 정부의 코스닥 활성화 대책에 힘입어 거래가 폭발했던 시기와 맞물린다. 거래량이 많은 바이오주부터 거래가 많지 않은 중소형주까지 무차별적으로 이뤄졌다. 일부 공매도도 병행됐다. 하루 수백 개 종목을 대상으로 많게는 1000억원 안팎씩 거래한 것으로 거래소는 파악하고 있다.

시타델의 한국에서의 알고리즘 운용 규모는 3000억~4000억원 수준으로 알려졌다. 단타매매로 코스닥시장에서만 10조원 이상 거래한 것으로 추산된다. 그 덕에 메릴린치를 통한 코스닥시장 거래대금 비중은 예년보다 급격히 커졌다. 메릴린치의 거래대금 비중은 2017년 2.2%(43조7800억원)에서 2018년 3.5%(84조1800억원)로 뛰었다. 고빈도매매가 최고조에 달한 지난해 7월에는 4.9%까지 치솟기도 했다.

메릴린치 창구로 대규모 거래 주문이 들어오면 하루에도 주가가 몇 번씩 오르락내리락하면서 요동쳤다. 한 헤지펀드 대표는 “급락하는 종목이나 10% 가량 오르는 종목을 갑자기 집중적으로 매수해 팔아버리는 등 종잡을 수 없었다”고 말했다.

코스닥시장에 적용한 시타델의 알고리즘은 누구도 정확히 파악하지 못하고 있다. 다만 호가와 거래원 등의 정보로 코스닥 추종 매매 심리를 역이용한 고도의 알고리즘을 짜 ‘무위험 수익’을 거뒀을 것이란 게 시장 전문가들 추론이다.

누군가 이득을 보면 누군가 손실을 보는 ‘제로섬 게임’에서 코스닥 개인 투자자들은 판판이 깨졌다. 청와대 국민청원에는 지난해 메릴린치 창구를 조사해달라는 ‘개미’들의 원성이 쏟아졌다. 한 외국계 증권사 관계자는 “메릴린치 관련 민원이 잇따르자 시타델은 매매를 줄이는 방향으로 알고리즘을 수정해 거래가 크게 줄어든 상황”이라고 전했다.

혐의 입증 ‘가시밭길’

거래소는 지난해 8월께부터 수개월 동안 고빈도매매 패턴을 분석했다. 컴퓨터에 의한 자동 매매여서 고의성은 찾기 힘들지만 시장감시 규정 위반 혐의가 있다는 게 거래소 판단이다. 시장감시 규정 4조(공정거래질서 저해행위 금지)에선 ‘과도한 거래로 시세 등에 부당한 영향을 주거나, 오해를 유발하게 할 우려가 있는 호가를 제출하거나 거래를 하는 행위’를 금지하고 있다.

거래소는 시타델의 위탁 증권사인 메릴린치 제재를 위해 나섰다. 메릴린치가 불공정거래 주문 관련 회원사 의무를 다하지 않았다는 혐의다. 시장감시위원회의 사전 회의기구인 규율위원회를 수차례 열고 5억원 이하의 제재금을 부과하는 안을 지난달 통과시켰다. 오는 19일 시장감시위원회에서는 최종 제재안을 논의할 계획이다. 메릴린치는 법률대리인으로 김앤장을 고용해 방어에 나서고 있다.

거래소는 메릴린치 제재안이 통과하면 금융당국에 자본시장법상 시장교란 혐의를 통보할 방침이다. 2014년 자본시장법 개정에 따라 고의성이 인정되지 않더라도 시세에 부당한 영향을 주는 경우에도 시장교란 혐의로 처벌(과징금 부과)할 수 있다.

한 시장감시 전문가는 “과거 미국에서도 골드만삭스가 알고리즘 고빈도매매에 활용한 가장매매가 적발돼 제재를 받은 적이 있다”며 “시장교란 혐의를 입증하려면 가장매매같이 문제의 거래가 얼마나 많았는지가 관건”이라고 말했다.

한 법무법인 소속 변호사는 “한국 주식시장에선 전례가 없는 데다 관련 규정이 모호하다”며 “혐의가 명백하지 않다면 글로벌 헤지펀드를 조사하는 일이 쉽지 않을 것”이라고 말했다. 시타델증권 측은 “한국 규제당국에 적극 협조할 것”이라고 말했다.

■알고리즘 매매

컴퓨터 프로그래밍을 통해 일정한 가격이 되면 자동 매수·매도 주문을 내도록 조건을 설정해 전산에 의해 매매가 이뤄지도록 하는 거래 방식이다. 빅데이터와 인공지능(AI) 등 첨단 기술이 활용된다. 초단기 매매로 이익을 내기 위한 헤지펀드 등의 고빈도매매에 주로 사용된다.

조진형 기자 u2@hankyung.com