금융당국, 역대 최대 과징금 가닥
불공정거래 혐의 조사 2년 만에
"시세에 부당 영향…투자자 피해"

AI 활용 초단타매매 급증하는데
해외서도 처벌 사례 드물어 관심
"심의 과정서 과징금 줄어들 수도"
금융당국이 미국 초대형 헤지펀드 시타델 그룹 계열 시타델증권의 불공정거래 혐의를 조사한 지 2년여 만에 역대 최대 규모인 100억원대 과징금 부과에 나선다. 수십조원의 초단타매매(고빈도 매매)로 코스닥시장을 교란한 혐의다. 알고리즘 불공정거래 제재는 한국에서 전례가 없는 데다 해외에서도 보기 드문 사례여서 관심이 집중되고 있다.

28일 금융당국에 따르면 금융위원회는 다음달 10일 자본시장조사심의위원회(자조심)를 시작으로 시타델 계열인 시타델증권의 불공정거래 혐의 제재 절차를 개시한다. 최종 징계 수위는 증권선물위원회, 금융위원회 심의·의결을 거쳐 확정된다.
형사 고발은 없지만 과징금 사상 최대
[단독] "초단타로 시장 교란"…시타델 100억대 과징금

미국 시카고에 본사를 둔 시타델은 인공지능(AI) 기술을 활용한 매매로 유명한 세계적인 퀀트 헤지펀드다. 시타델증권은 켄 그리핀 시타델 회장이 설립했다. 시타델증권은 한국에서 일정 조건에 맞춰 자동 주문을 내도록 한 프로그램을 활용한 초단타매매로 수익을 올렸다. 한국 ‘개미’들의 외국인 추종 매매 심리를 역이용해 고도의 알고리즘을 짠 것으로 알려져 있다.

2018년 코스닥시장 활성화 정책으로 거래금액이 급증하자 시타델증권은 메릴린치 창구를 통해 하루 1000억원 규모로 수백 개 종목을 초단타로 매매했다. 메릴린치 창구로 주문이 들어오면 주가가 급등락을 반복했다. 개인투자자들이 청와대에 민원을 제기하면서 금융감독원 자본시장조사국이 2년 전 불공정거래 조사에 나섰다.

한국거래소는 금감원의 조사 결과가 나오기 전인 2019년 시타델의 매매 주문을 수탁한 메릴린치를 제재했다. 거래소는 메릴린치가 시타델증권으로부터 6220회의 허수성 주문을 수탁해 시장감시규정 제4조(허수성 주문 금지)를 위반했다고 발표했다.

금감원은 사람이 아니라 컴퓨터 프로그램에 의한 매매여서 고의성을 입증하기 어렵다고 판단했다. 대신 자본시장법 제178조 2의 ‘시장질서 교란행위 금지’ 위반 혐의를 적용해 100억원대 과징금 부과안을 올리기로 했다. 자본시장법은 고의성이 인정되지 않더라도 시세에 부당한 영향을 주는 경우 시장교란 혐의로 처벌(과징금 부과)할 수 있도록 2014년 개정됐다.

금감원은 시타델증권의 알고리즘 매매를 ‘거래 성립 가능성이 희박한 호가를 대량으로 제출한 후 해당 호가를 반복적으로 정정·취소해 시세에 부당한 영향을 주거나 줄 우려가 있는 행위’로 규정했다.

100억원대 과징금은 금융당국이 부과한 것으로는 사상 최대다. 삼성바이오로직스의 분식회계 관련 과징금(80억원), 골드만삭스의 무차입 공매도 과태료(75억원)를 넘어선다. 고의성을 입증할 수 없어 검찰에 넘길 순 없지만 그만큼 불공정거래 혐의를 무겁게 본다는 의미다.
전 세계적 관심
세계 금융당국과 운용업계는 한국 금융당국의 제재 절차에 주목하고 있다. 알고리즘 매매의 불공정거래 혐의는 세계적으로 처벌 사례가 많지 않다. 미국과 갈등을 빚고 있는 중국 금융당국만 철퇴를 내렸을 뿐이다. 외신에 따르면 중국 금융당국은 2015년 시타델이 알고리즘을 이용한 허수성 매매로 가격을 교란했다고 판단했다. 관련 사건에 대한 합의금으로 시타델은 작년 초 6억7000만위안(약 1149억원)을 지급했다.

한국에서의 알고리즘 매매 불공정거래 제재안은 자조심 논의 때부터 치열한 공방을 예고하고 있다. 거래소의 메릴린치 제재 때도 허수성 주문 판단 기준과 제재 적정성을 놓고 적지 않은 논란이 벌어졌다. 시타델증권도 메릴린치와 마찬가지로 소송대리인으로 김앤장을 선임해 적극 대응하고 있다.

세계적으로 AI와 프로그램을 활용한 초단타매매가 급증하는 만큼 이번 제재 결과는 그 자체로 의미가 있을 것이라는 게 전문가들의 진단이다. 한 법무법인 소속 변호사는 “관련 규정이 모호해 알고리즘 매매의 불공정거래를 입증하는 것은 쉽지 않다”며 “다만 이번 첫 사례에 대한 결론이 나오면 한국 시장은 물론 글로벌 시장의 알고리즘 불공정거래를 어떻게 처리하는지 가이드라인이 될 수 있다”고 말했다.

또 다른 관계자는 “금융위 심의 의결 과정에서 시장교란 혐의가 인정되지 않거나 과징금이 대폭 줄어들 가능성도 배제할 수 없다”며 “거래소의 메릴린치 제재 의결에도 영향을 미칠 수 있다”고 전망했다.

박의명/조진형 기자

ⓒ 한경닷컴, 무단전재 및 재배포 금지