한맥證 실수로 돈 챙긴 외국계 3곳 불공정거래 조사

거래소, 부당행위 적발 땐 제재금 부과
'알고리즘 주문 실수' 대책마련 지적도

한국거래소가 한맥투자증권의 코스피200옵션 ‘알고리즘 트레이딩’ 주문실수에 관여한 거래 참가자의 ‘불공정거래’ 조사에 착수했다. 3만7902건의 코스피200옵션 주문실수가 발생한 지난 12일 한맥투자증권과의 거래에서 430억원가량의 이익을 낸 것으로 알려진 외국계 기관투자가 3곳의 매매 내역 등을 살펴 ‘공정거래질서 저해행위’가 발견되면 회원제재금을 부과하고 금융감독원에 통보하기 위해서다.

거래소 관계자는 30일 “코스피200옵션 주문실수와 관련된 금융투자회사들의 파생상품시장 업무규정 위반 여부를 확인해볼 것”이라며 “현재 매매 내역을 수집하고 있고 본격적인 조사는 금감원의 한맥투자증권 검사가 마무리되면 시작할 것”이라고 말했다.

거래소는 한맥투자증권과 외국계 기관투자가 3곳의 주문을 위탁받은 BS투자증권, NH농협증권 등의 거래소 규정 위반 여부를 조사할 계획이다. 거래소 시장감시업무규정에 따르면 △코스피200옵션의 미결제약정을 대량으로 보유한 후 이익을 얻거나 손실을 회피할 목적으로 매매체결 가능성이 희박한 호가를 대량으로 제출하는 행위 △거래 성립 가능성이 희박한 호가를 대량으로 제출한 뒤 반복적으로 정정·취소하여 시세 등에 부당한 영향을 미치거나 미칠 우려가 있는 행위 등을 ‘공정거래질서 저해행위’로 정의하고 있다. 또 거래소 파생상품시장업무규정 65조에는 “회원사들이 위탁받은 호가를 거래소 파생상품시스템에 입력하기 전에 호가의 적합성 등을 직접 점검해야 한다”는 내용이 있다.

거래소 움직임과 별도로 한맥투자증권의 대형 주문실수와 관련해 알고리즘 트레이딩 전반에 대한 제도개선 요구도 커지고 있다. 알고리즘 트레이딩은 기관투자가들이 브로커를 거치지 않고 바로 거래소에 주문을 낼 수 있는 직접주문전용회선(DMA)을 활용할 수 있어 선호해왔다. ‘0.001초의 싸움’이 쉴새없이 벌어지는 파생상품시장에서 우위를 차지할 수 있기 때문이다.

알고리즘 트레이딩이 널리 이용되면서 프로그램 오류나 직원 실수로 대규모의 잘못된 주문이 체결될 경우 파생상품시장이 왜곡되는 폐해도 나타나고 있다. 지난 6월25일엔 한 국내 증권사가 7700계약의 주문실수를 내면서 오후 2시30분~31분 사이에 코스피200선물이 이상 급등하기도 했다. 올해만도 한맥투자증권을 비롯해 KB투자증권, KTB투자증권이 알고리즘 트레이딩 관련 오류나 주문실수로 각각 100억원 넘는 손실을 입었다.

파생상품시장 주문과 시세조회 속도를 결정하는 ‘회선’에 대한 불협화음도 불거지고 있다. 한 선물업계 관계자는 “시세조회 속도를 높여준다고 알려진 사설접속 회선인 ‘메트로넷’을 두고 코스콤과 업계의 다툼이 있었다”며 “금융투자회사들이 서울보다 주문속도가 빠른 부산에 주문서버를 두려면 일정 금액 이상을 거래해야 한다는 조건을 투자자들에게 거는 것도 문제”라고 했다.

한국거래소와 코스콤이 알고리즘 트레이딩 주문실수에 대해 “제대로 대처하지 못하고 있다”는 지적도 나온다. 주문실수 당시 정상가격 대비 최대 7353% 높거나 낮은 주문이 1만건 넘게 발생하고 코스피200옵션 220콜, 217.5콜, 215콜에는 모든 계약이 체결돼 호가가 전무한 상태가 1분 넘게 지속됐지만 아무런 대처를 하지 못했다는 이유에서다. 미국처럼 투자자의 자본금 규모 등을 기준으로 주문한도를 둬야 한다는 주장도 있다.

■ 알고리즘 트레이딩

Algorithmic Trading. 일정한 규칙에 따라 주식시장에서 투자의 판단, 호가의 생성 및 제출 등을 컴퓨터 시스템에서 자동화한 거래. 사람의 개입 없이 자동으로 거래가 이뤄져 빠른 투자 결정이 가능하고 시장상황에 따른 감정개입을 배제한 것이 특징이다.

황정수/김동욱 기자 hjs@hankyung.com