알파보다 중요한 주문이 실제로 체결되는 방식, 다양한 거래소의 CLOB(중앙 지정가 주문장) 마이크로 구조와 그 전략적 함의를 살펴본다.
우리는 보통 알파—시그널, 피처, 예측—에 대해 많은 시간을 들여 이야기한다. 하지만 오늘은 알파 얘기에서 잠시 벗어나, 그 아이디어를 실제로 집행하는 기계 장치, 즉 CLOB(Central Limit Order Book, 중앙 지정가 주문장) 마이크로 구조에 대해 이야기해 보고자 한다. 대부분의 트레이더는 자신이 주문을 내면, 어느 거래소이든 똑같이 취급된다고 생각한다. 그러나 실제로는 주문 매칭을 지배하는 규칙이 거래소마다 크게 다를 수 있고, 이 규칙들이 최적 전략을 완전히 바꾸어 놓는다.
대부분의 크립토 및 주식 트레이더에게 익숙한, 표준적인 모델부터 시작해 보자. 다음과 같은 최우선 매수호가(100달러)가 있고, 이 가격대에 Alice가 가장 먼저 도달했다고 하자.
그 아래 가격대인 99달러에는 Dan이 30 랏을 매수로 대기하고 있다.
이제 Josh가 시장에 들어와 99달러에 5 랏을 매도하려 한다고 하자. 어떤 일이 일어날까?
표준적인 “바닐라” CLOB에서는 답이 단순하다. Alice가 Josh로부터 5 랏을 100달러에 매수한다.
여기서 작동하는 원리는 다음과 같다.
이 모델이 기본선이다. 하지만 거래소는 이 규칙들을 바꾸어 서로 다른 행태를 유도할 수 있고, 실제로도 그렇게 한다. 이제 여러 변형들을 살펴보자.
일부 시장, 특히 CME STIRS(단기 금리, Short-Term Interest Rate) 시장에서는, 거래소가 동일 가격대에 있는 모든 참여자에게 체결 물량을 나누어 주는 방식을 택하기도 한다. 위의 예시를 그대로 사용해, 거래소가 1:2:2 분배 규칙을 쓴다고 해 보자. 이 경우 Alice, Bob, Charlie가 각자 제출한 사이즈 비율에 따라 Josh의 매도 5 랏을 나누어 가진다.
어떤 거래소는 **GTBPR(Good-Till-Best-Price-Rata)**라는 하이브리드 모델을 사용하기도 한다(예: Eurex 독일 채권). 이 경우 Alice는 먼저 도착했다는 이유로 약간 더 큰 배분(예: 2:1:2)을 받을 수 있지만, 여전히 시간보다는 사이즈가 더 중요하게 작동한다.
먼저 기술적인 단서를 짚고 넘어가자. 누군가 프로라타 주문장에 1 랏만 쏜다면, 거래소 입장에서는 그 1 계약을 쪼갤 수 없다. 이 경우 보통 큐의 맨 앞에 있는 사람에게 체결을 몰아준다. 프로라타는 큰 물량이 들어올 때 진가를 발휘한다.
그렇다면 왜 굳이 이런 구조를 설계할까? 보통은 틱 사이즈가 변동성에 비해 지나치게 클 때 등장한다. 시장이 거의 움직이지 않는데, 거래소가 틱 사이즈를 줄이길 거부하는 상황이다(전통 금융 거래소는 스펙을 시대에 맞게 바꾸는 데 끔찍하게 보수적인 편이다). 이런 환경에서는 마켓 메이킹이 사실상 큐의 최상단을 차지하기 위한 순수한 속도 경쟁으로 퇴행해 버린다. 구조적으로 독점적인 게임이 되어버리는 것이다.
프로라타로 전환하면, 거래소는 참여자들에게 큐 맨 앞이 아니라 해당 가격대의 뒤쪽에 ‘큰 사이즈’로 합류하도록 인센티브를 준다. 개인적으로 나는 이런 구조를 좋아하진 않는다. 두껍고(time-priority가 강한) 주문장에서는 사실 큐의 중간이 가장 위험한 자리다. 거대한 정보 우위 주문에 의해 역선택(adverse selection) 리스크를 가장 크게 부담하면서도, 빠르게 취소할 수 있는 능력은 떨어지기 때문이다. 프로라타는 이를 어느 정도 줄여주지만, 결국 **근본 처방이라기보다는 임시방편(band-aid)**처럼 느껴진다. 틱 사이즈를 줄이면 될 일을 굳이 이렇게 돌아가는 셈이다.
이제 좀 더 특이한 구조로 넘어가 보자. 바로 **다크 오더(Dark Orders)**다. 이는 FX나 미국 주식 시장에서는 흔하지만, 크립토에서는 드물다.
아이디어는 단순하다. Citadel 같은 회사가 알파를 만들어내고 있다면, 그들은 자신의 의도를 세상에 떠들고 싶지 않다. 만약 이들이 자신들의 주문을 ‘라이트(lit) 북’에 공개하면, 다른 트레이더가 그 전략을 관찰하고, 앞서 체결을 시도하거나(front-run), 알파를 잠식해 버릴 수 있다.
다크 오더는 이런 트레이더들이 유동성을 공급하되, 그 존재를 시세 데이터에 드러내지 않도록 해 준다.
이 구조가 극단으로 치달은 것이 바로 **양자간 피드(Bilateral Feed)**다. 이는 FX 시장의 상당 부분이 작동하는 방식인데, 특정 참여자(화이트리스트에 오른 카운터파티)에게만 가격을 보여주고, 이들이 데이터를 외부로 유출하지 않겠다고 동의하는 구조다. 공공 CLOB는 스프레드가 넓고, ‘상어’들로 가득 차 있으며, 그에 맞서는 방패가 바로 이런 다크 메커니즘인 셈이다.
아이스버그는 다크 오더의 ‘라이트 버전’이다. 예를 들어 1 랏만 공개하고 나머지는 숨기는 식이다. 공개된 1 랏이 체결되면, 거래소는 숨겨져 있던 물량에서 다시 1 랏을 큐의 뒤쪽에 재로딩한다.
여기에는 심각한 트레이드오프가 있다. 큐 우선순위를 잃는다는 점이다. 표준적인 레벨 3(주문 단위) 데이터는 숙련된 트레이더가 아이스버그가 언제 재로딩되었는지를 추론할 수 있게 해 준다. 따라서, 사실상 “나 여기 많이 있어요”라는 신호를 보내면서도, 줄의 맨 뒤에 서 있는 꼴이 된다. 이 경우, 차라리 전체 사이즈를 다 보여 주는 것보다 역선택(adverse selection) 리스크가 더 커질 수 있다.
몇 년 전 CME에는 아이스버그와 관련된 흥미로운 엣지 케이스가 있었다.
CME는 사적(private) 피드(당사자에게만 가는 체결 메시지)를 공적(public) 피드보다 약간 더 빨리 전송하고 있었다.
HFT들은 1+1 아이스버그(1 랏 표시, 1 랏 숨김)를 사용하면 양쪽의 장점을 동시에 취할 수 있음을 발견했다. 첫 1 랏이 체결될 때 받는 사적 체결 메시지를 통해 정확히 언제 거래가 발생했는지 파악하면서, 주문장 나머지 참여자들에 비해 정보 우위를 가질 수 있었던 것이다.
CME는 결국 스펙을 업데이트해 이 엣지를 제거했다. 하지만, 마이크로 구조의 작은 ‘구멍’ 하나가 어떻게 알파로 이어지는지를 보여주는 고전적인 사례로 남아 있다.
마지막으로 가장 괴상한 상호작용인 **견적 지배(Quote Domination)**를 살펴보자. 이는 SIX 스위스 거래소에서 볼 수 있는 구조다.
원래 예시로 돌아가서, Josh가 99달러에 5 랏을 판다고 하자. 정상적인 세계라면, 그는 메이커의 가격(100달러)에 체결될 것이다. 하지만 Quote Domination이 작동하는 세계에서는, Josh는 99달러에 체결된다.
여기서 거래소는 “일반 주문(Orders)”과 “견적(Quotes, 승인된 마켓 메이커의 호가)”를 구분한다. Quote가 Order와 상호작용할 때는, 체결 가격이 항상 Quote 가격에서 일어난다.
언뜻 보면 이는 마켓 메이커에게 불리해 보인다. 하지만 그 대신 더 낮은 수수료가 주어진다. 거래소의 메시지는 이렇다.
“저렴한 수수료를 원한다면, 진짜 마켓 메이커처럼 ‘크로스된 가격’에서 흐름(flow)을 흡수해야 한다.”
이 구조는 마켓 메이커들에게 여러 가지 골칫거리를 만든다.
마이크로 구조는 “최고 매수호가가 최저 매도호가와 만나면 끝”처럼 단순하지 않다. 프로라타 배분, 다크 풀(Dark Pools), 아이스버그, 견적 지배(Quote Domination) 등, 거래소는 유동성 공급자의 이해와 거래량 확보라는 목표를 저울질하며, 참여자 행동을 설계 의도대로 유도하기 위해 이런 규칙들을 디자인한다.
이 미세한 구조 차이를 이해하는지 여부가, 여러분의 알파가 실제로 스프레드를 포착하는지, 아니면 시장에 깔려 버리는지를 가르는 핵심 요인이 된다.
