금융시장은 항상 한 방향으로만 움직이지 않는다. 일부 가격, 수익률, 밸류에이션 지표, 그리고 두 자산 사이의 스프레드는 평소 범위에서 크게 벗어난 뒤 장기 평균 수준으로 돌아가려는 성향을 보이기도 한다. 이러한 움직임을 활용하려는 거래 방식이 평균 회귀 트레이딩이다.
핵심 가정은 극단적인 가격 변화가 반드시 새로운 추세의 시작은 아니며, 일시적인 수급 불균형일 수 있다는 것이다. 가격이 정상 범위보다 크게 낮아지면 매수하고, 평균보다 지나치게 높아지면 매도하거나 숏 포지션을 구축한다. 이후 가격이나 스프레드가 기준 수준에 가까워지면 포지션을 청산한다.
그러나 평균 회귀가 모든 하락 뒤에 상승이 나타나고 모든 상승 뒤에 조정이 발생한다는 뜻은 아니다. 평균 자체가 변할 수 있고, 과거에 안정적이었던 관계가 영구적으로 무너질 수도 있다. 따라서 실용적인 전략은 분석 대상이 실제로 평균 회귀성을 지니는지, 회귀에 어느 정도의 시간이 필요한지, 현재 움직임이 일시적인 이탈인지 구조적인 변화인지를 판단해야 한다.
평균 회귀와 모멘텀의 차이
평균 회귀와 모멘텀은 시장 움직임을 바라보는 상반된 접근법이다.
모멘텀 전략은 이미 형성된 방향이 계속될 가능성에 주목한다. 일반적으로 최근 강세를 보인 자산을 매수하고 약세 자산을 매도한다. 반대로 평균 회귀 전략은 과도한 움직임이 수정될 수 있다고 보고, 가격 반전이나 스프레드 수렴을 찾는다.
평균 회귀는 일정한 범위 안에서 등락하는 시장과 유동성이 비교적 안정된 환경에서 효과를 보이기 쉽다. 모멘텀은 명확한 방향성이 지속되는 시장에서 유리하다. 횡보하던 시장이 갑자기 강한 상승 또는 하락 추세로 전환하면 평균 회귀 전략은 연속적인 손실을 경험할 수 있다.
두 현상은 같은 자산에서도 서로 다른 시간 범위에 나타날 수 있다. 예를 들어 몇 달 동안 상승 추세를 유지하는 자산도 단기적인 과매수 이후 며칠간 조정을 받을 수 있다. 따라서 분석 주기에 따라 동일한 시장이 추세형으로도, 평균 회귀형으로도 보일 수 있다.
평균 회귀성을 검증하는 방법
차트를 눈으로 확인하는 것만으로는 충분하지 않다. 과거에 가격이 이동평균선으로 여러 번 돌아왔다고 해서 미래에도 같은 움직임이 반복된다는 보장은 없다. 정량적 분석에서는 통계 검정, 회귀 속도, 경제적 근거를 함께 살펴본다.
확장 디키–풀러 검정, 즉 ADF 검정은 시계열에 단위근이 존재하는지를 확인하는 대표적인 방법이다. 단위근 가설을 기각하지 못하면 해당 시계열이 랜덤워크에 가까울 수 있다. 반대로 가설을 기각하면 정상성과 평균 회귀 가능성을 뒷받침하는 통계적 증거가 된다.
다만 통계적으로 유의하다고 해서 반드시 거래할 수 있는 기회가 되는 것은 아니다. 장기적으로 평균에 돌아오는 시계열이라도 회귀에 몇 년이 걸린다면 자본 효율성과 거래비용을 고려할 때 현실적인 전략이 아닐 수 있다.
허스트 지수도 시계열의 성격을 구분하는 데 사용된다. 일반적으로 0.5에 가까운 값은 랜덤워크, 0.5 미만은 반지속성 또는 평균 회귀 성향, 0.5 초과는 추세 지속 성향과 연결된다. 그러나 분석 기간, 데이터 주기, 계산 방식에 따라 값이 달라질 수 있으므로 독립적인 매매 신호보다는 후보를 선별하는 도구로 활용하는 편이 적절하다.
평균 회귀의 반감기는 현재의 이탈 폭이 절반으로 줄어드는 데 필요한 예상 기간을 의미한다. 이 수치는 관찰 구간, 예상 보유 기간, 자본 효율성을 결정하는 데 도움을 준다. 통계적으로 평균 회귀성이 확인되더라도 반감기가 지나치게 길면 단기 또는 중기 전략에는 적합하지 않을 수 있다.
대표적인 평균 회귀 전략
볼린저 밴드는 이동평균선을 중심으로 변동성에 따른 상단과 하단 밴드를 설정한다. 가격이 바깥쪽 밴드를 넘어선 뒤 다시 범위 안으로 들어오면 반전 가능성을 찾을 수 있다.
하지만 강한 추세가 이어지는 동안 가격은 장기간 밴드를 따라 움직일 수 있다. 따라서 밴드에 닿았다는 사실만으로 역방향 포지션을 잡으면 손실이 커질 수 있다. 추세, 변동성, 정상성 등을 확인하는 필터와 함께 사용하는 것이 중요하다.
상대강도지수인 RSI도 단기적인 극단 상태를 파악하는 데 이용된다. 낮은 RSI는 강한 매도 압력을, 높은 RSI는 과도한 매수세를 나타낼 수 있다. 그러나 과매도나 과매수 상태가 즉각적인 반전을 보장하지는 않는다. 시장 구조와 추세, 변동성을 함께 확인해야 신호의 품질을 높일 수 있다.
페어 트레이딩은 평균 회귀를 두 자산 사이의 관계에 적용한다. 장기적으로 안정된 경제적 관계를 가진 두 자산의 스프레드가 크게 벌어지면 상대적으로 약한 자산을 매수하고 강한 자산을 매도한다. 이후 스프레드가 다시 좁아질 때 포지션을 정리한다.
중요한 조건은 단순한 상관관계가 아니라 보다 안정적인 장기 관계다. 두 자산이 일정 기간 높은 상관관계를 보였더라도 경제 환경이 달라지면 영구적으로 다른 방향으로 움직일 수 있다. 이 때문에 페어 트레이딩에서는 공적분 관계를 검증하는 과정이 중요하다.
Z점수는 현재 스프레드가 이동평균에서 몇 표준편차만큼 떨어져 있는지를 보여준다. 정해진 진입 기준을 넘으면 포지션을 열고, 평균 근처로 돌아오면 청산하며, 이탈이 손절 기준까지 확대되면 거래를 종료하는 규칙을 만들 수 있다.
이러한 기준은 모든 시장에 동일하게 적용할 수 없다. 대상 자산의 특성, 데이터 주기, 변동성, 유동성, 실제 거래비용, 표본 외 검증 결과에 따라 조정해야 한다.
평균 회귀는 어떤 시장에서 나타나는가?
평균 회귀 성향은 외환 교차환율, 금리 스프레드, 수익률곡선 관계, 원자재 만기 간 스프레드, 경제적으로 연결된 주식 포트폴리오 등에서 나타날 수 있다. 단일 자산의 절대가격보다 공통 시장 요인을 일부 제거한 상대 스프레드가 더 안정적인 경우도 있다.
그러나 회귀를 만드는 원인은 시장마다 다르다. 주가 하락은 일시적인 가격 오류가 아니라 기업 실적이나 사업 전망의 실제 악화를 반영할 수 있다. 원자재 가격은 높은 가격과 낮은 가격에 공급이 반응하면서 장기적으로 조정될 수 있지만, 그 과정에는 수개월 또는 수년이 필요할 수 있다.
신용 스프레드는 정상적인 환경에서 축소될 수 있지만 위기 상황에서는 부도 위험이 증가하면서 계속 확대될 수 있다. 따라서 전략은 과거 차트에 나타난 아름다운 패턴뿐 아니라 관계를 유지시키는 경제적 이유에 기반해야 한다.
평균 회귀 트레이딩의 주요 위험
가장 큰 위험은 평균이 바뀌는 것이다. 기업 합병, 규제 변화, 통화정책 전환, 사업 모델의 붕괴, 공급 충격 등은 과거에 안정적이었던 관계를 무효화할 수 있다. 이런 상황에서 시장은 기존 평균에서 잠시 벗어난 것이 아니라 새로운 균형 수준을 찾고 있을 수 있다.
시장 국면의 전환도 중요한 위험이다. 횡보장이 강한 추세장으로 바뀌면 이미 극단적으로 보이는 가격이 같은 방향으로 더 멀리 움직일 수 있다. 손실이 커질 때마다 포지션을 추가하면 제한할 수 있었던 손실이 심각한 규모로 확대될 수 있다.
전략 혼잡도 고려해야 한다. 여러 기관이 비슷한 상대가치 포지션을 보유한 상태에서 동시에 청산에 나서면 스프레드가 급격히 확대되고 유동성이 약해질 수 있다. 장기적으로 통계 관계가 유효하더라도 회복이 시작되기 전에 큰 손실이 발생할 수 있다.
거래비용도 무시해서는 안 된다. 평균 회귀 전략은 거래 빈도가 높을 수 있으며, 페어 트레이딩은 두 개의 포지션을 동시에 관리해야 한다. 수수료, 매수·매도 호가 차이, 슬리피지, 자금조달 비용, 공매도 비용은 백테스트에서 보인 이론적 수익을 크게 줄일 수 있다.
더 신뢰할 수 있는 프로세스 구축
견고한 전략은 명확한 경제적 가설에서 출발한다. 이후 적절한 데이터를 선택하고 정상성이나 공적분 관계를 검증하며, 반감기를 추정하고 진입·청산·손절·포지션 규모 규칙을 설정한다.
백테스트에서는 미래 정보를 미리 사용하는 오류를 방지하고 현실적인 거래비용을 반영해야 한다. 표본 외 테스트, 롤링 검증, 스트레스 테스트를 통해 전략이 특정한 유리한 시기에만 맞춰진 것은 아닌지 확인할 수 있다.
실제 운용이 시작된 뒤에도 정상성, 반감기, 스프레드 변동성, 경제적 관계를 지속적으로 감시해야 한다. 이러한 특성이 악화되면 과거 평균으로 반드시 돌아올 것이라고 가정하기보다 노출을 줄이거나 거래를 중단해야 한다.
포지션 크기는 스프레드의 변동성과 감당할 수 있는 최대 손실에 따라 결정해야 한다. 통계적 손절 기준을 설정하면 이탈이 모델의 예상 범위를 넘어설 때 손실을 제한할 수 있다. 커지는 손실을 자동으로 더 좋은 진입 기회라고 판단하는 것은 평균 회귀 거래에서 가장 위험한 생각 중 하나다.
평균 회귀는 시장의 이탈을 체계적으로 분석하는 유용한 틀이지만 반전을 보장하지는 않는다. 성공적인 운용을 위해서는 검증 가능한 통계 관계, 타당한 경제 논리, 현실적인 체결 조건, 엄격한 위험 관리가 필요하다. 목표는 모든 하락을 매수하는 것이 아니라 구조적 관계가 여전히 유효하고, 실용적인 기간 안에 조정될 가능성이 있으며, 손실 한도를 명확히 설정할 수 있는 이탈을 찾는 것이다.
이 글은 교육 및 정보 제공만을 목적으로 하며 투자 조언이 아니다. 과거의 통계적 관계는 변할 수 있으며, 모든 거래 전략에는 손실 위험이 존재한다.