금융시장에서의 추세와 평균 회귀, 그리고 임계점

금융시장에서 추세(trend)는 언제나 지속되지 않는다. Schmidhuber(2021)는 추세와 반전(reversal) 사이의 관계를 물리학적 관점에서 분석했다. 이 논문에서는 지난 30년간의 일간 주가지수, 금리, 통화, 원자재 선물 데이터를 분석했다. 결론은 추세가 너무 강해지면 결국 반전된다는 것이다. 논문의 함의뿐만 아니라 논문이 사용한 데이터 가공 방법까지 정리해 보았다.

 

1. 데이터

1.1. 수익률 측정

이 연구는 24개 선물 계약의 일간 로그 수익률(daily log-returns)을 바탕으로 진행됐다. 1990년 1월부터 2019년 12월 31일까지의 데이터를 사용했는데 첫 두 해의 데이터는 1992년 초의 추세 강도를 측정하기 위한 용도로만 활용됐다. 자산 $i$의 일별 가격 $P_i(t)$에 대한 정규화된 로그 수익률 $R_i(t)$는 다음과 같다.

$$R_i(t)=\displaystyle\frac{r_i(t)}{\sigma_i}, \quad r_i(t)=\ln \displaystyle \frac{P_i(t)}{P_i(t-1)}, \quad \sigma ^2=\mathrm{var}(r_i), \quad \mu_i=\mathrm{mean}(r_i).$$

여기에서 $\mu_i$는 해당 자산의 장기 평균 수익률이며 long-run daily risk premium이다. 선물의 수익률은 spot 수익률에서 무위험수익률을 뺀 값과 가까워지기 때문에 $\mu_i$를 risk premium이라고 부른다.

 

트렌드 계산에서는 risk premium을 제거한 수익률 $\hat{R}_i(t)=R_i(t)-\mu _i/\sigma _i$로 사용한다. 그 이유는 $E[\hat{R}_i]=0$이 되어 장기적으로 자산 가격이 상승하는 편향이 트렌드로 오인되는 것을 방지할 수 있기 때문이다.

 

1.2. 타임 스케일

논문은 10개의 타임 스케일에서 추세를 측정한다. 타임 스케일은 다음과 같이 정의된다.

$$T_k=2^k \, \text{ business days, } \, k \in \{1, 2, \dots , 10\}.$$

즉 한 자산에 대해 매일 10개의 trend signal이 동시에 존재하는 셈이다. 따라서 한 시장은 장기적으로 uptrend를 보일 수 있음에도 단기적으로 downtrend를 보일 수 있다.

 

1.3. 추세 강도

1.3.1. 정의

자산 $i$의 타임 스케일 $T$에서의 추세 강도는 다음과 같이 정의된다.

$$\phi_{i,T}(t)=\displaystyle \sum_{n=0}^{\infty}w_T(n)\hat{R}_i(t-n)$$

여기서 $t$는 현재 시점, $n$은 과거로 며칠 전인지, $w_T(n)$은 타임 스케일 $T$에 대한 weight function이다. 즉 추세 강도는 과거 normalized retun의 weighted sum이다. 최근 수익률이 계속 양수를 보였으면 $\phi >0$ 이고, 최근 수익률이 계속 음수를 보였으면 $\phi <0$이다. 그리고 $E[\hat{R}_i]=0$이므로 $E[\phi_{i,T}]=0$이다.

 

1.3.2. 가중치

논문은 weight function을 다음과 같은 조건으로 정규화한다.

$$\displaystyle \sum_{n=0}^{\infty}w^2_T(n)=1$$

이 조건에 따르면 $Var(\phi _{i, T})=1$이 되어 $\phi_{i,T}$는 사실상 t-statistic과 같게 된다. 이 작업 덕분에 모든 타임 스케일에서의 추세 강도를 동일 scale로 비교할 수 있다.

​

1.3.2.1. Exponential Decay

과거로 갈수록 가중치가 작아지도록 만들기 위해 다음과 같은 exponentially decaying weight function을 고려한다.
$$\tilde{w}_T(n)=M_Te^{-2n/T}$$

여기에서 normalization constant는 $M_T=\sqrt{1-e^{-4/T}}$이다. Exponential decay를 활용한 추세 강도 함수 $\psi$는 recursive computation이 가능하다:
$$\psi_{i,T}(T)=\displaystyle \sum_{n=0}^{\infty}\tilde{w}_T(n)\hat{R}_i(t-n) = e^{-2/T}\psi_{i,T}(t-1)+M_T \hat{R}_i(t)$$

하지만 이 방식은 outlier에 민감하다는 단점이 있다.

 

1.3.2.2. 대안 Weight Function
논문이 최종적으로 사용하는 weight은
$$w_T(n)=N_T(n+1)e^{-2n/T}$$

이다. 여기에서 normalization constant는
$$N_T=\displaystyle \frac{(1-e^{-4/T})^2}{\sqrt{1-e^{-8/T}}}$$

이다. 이 weight function의 특징은, $n$이 커질수록 초반에는 증가하다가 이후에는 exponentially decaying하다는 점이다. 따라서 이 함수의 그래프는 쐐기형이다. 또한 이 weight를 사용함으로써
$$E(n+1)=\displaystyle \sum_{n=0}^{\infty}(n+1)w_T(n)\left[\sum_{k=0}^{\infty}w_T(k) \right]^{-1}=T$$

를 만족하게 되어 trend horizon을 정확히 $T$로 맞출 수 있다.

 

1.3.3. 추세 강도의 Recursive computation
최종적으로 추세 강도는 다음 방식으로 계산된다.
$$\phi_{i,T}(t)=\displaystyle \sum_{n=0}^{\infty}w_T(n)\hat{R}_i(t-n)=e^{-2/T}\phi_{i,T}(t-1)+\frac{N_T}{M_T}\psi_{i,T}(t)$$

회귀분석에서는 extreme observation이 결과를 왜곡하지 않도록 아래와 같이 cap을 설정한다.
$$\phi_{i,T}^{cap}=\min(2.5, \max(-2.5, \phi_{i,T}))$$

 

2. 질적 연구 결과
어제의 시장 추세 강도와 오늘의 수익률 사이에는 어떤 관계가 성립할까? 논문은 먼저 추세 강도를 15개의 구간으로 나눈다. 각 구간에서 계산하는 것은 다음날의 평균 수익률, 즉 $E[R(t)|\phi]$이다. 

그 결과 추세 강도가 0일 때 다음날 기대수익률은 작고 중간 수준일 때 강한 추세가 나타난다. 그리고 추세 강도가 임계점인 2를 넘어서게 되면 기대수익률은 마이너스로 전환한다. 기대수익률은 아래 그림과 같이 추세 강도의 3차 그래프로 근사된다.

 

이것이 의미하는 바는 시장에는 두 가지 힘이 동시에 존재한다는 점이다. 기대수익률은 추세 추종 강도를 나타내는 linear term $b\phi$, 평균 회귀 강도를 나타내는 cubic term $c\phi^3$의 합으로 나타낼 수 있다. 이 결과는 전통적 추세추종 원칙과는 차이가 있다. 전통적으로는 추세가 강해질수록 더 크게 베팅하라고 말한다. 하지만 이 논문에서는 추세가 너무 강해지면 오히려 반전 확률이 증가한다는 점을 보여주고 있다.

 

3. 통계적 유의성
3.1. 회귀분석 결과
이 논문은 시장의 다음날 수익률이 다음과 같이 현재 추세 강도의 3차 다항식(cubic polynomial) 형태를 따른다는 점을 증명한다. 
$$R(t+1)=a+b \cdot \phi(t)+c \cdot \phi^3(t) + \epsilon(t+1)$$
논문은 28년간의 데이터를 분석한 결과 회귀식에 대한 결과를 아래와 같이 제시한다.

 

$b$와 $c$ 계수는 작지만 99% 신뢰 수준에서 신뢰 수준이 매우 유의미함이 확인되었다. 또한 10개의 타임 스케일을 통합했을 때의 adjusted $R^2$는 약 4bp에 달한다. 이는 금융 데이터의 노이즈를 고려할 때 상당히 높은 수준이다.  

3.2. Time Horizon에 따른 계수의 변화
앞서 구한 3차 다항식의 계수는 $T$에 따라 변한다. 추세 계수 $b(T)$의 분석 결과, 추세 추종 전략이 가장 잘 먹히는 구간은 3개월에서 1년 사이다. 반전 계수 $c(T)$는 모든 $T$에서 비교적 일정한 값을 유지한다. 이는 시장의 평균 회귀 성향은 단기든 장기든 보편적으로 나타난다는 것을 의미한다.

 

$b(T)$의 모양을 알기 위해 $k=\log _2 T$를 변수로 하는 2차 함수 모델을 도입한다.

$$b(k)=\displaystyle b \cdot \left[1-\left(\frac{k-k_0}{\Delta k} \right)^2 \right]$$

여기에서 $b$는 정점에서의 최대 추세 강도 계수이고  $k_0$는 추세 추종 효율이 극대화되는 지점이며, $\Delta k$는 추세가 유효하게 작용하는 대역폭이다. 결국 타임 스케일인 $T$까지 고려한 회귀식은 다음과 같이 쓸 수 있다.
$$R(t+1)=\displaystyle  b \cdot \left[1-\left(\frac{k-k_0}{\Delta k} \right)^2 \right] \cdot \phi(t)+c \cdot \phi^3(t) + \epsilon(t+1)$$

이 모델은 4개의 핵심 파라미터 $b$, $c$, $k_0$, $\Delta k$로 금융시장의 움직임을 설명하려 하고 있다. 회귀분석 결과 여러 타임 스케일을 통합한 결정계수 $R_{adj}^{2}$가 약 6bp까지 상승하며 모델의 설명력은 크게 개선된다.

 

위 결과에 따르면 최적의 추세 기간이 $T=2^{5.78}\approx55$거래일(2.5개월)임을 의미한다. 그리고 이때 임계 추세 강도는 $\phi_c=1.78 \pm0.32$이다. 적어도 추세 강도가 2보다 높아지면 추세는 반전한다. 아래 히트맵을 통해서 오늘의 추세 강도와 time horizon이 내일의 수익률에 미치는 영향을 확인할 수 있다.

 

아래 타원은 추세 영역(trend regime)과 반전 영역(reversion regime)의 경계를 나타내고 있다. $k_0$ 근처의 타임 스케일에서는 $b(k)$가 커서 추세가 지배적이다. 한편 타임 스케일이 너무 짧거나 너무 길면 추세보다는 반전의 힘이 더 강력해진다.

 

4. 물리학 비유
4.1. 2차 상전이
물리학에서 상전이는 물질의 상태가 급격히 변하는 현상을 말한다. 1차 상전이는 물이 끓거나 얼음이 녹을 때처럼 에너지가 계단식으로 뚝 끊기며 변하는 현상이다. 2차 상전이는 연속적으로 서서히 변하다가 어느 임계점에서 성질이 완전히 바뀌는 현상이다. 철을 아주 뜨겁게 달구면 어느 순간 자석의 성질을 잃어버린다. 자성은 온도가 오르면서 서서히 약해지다가 특정 온도(임계 온도)에서 완전히 사라진다. 이를 2차 상전이라고 부른다.

4.2. 모델의 물리적 의미
논문의 핵심 결과는 수익률을 $R(t+1)=b\phi(t) + c\phi^3(t)$로 쓸 수 있다는 점이다. 이 식은 금융시장이 단순한 추세적 시장도, 완전한 평균회귀 시장도 아니라는 점을 의미한다. 오히려 시장은 추세를 강화하는 힘과 이를 억제하는 힘 사이의 비선형적인 균형 위에서 움직인다. 이 관계식에서 기대수익률이 0이 되는 임계점은
$$\phi_c=\displaystyle \sqrt{-\frac{b}{c}}$$

이다. 이 값은 시장의 추세가 지속되는 영역과 평균회귀가 나타나는 영역을 구분하는 경계 역할을 한다. 즉 추세는 무한히 강화될 수 있는 현상이 아니라 일정 수준 이상 강해질 경우 반전 압력을 받는다는 것을 의미한다. 이러한 메커니즘은 차익실현, 고밸류 우려, 역추세매매 전략 등 다양한 시장 참여자의 행동을 통해 나타날 수 있다. 

수익률과 추세 강도의 관계를 
$$R(t+1)=\displaystyle -\frac{dV(\phi)}{d\phi}$$

로 표현할 수 있다. 여기서 $V(\phi)$는 다음과 같은 퍼텐셜(potential) 함수이다.
$$V(\phi)=\displaystyle -\frac{b}{2}\phi^2 -\frac{c}{4}\phi^4$$

이는 금융시장이 어떤 어떤 potential landscape 위에서 움직이는 것처럼 해석될 수 있다. 작은 추세 강도에서는 시스템이 추세를 강화하는 방향으로 움직이지만, 추세 강도가 일정 수준 이상 커지면 반대로 이를 감소시키는 방향의 힘이 작용한다. 이러한 해석에서 $\phi$는 물리학의 질서 파라미터(order parameter)와 유사한 역할을 한다. 

질서 파라미터는 시스템의 거시적 상태를 나타내는 변수이다. 예를 들어 자성 물질에서는 자화(magnetization)가 질서 파라미터이며, 액체-기체 전이에서는 밀도 차이가 질서 파라미터이다. 금융시장에서는 추세 강도가 시장 참여자의 행동이 어느 정도 동일한 방향으로 정렬되어 있는지 나타내는 변수로 해석될 수 있다. 즉 추세 강도가 크다는 것은 많은 시장 참여자가 동일한 방향으로 포지션을 취하고 있음을 의미한다.

이러한 관점에서 금융시장은 개별 투자자의 독립적인 행동이 단순히 합쳐진 결과라기보다는, 상호작용하는 참여자들의 집합적 움직임으로 이해할 수 있다. 추세는 단순한 가격 패턴이 아니라 시장 참여자들 사이의 정보 전달, 모방 행동, 전략적 상호작용 등에서 발생하는 군집 행동(herding)의 결과일 수 있다. 동시에 추세가 지나치게 강해지면 반대 방향의 전략이 등장하거나 위험 관리 행동이 증가하면서 시스템은 다시 안정 상태로 돌아가려는 경향을 보인다.

 

5. 결론
5.1. 금융시장의 근본적인 특징
결론적으로, 금융시장에는 추세적으로 유의미한 추세 추종 효과가 존재한다. 하지만 이 효과는 3차 함수 형태의 비선형이다. 즉 다음날 수익률은 $R(t+1)=b\phi(t)+c\phi^3(t)$ 로 쓸 수 있으며, $b>0$이고 $c<0$이다. 먼저 $b>0$이라는 사실은 작은 추세가 존재할 때 그 추세가 미래에도 지속될 가능성이 높다는 것을 의미한다. 그러나 동시에 $c<0$이라는 결과는 이러한 추세 효과가 무한히 증가하지 않는다는 것을 의미한다.

또한 이러한 결과는 특정 시장이나 특정 자산에 국한된 현상이 아니다. 주가지수, 채권, 원자재, 외환 등 다양한 자산군에서 동일한 분석을 수행한 결과, 동일한 형태의 관계가 반복적으로 관찰된다. 이는 금융시장의 추세 구조가 특정 투자 전략에 의해 우연히 발생한 것이 아니라 금융시장 가격 형성 과정의 보다 근본적인 통계적 특징일 가능성을 시사한다.

5.2. 효율적 시장 가설(EMH)
논문은 이 결과가 곧바로 시장이 비효율적이라는 결론을 의미하지는 않는다고 주장한다. 추세는 추세 강도가 임계점을 넘었을 때 반전한다. 즉, 추세가 통계적으로 유의하다는 것이 확인되고, 가격 차트에서도 명확한 추세가 보일 정도가 되면 이미 그 추세의 상당 부분은 진행된 이후일 가능성이 높다. 이러한 결과는 시장 가격이 완전히 무작위적이지는 않지만 명확하게 식별 가능한 추세가 초과 수익을 제공하기는 어렵다는 점에서 효율적 시장 가설과 일정 부분 양립 가능하다고 볼 수 있다.

5.3. 투자 전략의 예시
그렇다고 해서 모든 추세가 투자적으로 무의미하다는 것은 아니다. 작은 규모의 추세도 통계적으로 유의미한 예측력을 가질 수 있다. 미약한 추세 신호는 tactical asset allocation과 같은 전략에서 일정한 가치를 가질 수 있다. 투자자는 작은 추세가 형성되는 초기 단계에서 포지션을 취함으로써 초과수익률을 달성할 수 있으며, 추세가 지나치게 강해질 때 포지션을 기민하게 줄일 수 있다. 따라서 추세 추종과 평균회귀 전략은 독립적인 투자 전략이 아니라 금융시장 전체의 동역학을 구성하는 상호 보완적인 요소로 이해할 수 있다.

 

참고:

• Christof Schmidhuber, "Trends, reversion, and critical phenomena in financial markets", Physica A: Statistical Mechanics and its Applications 566, 2021. (link)