ModuQuant
/시장은 왜 비효율적인가
백테스트와 전략의 세계로

시장은 왜 비효율적인가

마지막 수정: 2026. 7. 3. 오후 7:41:38약 13분 소요

시장은 왜 비효율적인가 ⭐⭐

키워드: 효율시장가설, 이상현상, 알파


1. 모든 전략의 뿌리가 되는 질문

투자 전략을 공부하다 보면 반드시 맞닥뜨리는 질문이 있다.

"시장이 효율적이라면, 왜 전략이 필요한가?"

반대로 생각하면 이렇다. "전략이 수익을 낼 수 있다면, 시장은 비효율적이어야 한다."

이 챕터는 그 논리의 출발점이다. 모멘텀 전략이든, 가치 전략이든, 추세추종 전략이든 — 모든 전략은 시장이 완벽하지 않다는 가정 위에 서 있다. 그 가정이 왜 합리적인지, 어떤 근거가 있는지를 이해하지 않으면 전략을 기계적으로 따르다가 원리를 모르는 채 흔들리게 된다.


2. 효율시장가설이란 무엇인가

2-1. 기본 개념

효율시장가설(Efficient Market Hypothesis, EMH)은 1960년대 시카고대학교의 유진 파마(Eugene Fama)가 체계화한 이론이다. 파마는 2013년 이 연구로 노벨경제학상을 수상했다.

핵심 주장은 단순하다.

"시장 가격은 이용 가능한 모든 정보를 즉각적으로 완전히 반영한다."

이 말이 사실이라면, 어떤 투자자도 공개된 정보를 이용해 시장을 지속적으로 이길 수 없다. 새로운 정보가 나오는 순간 수많은 투자자가 즉시 반응해 가격이 조정되기 때문에, 개인이 그 정보로 수익을 낼 기회 자체가 없어진다.

비유하자면 이렇다. 100원짜리 지폐가 길에 떨어져 있다고 하자. 효율시장가설에 따르면, 그 지폐는 이미 누군가가 주웠거나, 아직 아무도 못 봤다면 곧 누군가가 줍는다. 당신이 발견했을 때는 이미 없다. 시장에 수익 기회가 생기는 순간, 그것을 먼저 발견한 누군가가 즉시 이용해 기회를 소멸시킨다는 것이다.


2-2. 효율시장가설의 세 가지 형태

파마는 효율시장가설을 정보의 범위에 따라 세 단계로 구분했다.

약형 효율성 (Weak Form) 과거의 가격 및 거래량 정보가 현재 가격에 모두 반영되어 있다. 이것이 사실이라면 기술적 분석(차트 분석)은 의미가 없다. 과거 패턴을 이용해 미래를 예측할 수 없기 때문이다.

준강형 효율성 (Semi-Strong Form) 모든 공개 정보(재무제표, 뉴스, 공시 등)가 현재 가격에 반영되어 있다. 이것이 사실이라면 기본적 분석(재무 분석)도 의미가 없다. 공개된 정보로는 초과 수익을 낼 수 없기 때문이다.

강형 효율성 (Strong Form) 내부자 정보를 포함한 모든 정보가 현재 가격에 반영되어 있다. 이것이 사실이라면 내부자도 시장을 이길 수 없다. 현실적으로 이 형태는 거의 누구도 완전히 지지하지 않는다.


2-3. 효율시장가설이 틀렸다는 증거들

만약 효율시장가설이 완전히 옳다면, 이 책에 나오는 모든 전략은 의미가 없다. 그런데 현실은 다르다. 수십 년간의 학문적 연구와 실증 데이터는 시장에 지속적이고 반복적인 비효율성이 존재함을 보여준다.

가장 강력한 반증은 워런 버핏이다. 50년 이상 시장을 꾸준히 이긴 그의 존재는 "지속적 초과 수익은 불가능하다"는 주장을 정면으로 반박한다. 물론 파마는 "버핏은 수십억 명 중의 극단적 이상치"라고 반론하지만, 버핏 한 명이 아니라 수많은 가치투자자들이 장기간 시장을 이겨왔다는 사실은 단순한 운으로 설명하기 어렵다.


3. 시장 비효율성의 원인 1 — 행동경제학적 편향

시장 참여자들은 완전히 합리적인 존재가 아니다. 인간은 구조적이고 예측 가능한 방식으로 실수를 반복한다. 이것이 시장 비효율성의 가장 중요한 원인이다.

3-1. 과잉반응과 과소반응

과잉반응 (Overreaction): 인간은 나쁜 뉴스에 지나치게 강하게 반응한다. 한 기업이 예상보다 실적이 나쁘게 나오면 주가가 실제 가치 하락 이상으로 폭락한다. 이후 시장이 냉정을 되찾으면 가격이 다시 오른다. 이것이 평균회귀 전략의 이론적 근거다.

과소반응 (Underreaction): 반대로 좋은 뉴스에는 처음엔 충분히 반응하지 않는다. 좋은 실적이 발표되어도 투자자들은 처음엔 반신반의한다. 점차 확신이 쌓이면서 주가가 계속 오른다. 이것이 모멘텀 전략의 이론적 근거다. 어닝 발표 후에도 주가 상승이 수개월간 지속되는 현상을 PEAD(Post-Earnings Announcement Drift)라고 한다.


3-2. 손실 회피 편향 (Loss Aversion)

행동경제학자 대니얼 카너먼(Daniel Kahneman)과 아모스 트버스키(Amos Tversky)의 연구에 따르면, 인간은 같은 금액의 이익보다 손실을 약 2~2.5배 더 크게 느낀다. 100만 원을 버는 기쁨보다 100만 원을 잃는 고통이 훨씬 크다는 것이다.

이 편향이 시장에서 만드는 비효율은 두 가지다.

첫째, 투자자들은 손실 종목을 팔지 못하고 붙들고 있는 경향이 있다. 팔면 손실이 확정되기 때문이다. 이것이 하락 추세가 필요 이상으로 지속되지 않는 이유 중 하나다.

둘째, 이익이 난 종목은 너무 빨리 판다. 이익을 확정 짓고 싶은 충동 때문이다. 이것이 상승 추세가 과소평가되어 모멘텀이 지속되는 원인 중 하나다.


3-3. 군중 심리와 쏠림 현상 (Herding)

인간은 사회적 동물이다. 다른 사람들이 사면 나도 사고 싶고, 다른 사람들이 팔면 나도 팔고 싶다. 이 군중 심리가 시장에서 쏠림 현상을 만든다. 쏠림은 가격을 펀더멘털에서 멀어지게 하고, 이것이 나중에 급격한 조정으로 이어진다.

2000년 닷컴 버블, 2008년 금융위기 직전의 주택 시장 과열, 2021년 밈 주식 열풍 — 모두 쏠림 현상이 만들어낸 비효율의 사례다.


3-4. 확증 편향 (Confirmation Bias)

인간은 자신이 믿고 싶은 정보만 받아들이고, 불편한 정보는 무시하는 경향이 있다. 어떤 종목을 사기로 마음먹은 투자자는 그 종목에 대한 긍정적 뉴스만 눈에 들어온다. 이것이 시장에서 정보가 가격에 충분히 반영되지 않는 원인 중 하나다.


3-5. 앵커링 편향 (Anchoring)

인간은 처음 접한 숫자에 지나치게 집착한다. "이 주식은 52주 고점이 10만 원이었는데, 지금 7만 원이니 싸다"는 생각이 앵커링이다. 52주 고점이라는 숫자가 기준점(앵커)이 되어 판단을 왜곡한다. 52주 신고가 모멘텀 전략은 이 편향을 역으로 이용한다.


4. 시장 비효율성의 원인 2 — 구조적·제도적 요인

행동 편향 외에도 시장의 구조 자체가 비효율성을 만든다.

4-1. 정보 비대칭 (Information Asymmetry)

모든 투자자가 동시에 같은 정보에 접근할 수 없다. 기관 투자자는 기업 탐방, 전문 분석가, 고급 데이터 서비스에 접근할 수 있지만, 개인 투자자는 공시 자료에 의존한다. 정보가 균등하게 퍼지는 데 시간이 걸리고, 그 과정에서 가격 조정이 점진적으로 이루어진다.


4-2. 거래 제약과 비용

비효율성을 발견한 투자자가 즉시 그것을 이용해 가격을 효율적 수준으로 되돌릴 수 없는 구조적 장벽들이 존재한다.

  • 공매도 제약: 많은 시장에서 공매도가 제한되거나 비용이 높다. 과대평가된 주식이 있어도 이를 공매도해서 가격을 내리기 어렵다.
  • 유동성 제약: 비효율성이 있어도 그것을 이용하려면 충분한 유동성이 필요하다. 소형주의 비효율성은 유동성 부족으로 인해 오래 지속된다.
  • 거래비용: 아주 작은 비효율성은 거래비용을 감안하면 수익이 되지 않는다. 따라서 그 비효율성이 교정되지 않고 남아 있다.

4-3. 기관 투자자의 제약

기관 투자자들은 개인보다 정보와 자원이 많지만, 그들도 구조적 제약을 받는다.

  • 단기 성과 압박: 펀드매니저는 분기 또는 연간 성과로 평가받는다. 장기적으로 옳은 투자라도 단기에 손실이 나면 유지하기 어렵다.
  • 벤치마크 추종 압력: 많은 기관 투자자는 벤치마크 지수에서 크게 벗어나기 어렵다. 이것이 지수 구성 종목에 대한 과도한 수요를 만들고 비효율을 낳는다.
  • 대규모 자금의 한계: 수조 원을 운용하는 기관은 소형주나 유동성이 낮은 자산에서 발견된 비효율을 이용하기 어렵다. 너무 많은 돈을 한 번에 넣으면 가격이 움직여버리기 때문이다.

5. 시장 비효율성의 원인 3 — 리스크 프리미엄

일부 이상현상은 비효율이 아니라 숨겨진 리스크에 대한 보상이라는 시각도 있다.

예를 들어, 소형주가 대형주보다 수익률이 높은 것은 소형주가 더 위험하기 때문이라는 해석이다. 더 큰 파산 위험, 낮은 유동성, 정보 부족 등을 감수하는 대가로 더 높은 수익률을 받는다는 것이다.

이 시각과 행동경제학적 시각은 서로 대립한다. 현실에서는 두 가지 원인이 모두 작용한다고 보는 것이 가장 합리적이다. 중요한 것은 그 원인이 무엇이든 이상현상이 실제로 존재하고 지속된다는 사실이다.


6. 대표적인 시장 이상현상 (Market Anomalies)

수십 년간의 학술 연구에서 발견된 주요 이상현상들이다. 이것들이 이 책에서 다루는 전략들의 실증적 근거가 된다.

6-1. 모멘텀 이상현상

과거 3~12개월간 수익률이 높았던 주식이 향후 3~12개월간도 높은 수익률을 보이는 경향. 1993년 제가디시(Jegadeesh)와 티트만(Titman)의 연구로 체계화. 가장 강력하고 광범위하게 검증된 이상현상 중 하나.

6-2. 가치 이상현상

낮은 PBR, PER, PCR을 가진 주식이 장기적으로 시장을 초과하는 경향. 파마와 프렌치(French)의 3팩터 모델(1992)로 체계화.

6-3. 소형주 이상현상

시가총액이 작은 소형주가 장기적으로 대형주를 초과하는 경향. 밴즈(Banz, 1981)가 최초 발견.

6-4. 저변동성 이상현상

변동성이 낮은 주식이 변동성이 높은 주식보다 리스크 대비 수익률이 높은 경향. 전통 금융이론(고위험=고수익)에 정면으로 반한다.

6-5. 1월 효과

1월, 특히 월초에 소형주와 전년도 하락주의 수익률이 높아지는 경향. 12월의 세금 목적 매도 후 1월의 재매수로 설명된다.

6-6. 월요일 효과

월요일 수익률이 다른 요일보다 낮은 경향. 주말 동안 나쁜 뉴스가 쌓이고 월요일에 반영된다는 설명이 있다.


7. 이상현상은 왜 사라지지 않는가

합리적으로 생각하면, 이상현상이 발견되는 순간 많은 투자자들이 그것을 이용해 결국 사라져야 한다. 그런데 왜 수십 년이 지나도 많은 이상현상이 지속되는 것일까?

이유 1: 리스크에 대한 보상이기 때문에 이상현상을 이용하는 전략에는 그 나름의 리스크가 있다. 가치 전략은 장기간 시장 대비 부진할 수 있고, 모멘텀 전략은 급격한 추세 반전 시 큰 손실을 낸다. 이 리스크를 감수하지 않으려는 투자자들이 많기 때문에 이상현상이 유지된다.

이유 2: 행동 편향은 쉽게 고쳐지지 않기 때문에 인간의 심리적 편향은 알고 있어도 극복하기 어렵다. 손실 회피, 군중 심리, 과잉반응 — 이것들은 지식으로 해결되지 않는 감정의 문제다. 이상현상이 학술적으로 알려져도 투자자들의 행동은 크게 변하지 않는다.

이유 3: 구조적 제약이 여전히 존재하기 때문에 공매도 제약, 유동성 제약, 기관의 단기 성과 압박 등 구조적 장벽들이 이상현상을 즉시 소멸시키지 못하게 한다.

이유 4: 이상현상이 부분적으로만 알려졌기 때문에 모든 투자자가 모든 이상현상을 알고 있지 않다. 정보와 관심의 불균등한 분배가 이상현상을 지속시킨다.


8. 효율시장가설과 퀀트 전략의 공존

흥미롭게도, 퀀트 전략을 지지하는 사람들과 효율시장가설을 지지하는 사람들 사이의 논쟁은 지금도 계속된다. 그러나 실용적인 입장에서는 두 관점을 통합하는 것이 현명하다.

통합적 시각:

시장은 대체로 효율적이다. 그러나 완벽하지 않으며, 예측 가능한 방식으로 비효율적인 구간이 반복적으로 나타난다. 그 비효율성을 체계적으로 이용하는 것이 퀀트 전략이다. 단, 그 비효율성은 항상 어느 정도의 리스크와 함께 온다.

이 시각에서 보면, 투자 전략의 목표는 **"시장을 완전히 이기는 것"이 아니라 "감수하는 리스크 대비 더 나은 보상을 체계적으로 얻는 것"**이다.


📋 챕터 요약 카드

항목 내용
효율시장가설 핵심 모든 정보가 가격에 즉각 반영
약형 효율성 과거 가격 정보 반영 → 기술적 분석 무의미 주장
준강형 효율성 공개 정보 반영 → 기본적 분석 무의미 주장
비효율성 원인 1 행동 편향 (손실 회피, 군중 심리, 과잉반응 등)
비효율성 원인 2 구조적 제약 (공매도 제한, 유동성 부족, 거래비용)
비효율성 원인 3 숨겨진 리스크 프리미엄
대표 이상현상 모멘텀, 가치, 소형주, 저변동성, 1월 효과
실용적 결론 시장은 대체로 효율적, 단 예측 가능한 비효율 구간 존재

📌 핵심 요약 (3줄)

효율시장가설은 강력하지만 완전하지 않다. 시장은 예측 가능한 방식으로 반복적으로 비효율적이다. 비효율성의 원인은 인간의 행동 편향, 구조적 제약, 리스크 프리미엄의 세 가지로 설명된다. 퀀트 전략은 이 비효율성을 체계적으로 포착하려는 시도이며, 그 근거가 이 챕터에 담겨 있다.

➡️ 다음 챕터 예고: Chapter 5에서는 이 책의 모든 전략을 관통하는 4대 전략 패밀리를 개괄한다. 모멘텀·평균회귀·추세추종·변동성 전략이 각각 어떤 시장 비효율성을 이용하는지, 서로 어떻게 다르고 어떻게 보완하는지를 한눈에 파악한다.