암호해독가, 월스트리트로 가다

Inteliview Guru Story — 짐 사이먼스 EP.1

1964년, 26세의 수학자가 미국 국가안보국(NSA)의 지하 벙커에 앉아 있었다. 그의 일은 소련의 암호를 해독하는 것이었다. 냉전의 최전선. 그런데 이 수학자는 베트남 전쟁에 반대하는 글을 신문에 기고했다가 NSA에서 해고됐다. 26년 뒤, 그는 월스트리트 역사상 가장 수익률이 높은 헤지펀드를 운영하고 있었다. 이것은 짐 사이먼스가 암호해독에서 시장 해독으로 전환한 이야기다.

1. 브루클라인의 수학 소년

제임스 해리스 사이먼스(James Harris Simons). 1938년 매사추세츠주 브루클라인에서 태어났다. 아버지 매슈 사이먼스는 신발 공장의 매니저였다. 유대계 중산층 가정.

사이먼스는 어릴 때부터 숫자에 매혹됐다. 3세 때 스스로 숫자 세기를 배웠다는 가족의 증언이 있다. 그가 훗날 한 인터뷰에서 말했다.

"저는 아주 어릴 때 한 가지 생각에 빠진 적이 있습니다. 자동차 연료가 반씩 줄어든다면, 절대 0이 되지 않는 거 아닌가? 반의 반의 반… 영원히 달릴 수 있는 거 아닌가? 나중에 이것이 '제논의 역설'이라는 것을 알았습니다. 수학을 배우기도 전에 수학적 사고를 하고 있었던 겁니다."

MIT에 입학했다. 수학 전공. 학부를 3년 만에 졸업했다. 22세에 UC 버클리에서 수학 박사학위를 받았다. 박사 논문 주제는 미분기하학(differential geometry). 다양체(manifold) 위의 홀로노미(holonomy) 그룹에 관한 연구.

이것이 투자와 무슨 관계가 있는가. 직접적 관계는 없다. 그러나 간접적 관계는 있다. 미분기하학은 고차원 공간에서의 패턴을 다루는 학문이다. 눈에 보이지 않는 구조를 수학적으로 포착하는 훈련. 사이먼스가 나중에 금융 시장에서 한 것도 정확히 이것이었다 — 눈에 보이지 않는 가격 패턴을 수학적으로 포착하는 것.

2. NSA — 냉전의 수학자

1964년, 26세의 사이먼스가 프린스턴 고등연구소(Institute for Defense Analyses, IDA)에 합류했다. IDA는 미국 국방부 산하 연구기관으로, NSA(국가안보국)의 암호해독 업무를 지원하는 곳이었다.

냉전의 한가운데였다. 소련과 미국이 핵무기를 겨누고 있었다. 양측의 군사 통신은 암호화돼 있었다. 이 암호를 해독하는 것이 국가 안보의 핵심이었다.

사이먼스의 일은 소련의 암호화 시스템을 수학적으로 분석하고, 해독 알고리즘을 개발하는 것이었다. 구체적 내용은 지금도 기밀이다.

그가 이 일에서 배운 것은 두 가지였다.

첫째, 패턴은 어디에나 있다. 암호가 아무리 복잡해도, 충분한 데이터와 충분한 수학을 적용하면 패턴이 보인다. 암호 설계자가 의도적으로 숨긴 패턴도, 그들이 의식하지 못한 패턴도. 이것은 나중에 금융 시장에서 같은 방식으로 적용됐다. 시장의 가격 움직임이 아무리 무작위로 보여도, 충분한 데이터와 충분한 수학이 있으면 패턴이 보인다.

둘째, 컴퓨터의 힘. 1960년대의 암호해독은 이미 컴퓨터에 의존하고 있었다. 인간의 두뇌로는 처리할 수 없는 방대한 데이터를 기계가 처리했다. 사이먼스는 여기서 컴퓨터를 이용한 대규모 데이터 분석의 경험을 쌓았다.

그러나 NSA에서의 경력은 갑자기 끝났다.

3. 해고

1967년, 베트남 전쟁이 격화되고 있었다. 사이먼스는 전쟁에 반대했다. 그는 뉴욕타임스에 기고문을 보내 베트남 전쟁에 대한 반대 의견을 공개적으로 밝혔다.

NSA는 국방부 산하 기관이었다. 국방부의 정책에 공개적으로 반대하는 직원을 용납할 수 없었다. 사이먼스는 해고됐다. 29세.

"저는 두 가지를 동시에 할 수 있다고 생각했습니다. 정부를 위해 일하면서 정부의 정책에 반대하는 것. 순진했습니다."

그러나 이 해고가 그에게 다음 길을 열었다. 틸이 대법관 서기에 탈락한 뒤 실리콘밸리로 간 것처럼, 멍거가 변호사 생활에 불만을 느끼고 투자를 시작한 것처럼.

4. 스토니브룩의 학과장

1968년, 30세의 사이먼스가 스토니브룩 대학교(Stony Brook University)의 수학과 학과장으로 부임했다. 뉴욕주 롱아일랜드에 있는 주립대학이었다. 30세에 학과장 — 이례적으로 젊었다. 그가 부임하면서 한 것은 세계적 수학자들을 스토니브룩으로 데려오는 것이었다. 그의 인맥과 학문적 명성을 활용해 톱 클래스 수학자들을 영입했다. 몇 년 만에 스토니브룩 수학과는 미국 내 상위권 프로그램이 됐다.

사이먼스 자신도 이 시기에 가장 중요한 수학적 업적을 남겼다. 천-사이먼스 형식(Chern-Simons form). 위대한 중국 수학자 천성신(陳省身, Shiing-Shen Chern)과 함께 발표한 이론이다. 미분기하학과 위상수학(topology)을 연결하는 불변량(invariant)에 관한 것으로, 이후 이론물리학 — 특히 양자장 이론과 끈 이론 — 에서 핵심적으로 사용됐다.

천-사이먼스 이론은 물리학에서 가장 많이 인용되는 수학 논문 중 하나가 됐다. 사이먼스는 이 업적만으로도 수학 역사에 이름을 남길 수 있었다.

그런데 그는 수학만으로는 만족하지 못했다.

"저는 수학을 사랑합니다. 그러나 수학에는 한 가지 문제가 있습니다 — 돈이 안 됩니다."

그는 학과장 시절부터 부업으로 투자를 시작했다. 처음에는 개인 자금으로 상품(commodity) 선물을 거래했다. 설탕, 콩, 통화. 직감에 의존한 거래였다.

결과는 나쁘지 않았다. 몇 년간 꽤 좋은 수익을 냈다. 그러나 사이먼스는 불만이었다.

"직감으로 거래하면 때때로 맞지만, 왜 맞는지 모릅니다. 그리고 왜 틀리는지도 모릅니다. 수학자에게 이것은 견딜 수 없는 상태입니다."

그는 직감을 수학으로 대체하기로 결심했다.

5. "모델을 만들자"

1978년, 40세의 사이먼스가 투자 회사 모넥스(Monemetrics)를 설립했다. 아직 학과장 직을 유지하면서. 이 회사가 나중에 르네상스 테크놀로지(Renaissance Technologies)로 이름을 바꿨다.

사이먼스의 접근법은 당시 월스트리트의 어떤 것과도 달랐다.

1978년의 월스트리트에서 투자는 이렇게 이루어지고 있었다. 펀드매니저가 기업을 분석한다. 경영진을 만난다. 산업을 연구한다. 거시 경제를 전망한다. 그리고 자기 판단에 따라 사고판다. 버핏, 소로스, 린치, 드러켄밀러 — 전부 이 방식이었다. 인간의 판단이 투자의 중심이었다.

사이먼스는 인간의 판단을 배제하려 했다.

"인간은 편향이 있습니다. 멍거가 25가지 편향 목록을 만들었죠? 저는 그 25가지 편향을 '제거'하고 싶었습니다. 수학 모델은 편향이 없습니다. 감정이 없습니다. 두려움도 탐욕도 없습니다. 모델이 '사라'고 하면 사고, '팔아라'고 하면 팝니다. 인간이 끼어들지 않습니다."

그의 계획은 이랬다.

• 1단계: 금융 시장의 방대한 가격 데이터를 수집한다.
• 2단계: 그 데이터에서 통계적으로 유의미한 패턴을 찾는다.
• 3단계: 그 패턴을 수학 모델로 만든다.
• 4단계: 모델이 자동으로 거래한다. 인간은 모델을 만들기만 하고, 거래 자체는 컴퓨터가 한다.

퀀트 투자(quantitative investing)의 시작이었다.

6. 수학자들을 모으다

사이먼스는 월스트리트에서 사람을 뽑지 않았다.

그가 뽑은 사람들 — 수학자, 물리학자, 천문학자, 컴퓨터 과학자, 통계학자, 암호학자.

MBA 출신? 없었다. 금융 경력자? 거의 없었다. 사이먼스가 원한 것은 금융 지식이 아니라 패턴 인식 능력이었다. 암호를 해독할 수 있는 사람은 시장의 패턴도 해독할 수 있다는 것이 그의 가설이었다.

초기 핵심 인물들.

레너드 바움(Leonard Baum): 수학자. '바움-웰치 알고리즘(Baum-Welch algorithm)'의 공동 개발자. 이 알고리즘은 은닉 마르코프 모델(Hidden Markov Model)의 파라미터를 추정하는 방법으로, 음성 인식 기술의 기반이 됐다. 사이먼스는 이것을 금융 시장 분석에 적용했다 — 시장의 "숨겨진 상태"를 추정하는 데 사용한 것이다.

제임스 액스(James Ax): 수학자. 필즈상에 비견되는 콜 상(Cole Prize) 수상자. 대수학 전문. 사이먼스와 함께 초기 거래 모델을 개발했다.

엘윈 벌리캠프(Elwyn Berlekamp): UC 버클리의 수학 교수. 정보 이론과 코딩 이론의 대가. 그가 참여한 뒤 모델의 성능이 극적으로 개선됐다.

이후에도 물리학자 로버트 머서(Robert Mercer)와 컴퓨터 과학자 피터 브라운(Peter Brown)이 합류했다. 이 두 사람은 IBM에서 기계 번역(machine translation)을 연구하던 사람들이었다. 자연어를 통계적으로 분석하는 방법론을 가지고 있었고, 이것이 시장 데이터 분석에도 적용됐다.

사이먼스가 팀을 구성하는 방식은 페이팔의 피터 틸과 닮아 있었다. 극단적으로 뛰어난 사람만 뽑는 것 — 그리고 그들에게 금융을 가르치는 것이 아니라, 그들이 가진 도구(수학, 물리학, 컴퓨터 과학)를 금융에 적용하게 하는 것.

7. 초기의 고전

르네상스 테크놀로지의 초기는 순탄하지 않았다.

1980년대 초반, 사이먼스의 모델은 상품(commodity) 시장에서 거래했다. 통화, 채권, 상품 선물. 결과는 들쭉날쭉했다. 어떤 해는 좋았고 어떤 해는 나빴다.

문제는 두 가지였다.

첫째, 데이터 부족. 1980년대에는 디지털화된 금융 데이터가 많지 않았다. 컴퓨터로 분석할 수 있는 형태의 가격 데이터를 구하는 것 자체가 어려웠다. 사이먼스의 팀은 오래된 신문, 거래소 기록, 정부 통계를 수작업으로 디지털화하는 작업부터 해야 했다.

둘째, 모델의 한계. 초기 모델은 단순한 추세 추종(trend following) 전략이었다. 가격이 오르면 더 오를 것이라고 베팅하고, 내리면 더 내릴 것이라고 베팅하는 것. 이 전략은 추세가 명확할 때는 효과적이었지만, 추세가 없는 횡보 시장에서는 손실을 냈다.

사이먼스는 모델을 계속 개선했다. 수학자와 과학자를 더 영입하고, 데이터를 더 모으고, 알고리즘을 더 정교하게 만들었다.

그리고 1988년, 전환점이 왔다.

8. 메달리온 펀드의 탄생

1988년, 사이먼스가 메달리온 펀드(Medallion Fund)를 출범시켰다. 이름은 사이먼스와 액스가 받은 수학 메달(오스왈드 베블런 상)에서 따왔다.

메달리온 펀드는 르네상스의 다른 펀드들과 구별되는 핵심 펀드였다. 가장 정교한 모델이 적용됐고, 가장 뛰어난 팀이 운용했다.

• 1988년 출범 첫 해: 16% — 나쁘지 않았지만 경이적이지는 않았다.
• 1989년: -4% — 손실. 사이먼스가 모델을 대폭 수정했다.
• 1990년: 55% — 폭발.
• 1991년: 39%
• 1993년: 39%
• 1994년: 71%

모델이 작동하기 시작한 것이다. 그리고 한 번 작동하기 시작하자 멈추지 않았다. 1990년대 후반부터 2000년대, 2010년대까지. 30년간.

그 30년간의 기록이 인류 투자 역사상 가장 경이적인 숫자가 됐다. 그것은 다음 화의 이야기다.

9. 이 일화가 우리에게 남긴 세 가지 교훈

첫째, 완전히 다른 분야에서 온 사람이 혁신을 만든다.
사이먼스는 수학자였다. 월스트리트 경험이 전혀 없었다. 그가 뽑은 사람들도 물리학자, 암호학자, 천문학자였다. 금융 전문가가 아니었다. 그런데 이 "외부인들"이 월스트리트의 모든 "내부자"를 이겼다. 린치의 "쇼핑몰에서 종목을 찾는 것"이 월스트리트 애널리스트보다 나았던 것과 같은 원리다. 기존 방식에 익숙한 사람은 기존 방식을 벗어나기 어렵다. 완전히 다른 도구를 가진 사람이 새로운 것을 만든다.

둘째, 인간의 판단을 배제하는 것도 하나의 전략이다.
멍거는 인간의 25가지 편향을 알고 피하라고 가르쳤다. 사이먼스는 한 단계 더 갔다 — 편향을 피하는 것이 아니라, 인간을 거래 과정에서 완전히 빼버린 것이다. 모델이 결정하고 컴퓨터가 실행한다. 인간은 모델을 개선하는 역할만 한다. 이것이 모든 투자자에게 적용 가능한 것은 아니다. 그러나 "내가 감정적으로 거래하고 있는가?"라는 질문을 스스로에게 던지는 것은 가능하다. 그리고 그 답이 "예"라면, 자동화된 규칙(손절 주문, 자동 리밸런싱)을 도입하는 것이 사이먼스 방식의 개인투자자 버전이다.

셋째, 초기의 실패가 최종적 성공을 보장하지 않지만, 초기의 실패 없이 최종적 성공도 없다.
메달리온의 첫 해 수익률은 16%. 둘째 해는 -4%. 경이적이지 않았다. 사이먼스가 여기서 포기했다면 인류 역사상 최고의 펀드는 탄생하지 않았다. 리버모어가 뉴욕에서 첫 파산을 하고 돌아왔듯이, 버리가 2년간 보험료를 내며 버텼듯이, 키스 길이 18개월간 지하실에서 영상을 올렸듯이. 초기의 실패를 버티는 것이 성공의 필요조건이다.

10. 1988년의 끝에서

1988년, 50세의 짐 사이먼스. NSA에서 해고된 지 21년. 스토니브룩에서 떠난 첫 해. 메달리온 펀드 출범 첫 해.

그의 앞에는 36년이 남아 있었다. 그 36년 동안 메달리온 펀드는 인류 역사상 어떤 투자 수단도 달성하지 못한 수익률을 기록할 것이었다. 그리고 그 수익률의 비밀은 지금까지도 완전히 공개되지 않았다.

사이먼스가 만든 것은 헤지펀드가 아니었다. 그가 만든 것은 시장을 해독하는 기계였다. 소련의 암호를 해독하던 수학자가, 시장의 암호를 해독하는 기계를 만든 것이다.

그 기계의 성능은 다음 화에서 드러난다.

다음 화 예고

EP.2 — 메달리온, 인류 역사상 최고의 수익률
1988-2020. 32년. 수수료 전 연평균 66%. 수수료 후에도 연 39%. 1,000달러를 넣으면 32년 뒤 약 4억 달러가 된다. 버핏도, 소로스도, 린치도 이 기록에 근접하지 못했다. 그리고 사이먼스 자신도 이 기계가 왜 작동하는지 완벽히 설명하지 못했다.

자료 출처

• Gregory Zuckerman, The Man Who Solved the Market: How Jim Simons Launched the Quant Revolution (2019)
• Jim Simons, Numberphile 인터뷰 (2019)
• Jim Simons, TED Talk "The mathematician who cracked Wall Street" (2015)
• MIT Technology Review, Renaissance Technologies 특집 (각 연도)
• Shiing-Shen Chern & James Simons, "Characteristic Forms and Geometric Invariants" (1974)