`주식으로 신(神)의 영역에 도전하다.`

주식시장 원리를 한 줄로 설명하는 마법의 공식이 존재한다면 몇 차원의 함수로 풀어낼 수 있을까. 주가에 영향을 미치는 변수는 매우 많다. 최근 주가 움직임을 비롯해 거래량, 대차대조표, 손익계산서, 현금흐름은 물론 환율, 수출입 통계, 세계 증시, 다른 개별종목들의 주가까지. 이들 모든 변수를 고려한 마법의 공식을 만든다는 건 인간의 힘으론 아마 불가능할 것이다. 여기에 천재 수학자이자 컴퓨터 박사가 도전장을 내밀었다. 문병로 서울대 컴퓨터공학부 교수가 그 주인공이다. 문 교수는 컴퓨터 알고리즘 최적화 분야의 세계적인 대가다.

알고리즘이란 고등학교 때 배운 다이어그램이나 순서도를 떠올리면 이해가 비교적 쉽다. 알고리즘을 최적화한다는 것은 컴퓨터를 이용해 어떤 일을 수행하기 위한 가장 효율적인 疫萱� 찾는 것이다.

예를 들어 구글이나 다음 지도에서 서울대에서 충무로 매일경제신문사까지 가는 최단 경로를 찾는다고 생각해보자. 검색엔진은 도로와 교통량 등을 감안해서 최적 경로를 제시해 준다.

이 같은 문제를 푸는 게 바로 컴퓨터 알고리즘의 초보적인 단계라면 주식시장을 지배하는 최적의 공식을 찾아내는 것은 가장 고차원적인 영역에 속할 것이다. 금융시장을 컴퓨터 과학으로 풀어보자고 문 교수가 도전한 건 2000년. 연구 8년 만에 시장을 이기는 핵심적인 알고리즘을 잡아낸 그는 학내 벤처로 옵투스투자자문을 설립해 실제 운용에 들어갔다.

운용액 규모 150억원대인 문 교수팀이 올린 성과는 놀랍다. 설립 당시인 2009년 1분기 대비 누적수익률이 161%에 달하고 있다(10월 26일 기준). 같은 기간 코스피 누적수익률 61%를 100%포인트 웃도는 놀라운 성과다. 최근 1년간 수익률 역시 22.54%를 거두고 있다. 같은 기간 벤치마크인 코스피는 오히려 0.15% 하락했다.

과거 데이터만을 가지고 시장 움직임을 예측해 성과를 낼 수 있을까.

지난달 30일 서울대 컴퓨터공학과 연구실로 문 교수를 직접 찾아갔다. 그리고 물었다. "1998년 전 세계 금융시장을 공포의 도가니로 밀어넣은 미국 LTCM(롱텀캐피털매니지먼트) 파산 사태를 기억하는가."

1990년 노벨 경제학상을 수상한 머튼 밀러는 전 세계 채권들의 가격차를 이용한 차익거래 시스템으로 대박을 터트려 월스트리트의 주목을 한 몸에 받았다. 하지만 그는 결국 시장 변동성을 예측하지 못해 자신은 물론 전 세계 금융가를 파산 지경까지 끌고 갔다. "책상물림인 당신이 만든 투자모델도 결국 이론으로만 존재하는 게 아닌가."

문 교수는 서슴없이 받아쳤다. "머튼 밀러가 세운 LTCM은 위험을 과소평가했다. 극단적인 변동성에 대한 대비는 아무리 강조해도 충분치 않다. 투자 알고리즘을 적절히 활용한다면 변동성에 따른 손실을 많이 줄일 수 있다."

문 교수가 만든 투자 시스템에는 사람의 판단이 배제된다. `손실 위험이 가장 적은 주식 종목을 찾아라`는 목표에 따라 컴퓨터가 스스로 최적화 알고리즘에 따라 자동으로 포트폴리오를 만들고 스스로 사고파는 자동 매매를 단행한다. 컴퓨터 시스템의 도움을 받되 최종 판단은 전문가가 하는 기존 시스템 트레이딩 매매와는 전혀 다르다. 40개 종목에 투자를 하는데 때에 따라선 개별 종목을 수개월씩 들고 간다. 실제 포트폴리오를 들여다보니 한솔제지 등 뚜렷한 패턴이 없는 중소형주들이 대부분이었다. 삼성전자, 현대차 등 기존 시장 주도주는 전혀 보이지 않았다.

문 교수는 "주식투자는 본질적으로 리스크를 거래하는 것"이라며 "리스크를 현명하게 견딜 수 있는 사람은 극소수에 불과하기 때문에 결국 컴퓨터에 의한 주식 거래가 시장을 지배하게 될 것"이라고 전망했다.

[이근우 기자]