지난 150여 년 동안 수학분야에서 지금까지 풀리지 않고 있는 상당히 중요한 난제인 ‘리만가설’이 있다. 1859년 8월에 리만(1826~1866)은 베를린 학술원의 회원으로 선정됐다. 베를린 학술원의 헌장에 의하면,새로이 선출된 회원은 반드시 최근의 연구업적을 보고하게 돼 있었다. 그래서 리만은「주어진 수 보다 작은 소수의 개수에 관하여」의 제목으로 된 8페이지의 보고서를 학술원에 제출했다.

그의 사후 30여 년이 지나서야 이 보고서의 중요성이 인식되어 ζ(s)는 ‘리만 제타함수’라고 불렸고, 추측(RH)은 ‘리만가설’이라 불렸다. 불행히도 그의 사후 70여 년 동안 아무도 리만의 공식을 이해하지 못했다. 1932년에 지겔은 우연히 동료 수학자의 말을 듣고 괴팅겐 대학의 수학도서관에서 입수한『Nachlass』를 읽고 리만의 공식을 면밀히 검토한 후 일반 수학자들이 구체적으로 이해하기 쉽도록 새롭게 공식을 만들어 저널에 발표했다. 이 공식이 소위 유명한 리만-지겔 공식이다. 이 공식을 이용해 여러 수학자들이 2004년에 슈퍼컴퓨터의 도움으로 1013개 이상의 영점을 발견했다. 몽고메리와 오드리츠코는 연속하는 소수들의 간격 분포가 어떤 에르미트 작용소의 고유값 간격 분포와 동일하다는 사실을 보였다.

19세기 후반에 리만가설은 정수론과 해석학을 융합한 수학의 분야인 해석적 정수론을 탄생시켰다. 하디, 리틀우드, 아르틴, 베이유, 하세, 셀버그, 루이 드 브랑주, 콘네 등의 저명한 수학자들이 리만가설의 진위를 밝히려고 했지만 모두 실패했다. 지난 40여 년 동안 마이클 베리 등의 수리물리학자들이 양자물리학적인 방법으로 이 가설의 해결에 도전하고 있다.

아직까지도 이 가설은 풀리지 않고 있다. 현재 거의 모든 수학자들이 리만가설을 현존하고 있는 수학 문제 중에서 가장 심오하고 중요한 문제라고 믿고 있다. 리만 가설은 힐베르트의 여덟 번째 문제인 동시에, 지난 2000년에 미국의 클레이 수학연구소가 100만 달러 상금을 내건 일곱 개의 새천년 문제들 중 하나이기도 하다.

필자는 처음으로 독일어로 작성된 리만의 보고서 원문과 영문으로 번역된 것을 동시에 읽었을 때 제대로 이해하지 못했다. 나중에 상당부분 이해하게 됐을 때 놀랐고 충격을 받았다. 8페이지 밖에 되지 않는 보고서에 심오하고 아름다운 수학적 진리를 담고 있는 내용이 매우 우아하게 기술되어 있다는 것이다. 아마도 리만은 이 보고서를 쓸 당시에 그의 스승인 가우스와 디리클레가 예전에 수행했던 소수에 관한 연구를 한층 더 깊게 하려고 노력했던 것 같다.

그는 매일 자기 전에 하루 일과를 반성하고 기도를 했다고 한다. 그는 신앙심이 깊고 훌륭한 목사였던 부친과 자주 서신교환을 하면서 그의 애로점과 고충을 나누었다. 영적인 생활을 추구한 그는 항상 신과 대화를 하며 서로 교감을 나누었다.

리만은 1826년 9월 17일 하노버 왕국의 브레제렌츠라는 조그만 마을에서 목사의 아들로 태어났다. 1846년에 그의 부친의 권유로 괴팅겐 대학의 신학과에 입학했다가 수학에 관한 열정이 매우 강렬해 얼마 후 철학과로 전과했다.

그 당시에 철학과에는 위대한 수학자 가우스가 재직하고 있었다. 괴팅겐에서 1년을 보낸 후 베를린 대학에 가서 2년간 거기서 연구하면서 해석학 분야를 많이 배웠다. 베를린에서 야코비, 디리클레, 아이젠슈타인과 학문적으로 교류하며 많은 영향을 받았다. 1851년에 박사학위를 받았고, 1853년에 Habilitation을 취득했다. 그는 리만 기하학을 창시했고 복소함수론, 아벨함수론, 소수의 분포 이론, 수리물리학 등의 분야에 뛰어난 업적을 남겼다. 이런 업적을 인정받아 1859년에 정교수가 됐을 뿐만 아니라 여러 학술원의 회원으로 선정되기도 했다.

1859년 전까지는 가난 때문에 경제적으로 힘든 시절을 보내어 건강을 많이 해쳤다. 1862년 7월에 엘리제 코흐와 결혼해 딸을 낳았다. 1862년 가을에 결핵에 걸려 투병생활을 하다가 1866년 7월 20일에 이탈리아 셀라스카라는 조그만 휴양도시에서 요절했다. 그의 업적은 20세기의 수학과 물리학에 지대한 영향을 끼쳤다.

리만은 19세기 중반에 어떻게 위대한 여러 업적을 창출할 수 있었을까. 필자의 단견을 피력해 볼까 한다. 리만은 어린 시절에 수학적 재능을 발휘했고 수학에 대한 열정이 강렬했다. 그의 부친이 신앙심이 깊은 지성인이어서 리만은 영적인 삶을 영위하는 환경 속에서 자라났다.

그리고 그의 주변에 위대한 학자들이 다수 있어 그들과 돈독한 친분을 쌓으며 학문적으로 많은 영향을 받았다. 가우스로부터 기하학과 정수론을, 베버로부터 물리학을, 헤르바르트로부터는 철학을, 디리클레로부터 정수론을, 야코비와 아이젠슈타인으로부터는 함수론과 해석학을 배웠다. 리만의 순수함, 영적인 삶, 창의성, 깊은 사고력과 주위의 창의적인 연구 환경이 어우러져서 위대한 업적이 탄생되지 않았나하는 생각을 해본다.

양재현 인하대·수학통계학부
캘리포니아대(버클리)에서 박사를 했다. 하버드대, 막스플랑크 수학연구소등에서초청교수를지냈다.『 소수의아름다움』,『 20세기 수학자들과의 만남』등의 저서가 있다.

양재현 인하대·수학통계학부