UPDATED. 2021-12-07 19:46 (화)
극한의 긴장과 ‘수학의 진리’
극한의 긴장과 ‘수학의 진리’
  • 양재현 인하대교수
  • 승인 2012.05.31 10:50
  • 댓글 1
이 기사를 공유합니다

수학이야기 ① 천재수학자의 심리 세계

 

양재현 인하대 교수

수학은 머리 아픈 학문일까. 수학이란 학문은 도대체 현실과 어떤 깊은 관련을 맺고 있을까. 수학자들은 영화에서처럼 괴짜들일까. 기초학문이 흔들리는 시대, 수학자들은 세상을 어떻게 바라보고 있을까. 우리 시대 수학자들의 고민을 양재현 인하대 교수가 ‘수학이야기’(격주 연재)로 풀어간다.

수학자는 수학적 진리를 발견하거나 창조하는 활동을 하는 사람이다. 여기서 수학적 진리란 시공을 초월해 영원히 변하지 않는 불멸의 우주적 진리를 의미한다. 수학자의 창조적 작품은 定理라는 형태로 표출된다. 정리는 수학적으로 의미가 있어야 할 뿐만 아니라 아름답고 심오해야 가치가 있는 것이다. 이런 관점에서 수학자의 창조적 활동은 시인, 화가, 음악가와 철학자들의 창조적 활동과 비슷하다. 그래서 수학을 예술인 동시에 철학이라고도 한다.

수학자의 탐구 활동은 새롭고 자연스런 좋은 문제를 찾는 데서부터 시작된다. 일단 좋은 문제를 찾으면, 이 문제를 체계적으로 풀어가며 새로운 수학분야를 개척해 간다. 실은 좋은 문제를 찾는 것은 어려운 일이다.

가령, 리만가설, 골드바흐가설과 버치-스위너톤-다이어가설은 아름답고 심오한 좋은 문제들이다. 설령 흥미롭고 좋은 문제를 찾았다하더라도 연구 도중에 큰 난관에 부딪쳐 진척이 되지 않는 경우가 허다하다.

학계의 혹독한 비판 … 목숨도 끊을 각오로

영국의 천재수학자 앤드류 와일즈는 8여 년동안 가족이외에는 거의 외부와의 접촉을 끊고 외롭게 자신과 싸워가며 연구한 끝에 370여 년동안 풀리지 않았던 페르마 마지막 정리를 1995년에 안정 타원곡선에 대한 시무라-타니야마 추론을 증명함으로써 해결했다.

그는 진화론을 주창한 다윈처럼, 천성적으로 여럿이 어울리는 것보다 혼자 있는 것을 좋아하는 내성적인 사람이다. 그래서 아마도 1986년부터 철저한 비밀을 유지하며 모험심을 가지고 페르마의 이 어려운 문제에 도전했을 것이다. 이 문제를 해결할 수 없을지도 모른다는 두려움을 지닌 채 이 문제를 해결하려고 애썼다.

1993년 8월에는 증명에 부분적인 오류가 발견돼 그 후 14개월 동안은 마음이 초조하고 불안한 가운데 정신적으로 상당한 스트레스를 받았지만 결국 이 오류를 고쳤다. 만약에 이 오류를 고치지 못했더라면 수학계로부터 온갖 혹독한 비판을 받아 큰 압박감으로 인해 정신병이 났을지도 모른다.

드물지만 정신적인 질환이 있는 천재수학자들이 이러한 극심한 스트레스를 극복하지 못하고 스스로 목숨을 끊는 경우가 있다. 예를 들면, 버클리대 교수였던 안드레아스 프로어, 일본의 천재수학자들인 타니야마 유타카, 혼다 타이라와 신타니 타쿠로는 스트레스를 이겨내지 못하고 젊은 나이에 자살했다.

3차원 대수다양체의 극소모델이론의 업적으로 1990년에 필즈상을 수상한 일본 수학자 모리 시게후미는 수학이란 학문이 너무 힘들어 두 아들에게 수학과의 진학을 권하지 않았다는 사실을 수년 전에 필자에게 말했다. 두 아들은 교토대 화학과와 오사카대 의대에 진학했다.

내성적인데다 융통성 없는 ‘천재수학자들’

영화「뷰티풀 마인드」로 유명한 천재수학자 존 내쉬는 평생 정신분열증을 앓아왔으며, 한 때는 리만가설을 풀려고 시도하다가 그의 정신분열 증세가 더욱 악화돼 힘든 생활을 해야만 했다. 다행스럽게도 1950년에 쓴 박사학위논문의 「비협력 게임」으로 1994년에 노벨경제학상을 수상했고, 1999년에는 미국수학회에서 수여하는 스틸상을 수상했다.

수학은 특성상 완벽한 이론과 증명을 요구하는 정신적인 학문이다. 어려운 수학문제를 해결하려면 수학자는 뛰어난 독창력과 강한 집중력이 필요하다. 연구 도중에 어려운 장벽에 막혀 진척이 없을 때는 수학자들은 초조하고 불안한 마음을 갖는 경우가 많다.

이런 이유로 대부분의 저명한 수학자들은 어느 정도의 심리적인 스트레스를 받아가며 연구하고 있다. 대체로 천재수학자들은 내성적이고 비사교적일 뿐만 아니라 융통성이 결여돼 있다. 와일즈, 모리, 내쉬는 비사교적이고 내성적인 수학자들이다.

미국의 변호사 수전 케인은 그녀의 저서『침묵(Quiet)』에서 “세상은 외향적인 사람을 선호하지만 정작 세상을 바꾸는 것은 내성적인 사람이다. 다윈, 루스벨트, 간디, 스티브 잡스, 위즈니악 등의 인물들은 내성적인 사람들이었다. 이들은 옳다고 생각한 바를 끝까지 관철시켜 큰 업적을 이뤘다. 인간관계가 복잡한 외향적인 사람들과는 달리 이것저것 고려할 게 없었기 때문이다”라고 주장했다.

흥미로운 조사에 의하면 수학자들은 다른 분야의 과학자들에 비해 자폐증 또는 아스페르거 증세가 더 많으며, 과학자들은 인문학을 연구하는 학자들에 비해 이들 증세가 더 많다고 한다. 그러나 새롭고 아름다울 뿐만 아니라 심오한 수학적 진리를 발견 또는 창조하는 즐거움이 있기 때문에 수학자들은 어렵고 힘들지만 즐거운 마음으로 열심히 수학이란 학문에 정진하고 있다. 수학은 인간정신을 계발하는 고귀한 학문이다.


양재현 인하대·수학통계학부

캘리포니아대(버클리)에서 박사를 했다. 하버드대, 막스플랑크 수학연구소 등에서 초청교수를 지냈다. 「소수의 아름다움」, 『 20세기 수학자들과의 만남』등 다수의 논저가 있다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 1
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
^_^ 2013-09-29 00:13:22
^_^