1930~1931년에 오스트리아 수학자인 쿠르트 괴델(1906~1978)이 증명한‘불완전성 정리’에 의해 힐베르트의 형식주의에 한계가 있음이 입증됐다. 불완전성 정리에 의하면, 어떤 임의의 체계가 주어져 있을 때, 그 체계 내에서 증명될 수 없는 명제가 항상 존재한다고 주장하고 있다. 보다 구체적으로 설명하면, 산술체계를 포함해 모순이 없는 공리계에서는 참이지만 증명될 수 없는 명제가 존재하며, 또한 그 공리계는 자신의 무모순성을 증명할 수 없다는 것이다. 예를 들면‘골드바흐 추측’이 증명될 수 없는 수학의 진리일 수도 있다는 것이다.

이것은 인간 인식에 근본적으로 한계가 있음을 보여주고 있다. 게다가 괴델은 1938년칸토어가 제기한‘연속체 가설’의 무모순성을 증명했다. 그 후 1963년에 폴 코헨(1934~2007)이‘일반 연속체 가설’의 독립성을 증명해 이 업적으로 1966년에 필즈상을 수상했다. 코헨은‘강제법’이라는 기법을 사용해 일반 연속체 가설과 선택 공리는 체르멜로-프란켈(ZF) 공리계로부터 결정될 수 없음을 증명했다.

인간 인식의 근본적 한계

괴델과 코헨의 연속체 가설의 무모순성과 독립성을 종합하면, “ZFC 집합론에 있어서는 일반 연속체 가설의 참과 거짓도 증명할 수 없다. 즉 일반 연속체 가설은 ZFC 집합론의 공리계로부터 독립돼 있다”라고 표현할 수 있다. 불완전성 정리와 연속체 가설의 무모순성의 증명은 시사 주간지 타임지에 의해 높이 평가돼, 괴델은 타임지가 선정한 20세기에 가장 영향력을 끼쳤던 인물 100명 중의 한 사람이 됐다. 괴델의 불완전성 정리의 출현 이후로 대부분의 수학자들은 철학적인 문제인 수학의 기초에 관한 의문에 관심을 갖지 않기 시작했다.

상기의 형식주의, 논리주의, 직관주의를 근거해, 수학적 진리가 신이 창조한 우주의 심연에서 발견되는지 아니면 인간에 의해 창조되는지의 의문에 대해 논할까 한다. 칸토어, 힐베르트, 하디 등의 수학자들은수학 진리는 우주에 널려 있으며, 신의 계시를 받아 발견되는 것이라 믿었다. 18세기의 위대한 독일 철학자 임마누엘 칸트(1724~1804)는“수학진리는 인간에 의해 창조된다”라고 역설하고 있다. 푸앵카레와 샤를 에르미트(1822~1901) 등의 프랑스 수학자들은 수학 진리는 발견될 뿐만 아니라 인간에 의해 창조된다는 중용의 자세를 취하고 있다. 어떤 수학자들은 이 질문에 결정을 내리지 못하고 있다.

필자는 수학 진리가 창조된다는 주장보다는 신의 계시를 받아 발견된다는 주장에 더 무게를 두는 중용의 자세를 취하고 있다. 필자가 발표한 몇 편의 논문은 신의 계시를 받아 얻어진 공식을 지니고 있다. 필자는 이 공식이 세계 수학사에 영원히 남을 것으로 믿고 있다.

이 공식을 발견하고 이 공식이 참이라는 사실을 증명했을 때, 이루 형언할 수 없는 희열을 맛보았다. 예를 들면, 비유클리드 기하와 유클리드 기하의 밀접한 결합으로 이루어진 지겔-야코비 공간에서 아름답고 심오할 뿐만 아니라 자연스런 문제들을 발견하고, 이 문제의 해답을 얻기 위해 노력했던 경험이 있다. 오랫동안 고군분투하며 연구하는 중에 갑작스럽게 신의 계시를 받아 아름다운 공식을 발견하고, 이 공식의 참을 증명하는 과정에서 여러 차례의 오류를 범하며, 결국에는 기발한 아이디어와 기법을 창안해 증명했다.

독일·프랑스 수학자의 견해 차이

필자의 지론은 위대한 수학 진리는 우주의 깊숙한 곳에서 신의 계시를 받아 발견되며, 이 수학 진리를 이해 분석하며 증명하는 데 필요한 아이디어와 기법은 인간에 의해 창조된다는 것이다. 수학 진리의 증명은 개성이 다른 여러 수학자들의 창조 과정을 통해 얻어진 서로 다른 다양한 아이디어와 기법으로 완성된다. 그 중에서도 심오하고 아름다울 뿐만 아니라 간결한 아이디어와 기법이 살아남고, 이것들이 다른 연관된 문제들을 해결하는데 사용되기도 한다.

양재현 인하대·수학통계학부

양재현 인하대·수학통계학부