『무한의 신비』(애머 엑젤 지음·신형용 외 옮김, 승산 刊) ·『유클리드의 창』(레오나르드 믈로디노프 지음·전대호 옮김, 까치 刊)

연초에 개봉됐던 ‘뷰티풀 마인드’의 감동이 채 가시지 않아서인지, 올 상반기에는 가슴으로 읽어 볼만 한 수학 관련 책들이 줄줄이 눈에 뜨였다. 비전공자들도 비교적 편안하게 읽고 즐길만한 수학 책이 많아졌다는 사실은 일단 환영할 만한 일이다.

이 점에서 ‘무한의 신비:수학, 철학 종교의 만남’과 ‘유클리드의 창:기하학 이야기’가 가져다주는 즐거움은 색다를 수 있겠다. 물론 전자는 집합론, 후자는 기하학이라는 수학 이론을 펼쳐내는 그야말로 수학 책이다. 그럼에도 즐거움의 코드로 수학책을 이야기할 수 있는 까닭은, “지금 내가 수학에 대한 이야기를 읽고 있는 게 맞나?”하는 착각을 일으킬 정도로 흥미진진하기 때문이다. 그렇다고 해서 이 두 책이 가진 매력이 ‘비전문적인 쉬움’에 있다는 말은 절대 아니다. 어렵고 쉬운 것의 판단을 접어두고 ‘무한’의 개념사와 기하학의 역사 속으로 즐거움이 안내하는 대로 발 디뎌 보자. 독자들은 어느덧 수학사 역시 드라마틱한 인간사의 커다란 한 토막이라는 생각에 혹은 수학자들이 장구한 인류 역사 속에 일구어낸 개념, 상상력의 공간에 빠져 볼 수 있을 것이다.

유클리드 이야기, 데카르트 이야기, 가우스 이야기, 아인슈타인 이야기, 위튼 이야기의 다섯 장으로 이뤄진 ‘유클리드의 창: 기하학 이야기’는 다섯 번에 걸친 기하학 혁명과 그 주인공들을 통해, 기하학의 역사를 보여준다. 양피지 두루마리에 기록된 유클리드의 ‘기하학 원론’에서부터 현대의 초끈(super string)이론까지가 생생하게 망라돼 있는 이 책이 지니는 장점은 무엇보다도 기하학이라는 수학적 추상의 결과가 물리학에, 혹은 오늘날의 과학 기술에 어떻게 접목되고 있는지를 자연스럽게 이해시켜준다는 점에 있다. 물론 ‘기하학(geometry)은 땅(geo)의 측량(metry)’이라는 실용적인 작업을 순수 학문의 영역으로 가져온 데서 시작됐지만 말이다.

첫 번째 장의 주인공인 유클리드는, 자기 자신은 기하학의 중요한 법칙을 단 하나도 발견하지 못했지만 , 수의 성질과 도형 혹은 우주의 원리를 ‘소박한 방식으로’ 함께 사고했던 피타고라스의 결과들을 종합해 기하학의 아버지가 된 인물. 둘째 장의 주인공인 데카르트는 오렘 주교가 처음 시도였던 대수와 기하의 결합 결과인 그래프를 이용함으로써, 공간을 대수로 변화시킨다.

기하학 원론 이후 2천년이 지나서 등장한 천재 수학자 가우스는 (지구처럼)휘어진 공간을 가정하고 평행선이 만날 수 있다는 비유클리드 기하학의 창안자로 세 번째 기하학 혁명의 주인공이 된다. 가우스의 휘어진 공간은 아인슈타인의 상대성 이론을 통해 시간의 차원을 만나게 되고, 이는 물리학과 기하학이 만나는 계기로 네 번째 기하학 혁명이 된 셈이다. 마지막으로 아직은 정설이 아니어서 논란의 여지는 있겠지만, 이제 초끈 이론의 위튼에 이르러 기하학은 2차원, 3차원을 넘어서게 된다. 그리고 기하학은 물리학을 통해 여전히 진행 중이다. 아직까지 M-이론의 ‘참’은 이루지 못한 아름다운 꿈이다. “꿈은 이루어”질 지, 자뭇 궁금해진다.

寧?액젤의 ‘더 미스테리 오브 알레프’를 번역한 ‘무한의 신비’는 수학자 칸토어의 삶 전체를 지배했다고 봐도 과언이 아닌 ‘무한’에 대해, 제목 그대로 그 미스터리에 깊숙이 천착하지만 비전문가들도 재미있게 접근할 수 있도록 풀어냈다. 물론 이 책의 이야기는 칸토어를 중심으로 전개되지만, 여기에 겹쳐지는 다양한 이야기들은 피타고라스, 제논에서 시작된 고대 무한의 기원에서 시작하여 괴델과 코언에 이르는 무한에 대한 직관과 탐색들을 만나볼 수 있다.

따지고 보면 무한(infinity)의 개념은 수학에서 필수적이다. 집합론뿐만 아니라, 미적분에, 함수나 도형의 정의 곳곳에서 무한에 대한 가정을 찾아볼 수 있으니 말이다. 초등학교 수학에서조차 원을 무수히 쪼개지 않고는 파이(π)를 이해할 수 없을 것이다. 뿐만 아니라, 무한의 개념은 고대 그리스까지 거슬러 올라가는 긴 역사를 지니고 있다. 그러나 한편으로는 “무한이라는 개념은 모든 인간의 직관을 뛰어 너어 너무나 압도적이고 너무나 기괴해서” 수학자들을 곤혹스럽게 만들어 왔다. 칸토어가 히브리어 첫 문자인 알레프를 사용해서 단 하나의 방정식으로 진술한 무한의 본질은, 무한의 신비에 집착했던 생전의 칸토어를 우울증에 시달리게 했을 할만큼 불가사의한 것으로 남아 있다.

가령, 길이 1의 직선상에는 한 변이 1인 정사각형 상에 있는 것만큼의 많은 점이 존재한다는 점에 언뜻 수긍되지 않겠지만 수학적으로는 참이다. 칸토어가 증명했던 ‘실수의 부분집합 중에 자연수 전체집합보다 크고 실수 전체보다 작은 집합은 없다’는 연속체 가설도 불가사의 하기는 마찬가지. 그가 무한의 속성에 대한 증명 후에, 데데킨트에게 보내는 편지에 썼다는 “Je Le vois, mais je nele crois pas(나는 그것을 안다, 그러나 그것을 믿지 않는다)”라는 구절이 말해주듯, 무한의 본질을 통찰한 칸토어에게조차 무한은 불가사의했던 셈이다.

수학과 철학과 종교와 예술이 함께 펼치는 연회장을 누비다보면, 기하학과 물리학의 역사에 빠져있다보면, 수의 실재성이니, 연속체의 실재성이니 하는 말을 늘어놓지 않더라도, 기하학을 바탕으로 한 물리학의 미래를 아직 알 수 없다 하더라도 “수학의 본질이 자유”에 있음에 고개를 끄덕이게 될 것이다.

박소연 객원기자 shanti@kyosu.net