이전의 우리나라 수학은 보통 算學이라 부른다. 이는 예로부터 우리가 수학을 부르는 이름이었으며 이 밖에도 學 또는 籌學 등으로 불렀다. 동양의 산학은 어느 나라에서든 예외 없이 중국의 九章算術에 바탕을 두고 있다. 중국에서 산학이 발전하였어도 모든 算書의 내용을 구장산술의 내용에 맞추어 기술하는 점은 유교의 많은 서적들이 그 주요 경전의 내용에 맞추어 쓰인 것과 다를 것이 없다. 이런 전통 중시 사상으로 인하여 동양 산학은 서양에서 수학을 연구하는 방법과는 달리 그 내용을 설명할 때 이론이나 증명을 상세히 서술하기보다는 문제를 푸는 방법 즉, 알고리즘을 공식처럼 서술하는 것으로 대신하였다. 이는 구장산술의 기술법을 그대로 따르고 있는 것이다.
우리나라의 산학이 어떻게 발달하여 왔는가는 잘 알려져 있지 않다. 그 이유는 무엇보다도 1700년도 이전의 산학 관련 자료가 거의 남아있지 않기 때문이다. 아마도 여러 번의 전쟁을 통하여 많은 자료가 분실되었을 것이다. 지금 알 수 있는 것은 역사자료의 학제 관련 기사와 天文 기사로부터 유추하는 정도이다. 그래도 자료가 남아있는 17세기 이후의 산학관련 사료는 연세대 故 장기원(張起元) 교수의 노력으로 수집되어 한양대 김용운(金容雲) 교수에 의하여 영인본으로 출간되어 있다.
이런 자료를 통하여 알려져 있는 몇 안 되는 조선 중후기의 산학자 가운데 가장 뛰어난 사람을 꼽으라면 19세기의 이상혁(李尙赫)을 빼놓을 수 없다. 이상혁은 합천 이씨 가문에서 산학자로 종8품 計士벼슬을 지낸 이병철(李秉喆)의 아들로 1810년에 태어났다. 조선의 조정에서 산학을 담당한 것은 대부분 중인으로, 주학으로 과거에 入格한 산학자들이었다. 합천 이씨 집안은 이러한 산학자를 매우 많이 배출한 대표적인 산학자 집안이다. 알려진 바로는 이상혁의 8대조부터 시작하여 12대에 걸쳐 모두 64명의 주학입격자를 낸 집안이며 다른 산학자 집안과 사돈을 맺어 많은 사람들의 외가도 또한 산학자 집안이다. 이상혁의 아버지의 첫째 부인 홍씨도 유명한 산학자 집안의 딸이었다. 이러한 배경의 이상혁도 당연히 산학을 공부하여 22세인 1832년에 주학에 입격하게 되고 정(종)6품 別提까지 지내게 된다. 이러한 사실들은 조선시대에 과거에 입격한 산학자들의 목록서인 주학입격안, 주학선생안 등을 통하여 알 수 있다.

대표적 산학집안 出身… 정6품에 이르러
이상혁이 벼슬을 지내며 어떠한 일을 했는지는 구체적으로 알 수 없다. 그의 산학에 대한 활동은 그의 저술인 차근방몽구(借根方蒙求, 1854), 산술관견(算術管見, 1855), 익산(翼算, 1868)과 함께 그가 저술에 관여한 남병길(南秉吉, 1820~1869)의 산학정의(算學正義, 1867) 등을 통하여 유추하여 볼 수 있다.
이상혁의 산학에 남병길은 매우 중요한 영향을 끼친 사람이다. 남병철, 남병길 형제는 양반으로 판서까지 지낸 사람들이며 산학과 천문학의 대가였다. 남병길의 저서 여러 곳에 나타난 “余友李君志”라는 문구에서 알 수 있듯이 이 두 사람은 친분이 깊었다. (志는 이상혁의 字이다.) 두 사람은 산학을 연구하는 동안 모든 자료를 공유하고 서로의 연구 결과를 공부하였던 것으로 보이며, 남병길이 산학정의를 편집하는데 이상혁이 이를 도와 같이 편집하였음을 산학정의의 서문에서 알 수 있다.
당시는 중국에서 산학에 복고 바람이 불던 때였다. 이 보다 먼저 13세기에 중국 산학을 서양보다 몇 백 년 앞서게 한 朱世傑이 있었다. 그는 산학계몽(算學啓蒙), 사원옥감(四元玉鑑)을 저술하였으며 그 안에서 고차방정식에서 미지수를 사용하는 방법인 천원술(天元術)과 연립방정식에서 4개까지 미지수를 사용하는 사원술(四元術) 이론을 세웠다. 사원옥감에 나오는 서양보다 3백년 이상 앞선 파스칼의 삼각형, 수열의 합을 구하는 다항식 이론으로 朱世傑을 중국 산학사에서 가장 유명한 사람으로 숭앙되고 있다. 그러나 명나라를 지나면서 이 책들은 유실되고 그 내용은 잊혀 졌으며, 마테오리치가 들여온 서양 수학이 이 자리를 대신하였다. 18세기 초 청의 옹정(雍正)은 쇄국정책을 펴며 중국의 산학을 다시 세우려 하나 그 자료를 찾지 못하자, 당시 羅士琳은 조선에서 1660년에 출판한 산학계몽을 찾아내었으며, 사원옥감과 함께 세초를 달아 복간하였다. 이러한 책들이 다시 조선으로 유입되었고, 이상혁과 남병길은 이 때 처음으로 사원옥감을 공부한 것으로 보인다. 한편 이들은 당시에 이미 들어와 있는 서양 수학책의 중국판인 수리정온(數理精蘊)도 공부하였다.

동서양 수학서 섭렵 … 독창적 산법밝혀
이러한 과정을 통하여 이상혁은 당시 중국에 알려진 동양과 서양의 수학을 모두 섭렵하였으며 이 과정에서 서양 방정식의 이론을 정리 해설하는 차근방몽구와 산술관견을 저술한다. 이 책들은 단순히 방정식의 해법에 그치지 않고, 조선에서 최초로 함수의 무한급수에 의한 해설까지 접근하고 있다. 당시에 남병길이 쓴 무이해(無異解)와 함께 이상혁은 “서양의 방정식 이론인 차근방은 동양 이론인 천원술과 다름이 없다”고 주장하고 있다. 전통적인 이론에서는 원칙적인 차이가 있음에도 이상혁은 그 형식적 차이를 극복하고 천원술을 수학 본질 수준에서 이해하여 그 차이를 해소하고 있음을 볼 수 있다. 이상혁은 이를 바탕으로 방정식의 이론을 더욱 발전시켜서 동양 방정식론의 약점인 방정식에서 상수항을 따로 다루던 것을, 방정식의 미지수 항들과 함께 놓는 획기적인 아이디어를 내기에 이른다. 이를 정리하여 쓴 책이 <익산(翼算)>의 상권인 정부론(正負論)이다. 여기서 이상혁은 정부상당(正負相當)의 이론을 세우고 동양의 방정식이 p(x) = c 와 같이 상수항을 따로 떼어놓던 것을 상수항 c를 p(x)에 편입시켜 방정식을 p(x) = 0 꼴로 바꾸고 있다. 서양에서는 유명한 수학자 데카르트에 의하여 처음으로 이러한 변화가 이루어졌던 것으로 동양에서는 이상혁이 이러한 생각을 처음으로 구체화하였다.
이상혁이 <익산>을 편집하게 된 것은 남병길과의 연구 내용을 총 망라하는 대작인 산학정의를 편집하는 것을 도운 다음이다. 그는 이러한 경험을 바탕으로 자신의 생각을 체계적으로 정리하여 방정식 이론인 정부론(正負論)과 유한급수 이론인 퇴타설(堆說)을 저술하여 익산이라 이름하였다. 익산은 위에 이야기한 방정식의 이론의 정리와 함께 사원옥감에서 출발한 퇴타술을 발전시켜 하나의 통일된 이론으로 통합하는 중요한 업적을 이루었다. 이상혁은 중국의 퇴타술이 입체기하에만 의존하여 발전하지 못하였음을 간파하고 이 급수의 합을 분할하여 구하기 쉬운 급수로 분해하는 방법인 분적법(分積法)을 창안하였다.
그는 이를 써서 기존의 모든 문제를 해결하고 통일된 해석을 통하여 퇴타술의 구조를 밝혔다. 특히 그는 급수의 일부항의 합을 구하는 절적(截積)의 이론을 세웠으며 이 문제에서 기존의 제전법에 비하여 자신의 분적법이 더욱 간단함을 설명하고 있다. 또한 독창적으로 일종의 점화식을 사용하여 문제를 해결하고 있다. 이렇게 절적법으로 다른 어떤 곳에도 없는 19가지의 공식을 만들었다. 이러한 업적은 퇴타술로 세계적으로 인정받는 동시대 중국 산학자 李善蘭의 결과에 비견되는 것으로 조선 산학이 단순한 중국 산학의 해석, 정리의 수준을 넘어서 독창적 수학연구의 수준에 도달한 것으로 세계적 수준의 연구라고 할 수 있다.
조선의 산학은 중인들이 담당하고 있었지만 실제로 산학을 공부한 사람들 가운데는 양반들도 많이 있다. 산학서를 저술한 사람들로 최석정(崔錫鼎), 조태구(趙泰)는 영의정을 지냈고, 남병철(南秉喆), 남병길 형제는 판서를 지냈으며, 황윤석(黃胤錫), 홍대용(洪大容), 배상설(裵相設), 조희순(趙羲純)은 당대의 유명한 유학자들이다. 특히 세종대왕은 산학서의 편찬에 많은 노력을 기울였으며 몸소 산학을 공부하기도 하였다. 이상혁이 뛰어난 업적을 낼 수 있었던 것도 양반들의 이해와 도움, 그리고 남병길 같이 함께 연구한 사람들에 힘입은 바가 클 것이다.

김영욱 / 고려대·수학과

필자는 美 UCLA에서 ‘옹골미분다양체의 리만계량의 증장 사상군에 대하여’이라는 논문으로 박사학위를 받았고 주요 저서로는 <기하학적 함수론>이 있다.

김영욱 / 고려대·수학과 다른기사 보기