지난 세기 가장 생산적인 발전을 이룬 과학 중 하나는 논리학일 것이다. 여러 과학사가들은 지난 한 세기 반동안 논리학 분야의 변화는 아리스토텔레스 이후 2천여년간의 변화보다 더 크다고 평가하는 데 주저하지 않는다. 이 기간 동안의 발전이 얼마나 큰 것이었는가 하는 것은 19세기 후반부터 20세기 초반까지 활약한 주요 논리학자들의 면면을 훑는 것으로 충분하다. 불, 드 모르강, 지본스, 슈뢰더 등이 논리 대수를, 프레게가 양화 논리학을, 페아노와 러셀 등은 이 두 이론을 기초로 수학의 논리적 재구성 방법을, 힐버트, 아커만, 베르나이즈, 괴델 등은 증명론과 메타 논리학을, 그리고 타르스키는 모형론적 의미론을 발전시켰다. 이리해 반세기 남짓 한 기간 동안 현대의 고전적인 논리학 체계는 완성됐다.

20세기 전반기가 고전 논리학의 확립기라면 후반기는 고전 논리학이 다양하게 적용되고 그 영향력을 확장한 시기, 그리고 고전 논리학과 경합하는 대안 논리학들이 발전한 시기라 할 만하다. 고전 논리학이 발전돼 온 한 가지 방식은 표준적인 문장 결합사나 양화사 이외에 다른 연산 개념이 첨가되는 경우이다. 예를 들어 가능성이나 필연성 등의 개념이 사용되는 추리를 다루는 양상 논리학, 시제나 시간 개념이 사용되는 추리를 다루는 시제 논리학, 의무나 허용 개념이 사용되는 추리를 다루는 의무논리학 등이 발전됐다.

고전 논리학이 발전되는 다른 한 가지 방식은 문장이 갖는 의미값으로서 고전적인 참, 거짓 개념 이외에 다른 개념이 첨가되는 경우이다. 예를 들어 참, 거짓 이외에 미결정이란 개념을 첨가해 고전 논리학을 확장하는 다치 논리학, 참과 거짓 양 극단 내에 무수한 값을 인정하는 퍼지논리학 등이 발전했다. 고전 논리학은 이처럼 다양한 방식으로 확장됐을 뿐 아니라 수학, 언어학, 컴퓨터 과학 등 해당 분야의 이론들을 재구성하거나 체계화하는 데에도 다양하게 응용됐다.

역동적인, 너무나 역동적인

고전 논리학의 이런 발전을 보면 마치 포퍼가 자연과학에 대해 생각했던 것처럼 현대 논리학의 역사는 단지 지식의 누적적 축적 과정인 것처럼 보일 것이다. 하지만 논리학 분야에서 실제로 수행되는 크고 작은 연구 프로그램들을 살펴보면, 우리는 논리학 이론들이 얼마나 역동적으로 변화하는지 깨닫게 된다.  이를 위해서는 20세기 벽두에 집합 개념에서 생긴 모순이 프레게의 논리주의를 어떻게 좌절시켰는지, 바로 30년 후 산수의 불완전성에 대한 괴델의 증명이 힐버트의 형식주의 프로그램을 얼마나 뒤흔들어 놓았는지 보는 것으로 충분하다.

흔히 논리학을 추론의 타당성을 검증하는 수학적 기법 정도로 여기는 경우가 많다. 그러나 실제의 논리학 이론은 여러 차원의 세부 이론으로 구성돼 있고 실천적-이론적인 배경 이론으로 둘러싸여 있는 연구 프로그램으로 여겨져야 할 것이다. 논리학 이론은 연역 방법들을 체계화한 형식 체계, 그 체계의 문장에 의미를 부여하는 의미 이론, 증명이나 의미와 관련해서 체계 자체가 갖는 특징들을 연구하는 메타 이론이 그 핵심을 이룬다. 그리고 논리학 이론을 실제의 추리를 형식화하거나 평가하는 데 사용하기 위해서는 문장 분석 및 의미 분석 이론이 필수적이고, 이론적인 면과 실제적인 면에서 그 이론의 정당성을 보여주는 데에는 철학적 뒷받침이 필수적이다. 이런 여러 요소 중에서 어느 것이 얼마나 수정되는지에 따라 논리학 이론은 아주 다양한 방식으로 변화한다.

지난 세기 후반기 논리학에서 두드러진 점 중 하나는 고전논리학의 주요 원리들을 수정해야 한다는 생각에서 제시된 대안 논리학들의 발전이다. 그 중 대표적인 사례 몇 가지를 들어 보자. 고전 논리학의 논리적 타당성 개념은 모순 명제에서 아무 명제나 도출할 수 있게 허용하는데, 이런 생각이 우리의 실제적 직관에 맞지 않는다고 생각한 논리학자들이 많이 있었다. 후에 연관 논리학자라 불리는 사람들은 그 사례가 전제와 결론 사이의 연관성을 고려하지 않는 잘못에서 비롯된다고 생각했고, 이런 생각을 바탕으로 대안 논리학 체계를 발전시켰다.

다른 한편 그 사례가 모순 개념에 대한 고전 논리학적 이해가 잘못된 데서 비롯됐다고 생각한 사람들이 있었는데, 그들은 고전 논리학처럼 모순이 있으면 아무 명제나 타당하게 되는 실속 없는(trivial) 이론과 달리 모순이 있어도 실속 있는 논리학 이론이 있다고 주장했다. 모순 수용적(paraconsistent) 논리학자라 불리는 이들은 자신들의 논리학이 모순적 이론들을 분석하는 가장 좋은 이론이라고 주장하거나, 더 나아가 세계 도처에 실재하는 모순적 현상들을 잘 해명해 주는 이론이라고 주장하기도 한다.

연관 논리학이나 모순 수용적 논리학 이전에도 고전 논리학에 대한 공격은 있었다. 고전 논리학의 확립 시기부터 브라우어 등의 수학자들은 고전적 추리 원리나 논리 법칙이 신뢰할 만하지 않다고 주장했다. 이들은 고전 논리학이 수학자의 엄밀한 구성적 증명을 부정확하게 모사한 데 불과하다고 생각했고, 하이팅은 그런 구성적 증명을 제대로 반영한다고 여겨지는 이른바 직관 논리학을 체계화했다. 이에 더해 철학자 더밋은 직관주의에 알맞은 증명 개념 중심의 의미론을 제시했고, 고전 논리학 및 진리 중심 의미론은 근본적으로 수정돼야 한다고 주장했다. 직관주의 논리학 이론은 고전 논리학의 주요 요소를 수정해야 할 뿐 아니라 배경 이론까지도 변경해야 한다고 주장한다는 점에서 대안 논리학 중 가장 급진적인 논리학이라 할 만하다.

대안 논리학의 만개

이처럼 다양한 대안 논리학이 발전돼 왔지만 아직도 고전 논리학의 주도권은 건재하다. 21세기에는 논리학 분야에 중요한 판도 변화가 있을지, 아니면 고전 논리학이 여전히 주도권을 쥐고 그 영향력을 확대해 나갈지는 예측하기 힘들다.

다만 최근 논리학의 다양한 응용으로 인해 생겨나는 새로운 주제들(다이어그램이나 지도읽기와 관련된 추론. 질문처럼 다양한 언어행위와 관련된 추리, 정보의 흐름이나 데이터베이스 분석과 관련된 추리 등), 기존의 확장 논리학 이론이나 대안 논리학 이론들 사이의 다양한 상호 영향 및 여러 차원의 흡수나 통합, 그리고 맥락 의존적인 비형식적 추리의 체계화 움직임을 고려하면, 고전 논리학의 보수적 확장이란 생각만으로 논리학의 변화를 가늠할 수 있을지 의문이다.

논리학의 최근 흐름에 관심이 있는 사람이면 개베이와 그의 동료들이 1983년부터 지속해서 발간하고 있는 논리학 시리즈들을 참조하는 것이 도움이 될 것이다.

박준용 카이스트 인문과학연구소

필자는 고려대에서 프레게에 관한 연구로 철학 박사학위를 받았다. 고차개념으로서 수 등의 논문이 있다.