최근 개봉한 영화 「블레이드 러너 2049」(감독 드니 빌뇌브, 2017. 10. 12)는 과연 인간과 복제인간(리플리컨트)간 차이점이 무엇인지 질문한다. 리플리컨트는 인간과 수명이 같고 심지어 존재에 대한 철학적 고민을 시작한다. 그렇다면 인간은 인간에 대해 어떠한 철학적 고민을 하고 있을까? 국내 철학자 2명은 좀 더 인간적인 특성을 살펴보자고 주문한다.

서울대에서 ‘컴퓨터와 마음’ 강좌를 이끌었던 김재인 박사는 『인공지능의 시대, 인간을 다시 묻다』(동아시아, 2017.9)를 출간했다. 인간의 마음은 프로그래밍 할 수 없기 때문에 강한 인공지능이 디스토피아를 만들 것이라는 우려는 불필요하다는 주장이다. 우주는 계산 가능한 성질의 것이 아니라는 뜻이다. 김 박사는 진화와 마음, 학습, 생각한다는 것의 의미 등을 성찰했다.

오래 전에 앨런 튜링(1912∼1954)은 ‘기계는 생각할 수 있을까?’라는 질문을 제기한 바 있다. 여기서 ‘생각한다’는 것은 여론조사로 정의할 수 있는 차원이 아니다. 내가 생각하고 있다는 전제 하에 타인이 생각하고 있다는 걸 증명하기는 매우 어렵다. 따라서 ‘생각하고 있다’는 행동주의적 관점에서 이를 증명하고자 한다.
물론 행동주의 또한 튜링의 증명방법을 비판적 차원에서 해석하려는 편견일지 모른다. 그럼에도 의미를 이해하거나 의식이 있다는 것을 알아차릴 방법은 튜링검사처럼 우회적일 수밖에 없다. 이 때문에 생각하는 주체는 에이전트(인간이든 기계이든 상 없이 행하는 자)라고 불린다.

인공지능과 인간의 차이

모든 에이전트는 특정한 환경에 놓이고, 기계와 인간은 감지기와 작동기를 통해 이상적인 행동을 추구한다. 에이전트=아키텍처+프로그램이다. 하지만 김재인은 ‘작동기는 실행기에 명령을 전달할 뿐’이라고 지적한다. 비유하면 뇌는 작동기이고, 손발은 실행기다. 아키텍처는 일종의 몸이다. 여기서 환경과 학습의 차이가 발생한다. 

지능적 에이전트인 인공지능은 외부 환경에서 인간이 부여한 과제를 수행한다. 즉 인공지능은 문제를 ‘문제’로 인식하지 못한다. 책에선 공학 관점에서 수여된 문제, 진화 관점에서 발명되는 문제로 구분한다. 김재인은 “인공지능과 인간지능의 원리상의 차이는 문제나 목표가 외적이냐 내적이냐에 있다”라 강조한다.
학습을 위한 문제나 탐험 등은 진화에서 생물이 맞닥뜨리게 되는 무작위성과 관련해서만 유의미한데, 실제로 컴퓨터에서는 그런 무작위성이 발생할 수 없다. 무작위 요소가 프로그램에 내장돼 있어야 학습과 진화가 가능하다. 그런데 컴퓨터는 학습과 진화가 불가능하다. 그 이유는 다음과 같다.

첫째, 작동 규칙을 스스로 바꿈으로써 논리적 역설을 극복하기 어렵다. 둘째, 외부의 정보들이 들어오면 컴퓨터(에이전트)는 지각의 층위에서 처리하는데, 이 지각을 기반으로 알고리즘 자신이 변하는 건 힘들다. 첫째와 둘째가 가능하기 위해선 서로 다른 층위, 즉 작동의 층위와 그 작동을 판단하는 층위의 프로그램이 필요하다. 하지만 고정된 동일성을 유지하려는 컴퓨터에겐 이게 불가능하다. 즉, 알고리즘을 짜는 알고리즘은 결국 인간이 개발한다. 셋째, 버그가 발생하면 작동하지 않는다. 하지만 생물은 버그가 있어도 작동한다. 넷째, 뇌는 객관적 탐구가 가능하지만 마음은 객관적 접근이 불가능하다.

김재인은 인공지능을 대하는 시선의 전환을 지적한다. 인간주의에서 벗어나야 한다는 것이다. 그는 책에서 감, 직관, 기분, 맛 등은 계산 불가능하다며, 마음은 숨, 기억, 생명이라는 특징이 있다고 적었다. 이 때문에 뇌와 컴퓨터는 논리 유형의 차이가 있으며, 인간의 생각은 소프트웨어로 구현하기 어렵다.

특히 학습은 개체 또는 체세포 수준에서 일어나는 변화다. 한 마디로 유전적 변화와 학습의 논리 유형이 다르다. 개체군에서 일어나는 유전적 변화는 더 높은 유형이다. 학습은 유전 정보를 기준으로 나타나는 체세포 차원의 변화다. 인공지능의 강화학습은 후자에 가깝다. 유전 정보를 인간의 지도하에 받아들여 배우는 것이다. 하지만 더 높은 유형인 유전적 변화는 돌연변이 같은 무작위성에 따라 발생하는 새로운 차원의 학습이다. 이 부분까지 프로그래밍하기는 어렵다. 다시 말해, 세상의 모든 인과의 연쇄가 논리로 환원되지는 않는다.

그래서 김재인은 예술가의 창조 행위를 하며 살아가자고 주장한다. 전문적인 계산 능력은 인공지능에 맡기고, 인간만이 할 수 있는 발산적인 사고를 해야 한다는 것이다. 학습의 차원에서 말이다. 그는 “자연에서 경쟁이란 환경급변에 대처할 수 있도록 자기 안에 다양성을 최대한 많이 확보하는 것을 가리킨다”라고 말하면서, “자기 안에 최대치의 다양성, 정보 풀 또는 데이터베이스를 확보하는 것이 관건”이라고 강조했다. 자연선택의 단위는 개체군이며, 자기 안에 변이와 다양성을 많이 담지하는 게 중요하다는 뜻이다. 

유물론적 환원주의로 설명 안 되는 인간

이종관 성균관대 교수(철학과)는 『포스트휴먼이 온다: 인공지능과 인간의 미래에 대한 철학적 성찰』(사월의책, 2017.10)을 집필했다. 이 교수는 “컴퓨터와 같은 인공지능은 오직 제한적인 영역에서만 인간의 지능을 시뮬레이션할 수 있다”면서 “요컨대 인공지능은 결코 인간의 지능을 넘어설 수도, 시뮬레이션할 수도 없다는 것”이라고 강조했다. 인공지능과 달리 인간은 역동성이 있는 몸을 기반으로 하고 있다.
그는 1999년 12월 ‘포스트휴먼’의 문제를 처음 제기했다. 이때만 해도 사람들 관심의 사각지대였다. 컴퓨터는 0과 1의 2진수와 그에 상응하는 on/off 전기신호의 상호 변환에 기초되는 물체다. 그러나 이러한 단순한 원리 하나만으로 고도의 기술적 과정들을 처리한다. 데이터와 함께 세계는 광속에 가깝게 연결되면서 거리와 시간이 증발한 디지털스페이스가 된다.

컴퓨터가 인공신경과 생체 칩의 형태로 실용화 되는 순간 인간의 몸과 하나가 되면서 인간 내부에 침투하는 일이 발생한다. 즉 지능적인 컴퓨터가 오히려 인간을 그 컴퓨터의 일부로 흡수하는 것으로 결국 인간을 ‘포스트휴먼’으로 변신시킨다. 이때 생각할 것은 우리 인간의 존재론적 지위다. 미래학자들은 2045년이 지나면 포스트휴먼이 출현할 것으로 보고 있다. 포스트휴먼의 출현은 기술에 의해 조정되며 자연적 진화와는 전혀 다른 새로운 차원의 진화라고 볼 수 있다.

그런데 유물론적 환원주의는 존재하는 모든 것을 물질로 환원시켜 설명하려는 입장이다. 원자를 재배열함으로써 석탄을 다이아몬드로, 모래를 슈퍼컴퓨터로 바꾸며, 공기로부터 오염물질을 제거하고 인간의 두뇌를 컴퓨터로 업로드 하는 연금술과 같다. 우선 물리적 한계를 벗어나는 것이 핵심이다. 하지만 컴퓨터는 실리콘으로 구성되며 두뇌와는 다른 물리적 기반을 두고 만들어져 있다. 지능이라는 건 물리적으로 혹은 생물학적으로 다양한 기반 위에서 실현 가능하기 때문에 특정한 물리적 상태가 그 지능을 결정하지 않는다. 따라서 물리적 환원주의와는 다르다.  

통장의 돈은 어떤 특정 공간에 위치하지 않는다. 그러나 물리적 환원주의에 입각하면 통장의 물리적 기반으로 환원해 설명할 수밖에 없다. 인간은 지능적 존재임과 동시에 생명적 존재로 물리적 환원주의로만 존재하는 게 아니다. 인간은 연구의 대상을 설정하고 질문을 던지는 방식으로도 존재한다는 사실을 다시금 생각해봐야 한다.

필멸의 존재자와 미래

인간의 인지활동은 뉴런의 연결 관계망에서 일어나는 것이 아니라 생물학적 몸에 의존하고 있다. 이는 환경에 따른 진화와 관련된다. 하이데거는 생명에 대한 존재론적 논의를 펼쳤다. 바위와 같은 물체가 땅위에 놓여 있고 그 바위에 도마뱀이 붙어 있는 경우를 생각해보자. 바위는 외부의 원인에 의해 인과적으로 운동하지만 도마뱀은 충동에 의해 운동한다. 또한 바위는 다른 힘에 밀려 자기가 원래 있는 위치에서 멀어지지만, 도마뱀은 자기를 보존하기 위해서 스스로 운동한다.

이종관은 “생명이 살아있다는 것은 생명이 생존의 과정에서 끊임없이 행동하는 가운데 스스로 그 생존을 가능하게 하는 환경을 테로 둘러싸며 그 테를 쟁취하며 사로잡히는 과정”이라고 적었다. 자연은 인간존재라는 층을 성립하게 하는 발판과 같은 것이 아니다. 모기의 환경에 사자가 들어올 수 없고, 사자의 환경으로 모기가 들어갈 수 없는 것을 통해 서로는 불완전하거나 열등한 것이 아님과 같다. 생존환경에 마치 그 환경이 확장하거나 축소할 수 없는 굴레인 것처럼 밀폐되어 있을 뿐이다.

그러나 분자물리학에 근거한 유전공학적 인간 이해의 결과 인간은 가공될 수 있는 인간자원에 불과하다는 생각이 팽배해졌다. 기술의 발전은 21세기에 들어 인간을 첨단기술로 가공하여 트랜스휴먼으로 개조시키는 방향으로 극단화되고 있다. 인공지능으로 표상된 세계에서 자동화된 기계와 생명의 차이는 사라지게 된다. 보편적으로 조작 가능하게 하는 결과가 된다.

인간다움은 역사적으로 존재한 휴머니즘에서조차 아직 실현되지 못한 미래다. 미래라는 시간성에 대해 죽음은 최종 산물과 같고, 그래서 죽음은 그 자체로 인간의 존재방식을 구성하는 중요한 계기다. 이종관은 “미래는 오직 인간을 통해서만 미래로서 존재한다”면서 “물체와 같은 존재자에게는 미래가 없다”고 강조했다. 2050년 이후 죽음이 없는 영생의 존재인 포스트휴먼이 탄생하는 미래가 펼쳐질 것이지만 역설적이게도 ‘미래’란 죽을 운명의 존재자인 인간에게만 존재한다. 때문에 죽을 운명의 존재자가 존재하지 않는 곳에 미래는 없다.

김재호 과학전문기자 kimyital@empas.com 

김재호 다른기사 보기