UPDATED. 2019-06-14 10:02 (금)
특이점과 초지능에 대한 인류의 준비가 필요하다
특이점과 초지능에 대한 인류의 준비가 필요하다
  • 편집국
  • 승인 2018.11.12 12:35
  • 댓글 0
이 기사를 공유합니다

책을 말하다_ 『특이점과 초지능 The Technological Singularity』 (머리 샤나한 지음, 성낙현 옮김, 한울엠플러스, 2018.10)

특이점에 관한 논쟁이 인공지능 분야의 대세이다. 인공지능 하면 사람들은 2016년 서울에서 열린 알파고와 이세돌 9단의 바둑 대결을 떠올릴 것이다. 알파고는 4대 1로 압승을 거두며 전 세계를 놀라게 하였다. 그 뒤 학습을 거듭하여 기보 없이 스스로 바둑을 공부하고 인간이 이해하기 어려운 경지에 이르렀다. 이제 바둑을 비롯한 특정 분야에서 인간이 인공지능을 이기기 어렵다는 사실은 우리 마음에 어두운 그림자를 드리운다.

이런 불안감을 떨쳐 내기도 전에 우리는 이미 범용 인공지능 개발이라는 목표를 향해 나아가고 있다. 우리에게 축복이 될지 돌이킬 수 없는 재앙이 될지 누구도 장담하기 어려운 문제가 우리 곁에 바짝 다가왔다. 샤나한 교수는 일단 인간 수준의 범용 인공지능이 만들어지면 그것은 자신을 개선하여 곧 인간을 능가하는 초지능으로 발전하는 시나리오를 다루고 있다. 인공지능에 대한 입문서로서 2015년에 출간한 이 책에서 샤나한은 초지능을 둘러싼 문제들이 무엇이며 어떻게 접근해 나갈지에 대해 폭넓게 다루고 있다.

머리 샤나한은 이 책에서 인간들이 언젠가는 인공지능에 의해 추월당할지도 모른다는 ‘특이점’ 아이디어를 우리에게 소개한다. 물리학에서 특이점은, 블랙홀의 중심이나 빅뱅의 순간처럼 수학으로 계산할 수 없는, 우리가 이해할 수 없는, 공간이나 시간상의 한 점을 의미한다. 인류 역사에서 특이점은, 기하급수적인 기술발전이 세상에 대해 어마어마한 변화를 가져올 때, 일어날 것이다. 우리의 경제체계, 정부, 법, 국가와 같은 기구들은 상상할 수 없을 정도로 변화할 것이다. 인류의 삶, 행복, 자유와 같은 기초적인 가치들도 크게 변화될 것이다. 오랫동안 인공지능을 연구해온 샤나한도 인공지능이 우리에게 친구가 될 것인지 적이 될 것인지 쉽게 예측하지 못한다.

인공지능은 인간을 뛰어넘을 것인가

그는 이 책에서 미래에 대해 가능한 여러 시나리오를 제시한다. 만약 어느 한 시나리오가 미래에 대해 특별히 비관적이라면, 일어나지 않을 것 같거나 아주 먼 훗날의 시나리오라도 연구할 가치가 있다. 이 경우 우리는 그 비관적 가능성을 줄이는 방법을 생각해야 할 것이다. 따라서 우리가 곧 인간 수준의 인공지능을 만들 것으로 생각하든 안 하든, 특이점이 곧 온다고 생각하든 안 하든, 인류가 원하는 것이 무엇인가는 깊이 생각해볼 가치가 있다. 저자는 기술적 특이점이 인공지능과 신경과학 분야 중 하나 또는 두 분야 모두에서 일어날 주목할 만한 진보로 인해 촉진될 수 있다고 예측한다. 인류는 이미 생명의 원료인 유전자와 DNA를 서툴게나마 다루는 방법을 알고 있다. 생명과학도 매우 광범위하지만, 지능을 만드는 방법을 연구하는 영역은 훨씬 더 중요하다. 지능이 만들어진다면, 지능을 만드는 바로 그것이 자신을 개선할 수도 있기 때문이다. 특이점 가설에 따르면 머지않아 보통 인간은 피드백 순환에서 제거될 것이다. 인공지능 기계들 또는 인지적으로 진보한 생물학적 지능이 인간을 뛰어넘고, 인간은 그들과 보조를 맞추지 못할 것이다. 즉 우리 인류는 인공지능을 창조하지만, 곧 그 제어력을 잃어버릴 가능성도 있을 것이다. 따라서 우리는 인간 수준의 AI에게 주입하려는 가치에 대해 매우 신중하게 생각해야 한다.

철학적으로 가장 어려운 질문들은 “인간 또는 초지능 수준의 AI가 인간으로 분류될 수 있는가, 그리고 인간에게 수반되는 권리와 의무를 부여해야 하는가?” 하는 문제이다. 어떤 AI가 지능이 인간 수준일 뿐 아니라 행동도 인간과 유사하다면, 사람들은 이를 달리 생각할 것이다. 특히 그 두뇌가 생물학적 청사진을 따른다면, 사회는 그 AI가 의식이 있다는 것을 인정하게 될 것이다. 그것을 인격으로 간주하고 권리와 책임을 주자고 하는 노예 폐지 주장과 같은 강력한 주장이 나타날 것이다.

죽음을 극복할 기술적 특이점의 가능성

인공지능에 대한 낙관적인 견해는 기술적 특이점을 기회로 볼 수도 있다는 것이다. 마음을 만들 수 있는 능력으로 인해 인류는 생물학적 유산을 극복하고 생물학적 단점을 극복할 가능성을 열었다. 이 단점 중 가장 중요한 것이 바로 죽음이다. 인공지능과 신경과학의 발전으로 우리는 뇌를 복사하거나, 재설계하고 개량하여 수명을 연장할 수 있을 것이다. 즉 초지능을 인간이 채용하여 죽지 않는 존재가 될 수도 있다는 뜻이다. 인간들이 초지능 기계를 갈망하든 두려워하든, 그에 대처하는 한 가지 방법은 인간의 지능을 지속적으로 향상해 최상의 인공지능과 동일한 수준으로 보조를 맞추는 것일 것이다.

우리는 이와 비슷한 일을 지난 세기에도 겪었다. 1905년 아인슈타인의 상대성이론 발표 후 핵분열이 발견되었고 이를 이용하면 매우 큰 에너지를 얻을 수 있다는 것이 알려졌다. 인류 역사상 경험해보지 못한 이 막대한 에너지는 1945년에 히로시마와 나가사키에 투하된 핵폭탄이 되기도 하고 현대 문명을 이끄는 평화적인 에너지가 되기도 했다. 지금 우리는 인류를 한순간에 멸망시킬 수 있는 핵폭탄을 안고 살아간다.

만약 지난 세기 인류가 핵을 제대로 통제하는 방법을 일찍부터 찾아냈더라면, 지금의 세계는 더 평화로운 모습일 것이다. 21세기에 초지능이 나타날 가능성이 있다면, 인류는 이를 평화적으로 사용하는 논의를 빨리 시작해야 할 것이다.
 


 

성낙현  용인대ㆍ경영정보학과
서울대 경영학과를 졸업하고 KAIST 경영과학과에서 박사학위를 받았으며, 현재 용인대 대학원장으로 재직 중이다. 저서로는 『Step by Step 안드로이드 프로그래밍』, 『모바일로 즐기는 JSP 웹프로그래밍』 등의 공저가 있다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.