UPDATED. 2024-03-28 20:05 (목)
인공지능에 ‘윤리’를 이식할 수 있을까?
인공지능에 ‘윤리’를 이식할 수 있을까?
  • 교수신문
  • 승인 2016.08.22 17:10
  • 댓글 0
이 기사를 공유합니다

번역자의 말_ 『파이널 인벤션: 인공지능 인류 최후의 발명』 제임스 배럿 지음, 정지훈 옮김, 동아시아, 446쪽, 18,000원

인공지능에 대해 지나치게 장밋빛 환상을 가지거나, 인공지능의 한계만을 부각하는
시각을 가진 사람들에게 다른 관점을 제시한다는 점에서 더 읽어볼 만한 책이다.

이 책의 저자인 제임스 배럿은 다큐멘터리 필름 제작자다. 즉, 직접적인 연구자가 아닌 미디어 종사자다. 처음에는 어떻게 이런 책을 쓸 수 있는지 의아했지만, 막상 번역을 시작해보니 배럿의 직업이 오히려 이 책을 쓰는 데 더 적합하다는 생각이 들었다. 그는 최고의 전문가들과 수많은 인터뷰와 탐사를 바탕으로 이 책을 집필했다. 다큐멘터리 제작자 특유의 날카로운 탐사의 태도는 일반인들이 이해하기 쉬우면서도 어느 한쪽에 치우치지 않는 글을 만들어냈다.

이 책의 논조에 대해 부정적인 마음을 가진 채 번역을 시작했지만 번역을 끝낸 지금은 과거보다 훨씬 그 입장을 진지하게 받아들인다. 역자 서문을 쓰고 있는 이곳은 뉴욕이다. 지금 뉴욕에서는 이 책의 가장 중요한 주제인 AGI(Artificial General Intelligence) 관련 학회가 열리고 있다. 이 책을 통해 AGI, ASI(Artificial Super Intelligence)에 대해 보다 제대로 연구할 필요성을 알게 됐고, 이 책에 등장하는 여러 인물과 그 제자들과 이야기를 나누며 내가 생각한 것보다 더 구체적으로 이 문제들이 다뤄지고 있으며, 그 발전의 속도 역시 훨씬 빠른 것을 알게 됐다. 책의 내용은 독자들이 처음부터 읽다 보면 충분히 이해할 수 있기에, 서문에서는 2016년 뉴욕에서 현재 시점에서의 AGI 관련 동향과 역자가 느낀 내용에 대해 간략히 소개하면서 이후의 변화 양상에 대해 약간의 인사이트를 주고자 한다.
 

AGI 학회는 이 책에서도 소개하는 벤 괴첼(Ben Goertzel)이 2006년 설립해 처음으로 워크숍을 연 후, 2008년부터는 매년 전 세계를 돌아다니며 컨퍼런스를 열고 있다. 이제 10년이 됐다. 지난 10년간 인공지능 분야는 눈부신 발전을 했고, 최근 딥러닝의 열기를 반영하듯 AGI 분야에서도 이를 활용한 다양한 발표가 있었다. 그렇지만 특정한 목적의 문제를 해결하는 narrow AI나 딥러닝의 접근과 달리 다양한 형태의 문제를 인지하고, 어떤 문제든 인간과 유사한 지능으로 해결하는 목적을 가진 AGI의 경우에 훨씬 복잡한 문제들이 얽혀있다. 그렇기 때문에 수학과 물리학, 뇌과학과 인지과학, 컴퓨터과학 등을 전공한 다양한 최고의 연구자들이 협력하고 있다. 특히 오픈코그(OpenCog), AIXI, 오픈나스(OpenNARS), soar 등의 연구 결과물은 모두 오픈소스로 공개된다.

여러 가지 주제의 연구들이 진행 중이지만 몇 가지 소개하면 강화 또는 점진적인 학습의 방식, 일반적인 문제를 푸는 인공지능 구조, 뇌과학 입장에서 본 의식의 정체와 이를 인공지능으로 구현하기 위해 필요한 지식, 딥러닝이 AGI의 발생을 촉진할 수 있는가에 대한 심도 있는 토론, 게임을 이용한 AGI의 벤치마킹, 인공지능의 지능 평가 방법, 이해와 작업, 학습의 다양한 수학적 정의, 흉내 학습, AGI의 보안 문제(어떻게 AGI를 상자에 가둘 것인가?)와 죽음 및 사멸 구현 등이다.
하나하나의 주제가 매우 무겁지만 명쾌한 과학적 접근을 통해서 수학적 모델을 만들며 진행하기 때문에 이들의 연구들이 허황되다 할 수는 없다. 게다가 발표하는 사람들의 면면을 보면 1956년 존 캐카시(John McCathy)가 인공지능이라는 말을 처음 만든 다트머스 컨퍼런스에 같이 참여했던 인공지능 대가들의 제자들이 주를 이뤘다. 존 매카시, 마빈 민스키, 클로드 섀넌, 너새니얼 로체스터, 앨런 뉴엘, 허버트 사이먼, 레이 솔로모노프, 올리버 셀브리지, 트렌처드 모어, 아서 새무얼 등 이름만으로도 전설인 이들은 이후 MIT와 카네기 멜론대학, 스팬퍼드대학 등에서 후학을 많이 길러냈고 이들이 다시 전 세계로 진출해 미지의 영역을 탐구하고 있다. 인공지능은 유행처럼 반짝한 것이 아니라 지난 60년 동안의 노력을 조금씩 꽃 피우고 있었다.

책을 번역하면서 자신의 입장에 큰 영향을 받는 것은 그리 흔한 경험이 아니다. 그리고 나는 아직도 『파이널 인벤션』의 제임스 배럿의 시각이 지나치게 극단적이고, 비관적이라고 생각한다. 그렇지만 다른 한편으로 인공지능에 대해 지나치게 장밋빛 환상을 가지거나, 인공지능의 한계만을 부각하는 시각을 가진 사람들에게 다른 관점을 제시한다는 점에서 더 읽어볼 만한 책이라 생각한다. 책 속에서 벤 괴첼의 이야기가 나의 귓전을 때렸다.
“저는 미래에 거대하고 축소 불가능한 불확실성이 있음을 말하고 싶었습니다. 저의 딸과 아들들, 어머니가 일부 슈퍼휴먼 인공지능에 의해 분자형태로 재처리돼 죽는 것을 원치 않아요. 따라서 어떻게 윤리적인 AGI로 만들 것인지 생각하는 것은 중요하며 이를 위해 AGI 시스템에 대한 실험을 계속해야 합니다.”

저자는 <내셔널 지오그래픽>, <디스커버리>, PBS 등 미국과 유럽의 여러 채널에서 다큐멘터리 필름 제작자로 일했다. 비과학적 사실을 과학적으로 증명하는 다큐멘터리를 다수 제작했다. 10년간의 인터뷰와 탐사를 통해 이 책을 썼다. 책을 번역학 정지훈 경희사이버대 IT디자인융합학부 교수는 한양대 의대를 졸업한 후 서울대 보건정책관리학 석사, 미국 남가주대(USC)에서 의공학 박사학위를 받았다. 명지병원 IT융합연구소장을 지냈다. 인공지능을 의학영상에 적용하는 연구를 진행하고 있다. 『기계와의 경쟁』 등을 공역했으며, 『호모사피엔스 씨의 위험한 고민』 등을 썼다.

 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.