UPDATED. 2024-03-29 16:35 (금)
‘최악의 망각’ 극복하는 인공지능 탄생 기대
‘최악의 망각’ 극복하는 인공지능 탄생 기대
  • 김재호 과학전문기자
  • 승인 2016.10.26 14:58
  • 댓글 0
이 기사를 공유합니다

키워드로 읽는 과학本色 162. DNCs
▲ DNCs의 구조도. 신경망 콘트롤러가 외부 입력정보를 받고, ‘헤즈’라고 불리는, 읽고 쓰는 메모리와 상호작용 한다. 콘트롤러가 메모리를 탐색하게끔 도와주기 위해 DNCs는 ‘임시적 링크’를 저장한다. 쓰인 것들을 추적하기 위해서다. 또한 DNCs는 현재 각 메모리 위치별로 ‘사용’ 수준을 기록한다. 그림 출처= 딥마인드 블로그.

컴퓨터가 과거에 처리한 작업 방법을 기억해내서 재사용한다면 어떨까? 미국의 IT전문매체 <마더보드>는 “스스로 메모리를 사용하는 법을 배울 수 있는 컴퓨터를 딥마인드가 개발했다”고 12일 보도했다. 인공지능의 딥러닝이 진일보한 것이다.

구글의 지주회사인 알파벳이 소유한 딥마인드. 이곳에선 인공지능 개발이 한창이다. 연구결과는 <네이처>에 「하이브리드 컴퓨팅, 동적 외부 메모리를 가진 신경망을 사용하다(Hybrid computing using a neural network with dynamic external memory)」라는 제목으로 게재됐다. 딥마인드는 세 번째로 획기적인 연구결과를 <네이처>에 실은 셈이다. 연구팀은 이 AI를 ‘DNCs(Differential Neural Computers)’라고 부른다.
컴퓨터가 메모리 장치를 활용해 ‘학습한다’는 것은 무엇을 의미하고, 왜 그걸 신경 써야 할까? 왜냐하면 컴퓨터가 스스로 기억 장치를 활용할 수 있다면, AI는 좀 더 강력하고 효과적인 작업을 수행할 수 있다. 당신이 만약 낯선 도시를 여행한다고 하면, 복잡한 곳을 찾아갈 때 훨씬 더 쉽고 빠른 길을 알아낼 수 있다.

『완벽한 데이터 관리』(홀로깨달음, 2016)의 저자이자, 전 한양대 컴퓨터공학과 교수인 김인성 M포렌식 센터장은 기자와 인터뷰에서 “딥러닝은 피드백을 통한 학습으로 기계가 스스로 능력을 개선 시켜 나갈 수 있는 것이 특징”이라면서 “딥러닝은 기계가 스스로 학습을 할 수 있다는 점에서 거의 모든 분야에서 인간의 능력을 뛰어 넘는 기계가 나올 가능성을 높여 주고 있다”고 말했다. 그는 “바둑뿐만 아니라 작곡, SF소설 등 인간 고유의 영역이라고 생각했던 분야까지 진출하고 있는 상황이다”라고 덧붙였다.

메모리를 학습하는 컴퓨터 탄생
고도화된 머신 러닝의 한 형태가 바로 딥러닝이다. 이는 신경망 형태로 만들어져서, ‘노드(네트워크에 접속 하는 기본 장치로서 각 정보들이 교차하는 접점)’들의 상호연결 네트워크라고 불린다. 이 네트워크는 모두 입력 데이터에 대한 세미-랜덤 계산을 수행한다. 신경망은 이 작업을 계속 반복한다. 그래서 계산은 신뢰할 만한 정확한 결과값을 얻을 때까지 이어지고, 이를 학습이라고 부른다.

딥러닝의 이러한 접근은 놀랄 만한 성공들을 이뤄냈다. 딥마인드의 알파고가 이세돌을 격파한 것이다. 하지만 결정적 단점은 컴퓨터의 신경망이 2차 작업을 수행하기 위해 1차 작업의 수행방법을 삭제하거나 스스로 재설정해야 한다는 것이다. 이는 ‘최악의 망각(catastrophic forgetting)’이라고 불린다. 지금 기사를 쓰고 있는 이 컴퓨터는 외부 기억장치를 갖고 있어서 글을 쓰고, 다시 쓰고, 불러오기를 할 수 있어서 최악의 망각 문제는 없다. 외부 기억장치는 컴퓨터에 탑재된 보조 기억장치를 생각하면 된다. 
딥마인드는 블로그 포스팅을 통해 “DNCs는 구조화되고 복잡한 데이터에 대한 문제들을 해결하기 위한 학습이 가능하다”고 밝혔다. 예를 들면, 런던 지하철 노선도, 가계도, 블록 퍼즐 게임, 인공지능적으로 생성된 이야기에 대한 해답을 제시하는 것이다. DNCs는 강화학습(reinforcement learning)을 할 줄 안다.

컴퓨터가 기억을 재활용한다는 것은 어떤 의미일까. 딥마인드는 플라톤과 로크, 프루스트를 통해 기억을 설명한다. 플라톤은 기억을 ‘왁스 테블릿(왁스로 만들어진 상자틀)’에 비유했다. 어떤 한 인상이 왁스 테블릿에 찍히면 그 형태로 남는다. 왁스로 채워진 상자틀에 나무의 기억(이미지)이 박힌다고 생각해보자. 플라톤은 가소성(plasticity, 可塑性, 고체가 외력에 의해 변형되면 외력에 의한 찌그러짐이 그대로 남는 상태)이라는 현대의 개념을 은유적으로 설명한다. 우리의 마음은 경험에 의해 그 왁스 테블릿에서 기억에 대한 구성과 재구성의 과정을 거친다. 기억의 왁스는 단지 나무라는 인상만 만들어내는 것이 아니라 한 기억에서 다른 기억으로 연결도 한다.

로크 같은 철학자는 비슷한 시공간에서 형성된 기억이라면 서로 연결될 수 있다고 믿었다. 작가 프루스트는 프랑스에서 즐겨 먹는 마들렌 케이크 맛을 통해 어린 시절을 떠올린다고 은유로 설명했다. 이러한 사건에 따른 기억의 회상은 연상은 뇌의 해마에 의존하는 것으로 알려져 있다.
하지만 지금 우리는 기억을 왁스가 아니라 레고와 같다고 생각한다. 기억은 재결합될 수 있다. 직면한 문제 해결을 위해 복원하는 과정을 거친다면 말이다. 특히 자극과 행동 반응은 1차적 관계가 아니라, 문맥과 우선권에 따라 다차원적 관계로 연관된다. 지하철 노선도 실험에서 한 곳에서 다른 곳으로의 이동뿐만 아니라 인접한 역을 알아내는 등 다양한 질문에 AI가 응답 가능한 것이다. 기억의 콘텐트와 기억을 활용하는 것은 별개다.

인간의 신경망은 패턴 인식과 신속한 의사결정에서 탁월하다. 하지만 딥마인드는 천천히 추론하고 숙고할 수 있는 인공 신경망을 이제 막 만들어가는 참이다. 실제로 딥마인드 연구진은 11개 노선과 270개 역의 런던 지하철 노선표를 학습시키고 최단 거리를 찾는 실험을 했다. 그 결과 99.8%의 정확도를 보였다. 반면, 다른 신경 컴퓨터는 37% 정확도만 나타냈다. 가계도 실험과 블록 퍼즐에서도 높은 정확도를 보였다.

레고와 같은 기억의 다차원적 재결합
하지만 현재 딥러닝의 인공지능은 한계가 분명하다. 김인성 센터장은 “딥러닝은 아직은 인간의 총체적인 판단력을 갖추지 못했다”며 “이세돌이 바둑 대결에서 예측하기 어려운 수를 두자 알파고 머신이 하수도 두지 않을 수로 대응한 것이 그 좋은 예다”라고 말했다. 아울러 김 센터장은 “만약 딥러닝 머신이 수술을 집도하다가 예측하지 못했던 상황이 발생한다면 환자를 치명적인 위험에 빠뜨릴 가능성도 있다”면서 “자율 주행 자동차가 위험에 빠졌을 때 운전자를 보호할 것인지 행인을 보호할 것인지 하는 문제는 기계가 결정하기 어려운 도덕적인 판단의 영역이다. 하지만 자율 주행 자동차를 허용해야 하는가 하는 근본적인 논쟁을 불러 올 수 있는 주제이기도 하다”고 밝혔다.

인공지능의 출현에 따라 수많은 데이터가 기계에 저장된다. 이 때문에 김 센터장은 “미래는 결국 개인 데이터가 기계에 의해 수집 될 수밖에 없으므로 이를 관리하는 자들의 도덕성을 제어할 수단을 강구하는 것이 더 중요할 것”이라며 “만약 IT를 운용하는 기업과 이를 통제하는 정부가 도덕적이지 못하다면 이런 현실은 재앙이 될 수 있다”고 우려했다. 그래서 미래의 정보 보안은 기업과 정부에 대한 감시와 통제를 제대로 하는 것이라는 게 그의 설명이다.

인공지능 다음은 인공마음이라는 예견이 나오고 있다. 인간을 닮은 컴퓨터는 과연 출현할까. 김인성 센터장은 “딥러닝 인공 지능은 피드백을 통한 학습이 가능하므로 일단 인간의 지능에 도달한다면 곧바로 인간보다 우월한 지능을 가지게 될 것”이라면서 “어느 순간 인간의 지능을 개미의 지능 수준으로 여기는 인공 지능이 출현하게 될 수 있다”고 내다봤다. 즉 인공지능한테 “지구를 보호하라”고 명령을 내렸다면, 인간이 지구에 해악이 된다고 강한 인공지능이 판단하는 순간 그 결과는 파국으로 이어질 수 있다는 것이다.

김재호 과학전문기자 kimyital@empas.com


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.