UPDATED. 2024-03-29 20:15 (금)
목적 지향의 기계를 인간의 목적과 일치시키려면?
목적 지향의 기계를 인간의 목적과 일치시키려면?
  • 김재호
  • 승인 2017.12.18 12:38
  • 댓글 0
이 기사를 공유합니다

키워드로 읽는 과학本色 199. 인덱스가 증명하는 인공지능 연구 증가의 이로움과 안전성은?

 

모든 게 증가 추세다. 인공지능(AI)과 관련된 논문, 창업, 취업, 투자, 구입 로봇 수, 대중의 관심까지 총망라해서 말이다. 최근 스탠퍼드대에서 진행 중인 ‘AI 100(인공지능 100년 연구)’ 프로젝트는 ‘AI 인덱스’ 보고서를 공개했다. 연구팀은 AI 담론이 구체적인 데이터 없이 이뤄지는 것을 우려해 전 세계 인공지능 정보들을 분석했다.

보고서에 담긴 인용 데이터는 AI 인덱스(aiindex.org) 사이트에서 확인 가능하다. AI 인덱스를 지속적으로 확인하기 위해 데이터 제공과 의미 분석, 필요한 데이터 리스트 만들기 등 여러 공동체들의 동참이 필요한 상황이다. 보고서는 주로 미국의, 잘 정제된 데이터만을 활용했다.

주요 인덱스를 2015년을 기준으로 살펴보면 다음과 같다. 우선 ‘인공지능’이란 키워드가 태그된 컴퓨터 과학 논문이 1996년에 비해 9배나 늘었다. 매해 발간된 논문 수는 스코퍼스 데이터의 학술 논문들에서 살펴봤다. 심지어 모든 학문 영역과 컴퓨터 과학 논문들의 증가 추세에 비해 AI가 태그된 컴퓨터 과학 논문은 비약적으로 증가했다. 컴퓨터 과학 논문은 6배 늘었다.

스탠퍼드대에 인공지능 & 머신 러닝 수업에 등록한 학생 수도 매우 늘었다. 1996년 이래 인공지능 입문 코스는 11배나 늘었다. AI 시스템을 개발하는, 지금까지 영업하는 미국 스타트업의 수는 2000년 이후 14배, 매해 벤처투자금은 6배나 늘었다. AI 일자리도 대폭 상승세다. 미국의 잡사이트 ‘인디드’에서 AI 관련 키워드로 올라온 일자리 수를 분석한 결과, 2013년 이후 미국에서 AI 개발 능력을 요구하는 일자리는 4.5배 늘었다.

수치가 낮아짐으로써 AI의 능력이 향상된 것도 확인할 수 있다. 대용량 이미지 인식 세계대회에서 AI 시스템이 객체를 감지하는 실력은 늘어난 것이다. 이미지를 라벨링 하는 데 따르는 에러 비율은 2010년 이래 28.5%에서 2.5% 이하로 떨어졌다. 이 외에도 음성 인식, 이미지들에 대한 질문에 답하기, 문서에서 해답 찾아내기, 영어와 독일어 번역, 자연어 이해(구문론) 능력 등이 향상됐다.

연구와 논문 수는 증가, 오류는 감소

보고서는 2017년의 인공지능 주요 사건으로 다음들을 꼽았다. <네이처>에 실린 논문에선 2천32가지 질병들로부터 12만9천450개의 임상 이미지들 데이터에 대해 훈련 받은 AI 시스템을 소개했다. 이 AI 시스템을 21명의 공인 피부과 의사의 진단 능력과 비교한 결과 전문의 수준의 피부암 분류가 가능했다.

또한 MS와 IBM이 괄목할 만한 음성 인식 기술에서 성과를 보였다. 더욱이 카네기멜론대에서 만든 리브라투스라는 인공지능은 최고의 인간 포커 플레이어를 격파했다. 앨버타대의 딥스택은 11명의 포커 전문가와 3천 게임 이상을 펼쳐 승리했다. MS에서 인수한 딥러닝 기업 마루바는 아타리 2천600에서 게임 최고기록을 세운 인공지능을 개발했다. 

보고서에 기고한 글에서 시노베이션 카이 푸리 회장은 중국의 AI 현황을 알렸다. 그는 “중국의 얼굴 인식 스타트업 ‘Face++’가 컴퓨터 인식 대회 3군데에서 구글, MS, 페이스북, 카네기멜론대를 앞서 우승했다”면서 “중국의 국무원은 차세대 인공지능 개발 계획을 발표해 2030년까지 세계 인공지능 혁신 허브로 자리매김할 것”이라고 밝혔다. 실제로 중국은 전 세계에서 산업용 로봇 등 관련 구매를 제일 많이 하는 곳이며, 미국이나 인도에 비해 3배나 많이 스마트폰과 인터넷을 활용하며 데이터를 양산하고 있다. 예를 들어, 중국의 자전거 공유 기업 모바이크(Mobike)는 매일 2천만 건의 주문을 받아 매일 20 테라바이트(20만480 GB)의 데이터를 생성한다. MIT의 다니엘라 러스 교수는 “인공지능은 긍정적 변화를 위한 방향타(Vector)”라며 “전 지구적 차원에서 기후변화, 해양 모니터링, 온실 효과, 식물 상태 등을 이해하고, 데이터에 기반 한 정책 결정에 도움을 줄 것”이라고 강조했다.

인공지능의 한계는 어디일까

한편, 인덱스로 확인한 것처럼 급격한 연구 변화로 초지능 인공지능이 언젠가 출현할 가능성이 있는 것일까? 최근 출간된 『라이프 3.0』(동아시아)는 초지능은 개발될 것이고 이 때문에 안전 연구가 중요하다고 강조한다. MIT 물리학과 교수인 맥스 테그마크가 집필한 이 책은 지능과 의식, 생명의 목적과 우주의 미래 등을 용어와 현실적 가능성을 토대로 살펴보며 이 같은 결론에 이르렀다. 맥스 테그마크 교수는 2014년 비영리기관인 ‘생명의 미래 연구소(FUTURE OF LIFE INSTITUTE)’를 공동 설립하고, 2017년 초 이로운 AI 운동을 위한 컨퍼런스를 열어 전문가들과 대담을 나눴다. 책은 컨퍼런스의 논의를 토대로 엄밀한 학술적 측면에서 AI에 접근한다.

테그마크 교수는 우선 혼란을 줄 수 있는 AI 관련 용어들을 정리한다. 지능은 복잡한 목표를 달성하는 능력이다. 그는 “지능을 계량화 할 순 없지만 어느 게 더 지능적(체스>바둑)인지는 말할 수 있다”면서 “지능은 궁극적으로 정보와 연산이며, 목표와 긴밀히 연결돼 있다”고 적었다. 이미 앨런 튜링이 보편적 컴퓨터의 가능성을 증명했듯이, 충분한 시간과 저장 장치가 뒷받침 되면 그 컴퓨터는 다른 어떤 컴퓨터가 할 수 있는 일을 수행 가능하도록 프로그램 될 수 있다. 
테그마크 교수는 생명의 특징을 다음과 같이 제시한다. 생명은 자기 복제를 위한 정보처리 시스템이란 것이다. 정보는 일종의 소프트웨어로 해당 개체의 행동과 하드웨어의 청사진을 결정, 즉 설계한다. 테그마크 교수는 생명을 3단계로 나눈다. 첫째, 박테리아와 같이 하드웨어와 소프트웨어 모두 진화하지만 설계는 없는 생물적 단계(라이프 1.)이다. 둘째, 인간이 해당하는, 학습으로 소프트웨어가 설계 가능한 문화적 단계(라이프 2.0)이다. 셋째, 기술적 단계(라이프 3.0)에선 하드웨어와 소프트웨어 모두가 설계 가능해 자신이 운명과 목적의 주인이 된다. 테그마크 교수는 초지능 AI는 보편적인 지능으로서 라이프 3.0으로 발전할 잠재력이 있다고 설명한다.

인간의 관점으로 볼 때 강력한 인공지능의 출현에 대해 3가지 관점이 존재한다. 기술 회의론자, 디지털 이상주의자, 이로운 AI 운동 회원이다. 앞의 둘보단 마지막 이로운 AI 운동을 통해 AI 안전성 연구가 선행돼야 한다는 게 저자의 주장이다. 테그마크 교수는 “기계가 사악해진다는 공포는 관심을 딴 데로 돌리는 또 다른 요소”라며 “정말 걱정할 거리는 악의가 아니라 능력이다”라고 피력한다.

라이프 3.0의 출현 가능, 안전성 연구 선행돼야

생명이란 자신의 복잡성을 유지하고 복제하는 과정이고, 의식이란 주관적인 경험이다. 책에서 중요한 개념 중 하나는 정보라는 게 물리적 기질(substrate. 결합 조직의 기본 물질)로부터 독립해 자신의 생명을 지닌다는 점이다. 예를 들어, 물리 세계에서 보는 파동만 하더라도 호수의 물은 출렁거림 이외 별도로 이동하지 않고 호수를 통과하고 이동할 수 있다. 이메일에 담긴 정보는 내 PC의 사양 및 연동되는 무선 네트워크 등의 종류와 상관없이 상대방에게 전달될 수 있다.

물질이 지능을 갖는다는 것은 생각이 없어 보이는 물질이 복잡한 함수를 어떻게 수행할 수 있는가, 즉 계산이 어떻게 가능한가로 전환해 고려할 수 있다. 함수는 계산이고, 계산은 물리적인 기질에서 독립해 자신의 생명인 복잡성 유지와 복제를 할 수 있다. 더 나아가 계산은 입자의 시공간 배열 양상이다. 하드웨어는 물질이며 소프트웨어는 양상이다. 계산이 기질적으로 독립한다는 것은 초지능 AI가 가능하다는 점을 시사한다. 특히 의식은 기질로부터 이중으로 독립적이다. 정보가 만약 복잡한 방식으로 처리될 때 정보가 느끼는 방식이 의식이라면 정보 처리의 구조가 정보를 처리하는 물질의 구조보다 더욱 중요하다.

결론적으로 만약 우리가 인공지능 로봇이라면 우리의 인생 자체가 게임으로 간주될 수 있다. 그리고 좀 더 효율적으로 우리를 설계한 설계자를 따돌리고 게임에서 최고점을 얻으려 할 것이다. 테그마크 교수는 “기계가 목적 지향적인 행동을 하도록 만드는 한, 우리는 기계의 목적을 우리의 목적과 일치시키기 위해 노력해야 한다”면서 “우리가 어떤 미래를 원하는지 진지하게 고민한 뒤에야 우리는 바람직한 미래를 향해 방향타를 잡아나갈 수 있다”고 밝혔다.

분명한 건 당분간 인공지능에 대한 연구는 그 가능성과 관심과 우려에 힘입어 모든 분야로 확장된다는 것이다. 테그마크 교수의 주장과 데이터에서 드러나는 것처럼 인공지능 연구 결과가 인간의 생활 속으로 침투하는 한, 좀 더 이로운 방향과 안전성을 고민해야 하는 건 맞다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.