만약 내 어머니로부터 은행 비밀번호를 잃어버렸다는 전화를 받는다고
생각해보자. 전화기 속의 목소리가 내 어머니라는 것을 이제 어떻게
보장할 수 있을까.

인공지능이 현실이 되면서 우려가 끊이질 않고 있다. <네이처월드뉴스>는 지난 8일 엘론 머스크의 말을 인용해 “진화한 인공지능이 웹을 다운시킬 수 있다”고 보도했다. 인터넷은 이미 범죄의 온상이다. 그런데 인공지능의 발전으로 대혼란이 야기될 수 있다는 우려다.
민간 우주업체 스페이스X 대표와 무인공정 자동차 기업 테슬라 대표인 엘론 머스크는 최근 트위터를 통해 “인간의 삶을 향상시키기 위해 만든 기술이 점차 재앙에 가까운 무기가 되어가고 있다”면서 “인터넷에 대한 인공지능의 엄청난 공격을 목도할 날이 멀지 않았다”고 말했다. 그는 오픈 A.I를 주창하며, 인공지능의 미래를 대비하기 위해 노력해야 한다고 주장해온 장본인이다.

엘론 머스크의 이 발언은 해커 그룹의 디도스(DDos: Distribute Denial of Service, 분산 서비스 거부) 공격이 일어난 10월 21일에 나왔다. 디도스 공격으로 페이팔, 트위터, 넷플릭스, 스포티파이(음원 스트리밍 서비스) 등이 몇 시간 동안 오프라인 상태가 됐다. 전문가들은 해커 집단이나 해커가 공격을 주도했을 것으로 분석한다. 머스크는 조만간 대대적인 디도스 공격이, 인간이 아니라 인공지능에 의해서 인터넷 기반시설을 강타할 것이라고 우려했다.
엘론 머스크는 “해커들과 사이버 보안 요원들 모두 진화된 인공지능을 사용할 것이고, 그렇게 되면 인터넷은 A.I. 대 A.I. 격돌의 장이 될 것”이라고 설명했다.

인공지능 간 대결의 장이 온다
<뉴욕타임스>는 이미 지난 23일 ‘인공 지능이 진화할수록 범죄 가능성이 생길까’는 소식을 전한 바 있다. 만약 내 어머니로부터 은행 비밀번호를 잃어버렸다는 전화를 받는다고 생각해보자. 전화기 속의 목소리가 내 어머니라는 것을 이제 어떻게 보장할 수 있을까. 컴퓨터로 합성한 목소리는 인간을 현혹시킨다. 이러한 위장 기술 소프트웨어는 빠르게 진화하고 있다.
실제로 인공지능 회사 딥마이드는 인간 목소리 흉내 내는 기술을 디자인했다. 어떤 목소리도 흉내 내면서, 기존에 있던 문장-음성 인식 시스템보다 더 자연스럽다. 이로써 인간이 수행하는 것과의 격차를 50%까지 줄였다고 한다.

올해 컴퓨터 보안 업계 연간 매출이 750억 달러를 돌파했다. 컴퓨터 보안 업계는 머신 러닝 및 패턴 인식 기술이 어떻게 비참한 사이버 안전을 향상시킬지 고민하고 있다. 온라인상의 범죄는 단순히 몇몇 해커들이 조작하는 수준을 이미 넘어서고 있는 것이다.
법률 고문이자 『범죄의 미래』 저자인 마크 굿맨(Marc Goodman)은 “사람들이 이해하지 못하는 것은 사이버범죄가 자동화하고 기하급수적 규모로 진화한다는 사실”이라고 말했다. 그는 ‘블랙쉐이드(웹캠 해킹으로 컴퓨터 원격 조종)’를 예로 들었다. 굿맷은 이 시스템이 컴퓨터를 기반으로 널리 퍼질 경우 ‘상자 속의 범죄 가맹점(criminal franchise in a box)’처럼, 이용자들은 전문 기술의 도움 없이 마우스 클릭만으로 랜섬웨어(ransomware. 컴퓨터에 침입해 주요 파일들을 못 열게 하고 금품을 요구하는 악성코드)를 배포하거나 비디오나 오디오를 도청할 수 있다.

인공지능 연구자들은 끊임없이 기계의 시각 인식 능력, 언어 이해, 음성 합성과 이해에 대한 머신 러닝 능력들을 발전시켜왔다. 일부에선 지난 50년 이상 동안 디지털 범죄가 인공지능으로 실험돼 왔다고 믿는다.
이젠 초보 범죄자들도 새로운 기술을 쉽게 사용할 수 있다. 애플의 시리(Siri)나 마이크로소프트의 코타나(Cortana)와 같은 음성 인식 기술은 현재 컴퓨터와 상호작용하기 위해 광범위하게 사용되고 있다. 아마존의 에코(Echo) 음성 조절 스피커나 페이스북의 메신저 챗봇(chatbot) 플랫폼은 온라인 상거래와 고객 지원을 위해 더욱 빠른 통로가 되고 있다. 늘 그렇듯 음성 인식과 같은 통신이 발전하면서 이것을 이용하려는 범죄자들 역시 혈안이 돼 있다.
한편에선 챗봇으로 고객 지원을 제공하는 회사는 이에 대한 사회적, 법적 책임을 져야 한다고 주장한다. 챗봇은 이미 정치 캠페인에서 ‘계산된 선전(computational propaganda)’으로 활용되고 있다. 페이스북과 트위터와 같은 서비스에서 사람들을 현혹하는 소셜 미디어 캠페인이 확대되고 있는 것이다.

범죄 초보자도 인공지능 활용한다
옥스퍼드 인터넷 연구소의 사회학자이자 부다페스트 코르비누스대 연구원인 필립 앤 호워드(Philip N. Howard). 그는 정치적 챗봇이 ‘브랙시트(Brexit, 영국의 유럽연합(EU) 탈퇴를 뜻하는 신조어)’에서 어떤 준비를 했기에 ‘작지만 정치 전략적인 역할’을 갖게 됐는지 지적했다. 챗봇이 온라인에서 이뤄지는 대화들에 작지만 의미 있는 영향력을 행사한 셈이다. 이런 인공지능 소프트웨어가 범죄에 사용되는 건 시간문제다.
최근 <MIT 테크놀로지 리뷰>는 인공지능의 다음 장은 스타크래프트가 될 것이라는 내용을 소개했다. 인공지능이 전략짜기, 상대편 행동 계산하기, 허세 및 엄포 두기 등을 배워서 진화 한다는 내용이다. 알파고와 이세돌의 바둑 대결은 이제 컴퓨터 게임으로 나아갈 수밖에 없다는 예측이다. 인간 플레이어의 고도 전략을 머신 러닝으로 학습하고 발전시켜 나가는 인공지능을 상상해보자. 전략짜기를 배우고, 메모리를 사용하는 것은 머신 러닝의 주요 이슈 중 하나다. 인공지능을 테스트 하는 데 컴퓨터 게임만큼 좋은 것은 없다. 
조만간 인간 대 인공지능의 대결은 인간+인공지능 대 인간+인공지능으로, 더 나아가선 인공지능 대 인공지능의 대결로 대체될 것이다. 과연 인공지능 시대 인간의 역할은 무엇인지 서둘러 고민해봐야 할 것이다. 그렇지 않는다면 인간이 인공지능으로부터 ‘소외’될 날이 분명 오게 될 것이다.  

김재호 과학전문기자 kimyital@empas.com

김재호 과학전문기자