어릴 적 공상과학 장르의 책이나 영화에 흠뻑 빠져 살던 때가 있었다. 이때 특히 인상 깊게 보았던 영화 중 하나가 바로 「아이, 로봇(I, Robot)」(알렉스 프로야스 감독, 2004)이다. 이 영화는 당시 액션영화의 ‘히어로’였던 윌 스미스가 주연을 맡아서 열연했다. 영화는 인간과 인간을 돕는 다수의 휴머노이드가 공존하는 머지않은 미래, 휴머노이드들의 시장을 독점하고 있는 한 회사의 개발자가 의문사하면서 시작된다. 

의문사한 개발자의 지인이었던 주인공은 회사를 조사하다가 외관에는 차이가 없지만, 유달리 독특한 ‘써니’라는 이름의 로봇을 의심하게 된다. 이 로봇은 스스로에게 이름을 붙이고, 감정을 가진 듯이 행동했다. 영화 줄거리에는 큰 반전이 자리 잡고 있기 때문에 내용을 전부 이야기하는 것은 적절하지 않아 보이지만, 영화의 주인공은 그가 의심하던 로봇이 제작회사에서 부여한 다음과 같은 ‘로봇 3원칙’을 지키지 않고 있으리라 믿었다. 재미있게도 영화를 끝까지 보면, 주인공이 우려한 ‘로봇 3원칙’의 붕괴는 일어나지 않지만, ‘로봇 3원칙’의 논리적 오류로 인해서 인간은 곤경에 처하게 된다. 

「아이, 로봇」의 원저작자인 아이작 아시모프(1920∼1992)는 러시아에서 태어나 미국으로 건너간 러시아계 미국인으로 아서 클라크, 로버트 A. 하인라인과 함께 3대 SF 거장으로 불린다. 그는 SF작가로도 유명하지만 해부학, 심리학, 천문학 등 무척 다양한 분야에서 500권이 넘는 저서를 남겼으며, 퇴고를 거의 하지 않을 정도로 천재성을 보인 것으로 알려져 있다. 그가 「아이, 로봇」을 쓰며 생각해 낸 이 ‘로봇 3원칙’은 공학자들에 의해 만들어진 스스로 생각하고 행동하는 로봇이라는 기계장치가 어떻게 하면 인간에 위해를 끼치지 않고, 스스로를 지키며 작동하게 할 것인지에 대해 고민한 흔적이다. 즉, 이 원칙들은 과학기술적인 의미 보다 “과학기술의 성과가 사회에 윤리적으로 어떻게 쓰여야 좋을지”에 대한 아시모프의 생각을 표현한 것이라 할 수 있다. 아시모프의 ‘로봇 3원칙’은 이후 다른 소설이나 영화, 게임 등에 자주 언급되었고, 실제 로봇개발 시에도 검토됐다.

로봇이 지녀야 할 자세에 대해 다른 관점을 제시한 학자도 있다. UC버클리대학교 전기공학 및 컴퓨터과학과 스튜어트 러셀 교수는 2017년 ‘TED 토크’에서 모호성과 인간을 위한 가치 판단에 기반한 로봇의 3원칙을 제시한 바 있다. 

앞서 제시된 아시모프의 ‘로봇 3원칙’은 아시모프가 스스로의 이야기에서 그 모순점을 지적했듯이 한계가 있다. ‘해롭거나 해롭지 않음’이라는 인간의 가치를 로봇이 임의로 판단하게 내버려 둔 것이다. 스튜어트 러셀 교수는 새로운 로봇 3원칙을 통해 로봇이 의사 결정을 하는 데에 제일 중요한 기준을 ‘인간의 가치 실현’으로 두었지만, 동시에 그 가치가 무엇인지에는 모호성을 남겨둠으로써 ‘겸손한’ 로봇을 가능케 하였다. 인간의 행동을 관찰해서 인간에게 이로움이 무엇인지를 깨닫게 하는 것이다. 

로봇에 대한 윤리성 부여와 관련한 이런 논의를 비웃기라도 하듯, 최근 우크라이나와 러시아의 전쟁에서는 인간을 공격하는 드론이 하늘을 휘젓고 있다. 러시아는 이란제 자폭 드론인 ‘가미카제 드론’을 사용해 우크라이나의 수도 키이우를 여러 차례 폭격하고 있다. 이 과정에는 앞서 언급한 훌륭한 두 학자들의 로봇 윤리성 따위는 찾아볼 수 없고, 그저 파괴 효과를 키울 수 있는 기계적 알고리즘의 흔적만이 보일 뿐이다.

아시모프는 후에 ‘로봇과 제국’을 쓰면서 다른 로봇 법칙들이 절대로 어겨서는 안 되는 0번째 원칙을 추가한다. 제0원칙: 로봇은 인류에게 해를 가하거나, 행동을 하지 않음으로써 인류에게 해가 가도록 해서는 안 된다. 최근에 벌어지는 하이테크 전쟁무기들의 ‘활약상’을 보면서 아이작 아시모프와 스튜어트 러셀의 ‘로봇 윤리성’에 대한 이야기를 하기 전에 ‘윤리적인 인간’에 대해 먼저 생각해보게 된다.

유만선 다른기사 보기