번역 제공
AI 판단의 윤리적 책임은 인간의 몫
과거·현재의 다른 문제해결법과 비교
AI의 시대가 온다고 사람들은 말한다. 하지만 AI는 새로운 것이기 때문에 AI 개발자를 포함한 전문가들조차도 AI가 무엇인지에 대해서 아주 중요한 부분들을 잊어버리기 쉽다. 극심해진 오늘날의 전문화는 이 문제를 아주 심각하게 만든다.
뭔가를 이해한다는 것에 있어서 가장 기본적인 것은 그것을 무엇과 비교하는가 하는 것이다. 예를 들어, 사람들은 AI는 인간처럼 이성적인 존재인데 인간과는 뭐가 다른가라고 질문한다. 그러면서 AI는 공학적인 발명품이며 따라서 인간이나 지능같이 추상적 단어들로는 만들어질 수 없다는 것을 잊어버린다.
AI를 연구하는 일은 인간을 만드는 일이 될 수 없다. 우리는 인간의 정확한 정의를 가지고 있지 않기 때문이다. 실제로 AI를 만드는 사람들은 아주 구체적으로 정의할 수 있는 문제들을 풀고 있다. 그리고 그 문제들이 가지는 목적·범위·환경 따위가 AI의 행동을 결정한다. AI가 어떤 문제를 풀 것인가는 인간이 결정하는 것이기 때문에 AI가 내리는 판단의 윤리적 책임은 결국 인간에게 있다고 할 수 있다.
하지만 AI 개발자라고 해도 반드시 AI가 무엇인지를 잘 설명할 수 있는 것도 아니다. 새로 나온 AI나 학습 알고리즘 같은 것에 대해서 아주 잘 아는 사람도 AI란 무엇인가를 설명할 때 그 핵심을 완전히 놓칠 수 있다. 이는 한국에서 평생 살았던 사람이라고 할지라도 외국을 모르면 한국이 어떤 나라인지 설명할 수 없는 것과 같은 이유다. AI는 문제를 해결하는 새로운 방식, 즉 AI 패러다임이 내놓은 해법이다. 우리가 AI와 비교해야 하는 것은 과거와 현재의 다른 문제해결 방식들이며 따라서 AI란 무엇인가라는 질문은 철학적이고 문화적인 것이다.
이제까지 인류는 여러 가지 지식들을 생성하고 그것으로 문제들을 해결했다. AI는 컴퓨터 최적화가 만들어 내는 지식으로 다른 지식들처럼 우리의 문제를 해결해 주지만 인간이 이해할 수 없다는 특징을 가지고 있다. 또한 그것은 과학처럼 시공을 초월한 보편적 답을 제시하는 것이 아니라 주어진 문제 형식 속에서 지금 가지고 있는 데이터를 가지고 만들 수 있는 최선의 답을 제시한다. AI는 인간이 말로 표현할 수 없는 것을 포함하고 있어서 시를 쓰고 음악을 작곡한다. AI는 우리 주변의 기계들과는 다른 원리로 만들어진 것이며 사실 AI를 만드는 컴퓨터 최적화는 생명의 진화와 비슷하다.
AI는 대개 그 목적이 복잡한 문제에 쓰인다. 자동차를 운전한다던가, 이미지를 분석한다던가, 주어진 질문에 적합한 답을 내놓는다던가 하는 일은 하늘을 나는 비행기나 빵을 굽는 오븐같이 우리 주변에 있는 기계보다 복잡한 목적을 가진다. 그래서 우리는 우리가 AI 패러다임으로 어떤 문제를 풀려고 하는지, 그걸 왜 지금의 방식으로는 해결하기 어려운지를 좀 더 세심하게 고민해야 한다. 어떤 주체가 어떤 문제를 어떤 영역에서 가지는 가에 대해 주목할 필요가 있다.
AI는 가치중립적이지 않다. 기업의 문제를 해결하는 AI를 소비자나 노동자가 사용하는 것은 AI를 사용하는 것이 아니다. 그것은 AI 덕분에 슈퍼지능을 가지게 된 기업이 낡은 시대의 인간과 만나는 상황으로 당연히 인간에게는 위험하다. 소비자와 노동자도 AI 패러다임을 써서 자신의 문제를 풀어야 안전해지는 것이다. 우리는 AI의 공공성을 잊어서는 안 된다.
산업혁명은 거대한 기계처럼 변한 일터와 학교를 만들어냈다. AI의 시대에 그런 식의 문화적 변화는 더 중요하다. 오늘날 변화의 속력은 예전보다 훨씬 더 빠르기 때문이다. AI는 새로 나온 자동차나 가전제품과는 다른 것이다. 우리는 언어가 없는 상태의 우리 자신을 상상하지 못한다. 마찬가지로 AI가 사방에서 작동하는 시대란 AI가 문자나 과학지식처럼 우리 자신과 분리할 수없이 내면화돼 정치적·사회적·문화적으로 세상을 바꾸는 시대다. 뒤집어 말하면 이런 변화를 용납할 수 없을 때 AI 시대는 오지 않을 것이다.
우버택시 같은 공유경제 사업은 한국에 정착할 수 없었다. 마찬가지로 AI의 시대도 기술 이상으로 사회적 합의가 있어야 올 수 있다. 이 새로운 문제해결 패러다임을 대중이 이해하고 대중을 위한 AI를 개발해야 진정한 AI의 시대가 올 것이다.
강국진
전 일본 이화학연구소 연구원·포스텍 박사
