“인공지능은 스스로 진화하는 것이 아니라 사회와 더불어 공진화한다. 
인공지능의 사회적 역할은 언제라도 재배치될 수 있다.”

김재인 경희대 비교문화연구소 학술연구교수는 시대의 화두를 정면으로 맞서는 첨병이자, 대중과 끊임없이 소통하는 실천가다. 그 토대가 된 것이 『생각의 싸움』(2019)이었다. 이 책에는 철학 교과서로 활용해도 좋을 만큼, 인류의 진보를 이끈 15가지 철학의 멋진 장면들이 ‘앎·있음·삶’의 싸움으로 담겼다. 특히 김 교수는 전작 『인공지능의 시대, 인간을 다시 묻다』(2017)에서 인간화가 불가능한 인공지능, 인공지능화 하기 어려운 인간을 분석한 바 있다. 또한 코로나19 팬데믹 때는 『뉴노멀의 철학』(2020)에서 대전환의 시대를 구축할 사상적 토대를 제시했다.

김 교수는 최신작 『AI 빅뱅』에서 더 나아가 인간만이 가능한 창조성·예술성의 본질을 강조하면서 융합 교육을 통한 새로운 인문학을 강조한다. “인공지능은 스스로 진화하는 것이 아니라 사회와 더불어 공진화한다.” 생성 AI가 한때 지나가는 유행이 될지, 앞으로 AI의 진화에 끝이 있을지라는 물음에 김 교수는 이같이 답했다. 지난 20일, 김 교수를 서면 인터뷰했다.

그는 『AI 빅뱅』에서 인공지능이 창조적인 일을 하지 못할 것이라는 예측과, 인공지능은 창작의 주체가 아니라 미디어일 뿐이라고 주장했다. 김 교수는 “인공지능이 주체 노릇을 하는 일은 아마 생겨나지 않겠지만, 사회 속에서의 역할은 언제라도 재배치될 수 있다”라며 “안면 인식 기술은 중국에서는 시위대를 감시하고 적발하는 기능에 녹아들었지만, 한국에서는 동선 추적을 통해 코로나19를 극복하는 수단이 됐다”라고 답했다. 인공지능이 권위주의 정부나 기업이 아니라 사회적 관리 아래 놓여야 하는 이유다.

김 교수는 언어에 대한 학습과 생성물의 진위·가치를 평가할 수 있는 전문 지식 교육, 더 좋은 생성물을 만들기 위한 지적 훈련을 강조했다. 예를 들어, ‘융합교육’, ‘확장된 인문학’, ‘자유시민교육’, ‘사회 속 인문학’, ‘창작 행위를 중심에 놓는 교육’ 등이다. 그는 “현대를 살아가기 위해서는 자연어 말고도 수학‧자연과학‧예술‧디지털 등 많은 언어를 다룰 수 있어야 한다”라며 “확장된 언어를 다루는 능력, 즉 확장된 문해력을 길러야 한다”라고 제안했다.

하지만 대학·교수사회는 적응력을 상실하고 있다. 인공지능으로 인해 위기가 오는 것이 아니다. 김 교수는 “단과대학이나 학과의 구성도 거의 그대로”라며 “오늘날 거의 모든 분과가 융복합 영역에 진입했는데, 대학에서는 이에 대한 교육과 연구가 거의 이루어지지 않고 있다”라고 지적했다. 한 마디로 20세기에 머물러 있다는 것이다. 그는 “대학이 아닌 기업 등의 다른 제도가 등장해서 대학을 접수할 수도 있다”라고 우려했다.

『AI 빅뱅』에서 시각 튜링 검사에 대한 비판이 눈에 띈다. 튜링 검사는 대화를 통해 인간과 인공지능을 구별한다. 시각 튜링 검사는 생성 AI가 만들어낸 그림이나 이미지가 인간이 만든 것인지 인공지능이 창조한 것인지에 대한 테스트다. 김 교수는 미국 럿거스대 예술과 인공지능 연구실의 AICAN(인공지능 적대적 창조망) 관련 논문을 분석했다. AICAN은 15∼20세기 1천119명의 화가가 탄생시킨 8만1천229점의 그림을 학습했다. 이를 토대로 모방해 새로운 작품을 창조했다는 주장이다. 시각 튜링 검사를 통과했기 때문이다. 하지만 김 교수는 “럿거스 팀의 시각 튜링 검사는 어떤 대상이 예술작품인지 아닌지를 검사하는 데 있어 불충분한 조건”이라고 일갈했다.

그 이유는 크게 세 가지다. 첫째, 고흐나 렘브란트가 최초로 그린 그림들이 없었다면 인공지능의 생성물도 없었다. 둘째, 인공지능의 생성물을 예술작품이라고 한다면, 자연에서 발생하는 것들이나 우연히 만들어진 모든 것이 예술작품이 된다. 예술작품은 탄생의 과정이 중요하다. 셋째, 인간인 럿거스 팀에 의해 AICAN이 무작위로 생산한 작품 중에서 인간의 작품과 견줄 만한 것을 골라내는 사전 작업이 있었기에 시각 튜링 검사는 적합하게 설계되지 않았다. 특히 인공지능은 자기가 생성한 결과나 다른 예술작품을 평가하지 못한다.

그런데 예술작품의 본질·창작과정이 아닌 소비·결과의 측면에서는 여전히 우려의 목소리가 높다. 작가·화가·애니메이터 등은 무분별한 AI 이야기·그림·만화로 인해 생계마저 위협받고 있다. “기술의 흐름을 거스르려 하기보다 흐름을 타고 자기 진로를 정해야 한다.” 김 교수는 “게티이미지나 픽사베이 수준의 결과물이 자신의 최선이라면 실직할 수밖에 없게 됐다”라며 “생계를 꾸리는 법을 다시 짜야 한다”라고 강조했다. 예를 들어, 사진이 발명되자 초상화 그리던 작가들이 직업을 잃었지만, 일부 화가는 새로운 돌파구를 찾아 인상주의를 시작으로 새로운 미술의 길을 개척했다. 김 교수는 “학생들은 생성 인공지능을 기본값으로 여기고 그런 세상을 바탕으로 자기 미래를 설계하며 대응 방안을 찾고야 말 것”이라며 “결과물의 품질을 평가하고 관리하는 일이 작가에게 중요하다”라고 답했다.

김 교수는 디지털 3부작의 마지막 편을 집필 중이다. 『아톰, 비트, 아트』(가제)는 디지털 기술 전반을 성찰할 예정이다. 김 교수는 서울대에서 ‘컴퓨터와 마음’이라는 과목을 몇 학기 동안 강의했다. 그 가운데 알파고 사건(2016)이나 최근 챗지피티 열풍이 발생하면서 철학적으로 성찰해야겠다고 마음먹었다. 김 교수는 “고전이 된 철학 저술은 대개 인류사의 충격을 성찰한 결과 중 살아남은 것”이라며 “그간 생성 인공지능의 본질은 무엇이고 미래는 어떻게 될까를 연구하고 고민했던 내용을 바탕으로 나만의 결론을 도출하고자 했다”라고 밝혔다.

>>> 아래는 인터뷰 전문이다. 

△전작 『인공지능의 시대, 인간을 다시 묻다』부터 이번에 출간된 『AI 빅뱅』, 그리고 관련 강의나 발표 논문 등 철학자로서 ‘인공지능’에 대한 성찰과 분석을 많이 하고 있습니다. 인공지능이 현 시대에 화두입니다. 김 교수님께서 인공지능에 관심을 두고 공부한 계기가 있으신가요?

앞의 책을 내던 당시 서울대학교에서 ‘컴퓨터와 마음’이라는 과목을 몇 학기 동안 강의하던 중이었습니다. 평소 정보통신이나 생명공학 등 첨단기술에 관심이 있었고, 마침 알파고 사건이 있었습니다. 이런 충격적인 사건을 철학적으로 성찰한 결과를 정리해야겠다고 생각했습니다. 고전이 된 철학 저술은 대개 인류사의 충격을 성찰한 결과 중 살아남은 것들이지요. AI 빅뱅은 인공지능의 시대, 인간을 다시 묻다의 시퀄입니다. 6년 동안 인공지능 관련해서 기술 변화와 발전이 있었고, 추적 관찰하던 결과를 한 번 더 정리해야겠다고 생각하게 되었습니다. 바로 챗GPT 열풍 때문이었죠. 사실 그전에 미드저니로 그린 그림이 대상을 받은 사건도 있었고요. 과연 이런 생성 인공지능의 본질은 무엇이고 미래는 어떻게 될까를 그간 연구하고 고민했던 내용을 바탕으로 저 자신만의 결론을 보고드리려 했습니다.

△시각 튜링 검사에 대한 비판이 흥미로웠습니다. “고흐나 렘브란트가 최초로 그린 그림들이 없었다면, 인공지능의 생성물도 없었으리라.”(43쪽), “세상에는 ‘인공지능 예술작품’뿐 아니라 ‘자연 예술작품’과 ‘우연 예술작품’ 등 여러 종류의 ‘예술작품’이 있을 수 있다.”(52쪽), “시각 튜링 검사는 숨은 전제를 깔고 있다. 인간인 럿거스 팀에 의해 AICAN이 무작위로 생산한 작품 중에서 인간의 작품과 견줄 만한 것들을 골라내는 사전 작업이 있었다. 이 점에서 시각 튜링 검사는 적합하게 설계되지 않았다... 인공지능은 자기 작품은 물론 다른 작품도 평가하지 못한다... 원리상 인공지능은 평가 기준을 자기 바깥에 둘 수밖에 없기 때문이다. 그 기준은 인간이 준 것이다.”(53-54쪽), “창작의 가장 중요한 의미는 (예술작품의 과정에서의) 가치 평가고 가치 창조다.”(57쪽)
그런데 예술작품의 본질·창작과정이 아닌 소비·결과의 측면에서는 여전히 우려의 목소리가 높습니다. 작가·화가·애니메이터 등은 무분별한 AI 이야기·그림·만화로 인해 생계마저 위협받고 있습니다. 이에 대해서는 어떻게 생각하시나요?

소비의 측면에서 변화가 있는 건 부인할 수 없는 사실입니다. 그런데 가만히 이 문제를 살펴보면, 도구가 발전할 때마다 비슷한 일이 있었다는 점도 확인할 수 있습니다. 사진이 발명되자 초상화 그리는 걸 업으로 삼던 많은 화가가 직업을 잃었지요. 하지만 몇몇 화가는 새로운 돌파구를 찾아 인상주의를 시작으로 새로운 미술의 길을 개척했습니다. 결국 현대미술을 꽃피우는 계기가 되었지요. 포토샵이 처음 나온 게 1990년입니다. 그 후 그림 그리는 일은 획기적으로 바뀌었습니다. 오늘날 종이에 그려서 스캔하거나 사진 찍는 일은 일반적인 작업 방식과는 거리가 멉니다. 다들 노트북과 태블릿, 혹은 이와 유사한 도구를 써서 그림을 그리지요. 요즘에는 포토샵이 과하다는 말이 사라졌습니다. 정도 차이는 있지만 누구나 쓰니까요. 중요한 건 결과물의 품질입니다. 새로운 도구가 나올 때 이미 현업으로 작업하던 사람은 거부감이 커요. 시간이 지나 도구가 충분히 보급된 상태에서 작업을 시작한 사람에게 도구는 기본값입니다. 이게 역사가 알려주는 진실이지요. 지금은 생성 인공지능이 위협을 준다고 여기는 현업 작가가 많아요. 생계를 꾸리는 법을 다시 짜야 합니다. 게티이미지나 픽사베이 수준의 결과물이 자신의 최선이라면 실직할 수밖에 없게 되었고요. 그런데 학생 입장에서 생각해 보세요. 학생들은 생성 인공지능을 기본값으로 여기고 그런 세상을 바탕으로 자기 미래를 설계할 거예요. 대응 방안을 찾고야 말 겁니다. 끝으로 결과물의 품질을 평가하고 관리하는 일이 작가에게 중요하다는 점을 강조하고 싶습니다. 작가는 언제나 평균 이상의 결과물을 내야 했습니다. 평균의 눈높이에 만족하는 소비자는 별로 없습니다. 기술의 흐름을 거스르려 하기보다 흐름을 타고 자기 진로는 정해야 합니다.

△“새 문장들의 생성은 철저하게 통계와 확률 그리고 여기에 가미되는 변이의 미세한 편향과 가중치에 따라 이루어진다.”(18쪽) 생성 AI에서 ‘편향’은 완전히 배제하기 어려운 것인가요? 편향의 결과를 계속 받아들여야 하는 것인가요?

편향(bias)에는 두 가지 의미가 있습니다. 사회적 편견과 차별을 내포하는 편향이 있습니다. 주로 학습 데이터에 은밀히 내재되어 있어서 무척 위험합니다. 어떻게든 배제하려고 시도해야 합니다. 인공지능이 공정성을 확보하기 위해서라도요. 이 문제를 다루는 사회학자는 아주 많습니다. 한편 생성을 유도하는 사람이 제안하는 편향도 있습니다. 내가 원하는 쪽으로 결과물을 생성하고 싶은 거죠. 따라서 이건 반드시 필요합니다. 다른 사람과 다른 나만의 색깔을 입히는 과정입니다. 자기만의 시선, 관점, 통찰이지요.

△손화철 한동대 교수(기술철학)은 「기술 유행의 유혹에 빠진 교육」(<교수신문> 2023년 6월 19일자)에서 메타버스와 챗GPT에 대해 “모두 대단한 기술인 것은 부인할 수 없지만 그 가능성에 대한 기대는 과장되었다”라며 “미성숙 기술과 미래 이야기 프레임에 부화뇌동하는 것”을 지적했습니다. 또한 손 교수님은 “챗GPT가 모두의 삶을 바꾸리라 기대했지만 6개월 만에 진정 국면으로 진입 중이다”라고 강조했습니다. 김 교수님이 보시기에, 생성 인공지능인 챗지피티도 메타버스와 같이 한때 유행으로 그칠까요? 아울러, 김 교수님께서는 “인공지능은 현재는 물론 앞으로도 당분간은 창조적인 일을 하지 못할 것으로 예측된다.”(169쪽)라며 “인공지능은 (창작의) ‘주체’가 아니라 ‘미디어’일 따름이라는 것이 나의 잠정적 결론”이라고 책에서 밝히셨습니다. 그렇다면 인공지능의 진화에는 끝이 있다고 간주해도 될까요?

인공지능의 진화는 인간 사회와의 공진화를 놓치면 의미 없습니다. 인공지능은 항상 사회 속에서 작동합니다. 인공지능이 주체 노릇을 하는 일은 아마 생겨나지 않겠지만, 사회 속에서의 역할은 언제라도 재배치될 수 있습니다. 사회에 어떻게 녹여내느냐가 관건이겠지요. 안면 인식 기술은 중국에서는 시위대를 감시하고 적발하는 기능에 녹아들었지만, 한국에서는 동선 추적을 통해 코로나19를 극복하는 수단이 되었습니다. 인공지능은 권위주의 정부나 기업보다 사회적 관리 아래 놓여야 합니다. 인공지능은 스스로 진화하는 것이 아니라 사회와 더불어 공진화합니다.

△에필로그에서는 “인문 사회계와 이공계의 실용성 차이가 엄청나다”(302쪽)라고 적으셨습니다. 이 때문에 언어에 대한 학습과 생성물의 진위·가치를 변별할 수 있는 전문 지식 교육, 더 좋은 생성물을 만들기 위한 지적 훈련을 강조하셨습니다. 여기서 ‘전문 지식 교육과 지적 훈련’은 좀더 구체적으로 무엇을 의미하는 것일까요? 책에서는 ‘융합교육’, ‘확장된 인문학’, ‘자유시민교육’, ‘사회 속 인문학’, ‘창작 행위를 중심에 놓은 교육’ 등이 언급됩니다. 구체적 사례를 통해서 설명해주실 수 있을까요?

시대 상황이 바뀌면 교육도 바뀌어야 합니다. 교육은 당대의 요청에 부응해야 합니다. 한국은 입시를 교육으로 착각하고 있습니다. 사회가 정체되어 있을 때 입시는 그 사회를 잘 살아가는 데 결정적입니다. 사회가 격변할 때 기존 교육의 틀은 유지될 수 없습니다. 쓸모없는 것을 가르치고 배우게 될 테니까요. 그렇다면 지금 시대가 요구하는 능력이 무엇인지 봐야 합니다. 저는 평가하는 안목을 기르는 것이 가장 중요하다고 봅니다. 이걸 위해, 가령 ‘글쓰기’ 훈련이 필요합니다. 글쓰기는 생각의 근력을 기르는 과정입니다. 좋은 글을 결과물로 내놓는 게 중요하겠지만, 그걸 위해 필요한 모든 단계가 잘 맞아떨어져야 하는 것이지요. 아이디어를 내고, 필요한 자료를 수집하고, 정리하고, 가공해서, 남들이 이해할 수 있도록 설득력 있는 글로 표현하는 것이지요. 이 하나하나가 중요합니다. 사회에서 필요로 하는 활동 대부분은 이 훈련을 거치면 해낼 수 있게 됩니다. 글쓰기는 결국 요즘 용어로 하면 콘텐츠 제작과도 비슷한 의미입니다. 차이가 있다면, 창작의 도구와 표현 수단이 확장되었다는 점입니다. 현대를 살아가기 위해서는 자연어 말고도 많은 언어를 다룰 수 있어야 합니다. 수학, 자연과학, 예술, 디지털이 대표적입니다. 이걸 모르면 살아가기 어려워요. 따라서 이런 확장된 언어를 다루는 능력, 즉 확장된 문해력을 길러야 합니다. 이를 교육하는 분야로 확장된 인문학을 주장하게 된 겁니다. 전통적인 문사철(文史哲)에 갇힌 인문학을 고수하면 안 됩니다. 전문 분야로서의 문학, 역사, 철학, 언어는 더 깊게 파고들어야겠지만, 보편 교육으로서의 인문학은 갱신되어야 합니다.

△인공지능으로 인해 대학·교수사회는 어떻게 바뀔 것이라고 생각하시나요?

위기는 인공지능에서 오지 않습니다. 이미 대학·교수사회는 적응력을 상실하고 있습니다. 30년 전과 비교했을 때, 대학에서 바뀐 것이 무엇이 있을까요? 건물이 좋아지고 시설이 현대화되고 디지털 장비가 도입되었지요? 그런데 교육의 본질에서 뭐가 바뀌었을까요? 단과대학이나 학과의 구성도 거의 그대로고, 오늘날 거의 모든 분과가 융복합 영역에 진입했는데, 대학에서는 이에 대한 교육과 연구가 거의 이루어지지 않고 있습니다. 한 마디로 20세기에 머물러 있는 거지요. 이에 대한 경각심이 있어야 뭐라도 바뀔 텐데, 관찰해온 결과 저는 회의적입니다. 대학이 아닌 다른 제도가 등장해서 대학을 접수할 수도 있습니다. 지금은 기업이 유력한데, 꽤 절망적이지요.

△추후에는 어떤 연구를 진행할 예정이신가요?

디지털 3부작의 마지막 편을 쓰고 있습니다. 『아톰, 비트, 아트』(가제)라는 책으로, 인공지능에 한정하지 않고 디지털 기술 전반을 성찰하고 있습니다. 디지털 기술은 가장 광범위하고 세밀하게 우리 삶에 영향을 미치고 있습니다. 따라서 큰 그림을 완성하는 것이 시급합니다. 또한 디지털 기술은 우리의 몸과 물질세계를 재편하고 있습니다. 미래의 양상을 예측해 보고, 삶의 의미와 가치를 다시 돌아보는 작업이 필요합니다. 그밖에 오래 연구해 온 들뢰즈의 철학을 정리해서 몇 권의 책으로 내놓으려 하는데, 다른 연구가 시급해서 언제가 될 수 있을지는 잘 모르겠습니다.

김재호 기자 kimyital@kyosu.net 

김재호 다른기사 보기