UPDATED. 2024-03-28 20:40 (목)
‘생성형 지능 자판기’의 맞춤형 답…사유마저 위탁된다
‘생성형 지능 자판기’의 맞춤형 답…사유마저 위탁된다
  • 이광석
  • 승인 2023.04.13 08:59
  • 댓글 0
이 기사를 공유합니다

인문학자가 본 인공지능의 미래_이광석 서울과기대 교수

교수신문 창간 31주년을 맞아 인공지능에 대한 인문학적 성찰을 특집으로 마련했다. 창작의 영역까지 넘보는 생성형 AI의 등장은 인간 사회의 모든 영역에 균열을 내고 있다. 과연 인문학자는 인공지능을 어떻게 바라볼까. 이광석 서울과기대 교수(IT정책전문대학원)는 이용자들의 활동·취향을 데이터로 포획하는 ‘AI 자본주의’를 지적했다. 천현득 서울대 교수(과학학과)는 언어행위자인 인간과 대비해 챗지피티는 참·거짓을 구분할 수 없는 ‘개소리’ 생성기계라고 비판했다. 

인공지능(AI)이 일으킬 삶의 변화에 전 세계가 들썩인다. 무엇보다 생성형 인공지능 챗지피티(ChatGPT)의 출현이 마치 블랙홀처럼 세간의 거의 모든 얘깃거리를 집어삼키고 있다. 누군가의 물음에 답하고, 번역하고, 시와 소설을 쓰고, 글과 기사를 작성하고, 원하는 이미지를 생성하고, 컴퓨터 코드를 짜고, 파워포인트를 자동 생성하고, 텍스트를 요약하는 등 생성형 AI 기술의 새로움이 대중적 열광으로 증폭되고 있다.

챗지피티와 같은 생성형 AI의 가장 큰 특징이라면, 전문가뿐만 아니라 일반인의 지식 생산과 창의 활동에 결합된 인공지능의 범용성일 것이다. 이제 언제 어디서든 일반 개인용 사무, 편집, 이미지, 번역, 웹 브라우저 프로그램에 내장된 인공지능 환경을 목전에 두고 있다. 지금의 추세라면, 검색 기능을 대신해 인공지능에 묻고, 글을 쓰면서도 프로그램에 플러그인된 생성형 AI를 늘 곁에 두고, 그것이 생성한 결과를 어디든 덧대거나 응용할 수 있는 일상이 열릴 것이다.

편리나 효율성의 견지에서 보면 인공지능이 곧 사회 지식 생산과 교환의 범용 기술이 되는 것은 당연한 귀결 같다. 하지만, 우리가 마주하는 인공지능의 세례와 축복에 비해 그것이 향후 일상 삶과 우리의 의식에 미칠 영향에 대해 그리 쉽게 낙관하기에 섣부르다.

사실상 인공지능 기술은 챗지피티 이전에도 이미 우리 곁에 스며들고 있었다. 그렇지만 이제까지의 응용 사례들은 그리 유쾌하기만 했던 것은 아니다. 가령, 인공지능 알고리즘 추천 기술에 의해 편향된 콘텐츠 소비 탓에 우리는 상호 극단적 배제와 증오로 똘똘 뭉친 정치적 부족주의를 마주했다. 플랫폼 알고리즘에 마치 아바타처럼 속박된 배달 노동자와 이용자 손끝의 별점들이 영세업자에게 비수가 되는 현실은 또 어떠한가. 이용자의 활동과 취향을 데이터로 포획해 이를 자원 삼아 기생하는 ‘AI 자본주의’가 깊어지면서, 지능기계의 심부름과 허드렛일을 행하는 위태로운 남반구 미세노동자 또한 증가일로에 있다. 오늘날 인공지능의 민낯은 생각보다 비릿하다.

 

인공지능으로 인해 질문하고 성찰하는 인간의 능력은 사라지고, 데이터에 갇힌 표상세계만 탐닉할 가능성이 커지고 있다. 사진=픽사베이

 

주류 세계관의 과잉 표상과 확산

생성형 AI에서는 이렇듯 다른 인공지능 기술이 보여줬던 문제가 없을까? 챗지피티와 같은 인공지능의 기계학습(머신러닝) 모델은 인간의 지식과 창작 결과물을 대거 습득해 이전 시점의 데이터를 기반으로 다음에 올 단어를 확률적으로 계산해 맞춤형 결괏값을 생성해내는 패턴을 지닌다. 그런 연유로 인해 생성형 AI는 인간 사회의 주류 의식과 규범적 사고의 확률적 평균값을 빼닮을 수밖에 없다. 인류 지식의 거대 데이터를 원료로 갈아 넣은 생성형 AI 자판기가 마구 토해내는 전산 확률적 구성물이 차고 넘칠수록, 인간 사회의 표준화된 세계관이나 규범이 과잉 대표될 확률이 높다.

마치 이는 이미지 생성 AI의 자동화된 ‘리믹스’(원본 이미지를 뒤섞어 변형해 새롭게 창작하는 행위) 공정으로 보자면, 특정 가중치 값이 과도해져서 특정 작가와 사조의 패턴화된 색감이 이미지 결과물에 두드러지는 것과 유사하다. 생성형 AI에서는 그것이 이미지건 텍스트건 상관없이 주류 질서의 과잉 표상된 세계관이 건조하게 변주되며 무한 복제될 수 있다. 문제는 프롬프트형 질문과 답변이 일상 속에 흔하게 기입될 때, 주류 세계관의 과잉 표상 속에서 과연 소수 의견과 타자의 관점이 살아남을 수 있을까 하는 의문이다.

적어도 검색의 시대에는 무언가 찾는 행위를 통해 스스로 정리하고 생각하는 힘을 그 자신에 귀속시킬 수 있었다. 이제 생성형 인공지능에 묻고 답하는 시대에는 그 자신이 풀어야 할 물음을 자주 생략하고 이를 지능기계에 쉽게 위임해버리게 된다. 이미 구축된 지식과 데이터의 생성형 지능 자판기로부터 맞춤형 답을 찾는 인간의 ‘구매’ 습관에 익숙해지면, 일정 부분 생각하고 사유하는 힘과 탐구 능력마저도 인공지능에 자주 위탁하게 될 확률이 높아진다.

인간 지식 데이터를 갈무리한 의미 생성의 세계에서는 직접적인 감각, 사물과 사건, 타자의 존재, 원본 사이트와 출처 등 대상 세계로부터 캐묻고 경험하고 찾고 따지는 비판적 성찰 과정이 줄어들고 궁극적으로 퇴화될 수밖에 없다. 이는 사회적으로 인공지능에 묻고 답하는 자동화에 대한 의존도를 높여 상대적으로 대상 세계와의 접속을 귀찮아하는, 인간 의식 과정의 ‘탈숙련화’로 이어질 수도 있다.

 

데이터 내 표상만 탐닉되고 성찰은 상실

사물과 물질성에 대한 궁금증과 물음이 프롬프트 자동 명령어로 대부분 대체되는 세상은 더욱 사물과 유리된 비물질 논리와 데이터 질서 내 표상 세계의 탐닉만 강화시킨다. ‘흐릿하게’ 상호 혼성이 복제되고 리믹스돼 무한 자동 재생되는 그럴듯한 이미지와 이야기의 과실재 현실은, 우리의 기술 욕망이 배태하는 또 다른 그늘이다.

인공지능이 이렇듯 가속화하는 현실에서 우리는 무엇을 할 수 있을 것인가? 무엇보다 어떠한 사회적 합의나 영향 평가 과정도 없이 무분별하게 인공지능을 전방위로 도입하는 빅테크의 폭주하는 행보에 제동을 걸어야 한다. 인공지능이 우리의 일상에 착근되는 방식과 사회적 효과에 대한 근본적인 재검토가 시작돼야 한다.

근원적으로는, 청정의 투명한 과학으로 행세하는 인공지능 기술을 떠받치는 현실의 인프라와 인공지능의 물질성을 드러내는 일이 중요하다. 이를테면, △빅테크 인공지능을 위해 갈아 넣는 인간 의식과 생체 데이터의 무차별 추출주의와 데이터 인클로저(사유화) 질서 △생성형 AI의 연산 처리에 소모되는 과도한 에너지 소비와 탄소 배출 증가 △인공지능의 유령노동자로 전락해가는 인간의 산노동 등 인공지능 과열로 쉽게 망각되는 ‘자본주의 리얼리즘’의 구체적 실재를 드러내야 한다. 결국, 이는 어떻게 인간과 인공지능의 앙상블적 관계를 도모할 수 있을지에 대한 기술 민주주의적인 전환의 기획과 맞닿아 있다.

 

 

이광석
서울과기대 IT정책전문대학원 교수
미국 텍사스대(오스틴캠퍼스)에서 문화이론으로 박사학위를 받았다. 『디지털의 배신』, 『피지털 커먼즈』, 『디지털 폭식 사회』 등을 집필했다. 현재 <문화/과학> 공동편집인을 맡고 있다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.