인간과 AI가 대결하면 누가 이길까? 알파고와 이세돌, 커제(柯浩)와의 대국에서 보았듯이 AI의 일방적 승리였다. 

알파고는 현존하는 기성(棋聖)들을 모두 제압하고 입신(入神)의 경지에 도달했다. 대규모 언어모델(Large Language Model)을 통한 생성형 챗지피티 진화도 앞으로 AI가 최상의 知力을 지닌 포스트 휴먼의 시대를 실현시킬 수 있음을 보여주었다. 

포스트 휴먼 시대의 도래에 대해 자연과학도들은 대체로 긍정적이다. 이와 달리 인문학도들은 포스트 휴먼이란 개념 자체를 싫어한다. 사회과학도로서 나도 역시 비판적이다. 호모 사피엔스를 넘어 ‘신인류’가 나타난다. 기존의 인류는 몰락한다. SF 영화에 등장하는 인물(터미네이터·어벤져스·문레이커·풀아웃 등)이 현실이 된다. 신인류는 감성과 이성을 가진 인간이 아니다. 기술공학적으로 만들어진 인공생명체다. 인간을 벗어난다. 사랑·도덕·윤리는 사라진다. 끔찍한 일이 아닌가. 

아날로그에서 디지털 사회로의 전환은 ‘거대한 변혁’(Great Transformation)이다. 기회와 위협으로서 디지털 전환을 보아야 한다. 경제·정치·사회·문화에 대한 반향이 크다. 플랫폼을 통한 가상공간의 실현은 거래비용을 낮추어 과업의 외부화를 촉진한다. 공유경제·전자정부·재택근무·원격구매 등에서 보듯 노동비용을 낮추고 자원절약에 효과적이다. 3D 프린팅과 같은 적층(積層)제조는 동일한 제품의 복제생산을 쉽게 만들어서 생산자와 소비자 사이의 거리를 줄여준다. 국경을 넘는 전 세계적 유통이 가능하다. 미래 혁신 성장의 동력이다. 

이미 인간과 AI 사이의 균형추는 후자로 기울었다. 지식의 습득이 인간의 독해 없이 AI의 개입에 의해 이루어진다. 시·소설·그림·사진·노래 등 모든 분야에서 모사(模寫)가 가능하다. 디지털 플랫폼에서 알고리즘에 의해 우리가 사용하는 콘텐츠에 바탕해 기호·취향·행태를 필터링한다. 문제를 해결하기 위한 방법으로 알고리즘은 편리하다. 사회 곳곳의 방대한 데이터에 기반한 머신러닝에 의해 일정한 패턴을 발견하여 해답을 준다. 이 과정에서 우리는 스스로 얻은 정보를 활용해 자기 주도로 생각하고 행동한다고 믿는다. 그러나 실제로 우리는 주체가 아니라 객체에 지나지 않는 존재다. 알고리즘이 너와 나, 즉 우리의 생활을 지배한다. 

오늘의 민주주의는 디지털 플랫폼이 기반하고 있는 알고리즘에 의해 위협받고 있다. 알고크라시(algocracy)다. 기업과 정부 등 공사조직에서 의사결정과정이 인간이 아니라 AI에 의해 결정된다. 기술 주도 봉건제 아래 종속된다. 시민은 신민(臣民)으로 되돌아간다. 미국 기업인 구글·아마존·페이스북·애플·마이크로소프트 그리고 중국 기업인 알리바바와 텐센트 등 빅테크를 대표하는 ‘GAFAAMT’(열거된 빅테크 기업들의 앞 글자 모음)의 사례를 들어보자. 이들은 온·오프라인에서 우리의 모든 삶을 자료로 축적해 적극적으로 상품화하고 있다. 특히 정부는 빅테크와 함께 스마트 도시, 스마트 보안 등 사업을 통해 개인의 삶의 복지와 안전을 높인다고 주장한다. 우리는 빅테크가 관장하는 파놉티콘(Panopticon) 안에 갇혀 산다. 세계 여러 나라의 권위주의 정부는 스마트 정책을 경쟁적으로 추진하고 있다. 시민은 감시되고 통제되고 있다. 

최근 페이스북이 미국에서 정치적 양극화에 기여했는가를 놓고 뜨거운 논쟁이 벌어졌다. 미국 사회는 인종·계층·세대·지역으로 갈라졌다. 미국이 자랑하는 민주주의는 조롱거리가 되고 있다. 
정치적 양극화는 소셜 미디어가 나타나기 이전부터 존재했다. 하지만 소셜 미디어의 등장 이후 알고리즘이 그러한 정치적 양극화를 심화시키는 데 일조하고 있다. 뉴미디어 시대에는 조작과 선동이 용이하다. 소셜 미디어는 개인 맞춤 알고리즘에 의해 유권자에게 편향된 정보만을 전달한다. 

선거 과정에서 가짜뉴스·허위정보·악성댓글의 제조를 통해 유권자를 호도한다. 우리도 지난 대선, 총선 과정에서 유사한 사건을 겪은 바 있다. 여기서 조작된 정보는 진실과 거짓의 구분이 없다. 개별화된 필터는 편향적인 정보를 제공함으로써 유권자는 알고리즘이 만들어 놓은 ‘버블’에 갇히게 된다. 시민들은 왜곡된 공론장에서 정보 편식을 통해 판단 능력을 잃고 확증편향에 빠진다. 정치 양극화가 심화된다. 

빅테크의 사용자 수를 보면, 페이스북 사용자는 29억 명, 유튜브 사용자는 23억 명, 인스타그램 사용자는 12억 명, 틱톡 사용자는 7천320만 명, 그리고 텔레그램 사용자는 7천만 명이다. 미국 거대 정보통신 기업들은 제도권에서 자신에 유리한 정책을 유지하기 위해 엄청난 비용을 써가며 빅테크에 유리한 정책을 만들고자 적극적으로 정부나 정치인을 대상으로 로비하고 있다. 

지난해 아마존의 경우 1천900만 달러, 페이스북은 2천만 달러, 구글은 1천200만 달러, 그리고 애플은 650만 달러를 로비자금으로 지출한 바 있다. 빅테크가 이끄는 사회에서 시민들은 공짜로 주는 정보에 눈이 멀어 기업이 주도하는 알고리즘에 저항하지 못한다. 비판적 독해 능력을 갖춘 디지털 시민이 아니다. 

소셜 미디어는 쌍방의 상호작용을 통해 정보의 생산·공유·확산을 넓힌다. 사회적 관계가 가상공간에서 만들어지면서 소셜 미디어를 통한 참여가 늘어난다. 우리 주변에서 보듯 소셜 미디어의 중독성은 매우 강하다. 인터넷이나 휴대폰 없이 살기 어렵다. 우리가 온라인 플랫폼에서 연결하는 시간만큼 우리의 성향에 맞게 정보를 제공하며 영향을 미친다. 

알고리즘이 극단주의를 조장하는 증폭제 역할을 한다. 디지털 공간에서 우리의 모든 일상이 추적된다. 누구를 만나고 무엇을 하고 있는지가 노출돼 있다. 겉으로는 ‘투명사회’인데, 실제로는 ‘감시사회’다. 
우리의 삶이 디지털 플랫폼으로 흡수되고 있는 현실에서 보이지 않는 알고리즘에 의해 시민의 일상이 관리되고 심지어 통제되고 있다. 시민사회를 살리기 위해 사회운동이 적극적으로 나서야 한다. 

‘아래로부터 감시하는 사회’(sousveillance society)를 위해 디지털 플랫폼을 활용하자. 흩어진 개인들이 연대와 협동의 장으로 모일 수 있다. 시민들이 다시금 깨어날 수 있도록 디지털 플랫폼을 재발견해야 한다.

임현진 
서울대 명예교수·정치사회학

임현진 다른기사 보기