UPDATED. 2019-08-20 10:00 (화)
남성 중심의 인공지능영역을 역주행하는 호쾌한 여정
남성 중심의 인공지능영역을 역주행하는 호쾌한 여정
  • 교수신문
  • 승인 2019.05.20 11:55
  • 댓글 0
이 기사를 공유합니다

페미니즘 인공지능: 오해와 편견의 컴퓨터 역사 뒤집기(메러디스 브루서드 지음, 고현석 옮김, 이음, 2019.05)

 

어려서 로봇 장난감을 좋아하던 소녀는 컴퓨터과학을 공부해, 인공지능 전문가이자 데이터 저널리스트인 여성이 되었다. 테크놀로지의 장밋빛 전망을 누구보다도 굳게 믿었던 그녀 메러디스 브루서드는 그러나 어느 날, 회의감에 휩싸인다. “정말? 자율주행 자동차 센서는 개발된 지 10년이 지나도록 밝은 빛과 밝은 색을 구분하지 못하고, 알파고는 수많은 사람들의 지능과 시간을 동원해 만든 뛰어난 체스 기계에 불과한데, 고작 그런 테크놀로지에 우리의 미래를 맡겨야 한다고?”
공상과학 영화가 우리에게 심어준 환상을 걷고 보면, 의심할 근거는 차고도 넘친다. 예를 들면 미국 내 여러 주의 사법부가 도입한 ‘인공지능 판사’ 소프트웨어인 COMPAS, PSA, LSA-R 등은 객관적이기는커녕 개발자 집단의 편견을 고스란히 재생산하고 있다는 비판을 받고 있다. 이들 소프트웨어는 범죄 피의자의 범죄 경력과 성격 패턴, 사회적 요인 등을 고려해 재범 위험성을 예측하는 알고리즘인데, 유색 인종과 가난한 사람들의 재범 위험성을 높게 예측해 공정성 논란에 휩싸여 있다.
2016년 오하이오 주에서는 자율주행 자동차 사고로 인한 첫 사망자가 발생했다. 운전자는 테슬라 자동차의 자율주행 기능인 ‘오토파일럿’을 켠 채 도로를 달리고 있었는데, 차가 밝은 햇빛 아래 흰색 트레일러를 감지해내지 못하고 그 밑으로 들어가는 바람에 참변을 당했다. 저자는 10여 년 전 미국방위고등연구계획국(DARPA)이 주최한 자율주행 자동차 대회에 참가하기 위해 공대생들이 만든 자율주행 자동차를 탔다가 죽을 뻔한 기억을 떠올린다. 그 이후 DARPA는 기술 개발에서 손을 뗐고, 전문가들도 “자율주행 자동차는 예기치 않은 상황에 대응할 수 없다”는 경고를 보내고 있으며, 교통 당국이 새로운 개념을 정의하지 못해 우왕좌왕하고 있는데도 미국 내에는 자율주행 기능이 있는 자동차가 시판되고 있다.
분명 문제가 있는데도, 테크놀로지 업계와 관련 학계에서 반성의 목소리는 왜 나오지 않는 걸까? 테크놀로지의 방향과 성격을 좌지우지해온 누군가가 책임져야 하는 것 아닐까? 정말 이런 테크놀로지를 다음 세대에 물려줘도 괜찮은 걸까? 저자는 이런 질문으로 컴퓨터-테크놀로지의 역사를 뒤집어 보고, 현재의 테크놀로지가 어떻게 성·인종 차별을 확대·재생산하고 있는지 확인하며, 특히 이 역사의 최첨단인 인공지능이 작동하는 현장을 발로 뛰어본다. 공립 중·고등학교의 문제를 해결할 전자 시스템을 고안하고, ‘무박’ 5일 동안 버스를 타고 미국을 횡단하는 해커톤에 참여하는가 하면, 2016년 미국 대선 운동 캠프의 재정 데이터를 처리하는 알고리즘을 실험해본다. 이렇듯 남성 중심 컴퓨터 사회를 역주행하는 호쾌한 여정이 『페미니즘 인공지능』에 담겼다.
저자는 먼저 테크놀로지 산업과 학문, 법과 제도, 문화와 대중적 인식을 만들어온 책임자들을 찾아 나선다. 그리고 놀랍게도, 이 다양한 분야가 매우 소수의 남성 엘리트 집단에 의해 장악돼 있었음을 발견한다. 그들만의 네트워크를 통해 강화된 편견이 현재의 테크놀로지 시스템에 고스란히 반영되었고 이 시스템이 사회 전반에 영향을 미치고 있는데, 이를 견제하거나 제어하는 장치는 제대로 작동하고 있지 않다는 것이 근본적인 문제다. 저자의 지적처럼 "컴퓨터 시스템은 그것을 만든 사람들을 대변"한다. 과연 사회에 관심이 없는 사람들이 만든 테크놀로지로 더 나은 사회를 만들 수 있을까?


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.