AI시대, 알고리즘과 공존하되 과신하지 말라

안녕, 인간 / 해나 프라이 지음, 김정아 옮김 / 와이즈베리

책의 원제는 ‘Hello World.’ 영국 수학자인 저자가 컴퓨터 프로그램을 처음으로 짤 때 만났던 문장이라고 한다. 그는 “이 문장은 인간과 기계가 서로 대화하는 순간을 상기시키며 동반자 관계가 시작될 가능성을 나타낸다”고 설명한다. 한국어판 제목 ‘안녕, 인간’은 인공지능 시대에 인간이 더 주체적으로 대응해야 함을 강조한 것으로 보인다.

영국 런던에서 도시수학을 가르치는 저자 해나 프라이는 수학 모델을 이용해 인간 행동 패턴과 사회 현상을 분석해왔다. 이 책은 인간 사회의 데이터를 모아서 범주를 분류하고 연결고리를 찾아서 결과를 도출하는 인공지능 알고리즘(Algorithm)을 다루고 있다. 알고리즘은 공공 시스템뿐만 아니라 사생활에서까지 인간의 삶을 통제하고 있다. 사람들은 넷플릭스가 취향별로 추천하는 영화와 드라마를 선택하고, 휴대전화에서 검색한 키워드를 웹사이트 배너 광고로 만난다. 이런 현상은 갈수록 더 심화할 텐데, 이것이 인류의 미래를 더 행복하게 만드는 것일까.

저자는 이 질문에 낙관적인 대답을 하기 위해서는 인간이 알고리즘의 부정적 측면을 냉정하게 살펴봐야 한다고 주장한다. 그 부정적 측면을 개선하면서 인간과 인공 지능이 공존하는 미래를 열어가야 한다는 것이다.

이미 전 세계 각 영역에서 드러나고 있는 것처럼, 알고리즘 데이터는 인간을 조종하는 일에 널리 쓰이고 있다. 선거 기간 데이터를 내세운 가짜 뉴스를 퍼뜨려 유권자를 현혹하는 것은 하나의 보기에 불과하다. 어떤 정부는 국민의 사적인 데이터들을 모아 점수로 평가하며 개인 신용도를 평가한다.

저자는 이 시점에서 인공지능 발달에 대한 인간의 과신을 거둬야 한다고 주장한다. 과신은 두려움을 낳고, 이 두려움이 알고리즘에 맹목적인 권위를 부여하는 탓이다. 미국 스탠퍼드대에서 박사 공부를 하던 말레이시아 건축가 라히나 이브라힘 사례는 그 권위가 어떻게 오용될 수 있는지를 잘 보여준다. 이브라힘은 미연방수사국(FBI) 요원이 자동화 시스템 서류에 그가 속한 단체 이름을 잘못 표시하는 바람에 테러범으로 몰려 공항에서 수갑을 차고 10년 동안 미국 땅에 발을 들여놓지 못했다.

저자는 “인간이 그렇듯이 알고리즘도 완벽하지 않다고 인정할 필요가 있다”며 “자동화 시스템을 구축하는 데 들이는 것만큼이나 거기에 의문을 제기하는 데도 비슷한 시간과 노력을 바쳐야 한다”고 강조한다.

책의 마지막 부분은, 세계 체스 챔피언이었던 가리 카스파로프가 인공지능 딥블루와의 경기에서 패한 후 취한 태도를 긍정적 모델로 제시한다. 카스파로프는 패배감에 사로잡혀 컴퓨터를 외면하는 대신에 인간 선수와 알고리즘이 서로 협력해 다른 팀과 승부를 겨루는 게임의 지지자가 됐다. 컴퓨터의 도움으로 전략을 수립하고 그것을 바탕으로 인간이 창의성을 발휘해 훨씬 수준 높은 경기를 펼치는 것. 이처럼 알고리즘과 공존하되 지배당하지 않는 태도가 필요하다는 것이다. 352쪽, 1만6800원.

장재선 선임기자 jeijei@munhwa.com