AI가 불러올 종말?… 인류는 ‘공존 해법’ 찾을 것이다

클릭하시면 더 큰이미지를 보실 수 있습니다

슈퍼 인텔리전스 / 닉 보스트롬 지음, 조성진 옮김 ／ 까치

일찍이 앨빈 토플러는 인간의 과거 경험이 다가올 미래를 이해하는 데 별 도움이 되지 않는 오늘날의 시대정신을 ‘미래의 충격’이라는 말로 요약했다. 미래가 항상 예측 불가능한 충격으로 다가오는 시대, 이것이 바로 “견고한 모든 것이 공중으로 사라지도록 만드는” 자본주의의 실체이고, ‘새로운 것’에 대한 한없는 매혹이 홀로 떨어져 살아가면서 생겨난 개인의 정체성 불안을 억누르는 근대의 진정한 도래다. 파멸을 예감하면서도 새로운 것에 대한 추구를 도무지 멈출 수 없는 ‘충격 중독자’가 바로 우리의 얼굴이다.

‘슈퍼인텔리전스’는 인공지능이라는 과학적인 문제를 다루는 책이지만, 문학적이고 종교적인 어조를 띠고 있다. 옥스퍼드대 철학자인 저자 닉 보스트롬은 이 책에서 사도 요한이 된다. 즉 기술 발전이 인간 사회에 가져올 ‘최후의 충격’을 예언하는 묵시록을 쓴다. 인간지능을 뛰어넘는 초지능, 즉 슈퍼인텔리전스의 출현 말이다.

2018년에는 이미 반도체 트랜지스터 숫자가 인간 뇌에 있는 뉴런 숫자를 넘어선다. 인공지능이 이번 세기 안에 인간지능을 ‘뛰어넘는’ 것은 거의 필연적으로 보인다. 그렇다면 인간을 능가하는 초지능의 출현이 인류에게 뜻하는 바는 무엇인가? 인류가 우주에서 더 오래 존재할 수 있도록 진화하는 축복의 순간일까, 아니면 지구상에서 인간이 기계생명에 우위를 내주고 멸종의 길에 접어드는 종말의 순간일까?

보스트롬은 일종의 비관론자다. 그는 현재 인류의 상태를 언제 터질지 모르는 폭탄을 가지고 노는 어린아이에 비유한다. 가만히 귀 기울이면 시계가 똑딱거리는 소리를 들을 수 있는 시한폭탄 말이다. 그런데 이 아이는 악동이라 폭탄에 대해 주변의 어른에게 알리기는커녕 무슨 일이 일어나는지 보려고 일단 격발장치를 당긴다는 것이다. 게다가 지금 인공지능을 개발하는 프로젝트는 수없이 많은 곳에서 수행 중이라, 어른들은 어디에서 무슨 일이 벌어지는지 도무지 알 수 없는 상황이다.

‘슈퍼인텔리전스’는 인공지능의 역사와 최신 흐름으로부터 수많은 자료를 뽑고, 철학자 특유의 정밀한 추론을 더해 이 무시무시한 종말론적 과제에 접근한다. 기계가 인간 수준의 지능에 도달하고, 그로부터 ‘빠르게’ 도약해서 인간을 뛰어넘는 지능이 생겨나는 ‘지능 대확산’이 일어나면 모든 것이 끝이다. 그때부터는 초지능이 인간의 ‘지배’를 벗어나 우월한 지능을 이용해 인간 전체를 ‘장악’해 버릴 테니까 말이다.

보스트롬은 그전에 단 한 번의 기회가 인간에게 주어질 것이라고 주장한다. 인공지능이 인간에게 우호적으로 자신의 지능을 사용하도록 하는 식으로 인공지능을 통제할 수 있는 기회 말이다. 그리고 인간이 그 기회를 잡으려면, 지금부터라도 초지능과 관련된 모든 가능성을 따지는 노력을 기울여야 한다고 이야기한다. 기술 발전의 도덕적 위험성을 환기하려고 종말론적 환상을 불러일으키는 이러한 주장은 ‘프랑켄슈타인’ 이후 수많은 과학소설에서 이미 풍부하게 제출된 바 있으며, 그 결과 인간은 기술 내부에 도덕적 동기를 불어넣음으로써 더 지혜로운 존재로 거듭날 수 있게 됐다.

‘알파고 사태’ 이후, 초지능의 탄생이 조만간의 현실임이 피부로 느껴지는 순간이기에 ‘슈퍼인텔리전스’가 제기하는 도덕적 문제, 즉 “인간을 뛰어넘는 지능을 개발하는 것이 인류 역사에 가장 큰 사건이라면, 그것이 인류의 마지막 성과가 되지 않도록 하려면 우리는 무엇을 해야 할 것인가?”라는 문제는 한 개인의 걱정거리가 아니라 인류 전체의 문제로 격상했다. 이 책에서 환기하듯이, 기계지능의 개발 속도만 높이고 기계지능이 인류에게 유익한 방향으로 일어나도록 하는 통제방법의 개발을 촉진하지 않을 때 일어날 재앙 말이다.

‘슈퍼인텔리전스’에 붙어 있는 수많은 옮긴이 주들은, 번역자와 편집자가 이 책을 만드는 데 얼마나 꼼꼼한 노력을 기울였는지를 보여준다. 그 덕분에 알파고 이전에 나온 책이 알파고 이후의 책과 마찬가지가 됐다. 그러나 개인적으로 나는 묵시록을 그다지 신뢰하지 않는다. 공포가 문제 해결의 단초가 되는 경우는 별로 없다. 초지능이란 말에서는 어쩐지 ‘신’의 냄새가 난다. 그런데 신과 ‘함께’ 사는 법이라면 새삼스레 호들갑을 떨 필요도 없이 우리가 이미 잘 알고 있지 않은가.

우주에는 수많은 지능이 이미 존재하고, 인간지능은 애초부터 유일한 지능이 아니다. 디지털 혁명 이후, 인간이 가장 열심히 학습한 것은, 비록 초지능은 아닐지라도 인간지능을 뛰어넘도록 설계된 기계지능과 공진화하는 법이었다. 가령, 무작위로 축적된 방대한 자료로부터 순식간에 적합한 문서를 골라내는 검색엔진의 능력은 인간은 전혀 가질 수 없는 지능이다. 그동안은 분류체계를 만들고 자료를 미리 선별해 두는 식으로 그 문제를 해결했을 뿐이다. 지난 스무 해 정도의 짧은 시간 만에 인간지능은 이 능력을 갖춘 검색지능과 ‘함께’ 사는 쪽으로 진화했다.

인간지능의 대부분은 협력을 통해 필요한 지식을 만들어 주고받는 ‘사회성’으로부터 생겨났다. 아마도 인간지능의 고독을 달래줄 다른 지능들과 ‘함께 사는’ 능력이 인간지능의 본래 모습일 것이다. 초지능 문제 역시 초지능과 함께 사는 능력에 해결책이 있을 것이다. 저자가 ‘적절한’ 초지능의 개발을 위해 인류 전체가 ‘함께’ 노력하는 ‘도덕적 성숙함’을 호소하는 것도 결국 이 능력을 신뢰하기 때문이 아닐까.

장은수 출판평론가