“AI는 스스로 판단하는 초유의 기술… 새 지옥 열릴 것”[북리뷰]

■ 넥서스
유발 하라리 지음│김명주 옮김│김영사

‘사피엔스’ 유발 하라리 신작
“AI의 재앙, 결코 허상 아니다”
강한 ‘자정장치’ 필요성 역설
역사·종교·생물학 연계 분석

순진한 낙관·완벽한 냉소주의
‘정보’ 향한 두 신념 모두 경계

지난해 3월 일론 머스크 테슬라 CEO, 스티브 워즈니악 애플 공동 창업자 등은 최소 6개월간 첨단 인공지능(AI) 기술 연구를 중단하자고 제안했다. 2만7000명 이상의 사람이 서명한 이 공개서한에는 세계적 석학 유발 하라리도 이름을 올렸다.

하라리는 무명 연구자였던 그를 세계적 석학의 반열에 올린 저서 ‘사피엔스’를 통해 신과 돈 등에 의미를 부여해 ‘허구’를 만들어내고 이를 믿는 집단적 상상력이 인류 사회 발전의 원동력이라고 짚었다. 차기작 ‘호모 데우스’에서는 스스로 신이 되려는 인간의 욕망이 신기술과 만나는 것에 대해 우려를 표했다. 특히 인간을 위험에 빠뜨릴 신기술을 ‘정보’라고 전망해 일찍이 AI의 재앙(災殃)화에 대한 권위자로 자리매김했다.

AI 재앙화의 담지자(擔持者)로서 하라리는 6년 만에 내놓은 이번 신간을 통해 그가 지켜본 기술 발전 양태를 짚으며 AI 기술의 발전이 더 이상 미룰 수 없을 만큼 긴박한 재앙으로 부상하고 있음을 강력히 주장한다. 더 많은 이용자를 끌어들이려는 목적을 가진 페이스북의 AI가 혐오를 조장함으로써 로힝야족 학살에 영향을 줬을 때 하라리는 이미 AI는 이세돌을 이긴 알파고 정도의 문제가 아니라는 점을 명확히 한다. 책의 제목이 된 ‘넥서스(nexus)’는 연결의 중심점을 의미하는 단어다. 그는 책을 통해 정보라는 핵심어를 중심으로 역사, 종교, 문학, 진화생물학 등의 다양한 주제를 연결시켜 AI에 대한 우려가 결코 허상이 아니라는 분석을 내놓는다.

저자는 지금 당장 AI의 미래를 심각하게 고민하고 규제를 마련해야 할 이유에 대해 AI가 ‘정경(正經)화’ 작업을 거치는 중이기 때문이라고 말한다. 하나의 성서가 유일한 정경으로 인정받고 나면 손 쓸 도리가 없다는 의미다. 많은 사람이 AI에 대해 인쇄술과 같은 정보기술의 발전 중 하나 정도로 생각하곤 하지만 AI는 스스로 판단을 내리는 초유의 기술이며 이는 더 이상 인간만이 기술 활용에 관한 유일하고 최종적인 결정자가 될 수 없다는 것을 의미한다고 저자는 말한다. 즉 AI라는 주체성을 가진 정보 네트워크의 구성원이 초대된 것이다.

분석 과정에서 저자는 기독교의 확산, 볼셰비키 혁명과 같이 정보 체계가 전환점을 맞았던 다양한 역사에 대해 이야기한다. 이를 통해 정보에 대해 사람들이 가지는 두 가지 신념을 주의하라고 강조한다. 첫째는 순진한 낙관이다. 세금 기록, 성서, 정치 선언문, 비밀경찰 파일 등은 강력한 국가와 교회를 출현시키는 동력이 됐으나 이를 통해 인류는 언제나 개인과 집단을 강력히 억압하곤 했다는 점을 지적한다. 그런데 어째서 AI 기술만큼은 인류에게 더 큰 해방을 가져다줄 것이라 확신할 수 있냐고 묻는 것이다.

그러나 동시에 비판적 논의를 넘어서 완벽한 냉소로서 AI를 대하는 것도 경계해야 한다고 말한다. 하라리는 카를 마르크스와 그의 제자들은 오랫동안 인간 사회를 권력 투쟁의 장으로서 축소시켰음을 비판하면서 인간 개개인의 삶은 권력에만 집착하는 일차원적 존재로 분석되지 않는다고 주장한다. 진정 인간 사회의 유일한 현실이 권력뿐이라면 왜 모든 문제에 대한 해결책으로 폭력이 선택되지 않는지에 대한 반문이 따라온다.

그렇기에 하라리는 모든 논의를 넘어 지금 이 순간이 AI 기술에 대한 강력한 ‘자정 장치’가 논의돼야 하는 시점이라고 역설한다. 아직 늦지 않았지만 더 늦어졌을 경우 누구도 책임질 수 없는 ‘티핑 포인트(tipping point)’에 서 있다고 말하는 듯하다. 지난 10일 발표된 노벨 화학상은 AI 기술을 통해 단백질의 구조를 예측한 연구자들에게 돌아갔다. 인류의 가장 진보된 과학 성과를 논하는 자리에서조차 AI의 압도적 기술력을 인정한 것이다. 몇 년 후의 노벨상은 스스로 기술을 진보시키는 기술, AI에게 돌아갈 수 있다는 것도 공상은 아닐 것이다. “새로운 천국이 어떤 모습일지 생각해보지 않으면 순진한 유토피아에 현혹”되지만 “새로운 지옥이 어떤 모습일지 생각하는 것을 미루면 출구 없는 곳에 갇혀버릴 것”이라는 하라리의 조언이 더욱 서늘하게 들리는 순간이다. 684쪽, 2만7800원.

장상민 기자 joseph0321@munhwa.com