AI가 만든다는 ‘허황된 미래’… 정말 인류를 구할 수 있을까[북리뷰]

종교의 전유물이었던 ‘구원’이라는 말이, 근래 과학기술의 미래를 담보하는 단어로 종종 사용되곤 한다. 이른바 ‘기술을 통한 구원’(techno-salvation)은 실리콘밸리를 중심으로 하나의 세계관을 형성하며, 한 치 앞도 예측할 수 없는 미래의 청사진을(혹은 감언이설을) 퍼뜨리고 있다. 미국의 과학저술가 애덤 베커는 ‘기술이 인류를 구원한다는 착각’에서 기술을 통한 구원을 주장하는 이들의 청사진이, 기실 ‘기술 권력’을 탐하는 이들이 더 많은 돈과 권력을 차지하기 위한 감언이설이라고 주장한다. 저자는 기술을 통한 구원이 어떻게 시작됐는지, 어떤 형태로 우리 곁에 밀착해 있는지, 우리는 어떤 자세를 취해야 하는지 조목조목 설명한다.

기술 권력을 추구하는 이들에게 레이 커즈와일의 ‘특이점’, 즉 2045년쯤 등장할 ‘인간을 초월하는 기계 지능’은 실리콘밸리의 복음과도 같았다. 기술의 발전은 일정량이 더해지는 ‘선형적 성장’이 아니라 매번 일정량이 곱해지는, 그 성장 속도를 예측할 수 없는 ‘지수적 성장’을 따른다. 커즈와일에 따르면 기술은 “여느 진화의 과정처럼 스스로를 딛고 발전”한다. 하지만 저자는 커즈와일이 지수적 성장을 위한 전제 하나, 곧 “모든 자원은 유한하고, 영원히 살아남는 것은 없으며, 모든 것엔 한계가 있다”는 점을 간과했다고 강조한다. 설사 기술을 통해 인간이 영생을 실현한다고 해도 결국에는 탄생과 소멸이라는 우주의 자연법칙을 따를 수밖에 없는데도, 커즈와일은 그것조차 받아들이지 않는다고 저자는 질타한다.

명실상부 인공지능(AI) 시대에, 그 위험성을 경고하는 목소리가 높다. 단지 인간 일자리를 빼앗는 수준이 아니다. 미국의 AI 연구자 엘리에저 유드코스키는 인간보다 뛰어난 인공일반지능(AGI)이 인간 통제를 벗어날 뿐 아니라 소멸시킬 수 있다는 ‘AI 종말론’을 주장한다. 그는 저자와의 인터뷰에서 핵무기로 위협해서라도 AGI 연구를 중단시켜야 한다는 극단적 주장을 펼치기도 했다. 하지만 저자는 기술 낙관론자들과 대립되는 주장을 펼치는 유드코스키 역시 믿지 않는다. 기술 발전이 인류에게 재앙이라는 그의 주장 역시, 미래 방향 설정을 위한 권한과 자원 등 총체적인 권력을 움켜쥐기 위한 욕망에서 비롯되었기 때문이다. 이 욕망에 기름을 붓고 있는 인물이 옥스퍼드대의 철학자 닉 보스트롬이다. 그는 우주 종말에 대비하자며 한 글에 다음과 같이 쓴 바 있다. “초은하단의 식민지화를 단 1초만 앞당길 수 있는 정도로만 기술이 발전하더라도 10²⁹명의 사람을 구원하는 것과 같다.”

보스트롬 유의 주장에 가장 철저하게 복무하는 이들은 기술 하나로 억만장자 반열에 올라선 이들이다. 제프 베이조스는 블루오리진을 통해, 일론 머스크는 스페이스X에서 우주 진출을 실험하고 있다. 태양계에 있는 자원을 쓸 수 있다는, 화성 이주를 통해 소행성 충돌과 핵전쟁, 통제를 벗어난 AI 문제 등을 해결할 수 있다는 장밋빛 주장들이 난무한다. 한데 문제는 당장 그만한 기술력이 세상에 없다는 점이다. 우주 정착 계획을 주장하는 이들이 핵심적으로 내세우는 기술이 “아주 고성능의 자기복제 우주 탐사기를 만들 수 있는 기술”인데, 그런 기술은 현재 존재하지도 않고, 앞으로도 만들어질 가능성이 거의 없다.

저자는 기술을 통한 구원을 주장하는 이들의 기저에 있는 ‘효율적 이타주의’(Effective Altruism)와 장기론(Longtermism)을 다양한 관점에서 조명한다. 효율적 이타주의는 한정된 자원으로 세상을 가장 많이 개선할 수 있다는 일종의 공리주의지만, ‘10²⁹’ 같은 가늠할 수 없는(혹은 허황된) 수치 등 극단적인 주장이 많다고 저자는 일갈한다. 장기론은 미래 사람들을 위해 “더 좋은 세상”을 남길 뿐 아니라 “미래에 최대한 많은 사람이 살 수 있도록 하는 것”이 과학의 소명이라고 믿는, 효율적 이타주의의 변종이다. 다만 이러한 주장들은 “어떠한 미래가 현실이 될지 알 수 없다는 ‘불확실성’”을 단 한 번도 고려하지 않는다는 점에서 허황되다. 책 말미에 저자는, 기술 발전을 둘러싼 저간의 상황은 혼란스럽지만, 그럼에도 과학이 인류를 더 나은 곳으로 안내한다는 믿음을 버리지 말자고 주장한다. 그 꿈을 소수가 독점하지 못하도록 함께 깨어 있자는 말도 곁들인다. 효율적 이타주의자와 장기론자가 상상하는 미래는 실현 불가능하다는 사실을 잊지 말고, 우리 손으로 “황량한 미래든, 영광스러운 미래든” 만들어 가자는 저자 주장은 오늘 인류가 처한 가늠키 어려운 미래에 하나의 이정표가 되기에 충분하다.

장동석 출판평론가