‘가짜’ 만드는 기술, 악용 쉬울 때 문제[김헌·김월회의 고전 매트릭스]

(35) 기술과 가짜

■ 열어구 ‘열자(列子)’

진짜 같은 가짜 실용적이지 않다면‘졸렬한’기술일뿐
가짜음성 만드는 AI 15초면 완벽 재현 충격적 기술의 진보

며칠 전 미국 기업이 개발한 인공지능(AI) 도구인 ‘보이스 엔진’(Voice Engine)이 공개되었다. 이를 이용하면 15초 분량의 음성 샘플만 있어도 화자의 목소리와 비슷한 음성을 만들 수 있다. 음성 샘플이 더 있으면 화자의 목소리를 완벽하게 재현할 수도 있다.

그 얼마 전 미국은 딥페이크로 제작된 “치매 책 보는 바이든, 체포된 트럼프”라는 제목의 사진으로 떠들썩했다. 완벽에 가깝게 조작된 사진이 대통령선거판을 적잖이 혼탁하게 할까 무척 우려됐기 때문이다. 수년 전에 상영된 과학소설(SF) 영화 ‘공각기동대: 고스트 인 더 쉘’에서는 “What are you?”란 질문이 “Who are you?”란 질문보다 앞서고 많이 던져진다. 인류는 생전 처음 보는 사람일지라도 ‘누구’라고 물어보며 살아왔지 ‘무엇’이라고 물어보지는 않았다. 그러나 영화에선 인간과 사이보그가 겉으로는 전혀 구분되지 않기에, 심지어 사이보그가 인간보다 더 인간답기에 처음 보게 되면 ‘누구’보다는 ‘무엇’을 앞세운다. 상대가 인간인지, 사이보그인지를 먼저 확인할 필요가 있기 때문이다.

이는 기술의 진보가 ‘진짜들의 세계’에 가한 그리고 앞으로 가할 충격들이다. 그런데 진짜보다 더 진짜 같은 가짜를 빚어내는 기술은 첨단 디지털문명 세계인 오늘날에만 존재하는 건 아니었다. 2000년도 훨씬 더 된 옛날, 중국 송나라에서 있었던 일이다. 어떤 사람이 임금에게 바치고자 옥구슬로 닥나무 잎을 만들기 시작하여 3년 만에 완성했다. 잎의 모양새와 빛깔은 물론 닥나무 잎의 솜털, 윤택까지도 완벽하게 재현해내어 그것을 진짜 닥나무 잎들과 섞어 놓으면 도무지 분간되지 않을 정도였다. 그 덕분에 이 사람은 임금으로부터 벼슬을 하사받았다.

소문이 자자하게 퍼졌다. 진짜보다 더 진짜 같은 가짜를 만들어내는 기술도 신기했거니와 그러한 기술이 사람에게 괜찮은 삶의 기반을 안겨다 준다는 것도 무척 솔깃했다. 그런데 ‘열어구’라는 이가 그 소문을 듣고는 일침을 가했다. “세상의 생물들로 3년 만에 잎 하나를 빚어내게 한다면, 만물 가운데 잎을 지닌 것이 매우 적게 될 것이다. 그러므로 성인들은 자연의 도를 기반으로 하는 변화에 의지하지 기교를 믿지 않는다.”(‘열자’) 여기서 ‘기교’는 기술을 가리킨다. 그리고 열어구가 문제 삼은 것은 진짜 같은 가짜를 감쪽같이 만들어내는 기술 자체가 아니라 그러한 기술 구현에 3년이라는 시간이 투여된다는 점이었다. 3년에 제품 하나를 만들어낸 셈이니 그 제품의 가격은 무척 비싸질 것이다. 그 대가로 벼슬자리를 받음은 익히 그럴 만도 하다. 문제는 실용적 쓰임새였다. 3년에 하나 만들어내는 것은 실용 차원에선 쓸모가 너무도 적었다. 열어구가 자연이 만물을 빚어내는 속도에 빗대어 그 대단한 기술을 냉소했던 까닭이다.

열어구뿐 아니었다. ‘묵자’에 보면 공수반이라는 당대 최고의 장인이 대나무 등을 이용하여 하늘을 나는 까치를 만들어 날렸는데 사흘 동안이나 비행을 했다고 한다. 요새로 치면 자율드론을 만들어낸 셈이다. 그것도 나무로 말이다. 분명 엄청난 기술이다. 그럼에도 묵자는 아무리 빼어난 기술이라도 사람에게 이롭지 않으면 ‘졸렬한 기술’일 따름이라며 공수반을 나무랐다. 기술은 그 자체의 빼어남으로만 사회적 의미를 지니는 것이 아니라 실질적으로 생활에 도움이 되었을 때 비로소 그 빼어남도 의미가 있다는 통찰이다.

클릭하시면 더 큰이미지를 보실 수 있습니다

이런 점에서 지금의 AI 기술은 많이 두렵다. 15초 만에 화자의 음성을 재현해내는 데서 보이듯이 진짜 같은 가짜를 만들어내는 데 시간이 오래 걸리지 않는다. 게다가 이를 실용적이라고, 생활에 도움이 될 거라고 여기는 이들이, 악용하고자 마음먹은 이들 외에도 사실 적지 않다. 그래서 두렵다는 것이다. 진짜와 가짜를 구분해내는 인간의 안목은 저 옛날이나 21세기 지금이나 별 차이가 없다. 그런데 기술은 진짜보다 더 진짜 같은 가짜를 아무렇지도 않게 만들어내고 있다. 가짜들이 진짜인 양 행세하는 세상이 가속되고 있음이다. 가짜 뉴스가 진짜 뉴스를 쫓아낸 지 이미 오래된 데서 알 수 있듯이 말이다.

김월회 서울대 중어중문학과 교수