클릭하시면 더 큰이미지를 보실 수 있습니다 그래픽 = 전승훈 기자 jeon@munhwa.com
박형주의 수학 이야기 - ⑨ 무한과 공허
요즘 스타워즈 에피소드7이 새로 개봉되어 신드롬을 일으키고 있다고 한다. 흥행 기록을 경신할 거라는 소식도 들리고, 버락 오바마 미국 대통령은 이 영화를 보러 가야 한다고 기자회견을 일찍 종료했다는 해외 소식도 들려왔다.
우주를 소재로 한 또 다른 영화인 스타트렉에서는 ‘우주는 인간에게 남겨진 마지막 프런티어’라고 했던가? 우주라는 단어에 범인들을 흥분시키고 동경하게 하는 어떤 게 있긴 한 모양이다.
우주에 대한 관심을 영화 속 상상의 수준이 아니라 현대 우주론의 관점에서 체계적으로 대중에게 소개한 것은 역시 1980년에 만들어진 칼 세이건의 코스모스였다. 우주물리학자인 칼 세이건이 직접 해설을 맡아 진행한 13부작 과학 다큐멘터리였는데, 미국 공영방송 PBS 역사상 최고의 시청률을 나타낸 프로그램으로 기록되어 있다. 전 세계 60여 개 국가에서 5억 명 이상이 시청했다고 한다. 필자도 1980년대에 이 다큐멘터리를 보며 우주의 광대함과 인간사의 미미함에 전율하던 기억이 생생하다.
영화나 학문의 영역에서뿐 아니라 인간은 실제로 우주로 나가려고 노력해왔다. 지구 주위를 도는 인공위성 발사를 두고 왜 비싼 돈 들여 그런 걸 쏘느냐고 시비하는 사람은 이제 찾아보기 힘들다. 기상예측부터 방송이나 통신 그리고 GPS를 이용한 내비게이션까지 인공위성의 도움 없이 불가능하다는 게 분명해진 탓이다. 달 탐사와 태양계 행성 탐사가 여러 시행착오를 겪으며 계속됐는데, 과학적 발견과 실험의 영역을 넘어서 인류에게 또 다른 새로운 진보를 안겨주리라는 것도 분명해 보인다.
며칠 전에는 전기자동차 회사 테슬라 설립자로 유명한 일론 머스크가 운영하는 민간 우주탐사 기업인 스페이스 엑스가 인공위성을 발사했을 뿐만 아니라 추진체를 원래 자리로 복귀시키는 데 성공했다고 해서 화제가 됐었다. 대기권을 벗어나기 위해 엄청난 에너지가 필요하므로 추진체는 덩치가 클 수밖에 없는데, 발사 과정에서 무게를 줄이기 위해 단계별로 로켓 추진체를 바다에 버리는 게 기존 방식이었다. 이걸 회수해서 재사용하면 우주선 발사 비용이 10분의 1로 준다고 하니 새로운 전환점이 마련된 건 분명하다. 인터넷 상거래 업체인 아마존의 제프 베저스 회장도 우주탐사업체 블루 오리진을 운영하며 비슷한 시도를 하고 있으니, 공적 영역이 아닌 민간 영역에서의 경쟁이 새로운 혁신을 만들어 내는 또 다른 사례일까?
무한에 대한 관심은 서양보다는 동양에서 더 역사가 길다. ‘하늘과 땅은 검고 누렇다’라는 문장으로 시작하는 한자 입문서인 천자문(千字文)은 6세기에 중국 양나라의 주흥사(周興嗣)가 만든 책인데 겹치는 글자가 전혀 없는 사언고시(四言古詩)들을 250개 모아서 만들었으니 지은이는 가히 천재라 할 만하다. 그 두 번째 구절이 우주홍황(宇宙洪荒)인데 우주를 ‘넓고 거칠다’고 보는 동양의 우주관이 긴 세월 동안 유지되어온 것임을 짐작하게 한다.
‘끝이 없이 크다’는 뜻의 무한의 개념은 이런 우주관을 반영한 것이어서 셈의 개념에도 영향을 미쳤다. 역사적으로는 기원전 2만5000년 쯤에 셈의 개념이 출현한 흔적이 보이는데, 사냥감의 수를 세는 과정에서 나온 것으로 추정하곤 한다. 하지만 보이는 걸 세고 계산하는 일상에서 나오는 수는 제한적일 수밖에 없어서, 수를 세다가 억, 조, 경 같은 큰 수를 접하게 되면 ‘인세(人世)의 어디에서 이런 수를 마주치랴’ 의심하게 된다. 셈의 과정에서 이런 큰 수가 튀어나올 리가 없는데 무얼 하려고 이리도 큰 수를 생각해낸 걸까? 아주 큰 걸 나타내는 표현이 ‘천문학적으로 크다’인 걸 보면 우주와 관련 있는 걸까?
고대 아테네의 철학자들은 우주의 무한성보다는 우주의 기본 단위에 더 관심을 기울였다. 물질의 기본단위로 4원소(元素)를 제안했고 수의 기본 단위로 소수(素數)의 개념을 발전시켰다. 소수는 ‘원소 같은 수’라는 뜻인데, 이것들을 곱해서 모든 자연수를 다 만들어 낼 수 있음을 증명하고 환희에 젖었을 그리스인들을 상상해 보라. 요즘 학교에서 소인수분해라는 이름으로 가르치는 게 바로 자연수를 기본 단위인 소수들의 곱으로 표현하는 걸 말한다.
반면에 그리스인들은 무한대에 대한 이해에서는 큰 진전을 이루지 못했다. 문명사의 명저인 유클리드 원론도 유한한 것만을 다루고 있어서, 이 책에 나오는 모든 선분은 유한하다. 그래서 ‘평면의 평행한 두 선분은 만나지 않는다’고 말한다. 하지만 끝없이 긴 평행한 두 철로는 지평선 언저리에서 만나는 것처럼 보이지 않는가? 유한한 세상에 천착한 그리스 철학자들은 이런 모순을 제대로 보지 못하고 지나쳤다. 15세기 화가들이 원근법을 만들어 내고 파스칼이 무한을 집어넣은 사영기하학을 만들 때까지 이 문제는 미해결의 난제였다. 그렇지, 무한이라는 개념이 잠시의 사념으로 툭 튀어나올 수 있는 건 아니지….
고대 그리스에서 무한의 개념에 가까웠던 것으로 황금비(golden ratio)를 들 수 있다. 흔히 황금비를 1.618에 가까운 숫자로 말하곤 하는데, 이 방식으로는 이 기묘한 숫자의 자연스러움을 설명하기 힘들다.
그림에 있는 것처럼 큰 직사각형을 생각해보자. 이 직사각형의 긴 변과 짧은 변의 길이는 a+b와 a라서 그 비율은 (a+b)/a이다. 이 안에 가장 큰 정사각형을 빼내면 다시 작은 직사각형이 나올 것인데, 그림에 있는 것처럼 그 두 변의 길이는 a와 b라서 그 비율은 a/b이다. 크고 작은 이 두 개의 직사각형이 닮은꼴이면 어떻게 될까? 변들의 비율이 같을 테니 (a+b)/a = a/b가 될 것이다. 중학생 정도의 수학을 사용하면, b를 1로 두고 a 값을 계산할 수 있는데, 그러면 이 비율이 1.618로 나가는 무리수임을 알 수 있다.
작은 직사각형 안에 다시 정사각형을 빼내고 더 작은 직사각형을 만드는 일을 끝없이 반복할 수 있을 것이고 이것들은 모두 닮았다. 이렇게 닮은 모양의 직사각형들이 끝없이 반복될 때 가로와 세로의 비율로 나타나는 수가 황금비인데, 이 비율은 고대 이래로 미술과 건축 등에 광범위하게 쓰여 왔다. 그리스인들은 이런 자기반복성에 매료됐지만 이것이 무한으로 인도한다는 걸 분명하게 깨닫진 못했다.
무한의 개념에 처음 다다른 것은 유럽 문명이 아니라 인도 문명이었다. 기원전 10세기 인도에는 우주의 원자 수보다 더 큰 수를 표현하는 숫자가 있었고, 인도인들은 끝없이 계속되는 수의 속성을 이해하고 있었다. 기원전 3세기의 인도는 셀 수 있는 무한과 셀 수 없는 무한을 구별하여 이해하는 수준에 다다랐다. 인세에서 경험할 수 없는 수들이 사유의 과정에서 튀어나온 것인데, 힌두교와 불교의 우주관에 기인한 것이리라.
유럽인들이 셀 수 있는 무한과 셀 수 없는 무한의 차이를 분명히 이해하게 된 것은 2000년 이상을 격하여 19세기 수학자 게오르크 칸토어에 이르러서였으니, 문명의 접근 방식 차이가 만드는 깨달음의 차이는 크고도 크다. 셀 수 있는 무한은 자연수를 연상하면 된다. 셈의 과정에서 나오는 가장 기본적인 수인데, 끝없이 계속되는 자연수 집합의 크기를 셀 수 있는 무한으로 표현한다. 조금 더 생각해보면 정수의 집합이나 유리수의 집합도 더 커 보이긴 하지만 사실은 자연수 집합과 일대일 대응이 되므로 같은 크기임을 알게 되는데, 이런 집합들은 모두 셀 수 있는 무한이라는 크기를 가졌다.
그럼 셀 수 없는 무한은 무언가? 가장 대표적인 예로 실수의 집합을 연상하면 된다. 여기에는 유리수뿐 아니라 무리수들이 포함되는데, 자연수 집합에서 실수 집합으로 가는 일대일 대응이 존재하지 않으므로 실수 집합은 자연수 집합보다 본질적으로 크다. 즉 실수는 셈(counting)의 과정에서 나온 수가 아니라는 뜻이고, 실수 집합은 ‘셀 수 없는 무한’의 크기를 가졌다.
2세기의 중국 고서인 구장산술 등을 보면 중국 문명도 나름의 방식으로 이런 깨달음에 도달한 것으로 추측된다. 하지만 기원전 212년 진시황이 ‘책을 불사르고 유생을 파묻어 버린’ 분서갱유(焚書坑儒)를 저지르면서 고대 중국 수학의 성취에 대한 기록은 불 속으로 사라져 버렸다. 그래서 중국 문명이 무한에 접근한 방식에 대한 분명한 기록도 남아있지 않다.
무한과 대비되는 공허는 어떤가? 이를 표현하는 숫자 ‘0’은 더 찾기가 어려웠다. 고대 그리스 문명도 로마 문명도 이 숫자를 찾지 못했고, 인도 문명도 긴 세월을 보내고 6세기에 이르러서야 ‘더해도 빼도 아무런 차이를 만들지 않는 수’, 즉 0의 개념에 다다랐다. 그러니 인류 각성의 역사에서는 ‘무한 너머에 공허가 있는’ 셈인데, 추상성의 정도에서도 공허가 더 진화된 것으로 볼 수 있을지 모르겠다.
12세기에 이탈리아 상인인 피보나치의 번역에 의해 유럽에 전해진 ‘0’은 당시 유행하던 ‘충만의 신학’과 충돌하며 우여곡절을 겪다가 16세기 르네상스의 도도한 흐름 속에서 유럽 수학의 본류에 합류할 수 있었다. 이런 허망한 수가 도대체 왜 필요하단 말인가? 최소한의 연산을 위해서는 항등원(恒等元)의 개념이 필연이라는 깨달음에 다다르는 데 이리도 오랜 시간이 걸렸다. 덧셈과 뺄셈을 모두 하려면 그 체계 내에 항등원이 있어야 하기 때문이다.
우주로 나가려는 인간의 노력이 다양하게 진행되는 와중에 우리나라도 2020년을 목표로 달 탐사 준비를 시작했다. 우리가 아는 가장 무한(無限)을 닮은 곳으로 첫걸음을 떼는 것이다. 이미 관련 예산이 내년도 정부 예산에 책정되었고 한국항공우주연구원은 탐사선 개발에 착수했다. 우리도 본격적인 통신 및 로켓 기술의 실험장을 갖게 되는 것이고, 희토류 등의 자원 확보도 덤으로 얻을 것이다. 치열한 과학기술의 경쟁 시대에서 뒤처지지 않는 정도가 아니라, 깊이 있는 연구로 이어져서 인류의 지식과 깨달음의 역사에 한 획을 긋는 사건이 되면 더할 나위 없을 것이다.(문화일보 12월 2일자 24면 8회 참조)
국가수리과학연구소장
아주대 석좌교수
;){kind=link}