<파워인터뷰>“AI로 ‘무슨 일이 일어날까’ 아닌 ‘무엇을 바라는가’ 먼저 물어야”

클릭하시면 더 큰이미지를 보실 수 있습니다 맥스 테그마크 미국 매사추세츠공대(MIT) 물리학과 교수가 지난 9일 보스턴 자택에서 가진 문화일보와의 인터뷰에서 “인공지능(AI) 발전이 가속화되면서 ‘지능폭발’이 일어나 AI의 발전을 인간이 아니라 AI가 스스로 주도하게 될 것”이라고 말하고 있다. 하지만 그는 인류의 아폴로 11호 달착륙을 예로 들면서 “폭발성 연료 위에 사람을 태우고 보내는 것으로 잘못될 여지가 많았지만 과학자들이 사전에 주의를 기울여 성공을 이끌어냈다”라면서 AI와 인간의 미래를 제시했다.

■ 맥스 테그마크 미국 MIT 물리학과 교수

라이프 1.0은 초창기 미생물
인간은 학습할 수 있는 2.0
기술로만 존재하는 AI 3.0

기술적으로 뛰어난 AI문명
인간에게 최악 또는 최대 기회
미래 방향성 우리가 정해야

韓, AI 정책 바람직하지만
안전·방향설정 투자 병행을

[인터뷰 = 김석 특파원(국제부)]

“인공지능(AI) 문명은 우리가 만드는 것이기 때문에 ‘무슨 일이 일어날까’라고 물어서는 안 됩니다. 우리 인간은 AI 발전 결과에 커다란 영향을 미칠 수 있습니다. 따라서 대신 ‘무엇이 벌어지기를 바라는가’라고 물어야 합니다.” 맥스 테그마크(51) 미국 매사추세츠공대(MIT) 물리학과 교수는 지난 9일 보스턴에 위치한 자신의 집에서 가진 문화일보와의 1시간 20분가량 인터뷰를 통해 AI가 인류에게 도움이 될 수 있도록 AI 발전 방향과 목표를 정하는 것이 중요하다는 점을 강조했다. AI 발전을 인간이 주도하는 만큼 소극적으로 대응하기보다 적극적으로 이로운 AI가 되도록 노력해야 한다는 것이다. 그는 특히 AI를 통한 살상무기 개발, 빈부 격차 확대 등이 발생하지 않도록 국제적인 연대와 각종 제도 마련이 필요하다고 밝혔다. 문화일보가 오는 9월 5일 오후 2시 서울 중구 세종대로 대한상공회의소 국제회의장에서 개최하는 국제포럼 ‘문화미래리포트 2018’의 제1세션 ‘AI와 인류’ 주제의 기조 강연자로 참석하는 테그마크 교수는 한국 방문에 대한 기대감과 함께 한국 AI 발전 방향에 대한 조언도 빠뜨리지 않았다. 그는 “기술이 발달하면 오류나 해킹 가능성이 커지고, 이는 우리에게 해를 끼치게 된다”며 “한국 정부는 기술 등과 같은 AI 관련 교육 투자뿐 아니라 AI 안전과 관련한 투자도 해야 한다”고 말했다.

―다음 달 5일 열리는 ‘문화미래리포트 2018’ 참석차 한국을 찾는데 한국 방문이 처음이라고 들었다.

“그렇다. 한국은 난생처음 방문하는 나라라 매우 기대된다. 내 학생들 중에서 한국 학생들이 있었는데 매우 똑똑했다. 이번 방문에서 AI에 대해 한국인들에게 이야기할 기회를 갖게 돼서 기대가 크다.”

―저서인 ‘라이프 3.0’이 한국에서도 화제다. 라이프 3.0은 무슨 의미인가.

“한국에서 화제라니 반갑다. 나도 한국어로 번역된 라이프 3.0 책을 가지고 있다. 라이프 3.0을 설명하려면 생명에 대한 정의가 필요하다. 생명을 자신의 정보를 복제할 수 있는 과정으로 보자. 나는 초창기 생명을 라이프 1.0으로 생각한다. 미생물처럼 바보 같은 것이다. 살아 있는 동안 어떠한 학습도 불가능하다. 우리 인간은 라이프 2.0이다. 학습할 수 있기 때문이다. 우리 뇌에 언어나 직업 기술 같은 새로운 소프트웨어를 장착할 수 있다. 소프트웨어를 장착할 수 있기 때문에 라이프 2.0은 라이프 1.0보다 영리하고 유연해졌다. 환경이 바뀌면 라이프 1.0은 많은 세대를 거쳐 진화할 수밖에 없지만 라이프 2.0은 소프트웨어를 바꿔서 적응할 수 있다. 라이프 3.0은 소프트웨어뿐 아니라 하드웨어까지 만들 수 있는 것이다. 라이프 3.0은 아직 존재하지 않지만 우리가 향하는 곳이다. 하지만 기술은 인공 무릎 관절과 심장 박동기, 달팽이관 이식 등을 통해 우리를 이미 라이프 2.1로 만들었다. 라이프 1.0은 약 40억 년 전에 왔고, 라이프 2.0은 10만 년 전쯤 왔다. 많은 AI 연구자는 AI 분야 발달에 따라 라이프 3.0은 이르면 우리가 사는 동안에 도래할 수 있다고 본다.”

―그럼 AI가 어디까지 발전할 것으로 예상하나.

“현재 AI는 특정 분야에서는 뛰어나지만 이것을 넘어서지는 못한다. 하지만 앞으로 사람 수준의 문제 해결 능력을 가진 AI, 즉 범용인공지능(AGI)이 나타날 것이다. 최근 조사에서 대부분의 AI 전문가들은 AGI가 몇십 년 내에 가능할 것으로 예측하고 있다. 실제로 최근 AI는 놀랍게 발전했다. 얼마 전까지 걷지도 못하던 로봇이 이제는 뒤로 공중제비를 돈다. 자율 주행 자동차도 없었는데 이제는 자율 비행 로켓이 등장했다. AI가 얼굴 인식도 하지 못했는데 지금은 AI가 가짜 얼굴을 만들어낼 수 있다. 또 구글 딥마인드의 알파고 AI는 바둑에서 세계 최고 기사 중 한 명인 이세돌을 이겼다. 지금은 자기 자신과 싸우면서 세계 최고가 됐다.”

―바둑에서 AI가 이세돌 9단을 이긴 것은 한국인들에게 큰 충격을 줬고 AI에 대한 사회적 관심을 일으켰다.

“바둑은 매우 심오한 게임이다. 직관적이고 창의적인 면이 있어서 바둑은 게임이 아니라 예술처럼 여겨진다. 그런데 AI는 스스로 많은 대전을 하는 방식으로 이세돌을 이길 수 있는 전략을 개발했다. 알파고는 고파이의 논리력과 딥러닝의 직관력을 이용해 이세돌을 이겼다. 알파고는 신경망을 통해 자신이 둘 수 있는 최고의 수를 찾아냈다. 어느 자리가 강하고 어느 자리가 약한지를 느낌으로 알아냈다. 마치 바둑기사들이 하는 것과 같았다. 직관과 논리를 연결하면서 강력하면서도 매우 창의적인 수도 나왔다. 이세돌과의 게임에서 알파고는 초반에 3선과 4선에 두는 것이 최상이라는 원칙을 깨고 5선에 뒀다. 그 수가 승부를 갈랐다.”

―지금 흐름이라면 결국 AI가 인간의 지능을 뛰어넘게 되지 않을까.

“AI가 인간의 지능을 뛰어넘어서는 것은 확실히 가능하다. 새로운 AI 프로그램들은 인간이 할 수 있는 것보다 더 나은 것을 한다. 똑똑한 AI가 더 똑똑한 AI를 프로그램하기 시작하면 눈덩이 효과가 벌어질 것이다. AI의 발전은 인간이 아니라 AI가 주도하게 되는 것이다. AI 발전이 가속화되면서 인간의 AI 연구 및 개발 속도를 뛰어넘게 될 것이다. 나는 이것을 지능 폭발이라고 부른다. 우리가 AGI를 갖게 되면 조만간 벌어질 것으로 본다. AI가 반복적으로 스스로 개량하면서 인간 지능을 앞지르게 된다.”

―그렇게 되면 인간이 할 수 있는 일, 직업이 몇 개 없을 것 같은데.

“나는 이러한 질문과 관련해서 해수면을 가지고 설명한다. AI가 발전할수록 해수면이 높아지는 것이다. 해수면에 가까운 직업은 머지않아 자동화되거나 사라질 테니 이런 직업은 선택하지 않는 것이 좋다. 많은 직업이 AI로 대체되는 상황에서 가장 안전한 직업은 사람들과 직접 접촉하거나, 창의적이거나, 문제 해결적인 직업들이다. 또 예측할 수 없는 환경에서 일하는 직업들도 포함된다. 따라서 AI가 익숙해지는 데 시간이 걸리는 직업들, 예를 들어 교사, 간호사, 치과의사, 과학자, 기업가, 프로그래머, 기술자, 변호사, 사회적 노동자, 성직자, 예술가, 미용사 등이 마지막까지 남을 직업들이다. 이러한 직업은 AI가 하기에 가장 도전적인 일들이다.”

―AI가 발전하면 인간이 할 수 있는 직업도 줄어들게 되고, 그렇다 보니 AI가 발전하면 무슨 일이 일어날까 하는 두려움이 존재한다.

“뛰어난 기술 문명을 가진 외계인이 내일 도착한다면 ‘무슨 일이 일어날까’라는 의문을 갖는 것이 맞다. 그들의 기술은 우리보다 훨씬 뛰어날 것이기 때문에 우리가 할 수 있는 것이 없다. 우리 인간이 결과에 어떠한 영향도 미칠 수 없다. 하지만 AI는 다르다. 기술적으로 뛰어난 AI 문명이라도 그것은 우리 인간이 만든 것이기 때문이다. 우리에게는 커다란 기회다. 인간에게 최고 또는 최악의 기회가 될 수 있다. 따라서 ‘무슨 일이 일어날까’라고 물어봐서는 안 된다. 그런 질문은 너무 운명론적이다. 우리 인간은 AI 발전 결과에 커다란 영향을 미칠 수 있다. 따라서 대신 이러한 질문을 던져야 한다. ‘무엇이 벌어지기를 바라는가’라고 말이다. 우리는 어떤 미래가 올지 잘 살펴보고 어떤 방향으로 갈지 선택해야 한다.”

―그럼 우리는 어떠한 일들이 벌어지도록 해야 할까. 또 어떠한 역할을 해야 할까.

“우리는 강력한 AI를 만들고 있다. 그 발전 방향을 AI가 인간을 곤경에 빠뜨리지 않고 번성할 수 있도록 잡아야 한다. 그러기 위해 우리 기술 발전 능력이 커지는 것과 그 기술을 관리할 우리 지혜 능력이 커지는 것 간의 경쟁에서 지혜 능력 확대 속도가 이겨야 한다. 우리는 과거에 실수를 통해서 관리 방법을 찾아냈다. 불을 발명한 지 한참 뒤에 소화기를 발명했고, 자동차를 발명하고 한참 뒤에 신호등과 안전벨트를 발명했다. 하지만 AI와 같은 막강한 기술 개발에 있어서는 실수에서 교훈을 얻는다는 것은 좋지 않은 전략이다. 잘못될 수 있는 부분을 미리 생각하고 방향을 바로 잡아둬야 한다. 아폴로 11호를 처음으로 달에 성공적으로 보낸 경우를 생각해 보면 된다. 폭발성 연료 위에 사람을 태우고 보내는 것으로 잘못될 여지가 많았다. 그러나 성공적이었던 것은 과학자들이 사전에 주의를 기울였던 덕분이었다. 잘못될 수 있는 상황을 생각하고 안전에 투자함으로써 미리 바로 잡을 수 있다.”

―향후 AI와 인간이 함께 일하는 것도 가능할까.

“지금 세계에서 최고의 체스 플레이어는 인간과 AI의 합동팀이다. 이 인간과 AI 합동팀은 장기적인 차원에서 의미 있는 전략으로 게임을 운용하면서, 단기적으로 결함이 없는 전술적인 운용을 한다. 나는 이 팀에서 인간과 AI 간 팀워크를 이룰 미래의 모습을 찾을 수 있을 것이라고 생각한다.”

―AI 발전 방향을 연구하기 위해 ‘생명의 미래연구소’(FLI)를 설립했다고 들었다.

“오래전부터 기술 개발 속도가 그것을 통제할 수 있는 인간의 지혜보다 빠르다는 문제에 대해 걱정을 해왔다. 나는 첫 책 ‘맥스 테그마크의 유니버스’에서 이런 문제에 대해 언급했다. 그런데 이런 문제를 바로 잡기 위한 구체적인 행동은 하지 못했다. 그러다 2014년 신년 계획을 세우면서 내가 개인적으로 할 수 있는 일들을 하지 않으면서 불평만 할 수는 없다는 결론을 내렸다. 그 이후 나와 내 아내 마이어, 그리고 다른 3명이 비영리재단인 FLI 발족과 관련해서 의견을 모았다. 우리는 생명 보호를 위한 연구를 촉진하고 지원하기 위해 2014년에 FLI를 만들었다. 미래에 대한 희망적인 시각을 만들어가는 것도 FLI의 목적이다. 새로운 기술이 인간에게 긍정적인 방법으로 쓰일 수 있도록 조정하는 방법 등도 포함된다. 지금까지 FLI에는 세계 각지에서 AI 안전 연구 지원 목적으로 700만 달러(약 79억1300만 원)가 기부됐다. FLI가 연구하는 주요 주제는 4가지 주요 현존하는 위험을 완화하는 방법이다. 4가지 주요 현존 위험은 AI와 핵전쟁, 생명공학, 기후변화다. 우리 연구진이 연구하기도 하지만 다른 연구 프로젝트에도 지원한다. 사람들이 미래에 무슨 일이 생길지만 묻는 소극적 방관자가 되지 않고, 우리의 운명을 만들 힘을 우리가 갖고 있다는 메시지를 전달하는 미디어 콘텐츠 개발에도 투자하고 있다.”

클릭하시면 더 큰이미지를 보실 수 있습니다 맥스 테그마크 미국 매사추세츠공대(MIT) 물리학과 교수가 지난 9일 보스턴 자택에서 자신의 저서 ‘라이프 3.0’ 한국어 번역판을 보면서 AI 발전 방향과 인류의 역할 등에 대해 설명하고 있다.

“곧 AI가 AI를 만들며 인간추월…‘노예가 된 神’으로 활용해야”


―AI 발전 방향과 관련해서 지난해 캘리포니아주 아실로마에서 콘퍼런스를 열고, 23가지 원칙을 정한 것으로 안다. 몇 가지 주요한 원칙을 소개해달라.

“AI 발전 방향을 제대로 잡는 문제를 가지고 아실로마에서 콘퍼런스를 열었다. 1000명이 넘는 AI 연구자들과 주요 산업계 대표들이 모여서 이로운 AI를 위해 필요한 지혜를 키워 나가는 방법을 논의했다. 그 콘퍼런스에서 AI 연구자들은 23개 원칙에 동의했다. 아실로마 원칙은 AI 개발과 관련한 광범위한 주제들을 담고 있다. 그동안 많은 논의의 초점들이 AI 이용과 인간에 대한 영향이었다면 아실로마 원칙은 안전한 AI 개발에 초점을 두고 있다. 그중 중요한 원칙의 하나가 목표 정렬이다. AI 시스템은 목적과 행동이 인간의 목표에 맞도록 개발돼야 한다는 것이다. AI의 목표가 인간의 목표와 일치하지 않으면서 심지어 AI가 인간보다 더 똑똑해진다면 얼마나 위험한 일이 벌어질지 상상할 수 있을 것이다. AI가 인간 지능을 뛰어넘게 되면 우리는 현재 인간과 개미의 위치와 같은 처지에 놓일 수 있다. 개미를 싫어해서 일부러 밟는 사람이 아니더라도 수력·녹색 에너지 프로젝트 책임자가 되고 물을 채워야 할 지역에 개미 언덕이 있는 상황이라면 이것은 개미를 싫어하는지 여부와 다른 이야기가 된다. 이로운 AI 운동은 인간이 이러한 개미의 위치에 놓이지 않도록 하려는 것이다. 더 강력한 AI를 만든다면 AI에 우리의 목표를 가르칠 방법을 찾아야 한다. AI가 우리의 목표를 받아들이고 유지하도록 해야 한다.”

―AI가 우리 목적을 이해하고 또 그 목적에 일치하도록 하는 것이 가능할까.

“두 가지 모두 어려운 일이다. 내 AI 연구 동료들의 의견 중 하나는 초지능을 만들되 인간의 통제하에 두자는 것이다. 노예가 된 신처럼 만들자는 것이다. 인터넷 연결을 끊어버리고 자신을 통제하는 사람을 위해 기술과 부를 만드는 데만 사용하자는 것이다. 하지만 액턴 경이 경고했듯이 ‘권력은 부패하고, 절대권력은 절대 부패한다’. 따라서 어렵지만 AI가 우리와 같은 가치관을 갖고 우리에게 호의를 베풀게 해야 한다. 이것이 이로운 AI다. 그렇게만 되면 질병이나 범죄와 같은 모든 부정적인 요소를 없앨 수 있다. 우리에게 선택의 자유도 가져다줄 것이다.”

―아실로마에서 AI에 따른 소득 불균형 문제도 주요하게 논의한 것으로 아는데.

“소득 불균형은 기술 개발에 의해 확대된다. 보다 높은 수준의 기술을 요구하는 새로운 직업이 과거 직업을 대체하고, 이익은 노동자가 아닌 회사 소유주에게 분배되는 탓이다. AI도 부를 생산해낼 것이다. 모든 직업을 기계들이 대체할 수 있기 때문이다. 기계는 잠을 잘 필요도, 커피를 마실 필요도, 돈을 줄 필요도 없다. 우리가 원하는 것을 더 만들어낼 수 있다. 이렇게 만들어 낸 부를 ‘모든 사람이 나눠 가져가게 할 것인가’ ‘오직 한 사람이 가져가고 나머지 사람들은 극단적인 빈곤에 머물게 할 것인가’ 이것이 우리에게 주어진 선택이다. 아실로마 AI 원칙 중 하나도 AI로 인한 소득 불균형을 줄여야 한다는 것이다. 우리 모두가 부유하게 되는 방법을 생각해봐야 한다. 현재 미국을 보면 국내의 부는 점점 확대되고 있고, 주식 시장도 커지고 있다. 하지만 가난한 3분의 1의 인구는 계속해서 가난해지고 있다. 최빈곤층 160만 명이 가진 부는 최부유층 3명이 가진 부만 못하다. AI가 이러한 흐름을 계속 가져간다면 나중에는 두 사람, 결국에는 오직 한 사람만 부유해질 수 있다. 이러한 흐름을 둘 것인가. 이것이 현재 가장 중요한 민주주의적 질문이다. 왜 이런 일이 일어날까. 왜 기술이 소득 불균형을 확대시킬까. 포드와 페이스북을 비교해보자. 페이스북의 부는 포드보다 20배나 크다. 그런데 페이스북의 고용인은 포드의 8분의 1에 불과하다. 페이스북이 포드보다 더 자동화돼 있기 때문이다. 그래서 사람이 많이 필요 없다. AI 시대에는 더욱 그렇게 될 것이다. 세금 구조 등을 바꾸지 않으면 소득 불균형은 더욱 극단적이 될 것이다. 경제 규모가 확대되면 그중 일부가 임금을 통해 노동자들에게 주어지고 또 일부는 기술 소유주들에게 주어진다. AI가 개발되면 기술 소유주들에게 주어지는 몫이 더욱 커질 것이다. 이런 시대에 보다 많은 사람이 부유해지는 사회를 원한다면 정부는 모든 사람을 돌볼 수 있도록 충분한 세금을 거둬야 한다. AI로 인해 우리의 경제적 파이가 매우 커질 것인데 우리는 아직 이 파이를 모든 사람이 보다 나은 생활을 할 수 있도록 나누는 방법을 생각해내지 못했다. 매우 부끄러운 일이다. AI 개발에 맞춰 소득 불평등 확대와 관련한 공공 정책을 고민하고, 대중적 차원에서 논의를 계속할 필요가 있다.”

―AI의 군사적 사용에 대한 우려도 크다.

“혹시 얼마 전에 그 뉴스를 봤는지 모르겠다. 니콜라스 마두로 베네수엘라 대통령을 드론으로 암살하려고 했다는 뉴스 말이다. 마두로 대통령을 노린 드론이 공중에서 폭발했다.”

―뉴스를 봤다. 그 뉴스를 보면서 당신의 저서 ‘라이프 3.0’에 AI와 드론을 결합한 암살 가능성을 지적한 대목이 떠올랐다.

“그렇다. 그 드론은 사람이 조종해서 암살에 실패한 것이다. 주파수 교란 등이 벌어져서 실패했을 것이다. 그러나 AI를 사용했다면 성공했을 것이다. 그래서 이러한 상황이 벌어지는 것을 막을 필요성을 보여주기 위해 영상을 만들었다. FLI에서 만든 슬로터봇(slauterbot)이라는 제목의 영상이다. 유튜브에서 찾을 수 있다. 7분47초짜리 매우 짧은 영상이다. 내가 한번 찾아서 보여주겠다. (영상을 보여 준 뒤) 이 영상에서 나온 것처럼 AI를 장착한 드론을 이용해 사회의 비판세력을 암살하는 최악의 상황이 벌어질 수 있다. 그러면 역사상 최악의 독재가 가능해진다. 이러한 일이 벌어지지 않도록 해야 한다. 마두로 대통령 암살도 이 영상처럼 드론에 AI를 사용했다면 틀림없이 성공했다. 이런 일이 생겨서는 안 된다. 그래서 이달 말에 유엔에서 치명적인 살상무기 개발 금지에 대해 논의할 예정이다.”

―AI가 군사적으로 사용될 가능성에 대해서는 어떻게 생각하나.

“어떤 과학기술이든 인간을 돕기 위한 새로운 방법과 인간에게 해를 끼치는 새로운 방법이 있다. 생물학 연구와 개발은 사람을 죽이는 새로운 방법 대신 새로운 의약품 개발에 더 많이 사용됐다. 생물학은 모든 개발을 생물공학이나 새 약품 개발 등에 집중하고 있다. 생물 무기 개발에 사용하지 않는다. 생물학자들이 국제적으로 생물 무기 개발을 금지하는 방향으로 나아가고 이를 성공적으로 이끌었기 때문이다. 대부분 AI 연구자들도 AI를 그런 방향으로 끌고 가고 싶어 한다. AI를 이용한 자동살상무기 개발을 비난하고 금지하려 하고 있다. 그런데 얼마 전에 다른 일이 생겼다. 카이스트 이야기를 들어봤을 것이다. 카이스트의 AI 무기 연구를 문제 삼아 많은 AI 연구자가 카이스트와의 공동연구에 대해 보이콧을 선언했다. 우리도 이러한 문제를 다루고 있다. AI 연구자들은 AI 기술이 생물학이나 화학처럼 모든 사람에게 도움이 되기를 원하기 때문이다. 그런데 만약 한 나라가 킬러 로봇이나 사람을 해칠 수 있는 기술을 만들면 모든 국가가 그런 기술을 개발하게 된다. 그러면 군비 경쟁이 시작된다. 이 경우 최악의 사태가 벌어진다. 마치 과거 핵무기 군비 경쟁처럼 말이다. 핵 군비 경쟁이 무슨 일을 가져올지 아무도 상상하지 못했다. 지금 한국은 핵을 개발한 북한 옆에 있지 않나. AI를 이용한 무기 개발은 있어서는 안 된다.”

―AI가 발전한다면 사법 시스템도 새로운 상황을 맞게 되지 않을까.

“AI는 우리 법률 시스템이 보다 평등하고 효율적이 되도록 도와줄 수 있다. 법 집행 역사를 살펴보면 피부색이나 성, 종교, 국정 등에 따라 편향된 판결들이 적지 않다. AI 시스템을 가진 로봇 판사들은 법을 모든 이에게 평등하게 적용할 수 있다. 피로나 최근 지식 부족과 같은 인간의 실수도 저지르지 않을 것이다. 하지만 로봇 판사가 오류가 나거나 해킹이 되지 않도록 해야 한다. 또 미국의 재범 예측 소프트웨어가 흑인에게 불리하게 돼 있다는 연구 결과가 나왔는데 이러한 것이 로봇 판사에게 프로그램되는 문제도 막아야 한다. 아실로마 23가지 원칙에 사법적 투명성과 관련한 원칙 등 많은 것이 이러한 문제 방지를 위해 언급돼 있다.”

―과거에는 AI 개발이 AI와 관련된 의제였다면 당신의 책 이후에는 AI 안전 문제가 주된 의제가 됐다.

“그렇게 평가해준다니 감사하게 생각한다. AI 시스템이 더욱 강력해지면서 AI 오류나 해킹이 주요한 위험요소가 되고 있다. AI를 각종 판단 등에 더 많이 사용하도록 하는 상황에 맞춰 AI 안전을 위한 연구에 더 많은 투자를 해야 한다. 오류가 많고 해킹당할 수 있는 현재 시스템을 더 신뢰할 수 있는 시스템으로 만드는 방법을 찾아야 한다. AI 기술이 오작동해서 인간에게 해를 끼치거나 해킹당해서 인간을 적대하지 않도록 해야 한다.”

―AI 개발과 관련해서 우리가 해야 할 일이 많은 것 같다.

“현실은 매우 복잡하지만 큰 방향은 단순하다. AI 연구자들은 대부분 수십 년 안에 AGI가 등장할 것으로 보고 있다. 그런데 그에 대한 대비가 없으면 인류는 역사상 큰 실수를 저지를 수 있다. 전례 없는 불평등과 감시, 독재자 출현, 인류 멸종까지 초래할 수 있다. 그러나 우리가 방향을 잘 이끈다면 모두가 잘살 수 있는 미래를 만들 수 있다. 기술을 어떻게 이끌어 갈지 고민하고 좋은 미래를 이끌어 내려면 어디로 향할지 고민해야 한다.”

―한국도 최근 AI 개발을 본격적으로 진행 중인데 조언을 해준다면.

“한국은 유럽식 건강보험제도를 가지고 있는 것으로 아는데, 이는 한국이 기술의 이익을 사람들에게 어떻게 고르게 분배할 것인가를 고민하고 있다는 것을 의미하는 것이다. 아주 좋은 방향이다. AI 기술이 개발돼서 부가 늘어나게 될 텐데 한국은 이를 모든 사람에게 도움이 되는 방향으로 고민했으면 좋겠다. 더 가난한 사람들이 늘어나지 않도록 하는 방안을 고민해야 한다. 또 한국 정부가 살인 기계를 만들지 않겠다고 선언하는 것이 좋다고 생각한다. 서울은 전쟁 위협에 노출돼 있는 곳이다. 알다시피 내가 사는 보스턴은 그렇게 전쟁 위협에 노출된 곳은 아니다. 하지만 서울은 핵무기를 가진 북한과 매우 가까운 곳에 위치해 있다. 한국 정부가 AI를 이용한 살인 무기 개발에 나서면 자칫 AI 군비 경쟁을 초래할 수 있다. 따라서 한국 정부가 AI를 이용한 살인 무기를 만들지 않는다고 선언하는 것이 좋다고 생각한다.”

―한국 정부의 AI 관련 투자 정책은 어떻게 이뤄지는 것이 좋다고 생각하나.

“한국 정부가 교육에 많은 투자를 하는 것으로 알고 있다. AI 개발에 기반이 되는 기술 교육 등에 투자하는 정책은 매우 좋다고 생각한다. 그러한 방향의 투자를 통해서 한국 고유의 AI 기반을 만들어야 한다. 다른 나라에서 관련 기술을 수입하지 않도록 하는 기틀을 만들어야 한다. 그러한 점에서 나는 지금 한국의 과학과 수학 교육 시스템이 좋다고 생각한다. 이를 계속하는 것이 좋다. 다만 기술 교육과 관련한 투자만으로는 부족하다. AI 방향을 설정하는 분야에 대한 투자가 필요하다. 또한 AI 안전과 관련한 투자도 해야 한다. 기술이 발달하면 오류나 해킹 가능성이 커지고, 이는 우리에게 해를 끼치게 된다. 시스템이 해킹당하지 않도록 만들고, 또한 AI를 우리가 원하는 방향으로 갈 수 있도록 하는 분야에도 투자해야 한다. 한국은 AI 개발뿐 아니라 이로운 AI와 관련해서도 선도적인 국가가 될 기회를 갖게 될 것이다.”

보스턴 = 글·사진 suk@munhwa.com