노벨상 수상자들의 AI 경계론[오후여담]

문희수 논설위원

올해 노벨상에선 단연 인공지능(AI)이 주역이다. AI 전문가로 꼽히는 학자들이 3개 과학상 가운데 물리학상과 화학상을 받았다. 노벨상위원회가 최소한 과학 분야에서는 AI의 기여를 공인한 셈이다.

　이들 노벨상 수상자가 정작 AI의 위험성을 경고해 이채롭다. 물리학상 수상자인 제프리 힌턴(76) 캐나다 토론토대 명예교수가 대표적이다. 그는 “20년 안에 AI의 추론 능력이 사람을 앞설 확률이 최소 50% 이상”이라며 인류가 AI에 지배당하는 공상과학영화가 현실화할 수 있다고 강조했다. 인류가 향후 몇 년간 AI 통제권을 지키기 위해 어떻게 대응하느냐가 미래를 좌우할 것이라고 지적했다.

　힌턴 교수는 글로벌 AI 4대 천왕 중 한 명으로 꼽히지만, ‘AI의 내부고발자’라는 상반된 수식어도 붙는다. AI의 위협을 경고하기 위해 2023년 구글 부사장을 사퇴한 경력도 돋보인다. 오픈AI 공동창업자로서 CEO 축출 사태를 주도했던 일리야 수츠케버를 비롯, 미국 실리콘밸리의 AI 핵심 인력 상당수가 그의 제자다.

　물리학상 공동 수상자인 존 홉필드(91) 미국 프린스턴대 명예교수 역시 “통제할 수 없고 한계를 파악할 수 없는 것에 큰 불안감을 느낀다”며 AI가 통제를 벗어나는 상황을 우려했다. 화학상 공동 수상자인 구글 딥마인드의 데미스 허사비스 CEO도 “선한 목적을 위해 쓰일 훌륭한 잠재력을 갖고 있지만, 해를 끼치는 일에 사용될 수도 있다”고 동조했다. 경제학상 공동 수상자인 다론 아제모을루 미국 MIT 교수는 AI에 대한 지나친 기대와 개발의 과속을 경계했다. 특히, AI의 일자리 파괴는 향후 10년간 전체의 5%에 불과할 것이라고 지적했다.

　AI가 시대적 과제지만, 빛과 그림자가 있다. 무엇보다 AI가 인류 전체를 파멸할 수 있는 대재앙을 초래할 위험성을 차단해야 마땅하다. 살상용 전투 드론은 이미 하늘을 날고 있고, 킬러 로봇이 등장할 날도 머지않았다. 개별 지도자·빅테크·큰손 투자자에게 맡길 일이 아니다. AI 재앙은 일단 벌어지면 끝장이다. 핵무기 위협을 막기 위해 국제원자력기구(IAEA)가 생긴 것처럼 인류가 집단지성을 통해 수년 안에 국제적인 통제 장치를 만들어야 한다. 통상적인 규제 차원에서 접근할 문제가 아니다. 사전 대비가 시급하다.