‘인공지능 살인로봇’ 어찌하오리까…첫 유엔논의

클릭하시면 더 큰이미지를 보실 수 있습니다 곧 다가올 현실이 될 수 있는 킬러로봇의 상상도[게티이미지 뱅크]

금지? 제한선은 어디까지?…“로봇 살인결정은 안돼” 공감대

찬반논란이 뜨거운 인공지능 살해 도구, 이른바 ‘킬러로봇’을 두고 국제사회가 진지한 논쟁에 들어간다.

12일(현지시간) AFP통신에 따르면 오는 13일부터 닷새 동안 스위스 제네바에서 열리는 특정재래식무기금지협약(CCW) 회의에서는 킬러로봇이 주제로 논의된다.

인공지능이 탑재돼 스스로 가동되는 무기의 효용이나 부작용을 두고 유엔 차원의 논의가 이뤄지는 것은 이번이 처음이다.

킬러로봇은 기계가 효과적 살상을 알아서 가한다는 개념 때문에 악용 우려부터 로봇이 세상을 지배할 것이라는 종말론적 공포까지 갖가지 논란을 부르고 있다.

시민단체 활동가들은 킬러로봇이 선량한 민간인들에게 엄청난 피해를 부를 것이라고 우려하고 있다.

킬러로봇이 독재자, 테러리스트 손에 들어가거나 해킹을 당하면 대형 참사가 빚어질 수 있다는 점을 경계한다.

인공지능 연구에서 첨단을 달리는 전문가들도 명확한 반대 목소리를 내고 있다.

테슬라의 일론 머스크, 구글 딥마인드의 무스타파 술레이만 등 기업인 100여명은 킬러로봇을 금지해달라고 지난 8월 유엔에 서한을 보냈다.

우려의 목소리가 높기는 하지만 이번 유엔 회의에서는 킬러로봇을 금지하는 안이 바로 논의되지는 않을 전망이다.

금지 논의는커녕 킬러로봇과 유사한 장치를 규제하기 위한 협약안이 마련될 가능성도 크지 않은 것으로 관측된다.

이번 회의를 주재하는 아만디프 길 인도 군축대사는 “이제 출발선에 섰을 뿐”이라고 설명했다.

길 대사는 “단칼에 금지하는 게 쉬운 처방이지만 매우 복잡한 문제의 결론을 바로 내리는 것은 현명하지 않다”고 덧붙였다.

이번 회의에는 시민단체, 첨단기술 기업들도 참여해 킬러로봇의 유형을 제대로 이해하는 데 초점을 둔 토의시간도 보낼 예정이다.

킬러로봇 반대론의 핵심 논거는 살해하거나 파괴하는 결정의 주체가 궁극적으로 사람이 돼야만 한다는 타협할 수 없는 명제다.

시민단체 ‘킬러로봇을 막을 캠페인’(Campaign to Stop Killer Robots)은 킬러로봇이 그 개념상 불법이라고 주장하고 있다.

컴퓨터가 전쟁범죄 피의자가 될 수 없는 까닭에 알고리즘(전산 논리체계)에 개별적 공격을 결정하도록 입력된 어떤 기계도 탈법적인 존재라는 것이다.

이와 관련, 길 대사는 “생사와 관련된 결정은 인간이 책임져야 한다는 데는 공감대가 있다”고 논의 분위기를 전했다.

그러나 그는 치명적인 무기가 인간의 통제를 거치도록 하는 기술을 두고서는 여러 의견이 개진되고 있다고 밝혔다.

국제인도법을 보호할 권한을 부여받은 국제적십자위원회(ICRC)는 킬러로봇에 대한 금지를 요구하지 않고 제한을 두자는 절충입장을 보이고 있다.

ICRC 무기부에서 활동하는 닐 데이비슨은 “기계는 법을 적용하지 못하고 법적인 결정을 기계에 맡길 수 없다는 게 우리 기본 방침”이라고 밝혔다.

데이비슨은 공격의 시간과 장소 등 변수에 따라 킬러로봇이 지니게 될 문제적 속성을 따로 지적했다.

이를테면 기계가 한 곳에 몇 시간 동안 투입된 채로 감지되는 적군 표적을 무조건 공격하도록 프로그램됐다면 논란이 있을 수밖에 없다는 것이다.

데이비슨은 “어떤 일이 일어날지에 대해 특정 수준의 예측 불가능성, 불확실성이 있는 상황에서 이런 기계를 가동하면 그때부터 준법에 문제가 불거지기 시작하는 것”이라고 설명했다.

킬러로봇을 얘기할 때 광범위한 인공지능에 대한 논의도 이뤄지는 까닭에 이번 유엔 회의를 앞두고 CCW가 시급한 현안의 논제를 설정하지 못하고 스스로 논쟁에 매몰될 수 있다는 관측도 나오고 있다.

<연합뉴스>