전장에 서는 AI, 혁신인가 재앙인가[Global Focus]

인공지능(AI)이 총탄이 오가는 전장에서 본격적으로 사용되기 시작하면서 윤리 논쟁도 불거지고 있다. 특히 지난달 미군 특수부대 델타포스의 니콜라스 마두로 베네수엘라 대통령 체포 작전 당시 AI 모델 ‘클로드’를 사용해 작전을 수행하면서 AI를 둘러싼 논쟁이 더욱 확산하고 있다. 개발사인 앤스로픽은 자사 모델이 살상 무기 개발이나 군사작전에 직접적으로 사용되지 않도록 제한하는 가이드라인을 내세워 더 이상의 작전에 사용해서는 안 된다는 입장을 밝혔다. 반면 국방부는 군사적 활용 권한을 전면 개방할 것을 요구하며 압박하고 나섰다.

◇이제 전쟁터에서도 사용되는 AI… 미군은 왜 앤스로픽 선택했나= 지난 15일(현지시간) 미 월스트리트저널(WSJ)은 미군이 지난달 특수부대 등을 동원해 베네수엘라 수도 카라카스에서 마두로 대통령을 납치해오는 작전에 앤스로픽의 클로드를 활용했다고 보도했다. WSJ는 해당 작전에서 클로드가 어떤 역할을 했는지는 설명하지 않았다. 다만 AI가 제공하는 논리적 추론을 통해 작전 계획을 수립하고, 사이버 보안 능력을 극대화해 작전의 기밀성을 최대한 유지하고, 영상 데이터와 첩보를 분석해 적진으로 침투한 특수 부대원들의 동선을 최적화하는 등의 목적으로 클로드가 사용됐을 것이란 분석이 나온다.

미군의 기밀 작전에 사용된 최초의 AI 모델로 클로드가 선택된 배경에는 ‘헌법적 AI’(constitutional AI)라는 클로드의 독특한 학습법이 주요하게 작용했다는 평가가 나온다. 헌법적 AI는 AI가 마치 특정 국가의 헌법과 같이 미리 정해진 원칙과 규칙을 갖고, 스스로 판단할 때도 그 기준을 지키도록 훈련하는 것이다. 기존 AI 모델들이 최대한 빠르게 답을 내놓도록 훈련받다가 거짓말을 하거나 사용자가 듣고 싶어 하는 답변만 하게 되는 오류를 방지하기 위해 앤스로픽이 고안한 방식이다. AI가 전장에서 돌발 행동을 하거나 환각(Hallucination)을 일으키는 것을 극도로 경계하는 미군 입장에서는 엄격한 규율로 스스로를 학습시키는 클로드가 군 작전에 가장 적합한 모델이었던 것이다.

◇앤스로픽은 ‘비윤리적 AI 사용’ 반대… 윤리 논쟁 수면 위로= 그러나 아이러니한 점은 이 같은 헌법적 AI가 실상은 감시·살상 목적의 AI 사용을 막기 위해 고안된 안전장치라는 점이다. AI 영리화에 비판적이었던 오픈AI 출신 직원들이 설립한 앤스로픽은 평소 ‘안전하고 윤리적인 AI’를 표방하고 있다. ‘클로드가 폭력 조장, 무기 개발 또는 감시 활동에 사용되는 것을 금지한다’는 사용 지침을 내세우고 있을 정도다. 앤스로픽 대변인도 WSJ에 “민간 부문이든 정부 기관이든 클로드를 사용하는 모든 경우에는 클로드의 배포 방식을 규정하는 당사의 사용 정책을 준수해야 한다”고 밝혔다. 사실상 미군이 전장에서 자사의 AI 모델을 활용하는 것을 반대한 발언으로 풀이된다.

이에 미 국방부는 18일 앤스로픽을 ‘공급망 위험 업체’로 지정하는 방안을 검토하겠다며 압박하고 나섰다. 공급망 위험 업체로 지정되면 국방부와 거래하는 모든 계약·공급업체는 클로드를 사용하지 않는다는 사실을 증명해야 하는 만큼 사업에 큰 타격이 있을 것으로 예상된다. 해당 조치는 통상 중국 등 적대국 기업에 적용되는 것으로, 자국 기업에 대한 적용은 극히 이례적이다.

특히 피트 헤그세스 미 국방부 장관은 지난 24일 다리오 아모데이 앤스로픽 CEO를 국방부로 소환해 클로드의 군사 활용 조건을 논의하는 긴급회의를 열었다. 이 자리에서 헤그세스 장관은 오는 27일까지 AI 모델에 대한 안전장치를 완화하라는 요구를 수용하지 않으면 앤스로픽과 국방부가 앞서 체결한 2억 달러(약 2885억 원) 규모의 계약을 파기할 수 있다는 ‘최후통첩’까지 날렸다.

에밀 마이클 미 국방부 연구공학 담당 차관은 “우리는 모든 합법적 사용 사례에 어떤 모델이든 활용할 수 있어야 한다”며 “한 회사가 이를 수용하지 않으려 한다면, 그것은 우리에게 문제가 된다”고 공개 지적했다. 국방부 압박에 앤스로픽은 경쟁력 유지와 연방 정부 차원의 AI 규제 부재 등을 이유로 과거 약속한 안전 정책에서 일부 후퇴했다. 앤스로픽은 24일 공개한 ‘책임 있는 확장 정책(RSP) 3.0 버전’에서 “두 가지 완화 조치들을 제시한다”며 “첫째 다른 기업이 하는 것과 상관없이 우리가 추구할 완화들, 둘째 AI 산업 전반에 걸쳐 실현된다면 첨단 AI로부터 비롯될 위험을 적절히 관리하는 데 도움이 될 야심 찬 ‘역량 대 완화 절차’”라고 설명했다.

◇AI 무기화 제한 위한 윤리규정 필요 목소리… 중·러 제한 없어 우려= AI 전문가들은 AI가 군사화해 인명 살상에 사용되는 것을 막기 위한 강력한 규정이 필요하다고 강조한다. ‘AI 대부’로 불리는 제프리 힌턴 토론토대 교수는 향후 국가는 물론 테러 집단까지 AI를 활용해 자율형 살상 무기를 개발할 가능성도 있다고 경고하며 ‘AI판 제네바 협약’과 같은 국제적 협약이 필요하다고 주장했다.

하지만 미국 내 일각에서는 윤리 논쟁이 미군의 전투력 극대화를 막는 족쇄로 작용하고 있다는 목소리도 나온다. 중국과 러시아 등 AI 미국의 경쟁국들은 AI의 군사적 활용을 자유롭게 하고 있는 상황에 미국이 AI의 군사화를 늦출수록 상대적 군사력 우위가 줄어들 수 있다는 것이다. 실제 중국은 미국의 군사력을 추월할 수 있는 핵심 도구로 AI를 꼽고 민간 AI 기술을 즉각 국방 분야로 옮겨오는 시스템을 구축하고 있다. 러시아도 올해 초 드론·위성 등으로 수집한 정보를 실시간으로 전장에 전달해 현장의 의사결정 등을 돕는 AI 기반의 ‘스보드’(Svod) 시스템을 도입했다.

박상훈 기자