“北이 서울 기습하면 AI가 방어?” 올트먼 “따져봐야…”

클릭하시면 더 큰이미지를 보실 수 있습니다 전쟁하는 사이보그를 다룬 영화 ‘터미네이터’ 스틸샷

‘AI시대의 지정학’ 대담…"우리는 미국편이지만 전 인류에 도움되기를"
"중국도 AI의 파국적 위험 줄여야 한다는 목적 공유하기를 바라"
"AI 기반시설 확대 위한 반도체 수급 어느 정도 해결…전력공급은 쉽지 않아"

인간이 전쟁을 인공지능(AI)에 맡겨도 되는지를 두고 논란이 있는 가운데 AI 산업에 큰 영향력을 행사하는 샘 올트먼 오픈AI 최고경영자도 쉽지 않은 문제라는 인식을 드러냈다.

올트먼은 7일(현지시간) 워싱턴의 싱크탱크인 브루킹스연구소가 ‘AI 시대의 지정학적 변화’를 주제로 개최한 대담에서 북한이 서울을 기습 공격해 한국이 이를 방어하려면 인간보다 대응 속도가 빠른 AI에 의존해야 하는지에 대한 질문을 받고 이렇게 대답했다. 진행자는 "북한이 서울을 향해 군항공기 100대를 출격시키고, 한국이 AI가 통제하는 로봇 무리를 이용해 항공기를 전부 격추해 북한 조종사 100명이 목숨을 잃는 상황"을 가정한 뒤 "이런 상황에서 AI에 사람을 죽이는 결정을 맡겨도 되느냐"는 취지로 질문했다.

올트먼은 "항공기가 한국에 접근하고 있고 인간이 의사 결정에 관여할 시간이 없을 때 AI가 요격 결정을 할 수도 있고 안 할 수도 있다"고 전제한 뒤 "공격이 일어나고 있다고 정말 확신할 수 있는지, 그렇다면 어느 정도로 확실해야 하는지, 예상되는 인명 피해는 어느 정도인지, 회색지대의 어느 지점에 선을 그어야 하는지 등 (우리가 따져봐야 할) 질문이 많다"고 답했다.

클릭하시면 더 큰이미지를 보실 수 있습니다 지난 3월 26일 우크라이나 부차에 위치한 공원에서 터미네이터 모형 앞에 어린이가 포즈를 취하고 있다. AP 뉴시스

그는 "난 누군가 ‘AI가 핵무기 발사를 결정할 수 있어야 한다’고 주장하거나 접근하는 미사일을 요격할 때처럼 빠르게 행동해야 할 때 AI를 사용해서는 안 된다고 주장하는 모두 들어본 적이 없다"면서도 "그러나 그사이의 지대도 존재한다"고 설명했다. 그러면서 이런 내용은 자신의 전문 분야가 아니라며 "오픈AI에서 이런 결정을 하지 않아도 되길 바란다"고 밝혔다.

그는 지정학적 경쟁이 AI 산업에 미치는 영향에 대해 질문을 받고 "우리는 매우 분명히 미국과 우리 동맹의 편"이라고 답했다. 그러면서도 "인도주의적인 면도 있는데 우리는 이 기술이 인류 전체에 득이 되기를 원하지, 우리가 동의하지 않는 지도부가 있는 특정 국가에 살게 된 사람들에게만 득이 되는 것을 원치 않는다"고 말했다.

그는 AI 시스템을 운영하는 데 필요한 컴퓨팅 자원을 의미하는 ‘AI 컴퓨트’(AI compute)와 반도체와 데이터센터 등 AI 기반 시설이 "미래에 가장 중요한 상품"이 될 가능성이 크다고 전망했다. 그러면서 AI 기반 시설이 저렴해지고 누구나 사용할 수 있도록 민간뿐만 아니라 정부가 공공재로 투자해 사람들에게 공평하게 분배하기를 바란다고 말했다. 이어 AI 기반 시설을 확대하는 데 있어서 반도체 수급이 문제였지만 어느 정도 해결이 됐고 지금은 전력 공급이 쉽지 않다고 설명했다.

그는 "우리가 AI와 관련해 중요한 수많은 것에서 중국과 동의하지 않겠지만 난 대개 우리 모두 AI의 파국적인 위험을 줄여야 한다는 목적을 공유한다는 희망을 품고 있다"고 밝혔다.

박세영 기자