北공격때 AI에 요격 맡긴다? … 올트먼 “따져볼게 많아”

클릭하시면 더 큰이미지를 보실 수 있습니다

■ 브루킹스硏 대담서 ‘신중론’

인간이 결정할 수 없는 ‘급박함’
어떻게 어느정도 확신할수 있나

반도체 수급은 상당부분 해결돼
전력공급 위한 에너지병목 문제

워싱턴=김남석 특파원 namdol@munhwa.com

전 세계에 생성형 인공지능(AI) 돌풍을 일으킨 주역인 샘 올트먼(사진) 오픈AI CEO는 7일(현지시간) 북한 침공을 예로 들어 AI에 전쟁 관련 결정을 맡겨도 되는지 묻는 질의에 “(따져야 할) 질문이 많다. 오픈AI가 이런 결정을 하지 않아도 되길 바란다”고 밝혔다. 올트먼 CEO는 AI 보급 확산에 걸림돌이었던 반도체 수급은 어느 정도 해결됐지만 전력 공급에 필요한 에너지 병목현상이 난제라며 AI 기반시설을 누구나 이용할 수 있도록 하는 공공 투자 및 활용 교육의 필요성을 강조했다.

올트먼 CEO는 이날 미국 싱크탱크 브루킹스연구소가 ‘AI 시대 지정학적 변화’를 주제로 개최한 화상 대담에서 진행자로부터 북한이 서울을 향해 유인항공기 100대를 출격시키고 한국이 AI 통제 방어용 로봇으로 요격할 수 있는 상황을 가정해 AI에 인명을 해칠 수 있는 결정을 맡겨도 되느냐는 질의를 받았다. 올트먼 CEO는 “항공기가 한국에 근접했고, 인간이 의사결정에 관여할 시간이 없을 때 AI가 요격 결정을 할 수도 있지만 그런 상황이라고 정말 확신할 수 있나? 어느 정도 확실해야 하나? 회색 지대의 어느 지점에 선을 그어야 하나? 정말 (따져야 할) 질문이 많다”고 답했다. 그는 “나는 누군가 AI가 핵무기 발사를 결정할 수 있어야 한다고 주장하는 것을 들은 적이 없다. 그렇다고 접근하는 미사일을 요격할 때처럼 빠르게 행동해야 할 때 누군가 AI를 사용해서는 안 된다고 주장하는 것도 들은 적이 없다. 그런데 그 사이에 이런 (회색) 지대도 있다”며 “오픈AI에서 이런 결정을 하지 않아도 되길 바란다”고 말했다.

올트먼 CEO는 AI를 구동하는 컴퓨팅(연산능력)과 반도체, 데이터센터 등이 미래에 가장 중요한 상품이 될 것이라면서 반도체 수급 문제는 어느 정도 해결됐지만 전력 공급이 추가 난제라고 설명했다. 그는 “더 많은 (AI용) 반도체를 만들기 위한 노력과 진전에 대해 꽤 기분이 좋다”면서도 “전력을 공급하는 데 필요한 에너지 병목현상은 현재로써는 매우 어려워 보인다”고 진단했다. 올트먼 CEO는 AI 기반시설을 누구나 이용할 수 있도록 민간뿐 아니라 정부가 공공재로 투자하고 사람들에게 공평하게 분배해야 한다고 제안하기도 했다. 그는 AI 교육의 필요에 대해 “미래의 사람들은 더 나은 업무 수행을 위해 AI를 사용할 것이 분명하며 사용법을 배우는 것이 좋다”고 교육 의무화를 주장했다.

올트먼 CEO는 향후 전 세계 AI 기반시설 확대 주체에 대해 “미국이 주도하지만 넓고 포괄적인 연합이기를 바란다”며 “미국만 AI 데이터센터를 지어야 한다는 주장은 통하지 않을 것이다. 다른 나라들이 좋아하지 않을 것 같고 나도 마찬가지”라고 말했다. 그는 중국과의 협력 필요에 대해 “AI에 대한 중국과 우리의 목표는 재앙적 위험을 줄이자는 것”이라며 “최고 수준의 안전에 합의할 수 있도록 노력해야 한다”고 강조했다. 올트먼 CEO는 ‘선거의 해’를 맞아 AI발 가짜뉴스 우려에 대해 “선거가 끝날 때까지 이 문제에 대해 집중할 것”이라고 말했다.