“AI는 핵무기보다 위험” 통제 필요성 커져

각국 “군사적 이용막자” 규제

베이징=박준우 특파원 jwrepublic@munhwa.com

샘 올트먼 전 오픈AI CEO의 해임 사태를 계기로 인공지능(AI)의 위험성에 대한 논란이 다시 한번 쟁점화하고 있다. 그동안 이를 두고 수많은 철학적 갈등이 발생했고 최근 각국 정부가 나서 군사적 이용을 막자는 규제안을 내는 등 AI에 관련 논쟁이 커지고 있다.

18일 뉴욕타임스(NYT)에 따르면, 일리야 수츠케버 오픈AI 공동설립자와 함께 올트먼 전 CEO의 해임을 주도한 타샤 매콜리, 헬렌 토너 등 이사회 구성원들은 ‘합리성과 효과적 이타주의 운동’이라는 단체와 연관성이 있다. 이 단체는 기술이 갈수록 강력해지면서 AI가 언젠가 인류를 멸망시킬 수 있다고 우려를 표시해 왔다. 수츠케버는 이들의 신념에 동조하게 됐고, 최근에는 AI의 위험성 통제를 위한 사내 팀을 새로 만들었으나 이후 자신의 권한이 축소되자 이에 반감을 가져왔다고 NYT는 전했다.

실제 AI의 통제에 대한 논란은 꾸준히 제기돼 왔다. 지난 5월 미국 펜타곤 옆 건물이 불타고 있는 사진이나 기시다 후미오(岸田文雄) 일본 총리가 외설적 발언을 하는 영상 등이 급속도로 유포됐던 것이 AI로 인한 것임이 확인되면서 가짜뉴스 논란이 벌어졌다. ‘사피엔스’의 저자로 알려진 유발 하라리는 “AI가 금융 시스템에 대해 더 큰 통제권을 가지고 사람이 이해할 수 없는 금융 도구를 창조하기 시작하면 어떤 일이 벌어지겠는가”라고 우려했다. 일론 머스크 테슬라 및 스페이스X CEO도 “AI는 핵무기보다 위험할 수 있다”고 경고했다.

이 같은 상황에 각국은 AI의 활동과 안전성을 위한 규제를 확대하고 있다. 앞서 영국 블레츨리에선 미국, 영국, 한국, 중국 등을 포함한 28개국 대표들이 모여 안전한 AI를 개발하자는 ‘블레츨리 선언’을 채택했다. 또 미국, 한국 등 46개국이 AI를 책임감 있게 군사적으로 이용하겠다는 선언에 동참했다. 지난달 30일 미국은 AI의 안전성을 높이기 위한 규제가 담긴 첫 행정명령을 발표하기도 했다.