MS도 ‘AI 안전 브레이크’ 필요성 공감… 규제 위한 정부기구 제안

중요인프라 제어기능 의무화 등
5가지 규제원칙 방향성 제시도

인공지능(AI) 기술의 위험성을 둘러싼 규제 담론이 확장되는 가운데 마이크로소프트(MS)가 AI 규제를 위한 정부 기구 설립을 제안했다. 이와 함께 열차의 비상브레이크와 같이 유사시 AI를 끄거나 감속할 수 있는 안전 브레이크 장착 의무화 등 5가지 구체적인 규제 방향도 제시했다.

25일 로이터통신 등 외신에 따르면 MS 최고법무책임자인 브래드 스미스 부회장은 이날 자신의 블로그에 “AI 개발을 감시할 연방정부 차원의 기구를 설치하는 것이 가장 합리적”이라고 밝혔다. 그는 사람들을 속이기 위해 콘텐츠가 변경되는 것을 막아야 한다면서 “국가 보안 등 보호해야 할 필요성이 높은 형태의 AI에 대해서는 라이선스가 필요하다”고 강조했다.

MS는 이날 블로그를 통해 AI 규제에 필요한 5가지 원칙도 제시했다. MS는 우선 중요 인프라에 사용되는 특정 AI 시스템에 ‘안전 브레이크’를 의무적으로 장착할 것을 제안했다. 이는 열차 비상브레이크와 유사한 것으로, 유사시에 대비해 중요 인프라 시설에 사용되는 AI를 완전히 끄거나 감속할 수 있도록 해야 한다는 것이다.

MS는 또 정부 주도의 AI 기술 사용에 대한 ‘가드레일’ 구축을 제안하며, 상무부 산하 미국표준기술연구소(NIST) 등이 이를 마련할 수 있다고 설명했다. 아울러 AI 앱이나 고급 기초 모델, AI 인프라에 대한 법적인 틀 구축, 학술적·비영리적 AI 연구에 대한 자금 지원도 강조했다. 이 외에 AI가 사회에 미칠 영향을 해결하기 위한 민관 협력 관계 구축 방안도 제시됐다. MS는 발전된 AI 시스템을 만들거나 사용하는 모든 조직은 AI 관련 자체 거버넌스 시스템을 개발하고 구현해야 한다며 지난 6년간 이를 구축했다고 설명했다. MS는 오픈AI에 100억 달러(약 13조3000억 원) 이상을 투자하며 전 세계 AI 기술 경쟁에 불을 지폈다. 검색 엔진 빙과 문서 도구 등 모든 자사 제품에 AI 챗봇을 탑재하며 오픈AI와 함께 이 경쟁에서 가장 앞서 있다는 평가를 받고 있다.

한편, 이날 황준국 주유엔대사는 미국 유엔본부에서 열린 ‘글로벌 디지털 협약’ 마련을 위한 ‘AI 및 신기술’ 주제 회의에서 “군사 분야에서 책임 있는 AI 기술 활용을 위한 적절한 기준 마련이 극히 중요하다”고 말했다.

황혜진 기자 best@munhwa.com