美 내년 대선 AI 리스크 부상… 튀르키예선 AI 선거개입 논란

美·EU·中 등 규제법안 추진
부작용 기업책임 강화 법안도

해외에서도 인공지능(AI)의 여론 조작 가능성을 두고 경계심이 높아지고 있다. 미국에서는 내년 11월 대선을 앞두고 AI로 조작된 이미지가 여론 선동에 활용되면서 선거의 최대 리스크로 떠올랐다. AI 기술의 부작용을 우려하는 목소리가 커지면서 미국은 물론 유럽연합(EU), 중국 등은 AI 규제에 나섰다.

지난 3월 소셜미디어 등 온라인상에는 도널드 트럼프 전 미국 대통령이 경찰에 양팔이 붙잡힌 채 체포되는 모습과 머그샷(피의자의 식별용 사진) 이미지가 빠르게 확산됐다. AI로 만들어진 가짜 이미지였지만 트럼프 전 대통령이 체포된 것으로 알려지면서 보수층이 결집하기 시작했다. 온라인에서 트럼프 전 대통령의 가짜 머그샷이 범람했고 지지자들은 이를 프린트한 티셔츠까지 판매했다. 4월엔 공화당 전국위원회가 내놓은 30초짜리 동영상이 미국 언론의 도마 위에 올랐다. 회색빛 도시를 배경으로 30초간 연출된 이 동영상에는 바이든 대통령이 재선에 성공할 경우 중국의 대만 침공, 경제 악화와 범죄율 상승, 불법 이민자 급증 등이 야기될 것이란 가상 시나리오가 담겼다. 공화당 전국위는 자막을 통해 동영상이 AI로 만들어진 것이라고 밝혔다.

지난 14일 치러진 튀르키예 대선에서도 AI의 대선 개입 논란이 일었다. 폭스뉴스는 “튀르키예 대선에서 케말 클르츠다로을루 공화인민당(CHP) 대표는 러시아가 딥페이크와 AI 도구를 활용해 선거에 개입하고 있다고 비난했다”며 “지난 몇 주 동안 러시아 봇 계정 등을 통해 레제프 타이이프 에르도안 대통령을 지지하는 허위 정보 캠페인이 진행됐다”고 전했다.

AI의 악용이 현실화되면서 이를 막기 위한 각국의 움직임도 빨라지고 있다. 미국 내 일부 주에선 AI 기술과 연관된 관련법 마련에 착수했다. 워싱턴주에선 공공기관에 AI가 영향력을 끼칠 경우, 해당 기업의 최고정보책임자(CIO)가 규제 체계를 챙기도록 했다. EU는 ‘인공지능법’ 초안을 지난 11일 유럽의회 상임위원회에서 통과시켰으며 다음 달 본회의에서 표결에 들어갈 예정이다. 중국 국가인터넷정보판공실은 지난달 11일 AI 기업 준수 규정과 벌칙을 담은 가이드라인 초안을 발표했다.

황혜진 기자 best@munhwa.com