‘아빠 도시락’ ‘교차로 늑구’… 경찰도 농락 당하는 ‘AI 환각’

인공지능(AI) 기술을 활용한 콘텐츠 제작·게시가 활발해지면서 가짜·조작 게시물도 덩달아 늘어 사회적 문제가 되고 있다. 가짜·조작 콘텐츠 제작자는 SNS에서 ‘팔로어’와 조회수를 모아 막대한 수익을 챙기지만, 그로 인한 부작용은 개인 명예훼손을 넘어 지방자치단체와 경찰 행정력 마비로도 이어지면서 제재 강화 필요성이 제기된다.

15일 인터넷 커뮤니티에서는 부모님을 위해 도시락을 싸는 영상으로 2주 만에 약 7만6000명의 팔로어를 모은 한 인스타그램 계정을 둘러싸고 ‘가짜 계정’ 논란이 일고 있다. 해당 계정은 아들이 직접 부모님의 도시락을 만들어주고 감사 쪽지를 받는 훈훈한 내용으로 큰 인기를 끌었다. 그러나 영상에 등장하는 신문의 글자가 깨져 보이는 등 “AI를 활용한 것 같다”는 의혹이 나왔다. 현재 해당 계정은 삭제된 상태다. 해당 계정을 즐겨봤다는 하모(28) 씨는 “영상을 보면서 부모님 생각이 많이 났는데 사기당한 기분”이라며 “이젠 모든 걸 의심해야 하는 거냐”고 토로했다.

AI 가짜 콘텐츠로 인한 행정력 낭비 사례도 있다. 지난 8일 대전 오월드 동물원에서 수컷 늑대 ‘늑구’가 탈출했지만, 포획 시도 초기부터 AI로 제작된 것으로 보이는 허위 목격담이 무분별하게 퍼졌다. 하지만 오월드 사거리에 나타난 늑구 사진이 AI로 만든 허위 제보로 드러나면서 대전시와 소방당국은 수색 초기 골든타임을 허비할 수밖에 없었다. 그럼에도 현재 온라인상에 늑대가 동물원 사육장 울타리를 뛰어넘는 CCTV 화면 등 AI로 제작한 것으로 추정되는 사진들이 여전히 빠르게 퍼지고 있다.

해외 사정도 다르지 않다. 개설 4개월 만에 팔로어 100만 명을 돌파하며 미국에서 ‘마가(MAGA) 드림걸’로 불린 육군 여장교 ‘제시카 포스터’ 또한 정교하게 조작된 가짜 캐릭터라는 전문가들의 분석이 나왔다. 해당 계정은 도널드 트럼프 미국 대통령과 나란히 전투기 앞에서 포즈를 취하는 등의 사진으로 큰 인기를 끌었다.

현행 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법’은 AI를 이용한 결과물에 대한 표시 의무를 부과하고 있지만, ‘AI 결과물’이라는 표시물을 훼손하는 행위에 대한 제재 규정은 없다. 이에 지난 2월 이상휘 국민의힘 의원 외 국회의원 11명이 AI 창작물 표시 의무를 위반하는 이들에게 최대 3000만 원의 과태료를 부과하는 내용을 담은 개정법률안을 발의했지만, 현재 상임위에 계류 중이다.

노수빈 기자