AI가 여사친 얼굴로 음란물 합성…‘2차 범죄’ 우려

■ 일상이 된 AI - 下 성범죄 악용되는 ‘딥페이크’

앱·사진 있으면 쉽게 만들어
SNS엔 제작 의뢰 글 버젓이
재미넘어 협박 등 이용 가능성


“단돈 600원에 감쪽같은 지인 딥 페이크 만들어드립니다.”

23일 한 SNS에 딥 페이크(원본 영상·사진에 타인의 얼굴을 합성해 만든 합성물)를 검색하면, 1만 원 이하 가격에 딥 페이크를 판매한다는 글을 어렵지 않게 찾을 수 있다. “친아빠가 착각할 정도의 퀄리티” “‘여사친’(여자 사람 친구) 협박용” 등의 자극적인 내용으로 홍보하거나 “인기 연예인 딥 페이크 만 원에 팝니다”라며 미성년 아이돌과 음란물을 합성한 사진을 모자이크해 올린 게시물도 있었다. 이러한 글에는 구매를 문의하는 댓글 수십 개가 달려 있고 “지인의 사진을 보낼 테니 합성해줄 수 있냐”는 제작 의뢰 글도 버젓이 달려 있다.

인공지능(AI) 기술을 바탕으로 한 ‘딥 페이크’의 발전으로 일반인도 쉽게 딥 페이크 제작이 가능해지면서 아이돌·친구·지인을 음란물과 합성한 딥 페이크물의 제작과 유포도 증가하고 있는 것으로 나타났다. 무료 앱과 프로그램을 통해 제작된 딥 페이크물이 SNS에서 대거 판매되고 있는 실정이다.

지난 3일 서울 관악경찰서는 고등학교 후배의 사진을 음란물과 합성해 딥 페이크물을 제작하고 유포한 혐의를 받는 20대 남성 A 씨를 구속 상태로 검찰에 넘겼다.

지난해 11월에는 연예인과 아동·청소년의 합성 음란물 약 3000개를 제작하고 이를 월 30달러(약 4만 원)를 받고 판매한 혐의를 받는 B 씨가 검찰에 송치되기도 했다. 방송통신심의위원회에 따르면, 방심위가 시정을 요구하거나 자율규제를 요청한 딥 페이크 영상물은 2020년 548건, 2021년 2988건에서 지난해 4181건으로 7.6배로 증가했다. 딥 페이크와 관련한 무료 합성 앱을 활용하거나 인터넷 프로그램을 사용하면 사진 1장으로도 쉽게 딥 페이크 영상물을 얻을 수 있어 관련 범죄가 증가하고 있는 것으로 분석된다.

전문가들은 일반인들도 쉽게 고도화된 딥 페이크 기술을 사용할 수 있게 돼 앞으로 더 심각한 범죄가 발생할 수 있다고 우려하고 있다. 이웅혁 건국대 경찰학과 교수는 “일반인들의 딥 페이크의 제작이 쉬워지자 이를 생계 수단이나 용돈 벌이로 삼아 인터넷상에 대량 제작·유포하는 현상이 발생하고 있다”며 “딥 페이크를 통해 돈을 버는 과정에서 자신의 행동이 범죄라는 인식이 약해질 수 있다”고 지적했다. 이 교수는 이어 “이 영상물을 사는 사람들 또한 이를 범죄라기보다 단순히 ‘즐기는’ 콘텐츠로 인식하는 심각한 상황이 발생할 수 있다”고 말했다.

“제작자 잡아도 ‘유포 의도 없었다’ 우기면 처벌 어려워”

업계 “해외서버 추적 난항”
관련 입법 필요성 등 제기

딥 페이크(원본 영상·사진에 타인의 얼굴을 합성해 만든 합성물) 성범죄물 제작자들은 해외에 서버를 둔 사이트를 통해 딥 페이크물을 사고팔며 경찰 수사망을 피하고 있다. 제작자를 검거하더라도 “유포 의도가 없었다”고 주장할 경우, 처벌에 어려움을 겪는 경우가 많아 관련 입법이 필요하다는 지적도 나온다.

23일 보안업계에 따르면, 딥 페이크 제작자들은 음성 채팅 채널 디스코드나 텔레그램 등 추적이 어려운 해외 서버 사이트를 이용해 영상물을 유포·판매하고 있다. 영상물을 쉽고 빠르게 공유하면서도 수사망을 피할 수 있다는 점을 악용한 것이다.

검찰 관계자는 “해외 사이트는 당국의 딥 페이크물 차단·삭제 요청에 응답하지 않는 경우가 많다. 유포자의 신상정보, 관련 증거 제공 요청에도 비협조적이다 보니 검거에 상당한 시간이 소요된다. 이 과정에서 유포자가 증거를 인멸하기도 한다”고 설명했다.

딥 페이크 유포자를 검거해도 처벌이 어려운 경우도 많다. 현행 딥 페이크 처벌법(성폭력처벌법 제14조의2)은 ‘반포 등을 할 목적으로’ 딥 페이크 음란물을 제작한 자에 대한 처벌만을 규정하고 있다. 처벌을 위해서는 딥 페이크 합성물을 유포했거나, 유포할 목적으로 만들었다는 게 입증돼야 하는 것이다. 검거된 유포자가 딥 페이크물을 “개인 소지 용도로 제작했으나 실수로 유포됐다”고 주장하고 이 주장이 법정에서 인정될 경우 처벌이 불가능하다. 딥 페이크를 판매한 경우에는 자동으로 유포의 목적이 있다고 인정되지만 이마저도 판매 정황이 확보되지 않은 경우 처벌이 어려울 수 있다. 현행법상 딥 페이크 구매와 시청에 대한 처벌은 피해자가 아동·청소년인 경우에만 가능한 점도 문제다. 경찰 관계자는 “피해자가 성인인 딥 페이크물의 소비자를 처벌할 법이 없다”며 “딥 페이크물에 대한 수요가 제작자를 자극해 유포·판매시장을 더 커지게 하는 만큼, 이들을 처벌하기 위한 법이 필요하다”고 지적했다.

조율 기자 joyul@munhwa.com