“잠실에 중국 경찰·방화테러·FBI 체포작전” AI 허위영상 퍼뜨린 유튜버 검거…후원금 1000만원 추징보전

부산=이승륜 기자

‘잠실 시위에 중국 경찰 투입’, ‘잠실경기장 방화 테러’….

이 같은 허위정보를 생성형 인공지능(AI)으로 만들어 유포한 유튜버가 경찰에 붙잡혔다. 경찰은 허위정보 영상으로 모은 후원금 1000여만 원에 대해서도 기소 전 추징보전을 신청했다.

부산경찰청 사이버수사과는 전기통신기본법 위반(허위통신) 혐의로 A(40대) 씨를 검거해 불구속 송치했다고 15일 밝혔다.

경찰에 따르면 A 씨는 경기도 자택에서 구독자 8만7000여 명의 유튜브 채널을 운영하며 올해 3월 말부터 6월까지 모두 16건의 허위 영상을 게시한 혐의를 받는다.

대표적으로 “비축유 90만 배럴이 북한에 전달됐다”, “미국 민간군사기업(PMC)이 여의도에 상륙해 윤석열 전 대통령을 탈출시키고 FBI 등이 국내에 들어와 체포 작전을 벌인다”, “부정선거와 관련해 전직 행정안전부 고위직과 특정 정당 인사에 대한 체포·압송 작전이 진행된다”는 내용 등을 올린 것으로 조사됐다.

경찰 수사를 받는 중에도 허위정보 게시를 멈추지 않았다. A 씨는 최근 잠실 집회와 관련해 “중국 국적 복면 경찰이 시위대를 폭력 진압하고 있다”, “잠실 핸드볼경기장 지하에서 용접을 이용한 방화 테러가 준비되고 있다”는 내용의 영상을 추가 게시했다.

경찰은 해당 영상들이 실제 테러가 발생했다는 내용이 아니라, 누군가 대형 방화 테러를 준비하거나 예고하고 있다는 허위정보를 퍼뜨려 사회적 불안과 혼란을 조성한 사례라고 설명했다.

수사 결과 A 씨는 생성형 AI에 특정 결론이 나오도록 질문을 반복하거나 표현을 바꿔 질의하는 방식으로 AI를 유도한 뒤 원하는 답변을 받아 영상과 방송 대본을 제작한 것으로 드러났다. 특히 AI는 답변 과정에서 ‘가상의 시나리오이며 공식 수사기관이나 공신력 있는 기관을 통해 확인된 사실이 아니다’는 취지의 경고 문구를 반복해서 제시했지만, A 씨는 이를 제외하고 자신이 원하는 내용만 발췌해 사실인 것처럼 방송한 것으로 조사됐다.

A 씨는 경찰 조사에서 “AI가 그렇게 답했기 때문에 사실이라고 믿었다”는 취지로 진술했다. 그러나 경찰은 A 씨가 특정 결론을 얻기 위해 AI에 반복적으로 질의하며 원하는 답변을 유도했고, 경고 문구를 의도적으로 배제한 채 허위정보만 방송한 점 등을 토대로 허위정보 유포의 고의성이 인정된다고 판단했다.

특히 경찰은 A 씨가 사회적 관심이 큰 국가 안보와 선거 관련 이슈를 반복적으로 활용해 시청자들의 관심을 끌고 후원금을 받은 것으로 봤다. 유튜브 광고수익 창출은 이미 중단된 상태였지만, 방송 화면과 댓글에 자신의 후원계좌를 지속적으로 노출해 후원금을 받아온 것으로 확인됐다.

경찰은 허위 영상이 송출된 시간대에 입금된 후원금만 특정해 약 1000여만 원을 범죄수익으로 산정하고 기소 전 추징보전을 신청했다. 실제 전체 후원금 규모는 이보다 많지만, 다른 정상적인 방송에서 받은 후원금과 구분해 범죄와 직접 관련된 금액만 특정했다. 문제가 된 영상들은 현재 채널에서 삭제됐지만 채널 자체는 계속 운영되고 있다.

경찰은 이번 사건에서 명예훼손 혐의는 적용하지 않았다. 허위 영상에서 일부 실명이 거론되기는 했지만, 내용 자체가 일반인이 쉽게 믿기 어려울 정도로 명백한 허위였고 피해자들의 고소·고발도 없어 전기통신기본법 위반 혐의만 적용해 송치했다.

또 공범이나 특정 정당 또는 정치세력과의 연계 정황은 현재까지 확인되지 않았다.

부산경찰청 관계자는 “채널 전체가 허위정보만으로 구성된 것은 아니어서 폐쇄까지는 이르지 않았다. 다만 문제가 된 허위 영상은 현재 삭제된 상태”라며 “앞으로도 허위정보 게시 여부를 지속적으로 모니터링할 방침”이라고 말했다. 이어 “수익을 목적으로 AI를 이용해 그럴듯한 허위정보를 만들어 사회적 혼란을 일으키는 사례가 계속되고 있다”며 “허위정보 유포 행위에 대해서는 앞으로도 엄정하게 대응하겠다”고 밝혔다.

한편 A 씨는 지난 5월 자신의 유튜브 커뮤니티를 통해 부산경찰청의 압수수색 사실을 공개하며 컴퓨터 하드디스크를 압수당해 방송을 중단하게 됐다고 밝힌 뒤, 후원계좌를 공개하며 지지자들에게 후원을 호소하기도 했다.

이승륜 기자