총선용 딥페이크, 비상한 대책 급하다[포럼]

황근 선문대 미디어커뮤니케이션학부 교수

제22대 국회의원 선거가 48일 앞으로 다가왔다. 여야 모두 ‘이번 선거에서 지면 끝’이라는 배수진을 치고 선거전에 임하는 분위기다. 어쩌면 선거가 다수의 선택으로 대표자를 선출하는 민주적 절차라는 의미를 벗어나, 승자와 패자를 확실히 구분해 승자독식 구조를 정당화하는 수단으로 변질된 것 같기도 하다.

선거 캠페인이 총칼만 쓰지 않을 뿐 이기기 위해 모든 수단을 총동원하는 전쟁이 돼 버린 것 같다. 전투 또는 전쟁터라는 원래 의미를 지닌 캠페인(campaign)이란 용어와 절묘하게 맞아떨어진 셈이다. 그러니 미디어가 선거 캠페인 무기로 사용되는 것은 너무나 당연하다. 오래전부터 상대방을 비방하기 위해 미디어를 이용한 허위 정보는 네거티브 캠페인의 중심에 있었다.

지난 2016년 미국 대통령선거나 2017년 영국의 브렉시트(EU 탈퇴) 투표에서 보여줬던 가짜뉴스 위력은 점점 더 강해지고 있다. 우리 역시 몇 차례 선거를 거치면서 정치적 목적으로 조작된 가짜뉴스의 위력을 체감했다. 문제는, 이러한 가짜뉴스를 생산하고 확산하는 방법이 인공지능(AI) 고도화에 비례해 더욱 정교해지고 있다는 것이다.

챗 GPT를 이용해 허구의 내러티브를 만들어내는 가짜뉴스와 AI로 정교하게 조작된 딥페이크(deepfake) 영상이 그것이다. 특히, 딥페이크 영상은 전문가들조차 판별하기 힘들 정도로 더욱 교묘하게 합성·조작되고 있다. 그러니 정치적 사활이 걸린 선거전에서 딥페이크 영상이 창궐하게 될 것은 불을 보듯 뻔하다. 실제로 선관위는 지난달 29일부터 지난 16일까지 딥페이크를 활용한 선거운동으로 공직선거법을 위반한 게시물이 129건이나 된다고 발표했다.

물론 지난 연말에 ‘선거 90일 전부터 딥페이크를 이용한 선거운동을 금지’하는 공직선거법 개정이 있었다. 그렇지만 AI로 합성한 딥페이크 영상을 완전히 적발·규제하기는 어렵다. 그나마 조기에 적발해 확산을 최소화할 수 있는 방법은 기술적 대응이다. 아마존과 구글 같은 빅테크 기업들이 ‘2024년 선거 AI 기만적 사용 방지 기술 협약’을 체결하고, 딥페이크 영상이 확인되면 해당 동영상에 붉은색 라벨을 부착해 참여한 플랫폼들이 공유하게 한 것은 약간의 효과를 기대할 수 있을 것이다.

하지만 우리 기업들은 신고가 들어오면 사후에 처리한다는 소극적인 입장이다. 선거기간에 딥페이크 영상이 특히 문제가 되는 것은 선거의 특수성 때문이다. 온라인을 통해 순식간에 확산되는 딥페이크 영상은 그 진위가 가려지기 전에 투표에 영향을 미칠 수 있다. 그래서 조기 확인과 확산 예방이 매우 중요하다. 선거가 끝난 이후에 딥페이크라는 사실이 확인되더라도 왜곡된 선거의 결과를 되돌릴 수 없기 때문이다.

선거기간이 가까워지고 여야의 공천 결과가 발표되면서 가짜뉴스에 대한 우려도 커지고 있다. 완벽하게 예방·처리할 수 있는 기술적·법적 대응책이 마땅치 않은 상태에서, 가짜뉴스의 생산·공급 양식은 반대로 더 빠른 속도로 진화하고 있다. 선거법 위반 수준을 넘어 민주주의의 근간을 흔드는 반민주주의 범죄로 강한 처벌이 필요한 상황이다. 이를 위해 정부와 사업자 그리고 이용자들이 긴밀하게 연계된 공동 감시 체계를 구축하는 방안 마련이 화급하다.

클릭하시면 더 큰이미지를 보실 수 있습니다 황근 선문대 미디어커뮤니케이션학부 교수