AI 가짜뉴스 ‘신속 검증制’ 급하다[시평]

이번 경주 아·태경제협력체(APEC) 관련 회의에서 가장 눈길을 끈 인사는 엔비디아 최고경영자(CEO)인 젠슨 황이다. 그는 한국이 인공지능(AI) 분야의 세계적 리더가 될 가능성이 매우 크다면서 AI 개발에 필요한 그래픽처리장치(GPU) 26만 장을 한국 정부와 기업에 우선 공급하겠다고 밝혔다. 대통령은 그와의 면담에서 “대한민국은 AI 시대를 가장 먼저 열어 가는 테스트베드(시험대)”라면서 엔비디아의 투자가 성공할 것이라고 했다. AI 관련 비전이 그 분야 세계 최고 리더와 대통령 간에 논의된 것은 국가 미래에 긍정적인 방향이다.

AI 관련 현 수준의 논의만 고려해도, AI는 국가 운영에 있어 일부 기능을 대체하거나 보조할 수 있다. 즉, 복잡한 사회·경제 데이터를 분석해 정책 효과를 예측하거나 최적의 대안을 정책 결정자들에게 제시할 수 있다. 예를 들어, 세금구조·복지정책·교통흐름 분석 등을 신속 정확하게 시뮬레이션해 정책 결정자들에게 제시할 수 있다.

군사 안보 측면에서는 AI를 이용한 전략·전술 수립을 비롯해 해킹 방어 및 공격 능력 보유가 핵심이 될 것으로 전문가들은 예측한다. 안보 관련 데이터를 중심으로 AI 주권 확보가 중요하며 미·중 경쟁이 격화하는 중에 기술·표준 동맹을 어떻게 설정하느냐가 중요한 전략 변수가 될 것이다.

AI가 급속도로 발전하면서 악의적 이용을 방지하고 적발하는 일이 중요한 과제로 대두되고 있다. AI의 부정적인 영향이 국내 정치와 여론 형성의 영역에까지 이미 깊숙이 들어와 있기 때문이다. AI가 생산하거나 확산시키는 가짜 뉴스는 민주사회에 중대한 위협이 되고 있다. AI가 만든 음성과 동영상은 점점 정교해져 전문가조차 진위를 가리기 어려운 수준에 이르렀다. 악의적으로 공개된 자료는 사실 여부와 관계없이 빠른 속도로 확산되고, 한번 형성된 대중의 인식은 사후 검증으로 쉽게 바뀌지 않는다. 2026년 지방선거를 앞둔 시점에 가짜 뉴스는 정치적 무기가 될 수 있는 만큼 제도와 기술 차원의 방지 대책 논의가 필요하다.

최근 대법원장을 둘러싼 음성 녹취록 의혹이 정국에 혼란을 가져왔다. 특정 유튜브 채널이 ‘대법원장이 정치권 인사와 회동해 이재명 대통령 사건을 언급’하는 내용을 공개했고, 여당 의원이 국회 법제사법위원회에서 동영상을 보여주면서 문제를 제기했다. 이에 대해 야당은 “AI로 조작된 허위 자료일 가능성이 크다”며 반박했다.

이 사태는 단순한 사실인지 아닌지를 넘어 민주주의의 근간을 시험대에 올린다. AI로 조작된 의혹을 정치적 무기로 활용하는 행위는 민주주의를 갉아먹는 자해이다. 여당은 집권 세력으로서 정치적 이익보다 제도 안정성을 우선시해야 한다. 정치권의 자제와 책임 의식이 무엇보다 중요하다. 앞으로는 선거운동에 앞서 여야 모두가 ‘AI 가짜 뉴스를 사용하지 않는다’는 서약에 합의하고, 이를 위반할 경우 후보 자격 정지 또는 제재를 명문화해야 한다.

국회의원 면책특권 남용을 견제할 제도적 장치도 필요하다. 국회는 헌법상 면책특권이 보장된 공간이다. 하지만 그 특권은 권력을 견제하기 위한 장치이지 검증되지 않은 의혹을 확산시키는 방패막이가 아니다. 국회 법사위 회의장에서 여당 의원이 녹취록을 공개했을 때, 사실 여부는 뒷전으로 밀려나고 언론은 이를 그대로 중계했다. 이 과정에서 언론은 팩트 체크보다 자극적 보도를 앞세웠다. 국회와 언론이 오히려 AI 가짜 뉴스의 확산 경로가 된 셈이다.

내년 지방선거 이후 총선과 대선에서 AI 가짜 뉴스는 필연적으로 등장할 것이다. 일단 퍼져 나간 ‘가짜 증거’는 설령 사후에 조작으로 판명되더라도 이미 형성된 대중의 믿음과 선거 결과는 바꾸기 어렵다. 중국과 북한 등 외국 세력이 한국 선거에 개입해 AI 가짜 뉴스를 퍼뜨릴 수도 있다.

우리 정치는 악의적으로 AI를 이용해 만든 가짜 뉴스에 굴복하지 않아야 한다. 이를 위해서 AI 기반 조작 여부를 신속히 판단할 독립적 기구를 마련해야 한다. 해외에서는 선거관리위원회나 독립기관이 신속 검증 시스템을 운영하고 있는데, 우리나라는 아직도 미비하다. 언론사는 선거 전용 팩트 체크 플랫폼을 가동해 가짜 뉴스에 관해서 몇 시간 내에 검증 결과를 발표해야 한다.