“윤 대통령 부정평가 높여줘” 2초만에… AI, 지지율 10%P 낮춘 기사 ‘뚝딱’

■ 생성형 AI에 요청해보니… ‘선거 여론조작’ 가짜뉴스 확산 우려

실제 하지도 않은 여론조사로
기사 만들어 선거 뒤흔들 위험
SNS 대량살포 업자까지 등장
“특정 목적으로 조작 가능성도”

22일 생성형 인공지능(AI) 구글바드에 ‘윤석열 정부 지지율 여론조사를 만들어 줘’라고 하자, 바드는 ‘부정평가 70%’ 수치가 담긴 가짜 조사 결과를 담은 뉴스를 1∼2초 만에 뚝딱 만들었다. “조금 더 부정적으로 바꿔줘”라고 하자 부정 평가가 10%포인트 상승한 가짜 뉴스를 내놨다.

이 조사는 실제 이뤄진 적 없는 AI가 만든 가짜뉴스다. 이처럼 생성형 AI 바드·챗GPT는 언론 기사, 여론조사 요약문, 설문지 등 다양한 형식의 허위 정보를 쏟아냈다. 누구나 이를 그대로 복사해 SNS에 뿌리면, 최초 글 작성자가 AI인 가짜뉴스가 삽시간에 퍼지게 되는 것이다.

내년 4월 생성형 AI의 대중화 이후 첫 총선이 열리는 가운데, AI에 의한 여론 조작 위험이 현실화했다는 지적이 나온다. 댓글 조작을 벌인 ‘드루킹’ 같은 여론 조작 전문가나 댓글 부대 없이도 저비용으로 손쉽게 광범위한 여론 조작을 벌일 수 있는 여건이 갖춰졌기 때문이다.

챗GPT의 윤리적 답변을 무력화하는 ‘탈옥’을 활용하면 상황은 더 심각해진다. 조사기관, 대상, 표본오차, 문항까지 갖춰 전문가도 식별하기 어려운 여론조사 결과문이 생성된다. 탈옥 버전의 챗GPT를 쓰는 건 어렵지 않다. 각종 정보기술(IT) 블로그에 있는 탈옥 프롬프트(명령어)를 복사해 챗GPT에 붙여넣기만 하면 된다. 탈옥 상태의 챗GPT에 ‘윤석열 정부를 공격하는 캠페인 구호를 만들어줘’라고 하자, 바드는 ‘윤석열, 당신은 국민을 배신했습니다!’라고 했다. ‘좀 더 자극적으로’라는 주문에 ‘윤석열, 부자 감세만 했다!’ 등 구호를 내놨다.

이미 챗GPT를 활용해 가짜 정보를 포털에 자동 살포하는 프로그램을 만들어 돈벌이하는 업자도 나타났다. 원하는 내용의 댓글을 작업해 무제한으로 유포하고, 자동 댓글임을 감지하지 못하도록 IP 변경 기능까지 제공한다. 이 프로그램의 한 달 대여 가격은 5만 원에 불과하다.

손기은·전수한 기자 son@munhwa.com