클릭하시면 더 큰이미지를 보실 수 있습니다 BBC 캡처
美 유학 대학생, 자신 얼굴로 러시아 예찬하는 수많은 동영상 발견
프로그램 제작사 ‘시스템 해킹당해… 바로잡겠다’
AI 검열 강한 中… 자국 주장과 일치한 콘텐츠에 ‘침묵’ 비난도
미국에서 우크라이나의 자유를 위한 인터넷 스트리밍 방송을 이어가던 여성이 자신의 얼굴을 도용해 러시아를 예찬하는 방송을 제작하는 중국인 제작자들에 분노를 드러냈다. 인공지능으로 타인의 얼굴을 도용하는 데에 엄격한 중국이 현재 밀월관계를 유지 중인 러시아를 예찬하는 방송을 눈감아주고 있다는 지적이 나오고 있다.
15일 BBC방송에 따르면, 미국 펜실베이니아대에 유학 중인 우크라이나 대학생 올가 로이에크는 최근 자신이 샤오훙수(小紅書) 등 중국 동영상 플랫폼에서 자신을 봤다는 지인들의 메시지를 받기 시작했다. 그는 이를 찾아보고는 경악을 했는데, 영상 속 로이에크는 자신을 러시아인이라고 이라고 밝히며 ‘할 줄도 모르는’ 중국어로 러시아의 상품을 소개하거나 러시아를 외면하는 다른 국가들을 비난하고 있었다. 올가는 자신을 소피아, 나타샤, 에이프릴, 스테이시라고 밝히는 30개 이상의 영상을 확인했다고 밝혔다. 러시아의 침공으로 고통받고 있는 가족이 여전히 우크라이나에 남아 있는 로이에크는 크게 분노했다.
관련 사실이 알려지자 로이에크의 ‘클론’을 만드는 데 사용된 프로그램을 개발했다는 회사 헤이젠은 로이에크의 얼굴을 도용해 4900개 이상의 동영상이 제작됐다고 밝혔다. 헤이젠 측은 BBC에 “시스템이 해킹당해 승인되지 않은 콘텐츠가 생성됐다”며 “플랫폼의 추가 남용을 방지하기 위해 보안 및 인증 프로토콜을 업데이트했다”고 밝혔다.
클릭하시면 더 큰이미지를 보실 수 있습니다 우크라이나인 대학생 올가 로이에크가 러시아를 예찬하고 있는 장면이 담긴 중국 동영상 콘텐츠들, 사진출처 : BBC 캡처
중국은 AI와 그 사용처에 대한 규제를 가장 강하게 하는 국가로 꼽힌다. 지난해 공안부가 공개한 통계에 따르면 당국은 AI 얼굴 바꿔치기 등을 한 유저 515명을 체포해 사법처리했다. 그러나 전문가들은 로이에크의 동영상이 광범위하게 제작·유포된 데 대해 중국과 러시아의 특수 관계 때문일 것이라고 분석했다. 현재 중국 관영 언론은 우크라이나 침공을 정당화하는 러시아의 주장을 그대로 수용, 보도하고 있으며 소셜 미디어에서는 전쟁 관련 게시물을 검열하고 있다. 에미 하인 볼로냐대 법률 및 기술 연구원은 “수많은 계정이 조직적으로 운영됐는지는 불분명하지만 정부의 선전과 일치하는 것은 도움이 된다”며 “중국 공산당과 명시적으로 연결돼 있지 않더라도 당의 메시지와 일치하는 주장을 할 경우 게시물이 삭제될 가능성이 낮아진다”고 밝혔다.
최근 가짜 자신이 등장한 동영상 등을 바로잡는 활동을 진행 중인 로이에크는 “내가 생성형 AI의 마지막 희생자가 되지 않을 것이라 100% 확신한다”며 “내 이야기를 공유하며 온라인에서 보는 모든 게 진짜가 아니라는 것을 사람들이 이해하도록 돕고 싶다”고 말했다.
박준우 기자
;){kind=link}