페이스북, AI 활용 “테러 차단하겠다”

IS·알카에다와 전쟁 선포
선전·선동활동 원천 삭제

세계 최대 SNS인 페이스북이 ‘테러와의 전쟁’을 선포하고 최첨단 인공지능(AI)을 활용한 테러 관련 게시물 삭제에 나섰다.

페이스북은 15일 공식 블로그를 통해 “테러 관련 행위로 삭제된 모든 계정을 밝혀냈으며, 더 많은 위협을 발견하기 위해 AI를 사용할 것”이라며 “우리는 이미 이슬람국가(IS)·알카에다 등과 관련된 테러 콘텐츠와의 전쟁에 최첨단 기술을 집중하고 있으며 다른 테러 단체들로 적용을 확대할 계획”이라고 강조했다. 페이스북이 사용하고 있는 AI 기술은 테러리스트의 사진과 동영상에 대한 이미지 매칭, 테러리스트 콘텐츠가 게시되는 관련 계정에 대한 클러스터 탐지 등이다.

페이스북은 그동안 테러 조직들이 페이스북을 활용해 선전·선동 활동을 하는 것을 방조하고 있다는 비판을 받아왔다.

AP통신에 따르면, 페이스북은 아동포르노 등 음란물 차단을 위해서는 최첨단 기술을 사용했지만 다른 게시물에 대해서는 사전 차단 기술 사용을 적용하지 않았다. 즉 페이스북 이용자가 게시물에 문제 제기를 할 경우에만 차단·삭제 조치를 취해온 것이다. 그러나 이제 AI를 이용해 페이스북 이용자가 테러 관련 게시물을 보기 전, 먼저 문제의 콘텐츠를 찾아내 차단·삭제하기로 방침을 변경했다.

페이스북은 또 학계 전문가와 대테러 기관 공직자 출신 전문가 등 150여 명의 전문인력이 테러 콘텐츠 색출에 집중하고 있다고 밝혔다. 정부기관 및 비정부기구(NGO) 등과의 협력을 강화해 테러 단체의 활동을 근본적으로 차단하기 위한 다각적인 대책도 마련하고 있다.

페이스북은 “최근 (세계 곳곳에서) 테러 공격이 발생하면서, 사람들은 ‘온라인 테러리즘’과의 전쟁에 있어서 인터넷 기업의 역할에 대해 의문을 갖기 시작했다”며 “우리는 소셜미디어가 테러리스트들의 목소리가 커지는 장소가 돼서는 안 된다는 데 절대적으로 동의한다”고 밝혔다

앞서 테러에 몸살을 앓아온 유럽 등 세계 정치권은 줄곧 페이스북 등 인터넷 회사들이 온라인 테러리즘 차단에 적극 나서야 한다고 촉구해 왔다.

테리사 메이 영국 총리는 최근 연설에서 “인터넷 회사들이 (테러 단체의) 폭력적 이데올로기를 양산하는 공간이 되고 있다”고 비난한 바 있다. 영국과 프랑스 정부는 테러리스트 선전 활동에 대해 적절한 조치를 취하지 않는 SNS 회사를 처벌하는 방안을 검토하는 계획도 발표했다.

김다영 기자 dayoung817@munhwa.com