서울시 ‘AI 활용 불법영상 삭제’ 대통령상 받아

서울시는 디지털 성범죄 인공지능(AI) 삭제지원 프로그램이 행정안전부가 개최한 ‘2023 정부혁신 우수사례 경진대회’에서 대통령상 대상을 받았다고 28일 밝혔다.

디지털 성범죄 AI 삭제지원 프로그램은 24시간 실시간 모니터링하는 AI가 피해 영상물을 자동 검출, 삭제해 재유포를 막는 시스템이다. 시와 서울연구원은 지난해 7월 프로그램 개발에 착수해 올해 3월 프로그램 개발을 완료했다. AI 기술을 활용해 빠르고 정확하게 영상물을 찾아내 삭제를 지원하고, 재유포를 막을 수 있다는 점에서 높은 평가를 받았다.

실제 AI 기술 도입 이후 7개월간 모니터링 건수는 45만여 건으로, AI 기술 도입 전인 지난해 같은 기간 모니터링 건수보다 1265% 증가했다. 또 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 소요됐던 것에 비해 AI 기술은 3분이 소요, 검출 시간이 97.5%가 단축되면서 피해 영상물 삭제지원 건수도 2배로 늘었다.

시는 내년 상반기 안으로 서울연구원과 ‘AI 기반 아동·청소년 피해 영상물 삭제지원 프로그램’도 개발할 예정이다. 최근 아동·청소년을 대상으로 한 디지털 성범죄 피해 건수가 지속해서 증가하는 가운데 특히 피해자나 가족의 신고 없이 온라인상에서 유포되는 피해 영상물이 많은 데 따른 것이다.

이 프로그램에는 아동·청소년 연관 게시글을 종합 분석해 성별과 나이 등을 예측하는 모델이 적용됐다. 김선순 서울시 여성가족정책실장은 “디지털 성범죄 AI 삭제지원과 같은 혁신기술을 통해 피해자의 고통을 줄이고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 피해자 한 분 한 분이 빠르게 일상을 회복할 수 있도록 할 것”이라고 말했다.

김군찬 기자 alfa@munhwa.com