‘AI가 개인정보 새 위협으로’…정부, 딥페이크·재식별 대응기술 키운다

정부가 인공지능(AI) 확산에 따른 개인정보 유출과 재식별 위험에 대응하기 위해 향후 5년간 집중 육성할 11대 핵심기술을 선정했다. 생성형 AI 모델의 개인정보 노출 방지와 딥페이크 검증, 다크웹 유출 탐지 등 AI 시대에 맞춘 개인정보 보호 체계를 구축하겠다는 구상이다.

개인정보보호위원회는 9일 ‘개인정보 전주기 보호·활용 기술 연구개발(R&D) 및 표준화 로드맵(2026~2030)’을 공개했다. 이번 로드맵은 기존 연구개발과 표준화 로드맵을 통합·개편한 것으로, 개인정보의 생성·수집부터 활용·파기까지 전 과정에 걸친 보호 기술 개발 방향을 담았다.

개인정보위는 최근 에이전틱 AI와 피지컬 AI 등 신기술이 확산하면서 개인정보 유·노출과 AI 학습데이터 재식별 우려가 커지고 있다고 진단했다. 이에 ▲개인정보 주권 보장 ▲유·노출 위험 경감 ▲신뢰 기반 안전활용 ▲AI 대응 기술개발 등 4대 분야에서 11대 핵심기술을 선정했다.

주요 기술로는 생성형 AI 모델의 개인정보 노출 위험을 평가하는 ‘AI 모델 안전성 평가’, AI 에이전트의 개인정보 접근 권한을 통제하는 ‘에이전트·도구·로봇 실행 보안’, 로봇과 사물인터넷(IoT) 환경의 개인정보 수집 범위를 제어하는 ‘피지컬 AI 실시간 프라이버시 제어’ 등이 포함됐다. 이 밖에 딥페이크·합성 콘텐츠 검증, 다크웹 개인정보 유출 탐지, 가명·익명정보 재식별 위험도 평가 기술도 개발 대상에 포함됐다.

개인정보위는 AI와 개인정보보호 강화기술(PET)을 결합한 신기술 연구를 확대하고, 개인정보 분야 전문인력 양성 체계도 함께 구축할 계획이다. 송경희 개인정보위 위원장은 “AI 기술 발전과 함께 새로운 프라이버시 위험이 증가하고 있다”며 “상용화 가능한 개인정보 보호 기술 개발과 표준화를 통해 AI 시대에 필요한 개인정보 기술 생태계를 구축하겠다”고 말했다.

정지연 기자