AI 기반 의료제품 안전성 확보 필수...KTC, 평가체계 개발 착수

한국기계전기전자시험연구원(KTC·원장 안성일)이 약 3년에 걸쳐 인공지능(AI)에 기반한 첨단 의료기기 분야의 안전성·신뢰성 평가체계 구축에 나선다.

KTC는 12일 식품의약품안전처 및 과제 컨소시엄 관계자들과서울에서 ‘AI 기반 디지털의료제품 안전성·신뢰성 확보 기술 개발’ 과제 킥오프 회의를 개최했다고 밝혔다. KTC는 식약처 산하 식품의약품안전평가원이 공모한 ‘2025년도 제1차 식품의약품안전처 출연 연구개발사업’의 일환으로 해당 과제의 주관 연구기관으로 최종 선정됐다. 이번 연구는 총 7개 세부과제로 구성되며, KTC가 총괄 주관기관으로 사업을 이끌 예정이다.

이번 사업은 오는 2027년 12월까지 33개월 간 진행되며 106억 원의 정부 예산이 투입된다. KTC는 국내 최고 수준의 산·학·연·병 컨소시엄을 구성해 △디지털의료제품의 보안 위험 분석 △위험 탐지 및 대응을 위한 사이버보안 지원 연구 △통합위험관리시스템 개발 △생성형 AI 디지털의료제품의 안전·신뢰성 취약점 정보 수집 및 분석을 위한 레드팀 운영 체계 정립 등 첨단 의료기기 분야의 안전성·신뢰성 평가체계 구축에 나선다.

특히 이번 과제는 국내 대표 시험기관인 KTC와 한국산업기술시험원(KTL), 한국화학융합시험연구원(KTR)이 연합해 디지털의료제품의 보안 위험 분석과 대응 기술을 공동 연구한다. 또 국내 유일의 소스코드 분석 도구와 플랫폼을 보유한 스페로우가 소프트웨어 저작도구와 플랫폼 개발을 맡는다. 이와 함께 한국전자통신연구원, 분당서울대학교병원, 에스티에이테스팅컨설팅이 생성형 AI 레드팀 운영체계와 플랫폼 개발을, 동국대가 디지털의료제품 위험관리와 유형별 안전성 거버넌스 체계 구축을 담당할 예정이다.

KTC 관계자는 “이번 과제 수행을 통해 디지털의료제품 개발 및 운영 전반에서 발생할 수 있는 보안 취약점에 대한 체계적 관리 기술, 표준화된 SBOM(소프트웨어 자재명세서) 저작도구 및 취약점 관리 기술 개발 등 보안 기술 고도화가 기대된다”며 “생성형 AI 기반 디지털의료제품에 특화된 레드팀 운영 체계 정립을 통해 새로운 분석 및 테스트 기법 개발과 기술적 안전성 증대도 예상된다”고 말했다. 안성일 KTC 원장은 “AI 기술의 비약적인 발전의 흐름 속에 AI 디지털의료제품의 안전성 평가 시스템 개발은 그에 못 미치는 점이 아쉽다”며 “이번 과제를 통해 디지털 의료기기 제조사들이 사이버보안과 AI에 대한 선제적 위험 관리를 실현할 수 있는 기반이 마련될 것으로 기대하며 이를 통해 안전성 확보는 물론, 제조사에는 비용 절감과 리스크 완화에도 도움이 될 것”이라고 말했다.

박준희 기자