카이스트, 사용자 관심 변화 빠르게 적응하는 AI 학습기술 개발

카이스트 연구팀, ‘적응적 프롬프팅’ 기술 개발
사용자 관심에 맞춘 추천시스템에 활용도 높아


사용자의 관심 분야가 급변하더라도 금방 적응할 수 있는 인공지능(AI) 학습 기술을 국내 연구진이 개발했다. 카이스트는 5일 이재길 전산학부 교수 연구팀이 다양한 데이터 변화에 적응하며 새로운 지식을 학습하면서도 기존의 지식을 망각하지 않는 새로운 연속 학습 기술을 개발했다고 밝혔다.

연속 학습은 새로운 데이터가 연속적으로 들어올 때 이를 차례대로 학습해 환경 변화에 실시간으로 대응하는 학습 방식이다. 사용자의 변화하는 관심을 효과적으로 학습할 수 있어 일상생활에서 흔히 접할 수 있는 추천시스템에 사용된다. 최근 연속 학습은 지식을 ‘프롬프트’에 저장하고 이를 심층신경망에 전달하는 방식이 대세다. 심층신경망의 크기가 커지는 추세에 따라 신경망 내의 데이터를 하나하나 미세 조정하는 비용이 부담되기 때문이다. 프롬프트 방식은 심층신경망을 고정한 상태로 프롬프트만 변경할 수 있다는 장점이 있다.





기존 프롬프트 기반 연속 학습 방식은 학습마다 프롬프트를 생성하는 방식과 하나의 프롬프트로 학습을 진행하는 방식으로 나뉘는데, 이 경우 어떤 분야의 지식이 여러 프롬프트에 분산돼 AI가 깊은 지식을 학습하지 못하거나 여러 분야의 지식이 하나의 프롬프트에 섞여 혼재되는 문제가 있었다. 이에 연구진은 새로 학습한 내용이 기존에 학습한 내용과 유사할 경우 프롬프트를 새로 생성하지 않고 기존 프롬프트에 추가하는 ‘적응적 프롬프팅’ 기술을 개발했다. 즉 완전히 새로운 내용을 학습할 때에만 새 프롬프트를 생성하고, 같은 분야의 지식은 하나의 프롬프트에 담는 것이다. 연구진은 새 방식으로 학습한 AI가 기존 방식에 비해 최대 14%의 정확도 향상을 달성한 사실을 확인했다.

이번 연구 결과는 변화무쌍한 환경에 놓인 AI가 새로운 데이터를 반영하도록 지속해서 훈련하고 서비스의 정확도를 향상하는 데 큰 도움이 될 것으로 보인다. 특히 사용자의 관심 변화를 빠르고 정확하게 파악·반영해야 하는 추천시스템 분야에서 활용도가 높을 것이라고 연구진은 전했다. 연구를 지도한 이재길 교수는 "연속 학습 분야의 새로운 지평을 열 만한 획기적인 방법"이라며 "실용화 및 기술 이전이 이뤄지면 심층 학습 학계 및 산업계에 큰 파급효과를 낼 수 있을 것이다"라고 말했다.

카이스트 전산학부 김도영 박사과정 학생이 제1 저자, 이영준 박사과정, 방지환 박사과정 학생이 제4, 제6 저자로 각각 참여한 이번 연구는 지난 7월 최고권위 국제학술대회 ‘국제머신러닝학회(ICML) 2024’에서 발표됐다.

구혁 기자