통신업 특화 거대 언어모델… SKT ‘텔코LLM’ 6월 출시

SK텔레콤이 윤리 가치와 통신 서비스를 이해하는 똑똑하고 착한 통신특화 거대언어모델(LLM) ‘텔코 LLM’을 오는 6월 출시한다.

SK텔레콤은 5G 요금제, T멤버십, 공시지원금 등 우리나라의 통신 전문 용어와 인공지능(AI) 윤리가치 등 통신사의 내부 지침까지 학습한 ‘텔코 LLM’을 개발하고 있다고 30일 밝혔다. 이르면 6월 중 개발을 완료해 곧바로 시장에 내놓을 계획이다.

‘텔코LLM’은 GPT 등과 같은 범용 LLM이 아니라 통신업에 특화된 LLM이다. SK텔레콤이 오픈AI, 앤트로픽 등과 협력해 개발한 모델이다. 통신사 서비스나 상품, 멤버십 혜택, 소비자 상담 패턴 등 방대한 양의 데이터를 수집·선별해 에이닷(A.)엑스(SK텔레콤 LLM), GPT(오픈AI LLM), 클로드(앤트로픽 LLM)에 학습시켰다.

에릭 데이비스 SK텔레콤 AI 테크 협력 담당(부사장)은 “1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽다”며 “통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SK텔레콤만의 멀티LLM 전략”이라고 설명했다.

현재 통신사 고객센터에서 상담 전화 한 건을 처리하기 위해선 실제 상담에 약 3분, 상담 후 업무 처리에 30초 이상이 소요된다. 하지만 텔코LLM을 도입하면 상담사가 소비자와 전화하는 동안 LLM이 해결책을 제공하고 상담 내용을 요약해주기 때문에 상담 후 처리까지 소요되는 시간을 크게 단축할 것으로 기대를 모으고 있다. 또한 텔코LLM 중 통신 관련 데이터를 입힌 클로드 버전의 경우 AI가 따라야 할 윤리원칙을 철저하게 학습하고 있어, 신조어나 한국어 욕설, 위협 폭언 식의 문맥 뉘앙스를 정확하게 파악할 수 있는 장점도 있다고 SK텔레콤은 설명했다.

한편, SK텔레콤은 멀티LLM을 쉽고 효율적으로 사용할 수 있는 인텔리전스 플랫폼을 현재 에이닷 등의 서비스에 적용 중이며, 적용 사례를 지속 확대할 예정이라고 전했다.


김만용 기자 mykim@munhwa.com