SKT, 한국어 통신 서비스 특화 '텔코LLM' 6월 개발 완료한다

요금제·공시지원금 등
통신전문용어·AI윤리 학습
SKT 자체 모델·오픈AI·앤트로픽 모델 통합 학습
AICC·유통망·NW 분야 활용 가능

SKT 제공

[파이낸셜뉴스] SK텔레콤은 5세대 한국어 통신 전문 용어와 인공지능(AI) 윤리가치 등 통신사 내부지침을 학습한 통신 전용 거대언어모델(LLM) '텔코LLM'을 오는 6월 중 개발 완료할 예정이라고 30일 밝혔다. 5세대(5G) 이동통신 요금제, T멤버십, 공시지원금 등 통신 서비스에 특화된 점이 특징이다.

SKT는 오픈AI, 앤트로픽 등과 협력해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집·선별해 통신 특화 LLM을 개발 중이다. 여기에는 SKT의 자체 AI 모델인 에이닷엑스, 오픈AI의 GPT, 앤트로픽의 클로드가 활용된다.

SKT는 이 같은 통신 특화 LLM이 통신사들의 AI컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 제공할 수 있을 것으로 기대했다.

앞서 오픈AI는 지난 5일 공식 블로그를 통해 "SKT와 협력을 통해 GPT-4를 미세 조정하고 한국어로 된 통신 관련 대화 성능을 향상시켰다"고 언급하기도 했다.

SKT는 범용 LLM에 통신 관련 데이터를 추가로 학습시키는 '미세조정(파인튜닝)'을 더하는 방식으로 텔코LLM을 개발 중이다. 텔코LLM이 답변한 내용에 대해 상담사들이 품질, 만족도 등을 평가하는 과정을 거친다. 문의에 유용한 답변을 했는지, 문맥을 이해했는지 등에 대해 채점하는 사람의 평가 영역이다. 낮은 점수를 받은 영역은 보완하는 방식으로 텔코LLM을 고도화하고 있다.

텔코LLM 중 통신 관련 데이터를 입힌 클로드 버전의 경우, AI가 따라야 할 윤리원칙을 학습하고 있다. 국내에서 생겨나고 있는 신조어나 한국어 욕설, 위협 폭언 등의 문맥 뉘앙스를 파악할 수 있는 장점을 갖고 있다.

SKT는 이 같은 통신 특화 텔코LLM이 통신사의 기존 업무 비용과 시간을 줄이는 데 기여할 것으로 기대했다.

정민영 SKT AI플랫폼 담당은 "고객센터, 인프라뿐만 아니라 마케팅·유통망 등 고객 접점이나 법무, 인적자원관리(HR)와 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것"이라며 "지속적으로 텔코LLM 활용사례를 늘려 나갈 계획"이라고 설명했다.

아울러 SKT는 통신사들이 생성형 AI 애플리케이션(앱)을 효율적으로 구축, 개발할 수 있도록 지원하는 '인텔리전스 플랫폼'도 공개했다. 멀티 LLM부터 멀티모달, 오케스트레이션, 검색증강생성(RAG) 등을 아우르는 '기업용 AI 개발·운용 패키지'다.

텔코LLM과 마찬가지로 단일·범용 LLM에 기대지 않고, 다수의 LLM을 통해 약점을 보완하고 강점은 강화하는 방식을 채택했다.

SKT는 인텔리전스 플랫폼을 현재 AI 개인비서 앱 에이닷(A.) 등의 서비스에 적용 중이며, 적용 사례를 지속 확대할 예정이다.

에릭 데이비스 SKT AI 테크 콜라보레이션 담당은 "1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않을 것"이라면서도 "통신 데이터와 도메인 노하우에 맞춰 조정하는 파인튜닝과 모델평가(벤치마킹)를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티LLM 전략"이라고 강조했다.

[e-mail] 김준혁 기자