SKT, AI 멀티엔진 시동… 통신특화 '텔코LLM' 6월 만난다

SK텔레콤이 인공지능(AI) 피라미드 전략의 일환인 통신서비스 특화 거대언어모델(LLM) '텔코 LLM'을 오는 6월 출격시킨다.

통신 요금제, 지원금, 통신 내부 업무 등에 특화된 이 모델을 연내 AI고객센터(AICC)부터 우선 적용하겠다는 전략이다. SKT는 국내에서 쌓은 텔코LLM 역량을 향후 글로벌 통신 전용 LLM을 개발하는 데 활용키로 했다.

SKT는 4월 30일 서울 중구 SK T타워에서 기자설명회를 열고 6월 중 한국어에 특화된 텔코LLM 개발을 완료하고, 연내 AICC 등 분야에 상용화할 예정이라고 밝혔다. 텔코LLM은 통신 산업·서비스에 특화된 B2B AI 솔루션이다.

SKT는 텔코LLM 구축에 단일 또는 범용 LLM이 아닌 멀티 LLM을 활용한다. SKT의 자체 AI 모델 에이닷엑스를 비롯해 오픈AI의 GPT, 앤트로픽의 클로드 모델을 채택하고, 각 모델의 강점을 적재적소에 활용하는 전략이다.

SKT는 빅데이터를 모아 모델을 학습시키는 정량적 방식과 사람이 AI의 통신 관련 생성·답변·추론 등의 과정을 평가해 정확도를 미세조정(파인튜닝)하는 정성적 방식을 결합해 텔코LLM을 개발하고 있다. 이 같은 과정을 거치면 번호이동 방식, 요금제 추천, 공시지원금 설명 등 통신 서비스에 특화된 AI 모델을 구현할 수 있다는 설명이다.

텔코LLM에는 통신사인 SKT의 전반적인 데이터가 활용되기 때문에 요금 추천과 같은 통신 서비스뿐만 아니라 통신사의 네트워크 관리, 인적자원관리(HR), 법무 분야에서 활용할 수 있을 것으로 보인다.

SKT는 이날 텔코LLM을 이용하는 기업이 각자의 수요에 맞춰 활용할 수 있도록 지원하는 텔코LLM '인텔리전스 플랫폼'도 공개했다.

SKT는 AICC 고객상담 솔루션은 공공·금융 분야에도 접목할 수 있을 것으로 기대했다. 정민영 SKT AI플랫폼 담당은 "고객센터, 인프라뿐만 아니라 마케팅, 유통망 등 고객 접점이나 법무, HR과 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것"이라며 "지속적으로 텔코LLM을 활용한 활용 사례를 늘려 나갈 계획"이라고 설명했다.

SKT는 국내에서 텔코LLM을 통해 쌓은 노하우를 향후 글로벌용 텔코LLM 구축에도 활용할 계획이다.

앞서 SKT는 지난 2월 열린 모바일월드콩그레스(MWC 2024)에서 도이치텔레콤(북미·유럽), 소프트뱅크(일본), e&그룹(중동·아프리카), 싱텔(동남아) 등 각 지역을 대표하는 글로벌 통신사와 글로벌 텔코LLM 공동 개발 및 사업 협력을 위한 GTAA 합작 법인을 설립했다.

정 담당은 "통신 산업의 경우, 각 지역 통신사 간 표준, 업무, 엔터프라이즈 등에서 비슷한 부분이 많고, 언어는 LLM이 있기 때문에 (활용 사례의) 커버리지가 클 것이라고 생각한다"며 "GTAA 멤버사와 기술적 논의를 진행 중이며, 마지막 단계에선 각사 데이터 취합, 파인튜닝 등에 있어서 협의가 필요하다"고 말했다.

[e-mail] 김준혁 기자