사진·문서도 척척 분석… SKT 'AI고객센터' 활짝

SK텔레콤은 자체 개발한 텔코(Telco) 거대언어모델(LLM)과 거대멀티모달모델(LMM)을 활용한 고객센터 인공지능(AI) 상담 업무 지원 시스템을 지난 10월 국내 메이저 고객센터 중 최초로 열어 한 달여간 베타 서비스를 성공적으로 운영했다고 18일 밝혔다. 텔코 LLM은 일반 LLM과 달리 다양한 통신 관련 용어를 학습해 통신업에 특화된 모델이다.

SK텔레콤은 지난 1년여 간 지식정보시스템을 AI 활용에 최적화하고 다양한 통신 관련 데이터를 활용해 모델을 튜닝했다.

또 고객센터 상담 전문가 수십명이 참여해 텔코 LLM 성능 향상을 위한 다양한 학습 데이터를 구축했다. 연중 테스트와 피드백을 통한 강화 학습을 반복해 통신 서비스 전용 LLM, LMM 모델도 만들어 왔다.

LLM에게 제공하고 답변 품질을 증강시키는 검색증강생성(RAG)도 개발·적용 함으로써 LLM의 답변 신뢰도를 대폭 개선했다. 아울러 텍스트를 넘어 다양한 이미지를 이해할 수 있는 LMM도 활용해 통신 관련 다양한 서류 등 이미지를 학습시켜 통신업에 특화된 전용 LMM을 개발했다.

SK텔레콤은 지난달 21일부터 베타 서비스를 통해 실제 상담사들이 상담 현장에서 직접 사용해보며 안정화 시키고 있으며 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다. 아울러 AI 서류 자동 처리 시스템도 구축한다. 고객센터는 고객들이 문자, 이메일, 팩스 등 다양한 채널로 송부한 사진, 스캔 문서 등 다양한 형태의 수십종의 구비 서류들을 처리하고 있다. 이러한 다양한 형태의 각종 서류를 AI가 자동으로 분류하고 처리해 줌으로써, 증빙서류 확인에 소요되는 시간을 크게 단축시킬 수 있을 것으로 전망된다.

SK텔레콤은 지난달 23일부터 서류를 자동으로 분류하는 시스템을 도입했고, 향후에는 서류 내용까지 자동으로 판독해 처리할 수 있을 것으로 설명했다. 다음달에는 고객 상담 결과를 자동으로 분류·요약 정리하는 상담 후속 업무 자동화 시스템도 오픈할 예정이다.

기존에는 상담 결과 정리에 평균 30초가 걸렸지만 AI가 자동 정리해주면 상담 종료 이후 보다 빠르게 대기중인 고객을 응대할 수 있다.

장민권 기자