"복잡한 사내 데이터 검색 한번에... 아이언맨 AI비서 '자비스' 목표"

"인프라를 운영할 때 인공지능(AI)을 접목해 효율성을 높이는 것이 주된 목표다. 가장 이상적인 모델로는 영화 아이언맨에 등장하는 AI 비서 '자비스' 같은 형태를 상상해볼 수 있다."

20일 서울 강남 코엑스에서 만난 김태효 넥슨 테크이노베이션실 공통서비스개발팀장은 "전통 방식으로 업무 효율을 높이기에는 한계가 있다"며 이 같이 강조했다.

넥슨은 내부 정보기술(IT) 시스템을 효과적으로 관리하고, 업무 효율성을 높이기 위해 지난해 태스크포스(TF)를 꾸려 AI옵스(AIOps) 프로젝트를 시작했다. AI옵스란 AI와 IT운영(IT Operations)의 합성어로, AI를 활용해 기업의 IT 인프라를 자동화하는 것을 의미한다.

기업이 보유한 IT 운영 데이터를 분석, 문제를 실시간으로 파악해 자동으로 대응할 수 있도록 시스템을 구축하는 것을 의미한다.

이번 프로젝트로 사내 인프라 정보를 정확하고 빠르게 안내하는 AI 챗봇이 구현됐다. 직원들이 내부적으로 데이터 검색 시 연관 정보를 한번에 쉽게 조회할 수 있도록 지원하는 것이다.

박종민 넥슨 공통서비스개발팀 엔지니어는 "처음에 서비스를 구현했을 때 필요한 연결고리를 다 찾아서 한 번에 대답하면서 작동 자체는 잘 했다"면서도 "단일 서비스에 적용할 경우 빠르게 답하지만, 종합 서비스에 적용 시 답변 속도가 느리다는 게 문제였다.

TF 막바지에는 30초까지 답변 반응 속도를 줄였다"고 말했다. 김 팀장은 "내부적으로 기대하는 건 2~3초 내로 답변이 나오는 것"이라고 부연했다.

AI 챗봇이 가진 본질적인 할루시네이션(환각) 문제에 대해 박 엔지니어는 "챗봇이 정확한 답변을 못 내놓는다는 건 내부 데이터를 몰라서 그런 것"이라며 "인터넷 상에 떠도는 루머를 이야기하는 등의 오류를 잡기 위해 노력했고, 데이터 기반이 아닌 답변은 하지 않도록 연습시켰다"고 말했다.

[e-mail] 임수빈 기자