카카오뱅크 AI 어디까지 왔나
if 카카오 현장..신재홍 CTO
"실제 사례 사고 3일 뒤 환급"
"가드레일 둬 학습정보 가려"
if 카카오 현장..신재홍 CTO
"실제 사례 사고 3일 뒤 환급"
"가드레일 둬 학습정보 가려"
[파이낸셜뉴스] #. 금요일 아침 7시에 17세 소년이 아이스크림할인점에서 7000원어치 결제를 했다. 카카오뱅크의 AI 기술이 적용된 이상거래탐지시스템(FDS)은 '학교에 갈 시간이라는 점' '보통의 결제액보다 단위가 크다는 점'을 고려해 이상거래임을 알아챘다. 탐지 직후 현업 담당자 대시보드에 관련 알람이 뜨도록 했다.(신재홍 카카오뱅크 최고기술책임자)
24일 경기도 용인 카카오 AI캠퍼스에서 열린 '이프카카오(ifkakao) 2024' 개발자 컨퍼런스에서 신재홍 카카오뱅크 최고기술책임자(CTO)는 "카카오뱅크가 개발한 AI가 FDS에 적용된 실제 사례"라며 이같이 말했다.
하루하루 AI를 적용한 신기술이 쏟아지는 가운데 은행업계는 대고객 서비스는 물론 내부 업무에 있어 효율 증대에 AI 기술을 적용하기 위해 노력하고 있다. 특히 금융권의 보안문제로 인해 묶여있던 '망분리' 규제에 대한 당국의 완화 움직임에 은행들은 클라우드 기반 AI 서비스를 들여오는 것을 적극 검토하고 있다.
신재홍 CTO는 "망분리 규제로 은행 업무에 있어 LLM을 사용하는 것은 현실적으로 어렵지만, 지난 8월 금융당국이 '망분리 개선 로드맵'을 발표했다'면서 "샌드박스를 이용한 혁신서비스로 지정받게 되면 LLM을 이용할 수 있는데, 카카오뱅크도 관련해 신청을 했고 현재 혁신서비스 지정을 기다리고 있다"고 말했다.
앞서 하루 전인 지난 23일 서신혁 카카오뱅크 데브옵스(Devops) 엔지니어링팀장은 금융권의 클라우드 규제 확립의 필요성을 강조했다. '금융 규제와 개발자의 행복, 두 마리 토끼를 잡는 데브옵스 파이프라인' 키노트에서 서신혁 팀장은 카카오뱅크가 망분리 규제 환경에서 기술 개발을 이뤄온 과정을 설명했다.
서신혁 팀장은 "각종 규제가 다양한 금융 환경에서 개발자 친화적인 개발 환경을 만들려고 하다 보니까 규제와 '소중한 추억'들이 많이 쌓였다"면서 "금융권의 클라우드 규제가 확립되지 않은 때여서 단순히 규제를 따르는 것 이상으로 고민하고 노력해야 했다"고 말했다. 그는 규제를 지키는 것도 중요하지만, 개발자가 행복해야 생산성이 향상된다고 생각하기 때문에 개발자의 행복도 놓칠 수가 없었다고 밝혔다.
키노트에서 서 팀장은 "지난 3년 동안 데브옵스 파이프라인을 구축하면서 느꼈던 것 중 하나는 규제가 추구하는 가치가 무엇인지를 이해하는 게 중요하다는 것"이라며 "규제를 규제로만 받아들이는 것보다는 그 가치에 부합하는 기술을 찾기가 좀 용이했다"고 말했다.
카카오뱅크는 은행업계 AI 기술 혁신을 이끌어 왔다. 신분증 진위 판별부터, 영상통화 안면 인식, OTP 셀피 인증 등 다양한 본인 인증 방식에 AI를 활용했다. 대출 심사에는 '카뱅 스코어'를 도입해 중저신용자에 대한 신용평가를 개선했다. 이상 거래 탐지 시스템과 챗봇을 통한 고객센터 상담 효율성도 높였다.
카카오뱅크는 AI 인프라, AI 디비전, AI 프로덕트 등 AI의 주요 세 가지 요소를 유기적으로 연결해 성과를 창출하기 위해 AI 에코 시스템을 구성했다. 구체적으로 살펴보면 AI 인프라는 카카오뱅크가 설립 초기부터 확보한 다수의 GPU 장비를 관리한다. 카카오뱅크는 최근 GH100같은 초고전력 GPU 장비도 도입했다.
카카오뱅크는 AI 인프라 자원을 관리하기 위해 AI 전용 데이터센터도 마련했다. 또 데이터 추출부터 모델의 지속적인 훈련까지 AI 모델의 전체 생애 주기를 자동화해 관리하고 있다. 카카오뱅크는 올해 금융사 최초로 AI 경영 시스템 국제표준도 취득했다. AI 관련 거버넌스에 일각의 우려를 의식한 것으로 보인다. 신 CTO는 "AI 거버넌스의 투명하고 안정적인 체계를 마련했다"면서 "입력값 즉, 학습데이터에 유해성을 보이는 자료도 걸러내고, 출력에서도 문제가 없도록 일종의 가드레일도 씌웠다"고 설명했다.
mj@fnnews.com 박문수 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지