가짜 사진·동영상 밝혀내는 앱 나왔다

KAIST 이흥규 교수팀, 디지탈이노텍과 협업
모바일앱 '카이캐치' 딥페이크 탐지율 최대 98%

KAIST 이흥규 교수팀이 개발한 모바일앱 '카이캐치'로 딥페이크 영상을 찾아낼 수 있다. 1번 위 사진은 원본이고 아래는 딥페이크 영상이다. 3번 영상은 딥페이크 탐지를 위한 얼굴부위를 추출하는 과정이며 4번 영상은 눈, 코, 입, 얼굴 윤곽 등의 기하학적 오차 흔적을 분석한 것이다. KAIST 제공

[파이낸셜뉴스] 국내 연구진이 국내 최초로 인공신경망을 기반으로 위변조 사진이나 동영상을 찾아내는 딥페이크 탐지 모바일 앱을 만들었다. 연구진에 따르면 실험 영상을 이용해 기술성능 검사 결과 최대 98%의 탐지율을 보였다.

연구진은 디지털콘텐츠 위변조 탐지가 필요한 공공기관, 산업계, 언론 및 방송사, 각종 포털 종사자들 및 일반인들도 손쉽게 활용할 수 있을 것이라고 전망했다.

한국과학기술원(KAIST)은 전산학부 이흥규 교수팀이 인공신경망 기반 딥페이크 탐지와 사진 위변조 탐지 소프트웨어인 '카이캐치(KaiCatch)'를 모바일 앱으로 개발해 서비스를 시작한다고 30일 밝혔다. 이 앱 서비스는 일반인들도 손쉽게 디지털콘텐츠 위변조 탐지 기술을 활용할 수 있도록 만들었다는 점에서 의미가 있다.

이흥규 교수는 "우리가 예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외의 높은 신뢰도로 탐지한다"고 말했다.

딥페이크 기술은 악의적인 가짜 뉴스로 사회 혼란을 일으킬 수 있고 음란물 제작 등에도 악용돼 개인 인권을 침해할 수 있다. 또한, 영상 증거를 조작하는데 악용될 수 있다.

연구진은 딥페이크 여부를 알아내기 위해 신호처리 및 인공지능 기술로 개발했다. 영상의 미세 변형 신호 흔적과 미세 이상 신호 흔적 탐지 기술을 적용한 것이다. 이 기술로 얼굴의 미세한 변형과 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡 발생 가능 영역의 이상 신호 흔적을 분석해 알아낸다.

딥페이크 탐지 기술은 avi나 mp4 형식의 동영상을 개별 프레임으로 자른 뒤 분석하고자 하는 프레임을 이미지로 변환해 분석한다. 분석 결과는 0에서 100(%) 값으로 표시되며 숫자가 높을수록 딥페이크일 확률이 높은 것으로 판단한다.

사진 위변조 탐지 기술도 마찬가지로 앱에 이미지를 업로드하면 분석 결과를 받아 볼 수 있다. 사진 위변조가 의심되는 이미지를 업로드하면 해당 이미지를 분석한 결과를 시각화한 두 장의 분석 이미지를 만들어낸다. 위변조가 의심되는 영역이 다른 영역과 색상이 다르거나 주요 영역에만 다양한 색상들이 혼재해 나타나면 해당 영역이 위변조된 것으로 판단할 수 있다.

이 교수는 이어 "이번에는 안드로이드용만 출시됐지만 조만간 애플 iOS 기반의 앱 출시와 함께, 영어, 중국어, 일어 앱 들도 출시하려고 한다"고 말했다.

그는 또한 "기존 탐지 기법과는 매우 상이한 기법들을 사용한 위변조 탐지 기술도 실용화해 카이캐치에 추가 탑재 운용함으로써, 탐지가 안 되는 각종 예외 경우들을 대폭 줄이도록 노력하겠다"고 덧붙였다.

한편 카이캐치는 구글스토어에서 무료로 앱을 다운로드 받을 수 있으며, 탐지 서비스는 사진 한장당 2000원이다.

이번 연구는 KAIST 창업기업인 ㈜디지탈이노텍과 산학협력 연구로 이뤄졌다.

카이캐치 앱 첫 화면

[e-mail] 김만기 기자