위변조한 사진·영상, AI로 잡아낸다

딥페이크로 만든 가짜 사진이나 영상을 판별해 낼 수 있는 고성능 소프트웨어(SW)를 국내 연구진이 개발했다. 연구진은 위변조 탐지기술을 논문 발표를 넘어서 국내 최초, 세계 두번째로 실용화 단계까지 끌어 올렸다.

한국과학기술원(KAIST)는 전산학부 이흥규 교수 연구팀이 인공신경망을 이용해 사진·영상의 변형 여부를 탐지하는 SW '카이캐치(KAICATCH)'를 개발했다고 3일 밝혔다.

카이캐치는 KAIST 창업기업인 디지탈이노텍과 산학협력 연구를 통해 만들었다.

이 SW의 기술 성능은 90% 내외의 정상·변형 탐지 정확도를 가지고 있으며 95% 내외의 공격 유형 분류 정확도를 보유하고 있다.

이흥규 교수는 "다양한 변형 시 공통으로 발생하는 픽셀 수준에서의 변형 탐지와 인공지능 기술을 융합한 영상 포렌식 기술을 카이캐치에 담았는데 이 기술은 특히 임의의 환경에서 주어진 디지털사진의 변형 여부를 판단하는데 탁월한 성능을 보인다"고 말했다.

연구진이 개발한 '카이캐치'는 전통적 영상 포렌식 기술, 스테그 분석 기술 등 픽셀 단위의 미세한 변화를 탐지하는 기술들을 응용했다.

'이상 영역 추정 엔진'과 '이상 유형 분석 엔진' 두 개의 인공지능 엔진으로 구성됐다. 이를 기반으로 결과를 판단하고 사진에 대한 다양한 변형 탐지 기능과 사진의 변형 영역 추정 기능 등을 함께 제공한다.

이 교수는 "향후 각종 편집 도구들의 고급 기능들에 대한 광범위한 탐지 기능을 추가하는 한편 현재 확보한 딥페이크 탐지 엔진과 일반 비디오 변형 탐지 엔진들도 실용화 수준으로 발전시켜 카이캐치에 탑재하겠다"고 말했다.

[e-mail] 김만기 기자