딥페이크 사진·영상 가려낸다

[파이낸셜뉴스] 딥페이크로 만든 가짜 사진이나 영상을 판별해 낼 수 있는 고성능 소프트웨어(SW)를 국내 연구진이 개발했다. 연구진은 위변조 탐지기술을 논문 발표를 넘어서 국내 최초, 세계 두번째로 실용화 단계까지 끌어 올렸다.

한국과학기술원(KAIST)는 전산학부 이흥규 교수 연구팀이 인공신경망을 이용해 사진·영상의 변형 여부를 탐지하는 SW '카이캐치(KAICATCH)'를 개발했다고 3일 밝혔다.

카이캐치는 KAIST 창업기업인 디지탈이노텍과 산학협력 연구를 통해 만들었다.

이 SW의 기술 성능은 90% 내외의 정상·변형 탐지 정확도를 가지고 있으며 95% 내외의 공격 유형 분류 정확도를 보유하고 있다.

이흥규 교수는 "다양한 변형 시 공통으로 발생하는 픽셀 수준에서의 변형 탐지와 인공지능 기술을 융합한 영상 포렌식 기술을 카이캐치에 담았는데 이 기술은 특히 임의의 환경에서 주어진 디지털사진의 변형 여부를 판단하는데 탁월한 성능을 보인다"고 말했다.

연구진은 일반인들을 대상으로 2015년 6월부터 '디지털 이미지 위·변조 식별 웹서비스'를 통해 실 유통 이미지 데이터 30여만장을 수집했다. 이를 바탕으로 특징기반·신경망 기반의 포렌식 영상 데이터, 딥페이크와 스테고 분석을 위한 대량의 실험 영상자료를 정밀 분석했다.

그 다음 특정 변형을 탐지하는 개개의 알고리즘들을 모아놓은 기존 기술의 한계를 극복하기 위해 연구를 진행했다. 다양한 변형에 대한 탐지를 유기적으로 통합하는 기술에 주목한 것이다.

이를 위해 일상적이면서 자주 발생하는 변형들에서 언제나 발생하는 변이들을 분류하고 정리해 필수 변이로 정의하고 이들을 종합 탐지하는 연구를 진행했다. 필수 변이는 잘라 붙이기, 복사 붙이기, 지우기, 이미지 내 물체 크기 변화와 이동·리터칭 등이다.

그 결과 변형의 유형을 특정하지 못하는 상태에서도 변형이 발생했는지 여부를 판단함으로써 탐지 신뢰도를 크게 높였다.

연구진은 이어 BMP·TIF·TIFF·PNG 등 무압축, 무손실 압축을 포함해 50여개의 표준 양자화 테이블과 1000여개가 넘는 비표준화된 양자화 테이블에 기반한 JPEG 이미지들도 포괄적으로 처리하는 기술을 포함한 실용 소프트웨어를 개발하는 데 성공했다.

연구진이 개발한 '카이캐치'는 전통적 영상 포렌식 기술, 스테그 분석 기술 등 픽셀 단위의 미세한 변화를 탐지하는 기술들을 응용했다.

'이상 영역 추정 엔진'과 '이상 유형 분석 엔진' 두 개의 인공지능 엔진으로 구성됐다. 이를 기반으로 결과를 판단하고 사진에 대한 다양한 변형 탐지 기능과 사진의 변형 영역 추정 기능 등을 함께 제공한다.

이 교수는 "향후 각종 편집 도구들의 고급 기능들에 대한 광범위한 탐지 기능을 추가하는 한편 현재 확보한 딥페이크 탐지 엔진과 일반 비디오 변형 탐지 엔진들도 실용화 수준으로 발전시켜 카이캐치에 탑재하겠다"고 말했다.

[e-mail] 김만기 기자