"내 얼굴이 야동에?!"...‘딥페이크’ 피해, 일반인으로 확대된다

#. 지난 2월 전북경찰청은 온라인에서 알게 된 일반인 여성의 얼굴을 음란물에 합성해 6개월간 57차례나 해외 성인 사이트에 올린 20대 남성을 구속했다. 최근 트위터, 텀블러 등 소셜미디어에는 ‘지인능욕’ ‘지인합성’ 등의 검색어가 판을 치고 있다. 업자들에게 지인(知人)의 사진 2~3장만 보내주면, 포르노 등 성적 수치심을 일으키는 사진·영상 등과 합성해준다고 한다. 마음에 안 드는 지인을 망신 주거나, 관심 있는 사람을 몰래 성적 대상으로 삼고자 하는 이들을 노린 것이다.

위 사진은 본 기사와 직접적인 관련이 없습니다. 온라인 커뮤니티 캡처

[파이낸셜뉴스] 재미도 선을 넘어서면 범죄가 될 수 있다.

인공지능(AI) 기술을 바탕으로 기존 동영상에 다른 이의 얼굴을 교묘하게 합성하는 ‘딥페이크’ 영상이 유행하면서 사회적 문제로 번질 조짐이 나타나고 있다.

일반인들도 손쉽게 이용할 수 있는 '딥페이크 앱'까지 활성화되면서 유명인을 넘어 일반인도 범죄 대상이 되고 있다.

29일 업계에 따르면 딥페이크 앱인 리페이스(reface)는 이미 다운로드가 1억회 이상, 관련 게시물도 65만개가 넘어섰다. 지난 달 월간활성이용자수(MAU)도 올해 들어 최고치(10만 4568명)을 기록하고 인스타그램에는 ‘리페이스’ 딥페이크 게시물이 68만여개 공유되기도 했다. 지난 달 출시한 ‘페이스플레이(faceplay)’란 앱은 출시 한 달 만에 100만 다운로드를 넘어섰다.

해당 앱들은 본인의 얼굴 사진 1장만으로 각종 유명 연예인 얼굴과 합성해준다. 합성 대상은 국내 유명 배우나 가수부터 해외 연예인과 스포츠스타까지 다양하다. 걸그룹 블랙핑크 제니, 영화배우 마동석, 예능인 유재석 등 국내 연예인부터 토르, 헐크, 원더우먼 등 해외 배우와 가수, 캐릭터를 아우른다.

이처럼 앱으로 10초 남짓한 시간이면 합성물을 만들 만큼 접근성도 높다.

텔레그램 상 여성 아이돌 딥페이크 사진 리스트. 뉴스1 제공

그러나 딥페이크가 일종의 ‘SNS 재밋거리’로 소비되고 있지만 여전히 ‘딥페이크 성적 허위영상’(불법합성물)도 급증하고 있다.

실제 방송통신심의위원회에 따르면 지난해 6월부터 이달까지 차단 또는 삭제를 지시한 ‘딥페이크 성적 허위영상’(불법합성물) 수는 1956건에 이른다. 지난해 6~12월에는 548건이었지만 올 1~9월 사이에는 1408건으로 늘어났다. 지난해와 올해를 비교하면 256% 증가했다.

정부 산하 기구인 디지털성범죄피해자지원센터가 지난해 24곳의 성인 사이트·소셜미디어에 올라온 1만1891건의 불법 합성물을 추적한 결과, 학생·직장인 등 일반인을 대상으로 한 것이 전체의 20%를 차지했다.

지난 1월에 청와대 국민청원 게시판에 ‘여성 연예인들을 고통받게 하는 불법 영상 딥페이크를 강력히 처벌해주세요’란 청원이 올라와 39만여 명의 동의를 얻은 것도 이 때문이다. 최근엔 유명인을 넘어 일반인도 범죄 대상이 되고 있다.

업계 관계자는 “과거엔 가수·배우 등 유명인 대상 불법 합성물을 유포하는 식이었다면 최근엔 일반인이 주변 지인을 대상으로 범죄를 저지르는 경우가 늘고 있다”며 “딥페이크에 대한 접근성이 높아진 만큼 범죄 악용에 대한 경각심도 필요하다”고 했다.

장난으로라도 타인이 성적 수치심을 느낄 수 있는 합성 사진·영상을 만들어 뿌릴 경우 법적 처벌을 받을 수 있다.

지난해 6월 ‘성폭력범죄의 처벌 등에 관한 특례법’ 일부개정안이 시행되면서 딥페이크 범죄 처벌도 강화됐다.

딥페이크 불법합성물을 제작·반포·상영한 자는 ‘5년 이하의 징역 또는 5000만원 이하의 벌금’에 처한다. 영리를 목적으로 정보통신망을 이용해 반포한 경우에는 ‘7년 이하의 징역’으로 가중 처벌된다.

한 법조인은 “흔히 딥페이크 앱에서 제공하는 노출이 있는 의상의 인물에 동의 없이 타인 얼굴을 합성해 성적 수치심을 유발하면 디지털 성범죄가 된다”며 “명예를 실추할 수 있는 행위가 이뤄지는 합성물의 경우, 명예훼손죄에도 해당할 수 있다”고 했다.

[e-mail] 한영준 기자