"딥페이크 성범죄 강력 처벌 필요… AI규제는 실효성 없어"

IT·정보보안 전문가들은 인공지능(AI) 기반 이미지 합성(딥페이크) 범죄의 확산과 관련해 아동·청소년 성범죄 등에 악용되는 점은 강력히 규제해야 한다는 입장이다. 또 'N번방 사건' 이후로도 플랫폼 내 비슷한 양상의 범죄가 계속 발생하고 있어 장기적인 관점으로 재발 방지 플랜을 짜야 한다는 지적이다.

김명주 서울여대 정보보호학과 교수는 29일 "당장 공권력이 해당 이슈에 대해 많은 관심을 가지고 있고 강력하게 처벌할 것이란 메시지를 주는 것이 필요하다"고 강조했다.

그러면서 "디지털 성범죄에 있어선 양형 기준을 높여야 할 때"라고 주장했다.

딥페이크는 특정 인물의 얼굴 사진 등을 이용해 새로운 사진이나 영상을 제작하는 기술을 뜻하며, 생성형 AI 기술이 발달하면서 보다 정교해지고 있다.

딥페이크 사진·영상 제작에 대한 접근성도 높은 편이다. 결국 이를 금융 사기나 부정 선거, 특히 음란물 합성 등에 악용하는 사례가 빈번하게 발생하며 경각심이 높아지고 있다.

김명주 교수에 따르면 현재 주요 애플리케이션(앱) 마켓에 올라온 유명한 딥페이크 앱으로는 음란물을 만들 수는 없다. 최근 이슈된 딥페이크 음란물들은 오픈소스 저장소인 깃허브에서 소스코드를 다운 받아 음란물 생성 AI 봇을 만들기 위해 개인이 튜닝(조정)한 것이다.

김 교수는 "일각에서는 딥페이크 관련 AI 도구를 제어해야 하는 것이 아니냐는 말도 나오는데, 개인이 AI 모델을 돌리는 것까지는 법의 영역이 아니어서 사실상 실효성이 없다"고 일축했다.

현재 아동·청소년을 대상으로 한 딥페이크 음란 합성물에 대한 피해가 큰 문제로 부상했다. 실제 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터(디성센터)로부터 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)는 10대 이하였다.

대통령실 사이버특별보좌관인 임종인 고려대 정보보호대학원 명예교수는 "페이스 스왑(얼굴바꾸기) 등 기술을 재미로 써보는 경우도 많고, 딥페이크를 이용한 성범죄는 우리나라가 (전 세계에서) 1등 수준"이라고 분석했다.

임 교수는 "딥페이크 기술을 악용해 아동·청소년 음란물을 제작, 유포하는 경우로 문제 의식을 좁혀서 확실히 처벌할 수 있는 법을 만들고, 텔레그램 등 유통 플랫폼이 빠르게 반응할 수 있도록 하는 게 시급하다"며 "현재 대통령도 딥페이크 등 디지털 범죄 척결에 의지가 크다"고 했다.

국제적인 공조가 필요하다는 목소리도 나왔다. 딥페이크 음란물 유통 관련 플랫폼에 대해 규제 입법을 한다 해도 해외 플랫폼에는 영향을 미치지 못할 것이란 해석이다. 김명주 교수는 "딥페이크 문제는 한 국가에서 움직일게 아니라 연합해서 움직여야 하는 사안"이라고 진단했다.

한편 기술이 발달하면서 비슷한 성범죄 피해 사례는 계속 나올 것으로 예상된다. 지난 2020년 N번방 사건이 사회문제로 대두되며 디지털 성범죄를 예방하고 피해자를 보호하기 위한 'N번방 방지법'이 시행됐지만, 수사·처벌이 제대로 이뤄지지 않는 등 한계도 제기된다.

김승주 고려대 정보보호대학원 교수는 "N번방 사건 때도 처벌 수위 높이기나 텔레그램에 협조 요청, 각국과 공조 등 여러 해결책이 나왔지만 또 성범죄 사건이 발생했다"며 "이번 딥페이크 사건을 담당하는 컨트롤타워에 힘을 싣고, 여러 부처의 공조를 이끌어 장기적인 관점에서 문제를 해결하려고 해야 한다"고 말했다.

[e-mail] 임수빈 기자