"딥페이크 성범죄, 가해·피해자 10대 다수.. 리터러시 함양 교육 강화해야"

"딥페이크 성범죄 영상물에 대해서는 사업자의 자율 규제과 이용자들의 자정 노력도 필요하지만, 특히 가해자, 피해자 다수가 10대라는 점에서 학교 차원에서 디지털 윤리 교육 등 리터러시(이해력) 함양 교육이 대폭 강화돼야 한다"

■ "딥페이크, 가능한 모든 방법 동원해 막아야"
이성엽 고려대 기술경영전문대학원 교수는 25일 오전 국회의원회관 제2소회의실에서 국회 지속 가능 성장을 위한 구조개혁 실천 포럼·한국언론인협회 주최, 한국지속경영평가원·WACON 운영본부 주관으로 열린 ‘사이버 보안성 강화 토론회’에 참석해 이 같이 말했다. 토론회 주제는 최근 사회적 물의를 빚고 있는 딥페이크 문제였다.

이 교수는 ‘생성형 AI 시대 딥페이크의 양상과 대책’을 주제로 한 발제에서 “최근 4년간 허위 영상물을 만들어 배포해 입건된 10대는 전체 피의자 중 70.5%이며, 3년간 수사가 진행된 딥페이크 성범죄 사건의 피해자 10명 중 6명은 미성년자였다”면서 “미국 사이버보안 업체 ‘시큐리티 히어로’가 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 전세계로 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국 연예인일 정도”라고 지적했다.

이 교수는 딥페이크의 기술적 대안으로 딥페이크 탐지 기술, 워터마크 기술 등을 제시하면서 최근 딥페이크에 대한 형사처벌을 강화한 성폭력처벌 특례법, 청소년성보호법, 성폭력방지법 개정안도 함께 소개했다.

그는 “딥페이크 문제는 정부, 기업, 이용자 모두에게 주어진 시급한 과제로, 가능한 모든 방법을 동원해 막을 수 있는 대책을 강구해야 된다”며 “온라인상 불법에 대한 광범위한 규제가 표현의 자유를 침해하거나 플랫폼 혁신을 저해한다는 문제가 있을 수 있지만, 신뢰 가능한 디지털 환경이 조성되지 않는다면 혁신도 지속 가능하지 않다”고 강조했다.

■ "기술 개발로 인한 피해 발생.. 기술 변화 예상해야"
이날 행사에는 국회 지속 가능 성장을 위한 구조개혁 실천 포럼 공동대표인 고동진, 안철수 국민의힘 의원과 이달희, 서명옥 국민의힘 의원, 성대석 한국언론인협회 회장 등이 참석해 눈길을 끌었다.

고 의원은 개회사에서 “오늘날 인공지능, 딥러닝 등의 기술 개발 뒤에는 이를 딥페이크로 안 좋게 이용하는 사람들로 인해 많은 피해가 나타나고 있는 상황”이라며 “앞으로도 딥페이크에 많은 관심을 갖고 입법 활동에 제가 어떤 기여를 할 수 있는지 노력하겠다”고 밝혔다.

안 의원은 환영사에서 “딥페이크는 내가 제일 먼저 문제를 제기했던 것으로, 지난 9월 초부터 이달 초까지 관련법 정리를 끝냈고 벌써 반쯤 통과됐다”며 “오늘은 우리가 미리 기술의 변화를 예상하고 선제적으로 규제를 없애고 선의에 해당되는 기술 발전을 가속화시키는 논의들이 나오길 희망한다”고 말했다.

이어 ‘제3회 WACON 2024 소비자 보호 사이버보안 우수기업 시상식’이 열렸다.

이후 진행된 토론회에서 이기혁 중앙대 융합보안학과 교수가 좌장을 맡은 가운데 이성엽 고려대 교수의 발제 후 김재범 한국정보통신기술협회 팀장, 장형수 법무법인 동인 변호사, 박현우 라온시큐어 상무, 이정수 딥브레인AI 이사가 패널로서 딥페이크 성범죄 현황과 대응 방법 등에 대해 발언했다.

[e-mail] 구자윤 기자