AI 쓰니 성범죄 영상 3분내 검출...정확도 200%↑

AI 딥러닝 기술로 피해영상물 즉시 검출
3분이내 검출하고 정확도는 200%↑
서울디지털성범죄안심지원센터 1주년 기념

오세훈 서울시장이 지난 해 3월2 서울 동작구 서울시여성가족재단에서 열린 서울디지털성범죄안심지원센터 개관식에서 인사말 하고 있다. /사진=서울시

[파이낸셜뉴스] #. 평소 연예인이 꿈이었던 A씨(23세)는 소셜미디어(SNS) 다이렉트메시지(DM)로 드라마 출연 제의를 받았다. 테스트가 필요하다는 기획사 관계자의 말에 전신을 탈의한 상태로 촬영을 했고, 물리적 성폭력까지 발생했다. A씨는 보복의 두려움에 신고를 못하던 차에 지인들로부터 소셜미디어에서 본인으로 추정되는 사진을 봤다는 연락을 받고 서울시디지털성범죄안심지원센터의 문을 두드렸다. 센터는 불법성인사이트 5곳과 소셜미디어 12곳에 피해 촬영물이 올라온 정황을 포착, 신속하게 삭제를 요청했으며 지속적으로 모니터링 하고 있다. 최근에는 가해자가 특정돼 수사가 활발히 진행 중이다.

사건 직후 극심한 불안감으로 직장까지 그만둔 A씨는 센터의 긴급 의료지원과 심리상담을 병행하면서 심리적으로 안정감을 회복하는 중이며, 센터의 취업 지원으로 일상 회복을 준비하고 있다.

서울시는 디지털성범죄 예방 및 피해자 지원을 위해 운영 중인 서울디지털성범죄안심지원센터가 전국 최초로 인공지능(AI) 기술을 도입한다고 29일 밝혔다.

서울디지털성범죄안심지원센터는 제2, 제3의 n번방 피해를 막겠다는 목표로 영상물 삭제부터 법률지원, 심리·치유까지 디지털성범죄 피해자를 원스톱 통합지원한다.

AI 기술을 통해 온라인을 24시간 실시간 모니터링, 피해자와 관련된 각종 소셜미디어(SNS) 상 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는다. 기존에는 피해자의 얼굴이나 특이점을 육안으로 판독해 수작업으로 찾아내는 방식이라면, AI 딥러닝 기술이 오디오, 비디오, 텍스트 정보를 종합적으로 분석해서 한 번 클릭만으로 피해자와 관련된 모든 피해 영상물을 즉시 찾아낸다.

소셜미디어 특성상 전파·공유가 쉽고 유포 속도가 매우 빠른 만큼, 피해 영상물이 재확산되는 걸 막기 위해서는 영상이 올라오자마자 신속하게 삭제하는 것이 무엇보다 중요하기 때문에 AI 기술을 도입했다.

AI는 키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않아 기존 1~2시간이 소요됐던 것에 비해 검출속도가 획기적으로 빠르다. 정확도도 200% 이상 높다. AI의 학습 데이터가 축적될수록 정확도와 속도는 향상될 것으로 기대된다.

AI가 영상물을 찾아내기 때문에 24시간 모니터링이 가능하고, 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스도 줄일 수 있다.

서울시는 앞으로 아동·청소년 피해 예방에 주력할 계획이다. 최근 아동·청소년을 대상으로 한 디지털성범죄 피해건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고없이 온라인 상에서 유포되는 피해 영상물이 많은 데 따른 것이다.

한편 서울디지털성범죄안심지원센터는 긴급상담부터 수사·법률지원, 삭제지원, 심리치료·의료 지원에 이르는 원스톱 지원을 통해 지난 1년 간 402명의 피해자를 지원했다. 총 지원 건수는 7682건에 이른다. 피해자의 연령대는 10~20대(약 57%)가 가장 높은 비율을 차지했으며, 이중 10대 비율은 16.6%였다. 피해유형별로는 유포불안(23.1%), 불법촬영(20.1%), 유포·재유포(14.5%) 순이었다.

피해 영상물은 총 3003건 삭제했으며, 이중 절반이 넘는 1608건(54%)이 아동·청소년 성착취물이었다. 경찰과의 협력을 통해 924건의 수사를 지원했으며, 이 과정에서 가해자를 검거·특정하는 성과도 거뒀다. 574건의 법률·소송, 507건의 심리치료도 지원했다.

오세훈 시장은 이날 동작구 소재 서울디지털성범죄안심지원센터에서 있었던 개관 1주년 기념식에 참석했다. 이 자리에는 범죄심리학자 이수정 교수와 경찰, 디지털성범죄 관련 전문가, 디지털성범죄 안심 서포터즈 등 200여명이 참석했다.

오세훈 시장은 기념식 직후 간담회를 통해 최근 증가하고 있는 아동·청소년 디지털 성범죄 피해 실태 및 향후 센터의 방향성 등에 현장의 목소리를 듣고, 피해 예방과 피해자 지원을 위한 개선방안을 모색했다.

[e-mail] 이설영 기자