AI로 얼굴 바꿔 화상 면접…잘못 뽑았다가 돈·기밀 털린다

AI 기술 발전에 사이버 위협도 진화…가짜 신분으로 취업 가짜 얼굴로 화상 면접 봤는데 실제 채용한 美 기업 사례도 딥페이크 잡아라…한국 기업들도 탐지 솔루션 속속 선보여

[그래픽=뉴시스] 재판매 및 DB금지. [e-mail]

[서울=뉴시스] 오동현 기자 = 기업들이 이제 새로운 형태의 사이버 위협에 직면하고 있다. 해커들이 시스템을 직접 공격하는 대신, 인공지능(AI) 기술을 악용해 가짜 신분으로 채용 과정에 침투하는 사례가 늘고 있기 때문이다.

이런 '내부자' 위협은 기존의 보안 시스템을 우회해 기업의 데이터와 자산을 심각한 위험에 노출할 수 있다는 우려가 나온다. 이에 국내외 기업들은 딥페이크 방지 대책을 강화하는 추세인 것으로 전해졌다.

◆가짜 얼굴과 목소리로 구직 활동

9일(현지 시간) 미국 CNBC 보도에 따르면, 최근 가짜 구직자가 급증하고 있다.

회사들이 원격 근무를 위해 화상 면접으로 고용하는 경우가 많다는 점을 악용한 범죄자들의 표적이 되고 있다는 것이다.

미국 음성 인증 스타트업인 '핀드롭 시큐리티'는 최근 고위 엔지니어링 직책에 지원한 '이반'이라는 사람을 화상 면접하던 중 이상한 점을 발견했다. 영상 인터뷰에서 그의 얼굴 표정이 말과 미묘하게 어긋났기 때문이다.

핀드롭의 CEO이자 공동 설립자인 비제이 발라수브라마니얀은 "우리가 '이반 X'라고 명명한 이 지원자는 딥페이크 소프트웨어와 생성형 AI 도구를 사용하는 사기꾼이었다"고 전했다. 이 지원자는 우크라이나 서부에 있다고 주장했지만, 실제 IP 주소는 북한 국경 근처의 러시아 군사 시설로 추적됐다는 것이다.

발라수브라마니얀은 "AI가 인간과 기계의 경계를 모호하게 만들었다"며 "우리가 목격하고 있는 것은 개인이 이러한 가짜 신분과 가짜 얼굴, 가짜 목소리를 사용해 일자리를 구하고, 심지어는 다른 사람과 얼굴을 바꿔치기 하는 경우도 있다"고 전했다.

사이버 보안 회사 노우비포(KnowBe4)도 지난해 10월 북한 소프트웨어 엔지니어를 실수로 고용한 사례를 공개했다. 해당 직원은 AI를 사용해 사진을 수정했고, 도난 당한 미국 신분증을 사용해 네 차례의 화상 인터뷰를 포함한 신원 조회를 통과했다. 회사는 그의 계정에서 의심스러운 활동을 발견한 후에야 사기를 확인할 수 있었던 것으로 전해졌다.

◆잘못 채용했다간 돈 뜯기고, 영업비밀 털릴 수도

이런 추세는 더욱 심화될 전망이다. 가트너(Gartner)의 연구에 따르면 2028년까지 전 세계적으로 구직자 4명 중 1명이 AI로 생성된 프로필을 사용할 것으로 예측됐다.

이런 사기꾼들이 회사에 침투하면 다양한 위험이 발생할 수 있다. 발라수브라마니얀에 따르면, 이들은 회사 시스템에 악성코드를 설치해 회사에 몸값을 요구할 수 있고, 고객 데이터나 영업 비밀을 훔칠 수 있다. 또한 회사 자금에 접근할 수 있다는 점을 경고했다.

기업들은 새로운 위협에 대처하기 위해 채용 과정에서 보안을 강화하고 있다. 캣 랩스는 가짜 지원자를 걸러내기 위해 아이덴파이(iDenfy), 주미오(Jumio), 소큐어(Socure)와 같은 신원 확인 회사에 의존하고 있다. 핀드롭도 자체 비디오 인증 프로그램을 개발해 딥페이크를 탐지하고 있다.

하지만 딥페이크 기술의 질이 계속 향상됨에 따라 이 문제를 해결하기는 더욱 어려워질 전망이다. 채용 관리자들은 일반적으로 이러한 위험을 인식하지 못하는 경우가 많기 때문이다.

화상 면접 소프트웨어 개발사 브라이트하이어의 CEO 벤 세서는 "사람들은 자신이 이런 사기를 경험하지 않고 있다고 생각하지만, 사실은 그것이 일어나고 있다는 것을 깨닫지 못하고 있을 가능성이 더 높다"고 지적했다.

◆"딥페이크 잡아라"…한국산 탐지 솔루션은

AI 악용 범죄에 대응하기 위한 AI 보안 대책도 함께 발전하고 있다. 국내 기업들도 불법 촬영물 및 딥페이크 영상 탐지 솔루션을 잇달아 선보이며 대응에 나섰다.

디지털 범죄 대응 전문기업 라바웨이브는 불법 촬영물 및 딥페이크 영상 탐지 능력을 강화한 '라바 스캐너'를 출시했다. 단순히 특정 인물의 얼굴을 인식하는 것을 넘어 배경, 촬영 각도, 포즈, 구도 등이 유사한 콘텐츠까지 탐지할 수 있다.

국내 생성형 AI 전문 기업 딥브레인AI는 딥페이크 자동 탐지 솔루션을 누구나 구독 형태로 간편하게 도입할 수 있는 서비스형 소프트웨어(SaaS)로 공개했다. 사용자가 찾고자 하는 인물의 특징이나 키워드 등 정보를 입력하면, 유튜브와 틱톡, 엑스, 텔레그램 등 다양한 플랫폼을 자동으로 탐지한다.

딥브레인AI의 딥페이크 탐지 솔루션은 ▲영상 탐지 ▲이미지 탐지 ▲음성 탐지를 바탕으로 페이스 제너레이션(Face Generation), 페이스 스왑(Face Swap), 립싱크 합성(Lip Sync) 등 다양한 유형의 조작된 합성 콘텐츠를 탐지한다.

☞공감언론 뉴시스 [e-mail] <저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>