크라우드웍스, 각국 AI·딥페이크 규제 소식에...정부 수주 이력 부각↑

[파이낸셜뉴스] 각 국에서 딥페이크를 규제한다는 소식에 대표 수혜주로 거론되는 크라우드웍스의 주가도 강세다.

6일 오전 9시 30분 현재 크라우드웍스는 전일 대비 1350원(+3.86%) 상승한 3만 6350원에 거래되고 있다.

최근 미국 유명 가수 테일러 스위프트의 얼굴을 합성해 만든 음란 이미지가 SNS에 확산하면서 딥페이크 규제가 필요하다는 우려가 나온다.

일반인들 역시 딥페이크 피해에서 자유롭지 못하다.

4일(현지시간) CNN 등 외신에 따르면 지난 2일 홍콩경찰은 브리핑을 열고 딥페이크 기술을 악용해 사기를 벌이던 일당 6명을 검거했다고 발표했다.

홍콩 경찰에 따르면 이들은 영국에 본사를 둔 홍콩의 한 다국적기업의 재무담당자에게 영상통화를 걸어 2억홍콩달러(약 340억원)를 송금하게 한 후, 돈을 가로챈 혐의를 받고 있다.

해당 기업의 재무담당자가 이들의 사기에 속은 이유는 영상통화에서 그에게 송금을 지시한 사람의 얼굴과 목소리가 실제 해당회사 최고재무관리자(CFO)와 똑같았기 때문이다. 이 담당자가 본 영상과 음성은 모두 AI를 이용해 합성·복제된 가짜였던 것으로 경찰조사에서 드러났다.

이처럼 AI를 악용해 정교한 딥페이크 기술이 만들어지고, 범죄가 성행하면서 홍콩 뿐만 아니라 전세계 경찰 당국에서 촉각을 곤두세우고 있다. 유사범죄가 국경을 넘어 곳곳에서 발생하고 있기 때문이다.

실제 미국 백악관도 우려를 표명한 가운데 우리나라에서도 지난 1월 29일부터 딥페이크 선거운동이 금지되면서 관련 테마에 관심이 몰린 것으로 보인다. 지난해 개정된 공직선거법에 따라 딥페이크 영상 등을 제작·유포할 수 없고 적발 시 7년 이하 징역 또는 1000만 원 이상 5000만 원 이하의 벌금이 부과된다. 선관위는 AI감별반과 모니터링 전담 요원을 편성해 감시에 들어간다.

여기에 유럽연합(EU) 27개국이 세계 최초의 인공지능(AI) 규제법인 ‘AI법’을 2일(현지시간) 만장일치로 승인했다. AI법은 이르면 내달 유럽의회 최종 투표를 거쳐 이르면 여름 이전에 발효될 예정이다.

이같은 소식에 최근 딥페이크 영상 방지와 관련한 국책 사업을 수행한 이력이 있는 크라우드 웍스에 기대 매수세가 몰렸다는 관측이 나온다.

크라우드소싱 기반 인공지능(AI) 데이터 수집·가공 플랫폼 기업 크라우드웍스는 지난 2020년 과기부가 추진하는 ‘딥페이크 방지영상’과 ‘랜드마크 이미지’의 AI 학습용 데이터 구축 사업을 수주한 바 있다.

해당 사업을 통해 크라우드웍스는 사람의 얼굴을 악의적으로 변조한 ‘딥페이크 방지영상 AI 데이터’를 대량으로 생성했다. 한국인 특성을 반영하는 얼굴 합성과 탐지용 합성 데이터를 확보하기 위한 작업이었다. 변형 알고리즘을 통해 생성된 딥페이크 영상을 탐지 및 검출해내는 AI용 학습용 데이터 확보 차원이었다.

크라우드웍스의 주력 사업은 딥페이크 규제 움직임과 동시에 최근 과기부의 AI 보안 기업 육성 기조와도 맞닿아 있다. 과기부는 2025년까지 약 60개사의 AI 보안 기업을 육성하기로 했으며 크라우드웍스는 이와 관련 AI 보안 시제품 개발 지원 사업을 진행 중인 것으로 알려졌다.

당시 사업은 과기부가 AI통합지원 플랫폼인 AI허브를 통해 AI 개발에 필요한 데이터를 누구나 활용할 수 있는 양질의 데이터를 대규모로 구축 · 개방하기 위함이다.

[e-mail] 김경아 기자