딥페이크 근절 위해 '국민 메신저' 카카오가 채택한 비가시성 워터마크 업체는?

[파이낸셜뉴스] 텔레그램 딥페이크 사태가 일어나며 전국적으로 딥페이크에 대한 경각심이 일어나고 있다.

윤석열 대통령은 지난 27일 서울 용산 대통령실 청사에서 열린 제37차 국무회의에 참석해 딥페이크 성범죄에 대한 철저한 수사와 엄벌을 주문했다. 윤 대통령은 “최근 불특정 다수를 대상으로 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “명백한 범죄행위로 관계당국은 디지털 성범죄를 뿌리 뽑아야 한다”고 말했다.

동시에 전문가들은 이제라도 AI 기술이 각종 범죄에 악용되는 것을 막는 법안을 마련하해야 한다고 입을 모은다. AI 생성물임을 알리는 워터마크를 의무적으로 도입하는 등 사람들이 가상 정보라는 사실을 인지해 스스로 판단할 수 있도록 돕는 제도적 장치를 마련해야 한다는 것이다.

그렇다면 전국민이 사용하는 카카오톡의 카카오는 딥페이크에 대한 장치를 어떻게 마련했을까?
28일 업계에 따르면 카카오는 카카오브레인의 인공지능(AI) 이미지 생성 모델 '칼로'에 대해 지난 3월 비가시성 워터마크 기술을 도입했다.

카카오에 따르면 회사는 딥페이크 허위 조작 정보 근절 방안의 하나로 이 같은 방안을 시행했다. 이는 최근 텔레그램 불법 동영상 사태가 일어나기 전인 작년 12월 공직선거법 개정으로 4·10 국회의원 총선거 운동 기간인 현재 유권자를 상대로 한 AI 기반 딥페이크 제작·편집·유포·상영·게시가 금지된 데 따른 조처였다.

카카오는 인물을 기반으로 한 AI 생성물에 대한 공유가 더 활발히 이뤄지는 만큼, 카카오톡 채널 '칼로 AI 프로필' 기능에 비가시성 워터마크를 먼저 도입했다고 소개했다. 또한, 이미지 생성 웹 기반 전문가 도구인 '칼로.ai'에도 비가시성 워터마크가 도입될 예정이라고 덧붙였다.

카카오에 비가시성 워터마크 기술을 공급한 회사는 스냅태그다. 스냅태그는 비가시성 워터마크 기술 기반의 IT 기업이다. 칼로로 이미지를 생성할 경우 스냅태그의 비가시성 워터마크가 이미지 전체에 자동으로 적용된다. 이를 스냅태그 AI 홈페이지에 업로드하면, 비가시성 워터마크를 자동으로 감지해 해당 이미지의 출처와 삽입된 비가시성 워터마크의 유니크 코드를 확인할 수 있다.

유니크 코드는 비가시성 워터마크의 고유 번호이며, 해당 코드를 통해 워터마크 적용 여부부터 AI의 출처, 세부 정보까지 확인할 수 있다. 이는 워터마크 적용 여부 판별에 추가해 원본 데이터 없이 워터마크 적용 여부와 함께 내재된 정보까지 확인할 수 있는 강점이 있다.

지난 4월 스냅태그 민경웅 대표는 “비가시성 워터마크가 AI 이미지의 가짜뉴스, 딥페이크 등과 같은 문제를 해결할 수 있다”며 “생성형 AI 업계 전반에 걸쳐 이러한 워터마크 기술의 도입을 적극적으로 권장하고 있다”고 밝혔다. 이어 “카카오브레인 칼로를 비롯해 다양한 생성형 AI 업체에 비가시성 워터마크가 도입돼 안전한 AI 환경을 만들어나가기를 희망한다”며 “이를 위해 스냅태그도 비가시성 워터마크의 기술력을 높이기 위해 노력하겠다”고 전했다.

추가로 스냅태그는 최근 디지털 휴먼 AI기업인 클레온과 딥페이크 등 AI 콘텐츠의 부정 사용을 방지하는 디지털 휴먼 부정사용 방지 솔루션을 개발했다. 이 솔루션은 실시간으로 이용자의 PC 또는 앱 내에서 생성되는 디지털 휴먼에, 눈에 보이지 않는 워터마크가 서버 없이 이용자 기기에서 콘텐츠의 진위 여부를 판별할 수 있다.

클레온과 함께 출시한 솔루션과 관련해 민경웅 스냅태그 대표는 "이번 협업을 통해 정부가 추진하고 있는 '생성 AI 8대 핵심 과제' 중 AI기술의 안정성 및 신뢰·윤리 확보, 딥페이크를 활용한 가짜 뉴스 대응에 대한 모범 선례가 될 수 있을 것"이라고 언급했다.

한편 스냅태그는 2022년 시리즈A 투자유치에 이어 지난 7월 시리즈B 투자까지 마친 신생 업체다. 시리즈A는 브이아이피자산운용, 타그리스인베스트먼트, 센트럴투자파트너스로부터 투자를 유치했으며 시리즈B는 스톤브릿지벤처스, 카카오인베스트먼트, 키움인베스트먼트로 부터 투자률 유치했다.

스냅태그는 최근 시리즈B 투자유치를 발판 삼아 회사의 비가시성 워터마크 기술이 더욱 다양한 사업에 적용될 수 있도록 기술 개발에 힘을 쓰고 글로벌 기술 표준이 될 수 있도록 추진한다는 계획이다.

[e-mail] 김경아 기자