카카오, 딥페이크·AI 저작물 총선 악용 막는다

생성 AI 콘텐츠에 비가시성 워터마크 도입
딥페이크 기술 접근 및 활용 시 유의 문구

[파이낸셜뉴스] 카카오가 오는 4월 총선을 앞두고 허위조작 정보 유통을 위해 딥페이크(가짜 디지털 조작물·사진) 콘텐츠 관리에 나선다. 이용자가 딥페이크를 포함한 선거 관련 허위 정보가 담긴 콘텐츠를 발견한 경우 중앙선거관리위원회 신고센터로 바로 신고할 수 있게 돕고, 딥페이크 관련 키워드 검색 시 유의 문구를 띄우는 등 적극 조치할 방침이다.

13일 카카오는 올해 치러지는 제 22대 국회의원 선거를 맞아 선거 관련 허위 조작 정보를 담은 콘텐츠의 제작과 유통을 근절하기 위한 여러 정책 기술적 조치를 마련했다고 밝혔다.

'칼로'가 생성한 토끼 이미지. 카카오 제공

카카오는 책임감 있는 인공지능(AI) 활용을 위해 카카오브레인의 이미지 생성형 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했다. 또 이미지 생성 애플리케이션인 ‘비 디스커버(B^ DISCOVER)’에는 가시성 워터마크를 이미 도입한 바 있다. 비가시성 워터마크란 일반 사용자의 눈에는 보이지 않는 워터마크를 적용하는 기술이다.

인물을 기반으로 한 AI 생성물에 대한 공유가 더 활발히 이루어지는 만큼 카카오톡 채널인 ’칼로 AI 프로필’ 기능에 비가시성 워터마크를 먼저 도입했다. 이미지 생성 웹 기반 전문가 툴인 ‘칼로(Karlo).ai’에도 이달 내 도입될 예정이다.

이용자 대상으로 캠페인도 전개한다. 건전한 선거 문화 정착을 위한 이용자 주의를 위해 다음 카페, 티스토리, 카카오스토리, 브런치스토리, 다음 뉴스, 다음 총선 특집 페이지, 다음 채널 스튜디오를 통해 지난 3월 8일부터 캠페인을 진행하고 있다.

창작자나 이용자가 악의적인 딥페이크를 포함한 선거 관련 허위 정보가 담긴 콘텐츠를 발견한 경우 공지문 속 링크나 신고하기 팝업 등을 통해 중앙선거관리위원회로 신고할 수 있다.

카카오톡 내에서도 선거 기간 동안 다양한 캠페인을 진행한다. 카카오 공식 채널을 통해 딥페이크 근절을 위한 이용자 유의 사항을 발송해 이용자들이 딥페이크를 악용한 허위 조작 정보를 주의할 수 있도록 한다. 카카오 나우 배너를 통해 딥페이크 악의적 이용에 유의하도록 안내하고 있으며, 오픈채팅 탭에서도 딥페이크 근절을 위한 캠페인 배너 광고를 진행할 예정이다.

아울러 허위조작정보 신고 및 조치도 간단하게 할 수 있도록 지원한다. 카페 게시글, 티스토리, 카카오스토리, 브런치 스토리 등 웹 게시글과 댓글 및 카카오 TV 게시물, 뉴스 댓글 등 위반사항이 발견되면 이용자가 신고할 수 있도록 하며, 빠른 조치를 위해 중앙선거관리위원회 신고센터로 바로 연결된다. 게시물의 임시조치는 중앙선거관리위원회의 결정에 따라 신속하게 조치될 수 있도록 한다.

카카오는 이용자 보호를 위해 자체 신고 센터를 24시간 운영해 빠른 모니터링 및 조치가 가능하도록 노력하고 있다.

공개 영역에 딥페이크 영상이나 영상 캡쳐 이미지 등 딥페이크 허위 조작이 확인된 내용에 한해서는 즉각 조치를 취한다. 다음에선 딥페이크 관련 키워드 검색시 딥페이크 기술 접근 및 활용함에 있어 법령에 위반되거나 권리 침해가 일어나지 않도록 유의해야 한다는 내용의 안내문을 상단에 띄웠다.

카카오 관계자는 "앞으로 남은 선거 운동 기간 동안 악의적인 딥페이크를 비롯한 허위 조작 정보를 담은 콘텐츠가 유통되지 않도록 관계 당국과도 긴밀하고 적극적인 협의를 지속 이어나가겠다"고 말했다.

[e-mail] 임수빈 기자