페이스북, 인공지능으로 악성 게시물 막는다

모니터링 회피하는 ‘클로킹’ 근절 위해 자체 시스템 강화

페이스북이 악성 콘텐츠를 일반 게시물로 위장하는 이른바 '클로킹' 수법을 차단하기 위한 인공지능(AI) 시스템을 도입해 성공적인 결과를 거뒀다고 10일 밝혔다.

'클로킹'은 금전적인 이익을 목표로 악용되는 방식 중 하나다. 일반 게시물로 위장한 링크를 통해 당국의 승인을 받지 않은 의약품이나 음란물처럼 불쾌감을 주는 사이트로 사람들을 현혹할 때 사용된다.

'클로킹'은 게시물 관리자의 인터넷주소(IP)를 자동으로 판별한다. 해당 IP가 게시물을 모니터링할 때는 정상적인 웹사이트로 연결하지만 일반 사용자가 링크를 클릭하면 악성 웹사이트로 연결한다.

악성 게시물 모니터링을 피하기 위한 수법이다.

악성 게시물을 일반 게시물로 위장하는 '클로킹' 사례 소개 이미지

페이스북은 이런 '클로킹' 수법에 대응하기 위해 지난 수개월 동안 광고, 게시물, 페이지 관련 모니터링을 확대하고 정책을 강화했다. 특히 '클로킹'과 연관된 게시물 검토를 위해 인공지능(AI)을 활용하고 모니터링 전문 인력을 추가로 투입했다.

그 결과 커뮤니티 규정을 위반한 것으로 판단되는 게시물이나 페이지, 계정 등에 삭제 조치를 내렸다. 현재까지 클로킹 관련 사례로 적발된 경우는 수천 건에 달한다.

페이스북 관계자는 "향후 다른 기업들과의 협업을 통해 허위 콘텐츠와 광고를 차단하는 노력을 강화할 것"이라며 "커뮤니티 규정 및 광고 정책 위반 사례를 효과적으로 관리할 수 있는 다양한 방법도 지속적으로 모색해 나갈 예정"이라고 강조했다.

[e-mail] 허준 기자