네이버 AI 클린봇, 온라인 혐오표현 잡는다

AI클린봇 유의미하게 악플 생성 비율 줄여

네이버 AI 클린봇 성과. 네이버 제공

[파이낸셜뉴스] 네이버가 지난 2019년 도입한 인공지능(AI) 기반 악성댓글 탐지 'AI클린봇'이 악플 생성 및 노출 비율을 유의미하게 줄인 것으로 나타났다.

30일 네이버에 따르면, 지난 2019년 24.8%였던 악플 생성 비율은 클린봇 도입 이후 하락세를 타다가 올해 기준(클린봇 2.6 적용) 16.7%로 8.1%p 감소한 것으로 나타났다. 악플 노출비율도 2019년 21.9%에서 올해 8.9%로 13%p 줄었다.

다만 네이버 측은 "지난해 이태원 참사 이후 합리적 근거 없이 누군가의 존엄성을 위협하거나 권리를 침해하고, 배척하는 내용들이 증가하면서 다시금 사회적 문제로 떠오르고 있다"며 "올 한 해 근거없고 무차별적인 혐오·비하·차별 표현 근절을 위해 더 많은 노력을 기울이겠다"고 했다.

구체적으로 언론사별로 클린봇 탐지 강도를 직접 설정하고, 이태원 참사와 같이 안타까운 상황에서 악성 댓글이 증가할 경우 별도 알림 등을 통해 빠르게 댓글 오프(OFF) 여부를 결정할 수 있도록 신규 기능을 지원 할 예정이다.

또 최근 공적 대상에 대한 댓글 영역에서의 특정 표현이 모욕죄로 인정된 만큼 각 개인의 법적 책임에 대한 문구를 추가하여 사전고지 영역을 강화했다.

네이버 관계자는 "안정적이고 투명하고 신뢰할 수 있는 소통 채널로서의 역할을 강화해 나가겠다"고 전했다.

[e-mail] 임수빈 기자