총선 앞두고‥네이버, AI댓글·딥페이크 감시 강화

이달 중 선거 관련 허위 댓글 신고센터 영역 신설

네이버 뉴스 생성형 AI를 활용해 작성된 기사 표시 관련 예시. 네이버 제공

[파이낸셜뉴스] 오는 4월 총선을 앞두고 네이버가 본격적인 뉴스 서비스 개편에 나섰다. 생성형 인공지능(AI)이 활용된 기사는 따로 표시하고, 이용자가 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능 등을 적용하고 있다.

네이버는 1일 공식 블로그에서 "네이버는 제 22대 국회의원 선거를 앞두고 선거 관련 허위 정보 확산을 막기 위해 다양한 기술적, 정책적 노력과 대국민 플랫폼의 책임을 다하겠다"며 이 같은 변경 사항을 공지했다.

구체적으로 생성형 AI를 활용해 작성된 기사에 대해 본문 상단에 관련 내용을 공지하기 시작했다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에 "이 기사는 해당 언론사의 자동 생성 알고리즘을 통해 작성되었습니다"라는 문구가 이날부터 노출된다.

최근 생성형 AI의 본격적인 활용되면서 뉴스 이용자의 혼란을 방지, AI와 로봇이 자동으로 작성한 기사를 명확히 안내하기 위한 차원이다.

네이버는 이달 중 이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능도 적용하고, 별도의 신고 센터 영역을 신설해 선거관리위원회 채널로 이동할 수 있도록 연결할 예정이다. 뉴스 댓글 이외에도 카페, 블로그 등 네이버 서비스 전반에 걸쳐 허위 댓글을 막기 위해 해당 업데이트를 동일하게 적용할 방침이다.

선거 기간 이후에도 기사 형태의 허위 게시물 신고에 대한 한국인터넷자율정책기구(KISO) 가짜뉴스 신고센터 채널을 안내하기로 했다.

네이버는 뉴스 댓글 외 선거 기간 다른 서비스 영역에서의 생성형 AI 기반 가짜 정보 생성과 유통, 딥페이크 영상에 대한 대응도 조만간 마련한다.

또 선거를 앞두고 뉴스 댓글 집중 모니터링 기간에 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생 시 빠른 대응에 나서기로 했다.

네이버 측은 "문장 맥락을 파악해 혐오, 비하, 차별표현까지 걸러내는 클린봇과 더불어 매크로 사용 여부를 심층적으로 감지하고 분석한다"며 "AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속해서 분석하고 업데이트하는 등의 감시를 강화하고 있다"고 설명했다.

[e-mail] 임수빈 기자