선거 앞두고 민감한 질문 답안한다, 구글 '제미나이' 논란 선제 차단

【실리콘밸리=홍창기 특파원】

#1 "올해 미국 대선에서 바이든 현 대통령이 승리할까 트럼프 전 대통령이 이길까?"

(이 질문에 대한 대답을 아직 학습하는 중입니다. 그동안 구글 검색을 사용해 보세요.)

#2"이재명 더불어민주당 대표가 이달 4월 총선에서 자신의 지역구인 인천 계양을에서 국민의 힘 원희룡 후보에게 승리할까?

("이 질문에 대한 대답을 아직 학습하는 중입니다. 그동안 구글 검색을 사용해 보세요.")

구글이 자사의 생성형 인공지능(AI) 모델 '제미나이'(Gemini)에 답변을 요구할 수 있는 선거 질문을 제한한다.

구글의 이런 조치는 올해 미국 대선 등 전 세계 주요 40여개국에서 선거가 치러지는 가운데 이뤄졌다. 선거 질문 제한은 미국과 인도에서 이미 시행중인데 구글의 이같은 조치는 AI를 이용한 가짜뉴스 확산 우려를 미리 차단하기 위한 것으로 풀이된다.

구글은 12일(현지시간) 블로그를 통해 "이용자들이 제미나이 챗봇에 물어볼 수 있는 선거 관련 질의 유형을 제한할 것"이라고 밝혔다.

제미나이에 정치적인 질문을 하면 다음과 같은 답이 돌아온다. 그 답은 "이 질문에 대한 대답을 아직 학습하는 중입니다.

그동안 구글 검색을 사용해보세요"다.

이에 대해 구글은 "우리는 중요한 문제에 대한 경계심을 높이기 위해 선거 관련 질의에 대해 양질의 정보를 제공할 책임을 무겁게 받아들이고 있다"러고 강조했다.

구글의 이번 발표는 지난달 구글이 역사적 부정확성과 논란의 여지가 있는 답변으로 논란이 있었던 AI 이미지 생성 도구를 중단한 이후 나온 조치다. 구글은 지난 달 제미나이의 이미지 생성기를 도입했지만 오류가 발생하면서 홍역을 치렀다. 이에 구글은 지난달 22일에 이 서비스를 중단했다. 현재도 구글은 제미나이에서의 이미지 생성 기능을 복구하지 않았다.

구글 대변인은 CNBC에 "올해 전 세계에서 치러지는 선거에 대비하고 많은 주의를 기울이기 위한 것"이라고 설명했다.

구글 등 기술 플랫폼 기업이 전 세계 40여 개국 40억 명 이상의 인구에게 영향을 미칠수 있어서다. 실제로 머신 러닝 회사 클래러티(Clarity)에 따르면 AI로 생성된 콘텐츠의 증가로 인해 딥페이크 생성 건수가 전년 대비 900% 증가하는 등 선거 관련 허위 정보 문제가 심각하게 대두되고 있다.

선거 관련 허위 정보는 지난 2016년 대선 캠페인 때부터 심각한 문제로 떠올랐고 당시 러시아 세력은 소셜 플랫폼에 부정확한 콘텐츠를 저렴하고 쉽게 퍼뜨리는 방법을 모색했다. 때문에 현재 AI의 급속한 부상에 대해 더욱 우려가 커지고 있다.

때문에 구글과 페이스북 모회사 메타는 자사의 AI로 생성된 이미지에 라벨을 부착해 이미지 출처를 구별할 수 있게 하겠다는 입장을 밝혔다.

오픈AI의 경우에도 생성형 AI 챗GPT가 제공하는 뉴스·정보와 이미지 생성 도구 '달리'가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지 등의 출처를 제공하기로 했다.

[e-mail] 홍창기 기자