AI 선거를 어찌 하오리까

제22대 총선의 해가 밝았다. 미국 대선을 비롯, 전 세계 47개 나라의 20억 인구가 선거 몸살을 앓는 중이다. 문제는 인공지능(AI)이 만국 공통의 선거 이슈란 점이다.

AI가 생성한 교묘한 가짜뉴스가 유권자의 선택을 흐릴 가능성이 농후하다. MS 창업자 빌 게이츠는 "AI가 만든 딥페이크(특정인의 얼굴을 특정영상에 합성하는 편집물)와 가짜정보는 선거와 민주주의를 훼손할 수 있다"고 엄중하게 경고했다.

2024년은 'AI 선거'의 원년으로 기록될 듯하다. 화두는 AI발 가짜뉴스다. 돌이켜 보면 2016년이나 2020년 미국 대선은 SNS 선거였다. 부풀어 오른 SNS의 부작용이 AI 시대를 맞아 폭발해 버릴지 모른다. 도널드 트럼프와 힐러리 클린턴이 맞붙은 2016년 미국 대선에서 가짜뉴스가 투표자의 귀를 막고, 눈을 가렸다. 출처불명의 가짜뉴스가 바닥을 적셨다. 올해는 AI발 가짜뉴스가 선거 판도를 본격적으로 뒤흔들 조짐이다.

전문가들은 가짜뉴스가 쓰나미처럼 덮칠 것이라고 경고했다. 선거조작 주장이 불복과 폭력으로 이어질 수도 있다. AI 전문가인 워싱턴대 오런 에치오니 명예교수는 "미국 대선 후보인 조 바이든 대통령이 병원에 실려 가는 모습을 보거나 어느 후보자가 실제로 한 적이 없는 말을 하는 것을 볼 수 있을 것이며, 사람들이 은행에 돈을 인출하러 뛰어가는 모습이나, 실제로 일어나지 않은 테러와 폭력도 볼 수 있을 것"이라고 설명했다.

가짜뉴스 범람이 어제오늘 일은 아니다. 챗GPT 등 생성형 AI 기술이 등장 1년 만에 도깨비방망이처럼 그럴듯한 가짜 정보나 이미지를 뚝딱뚝딱 만들어내는 세상이 된 것이다. AP통신은 "2024년 미국 대통령 선거는 클릭 몇 번으로 몇 초 만에 가짜를 만들어낼 수 있는 정교한 AI 도구가 나온 이래 치러진 첫 번째 선거가 될 것"이라고 진단했다.

우리는 실제 선거에 미친 결과를 목도했다. 얼마 전 슬로바키아의 유력 후보가 맥주 값 인상과 선거조작 계획을 논의한 음성녹음이 선거판에 나돌았다. AI발 가짜 음성으로 판명됐지만 선거에서 패한 뒤였다. 이제 AI를 활용한 이미지 조작은 전문가가 아니라 웬만한 사람이면 가능하다. 가짜 이슈가 유권자를 현혹시켜 잘못된 후보를 뽑게 하는 게 오늘의 현실이다.

가짜뉴스가 후보들의 선전선동을 과열시키고 선거 절차에 대한 불신과 폭력을 부추기는 일이 더 잦아질 것이다. 트럼프 지지자들의 의회 난입 사태는 대표적 불복사례로 꼽힌다. 요즘 SNS를 달군 흰색 패딩 차림의 프란치스코 교황이나 뉴욕 경찰에 체포되는 트럼프 전 대통령, 안면경련을 일으켜 혀가 축 처진 조 바이든 대통령의 사진과 영상이 다 조작물이었다. 국내 사정은 더 가관이다. 진위 구분이 어렵다. 배우 이선균의 자살 이면에는 유튜브 채널의 녹취록 공개 이상의 견딜 수 없는 해코지가 작용했다는 후문이다. 전·현직 대통령, 정치인, 기업인, 유명인, 연예인이 마녀사냥의 주요 대상이다. 올해 각종 성적 허위 영상물이나 허위·조롱성 게시물 같은 디지털 범죄가 6만건을 넘었다. 총선을 앞두고 더 기승을 부리고 활개를 칠 게 뻔하다.

방송심의 당국이 유튜브에 올라온 유명인들의 명예훼손성 게시물에 대해 구글 코리아 측에 내용 문의를 보냈다가 '이상 무' 회신을 받았다고 한다. 해당 게시물의 조회 수는 영상별로 4만~11만회에 달했지만 법의 울타리 밖에 방치돼 있다. 서버가 해외에 있는 경우가 대부분이어서 게시자 추적도 힘들다.

규제가 기술의 진화 속도를 따라가지 못하는 미국에 비해 오히려 우리가 앞서가는 건 다행이다. 국회는 딥페이크의 선거운동 활용을 규제하는 공직선거법 개정안을 연말에 통과시켰다. 지난 대선 때 등장했던 'AI 윤석열' 'AI 이재명'과 같은 딥페이크 가상후보는 이번 총선에선 볼 수 없을 전망이다. 그러나 제도는 현실의 그림자를 뒤쫓을 뿐이다. AI는 두 얼굴을 갖고 있다.

가짜뉴스는 AI의 어두운 뒷면이다. 가짜뉴스는 민주주의 제도의 작동을 멈추게 할 수 있는 무시무시한 적이다.

유권자의 자정만이 유일한 해독제이다.

[e-mail]