사악한 SNS 알고리즘.."네가 믿는 것만 보여주마"

[편집자주] 허위사실과 왜곡된 정보가 ‘가짜뉴스’라는 이름을 달고 우리사회를 갉아먹고 있습니다. '가짜뉴스'에 대한 이해관계가 첨예한 학계·언론·정치권은 '가짜뉴스'의 범위과 본질 규정을 놓고 수년째 논쟁만 지속하고 있습니다. 파이낸셜뉴스는 빠르게 발전하는 허위·왜곡정보 기술에 비해 턱없이 더딘 가짜뉴스 대책으로 인한 피해 사례를 짚어내고, 전문가들이 제시하는 대안을 담아 4회에 걸쳐 보도합니다.

[파이낸셜뉴스] "유튜브를 통해 사실과 다른 통계 수치를 언급하는 등 확인되지 않는 루머를 유포하는 시장 불안 조성 행위가 발생하고 있다."

이복현 금융감독원장이 지난 11월 15일 공매도 전면 금지 이후 유튜브, 사회관계망서비스(SNS)상에서 퍼지는 시장 불안 조성행위에 철저히 대응하겠다고 밝힌 내용 중 일부다.

금융당국이 직접 나서 유튜브, SNS 등을 통해 확산하는 가짜정보에 대해 단속에 나서겠다고 밝혔을 정도로, 현재 SNS발 가짜뉴스, 왜곡정보 등은 그 폐해가 심각한 상태다.

일례로 지난 2월, 전 피겨스케이팅 선수 김연아와 포레스텔라 멤버 고우림 부부는 이혼설, 출산설이 담긴 유튜브 가짜뉴스 확산으로 곤욕을 치른 바 있다.

즉각 김연아 소속사 올댓스포츠는 "허무맹랑하고 황당한 가짜뉴스로 인한 김연아 부부의 명예훼손과 유튜버의 허위사실 유포에 대해, 김연아 소속사로서 가짜뉴스 유튜버와 유포자에 대해 엄중한 법적대응을 하겠다"라고 강경한 입장을 밝혔지만, 이미 해당 루머는 또 다른 SNS 플랫폼으로 공유·확산한 뒤였다.

언론사 뉴스보다 더 확산하는 가짜뉴스

가짜뉴스가 진짜뉴스보다 더 빨리, 더 많이 퍼져나간다는 연구 결과도 있다. 미 MIT 연구팀이 분석, '사이언스'(2018)에 게재된 연구 결과에 따르면 가짜뉴스는 언론사의 뉴스 보도와 비교해, 더 많이 멀리 확산했다.

연구진은 'X'(옛 트위터)에서 약 300만명이 총 450만회 이상 트윗한 12만6000건가량의 뉴스 (2016~2017년)를 분석했다. 산업, 테러리즘, 과학, 연예, 자연재해, 도시건설 등의 내용이 포함됐다. 이들 뉴스의 진위 여부는 6곳의 독립적인 ‘팩트 체크’ 단체들이 가렸다.

연구진 분석 결과 가짜뉴스는 언론사의 뉴스보다 재공유 비율이 70%가량 높았다. 또 가짜뉴스의 전파 속도는 진짜보다 최대 20배가량 빨랐다. 진짜뉴스는 1000명 이상의 'X'이용자에게 전달되는 경우가 흔하지 않았지만 가짜뉴스 중 상위 1%는 적게는 1000명에서 많게는 10만명에게까지 전달됐다. 1500명에게 전달되는 속도를 비교한 결과 진짜뉴스는 가짜뉴스보다 6배 더 많은 시간이 걸렸다.

여기에 SNS 알고리즘으로 가짜뉴스를 한번 시청하면, 또 다른 비슷한 콘텐츠가 사용자에게 노출, 확증편향이 생길 수 있는 우려도 있다. 확증편향은 자신의 견해에 도움이 되는 정보만 선택적으로 취하고, 믿고 싶지 않은 정보는 외면하는 현상을 말한다.

이런 확증편향이 생기는 배경에는 SNS 알고리즘과도 연관이 있다. SNS에서의 알고리즘은 사용자들에게 맞춤형 콘텐츠를 제공하고, 친구 추천, 트렌드 분석, 광고 타게팅 등의 기능을 한다.

그 과정에서 '필터 버블(Filter Bubble) 현상'이 나타난다. 필터버블이란 정보 제공자가 이용자 맞춤형 정보를 제공해 필터링된 정보만 이용자에게 전달하는 것을 말한다. 똑같은 단어를 검색해도 사용자에 따라 서로 다른 결과가 나오는 것이다.

강아지 구충제는 어떻게 암 치료제로 알려졌나

SNS 알고리즘이 사회적으로 큰 파장을 일으킨 사례는 2019년에 발생한 일명 '강아지 구충제 펜벤다졸' 사건이다. 강아지 약이 인간의 암을 치료할 수 있다는 내용의 이 가짜뉴스는 당시 수 많은 사람들에게, 확산 재생산됐다. 심지어 의료진들도 이 뉴스를 공유하는 등 폐해가 극심했다. 해당 가짜뉴스의 확산 과정을 분석한 연구팀은 SNS 알고리즘 개선의 필요성을 강조했다.

세종충남대학교병원 권정혜 교수 연구팀은 유튜브에서 펜벤다졸 콘텐츠를 보는 사람들은 추천 알고리즘에 의해 단일 채널이 아닌 여러 채널에서 펜벤다졸 사용 후기를 접하게 된다고 설명했다. 여기에 더해 의사들이 유튜브 콘텐츠에서 "과학적 근거는 없지만, 시도해볼 가치는 있다"며 가짜뉴스에 대한 신뢰도를 높이는 경우도 있었다고 했다. 알고리즘이 추천하는 다양한 채널의 영상은 시청자의 잘못된 믿음을 강화했다고 지적했다.

권정혜 교수 연구팀은 “유튜브의 추천 시스템은 신뢰할 만한 의학 정보와 연결되는 게 아니라는 걸 발견했다”고 지적했다.

인종차별, 증오…사악한 SNS 알고리즘

해외 상황도 다르지 않다. 2021년 10월 영국 일간지 가디언과 미국 뉴욕타임스 보도에 따르면, 페이스북 내부 고발자 프란시스 하우건(Frances Haugen)은 영국 하원 의회 특별 위원회에 출석해 "페이스북 알고리즘이 세계 곳곳에서 증오를 부추긴다"고 증언했다.

그는 "페이스북은 알고리즘 편향이 만드는 부정적 현상보다 광고로 이익 창출하는 데만 급급하다"고도 말했다. 하우건은 "관련 규제 개선이 필요하다"고 주장했다.

당시 월스트리트저널은 하우건의 제보를 토대로 페이스북의 자회사인 인스타그램이 10대의 정신건강에 악영향을 끼치고, 특히 10대 소녀들이 자신의 몸에 대해 불만과 비참함을 느끼도록 만든다는 조사결과를 알면서도 이를 조장하는 알고리즘을 방치했다고 보도했다.

아울러 극단적 선택 충동을 느낀 10대중 영국 사용자의 13%, 미국 사용자의 6%가 해당 충동 원인으로 인스타그램을 지목했다는 연구결과를 비롯해 페이스북과 인스타그램의 반사회적 영향이 202년 마크 저커버그 최고경영자 등 페이스북 경영진에게 보고됐다는 사실도 공개됐다.

'X'는 이미지 크롭 알고리즘의 인종 편향성 논란에 대해 사과하기도 했다. 2020년 9월 'X'는 자사 자동 이미지 크롭 알고리즘이 흑인보다 백인 사진을 더 선호해 인종 차별을 조장한다는 사용자 지적이 나오자 사과 입장을 표명했다. 백인과 흑인 두 장의 사진이 한 게시물에 있을 때 트위터 알고리즘은 모바일 애플리케이션(앱)에서 자동으로 백인 얼굴만 보여주는 경우가 많았다. 이런 알고리즘 편향성은 실제 인물뿐 아니라 흑인 만화 캐릭터와 백인 만화 캐릭터 간에서도 나타났다.

가짜뉴스 막는 알고리즘 가이드라인 있어야

결국 누군가 의도적으로 가짜뉴스를 만들어내고, SNS 플랫폼에서 확산할 때 가짜뉴스의 파급력과 폐해는 더 강력해질 수 밖에 없다. 이런 악순환을 막기 위한 알고리즘 가이드라인이 있어야 하는 것 아니냐는 목소리가 커지는 이유다.

김선호 한국언론진흥재단 책임연구원은 2022년 '미디어정책리포트' 보고서에서 "플랫폼 기업의 알고리즘은 이용자 확보 및 상업적 이윤의 극대화를 핵심 가치로 삼고 있어 바람직하지 않은 정보에 대한 필터팅에 취약하다"고 지적했다.

전문가는 현재 최선의 방안으로는 검증된 매체서 보도되는 뉴스를 소비하는 자세가 가장 중요하다고 강조했다.

유홍식 중앙대 미디어커뮤니케이션학부 교수는 "유튜브 등 SNS 이용자들은 알고리즘을 통해 본인에게 익숙하고, 보고 싶은 내용들만 소비하려고 하므로 편향적인 유형의 기사를 볼 수밖에 없다"라고 지적했다. 이어 "뉴스 이용자들이 가짜뉴스를 SNS 등에서 보더라도 소비하지 않는 자세를 갖추게끔 유도하고, SNS를 이용하더라도 검증된 매체 위주로 뉴스를 소비할 수 있어야 한다.

기사를 비판적으로 성찰해 볼 필요가 있다"고 덧붙였다.

[e-mail] 임우섭 기자