"딥페이크, 민주주의까지 위협… 부작용 막을 가드레일 필요"

"디지털 기술은 물리적 제한이 없다는 점에서 매우 강력하다. 딥페이크(이미지 합성기술)는 간접 성범죄뿐만 아니라 여론을 조작해 국가의 민주적 기능을 손상시킬 수도 있다. 이는 기존의 규제를 무시하기 때문에 '글로벌 거버넌스'가 필요하다.

"

파올로 베난티 프란치스코 교황 AI윤리부문 고문은 5일 서울 송파구 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동개최한 'AI월드 2024'에서 이같이 강조했다. 베난티 고문은 이날 정재승 KAIST 뇌인지과학과 교수와 '인간과 AI의 공존'이라는 주제로 가진 특별대담에서 AI 윤리에 대한 중요성을 되짚었다.

그는 "AI 윤리는 사용하느냐 마느냐가 아니라 이 기술을 우리 사회구조와 어떻게 조화시킬 것인가의 문제"라며 "(딥페이크와 같은) 다른 기술들과 관련된 경험을 돌아보고 이를 통해 도움이 될 만한 요소를 찾아야 한다"고 설명했다.

대한민국은 최근 AI를 활용한 '딥페이크'가 심각한 사회적 문제로 대두하고 있다. 학교에선 10대들이 딥페이크에 무차별하게 노출되며 피해자가 속출하고 있고, 연예인들도 딥페이크 영상의 표적이 되며 고통을 호소하고 있다.

베난티 교수는 "우리는 인간보다 빠른 자동차를 개발하면서 사고를 막기 위해 운전면허를 만들었고, 속도규제 카메라 등을 개발했다"며 "딥페이크 기술은 자동차처럼 면허취득을 위한 교육과정이 없는 만큼 부작용을 방지하기 위한 사회적 보호장치를 마련해야 한다"고 지적했다.

최근에는 AI를 이용한 SNS의 힘으로 다른 나라의 민주적 기능을 손상시킬 수 있다는 목소리도 커지고 있다.

베난티 고문은 "이를 해결하기 위해 글로벌 거버넌스 차원에서 가드레일을 마련하고 교육적 노력을 해야 한다"며 "AI 문제는 기계 자체가 아니라 인간, 즉 기계를 다루는 인간의 문제이기 때문"이라고 설명했다.

정 교수는 생성형AI를 교육 현장에 전면 반영할 것인지, 이를 배제하고 창의적이고 논리적인 사고를 키워줘야 하는지에 대한 고민을 털어놨다. 그는 "대학생들이 교수가 내는 과제를 AI를 사용해 해결하는 게 현실"이라며 "저도 중간고사를 집에서 해오라고 하는데, 이제는 그렇게 못할 것 같다"며 씁쓸해했다.

이에 대해 베난티 고문은 "인간은 새로운 기술이 등장할 때마다 두려워했다"며 "우리는 지금 '차세대 기술'의 시작점에 있는 만큼, 새로운 형태의 비판적 사고를 교육해야 할 필요가 있다"고 제언했다.

AI의 '프라이버시 침해' 문제에 대해서는 '비용의 문제'라고 답했다.

베난티 고문은 "솔직히 말해서 공짜는 없다. 식사를 할 때 나오는 무료 반찬과 소금도 이미 밥값에 가격이 포함된 것"이라며 "AI 프라이버시 보호에도 비용이 발생한다는 것을 인식해야 한다"고 말했다.

'AI 시대의 새로운 윤리를 확립하는 방안'을 묻는 정 교수의 질문에는 "중요한 것은 다양한 이해관계자들이 함께 모여 AI 윤리에 대해 논의하는 장을 만드는 것"이라며 "윤리적 논의 없이 AI 기술이 발전한다면 이는 민주주의를 위협할 수 있다"고 강조했다.

특별취재팀 조윤주 팀장 김만기 김동호 조은효 박소연 구자윤 장민권 최종근 김준혁 권준호 노유정 임수빈 김예지 기자 김현지 서지윤 송지원 신지민 이동혁 이해람 최가영 최은솔 수습기자