딥페이크 등으로 수많은 진짜같은 '가짜' 양산
인간에게 짜증내는 휴머노이드 로봇도 이미 등장
생성형 AI 사라질 가능성 낮아 통제·조정 필요
인간에게 짜증내는 휴머노이드 로봇도 이미 등장
생성형 AI 사라질 가능성 낮아 통제·조정 필요
【실리콘밸리=홍창기 특파원】
챗GPT의 등장 후 생성형 AI(인공지능)는 인류의 일상과 함께 하며 장점도 뽐내고 있지만 그 위험성이 더 크다는 지적이다. 생성형 AI를 사용해 다른 사람의 얼굴을 이식하거나 오디오를 조작, 가짜 동영상을 만드는 딥페이크 등 위험이 생성형 AI의 장점을 덮고 있는 것이다. 생성형 AI라는 도구가 앞으로 사라질 가능성이 적기 때문에 생성형 AI를 통제하고 조정하는 일이 큰 과제라는 것이 중론이다. 미국 IT 전문지 테크크런치는 "챗GPT 등 생성형 AI의 부정적인 측면이 존재하지만 생성형 AI 도구가 조만간 사라지지는 않을 것이라는 점은 분명하다"라고 짚었다.
정확한 생성형 AI가 만들어내는 가짜
생성형 AI가 이미 인류의 생활과 함께 하고 있는 것은 정확성 때문이다.
오픈AI의 최신 대규모 언어모델(LLM)인 챗GPT-4는 미국 모의 변호사 시험에서 상위 10%, 대학 입학 자격시험인 SAT 읽기와 수학 시험에서는 각각 상위 7%와 11%의 성적을 기록했을 정도다.
하지만 이런 정확성이 진짜같은 가짜를 만들어내 인류를 위협하는 도구가 되고 있다.
최근 영국에서는 어린 학생들이 생성형 AI 이미지 생성기를 이용해 반 친구들의 음란한 가짜 이미지를 만들고 있는 사례가 다수 발생하고 있다. 이와 관련, 영국안전한인터넷센터(UKSIC)는 긴급한 조치를 촉구하며 학교에 모니터링 시스템을 강화할 것을 경고했다.
UKSIC은 비즈니스인사이더에 "확인되지 않고 규제되지 않은 생성형 AI로 아이들의 안전이 위협받고 있다"라고 우려했다. 데이비드 하디 UKSIC 이사는 "생성형 AI 같은 새로운 기술이 더 쉬어지면 어린이와 학생 등 젊은이들의 유해한 행동은 필연적으로 나타날 수밖에 없을 것"이라고 내다봤다.
영국 뿐 아니라 생성형 AI의 급속한 성장이 탄생시킨 가짜들은 생성형 AI의 대표상품이 됐다. 미국의 경우 올해 3월에 트럼프가 맨해튼에서 체포됐다는 가짜 사진이 확산되며 큰 파문을 일으켰다.
AI로 중요해진 진짜, AI의 미래는?
생성형 AI가 만들어내는 진짜 같은 가짜로 인해 객관적 사실·진실의 중요성이 떨어지는 '탈 진실'(post truth) 시대가 이미 도래했다는 관측도 나왔다.
생성형 AI가 생성해는 가짜의 심각성으로 2023년 '올해의 단어'로 '진짜의', '진품의'라는 뜻의 영어 단어 '어센틱'(authentic)이 선정된 까닭이다. 해마다 올해의 단어를 선정하는 미국 유명 사전 출판사 메리엄웹스터는 "매년 '어센틱'이라는 단어는 검색량이 많았지만 특히 올해에 생성형 AI와 정체성, SNS 등에서 크게 주목받았다"라고 설명했다.
생성형 AI가 마냥 인류에게 위협만 하는 것은 아니다. 앞서 언급한 AI 싱어송 라이터 가수라고 주장하고 있는 안나 인디애나처럼 인류에게 소소한 기쁨을 준다.
비즈니스인사이더는 "AI 싱어송라이터 겸 가수 안나 인디애나의 뺨에는 모공이 없다. 그녀의 목소리는 원하는 음정에서 전혀 벗어나지 않는다"라며 안나가 너무 완벽하다고 전했다.
또한 생성형 AI로 새로운 직업이 등장하는 등 일자리 변화를 유도하는 긍정적인 면도 있다. 생성형 AI가 기업에 효율성과 생산성을 높일 수 있는 기회를 제공하고 있는 것이다.
특히 최근 스탠퍼드대 학생들이 메타의 LLMA(대규모 생성언어모델)인 라마 2코드 생성기를 사용해 시각장애인이 눈앞에 있는 내용을 이해할 수 있도록 도와준 사례는 생성형 AI의 긍정적 역할을 잘 보여준다는 평가를 받는다. 이와 관련, 메타의 CPO(최고제품책임자) 크리스 콕스는 "이런 긍정적 사례는 생성형 AI를 활용하는 주체가 꼭 기업이 아니어도 된다는 것을 보여줬다"라고 강조했다.
theveryfirst@fnnews.com 홍창기 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지