"인간을 뛰어넘는 AI, 두려움보다 '도구' 관점서 활용해야"

인간과 비슷하거나 인간보다 똑똑한 인공지능(AI)이 2030년 전후로 등장하는 AI발 '싱귤래리티'(특이점)가 현실로 다가오고 있다. 일론 머스크 테슬라 최고경영자(CEO)는 "인간 지능을 뛰어넘는 AI가 내년 안에 나올 수도 있다"고 전망했다. 이처럼 AI 발전 속도는 증기기관과 전기, 인터넷이 일군 혁신보다 빠른 속도로 발전하고 있지만 AI 윤리 문제는 여전히 풀리지 않는 숙제다.

AI 발전이 인간의 일자리를 위협하고, 할루시네이션(환각)과 가짜뉴스 생성 등 사회에 미치는 악영향에 대한 우려도 상존하고 있다. 그럼에도 주요 국가들은 AI 주도권 확보를 위해 치열한 경쟁을 펼치고 있다. 우리나라도 4차 산업혁명을 이끌 핵심 원동력으로 AI를 국가전략화하고 있다. 빅테크들도 합종연횡을 확대하며 브레이크가 풀린 기술발전 속도는 한층 가속도를 낼 것으로 관측된다. 오는 9월 5일 롯데월드타워 롯데시네마에서 열리는 'AI월드 2024'를 앞두고 변동식 파이낸셜뉴스 사장이 강연자인 김덕진 IT커뮤니케이션연구소 소장(세종사이버대 컴퓨터 AI 공학과 초빙교수)과 AI 시대의 변화상을 놓고 특별대담을 했다.

―AI가 우리 일상에 구체적이고 실질적인 변화를 촉발하고 있다. AI가 인간의 능력을 뛰어넘는 시대는 언제 어떤 모습으로 다가올 것으로 보나.

▲AI가 인간을 뛰어넘는 '특이점'이라는 것이 과연 우리에게 얼마나 큰 의미가 있을까를 역으로 생각해 보자. 예를 들면 한 사람에게 오는 것이냐, 아니면 산업 전반에 적용될 것이냐에 따라 다른 문제다. 특이점이 2030년 전후로 온다고 하는데, 결국 우리가 AI를 제대로 쓸 수 있는 역량이 됐을 때 그 시대가 열릴 것이다. 미국 정부가 챗GPT 5.0에 대해 오픈AI와 함께 검토 중이라는 이야기가 나오고 있다. 국가가 나서서 가이드라인을 가지고 컨트롤한다는 것은, 역으로 말하면 소프트웨어 관점에서 싱귤래리티가 가능한 수준까지 올라온 것이라는 추측이 가능하다. AI가 인간을 뛰어넘는 것에 대한 두려움은 여전하다. 하지만 자동차가 처음 개발됐을 때 사람보다 빠른 것을 이상하게 생각하지 않았다. 결국 도구적 관점에서 AI가 더 똑똑해지면 좋다.

―특이점이 오기 위해서는 사회적인 제도와 사회적인 총체적 시스템의 합의가 해결돼야 할 것으로 보인다.

▲결국 생성형 AI와 관련한 윤리 문제도 비슷하다. 예를 들면 자율주행차와 비슷하다. '자율주행 사고가 났을 때 운전자와 자동차 제조사 누구에게 책임을 물을 것이냐'를 놓고 해답이 나오지 않더라도, 더 완벽해진 자율주행 기술이 나오면 제품에 탑재가 될 것이다. 결국 우리가 생성형 AI가 나오기 전에도 윤리적 관점에서 AI를 컨트롤할 수 있는 '킬 스위치' 같은 것을 만들어야 한다는 이야기가 많았다. 결국 그런 기술들이 정리가 됐을 때 우리가 말한 초지능들이 나올 것이다.

―인간의 생산성을 AI가 더 높인 점을 보면 결국 인간의 '창의성'도 AI의 도움을 받으면 더 높일 수 있다는 것인가.

▲그렇다. AI를 활용하면 소수가 가지고 있던 창의성을 일반인들도 발현할 수 있다. 유튜브라는 플랫폼이 있기 전에는 몇몇 미디어가 특권을 가지고 있었다. 하지만 유튜브가 등장하며 개인도 방송을 할 수 있는 수준으로 내려왔다. 문제는 이를 활용할 수 있는 사람의 역량이 중요하다. 그간 미디어는 사회적 문제 지적과 더불어 사실 확인이라는 역할을 해왔다. 그 역할을 생성형 AI가 한다고 가정하면 이를 판별할 수 없다는 것이 가장 우려되는 부분이다. 생성형 AI는 단순히 인간의 지식을 뛰어넘는 수준이 아니라 아주 교묘하고 그럴듯한 이야기를 잘한다는 양면성을 가지고 있다. 정답이 아닌 이야기를 그럴듯하게 한다는 것이다. 전문가가 인턴이 정리한 자료를 보면 고쳐서 정확한 보고서를 쓸 수 있지만, 일반인이 AI가 정리한 자료를 보면 맞는지 틀린지를 모를 수 있다는 점이 문제다.

―넷플릭스가 1000만 유저를 모으기까지 3.5년이 걸린 데 비해 챗GPT는 단 5일이 소요됐다. 급속도로 발전하는 AI에 따른 향후 산업의 발전 방향이 궁금하다.

▲챗GPT 자체 기술의 업그레이드 방향과 생성형 AI 전반에 대해 나눠 생각할 수 있다. 챗GPT는 아직 AI와 음성으로 실시간 대화할 수 없다. 사람끼리 대화는 중간에 이상한 이야기가 나오면 '그만해'라면서 말을 멈추고 지적할 수 있지만, AI는 아직 그런 게 안 된다. 멀티모달이 제대로 되려면 말을 하다가 중간에 끊고 '다시 말해봐' 같은 대화가 돼야 한다. 생성형 AI 측면에서는 '도스에서 윈도 시대로 전환'을 예로 들 수 있다. 우리나라 사람들이 제일 못하는 게 '질문'이다. 생성형 AI 쪽에서는 이를 '프롬프팅'이라고 표현한다. 이를 해결할 수 있는 것이 사용자인터페이스(UI)다. 도스에서 명령어를 통해 내리던 명령을 윈도에서 수많은 이미지와 버튼으로 대체한 것처럼 이를 AI에도 활용할 수 있다. 이미 생성형 AI에 해당 서비스 구조가 구축되고 있다. 결국 지금보다 쓰는 사람들이 폭발적으로 증가할 수 있을 것으로 전망된다.

―AI가 특정 분야의 기술이 아닌 산업의 기반요소가 됐다. 결국 AI를 신속하게 잘 접목하는지에 따라 생존지형에 많은 변화를 줄 수 있을 것 같다.

▲생성형 AI의 가장 놀라운 이유가 화이트칼라, 그중에서도 창의성에 기반한 일자리를 대체할 수 있다는 점이다. 중요한 것은 챗GPT가 2022년 10월 전 세계에 동시에 등장했다는 점이다. 이는 우리가 새로운 케이스를 만들고, 좋은 아이디어를 제시해 성공 케이스를 만들면 해외에서도 참고할 가능성이 열려 있다는 것이다. 최근 우리나라 대기업 중심으로 생성형 AI에 대한 빠른 연구가 진행되고 있다. 특히 챗GPT를 사용해 본 기업 총수들이 잘 사용하고, 직원들에게 사용을 권하는 분위기다. 톱다운 방식으로 AI 사용을 권장하다 보니 조직이 빨리 움직인다는 점이 고무적이다.

―과거 기업들은 인수합병(M&A)을 통해 성장했는데, 이제는 '기업 동맹' '합종연횡'이 대세가 되고 있다. 동맹의 시대가 향후 어떻게 전개될 것인가.

▲예전에는 기술의 부분만 가져와도 쓸 수 있었는데, 지금은 통째로 가져오지 않으면 사용할 수가 없다. 그래서 적극적 파트너십이 각광을 받고 있다. 실제 유튜브가 등장했을 때 유튜브와 싸웠던 사람보다는 유튜브 콘텐츠 안에서 함께 성장한 사람이 살아남았다. AI도 같은 상황이다. 네이버같이 큰 언어모델을 만드는 곳은 더 효율적으로 만들고, 특화서비스를 만드는 기업은 비즈니스 케이스 개발에 주력해 서로 연합할 때 성공적인 사례를 만든다. 저는 10년 만에 다시 '프레너미(Frenemy·친구와 적의 합성어)' 시대가 찾아왔다고 표현하고 싶다. 골드러시 때 가장 돈을 많이 번 곳이 청바지를 판매한 사람인 것처럼 AI 시대에는 엔비디아가 돋보이고 있다. 이를 견제하기 위해 마이크로소프트나 구글이 '적과의 동침'을 하는 그림들이 나오고 있다. 우리나라에서는 최근 사피온과 리벨리온이 합병했다. 리벨리온은 KT와 삼성전자가, 사피온은 SK텔레콤이 투자하는 회사다. SK텔레콤과 KT가 같은 회사가 된 셈이다. 이제 합치지 못하면 (성공)할 수가 없다.

―AI 기술은 더 이상 미래가 아니고 현재인 것 같다. AI로 인해 우리 일상의 변화, 또 일반인의 삶의 변화가 예고되고 있다. 어떠한 지혜를 가지고 살아가야 하나.

▲사람마다 생각의 관점이 다르지만 '도구적 진화'의 관점으로 보는 게 좋다. 젠슨 황 엔비디아 최고경영자(CEO)를 비롯한 수많은 데이터 분석가들도 'AI가 사람을 대체하지 않는다'고 이야기한다. 앞서 소개한 유튜브 역시 콘텐츠를 만들어 수익을 보는 분들이 있는 반면 유튜브를 보며 즐기는 사람이 있다. 'AI에 얼마나 몰입돼 있는 것이 나에게 어떤 큰 의미를 줄까'를 생각해 봐야 한다. 또 다른 관점에서는 AI 시대 창의성의 핵심을 생각해 봐야 한다. 생성형 AI 시대 창의성의 핵심은 '줏대'다. 생성형 AI의 결과물은 그럴듯하다 보니 AI에 의지하게 된다. 그러다 보면 최종 결과물이 본인의 생각과 달라진다. 결국 내가 해야 하는 주체적인 일들을 다 뺏기는 셈이다. 그런데 생성형 AI는 항상 랜덤하게 결과를 만든다. 본인의 신념을 밀어붙일 수 있는 '줏대'가 중요한 이유다.

―세상이 발전할수록 불평등에 대한 이슈가 커진다. 디지털 시대에도 디지털 소외계층에 대한 이슈가 지금까지 이어져 왔다. AI 시대에 불평등 이슈는 어떻게 전개될 수 있나.

▲가장 극단적으로는 일종의 불평등이 당연해지는 시대가 될 수 있다. 극단적으로 가정하면 AI를 활용하는 사람에게 부의 쏠림이 심화되고 일자리는 줄어들겠지만, 아주 적은 비용만 있다면 사람들은 즐길 거리를 찾는다는 것이다. 기업의 논리가 아니라 결국 국가나 사회 전체가 논의하고 함께 관리해야 한다는 이야기다.

이러한 극단적인 상황을 방지하기 위해서는 AI 리터러시 교육을 해야 한다. AI 시대에 인간에게 가장 필요한 능력은 '질문을 잘 만드는 것'이다.

대답은 AI가 해주기 때문이다.

[e-mail] 김동호 기자