김명주 교수가 전하는 미래 AI 시대의 위기, 그리고 기회! <AI는 양심이 없다>

인공지능에게 배신당하지 않고 살아가려면 인류는 어떻게 해야 할까?
미래 AI 시대의 사회 변화에 대한 이해력과 통찰력을 제공하는 책

, 김명주 지음 / 헤이북스 펴냄

“인공지능이 인류의 마지막 기술일 수 있다!” 세계적 석학 스티븐 호킹 박사는 AI에 관해 아주 짧지만 명확한 경고의 메시지를 반복하여 전한 바 있다. MS의 빌 게이츠, 애플의 스티브 위즈니악, 테슬라의 일론 머스크 등 세계적인 빅테크 기업 수장들도 인공지능의 위험성에 대해 한목소리를 내고 있다. 또한 닉 보스트롬, 스튜어드 러셀, 프랭크 윌첵, 맥스 태그마크 등 노벨상 수상자나 세계 유수의 대학교수들도 “인공지능이 인류 사상 최대의 성과인 동시에 최후의 성과이자 인류의 재앙이 될 수 있다”고 주장했다.

4차 산업혁명의 핵심 기술은 역시 인공지능(AI)이다. 이미 우리는 2016년 알파고와 바둑 천재 이세돌 9단과의 대국을 통해 인공지능의 수준이 얼마나 발전했는지 목격했다.

그 후로 정부는 물론 기업과 대학 등 사회 전반에 걸쳐 인공지능의 엄청난 잠재력과 발전 가능성에 앞다퉈 투자를 지속해오고 있다. 그러나 2021년 AI 챗봇 ‘이루다’ 사건은 인공지능을 섣부르게 다루면 우리에게 불편하고 심지어 위험하기까지 한 상황을 초래할 수 있음도 알게 됐다.

저자 김명주 교수는 인공지능 윤리의 권위자로 2018년 국내 최초로 인공지능 윤리 가이드라인 <Seoul PACT>를 만들었다. 저자는 인공지능이 발전하는 속도를 법에 맡기거나 소수의 전문가가 관리하는 것은 불가능하므로, 초기 단계부터 발전 방향을 올바르게 잡아야 하고 사회적으로 ‘인공지능 윤리’에 대한 담론을 최대한 형성해야 한다고 주장한다.

저자는 <AI는 양심이 없다>를 통해 인공지능이 열어줄 미래에 대한 올바른 방향 제시와 함께 구체적인 준비도 수반돼야 함을 강조한다. 사회의 대전환에 필연적으로 따라오는 문제 상황에 대해 소수의 전문가 중심에서 벗어나 사회 구성원 모두가 이해하며 공감할 수 있어야 한다는 논지다. 저자는 미래에 인공지능에게 배신당하지 않고 함께 살아가려면 어떻게 해야 할지, 지혜를 찾고자 했다. 이 지혜를 ‘윤리’라는 단어 안에 함축했다. 윤리는 가치 판단의 기준으로 사람에게 요구된다. 그리고 이 윤리는 사람만이 가지고 있는 ‘양심’으로 인하여 발현한다. 반면에 인공지능은 ‘양심’이 없다. 인공지능으로 인하여 등장하는 윤리적인 문제의 근원은 바로 이것이다. 책 제목도 이렇게 정해졌다.

<AI는 양심이 없다>은 인공지능이 이미 흔들어대거나 조만간 흔들 이슈를 사례별로 정리하는 데 많은 부분을 할애했다. 책의 1장 “‘죽음’을 흔드는 AI”에서는 고인이 남긴 디지털 흔적과 디지털 유산을 통해 디지털 부활이 시작되었고 이로 인해 사후 디지털 고용과 명예훼손, 사자의 퍼블리시티권과 경제적 이득, 프로파일링과 잊힐 권리, 사망자 계정과 사후 프라이버시 등 고인의 죽음을 흔드는 손으로서의 AI 문제를 다룬다. 2장 “‘존재’를 흔드는 AI”에서는 가상 인플루언서, 가상 아나운서, 가상 가수, 아바타와 메타버스 등 존재하지 않는 존재인 가상 인간의 출현과 이로 인해 발생하는 신뢰성 문제와 디지털 윤리에 대해 논한다. 3장 “‘신뢰’를 흔드는 AI”에서는 이루다와 알파고부터 시작하여 왓슨, 콤파스, 버추얼휴먼, 휴머노이드, 자율주행차 등 4차 산업혁명의 핵심 신기술인 인공지능이 가져온 혁신의 이면에 드러난 차별과 편견, 의인화와 위조, 적대적 공격과 불신 등 윤리적 문제에 대한 불안과 걱정을 다룬다. 마지막 4장 “흔들림 너머 AI 바로 보기”에서는 인공지능에게 왜 윤리가 필요한지, 처음 시작 단계에서는 법보다 올바른 윤리가 먼저 형성되어야 하는지 당위성을 설명하며 구체적이고 현실적인 대안으로써 ‘인공지능 윤리’의 원칙과 각 분야에서 적용해야 할 윤리 기준들이 무엇인지 이해를 돕는다.

저자는 이러한 과정을 통해 인공지능으로 인해 발생하는 윤리적인 문제의 근원이 무엇인지, 우리 안에 자리 잡아온 인공지능 이용에 대한 막연한 불안과 우려에 대해 구체적인 실체가 무엇인지, 우리가 흔들림 없이 인공지능을 이용하려면 어떻게 해야 할지 생각의 맥을 잡아준다.

또한 인간이 지금까지 조심스럽게 대했던 근간을 인공지능이 하나씩 흔들어댈 시간이 점점 다가온다며, 예상되는 흔들림을 정확하게 직시하면서 이 흔들림을 넘어설 구체적인 준비를 해야 한다고 강조한다. 인공지능이 아직은 본격화되지 않은 기술이기에 우리에게 준비할 시간이 조금 남아 있다면서, 지금 우리에게는 무엇보다 윤리적 상상력과 함께 머리를 맞댈 공론의 장이 필요하다고 말한다.

우리가 인공지능 제품 또는 인공지능 서비스의 이용자가 될 날이 머지않았다. <AI는 양심이 없다>를 통해 AI 시대를 맞아 갖춰야 할 시각과 자세를 미리 그려보는 것은 어떨까?