[노주석 칼럼] 효율적 이타주의와 착한 AI 만들기

효율적 이타주의 벗어나
창업이념 어긴 CEO 해임
통제불능 AI 개발에 경종

세계 최고의 인공지능(AI) 기업 오픈AI 이사회가 '챗GPT의 아버지'로 불리는 샘 올트먼 CEO를 전격 해고한 이유는 무엇일까. 많은 사람들이 1985년 애플 이사회가 창업자 스티브 잡스를 몰아냈을 때와 비슷한 충격을 얘기한다. 그러나 그때 애플 사태가 단순한 판매전략에 대한 이견 때문이었다면, 지금은 회사의 창업이념과 관련돼 있다는 점이 다르다.

오픈AI에 130억달러를 투자해 지분 49%를 보유한 최대주주 마이크로소프트(MS)와 직원들까지 끼어들어 문제의 본질을 흐렸다. 올트먼의 오픈AI 복귀와 MS 이적은 지엽말단적 사안이다. 사공 많은 배가 산으로 가는 형국이다.

이사회를 장악하지 못한 MS가 쿠데타를 통해 오픈AI의 지식재산과 기술인력을 빼낸 뒤 AI 산업을 평정하는 과정으로 보는 시각도 존재한다.

이 사건의 본질은 AI윤리에 관한 것이다. 오픈AI 이사진은 비영리기업으로 출발한 회사의 정신을 어긴 올트먼의 월권과 수익 위주 경영을 문제 삼았다. 해임 이유를 "사명(mission)을 지킬 유일한 길이었다"고 명시했다. 오픈AI의 확장 및 상용화를 밀어붙인 올트먼의 경영지침에 대한 반기였다. MS의 투자를 받고, 챗GPT를 공개하고, 유료화한 뒤 이익추구에 나선 게 해임의 배경이다.

인간과 비슷한 수준의 범용인공지능(AGI) 개발 착수가 해임 결정을 촉발했다는 분석도 있다. "이들은 올트먼이 잠재적으로 유해한 AGI 시스템 구축을 위해 너무 빨리 움직인다고 걱정했고, 그를 멈춰 세웠다"고 뉴욕타임스는 분석했다. AI가 AGI에 이르면 인간의 개입 없이도 스스로 기능을 개선해 결국 인류를 파괴할 능력을 갖출 것이라는 우려가 컸다. 알트먼은 "AGI의 긍정적인 측면이 너무 크기 때문에 사회가 그 발전을 영원히 멈추는 것이 가능하지도 바람직하지도 않다"고 일축해왔다.

'이들은' 누구인가. 이번 해임을 주도한 오픈AI 이사 4명 중 3명이 '효율적 이타주의(effective altruism)' 운동과 관련이 있다. 일리야 수츠케버 수석과학자와 기술사업가 타샤 맥컬리, 조지타운 보안 및 신흥 기술 센터의 헬렌 토너가 그들이다. 이들이 속한 효율적 이타주의 그룹은 AI에 의한 인류 파멸을 경계해왔다. 앞으로 이 사건이 어떻게 막을 내릴지 예측하긴 어렵지만 이들이 경종을 울렸다는 평가엔 이의가 없다.

효율적 이타주의는 가장 효율적으로 타인과 인류를 도울 수 있는 방법을 이성과 증거를 기반으로 추구하는 실천윤리학 운동이다. 제창자 피터 싱어 프린스턴대 석좌교수는 2013년 3월 '효율적 이타주의의 이유와 방법'이라는 테드(TED) 강연을 통해 마음을 움직였다. 실리콘밸리의 많은 거물 창업자들이 동조했다.

우리가 챗GPT의 환상에 빠져 환호할 동안 이 같은 주장이 줄기차게 제기돼 온 사실을 간과해선 안 된다. 1984년에 개봉한 할리우드 영화 터미네이터 속 '스카이넷'처럼 AI가 인류를 지배할 수 있다는 인식의 공유를 뜻한다. AI윤리란 AI 시스템이 프로그래머의 의도에 복종하고, 인간을 해치지 않으면서, 권력을 추구하지 않도록 막는 새로운 연구분야를 말한다. '착한 AI'를 만들기 위해서는 지금보다 더 신중한 속도조절과 기술이 필요하다.

한 가지 분명히 하고자 한다. AI는 인간이 안심하도록 안전하게 관리돼야 할 윤리학의 대상이다. 인간 생태계의 존속을 결정짓기 때문이다. 지속가능한 AI를 만들려면 시간이 많이 걸리고, 비용도 더 많이 들겠지만 확실한 검증과 모니터링을 거쳐야 마땅하다. 챗GPT를 사용해 본 사람이라면 그 영특함에 놀라면서도, 한편으론 그 영악함에 고개를 가로젓기 마련이다.

AI의 무한질주를 방치해선 안 된다. 효율적 이타주의 정신에 동의하든, 않든 통제 불가능한 AI는 인류의 유일무이한 공포의 대상이라는 사실을 잊지 말아야 한다.

인간을 노예로 만들거나 멸망의 길로 이끌 적은 침팬지가 아니다.

[e-mail] 노주석 논설고문