"오픈AI 안전 문화 반짝이는 제품 뒤로 밀렸다" 오픈AI 사업확장에 올인?

AI 안전 강조 임원 모두 떠나자마자 오픈AI, AI 장기적 위험 대비팀 전격 해체
떠난 임원들 공교롭게 지난해 11월 샘 올트먼 해임 주도했던 인물들
반대파 축출 작업 완료한 올트먼 본격적인 사업확장 나서나

오픈AI는 공동 창립자 일리야 수츠케버와 얀 라이케가 회사를 떠난 직 후 인공지능(AI)을 제어하는 팀을 해체했다. AFP연합뉴스

【실리콘밸리=홍창기 특파원】 챗GPT를 공개해 인공지능(AI) 선두 주자로 부상한 오픈AI가 AI의 장기 위험을 낮추기 위해 신설한 대응 팀 '슈퍼얼라인먼트 팀'을 1년 만에 해체했다. 오픈AI 공동 창업자 일리야 수츠케버와 잰 라이케가 회사를 떠나기로 했다고 발표한 이후 팀 해체 소식이 흘러나왔다. 공교롭게 회사를 떠난 두 명은 지난해 11월 오픈AI의 샘 올트먼 최고경영자(CEO)를 축출하는 데 앞장섰던 인물들이다.

17일(현지시간) CNBC는 소식통을 인용해 오픈AI가 AI가 미칠 수도 있는 장기 위험에 대응하기 위해 만든 팀을 출범 발표 1년 만에 해체했다고 보도했다. 이 소식통은 팀원 일부는 회사 내 다른 팀으로 재배치됐다고 말했다.

슈퍼얼라인먼트 팀은 AI 시스템을 조종하고 제어하기 위한 과학적, 기술적 노력에 집중해왔다.

서츠케버와 라이케의 이탈은 AI 안전성을 놓고 올트먼 CEO와의 갈등을 빚었기 때문으로 분석된다. 실제 라이케는 17일 오픈AI의 "안전성 문화와 절차들이 눈부신 제품들에 밀려 이선으로 후퇴했다"고 비판했다. 이어 "오픈AI가 AI 연구를 수행하기에 세계에서 가장 좋은 곳이라고 생각했기 때문에 합류했다"면서 "그러나 오픈AI의 안전 문화와 프로세스가 반짝이는 제품 뒷전으로 밀려났다"고 주장했다.

지난 14일 오픈AI를 떠난 수츠케버 공동 창립자도 "AI가 인간에게 해를 끼치지 않도록 하는 데 초점을 뒀지만 올트먼은 AI를 통한 새로운 기술을 제공하는 데 집중했다"고 했다.

오픈AI는 지난해 "인류보다 훨씬 스마트한 AI 시스템을 조종하고, 통제하기 위한 과학적, 또 기술적 진전들"에 집중하는 슈퍼얼라인먼트 팀 신설을 발표한 바 있다. 당시 오픈AI는 앞으로 4년에 걸쳐 자사 컴퓨터 연산능력의 20%를 AI 조종, 통제를 위한 슈퍼얼라인먼트 팀에 배분하겠다고 약속했다. 그러나 이같은 약속은 휴지 조각이 됐다.

이는 또 올트먼이 지난해 사내 쿠데타를 진압하고 CEO로 복귀하면서 권력을 강화하고 있는 것과 연관이 있는 것으로 보인다. 올트먼은 그동안 공동창업자들을 비롯해 회사 안팎에서 AI의 보편적 가치 실현과 위험 견제보다는 이윤에 매몰돼 있다는 비판을 받아 왔다.

오픈AI는 공동 창업자들의 이탈에 대한 입장을 내놓지 않았다. 다만 오픈AI는 올트먼 CEO가 자신의 SNS X(엑스·옛 트위터)에 올린 글로 이를 대신했다.

올트먼 CEO는 "라이케가 떠나 슬프지만 회사가 해야 할 일이 더 많다"고 썼다. 수츠케버에 대해서는 "일리야는 우리 세대의 가장 위대한 지성 중 한 명이자 우리 분야의 길잡이이자 소중한 친구였다"고 썼다.

한편, 올트먼 CEO가 AI의 위험성에 대해 충분한 주의를 기울이지 않고 오픈AI의 사업을 구축하는 데만 집중한다고 우려했던 이들이 회사를 떠나면서 향후 올트먼 CEO가 어떤 쪽에 초점을 맞추고 회사를 이끌어 갈지 주목된다.

샘 올트먼 오픈AI 전 최고경영자(CEO)가 자신의 엑스(X·전 트위터)에 오픈AI 방문자 출입증을 착용한 사진을 올리면서 "이걸 착용한 건 처음이자 마지막"이라고 썼다. 샘 올트먼 X

[e-mail] 홍창기 기자