오픈AI, 장기 리스크 대응팀 해체..."안전문화가 눈부신 제품에 밀렸다"

【파이낸셜뉴스 실리콘밸리=홍창기 특파원】 챗GPT를 공개해 인공지능(AI) 선두 주자로 부상한 오픈AI가 AI의 장기 위험을 낮추기 위해 신설한 대응 팀 '슈퍼얼라인먼트 팀'을 1년 만에 해체했다. 오픈AI 공동 창업자 일리야 수츠케버와 잰 라이케가 회사를 떠나기로 했다고 발표한 이후 팀 해체 소식이 흘러나왔다. 공교롭게 회사를 떠난 두 명은 지난해 11월 오픈AI의 샘 올트먼 최고경영자(CEO)를 축출하는 데 앞장섰던 인물들이다.

17일(현지시간) CNBC는 소식통을 인용해 오픈AI가 AI가 미칠 수도 있는 장기 위험에 대응하기 위해 만든 팀을 출범 발표 1년 만에 해체했다고 보도했다. 이 소식통은 팀원 일부는 회사 내 다른 팀으로 재배치됐다고 말했다.

슈퍼얼라인먼트 팀은 AI 시스템을 조종하고 제어하기 위한 과학적, 기술적 노력에 집중해왔다.

서츠케버와 라이케의 이탈은 AI 안전성을 놓고 올트먼 CEO와의 갈등을 빚었기 때문으로 분석된다. 실제 라이케는 17일 오픈AI의 "안전성 문화와 절차들이 눈부신 제품들에 밀려 이선으로 후퇴했다"고 비판했다. 이어 "오픈AI가 AI 연구를 수행하기에 세계에서 가장 좋은 곳이라고 생각했기 때문에 합류했다"면서 "그러나 오픈AI의 안전 문화와 프로세스가 반짝이는 제품 뒷전으로 밀려났다"고 주장했다.

지난 14일 오픈AI를 떠난 수츠케버 공동 창립자도 "AI가 인간에게 해를 끼치지 않도록 하는 데 초점을 뒀지만 올트먼은 AI를 통한 새로운 기술을 제공하는 데 집중했다"고 했다.

오픈AI는 지난해 "인류보다 훨씬 스마트한 AI 시스템을 조종하고, 통제하기 위한 과학적, 또 기술적 진전들"에 집중하는 슈퍼얼라인먼트 팀 신설을 발표한 바 있다.

이는 또 올트먼이 지난해 사내 쿠데타를 진압하고 CEO로 복귀하면서 권력을 강화하고 있는 것과 연관이 있는 것으로 보인다.

올트먼은 그동안 공동창업자들을 비롯해 회사 안팎에서 AI의 보편적 가치 실현과 위험 견제보다는 이윤에 매몰돼 있다는 비판을 받아 왔다.

[e-mail]