오픈AI 샘 올트먼, 해체했던 AI 안전보안팀 열흘 만에 다시 복원시켰다

【실리콘밸리=홍창기 특파원】

이달 초 오픈AI의 AI 안전 정책을 비난하며 오픈AI를 퇴사한 슈퍼얼라인먼트 팀 공동 리더인 딥마인드 출신 얀 라이케가 오픈AI의 라이벌 회사인 앤트로픽에 합류했다. 얀 라이케는 오픈AI 공동 창립자 일리야 수츠케버와 함께 샘 올트먼 최고경영자(CEO)가 AI의 위험성에 대해 충분한 주의를 기울이지 않고 사업을 확장하는 것을 비난하고 오픈AI를 공동 퇴사했었다.

28일(현지시간) 얀 라이케는 자신의 엑스(X·옛 트위터)에 글을 올리고 "슈퍼얼라이언트(superalignment·AI의 장기적인 위험을 연구) 팀 미션을 계속하기 위해 앤트로픽에 합류했다"라고 밝혔다.

앤트로픽은 세계 최대 상거래 기업 아마존이 40억 달러(약 5조 4568억 원)를 투자한 AI 기업으로 최산 AI 모델 '클로드3'를 출시했다.

라이케는 앤트로픽에서 오픈AI에서 했던 것처럼 장기적인 AI 리스크에 초점을 두는 업무를 진행한다.

이날 오픈AI도 샘 올트먼 최고경영자(CEO)를 비롯한 고위 임원진이 합류해 새로운 안전 및 보안 위원회를 설립했다고 밝혔다. 오픈AI의 새로운 안전·보안 위원회는"오픈AI 프로젝트와 운영에 대한 안전 및 보안 결정을 이사회에 권고하게 된다.

오픈AI는 지난 17일 슈퍼얼라인먼트 팀의 팀원들을 다른 곳으로 재배치하면서 팀을 해체했다.

슈퍼얼라인먼트 팀은 AI 시스템을 조종하고 제어하기 위한 과학적, 기술적 노력에 집중했었다. 하지만 오픈AI는 팀 해체 후 열흘 정도가 지난 뒤에 올트먼 CEO까지 합류해 팀을 부활시켰다.

라이케는 지난 17일 "오픈AI의 안전성 문화와 절차들이 눈부신 제품들에 밀려 이선으로 후퇴했다"라고 오픈AI를 작심 비난했다. 그는 "오픈AI의 안전 문화와 프로세스가 반짝이는 제품 뒷전으로 밀려났다"라고 목소리를 높였었다.

지난 14일 오픈AI를 떠난 수츠케버 공동 창립자도 "AI가 인간에게 해를 끼치지 않도록 하는 데 초점을 뒀지만 올트먼은 AI를 통한 새로운 기술을 제공하는 데 집중했다"며 올트먼을 깎아내린바 있다.

[e-mail] 홍창기 기자