코로나19때는 화장지 구매 소동…AI 시대에는 GPU 사재기

[파이낸셜뉴스] 코로나19가 한창 기승을 부릴 때 미국과 홍콩에서는 다급함을 느낀 시민들이 화장지를 대량으로 구매하는 소동이 있었다. 또 재택근무 증가에 따른 전자제품 판매 증가에 반도체 수요가 급격히 늘었으나 생산에 차질을 빚으면서 공급량이 줄었으며 이로인해 자동차 업체들은 반도체 부족으로 차량 조립에 큰 지장을 받기도 했다.

이 같은 화장지와 반도체 소동을 연상케하는 현상이 최근에 발생하고 있다.

인공지능(AI) 혁명으로 인해 여기에 필요한 그래픽처리장치(GPU) 수요가 폭발적으로 증가하고 있으나 공급량이 충족하지를 못하고 있는 것이다.

GPU의 대부분은 엔비디아가 생산하고 있다.

엔비디아의 첨단 GPU는 동시에 계산을 하는데 탁월한 기능을 발휘하고 있는 것으로 알려졌다.

챗GPT 사용 급증에 GPU 수요도 덩달아 늘고 있는 가운데 업체들 사이에는 확보 경쟁이 진행되고 있다.

AI 스타트업인 라미니 최고경영자(CEO) 샤론 저우는 최근 월스트리트저널(WSJ)과 가진 인터뷰에서 GPU 부족 등 현재의 공급 상황을 마치 코로나 팬데믹 때의 화장지 사재기 소동에 비유했다.

AI 개발업체들은 서버 용량을 확보해야 AI기술을 개발할 뿐만 아니라 다른 업체들의 서비스를 지원해줄 수 있다.

GPU 공급 부족에 아마존과 마이크로소프트 등 클라우드 서비스 제공업체들은 오픈AI 같은 고객을 위한 정보 처리에 한계가 오고 있다.

오픈AI CEO 샘 올트먼은 지난 5월 16일 미국 의회 청문회에 출석한 자리에서 현재 GPU 공급 차질로 인해 챗GPT 사용을 자제시킬 필요가 있다고 증언했다. 또 테슬라와 트위터 최고경영자(CEO)인 일론 머스크도 지난달말 WSJ가 주최한 CEO 포럼에서 “현재 GPU는 마약 보다도 더 취득하기 힘들다”고 말했다.

대형 AI모델 교육을 위해서는 첨단 GPU 수만개가 필요하며 이것이 없을 경우 AI의 처리 속도는 뒤떨어지게 된다.

투자은행 UBS의 애널리스트들은 챗GPT 초기 버전에는 GPU가 약 1만개가 필요한 것으로 보는 반면 머스크는 업그레이드될 경우 이보다 3~5배 더 필요한 것으로 추정하고 있다.

엔비디아의 첨단 GPU는 개당 가격이 보통 3만3000달러(약 4355만원) 내외이나 높은 수요로 인해 세컨더리 시장에서는 더 높은 가격에 거래되고 있다.

젠슨 황 엔비디아 CEO는 최근 대만에서 열린 박람회에서 “현재 세계 곳곳에서 수요가 생기고 있다”며 최신 GPU인 H100을 증산할 것이라고 약속했다.

이러한 GPU 수요에 힘입어 올해 엔비디아의 주가는 약 167% 상승하면서 지난 5월 30일 반도체 기업으로는 처음으로 시총이 1조달러를 넘었다.

그러나 스타트업들은 엔비디아의 증산만을 기다릴 수 없는 형편이다. GPU 부족에 스타트업들은 효율성을 높이기 위해 AI모델을 축소시키고 적절한 그래픽칩을 갖춘 서버를 직접 구매하거나 오라클 같은 인기가 떨어지는 클라우드 업체라도 손을 잡아 대처하고 있다.

소리없는 GPU 확보 전쟁이 진행되면서 라미니의 저우 CEO를 비롯해 칩을 확보한 일부 AI 스타트업 창업자들은 조달 절차나 규모에 대해서는 언급을 피하고 있다.

AI 업계는 GPU 부족이 최소 1년은 더 갈 것으로 전망하고 있다.

서버 제조업체와 고객들은 엔비디아의 최신 칩을 공급받는데 6개월 이상은 각오하고 있다.

대화형 검색엔진 개발업체 퍼플렉시티AI CEO 아라빈드 스리디바스는 GPU 선구매를 했다고 곧바로 조달받는다는 보장이 없다며 “기다리는 수 밖에 없다”고 말했다.

전문의를 보조하는 AI를 개발한 나블라의 앨릭스 르브런은 오픈AI 소프트웨어로 환자 진찰 관련 질문 2분만에 해답이 나온다며 올트먼 CEO에게 GPU 부족 문제로 인한 고민을 털어놨다고 밝혔다.

WSJ는 수요가 늘자 가상자산 채굴에 필요한 칩을 구매해뒀던 대형 가상자산업체들이 필요가 없는 첨단 제품을 내놓으면서 세컨더리 시장이 형성되고 있다고 전했다.

[e-mail] 윤재준 기자