아시아 최초 엔비디아 'H100' 갖춘 광주 AI데이터센터...GPU 품귀 속 역할 '톡톡'

【파이낸셜뉴스 광주=황태종 기자】광주광역시는 북구 첨단3지구에 위치한 국가인공지능(AI)데이터센터가 최근 그래픽처리장치(GPU) 품귀 현상으로 어려움을 겪고 있는 인공지능 기업과 기관의 단비가 되고 있다고 12일 밝혔다.

특히 AI 제품 개발에 최적화된 것으로 알려진 엔비디아의 그래픽처리장치(GPU) 'H100'이 탑재된 서버를 갖춘 국가AI데이터센터에 수요가 몰리면서 '인공지능 중심도시 광주'의 존재감이 부각되고 있다고 강조했다.

광주시에 따르면 국가AI데이터센터는 총 연산량 88.5페타플롭스(PF)와 저장용량 107페타바이트(PB) 규모로 구축돼 지난해 11월 15일부터 서비스에 들어갔다.

고성능 AI 가속기를 통해 짧은 시간 내 방대한 데이터의 딥러닝 학습과 데이터 분석·활용을 지원하는 등 AI 연구 개발에 최적화된 기반 시설을 제공한다. 현재 국내 인공지능 기업, 공공기관, 대학 등 총 742건의 과제를 무상 지원하고 있다.

특히 국가AI데이터센터는전체 가속기의 3분의 2를 엔비디아의 최신 GPU인 'H100'으로 구성했다. 'H100'을 이용해 서비스를 제공하는 것은 아시아 최초라고 광주시는 강조했다.

더욱이 생성형 AI가 등장하며 GPU 기반 시설(인프라)을 이용하려는 수요가 폭발적으로 늘면서 AI 모델 개발을 위한 학습과 추론에 필수적인 컴퓨팅 자원을 지원받기 위한 경쟁률이 2대 1 수준에 이르렀다.

광주시는 국내 인공지능산업 수요와 성장 속도에 비춰 볼 때 앞으로 컴퓨팅 자원을 할당받기 위한 경쟁률이 지속적으로 상승할 것으로 전망하고 있다. 최근 전 세계적으로 AI 관련 기업들의 수요가 폭증하고 있는 데 반해 기업과 연구기관들은 GPU 자원 수급에 어려움을 겪고 있기 때문이다.

국가AI데이터센터는 오는 7월부터 대형 AI 모델과 생성형 AI 개발 등을 본격적으로 지원하기 위해 'H100'으로만 구성된 20페타플롭스(PF) 규모의 초고성능 컴퓨팅 지원(HPC) 서비스를 갖춰 초거대 AI 맞춤형 대형 과제도 지원할 예정이다.

김용승 광주시 인공지능산업실장은 "최근 인공지능 기업들이 GPU 수급에 어려움을 겪고 있는 상황"이라며 "혁신적인 아이디어를 갖고 있는 인공지능 기업들이 광주에 찾아온다면 최신의 GPU를 적시에 제공할 수 있도록 최선을 다해 지원하겠다"라고 말했다.

한편 광주시는 과학기술정보통신부와 함께 지난 2021년부터 인공지능 기업들에게 컴퓨팅 자원을 지원하고 있다.

지금까지 약 1500여건의 과제를 지원하며 지속적으로 성과를 창출하고 있다.

[e-mail] 황태종 기자