27일 개최
sLLM 시연 예정
sLLM 시연 예정
앞서 KT클라우드는 지난 5월 AI 기술 개발에 필요한 AI 인프라 구축을 목적으로 개발한 학습·추론 전용 상품 AI Train과 AI SERV NPU를 각각 출시한 바 있다.
AI Train은 대규모 그래픽처리장치(GPU) 클러스터링을 제공하는 엔비디아 GPU 기반 학습 전용 인프라다. H100, A100, V100 등 고객사 니즈에 따라 맞춤형 서비스를 제공한다. AI SERV NPU는 리벨리온과 협업해 만든 추론 전용 인프라다. 기존 GPU 기반 추론용 인프라 대비 가성비를 높이고, 자동화 유지보수 및 스케일링 기능을 갖췄다.
이번 웨비나는 △KT클라우드 AI 인프라 소개 △AI Train, AI SERV NPU를 활용한 소형언어모델(sLLM) 데모 시연 등 2개의 세션으로 진행된다. 웨비나는 누구나 참여할 수 있다.
남충범 KT클라우드 본부장은 "생성형 AI, 딥러닝 등 AI 기술이 다양한 산업에서 도입되면서 AI 인프라에 대한 수요가 증가하고 있다"며 "KT클라우드는 엔비디아 및 비(非) 엔비디아, 학습 및 추론용 AI 인프라 상품 라인업을 모두 갖추고 있는 만큼 고객 수요에 따라 AI 인프라를 경제적으로 사용하면서 AI 기술이 발전할 수 있도록 적극 지원하겠다"고 전했다.
jhyuk@fnnews.com 김준혁 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지