엔비디아가 낳고 LG가 기르고...'AI 모델' 엑사원 탄생의 비밀은
2024.09.24 13:43
수정 : 2024.09.24 13:43기사원문
24일 업계에 따르면 엔비디아는 엑사원 3.0에는 엔비디아의 GPU인 H100과 네모(NeMo) 프레임워크가 활용됐다고 밝혔다.
엑사원 3.0은 네모 프레임워크 위에서 LG AI연구원의 독자 기술로 개발되고 학습됐다.
엔비디아 네모는 어디서든 생성형 AI 모델을 구축, 맞춤화, 배포할 수 있는 엔드 투 엔드 프레임워크다. 데이터 처리, 훈련에서 생성형 AI 모델의 추론에 이르는 거대 언어 모델(LLM) 개발 전반의 솔루션을 제공해 구축 시간을 단축하고 멀티 노드, 멀티 GPU 훈련과 추론을 통해 처리량을 극대화한다.
엔비디아는 또 엑사원 3.0이 AI 플랫폼에서 최신 LLM의 추론 성능을 가속화하고 최적화하는 자사의 소프트웨어 개발 도구(SDK) '텐서RT-LLM'를 기반으로 한다고 전했다.
앞서 LG AI연구원은 지난 8월 최신 AI 서비스인 엑사원 3.0을 발표했다. 한국어와 영어, 코딩 등 13개 벤치마크 점수 순위에서 1위를 차지했다. 특히 메타의 라마(Llama) 등 글로벌 동급 규모의 오픈소스 AI 모델 대비 한국어와 영어에서 더 뛰어난 성능을 가진 것으로 조사됐다.
rejune1112@fnnews.com 김준석 기자