엔비디아, 구글 클라우드와 AI 인프라·SW 협력 강화한다

엔비디아가 구글 클라우드와 손을 잡고 고객을 위한 새로운 인공지능(AI) 인프라와 소프트웨어를 출시할 예정이라고 30일 밝혔다. 이로써 생성형 AI를 위한 대규모 모델을 구축하고 배포해 데이터 사이언스 워크로드를 가속화한다.

구글 클라우드 넥스트에서 엔비디아(NVIDIA) 창립자 겸 CEO인 젠슨 황과 구글 클라우드 CEO인 토마스 쿠리안의 대담이 이뤄졌다. 이번 대담에서는 파트너십을 통해 세계 대규모 AI 고객들에게 엔드투엔드 머신 러닝 서비스를 제공하는 방법과 엔비디아 기술을 기반으로 구축된 구글 클라우드 제품으로 AI 슈퍼컴퓨터를 쉽게 실행할 수 있는 방법을 논의했다.

새로운 하드웨어와 소프트웨어 통합은 지난 2년간 구글 딥마인드와 구글 리서치 팀에서 사용한 것과 동일한 엔비디아 기술을 활용한다.

젠슨 황은 "우리는 가속 컴퓨팅과 생성형 AI가 결합해 놀라운 속도로 혁신을 가속화하는 전환점에 서 있다"며 "구글 클라우드와의 파트너십 확대로 개발자는 에너지 효율을 높이고 비용을 절감하는 인프라, 소프트웨어와 서비스를 통해 작업을 가속화할 수 있다"고 말했다.

토마스 쿠리안은 "구글 클라우드는 고객을 위한 혁신을 촉진하고 가속화하기 위해 AI 분야에서 오랜 기간 기술을 혁신해 왔다"며 "구글의 많은 제품이 엔비디아 GPU를 기반으로 구축하고 제공되고 있으며 많은 고객들이 생성형 AI를 발전시키기 위한 LLM의 효율적인 개발을 위해 엔비디아 가속 컴퓨팅을 찾고 있다”고 언급했다.

방대한 대규모 언어 모델(LLM)을 구축하기 위한 구글 프레임워크인 PaxML은 이제 엔비디아 가속 컴퓨팅에 최적화됐다. 기존 PaxML은 여러 구글 TPU 가속기 조각에 걸쳐 구축됐지만, 이제 개발자는 PaxML을 통해 엔비디아 H100와 A100 텐서 코어 GPU로 완벽하게 구성 가능한 고급 실험과 확장을 수행할 수 있다. GPU에 최적화된 PaxML 컨테이너는 엔비디아 NGC 소프트웨어 카탈로그에서 즉시 사용할 수 있다. 또한 PaxML은 OpenXLA 컴파일러를 통해 GPU에 최적화된 JAX에서 실행된다.

PaxML에 최적화된 엔비디아 컨테이너는 엔비디아 NGC 컨테이너 레지스트리에서 즉시 사용할 수 있다.

이 컨테이너는 차세대 AI 기반 애플리케이션을 구축하는 전 세계 연구자, 스타트업, 기업을 대상으로 한다.

아울러 양사는 구글의 데이터프록 서비스를 통해 구글의 서버리스 스파크와 엔비디아 GPU를 통합한다고 발표했다.

이를 통해 데이터 사이언티스트는 아파치 스파크 워크로드를 가속화해 AI 개발을 위한 데이터를 준비할 수 있다고 회사 측은 설명했다.

[e-mail] 구자윤 기자