산업 대기업

HBM이 불붙인 차세대메모리 전쟁…CXL·PIM 양산 속도낸다

파이낸셜뉴스

입력 2023.08.13 18:22

수정 2023.08.13 18:22

생성형 AI, 메모리 패러다임 전환
삼성 고성능·고용량제품 잇단 공개... 연내 128GB CXL D램 최초 양산
SK, CXL에 연산통합 CMS 개발
메모리+연산 PIM 주도권 경쟁도
HBM이 불붙인 차세대메모리 전쟁…CXL·PIM 양산 속도낸다
고대역폭메모리(HBM)-프로세싱인메모리(PIM), 컴퓨트 익스프레스 링크(CXL) 등 반도체 업계의 차세대 메모리 솔루션 개발 경쟁 구도가 삼성전자와 SK하이닉스로 압축되고 있다. 특히, 생성형 인공지능(AI) 성장세에 힘입어 AI용 HBM3 수요가 예상보다 빠르게 늘자 침체됐던 메모리 반도체 시장도 본격적으로 들썩이는 양상이다.

■HBM발 차세대 메모리 경쟁 본격화

13일 관련 업계에 따르면 삼성전자는 올해 멤콘, 플래시 메모리 서밋 등 국제 메모리 반도체 행사에서 HBM을 비롯해 △HBM-PIM △CXL D램 △CXL-프로세싱니어메모리(PNM) 등 고성능·고용량 메모리 솔루션 기술을 잇따라 공개했다.

삼성전자가 AI 연산에 최적화된 차세대 D램 기술을 적극적으로 공개하는 건 생성형 AI 시대의 조기 개화와 무관하지 않다는 지적이다. HBM 2~3세대 주도권을 쥐고 있던 삼성전자는 AI 시장 급성장을 예상하지 못한 채 SK하이닉스에 세계 최초 HBM3(4세대) 양산 타이틀을 뺏겼다.
이에 삼성전자가 AI 반도체 주도권을 되찾기 위해 공격적으로 차세대 D램 개발·양산 경쟁에 뛰어들었다는 것이다.

삼성전자는 지난 5월 업계 최초 CXL 2.0을 지원하는 128기가바이트(GB) CXL D램도 개발해 연내 양산을 앞두고 있다. 지난해 5월 세계 최초 CXL 1.1 기반 D램을 개발한 지 1년 만이다. CXL은 중앙처리장치(CPU) 1개당 사용할 수 있는 D램이 제한된 기존 방식과 달리 여러 인터페이스를 하나로 통합해 각 장치 간 직접 통신을 가능하게 한다. 이를 통해 D램에서 처리 가능한 서버 메모리 용량을 수십 테라바이트(TB)까지 확장할 수 있다.

SK하이닉스 역시 지난해 10월 업계 최초로 CXL 메모리에 연산 기능을 통합한 컴퓨테이셔널 메모리 솔루션(CMS) 개발에 성공했다.

■'메모리+연산', 한국이 기술 주도

메모리에 시스템반도체 연산 기능을 더한 PIM 경쟁도 불붙고 있다. 현재는 메모리가 저장 역할을 맡고, 중앙처리장치(CPU), 그래픽처리장치(GPU) 등 시스템반도체가 연산 기능을 담당하지만, PIM은 메모리 내부에서 데이터 연산 작업이 가능하다. HBM-PIM 기술을 적용할 경우 기존 HBM이 탑재된 GPU 가속기에 비해 AI 모델의 생성 성능이 3.4배 개선된다. 삼성전자의 HBM-PIM은 지난해 10월 AMD의 GPU 'MI-100'에 탑재됐다.

CXL 기반 PNM은 연산 기능을 갖춘 시스템반도체를 메모리 옆에 위치시켜 데이터 병목현상을 줄인다.
기존 GPU 가속기 대비 D램 용량은 4배 증가하고, AI 모델의 로딩 속도는 2배 이상 빨라진다. 메모리 업계에선 개발 초기 단계지만, 고용량 AI 모델 처리 수요 확대에 힘입어 보급 확대를 기대하고 있다.


업계 관계자는 "생성형 AI의 급성장은 메모리 개발 패러다임을 크게 바꾼 계기가 됐다"며 "미국 마이크론은 차세대 메모리 기술력에서 한 발 뒤처져 있는 만큼 삼성전자·SK하이닉스간 양강 구도가 당분간 이어질 것"이라고 말했다.

mkchang@fnnews.com 장민권 기자

fnSurvey