가보지 않은 AI 메모리의 땅, 삼성이 먼저 밟았다

삼성전자, 세계 최초 인공지능 HBM-PIM

[파이낸셜뉴스] 17일 삼성전자가 공개한 고대역폭 프로세스 인 메모리(HBM-PIM)의 탄생은 메모리 반도체 업계에 새 지평을 예고하고 있다. 전통적인 메모리 기능인 데이터 저장뿐 아니라 시스템반도체 영역인 연산 기능까지 수행하는 '투인원(2 in 1) 반도체'로 한계를 극복했다는 평가가 나온다. 삼성전자는 지능형 메모리 기술로 AI 시대를 앞당기고, 미래 반도체 시장을 선점할 초격차 기술을 먼저 확보했다는 분석이다.

■폰 노이만의 벽 허물었다
최근 AI의 응용 영역이 확대되고 기술이 고도화됨에 따라 고성능 메모리에 대한 요구가 커진 상황이다. 일반적으로 AI 응용은 이미지 분류, 음성 인식, 기계 번역 분야에서 많이 활용되는 가운데 AI 시스템의 성능을 끌어올리기 위한 메모리의 성능 향상이 필수적으로 뒤따라야 한다.

하지만 기존의 메모리로는 한계였던 이른바 '폰 노이만의 병목현상'을 극복하기 어려웠다. 폰 노이만 구조는 현재 대부분의 컴퓨터에서 사용하는 방식으로 중앙처리장치(CPU)가 메모리로부터 명령어를 불러오고 실행하며 그 결과를 다시 기억장치에 저장하는 작업을 순차적으로 진행한다. 이 과정에서 CPU와 메모리간 주고받는 데이터가 많아지면 작업처리가 지연되는 현상이 생긴다. 일종의 데이터 교통체증으로 이해하면 쉽다.

삼성전자는 이를 극복하기 위해 메모리 내부의 각 뱅크(주기억장치를 구성할 때의 최소 논리적 단위)에 AI 엔진을 장착하고 병렬처리를 극대화해 성능을 높였다. AI 시스템에 HBM-PIM을 탑재할 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2배 이상 높아지고, 시스템 에너지는 70% 이상 감소된다.

또 HBM-PIM은 메모리 내부에서 연산처리가 가능하다. CPU와 메모리간 데이터 이동이 줄어들어 AI 전용 하드웨어인 가속기 시스템의 에너지 효율을 높일 수 있다.

하지만 PIM이 CPU나 GPU를 대체하는 기술은 아니다. 삼성전자 관계자는 "PIM은 AI 시스템 안에서 메모리의 한계를 극복하고 성능을 극대화한 솔루션"이라고 설명했다.

현재는 슈퍼컴퓨터와 AI 관련 업체들이 주요 고객이지만 차세대에는 모바일, 차량 반도체 등에 쓰이며 일반화될 가능성이 크다.

삼성전자는 이러한 혁신기술을 D램 공정에 접목시켜 HBM-PIM을 제품화하고 관련 논문을 반도체 분야 세계 최고권위 학회인 ISSCC에 공개했다.

■무주공산 AI반도체, 삼성이 선점
향후 AI 선도 업체인 AMD, 엔비디아, 퀄컴, 자일링스 등과의 협업도 속도를 더할 것으로 보인다. 삼성전자는 상반기 내 다양한 고객사들의 AI 가속기에서 HBM-PIM을 탑재해 테스트 검증을 완료할 계획이다. 또한 주요 고객사들과 PIM 플랫폼을 표준화하고, 새로운 생태계 구축을 위해 협력을 강화해 나갈 예정이다.

박광일 삼성전자 메모리사업부 상품기획팀장(전무)은 "HBM-PIM은 AI 가속기의 성능을 극대화시킬 수 있는 업계 최초의 AI 맞춤형 PIM 솔루션"이라면서 "고객사와 지속적으로 협력을 강화해 PIM 에코 시스템을 구축해 나갈 것"이라고 말했다.

미국 아르곤 국립연구소 연구실장 릭 스티븐스는 "HBM-PIM은 AI 응용을 위한 성능 및 에너지 효율 측면에서 놀라운 성과로 HBM-PIM 시스템 평가를 위해 향후에도 삼성전자와 지속적인 협력을 기대한다"고 전했다.

한편 우리 정부는 최근 AI 반도체 선도국가로 도약하기 위해 올해 1253억원을 투입키로 했다. PIM과 신경망처리장치(NPU) 반도체 개발을 추진하는 것은 물론 석·박사급 전문인력도 270명을 양성하기로 했다.

정부는 '현재 AI 반도체 시장은 지배적 강자가 존재하지 않는 초기 단계'라고 진단하면서 올해 2310억달러인 AI 반도체 시장이 10년 후 3769억달러까지 성장할 것으로 전망했다.

[e-mail] 김경민 기자