"인터넷없어도 생성형 AI 쓴다"…'온디바이스' 개화에 웃는 D램 업계

[파이낸셜뉴스] 국내외 주요 기업들이 서버나 클라우드 없이도 정보기술(IT) 기기 자체에 칩을 탑재해 연결성과 보안성을 높인 '온디바이스 인공지능(AI)' 제품을 줄줄이 공개하면서 관련 시장이 본격적인 개화를 맞고 있다. 생성형 AI 서버에 쓰이는 고대역폭메모리(HBM)에 이어 온디바이스 AI에 특화된 D램 수요가 급증할 것으로 예상돼 D램 호황기를 앞당길 것이란 기대감이 커지고 있다.

29일 관련 업계에 따르면 글로벌 주요 IT 기업들은 최근 인터넷 연결 또는 클라우드 접속 없이 생성형 AI 기능을 사용할 수 있는 온디바이스 AI 제품을 줄줄이 공개하고 있다.

퀄컴은 지난 10월 개최한 '스냅드래곤 서밋 2023’에서 온디바이스 AI 기능을 구현한 애플레케이션프로세서(AP) '스냅드래곤 8 3세대' 칩셋을 선보였다. 차세대 모바일 컴퓨팅용 프로세서 ‘스냅드래곤 X 엘리트’도 발표하며 PC로 온디바이스 AI 생태계를 확장하겠다는 구상도 내비쳤다.

대만 팹리스(반도체 설계전문) 업체 미디어텍은 자체 AI 가속기 차세대 APU(APU 790)를 적용한 ‘디멘시티 9300’ 발표했다. 디멘시티9300은 초당 토큰 20개의 속도로 매개변수 최대 70억개에 달하는 대규모언어모델(LLM)을 지원한다. 비보, 오포, 샤오미 등 중국 스마트폰에 대거 탑재되고 있다.

구글은 자체 개발한 온디바이스 AI AP ‘텐서 G3’를 적용한 스마트폰 ‘픽셀 8 시리즈’를 최근 공개했다. 더불어 자체 음성인식 AI ‘구글 어시스턴트'와 대규모 AI모델 '바드'를 통합한 AI 비서 '어시스턴트 위드 바드' 출시도 앞두고 있다.

국내 기업들도 온디바이스 AI 시장 주도권을 잡기 위해 드라이브를 걸고 있다. 삼성전자는 내년 1월 출시 예정인 '갤럭시S24' 시리즈에 자체 개발한 생성형 AI '가우스'를 탑재하기로 했다. 가우스는 △텍스트를 생성하는 언어 모델 △코드를 생성하는 코드 모델 △이미지를 생성하는 이미지 모델 등 3가지 모델로 구성된 프로그램이다. 삼성의 온디바이스 AI 기술이 탑재된 제품을 사용할 경우 개인정보 전송 없이 기기 제어, 문장 요약, 문법 교정 등을 손쉽게 활용할 수 있다.

온디바이스 AI 시대가 열리면서 고성능 D램을 제조하는 메모리 기업들도 수혜가 기대되고 있다.

삼성전자는 내년 4·4분기부터 온디바이스 AI에 특화된 저지연와이드(LLW) D램 양산을 시작한다.

SK하이닉스도 내년 3월 공개 예정인 애플의 증강현실(AR) 디바이스인 '비전 프로'에 고대역 스페셜 D램을 공급한다. AI 시장이 온디바이스 시장으로 다변화되면서 서버에서 차지하는 D램 비중은 2023년 17%에서 2027년 38%로 4년 만에 두 배 증가할 것으로 예측됐다.

박준영 현대차증권 연구원은 "2024년은 온디바이스 AI와 각종 AI 엔드 서비스 시장이 개화하며, 해당 서비스들을 구동하는 추론용 AI 신경망처리장치(NPU)·GPU에 관심이 집중될 것으로 예상된다"고 말했다.

[e-mail] 장민권 기자