삼성전자가 인공지능(AI) 가속기 위에 고대역폭메모리(HBM)를 직접 쌓는 차세대 구조를 제시했다. AI 모델이 진화하면서 커질수록 연산장치와 메모리 사이의 데이터 이동이 병목으로 떠오르자, 둘 사이의 거리를 줄여 성능과 전력 효율을 끌어올리겠다는 구상이다. 삼성전자는 4일(현지시간) 미국 캘리포니아주 샌타클래라에서 개막한 ‘FMS 2026’에서 차세대 3차원 메모리 ‘zHBM’과 ‘zNAND-O’의 모형을 업계 최초로 공개했다. 약 30개 제품을 전시한 삼성전자 부스에는 관람객이 몰렸고, zHBM의 데이터 이동 방식과 향후 적용 가능성을 묻는 질문이 이어졌다. 현재 HBM은 여러 장의 D램을 쌓아 그래픽처리장치(GPU) 등으로 이뤄진 AI 가속기 옆에 둔다. zHBM은 쌓아 둔 HBM 전체를 가속기 상단에 올리는 방식으로 데이터가 오가는 거리를 최소화한다. 삼성전자는 zHBM 적용 시스템이 차세대 HBM5보다 성능은 최대 8배, 전력 효율은 최대 3배 높고 열 저항은 절반 이하로 낮아질 수 있다고 설명했다. 이는 양산품 실측치가 아닌 차세대 구조의 목표 성능이다. 김경륜 삼성전자 D램개발실 상무는 기조연설에서 “현재 HBM이 수년 안에 한계에 부딪힐 것을 모두 알고 있다”며 “이를 돌파할 기술을 생각하면 3차원밖에 없다”고 말했다. 여러 장을 쌓아 올리는 3D 전략은 낸드플래시로 이어진다. 삼성전자가 개발 중인 zNAND-O는 낸드 칩을 4단 또는 8단으로 쌓는다. D램은 처리 속도가 빠르지만 너무 비싸고 공급도 부족하다. 따라서 상대적으로 저렴하고 용량이 큰 낸드의 속도를 개선해 최대한 D램처럼 쓰도록 해보겠다는 구상이다. 이 기술은 스마트폰과 PC 안에서 AI를 구동하는 온디바이스 시장을 겨냥한다. 현재웅 삼성전자 메모리사업부 상무는 “개인마다 집 안에 미니 데이터센터를 갖게 하는 것이 우리의 비전”이라고 말했다. 삼성은 400단 이상을 쌓은 10세대 V낸드 ‘V10 BV-NAND’도 처음 공개했다. 셀과 주변 회로를 따로 만든 뒤 수직으로 붙이는 웨이퍼 본딩과 3스택 기술을 적용해 전 세대보다 집적도를 약 58% 높였다. V10 BV-NAND와 메모리 안에서 일부 연산을 처리하는 LPDDR5X-PIM은 행사 최고 제품상인 ‘베스트 오브 쇼’를 받았다. zHBM처럼 메모리와 AI 가속기를 수직으로 결합하려면 메모리 기술뿐 아니라 파운드리와 첨단 패키징 역량이 함께 필요하다. 삼성전자는 설계부터 제조·패키징까지 한 회사에서 제공하는 ‘원스톱 솔루션’을 경쟁력으로 내세웠다. 한편, SK하이닉스도 샌디스크와 고대역폭 낸드플래시(HBF) 표준을 제시하며 개방형 생태계 구축에 무게를 뒀다. 양사의 차세대 기술 경쟁은 AI가 학습을 넘어 추론 중심으로 빠르게 옮겨가면서 더욱 치열해질 전망이다. FMS에 참석한 시장조사업체 욜그룹은 삼성전자와 SK하이닉스의 투자 확대를 근거로 한국이 2031년까지 메모리 시장 선두를 유지할 것으로 내다봤다.

삼성전자가 인공지능(AI) 반도체의 성능을 떨어뜨리는 데이터 병목을 줄이기 위해 차세대 3차원 메모리 기술을 공개했다. 고대역폭메모리(HBM)를 AI 가속기 위에 직접 쌓아 데이터 이동 거리를 줄이고, 처리 속도와 전력 효율을 함께 높이는 방식이다. 삼성전자는 4일(현지시간) 미국 캘리포니아주 샌타클래라에서 열린 메모리 행사 ‘FMS 2026’ 기조연설에서 차세대 메모리 구조인 ‘zHBM’을 선보였다. 김경륜 삼성전자 D램개발실 상무는 “기존 패키징 구조로는 가속기 칩과 메모리 간 물리적 거리를 줄이는 데 한계가 있다”며 새로운 구조가 필요한 이유를 설명했다. 현재 HBM은 여러 개의 D램을 수직으로 쌓은 뒤 그래픽처리장치(GPU) 등 AI 가속기 옆에 배치한다. AI가 처리하는 데이터가 늘어날수록 가속기와 메모리 사이에서 데이터가 오가는 데 시간이 걸리고 전력 소모도 커진다. 이른바 ‘메모리 장벽’이다. zHBM은 HBM을 가속기 위에 직접 적층해 이 거리를 줄인다. 칩을 가로와 세로 방향으로 배치하던 기존 방식에서 벗어나 높이인 Z축까지 활용한다는 뜻에서 이름 앞에 ‘z’를 붙였다. 삼성전자에 따르면 zHBM은 현재 개발 중인 HBM5와 비교해 GPU당 성능을 최대 8배, 전력 대비 성능을 최대 3배 높일 수 있다. 메모리를 위로 쌓을수록 열이 빠져나가기 어려워지는 문제를 해결하기 위해 열 저항도 HBM5의 10~25% 수준으로 낮췄다. 삼성전자는 zHBM에 앞서 상용화를 추진할 HBM5의 개발 방향도 소개했다. HBM5에는 2나노미터 공정 기반의 베이스 다이와 게이트올어라운드(GAA) 트랜지스터를 적용한다. 메모리 칩 측면으로 열을 내보내는 구조도 도입해 HBM4E보다 성능은 2배 높이고 열 저항은 20% 이상 낮추는 것을 목표로 하고 있다. 낸드 분야에서는 스마트폰과 PC 등 기기 안에서 AI를 구동하는 온디바이스 AI용 ‘z낸드-O’를 공개했다. D램은 빠르지만 비싸고 용량을 늘리는 데 한계가 있는 반면, 낸드는 가격이 낮고 대용량을 구현하기 쉽지만 상대적으로 속도가 느리다. z낸드-O는 낸드의 비용과 용량상 이점을 유지하면서 처리 속도를 끌어올린 제품이다. 이진엽 삼성전자 플래시개발실 부사장은 매개변수 1200억개 규모의 AI 모델을 시험 구동한 결과, z낸드-O가 기존 D램 서버와 같은 초당 토큰 처리량을 내면서도 메모리 비용은 6분의 1에 그친다고 설명했다. 비싼 D램을 대량으로 사용하지 않고도 AI 모델을 빠르게 구동할 수 있다는 의미다. 이 부사장은 기조연설 도중 초소형 기업용 솔리드스테이트드라이브(SSD) ‘BM1773’을 들어 보이며 “믿기 힘들겠지만 이 작은 스토리지 칩 하나가 최고급 세단 한 대 값과 맞먹는다”고 말했다. 이어 “바닥에 떨어뜨린다면 당장 내일부터 새 직장을 구하러 다녀야 할 것”이라고 말해 참석자들의 웃음을 자아냈다. 삼성전자는 이날 400단 이상을 수직으로 쌓은 10세대 V낸드 ‘V10 BV-낸드’도 업계 최초로 공개했다. AI 모델이 고도화하면서 연산을 담당하는 HBM뿐 아니라 방대한 데이터를 저장하는 낸드와 기업용 SSD 수요도 함께 늘어나는 데 대응한 제품이다. 삼성전자는 HBM과 고성능 낸드, 기업용 SSD를 모두 공급할 수 있는 제품군과 양산 역량을 앞세워 AI 데이터센터부터 온디바이스 AI까지 시장을 넓힐 계획이다. 김 상무는 기조연설에서 “삼성이 돌아왔다”며 차세대 AI 메모리 경쟁에 대한 자신감을 나타냈다.