SK하이닉스가 인공지능(AI)용 초고성능 D램 신제품인 ‘HBM3E’ 개발에 성공하고 성능 검증 절차를 위해 고객사인 엔비디아에 샘플을 공급하기 시작했다고 21일 밝혔다. HBM은 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치·고성능 제품으로 최근 SK하이닉스와 삼성전자가 업계 선두 자리를 놓고 치열한 경쟁을 벌이고 있다. 시장조사업체 트렌드포스는 지난해 말까지는 SK하이닉스가 시장점유율 50%로 삼성전자에 10% 포인트 앞섰지만 올해는 삼성이 점유율을 늘려나가며 양 사가 각각 46~49%로 시장을 양분할 것으로 보고 있다. SK하이닉스가 성능 검증에 들어간 HBM3E는 5세대 제품으로 초당 최대 1.15테라바이트(TB) 이상의 데이터를 처리할 수 있다. 이는 풀HD급 영화 230편 이상 분량의 데이터를 1초 만에 처리하는 수준이다. 신제품은 하위 호환성도 갖춰 HBM3를 염두에 두고 구성한 시스템에서도 설계나 구조 변경 없이 적용할 수 있으며 열 방출 성능은 기존 대비 10% 향상됐다. SK하이닉스는 “HBM3를 독점적으로 양산해 온 경험을 바탕으로 세계 최고 성능이 구현된 HBM3E를 개발하는 데 성공했다”며 “내년 상반기부터 HBM3E 양산에 들어가 AI용 메모리 시장에서 독보적인 지위를 확고히 하겠다”고 강조했다. 삼성전자 역시 5세대 제품에 해당하는 HBM3P 샘플을 올 하반기 중 고객사에 제공해 성능 검증을 진행할 예정이다.

SK하이닉스가 인공지능(AI)용 초고성능 D램 신제품인 ‘HBM3E’ 개발에 성공하고, 성능 검증 절차를 위해 고객사인 엔비디아에 샘플을 공급하기 시작했다고 21일 밝혔다.HBM은 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치·고성능 제품으로, 최근 SK하이닉스와 삼성전자가 업계 선두 자리를 놓고 치열한 경쟁을 벌이고 있다. 시장조사업체 트렌드포스는 지난해 말까지는 SK하이닉스가 시장 점유율 50%로 삼성전자에 10%포인트 앞섰지만, 올해는 삼성이 점유율을 늘려나가며 양사가 각각 46~49%로 시장을 양분할 것으로 보고 있다. SK하이닉스가 성능 검증에 들어간 HBM3E는 5세대 제품으로, 초당 최대 1.15테라바이트(TB) 이상의 데이터를 처리할 수 있다. 이는 풀HD급 영화 230편 이상 분량의 데이터를 1초 만에 처리하는 수준이다. 신제품은 하위 호환성도 갖춰 HBM3를 염두에 두고 구성한 시스템에서도 설계나 구조 변경 없이 적용할 수 있으며, 열 방출 성능은 기존 대비 10% 향상됐다. SK하이닉스는 “HBM3를 독점적으로 양산해온 경험을 바탕으로 세계 최고 성능이 구현된 HBM3E를 개발하는 데 성공했다”며 “내년 상반기부터 HBM3E 양산에 들어가 AI용 메모리 시장에서 독보적인 지위를 확고히 하겠다”고 강조했다. 이안 벅 엔비디아 하이퍼스케일·HPC 담당 부사장은 “엔비디아는 최선단 가속 컴퓨팅 솔루션용 HBM을 위해 SK하이닉스와 오랜 기간 협력을 지속해왔다”며 “앞으로도 차세대 AI 컴퓨팅을 선보이고자 HBM3E 분야에서 양사 간 협업이 계속되길 기대한다”고 밝혔다. 류성수 SK하이닉스 D램상품기획담당 부사장은 “HBM3E를 통해 AI 기술 발전과 함께 각광받는 HBM 시장에서 제품 라인업의 완성도를 높이며 시장 주도권을 확고히 하게 됐다”며 “앞으로 고부가 제품인 HBM 공급 비중이 계속 높아져 경영실적 반등 흐름이 가속화될 것”이라고 말했다.

인공지능(AI)이 다시 주목받으면서 그래픽처리장치(GPU)와 함께 몸값이 높아지는 제품이 있습니다. 바로 고대역폭 메모리(HBM·High Bandwidth Memory)입니다. 사실 GPU 가운데서 HBM을 탑재한 제품은 소수에 불과합니다. 하지만 최근에는 그 소수의 제품에 대한 수요가 폭발하고 있습니다. 고성능 AI 연산을 위해서 H100 같은 강력한 성능을 지닌 GPU가 필요한데, 여기에 HBM이 탑재되기 때문입니다.  최근 미국 로스앤젤렌스(LA)에서 열린 최대 규모 컴퓨터 그래픽스 콘퍼런스 ‘시그래프’(SIGGRAPH) 행사에서 엔비디아의 젠슨 황 최고경영자(CEO)는 HBM3E를 장착한 GH200 그레이스 호퍼 슈퍼칩을 공개했습니다. 지난해 공개한 HBM3 버전과 비교해서 메모리 용량은 1.5배 정도 늘어나고 대역폭도 4TB/s에서 5TB/s로 증가해 더 많은 데이터를 학습하고 사용자가 원하는 결과를 내놓는 데 유리해졌습니다.  HBM은 사실상 SK 하이닉스와 삼성전자가 시장을 양분하고 있습니다. 시장 조사기관의 분석에 따르면 지난해 시장 점유율은 SK 하이닉스가 50%, 삼성전자가 40%, 마이크론이 10% 정도로 D램보다 더 국내 기업이 독보적인 점유율을 자랑하는 분야입니다. HBM은 상당히 고부가가치 상품일 뿐 아니라 수요가 급격히 증가하고 있어 앞으로 우리나라의 새로운 주력 상품이 될 것으로 기대되고 있습니다.  그런데 이렇게 좋은 제품이라면 더 적용 범위를 늘려 나가도 되지 않을까 하는 생각이 드는 게 사실입니다. 그래픽 카드에 쓰이는 HBM이 처음 등장했을 때만 해도 그런 생각을 지닌 사람들이 많았습니다. 많은 이들이 이제는 용량이나 속도 한계에 점점 도달한 그래픽스 더블 데이터 레이트(GDDR) 메모리를 대신해 HBM이 새로운 대세가 될 것으로 믿었습니다.  여기서 잠깐 GDDR 메모리에 대한 이야기를 먼저 해야 합니다. 초창기 GPU들은 CPU와 동일한 DDR 계열 메모리를 사용했는데, GPU가 처리하는 데이터의 양이 급격히 증가하면서 곧 병목 현상에 부딪히게 됩니다. 그래서 나온 것이 GDDR 메모리였습니다. GDDR3부터 본격적으로 시장에 공급되었고 이후 GDDR5에서는 사실상 그래픽 메모리의 표준이 되었습니다. GDDR5는 사실 DDR3 메모리의 변형으로 같은 건물에 엘리베이터와 통로를 여러 개 만들어 속도를 높인 것으로 이해할 수 있습니다.  하지만 GPU 발전 속도가 GDDR 메모리 발전 속도보다도 더 빠른 것이 다시 문제가 됐습니다. 고성능 GPU에서 필요한 메모리 대역폭을 얻기 위해서는 256bit 메모리 인터페이스와 GDDR 계열 메모리로도 부족한 상황이 된 것입니다. 여기에 GDDR 메모리는 여러 층으로 쌓기도 힘들어 용량까지 한계가 분명했습니다.  2013년 JEDEC에서 표준을 확정한 HBM은 이 문제에 대한 완벽한 해결책으로 보였습니다. HBM은 기본적으로 메모리를 4층, 8층, 12층씩 위로 쌓아 올린 적층형 메모리 구조라 면적 대비 용량이 GDDR과 비교되지 않을 정도로 높습니다. 그러면서도 데이터 전송 속도를 높이기 위해 위아래로 작은 통로인 TSV를 무수히 뚫어 데이터 전송 속도를 획기적으로 끌어 올렸습니다.  그만큼 제조가 까다롭고 프로세서와 연결을 위해 인터포저라는 중간층을 또 넣어야 한다는 것이 문제였지만, 장기적으로 보면 GDDR 메모리는 속도와 용량면에서 HBM의 상대가 되지 않을 것으로 예상되었습니다. 하지만 이런 기대에도 불구하고 2015년 1세대 HBM을 장착한 라데온 R9 Fury X는 GDDR5를 장착한 엔비디아의 GTX 980 Ti를 넘지 못하는 실망스러운 성능을 보여줬습니다. 메모리 대역폭 자체는 라데온 R9 Fury X가 높았지만, GPU 자체의 성능에서 밀렸기 때문입니다. 지포스 쪽이 데이터 압축 능력이 더 뛰어나 대역폭의 단점을 쉽게 극복한 것도 이유였습니다. 더 저렴한 GDDR 메모리를 장착해도 경쟁자를 충분히 제압할 수 있는 상황에서 엔비디아는 게이밍 GPU에 굳이 HBM을 탑재할 필요를 느끼지 못했습니다. HBM 탑재 라데온 그래픽 카드가 지포스의 성능을 뛰어넘었다면 이후에는 다른 시장 상황이 펼쳐질 수 있었다는 점은 아쉬운 부분입니다.  아무튼 이후 GDDR 메모리도 계속 발전하면서 어느 정도 고성능 게이밍 GPU에 필요한 대역폭을 제공했습니다. 그리고 그래픽 카드 시장 자체가 엔비디아 독점 시장이 되면서 급할 게 없는 엔비디아는 가격이 저렴한 GDDR6X 메모리를 RTX 4000 시리즈에도 사용하고 있습니다. 처음에는 고성능 GPU에 HBM 계열 메모리를 사용했던 AMD마저도 제품군 자체가 중급형으로 내려가면서 비싼 HBM을 탑재해야 할 이유가 사라져 GDDR로 다시 회귀했습니다.  하지만 미래에는 다른 상황이 펼쳐질 수도 있습니다. 엔비디아와 AMD 모두 AI 및 HPC 연산용 GPU에 고성능 HBM을 아낌없이 사용하고 있기 때문입니다. 이런 종류의 제품은 기본적으로 가격이 매우 비싸기 때문에 HBM이 GDDR 메모리보다 좀 더 비싸다는 것은 큰 문제가 되지 않습니다. 그보단 현재 기술적 우위를 바탕으로 시장을 장악하려는 엔비디아와 AMD나 인텔 같은 도전자들이 가진 기술을 모두 쏟아붓는 시장이기 때문에 HBM3나 HBM3E 같은 최신 메모리에 대한 수요가 폭발하고 있습니다. 여기에 인텔은 서버 CPU에도 HBM을 탑재하면서 적용 범위가 넓어지고 있습니다.  이렇게 생산이 늘어나면 결국 규모의 경제가 이뤄져 가격은 내려갈 수 있습니다. 그리고 메모리 용량 및 속도에서 HBM의 발전 속도가 GDDR보다 여전히 빨라 몇 년 후에는 고성능 그래픽 카드나 서버 부분에서 적용 범위가 점점 더 넓어질 것으로 기대할 수 있습니다. 10년 만에 본격적으로 빛을 보고 있는 HBM의 미래를 기대해 봅니다.

긴 불황의 늪에 빠졌던 메모리반도체 시장이 하반기 반등 조짐을 보이면서 시장을 주도하는 삼성전자와 SK하이닉스의 신기술 경쟁에도 다시 불이 붙었다. 경쟁 재점화 지점은 세계 첨단 기술의 격전지인 미국 실리콘밸리로, SK하이닉스가 먼저 포문을 열었다. 9일 업계에 따르면 SK하이닉스는 8일(현지시간) 실리콘밸리 샌타클래라에서 개막한 ‘플래시 메모리 서밋 2023’에서 세계 최초 300단 이상 낸드플래시 개발을 공식화했다. SK하이닉스는 낸드 업계 세계 최대 규모의 이번 콘퍼런스에서 업계 최고층 321단 1테라비트(Tb) TLC 4D 낸드플래시 개발 경과를 발표하면서 개발 단계의 샘플을 전시했다. 낸드플래시는 전원이 꺼져도 데이터가 저장되는 메모리반도체로, 데이터 저장 공간인 셀을 수직으로 쌓아 올려 처리 용량을 늘리는 ‘적층기술’이 경쟁력의 핵심이다. SK하이닉스는 지난해 8월 이 행사에서 당시 최고층인 238단 낸드 4D 제품을 공개한 바 있다. 삼성전자는 ‘단순히 높게 쌓아 올리는 방식의 경쟁은 무의미하다’며 낸드 제품의 구체적인 단수는 밝히지 않고 있지만, 지난 11월 양산을 시작한 1Tb 8세대 V낸드가 236단인 것으로 알려졌다. 그간 낸드 기술의 한계로 여겨진 200단을 넘어 2025년 상반기부터 321단 제품을 양산한다는 게 SK하이닉스의 계획이다. 삼성전자는 서버, PC, 오토모티브 등 다양한 응용처별 최신 메모리 솔루션과 기술을 선보였다. 특히 이번에 처음 공개한 8세대 V낸드 기반 데이터센터용 대용량 저장장치(SSD)는 연속 읽기 성능이 이전 세대 제품보다 최대 2.3배, 임의 쓰기 성능은 2배 이상 향상됐다. 전력 효율은 전 세대 제품 대비 약 60% 향상됐으며, 고온다습한 환경평가 기준(JESD22-A101D) 700시간을 견딜 수 있는 등 극한 환경에서도 안정적으로 작동한다. 삼성전자와 SK하이닉스는 인공지능(AI) 칩 수요 증가와 맞물려 폭발적인 성장이 전망되는 고대역폭메모리(HDM) 경쟁도 본격화하고 있다. HBM은 여러 개의 D램을 수직으로 연결해 쌓아 기존 D램보다 데이터 처리 속도를 크게 끌어올린 메모리로, 미국 엔비디아가 시장의 큰손으로 통한다. 젠슨 황 엔비디아 최고경영자(CEO)는 이날 로스앤젤레스에서 열린 컴퓨터 그래픽스 콘퍼런스 시그래프에서 차세대 AI 칩 ‘GH200 그레이스 호퍼 슈퍼칩’을 공개하며 “증가하는 AI 컴퓨팅 파워 수요를 충족시키기 위해 세계 데이터센터의 규모를 확장하도록 설계됐다”고 밝혔다. GH200에 탑재될 HBM3E는 삼성전자와 SK하이닉스가 각각 공급할 것으로 알려졌다. 특히 삼성전자에서는 이재용 회장이 지난 5월 미국 출장 중 황 CEO를 비공개로 만난 사실이 알려지면서 양사의 협력이 더욱 강화될 것이라는 기대감이 커지고 있다.

긴 불황의 늪에 빠졌던 메모리 반도체 시장이 하반기 반등 조짐을 보이면서 시장을 주도하는 삼성전자와 SK하이닉스의 신기술 경쟁에도 다시 불이 붙었다. 경쟁 재점화 지점은 세계 첨단 기술의 격전지인 미국 실리콘밸리로, SK하이닉스가 먼저 포문을 열었다.9일 업계에 따르면 SK하이닉스는 8일(현지시간) 실리콘밸리 산타클라라에서 개막한 ‘플래시 메모리 서밋 2023’에서 세계 최초 300단 이상 낸드플래시 개발을 공식화했다. SK하이닉스는 낸드 업계 세계 최대 규모의 이번 콘퍼런스에서 업계 최고층 321단 1테라비트(Tb) TLC(Triple Level Cell) 4D 낸드플래시 개발 경과를 발표하면서 개발 단계의 샘플을 전시했다. 낸드플래시는 전원이 꺼져도 데이터가 저장되는 메모리 반도체로, 데이터 저장 공간인 셀을 수직으로 쌓아 올려 처리 용량을 늘리는 ‘적층 기술’이 경쟁력의 핵심이다. SK하이닉스는 지난해 8월 이 행사에서 당시 최고층인 238단 낸드 4D 제품을 공개한 바 있고, 삼성전자는 ‘단순히 높게 쌓아 올리는 방식의 경쟁은 무의미하다’며 낸드 제품의 구체적인 단수는 밝히지 않고 있지만, 지난 11월 양산을 시작한 1Tb 8세대 V낸드가 236단인 것으로 알려졌다. 그간 낸드 기술의 한계로 여겨진 200단을 넘어 2025년 상반기부터 321단 제품을 양산한다는 게 SK하이닉스의 계획이다. 최정달 SK하이닉스 낸드개발담당 부사장은 컨퍼런스 기조연설에서 “4D 낸드 5세대 321단 제품을 개발해 낸드 기술 리더십을 공고히 할 계획”이라며 “인공지능(AI) 시대가 요구하는 고성능, 고용량 낸드를 시장에 주도적으로 선보이며 혁신을 이끌어가겠다”고 강조했다. 삼성전자는 서버, PC, 오토모티브 등 다양한 응용처별 최신 메모리 솔루션과 기술을 선보였다. 특히 이번에 처음 공개한 8세대 V낸드 기반 데이터센터용 대용량 저장장치(SSD)는 연속 읽기 성능이 이전 세대 제품보다 최대 2.3배, 임의 쓰기 성능은 2배 이상 향상됐다. 전력 효율은 전 세대 제품 대비 약 60% 향상됐으며, 고온 다습한 환경평가 기준(JESD22-A101D) 700시간을 견딜 수 있는 등 극한의 환경에서도 안정적으로 작동한다.삼성전자와 SK하이닉스는 AI칩 수요 증가와 맞물려 폭발적인 성장이 전망되는 고대역폭메모리(HDM) 경쟁도 본격화하고 있다. HBM은 여러 개의 D램을 수직으로 연결해 쌓아 기존 D램보다 데이터 처리 속도를 크게 끌어올린 메모리로, 미국 엔비디아가 시장의 ‘큰손’으로 통한다. 젠슨 황 엔비디아 최고경영자(CEO)는 이날 로스앤젤레스에서 열린 컴퓨터 그래픽스 콘퍼런스 시그래프에서 차세대 AI 칩 ‘GH200 그레이스 호퍼 슈퍼칩’을 공개하며 “증가하는 AI 컴퓨팅 파워 수요를 충족시키기 위해 세계 데이터 센터의 규모를 확장하도록 설계됐다”고 밝혔다. GH200에 탑재될 HBM3E는 삼성전자와 SK하이닉스가 각각 공급할 것으로 알려졌다. 특히 삼성전자는 이재용 회장이 지난 5월 미국 출장 중 황 CEO를 비공개로 만난 사실이 알려지면서 양사의 협력이 더욱 강화될 것이라는 기대감이 커지고 있다.