최태원 SK그룹 회장이 2일(현지시간) “앞으로 5년 안에 전체 웨이퍼 생산능력을 두 배로 늘릴 것”이라고 밝혔다. 최 회장은 이날 대만 타이베이에서 열린 정보통신(IT) 박람회 ‘컴퓨텍스 2026’에서 취재진과 만나 “메모리 병목현상은 2030년까지 계속될 전망”이라며 “생산능력(캐파) 확대를 전속력으로 추진하고 있다”고 설명했다. SK그룹이 메모리 공급 확대와 관련한 구체적인 목표를 공개적으로 언급한 것은 이번이 처음이다. AI 팩토리 건설에 대한 포부도 밝혔다. 최 회장은 “현재는 AI용 메모리 칩을 생산하고 있지만, 앞으로는 AI 팩토리를 만드는 데 도전하고 싶다”고 전했다. 그는 “미래에는 더 많은 인텔리전스를 생산할 수 있는 수많은 AI 팩토리가 필요할 것”이라며 “이것이 전 인류를 도울 것이라고 믿고, 더 많은 AI 팩토리를 구축하고 싶다”고 강조했다. 최 회장은 엔비디아·TSMC와의 삼각 동맹에 대해 “역대 최고의 파트너십을 맺고 있다”고 했다. 그는 전날에도 젠슨 황 엔비디아 최고경영자(CEO)를 만나 AI 메모리의 협력 미래에 대해 논의했다. 황 CEO는 이날 컴퓨텍스 2026에 마련된 SK하이닉스 부스를 깜짝 방문해 SK하이닉스의 HBM4E 웨이퍼에 “더 많이 만들어 주세요(Please Make More)”라는 문구와 함께 사인을, 192GB(기가바이트) 소캠에는 “소캠 사랑해(LOVE SOCAMM)”라는 글귀를 남겼다. 최 회장은 황 CEO에 대해 “서로의 신뢰와 의존성을 바탕으로 한 우정”이라며 “파트너십을 굳건히 유지하고 아주 오랫동안 함께 나아갈 것”이라고 말했다.

현재 미니 PC 시장에서 가장 인기 있는 제품은 아마도 ‘맥 미니’일 것입니다. 특히 ‘로컬 인공지능(AI)’ 돌리기에 적합한 M4 프로 맥 미니가 큰 인기를 끌고 있습니다. 맥 미니는 LLM을 로컬로 장시간 돌릴 때 몇 가지 큰 장점이 있습니다. 우선 통합 메모리 구조로 메모리의 3분의2를 GPU에 할당해 큰 모델을 돌릴 수 있으며 데이터가 CPU와 GPU를 오가면서 시간과 연산 자원을 낭비할 필요가 없습니다. 여기에 매우 전력 소모량이 적어서 장시간 돌려도 전기료가 적게 나옵니다. 차지하는 면적이 매우 적은 것도 장점입니다. 이런 이유로 맥 미니는 24시간 돌릴 수 있는 인공 지능 비서인 ‘오픈 클로’(Open Claw)용으로 품귀 현상을 보일 정도로 인기가 좋습니다. 600만원이 넘는 그래픽 카드인 RTX 5090는 속도는 더 빠를지 몰라도 메모리는 32GB로 한정돼 돌릴 수 있는 모델 크기에 제한이 있고 엔비디아의 AI 미니 PC인 ‘DGX 스파크’는 128GB라는 대용량 메모리를 갖췄지만 최근 가격이 꽤 올라 맥 미니가 AI용으로 훨씬 더 가성비 있는 제품이 된 상태입니다. AI 미니 PC의 인기가 좋아지면서 또 다른 CPU 및 GPU 제조사인 AMD 역시 대항마를 출시해 이 시장에서 경쟁을 예고하고 있습니다. 최근 AMD는 자체 AI PC인 ‘라이젠 AI 헤일로 개발자 플랫폼’(Ryzen AI Halo Dev Platform, 이하 라이젠 AI 헤일로)을 선보였습니다. 최대 16코어 CPU와 라데온 8060S (40코어 RDNA 3.5) GPU, 50 TOPS XDNA 2 NPU를 지닌 라 데온 AI MAX+ 395를 대표 제품으로 내세운 라이젠 AI 헤일로는 최대 128 GB LPDDR5X-8000와 2TB SSD를 지원하면서도 맥 미니와 견줄 수 있는 작은 크기를 자랑합니다. 최대 TDP는 120W로 다소 높지만, 고성능 그래픽 카드와 비교하면 감당할 만한 수준입니다. AMD는 이 모델의 시작 가격이 3999달러이고 최대 128GB 메모리를 탑재해 200B의 큰 파라미터를 지닌 모델도 로컬로 구동할 수 있다고 설명하고 있습니다. 여기에 라이젠 AI 맥스 400 시리즈를 탑재한 2세대 모델의 경우 192GB 버전이 존재하고 최대 160GB나 되는 메모리를 GPU로 할당할 수 있어 최대 300B에 달하는 거대한 모델도 돌릴 수 있습니다. 또 AMD는 라이젠 AI 헤일로가 맥 미니보다 일부 생성형 AI에서 최대 4배 정도 빠르다고 주장하고 있는데, 훨씬 저렴한 제품과 비교하는 것이 과연 맞는 비교인지 궁금해지는 대목이기도 합니다. 오히려 비슷한 가격대인 맥 스튜디오와의 비교는 끝까지 보여주지 않는 점이 더 흥미롭습니다. 참고로 맥 스튜디오 M4 맥스 64GB 제품은 1TB SSD 기준 464만원이고 M3 울트라 96GB 1TB SSD 기준 659만원입니다. 시작 가격인 3,999달러를 현재 환율로 환산하면 600만원이 좀 넘는데 10% 부가세 가산 시 660만원 이상으로 M3 울트라 96GB와 비교가 맞지 않나 생각입니다. 여기에는 나름의 속사정이 있습니다. M3 울트라는 메모리 대역폭이 819 GB/s에 달해 토큰 생성 속도가 꽤 빠릅니다. 반면 AMD 라이젠 AI Max+ 395의 메모리 대역폭은 약 256 GB/s (쿼드 채널 LPDDR5x 8000 기준)으로 훨씬 느리기 때문에 직접 비교를 피한 것으로 보입니다. 오히려 M4 프로의 메모리 대역폭이 273 GB/s로 비슷합니다. 한편 비슷한 AI 미니 컴퓨터인 엔비디아 DGX 스파크와 비교해서는 일부 LLM 모델에서 토큰 속도가 더 빠르다고 주장하고 있습니다. 구체적으로 GPT OSS (120B)는 7% 이상, Qwen 3.5 (122B)는 12% 이상, Qwen 3.6 (35B)는 4% 이상, GLM 4.7 (30B)은 14% 이상입니다. 따라서 라이젠 AI 헤일로는 직접 경쟁 상태인 DGX 스파크보다 일부 모델에서 약간 더 나은 성능을 지니고 있으며 x86 CPU라 윈도우 OS도 구동이 가능하다는 것이 핵심이라고 하겠습니다. DGX 스파크는 개인용 컴퓨터보다는 미니 서버에 가까운 물건으로 일반 소비자용 PC처럼 사용이 어렵지만, 라이젠 AI 헤일로는 윈도우 OS를 설치해서 그런 식으로도 사용 가능합니다. 차라리 맥 미니와의 무리한 비교보다 이점에 초점을 맞춰 발표하는 게 더 낫지 않았나 하는 생각입니다. 가격 포지션으로 큰 차이가 나는데도 맥 미니를 주요 라이벌로 설정한 이유는 역설적으로 그만큼 맥 미니의 인기가 높다는 반증일 것입니다. DGX 스파크처럼 비싼 가격을 받아야 하지만, 맥 미니처럼 인기를 끌 수 있는 제품이 될 수 있을지 궁금해지는 발표입니다.

SK하이닉스가 영업이익률 약 72%를 기록하며 글로벌 반도체 기업을 웃도는 수익성을 보였다. 계속되는 인공지능(AI) 반도체 수요 급증에 힘입어 매출액 52조원, 영업익 37조원을 넘어 역대 최대 실적 기록 행진도 이어 갔다. SK하이닉스는 메모리 수요가 공급을 웃도는 상황이 당분간 이어질 것으로 보고 올해 투자 규모를 전년 대비 크게 늘리며 실적 호조를 이어 갈 방침이다. SK하이닉스는 분기 영업이익률이 71.5%로 지난해 4분기 58.4%를 넘어 역대 최고 기록을 경신했다고 23일 공시했다. 연결 기준 올해 1분기 영업이익은 37조 6103억원으로 전년 동기 대비 405.5% 증가했고, 앞서 역대 최대 기록이었던 지난해 4분기(19조 1696억원)와 비교해도 영업이익이 2배 수준으로 늘었다. 매출액은 52조 5763억원으로 198.1% 증가했다. 영업익과 매출 모두 분기 기준 최대 기록이다. SK하이닉스는 “1분기는 계절적 비수기임에도 AI 인프라 투자 확대로 수요 강세가 이어진 가운데 고대역폭 메모리(HBM)·고용량 서버용 D램 모듈·기업용 고성능 저장장치(eSSD) 등 고부가가치 제품 판매를 확대하며 실적 상승세를 이어 갔다”고 설명했다. 실적의 핵심은 ‘수익성’이다. 영업이익률 72%는 단순한 업황 반등이 아니라 AI 인프라 중심으로 재편된 메모리 산업 구조 변화의 결과로 보인다. 반도체 파운드리 1위인 TSMC의 1분기 영업이익률(58.1%)을 크게 웃돌았고 AI 핵심 기업인 엔비디아의 2026회계연도 4분기(2026년 1월 종료 기준) 영업이익률인 65.0%도 앞섰다. 또 경쟁사인 미국 마이크론의 2026회계연도 2분기 영업이익률(67.6%)보다 4.4% 포인트, 역대 최대 실적을 낸 삼성전자의 올해 1분기 영업이익률(43.0%)보다 29.0% 포인트 높다. 비수기 넘은 수요 확대AI 인프라 투자 확대로 수요 강세고부가가치 메모리 제품 판매 확대이는 단순 비교를 넘어 의미가 크다. 엔비디아는 그래픽처리장치(GPU) 설계라는 고부가가치 팹리스 기업이고 SK하이닉스는 대규모 설비투자가 필요한 메모리 제조업체다. 그럼에도 동일한 수준의 수익성을 달성했다는 것은 AI 가치사슬에서 ‘메모리’가 핵심 수익원으로 이동했음을 보여 준다. 이런 수익성은 HBM·범용 D램·eSSD 수요 급증이 동시에 맞물린 ‘삼박자’ 효과에서 비롯됐다. 우선 HBM은 AI 연산의 필수 부품으로 자리잡으며 가장 높은 수익성을 창출했다. 회사는 이날 콘퍼런스콜에서 “(4세대인) HBM2E부터 원가와 수율, 성능 등 종합적 제품 경쟁력과 고객 신뢰도 측면에서 최고 수준을 유지하고 있다”며 향후 3년간 고객 요청 수요가 SK하이닉스의 생산능력을 훨씬 상회할 것으로 내다봤다. 이어 6세대 HBM인 HBM4도 고객 요구 성능에 맞춰 생산 확대를 준비 중이며, 7세대 HBM4E는 내년 본격 양산을 목표로 하고 있다. 차세대 제품 연속 출시HBM 성능 향상·HBM4 생산 확대6세대 D램·321단 cSSD 공급 탄력HBM의 생산량 확대는 범용 D램 시장에도 파급효과를 미쳤다. HBM 생산은 범용 D램 대비 더 많은 웨이퍼를 소모하는 구조이기 때문에 최신 세대 D램인 DDR5 등 범용 제품 공급이 줄어들었고, 그 결과 가격이 급등했다. 실제 1분기 범용 D램 계약가는 90% 이상 상승하며 공급자 우위 시장이 형성됐다. 향후 회사는 10나노급 6세대(1c) 공정을 적용한 저전력 D램 LPDDR6와 192GB(기가바이트) 소캠(SOCAMM)2 양산을 통해 고성능 D램 공급을 확대할 계획이다. 낸드 부문에서도 변화가 나타났다. 회사는 “AI 모델이 고도화될수록 중간 데이터 처리량이 폭발적으로 증가하고 있다”며 “고성능·고용량 eSSD 채택이 빠르게 확대되고 있다”고 설명했다. 이어 “(이러한 수요에 대응하기 위해) 세계 최초로 321단 쿼드레벨셀(QLC) 낸드를 개발했고 고객 인증을 통해 기술 초격차를 확보했다”고 덧붙였다. 회사는 321단 개인용 고성능 저장장치(cSSD) ‘PQC21’ 공급을 시작했으며 eSSD도 전 영역으로 라인업을 확장하고 있다. 또한 올해 말까지 국내 낸드 생산량의 절반 이상을 321단 제품으로 전환할 계획이다. 앞으로도 메모리에 대한 강한 수요가 지속될 것으로 보인다. 회사는 “이번 메모리 가격 상승은 과거와 다른 구조적 변화”라며 “고객들이 가격보다 물량 확보를 우선시하는 상황이 지속되고 있다”고 밝혔다. 이어 “유의미한 생산능력 확대까지 좀더 시간이 걸리고 우호적 가격 환경이 당분간 유지될 것”이라며 장기공급계약(LTA)과 관련해 고민을 드러냈다. 이는 단기 호황이 아닌 중장기 공급 부족 국면 진입을 시사한다. 미래 전망도 청신호수요 구조적 변화… 장기계약 유리“재무 건전성 위해 100조 확보 목표”수익성 개선은 재무구조에도 반영됐다. 올해 1분기 말 현금성 자산은 54조 3000억원으로, 이는 지난해 말(34조 9000억원) 대비 19조 4000억원 늘어난 수치다. 반면 차입금 규모는 줄었다. 같은 기간 차입금은 2조 9000억원 감소한 19조 3000억원을 기록했다. 이에 따라 35조원의 ‘순현금’을 달성하며 재무 건전성이 한층 강화됐다. SK하이닉스는 이를 바탕으로 용인 반도체 클러스터, 청주 M15X 공장 증설, 극자외선(EUV) 노광장비 확보 등 대규모 투자를 확대할 계획이다. 아울러 글로벌 투자 자금 유치와 순현금 확보를 위해 미국 증권거래위원회(SEC)에 미국 주식예탁증서(ADR) 상장을 위한 신청서를 제출했으며, 올해 하반기 상장을 목표로 절차를 진행 중이다. 곽노정 SK하이닉스 대표이사 사장은 지난달 주주총회에서 “구조적 수요 성장에 대응하고 경쟁력을 유지하기 위해서는 안정적으로 투자할 수 있는 재무 건전성이 필수적”이라며 100조원 이상의 순현금 확보를 목표로 제시했다.

AI 데이터 센터 건설 붐이 거센 가운데, 메모리 수요 역시 폭증하고 있습니다. 메모리 종류 역시 전통적인 HBM이나 DDR5 메모리뿐 아니라 그래픽 카드용 GDDR 메모리는 물론 스마트폰용으로 개발된 LPDDR 메모리까지 AI 데이터센터가 블랙홀처럼 빨아 들이고 있습니다. 이런 현상을 보여주는 대표적인 제품이 엔비디아의 베라 루빈 (Vera Rubin) 입니다. Arm 아키텍처 기반의 베라 CPU와 루빈 GPU를 결합한 제품으로 루빈 GPU에는 최초로 HBM4 메모리가 탑재됩니다. 하지만 베라 CPX 같은 일부 제품은 HBM4 메모리 대신 저렴한 GDDR7 128GB 메모리를 탑재해 소비자용 그래픽 카드의 메모리 수급난이 더 심해질 것으로 예상됩니다. 베라 CPU의 경우 전통적인 DDR5 메모리는 물론 차세대 메모리 규격인 SOCAMM 2 (Small Outline Compression Attached Memory Module 2, 이하 소캠 2)을 사용할 수 있습니다. 소캠 2는 LPDDR5x 메모리를 서버에서도 사용할 수 있게 만든 규격으로 기존의 서버 메모리 모듈의 대세인 RDIMM를 대체할 수 있는 규격으로 주목받고 있습니다. LPDDR5x 메모리는 본래 스마트폰 등 모바일 기기를 위해 제안된 규격이기 때문에 메모리를 PCB 기판에 직접 붙이는 방식을 사용합니다. 따라서 교체나 업그레이드가 불가능합니다. 이는 스마트폰에서는 큰 문제가 되지 않으나 수리를 위해 메모리를 교체하거나 혹은 메모리 증설이 필요한 서버에서는 매우 불리한 방식입니다. 이런 단점을 개선하기 위해 LPDDR5x 메모리를 탈부착이 가능한 규격으로 만든 것이 소캠 2라고 할 수 있습니다. 소캠은 사실 노트북용으로 개발된 규격인 캠 (Compression Attached Memory Module, 압축 부착 메모리 모듈, CAMM)에서 유래한 규격입니다. 본래 의도는 노트북에서 사용되는 SO-DIMM이라는 오래된 규격을 대신해 LPDDR 메모리를 노트북에서도 사용할 수 있게 하는 것이었습니다. 하지만 캠 규격은 노트북 시장에서는 기대만큼 널리 사용되지 못했습니다. 인텔은 아예 LPDDR5x 메모리를 CPU와 함께 패키징 했고 AMD도 일부 모델에서 메모리를 같이 패키징 해서 크기를 줄이는 방향으로 개발했기 때문입니다. 그런데 LPDDR5x 메모리를 스마트폰 말고 컴퓨터에서도 쓰자는 아이디어가 AI 서버에서 더 주목받게 됩니다. 서버용 소캠 2 규격은 단일 모듈로 최대 256GB의 대용량을 구현할 수 있으며, 기존 DDR5보다 월등히 높은 153.6GB/s의 대역폭을 확보할 수 있습니다. 더욱 주목할 점은 장착 방식의 변화입니다. 수직으로 세워 장착하던 기존 RDIMM과 달리, 소캠 2는 CPU나 GPU처럼 기판에 평평하게 눕혀 장착하는 ‘압축 부착’ 방식을 취합니다. 덕분에 시스템 전체의 높이를 낮출 수 있고 일체형 냉각 솔루션을 적용하기가 훨씬 수월해졌습니다. 이는 강력한 발열 관리를 위해 수랭식 시스템 도입이 필수적인 베라 루빈 같은 고성능 서버에 매우 유리한 물리적 특성입니다. 여기에 막대한 전력 소모와 발열 문제로 골머리를 앓는 AI 데이터 센터 운영자들에게 저전력 특성을 지닌 LPDDR5x 기반의 소캠 2는 운영 비용을 절감할 수 있는 매력적인 해법입니다. 기본적으로 저전력인 LPDDR 규격인 데다 메인보드와 메모리 사이의 거리를 줄인 압축 부착 방식 덕분에 데이터 전송 과정에서 발생하는 전력 손실과 신호 간섭을 줄여 전력 소모는 줄이고 성능은 높일 수 있습니다. 최근 하이닉스의 192GB 소캠 2 메모리 양산을 발표했는데, 베라 CPU는 소캠 모듈 8개를 지원해 1.5TB의 용량을 채울 수 있습니다. 그리고 삼성과 마이크론 모두 256GB 소캠 2 제품의 샘플을 출하한 상태이기 때문에 미래에는 2TB 메모리 (256GB x8)까지 확장할 수 있을 것으로 보입니다. 물론 소캠 2의 장점은 엔비디아만 주목하는 것이 아닙니다. 경쟁자인 AMD 역시 차세대 에픽 서버 CPU인 베라노 (Verano)에 소캠 2를 지원할 예정입니다. 베라노는 2027년 출시를 목표로 하고 있으며 인스팅트 IM500 GPU와 함께 AMD의 AI 플랫폼을 구성할 예정입니다. 사정이 이렇다면 인텔 역시 서버 제품에서 소캠 2 지원을 고려하지 않을 수 없을 것입니다. 이렇게 AI 데이터 센터 시장에서 소캠 2 채택이 확산되면 소비자용 스마트폰 및 노트북 시장까지 영향이 있을 것으로 예상됩니다. LPDDR5x까지 데이터 센터로 빨려 들어가기 때문입니다. 물론 현재는 모든 형태의 메모리가 AI 데이터 센터로 향하고 있다고 해도 과언이 아닌 시기이기도 합니다. 다만 현재와 같은 AI 데이터 센터 붐이 가라앉더라도 LPDDR 메모리를 서버에서 사용할 때 누릴 수 있는 장점이 확실하기 때문에 결국 서버 시장에서 소캠이 새로운 대세로 자리잡을 가능성이 높아 보입니다. 그리고 언젠가 데스크톱 시장 역시 소캠이나 혹은 노트북용인 CAMM 규격이 확산되어 높은 성능과 낮은 전력 소모라는 장점을 누릴 날이 올 것으로 기대합니다.

적은 전기로 데이터 처리 속도 2배엔비디아 슈퍼칩 ‘베라 루빈’ 최적화HBM과 투트랙으로 효율성 높여차세대 기술서도 주도권 확보 총력“메모리 성능의 새로운 기준 될 것” SK하이닉스가 차세대 인공지능(AI) 서버용 메모리 모듈인 ‘소캠2(SOCAMM2) 192GB’를 본격 양산한다고 20일 밝혔다. 스마트폰 등에 쓰이던 저전력 D램(LPDDR5X)을 AI 서버에서 빠른 속도로 구동하면서도 전력 소비는 낮도록 개량한 제품이다. AI의 추론기능이 중요해지면서 전력 소비 대비 높은 성능이 요구되는 가운데 SK하이닉스가 고대역폭메모리(HBM)에 이어 차세대 영역에서도 주도권을 잡겠다고 선언한 셈이다. SK하이닉스는 “소캠2는 (DDR5를 활용한) 기존 서버용 메모리 모듈(RDIMM) 대비 데이터 처리 속도(대역폭)가 2배 이상 빠르고, 전력 효율은 75% 이상 개선된 고성능 AI 연산 최적화 솔루션”이라고 이날 밝혔다. 더 적은 전기로 더 많은 데이터를 처리할 수 있다는 의미다. 특히 이 제품은 엔비디아의 차세대 AI 플랫폼 ‘베라 루빈’에 맞춰 설계돼 향후 AI 서버에 본격 적용될 가능성이 크다. 이번 발표가 주목받는 이유는 AI 메모리 시장의 구조 변화와 맞물려 있어서다. 그간 AI 서버는 그래픽처리장치(GPU)가 연산을 수행하고, 이를 초고속으로 지원하는 HBM과 데이터를 저장·공급하는 RDIMM 중심으로 구성돼 왔다. GPU가 요리사라면 HBM은 바로 사용할 재료를 올려두는 도마, RDIMM은 재료를 보관하다 필요할 때 꺼내 쓰는 냉장고 역할을 했던 셈이다. 다만 AI 연산 속도가 급격히 빨라지면서 RDIMM의 데이터 공급 속도와 전력 효율이 병목 요인으로 지적돼 왔다. HBM 중심 구조를 유지하면서도, 보다 빠르고 효율적인 메모리에 대한 수요가 확대된 이유다. SK하이닉스는 소캠2를 통해 이런한 문제를 줄여, AI 처리 속도를 높이겠다는 전략이다. 업계에서는 소캠2에 대해 HBM의 완전한 대체품보다 역할을 나눌 것으로 보고 있다. HBM이 최고 성능을 담당한다면, 소캠2는 전력과 비용을 줄이면서 데이터를 효율적으로 공급하는 역할을 맡는 식이다. 이를 통해 AI 서버는 더 많은 작업을 보다 효율적으로 처리할 수 있게 된다. 이 같은 흐름은 AI 시장이 ‘학습’ 중심에서 ‘추론’ 중심으로 이동하는 변화와도 맞닿아 있다. 학습은 데이터를 이용해 AI 모델을 훈련시키는 과정이고, 추론은 학습된 AI를 실제 서비스에 활용하는 단계다. 최근에는 많은 기업들이 AI를 실제 서비스에 적용하면서 전력 효율이 높은 메모리 수요가 빠르게 늘고 있다. SK하이닉스 김주선 AI 인프라 사장은 “소캠2 192GB 제품 공급으로 AI 메모리 성능의 새로운 기준을 세웠다”며 “글로벌 AI 고객과의 긴밀한 협력을 바탕으로 최적의 성능을 제공하고, 신뢰받는 AI 메모리 솔루션 기업으로 자리매김하겠다”고 밝혔다.

엔비디아는 AI 시대에 가장 가치가 치솟은 기업입니다. 현재의 AI 기술 중 상당 부분이 이 회사가 만든 GPU에 의존하고 있기 때문입니다. 오래전부터 GPU의 병렬 연산을 위해 CUDA 코어와 소프트웨어를 공개했고 이를 AI 연산에 활용하는 생태계를 구축해 왔기 때문에 지금 와서 다른 회사의 하드웨어로 이를 대체하기 힘든 것이 현실입니다. 오랜 경쟁자인 AMD도 데이터 센터 GPU를 계속 공개하고 있고 인텔도 새로운 AI 시장 공략을 위해 GPU를 공개했지만, 시장을 먼저 선점한 엔비디아의 아성을 깨뜨리기는 쉽지 않습니다. 이런 상황에서 새로 공개한 블랙웰 GPU는 반도체 미세 공정의 한계를 극복하고 AI 연산 성능을 높여 누구도 따라잡기 쉽지 않은 경쟁력을 유지하려는 의도로 풀이됩니다. 블랙웰 GPU는 TSMC의 4nm 공정의 개량형인 4NP 공정으로 제조되었습니다. 3nm 공정을 적용하지 않은 이유는 확실치 않지만, 비용 및 공급 부족 등이 이유가 된 것으로 보입니다. 하지만 그런 만큼 트랜지스터 집적도를 전 세대인 호퍼 (Hopper)보다 더 높이기 힘든 상황입니다. 800억 개의 트랜지스터를 집적한 호퍼 H100 GPU는 4nm 공정에서 다이(die, 웨이퍼에서 잘라낸 반도체 칩) 면적이 814㎟에 달합니다. 이는 현재 반도체 제조 기술에서 이론적인 다이 크기의 한계치에 거의 근접한 것으로 더 크기를 늘리기 쉽지 않습니다. 따라서 블랙웰 B200은 두 개의 다이를 연결하는 방법으로 2080억 개의 트랜지스터를 집적했습니다. 이런 접근법은 최근 점점 일반적인 추세가 되고 있습니다. 공정 미세화의 한계에 부딪힌 반도체 제조사들은 하나의 큰 칩 대신 여러 개의 작은 칩인 칩렛을 연결해 거대한 크기의 프로세서를 만들고 있습니다. 인텔, AMD, 애플이 모두 이 방법을 사용했고 이번에는 엔비디아도 이 방식을 적용해 트랜지스터 집적도를 대폭 늘렸습니다. 블랙웰 B200은 AI 연산에서 전 세대인 H100과 비교해서 최대 5배인 20페타플롭스의 성능을 지니고 있습니다. 물론 칩을 두 개 붙인 점을 생각하면 실제 성능은 2.5배라고 할 수 있는데, 실은 FP 8 연산의 절반 정도의 자원을 소모하는 FP 4 연산에서 그렇다는 이야기로 FP 8 기준으로 보면 AI 연산 능력은 절반 수준인 10페타플롭스가 최대입니다. 결국 칩 하나의 성능은 사실 1.25배 정도로 트랜지스터 수 증가를 생각하면 딱 그 정도의 성능 증가인 셈입니다. 하지만 그렇다고 해서 블랙웰이 아무 의미 없는 꼼수에 지나지 않는 것은 아닙니다. FP 4 연산만 해도 충분한 경우 AI 연산 속도를 크게 높일 수 있고 심지어 FP 4와 FP 8 연산의 중간을 원하는 고객을 위해 FP 6까지 지원하는 기능을 갖춰 더 유연한 AI 연산이 가능합니다. 그보다 더 중요한 점은 AI 경쟁이 격화되면서 어떤 비용을 치르더라도 남들보다 앞서기를 원하는 고객을 위해 성능을 높일 수 있는 다양한 옵션을 제공하고 있다는 것입니다.예를 들어 블랙웰은 기반 GB 200은 그레이스 슈퍼칩 CPU 한 개와 두 개의 B200 GPU를 하나로 묶어 최대 40페타플롭스의 AI 연산 능력을 갖고 있습니다. 물론 그만큼 비싸고 전력 소모도 엄청나지만, AI 개발에 사활을 걸고 있는 기업이 많아 오히려 수요 대비 공급이 부족할 것으로 예상됩니다. 그리고 이 경우 HBM의 수요가 크게 늘어 우리나라 메모리 업계에도 호재가 될 것입니다. B200 GPU는 24GB HBM3e를 8개나 탑재해 192GB의 메모리 용량을 갖고 있고 GB200는 그 두 배인 384GB의 HBM3e 메모리를 지니고 있기 때문입니다. 여기서 화룡점정을 찍는 것 같은 소식은 비용에 상관없이 최강의 성능이 요구하는 고객을 위한 서버 랙 시스템인 GB 200 NVL 72 노드입니다. 하나의 서버 랙에 두 개의 GB 200을 탑재한 서버 트레이 18 유닛을 쌓아서 총 72개의 B200 GPU를 장착한 시스템으로 강력한 대규모 AI 연산을 위한 슈퍼컴퓨터라고 할 수 있습니다. 다만 이 경우 엄청난 전력을 소모하기 때문에 공랭 쿨러 대신 수랭 쿨러를 사용해야 시스템 발열을 처리할 수 있습니다.그런데 이렇게 많은 프로세서를 사용해 대규모 연산 시스템을 구축하는 경우 데이터를 공유하고 작업을 분산하는 과정이 새로운 문제로 떠오르게 됩니다. 이 과정에서 병목현상이 생기면 전체 시스템의 성능이 크게 저하되는 것입니다. 이를 해결하기 위해 엔비디아는 아예 NVLINK 스위치라는 새로운 네트워크 전용 프로세서를 만들었습니다. 그리고 NVLINK 스위치 프로세서를 서버 트레이 하나에 두 개씩 넣어서 총 14.4TB/s의 대역폭을 확보했습니다. 이런 트레이가 9개가 있기 때문에 GB 200 NVL 72 노드 한 개가 130TB/s에 달하는 거대한 프로세서 간 대역폭을 확보할 수 있습니다. 덕분에 갈수록 커지고 있는 대규모 AI 학습 데이터를 더 효과적으로 처리하고 학습을 빨리할 수 있게 됐습니다. 마지막으로 GB 200 NVL 72 노드를 여러 대 연결하면 엑사플롭스급 AI 슈퍼컴퓨터 구축이 가능합니다. 물론 비용도 에너지 소모량도 엄청나지만, 역시 수요는 충분할 것으로 예상됩니다. 블랙웰 GPU를 보면 AI 하드웨어가 본격적인 산업화 시대에 도달했다는 것을 알 수 있습니다. 과거 GPU는 게임용으로 많이 사용되었고 초기 AI 연산용 GPU도 이것과 크게 다르지 않았으나 최근 나오는 데이터 센터 GPU는 산업용 및 연구용으로 특화되어 관련 분야에 종사하는 사람이 아니라면 직접 한 번 보거나 다뤄보기 어려운 물건이 됐습니다. 블랙웰 GPU는 대규모 데이터 처리와 AI 연산에 적합한 데이터 센터 GPU로 AI 혁명을 한 단계 앞당길 제품이 될 것으로 보입니다.

GDDR은 이름처럼 그래픽 카드를 위해 만들어진 고속 메모리입니다. 초기 그래픽 카드는 일반 SDR, DDR 메모리를 사용했지만, 처리해야 하는 그래픽 데이터의 양이 갈수록 커지면서 PC용 메모리로는 감당하기 힘들어지자, GDDR이라는 새로운 규격을 만든 것입니다. GDDR 메모리가 본격 사용된 것은 2004년에 나온 엔비디아의 지포스(GeForce) FX 5700 울트라 그래픽 카드였습니다. 이 그래픽 카드는 GDDR2 메모리를 탑재한 시험작이었습니다. 그 다음 지포스 6800 울트라에 GDDR3가 사용되면서 본격적인 GDDR 메모리 시대가 열렸습니다. GDDR 메모리는 본래 DDR2, DDR3 메모리에 기반한 고속 메모리로 데이터가 지날 수 있는 통로를 여러 개 만들고 각각의 통로의 속도를 더 빠르게 만든 것이 특징입니다. 다만 그렇기 때문에 DDR 메모리보다 가격이 비싸고 전력 소모가 큰 단점도 지니고 있습니다. 일반 컴퓨터에서 DDR 계열 메모리 대신 GDDR 메모리를 사용하지 않는 이유입니다. 시스템 메모리는 속도 못지않게 용량도 중요하고 전력 소모와 발열이 너무 커서도 안 되기 때문에 DDR 계열 메모리 정도면 적당합니다. 하지만 GPU의 경우 발전 속도가 워낙 빠르다 보니 GDDR 계열 메모리로도 충분하지 않다는 지적이 나왔습니다. 이를 대체하기 위해 개발된 메모리가 바로 HBM입니다. HBM는 여러 층으로 메모리를 쌓고 더 극단적으로 많은 통로를 만들어 속도와 용량 두 마리 토끼를 잡은 차세대 메모리입니다. 따라서 GDDR 메모리의 한계를 극복하고 차세대 그래픽 메모리가 되리라는 기대가 상당했습니다. 하지만 가격은 잡지 못했다는 게 문제였습니다.HBM을 최초로 적용한 그래픽 카드는 사실 AMD의 라데온 R9 퓨리 X입니다. 피지 GPU에 1세대 HBM 메모리 4GB를 달고 당시로는 상당히 빠른 512GB/s의 대역폭을 확보했습니다. 하지만 당시 기준으로 너무 비싼 649달러의 가격이 발목을 잡았습니다. 값비싼 HBM를 탑재하고도 성능은 경쟁사인 엔비디아의 지포스를 능가하지 못했기 때문에 한동안 HBM 메모리는 널리 쓰이지 못했습니다. HBM이 본격적으로 빛을 보게 된 것은 AI 붐과 함께 데이터 센터용 GPU에 대규모로 공급된 이후입니다. 2022년 19억 달러 수준에 불과했던 HBM 시장 규모는 2023년에는 40억 달러로 급증했고 2027년에는 330억 달러로 폭증할 것이라는 예측이 나오고 있습니다. 이렇게 시장 규모가 커지고 규모의 경제를 달성할 수 있게 되면 HBM이 가격 경쟁력을 지니게 되면서 서버용 GPU나 CPU를 넘어 GDDR 메모리의 주요 소비처인 콘솔 게임기나 일반 소비자용 그래픽 카드에 다시 탑재될 수 있는 가능성이 열리게 됩니다. 하지만 GDDR 메모리 역시 진화를 거듭하면서 성능이 높아지고 있어 당장 큰 변화가 없을 가능성이 높습니다. 현재 사용되는 GDDR 메모리의 최신 버전은 GDDR6X입니다. 하지만 삼성전자는 이미 작년에 GDDR7 개발을 완료했습니다. 그리고 메모리 표준을 정하는 JEDEC은 최근 GDDR7 규격을 확정했습니다. GDDR7 메모리의 최대 속도는 48Gbps로 GDDR6X의 두 배입니다. 덕분에 메모리 하나의 대역폭도 192GB/s로 두 배 높아졌습니다. 256비트 메모리 인터페이스라면 총 1.5TB/s, 384비트 메모리 인터페이스에서는 2.3TB/s의 대역폭을 확보할 수 있습니다. H100 같은 서버용 GPU보다는 낮지만, 게임이나 AI 연산용의 일반 고성능 그래픽 카드에는 충분한 대역폭을 확보할 수 있습니다. 다만 초기 등장할 GDDR7 메모리는 이전과 마찬가지로 규격에서 허용하는 최대 속도보다 다소 느릴 것입니다. 작년 삼성전자가 개발한 GDDR7 역시 32Gbps의 스펙을 지니고 있습니다. 하지만 이는 RTX 3080에 사용된 19Gbps의 GDDR6X 메모리나 RTX 4080 Super에 사용된 23Gbps GDDR6X 메모리보다 훨씬 빠른 것입니다. 여러 층으로 메모리를 쌓아 올리고 이를 관통하는 TSV라는 통로를 여러 개 뚫은 후 인터포저라는 별도의 통로를 통해 GPU나 CPU에 연결해야 하는 HBM는 속도와 용량에서 GDDR 메모리를 몇 배 앞설 순 있지만 여전히 가격도 몇 배 앞서게 됩니다. 기존 DDR 계열 메모리처럼 생산하고 정착할 수 있는 GDDR 메모리는 HBM의 가격이 지금보다 현저하게 떨어지지 않는 이상 시장에서 살아남게 될 것입니다. 다만 일부에서 예측하는 것처럼 HBM 시장 규모가 급격히 커지고 규모의 경제에 의해 가격이 내려가면 상황이 바뀔 수도 있습니다. 지금처럼 메모리 대역폭과 가격에 따라 DDR – GDDR - HBM의 3층 구조가 앞으로도 이어질지 아니면 HBM이 메모리의 대세가 될지 미래가 주목됩니다.

컴퓨터 메모리와 저장 장치의 용량은 클수록 좋습니다. 그래서 이미 충분한 상태에서도 예산이 허락하면 최대한 많이 구매하려는 것이 일반적입니다. 지금은 괜찮아도 나중에는 모자랄 수 있기 때문입니다. 동영상만 하더라도 이제는 4K 영상이 일반적인 상황이고 나중에는 8K 해상도 영상도 드물지 않게 될 것입니다. 동시에 돌리는 애플리케이션이 숫자가 자꾸 늘면서 넉넉해 보이던 메모리도 점점 바닥을 드러낼 수 있습니다. 이런 사람들을 위한 구세주가 바로 DDR5 메모리입니다. 삼성전자는 DDR5 메모리 관련 로드맵을 공개하면서 DDR5 메모리가 DDR4 메모리 기준으로 2배 이상 빠를 뿐 아니라 용량도 4배 이상 높일 수 있는 이유를 설명한 바 있습니다. 일단 메모리 반도체 다이의 저장 용량이 더 클 뿐 아니라 4개 정도 쌓을 수 있는 DDR4 메모리에 비해 DDR5는 8층이나 쌓을 수 있습니다. 심지어 그렇게 높이 쌓아도 웨이퍼를 더 얇게 잘라 낼 수 있어 두께는 1.2㎜에서 1㎜로 감소합니다. 따라서 서버용 제품 기준으로 DDR4 메모리 모듈 최대 용량이 256GB라면 DDR5는 1TB도 가능합니다.이런 용량 증가는 서버 제품뿐 아니라 일반 소비자용 제품에도 똑같이 적용됩니다. DDR5 메모리는 이론적으로 메모리 다이(die)의 데이터 밀도가 최대 64Gb로 DDR4의 16Gb보다 4배 높기 때문에 한 개의 DIMM (일반적으로 사용되는 메모리 규격) 메모리 모듈에 들어가는 메모리 용량 역시 32GB에서 128GB로 높아집니다. 일반적인 소비자용 메인보드는 메모리를 4개까지 장착할 수 있기 때문에 이론적으로 512GB 메모리를 탑재할 수 있습니다. 보통 메모리 2개까지 달 수 있는 노트북도 256GB라는 고용량이 가능합니다. 물론 현재 상황에서 이런 고용량 메모리는 서버가 아니라면 필요 없지만, 미래를 위한 발전은 계속되고 있습니다. 최근 대만의 메인보드 제조사 MSI는 자사의 인텔 600및 700시리즈 칩셋 (Z790, B760, Z690, B660, H610)에 바이오스 업데이트 만으로도 48GB 램 제품을 탑재할 수 있다고 발표했습니다. 새로운 메인보드 없이 구형 메인보드에서도 192GB의 고용량 메모리 장착이 가능해진 것입니다.같이 공개한 실제 구동 사진에는 인텔 코어 i9-13900K 및 코어 i9-12900KF CPU에 48GB DDR5 – 5600 메모리 네 개를 탑재한 시스템이 정보가 나와 있습니다. 이 제품들은 24Gb DDR5 메모리 다이를 이용한 제품으로 보이며 앞으로 다른 제조사에도 같은 업데이트가 진행될 것으로 예상됩니다. 어차피 규격에 맞춘 메모리라면 다른 메인보드도 바이오스 업데이트만으로 장착이 가능할 것입니다. 그리고 AMD 시스템 역시 비슷한 업데이트가 가능할 것으로 예상됩니다. 통상 메모리 모듈 제품은 8, 16, 32, 64…하는 식으로 2의 배수로 높아지기 때문에 중간에 1.5배 용량 제품이 들어가는 경우는 다소 드문 편입니다. 만약 1.5배 용량 제품이 소비자용 시장에도 보급되면 32GB는 작고 64GB는 너무 크게 느껴지는 틈새시장을 노릴 수 있을 것으로 생각됩니다. 물론 이런 고용량 제품이 과연 필요한가 하는 질문도 할 수 있습니다. 현재 대부분의 사용자가 8GB나 16GB 메모리만으로도 크게 부족함 없이 사용하고 있는 게 현실이기 때문입니다. ‘이걸 다 쓰는 일이 있을까?” 하는 의문이 드는 게 당연합니다. 하지만 우리가 눈치채지 못하는 사이 처리해야 할 데이터의 양은 점점 늘어나고 있습니다. 과거 1GB 메모리도 크게 느껴졌던 시절이 있던 것처럼 앞으로 100GB가 넘는 메모리도 지나친 욕심이 아닌 시대가 오게 될 것입니다.