최근 메모리 업계의 가장 큰 이슈는 단연 HBM일 것입니다. HBM은 주로 그래픽 카드에 사용되는 GDDR 메모리보다 더 빠르고 더 용량이 큰 메모리를 목표로 개발됐습니다. HBM은 여러 개의 D램을 쌓아 올리고 TSV라는 고속 통로로 연결해 대역폭과 용량 두 마리 토끼를 잡은 차세대 메모리입니다. 사실 10년 전 HBM 개발 초기만 해도 GDDR과 비교해 속도가 그렇게 빠른 것도 아니고 가격도 비싸 수요가 많은 건 아니었습니다. 하지만 GPU로 AI 연산을 하게 되면서 대용량의 고속 메모리인 HBM이 다시 주목을 받았습니다. 그리고 올해 AI 붐으로 인해 HBM 수요가 급격히 증가하면서 주요 메모리 제조사들도 사활을 걸고 개발과 양산에 뛰어들고 있습니다. 하지만 현재 주목받는 새로운 메모리 규격이 HBM 하나만 있는 것은 아닙니다. 더 빠르고 에너지 효율이 높은 메모리를 개발하기 위해 D램 자체는 물론 메모리 모듈의 규격과 인터페이스를 바꾸려는 시도가 꾸준히 이뤄지고 있습니다. 최근 메모리 관련 규격을 정하는 국제기구인 JEDEC은 차세대 서버 메모리인 MRDIMM과 차세대 노트북 메모리인 LPCAMM2 규격 표준을 곧 마련할 것이라고 발표했습니다. MRDIMM(Multiplexed Rank DIMMs)는 2022년 SK 하이닉스가 발표한 MCR-DIMM 메모리가 그 원형으로 D램의 속도를 빠르게 하는 대신 메모리 모듈에 하나씩 들어가던 메모리 랭크(rank)가 두 개 들어가 한 번에 128bit로 데이터를 전송해 속도를 두 배 높였습니다. 아직 JEDEC 표준이 완성되기 전이지만, 마이크론은 인텔과 손잡고 최신형 제온 CPU에 사용할 수 있는 MRDIMM을 개발했습니다. 마이크론이 공개한 128/256GB MRDIMM 메모리 모듈은 8800MT/s의 속도로 DDR5 메모리 초기 제품에 두 배에 달합니다. 마이크론은 12800MT/s까지 속도를 높여 나갈 계획입니다. 물론 애당초 SK 하이닉스가 먼저 개발했고 삼성전자 역시 관련 모듈을 개발한 것으로 알려진 만큼 메모리 메이저 3사가 MRDIMM에서 치열한 경쟁을 보일 것으로 예상됩니다. MRDIMM 규격에서 또 다른 흥미로운 대목은 톨(tall) 규격도 있다는 것입니다. 톨 폼펙터의 MRDIMM은 높이가 56.9mm으로 더 많은 메모리 칩을 넣을 수도 있고 같은 용량의 메모리 칩이라도 더 많은 면적이 공기와 접촉해 냉각 효율을 높일 수 있습니다. 마이크론에 의하면 톨 규격의 MRDIMM은 24% 정도 냉각 효율이 높습니다. 메모리가 빨라지고 용량이 많아지면 발열도 무시할 수 없을 정도로 커지므로 이것 역시 필요한 기능입니다. 최근 서버 CPU의 코어 숫자가 100개를 훌쩍 넘어 점점 더 많아지는 데 반해 메모리 대역폭은 그 속도를 따라가지 못하고 있기 때문에 MRDIMM이 적당한 가격으로 제때 공급될 수 있다면, 서버 메모리 시장에서 빠르게 영역을 확대해 나갈 것으로 보입니다. 또 가격이 낮아진다면 데스크톱 PC 시장에도 진출할 가능성이 있습니다. JEDEC은 MRDIMM 표준화에 이어 아직 널리 보급이 되지 않은 노트북 메모리 규격인 LPCAMM(Low Power Compression Attached Memory Module) 혹은 CAMM의 2세대 규격 표준안 마련에도 나서고 있습니다. CAMM 규격은 주로 스마트폰이나 태블릿에 사용되는 LPDDR 메모리를 일반 노트북에서도 사용할 수 있게 만든 것으로 기존의 SO-DIMM 메모리보다 크기는 40% 작고 효율은 70%나 높였습니다.CAMM2 규격은 특이하게도 이미 출시한 LPDDR5 메모리만이 아니라 아직 나오지 않은 LPDDR6 메모리도 지원합니다. LPDDR6 CAMM2 메모리 모듈은 현재의 128bit 메모리 인터페이스 대신 50% 더 넓은 192bit 메모리 인터페이스를 사용할 수 있습니다. 따라서 현재 노트북에 사용하는 LPDDR5 CAMM 메모리나 일반 DDR5 메모리보다 50% 더 높은 14.4GT/s 대역폭을 확보할 수 있습니다. 물론 이를 위해서는 CPU가 192bit 메모리 인터페이스를 사용할 수 있어야 합니다. 따라서 LPDDR6 CAMM2 메모리 모듈은 당장에는 도입이 어렵습니다. 하지만 삼성과 SK 하이닉스 모두 LPDDR6 상용화를 준비 중이고 CPU 제조사들도 이에 맞춰 신형 CPU를 설계할 것이기 때문에 생각보다 가까운 미래에 LPDDR6 CAMM2 메모리를 볼 수 있게 될지도 모릅니다. 낮은 전력 소모와 기존의 DDR5가 넘보기 힘든 속도를 생각하면 2세대부터 CAMM 메모리 보급에 탄력이 붙을 가능성도 있습니다. 만약 LPDDR6 CAMM2 메모리가 보급된다면 가장 큰 이득을 볼 수 있는 부분은 내장 그래픽입니다. CPU에 내장된 iGPU는 CPU와 메모리를 공유하기 때문에 낮은 메모리 대역폭에 발목이 잡혀 제 속도를 내기 힘들었습니다. LPDDR6 CAMM2 메모리는 이런 성능 제약을 크게 줄여 노트북 그래픽 성능을 한 단계 높일 수 있습니다. 데스크톱 PC와 서버에 사용되는 DIMM 규격과 노트북에 사용하는 변형 규격인 SO-DIMM은 지난 수십 년간 외형에 큰 변화 없이 사용되었습니다. 하지만 이제 시대의 변화에 맞춰 오래된 규격을 바꾸고 성능을 한 단계 더 업그레이드할 때가 됐습니다. 워낙 많이 보급된 표준 규격인 DIMM이 바로 사라지진 않겠지만, 미래에는 더 다양한 메모리 규격과 제품을 볼 수 있게 될 것입니다.

대구시가 인공지능(AI) 반도체 산업 육성을 위해 전문 기업들과 손을 맞잡았다. 대구시는 24일 오후 시청 산격청사에서 퓨리오사AI, 딥엑스, 모빌린트 등 국내 AI 반도체 관련 업체 6곳과 ‘AI 반도체 산업 육성 및 대구 반도체 산업역량 강화를 위한 업무협약’을 체결했다. 협약에 참여하는 기관·기업은 국산 AI 반도체 실증에서부터 반도체 소프트웨어(SW) 개발, 반도체 SW 센터 구축, 인력 양성 등 전방위적인 협력체계 구축에 나서기로 했다. 협약에 참여한 업체들은 엔비디아가 시장을 장악하고 있는 그래픽처리장치(GPU)보다 속도는 빠르고 전력 소모는 적은 신경망처리장치(NPU) 개발하고 있다. 따라서 앞으로 해외 시장 진출을 위한 실증 레퍼런스가 조기에 확보되면 글로벌 대표 팹리스 기업으로 성장할 전망이다. 대구시는 이들 기업이 개발한 NPU가 조속히 상용화할 수 있도록 AI데이터센터 건립 등 정부지원과제를 연계할 예정이다. 또한 동대구 벤처밸리에 AI 반도체 SW 지원센터를 구축하는 등 AI 반도체 산업 육성을 적극 지원할 방침이다. 올해 하반기에는 지능형 반도체 설계지원센터를 개소할 예정이며, 반도체 마이스터고에서 특성화 대학, 대학원에 이르는 반도체 혁신인재 양성 시스템도 완비하고 있다. 홍준표 대구시장은 “대구는 반도체 수요와 기업 성장에 필요한 우수 인재를 갖춘 도시”라며 “AI 반도체 산업이 거대 남부 경제권을 견인하는 새로운 성장동력이 될 수 있도록 적극 지원하겠다”고 말했다.

“앞으로 2~3년 안에는 엔비디아의 적수가 없다고 봅니다. 엔비디아가 부서지지는 않을 것입니다.” 최태원 대한상공회의소 회장은 19일 제주 신라호텔에서 진행 중인 대한상의 제주포럼 3일차 토크쇼 ‘AI 시대, 우리 기업의 도전과 미래 비전’에서 미국 반도체 기업 엔비디아의 막강한 영향력이 지속될 것으로 내다봤다. 이날 토크쇼는 최 회장과 최수연 네이버 대표, 정송 카이스트 김재철AI대학원 원장이 참여하는 대담 형식으로 진행됐다.최 회장은 SK하이닉스는 물론 SK그룹 차원에서 협력 강화를 모색하고 있는 엔비디아와 관련해 “(엔비디아가) 이점을 가지고 있던 게 GPU(그래픽처리장치)인데 그래픽을 다룬다는 건 AI 연산과 같은 얘기”라면서 “소프트웨어도 상당히 발전해 있어 하드웨어를 똑같이 만든다고 하더라도 그걸 구동하는 소프트웨어를 만들 방법이 없다”고 소개했다. 최 회장은 이어 “다만 AI를 가지고 돈을 버는 모델이 뭐냐가 정확히 나오지 않고 있다”며 “개인이든 기업이든 돈을 지불하는 게 안 된다고 하면 다른 종류의 칩이나 형태가 필요하기 때문에 엔비디아가 무너질 공산도 있다”고 했다. 또한 “엔비디아의 칩을 쓰는 MS(마이크로소프트)나 구글, 아마존도 칩을 따로 만들고 있다. 그들의 경쟁력이 올라오느냐에 따라, 또 AMD 등이 싸게 만들 수 있느냐에 따라 엔비디아가 (압도적 점유율에서) 부서질 수 있을 것”이라고 설명했다. 최 회장은 또 SK와 같은 반도체, 에너지 기업이 돈을 벌기 위해서는 네이버의 성공 등 ‘AI 골드러시’가 지속해야 한다고 강조했다. 그는 “AI라는 금을 캐기 위해 골드러시 도전을 하는데 그 과정에서 청바지, 곡괭이를 파는 기업이 돈을 벌었고 그게 엔비디아와 SK하이닉스 등의 기업”이라고 비유하며 “금이 안 나오면 곡괭이를 팔지 못하고 골드러시는 사라질 수 있다. 결국, 네이버 같은 기업이 AI에 성공하고 돈을 벌어야 우리 같은 장비를 만드는 기업이 성공하는 데 그게 SK의 전략”이라고 했다. 최수연 네이버 대표는 최근 비영어권 지역에서 자체 AI 모델 구축 수요가 증가하고 있음을 언급하며 우리나라가 이를 기회로 삼아 AI 기술 리더십을 갖게 될 것이라고 전망했다. 특히 네이버가 자국어 중심의 AI 모델을 개발한 경험을 가진 만큼 주도적인 역할을 할 것이라고 강조했다. 최 대표는 “자국 언어를 중심으로 초거대 생성형 AI 모델을 ‘프롬 스크래치(맨 처음 단계부터)’로 개발해 서비스 전반 적용까지 나아간 사례는 중국을 제외하면 아시아에선 한국이 실질적으로 유일하다”고 말했다.최 대표는 이어 “네이버는 자국어 중심 모델을 개발했던 경험과 노하우를 바탕으로 세계 여러 나라들이 소버린 AI를 확보할 수 있게 지원할 것”이라며 “각 지역의 문화와 가치를 보다 강력하게 반영한 자체 소버린 AI 확산을 위해 여러 국가 및 기업들과 파트너십을 구축할 것”이라고 밝혔다. 또 “AI 인프라·데이터·서비스 등 다양한 영역에서 공통 목표를 가진 기업들과 협력관계를 구축해 글로벌 소버린 AI 생태계를 함께 확장해나갈 계획”이라고 덧붙였다. 최 대표는 최근 젠슨 황 엔비디아 최고경영자(CEO)를 만나 나눈 대화 일부도 소개했다. 그는 “각 나라의 언어와 맥락을 잘 이해하는 AI 모델이 필요하다는 점을 황 CEO도 이해하고 있다”며 “혼자 힘으로 되는 것이 아니기 때문에 칩 제조사와 국가, 통신사, 소프트웨어 기업들이 힘을 합쳐 소버린AI를 만들어보자고 했다”고 말했다. 정송 카이스트 김재철 AI대학원장은 대담에 앞선 발표에서 “과거 인공지능은 기계에 지식을 알려주는 것이었다면 지금은 인간 뇌의 신경망 구조를 수학적으로 모델링해 기계가 스스로 깨닫게 한다. 데이터 기반의 학습이자 현재 인공지능 개념으로 이게 지금의 성공을 불러왔다”고 말했다.

SK텔레콤(SKT)은 글로벌 인공지능(AI) 기업으로의 도약을 위해 사활을 걸고 있다. SKT는 최근 덴마크 코펜하겐에서 도이치텔레콤과 e&, 싱텔, 소프트뱅크 등과 ‘글로벌 텔코 AI 얼라이언스’ 합작법인 설립을 위한 본계약을 체결했다. 이 얼라이언스는 총 13억명의 가입자를 보유한 유럽과 중동, 아시아의 대표 통신사들이 협력하는 것으로, AI를 통해 통신 분야의 혁신을 목표로 하고 있다. 또 SKT는 미국 실리콘밸리에서 한국계 AI 스타트업들을 결집한 ‘K-AI 얼라이언스’를 확대했다. 현재 몰로코와 베스핀글로벌, 팬텀AI 등 총 18개 회사가 참여하고 있다. SKT는 한국의 AI 스타트업들이 글로벌 무대에서 두각을 나타낼 수 있도록 지원을 아끼지 않고 있다. 전략적 AI 투자도 활발히 진행 중이다. 미국의 생성형 AI 검색엔진 스타트업 퍼플렉시티에 1000만 달러를 투자했으며 AI 데이터센터 사업을 위한 GPU 클라우드 회사인 람다에도 투자했다. AI 데이터센터는 AI 학습과 추론에 필요한 GPU 서버와 안정적 운영을 위한 인프라를 제공한다. SKT는 이를 통해 AI 연구와 개발을 위한 최적의 환경을 조성하고 있다. SKT는 AI 인재 확보에도 적극적이다. 실리콘밸리에서 ‘SK AI 포럼 2024’에 유영상 최고경영자(CEO)를 비롯해 AI 사업부장 등 경영진 10여명이 직접 참석할 정도로 AI 인재 확보에 사활을 걸고 있다. SKT의 AI 피라미드 전략은 AI 인프라, AIX, AI 서비스 3대 영역을 중심으로 AI 기술을 고도화하고 서비스 역량을 강화해 글로벌 통신사와 협력하는 모델이다. SKT 관계자는 “우리는 글로벌 통신 산업을 혁신하고 AI 시장에서의 경쟁력을 강화하려 하고 있다”면서 “앞으로도 지속적인 투자를 통해 AI 기술을 선도하고 글로벌 AI 컴퍼니로서 입지를 확고히 다질 계획”이라고 강조했다.

SK텔레콤이 인공지능(AI) 분야 최대 규모 투자를 벌이며 국내외 AI 데이터센터 시장 공략에 나섰다. SK텔레콤은 미국 AI 데이터센터 통합 솔루션 업체 ‘스마트 글로벌 홀딩스’(SGH)와 2억 달러(약 2772억원) 규모의 전환우선주 투자 계약을 체결했다고 16일 밝혔다. SK텔레콤은 향후 보통주 전환을 통해 약 10% 수준의 지분을 확보할 예정이다. 미국 실리콘밸리에 본사를 둔 SGH는 대규모 그래픽처리장치(GPU) 서버로 구성된 AI 클러스터를 설계, 구축, 운영하는 AI 데이터센터 통합 솔루션 전문 기업이다. 2017년 나스닥에 상장한 SGH는 지난해 매출 약 14억 4000만 달러(2조원) 규모로 현재 GPU 누적 구축 규모는 7만 5000개에 달한다. 2023년 ‘메타’의 GPU 1만 6000개 규모의 ‘리서치 슈퍼 클러스터’ 등 글로벌 기업의 대규모 AI 클러스터를 구축했다. 양사는 올해 협력 파트너십을 추가로 체결해 AI 데이터센터와 ‘엣지 AI’, 미래 메모리 솔루션 등 AI 인프라 사업 영역 전반에 걸친 협력을 보다 구체화할 방침이다.국내외 AI 데이터센터 시장 진출을 추진 중인 SK텔레콤은 데이터센터 관리 시스템과 액침 냉각 등 솔루션에 SGH의 AI 클러스터 구축, 운영 역량을 더한 시너지 효과를 기대하고 있다. 앞서 SK텔레콤은 2023년 ‘AI 피라미드 전략’을 발표한 후 AI 밸류체인 3대 영역인 AI 반도체, AI 인프라, AI 서비스 영역에 대한 투자를 이어 왔다. 지난해부터 AI 분야에 투자한 금액만 3억 달러(4158억원)를 넘어섰다. 미국 생성형 AI 기업 ‘앤트로픽’(1억 달러), GPU 클라우드 기업 ‘람다’(2000만 달러), 생성형 AI 검색엔진 신생기업 ‘퍼플렉시티’(1000만 달러) 등이다. 유영상 SK텔레콤 최고경영자(CEO)는 “SGH에 대한 투자와 협력은 AI 인프라 밸류체인에 대한 경쟁력을 공고히 다질 기회”라면서 “AI 변혁의 시대를 맞아 선제적인 투자와 협력을 지속해 글로벌 수준의 AI 인프라 사업 리더십을 확보할 것”이라고 말했다.

우크라이나 전쟁의 향방과는 관련 없이 서방의 강력한 제재로 인해 러시아 IT 산업의 미래는 극히 어두워졌다는 것이 일반적인 평가입니다. 구소련 시절부터 IT 분야에서 서방에 크게 뒤처진 데다, 구소련 붕괴 이후 러시아 경제가 회복될 때도 석유와 천연가스처럼 풍부한 자원을 통해 경제를 성장시켜 반도체 같은 IT 산업은 크게 낙후되었기 때문입니다. 따라서 우크라이나 침공 후 서방의 강력한 제재로 반도체 수입이 중단되자 러시아 정부는 부랴부랴 자체 반도체 산업을 키우기 위해 노력하고 있습니다. 러시아에는 앙스트렘(Angstrem)이나 미크론(Mikron) 같은 자체 반도체 생산 기업이 있기는 하지만, 이들은 서방에서 들여온 장비를 이용해 90nm에서 250nm 같은 오래된 공정 제품밖에 생산할 수 없어 이제까지 수입해 온 반도체를 대체 생산하기에는 턱없이 부족합니다. 그러나 2년 전 러시아 정부는 2030년까지 4200억 루블(6조 4000억원)을 투자해 28nm 공정 팹을 확보한다는 야심 찬 계획을 발표했습니다. 삼성전자, TSMC, 인텔이 2-3nm 팹을 건설하거나 양산하는 점을 생각하면 계획대로 된다고 해도 서방보다 크게 뒤처진 셈이지만, 강력한 제재에도 굴하지 않고 자체 IT 인프라를 갖추겠다고 선언한 것입니다. 다만 러시아는 광학리소그래피 장치처럼 반도체를 만드는 데 필요한 핵심 장비 제조 기술이 없어 실현 가능성에 대해서는 많은 의구심이 있었습니다. 최근 러시아 산업 통상부의 바실리 쉬파크 차관은 타스 통신과의 인터뷰에서 러시아의 첫 리소그래피 장치가 모스크바 북서쪽에 있는 젤레노그라드에서 테스트 중이라고 언급했습니다. 참고로 젤레노그라드는 러시아 반도체 생산기업 미크론의 주요 생산 시설이 있는 곳으로 러시아의 실리콘 밸리로 불리는 도시입니다. 다만 이 리소그래피 장치는 최신 반도체 공정과는 거리가 먼 350nm 공정 장비입니다. 350nm 공정은 인텔이 1995-1997년 사이 펜티엄 MMX, 펜티엄 프로, 펜티엄 II 프로세서를 제조하는 데 사용했으며 비슷한 시기에 AMD K6 프로세서도 350nm 공정에서 양산됐습니다. 따라서 테스트를 통과해 실제 팹을 건설할 수 있다고 해도 거의 30년이나 오래된 기술인 셈입니다. 누가 이 장치를 만들었고 어떻게 연구를 진행하고 있는지에 대해서는 아무 언급이 없었지만, 과거 방식을 생각하면 기존에 수입한 리소그래피 장비 중 현재는 사용하지 않는 구형 장비를 분해한 후 이를 카피해서 복제품을 만들었을 가능성이 있습니다. 사실 과거 구소련의 CPU들이 대개 이런 역설계 방식으로 만들어졌고 현재 러시아가 생산하는 엘브루스 같은 토종 x86 CPU 역시 미국 기업의 기술에 기반해 만들어졌습니다. 아무튼 현재 러시아 미크론도 90nm에서 250nm 팹을 지니고 있는 만큼 당장 350nm 리소그래피 장치가 큰 이득을 제공할 것 같지는 않습니다. 다만 더 미세한 공정에 도전하기 위한 기초 기술을 제공할 수 있습니다. 이번에 350nm 리소그래피 장비 테스트에 성공한다면 다음엔 250nm 같은 더 현실적인 미세 공정에 도전할 것으로 보입니다. 러시아의 반도체 자력갱생 노력은 역설적으로 글로벌 경제 시대에 혼자서 독자 생존이 어렵다는 점을 보여주고 있습니다. IT 산업 역시 글로벌 경제의 분업에 따라 여러 나라의 협력으로 발전하고 있기 때문입니다. 예를 들어 우리나라는 네덜란드의 ASML이 만든 리소그래피 장치를 수입해 반도체 팹을 건설하고 여기서 만들어진 메모리 반도체는 전 세계 컴퓨터와 스마트폰에 장착됩니다. 또 AMD와 인텔 CPU는 미국과 전 세계에 있는 팹에서 생산된 후 중국과 다른 나라에 있는 생산 공장에서 노트북 및 데스크톱 컴퓨터에 장착됩니다. 엔비디아의 GPU 역시 대만 TSMC에 의해 제조된 후 중국의 공장에서 그래픽 카드에 장착되어 전 세계로 팔려 나갑니다. 이런 글로벌 공급망에서 배제된 국가가 독립적으로 비슷한 수준의 생산 능력과 기술을 갖추는 일은 매우 어렵습니다. 이는 단지 IT 산업만의 이야기가 아니기 때문에 전쟁 이후 러시아 산업의 미래는 밝지 않아 보입니다.

인공지능(AI) 시장에서 뒤처지고 있다는 평가를 받는 애플이 신형 아이패드 프로에 AI 전용의 고성능 M4칩을 탑재하면서 AI 기술 경쟁에 본격적으로 뛰어들었다. 최근엔 데이터센터용 반도체 자체 개발에도 착수한 것으로 알려지면서 AI 시장 전반에 파장이 일 것으로 보인다. 애플은 7일(현지시간) 온라인으로 ‘렛 루즈’ 행사를 열어 신형 아이패드 프로(11·13인치)와 에어를 공개했다. 새로운 아이패드가 출시된 건 2022년 10월 이후 약 18개월 만으로 아이패드 프로는 아이패드 시리즈 중 최고급형에, 에어는 고급형에 해당한다. 아이패드 프로와 에어는 이날부터 미국 등 29개 국가에서 주문할 수 있고 오는 15일부터 매장에 전시된다. 우리나라 출시 일정은 아직 알려지지 않았다. 시장에서 주목하는 건 아이패드 프로 모델에 탑재된 M4로 애플은 해당 칩에 대해 “강력한 인공지능을 위한 칩”이라고 소개했다. 2세대 3나노미터(㎚·10억분의1m) 공정으로 제작한 시스템온칩(SoC)인 M4는 기존 프로에 적용되던 M2는 물론 애플의 최근 노트북에 사용되는 M3보다 앞선 칩으로 AI 성능 향상에 방점이 찍혔다. 차세대 기계학습 가속기를 갖추고 있는 10코어 중앙처리장치(CPU) 성능은 기존 M2보다 1.5배 향상된 속도를 갖췄으며, 그래픽처리장치(GPU)의 성능도 최대 4배 빠르다는 게 애플 측의 설명이다. 전력 효율성을 높이는 데도 성공해 전력을 절반만 써도 M2와 동일한 성능을 제공할 수 있다.특히 애플의 가장 빠른 ‘뉴럴 엔진’을 탑재해 초당 38조 회에 달하는 연산 처리 기능을 갖췄는데, 이는 AI 기계 학습을 가속화한다. 뉴럴 엔진은 애플이 AI 소프트웨어를 위한 신경망을 최적으로 실행하기 위해 만든 특수 하드웨어로, 애플의 최초 뉴럴 엔진(A11 바이오닉 칩)에 비해 속도가 60배나 빠르다. 팀 밀레 애플 플랫폼 아키텍처 담당 부사장은 “뉴럴 엔진과 M4칩은 오늘날 어떤 AI PC의 신경망처리장치(NPU)보다 강력하다”고 말했으며, 조니 스루지 애플 하드웨어 기술담당 수석부사장도 “M4가 AI를 활용하는 최신 앱에 최적화된 칩으로 자리잡았다”고 설명했다. 부진했던 아이패드 판매를 늘리기 위해 AI 기능 최적화에 초점을 맞춘 제품을 내놓은 애플은 이를 통해 실현될 수 있는 AI 서비스에 대해서는 따로 언급하지 않았다. 오는 6월 10일부터 닷새 동안 열리는 세계개발자회의(WWDC)에서 차세대 아이폰 운영체제(iOS18) 등 소프트웨어에 탑재될 생성형 AI 기능 일부를 선보일 것으로 예상된다. AI 기반의 시리(Siri)를 공개하거나, 구글 혹은 오픈AI와 파트너십을 맺고 이를 공개할 가능성이 높다. 팀 쿡 CEO는 이날 영상 막바지에서 “다음달 WWDC에서 다시 만나길 기대하겠다”며 “우리 플랫폼의 미래를 논하고 앞으로 다가올 흥미진진한 일을 공유하도록 할 것”이라고 예고했다. 한편 애플은 최근 초거대 AI 서비스를 위한 데이터센터용 반도체 자체 개발에도 착수했다. 지난 6일 월스트리트저널(WSJ)에 따르면 애플은 최근 ‘ACDC’라는 이름의 프로젝트를 통해 AI 데이터센터 서버용 자체 칩을 개발 중이다. 애플이 설계하고 파운드리(반도체 위탁생산) 파트너인 대만 TSMC가 생산을 맡을 것으로 알려졌다. 애플은 이번 AI칩을 AI 학습용이 아닌 추론에 특화된 칩으로 개발할 것으로 보인다. AI칩은 학습용과 추론용으로 나뉘는데, 최근 학습에서 추론으로 무게중심이 옮겨 가고 있다. 삼성전자 역시 최근 추론용 칩 ‘마하-1’을 공개하며 추론 시장에서 빅테크 고객사를 확보하기 위해 속도를 내고 있다.

인공지능(AI) 반도체에 필수적으로 탑재되는 고대역폭 메모리(HBM)가 내년 전 세계 D램 매출의 30% 이상을 차지할 것이란 전망이 나왔다. HBM 시장을 주도하고 있는 국내 반도체 기업 실적도 고가의 HBM 덕분에 빠르게 개선될 것으로 보인다. 7일 대만 시장조사업체 트렌드포스에 따르면 HBM 판매 단가는 내년 5~10% 오를 것으로 예측됐다. 글로벌 D램 시장에서 HBM이 차지하는 비중(매출 기준)은 지난해 8%에서 올해 21%, 내년 30% 이상으로 크게 늘어날 전망이다. 트렌드포스는 “HBM의 판매 단가는 기존 D램의 몇 배, DDR(더블데이터레이트)5의 약 5배에 달한다”면서 “D램 전체 생산 능력이 제한돼 있어 공급업체들이 가격을 5~10% 인상했다”고 설명했다. 다만 현재 시장은 HBM 구매 업체들이 안정적이고 우수한 품질의 제품을 확보하기 위한 차원에서 가격 인상을 수용한 측면이 강하다. 앞으로는 공급 업체의 신뢰성, 공급 능력에 따라 HBM의 가격이 달라질 수 있다는 게 트렌스포스의 설명이다. 3분기 본격적으로 열리는 5세대 HBM(HBM3E) 시장에서 국내 업체들이 주도권을 잃지 않으면서도 수익성을 최대한 높이려면 수율(합격품 비율) 개선은 피할 수 없을 것으로 보인다. 지난해 4세대 HBM(HBM3) 시장에서 점유율 90% 이상을 차지한 SK하이닉스도 HBM3E 12단 제품을 놓고는 경쟁사인 삼성전자와 치열한 싸움이 불가피할 전망이다. HBM3E 12단 제품을 업계 최초로 개발해 기술력을 과시한 삼성전자는 AI 반도체 시장의 ‘큰손’인 엔비디아의 문을 두드리고 있다. 다음달 안에 HBM3E 12단 제품을 양산한다는 목표를 세우고 수율 향상을 위해 인력도 대거 투입했다. 엔비디아의 까다로운 품질 테스트를 통과한다면 고용량 HBM 시장에서 판을 뒤집을 수도 있다. 삼성전자가 올해 HBM 판매 수량의 3분의2 이상을 HBM3E로 채우겠다고 한 것도 이런 기대가 담긴 것으로 풀이된다. 이에 SK하이닉스는 이달 HBM3E 12단 샘플을 제공하고 양산 시점도 3분기로 앞당기면서 삼성에 주도권을 내주지 않겠다는 뜻을 분명히 했다. 내년부터는 6세대 HBM으로 불리는 HBM4를 둘러싼 경쟁도 치열할 것으로 보인다. SK하이닉스는 파운드리 1위 업체인 대만 TSMC와 손잡고 맞춤형 개발에 나서겠다는 전략이다. 이에 맞서 삼성전자는 차세대 HBM 개발을 위해 메모리, 파운드리, 시스템LSI, 어드밴스트 패키징 사업 역량을 총동원하기로 했다. HBM을 이을 제품으로 떠오른 컴퓨트 익스프레스 링크(CXL) 개발을 놓고도 두 업체 간 경쟁이 본격화됐다. CXL은 중앙처리장치(CPU)·그래픽처리장치(GPU)·메모리 등을 효율적으로 사용하기 위해 만들어진 인터페이스다. 신도시에 만들어진 8차선 도로처럼 깔끔하게 정비돼 ‘병목 현상’ 없이 대량의 데이터를 빠르게 처리할 수 있어 AI 시장의 핵심 기술로 주목받고 있다. 한편 이날 삼성전자 주가는 직전 거래일보다 4.77% 오른 8만 1300원, SK하이닉스는 3.70% 오른 17만 9600원에 마감했다.

차세대 인공지능(AI) 메모리 반도체인 6세대 고대역폭메모리 ‘HBM4’ 개발을 놓고 국내 업체 간 주도권 경쟁이 치열하다. 삼성전자는 자체 기술력, SK하이닉스는 파운드리(위탁생산) 1위인 대만 TSMC와의 협업으로 성능의 한계를 돌파한다는 전략이다. 2026년 HBM4 양산을 앞두고 두 업체가 얼마나 많은 고객사를 확보하느냐가 관건이 될 것으로 보인다. 21일 업계에 따르면 삼성전자는 지난 2월 D램 칩을 12단까지 쌓아 올린 5세대 HBM(HBM3E)을 가장 먼저 개발한 데 이어 HBM4에는 16단 기술을 도입한다는 계획이다. D램 칩을 수직으로 많이 쌓을수록 용량과 대역폭(메모리의 데이터 전송 속도)이 늘어난다. 대역폭이 높을수록 한번에 처리할 수 있는 데이터의 양이 많아지기 때문에 고성능 메모리를 요구하는 인공지능(AI) 반도체 업체로부터 선택받을 확률도 커진다. 다만 HBM 제품의 전체 두께는 고정돼 있는 상황에서 층수를 높이는 거라 조립 난도가 높아지고 열 저항이 커지는 문제가 발생한다. 메모리와 파운드리 역량을 결집해 차세대 HBM 전담팀을 구성한 삼성전자는 자체 기술력으로 이 한계를 극복하면서 수율을 극대화한다는 전략이다. 윤재윤 삼성전자 D램개발실 상무는 지난 18일 삼성전자 뉴스룸 인터뷰에서 16단 도입 계획을 밝히며 “HBM 칩 1개라도 불량이 발생하면 AI 서비스가 그 순간 멈출 수 있기 때문에 HBM의 품질을 완벽하게 보증할 수 있는 설계·테스트 기술을 확보하는 게 중요하다”고 강조했다. 이에 맞서 SK하이닉스는 파운드리 1위 업체인 대만 TSMC와의 협업 카드를 꺼내 들었다. SK하이닉스는 5세대 HBM까지는 자체 공정으로 HBM의 두뇌 역할을 하는 ‘베이스 다이’를 만들었는데, 6세대부터는 TSMC가 보유한 초미세 선단 공정을 활용한다는 것이다. 베이스 다이는 HBM 제품의 바닥 부분으로 그래픽처리장치(GPU)와 연결돼 HBM을 통제하는 역할을 한다. TSMC의 패키징 방식(CoWoS)과 SK하이닉스의 HBM 기술 결합을 최적화해 HBM 관련 고객사 요청에도 공동 대응한다는 방침이다. 업계에선 두 업체가 HBM 설계·생산부터 함께하면 맞춤형 설계 요구에 대응하기 수월해져 이들의 고객사인 엔비디아와의 공조 체제도 더 강화될 것으로 본다. 김양팽 산업연구원 전문연구원은 “메모리와 파운드리 업체 간 협력은 (기존에) 없었던 모델”이라면서 “이러한 협업으로 SK하이닉스가 TSMC의 고객사까지 확보가 용이해졌다는 점은 주목할 만하다”고 말했다.

지난 인텔 비전 2024 행사에서 인텔이 내세운 표어는 어디서든 AI(AI Everywhere)이었습니다. 팻 겔싱어 인텔 CEO는 기조연설 초반에 올해 하반기에 출시할 노트북 및 태블릿 PC CPU인 루나 레이크 실물과 함께 AI 연산 능력을 세 배나 높였다고 공개했습니다. (사진) 루나 레이크의 AI 연산 능력은 100TOPS 이상입니다. 앞서 마이크로소프트는 코파일럿 같은 AI 서비스를 클라우드 기반이 아니라 기기에서 바로 사용하기 위해서 적어도 40TOPS 이상의 AI 연산 능력이 필요하다고 언급했습니다. 이는 현재 인텔의 최신 CPU인 메테오 레이크(코어 울트라)는 물론 경쟁자인 AMD의 라이젠 모바일 호크 포인트 CPU 단독으로는 충족시키기 어려운 기준입니다. 작년 말 출시된 메테오 레이크는 소비자용 인텔 CPU로는 처음으로 인공지능 연산을 위한 NPU를 탑재했지만, NPU 자체의 연산 능력은 11TOPS로 그렇게 높지 않습니다. 18TOPS의 연산 능력을 지닌 GPU와 5TOPS의 연산 능력을 지닌 CPU를 모두 사용하면 34TOPS의 AI 연산 능력을 확보할 수 있습니다. 하지만 CPU와 GPU를 AI 연산 전용으로 자원을 할당하기 어렵기 때문에 마이크로소프트의 AI 컴퓨터 기준과 턱없이 모자라는 수준입니다. 이날 발표에서 인텔이 다른 성능과 재원은 언급하지 않으면서도, 루나 레이크의 AI 연산 능력만큼은 강조한 데는 이런 배경이 있습니다. 최근 AI에 대한 관심이 집중되면서 프로세서 업계도 결국 AI에 사활을 걸어야 한다는 위기의식이 커지고 있습니다. 특히 인텔은 AI에 남들보다 늦게 뛰어든 만큼 빠른 속도로 경쟁자를 추격하기 위해 집중적인 연구와 투자를 한 것으로 보입니다.한 가지 더 흥미로운 정보는 루나 레이크의 AI 연산 능력에서 NPU가 담당하는 부분은 45TOPS 정도라는 것입니다. 따라서 나머지 55TOPS 이상이 CPU와 GPU에서 나와야 합니다. CPU의 AI 연산 능력이 획기적으로 커지기는 어렵다는 점을 생각할 때 루나 레이크의 GPU의 AI 연산 능력도 대폭 향상되는 것으로 추정할 수 있습니다. 루나 레이크의 CPU 구조에 대해서는 알려진 바가 적지만, GPU는 2세대 Xe 아키텍처인 아크 배틀메이지(Arc battlemage)를 사용한다고 알려져 있습니다. 1세대 Xe GPU도 AI 기반 업스케일링 기술인 XeSS를 지원하기 위한 AI 연산 능력을 지니고 있기 때문에 2세대 아키텍처와 더 앞선 미세 공정을 적용했을 경우 18TOPS보다 몇 배 높은 AI 성능을 확보할 수 있을 것으로 예상할 수 있습니다. 루나 레이크의 구체적인 모습은 실물이 공개되어야 알 수 있겠지만, 인텔이 새 모바일 CPU를 공개하면서 AI 성능을 가장 먼저 부각시킨 점이 의미심장합니다. 이것 하나만으로도 현재 IT 업계의 대세가 AI라는 점을 다시 한번 느낄 수 있습니다. 세계 최대의 CPU 제조사도 AI 없이는 도태된다는 위기의식이 반영된 결과로 보입니다. 아마도 이런 위기의식은 경쟁자인 AMD도 똑같이 느끼고 있을 것입니다. 따라서 올해 새로 공개할 제품군에 더 강력한 AI 연산 유닛을 넣으려고 할 가능성이 높습니다. 애플도 새로 공개할 M4 시리즈 프로세서의 AI 성능을 대폭 높인다는 소문도 들립니다. 앞으로 수년간 프로세서의 AI 성능은 비약적으로 발전할 가능성이 높아 보입니다.

최근 글로벌 반도체 산업이 천문학적인 보조금 지급을 앞세운 ‘쩐의 전쟁’으로 격화하고 있는 가운데 우수 인재 유치를 위한 기업들의 노력도 확대되고 있다. 반도체 시장은 생성형 인공지능(AI)을 비롯한 AI 반도체 수요 급증에 따라 이를 연구·개발(R&D)할 인력 확보가 곧 기업 미래 경쟁력으로 꼽히면서 반도체·AI 분야에 강점을 보이는 주요 대학과 기업의 파트너십이 속속 이어지는 분위기다.AI 반도체 절대 강자로 꼽히는 미국 엔비디아는 미 조지아공과대학교와 협력해 AI 슈퍼컴퓨터 허브인 ‘AI 메이커스페이스’를 선보인다고 11일(현지시간) 밝혔다. 엔비디아와 조지아공대는 애초 이번 프로젝트를 학부생들이 활용할 수 있는 방향으로 개발에 착수했으나, AI 반도체와 AI 기술 전반이 급변하면서 조지아공대 전체 학생들의 AI 기술을 심화하고 차세대 AI 시스템 전문가 양성을 목표로 계획을 변경했다. 라힘 베야 조지아공대 학과장은 “AI 메이커스페이스의 출시는 조지아공대의 교육 혁신과 리더십의 또 다른 이정표다”라면서 “엔비디아의 첨단 기술과 전문성 덕분에 모든 수준의 학생들이 빠르게 진화하는 AI 분야에 기여하고 선도할 수 있는 길을 열었다”고 말했다. AI 메이커스페이스는 20개의 엔비디아 HGX H100 시스템으로 구동된다. 여기에는 고급 AI와 머신 러닝 작업을 지원하는 컴퓨팅 가속기 중 하나인 엔비디아 H100 텐서 코어 GPU가 160개 탑재된다. 엔비디아 H100 GPU의 연산 성능은 조지아공대 5만여명의 학생이 22년 동안 수행해야 하는 곱셈 연산을 단 한 대로 1초 만에 해낼 수 있는 수준이다.고대역폭 메모리(HBM)를 비롯해 AI 반도체 기술 투자를 강화하고 있는 SK하이닉스가 첫 미국 생산기지 부지를 인디애나로 결정한 배경에는도 현지 고급 인력과의 협업 및 인재 확보라는 전략이 깔려있다. SK하이닉스는 지난 3일 인디애나 북서부 교육도시 웨스트라피엣에 38억 7000만 달러(약 5조 2200억원)를 들여 어드밴스드 패키징(첨단 후공정) 공장을 신설한다고 밝혔다. SK하이닉스는 반도체 등 첨단 공학 연구 분야에서 두각을 보이고 있는 퍼듀대와는 반도체 기술 연구·개발에 협력하기로 했다. 곽노정 SK하이닉스 대표이사 사장은 투자 협약식에서 “첨단 패키징 공장을 운영하려면 물리와 화학, 재료공학, 전자공학 분야 엔지니어 수백명이 필요하다”라면서 “최종 목표는 매우 명확하다. 미국에서 성공하려면 아주 좋은 엔지니어가 필요하다”라고 강조했다. 퍼듀대는 이미 수년 전 SK하이닉스의 요청을 받고 반도체 분야에 특화한 학부와 대학원, 자격증 프로그램 등을 운영해온 것으로 전해졌다.텍사스 오스틴 제1 파운드리(위탁생산) 공장에 이어 테일러에 제2파운드리 공장을 신설하고 있는 삼성전자는 텍사스 지역 대학 두 곳에 총 470만 달러를 투자해 인재 육성을 병행하고 있다. 삼성전자는 텍사스대(UT)와 A&M대학에 각각 370만 달러와 100만 달러를 투자해 반도체 교육 및 채용 프로그램, 학부생 장학금, 대학원생의 연구 프로그램 등을 지원하고 있다. 이밖에 애리조나주에 2개 공장을 짓고 있는 세계 최대 파운드리 기업 대만 TSMC는 반도체 인재 확보를 목적으로 애리조나 주립대와 협력하고 있고, 미국 종합 반도체 기업 인텔은 미국 내 11개 주 18개 이상의 지역 대학과 파트너십을 맺고 엔지니어 양성에 힘 쏟고 있다.

최근 IT 업계의 최대 화두는 AI입니다. 주요 프로세서 제조사와 빅테크들은 너도나도 AI 기반 서비스, 플랫폼, 하드웨어를 선보이면서 시장을 선점하기 위해 노력하고 있습니다. 하지만 AI 하드웨어 시장에서는 초반부터 기세를 장악한 엔비디아의 강세가 계속 이어지고 있습니다. 인텔은 엔비디아의 AI GPU의 대항마로 가우디 AI 가속기를 내놓고 반전을 모색하고 있습니다. 하지만 이를 위해서는 AI 하드웨어만이 아니라 이 하드웨어를 사용하는 개발자와 개발 생태계가 필요합니다. 인텔의 비전 2024 행사에서는 차세대 AI 가속기인 가우디 3(Gaudi 3)의 공개와 함께 깜짝 손님으로 한국의 네이버가 초대됐습니다. 네이버는 가우디 2를 인텔 클라우드에서 테스트해 거대 언어 모델 (LLM) 성능을 검증하고 개발했습니다. 네이버 개발팀에 따르면 가우디 2는 전력 대 성능비가 우수하고 LLM에 강점을 지닌 AI 가속 하드웨어입니다. 네이버 클라우드와 인텔은 AI 공동연구센터(NICL, NAVER Cloud·Intel·Co-Lab)를 설립하고 카이스트, 서울대, 포스텍 등 국내 대학 및 스타트업과 함께 AI 생태계 구축에 나서기로 했습니다. 다만 가우디 2가 네이버의 AI 서비스에 바로 활용되는 것은 아닙니다. 가우디는 최근에야 시장에 합류한 신참으로 이미 시장에서 견고한 위치를 차지하고 있는 엔비디아 GPU처럼 바로 서비스에 투입할 만큼 생태계가 구축되어 있지 않습니다. 여기에 엔비디아가 계속해서 차세대 GPU를 개발하면서 경쟁자를 저 멀리 따돌리려고 하고 있기 때문에 이를 추격하기 위해서는 가우디 2의 상용화보다 후속 모델 개발에 집중해야 할 형편입니다. 따라서 이날 행사에서 인텔은 차세대 AI 가속기인 가우디 3를 공개하고 올해 하반기에 출시한다고 발표했습니다. 가우디 3는 TSMC의 5nm 공정으로 제조되며 128GB의 HBM2e 메모리를 탑재하고 있습니다. 트랜지스터 집적도를 비롯한 더 구체적인 정보는 공개하지 않았지만, 가우디 2와 비교해서 텐서 코어를 24개에서 64개로 늘리고 연산 능력도 865 TFLOPS에서 1835 TFLOPS로 두 배 이상 대폭 늘렸다는 것이 인텔의 설명입니다.비전 2024 행사에서 인텔은 가우디 3가 엔비디아의 H100보다 더 빠르다고 주장했습니다. 예를 들어 Llama2-13B 훈련 기준으로 1.7배 빠르고 GPT 3 – 175B에서는 1.5배 빠릅니다. 그리고 다른 AI 연산에서도 전력 대 성능비로 우위에 있다는 것이 인텔의 주장입니다. 하지만 이 주장이 맞다고 해도 인텔의 도전은 쉽지 않은 게 사실입니다. H100은 이제 출시된 지 2년이 지난 제품이고 엔비디아는 이미 그 후속작인 블랙웰 GPU를 공개했기 때문입니다. 블랙웰 B200의 AI 연산 능력은 FP 8 기준으로 4.5페타플롭스로 단순 수치만 봐도 가우디 3보다 몇 배 뛰어납니다. 여기에 AI 서비스 기업과 개발자들이 사용하기 쉬운 생태계가 이미 구축된 점은 엔비디아 AI 하드웨어의 넘볼 수 없는 장점입니다. 이런 점을 봤을 때 가우디 3가 시장에서 의미 있는 성과를 거둘 수 있을지는 아직 미지수입니다. 하지만 엔비디아의 AI 하드웨어가 공급 부족에 시달리는 점이 한 가지 변수가 될 수 있습니다. 공급난을 타개하기 위해 엔비디아 GPU 이외에 다른 대안에 눈을 돌리는 기업이 많아질 수 있기 때문입니다. 한국과 손잡은 인텔의 가우디 AI 가속기가 치열한 경쟁 속에서 자신의 입지를 확보할지, 아니면 경쟁에서 밀려나 사라질지는 아직 말하기 이릅니다. 하지만 발전 속도가 매우 빠르고 한 번 뒤처지면 따라잡기 어려운 IT 분야의 속성을 생각할 때 결론이 나오는 것은 먼 미래가 아닐 것으로 생각합니다.

엔비디아는 AI 시대에 가장 가치가 치솟은 기업입니다. 현재의 AI 기술 중 상당 부분이 이 회사가 만든 GPU에 의존하고 있기 때문입니다. 오래전부터 GPU의 병렬 연산을 위해 CUDA 코어와 소프트웨어를 공개했고 이를 AI 연산에 활용하는 생태계를 구축해 왔기 때문에 지금 와서 다른 회사의 하드웨어로 이를 대체하기 힘든 것이 현실입니다. 오랜 경쟁자인 AMD도 데이터 센터 GPU를 계속 공개하고 있고 인텔도 새로운 AI 시장 공략을 위해 GPU를 공개했지만, 시장을 먼저 선점한 엔비디아의 아성을 깨뜨리기는 쉽지 않습니다. 이런 상황에서 새로 공개한 블랙웰 GPU는 반도체 미세 공정의 한계를 극복하고 AI 연산 성능을 높여 누구도 따라잡기 쉽지 않은 경쟁력을 유지하려는 의도로 풀이됩니다. 블랙웰 GPU는 TSMC의 4nm 공정의 개량형인 4NP 공정으로 제조되었습니다. 3nm 공정을 적용하지 않은 이유는 확실치 않지만, 비용 및 공급 부족 등이 이유가 된 것으로 보입니다. 하지만 그런 만큼 트랜지스터 집적도를 전 세대인 호퍼 (Hopper)보다 더 높이기 힘든 상황입니다. 800억 개의 트랜지스터를 집적한 호퍼 H100 GPU는 4nm 공정에서 다이(die, 웨이퍼에서 잘라낸 반도체 칩) 면적이 814㎟에 달합니다. 이는 현재 반도체 제조 기술에서 이론적인 다이 크기의 한계치에 거의 근접한 것으로 더 크기를 늘리기 쉽지 않습니다. 따라서 블랙웰 B200은 두 개의 다이를 연결하는 방법으로 2080억 개의 트랜지스터를 집적했습니다. 이런 접근법은 최근 점점 일반적인 추세가 되고 있습니다. 공정 미세화의 한계에 부딪힌 반도체 제조사들은 하나의 큰 칩 대신 여러 개의 작은 칩인 칩렛을 연결해 거대한 크기의 프로세서를 만들고 있습니다. 인텔, AMD, 애플이 모두 이 방법을 사용했고 이번에는 엔비디아도 이 방식을 적용해 트랜지스터 집적도를 대폭 늘렸습니다. 블랙웰 B200은 AI 연산에서 전 세대인 H100과 비교해서 최대 5배인 20페타플롭스의 성능을 지니고 있습니다. 물론 칩을 두 개 붙인 점을 생각하면 실제 성능은 2.5배라고 할 수 있는데, 실은 FP 8 연산의 절반 정도의 자원을 소모하는 FP 4 연산에서 그렇다는 이야기로 FP 8 기준으로 보면 AI 연산 능력은 절반 수준인 10페타플롭스가 최대입니다. 결국 칩 하나의 성능은 사실 1.25배 정도로 트랜지스터 수 증가를 생각하면 딱 그 정도의 성능 증가인 셈입니다. 하지만 그렇다고 해서 블랙웰이 아무 의미 없는 꼼수에 지나지 않는 것은 아닙니다. FP 4 연산만 해도 충분한 경우 AI 연산 속도를 크게 높일 수 있고 심지어 FP 4와 FP 8 연산의 중간을 원하는 고객을 위해 FP 6까지 지원하는 기능을 갖춰 더 유연한 AI 연산이 가능합니다. 그보다 더 중요한 점은 AI 경쟁이 격화되면서 어떤 비용을 치르더라도 남들보다 앞서기를 원하는 고객을 위해 성능을 높일 수 있는 다양한 옵션을 제공하고 있다는 것입니다.예를 들어 블랙웰은 기반 GB 200은 그레이스 슈퍼칩 CPU 한 개와 두 개의 B200 GPU를 하나로 묶어 최대 40페타플롭스의 AI 연산 능력을 갖고 있습니다. 물론 그만큼 비싸고 전력 소모도 엄청나지만, AI 개발에 사활을 걸고 있는 기업이 많아 오히려 수요 대비 공급이 부족할 것으로 예상됩니다. 그리고 이 경우 HBM의 수요가 크게 늘어 우리나라 메모리 업계에도 호재가 될 것입니다. B200 GPU는 24GB HBM3e를 8개나 탑재해 192GB의 메모리 용량을 갖고 있고 GB200는 그 두 배인 384GB의 HBM3e 메모리를 지니고 있기 때문입니다. 여기서 화룡점정을 찍는 것 같은 소식은 비용에 상관없이 최강의 성능이 요구하는 고객을 위한 서버 랙 시스템인 GB 200 NVL 72 노드입니다. 하나의 서버 랙에 두 개의 GB 200을 탑재한 서버 트레이 18 유닛을 쌓아서 총 72개의 B200 GPU를 장착한 시스템으로 강력한 대규모 AI 연산을 위한 슈퍼컴퓨터라고 할 수 있습니다. 다만 이 경우 엄청난 전력을 소모하기 때문에 공랭 쿨러 대신 수랭 쿨러를 사용해야 시스템 발열을 처리할 수 있습니다.그런데 이렇게 많은 프로세서를 사용해 대규모 연산 시스템을 구축하는 경우 데이터를 공유하고 작업을 분산하는 과정이 새로운 문제로 떠오르게 됩니다. 이 과정에서 병목현상이 생기면 전체 시스템의 성능이 크게 저하되는 것입니다. 이를 해결하기 위해 엔비디아는 아예 NVLINK 스위치라는 새로운 네트워크 전용 프로세서를 만들었습니다. 그리고 NVLINK 스위치 프로세서를 서버 트레이 하나에 두 개씩 넣어서 총 14.4TB/s의 대역폭을 확보했습니다. 이런 트레이가 9개가 있기 때문에 GB 200 NVL 72 노드 한 개가 130TB/s에 달하는 거대한 프로세서 간 대역폭을 확보할 수 있습니다. 덕분에 갈수록 커지고 있는 대규모 AI 학습 데이터를 더 효과적으로 처리하고 학습을 빨리할 수 있게 됐습니다. 마지막으로 GB 200 NVL 72 노드를 여러 대 연결하면 엑사플롭스급 AI 슈퍼컴퓨터 구축이 가능합니다. 물론 비용도 에너지 소모량도 엄청나지만, 역시 수요는 충분할 것으로 예상됩니다. 블랙웰 GPU를 보면 AI 하드웨어가 본격적인 산업화 시대에 도달했다는 것을 알 수 있습니다. 과거 GPU는 게임용으로 많이 사용되었고 초기 AI 연산용 GPU도 이것과 크게 다르지 않았으나 최근 나오는 데이터 센터 GPU는 산업용 및 연구용으로 특화되어 관련 분야에 종사하는 사람이 아니라면 직접 한 번 보거나 다뤄보기 어려운 물건이 됐습니다. 블랙웰 GPU는 대규모 데이터 처리와 AI 연산에 적합한 데이터 센터 GPU로 AI 혁명을 한 단계 앞당길 제품이 될 것으로 보입니다.

지난달 27일 산업통상자원부 제2차관 주재로 경기 용인 반도체 국가 첨단전략산업 특화단지 가동에 필요한 대규모 전력의 안정적 공급에 관한 TF가 발족됐다. 용인시 일대 3개 부지 총 약 13㎢의 광대한 면적에 조성될 반도체 특화단지에는 총 10GW(기가와트) 전력이 필요하다. 2036년까지 우선 필요한 3GW는 단지 내 LNG 발전소 신규 건설을 통해 공급하고 나머지 7GW는 2037년 이후 장거리 송전선로를 통해 공급할 계획이다. 반도체 산업은 고품질의 대전력이 필요한 대표적인 산업이다. 2021년 삼성전자가 사용한 전력은 184억㎾h로 이는 100만㎾, 즉 1GW 발전소 2.1기가 1년 내내 발전하는 전력량에 해당한다. 발전소 정비기간과 송전 손실 등을 고려하면 삼성전자만을 위해 3GW 정도의 발전 용량 즉 원전 3기 정도가 필요하다는 말이다. 나아가 정교한 반도체 제조 장비는 전력 주파수의 미세한 변동에도 오작동할 수 있으므로 고품질 전력이 필요하다. 전력의 품질은 주파수 변동 폭으로 결정되는데 우리나라 전력망은 허용 변동 폭인 ±0.2㎐보다 훨씬 작은 범위에서 안정적인 주파수를 유지해 왔다. 한국 반도체 산업이 세계적 수준으로 발전하는 데는 그동안 고품질 대전력을 저비용으로 공급했던 우리나라 전력 시스템 덕이 크다. 그 기저에 원자력이 있었음은 부정할 수 없는 사실이다. 인공지능(AI)이 급속도로 발전함에 따라 데이터센터의 메모리와 CPU, GPU 등 프로세서에 필요한 반도체 수요도 급증할 전망이다. 이를 위해서는 우수한 인력뿐만 아니라 고품질 전력의 확충이 필요하다. 2037년 이후 용인 반도체특화단지에 송전망을 통해 공급될 전력 7GW에는 호남 지방의 태양광과 해상풍력이 예정돼 있다. 이들 재생에너지 전력은 변동성이 크기에 안정화를 위해서는 대용량의 에너지저장장치(ESS) 설치가 필수적이다. 이런 저장장치의 운용비용은 발전비용보다 비쌀 수 있어 전력 비용이 커진다. 고비용 전력은 반도체 생산 단가의 상승을 초래해 경쟁력을 떨어뜨린다. 고품질 전력을 저비용으로 확충하려면 원자력 확대가 필수적이다. 2030년대 이후에는 탄소중립의 필요성과 AI의 본격적 활용에 따라 전력 수요가 현재 예상하는 수준보다 더 늘어날 수 있다. 이러한 전망은 안정적이고 저비용의 무탄소 대전력원인 원자력의 확대 필요성을 더욱 부각한다. 향후 원자력은 대형 원전뿐만 아니라 소형모듈원자로(SMR)를 통해 확대할 수가 있다. SMR은 수요지 인근에 설치할 수 있을 정도로 안전성이 높고, 모듈화를 통해 경제성을 확보할 수 있는 차세대 소형 원전이다. SMR을 적기에 활용하기 위해서는 현재 개발 중인 혁신형 SMR의 국내 실증을 조속히 추진해야 한다. 아울러 전력뿐만 아니라 공정열 공급 등 다양한 용도로 활용될 수 있고 조기 실물화가 가능한 다른 유형의 SMR 개발에도 적극적인 지원을 해야 한다. 주한규 한국원자력연구원 원장

생성형 인공지능(Gen AI)에 대한 글로벌 경쟁이 AI 반도체 수요 급증으로 이어지고 있다. 현재 AI 반도체 시장의 독보적인 리더는 미국의 반도체 회사 엔비디아다. 엔비디아 그래픽처리장치(GPU) 수요가 폭증하면서 엔비디아 시가총액은 2조 달러를 넘었다. 작년 6월 1조 달러를 넘어선 뒤 불과 9개월 만의 일이다. 엔비디아가 감당하지 못할 만큼 지구촌의 AI 반도체 수요가 폭증한 덕분이다. 최근 오픈AI가 텍스트로 동영상을 생성하는 소라 서비스를 예고했다. 현재의 챗GPT서비스에 비해 소라는 스케일이 다른 연산 수요를 일으키게 된다. 이 때문에 엔비디아 주가는 당분간 오를 수밖에 없다. 엔비디아 주가가 뛰면서 경쟁사 AMD의 주가도 따라 오르고 있다. 엔비디아 반도체가 많이 팔리면 중앙처리장치(CPU) 칩 수요도 올라가는데, 이 시장을 주도하는 기업이 인텔과 AMD인 것이다. 특히 AMD는 낙후된 자체의 반도체 생산 라인을 고집해 온 인텔과 달리 일찌감치 생산 파트를 매각하고 대만 반도체 위탁생산(파운드리) 기업 TSMC의 최신 공정을 사용해 왔다. 이 때문에 AMD의 가성비가 인텔에 비해 좋아 x86 기반의 CPU 시장 점유율을 높여 왔다. 엔비디아 수요가 증가하면 AMD 서버용 CPU 수요도 증가한다. 이에 더해 AMD가 엔비디아에 가장 근접한 GPU 제품을 출시하면서 시장 가치가 빠르게 오르고 있다. 사실 AI 반도체칩 설계 기술은 이제 대단한 기술은 아니다. AI 연산의 상당 부분을 차지하는 매트릭스 연산을 병렬적으로 처리하는 코어를 설계하고 이 코어 가까이에 처리할 데이터를 가능한 한 많이 올려놓을 고속 메모리를 배치하는 것이다. 모든 빅테크 회사들이 자체 AI 반도체를 이미 가지고 있다. 하지만 중요한 것은 다수의 이런 AI 반도체칩들 위에서 Gen AI 모델을 구동하는 소프트웨어다. 이 소프트웨어는 엔비디아가 2000년대부터 개발해 확산시킨 CUDA가 독보적이다. 이 CUDA 때문에 엔비디아가 독점에 가까운 95%의 시장 점유율을 가지는 것이다. 엔비디아 의존도가 큰 마이크로소프트와 메타 같은 회사들은 AMD 소프트웨어가 CUDA와 근접한 성능을 내도록 도와 왔다. AMD 주가가 빠르게 오르는 것은 AMD가 엔비디아에 근접한 성능을 낼 때가 가까워졌음을 의미한다. 한편 소프트뱅크가 90% 지분을 가진 ARM CPU는 인텔이나 AMD의 x86 CPU보다 같은 일을 할 때 전력이 적게 든다. 빅테크 클라우드 회사에는 x86에 비해 매력적인 솔루션이다. 엔비디아가 한때 인수하려 한 ARM의 주가가 오르는 이유이고, ARM 주식의 상당 부분을 보유한 소프트뱅크 주식이 오르는 이유다. 엔비디아, AMD, ARM CPU 대부분을 TSMC가 생산한다. 이 회사들의 칩 수요가 늘면 TSMC 주가도 오른다. TSMC는 시가총액 7000억 달러로 반도체 업계 2위가 됐다. TSMC의 수요가 늘면 반도체 장비 회사들의 수요도 늘어난다. ASML이 3823억 달러의 시가총액으로 반도체 업체 4위가 됐다. 그다음이 시가총액 3683억 달러의 삼성전자다. 그 뒤를 AMD가 3314억 달러의 시가총액으로 빠르게 올라오고 있다. SK하이닉스는 880억 달러로 17위다. 엔비디아는 20여년 전만 해도 게임용 GPU를 공급하는 회사에 불과했다. 그런 기업이 삼성전자 시총의 5배에 이르는 1위 반도체 회사가 된 것은 첫째는 생산을 해 주는 TSMC가 있었기 때문이고, 둘째는 소프트웨어의 중요성을 일찌감치 깨달아 게임 외에 CUDA를 개발해 퍼트린 것이다. 그다음은 Gen AI 시대가 올 것을 예상하고 과감한 기술 투자와 우수한 인재를 확보한 것이다. 모두 엔비디아 최고경영자(CEO) 젠슨 황의 리더십 없이는 불가능한 일이다. 차상균 서울대 데이터사이언스대학원 초대원장

GDDR은 이름처럼 그래픽 카드를 위해 만들어진 고속 메모리입니다. 초기 그래픽 카드는 일반 SDR, DDR 메모리를 사용했지만, 처리해야 하는 그래픽 데이터의 양이 갈수록 커지면서 PC용 메모리로는 감당하기 힘들어지자, GDDR이라는 새로운 규격을 만든 것입니다. GDDR 메모리가 본격 사용된 것은 2004년에 나온 엔비디아의 지포스(GeForce) FX 5700 울트라 그래픽 카드였습니다. 이 그래픽 카드는 GDDR2 메모리를 탑재한 시험작이었습니다. 그 다음 지포스 6800 울트라에 GDDR3가 사용되면서 본격적인 GDDR 메모리 시대가 열렸습니다. GDDR 메모리는 본래 DDR2, DDR3 메모리에 기반한 고속 메모리로 데이터가 지날 수 있는 통로를 여러 개 만들고 각각의 통로의 속도를 더 빠르게 만든 것이 특징입니다. 다만 그렇기 때문에 DDR 메모리보다 가격이 비싸고 전력 소모가 큰 단점도 지니고 있습니다. 일반 컴퓨터에서 DDR 계열 메모리 대신 GDDR 메모리를 사용하지 않는 이유입니다. 시스템 메모리는 속도 못지않게 용량도 중요하고 전력 소모와 발열이 너무 커서도 안 되기 때문에 DDR 계열 메모리 정도면 적당합니다. 하지만 GPU의 경우 발전 속도가 워낙 빠르다 보니 GDDR 계열 메모리로도 충분하지 않다는 지적이 나왔습니다. 이를 대체하기 위해 개발된 메모리가 바로 HBM입니다. HBM는 여러 층으로 메모리를 쌓고 더 극단적으로 많은 통로를 만들어 속도와 용량 두 마리 토끼를 잡은 차세대 메모리입니다. 따라서 GDDR 메모리의 한계를 극복하고 차세대 그래픽 메모리가 되리라는 기대가 상당했습니다. 하지만 가격은 잡지 못했다는 게 문제였습니다.HBM을 최초로 적용한 그래픽 카드는 사실 AMD의 라데온 R9 퓨리 X입니다. 피지 GPU에 1세대 HBM 메모리 4GB를 달고 당시로는 상당히 빠른 512GB/s의 대역폭을 확보했습니다. 하지만 당시 기준으로 너무 비싼 649달러의 가격이 발목을 잡았습니다. 값비싼 HBM를 탑재하고도 성능은 경쟁사인 엔비디아의 지포스를 능가하지 못했기 때문에 한동안 HBM 메모리는 널리 쓰이지 못했습니다. HBM이 본격적으로 빛을 보게 된 것은 AI 붐과 함께 데이터 센터용 GPU에 대규모로 공급된 이후입니다. 2022년 19억 달러 수준에 불과했던 HBM 시장 규모는 2023년에는 40억 달러로 급증했고 2027년에는 330억 달러로 폭증할 것이라는 예측이 나오고 있습니다. 이렇게 시장 규모가 커지고 규모의 경제를 달성할 수 있게 되면 HBM이 가격 경쟁력을 지니게 되면서 서버용 GPU나 CPU를 넘어 GDDR 메모리의 주요 소비처인 콘솔 게임기나 일반 소비자용 그래픽 카드에 다시 탑재될 수 있는 가능성이 열리게 됩니다. 하지만 GDDR 메모리 역시 진화를 거듭하면서 성능이 높아지고 있어 당장 큰 변화가 없을 가능성이 높습니다. 현재 사용되는 GDDR 메모리의 최신 버전은 GDDR6X입니다. 하지만 삼성전자는 이미 작년에 GDDR7 개발을 완료했습니다. 그리고 메모리 표준을 정하는 JEDEC은 최근 GDDR7 규격을 확정했습니다. GDDR7 메모리의 최대 속도는 48Gbps로 GDDR6X의 두 배입니다. 덕분에 메모리 하나의 대역폭도 192GB/s로 두 배 높아졌습니다. 256비트 메모리 인터페이스라면 총 1.5TB/s, 384비트 메모리 인터페이스에서는 2.3TB/s의 대역폭을 확보할 수 있습니다. H100 같은 서버용 GPU보다는 낮지만, 게임이나 AI 연산용의 일반 고성능 그래픽 카드에는 충분한 대역폭을 확보할 수 있습니다. 다만 초기 등장할 GDDR7 메모리는 이전과 마찬가지로 규격에서 허용하는 최대 속도보다 다소 느릴 것입니다. 작년 삼성전자가 개발한 GDDR7 역시 32Gbps의 스펙을 지니고 있습니다. 하지만 이는 RTX 3080에 사용된 19Gbps의 GDDR6X 메모리나 RTX 4080 Super에 사용된 23Gbps GDDR6X 메모리보다 훨씬 빠른 것입니다. 여러 층으로 메모리를 쌓아 올리고 이를 관통하는 TSV라는 통로를 여러 개 뚫은 후 인터포저라는 별도의 통로를 통해 GPU나 CPU에 연결해야 하는 HBM는 속도와 용량에서 GDDR 메모리를 몇 배 앞설 순 있지만 여전히 가격도 몇 배 앞서게 됩니다. 기존 DDR 계열 메모리처럼 생산하고 정착할 수 있는 GDDR 메모리는 HBM의 가격이 지금보다 현저하게 떨어지지 않는 이상 시장에서 살아남게 될 것입니다. 다만 일부에서 예측하는 것처럼 HBM 시장 규모가 급격히 커지고 규모의 경제에 의해 가격이 내려가면 상황이 바뀔 수도 있습니다. 지금처럼 메모리 대역폭과 가격에 따라 DDR – GDDR - HBM의 3층 구조가 앞으로도 이어질지 아니면 HBM이 메모리의 대세가 될지 미래가 주목됩니다.

새해가 시작됐다. 기업들은 빠르게 변하는 세계 속에서 한 해의 경영 계획을 정하기 바쁜 때다. 정부와 공공기관도 연말에 정해진 예산에 따라 올해 추진할 사업에 대해 구체적으로 고민하는 때다. 미국 라스베이거스에서는 지난 9일부터 12일까지 컨슈머 전자 쇼(CES)가 열린다. 삼성, LG, 현대자동차 등 국내 대표 기업들은 매년 이 행사에서 미래 제품과 기술을 선보여 왔다. CES에서도 지난해 내내 지구상의 관심을 끌어 왔던 젠AI가 화두다. 휴대폰, TV, 자동차 등 개인 소비자들의 모든 전자 제품에 젠 AI가 탑재돼 상호작용하는 ‘앰비언트 젠AI 시대’가 오고 있다. 이 때문에 엔비디아 GPU와 같은 고성능 데이터센터 AI 반도체 외에도 다양한 용도와 성능의 엣지 AI 반도체 수요가 늘어날 전망된다. 지금까지 젠AI에 대한 관심은 챗GPT 같은 서비스가 개인 소비자들의 지적 활동을 도와주는 데 집중됐다. 하지만 젠AI는 기업, 국가와 같이 목적을 가진 엔터프라이즈 경영에서 투명성과 생산성, 유연성을 높여 엔터프라이즈 내부와 외부의 상호작용 프로세스의 파괴적 혁신을 일으킬 수 있는 무한 가능성이 있다. 잘 알려진 것처럼 젠AI의 파워는 데이터에서 나온다. 예를 들어 CES에서 선보이는 새로운 제품들도 각 기업에서 연구개발과 생산, 인재와 시설의 선행 투자, 부품 공급망 확보 등 일련의 프로세스를 통해 만들어진다. 이 각각의 프로세스에서 다양한 데이터가 ERP를 비롯해 기업 내부의 여러 정보 시스템에 축적된다. 젠AI는 일차적으로 설계, 생산, 인사, 재무 등 기업의 각 단위 조직에서 비효율적이고 사람이 하기 싫어 하는 반복적 데이터 기반 업무를 자동화하는 데 효과를 낼 수 있다. 예를 들어 기업의 분기, 반기, 연차 경영 성과는 상장 기업이면 감사 절차를 거쳐 누구든 공개해야 하고 그 내용에 대해 CEO와 CFO가 법적 책임을 진다. 젠AI 시스템이 내부 감사 보고서 초안과 공시용 경영 보고서 초안을 ERP에 쌓인 경영 히스토리 데이터와 과거의 보고서를 바탕으로 만들고, 내부 전문가와 최고 경영진이 수정을 하면 이 결과를 젠AI가 다시 학습해 다음 보고서 수준을 높이는 선순환 구조를 만들 수 있다. ERP 데이터가 기반이므로 기업의 투명성을 높여 최고 경영진의 법적 위험을 낮추고 데드라인에 쫓기는 감사 및 경영 보고서 작업자의 효율성을 키워 경영 진단과 미래 예측에 도움이 되는 인사이트 도출에 집중하도록 할 수 있다. SAP나 세일즈포스닷컴, 워크데이 같은 기존 ERP, CRM, HR 시스템 소프트웨어는 데이터베이스 위에 전통적 코딩 방식으로 이뤄진 시스템이다. 이 소프트웨어들을 이루는 수천만 라인의 코드에는 기업의 각종 업무 프로세스 로직이 경직된 형태로 구현돼 있다. 이들 소프트웨어에 구현된 로직이 특정 기업 또는 신규 사업과 맞지 않아도 의존할 수밖에 없었다. 젠AI 기반의 엔터프라이즈 경영관리 시스템은 경직된 코딩을 없애고 기업 경영 전반에 필요한 데이터의 라이프사이클에 집중하는 새로운 패러다임의 소프트웨어다. 기업 경영에 필요한 다양한 기능의 모델이 학습을 통해 자동적으로 만들어진다. 혁신을 추구하는 기업에 절대적으로 필요한 유연성이다. 투입된 데이터의 다양성만큼 기업의 경영 효율화가 이뤄지므로 기업 내 조직들 사이의 데이터 흐름과 상호 협력이 불가피하다. 기업 내 사일로가 사라질 수밖에 없다. 이 새로운 엔터프라이즈 젠AI 패러다임은 국가 운영에도 적용된다. 올해 657조원의 정부 예산 집행은 기획재정부 산하 한국재정정보원이 운영하는 통합재정정보시스템에 기록돼 분석된다. 젠AI 시대에 이 통합재정정보시스템에 국가의 모든 프로젝트 데이터가 실시간으로 모이게 하면 대한민국의 경영에 어떤 파괴적 혁신이 일어날지 상상해 보라.

지난주 약관 28세에 3억 5000만 달러 가치를 인정받은 실리콘밸리의 스텔스 벤처를 창업한 젊은이를 만났다. 스탠퍼드대 박사과정에서 대규모언어모델(LLM) 학습 연구를 했으며 구글 브레인에서 인공지능(AI)으로 데이터센터 최적화 문제를 연구했다고 한다. 지난 6월 말 모자이크 ML이라는 2년밖에 안 된 생성형 AI 벤처 기업을 13억 달러에 인수해 화제가 됐던 비상장 벤처기업 데이터브릭스의 공동창업자 마테이 자하리아가 그의 지도교수다. 이 젊은 창업자는 스파크라는 분산 인메모리 플랫폼 소프트웨어를 만들어 창업한 지도교수의 영향을 받아 생성형 AI에 대해 폭넓게 실전 경험을 쌓았다. AI 학습과 서비스에 소요되는 엄청난 수요 때문에 돈이 있어도 엔비디아의 그래픽처리장치(GPU)를 구할 수 없게 되자 실리콘밸리의 대표 벤처캐피털인 세쿼이아 캐피털과 라이트 스피드 벤처 파트너가 앞장서 그의 스텔스 모드 벤처에 투자했다. 생성형 AI에 최적화된 데이터센터 운영 소프트웨어를 만드는 것이 이 벤처의 미션이다. 아마존, 구글 등 GPU 클라우드를 운영하는 빅테크 기업들도 이 벤처의 실험을 지원하기로 했다. 실험이 성공하게 되면 클라우드 서비스 빅테크 기업에서 GPU를 할당받아 여러 고객들의 LLM 연산 서비스를 경제적으로 해주는 벤처 기업들은 존재 이유가 없어진다. 이 스텔스 회사 이외에도 올해 들어서만 실리콘밸리 벤처캐피털들과 성공한 창업가들의 통 큰 생성형 AI 투자가 줄을 잇고 있다. 마이크로소프트, 구글, 아마존 등 AI 사업을 주도하려고 하는 빅테크 대기업들도 예외는 아니다. 지난 6월 말 인플렉션 AI는 ‘모두를 위한 개인용 AI’ 챗봇 비전을 내걸었다. 구글 딥마인드 공동 창업자였던 무스타파 술레이먼이 설립한 이 회사는 40억 달러 가치로 지금까지 모두 15억 달러의 투자를 끌어냈다. 소셜미디어나 메신저를 통해 대화로 개인의 일상 문제를 풀어 주는 ‘Pi’라는 이름의 챗봇이 대표작이다. 오픈 AI와 경쟁하는 앤트로픽은 올해에만 벤처캐피털과 아마존, 구글 등에서 수십억 달러의 투자를 받았다. 지난 9월 아마존은 즉시 12억 5000만 달러를 투자하고 추가로 양사 합의에 따라 27억 5000만 달러를 추가로 투자하기로 했다. 구글은 4월에 3억 달러를 이 회사에 투자한 후 10월에 5억 달러를 더 투자했다. 서로 합의하면 15억 달러를 추가 투자할 수 있는 여지도 열어 놓았다. 미국이 주도하는 생성형 AI의 투자에 대응하기 위해 유럽에서도 통 큰 투자가 시작됐다. 지난 6월에는 설립한 지 4주밖에 안 된 프랑스의 미스트랄 AI에 1억 1300만 달러의 파격적인 종잣돈 투자가 이루어졌다. 구글 딥마인드와 메타에 소속됐던 유럽의 젊은 연구원들이 창업한 회사다. 세 창업자의 빅테크 연구개발 경력과 유럽이 민감하게 생각하는 AI 규약 준수를 위한 LLM 개발 전략만으로 뭉칫돈을 끌어낸 것이다. 이 회사의 개발전략 설명서는 7쪽에 불과했다. 실리콘밸리의 라이트 스피드가 투자를 주도했지만 유럽의 많은 기관들도 투자 대열에 합류했다. 수십조 단위의 대규모 혁신 자본을 확보한 글로벌 벤처캐피털이 구글, 아마존, 마이크로소프트 같은 빅테크 대기업과 손을 잡고 현장의 중요한 문제를 빠르게 인지하고 문제를 풀 수 있는 인재를 구해 치고 나가는 것이 생성형 AI 시대의 새로운 모습이다. 정부가 국가의 연구개발비를 나누어 주는 체계로는 이 새로운 시대를 쫓아가기도 힘든 것이 현실이다. 산업화 시대에 만들어진 국가의 공적 산업자본을 하나로 모아 싱가포르 테마섹 같은 국부펀드를 만들어 글로벌 시장에서 혁신을 선도할 수 있는 자본을 우리도 만들어야 한다.

현재 소비자용 CPU 시장은 노트북, 데스크톱, 서버 등 고성능 제품은 x86 아키텍처가 주류고 스마트폰, 태블릿 등 휴대용 기기는 ARM 아키텍처가 대세입니다. 물론 지난 10여 년 간 영역 파괴를 위한 노력이 진행되어 경계가 일부 무너지긴 했으나 그래도 여전히 대세는 그렇다고 말할 수 있을 것입니다. 이런 시장 구도를 깨려는 회사 가운데 하나가 바로 퀄컴입니다. 스마트폰 AP의 강자인 퀄컴은 그 기세를 몰아 태블릿은 물론 노트북 시장에도 도전장을 던졌습니다. 절대 성능에서는 x86 CPU와 독립 GPU의 조합을 이기기 어렵지만, 배터리 사용 시간과 휴대성이 중요한 노트북 시장에서라면 승산이 있다고 생각한 것입니다. 여기에 LTE/5G 통신 기능까지 합치면 더 경쟁력이 있을 것으로 생각됐습니다. 그렇게 해서 내놓은 스냅드래곤 8CX는 ARM 계열인 카이로(Kyro) 모바일 CPU와 자체 모바일 GPU인 아드레노(Adreno)을 사용해 사실 모바일 스냅드래곤 8 계열 AP와 큰 차이가 없었습니다. 하지만 2017년 당시 이 제품을 내놓았을 때 퀄컴에게는 든든한 우군이 있었습니다. 바로 마이크로소프트입니다. 스마트폰 시장에서 아이폰과 안드로이드폰에 밀린 마이크로소프트는 아이패드를 내세운 애플의 세력 확장에 위기를 느끼고 서피스 태블릿을 내놓았습니다. 하지만 기존의 x86 CPU로는 아이패드 만큼 얇고 가벼우면서 배터리 사용시간이 긴 태블릿을 만들기 힘들었습니다. 그래서 내놓은 것이 ARM CPU에서도 사용할 수 있는 윈도우 RT였습니다. 그러나 윈도우 RT는 기존의 x86용 윈도우 프그램을 사용할 수 없어 무늬만 윈도우라는 이야기를 들었고 결국 소비자의 외면 속 시장에서 사라졌습니다. 따라서 아이패드를 견제하고 x86을 넘어 ARM까지 생태계를 확장하려는 마이크로소프트와 주로 스마트폰 AP 시장에만 국한된 스냅드래곤의 영역을 확장하려는 퀄컴이 손을 잡은 것은 의외의 일은 아니었습니다. 이렇게 든든한 우군 덕에 삼성이나 레노버, HP 등 여러 제조사들이 스냅드래곤 8CX와 ARM 윈도우(Windows on ARM)를 사용한 노트북을 선보였습니다. 새로 내놓은 ARM 윈도우가 윈도우 RT와 가장 다른 점은 에뮬레이션을 통해 x86 윈도우용 어플리케이션도 사용할 수 있다는 것입니다. 이는 ARM에서 돌아가는 윈도우 운영체제의 가장 큰 약점을 극복한 것으로 평가받았습니다. 하지만 시장에서의 반응은 좋지 못했습니다. 스냅드래곤 8 CX에 사용된 카이로 CPU는 기본적으로 스마트폰에 들어가는 모바일 CPU이기 때문에 전력 소모는 적지만, 절대 성능에서 x86 CPU를 넘어선다고 보기는 어려웠습니다. 그런 상황에서 에뮬레이션까지 돌리면 속도는 훨씬 느려지게 됩니다. 윈도우 어플리케이션의 절대 다수를 차지하는 x86 어플리케이션에서 실행 속도나 안전성, 호환성을 따지면 스냅드래곤 8CX와 ARM 윈도우를 탑재한 노트북은 합격점을 주기 어려웠습니다. 그런데 그런 와중에 애플은 동일 전력 소모에서 x86 CPU의 성능을 뛰어넘는다는 평가를 받는 M 시리즈 프로세서를 출시했습니다. 호환성이나 생태계 문제는 애플이 맥OS 시장을 장악하고 있다 보니 큰 문제가 되지 않았습니다. 애플이 전환하면 소비자는 무조건 따라갈 수밖에 없는 폐쇄된 생태계이기 때문입니다. M 시리즈 프로세서는 다양한 맥북 및 맥 제품에 탑재되는 것은 물론 아이패드에도 사용되어 안드로이드 태블릿에 큰 위협이 되고 있습니다. M 시리즈 프로세서만 탑재하면 보급형 아이패드도 고성능 안드로이드 태블릿의 성능을 쉽게 넘어설 수 있습니다. 퀄컴 입장에서는 노트북 시장을 넘보지도 못하고 태블릿 시장만 잃게 될 상황에 놓인 것입니다. 새로 공개한 스냅드래곤 X 엘리트는 이런 위기 상황을 타개할 회심의 대작으로 보입니다. 우선 모바일 CPU인 카이로 대신 완전히 새로운 고성능 CPU인 오라이온 (Oryon) 코어를 12개나 탑재했습니다. 클럭도 3.8GHz까지 높이면서 코어 두 개는 4.3GHz의 터보 클럭 기능을 갖춰 성능을 더 높였습니다. 물론 정확한 성능은 제품이 나와봐야 평가할 수 있겠지만, 퀄컴에 따르면 비슷한 급의 인텔 CPU와 비교해서 동일 전력 소모에서 멀티스레드 성능이 2배 높고 GPU 성능도 내장 GPU를 기준으로 최대 2배에 달합니다.물론 TSMC의 4nm 공정을 사용하고 카이로를 기반으로 성능을 높이고 클럭도 높아졌다는 점을 생각하면 최소한 기존의 스냅드래곤 8CX보다 CPU 성능이 뛰어날 것임은 분명합니다. 다만 캐시 메모리 용량이나 동일 조건에서 스냅드래곤 8CX 기반 CPU와의 비교 등 상세한 정보가 빠져 있어 아직은 추측만 할 뿐입니다. 스냅드래곤 X 엘리트에 쓰인 GPU의 성능은 4.6TFLPOS입니다. 구체적인 클럭이나 코어 구성 등 상세한 정보는 빠져 있지만, 만약 FP32 기준이라면 적어도 단순 연산 능력으로는 인텔 내장 그래픽보다 빠를 가능성을 시사합니다. 여기에 NPU인 헥사곤은 INT4 기준 46 TOPS의 인공지능 연산 능력을 지니고 있습니다. 그리고 이런 빠른 연산 능력을 뒷받침하기 위해 128비트 LPDDR5x-8533 메모리를 사용해 136GB/s의 대역폭을 확보했습니다. 다만 트랜지스터 집적도와 다이 면적 같은 정보는 공개하지 않았습니다. 일단 스펙상으로는 스냅드래곤 8과 굳이 구분할 필요가 있는지 의구심이 들 정도였던 스냅드래곤 8CX보다 훨씬 강력해진 것으로 보입니다. 전반적인 구성을 보면 스냅드래곤 X 엘리트는 애플의 M 시리즈 프로세서와 인텔 CPU를 의식해 충분히 경쟁력을 지닌 고성능 프로세서로 재탄생한 것으로 보입니다.하지만 이번에도 역시 x86 중심의 윈도우 생태계가 발목을 잡을 가능성이 높습니다. 여전히 x86 어플리케이션은 직접 구동하기 어려워 에뮬레이팅이 필요하고 이 과정에서 속도가 느려질 가능성이 높습니다. 여기에 애플도 M3 시리즈의 출시를 눈앞에 두고 있고 인텔 역시 오랜 세월 준비한 메테오 레이크를 출시할 예정이라 스냅드래곤 X 엘리트의 성능상의 우위는 생각보다 크지 않을 수 있습니다. 이런 우려를 불식시키고 스냅드래곤 X 엘리트가 강력한 성능으로 시장에서 성공을 거둘 수 있을지 결과가 주목됩니다. 　 

마이크로소프트(MS)가 인공지능(AI) 개발과 서비스를 위한 전용 칩(반도체)을 다음달 공개할 것으로 보인다. 세계 AI 반도체 시장을 주도하는 엔비디아 그래픽처리장치(GPU) 의존도를 낮추기 위해 AI 업계가 속속 전용 칩 개발에 나서고 있다. 9일 이코노믹타임스, 디 인포메이션 등 외신에 따르면 MS는 오는 11월 14~17일 미국 시애틀에서 연례 개발자 콘퍼런스 ‘MS 이그나이트’를 열고 자체 개발 AI 칩을 선보일 예정이다. 새 칩은 MS가 프로젝트 ‘아테나’라는 이름으로 개발해 온 대규모 언어모델(LLM)의 훈련과 추론을 위한 데이터센터 서버용으로 당초 내년 초 출시가 유력했던 제품이다. 전 세계 AI 반도체 시장은 엔비디아의 GPU가 90% 이상을 점유하고 있다. 성능은 좋지만 매우 높은 가격과 부족한 물량이 AI 개발에 걸림돌로 작용하는 이유다. 이에 글로벌 빅테크들은 저마다 자체 칩 개발로 대응하고 있다. 자체 AI에 최적화된 설계로 전력 효율 등을 극대화하면서 생산 단가는 낮추고 안정적인 물량 확보를 목표로 하고 있다. 챗GPT를 만든 회사이자 MS와 가장 밀접한 파트너 관계인 오픈AI도 자체 AI 칩을 개발할 제조사를 인수 대상으로 물색 중인 것으로 전해졌다. 국내 업계도 GPU의 대안으로 꼽히는 신경망처리장치(NPU) 개발에 어느 정도 결과물을 얻은 상태다. 다만 이들의 자체 칩도 엔비디아의 GPU를 완전히 대체하긴 어렵다는 시각이 있다. 이미 AI 소프트웨어 개발 영역에서 엔비디아 GPU 환경에 최적화된 프로그램 언어와 도구 등이 보편화돼 있기 때문이다.