공용 연구용 AI 가속기 인프라 구축으로 지역 산학협력 거점 조성 및 산업 AI 전환 본격화 한동대학교가 글로컬대학 지원사업의 일환으로 지난 5월 7일 교내 제네시스랩 장응복홀에서 ‘2026 AI 가속기 및 산학협력 포럼’을 개최했다. 이번 행사에서는 국내 대학 중 최초로 구축된 엔비디아(NVIDIA) DGX B200 기반 AI 가속기의 도입 성과와 향후 운영 로드맵이 발표됐다. 행사는 한동대 AI혁신센터 실장 이한진 교수의 진행으로 ▲AI 가속기 도입 성과 및 운영 계획 발표(AI혁신센터 이정훈 실장)를 시작으로 ▲한동대 AI 연구진 소개 ▲AI 분야 산학협력 우수사례 발표(최희열 교수) ▲엔비디아의 AI 가속기 기술 소개(국내 총판 류평수 부사장) ▲한동대 교수진 및 참석 기업·기관 간 네트워킹 순으로 진행됐으며, 관련 기업 및 기관 관계자 약 80명이 참석했다. 한동대 AI혁신센터는 초저지연·고성능 GPU 인프라를 기반으로 연구 역량을 높이고 기업 협력 수요에 대응할 수 있는 실행 체계를 마련했다. 센터는 DGX B200 GPU 서버(Blackwell 180GB x 8) 1식과 RTX PRO 6000 GPU 서버(Blackwell 96GB x 8) 2식을 구축하여 초대형 모델 학습과 다중 사용자 연산 환경을 동시에 지원한다. 또한 NVLink 5 기반 약 100ns(≈10-7초) 수준의 초고속 연결을 통해 여러 장의 GPU를 하나의 초대형 GPU처럼 통합 활용할 수 있어, 대규모 AI 모델 학습과 고속 연산 효율을 높인 것이 특징이다. 아울러 한동대는 외부와 분리된 보안형 AI 가속기 인프라를 구축하여 국가핵심기술, 방산, 보안등급 데이터 등 높은 보호 수준이 요구되는 분야에서도 활용 가능한 연구 환경을 마련했다. 민감한 내부 데이터도 내부 통제형 환경에서 안전하게 활용할 수 있도록 데이터 반출 통제, 접근 권한 관리, 망 분리, 암호화 저장 체계를 강화함으로써 보안성과 연구 활용성을 동시에 확보한 공용 AI 인프라 체계를 구축했다. 이번 구축은 단순한 장비 확보를 넘어 국내 대학 최초 B200 도입이라는 상징성과 함께 지역에서도 수도권 수준 이상의 첨단 AI 연구개발이 가능한 협력 거점을 조성했다는 점에서 의미가 크다. 한동대는 이를 바탕으로 AI 인프라의 지역 불균형을 완화하고, 포항을 중심으로 지역 기업 및 협력기관과의 산학협력을 본격 확대할 계획이다. 특히 포항 지역의 주력 산업인 철강, 제조, 에너지, 바이오, 물류 분야와의 연계를 통해 실질적인 산학협력을 추진하고 뉴로메카, 동국산업, 한국로봇융합연구원, 포스텍 생명공학연구센터 등 참여기업 담당자와의 네트워킹을 통해 산업 현장의 수요를 발굴·예측하며 협력을 단계적으로 확대해 나갈 예정이다. 한동대학교는 자원 제공 방식에서 나아가 교육, 수요 발굴, 공동연구, 인프라 활용을 통합한 ‘AI 가속기 활용 패키지 지원’을 운영한다. 이를 통해 AI 전문인력과 전담 조직이 부족한 지역 산업체도 단계별 교육과 맞춤형 프로젝트를 통해 AI 도입 가능성을 구체화하고, DGX B200 및 RTX 기반 AI 가속기 인프라를 활용한 실질적 연구개발로 이어갈 수 있도록 지원할 계획이다.

현재 인공지능(AI) 투자 붐으로 인해 그래픽처리장치(GPU)뿐만 아니라 여러 관련 제품의 수요가 폭발적으로 증가하고 있습니다. 그 대표적인 제품이 바로 메모리입니다. 특히 차세대 고대역폭 메모리인 HBM(High Bandwidth Memory)의 수요 급증은 국내 메모리 제조사의 실적은 물론 국내 주식시장 전체를 견인하고 있습니다. HBM의 가장 큰 장점은 메모리 대역폭이 매우 넓어 GPU의 AI 연산에 필요한 방대한 데이터를 빠르게 처리할 수 있다는 것입니다. 다만, 가격이 매우 비싸 고성능 데이터센터 GPU에만 주로 사용되고 있습니다. 구체적인 가격은 제조사 간의 계약으로 공개되지 않으나, 12단 HBM4 메모리 같은 차세대 제품은 개당 500~600달러 선이라는 루머가 있을 정도입니다. 이러한 가격적 이유로 게임용 그래픽 카드는 여전히 GDDR7 메모리를 사용하고 있습니다. GDDR7은 HBM보다 대역폭은 낮지만 가격이 상대적으로 저렴하여 일반 소비자에게 적합합니다. 다만 서버 GPU 대비 대역폭뿐만 아니라 메모리 용량도 부족하여 거대한 AI 모델을 구동하기 어렵다는 제한점이 있습니다. 엔비디아가 올해 초 깜짝 공개했던 ‘프로젝트 디짓’은 이러한 약점을 극복하기 위해 등장했습니다. 이 개인용 AI 미니 PC는 연산 능력은 크게 늘리지 않으면서도 메모리 용량을 128GB로 대폭 확장했습니다. 가격을 3000달러 선으로 유지하면서 고용량 메모리를 구현할 수 있었던 비결은 HBM은 물론 GDDR7보다 저렴하고 저전력인 LPDDR5x 메모리를 탑재했기 때문입니다. GB10 칩을 사용한 프로젝트 디짓은 정식 명칭을 DGX 스파크(Spark)로 정하고 공식 출시되었습니다. AI 연산 능력은 FP4 기준 1 PFLOPS로, 블랙웰 B200 GPU의 20 PFLOPS보다 훨씬 느립니다. 그러나 메모리가 넉넉하여 2000억 파라미터를 가진 거대 모델도 구동할 수 있습니다. 반면 게임용 GPU인 RTX 5090은 3.35 PFLOPS로 연산 능력은 더 빠르지만, 메모리가 32GB에 불과하여 큰 모델을 사용하기 어렵습니다. 엔비디아가 LPDDR5x 메모리를 사용한 AI 칩을 선보인 뒤, 최근에는 인텔과 퀄컴도 이 대열에 합류할 것임을 발표했습니다. 다만 엔비디아와는 달리 이들은 서버 AI 제품군에 LPDDR5x 메모리를 적용할 계획입니다. 내년 하반기 출시를 목표로 하는 인텔의 AI 추론 칩인 크레센트 아일랜드(Crescent Island)는 정확한 속도와 대역폭은 밝히지 않았으나, 160GB의 LPDDR5x 메모리를 사용합니다. Xe3P 아키텍처를 적용한 AI 프로세서로, 정확한 연산 능력 역시 아직 베일에 가려 있습니다. HBM이나 GDDR7이 아닌 스마트폰에 주로 사용되는 LPDDR5x를 채택한 만큼, 가격은 저렴할 것으로 보이며, 인텔은 아마도 보급형 틈새시장을 노릴 가능성이 높습니다. 퀄컴은 이보다 더 본격적으로 엔비디아의 아성에 도전하려는 모습입니다. 최근 공개한 퀄컴 AI200 및 AI250은 엔비디아의 GB300 NVL72처럼 수냉식 서버 랙 시스템을 전제로 하고 있기 때문입니다. 퀄컴 AI200/AI250은 구체적인 대역폭은 미공개 상태이지만, 최대 768GB의 LPDDR5x 메모리를 사용한다고 밝혔습니다. AI 가속기는 퀄컴의 헥사곤 NPU 기반입니다. AI200/AI250 제품군의 메모리 대역폭이나 연산 능력 모두 미공개 상태이지만, 퀄컴은 LPDDR5x 메모리 기술에 상당한 노하우를 보유하고 있습니다. 예를 들어, 최근 공개한 윈도우 노트북용 프로세서인 스냅드래곤 엘리트 X2 익스트림 프로세서에서 LPDDR5x-9523 16GB 메모리 모듈 3개를 활용하여 192비트 인터페이스로 228GB/s라는 상당한 대역폭을 확보하는 데 성공했습니다. 다만, 아무리 여러 개의 LPDDR5x 메모리를 병렬로 연결해도 HBM 계열처럼 광대한 대역폭을 확보하기는 어렵습니다. 따라서 엔비디아의 GB300 블랙웰 같은 초고성능 AI GPU보다는, 성능은 낮지만 훨씬 저렴하고 전력 소모가 적은 AI 가속기를 여러 개 병렬로 연결하는 전략을 사용할 것으로 보입니다. 참고로 퀄컴 AI200/AI250 랙 시스템 한 개의 전력 소모량은 160kW로 결코 적지 않은 수준입니다. LPDDR5x 메모리는 저렴하고 전력 소모가 적어 개인용 AI PC 같은 틈새시장을 노리는 엔비디아 DGX 스파크에는 최적의 선택입니다. 하지만 이 분야의 후발 주자인 인텔이나 퀄컴이 데이터센터 시장을 노리고 LPDDR5x 메모리를 채택한 배경에는 다른 이유가 있어 보입니다. 가장 큰 이유는 가격과 수급 문제일 가능성이 높습니다. 인텔과 퀄컴은 업계를 주도하는 대기업이지만, AI 가속기 부문에서는 후발주자인 만큼 현시점에서 시장을 주도하는 엔비디아의 AI GPU와 정면 대결하기는 어렵습니다. 따라서 저전력 또는 저렴한 가격으로 승부수를 던지는 것이 가장 합리적인 접근법이 될 수 있습니다. 여기에 HBM 메모리의 경우 수요 폭발로 인해 가격이 비싸고 수급도 쉽지 않은 상황이므로, 무리하게 HBM을 고집할 필요가 없다는 계산이 깔린 것으로 보입니다. 이러한 접근법이 내년에 가시적인 성과를 거둘 수 있을지 그 결과가 주목됩니다.

현재 인공지능(AI) 투자 붐으로 인해 그래픽처리장치(GPU)뿐만 아니라 여러 관련 제품의 수요가 폭발적으로 증가하고 있습니다. 그 대표적인 제품이 바로 메모리입니다. 특히 차세대 고대역폭 메모리인 HBM(High Bandwidth Memory)의 수요 급증은 국내 메모리 제조사의 실적은 물론 국내 주식시장 전체를 견인하고 있습니다. HBM의 가장 큰 장점은 메모리 대역폭이 매우 넓어 GPU의 AI 연산에 필요한 방대한 데이터를 빠르게 처리할 수 있다는 것입니다. 다만, 가격이 매우 비싸 고성능 데이터센터 GPU에만 주로 사용되고 있습니다. 구체적인 가격은 제조사 간의 계약으로 공개되지 않으나, 12단 HBM4 메모리 같은 차세대 제품은 개당 500~600달러 선이라는 루머가 있을 정도입니다. 이러한 가격적 이유로 게임용 그래픽 카드는 여전히 GDDR7 메모리를 사용하고 있습니다. GDDR7은 HBM보다 대역폭은 낮지만 가격이 상대적으로 저렴하여 일반 소비자에게 적합합니다. 다만 서버 GPU 대비 대역폭뿐만 아니라 메모리 용량도 부족하여 거대한 AI 모델을 구동하기 어렵다는 제한점이 있습니다. 엔비디아가 올해 초 깜짝 공개했던 ‘프로젝트 디짓’은 이러한 약점을 극복하기 위해 등장했습니다. 이 개인용 AI 미니 PC는 연산 능력은 크게 늘리지 않으면서도 메모리 용량을 128GB로 대폭 확장했습니다. 가격을 3000달러 선으로 유지하면서 고용량 메모리를 구현할 수 있었던 비결은 HBM은 물론 GDDR7보다 저렴하고 저전력인 LPDDR5x 메모리를 탑재했기 때문입니다. GB10 칩을 사용한 프로젝트 디짓은 정식 명칭을 DGX 스파크(Spark)로 정하고 공식 출시되었습니다. AI 연산 능력은 FP4 기준 1 PFLOPS로, 블랙웰 B200 GPU의 20 PFLOPS보다 훨씬 느립니다. 그러나 메모리가 넉넉하여 2000억 파라미터를 가진 거대 모델도 구동할 수 있습니다. 반면 게임용 GPU인 RTX 5090은 3.35 PFLOPS로 연산 능력은 더 빠르지만, 메모리가 32GB에 불과하여 큰 모델을 사용하기 어렵습니다. 엔비디아가 LPDDR5x 메모리를 사용한 AI 칩을 선보인 뒤, 최근에는 인텔과 퀄컴도 이 대열에 합류할 것임을 발표했습니다. 다만 엔비디아와는 달리 이들은 서버 AI 제품군에 LPDDR5x 메모리를 적용할 계획입니다. 내년 하반기 출시를 목표로 하는 인텔의 AI 추론 칩인 크레센트 아일랜드(Crescent Island)는 정확한 속도와 대역폭은 밝히지 않았으나, 160GB의 LPDDR5x 메모리를 사용합니다. Xe3P 아키텍처를 적용한 AI 프로세서로, 정확한 연산 능력 역시 아직 베일에 가려 있습니다. HBM이나 GDDR7이 아닌 스마트폰에 주로 사용되는 LPDDR5x를 채택한 만큼, 가격은 저렴할 것으로 보이며, 인텔은 아마도 보급형 틈새시장을 노릴 가능성이 높습니다. 퀄컴은 이보다 더 본격적으로 엔비디아의 아성에 도전하려는 모습입니다. 최근 공개한 퀄컴 AI200 및 AI250은 엔비디아의 GB300 NVL72처럼 수냉식 서버 랙 시스템을 전제로 하고 있기 때문입니다. 퀄컴 AI200/AI250은 구체적인 대역폭은 미공개 상태이지만, 최대 768GB의 LPDDR5x 메모리를 사용한다고 밝혔습니다. AI 가속기는 퀄컴의 헥사곤 NPU 기반입니다. AI200/AI250 제품군의 메모리 대역폭이나 연산 능력 모두 미공개 상태이지만, 퀄컴은 LPDDR5x 메모리 기술에 상당한 노하우를 보유하고 있습니다. 예를 들어, 최근 공개한 윈도우 노트북용 프로세서인 스냅드래곤 엘리트 X2 익스트림 프로세서에서 LPDDR5x-9523 16GB 메모리 모듈 3개를 활용하여 192비트 인터페이스로 228GB/s라는 상당한 대역폭을 확보하는 데 성공했습니다. 다만, 아무리 여러 개의 LPDDR5x 메모리를 병렬로 연결해도 HBM 계열처럼 광대한 대역폭을 확보하기는 어렵습니다. 따라서 엔비디아의 GB300 블랙웰 같은 초고성능 AI GPU보다는, 성능은 낮지만 훨씬 저렴하고 전력 소모가 적은 AI 가속기를 여러 개 병렬로 연결하는 전략을 사용할 것으로 보입니다. 참고로 퀄컴 AI200/AI250 랙 시스템 한 개의 전력 소모량은 160kW로 결코 적지 않은 수준입니다. LPDDR5x 메모리는 저렴하고 전력 소모가 적어 개인용 AI PC 같은 틈새시장을 노리는 엔비디아 DGX 스파크에는 최적의 선택입니다. 하지만 이 분야의 후발 주자인 인텔이나 퀄컴이 데이터센터 시장을 노리고 LPDDR5x 메모리를 채택한 배경에는 다른 이유가 있어 보입니다. 가장 큰 이유는 가격과 수급 문제일 가능성이 높습니다. 인텔과 퀄컴은 업계를 주도하는 대기업이지만, AI 가속기 부문에서는 후발주자인 만큼 현시점에서 시장을 주도하는 엔비디아의 AI GPU와 정면 대결하기는 어렵습니다. 따라서 저전력 또는 저렴한 가격으로 승부수를 던지는 것이 가장 합리적인 접근법이 될 수 있습니다. 여기에 HBM 메모리의 경우 수요 폭발로 인해 가격이 비싸고 수급도 쉽지 않은 상황이므로, 무리하게 HBM을 고집할 필요가 없다는 계산이 깔린 것으로 보입니다. 이러한 접근법이 내년에 가시적인 성과를 거둘 수 있을지 그 결과가 주목됩니다.

과학기술정보통신부가 연내 그래픽처리장치(GPU) 1만장을 확보하기로 계획한 가운데 유상임 장관이 미국에 방문해 엔비디아와 블랙웰 등 첨단 GPU 공급에 대한 협력 논의를 진행 중이라고 15일 밝혔다. 과기정통부는 이날 서울 중구 LW컨벤션센터에서 클라우드 업계를 대상으로 확보한 GPU의 구축·운영 사업 설명회를 열어 이렇게 밝혔다. 과기정통부는 추가경정예산 등을 통해 연내 확보할 GPU 1만장을 엔비디아 H200 6400장, B200 3600장으로 구성할 계획이다. 신제품인 블랙웰 기반 B200의 경우 국내 도입 경험이 거의 없는 점을 고려해 전력, 냉각, 네트워크 등의 인프라가 도입 전 충분히 구축돼야 한다고 보고 있다. 다만 모델 종류나 구매 비중을 확정한 것은 아니며 운용 주체인 클라우드 업계 선호도 등을 고려한다고 설명했다. 엔비디아 칩 전용 소프트웨어인 ‘쿠다’ 생태계에 종속될 우려도 나온다. 설명회에 참석한 업계 관계자는 “엔비디아의 소프트웨어 모델이 국내 업계가 개발하는 AI 모델을 충분히 수렴할 수 있어야 국내 AI 경쟁력이 높아질 것”이라고 지적했다. 과기정통부는 도입 대상 GPU 1만장의 기종을 엔비디아 제품으로 한정하지 않는다는 입장이다. 이에 과기정통부는 엔비디아 측과 소프트웨어적인 측면에 대해서도 논의할 계획이다. 과기정통부 관계자는 “AI 컴퓨팅 인프라에 대한 시급한 수요를 해소하고 글로벌 AI 경쟁에서 뒤처지지 않는 것이 중요하다”며 “엔비디아 완제품(DGX 플랫폼)만 염두에 두지 않고 국내 AI 기업이 새로운 클러스터링 기술력을 확보하려는 부분도 평가 항목으로 반영할 것”이라고 말했다. 과기정통부는 다음 주 GPU 자원을 구축·운영할 클라우드 기업 공모를 시작할 예정이다.

미국 반도체기업 엔비디아의 젠슨 황 대표이사(CEO)와 일본 소프트뱅크그룹(SBG) 손정의 회장이 13일 도쿄 엔비디아 AI서밋 재팬에서 열린 대담에서 양사의 AI슈퍼컴퓨터 개발 계획을 공개했다. 손 회장은 이 자리서 엔비디아의 인수를 “세 번이나 시도했다”고 밝히기도 했다. 황 CEO는 이날 손 회장과 대담에서 AI 혁명을 ‘큰 파도’라고 표현하며 “모든 산업이 영향받고 있다”며 “인프라가 필요하고 스타트업에도 기대하고 있다”고 했다. 이에 손 회장은 “기업 지원에는 기부도 필요하다”고 답했다. 대담은 30분 정도 진행됐으며 전 세계에 온라인으로 생중계됐다. 황 CEO 이 자리에서 “과거 두 회사가 합치는 것에 관해서도 얘기했었다”고 밝혔다. 그러면서 그는 “상상해 보라. 소프트뱅크그룹이 우리의 최대 주주였다면…”이라고 했고 객석에서는 폭소가 터져 나왔다. 이어 손 회장은 우는 흉내를 내면서 “세 번 (엔비디아 인수를) 시도했다”고 했다. 황 CEO는 과거 별다른 주목을 받지 못했던 자신의 사업을 손 회장이 격려했던 일화도 언급했다. 손 회장은 2016년 영국 반도체 설계업체 ‘암’(Arm)을 인수한 다음 날 사석에서 황 CEO에게 엔비디아 인수를 제안한 것으로 알려졌다. 2016년에는 엔비디아 주식을 5% 취득했다가 시장 압력에 2019년 모두 판 적도 있다. 이어 2020년 SBG이 엔비디아에 암을 매각하는 대신 엔비디아 주식 약 8% 취득하는 계약을 했다. 그러나 미국과 유럽에서 경쟁법 위반 우려가 제기됐고, 2022년 단념했다. 앞서 양사는 파트너십 체결 소식을 발표했다. 황 CEO는 이날 대담에 앞서 진행한 기조연설에서 SBG가 엔비디아의 ‘그레이스 블랙웰’ 반도체 칩을 탑재한 일본 내 최고 성능의 AI 슈퍼컴퓨터를 만들 계획이라고 밝혔다. 슈퍼컴퓨터는 컴퓨터 프로세서와 이른바 AI 가속기 칩을 결합한 엔비디아의 DGX B200 제품을 기반으로 만들어진다. 아울러 양사는 엔비디아 AI 에어리얼 가속 컴퓨팅 플랫폼을 이용해 AI와 5세대 이동통신을 결합한 통신망(AI 랜)도 구축한다. 황 CEO는 “앞으로 일본 전역에 걸쳐 AI 통신망이 구축될 것”이라고 했다.