찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • GPU B200
    2026-09-04
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
33
  • 네이버클라우드, 사이버보안 특화 AI 만든다

    과학기술정보통신부는 ‘사이버 보안 특화 인공지능(AI) 파운데이션 모델 개발’ 프로젝트 공모에서 네이버클라우드 컨소시엄을 최종 사업 수행기관으로 선정했다고 3일 밝혔다. 컨소시엄에는 네이버클라우드를 주관기관으로 LG CNS, LG유플러스, 샌즈랩 등 보안·AI 기업과 카이스트, 서울대, 고려대, 포스텍 등 주요 대학 및 연구기관을 포함해 총 32개 기관이 참여한다. 이번에 선정된 컨소시엄은 이달부터 10개월 동안 GPU B200 총 256장을 지원받는다. 정부 제공 물량과 별도로 네이버클라우드의 B200 4000장과 LG의 H200 256장을 추가 투입해 하이퍼클로바X와 엑사원을 기반으로 한 초거대 보안 특화 모델을 구축할 예정이다. 이번 사업은 고성능 AI 모델의 발달에 따라 사이버 보안 위협이 고도화되자 국내 독자 보안 특화 AI 모델을 확보하기 위한 것이다.
  • 사이버 보안 특화 AI파운데이션 모델 개발에 네이버클라우드 컨소시엄 선정

    사이버 보안 특화 AI파운데이션 모델 개발에 네이버클라우드 컨소시엄 선정

    과학기술정보통신부는 ‘사이버 보안 특화 AI 파운데이션 모델 개발’ 프로젝트 공모에 참여한 네이버클라우드와 SK텔레콤 2개 컨소시엄을 대상으로 발표 평가를 거쳐 ‘네이버클라우드 컨소시엄’을 최종 사업 수행기관으로 선정했다고 3일 밝혔다. 발표평가에서는 인공지능(AI), 사이버 보안 분야 외부 전문가로 구성된 평가위원이 각 컨소시엄이 제출한 사업계획서와 발표내용을 기반으로 기술력 및 개발경험, 개발전략·기술, 개발목표 등의 우수성·실현가능성, 시장성 및 파급효과 등을 종합적으로 평가했다. 이번에 선정된 네이버클라우드 컨소시엄은 뛰어난 기술력과 개발경험을 보유한 대규모 산학연 컨소시엄 구성 및 복수의 에이전트와 하네스 구성 등 개발전략 및 목표가 우수하다는 평가를 받았다. 이번에 선정된 컨소시엄에는 네이버클라우드를 주관기관으로 LG CNS, LG유플러스, 샌즈랩, 이스트시큐리티 등 보안·AI 기업과 카이스트, 서울대, 고려대, 포스텍 등 주요 대학 및 연구기관을 포함해 총 32개 기관이 참여한다. 이번에 선정된 컨소시엄은 이달부터 10개월 동안 GPU B200 총 256장을 지원받는다. 5개월 지원 후 중간평가 결과에 따라 잔여 5개월 지원하는 방식이다. 과기정통부는 네이버 측과 이달 중에 협약을 체결하고 GPU 지원을 통해 사이버 보안 특화모델 개발에 본격 착수할 예정이다. 선정된 사업자와 즉시 실무협의체를 구성하여 조속한 성과 창출을 위해 노력할 계획이다. 이번 사업은 고성능 AI 모델의 발달에 따라 사이버 보안 위협이 고도화되는 상황에 대응해 국내 독자 보안 특화 AI 모델을 확보하기 위한 것으로 지난 7월 22일부터 8월 21일까지 한 달간 참여팀 공모를 진행했다.
  • ‘모두의 AI’ 수행기관에 SKT·카카오·KT 최종 선정

    ‘모두의 AI’ 수행기관에 SKT·카카오·KT 최종 선정

    전 국민 대상 인공지능(AI) 서비스 구축 사업인 ‘모두의 AI’ 프로젝트 수행기관으로 SK텔레콤, 카카오, KT 3개 컨소시엄이 최종 선정됐다고 과학기술정보통신부가 28일 밝혔다. 과학기술정보통신부는 이번 공모에 참여한 6개 컨소시엄을 대상으로 기술 적합성을 심사하는 서면평가와 서비스 편의성, 이용자 확보 전략, 생태계 기여도 등을 검증하는 발표평가를 거쳐 3개 컨소시엄을 선정했다. 선정된 사업자들은 외산 AI를 뛰어넘는 범용 AI 챗봇 서비스와 복잡한 공공 행정 절차를 대신하는 공공 AI 에이전트, 스타트업 협업 기반의 차별화된 특화 서비스를 선보인다. 컨소시엄별 개발 계획을 보면 SK텔레콤 컨소시엄은 질문 하나로 계획 수립부터 실행까지 처리하는 실행형 AI를 개발한다. SK텔레콤 컨소시엄은 앱·웹뿐만 아니라 전화와 문자로도 이용할 수 있도록 해 디지털 취약계층의 접근성을 높이고 공식 API가 없는 매장이나 관공서도 전화 대행으로 연결하는 기능을 구현한다. 카카오 컨소시엄은 국민 메신저를 진입점으로 삼아 범용 챗봇과 AI 에이전트를 결합한다. LG유플러스와 함께 연내 전화 AI 서비스 라이트(Lite) 버전을 출시하고 에이전트 마켓플레이스 연계를 통해 유망 AI 기업의 특화 서비스를 빠르게 유통·확보할 계획이다. KT 컨소시엄은 다음 포털과 다나와, 무신사, 직방 등 다양한 파트너 채널과 자사 통신·미디어(IPTV) 인프라를 연결해 정보 탐색과 공공 서비스를 하나의 대화 흐름 안에서 지원하는 통합 AI를 선보인다. 정부는 선정된 3개 사업자에게 올해 엔비디아 그래픽처리장치(GPU) B200 512장을 지원한다. 2027년부터는 정부 예산으로 전 국민 서비스 제공에 필요한 비용을 뒷받침한다. 과기정통부는 오는 9월 중 이들 사업자와 협약을 맺고 실무협의체를 구성한 뒤 베타 서비스를 거쳐 연내 모두의 AI 정식 서비스를 개시할 예정이다.
  • SKT·카카오·KT, ‘모두의 AI’ 사업자 선정…연내 서비스 출시

    SKT·카카오·KT, ‘모두의 AI’ 사업자 선정…연내 서비스 출시

    SK텔레콤과 카카오, KT가 전 국민을 대상으로 국산 인공지능(AI) 챗봇과 공공 AI 에이전트를 제공하는 정부의 ‘모두의 AI’ 프로젝트 사업자로 선정됐다. 세 사업자는 정부가 지원하는 엔비디아 그래픽처리장치(GPU) B200 512장을 활용해 베타서비스를 개발하고 연내 정식으로 선보인다. 과학기술정보통신부는 모두의 AI 프로젝트 공모에 참여한 6개 사업자를 대상으로 서면·발표평가를 진행한 결과 SKT·카카오·KT 컨소시엄을 사업 수행기관으로 선정했다고 28일 밝혔다. 함께 지원한 엠케이디와 제논, 이스트소프트 컨소시엄은 탈락했다. 사업자별 평가 점수와 순위는 공개하지 않았다. 모두의 AI는 외산 AI에 버금가는 범용 챗봇과 국민이 받을 수 있는 행정·복지 혜택을 찾아 신청까지 돕는 공공 AI 에이전트를 구축하는 사업이다. 정부는 AI 모델과 서비스 경쟁력, GPU 활용계획을 비롯해 이용자 확보 전략과 서비스 안전성, 국내 AI 생태계 기여도 등을 평가했다. SKT 컨소시엄은 이용자의 요청에 따라 계획 수립부터 실행, 결과 확인까지 처리하는 ‘실행형 AI’를 개발한다. 앱·웹뿐 아니라 전화와 문자로도 이용할 수 있으며, 매장이나 관공서에 대신 전화하는 기능과 건강·금융 특화 서비스를 제공한다. SKT의 ‘A.X K2’와 업스테이지 ‘솔라 오픈 2’, 모티프테크놀로지스 ‘모티프3’, LG AI연구원 ‘K-엑사원 2.0’ 등을 활용한다. 카카오 컨소시엄은 카카오톡에서 범용 챗봇과 AI 에이전트를 이용하고 예약·신청·결제까지 마칠 수 있는 서비스를 선보인다. LG유플러스와 연내 범용 전화 AI의 경량형 서비스를 출시하고, 시니어 돌봄과 세무 등 특화 서비스도 제공한다. 카카오의 ‘카나나’와 LG AI연구원의 ‘엑사원’ 계열 모델을 활용한다. KT 컨소시엄은 하나의 대화 안에서 정보 검색과 비교·판단, 공공서비스 실행과 관리까지 지원한다. 다음과 다나와, 무신사, 직방 등 파트너 채널과 KT 통신·인터넷TV(IPTV)에 AI 진입점을 배치하고 교육·부동산 특화 서비스를 제공한다. KT의 ‘믿음 K 프로 2.5’와 업스테이지 ‘솔라 프로4’, 모티프3 등을 활용한다. 과기정통부는 다음달 세 사업자와 협약을 체결하고 베타서비스를 거쳐 연내 모두의 AI를 정식 출시할 계획이다. 올해는 세 컨소시엄에 B200 512장을 나눠 지원하고, 내년부터는 전 국민 서비스 운영에 필요한 비용을 정부 예산으로 지원한다. 공공데이터 연계를 위한 관계부처 협의도 추진한다. 이번 공모에는 모두 6개 사업자가 지원했으며 네이버는 참여하지 않았다. 대규모 이용자 접점과 자체 AI 서비스를 갖춘 SKT·카카오·KT가 나란히 선정되면서 통신·플랫폼 3사의 대국민 AI 서비스 경쟁도 본격화할 전망이다.
  • 과기부 공모 ‘보안 특화 AI’ 개발사업에 SKT·네이버클라우드 지원…민관학 협력 팀 구성

    과기부 공모 ‘보안 특화 AI’ 개발사업에 SKT·네이버클라우드 지원…민관학 협력 팀 구성

    정부가 추진하는 ‘사이버보안 특화 인공지능(AI) 파운데이션 모델 개발’ 사업에 SK텔레콤과 네이버클라우드가 각각 대규모 컨소시엄을 꾸려 도전장을 냈다. 국내 대표 AI 기업들이 사이버보안 분야의 ‘소버린 AI’ 경쟁에 나선 것으로, 최종 선정된 컨소시엄에는 엔비디아의 최신 AI 가속기 256장이 제공된다. 과학기술정보통신부는 정보통신산업진흥원(NIPA)과 함께 사업 참여팀을 모집한 결과 SK텔레콤과 네이버클라우드 컨소시엄이 각각 지원했다고 26일 밝혔다. SK텔레콤은 ‘전방위 사이버보안 특화 AI 파운데이션 모델군 개발 및 국내 사이버 위협 환경 기반 에이전틱 보안 서비스 실증’을 주제로 13개 기관과 컨소시엄을 구성했다. 업스테이지, SK쉴더스, 시큐아이, 안랩, 이글루코퍼레이션, 라온시큐어, 지니언스, 파이오링크 등 국내 주요 보안기업과 고려대·숭실대 산학협력단 등이 참여했다. 네이버클라우드는 ‘국가 사이버 안보 역량 내재화를 위한 AI 파운데이션 모델 개발’을 목표로 32개 기업·기관이 참여하는 컨소시엄을 꾸렸다. LG CNS, LG AI연구원, LG유플러스 등 LG 계열사를 비롯해 이스트시큐리티, 트릴리온랩스, 티오리한국, 하이퍼엑셀, 한국항공우주산업, 한국수력원자력, 금융보안원, 한국과학기술정보연구원 등이 이름을 올렸다. 서울대·한국과학기술원(카이스트)·포항공대 등 학계도 참여한다. 두 컨소시엄은 각각 보안 위협을 탐지·분석하고 대응하는 AI 모델을 개발해 국내 사이버 위협 환경에 특화된 서비스를 구현한다는 계획이다. 특히 SK텔레콤은 AI 에이전트 기반의 보안 서비스 실증을, 네이버클라우드는 국가 차원의 사이버 안보 역량 내재화를 강조했다. 과기정통부는 제출 서류 검토와 외부 전문가 발표평가 등을 거쳐 다음 달 초 최종 사업자 1곳을 선정할 예정이다. 선정된 컨소시엄에는 엔비디아 B200 그래픽처리장치(GPU) 256장이 10개월간 제공된다. 개발된 AI 모델과 결과물은 오픈소스로 공개해 국내 정보보호 기업과 연구기관 등이 활용할 수 있도록 할 방침이다. 정부가 특정 기업의 보안 AI 모델 개발을 넘어 국내 보안업계 전반에서 활용할 수 있는 기반 모델을 구축하겠다는 취지다.
  • ‘국가대표 AI’ LG·SKT·업스테이지 3파전 압축… 모티프 ‘탈락’

    ‘국가대표 AI’ LG·SKT·업스테이지 3파전 압축… 모티프 ‘탈락’

    벤치마크·전문가·사용자 종합평가3개 팀 GPU B200 1000장씩 지원“기존 뛰어넘는 새 지원체계 논의”내년 초 최종 2개 팀 선정할 예정 한국을 대표하는 ‘독자 인공지능(AI) 파운데이션 모델’(독파모) 2차 종합평가 결과 LG AI연구원, SK텔레콤, 업스테이지 3곳이 살아남았다. 모티프테크놀로지는 글로벌 AI 성능 지수 평가에서 높은 경쟁력을 보였지만 고배를 마시게 됐다. 과학기술정보통신부는 벤치마크·전문가·사용자 평가를 종합한 2차 독파모 평가에서 모티프테크놀로지를 제외한 3곳이 통과했다고 18일 밝혔다. 이번 2차 평가는 1차 평가와 비교해 대외 공신력을 대폭 강화했다. 배점 40점의 벤치마크 평가는 글로벌 AI 모델 평가 전문 플랫폼 아티피셜 어낼리시스의 지능·성능 평가 지수인 AAII 고난도 9종 지표 25점과 한국지능정보사회진흥원(NIA) 벤치마크 15점을 결합했다. 배점 35점의 전문가 평가는 AI 전문가 10명이 실질적으로 산업 확산과 기여 계획을 살펴봤다. 2차 평가에서 새로 도입된 사용자 평가는 25점이 배정돼 AI 스타트업 대표와 같이 전문 사용자 49명과 일반 국민 185명이 참여해 실제 사용성과 효용성을 검증했다. 평가 항목별로 1위와 4위 간 점수 격차는 벤치마크 부문 4.0점, 전문가 평가 부문 2.4점, 이용자 평가 부문 5.0점으로 나타났다. 이번 평가를 통과한 업스테이지는 포털 다음 서비스 환경 실증과 퓨리오사AI 신경망처리장치(NPU) 협업 등 국산 소프트웨어 및 하드웨어 결합 성과를 높이 평가받았고, SK텔레콤은 대규모 상용 서비스 탑재와 국방·제조·법무·세무 등 산업 특화 에이전트 적용 실증에서 우수한 평가를 받았다. LG AI연구원은 글로벌 국제기구와의 협업 전략과 에이전틱 AI 차별성, 모델 위험 요인 관리 등에서 호평받았다. 정부는 3개 팀을 대상으로 엔비디아의 차세대 고성능 그래픽처리장치(GPU) B200 지원 규모를 올해 상반기 768장에서 하반기 1000장 수준으로 확대할 계획이라고 밝혔다. 과기정통부에 따르면 6개월간 1000장을 임차할 경우 팀당 약 400억원이 소요되며 3개 팀 지원 규모는 총 1200억원 수준이다. 류제명 과기정통부 제2차관은 “글로벌 AI 경쟁이 치열해지고 주요국에서 AI 모델의 국가 안보 전략자산화 움직임이 가시화되는 상황에 대응해 기존 방식을 뛰어넘는 새로운 지원체계를 관계부처와 논의 중이며 추후 구체적 내용을 발표할 계획”이라고 말했다. 한편 과기정통부는 독파모 프로젝트 3차 평가는 예정대로 진행해 내년 초 최종 2개 팀을 선정할 예정이다.
  • 한국 대표 독파모, LG·SK·업스테이지 3파전…모티프 탈락

    한국 대표 독파모, LG·SK·업스테이지 3파전…모티프 탈락

    한국의 대표 ‘독자 인공지능(AI) 파운데이션 모델’(독파모) 2차 종합평가 결과 LG AI연구원, SK텔레콤, 업스테이지 3곳이 살아남았다. 모티프테크놀로지는 글로벌 AI 성능 지수 평가에서 높은 경쟁력을 보였지만 고배를 마시게 됐다. 과학기술정보통신부는 벤치마크, 전문가, 사용자 평가를 종합한 2차 독파모 평가에서 모티프테크놀로지를 제외한 3곳이 통과했다고 18일 밝혔다. 이번 2차 평가는 1차 평가와 비교해 대외 공신력을 대폭 강화했다. 배점 40점의 벤치마크 평가는 글로벌 AI 모델 평가 전문 플랫폼 아티피셜 어낼리시스의 지능·성능 평가 지수인 AAII 고난도 9종 지표 25점과 한국지능정보사회진흥원(NIA) 벤치마크 15점을 결합했다. 배점 35점의 전문가 평가는 AI 전문가 10명이 실질적으로 산업 확산과 기여 계획을 살펴봤다. 2차 평가에서 새로 도입된 사용자 평가는 25점이 배정돼 AI 스타트업 대표와 같이 전문 사용자 49명과 일반 국민 185명이 참여해 실제 사용성과 효용성을 검증했다. 평가 항목별로 보면 벤치마크 평가에서 1위와 4위 간 점수 격차는 4.0점, 전문가 평가에서 1, 4위의 격차는 2.4점, 이용자 평가에서 1위와 4위의 격차는 5.0점으로 나타났다. 과기정통부와 정보통신산업진흥원(NIPA)에 따르면 2단계 평가에 참여한 4곳 모두 AAII에서 모두 31점 이상을 획득해 유럽과 캐나다 등 주요 모델을 모두 추월했다. 40점을 초과한 최상위 점수 구간에는 미국과 중국에 이어 한국 모델이 유일하게 포함됐다. 국가별 프론티어 AI 모델 성능 비교에서도 한국은 미국, 중국에 이어 글로벌 3위에 올랐다. 이번 평가에서 탈락한 모티프테크놀로지스의 모티프3는 AAII에서 47점을 기록해 전 세계 기업별 AI 모델 중 10위에 올랐다. 이번 평가에 통과한 진출팀에 대한 평가 의견을 보면 업스테이지는 포털 다음 서비스 환경 실증과 퓨리오사AI 신경망처리장치(NPU) 협업 등 국산 소프트웨어 및 하드웨어 결합 성과를 높이 평가받았고, SK텔레콤은 대규모 상용 서비스 탑재와 국방·제조·법무·세무 등 산업 특화 에이전트 적용 실증에서 우수한 평가를 받았다. LG AI연구원은 글로벌 국제기구와의 협업 전략과 에이전틱 AI 차별성, 모델 위험 요인 관리 등에서 좋은 평가를 받았다. 정부는 3개 팀을 대상으로 엔비디아의 차세대 고성능 그래픽처리장치(GPU) B200 지원 규모를 올해 상반기 768장에서 하반기 1000장 수준으로 확대하는 한편 기존 방식을 뛰어넘는 지원체계를 관계부처와 논의 중이라고 밝혔다. 최동원 과기정통부 인공지능인프라정책관은 “6개월간 1000장을 임차할 경우 팀당 약 400억원이 소요되며 3개 팀 지원 규모는 총 1200억 원 수준”이라고 말했다. 류제명 과기정통부 제2차관은 “글로벌 AI 경쟁이 치열해지고 주요국에서 AI모델의 국가 안보 전략자산화 움직임이 가시화되는 상황에 대응해 기존 방식을 뛰어넘는 새로운 지원체계를 관계부처와 논의 중이며 추후 구체적 내용을 발표할 계획”이라고 말했다. 독파모 3차 평가는 내년 초 예상최종 2개팀 선정…지원 방식은 미정또 독파모 프로젝트 3차 평가는 예정대로 진행해 내년 초 정도에 최종 2개팀을 선정할 것으로 전망된다. 최종 선정 이후 지원 방식에 대해서는 전면 재검토 중이라고 정부는 밝혔다. 한편 독파모 2차 평가에 참여한 4개팀은 정부 결과 발표 직후 일제히 입장을 내놨다. LG AI연구원은 “세계 시장에서 경쟁할 수 있는 기함급 초대규모 파운데이션 모델 개발의 기반을 마련하는 데 중점을 뒀다”며 “이번 2차 평가 통과는 초대형 모델을 안정적으로 학습하고 운영할 수 있는 기술 기반을 확보하는 동시에 사용자가 실제로 체감하는 응답 품질과 활용 성능을 개선했다는 데 의미가 있다”고 밝혔다. SK텔레콤은 “다음 단계에 참여하게 된 것을 뜻깊게 생각하며 함께해온 컨소시엄 참여 기업·기관들의 노력이 있었기에 가능했다”며 “자체 AI 모델의 산업 및 실생활 확산 성과를 바탕으로 국내 AI 생태계가 함께 활용할 수 있는 결과물을 만드는 데 집중하겠다”고 말했다. 업스테이지도 “전 국민이 AI 혜택을 누릴 수 있는 생태계 기반을 마련함과 동시에 한국 AI가 글로벌 무대의 중심으로 나아가는 역사적인 시간을 함께하게 돼 큰 영광”이라며 “최종 실증 단계로 넘어가는 만큼 포털 다음과 컨소시엄 참여사 등을 통해 국민들이 직접 체감할 수 있는 실사용 모델을 고도화하는 데 최선을 다하는 한편, 아시아권으로 지원 언어를 확대해 글로벌 확산 기반도 마련하겠다”며 앞으로 계획을 제시했다. 탈락 모티프 “신생 스타트업에도 기회줘 감사”“글로벌 프런티어 모델 개발에 최선 다할 것”아쉽게 탈락한 모티프테크놀로지스는 “결과에 상관없이 이번 독파모 프로젝트를 통해 기술력만으로 한국에서도 글로벌 프런티어 수준의 AI 모델 개발이 가능하다는 것을 증명했다는 점에서 뜻깊었다”며 “정부가 독파모 개발에 도전하기로 결정하고 작은 신생 스타트업에도 기회를 주지 않았다면 이런 성과도 만들어내지 못했을 것인 만큼 앞으로도 글로벌 프런티어 모델 개발에 전력을 다할 것”이라고 밝혔다.
  • NHN, 2분기 매출·영업익 역대 최대…AI클라우드·결제 성장

    NHN, 2분기 매출·영업익 역대 최대…AI클라우드·결제 성장

    NHN이 결제와 인공지능(AI) 클라우드, 게임 등 주력 사업의 고른 성장에 힘입어 2분기 역대 최대 실적을 거뒀다. 특히 엔비디아 최신 그래픽처리장치(GPU) 공급 매출이 반영되면서 클라우드 사업의 성장세가 두드러졌다. NHN은 올해 2분기 연결 기준 매출 7579억원, 영업이익 579억원을 기록했다고 11일 밝혔다. 지난해 같은 기간보다 각각 25.3%, 164% 증가했다. 매출과 영업이익 모두 분기 기준 역대 최대다. 순이익은 291억원으로 159% 늘었다. 가장 큰 비중을 차지하는 결제 부문 매출은 3940억원으로 27.3% 증가했다. NHN KCP의 2분기 거래대금은 17조원으로 집계됐고, 국내 전자지급결제대행(PG) 시장 점유율은 30%를 기록했다. NHN페이코도 쿠폰과 기업복지 거래가 늘면서 수익성이 개선되고 적자 폭을 줄였다. AI 클라우드 등을 포함한 기술 부문 매출은 1598억원으로 52.9% 늘었다. NHN클라우드는 서울 양평 리전에 공급한 엔비디아 B200 GPU 관련 매출이 반영되면서 매출이 전년 동기보다 85% 증가했다. NHN테코러스 역시 아마존웹서비스(AWS) 리세일 사업 성장으로 매출이 27% 늘었다. 게임 매출도 1396억원으로 21.5% 증가했다. 웹보드 게임 규제 완화로 이용자당 평균 매출이 높아진 데다 모바일과 PC 온라인 게임 매출이 함께 늘었다. 반면 NHN링크와 NHN코미코, NHN여행박사 등이 포함된 기타 사업 매출은 880억원으로 8.8% 감소했다. NHN은 클라우드 성장세에 맞춰 AI 인프라 투자도 확대한다. 내년까지 최소 30MW 규모의 AI 데이터센터를 추가 확보하고 기존 리전에는 엔비디아 B300 이상 최신 GPU를 확충할 계획이다. 회사는 GPU 사업의 해외 진출을 위해 일본 데이터센터 확보도 추진하고 있다. 결제 부문에서는 NHN KCP의 가맹점망을 활용한 스테이블코인 결제 인프라와 사업 모델을 준비하고, 게임 부문에서는 일본 시장을 중심으로 신작을 확대한다. NHN플레이아트는 다음 달 도쿄게임쇼에서 신작과 주요 라이브 게임을 선보일 예정이다. 실적 개선과 AI 클라우드 성장세가 부각되면서 주가도 크게 뛰었다. 이날 NHN은 전 거래일보다 29.82% 오른 5만 4200원에 거래를 마쳐 상한가를 기록했다.
  • 한국, 엔비디아 AI 가속기 ‘베라 루빈’ 최우선 공급받는다

    정부가 엔비디아의 차세대 인공지능(AI) 가속기 ‘베라 루빈’을 최우선으로 공급받기로 했다. 배경훈 부총리 겸 과학기술정보통신부 장관은 8일 서울 신라호텔에서 젠슨 황 엔비디아 최고경영자(CEO)와 회동한 뒤 기자들과 만나 “우리가 그래픽처리장치(GPU)를 공급받는 데에 차질 없이 (엔비디아로부터) 지원받기로 했다”며 “한국이 최우선으로 공급받기로 했다”고 밝혔다. 지난해 엔비디아와 공급 협의를 마친 GPU 26만장 외 추가 물량에 대해서도 “기존에 계획했던 것들을 차질 없이 공급받는 것 외에 앞으로 추가적인 사업을 위한 공급도 문제없이 공급받기로 했다”고 설명했다. 배 부총리는 “한국이 거대언어모델(LLM)은 뒤처졌을지 몰라도 피지컬 AI는 치고 나가겠다는 의지를 보였고, 한국이 세계를 선도할 수 있도록 엔비디아가 적극적으로 지원하기로 했다”고 전했다. 정부가 AI 생태계 투자를 지원하겠다는 뜻을 밝히자, 황 CEO도 한국 정부와 함께 국내 AI 생태계에 투자하겠다고 화답했다는 설명이다. 정부의 첨단 GPU 확보 사업도 속도를 내고 있다. 과학기술정보통신부는 이날 네이버클라우드, 삼성SDS, 엘리스그룹을 사업 대상자로 선정하고, 이들 3개 클라우드 서비스 기업(CSP)과 2조 800억원 규모의 GPU 9704장을 확보할 계획이라고 밝혔다. 도입 물량은 베라루빈 2016장과 최신 GPU ‘B300’ 7688장이다. 정부는 애초 B300의 이전 모델인 ‘B200’ 1만 5000장 도입을 추진했으나, 고성능 최신 모델로 전환하면서 기존 계획보다 30% 이상 높은 컴퓨팅 성능을 확보하게 됐다고 설명했다.
  • NHN 1분기 영업익 전년 대비 5%↓…결제·게임 부문은 성장

    NHN 1분기 영업익 전년 대비 5%↓…결제·게임 부문은 성장

    NHN이 결제와 게임 사업 성장세에도 불구하고 비용 증가 영향으로 올해 1분기 영업이익이 소폭 감소했다. 특히 지급수수료와 마케팅 비용이 크게 늘면서 수익성이 다소 둔화됐다. 다만 결제·웹보드 게임·클라우드 등 주요 사업은 성장 흐름을 이어갔고, NHN은 일본 게임 시장과 국방 인공지능(AI)·클라우드 시장 공략에 속도를 낼 계획이다. NHN은 12일 연결 기준 올해 1분기 영업이익이 263억원으로 전년 동기 대비 5% 감소했다고 공시했다. 같은 기간 매출은 6714억원으로 11.9% 증가했고, 순이익은 311억원으로 흑자 전환했다. 영업비용은 6451억원으로 12.7% 늘었다. 지급수수료가 15.3% 증가했고 광고선전비와 감가상각비도 각각 29.2%, 23.9% 확대됐다. 신작 게임 마케팅과 인프라 투자 확대가 비용 증가에 영향을 준 것으로 풀이된다. 사업 부문별로는 결제 사업이 성장세를 이끌었다. 결제 부문 매출은 3546억원으로 전년 동기 대비 22.1% 증가했다. 자회사 KCP의 결제대금 증가와 페이코 기업복지 서비스 거래 확대가 실적을 견인했다. 페이코 기업복지 서비스 거래금액은 전년 동기 대비 33% 증가했다. 게임 부문 매출은 1278억원으로 6.8% 늘었다. 특히 지난 2월 시행된 웹보드 게임 규제 완화 영향으로 고스톱·포커 게임 이용자당 평균 매출이 상승하면서 웹보드 게임 매출이 전년 대비 11% 증가했다. 일본 시장에서는 모바일 게임 ‘라인 디즈니 츠무츠무’가 12주년 이벤트와 ‘명탐정 코난’ 협업 효과로 매출이 전년 대비 47% 급증했다. 정우진 NHN 대표는 “일본 시장을 겨냥한 게임 사업 전략 변화를 준비하고 있다”며 “인지도가 높은 일본 지적재산권(IP) 기반 신규 프로젝트를 추진 중”이라고 말했다. 클라우드와 협업툴 등 기술 부문 매출은 1257억원으로 전년 동기 대비 19% 증가했다. NHN클라우드는 이노그리드와 NHN인재아이엔씨 합병을 통해 풀스택 클라우드 경쟁력 강화에 나선다. NHN은 이를 기반으로 공공·금융 시장 공략을 확대하겠다는 방침이다. AI 인프라 사업도 본격 확대된다. NHN클라우드는 정부 그래픽처리장치(GPU) 사업 일환으로 양평 리전에 구축한 수냉식 GPU B200을 지난 3월 말부터 가동했고, 광주 국가 AI데이터센터에는 차세대 GPU B300 구축 사업을 수주했다. 또 AI 인프라 기업 베슬AI와 GPU 공급 계약을 체결해 200억원 이상 매출을 기대하고 있다. 국방 분야 협업툴 사업도 확대한다. NHN두레이는 국방부 협업 플랫폼 ‘국방이음’을 올 하반기 전군 30만명 규모로 확대 적용할 예정이다. NHN은 이를 계기로 국방 AI 전환(AX) 시장 공략에 본격 나선다는 전략이다. 안현식 NHN 최고재무책임자(CFO)는 “신작 출시 영향으로 올해 광고비는 지난해보다 약 10% 증가할 것”이라며 “양평 리전 가동 효과로 클라우드(CSP) 매출은 올해 30% 이상 성장할 것으로 기대한다”고 밝혔다.
  • 한동대, 최첨단 AI 가속기 도입 성과 공유… 지역 산학협력 거점 역할 강화

    한동대, 최첨단 AI 가속기 도입 성과 공유… 지역 산학협력 거점 역할 강화

    공용 연구용 AI 가속기 인프라 구축으로 지역 산학협력 거점 조성 및 산업 AI 전환 본격화 한동대학교가 글로컬대학 지원사업의 일환으로 지난 5월 7일 교내 제네시스랩 장응복홀에서 ‘2026 AI 가속기 및 산학협력 포럼’을 개최했다. 이번 행사에서는 국내 대학 중 최초로 구축된 엔비디아(NVIDIA) DGX B200 기반 AI 가속기의 도입 성과와 향후 운영 로드맵이 발표됐다. 행사는 한동대 AI혁신센터 실장 이한진 교수의 진행으로 ▲AI 가속기 도입 성과 및 운영 계획 발표(AI혁신센터 이정훈 실장)를 시작으로 ▲한동대 AI 연구진 소개 ▲AI 분야 산학협력 우수사례 발표(최희열 교수) ▲엔비디아의 AI 가속기 기술 소개(국내 총판 류평수 부사장) ▲한동대 교수진 및 참석 기업·기관 간 네트워킹 순으로 진행됐으며, 관련 기업 및 기관 관계자 약 80명이 참석했다. 한동대 AI혁신센터는 초저지연·고성능 GPU 인프라를 기반으로 연구 역량을 높이고 기업 협력 수요에 대응할 수 있는 실행 체계를 마련했다. 센터는 DGX B200 GPU 서버(Blackwell 180GB x 8) 1식과 RTX PRO 6000 GPU 서버(Blackwell 96GB x 8) 2식을 구축하여 초대형 모델 학습과 다중 사용자 연산 환경을 동시에 지원한다. 또한 NVLink 5 기반 약 100ns(≈10-7초) 수준의 초고속 연결을 통해 여러 장의 GPU를 하나의 초대형 GPU처럼 통합 활용할 수 있어, 대규모 AI 모델 학습과 고속 연산 효율을 높인 것이 특징이다. 아울러 한동대는 외부와 분리된 보안형 AI 가속기 인프라를 구축하여 국가핵심기술, 방산, 보안등급 데이터 등 높은 보호 수준이 요구되는 분야에서도 활용 가능한 연구 환경을 마련했다. 민감한 내부 데이터도 내부 통제형 환경에서 안전하게 활용할 수 있도록 데이터 반출 통제, 접근 권한 관리, 망 분리, 암호화 저장 체계를 강화함으로써 보안성과 연구 활용성을 동시에 확보한 공용 AI 인프라 체계를 구축했다. 이번 구축은 단순한 장비 확보를 넘어 국내 대학 최초 B200 도입이라는 상징성과 함께 지역에서도 수도권 수준 이상의 첨단 AI 연구개발이 가능한 협력 거점을 조성했다는 점에서 의미가 크다. 한동대는 이를 바탕으로 AI 인프라의 지역 불균형을 완화하고, 포항을 중심으로 지역 기업 및 협력기관과의 산학협력을 본격 확대할 계획이다. 특히 포항 지역의 주력 산업인 철강, 제조, 에너지, 바이오, 물류 분야와의 연계를 통해 실질적인 산학협력을 추진하고 뉴로메카, 동국산업, 한국로봇융합연구원, 포스텍 생명공학연구센터 등 참여기업 담당자와의 네트워킹을 통해 산업 현장의 수요를 발굴·예측하며 협력을 단계적으로 확대해 나갈 예정이다. 한동대학교는 자원 제공 방식에서 나아가 교육, 수요 발굴, 공동연구, 인프라 활용을 통합한 ‘AI 가속기 활용 패키지 지원’을 운영한다. 이를 통해 AI 전문인력과 전담 조직이 부족한 지역 산업체도 단계별 교육과 맞춤형 프로젝트를 통해 AI 도입 가능성을 구체화하고, DGX B200 및 RTX 기반 AI 가속기 인프라를 활용한 실질적 연구개발로 이어갈 수 있도록 지원할 계획이다.
  • STEG, SK텔레콤 GPU 클러스터 운영 위한 차세대 ITSM 구축 완료

    E-GENE™ ITSM 기반으로 대규모 GPU 인프라 운영 체계 고도화주요 IT 프로세스 데이터화… 추적성·운영 효율 강화IT서비스관리(ITSM) 전문기업 에스티이지(STEG, 대표 임현길)는 SK텔레콤의 GPU 클러스터 운영 관리를 위한 차세대 ITSM 구축을 완료했다고 6일 밝혔다. SK텔레콤은 가산 AI 데이터센터에서 엔비디아 고성능 GPU B200 1000장 이상을 단일 GPU 클러스터로 구성해 구독형 AI 클라우드 서비스(GPUaaS)를 운영하고 있다. 이번 사업은 GPU 클러스터 인프라 관리 체계를 고도화해 고밀도 GPU 환경에서 자원 활용도와 서비스 품질을 높이는 데 초점을 맞췄다. STEG는 자사 ITSM 솔루션 ‘E-GENE™ ITSM’을 적용해 고성능 인프라 환경에 특화된 운영·관제 체계를 구축했다.데이터센터 상면도를 기반으로 서버의 물리적 위치를 직관적으로 확인할 수 있도록 했으며, 장비별 상세 사양과 네트워크 포트 연결 상태, 소프트웨어 설치 현황 등을 통합 관리할 수 있도록 구현했다. 또 장애 발생 시 문제 지점을 빠르게 식별할 수 있도록 해 대응 시간을 단축하고, 대규모 GPU 자원의 효율적 운영을 지원하도록 설계됐다. 이와 함께 주요 IT 운영 프로세스를 데이터 기반으로 관리할 수 있도록 체계를 구축했다.변경 이력과 승인 프로세스 등 운영 이력을 추적·보관할 수 있도록 함으로써 IT 일반통제(ITGC)와 감사 대응에 필요한 추적성과 투명성을 강화했다. SK텔레콤은 이번 차세대 ITSM 구축을 통해 고밀도 GPU 환경 운영 효율을 높이는 동시에 감사 및 컴플라이언스 대응 체계도 강화할 수 있을 것으로 기대하고 있다.특히 안정적인 AI 인프라 운영 기반을 마련해 GPUaaS 서비스 경쟁력 확보에도 도움이 될 것으로 보고 있다. 임현길 STEG 대표는 “국내 AI 인프라 경쟁력과 연결되는 SK텔레콤의 GPU 운영 환경 구축에 참여하게 돼 의미가 크다”며 “공공·금융·엔터프라이즈 시장에서 축적한 경험을 바탕으로 대규모 AI 환경에서도 안정적인 ITSM 서비스를 제공해 나가겠다”고 밝혔다. 한편 STEG는 노코드 플랫폼 ‘E-GENE™’을 기반으로 ITSM을 비롯해 자산관리(ITAM), 엔터프라이즈 서비스관리(ESM) 등 다양한 B2B IT 서비스를 자체 개발하고 있다.ITSM 솔루션은 온프레미스와 클라우드(SaaS) 환경 모두 지원하며, 클라우드 보안인증(CSAP)을 획득해 공공·금융 분야의 보안 요구사항에도 대응하고 있다.
  • 과기부, ‘독자 AI’ 정예팀 1곳 추가 모집

    과기부, ‘독자 AI’ 정예팀 1곳 추가 모집

    정부가 세계 최고 수준의 인공지능(AI) 경쟁력 확보를 위해 ‘독자 AI 파운데이션 모델’ 개발 정예 팀을 1곳 추가로 선정한다. 과학기술정보통신부는 23일 ‘독자 AI 파운데이션 모델’ 프로젝트에 참여할 정예팀 1곳을 추가 공모한다고 밝혔다. 공모 기간은 이날부터 다음 달 12일까지다. 이번 추가 공모는 세계 최상위 수준의 독자 AI 파운데이션 모델 개발을 가속화하고, 국내 AI 생태계의 성장과 확장을 촉진하려는 조치다. 정부는 기존 3개 정예 팀과 유의미한 기술 경쟁이 가능하고, 단순 모델 개발을 넘어 국내 AI 생태계 전반에 기여할 수 있는 역량을 갖춘 팀을 선발할 계획이다. 공모 대상은 국내 AI 기업·기관을 중심으로 한 정예팀으로 컨소시엄 형태도 가능하다. 참여팀은 최신 글로벌 AI 모델 대비 95% 이상 성능을 목표로 한 구체적인 개발 전략과 방법론을 제시해야 한다. 선정 여부는 전문가 평가위원단의 서면·발표 평가를 통해 결정되며, 평가위원 과반이 경쟁력과 생태계 기여 가능성을 인정해야 최종 선정된다. 적합한 팀이 없다고 판단되면 추가 선정을 하지 않는다. 추가로 선정되는 정예 팀에는 기존 정예 팀과 동등한 수준의 지원이 제공된다. B200 768장 규모의 GPU 자원을 비롯해 데이터 공동구매, 데이터 구축·가공 지원이 이뤄지며, ‘K-AI 기업’ 명칭도 부여된다. 정부는 기존 팀들과의 형평성을 고려해 오는 8월 초 단계평가를 추진할 예정이다. 평가 방식은 벤치마크 평가, 전문가 평가, 사용자 평가의 틀을 유지하되, 글로벌 주요 리더보드를 목표로 한 벤치마크 선정과 ‘독자성’ 평가 항목 강화 등을 검토한다. 과기정통부는 “지금 이 순간에도 미·중의 빅테크 등은 미래를 향해 도전하며 AI 경쟁력을 높이고 있다”며 “단기 결과가 아닌, 장기적 관점에서 대한민국 AI 생태계의 경쟁력을 높이는 데 정책적 전력을 다하겠다”고 밝혔다.
  • KT “독자 AI 추가 공모 참여 안 한다”

    KT “독자 AI 추가 공모 참여 안 한다”

    KT가 정부의 독자 인공지능(AI) 파운데이션 모델 개발 프로젝트의 추가 정예팀 선발 공모에 참여하지 않기로 했다. KT는 23일 “추가 정예팀 선발을 위한 공모에 참여하지 않기로 했다”고 밝혔다. 과학기술정보통신부는 지난 15일 독자 AI 파운데이션 모델 프로젝트 1차 단계 평가 결과를 발표하면서 1개 정예팀을 새롭게 뽑겠다고 밝힌 바 있다. 1차 평가에서는 LG AI연구원, SK텔레콤, 업스테이지, 네이버클라우드, NC AI 등 5개 참여 정예팀 중 4곳을 선정하려 했으나 독자성 문제 등으로 인해 3곳만 통과했기 때문이다. 1차 평가를 통과한 정예팀은 LG AI 연구원, SK텔레콤, 업스테이지다. 과기정통부가 1개 정예팀 추가 선발을 공식 발표한 직후부터 KT의 재도전 참여 여부에 업계의 관심이 쏠렸다. 정부도 꾸준히 KT를 AI 신흥 강자 중 한 곳으로 언급해왔기 때문이다. 하지만 KT는 과기정통부가 1개 정예팀 추가 공모에 착수한 23일 재도전 미참여를 공식 발표했다. KT는 “그간 축적한 AI·네트워크·데이터 역량을 바탕으로 국내 AI 경쟁력 강화에 기여할 수 있는 다양한 방안을 자체 전략에 따라 지속적으로 모색하겠다”고 했다. 이미 1차 평가에서 탈락한 네이버클라우드, NC AI를 비롯해 카카오 등도 독자 AI 파운데이션 모델 프로젝트에 재도전하지 않겠다는 입장을 밝힌 바 있다. 한편 과기정통부는 오는 2월 12일까지 신규 정예팀 공모를 진행하고, 기존 1차 평가와 동일하게 전문가 평가를 통해 1곳을 최종 선정할 계획이다. 추가 선정된 정예팀에게도 B200 768장 규모의 GPU(그래픽처리장치) 자원 지원, ‘K-AI 기업’ 명칭 부여 등이 제공된다.
  • AI 버블 논란에 구글, 아마존 도전장까지…엔비디아는 왕좌를 지킬 수 있을까?

    AI 버블 논란에 구글, 아마존 도전장까지…엔비디아는 왕좌를 지킬 수 있을까?

    지난 3분기, 엔비디아는 570억 달러의 매출과 함께 무려 73.4%에 달하는 매출 총이익률(gross margin)을 발표했습니다. 그만큼 GPU 하나 팔아서 남기는 게 많다는 이야기로 영업 이익은 매출의 절반이 넘는 360억 달러에 달했습니다. 사실상 원가에 몇 배에 달하는 폭리를 취하면서 매출보다 이익이 더 가파르게 증가한 것입니다. 하지만 이렇게 파는데도 데이터 센터 GPU는 다 팔려 나가 물량 구하기가 쉽지 않다는 게 젠슨 황 CEO의 설명입니다. 그런데도 AI 버블 논란은 여전히 가라앉지 않고 있습니다. AI를 통해 인력을 감축하고 비용을 절감하는 기업들은 늘고 있지만, 정작 막대한 비용이 들어가는 AI 서비스 자체는 그에 걸맞은 수익을 창출하지 못하고 있기 때문입니다. 예를 들어, ChatGPT를 서비스하는 오픈 AI는 재무제표를 공개하지는 않지만, 창립 이래 계속해서 적자를 기록하고 있는 것으로 알려져 있습니다. 따라서 최근에는 막대한 투자 비용을 감당하기 위해 대규모 자금 조달에 나서는 한편 광고와 같은 다른 수익 창출 방법도 모색하고 있습니다. 물론 오픈 AI와 경쟁하는 다른 AI 서비스들 역시 상황은 크게 다르지 않습니다. AI가 미래의 성장 동력이라는 점을 의심하는 이는 없지만, 갈수록 치솟는 GPU, 메모리, 스토리지, 그리고 막대한 전기 사용료 등을 고려하면 기업들이 적자를 감수하고 무작정 투자를 계속할 수는 없습니다. 결국, 어느 시점에는 자금력과 기술력이 뒤처지는 회사는 시장에서 도태되고, 비용 절감과 수익 모델 창출에 성공한 기업만이 살아남게 될 것입니다. 이에 따라 구글이나 아마존 같은 빅테크들은 자체 AI 칩(ASIC)에 막대한 투자를 단행하며 엔비디아 GPU보다 저렴한 대안을 모색하고 있습니다. 그런 의미에서 최근 구글이 공개한 7세대 TPU인 아이언우드(Ironwood)는 시장에 큰 충격을 던져주었습니다. TPU(Tensor Processing Unit)는 애플리케이션 특정 통합 회로(ASIC)의 일종으로, 신경망의 행렬 곱셈과 같은 연산을 효율적으로 처리하기 위한 특수 목적 프로세서입니다. CPU가 가장 일반적인 용도의 프로세서라고 한다면 GPU는 그래픽 연산에 필요한 병렬 연산에 최적화된 프로세서라고 할 수 있습니다. 엔비디아는 GPU에 고성능 컴퓨팅에 필요한 좀 더 범용 연산 능력을 부여해 일반 목적 GPU(GPGPU)라고 명명했습니다. 그리고 여기에 사용되는 언어인 쿠다(CUDA)를 개발했습니다. GPU의 GPGPU 성능이 가장 큰 힘을 발휘한 분야가 바로 AI였습니다. 딥러닝 모델 학습과 같이 대규모 데이터를 병렬로 처리해야 하는 작업이 GPGPU에 적합했기 때문입니다. 결국 최근에 나오는 GPU는 AI 성능을 담당하는 부분이 더 커지면서 핵심 기능으로 자리 잡고 있습니다. 구글의 TPU는 GPU보다 더 좁은 범위의 연산만 수행하는 특수 프로세서로 CPU – GPU – TPU의 순으로 점점 더 할 수 있는 기능은 좁아진다고 할 수 있습니다. 다만 반대로 에너지 효율은 더 높아질 수 있습니다. 사실 3D 그래픽도 CPU만 가지고 처리할 수 있습니다. 하지만 처리 속도가 너무 느리고 기능이 제한적이라 3D 가속기라는 별도의 보조 프로세서가 나오게 되었고 그것이 나중에 GPU로 발전한 것입니다. TPU도 그런 연장선상에서 보면 엔비디아의 GPU에 상당히 위협적인 존재가 될 수 있습니다. 아이언우드 자체의 성능은 4,614 FP8 TFLOPS 정도로 B200 블랙웰 GPU의 4.5 PFLOPS와 비슷하지만, GPU보다 구조가 단순할 가능성이 높아 생산비나 제작 단가가 저렴할 수 있습니다. 최근 제미나이 3의 놀라운 성능을 보면 그렇다고 기능이 부족한 것도 아닌 것으로 보여 적지 않은 충격을 주고 있습니다. 여기에 아마존의 AWS 역시 3세대 AI ASIC 칩인 트레이니움3(Trainium3)을 공개하면서 도전장을 내밀고 있습니다. 트레이니움3 칩 하나는 PF8 기준 2.52 PFLOPs의 연산 능력을 지니고 있으며 144GB의 HBM3e 메모리와 4.9TB/s의 대역폭을 지니고 있습니다. 그리고 144개의 칩이 모인 Trn3 UltraServers는 총 362 FP8 PFLOPs의 연산 능력을 확보해 100만 토큰 이상의 AI 서비스를 감당할 수 있습니다. 칩 하나의 성능만 보면 엔비디아의 B200 GPU보다 낮지만, 역시 GPU보다 단순한 구조로 전체 비용은 더 낮을 가능성이 있습니다. 다만 아직은 AI 생태계에서 엔비디아의 입지가 지배적인 만큼 아마존은 트레이니움4에서는 엔비디아의 고속 인터페이스인 NVLink를 지원해 트레이니움4와 엔비디아 GPU를 같이 쓸 수 있게 한다는 계획입니다. 만약 이런 빅테크들의 맞춤형 ASIC 칩들이 비용 효과적인 대안을 제시할 경우 엔비디아에 대한 의존도는 낮아질 수 있습니다. 그러면 지금처럼 높은 가격에도 없어서 못 파는 상황은 지속되지 않을 가능성이 있습니다. 물론 엔비디아를 왕좌에서 그렇게 쉽게 끌어내리진 못할 것이라는 의견도 있습니다. 엔비디아가 AI 왕좌를 지킬 수 있는 가장 강력한 무기는 단순한 하드웨어 성능이 아닌, CUDA(쿠다)라는 소프트웨어 생태계에 있습니다. 2006년부터 구축된 CUDA 플랫폼은 수많은 AI 개발자들에게 압도적인 편의성과 최적화된 도구를 제공해 왔습니다. 이처럼 개발자들이 이미 CUDA 환경에 깊이 익숙해져 있다는 점은 다른 칩으로 전환하는 데 막대한 전환 비용을 발생시킵니다. 따라서 구글, 아마존 같은 빅테크들의 자체 ASIC이 고성능과 저비용을 달성하더라도, 이 CUDA 생태계의 장벽을 어떻게 뛰어넘을 것인가는 여전히 가장 큰 숙제로 남아 있습니다. 여기에 엔비디아 역시 경쟁자들처럼 차세대 칩을 준비하고 있습니다. 차세대 루빈 GPU는 FP4 기준 50 PFLOPS의 연산 능력을 지니고 있으며 이를 이용한 렉 시스템인 베라 루빈 NVL 144는 3.6EFLOPS라는 슈퍼컴퓨터급 연산 능력을 지니고 있습니다. 엔비디아는 루빈 GPU의 양산을 서두르는 한편 다음 세대 제품에서 성능을 더 높여 경쟁자들의 추격을 따돌리기 위해 고군분투할 것으로 보입니다. 과연 빅테크들의 거센 도전에서 엔비디아가 왕좌를 지킬 수 있을지 주목됩니다.
  • AI 버블 논란에 구글, 아마존 도전장까지…엔비디아는 왕좌를 지킬 수 있을까? [고든 정의 TECH+]

    AI 버블 논란에 구글, 아마존 도전장까지…엔비디아는 왕좌를 지킬 수 있을까? [고든 정의 TECH+]

    지난 3분기, 엔비디아는 570억 달러의 매출과 함께 무려 73.4%에 달하는 매출 총이익률(gross margin)을 발표했습니다. 그만큼 GPU 하나 팔아서 남기는 게 많다는 이야기로 영업 이익은 매출의 절반이 넘는 360억 달러에 달했습니다. 사실상 원가에 몇 배에 달하는 폭리를 취하면서 매출보다 이익이 더 가파르게 증가한 것입니다. 하지만 이렇게 파는데도 데이터 센터 GPU는 다 팔려 나가 물량 구하기가 쉽지 않다는 게 젠슨 황 CEO의 설명입니다. 그런데도 AI 버블 논란은 여전히 가라앉지 않고 있습니다. AI를 통해 인력을 감축하고 비용을 절감하는 기업들은 늘고 있지만, 정작 막대한 비용이 들어가는 AI 서비스 자체는 그에 걸맞은 수익을 창출하지 못하고 있기 때문입니다. 예를 들어, ChatGPT를 서비스하는 오픈 AI는 재무제표를 공개하지는 않지만, 창립 이래 계속해서 적자를 기록하고 있는 것으로 알려져 있습니다. 따라서 최근에는 막대한 투자 비용을 감당하기 위해 대규모 자금 조달에 나서는 한편 광고와 같은 다른 수익 창출 방법도 모색하고 있습니다. 물론 오픈 AI와 경쟁하는 다른 AI 서비스들 역시 상황은 크게 다르지 않습니다. AI가 미래의 성장 동력이라는 점을 의심하는 이는 없지만, 갈수록 치솟는 GPU, 메모리, 스토리지, 그리고 막대한 전기 사용료 등을 고려하면 기업들이 적자를 감수하고 무작정 투자를 계속할 수는 없습니다. 결국, 어느 시점에는 자금력과 기술력이 뒤처지는 회사는 시장에서 도태되고, 비용 절감과 수익 모델 창출에 성공한 기업만이 살아남게 될 것입니다. 이에 따라 구글이나 아마존 같은 빅테크들은 자체 AI 칩(ASIC)에 막대한 투자를 단행하며 엔비디아 GPU보다 저렴한 대안을 모색하고 있습니다. 그런 의미에서 최근 구글이 공개한 7세대 TPU인 아이언우드(Ironwood)는 시장에 큰 충격을 던져주었습니다. TPU(Tensor Processing Unit)는 애플리케이션 특정 통합 회로(ASIC)의 일종으로, 신경망의 행렬 곱셈과 같은 연산을 효율적으로 처리하기 위한 특수 목적 프로세서입니다. CPU가 가장 일반적인 용도의 프로세서라고 한다면 GPU는 그래픽 연산에 필요한 병렬 연산에 최적화된 프로세서라고 할 수 있습니다. 엔비디아는 GPU에 고성능 컴퓨팅에 필요한 좀 더 범용 연산 능력을 부여해 일반 목적 GPU(GPGPU)라고 명명했습니다. 그리고 여기에 사용되는 언어인 쿠다(CUDA)를 개발했습니다. GPU의 GPGPU 성능이 가장 큰 힘을 발휘한 분야가 바로 AI였습니다. 딥러닝 모델 학습과 같이 대규모 데이터를 병렬로 처리해야 하는 작업이 GPGPU에 적합했기 때문입니다. 결국 최근에 나오는 GPU는 AI 성능을 담당하는 부분이 더 커지면서 핵심 기능으로 자리 잡고 있습니다. 구글의 TPU는 GPU보다 더 좁은 범위의 연산만 수행하는 특수 프로세서로 CPU – GPU – TPU의 순으로 점점 더 할 수 있는 기능은 좁아진다고 할 수 있습니다. 다만 반대로 에너지 효율은 더 높아질 수 있습니다. 사실 3D 그래픽도 CPU만 가지고 처리할 수 있습니다. 하지만 처리 속도가 너무 느리고 기능이 제한적이라 3D 가속기라는 별도의 보조 프로세서가 나오게 되었고 그것이 나중에 GPU로 발전한 것입니다. TPU도 그런 연장선상에서 보면 엔비디아의 GPU에 상당히 위협적인 존재가 될 수 있습니다. 아이언우드 자체의 성능은 4,614 FP8 TFLOPS 정도로 B200 블랙웰 GPU의 4.5 PFLOPS와 비슷하지만, GPU보다 구조가 단순할 가능성이 높아 생산비나 제작 단가가 저렴할 수 있습니다. 최근 제미나이 3의 놀라운 성능을 보면 그렇다고 기능이 부족한 것도 아닌 것으로 보여 적지 않은 충격을 주고 있습니다. 여기에 아마존의 AWS 역시 3세대 AI ASIC 칩인 트레이니움3(Trainium3)을 공개하면서 도전장을 내밀고 있습니다. 트레이니움3 칩 하나는 PF8 기준 2.52 PFLOPs의 연산 능력을 지니고 있으며 144GB의 HBM3e 메모리와 4.9TB/s의 대역폭을 지니고 있습니다. 그리고 144개의 칩이 모인 Trn3 UltraServers는 총 362 FP8 PFLOPs의 연산 능력을 확보해 100만 토큰 이상의 AI 서비스를 감당할 수 있습니다. 칩 하나의 성능만 보면 엔비디아의 B200 GPU보다 낮지만, 역시 GPU보다 단순한 구조로 전체 비용은 더 낮을 가능성이 있습니다. 다만 아직은 AI 생태계에서 엔비디아의 입지가 지배적인 만큼 아마존은 트레이니움4에서는 엔비디아의 고속 인터페이스인 NVLink를 지원해 트레이니움4와 엔비디아 GPU를 같이 쓸 수 있게 한다는 계획입니다. 만약 이런 빅테크들의 맞춤형 ASIC 칩들이 비용 효과적인 대안을 제시할 경우 엔비디아에 대한 의존도는 낮아질 수 있습니다. 그러면 지금처럼 높은 가격에도 없어서 못 파는 상황은 지속되지 않을 가능성이 있습니다. 물론 엔비디아를 왕좌에서 그렇게 쉽게 끌어내리진 못할 것이라는 의견도 있습니다. 엔비디아가 AI 왕좌를 지킬 수 있는 가장 강력한 무기는 단순한 하드웨어 성능이 아닌, CUDA(쿠다)라는 소프트웨어 생태계에 있습니다. 2006년부터 구축된 CUDA 플랫폼은 수많은 AI 개발자들에게 압도적인 편의성과 최적화된 도구를 제공해 왔습니다. 이처럼 개발자들이 이미 CUDA 환경에 깊이 익숙해져 있다는 점은 다른 칩으로 전환하는 데 막대한 전환 비용을 발생시킵니다. 따라서 구글, 아마존 같은 빅테크들의 자체 ASIC이 고성능과 저비용을 달성하더라도, 이 CUDA 생태계의 장벽을 어떻게 뛰어넘을 것인가는 여전히 가장 큰 숙제로 남아 있습니다. 여기에 엔비디아 역시 경쟁자들처럼 차세대 칩을 준비하고 있습니다. 차세대 루빈 GPU는 FP4 기준 50 PFLOPS의 연산 능력을 지니고 있으며 이를 이용한 렉 시스템인 베라 루빈 NVL 144는 3.6EFLOPS라는 슈퍼컴퓨터급 연산 능력을 지니고 있습니다. 엔비디아는 루빈 GPU의 양산을 서두르는 한편 다음 세대 제품에서 성능을 더 높여 경쟁자들의 추격을 따돌리기 위해 고군분투할 것으로 보입니다. 과연 빅테크들의 거센 도전에서 엔비디아가 왕좌를 지킬 수 있을지 주목됩니다.
  • 美, 중동에 반도체 수출 승인…GPU 26만 장 한국 공급, 불확실성도 해소

    美, 중동에 반도체 수출 승인…GPU 26만 장 한국 공급, 불확실성도 해소

    엔비디아가 한국 기업에 공급하기로 한 그래픽처리장치(GPU) 26만 장에 대한 불확실성이 높아지던 상황에서, 미국이 엔비디아 최신 AI 반도체의 대중동 수출을 허가했다. 이로써 한국 공급도 무난히 이뤄질 것으로 보인다. 19일(현지시간) 미국 상무부는 아랍에미리트에 있는 G42와 사우디아라비아에 있는 휴메인(Humain)에 미국산 첨단 반도체 수출을 인가했다. 두 AI 기업은 엔비디아의 GB300 칩 최대 3만 5000개 또는 동등한 연산력의 반도체를 구매하는 것을 허가받았다. GB300은 엔비디아 블랙웰 시리즈에 속하는 B300 칩을 사용한다. 현재 시장에서 가장 강력한 AI 프로세서 중 하나로 평가된다. 앞서 전임 바이든 미 행정부는 미국산 AI 반도체가 제3국을 통해 중국 등 우려 국가로 유출될 가능성을 줄이기 위해 UAE를 비롯한 대다수 국가가 구매할 수 있는 미국산 AI 반도체에 상한을 설정했다. 그러나 도널드 트럼프 미국 대통령은 지난 5월 전임 행정부의 규제를 뒤집고 UAE에 첨단 AI 반도체를 수출하겠다고 약속했다. UAE로부터 AI 관련 대규모 투자를 받는 대가였다. 이후 관련 논의가 다소 지연됐으나 최근 트럼프 대통령이 워싱턴DC에서 무함마드 빈 살만 사우디아라비아 왕세자와 만나면서, 미국 정부가 최종적으로 AI 반도체 수출을 허가했다. 미국이 사우디 등 중동에 수출 승인한 배경미 백악관은 전날 팩트시트에서 “외국의 영향력으로부터 미국 기술을 보호하면서 세계 최고 수준의 미국 시스템에 대한 접근을 사우디에 제공한다”고 명시했다. 미국은 AI 칩이 중국과 중국 기술 기업 화웨이에 이익이 되지 않도록 보장하기 위한 안전장치 및 사이버 보안 조건이 이번 합의에 포함된 것으로 전해졌다. 수출 통제를 감독하는 미 상무부는 이번 허가의 조건으로 두 기업이 엄격한 보안 및 보고 요건을 준수하기로 했으며 상무부 산하 산업안보국(BIS)이 준수 여부를 감시할 것이라고 밝혔다. 전문가들은 미국의 이번 승인이 국가 안보 측면에서 매우 중대한 의미를 지닌다고 입을 모은다. 사우디와 UAE 모두 중국과 긴밀한 협력관계를 유지하고 있는 상황에서, 미국의 이번 수출 이후 중국 기업 등이 보안 프로토콜을 우회해 컴퓨팅 파워에 접근할 방법을 찾을 수 있다는 일각의 우려가 역력하기 때문이다. 실제로 지난달 마코 루비오 국무장관, 제이미슨 그리어 미국 무역대표부(USTR) 대표를 포함한 행정부 고위 관계자들은 트럼프 대통령에게 중국 수출용인 저사양 블랙웰 칩 판매 승인조차 위험하다고 설득한 것으로 전해진다. 그런데도 이번 수출 승인이 떨어진 것은 젠슨 황 엔비디아 최고경영자(CEO)의 승리라는 평가가 나온다. 월스트리트저널에 따르면 황 CEO는 수개월간 칩 수출을 통해 미국이 AI 분야에서 선두를 유지할 수 있다고 주장해 왔고, 이는 중동 수출을 고민하던 트럼프 대통령의 마음을 움직였다. 한국에 대한 AI 반도체 수출, 불확실성 거의 해소미국 정부가 엔비디아 최신 AI 반도체의 대중동 수출을 허가함에 따라 황 CEO가 최근 방한 때 최신 AI반도체를 한국에 판매하겠다고 한 약속의 불확실성이 줄어들 것으로 기대된다. 황 CEO는 지난달 말 방한을 계기로 한국 정부와 삼성전자, SK그룹, 현대차그룹, 네이버 클라우드 등 한국 기업에 총 26만 장의 그래픽처리장치(GPU)를 공급하기로 했다. 그러나 트럼프 대통령이 지난 2일 방영된 CBS 시사 프로그램 인터뷰에서 엔비디아의 첨단 AI 반도체 블랙웰을 중국 등 다른 나라에 공급할지를 묻는 질문에 “막 나온 새 블랙웰은 다른 모든 반도체보다 10년 앞서 있다”며 “다른 사람들(국가)에게 그것을 주지 않을 것”이라고 말해 한국의 블랙웰 구매에 변수가 생기는 것 아니냐는 우려를 낳았다. 미국 정부가 중동 수출을 허가한 상황 등을 미루어 보면, 트럼프 대통령의 당시 발언은 한국이 아닌 중국을 주로 염두에 둔 발언으로 해석된다. 한편 엔비디아는 한국에 공급하는 GPU 26만 장이 고성능 AI 프로세서로 평가되는 최신 버전인 GB200 그레이스 블랙웰이 다수가 될 것이라고 밝혔다.
  • GPU 26만 장 한국 공급, 이래도 불확실해?…美, 중동에 반도체 수출 승인한 배경 [핫이슈]

    GPU 26만 장 한국 공급, 이래도 불확실해?…美, 중동에 반도체 수출 승인한 배경 [핫이슈]

    엔비디아가 한국 기업에 공급하기로 한 그래픽처리장치(GPU) 26만 장에 대한 불확실성이 높아지던 상황에서, 미국이 엔비디아 최신 AI 반도체의 대중동 수출을 허가했다. 이로써 한국 공급도 무난히 이뤄질 것으로 보인다. 19일(현지시간) 미국 상무부는 아랍에미리트에 있는 G42와 사우디아라비아에 있는 휴메인(Humain)에 미국산 첨단 반도체 수출을 인가했다. 두 AI 기업은 엔비디아의 GB300 칩 최대 3만 5000개 또는 동등한 연산력의 반도체를 구매하는 것을 허가받았다. GB300은 엔비디아 블랙웰 시리즈에 속하는 B300 칩을 사용한다. 현재 시장에서 가장 강력한 AI 프로세서 중 하나로 평가된다. 앞서 전임 바이든 미 행정부는 미국산 AI 반도체가 제3국을 통해 중국 등 우려 국가로 유출될 가능성을 줄이기 위해 UAE를 비롯한 대다수 국가가 구매할 수 있는 미국산 AI 반도체에 상한을 설정했다. 그러나 도널드 트럼프 미국 대통령은 지난 5월 전임 행정부의 규제를 뒤집고 UAE에 첨단 AI 반도체를 수출하겠다고 약속했다. UAE로부터 AI 관련 대규모 투자를 받는 대가였다. 이후 관련 논의가 다소 지연됐으나 최근 트럼프 대통령이 워싱턴DC에서 무함마드 빈 살만 사우디아라비아 왕세자와 만나면서, 미국 정부가 최종적으로 AI 반도체 수출을 허가했다. 미국이 사우디 등 중동에 수출 승인한 배경미 백악관은 전날 팩트시트에서 “외국의 영향력으로부터 미국 기술을 보호하면서 세계 최고 수준의 미국 시스템에 대한 접근을 사우디에 제공한다”고 명시했다. 미국은 AI 칩이 중국과 중국 기술 기업 화웨이에 이익이 되지 않도록 보장하기 위한 안전장치 및 사이버 보안 조건이 이번 합의에 포함된 것으로 전해졌다. 수출 통제를 감독하는 미 상무부는 이번 허가의 조건으로 두 기업이 엄격한 보안 및 보고 요건을 준수하기로 했으며 상무부 산하 산업안보국(BIS)이 준수 여부를 감시할 것이라고 밝혔다. 전문가들은 미국의 이번 승인이 국가 안보 측면에서 매우 중대한 의미를 지닌다고 입을 모은다. 사우디와 UAE 모두 중국과 긴밀한 협력관계를 유지하고 있는 상황에서, 미국의 이번 수출 이후 중국 기업 등이 보안 프로토콜을 우회해 컴퓨팅 파워에 접근할 방법을 찾을 수 있다는 일각의 우려가 역력하기 때문이다. 실제로 지난달 마코 루비오 국무장관, 제이미슨 그리어 미국 무역대표부(USTR) 대표를 포함한 행정부 고위 관계자들은 트럼프 대통령에게 중국 수출용인 저사양 블랙웰 칩 판매 승인조차 위험하다고 설득한 것으로 전해진다. 그런데도 이번 수출 승인이 떨어진 것은 젠슨 황 엔비디아 최고경영자(CEO)의 승리라는 평가가 나온다. 월스트리트저널에 따르면 황 CEO는 수개월간 칩 수출을 통해 미국이 AI 분야에서 선두를 유지할 수 있다고 주장해 왔고, 이는 중동 수출을 고민하던 트럼프 대통령의 마음을 움직였다. 한국에 대한 AI 반도체 수출, 불확실성 거의 해소미국 정부가 엔비디아 최신 AI 반도체의 대중동 수출을 허가함에 따라 황 CEO가 최근 방한 때 최신 AI반도체를 한국에 판매하겠다고 한 약속의 불확실성이 줄어들 것으로 기대된다. 황 CEO는 지난달 말 방한을 계기로 한국 정부와 삼성전자, SK그룹, 현대차그룹, 네이버 클라우드 등 한국 기업에 총 26만 장의 그래픽처리장치(GPU)를 공급하기로 했다. 그러나 트럼프 대통령이 지난 2일 방영된 CBS 시사 프로그램 인터뷰에서 엔비디아의 첨단 AI 반도체 블랙웰을 중국 등 다른 나라에 공급할지를 묻는 질문에 “막 나온 새 블랙웰은 다른 모든 반도체보다 10년 앞서 있다”며 “다른 사람들(국가)에게 그것을 주지 않을 것”이라고 말해 한국의 블랙웰 구매에 변수가 생기는 것 아니냐는 우려를 낳았다. 미국 정부가 중동 수출을 허가한 상황 등을 미루어 보면, 트럼프 대통령의 당시 발언은 한국이 아닌 중국을 주로 염두에 둔 발언으로 해석된다. 한편 엔비디아는 한국에 공급하는 GPU 26만 장이 고성능 AI 프로세서로 평가되는 최신 버전인 GB200 그레이스 블랙웰이 다수가 될 것이라고 밝혔다.
  • HBM 아니어도 괜찮다? LPDDR 메모리 채택 늘리는 AI 칩 제조사들

    HBM 아니어도 괜찮다? LPDDR 메모리 채택 늘리는 AI 칩 제조사들

    현재 인공지능(AI) 투자 붐으로 인해 그래픽처리장치(GPU)뿐만 아니라 여러 관련 제품의 수요가 폭발적으로 증가하고 있습니다. 그 대표적인 제품이 바로 메모리입니다. 특히 차세대 고대역폭 메모리인 HBM(High Bandwidth Memory)의 수요 급증은 국내 메모리 제조사의 실적은 물론 국내 주식시장 전체를 견인하고 있습니다. HBM의 가장 큰 장점은 메모리 대역폭이 매우 넓어 GPU의 AI 연산에 필요한 방대한 데이터를 빠르게 처리할 수 있다는 것입니다. 다만, 가격이 매우 비싸 고성능 데이터센터 GPU에만 주로 사용되고 있습니다. 구체적인 가격은 제조사 간의 계약으로 공개되지 않으나, 12단 HBM4 메모리 같은 차세대 제품은 개당 500~600달러 선이라는 루머가 있을 정도입니다. 이러한 가격적 이유로 게임용 그래픽 카드는 여전히 GDDR7 메모리를 사용하고 있습니다. GDDR7은 HBM보다 대역폭은 낮지만 가격이 상대적으로 저렴하여 일반 소비자에게 적합합니다. 다만 서버 GPU 대비 대역폭뿐만 아니라 메모리 용량도 부족하여 거대한 AI 모델을 구동하기 어렵다는 제한점이 있습니다. 엔비디아가 올해 초 깜짝 공개했던 ‘프로젝트 디짓’은 이러한 약점을 극복하기 위해 등장했습니다. 이 개인용 AI 미니 PC는 연산 능력은 크게 늘리지 않으면서도 메모리 용량을 128GB로 대폭 확장했습니다. 가격을 3000달러 선으로 유지하면서 고용량 메모리를 구현할 수 있었던 비결은 HBM은 물론 GDDR7보다 저렴하고 저전력인 LPDDR5x 메모리를 탑재했기 때문입니다. GB10 칩을 사용한 프로젝트 디짓은 정식 명칭을 DGX 스파크(Spark)로 정하고 공식 출시되었습니다. AI 연산 능력은 FP4 기준 1 PFLOPS로, 블랙웰 B200 GPU의 20 PFLOPS보다 훨씬 느립니다. 그러나 메모리가 넉넉하여 2000억 파라미터를 가진 거대 모델도 구동할 수 있습니다. 반면 게임용 GPU인 RTX 5090은 3.35 PFLOPS로 연산 능력은 더 빠르지만, 메모리가 32GB에 불과하여 큰 모델을 사용하기 어렵습니다. 엔비디아가 LPDDR5x 메모리를 사용한 AI 칩을 선보인 뒤, 최근에는 인텔과 퀄컴도 이 대열에 합류할 것임을 발표했습니다. 다만 엔비디아와는 달리 이들은 서버 AI 제품군에 LPDDR5x 메모리를 적용할 계획입니다. 내년 하반기 출시를 목표로 하는 인텔의 AI 추론 칩인 크레센트 아일랜드(Crescent Island)는 정확한 속도와 대역폭은 밝히지 않았으나, 160GB의 LPDDR5x 메모리를 사용합니다. Xe3P 아키텍처를 적용한 AI 프로세서로, 정확한 연산 능력 역시 아직 베일에 가려 있습니다. HBM이나 GDDR7이 아닌 스마트폰에 주로 사용되는 LPDDR5x를 채택한 만큼, 가격은 저렴할 것으로 보이며, 인텔은 아마도 보급형 틈새시장을 노릴 가능성이 높습니다. 퀄컴은 이보다 더 본격적으로 엔비디아의 아성에 도전하려는 모습입니다. 최근 공개한 퀄컴 AI200 및 AI250은 엔비디아의 GB300 NVL72처럼 수냉식 서버 랙 시스템을 전제로 하고 있기 때문입니다. 퀄컴 AI200/AI250은 구체적인 대역폭은 미공개 상태이지만, 최대 768GB의 LPDDR5x 메모리를 사용한다고 밝혔습니다. AI 가속기는 퀄컴의 헥사곤 NPU 기반입니다. AI200/AI250 제품군의 메모리 대역폭이나 연산 능력 모두 미공개 상태이지만, 퀄컴은 LPDDR5x 메모리 기술에 상당한 노하우를 보유하고 있습니다. 예를 들어, 최근 공개한 윈도우 노트북용 프로세서인 스냅드래곤 엘리트 X2 익스트림 프로세서에서 LPDDR5x-9523 16GB 메모리 모듈 3개를 활용하여 192비트 인터페이스로 228GB/s라는 상당한 대역폭을 확보하는 데 성공했습니다. 다만, 아무리 여러 개의 LPDDR5x 메모리를 병렬로 연결해도 HBM 계열처럼 광대한 대역폭을 확보하기는 어렵습니다. 따라서 엔비디아의 GB300 블랙웰 같은 초고성능 AI GPU보다는, 성능은 낮지만 훨씬 저렴하고 전력 소모가 적은 AI 가속기를 여러 개 병렬로 연결하는 전략을 사용할 것으로 보입니다. 참고로 퀄컴 AI200/AI250 랙 시스템 한 개의 전력 소모량은 160kW로 결코 적지 않은 수준입니다. LPDDR5x 메모리는 저렴하고 전력 소모가 적어 개인용 AI PC 같은 틈새시장을 노리는 엔비디아 DGX 스파크에는 최적의 선택입니다. 하지만 이 분야의 후발 주자인 인텔이나 퀄컴이 데이터센터 시장을 노리고 LPDDR5x 메모리를 채택한 배경에는 다른 이유가 있어 보입니다. 가장 큰 이유는 가격과 수급 문제일 가능성이 높습니다. 인텔과 퀄컴은 업계를 주도하는 대기업이지만, AI 가속기 부문에서는 후발주자인 만큼 현시점에서 시장을 주도하는 엔비디아의 AI GPU와 정면 대결하기는 어렵습니다. 따라서 저전력 또는 저렴한 가격으로 승부수를 던지는 것이 가장 합리적인 접근법이 될 수 있습니다. 여기에 HBM 메모리의 경우 수요 폭발로 인해 가격이 비싸고 수급도 쉽지 않은 상황이므로, 무리하게 HBM을 고집할 필요가 없다는 계산이 깔린 것으로 보입니다. 이러한 접근법이 내년에 가시적인 성과를 거둘 수 있을지 그 결과가 주목됩니다.
  • HBM 아니어도 괜찮다? LPDDR 메모리 채택 늘리는 AI 칩 제조사들 [고든 정의 TECH+]

    HBM 아니어도 괜찮다? LPDDR 메모리 채택 늘리는 AI 칩 제조사들 [고든 정의 TECH+]

    현재 인공지능(AI) 투자 붐으로 인해 그래픽처리장치(GPU)뿐만 아니라 여러 관련 제품의 수요가 폭발적으로 증가하고 있습니다. 그 대표적인 제품이 바로 메모리입니다. 특히 차세대 고대역폭 메모리인 HBM(High Bandwidth Memory)의 수요 급증은 국내 메모리 제조사의 실적은 물론 국내 주식시장 전체를 견인하고 있습니다. HBM의 가장 큰 장점은 메모리 대역폭이 매우 넓어 GPU의 AI 연산에 필요한 방대한 데이터를 빠르게 처리할 수 있다는 것입니다. 다만, 가격이 매우 비싸 고성능 데이터센터 GPU에만 주로 사용되고 있습니다. 구체적인 가격은 제조사 간의 계약으로 공개되지 않으나, 12단 HBM4 메모리 같은 차세대 제품은 개당 500~600달러 선이라는 루머가 있을 정도입니다. 이러한 가격적 이유로 게임용 그래픽 카드는 여전히 GDDR7 메모리를 사용하고 있습니다. GDDR7은 HBM보다 대역폭은 낮지만 가격이 상대적으로 저렴하여 일반 소비자에게 적합합니다. 다만 서버 GPU 대비 대역폭뿐만 아니라 메모리 용량도 부족하여 거대한 AI 모델을 구동하기 어렵다는 제한점이 있습니다. 엔비디아가 올해 초 깜짝 공개했던 ‘프로젝트 디짓’은 이러한 약점을 극복하기 위해 등장했습니다. 이 개인용 AI 미니 PC는 연산 능력은 크게 늘리지 않으면서도 메모리 용량을 128GB로 대폭 확장했습니다. 가격을 3000달러 선으로 유지하면서 고용량 메모리를 구현할 수 있었던 비결은 HBM은 물론 GDDR7보다 저렴하고 저전력인 LPDDR5x 메모리를 탑재했기 때문입니다. GB10 칩을 사용한 프로젝트 디짓은 정식 명칭을 DGX 스파크(Spark)로 정하고 공식 출시되었습니다. AI 연산 능력은 FP4 기준 1 PFLOPS로, 블랙웰 B200 GPU의 20 PFLOPS보다 훨씬 느립니다. 그러나 메모리가 넉넉하여 2000억 파라미터를 가진 거대 모델도 구동할 수 있습니다. 반면 게임용 GPU인 RTX 5090은 3.35 PFLOPS로 연산 능력은 더 빠르지만, 메모리가 32GB에 불과하여 큰 모델을 사용하기 어렵습니다. 엔비디아가 LPDDR5x 메모리를 사용한 AI 칩을 선보인 뒤, 최근에는 인텔과 퀄컴도 이 대열에 합류할 것임을 발표했습니다. 다만 엔비디아와는 달리 이들은 서버 AI 제품군에 LPDDR5x 메모리를 적용할 계획입니다. 내년 하반기 출시를 목표로 하는 인텔의 AI 추론 칩인 크레센트 아일랜드(Crescent Island)는 정확한 속도와 대역폭은 밝히지 않았으나, 160GB의 LPDDR5x 메모리를 사용합니다. Xe3P 아키텍처를 적용한 AI 프로세서로, 정확한 연산 능력 역시 아직 베일에 가려 있습니다. HBM이나 GDDR7이 아닌 스마트폰에 주로 사용되는 LPDDR5x를 채택한 만큼, 가격은 저렴할 것으로 보이며, 인텔은 아마도 보급형 틈새시장을 노릴 가능성이 높습니다. 퀄컴은 이보다 더 본격적으로 엔비디아의 아성에 도전하려는 모습입니다. 최근 공개한 퀄컴 AI200 및 AI250은 엔비디아의 GB300 NVL72처럼 수냉식 서버 랙 시스템을 전제로 하고 있기 때문입니다. 퀄컴 AI200/AI250은 구체적인 대역폭은 미공개 상태이지만, 최대 768GB의 LPDDR5x 메모리를 사용한다고 밝혔습니다. AI 가속기는 퀄컴의 헥사곤 NPU 기반입니다. AI200/AI250 제품군의 메모리 대역폭이나 연산 능력 모두 미공개 상태이지만, 퀄컴은 LPDDR5x 메모리 기술에 상당한 노하우를 보유하고 있습니다. 예를 들어, 최근 공개한 윈도우 노트북용 프로세서인 스냅드래곤 엘리트 X2 익스트림 프로세서에서 LPDDR5x-9523 16GB 메모리 모듈 3개를 활용하여 192비트 인터페이스로 228GB/s라는 상당한 대역폭을 확보하는 데 성공했습니다. 다만, 아무리 여러 개의 LPDDR5x 메모리를 병렬로 연결해도 HBM 계열처럼 광대한 대역폭을 확보하기는 어렵습니다. 따라서 엔비디아의 GB300 블랙웰 같은 초고성능 AI GPU보다는, 성능은 낮지만 훨씬 저렴하고 전력 소모가 적은 AI 가속기를 여러 개 병렬로 연결하는 전략을 사용할 것으로 보입니다. 참고로 퀄컴 AI200/AI250 랙 시스템 한 개의 전력 소모량은 160kW로 결코 적지 않은 수준입니다. LPDDR5x 메모리는 저렴하고 전력 소모가 적어 개인용 AI PC 같은 틈새시장을 노리는 엔비디아 DGX 스파크에는 최적의 선택입니다. 하지만 이 분야의 후발 주자인 인텔이나 퀄컴이 데이터센터 시장을 노리고 LPDDR5x 메모리를 채택한 배경에는 다른 이유가 있어 보입니다. 가장 큰 이유는 가격과 수급 문제일 가능성이 높습니다. 인텔과 퀄컴은 업계를 주도하는 대기업이지만, AI 가속기 부문에서는 후발주자인 만큼 현시점에서 시장을 주도하는 엔비디아의 AI GPU와 정면 대결하기는 어렵습니다. 따라서 저전력 또는 저렴한 가격으로 승부수를 던지는 것이 가장 합리적인 접근법이 될 수 있습니다. 여기에 HBM 메모리의 경우 수요 폭발로 인해 가격이 비싸고 수급도 쉽지 않은 상황이므로, 무리하게 HBM을 고집할 필요가 없다는 계산이 깔린 것으로 보입니다. 이러한 접근법이 내년에 가시적인 성과를 거둘 수 있을지 그 결과가 주목됩니다.
위로