찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • 이기종 GPU
    2026-10-31
    검색기록 지우기
  • 사과
    2026-10-31
    검색기록 지우기
  • 군대
    2026-10-31
    검색기록 지우기
  • 존엄
    2026-10-31
    검색기록 지우기
  • 러그
    2026-10-31
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
총 7 건
  • 오케스트로, 가상화 전환 선택 기준 바뀌었다… ‘안정성’에서 ‘확장성’으로

    오케스트로, 가상화 전환 선택 기준 바뀌었다… ‘안정성’에서 ‘확장성’으로

    AI 활용이 기업의 필수 과제로 자리 잡으면서, 가상화 인프라 전환을 바라보는 기업들의 시각도 달라지고 있다. 오케스트로가 실시한 설문조사에서도 이러한 변화가 확인됐다. 지난 4월 조사에서는 안정적인 인프라 전환에 관심이 집중됐다면, 9월 조사에서는 AI 활용과 향후 비즈니스 확장까지 고려한 인프라 확장성이 핵심 선택 기준으로 떠올랐다. AI 인프라 소프트웨어 분야의 선두 주자인 오케스트로(김범재·김영광 공동대표)가 지난 9월 공공기관과 민간 기업의 IT 실무자 1만 3541명을 대상으로 진행한 ‘VM웨어 전환 및 가상화 운영 실태 조사’의 상세 결과를 16일 전격 공개했다. 올해 4월 진행된 초기 조사 당시에는 응답자의 37%가 ‘성능 및 안정성’을 가상화 인프라 도입의 가장 핵심적인 기준으로 꼽은 바 있다. 그러나 이번 하반기 조사에서는 무려 70%에 달하는 응답자가 ‘인프라 확장성’을 최우선 솔루션 선택 요건으로 지목해 뚜렷한 인식 변화를 드러냈으며, 이는 단순한 기존 인프라의 안정적 대체라는 차원을 넘어 향후 업무의 급격한 팽창과 유연한 시스템 운영 능력이 기업들의 실질적인 최우선 과제로 대두되었음을 명백히 입증하고 있다. 이번 조사에서 전체 응답자의 62%는 가상화 환경 전환을 검토하거나 계획·진행 중이라고 답했다. 전환을 검토하는 주요 이유는 ‘라이선스 및 유지보수 비용 증가(57%)’였지만, 실제 솔루션 선택에서는 ‘인프라 확장성(70%)’이 ‘도입·운영 비용(20%)’을 크게 앞섰다. 확장성을 중시하는 이유로는 ‘업무 확대에 따른 컴퓨팅 자원 확충(65%)’이 가장 높았으며 ▲중장기 인프라 운영의 유연성 확보(46%) ▲AI·클라우드 환경으로의 확장(41%)이 뒤를 이었다. 기술 요건에서도 ‘기존 업무와 신규 워크로드의 병행 운영(68%)’과 ‘기존 서버·스토리지 환경과의 호환성(61%)’이 높은 응답을 얻었다. 향후 인프라 고도화 방향으로는 ▲멀티·하이브리드 클라우드 통합 운영(42%) ▲AI 인프라·GPU 운영 환경(35%) ▲쿠버네티스 기반 클라우드 네이티브 환경(31%) 등이 꼽혔다. 가상화 인프라의 역할이 기존 시스템 운영을 넘어 멀티클라우드와 AI 인프라까지 확대되는 흐름이다. 오케스트로는 서버 가상화 솔루션 ‘콘트라베이스(CONTRABASS)’를 앞세워 급변하는 시장의 요구사항에 적극적으로 대응하고 있다. 해당 솔루션은 기존에 구축되어 있는 서버와 스토리지 인프라를 그대로 활용하면서도, 무중단 상태로 컴퓨팅 자원을 유연하게 확장할 수 있는 장점을 지닌다. 아울러 지능형 자동화 자원 관리와 전문적인 GPU 자원 제어 기능을 탑재하여, 전통적인 기존 업무 시스템부터 최신 인공지능(AI) 워크로드에 이르는 다양한 영역을 안정적으로 포용할 수 있도록 돕는다. 이와 더불어 체계적인 통합 모니터링 체계와 고도화된 장애 원인 분석 기능을 제공함으로써, 인프라의 폭넓은 확장성과 흔들림 없는 운영 안정성을 동시에 달성할 수 있도록 뒷받침한다. 아울러 쿠버네티스 기반 클라우드 네이티브 플랫폼 ‘비올라(VIOLA)’와 멀티·하이브리드 클라우드 관리 플랫폼 ‘오케스트로 CMP(OKESTRO CMP)’를 통해 컨테이너 기반 신규 서비스 운영과 이기종 클라우드 환경의 통합 관리를 지원한다. AI 추론 운영 플랫폼 ‘콘체르토 AI(CONCERTO A.I.)’는 분산 서빙 기반의 추론 최적화와 GPU·NPU 자원 배분을 통해 AI 서비스의 응답 지연을 줄이고 인프라 활용 효율을 높인다. 이를 통해 기존 가상화 인프라의 안정적인 전환부터 클라우드 네이티브 및 AI 인프라 환경으로의 확장까지 대응할 수 있는 기술 체계를 갖추고 있다. 오케스트로 김범재 대표는 “기업의 IT 인프라는 더 이상 현재의 업무를 유지하기 위한 기반에 머무르지 않고, 비즈니스 성장과 새로운 기술 혁신을 뒷받침하는 핵심 경쟁력으로 진화하고 있다”며 “오케스트로의 AI 인프라 풀스택은 고객이 특정 벤더나 기술에 종속되지 않고 가상화 환경을 클라우드와 AI 영역까지 유연하게 확장할 수 있도록 기술적 선택의 폭을 넓혀 줄 것”이라고 말했다.
  • 오케스트로-퓨리오사AI, RNGD 기반 AI 인프라 사업 확대 협력

    오케스트로-퓨리오사AI, RNGD 기반 AI 인프라 사업 확대 협력

    AI 인프라 소프트웨어 전문 기업 오케스트로 그룹(의장 김민준)이 퓨리오사AI(대표 백준호)와 손잡고 국산 NPU 기반 AI 인프라의 상용화와 시장 확대에 나선다. 오케스트로 그룹은 AI 반도체 기업 퓨리오사AI와 지난 18일 서울 강남구 퓨리오사AI 본사에서 ‘NPU 기반 AI 인프라 및 플랫폼 기술·사업 협력’을 위한 업무협약(MOU)을 체결했다고 21일 밝혔다. 양사는 올해 초부터 퓨리오사AI의 2세대 NPU ‘RNGD(레니게이드)’와 오케스트로 AI 인프라 소프트웨어 간 긴밀한 기술 협력을 이어왔다. 퓨리오사AI NXT RNGD 서버를 오케스트로 AI 인프라 환경에 구축해 호환성과 주요 기능을 검증하고, RNGD 기반 LLM을 실제 서비스 환경에서 안정적으로 배포·서빙·운영하기 위한 기술을 단계적으로 구현해 왔다. 그 성과로 오케스트로는 기존 GPU 중심으로 제공해 온 AI 추론 운영 플랫폼 ‘콘체르토 AI(CONCERTO A.I.)’의 지원 범위를 퓨리오사AI RNGD까지 확장했다. CONCERTO A.I.는 AI 모델의 배포와 서빙, 컴퓨팅 자원 관리, 서비스 모니터링 등을 통합 지원하는 AI 추론 인프라 플랫폼이다. 양사의 기술 협력을 통해 고객이 NPU 기반 LLM 서빙 환경을 직접 구성해야 하는 부담을 줄이고, NPU에서도 AI 서비스를 보다 손쉽게 구축·운영할 수 있는 기반을 마련했다. CONCERTO A.I.는 단순한 NPU 기반 모델 구동을 넘어, 실제 서비스 운영에 필요한 지능형 라우팅(Intelligent Routing)과 토폴로지 기반 스케줄링(Topology-aware Scheduling) 기능도 지원한다. 요청 특성과 가속기 자원을 고려해 적합한 추론 경로를 구성하고, GPU·NPU 등 이종 AI 가속기를 서비스와 워크로드 특성에 맞춰 활용할 수 있도록 한다. 이번 MOU는 그동안 축적한 기술 검증 성과를 실제 고객 사업으로 연결하기 위한 협력의 다음 단계다. 양사는 다양한 AI 모델과 워크로드를 대상으로 퓨리오사AI RNGD 기반 AI 인프라의 성능과 안정성을 지속 검증하고, 고객 대상 BMT(벤치마크테스트)와 실증을 통해 실제 서비스 환경에 적합한 구축·운영 모델을 구체화할 계획이다. 아울러 검증을 마친 기술의 시장 안착을 도모하기 위해 사업적 협업 체계도 대폭 강화한다. 공공·금융·산업 분야 고객별 요구사항과 업무 특성을 다각도로 분석하여 RNGD 기반 AI 인프라를 맞춤형으로 공동 설계·제안하고, BMT 및 실증 사업을 성공적인 상용 구축으로 연계함으로써 업종별 대표 레퍼런스를 구축할 방침이다. 이에 더해 공동 마케팅과 영업, 밀착 기술 지원을 유기적으로 연계해 RNGD 인프라의 시장 도입을 가속화하고 혁신적인 비즈니스 모델 창출에도 적극 나선다. 향후에는 다채로운 AI 모델과 복잡한 워크로드에 유연하게 대응 가능하도록 차세대 AI 추론 인프라 대상의 공동 기술 검증 작업 역시 한층 확대 진행한다. AI 모델부터 추론 런타임, 가속기를 아우르는 통합 관리·모니터링 체계를 한 단계 끌어올리는 한편, GPU와 NPU 등 다종 가속기를 업무 성격에 따라 최적의 상태로 배분·활용하는 이기종 AI 컴퓨팅 인프라 환경으로 파트너십을 확장해 나갈 구상이다. 오케스트로는 이러한 기술 협력을 자체 AI 인프라 풀스택 소프트웨어 역량과도 연계한다. 서버 가상화 솔루션 ‘콘트라베이스(CONTRABASS)’, 클라우드 네이티브 운영 관리 플랫폼 ‘비올라(VIOLA)’, 멀티·하이브리드 클라우드 통합 관리 플랫폼 ‘오케스트로 CMP(OKESTRO CMP)’, 데브옵스 솔루션 ‘트럼본(TROMBONE)’ 등을 기반으로 AI 인프라의 구축부터 플랫폼 운영, 통합 관리까지 아우르는 역량을 강화하고 NPU를 포함한 다양한 AI 컴퓨팅 자원을 활용하는 사업으로 영역을 넓힌다. 특히 양사는 국산 AI 모델과 국산 AI 가속기, 이를 실제 서비스로 연결하는 AI 인프라 소프트웨어를 결합한 ‘K-AI 인프라’ 생태계 확산에도 협력한다. 퓨리오사AI의 RNGD 하드웨어 및 소프트웨어와 오케스트로의 AI 인프라 기술을 기반으로 공공·금융·기업의 프라이빗 AI 및 소버린 AI 구축 수요를 공략하고, 기술 검증과 구축 경험을 축적해 국산 NPU 기반 AI 인프라의 적용 영역을 지속 확대할 방침이다. 백준호 퓨리오사AI 대표는 “AI가 실제 기업과 공공 환경에 확산되면서 AI 가속기의 성능과 전력 효율뿐 아니라, 다양한 AI 워크로드를 안정적으로 배포하고 운영할 수 있는 소프트웨어와 인프라 역량의 중요성이 더욱 커지고 있다”며 “오케스트로의 AI 인프라 소프트웨어 스택과 RNGD를 결합해 대규모 AI 데이터센터와 토큰 팩토리를 최적으로 운영할 수 있는 풀스택 솔루션을 구현하고, 공공·금융·기업 고객의 실제 서비스 환경에서 상용 구축을 지속 확대해 나가겠다”고 말했다. 김민준 오케스트로 그룹 의장은 “올해 초부터 퓨리오사AI와 긴밀한 기술 협력을 이어오며 NPU에서도 AI 모델을 손쉽게 배포·서빙하고 운영할 수 있는 기술 기반을 마련하고, GPU와 NPU를 아우르는 AI 추론 인프라로 CONCERTO A.I.의 기술 범위를 확장해 왔다”며 “이번 협약을 계기로 기술 검증을 고객 실증과 사업화로 연결하고, 양사의 기술 경쟁력을 결합해 공공·금융·기업 시장에서 새로운 AI 인프라 레퍼런스를 만들어 나가겠다”고 말했다.
  • AX 인프라 소프트웨어사 아크릴, ‘GPU베이스’로 북미 진출 시동

    AX 인프라 소프트웨어사 아크릴, ‘GPU베이스’로 북미 진출 시동

    인공지능 전환(AX) 인프라 소프트웨어 기업 아크릴(대표 박외진)이 북미 시장에 도전장을 던지며 글로벌 시장 진출에 시동을 걸었다. 아크릴은 최근 미국 플로리다주 올랜도에서 열린 제39회 한미과학기술학술대회(UKC 2026)에서 그래픽처리장치(GPU) 운영 플랫폼인 ‘GPU베이스’를 소개했다고 31일 밝혔다. GPU베이스는 서로 다른 제조사의 GPU와 NPU(신경망처리장치)를 하나의 자원 풀로 묶어 운영하는 소프트웨어다. GPU 한 장을 여러 작업이 나눠 쓰도록 분할하고 네트워크 병목을 줄여 장비의 성능을 끌어올린다. 국내외에서 대형 AI 데이터센터 구축이 잇따르면서 GPU 운영·효율화 소프트웨어 수요도 함께 늘고 있다. UKC는 지난 5일부터 나흘간 진행됐다. 아크릴은 대회 기간 한미 인공지능(AI) 협력 공식 심포지엄에 국내 기업 중 유일하게 패널로 참여하고, 공식 스폰서 포럼의 핵심 발표를 맡았다. 발표 내용은 올해 상반기 글로벌 3대 클라우드 환경에서 이기종 GPU 7종 1272장을 대상으로 성능 검증을 진행한 결과가 핵심이다. 아크릴은 대회 기간 플로리다대 슈퍼컴퓨팅 시설 ‘하이퍼게이터’를 방문해 협력 방안을 논의하고 플로리다주정부 경제개발기구 ‘셀렉트플로리다’와도 라운드테이블을 가졌다. 포럼 연사로 나선 엔비디아 공동창업자 크리스 말라초프스키도 만났다. 아크릴은 지난 6월 정보통신기획평가원(IITP)이 발주한 이더넷 기반 GPU 클러스터 네트워크 패브릭 개발 과제의 주관기관으로 선정됐다. 총사업비 약 67억원(정부 지원금 55억원) 규모로 2028년 12월까지 연세대·성균관대·아주대와 공동 수행한다. 엔비디아 전용 네트워크 기술인 인피니밴드를 개방형 이더넷으로 대체하는 것이 목표다. 아크릴은 한컴 모듈형 데이터센터(MDC) 고급형 공급(누적 55억원)을 3분기 안에 마무리할 예정이다. 또 하반기엔 단일 클러스터 1000장 규모의 버티컬 페이즈에서 성능 검증을 이어간다. 이를 바탕으로 한국인정기구(KOLAS) 공인시험성적서 발급을 추진한다. 북미에서는 UKC 기간 만난 대학·연구기관과 후속 협의를 이어간다. 박외진 아크릴 대표는 “AI 인프라 경쟁은 GPU를 얼마나 많이 확보했느냐에서, 보유한 연산 자원을 얼마나 효율적이고 안정적으로 운영하느냐로 옮겨가고 있다”며 “북미 대학·연구소·데이터센터가 실제로 겪고 있는 운영 문제를 근거로 공동 실증과 사업 협력을 구체화하겠다”고 말했다.
  • 과기정통부, AMD와 ‘이기종 AI 컴퓨팅’ 인프라 만든다

    과기정통부, AMD와 ‘이기종 AI 컴퓨팅’ 인프라 만든다

    정부가 세계적인 반도체 기업 AMD의 중앙처리장치(CPU)·그래픽처리장치(GPU)와 국산 AI 반도체(NPU)를 결합한 ‘이기종 인공지능(AI) 컴퓨팅’ 인프라 구축에 나선다. 이기종 AI 컴퓨팅은 기능이 다른 반도체를 연결해 각각 잘하는 연산을 나눠 맡겨 성능과 전력 효율을 높이는 방식이다. 배경훈 부총리 겸 과학기술정보통신부 장관은 지난 23일(현지시간) 미국 샌프란시스코에서 열린 ‘AMD 어드밴싱 AI 2026’에서 리사 수 AMD 회장 겸 최고경영자(CEO)와 만나 ‘AI 반도체 생태계 협력에 관한 양해각서(MOU)’를 체결했다고 27일 밝혔다. AMD는 CPU와 GPU를 모두 생산하는 글로벌 반도체 기업이다. 지난해 연 매출은 346억 달러로, 이 가운데 데이터센터 사업 매출이 166억 달러에 달했다. 최근 AI 반도체 시장은 단일 GPU 중심에서 벗어나 CPU·GPU·NPU 등 서로 다른 연산장치를 서비스 특성과 비용에 맞게 결합하는 구조로 바뀌고 있다. 이번 협약은 AMD의 CPU·GPU와 AI 추론에 강점이 있는 국산 NPU를 연계해 이런 변화에 대응하기 위해 체결됐다. 정부와 AMD는 먼저 이기종 AI 컴퓨팅 인프라를 구축하고 성능 등을 검증한다. 국내 AI 반도체 기업을 비롯해 메모리와 네트워크, 서버, 소프트웨어 관련 기업이 함께 참여하는 개방형 AI 컴퓨팅 생태계도 조성할 계획이다. 배 부총리는 “국내 AI 반도체 생태계의 경쟁력을 높이고 글로벌 AI 컴퓨팅 인프라 변화에 대응하는 새로운 협력 모델을 만들어 갈 수 있을 것”이라고 말했다.
  • ‘CPU·GPU·NPU’ 하나로…과기정통부, AMD와 이기종 AI 컴퓨팅 인프라 구축

    ‘CPU·GPU·NPU’ 하나로…과기정통부, AMD와 이기종 AI 컴퓨팅 인프라 구축

    정부가 미국 반도체 기업 AMD와 중앙처리장치(CPU)·그래픽처리장치(GPU)·국산 신경망처리장치(NPU)를 하나로 묶은 ‘이기종 AI 컴퓨팅’ 인프라 구축을 위해 손을 맞잡았다. 글로벌 협력 기반을 점차 확대해 나간다는 방침이다. 과학기술정보통신부는 지난 23일(현지 시간) 미국 샌프란시스코에서 개최된 ‘AMD 어드밴싱 AI 2026’ 행사에서 리사 수(Lisa Su) AMD 회장 겸 CEO와 만나 ‘과기정통부-AMD 간 AI 반도체 생태계 협력에 관한 양해각서(MOU)’를 체결했다고 27일 밝혔다. AMD는 CPU와 GPU를 아우르는 글로벌 반도체 기업으로 개방형 인공지능(AI) 인프라 생태계 조성에도 적극 나서고 있다. 최근 글로벌 AI 반도체 시장은 생성형 AI와 에이전틱 AI가 확산하자 단일 GPU 중심의 컴퓨팅 구조에서 벗어나 CPU·GPU·NPU 등 다양한 연산장치를 서비스 특성과 비용 효율에 맞게 결합하는 이기종 컴퓨팅 아키텍처로 빠르게 전환하고 있다. 이번 협력은 AMD의 CPU·GPU와 추론 분야에 강점을 가진 NPU를 연계하는 이기종 AI 컴퓨팅 인프라를 구축하고 국내 AI 반도체 생태계의 글로벌 협력 기반을 확대하기 위해 체결됐다. 정부와 AMD는 우선 이기종 AI 컴퓨팅 인프라를 구축·실증한다. 이를 통해 AI 서비스 특성에 맞는 다양한 연산 자원을 효율적으로 활용하는 통합 컴퓨팅 환경을 구현하고 AI 반도체 기업을 비롯해 메모리, 데이터처리장치(DPU), 컴퓨트 익스프레스 링크(CXL), 네트워크, 서버, 오케스트레이션 소프트웨어 등 국내 관련 기업이 참여하는 개방형 AI 컴퓨팅 생태계를 조성할 계획이다. 아울러 국산 AI 반도체가 글로벌 AI 컴퓨팅 공급망에 참여할 수 있도록 실질적인 레퍼런스 모델도 확보할 방침이다. 양측은 또 국가과학AI연구센터(NAIS)를 중심으로 ‘AI for Science’ 공동 연구도 추진한다. AMD는 첨단 과학기술 분야의 AI 기반 연구와 도전적 연구개발(R&D)을 지원하기 위해 CPU·GPU 등 고성능 컴퓨팅 자원과 AI 소프트웨어, 전문 인력을 제공할 예정이다. AMD는 국내에 ‘AI 우수 연구센터’(AI Center of Excellence) 설립도 추진한다. 해당 센터는 국내 기업과 대학, 연구기관 간 기술 협력은 물론 AI 반도체 소프트웨어 개발, 컴퓨팅 기술 검증, 공동 연구를 지원하는 거점 역할을 맡게 된다. 양측은 AI 인재 양성에도 협력한다. AMD는 국내 주요 대학과 대학원에 AI 컴퓨팅 플랫폼 기반 교육·연구 프로그램과 컴퓨팅 자원을 지원할 방침이다. 배경훈 부총리 겸 과기정통부 장관은 “대한민국이 AI 3대 강국으로 도약하기 위해서는 자립적이면서도 개방적인 AI 컴퓨팅 인프라 기반 확보가 중요하다”며 “AMD와의 협력을 통해 국내 AI 반도체 생태계의 경쟁력을 높이고 글로벌 AI 컴퓨팅 인프라 변화에 대응하는 새로운 협력 모델을 만들어 갈 수 있을 것”이라고 말했다.
  • 오케스트로, GPU 활용률 높이는 AI 추론 운영 플랫폼 ‘콘체르토 AI’ 공개

    오케스트로, GPU 활용률 높이는 AI 추론 운영 플랫폼 ‘콘체르토 AI’ 공개

    - 분산 서빙 기반 추론 최적화… 보유 GPU 인프라 활용 효율 높여- 고부하 환경서 토큰 출력 속도 2.2배 향상… AI 서비스 응답 지연 완화- 국내 유일 GPU·국산 NPU 이기종 가속기 지원… 소버린 AI 인프라 선택권 확대 AI·클라우드 소프트웨어 전문 기업 오케스트로(대표 김범재, 김영광)는 보유 GPU 인프라의 활용 효율을 높여 기업 AI 서비스의 추론 병목을 줄이는 AI 추론 운영 플랫폼 ‘콘체르토 AI(CONCERTO A.I.)’를 선보였다고 29일 밝혔다. 생성형 AI 도입이 확산되면서 기업 AI 인프라의 핵심 과제는 GPU 확보에서 추론 운영 효율화로 전환되고 있다. AI 챗봇, 업무 자동화 에이전트, 검색증강생성(RAG) 기반 서비스 등 상시 운영 AI 서비스가 늘어나면서 모델 호출과 추론 연산 수요도 함께 증가하고 있다. 에이전트형 AI 환경에서는 단일 요청이 복수의 모델 호출과 반복 연산으로 이어져 추론 작업량이 단기간에 급증할 수 있다. GPU를 보유하더라도 추론 요청이 특정 자원에 집중되면 병목으로 인한 응답 지연과 자원 낭비가 동시에 발생하는 구조적 문제가 따른다. 콘체르토 AI는 분산 서빙 기반의 추론 최적화를 핵심 기술로 채택했다. 기존 단일 처리 방식은 질문 분석과 답변 생성을 동일 GPU 자원에서 처리해 요청 집중 시 전체 응답 속도가 저하된다. 콘체르토 AI는 두 작업을 분리해 각각에 적합한 자원을 배치함으로써 병목을 줄인다. 여기에 키-값 캐시(KV Cache) 최적화와 메모리 재사용 기술을 적용해 초기 응답 시간과 토큰 처리 속도를 개선하고, 실시간 대기열·자원 상태 기반 지능형 라우팅 기능을 결합해 고부하 환경에서도 응답 성능을 유지한다. 오케스트로가 자체 온프레미스 AI 인프라 환경에서 수행한 벤치마크 테스트에 따르면, 동시 요청이 집중되는 고부하 환경에서 콘체르토 AI의 분산 서빙 방식은 기존 단일 처리 방식 대비 토큰 출력 속도를 2.2배 높게 유지한 것으로 나타났다. 운영 자동화 기능도 탑재됐다. 콘체르토 AI는 AI 모델 배포부터 추론 요청 처리, 자원 배분, 성능 모니터링까지 LLMOps에 필요한 기능을 단일 플랫폼에서 제공한다. 표준화된 모델 패키징 기술을 기반으로 쿠버네티스 파드(Pod) 생성부터 엔드포인트 연결까지 배포 과정을 자동화하며, 배포 이후에는 초기 응답 시간·토큰 처리 속도·자원 사용량 등 주요 지표를 통합 모니터링 환경에서 확인할 수 있다. 인프라 호환성 측면에서는 엔비디아 GPU 외에 리벨리온·퓨리오사AI 등 국산 NPU 환경까지 지원하는 이기종 가속기 구조를 채택했다. 오케스트로 측은 GPU와 국산 NPU를 아우르는 상용화 수준의 AI 추론 운영 플랫폼은 국내에서 콘체르토 AI가 유일하다고 밝혔다. 이를 통해 기업·기관은 프라이빗 AI 및 소버린 AI 환경에서 특정 하드웨어 벤더 의존도를 낮추고 서비스 특성과 보유 인프라에 맞춰 추론 자원을 구성할 수 있다. 김범재 오케스트로 대표는 “기업 AI 인프라의 과제는 더 많은 GPU를 확보하는 것에서 보유 자원을 얼마나 효율적으로 운영하느냐로 옮겨가고 있다”며 “콘체르토 AI를 기반으로 기업이 보유한 AI 인프라의 활용 효율을 높이고, 프라이빗 AI 환경에서도 안정적인 AI 서비스 운영을 지원하겠다”고 밝혔다.
  • 인텔의 ‘괴물 칩’ 구상…이번엔 정말 성공할까 [고든 정의 TECH+]

    인텔의 ‘괴물 칩’ 구상…이번엔 정말 성공할까 [고든 정의 TECH+]

    인텔은 소비자용 CPU와 새롭게 도전했던 GPU·AI 가속기, 서버 프로세서, 파운드리 사업에 이르기까지 전 사업 부문에서 위기에 몰려 있습니다. 최근 위기를 극복하기 위한 노력이 이어지며 실적도 다소 개선되는 흐름을 보이고 있지만 이를 두고 본격적인 반등이 시작됐다고 평가하기에는 아직 이른 것이 현실입니다. 그렇다고 인텔이 수년간 기술 개발을 게을리하며 시간을 허비한 것은 아닙니다. 오히려 수세에 몰린 상황에서 인텔은 기술 개발에 상당히 집중했고 그 결과 여러 가지 독자적인 신기술을 축적했습니다. 그중 하나가 여러 개의 작은 칩렛을 3차원적으로 결합해 복잡하고 거대한 칩을 만드는 타일(tile) 기반 3D 패키징 기술입니다. 인텔은 레고 블록처럼 베이스 타일 위에 서로 다른 공정에서 제조한 타일을 얹어 하나의 프로세서를 만드는 포베로스 3D 적층 기술을 꾸준히 발전시켜 왔습니다. 여기에 HBM 같은 차세대 메모리나 다른 프로세서를 고대역폭으로 연결할 수 있는 EMIB 기술도 지속적으로 개량해 왔습니다. 최근에는 최신 미세 공정인 18A의 양산을 준비하는 동시에, 차세대 공정인 14A 개발도 병행하고 있습니다. 최근 인텔 파운드리는 이 모든 기술을 하나로 묶은 초거대 프로세서 제조 기술을 공개했습니다. 아직 실물 칩이 존재하는 단계는 아니고 기술적 개요만 제시됐지만 계획대로 구현된다면 역사상 가장 크고 복잡한 프로세서가 될 가능성이 있습니다. 현재 인텔은 144코어의 시에라 포레스트 제온 프로세서를 출시할 예정이지만 이번에 공개된 개념은 이와는 비교가 되지 않을 정도로 거대한 구성을 염두에 둔 것으로 보입니다. 18A 공정의 베이스 타일 위에 14A 또는 14A-E 공정으로 제작한 컴퓨트 타일을 포베로스 다이렉트 3D 방식으로 적층하고 여기에 HBM4 또는 HBM5 메모리를 EMIB-T로 연결하는 구조입니다. 공개된 슬라이드와 이미지를 보면 두 개의 다이를 연결한 것으로 보이는 8개의 타일이 배치돼 있습니다. 18A 공정으로 제작된 후면 전력 공급 베이스 다이 위에 실제 연산을 담당하는 14A 계열 컴퓨트 타일을 올리는 구조입니다. 전력과 배선은 아래에 두고 연산부는 위로 올리는 방식으로, 포베로스 다이렉트 3D 기술을 통해 하나의 거대한 프로세서처럼 동작하도록 설계됐습니다. 주변에는 최대 24개의 HBM4 또는 HBM5 메모리가 TSV가 추가된 EMIB-T로 직접 연결됩니다. 이는 인텔이 보유한 최신 기술을 모두 집약한, 말 그대로 ‘괴물’에 가까운 설계입니다. 그러나 인텔의 제온 프로세서든, 외부 파운드리 고객의 제품이든 이 기술을 선뜻 채택할지는 미지수입니다. 가장 큰 이유는 최신 미세 공정과 포베로스, EMIB를 모두 결합할 경우 패키징 공정이 지나치게 복잡해지면서 제조 비용 상승과 수율 저하로 이어질 가능성이 크기 때문입니다. 실제 사례도 있습니다. 포베로스와 EMIB를 동시에 적용하고, 인텔과 TSMC에서 생산한 다이, 그리고 다수의 HBM 메모리를 결합한 폰테 베키오 GPU는 오로라 슈퍼컴퓨터에 탑재된 것을 제외하면 시장에서 거의 판매되지 못했고, 상업적으로는 실패에 가까운 결과를 남겼습니다. 후속작인 팔콘 쇼어스 역시 범용 제품이 아닌 내부 연구용 칩으로 전락했습니다. 이는 복잡한 패키징 기술의 성공이 곧 상업적 성공으로 이어지지는 않는다는 점을 다시 한번 보여준 사례입니다. 서버 CPU인 제온에서도 비슷한 일이 벌어졌습니다. 사파이어 래피즈는 4개의 CPU 타일과 HBM 메모리를 EMIB로 묶는 구조를 제시했지만 코어 수가 60개 이하로 제한되면서 같은 시기 AMD의 128코어 제품에 밀렸습니다. 이후 인텔이 서버 시장에서 점유율을 꾸준히 잃은 것은 어느 정도 예견된 결과였습니다. AMD는 서버 CPU인 에픽 프로세서를 출시하면서 CPU 코어와 L2·L3 캐시를 묶은 CCD 여러 개를 단일 I/O 다이와 연결하는 단순한 방식을 택했습니다. 당시 인텔 내부에서는 이를 ‘칩을 풀처럼 붙인 설계(Glue-together)’라며 평가 절하했지만 결과적으로 이 단순함이 비용 절감과 개발 속도 측면에서 결정적인 강점이 됐습니다. 코어 확장이 필요하면 CCD 숫자만 늘리면 되고 패키징도 상대적으로 단순해 비용 부담이 적었기 때문입니다. AMD가 이미 192코어 프로세서까지 출시할 수 있었던 배경입니다. 인텔 역시 뒤늦게 그래나이트 래피즈와 시에라 포레스트를 통해 단순한 타일 구조로 코어 수 경쟁에 다시 뛰어들었지만 그 과정에서 자신 있게 내세웠던 포베로스와 EMIB 기술이 시장에서 반드시 유용한 무기가 되지는 않는다는 점도 드러났습니다. 다만 코어 수가 계속 늘어나고 CPU에 GPU나 NPU 같은 이기종 연산 장치를 혼합하는 흐름이 강화될수록 첨단 패키징 기술의 효용성이 다시 커질 가능성은 있습니다. 이번 18A+14A+포베로스 다이렉트 3D+EMIB-T 조합 공개 역시 이런 맥락에서의 기술 홍보로 보입니다. 더불어 인텔은 단순히 칩을 위탁 생산하는 파운드리가 아니라 설계·패키징·소프트웨어까지 통합 제공하는 ‘시스템 파운드리(System Foundry)’ 개념을 강조하고 있습니다. 이번 발표 역시 미세 공정뿐 아니라 이후 단계의 패키징 기술까지 함께 묶어 제공할 수 있다는 메시지로 해석됩니다. 그러나 인텔이 이 기술들을 조합해 수백 개의 코어와 대용량 HBM을 탑재한 제온 프로세서를 합리적인 가격과 수율로 대량 생산할 수 있다는 점을 직접 입증하지 않는다면 이 이야기를 그대로 믿고 파운드리에 제품을 맡길 고객이 얼마나 될지는 여전히 의문입니다. 이번 발표는 TSMC의 CoWoS-L과 가장 유사한 기술보다 더 진보한 해법을 갖고 있다는 점을 강조하려는 시도로 보입니다. 그러나 인텔에 지금 필요한 것은 세계에서 가장 복잡한 ‘공학적 예술품’이 아닙니다. 고객이 기꺼이 비용을 지불하고 반복적으로 구매할 수 있는, 신뢰할 만한 제품을 만들어 실제로 보여주는 것입니다.
위로