인공지능 전환(AX) 인프라 소프트웨어 기업 아크릴(대표 박외진)이 북미 시장에 도전장을 던지며 글로벌 시장 진출에 시동을 걸었다. 아크릴은 최근 미국 플로리다주 올랜도에서 열린 제39회 한미과학기술학술대회(UKC 2026)에서 그래픽처리장치(GPU) 운영 플랫폼인 ‘GPU베이스’를 소개했다고 31일 밝혔다. GPU베이스는 서로 다른 제조사의 GPU와 NPU(신경망처리장치)를 하나의 자원 풀로 묶어 운영하는 소프트웨어다. GPU 한 장을 여러 작업이 나눠 쓰도록 분할하고 네트워크 병목을 줄여 장비의 성능을 끌어올린다. 국내외에서 대형 AI 데이터센터 구축이 잇따르면서 GPU 운영·효율화 소프트웨어 수요도 함께 늘고 있다. UKC는 지난 5일부터 나흘간 진행됐다. 아크릴은 대회 기간 한미 인공지능(AI) 협력 공식 심포지엄에 국내 기업 중 유일하게 패널로 참여하고, 공식 스폰서 포럼의 핵심 발표를 맡았다. 발표 내용은 올해 상반기 글로벌 3대 클라우드 환경에서 이기종 GPU 7종 1272장을 대상으로 성능 검증을 진행한 결과가 핵심이다. 아크릴은 대회 기간 플로리다대 슈퍼컴퓨팅 시설 ‘하이퍼게이터’를 방문해 협력 방안을 논의하고 플로리다주정부 경제개발기구 ‘셀렉트플로리다’와도 라운드테이블을 가졌다. 포럼 연사로 나선 엔비디아 공동창업자 크리스 말라초프스키도 만났다. 아크릴은 지난 6월 정보통신기획평가원(IITP)이 발주한 이더넷 기반 GPU 클러스터 네트워크 패브릭 개발 과제의 주관기관으로 선정됐다. 총사업비 약 67억원(정부 지원금 55억원) 규모로 2028년 12월까지 연세대·성균관대·아주대와 공동 수행한다. 엔비디아 전용 네트워크 기술인 인피니밴드를 개방형 이더넷으로 대체하는 것이 목표다. 아크릴은 한컴 모듈형 데이터센터(MDC) 고급형 공급(누적 55억원)을 3분기 안에 마무리할 예정이다. 또 하반기엔 단일 클러스터 1000장 규모의 버티컬 페이즈에서 성능 검증을 이어간다. 이를 바탕으로 한국인정기구(KOLAS) 공인시험성적서 발급을 추진한다. 북미에서는 UKC 기간 만난 대학·연구기관과 후속 협의를 이어간다. 박외진 아크릴 대표는 “AI 인프라 경쟁은 GPU를 얼마나 많이 확보했느냐에서, 보유한 연산 자원을 얼마나 효율적이고 안정적으로 운영하느냐로 옮겨가고 있다”며 “북미 대학·연구소·데이터센터가 실제로 겪고 있는 운영 문제를 근거로 공동 실증과 사업 협력을 구체화하겠다”고 말했다.

정부가 세계적인 반도체 기업 AMD의 중앙처리장치(CPU)·그래픽처리장치(GPU)와 국산 AI 반도체(NPU)를 결합한 ‘이기종 인공지능(AI) 컴퓨팅’ 인프라 구축에 나선다. 이기종 AI 컴퓨팅은 기능이 다른 반도체를 연결해 각각 잘하는 연산을 나눠 맡겨 성능과 전력 효율을 높이는 방식이다. 배경훈 부총리 겸 과학기술정보통신부 장관은 지난 23일(현지시간) 미국 샌프란시스코에서 열린 ‘AMD 어드밴싱 AI 2026’에서 리사 수 AMD 회장 겸 최고경영자(CEO)와 만나 ‘AI 반도체 생태계 협력에 관한 양해각서(MOU)’를 체결했다고 27일 밝혔다. AMD는 CPU와 GPU를 모두 생산하는 글로벌 반도체 기업이다. 지난해 연 매출은 346억 달러로, 이 가운데 데이터센터 사업 매출이 166억 달러에 달했다. 최근 AI 반도체 시장은 단일 GPU 중심에서 벗어나 CPU·GPU·NPU 등 서로 다른 연산장치를 서비스 특성과 비용에 맞게 결합하는 구조로 바뀌고 있다. 이번 협약은 AMD의 CPU·GPU와 AI 추론에 강점이 있는 국산 NPU를 연계해 이런 변화에 대응하기 위해 체결됐다. 정부와 AMD는 먼저 이기종 AI 컴퓨팅 인프라를 구축하고 성능 등을 검증한다. 국내 AI 반도체 기업을 비롯해 메모리와 네트워크, 서버, 소프트웨어 관련 기업이 함께 참여하는 개방형 AI 컴퓨팅 생태계도 조성할 계획이다. 배 부총리는 “국내 AI 반도체 생태계의 경쟁력을 높이고 글로벌 AI 컴퓨팅 인프라 변화에 대응하는 새로운 협력 모델을 만들어 갈 수 있을 것”이라고 말했다.

정부가 미국 반도체 기업 AMD와 중앙처리장치(CPU)·그래픽처리장치(GPU)·국산 신경망처리장치(NPU)를 하나로 묶은 ‘이기종 AI 컴퓨팅’ 인프라 구축을 위해 손을 맞잡았다. 글로벌 협력 기반을 점차 확대해 나간다는 방침이다. 과학기술정보통신부는 지난 23일(현지 시간) 미국 샌프란시스코에서 개최된 ‘AMD 어드밴싱 AI 2026’ 행사에서 리사 수(Lisa Su) AMD 회장 겸 CEO와 만나 ‘과기정통부-AMD 간 AI 반도체 생태계 협력에 관한 양해각서(MOU)’를 체결했다고 27일 밝혔다. AMD는 CPU와 GPU를 아우르는 글로벌 반도체 기업으로 개방형 인공지능(AI) 인프라 생태계 조성에도 적극 나서고 있다. 최근 글로벌 AI 반도체 시장은 생성형 AI와 에이전틱 AI가 확산하자 단일 GPU 중심의 컴퓨팅 구조에서 벗어나 CPU·GPU·NPU 등 다양한 연산장치를 서비스 특성과 비용 효율에 맞게 결합하는 이기종 컴퓨팅 아키텍처로 빠르게 전환하고 있다. 이번 협력은 AMD의 CPU·GPU와 추론 분야에 강점을 가진 NPU를 연계하는 이기종 AI 컴퓨팅 인프라를 구축하고 국내 AI 반도체 생태계의 글로벌 협력 기반을 확대하기 위해 체결됐다. 정부와 AMD는 우선 이기종 AI 컴퓨팅 인프라를 구축·실증한다. 이를 통해 AI 서비스 특성에 맞는 다양한 연산 자원을 효율적으로 활용하는 통합 컴퓨팅 환경을 구현하고 AI 반도체 기업을 비롯해 메모리, 데이터처리장치(DPU), 컴퓨트 익스프레스 링크(CXL), 네트워크, 서버, 오케스트레이션 소프트웨어 등 국내 관련 기업이 참여하는 개방형 AI 컴퓨팅 생태계를 조성할 계획이다. 아울러 국산 AI 반도체가 글로벌 AI 컴퓨팅 공급망에 참여할 수 있도록 실질적인 레퍼런스 모델도 확보할 방침이다. 양측은 또 국가과학AI연구센터(NAIS)를 중심으로 ‘AI for Science’ 공동 연구도 추진한다. AMD는 첨단 과학기술 분야의 AI 기반 연구와 도전적 연구개발(R＆D)을 지원하기 위해 CPU·GPU 등 고성능 컴퓨팅 자원과 AI 소프트웨어, 전문 인력을 제공할 예정이다. AMD는 국내에 ‘AI 우수 연구센터’(AI Center of Excellence) 설립도 추진한다. 해당 센터는 국내 기업과 대학, 연구기관 간 기술 협력은 물론 AI 반도체 소프트웨어 개발, 컴퓨팅 기술 검증, 공동 연구를 지원하는 거점 역할을 맡게 된다. 양측은 AI 인재 양성에도 협력한다. AMD는 국내 주요 대학과 대학원에 AI 컴퓨팅 플랫폼 기반 교육·연구 프로그램과 컴퓨팅 자원을 지원할 방침이다. 배경훈 부총리 겸 과기정통부 장관은 “대한민국이 AI 3대 강국으로 도약하기 위해서는 자립적이면서도 개방적인 AI 컴퓨팅 인프라 기반 확보가 중요하다”며 “AMD와의 협력을 통해 국내 AI 반도체 생태계의 경쟁력을 높이고 글로벌 AI 컴퓨팅 인프라 변화에 대응하는 새로운 협력 모델을 만들어 갈 수 있을 것”이라고 말했다.

- 분산 서빙 기반 추론 최적화… 보유 GPU 인프라 활용 효율 높여- 고부하 환경서 토큰 출력 속도 2.2배 향상… AI 서비스 응답 지연 완화- 국내 유일 GPU·국산 NPU 이기종 가속기 지원… 소버린 AI 인프라 선택권 확대 AI·클라우드 소프트웨어 전문 기업 오케스트로(대표 김범재, 김영광)는 보유 GPU 인프라의 활용 효율을 높여 기업 AI 서비스의 추론 병목을 줄이는 AI 추론 운영 플랫폼 ‘콘체르토 AI(CONCERTO A.I.)’를 선보였다고 29일 밝혔다. 생성형 AI 도입이 확산되면서 기업 AI 인프라의 핵심 과제는 GPU 확보에서 추론 운영 효율화로 전환되고 있다. AI 챗봇, 업무 자동화 에이전트, 검색증강생성(RAG) 기반 서비스 등 상시 운영 AI 서비스가 늘어나면서 모델 호출과 추론 연산 수요도 함께 증가하고 있다. 에이전트형 AI 환경에서는 단일 요청이 복수의 모델 호출과 반복 연산으로 이어져 추론 작업량이 단기간에 급증할 수 있다. GPU를 보유하더라도 추론 요청이 특정 자원에 집중되면 병목으로 인한 응답 지연과 자원 낭비가 동시에 발생하는 구조적 문제가 따른다. 콘체르토 AI는 분산 서빙 기반의 추론 최적화를 핵심 기술로 채택했다. 기존 단일 처리 방식은 질문 분석과 답변 생성을 동일 GPU 자원에서 처리해 요청 집중 시 전체 응답 속도가 저하된다. 콘체르토 AI는 두 작업을 분리해 각각에 적합한 자원을 배치함으로써 병목을 줄인다. 여기에 키-값 캐시(KV Cache) 최적화와 메모리 재사용 기술을 적용해 초기 응답 시간과 토큰 처리 속도를 개선하고, 실시간 대기열·자원 상태 기반 지능형 라우팅 기능을 결합해 고부하 환경에서도 응답 성능을 유지한다. 오케스트로가 자체 온프레미스 AI 인프라 환경에서 수행한 벤치마크 테스트에 따르면, 동시 요청이 집중되는 고부하 환경에서 콘체르토 AI의 분산 서빙 방식은 기존 단일 처리 방식 대비 토큰 출력 속도를 2.2배 높게 유지한 것으로 나타났다. 운영 자동화 기능도 탑재됐다. 콘체르토 AI는 AI 모델 배포부터 추론 요청 처리, 자원 배분, 성능 모니터링까지 LLMOps에 필요한 기능을 단일 플랫폼에서 제공한다. 표준화된 모델 패키징 기술을 기반으로 쿠버네티스 파드(Pod) 생성부터 엔드포인트 연결까지 배포 과정을 자동화하며, 배포 이후에는 초기 응답 시간·토큰 처리 속도·자원 사용량 등 주요 지표를 통합 모니터링 환경에서 확인할 수 있다. 인프라 호환성 측면에서는 엔비디아 GPU 외에 리벨리온·퓨리오사AI 등 국산 NPU 환경까지 지원하는 이기종 가속기 구조를 채택했다. 오케스트로 측은 GPU와 국산 NPU를 아우르는 상용화 수준의 AI 추론 운영 플랫폼은 국내에서 콘체르토 AI가 유일하다고 밝혔다. 이를 통해 기업·기관은 프라이빗 AI 및 소버린 AI 환경에서 특정 하드웨어 벤더 의존도를 낮추고 서비스 특성과 보유 인프라에 맞춰 추론 자원을 구성할 수 있다. 김범재 오케스트로 대표는 “기업 AI 인프라의 과제는 더 많은 GPU를 확보하는 것에서 보유 자원을 얼마나 효율적으로 운영하느냐로 옮겨가고 있다”며 “콘체르토 AI를 기반으로 기업이 보유한 AI 인프라의 활용 효율을 높이고, 프라이빗 AI 환경에서도 안정적인 AI 서비스 운영을 지원하겠다”고 밝혔다.

인텔은 소비자용 CPU와 새롭게 도전했던 GPU·AI 가속기, 서버 프로세서, 파운드리 사업에 이르기까지 전 사업 부문에서 위기에 몰려 있습니다. 최근 위기를 극복하기 위한 노력이 이어지며 실적도 다소 개선되는 흐름을 보이고 있지만 이를 두고 본격적인 반등이 시작됐다고 평가하기에는 아직 이른 것이 현실입니다. 그렇다고 인텔이 수년간 기술 개발을 게을리하며 시간을 허비한 것은 아닙니다. 오히려 수세에 몰린 상황에서 인텔은 기술 개발에 상당히 집중했고 그 결과 여러 가지 독자적인 신기술을 축적했습니다. 그중 하나가 여러 개의 작은 칩렛을 3차원적으로 결합해 복잡하고 거대한 칩을 만드는 타일(tile) 기반 3D 패키징 기술입니다. 인텔은 레고 블록처럼 베이스 타일 위에 서로 다른 공정에서 제조한 타일을 얹어 하나의 프로세서를 만드는 포베로스 3D 적층 기술을 꾸준히 발전시켜 왔습니다. 여기에 HBM 같은 차세대 메모리나 다른 프로세서를 고대역폭으로 연결할 수 있는 EMIB 기술도 지속적으로 개량해 왔습니다. 최근에는 최신 미세 공정인 18A의 양산을 준비하는 동시에, 차세대 공정인 14A 개발도 병행하고 있습니다. 최근 인텔 파운드리는 이 모든 기술을 하나로 묶은 초거대 프로세서 제조 기술을 공개했습니다. 아직 실물 칩이 존재하는 단계는 아니고 기술적 개요만 제시됐지만 계획대로 구현된다면 역사상 가장 크고 복잡한 프로세서가 될 가능성이 있습니다. 현재 인텔은 144코어의 시에라 포레스트 제온 프로세서를 출시할 예정이지만 이번에 공개된 개념은 이와는 비교가 되지 않을 정도로 거대한 구성을 염두에 둔 것으로 보입니다. 18A 공정의 베이스 타일 위에 14A 또는 14A-E 공정으로 제작한 컴퓨트 타일을 포베로스 다이렉트 3D 방식으로 적층하고 여기에 HBM4 또는 HBM5 메모리를 EMIB-T로 연결하는 구조입니다. 공개된 슬라이드와 이미지를 보면 두 개의 다이를 연결한 것으로 보이는 8개의 타일이 배치돼 있습니다. 18A 공정으로 제작된 후면 전력 공급 베이스 다이 위에 실제 연산을 담당하는 14A 계열 컴퓨트 타일을 올리는 구조입니다. 전력과 배선은 아래에 두고 연산부는 위로 올리는 방식으로, 포베로스 다이렉트 3D 기술을 통해 하나의 거대한 프로세서처럼 동작하도록 설계됐습니다. 주변에는 최대 24개의 HBM4 또는 HBM5 메모리가 TSV가 추가된 EMIB-T로 직접 연결됩니다. 이는 인텔이 보유한 최신 기술을 모두 집약한, 말 그대로 ‘괴물’에 가까운 설계입니다. 그러나 인텔의 제온 프로세서든, 외부 파운드리 고객의 제품이든 이 기술을 선뜻 채택할지는 미지수입니다. 가장 큰 이유는 최신 미세 공정과 포베로스, EMIB를 모두 결합할 경우 패키징 공정이 지나치게 복잡해지면서 제조 비용 상승과 수율 저하로 이어질 가능성이 크기 때문입니다. 실제 사례도 있습니다. 포베로스와 EMIB를 동시에 적용하고, 인텔과 TSMC에서 생산한 다이, 그리고 다수의 HBM 메모리를 결합한 폰테 베키오 GPU는 오로라 슈퍼컴퓨터에 탑재된 것을 제외하면 시장에서 거의 판매되지 못했고, 상업적으로는 실패에 가까운 결과를 남겼습니다. 후속작인 팔콘 쇼어스 역시 범용 제품이 아닌 내부 연구용 칩으로 전락했습니다. 이는 복잡한 패키징 기술의 성공이 곧 상업적 성공으로 이어지지는 않는다는 점을 다시 한번 보여준 사례입니다. 서버 CPU인 제온에서도 비슷한 일이 벌어졌습니다. 사파이어 래피즈는 4개의 CPU 타일과 HBM 메모리를 EMIB로 묶는 구조를 제시했지만 코어 수가 60개 이하로 제한되면서 같은 시기 AMD의 128코어 제품에 밀렸습니다. 이후 인텔이 서버 시장에서 점유율을 꾸준히 잃은 것은 어느 정도 예견된 결과였습니다. AMD는 서버 CPU인 에픽 프로세서를 출시하면서 CPU 코어와 L2·L3 캐시를 묶은 CCD 여러 개를 단일 I/O 다이와 연결하는 단순한 방식을 택했습니다. 당시 인텔 내부에서는 이를 ‘칩을 풀처럼 붙인 설계(Glue-together)’라며 평가 절하했지만 결과적으로 이 단순함이 비용 절감과 개발 속도 측면에서 결정적인 강점이 됐습니다. 코어 확장이 필요하면 CCD 숫자만 늘리면 되고 패키징도 상대적으로 단순해 비용 부담이 적었기 때문입니다. AMD가 이미 192코어 프로세서까지 출시할 수 있었던 배경입니다. 인텔 역시 뒤늦게 그래나이트 래피즈와 시에라 포레스트를 통해 단순한 타일 구조로 코어 수 경쟁에 다시 뛰어들었지만 그 과정에서 자신 있게 내세웠던 포베로스와 EMIB 기술이 시장에서 반드시 유용한 무기가 되지는 않는다는 점도 드러났습니다. 다만 코어 수가 계속 늘어나고 CPU에 GPU나 NPU 같은 이기종 연산 장치를 혼합하는 흐름이 강화될수록 첨단 패키징 기술의 효용성이 다시 커질 가능성은 있습니다. 이번 18A+14A+포베로스 다이렉트 3D+EMIB-T 조합 공개 역시 이런 맥락에서의 기술 홍보로 보입니다. 더불어 인텔은 단순히 칩을 위탁 생산하는 파운드리가 아니라 설계·패키징·소프트웨어까지 통합 제공하는 ‘시스템 파운드리(System Foundry)’ 개념을 강조하고 있습니다. 이번 발표 역시 미세 공정뿐 아니라 이후 단계의 패키징 기술까지 함께 묶어 제공할 수 있다는 메시지로 해석됩니다. 그러나 인텔이 이 기술들을 조합해 수백 개의 코어와 대용량 HBM을 탑재한 제온 프로세서를 합리적인 가격과 수율로 대량 생산할 수 있다는 점을 직접 입증하지 않는다면 이 이야기를 그대로 믿고 파운드리에 제품을 맡길 고객이 얼마나 될지는 여전히 의문입니다. 이번 발표는 TSMC의 CoWoS-L과 가장 유사한 기술보다 더 진보한 해법을 갖고 있다는 점을 강조하려는 시도로 보입니다. 그러나 인텔에 지금 필요한 것은 세계에서 가장 복잡한 ‘공학적 예술품’이 아닙니다. 고객이 기꺼이 비용을 지불하고 반복적으로 구매할 수 있는, 신뢰할 만한 제품을 만들어 실제로 보여주는 것입니다.