- GPU 활용 효율 높이는 AI 추론 최적화 전략… 서비스 성능 개선 방안 제시- ‘콘체르토 AI’ 분산 추론 기술로 동일 GPU 환경서 처리량 62.8% 향상- 넷앱 스토리지 연계로 AI 모델 가중치 로딩 시간 71초에서 8초로 단축 인공지능(AI) 인프라 소프트웨어 전문 기업 오케스트로(대표 김범재·김영광)가 그래픽처리장치(GPU) 활용도를 높이고 AI 서비스 성능을 개선하기 위한 추론 인프라 최적화 전략을 공개한다. 오케스트로는 오는 10월 27일 오후 2시 ‘AI 서비스 성능 개선, GPU부터 더 사야 할까?’를 주제로 온라인 웨비나를 개최한다고 26일 밝혔다. 최근 생성형 AI가 산업 전반으로 확산되면서 모델 학습뿐만 아니라 추론(Inference)과 실제 서비스 운영의 중요성이 커지고 있다. 기업들이 GPU 확보에 투자를 늘리고 있지만, 실제 AI 서비스 운영 과정에서는 낮은 GPU 활용률과 응답 지연, 비용 부담 등의 과제가 여전히 남아 있다. 특히 에이전틱 AI(Agentic AI)가 확산되면서 하나의 작업을 수행하기 위해 AI 모델을 여러 차례 호출하는 사례가 늘고 있다. 이 과정에서 입력 처리와 답변 생성이 동일한 GPU 자원을 사용하면 작업 간 경합이 발생해 응답이 지연될 수 있다. 이를 해결하기 위해서는 추론 과정의 병목 현상을 줄이고 GPU 자원을 효율적으로 운영하는 기술이 요구된다. 이번 웨비나에서는 AI 추론 인프라의 주요 당면 과제를 살펴보고, 오케스트로의 ‘콘체르토 AI(CONCERTO A.I.)’를 활용한 분산 추론 및 GPU 자원 최적화 방안과 실제 성능 검증 결과를 소개할 예정이다. ‘콘체르토 AI’는 대규모 언어모델(LLM)의 입력 처리(Prefill)와 답변 생성(Decode) 단계를 분리해 GPU 자원 간 경합을 줄이고 추론 성능을 최적화하는 AI 추론 운영 플랫폼이다. 복잡한 추론 인프라의 구축과 배포를 자동화하고, 성능 모니터링 기능을 통합 제공해 AI 서비스의 운영 효율을 높인다. 성능 검증 결과, 콘체르토 AI는 기존 모델 서빙 방식과 동일한 GPU 자원을 사용하면서도 고부하 환경에서 처리량을 62.8% 높이고, 토큰 생성 지연을 52.1% 줄인 것으로 나타났다. 이와 함께 넷앱(NetApp)의 스토리지 기술을 연계한 AI 인프라 최적화 성과도 공개한다. GPU 다이렉트 스토리지(GPUDirect Storage, GDS) 기반 KV 캐시 오프로딩으로 GPU 메모리 부담을 줄이고 동시 사용자 처리 효율을 높인 사례를 소개한다. 모델 로딩 최적화를 통해 AI 모델 가중치 로딩 시간을 기존 71초에서 8초로 줄였으며, 기동 과정 최적화로 신규 서버의 서비스 투입 시간도 187초에서 80초로 단축했다. 오케스트로는 콘체르토 AI를 통해 기업의 AI 서비스 개발부터 운영까지 지원하고, 인프라 운영 효율을 높여갈 계획이다. 추론 최적화를 기반으로 AI 개발 환경과 모델 운영·관리, 통합 모니터링까지 기능을 확장하고, 엔비디아 GPU와 국산 NPU 등 다양한 하드웨어를 지원해 기업의 독립적인 AI 인프라 운영도 뒷받침할 방침이다. 오케스트로 그룹은 소버린 AI 인프라 분야에서도 협력을 확대하고 있다. 계열사인 오케스트로 클라우드는 퓨리오사AI, 업스테이지 등 4개 사와 업무협약(MOU)을 체결하고, 국산 NPU 기반 ‘소버린 AI 풀스택 어플라이언스’ 공동 개발을 추진하고 있다. 웨비나는 10월 27일 오후 2시부터 올쇼TV를 통해 온라인으로 진행된다. 참가비는 무료이며, 사전 등록 후 참여할 수 있다. 김범재 오케스트로 대표는 “AI 시대에는 GPU를 얼마나 많이 확보하느냐보다 보유한 자원의 성능을 최대한 끌어내는 운영 역량이 중요해지고 있다”며 “이번 웨비나에서는 콘체르토 AI의 기술력과 성능 검증 결과를 공유하고, 기업들이 GPU 투자 효과를 높이고 AI 서비스를 안정적으로 운영할 수 있도록 실질적인 해법을 제시하겠다”고 말했다.

지난 7월 중국 문샷 AI가 ‘키미 K3’를 발표하면서 업계를 충격에 빠뜨렸습니다. 2.8조개의 파라미터를 지닌 프런티어급 대형 모델을 무료로 공개했을 뿐 아니라, 성능 면에서도 서구 프런티어 모델을 거의 따라잡았기 때문입니다. 하지만 더 논란이 된 부분은 미국 프런티어 모델을 ‘증류’(distillation)를 통해 성능을 높였다는 점이었습니다. 증류 자체는 인공지능(AI) 거대언어모델(LLM) 개발에서 흔히 사용되는 방법입니다. 거대한 파라미터를 지닌 대형 모델을 선생 모델로 삼아 더 작고 효율적인 모델을 만드는 기법으로, 일반 사용자에게 배포되는 소형 모델 상당수가 이런 방식으로 만들어집니다. 그러나 오픈 AI와 앤트로픽이 문제 삼은 것은 문샷 AI가 무단으로 프런티어 모델의 답변 내용을 가져와 학습에 활용했다는 점이었습니다. 미국 모델의 능력을 무단으로 학습해 더 저렴한 가격으로 서비스하는 행위로 비판받은 것입니다. 이에 대응하기 위해 앤트로픽은 최근 방어 체계를 강화해 증류로 추출되는 추론 토큰을 이전 대비 10~100배, 데이터 수확량을 90~99% 줄였다고 발표했습니다. 하지만 지난 23일 공개된 키미 K3.1 프로의 성능을 보면, 이 같은 차단 시도만으로는 중국 모델의 성장을 막기 어렵다는 점이 드러납니다. 키미 K3.1 프로의 벤치마크 결과를 보면, 자원이 제한된 실제적인 터미널 작업을 과제별 엄격한 테스트로 평가하는 ‘Terminal-Bench 4.0’에서 65.7%를 기록해 클로드 오푸스 5.5(66.4%)에 근접했고, GPT-6 아스트라(58.2%)보다 높은 점수를 냈습니다. 실제 금융 문서를 대상으로 검색·문서 간 교차 검증·다단계 수치 추론을 수행하는 ‘OfficeQA Pro v2’에서는 64.4점으로 최고 성적을 기록했습니다. 종합 지능 평가 지수인 ‘Artificial Analysis Intelligence Index’에서도 55점을 기록하며 GPT-6 아스트라와 클로드 페이블 5.1(각각 53점)을 앞서 4위를 차지했습니다. 11월 4일 가중치가 공개되면 현재 가장 강력한 오픈 웨이트 모델이 될 전망입니다. 사실 이는 어느 정도 예측된 결과이기도 했습니다. 처음부터 2.8조개의 파라미터를 지닌 모델을 증류만으로 만들 수는 없습니다. 모델의 크기가 커지고 성능이 높아질수록 프런티어급 모델 개발에서는 증류보다 사후 학습과 강화 학습(RL)이 더 중요해지기 때문입니다. 키미 K3.1 프로가 성능을 더 높인 비결은 한정된 연산 자원을 훨씬 효율적으로 사용해 사후 학습을 강화한 데 있습니다. 중국 AI 기업들은 미국에 비해 매우 제한된 AI 연산 자원을 보유하고 있어, 같은 방식으로 미국 프런티어 모델의 학습 수준을 따라가기 어렵습니다. 문샷 AI는 Kimi Delta Attention(KDA), NoPE, MXFP4/8 양자화, MoE 구조 등 여러 가지 기법을 활용해 제한된 하드웨어에서도 성능을 극대화했습니다. 그런데 이렇게 상대적으로 낮은 하드웨어에서도 서방 프런티어 모델에 근접한 성능을 내도록 개발된 덕분에 비용을 낮출 수 있는 것은 물론, 모델을 다운로드해 내부 서버에서 운영할 때 기업들의 부담도 훨씬 적습니다. 이것이 역설적으로 중국 모델의 큰 장점이 되고 있습니다. 키미 K3.1 프로의 서비스 가격은 입력·출력·캐시 적중 토큰 100만 건당 각각 2달러·10달러·0.20달러로, 키미 K3보다 세 가지 요금 모두 33% 저렴합니다. 저렴한 가격과 높은 성능, 그리고 모델 공개라는 무기로 서방 프런티어 AI 모델을 위협하는 중국 AI 모델에 대응하기 위해서는 증류를 막는 것만으로는 부족합니다. 서방 오픈 모델을 강화하고 효율성을 대폭 끌어올리는 것이 실질적인 대안이 될 수 있습니다.

전 세계 웹사이트의 70% 이상이 사용하는 프로그래밍 언어 PHP에 치명적인 보안 취약점이 확인되면서 전 세계 웹사이트 보안에 비상이 걸렸다. 각국 정부와 보안기관이 대책에 나선 가운데 과학기술정보통신부와 한국인터넷진흥원(KISA)도 긴급 대응에 나섰다. 전 세계 웹사이트 70% 이상 사용하는 언어에 자체 취약점PHP는 웹사이트 서버용 프로그래밍 언어로, 웹사이트의 로그인·게시판·쇼핑몰 주문조회 등의 기능을 구현하는 데 쓰인다. 1995년 공개된 오픈소스 언어로, 웹 기술 분석업체 W3Techs에 따르면 사용된 프로그래밍 언어를 식별할 수 있는 웹사이트의 약 70~75%가 PHP를 사용한다. 전체 웹사이트의 약 43%에서 쓰이는 워드프레스 역시 PHP를 기반으로 작동한다. 이용자가 웹사이트에서 요청한 작업을 서버에서 처리하고 그 결과를 웹브라우저로 보내주는 역할을 한다. 이용자의 컴퓨터나 스마트폰이 아닌 웹사이트 운영 서버에서 실행되는 것이 특징이다. 예를 들어 온라인 쇼핑몰에서 주문 내역을 조회하면 서버가 PHP로 작성된 프로그램을 실행해 데이터베이스에서 해당 정보를 찾아 이용자에게 보여준다. 게시판에 글을 쓰거나 댓글을 불러오는 기능도 이런 방식으로 구현된다. 이번 보안 취약점의 파급력이 큰 것도 이처럼 수많은 웹사이트가 보편적으로 사용하는 기능이 PHP에 의존하고 있기 때문이다. 이번 취약점은 개별 사이트의 코딩 실수가 아니라 PHP 자체의 내부 처리 과정에 내재한 것으로 전해졌다. 로그인이나 인증 없이 외부에서 서버를 장악할 수 있는 취약점 2건이 확인된 것이다. 패치 나오기 전 결함 알려져…“공조 깨졌다” 전 세계적인 파급력뿐만 아니라 결함이 발견되고 패치가 나오기까지의 과정도 논란이 되고 있다. 연합뉴스와 PHP 재단에 따르면 이 결함은 2024년 독일 ‘소버린 테크 펀드’(STF)의 지원으로 진행된 보안 감사에서 처음 포착됐다. 당시 개발진은 메모리 부족(OOM) 상황을 처리하는 과정에서 생길 수 있는 결함을 확인하고 수정 방안을 논의했다. 그러나 만장일치 합의로 결정하는 구조 탓에 결론을 내지 못했고, 기존 라이브러리와의 호환성이 깨질 수 있다는 우려와 성능 저하 논란까지 겹치면서 패치는 보류됐다. 특히 이 결함이 실제 원격 코드 실행(RCE) 공격으로 이어질 수 있다는 점을 당시로선 입증하지 못한 것도 작용했다. 그러나 지난 8월 인공지능(AI)을 활용해 같은 결함을 찾아내면서 상황이 달라졌다. 잠재적 버그 정도로 여겨졌던 결함이 AI 분석을 통해 실제 시스템 침투 경로로 이용 가능하다는 점이 확인된 것이다. 미국 보안업체 캘리프(Calif) 연구진은 오픈AI의 ‘GPT-5.6 솔’로 PHP 코드를 분석했고, 오픈AI 보안팀도 별도 연구에서 같은 결함을 찾아냈다. 이 결함은 8월 11일 PHP 재단에 신고됐다. PHP 재단은 신고를 받은 뒤 두 달여 검증 작업을 거쳐 21일 공식 보안 업데이트를 배포했다. 재단은 대응이 늦어진 원인으로 거버넌스의 한계와 자원 부족을 인정하고 보안 체계를 손보겠다고 밝혔다. 이 과정에서 또 다른 논란도 불거졌다. 일부 패치 배포업체가 공식 배포 예정 시간보다 약 6시간 앞서서 패치가 적용된 이미지를 기습 공개한 것이다. 재단은 공식 성명을 통해 “체인가드가 일방적으로 엠바고를 깼다”며 “공조 공개를 위해 수많은 주체가 수 주 동안 기울인 노력을 무시한 행위”라고 강력히 비판했다. 패치가 예정보다 일찍 공개되면 해커 등 공격자들이 패치 코드를 역분석해 공격 도구를 개발할 수 있게 된다. 정식 업데이트가 제공되지 않는 상황에서 해커들에게 먼저 코드를 분석할 수 있는 6시간을 제공함으로써, 이용자들이 눈 뜨고 당할 수도 있는 위험을 초래한 셈이다. 사실 공식 패치 배포 전부터 연이어 정보 유출이 있었다. PHP 개발진은 당초 22일에 패치를 배포하려 했으나 지난 20일 온라인에서 취약점 ID 등이 유포되면서 배포 일정을 하루 앞당겼다. 여기에 다른 보안업체 ‘캘리프’가 실수로 취약점 공격 시연 영상을 올렸다가 삭제하면서 해커들의 공격 도구 개발이 가속됐다고 재단은 지적했다. 이런 상황에서 체인가드의 기습적인 패치 공개가 이어지면서 ‘시간차 방어망’이 무너졌다는 평가가 나온다. AI로 빨라진 해킹 공격·방어…현장 적용 늦는 고질적 문제도 특히 AI 도구의 발전으로 패치 코드를 역분석해 공격 도구를 만드는 속도가 과거와 비교할 수 없을 정도로 빨라진 상황에서 이와 같은 공조 실패는 더욱 뼈아프다는 지적이 나온다. 이 문제를 최초로 발견한 타이 두옹 캘리프 최고경영자(CEO)는 “어떤 사람이 패치를 가져다가 AI를 돌려보고, 이를 악용하는 스크립트를 게시할 수도 있다”면서 “그러면 대혼란이 일어날 것”이라고 우려했다. 이런 비판에 댄 로랜크 체인가드 CEO는 “현장에서 실제 취약점 공격이 이뤄지고 있다는 징후를 여러 보안업체가 확인했다”면서 “실제 공격 증거가 포착됐을 때 패치를 배포하도록 한 공조 취약점 공개 가이드라인에 따라 출시 결정을 내렸다”고 해명했다. 다만 “내 결정으로 더 큰 압박을 받게 된 PHP 재단과 관리자들에게 미안하다”고 덧붙였다. 공조가 무너진 것과 별개로 이미 보안업계에서 AI를 활용해 공격과 방어 양쪽에서 속도 경쟁이 붙고 있다. 보안업계에서는 이번 사태가 AI로 인해 사이버보안에서 공격과 방어 양쪽이 속도 경쟁이 본격화한 대표적 사례로 보고 있다. 과거에 보안 분석은 사람이 직접 코드를 살펴보거나 정적 분석 도구에 기대는 방식이었다. 그러나 이제는 대형언어모델(LLM) 기반의 AI 에이전트가 방대한 코드에서 여러 논리 결함을 엮어 공격 코드를 거꾸로 설계해 내는 수준까지 왔다. 이런 도구가 공격자 손에 들어가면 막기 더욱 어려워진다. 오픈AI도 분석 결과를 공개하면서 고성능 추론 모델이 취약점을 빨리 찾아내는 만큼 공격자가 악성 도구를 만드는 기간도 크게 줄일 수도 있다고 경고했다. 이번에는 연구진이 공격자보다 먼저 결함을 찾아내 패치 작업을 할 시간을 벌었다. 그러나 방어하는 쪽이 앞으로도 늘 한발 앞설 거라는 보장이 없으며 이번에도 이미 취약점을 파고든 공격이 없었으리라는 법이 없다. AI를 활용한 취약점 신고가 쏟아지면서 오픈소스 진영의 검증 부담도 커졌다. PHP 재단에 따르면 지난 7월 이후 AI 등을 이용해 접수된 허위·중복 신고 100여건을 걸러내느라 유지보수 인력이 대거 투입됐다. 패치가 나와도 현장 적용이 늦어지는 것은 고질적이면서도 더욱 큰 문제다. 기업이나 기관이 기존 시스템과의 호환성을 이유로 업데이트를 미루면 취약점은 그대로 남을 수밖에 없기 때문이다. 결국 방어하는 쪽이 아무리 빨리 결함을 찾아내더라도 보완 패치 업데이트가 늦으면 공격자는 오히려 알려진 결함을 파고들 수 있다. 한국인터넷진흥원(KISA)은 ‘PHP’에서 취약점이 발견됐다며 보안 업데이트를 권고했다. 특히 PHP 8.1 이하 버전은 이미 공식 보안 지원이 종료된 만큼 지원 중인 버전으로 업그레이드해야 한다고 강조했다. 미 국가안보국(NSA)은 소셜미디어 엑스(X)에서 “즉각적인 업데이트가 불가능하다면, 취약점이 완전히 해결될 때까지 해당 시스템을 오프라인 상태로 전환할 것을 권고한다”고 밝혔다. 과학기술정보통신부와 KISA는 21일 밤 사이버 위협정보 분석·공유 시스템(C-TAS) 회원사와 정보보호 최고책임자(CISO) 신고 의무 기업을 대상으로 PHP 취약점에 대한 보안 조치를 취할 것을 요청했다. C-TAS는 KISA가 운영하는 사이버 위협정보 분석·공유 시스템으로, 약 5900개 참여 기업과 기관이 사이버 위협 정보를 공유하는 체계다. 정보통신망법에 따라 정보보호 업무를 총괄하는 정보보호 최고책임자(CISO)를 지정해 과기정통부에 신고해야 하는 의무 기업은 현재 약 3만곳에 이른다. 정부는 사이버 위협 정보를 안내하는 포털인 ‘KISA 보호나라’를 통해서도 PHP 취약점에 대한 보안 업데이트와 패치 적용을 권고하는 공지를 했다.

지난 7일 전남 고흥 나로우주센터에서 발사된 누리호가 초소형군집위성 5기를 목표 궤도에 성공적으로 올려놓았다. 2022년 2차 발사 이후 4회 연속 성공이다. 이번 발사에서는 민간 기업의 역할이 눈에 띄게 커졌다. 한화에어로스페이스 인력 23명이 발사통제센터(LCC) 22개 콘솔 가운데 20개의 운용에 참여했다. 임무지휘센터와 발사대 등을 포함하면 한화 투입 인력은 4차 발사의 32명에서 이번에 42명으로 대폭 늘었다. 2022년 누리호 고도화사업 체계종합기업으로 선정된 한화에어로스페이스는 2032년까지 누리호를 직접 제작하고 발사할 수 있는 통상실시권도 확보한 상태다. 여기에 그치지 않는다. 한화에어로스페이스는 재사용발사체로 개발 방향이 바뀐 차세대발사체 사업의 체계종합기업이기도 하다. 지난달 30일에는 2028년 수직 이착륙 비행시험에 나설 ‘재사용 기술 시연체’의 총조립에 착수했다. 한화는 지난 7월 2040년까지 우주항공과 AI 산업에 총 55조원을 투자하는 중장기 전략을 발표했다. 세부적으로는 한화에어로스페이스가 약 23조원을 발사체에 투입해 독자적인 우주 수송능력을 확보하고, 한화시스템은 약 20조원을 들여 초저궤도 합성개구레이더(SAR) 위성과 우주 AI 데이터센터, 위성통신망을 구축한다. 이를 위해 한화에어로스페이스와 한화시스템은 10조원 이상을 투자해 경남 창원에 국방AI 데이터센터를 짓고, 2040년까지 약 2조원을 들여 전장 데이터를 학습·추론하는 국방AI 모델 ‘디펜스 OS’를 개발한다. 지난 8월에는 서울대와 손잡고 국방AI 연구 거점인 ‘한화 AI 프런티어관’ 건립 협약을 맺는 등 산학 연계도 강화하고 있다. AI가 내린 판단을 전장에서 최종 실행에 옮기는 것은 무인체계의 몫이다. 한화에어로스페이스는 지난달 AI 기반 원격사격통제 기능을 갖춘 다목적무인차량 ‘아리온스멧’ 양산 계약을 체결했다. 한화에어로스페이스 관계자는 “위성이 정보를 수집하고, AI가 이를 분석하며, 지상 및 해양 무인체계가 이를 실전에 활용하는 ‘육·해·공·우주 통합 방산 솔루션’을 완성할 계획”이라고 밝혔다.

국산 AI 반도체의 강자 퓨리오사AI, 대규모언어모델(LLM)의 대표주자 업스테이지, 클라우드 서비스 전문기업 오케스트로 클라우드. 여기에 서버와 데이터센터 인프라 전문기업까지 가세하며 국내 AI 산업의 핵심 기술 역량을 결집한 ‘소버린 AI 드림팀’이 탄생했다. 클라우드 서비스 전문기업 오케스트로 클라우드는 지난 16일 퓨리오사AI, 업스테이지, 에스피케이인크(SPK), 대원씨티에스와 ‘NPU 기반 소버린 AI 풀스택 상품 공동 개발’을 위한 업무협약(MOU)을 체결했다고 19일 밝혔다. 이번 협약은 AI 반도체, 모델, 클라우드, 인프라 등 각 영역의 국내 선도 기업들이 단일 통합 AI 인프라 제품 개발을 위해 의기투합했다는 점에서 큰 관심을 모으고 있다. 단순한 기술 협력을 넘어 각사의 핵심 역량을 결합한 단일 제품을 완성하고 공동 사업까지 전개하는 다방면의 협력이라는 점에서 남다른 의의를 지닌다. 5개사가 공동 개발할 ‘소버린 AI 풀스택 어플라이언스’는 AI 컴퓨팅부터 클라우드 인프라, 모델 추론, 운영·관리까지 하나의 환경에서 제공하는 통합 AI 인프라 상품이다. 기존에는 AI 서비스를 구축하기 위해 반도체와 서버, 클라우드 플랫폼, AI 모델 등을 개별적으로 도입하고 연계해야 했다면, 이번 협력은 이러한 핵심 요소를 하나의 상품으로 통합해 복잡하고 까다로웠던 AI 인프라 구축 과정을 획기적으로 간소화하는 데 초점을 맞췄다. 이를 통해 고객은 별도의 복잡한 준비 과정 없이도 AI 서비스를 쉽고 간편하게 도입·운영할 수 있게 된다. 특히 해외 GPU와 클라우드 기술에 대한 의존도를 낮추고 국내 기술을 중심으로 AI 인프라를 구현함으로써, 데이터와 AI 운영 환경에 대한 독립적인 통제권을 확보할 수 있다는 점도 강점이다. 공공기관과 기업은 AI 인프라 도입 및 운영 부담을 줄이는 동시에, 자체 환경에서 자율성과 확장성을 갖춘 AI 서비스를 구현할 수 있을 것으로 기대된다. 오케스트로 클라우드는 이번 협력에서 통합 AI 인프라 구현을 위한 클라우드 플랫폼을 제공하고 기술 검증을 총괄한다. 오케스트로의 서버 가상화 솔루션 ‘콘트라베이스(CONTRABASS)’와 Ceph 기반 소프트웨어 정의 스토리지(SDS) 환경에 퓨리오사AI의 신경망처리장치(NPU) ‘RNGD’, 업스테이지의 LLM ‘솔라(SOLAR)’를 결합해 AI 컴퓨팅 자원 관리부터 모델 추론까지 유기적으로 연결되는 통합 환경을 구현할 계획이다. 각 참여 기업의 역할도 명확하다. 오케스트로의 풀스택 AI 인프라 소프트웨어와 오케스트로 클라우드의 구축·운영 역량을 중심으로 각사의 핵심 기술이 결합된다. 퓨리오사AI는 국산 NPU ‘RNGD’를 통해 AI 추론에 필요한 컴퓨팅 기술을 제공하고, 업스테이지는 LLM ‘솔라’를 기반으로 AI 모델 및 추론 기술을 지원한다. SPK는 서버 인프라와 하드웨어 기술을, 대원씨티에스는 데이터센터와 네트워크 인프라를 담당한다. 이를 통해 AI 서비스 구현에 필요한 핵심 기술과 인프라를 아우르는 통합 상품 개발 체계를 갖추게 된다. 5개사는 이번 공동 개발로 다진 기술력과 체계적인 운영 기반을 활용해 소버린 AI 풀스택 어플라이언스를 본격 상용화할 계획이다. 이와 함께 도입부터 사후 기술 지원 및 운영을 아우르는 매니지드 서비스(Managed Service)를 구축해, 고객사들이 개별 솔루션 간 연동이나 관리 부담에서 벗어나 핵심 AI 서비스 역량에만 집중하도록 돕는다는 구상이다. 나아가 공공 및 민간 시장을 겨냥해 공동 영업, 마케팅, 개념검증(PoC), 벤치마크 테스트(BMT), 제안 활동 등 다각적인 사업 협력에 돌입한다. 오케스트로 클라우드는 이번 제휴를 발판 삼아 인프라 구축부터 토탈 운영·관리까지 아우르는 통합 서비스 영역을 넓히고, 국내 소버린 AI 생태계 내에서 주도권을 확고히 다진다는 방침이다. 박소아 오케스트로 클라우드 대표는 “AI 산업의 경쟁력은 개별 기술의 우수성을 넘어 이를 얼마나 완성도 높은 하나의 서비스로 구현하느냐에 달려 있다”며 “국내 AI 산업 각 분야의 핵심 기업들이 역량을 결집한 만큼, AI 컴퓨팅부터 모델 추론, 인프라 운영·관리까지 하나로 통합한 소버린 AI 풀스택 어플라이언스를 선보여 국내 AI 인프라 시장에 새로운 기준을 제시하겠다”고 말했다.

현재 인공지능(AI) 시장을 양분하는 것은 오픈 AI의 GPT 같은 폐쇄형 모델과 중국의 딥시크, Qwen 같은 공개 모델입니다. 성능 면에서는 여전히 미국의 프런티어 AI 모델이 좀 더 앞서가고 있지만, 중국 모델의 추격이 매우 거센 상태입니다. 특히 모델 가중치를 공개하는 중국 모델들은 전 세계 개인 사용자와 기업, 연구소가 다운로드해 널리 사용하고 있습니다. 이에 반해 미국산 오픈 모델들은 이에 견줄 만큼 파생 모델이 많지도 않고 허깅 페이스 같은 오픈 사이트에서 다운로드 횟수도 상대적으로 적은 편입니다. 그럼에도 구글의 젬마 4, 메타의 뮤즈 글리머, 엔비디아의 네모트론 등은 어느 정도 사용자를 확보하고 있습니다. 최근 엔비디아는 엔비디아 그래픽처리장치(GPU)에 최적화된 공개 모델인 ‘네모트론 3.5 슈퍼 VL’을 공개했습니다. 1200억개의 파라미터를 지닌 MoE(Mixture of Expert) 모델로 토큰 생성 시에는 10%인 120억개의 파라미터에 해당하는 전문가만 사용해 속도를 높인 모델입니다. 과거 공개한 네모트론 3 울트라(약 5500억 파라미터 중 550억개 활성화)와 비슷한 추론 능력을 더 작은 모델로 구현한 것으로 속도에 중점을 둔 것이 특징입니다. 다만 엔비디아가 공개한 벤치마크 자료를 보면 추론 성능 자체는 썩 좋은 편은 아닙니다. 비슷한 체급인 Qwen 3.8 플래시 넥스트와 비교해서 성능이 낮은 것은 물론 모델 크기가 4분의1도 되지 않는 Qwen 3.8 27B보다도 떨어집니다. 예를 들어 미국의 인공지능 평가·벤치마킹 기관인 Artificial Analysis(AA)에서 발표하는 AI 언어 모델(LLM)의 종합 성능 평가 지표인 AAII(Artificial Analysis Intelligence Index)에서 Qwen 3.8 플래시 넥스트는 40점, Qwen 3.8 27B는 34점을 기록한 데 비해 네모트론 3.5 슈퍼 VL은 28점 정도에 그쳤습니다. 하지만 속도를 기준으로 보면 이야기가 달라집니다. 엔비디아는 네모트론 3.5 슈퍼 VL이 동급 모델보다 5배는 빠르다고 주장하고 있습니다. 활성 파라미터가 120억개로 작아서 메모리·연산 효율이 우수하고 다중 토큰 예측(MTP) 기술과 블랙웰 이상 엔비디아 GPU에서 사용할 수 있는 NVFP4 양자화를 통해 속도를 최대한 끌어올린 덕분입니다. 또 모델의 기본 지능은 낮을지 몰라도 사후 훈련을 통해 성능을 끌어올릴 수 있는 여지가 커서 기업이나 공공기관, 연구소 등에서 내부 데이터를 밖으로 유출시키지 않고 목적에 맞는 모델을 만들 수 있습니다. 여기에 상대적으로 작은 크기와 빠른 속도를 지닌 만큼 시스템 구축 및 유지 비용을 절감할 수 있습니다. 엔비디아 네모트론의 또 다른 강점은 미국 모델이라는 것입니다. 현재 미국 내에서는 무료로 공개하는 중국산 모델에 대한 규제를 강화하려는 움직임이 진행되고 있습니다. 주요 기업이나 공공기관이 중국산 모델에 종속될 경우 보안상의 위험이 있고 현재는 무료로 공개하는 모델이 앞으로는 라이선스 조건을 바꿀 수도 있기 때문입니다. 엔비디아 네모트론은 미국산 모델이고 엔비디아가 꾸준히 업데이트를 하고 있어 이런 위험에서 자유로운 편입니다. 엔비디아의 사업 모델은 AI 하드웨어를 파는 것이기 때문에 CUDA처럼 소프트웨어는 계속 무료로 배포할 가능성이 큽니다. 다만 최신 프런티어 AI 모델과 이를 추격하는 중국산 고성능 오픈 모델 덕분에 눈높이가 높아진 사용자들을 만족시키기에는 성능이 다소 아쉬운 것이 사실입니다. 앞으로 후속 모델을 통해 속도뿐 아니라 성능까지 끌어올려야 네모트론이 경쟁이 치열한 오픈 모델 시장에서 존재감을 높여 나갈 수 있을 것입니다.

AI 활용이 기업의 필수 과제로 자리 잡으면서, 가상화 인프라 전환을 바라보는 기업들의 시각도 달라지고 있다. 오케스트로가 실시한 설문조사에서도 이러한 변화가 확인됐다. 지난 4월 조사에서는 안정적인 인프라 전환에 관심이 집중됐다면, 9월 조사에서는 AI 활용과 향후 비즈니스 확장까지 고려한 인프라 확장성이 핵심 선택 기준으로 떠올랐다. AI 인프라 소프트웨어 분야의 선두 주자인 오케스트로(김범재·김영광 공동대표)가 지난 9월 공공기관과 민간 기업의 IT 실무자 1만 3541명을 대상으로 진행한 ‘VM웨어 전환 및 가상화 운영 실태 조사’의 상세 결과를 16일 전격 공개했다. 올해 4월 진행된 초기 조사 당시에는 응답자의 37%가 ‘성능 및 안정성’을 가상화 인프라 도입의 가장 핵심적인 기준으로 꼽은 바 있다. 그러나 이번 하반기 조사에서는 무려 70%에 달하는 응답자가 ‘인프라 확장성’을 최우선 솔루션 선택 요건으로 지목해 뚜렷한 인식 변화를 드러냈으며, 이는 단순한 기존 인프라의 안정적 대체라는 차원을 넘어 향후 업무의 급격한 팽창과 유연한 시스템 운영 능력이 기업들의 실질적인 최우선 과제로 대두되었음을 명백히 입증하고 있다. 이번 조사에서 전체 응답자의 62%는 가상화 환경 전환을 검토하거나 계획·진행 중이라고 답했다. 전환을 검토하는 주요 이유는 ‘라이선스 및 유지보수 비용 증가(57%)’였지만, 실제 솔루션 선택에서는 ‘인프라 확장성(70%)’이 ‘도입·운영 비용(20%)’을 크게 앞섰다. 확장성을 중시하는 이유로는 ‘업무 확대에 따른 컴퓨팅 자원 확충(65%)’이 가장 높았으며 ▲중장기 인프라 운영의 유연성 확보(46%) ▲AI·클라우드 환경으로의 확장(41%)이 뒤를 이었다. 기술 요건에서도 ‘기존 업무와 신규 워크로드의 병행 운영(68%)’과 ‘기존 서버·스토리지 환경과의 호환성(61%)’이 높은 응답을 얻었다. 향후 인프라 고도화 방향으로는 ▲멀티·하이브리드 클라우드 통합 운영(42%) ▲AI 인프라·GPU 운영 환경(35%) ▲쿠버네티스 기반 클라우드 네이티브 환경(31%) 등이 꼽혔다. 가상화 인프라의 역할이 기존 시스템 운영을 넘어 멀티클라우드와 AI 인프라까지 확대되는 흐름이다. 오케스트로는 서버 가상화 솔루션 ‘콘트라베이스(CONTRABASS)’를 앞세워 급변하는 시장의 요구사항에 적극적으로 대응하고 있다. 해당 솔루션은 기존에 구축되어 있는 서버와 스토리지 인프라를 그대로 활용하면서도, 무중단 상태로 컴퓨팅 자원을 유연하게 확장할 수 있는 장점을 지닌다. 아울러 지능형 자동화 자원 관리와 전문적인 GPU 자원 제어 기능을 탑재하여, 전통적인 기존 업무 시스템부터 최신 인공지능(AI) 워크로드에 이르는 다양한 영역을 안정적으로 포용할 수 있도록 돕는다. 이와 더불어 체계적인 통합 모니터링 체계와 고도화된 장애 원인 분석 기능을 제공함으로써, 인프라의 폭넓은 확장성과 흔들림 없는 운영 안정성을 동시에 달성할 수 있도록 뒷받침한다. 아울러 쿠버네티스 기반 클라우드 네이티브 플랫폼 ‘비올라(VIOLA)’와 멀티·하이브리드 클라우드 관리 플랫폼 ‘오케스트로 CMP(OKESTRO CMP)’를 통해 컨테이너 기반 신규 서비스 운영과 이기종 클라우드 환경의 통합 관리를 지원한다. AI 추론 운영 플랫폼 ‘콘체르토 AI(CONCERTO A.I.)’는 분산 서빙 기반의 추론 최적화와 GPU·NPU 자원 배분을 통해 AI 서비스의 응답 지연을 줄이고 인프라 활용 효율을 높인다. 이를 통해 기존 가상화 인프라의 안정적인 전환부터 클라우드 네이티브 및 AI 인프라 환경으로의 확장까지 대응할 수 있는 기술 체계를 갖추고 있다. 오케스트로 김범재 대표는 “기업의 IT 인프라는 더 이상 현재의 업무를 유지하기 위한 기반에 머무르지 않고, 비즈니스 성장과 새로운 기술 혁신을 뒷받침하는 핵심 경쟁력으로 진화하고 있다”며 “오케스트로의 AI 인프라 풀스택은 고객이 특정 벤더나 기술에 종속되지 않고 가상화 환경을 클라우드와 AI 영역까지 유연하게 확장할 수 있도록 기술적 선택의 폭을 넓혀 줄 것”이라고 말했다.

인공지능(AI) 고도화로 사람이 직접 로봇을 조종하지 않고도 휴머노이드 로봇을 학습시킬 수 있게 됐다. 사람이 동작을 일일이 입력해야 해 시간과 비용이 많이 들던 과거와 달리 로봇 훈련의 속도와 방식이 빠르게 변하는 모습이다. 15일 구글 딥마인드 유튜브에 따르면 구글 로봇 연구원들은 내부 테스트 과정에서 ‘제미나이 4 아르곤’(아르곤)을 활용해 ‘앱트로닉’사의 휴머노이드에 콘홀(모래주머니 던지기) 게임을 가르쳤다. 사람이 콘홀 게임을 하는 영상을 아르곤에게 보여주자 아르곤은 영상 속 사람의 움직임과 주변 환경을 분석해 로봇 훈련용 가상환경을 구축했다. 아르곤은 4단계의 훈련 과정을 거쳤다. 먼저 사람이 모래주머니를 던지는 영상에서 팔의 스윙 동작을 추적해 로봇의 관절과 손에 적용했다. 카메라를 이용해 목표 지점의 정확한 3차원(3D) 위치를 측정한 뒤 시뮬레이션을 통해 던지는 동작을 연습했다. 로한 타커 구글 딥마인드 엔지니어는 “아르곤은 영상 분석을 통해 무엇이 잘못됐는지 추론하고 오차 범위를 좁혀 나갔다”며 “스스로의 경험을 통해 배워나가는 모습”이라고 말했다. 사람이 움직이는 영상을 AI가 분석해 로봇에 적용하면서 로봇 학습에 드는 시간과 비용, 자원은 획기적으로 줄고 있다. 엔비디아는 ‘아이작 그루트 N1’을 개발해 실제 로봇 대신 가상환경에서 11시간 만에 75만개 이상의 합성 동작 데이터를 생성했다. 사람이 직접 로봇을 조작해 수집할 경우 약 6500시간, 9개월에 해당하는 데이터다. UC버클리 연구진은 지난해 가상공간에서 수천 대의 휴머노이드 시뮬레이션을 동시에 작동시켜 약 15분 만에 보행 동작을 훈련시키는 방안을 공개했다.

인공지능(AI) 고도화로 사람이 직접 로봇을 조종하지 않고도 휴머노이드 로봇을 학습시킬 수 있게 됐다. 사람이 동작을 일일이 입력해야 해 시간과 비용이 많이 들던 과거와 달리 로봇 훈련의 속도와 방식이 빠르게 변하는 모습이다. 15일 구글 딥마인드 유튜브에 따르면 구글 로봇 연구원들은 내부 테스트 과정에서 ‘제미나이 4 아르곤’(아르곤)을 활용해 ‘앱트로닉’사의 휴머노이드에 콘홀(모래주머니 던지기) 게임을 가르쳤다. 사람이 콘홀 게임을 하는 영상을 아르곤에게 보여주자 아르곤은 영상 속 사람의 움직임과 주변 환경을 분석해 로봇 훈련용 가상환경을 구축했다. 아르곤은 4단계의 훈련 과정을 거쳤다. 먼저 사람이 모래주머니를 던지는 영상에서 팔의 스윙 동작을 추적해 로봇의 관절과 손에 적용했다. 카메라를 이용해 목표 지점의 정확한 3차원(3D) 위치를 측정한 뒤 시뮬레이션을 통해 던지는 동작을 연습했다. 로한 타커 구글 딥마인드 엔지니어는 “아르곤은 영상 분석을 통해 무엇이 잘못됐는지 추론하고 오차 범위를 좁혀 나갔다”며 “스스로의 경험을 통해 배워나가는 모습”이라고 말했다. 사람이 움직이는 영상을 AI가 분석해 로봇에 적용하면서 로봇 학습에 드는 시간과 비용, 자원은 획기적으로 줄고 있다. 엔비디아는 ‘아이작 그루트 N1’을 개발해 실제 로봇 대신 가상환경에서 11시간 만에 75만개 이상의 합성 동작 데이터를 생성했다. 사람이 직접 로봇을 조작해 수집할 경우 약 6500시간, 9개월에 해당하는 데이터다. UC버클리 연구진은 지난해 가상공간에서 수천 대의 휴머노이드 시뮬레이션을 동시에 작동시켜 약 15분 만에 보행 동작을 훈련시키는 방안을 공개했다.

현재 인공지능(AI) 그래픽처리장치(GPU) 시장 대부분은 엔비디아가 장악한 가운데, AMD가 도전장을 내밀고 있는 상황입니다. 하지만 도전자는 여기에 그치지 않습니다. 구글은 자체 AI 가속기인 ‘TPU’를 사용하고 있고, 제재로 인해 미국에서 AI 칩 수입이 금지된 중국에서는 화웨이의 ‘어센드’ 시리즈나 알리바바의 ‘젠우 V900’ 같은 자체 AI 가속기들이 등장하고 있습니다. 그런데 몇 년 전부터 AI 가속기 시장을 노려온 인텔은 아직 큰 성과를 내지 못하는 상황입니다. 하지만 포기하지 않고 엔비디아·AMD의 최고 성능 카드와 정면 승부를 하기보다, ‘용량과 효율’이라는 틈새를 공략하는 전략으로 시장에 새롭게 도전하고 있습니다. 인텔은 지난 12일 OCP 글로벌 서밋에서 ‘크레센트 아일랜드’(Crescent Island)를 공개하고 이를 이용한 첫 번째 PCIe AI 가속기인 ‘D270’을 공개했습니다. 이 칩은 Xe3P 아키텍처 기반의 추론 전용 데이터센터 GPU로, 학습용 가속기가 아닌 배포된 AI 모델 서비스에 특화되어 있습니다. D270의 특징은 성능보다 낮은 전력 소모와 비용에 초점을 맞췄다는 데 있습니다. D270은 총 32개의 Xe3P 코어를 지니고 있는데, 이는 노트북용 CPU인 팬서 레이크에 탑재된 Xe 코어의 AI 강화 버전입니다. Xe 코어는 8개의 벡터 엔진과 8개의 XMX 엔진을 탑재했는데 내장 그래픽 버전에 따라 4코어와 12코어 제품으로 나뉩니다. D270의 Xe3P 역시 코어당 8개의 XMX 매트릭스 엔진을 탑재해 총 256개의 XMX 엔진을 지니고 있습니다. 숫자로 보면 노트북용 그래픽 엔진의 최대 3배를 넘지 못하는 수준으로 연산 성능 역시 FP8 기준 1.3 PFLOPS 수준에 불과합니다. 여기에 메모리 역시 LPDDR5x를 사용해 대역폭이 1.5TB/s 수준으로 엔비디아의 베라 루빈 같은 최신 칩(최대 22TB/s)에 미치지 못합니다. 따라서 D270은 모델을 훈련시키거나 토큰을 빠르게 생성하는 작업에는 불리합니다. 절대적인 연산 능력도 낮고, 토큰 생성(디코드)에 가장 중요한 메모리 대역폭도 RTX 5090 같은 고성능 소비자용 그래픽 카드보다 낮기 때문입니다. 그러나 요즘 강조되는 에이전틱 AI에서는 상황이 다릅니다. 에이전틱 AI는 한 번의 질문-답변으로 끝나는 것이 아니라, 여러 단계에 걸쳐 도구를 호출하고, 중간 결과를 기억하며, 긴 컨텍스트를 유지해야 합니다. 이 과정에서 KV 캐시(이전 토큰의 키-값 정보를 저장하는 메모리)가 급격히 커집니다. 수십만~수백만 토큰의 컨텍스트를 유지하거나 여러 에이전트를 동시에 운영하면, 메모리 용량이 대역폭보다 더 큰 병목이 됩니다. D270은 160GB에서 최대 480GB까지 LPDDR5X를 탑재해, 단일 카드에 큰 모델과 긴 컨텍스트, 다중 세션의 KV 캐시를 한꺼번에 올릴 수 있습니다. 이는 HBM 기반 고성능 GPU에서 자주 발생하는 캐시 오프로드나 재계산을 크게 줄여 줍니다. 또한 350W의 낮은 전력과 공랭 설계 덕분에 24시간 365일 서비스를 운영할 때 전력·냉각 비용 측면에서도 유리합니다. 인텔이 직접 “에이전틱 AI가 준비됐다”고 강조하며 ‘고용량 메모리와 지속 가능한 연산 성능’을 핵심으로 내세운 이유도 여기에 있습니다. 그리고 비싼 HBM4 메모리나 이보다 저렴해도 상대적으로 비싼 GDDR7 대신 LPDDR5x처럼 대중적인 메모리를 이용했기 때문에 가격이 저렴할 것으로 예상됩니다. 여기에 PCIe 규격의 공랭식 카드라는 장점을 감안하면 D270은 큰 AI 모델을 워크스테이션에서 돌리는 개인 전문가나 적은 비용으로 자체 시스템을 구축하고 싶은 소규모 기업에서 유리한 제품으로 생각됩니다. 인텔은 현재 D270의 고객사 샘플링이 진행 중이라고 밝혔기 때문에 정식 출시는 내년으로 예상됩니다. 인텔의 주장처럼 에이전틱 AI에서 강한 경쟁력을 지닌 제품인지는 정식 출시 후 분명하게 드러날 것으로 보입니다.

삼성전자와 SK하이닉스가 인공지능(AI) 시대를 맞아 메모리 ‘속도’뿐만 아니라 AI가 사용할 수 있는 메모리 용량을 늘리는 ‘확장성’ 경쟁에 나선다. AI 에이전트의 확산으로 추론 과정에서 처리해야 할 데이터가 늘면서 이에 대응할 신기술이 필요해졌기 때문이다. 심호준 삼성전자 DS부문 메모리사업부 AE팀 상무는 12일(현지시간) 미국 캘리포니아주 새너제이컨벤션센터에서 열린 ‘OCP(오픈 컴퓨트 프로젝트) 글로벌 서밋’에서 확장성과 속도, 영속성에 초점을 맞춘 새 메모리 전략을 공개했다. 확장성 측면에서 삼성전자는 이날 미국 반도체 AMD와 차세대 기술인 컴퓨트익스프레스링크(CXL) 기반 메모리 확장 솔루션을 공동 시연했다. CXL은 연산을 담당하는 중앙처리장치(CPU)·AI 가속기와 메모리를 효율적으로 연결해 데이터센터의 메모리 용량을 유연하게 확장하고, 공유하는 기술이다. AI 모델이 대형화하고 추론 과정에서 처리해야 할 데이터 등이 증가하면서 메모리 용량 확장과 데이터 저장·관리 기술이 중요해지고 있다는 설명이다. 속도 측면에서 삼성전자는 차세대 고대역폭메모리(HBM5)뿐만 아니라 고객 맞춤형 HBM 개발을 추진하고 있다고 밝혔다. 연산 칩 위에 메모리를 쌓는 기술과 메모리 내부에서 일부 연산을 처리하는 기술(PIM)도 준비 중이다. 데이터 영속성 측면에서는 차세대 기업용 솔리드스테이트드라이브(SSD) 등 최신 저장장치 기술을 통해 대규모 AI 데이터를 더 빠르고 많이 저장하는 데 주력하고 있다. 김호식 SK하이닉스 부사장도 이날 같은 행사에서 ‘메모리 중심 AI 랙 시스템(MARS)’ 구상을 밝혔다. CPU·GPU 중심의 기존 시스템을 메모리 중심으로 재설계하는 구상이다. 메모리에서 데이터를 공급하는 속도가 처리 속도를 따라가지 못하는 이른바 ‘메모리 장벽’ 문제가 발생하는 데 대한 대응이다. 데이터 복사 없이 메모리를 공유해 데이터 이동에 드는 시간과 자원을 줄일 수 있을 것으로 기대하고 있다.

인공지능(AI) 열풍이 다소 소강 상태에 접어들며 증시가 혼조세를 보이는 가운데, 월가 증권사들이 지난주 마이크로소프트(MS)와 팔란티어, 마벨 테크놀로지를 ‘매수 추천’ 종목으로 제안해 투자자들의 이목을 끌고 있습니다. 미국 투자 전문 매체 모틀리풀은 11일(현지시간) 월가에서 최근 투자의견이 오른 기술주 세 종목을 소개했습니다. 투자의견 상향이란 증권사 분석가가 어떤 회사의 주식을 ‘보유’에서 ‘매수’로 바꿔 권한다는 뜻입니다. 올해 들어 마벨의 주가는 224%나 뛰었고, 팔란티어는 17% 올랐습니다. 반면 MS는 미국 대표 주가지수인 스탠더드앤드푸어스(S＆P)500의 상승률(14%)을 따라잡지 못했습니다. 마이크로소프트멜리어스 리서치의 벤 라이츠스 분석가는 지난 5일 마이크로소프트의 투자의견을 ‘보유’에서 ‘매수’로 올렸습니다. 목표주가는 665달러(약 89만원)로, 현재 주가보다 약 25% 더 오를 수 있다고 내다본 셈입니다. 그가 눈여겨본 분야는 보안입니다. 사람 대신 일을 처리하는 AI 에이전트가 늘수록 안전 문제에 대한 걱정도 커지는데, 마이크로소프트가 여기서 이득을 볼 것이라는 분석입니다. 사티아 나델라 최고경영자(CEO)는 지난 7월 실적 발표에서 AI 에이전트까지 보안 도구로 지켜 주는 ‘에이전트 365’의 강점을 강조했습니다. 이 플랫폼에는 벌써 4000만개 가까운 에이전트가 등록됐습니다. 마이크로소프트 AI 서비스의 뼈대인 클라우드 ‘애저’도 순항하고 있습니다. 지난 6월 끝난 2026 회계연도 4분기에 애저를 비롯한 클라우드 매출은 1년 전보다 43% 늘었습니다. 다만 걸림돌도 있습니다. 성장 속도가 데이터센터를 얼마나 빨리 늘리느냐에 달려 있는데, 여기에는 막대한 돈이 들어 이익률을 깎아 먹을 수 있습니다. 그럼에도 모틀리풀은 사업이 꾸준히 커진다면 1년 안에 목표주가에 닿는 것도 충분히 가능하다고 봤습니다. 팔란티어골드만삭스의 가브리엘라 보르헤스 분석가는 지난 8일 팔란티어의 투자의견을 ‘중립’에서 ‘매수’로 높이고 목표주가 230달러(약 31만원)를 제시했습니다. 현재보다 약 10% 높은 가격입니다. 팔란티어 주가는 최근 석 달 동안 약 65% 치솟았습니다. 그런데도 분석가는 자기 데이터와 AI 모델을 직접 관리하려는 기업이 늘면서 주가가 더 오를 여지가 있다고 판단했습니다. 기업마다 맞춤형 프로그램을 만들어 주는 팔란티어에 일감이 몰릴 것이라는 계산입니다. 회사는 올해 매출이 지난해보다 82% 증가한 81억 달러(약 10조 8410억원)에 달할 것으로 전망했습니다. 시장 역시 향후 이 회사의 이익이 매년 53%씩 급성잘할 것으로 내다보고 있습니다. 문제는 높은 밸류에이션입니다. 현재 주가수익비율(PER)이 123배에 달해, 단기간 내에는 목표주가에 도달하기 어려울 수 있다는 관측도 나옵니다. 마벨TD코웬의 숀 올로플린 분석가는 지난 7일 마벨의 투자의견을 ‘보유’에서 ‘매수’로 바꾸고 목표주가를 350달러(약 47만원)로 잡았습니다. 현재 주가보다 약 27% 높은 수준입니다. 이번 상향은 6일 열린 마벨의 투자자의 날 행사 직후에 나왔습니다. 이 자리에서 경영진은 AI 데이터센터 안에서 데이터를 실어 나르는 칩과 광학 장비, 즉 ‘연결 사업’이 빠르게 성장하고 있다고 강조했습니다. 매트 머피 최고경영자(CEO)는 행사에서 2028 회계연도 매출 전망치를 약 200억 달러(약 26조 7669억원)로 끌어올렸습니다. 그는 AI 활용의 중심이 모델을 가르치는 ‘훈련’에서 실제로 답을 내놓는 ‘추론’과 에이전트로 옮겨 가면서 연결 장비 수요가 더 커질 것이라고 설명했습니다. 광학 장비 분야는 이미 성장에 속도가 붙었다며 분석가의 판단에 힘을 실었습니다.

인공지능(AI) 인프라에 천문학적인 자금을 쏟아붓고 있는 빅테크들이 반도체의 연산 효율을 높이는 기술 확보에 속도를 내고 있다. AI 서비스가 빠르게 확산하면서 값비싼 반도체를 추가로 사들이는 것 못지않게 기존 장비의 처리량을 높여 운영비를 낮추는 일이 중요해졌기 때문이다. 미국 월스트리트저널(WSJ)은 11일(현지시간) 아마존이 이스라엘계 AI 스타트업 데카르트를 약 70억 달러(약 10조원)에 인수하는 방안을 논의하고 있다고 보도했다. 앞서 엔비디아가 인수 협상을 벌였고 앤트로픽도 약 60억 달러에 인수를 검토했으나 지난달 실사 이후 협상을 중단했다. 구글과 스페이스X도 잠재적 인수 후보로 거론됐다. 2023년 설립된 데카르트의 기업 가치는 지난 5월 약 40억 달러에서 5개월 만에 70억 달러 수준으로 높아졌다. 데카르트는 실시간 영상 생성 AI와 이를 빠르게 구동하는 최적화 기술을 개발한다. AI 모델은 대체로 엔비디아의 그래픽처리장치(GPU)를 중심으로 개발되지만, 아마존과 구글 등은 비용을 줄이고 엔비디아 의존도를 낮추기 위해 자체 반도체를 키우고 있다. 문제는 반도체를 바꾼다고 기존 AI 모델이 곧바로 같은 성능을 내는 것은 아니라는 점이다. 장비에 맞게 프로그램을 수정하고 연산 과정을 조정해야 한다. 데카르트는 아마존과의 협력에서 이 같은 최적화 기술을 선보였다. 아마존의 자체 AI 반도체 트레이니엄3를 이용해 실시간 영상 생성 모델을 구동한 결과, 아마존웹서비스(AWS)가 공개한 초기 시험에서 GPU 대비 영상 처리량은 최대 4배 높았고 비용 효율은 2배 개선됐다. 아마존이 데카르트를 인수하면 영상 생성 AI 기술과 함께 자체 반도체를 활용할 소프트웨어 역량도 확보할 수 있다. 다만 인수 협상은 아직 진행 중이며 구체적인 거래 조건은 확정되지 않았다. 연산 효율을 높이는 기술은 AI 서비스의 수익성과 직결된다. 이용자에게 답변이나 영상을 생성해 줄 때마다 반도체 연산이 필요하기 때문이다. 같은 장비로 더 많은 요청을 처리하면 추가 투자 부담을 줄이면서 서비스 규모를 키울 수 있다. AI 소프트웨어 기업 모듈러는 다양한 반도체에서 AI 프로그램을 구동하기 쉽게 만드는 기술을 개발하고 있다. 래딕스아크는 추론 과정의 연산과 메모리 사용을 줄이고, 베이스텐과 파이어웍스 AI는 여러 GPU에 작업을 효율적으로 배분하는 서비스를 제공한다. 국내 AI 인프라 기업 망고부스트도 12일 서울 강남구에서 기자간담회를 열고 AI 추론 플랫폼 ‘망고 인퍼런스’를 공개했다. 기업과 개발자가 GPU 서버를 구축하지 않고 AI 모델을 이용할 수 있는 서비스다. 망고부스트는 AMD의 GPU에 자체 개발한 네트워크 장비와 추론 소프트웨어를 결합했다. 연산장치와 저장장치에서 GPU로 데이터가 이동하는 과정을 개선해 처리 속도를 높이고 비용을 낮추는 구상이다.

SK하이닉스의 미국 손자회사 솔리다임이 골드만삭스와 모건스탠리를 대표 주관사로 선정한 것으로 알려졌다. 미국 증시 기업공개(IPO) 준비가 본격화하는 셈이다. 인공지능(AI) 데이터센터 확산으로 기업용 솔리드스테이트드라이브(eSSD)가 각광을 받는 가운데, 별도 상장이 SK하이닉스의 자금 조달과 기존 주주가치에 어떤 영향을 미칠지가 관건이다. 블룸버그는 복수의 소식통을 인용해 솔리다임이 골드만삭스와 모건스탠리를 IPO 대표 주관사로 선정했다고 7일(현지시간) 보도했다. JP모건체이스, 씨티그룹, UBS도 주관사단에 합류했다. 공모 규모는 약 100억 달러(약 13조 6000억원), 기업가치는 최대 1000억 달러(약 136조원) 정도로 거론된다. 2023년 미국 증시에 상장한 반도체 설계업체 Arm이 약 545억 달러의 평가를 받은 점을 고려하면 상당한 규모다. 솔리다임은 SK하이닉스가 2021년 인텔의 낸드플래시·솔리드스테이트드라이브(SSD) 사업을 약 90억 달러에 인수해 출범시켰다. SSD는 반도체에 데이터를 저장하는 장치로, 서버와 데이터센터용 제품을 기업용 SSD(eSSD)라고 한다. 한때 낸드 업황 부진으로 실적 부담이 컸지만 AI 학습·추론 과정에서 처리하는 데이터가 급증하면서 대용량 eSSD 수요가 빠르게 늘었다. 기업가치도 높아지면서 IPO를 통한 투자재원 확보도 선택지로 부상했다. 일부 지분만 매각해도 생산설비와 연구개발에 필요한 대규모 자금을 마련할 수 있고, HBM과 D램·낸드에 투자를 이어가는 SK하이닉스의 재정 부담도 덜 수 있다. 현재 중국 다롄에 공장이 있는 솔리다임은 미국 내 낸드 생산시설 건설을 검토하고 있다. SK하이닉스가 자체 자금으로 전액 투자하면 경제적 이익도 온전히 가져갈 수 있지만, 투자 실패에 따른 위험도 대부분 홀로 부담해야 한다. 반면 솔리다임이 미국 증시에서 자금을 조달하면 향후 이익 일부를 외부 주주와 나누는 한편 투자 위험도 분담할 수 있다. 반면 외부 주주가 들어오면 SK하이닉스 측의 경제적 지분이 낮아질 수 있다. 현재 솔리다임의 실적과 성장가치가 SK하이닉스에 반영되는 만큼 향후 이익과 가치 상승분 일부가 새 주주에게 돌아갈 수 있다. 또 SK㈜, SK스퀘어, SK하이닉스에 이어 솔리다임도 별도 상장할 경우 지배구조상 상장사가 여러 단계로 중첩되면서 모회사 주주가치가 희석될 수 있다는 우려도 나온다. 다만 솔리다임은 SK하이닉스 내부 사업을 물적분할해 만든 회사가 아니라 인텔에서 인수한 낸드·SSD 사업을 기반으로 출범했다. 외부 자금으로 사업을 확대해 기업가치가 높아지면 SK하이닉스가 보유한 지분 가치가 함께 커질 가능성도 있다. 결국 신주·구주 비중과 상장 후 지분율, 조달자금의 사용처가 주주가치에 미칠 영향을 좌우하게 된다. SK하이닉스는 “구체적으로 확정된 계획은 없다”고 밝혔다. 지난 1일에는 “기존 주주에게 미치는 전체적인 경제적 영향”을 살피겠다며 장기 기업가치와 주주가치를 판단 기준으로 제시했다.

페르소나에이아이(페르소나AI, 대표 유승재)가 10월 6일 국가AI대상을 수상했다고 밝혔다. 회사는 포용성·신뢰성·안전성·보안성의 네 가지 통제 체계를 하나의 플랫폼에서 통합 제공하는 자사 플랫폼 ‘GEN STATION’이 높이 평가된 결과라고 설명하며, 이를 움직이는 네 가지 핵심 엔진의 기술 성과를 공개했다. 최근 몇 년 사이 국내 AI 시장의 화두는 ‘에이전트’로 옮겨갔다. 그러나 대부분의 논의는 어떤 거대언어모델(LLM)을 쓰느냐에 머문다. 페르소나AI의 기술 체계는 다른 전제에서 출발한다. 에이전트의 성능은 모델이 아니라, 기업 안에 흩어진 정보가 얼마나 정확하게 ‘지식’으로 바뀌어 있는지에서 갈린다는 것이다. 네 가지 엔진은 이 전제에 따라 배치됐다. 출발점은 음성지식이다. 상담과 회의, 현장의 말은 기업에서 가장 많이 발생하지만 가장 적게 축적되는 데이터다. 페르소나AI의 ‘음성 지식화 엔진’은 한국어 인식 정확도 95.23%(TTA V＆V 공인시험 실측)를 확보했다. 학습에는 한국어 음성 7만4,887시간과 경상·강원·전라·제주·충청 5대 권역 사투리 5만시간이 투입됐다. 회사는 사투리 학습으로 기존 기술 대비 인식 성능이 약 42% 향상됐다고 밝혔다. 이 수치에서 실무적으로 더 중요한 것은 두 가지다. 화자분리 지연이 1초 이내라는 점, 그리고 한 채널에서 최대 20명까지 화자를 분리·프로파일링한다는 점이다. 국내 화자분리 기술이 통상 8명 수준에 머문다는 점을 고려하면 앞선 성능이다. 대부분의 음성 기술이 녹음이 끝난 뒤 일괄 처리(배치) 방식으로 화자를 나누는 것과 달리, 실시간 스트리밍 상태에서 화자를 가른다는 점도 차별점이다. 지식축적이 실시간으로 이뤄져 AI가 과거 데이터가 아닌 현재 데이터를 바로 처리할 수 있다는 취지다. 회사가 이 지표를 강조하는 이유는 명확하다. 화자가 분리되고 문장이 정제돼야 대화가 끝나는 즉시 내용 검색, 자동 요약, 액션아이템 추출, 감성 분석이 가능한 구조화 데이터로 남기 때문이다. 음성인식을 서비스의 출력이 아니라 지식자산의 입력으로 쓰는 설계다. 경쟁 구도 역시 이 지점에서 갈린다. 글로벌 SaaS 음성 API는 대부분 폐쇄망 반입이 어려워 금융·공공의 데이터 주권 요건을 충족하지 못한다는 설명이다. 음성과 문서에서 뽑아낸 정보는 ‘신뢰성 온톨로지-RAG 엔진’으로 넘어간다. 멀티 에이전트가 업무 규칙과 제약조건을 반영해 스키마를 설계하고, 클래스·속성·트리플을 생성한 뒤, 문법·논리 일관성·질의 응답 가능성·원문 근거 일치·중복·모델링 규칙의 6개 기준을 통과한 것만 지식원으로 승격시킨다. 정량 결과는 세 가지다. 온톨로지 자동 구축 정확도는 전문가 검수 기준 85%, TTA에서 측정한 V＆V 테스트 결과 92%를 나타냈다. 전체 구축 공수의 절반 이상을 차지하는 지식 획득·개념화·형식 모델링·1차 검증 구간은 80%가 자동화됐다. 동일 테스트셋 기준 RAG 응답 오류율은 6.9%에서 4.3%로 38% 줄었고, 정확도로 환산하면 93.1%에서 95.7%로 개선됐다. 이 영역의 성능은 외부 기준으로도 확인됐다. 회사는 2024년 NeurIPS에 발표된 온톨로지 자동 학습 연구(OLLM)가 공개한 평가셋과 지표를 그대로 사용한 공인시험에서, Wikipedia·arXiv 두 도메인의 4개 지표 총 8개 항목 모두 논문 보고치를 상회했다고 밝혔다. 그래프 구조 유사도를 보는 Motif Distance는 arXiv 도메인에서 59.5% 개선됐다. 이 엔진이 해결하는 것은 최근 기술의 한계로 꼽히는 ‘자동이지만 검증이 없는’ 그래프 RAG 계열과 ‘엄밀하지만 수작업’인 전통 온톨로지 도구 사이의 공백이다. 이 기술은 규제가 엄격한 산업군의 대기업에서 상용 검증을 마쳤다. 앞선 두 엔진이 만든 지식자산 위에서 실제 업무를 수행하는 것이 ‘검증된 워크플로 중심 에이전트 빌더’다. 구조는 세 단계다. 가용 도구와 데이터 자산을 먼저 확인해 실행 불가능한 계획을 계획 단계에서 차단하고(Gap-aware Planner), 자연어 요구사항을 선언적 워크플로로 구성한 뒤(N2F, NL-to-Flow), 의미(LLM)·타입(JSON 스키마)·그래프 구조(DAG)의 3계층 검증을 통과한 워크플로만 배포한다. 이에 대한 효율 차이는 숫자로 드러난다. 동일한 온프레미스 모델과 동일 요구사항 기준으로 워크플로 하나를 생성하는 데 LLM 호출은 3회, 소요 시간은 6.3초였다. 같은 조건에서 대표적인 자동화 도구는 호출 35회를 기록했다. 회사는 생성 시간 44배 단축, 토큰 42.6배와 추론 비용 38.6배 절감으로 측정했다고 밝혔다. GPU 자원이 제한된 폐쇄망에서는 이 차이가 곧 처리량으로 이어진다. 에이전트의 도구 호출 정확도 역시 외부 기준과 대조됐다. 함수 호출 성능의 국제 벤치마크인 Berkeley Function Calling Leaderboard v4의 다중턴 카테고리 200건 전수 시험에서 70.5%를 기록해, 2025년 ICLR 논문(ToolACE)이 보고한 50.00%보다 20.5%포인트 높았다. 형식이 맞는지가 아니라 호출을 실제 실행한 뒤 최종 시스템 상태가 정답과 일치하는지를 판정한 결과다. 마지막 ‘지식축적형 자가진화 엔진’은 운영 이후를 담당한다. 이 엔진은 관측·진단을 맡는 에이전트와 처방·생성을 맡는 에이전트, 이 두 개의 30B급 모델로 구성된다. 핵심은 모델 가중치를 바꾸지 않는다는 점이다. 개선은 프롬프트·검색 전략·워크플로의 설정 계층에서 완결된다. 이 설계가 겨냥하는 것은 규제 산업의 구조적 딜레마다. 재학습으로 모델을 개선하면 이미 승인받은 모델의 검증 결과가 무효화돼 개선할수록 재검증 비용이 늘어난다. 폐쇄망에는 학습 인프라 자체가 없는 경우도 많다. 가중치를 건드리지 않으면 이 부담이 사라진다. 진단 방식도 다르다. 실패한 실행 기록을 저장된 상태에서 다시 돌리되 한 계층씩 이상적인 값으로 바꿔 넣어, 어느 계층을 고쳤을 때 성공으로 뒤집히는지를 관측한다. 추측이 아니라 개입으로 원인을 확정하는 방식이다. 여기에 샤플리(Shapley) 기반으로 계층별 기여도를 수치로 나눈다. 회사가 제시한 사례에서는 지식 0.62, 검색 0.28, 프롬프트 0.10으로 배분돼 수정 우선순위가 저절로 정해진다. 운영 장애의 근본원인을 찾는 성능은 공개 벤치마크로도 측정됐다. RCAEval 520개 케이스 시험에서 1순위 정답률 86.54%, 3순위 이내 정답률 96.54%를 기록했다. 관측·시각화까지만 제공하는 기존 도구들과 달리, 탐지에서 개선 실행까지를 자동으로 잇는다는 것이 회사의 설명이다. 네 가지 기술은 개별 제품이 아니라 하나의 순환 구조로 연결된다. ‘음성 지식화 엔진’이 현장의 말을 지식으로 바꾸고, ‘신뢰성 온톨로지-RAG 엔진’이 검증을 통과한 것만 적재하며, ‘검증된 워크플로 중심 에이전트 빌더’가 그 지식 위에서 업무를 실행하고, ‘지식축적형 자가진화 엔진’이 실행 결과의 실패 원인을 계층별로 진단해 다시 온톨로지로 되돌린다. 운영할수록 지식이 늘고, 늘어난 지식이 다음 실행의 정확도를 높이는 구조다. 이 구조는 회사의 플랫폼 ‘GEN STATION’ 위에서 데이터 자산화 → 모델·에이전트 개발 → 안전 배포 → 운영·모니터링 → 평가·피드백 → 자가진화의 6단계 흐름으로 구현된다. 별도의 ‘초경량 온디바이스 추론 엔진’도 AI 로봇과 키오스크 등 다양한 디바이스 탑재를 위해 함께 개발됐다. 기술은 현장 숫자로도 이어진다. 회사는 금융·보험·공공·보안 등 고신뢰 산업을 중심으로 90개 이상 기관·기업에 제품을 공급했으며, 2026년 기준 누적 수주 146건, 누적 사업화 매출 341.86억원, 누적 투자유치 413억원을 기록했다. 매출은 2023년 67억원, 2024년 85억원, 2025년 118억원으로 3년 연속 증가했다. 대외 검증도 누적됐다. CES 혁신상을 2년 연속 수상해 총 3관왕을 기록했고, 미국에서 열린 생성형 AI 솔루션 경진대회에서 1위를 차지했다. 과학기술정보통신부 피지컬 AI 기획위원으로 참여하고 있으며, 경남·전북 피지컬 AI 실증 사업에서는 산업별 특화 모델 영역을 맡고 있다. 페르소나AI 관계자는 “한국형 팔란티어와 같은 기술로써 좀 더 한국 정서에 맞는 기술로 에이전트가 단순 S/W가 아니라 H/W까지 연결되며 제어할 수 있는 단계로 확장되고 있다”고 밝혔다.

리사 수 AMD 회장이 7일 한국을 찾아 삼성전자·SK하이닉스 측과 잇달아 회동하고 국내 신경망처리장치(NPU) 기업들과 협력 방안을 논의했다. 국내 AI 컴퓨팅 생태계와의 협력을 전방위로 확대한 모습이다. 지난 3월에 이어 7개월 만의 방한으로, 엔비디아에 이어 AMD까지 한국을 AI 반도체·컴퓨팅 협력의 핵심 거점으로 삼고 공을 들이고 있다. 수 회장은 이날 서울 용산구 드래곤시티호텔에서 열린 ‘AMD 게이머 데이’ 기자간담회에서 삼성전자와 SK하이닉스와 회동했다며 “반도체는 팀 스포츠라 장기적으로 탄탄한 공급망을 구축하려면 파트너사와 가깝게 일하는 게 중요하다”고 말했다. 수 회장은 이날 곽노정 SK하이닉스 사장과 만난 데 이어 오후에는 전영현 삼성전자 DS(반도체)부문장 부회장과 회동한 것으로 전해졌다. 수 회장이 한국에서 곽 사장을 만난 것은 처음이다. 수 회장이 국내 반도체 양대 기업과 만난 것은 AMD의 AI 가속기에 필요한 고대역폭메모리(HBM) 등 핵심 반도체 공급망 협력을 강화하기 위한 것으로 보인다. AMD가 향후 AI 가속기 공급을 대폭 확대하겠다고 밝힌 만큼 삼성전자의 최선단 공정을 활용한 파운드리 협력 가능성도 거론된다. 수 회장은 “1~3년이 아니라 3~5년 정도의 중장기적인 파트너십을 보고 있다”며 “메모리 공급이 굉장히 빠듯하지만 운 좋게도 공급망을 잘 다진 덕에 비즈니스를 계속 키워나갈 수 있게 됐다”고 말했다. AI 반도체 경쟁이 단순한 그래픽처리장치(GPU) 성능을 넘어 메모리와 데이터센터, 소프트웨어, 추론용 NPU 등으로 확대되면서 우리나라는 글로벌 AI 컴퓨팅 생태계에서 하나의 축으로 부상하는 모습이다. HBM을 생산하는 핵심 메모리 기업부터 AI 인프라를 구축하고 실제 서비스를 활용하는 대형 고객사, NPU 등 차세대 AI 반도체 기업까지 포진해 있기 때문이다. 엔비디아와 AMD 입장에서는 핵심 부품을 안정적으로 확보하는 동시에 새로운 AI 컴퓨팅 수요와 협력 파트너를 함께 공략할 수 있다. 젠슨 황 엔비디아 최고경영자(CEO)도 지난 6월 한국을 찾아 삼성전자와 SK하이닉스는 물론 현대자동차그룹, LG, 네이버 등 국내 주요 기업들을 만난 바 있다. 수 회장은 “한국은 공급망뿐만 아니라 하드웨어와 소프트웨어를 전반적으로 아우르는 스타트업이 매우 많다”며 “AI 분야에서 많은 것이 빠르게 움직이는 중요한 지역”이라고 말했다. 수 회장은 이날 오전 퓨리오사AI와 하이퍼엑셀 등 국내 AI 반도체 기업 13곳과 만나 국산 AI 반도체의 글로벌 진출을 지원하는 방안도 논의했다. AMD의 개방형 AI 소프트웨어 생태계인 ‘록엠(ROCm)’을 활용해 국내 기업들이 AMD의 중앙처리장치(CPU)·GPU와 호환되는 AI 반도체 생태계를 구축하는 것이 핵심이다.

“하객룩을 골라줘.” 7일 서울 코엑스 ‘AI 페스타 2026’ KT 전시장. 이용자가 20만원 이내 하객룩을 요청하자 인공지능(AI)이 옷과 신발을 골라 13만 8210원짜리 조합을 내놨다. 할인 가격까지 반영하자 구매 화면이 이어졌다. KT가 오는 12월 선보일 ‘모두의 AI’는 이처럼 검색과 추천을 넘어 실제 행동까지 연결하는 데 초점을 맞췄다. 향후 예약·구매·신청·일정 등록은 물론 정부 행정·민원 서비스까지 연계할 계획이다. ‘모두의 AI’는 과학기술정보통신부가 추진하는 대국민 AI 서비스 사업이다. KT는 다음·업스테이지·모티프·NC AI·솔트룩스·리벨리온 등과 컨소시엄을 꾸렸다. 하나의 거대언어모델(LLM)에 모든 일을 맡기는 대신 여러 국산 모델 중 질문과 작업에 맞는 모델을 골라 쓰는 방식이다. 복잡한 추론은 고성능 모델에, 일상적인 질문은 가벼운 모델에 맡긴다. 이를 조율하는 역할은 KT의 ‘토큰 팩토리’가 맡는다. 질문의 난도와 성격을 분석해 적합한 모델을 연결하고 불필요한 연산을 줄인다. KT는 이를 통해 토큰 사용량을 16~20% 절감할 수 있다고 설명했다. AI 인프라에는 리벨리온의 국산 신경망처리장치(NPU)를 적용한 클러스터를 활용한다. 새로운 AI 모델이 나오면 추가로 탑재할 수 있는 개방형 구조도 택했다. 이용자가 ‘모두의 AI’를 접하는 통로도 다양해진다. KT는 ‘이음 인사이드(Inside)’를 통해 별도 앱뿐 아니라 다음·다나와·무신사·콴다·딥서치·직방 등 기존 서비스 안에서도 AI를 쓸 수 있도록 할 계획이다. 이날 전시장에서는 하객룩 추천 외에 수학 풀이, 금융 리서치, 부동산 검색 등도 체험 가능했다. NC AI 기술로 만든 캐릭터를 3D 프린터로 출력해 가져가는 공간도 마련했다. KT는 이달 제한된 이용자를 대상으로 클로즈 베타를 시작한다. 베타 기간에는 날씨·주식·생활정보 등 다양한 질문의 의도를 정확히 파악하고 답하는 기능을 우선 검증한다. 다음달에 이용자를 늘린 뒤 오는 12월에 전 국민 대상으로 정식 서비스를 선보일 예정이다.

리사 수 AMD 회장이 7일 한국을 찾아 삼성전자·SK하이닉스 측과 잇달아 회동하고 국내 신경망처리장치(NPU) 기업들과 협력 방안을 논의했다. 국내 AI 컴퓨팅 생태계와의 협력을 전방위로 확대한 모습이다. 지난 3월에 이어 7개월 만의 방한으로, 엔비디아에 이어 AMD까지 한국을 AI 반도체·컴퓨팅 협력의 핵심 거점으로 삼고 공을 들이고 있다. 수 회장은 이날 서울 용산구 드래곤시티호텔에서 열린 ‘AMD 게이머 데이’ 기자간담회에서 삼성전자와 SK하이닉스와 회동했다며 “반도체는 팀 스포츠라 장기적으로 탄탄한 공급망을 구축하려면 파트너사와 가깝게 일하는 게 중요하다”고 말했다. 수 회장은 이날 곽노정 SK하이닉스 사장과 만난 데 이어 오후에는 전영현 삼성전자 DS(반도체)부문장 부회장과 회동할 것으로 전해졌다. 수 회장이 한국에서 곽 사장을 만난 것은 처음이다. 수 회장이 국내 반도체 양대 기업과 만난 것은 AMD의 AI 가속기에 필요한 고대역폭메모리(HBM) 등 핵심 반도체 공급망 협력을 강화하기 위한 것으로 보인다. AMD가 향후 AI 가속기 공급을 대폭 확대하겠다고 밝힌 만큼 삼성전자의 최선단 공정을 활용한 파운드리 협력 가능성도 거론된다. 수 회장은 “1~3년이 아니라 3~5년 정도의 중장기적인 파트너십을 보고 있다”며 “메모리 공급이 굉장히 빠듯하지만 운 좋게도 공급망을 잘 다진 덕에 비즈니스를 계속 키워나갈 수 있게 됐다”고 말했다. AI 반도체 경쟁이 단순한 그래픽처리장치(GPU) 성능을 넘어 메모리와 데이터센터, 소프트웨어, 추론용 NPU 등으로 확대되면서 우리나라는 글로벌 AI 컴퓨팅 생태계에서 하나의 축으로 부상하는 모습이다. HBM을 생산하는 핵심 메모리 기업부터 AI 인프라를 구축하고 실제 서비스를 활용하는 대형 고객사, NPU 등 차세대 AI 반도체 기업까지 포진해 있기 때문이다. 엔비디아와 AMD 입장에서는 핵심 부품을 안정적으로 확보하는 동시에 새로운 AI 컴퓨팅 수요와 협력 파트너를 함께 공략할 수 있다. 젠슨 황 앤비디아 최고경영자(CEO)도 지난 6월 한국을 찾아 삼성전자와 SK하이닉스는 물론 현대자동차그룹, LG, 네이버 등 국내 주요 기업들을 만난 바 있다. 수 회장은 “한국은 공급망뿐만 아니라 하드웨어와 소프트웨어를 전반적으로 아우르는 스타트업이 매우 많다”며 “AI 분야에서 많은 것이 빠르게 움직이는 중요한 지역”이라고 말했다. 수 회장은 이날 오전 퓨리오사AI와 하이퍼엑셀 등 국내 AI 반도체 기업 13곳과 만나 국산 AI 반도체의 글로벌 진출을 지원하는 방안도 논의했다. AMD의 개방형 AI 소프트웨어 생태계인 ‘록엠(ROCm)’을 활용해 국내 기업들이 AMD의 중앙처리장치(CPU)·GPU와 호환되는 AI 반도체 생태계를 구축하는 것이 핵심이다.

오픈AI가 경쟁사인 중국 인공지능(AI) 기업 문샷AI를 향해 자사 최첨단 AI 모델의 추론 정보를 대규모로 빼내려 했다고 공개 비난했다. 앤트로픽에 이어 경쟁사의 AI로 자사 모델의 성능을 끌어올리는 ‘증류’에 대한 논란이 재점화하는 모습이다. 오픈AI는 30일(현지시간) 블로그를 통해 문샷AI 관련 이용자들이 챗GPT 모델의 보호된 추론 정보를 추출하려 한 정황을 포착해 차단했다고 밝혔다. 오픈AI에 따르면 지난 7월 초부터 문샷AI의 증류 시도가 시작됐고, 7월 24~25일에는 4000명 이상의 이용자가 추론 정보 추출 패턴과 일치하는 요청 약 1만 6000건을 보냈다. 오픈AI는 지난 7월 28일까지 관련 활동을 차단했다고 밝혔다. 이번 논란의 핵심인 증류는 성능이 뛰어난 외부 AI 모델의 답변을 자사 AI의 학습 자료로 활용해 성능을 높이는 기술이다. 자체적으로 대규모 데이터를 확보해 처음부터 AI를 학습시키는 것보다 적은 비용으로 빠르게 성능을 개선할 수 있지만, 타사의 지식재산권 침해로 이어질 수 있다. 이번 문샷AI의 증류는 암호화된 추론 정보를 복사한 뒤 다른 대화에 붙여넣고, 자사 모델에 이를 복원해 설명하도록 요청하는 방식으로 이뤄졌다. 오픈AI는 암호화 자체가 해독되거나 내부 데이터베이스가 침해된 것은 아니며 AI 모델과 대화해 보호 정보를 출력하도록 유도한 것이라고 설명했다. 오픈AI는 관련 계정을 정지하고 가입 및 인프라 통제를 강화하는 한편, 앤트로픽·구글 등과 조사 결과를 공유하며 대응에 나선 상태다. 이에 오픈AI의 참전으로 증류가 적법한 AI 훈련 방식인지에 대한 논란이 확대될 것으로 보인다. 앞서 앤트로픽 역시 문샷AI가 자사 클로드에 대규모 요청을 보내고 답변을 키미 학습에 활용했다고 비판한 바 있다. 지난 7월 스콧 베선트 미국 재무장관은 증류를 ‘도둑질’이라며 제재 방침을 밝혔다.

2D CAD 평면도를 AI로 분석해 3D 모델과 BIM 데이터로 변환하는 기술을 개발해 온 건축 AI 스타트업 몰더코리아(대표 최효린)가 중소벤처기업부 TIPS(팁스)에 선정됐다고 30일 밝혔다. 몰더코리아가 운영하는 ‘몰더(Moulder)’는 도면의 벡터 데이터를 AI로 분석해 벽과 문, 창 등 개구부와 공간 구조를 인식하고 이를 구조화된 3D 모델로 변환하는 서비스다. 3D 모델뿐 아니라 렌더링 이미지와 BIM 데이터 생성까지 지원한다. 회사 측에 따르면 전문가가 수작업으로 7일 이상 진행하던 과정을 1시간 이내로 단축할 수 있으며, 이에 따른 시간과 비용도 90% 이상 절감할 수 있다. 별도의 자체 설계 도구로 작업 환경을 바꾸는 방식이 아니라 AutoCAD, SketchUp 등 기존에 사용하던 프로그램을 유지하면서 작업 단계 사이의 데이터 변환을 지원한다. 현재 국내외 누적 가입 업체는 4,000곳 이상으로, 이 가운데 절반 이상이 해외 이용자다. 몰더코리아는 올해 4월 팁스 R＆D 일반형 과제에 선정됐다. 이를 계기로 서비스에 써 온 도면 분석 기술을 한 단계 더 넓힌다. 과제명은 ‘벡터 기반 AI 모델을 이용한 2D 도면 공간 구조 추론 및 BIM 연계형 3D 모델 자동 생성 엔진’ 개발이다. 2D CAD 평면도의 벡터 데이터로 도면을 인식하고 공간 구조를 추론해, 3D 모델과 렌더링, BIM 데이터를 한 번에 자동으로 만드는 통합 엔진을 만드는 것이 목표다. 기술 개발과 별개로 실제 적용 가능성을 확인하기 위한 건설사 실증도 이어지고 있다. 몰더코리아는 92개 기업이 지원한 ‘호반그룹 2026 넥스트 스타트업 공모전’에서 최종 4개사에 선정돼 우수상을 수상했으며, 현재 호반건설과 기술 검증(PoC)을 진행 중이다. ‘2026 현대건설 오픈이노베이션’에서도 12개 선정 기업 가운데 건설 AX 분야에 포함돼 현대건설 협업 부서와 기술을 실증하고 있다. 앞서 2025년 11월에는 인포뱅크로부터 시드 투자를 유치했다. 같은 해 아산나눔재단이 주최한 정주영 창업경진대회에서 우수상, KAIST 창업원 OVL(Open Venture Lab) 데모데이에서 대상을 수상했으며 ‘컴업스타즈(COMEUP Stars) 2025’ 미국 트랙에도 선정됐다. 몰더코리아는 TIPS 과제를 통해 도면 인식과 공간 구조 추론 기술을 고도화하고, 건설사와 진행하는 실증을 통해 3D 모델 및 BIM 연계 기술의 현장 적용 가능성을 검증할 계획이다.