오케스트로 그룹이 AI를 전사 업무 전반에 적용하며 업무 혁신에 속도를 내고 있다. 고객 장애 대응부터 법인카드 결산, 인프라 운영까지 다양한 업무에서 처리 시간을 단축하고 생산성을 높이고 있다. AI 인프라 소프트웨어 대표 기업 오케스트로 그룹(의장 김민준)은 지난 27일 여의도 파크원 본사에서 전사 AI 경진대회 ‘2026 OKESTRO AI Shift’를 개최했다고 28일 밝혔다. 지난해에 이어 두 번째로 열린 이번 대회에서는 임직원들이 현업에 AI를 직접 적용해 거둔 업무 혁신과 생산성 향상 성과를 공유했다. 오케스트로 그룹은 고객의 AI 전환(AX)을 선도하는 파트너로서, 업무 프로세스와 제품 개발 방식을 전면적으로 AI 중심화하고 있다. 개발과 운영을 넘어 영업, 법무, 재무, 사업 수행에 이르는 사내 전 영역에서 AI 활용을 가속화하는 중이다. 특히 독자적인 AI 기반 개발 방법론을 제품 개발에 도입한 결과, 기존의 소프트웨어 개발 생애주기(SDLC)와 비교해 약 10.6배에 달하는 압도적인 생산성 향상을 입증해 냈다. 올해 대회에는 각 본부에서 총 27건의 AI 혁신 과제가 접수됐다. 과제는 ▲의사 결정·분석 혁신 ▲협업·조직문화 혁신 ▲개발 생산성 향상 ▲고객·서비스 경험 혁신 ▲업무 자동화 등 5개 분야로 나뉘었다. 오케스트로 그룹은 업무 방식의 변화와 개선 효과, 조직 내 확산 가능성 등을 종합적으로 평가해 12건을 본선 진출 과제로 선정했다. 현업의 실무적 난제들을 직접 풀어낸 과제들이 본선에 올랐다. 주요 성과로는 AI 기반 영업 데이터 통합 분석 체계, 장애 원인 자동 분석, 법인카드 결산 자동화, 사내 지식 검색 시스템, 그리고 쿠버네티스(K8s) 및 인프라 운영 자동화 등이 있다. 성과도 수치로 확인됐다. 고객 장애 원인 분석 자동화 과제는 초기 원인 규명 시간을 기존 4시간에서 30분으로 약 88% 단축했다. 법인카드 결산 자동화 과제는 월평균 지출 품의 752건과 영수증 2만 2천여 건을 검토하는 업무에 드는 시간을 89.5시간에서 27시간으로 약 70% 단축했다. 사내 지식 검색과 K8s·인프라 운영을 지원하는 AI 에이전트는 기술·문서 질의와 운영 작업 4822건을 자체 처리했으며, 평균 응답 시간은 17.55초였다. 현재 임직원 5명 중 1명꼴로 활용하고 있으며, 20개 이상의 K8s 클러스터에도 적용돼 있다. 오케스트로 그룹은 이번 대회에서 발굴된 유망 과제를 전사 업무로 전면 확대하고, 현업에서 검증된 인공지능(AI) 활용 노하우를 제품과 서비스 고도화 과정에도 적극 반영할 방침이다. 김민준 오케스트로 그룹 의장은 “AI는 단순한 업무 효율화 도구가 아니라 기업의 생산성과 경쟁력, 나아가 생존을 좌우하는 핵심 기반”이라며 “AI를 일부 조직이나 업무에 선택적으로 활용하는 수준을 넘어 모든 구성원이 일하는 방식에 AI를 내재화하고 생산성을 획기적으로 높여야 한다”고 강조했다. 이어 “현업에서 축적한 AI 역량을 제품과 서비스 혁신으로 연결해 고객의 AX를 가속하고, AI 인프라 소프트웨어 시장에서의 경쟁력을 더욱 강화해 나가겠다”고 말했다.

- 모로코 관세청 고위 공무원‧IT 전문가 10명 방한… 통관시스템 고도화 전략 제시- AI 위험관리부터 클라우드 네이티브 전환까지… 핵심 기술 역량 강화 집중- 글로벌 기술 협력 기반 공고화… 해외 사업 기회 확대 추진 클라우드 서비스 전문기업 오케스트로 클라우드(대표 박소아, 박수환)가 모로코 관세청의 디지털 전환을 이끄는 고위 공무원과 IT 전문가 10명을 초청해 ‘AI·클라우드 네이티브 기반 관세행정 고도화 연수 프로그램’을 마쳤다고 13일 밝혔다. 이번 초청 연수는 오케스트로 클라우드가 주관사로 수행 중인 ‘2026년 모로코 관세행정 현대화 업무재설계 컨설팅 사업’의 일환으로 진행됐다. 모로코 연수단은 서울 여의도 오케스트로 본사를 방문해 관세행정 지능화와 시스템 고도화에 필요한 핵심 기술 교육과정에 참여했다. 회사는 이번 연수에서 AI 전환 시대의 데이터 주권과 관련된 공공 시스템 운영 경험을 공유하고, 모로코의 통관 시스템 고도화를 위한 디지털 전환 전략을 제시했다. 연수 과정은 모로코 관세행정의 기술 역량 강화에 초점을 맞춰 ▲AI 기반 위험관리 및 고도화 방안 ▲클라우드 네이티브 아키텍처 전환 전략 ▲오케스트로 솔루션 활용 사례 등 세 가지 세션으로 진행됐다. AI 기반 위험관리 세션에서는 빅데이터와 AI 알고리즘을 활용한 데이터 분석 및 도입 사례를 다뤘으며, 클라우드 네이티브 분야에서는 기존 모놀리식 시스템을 마이크로서비스 아키텍처(MSA)와 쿠버네티스 기반 환경으로 전환한 사례가 소개됐다. 마지막으로 오케스트로 클라우드 관리 플랫폼(CMP)을 활용한 인프라 최적화 방안과 가상화 환경 구축 사례를 통해 시스템 안정성과 운영 효율성을 높이기 위한 기술 전략을 공유했다. 연수에 참여한 모로코 관세청 관계자는 “한국의 다양한 AI 활용 기법과 오케스트로 클라우드의 클라우드 네이티브 기술력을 깊이 있게 이해할 수 있는 뜻깊은 시간이었다”며 “이번 연수를 통해 얻은 인사이트는 모로코 관세 시스템 고도화는 물론, 아프리카와 유럽을 잇는 물류 허브로서 모로코의 무역 경쟁력을 높이는 데 큰 도움이 될 것”이라고 밝혔다. 박소아 오케스트로 클라우드 대표는 “이미 모로코는 국가 경제의 기반이 되는 통관 시스템을 100% 디지털화된 높은 수준으로 유지하고 있으며, 이번 컨설팅은 AI와 클라우드 네이티브 고도화를 위한 중요한 프로젝트”라며 “이번 연수가 소버린 AI 클라우드 분야의 기술 협력을 통해, 모로코 관세행정의 고도화를 실질적으로 뒷받침하는 계기가 되길 기대한다”고 강조했다. 한편 오케스트로 그룹은 국내외 주요 공공·금융·기업의 대형 클라우드 네이티브 전환 사업을 다수 이끌어 왔으며, 이번 모로코 관세청 컨설팅 사업을 계기로 해외 사업 기회를 확대해 나갈 계획이다. 오는 7월 28일 서울 코엑스에서 열리는 테크 컨퍼런스 ‘OPUS 2026’에서는 오케스트로 그룹의 AI 인프라 전략과 클라우드 네이티브 기술을 직접 확인할 수 있다.

- 분산 서빙 기반 추론 최적화… 보유 GPU 인프라 활용 효율 높여- 고부하 환경서 토큰 출력 속도 2.2배 향상… AI 서비스 응답 지연 완화- 국내 유일 GPU·국산 NPU 이기종 가속기 지원… 소버린 AI 인프라 선택권 확대 AI·클라우드 소프트웨어 전문 기업 오케스트로(대표 김범재, 김영광)는 보유 GPU 인프라의 활용 효율을 높여 기업 AI 서비스의 추론 병목을 줄이는 AI 추론 운영 플랫폼 ‘콘체르토 AI(CONCERTO A.I.)’를 선보였다고 29일 밝혔다. 생성형 AI 도입이 확산되면서 기업 AI 인프라의 핵심 과제는 GPU 확보에서 추론 운영 효율화로 전환되고 있다. AI 챗봇, 업무 자동화 에이전트, 검색증강생성(RAG) 기반 서비스 등 상시 운영 AI 서비스가 늘어나면서 모델 호출과 추론 연산 수요도 함께 증가하고 있다. 에이전트형 AI 환경에서는 단일 요청이 복수의 모델 호출과 반복 연산으로 이어져 추론 작업량이 단기간에 급증할 수 있다. GPU를 보유하더라도 추론 요청이 특정 자원에 집중되면 병목으로 인한 응답 지연과 자원 낭비가 동시에 발생하는 구조적 문제가 따른다. 콘체르토 AI는 분산 서빙 기반의 추론 최적화를 핵심 기술로 채택했다. 기존 단일 처리 방식은 질문 분석과 답변 생성을 동일 GPU 자원에서 처리해 요청 집중 시 전체 응답 속도가 저하된다. 콘체르토 AI는 두 작업을 분리해 각각에 적합한 자원을 배치함으로써 병목을 줄인다. 여기에 키-값 캐시(KV Cache) 최적화와 메모리 재사용 기술을 적용해 초기 응답 시간과 토큰 처리 속도를 개선하고, 실시간 대기열·자원 상태 기반 지능형 라우팅 기능을 결합해 고부하 환경에서도 응답 성능을 유지한다. 오케스트로가 자체 온프레미스 AI 인프라 환경에서 수행한 벤치마크 테스트에 따르면, 동시 요청이 집중되는 고부하 환경에서 콘체르토 AI의 분산 서빙 방식은 기존 단일 처리 방식 대비 토큰 출력 속도를 2.2배 높게 유지한 것으로 나타났다. 운영 자동화 기능도 탑재됐다. 콘체르토 AI는 AI 모델 배포부터 추론 요청 처리, 자원 배분, 성능 모니터링까지 LLMOps에 필요한 기능을 단일 플랫폼에서 제공한다. 표준화된 모델 패키징 기술을 기반으로 쿠버네티스 파드(Pod) 생성부터 엔드포인트 연결까지 배포 과정을 자동화하며, 배포 이후에는 초기 응답 시간·토큰 처리 속도·자원 사용량 등 주요 지표를 통합 모니터링 환경에서 확인할 수 있다. 인프라 호환성 측면에서는 엔비디아 GPU 외에 리벨리온·퓨리오사AI 등 국산 NPU 환경까지 지원하는 이기종 가속기 구조를 채택했다. 오케스트로 측은 GPU와 국산 NPU를 아우르는 상용화 수준의 AI 추론 운영 플랫폼은 국내에서 콘체르토 AI가 유일하다고 밝혔다. 이를 통해 기업·기관은 프라이빗 AI 및 소버린 AI 환경에서 특정 하드웨어 벤더 의존도를 낮추고 서비스 특성과 보유 인프라에 맞춰 추론 자원을 구성할 수 있다. 김범재 오케스트로 대표는 “기업 AI 인프라의 과제는 더 많은 GPU를 확보하는 것에서 보유 자원을 얼마나 효율적으로 운영하느냐로 옮겨가고 있다”며 “콘체르토 AI를 기반으로 기업이 보유한 AI 인프라의 활용 효율을 높이고, 프라이빗 AI 환경에서도 안정적인 AI 서비스 운영을 지원하겠다”고 밝혔다.

- 통신 단절·저대역폭 환경에서도 임무 지속… DIL 환경 대응 자율협업 지능체계 개발- 오케스트로, 계층형 멀티에이전트 기반 이동형 엣지 운용구조 개발 전담- 분산 지휘형 유·무인 복합체계 구현 기반 마련… 군 실증·후속 사업 연계 기대 AI·클라우드 소프트웨어 기업 오케스트로(대표 김범재, 김영광)가 과학기술정보통신부와 정보통신기획평가원(IITP) 주관 국방인공지능핵심기술개발사업의 공동연구기관으로 참여한다고 14일 밝혔다. 과제명은 ‘불안정한 네트워크(DIL) 환경에서 강건한 이동형 엣지-클라우드 기반 유·무인체계 자율협업 지능체계 개발’이다. 이번 사업은 안보 위협과 급변하는 미래 전장 환경에 대응하기 위한 국방 ICT R＆D 사업의 일환으로 추진된다. 해당 과제는 통신 인프라가 열악하거나 네트워크 단절과 지연이 반복되는 전술 환경(DIL, Disconnected, Intermittent, Low-bandwidth)에서도 유·무인 복합전투체계(MUM-T)의 자율협업을 지원하는 지능체계 개발을 목표로 한다. 중앙집중형 지휘통제 방식에서 벗어나 전술 현장 중심의 분산형 엣지 지능체계로 전환하고, 통신이 끊긴 상황에서도 임무를 지속하며 복구 이후에는 중단된 임무를 재개할 수 있도록 하는 데 초점을 두고 있다. 최근 미국을 비롯한 주요국이 전장 AI와 엣지 기반 전술 체계 도입을 확대하면서 팔란티어 등 글로벌 국방 AI·데이터 소프트웨어 기업의 역할도 커지고 있다. 이번 과제는 오케스트로의 클라우드·엣지 운용 기술을 미래 전장 환경에 적용하고, 유·무인 복합체계의 자율협업을 뒷받침하는 국산 소프트웨어 기반을 마련한다는 점에서 의미가 있다. 오케스트로는 이번 과제에서 ‘계층형 멀티에이전트 기반 이동형 엣지 운용구조 개발’을 전담한다. 쿠버네티스(Kubernetes, K8s) 기반 오케스트레이션 기술로 클라우드와 엣지 환경을 통합 관리하고, EdgeMesh와 CloudCore를 활용해 엣지 노드 간 P2P 통신과 서비스 디스커버리를 구현할 계획이다. 이어 AI·ML 모델을 엣지에 배포·실행해 실시간 추론이 가능한 지능형 운용체계 고도화도 함께 추진한다. 오케스트로의 이동형 엣지 운용 기술과 책임연구기관인 ETRI의 분산·연합학습, 증분학습, 네트워크 대응 기술이 결합되면 통신 불능 상태에서도 체계 운영의 복원력을 높일 수 있을 것으로 기대된다. 중앙 클라우드 지원 없이도 엣지 클라우드와 이기종 전장 자산을 연계해 유·무인 복합체계의 자율협업과 분산 지휘형 임무 수행을 지원하는 데 기여할 전망이다. 개발된 기술은 군 실증을 거쳐 후속 국방 사업과 연계될 전망이다. 주요 수요처로는 국방부, 합동참모본부, 육군본부 미래혁신센터, 방위사업청 등이 명시됐으며, 드론봇 전투단, 무인전투차량 시범여단, 차세대 지휘통제체계(NGC2) 개발 사업 등과의 연동이 검토되고 있다. 김범재 오케스트로 대표는 “이번 과제는 통신 단절과 저대역폭 등 제약이 큰 전술 환경에서도 자율협업 체계를 구현할 수 있는 기반을 마련한다는 점에서 의미가 크다”며 “클라우드 네이티브 기술과 엣지 운용 역량을 국방 분야에도 적용해, 국산 소프트웨어가 다양한 현장에서 활용될 수 있도록 기술 경쟁력을 지속적으로 강화할 것”이라고 밝혔다.

온프레미스·클라우드 결합한 하이브리드 구조 GPU 자원 유연 배분, 효율↑인프라 관리 부담↓ LG유플러스가 아마존웹서비스(AWS)와 협력해 인공지능(AI) 서비스의 안정적 운영을 위한 자동화 플랫폼을 구축했다. AI 모델의 개발부터 실제 서비스 배포까지 전 과정을 유기적으로 연결해 ‘AI 전환(AX)’ 경쟁력을 강화한다는 포석이다. LG유플러스는 10일 AWS가 주최한 ‘2026 모던 에이전틱 애플리케이션 데이’ 행사에서 생성형 AI 기반의 인프라 운영 자동화 플랫폼 구축 사례를 공개했다. 이번 플랫폼의 핵심은 기존 사내구축형(온프레미스) 중심의 AI 개발 환경을 클라우드와 연계한 하이브리드 구조로 혁신한 데 있다. 그동안 업계에서는 AI 모델의 학습, 평가, 배포, 운영이 각각 분리되어 진행되면서 서비스 전환 과정에서 반복적인 수작업이 발생하는 ‘단절’ 현상이 고질적인 문제로 지목되어 왔다. LG유플러스는 이를 해결하기 위해 데이터 수집부터 운영까지 전 과정을 하나의 파이프라인으로 통합했다. 이를 통해 AI 모델을 한 번 개발하고 끝내는 것이 아니라, 언제든 서비스에 바로 투입할 수 있는 ‘모델 준비 상태(Model Ready)’를 실시간으로 유지할 수 있게 됐다. 인프라 관리 효율도 대폭 높였다. AWS의 관리형 쿠버네티스 서비스인 ‘아마존 EKS’를 기반으로 자체 보유한 중앙처리장치(CPU) 및 그래픽처리장치(GPU) 인프라를 클라우드 자원과 통합 제어하는 아키텍처를 도입했다. 특히 고가의 GPU 자원 활용 방식을 기존의 ‘장비 단위 고정 할당’에서 ‘수요 기반 유연 배분’ 구조로 개선해 자원 유휴 시간을 최소화하고 운영 비용을 절감했다. 권기덕 LG유플러스 AX엔지니어링Lab장은 “데이터 수집부터 모델 개발·배포·운영, GPU 운영까지 아우르는 ‘AI 주도 개발 라이프사이클(AI-DLC)’ 기반의 플랫폼 역량을 강화하고 있다”며 “앞으로도 AWS와의 기술 협력을 통해 AI 서비스의 품질과 운영 안정성을 지속적으로 높여나가겠다”고 밝혔다.

융합보안공학과·미래융합기술공학과 소속 6개팀… 국가보안기술연구소 소장상 등 다수 수상 성신여자대학교는 본교 융합보안공학과, 미래융합기술공학과 소속 연구원 및 학부생으로 구성된 6개 팀이 지난달 30일 경북대 대구캠퍼스에서 열린 ‘ASK 2025’ 학술대회에서 각종 우수논문상을 받았다고 16일 밝혔다. ASK 2025는 한국정보처리학회가 주관하는 국내 대표 학술행사 중 하나로, 정보과학 및 기술 분야의 연구 활성화를 목적으로 매년 열리고 있다. 성신여대는 이번 대회에서 ▲국가보안기술연구소(NSR) 소장상 ▲정총연합회 회장상 ▲산학협동우수상 ▲우수논문상 등의 주요 상을 휩쓸며 우수한 연구 역량을 입증했다. 먼저 국가보안기술연구소 소장상은 ‘데이터 처리량과 에너지 효율 향상을 위한 채널 인지 트래픽 클러스팅 및 어그리게이션 전송 기법’(지도교수 이일구)을 발표한 지승하 융합보안공학과 연구원이 받았다. 산학협동우수상은 ‘Adapting LLMs for OSA Severity Classification using Sex-Specific Feature-Guided Prompting’(지도교수 이영한)을 발표한 류승연·김현진 융합보안공학과 연구원이 수상했다. 학부생 연구팀도 두각을 나타냈다. 한정은·김소연 융합보안공학과 학생은 ‘엣지 연합학습을 위한 성능-공정성 균형 기반 동적 클라이언트 선택 기법’(지도교수 이일구)으로 정총연합회 회장상의 영예를 안았다. 이 외에도 ‘협력적 학습 기반의 효율적인 네트워크 공격 탐지 방법’(조민지·전소은, 지도교수 이일구), ‘쿠버네티스 환경에 대한 코드로서의 정책 적용을 위한 정책 엔진 비교 분석’(유정은·강서윤·손주은·이유민, 지도교수 김성민)과 ‘A Comprehensive Survey on Multi-Agent Systems Recent Advances and Limitations’(김나연·김민지, 지도교수 이영한)가 각각 우수논문상을 수상하며 총 3개의 연구팀이 수상자 명단에 이름을 올렸다. 국가보안기술연구소 소장상을 받은 지 연구원은 “연구를 지도해 준 이일구 교수님 덕분에 좋은 연구 결과를 얻을 수 있었고, 우수한 연구 결과 발표에 함께한 미래융합기술공학과, 융합보안공학과 학생들에게도 감사드린다”고 소감을 밝혔다. 한편, 성신여대 융합보안공학과는 ▲정보보호특성화대학 ▲ICT혁신인재4.0 ▲첨단산업기술보호 전문인력양성 ▲정보통신핵심원천기술개발사업 등 다양한 정부 지원 사업에 잇따라 선정되며, 차세대 첨단기술 개발과 융합형 인재 양성에 박차를 가하고 있다.

- ‘클라우드 1위’ AWS 쓰는 글로벌 대기업으로 고객군 확대…시스코･IBM 등과 어깨 나란히- 허깅페이스 이어 AWS 탑재로 성장 박차…”AI 추론 가속화의 대표 주자로 자리 잡을 것” 생성형 AI가속 플랫폼 기업 프렌들리AI는AI 추론 가속화 솔루션 ‘프렌들리 컨테이너’를 아마존웹서비스(AWS)의 쿠버네티스 서비스인 AWS EKS에서 애드온 형태로 서비스한다고 13일 밝혔다. AWS가 전세계 클라우드 시장 점유율 1위인 만큼 AWS EKS 역시 쿠버네티스 분야에서 점유율이 높다. 이번 서비스 출시는 AWS 환경을 사용하는 엔터프라이즈 기업들을 위한 것이다. AWS EKS 환경에서 명령어(command) 하나로 프렌들리 컨테이너를 설치하여 전세계 최고 속도의 AI 추론 가속화 기술을 사용할 수 있게 됐다. AWS EKS에 애드온을 제공하는 기업은 시스코(Cisco), IBM, 데이터독(Datadog) 등 규모있는 글로벌 기업들인데, 프렌들리AI는 글로벌에서도 스타트업으로서는 이례적으로 애드온 기술 개발에 성공했다. 이로써 프렌들리AI는 AWS를 사용하는 엔터프라이즈급 글로벌 대기업들을 대상으로 서비스를 확장하게 됐다. 프렌들리 컨테이너는 프렌들리AI의 AI 추론 가속화 기술을 도커 컨테이너 형태로 제공하는 것이다. 이를 사용하면AI 서비스의 응답 속도가 빨라지고, GPU 자원 비용 절감 및 운영 효율성 증가 효과를 볼 수 있다. 프렌들리 컨테이너는 애드온 형태로 간단하게 설치할 수 있으므로 AWS 클라우드 환경에서 간편 도입할 수 있다. AWS 상에서 결제하여 구독하는 결제 편의성까지 갖췄다. 프렌들리AI는 추론 속도 부문 세계 1위(Artificial Analysis 벤치마크) GPU API 제공사이며, 스타트업으로는 세계에서 유일하게 선정된 허깅페이스의 공식 모델 배포 파트너이다. 한국 스타트업으로서는 전례 없이 괄목할 성장세를 보이면서 전 세계 AI 업계의 주목을 받고 있다. 프렌들리AI의 AWS EKS 애드온 탑재는 허깅페이스 파트너십에 이은 또 한 번의 쾌거다. 프렌들리AI는 허깅페이스를 이용하는 전세계 AI 개발자･연구자들에게 이름을 각인시킨 데 이어서, AWS 엔터프라이즈 AI 시장도 동시에 공략하며 보폭을 넓히고 있다. 전병곤 프렌들리AI 대표는 “AWS 애드온 탑재는 AWS 환경을 이용하는 글로벌 엔터프라이즈 고객층에 직접 접근할 수 있는 전략적 발판이 될 것”이라며 “고객사들이 AI로 도약할 수 있도록 지원하면서 AI 추론 가속화의 대표 주자로 자리 잡을 것”이라고 말했다.