- 도메인 특화 검색 알고리즘 특허 등록… Hybrid Search 기반 RAG의 할루시네이션 최소화- 공정거래위원회 AI Agent, 대기업 HR AI Agent 등 생성형 AI 사업에 적용 확대- KCC2025 발표 연구 기반 원천기술 확보… 폐쇄망 LLM 시장까지 적용 기대 미디어젠㈜은 생성형 AI 서비스의 핵심 기술인 도메인 특화 검색 모델 생성 방법에 관한 특허 등록이 결정됐다고 밝혔다. 이번 특허는 거대언어모델(LLM)을 활용하는 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 시스템에서 검색 정확도를 크게 향상시키고, 생성형 AI의 대표적인 문제인 할루시네이션 현상을 최소화해 다양한 전문 분야의 AI 서비스에 폭넓게 활용될 수 있는 원천기술이다. 최근 생성형 AI는 검색된 문서를 근거로 답변하고 스스로 작업까지 수행하는 에이전틱 RAG로 빠르게 진화하고 있다. 다만 검색 단계에서 관련성이 낮은 문서를 선택할 경우 이후 생성되는 답변 역시 부정확해질 가능성이 높아, 법률·금융·의료 등 전문 분야에서는 검색 품질이 서비스 성능을 좌우하는 핵심 요소로 꼽힌다. 이번 특허는 이러한 문제를 해결하기 위해 도메인 말뭉치 기반 검색 모델 학습, 페르소나 기반 데이터 증강, 대조 학습(Contrastive Learning) 및 다단계 검색 모델 생성 기술을 결합한 새로운 검색 모델 생성 방법을 제안한다. 특히 검색 모델이 질문과 가장 관련성이 높은 문서를 선택하도록 반복 학습하는 구조를 통해 전문 분야에서 높은 검색 정확도를 확보하도록 설계됐다. 이번 기술의 가장 큰 의미는 거대언어모델 기반 에이전틱 RAG 시스템의 하이브리드 서치 단계에서 근거 기반(Evidence-based) 답변 생성을 가능하게 하는 핵심 검색 알고리즘을 자체 개발해 원천 특허를 확보했다는 점이다. 이를 통해 생성형 AI가 신뢰성 높은 검색 결과를 기반으로 답변을 생성할 수 있어 할루시네이션을 크게 줄이는 것은 물론, 정확성과 설명 가능성이 중시되는 전문 분야로 활용 범위를 넓힐 수 있을 것으로 기대된다. 미디어젠은 자체 실험 결과를 바탕으로 법령 검색 등 대규모 전문 데이터 검색 효율이 기존 방식 대비 약 60% 이상 향상될 것으로 기대하고 있으며, 향후 다양한 전문 분야 RAG 시스템의 핵심 검색 기술로 활용할 계획이다. 이번 특허의 기술적 기반은 2025년 한국컴퓨터종합학술대회(KCC2025)에서 발표한 「한국어 법률 및 약관 검색 특화를 위한 klaw-Contriever의 연구」에서 제안된 검색 학습 방법론이다. 해당 연구에서는 공개된 한국어 법률 말뭉치를 활용한 검색 지향 사전 학습을 통해 기존 검색 모델 대비 최대 33%의 법령 검색 성능 향상을 확인했으며, 공개된 대형 검색 모델 대비 약 60% 수준의 모델 크기로도 최대 92% 수준의 검색 성능을 달성해 비용 효율성과 실용성을 확인한 바 있다. 미디어젠은 이러한 검색 기술을 기반으로 다양한 생성형 AI 사업을 확대하고 있다. 현재 공정거래위원회의 AI 불공정 약관 심사 시스템, AI 하도급 계약 지원 시스템 등에 자체 개발한 거대언어모델 MIRAGE(MediaZen Intelligent Retrieval And Generative Engine)를 적용하고 있으며, 공정거래위원회의 AI 에이전트 기반 AI Ready 의결서 데이터 개방 사업도 수행하고 있다. 해당 사업에서는 AI 에이전트와 RAG 기술을 활용해 의결서 데이터를 보다 효율적으로 검색·분석·활용할 수 있는 기반을 구축하고 있다. 또한 대기업 HR 분야에서는 거대언어모델 기반 AI 에이전트를 활용한 인재 추천 서비스 개발 사업을 추진하는 등 법률 분야를 넘어 인사(HR), 기업 업무 자동화 등 다양한 산업으로 생성형 AI 기술 적용 범위를 확대하고 있다. 미디어젠은 앞으로도 검색 모델과 거대언어모델을 결합한 AI 에이전트 기술을 지속적으로 고도화해 공공기관과 기업의 전문 업무를 지원하는 생성형 AI 서비스를 확대해 나갈 계획이다. 특히 이번 특허 기술은 인터넷 연결이 제한된 폐쇄망 환경에서도 신뢰성 높은 검색 기반 AI 서비스를 구현할 수 있는 기술로 기대를 모으고 있어, 공공기관·금융권·국방·제조 등 보안이 중요한 산업 분야에서 폭넓게 활용될 것으로 전망된다. 미디어젠 관계자는 “생성형 AI의 성능은 결국 얼마나 정확한 근거를 검색하느냐에 달려 있다”며 “이번 특허는 검색 기반 생성형 AI의 핵심 원천기술을 자체 확보했다는 점에서 의미가 크며, 앞으로 AI 에이전트와 RAG 기반의 다양한 산업용 생성형 AI 서비스에 적극 적용해 국내 AI 산업 경쟁력 향상에 기여하겠다”고 밝혔다.

퀄컴이 AI 데이터센터 시장을 위한 새로운 플랫폼 ‘드래곤플라이’(Dragonfly)를 전격 공개하며 엔비디아와 다른 AI 빅테크들에 도전장을 내밀었습니다. 자연계에서 가장 효율적인 비행 곤충인 잠자리처럼 에너지 효율성을 높인 플랫폼을 만들겠다는 의지가 담긴 이름입니다. 사실 퀄컴이 데이터센터 시장에 도전하는 것은 처음이 아닙니다. 과거 센트리크 2400 CPU를 통해 서버 시장에 도전했다가 결국 시장 문턱을 넘지 못하고 고배를 마셨던 경험이 있습니다. 하지만 최근 AI 인프라 시장이 폭발적으로 성장함에 따라 퀄컴은 기존의 모바일 및 엣지 AI 및 CPU 설계에서 얻은 강점을 살려 다시 AI 데이터센터에 도전하고 있습니다. 퀄컴 드래곤플라이는 단순히 하나의 CPU나 GPU를 지칭하는 이름이 아니라 AI 가속기, CPU, 네트워킹, 그리고 커스텀 실리콘을 하나의 통합된 생태계로 묶은 ‘풀스택(Full-stack)’ 생태계의 브랜드를 의미합니다. CPU, GPU, 네트워킹, 그리고 CUDA 소프트웨어 생태계까지 하나로 묶어 제공하는 엔비디아와 같은 전략을 구사하는 셈입니다. 물론 이 분야에서는 엔비디아가 훨씬 강력한 생태계를 구축한 상태이지만, 퀄컴은 모바일에서 얻은 저전력·고효율 설계를 무기로 AI 데이터센터 시장에 ‘원스톱(One-stop)’ 솔루션을 제공하겠다는 포부를 지닌 것으로 보입니다. 드래곤플라이 AI 데이터센터 생태계의 핵심은 당연히 AI 가속기입니다. 2027년 출시를 목표로 한 AI250은 퀄컴이 주도하는 차세대 메모리 기술인 HBC(High Bandwidth Compute) 1세대를 탑재할 계획입니다. HBC는 DDR 메모리 대신 LPDDR 메모리를 적층한 고대역폭 메모리로 컴퓨트 다이(Compute die) 위에 바로 올려 에너지 효율과 속도를 높였습니다. 실물을 공개하지 않았지만, 와트당 대역폭(Bandwidth per Watt)에서 HBM 메모리보다 6배나 높였다는 것이 퀄컴의 주장입니다. 퀄컴의 로드맵에 따르면 2028년에는 HBC 2세대 기술을 적용한 AI300이 출시됩니다. AI300은 LPDDR 메모리를 사용한 기존 AI200 대비 54배에 달하는 대역폭을 제공하며, HBM(고대역폭 메모리)과 비교했을 때 와트당 대역폭이 6배나 높습니다. 만약 이 주장이 사실이라면 대규모 언어 모델(LLM)이나 멀티모달 모델, 그리고 에이전트 AI 워크로드에서 발생하는 막대한 전력 소모와 데이터 이동 병목 현상을 획기적으로 해소할 수 있을 것으로 보입니다. 물론 하이퍼스케일 데이터센터에서는 각 GPU, CPU의 메모리 대역폭만큼이나 수많은 프로세서들을 빠르게 연결하는 것도 중요합니다. 퀄컴의 새로운 데이터센터 연결 플랫폼은 800G에서 최대 1.6T급에 이르는 고대역폭을 지원하며, 데이터 이동의 병목을 해결하기 위해 UALink와 같은 개방형 표준을 활용한 스케일업 및 스케일아웃 아키텍처를 사용할 계획입니다 그리고 최근 에이전틱 AI에서 중요해지는 CPU를 위해 퀄컴은 C1000 서버도 같이 제공할 계획입니다. 이 CPU는 250개 이상의 코어와 최대 5GHz의 클럭 속도를 지니고 있다고 하는데, 멀티 코어뿐 아니라 싱글 코어 성능에서도 업계 최고라는 것이 퀄컴의 설명입니다. 다만 현재까지 업계의 반응은 반신반의한 상태입니다. 이론적으로는 매우 훌륭해 보이지만, 퀄컴이 말한 CPU, GPU, 메모리, 인터페이스 혁신을 위해서는 반도체 제조사를 포함해 많은 제조사들이 함께 힘을 합쳐야 하기 때문입니다. 예를 들어 HBC 메모리의 경우 LPDDR 메모리를 3D TSV(관통 실리콘 비아) 기술로 수직 적층하는 ‘근접 메모리 컴퓨팅’(Near-Memory Computing) 기술인데, 이는 퀄컴의 기술만으로는 불가능하고 원칙적으로 삼성전자 같은 메모리 제조사가 기술을 제공해 주지 않으면 실현 불가능한 이야기입니다. HBC 메모리를 사용하는 AI250/300 가속기나 C1000 CPU 역시 TSMC 같은 파운드리 업체의 협력 없이는 제조하기 어렵습니다. 현재 메모리와 시스템 반도체 모두 최첨단 미세 공정에 대한 수요가 크게 증가해 공급이 이를 따라잡기 어려운 점을 생각하면 물량을 쉽게 확보할 수 있을지부터 의문이 드는 게 사실입니다. 여기에 새로운 규격인 만큼 초기에는 수율이나 비용 문제 역시 만만치 않을 수 있습니다. 이런 의구심을 해소하기 위해서는 우선 실제로 작동하는 제품과 이를 채택한 데이터센터가 등장해야 합니다. 퀄컴은 일반적인 LPDDR 메모리를 사용한 AI200의 샘플링을 진행 중이며 올해 출시할 계획입니다. 이를 통해 퀄컴이 다른 엔비디아, 구글, AMD와 견줄 만한 AI 가속기 설계가 가능하다는 점을 입증해야 다음 단계로 진행이 가능할 것입니다. 퀄컴의 AI 데이터센터 도전이 이번에는 성과를 거둘 수 있을지 주목됩니다.

상담 내용 자동 분석해 검색·답변 생성주제별 분류, 평가·피드백까지 제공 LG유플러스가 고객 전화상담에 ‘인공지능(AI) 상담 어드바이저’를 도입한 결과 전체 상담시간의 19%가 줄어들었다고 밝혔다. 시간으로 환산하면 월 평균 2만 시간에 가까운 상담 시간을 줄인 셈이다. LG유플러스는 27일 서울 용산구 LG유플러스 사옥에서 AI 상담 어드바이저 설명회를 열고 이같은 내용을 공개했다. AI 상담 어드바이저는 상담사가 이용하는 AI 고객센터(AICC)에 적용돼 고객 전화를 받는 순간부터 상담이 끝난 후 처리해야 하는 일까지 전 과정에 도움을 제공하는 AI 에이전트다. LG유플러스는 AICC 사업을 선도하기 위해 AI 상담 어드바이저를 자체 개발해 지난해 9월 고객센터에 도입했다. 서남희 LG유플러스 CV담당은 AI 어드바이저를 이용했을 때 고객의 통화 연결 대기 시간은 평균 17초, 통화 시간은 평균 30초 줄어들면서 전체 상담시간이 19% 개선됐다고 설명했다. 하루 평균 7만 5000여건의 상담이 접수되는데, 주말을 제외하면 한 달간 약 117만분(1만 9500시간)에 달하는 고객 시간을 아꼈다는 설명이다. LG유플러스가 개발한 AI 상담 어드바이저의 핵심 기술은 ▲에이전틱 RAG ▲AI 인더루프 기술이다. 에이전틱 RAG는 AI가 상담사와 고객의 상담 내용을 스스로 분석해 필요한 내용을 검색하고 답변을 생성하는 기술이다. 예컨대 고객이 “들어보니 이심(eSIM)이라는 게 있다고 하던데 이건 뭐예요?”라고 질문하면 단순히 이심에 관한 설명만 제공하는 것이 아니라 고객 유형별로 가입 절차와 주의사항까지 상담사가 볼 수 있도록 찾아준다. 답변 정확도는 90% 수준에 이른다. AI 인더루프는 상담 후 대화 내용을 주제별로 분류하는 기술이다. 실제 상담 사례로 분석해 보니 사람이 직접 분류할 땐 2000건에 5760분이 걸린 반면, 이 기술을 적용하자 3000건을 40분만에 완료했다고 LG유플러스는 소개했다. 서 담당은 “처음에 상담사 일부에는 AI 어드바이저를 도입했는데 반응이 폭발적이었다. 마케팅센터에서도 도입을 강하게 요청하고 있다”면서 “상담사들은 직접 손으로 쓰는 작업을 안 해도 되고, AI가 고객의 발화 내용을 정확하게 알아듣기 때문에 상담사가 고객에게 다시 되묻는 일이 줄었다는 점에서 만족하고 있다”고 현장 분위기를 전했다. LG유플러스는 AI가 상담 내용을 평가하고 피드백을 제공하는 ‘AI 오토 QA’도 개발해 오는 3분기 중 도입할 방침이다. LG유플러스는 AI 상담 고도화를 통해 고객의 상담시간을 30% 줄이는 게 목표라고 밝혔다.