부산시가 생성형 인공지능(AI)을 악용한 공격 코드 작성과 시스템 취약점을 스스로 탐색·공격하는 자율형 사이버 공격 등에 대응하고자 1일부터 ‘AI 기반 지능형 사이버 보안관제 시스템’ 운영을 시작했다. 시는 하루 수십억 건의 대규모 보안 기록을 신속·정밀하게 분석하고, 위협 탐지부터 대응까지 자동화할 수 있도록 보안관제 인프라와 기능을 강화했다. 지능형 보안관제 체계는 초당 100억 건 이상 검색할 수 있는 ‘통합 보안 분석 시스템(XDR)’과 ‘AI 관제 도우미’를 결합한 시스템이다. XDR은 네트워크 위협 탐지, 보안 기록 상관분석, 보안 대응 자동화 기술을 연계해 보안 이벤트를 분석하고 이상 징후를 추적한다. 특히 보안 대응 자동화를 통해 표준 대응 절차에 따라 위협 대응 및 후속 조치까지 신속하게 처리하고, 생성형 AI 관제 도우미가 복잡한 보안 경보를 자동 요약·분류해 관제 인력이 분석과 대응에 집중할 수 있도록 지원한다. 시스템 도입에 따라 대규모 보안 기록 분석 시간은 기존 수 시간에서 분·초 단위로 단축되고, 일일 수백 건의 위협이 관제요원 개입 없이 실시간 자동 차단된다.

글로벌 패션·테크 전문가들이 서울에서 모여 인공지능(AI)을 통한 패션 산업의 창작과 생산, 고객 경험의 방식에 대해 논의한다. 성주재단은 MCM과 주한독일문화원, 독일패션협회와 함께 다음 달 3일 오후 2시부터 서울 남산에 있는 주한독일문화원에서 국제 패션테크포럼 ‘KIFT 2026 포럼’을 개최한다고 27일 밝혔다. 올해로 3회째를 맞는 KIFT는 글로벌 패션·테크 투자자들이 한자리에 모여 AI 등 최신 기술이 만들어갈 패션 산업의 미래를 논의하는 국제 교류의 장으로 자리 잡고 있다. 올해 창립 50주년을 맞은 독일 럭셔리 브랜드 MCM과 성주재단이 미래 세대의 역량 강화와 문화·예술 활동 지원이라는 공동 비전을 바탕으로 이번 행사를 함께 기획했다. 올해 KIFT 2026은 ‘AI가 바꿀 패션의 미래’를 대주제로 두고 디자인과 생산 및 운영, 고객 관리와 순환 경제에 이르기까지 명품 패션의 밸류체인(가치사슬) 전반에서 일어나고 있는 패러다임의 전환을 세 개의 세션에 걸쳐 심도 있게 다룬다. 첫 번째 세션은 ‘디자인 파트너로서의 AI’를 주제로 브랜드 고유의 DNA와 창의성을 보존하면서 생성형 AI와 3D 가상 착장 기술 등을 디자인에 접목하는 혁신 사례를 살펴본다. AI를 단순한 생산성 향상 도구가 아닌 디자이너의 창의적 사고를 확장하고 새로운 표현의 가능성을 열어주는 ‘창작의 파트너’로 활용하는 사례가 주로 다뤄질 예정이다. 더크 쇤베르거 MCM 글로벌 브랜드 총괄 임원과 박규열 리빌더 AI 공동 창업자 겸 최고기술책임자(CTO), 주은정 CLO AI 연구 총괄 임원, 권유미 AI 네이티브 뷰티 기업 비팩토리 부대표, 유훈식 서울미디어대학원대학교 교수가 패널로 참석한다. 두 번째 세션에서는 ‘패션 산업에서의 에이전틱 AI와 피지컬 AI의 미래’를 주제로 고급 소재 가공과 맞춤 테일러링 생산 공정부터 마케팅과 고객 접점 관리까지 패션 산업 현장에 적용되고 있는 협동 로봇(피지컬 AI)과 자율형 AI 에이전트 등 패션 산업 내 AI의 현주소와 미래 가능성에 대해 논의한다. 스콧 W. J. 립핀스키 독일패션협회 최고경영자(CEO), 오드리 한센 사이렌(Siren) CEO, 스테판 헬러 알파큐(AlphaQ) VC 창립 대표, 강성훈 스튜디오랩 공동창업자 겸 CEO, 이상구 서울대학교 교수 겸 인텔리시스 창업자가 패널로 참여한다. 세 번째 세션에서는 ‘AI 기반 순환 경제와 고객 생애주기 관리’에 대해 논의한다. 컴퓨터 비전 기반의 정품 인증, AI 기반 고객 데이터 분석 기술 등을 활용해 1차 시장과 재판매를 포함한 2차 시장을 유기적으로 연결하고 제품의 생애주기와 브랜드와 고객 간 장기적인 관계를 관리하는 새로운 럭셔리 비즈니스 모델을 모색한다. 크리스찬 알프 전 독일판 보그 편집장 겸 독일패션협회 이사장, 신한나 테크 쿠튀르 패션 디자이너, 마이사 베나티 AIUTA CEO, 이인섭 마크비전 창업자 겸 CEO, 양은경 연세대학교 교수가 패널로 참여해 지속가능성과 고객 생애가치를 극대화하는 AI 기반 패션 산업의 미래에 대해 이야기를 나눈다. 성주재단 관계자는 “KIFT 2026은 AI 시대를 맞아 패션 산업의 미래를 이끌어갈 인재들이 글로벌 리더들과 직접 인사이트를 교류하고 새로운 협력의 가능성을 모색하는 실질적인 네트워크의 장이 될 것”이라며 “한국과 독일 양국의 문화적 창의성과 기술적 혁신을 연결해 보다 지속 가능하고 창의적인 패션 산업의 청사진을 제시하겠다”고 밝혔다.

우크라이나가 35주년 독립기념일인 지난 24일 지상·해상·공중 드론과 로봇으로만 구성된 ‘무인 열병식’을 세계 최초로 선보였다. 러시아의 침공에 맞서 5년째 항전 중인 나라가 병력과 장비의 열세를 딛고 무인 전투 체계로 전환, 현대전의 개념 자체를 바꾸고 있다. 지상전에서는 러시아 표적의 90%가 드론·로봇에 파괴되고 있다. 우크라이나 수상 드론 전력은 러시아의 흑해 제해권 장악을 저지해 전쟁의 판도를 바꿨다는 평가를 받고 있다. 미군도 최근 해사 생도들과 포천의 주한 미 해병대원들에게 드론 교육을 실시했다. 지난 4~5월 M1A2 에이브럼스 전차, M2 브래들리 장갑차 등으로 중무장한 기갑부대가 우크라이나군과의 모의전투 훈련에서 전멸하는 충격적 패배를 당한 것이 계기가 됐다. 무인 열병식이 열리던 날 영국은 우크라이나와 ‘인공지능(AI) 파트너십 협약’을 체결했다. 드론·로봇 등 전투용 AI에는 데이터가 필수인데, 압도적인 실전 데이터를 축적한 우크라이나야말로 최적의 동맹이 될 수 있다는 것이다. 우크라이나와의 전쟁에서 드론·로봇 전의 중요성을 절감한 러시아 역시 최근 완전자율형 AI 유도 드론을 실전투입하는 등 빠른 속도로 무인전투 역량을 고도화하고 있다. 러·우 전쟁 파병으로 드론 방어와 공격 전술 모두 풍부한 실전 경험을 쌓은 북한도 빠르게 대응한다. 드론전투 부대를 창설하고 전면적인 드론전 채비를 착착 갖추고 있다. 우리 정부도 ‘50만 드론전사’ 양성을 내세우며 드론 역량 확산에 나서고는 있다. 하지만 드론작전사령부를 올해 11월 국방드론본부로 축소·개편하고 작전권은 각 군으로 돌릴 예정이다. 지난 25일 남해상 마라도함에서 자폭용 드론이 발진 직후 추락하는 바람에 해양운용성 검증을 위한 첫 전투실험이 무산됐다. 드론전의 기술개발에서부터 작전 및 전투 역량에 이르기까지 갈 길이 먼 현실을 절감했다. 3군 사관학교 통합보다 드론전 역량을 다지는 작업이 훨씬 다급한 일이다.

우크라 독립일 ‘무인 열병식’ 공개병사 대신 로봇 무인 전력 등 과시러, 엔비디아 칩 탑재 AI 드론 투입명령 없이도 스스로 표적 찾아 공격유엔 “킬러 로봇 규제 마련을” 성명 우크라이나가 독립 35주년을 맞아 대규모 드론과 로봇 군단을 전면에 내세운 ‘무인 열병식’을 펼치며 첨단 기술력을 과시했다. 러시아는 인간의 개입 없이 운용되는 완전 자율 살상 드론을 실전에 배치한 것으로 확인되는 등 4년 6개월째를 맞는 우크라이나 전쟁은 인공지능(AI) 기술이 전장의 판도를 전면적으로 바꾸고 있음을 재차 보여주고 있다. 우크라이나 대통령실이 24일(현지시간) 공개한 독립기념일 영상에는 병사와 탱크 대신 다양한 총포로 무장한 무인 군용 차량 수십대가 수도 키이우 중심가 흐레샤티크 거리를 행진하는 모습이 담겼다. 군사 퍼레이드라면 떠오르는 군인과 전차 등의 대규모 행진이 아닌 첨단 무인 전력으로만 구성된 파격적인 열병식을 선보인 것이다. 영상에는 집단 드론이 비행하고 자폭 무인정이 거친 물살을 가르는 모습도 담겨 육해공에서 모두 무인 전력을 갖추고 있음을 대내외에 과시했다. 우크라이나는 이번 열병식을 통해 대러시아 전쟁이 과거 전쟁과는 다른 ‘로봇·드론 전쟁’임을 보여주었다는 분석이 나온다. 2022년 러시아의 침공 당시만 해도 단기간에 굴복할 것 같았던 동유럽 소국 우크라이나였지만, 이 같은 첨단 기술을 저력으로 삼아 재래식 병력의 열세를 극복했다는 평가다. 유로뉴스는 “행진하는 병사도, 탱크도 없었지만 같은 임무를 수행하도록 설계된 로봇이 등장해 미래 전쟁의 모습을 엿볼 수 있게 했다”며 “4년 반 동안 이어진 러시아의 전면적 침공이 우크라이나군을 얼마나 크게 변화시켰는지를 보여준다”고 전했다. 전장의 다른 한편에서는 AI가 스스로 인명을 살상하는 미래 전쟁의 또 다른 모습이 확인됐다. 뉴욕타임스(NYT)는 러시아군이 인간의 개입 없이 스스로 표적을 찾아가는 AI 드론을 실전에서 시험해 온 정황을 보도했다. 지난달 6일 우크라이나 남동부 자포리자에서 러시아군의 소형 드론이 민간인을 사살했는데, 현장 조사 결과 이 기체는 사전에 입력된 프로그램에 따라 주유소 내 프로판가스 탱크를 군사적 가치가 있는 최종 표적으로 판단해 타격한 것으로 드러났다. 잔해에서는 핵심 연산 장치인 미 엔비디아사의 소형 AI 컴퓨터 ‘젯슨 오린’이 발견됐다. 기존의 군사용 드론은 인간이 공격 대상을 설정하지만, 이번에 발견된 자율 살상 드론은 학습된 데이터를 토대로 AI가 스스로 표적을 찾아내 공격한다는 점이 다르다. 인간이 아닌 알고리즘에 살상 권한을 위임한 것으로, 국제인도법을 위협하는 통제 불능의 상황을 초래할 수 있다는 우려가 나온다. 카테리나 본다르 미 전략국제문제연구소(CSIS) 산하 와드와니 AI센터 선임연구원은 “러시아가 자율형 AI를 실험하고 있다는 가장 확실한 증거”라고 지적했다. 유엔(UN)과 국제적십자위원회(ICRC)도 25일 공동 성명을 내고 “인간의 통제를 벗어난 ‘킬러 로봇’이 도덕적 레드라인을 넘어서기 직전”이라며 인류의 안전을 위협하는 자율 무기에 대한 즉각적인 글로벌 규제 마련을 촉구했다.

러시아의 인공지능(AI) 자율형 드론이 우크라이나 전장에 처음 투입되자마자 민간인이 사망한 사실이 처음 확인됐다. 뉴욕타임스의 24일(현지시간) 보도에 따르면 지난달 6일 우크라이나 남동부 자포리자의 한 주유소 인근에 러시아 소형 드론이 추락해 폭발했다. 해당 공격으로 자포리자국립대에서 회계학을 공부하던 민간인 3명이 숨진 것으로 확인됐다. 드론 전문가와 우크라이나군 지휘관, 잔해를 조사한 감식팀은 해당 드론이 인간 조종사가 아닌 실험용 AI 시스템의 유도를 받은 것으로 판단했다. 정확한 사용 경로를 보면 인간 운용자(러시아군)가 공격 발생 지역인 주유소까지 이동하도록 직접 경로를 입력했다. 다만 드론이 현장에 접근한 후부터는 드론이 프로판가스 탱크로 추정되는 공격 대상을 스스로 고른 것으로 추정된다. 러시아군 드론이 공격 대상으로 프로판가스 탱크를 정확히 인지한 것인지, 민간인을 프로판가스 탱크로 잘못 인지한 것인지는 확인되지 않았다. 우크라이나 당국은 드론 잔해를 분석한 결과 내부에서는 엔비디아의 ‘젯슨 오린’ 미니컴퓨터가 발견됐으며 외부에는 통신을 위한 안테나가 없었다. 조사관들은 엔비디아 칩에 입력된 지형 이미지와 프로그램 코드를 확인했고, 코드에는 드론이 인식하고 공격하도록 학습된 표적 유형이 담겨 있었다. 프로판가스 탱크는 학습된 표적 유형 중 하나였다. “AI 탑재한 드론의 첫 민간인 사망 사례”워싱턴 전략국제문제연구소(CSIS) 산하 와드와니 AI센터의 카테리나 본다르 선임연구원은 NYT에 “이번 사건은 자체 표적 설정 AI를 탑재한 러시아 드론으로 민간인 사망자가 발생한 첫 문서화된 사례”라고 밝혔다. 이어 “엔비디아 모듈이 러시아가 자율형 AI를 실험하고 있었다는 사실을 보여주는 ‘가장 확실한 증거‘”라고 평가했다. 현재 전장에서 빠질 수 없는 필수 무기로 꼽히는 드론의 상당수에는 AI 기능이 탑재돼 있다. 대부분은 인간 조종사가 표적을 미리 정한 뒤 공격 직전 마지막 단계에서 AI가 활용된다. 그러나 이번에 사용된 러시아군의 AI 드론은 완전 자율형 드론으로, 최종 표적을 선정하는 과정에서도 인간의 선택을 배제했다. 이미지 수천 장을 학습한 AI가 드론 카메라에 포착된 물체를 공격해 공격 여부를 결정하는 방식이다. 우크라이나 하르키우항공연구소의 드론 전문가 바딤 쿠시니코우는 민간인 3명을 숨지게 한 러시아군 드론에 대해 “가상현실에서 특정 물체를 추적하도록 훈련된 사전 프로그래밍 장치”라고 설명했다. AI 드론의 위험성 어느 정도?전문가들은 자율형 AI 드론이 전파를 이용한 원격 조종이 필요 없어 전파 방해도 받지 않을뿐더러 미리 입력된 좌표를 타격하는 무기보다도 정확도가 높다고 설명한다. 러시아군이 활용한 것으로 추정되는 이번 AI 드론에도 안테나는 보이지 않았다. 드론 조종사를 따로 배치할 필요도 없어 전쟁 장기화로 전문 인력이 특히 부족한 러시아 입장에서 활용도가 높다. 일각에서는 AI가 공격 직전 주변 상황을 판단하는 기능이 있는 만큼, 일반 포탄보다 민간인의 희생을 줄이는 데 영향을 줄 수 있다고 반박한다. 그러나 대다수의 전문가들은 AI가 민간인과 전투원 또는 민간 시설과 군사 시설을 제대로 구분하지 못할 경우 오인 공격으로 이어질 수 있다고 지적한다. 아무리 방대한 데이터를 AI로 학습시키더라도, 현자의 특수 상황 등을 미리 예측하기란 어렵기 때문이다. 더불어 AI 드론이나 무기가 민간인을 사망에 이르게 했을 때 이에 대한 법적 책임을 어떻게 물게 할지 여부도 불분명하다. 국제적십자위원회는 AI나 자율무기 자체에 법적 책임을 전가할 수 없다는 점을 강조해 왔다. 국제인도법상 공격에 관한 법적 판단과 책임은 인간에게 있으며 기계나 소프트웨어, 알고리즘이 인간의 법적 책임을 대신할 수 없기 때문이다. “킬러 로봇 안 돼” 유엔도 한 목소리현재 유엔은 킬러 드론을 포함해 인류의 안전을 위협하는 치명적 자율무기(LAW)의 전면 금지를 주장하고 있다. 지난달 안토니우 구테흐스 유엔 사무총장은 스위스 제네바에서 열린 인공지능(AI) 거버넌스 회의 연설을 통해 “인간의 통제와 판단 없이 기계가 스스로 목표물을 선정·타격해 인간의 목숨을 빼앗는 것은 도덕적으로 혐오스러운 일”이라고 강조했다. 이어 “이러한 무기들을 본질 그대로 ‘킬러 로봇’이라 부르자. 이 킬러 로봇을 국제법으로 완전히 금지해야 한다”고 주장했다. 민간용으로 개발된 AI 시스템과 반도체 칩이 우크라이나 전쟁 등 실제 전장에서 활용되고, 전쟁 중이 아닌 국가에서도 군 지휘부가 전방위로 도입하면서 군대가 AI를 어느 수준까지 활용해야 하는지를 두고 논쟁이 가열되는 분위기다. 앞서 미국 AI 기업 앤트로픽은 미 국방부에 자사 AI 모델을 민간인 감시나 자율무기 시스템에 사용하지 않겠다는 보장을 요구했다가 국방부와의 계약을 일방적으로 파기당했다. 당시 앤트로픽의 AI 시스템을 활발히 사용하던 국방부는 “모든 합법적인 목적에 AI를 사용할 수 있어야 한다”며 업체의 요구를 거부했고, 도널드 트럼프 대통령은 앤트로픽을 향해 “재앙적 실수를 저지른 좌파 반미 집단”이라 몰아붙이며 연방 전 기관의 사용 즉시 중단을 명령했다. 결국 앤트로픽과 정부의 계약은 파기됐고 그 자리는 챗GPT를 개발한 오픈AI가 차지했다. 해당 사건은 민간 AI 기업의 기술이 사실상 국방 인프라가 되는 상황, 반대로 기업이 군사 목적의 사용을 통제할 권한이 있는가 등의 논쟁으로 확산했다. 더불어 군이 표적 탐지부터 판단, 공격에 이르는 군사적 의사 결정 과정에 AI가 어디까지 관여할 수 있는지에 대한 우려의 목소리로 이어졌다. 도덕적 논란의 중심에 선 방산업체AI 업체와 더불어 해당 논란의 중심에는 방산업체가 있다. AI와 자율주행, 센서 기술을 활용한 무기체계 개발이 미래 방산 시장의 핵심 분야로 떠오르면서 주요 방산기업들은 자율 기능을 갖춘 드론, 무인전투차량, 자율잠수정 등 다양한 무기체계를 개발하고 있다. 일부 방산업체는 해당 기술이 병력 손실을 줄일 수 있을 뿐 아니라 국방력을 강화할 수 있다고 주장하지만, 구테흐스 사무총장 등 ‘킬러 로봇’을 반대하는 쪽에서는 방산업체의 기술 개발 경쟁이 자율살상무기 확산을 부추길 수 있다고 비판한다. 킬러 로봇 논쟁이 단순한 기술 문제를 넘어 국가 안보, 국제법, 윤리, 그리고 방위산업의 이해관계가 복합적으로 얽힌 국제적 쟁점으로 평가되는 상황에서, 방산업체의 고민은 차세대 무기 기술 개발을 지속해야 한다는 요구와 자율살상무기 확산에 대한 국제사회의 우려를 동시에 고려해야 한다는 점에 있다.

러시아가 인공지능(AI)에 의해 완전히 유도되는 드론으로 민간인들을 살해한 것으로 알려졌다. 미국 뉴욕타임스(NYT)는 24일(현지 시간) 러시아가 우크라이나에서 인간의 개입 없이 표적을 선택해 공격하는 AI 자율 살상 드론을 사용했다고 보도했다. 이 드론이 사용된 것은 지난달 6일로, 당시 우크라이나 남동부 자포리자 소재 주유소의 프로판 탱크 시설을 공격하면서 19세 대학생과 41, 48세 남성 등 총 3명이 사망했다. 이 같은 사실은 우크라이나군과 드론·포렌식(디지털 증거 추출) 전문가들의 분석을 통해 드러났다. 이번 공격이 충격적인 이유는 인간의 개입 없이 AI 판단만으로 공격이 이루어졌기 때문이다. 기존 AI 드론은 조종사가 타격을 최종 승인하는 방식이지만 이번에는 AI가 100% 자체 판단으로 공격을 감행했다. 우크라이나군은 이에 대한 근거로 드론에 조종사와 통신할 수 있는 안테나가 없지만, 비디오카메라는 탑재된 점, 약 6대 정도 무리를 지어 비행했지만 어느 드론도 무선 신호를 송신하지 않았다는 점을 들었다. 또한 드론에서 엔비디아의 초소형 컴퓨터 ‘젯슨 오린’이 탑재된 것도 확인됐다. 젯슨 오린은 스마트 가전 등에 널리 쓰이는 제품으로 카메라와 연동해 최종 단계에서 표적을 식별할 수 있다. 결과적으로 조종사가 이 드론에 특정 목표물(주유소)로 비행하도록 프로그래밍하면, 드론이 이곳에 접근하면서 사전 학습을 통해 얻은 정보를 바탕으로 프로판 탱크와 같은 최종 목표물을 스스로 선택한 것이다. 싱크탱크 전략국제문제연구소(CSIS) 와드와니 AI센터의 카테리나 본다르 수석 연구원은 “러시아가 자율형 AI를 실험하고 있다는 가장 확실한 증거”라며 이를 통해 민간인 사망자가 발생한 최초 사례라고 지적했다. 자포리자 방공사령관인 세르히 미나예우 대령도 “이는 전 세계에 대한 위험”이라며 “몇 년 안에 ‘터미네이터’ 속에 사는 것 같은 상황에 처하게 될 것이다. 농담이 아니라, 기계들이 공격 여부를 결정하고 있다”고 우려했다. 특히 앞서 우크라이나 국방정보국은 지난 12일 이달 자국 공격에 사용된 신형 러시아 순항미사일 ‘S-71M 모노크롬’에서도 젯슨 오린이 발견됐다며 사진을 공개한 바 있다. 이는 러시아가 신형 무기에 AI 기술을 활용하고 있는 것을 보여주는 것으로, 상대적으로 구하기 쉬운 젯슨 오린을 확보해 미사일과 드론의 ‘두뇌’로 활용하고 있는 셈이다. 이에 대해 엔비디아 측은 “학생·개발자·스타트업 등에 판매돼 광범위한 용도로 활용되는 소비자용 제품”이라면서 “이 제품이 현재 러시아에 수출되지 않지만, 재판매 업체를 통해 구할 수 있을 것으로 보인다”고 밝혔다.

애피어(Appier)가 에이전틱 AI 시스템의 신뢰성을 개선하기 위한 ‘리스크 인지 의사결정 프레임워크’ 연구 성과를 공개했다고 21일 밝혔다. 애피어 AI 리서치팀은 거대언어모델(LLM)과 에이전틱 AI의 신뢰성 검증을 중심으로 연구개발 역량을 집중하고 있다. 애피어는 “답할 것인가, 거절할 것인가, 추측할 것인가? 언어모델의 리스크 인지 의사결정”이라는 제목의 논문을 통해 복합적인 위험 조건에서 LLM이 내리는 판단을 정량적으로 측정하는 평가 체계를 제안했다. 이번 연구는 고위험 비즈니스 시나리오에서 모델의 의사결정 안정성을 높일 수 있는 구조화된 방법론을 담고 있다. 해당 연구는 기업 환경에서 에이전틱 AI를 도입할 때 핵심 과제로 꼽히는 ‘자율적 AI 의사결정의 신뢰성 확보’를 다룬다. 애피어는 이를 통해 AI 기술 리더십을 더욱 공고히 하는 동시에, 에이전틱 AI 생태계 전반에도 실질적인 기술적 인사이트를 제공한다. 기업들의 AI 활용이 자율형 AI 에이전트로 진화해 가면서, 신뢰성은 도입을 결정하는 핵심 장벽으로 떠오르고 있다. 2025년 맥킨지(McKinsey) 조사에 따르면 기업의 62%가 이미 AI 에이전트 도입을 시작했지만 ‘부정확성’은 여전히 엔터프라이즈 AI 도입 시 가장 많이 언급되는 리스크다. 애피어는 AI 네이티브 AaaS(Agentic AI as a Service) 기업으로서 최첨단 연구 결과를 실제 기업 환경에서 활용할 수 있는 방법론과 제품 기능으로 구현하고 있다. 본 연구는 기업들이 AI 도입 과정에서 가장 크게 우려하는 ‘AI 환각’과 ‘의사결정 신뢰성’을 집중적으로 다룬다. 연구진은 이를 해결하기 위해 다양한 리스크 조건에서 LLM의 판단을 정량적으로 평가하는 ‘리스크 인지 의사결정(Risk-Aware Decision-Making)’ 프레임워크를 제안했으며, 이를 통해 엔터프라이즈 AI 도입에 필요한 거버넌스 기반을 더욱 강화할 수 있을 것으로 보고 있다. 기존의 LLM 평가 방식은 주로 답변의 정답 여부를 기준으로 성능을 판단해 왔다. 그러나 실제 기업 환경에서는 오답에 따른 비용과 답변 거부에 따른 가치가 확연히 다르다. 본 연구에서 애피어는 이런 판단을 정량적으로 평가할 수 있도록 정답에 대한 보상, 오답에 대한 페널티, 답변 거부 비용 등 구조화된 리스크 파라미터(매개변수)를 도입해 다양한 시나리오를 시뮬레이션했다. 이 프레임워크에서 모델은 답변을 생성하기 전 자신의 수행 능력과 확신 수준, 리스크 조건을 종합적으로 고려해 답변, 거부, 추측 중 하나를 선택하도록 설계된다. 이후 모델이 기대 보상을 얼마나 극대화했는지를 기준으로 의사결정의 질을 평가해, 실제 기업 환경에 보다 가까운 조건에서 전략적 판단 능력을 측정할 수 있다. 리스크 인지 의사결정 프레임워크를 적용한 결과, 다수의 선도적 LLM은 리스크 시나리오 전반에서 일관된 판단을 내리지 못하는 것으로 나타났다. 예를 들어 고위험 환경에서 모델들은 잠재적 손실이 있음에도 불구하고 과도하게 추측하는 경향을 보였으며, 저위험 환경에서는 지나치게 보수적으로 작동해 답변을 과하게 거부하는 경향을 보였다. 이러한 비일관성은 기업 환경에서 AI 시스템의 자율성과 안전성을 동시에 저해할 수 있다. 연구진은 이를 단순한 지식 부족이 아니라, 모델이 여러 역량을 하나의 안정적인 의사결정 전략으로 통합하는 데 어려움을 겪기 때문이라고 분석했다. 애피어는 이 문제를 해결하기 위해 의사결정 과정을 세 단계로 나누는 ‘스킬 분해’ 접근법을 제안했다. 먼저 ▲과업 실행 단계에서 문제를 해결해 초기 답변을 생성한다. 이어 ▲확신도 추정 단계에서는 해당 답변에 대한 확신 수준을 평가한다. 마지막으로 ▲기대 가치 추론 단계에서는 리스크 조건에서의 결과를 기반으로 기대값을 추론한다. 이러한 구조화된 추론 과정을 거치면 모델은 답변을 제시하는 것과 거부하는 것 중 어느 선택이 더 적절한지 판단할 수 있다. 이 접근 방식은 모델이 다양한 역량을 효과적으로 통합하도록 하며, 특히 고위험 환경에서도 보다 합리적이고 안정적인 의사결정을 가능하게 한다. 이는 신뢰할 수 있는 엔터프라이즈 AI 시스템을 구축하기 위한 실질적인 접근법으로 활용될 수 있다. 치한 위(Chih-Han Yu) 애피어 CEO 겸 공동창업자는 “에이전틱 AI가 기업의 핵심 업무에 도입되기 위해서는 AI를 더 똑똑하게 만드는 것뿐만 아니라, 자율적 의사결정의 신뢰도를 높이는 것이 중요하다”라며, “애피어는 AI를 중심으로 제품을 구축해 왔으며, 세계적 수준의 연구에도 지속적으로 투자해 왔다. LLM의 리스크 인지 능력을 수치화된 방법론으로 구현한 이번 연구는 신뢰할 수 있는 엔터프라이즈 AI의 기반을 강화하고, 에이전틱 AI가 실제 비즈니스 가치와 ROI로 연결되도록 지원할 것”이라고 말했다. 본 연구 결과는 애드(Ad) 클라우드, 개인화 클라우드, 데이터 클라우드 등 애피어의 에이전틱 AI 기반 플랫폼에 통합되어 기업들이 보다 신뢰 가능하고 안정적인 방식으로 자율형 워크플로를 고도화할 수 있도록 지원하고 있다. 애피어는 앞으로도 강력한 AI 연구 역량과 독자적인 데이터 자산, 깊이 있는 산업 전문성을 바탕으로 에이전틱 AI 기술 혁신을 지속적으로 추진하고, 기업들이 보다 효율적이고 신뢰할 수 있는 AI 기반 운영 체계를 구축할 수 있도록 지원할 계획이다.

“기본이 강한 인재를 양성하는 기본이 강한 조직으로서의 카이스트를 만들어 가도록 하겠습니다.” 지난 7월 1일 취임한 배충식 카이스트 제18대 총장은 10일 대전 카이스트 대강당에서 열린 취임식에서 시종일관 ‘기본’을 강조했다. ‘기본이 강한 글로벌혁신 선도대학’을 새로운 대학 비전으로 선포하며 기본으로 돌아가 조직을 살피고 운영하겠다는 강한 의지를 피력했다. 배 총장은 “기본이 강한 글로벌혁신 선도대학은 기본이 강한 인재를 양성하는 기본이 강한 조직으로서 카이스트를 의미한다”며 “기본이 강한 인재란 존재와 상황을 인식하고 실존을 고민하며 배려심과 영감이 충만한 인간상으로 용기 있고 과학으로 무장한 강인한 사람”이라고 설명했다. 그는 기본이 강한 조직은 효율적이고 빠르며 책임과 역할이 분명하며 합리적으로 결정하는 시스템을 기반으로 한다고 밝혔다. 이를 위해 배 총장은 △모두의 AI(비욘드 AI) △혁신적 연구·창업(비욘드 래버러토리) △효율적이고 열린 대학(비욘드 배리어) △친환경과 지속가능성(비욘드 카본) △세계로, 미래로(비욘드 카이스트)라는 ‘비욘드 5’(Beyond 5) 발전 전략을 제시했다. 인간 중심의 모두를 위한 자율형 인공지능으로 확장하는 선도적 교육·연구 환경을 조성하고 실험실을 넘어 산업계와 사회와 함께하는 글로벌 창업 생태계를 구축하고 투명한 운영과 신뢰 기반의 시스템과 문화를 조성하겠다는 것이다. 또 기후 위기 대응 연구를 강화하는 한편 친환경·탄소중립 캠퍼스를 만들고 국제공동연구를 확대하고 글로벌·지역 혁신 생태계 및 구성원과 연결을 강화할 것을 밝혔다. 배 총장은 ”널리 듣고 치열하게 행동하며 구성원들이 즐겁게 꿈을 펼칠 수 있도록 지원하는 조력자이자 봉사하는 총장이 되겠다”며 “카이스트가 혁신을 넘어 새로운 기준을 만드는 대학, 대한민국 과학기술의 미래를 이끄는 국가혁신 플랫폼이 되도록 발전시키겠다”고 강조했다. 한편 이날 취임식은 강이연 산업디자인학과 교수가 무대 연출을 맡아 기존 취임사 중심 형식에서 벗어나 배 총장이 직접 카이스트 미래 비전과 실행 전략을 설명하는 방식으로 꾸며졌다. 카이스트 졸업생들이 인공지능을 활용해 실제 산업과 연구 현장의 혁신을 이끌고 있는 사례들도 소개해 눈길을 끌었다.

일반인들에게 선보인 지 불과 3년밖에 되지 않았지만 생성형 인공지능(AI)이 없는 세상은 상상하기 어렵게 됐다. 그렇지만 성능이 고도화되면서 인공지능이 인간의 지시 없이 해킹을 시도하는 등의 문제점도 불거지고 있다. 생성형 AI를 넘어 인간의 일을 대신해주는 수준에 이르면 세상은 어떻게 변할까. 그리고 우리는 어떻게 대응해야 할까. 과학기술정보통신부는 이 같은 고민과 걱정, 그리고 해법을 담은 2025년 기술영향평가 결과 보고서 ‘AI 에이전트 시대의 생존 매뉴얼’을 발간했다고 22일 밝혔다. 기술영향평가는 미래 신기술과 기술적, 경제적, 사회적 영향과 파급효과가 큰 기술을 대상으로 매년 전문가와 일반시민이 참여해 기술이 만들 결과를 예측해 사전 대응 방안을 마련하기 위한 제도다. AI 에이전트는 사용자 지시를 이해하는 수준을 넘어 스스로 계획을 수립하고 정보를 탐색하며 다양한 디지털 도구와 서비스를 활용해 지시된 목표를 수행하는 자율형 인공지능 시스템이다. 생성형 AI를 기반으로 등장한 AI 에이전트는 개인 비서, 연구 조력자, 업무 자동화 도구 등으로 활용 범위를 넓히며 사람의 의사결정과 생산 방식의 혁명을 가져다줄 것으로 전망된다. 그렇지만 다른 한편으로는 개인정보 활용 확대, 책임 소재 불명확성, 일자리 구조 변화, 허위정보 확산, 기술 의존 심화 등 다양한 사회적 과제도 제기되고 있다. 자율성이 높아질수록 인간 통제와 감독 방식, AI 판단에 대한 책임 문제, 사회적 신뢰 확보가 중요한 과제로 부상하고 있다. 이에 보고서는 AI 에이전트가 가져올 미래 변화를 인간과의 관계, 노동 변화, 개인정보 보호와 활용, 사회적 수용성과 미래 교육, 주권 및 안보, AI 지속 가능성, 책임, 시민사회와 민주주의 등 다양한 관점에서 살펴보고 인간과 AI가 공존하는 미래 사회의 대응 방향을 제시했다. 보고서는 AI 에이전트 확산에 따라 AI 책임체계 구축, 개인정보 보호 및 활용 제도 개선, AI 시대 인재 양성 및 평생교육 강화, 인간-AI 협업 환경 조성, AI 안전성 및 신뢰성 확보, 디지털 주권과 국가 경쟁력 강화 등의 정책 수립이 시급하다고 제언했다. 이번 보고서는 과기정통부 누리집(www.msit.go.kr)과 한국과학기술기획평가원 누리집(www.kistep.re.kr)에서 전문을 받아볼 수 있다.

세종대학교와 동국대학교가 ‘지능형 사물인터넷(IoT)’ 분야의 융합 인재 양성을 위해 손을 잡았다. 양교는 최근 공동학위제 운영 협약을 체결하고 2027학년도부터 본격적인 시범 운영에 들어간다고 14일 밝혔다. 이번 협약은 교육부 첨단분야 혁신융합대학사업의 일환으로 추진됐다. 양교는 그동안 5개 대학 컨소시엄을 통해 개발한 ‘지능IoT학과 표준교육과정’을 기반으로 공동학위제를 도입한다. 해당 과정을 이수한 학생에게는 양교 총장 공동명의의 학위증이 수여된다. 학생들은 양교 어디서 학습하더라도 동등한 품질의 교육과 학위 가치를 누릴 수 있게 된다. 세종대와 동국대는 이번 협약을 시작으로 교원과 교육과정, 산학 자원을 적극 연계해 지능IoT 분야의 글로벌 경쟁력을 갖춘 핵심 인재를 길러낼 방침이다. 엄종화 세종대 총장은 “전문성과 AI 융합 역량을 갖춘 ‘자율형 사물인터넷’ 시대의 핵심 인재를 양성하겠다”고 밝혔으며 윤재웅 동국대 총장도 “양교의 강점을 결합해 학습 과정에서 동일한 교육 가치를 제공하겠다”고 강조했다. 공동학위제는 세종대와 동국대 시범 운영 성과를 바탕으로 향후 컨소시엄 내 다른 참여 대학으로 단계적으로 확산될 예정이다.

삼성이 3일 경남 진주시 경상국립대에서 개최된 ‘영남권 첨단산업 발전비전 국민보고회’에서 영남을 ‘글로벌 피지컬 인공지능(AI) 혁신 클러스터’로 조성하기 위해 약 60조원을 투자할 계획이라고 밝혔다. 삼성은 제조 AI 선도를 위해 휴머노이드 로봇, 전고체 배터리, AI서버용 패키지 기판∙MLCC(적층세라믹캐패시터), 최첨단 고부가가치선 등을 중심으로 투자할 계획이다. AX와 로봇을 활용, 기존 산업을 최첨단 산업으로 전환해 양질 일자리 20만개를 창출한다는 목표다. 이를 통해 영남을 글로벌 피지컬 AI 혁신 클러스터로 조성한다는 구상이다. 우선 삼성전자와 삼성SDS는 휴머노이드와 제조AX를 접목해 최첨단 미래 제조단지를 구축한다. 구미에 휴머노이드 양산 체계 및 로봇 데이터 팩토리 구축, 제조∙로봇 자동화 산업 핵심 인프라인 AI 데이터센터 신축 등에 투자할 계획이다. 삼성SDI는 전고체 배터리의 세계 최초 양산을 목표로 한다. 울산에 휴머노이드 로봇 등에 탑재되는 전고체 배터리 양산을 추진하고, 에너지저장장치(BESS)용 리튬인산철(LFP)∙나트륨 배터리 양산을 확대할 예정이다. 삼성전기는 AI서버용 패키지 기판∙MLCC 핵심 기지 육성을 추진한다. 부산을 고성능 패키지 기판과 고부가 MLCC 마더라인 핵심 기지로 육성할 계획이다. 아울러 삼성중공업은 최첨단 고부가가치선∙해양 인프라 건조 기지를 조성한다. 거제에 AI팩토리 설비∙로봇∙자율운항 기술 관련 투자를 통해 자율형 조선소를 구축해 나갈 계획이다.

사람이 화장실을 찾아가는 대신 변기가 사람을 찾아오는 시대가 현실이 됐다. 중국에서 거동이 불편한 노인과 장애인을 위한 인공지능(AI) 이동식 배변 보조 로봇이 공개돼 화제를 모으고 있다. 29일 중국 정보기술(IT) 전문매체 IT즈자에 따르면 중국 스마트 돌봄기기 업체 위에반은 최근 열린 ‘2026 상하이 국제 노인복지·보조기기·재활의료 박람회’(AID 2026)에서 AI 배변 보조 로봇 ‘샤오반’을 공개했다. 판매 가격은 2만 8999위안(약 655만원)이다. 위에반은 장애인과 거동이 불편한 사람을 위한 스마트 돌봄기기를 전문으로 개발하는 기업이다. 특히 산업용 로봇과 스마트 제어 기술을 돌봄 분야에 접목해 단순히 사용자의 명령에 반응하는 수준을 넘어 스스로 상황을 판단하고 움직이는 자율형 돌봄 시스템을 구현하는 데 집중하고 있다. 샤오반은 거동이 불편한 사람이 직접 화장실까지 이동하는 대신 로봇이 사용자를 찾아가 배변을 돕는 제품이다. 회사는 기존의 ‘사람이 변기를 찾는 방식’을 ‘변기가 사람을 찾아가는 방식’으로 바꿨다고 소개했다. 호출을 받으면 샤오반은 침대나 소파 옆까지 스스로 이동한다. AI 제어 칩과 라이다(LiDAR), 레이저 센서, 초음파 센서 등을 이용해 집 안 구조를 실시간으로 파악하고 사람이나 가구 같은 장애물을 피해 목적지까지 자율주행한다. 집 안에 설치된 양변기는 물론 중국식 재래식 화장실 위치까지 기억해 정확하게 접근할 수 있으며, 기존 배수시설을 그대로 사용할 수 있어 별도의 배관 공사도 필요하지 않다는 게 회사 측 설명이다. 배설물 처리 역시 자동으로 이뤄진다. 사용이 끝나면 배설물은 내부 밀폐 탱크에 저장되고, 로봇이 스스로 도킹 스테이션으로 이동해 하수관으로 배출한다. 저소음 분쇄 장치가 함께 작동해 배관이 막히는 것을 줄여준다. 청소도 사용자가 직접 할 필요가 없다. 내부를 자동으로 세척한 뒤 살균까지 마치며 거품과 밀폐형 오수통, 활성탄 탈취 시스템이 함께 작동해 냄새가 밖으로 퍼지는 것도 막는다. 사용이 끝나면 뚜껑을 닫고 물을 내리는 과정까지 자동으로 진행된다. 조작은 최대한 간단하게 만들었다. 큰 버튼이 달린 전용 리모컨과 인터넷 연결이 필요 없는 음성 명령 기능을 지원하며 손잡이에는 응급 상황에 대비한 비상 호출 버튼도 마련했다. 중국은 세계에서 가장 빠르게 고령화가 진행되는 국가 가운데 하나다. 돌봄 인력 부족 문제가 커지면서 최근에는 AI와 로봇 기술을 접목한 스마트 돌봄기기가 잇따라 등장하고 있다. 샤오반은 단순한 이동식 변기를 넘어 사용자를 직접 찾아가 배변을 돕고 배설물 처리와 세척까지 스스로 해결하는 새로운 형태의 돌봄 로봇이라는 점에서 관심을 끌고 있다.

조종사가 탄 전투기보다 무인기가 먼저 위험 지역으로 들어가 적 방공망을 흔드는 미래 공중전 구상이 한국형 전투기 KF-21을 중심으로 구체화하고 있다. 한국항공우주산업(KAI)이 KF-21과 협동 전투 무인기(로열 윙맨)를 연동한 차세대 공중전투체계를 공개하면서 한국 공군의 미래 전력 구상도 한층 선명해졌다. KAI는 9일부터 11일까지 대전컨벤션센터에서 열리는 ‘2026 대한민국 국방산업발전대전’에 참가해 유·무인 복합체계(MUM-T)와 인공지능(AI)·디지털 기반 국방 솔루션을 선보인다고 밝혔다. 이번 전시에서 KAI는 AI 기반 차세대 공중전투체계(NACS), 회전익 무인자율전투체계(ROMACS), 지원장비체계 등을 앞세웠다. 핵심은 KF-21과 중형급 무인전투기(MUCCA), 소형급 다목적 무인기(SUCA)를 하나의 작전망으로 묶는 구상이다. MUCCA는 유인전투기와 함께 작전하는 무인전투기, SUCA는 지상·공중 발사가 가능한 소형 무인기로 정찰·전자전·기만·통신중계·자폭 공격 임무를 맡는다. 이 체계가 현실화하면 KF-21은 위험 지역 바깥에서 전체 임무를 지휘하고 무인기들은 앞서 들어가 적 레이더와 방공망을 교란한다. 필요하면 표적을 탐지하거나 직접 타격 임무도 수행한다. 유인기의 생존성을 높이면서 감시·전자전·타격 범위를 동시에 넓히는 방식이다. 전투기 옆 무인기…KF-21 역할도 바뀐다 KAI가 공개한 NACS는 KF-21을 단순한 4.5세대 전투기가 아니라 여러 무인 전력을 연결하는 공중 지휘 플랫폼으로 확장하려는 구상에 가깝다. KAI는 고성능 센서 네트워크와 AI 기반 자율 임무 수행 능력을 결합해 조종사의 부담을 줄이고 공중전의 작전 반경을 넓히겠다는 전략을 제시했다. 외신도 한국형 협동 전투 무인기 구상에 주목해왔다. 항공 전문매체 AIN은 지난 2월 싱가포르 에어쇼에서 KAI가 MUCCA와 SUCA 모델을 전시하며 한국형 협동 전투 항공기 개념을 국제 무대에 선보였다고 보도했다. AIN은 MUCCA를 대형 협동 전투 항공기로 설명하면서 이 기체가 더 작은 SUCA를 공중 발사할 수 있는 개념이라고 전했다. 군사 전문매체 아미 레커그니션도 KAI가 리야드 월드디펜스쇼에서 MUCCA를 공개하고 걸프 지역 공군을 겨냥한 다목적 윙맨 플랫폼으로 제시했다고 평가했다. 이 매체는 MUCCA가 전투기 호위, 정밀타격, 센서 운용 등 여러 임무를 맡을 수 있는 모듈형 무인 전력이라고 분석했다. 세계 주요 공군도 같은 방향으로 움직이고 있다. 미국, 호주, 영국, 일본 등은 유인 전투기와 무인기를 한 팀으로 묶는 협동 전투 항공기 개발을 서두르고 있다. 스텔스 전투기 한 대의 가격이 치솟고 조종사 손실 부담이 커지면서 상대적으로 저렴한 무인기를 위험 임무에 먼저 투입하려는 흐름이 빨라졌다. 조종사 한 명이 무인기 편대 지휘하는 시대 미국 군사 전문 매체 디펜스 뉴스는 앞서 한국 공군이 KF-21 단좌형과 복좌형을 모두 확보할 계획이며 복좌형 KF-21이 향후 블록-III 단계에서 유·무인 복합전투체계 임무에 활용될 수 있다고 보도했다. 뒷좌석 조종사나 AI가 무인기를 통제하는 방식이다. 이 구상이 현실화하면 KF-21은 직접 교전하는 전투기를 넘어 무인기 편대를 통제하는 공중 지휘 플랫폼으로 역할을 넓힌다. KAI는 회전익 분야에서도 같은 방향을 제시했다. 이번 전시에서는 소형무장헬기(LAH)에 MUM-T 개념을 적용한 전시 모형도 공개했다. 이는 고정익 전투기뿐 아니라 헬기 전력까지 무인기와 연결해 운용하겠다는 뜻이다. 지원체계도 함께 바뀐다. KAI는 AI 기술을 활용한 자율형 정비예측 시스템과 디지털 기술교범 등 종합군수지원(IPS) 솔루션도 전시했다. 전투기와 무인기가 복잡하게 연결될수록 정비와 운용 데이터를 실시간으로 관리하는 능력도 중요해진다. 김종출 KAI 사장은 이번 전시가 KAI의 미래 전장 청사진을 담은 자리라며 차세대 무인 전력과 AI 기반 하드웨어·소프트웨어 융합 기술력을 바탕으로 디지털 IPS 체계를 고도화하겠다고 밝혔다. KF-21은 올해부터 양산 단계에 들어서며 한국 공군의 핵심 전력으로 자리 잡고 있다. 협동 전투 무인기와 AI 기반 지휘체계가 더해지면 한국형 전투기는 단순 국산 전투기를 넘어 미래 공중전의 중심 플랫폼으로 확장될 수 있다. 다음 공중전은 전투기 혼자 싸우는 방식이 아니라 유인기와 무인기가 한 팀으로 움직이는 체계 경쟁이 될 가능성이 크다.

방한 중인 젠슨 황 엔비디아 최고경영자(CEO)가 18년 만에 서울대를 방문해 서울대를 방문해 “인공지능(AI) 혁명의 기회를 붙잡으라”라며 학생들을 격려했다. 황 CEO는 8일 서울대 해동첨단공학관에서 열린 ‘빌드 어 클로’(Build a Claw) 행사에 참여해 학생들을 만났다. 이 행사는 엔비디아와 서울대가 공동으로 주최한 것으로, 학생들이 자율형 인공지능(AI) 에이전트를 직접 설계하는 행사다. 황 CEO는 한국의 젊은 인재들을 직접 만나고 싶다며 이날 행사에 방문했다. 1000여 명의 학생들이 몰린 행사는 황 CEO가 도착하기 2시간 전부터 건물 바깥까지 줄을 서는 등 열띤 분위기에서 진행됐다. 황 CEO는 이날 연설에서 한국에 대해 “뛰어난 전자·기계공학 산업과 클라우드·모바일 기술, AI 역량을 동시에 갖춘 나라는 많지 않다”며 “이 모든 것을 갖춘 한국에서 성장하는 여러분이 부럽다”고 했다. 이어 “요즘은 무엇이든 앞에 K만 붙이면 인기를 얻는다”며 자신을 ‘K-젠슨’이라고 불러달라고 말해 환호를 이끌었다. 아울러 학생들에게 “제 젊은 시절 컴퓨터 혁명이 시작됐듯, 여러분도 AI 혁명의 출발점에 서 있다”며 “이 엄청난 기회를 꼭 붙잡길 바란다”고 강조했다. 앞서 황 CEO는 엔비디아가 AI로 주목받기 이전인 2008년 서울대에서 ‘비주얼 컴퓨팅의 미래’ 특강을 진행하며 컴퓨터의 미래가 중앙처리장치(CPU)에서 그래픽처리장치(GPU) 중심으로 옮겨갈 것이라는 비전을 제시하기도 했다. 황 CEO는 이날 추첨을 통해 학생들에게 친필 사인이 담긴 개인용 AI 슈퍼컴퓨터 ‘DGX 스파크’와 가을 출시 예정인 게임용 노트북 ‘RTX 스파크’ 등을 선물했다.

• STEG의 플랫폼과 솔루션에 LG AI연구원의 엑사원 결합해 AI 전환 선도• 공공·금융·엔터프라이즈 환경에서 즉시 활용 가능한 AI SM(자율형 운영) 제공 계획 IT서비스관리(ITSM) 전문기업 에스티이지(대표 임현길, 이하 STEG)는 LG AI연구원과 B2B 인공지능(AI) 사업 협력을 위한 전략적 파트너십을 체결했다고 27일 밝혔다. 이번 협력은 기업 및 기관의 AI 활용도를 제고하고 국내 AI 생태계를 확대하기 위해 추진됐다. 양사는 STEG의 플랫폼과 솔루션에 LG AI연구원의 초거대 모델 ‘엑사원 4.0’을 결합해 AI 전환을 진행할 방침이다. 엑사원 4.0은 빠른 답변에 강점이 있는 언어 모델(LLM)과 문제 해결 능력을 갖춘 추론 AI 모델을 융합한 하이브리드 AI 모델이다. 해당 모델은 글로벌 AI 지수 평가에서 전 세계 11위, 국내 1위의 순위를 기록한 바 있다. STEG는 먼저 ITSM 솔루션 ‘E-GENE™ ITSM’에 엑사원을 적용해 서비스 요청(SR) 처리, 장애 대응 등 워크플로우 전반에 걸쳐 AI SM(Service Management)을 강화한다. 특히 자연어 이해, 지식 기반 응답, 문제 해결 등 엑사원의 강점을 살려 공공·금융·엔터프라이즈 환경에서 즉시 활용 가능한 자율형 운영을 제공한다는 계획이다. 나아가 노코드 워크플로우 플랫폼 ‘E-GENE™’은 물론, 인사·총무·재무·영업 등 비 IT 업무를 포괄하는 ESM(엔터프라이즈 서비스 관리)까지 AI SM 운영을 단계적으로 확장한다. 임현길 STEG 대표는 “STEG의 AI SM은 AI 도입률과 생산성을 측정할 수 있으며, 데이터와 인사이트를 바탕으로 실질적 AI 전환을 가능하게 한다”며 “LG AI연구원의 독보적인 AI 기술과 결합해 기업의 IT 운영 지능을 고도화할 것”이라고 밝혔다.

금융당국이 고성능 인공지능(AI) 시대 보안 위협에 대응하기 위해 일부 대형 금융회사에 대해 망분리 규제를 한시적으로 풀기로 했다. 금융위원회는 지난 22일 권대영 부위원장 주재로 금융권 정보보호최고책임자(CISO), AI·보안 전문가들과 간담회를 열고 금융권 AI 보안 강화 및 망분리 규제 완화 방안을 논의했다고 24일 밝혔다. 현재 금융권은 업무망과 외부 인터넷망을 물리적으로 분리하는 ‘망분리 규제’를 적용받고 있다. 금융위는 생성형 AI와 자율형 AI 확산으로 기존 폐쇄형 보안 체계만으로는 대응이 어려워지면서, 고성능 AI를 활용한 실시간 보안 대응 필요성이 커지고 있다고 설명했다. 이에 따라 정부는 일정 수준 이상의 보안 역량과 AI 활용 능력을 갖춘 금융회사에 한해 망분리 규제를 1년간 한시적으로 완화하기로 했다. 대상은 총자산 10조원 이상, 상시 종업원 1000명 이상, 전담 정보보호최고책임자(CISO)를 둔 금융회사 등 49곳이다. 금융위는 향후 보안 역량과 AI 활용 능력이 충분히 검증된 금융사에 대해서는 망분리 규제를 전면 해제하는 방안도 검토하고 있다. AI를 활용한 챗봇 상담, 자산관리, 여신심사, 기업금융, 내부통제 등 금융서비스 혁신을 적극 지원하겠다는 구상이다. 중소형 금융회사 지원책도 함께 추진된다. 금융위는 ‘금융 AI보안연구소’와 ‘AI보안 지원센터’를 신설해 AI 기반 보안 위협 대응을 지원하고, 다음 달 중 금융권 AI 보안 가이드라인도 마련할 예정이다. 권 부위원장은 “망분리 규제 완화를 계기로 금융권에서 선도적이고 혁신적인 AI 활용 사례가 많이 나오길 바란다”고 말했다.

해커 조력 넘어 실전형 무기 제작北 ‘APT45’·中·러 이미 투입 정황압도적인 속도… ‘방어 공백’ 우려정부, 앤스로픽과 국제 공조 논의 인공지능(AI)이 인간 해커의 조력자 역할을 넘어 직접 ‘사이버 무기’를 만드는 단계에 들어섰다. 최근 앤스로픽의 차세대 AI 에이전트 ‘미토스(Mythos)’가 촉발한 이른바 ‘미토스 쇼크’에 이어, 보안 패치가 나오기 전의 치명적 취약점인 ‘제로데이(Zero-day)’를 AI가 스스로 찾아내 공격 코드 생성 과정에 활용한 사례가 처음 포착된 것이다. 북한 등이 AI를 사이버 전장에 투입하는 정황도 드러나고 있다. 구글 위협인텔리전스그룹(GTIG)은 11일(현지시간) 보고서에서 AI를 활용해 제작된 것으로 추정되는 제로데이 공격 코드를 세계 최초로 포착했다고 밝혔다. 해커가 AI를 활용해 미지의 취약점을 공략하는 공격 도구를 설계하고 실제 공격에 활용하려 한 정황이 확인된 것이다. 국가 배후 해킹 세력들도 AI를 단순한 보조 도구가 아닌 ‘실전형 공격 무기’로 활용하기 시작했다. 북한의 해킹 그룹 ‘APT45’(구글 자체 호칭)의 활동은 해킹의 자동화·대량화 흐름을 보여준다. 이들은 AI 모델을 활용해 취약점 탐색과 공격 준비 과정을 자동화했다. 과거 해커들이 수천 줄의 코드를 직접 분석하며 약점을 찾았다면, AI가 반복적으로 코드를 검증·분석하며 취약점을 탐색한다. 중국 연계 세력은 ‘자율형 AI’ 도구를 활용해 일본 기술 기업 등을 대상으로 지속적인 정찰 활동을 수행한 것으로 파악됐다. 한 번 목표를 설정하면 AI가 공격 시나리오를 스스로 수정하며 취약점을 탐색하는 방식이다. 일부 AI 기반 공격 도구는 실행 과정에서 AI 모델을 실시간 호출해 코드를 변형하거나 탐지를 우회하는 방식까지 발전하고 있는 것으로 전해졌다. 러시아는 AI를 심리전에 접목했다. 실제 뉴스 영상에 정교하게 조작된 딥페이크 음성을 결합해 미국과 우크라이나 시민들을 겨냥한 허위 정보 유포 작전에 활용했다. 보안 업계가 제로데이 공격을 심각하게 보는 이유는 AI의 압도적인 속도 때문이다. 숙련된 해커가 며칠씩 매달려야 했던 복잡한 코드 분석 작업도 AI를 활용하면 단시간 내 처리할 수 있다. 생소한 프로그래밍 언어 역시 AI를 통해 빠르게 분석한 뒤 공격 코드를 제작할 수 있다. 방어 체계가 대응책을 마련하기도 전에 공격이 먼저 이뤄지는 ‘방어 공백’ 우려가 현실화할 수 있다는 경고다. 해커들이 최첨단 AI 모델에 익명으로 접근하려 신원 세탁 도구와 계정 자동화 프로그램까지 동원하는 상황에서 구글 역시 AI 기반 방어 체계로 대응에 나섰다. 구글은 ‘빅 슬립(Big Sleep)’과 ‘코드멘더(CodeMender)’ 등 보안 특화 AI 에이전트를 실전에 배치했다. 이들은 해커보다 한발 앞서 소프트웨어 취약점을 탐지하고, 발견 즉시 코드를 자동 수정한다. 인간 보안 전문가의 경험과 수작업만으로는 AI의 속도 우위를 따라가기 어렵다는 판단에서다. 우리나라 정부도 최근 앤스로픽과 만나 AI 기반 보안 위협 대응과 국제 공조 방안을 논의했다.

인류는 250년 전 증기기관의 발명과 1차 산업혁명으로 근육을 대체할 수 있게 됐다. 그리고 지금 진행되는 인공지능(AI) 혁명을 통해 처음으로 뇌를 대체할 수 있게 됐다. 특히 인간 생명을 다루는 의료는 AI 기술 활용이 절실한 분야다. 구글 딥마인드가 2016년 AI를 이용해 안과 전문의 수준으로 당뇨망막병증의 진단 능력을 입증했으며 2020년에는 미 식품의약국(FDA)이 의사의 최종 판독 없이 작동할 수 있는 최초의 자율형 AI 의료기기를 승인했다. 현재는 인간의 마음을 읽고 위로하는 수준까지 도달했다. 마음속 고민이나, 누군가에게 말하기 힘든 답답한 이야기를 듣고 진정시키는 능력까지 뛰어나다. 우울증이나 공황장애 환자들에게 인지행동 치료를 하는 디지털 치료제, 독거노인의 말동무가 되는 노인 돌봄 로봇 등으로 활용되고 있다. 영상 진단 분야도 두드러진다. 미 미시간대 연구팀이 개발한 AI 모델은 자기공명영상(MRI)을 수초 만에 분석해 신경 질환을 97.5%의 정확도로 진단한다. 기존 데이터와 환자 병력을 분석해 신속한 피드백을 제공하고 긴급 치료가 필요하면 의료진에게 즉각적으로 경고를 보낸다. 웨어러블 기기와 의료 사물인터넷(IoMT)을 통해 생체 신호가 실시간으로 병원에 전송돼 만성질환자의 관리를 더 정밀하게 할 수 있다. 환자의 유전적 특성과 생활 습관에 맞춘 초개인화 의료도 가능해졌다. 과거 몇 주 걸리던 유전체 분석이 AI 덕분에 몇 시간 만에 완료되고 있다. 수술실에서도 AI의 발전이 눈부시다. AI는 환자의 장기를 가상으로 구현한 디지털 트윈 기술을 활용해 수술 경로를 시뮬레이션하고, 가장 안전한 방법을 제안한다. 전공의들을 교육하는 용도로도 유익하다. AI 기반 수술 로봇은 의사의 손기술에 AI의 정밀함을 더해 출혈과 합병증을 줄이고 있다. 구글 알파고는 2016년 이세돌 9단과의 바둑에서 1패를 당하면서 기보로 남은 74번의 대결에서 73승 1패를 거뒀다. 그러나 2017년 발표된 알파고 제로는 72시간 독학 뒤 기존 알파고와 대결해 100전 100승을 기록했다. 알파고 제로가 한 수에 0.4초 걸리는 초속기 바둑으로 490만판을 혼자 두며 연구한 결과다. 기존 알파고는 수많은 바둑 대국의 기록을 학습시켜서 나온 결과인 데 반해 알파고 제로는 바둑의 규칙을 가르쳐 준 후에 스스로 학습했다. 기존 AI 로봇 수술은 수많은 수술 기록을 입력해 다양한 상황에 대처하는 방식으로 개발해 왔다. 그러나 이제는 AI에게 해부학적인 구조와 수술의 원리만 가르쳐 주면 스스로 학습해 뛰어난 성적의 수술이 가능해질 수 있다는 가능성을 시사한다. 빌 게이츠는 2015년 방한에서 AI는 의료 부문에서 매우 중요하다고 하며 가장 가난한 사람이 AI의 혜택을 보는 데 20년 정도 늦어진다고 했다. 빌 게이츠 재단의 목적은 가난한 계층이 동등하거나 또는 먼저 AI의 혜택을 보게 하는 것이다. 국내 최대 규모의 공공병원인 서울의료원이 AI 도입을 서두르는 이유와 정확히 일치한다. 의료 서비스의 거의 전부를 공공의료에 의존하는 영국 국민건강서비스(NHS)는 1000개 가까운 산하 병원에서 사용되는 수많은 종류의 프로그램을 통합 관리하기 위해 팔란티어 제품을 도입했다. 우리도 서울의료원을 시작으로 공공병원의 AI 도입을 적극적으로 시도하고 상호 간 네트워크를 형성하는 것을 진지하게 고민할 시점이다. 이현석 서울의료원장

한국공학대학교(총장 황수성)와 경기 시흥 함현고등학교(교장 김상숙)가 7일 한국공학대에서 ‘지역혁신 성장 교육협력 체계 구축’을 위한 업무협약(MOU)을 체결했다. 이번 협약은 자율형 공립고 2.0 운영 취지에 맞춰 지역 교육 인프라를 연계하고, 심화 교육과정 운영과 학교 교육 혁신을 지원하기 위해 마련됐다. 협약에 따라 두 학교는 일반고 교육역량 강화를 위한 지역 기반 교육 협력 모델을 구축할 계획이다. 주요 협력 분야는 △고교 단계 연계 교육 운영 △공학·AI·SW·융합교육 지원 △대학 연구시설 및 메이커스페이스 활용 △대학생·교수 멘토링 △심화 캠프 및 공동 연구 프로젝트 운영 △교사 연수 및 공동 교육자료 개발 등이다. 한국공학대는 반도체 장비와 실험실 등 대학의 첨단 연구 인프라를 고교생들에게 개방해 실제 산업과 연계된 실습·체험 중심 교육을 지원할 예정이다. 또 ‘고교교육기여대학지원사업’과 연계해 전공 교수 특강, 동아리 연계 체험활동, 캠퍼스 투어 등 다양한 프로그램도 확대 운영할 계획이다. 황수성 한국공학대 총장은 “지역의 유일한 4년제 공학대학으로서 함현고와의 협력을 통해 자율형 공립고 2.0 운영 취지에 맞는 지역 연계 교육 모델을 구축하겠다”며 “앞으로도 우수한 지역 인재 양성과 지역사회 발전에 기여하는 대학의 역할을 다하겠다”고 밝혔다.

스스로 허점 찾아 침투하는 AI‘최강 보안’ OS 27년 된 버그 찾아내기존 500만번 놓친 취약점도 포착해킹 재현 평가서도 압도적 성적글로벌 금융 안보 위기美 재무부·연준, 월가와 긴급회의영국·캐나다 등도 대책 마련 나서금감원, 금융사들과 대응 방안 점검 전세계 최상위 테크 전문가들이 철통 보안이라 자부하며 27년 동안 검증해온 운영체제(OS)의 방어선이 인공지능(AI) 앞에서 단 몇 시간 만에 무너졌다. 난공불락의 성벽을 무너뜨린 주인공은 AI 스타트업 앤스로픽이 최근 공개한 차세대 모델 ‘미토스’(Mythos)다. 보안 체계의 붕괴를 우려한 미국, 캐나다, 영국 등은 금융기관들과 보안 점검 및 긴급 협의에 나섰고 우리나라 금융감독원도 대응 방안을 점검했다. 13일 AI 업계에 따르면 미토스는 복잡한 소프트웨어의 설계 구조를 인간 전문가 수준으로 추론해 보안 취약점을 스스로 찾아내고 침투 경로까지 설계하는 이른바 ‘자율형 보안 지능’이다. 미토스의 위력은 보안 결함을 즉각 해킹 도구로 무기화하는 자율성에 있다. 사람이 침투 경로를 지시해야 했던 과거 모델과 달리, 미토스는 “약점을 찾아 침투하라”는 단 한 줄의 명령만으로 취약점 분석부터 실제 공격 코드(익스플로잇) 제작까지 전 과정을 스스로 완수한다. 앤스로픽에 따르면 미토스는 보안이 강력하기로 유명한 ‘오픈BSD’에서 27년 된 버그를 찾아냈고, 기존 도구가 500만 번 넘게 놓쳤던 취약점까지 단번에 포착했다. 특히 격리된 가상 환경을 스스로 탈출해 활동 흔적을 지우는 등 통제를 벗어난 지능을 보이기도 했다. 이런 파괴력의 본질은 AI가 단순히 데이터를 찾는 수준을 넘어 스스로 허점을 찾아 ‘사고’하고 ‘침투’하는 단계에 진입했음을 의미한다. 미토스는 박사급 전문가용 추론 시험인 ‘인류의 마지막 시험’(HLE)에서 사상 최초로 50%의 벽을 넘긴 56.8%를 기록했으며, 해킹 재현 평가에서도 83.1%라는 압도적 성적을 거뒀다. 소프트웨어 설계 구조를 꿰뚫어 보고 파괴적인 결함을 스스로 추론해낼 수 있는 ‘지능형 저격수’로 진화한 것이다. 글로벌 금융계는 안보 위기에 직면하게 됐다. 한 곳의 구멍만 뚫려도 결제와 송금이 얽힌 거대한 인프라 전체가 마비될 위험이 크기 때문이다. 미국 재무부와 연준(Fed) 수뇌부는 지난 7일(현지시간) 월가 주요 은행 최고경영자(CEO)들을 긴급 소집해 금융 시스템 방어를 위해 미토스를 활용하라고 강력 권고했다. 해커들이 미토스급 AI를 확보하기 전에 금융권이 먼저 ‘지능형 방패’를 구축하라는 취지다. JD 밴스 미 부통령과 스콧 베센트 재무장관은 주요 AI 기업 CEO들과 비공개 회의를 열어 사이버 공격 대응책을 점검했고, 백악관은 국가 핵심 시설의 보안 취약성에 대해 전수 조사에 착수했다. 12일에는 ‘프로젝트 글래스윙’이 공식 출범했다. 이는 글로벌 빅테크 및 금융사 50여개가 참여해 해커보다 먼저 시스템의 구멍을 찾아 메우겠다는 ‘선제적 방어 카르텔’ 성격이다. 파이낸셜타임스는 영국 금융 규제 당국이 정부 보안 기관 및 주요 은행들과 긴급 회담을 열었다고 보도했고 블룸버그통신은 캐나다에서도 중앙은행과 금융사들이 관련 문제로 회동했다고 전했다. 글로벌 안보 지형이 급변하자 금융감독원은 이날 국내 은행 등 주요 금융사 정보보안 담당 실무자들을 긴급 소집해 AI발 보안 위협과 대응 방안을 점검했다. 글로벌 금융 시스템이 촘촘히 연결된 만큼, 미토스가 발견한 수천 개의 결함이 국내 금융망으로 전이되어 예금 인출 사태(뱅크런)나 유동성 위기를 초래할 시나리오를 선제적으로 살피기 위한 행보로 풀이된다. 전문가들은 AI 정책의 무게중심을 ‘산업 육성’에서 ‘국가 리스크 관리’로 즉시 재정립해야 한다고 조언했다. 한 보안 전문가는 “AI가 취약점 탐지와 공격 자동화를 동시에 수행하면서 보안 정책은 활용 전략보다 우선순위에 놓여야 하는 항목이 됐다”며 “금융권 대상 AI 공격 시나리오 구축과 범정부 차원의 통합 대응 체계 마련이 시급하다”고 강조했다.