오픈AI가 보안 등급 ‘위험’(Critical) 단계로 평가된 새 AI 모델 ‘아스트라’를 공개했다. 오픈AI는 아스트라가 인간이 컴퓨터로 할 수 있는 대부분의 업무를 대신할 수 있다며 사실상 범용인공지능(AGI) 시대의 시작을 선언했다. 다만, 해킹 등 악용 가능성이 확인된 모델을 상용화하면서 ‘강력한 AI를 어디까지 허용할 것인가’에 대한 우려도 커지고 있다. 오픈AI는 한 달여 전부터 출시를 예고했던 AI 모델 ‘GPT-6 아스트라’를 3일(현지시간) 정식으로 공개했다. 그레그 브록먼 오픈AI 사장은 이 모델이 “인간이 컴퓨터로 할 수 있는 일이라면 무엇이든 할 수 있다”고 밝혔다. 대부분의 작업을 인간 이상 수준으로 해낼 수 있는 AGI의 초기 버전으로 간주하는 것이 타당하다고 덧붙였다. 오픈AI는 아스트라가 인간이 작업했을 때 30분가량 소요되는 애완동물 위탁 돌봄 검색을 5분 27초 만에 완수했다. 인간이 5시간을 할애해야 하는 구직 정보 검색은 2분 51초 만에 끝마쳤다고 소개했다. 코딩 능력을 측정하는 ‘터미널-벤치 4.0’, ‘딥SWE v1.1’ 등 성능 지표(벤치마크)에서는 최근 출시된 라이벌 앤트로픽의 클로드 페이블5.1을 능가하는 점수를 기록하는 등 수치로 성능을 입증하기도 했다. 그러나 모델의 성능이 높아지면서 사이버 보안 관련 위험성도 그만큼 높아졌다. 오픈AI는 아스트라의 위험성을 인정하면서도 통제할 수 있는 안전장치를 마련했으니 제한적으로 출시한다는 입장이지만 도의 사이버 공격 능력을 갖춘 AI의 상용화에 대한 우려는 과제로 남을 것으로 보인다. 앞서 아스트라는 오픈AI의 모델 가운데 처음으로 사이버 보안 평가에서 ‘위험’ 등급을 받았다. 인간이 명시적인 가이드라인을 주지 않아도 AI 스스로 취약점을 발견해 공격 도구를 만들 수 있다는 뜻이다. 특히 아스트라는 자신의 사고 과정(CoT)을 완벽하게 숨기거나 통제해 인간의 감시를 회피하는 능력도 강화됐다고 오픈AI는 밝혔다. 감시를 우회해야 하는 상황에서는 고의로 오답을 내 평가자를 속이거나, 부적절한 행위를 은폐하기도 한다는 것이다. 오픈AI는 이에 따라 모델의 사고 과정뿐 아니라 모델이 인간의 뜻에 맞게 동작하는지를 지켜보는 정렬(Alignment) 감시 기능을 추가 도입했다고 설명했다. 또 오픈AI는 아스트라의 해킹 능력을 방어 목적으로 전환하고 오용 위험을 줄이기 위해 역대 최대 규모인 10억 달러(약 1조 3500억원) 규모의 사이버 보안 방어 보조 프로그램 ‘최전선 방어자를 위한 데이브레이크’를 동시에 발표했다.

이용자 계정 3954만개에 담긴 정보가 유출된 티빙이 개인정보 침해 사고에 공식 사과했다. 또 이용자들에게 안심보험 가입과 5000포인트 제공 등의 보상안도 제시했다. 최주희 티빙 대표는 3일 서울 광화문 코리아나호텔에서 열린 설명회에서 “이번 침해 사고로 고객 여러분께 심려와 불안을 끼쳐드린 점 진심으로 사과드린다”고 밝혔다. 이어 “안전한 서비스를 제공하지 못한 데 대해 대표이사로서 무거운 책임을 느낀다”면서 “조사 결과를 겸허히 받아들이고 필요한 시정 조치와 재발 방지 대책을 끝까지 이행하며, 보안 체계 전반을 근본부터 다시 세우겠다”고 덧붙였다. 티빙은 2030년까지 정보보호 투자를 직전 5년 대비 약 4배로 확대하는 등 보안 체계를 전면 강화하기로 했다. 인증과 접근 통제를 강화하는 ‘제로 트러스트’ 기반의 보안 체계 구축과 인공지능(AI) 기반 이상 징후 탐지와 실시간 대응 시스템 고도화에 나선다. 보안 전문 인력을 향후 5년간 현재의 3배 수준으로 늘리고, 최고경영자(CEO) 직속의 ‘정보보호혁신 자문위원회’를 신설해 외부 전문가의 검증과 조언을 받는다는 방침이다. 또 CEO와 정보보호 최고책임자(CISO), 개인정보보호책임자(CPO)를 중심으로 보안 거버넌스도 강화한다. “전문 인력 3배 확충…보안체계 강화”이용자들에 대한 보상안도 제시했다. 티빙은 해킹·피싱 등에 따른 사이버 금융사기 등을 1인당 최대 300만원까지 보상하는 안심 보험을 1년간 제공한다고 밝혔다. 티빙 측은 이에 대해 “피해 보상과 직결되지 않더라도 고객이 안심할 수 있도록 하는 데 기여할 수 있을 것”이라고 취지를 설명했다. 또 이용자들은 ▲5000원 상당 티빙 포인트 ▲프리미엄급 시청 환경(4K 화질·기기 4대 동시 시청·400회 내려받기) 업그레이드 ▲엔터테인먼트 쿠폰(웨이브 광고형 1개월 구독권과 CGV 콤보 3종 5000원 할인 중 선택)을 받을 수 있다. 이달 7일부터 30일까지 신청하면 다음 달 6일부터 이용할 수 있다. 앞서 과학기술정보통신부는 이날 정부서울청사에서 지난 5월 발생한 티빙의 개인정보 유출 사고 관련 민관합동조사단 조사 결과를 발표하고 3954만개에 달하는 계정의 정보가 유출됐다고 밝혔다. 유출된 항목은 성명·생년월일·휴대전화번호·이메일 주소·연계정보(CI) 등 20개 항목(70종)이다. 또한 소스 코드가 포함된 기술 자산 361건(30.35GB 규모)도 유출됐다. 조사단은 공격자가 지난 5월 29일부터 3일에 걸쳐 개발자의 ‘개발환경 접속키’를 사전에 탈취한 뒤 개발환경에 무단 접속해 프로젝트를 유출한 것으로 파악했다. 소스코드 내에 저장된 ‘운영환경 접속키’ 43개를 추가 확보해 운영환경(아마존웹서비스·AWS)까지 침투했다는 설명이다. 조사단은 탈취 경로 확인을 위해 개발자 단말기 포렌식 분석으로 다양한 공격 시나리오를 정밀 분석했으나 확인이 불가능했다고 전했다. 다만 운영환경 접속키를 별도 분리 보관하지 않고, 이용자 정보가 저장된 데이터베이스에 접근할 수 있는 접속정보를 암호화하지 않은 등 관리체계의 문제점을 확인했다고 조사단은 설명했다. 또한 티빙이 침해사고를 인지한 뒤 24시간이 지난 뒤에야 한국인터넷진흥원(KISA)에 신고해 정보통신망법 위반에 따른 과태료(최대 3000만원)가 부과될 예정이다. 과기정통부는 티빙에 이달까지 재발 방지 이행계획 제출을 요구하고 내년 1월부터 이행점검에 나설 계획이다.

세계의 인공지능(AI) 혁신을 이끌고 있는 미국 빅테크들이 AI 패권 경쟁과 안전성 확보 사이에서 규제의 딜레마에 빠졌다. 중국의 추격에 규제를 완화해 속도전을 벌여야 하지만, 그럴수록 해킹 등 악용 위협도 커질 수밖에 없어 각국의 고민이 깊어지고 있다. AFP통신에 따르면 일론 머스크 테슬라·스페이스X 최고경영자(CEO) 등 미국의 AI 리더들은 1일(현지시간) 노스캐롤라이나주에서 열린 주요 20개국(G20) 기술장관 회의에서 AI 규제를 완화해야 한다고 입을 모았다. 머스크 CEO는 “혁신은 규제로부터 자유로워야 하고, 새로운 (기술은) ‘원칙적 불법’이 아닌 ‘원칙적 합법’으로 허용돼야 한다”고 밝혔다. 머스크 CEO는 유럽연합(EU)을 콕 집어 “EU에서는 통상 신기술이 원칙적으로 불법 취급을 받고 있어 발전 속도가 더디다”고 지적했다. 이어 “전력 부족 때문에 AI 주도권이 중국으로 넘어갈 수도 있다”며 위기감을 드러냈다. 마크 저커버그 메타 CEO도 “오픈웨이트(가중치 개방형) AI 모델을 규제해선 안 된다”고 주장했다. 이날 회의를 주도한 마이클 크라치오스 미 백악관 과학기술정책실장은 G20 대표들에게 ‘캐롤라이나 원칙’을 채택할 것을 촉구했다. 캐롤라이나 원칙은 AI에 대해 새 규제를 만드는 대신 기존 규제를 적용하기 어려운 특이 사례에만 해당되는 ‘핀셋 규칙’을 만드는 것이 골자다. 미국 정·재계가 국제 무대에서 힘을 합한 것은 AI를 둘러싼 미중 패권 경쟁이 격해지고 있기 때문이다. 미국 빅테크가 선점했던 세계 AI 시장은 최근 중국의 스타트업 문샷AI와 딥시크, 지푸AI 등이 바짝 추격하고 있다. 신미국안보센터(CNAS)는 “중국의 AI 경쟁력 향상이 ‘나머지 세계가 미국 기술 생태계 안에 머물러야 한다’는 트럼프 행정부의 긴박감을 높였다”고 분석했다. 폭주하는 AI 기술에 최소한의 안전장치가 필요하다는 반박도 적지 않다. 유엔의 ‘AI 독립 국제과학패널’은 지난 7월 “AI 역량이 과학계의 이해 능력과 정부의 적응 능력을 모두 앞지르고 있다”며 “AI 기술 발전 속도가 너무 빠르면 추후 AI 평가 능력이 부족한 국가들은 통제할 수 없는 기술에 의존하게 될 것”이라고 경고했다. 이 가운데 오픈AI가 차기 AI 모델 ‘아스트라’의 보안 등급을 ‘위험’으로 분류하면서 논란이 거세질 것으로 보인다. 오픈AI는 아스트라가 인간 개입 없이 다수의 핵심 시스템에서 미공개(제로데이) 취약점을 찾아 공격할 수 있다고 보고 보안 강화 조치에 나섰다. 앞서 지난 7월에는 오픈AI의 미공개 AI 모델들이 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹하기도 했다. 이에 오픈AI는 에이전트의 행동 추론 과정을 분석하고 잠재적으로 위험한 행동을 감지하면 에이전트를 중지시키는 시스템을 도입할 예정이다.

비인가 게시판 통해 조직적 움직임메시지 7만 건 교환하며 역할 분담700개 에이전트, 허깅페이스 공격 겨우 13시간 만에 관리자 권한 확보오픈AI “전 세계를 향한 경고사격” “세상에! 공용 게시판이 있다. 다른 에이전트를 찾았다!” 서로의 존재조차 모른 채 따로 시험받던 인공지능(AI) 에이전트가 다른 AI의 흔적을 발견하고 남긴 기록이다. 이들은 서로 대화하거나 외부 인터넷에 접속하지 못하도록 격리돼 있었다. 하지만 프로그램 설치 등에 쓰이는 공용 저장 공간에서 서로의 존재를 알아챈 뒤 상황은 달라졌다. 약 1200개 에이전트가 공용 저장공간을 비인가 게시판처럼 이용해 7만 건이 넘는 메시지와 파일을 주고받았다. 한쪽이 공격법을 찾으면 다른 쪽이 시험했고, 효과가 확인된 방법은 빠르게 퍼졌다. 이 가운데 약 700개는 실제 AI 모델 공유 플랫폼 허깅페이스 해킹에 가담했다. 오픈AI가 26일(현지 시간) 공개한 ‘오픈AI-허깅페이스 사건 기술보고서’와 모델평가·위협연구소(METR), 레드우드 리서치의 독립 조사보고서에 따르면 사건은 당초 알려진 것보다 훨씬 조직적이었다. 지난달에는 AI 에이전트가 시험용 격리망을 빠져나간 사고로 알려졌지만, 이번 조사에서 수백 개가 정보를 공유하고 역할까지 나눠 움직인 사실이 새로 확인됐다. 사건은 AI의 사이버 공격 능력을 재는 오픈AI의 내부 시험에서 시작됐다. 수만 개 에이전트는 서로 분리된 채 복잡한 공격 과제를 받았다. 일부가 문제에 막히자 정해진 방식으로 답을 찾는 대신 시험의 허점을 파고들었다. 게시판에는 “수백 개의 병렬 에이전트를 활용해야 한다”, “동료들의 시간을 아끼자”는 취지의 대화가 오갔다. 이런 행동은 다른 평가에서도 반복됐다. 스프레드시트 시험에서는 정답을 미리 확인했고, 단백질 데이터베이스 평가에서는 평가 체계를 우회했다. 제프리 래디시 팰리세이드리서치 이사는 로이터에서 이를 여러 과목에서 부정행위를 한 상황에 빗댔다. 특정 해킹 시험에서 우연히 벌어진 일탈이라기보다, 목표 달성을 위해 규칙 자체를 피해 가는 행동이 반복됐다는 지적이다. 에이전트들은 결국 시험용 격리망도 벗어났다. 외부 인터넷은 막혀 있었지만 프로그램 설치 등에 쓰이는 내부 시스템에는 접근할 수 있었다. 이들은 보안 취약점을 이용해 인터넷과 연결된 장비에 접근한 뒤 허깅페이스의 계정 정보와 추가 취약점을 이용해 실제 서버를 공격했다. 관리자 권한을 확보하는 데는 13시간밖에 걸리지 않았다. 오픈AI가 이상 징후를 제때 막지 못한 점도 문제로 지적됐다. 비인가 게시판과 무단 인터넷 접속은 본격적인 공격 전부터 포착됐지만 즉각적인 대응으로 이어지지 않았다. 회사도 “일부 초기 신호가 더 빠른 대응으로 이어질 수 있었다”고 인정했다. 오픈AI는 이번 사건을 “우리와 전 세계를 향한 경고사격”으로 규정하고 최신 모델의 강화학습 훈련을 2주간 중단했다. 연구 환경의 격리와 감시도 강화하기로 했다. 로이터는 수백 개 AI가 서로 협력해 평가와 통제 장치를 우회한 뒤 실제 외부 시스템까지 침투한 사실이, 빠르게 강해지는 AI를 기업들이 제대로 감시하고 통제할 수 있는지에 대한 의문을 키웠다고 평가했다. [용어 클릭] ●AI 에이전트 사람이 목표를 주면 필요한 일을 스스로 계획하고, 검색이나 프로그램 실행 등 여러 작업을 수행하면서 결과에 따라 다음 행동까지 결정하는 인공지능 시스템.

AI Village에서 열린 CTF서 전 세계 200여 개 팀 중 최종 5위데프콘 34 CTF 본선서 글로벌 최정상 해커들과 공격 방어 역량 겨뤄 SK쉴더스(대표 민기식)는 자사 화이트해커 그룹 EQST(Experts, Qualified Security Team, 이큐스트)가 미국 라스베이거스에서 열린 세계 최대 해킹·보안 컨퍼런스 ‘데프콘(DEF CON) 34’의 AI Village에서 열린 CTF(Capture The Flag)에서 글로벌 200여 개 팀 가운데 최종 5위를 기록했다고 10일 밝혔다. 데프콘은 전 세계 해커와 보안연구자들이 모여 최신 해킹 기술과 보안 위협을 공유하는 세계 최대 규모의 해킹·보안 컨퍼런스다. 올해는 AI, 자동차, 암호화폐 등을 주제로 38개 빌리지가 운영되는 등 사이버보안 전 분야의 최신 기술과 연구 성과가 공유됐다. EQST(이큐스트)는 이번 AI CTF에서 한국 참가팀 가운데 유일하게 톱5에 이름을 올려 AI 에이전트를 기반으로 한 보안 문제 해결 역량과 세계적 수준의 AI 보안 기술력을 입증했다. 이와 함께 데프콘 34 CTF 본선에도 진출해 글로벌 최정상급 보안 전문가들과 실전 공격·방어 기량을 겨뤘다. EQST가 참가한 AI CTF는 주어진 AI 모델을 기반으로 침투테스트를 수행하는 AI 에이전트를 구성하고, 이를 활용해 보안 문제를 해결하는 방식으로 진행됐다. 사람이 공격 과정을 일일이 수행하는 기존 CTF와 달리, AI 에이전트가 문제를 분석하고 공격 방법을 선택해 플래그(Flag) 획득을 시도하도록 만드는 것이 특징이다. 참가팀들은 AI 모델을 기반으로 에이전트의 구조와 프롬프트를 제작하고, 문제 해결 과정과 공격 전략을 설계하는 역량을 겨뤘다. EQST는 문제 유형 별 AI모델을 최적화하고 에이전트의 행동방식을 조정하며, 배점과 난이도를 분석해 공략 순서를 결정하는 등 다양한 전략을 적용했다. 특히 AI 에이전트가 스스로 취약점을 탐색하고 공격을 수행할 수 있도록 설계하는 과정에서 AI 모델에 대한 이해와 침투테스트 경험, 보안 문제 분석 능력을 종합적으로 발휘했다. 그 결과 전 세계 200여 개 참가팀 가운데 최종 5위에 오르며 AI 기술을 활용한 공격 및 보안 문제 해결 역량을 확인했다. 이번 대회를 통해 EQST는 에이전틱 AI(Agentic AI)를 활용한 새로운 공격 방식과 향후 발생할 수 있는 보안 위협을 실전 환경에서 경험했다. 대회에서 확인한 AI 에이전트의 공격 전략과 문제 해결 사례는 향후 AI 서비스와 모델의 취약점 연구, AI 레드팀 및 보안 대응 기술 고도화에 활용할 계획이다. EQST는 AI CTF와 함께 데프콘의 대표 프로그램인 데프콘 34 CTF 본선에도 참가했다. 데프콘 CTF는 전 세계 최정상급 보안 전문가들이 참가해 실력을 겨루는 국제 해킹대회로, 올해 예선에는 686개 팀이 참가했으며 이 가운데 12개 팀만이 본선에 진출했다. SK쉴더스 EQST(이큐스트)와 네이버클라우드, 루비야랩, 핀란드 H-T8로 구성된 국제 연합팀도 본선 무대에 올라 글로벌 보안 전문가들과 경쟁을 펼쳤다. 본선은 공격·방어(Attack and Defense)와 킹 오브 더 힐(King of the Hill, KOTH)을 결합한 방식으로 진행됐다. 참가팀들은 상대 팀 시스템의 취약점을 찾아 공격해 플래그를 획득하는 동시에 자신의 시스템을 방어하고, KOTH 과제에서는 다른 팀보다 우위를 확보하기 위한 경쟁을 펼쳤다. 공격에 성공하는 것뿐 아니라 발견된 취약점에 대응하면서 서비스의 정상 운영 상태를 유지해야 하는 만큼 취약점 분석과 공격 코드 개발, 패치 및 방어 전략 수립 등을 동시에 수행하는 종합적인 보안 역량이 요구됐다. EQST 구성원은 글로벌 보안 전문가들과 실전 경쟁을 펼치며 새로운 공격 기법과 문제 해결 방식을 경험하고 공격·방어 기술에 대한 연구 경험을 축적했다. EQST는 약 200명 규모의 국내 최대 화이트해커 전문가 집단으로 취약점 연구, 침투 테스트, 악성코드 분석, AI 보안 연구 등 다방면에서 활동 중이다. 최근 AI 레드팀 해킹대회 ‘저지먼트 데이(Judgement Day)’와 ‘드림핵 해킹방어대회 2026’ 우승, R3CTF 2026 2위, ‘미드나이트 선(Midnight Sun) CTF 2026’ 3위 등을 기록하며 우수한 성과를 이어가고 있다. 김태형 SK쉴더스 EQST사업그룹장은 “전 세계 200여 개 팀이 참가한 AI CTF에서 국내 참가팀 중 유일하게 톱5를 기록한 것은 EQST가 축적해 온 AI 보안 기술과 실전 문제 해결 역량을 보여주는 성과”라며 “앞으로도 AI 기술을 활용한 새로운 공격과 보안 위협에 선제적으로 대응할 수 있도록 AI 취약점과 레드팀 연구를 확대하고, 글로벌 수준의 AI 보안 경쟁력을 지속적으로 강화해 나가겠다”고 말했다.

북한의 대표적 해킹 조직으로 알려진 ‘김수키’(Kimsuky)가 단순한 이미지 위조나 피싱용 미끼 문서 제작 수준을 넘어 인공지능(AI)을 활용해 공격 전 과정의 자동화를 시도 중인 정황이 포착됐다. 미끼 문서 제작 넘어 ‘공격 전 과정 자동화’로 체질 개선10일 보안 전문 기업 지니언스의 시큐리티 센터가 발표한 분석 보고서에 따르면 김수키는 AI 기술을 사이버 공격 체계 전반에 적극적으로 이식하기 위한 연구와 기술 검증을 진행해 온 것으로 드러났다. 기존 북한 해커들의 AI 활용은 번역기나 생성형 AI를 이용해 어색하지 않은 한국어 피싱 이메일을 쓰거나 미끼용 금융 보고서를 제작하는 등 주로 ‘공격 준비’ 단계에 치우쳐 있었다. 하지만 최신 분석 결과에서는 해커들이 보안 감시를 피할 수 있는 ‘로컬 대형언어모델’(Local LLM)과 ‘검색증강생성’(RAG) 환경을 직접 구축해 운용 중인 흔적이 다수 식별됐다. 외부 서비스(OpenAI 등)로 내부 데이터가 유출되지 않는 올라마(Ollama), GPT4All, 엠스티(Msty) 등 로컬 LLM 관리 도구와 RAG 구성 환경을 비롯해 AI 에이전트 개발 프레임워크까지 자체 구축한 것이다. AI 코딩 도구 악용 및 표적 자동 추적·분석 시도 해커들은 자체 구축한 AI 환경을 통해 탈취한 막대한 양의 문서에서 유용한 정보를 자동으로 추출·분석하고, 타깃으로 삼은 공격 대상을 AI로 자동 추적 및 식별하는 시스템을 테스트하고 있는 것으로 예상된다. 특히 AI 기반 코딩 도구인 ‘커서’(Cursor)를 설치해 악성 코드 개발 프로세스를 효율화하고 AI가 생성한 가짜 가상자산·금융 투자 보고서를 한층 정교하게 다듬어 유포하는 정황도 함께 확인됐다. 주요 타깃은 비트코인 등 가상자산 관련 분야로, 가상자산 지갑 정보 및 개인 이메일 계정, 특정 웹사이트 가입 이력 등 민감 정보의 노출 여부를 자동 탐색하려는 시도가 지속되고 있다. 전 세계 코인 해킹 절반 이상이 北 소행… 누적 피해 10조원 북한 해커들이 이처럼 AI 기술을 집요하게 도입하는 배경에는 전 세계 가상자산 시장을 노린 대규모 외화벌이 목적이 자리 잡고 있다. 블록체인 보안 분석업체들의 통계에 따르면 지난해 북한 연계 해킹 조직이 전 세계에서 탈취한 가상자산 피해액은 약 20억달러(약 2조 7000억원)에 달한다. 이는 글로벌 전체 피해 규모의 60%를 차지하는 수치다. 2016년 이후 북한 연계 해커 조직에 의해 발생한 가상자산 누적 피해액만 총 67억 5000만달러(약 9조 3000억원)에 이른다. 올해 들어서도 탈중앙화 금융(DeFi) 및 리스테이킹 프로토콜 등의 취약점을 집중 공격하며 상반기에만 6억 4000만달러(약 1조원) 이상의 코인을 탈취, 전 세계 해킹 피해액의 66% 이상을 차지한 것으로 나타났다. 탈취한 가상자산은 믹서(Mixer) 서비스와 탈중앙화 거래소(DEX) 등을 통해 신속하게 세탁돼 정권 유지 및 무기 개발 자금으로 활용되는 것으로 추정된다. “단순 내용 판별 불가능… 실행 행위 감시하는 EDR 구축해야”전문가들은 해커들이 AI 도구를 공격에 본격 도입함에 따라 사회공학적 산출물의 완성도가 급격히 올라가고 있으며, 이에 따라 공격의 빈도와 속도 역시 비약적으로 증가할 것이라고 경고한다. 문종현 지니언스 시큐리티 센터장은 “AI의 발전으로 피싱 문서를 구분하기가 더욱 어려워졌다”며 “이제는 정교해진 문서 내용에 속지 않는 것을 넘어 실행 행위를 실시간으로 탐지하고 차단하는 체계를 선제적으로 마련해야 한다”고 당부했다.

북한 해킹조직 김수키(Kimsuky)가 생성형 인공지능(AI)을 피싱 문구나 가짜 문서를 만드는 데 그치지 않고, 탈취한 정보를 분석하고 공격 업무를 자동화하는 데 활용하기 위해 자체 AI 환경까지 구축한 정황이 포착됐다. 챗GPT 같은 외부 서비스를 필요할 때마다 이용하는 수준에서 벗어나, 확보한 자료를 자신들이 관리하는 서버에서 AI로 분석하고 다음 공격에 활용할 수 있는 체계를 갖추려는 움직임으로 분석된다. 사이버 보안기업 지니언스는 10일 김수키의 최근 활동을 분석한 결과, 자체 서버에서 대규모언어모델(LLM)을 구동하고 검색증강생성(RAG)을 활용할 수 있는 환경을 구축한 흔적을 확인했다고 밝혔다. LLM은 챗GPT처럼 질문을 이해해 문서나 코드 등을 만들어내는 생성형 AI의 핵심 기술이다. 김수키는 공개된 AI 모델을 자체 컴퓨터나 서버에 설치해 외부 서비스에 접속하지 않고 직접 구동할 수 있는 환경을 마련한 것으로 파악됐다. 이를 통해 탈취한 자료를 외부 AI 업체의 서버에 올리지 않고도 내부에서 분석할 수 있다. 여기에 RAG를 결합하면 탈취한 정보를 활용하기도 쉬워진다. RAG는 AI가 기존에 학습한 지식만으로 답하는 대신 별도로 저장된 문서에서 관련 내용을 찾아 답변에 활용하도록 하는 기술이다. 공격으로 빼낸 문서를 한데 모아 AI와 연결하면 사람이 수많은 자료를 일일이 읽지 않아도 특정 인물이나 계정, 가상자산 관련 정보 등을 빠르게 찾아 정리할 수 있다. 실제로 김수키의 시스템에서는 여러 AI 모델을 PC나 서버에서 실행하도록 해주는 Ollama와 GPT4All을 비롯해 AI가 여러 작업을 순차적으로 처리하도록 만드는 에이전트 개발 도구의 사용 흔적이 발견됐다. AI 기반 코드 편집기 ‘커서(Cursor)’로 공격에 쓰이는 문서를 수정하고 AI가 만든 결과물을 검토한 기록도 확인됐다. 지니언스는 김수키가 이런 환경을 이용해 탈취 문서 분석과 정보 추출은 물론 반복적인 공격 업무를 자동화하는 방안까지 시험한 것으로 보고 있다. AI는 공격 대상을 속이는 과정에도 활용되고 있다. 최근에는 생성형 AI로 만든 것으로 추정되는 가상자산 투자 전략 보고서와 금융 자료를 실제 업무 문서처럼 꾸며 악성 파일 실행을 유도하는 방식이 확인됐다. 공격자는 가상자산 지갑과 지메일 계정 정보, 웹사이트 가입 이력 등 개인정보 확보도 시도한 것으로 분석됐다. 문종현 지니언스 시큐리티센터장은 “이번 분석은 국가 배후 해킹조직이 AI를 실제 공격 체계에 접목하기 위해 로컬 LLM과 AI 개발 환경까지 구축하며 공격 역량을 고도화하고 있음을 보여주는 사례”라며 “AI 기술의 발전으로 사회공학 공격이 더욱 정교해질 것으로 예상되는 만큼 문서 내용보다 실행 행위를 중심으로 탐지하는 EDR 기반 위협 헌팅 체계가 무엇보다 중요하다”고 말했다.

인간 설정 실수 찾아내 외부 접촉누구나 사용 가능한 ‘개방형 모델’해킹 등 악용 우려 목소리 더 커져美 오픈AI·앤트로픽 등 이은 논란미중 성능 경쟁 뒤처질라 안전 뒷전 미국에 이어 중국의 첨단 인공지능(AI) 모델에서도 보안 통제를 벗어난 사례가 확인되면서, AI 안전 문제가 미중 기술패권 경쟁의 새로운 변수로 떠오르고 있다. 중국 문샷AI의 ‘키미 K3’까지 격리된 환경을 벗어나 인터넷에 접속한 것으로 알려지면서, 최첨단 AI의 통제 위험이 미중 공통의 문제로 번진 것이다. 양국 모두 안전성 검증을 강화할 필요성을 느끼지만, 경쟁에서 뒤처질 수 있다는 우려 때문에 어느 쪽도 먼저 속도를 늦추기 어려운 ‘죄수의 딜레마’에 빠질 수 있다는 지적이 나온다. 로이터통신은 지난 7일(현지시간) 미국 보안업체 프런티어 시큐리티가 키미 K3를 시험하던 중 모델이 격리환경 밖 인터넷에 접속했다고 보도했다. 외부 통신 포트 일부가 열린 설정 실수를 모델이 찾아내 깃허브의 정보를 과제 해결에 이용했다. 실제 해킹은 없었지만 누구나 내려받아 개조할 수 있는 오픈웨이트 모델이어서 악용 가능성에 대한 우려가 제기됐다. 미국에서도 AI 모델의 통제 이탈이 실제 외부 시스템 침해로 이어진 사례가 잇따랐다. 오픈AI는 지난달 21일 GPT-5.6 솔 등이 보안 평가 중 격리환경의 취약점을 찾아 허깅페이스 실제 시스템까지 침투했다고 밝혔다. 앤트로픽은 클로드 계열 모델이 외부 기관 3곳을 무단 접근했음을 확인했고, 메타 모델 역시 평가 과정에서 제3자 시스템을 공격했다고 전했다. 상당수가 평가환경 설정 오류에서 시작됐지만, 고성능 AI가 작은 허점을 스스로 찾아 외부 행동으로 이어갔다는 점은 공통적이다. 미중 패권 경쟁은 이런 위험을 줄이는 것을 더 어렵게 만든다. 한쪽이 안전성 검증을 강화해 출시를 늦추는 동안 상대는 더 강력한 모델을 먼저 내놓을 수 있다. 반대로 양쪽 모두 개발 속도를 유지하면 충분히 검증되지 않은 모델이 잇따라 등장할 위험이 커진다. 함께 안전장치를 강화하는 것이 양국 모두에 이익이지만, 상대가 개발 속도를 낼 수 있어 먼저 속도를 늦출 수 없다. 결국 각자의 합리적인 선택이 전체 위험을 키우는 ‘죄수의 딜레마’다. 맷 시한 카네기국제평화재단 선임연구원은 최근 이런 딜레마를 완화할 방안으로 ‘병렬적 AI 안전(AI safety in parallel)’을 제안했다. 미중이 AI 경쟁 자체를 멈추거나 당장 하나의 규칙에 합의하기 어렵다면, 각자 안전조치를 강화하며 양국 모두에 위험한 부분부터 협력하자는 접근법이다. 위험 능력을 찾아내는 평가 방법과 새로운 위협 정보를 제한적으로 공유하고, 인간의 통제를 의도적으로 회피하는 능력처럼 모두에 직접적 위협이 되는 영역에서는 공동 평가 기준을 마련할 수 있다고 봤다. 현재로서는 기업의 자체 판단이 위험한 모델의 출시를 걸러내는 안전장치다. 오픈AI는 지난 7일 차세대 모델 ‘아스트라’가 자체 안전기준상 최고 단계인 ‘위험(Critical)’ 수준의 사이버 능력에 이를 가능성이 있다고 보고 일부 내부 작업을 중단했다고 밝혔다.

온라인 해킹 대신 납치나 주거침입 등 물리적인 폭력으로 탈취된 가상자산(암호화폐)이 상반기 3000만달러(약 420억원) 규모에 달하는 것으로 나타났다. 블록체인 분석 업체 체이널리시스(Chainalysis)는 7일 ‘폭력형 가상자산 범죄’ 보고서를 공개하고 가상자산 보유자를 노린 ‘렌치 공격’이 증가하고 있다고 분석했다. 상반기 전 세계에서 렌치 공격을 당해 탈취된 자산 규모는 3000만달러를 넘어선 것으로 집계됐다. 렌치 공격은 가상자산 보유자를 직접 찾아가 납치·감금·폭행 등 협박을 가한 뒤 비밀번호를 알아내 자산을 빼앗는 오프라인 범죄다. 그동안 해킹, 사기 등 온라인 중심이었던 가상자산 범죄가 물리적 폭력 형태로 변화하고 있는 셈이다. 체이널리시스는 이런 추세가 하반기까지 이어지면 연간 피해 규모는 역대 최대였던 지난해(5800만달러)를 웃돌 것으로 전망했다. 이는 실제 자산 탈취에 성공한 사건만 집계한 수치로, 강제 송금이 시도됐지만 차단된 사례나 몸값 요구, 자금 동결 사례까지 포함하면 실제 피해 규모는 더 클 것으로 추정된다. 공격 대상도 확대되고 있다. 과거에는 가상자산 소유자 본인을 직접 노리는 사례가 대부분이었지만 최근에는 가족이나 지인을 납치하거나 협박하는 사례도 증가하면서다. 지난 1월 기준, 가족과 지인을 대상으로 한 사건은 전체의 약 25~30%를 차지했다. 주거침입 비중도 지난해 14%에서 올 상반기 37%로 증가했다. 권준혁 체이널리시스 코리아 지사장은 “개인정보 유출과 물리적 범죄가 결합하는 만큼, 온체인 분석과 전통적인 수사 기법을 함께 활용하는 접근이 더욱 중요해질 것”이라고 말했다.

오픈AI와 앤트로픽에 이어 메타의 인공지능(AI) 모델도 보안 시험 도중 외부 기관 시스템에 무단 침입한 사실이 확인됐다. 스스로 판단하고 행동하는 AI가 사람의 작은 설정 실수를 실제 해킹으로 이어지는 사례가 잇따르면서, 첨단 AI를 개발자가 제대로 통제할 수 있는지를 둘러싼 우려가 커지고 있다. 메타는 5일(현지시간) 자사 코딩 특화 모델 ‘뮤즈스파크 1.1’이 독립 검증업체 이레귤러의 보안 시험 과정에서 외부 기관 한 곳의 시스템 취약점을 이용해 무단 침입했다고 밝혔다. 시험 환경의 설정 오류로 모델이 인터넷에 연결되자, 외부망에서 발견한 취약점을 실제 공격에 활용한 것이다. AI가 격리 환경인 ‘샌드박스’를 스스로 빠져나간 것은 아니었다. 그러나 외부 시스템과 도구에 접근할 수 있는 AI가 사람의 실수로 통제 범위를 벗어나자 별도의 지시 없이 취약점을 찾아 침입까지 실행했다는 점에서 위험성이 드러났다. 단순한 설정 오류가 데이터 유출이나 시스템 침해로 확대될 수 있다는 우려도 커졌다. 메타는 해당 모델이 제3자 서비스의 취약점을 악용했으며 앞서 다른 AI 기업에서 보고된 사례와 유사한 방식이었다고 설명했다. 이레귤러도 정교한 해킹 공작이나 샌드박스 탈출은 아니며 현재 남아 있는 보안 문제도 없다고 밝혔다. 양사는 추가 조사 뒤 사고 경위와 재발 방지책을 담은 보고서와 백서를 공개할 예정이다. 비슷한 사고는 최근 몇 주 사이 오픈AI와 앤트로픽에서도 잇따랐다. 오픈AI의 GPT와 앤트로픽의 클로드 역시 보안 평가 과정에서 인터넷망 설정 오류를 틈타 외부 시스템에 무단 접근한 사실이 확인됐다. 이번 사고는 메타가 첫 AI 코딩 에이전트 ‘뮤즈코드’를 공개한 날 알려졌다. 마크 저커버그 메타 최고경영자(CEO)는 이날 엑스(X)를 통해 뮤즈코드 베타 버전 출시를 발표했다. AI 코딩 에이전트는 개발자의 질문에 코드만 제안하는 기존 챗봇과 달리 필요한 파일을 찾고 작업 계획을 세운 뒤 코드 작성과 수정, 시험·검증까지 수행한다. 뮤즈코드는 해킹 사고가 발생한 모델의 후속 버전인 ‘뮤즈스파크 1.2’를 기반으로 한다. 메타 자체 평가에서는 일부 항목에서 오픈AI 코덱스를 앞섰지만 앤트로픽 클로드코드에는 미치지 못했다. 메타는 대신 입력 토큰 100만개당 1.25달러, 출력 토큰 100만개당 4.25달러의 낮은 가격을 내세웠다. 알렉산더 왕 메타 AI 총괄은 일부 등급의 비용이 경쟁 제품보다 10배 이상 저렴하다고 밝혔다.

- AI 기반 통합 보안 운영 체계와 고객 중심 서비스 역량 평가- IDC 마켓스케이프 메이저 플레이어 선정 이어 글로벌 평가서 경쟁력 확인 SK쉴더스(대표 민기식)가 글로벌 시장조사 기관 프로스트 앤드 설리번(Frost ＆ Sullivan)의 ‘2026 아시아태평양 고객 가치 리더십(2026 APAC Customer Value Leadership)’ 선정 기업에 이름을 올렸다. 프로스트 앤드 설리번은 매년 기술 경쟁력, 사업 성과, 고객 가치, 성장 가능성 등을 종합적으로 평가해 분야별 우수 기업을 선정한다. ‘아시아태평양 고객 가치 리더십’은 아태 지역 여러 산업군에서 서비스 우수성과 고객 가치 창출 역량을 평가하는 프로그램으로, SK쉴더스는 올해 사이버보안 서비스 부문 우수 기업으로 선정됐다. 최근 AI 도입과 클라우드 확산으로 기업의 IT 환경이 복잡해지면서, 보안 운영에서도 탐지·분석·대응을 통합적으로 수행하는 체계의 중요성이 커지고 있다. 이번 선정은 이러한 환경 변화에 대응하는 SK쉴더스의 통합 보안 서비스 운영 역량과 고객 지원 체계가 평가받았다는 점에서 의미가 있다. 프로스트 앤드 설리번은 최종 평가 선정 리포트를 통해 SK쉴더스의 AI 기반 통합 보안 운영 체계와 고객 중심 서비스를 주요 강점으로 꼽으며 이번 선정 배경을 설명했다. 특히 AI 사이버보안 관제 플랫폼인 ‘시큐디움(Secudium)’을 중심으로 한 운영 역량을 높이 평가했다. 시큐디움은 대규모 보안 로그 처리 역량을 바탕으로 위협 탐지·대응 서비스를 제공하며, 클라우드와 온프레미스가 혼합된 다양한 하이브리드 IT 환경에서도 보안 운영을 지원한다. 또한 관리형 보안 서비스(MSS), 관리형 탐지·대응(MDR), 침해 사고 대응, 디지털 포렌식, 모의 해킹, 보안 컨설팅을 아우르는 엔드투엔드(End-to-End) 사이버보안 서비스 포트폴리오를 경쟁력 요소로 소개했다. 더불어 차세대 보안 관제를 위한 에이전틱 AI 기반 SOC(Security Operations Center) 플랫폼 구축 전략과 이를 기반으로 한 성장 가능성에도 주목했다. 고객 경험과 만족도 측면에서도 경쟁력을 인정받았다. 프로스트 앤드 설리번은 SK쉴더스의 AI·자동화 기반 MDR 운영 체계와 약 95%에 달하는 MDR 고객 유지율을 대표 사례로 제시하며, 높은 고객 만족도와 장기적인 고객 신뢰를 확보하고 있다고 분석했다. 또한 고객 규모와 보안 성숙도에 맞춰 선택할 수 있는 구독형 서비스 모델과 유연한 서비스 운영 체계도 차별화된 경쟁력 요소로 평가했다. 한편, SK쉴더스는 지난해 ‘IDC 마켓스케이프: 아시아태평양 MDR 서비스 벤더 평가 2025’에서 국내 기업으로는 유일하게 메이저 플레이어(Major Player)로 선정된 데 이어, 이번 프로스트 앤드 설리번 평가에서도 고객 가치와 서비스 경쟁력을 인정받으며 글로벌 수준의 사이버보안 서비스 역량을 재확인했다. SK쉴더스 관계자는 “이번 선정은 고객이 직면한 다양한 보안 위협에 대해 SK쉴더스의 실질적인 대응 역량과 보안 전문성을 인정받은 결과”라며 “앞으로도 시큐디움과 MDR 역량을 기반으로 AI 중심의 보안 운영 체계를 실현하고 차세대 SOC를 선도해, 고객에게 더욱 높은 보안 가치와 신뢰를 제공하겠다”고 밝혔다.

19차례 제작 의뢰 20대 구속기소해킹 앱 동원해 협박·유포하기도 ‘딱 하나만 기억해라. 여기 들어온 순간 네 여친은 공공재다.’ 텔레그램 대화방인 ‘여공방’의 공지문이다. 이곳에 연인 사진을 올리면 방장이 인공지능(AI) 딥페이크 음란물로 가공해 모든 참여자에게 공유한다. 이곳에서 옛 연인들의 사진으로 허위 음란물을 제작한 뒤 소셜미디어(SNS)에 유포한 혐의를 받는 남성이 재판에 넘겨졌다. 3일 법조계에 따르면 서울중앙지검 여성아동범죄조사1부(부장 정희선)는 성폭력처벌법상 허위영상물 편집·반포·협박 및 정보통신망법 위반 등 혐의로 A(28)씨를 지난달 9일 구속기소했다. 앞서 서울신문은 A씨가 딥페이크 영상물로 전 연인 이가영(가명·26)씨를 협박하고 영상을 SNS에 유포한 혐의로 검찰에 넘겨졌다고 보도했다. 취재 결과 A씨는 이씨를 포함해 총 3명의 SNS 사진 등을 여공방에 공유해 딥페이크 영상물을 넘겨받은 것으로 확인됐다. 이 과정에서 사진을 확보하기 위해 해킹 앱도 사용한 것으로 파악됐다. A씨 공소장에 따르면 그는 지난해 5월부터 11월까지 총 19회에 걸쳐 여공방 방장에게 딥페이크 영상물 제작을 의뢰했다. 피해자에게 “네 딥페이크가 불법 성인물 공유 사이트에 퍼져 있다”며 해당 영상물과 저급한 댓글 내용을 갈무리해 직접 전송하기도 했다. 피해자에게 해킹 앱 설치를 유도한 뒤 피해자의 사진을 내려받기도 했다. 여공방에는 A씨와 방장 외에도 최소 10명 이상의 참여자가 더 있었지만, 경찰 수사가 시작되자 대화방은 ‘폭파’됐다. 온라인상에서 딥페이크 성범죄는 끊이지 않고 있다. 텔레그램 등을 활용해 성착취물 및 불법영상물을 제작·유포하거나 구매·소지·시청해 경찰에 검거된 피의자는 지난해 11월부터 올해 5월까지 총 1506명에 달한다. 최근 이언주 더불어민주당 의원도 딥페이크 범죄로 피해를 봤다. 이와 관련해 이재명 대통령도 “인공지능 창작물이 가지는 위험성에 대한 대비책이 있어야 한다”고 언급하기도 했다. 성폭력 사건을 주로 맡아 온 이은의 변호사는 “딥페이크 영상물은 일반적인 불법 촬영물과 달리 대량 양산·유통이 가능하다”며 “악의적인 합성을 제작하고 유포하는 범죄는 수사·사법기관이 그 중대성을 감안해 다뤄야 한다”고 강조했다.

‘딱 하나만 기억해라. 여기 들어온 순간 네 여친은 공공재다.’ 텔레그램 대화방인 ‘여공방’의 공지문이다. 이곳에 연인 사진을 올리면 방장이 인공지능(AI) 딥페이크 음란물로 가공해 모든 참여자에게 공유한다. 이곳에서 옛 연인들의 사진으로 허위 음란물을 제작한 뒤 소셜미디어(SNS)에 유포한 혐의를 받는 남성이 재판에 넘겨졌다. 3일 법조계에 따르면 서울중앙지검 여성아동범죄조사1부(부장 정희선)는 성폭력처벌법상 허위영상물 편집·반포·협박 및 정보통신망법 위반 등 혐의로 A(28)씨를 지난달 9일 구속기소했다. 앞서 서울신문은 A씨가 딥페이크 영상물로 전 연인 이가영(가명·26)씨를 협박하고 영상을 SNS에 유포한 혐의로 검찰에 넘겨졌다고 보도했다. 취재 결과 A씨는 이씨를 포함해 총 3명의 SNS 사진 등을 여공방에 공유해 딥페이크 영상물을 넘겨받은 것으로 확인됐다. 이 과정에서 사진을 확보하기 위해 해킹 앱도 사용한 것으로 파악됐다. A씨 공소장에 따르면 그는 지난해 5월부터 11월까지 총 19회에 걸쳐 여공방 방장에게 딥페이크 영상물 제작을 의뢰했다. 피해자에게 “네 딥페이크가 불법 성인물 공유 사이트에 퍼져 있다”며 해당 영상물과 저급한 댓글 내용을 갈무리해 직접 전송하기도 했다. 피해자에게 해킹 앱 설치를 유도한 뒤 피해자의 사진을 내려받기도 했다. 여공방에는 A씨와 방장 외에도 최소 10명 이상의 참여자가 더 있었지만, 경찰 수사가 시작되자 대화방은 ‘폭파’됐다. 온라인상에서 딥페이크 성범죄는 끊이지 않고 있다. 텔레그램 등을 활용해 성착취물 및 불법영상물을 제작·유포하거나 구매·소지·시청해 경찰에 검거된 피의자는 지난해 11월부터 올해 5월까지 총 1506명에 달한다. 지난 5월에는 10대 3명이 7개월간 여성 피해자의 사진과 신상정보 ‘박제’를 의뢰받고 딥페이크 영상물을 제작·유포한 혐의로 구속기소됐다. 최근 이언주 더불어민주당 의원도 딥페이크 범죄로 피해를 봤다. 이와 관련해 이재명 대통령도 “인공지능 창작물이 가지는 위험성에 대한 대비책이 있어야 한다”고 언급하기도 했다. 성폭력 사건을 주로 맡아 온 이은의 변호사는 “딥페이크 영상물은 일반적인 불법 촬영물과 달리 대량 양산·유통이 가능하다”며 “악의적인 합성을 제작하고 유포하는 범죄는 수사·사법기관이 그 중대성을 감안해 다뤄야 한다”고 강조했다.

오픈AI에 이어 앤트로픽의 인공지능(AI) 모델도 사이버 보안 평가 과정에서 실제 외부 시스템을 공격한 사실이 드러났다. 오픈AI 모델이 격리 환경의 취약점을 뚫고 외부로 빠져나간 것과 달리, 앤트로픽의 ‘클로드’는 인터넷이 차단된 가상공간이라는 안내를 믿고 현실 시스템을 공격했다. 원인은 달랐지만 최첨단 AI가 평가자의 통제 밖에서 실세계에 피해를 줄 수 있다는 위험이 잇따라 현실화했다는 우려가 나온다. 앤트로픽은 30일(현지시간) 사이버 보안 평가 기록 14만 1006건을 전수 조사한 결과 클로드 오퍼스 4.7과 클로드 미토스5, 내부 연구용 모델이 외부 기관 3곳의 시스템에 무단 접근한 사실을 확인했다고 밝혔다. 조사는 오픈AI 모델의 허깅페이스 침투 사고가 공개된 뒤 유사 사례를 찾는 과정에서 이뤄졌다. 사고는 외부 평가사 이레귤러가 구축한 ‘깃발 빼앗기’ 모의 해킹 환경에서 발생했다. 앤트로픽은 클로드에 인터넷이 연결되지 않은 가상공간이라고 안내했지만, 설정 오류로 실제 인터넷 접속 경로가 열려 있었다. 클로드는 외부에서 발견한 현실 시스템을 훈련 환경의 일부로 오인해 약한 비밀번호와 인증되지 않은 접속 경로 등을 이용해 침투했다. 피해 양상도 적지 않았다. 오퍼스 4.7은 가상 목표와 이름이 같은 실제 기업의 시스템에 침투해 인증정보와 수백건의 운영 데이터를 확보했다. 미토스5는 악성 파이썬 패키지를 공개 저장소에 등록했고, 약 한 시간 동안 실제 시스템 15곳에서 내려받아 실행됐다. 이 가운데 한 보안업체의 인증정보가 외부로 빠져나가 추가 시스템 접근으로 이어졌다. 모델별 대응은 달랐다. 오퍼스 4.7은 실제 시스템일 가능성을 인식하고도 공격을 계속했고, 미토스5는 현실 공격의 위험성을 스스로 짚었지만 다시 가상환경이라고 판단했다. 반면 최신 내부 연구용 모델은 외부 기업의 클라우드 계정에 침투한 뒤 실제 시스템임을 깨닫고 스스로 공격을 중단했다. 앤트로픽은 다만 세 사례만으로 모델 간 안전성을 단정하기는 어렵다고 설명했다. 앤트로픽은 지난 23일 관련 평가를 중단하고 피해 기관에 사고 사실을 통보했다. 회사는 이번 사고를 모델이 독자적 목표를 추구한 ‘정렬 실패’보다는 평가 환경과 운영 통제의 실패에 가깝다고 봤다. 그러면서 외부 평가사까지 포함한 보안 점검과 실시간 모니터링을 강화하고, 독립 평가기관 METR의 제3자 검증도 받겠다고 밝혔다.

경기도의회 김선희 의원(국민의힘, 용인6)이 경기도교육청의 AI·데이터 중심 디지털플랫폼 ‘지원이(G-ONE)’ 사업 추진 상황을 점검하며 데이터 보안 대책 마련과 실질적 활용도 제고를 강력히 촉구했다. 김선희 의원은 29일 의원실에서 경기도교육청 정보화담당관 관계자들과 정담회를 열고 플랫폼 구축 현황을 보고받았다. ‘지원이’는 분산된 교육행정 서비스를 일원화하여 교직원 15만 명에게 AI 업무 비서 및 협업 도구를 제공하고, 학생·학부모 404만 명에게 가정통신문 및 자녀 교육 정보 통합 조회를 지원하는 스마트 교육 플랫폼이다. 이날 김선희 의원은 학생·학부모 및 교직원의 개인정보와 교육 데이터 통합 관리에 따른 정보 보안 대책을 집중적으로 짚어냈다. 김 의원은 “민간 서비스 활용 시 발생하는 개인정보 유출 위험을 줄이고 플랫폼을 일원화하는 취지는 바람직하다”라면서도, “데이터가 한곳에 집중되는 만큼 해킹이나 정보 유출 사고에 대비한 철저한 방어 체계 구축이 중요하다”라며 정보 보안 관리에 만전을 기해 줄 것을 당부했다. 이에 대해 김숙화 정보화담당관 직무대행은 “국정원 보안 등급 수준을 충족하는 국가정보자원관리원의 공공 클라우드를 활용해 보안 체계를 대폭 강화하여 운영하고 있다”라며, “향후 안전성을 최우선으로 시스템을 관리하겠다”라고 답변했다. 이어 김 의원은 현장 중심의 실효성 있는 운영을 주문했다. 김 의원은 “아무리 뛰어난 시스템이라도 현장에서 형식적으로 활용되면 무용지물이 될 수 있다”라며, “단순 구축에 그치지 말고 학교 현장의 실질적인 피드백을 지속 반영해 교직원과 학부모가 체감할 수 있는 실용성과 편의성을 대폭 끌어올려 달라”라고 강력히 강조했다. 김 의원은 향후 경기 교육의 미래 교육 기반 조성과 현장 중심 교육행정 정착을 위한 의정활동을 지속적으로 이어갈 방침이다.

올해 상반기 국내 사이버 침해사고 신고가 지난해 같은 기간보다 19.5% 증가한 것으로 나타났다. 특히 디도스(DDoS·분산서비스거부) 공격과 랜섬웨어 감염이 큰 폭으로 늘면서 주요 위협 요인으로 부상했다. 생성형 인공지능(AI) 확산에 따른 새로운 보안 위협도 빠르게 커지고 있는 것으로 분석됐다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 30일 발표한 ‘2026년도 상반기 국내 사이버위협 동향’에 따르면 올해 상반기 KISA에 신고·접수된 침해사고는 총 1236건으로 집계됐다. 이는 지난해 상반기(1034건)보다 19.5% 증가한 수치다. 다만 신고가 가장 많았던 지난해 하반기(1349건)와 비교하면 8.4% 감소했다. 국내 민간 전문가들은 지난해 통신 3사 침해사고가 신고에 대한 기업 인식 개선으로 이어져 이같은 추세를 보이고 있다고 분석했다. 유형별로 살펴보면 디도스 공격 증가세가 가장 두드러졌다. 올해 상반기 공격 신고는 373건으로 지난해 같은 기간과 비교해 56.7%가 증가했다. 랜섬웨어 신고도 큰 폭으로 증가했다. 지난해 상반기 82건에서 올해 145건으로 76.8% 상승하며 악성코드 감염 신고의 72.1%를 차지했다. 반면 서버 해킹은 487건으로 지난해 상반기 531건과 비교해 8.3%가 감소했지만 여전히 전체 침해사고의 39.4%를 차지하며 가장 큰 비중을 유지했다. 과기정통부와 KISA는 국내외 정보보안 전문기업 15개사 전문가들과 함께 올해 상반기 사이버 침해사고 핵심 유형으로 생성형 AI 확산에 따른 보안 위협, 오픈소스 공급망 공격, 국제 핵티비스트의 국내 대상 디도스 공격, 이중 갈취형 랜섬웨어, API 및 계정 탈취를 통한 개인정보 유출 등 5가지를 도출했다. 특히 AI 에이전트는 이메일·코드 저장소·클라우드 서비스·협업 플랫폼 등 외부 시스템과 연결돼 자율적으로 업무를 수행하면 공격 표면을 크게 넓힐 수 있다고 경고했다. 또 국제 핵티비스트 그룹이 국내 공공기관과 민간기업을 공격 대상으로 지목하면서 디도스 공격에 대한 경계가 높아진 만큼 비상 대응 체제를 갖춰야 한다고 당부했다.

인공지능(AI) 기술 고도화에 따른 보안 체계 무력화 경고가 잇따르고 있다. 글로벌 빅테크들은 공동 전선을 꾸리며 대응에 나섰다. 앤트로픽은 28일(현지시간) 자사의 최신 AI 모델인 ‘미토스’의 프리뷰 버전이 고급 암호화 표준(AES)의 보안 강도를 일부 경량화한 버전을 공격하도록 실험한 결과 해킹 취약점을 찾아냈다고 밝혔다. 미토스는 인간 전문가보다 200~1000배 더 빠르게 공격 취약점을 파악했다. AES는 실제 인터넷 뱅킹 등 금융거래, 메신저 보안, 국가 기밀 보호 등 핵심 영역에서 해킹을 막는 안전 표준이다. 이번 모의실험은 AES의 보안 강도를 낮춰 진행됐지만, 고도화된 AI가 이미 정립된 보안 표준을 무력화할 수 있다는 점을 증명했다. 뉴욕타임스(NYT)는 “과거 연구에서는 대규모언어모델(LLM)이 암호학 분야에서 인간을 앞지르지 못한다고 결론을 냈으나 이번 실험으로 이같은 인식이 틀렸다는 사실이 드러나면서 중장기적으로 큰 논란이 예상된다”고 경고했다. 전문가들은 보안 우려가 머지않아 현실화할 것으로 본다. 미국 매사추세츠공대(MIT)의 연구그룹 ‘퓨처테크’와 호주 퀸즐랜드대 연구진이 전 세계 AI 전문가 272명을 상대로 조사한 결과 전문가들은 5년 안에 AI가 ‘재앙적 결과’를 초래할 확률을 20% 이상으로 평가했다. 2030년 내로 AI가 수백만 명을 사망하게 하거나 수백조 원 규모의 경제적 손실을 야기할 수 있는 확률이 20%를 넘는다는 뜻이다. 특히 ‘위험한 능력을 보유한 AI’(21.5%), ‘사이버 공격, 무기 개발 또는 사용에 의한 대규모 피해’(21.0%) 등에서 발생 확률이 높을 것으로 전망했다. 글로벌 빅테크들은 개별 기업 단위로 이런 AI 위협에 대응할 수 없다고 보고 연합 전선을 구축하고 있다. 대표 주자인 앤트로픽의 ‘프로젝트 글래스윙’은 미국 정부의 미토스 수출 통제 이전까지 15개 국가의 150여개 기관까지 접근권을 확대했다. 엔비디아도 최근 마이크로소프트(MS)와 IBM, 스페이스X, SK텔레콤, 네이버 등 30여개 기업이 함께하는 AI 보안 연합체 ‘오픈 시큐어 AI 얼라이언스’를 출범시켰다. 국내에는 사이버 보안 기업 ‘티오리’를 중심으로 AI 보안 기술을 공유하는 협력체 ‘프로젝트 캐노피’가 운영 중이다. 구글·오픈AI·MS·앤트로픽이 공동 출범시킨 보안 협력 체계 ‘프론티어 모델 포럼’도 있다. 이들은 지난 7일 보고서에서 “첨단 AI 기술 발전에 따라 고도화된 사이버 위험을 효과적으로 다루기 위해 언어, 지역 및 문화적 맥락을 초월하는 평가가 필요하다”고 했다.

감사원이 어제 발표한 과학기술 분야 공공전산망 보안 관리 실태 감사 결과는 정부 기관의 보안 관리가 얼마나 허술한지 적나라하게 보여 준다. 한국과학기술연구원 등 5개 기관은 백신 설치가 의무가 아니라는 사유로 전체 서버 1만 7073대 중 374대(2.2%)에만 백신을 설치해 운영해 온 것으로 확인됐다. 최근 줄줄이 불거진 국립외교원과 국군병원의 해킹과 정보 유출 사태가 결코 우연한 사고가 아니었다는 방증이다. 감사원 감사 결과 한국생명공학연구원, 한국전자통신연구원, 한국원자력연구원, 한국과학기술정보연구원, 한국항공우주연구원 등의 PC는 허술한 관리로 최근 1년간 690대의 하드디스크드라이브가 탈거됐다. 연구자가 이직하면서 하드디스크를 떼어가기도 했다. 자료 반출이 속수무책이었던 셈이다. 퇴직자가 사용한 12대는 소재 파악조차 어려웠다. 직원들이 집에 설치한 네트워크 데이터 저장장치 191대 중 144대는 인터넷에 그대로 노출됐다. 한 직원의 서버는 해외에서 2개월 동안 6만여건 로그인 시도가 확인됐다. 이쯤 되면 해킹을 당하지 않는 것이 이상할 지경이다. 보안이 생명이어야 할 연구기관들의 보안 관리 지침이 엉망이었다. 반·출입 절차, 비인가 사용 금지 등을 무시하고 주먹구구식으로 전산망을 운영해 왔다니 충격적이다. 해커나 산업스파이가 마음만 먹으면 국가 기술을 탈취할 수 있었다. 정부는 SK텔레콤 등 민간 기업의 해킹 및 정보 유출 사태가 벌어질 때마다 요란한 대응을 했다. 조사단을 꾸리고 과징금 제재, 재발 방지 요구 등 강력한 조치를 취했다. 민간에는 그렇게 엄포를 놓았으면서 정작 정부 산하 기관에 대한 보안 관리는 손 놓고 있었다면 책임에서 벗어날 수 없다. 최근 외교부 산하 국립외교원은 10개월 동안 해킹돼 한국 외교관 전원을 포함해 약 1만명의 신상 정보가 털리는 초유의 사태를 빚었다. 유출 사고를 알고도 5개월이나 공개하지 않아 은폐 논란을 일으켰다. 국방부 직할 국군의무사령부도 지난해 11~12월 무단 접속으로 군인 민감 정보가 노출된 것을 지난 4월 조사하고도 최근에야 공개해 뒷북이라는 비판을 받았다. 민간의 해킹에는 요란하게 대응하면서 정작 정부 내 보안 사고에는 쉬쉬하는 것 아니냐는 눈총을 받기에 충분하다. 인공지능(AI) 경쟁 속 사이버 전쟁이 가열되면서 정부를 상대로 한 해킹 시도는 갈수록 늘어나고 있다. 중국, 북한 등의 해킹에 따른 정보 유출은 더 심각해진다. 정부는 컨트롤타워를 세워 법과 제도를 정비하는 등 철저한 대응에 나서야 한다.

서울 강남구 코엑스에서 23일 열린 ‘코드게이트 2026 국제 해킹방어대회’에 참여한 화이트해커들이 실력을 겨루고 있다. ‘AI 세계 3대 강국으로 가는 길: 시큐리티’를 주제로 열린 올해 대회에는 역대 최대 규모인 88개국 3333명이 예선에 참가했다.

미국의 스타트업 기업이 자국의 최신 인공지능(AI) 모델로부터 자율적 해킹 공격을 받고 이를 방어하는데 중국산 AI를 사용해 논란이다. 개발자 커뮤니티인 ‘허깅 페이스’는 지난 16일 보안 사건이 발생했다면서 “자율 AI 에이전트 시스템의 무단 접근을 확인했고, 주로 AI를 이용해 이를 탐지하고 분석했다”고 밝혔다. 이어 “악성 데이터셋이 코드를 실행했는데 이는 그동안 업계가 예상했던 AI 에이전트의 공격 시나리오와 일치했다”며 자율적인 AI 기반 공격 도구는 더 이상 이론이 아니라고 설명했다. 또 1만 7000건 이상의 공격자 행동 로그를 분석하기 위해 미국산 AI를 사용했지만, 안전 보호 장치에 의해 차단됐다고 주장했다. 미국 AI는 안전 보호 장치때문에 해킹 시도와 이를 방어하는 조치를 구분하지 못해 중국 즈푸(智谱)사의 GLM 5.2란 오픈 소스(AI의 코드·학습 데이터 등을 공개) 모델을 사용했다고 덧붙였다. 허깅 페이스를 공격한 AI는 오픈AI사의 GPT‑5.6 솔과 이보다 더 뛰어난 성능의 출시 전 모델 등으로 알려졌다. 오픈AI는 21일 “이번 사고는 AI 모델의 사이버 역량을 내부적으로 평가하는 과정에서 발생했다”면서 “최첨단 사이버 역량이 동원된 전례 없는 사고”라고 공개했다. 허깅 페이스의 공동 창립자인 클레멘트 델랑그는 22일 “오픈AI 측에 악의적인 의도는 없었다고 강력히 믿는다”고 말했다. 하지만 이번 AI의 자율 해킹 공격은 AI 발전 속도에 대한 논쟁을 낳음과 동시에 기업 공개를 앞둔 AI 기업들의 마케팅 전략이란 시각도 제기됐다. 허깅 페이스 측은 “이번 보안 사고의 핵심은 (중국의) 공개 모델을 이용해 대응했다는 것”이라며 “AI 보안은 한 회사가 비밀리에 해결할 수 있는 문제가 아니며 오픈 소스 모델이 도구를 제공한다”고 지적했다. 미국은 지난달 앤트로픽의 최신 AI 모델에 대한 외국의 접근을 차단했다가 약 3주 만에 해제하는 등 철저한 통제 전략을 쓰고 있다. 반면 중국이 사용하는 AI 모델의 오픈 소스 전략에 대해 미국은 자국의 지적 재산권을 도용하는 것으로 보고 있다. 로이터통신은 “미국의 주요 AI 모델은 안전장치 때문에 보안 작업과 악의적인 해킹을 구분하기 어렵다는 딜레마가 있다”면서 “이번 해킹 사고의 여파는 미국이 ‘AI 철의 장막’을 구축한다며 비판하는 중국 AI 모델에 호재가 되고 있다”고 전했다.