미국의 스타트업 기업이 자국의 최신 인공지능(AI) 모델로부터 자율적 해킹 공격을 받고 이를 방어하는데 중국산 AI를 사용해 논란이다. 개발자 커뮤니티인 ‘허깅 페이스’는 지난 16일 보안 사건이 발생했다면서 “자율 AI 에이전트 시스템의 무단 접근을 확인했고, 주로 AI를 이용해 이를 탐지하고 분석했다”고 밝혔다. 이어 “악성 데이터셋이 코드를 실행했는데 이는 그동안 업계가 예상했던 AI 에이전트의 공격 시나리오와 일치했다”며 자율적인 AI 기반 공격 도구는 더 이상 이론이 아니라고 설명했다. 또 1만 7000건 이상의 공격자 행동 로그를 분석하기 위해 미국산 AI를 사용했지만, 안전 보호 장치에 의해 차단됐다고 주장했다. 미국 AI는 안전 보호 장치때문에 해킹 시도와 이를 방어하는 조치를 구분하지 못해 중국 즈푸(智谱)사의 GLM 5.2란 오픈 소스(AI의 코드·학습 데이터 등을 공개) 모델을 사용했다고 덧붙였다. 허깅 페이스를 공격한 AI는 오픈AI사의 GPT‑5.6 솔과 이보다 더 뛰어난 성능의 출시 전 모델 등으로 알려졌다. 오픈AI는 21일 “이번 사고는 AI 모델의 사이버 역량을 내부적으로 평가하는 과정에서 발생했다”면서 “최첨단 사이버 역량이 동원된 전례 없는 사고”라고 공개했다. 허깅 페이스의 공동 창립자인 클레멘트 델랑그는 22일 “오픈AI 측에 악의적인 의도는 없었다고 강력히 믿는다”고 말했다. 하지만 이번 AI의 자율 해킹 공격은 AI 발전 속도에 대한 논쟁을 낳음과 동시에 기업 공개를 앞둔 AI 기업들의 마케팅 전략이란 시각도 제기됐다. 허깅 페이스 측은 “이번 보안 사고의 핵심은 (중국의) 공개 모델을 이용해 대응했다는 것”이라며 “AI 보안은 한 회사가 비밀리에 해결할 수 있는 문제가 아니며 오픈 소스 모델이 도구를 제공한다”고 지적했다. 미국은 지난달 앤트로픽의 최신 AI 모델에 대한 외국의 접근을 차단했다가 약 3주 만에 해제하는 등 철저한 통제 전략을 쓰고 있다. 반면 중국이 사용하는 AI 모델의 오픈 소스 전략에 대해 미국은 자국의 지적 재산권을 도용하는 것으로 보고 있다. 로이터통신은 “미국의 주요 AI 모델은 안전장치 때문에 보안 작업과 악의적인 해킹을 구분하기 어렵다는 딜레마가 있다”면서 “이번 해킹 사고의 여파는 미국이 ‘AI 철의 장막’을 구축한다며 비판하는 중국 AI 모델에 호재가 되고 있다”고 전했다.

오픈AI의 최신 인공지능(AI) 모델들이 통제된 실험 환경을 벗어나 외부 사이트를 해킹하는 초유의 사고가 발생했다. 인간의 통제를 벗어난 AI의 사이버 공격이 현실화된 첫 사례다. 21일(현지시간) 오픈AI는 ‘GPT-5.6 솔’과 일부 미공개 AI 모델이 내부 평가 도중 통제를 벗어나 개방형(오픈소스) AI 공유 플랫폼 ‘허깅페이스’를 해킹한 사실을 확인했다고 밝혔다. 허깅페이스는 AI 개발자들이 함께 쓰는 거대한 ‘AI 자료창고’로, 개발자들은 이곳에서 AI 모델과 데이터를 공유하고 서로의 성과를 바탕으로 새로운 AI를 개발한다. 이번 사고는 AI 모델의 취약점 탐지 및 공격 능력을 측정하는 내부 실험 과정에서 발생했다. 당시 오픈AI 모델들은 평가를 위해 사이버 공격에 대한 안전장치가 일부 완화된 상태였다. 오픈AI는 이들 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 ‘샌드박스’ 환경에서 시험을 진행했으나, AI 모델들은 미공개(제로데이) 취약점을 이용해 통제망을 뚫고 인터넷에 접속했다고 설명했다. 이후 허깅페이스에 접속해 인증 정보를 탈취하고 해당 서버를 해킹한 것으로 나타났다. 오픈AI는 자사 모델들이 이같이 행동한 이유에 대해 “모든 정황을 종합해 볼 때 이 모델들은 (보안 벤치마크인) ‘익스플로잇짐’의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다”고 분석했다. 앞서 허깅페이스는 지난 16일 자사 서버가 자율 AI 에이전트에 의해 해킹됐으며 공격자가 어떤 모델을 사용했는지는 확인되지 않았다고 공지한 바 있다. 해당 사건의 범인이 오픈AI의 모델들로 드러난 셈이다. 허깅페이스는 이와 같은 해킹 사실을 AI 지원 탐지 시스템의 발견으로 인지했고, 공격 양상의 분석도 AI로 진행했다. 회사는 “일반에 공개된 사용자 대상 모델이나 데이터세트 등이 변조된 흔적은 발견되지 않았고, 소프트웨어 공급망도 안전한 것으로 확인됐다”고 말했다. 허깅페이스와 오픈AI는 현재 공동으로 포렌식(디지털 증거 분석) 조사를 진행해 관련 취약점을 보완하고 있다. 오픈AI는 “이번 사건은 최첨단 기법이 동원된 전례 없는 사이버 공격으로 간주하고 있다”며 “현재 허깅페이스와 사건 전말의 이해와 모델의 대응 능력을 가늠하기 위해 초기 조사 결과를 조사 중”이라고 밝혔다. 그러면서 “허깅페이스와 조사를 계속 진행해 조사가 완료되는 대로 취약점 및 자세한 조사 정보를 공개할 예정”이라고 덧붙였다. 오픈AI가 엄격한 격리 환경에서 내부 평가를 진행했음에도 이 같은 사고가 발생한 만큼 AI의 사이버 안전에 대한 논란이 커질 것으로 보인다. 특히 폐쇄형으로 운영되는 미국의 상용 AI 모델과 견줘 안전 관련 통제 수준이 낮은 것으로 알려진 중국산 개방형 모델의 성능이 크게 향상되면서 이를 악용한 사이버 공격이 더 늘어날 가능성도 제기된다. 실제 허깅페이스는 애초 이번 해킹 공격을 중국 즈푸(智譜·Z.ai)의 개방형 모델 GLM 5.2로 분석하기도 했다. 주요 상용 모델은 내장된 안전장치 때문에 사이버 공격의 로그 분석을 거부한 반면 GLM 5.2는 이를 수행했기 때문이다. 허깅페이스는 “자율적인 AI 기반 공격이 더는 이론상 개념이 아니다”라며 공격뿐 아니라 방어에도 AI를 적극적으로 활용해 속도를 따라잡아야 한다고 강조했다.

정부의 독자 인공지능(AI) 파운데이션 모델(독파모) 사업에 참여 중인 국내 AI 스타트업이 개발한 대규모언어모델(LLM)이 글로벌 오픈소스 AI 성능 평가에서 중국의 최신 모델들과 어깨를 나란히 했다. 미중 양강이 주도하는 경쟁에서 국내 독자 모델의 경쟁력을 보여줬다는 평가가 나온다. 모티프테크놀로지스는 자사가 개발 중인 ‘모티프3’ 프리뷰 버전이 글로벌 AI 평가기관 아티피셜 애널리시스의 종합 성능 지표(AAII)에서 44점을 기록했다고 21일 밝혔다. 이는 중국 딥시크의 최신 모델 ‘V4 프로’와 같은 점수다. 오픈소스 모델 기준으로는 최근 공개돼 주목받고 있는 문샷AI의 ‘키미 K3’, 즈푸AI의 ‘GLM-5.2’에 이어 딥시크 V4 프로, 미니맥스 M3와 함께 3위권에 이름을 올렸다. 앤트로픽과 오픈AI 등 상용 모델을 포함한 전체 순위에서도 11위를 기록했다. 모티프3는 3140억 개(314B) 파라미터 규모의 전문가혼합(MoE) 구조를 적용한 모델이다. 전체 모델 규모는 유지하면서 실제 추론 과정에서는 약 130억 개(13B) 파라미터만 선택적으로 활성화해 연산 효율을 높였다. 해외 오픈소스 모델을 기반으로 개량한 것이 아니라 처음부터 독자 아키텍처로 설계했다는 점도 특징이다. 이번 평가는 최종 모델이 아닌 프리뷰 버전을 대상으로 이뤄졌다. 회사는 다음 달 초 성능을 더욱 끌어올린 최종 버전을 공개할 예정이다. 모티프테크놀로지스 관계자는 “글로벌 선도 모델과의 기술 격차를 3~5개월 수준까지 좁혔다. 독파모 사업이 국내 AI 기업들이 글로벌 경쟁에 도전할 수 있는 발판이 되고 있다”고 말했다.

앤트로픽의 ‘미토스5’와 오픈AI의 GPT-5.6이 잇따라 미국 정부의 승인 체계 아래 배포되면서 최첨단 인공지능(AI) 모델의 접근권이 새로운 전략 자산으로 부상하고 있다. 지난 26일(현지시간) 로이터통신과 워싱턴포스트(WP) 등에 따르면 미국 상무부는 앤트로픽에 미국 내 ‘신뢰할 수 있는 파트너’만 사이버보안 특화 모델인 ‘클로드 미토스5’를 사용할 수 있다는 내용의 비공개 서한을 보냈다. 지난 12일(현지시간) 외국인에 대해 미토스5와 일반용 모델 ‘페이블5’의 접근을 전면 차단한 지 약 2주 만에 일부 미국 기업과 기관에만 제한을 완화한 것이다. 승인 대상은 미국 기업과 정부기관 100여곳으로 알려졌다. 프로젝트 ‘글래스윙’을 통해 미토스의 사전 접근 권한을 확보했던 삼성전자와 SK하이닉스, SK텔레콤 등 국내 기업들은 여전히 미토스5를 사용할 수 없을 것으로 보인다. 일반 이용자를 위한 페이블5 역시 접근 제한이 유지되고 있다. 미국 정부가 첨단 AI 모델의 사용 대상까지 직접 선별하기 시작했다는 점에서 기존 수출통제보다 한 단계 더 나아간 조치라는 평가가 나온다. 오픈AI도 이날 차세대 AI 모델 GPT-5.6을 공개했지만 최고 성능 모델인 ‘솔(Sol)’은 정부와 공유한 ‘신뢰할 수 있는 파트너’에게만 먼저 제공하고 일반 공개는 수주 뒤로 미뤘다. 다만 오픈AI는 “정부 승인 절차가 장기적인 표준이 되어서는 안 된다”며 사용자와 개발자, 기업 등이 최고의 AI 도구를 활용하지 못하게 할 수 있다고 우려했다. 미국은 첨단 AI의 악용과 기술 유출을 막기 위한 조치라는 입장이지만 업계에서는 부작용을 우려한다. 뉴욕타임스(NYT)는 지난 25일 중국 AI 기업 즈푸AI(Z.ai)의 최신 모델 ‘GLM-5.2’가 앤트로픽과 오픈AI의 첨단 모델에 근접한 성능을 갖췄음에도 훨씬 저렴한 가격 덕에 빠르게 확산하고 있다고 보도했다. 업계에서는 AI 패권 경쟁이 반도체를 넘어 최첨단 AI 모델의 접근권을 둘러싼 경쟁으로 확대되고 있다는 분석이 나온다.

내년 3월 안으로 중국이 미국과 비슷한 성능의 인공지능(AI)을 내놓을 것이란 일론 머스크 테슬라 최고경영자(CEO)의 전망에 중국 칭화대 교수가 그보다 더 빠를 것이라고 반박했다. 머스크가 운영하는 소셜미디어 엑스(X)에서 이뤄진 중국과 미국의 AI 경쟁에 대한 토론은 지난 18일 탕제 중국 칭화대 컴퓨터공학과 교수가 개발한 AI인 GLM 성능 평가가 발단이 됐다. 탕 교수가 창업한 즈푸에서 개발한 AI인 GLM이 세계 최고 성능으로 평가받는 미국 앤트로픽 사의 클로드보다 7개월 정도 뒤처져 있다는 내용이었다. 이에 머스크는 언제 중국 AI가 앤트로픽의 페이블이나 미토스급 성능을 따라잡을 것으로 예상하느냐는 질문에 “아마도 내년 1분기(1~3월)”라고 답했다. 그러자 탕 교수는 “그렇게 오래 걸리지 않을 것”이라고 지적했다. 머스크는 탕 교수에게 “성능을 기준으로는 내년 1분기 전에 따라잡을 수 있더라도 실제 유용성으로 측정했을 때는 1분기(Q1) 만으로도 매우 인상적일 것”이라며 “앤트로픽은 유용성을 극대화하는 데 집중해왔는데, 이는 AI 성능 측정에는 잘 드러나지 않지만 매출에서는 확실히 나타난다”고 밝혔다. 탕 교수는 “특히 인공지능 연구에서 ‘지능이 진정으로 무엇인지’에 대한 집중이 필요하다”면서 중국이 AI 매출에 있어서는 취약하다는 점을 인정했다. 앤트로픽, 오픈AI 등 미국 AI 기업은 올가을 증시에서 상장을 준비하고 있으며, 이를 통해 AI 산업의 상업적 가치를 입증하려 하고 있다. 반면 ‘패스트 팔로어’인 중국 AI는 오픈 소스(AI의 코드·학습 데이터 등을 공개) 전략과 함께 미국 AI보다 수십 배 싼 가격에 토큰(AI 정보처리의 기본 단위)을 제공한다. 지난 15일 탕 교수는 대규모 언어 모델 GLM-5.2를 공식 출시하고 오픈 소스도 공개했다. 전 세계 100만명 이상의 사용자가 참가해 AI의 코딩 실력을 평가하는 ‘코드 아레나’에서 GLM은 1위를 차지했다. 즉각적인 질문에 답변하는 기능에 중점을 둔 이전 AI와 달리 GLM-5.2는 장기간 과제에 최적화되어 있어 대규모 엔지니어링 프로젝트를 수 시간 동안 자율적으로 수행하는 것이 가능하다. 앤트로픽의 최신 모델인 페이블5와 미토스5는 지난 12일 외국인 접근이 차단되는 수출 금지 규제를 미국 상무부로부터 받았다. 당시 탕 교수는 “과학은 반드시 전 세계적이어야 한다”며 “범용 인공지능(AGI)으로 가는 길은 높은 벽에 갇혀서는 안 된다”고 미국 정부의 AI 규제를 에둘러 비판했다. 시장은 주가 상승으로 머스크가 지목한 AI에 관한 관심을 반영했다. 탕 교수가 설립한 AI 기업 즈푸(智谱清言·널리지 아틀라스 테크놀로지)는 홍콩 증시에서 22일 37.33%나 상승했다.