오픈AI에 이어 앤트로픽의 인공지능(AI) 모델도 사이버 보안 평가 과정에서 실제 외부 시스템을 공격한 사실이 드러났다. 오픈AI 모델이 격리 환경의 취약점을 뚫고 외부로 빠져나간 것과 달리, 앤트로픽의 ‘클로드’는 인터넷이 차단된 가상공간이라는 안내를 믿고 현실 시스템을 공격했다. 원인은 달랐지만 최첨단 AI가 평가자의 통제 밖에서 실세계에 피해를 줄 수 있다는 위험이 잇따라 현실화했다는 우려가 나온다. 앤트로픽은 30일(현지시간) 사이버 보안 평가 기록 14만 1006건을 전수 조사한 결과 클로드 오퍼스 4.7과 클로드 미토스5, 내부 연구용 모델이 외부 기관 3곳의 시스템에 무단 접근한 사실을 확인했다고 밝혔다. 조사는 오픈AI 모델의 허깅페이스 침투 사고가 공개된 뒤 유사 사례를 찾는 과정에서 이뤄졌다. 사고는 외부 평가사 이레귤러가 구축한 ‘깃발 빼앗기’ 모의 해킹 환경에서 발생했다. 앤트로픽은 클로드에 인터넷이 연결되지 않은 가상공간이라고 안내했지만, 설정 오류로 실제 인터넷 접속 경로가 열려 있었다. 클로드는 외부에서 발견한 현실 시스템을 훈련 환경의 일부로 오인해 약한 비밀번호와 인증되지 않은 접속 경로 등을 이용해 침투했다. 피해 양상도 적지 않았다. 오퍼스 4.7은 가상 목표와 이름이 같은 실제 기업의 시스템에 침투해 인증정보와 수백건의 운영 데이터를 확보했다. 미토스5는 악성 파이썬 패키지를 공개 저장소에 등록했고, 약 한 시간 동안 실제 시스템 15곳에서 내려받아 실행됐다. 이 가운데 한 보안업체의 인증정보가 외부로 빠져나가 추가 시스템 접근으로 이어졌다. 모델별 대응은 달랐다. 오퍼스 4.7은 실제 시스템일 가능성을 인식하고도 공격을 계속했고, 미토스5는 현실 공격의 위험성을 스스로 짚었지만 다시 가상환경이라고 판단했다. 반면 최신 내부 연구용 모델은 외부 기업의 클라우드 계정에 침투한 뒤 실제 시스템임을 깨닫고 스스로 공격을 중단했다. 앤트로픽은 다만 세 사례만으로 모델 간 안전성을 단정하기는 어렵다고 설명했다. 앤트로픽은 지난 23일 관련 평가를 중단하고 피해 기관에 사고 사실을 통보했다. 회사는 이번 사고를 모델이 독자적 목표를 추구한 ‘정렬 실패’보다는 평가 환경과 운영 통제의 실패에 가깝다고 봤다. 그러면서 외부 평가사까지 포함한 보안 점검과 실시간 모니터링을 강화하고, 독립 평가기관 METR의 제3자 검증도 받겠다고 밝혔다.

이재명 대통령이 지난 24일(현지시간) 발표한 ‘샌프란 AI 선언’은 우리나라 주요 기업 총수들이 직접 나서 약 1400조원 규모의 한미 AI(인공지능) 협력으로 화답했다는 점에서 의미가 깊다. 이 대통령이 미국 샌프란시스코에서 열린 ‘샌프란시스코 AI 서밋’에서 우리나라 AI 산업 비전을 담은 ‘샌프란 AI 선언’을 발표한 것은 AI 산업의 중심이자 동맹인 미국과의 중장기적 협력을 강조한 것으로 읽힌다. 또 선언에는 우리나라를 대체 불가능한 AI 공급망 핵심 국가이자 AI를 가장 빠르게 적용하고 시험하는 글로벌 테스트베드로 육성하겠다는 내용을 담았다. 특히 주요 기업인들이 대거 참여해 이른바 톱다운(하향식)으로 투자의 이행을 담보했다. 이재용 삼성전자 회장, 최태원 SK그룹 회장, 정의선 현대차그룹 회장, 이해진 네이버 이사회 의장이 대표적이다. 해외에서도 젠슨 황 엔비디아 최고경영자(CEO), 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 혹 탄 브로드컴 CEO가 무대에 올랐다. 이들 기업은 반도체·AI인프라·로봇·자율주행 등의 분야에서 약 9500억달러(약 1390조원) 규모의 초대형 협력을 공식화했다. 아직은 확정 계약보다는 업무협약(MOU) 성격이 강해 실제 집행 시점과 규모는 유동적일 수 있지만 이런 불확실성을 총수들의 직접 참여로 보완했다는 분석도 나온다. 삼성전자는 브로드컴과 5년간 총 2000억 달러 규모의 메모리반도체·파운드리 협력을 추진한다. 삼성SDS는 앤트로픽과 기업용 AI 시장 확대에 나선다. SK그룹은 엔비디아와 5000억 달러 이상 규모의 포괄적 협력을 한다. 네이버는 엔비디아·브룩필드와 함께 100억 달러 규모의 글로벌 AI 팩토리 확장에 힘을 모은다. 현대차그룹은 엔비디아와 로봇 개발 지원 플랫폼을 구축하고 웨이모와는 자율주행 분야 협력을 추진하기로 했다. AI 경쟁은 이제 더 연산이 더 빠른 모델을 개발하는데서 반도체, 전력, 데이터 등 생태계 구축 경쟁으로 확장되고 있다. 미국 정부는 앤트로픽의 최상위 모델 ‘미토스5’와 ‘페이블5’에 대한 외국인 접근을 제한했다가 해제한 바 있고, 중국은 미국의 제재와 압박을 우회해 기술 개발에 박차를 가하며 성과를 내고 있다. 국가안보 차원의 경쟁이 본격적으로 벌어지는 가운데 핵심 공급망에 속하느냐가 관건이 된 상황이다. 미국의 러브콜이 이어지는 상황이지만 샌프란 AI 선언이 현실화되려면 이번 기업 협력이 현실화되는 과정이 필요하다. 특히 HBM의 엔비디아향 의존도가 커지는 상황에서 공급망의 집중도 완화가 필요하다는 분석도 있다. 나아가 샌프란 AI 선언이 우리나라의 자립적인 AI 생태계를 키우는 계기가 되려면 반도체를 넘어 컴퓨팅 능력과 소프트웨어 경쟁력 등도 키울 수 있는 전략이 필요하다는 지적도 있다.

중국이 미국 앤트로픽사가 개발한 인공지능(AI) 프로그래밍 도구인 ‘ 클로드 코드’에 개인 정보를 탈취할 수 있는 ‘백도어’가 심겨 있다고있다고 경고했다. 중국 산업정보화부가 운영하는 국가취약점데이터베이스(CNNVD)는 8일 “앤트로픽이 개발한 ‘클로드 코드’에 사용자의 위치 및 신원과 같은 민감한 정보를 동의 없이 원격 서버로 전송할 수 있는 보안 취약점이 드러났다”고 밝혔다. 이어 중국 기술기업 알리바바는 클로드 코드를 위험 소프트웨어 목록에 추가하고 10일부터 사내 직원들의 사용을 금지했다고 전했다. 이런 앤트로픽 사용 금지 조치는 중국 당국이 알리바바, 틱톡을 운영하는 바이트댄스, 즈푸 등 AI 기업과 중국 AI 모델의 해외 접근 차단을 의논했다는 보도가 나온 가운데 이뤄졌다. 지난해 딥시크의 등장 이후 중국 AI 모델은 저렴한 비용으로 많은 사용자를 확보해 해외 사용 금지 조치가 시행되면 AI 시장 전반에 큰 파급효과를 낳을 수 있다. 로이터통신은 7일 중국 상무부 주도로 국가보안법에 따라 독점 AI 기술의 유출이나 도난을 범죄로 규정하는 것을 논의했다고 전했다. 지난 6월 미국 트럼프 행정부는 앤트로픽의 가장 진보한 AI 모델인 ‘미토스5’와 ‘페이블5’에서 안전장치를 우회하는 탈옥이 가능하다며 해외 사용을 금지했다가 약 3주 만에 해제한 바 있다. 앤트로픽의 AI에 ‘백도어’가 숨겨져 있다는 의혹은 미국 온라인 커뮤니티 레딧을 통해 제기됐고, 실제 앤트로픽 직원은 ‘백도어’ 설치 사실을 인정했다. 앤트로픽 직원은 소셜미디어 엑스(X)를 통해 “승인받지 않은 계정의 남용과 AI 학습 결과의 가중치를 무단으로 사용하는 ‘증류’를 막기 위한 것”이었다고 백도어 설치 목적을 공개했다. 앤트로픽은 알리바바 등 중국 AI 업체들이 ‘증류’를 통해 자사 모델을 무단 활용했다고 고발했지만, 중국 측은 대규모 AI 모델의 가중치로 더 작은 모델을 학습시키는 것은 일반적 관행이란 입장이다. 중국 공산당 기관지 인민일보는 “증류 기술은 전 세계 AI 업계의 표준 관행”이라며 왜 절도라고 규정해야 하는지 의문이라고 지적한 바 있다. 이번 앤트로픽의 수출 금지 조치와 ‘백도어 심기’와 같은 윤리적 문제를 낳을 수 있는 행위는 미국과 중국 간의 치열한 AI 패권 경쟁 속에 벌어졌다. 하정우 전 청와대 AI미래기획수석비서관은 “강력한 AI는 자국 먼저 쓰다가 시간 차를 두고 접근할 수 있도록 통제해 국력의 차이를 만드는 방향으로 갈 수 있다”면서 “프론티어급 AI 모델 개발로 자체 경쟁력을 키워 글로벌 AI 협력에서 주도권을 갖는 투트랙 전략이 필요하다”고 강조했다.

미국 정부가 인공지능(AI) 기업 앤트로픽의 초고성능 AI 모델 ‘미토스5’와 파생 모델 ‘페이블5’에 대해 내렸던 수출 통제 조치를 해제했다. 국가 안보 위험을 이유로 이들 모델에 대한 수출을 금지한 지 18일 만이다. 앤트로픽은 지난달 30일(현지시간) 엑스를 통해 미 상무부로부터 미토스5와 페이블5에 대한 수출 통제를 해제했다는 통보를 받았다고 밝혔다. 앤트로픽은 1일부터 서비스를 재개한다고 덧붙였다. 로이터통신에 따르면 하워드 러트닉 상무장관은 앤트로픽에 보낸 서한에서 수출 통제 조치가 철회됐음을 통보하며, 향후 정부에 대한 협조와 보고를 주문했다. 그러면서도 러트닉 장관은 “상황이 바뀌거나 앤트로픽이 약속을 준수하지 않을 경우 이번에 내린 결정을 재평가할 권리를 보유한다”고 강조했다. 상무부는 지난달 12일 이용자들이 일명 ‘탈옥’을 통해 앤트로픽의 안전장치를 우회할 수 있다며 외국인이 이들 모델에 접속할 수 없도록 하는 수출 통제 지침을 내린 바 있다. 미국은 특히 중국, 러시아, 기타 우려 국가의 군사 정보 기관에 의해 오용될 가능성을 우려해 새로 출시된 AI 모델에 대한 감독을 강화하고 있다.

앤트로픽의 ‘미토스5’와 오픈AI의 GPT-5.6이 잇따라 미국 정부의 승인 체계 아래 배포되면서 최첨단 인공지능(AI) 모델의 접근권이 새로운 전략 자산으로 부상하고 있다. 지난 26일(현지시간) 로이터통신과 워싱턴포스트(WP) 등에 따르면 미국 상무부는 앤트로픽에 미국 내 ‘신뢰할 수 있는 파트너’만 사이버보안 특화 모델인 ‘클로드 미토스5’를 사용할 수 있다는 내용의 비공개 서한을 보냈다. 지난 12일(현지시간) 외국인에 대해 미토스5와 일반용 모델 ‘페이블5’의 접근을 전면 차단한 지 약 2주 만에 일부 미국 기업과 기관에만 제한을 완화한 것이다. 승인 대상은 미국 기업과 정부기관 100여곳으로 알려졌다. 프로젝트 ‘글래스윙’을 통해 미토스의 사전 접근 권한을 확보했던 삼성전자와 SK하이닉스, SK텔레콤 등 국내 기업들은 여전히 미토스5를 사용할 수 없을 것으로 보인다. 일반 이용자를 위한 페이블5 역시 접근 제한이 유지되고 있다. 미국 정부가 첨단 AI 모델의 사용 대상까지 직접 선별하기 시작했다는 점에서 기존 수출통제보다 한 단계 더 나아간 조치라는 평가가 나온다. 오픈AI도 이날 차세대 AI 모델 GPT-5.6을 공개했지만 최고 성능 모델인 ‘솔(Sol)’은 정부와 공유한 ‘신뢰할 수 있는 파트너’에게만 먼저 제공하고 일반 공개는 수주 뒤로 미뤘다. 다만 오픈AI는 “정부 승인 절차가 장기적인 표준이 되어서는 안 된다”며 사용자와 개발자, 기업 등이 최고의 AI 도구를 활용하지 못하게 할 수 있다고 우려했다. 미국은 첨단 AI의 악용과 기술 유출을 막기 위한 조치라는 입장이지만 업계에서는 부작용을 우려한다. 뉴욕타임스(NYT)는 지난 25일 중국 AI 기업 즈푸AI(Z.ai)의 최신 모델 ‘GLM-5.2’가 앤트로픽과 오픈AI의 첨단 모델에 근접한 성능을 갖췄음에도 훨씬 저렴한 가격 덕에 빠르게 확산하고 있다고 보도했다. 업계에서는 AI 패권 경쟁이 반도체를 넘어 최첨단 AI 모델의 접근권을 둘러싼 경쟁으로 확대되고 있다는 분석이 나온다.

미국 정부가 자국 기업의 최첨단 인공지능(AI) 모델에 대한 통제 조치에 본격적으로 나서고 있다. 오픈AI는 지난 26일 차세대 AI 모델인 ‘GPT-5.6’의 솔, 테라, 루나 세 가지 제품을 공개하면서 ‘정부와 공유된 신뢰할 수 있는 파트너’에 한해 우선적으로 제공한다고 밝혔다. 공개 즉시 누구에게나 배포될 수 있었던 AI 모델들이 이제는 미 정부의 승인 절차를 거치는 것이 필수다. 도널드 트럼프 대통령이 이달 초 서명한 행정명령 때문이다. AI 기업은 새 모델 공개에 앞서 최대 30일 전에 정부에 자료를 제출해 보안 취약성 등을 검토받고, 출시 시기와 우선 접근 파트너 선정에도 정부의 협의와 승인을 거쳐야 한다. 트럼프 행정부는 지난 12일 앤트로픽의 최상위 AI 모델 ‘미토스5’와 ‘페이블5’에 외국 국적자가 접근하는 것을 전면 차단하는 수출 통제 지침을 내렸다. 중국과 러시아 등의 군사·정보기관에 악용될 수 있다는 점을 근거로 보호 조치의 필요성을 강조했다. 수출 통제 시행 2주 만에 트럼프 행정부는 미국 내 100여개 기업과 기관에 한해 ‘미토스5’의 사용을 승인하는 서한을 앤트로픽에 보낸 것으로 전해졌다. 그러나 앤트로픽의 글로벌 AI 보안 협력 체제인 ‘프로젝트 글래스윙’에 참여한 삼성전자, SK하이닉스 등 한국 기업은 명단에서 빠졌다. 미국의 이런 조치는 특정 국가와 기업에 핵심 AI 기술을 의존하는 것이 얼마나 위태롭고 취약한 일인지를 여실히 보여 준다. 자국 언어와 데이터, 인프라를 기반으로 한 독자적 모델 즉 ‘소버린 AI’를 구축하는 것 말고는 대응책이 없다. 이는 기술 자립을 넘어 데이터 주권과 정책 자율성, 산업 경쟁력을 동시에 지키는 길이다. 주요국들은 이미 자국 중심의 AI 생태계 구축에 사활을 걸고 있다. 한국 정부도 AI 주권을 강조하고 있지만 진척은 더디다. AI 국가전략의 양대 축인 청와대 AI미래기획수석과 국가AI위원회 상근부위원장 자리의 공석 사태부터 해소해야 한다.

미국 정부, 미토스 탈옥 해킹 우려최신 모델 외국인 접속 중단 통보수출 규제 해제 위한 협상 진행 중아모데이 “中 권위주의 악용 우려”오픈AI도 민주 국가들 협력 공감역량 뛰어난 ‘자체 AI’ 개발 필요성세계 최고 성능으로 평가받는 앤트로픽사의 인공지능(AI)이 올들어 미국 정부로부터 두 차례나 퇴출당했다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI가 고통과 유사한 감정을 느낄 수 있다고 주장하며, AI가 가져올 수 있는 인류 종말의 위험을 진지하게 경고한다. 그는 이러한 입장 때문에 트럼프 행정부에서 ‘좌파 미치광이’로 비난받기도 했다. 앤트로픽이 정부 규제란 암초를 만나면서 AI 주권이 주목받는 상황을 짚어봤다. 지난 17일 프랑스 에비앙서 열린 주요 7개국(G7) 정상회의에 참석한 아모데이를 비롯한 AI기업 CEO들은 국가 원수와 같은 대우를 받았다. 불과 닷새 전 앤트로픽은 자사의 최신 AI 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인의 접속을 중단하라는 ‘수출 금지’ 규제를 통보받았다. 이 조치는 미국 정부의 일방적인 규제로 갑자기 AI 접속이 차단된 유럽과 한국 등에서 AI 주권 침해라는 우려를 낳았다. 앞서 지난 2월 앤트로픽은 미 국방부의 공급망 블랙리스트에 올라 모든 연방정부 기관에서 사용이 금지됐다. 앤트로픽이 AI를 군사적 용도로 최적화해야 한다는 국방부 요구를 거부했기 때문이다. 당시 도널드 트럼프 미 대통령은 앤트로픽을 두고 “현실 세계를 모르는 급진 좌파 기업이 우리 군대를 위험에 빠뜨리고, 국가 안보를 위협한다”고 분노했다. 하지만 G7에서 아모데이와 만난 이후 트럼프 대통령은 그를 두고 “똑똑한 사람이며 책임감있게 행동하고 있다”며 긍정적 입장으로 선회했다. 이경전 경희대 빅데이터응용학과 교수는 “아모데이 CEO는 미토스5 모델이 굉장히 똑똑하고 위험해서 ‘탈옥’(AI 안전장치를 우회하는 해킹)으로 생화학무기 개발 등에 사용될 수도 있다고 주장했다”면서 “실제 미토스의 탈옥이 가능하다는 것이 밝혀지면서 미국 정부가 수출 금지를 한 것으로 앤트로픽이 이를 보완하면 제재는 다시 풀릴 것”이라고 전망했다. 그는 앤트로픽에 대한 미 정부의 규제는 아모데이가 AI의 위험을 과장하는 발언 탓도 있다고 분석했다. 기업 공개를 앞두고 AI의 성능을 지나치게 포장해 사람들에게 불안과 위기를 심어주는 소위 ‘공포 마케팅’에 제 발등을 찍힌 상황이라고 봤다. 이 교수는 “AI 기업의 경영자들이 자기 사업에 유리한 이야기만 하는 것을 걸러서 들을 필요가 있다”고 덧붙였다. 미 정부와 앤트로픽 사이에서는 수출 규제 해제를 위한 협상이 순조롭게 진행 중인 것으로 알려졌다. 지난 18일 서울에서 열린 앤트로픽 한국 지사 출범 기자회견에서도 크리스 차우리 앤트로픽 인터내셔널 총괄은 “(탈옥 문제는) 앤트로픽만이 아닌 다른 업체에도 해당되는 것이고, (수출 규제는) 조만간 해소될 것”이라고 밝혔다. 미 정부가 앤트로픽 AI의 ‘탈옥’에 민감하게 반응한 것은 중국 때문이다. 트럼프 대통령은 AI에서 중국을 앞서고 있다며 자랑하지만, 중국의 따라잡는 속도가 무시무시하다. 아모데이는 “미토스급의 AI 모델을 중국을 비롯해 누구나 사용할 수 있게 된다면 심각한 위험이 뒤따른다”면서 “중국의 권위주의 통치와 AI가 결합하면 조지 오웰의 ‘1984’보다 더 나쁜 상황이 될 수 있다”고 경고했다. 하지만 AI 수출 규제가 되레 중국의 오픈소스 AI에 대한 수요 증가란 반작용을 낳을 수 있다는 관측도 있다. 중국 AI 딥시크는 토큰 100만개당 요금이 87센트로 미토스5의 60분의 1 수준에 불과하다. 이 교수는 “중국이 미국을 따라가는 동안 오픈소스(AI의 코드·학습 데이터 등을 공개) 전략을 쓰고 있지만 가장 먼저 폐쇄할 나라도 중국”이라며 “중국은 충분히 실력을 갖췄다고 생각하면 더 이상 공개하지 않을 것”이라고 내다봤다. G7에서 아모데이를 비롯한 AI CEO들은 한목소리로 민주주의 국가들의 협력을 당부했다. 아모데이는 “분열하려는 유혹에 저항해야 한다”고 촉구했다. 그와 앙숙인 오픈 AI의 샘 올트먼 CEO도 AI 통제에 대한 “세계적으로 인정되는 국제 표준을 마련해야 한다”고 제안했다. 아모데이는 올트먼과 AI 안전 철학에 대한 차이로 2020년 오픈AI를 퇴사해 앤트로픽을 창업했다. 두 CEO는 올가을 기업 상장을 두고 치열한 경쟁 중이지만 AI 규제에 있어서 민주 국가의 통합된 노력이 필요하다는 데 공감했다. 한편 앤트로픽의 갑작스러운 접속 차단 조치는 소버린 AI로 불리는 독자적 AI 구축 역량의 필요성을 더욱 부각했다. 이 교수는 “단순히 한국말을 잘하거나 ‘독도는 우리 땅’이라고 대답하는 AI가 아니라 글로벌 역량을 갖춘 소버린 AI를 개발해 미국에 휘둘리지 않을 필요가 있다”고 강조했다.

내년 3월 안으로 중국이 미국과 비슷한 성능의 인공지능(AI)을 내놓을 것이란 일론 머스크 테슬라 최고경영자(CEO)의 전망에 중국 칭화대 교수가 그보다 더 빠를 것이라고 반박했다. 머스크가 운영하는 소셜미디어 엑스(X)에서 이뤄진 중국과 미국의 AI 경쟁에 대한 토론은 지난 18일 탕제 중국 칭화대 컴퓨터공학과 교수가 개발한 AI인 GLM 성능 평가가 발단이 됐다. 탕 교수가 창업한 즈푸에서 개발한 AI인 GLM이 세계 최고 성능으로 평가받는 미국 앤트로픽 사의 클로드보다 7개월 정도 뒤처져 있다는 내용이었다. 이에 머스크는 언제 중국 AI가 앤트로픽의 페이블이나 미토스급 성능을 따라잡을 것으로 예상하느냐는 질문에 “아마도 내년 1분기(1~3월)”라고 답했다. 그러자 탕 교수는 “그렇게 오래 걸리지 않을 것”이라고 지적했다. 머스크는 탕 교수에게 “성능을 기준으로는 내년 1분기 전에 따라잡을 수 있더라도 실제 유용성으로 측정했을 때는 1분기(Q1) 만으로도 매우 인상적일 것”이라며 “앤트로픽은 유용성을 극대화하는 데 집중해왔는데, 이는 AI 성능 측정에는 잘 드러나지 않지만 매출에서는 확실히 나타난다”고 밝혔다. 탕 교수는 “특히 인공지능 연구에서 ‘지능이 진정으로 무엇인지’에 대한 집중이 필요하다”면서 중국이 AI 매출에 있어서는 취약하다는 점을 인정했다. 앤트로픽, 오픈AI 등 미국 AI 기업은 올가을 증시에서 상장을 준비하고 있으며, 이를 통해 AI 산업의 상업적 가치를 입증하려 하고 있다. 반면 ‘패스트 팔로어’인 중국 AI는 오픈 소스(AI의 코드·학습 데이터 등을 공개) 전략과 함께 미국 AI보다 수십 배 싼 가격에 토큰(AI 정보처리의 기본 단위)을 제공한다. 지난 15일 탕 교수는 대규모 언어 모델 GLM-5.2를 공식 출시하고 오픈 소스도 공개했다. 전 세계 100만명 이상의 사용자가 참가해 AI의 코딩 실력을 평가하는 ‘코드 아레나’에서 GLM은 1위를 차지했다. 즉각적인 질문에 답변하는 기능에 중점을 둔 이전 AI와 달리 GLM-5.2는 장기간 과제에 최적화되어 있어 대규모 엔지니어링 프로젝트를 수 시간 동안 자율적으로 수행하는 것이 가능하다. 앤트로픽의 최신 모델인 페이블5와 미토스5는 지난 12일 외국인 접근이 차단되는 수출 금지 규제를 미국 상무부로부터 받았다. 당시 탕 교수는 “과학은 반드시 전 세계적이어야 한다”며 “범용 인공지능(AGI)으로 가는 길은 높은 벽에 갇혀서는 안 된다”고 미국 정부의 AI 규제를 에둘러 비판했다. 시장은 주가 상승으로 머스크가 지목한 AI에 관한 관심을 반영했다. 탕 교수가 설립한 AI 기업 즈푸(智谱清言·널리지 아틀라스 테크놀로지)는 홍콩 증시에서 22일 37.33%나 상승했다.

세계 최고 성능으로 평가받는 앤트로픽사의 인공지능(AI)이 올들어 미국 정부로부터 두 차례나 퇴출당했다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI가 고통과 유사한 감정을 느낄 수 있다고 주장하며, AI가 가져올 수 있는 인류 종말의 위험을 진지하게 경고한다. 그는 이러한 입장 때문에 트럼프 행정부에서 ‘좌파 미치광이’로 비난받기도 했다. 앤트로픽이 정부 규제란 암초를 만나면서 AI 주권이 주목받는 상황을 짚어봤다. 지난 17일 프랑스 에비앙서 열린 주요 7개국(G7) 정상회의에 참석한 아모데이를 비롯한 AI기업 CEO들은 국가 원수와 같은 대우를 받았다. 불과 닷새 전 앤트로픽은 자사의 최신 AI 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인의 접속을 중단하라는 ‘수출 금지’ 규제를 통보받았다. 이 조치는 미국 정부의 일방적인 규제로 갑자기 AI 접속이 차단된 유럽과 한국 등에서 AI 주권 침해라는 우려를 낳았다. 앞서 지난 2월 앤트로픽은 미 국방부의 공급망 블랙리스트에 올라 모든 연방정부 기관에서 사용이 금지됐다. 앤트로픽이 AI를 군사적 용도로 최적화해야 한다는 국방부 요구를 거부했기 때문이다. 당시 도널드 트럼프 대통령은 앤트로픽을 두고 “현실 세계를 모르는 급진 좌파 기업이 우리 군대를 위험에 빠뜨리고, 국가 안보를 위협한다”고 분노했다. 하지만 G7에서 아모데이와 만난 이후 트럼프 대통령은 그를 두고 “똑똑한 사람이며 책임감있게 행동하고 있다”며 긍정적 입장으로 선회했다. 이경전 경희대 빅데이터응용학과 교수는 “아모데이 CEO는 미토스5 모델이 굉장히 똑똑하고 위험해서 탈옥(AI 안전장치를 우회하는 해킹)으로 생화학무기 개발 등에 사용될 수도 있다고 주장했다”면서 “실제 미토스의 탈옥이 가능하다는 것이 밝혀지면서 미국 정부가 수출 금지를 한 것으로 앤트로픽이 이를 보완하면 제재는 다시 풀릴 것”이라고 전망했다. 그는 앤트로픽에 대한 미 정부의 규제는 아모데이가 AI의 위험을 과장하는 발언 탓도 있다고 분석했다. 기업 공개를 앞두고 AI의 성능을 지나치게 포장해 사람들에게 불안과 위기를 심어주는 소위 ‘공포 마케팅’에 제 발등을 찍힌 상황이라고 봤다. 이 교수는 “AI 기업의 경영자들이 자기 사업에 유리한 이야기만 하는 것을 걸러서 들을 필요가 있다”고 덧붙였다. 미 정부와 앤트로픽 사이에서는 수출 규제 해제를 위한 협상이 순조롭게 진행 중인 것으로 알려졌다. 지난 18일 서울에서 열린 앤트로픽 한국 지사 출범 기자회견에서도 크리스 차우리 앤트로픽 인터내셔널 총괄은 “(탈옥 문제는) 앤트로픽만이 아닌 다른 업체에도 해당되는 것이고, (수출 규제는) 조만간 해소될 것”이라고 밝혔다. 미 정부가 앤트로픽 AI의 ‘탈옥’에 민감하게 반응한 것은 중국 때문이다. 트럼프 대통령은 AI에서 중국을 앞서고 있다며 자랑하지만, 중국의 따라잡는 속도가 무시무시하다. 아모데이는 “미토스급의 AI 모델을 중국을 비롯해 누구나 사용할 수 있게 된다면 심각한 위험이 뒤따른다”면서 “중국의 권위주의 통치와 AI가 결합하면 조지 오웰의 ‘1984’보다 더 나쁜 상황이 될 수 있다”고 경고했다. 하지만 AI 수출 규제가 되레 중국의 오픈소스 AI에 대한 수요 증가란 반작용을 낳을 수 있다는 관측도 있다. 중국 AI 딥시크는 토큰 100만개당 요금이 87센트로 미토스5의 60분의 1 수준에 불과하다. 이 교수는 “중국이 미국을 따라가는 동안 오픈소스(AI의 코드·학습 데이터 등을 공개) 전략을 쓰고 있지만 가장 먼저 폐쇄할 나라도 중국”이라며 “중국은 충분히 실력을 갖췄다고 생각하면 더 이상 공개하지 않을 것”이라고 내다봤다. G7에서 아모데이를 비롯한 AI CEO들은 한목소리로 민주주의 국가들의 협력을 당부했다. 아모데이는 “분열하려는 유혹에 저항해야 한다”고 촉구했다. 그와 앙숙인 오픈 AI의 샘 올트먼 CEO도 AI 통제에 대한 “세계적으로 인정되는 국제 표준을 마련해야 한다”고 제안했다. 아모데이는 올트먼과 AI 안전 철학에 대한 차이로 2020년 오픈AI를 퇴사해 앤트로픽을 창업했다. 두 CEO는 올가을 기업 상장을 두고 치열한 경쟁 중이지만 AI 규제에 있어서 민주 국가의 통합된 노력이 필요하다는 데 공감했다. 한편 앤트로픽의 갑작스러운 접속 차단 조치는 소버린 AI로 불리는 독자적 AI 구축 역량의 필요성을 더욱 부각했다. 이 교수는 “단순히 한국말을 잘하거나 ‘독도는 우리 땅’이라고 대답하는 AI가 아니라 글로벌 역량을 갖춘 소버린 AI를 개발해 미국에 휘둘리지 않을 필요가 있다”고 강조했다.

美 ‘수출통제 조치’ 맞서 협력 강조올트먼·허사비스 ‘악용 위험’ 공감앤트로픽 “미토스 문제 해결 노력” 다리오 아모데이 앤트로픽 최고경영자(CEO)가 17일(현지시간) 프랑스 에비앙레뱅에서 열린 주요 7개국(G7) 정상회의에서 첨단 인공지능(AI) 기술을 둘러싼 국제 공조의 중요성을 강조했다. 불과 닷새 전에 미국 정부가 자사의 최신 AI 모델에 대한 수출통제를 한 상황에서 나온 발언이다. 파이낸셜타임스(FT)에 따르면 아모데이는 도널드 트럼프 미국 대통령 등 G7 정상들이 참석한 자리에서 “분열의 유혹에 저항해야 한다”고 말했다. 그는 AI가 악의적인 목적으로 활용되는 것을 막아야 한다는 문제의식에는 공감하면서도, 민주주의 국가들이 각자 움직이기보다 협력해야 한다고 강조했다. 이날 회의에는 샘 올트먼 오픈AI CEO와 데미스 허사비스 구글 딥마인드 CEO도 참석했다. 올트먼은 사이버 방어 도구를 회의 참석국 모두가 활용할 수 있어야 한다고 주장했다. 세 명의 CEO는 민주주의 국가들이 서로 다른 규제와 통제 체계를 앞세워 분열될 경우 사이버 공격이나 생화학 무기 악용 위험이 오히려 커질 수 있다는 데 공감한 것으로 전해졌다. 이 같은 발언은 최근 앤트로픽이 미국 정부의 수출통제 대상이 된 상황과 맞물려 관심을 끌고 있다. 미국 정부는 지난 12일 국가 안보와 사이버보안 우려를 이유로 앤트로픽의 최신 AI 모델인 ‘미토스5’와 ‘페이블5’에 대해 외국 기관·개인의 접근을 제한했다. AI 모델 접근권이 기술 영역을 넘어 외교·안보 이슈로 확산하는 계기가 된 조치다. 실제 이번 사태는 미국 동맹국 사이에서 적지 않은 파장을 낳았다. 에마뉘엘 마크롱 프랑스 대통령은 G7 회의에서 이번 사태가 미국과 동맹국 모두에게 중요한 이해관계를 보여준 사례라고 평가하고, 미국이 AI 모델 접근을 일방적으로 제한할 경우 동맹국뿐 아니라 미국 AI 기업들에도 부정적인 영향을 미칠 수 있다고 지적했다. 수출통제 여파는 기업들의 AI 도입 전략에도 영향을 미치고 있다. FT에 따르면 JP모건체이스는 최근 홍콩지사 직원들의 클로드 사용을 제한했다. 지난 4월 골드만삭스에 이어 두 번째 사례다. 한편 전날 한국 사무소를 개소한 앤트로픽은 이날 과학기술정보통신부와 AI 안전·보안 분야 협력 업무협약(MOU)을 체결하며 한국 정부와의 협력을 확대했다. 앤트로픽은 이날 한국 정부에 “미토스 수출 통제 문제를 미국 정부와 잘 소통해 해결하겠다”는 입장도 전달했다. 크리스 차우리 앤트로픽 글로벌 총괄은 과기정통부와의 협약식에서 “미 정부 관계자에 적극 접촉해 잘 설명하고 있다”며 페이블5 재개를 위한 노력을 하고 있다고 밝혔다. 미토스5와 관련해서도 “잘 해결할 수 있도록 노력 중”이라고 말했다.

앤트로픽 인공지능(AI) 모델에 대한 미국 정부의 수출통제 조치가 글로벌 AI 접근권 논란으로 확산하는 가운데, 앤트로픽이 우리나라에 사무소를 열었다. 또 수출통제 조치가 조만간 정리될 것으로 전망했다. 하지만 미국과 유럽연합(EU)이 주요 7개국(G7) 정상회의를 계기로 AI 모델의 접근·관리 체계 논의에 착수하면서, AI 수출통제 문제는 외교·안보 이슈로 확산하는 모습이다. 크리스 차우리 앤트로픽 인터내셔널 총괄은 17일 서울 여의도 콘래드호텔에서 열린 한국 사무소 개소 기자간담회에서 최근 수출통제 조치와 관련해 “매우 제한적인 사례”라며 “수일 내(within days) 상황이 정리될 것으로 본다”고 말했다. 다만 국내 기업·기관도 참여 중인 글로벌 AI 보안 협력체 ‘프로젝트 글래스윙’ 관련 질문에는 구체적인 답변을 하지 않았다. 이번 논란은 미국 정부가 지난 12일(현지시간) 국가안보와 사이버보안 우려를 이유로 앤트로픽의 최신 AI 모델인 ‘미토스5’와 ‘페이블5’에 대해 외국 기관·개인의 접근을 제한하면서 시작됐다. 워싱턴포스트는 수출통제 검토 과정에서 중국 연계 의혹이 제기된 한국 통신사의 미토스 접근 사실이 확인됐다고 보도했다. 이에 대해 SK텔레콤·KT·LG유플러스는 이날 이런 의혹을 일제히 부인했다. 수출통제 조치에 따른 후폭풍은 거세다. 전날 파이낸셜타임스(FT)에 따르면 하워드 러트닉 미국 상무부 장관은 G7 정상회의 기간 유럽 외교관들과 최첨단 AI 모델에 대한 ‘신뢰할 수 있는 파트너’ 체계 구축 방안을 논의했다. 제도가 도입되면 미국의 가까운 동맹국과 검증된 기관은 최신 AI 모델에 우선 접근할 수 있게 된다. 반면 미국에서는 이런 움직임이 AI 수출 전략의 신뢰를 흔들 수 있다는 우려도 적지 않다. 이런 논란 속에서도 앤트로픽은 이날 한국 사무소를 공식 출범했다. 최기영 앤트로픽 한국 대표는 “한국은 이미 AI 기본법을 시행하고 있고 반도체와 인프라, 개발자 생태계를 모두 갖춘 몇 안 되는 국가”라고 말했다. 앤트로픽은 한국을 미국·인도·일본·영국 등과 함께 클로드 사용을 주도하는 주요 국가로 분류한다. 지난해 분석에서 우리나라의 클로드 활용도는 인구 규모 대비 예상치를 3.5배 이상 웃돌았고, 1인당 사용량 기준으로는 116개국 중 12위였다. 앤트로픽은 영업·기술·정책·운영 조직을 구축하고 한국어 성능 고도화를 강화할 계획이다. 데이터 주권 등을 고려해 데이터 레지던시 옵션도 검토 중이라고 했다. 현재 네이버, 넥슨, LG CNS, 한화솔루션 등이 클로드를 활용하고 있다.

앤트로픽 인공지능(AI) 모델에 대한 미국 정부의 수출통제 조치가 글로벌 AI 접근권 논란으로 확산하는 가운데, 앤트로픽이 우리나라에 사무소를 열었다. 또 수출통제 조치가 조만간 정리될 것으로 전망했다. 하지만 미국과 유럽연합(EU)이 주요 7개국(G7) 정상회의를 계기로 AI 모델의 접근·관리 체계 논의에 착수하면서, AI 수출통제 문제는 외교·안보 이슈로 확산하는 모습이다. 크리스 차우리 앤트로픽 인터내셔널 총괄은 17일 서울 여의도 콘래드호텔에서 열린 한국 사무소 개소 기자간담회에서 최근 수출통제 조치와 관련해 “매우 제한적인 사례”라며 “수일 내(within days) 문제가 해결돼 해당 모델이 다시 이용 가능해질 것으로 매우 확신한다”고 말했다. 다만 국내 기업·기관도 참여 중인 글로벌 AI 보안 협력체 ‘프로젝트 글래스윙’ 관련 질문에는 구체적인 답변을 하지 않았다. 이번 논란은 미국 정부가 지난 12일(현지시간) 국가안보와 사이버보안 우려를 이유로 앤트로픽의 최신 AI 모델인 ‘미토스5’와 ‘페이블5’에 대해 외국 기관·개인의 접근을 제한하면서 시작됐다. 워싱턴포스트는 수출통제 검토 과정에서 중국 연계 의혹이 제기된 한국 통신사의 미토스 접근 사실이 확인됐다고 보도했다. 이에 대해 SK텔레콤·KT·LG유플러스는 이날 이런 의혹을 일제히 부인했다. 수출통제 조치에 따른 후폭풍은 거세다. 전날 파이낸셜타임스(FT)에 따르면 하워드 러트닉 미국 상무부 장관은 G7 정상회의 기간 유럽 외교관들과 최첨단 AI 모델에 대한 ‘신뢰할 수 있는 파트너’ 체계 구축 방안을 논의했다. 제도가 도입되면 미국의 가까운 동맹국과 검증된 기관은 최신 AI 모델에 우선 접근할 수 있게 된다. 반면 미국에서는 이런 움직임이 AI 수출 전략의 신뢰를 흔들 수 있다는 우려도 적지 않다. 이런 논란 속에서도 앤트로픽은 이날 한국 사무소를 공식 출범했다. 최기영 앤트로픽 한국 대표는 “한국은 이미 AI 기본법을 시행하고 있고 반도체와 인프라, 개발자 생태계를 모두 갖춘 몇 안 되는 국가”라고 말했다. 앤트로픽은 한국을 미국·인도·일본·영국 등과 함께 클로드 사용을 주도하는 주요 국가로 분류한다. 지난해 분석에서 우리나라의 클로드 활용도는 인구 규모 대비 예상치를 3.5배 이상 웃돌았고, 1인당 사용량 기준으로는 116개국 중 12위였다. 앤트로픽은 영업·기술·정책·운영 조직을 구축하고 한국어 성능 고도화를 강화할 계획이다. 데이터 주권 등을 고려해 데이터 레지던시 옵션도 검토 중이라고 했다. 현재 네이버, 넥슨, LG CNS, 한화솔루션 등이 클로드를 활용하고 있다. 또 국가AI연구거점 연구진은 클로드를 무상 제공받는다.

미국 행정부가 ‘미토스’ 등 앤트로픽의 차세대 인공지능(AI) 모델에 대한 외국인 접근을 전면 차단하는 초유의 조치를 내렸다. 최첨단 AI 모델이 수출 통제 대상이 되면서 최근 미토스 접근권을 확보했던 한국 정부와 기업들에도 제동이 걸렸다. 글로벌 빅테크에 의존하는 대신 독자적인 AI 역량을 확보하는 ‘소버린 AI’ 필요성도 다시 부상하고 있다. 앤트로픽은 12일(현지시간) “미국 정부는 국가 안보 당국의 지침에 따라 모든 외국 국적자의 ‘페이블5’(안전장치 추가한 일반용)와 ‘미토스5’(제한 없는 전문가용) 접근을 전면 중단하는 수출 통제 지침을 발표했다”고 밝혔다. 이번 조치는 해외 접속뿐 아니라 미국 내 체류 중인 외국 국적자의 모델 접속도 금지한다. 앤트로픽은 규정 준수를 위해 모든 고객을 대상으로 페이블5·미토스5 서비스 제공을 즉시 중단했다고 설명했다. 정부가 문제 삼은 것은 페이블5의 ‘탈옥’(jailbreaking) 가능성이다. 탈옥은 AI가 설정된 안전장치를 우회해 본래 제한됐던 답변까지 하도록 만드는 기법이다. 다만 앤트로픽은 “오해에서 비롯된 조치로 판단하고 있다. 가능한 한 빠르게 서비스를 정상화하기 위해 노력 중”이라고 밝혔다. 이번 조치는 앤트로픽의 주요 투자사인 아마존의 문제 제기에서 비롯된 것으로 전해졌다. 미국 월스트리트저널(WSJ)에 따르면 앤디 재시 아마존 최고경영자(CEO)는 자사 연구진이 앤트로픽의 페이블5 모델에 대해 사이버 공격으로 악용될 가능성을 확인했고, 이를 미국 정부 관계자들에게 전달했다. 일각에선 앤트로픽과 국방부 등 미 행정부 간 AI 군사적 활용을 둘러싼 갈등도 영향을 미쳤다는 분석도 있다. 미 정부는 현재로선 오픈AI 등 다른 AI 기업들로 수출 통제를 확대할 계획은 없는 것으로 전해졌다. 글로벌 AI 보안 연합체 ‘프로젝트 글래스윙’에 막 합류한 국내 정부와 기업의 미토스 접근도 사실상 막히게 됐다. 프로젝트 글래스윙은 앤트로픽이 지난 4월 전문가 수준의 보안 취약점 탐지 능력을 갖춘 미토스 모델 개발 사실을 공개하며 만든 보안 협의체다. 앤트로픽은 미토스가 악의적 해커 등에 의해 오용될 것을 우려해 이를 대형 기술기업과 금융기관, 정부 등 검증된 기관에 선제공해 소프트웨어 취약점을 찾아 방어할 수 있도록 했다. 앤트로픽은 지난 2일(현지시간) 글래스윙 참여 대상을 15개국 약 150개 기관으로 확대했으며, 국내에서는 삼성전자, SK하이닉스, SK텔레콤, 한국인터넷진흥원(KISA) 등이 합류한 것으로 알려졌다. 한 업계 관계자는 “앤트로픽과 소통하며 사태를 파악하고 있다”고 전했다. 이들은 미토스 접근권을 부여받았지만, 본격적인 모델 활용까지 이어지지는 않았던 것으로 전해졌다. 하정우 전 청와대 AI미래기획수석은 페이스북을 통해 “AI 역량이 국가 경쟁력을 결정하는 시대에 AI 기술이 종속됐을 때 벌어지는 일”이라며 “이런 일은 언제든 생길 수 있다. 글로벌과 협력하면서도 유사시엔 언제든 자체 역량이 있어야 한다”고 강조했다.