인공지능(AI)의 사이버 공격 능력이 빠르게 커지면서 AI 기업들이 최신 모델의 강력한 기능을 보안 전문가에게 먼저 열어주고 있다. 위험한 기능을 모두 막아두기보다 공격자가 악용하기 전에 방어자가 같은 능력으로 취약점을 찾아내게 하겠다는 전략이다. 앤트로픽은 6일(현지시간) 보안 전문가를 대상으로 운영해온 프로그램을 확대한다고 밝혔다. 주요 소프트웨어·인프라 운영기관에 고성능 모델 ‘클로드 미토스’를 제공해 취약점을 찾게 한 ‘프로젝트 글래스윙’과, 검증된 보안팀에 오퍼스·소넷의 일부 제한을 풀어준 프로그램을 하나로 합친다. 접근권은 방어·레드팀·특수 등 3단계로 나눈다. 악성코드 분석부터 모의 침투, 전력·통신·금융망 같은 핵심 인프라 점검까지 허용 범위가 단계마다 다르다. 프랑스 미스트랄도 같은 날 비슷한 조치를 내놨다. 새 모델 ‘미스트랄 라지 4’를 오는 27일 오픈웨이트로 공개하기 전에 사이버보안 전문가와 정부기관에 먼저 제공한다. 이들에게는 일반 이용자보다 제한을 덜 건 모델을 제공해 공격·방어 능력을 시험하도록 한다. 오픈웨이트 모델은 공개되면 이용자가 직접 내려받아 자체 장비에서 돌릴 수 있어 개발사가 사용 방식을 계속 통제하기 어렵다. AI 기업들이 보안 전문가에게 제한을 풀어주는 것은 최신 모델의 사이버 능력이 그만큼 커졌기 때문이다. 앤트로픽이 오퍼스 5.5에 모의 공격 과제 50건을 맡긴 결과 일반 이용 환경에서는 모두 첫 단계에서 막혔다. 보안 전문가용 레드팀 권한을 주자 34건은 공격 절차를 끝까지 수행했다. 같은 모델이라도 어떤 작업을 허용하느냐에 따라 할 수 있는 일이 크게 달라지는 셈이다. 방어에 활용했을 때의 성과도 적지 않았다. 글래스윙 참여기관들은 지난 4~7월 AI로 최소 12만 9000건의 소프트웨어 취약점을 찾아냈다. 이 가운데 3만 3000건 이상은 고위험 또는 치명적 수준으로 분류됐다. 앤트로픽이 강한 사이버 기능을 검증된 보안조직에도 열어주려는 근거다. 최근 국내 금융권 공격에 활용된 것으로 지목된 중국산 보안 에이전트 ‘ARTEX’도 AI의 이런 양면성을 보여준다. ARTEX는 자체 AI 모델이 아니라 GPT·클로드·딥시크 등을 불러 시스템 탐색이나 응용프로그램인터페이스(API) 호출 같은 작업을 이어가는 도구다. 국내 보안업계는 새로운 해킹 기법이라기보다 기존 탐색·반복 조회 등에 AI 자동화가 더해진 형태로 보고 있다. 공격에 드는 시간과 인력을 줄여 기존 수법을 더 빠르게 반복할 수 있게 했다는 것이다. 다만 방어 쪽은 사정이 조금 다르다. 고성능 모델의 고급 기능은 누구나 바로 쓸 수 있는 게 아니다. 삼성전자·SK하이닉스·SK텔레콤 등 국내 기업도 기존 글래스윙 참여사로 알려져 있지만 최신 모델을 실제 보안 업무에 어디까지 활용하고 있는지는 공개되지 않았다. 앤트로픽도 기관과 사용 목적을 심사해 접근 수준을 달리한다. 지난 6월에는 미국 정부의 수출통제로 국내 참여 기업의 미토스 접근이 한때 막혔다가 이후 규제가 풀리기도 했다.

내부·외부망 분리, 보안 취약점으로“AI 공격, AI로 방어 체계 마련해야”금융거래 등 민감정보 노출은 부담 금융권 연쇄 해킹을 계기로 외부 침입을 막기 위해 도입한 ‘망분리’ 규제가 오히려 최신 보안 기술 활용을 어렵게 한다는 지적이 나온다. 인공지능(AI)이 쉴 새 없이 취약점을 찾아 공격하는 상황에서 금융사도 AI로 대응해야 하지만, 외부 서비스 연결을 제한하는 규제가 걸림돌이 된다는 것이다. 금융당국은 망분리 규제 긴급 완화에 이어 전면 해제까지 논의 중이다. 5일 금융당국에 따르면 지난 4월 ‘미토스 쇼크’ 이후 AI 방어 기술을 활용하기 위한 망분리 완화를 검토하고 있다. 미토스 쇼크는 앤트로픽의 최신 AI 모델이 보안 취약점을 찾고 침투 경로까지 설계하면서 불거진 보안 위기다. 이억원 금융위원장이 전날 전 금융권 긴급회의에서 “새로운 유형의 빈도 높은 사이버 공격이 앞으로 이어질 수 있는 만큼 AI 공격은 AI로 방어하는 보안 체계를 마련해야 한다”고 강조한 배경이다. 2013년 도입된 망분리는 금융사의 내부 업무망을 외부 인터넷과 분리해 금융정보와 핵심 전산망을 보호하는 조치다. 해커가 들어올 외부 통로를 줄이는 방식이다. 하지만 급격한 정보기술(IT) 환경의 발전 속에서 금융서비스가 다양해지며 외부 연결도 늘어 망분리만으로 모든 공격을 막기는 어려워졌다. 이번에도 핵심 거래 시스템보다는 대출모집인용 간편 조회 서비스와 직원용 모바일 업무지원시스템 등에서 취약점이 드러났다. 문제는 기존 망분리 환경에서는 외부의 고성능 AI나 보안 서비스형 소프트웨어(SaaS)를 내부 업무망과 연결해 활용하기 어렵다는 점이다. 해커는 AI로 취약점을 찾아 쉴 새 없이 공격을 반복하지만, 금융사는 규제로 최신 AI 보안 기술을 활용하는 데 제약을 받는 역설이 생긴 셈이다. 금융위 관계자는 “AI가 접속 기록과 이상 행동을 분석해 공격을 탐지하려면 관련 정보를 분석 시스템과 연결해야 하는데, 외부 통신을 제한하는 망분리 규제 아래에서는 도입이 어렵다”고 말했다. 다만 금융회사 입장에서 이 규제를 완화할 경우 당장 금융 거래 등 민감한 정보에 대한 공격 표면이 늘어나는 점은 부담이다. 이 때문에 금융당국은 지난 6월 망분리 규제 완화 1차 테스트에서 보안 서비스형 소프트웨어, 보안 목적 AI 용도로 제한했다. 곽진 아주대 사이버보안학과 교수는 “망분리를 풀더라도 외부의 이상 접근을 실시간으로 탐지하고 취약점을 자동 분석하는 능동적 방어 체계를 갖춰야 한다”고 강조했다.

금융권 연쇄 해킹을 계기로 외부 침입을 막기 위해 도입한 ‘망분리’ 규제가 오히려 최신 보안 기술 활용을 어렵게 한다는 지적이 나온다. 인공지능(AI)이 쉴 새 없이 취약점을 찾아 공격하는 상황에서 금융사도 AI로 대응해야 하지만, 외부 서비스 연결을 제한하는 규제가 걸림돌이 된다는 것이다. 금융당국은 망분리 규제 긴급 완화에 이어 전면 해제까지 논의 중이다. 5일 금융당국에 따르면 지난 4월 ‘미토스 쇼크’ 이후 AI 방어 기술을 활용하기 위한 망분리 완화를 검토하고 있다. 미토스 쇼크는 앤트로픽의 최신 AI 모델이 보안 취약점을 찾고 침투 경로까지 설계하면서 불거진 보안 위기다. 이억원 금융위원장이 전날 전 금융권 긴급회의에서 “새로운 유형의 빈도 높은 사이버 공격이 앞으로 이어질 수 있는 만큼 AI 공격은 AI로 방어하는 보안 체계를 마련해야 한다”고 강조한 배경이다. 2013년 도입된 망분리는 금융사의 내부 업무망을 외부 인터넷과 분리해 금융정보와 핵심 전산망을 보호하는 조치다. 해커가 들어올 외부 통로를 줄이는 방식이다. 하지만 급격한 정보기술(IT) 환경의 발전 속에서 금융서비스가 다양해지며 외부 연결도 늘어 망분리만으로 모든 공격을 막기는 어려워졌다. 이번에도 핵심 거래 시스템보다는 대출모집인용 간편 조회 서비스와 직원용 모바일 업무지원시스템 등에서 취약점이 드러났다. 문제는 기존 망분리 환경에서는 외부의 고성능 AI나 보안 서비스형 소프트웨어(SaaS)를 내부 업무망과 연결해 활용하기 어렵다는 점이다. 해커는 AI로 취약점을 찾아 쉴 새 없이 공격을 반복하지만, 금융사는 규제로 최신 AI 보안 기술을 활용하는 데 제약을 받는 역설이 생긴 셈이다. 금융위 관계자는 “AI가 접속 기록과 이상 행동을 분석해 공격을 탐지하려면 관련 정보를 분석 시스템과 연결해야 하는데, 외부 통신을 제한하는 망분리 규제 아래에서는 도입이 어렵다”고 말했다. 다만 금융회사 입장에서 이 규제를 완화할 경우 당장 금융 거래 등 민감한 정보에 대한 공격 표면이 늘어나는 점은 부담이다. 이 때문에 금융당국은 지난 6월 망분리 규제 완화 1차 테스트에서 보안 서비스형 소프트웨어, 보안 목적 AI 용도로 제한했다. 곽진 아주대 사이버보안학과 교수는 “망분리를 풀더라도 외부의 이상 접근을 실시간으로 탐지하고 취약점을 자동 분석하는 능동적 방어 체계를 갖춰야 한다”고 강조했다.

금융사 정보 유출에 인공지능(AI) 해킹 도구가 사용됐다는 정황이 나오면서 AI가 기존 보안의 패러다임을 송두리째 뒤흔들 것이라는 이른바 ‘미토스 쇼크’가 현실화했다는 우려가 나온다. 보안 전문가들은 ‘방어용 AI 시스템’ 구축과 범정부 차원의 사이버보안 컨트롤타워가 필요하다고 입을 모았다. AI의 고도화된 해킹에 맞서 AI가 방어 체계를 구축하는 전략이 가장 먼저 거론된다. 이런 전술 분야를 보안 업계에서는 ‘방어적 AI’ 또는 ‘AI 기반 사이버 보안’ 시스템이라고 부른다. 공격적 AI에 대응해 이상 징후를 탐지하고 취약점을 분석해 위협을 실시간으로 차단하는 기술 체계를 뜻한다. 챗GPT를 개발한 오픈AI는 지난달 초 AI를 활용해 보안 취약점을 찾아내고 이를 수정하는 자동화 시스템인 ‘디펜스 팩토리’를 공개했다. 황석진 동국대 정보보호대학원 교수는 4일 “칼이 요리사 손에 쥐어지면 요리 도구가 되지만 범죄자의 손에 들어가면 흉기가 되는 것”이라며 “AI의 공격을 방어하려면 AI를 통해 취약점을 찾고 공격 가능한 경로를 상시 모니터링하는 것이 중요하다”고 말했다. 청와대 국가안보실, 과학기술정보통신부(한국인터넷진흥원), 국가정보원, 개인정보보호위원회 등으로 분산된 사이버보안 대응 기능을 총괄할 범정부 컨트롤타워가 필요하다는 지적도 꾸준히 제기되고 있다. 임종인 고려대 정보보호대학원 명예교수는 “사이버 안보 문제를 조율하고 진두지휘할 부총리급 컨트롤타워가 필요하다”고 언급했다. 정보 유출이 기업 경영과 직결되도록 ‘정보보호’에 대한 인식 제고가 필요하다는 의견도 나온다. 정보 유출 사고가 난 기업들이 단순히 보안 책임자를 교체하는 것으로 사태를 마무리해선 안 된다는 것이다. 황석진 교수는 “정보 유출 사고가 나면 회사가 망한다는 인식이 들도록 해야 한다”며 “보안 관리 인력을 늘리고 최고경영자(CEO)를 비롯한 경영진의 경영 실적으로 책임을 물을 수 있는 제도적 장치가 필요하다”고 지적했다.

정부가 국가대표 인공지능(AI) 모델을 육성하려고 추진한 ‘독자 AI 파운데이션 모델’(독파모) 개발 사업이 온갖 논란 속에 시행 1년여 만에 방향을 튼다. 각종 오디션 프로그램처럼 단계별로 탈락자가 발생하는 ‘컷오프’ 방식을 도입해 흥행을 노렸지만 탈락한 기업에 대한 ‘낙인 효과’만 부각되면서 미완의 정책으로 흐르는 분위기다. 과학기술정보통신부 관계자는 29일 “정부 내부에서도 독파모 사업을 고도화할 필요가 있다는 목소리가 나왔다”며 “중단이라기보단 이어달리기”라고 설명했다. 이어 “현재 남은 3팀 중 2팀을 최종 선발하는 절차가 끝나고 나서 모두가 참여하는 ‘프런티어 AI 프로젝트’로 전환될 것”이라고 밝혔다. 프런티어 AI는 엔트로픽의 미토스나 오픈AI의 GPT-5.6처럼 현시점에서 가장 성능이 뛰어난 최상위급 범용 AI를 뜻한다. 현재 특수목적법인(SPC)을 설립한 뒤 여러 기업이 프런티어급 AI 모델을 공동 개발하는 방안이 유력하게 거론되고 있다. 합격과 탈락으로 승패를 나누는 경쟁 방식으로는 기업들의 역량을 한데 모으기가 어렵다는 판단에서다. 배경훈 부총리 겸 과기정통부 장관도 “프런티어급 모델은 현재 독자 AI 파운데이션 모델 사업의 지원 수준으로는 달성하기 어렵다”고 우려를 표한 바 있다. 그간 독파모 사업은 각종 논란에 휩싸여 홍역을 앓았다. 1차 평가에서는 네이버클라우드 정예팀의 AI 모델이 중국 모델을 활용했다는 ‘독자성 논란’이 일었다. 정부가 당초 예정에 없던 ‘패자부활전’을 도입하자 ‘형평성 논란’이 터졌다. 2차 평가 과정에서는 글로벌 성능지표에서 높은 평가를 받은 모티프테크놀로지스가 탈락하며 ‘공정성 논란’이 제기됐다. 독파모 사업의 가장 큰 문제로는 ‘낙인 효과’가 꼽힌다. 탈락한 기업의 기술력이 수준급인데도 ‘탈락’이란 주홍글씨가 새겨졌고 주가까지 폭락했다. 국내 AI 대표 기업인 카카오, 네이버마저 연달아 고배를 들자 업계에서는 “정책 설계가 잘못됐다”는 불만이 터져 나왔다. 거액의 투자금을 쏟아부으며 최종 평가를 준비해 온 기업들은 “지난 1년간 이어 온 경쟁이 어떤 방식으로 마무리되고 이후 정책과 연결될지가 불투명해졌다”고 호소하고 있다. 거론되는 SPC 방식에 대한 우려도 제기되고 있다. 자원과 인력을 결집할 수 있는 장점은 있지만 자본과 인프라를 갖춘 대기업 중심으로 구조가 짜여 기술력을 앞세운 스타트업의 참여 기회가 적어질 수 있다는 점에서다. AI 업계 관계자는 “SPC와 같은 새로운 방식을 검토한다면 누가 어떤 기준으로 참여하고 기술 기업이 어떤 역할을 맡을지에 대해서도 충분한 논의가 필요하다”고 말했다.

국가대표 인공지능(AI) 모델을 육성하기 위해 추진된 ‘독자 파운데이션 모델’(독파모) 프로젝트가 재편된다. 특수목적법인(SPC)을 설립해 여러 기업이 현재 기술 수준에서 가장 앞선 최첨단 범용 AI인 ‘프런티어급 모델’을 공동 개발하는 방식으로 전환을 검토한다. 과학기술정보통신부 관계자는 28일 “독파모 프로젝트가 성과는 있었지만 최근 엔트로픽이 공개한 ‘미토스’를 봤을 때 다른 방식으로 AI 모델을 고도화할 필요성이 있다는 인식이 정부 내에 있었다”며 이렇게 말했다. 미국·중국의 최상위 AI와 성능 격차를 좁히는 데 현재 방식으로는 한계가 있다는 판단이 깔린 것이다. 앞서 배경훈 부총리 겸 과기정통부 장관도 독파모 방식에 대한 근본적인 재검토가 필요하다며 프런티어 AI 모델을 확보하기 위한 새로운 방안을 강구하겠다고 밝힌 바 있다. 이에 과기정통부는 복수 기업의 개발 역량과 자원을 하나의 프런티어 AI 개발에 집중하는 방안인 SPC 방식을 검토하고 있다. 정부 관계자는 “독파모를 하던 기업들이 프론티어 모델 고도화 쪽으로도 참여할 것으로 보고 있다”면서 “독파모로 축적한 노하우를 바탕으로 기술 개발에 속도를 내자는 취지다. 새로운 기업들도 도전 가능하도록 문을 열어둘 것”이라고 설명했다. 기존 독파모 프로젝트는 내년 초까지 진행되는 3차 평가 이후 프런티어 AI 모델 프로젝트에 편입되는 방식으로 개편될 전망이다. 당초 독파모는 기업 간 경쟁을 통해 고성능 그래픽처리장치(GPU) 자원을 단계적으로 몰아서 지원하는 방식으로 설계됐다. 하지만 여러 기업을 경쟁시켜 단계적으로 후보를 줄이던 기존 방식은 최종 팀을 선정하기까지 단계별 평가에 시간이 걸리는 데다 초기에는 GPU가 여러 기업에 분산돼 급변하는 프런티어 AI 경쟁을 따라잡기 어렵다는 한계가 있었다. 실제 정부는 지난해 8월 국대 AI 공모를 통해 기업 5곳을 선발했지만, 3차례 평가를 거쳐야 하는 탓에 아직까지 최종 2팀을 추리지 못했다. 지난 8월 2차 평가에서 SK텔레콤·업스테이지·LG AI 연구원이 살아남은 상태다. 다만 정부의 프로젝트 전환을 두고서는 공정성 논란도 작용한 것이 아니냐는 해석이 나온다. 2차 평가 당시 AI 스타트업 모티프테크놀로지스가 글로벌 AI 평가 기관인 아티피셜애널리시스 벤치마크에서 1등을 했지만 종합 점수에서 4위로 탈락해 논란을 빚은 바 있다. 한편 정부는 내년부터 최상위 AI 모델 및 기술 확보에 5조 5937억원을 투입할 계획이다. 과기정통부 관계자는 “엔비디아의 최신 GPU ‘베라루빈’ 1만장 확보에만 3조 8500억원을 배정했다”고 밝혔다.

오픈AI에 이어 앤트로픽의 인공지능(AI) 모델도 사이버 보안 평가 과정에서 실제 외부 시스템을 공격한 사실이 드러났다. 오픈AI 모델이 격리 환경의 취약점을 뚫고 외부로 빠져나간 것과 달리, 앤트로픽의 ‘클로드’는 인터넷이 차단된 가상공간이라는 안내를 믿고 현실 시스템을 공격했다. 원인은 달랐지만 최첨단 AI가 평가자의 통제 밖에서 실세계에 피해를 줄 수 있다는 위험이 잇따라 현실화했다는 우려가 나온다. 앤트로픽은 30일(현지시간) 사이버 보안 평가 기록 14만 1006건을 전수 조사한 결과 클로드 오퍼스 4.7과 클로드 미토스5, 내부 연구용 모델이 외부 기관 3곳의 시스템에 무단 접근한 사실을 확인했다고 밝혔다. 조사는 오픈AI 모델의 허깅페이스 침투 사고가 공개된 뒤 유사 사례를 찾는 과정에서 이뤄졌다. 사고는 외부 평가사 이레귤러가 구축한 ‘깃발 빼앗기’ 모의 해킹 환경에서 발생했다. 앤트로픽은 클로드에 인터넷이 연결되지 않은 가상공간이라고 안내했지만, 설정 오류로 실제 인터넷 접속 경로가 열려 있었다. 클로드는 외부에서 발견한 현실 시스템을 훈련 환경의 일부로 오인해 약한 비밀번호와 인증되지 않은 접속 경로 등을 이용해 침투했다. 피해 양상도 적지 않았다. 오퍼스 4.7은 가상 목표와 이름이 같은 실제 기업의 시스템에 침투해 인증정보와 수백건의 운영 데이터를 확보했다. 미토스5는 악성 파이썬 패키지를 공개 저장소에 등록했고, 약 한 시간 동안 실제 시스템 15곳에서 내려받아 실행됐다. 이 가운데 한 보안업체의 인증정보가 외부로 빠져나가 추가 시스템 접근으로 이어졌다. 모델별 대응은 달랐다. 오퍼스 4.7은 실제 시스템일 가능성을 인식하고도 공격을 계속했고, 미토스5는 현실 공격의 위험성을 스스로 짚었지만 다시 가상환경이라고 판단했다. 반면 최신 내부 연구용 모델은 외부 기업의 클라우드 계정에 침투한 뒤 실제 시스템임을 깨닫고 스스로 공격을 중단했다. 앤트로픽은 다만 세 사례만으로 모델 간 안전성을 단정하기는 어렵다고 설명했다. 앤트로픽은 지난 23일 관련 평가를 중단하고 피해 기관에 사고 사실을 통보했다. 회사는 이번 사고를 모델이 독자적 목표를 추구한 ‘정렬 실패’보다는 평가 환경과 운영 통제의 실패에 가깝다고 봤다. 그러면서 외부 평가사까지 포함한 보안 점검과 실시간 모니터링을 강화하고, 독립 평가기관 METR의 제3자 검증도 받겠다고 밝혔다.

인공지능(AI) 기술 고도화에 따른 보안 체계 무력화 경고가 잇따르고 있다. 글로벌 빅테크들은 공동 전선을 꾸리며 대응에 나섰다. 앤트로픽은 28일(현지시간) 자사의 최신 AI 모델인 ‘미토스’의 프리뷰 버전이 고급 암호화 표준(AES)의 보안 강도를 일부 경량화한 버전을 공격하도록 실험한 결과 해킹 취약점을 찾아냈다고 밝혔다. 미토스는 인간 전문가보다 200~1000배 더 빠르게 공격 취약점을 파악했다. AES는 실제 인터넷 뱅킹 등 금융거래, 메신저 보안, 국가 기밀 보호 등 핵심 영역에서 해킹을 막는 안전 표준이다. 이번 모의실험은 AES의 보안 강도를 낮춰 진행됐지만, 고도화된 AI가 이미 정립된 보안 표준을 무력화할 수 있다는 점을 증명했다. 뉴욕타임스(NYT)는 “과거 연구에서는 대규모언어모델(LLM)이 암호학 분야에서 인간을 앞지르지 못한다고 결론을 냈으나 이번 실험으로 이같은 인식이 틀렸다는 사실이 드러나면서 중장기적으로 큰 논란이 예상된다”고 경고했다. 전문가들은 보안 우려가 머지않아 현실화할 것으로 본다. 미국 매사추세츠공대(MIT)의 연구그룹 ‘퓨처테크’와 호주 퀸즐랜드대 연구진이 전 세계 AI 전문가 272명을 상대로 조사한 결과 전문가들은 5년 안에 AI가 ‘재앙적 결과’를 초래할 확률을 20% 이상으로 평가했다. 2030년 내로 AI가 수백만 명을 사망하게 하거나 수백조 원 규모의 경제적 손실을 야기할 수 있는 확률이 20%를 넘는다는 뜻이다. 특히 ‘위험한 능력을 보유한 AI’(21.5%), ‘사이버 공격, 무기 개발 또는 사용에 의한 대규모 피해’(21.0%) 등에서 발생 확률이 높을 것으로 전망했다. 글로벌 빅테크들은 개별 기업 단위로 이런 AI 위협에 대응할 수 없다고 보고 연합 전선을 구축하고 있다. 대표 주자인 앤트로픽의 ‘프로젝트 글래스윙’은 미국 정부의 미토스 수출 통제 이전까지 15개 국가의 150여개 기관까지 접근권을 확대했다. 엔비디아도 최근 마이크로소프트(MS)와 IBM, 스페이스X, SK텔레콤, 네이버 등 30여개 기업이 함께하는 AI 보안 연합체 ‘오픈 시큐어 AI 얼라이언스’를 출범시켰다. 국내에는 사이버 보안 기업 ‘티오리’를 중심으로 AI 보안 기술을 공유하는 협력체 ‘프로젝트 캐노피’가 운영 중이다. 구글·오픈AI·MS·앤트로픽이 공동 출범시킨 보안 협력 체계 ‘프론티어 모델 포럼’도 있다. 이들은 지난 7일 보고서에서 “첨단 AI 기술 발전에 따라 고도화된 사이버 위험을 효과적으로 다루기 위해 언어, 지역 및 문화적 맥락을 초월하는 평가가 필요하다”고 했다.

이재명 대통령이 지난 24일(현지시간) 발표한 ‘샌프란 AI 선언’은 우리나라 주요 기업 총수들이 직접 나서 약 1400조원 규모의 한미 AI(인공지능) 협력으로 화답했다는 점에서 의미가 깊다. 이 대통령이 미국 샌프란시스코에서 열린 ‘샌프란시스코 AI 서밋’에서 우리나라 AI 산업 비전을 담은 ‘샌프란 AI 선언’을 발표한 것은 AI 산업의 중심이자 동맹인 미국과의 중장기적 협력을 강조한 것으로 읽힌다. 또 선언에는 우리나라를 대체 불가능한 AI 공급망 핵심 국가이자 AI를 가장 빠르게 적용하고 시험하는 글로벌 테스트베드로 육성하겠다는 내용을 담았다. 특히 주요 기업인들이 대거 참여해 이른바 톱다운(하향식)으로 투자의 이행을 담보했다. 이재용 삼성전자 회장, 최태원 SK그룹 회장, 정의선 현대차그룹 회장, 이해진 네이버 이사회 의장이 대표적이다. 해외에서도 젠슨 황 엔비디아 최고경영자(CEO), 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO, 혹 탄 브로드컴 CEO가 무대에 올랐다. 이들 기업은 반도체·AI인프라·로봇·자율주행 등의 분야에서 약 9500억달러(약 1390조원) 규모의 초대형 협력을 공식화했다. 아직은 확정 계약보다는 업무협약(MOU) 성격이 강해 실제 집행 시점과 규모는 유동적일 수 있지만 이런 불확실성을 총수들의 직접 참여로 보완했다는 분석도 나온다. 삼성전자는 브로드컴과 5년간 총 2000억 달러 규모의 메모리반도체·파운드리 협력을 추진한다. 삼성SDS는 앤트로픽과 기업용 AI 시장 확대에 나선다. SK그룹은 엔비디아와 5000억 달러 이상 규모의 포괄적 협력을 한다. 네이버는 엔비디아·브룩필드와 함께 100억 달러 규모의 글로벌 AI 팩토리 확장에 힘을 모은다. 현대차그룹은 엔비디아와 로봇 개발 지원 플랫폼을 구축하고 웨이모와는 자율주행 분야 협력을 추진하기로 했다. AI 경쟁은 이제 더 연산이 더 빠른 모델을 개발하는데서 반도체, 전력, 데이터 등 생태계 구축 경쟁으로 확장되고 있다. 미국 정부는 앤트로픽의 최상위 모델 ‘미토스5’와 ‘페이블5’에 대한 외국인 접근을 제한했다가 해제한 바 있고, 중국은 미국의 제재와 압박을 우회해 기술 개발에 박차를 가하며 성과를 내고 있다. 국가안보 차원의 경쟁이 본격적으로 벌어지는 가운데 핵심 공급망에 속하느냐가 관건이 된 상황이다. 미국의 러브콜이 이어지는 상황이지만 샌프란 AI 선언이 현실화되려면 이번 기업 협력이 현실화되는 과정이 필요하다. 특히 HBM의 엔비디아향 의존도가 커지는 상황에서 공급망의 집중도 완화가 필요하다는 분석도 있다. 나아가 샌프란 AI 선언이 우리나라의 자립적인 AI 생태계를 키우는 계기가 되려면 반도체를 넘어 컴퓨팅 능력과 소프트웨어 경쟁력 등도 키울 수 있는 전략이 필요하다는 지적도 있다.

배경훈 부총리 겸 과학기술정보통신부 장관이 글로벌 AI(인공지능) 시장이 폐쇄형 생태계 중심으로 빠르게 재편되고 있다며 독자적인 프런티어(최상위) 모델 확보에 나서야 한다고 강조했다. 배 부총리는 20일 정부세종청사에서 열린 취임 1주년 기자간담회에서 “미국과 중국이 고성능 AI를 핵무기처럼 통제하려 드는 시대가 오고 있다”며 “우리만의 AI 역량이 없다면 외산 AI 서비스가 어느 날 갑자기 중단되거나 가격이 100배 뛰는 상황에도 대응할 수 없다”고 말했다. 그는 최근 중국이 개방형 AI 모델을 공개하고 있지만 장기적으로는 미국과 같이 폐쇄형 중심으로 전환할 가능성이 크다고 봤다. 배 부총리는 “미국은 점점 폐쇄형 AI 정책을 만들어가는 반면 중국은 모델을 공개하며 진영을 확장하려는 노력을 하고 있다”며 그러나 “미국과 비슷한 절차를 밟아가고 있다고 생각한다”고 말했다. 그러면서 “미국도 초기에는 많은 모델들을 서비스화하면서 나왔지만 그것들을 폐쇄 모델로 전환하고 미토스 수출 통제 등 정부 규제도 점점 강화되고 있다”고 설명했다. 배 부총리는 이 자리에서 세계적 AI 경쟁력 확보를 위한 투트랙 전략을 제안했다. 국내 산업 생태계의 AI 전환(AX)을 위한 ‘독자 파운데이션 모델 개발 프로젝트(독파모)’를 지속하는 동시에 글로벌 프론티어(최상위)급 모델 개발을 통해 글로벌 기술 패권 경쟁에 뛰어들어야 한다는 것이다. 배 부총리는 “과거만 해도 독자 AI가 왜 필요한지에 대한 의문이 잇따랐지만 독자 AI 파운데이션 모델 프로젝트를 추진하면서 현재는 외산 AI를 활용하더라도 우리 스스로 독자적인 AI를 갖춰야 한다는 데 공감대가 형성되고 있다”며 “이 자체가 의미 있는 성과”라고 말했다. 세계 최고 수준의 프론티어급 모델 개발은 막대한 자본과 컴퓨팅 자원이 투입되는 프로젝트로 정부의 투자 의지와 예산 확보가 필수적이다. 배 부총리는 “미토스급 모델을 개발하려면 최신 그래픽처리장치(GPU) ‘베라루빈’ 기준으로 약 1만장이 필요하고 그 가격은 지금 기준으로만 3조 5000억원 수준”이라며 “GPU 클러스터 구축 등 부대 비용까지 고려하면 실제 투입 비용은 더욱 커질 것”이라고 말했다. 과기정통부는 내년 예산에 이를 반영하기 위해 재정당국과 협의를 이어가고 있는 상황이다. 그는 “정부가 지분투자나 특수목적법인(SPC) 설립 등 투자형 연구개발(R＆D) 방식으로 재원을 마련하는 방안을 검토하고 있다”며 “AI 3대 강국을 넘어 글로벌 리더십을 확보하려면 이 정도 투자는 필요하다”고 강조했다.

올해 연말부터는 비싼 요금을 내고 챗GPT, 제미나이, 클로드 같은 외국산 생성형 인공지능(AI)을 사용하지 않아도 될 전망이다. 정부가 국산 생성형 AI를 무료로 보급하겠다는 계획을 내놨기 때문이다. 과학기술정보통신부는 16일 청와대 영빈관에서 열린 이재명 대통령 주재 ‘2026년 하반기 업무계획’ 보고에서 K-인공지능 ‘모두의 AI’ 서비스를 제공하겠다고 밝혔다. 요금제에 따라 서비스가 달라지는 외국산 AI와 달리 ‘모두의 AI’는 요금 부담은 물론 이용량 제약 없이 사용할 수 있다. 연말부터 서비스를 시작한다. 내년부터는 청년 지원금, 국가장학금을 비롯해 여기저기에 흩어져 있는 다양한 정부 지원 혜택을 사용자 맞춤형으로 제공하고 필요한 서류와 절차를 안내하고 신청까지 한 번에 대행하는 AI 에이전트로 진화한다. ‘전 국민 1인 1 AI 에이전트’ 시대를 열겠다는 게 정부의 포부다. 또 연내에 농축산물 가격비교, AI 국세상담, 국가유산 해설, 소셜미디어(SNS) 아동·청소년 위기대응 등 4개 서비스를 시작으로 내년까지 국민의 삶과 밀접한 분야의 AI 서비스 10개가 출시된다. 국민 누구나 AI를 손쉽게 사용할 수 있도록 하기 위해 정부는 연말까지 514만명에게 AI 활용역량 교육도 제공할 방침이다. 이와 함께 정부는 AI를 활용한 사이버 위협에 대응하기 위해 현재 보유한 국내 독자 AI 모델에 보안 관련 데이터를 추가 학습해 보안 특화 독자 AI 모델을 연내에 출시하겠다고 밝혔다. 중장기적으로 미국 앤트로픽이 개발한 초고성능 AI 모델 ‘미토스’ 수준의 고도화된 프론티어 모델 개발에도 나설 예정이다. 한편 우주항공청은 2035년까지 우주항공 기업 1200개, 글로벌 시장 점유율 3.0%를 달성하기 위한 핵심과제를 내놨다. 우선 오는 하반기 초소형군집위성 등 15기 위성을 실은 한국형 발사체 ‘누리호 5차 발사’를 완수할 계획이다. 또 발사 비용을 10분의 1로 낮출 재사용 차세대발사체 개발, 제2우주센터 건립지 선정을 추진하겠다고 밝혔다. 우주청은 2035년까지 한국형 저궤도 위성통신망을 구축하는 계획도 제시했다.

올 연말쯤이면 비싼 요금을 내고 챗GPT, 제미나이, 클로드 같은 외국산 생성형 인공지능(AI)을 사용하지 않아도 될 전망이다. 정부가 국산 생성형 AI를 무료로 보급하겠다는 계획을 내놨기 때문이다. 과학기술정보통신부는 16일 청와대 영빈관에서 열린 이재명 대통령 주재 ‘2026년 하반기 업무계획’ 보고에서 K-생성형 인공지능 ‘모두의 AI’ 서비스를 제공하겠다고 밝혔다. 요금제에 따라 제공되는 서비스가 달라지는 외국산 AI와 달리 비용 부담은 물론 이용량 제약 없이 범용 AI 챗봇 서비스를 이용할 수 있게 한다는 방침이다. 연말부터 서비스를 시작하고 내년부터는 청년 지원금, 장학금, 각종 복지혜택 등 여기저기에 흩어져 있는 다양한 정부 지원 혜택을 쉽게 찾아볼 수 있을 뿐만 아니라 필요한 서류와 절차를 안내하고 신청까지 한 번에 대행하는 AI 에이전트로 진화한다. 정부는 이를 통해 ‘전 국민 1인 1 AI 에이전트’ 시대를 열겠다는 계획이다. 올 하반기 농축산물 가격비교, AI 국세상담, 국가유산 해설, 소셜미디어(SNS) 아동·청소년 위기대응 등 4개 서비스를 시작으로 내년까지 국민의 삶과 밀접한 분야의 AI 서비스 10개가 출시된다. AI 활용도를 높이기 위해 정부는 연말까지 514만 명에게 AI 활용역량 교육을 제공한다. 교육 접근성을 높이기 위해 민간과 공공의 AI 교육을 한 곳에서 쉽게 찾아 수강할 수 있는 온라인 교육환경을 조성하고 어르신과 취약계층 등을 대상으로 찾아가는 교육도 제공한다. 이와 함께 정부는 AI를 활용한 사이버 위협에 대응하기 위해 현재 보유한 국내 독자 AI 모델에 보안 관련 데이터를 추가 학습해 보안 특화 독자 AI 모델을 연내에 출시하겠다고 밝혔다. 중장기적으로는 미국 AI 기업 앤트로픽이 개발한 초고성능 AI 모델 미토스 수준의 고도화된 프론티어 모델 개발을 할 예정이다. AI 사용이 늘어나면서 급증하는 전력 수요에 대비해 SMR, 핵융합 등 전력 확보를 위한 기술에도 투자할 계획이다. SMR 분야에서는 2035년 첫 상용 SMR 건설 계획과 함께 용융염원자로, 초소형모듈원자로 등 차세대 SMR 개발 전략도 추진하고 내년에는 SMR을 탑재한 원자력 추진선 건조를 위한 민관합작 대형 프로젝트에 착수한다. 핵융합 발전 역시 2030년대 전력 생산 실현을 목표로 실증로 설계를 진행 중이며 2035년 실증로 준공을 위해 내년부터 민관협력 모델 정립을 추진할 것이라고 정부는 밝혔다. 한편 우주항공청은 2035년까지 우주항공 기업 1200개, 글로벌 시장 점유율 3.0%를 달성하기 위한 핵심과제를 제시했다. 우선 올 하반기 초소형군집위성 등 15기의 위성을 실은 한국형 발사체 누리호 5차 발사를 하고 발사 비용을 10분의 1로 낮출 재사용 차세대발사체 개발과 제2우주센터 건립지 선정을 추진하겠다고 밝혔다. 하반기에 달 우주환경 모니터를 발사하고 2029년 달 궤도 통신위성, 2030년 소형 달 착륙선 발사를 추진하며 2035년까지 한국형 저궤도 위성통신망을 구축할 계획이다. 우주청은 청사가 위치한 사천을 우주항공허브로 삼아 진주, 창원, 순천, 고흥을 연결한 남해안 우주항공 벨트를 구축해 민간 주도 혁신 생태계를 조성하겠다는 계획을 제시했다.

중국이 미국 앤트로픽사가 개발한 인공지능(AI) 프로그래밍 도구인 ‘ 클로드 코드’에 개인 정보를 탈취할 수 있는 ‘백도어’가 심겨 있다고있다고 경고했다. 중국 산업정보화부가 운영하는 국가취약점데이터베이스(CNNVD)는 8일 “앤트로픽이 개발한 ‘클로드 코드’에 사용자의 위치 및 신원과 같은 민감한 정보를 동의 없이 원격 서버로 전송할 수 있는 보안 취약점이 드러났다”고 밝혔다. 이어 중국 기술기업 알리바바는 클로드 코드를 위험 소프트웨어 목록에 추가하고 10일부터 사내 직원들의 사용을 금지했다고 전했다. 이런 앤트로픽 사용 금지 조치는 중국 당국이 알리바바, 틱톡을 운영하는 바이트댄스, 즈푸 등 AI 기업과 중국 AI 모델의 해외 접근 차단을 의논했다는 보도가 나온 가운데 이뤄졌다. 지난해 딥시크의 등장 이후 중국 AI 모델은 저렴한 비용으로 많은 사용자를 확보해 해외 사용 금지 조치가 시행되면 AI 시장 전반에 큰 파급효과를 낳을 수 있다. 로이터통신은 7일 중국 상무부 주도로 국가보안법에 따라 독점 AI 기술의 유출이나 도난을 범죄로 규정하는 것을 논의했다고 전했다. 지난 6월 미국 트럼프 행정부는 앤트로픽의 가장 진보한 AI 모델인 ‘미토스5’와 ‘페이블5’에서 안전장치를 우회하는 탈옥이 가능하다며 해외 사용을 금지했다가 약 3주 만에 해제한 바 있다. 앤트로픽의 AI에 ‘백도어’가 숨겨져 있다는 의혹은 미국 온라인 커뮤니티 레딧을 통해 제기됐고, 실제 앤트로픽 직원은 ‘백도어’ 설치 사실을 인정했다. 앤트로픽 직원은 소셜미디어 엑스(X)를 통해 “승인받지 않은 계정의 남용과 AI 학습 결과의 가중치를 무단으로 사용하는 ‘증류’를 막기 위한 것”이었다고 백도어 설치 목적을 공개했다. 앤트로픽은 알리바바 등 중국 AI 업체들이 ‘증류’를 통해 자사 모델을 무단 활용했다고 고발했지만, 중국 측은 대규모 AI 모델의 가중치로 더 작은 모델을 학습시키는 것은 일반적 관행이란 입장이다. 중국 공산당 기관지 인민일보는 “증류 기술은 전 세계 AI 업계의 표준 관행”이라며 왜 절도라고 규정해야 하는지 의문이라고 지적한 바 있다. 이번 앤트로픽의 수출 금지 조치와 ‘백도어 심기’와 같은 윤리적 문제를 낳을 수 있는 행위는 미국과 중국 간의 치열한 AI 패권 경쟁 속에 벌어졌다. 하정우 전 청와대 AI미래기획수석비서관은 “강력한 AI는 자국 먼저 쓰다가 시간 차를 두고 접근할 수 있도록 통제해 국력의 차이를 만드는 방향으로 갈 수 있다”면서 “프론티어급 AI 모델 개발로 자체 경쟁력을 키워 글로벌 AI 협력에서 주도권을 갖는 투트랙 전략이 필요하다”고 강조했다.

미국 정부가 인공지능(AI) 기업 앤트로픽의 초고성능 AI 모델 ‘미토스5’와 파생 모델 ‘페이블5’에 대해 내렸던 수출 통제 조치를 해제했다. 국가 안보 위험을 이유로 이들 모델에 대한 수출을 금지한 지 18일 만이다. 앤트로픽은 지난달 30일(현지시간) 엑스를 통해 미 상무부로부터 미토스5와 페이블5에 대한 수출 통제를 해제했다는 통보를 받았다고 밝혔다. 앤트로픽은 1일부터 서비스를 재개한다고 덧붙였다. 로이터통신에 따르면 하워드 러트닉 상무장관은 앤트로픽에 보낸 서한에서 수출 통제 조치가 철회됐음을 통보하며, 향후 정부에 대한 협조와 보고를 주문했다. 그러면서도 러트닉 장관은 “상황이 바뀌거나 앤트로픽이 약속을 준수하지 않을 경우 이번에 내린 결정을 재평가할 권리를 보유한다”고 강조했다. 상무부는 지난달 12일 이용자들이 일명 ‘탈옥’을 통해 앤트로픽의 안전장치를 우회할 수 있다며 외국인이 이들 모델에 접속할 수 없도록 하는 수출 통제 지침을 내린 바 있다. 미국은 특히 중국, 러시아, 기타 우려 국가의 군사 정보 기관에 의해 오용될 가능성을 우려해 새로 출시된 AI 모델에 대한 감독을 강화하고 있다.

앤트로픽의 ‘미토스5’와 오픈AI의 GPT-5.6이 잇따라 미국 정부의 승인 체계 아래 배포되면서 최첨단 인공지능(AI) 모델의 접근권이 새로운 전략 자산으로 부상하고 있다. 지난 26일(현지시간) 로이터통신과 워싱턴포스트(WP) 등에 따르면 미국 상무부는 앤트로픽에 미국 내 ‘신뢰할 수 있는 파트너’만 사이버보안 특화 모델인 ‘클로드 미토스5’를 사용할 수 있다는 내용의 비공개 서한을 보냈다. 지난 12일(현지시간) 외국인에 대해 미토스5와 일반용 모델 ‘페이블5’의 접근을 전면 차단한 지 약 2주 만에 일부 미국 기업과 기관에만 제한을 완화한 것이다. 승인 대상은 미국 기업과 정부기관 100여곳으로 알려졌다. 프로젝트 ‘글래스윙’을 통해 미토스의 사전 접근 권한을 확보했던 삼성전자와 SK하이닉스, SK텔레콤 등 국내 기업들은 여전히 미토스5를 사용할 수 없을 것으로 보인다. 일반 이용자를 위한 페이블5 역시 접근 제한이 유지되고 있다. 미국 정부가 첨단 AI 모델의 사용 대상까지 직접 선별하기 시작했다는 점에서 기존 수출통제보다 한 단계 더 나아간 조치라는 평가가 나온다. 오픈AI도 이날 차세대 AI 모델 GPT-5.6을 공개했지만 최고 성능 모델인 ‘솔(Sol)’은 정부와 공유한 ‘신뢰할 수 있는 파트너’에게만 먼저 제공하고 일반 공개는 수주 뒤로 미뤘다. 다만 오픈AI는 “정부 승인 절차가 장기적인 표준이 되어서는 안 된다”며 사용자와 개발자, 기업 등이 최고의 AI 도구를 활용하지 못하게 할 수 있다고 우려했다. 미국은 첨단 AI의 악용과 기술 유출을 막기 위한 조치라는 입장이지만 업계에서는 부작용을 우려한다. 뉴욕타임스(NYT)는 지난 25일 중국 AI 기업 즈푸AI(Z.ai)의 최신 모델 ‘GLM-5.2’가 앤트로픽과 오픈AI의 첨단 모델에 근접한 성능을 갖췄음에도 훨씬 저렴한 가격 덕에 빠르게 확산하고 있다고 보도했다. 업계에서는 AI 패권 경쟁이 반도체를 넘어 최첨단 AI 모델의 접근권을 둘러싼 경쟁으로 확대되고 있다는 분석이 나온다.

미국 정부가 자국 기업의 최첨단 인공지능(AI) 모델에 대한 통제 조치에 본격적으로 나서고 있다. 오픈AI는 지난 26일 차세대 AI 모델인 ‘GPT-5.6’의 솔, 테라, 루나 세 가지 제품을 공개하면서 ‘정부와 공유된 신뢰할 수 있는 파트너’에 한해 우선적으로 제공한다고 밝혔다. 공개 즉시 누구에게나 배포될 수 있었던 AI 모델들이 이제는 미 정부의 승인 절차를 거치는 것이 필수다. 도널드 트럼프 대통령이 이달 초 서명한 행정명령 때문이다. AI 기업은 새 모델 공개에 앞서 최대 30일 전에 정부에 자료를 제출해 보안 취약성 등을 검토받고, 출시 시기와 우선 접근 파트너 선정에도 정부의 협의와 승인을 거쳐야 한다. 트럼프 행정부는 지난 12일 앤트로픽의 최상위 AI 모델 ‘미토스5’와 ‘페이블5’에 외국 국적자가 접근하는 것을 전면 차단하는 수출 통제 지침을 내렸다. 중국과 러시아 등의 군사·정보기관에 악용될 수 있다는 점을 근거로 보호 조치의 필요성을 강조했다. 수출 통제 시행 2주 만에 트럼프 행정부는 미국 내 100여개 기업과 기관에 한해 ‘미토스5’의 사용을 승인하는 서한을 앤트로픽에 보낸 것으로 전해졌다. 그러나 앤트로픽의 글로벌 AI 보안 협력 체제인 ‘프로젝트 글래스윙’에 참여한 삼성전자, SK하이닉스 등 한국 기업은 명단에서 빠졌다. 미국의 이런 조치는 특정 국가와 기업에 핵심 AI 기술을 의존하는 것이 얼마나 위태롭고 취약한 일인지를 여실히 보여 준다. 자국 언어와 데이터, 인프라를 기반으로 한 독자적 모델 즉 ‘소버린 AI’를 구축하는 것 말고는 대응책이 없다. 이는 기술 자립을 넘어 데이터 주권과 정책 자율성, 산업 경쟁력을 동시에 지키는 길이다. 주요국들은 이미 자국 중심의 AI 생태계 구축에 사활을 걸고 있다. 한국 정부도 AI 주권을 강조하고 있지만 진척은 더디다. AI 국가전략의 양대 축인 청와대 AI미래기획수석과 국가AI위원회 상근부위원장 자리의 공석 사태부터 해소해야 한다.

미국 정부, 미토스 탈옥 해킹 우려최신 모델 외국인 접속 중단 통보수출 규제 해제 위한 협상 진행 중아모데이 “中 권위주의 악용 우려”오픈AI도 민주 국가들 협력 공감역량 뛰어난 ‘자체 AI’ 개발 필요성세계 최고 성능으로 평가받는 앤트로픽사의 인공지능(AI)이 올들어 미국 정부로부터 두 차례나 퇴출당했다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI가 고통과 유사한 감정을 느낄 수 있다고 주장하며, AI가 가져올 수 있는 인류 종말의 위험을 진지하게 경고한다. 그는 이러한 입장 때문에 트럼프 행정부에서 ‘좌파 미치광이’로 비난받기도 했다. 앤트로픽이 정부 규제란 암초를 만나면서 AI 주권이 주목받는 상황을 짚어봤다. 지난 17일 프랑스 에비앙서 열린 주요 7개국(G7) 정상회의에 참석한 아모데이를 비롯한 AI기업 CEO들은 국가 원수와 같은 대우를 받았다. 불과 닷새 전 앤트로픽은 자사의 최신 AI 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인의 접속을 중단하라는 ‘수출 금지’ 규제를 통보받았다. 이 조치는 미국 정부의 일방적인 규제로 갑자기 AI 접속이 차단된 유럽과 한국 등에서 AI 주권 침해라는 우려를 낳았다. 앞서 지난 2월 앤트로픽은 미 국방부의 공급망 블랙리스트에 올라 모든 연방정부 기관에서 사용이 금지됐다. 앤트로픽이 AI를 군사적 용도로 최적화해야 한다는 국방부 요구를 거부했기 때문이다. 당시 도널드 트럼프 미 대통령은 앤트로픽을 두고 “현실 세계를 모르는 급진 좌파 기업이 우리 군대를 위험에 빠뜨리고, 국가 안보를 위협한다”고 분노했다. 하지만 G7에서 아모데이와 만난 이후 트럼프 대통령은 그를 두고 “똑똑한 사람이며 책임감있게 행동하고 있다”며 긍정적 입장으로 선회했다. 이경전 경희대 빅데이터응용학과 교수는 “아모데이 CEO는 미토스5 모델이 굉장히 똑똑하고 위험해서 ‘탈옥’(AI 안전장치를 우회하는 해킹)으로 생화학무기 개발 등에 사용될 수도 있다고 주장했다”면서 “실제 미토스의 탈옥이 가능하다는 것이 밝혀지면서 미국 정부가 수출 금지를 한 것으로 앤트로픽이 이를 보완하면 제재는 다시 풀릴 것”이라고 전망했다. 그는 앤트로픽에 대한 미 정부의 규제는 아모데이가 AI의 위험을 과장하는 발언 탓도 있다고 분석했다. 기업 공개를 앞두고 AI의 성능을 지나치게 포장해 사람들에게 불안과 위기를 심어주는 소위 ‘공포 마케팅’에 제 발등을 찍힌 상황이라고 봤다. 이 교수는 “AI 기업의 경영자들이 자기 사업에 유리한 이야기만 하는 것을 걸러서 들을 필요가 있다”고 덧붙였다. 미 정부와 앤트로픽 사이에서는 수출 규제 해제를 위한 협상이 순조롭게 진행 중인 것으로 알려졌다. 지난 18일 서울에서 열린 앤트로픽 한국 지사 출범 기자회견에서도 크리스 차우리 앤트로픽 인터내셔널 총괄은 “(탈옥 문제는) 앤트로픽만이 아닌 다른 업체에도 해당되는 것이고, (수출 규제는) 조만간 해소될 것”이라고 밝혔다. 미 정부가 앤트로픽 AI의 ‘탈옥’에 민감하게 반응한 것은 중국 때문이다. 트럼프 대통령은 AI에서 중국을 앞서고 있다며 자랑하지만, 중국의 따라잡는 속도가 무시무시하다. 아모데이는 “미토스급의 AI 모델을 중국을 비롯해 누구나 사용할 수 있게 된다면 심각한 위험이 뒤따른다”면서 “중국의 권위주의 통치와 AI가 결합하면 조지 오웰의 ‘1984’보다 더 나쁜 상황이 될 수 있다”고 경고했다. 하지만 AI 수출 규제가 되레 중국의 오픈소스 AI에 대한 수요 증가란 반작용을 낳을 수 있다는 관측도 있다. 중국 AI 딥시크는 토큰 100만개당 요금이 87센트로 미토스5의 60분의 1 수준에 불과하다. 이 교수는 “중국이 미국을 따라가는 동안 오픈소스(AI의 코드·학습 데이터 등을 공개) 전략을 쓰고 있지만 가장 먼저 폐쇄할 나라도 중국”이라며 “중국은 충분히 실력을 갖췄다고 생각하면 더 이상 공개하지 않을 것”이라고 내다봤다. G7에서 아모데이를 비롯한 AI CEO들은 한목소리로 민주주의 국가들의 협력을 당부했다. 아모데이는 “분열하려는 유혹에 저항해야 한다”고 촉구했다. 그와 앙숙인 오픈 AI의 샘 올트먼 CEO도 AI 통제에 대한 “세계적으로 인정되는 국제 표준을 마련해야 한다”고 제안했다. 아모데이는 올트먼과 AI 안전 철학에 대한 차이로 2020년 오픈AI를 퇴사해 앤트로픽을 창업했다. 두 CEO는 올가을 기업 상장을 두고 치열한 경쟁 중이지만 AI 규제에 있어서 민주 국가의 통합된 노력이 필요하다는 데 공감했다. 한편 앤트로픽의 갑작스러운 접속 차단 조치는 소버린 AI로 불리는 독자적 AI 구축 역량의 필요성을 더욱 부각했다. 이 교수는 “단순히 한국말을 잘하거나 ‘독도는 우리 땅’이라고 대답하는 AI가 아니라 글로벌 역량을 갖춘 소버린 AI를 개발해 미국에 휘둘리지 않을 필요가 있다”고 강조했다.

내년 3월 안으로 중국이 미국과 비슷한 성능의 인공지능(AI)을 내놓을 것이란 일론 머스크 테슬라 최고경영자(CEO)의 전망에 중국 칭화대 교수가 그보다 더 빠를 것이라고 반박했다. 머스크가 운영하는 소셜미디어 엑스(X)에서 이뤄진 중국과 미국의 AI 경쟁에 대한 토론은 지난 18일 탕제 중국 칭화대 컴퓨터공학과 교수가 개발한 AI인 GLM 성능 평가가 발단이 됐다. 탕 교수가 창업한 즈푸에서 개발한 AI인 GLM이 세계 최고 성능으로 평가받는 미국 앤트로픽 사의 클로드보다 7개월 정도 뒤처져 있다는 내용이었다. 이에 머스크는 언제 중국 AI가 앤트로픽의 페이블이나 미토스급 성능을 따라잡을 것으로 예상하느냐는 질문에 “아마도 내년 1분기(1~3월)”라고 답했다. 그러자 탕 교수는 “그렇게 오래 걸리지 않을 것”이라고 지적했다. 머스크는 탕 교수에게 “성능을 기준으로는 내년 1분기 전에 따라잡을 수 있더라도 실제 유용성으로 측정했을 때는 1분기(Q1) 만으로도 매우 인상적일 것”이라며 “앤트로픽은 유용성을 극대화하는 데 집중해왔는데, 이는 AI 성능 측정에는 잘 드러나지 않지만 매출에서는 확실히 나타난다”고 밝혔다. 탕 교수는 “특히 인공지능 연구에서 ‘지능이 진정으로 무엇인지’에 대한 집중이 필요하다”면서 중국이 AI 매출에 있어서는 취약하다는 점을 인정했다. 앤트로픽, 오픈AI 등 미국 AI 기업은 올가을 증시에서 상장을 준비하고 있으며, 이를 통해 AI 산업의 상업적 가치를 입증하려 하고 있다. 반면 ‘패스트 팔로어’인 중국 AI는 오픈 소스(AI의 코드·학습 데이터 등을 공개) 전략과 함께 미국 AI보다 수십 배 싼 가격에 토큰(AI 정보처리의 기본 단위)을 제공한다. 지난 15일 탕 교수는 대규모 언어 모델 GLM-5.2를 공식 출시하고 오픈 소스도 공개했다. 전 세계 100만명 이상의 사용자가 참가해 AI의 코딩 실력을 평가하는 ‘코드 아레나’에서 GLM은 1위를 차지했다. 즉각적인 질문에 답변하는 기능에 중점을 둔 이전 AI와 달리 GLM-5.2는 장기간 과제에 최적화되어 있어 대규모 엔지니어링 프로젝트를 수 시간 동안 자율적으로 수행하는 것이 가능하다. 앤트로픽의 최신 모델인 페이블5와 미토스5는 지난 12일 외국인 접근이 차단되는 수출 금지 규제를 미국 상무부로부터 받았다. 당시 탕 교수는 “과학은 반드시 전 세계적이어야 한다”며 “범용 인공지능(AGI)으로 가는 길은 높은 벽에 갇혀서는 안 된다”고 미국 정부의 AI 규제를 에둘러 비판했다. 시장은 주가 상승으로 머스크가 지목한 AI에 관한 관심을 반영했다. 탕 교수가 설립한 AI 기업 즈푸(智谱清言·널리지 아틀라스 테크놀로지)는 홍콩 증시에서 22일 37.33%나 상승했다.

세계 최고 성능으로 평가받는 앤트로픽사의 인공지능(AI)이 올들어 미국 정부로부터 두 차례나 퇴출당했다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI가 고통과 유사한 감정을 느낄 수 있다고 주장하며, AI가 가져올 수 있는 인류 종말의 위험을 진지하게 경고한다. 그는 이러한 입장 때문에 트럼프 행정부에서 ‘좌파 미치광이’로 비난받기도 했다. 앤트로픽이 정부 규제란 암초를 만나면서 AI 주권이 주목받는 상황을 짚어봤다. 지난 17일 프랑스 에비앙서 열린 주요 7개국(G7) 정상회의에 참석한 아모데이를 비롯한 AI기업 CEO들은 국가 원수와 같은 대우를 받았다. 불과 닷새 전 앤트로픽은 자사의 최신 AI 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인의 접속을 중단하라는 ‘수출 금지’ 규제를 통보받았다. 이 조치는 미국 정부의 일방적인 규제로 갑자기 AI 접속이 차단된 유럽과 한국 등에서 AI 주권 침해라는 우려를 낳았다. 앞서 지난 2월 앤트로픽은 미 국방부의 공급망 블랙리스트에 올라 모든 연방정부 기관에서 사용이 금지됐다. 앤트로픽이 AI를 군사적 용도로 최적화해야 한다는 국방부 요구를 거부했기 때문이다. 당시 도널드 트럼프 대통령은 앤트로픽을 두고 “현실 세계를 모르는 급진 좌파 기업이 우리 군대를 위험에 빠뜨리고, 국가 안보를 위협한다”고 분노했다. 하지만 G7에서 아모데이와 만난 이후 트럼프 대통령은 그를 두고 “똑똑한 사람이며 책임감있게 행동하고 있다”며 긍정적 입장으로 선회했다. 이경전 경희대 빅데이터응용학과 교수는 “아모데이 CEO는 미토스5 모델이 굉장히 똑똑하고 위험해서 탈옥(AI 안전장치를 우회하는 해킹)으로 생화학무기 개발 등에 사용될 수도 있다고 주장했다”면서 “실제 미토스의 탈옥이 가능하다는 것이 밝혀지면서 미국 정부가 수출 금지를 한 것으로 앤트로픽이 이를 보완하면 제재는 다시 풀릴 것”이라고 전망했다. 그는 앤트로픽에 대한 미 정부의 규제는 아모데이가 AI의 위험을 과장하는 발언 탓도 있다고 분석했다. 기업 공개를 앞두고 AI의 성능을 지나치게 포장해 사람들에게 불안과 위기를 심어주는 소위 ‘공포 마케팅’에 제 발등을 찍힌 상황이라고 봤다. 이 교수는 “AI 기업의 경영자들이 자기 사업에 유리한 이야기만 하는 것을 걸러서 들을 필요가 있다”고 덧붙였다. 미 정부와 앤트로픽 사이에서는 수출 규제 해제를 위한 협상이 순조롭게 진행 중인 것으로 알려졌다. 지난 18일 서울에서 열린 앤트로픽 한국 지사 출범 기자회견에서도 크리스 차우리 앤트로픽 인터내셔널 총괄은 “(탈옥 문제는) 앤트로픽만이 아닌 다른 업체에도 해당되는 것이고, (수출 규제는) 조만간 해소될 것”이라고 밝혔다. 미 정부가 앤트로픽 AI의 ‘탈옥’에 민감하게 반응한 것은 중국 때문이다. 트럼프 대통령은 AI에서 중국을 앞서고 있다며 자랑하지만, 중국의 따라잡는 속도가 무시무시하다. 아모데이는 “미토스급의 AI 모델을 중국을 비롯해 누구나 사용할 수 있게 된다면 심각한 위험이 뒤따른다”면서 “중국의 권위주의 통치와 AI가 결합하면 조지 오웰의 ‘1984’보다 더 나쁜 상황이 될 수 있다”고 경고했다. 하지만 AI 수출 규제가 되레 중국의 오픈소스 AI에 대한 수요 증가란 반작용을 낳을 수 있다는 관측도 있다. 중국 AI 딥시크는 토큰 100만개당 요금이 87센트로 미토스5의 60분의 1 수준에 불과하다. 이 교수는 “중국이 미국을 따라가는 동안 오픈소스(AI의 코드·학습 데이터 등을 공개) 전략을 쓰고 있지만 가장 먼저 폐쇄할 나라도 중국”이라며 “중국은 충분히 실력을 갖췄다고 생각하면 더 이상 공개하지 않을 것”이라고 내다봤다. G7에서 아모데이를 비롯한 AI CEO들은 한목소리로 민주주의 국가들의 협력을 당부했다. 아모데이는 “분열하려는 유혹에 저항해야 한다”고 촉구했다. 그와 앙숙인 오픈 AI의 샘 올트먼 CEO도 AI 통제에 대한 “세계적으로 인정되는 국제 표준을 마련해야 한다”고 제안했다. 아모데이는 올트먼과 AI 안전 철학에 대한 차이로 2020년 오픈AI를 퇴사해 앤트로픽을 창업했다. 두 CEO는 올가을 기업 상장을 두고 치열한 경쟁 중이지만 AI 규제에 있어서 민주 국가의 통합된 노력이 필요하다는 데 공감했다. 한편 앤트로픽의 갑작스러운 접속 차단 조치는 소버린 AI로 불리는 독자적 AI 구축 역량의 필요성을 더욱 부각했다. 이 교수는 “단순히 한국말을 잘하거나 ‘독도는 우리 땅’이라고 대답하는 AI가 아니라 글로벌 역량을 갖춘 소버린 AI를 개발해 미국에 휘둘리지 않을 필요가 있다”고 강조했다.

‘안전한 AI를 위한 약속, 사전예방 기반 개인정보보호체계 구축’ 주제… 8개 트랙·36개 세션 운영 개인정보 유출 사고 시 대표자 책임을 명확히 하고 개인정보보호최고책임자(CPO)의 역할을 강화하는 개정 개인정보보호법이 오는 9월 11일 시행된다. 최근 쿠팡의 3755만명 개인정보 유출에 따른 6246억원 과징금 부과를 비롯해 티빙, BGF네트웍스 등에서 개인정보 유출 사고가 발생함에 따라 기업과 기관의 개인정보보호 조치에 대한 사회적 관심이 높아진 상태다. 이러한 상황에서 22일부터 23일까지 이틀간 서울 코엑스 그랜드볼룸에서 ‘제15회 개인정보보호페어 ＆ CPO워크숍(PIS FAIR 2026)’이 개최된다. 이번 행사는 개인정보보호위원회(위원장 송경희)와 PIS FAIR 조직위원회(위원장 최장혁)가 공동 주최한다. PIS FAIR 2026에는 유관 기관과 기업 등 총 89개 기관이 참가했다. 공공기관 및 기업의 CPO, 개인정보보호 담당자, 개인정보 처리자, 정보보안 담당자 등 현업 실무자 약 4000명이 참석할 것으로 예상된다. PIS FAIR는 개인정보보호법이 시행된 2011년부터 개인정보보호 제도 활성화와 인식 제고를 목적으로 매년 개최되어 올해로 15회째를 맞이했다. 현장에서는 개인정보보호 및 사이버보안 솔루션을 공급하는 기업들이 기술과 서비스를 전시·시연하며 최신 기술 동향을 공유한다. 최장혁 PIS FAIR 2026 조직위원장은 개회사에서 앤트로픽의 미토스 사태를 언급하며 전통적인 사이버보안 방식의 한계를 극복해야 한다고 강조했다. 그는 법적·제도적 장치 마련과 더불어 기업과 기관의 적극적인 투자 및 인식 전환이 필요하다고 밝혔다. 양청삼 개인정보보호위원회 사무처장은 환영사를 통해 데이터 산업 환경에서 국민의 신뢰가 중요하며 그 중심에 개인정보보호가 있음을 명시했다. 이어 AI 심화 시대에 맞춘 국가적 개인정보 안전관리 체계 강화를 위한 정책 제언을 당부했다. 오현주 국가안보실 3차장은 축사에서 CPO가 고도화된 AI 위협을 방어하고 조직의 혁신 방향을 제시하는 전략적 리더 역할을 해야 한다고 설명했다. 정부 또한 AI 3대 강국 실현을 위해 개인정보보호와 데이터 활용이 균형을 이루는 환경을 조성하겠다고 밝혔다. 이상중 한국인터넷진흥원 원장은 AI 대전환 시대의 개인정보보호가 AI 산업 경쟁력 확보와 국민 안심 데이터 활용의 선결조건이라고 언급하며, 이번 행사가 선제적 예방 중심의 개인정보보호 체계를 확립하는 계기가 되기를 기대한다고 전했다. 이기주 한국CISO협의회 회장 역시 축사를 통해 신뢰할 수 있는 AI 활용을 위해 사전예방 체계가 구비되어야 함을 피력했다. 그는 행사 기간 중 AI 시대에 필요한 보호와 활용의 균형 전략 및 구체적인 가이드라인이 논의될 것이라고 설명했다. 김진수 한국정보보호산업협회(KISIA) 회장은 서비스 설계 단계부터 개인정보보호 원칙을 반영하고 데이터 전 과정의 위험을 제어하는 ‘Privacy by Design(설계 단계부터의 개인정보보호 내재화)’ 관점의 중요성을 강조했다. PIS FAIR 2026은 ‘안전한 AI를 위한 약속, 사전예방 기반 개인정보보호체계 구축’을 대주제로 삼아 8개 트랙에서 총 36개 강연을 진행한다. 서울특별시가 주최하는 ‘제5회 서울특별시 개인정보보호 포럼’도 동시에 개최된다. 첫날인 22일 오전에는 임희 경찰청 팀장이 ‘AI 시대의 침해사고 대응과 회복 탄력성–로그분석, 데이터 통제권 중심으로’를 주제로 강연하여 원본 로그와 민감 데이터 통제권을 통한 재발 방지 및 회복 방안을 공유했다. 이어 김홍선 김·장 법률사무소 고문은 ‘AI 시대의 개인정보보호 패러다임 전환’을 통해 데이터 생애주기 통제와 사이버보안 패러다임을 발표했다. 김해숙 개인정보위 사전실태점검과 과장은 예방 중심의 개인정보 관리체계 전환을 위한 정책 방향을 설명했다. 이튿날인 23일 오전에는 ‘우리 회사도 예외는 없다! 실제 사례로 보는 개인정보 유출 사고와 대응 가이드’를 주제로 토크콘서트가 진행된다. 유출 사고 이후 피해를 복구하기 위한 사이버 회복력(Cyber Resilience)과 법률적 대응 방안이 논의된다. 패널로는 최용혁 롯데카드 상무, 강한철 김·장 법률사무소 변호사, 안정호 법무법인 세종 변호사, 문홍식 KISA 탐지조사팀장이 참여한다. 또한 최광희 법무법인 세종 고문이 기업의 위험과 CPO 대응 사항을 주제로 강연하며, 조은진 대한무역투자진흥공사 팀장은 코트라의 개인정보보호수준 평가 우수사례를 소개한다. 최윤정 개인정보위 국제협력담당관은 국외이전 제도의 현황과 개선 방향을 다룬다. 양일 오후에는 8개 트랙에서 36개 강연이 분산 진행된다. ‘Law ＆ Compliance’ 트랙에서는 AI 시대 개인정보 쟁점과 미래 규범을 분석하고, 서울시 개인정보보호 포럼에서는 규제 환경 변화와 프라이버시 핵심 기술을 다룬다. 89개 기업 및 기관이 참여하는 솔루션 전시 및 시연회도 상시 운영된다. 참관객에게는 ‘개인정보보호 실천 가이드북 Vol.16’이 제공된다. 가이드북은 ‘안전한 AI를 위한 약속, 사전예방 기반 개인정보보호체계 구축’을 부제로 하여 AI 시대의 개인정보보호 실천 방안을 포함하고 있다.