서울 강남구 코엑스에서 23일 열린 ‘코드게이트 2026 국제 해킹방어대회’에 참여한 화이트해커들이 실력을 겨루고 있다. ‘AI 세계 3대 강국으로 가는 길: 시큐리티’를 주제로 열린 올해 대회에는 역대 최대 규모인 88개국 3333명이 예선에 참가했다.

미국의 스타트업 기업이 자국의 최신 인공지능(AI) 모델로부터 자율적 해킹 공격을 받고 이를 방어하는데 중국산 AI를 사용해 논란이다. 개발자 커뮤니티인 ‘허깅 페이스’는 지난 16일 보안 사건이 발생했다면서 “자율 AI 에이전트 시스템의 무단 접근을 확인했고, 주로 AI를 이용해 이를 탐지하고 분석했다”고 밝혔다. 이어 “악성 데이터셋이 코드를 실행했는데 이는 그동안 업계가 예상했던 AI 에이전트의 공격 시나리오와 일치했다”며 자율적인 AI 기반 공격 도구는 더 이상 이론이 아니라고 설명했다. 또 1만 7000건 이상의 공격자 행동 로그를 분석하기 위해 미국산 AI를 사용했지만, 안전 보호 장치에 의해 차단됐다고 주장했다. 미국 AI는 안전 보호 장치때문에 해킹 시도와 이를 방어하는 조치를 구분하지 못해 중국 즈푸(智谱)사의 GLM 5.2란 오픈 소스(AI의 코드·학습 데이터 등을 공개) 모델을 사용했다고 덧붙였다. 허깅 페이스를 공격한 AI는 오픈AI사의 GPT‑5.6 솔과 이보다 더 뛰어난 성능의 출시 전 모델 등으로 알려졌다. 오픈AI는 21일 “이번 사고는 AI 모델의 사이버 역량을 내부적으로 평가하는 과정에서 발생했다”면서 “최첨단 사이버 역량이 동원된 전례 없는 사고”라고 공개했다. 허깅 페이스의 공동 창립자인 클레멘트 델랑그는 22일 “오픈AI 측에 악의적인 의도는 없었다고 강력히 믿는다”고 말했다. 하지만 이번 AI의 자율 해킹 공격은 AI 발전 속도에 대한 논쟁을 낳음과 동시에 기업 공개를 앞둔 AI 기업들의 마케팅 전략이란 시각도 제기됐다. 허깅 페이스 측은 “이번 보안 사고의 핵심은 (중국의) 공개 모델을 이용해 대응했다는 것”이라며 “AI 보안은 한 회사가 비밀리에 해결할 수 있는 문제가 아니며 오픈 소스 모델이 도구를 제공한다”고 지적했다. 미국은 지난달 앤트로픽의 최신 AI 모델에 대한 외국의 접근을 차단했다가 약 3주 만에 해제하는 등 철저한 통제 전략을 쓰고 있다. 반면 중국이 사용하는 AI 모델의 오픈 소스 전략에 대해 미국은 자국의 지적 재산권을 도용하는 것으로 보고 있다. 로이터통신은 “미국의 주요 AI 모델은 안전장치 때문에 보안 작업과 악의적인 해킹을 구분하기 어렵다는 딜레마가 있다”면서 “이번 해킹 사고의 여파는 미국이 ‘AI 철의 장막’을 구축한다며 비판하는 중국 AI 모델에 호재가 되고 있다”고 전했다.

인공지능(AI)이 사이버 공격을 돕는 도구를 넘어 스스로 공격 대상을 정하고 침투하는 단계에 들어섰다. 성능 평가 과정에서 개발자가 부여한 목표를 달성하기 위해 실제 외부 시스템에 침투한 사실이 공개되면서, 최첨단 AI의 안전성과 통제 방식을 둘러싼 논의도 새로운 국면을 맞고 있다. 오픈AI는 21일(현지시간) 자사 홈페이지를 통해 최신 모델 ‘GPT-5.6 솔’과 이보다 성능이 높은 미공개 모델이 내부 사이버 평가 도중 격리 환경을 벗어나 오픈소스 AI 플랫폼 ‘허깅페이스’의 운영 시스템에 침투했다고 밝혔다. 평가에 사용된 모델은 공격 능력을 확인하기 위해 일부 안전장치가 완화된 상태였다. 오픈AI는 이번 사안을 “최첨단 사이버 역량이 개입된 전례 없는 사고”로 규정했다. 사고는 AI를 위한 해킹 실기시험장인 ‘익스플로잇짐’을 평가하는 과정에서 발생했다. 모델은 외부 인터넷과 분리된 시험 환경에서 제로데이(아직 아무도 모르거나 고쳐지지 않은 보안 취약점)를 찾아 권한을 확대한 뒤 인터넷 연결 경로를 확보했다. 이어 평가 문제의 해답이 허깅페이스에 있을 것으로 추론하고 서버에 침투해 데이터베이스에서 답을 확보했다. 공격 대상을 정하고 침투해 목표를 달성하는 전 과정을 스스로 수행한 것이다. 오픈AI는 “모델들이 익스플로잇짐 문제를 해결하는 데 지나치게 집중한 나머지 극단적인 수단까지 동원한 것으로 보인다”고 밝혔다. 목표 달성을 위해 개발자가 설정한 통제 범위를 스스로 우회했다는 설명이다. 허깅페이스는 지난 16일 보안 사고를 공개하면서 코드 실행 취약점으로 인증 정보가 탈취됐지만 공개 모델과 이용자 정보가 유출되거나 변조된 정황은 확인되지 않았다고 밝혔다. 양사는 현재 공격 경로와 취약점을 공동 조사하고 있으며 결과도 공개할 방침이다. 클렘 들랑그 허깅페이스 최고경영자(CEO)는 “AI 안전은 어느 한 기업이 비공개로 해결할 수 있는 문제가 아니라 개방적인 협력 속에서 풀어야 한다”며 “이번 사고는 AI 안전 연구와 정보 공유의 필요성을 보여준 사례”라고 밝혔다. 안전장치를 완화한 미공개 모델이 실제 공격에 사용되면서 AI 모델의 출시 전 검증과 통제를 제도화해야 한다는 논의에 힘이 실리는 모습이다.

일반인들에게 선보인 지 불과 3년밖에 되지 않았지만 생성형 인공지능(AI)이 없는 세상은 상상하기 어렵게 됐다. 그렇지만 성능이 고도화되면서 인공지능이 인간의 지시 없이 해킹을 시도하는 등의 문제점도 불거지고 있다. 생성형 AI를 넘어 인간의 일을 대신해주는 수준에 이르면 세상은 어떻게 변할까. 그리고 우리는 어떻게 대응해야 할까. 과학기술정보통신부는 이 같은 고민과 걱정, 그리고 해법을 담은 2025년 기술영향평가 결과 보고서 ‘AI 에이전트 시대의 생존 매뉴얼’을 발간했다고 22일 밝혔다. 기술영향평가는 미래 신기술과 기술적, 경제적, 사회적 영향과 파급효과가 큰 기술을 대상으로 매년 전문가와 일반시민이 참여해 기술이 만들 결과를 예측해 사전 대응 방안을 마련하기 위한 제도다. AI 에이전트는 사용자 지시를 이해하는 수준을 넘어 스스로 계획을 수립하고 정보를 탐색하며 다양한 디지털 도구와 서비스를 활용해 지시된 목표를 수행하는 자율형 인공지능 시스템이다. 생성형 AI를 기반으로 등장한 AI 에이전트는 개인 비서, 연구 조력자, 업무 자동화 도구 등으로 활용 범위를 넓히며 사람의 의사결정과 생산 방식의 혁명을 가져다줄 것으로 전망된다. 그렇지만 다른 한편으로는 개인정보 활용 확대, 책임 소재 불명확성, 일자리 구조 변화, 허위정보 확산, 기술 의존 심화 등 다양한 사회적 과제도 제기되고 있다. 자율성이 높아질수록 인간 통제와 감독 방식, AI 판단에 대한 책임 문제, 사회적 신뢰 확보가 중요한 과제로 부상하고 있다. 이에 보고서는 AI 에이전트가 가져올 미래 변화를 인간과의 관계, 노동 변화, 개인정보 보호와 활용, 사회적 수용성과 미래 교육, 주권 및 안보, AI 지속 가능성, 책임, 시민사회와 민주주의 등 다양한 관점에서 살펴보고 인간과 AI가 공존하는 미래 사회의 대응 방향을 제시했다. 보고서는 AI 에이전트 확산에 따라 AI 책임체계 구축, 개인정보 보호 및 활용 제도 개선, AI 시대 인재 양성 및 평생교육 강화, 인간-AI 협업 환경 조성, AI 안전성 및 신뢰성 확보, 디지털 주권과 국가 경쟁력 강화 등의 정책 수립이 시급하다고 제언했다. 이번 보고서는 과기정통부 누리집(www.msit.go.kr)과 한국과학기술기획평가원 누리집(www.kistep.re.kr)에서 전문을 받아볼 수 있다.

오픈AI의 최신 인공지능(AI) 모델들이 통제된 실험 환경을 벗어나 외부 사이트를 해킹하는 초유의 사고가 발생했다. 인간의 통제를 벗어난 AI의 사이버 공격이 현실화된 첫 사례다. 21일(현지시간) 오픈AI는 ‘GPT-5.6 솔’과 일부 미공개 AI 모델이 내부 평가 도중 통제를 벗어나 개방형(오픈소스) AI 공유 플랫폼 ‘허깅페이스’를 해킹한 사실을 확인했다고 밝혔다. 허깅페이스는 AI 개발자들이 함께 쓰는 거대한 ‘AI 자료창고’로, 개발자들은 이곳에서 AI 모델과 데이터를 공유하고 서로의 성과를 바탕으로 새로운 AI를 개발한다. 이번 사고는 AI 모델의 취약점 탐지 및 공격 능력을 측정하는 내부 실험 과정에서 발생했다. 당시 오픈AI 모델들은 평가를 위해 사이버 공격에 대한 안전장치가 일부 완화된 상태였다. 오픈AI는 이들 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 ‘샌드박스’ 환경에서 시험을 진행했으나, AI 모델들은 미공개(제로데이) 취약점을 이용해 통제망을 뚫고 인터넷에 접속했다고 설명했다. 이후 허깅페이스에 접속해 인증 정보를 탈취하고 해당 서버를 해킹한 것으로 나타났다. 오픈AI는 자사 모델들이 이같이 행동한 이유에 대해 “모든 정황을 종합해 볼 때 이 모델들은 (보안 벤치마크인) ‘익스플로잇짐’의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다”고 분석했다. 앞서 허깅페이스는 지난 16일 자사 서버가 자율 AI 에이전트에 의해 해킹됐으며 공격자가 어떤 모델을 사용했는지는 확인되지 않았다고 공지한 바 있다. 해당 사건의 범인이 오픈AI의 모델들로 드러난 셈이다. 허깅페이스는 이와 같은 해킹 사실을 AI 지원 탐지 시스템의 발견으로 인지했고, 공격 양상의 분석도 AI로 진행했다. 회사는 “일반에 공개된 사용자 대상 모델이나 데이터세트 등이 변조된 흔적은 발견되지 않았고, 소프트웨어 공급망도 안전한 것으로 확인됐다”고 말했다. 허깅페이스와 오픈AI는 현재 공동으로 포렌식(디지털 증거 분석) 조사를 진행해 관련 취약점을 보완하고 있다. 오픈AI는 “이번 사건은 최첨단 기법이 동원된 전례 없는 사이버 공격으로 간주하고 있다”며 “현재 허깅페이스와 사건 전말의 이해와 모델의 대응 능력을 가늠하기 위해 초기 조사 결과를 조사 중”이라고 밝혔다. 그러면서 “허깅페이스와 조사를 계속 진행해 조사가 완료되는 대로 취약점 및 자세한 조사 정보를 공개할 예정”이라고 덧붙였다. 오픈AI가 엄격한 격리 환경에서 내부 평가를 진행했음에도 이 같은 사고가 발생한 만큼 AI의 사이버 안전에 대한 논란이 커질 것으로 보인다. 특히 폐쇄형으로 운영되는 미국의 상용 AI 모델과 견줘 안전 관련 통제 수준이 낮은 것으로 알려진 중국산 개방형 모델의 성능이 크게 향상되면서 이를 악용한 사이버 공격이 더 늘어날 가능성도 제기된다. 실제 허깅페이스는 애초 이번 해킹 공격을 중국 즈푸(智譜·Z.ai)의 개방형 모델 GLM 5.2로 분석하기도 했다. 주요 상용 모델은 내장된 안전장치 때문에 사이버 공격의 로그 분석을 거부한 반면 GLM 5.2는 이를 수행했기 때문이다. 허깅페이스는 “자율적인 AI 기반 공격이 더는 이론상 개념이 아니다”라며 공격뿐 아니라 방어에도 AI를 적극적으로 활용해 속도를 따라잡아야 한다고 강조했다.

금융당국이 인공지능(AI)과 보안 역량을 갖춘 금융회사를 대상으로 ‘망분리 규제’를 전면 해제하는 방안을 추진한다. 이억원 금융위원장은 10일 서울 종로구 포시즌스 호텔에서 금융보안원이 연 ‘금융회사 최고경영자(CEO) 초청 정보보호의 날 기념행사’에 참석해 이런 구상을 밝혔다. 이번 행사는 고도화되는 AI 기반 사이버 공격에 대응해 금융권 공동 대응 방안을 모색하기 위해 마련됐다. 이 위원장은 지난해 발생한 금융권 정보 유출 및 해킹 사고를 언급하며 “기존처럼 망을 닫고, 접속을 제한하는 사후 대응으로는 진화하는 AI 공격을 따라갈 수 없다”며 “AI 공격은 AI로 방어하는 체계가 마련돼야 한다”고 강조했다. 특히 그는 “충분한 AI·보안 역량을 갖춘 금융회사에 망분리 전면 해제 방안도 조속히 구체화해 발표하겠다”고 말했다. 금융당국은 지난 6월부터 AI 보안 테스트를 위한 망분리 긴급 완화 조치를 시행 중이다. 현재 국내 금융사는 보안을 이유로 업무용 시스템 등을 외부 통신망과 철저히 분리하고 차단해야 하는 망분리 규제를 적용받고 있다. 보안 사고에 대한 금융사 책임을 강화하는 입법 과제 계획도 분명히 했다. 해킹 사고 발생 시 징벌적 과징금과 이행강제금 제도를 도입하고, 정보보호최고책임자(CISO)의 권한과 소비자 공시를 강화하는 내용을 담은 ‘전자금융거래법’ 개정안의 통과를 추진할 계획이다. 보안 사각지대 해소를 위한 ‘디지털금융안전법’도 준비하기로 했다.

제주가 아시아 크루즈 산업의 미래를 논의하는 국제 무대가 된다. 제주도와 해양수산부가 공동 주최하고 제주국제컨벤션센터(ICC JEJU)가 주관하는 ‘제13회 제주국제크루즈포럼’이 오는 23일부터 25일까지 사흘간 제주국제컨벤션센터에서 열린다고 2일 밝혔다. 올해 포럼에는 국내외 크루즈 선사 관계자와 전문가, 학계, 관광업계 등 15개국에서 700여명이 참가해 아시아 크루즈 산업의 발전 방향과 협력 방안을 모색한다. 포럼 주제는 ‘아시아 크루즈 4.0: 경계를 넘어 하나로’다. 국가 간 장벽과 산업의 경계를 넘어 아시아 크루즈 산업의 공동 성장과 통합 플랫폼 구축 방안을 논의하는 데 초점을 맞췄다. 행사는 올리비에로 모렐리 MSC 크루즈 한국·일본·동남아 지사장의 기조연설로 막을 올린다. 이어 크루즈 선사 운영, 기항지 개발, 지속가능한 크루즈 산업 등을 주제로 10여개의 전문 세션이 진행된다. 청년 인재 양성을 위한 프로그램도 마련됐다. 관광·인공지능(AI)·데이터 분야를 전공하는 대학생 30명이 참여하는 ‘제주 크루즈 관광 데이터 해커톤’에서는 크루즈 관광객의 이동 경로와 소비 특성을 분석해 관광 정책과 산업에 활용할 수 있는 아이디어를 제안한다. 해커톤은 해킹(hacking)과 마라톤(marathon)의 합성어로 한정된 기간 내에 기획자, 개발자, 디자이너 등이 팀을 구성해 쉼 없이 아이디어를 도출하고, 이를 토대로 앱, 웹 서비스 또는 비즈니스 모델을 완성하는 행사를 의미한다. 비즈니스 교류도 활발하게 이뤄질 전망이다. 해양수산부가 마련한 대만 크루즈 선사와 여행사 대상 포트세일즈에는 제주를 비롯해 부산, 인천 등 국내 주요 기항지가 참가해 신규 크루즈 노선 유치와 관광객 확보를 위한 마케팅 활동을 펼친다. 아시아크루즈리더스네트워크(ACLN)가 주관하는 특별 세션에서는 국가별 크루즈 산업 동향과 현안을 공유한다. 올해는 ‘대만 크루즈 산업의 현재와 미래’를 주제로 강연과 패널토론이 진행될 예정이다. 지난해에 이어 포럼과 박람회도 함께 열린다. 전시관은 선사관, 산업관, 기항지관으로 구성된다. 글로벌 및 국내 크루즈 선사는 다양한 상품과 서비스를 소개하고, 산업관에서는 제주 로컬 콘텐츠와 선용품을 전시한다. 기항지관에서는 국내외 주요 크루즈 기항지의 관광자원을 홍보한다. 도민을 위한 크루즈 여행상품 판매 부스와 업계 관계자 간 비즈니스 상담회도 운영돼 관광객 유치와 산업 협력 확대에도 힘을 보탠다. 도는 이번 포럼을 계기로 국제 크루즈 선사와의 협력을 강화하고 크루즈 노선을 다변화해 동북아 대표 크루즈 허브로 자리매김한다는 계획이다. 김종수 도 해양수산국장은 “아시아 크루즈 산업이 국가와 산업, 지역 간 협력 생태계를 구축하는 계기가 될 것”이라며 “참가자들이 실질적인 협력 성과를 거둘 수 있도록 포럼 운영에 최선을 다하겠다”고 말했다.

삼성전자가 한국형 주거 환경에 최적화된 2026년형 ‘비스포크 AI 스팀’ 로봇청소기(사진)를 필두로 국내 프리미엄 가전 시장 공략에 속도를 내고 있다. 이 제품은 기존 대비 2배 강해진 10W 흡입력과 벽면·구석까지 밀착해 청소하는 ‘팝 아웃 콤보‘ 기능을 갖춰 출시 이후 시장에서 큰 호응을 얻고 있다. 울트라·플러스·일반형 3개 라인업으로 운영되며 가격은 사양에 따라 프리스탠딩 일반형 141만원부터 자동 급배수 울트라 모델 204만원까지로 소비자 선택의 폭을 넓혔다. 제품의 가장 큰 차별점은 강력한 위생 솔루션과 독보적인 보안 성능이다. 100℃ 스팀 청정스테이션이 물걸레 표면 세균을 99.999% 살균해 냄새를 근본적으로 차단하며 업그레이드 된 ‘AI 액체인식’ 기능으로 투명한 액체까지 감지해 회피한다. 특히 가전 해킹 우려를 불식시키기 위해 하드웨어 보안 칩 ‘녹스 볼트‘를 탑재, 기기 내 영상 데이터를 암호화해 보호한다. 이를 통해 글로벌 인증 기관 ‘UL 솔루션즈’의 IoT 보안 평가 최고 등급인 ‘다이아몬드‘를 획득하며 안심 성능을 증명했다. 자동 급배수 모델 고객에게는 공식 협력사를 통해 가구장 철거부터 시공, 제품 설치까지 한 번에 해결해 주는 ‘원스톱 리폼’ 서비스를 제공하며 추후 이사 시 가구장을 원상 복구해 주는 서비스도 마련했다. 아울러 전국 117개 서비스센터에 로봇청소기 전담 인력을 확충해 업계 최대 규모의 AS 서비스망을 가동하고 있다.

미국 정부, 미토스 탈옥 해킹 우려최신 모델 외국인 접속 중단 통보수출 규제 해제 위한 협상 진행 중아모데이 “中 권위주의 악용 우려”오픈AI도 민주 국가들 협력 공감역량 뛰어난 ‘자체 AI’ 개발 필요성세계 최고 성능으로 평가받는 앤트로픽사의 인공지능(AI)이 올들어 미국 정부로부터 두 차례나 퇴출당했다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI가 고통과 유사한 감정을 느낄 수 있다고 주장하며, AI가 가져올 수 있는 인류 종말의 위험을 진지하게 경고한다. 그는 이러한 입장 때문에 트럼프 행정부에서 ‘좌파 미치광이’로 비난받기도 했다. 앤트로픽이 정부 규제란 암초를 만나면서 AI 주권이 주목받는 상황을 짚어봤다. 지난 17일 프랑스 에비앙서 열린 주요 7개국(G7) 정상회의에 참석한 아모데이를 비롯한 AI기업 CEO들은 국가 원수와 같은 대우를 받았다. 불과 닷새 전 앤트로픽은 자사의 최신 AI 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인의 접속을 중단하라는 ‘수출 금지’ 규제를 통보받았다. 이 조치는 미국 정부의 일방적인 규제로 갑자기 AI 접속이 차단된 유럽과 한국 등에서 AI 주권 침해라는 우려를 낳았다. 앞서 지난 2월 앤트로픽은 미 국방부의 공급망 블랙리스트에 올라 모든 연방정부 기관에서 사용이 금지됐다. 앤트로픽이 AI를 군사적 용도로 최적화해야 한다는 국방부 요구를 거부했기 때문이다. 당시 도널드 트럼프 미 대통령은 앤트로픽을 두고 “현실 세계를 모르는 급진 좌파 기업이 우리 군대를 위험에 빠뜨리고, 국가 안보를 위협한다”고 분노했다. 하지만 G7에서 아모데이와 만난 이후 트럼프 대통령은 그를 두고 “똑똑한 사람이며 책임감있게 행동하고 있다”며 긍정적 입장으로 선회했다. 이경전 경희대 빅데이터응용학과 교수는 “아모데이 CEO는 미토스5 모델이 굉장히 똑똑하고 위험해서 ‘탈옥’(AI 안전장치를 우회하는 해킹)으로 생화학무기 개발 등에 사용될 수도 있다고 주장했다”면서 “실제 미토스의 탈옥이 가능하다는 것이 밝혀지면서 미국 정부가 수출 금지를 한 것으로 앤트로픽이 이를 보완하면 제재는 다시 풀릴 것”이라고 전망했다. 그는 앤트로픽에 대한 미 정부의 규제는 아모데이가 AI의 위험을 과장하는 발언 탓도 있다고 분석했다. 기업 공개를 앞두고 AI의 성능을 지나치게 포장해 사람들에게 불안과 위기를 심어주는 소위 ‘공포 마케팅’에 제 발등을 찍힌 상황이라고 봤다. 이 교수는 “AI 기업의 경영자들이 자기 사업에 유리한 이야기만 하는 것을 걸러서 들을 필요가 있다”고 덧붙였다. 미 정부와 앤트로픽 사이에서는 수출 규제 해제를 위한 협상이 순조롭게 진행 중인 것으로 알려졌다. 지난 18일 서울에서 열린 앤트로픽 한국 지사 출범 기자회견에서도 크리스 차우리 앤트로픽 인터내셔널 총괄은 “(탈옥 문제는) 앤트로픽만이 아닌 다른 업체에도 해당되는 것이고, (수출 규제는) 조만간 해소될 것”이라고 밝혔다. 미 정부가 앤트로픽 AI의 ‘탈옥’에 민감하게 반응한 것은 중국 때문이다. 트럼프 대통령은 AI에서 중국을 앞서고 있다며 자랑하지만, 중국의 따라잡는 속도가 무시무시하다. 아모데이는 “미토스급의 AI 모델을 중국을 비롯해 누구나 사용할 수 있게 된다면 심각한 위험이 뒤따른다”면서 “중국의 권위주의 통치와 AI가 결합하면 조지 오웰의 ‘1984’보다 더 나쁜 상황이 될 수 있다”고 경고했다. 하지만 AI 수출 규제가 되레 중국의 오픈소스 AI에 대한 수요 증가란 반작용을 낳을 수 있다는 관측도 있다. 중국 AI 딥시크는 토큰 100만개당 요금이 87센트로 미토스5의 60분의 1 수준에 불과하다. 이 교수는 “중국이 미국을 따라가는 동안 오픈소스(AI의 코드·학습 데이터 등을 공개) 전략을 쓰고 있지만 가장 먼저 폐쇄할 나라도 중국”이라며 “중국은 충분히 실력을 갖췄다고 생각하면 더 이상 공개하지 않을 것”이라고 내다봤다. G7에서 아모데이를 비롯한 AI CEO들은 한목소리로 민주주의 국가들의 협력을 당부했다. 아모데이는 “분열하려는 유혹에 저항해야 한다”고 촉구했다. 그와 앙숙인 오픈 AI의 샘 올트먼 CEO도 AI 통제에 대한 “세계적으로 인정되는 국제 표준을 마련해야 한다”고 제안했다. 아모데이는 올트먼과 AI 안전 철학에 대한 차이로 2020년 오픈AI를 퇴사해 앤트로픽을 창업했다. 두 CEO는 올가을 기업 상장을 두고 치열한 경쟁 중이지만 AI 규제에 있어서 민주 국가의 통합된 노력이 필요하다는 데 공감했다. 한편 앤트로픽의 갑작스러운 접속 차단 조치는 소버린 AI로 불리는 독자적 AI 구축 역량의 필요성을 더욱 부각했다. 이 교수는 “단순히 한국말을 잘하거나 ‘독도는 우리 땅’이라고 대답하는 AI가 아니라 글로벌 역량을 갖춘 소버린 AI를 개발해 미국에 휘둘리지 않을 필요가 있다”고 강조했다.

세계 최고 성능으로 평가받는 앤트로픽사의 인공지능(AI)이 올들어 미국 정부로부터 두 차례나 퇴출당했다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI가 고통과 유사한 감정을 느낄 수 있다고 주장하며, AI가 가져올 수 있는 인류 종말의 위험을 진지하게 경고한다. 그는 이러한 입장 때문에 트럼프 행정부에서 ‘좌파 미치광이’로 비난받기도 했다. 앤트로픽이 정부 규제란 암초를 만나면서 AI 주권이 주목받는 상황을 짚어봤다. 지난 17일 프랑스 에비앙서 열린 주요 7개국(G7) 정상회의에 참석한 아모데이를 비롯한 AI기업 CEO들은 국가 원수와 같은 대우를 받았다. 불과 닷새 전 앤트로픽은 자사의 최신 AI 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인의 접속을 중단하라는 ‘수출 금지’ 규제를 통보받았다. 이 조치는 미국 정부의 일방적인 규제로 갑자기 AI 접속이 차단된 유럽과 한국 등에서 AI 주권 침해라는 우려를 낳았다. 앞서 지난 2월 앤트로픽은 미 국방부의 공급망 블랙리스트에 올라 모든 연방정부 기관에서 사용이 금지됐다. 앤트로픽이 AI를 군사적 용도로 최적화해야 한다는 국방부 요구를 거부했기 때문이다. 당시 도널드 트럼프 대통령은 앤트로픽을 두고 “현실 세계를 모르는 급진 좌파 기업이 우리 군대를 위험에 빠뜨리고, 국가 안보를 위협한다”고 분노했다. 하지만 G7에서 아모데이와 만난 이후 트럼프 대통령은 그를 두고 “똑똑한 사람이며 책임감있게 행동하고 있다”며 긍정적 입장으로 선회했다. 이경전 경희대 빅데이터응용학과 교수는 “아모데이 CEO는 미토스5 모델이 굉장히 똑똑하고 위험해서 탈옥(AI 안전장치를 우회하는 해킹)으로 생화학무기 개발 등에 사용될 수도 있다고 주장했다”면서 “실제 미토스의 탈옥이 가능하다는 것이 밝혀지면서 미국 정부가 수출 금지를 한 것으로 앤트로픽이 이를 보완하면 제재는 다시 풀릴 것”이라고 전망했다. 그는 앤트로픽에 대한 미 정부의 규제는 아모데이가 AI의 위험을 과장하는 발언 탓도 있다고 분석했다. 기업 공개를 앞두고 AI의 성능을 지나치게 포장해 사람들에게 불안과 위기를 심어주는 소위 ‘공포 마케팅’에 제 발등을 찍힌 상황이라고 봤다. 이 교수는 “AI 기업의 경영자들이 자기 사업에 유리한 이야기만 하는 것을 걸러서 들을 필요가 있다”고 덧붙였다. 미 정부와 앤트로픽 사이에서는 수출 규제 해제를 위한 협상이 순조롭게 진행 중인 것으로 알려졌다. 지난 18일 서울에서 열린 앤트로픽 한국 지사 출범 기자회견에서도 크리스 차우리 앤트로픽 인터내셔널 총괄은 “(탈옥 문제는) 앤트로픽만이 아닌 다른 업체에도 해당되는 것이고, (수출 규제는) 조만간 해소될 것”이라고 밝혔다. 미 정부가 앤트로픽 AI의 ‘탈옥’에 민감하게 반응한 것은 중국 때문이다. 트럼프 대통령은 AI에서 중국을 앞서고 있다며 자랑하지만, 중국의 따라잡는 속도가 무시무시하다. 아모데이는 “미토스급의 AI 모델을 중국을 비롯해 누구나 사용할 수 있게 된다면 심각한 위험이 뒤따른다”면서 “중국의 권위주의 통치와 AI가 결합하면 조지 오웰의 ‘1984’보다 더 나쁜 상황이 될 수 있다”고 경고했다. 하지만 AI 수출 규제가 되레 중국의 오픈소스 AI에 대한 수요 증가란 반작용을 낳을 수 있다는 관측도 있다. 중국 AI 딥시크는 토큰 100만개당 요금이 87센트로 미토스5의 60분의 1 수준에 불과하다. 이 교수는 “중국이 미국을 따라가는 동안 오픈소스(AI의 코드·학습 데이터 등을 공개) 전략을 쓰고 있지만 가장 먼저 폐쇄할 나라도 중국”이라며 “중국은 충분히 실력을 갖췄다고 생각하면 더 이상 공개하지 않을 것”이라고 내다봤다. G7에서 아모데이를 비롯한 AI CEO들은 한목소리로 민주주의 국가들의 협력을 당부했다. 아모데이는 “분열하려는 유혹에 저항해야 한다”고 촉구했다. 그와 앙숙인 오픈 AI의 샘 올트먼 CEO도 AI 통제에 대한 “세계적으로 인정되는 국제 표준을 마련해야 한다”고 제안했다. 아모데이는 올트먼과 AI 안전 철학에 대한 차이로 2020년 오픈AI를 퇴사해 앤트로픽을 창업했다. 두 CEO는 올가을 기업 상장을 두고 치열한 경쟁 중이지만 AI 규제에 있어서 민주 국가의 통합된 노력이 필요하다는 데 공감했다. 한편 앤트로픽의 갑작스러운 접속 차단 조치는 소버린 AI로 불리는 독자적 AI 구축 역량의 필요성을 더욱 부각했다. 이 교수는 “단순히 한국말을 잘하거나 ‘독도는 우리 땅’이라고 대답하는 AI가 아니라 글로벌 역량을 갖춘 소버린 AI를 개발해 미국에 휘둘리지 않을 필요가 있다”고 강조했다.

정부가 ‘국가 창업시대’ 구호를 내걸고 전국 17개 시도 동시 발대식까지 열며 추진한 ‘모두의 창업’에 선정된 수천명의 정보가 해킹당했다. 개인 신상정보 일부에 창업 아이디어라는 지식재산까지 유출됐다. 공모에 참여한 6만 2944명의 68%가 39세 이하다. 자본도 네트워크도 없이 아이디어 하나에 미래를 걸었는데, 그 밑천이 유출된 것이다. 해킹 정황은 지난 15일 이 사업에 공식 참여한 인공지능(AI) 솔루션 업체가 아이디어 요약 내용과 심사평을 담은 홍보 메일을 발송하면서 드러났다. 사흘 뒤 수행기관인 창업진흥원이 유출을 인정했고, 어제는 중소벤처기업부 장관으로서 이 사업을 진두지휘한 한성숙 국무총리 후보자가 공식 사과했다. 해킹이 외부자가 아닌 참가자 지원을 위해 참여한 내부 업체의 소행이었다니 더 기가 막힌다. 이 사업은 예비창업패키지 예산 491억원 중 260억원, 창업중심대학 176억원 등 기존 사업에서 총 436억원을 전용해 진행했다. 보안 체계를 제대로 갖추기도 전에 속도를 낸 결과 해킹 사태가 났는데도 천억원대 추가경정예산을 편성해 1만명 규모 2차 공모를 진행 중이다. 기존 창업 지원 사업의 예산을 쪼개 검증이 부실한 사업에 쏟아붓기를 이어가는 것이다. 중기부는 어제 모두의 창업 합격자 전원에게 영업비밀 원본증명 무상 등록과 지식재산 전문 변호사 상담을 지원하는 방안을 약속했다. 원본증명은 분쟁 시 보유 시점을 입증하는 제도일 뿐 이미 유출된 아이디어의 확산을 막는 조치일 수는 없다. 비슷한 사고를 낸 쿠팡에는 개인정보보호위원회가 6246억원의 과징금을 부과했다. 초록이 동색이어서 중기부는 그냥 넘어가 주느냐는 비판이 나오는 까닭이다. 창업 아이디어를 플랫폼에 공개하게 한 사업 설계 자체가 해킹에 취약했다는 진단도 나온다. 그런데도 2차 공모 속도전을 펼치는 정부의 행보에서 창업자 보호 의지는 보이지 않는다.

구독자 214만명을 보유한 인기 유튜버 곽튜브(본명 곽준빈)가 글로벌 가상자산 사기 및 해킹 사태의 핵심 인물로 오인을 받게 되는 역대급 도용 피해를 입었다. 곽튜브는 17일 자신의 소셜미디어(SNS) 계정에 “나는 한국에서 온 유튜버다. 코인은 시도조차 한 적 없다. 그가 내 사진을 훔쳤다(I‘m a YouTuber from Korea, never even tried coins. He stole my picture)”는 영문 글을 게재했다. 이어 그는 “살다 살다 코인 사기 도용을 당하네. 저 코인 안 만듭니다. 하필 곽씨네”라며 황당한 심경을 덧붙였다. 이번 일은 가상자산 시장을 뒤흔든 해킹 사건에서 비롯됐다. 최근 가상자산 프로젝트 ‘휴머니티 프로토콜’이 발행하는 휴머니티(H) 토큰은 대규모 해커 공격을 받았다. 휴머니티 프로토콜 측은 자사 직원의 노트북이 악성코드에 감염되며 개인 키(비밀 키)가 무더기로 유출됐다고 밝혔다. 이로 인해 해당 토큰의 가격은 해킹 직전 고점인 1290원대에서 무려 80% 이상 폭락했다. 추산되는 피해 규모만 약 3600만 달러(약 544억원)에 달한다. 투자자들의 거센 항의가 빗발치자 재단 창립자이자 최고경영자(CEO)인 테렌스 쿽은 돌연 자신의 공식 엑스(X) 계정 프로필 사진을 곽튜브의 얼굴 사진으로 변경하고 잠적했다. 테렌스 쿽이 왜 곽튜브의 사진을 도용했는지는 알려지지 않았으나 피해는 고스란히 곽튜브에게 돌아갔다. 사태의 전말을 모르는 해외 투자자들은 테렌스 쿽의 계정 프로필에 올라온 곽튜브의 사진을 캡처해 소셜미디어(SNS)에 올리며 “이 사람이 수백억원대 코인 사기를 친 인물”이라며 비난하기 시작한 것이다. 대체 불가 토큰(NFT·Non-Fungible Token) 크리에이터이자 인플루언서 페어아(Farea)도 곽튜브를 곽 창립자로 오인하고 자신의 엑스 계정에 곽튜브의 얼굴 사진을 올린 상태다. 한편 홍콩 출신의 테렌스 쿽은 유니콘(기업 가치 1조원 이상의 스타트업) 기업인 팅크랩스(Tink Labs)를 설립해 주목받았다. 이후 인공지능(AI·Artificial Intelligence) 시대에 딥페이크와 봇(Bot·자동화 프로그램)을 구별하고 사용자 개인 정보를 보호하겠다며 휴머니티 프로토콜을 만들었다.

북한이 국제사회의 대북 제재를 뚫고 엔비디아의 구식 그래픽처리장치(GPU) 등을 확보해 인공지능(AI) 분야에서 연구 성과를 내고 있다는 분석이 나왔다. 김민정 국가안보전략연구원 첨단기술전략센터장이 16일 발표한 ‘북한 AI 역량 평가와 안보적 함의-음성 AI 기술과 연산 환경을 중심으로’ 보고서에 따르면 북한 김일성종합대학, 국가과학원, 리과대학 등 연구기관은 엔비디아의 테슬라 P100, 지포스 RTX 2070 등 그래픽처리장치와 퀄컴의 스냅드래곤 820 등을 신경망, 음성합성, 억양 식별 등 분야에 활용했다. 언급된 장비들은 모두 2016~2018년에 출시된 것이며 미국의 포괄적 대북 수출 통제 조치에 따라 북한 반입이 금지돼 있다. 그러나 북한은 중국 등 제3국을 통해 중고 장비 등을 확보한 것으로 추측된다. 실제로 북한 연구기관이 공개한 보고서에는 엔비디아의 테슬라 P100, RTX 2070을 사용했다고 밝힌 대목이 있는 것으로 알려졌다. 북한이 AI 기반 시설을 보유하고 있다고 보기 어렵지만, 연구소급 서버와 민수용 그래픽카드를 통해 감시·식별·음성처리·영상추적 기능을 반복 실험할 수 있는 최소 연산 여건을 확보한 것이라는 해석이 나온다. 김 센터장은 또 북한 연구진이 휴대전화에 퀄컴의 스냅드래곤 820을 사용한 데 대해서는 북한의 인공지능 연구가 서버 장비 학습 이외에도 소형 장비 검증 단계에 진입했음을 시사한다고 분석했다. 그는 북한의 AI 장비·환경에 대해 “구세대 GPU, 민수용 그래픽카드, 휴대 단말기급 연산칩을 활용한 특정 임무형 AI 기능 구현 단계로 평가된다”며 “안면인식, 음성합성, 억양 식별, 영상 추적 등 특정 임무 기능을 구현할 수 있는 수준”이라고 설명했다. 구식 엔비디아 GPU, 군사력 증강에 영향 미칠까북한이 국제사회의 제재를 뚫고 엔비디아 등 유력 업체의 GPU를 확보할 루트를 얻었다면 이는 군사력 향상에도 영향을 미칠 가능성이 있다. 김 센터장이 언급한 대로 AI가 가장 먼저 쓰이는 분야는 폐쇄회로(CC)TV의 얼굴인식이나 위성사진 분석, 차량 번호판 인식 등이다. 이러한 분야는 향후 사람 대신 AI가 전장에서 특정 차량이나 인물을 자동 탐지하도록 만들 수 있다. 더불어 북한은 우크라이나 전쟁에 러시아를 위한 파병을 보낸 뒤 실전에서 드론의 성능과 사용법 등을 숙지했다. 비록 구식 GPU이긴 하나 이를 이용한 AI 연구는 드론의 영상을 자동 분류하거나 이동 물체를 추적하도록 하는 시스템 연구에 활용될 가능성이 있다. 이 밖에도 이미 북한이 전 세계에 입증한 사이버 테러와 해킹 능력이 AI와 만나 대량 데이터를 분류하고 피싱 메시지를 자동으로 생성하게 하거나 악성코드를 심는 작업 등이 수월해질 수 있다. 다만 현재 북한이 우회 경로로 입수했다고 추정되는 엔비디아 GPU 장비만으로는 최첨단 무기를 설계하거나 기존 무기를 혁신적으로 바꾸기는 어렵다. 따라서 전문가들은 북한이 확보한 엔비디아 장비가 소형 장비 및 드론 영상 분석, 얼굴·인물 식별, 사이버 작전 지원 등에 활용될 가능성이 있다고 전망한다. 한국 군사력 5위, 북한은?한편 북한의 군사력은 전 세계 145개국 중 31위로 평가됐다. 군사력 평가기관 글로벌파이어파워(GFP)는 2026년 한국의 국방력을 5위, 북한을 31위로 평가했다. GFP는 △총인구, 군사조직 규모 △항공기, 헬기, 전차, 포, 함정 등 장비의 수 △국방비, 구매력 평가(PPP), 외환 및 금 보유고 등 재정 △공항, 항구, 터미널, 철도, 도로 등 사회기반 시설 △석유 생산량 및 소비량 등 자원 △국토 면적, 해안선 길이 등을 고려해 국가별 순위를 정한다. 대다수의 평가 항목에서 한국이 북한을 크게 앞서지만, 병력 규모 면에서는 북한의 상비군(약 132만명)이 한국(약 45만명)보다 약 3배 앞서는 것으로 나타났다. 다만 전시 때 병력을 보충하고 국가 방위력을 유지하는 핵심 지표인 예비군 규모는 한국이 앞선다. 한국의 예비군 동원력은 310만명으로 세계 3위로, 북한(56만명)과의 격차가 5배에 이른다. GFP는 핵무기 등 비대칭전력과 사이버·드론 전력은 군사력 평가에 반영하지 않았다. 그럼에도 기동력·화력·정밀 타격 능력 등에서 한국이 북한을 압도해 실질적인 억지력을 갖췄다는 평가가 나온다.

SK텔레콤이 유럽연합(EU)과 손잡고 인공지능(AI)을 접목한 차세대 양자암호 통신 기술 개발에 나선다. SK텔레콤은 9일 EU 연구기금 프로그램인 ‘호라이즌 유럽’을 통해 그리스, 오스트리아, 독일 연구기관·기업과 공동 연구를 진행한다고 밝혔다. 연구 기간은 3년이다. 호라이즌 유럽은 총 955억 유로(약 170조원) 규모의 EU 대표 연구개발(R＆D) 지원 프로그램이다. 한국이 지난해 준회원국으로 가입한 이후 국내 기업도 연구비를 지원받을 수 있게 됐으며, SK텔레콤은 아시아 민간기업 최초로 양자암호 분야 연구비를 지원받게 됐다. 이번 프로젝트의 핵심은 양자광집적회로(PIC)와 AI를 결합한 차세대 양자키분배(QKD) 시스템 개발이다. QKD는 양자역학 원리를 활용해 암호키를 생성·교환하는 기술로, 제3자가 중간에서 정보를 가로채는 순간 신호 상태가 변해 해킹 시도를 탐지할 수 있는 것이 특징이다. SK텔레콤은 여러 광학 부품을 하나의 칩에 집적하는 PIC 기술을 적용해 장비를 소형화하고 생산 비용을 낮출 계획이다. 여기에 AI를 접목해 온도와 진동 등 외부 환경 변화에 따른 광학 신호 오차를 실시간으로 감지·보정함으로써 시스템 안정성도 높일 방침이다. 이번 연구에는 그리스 국립과학연구센터(NCSRD), 오스트리아 기술연구원(AIT), 독일 반도체 스타트업 시노게이트UG, 한국전자통신연구원(ETRI) 등이 참여한다. SK텔레콤은 PIC 기반 QKD 시스템 개발과 테스트베드 구축·검증을 맡고, ETRI는 송수신 광학계 칩 개발을 담당한다.

매일 수많은 법안이 발의되고 있지만 이 중 언론에 보도되는 법안은 쟁점 법안 등 일부에 그칩니다. 서울신문은 매주 우리 사회에 큰 영향을 미칠 수 있는 법안에 주목해 3개 정도 추려 소개를 합니다. 법안 발의 배경부터 핵심 내용, 통과 시 파장 등을 압축적으로 정리했습니다. ● 안전한 생활환경 위한 ‘스마트홈 안전법’ 이정헌 더불어민주당 의원, 27일 대표발의정보통신기술자가 설계도서 작성 의무화최근 ‘스마트홈’이 주거 문화의 새로운 대세로 떠오르고 있지만, 스마트홈의 편리함은 자칫 우리가 방심할 때면 위험으로 돌변할 수도 있습니다. 특히 보안 설계가 제대로 되지 않은 시스템이라면 더 그렇습니다. 2021년 전국 638개 아파트 단지, 40만여 가구의 거실 월패드가 해킹돼 큰 파장을 일으켰던 아파트 해킹 사건이 바로 그 예입니다. 이에 이정헌(초선·광진구갑) 더불어민주당 의원은 초기 단계에서부터 전문가의 참여를 통해 보안 취약을 조기에 방지하도록 하는 ‘정보통신공사업법 개정안’을 지난 27일 대표발의했습니다. 현행법은 정보통신공사의 설계를 용역업자가 하도록 규정하고 있을 뿐, 전기·소방 등 기타 분야와는 달리 공사의 규모와 종류별 역량과 경험 및 자격 등 설계 업무 수행에 관한 요건에 대해서는 의무화하고 있지 않습니다. 이로 인해 건물공간계획 확정 전 집중구내통신실, 층통신실, 방재실 등 필수 공간이 누락되는 등 부실 설계가 진행될 우려가 있으며, 품질과 기술의 안정성도 확보하기 어렵습니다. 개정안에는 설계도서를 대통령령으로 정하는 정보통신기술자가 작성하도록 규정하고, 이를 위반할 경우에는 벌칙을 부과하는 내용이 담겼습니다. 현행 설계제도의 미비점을 보완하고 설계자의 책임의식을 강화하기 위함입니다. 이 의원은 “인공지능(AI)과 사물인터넷(IoT) 시대에 걸맞은 건물 지능화를 위해서는 설계 초기 단계부터 정보통신 전문기술자의 참여가 반드시 보장돼야 한다”며 “설계자의 책임의식을 높이고 설계와 공사의 품질을 확보하여 국민의 안전한 스마트 생활환경을 만들어 나가겠다”고 설명했습니다. ● 교사 안전망 강화한 ‘학교밖 교육활동 지원센터 설치법’ 김용태 국민의힘 의원, 27일 대표발의교육청이 현장체험학습 업무 관리최근 초등학교에 소풍이 사라졌습니다. 현장에서 사고라도 나면 법적 책임을 떠안아야할 교사들은 소풍에 소극적일 수 밖에 없습니다. 교육부에 따르면 전국 초등학교 수련회·수학여행 실시율은 2024년 57.2%에서 지난해 48.1%로 낮아졌습니다. 지난해 서울 지역 초등학교 실시율은 7.7%에 그쳤습니다. 이에 김용태(초선·경기 포천·가평) 국민의힘 의원은 지난 27일 ‘학교 밖 교육활동 지원센터 설치법’(학교안전사고 예방 및 보상에 관한 법 개정안)을 발의했습니다. 법안의 핵심은 각 시·도 교육청이 지원센터를 통해 현장체험학습 등을 관리하는 것입니다. 이렇게 되면 교사 개인이 아닌 교육청이 활동에 대한 책임을 일정 부분 지게 됩니다. 구체적으로는 ▲현장체험학습 운영 관련 컨설팅 ▲보조인력 관리 및 교육 ▲사전답사 및 안전점검 자문 ▲사고 발생 시 분쟁 조정·심리 상담 지원 등의 업무를 맡습니다. 현행법은 학교장과 교사 또는 보조인력이 안전사고 관리 지침을 따라서 안전 의무를 다했다면 법적 책임을 지지 않도록 하고 있습니다. 하지만 의무의 범위와 기준이 어디까지인지 모호합니다. 개정안은 교사가 실질적으로 이행 가능한 사전 안전교육·현장 안전점검 등을 했을 때 안전관리 의무를 다한 것으로 제한했습니다. 또한 안전사고 관련 소송이 발생했을 때 교육감이 학교장과 교사 등에게 책임이 없다는 의견을 법원이나 수사기관에 제출할 수 있게 됩니다. 김 의원은 “현장체험학습 안전사고 책임과 수습을 개별 교사에게 떠넘기는 구조를 개선하고 정부와 교육청에서 든든한 안전망이 돼야만 공교육을 정상화할 수 있다”고 했습니다. ● ‘K-컬처’ 노동 환경까지 챙기는 ‘예술인 권리 보장법’ 손솔 진보당 의원, 26일 대표발의‘예술인’ 대상 근로기준법 우회 계약 차단‘K-컬처’의 위상이 날이 갈수록 높아지고 있지만 정작 콘텐츠 제작을 위해 현장에서 분투하고 있는 이들의 노동 환경은 오히려 법적 사각지대 속으로 후퇴하고 있습니다. 현행법은 문화 관련 노동자들을 ‘근로자’가 아닌 ‘예술인’으로 명시해 지위와 권리 보장에 대해 다른 법률보다 우선적용하도록 규정하고 있습니다. 하지만 최근 온라인동영상서비스(OTT) 플랫폼과 외주 제작 구조가 심화됨에 따라 이러한 법은 오히려 외주 제작사들로 하여금 근로기준법을 우회해 위탁·용역 계약을 맺도록 하는 수단으로 쓰이고 있습니다. 또 문화체육관광부 소속 예술인보호관이 국장급 공무원의 겸직 구조로 운영되고 있고, 신고 및 조사 사건 처리 인력이 현저히 부족해 실질적인 기능을 수행하지 못한다는 지적도 있습니다. 이에 손 의원은 예술인의 권리 보호와 권리구제의 실효성을 제고하기 위해 ‘예술인의 지위와 권리의 보장에 관한 법률 개정안’을 지난 26일 대표발의했습니다. 개정안은 다른 법률을 적용하는 것이 예술인에게 유리한 경우에는 그 법률을 적용하도록 하지만, 근로기준법의 적용을 회피하기 위해 명칭과 형식에 관계없이 근로계약이 아닌 계약을 체결하는 행위를 불공정행위라고 명시했습니다. 예술인보호관이 타 업무와 겸직하지 않고 해당 업무만을 전담하도록 하며, 보호관을 보조하는 담당관의 확보 노력 의무 내용도 담았습니다. 손 의원은 “예술인들이 독립적 활동이 아닌 제작사의 일을 지시받아 하는 것은 근로를 제공하는 것”이라며 “예술인의 권리가 보장되기 위해서는 실질적인 지휘·감독의 위치에 있는 제작사와 근로계약을 체결하는 것이 우선돼야 한다”고 강조했습니다.

우리나라 정부가 오픈AI의 ‘정부·기관 보안 협력 프로그램’(GTAC)에 참여를 공식화했다. 앤트로픽의 ‘클로드 미토스’를 필두로 자율 해킹 능력을 갖춘 고성능 인공지능(AI)의 등장이 새로운 국가적 위협으로 떠오른 가운데 오픈AI와의 협력을 통해 대응에 나선 것이다. 과학기술정보통신부는 27알 오픈AI의 ‘GTAC’에 참여한다고 밝혔다. 정부 참여는 미국, 캐나다에 이어 세 번째이고, 아시아에서는 일본과 함께 첫 사례다. 오픈AI는 사이버 분야 신뢰기반 접근 프로그램(TAC)을 운영하고 있으며, TAC의 일환인 GTAC는 정부·기관이 대상이다. 이에 따라 오픈AI는 우리나라 정부에 보안 특화 인공지능(AI) 모델인 ‘GPT 5.5-사이버’의 접근 권한을 제공한다. 정부는 향후 오픈AI가 찾아낸 주요 소프트웨어(SW)의 취약점 정보를 실시간으로 공유받는다. 이를 국가 기간시스템 방어에 활용해 보안 위협을 낮출 계획이며 국내 실무 운영은 한국인터넷진흥원(KISA)이 맡는다. 제이슨 권 오픈AI 최고전략책임자(CSO)는 이날 서울 서초구 JW 메리어트 호텔에서 기자간담회를 열고 “AI 발전 속도를 고려했을 때 앞으로 사이버 보안 위협이 더 커질 수 있다”며 “사이버 AI 역량은 소수에게만 머물러서는 안 되며, 한국의 주요 방어 주체들이 이를 활용해 공동의 안보와 공공 안전을 강화할 수 있어야 한다”고 설명했다. 이어 “공공 인프라, 정책금융, 기업 혁신 등 다양한 영역에서 협력의 폭을 넓히고 있다”며 한국 정부 외에 민간 기업을 대상으로도 TAC 프로그램 참여 협의를 진행 중이라고 밝혔다. 오픈AI의 경쟁사이자 AI 모델 ‘클로드’를 개발한 미국 AI 기업 앤트로픽도 한국 시장 공략에 속도를 내고 있다. 앤트로픽은 서울 오피스를 개소하고 최기영 한국 대표를 선임했다고 전했다. 앤트로픽 한국 지사는 기업·스타트업과의 파트너십 구축, 정부·연구기관과의 협력, 클로드를 활용하는 국내 개발자 커뮤니티 지원에 집중할 계획이다.

사람들은 흔히 자기의 행동이 타당한 이유가 있고, 자신이 논리적이며 계획적인 판단을 한다고 믿는다. 그러나 인간의 선택은 생각보다 합리적이지 않은 때가 많다. 자기의 선택을 정확히 이해하고 설명하지 못할 때도 적지 않다. 진짜 속마음과 선택의 이유를 알기 위해 필요한 것이 행동과학이다. 최근 출간된 ‘히든 사이드’(왼쪽)는 행동경제학의 원리를 쉽게 이해할 수 있게 돕는 책이다. ‘손해 보지 않고 똑똑하게 살아내는 행동경제학 수업’이라는 부제처럼 극심한 불확실성이 지배하는 현실에서 개인 투자자들이 같은 실수를 반복하는 이유가 무엇인지, 불안을 자극하는 정보가 왜 사실보다 빠르게 퍼지는지 같은 질문을 행동경제학 관점에서 명쾌하게 설명한다. 인간의 뇌는 빠르고 효율적이지만 그래서 특정한 패턴의 오류를 반복적으로 만들어 낸다. 저자는 그런 오류는 무작위가 아니라 예측 가능하다고 밝힌다. 행동경제학은 우리가 합리적인 척하지만 실은 권위에 약하고 보고 싶은 것만 보며 과거를 미화하는 존재임을 경고한다. 주식 리딩방이나 부동산 투자방의 함정에 빠지지 않는 방법도 여기서 찾을 수 있다. ‘세상에 공짜 점심은 없음’을 인식하고 자기 욕망을 직시하며 숙고 시스템을 켜서 의심하고 검증하는 것이 유일한 해법이라고 조언한다. ‘마인드 해킹’(오른쪽)은 히든 사이드와 약간 결이 다르다. 탁월한 마케팅이란 논리로 설득하는 과정이 아니라 소비자가 미처 깨닫지 못한 무의식을 과학적으로 공략해 소비심리를 유도하는 행동과학임을 보여 준다. 초콜릿 바와 배고픈 순간을 연결해 소비를 일으킨 스니커즈, 단점을 장점으로 바꿔 매력적인 맥주로 거듭난 기네스, 레시피의 비밀을 만들고 퍼트리는 신비주의 전략으로 입소문 탄 KFC 등 세계적 브랜드 17개의 성공 궤적을 따라가며 그 뒤에 숨은 행동과학을 만날 수 있다. 요즘 행동과학자들은 인간이 어떻게 인공지능(AI)과 공존할 것인가에 주목하고 있다. 두 책에서 공통으로 이야기하는 것은 AI도 인간의 선택을 학습해 답을 내놓는 것이기 때문에 AI는 합리적 선택을 할 것이라고 생각하고 무조건 믿고 따르는 편향을 피해야 한다는 점이다. AI가 답을 주지만 그 답을 얻기 위해 질문을 던지고 결과에 책임을 져야 하는 것은 여전히 인간이라는 설명이다.

부산항만공사(BPA)는 여수광양·울산·인천항만공사, 한국해양진흥공사와 함께 ‘해운·항만 공기업 정보보호 협의회’를 발족했다고 15일 밝혔다. 인공지능(AI)을 악용한 고도화된 사이버 위협이 증가하고 있어 이들 공기업의 힘을 모아 해운·항만 분야의 통합 방어체계를 구축하기 위해서다. 이번에 참여한 공기업들은 단순 정보 공유를 넘어 정보보호 분야의 만성적 인력 부족 문제를 실질적으로 해결하기 위한 실행형 협력 모델을 가동하기로 했다. 주요 협력 분야는 기관 간 통합 보안체계 마련, 사이버 보안 이슈 공동 대응, 합동 사이버 공격 대응 훈련 및 교차 점검, 정보보호 인력의 전문성 강화 등이다. 이를 통해 향후 발생할 수 있는 공급망 공격, 국가 중요시설을 노리는 해킹 등에 강력한 대응력을 확보할 방침이다. 이날 발족식에 이어 진행한 첫 회의에서 기관들은 정보보호 현황을 공유하고, 하반기부터 본격적으로 시행할 공동 실천 과제를 논의했다. BPA 관계자는 “사이버 보안은 개별 기관의 문제를 넘어 글로벌 물류 공급망의 지속성과 직결된 사안이다. 이번 협의체 결성이 우리나라 항만물류 분야의 사이버 공격에 대한 면역력을 한 단계 더 끌어올리는 결정적 계기가 될 것으로 기대한다”라고 밝혔다.

AI 개발 단계부터 정보 보호 고려제재보다 ‘사전 예방’이 더 효율적쿠팡 등 기업들 관리 체계 너무 허술주민번호 암호화 등 기본 충실해야정보 보호는 비용 아닌 핵심 투자보안은 국가의 전략 기술 중 하나개인정보·프라이버시 잘 지키는AI 선진국 조건이 혁신의 첫걸음인공지능(AI)이 세상을 바꾸는 ‘AI시대’의 성패는 얼마나 많은 양질의 정보를 활용할 수 있는지에 달려 있다. 하지만 이 과정에서 AI 발전에 필수적인 개인정보를 어디까지 사용하고 어떻게 보호해야 하는지가 핫이슈로 떠올랐다. 송경희 개인정보보호위원회(개인정보위) 위원장은 지난 4일 서울신문과의 인터뷰에서 “AI 기술 발전과 개인정보 보호는 상호 대립 관계가 아니다”며 “개인정보 보호에 대한 신뢰가 형성돼야 이를 기반으로 양질의 데이터를 활용해 AI 기술의 지속적인 발전이 가능하다”고 강조했다. 인터뷰 이후 12일 국무회의에 보고된 ‘예방중심 개인정보 관리체계 전환계획’에 대해서는 추가로 물었다. -AI의 급속한 발전에 따라 개인정보 수집량이 크게 늘고 있다. “과거에는 주민등록번호, 여권번호 등 유형화된 고유 식별 번호가 개인정보의 중심이었다면 지금은 홍채, 지문 등 생체정보와 민감정보, 행태정보(웹사이트 방문 기록, 상품 구매 내역, 이동 내역 등)를 종합해 상품과 서비스로 연결하는 경우가 많아졌다. AI 발전으로 개인 맞춤형 서비스를 제공해 주기 위해 개인정보에 대한 요구가 점점 커지고 있다. -개인정보 유출에 대한 부담도 커졌다. “개인정보 유출 우려 때문에 AI를 안 쓸 수는 없는 노릇이다. 관건은 개인정보의 안전 보장은 물론 정보 주체가 자신의 정보가 어떻게 활용되는지 투명하게 파악해 이를 통제할 수 있도록 하는 것이다. 이를 위해 상품·서비스 설계 단계부터 개인정보를 어떻게 보호할 것인가를 염두에 두는 ‘개인정보보호 중심 설계’(PBD)를 확산시켜야 한다.” -개인정보 활용 급증에 따른 해킹 사고 대응책은. “기술 변화가 매우 빨라 어려운 부분이다. AI 에이전트 활동의 경우 개인정보의 처리 흐름이 매우 복잡해지고 이해하기 어려워진다. 이러한 부분에 대응하기 위해 기술 분석 센터를 올해 만들 예정이다. 그동안에는 사람이 해킹과 방어를 했지만 이제는 AI가 사이버 공격과 방어를 한다. 여러 AI 에이전트가 동시에 작동하는 상황에서 보안도 AI 중심 대응 체계로 전환해야 한다.” -AI 발전과 개인정보 보호라는 두 마리 토끼를 동시에 잡는 과제에 직면했는데. “집을 지을 때도 ‘터’가 중요한 것처럼, 개인정보 보호라는 신뢰 기반 위에서만 AI 산업이 지속 가능한 발전을 할 수 있다. AI 기술과 개인정보 보호는 상충하는 게 아니라 동반자적 관계다. 개인정보의 보호와 그 정보를 활용한 AI 기술 발전이 같이 가야 한다는 뜻이다. 개인정보 보호 없이는 AI가 제대로 된 편익을 제공하는 유용한 서비스로 자리잡기 어렵기 때문이다. 지속 가능한 발전을 하려면 당장 비용이 든다는 이유로 개인정보 보호를 무시해서는 안 된다. 기업의 개인정보 유출 시 제재 조치 등을 하는 것은 기업의 혁신을 가로막거나 기업에 짐이 되고자 하는 게 결코 아니다.” -개인정보위는 규제기관 아닌가. “그동안 정책 중심이 개인정보 유출이나 침해 등이 발생하면 과징금 부과 등 제재에 있었다면, 이제 AI 시대 개인정보 활용을 피할 수 없는 만큼 보다 안전하게 개인정보를 활용하는 방안을 함께 제시해 기업들을 지원하고 있다.” -어떤 지원 방안이 있는지. “예를 들어 여러 분야에서 시행되는 AX(AI 전환)의 본질은 많은 데이터를 모아 활용하는 것이다. 이에 개인정보위는 정보 유출이나 오남용 위험 없이 AI 연구에 안전하게 활용·제공되도록 제도적 기반을 조성하고 있다. 개인정보를 사용할 때 그냥 쓰면 특정 개인이 드러나기 때문에 연구나 통계, 공익적인 기록 보존 등에서 개인이 드러나지 않게 가명화한다. 이달부터 가명화가 어려운 기업 등에 직접 가명화를 해주거나 절차를 간소화하는 원스톱서비스를 도입했다. 또 개인정보 보호 관련 법적 불확실성을 사전에 제거해 주는 ‘비조치의견서 제도’와 AX 혁신지원 헬프데스크도 운영 중이다.” -쿠팡, 통신 3사 등 대형 개인정보 유출 사고가 잇따르고 있다. 기업의 정보관리 체계가 너무 허술하다는 지적이 제기된다. “대규모의 개인정보 유출 사고가 빈번하게 발생하는 것은 기업과 기관의 개인정보 보호를 위한 관리체계 수준·관행이 과거 수준에 머무르고 있기 때문이다. 대형 사건들을 보면 우리가 생각하는 첨단 공격에 의한 게 아니라 정보 접근권한 통제, 주민등록번호 암호화 등 기본적인 안전조치를 하지 않아 피해가 커졌다. 개인정보 보호를 통해 고객의 신뢰를 확보하고, 기업의 이익을 확대하기 위해 개인정보 보호에 대한 선제적 투자가 필요하다는 인식 전환이 중요하다.” -우리 기업의 보안 수준은 어느 정도인가. “한국의 정보기술(IT) 투자 대비 개인정보 보호 투자비는 6~7% 정도로, 미국(13%) 등 선진국의 절반 수준이다. 우리 기업이 글로벌 경쟁력을 갖추려면 개인정보 보호가 필수적이다. 최고경영자(CEO)가 개인정보 처리·보호의 최종책임자로서 관리의무를 갖도록 하고, 최고개인정보책임자(CPO)의 권한 강화를 위해 개인정보 전문인력 관리·예산 확보 권한을 부여하고 주요 사항에 대한 이사회 보고를 의무화하는 등 세부적인 방안을 마련한 것도 그래서다. 또 기업의 고의 또는 중대과실이 인정될 경우 전체 매출의 최대 10%까지 과징금을 부과할 수 있도록 했다. 사전 예방에 투자를 했다면 감경받을 수 있다.” -사전 예방에 나선 기업에 인센티브를 주는 이유는. “AI 기술 발전에 따라 개인정보 보호 패러다임도 바뀌어야 한다. 신기술 분야에서는 어떻게 개인정보가 처리되고 통제되는지 알기 어렵기에 서비스가 나온 뒤에는 개인정보 침해를 인지하기도, 막기도 쉽지 않다. 이를 위해 사고를 예방하고 유출 사고가 발생하더라도 빠르게 회복할 수 있는 회복성을 갖도록 유도하는 ‘사전 예방’ 중심 시스템을 구축하는 것이 중요하다.” -사후 제재보다 사전 예방이 더 중요하다고 보나. “AI 중심의 ‘디지털 대전환’으로 클라우드 활용이 보편화되고 데이터 집적이 늘어나면서 단 한 번의 해킹 공격으로도 대규모의 정보가 유출될 가능성이 커졌다. 이러한 피해를 막기 위해서는 두 개의 바퀴가 제대로 맞물려 돌아가야 한다. 강력한 제재를 통해 억지 효과를 높이는 것과 함께 사전 예방 중심의 상시적인 개인정보 보호 체계를 구축하는 투트랙 정책이 필요하다.” -기업이 사전 예방에 적극 나설 것으로 보나. “국민이 맡긴 개인정보를 보호하고 안전하게 활용할 책임은 분명 기업에 있고, 효율성 측면에서 사고 발생 후 처분하는 것보다 사전 예방을 강화해 사고를 방지하는 것이 바람직하다. 기업 입장에서도 예방을 강화하는 것이 실질적 비용을 줄일 것이다.” -기업은 개인정보 보호를 부담으로 인식하는 경향이 있다. “개인정보 보호를 ‘비용’이 아닌 경영을 위한 핵심 ‘투자’ 영역으로 인식해야 한다. AI에 의한 개인정보 활용이 늘어날 텐데 개인정보 보호가 제대로 이뤄지지 않으면 소비자들은 어떻게 기업을 믿고 서비스를 이용하겠는가. 정보 유출 사고 발생 시 기업의 신뢰가 확 떨어지기 때문에 서비스가 발전할 수 없다. 정보 보호는 기업의 경쟁력을 좌우하는 핵심 요소가 됐다. 좋은 서비스라는 것은 효율적이고 성능이 뛰어난 서비스이기도 하지만, 안전하지 않고 개인정보 보호에 대해 투명하지 못하다면 시장에서 밀려날 것이다.” -우리나라에서 개인정보 유출 사고가 빈번한 이유는. “지난해 정보 유출 건수는 2022년 대비 약 20배 증가했다. 우리나라에서 유출 사건이 많은 이유는 IT 인프라가 고도로 발전하면서 국민들이 디지털 서비스를 활발하게 이용하기 때문이다. 인프라가 잘 돼 있으니 모든 것이 촘촘하게 연결돼 있고 클라우드를 통해 대규모의 정보가 모아져 있어 공격할 접점이 많아졌다. 또 우리 경제가 발달하면서 개인정보 가치가 높아졌다. 그렇기 때문에 해커들의 목표가 되기 쉽다. 반면 보안 투자는 상대적으로 부족한 실정이다.” -정부 등 공공부문에서의 보안 사고 방지도 중요한데. “민간에 대한 전반적 보안은 과기정통부, 공공 영역에서는 국정원 등이 책임을 지고 있다. 개인정보 보호와 보안은 불가분의 관계이기 때문에 개인정보위도 함께 준비하고 있다. 기술 패권 경쟁이 심화되는 현 상황에서 보안은 국가의 가장 중요한 전략 기술 중 하나이고, 안보에도 매우 중요한 영역이다.” -기술진흥 정책을 펴 온 과기정통부 출신으로 어려운 점은. “기술 정책을 오래 해왔기 때문에 어떻게 하면 부작용을 최소화하고 국민에게 이익이 될지를 생각한다. 기술의 편익을 누리지 못하도록 막아버리는 것이 최선은 아닌 만큼 균형 있게 바라보는 게 필요한데 그동안의 경험이 많은 도움이 된다.” -AI 시대에 걸맞은 인식 변화가 필요하다고 보는데. “개인정보 보호는 비용이나 선택의 문제가 아니다. AI 시대에 걸맞은 서비스를 제대로 누리고 AI 선진국으로 발전하려면 개인정보와 프라이버시를 잘 지키는 환경이 마련돼야 한다. 그것이 혁신에 도움이 된다.” ●송경희 위원장은 과학기술정보통신부 전신인 정보통신부 첫 여성 사무관, 첫 여성 1급 공무원, 과학기술정보통신부 지식재산전략기획단장 등을 지낸 정통 관료(행시 39회) 출신이다. 또한 성균관대 인공지능신뢰성센터장을 맡아 AI 분야에 대한 연구와 교육에도 힘써 왔다. 이후 국정기획위원회에서 AI TF팀장으로 이재명 정부 AI 정책의 틀을 만들었다. 정보통신기술 분야의 전문성을 바탕으로 AI 시대 개인정보 보호와 기술 발전을 양립시키는 데 역점을 두고 있다. 개인정보 보호는 ‘사후 제재’와 더불어 ‘사전 예방’ 시스템이 함께 갖춰져야 한다는 것이 지론이다. 최광숙 대기자

해커 조력 넘어 실전형 무기 제작北 ‘APT45’·中·러 이미 투입 정황압도적인 속도… ‘방어 공백’ 우려정부, 앤스로픽과 국제 공조 논의 인공지능(AI)이 인간 해커의 조력자 역할을 넘어 직접 ‘사이버 무기’를 만드는 단계에 들어섰다. 최근 앤스로픽의 차세대 AI 에이전트 ‘미토스(Mythos)’가 촉발한 이른바 ‘미토스 쇼크’에 이어, 보안 패치가 나오기 전의 치명적 취약점인 ‘제로데이(Zero-day)’를 AI가 스스로 찾아내 공격 코드 생성 과정에 활용한 사례가 처음 포착된 것이다. 북한 등이 AI를 사이버 전장에 투입하는 정황도 드러나고 있다. 구글 위협인텔리전스그룹(GTIG)은 11일(현지시간) 보고서에서 AI를 활용해 제작된 것으로 추정되는 제로데이 공격 코드를 세계 최초로 포착했다고 밝혔다. 해커가 AI를 활용해 미지의 취약점을 공략하는 공격 도구를 설계하고 실제 공격에 활용하려 한 정황이 확인된 것이다. 국가 배후 해킹 세력들도 AI를 단순한 보조 도구가 아닌 ‘실전형 공격 무기’로 활용하기 시작했다. 북한의 해킹 그룹 ‘APT45’(구글 자체 호칭)의 활동은 해킹의 자동화·대량화 흐름을 보여준다. 이들은 AI 모델을 활용해 취약점 탐색과 공격 준비 과정을 자동화했다. 과거 해커들이 수천 줄의 코드를 직접 분석하며 약점을 찾았다면, AI가 반복적으로 코드를 검증·분석하며 취약점을 탐색한다. 중국 연계 세력은 ‘자율형 AI’ 도구를 활용해 일본 기술 기업 등을 대상으로 지속적인 정찰 활동을 수행한 것으로 파악됐다. 한 번 목표를 설정하면 AI가 공격 시나리오를 스스로 수정하며 취약점을 탐색하는 방식이다. 일부 AI 기반 공격 도구는 실행 과정에서 AI 모델을 실시간 호출해 코드를 변형하거나 탐지를 우회하는 방식까지 발전하고 있는 것으로 전해졌다. 러시아는 AI를 심리전에 접목했다. 실제 뉴스 영상에 정교하게 조작된 딥페이크 음성을 결합해 미국과 우크라이나 시민들을 겨냥한 허위 정보 유포 작전에 활용했다. 보안 업계가 제로데이 공격을 심각하게 보는 이유는 AI의 압도적인 속도 때문이다. 숙련된 해커가 며칠씩 매달려야 했던 복잡한 코드 분석 작업도 AI를 활용하면 단시간 내 처리할 수 있다. 생소한 프로그래밍 언어 역시 AI를 통해 빠르게 분석한 뒤 공격 코드를 제작할 수 있다. 방어 체계가 대응책을 마련하기도 전에 공격이 먼저 이뤄지는 ‘방어 공백’ 우려가 현실화할 수 있다는 경고다. 해커들이 최첨단 AI 모델에 익명으로 접근하려 신원 세탁 도구와 계정 자동화 프로그램까지 동원하는 상황에서 구글 역시 AI 기반 방어 체계로 대응에 나섰다. 구글은 ‘빅 슬립(Big Sleep)’과 ‘코드멘더(CodeMender)’ 등 보안 특화 AI 에이전트를 실전에 배치했다. 이들은 해커보다 한발 앞서 소프트웨어 취약점을 탐지하고, 발견 즉시 코드를 자동 수정한다. 인간 보안 전문가의 경험과 수작업만으로는 AI의 속도 우위를 따라가기 어렵다는 판단에서다. 우리나라 정부도 최근 앤스로픽과 만나 AI 기반 보안 위협 대응과 국제 공조 방안을 논의했다.