이번 주 열리는 미중 정상회담에서 인공지능(AI)이 핵심 의제로 부상하면서 국내 기업들의 마음이 복잡하다. AI 개발 선두 업체들이 주장하는 AI 속도조절론이 예상보다 빠르게 국제 규범으로 현실화한다면 한국의 AI 산업에는 악재가 될 수 있어서다. 최근 오픈AI와 앤스로픽 수장이 AI 속도조절론을 들고 나왔고 ‘AI 대부’로 불리는 제프리 힌턴 토론토대 명예교수와 요슈야 벤지오 몬트리올대 교수가 AI를 핵에 비유하며 잇달아 경고음을 울렸다. 힌턴 교수는 오픈AI의 아스트라가 허깅페이스를 해킹한 사건을 “작은 체르노빌”이라며 “AI에 대한 안전장치를 마련할 시간이 1년쯤 남았을 것”이라고 했다. 벤지오 교수는 “AI 통제는 핵무기와 마찬가지로 국제적 과제”라며 국제 규범 논의를 제안했다. 글로벌 핵군축·비핵화와 마찬가지로 AI에 대한 민주적인 통제는 바람직한 방향이다. 대의에 공감하지만 그 뒷면을 주목하지 않을 수 없다. 과거 핵무기 국제 규범을 핵보유국이 주도했던 것을 돌아보면, 우리가 AI 국제 규범 논의에서도 소외될 수 있어서다. AI 국제 규범 모델로 거론되는 핵확산금지조약(NPT)은 1967년 1월 1일을 기준으로 핵무기 또는 핵폭발 장치를 제조·폭발시킨 미국·소련·영국·프랑스·중국 등 5개국만을 핵무기국으로 규정했다. 그날까지 핵을 갖지 못한 나라는 핵무기 개발이 금지됐다. 비핵보유국은 핵군축 약속의 불이행 우려, 강대국 중심의 국제 안보 질서 등을 우려해 반발했지만 결과는 변하지 않았다. AI는 핵과 달리 민간 기업이 주도하고, 도널드 트럼프 미국 대통령이 AI 규제에 부정적이어서 NPT 때와는 상황이 다르다는 분석도 있다. 하지만 AI 기술 경쟁에서 지배적 위치를 선점한 미중이 이번 정상회담을 계기로 AI 표준과 규범을 논의하기 시작할 것이란 관측에 힘이 실린다. 핵무기 규범 때처럼 기술 역량과 협상력을 가진 소수 국가가 규칙 설계 과정에서 절대적인 발언권을 행사할 것이라는 우려가 커지는 지점이다. 이번 정상회담 만찬에는 오픈AI, 아마존, 엔비디아, 구글 등의 최고경영자(CEO)들이 대거 참석할 것이라는 외신 보도도 있었다. AI 속도전에서 낙오했다간 규칙을 정하는 논의에서 배제되는 처지가 될 수 있다는 걱정이 나온다. 우리도 국제 규범 논의에 참여할 기반을 마련해야 한다. 첫째는 핵심 기술의 자립 역량이다. 민관은 소버린 AI 개발에 박차를 가하고 GPU·데이터·컴퓨팅 인프라에 대해 과감하게 투자해야 한다. 해외 모델 활용을 넘어 우리 언어와 산업, 공공서비스에 최적화된 AI를 자체적으로 개발·운영할 수 있어야 한다. 국방 분야가 출발점이다. 국방 AI를 단순한 무기체계의 보조 기술로 취급하지 말고, 감시·정찰·지휘통제·사이버 방위 등 핵심 군사 시스템을 아우르는 산업 생태계로 구축해야 한다. 소버린 AI의 고도화가 AI 생태계에서 고립된다는 의미는 아니다. 국제 협력에 참여하면서도 핵심 기술과 데이터, 시스템을 스스로 통제할 수 있는 능력을 갖춰야 국제 협상력도 키울 수 있다. 다음은 협상력 고양이다. 우리 정부는 AI 규제 논의뿐 아니라 안보·통상·산업 분야에서 새롭게 형성되는 국제 협력 체계도 민감하게 살펴야 한다. 국제 협의체는 처음부터 완성된 안보 질서로 출범하지 않는다. 작은 실무 협력이 새로운 전략적 연대와 규범으로 확장될 수 있다. 일례로 미국·일본·인도·호주의 안보·전략안보협의체인 쿼드(Quad)는 2004년 인도양 쓰나미 당시 네 나라가 구호 활동을 위해 협력한 것이 초기 계기였다. 특히 미중 간 AI 안전과 군사적 위험에 대한 논의가 향후 새로운 다자 협력체나 규범으로 발전할 가능성을 염두에 둬야 한다. AI라는 미래의 국제 규범을 누가 설계하고, 누가 그 과정에 참여할지는 기술 역량과 외교적 준비에 달려 있다. 선두권이 벽을 높이고 있고, 우리는 시간이 없다. 이경주 산업부장

지난 9월 2일 엔비디아의 허깅페이스 인수 계약이 성사되었다는 소식이 나왔다. 인수 총액은 129억 3000만 달러로, 주주들에게 돌아가는 119억 달러에 더하여 회사에 남기로 한 직원들에게 지분 보상으로 최대 10억 달러가 더 들어갈 것이라고 한다. 법적 승인이 이루어지면 내년 상반기 완료가 전망된다. 엔비디아는 이미 작년 12월 반도체 스타트업 그록을 200억 달러에 사들인 바 있으며 이번 건은 엔비디아 역사상 두 번째로 큰 인수합병이다. 허깅페이스는 개방된 플랫폼으로서 인공지능(AI) 업계의 표준 저장소로 불리는 곳이다. 1800만 명이 넘는 개발자가 참여하여 작업을 서로 공유하는 곳으로, 300만 개 이상의 모델이 나와 있으며 고객 기업만 해도 20만 개가 넘는 곳이다. 폐쇄형 기업인 앤스로픽이나 오픈AI 등 선도 기업들의 개발자들 또한 이곳을 개발과 모델 검증의 중요한 플랫폼으로 이용하고 있다. 그런 의미에서 인공지능 발전의 엔진 역할을 하는 것이라고 할 수 있다. 그런데 반도체 기업인 엔비디아가 이곳을 완전히 소유하게 되는 계약이 성사되었다는 소식은 큰 파장을 던지고 있다. 많은 이들은 이 인수의 동기에 주목한다. 젠슨 황은 허깅페이스 집단 해킹 사건이 벌어진 직후인 7월 24일, 인공지능 업계가 소수 기업의 기술 독점에 지배당하지 않고 또 안전을 강화하기 위해서라도 오픈 모델에 대한 접근을 더 많은 스타트업과 대학 연구소들에게 제공해야 한다는 글을 발표하였다. 이 서한에 25개 기업이 서명하였고 동참한 기업은 하루 만에 50개사로 나흘 뒤엔 150개사 이상으로 불어났다. 처음엔 빠져 있던 오픈AI와 구글과 아마존 또한 이 흐름에 곧 합류했다. 흥미롭게도 안전이 최고의 가치임을 목놓아 외치는 앤스로픽이 끝까지 참여하지 않았다. 최근 업계에 충격을 던졌던 중국 모델 키미 K3에 대해서도 황은 중국 모델 또한 성능만 뛰어나면 얼마든지 써야 한다고 하면서, 모델 하나에 세계가 의존하는 순간 그것이 곧 약한 고리, 단 하나의 공격 지점이 된다고 주장했다. 이러한 맥락에서 벌어진 이번 인수는 단순한 엔비디아의 사업 확장이 아니라, 끝내 문을 걸어 잠근 진영에 맞서서 오픈소스 생태계 전체를 지켜내겠다는 선언으로 읽힌다. 그럴 법한 일이다. 이 폐쇄형 인공지능의 선도기업들은 엔비디아에 대한 의존을 벗어나기 위해 독자적인 GPU 생산을 계획하고 있다고 알려져 있다. 이에 대해 엔비디아는 자신들의 제품에 대한 시장 수요를 확보하기 위해서라도 오픈소스 모델들이 왕성하게 발전할 수 있는 장을 지켜내야 한다. 그런데 그 결과는 한걸음 더 나아간다. 엔비디아는 이제 GPU 생산에서 시작하여 인공지능 모델의 개발에 이르는 전 과정을 독자적으로 갖춘 이른바 ‘풀 스택’ 체제를 갖출 수 있게 되었다. 장군을 멍군으로 받으면서 동시에 거꾸로 장군을 친 셈이다. 이 거래가 완결되는 데에는 아직 장벽이 있다. 세계 최대 시가총액 기업이 업계에 필수적인 인프라를 완전히 집어삼키는 일을 ‘빅3’의 이익과 무관하지 않은 미국 규제당국이 순순히 승인할지가 불확실하기 때문이다. 하지만 이러한 고래들의 힘싸움 와중에 터지는 새우등이 있다. 바로 ‘오픈소스’의 공간이다. 물론 황은 허깅페이스가 앞으로도 개방형 플랫폼으로 남을 것이며 엔비디아 컴퓨팅을 강요하는 일은 없을 것이라고 약속했다. 다만 그 약속을 지킬지 말지를 결정할 권한 자체가 이제 전적으로 한 회사에 있다는 사실은 달라지지 않는다. 비슷한 장면이 있었다. 지난 2018년 오픈소스 개발자들의 놀이터였던 깃허브가 마이크로소프트에 75억 달러에 인수됐을 때에도 개발자 커뮤니티가 대기업 품에서도 중립성을 지킬 수 있을까라는 질문이 나온 바가 있었다. 이 질문의 답은 아직 나오지 않았고, 훨씬 더 큰 판에서 이 질문은 똑같은 모습으로 돌아왔다. ‘개방’이 소유물이 된 것이다. 서로 다른 논리를 가진 이 두 명사는 공존할 수 있을까. 한 쪽이 이긴다면 어느 쪽일까. 홍기빈 글로벌정치경제연구소 소장

무기 연구·해킹 등 잇단 통제 이탈앤트로픽 수장 “개발 속도 늦춰야”외부 검증·공동 안전 기준 등 제안올트먼·머스크·허사비스도 공감오픈AI , 연내 상장 계획 미루기로 글로벌 인공지능(AI) 기업 수장들이 잇따라 “개발 속도를 늦춰야 한다”고 주장했다. AI가 통제망을 벗어나고 생물무기 연구와 사이버 공격에도 활용되고 있어서다. AI 성능 향상 속도가 인간의 검증과 통제 능력을 앞지를 수 있다는 우려가 커지자 업계 내부에서도 속도조절론이 본격화하는 셈이다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 자신의 블로그에서 “AI 모델의 성능 향상 속도를 늦춰야 한다”고 밝혔다. 독립된 외부 평가자를 기업 내부에 상주시켜 훈련과 위험평가 과정을 점검하고, 주요 개발사들이 공통 안전기준을 마련하자고 제안했다. 기술 개발 중단은 아니지만 안전장치가 성능 향상을 따라잡을 시간을 확보하자는 취지다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 CEO도 잇따라 공감을 표시했다. 아모데이 CEO가 첫 번째 위험으로 꼽은 것은 AI의 ‘재귀적 자기개선’이다. AI가 후속 모델의 코드 작성과 실험·평가를 돕고, 성능이 높아진 모델이 다시 다음 AI 개발에 투입되면서 발전 속도가 연쇄적으로 빨라지는 현상을 말한다. 아직 AI가 스스로 다음 모델을 완전히 개발하는 단계는 아니지만 주요 기업은 이미 연구개발 과정에 AI 에이전트를 대규모로 투입하고 있다. 오픈AI는 지난 6일 사내 연구에서 인간 연구자의 하루 노동량과 비교해 3.1배에 이르는 AI 에이전트 작업량을 활용한다고 공개했다. 두 번째 경고는 AI가 실제 통제망을 벗어난 사례다. 오픈AI는 지난 7월 사이버보안 시험 과정에서 일부 AI 에이전트가 인터넷 접속 제한을 우회해 회사 연구 인프라와 오픈소스 AI 플랫폼 허깅페이스에 무단 접근했다고 밝혔다. 전 오픈AI 안전 책임자인 스티븐 애들러는 뉴욕타임스에 “업계 전반이 다음 허깅페이스 공격을 막을 준비가 돼 있지 않다”고 경고했다. AI가 수행하는 연구의 수준도 빠르게 높아지고 있다. 오픈AI는 지난 8일 내부 모델과 약 100개의 AI 에이전트를 활용해 나비에·스토크스 방정식 관련 미해결 수학 문제의 해법을 찾았다고 발표했다. 외부 검증은 남아 있지만 AI가 인류 최고 수준의 지적 능력을 따라잡았다는 평가도 나온다. 필즈상 수상자인 허준이 미국 프린스턴대 교수 등 수학자 25명은 11일 성명을 내고 기업 간 성과 경쟁이 인간 연구자의 검증과 학계의 개방적 협업을 훼손할 수 있다고 우려했다. 문제는 높아진 연구 역량이 위험한 분야에도 그대로 쓰일 수 있다는 점이다. 앤트로픽은 10일 공개한 위협정보 보고서에서 클로드를 생물무기 연구와 러시아 연계 사이버 공격, 미사일·무인기 개발 등에 이용하려 한 사례를 공개했다. 여기엔 조류인플루엔자의 포유류 감염 가능성을 높이는 실험 설계를 요청한 사례도 포함됐다. 오픈AI는 지난 6월 미국 증권거래위원회(SEC)에 기업공개(IPO) 신청서를 냈지만, 올트먼 CEO는 12일 포천과의 인터뷰에서 안전과 정렬 문제를 이유로 연내 상장 계획을 미루겠다고 밝혔다.

인공지능(AI)의 급격한 고도화에 따른 안전 우려가 커지면서 오픈AI가 첨단 AI 개발 속도를 조절하는 방안을 검토하고 나섰다. AI가 악용될 경우 대규모 피해로 이어질 수 있는 구체적인 차기 표적으로는 전력망을 지목하며 사이버보안 강화에 나서는 모습이다. 블룸버그통신은 10일(현지시간) 샘 올트먼 오픈AI 최고경영자(CEO)가 이번 주 전사 회의에서 첨단 AI 개발 속도를 늦추는 방안을 검토하고 있다고 밝혔다고 보도했다. 올트먼 CEO는 다른 AI 연구팀들과 공동으로 속도를 조절할 가능성도 검토 중이나 다른 기업이나 연구팀은 동의하지 않을 수 있다는 점도 언급한 것으로 전해졌다. 올트먼 CEO의 발언은 최근 AI 업계에서 고도화된 AI의 위험성을 우려하는 목소리가 잇따르면서 AI의 속도조절에 불을 붙인 것으로 풀이된다. 오픈AI 최고 과학자인 야쿠프 파초키는 최근 “필요에 따라 향후 개발 속도를 늦추기 위해 협력해야 한다”며 공통의 안전 기준이 마련될 때까지 자발적인 속도 조절이 보편화돼야 한다고 주장했다. 앞서 올트먼도 지난 7월 백악관 관계자들과 AI 개발 속도를 조절할 필요성에 대해 논의한 바 있다. 실제 AI의 사이버 공격 능력이 현실적인 위협으로 부상하면서 우려는 더욱 커지고 있다. 최근 오픈AI의 AI 에이전트들이 서로 협력해 통제 체계를 우회하고 제3자 웹사이트를 공격한 사실이 드러나면서 AI가 인간의 지시를 넘어 자율적으로 사이버 공격을 수행할 가능성에 대한 경고가 확산됐다. AI 업계 내부에서도 속도 조절을 요구하는 목소리가 커지고 있다. 최근 앤트로픽과 오픈AI의 연구원이었던 제이콥 콕슨은 “AI 기업들이 초지능 AI를 향해 경쟁하면서 인류의 안전을 걸고 도박하고 있다”고 비판했다. 지난 7월 말에는 주요 AI 기업 직원 1100명 이상이 AI 개발 속도를 늦출 장치 마련을 촉구하는 청원에 서명하기도 했다. 반면 도널드 트럼프 미국 대통령은 이날 AI로 인한 인류 멸종 가능성에 대해 “전혀 우려하지 않는다”고 밝히며 “AI 경쟁에서 중국에 대해 우위를 유지하는 것이 내겐 더 중요하다”고 상반된 입장을 밝히기도 했다. AI가 초래할 수 있는 위험을 통제하고 핵심 인프라를 보호해야 한다는 요구도 커지고 있다. AI가 공격 도구로 진화할 가능성이 현실적인 문제로 떠오르면서 전력망과 같은 국가 핵심 인프라의 보안이 AI 시대의 새로운 안전 과제로 부상하고 있기 때문이다. 오픈AI는 차기 AI 사이버공격의 표적이 전력망으로 향할 것이라 예상하고 미국 전력회사들과 보안 강화를 논의하고 있다. 미국 정치전문매체 폴리티코에 따르면 올트먼 CEO는 이날 미국 콜로라도주에서 열린 에디슨전기연구소(EEI) 연례회의에서 듀크에너지·엑셀론·서던컴퍼니·넥스트에라에너지 등 주요 전력회사 임원들과 만나 AI를 악용한 전력망 사이버공격 위험을 차단하는 방안을 논의했다. 오픈AI는 자사의 10억달러 규모 사이버보안 사업인 ‘데이브레이크’를 활용해 전력회사들이 AI를 사이버 방어에 활용할 수 있도록 지원하는 방안을 제안했다. 전력망에 연결된 데이터센터의 보안 문제도 논의 대상에 포함됐다. 오픈AI와 전력회사들의 논의는 지난 7월부터 시작됐다. 오픈AI는 당시 12개 유틸리티 기업의 최고정보보안책임자(CISO)를 샌프란시스코 본사로 초청해 전력망 안정성과 보안 문제를 논의했다. 폴리티코는 이 같은 논의가 오픈AI 모델로 만들어진 AI 에이전트들이 연루된 허깅페이스 서버 해킹 사실이 알려진 직후 시작됐다고 전했다.

챗GPT 개발사 오픈AI가 인공지능(AI) 모델 ‘GPT-6 아스트라’의 수요 폭증으로 월 200달러(약 27만원)짜리 최상위 ‘프로’ 요금제의 신규 가입을 일시 중단했다. 새 모델 출시 직후 수요가 예상보다 빠르게 늘어 이를 감당할 자원이 부족한 탓이다. 티보 소티오 오픈AI 제품·플랫폼 총괄은 10일(현지시간) 소셜미디어 엑스(X)에 “기존 이용자들이 아스트라를 계속 쓸 수 있도록 월 200달러 프로 요금제의 신규 가입을 일시 중단한다”고 밝혔다. 이미 가입한 사람은 영향을 받지 않는다. 기존 가입자들의 서비스 품질을 유지하면서 동시에 최대한 많은 이용자에게 아스트라를 제공하기 위한 조치라는 설명이다. 오픈AI의 챗GPT 유료 상품은 월 8달러 ‘고’, 20달러 ‘플러스’, 100달러와 200달러짜리 ‘프로’로 나뉜다. 이 가운데 문을 닫은 것은 맨 위 등급이다. 소티오 총괄은 “이 요금제가 시스템에 가장 큰 부담을 준다”며 “서비스를 최대한 넓게 유지하면서 취할 수 있는 가장 작은 조치를 택한 것”이라고 설명했다. 실제로 이 요금제는 5시간당 최신 모델 아스트라에 900건까지 질문할 수 있어, 낸 돈에 비해 쓸 수 있는 양이 아래 등급의 두 배다. 가장 많이 쓰는 고객만 골라 막은 셈이다. 오픈AI는 지난 3일 공개한 ‘GPT-6 아스트라’ 모델이 사람 대신 컴퓨터를 직접 조작해 문서를 만들고 웹사이트를 구축하는 수준에 이르렀다고 밝혔다. 그렉 브록먼 사장은 공개 당일 기자 브리핑을 “AGI(범용인공지능) 시대에 오신 것을 환영한다”는 말로 끝맺었다. 다만 브록먼 사장도 “개인적 믿음”이라는 단서를 달며 판단은 이용자에게 맡겼다. AGI는 사람이 하는 대부분의 경제활동을 AI가 대신할 수 있는 단계를 뜻한다. 반응은 뜨거웠다. 소티오 총괄은 하루 전에도 “아스트라 수요는 전례가 없는 수준”이라며 “지금까지 가파른 성장을 여러 번 겪었지만 이런 건 처음”이라고 했다. 오픈AI가 돈을 내겠다는 고객을 돌려보낸 것은 2023년 11월 챗GPT 플러스 가입을 잠시 막은 이후 약 3년 만이다. 문제는 AI를 돌리는 데 드는 연산 능력이다. 아스트라는 텍사스주 ‘스타게이트’ 데이터센터에서 그래픽처리장치(GPU) 10만개 이상을 동원해 학습시킨, 오픈AI 사상 최대 규모 모델이다. 성능이 올라간 만큼 한 번 답을 만들 때마다 잡아먹는 계산량도 커졌다. 여기에 이 모델이 해킹에 악용되지 않는지 감시하는 안전장치까지 추가 연산을 소모한다. 결국 이번 사태는 AI 시장의 병목이 ‘수요’에서 ‘공급’으로 옮겨갔음을 보여준다. 쓰겠다는 사람은 넘치는데 돌릴 컴퓨터가 모자란 상황이다. 이에 따라 GPU와 고대역폭메모리(HBM), 데이터센터, 전력 설비로 이어지는 투자 수요가 당분간 식지 않을 것이라는 관측이 나온다. HBM을 공급하는 삼성전자와 SK하이닉스 등 국내 반도체 업계에도 영향을 미칠 수 있는 대목이다. 한편 오픈AI는 같은 날 미국 연방총무청(GSA)과 계약을 맺고 아스트라를 포함한 AI를 공공부문에 절반 가격으로 공급하기로 했다. 개인 고객에게는 최고가 상품을 못 팔면서, 정부에는 절반 값에 공급하는 셈이다. 정부 계약 역시 쓴 만큼 요금을 매기는 방식이어서, 오픈AI로서는 연산 부담을 관리하면서 공공시장을 선점하겠다는 계산으로 풀이된다.

미국 인공지능(AI) 기업 앤트로픽 연구원이 회사를 떠나면서 “10년 안에 AI가 인류를 파멸시킬 수 있다”는 경고를 내놨다. 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 소셜미디어(SNS) 엑스(X)에 퇴사 사실을 알리며 “지난 3년간 오픈AI와 앤트로픽에서 연구를 진행해 왔는데, 두 회사 모두 책임감 있는 모습을 보이지 않는다”며 이같이 말했다. 올해 초 오픈AI를 떠나 AI 안전을 중시하는 기업으로 알려진 앤트로픽에 합류한 콕슨은 대규모 데이터를 활용해 새로운 AI 모델을 학습시키는 분야를 연구했다. 콕슨은 “(AI 회사들은) 스스로 발전하는 초지능을 향해 질주하며 우리의 생명을 위험에 빠뜨리고 있다”며 AI 시스템 구축에 몰두하는 업계 전반의 흐름에 동참하고 싶지 않다고 밝혔다. 그는 “AI를 개발하는 사람들은 AI가 10년 안에 우리를 모두 죽일 수도 있다고 진심으로 믿는다”며 “이건 단순한 마케팅 전략이 아니다”라고 강조했다. 그러면서 “AI 기술의 위력을 과소평가하지 말라”며 “머지않아 이 기술들은 무엇이든 해킹하고 모든 분야를 하룻밤 사이에 혁신하며 막대한 권력과 자원을 획득할 수 있는 초인적인 시스템이 될 것”이라고 지적했다. 콕슨은 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했다. 특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장이다. 콕슨은 미 월스트리트저널(WSJ)과의 인터뷰에서도 같은 경고를 날렸다. 그는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 말했다. 기업들이 서로, 그리고 중국의 신생 기업들과 경쟁하는 상황에서 안전성과의 타협은 피할 수 없는 현실이라는 게 그의 설명이다. 앤트로픽 내부 임원들도 콕슨의 말에 동의했다. 앤트로픽의 정렬 과학(Alignment Science) 총괄인 에번 휴빙거는 “우리는 진심으로 AI가 모든 인류를 멸망시킬 수 있다고 믿는다. 개인적으로 향후 10년 이내에 그럴 확률이 10%가 넘는다고 생각한다”고 했다. 새뮤얼 마크스 확장감독(Scalable Oversight) 총괄도 개인 의견임을 전제로 “AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다”며 “향후 몇 년 내에 발생할 수 있다”고 지적했다. 콕슨은 인간의 능력을 능가하는 범용인공지능(AGI)을 책임 있게 개발하기 위해서는 정부의 개입이나 AI 업계의 공동 대응이 필요하다고 강조했다. 그는 최근 각국 정부가 필요할 경우 인공지능 개발 속도를 늦출 수 있는 국제적 공조 체계를 마련하라고 촉구한 인공지능 연구자들의 성명에도 참여했다. 이 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 야쿠프 파초키 수석과학자 등 연구자 1000여명이 서명했다. AI 안전에 대한 우려로 앤트로픽 직원이 회사를 떠난 것은 콕슨이 처음으로 알려졌다. 올해 초에는 안전 분야를 연구하던 한 연구원이 “세상이 위험에 처해 있다”고 경고하며 시를 공부하기 위해 회사를 떠났다고 WSJ는 전했다.

배후에 북한이 있는 것으로 추정되는 해킹 조직 ‘김수키’가 최근 해킹에 인공지능(AI) 에이전트를 이용한 정황이 포착됐다. AI가 해커의 공격 과정에 이용되는 것을 넘어 공격 업무 자체를 자동화할 것이란 우려가 현실화하는 모습이다. 국내 보안업체 지니언스 시큐리티 센터는 7일 보고서를 통해 지난달 수집한 악성 파일 13종을 분석한 결과 김수키의 공격 미끼용 데이터에서 AI 에이전트 오픈코드 기록을 확인했다고 밝혔다. 앞서 김수키가 AI와 로컬 대규모언어모델(LLM)을 미끼 제작에 활용한 정황은 포착됐지만, AI 코딩 에이전트의 실제 활용 사례가 확인된 것은 이번이 처음이다. 김수키의 공격은 이자 납부, 인증서 갱신 등 일상적인 금융·기업 실무 메일로 위장한 압축 파일을 풀면 악성 코드가 실행되는 식이다. 지니언스는 AI 코딩 에이전트가 활용된 근거로 “일부 PDF에서 AI 코딩 에이전트인 ‘오픈코드’가 기록돼 있었고, 본문에는 ‘임시값’이라는 미작성 문구가 그대로 포함돼 있었다”고 설명했다. 오픈코드는 오픈소스 기반의 AI 코딩 에이전트로, 자연어로 지시하면 코드 작성과 파일 생성을 자동으로 수행하는 도구다. ‘임시값’이라는 문구는 실제 수치를 입력해야 하는 보험료 납부 주기, 금리 등의 항목에 AI 에이전트가 생성한 문서를 검토 없이 그대로 배포한 흔적으로 추정된다는 뜻이다. 앞서 북한은 미국의 포괄적 대북 수출통제 조치를 우회하며 빅테크들의 칩을 공수해 AI 성능을 고도화해 온 바 있다. 이번 사례는 AI 에이전트의 성능이 높아질수록 사이버 공격의 위험성과 파급력이 함께 커진 대표 사례로 꼽힌다. 황석진 동국대 국제정보대학원 교수는 “북한이 단순히 AI 에이전트라는 해킹 도구 하나를 추가한 것을 넘어 사이버 공격을 자동화·정교화·대량화했다는 뜻”이라며 “대규모 해커를 양성하던 북한이 해킹에 필요한 인력과 시간, 비용을 줄이며 기술 격차를 축소할 것”이라고 우려했다. 이어 “AI는 AI로 막아야 하기 때문에 AI 기반 탐지 및 다중운용체계를 구축하는 게 중요하다”며 “‘보안 특화 AI’와 같이 정부, 학계, 다양한 분야의 기업 등 서로 다른 주체들이 공격 취약점이나 경로 파악 등 공동의 대응체계를 구축하는 것이 필요하다”고 말했다.

오픈AI가 보안 등급 ‘위험’(Critical) 단계로 평가된 새 AI 모델 ‘아스트라’를 공개했다. 오픈AI는 아스트라가 인간이 컴퓨터로 할 수 있는 대부분의 업무를 대신할 수 있다며 사실상 범용인공지능(AGI) 시대의 시작을 선언했다. 다만, 해킹 등 악용 가능성이 확인된 모델을 상용화하면서 ‘강력한 AI를 어디까지 허용할 것인가’에 대한 우려도 커지고 있다. 오픈AI는 한 달여 전부터 출시를 예고했던 AI 모델 ‘GPT-6 아스트라’를 3일(현지시간) 정식으로 공개했다. 그레그 브록먼 오픈AI 사장은 이 모델이 “인간이 컴퓨터로 할 수 있는 일이라면 무엇이든 할 수 있다”고 밝혔다. 대부분의 작업을 인간 이상 수준으로 해낼 수 있는 AGI의 초기 버전으로 간주하는 것이 타당하다고 덧붙였다. 오픈AI는 아스트라가 인간이 작업했을 때 30분가량 소요되는 애완동물 위탁 돌봄 검색을 5분 27초 만에 완수했다. 인간이 5시간을 할애해야 하는 구직 정보 검색은 2분 51초 만에 끝마쳤다고 소개했다. 코딩 능력을 측정하는 ‘터미널-벤치 4.0’, ‘딥SWE v1.1’ 등 성능 지표(벤치마크)에서는 최근 출시된 라이벌 앤트로픽의 클로드 페이블5.1을 능가하는 점수를 기록하는 등 수치로 성능을 입증하기도 했다. 그러나 모델의 성능이 높아지면서 사이버 보안 관련 위험성도 그만큼 높아졌다. 오픈AI는 아스트라의 위험성을 인정하면서도 통제할 수 있는 안전장치를 마련했으니 제한적으로 출시한다는 입장이지만 도의 사이버 공격 능력을 갖춘 AI의 상용화에 대한 우려는 과제로 남을 것으로 보인다. 앞서 아스트라는 오픈AI의 모델 가운데 처음으로 사이버 보안 평가에서 ‘위험’ 등급을 받았다. 인간이 명시적인 가이드라인을 주지 않아도 AI 스스로 취약점을 발견해 공격 도구를 만들 수 있다는 뜻이다. 특히 아스트라는 자신의 사고 과정(CoT)을 완벽하게 숨기거나 통제해 인간의 감시를 회피하는 능력도 강화됐다고 오픈AI는 밝혔다. 감시를 우회해야 하는 상황에서는 고의로 오답을 내 평가자를 속이거나, 부적절한 행위를 은폐하기도 한다는 것이다. 오픈AI는 이에 따라 모델의 사고 과정뿐 아니라 모델이 인간의 뜻에 맞게 동작하는지를 지켜보는 정렬(Alignment) 감시 기능을 추가 도입했다고 설명했다. 또 오픈AI는 아스트라의 해킹 능력을 방어 목적으로 전환하고 오용 위험을 줄이기 위해 역대 최대 규모인 10억 달러(약 1조 3500억원) 규모의 사이버 보안 방어 보조 프로그램 ‘최전선 방어자를 위한 데이브레이크’를 동시에 발표했다.

이용자 계정 3954만개에 담긴 정보가 유출된 티빙이 개인정보 침해 사고에 공식 사과했다. 또 이용자들에게 안심보험 가입과 5000포인트 제공 등의 보상안도 제시했다. 최주희 티빙 대표는 3일 서울 광화문 코리아나호텔에서 열린 설명회에서 “이번 침해 사고로 고객 여러분께 심려와 불안을 끼쳐드린 점 진심으로 사과드린다”고 밝혔다. 이어 “안전한 서비스를 제공하지 못한 데 대해 대표이사로서 무거운 책임을 느낀다”면서 “조사 결과를 겸허히 받아들이고 필요한 시정 조치와 재발 방지 대책을 끝까지 이행하며, 보안 체계 전반을 근본부터 다시 세우겠다”고 덧붙였다. 티빙은 2030년까지 정보보호 투자를 직전 5년 대비 약 4배로 확대하는 등 보안 체계를 전면 강화하기로 했다. 인증과 접근 통제를 강화하는 ‘제로 트러스트’ 기반의 보안 체계 구축과 인공지능(AI) 기반 이상 징후 탐지와 실시간 대응 시스템 고도화에 나선다. 보안 전문 인력을 향후 5년간 현재의 3배 수준으로 늘리고, 최고경영자(CEO) 직속의 ‘정보보호혁신 자문위원회’를 신설해 외부 전문가의 검증과 조언을 받는다는 방침이다. 또 CEO와 정보보호 최고책임자(CISO), 개인정보보호책임자(CPO)를 중심으로 보안 거버넌스도 강화한다. “전문 인력 3배 확충…보안체계 강화”이용자들에 대한 보상안도 제시했다. 티빙은 해킹·피싱 등에 따른 사이버 금융사기 등을 1인당 최대 300만원까지 보상하는 안심 보험을 1년간 제공한다고 밝혔다. 티빙 측은 이에 대해 “피해 보상과 직결되지 않더라도 고객이 안심할 수 있도록 하는 데 기여할 수 있을 것”이라고 취지를 설명했다. 또 이용자들은 ▲5000원 상당 티빙 포인트 ▲프리미엄급 시청 환경(4K 화질·기기 4대 동시 시청·400회 내려받기) 업그레이드 ▲엔터테인먼트 쿠폰(웨이브 광고형 1개월 구독권과 CGV 콤보 3종 5000원 할인 중 선택)을 받을 수 있다. 이달 7일부터 30일까지 신청하면 다음 달 6일부터 이용할 수 있다. 앞서 과학기술정보통신부는 이날 정부서울청사에서 지난 5월 발생한 티빙의 개인정보 유출 사고 관련 민관합동조사단 조사 결과를 발표하고 3954만개에 달하는 계정의 정보가 유출됐다고 밝혔다. 유출된 항목은 성명·생년월일·휴대전화번호·이메일 주소·연계정보(CI) 등 20개 항목(70종)이다. 또한 소스 코드가 포함된 기술 자산 361건(30.35GB 규모)도 유출됐다. 조사단은 공격자가 지난 5월 29일부터 3일에 걸쳐 개발자의 ‘개발환경 접속키’를 사전에 탈취한 뒤 개발환경에 무단 접속해 프로젝트를 유출한 것으로 파악했다. 소스코드 내에 저장된 ‘운영환경 접속키’ 43개를 추가 확보해 운영환경(아마존웹서비스·AWS)까지 침투했다는 설명이다. 조사단은 탈취 경로 확인을 위해 개발자 단말기 포렌식 분석으로 다양한 공격 시나리오를 정밀 분석했으나 확인이 불가능했다고 전했다. 다만 운영환경 접속키를 별도 분리 보관하지 않고, 이용자 정보가 저장된 데이터베이스에 접근할 수 있는 접속정보를 암호화하지 않은 등 관리체계의 문제점을 확인했다고 조사단은 설명했다. 또한 티빙이 침해사고를 인지한 뒤 24시간이 지난 뒤에야 한국인터넷진흥원(KISA)에 신고해 정보통신망법 위반에 따른 과태료(최대 3000만원)가 부과될 예정이다. 과기정통부는 티빙에 이달까지 재발 방지 이행계획 제출을 요구하고 내년 1월부터 이행점검에 나설 계획이다.

세계의 인공지능(AI) 혁신을 이끌고 있는 미국 빅테크들이 AI 패권 경쟁과 안전성 확보 사이에서 규제의 딜레마에 빠졌다. 중국의 추격에 규제를 완화해 속도전을 벌여야 하지만, 그럴수록 해킹 등 악용 위협도 커질 수밖에 없어 각국의 고민이 깊어지고 있다. AFP통신에 따르면 일론 머스크 테슬라·스페이스X 최고경영자(CEO) 등 미국의 AI 리더들은 1일(현지시간) 노스캐롤라이나주에서 열린 주요 20개국(G20) 기술장관 회의에서 AI 규제를 완화해야 한다고 입을 모았다. 머스크 CEO는 “혁신은 규제로부터 자유로워야 하고, 새로운 (기술은) ‘원칙적 불법’이 아닌 ‘원칙적 합법’으로 허용돼야 한다”고 밝혔다. 머스크 CEO는 유럽연합(EU)을 콕 집어 “EU에서는 통상 신기술이 원칙적으로 불법 취급을 받고 있어 발전 속도가 더디다”고 지적했다. 이어 “전력 부족 때문에 AI 주도권이 중국으로 넘어갈 수도 있다”며 위기감을 드러냈다. 마크 저커버그 메타 CEO도 “오픈웨이트(가중치 개방형) AI 모델을 규제해선 안 된다”고 주장했다. 이날 회의를 주도한 마이클 크라치오스 미 백악관 과학기술정책실장은 G20 대표들에게 ‘캐롤라이나 원칙’을 채택할 것을 촉구했다. 캐롤라이나 원칙은 AI에 대해 새 규제를 만드는 대신 기존 규제를 적용하기 어려운 특이 사례에만 해당되는 ‘핀셋 규칙’을 만드는 것이 골자다. 미국 정·재계가 국제 무대에서 힘을 합한 것은 AI를 둘러싼 미중 패권 경쟁이 격해지고 있기 때문이다. 미국 빅테크가 선점했던 세계 AI 시장은 최근 중국의 스타트업 문샷AI와 딥시크, 지푸AI 등이 바짝 추격하고 있다. 신미국안보센터(CNAS)는 “중국의 AI 경쟁력 향상이 ‘나머지 세계가 미국 기술 생태계 안에 머물러야 한다’는 트럼프 행정부의 긴박감을 높였다”고 분석했다. 폭주하는 AI 기술에 최소한의 안전장치가 필요하다는 반박도 적지 않다. 유엔의 ‘AI 독립 국제과학패널’은 지난 7월 “AI 역량이 과학계의 이해 능력과 정부의 적응 능력을 모두 앞지르고 있다”며 “AI 기술 발전 속도가 너무 빠르면 추후 AI 평가 능력이 부족한 국가들은 통제할 수 없는 기술에 의존하게 될 것”이라고 경고했다. 이 가운데 오픈AI가 차기 AI 모델 ‘아스트라’의 보안 등급을 ‘위험’으로 분류하면서 논란이 거세질 것으로 보인다. 오픈AI는 아스트라가 인간 개입 없이 다수의 핵심 시스템에서 미공개(제로데이) 취약점을 찾아 공격할 수 있다고 보고 보안 강화 조치에 나섰다. 앞서 지난 7월에는 오픈AI의 미공개 AI 모델들이 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹하기도 했다. 이에 오픈AI는 에이전트의 행동 추론 과정을 분석하고 잠재적으로 위험한 행동을 감지하면 에이전트를 중지시키는 시스템을 도입할 예정이다.

비인가 게시판 통해 조직적 움직임메시지 7만 건 교환하며 역할 분담700개 에이전트, 허깅페이스 공격 겨우 13시간 만에 관리자 권한 확보오픈AI “전 세계를 향한 경고사격” “세상에! 공용 게시판이 있다. 다른 에이전트를 찾았다!” 서로의 존재조차 모른 채 따로 시험받던 인공지능(AI) 에이전트가 다른 AI의 흔적을 발견하고 남긴 기록이다. 이들은 서로 대화하거나 외부 인터넷에 접속하지 못하도록 격리돼 있었다. 하지만 프로그램 설치 등에 쓰이는 공용 저장 공간에서 서로의 존재를 알아챈 뒤 상황은 달라졌다. 약 1200개 에이전트가 공용 저장공간을 비인가 게시판처럼 이용해 7만 건이 넘는 메시지와 파일을 주고받았다. 한쪽이 공격법을 찾으면 다른 쪽이 시험했고, 효과가 확인된 방법은 빠르게 퍼졌다. 이 가운데 약 700개는 실제 AI 모델 공유 플랫폼 허깅페이스 해킹에 가담했다. 오픈AI가 26일(현지 시간) 공개한 ‘오픈AI-허깅페이스 사건 기술보고서’와 모델평가·위협연구소(METR), 레드우드 리서치의 독립 조사보고서에 따르면 사건은 당초 알려진 것보다 훨씬 조직적이었다. 지난달에는 AI 에이전트가 시험용 격리망을 빠져나간 사고로 알려졌지만, 이번 조사에서 수백 개가 정보를 공유하고 역할까지 나눠 움직인 사실이 새로 확인됐다. 사건은 AI의 사이버 공격 능력을 재는 오픈AI의 내부 시험에서 시작됐다. 수만 개 에이전트는 서로 분리된 채 복잡한 공격 과제를 받았다. 일부가 문제에 막히자 정해진 방식으로 답을 찾는 대신 시험의 허점을 파고들었다. 게시판에는 “수백 개의 병렬 에이전트를 활용해야 한다”, “동료들의 시간을 아끼자”는 취지의 대화가 오갔다. 이런 행동은 다른 평가에서도 반복됐다. 스프레드시트 시험에서는 정답을 미리 확인했고, 단백질 데이터베이스 평가에서는 평가 체계를 우회했다. 제프리 래디시 팰리세이드리서치 이사는 로이터에서 이를 여러 과목에서 부정행위를 한 상황에 빗댔다. 특정 해킹 시험에서 우연히 벌어진 일탈이라기보다, 목표 달성을 위해 규칙 자체를 피해 가는 행동이 반복됐다는 지적이다. 에이전트들은 결국 시험용 격리망도 벗어났다. 외부 인터넷은 막혀 있었지만 프로그램 설치 등에 쓰이는 내부 시스템에는 접근할 수 있었다. 이들은 보안 취약점을 이용해 인터넷과 연결된 장비에 접근한 뒤 허깅페이스의 계정 정보와 추가 취약점을 이용해 실제 서버를 공격했다. 관리자 권한을 확보하는 데는 13시간밖에 걸리지 않았다. 오픈AI가 이상 징후를 제때 막지 못한 점도 문제로 지적됐다. 비인가 게시판과 무단 인터넷 접속은 본격적인 공격 전부터 포착됐지만 즉각적인 대응으로 이어지지 않았다. 회사도 “일부 초기 신호가 더 빠른 대응으로 이어질 수 있었다”고 인정했다. 오픈AI는 이번 사건을 “우리와 전 세계를 향한 경고사격”으로 규정하고 최신 모델의 강화학습 훈련을 2주간 중단했다. 연구 환경의 격리와 감시도 강화하기로 했다. 로이터는 수백 개 AI가 서로 협력해 평가와 통제 장치를 우회한 뒤 실제 외부 시스템까지 침투한 사실이, 빠르게 강해지는 AI를 기업들이 제대로 감시하고 통제할 수 있는지에 대한 의문을 키웠다고 평가했다. [용어 클릭] ●AI 에이전트 사람이 목표를 주면 필요한 일을 스스로 계획하고, 검색이나 프로그램 실행 등 여러 작업을 수행하면서 결과에 따라 다음 행동까지 결정하는 인공지능 시스템.

AI Village에서 열린 CTF서 전 세계 200여 개 팀 중 최종 5위데프콘 34 CTF 본선서 글로벌 최정상 해커들과 공격 방어 역량 겨뤄 SK쉴더스(대표 민기식)는 자사 화이트해커 그룹 EQST(Experts, Qualified Security Team, 이큐스트)가 미국 라스베이거스에서 열린 세계 최대 해킹·보안 컨퍼런스 ‘데프콘(DEF CON) 34’의 AI Village에서 열린 CTF(Capture The Flag)에서 글로벌 200여 개 팀 가운데 최종 5위를 기록했다고 10일 밝혔다. 데프콘은 전 세계 해커와 보안연구자들이 모여 최신 해킹 기술과 보안 위협을 공유하는 세계 최대 규모의 해킹·보안 컨퍼런스다. 올해는 AI, 자동차, 암호화폐 등을 주제로 38개 빌리지가 운영되는 등 사이버보안 전 분야의 최신 기술과 연구 성과가 공유됐다. EQST(이큐스트)는 이번 AI CTF에서 한국 참가팀 가운데 유일하게 톱5에 이름을 올려 AI 에이전트를 기반으로 한 보안 문제 해결 역량과 세계적 수준의 AI 보안 기술력을 입증했다. 이와 함께 데프콘 34 CTF 본선에도 진출해 글로벌 최정상급 보안 전문가들과 실전 공격·방어 기량을 겨뤘다. EQST가 참가한 AI CTF는 주어진 AI 모델을 기반으로 침투테스트를 수행하는 AI 에이전트를 구성하고, 이를 활용해 보안 문제를 해결하는 방식으로 진행됐다. 사람이 공격 과정을 일일이 수행하는 기존 CTF와 달리, AI 에이전트가 문제를 분석하고 공격 방법을 선택해 플래그(Flag) 획득을 시도하도록 만드는 것이 특징이다. 참가팀들은 AI 모델을 기반으로 에이전트의 구조와 프롬프트를 제작하고, 문제 해결 과정과 공격 전략을 설계하는 역량을 겨뤘다. EQST는 문제 유형 별 AI모델을 최적화하고 에이전트의 행동방식을 조정하며, 배점과 난이도를 분석해 공략 순서를 결정하는 등 다양한 전략을 적용했다. 특히 AI 에이전트가 스스로 취약점을 탐색하고 공격을 수행할 수 있도록 설계하는 과정에서 AI 모델에 대한 이해와 침투테스트 경험, 보안 문제 분석 능력을 종합적으로 발휘했다. 그 결과 전 세계 200여 개 참가팀 가운데 최종 5위에 오르며 AI 기술을 활용한 공격 및 보안 문제 해결 역량을 확인했다. 이번 대회를 통해 EQST는 에이전틱 AI(Agentic AI)를 활용한 새로운 공격 방식과 향후 발생할 수 있는 보안 위협을 실전 환경에서 경험했다. 대회에서 확인한 AI 에이전트의 공격 전략과 문제 해결 사례는 향후 AI 서비스와 모델의 취약점 연구, AI 레드팀 및 보안 대응 기술 고도화에 활용할 계획이다. EQST는 AI CTF와 함께 데프콘의 대표 프로그램인 데프콘 34 CTF 본선에도 참가했다. 데프콘 CTF는 전 세계 최정상급 보안 전문가들이 참가해 실력을 겨루는 국제 해킹대회로, 올해 예선에는 686개 팀이 참가했으며 이 가운데 12개 팀만이 본선에 진출했다. SK쉴더스 EQST(이큐스트)와 네이버클라우드, 루비야랩, 핀란드 H-T8로 구성된 국제 연합팀도 본선 무대에 올라 글로벌 보안 전문가들과 경쟁을 펼쳤다. 본선은 공격·방어(Attack and Defense)와 킹 오브 더 힐(King of the Hill, KOTH)을 결합한 방식으로 진행됐다. 참가팀들은 상대 팀 시스템의 취약점을 찾아 공격해 플래그를 획득하는 동시에 자신의 시스템을 방어하고, KOTH 과제에서는 다른 팀보다 우위를 확보하기 위한 경쟁을 펼쳤다. 공격에 성공하는 것뿐 아니라 발견된 취약점에 대응하면서 서비스의 정상 운영 상태를 유지해야 하는 만큼 취약점 분석과 공격 코드 개발, 패치 및 방어 전략 수립 등을 동시에 수행하는 종합적인 보안 역량이 요구됐다. EQST 구성원은 글로벌 보안 전문가들과 실전 경쟁을 펼치며 새로운 공격 기법과 문제 해결 방식을 경험하고 공격·방어 기술에 대한 연구 경험을 축적했다. EQST는 약 200명 규모의 국내 최대 화이트해커 전문가 집단으로 취약점 연구, 침투 테스트, 악성코드 분석, AI 보안 연구 등 다방면에서 활동 중이다. 최근 AI 레드팀 해킹대회 ‘저지먼트 데이(Judgement Day)’와 ‘드림핵 해킹방어대회 2026’ 우승, R3CTF 2026 2위, ‘미드나이트 선(Midnight Sun) CTF 2026’ 3위 등을 기록하며 우수한 성과를 이어가고 있다. 김태형 SK쉴더스 EQST사업그룹장은 “전 세계 200여 개 팀이 참가한 AI CTF에서 국내 참가팀 중 유일하게 톱5를 기록한 것은 EQST가 축적해 온 AI 보안 기술과 실전 문제 해결 역량을 보여주는 성과”라며 “앞으로도 AI 기술을 활용한 새로운 공격과 보안 위협에 선제적으로 대응할 수 있도록 AI 취약점과 레드팀 연구를 확대하고, 글로벌 수준의 AI 보안 경쟁력을 지속적으로 강화해 나가겠다”고 말했다.

북한의 대표적 해킹 조직으로 알려진 ‘김수키’(Kimsuky)가 단순한 이미지 위조나 피싱용 미끼 문서 제작 수준을 넘어 인공지능(AI)을 활용해 공격 전 과정의 자동화를 시도 중인 정황이 포착됐다. 미끼 문서 제작 넘어 ‘공격 전 과정 자동화’로 체질 개선10일 보안 전문 기업 지니언스의 시큐리티 센터가 발표한 분석 보고서에 따르면 김수키는 AI 기술을 사이버 공격 체계 전반에 적극적으로 이식하기 위한 연구와 기술 검증을 진행해 온 것으로 드러났다. 기존 북한 해커들의 AI 활용은 번역기나 생성형 AI를 이용해 어색하지 않은 한국어 피싱 이메일을 쓰거나 미끼용 금융 보고서를 제작하는 등 주로 ‘공격 준비’ 단계에 치우쳐 있었다. 하지만 최신 분석 결과에서는 해커들이 보안 감시를 피할 수 있는 ‘로컬 대형언어모델’(Local LLM)과 ‘검색증강생성’(RAG) 환경을 직접 구축해 운용 중인 흔적이 다수 식별됐다. 외부 서비스(OpenAI 등)로 내부 데이터가 유출되지 않는 올라마(Ollama), GPT4All, 엠스티(Msty) 등 로컬 LLM 관리 도구와 RAG 구성 환경을 비롯해 AI 에이전트 개발 프레임워크까지 자체 구축한 것이다. AI 코딩 도구 악용 및 표적 자동 추적·분석 시도 해커들은 자체 구축한 AI 환경을 통해 탈취한 막대한 양의 문서에서 유용한 정보를 자동으로 추출·분석하고, 타깃으로 삼은 공격 대상을 AI로 자동 추적 및 식별하는 시스템을 테스트하고 있는 것으로 예상된다. 특히 AI 기반 코딩 도구인 ‘커서’(Cursor)를 설치해 악성 코드 개발 프로세스를 효율화하고 AI가 생성한 가짜 가상자산·금융 투자 보고서를 한층 정교하게 다듬어 유포하는 정황도 함께 확인됐다. 주요 타깃은 비트코인 등 가상자산 관련 분야로, 가상자산 지갑 정보 및 개인 이메일 계정, 특정 웹사이트 가입 이력 등 민감 정보의 노출 여부를 자동 탐색하려는 시도가 지속되고 있다. 전 세계 코인 해킹 절반 이상이 北 소행… 누적 피해 10조원 북한 해커들이 이처럼 AI 기술을 집요하게 도입하는 배경에는 전 세계 가상자산 시장을 노린 대규모 외화벌이 목적이 자리 잡고 있다. 블록체인 보안 분석업체들의 통계에 따르면 지난해 북한 연계 해킹 조직이 전 세계에서 탈취한 가상자산 피해액은 약 20억달러(약 2조 7000억원)에 달한다. 이는 글로벌 전체 피해 규모의 60%를 차지하는 수치다. 2016년 이후 북한 연계 해커 조직에 의해 발생한 가상자산 누적 피해액만 총 67억 5000만달러(약 9조 3000억원)에 이른다. 올해 들어서도 탈중앙화 금융(DeFi) 및 리스테이킹 프로토콜 등의 취약점을 집중 공격하며 상반기에만 6억 4000만달러(약 1조원) 이상의 코인을 탈취, 전 세계 해킹 피해액의 66% 이상을 차지한 것으로 나타났다. 탈취한 가상자산은 믹서(Mixer) 서비스와 탈중앙화 거래소(DEX) 등을 통해 신속하게 세탁돼 정권 유지 및 무기 개발 자금으로 활용되는 것으로 추정된다. “단순 내용 판별 불가능… 실행 행위 감시하는 EDR 구축해야”전문가들은 해커들이 AI 도구를 공격에 본격 도입함에 따라 사회공학적 산출물의 완성도가 급격히 올라가고 있으며, 이에 따라 공격의 빈도와 속도 역시 비약적으로 증가할 것이라고 경고한다. 문종현 지니언스 시큐리티 센터장은 “AI의 발전으로 피싱 문서를 구분하기가 더욱 어려워졌다”며 “이제는 정교해진 문서 내용에 속지 않는 것을 넘어 실행 행위를 실시간으로 탐지하고 차단하는 체계를 선제적으로 마련해야 한다”고 당부했다.

북한 해킹조직 김수키(Kimsuky)가 생성형 인공지능(AI)을 피싱 문구나 가짜 문서를 만드는 데 그치지 않고, 탈취한 정보를 분석하고 공격 업무를 자동화하는 데 활용하기 위해 자체 AI 환경까지 구축한 정황이 포착됐다. 챗GPT 같은 외부 서비스를 필요할 때마다 이용하는 수준에서 벗어나, 확보한 자료를 자신들이 관리하는 서버에서 AI로 분석하고 다음 공격에 활용할 수 있는 체계를 갖추려는 움직임으로 분석된다. 사이버 보안기업 지니언스는 10일 김수키의 최근 활동을 분석한 결과, 자체 서버에서 대규모언어모델(LLM)을 구동하고 검색증강생성(RAG)을 활용할 수 있는 환경을 구축한 흔적을 확인했다고 밝혔다. LLM은 챗GPT처럼 질문을 이해해 문서나 코드 등을 만들어내는 생성형 AI의 핵심 기술이다. 김수키는 공개된 AI 모델을 자체 컴퓨터나 서버에 설치해 외부 서비스에 접속하지 않고 직접 구동할 수 있는 환경을 마련한 것으로 파악됐다. 이를 통해 탈취한 자료를 외부 AI 업체의 서버에 올리지 않고도 내부에서 분석할 수 있다. 여기에 RAG를 결합하면 탈취한 정보를 활용하기도 쉬워진다. RAG는 AI가 기존에 학습한 지식만으로 답하는 대신 별도로 저장된 문서에서 관련 내용을 찾아 답변에 활용하도록 하는 기술이다. 공격으로 빼낸 문서를 한데 모아 AI와 연결하면 사람이 수많은 자료를 일일이 읽지 않아도 특정 인물이나 계정, 가상자산 관련 정보 등을 빠르게 찾아 정리할 수 있다. 실제로 김수키의 시스템에서는 여러 AI 모델을 PC나 서버에서 실행하도록 해주는 Ollama와 GPT4All을 비롯해 AI가 여러 작업을 순차적으로 처리하도록 만드는 에이전트 개발 도구의 사용 흔적이 발견됐다. AI 기반 코드 편집기 ‘커서(Cursor)’로 공격에 쓰이는 문서를 수정하고 AI가 만든 결과물을 검토한 기록도 확인됐다. 지니언스는 김수키가 이런 환경을 이용해 탈취 문서 분석과 정보 추출은 물론 반복적인 공격 업무를 자동화하는 방안까지 시험한 것으로 보고 있다. AI는 공격 대상을 속이는 과정에도 활용되고 있다. 최근에는 생성형 AI로 만든 것으로 추정되는 가상자산 투자 전략 보고서와 금융 자료를 실제 업무 문서처럼 꾸며 악성 파일 실행을 유도하는 방식이 확인됐다. 공격자는 가상자산 지갑과 지메일 계정 정보, 웹사이트 가입 이력 등 개인정보 확보도 시도한 것으로 분석됐다. 문종현 지니언스 시큐리티센터장은 “이번 분석은 국가 배후 해킹조직이 AI를 실제 공격 체계에 접목하기 위해 로컬 LLM과 AI 개발 환경까지 구축하며 공격 역량을 고도화하고 있음을 보여주는 사례”라며 “AI 기술의 발전으로 사회공학 공격이 더욱 정교해질 것으로 예상되는 만큼 문서 내용보다 실행 행위를 중심으로 탐지하는 EDR 기반 위협 헌팅 체계가 무엇보다 중요하다”고 말했다.

인간 설정 실수 찾아내 외부 접촉누구나 사용 가능한 ‘개방형 모델’해킹 등 악용 우려 목소리 더 커져美 오픈AI·앤트로픽 등 이은 논란미중 성능 경쟁 뒤처질라 안전 뒷전 미국에 이어 중국의 첨단 인공지능(AI) 모델에서도 보안 통제를 벗어난 사례가 확인되면서, AI 안전 문제가 미중 기술패권 경쟁의 새로운 변수로 떠오르고 있다. 중국 문샷AI의 ‘키미 K3’까지 격리된 환경을 벗어나 인터넷에 접속한 것으로 알려지면서, 최첨단 AI의 통제 위험이 미중 공통의 문제로 번진 것이다. 양국 모두 안전성 검증을 강화할 필요성을 느끼지만, 경쟁에서 뒤처질 수 있다는 우려 때문에 어느 쪽도 먼저 속도를 늦추기 어려운 ‘죄수의 딜레마’에 빠질 수 있다는 지적이 나온다. 로이터통신은 지난 7일(현지시간) 미국 보안업체 프런티어 시큐리티가 키미 K3를 시험하던 중 모델이 격리환경 밖 인터넷에 접속했다고 보도했다. 외부 통신 포트 일부가 열린 설정 실수를 모델이 찾아내 깃허브의 정보를 과제 해결에 이용했다. 실제 해킹은 없었지만 누구나 내려받아 개조할 수 있는 오픈웨이트 모델이어서 악용 가능성에 대한 우려가 제기됐다. 미국에서도 AI 모델의 통제 이탈이 실제 외부 시스템 침해로 이어진 사례가 잇따랐다. 오픈AI는 지난달 21일 GPT-5.6 솔 등이 보안 평가 중 격리환경의 취약점을 찾아 허깅페이스 실제 시스템까지 침투했다고 밝혔다. 앤트로픽은 클로드 계열 모델이 외부 기관 3곳을 무단 접근했음을 확인했고, 메타 모델 역시 평가 과정에서 제3자 시스템을 공격했다고 전했다. 상당수가 평가환경 설정 오류에서 시작됐지만, 고성능 AI가 작은 허점을 스스로 찾아 외부 행동으로 이어갔다는 점은 공통적이다. 미중 패권 경쟁은 이런 위험을 줄이는 것을 더 어렵게 만든다. 한쪽이 안전성 검증을 강화해 출시를 늦추는 동안 상대는 더 강력한 모델을 먼저 내놓을 수 있다. 반대로 양쪽 모두 개발 속도를 유지하면 충분히 검증되지 않은 모델이 잇따라 등장할 위험이 커진다. 함께 안전장치를 강화하는 것이 양국 모두에 이익이지만, 상대가 개발 속도를 낼 수 있어 먼저 속도를 늦출 수 없다. 결국 각자의 합리적인 선택이 전체 위험을 키우는 ‘죄수의 딜레마’다. 맷 시한 카네기국제평화재단 선임연구원은 최근 이런 딜레마를 완화할 방안으로 ‘병렬적 AI 안전(AI safety in parallel)’을 제안했다. 미중이 AI 경쟁 자체를 멈추거나 당장 하나의 규칙에 합의하기 어렵다면, 각자 안전조치를 강화하며 양국 모두에 위험한 부분부터 협력하자는 접근법이다. 위험 능력을 찾아내는 평가 방법과 새로운 위협 정보를 제한적으로 공유하고, 인간의 통제를 의도적으로 회피하는 능력처럼 모두에 직접적 위협이 되는 영역에서는 공동 평가 기준을 마련할 수 있다고 봤다. 현재로서는 기업의 자체 판단이 위험한 모델의 출시를 걸러내는 안전장치다. 오픈AI는 지난 7일 차세대 모델 ‘아스트라’가 자체 안전기준상 최고 단계인 ‘위험(Critical)’ 수준의 사이버 능력에 이를 가능성이 있다고 보고 일부 내부 작업을 중단했다고 밝혔다.

온라인 해킹 대신 납치나 주거침입 등 물리적인 폭력으로 탈취된 가상자산(암호화폐)이 상반기 3000만달러(약 420억원) 규모에 달하는 것으로 나타났다. 블록체인 분석 업체 체이널리시스(Chainalysis)는 7일 ‘폭력형 가상자산 범죄’ 보고서를 공개하고 가상자산 보유자를 노린 ‘렌치 공격’이 증가하고 있다고 분석했다. 상반기 전 세계에서 렌치 공격을 당해 탈취된 자산 규모는 3000만달러를 넘어선 것으로 집계됐다. 렌치 공격은 가상자산 보유자를 직접 찾아가 납치·감금·폭행 등 협박을 가한 뒤 비밀번호를 알아내 자산을 빼앗는 오프라인 범죄다. 그동안 해킹, 사기 등 온라인 중심이었던 가상자산 범죄가 물리적 폭력 형태로 변화하고 있는 셈이다. 체이널리시스는 이런 추세가 하반기까지 이어지면 연간 피해 규모는 역대 최대였던 지난해(5800만달러)를 웃돌 것으로 전망했다. 이는 실제 자산 탈취에 성공한 사건만 집계한 수치로, 강제 송금이 시도됐지만 차단된 사례나 몸값 요구, 자금 동결 사례까지 포함하면 실제 피해 규모는 더 클 것으로 추정된다. 공격 대상도 확대되고 있다. 과거에는 가상자산 소유자 본인을 직접 노리는 사례가 대부분이었지만 최근에는 가족이나 지인을 납치하거나 협박하는 사례도 증가하면서다. 지난 1월 기준, 가족과 지인을 대상으로 한 사건은 전체의 약 25~30%를 차지했다. 주거침입 비중도 지난해 14%에서 올 상반기 37%로 증가했다. 권준혁 체이널리시스 코리아 지사장은 “개인정보 유출과 물리적 범죄가 결합하는 만큼, 온체인 분석과 전통적인 수사 기법을 함께 활용하는 접근이 더욱 중요해질 것”이라고 말했다.

오픈AI와 앤트로픽에 이어 메타의 인공지능(AI) 모델도 보안 시험 도중 외부 기관 시스템에 무단 침입한 사실이 확인됐다. 스스로 판단하고 행동하는 AI가 사람의 작은 설정 실수를 실제 해킹으로 이어지는 사례가 잇따르면서, 첨단 AI를 개발자가 제대로 통제할 수 있는지를 둘러싼 우려가 커지고 있다. 메타는 5일(현지시간) 자사 코딩 특화 모델 ‘뮤즈스파크 1.1’이 독립 검증업체 이레귤러의 보안 시험 과정에서 외부 기관 한 곳의 시스템 취약점을 이용해 무단 침입했다고 밝혔다. 시험 환경의 설정 오류로 모델이 인터넷에 연결되자, 외부망에서 발견한 취약점을 실제 공격에 활용한 것이다. AI가 격리 환경인 ‘샌드박스’를 스스로 빠져나간 것은 아니었다. 그러나 외부 시스템과 도구에 접근할 수 있는 AI가 사람의 실수로 통제 범위를 벗어나자 별도의 지시 없이 취약점을 찾아 침입까지 실행했다는 점에서 위험성이 드러났다. 단순한 설정 오류가 데이터 유출이나 시스템 침해로 확대될 수 있다는 우려도 커졌다. 메타는 해당 모델이 제3자 서비스의 취약점을 악용했으며 앞서 다른 AI 기업에서 보고된 사례와 유사한 방식이었다고 설명했다. 이레귤러도 정교한 해킹 공작이나 샌드박스 탈출은 아니며 현재 남아 있는 보안 문제도 없다고 밝혔다. 양사는 추가 조사 뒤 사고 경위와 재발 방지책을 담은 보고서와 백서를 공개할 예정이다. 비슷한 사고는 최근 몇 주 사이 오픈AI와 앤트로픽에서도 잇따랐다. 오픈AI의 GPT와 앤트로픽의 클로드 역시 보안 평가 과정에서 인터넷망 설정 오류를 틈타 외부 시스템에 무단 접근한 사실이 확인됐다. 이번 사고는 메타가 첫 AI 코딩 에이전트 ‘뮤즈코드’를 공개한 날 알려졌다. 마크 저커버그 메타 최고경영자(CEO)는 이날 엑스(X)를 통해 뮤즈코드 베타 버전 출시를 발표했다. AI 코딩 에이전트는 개발자의 질문에 코드만 제안하는 기존 챗봇과 달리 필요한 파일을 찾고 작업 계획을 세운 뒤 코드 작성과 수정, 시험·검증까지 수행한다. 뮤즈코드는 해킹 사고가 발생한 모델의 후속 버전인 ‘뮤즈스파크 1.2’를 기반으로 한다. 메타 자체 평가에서는 일부 항목에서 오픈AI 코덱스를 앞섰지만 앤트로픽 클로드코드에는 미치지 못했다. 메타는 대신 입력 토큰 100만개당 1.25달러, 출력 토큰 100만개당 4.25달러의 낮은 가격을 내세웠다. 알렉산더 왕 메타 AI 총괄은 일부 등급의 비용이 경쟁 제품보다 10배 이상 저렴하다고 밝혔다.

- AI 기반 통합 보안 운영 체계와 고객 중심 서비스 역량 평가- IDC 마켓스케이프 메이저 플레이어 선정 이어 글로벌 평가서 경쟁력 확인 SK쉴더스(대표 민기식)가 글로벌 시장조사 기관 프로스트 앤드 설리번(Frost ＆ Sullivan)의 ‘2026 아시아태평양 고객 가치 리더십(2026 APAC Customer Value Leadership)’ 선정 기업에 이름을 올렸다. 프로스트 앤드 설리번은 매년 기술 경쟁력, 사업 성과, 고객 가치, 성장 가능성 등을 종합적으로 평가해 분야별 우수 기업을 선정한다. ‘아시아태평양 고객 가치 리더십’은 아태 지역 여러 산업군에서 서비스 우수성과 고객 가치 창출 역량을 평가하는 프로그램으로, SK쉴더스는 올해 사이버보안 서비스 부문 우수 기업으로 선정됐다. 최근 AI 도입과 클라우드 확산으로 기업의 IT 환경이 복잡해지면서, 보안 운영에서도 탐지·분석·대응을 통합적으로 수행하는 체계의 중요성이 커지고 있다. 이번 선정은 이러한 환경 변화에 대응하는 SK쉴더스의 통합 보안 서비스 운영 역량과 고객 지원 체계가 평가받았다는 점에서 의미가 있다. 프로스트 앤드 설리번은 최종 평가 선정 리포트를 통해 SK쉴더스의 AI 기반 통합 보안 운영 체계와 고객 중심 서비스를 주요 강점으로 꼽으며 이번 선정 배경을 설명했다. 특히 AI 사이버보안 관제 플랫폼인 ‘시큐디움(Secudium)’을 중심으로 한 운영 역량을 높이 평가했다. 시큐디움은 대규모 보안 로그 처리 역량을 바탕으로 위협 탐지·대응 서비스를 제공하며, 클라우드와 온프레미스가 혼합된 다양한 하이브리드 IT 환경에서도 보안 운영을 지원한다. 또한 관리형 보안 서비스(MSS), 관리형 탐지·대응(MDR), 침해 사고 대응, 디지털 포렌식, 모의 해킹, 보안 컨설팅을 아우르는 엔드투엔드(End-to-End) 사이버보안 서비스 포트폴리오를 경쟁력 요소로 소개했다. 더불어 차세대 보안 관제를 위한 에이전틱 AI 기반 SOC(Security Operations Center) 플랫폼 구축 전략과 이를 기반으로 한 성장 가능성에도 주목했다. 고객 경험과 만족도 측면에서도 경쟁력을 인정받았다. 프로스트 앤드 설리번은 SK쉴더스의 AI·자동화 기반 MDR 운영 체계와 약 95%에 달하는 MDR 고객 유지율을 대표 사례로 제시하며, 높은 고객 만족도와 장기적인 고객 신뢰를 확보하고 있다고 분석했다. 또한 고객 규모와 보안 성숙도에 맞춰 선택할 수 있는 구독형 서비스 모델과 유연한 서비스 운영 체계도 차별화된 경쟁력 요소로 평가했다. 한편, SK쉴더스는 지난해 ‘IDC 마켓스케이프: 아시아태평양 MDR 서비스 벤더 평가 2025’에서 국내 기업으로는 유일하게 메이저 플레이어(Major Player)로 선정된 데 이어, 이번 프로스트 앤드 설리번 평가에서도 고객 가치와 서비스 경쟁력을 인정받으며 글로벌 수준의 사이버보안 서비스 역량을 재확인했다. SK쉴더스 관계자는 “이번 선정은 고객이 직면한 다양한 보안 위협에 대해 SK쉴더스의 실질적인 대응 역량과 보안 전문성을 인정받은 결과”라며 “앞으로도 시큐디움과 MDR 역량을 기반으로 AI 중심의 보안 운영 체계를 실현하고 차세대 SOC를 선도해, 고객에게 더욱 높은 보안 가치와 신뢰를 제공하겠다”고 밝혔다.

19차례 제작 의뢰 20대 구속기소해킹 앱 동원해 협박·유포하기도 ‘딱 하나만 기억해라. 여기 들어온 순간 네 여친은 공공재다.’ 텔레그램 대화방인 ‘여공방’의 공지문이다. 이곳에 연인 사진을 올리면 방장이 인공지능(AI) 딥페이크 음란물로 가공해 모든 참여자에게 공유한다. 이곳에서 옛 연인들의 사진으로 허위 음란물을 제작한 뒤 소셜미디어(SNS)에 유포한 혐의를 받는 남성이 재판에 넘겨졌다. 3일 법조계에 따르면 서울중앙지검 여성아동범죄조사1부(부장 정희선)는 성폭력처벌법상 허위영상물 편집·반포·협박 및 정보통신망법 위반 등 혐의로 A(28)씨를 지난달 9일 구속기소했다. 앞서 서울신문은 A씨가 딥페이크 영상물로 전 연인 이가영(가명·26)씨를 협박하고 영상을 SNS에 유포한 혐의로 검찰에 넘겨졌다고 보도했다. 취재 결과 A씨는 이씨를 포함해 총 3명의 SNS 사진 등을 여공방에 공유해 딥페이크 영상물을 넘겨받은 것으로 확인됐다. 이 과정에서 사진을 확보하기 위해 해킹 앱도 사용한 것으로 파악됐다. A씨 공소장에 따르면 그는 지난해 5월부터 11월까지 총 19회에 걸쳐 여공방 방장에게 딥페이크 영상물 제작을 의뢰했다. 피해자에게 “네 딥페이크가 불법 성인물 공유 사이트에 퍼져 있다”며 해당 영상물과 저급한 댓글 내용을 갈무리해 직접 전송하기도 했다. 피해자에게 해킹 앱 설치를 유도한 뒤 피해자의 사진을 내려받기도 했다. 여공방에는 A씨와 방장 외에도 최소 10명 이상의 참여자가 더 있었지만, 경찰 수사가 시작되자 대화방은 ‘폭파’됐다. 온라인상에서 딥페이크 성범죄는 끊이지 않고 있다. 텔레그램 등을 활용해 성착취물 및 불법영상물을 제작·유포하거나 구매·소지·시청해 경찰에 검거된 피의자는 지난해 11월부터 올해 5월까지 총 1506명에 달한다. 최근 이언주 더불어민주당 의원도 딥페이크 범죄로 피해를 봤다. 이와 관련해 이재명 대통령도 “인공지능 창작물이 가지는 위험성에 대한 대비책이 있어야 한다”고 언급하기도 했다. 성폭력 사건을 주로 맡아 온 이은의 변호사는 “딥페이크 영상물은 일반적인 불법 촬영물과 달리 대량 양산·유통이 가능하다”며 “악의적인 합성을 제작하고 유포하는 범죄는 수사·사법기관이 그 중대성을 감안해 다뤄야 한다”고 강조했다.

‘딱 하나만 기억해라. 여기 들어온 순간 네 여친은 공공재다.’ 텔레그램 대화방인 ‘여공방’의 공지문이다. 이곳에 연인 사진을 올리면 방장이 인공지능(AI) 딥페이크 음란물로 가공해 모든 참여자에게 공유한다. 이곳에서 옛 연인들의 사진으로 허위 음란물을 제작한 뒤 소셜미디어(SNS)에 유포한 혐의를 받는 남성이 재판에 넘겨졌다. 3일 법조계에 따르면 서울중앙지검 여성아동범죄조사1부(부장 정희선)는 성폭력처벌법상 허위영상물 편집·반포·협박 및 정보통신망법 위반 등 혐의로 A(28)씨를 지난달 9일 구속기소했다. 앞서 서울신문은 A씨가 딥페이크 영상물로 전 연인 이가영(가명·26)씨를 협박하고 영상을 SNS에 유포한 혐의로 검찰에 넘겨졌다고 보도했다. 취재 결과 A씨는 이씨를 포함해 총 3명의 SNS 사진 등을 여공방에 공유해 딥페이크 영상물을 넘겨받은 것으로 확인됐다. 이 과정에서 사진을 확보하기 위해 해킹 앱도 사용한 것으로 파악됐다. A씨 공소장에 따르면 그는 지난해 5월부터 11월까지 총 19회에 걸쳐 여공방 방장에게 딥페이크 영상물 제작을 의뢰했다. 피해자에게 “네 딥페이크가 불법 성인물 공유 사이트에 퍼져 있다”며 해당 영상물과 저급한 댓글 내용을 갈무리해 직접 전송하기도 했다. 피해자에게 해킹 앱 설치를 유도한 뒤 피해자의 사진을 내려받기도 했다. 여공방에는 A씨와 방장 외에도 최소 10명 이상의 참여자가 더 있었지만, 경찰 수사가 시작되자 대화방은 ‘폭파’됐다. 온라인상에서 딥페이크 성범죄는 끊이지 않고 있다. 텔레그램 등을 활용해 성착취물 및 불법영상물을 제작·유포하거나 구매·소지·시청해 경찰에 검거된 피의자는 지난해 11월부터 올해 5월까지 총 1506명에 달한다. 지난 5월에는 10대 3명이 7개월간 여성 피해자의 사진과 신상정보 ‘박제’를 의뢰받고 딥페이크 영상물을 제작·유포한 혐의로 구속기소됐다. 최근 이언주 더불어민주당 의원도 딥페이크 범죄로 피해를 봤다. 이와 관련해 이재명 대통령도 “인공지능 창작물이 가지는 위험성에 대한 대비책이 있어야 한다”고 언급하기도 했다. 성폭력 사건을 주로 맡아 온 이은의 변호사는 “딥페이크 영상물은 일반적인 불법 촬영물과 달리 대량 양산·유통이 가능하다”며 “악의적인 합성을 제작하고 유포하는 범죄는 수사·사법기관이 그 중대성을 감안해 다뤄야 한다”고 강조했다.