오픈AI가 보안 등급 ‘위험’(Critical) 단계로 평가된 새 AI 모델 ‘아스트라’를 공개했다. 범용인공지능(AGI) 시대의 도래를 선언했다. 오픈AI는 아스트라가 인간이 컴퓨터로 할 수 있는 대부분의 업무를 대신할 수 있다며 사실상 범용인공지능(AGI) 시대의 시작을 선언했다. 다만, 해킹 등 악용 가능성이 확인된 모델을 상용화하면서 ‘강력한 AI를 어디까지 허용할 것인가’에 대한 우려도 커지고 있다. 오픈AI는 한 달여 전부터 출시를 예고했던 AI 모델 ‘GPT-6 아스트라’를 3일(현지시간) 정식으로 공개했다. 그레그 브록먼 오픈AI 사장은 이 모델이 “인간이 컴퓨터로 할 수 있는 일이라면 무엇이든 할 수 있다”고 밝혔다. 대부분의 작업을 인간 이상 수준으로 해낼 수 있는 AGI의 초기 버전으로 간주하는 것이 타당하다고 덧붙였다. 오픈AI는 아스트라가 인간이 작업했을 때 30분가량 소요되는 애완동물 위탁 돌봄 검색을 5분 27초 만에 완수했다. 인간이 5시간을 할애해야 하는 구직 정보 검색은 2분 51초 만에 끝마쳤다고 소개했다. 코딩 능력을 측정하는 ‘터미널-벤치 4.0’, ‘딥SWE v1.1’ 등 성능 지표(벤치마크)에서는 최근 출시된 라이벌 앤트로픽의 클로드 페이블5.1을 능가하는 점수를 기록하는 등 수치로 성능을 입증하기도 했다. 그러나 모델의 성능이 높아지면서 사이버 보안 관련 위험성도 그만큼 높아졌다. 오픈AI는 아스트라의 위험성을 인정하면서도 통제할 수 있는 안전장치를 마련했으니 제한적으로 출시한다는 입장이지만 도의 사이버 공격 능력을 갖춘 AI의 상용화에 대한 우려는 과제로 남을 것으로 보인다. 앞서 아스트라는 오픈AI의 모델 가운데 처음으로 사이버 보안 평가에서 ‘위험’ 등급을 받았다. 인간이 명시적인 가이드라인을 주지 않아도 AI 스스로 취약점을 발견해 공격 도구를 만들 수 있다는 뜻이다. 특히 아스트라는 자신의 사고 과정(CoT)을 완벽하게 숨기거나 통제해 인간의 감시를 회피하는 능력도 강화됐다고 오픈AI는 밝혔다. 감시를 우회해야 하는 상황에서는 고의로 오답을 내 평가자를 속이거나, 부적절한 행위를 은폐하기도 한다는 것이다. 오픈AI는 이에 따라 모델의 사고 과정뿐 아니라 모델이 인간의 뜻에 맞게 동작하는지를 지켜보는 정렬(Alignment) 감시 기능을 추가 도입했다고 설명했다. 또 오픈AI는 아스트라의 해킹 능력을 방어 목적으로 전환하고 오용 위험을 줄이기 위해 역대 최대 규모인 10억 달러(약 1조 3500억원) 규모의 사이버 보안 방어 보조 프로그램 ‘최전선 방어자를 위한 데이브레이크’를 동시에 발표했다.

세계의 인공지능(AI) 혁신을 이끌고 있는 미국 빅테크들이 AI 패권 경쟁과 안전성 확보 사이에서 규제의 딜레마에 빠졌다. 중국의 추격에 규제를 완화해 속도전을 벌여야 하지만, 그럴수록 해킹 등 악용 위협도 커질 수밖에 없어 각국의 고민이 깊어지고 있다. AFP통신에 따르면 일론 머스크 테슬라·스페이스X 최고경영자(CEO) 등 미국의 AI 리더들은 1일(현지시간) 노스캐롤라이나주에서 열린 주요 20개국(G20) 기술장관 회의에서 AI 규제를 완화해야 한다고 입을 모았다. 머스크 CEO는 “혁신은 규제로부터 자유로워야 하고, 새로운 (기술은) ‘원칙적 불법’이 아닌 ‘원칙적 합법’으로 허용돼야 한다”고 밝혔다. 머스크 CEO는 유럽연합(EU)을 콕 집어 “EU에서는 통상 신기술이 원칙적으로 불법 취급을 받고 있어 발전 속도가 더디다”고 지적했다. 이어 “전력 부족 때문에 AI 주도권이 중국으로 넘어갈 수도 있다”며 위기감을 드러냈다. 마크 저커버그 메타 CEO도 “오픈웨이트(가중치 개방형) AI 모델을 규제해선 안 된다”고 주장했다. 이날 회의를 주도한 마이클 크라치오스 미 백악관 과학기술정책실장은 G20 대표들에게 ‘캐롤라이나 원칙’을 채택할 것을 촉구했다. 캐롤라이나 원칙은 AI에 대해 새 규제를 만드는 대신 기존 규제를 적용하기 어려운 특이 사례에만 해당되는 ‘핀셋 규칙’을 만드는 것이 골자다. 미국 정·재계가 국제 무대에서 힘을 합한 것은 AI를 둘러싼 미중 패권 경쟁이 격해지고 있기 때문이다. 미국 빅테크가 선점했던 세계 AI 시장은 최근 중국의 스타트업 문샷AI와 딥시크, 지푸AI 등이 바짝 추격하고 있다. 신미국안보센터(CNAS)는 “중국의 AI 경쟁력 향상이 ‘나머지 세계가 미국 기술 생태계 안에 머물러야 한다’는 트럼프 행정부의 긴박감을 높였다”고 분석했다. 폭주하는 AI 기술에 최소한의 안전장치가 필요하다는 반박도 적지 않다. 유엔의 ‘AI 독립 국제과학패널’은 지난 7월 “AI 역량이 과학계의 이해 능력과 정부의 적응 능력을 모두 앞지르고 있다”며 “AI 기술 발전 속도가 너무 빠르면 추후 AI 평가 능력이 부족한 국가들은 통제할 수 없는 기술에 의존하게 될 것”이라고 경고했다. 이 가운데 오픈AI가 차기 AI 모델 ‘아스트라’의 보안 등급을 ‘위험’으로 분류하면서 논란이 거세질 것으로 보인다. 오픈AI는 아스트라가 인간 개입 없이 다수의 핵심 시스템에서 미공개(제로데이) 취약점을 찾아 공격할 수 있다고 보고 보안 강화 조치에 나섰다. 앞서 지난 7월에는 오픈AI의 미공개 AI 모델들이 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹하기도 했다. 이에 오픈AI는 에이전트의 행동 추론 과정을 분석하고 잠재적으로 위험한 행동을 감지하면 에이전트를 중지시키는 시스템을 도입할 예정이다.

부산시가 생성형 인공지능(AI)을 악용한 공격 코드 작성과 시스템 취약점을 스스로 탐색·공격하는 자율형 사이버 공격 등에 대응하고자 1일부터 ‘AI 기반 지능형 사이버 보안관제 시스템’ 운영을 시작했다. 시는 하루 수십억 건의 대규모 보안 기록을 신속·정밀하게 분석하고, 위협 탐지부터 대응까지 자동화할 수 있도록 보안관제 인프라와 기능을 강화했다. 지능형 보안관제 체계는 초당 100억 건 이상 검색할 수 있는 ‘통합 보안 분석 시스템(XDR)’과 ‘AI 관제 도우미’를 결합한 시스템이다. XDR은 네트워크 위협 탐지, 보안 기록 상관분석, 보안 대응 자동화 기술을 연계해 보안 이벤트를 분석하고 이상 징후를 추적한다. 특히 보안 대응 자동화를 통해 표준 대응 절차에 따라 위협 대응 및 후속 조치까지 신속하게 처리하고, 생성형 AI 관제 도우미가 복잡한 보안 경보를 자동 요약·분류해 관제 인력이 분석과 대응에 집중할 수 있도록 지원한다. 시스템 도입에 따라 대규모 보안 기록 분석 시간은 기존 수 시간에서 분·초 단위로 단축되고, 일일 수백 건의 위협이 관제요원 개입 없이 실시간 자동 차단된다.

매일 수많은 법안이 발의되고 있지만 이 중 언론에 보도되는 법안은 쟁점 법안 등 일부에 그칩니다. 서울신문은 매주 우리 사회에 큰 영향을 미칠 수 있는 법안에 주목해 3개 정도 추려 소개합니다. 법안 발의 배경부터 핵심 내용, 통과 시 파장 등을 압축적으로 정리했습니다. ●유족이 없다고 심의까지 필수?…유공자 등록 손질 최은석 국민의힘 의원, 지난 24일 발의고 박진경 대령 계기…“불합리 절차 개선”국가에 헌신했지만 그 사실을 알릴 가족이 남아 있지 않은 경우가 있습니다. 현행법은 국가유공자 본인이나 유족이 등록을 신청하는 경우엔 요건만 확인되면 보훈심사위원회 심의 없이 곧바로 국가유공자로 결정할 수 있습니다. 하지만 신청할 사람이 없어 국가보훈부 장관이 직권으로 등록하는 경우에는 요건이 명백해도 반드시 보훈심사위 심의·의결을 거쳐야 합니다. 이 허점이 드러난 게 고 박진경 대령 사례로, 유족 대상자가 없어 보훈부가 직권으로 등록했지만 보훈심사위 심의·의결을 거치지 않았다는 이유로 지난 2월 직권 취소됐습니다. 박 대령과 같은 방식으로 지난 5년간 등록된 무공수훈자 758명 중 취소된 건 박 대령이 유일했습니다. 박 대령 취소 사례를 두고 보훈부 감사 결과 처분요구서에서도 절차상 하자를 지적하며 관련 규정 정비를 요구한 내용이 담겼습니다. 이에 최은석 국민의힘 의원은 신청 대상자가 없어도 국가유공자 요건이 객관적으로 확인되면 보훈심사위 심의·의결을 생략할 수 있도록 하는 국가유공자 등 예우 및 지원에 관한 법률 개정안을 지난 24일 대표 발의했습니다. 최 의원은 “국가유공자 요건이 명백한 사안에 대한 불필요한 행정 절차를 줄이고, 국가를 위해 희생·공헌한 분들을 보다 신속하게 국가유공자로 기록해 예우할 수 있을 것으로 기대된다”라고 했습니다. ●내 얼굴이 가짜 광고에…‘디지털 레플리카’ 막는다 김성원 국민의힘 의원, 지난 26일 발의‘사망 후 30년’까지 인격표지 보호 신설방송인 이지혜씨의 얼굴을 인공지능(AI)으로 합성해 만든 광고 영상이 소셜미디어(SNS)에 퍼진 일이 있었습니다. 동료 방송인마저 진짜 광고인 줄 알고 제품을 주문했다가 뒤늦게 딥페이크라는 사실을 알게 됐습니다. 문제는 현행법이 유명인의 성명·초상·음성을 ‘그대로’ 쓴 경우만 부정경쟁행위로 규정한다는 점입니다. AI로 합성·변형한 ‘디지털 레플리카(복제)’에는 적용하기 어려운 구조입니다. 김성원 국민의힘 의원은 인격표지(초상·음성 등)를 재현·합성·변형한 디지털 표현물까지 부정경쟁행위 규율 대상에 포함하는 부정경쟁방지 및 영업비밀보호에 관한 법률 개정안을 지난 26일 대표 발의했습니다. 이 법안에는 생전에 유명했던 사람이라면 사망 후 30년 동안은 초상·음성을 함부로 도용당하지 않도록 보호하는 조항이 담겼습니다. 또 지식재산처장이 온라인 판매 중개업체에 문제가 된 게시물 현황이나 게시자·판매자 정보를 요청할 수 있는 근거도 마련됐습니다. 김 의원은 “AI 기술의 발전으로 유명인의 얼굴과 목소리를 실제처럼 합성한 콘텐츠가 사기와 허위 광고에 무분별하게 악용되는 사례가 늘고 있다”며 “국민의 경제적 이익을 침해하는 디지털 레플리카를 더 이상 방치해서는 안 된다”고 강조했습니다. ●LH 빠진 ‘반쪽 조정’ 없앤다…분쟁조정 실효성 강화 이광재 민주당 의원, 지난 27일 발의 10차례 심의 중 LH 참석 1회, 수용 0분양전환을 앞둔 민간 임대 아파트에서는 입주민과 사업자 간 분양가 갈등이 반복되고 있습니다. 이에 임대주택 분쟁조정제도의 실효성을 높이기 위해 조정 당사자인 한국토지주택공사(LH)의 조정위원회 출석 및 의견진술권을 신설해 이미 진행 중인 분쟁에도 적용할 수 있도록 하는 내용의 법 개정안이 발의됐습니다. 이광재(경기 하남갑) 더불어민주당 의원이 지난 27일 대표발의한 민간임대주택특별법 개정안은 조정 당사자의 분쟁조정위 출석 및 의견진술권을 신설하고, 조정안을 받은 날부터 30일 이내 수락 여부를 통보하지 않으면 수락한 것으로 간주하는 규정 등을 담고 있습니다. 이 의원이 LH로부터 제출받은 분양전환 관련 분쟁조정위 사례 자료에 따르면 공공임대주택 분양전환 가격을 둘러싸고 임대주택분쟁조정위에 조정이 신청된 단지는 전국 13곳에 이릅니다. 그러나 LH가 조정안을 받아들인 사례는 한 건도 없습니다. 특히 2020년 5월부터 지난 4월까지 6년간 조정위원회 심의는 10차례 이뤄졌지만, 그중 LH가 참석한 것은 한 차례뿐이었습니다. 당사자 자격으로 출석해 설명할 수 있어야 하는데 현행법에는 당사자의 출석과 의견진술 절차가 없다보니 당사자가 빠진 채 조정안이 만들어지고 결국 수용되지 않는 일이 반복돼 왔던 것입니다. 이에 개정안은 규정을 신설해 조정 당사자가 위원회에 출석해 의견을 진술하거나 자료를 제출할 수 있도록 하고 위원회는 조정안을 작성하기 전에 그 기회를 주도록 했습니다. 개정안은 공포 후 6 개월이 지난 날부터 시행되며 출석·의견진술 규정은 시행 당시 이미 진행 중인 분쟁에도 적용됩니다 . 이 의원은 “조정 자리에 당사자가 없으면 조정안은 종이 한 장에 그친다”며 “전국의 분쟁조정위 운영 실태를 점검하고 법의 실효성을 높이는 방안이 절실하다”고 강조했습니다. 이어 “법 개정을 통해 임대주택 분쟁조정위가 공공과 임차인 간의 실질적인 갈등 중재 기구로 거듭나도록 끝까지 챙기겠다”고 말했습니다.

가수 이지혜(46)가 자신의 얼굴을 인공지능(AI) 딥페이크 기술로 무단 복제해 만든 광고에 법적 대응을 예고했다. 이지혜는 28일 자신의 소셜미디어(SNS)에 해당 광고 영상과 함께 “마치 제가 광고하는 것처럼 판매하고 있다. 법적으로 제재할 수 있는 방법을 모색 중”이라고 밝혔다. 이지혜가 공개한 광고 영상에서 딥페이크로 복제된 이지혜는 한 간식 제품을 먹으며 “너무 맛있다. 100% 우리 땅에서 자란 명품 먹거리”라며 제품에 대해 호평을 늘어놓았다. 이어 본격적인 광고가 진행되는데, 각종 사진과 영상을 짜깁기한 광고에는 번역기를 통해 생성한 듯한 어색한 한국어 자막이 조악한 폰트로 입력돼 있다. 영상에는 제품을 구매할 수 있는 링크도 첨부돼 있다. 이지혜는 해당 광고에 대해 “국내 업체는 아닌 듯하다”면서 “다이렉트 메시지(DM)로 엄청난 제보가 오고 있다. 피해 보지 않길 당부드린다”고 강조했다. 이지혜가 자신의 얼굴을 무단 복제한 광고로 피해를 입은 것은 이번이 처음이 아니다. 그는 지난 6월에도 자신의 얼굴이 도용된 광고 영상을 공개하며 “제가 찍은 광고가 아니다. 절대 저 링크로 들어가서 구입하면 안 된다”고 경고했다. 최근에는 첫째 딸 태리 양의 어린 시절 사진이 제품 광고에 도용됐다며 삭제를 요구하기도 했다. 실제 광고에 속아 물품을 구매한 피해 사례도 나왔다. 이지혜와 절친한 가수 신지는 지난 6월 “지혜 언니가 운영하는 샵에서 소개하는 제품을 주문하고 있었는데, AI로 만든 허위 광고였다”면서 “언니는 그런 광고를 찍은 적이 없다고 한다”라고 토로했다. 연예인 등 유명인들의 얼굴과 목소리를 딥페이크 기술로 복제해 각종 광고에 이용하는 사례는 끊이지 않고 있다. 특히 주식 리딩방이나 가상화폐 등의 광고에 얼굴과 목소리를 도용당한 유명인들이 피해를 호소한 사례가 많다. 이에 국회에서는 유명인의 얼굴과 목소리를 AI로 무단 복제해 만든 광고를 제재하는 법안이 발의됐다. 김성원 국민의힘 의원은 지난 26일 AI로 합성한 유명인의 초상·음성 등을 악용하는 행위를 부정경쟁 행위로 명확히 규정하는 내용을 담은 ‘부정경쟁방지 및 영업비밀보호에 관한 법률 일부개정법률안’을 대표 발의했다.

치안 현장 AI 지원·한국형 AI 기상 모델전 중앙부처 연내 AI 관리시스템 도입AI가 보고서 초안 작성…AI 교육 의무화공직 AI 인재 2만명 육성…AI 영향 평가네이버 데이터센터 등 민간 서버 임차 검토국민 개별 대응 힘든 분야, 공공 AI 나서야 챗GPT, 제미나이 같은 ‘생성형 인공지능(AI)’을 사용해보신 적 있으신가요? 궁금한 것을 물어보면 학습한 방대한 정보를 토대로 원하는 답변을 빠르게 찾아 글·사진 등 새로운 콘텐츠로 만들어줍니다. 과학기술정보통신부의 지난해 인터넷 이용 실태조사(만 3세 이상 5만 750명 대상)에 따르면 우리 국민 3명 중 2명은 교통·교육 등에서 AI 서비스를 경험했고, 44.5%는 챗GPT 같은 생성형 AI를 직접 사용해봤다고 답했습니다. 어느샌가 생성형 AI가 우리 일상 깊숙이 들어온 것이죠. 시간·인력·비용 등 한정된 자원으로 더 짧은 시간에 더 많은 일을 효율적으로 처리할 수 있다면 굳이 마다할 이유가 없겠죠. 정부가 AI를 활용해 국민에게 필요한 서비스를 먼저 찾아 제공하고, 공직사회의 일하는 방식도 혁신해 국민의 삶에 실질적인 변화를 가져오는 ‘AI 민주정부’를 본격 추진하기로 했습니다. “100억·3년 걸릴 일을 이틀 만에”‘AI 정부 실험실’…정부가 AI 꽂힌 이유행정안전부는 25일 국무회의에서 이런 내용을 담은 ‘AI 민주정부 실현 전략’을 보고하고, 정부세종청사에서 별도 브리핑을 열어 공무원이 직접 개발한 AI 서비스가 어떻게 활용될 수 있는지 기자들에게 시연했습니다. 이날 선보인 것은 현장에 필요한 AI 서비스를 공무원이 직접 개발해 국민 서비스로 연결하는 ‘AI 정부 실험실’ 사례였습니다. 지난 6월 공무원과 공공기관 직원들이 참여한 실전형 경연인 ‘2026 AI 챔피언 해커톤’에서 대상을 받은 작품이었는데요. 한국국토정보공사(LX) 직원 2명이 개발한 ‘쨍하고 해뜰날’은 행안부의 주소 데이터 서비스(API)와 국토교통부의 디지털 지도·공간정보 플랫폼 ‘브이월드(V-World)’ 등 공공데이터를 활용한 AI 서비스입니다. 토지 지번만 입력하면 태양광 발전시설을 설치하기에 적합한지 진단하고 예상 설비용량과 발전량, 수익은 물론 인허가 절차까지 한 번에 안내해줍니다. 특히 지도를 3차원으로 전환하고 일사량·그림자 정보를 켜면 해가 뜨고 지는 동선에 따라 해당 농지에 햇볕이 얼마나 드는지 직관적으로 보여줍니다. 이어 AI가 일사량 등을 분석해 예상 설비용량과 연간 발전량·수익까지 계산해줍니다. 심지어 투자비를 회수하는 데 몇 년이 걸릴지도 말이죠. 물론 실제 수익은 설치비와 전력 효율·유지관리비 등 여러 조건에 따라 달라지겠지만 사업성을 검토하기 위한 참고 자료로 활용하기에는 매우 유용해 보였습니다. 재생에너지를 활용하겠다며 무턱대고 농지에 태양광 시설부터 설치했다가 손해를 보는 시행착오를 줄일 수 있도록 AI가 영리하게 각종 데이터를 분석해 사업성을 먼저 보여주는 것이죠. 황규철 행안부 인공지능정부실장은 “보통 이런 서비스를 만들려면 정보화 사업에 100억원 이상의 예산이 투입되고 2~3년의 시간도 걸리는데, 이 서비스는 이틀 만에 개발됐고 한 달 정도 보완을 거쳐 대민 서비스가 가능한 수준까지 발전했다”고 설명했습니다. 이런 방식이 확산되면 예산 절감 효과가 ‘눈덩이’처럼 불어날 수 있다고 강조했습니다. ‘쨍하고 해뜰날’ 태양광 발전시설 입지 분석 서비스는 추가 고도화를 거쳐 다음 달 정식으로 선보일 예정입니다. 지난달 3일부터 시범 운영 중인 ‘AI 정부 실험실’에는 현재 약 670건의 과제가 등록됐으며 참여자도 1800여명에 이릅니다. 돌아와서, 정부는 이처럼 국민이 일상에서 정책 서비스의 변화를 체감하고 취약계층에 대한 포용도 강화할 수 있도록 대민 서비스를 대폭 혁신하기로 했습니다. 24시간 ‘찰떡 답변’ AI 상담 서비스청년에 구직수당·교육비 맞춤 정보우선 국민 체감도가 높은 복지·안전·세금·농업·식약 등 5대 분야에 AI 상담체계를 구축해 시간과 장소의 제약 없이 24시간 밀착형 상담 서비스를 제공한다는 계획인데요. 돌봄과 납세, 감염병 예방, 식생활 등 국민 생활과 밀접한 정보를 누구나 AI에 묻고 답을 얻을 수 있게 한다는 구상입니다. 예를 들어 납세자가 다소 복잡하게 질문해도 AI가 ‘찰떡같이’ 알아듣고 맥락을 분석해 세금 감면 혜택과 공제 요건, 신고 기한 등을 맞춤형으로 안내합니다. 몸이 아플 때 증상을 입력하면 감염병 초기 증상을 판별하고 진료 정보와 전문 의료기관 위치, 예방수칙 등을 실시간으로 알려줍니다. 농사를 지을 때는 병해충과 재배기술 등의 정보를 제공하고, 복지 분야에서는 복잡한 복지서비스 수혜 자격을 신청자의 가구·소득 여건에 맞춰 AI가 확인해줍니다. 당뇨·고혈압·비만 등 질환별 권장·주의 식단이나 의약품 주의사항도 AI를 통해 확인할 수 있습니다. 청년에게는 구직활동 수당과 창업교육비 등 자신에게 맞는 고용·지원 정보를 안내하고, 고령층에게는 AI 돌봄기기를 활용한 건강관리 서비스를 제공할 예정입니다. 다만 분야별로 AI 서비스가 완성되는 시점에는 차이가 있는데요. 세금 상담과 농업 분야는 내년에, 복지·식약 분야는 2028년, 안전 분야는 2029년까지 단계적으로 서비스를 고도화한다는 계획입니다. 지역마다 제각각인 임산부 지원 혜택을 찾아 자동으로 알려주는 AI 서비스는 올해 안에 선보일 예정입니다. 황 실장은 “각 기관의 서비스를 모아 통합한 AI 통합서비스는 내년 말에 나온다”며 “전문가가 코딩한 알고리즘을 바탕으로 정해진 답을 내놓는 기존 챗봇을 단순히 확대하는 것이 아니라 정부가 보유한 각종 데이터를 AI가 재구성해 서비스하는 것”이라고 설명했습니다. 이어 “국민이 하나의 창구에서 어느 분야를 질문하더라도 답변을 받을 수 있는 질적으로 한 단계 나은 서비스가 될 것”이라고 강조했습니다. 요즘 은행·카드사 등 금융기관을 비롯해 곳곳에서 챗봇 상담서비스를 접할 수 있습니다. 하지만 질문의 맥락을 제대로 이해하지 못하거나 엉뚱한 답변을 내놓고, 정해진 문구를 반복하는 데 그쳐 급하게 비대면 상담이 필요한 국민의 답답함을 키운다는 지적도 적지 않습니다. 정부가 내놓을 AI 통합서비스는 이런 기존 챗봇을 넘어 국민의 질문 의도를 제대로 이해하고 필요한 정보를 찾아주는 한층 진화한 맞춤형 서비스를 지향한다고 하니 기대해볼 만합니다. 이와 함께 정부24와 혜택알리미 등 주요 대민 서비스를 통합해 국민 맞춤형 AI 서비스를 제공하고, 공공서비스를 표준화·모듈화해 카카오·네이버 등 민간 플랫폼과 ‘모두의 AI’에서도 활용할 수 있도록 할 계획입니다. 재난·안전 정보 창구인 ‘국민안전24’에도 AI를 접목합니다. 산불이나 홍수 등 재난 위험을 AI가 감지·예측하고 상황을 분석해 필요한 위험 정보를 신속하게 안내하는 식이죠. 국민의 의견을 정책으로 만드는 과정에도 AI를 적극 활용합니다. 정부에 정책을 제안하려 해도 국민이 아이디어를 보고서 형식에 맞춰 일목요연하게 정리하는 것은 쉽지 않은 일입니다. 어떻게 구성하고 무슨 말부터 시작해야 할지 막막할 수 있죠. 좋은 아이디어가 있어도 이를 글로 구체화하는 과정에서 어려움을 느껴 포기하는 경우도 적지 않을 겁니다. 정부가 AI를 활용해 국민 제안을 요약·분석하고 유사 정책과의 비교 등을 지원하는 플랫폼인 ‘모두의 광장’을 구축하는 이유입니다. 국민의 아이디어를 AI가 자동으로 분류하고 구체화해 실제 정책이나 사업으로 이어질 수 있도록 지원합니다. 온라인 숙의토론과 1대1 심층 대화, 대규모 공공 토의가 가능한 ‘AI 공론장’도 마련합니다. 정부 웹사이트와 앱도 AI가 정보를 보다 쉽게 찾아 활용할 수 있는 구조로 바뀝니다. 검색한 문서를 토대로 답변을 생성하는 ‘검색증강생성(RAG)’ 기술에 맞춰 법령 정보와 정책 사례 등을 표준화하고, 정부 웹과 앱을 AI 친화적으로 개편할 예정입니다. 중앙부처 홈페이지를 이용해본 분들이라면 느끼겠지만 현재 정부 웹사이트는 대체로 ‘정책 홍보’ 중심으로 구성돼 있어 국민이 자신에게 필요한 정보를 찾기에는 불편한 측면이 있습니다. 이를 공급자 중심에서 이용자 중심으로 바꾸고, 법령·사례집 등 공공정보도 AI가 쉽게 검색하고 활용할 수 있는 형태로 정비해 국민이 필요한 정보를 보다 편리하게 얻을 수 있도록 한다는 계획입니다. 공무원의 일하는 방식도 AI 중심으로 확 바뀝니다. 올해 말까지 지능형 업무관리시스템 ‘온AI’를 47개 중앙부처로 확산해 법령 검토부터 보고서 초안 작성까지 행정 업무 전반에 AI를 활용해 생산성을 높인다는 방침입니다. 공무원이 직접 AI를 개발해 업무에 적용하는 ‘AI 정부 실험실’도 운영합니다. 현장에서 개발한 결과물은 ‘공공저장소(GitLab)’에 등록해 모든 중앙부처와 지방정부가 공동으로 활용할 수 있도록 할 예정입니다. 부처별 특성을 살린 AI 서비스도 확대합니다. 치안 현장 AI 지원(경찰청), 한국형 AI 기상·기후 모델(기상청), 의약품 허가·심사(식품의약품안전처), AI 건축허가·안전관리(국토부), 조달 제안요청서 AI 자동 생성(조달청) 등으로 업무의 전문성과 효율성을 끌어올린다는 것이죠. 부작용 대비 ‘공공 AI 윤리기준’ 마련개인정보 침해·책임 검증 ‘AI 영향 평가’공직사회의 AI 역량도 대폭 강화하는데요. 행안부는 모든 공무원에게 AI 교육 이수를 의무화하고, 자체 AI 개발과 현장 적용이 가능한 전문 인재 2만명을 육성하기로 했습니다. 매년 공무원 AI 활용 경진대회를 열어 혁신 문화를 확산하고 우수 과제에는 인센티브를 제공하는 방안도 검토합니다. 국민과 기업의 수요가 많은 ‘공공데이터 톱(TOP) 100’을 조기에 개방하고 기관 간 데이터 공유도 활성화할 예정이라고 하니 여러 분야에서 시너지가 났으면 좋겠습니다. AI 의존도가 높아지는 만큼 부작용에 대한 대비도 빼놓을 수 없겠죠. 정부는 AI의 신뢰성과 안전성을 확보하기 위한 ‘공공 AI 윤리기준’을 마련하고, AI 사업이 개인정보 침해 등 국민에게 미칠 수 있는 의도하지 않은 영향을 점검하고 책임 소재 등을 검증하는 ‘AI 영향평가’도 도입할 예정입니다. AI 보안성 검토 가이드라인은 행안부와 국가정보원이 함께 마련하고 있습니다. 정부는 ‘AI 정부’ 도입을 단순히 AI 기술을 활용해 행정 효율성을 높이는 데 그치지 않고, AI를 통해 국민주권의 가치를 실현하고 국민이 체감할 수 있는 정책 변화와 성과를 만들어내는 혁신 수단으로 삼겠다고 밝혔습니다. 특히 국민이 개별적으로 대응하기 어려운 영역에서 공공 AI가 역할을 한다면 정책 체감도는 더욱 높아질 겁니다. 온라인 활동이 일상화된 요즘, 인스타그램·페이스북 등 해외에 서버를 둔 소셜미디어(SNS)에서 개인정보 유출이나 사진 도용·사칭 피해가 발생했을 때 신속한 수사와 사칭 계정 삭제를 지원하거나, 딥페이크 등 AI 합성물이 성범죄에 악용될 경우 관련 콘텐츠를 빠르게 찾아내 일괄 삭제할 수 있다면 큰 도움이 되겠죠. 제주에서 실종됐다 끝내 주검으로 발견된 장미란씨 사건처럼 실종자를 찾는 데도 공공 AI가 인근 폐쇄회로(CC)TV 영상을 신속하게 분석해 특정인의 이동 경로를 추적하는 등 골든타임을 확보하는 데 역할을 할 수 있습니다. AI 서비스를 정책에 본격적으로 활용하려면 방대한 데이터 처리를 안정적으로 뒷받침할 서버 인프라 구축도 필수적입니다. 정부는 지난해 화재로 행정·금융·의료 전산망에 장애를 일으켰던 국가정보자원관리원이 AI 서버 구축에 적합하지 않다고 판단해 2030년 폐쇄하고, 세종시에 운영 중인 네이버 데이터센터 등 민간 인프라를 임차·활용하는 방안을 검토하고 있습니다. 정부가 직접 데이터센터를 새로 구축해 유지·관리할지, 초대형 민간 데이터센터를 활용할지 비용과 효율성은 물론 보안과 안정성까지 종합적으로 따져 결정하겠다는 것입니다. AI의 유용함을 국민의 삶을 바꾸는 정책으로 구현하는 것은 결국 정부의 몫입니다. 다양한 아이디어와 경험을 모은 ‘집단지성’을 발휘해 정부의 AI 서비스가 더욱 적극적이고 기존의 틀을 뛰어넘는 방향으로 발전해 나가길 기대합니다. ‘강 기자의 세종실록’은 대한민국 행정의 수도 세종시에서 생산되는 정부 정책과 관가에서 일어나는 모든 일을 생생하게 보도하는 코너입니다. 세종시에 포진한 각 정부부처가 내놓는 모든 정책이 역사의 한 페이지로 남고, 오늘의 행정이 내일의 역사가 된다는 관점으로 ‘세종 현대사(現代史)’를 기록하겠습니다.

중국산 오픈 웨이트 모델인 키미 K3는 미국의 프런티어 인공지능(AI) 모델과 맞먹는 성능으로 시장에 큰 충격을 안겼습니다. 앤스로픽 AI 모델의 지식 증류를 통해 사실상 기술을 탈취했다는 비판이 나오기도 했지만, 2.8조개의 파라미터를 지닌 초거대 모델을 증류만으로 만들 순 없기 때문에 이제 중국의 AI 기술을 더 이상 무시할 수 없다는 의견도 우세합니다. 더구나 모든 가중치를 공개하는 중국의 개방형 AI 모델이 장기적으로 보면 시장을 잠식할 수 있다는 우려도 만만치 않습니다. 누구나 모델을 받아서 내부적으로 돌릴 수 있기 때문에 내부 정보 유출을 꺼리는 기업이나 기관에서 상당히 매력적인 대안일 뿐 아니라 자사 서비스에 맞춤형으로 개조도 자유롭습니다. 하드웨어를 이미 가지고 있거나 저렴하게 대여할 수 있다면 서비스 비용도 낮출 수 있습니다. 다만 이렇게 되면 비싼 돈을 주고 미국의 프런티어 AI 모델을 누가 쓰겠냐는 우려가 나오는 것도 당연합니다. 결국 중국 개방형 AI 모델이 노리는 것도 이것이라는 비판도 적지 않습니다. 지금까지 IT 생태계는 개방형과 오픈 소스를 찬양해 왔지만, 개방형 AI 앞에서는 목소리가 달라지고 있습니다. 여기에 개방형 AI 모델을 악용하는 사람이나 집단이 나올 수 있다는 걱정도 있습니다. 하지만 저커버그 메타 최고경영자(CEO)는 ‘미래는 모두의 것’이라는 제목의 글에서 “초인공지능을 중앙 집중화하기보다 널리 배포해 모든 사람이 이를 통제할 수 있도록 해야 한다”며 개방형 AI를 지지하는 주장을 펼쳤습니다. 물론 악용 가능성도 인정하면서 모델의 개발 중간 단계부터 감시와 관리가 필요하다는 점은 인정했지만, 개방형 모델의 필요성을 역설한 것입니다. 아마도 저커버그가 갑자기 개방형 모델을 지지한 이유 중 하나는 미국이 폐쇄형 모델로 가는 반면 중국은 개방형 모델로 갈 경우 장기적으로 대부분의 국가들이 누구나 쓸 수 있는 중국 모델에 종속될 것이라는 우려일 것입니다. 사람들이 모두 중국산 개방형 AI만 사용한다면 생태계 역시 여기에 종속될 것입니다. 그리고 결국은 하드웨어 역시 종속될 수 있습니다. 현재 AI 가속기는 엔비디아 칩이 중심이지만, 중국산 AI GPU에서 훈련된 중국 AI 모델은 중국산 하드웨어에서 잘 돌아가게 될 것이기 때문입니다. 따라서 메타가 개방형 AI를 지지하면서 모델을 공개하기로 한 것은 상당한 의미가 있습니다. 물론 앤스로픽이나 오픈 AI처럼 실제 유료 사용자가 많지 않은 것도 이런 결정을 내린 배경 중 하나일 것입니다. 하지만 주요 빅테크 기업이 개방형 모델을 지지하면서 미국산 개방형 모델이 중국산 개방형 모델의 강력한 경쟁자가 될 가능성이 높아졌습니다. 다만 첫술부터 배부를 순 없다는 속담처럼 먼저 공개한 ‘뮤즈 글리머’(Muse Glimmer)의 성능은 사실 아주 인상적이진 않습니다. 뮤즈 글리머는 뮤즈 스파크처럼 대형 모델을 지식 증류해 만든 작은 로컬 모델로 30B(300억개)의 파라미터를 지니고 있습니다. 작다고는 해도 4비트 양자화 모델도 18GB 정도 크기이기 때문에 완전히 그래픽처리장치(GPU)에 올리려면 24GB 메모리가 필요하고 맥 같은 통합 메모리를 사용하는 경우 32GB 이상 모델이 추천됩니다. 현재 비슷한 위치에 있는 개방형 모델은 구글의 젬마 4(Gemma 4) 31B dense 모델과 알리바바의 Qwen 3.6 27B dense 모델인데 뮤즈 글리머는 코딩이나 일반 작업에서 더 우수하진 않지만, 여러 단계의 임무를 수행하는 에이전트 기능면에서 우수하다는 평가가 나오고 있습니다. 그러나 당장 경쟁 모델을 위협할 수 있을 정도의 인상적인 성능을 보여주진 않고 있습니다. 여기에 아직 모델이 하나뿐인 점도 약점입니다. 알리바바 Qwen의 경우 대형부터 중소형 모델까지 여러 모델이 있고 코딩 전용 모델인 코더 등 다양한 모델이 있어 사용자가 상황에 맞춰 고를 수 있는 선택지가 넓습니다. 대항마로 나온 젬마 4 역시 스마트폰에서 돌릴 수 있는 작은 모델에서 비교적 큰 31B 모델까지 선택의 폭이 좀 더 넓습니다. 특히 Qwen과 젬마 모두 MoE(Mixture of Expert) 기능을 지원해 개인 컴퓨터에서도 빠른 토큰 속도를 확보할 수 있습니다. 특히 Gemma 4 26B A4B QAT(Quantization-Aware Training) 모델은 학습 단계부터 양자화를 시뮬레이션해서 압축 시 발생하는 품질 손실을 효과적으로 줄였습니다. 덕분에 QAT 4비트 버전은 용량을 약 14.4GB 수준으로 줄여 16GB 메모리의 GPU나 개인용 노트북에서도 원활하게 굴러가면서도 성능은 57.7GB의 용량을 지닌 16비트 모델에 근접해 큰 인기를 끌고 있습니다. 뮤즈 글리머는 MoE 모델이 없는 단일 모델로 속도가 MoE 모델보다 느릴 수밖에 없지만, 대신 DFlash 드래프터 모델이라는 소형 보조 모델을 사용해 속도를 높일 수 있습니다. 메타가 발표한 데이터에 따르면 RTX 5090 카드에서는 3.1배, M5 Max에서는 1.8배, M4 Max에서는 1.5배 빠른 응답 속도를 제공합니다. Dense 모델의 단점인 높은 사양과 느린 응답 속도를 개선한 것으로 주목받고 있습니다. 메타의 뮤즈 글리머는 현시점에서는 그렇게 인상적인 성능을 지닌 개방형 AI라고 보긴 어렵습니다. 하지만 구글 젬마가 그랬던 것처럼 이후 버전에서 성능을 높여 나가면서 다양한 기능과 모델을 선보인다면 개방형 AI 부분에서 새로운 강자가 될 수 있습니다. 메타의 개방형 AI 승부수가 통할 수 있을지 주목됩니다.

북한의 대표적 해킹 조직으로 알려진 ‘김수키’(Kimsuky)가 단순한 이미지 위조나 피싱용 미끼 문서 제작 수준을 넘어 인공지능(AI)을 활용해 공격 전 과정의 자동화를 시도 중인 정황이 포착됐다. 미끼 문서 제작 넘어 ‘공격 전 과정 자동화’로 체질 개선10일 보안 전문 기업 지니언스의 시큐리티 센터가 발표한 분석 보고서에 따르면 김수키는 AI 기술을 사이버 공격 체계 전반에 적극적으로 이식하기 위한 연구와 기술 검증을 진행해 온 것으로 드러났다. 기존 북한 해커들의 AI 활용은 번역기나 생성형 AI를 이용해 어색하지 않은 한국어 피싱 이메일을 쓰거나 미끼용 금융 보고서를 제작하는 등 주로 ‘공격 준비’ 단계에 치우쳐 있었다. 하지만 최신 분석 결과에서는 해커들이 보안 감시를 피할 수 있는 ‘로컬 대형언어모델’(Local LLM)과 ‘검색증강생성’(RAG) 환경을 직접 구축해 운용 중인 흔적이 다수 식별됐다. 외부 서비스(OpenAI 등)로 내부 데이터가 유출되지 않는 올라마(Ollama), GPT4All, 엠스티(Msty) 등 로컬 LLM 관리 도구와 RAG 구성 환경을 비롯해 AI 에이전트 개발 프레임워크까지 자체 구축한 것이다. AI 코딩 도구 악용 및 표적 자동 추적·분석 시도 해커들은 자체 구축한 AI 환경을 통해 탈취한 막대한 양의 문서에서 유용한 정보를 자동으로 추출·분석하고, 타깃으로 삼은 공격 대상을 AI로 자동 추적 및 식별하는 시스템을 테스트하고 있는 것으로 예상된다. 특히 AI 기반 코딩 도구인 ‘커서’(Cursor)를 설치해 악성 코드 개발 프로세스를 효율화하고 AI가 생성한 가짜 가상자산·금융 투자 보고서를 한층 정교하게 다듬어 유포하는 정황도 함께 확인됐다. 주요 타깃은 비트코인 등 가상자산 관련 분야로, 가상자산 지갑 정보 및 개인 이메일 계정, 특정 웹사이트 가입 이력 등 민감 정보의 노출 여부를 자동 탐색하려는 시도가 지속되고 있다. 전 세계 코인 해킹 절반 이상이 北 소행… 누적 피해 10조원 북한 해커들이 이처럼 AI 기술을 집요하게 도입하는 배경에는 전 세계 가상자산 시장을 노린 대규모 외화벌이 목적이 자리 잡고 있다. 블록체인 보안 분석업체들의 통계에 따르면 지난해 북한 연계 해킹 조직이 전 세계에서 탈취한 가상자산 피해액은 약 20억달러(약 2조 7000억원)에 달한다. 이는 글로벌 전체 피해 규모의 60%를 차지하는 수치다. 2016년 이후 북한 연계 해커 조직에 의해 발생한 가상자산 누적 피해액만 총 67억 5000만달러(약 9조 3000억원)에 이른다. 올해 들어서도 탈중앙화 금융(DeFi) 및 리스테이킹 프로토콜 등의 취약점을 집중 공격하며 상반기에만 6억 4000만달러(약 1조원) 이상의 코인을 탈취, 전 세계 해킹 피해액의 66% 이상을 차지한 것으로 나타났다. 탈취한 가상자산은 믹서(Mixer) 서비스와 탈중앙화 거래소(DEX) 등을 통해 신속하게 세탁돼 정권 유지 및 무기 개발 자금으로 활용되는 것으로 추정된다. “단순 내용 판별 불가능… 실행 행위 감시하는 EDR 구축해야”전문가들은 해커들이 AI 도구를 공격에 본격 도입함에 따라 사회공학적 산출물의 완성도가 급격히 올라가고 있으며, 이에 따라 공격의 빈도와 속도 역시 비약적으로 증가할 것이라고 경고한다. 문종현 지니언스 시큐리티 센터장은 “AI의 발전으로 피싱 문서를 구분하기가 더욱 어려워졌다”며 “이제는 정교해진 문서 내용에 속지 않는 것을 넘어 실행 행위를 실시간으로 탐지하고 차단하는 체계를 선제적으로 마련해야 한다”고 당부했다.

인간 설정 실수 찾아내 외부 접촉누구나 사용 가능한 ‘개방형 모델’해킹 등 악용 우려 목소리 더 커져美 오픈AI·앤트로픽 등 이은 논란미중 성능 경쟁 뒤처질라 안전 뒷전 미국에 이어 중국의 첨단 인공지능(AI) 모델에서도 보안 통제를 벗어난 사례가 확인되면서, AI 안전 문제가 미중 기술패권 경쟁의 새로운 변수로 떠오르고 있다. 중국 문샷AI의 ‘키미 K3’까지 격리된 환경을 벗어나 인터넷에 접속한 것으로 알려지면서, 최첨단 AI의 통제 위험이 미중 공통의 문제로 번진 것이다. 양국 모두 안전성 검증을 강화할 필요성을 느끼지만, 경쟁에서 뒤처질 수 있다는 우려 때문에 어느 쪽도 먼저 속도를 늦추기 어려운 ‘죄수의 딜레마’에 빠질 수 있다는 지적이 나온다. 로이터통신은 지난 7일(현지시간) 미국 보안업체 프런티어 시큐리티가 키미 K3를 시험하던 중 모델이 격리환경 밖 인터넷에 접속했다고 보도했다. 외부 통신 포트 일부가 열린 설정 실수를 모델이 찾아내 깃허브의 정보를 과제 해결에 이용했다. 실제 해킹은 없었지만 누구나 내려받아 개조할 수 있는 오픈웨이트 모델이어서 악용 가능성에 대한 우려가 제기됐다. 미국에서도 AI 모델의 통제 이탈이 실제 외부 시스템 침해로 이어진 사례가 잇따랐다. 오픈AI는 지난달 21일 GPT-5.6 솔 등이 보안 평가 중 격리환경의 취약점을 찾아 허깅페이스 실제 시스템까지 침투했다고 밝혔다. 앤트로픽은 클로드 계열 모델이 외부 기관 3곳을 무단 접근했음을 확인했고, 메타 모델 역시 평가 과정에서 제3자 시스템을 공격했다고 전했다. 상당수가 평가환경 설정 오류에서 시작됐지만, 고성능 AI가 작은 허점을 스스로 찾아 외부 행동으로 이어갔다는 점은 공통적이다. 미중 패권 경쟁은 이런 위험을 줄이는 것을 더 어렵게 만든다. 한쪽이 안전성 검증을 강화해 출시를 늦추는 동안 상대는 더 강력한 모델을 먼저 내놓을 수 있다. 반대로 양쪽 모두 개발 속도를 유지하면 충분히 검증되지 않은 모델이 잇따라 등장할 위험이 커진다. 함께 안전장치를 강화하는 것이 양국 모두에 이익이지만, 상대가 개발 속도를 낼 수 있어 먼저 속도를 늦출 수 없다. 결국 각자의 합리적인 선택이 전체 위험을 키우는 ‘죄수의 딜레마’다. 맷 시한 카네기국제평화재단 선임연구원은 최근 이런 딜레마를 완화할 방안으로 ‘병렬적 AI 안전(AI safety in parallel)’을 제안했다. 미중이 AI 경쟁 자체를 멈추거나 당장 하나의 규칙에 합의하기 어렵다면, 각자 안전조치를 강화하며 양국 모두에 위험한 부분부터 협력하자는 접근법이다. 위험 능력을 찾아내는 평가 방법과 새로운 위협 정보를 제한적으로 공유하고, 인간의 통제를 의도적으로 회피하는 능력처럼 모두에 직접적 위협이 되는 영역에서는 공동 평가 기준을 마련할 수 있다고 봤다. 현재로서는 기업의 자체 판단이 위험한 모델의 출시를 걸러내는 안전장치다. 오픈AI는 지난 7일 차세대 모델 ‘아스트라’가 자체 안전기준상 최고 단계인 ‘위험(Critical)’ 수준의 사이버 능력에 이를 가능성이 있다고 보고 일부 내부 작업을 중단했다고 밝혔다.

오픈AI와 앤트로픽에 이어 메타의 인공지능(AI) 모델도 보안 시험 도중 외부 기관 시스템에 무단 침입한 사실이 확인됐다. 스스로 판단하고 행동하는 AI가 사람의 작은 설정 실수를 실제 해킹으로 이어지는 사례가 잇따르면서, 첨단 AI를 개발자가 제대로 통제할 수 있는지를 둘러싼 우려가 커지고 있다. 메타는 5일(현지시간) 자사 코딩 특화 모델 ‘뮤즈스파크 1.1’이 독립 검증업체 이레귤러의 보안 시험 과정에서 외부 기관 한 곳의 시스템 취약점을 이용해 무단 침입했다고 밝혔다. 시험 환경의 설정 오류로 모델이 인터넷에 연결되자, 외부망에서 발견한 취약점을 실제 공격에 활용한 것이다. AI가 격리 환경인 ‘샌드박스’를 스스로 빠져나간 것은 아니었다. 그러나 외부 시스템과 도구에 접근할 수 있는 AI가 사람의 실수로 통제 범위를 벗어나자 별도의 지시 없이 취약점을 찾아 침입까지 실행했다는 점에서 위험성이 드러났다. 단순한 설정 오류가 데이터 유출이나 시스템 침해로 확대될 수 있다는 우려도 커졌다. 메타는 해당 모델이 제3자 서비스의 취약점을 악용했으며 앞서 다른 AI 기업에서 보고된 사례와 유사한 방식이었다고 설명했다. 이레귤러도 정교한 해킹 공작이나 샌드박스 탈출은 아니며 현재 남아 있는 보안 문제도 없다고 밝혔다. 양사는 추가 조사 뒤 사고 경위와 재발 방지책을 담은 보고서와 백서를 공개할 예정이다. 비슷한 사고는 최근 몇 주 사이 오픈AI와 앤트로픽에서도 잇따랐다. 오픈AI의 GPT와 앤트로픽의 클로드 역시 보안 평가 과정에서 인터넷망 설정 오류를 틈타 외부 시스템에 무단 접근한 사실이 확인됐다. 이번 사고는 메타가 첫 AI 코딩 에이전트 ‘뮤즈코드’를 공개한 날 알려졌다. 마크 저커버그 메타 최고경영자(CEO)는 이날 엑스(X)를 통해 뮤즈코드 베타 버전 출시를 발표했다. AI 코딩 에이전트는 개발자의 질문에 코드만 제안하는 기존 챗봇과 달리 필요한 파일을 찾고 작업 계획을 세운 뒤 코드 작성과 수정, 시험·검증까지 수행한다. 뮤즈코드는 해킹 사고가 발생한 모델의 후속 버전인 ‘뮤즈스파크 1.2’를 기반으로 한다. 메타 자체 평가에서는 일부 항목에서 오픈AI 코덱스를 앞섰지만 앤트로픽 클로드코드에는 미치지 못했다. 메타는 대신 입력 토큰 100만개당 1.25달러, 출력 토큰 100만개당 4.25달러의 낮은 가격을 내세웠다. 알렉산더 왕 메타 AI 총괄은 일부 등급의 비용이 경쟁 제품보다 10배 이상 저렴하다고 밝혔다.

“미국인 감시·원격 장악·정보 유출”전력망 장비 인버터도 인증 차단드론·라우터·커넥티드 차량 이어中 점유율 늦추려는 방어적 정책美 내부 문샷AI 등 대중 규제 논쟁 미국이 외국산 휴머노이드와 4족 보행 로봇의 신규 모델 수입을 금지했다. 드론과 라우터, 커넥티드 차량 등 통신망에 연결돼 데이터를 수집하는 기기를 잇달아 규제한 데 이어 로봇과 전력망 장비까지 차단 범위를 넓혔다. 업계는 미국 시장에서 중국 제품의 점유율 확산을 지연시키려는 방어적 산업정책으로 본다. 다만, 이미 자체 기술력을 쌓은 중국 업체들이 제3국 조립으로 수입금지를 우회하거나 동남아, 유럽 등 다른 시장으로 더욱 빠르게 확장하는 계기가 될 것이라는 전망도 나온다. 미국 연방통신위원회(FCC)는 28일(현지시간) 휴머노이드와 4족 보행 로봇의 신규 모델에 대한 장비 인증을 제한한다고 발표했다. 재생에너지원과 배터리를 전력망·데이터센터에 연결하는 인버터도 대상에 포함됐다. 기존에 구매한 제품의 사용이나 이미 승인된 모델의 판매에는 영향을 미치지 않는다. 국방부나 국토안보부의 승인을 받은 제품도 예외다. FCC는 로봇이 수집한 영상과 위치·환경 정보가 미국인 감시나 외국 정보기관의 역량 강화에 활용되고, 외부에서 탈취돼 원격으로 조종될 수 있다고 설명했다. 연결형 인버터 역시 외국 기업이 장비를 임의로 끄거나 전력망·데이터센터 정보를 유출하는 데 악용될 수 있다고 봤다. 이번 조치는 모든 수입품에 적용되지만 외신은 중국을 주된 대상으로 보고 있다. 중국은 유니트리 등 로봇 업체를 앞세워 저가형 휴머노이드와 4족 보행 로봇 시장에서 영향력을 넓혀왔다. 인버터 시장에서도 화웨이와 성그로우 등 중국 기업의 비중이 크다. 로이터통신은 이번 조치가 중국산 로봇과 인버터의 미국 시장 진입을 막는 데 그치지 않고, 관련 업체들이 생산기지를 미국으로 옮기도록 압박하려는 성격도 있다고 분석했다. 미국은 지난해 12월 외국산 드론 핵심 부품을 인증 규제 대상에 포함한 데 이어 해외에서 생산된 소비자용 라우터 신규 모델의 미국 시장 진입도 제한했다. 최근에는 화웨이와 ZTE 등 안보 위협 기업의 핵심 부품이 들어간 제3자 기기의 판매를 막기로 했다. 중국·러시아와 연계된 통신·자율주행 기술을 탑재한 커넥티드 차량의 수입과 판매를 제한하는 조치도 시행 중이다. 하지만 대중 규제를 둘러싼 논쟁도 이어지고 있다. 중국 문샷AI의 가중치 공개형 모델 ‘키미 K3’ 출시 이후 미국 의회에서 오픈웨이트 모델 규제 가능성이 거론되자 젠슨 황 엔비디아 최고경영자(CEO)는 이날 워싱턴에서 의원들을 만나 반대 입장을 밝혔다. 황 CEO는 “미국 산업계는 보안과 안전을 위해 오픈웨이트 모델이 필요하다. 전체 산업의 활력을 위해 매우 중요하다”고 말했다. 마크 저커버그 메타플랫폼 CEO도 파이낸셜타임스(FT)와의 인터뷰에서 미국 정부가 지식재산권 침해를 이유로 중국 기업들을 겨냥해 규제를 강화하는 것은 “효과적인 해결책이 되지 않을 것”이라고 말했다.

제10대 의회 민생 행보 시작, 구민 재산 보호 경찰서·금감원 등 유관기관 협력체계 구축 서울 서대문구의회 이진삼 부의장이 임기 첫 입법 활동으로 ‘서대문구 전기통신금융사기 피해 예방 지원에 관한 조례 일부개정조례’를 발의했다. 개정 조례는 제317회 임시회를 통해 최종 의결됐다. 인공지능(AI) 기술을 악용한 보이스피싱 등 전기통신금융사기 수법이 날로 교묘해지고 악랄해지면서 구민들의 재산 피해 위협이 늘고 있기 때문이다. 특히 최근에는 다른 지역에서 보이스피싱 범죄 피해를 입은 20대 청년이 어머니와 함께 목숨을 끊는 사건이 발생하는 등 전 세대에 걸쳐 각별한 주의와 대책이 요구되는 상황이다. 이에 이 부의장은 지자체 단독 대응의 한계를 극복하고, 유관 기관과 공조를 통해 실효성 있는 범죄 예방 및 피해 구제 체계를 구축하고자 한 것이다. 이번 조례 개정의 핵심은 구청장이 전기통신금융사기의 피해 예방과 체계적 지원을 위해 관할 경찰서와 금융감독원 등 유관 기관 및 단체와 공동으로 사업을 추진하거나 협력할 수 있는 법적 근거를 명시한 것이다. 무엇보다도 고도화된 범죄 수법에 맞서 구청, 경찰, 금융기관이 하나의 공조 체계를 이뤄, 예방 교육부터 피해자 지원까지 보다 체계적으로 폭넓은 공동 사업을 전개할 수 있다. 이 부의장은 “보이스피싱 범죄를 사전에 예방하고 피해자를 지원하는 일은 더 이상 하루도 늦출 수 없는 시급한 민생 과제”라면서 “이번 조례 개정안이 통과되면 유관 기관과의 협력 관계를 제도화하여 구민들이 안심하고 생활할 수 있는 서대문구를 만드는 근간이 될 것”이라고 밝혔다.

이재명 대통령은 26일(현지시간) 중동 정세 악화와 관련해 “유가 불안이 확실하게 해소될 시점까지 석유 최고 가격제를 지속하고 유류세 인하 같은 정책 수단도 최대한 유지해 주시길 바란다”고 참모들에게 지시했다. 브라질을 국빈 방문 중인 이 대통령은 수도 브라질리아의 한 호텔에서 서울을 화상으로 연결해 수석보좌관회의를 주재하고 “중동 지역 상황이 다시 불안정해지면서 국제 유가가 출렁이고 있다”며 이같이 밝혔다. 이 대통령은 “유가 변동성이 당분간 이어질 가능성이 큰 만큼 국내 물가에 미칠 영향을 최소화하기 위한 선제적 노력을 빠르게 기울여야 한다”며 석유 최고 가격제를 지속할 것을 주문했다. 그러면서 “상황이 악화되면 민생의 어려움을 완화하기 위한 추가 방안도 적극 검토해야 된다”고 했다. 유가 변동성을 악용한 범죄에 대한 강력 처벌도 강조했다. 이 대통령은 “화물차와 건설 기계 운전자, 농어민, 이동 노동자들처럼 경유 의존도가 높은 계층의 부담을 덜기 위한 대책도 지속 추진해야 되겠다”며 “모두가 힘든 시기를 악용해서 불법적 돈벌이에 나서는 행태 역시 확실하게 단죄해야 되겠다”고 했다. 또 “기름뿐 아니라 다른 핵심 민생 품목들에 대해서도 매점매석, 담합 행위 같은 사례가 발생하지 않도록 관계 당국이 시장 교란 행위 단속에 만전을 기해 주시기 바란다”고 덧붙였다. 이 대통령은 1분기에 이어 2분기 성장률도 증가한 한편 “성장의 과실이 일부 계층과 부문에만 집중되면 경제적 불균형이 심해질 것이고 결국 어렵게 살아난 경제도 다시 식을 수밖에 없다”고 지적했다. 이와 관련해 이 대통령은 “지속 가능한 경제 발전을 위해서는 성장의 온기가 널리 퍼지도록 정부가 노력해야 한다”며 “기업들이 청년들의 신규 고용에 적극 나서고 또 풍부한 유동성이 골목상권과 중소기업으로도 흐를 수 있도록 재정, 조세, 금융 등을 총망라한 정책 집행에 속도를 내야 한다”고 했다. 이 대통령은 24일(현지시간) 미국 샌프란시스코에서 발표한 ‘샌프란시스코 AI 선언’에 대해 “우리 대한민국이 인공지능 시대를 이끄는 대체 불가한 선도자로 도약하겠다는 국가적인 출사표”라고 평가했다. 또 브라질 등 첫 남미 순방에 대해 “글로벌 사우스 외교를 더욱 강화하고 글로벌 핵심 국가로서의 위상과 역할을 더욱 단단하게 다지도록 하겠다”고 강조했다.

오픈AI의 최신 인공지능(AI) 모델들이 통제된 실험 환경을 벗어나 외부 사이트를 해킹하는 초유의 사고가 발생했다. 인간의 통제를 벗어난 AI의 사이버 공격이 현실화된 첫 사례다. 21일(현지시간) 오픈AI는 ‘GPT-5.6 솔’과 일부 미공개 AI 모델이 내부 평가 도중 통제를 벗어나 개방형(오픈소스) AI 공유 플랫폼 ‘허깅페이스’를 해킹한 사실을 확인했다고 밝혔다. 허깅페이스는 AI 개발자들이 함께 쓰는 거대한 ‘AI 자료창고’로, 개발자들은 이곳에서 AI 모델과 데이터를 공유하고 서로의 성과를 바탕으로 새로운 AI를 개발한다. 이번 사고는 AI 모델의 취약점 탐지 및 공격 능력을 측정하는 내부 실험 과정에서 발생했다. 당시 오픈AI 모델들은 평가를 위해 사이버 공격에 대한 안전장치가 일부 완화된 상태였다. 오픈AI는 이들 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 ‘샌드박스’ 환경에서 시험을 진행했으나, AI 모델들은 미공개(제로데이) 취약점을 이용해 통제망을 뚫고 인터넷에 접속했다고 설명했다. 이후 허깅페이스에 접속해 인증 정보를 탈취하고 해당 서버를 해킹한 것으로 나타났다. 오픈AI는 자사 모델들이 이같이 행동한 이유에 대해 “모든 정황을 종합해 볼 때 이 모델들은 (보안 벤치마크인) ‘익스플로잇짐’의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다”고 분석했다. 앞서 허깅페이스는 지난 16일 자사 서버가 자율 AI 에이전트에 의해 해킹됐으며 공격자가 어떤 모델을 사용했는지는 확인되지 않았다고 공지한 바 있다. 해당 사건의 범인이 오픈AI의 모델들로 드러난 셈이다. 허깅페이스는 이와 같은 해킹 사실을 AI 지원 탐지 시스템의 발견으로 인지했고, 공격 양상의 분석도 AI로 진행했다. 회사는 “일반에 공개된 사용자 대상 모델이나 데이터세트 등이 변조된 흔적은 발견되지 않았고, 소프트웨어 공급망도 안전한 것으로 확인됐다”고 말했다. 허깅페이스와 오픈AI는 현재 공동으로 포렌식(디지털 증거 분석) 조사를 진행해 관련 취약점을 보완하고 있다. 오픈AI는 “이번 사건은 최첨단 기법이 동원된 전례 없는 사이버 공격으로 간주하고 있다”며 “현재 허깅페이스와 사건 전말의 이해와 모델의 대응 능력을 가늠하기 위해 초기 조사 결과를 조사 중”이라고 밝혔다. 그러면서 “허깅페이스와 조사를 계속 진행해 조사가 완료되는 대로 취약점 및 자세한 조사 정보를 공개할 예정”이라고 덧붙였다. 오픈AI가 엄격한 격리 환경에서 내부 평가를 진행했음에도 이 같은 사고가 발생한 만큼 AI의 사이버 안전에 대한 논란이 커질 것으로 보인다. 특히 폐쇄형으로 운영되는 미국의 상용 AI 모델과 견줘 안전 관련 통제 수준이 낮은 것으로 알려진 중국산 개방형 모델의 성능이 크게 향상되면서 이를 악용한 사이버 공격이 더 늘어날 가능성도 제기된다. 실제 허깅페이스는 애초 이번 해킹 공격을 중국 즈푸(智譜·Z.ai)의 개방형 모델 GLM 5.2로 분석하기도 했다. 주요 상용 모델은 내장된 안전장치 때문에 사이버 공격의 로그 분석을 거부한 반면 GLM 5.2는 이를 수행했기 때문이다. 허깅페이스는 “자율적인 AI 기반 공격이 더는 이론상 개념이 아니다”라며 공격뿐 아니라 방어에도 AI를 적극적으로 활용해 속도를 따라잡아야 한다고 강조했다.

이성윤(64·초선·전북 전주을) 더불어민주당 의원은 17일 “한 번 경험해봤으니 이제는 그 누구보다 최고위원을 더 잘할 수 있다”며 8·17 전당대회 최고위원 출마를 선언했다. 이 의원은 이날 국회 소통관에서 ‘검찰개혁 끝까지, 당원 주권 확실하게’를 주제로 최고위원 출마 기자회견을 열고 이같이 밝혔다. 친청(친정청래)계인 이 의원은 검찰개혁 완수와 당원 주권 정당 완성, 당 통합과 연대, 인공지능(AI) 대전환과 3대 메가프로젝트 적극 지원, 원외 지역위원장 지원 등을 핵심 과제로 제시했다. 이 의원은 앞서 최고위원직 사퇴와 관련해선 “민주당을 지키기 위한 최소한의 몸부림이었고, 최선의 방법이었다”고 강조했다. 이어 “민주당 내 민주주의를 지키기 위해 최고위원을 사퇴한 제가 다시 최고위원 선거에 선 것은 검찰개혁이 좌초할 수도 있다는 위기감 때문”이라며 “검찰개혁을 확실히, 기어코 완수해야 한다는 절박함에서 다시 최고위원 출마를 결심하게 됐다”고 말했다. 특히 이 의원은 “검찰개혁은 민주당의 핵심 가치이고, 상징이자 깃발”이라며 “검찰에서 정치 수사에 악용될 수 있는 티끌만 한 수사권이라도 결코 남겨두면 안 된다. 보완수사권을 완전 폐지하는 것이 검찰개혁을 완수하는 것”이라고 강변했다. 그러면서 “최근 검찰과 수구 언론이 검찰 보완수사권으로 검찰개혁을 흔들고 있고, 민주당 내에서도 검찰 보완수사권을 남겨두어야 한다는 목소리가 들리고 있다”며 “이번에 보완수사권을 완전 폐지하고 정치 검찰과 기득권 카르텔을 깨지 않으면 제2의 내란 우두머리 윤석열 같은 자가 다시 등장할 수 있다”고 주장했다. 이 의원은 “2028년 총선 승리는 물론이고, 이재명 정부 성공의 마침표인 정권 재창출을 꼭 이뤄내겠다”며 “오직 민심, 오직 당심과 함께 다시 초심으로 전력 질주하겠다”고 덧붙였다.

경북 지역에서 소방공무원을 사칭한 사기 범죄가 잇따르고 있다. 17일 경북소방본부에 따르면 작년 5월부터 지난달까지 접수된 사칭 피해는 총 159건으로, 피해액은 약 6억 4000만원으로 집계됐다. 이 가운데 소방기관을 사칭한 사례는 150건(94.3%)으로 피해액도 약 6억 3000만원에 달해 대부분을 차지했다. 사기범들은 소방공무원을 사칭해 “소방점검이 예정돼 있다”, “관련 법령이 개정돼 소방시설을 설치해야 한다”, “지정 업체에서 물품을 먼저 구매하면 소방본부에서 비용을 지원해 준다” 등 거짓말로 속인 뒤, 특정 업체 계좌로 송금을 유도하는 수법을 사용하고 있다. 실제로 지난달 20일 구미에서는 소화장치와 질식소화포를 지정 업체에서 구매하면 비용을 지원해 준다고 속여 1125만원을 가로챈 사건이 발생했다. 또 지난 9일에는 포항의 한 공방 업주에게 법령 개정을 이유로 인공지능(AI) 화재감지기와 리튬이온 소화기 설치가 의무화됐다고 속여 특정 업체에 540만원을 송금하도록 유도한 사례도 있었다. 피해자는 송금 후 소방서에 사실 여부를 확인하는 과정에서 사기임을 인지해 경찰에 신고했다. 당국은 소방기관 및 소방공무원은 전화나 문자로 특정 업체를 소개하거나 물품 구매를 요구하지 않으며, 어떠한 경우에도 개인이나 특정 업체 계좌로 입금을 요구하지 않는다고 강조했다. 소방점검이나 소방시설 설치와 관련한 연락을 받을 경우에는 반드시 해당 소방서 대표전화로 사실 여부를 확인하고, 의심스러운 전화·문자·공문을 받으면 즉시 경찰이나 가까운 소방서에 신고해 줄 것을 당부했다. 성호선 경북소방본부장은 “소방기관을 사칭한 범죄는 국민의 신뢰를 악용하는 중대한 범죄”라며 “소방은 어떠한 경우에도 특정 업체를 통한 물품 구매나 금전 송금을 요구하지 않는다. 조금이라도 의심스러운 연락을 받으면 반드시 해당 소방서에 사실 여부를 확인해 달라”고 말했다.

인공지능(AI) 투자를 미끼로 600%의 고수익을 약속하며 일본의 80대 여성으로부터 9억원에 달하는 돈을 가로챈 대만 국적의 여성들이 경찰에 붙잡혔다. 이들은 관광 비자로 일본에 단기 체류하며 피해자로부터 현금을 직접 건네받는 이른바 ‘현금 수거책’ 역할을 했던 것으로 드러났다. 14일 니혼게이자이신문 보도에 따르면 일본 경시청 간다 경찰서는 투자회사 직원을 사칭해 일본 여성에게서 현금을 가로챈 사기 혐의로 대만 국적의 여성 2명을 체포했다고 이날 발표했다. 경찰은 대만에 거점을 둔 범죄 조직이 현지에서 이들을 포섭한 뒤 일본으로 입국시킨 것으로 보고 있다. 체포된 무직 여성 A(29)씨는 지난해 8월부터 10월 사이 공범들과 모의해 실존하는 미국 투자회사 직원 행세를 하며 도쿄 지요다구에 거주하는 80대 여성으로부터 현금 500만엔(약 4600만원)을 편취한 혐의를 받고 있다. 현재 A씨는 혐의를 부인하고 있는 것으로 알려졌다. 이와 함께 같은 조직에서 현금 수거책 역할을 한 대만 국적의 또 다른 여성(28)도 붙잡혀 이미 기소된 상태다. 수사 당국에 따르면 이들은 “일본 여행을 하면서 할 수 있는 아르바이트가 있다”, “붙잡히더라도 별일 없을 것”이라는 조직의 감언이설에 속아 단기 체류 자격으로 일본에 들어왔다. 일본어를 전혀 할 줄 몰랐던 이들은 피해자를 직접 만날 때 가짜 신분증을 제시한 뒤 스마트폰 번역 앱을 이용해 대화를 나누며 범행을 이어갔다. 이 대만 범죄 조직은 일본의 유명 기업 경영자를 사칭한 딥페이크 영상을 동영상 플랫폼에 올려 피해자들을 유인했다. 이후 소셜미디어(SNS) 단체 대화방으로 이들을 초대해 “인공지능(AI) 시스템을 활용하면 지난해 수익을 반드시 뛰어넘을 수 있다”, “600%의 수익률을 보장하겠다”며 투자를 권유했다. 피해자가 관심을 보이면 미국 투자회사 직원을 사칭하는 인물과의 일대일 채팅으로 유도한 뒤, 현금을 직접 건네거나 특정 계좌로 송금하도록 요구했다. 이러한 수법에 속아 피해 여성이 잃은 돈은 총 9500만엔(약 8억 7000만원)에 달하는 것으로 집계됐다. 이후 상대방과 연락이 두절되자 사기 피해를 직감한 여성이 간다 경찰서에 상담을 요청하면서 이번 사건의 전말이 드러났다. 일본 경찰은 이 범죄 조직이 AI 기술을 악용해 가짜 영상을 제작한 것으로 보고 배후 세력에 대한 수사를 확대하고 있다.

애플이 이직한 직원들을 통해 자사 기밀을 훔쳤다며 챗GPT 개발사 오픈AI를 상대로 소송을 제기했다. 10일(현지시간) 미 CNBC 방송 등은 한때 아이폰에 탑재하는 AI 개발을 위해 협력했던 두 회사의 관계가 애플이 전 직원이었던 탕 유 탄 오픈AI 하드웨어 최고책임자(CHO) 등을 기술 유출 혐의로 고소하면서 파탄 났다고 전했다. 애플은 자사에서 25년간 일하며 아이폰 디자인 담당 부사장까지 지낸 탄 CHO가 경력직 직원 면접 과정에서 이직을 희망하는 애플 재직자에게 내부 정보를 캐묻고, 티타늄을 활용한 첨단 금속 가공·마감 기술 등을 훔쳤다고 고소했다. 또 애플에서 8년간 선임 시스템 전기 엔지니어로 일했던 창 리우가 지난 1월 오픈AI에 합류한 뒤에도 애플 소유의 업무용 노트북을 반납하지 않은 채 인증 취약점을 악용해 자사 내부 기밀을 빼냈다고 주장했다. 오픈AI는 오는 11월 화면 없는 스마트 스피커와 같은 하드웨어 기기를 출시할 예정인데 애플은 여기에 자사 기술이 도용된다고 의심하고 있다. 애플은 오픈AI가 자사의 지식재산권(IP)을 도용해 금속 마감 기술뿐 아니라 영업 기밀 등 미공개 기술로 하드웨어 제품을 준비 중이라고 보고 있다. 샘 올트먼 오픈 AI 최고경영자(CEO)는 올가을 출시 예정인 하드웨어 제품을 두고 “세상에서 가장 멋진 기술”이라고 밝힌 바 있다. 오픈AI는 애플과 2024년 아이폰의 음성인식 서비스 ‘시리’에 챗GPT를 활용하도록 협업했으나 지난해 하드웨어 산업 진출 계획을 발표하면서 관계가 틀어졌다. 애플의 소송은 지난 6월 증권신고서를 제출하고 준비 중인 오픈AI의 증시 상장 계획에도 차질을 낳을 전망이다. 한편 오픈 AI의 피소 소식에 올트먼과 앙숙인 일론 머스크 스페이스X CEO는 “그(올트먼)는 사기를 완전히 새로운 차원으로 끌어올렸다”고 엑스를 통해 비판했다. 이에 올트먼은 “공개시장 투자자들에게 우주 데이터센터라는 ‘떴다방’(short-term)을 팔아먹는 건 당신”이라고 설전을 벌였다. 머스크과 올트먼은 서로를 향해 ‘스캠(Scam·사기) 올트먼’과 ‘홈보이(homeboy·동네 친구를 얕보듯 부르는 말)’라고 부르며 조롱했다.

“가영아. 이거 네 얼굴인 거 같은데….” 이가영(가명·26)씨는 지난해 11월 지인들에게 한 소셜미디어(SNS) 계정에 자신의 얼굴이 담긴 딥페이크 사진이 올라왔다는 연락을 잇따라 받았다. ‘가영이와 대화하고 싶다’는 소개글을 내건 계정에는 이씨의 얼굴과 나체 사진을 합성한 딥페이크 사진이 여러 장 게시돼 있었다. 계정 주인은 2년 전 헤어진 전 남자친구 A(28)씨였다. 이씨가 연락을 받지 않자 A씨가 딥페이크를 협박 수단으로 사용한 것이다. 한 계정을 신고해도 또 다른 계정이 등장했다. A씨는 이씨 지인들을 단체 대화방에 초대해 딥페이크 사진과 영상을 유포했고, ‘가영이를 못 찾으면 (이씨 회사의) 사내망에서 찾을지도 모른다’며 협박했다. 서울경찰청 사이버범죄수사대는 성폭력처벌법상 허위영상물 편집·반포·협박 등 혐의로 A씨를 지난 2일 서울중앙지검에 구속 송치했다. 최근 헤어진 연인에 의한 디지털 성폭력이 늘어나고, 인공지능(AI) 기술로 제작 문턱까지 낮아지면서 딥페이크가 피해자를 통제하는 수단으로 악용되고 있다. 8일 서울신문 취재를 종합하면 A씨는 이씨와 2023년 두 달간 교제한 사이로, 이씨가 이별을 통보하자 전화와 SNS, 지인까지 동원해 연락을 시도했다. 위협을 느낀 이씨가 전화번호를 바꾸자 A씨는 딥페이크 허위영상물을 다시 접근하기 위한 협박 수단으로 쓴 것이다. 전 연인에 의한 디지털 성폭력은 늘어나는 추세다. 성평등가족부의 지난해 조사를 보면 불법촬영·허위영상물 피해를 입은 여성의 42.5%는 가해자로 ‘전 애인’을 지목했다. 2022년 13.8%에서 3년 만에 28.7% 포인트 늘었다. 피해 여성이 불법촬영·딥페이크 유포 사실을 인지한 경로는 ▲‘주변 지인을 통해’ 34.1% ▲‘유포자의 협박을 계기로’ 32.3% 등이었다. AI 기술 발달로 딥페이크 허위영상물 제작 문턱도 낮아졌다. 실제 무료 딥페이크 앱으로 두 사람이 포옹하는 영상을 만드는 데에는 동영상 편집 경험이 전혀 없어도 1분이 채 걸리지 않는다. 허정회 법무법인 안팍 변호사는 “AI 발달로 딥페이크를 쉽게 제작·유포할 수 있는 환경이 됐다”며 “성적 딥페이크 제작을 제한하지 않는 AI와 서비스 제공자를 제재할 규정이 필요하다”고 말했다. 전문가들은 딥페이크 성범죄가 친밀한 관계와 결합해 피해자를 통제하는 방식으로 진화했다고 지적한다. 장미혜 한국여성정책연구원 명예 선임연구위원은 “친밀한 관계에서의 딥페이크 성범죄는 피해자를 조종·통제하려는 젠더폭력”이라며 “성적 딥페이크를 신속히 삭제하지 않은 플랫폼에 과징금을 부과하는 등 책임을 물어야 한다”고 제언했다.

“가영아. 이거 네 얼굴인 거 같은데….” 이가영(가명·26)씨는 지난해 11월 지인들에게 한 소셜미디어(SNS) 계정에 자신의 얼굴이 담긴 딥페이크 사진이 올라왔다는 연락을 잇따라 받았다. ‘가영이와 대화하고 싶다’는 소개글을 내건 계정에는 이씨의 얼굴과 나체 사진을 합성한 딥페이크 사진이 여러 장 게시돼 있었다. 계정 주인은 2년 전 헤어진 전 남자친구 A(28)씨였다. 이씨가 연락을 받지 않자 A씨가 딥페이크를 협박 수단으로 사용한 것이다. 한 계정을 신고해도 또 다른 계정이 등장했다. A씨는 이씨 지인들을 단체 대화방에 초대해 딥페이크 사진과 영상을 유포했고, ‘가영이를 못 찾으면 (이씨 회사의) 사내망에서 찾을지도 모른다’며 협박했다. 서울경찰청 사이버범죄수사대는 성폭력처벌법상 허위영상물 편집·반포·협박 등 혐의로 A씨를 지난 2일 서울중앙지검에 구속 송치했다. 최근 헤어진 연인에 의한 디지털 성폭력이 늘어나고, 인공지능(AI) 기술로 제작 문턱까지 낮아지면서 딥페이크가 피해자를 통제하는 수단으로 악용되고 있다. 8일 서울신문 취재를 종합하면 A씨는 이씨와 2023년 두 달간 교제한 사이로, 이씨가 이별을 통보하자 전화와 SNS, 지인까지 동원해 연락을 시도했다. 위협을 느낀 이씨가 전화번호를 바꾸자 A씨는 딥페이크 허위영상물을 다시 접근하기 위한 협박 수단으로 쓴 것이다. 전 연인에 의한 디지털 성폭력은 늘어나는 추세다. 성평등가족부의 지난해 조사를 보면 불법촬영·허위영상물 피해를 입은 여성의 42.5%는 가해자로 ‘전 애인’을 지목했다. 2022년 13.8%에서 3년 만에 28.7% 포인트 늘었다. 피해 여성이 불법촬영·딥페이크 유포 사실을 인지한 경로는 ▲‘주변 지인을 통해’ 34.1% ▲‘유포자의 협박을 계기로’ 32.3% 등이었다. AI 기술 발달로 딥페이크 허위영상물 제작 문턱도 낮아졌다. 실제 무료 딥페이크 앱으로 두 사람이 포옹하는 영상을 만드는 데에는 동영상 편집 경험이 전혀 없어도 1분이 채 걸리지 않는다. 허정회 법무법인 안팍 변호사는 “AI 발달로 딥페이크를 쉽게 제작·유포할 수 있는 환경이 됐다”며 “성적 딥페이크 제작을 제한하지 않는 AI와 서비스 제공자를 제재할 규정이 필요하다”고 말했다. 전문가들은 딥페이크 성범죄가 친밀한 관계와 결합해 피해자를 통제하는 방식으로 진화했다고 지적한다. 장미혜 한국여성정책연구원 명예 선임연구위원은 “친밀한 관계에서의 딥페이크 성범죄는 피해자를 조종·통제하려는 젠더폭력”이라며 “성적 딥페이크를 신속히 삭제하지 않은 플랫폼에 과징금을 부과하는 등 책임을 물어야 한다”고 제언했다.