국민의힘과 정부는 29일 이른바 ‘딥페이크 성범죄’를 근절하기 위해 국무조정실에 종합 컨트롤 타워를 설치하기로 했다. 또 허위 영상물을 제작·유포하는 행위에 대한 처벌을 대폭 강화하기로 했다. 이날 당정은 국회에서 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 가진 뒤 이같이 밝혔다. 김상훈 국민의힘 정책위의장은 “현행 성폭력처벌법상 허위 영상물의 편집 또는 반포 행위는 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해지는데, 상한을 7년으로 강화하는 입법이 필요하다는 판단”이라고 설명했다. 김 위원장은 또 종합 컨트롤 타워 설치에 대해 “딥페이크 관련해 전체적으로 부처에서 각각 대응하고 있다는 느낌”이라며 “국무조정실이 역할을 맡아줘야 한다”고 설명했다. 당정은 딥페이크 기술을 활용한 허위 영상물이 주로 유포되는 텔레그램 등 해외 플랫폼이 불법 정보를 자율 규제할 수 있도록 정부 측이 핫라인을 확보하는 방안을 추진한다. 한동훈 국민의힘 대표는 이날 회의에서 “21대 국회에서도 인공지능(AI) 기본법이나 성폭력범죄 특례법 등 딥페이크 기술 부작용을 막기 위한 법의 재개정 노력이 있었는데 만족할 만한 성과를 내지 못했다”며 “딥페이크 기술을 악용하는 것도 인간이지만 이를 막을 수 있는 것도 인간이다. 사회의 법과 제도 안에서 이 문제를 해결해 내야 한다”고 말했다.

3년간 딥페이크 성범죄 실형 4건뿐미성년자 성관계 500여건 올려도법원 “대부분 가짜인지 알 수 있어”연예인 합성물 5800개 업로드해도영리 목적의 범행 아니라며 ‘감경’“다른 성범죄 수준 양형 강화해야”정치권도 뒤늦게 법안 7개 쏟아내서울시·방심위 ‘삭제 핫라인’ 구축올 학생·교사 피해 179건 수사 의뢰교육부, TF 구성해 10월 중 대응책 딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량이 선고돼 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 오는 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 오세훈 서울시장은 이날 류희림 방송통신심의위원장과 업무협약을 맺고 딥페이크 음란물 영상 신고가 들어올 경우 24시간 이내에 삭제하는 ‘핫라인’을 가동하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 승인을 기다리다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 나온다.

여교사들의 얼굴을 나체사진에 합성한 뒤 사회관계망서비스(SNS)에서 유포한 고등학생에 대해 경찰이 수사에 착수했다. 인천 남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 고등학생인 10대 A군을 수사하고 있다고 28일 밝혔다. A군은 지난달 인공지능(AI)을 이용한 ‘딥페이크’ 기술로 인천 소재 한 고등학교에서 일하는 여교사 2명의 얼굴을 나체 사진에 합성한 뒤 SNS에서 유포한 혐의를 받고 있다. 경찰은 앞서 피해 여교사 2명의 진정서를 접수하고 수사를 벌여 성범죄물 제작·유포자로 A군을 특정했다. 경찰은 A군이 주로 텔레그램을 통해 성범죄물을 유포한 것으로 보고 디지털 포렌식을 통해 구체적인 범행 경위를 조사하고 있다. 경찰 관계자는 “추가 피해자가 있는지도 확인하고 있다”며 “포렌식 작업을 마치는 대로 A군을 불러 조사할 계획”이라고 말했다.

딥페이크 범죄 우려가 고조되고 있는 가운데 테슬라 최고경영자이자 인공지능 스타트업 xAI의 주인 일론 머스크가 미국 캘리포니아주의 인공지능(AI) 기술 규제 법안을 지지한다고 밝혔다. 대부분의 AI 업체들이 해당 법안을 반대하고 있는 것과는 다른 행보다. 지난 26일(현지시간) 머스크는 X에 “나는 20여년간 AI 규제를 옹호해왔다”며 “공공에 잠재적인 위험이 있는 모든 제품과 기술을 규제하는 것과 마찬가지”라고 썼다. 캘리포니아주의 AI안전법안(SB 1047)은 개발 비용인 1억달러(약 1300억원)가 넘는 거대 언어모델에 대해 안전 테스트를 의무화하는 내용을 골자로 한다. 아울러 AI시스템이 많은 사람을 사망에 이르게하거나 5억 달러 이상의 피해를 일으키는 심각한 문제를 발생하면 AI개발 회사가 책임을 지게 했다. 지난 5월 주상원을 통과한 이 법안은 이번 달 내에 주하원 표결이 이뤄질 예정이다. 알고리즘 투명성 보장해 AI를 좀 더 안전하고 책임감 있게 만든다는 취지지만 모델의 역량을 잘못 표현하면 개발자가 위증죄로 갇힐 수 있어 페이스북과 인스타그램의 모회사인 메타를 비롯해 AI 업계에서는 대체로 이 법안에 반대 의견을 표명해 왔다. 법이 통과되면 xAI도 규제 대상에 오른다. 최근 이 회사가 출시한 새 AI 챗봇이 해로운 이미지를 생성하면서 논란이 된 바 있다.

딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 허위영상물을 제작·반포하는 행위만으로도 처벌하는 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량을 선고해 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 경찰청 국가수사본부가 내년 3월까지 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시하는 가운데 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 사전 승인을 받기 위해 대기하다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 있다.

‘딥페이크’ 기술을 활용한 디지털 범죄가 기승을 부리는 가운데, 국회에서 축구 국가대표팀 주장 손흥민(토트넘 핫스퍼)을 활용해 투자 사기를 벌이려는 허위 동영상이 국회에서 공개됐다. 김장겸 국민의힘 의원은 28일 국회 과학기술정보방송통신위원회 전체회의에서 딥페이크 범죄의 심각성을 환기하기 위해 이같은 영상을 공개했다. 영상은 생성형 인공지능(AI)이 손흥민의 목소리를 학습해 손흥민이 녹음한 것처럼 꾸민 목소리가 나온다. 영상 속 손흥민은 “축구선수이자 경험 많은 투자자”라고 자신을 소개하며 “인스타그램 팔로워 1400만명 돌파를 기념해 4월에 급등한 우량주 3개를 무료로 공유드린다”고 말했다. 이어 “‘어시스턴트’ 카톡을 추가하고 아라비아 숫자를 보내는 선착순 200명에게 무료로 저의 독점 사인 사진과 스톡 나우 팬미팅 티켓을 받을 수 있다”고 홍보했다. 영상은 손흥민이 소속팀 경기를 마치고 영국 매체와 인터뷰하는 화면에 AI로 생성한 손흥민의 목소리를 합성했다. 김 의원은 “이처럼 딥페이크로 합성된 영상이 인터넷에서 유포되고 있다”며 “우리 같은 경우 딥페이크라는 걸 인지할 수 있지만 일반 국민들은 모를 수 있다”고 우려했다. 이어 “AI를 활용하면 이런 영상을 쉽게 만들 수 있다”면서 “텔레그램을 통해 지역과 학교, 나이를 불문하고 무차별적으로 불법 합성물이 퍼지고 있다”고 지적했다. 이에 김태규 방송통신위원회 직무대행(부위원장)은 “방송통신심위원회는 삭제 및 차단 요구를 할 수 있고, 시정명령이 이행되지 않을 경우 방송통신위원회가 형사고발 조치할 수 있다”고 밝혔다. 그러면서 “지금 딥페이크 영상물 피해자의 신상정보도 긴급 심의에 포함시키는 내용, AI 생성물 표시제를 도입하는 부분, AI 서비스 이용자에 대한 보호 법규를 마련하는 부분, AI 피해 신고 창구를 활용하는 방법을 고민하고 있다”고 답했다.

‘딥페이크’ 기술을 이용해 지인 등의 사진을 기반으로 한 음란물을 만들어 유포하는 성범죄가 대학가는 물론 전국의 중·고등학교까지 파고든 가운데, 한동훈 국민의힘 대표가 “딥페이크 성범죄에 학생들이 두려움에 떨고 있다”고 호소한 고3 학생의 손편지를 공개했다. 올해 들어 딥페이크 성범죄로 인한 피해 자 피해자 3명 중 1명이 미성년자라는 통계도 나왔다. 韓 “AI 부작용 법으로 막을 수 있어”28일 정치권에 따르면 한동훈 국민의힘 대표는 지난 27일 자신의 페이스북에 국민의힘 전남도당 청소년특별위원회에서 활동하고 있는 고등학교 3학년 학생의 손편지를 공개했다. “결코 가볍게 넘어갈 만한 사안이 아닌데도 불구하고, 정치권에서 이를 본격적으로 다루지 않고 있는 것 같다”고 운을 뗀 이 학생은 “몇 년 전 텔레그램 n번방 사건으로 온 나라가 떠들썩했는데도 최근에 또다시 텔레그램을 이용한 비슷한 일이 대규모로 발생하고 있다”고 말했다. 이어 “텔레그램 ‘겹지방’은 소셜미디어(SNS)에 올라온 사진들을 딥페이크 기술을 이용해 불법 합성물을 만들고 있다”면서 “각 지역의 중·고등학교 및 대학교 명의로 피해자들의 불법합성물을 카테고리화해 생년월일·학번·주소 등으로 개인정보를 명시하고 있으며, 텔레그램이라는 방어막으로 자신의 가족, 동료, 급우들의 사진으로 불법 합성물을 만들어 유포하고 있다”고 전했다. 이 학생은 “지금 학생들은 두려움에 떨고 있다”며 “정의라는 가치 아래 법과 제도를 통하여 보호받아야 할 대한민국의 미래들이 법의 테두리 밖에서 악의적으로 훼손당하고 있다”고 호소했다. 그러면서 “부디 존경하는 대표님을 비롯한 당 차원, 국가 차원의 관심을 가져주시고 대책 마련에 힘써달라”고 당부했다. 이에 대해 한 대표는 “AI를 악용하는 것도 사람이지만, 이를 예방하고 제한할 수 있는 것도 사람이다”라면서 “법과 제도 안에서 악용은 막을 수 있다”고 강조했다. 이어 “‘n번방 방지법’이 21대 국회에서 통과됐지만, AI의 부작용을 막기 위한 제도, 정책의 미비는 신속히 보완돼야 한다”면서 “디지털 성범죄 근절 대책을 마련하는데 국민의힘이 앞장서겠다”고 밝혔다. 10대 피해자 2년 새 4.5배 급증 한편 이날 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터(디성센터)로부터 딥페이크 피해 지원을 요청한 피해자 781명 중 36.9%(288명)이 10대 이하인 것으로 집계됐다. 딥페이크로 인한 피해 지원을 요청한 미성년자는 2022년 64명에서 2년 사이 4.5배로 급증했다. 같은 기간 전체 연령대의 피해 지원 요청자가 212명에서 781명으로 3.7배 증가한 것과 견줘보면 10대 연령층에서 증가세가 가파르다. 디성센터 관계자는 “저연령층이 SNS 등을 이용한 온라인 소통과 관계 형성에 익숙하다”고 원인을 짚었다. 딥페이크 성범죄에 대한 공포가 확산되면서 당국도 대대적인 대응에 나섰다. 경찰청은 이날부터 내년 3월말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 실시한다. 서울경찰청 사이버수사대는 22만명이 참여한 것으로 알려진 불법합성물 제작 텔레그램 채널과 관련해 입건 전 조사(내사)에 착수했다. 교육부는 17개 시·도교육청별로 딥페이크 성범죄물 피해 현황을 파악하고, 일선 학교에는 예방교육과 피해 신고를 하도록 요청했다. 방송통신심의위원회도 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다.

인공지능(AI) 기술을 이용해 개인의 얼굴을 음란물과 합성한 가짜 영상물(딥페이크)들이 기승을 부리고 있다. 텔레그램 대화방을 중심으로 유포되면서 최소 100개 이상의 국내 대학과 중고교 등에서 피해자가 속출하고 있다. 대화방에 유포된 허위 영상 속 피해자들은 중고생 미성년자는 물론 군인, 교사 등 나이와 직업을 가리지 않고 다양했다. 연예인 등 유명인들의 초상을 음란물로 합성하던 수준을 넘어 불특정 다수를 상대로 디지털 성범죄가 만연하니 이만저만 불안하지 않다. 어제 윤석열 대통령도 “딥페이크는 명백한 범죄”라며 척결을 주문하고 나섰다. 성적 허위 영상물의 급증 추세는 놀랍다. 방송통신심의원회에서 접속 차단과 이용 해지 등 시정 조치한 허위 영상물 건수는 2020년 473건에서 지난해 7187건으로 15배 불어났다. 올해만 해도 지난 7월 말 현재 지난해 대비 90%(6434건)나 치솟았다. 방통심의위는 긴급 대책회의를 열고 텔레그램 피해 신고 접수, 모니터링 강화, 수사 의뢰 등 가능한 조치를 모두 동원하기로 했다. 만시지탄인 측면이 크다. 텔레그램에 개설된 단체 채팅방을 통해 불법 음란물을 생성하고 거래·유포한 디지털 성범죄 ‘N번방’ 사건이 터진 게 이미 5년 전이다. 사이버 성범죄가 더 지능화할 환경이 뻔한데 선제적 예방에 소홀했던 것 아닌지 따져 보지 않을 수 없다. 사이버 성범죄는 일반 범죄와 달리 순식간에 불특정 다수에게 확산한다는 점에서 문제의 심각성은 더 크다. 게다가 지금은 생성형 AI로 딥페이크 사진과 영상을 너무나 손쉽게 만들 수 있는 시대다. 정부 단속을 피하려는 허위 영상물 제작자의 수법도 갈수록 고도화되고 있다. 불법 촬영물을 제작, 유포하는 사이트 운영자들은 문제적 동영상의 추출과 다운로드를 막기 위해 영상 소스를 숨기는 등 수사기관의 추적을 탐지 단계에서부터 철저히 방해한다. 사이버 성범죄의 방치는 사회적 재난을 부를 수 있다. 신속하고 강력한 대책이 전방위로 보강돼야 한다. 허위 영상물 유포에 대한 엄벌뿐만 아니라 수위 높은 허위 영상물 소지도 처벌하는 입법보완이 무엇보다 절실하다. 허위 영상물은 일반 불법영상물과 달리 소지, 구입, 저장, 시청 자체는 처벌하지 않고 유포, 배포만 처벌한다. 허위 영상물 단속에 플랫폼도 적극 동참해야 한다. 텔레그램뿐만 아니라 국내 포털에도 유해 콘텐츠는 적지 않다. 10대 청소년에 대한 교육 강화는 말할 것도 없다. 소셜미디어(SNS) 이용이 일상인 청소년들은 딥페이크 음란물에 대한 범죄 인식이 희박하다. 지난해 성적 허위 영상물 유포 가해자의 76%가 10대였다.

공무원 보수 3% 인상 ‘8년 만에 최대’ 딥페이크 범죄 관련 예산 27억 편성 서민층 주거 안정을 위해 정부가 내년도 예산안에 25만 2000호의 공공주택 공급 물량 계획을 편성했다. 올해 공급이 예정된 20만 5000호를 넘는 역대 최대 규모다. 27일 발표된 2025년도 정부 예산안에 따르면 임대주택은 올해 11만 5000호에서 15만 2000호로, 분양주택은 9만호에서 10만호로 확대됐다. 지난 5년간 공공주택 공급 규모가 평균 15만 5000호였던 것에 비하면 10만호 가까이 늘어난 규모다. 공급 물량은 크게 늘지만 공공주택 예산은 올해 18조 1276억원에서 내년 14조 8996억원으로 오히려 줄었다. 한국토지주택공사(LH) 사장 출신인 박상우 국토교통부 장관의 아이디어로 신축매입약정 방식을 일시불에서 3년 분할로 변경했기 때문이다. 신축매입약정은 입주까지 3년가량 소요된다. 현재는 LH가 첫해에 매입 비용을 전액 지불하는데 앞으로는 3년에 걸쳐 정부가 매입 비용을 치르기로 했다. 이를 통해 첫해에 드는 재정이 3조원가량 줄어드는 것으로 추산됐다. 주거 사다리 역할을 하는 비아파트 공급은 2년간 16만호로 늘린다. 주변 시세의 90% 이하 수준으로 최장 8년간 거주할 수 있는 든든전세주택 신규 공급에 8627억원을 편성했다. 내년도 공무원 보수는 3.0% 오른다. 올해(2.5%)보다 0.5% 포인트 인상됐다. 2017년 이후 8년 만의 최대 인상폭이다. 이대로 국회를 통과한다면 공무원 총인건비는 올해 44조 8000억원에서 1조 8000억원(4.0%) 늘어난 46조 6000억원이 된다. 향후 인사혁신처가 봉급표를 만드는 과정에서 급수가 낮은 저연차 공무원의 인상률이 상대적으로 높게 결정될 수도 있다. 국방 예산은 올해보다 3.6% 증가한 61조 5878억원으로 편성됐다. 국방 예산이 60조원을 넘긴 건 이번이 처음이다. 킬체인, 한국형 미사일방어(KAMD), 대량응징보복(KMPR) 등 한국형 3축 체계를 강화하기 위해 총 6조 1615억원을 책정했다. 한국형 전투기 KF-21 ‘보라매’ 최초 양산에 1조 1495억원이 들어간다. 현재 1000만원인 북한이탈주민의 초기 정착지원금을 내년엔 1500만원으로 50% 올린다. 최근 우려가 증폭된 전기차 인프라의 안전성을 높이기 위해 과충전을 방지하는 스마트제어 충전기를 현재 2만 3000기에서 내년 9만 5000기로 대폭 늘린다. 보이스피싱 전화번호 전국 차단에 걸리는 시간은 기존 48시간에서 10분으로 줄인다. 기승을 부리는 딥페이크 범죄를 막고자 인공지능(AI) 영상과 음성을 분석하기 위한 예산 27억원도 편성했다.

딥페이크 피해 400~500개교 추산SNS 등서 ‘피해학교지도’도 퍼져경찰, 내년 3월까지 집중 단속 실시단순 시청자는 처벌도 쉽지 않아“피해 땐 경찰·방심위 신고 최우선” 인공지능(AI)을 이용해 지인 등의 얼굴을 합성한 ‘딥페이크 영상물’을 텔레그램에서 유포하는 성범죄가 학교·단체·군 등으로 광범위하게 확산하자 정치권은 물론 여성·군인권단체 등 각계각층에서 엄중 처벌을 요구하고 나섰다. 교육부는 실태 파악을 시작했고 경찰도 뒤늦게 특별단속을 실시한다. 일부 경찰서에는 관련 피해가 접수돼 수사가 진행 중인 것으로 확인됐다. 다만 상당수 텔레그램방이 이미 폐쇄된 데다 ‘유포 목적’을 입증하지 못하면 법 적용이 어려워 수사부터 처벌까지 난항을 겪을 것으로 보인다. 27일 서울신문 취재를 종합하면 경기 안산상록경찰서에는 지난 주말부터 이날까지 3일간 딥페이크 영상물로 협박을 당했다는 10대 8명의 신고가 접수됐다. 가해자는 피해자들의 이름과 학교 등 신상을 거론하면서 소셜미디어(SNS)에 게시된 피해자들의 사진을 합성해 유포하겠다고 협박한 것으로 전해졌다. 경찰 관계자는 “현재 입건 전 조사(내사) 단계이지만 사안을 검토한 이후 적극적으로 수사하겠다”고 말했다. 이 외에 서울경찰청 사이버수사대도 참여 인원만 22만여명에 달하는 불법 합성물 제작 텔레그램 채널과 관련해 내사에 착수했다. 피해 사실을 나중에 알게 된 이들이 신고하면 앞으로 관련 수사는 급격하게 확대될 것으로 전망된다. 엑스(X·옛 트위터)에 올라온 게시글 등을 보면 텔레그램 딥페이크방에 언급된 학교 수는 400~500곳 정도로 추산된다. 엑스에서 피해 학교 명단을 취합해 알리고 있는 대학생 방서윤(19)씨는 “일주일 만에 2000개 넘는 피해 사실 제보가 들어왔다”며 “학교 차원의 조치나 수사를 통한 처벌이 이뤄져야 한다”고 전했다. 특히 불안감이 커지면서 SNS에는 관련 피해가 발생한 학교와 위치를 알 수 있는 ‘피해학교 지도’도 등장했다. 해당 지도를 볼 수 있는 링크는 SNS와 온라인 커뮤니티 등을 통해서 퍼지고 있다. 긴급 실태 조사를 진행 중인 전국교직원노동조합은 “현재 300곳 정도 조사한 결과 40곳에서 실제 피해가 확인됐다”고 말했다. 학교를 중심으로 확산하는 딥페이크 영상물 범죄는 같은 학교 학생이나 교사 등 주변 지인을 상대로 하는 경우가 많다. 특정 지역과 학교에서 공통 지인을 찾아 이른바 ‘겹지인방’에 모여 영상물을 공유하고 조롱하기도 한다. 경찰청에 따르면 올해 7월까지 딥페이크 영상물 관련 범죄로 검거된 피의자 178명 중 131명(73.6%)이 10대다. 교육부는 17개 시도교육청별로 딥페이크 성범죄물 피해 현황을 파악할 것과 일선 학교에는 예방 교육 및 피해 신고를 하도록 요청했다. 경남교육청에서는 24건의 신고가 접수됐다고 밝혔고 인천교육청은 피해 의심 학교가 22곳이라고 추산했다. 방송통신심의위원회도 이날 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다. 경찰청은 28일부터 내년 3월 말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 한다. 서울경찰청도 딥페이크 성범죄가 처벌 대상임을 경고하고 신고를 당부하는 내용의 ‘긴급 스쿨벨’을 발령했다. 아울러 경찰과 여성가족부 등은 “피해를 당했다면 일단 신고하는 게 먼저”라고 강조했다. 경찰청 사이버범죄 신고시스템(ecrm.police.go.kr)으로 본인이 직접 신고하거나 방송통신심의위원회 홈페이지의 ‘디지털 성범죄 신고’ 배너를 통해 누구나 신고할 수 있다. 이처럼 일상으로 파고든 딥페이크 영상물 범죄를 근절하기 위해선 처벌을 강화해야 한다는 목소리가 나온다. 아동청소년 대상 디지털 성범죄와 달리 성인을 대상으로 한 경우 수사기관의 함정 수사가 불가능한 점도 한계로 꼽힌다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “2020년 개정된 성폭력처벌법상 허위 영상물 등은 유포의 목적이 있어야 처벌이 가능하기에 ‘개인 소장’이거나 ‘단순 시청’이라 주장할 경우 처벌이 쉽지 않다는 맹점이 있다”고 지적했다. 허민숙 국회입법조사처 연구관은 “대화방 단순 참여자라 하더라도 참여하는 사람이 있기에 딥페이크 불법 콘텐츠가 더 확산하는 만큼 연대책임이 반드시 필요하다”고 강조했다.

윤석열 대통령은 27일 ‘딥페이크’(특정 인물의 얼굴 등을 영상에 합성)를 활용한 디지털 성범죄에 대해 강력히 대응하라고 지시했다. 여야 대표들도 대책 마련에 나섰다. 윤 대통령은 이날 국무회의에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “피해자가 미성년인 경우가 많고 가해자 역시 대부분 10대로 드러나고 있다”고 밝혔다. 윤 대통령은 “딥페이크 영상물은 ‘단순 장난’이라고 둘러대기도 하지만 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위”라며 “우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”고 했다. 이어 “관계 당국은 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아 달라”며 “건전한 디지털 문화가 자리매김할 수 있도록 교육 방안도 강구해 달라”고 당부했다. 윤 대통령은 이날 ‘2024 국제 사이버범죄 대응 심포지엄’ 개회식에 참석해 얼굴을 변형한 딥페이크 동영상을 제작하는 과정과 허위 영상을 탐지하는 과정을 참관했다. 한동훈 국민의힘 대표는 페이스북에 “‘N번방 방지법’이 21대 국회에서 통과됐지만, AI의 부작용을 막기 위한 제도·정책의 미비는 신속히 보완돼야 한다”고 적었다. 국민의힘은 29일 국회에서 한 대표 주재로 딥페이크 관계 부처의 현안 보고를 받고 실태 및 대응 방안을 논의한다. 이재명 더불어민주당 대표도 피해자 보호 방안과 딥페이크 제작·배포자에 대한 강력한 처벌규정을 강구하라고 지시했고 민주당은 당 차원의 태스크포스(TF)나 특위를 구성하기로 했다. 국회 여성가족위원회는 다음달 4일 여성가족부 등을 대상으로 긴급 현안 질의를 진행하기로 했다. 최근 텔레그램 등에서 여성의 얼굴과 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 대규모로 발견되며 사회적 문제로 대두됐다. 한편 윤 대통령은 29일 오전 10시 용산 대통령실에서 ‘국정 브리핑 및 기자회견’을 개최한다. 지난 5월 9일 취임 2년 기자회견을 개최한 지 110일 만이며 지난 6월 포항 영일만 석유·가스전 개발과 관련해 국정 브리핑을 가진 뒤 두 번째다. 윤 대통령은 ‘4+1개혁’(연금·의료·교육·노동+저출생) 등 핵심 개혁 과제와 국정 운영 방향을 국민들에게 설명하고 언론의 질문에 답한다. 대통령실 관계자는 “핵심 키워드는 민생·안전·개혁·소통”이라며 “국민들이 궁금해하는 부분을 기자회견에서 말씀드릴 것”이라고 말했다.

‘1800조원.’ 가계부채 이야기가 아니다. 글로벌 시장조사기관 ‘마케츠앤드마케츠’가 추산한 2030년 세계 인공지능(AI) 시장의 예상 규모다. AI시장의 빠른 성장세는 금융권 역시 예외가 아니다. 한국신용정보원은 2026년 국내 금융 분야 AI 시장 규모는 3조원을 훌쩍 뛰어넘을 것으로 예상했다. 2020년 4000억원 수준에 불과했던 것이 6년여 만에 8배 가까이 몸집을 불렸다. 신용평가 부문을 비롯해 로봇자동화, 고객경험 제고 등 사실상 금융업계의 모든 분야에서 AI가 영역을 넓혀 갈 전망이다. 하지만 국내 금융 분야에서 AI 연구는 망분리라는 커다란 족쇄가 채워져 있다. 망분리는 내부망과 외부망을 분리하는 네트워크 보안 기법이다. ‘정보기술(IT) 강국’이란 평가가 무색하게 AI를 이용한 금융혁신은 전 세계 어디서도 찾아볼 수 없는 한국만의 규제에 가로막혀 날개를 펴지 못했다. 보안을 명목으로 마련한 규제가 국내 금융산업 전체의 명운을 가를 중요한 시점에 애물단지로 남아 있는 셈이다. 네트워크를 내부와 외부로 분리해 운영하는 망분리 규제가 금융업계에 모습을 드러낸 건 지난 2013년이다. 2011년 농협 전산망 마비 사태로 곤욕을 겪었던 금융업계의 보안 시스템은 2013년 방송사와 금융기관을 상대로 한 대규모 사이버 공격에 취약한 모습을 노출했다. 결국 정부는 사실상 최고 강도의 방어막이자 최후의 수단 중 하나로 꼽힌 망분리 카드를 꺼내 들었다. 철 지난 ‘2013년의 유산’사이버 공격에 뚫린 금융기관 정부 ‘최후의 수단’ 망분리 꺼내금융권과 정보통신업계 일각에선 “빈대 잡으려 초가삼간 다 태우는 격”이란 비아냥 섞인 목소리가 나오기도 했지만 그만큼 소비자와 금융회사, 그리고 정부가 사이버 테러 위협에 대해 느낀 위기감은 컸다. 하지만 시간이 흐르면서 망분리 규제가 가진 경직성과 비효율성이 수면 위로 드러나기 시작했다. 시간과 공간, 비용 등 모든 측면에서 현실적이지 못한 규제라는 지적이 이어졌다. 심지어는 코로나19 팬데믹이 한창이던 2020년 초 금융회사 직원들은 확진 판정을 받아도 재택근무를 못 하는 일이 비일비재했다. 한 시중은행 직원은 “일부 직원들은 업무용 데스크톱 컴퓨터를 챙겨 집으로 가는 해프닝이 벌어지기도 했다”며 당시를 회상했다. 일반 임직원은 원격으로 금융회사 전산망에 접속할 수 없도록 한 망분리 규제 때문이었다. 코로나19 확산세가 심각해지면서 금융당국이 빠르게 규제를 완화하고 금융회사 직원들의 재택근무가 가능해졌지만 망분리 규제의 강도와 경직성을 단적으로 보여 주는 사례로 남았다. 물리적 망분리가 사이버 테러의 위협으로부터 금융업계를 온전히 지킬 수 있는가에 대한 근본적 물음도 제기됐다. 해킹 등 사이버 범죄 수준이 갈수록 고도화하는 상황에서 물리적 망분리를 더이상 보안의 ‘만능열쇠’로 볼 수 없다는 지적이었다. 망분리 규제에 대한 비판이 극에 달한 건 전 세계, 모든 산업 분야에서 AI 활용 열풍이 불기 시작하면서다. 수시로 변화하는 AI 생태계에 국내 금융권이 빠르게 적응하지 못하도록 가로막는다는 비판이 이어졌다. 경쟁력 제고를 위해선 외부에 있는 생성형 AI와 클라우드 기반 응용프로그램(SaaS)을 활용하는 것이 필수였지만 망분리 규제로 인해 내부망만을 활용해야 하는 금융회사들엔 ‘그림의 떡’이기 때문이다. 만능 열쇠 아닌 ‘족쇄’ 사이버 테러 고도화 속 무용지물생성형 AI 활용 등 혁신 가로막아황석진 동국대 국제정보보호대학원 교수는 “망분리 규제를 했다고 해서 지금까지 해킹 사고가 없었던 것도 아니고 비용도 상당히 많이 들어갔기 때문에 실효성이 떨어졌던 것이 사실”이라며 “지금껏 활용해 온 물리적 망분리가 모든 보안 사고를 사전에 차단할 수 있는 기능이 있는 것처럼 포장되기도 했지만 사실이 아니다”라고 했다. 금융권 보안 강화는 전 세계적 숙제다. 많은 돈이 오가고 다수의 고객 정보를 보유하고 있는 금융기관이 사이버 공격을 당할 경우 천문학적 규모의 피해가 발생할 수 있기 때문이다. 망분리는 해외에서도 오랜 기간 국내외 금융회사들을 사이버 테러 위협으로부터 지켜왔다. 하지만 한국처럼 금융회사마다 의무적으로 물리적 망분리를 적용하도록 한 사례는 선진국에서 찾아보기 힘들다. 미국의 연방금융기관 검사협의회(FFIEC)는 망분리 방식의 필요성엔 공감하면서도 우리 정부가 그래 왔던 것처럼 금융회사들이 반드시 망분리 시스템을 도입하도록 강제하진 않는다. FFIEC가 금융회사 보안 지원을 위해 마련한 가이드라인을 보면 데이터의 중요도에 따라 망을 나누고 접근을 통제하는 세분화 방식을 설명할 뿐, 아예 인터넷을 원천 차단하는 망분리를 제시하진 않는다. 각 회사의 사정에 맞춰 유연하게 적용할 수 있도록 자율성을 부여한 셈이다. 호주 보안당국 역시 망분리를 의무화하지 않고 “기업이 중요한 데이터에 한해 기업이 망분리 도입을 고려해 볼 수 있다”는 수준으로 규정한다. 단 한 번의 사이버 공격으로 모든 정보에 대한 접근이 열리는 것을 방지하는 수단 중 하나로 망분리 혹은 망 세분화를 제시하지만 강제성은 없다. 글로벌 보안 강화 대책은 보안 사고 땐 천문학적 손배 책임 美 등 규제보다 자발적 노력 유도그렇다고 해서 선진국의 금융기업들이 보안 의무 이행을 소홀히 하는 것도 아니다. 미국은 망분리를 의무화하지 않는 대신 보안 사고가 발생할 경우 국내보다 훨씬 더 무거운 책임을 금융회사에 묻는다. 일례로 2019년 7월 대규모 해킹 사고가 발생한 캐피털원은 징벌적 손해배상과 피해 처리 비용 등을 모두 합쳐 1억 5000만 달러(약 1991억원) 상당의 책임을 감수해야 했다. 망분리 의무화와 같은 규제가 없이도 보안 강화를 위한 금융기업들의 자발적 노력이 이어지는 이유다. 김승주 고려대 정보보호대학원 교수는 “미국과 유럽의 경우 망분리를 활용하더라도 데이터를 자체 중요도에 따라 나눈 후 그 등급에 따라 망분리를 차등 적용한다”며 “한국의 망분리는 아예 내부망과 외부망을 분리시켰기 때문에 필요할 때마다 복잡한 절차를 거쳐 망을 다시 연결해야 했다. 이런 과정에서 해킹 사고가 발생하면 오히려 더 피해가 커지는 형태”라고 지적했다.

미국 IBM이 자체 설계한 서버용 인공지능(AI) 칩을 공개했다. 이 반도체는 삼성전자 파운드리(위탁생산) 사업부가 생산한다. IBM은 26일(현지시간) 미국 스탠퍼드대에서 열린 반도체 학회 ‘핫칩스 2024’에서 AI 프로세서(CPU) ‘텔럼2’와 AI 가속기 ‘스파이어’를 선보였다. ‘텔럼2’는 자체 개발한 AI 칩 2세대 제품으로 금융 분야 사기 방지를 위한 IBM의 차세대 서버 시스템인 Z메인프레임을 구동하는 데 사용된다. 스파이어는 텔럼2 프로세서를 보완하기 위해 추가적인 AI 연산 능력을 제공한다. 보험금 청구 사기 등과 같은 금융 범죄 리스크를 줄일 수 있을 것으로 IBM은 기대하고 있다. 이 두 칩은 2021년 처음 공개된 1세대 제품 텔럼에 이어 이번에도 삼성의 5나노 공정을 통해 생산된다. IBM 측은 “새로운 기술은 차세대 IBM Z메인프레임 시스템의 처리 용량을 크게 확장해 속도를 높일 수 있도록 지원한다”며 “이들 AI 칩은 고성능, 보안, 전력 효율성이 뛰어난 기업용 컴퓨팅 솔루션을 제공하도록 설계됐다”고 설명했다.

인공지능(AI)을 이용해 지인 등의 얼굴을 합성한 ‘딥페이크 영상물’을 텔레그램에서 유포하는 성범죄가 학교·군 등으로 광범위하게 확산하자 정치권은 물론 여성·군인권단체 등 각계각층에서 엄중 처벌을 요구하고 나섰다. 교육부는 실태 파악에 나섰고 경찰도 뒤늦게 특별단속을 실시하기로 했다. 일부 경찰서에는 관련 피해가 접수돼 수사가 진행 중인 것으로 확인됐다. 다만 이미 상당수 텔레그램방이 폐쇄된 데다 유포 목적을 입증하지 못하면 법 적용이 어려운 점 때문에 수사부터 처벌까지는 난항을 겪을 것으로 보인다. 27일 서울신문 취재를 종합하면, 경기 안산상록경찰서에는 지난 주말부터 이날까지 3일간 딥페이크 영상물로 협박을 당했다는 10대 8명의 신고가 접수됐다. 가해자는 피해자들의 이름과 학교 등 신상을 거론하면서 소셜미디어(SNS)에 게시된 피해자들의 사진을 합성해 유포하겠다고 협박한 것으로 전해졌다. 경찰 관계자는 “현재 입건 전 조사(내사) 단계지만, 사안을 검토한 이후 적극적으로 수사하겠다”고 말했다. 이 외에 서울경찰청 사이버수사대도 참여 인원만 22만여명에 달하는 불법합성물 제작 텔레그램 채널과 관련해 입건 전 조사(내사)에 착수했다. 피해 사실을 나중에 알게된 이들이 신고를 접수하면 앞으로 관련 수사는 급격하게 확대될 것으로 전망된다. 엑스(X·옛 트위터)에 올라온 게시글 등을 보면, 텔레그램 딥페이크방에 언급된 학교 수는 400~500곳 정도로 추산된다. 특히 엑스에서 피해 학교 명단을 취합해 알리고 있는 대학생 방서윤(19)씨는 “모교에 피해자가 있다고 해서 취합을 시작했는데 일주일 만에 2000개가 넘는 피해 사실 제보가 들어왔다”며 “가해자들은 ‘잘못한 게 없다’는 태도를 보이는 경우가 많다. 학교 차원의 조치나 수사를 통한 처벌이 이뤄져야 한다”고 전했다. 현재 긴급 실태 조사를 진행 중인 전국교직원노동조합은 “현재 300곳 정도 조사한 결과 40곳에서 실제 피해가 확인됐다”며 “조사가 진행 중인 만큼 피해 학교는 더 늘어날 것”이라고 말했다. 최근 학교를 중심으로 확산하는 딥페이크 영상물 범죄는 같은 학교 학생이나 교사 등 주변 지인을 상대로 하는 경우가 많다. 특정 지역과 학교에서 공통 지인을 찾아 이른바 ‘겹지인방’에 모여 영상물을 공유하고 조롱하기도 한다. 영상물을 유포하겠다며 피해자를 협박하기도 한다. 경찰청에 따르면 올해 7월까지 딥페이크 영상물 관련 범죄로 검거된 피의자 178명 중 131명(73.6%)이 10대다. 딥페이크 영상물 범죄의 심각성이 드러나자 정부는 수사와 실태 파악에 나섰다. 교육부는 17개 시·도교육청별로 딥페이크 성범죄물 피해 현황을 파악하고, 일선 학교에는 예방교육과 피해 신고를 하도록 요청했다. 방송통신심의위원회도 이날 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다. 경찰청은 28일부터 내년 3월말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 실시한다. 다만 일상으로 파고든 딥페이크 영상물 범죄를 근절하기 위해선 처벌을 강화해야 한다는 목소리가 나온다. 아동청소년 대상 디지털 성범죄와 달리 성인을 대상으로 한 경우 수사기관의 함정 수사도 불가능한 점도 한계로 꼽힌다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “2020년 개정된 성폭력처벌법상 허위영상물 등은 유포의 목적이 있어야 처벌이 가능하기에 ‘개인 소장’이거나 ‘단순 시청’이라 주장할 경우 처벌이 쉽지 않다는 맹점이 있다”고 지적했다. 허민숙 국회입법조사처 연구관은 “대화방 단순 참여자라 하더라도 참여하는 사람이 있기에 딥페이크 불법 콘텐츠가 더 확산하는 만큼 연대책임이 반드시 필요하다”고 강조했다.

최근 대학가에 이어 10대 학생들 사이에서도 딥페이크(AI 기반 합성 이미지) 불법 합성물 범죄가 확산하는 가운데 이를 우려하는 여성들을 조롱하는 글들이 다수 올라와 공분을 일으키고 있다. 27일 엑스(X·옛 트위터) 등 소셜미디어(SNS)에는 “딥페이크가 별거 아니라는 중2 학생들”이라는 글과 함께 온라인 커뮤니티에 중학생 이용자들이 올린 댓글을 캡처한 사진이 올라왔다. 해당 사진에는 “딥페이크하는 사람들도 예쁜 사람만 고른다”, “성폭행 안 할거니까 걱정하지 마시라고”, “딥페이크 하나 가지고 난리부르스 떠냐” 등 조롱 글이 담겨 있다. 또 다른 중학생은 “오늘부터 셀카 올리는 여자들의 사진을 긁어모아 딥페이크를 하겠다. 딥페이크 제작자도 거를 ○○○들이 허언증인지 자의식 과잉인지 너무 설친다”며 충격적인 발언도 서슴지 않았다. 중학생들뿐만이 아니다. 지난 26일 대학생 커뮤니티 에브리타임에도 “딥페이크 사건 호들갑 지겹다”는 글이 올라오기도 했다. 해당 글에는 “딥페이크 만든 놈들 역겹고 더러운 거 맞지만 여자들 호들갑에 공감하긴 싫다. 사회적으로 여자들은 남자들에게 공감한 적이 단 한번도 없기 때문”이라는 내용이 담겼다. 범죄의 표적이 될까 불안에 떠는 여학생들을 향해 “일단 불안에 떨고 있는 ○○대 여성분들, 80%는 안심하고 발 뻗고 자도 돼. 너 그 정도 급 아니야”, “딥페이크 범죄의 표적은 페미니스트가 아닌 예쁜 여성들만 해당한다. 얼굴 못생긴 사람들은 안심해도 된다”는 조롱글도 넘쳐났다. 앞서 전날 엑스의 한 공개 계정에는 텔레그램 대화방을 통해 딥페이크 음란물이 유포되고 있다며, 피해 사례가 알려진 대학들의 명단이 올라왔다. 이 계정이 지목한 텔레그램 대화방 참여자들은 친구, 교사 등 지인을 넘어 친족 사진까지 음란물 제작용으로 공유하고 있는 것으로 알려졌다. 해당 게시글이 온라인상에 퍼지면서 네티즌들 사이에선 ‘혹시 나도 딥페이크 합성의 대상이 된 게 아니냐’는 불안감이 확산했다. 피해 방지를 위해 일부 여성들은 SNS에 올린 자신의 사진을 삭제하기도 했다. 증가하는 딥페이크 범죄…방심위 대책 마련 착수국회 행정안전위원회 소속 조은희 국민의힘 의원실이 지난 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 누구나 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 10대들도 자주 접하면서 딥페이크 음란물이 범죄라는 인식이 옅어졌다는 지적도 나온다. 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐다. 방송통신심의위원회는 27일 실·국장 회의를 소집, 딥페이크 음란물 확산 사태 관련 대책 마련에 착수했다. 28일에는 전체 회의를 열어 의논한 내용을 확정할 방침이다. 방심위는 먼저 공식 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하기로 했으며, 관련 모니터링 요원을 배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 또 텔레그램과 즉각 협의할 수 있는 핫라인을 개설, 신속한 피해 확산 차단에 나설 계획이다.

인공지능(AI)를 활용, 지인 등 사진과 음란물을 합성하는 ‘딥페이크 음란물’ 제작·유포 범죄가 전국적으로 기승을 부리는 가운데 경남에서도 피해 우려가 커가고 있다. 27일 경남교육청은 하동에서 발생한 중학생 딥페이크 음란물 피해 학생이 4개교 12명이라고 밝혔다. 가해 학생은 1학년 남학생 6명이다. 이 사건은 지난 3월 27일 1학년 남학생 6명이 텔레그램 단체방을 만들어 피해 여학생들 사진을 합성하고 공유한 게 발단이다. 가해 학생이 영상 존재를 선배에게 이야기하면서 수면으로 올랐다. 피해 학생들은 지난달 말 부모와 지인에게 피해 사실을 알렸다. 교육당국은 지난달 가해 학생에게 긴급조치(접촉·보복행동 금지)를 내렸다. 이달에는 피해자 측 보호자들과 면담을 진행했다. 교육당국과 경찰은 조사·수사를 진행 중이다. 가해 학생들이 공유한 사진은 외부로 유출되진 않았고 현재는 전부 삭제된 상태다. 경남도교육청은 피해 학생과 보호자를 대상으로 심리상담과 치료 지원을 하고 있다. 학생들은 정상 등교 중이다. 가해 학생 징계 등을 논의하는 학교폭력대책심의위원회는 29일 열릴 예정이다. 이러한 딥페이크 음란물 피해는 올해 하동 뿐 아니라 경남지역 학교에서 총 24건이 접수됐다. 지역별로 창원·진주·김해 각 5건, 통영 4건, 거제 2건, 사천·함안·하동 각 1건이다. 학년별로는 고등학교 10건, 중학교 13건, 초등학교 1건이다. 다만 경찰 수사를 거쳐 범죄 혐의가 인정되더라도, 일부 가해 학생은 촉법소년인 까닭에 형사처벌은 받지 않을 전망이다. 경남교육청은 청소년들 피해를 막을 수 있도록 관련 교육·활동을 강화할 예정이다. 전 학교장 대상 딥페이크 등 디지털 성범죄 예방 긴급회의를 연 경남교육청은 다음 달 디지털 성범죄 예방 교육 집중 시행, 학교폭력 예방 교육 존중의 약속 만들기 써클 추진 등도 이어갈 방침이다. 배경환 도교육청 민주시민교육과장은 “초중고교 학생들이 손쉽게 앱에 접근해 영상·사진 등을 합성할 수 있어 디지털 성범죄 사건이 다수 발생하고 있는 것으로 보인다”며 “앱 운영 업체에 음란물 차단 등 협조를 구하고 성인지 교육과 사이버범죄 예방 교육 등을 강화하겠다. 경찰, 경남도와도 공조해 성범죄에 대응하겠다”고 말했다.

경찰청 ‘사이버범죄 대응 국제심포지엄’에 현직 대통령 첫 참석 윤석열 대통령은 27일 ‘2024 국제 사이버범죄 대응 심포지엄’에서 “국가가 배후에 있는 해킹조직이 사이버공격을 벌여 개인과 기업은 물론 국가안보를 위협하는 수준에 이르렀다”고 밝혔다. 윤 대통령은 이날 서울의 한 호텔에서 개최된 심포지엄에서 “AI(인공지능)를 비롯한 신기술이 눈부시게 발전하면서 사이버범죄에 맞서는 일도 갈수록 어려워진다”며 이렇게 밝혔다. 윤 대통령은 최고 수준의 사이버범죄 대응 역량을 갖추기 위해 노력한 참석자들을 격려하고, 대한민국이 디지털 연대의 글로벌 리더가 되고자 하는 의지를 표명하기 위해 심포지엄에 참석했다고 대통령실은 설명했다. 올해로 25회를 맞은 경찰청이 주최하는 국제행사에 대통령이 참석한 것은 이번이 처음이다. 윤 대통령은 축사에서 “사이버안보 위협에 대한 공세적 대응 등을 위해 지난 2월 ‘국가 사이버 안보전략’을 발표했다”며 “이를 토대로 최정예 인력을 양성하고, 사이버보안 기술 개발 속도를 더욱 높여나갈 것”이라고 밝혔다. 또한 “작년 8월 ‘캠프 데이비드 한미일 정상회의’와 올해 7월 ‘NATO 정상회의’에서 사이버안보를 위한 국제사회의 연대와 협력의 필요성을 강조했다”며 “사이버 공간에서 일어나는 범죄에 더 효과적으로 대응하기 위해서는 국제사회가 함께 힘을 모아야 한다”고 강조했다. 이어 “대한민국 정부는 AI 디지털 기술이 인류의 자유와 복지를 확장하고, 그 혁신의 혜택을 미래 세대가 누릴 수 있도록 필요한 지원과 관심을 계속 이어 나가겠다”고 했다. 윤 대통령은 K-과학치안 전시관에서 파손된 디지털기기를 복구해 포렌식 작업을 하는 과정과 AI 기술을 활용해 CCTV 영상 속 아동의 이상행동을 분석하고 아동학대 장면을 신속히 검출하는 시스템의 시연을 관람했다. 이날 개회식에는 국내외 법집행기관과 글로벌 IT 기업, 주요 국제기구(유엔·인터폴·유로폴·아세아나폴·유럽평의회), 미국·영국·프랑스·독일·일본 등 주한 외교사절이 참석했다. 정부에서는 이상민 행정안전부 장관, 조지호 경찰청장이 참석했고 대통령실에서는 임종인 사이버특별보좌관, 왕윤종 국가안보실 3차장, 신용석 사이버안보비서관, 조상명 국정상황실장 등 300여 명이 참석했다.

윤석열 대통령이 27일 딥페이크(특정 인물의 얼굴 등을 영상에 합성)를 활용한 디지털 성범죄 등에 대해 “뿌리를 뽑아 달라”며 강력한 대응을 주문했다. 윤 대통령은 이날 국무회의 모두발언에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “관계 당국에서는 철저한 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아달라”고 강조했다. 이어 “피해자가 미성년자인 경우가 많고 가해자 역시 대부분 10대로 드러나고 있다”며 “누구나 이러한 디지털 성범죄의 피해자가 될 수 있고, “단순 장난이라고 둘러대기도 하지만 익명의 보호막에 기대 기술을 악용하는 명백한 범죄행위”라고 덧붙였다. 윤 대통령은 이날 내년도 예산안을 심의·의결하기 위한 국무회의를 주재한 자리에서 “지난 정부는 5년 동안 400조원 이상의 국가채무를 늘렸다”며 “재정 부담이 크게 늘면서 정부가 일하기 어렵게 만들었다”고 지적하기도 했다. 1948년 정부 출범 이후 2017년까지 69년간 누적 국가채무가 660조원이었는데 지난 정부 단 5년 만에 1076조원으로 늘었다는 것이다. 윤 대통령은 “앞으로 고령화로 인해 건강보험과 연금 지출을 중심으로 재정 운용에 상당한 어려움이 예상된다”며 “허리띠를 바짝 졸라매 비효율적인 부분은 과감히 줄이고 꼭 써야 할 곳에 제대로 돈을 써야 한다”고 강조했다. 윤 대통령은 내년도 예산안의 세부 항목을 소개하면서 보건의료 분야에는 향후 5년간 재정투자 10조원을 포함해 총 20조원 이상을 투자하겠다고 했다. 그는 “대한민국 어느 지역에 사는 국민이라도 공정한 접근성을 가지는 지역 필수 의료 체계를 반드시 구축하겠다”고 강조했다. 저출생 추세를 반등시키기 위한 패러다임의 전환책으로는 배우자 출산휴가 확대, 육아휴직 급여 대폭 인상, 직장어린이집 긴급돌봄서비스 신설, 신생아 특례대출 소득요건 상향 등을 언급했다. 약자 복지를 위해서는 “모든 복지사업의 주춧돌이 되는 내년 기준 중위소득을 역대 최대인 6.42% 올리고, 생계급여는 역대 최대인 연평균 8.3%로 대폭 인상했다”고 말했다. 소상공인을 위한 맞춤형 지원 예산으로는 “정책자금 상환기간을 최대 5년까지 연장하고, 영세소상공인에 대해서는 연간 30만원의 배달비를 지원해 경영 비용을 덜어드릴 것”이라고 했다. 윤 대통령은 연구개발(R&D) 투자를 선도형으로 전면 개편하고, 지원 규모도 대폭 확대하겠다고 밝혔다. 인공지능(AI)·바이오·양자 등 3대 전략기술을 중심으로 한 재정투자는 올해 26조 5000억원에서 내년 29조 7000억원으로 증액했다고 강조했다. 윤 대통령은 국가전략산업이자 안보 자산인 반도체 산업에 대한 투자도 강화하겠다며 “반도체 메가클러스터 조성을 위해 저리 대출 4조 3000억원을 제공하고, 도로와 용수 등 관련 기반 시설을 적기에 확충하겠다”고 말했다. 윤 대통령은 군 장병의 처우를 개선하겠다고도 밝혔다. 그는 “내년 병장 기준 병 봉급을 205만 원으로 높이고, 위관급 장교와 부사관의 봉급도 인상하겠다”며 “수당과 장려금 등 각종 처우도 개선할 것”이라고 했다. 윤 대통령은 “예산안은 내년도 국정운영의 방향과 철학이 담긴 지도와 같은 것”이라며 “2025년도 예산안에도 효율적인 재정 운용을 위한 정부의 치열한 고민과 노력을 담았다”고 했다. 이어 “국무위원 등 정부 관계자들은 예산안에 어떤 고민이 담겨있고, 예산안을 통해 무엇을 어떻게 변화시킬 것인지, 국민과 국회에 잘 설명해 드리기를 바란다”고 당부했다.

지출 증가율이 3.2%에 그친 ‘짠물 예산안’인 2025년 예산안에도 곳곳에 이색 예산이 숨어 있다. 국민 안전을 고려한 안전 예산과 격차 해소에 방점을 둔 다양한 문화 예산이 눈길을 이끈다. 정부가 27일 발표한 ‘2025년 예산안’에 따르면 전기차 충전 인프라의 안전성을 높이기 위해 6188억원을 들여 과충전을 방지하는 전기차 스마트제어 충전기가 현재 2만 3000기에서 내년 9만 5000기로 대폭 늘어난다. 일반 장비로 진압이 어려운 전기차 화재를 대비하기 위해 43억원을 투입해 특수 진압장비도 도입된다. 최근 잇단 전기차 화재로 확산한 전기차 공포를 잠재우려는 취지다. 첨단·지능 범죄를 예방하기 위해 보이스피싱 조기 경보를 도입해 보이스피싱 전화번호 전국 차단 시간을 기존 48시간에서 10분으로 줄인다. 딥페이크 인공지능(AI) 영상과 음성을 분석하기 위한 예산 27억원도 편성했다. 재판의 심리 과정을 효율화하기 위해 사법부에 AI를 도입한다. 문화 분야에서는 전국 8개 지역에 국산 게임과 전략 종목을 중심으로 e스포츠 내셔널리그를 출범시킨다. 게임 콘텐츠를 바탕으로 지역 소비를 활성화하겠다는 구상이다. 지난 3월 문을 닫았던 서울 대학로의 대표 소극장 ‘학전’을 재대관한다. 국립현대미술관 안에 어린이미술관을 만들고 국립극단에 어린이청소년극단도 꾸린다. 취약계층 아동·청소년의 문화 격차 해소를 위해 18억원을 들여 각 지방자치단체 문화재단의 협조로 미디어아트와 영상 제작 등 교육을 제공하는 ‘꿈의 스튜디오’ 10곳을 세운다. 내년부터 저소득층이 공연 관람 등에 이용하는 통합문화이용권(문화누리카드)의 1인당 지원금도 연간 13만원에서 14만원으로 확대된다.

로봇과 인공지능(AI)을 앞세운 4차 산업혁명의 시대, 서울 광진구가 청소년에게 다양한 진로 탐색 기회를 제공하는 ‘미래사회 직업체험’ 교육을 한다고 26일 밝혔다. 전문 교육기관이 학교로 찾아가 미래사회 직업을 설명하고 실습 기회를 제공한다. 100분간의 수업을 통해 미래 유망 분야를 체험해 보고 진로 설계에 참고할 수 있다. 61개 세부 프로그램을 운영하며 AI 전문가, 로봇공학자, 드론 개발자, 자동차공학 기술자, 가상공간 디자이너, 천문학 연구원 등을 체험해 볼 수 있다. 학생들은 과학 원리를 이용해 로봇이나 블루투스 스피커, 자율주행 자동차, 3D 애니메이션 등을 만든다. 과학수사대가 돼 범죄 사건을 해결하거나 인공지능을 활용해 미술 작품도 그린다. 12월 13일까지 중학교 8곳, 고등학교 5곳에서 교육을 한다. 광진구는 앞서 수요 조사를 바탕으로 84학급을 선정했다. 학생 2035명이 참여한다. 김경호 광진구청장은 “미래의 주역인 학생들에게 유익하고 풍성한 경험을 선사하고자 직업체험 교육을 하고 있다”면서 “이번 프로그램이 학생들이 올바른 진학 방향을 설정하고 멋진 꿈을 키워 나가는 데 도움을 주길 바란다”고 말했다.