3년간 딥페이크 성범죄 실형 4건뿐미성년자 성관계 500여건 올려도법원 “대부분 가짜인지 알 수 있어”연예인 합성물 5800개 업로드해도영리 목적의 범행 아니라며 ‘감경’“다른 성범죄 수준 양형 강화해야”정치권도 뒤늦게 법안 7개 쏟아내서울시·방심위 ‘삭제 핫라인’ 구축올 학생·교사 피해 179건 수사 의뢰교육부, TF 구성해 10월 중 대응책 딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량이 선고돼 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 오는 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 오세훈 서울시장은 이날 류희림 방송통신심의위원장과 업무협약을 맺고 딥페이크 음란물 영상 신고가 들어올 경우 24시간 이내에 삭제하는 ‘핫라인’을 가동하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 승인을 기다리다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 나온다.

딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 허위영상물을 제작·반포하는 행위만으로도 처벌하는 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량을 선고해 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 경찰청 국가수사본부가 내년 3월까지 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시하는 가운데 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 사전 승인을 받기 위해 대기하다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 있다.

인공지능(AI) 기술을 이용해 개인의 얼굴을 음란물과 합성한 가짜 영상물(딥페이크)들이 기승을 부리고 있다. 텔레그램 대화방을 중심으로 유포되면서 최소 100개 이상의 국내 대학과 중고교 등에서 피해자가 속출하고 있다. 대화방에 유포된 허위 영상 속 피해자들은 중고생 미성년자는 물론 군인, 교사 등 나이와 직업을 가리지 않고 다양했다. 연예인 등 유명인들의 초상을 음란물로 합성하던 수준을 넘어 불특정 다수를 상대로 디지털 성범죄가 만연하니 이만저만 불안하지 않다. 어제 윤석열 대통령도 “딥페이크는 명백한 범죄”라며 척결을 주문하고 나섰다. 성적 허위 영상물의 급증 추세는 놀랍다. 방송통신심의원회에서 접속 차단과 이용 해지 등 시정 조치한 허위 영상물 건수는 2020년 473건에서 지난해 7187건으로 15배 불어났다. 올해만 해도 지난 7월 말 현재 지난해 대비 90%(6434건)나 치솟았다. 방통심의위는 긴급 대책회의를 열고 텔레그램 피해 신고 접수, 모니터링 강화, 수사 의뢰 등 가능한 조치를 모두 동원하기로 했다. 만시지탄인 측면이 크다. 텔레그램에 개설된 단체 채팅방을 통해 불법 음란물을 생성하고 거래·유포한 디지털 성범죄 ‘N번방’ 사건이 터진 게 이미 5년 전이다. 사이버 성범죄가 더 지능화할 환경이 뻔한데 선제적 예방에 소홀했던 것 아닌지 따져 보지 않을 수 없다. 사이버 성범죄는 일반 범죄와 달리 순식간에 불특정 다수에게 확산한다는 점에서 문제의 심각성은 더 크다. 게다가 지금은 생성형 AI로 딥페이크 사진과 영상을 너무나 손쉽게 만들 수 있는 시대다. 정부 단속을 피하려는 허위 영상물 제작자의 수법도 갈수록 고도화되고 있다. 불법 촬영물을 제작, 유포하는 사이트 운영자들은 문제적 동영상의 추출과 다운로드를 막기 위해 영상 소스를 숨기는 등 수사기관의 추적을 탐지 단계에서부터 철저히 방해한다. 사이버 성범죄의 방치는 사회적 재난을 부를 수 있다. 신속하고 강력한 대책이 전방위로 보강돼야 한다. 허위 영상물 유포에 대한 엄벌뿐만 아니라 수위 높은 허위 영상물 소지도 처벌하는 입법보완이 무엇보다 절실하다. 허위 영상물은 일반 불법영상물과 달리 소지, 구입, 저장, 시청 자체는 처벌하지 않고 유포, 배포만 처벌한다. 허위 영상물 단속에 플랫폼도 적극 동참해야 한다. 텔레그램뿐만 아니라 국내 포털에도 유해 콘텐츠는 적지 않다. 10대 청소년에 대한 교육 강화는 말할 것도 없다. 소셜미디어(SNS) 이용이 일상인 청소년들은 딥페이크 음란물에 대한 범죄 인식이 희박하다. 지난해 성적 허위 영상물 유포 가해자의 76%가 10대였다.

딥페이크 피해 400~500개교 추산SNS 등서 ‘피해학교지도’도 퍼져경찰, 내년 3월까지 집중 단속 실시단순 시청자는 처벌도 쉽지 않아“피해 땐 경찰·방심위 신고 최우선” 인공지능(AI)을 이용해 지인 등의 얼굴을 합성한 ‘딥페이크 영상물’을 텔레그램에서 유포하는 성범죄가 학교·단체·군 등으로 광범위하게 확산하자 정치권은 물론 여성·군인권단체 등 각계각층에서 엄중 처벌을 요구하고 나섰다. 교육부는 실태 파악을 시작했고 경찰도 뒤늦게 특별단속을 실시한다. 일부 경찰서에는 관련 피해가 접수돼 수사가 진행 중인 것으로 확인됐다. 다만 상당수 텔레그램방이 이미 폐쇄된 데다 ‘유포 목적’을 입증하지 못하면 법 적용이 어려워 수사부터 처벌까지 난항을 겪을 것으로 보인다. 27일 서울신문 취재를 종합하면 경기 안산상록경찰서에는 지난 주말부터 이날까지 3일간 딥페이크 영상물로 협박을 당했다는 10대 8명의 신고가 접수됐다. 가해자는 피해자들의 이름과 학교 등 신상을 거론하면서 소셜미디어(SNS)에 게시된 피해자들의 사진을 합성해 유포하겠다고 협박한 것으로 전해졌다. 경찰 관계자는 “현재 입건 전 조사(내사) 단계이지만 사안을 검토한 이후 적극적으로 수사하겠다”고 말했다. 이 외에 서울경찰청 사이버수사대도 참여 인원만 22만여명에 달하는 불법 합성물 제작 텔레그램 채널과 관련해 내사에 착수했다. 피해 사실을 나중에 알게 된 이들이 신고하면 앞으로 관련 수사는 급격하게 확대될 것으로 전망된다. 엑스(X·옛 트위터)에 올라온 게시글 등을 보면 텔레그램 딥페이크방에 언급된 학교 수는 400~500곳 정도로 추산된다. 엑스에서 피해 학교 명단을 취합해 알리고 있는 대학생 방서윤(19)씨는 “일주일 만에 2000개 넘는 피해 사실 제보가 들어왔다”며 “학교 차원의 조치나 수사를 통한 처벌이 이뤄져야 한다”고 전했다. 특히 불안감이 커지면서 SNS에는 관련 피해가 발생한 학교와 위치를 알 수 있는 ‘피해학교 지도’도 등장했다. 해당 지도를 볼 수 있는 링크는 SNS와 온라인 커뮤니티 등을 통해서 퍼지고 있다. 긴급 실태 조사를 진행 중인 전국교직원노동조합은 “현재 300곳 정도 조사한 결과 40곳에서 실제 피해가 확인됐다”고 말했다. 학교를 중심으로 확산하는 딥페이크 영상물 범죄는 같은 학교 학생이나 교사 등 주변 지인을 상대로 하는 경우가 많다. 특정 지역과 학교에서 공통 지인을 찾아 이른바 ‘겹지인방’에 모여 영상물을 공유하고 조롱하기도 한다. 경찰청에 따르면 올해 7월까지 딥페이크 영상물 관련 범죄로 검거된 피의자 178명 중 131명(73.6%)이 10대다. 교육부는 17개 시도교육청별로 딥페이크 성범죄물 피해 현황을 파악할 것과 일선 학교에는 예방 교육 및 피해 신고를 하도록 요청했다. 경남교육청에서는 24건의 신고가 접수됐다고 밝혔고 인천교육청은 피해 의심 학교가 22곳이라고 추산했다. 방송통신심의위원회도 이날 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다. 경찰청은 28일부터 내년 3월 말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 한다. 서울경찰청도 딥페이크 성범죄가 처벌 대상임을 경고하고 신고를 당부하는 내용의 ‘긴급 스쿨벨’을 발령했다. 아울러 경찰과 여성가족부 등은 “피해를 당했다면 일단 신고하는 게 먼저”라고 강조했다. 경찰청 사이버범죄 신고시스템(ecrm.police.go.kr)으로 본인이 직접 신고하거나 방송통신심의위원회 홈페이지의 ‘디지털 성범죄 신고’ 배너를 통해 누구나 신고할 수 있다. 이처럼 일상으로 파고든 딥페이크 영상물 범죄를 근절하기 위해선 처벌을 강화해야 한다는 목소리가 나온다. 아동청소년 대상 디지털 성범죄와 달리 성인을 대상으로 한 경우 수사기관의 함정 수사가 불가능한 점도 한계로 꼽힌다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “2020년 개정된 성폭력처벌법상 허위 영상물 등은 유포의 목적이 있어야 처벌이 가능하기에 ‘개인 소장’이거나 ‘단순 시청’이라 주장할 경우 처벌이 쉽지 않다는 맹점이 있다”고 지적했다. 허민숙 국회입법조사처 연구관은 “대화방 단순 참여자라 하더라도 참여하는 사람이 있기에 딥페이크 불법 콘텐츠가 더 확산하는 만큼 연대책임이 반드시 필요하다”고 강조했다.

윤석열 대통령은 27일 ‘딥페이크’(특정 인물의 얼굴 등을 영상에 합성)를 활용한 디지털 성범죄에 대해 강력히 대응하라고 지시했다. 여야 대표들도 대책 마련에 나섰다. 윤 대통령은 이날 국무회의에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “피해자가 미성년인 경우가 많고 가해자 역시 대부분 10대로 드러나고 있다”고 밝혔다. 윤 대통령은 “딥페이크 영상물은 ‘단순 장난’이라고 둘러대기도 하지만 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위”라며 “우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”고 했다. 이어 “관계 당국은 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아 달라”며 “건전한 디지털 문화가 자리매김할 수 있도록 교육 방안도 강구해 달라”고 당부했다. 윤 대통령은 이날 ‘2024 국제 사이버범죄 대응 심포지엄’ 개회식에 참석해 얼굴을 변형한 딥페이크 동영상을 제작하는 과정과 허위 영상을 탐지하는 과정을 참관했다. 한동훈 국민의힘 대표는 페이스북에 “‘N번방 방지법’이 21대 국회에서 통과됐지만, AI의 부작용을 막기 위한 제도·정책의 미비는 신속히 보완돼야 한다”고 적었다. 국민의힘은 29일 국회에서 한 대표 주재로 딥페이크 관계 부처의 현안 보고를 받고 실태 및 대응 방안을 논의한다. 이재명 더불어민주당 대표도 피해자 보호 방안과 딥페이크 제작·배포자에 대한 강력한 처벌규정을 강구하라고 지시했고 민주당은 당 차원의 태스크포스(TF)나 특위를 구성하기로 했다. 국회 여성가족위원회는 다음달 4일 여성가족부 등을 대상으로 긴급 현안 질의를 진행하기로 했다. 최근 텔레그램 등에서 여성의 얼굴과 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 대규모로 발견되며 사회적 문제로 대두됐다. 한편 윤 대통령은 29일 오전 10시 용산 대통령실에서 ‘국정 브리핑 및 기자회견’을 개최한다. 지난 5월 9일 취임 2년 기자회견을 개최한 지 110일 만이며 지난 6월 포항 영일만 석유·가스전 개발과 관련해 국정 브리핑을 가진 뒤 두 번째다. 윤 대통령은 ‘4+1개혁’(연금·의료·교육·노동+저출생) 등 핵심 개혁 과제와 국정 운영 방향을 국민들에게 설명하고 언론의 질문에 답한다. 대통령실 관계자는 “핵심 키워드는 민생·안전·개혁·소통”이라며 “국민들이 궁금해하는 부분을 기자회견에서 말씀드릴 것”이라고 말했다.

인공지능(AI)을 이용해 지인 등의 얼굴을 합성한 ‘딥페이크 영상물’을 텔레그램에서 유포하는 성범죄가 학교·군 등으로 광범위하게 확산하자 정치권은 물론 여성·군인권단체 등 각계각층에서 엄중 처벌을 요구하고 나섰다. 교육부는 실태 파악에 나섰고 경찰도 뒤늦게 특별단속을 실시하기로 했다. 일부 경찰서에는 관련 피해가 접수돼 수사가 진행 중인 것으로 확인됐다. 다만 이미 상당수 텔레그램방이 폐쇄된 데다 유포 목적을 입증하지 못하면 법 적용이 어려운 점 때문에 수사부터 처벌까지는 난항을 겪을 것으로 보인다. 27일 서울신문 취재를 종합하면, 경기 안산상록경찰서에는 지난 주말부터 이날까지 3일간 딥페이크 영상물로 협박을 당했다는 10대 8명의 신고가 접수됐다. 가해자는 피해자들의 이름과 학교 등 신상을 거론하면서 소셜미디어(SNS)에 게시된 피해자들의 사진을 합성해 유포하겠다고 협박한 것으로 전해졌다. 경찰 관계자는 “현재 입건 전 조사(내사) 단계지만, 사안을 검토한 이후 적극적으로 수사하겠다”고 말했다. 이 외에 서울경찰청 사이버수사대도 참여 인원만 22만여명에 달하는 불법합성물 제작 텔레그램 채널과 관련해 입건 전 조사(내사)에 착수했다. 피해 사실을 나중에 알게된 이들이 신고를 접수하면 앞으로 관련 수사는 급격하게 확대될 것으로 전망된다. 엑스(X·옛 트위터)에 올라온 게시글 등을 보면, 텔레그램 딥페이크방에 언급된 학교 수는 400~500곳 정도로 추산된다. 특히 엑스에서 피해 학교 명단을 취합해 알리고 있는 대학생 방서윤(19)씨는 “모교에 피해자가 있다고 해서 취합을 시작했는데 일주일 만에 2000개가 넘는 피해 사실 제보가 들어왔다”며 “가해자들은 ‘잘못한 게 없다’는 태도를 보이는 경우가 많다. 학교 차원의 조치나 수사를 통한 처벌이 이뤄져야 한다”고 전했다. 현재 긴급 실태 조사를 진행 중인 전국교직원노동조합은 “현재 300곳 정도 조사한 결과 40곳에서 실제 피해가 확인됐다”며 “조사가 진행 중인 만큼 피해 학교는 더 늘어날 것”이라고 말했다. 최근 학교를 중심으로 확산하는 딥페이크 영상물 범죄는 같은 학교 학생이나 교사 등 주변 지인을 상대로 하는 경우가 많다. 특정 지역과 학교에서 공통 지인을 찾아 이른바 ‘겹지인방’에 모여 영상물을 공유하고 조롱하기도 한다. 영상물을 유포하겠다며 피해자를 협박하기도 한다. 경찰청에 따르면 올해 7월까지 딥페이크 영상물 관련 범죄로 검거된 피의자 178명 중 131명(73.6%)이 10대다. 딥페이크 영상물 범죄의 심각성이 드러나자 정부는 수사와 실태 파악에 나섰다. 교육부는 17개 시·도교육청별로 딥페이크 성범죄물 피해 현황을 파악하고, 일선 학교에는 예방교육과 피해 신고를 하도록 요청했다. 방송통신심의위원회도 이날 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다. 경찰청은 28일부터 내년 3월말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 실시한다. 다만 일상으로 파고든 딥페이크 영상물 범죄를 근절하기 위해선 처벌을 강화해야 한다는 목소리가 나온다. 아동청소년 대상 디지털 성범죄와 달리 성인을 대상으로 한 경우 수사기관의 함정 수사도 불가능한 점도 한계로 꼽힌다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “2020년 개정된 성폭력처벌법상 허위영상물 등은 유포의 목적이 있어야 처벌이 가능하기에 ‘개인 소장’이거나 ‘단순 시청’이라 주장할 경우 처벌이 쉽지 않다는 맹점이 있다”고 지적했다. 허민숙 국회입법조사처 연구관은 “대화방 단순 참여자라 하더라도 참여하는 사람이 있기에 딥페이크 불법 콘텐츠가 더 확산하는 만큼 연대책임이 반드시 필요하다”고 강조했다.

최근 대학가에 이어 10대 학생들 사이에서도 딥페이크(AI 기반 합성 이미지) 불법 합성물 범죄가 확산하는 가운데 이를 우려하는 여성들을 조롱하는 글들이 다수 올라와 공분을 일으키고 있다. 27일 엑스(X·옛 트위터) 등 소셜미디어(SNS)에는 “딥페이크가 별거 아니라는 중2 학생들”이라는 글과 함께 온라인 커뮤니티에 중학생 이용자들이 올린 댓글을 캡처한 사진이 올라왔다. 해당 사진에는 “딥페이크하는 사람들도 예쁜 사람만 고른다”, “성폭행 안 할거니까 걱정하지 마시라고”, “딥페이크 하나 가지고 난리부르스 떠냐” 등 조롱 글이 담겨 있다. 또 다른 중학생은 “오늘부터 셀카 올리는 여자들의 사진을 긁어모아 딥페이크를 하겠다. 딥페이크 제작자도 거를 ○○○들이 허언증인지 자의식 과잉인지 너무 설친다”며 충격적인 발언도 서슴지 않았다. 중학생들뿐만이 아니다. 지난 26일 대학생 커뮤니티 에브리타임에도 “딥페이크 사건 호들갑 지겹다”는 글이 올라오기도 했다. 해당 글에는 “딥페이크 만든 놈들 역겹고 더러운 거 맞지만 여자들 호들갑에 공감하긴 싫다. 사회적으로 여자들은 남자들에게 공감한 적이 단 한번도 없기 때문”이라는 내용이 담겼다. 범죄의 표적이 될까 불안에 떠는 여학생들을 향해 “일단 불안에 떨고 있는 ○○대 여성분들, 80%는 안심하고 발 뻗고 자도 돼. 너 그 정도 급 아니야”, “딥페이크 범죄의 표적은 페미니스트가 아닌 예쁜 여성들만 해당한다. 얼굴 못생긴 사람들은 안심해도 된다”는 조롱글도 넘쳐났다. 앞서 전날 엑스의 한 공개 계정에는 텔레그램 대화방을 통해 딥페이크 음란물이 유포되고 있다며, 피해 사례가 알려진 대학들의 명단이 올라왔다. 이 계정이 지목한 텔레그램 대화방 참여자들은 친구, 교사 등 지인을 넘어 친족 사진까지 음란물 제작용으로 공유하고 있는 것으로 알려졌다. 해당 게시글이 온라인상에 퍼지면서 네티즌들 사이에선 ‘혹시 나도 딥페이크 합성의 대상이 된 게 아니냐’는 불안감이 확산했다. 피해 방지를 위해 일부 여성들은 SNS에 올린 자신의 사진을 삭제하기도 했다. 증가하는 딥페이크 범죄…방심위 대책 마련 착수국회 행정안전위원회 소속 조은희 국민의힘 의원실이 지난 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 누구나 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 10대들도 자주 접하면서 딥페이크 음란물이 범죄라는 인식이 옅어졌다는 지적도 나온다. 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐다. 방송통신심의위원회는 27일 실·국장 회의를 소집, 딥페이크 음란물 확산 사태 관련 대책 마련에 착수했다. 28일에는 전체 회의를 열어 의논한 내용을 확정할 방침이다. 방심위는 먼저 공식 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하기로 했으며, 관련 모니터링 요원을 배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 또 텔레그램과 즉각 협의할 수 있는 핫라인을 개설, 신속한 피해 확산 차단에 나설 계획이다.

인공지능(AI)를 활용, 지인 등 사진과 음란물을 합성하는 ‘딥페이크 음란물’ 제작·유포 범죄가 전국적으로 기승을 부리는 가운데 경남에서도 피해 우려가 커가고 있다. 27일 경남교육청은 하동에서 발생한 중학생 딥페이크 음란물 피해 학생이 4개교 12명이라고 밝혔다. 가해 학생은 1학년 남학생 6명이다. 이 사건은 지난 3월 27일 1학년 남학생 6명이 텔레그램 단체방을 만들어 피해 여학생들 사진을 합성하고 공유한 게 발단이다. 가해 학생이 영상 존재를 선배에게 이야기하면서 수면으로 올랐다. 피해 학생들은 지난달 말 부모와 지인에게 피해 사실을 알렸다. 교육당국은 지난달 가해 학생에게 긴급조치(접촉·보복행동 금지)를 내렸다. 이달에는 피해자 측 보호자들과 면담을 진행했다. 교육당국과 경찰은 조사·수사를 진행 중이다. 가해 학생들이 공유한 사진은 외부로 유출되진 않았고 현재는 전부 삭제된 상태다. 경남도교육청은 피해 학생과 보호자를 대상으로 심리상담과 치료 지원을 하고 있다. 학생들은 정상 등교 중이다. 가해 학생 징계 등을 논의하는 학교폭력대책심의위원회는 29일 열릴 예정이다. 이러한 딥페이크 음란물 피해는 올해 하동 뿐 아니라 경남지역 학교에서 총 24건이 접수됐다. 지역별로 창원·진주·김해 각 5건, 통영 4건, 거제 2건, 사천·함안·하동 각 1건이다. 학년별로는 고등학교 10건, 중학교 13건, 초등학교 1건이다. 다만 경찰 수사를 거쳐 범죄 혐의가 인정되더라도, 일부 가해 학생은 촉법소년인 까닭에 형사처벌은 받지 않을 전망이다. 경남교육청은 청소년들 피해를 막을 수 있도록 관련 교육·활동을 강화할 예정이다. 전 학교장 대상 딥페이크 등 디지털 성범죄 예방 긴급회의를 연 경남교육청은 다음 달 디지털 성범죄 예방 교육 집중 시행, 학교폭력 예방 교육 존중의 약속 만들기 써클 추진 등도 이어갈 방침이다. 배경환 도교육청 민주시민교육과장은 “초중고교 학생들이 손쉽게 앱에 접근해 영상·사진 등을 합성할 수 있어 디지털 성범죄 사건이 다수 발생하고 있는 것으로 보인다”며 “앱 운영 업체에 음란물 차단 등 협조를 구하고 성인지 교육과 사이버범죄 예방 교육 등을 강화하겠다. 경찰, 경남도와도 공조해 성범죄에 대응하겠다”고 말했다.

지출 증가율이 3.2%에 그친 ‘짠물 예산안’인 2025년 예산안에도 곳곳에 이색 예산이 숨어 있다. 국민 안전을 고려한 안전 예산과 격차 해소에 방점을 둔 다양한 문화 예산이 눈길을 이끈다. 정부가 27일 발표한 ‘2025년 예산안’에 따르면 전기차 충전 인프라의 안전성을 높이기 위해 6188억원을 들여 과충전을 방지하는 전기차 스마트제어 충전기가 현재 2만 3000기에서 내년 9만 5000기로 대폭 늘어난다. 일반 장비로 진압이 어려운 전기차 화재를 대비하기 위해 43억원을 투입해 특수 진압장비도 도입된다. 최근 잇단 전기차 화재로 확산한 전기차 공포를 잠재우려는 취지다. 첨단·지능 범죄를 예방하기 위해 보이스피싱 조기 경보를 도입해 보이스피싱 전화번호 전국 차단 시간을 기존 48시간에서 10분으로 줄인다. 딥페이크 인공지능(AI) 영상과 음성을 분석하기 위한 예산 27억원도 편성했다. 재판의 심리 과정을 효율화하기 위해 사법부에 AI를 도입한다. 문화 분야에서는 전국 8개 지역에 국산 게임과 전략 종목을 중심으로 e스포츠 내셔널리그를 출범시킨다. 게임 콘텐츠를 바탕으로 지역 소비를 활성화하겠다는 구상이다. 지난 3월 문을 닫았던 서울 대학로의 대표 소극장 ‘학전’을 재대관한다. 국립현대미술관 안에 어린이미술관을 만들고 국립극단에 어린이청소년극단도 꾸린다. 취약계층 아동·청소년의 문화 격차 해소를 위해 18억원을 들여 각 지방자치단체 문화재단의 협조로 미디어아트와 영상 제작 등 교육을 제공하는 ‘꿈의 스튜디오’ 10곳을 세운다. 내년부터 저소득층이 공연 관람 등에 이용하는 통합문화이용권(문화누리카드)의 1인당 지원금도 연간 13만원에서 14만원으로 확대된다.

최근 ‘딥페이크’ 합성 사진 및 영상이 단체 대화방에서 공유되며 피해가 확산하는 가운데 여군을 상대로 한 딥페이크 대화방이 공개돼 파장이 커지고 있다. 문제의 대화방 참가자는 900명이 넘는 것으로 알려졌다. 이들은 딥페이크로 합성한 여군들을 ‘군수품’이라고 칭하며 능욕했다. 해당 대화방 공지 사항이라며 공유되는 캡처 이미지에 따르면 해당 대화방에 참가하기 위해서는 군수품으로 만들고 싶은 여군의 군복 사진뿐 아니라 전화번호와 소속, 계급과 나이 등 개인정보를 운영자에게 제출하거나 현역 군인임을 인증해야 한다. 혹은 인공지능(AI)을 활용해 합성을 할 수 있는 합성장인, 관리자가 지정한 여군에게 ‘능욕 메시지’를 보내고 반응을 인증 사진을 보내야 가입이 허용됐다. 최근 인하대의 한 동아리 여학생들이 1200명이 참여한 텔레그램 대화방에서 불법 합성물 성범죄 피해를 본 사실이 알려져 논란이 커지자 이들은 “당분간 합성장인 혹은 관리자가 지정한 능욕 메시지 보내기 미션을 수행한 사람 외에는 받지 않겠다”고 추가 공지를 내걸었다. 또한 여군에 대한 비하 발언도 포함돼 있어 충격을 더했다. 해당 게시물에는 “여군들을 용서할 수 없다”며 “벗겨서 망가뜨릴 것”이라는 설명이 따랐다. 이는 지난 5월 강원 인제 육군 제12보병사단 신병교육대에서 발생한 훈련병 사망사건이 여군 중대장의 가혹한 지시로 발생한 것에 대한 반발심을 담은 표현이다. 작성자는 “같이 근무했던 주대장, 소대장, 부소대장의 알몸이 궁금하지 않느냐”면서 딥페이크 합성으로 나체를 공개하겠다는 의지를 드러냈다. 딥페이크 기술이 발전하면서 이를 이용한 범죄도 빠르게 확산하고 있다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 특히 10대 시절부터 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 이를 자주 접하게 되면서 딥페이크 음란물이 범죄라는 인식이 옅어질 수 있다는 우려가 나온다. 대학은 물론 중·고교까지 피해가 확산하면서 “내 사진도 ‘음란물’이 돼 온라인을 떠돌 수 있다”는 공포에 불안감이 확산하고 있다. 방송통신심의위원회(방심위)도 텔레그램 단체 대화방을 중심으로 확산한 딥페이크 성적 허위영상물 관련 대응에 나섰다. 방심위는 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사 의뢰하기로 했다. 매일 열리는 전자심의를 통해 성적 허위영상물을 24시간 이내에 시정 요구하겠다고도 했다.

중국의 안보 위협에 시달리는 대만에서 최근 큰 인기를 끌고 있는 소셜미디어(SNS) 성격분석 인공지능(AI) 애플리케이션(앱)이 중국 업체가 개발한 것으로 알려지면서 주의를 요구하는 목소리가 나왔다. 25일 대만 자유시보는 SNS를 AI로 분석하는 앱인 로스트 마스터 모니카(Lost Master Monica·중국 명 吐槽大師)를 추적 조사한 결과 제작회사가 중국회사로 파악됐다고 밝혔다. 로스트 마스터 모니카 앱 이용자는 해당 앱의 웹페이지 및 애플리케이션에서 자신의 인스타그램, 엑스(X), 비즈니스 SNS 링크드인 등의 계정을 입력한다. 이후 AI가 해당 계정을 분석해 성격유형검사(MBTI)와 유사한 솔직하고 유머러스한 피드백을 제공한다. 자유시보에 따르면 해당 앱은 중국 포털사이트 바이두의 기업 신용조회기구 ‘아이치차’(愛企查)를 인용해 30대인 샤오훙이 2023년 7월 중국 베이징에 설립한 ‘북경홍색호접과학기술유한공사’ 산하 제품이다. 자유시보는 “이 앱은 중국이 사용하는 간체자, 대만이 사용하는 번자체 등을 지원하는 등 인터페이스가 매우 정교해 네티즌이 해당 앱을 다운하도록 유도하는 목적이 있다”며 “주공략 대상이 인스타그램, 엑스, 페이스북, 등인 만큼 중국 내수 시장이 아닌 해외 시장 공략에 중점을 두고 있다”고 분석했다. 차스차오 대만과학기술대학 정보안전센터 주임은 개인 사용자가 해당 앱을 내려받아 SNS 계정을 등록하면 중국업체가 사용자의 행동을 모니터링하고 개인정보를 확인할 수 있다고 설명했다. 차스차오 주임은 중국 AI가 대화 과정 중에 정보를 왜곡·조작하거나 허위 사실을 유포해 국가 안보를 위태롭게 하는 ‘인지전’이 발생할 수 있다고 우려하며 해당 앱이 생성한 결과를 너무 지나치게 중요시하지 말라고 강조했다. 이어 “출처가 불분명한 서비스 제공업체를 통해 개인정보 유출 리스크에 대한 경각심이 있어야 한다”며 믿을 수 있는 기업을 선택할 것을 당부했다. 선보양 대만 입법위원(국회의원)도 “중국 기업 및 중국 자본이 투입된 제품의 경우 사용자의 위치, 연락처 및 연계되는 SNS 계정 등에 대한 신뢰 문제가 발생할 수 있다”고 말했다. 그러면서 “중국 제품은 중국 정부가 관련 법률에 따라 기업에 합법적으로 자료 제출을 요구할 수 있다”고 덧붙였다. “中동영상 플랫폼 차단해야” 주장 나오기도앞서 대만에서는 중국 동영상 플랫폼 틱톡과 더우인을 차단해야 한다는 주장이 제기되기도 했다. 지난 1월 틱톡과 더우인에서 대만 대선에서 개표 조작을 했다는 가짜 뉴스 동영상이 퍼지자 대만 남부 성공대학 리중셴 교수는 “더우인 배후에 중국이 있다”며 “정확한 정보를 전달하는 것이 아니라 유언비어를 전파하고 정부를 비방하는 소문을 퍼뜨려 대만 사람들 인지에 영향을 끼치려 하고 있다”고 주장했다. 또 “더우인이 중국의 SNS이자 정보전 도구”라며 “정부가 만약 방어하지 않고 더우인 통제가 언론 자유에 영향을 미치는 것이라고 여긴다면 ‘망국’을 기다리는 꼴”이라고 언급하기도 했다. 리중셴 교수는 특히 더우인을 사용하는 경우 개인 정보 유출 우려가 있지만 젊은이들은 더우인 영상이 재미있다면서 이를 신경 쓰지 않는다고 지적했다.

서울시는 국내 최초로 전 과정에 생성형 인공지능(AI)을 활용한 ‘2024 서울 AI스토리공모전 <테크놀서울>’을 개최해, 지난달 16일부터 지난 15일 한 달간 스토리 3044건 생성, 응모 1025건을 기록하며 성공적으로 마쳤다고 23일 밝혔다. AI스토리공모전은 AI를 처음 사용하더라도 클릭 몇 번만으로 나만의 스토리를 생성할 수 있도록 하여, 많은 시민들이 생성형 AI를 접할 수 있는 기회를 제공했다. 공모전 플랫폼 ‘루이스’는 프롬프트 엔지니어링 자동화 기술과 AI 모델들을 결합한 AI 스토리 창작 플랫폼으로, 이 플랫폼에서 제공하는 키토크 프롬프트(명령어)를 활용하면 다양한 스토리를 생성할 수 있다. 이번 공모전에 참여자들이 가장 많이 사용한 테마 키토크 프롬프트는 ‘스마트 도시에서’ ‘돌봄 로봇이 함께하는’ ‘디지털 세상인’ 순으로, 혁신 기술 선도 도시로서의 서울 이미지를 확산하고자 했던 공모전의 기획 의도가 담긴 결과이다. 시는 이런 프롬프트를 기반으로 ▲1인가구 어르신인 주인공의 유일한 동반자이자, 집안일을 돕는 ‘돌봄로봇’의 이야기 ▲도심항공모빌리티(UAM)을 타고 재난 현장에 신속하게 출동한 의사 이야기 ▲청각장애인 주인공이 ‘수어통역 로봇’의 특별한 우정을 그린 이야기 등 첨단 기술의 적용도 약자가 먼저라는 서울의 시정 가치를 드러내는 다채로운 이야기가 쏟아졌다. 이밖에 ‘슈퍼히어로’, ‘타임루프’, ‘두뇌 싸움이 펼쳐지는’ 등 독특한 프롬프트를 사용해 생성된 ▲한강의 초능력 상어 ▲로봇요리대회 ▲어르신들의 인기만점 기억여행사 ▲舊서울의 방구석 백수가 뉴서울의 택배 기사가 되다 등 기발한 주제의 스토리들도 눈길을 끌었다. 특히 이번 공모전은 심사 과정 전반에도 AI를 도입한다. 생성형 AI 활용 심사는 스토리의 서울시 정책 반영도, 독창성, 창의성, 몰입도, 완성도 등을 심사기준으로 설정하여 객관적인 심사가 가능하다. 심사를 통해 본상 3작품(정책동행상, 참신매력상, 테크놀서울상)을 선정하고, 가장 많은 공감수를 얻은 4개 작품을 인기상으로 선정, 오는 30일 ‘내 손안에 서울’ 공모전 페이지에서 발표할 예정이다. 본상 수상자에게는 서울시장 상장과 상금이 부여되며, 수상작 등 스토리를 숏폼 영상으로 제작해 서울시 소셜미디어 채널과 ‘서울 스마트 라이프 위크’ 전시장 등 홍보 매체를 통해 배포할 계획이다. 왕희순 서울시 콘텐츠담당관은 “이번 AI스토리공모전 ‘테크놀 서울’을 통해 생성형AI 활용 경험과 약자와 동행하는 ‘첨단기술 선도 도시 서울’을 그려보는 기회를 제공했다”며 “참신한 스토리들을 활용해 올해 처음 개최되는 ‘서울 스마트 라이프 위크’와 서울의 스마트 도시 정책 알리기에 최선을 다하겠다”고 말했다.

최근 인하대에서 여학생 사진을 음란물과 합성해 유포한 ‘딥페이크 성착취물’ 사건이 발생한 가운데 딥페이크 기술을 이용한 10대 범죄가 급증한 것으로 나타났다. 청소년들이 심각한 사회적 범죄를 대수롭지 않게 생각하면 안 된다는 점에서 관련 교육이 시급하다는 지적이 나온다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가세다. 2020년 6월 성폭력 범죄의 처벌 등에 관한 특례법 개정안이 시행됐고 불법 합성물 제작·유포에 대한 처벌 근거가 마련됐다. 허위 영상물 범죄 피의자를 연령별로 살펴보면 10대에 집중돼 있다. 지난해 기준 허위 영상물 범죄 피의자 120명 가운데 10대는 91명(75.8%)으로 4명 중 3명꼴이었다. 이어 20대는 24명(20.0%), 30대 4명(3.3%), 60대 1명(0.8%) 순이었다. 전체 피의자 중 10대가 차지하는 비중도 2021년 65.3%, 2022년 61.0%에서 지난해 75.8%로 크게 늘었다. 딥페이크 기술은 신종 학교폭력 등으로도 악용되고 있다. 부산시교육청과 경찰 등에 따르면 부산의 한 중학교 학생 4명은 같은 학교 학생 등 18명, 교사 2명의 얼굴을 인공지능(AI)을 활용해 음란물과 합성한 사진 80여장을 만들어 공유했다. 이에 관할 교육지원청은 최근 이 학생들에 대한 학교폭력심의위원회(학폭위)를 열었다. 청소년들은 소셜미디어(SNS)와 애플리케이션(앱) 등을 통해 딥페이크 기술을 쉽게 익힐 수 있으며 제작 의뢰도 어렵지 않다. 더 심각한 문제는 이를 자주 접하면서 딥페이크 음란물이 피해자에게 큰 타격을 입히는 범죄라는 인식이 옅어질 수 있다는 점이다. 조 의원은 “관련 범죄가 더 기승을 부릴 수 있는 만큼 제도적 보완책이 시급하다”고 했다. 전문가들은 10대들이 경각심을 갖도록 예방 교육을 강화해야 한다고 주문했다. 이수정 경기대 범죄심리학과 교수는 “연령이 어릴수록 ‘장난’이라고만 생각할 수 있다”며 “(딥페이크 음란물로) 처벌받는 중고등학생 시기보다 더 어릴 때부터 교육을 강화해야 한다”고 말했다. 그는 “딥페이크 기술은 코딩 수업 등을 통해서도 배울 수 있으므로 이 과정에서 윤리적·법적인 부분도 함께 다뤄야 한다”고 강조했다.

최근 인하대에서 여학생 사진을 음란물과 합성해 유포한 ‘딥페이크 성착취물’ 사건이 발생한 가운데, 딥페이크 기술을 이용한 10대 범죄가 급증한 것으로 나타났다. 청소년들이 심각한 사회적 범죄를 대수롭지 않게 생각해서는 안 된다는 점에서 관련 교육이 시급하다는 지적이 나온다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가세다. 2020년 6월에 성폭력범죄의 처벌 등에 관한 특례법 개정안이 시행됐고, 불법 합성물 제작·유포에 대한 처벌 근거가 마련됐다. 허위 영상물 범죄 피의자를 연령별로 살펴보면 10대에 집중돼 있다. 지난해 기준 허위 영상물 범죄 피의자 120명 중 10대는 91명(75.8%)으로 4명 중 3명꼴이었다. 이어 20대는 24명(20.0%), 30대 4명(3.3%), 60대 1명(0.8%) 순이었다. 전체 피의자 중 10대가 차지하는 비중도 2021년 65.3%, 2022년 61.0%에서 지난해 75.8%로 크게 늘었다. 딥페이크 기술은 신종 학폭(학교폭력) 등으로도 악용되고 있다. 부산시교육청과 경찰 등에 따르면 부산의 한 중학교 학생 4명은 인공지능(AI)으로 같은 학교 학생 등 18명 등의 얼굴과 음란 사진을 합성한 80여장을 만들어 공유했다. 이에 관할 교육지원청은 최근 이 학생들에 대한 학교폭력심의위원회(학폭위)를 열었다. 청소년들은 소셜미디어(SNS)와 애플리케이션(앱) 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고, 제작 의뢰도 어렵지 않다. 문제는 이를 자주 접하면서 딥페이크 음란물이 피해자에게 큰 타격을 입히는 범죄라는 인식이 옅어질 수 있다는 점이다. 조은희 의원은 “피해자에게 씻을 수 없는 상처를 주는 디지털 성범죄가 청소년층에서 마치 놀이처럼 퍼지고 있다”며 “앞으로 딥페이크 기술 발전으로 관련 범죄가 더욱 기승을 부릴 수 있는만큼 제도적 보완책이 시급하다”고 강조했다. 전문가들은 10대들이 경각심을 갖도록 예방 교육을 강화해야 한다고 했다. 이수정 경기대 범죄심리학과 교수는 “피해자는 돌이킬 수 없는 심각한 피해를 보는데 연령이 어릴수록 이런 본질을 상상하지 못하고 ‘장난’이라고만 생각할 수 있다”고 지적했다. 그는 “(딥페이크 음란물로) 처벌받는 중고등학생 시기보다 더 어릴 때부터 교육을 강화해야 한다”며 “딥페이크 기술은 코딩 수업 등을 통해서도 배울 수 있으므로 이 과정에서 윤리적·법적인 부분도 함께 다뤄야 한다”고 강조했다.

독립운동가들이 인공지능(AI) 기술로 되살아나 광복 소식을 듣고 활짝 웃었다. 제79주년 8·15 광복절을 앞둔 지난 13일 유튜브 채널 ‘하일광’에는 ‘멈춰있는 사진 속 독립운동가에게 AI로 광복을 전해드렸더니 이런 영상이’라는 제목의 영상이 올라왔다. 44초 분량의 영상에는 독립운동가 안중근(1879~1910), 김구(1876~1949), 유관순(1902~1920), 김마리아(1892~1944), 홍범도(1863~1943), 윤봉길(1908~1932), 김원봉(1898~1958) 선생이 활짝 웃으며 양손을 머리 위로 번쩍 들어 올려 만세 하는 모습이 담겼다. 이들의 모습과 함께 애국지사 오희옥 할머니가 부르는 애국가가 울려퍼졌다. 오 할머니의 할아버지는 오인수 의병장, 아버지는 오광선 광복군 장군이며, 어머니 정현숙 지사와 언니 오희영 지사도 독립운동가다. 하일광은 “그날의 시간에 멈춰있는 독립운동가분들께 AI로 광복을 전해드리면 기뻐하시지 않을까 하여 제작하게 된 영상”이라며 “하늘에선 사진 속 무거운 표정이 아닌 밝은 웃음으로 함께 하길 바란다”고 전했다.이 영상은 15일 오후 3시 기준 16만 3000회의 조회수를 기록하고 2만이 넘는 ‘좋아요’를 받았다. 또한 “영상 감사하다”, “애국지사분들이 계셨기에 오늘날의 대한민국이 있다”, “마음이 뭉클해진다”, “눈물이 핑 돈다” 등 3500여개의 댓글이 달렸다.

SK텔레콤이 광복 79주년을 맞아 자체 인공지능(AI) 기술로 과거 영상과 음성을 선명하게 복원하는 디지털 프로젝트 ‘815 리마스터링’을 진행했다고 14일 밝혔다. 이번 작업에 사용된 기술은 SK텔레콤의 AI 미디어 개선·복원 솔루션 ‘슈퍼노바’로, AI와 딥러닝을 기반으로 화질을 복원하고 초해상화 기술을 통해 원본 콘텐츠의 품질을 높였다. 복원된 콘텐츠 중 하나는 광복 직후인 1945년 8월 16일, 전날 광복 사실을 몰랐던 사람들이 거리로 쏟아져 나와 서울 거리에서 만세 행렬을 벌였던 모습을 담은 28초 분량의 영상이다. 복원된 음원은 현존하는 가장 오래된 것으로 추정되는 애국가 육성 음반이다. 이 음원은 대한인국민회가 1942년 8월 29일 국치(國恥)일에 독립의 각오를 다지며 제작·배포한 앨범에 수록된 곡으로 알려졌다. 복원된 영상과 음원은 SK텔레콤 공식 유튜브 채널에서 시청할 수 있으며 향후 독립기념관 내에도 전시할 계획이다. SK텔레콤 관계자는 “이번 프로젝트가 독립 선열의 희생을 되새기고, 광복의 기쁨을 나누는 계기가 되기를 바란다”고 말했다.

K드라마와 한국인의 일상을 실감 나게 체험할 수 있는 전시관이 문을 열었다. 문화체육관광부와 한국관광공사는 “12일부터 11월 12일까지 3개월간 서울 종로구 갤러리 강화에서 ‘K 드라마 스포트라이트’ 전시를 개최한다”고 12일 밝혔다. ‘K 드라마 스포트라이트’ 전시관은 국내 인기 드라마 속 다양한 소재에 증강현실(AR), 가상현실(VR) 등의 기술을 접목해 관람객에게 새로운 한류 관광 경험을 제공하기 위해 조성됐다. 예컨대 ‘이상한 변호사 우영우’, ‘더 글로리’ 등 관광공사가 보유한 드라마의 지식재산권(IP)을 활용해 서울 백인제 가옥, 청주 중앙공원 등 드라마 촬영지에 대한 관광 정보를 제공하거나 가상현실 속에서 사진을 찍을 수 있게 하는 식이다. 1, 2층으로 나뉜 전시관엔 총 12개의 테마 공간이 들어찼다. 관람객은 주연배우가 돼 ‘레드카펫 포토라인’에 서는 것을 시작으로 드라마 촬영지와 인터랙티브 기술로 구현한 포토존, 드라마 주연배우 이미지를 적용한 AI 아바타 만들기 등 특별한 체험을 할 수 있다.전시관 내부는 그야말로 ‘인스타그래머블’(개인 소셜미디어에 일상 공유하는 것을 일컫는 신조어)하다. 단순 관람을 넘어서 관람객이 스스로 방문 콘텐츠를 생산하고 확산시킬 수 있도록 다양한 시각적 장치를 마련했다. ‘데일리케이션’(Daily+Vacation, 한국인들의 일상생활을 그대로 경험하고, 한국의 최신 트렌드를 빠르게 따라가려는 외국인들의 한국 여행 트렌드) 강화를 염두에 둔 장치도 조성해 뒀다. 12일 열린 개막식에는 관광공사 관계자와 드라마 ‘선재 업고 튀어’의 배우 송건희 등이 참석했다. 송건희는 이번 전시를 위해 제작된 VR 영상에 등장해 한강에서 라면 먹기, 해방촌 신흥시장 카페투어 등 한국의 일상을 간접 체험하는 데일리케이션을 선보였다. 전시는 매일 오전 10시~오후 7시(토요일은 오후 8시) 운영된다. 누구나 무료로 관람할 수 있다. 전시장 곳곳에 숨겨둔 미션 게임을 완료하면 기념품도 준다. 유진호 관광공사 관광콘텐츠전략본부장은 “한류 대표 콘텐츠인 드라마에 신기술을 더해 콘텐츠 투어리즘의 다양한 영역을 보여줄 것”이라고 밝혔다.

서울 강서구가 어르신들의 디지털 격차 문제를 해소하기 위해 팔을 걷었다. 강서구는 스마트폰 이용에 어려움을 겪는 중장년층을 위한 ‘강서 스마트한교실’을 운영한다고 7일 밝혔다. 이번 교육은 일상생활에 편리함을 주는 디지털 기기를 누구나 손쉽게 활용할 수 있도록 돕기 위해 마련됐다. 수업은 ▲기초반(스마트폰 기본 기능, 연락처 관리, 교통·쇼핑 앱 등) ▲심화반(은행 앱, 온라인 쇼핑, ChatGPT 등)으로 구분해 수준별로 진행한다. 기초반은 와이파이 켜기, 문자 메시지 보내기, 사진 촬영, 길 찾기 등 기본적인 스마트폰 사용법과 무인 자동화 기기(키오스크) 사용법을 배울 수 있다.심화반은 온라인 쇼핑 및 은행 앱 사용, 짧은 동영상(숏폼) 제작, ChatGPT 인공지능 앱 활용 등의 내용으로 구성됐다. 보이스피싱 예방, 저작권 보호 등 교양 수업도 이뤄지며 반복 학습을 통해 어르신들이 디지털 기기 사용에 익숙해질 수 있도록 돕는다. 기초반 3개, 심화반 2개 총 5개 반별로 20명씩, 총 100명을 선착순으로 모집한다. 수강을 희망하는 어르신 누구나 1개 반을 선택해 구청 교육지원과로 전화하면 된다. 수업은 오는 9월부터 11월까지 반별로 총 20회 진행된다. 기초반은 화곡2동 주민센터 3층 강의실과 등촌3동 주민센터 3층 강의실에서, 심화반은 강서평생학습관 1층 강의실에서 운영된다. 무료 강좌며, 참여자는 스마트폰(안드로이드)만 지참하면 된다.

중국이 기밀 우주선을 통해 미지의 물체를 우주 궤도에 방출했다는 ‘의혹’이 꾸준히 제기된 가운데, 외부에 공개된 적이 없는 기밀 우주선을 포착했다는 주장이 나왔다. 스페이스닷컴 등 우주전문매체의 5일(이하 현지시간) 보도에 따르면, 오스트리아 오버외스터라이히주(州)에 거주하는 아마추어 천문학자 펠릭스 쇼프뱅커는 전문가용 망원경을 이용해 지구 밖을 관찰하던 중 해당 물체를 포착했다. 쇼프뱅커는 “14인치 망원경과 위성을 자동으로 시야 중앙에 배치해 추적할 수 있는 여러 장비를 이용했다”면서 “영상 끝부분에 보이는 것은 지금까지 공개된 적이 없는 장치로, 태양 전지판인지 안테나인지 식별이 불가능했다”고 말했다.쇼프뱅커가 촬영한 영상을 토대로 분석했을 때, 해당 우주선은 중국이 지난해 12월 창정-2F 로켓에 실어 우주궤도에 진입시킨 ‘비밀 우주선’ 센룽으로 추정된다. 센룽은 재활용이 가능한 무인 우주왕복선으로, 현재까지 7개월이 넘는 시간 동안 우주 궤도에 머무르고 있다. 이번 영상 자료에 따르면, 중국 비밀 우주선 센룽의 길이는 약 10m로, 미국 우주군이 운영 중인 기밀 우주선 X-37B보다 긴 것으로 추정된다. 다만 영상을 촬영한 쇼프뱅커는 “우주선이 비춰지는 각도에 따라 특정 기능이 가려질 수 있기 때문에 예상 길이와 실제가 다를 수 있다”고 설명했다. 이어 “영상에서는 날개가 제대로 포착되지 않아 날개 길이는 추정할 수 없었다”면서 “이 우주선은 일반 비행기처럼 앞을 향하는 코를 가진 것처럼 보인다”고 전했다. 중국의 기밀 우주선 ‘센룽’의 목적은? 앞서 지난 5월 미국 우주군 산하의 우주영역인식(space domain awareness) 부서는 중국의 기밀 무인 왕복선인 셴룽이 최근 우주에 물체를 방출했으며, 이를 ‘59884’(국제지정분류기호 2023-195G)로 분류했다. 미국 우주군은 셴룽에서 지난 5월 24일 미지의 물체가 우주로 방출됐다고 보고 있으며, 하버드-스미소니언 천문학자인 조나단 맥도웰 박사 역시 이에 동의했다.맥도웰 박사는 자신의 엑스(옛 트위터)에 “셴룽에서 방출된 미지의 물체는 임무 종료 또는 궤도 이탈 전에 방출된 하드웨어의 조각일 가능성이 있다”면서 “셴룽이 처음 발사됐을 당시에도 비슷한 ‘미스터리 물체 방출’이 있었다”고 전했다. 일각에서는 우주로 방출된 물체가 다른 우주선이나 위성의 포획 또는 근접 기동에 사용되는 도구일 가능성을 제기하기도 했다. 실제로 셴룽 우주선은 두 번째 임무 도중 테스트의 일환으로 ‘어떠한 물체’를 발사해 타 인공위성의 포획 과정을 수행하기도 했었다. 셴룽과 셴룽에서 방출된 물체의 정체는 모두 베일에 싸여있다. 중국 정부가 셴룽 우주선의 이미지나 상세 정보를 공개하지 않고 있어 중국 외부에서는 이를 ‘기밀 우주선’이라고 부른다. 다만 현재까지 알려진 내용에 따르면, 해당 우주선은 새로운 탑재물을 싣고 궤도를 운항하는 테스트를 위해 사용되는 재사용 우주선이며, 왕복 우주선인 만큼 임무를 수행한 후에는 지구 활주로에 착륙할 수 있도록 제작됐다는 사실 등이다. 또 창정-2F 로켓에 실려 발사된 점을 미뤄 봤을 때, 고도 2000㎞ 이하의 지구 저궤도에 머물 것으로 추정된다. “우주산업 선점해야”…미국‧중국 비밀우주선 경쟁 치열 미국에 이어 중국이 세부사항을 공개하지 않은 기밀 우주선을 우주로 쏘아올린 배경에는 우주 공간에서도 격화하는 미중간 경쟁이 있다. 전문가들은 미국과 중국의 기밀 우주선이 상대국에 대한 감시나 우주 쓰레기를 처리한다는 명목 하에 발사됐으나, 사실상 타 국가의 위성을 노린 공격 기술 개발 등 국가 안보 차원의 임무를 수행할 것으로 보고 있다. 더불어 희귀 자원 채굴 등을 목적으로 하는 우주 탐사 분야를 선점하기 위한 관련 실험도 병행될 것으로 추측된다.

중국이 기밀 우주선을 통해 미지의 물체를 우주 궤도에 방출했다는 ‘의혹’이 꾸준히 제기된 가운데, 외부에 공개된 적이 없는 기밀 우주선을 포착했다는 주장이 나왔다. 스페이스닷컴 등 우주전문매체의 5일(이하 현지시간) 보도에 따르면, 오스트리아 오버외스터라이히주(州)에 거주하는 아마추어 천문학자 펠릭스 쇼프뱅커는 전문가용 망원경을 이용해 지구 밖을 관찰하던 중 해당 물체를 포착했다. 쇼프뱅커는 “14인치 망원경과 위성을 자동으로 시야 중앙에 배치해 추적할 수 있는 여러 장비를 이용했다”면서 “영상 끝부분에 보이는 것은 지금까지 공개된 적이 없는 장치로, 태양 전지판인지 안테나인지 식별이 불가능했다”고 말했다.쇼프뱅커가 촬영한 영상을 토대로 분석했을 때, 해당 우주선은 중국이 지난해 12월 창정-2F 로켓에 실어 우주궤도에 진입시킨 ‘비밀 우주선’ 센룽으로 추정된다. 센룽은 재활용이 가능한 무인 우주왕복선으로, 현재까지 7개월이 넘는 시간 동안 우주 궤도에 머무르고 있다. 이번 영상 자료에 따르면, 중국 비밀 우주선 센룽의 길이는 약 10m로, 미국 우주군이 운영 중인 기밀 우주선 X-37B보다 긴 것으로 추정된다. 다만 영상을 촬영한 쇼프뱅커는 “우주선이 비춰지는 각도에 따라 특정 기능이 가려질 수 있기 때문에 예상 길이와 실제가 다를 수 있다”고 설명했다. 이어 “영상에서는 날개가 제대로 포착되지 않아 날개 길이는 추정할 수 없었다”면서 “이 우주선은 일반 비행기처럼 앞을 향하는 코를 가진 것처럼 보인다”고 전했다. 중국의 기밀 우주선 ‘센룽’의 목적은? 앞서 지난 5월 미국 우주군 산하의 우주영역인식(space domain awareness) 부서는 중국의 기밀 무인 왕복선인 셴룽이 최근 우주에 물체를 방출했으며, 이를 ‘59884’(국제지정분류기호 2023-195G)로 분류했다. 미국 우주군은 셴룽에서 지난 5월 24일 미지의 물체가 우주로 방출됐다고 보고 있으며, 하버드-스미소니언 천문학자인 조나단 맥도웰 박사 역시 이에 동의했다.맥도웰 박사는 자신의 엑스(옛 트위터)에 “셴룽에서 방출된 미지의 물체는 임무 종료 또는 궤도 이탈 전에 방출된 하드웨어의 조각일 가능성이 있다”면서 “셴룽이 처음 발사됐을 당시에도 비슷한 ‘미스터리 물체 방출’이 있었다”고 전했다. 일각에서는 우주로 방출된 물체가 다른 우주선이나 위성의 포획 또는 근접 기동에 사용되는 도구일 가능성을 제기하기도 했다. 실제로 셴룽 우주선은 두 번째 임무 도중 테스트의 일환으로 ‘어떠한 물체’를 발사해 타 인공위성의 포획 과정을 수행하기도 했었다. 셴룽과 셴룽에서 방출된 물체의 정체는 모두 베일에 싸여있다. 중국 정부가 셴룽 우주선의 이미지나 상세 정보를 공개하지 않고 있어 중국 외부에서는 이를 ‘기밀 우주선’이라고 부른다. 다만 현재까지 알려진 내용에 따르면, 해당 우주선은 새로운 탑재물을 싣고 궤도를 운항하는 테스트를 위해 사용되는 재사용 우주선이며, 왕복 우주선인 만큼 임무를 수행한 후에는 지구 활주로에 착륙할 수 있도록 제작됐다는 사실 등이다. 또 창정-2F 로켓에 실려 발사된 점을 미뤄 봤을 때, 고도 2000㎞ 이하의 지구 저궤도에 머물 것으로 추정된다. “우주산업 선점해야”…미국‧중국 비밀우주선 경쟁 치열 미국에 이어 중국이 세부사항을 공개하지 않은 기밀 우주선을 우주로 쏘아올린 배경에는 우주 공간에서도 격화하는 미중간 경쟁이 있다. 전문가들은 미국과 중국의 기밀 우주선이 상대국에 대한 감시나 우주 쓰레기를 처리한다는 명목 하에 발사됐으나, 사실상 타 국가의 위성을 노린 공격 기술 개발 등 국가 안보 차원의 임무를 수행할 것으로 보고 있다. 더불어 희귀 자원 채굴 등을 목적으로 하는 우주 탐사 분야를 선점하기 위한 관련 실험도 병행될 것으로 추측된다.