여성의 얼굴에 음란물을 합성한 ‘딥페이크’ 영상물이 단체 대화방 등을 통해 유포된 가운데 올해 학생과 교사의 딥페이크 피해 건수가 200건에 육박한 것으로 파악됐다. 교육부는 17개 시도교육청을 통해 파악한 결과 올해 1월부터 전날까지 학생·교원 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 학생 피해가 186건으로 초등학생 8명, 중학생 100명, 고교생 78명으로 집계됐다. 교원 피해는 10건이며 중학교 9건, 고등학교 1건으로 각각 집계됐다. 피해 건수 가운데 179건은 수사 당국에 수사를 의뢰한 상태다. 피해자와 가해자 모두 성인이거나 딥페이크 성범죄 사안이 아니라고 판단한 사례는 제외됐다. 다만 학교나 교육청이 아닌 다른 기관을 통해 피해 사실을 신고했을 경우 집계되지 않아 실제 피해 건수는 더 많을 것으로 추정된다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음 달 관계부처 대책회의를 거쳐 10월 중 교육 분야 딥페이크 대응 후속조치를 마련하기로 했다. TF는 매주 한 번씩 학교 딥페이크 사안을 조사하고, 경찰청·여성가족부·방송통신위원회 등 관계부처와 협력체계를 구축하며 시도교육청과 비상 연락망을 운영한다. TF는 학생·교원 피해 사안 처리, 학생·교원 심리 지원도 맡는다. 교육부는 딥페이크 가해자의 학교폭력대책심의위원회 징계 수위와 관련해 “딥페이크 특성상 아주 고의적이고 피해가 클 가능성이 높아 처벌 수위가 높을 수밖에 없다”고 설명했다. 김도형 교육부 학교폭력대책과장은 이날 정부세종청사에서 열린 브리핑에서 “학교폭력 처벌 수위는 학폭위에서 지속성, 고의성, 피해 크기, 피해 회복 여부 등을 본다”며 이같이 말했다. 학폭위 조치는 1호(피해 학생에 대한 서면 사과)부터 2호(피해 학생 접촉·협박 및 보복행위 금지), 3호(학교 봉사), 4호(사회 봉사), 5호(특별 교육 이수 또는 심리치료), 6호(출석 정지), 7호(학급 교체), 8호(전학), 9호(퇴학)까지다. 딥페이크처럼 고의적이고 피해가 큰 학교폭력의 경우 퇴학까지 이를 수 있다는 얘기다. 의무교육인 초등학교나 중학교는 전학이 최대 징계다. 딥페이크 가해자 가운데 촉법 소년은 제대로 된 처벌이 어려울 수 있다는 지적에 배동인 교육부 정책기획관은 “촉법소년에 대해선 학계 입장이 다르고 일반적인 국민 정서가 다를 수 있다”면서도 “이 부분까지 논의될 수 있는 계기가 될 것”이라고 말했다.

“언론에 보도된 ‘OO방’(한 대학 딥페이크 음란물 공유방) 방장도 아직 안 잡혔고 숨어 있다. 걱정하지 마라.” 친구, 가족 등 지인의 얼굴과 여성 나체를 합성한 ‘딥페이크 영상물’을 텔레그램에서 유포하는 성범죄에 대한 강력 대응 움직임에도 텔레그램 대화방 참여자들은 상황을 즐기며 오히려 범죄를 더 부추기고 있었다. ‘갠텔(개인끼리 텔레그램)만 안 하면 (신상 특정이 어려워) 잡히지 않는다’며 서로를 안심시키거나 ‘비밀번호를 열자리 이상으로 길게 설정하면 휴대전화를 풀 수 없다’, ‘친구 전화번호로 텔레그램에 가입하면 된다’며 수사망을 빠져나갈 방법을 공유하기도 한다. 2020년 N번방 사태로 텔레그램에서 발생한 범죄는 추적이 어렵다는 게 알려진 이후 수년간 텔레그램을 쓴 이들은 ‘절대 경찰에 잡히지 않을 것’이라는 확신까지 내비쳤다. 서울신문이 28일 논란이 된 텔레그램 채널에 접속했을 때 개설자는 “기자랑 경찰들아, ‘텔레그램 야동방’(야한동영상을 공유하는 단체방) 짬밥이 얼만데 내가 잡히겠냐. 더 들어와서 잡아보든가”라는 글을 게재하다 공지로 올리기까지 했다. 이 개설자는 “지인 (사진과 정보를) 많이 올리고 능욕하면 ‘상위방’(더 자극적인 영상물을 공유하고 범행 강도가 센 단체방)에 데려갈 테니 열심히 활동해달라”는 글도 올렸다. 범정부 차원의 대응책에도 딥페이크 성범죄에 대한 불감증이 심각한 수준에 이르렀다는 지적이 나오는 이유다. 실제로 지인 등의 사진을 합성해 음란물로 만드는 프로그램(봇)을 탑재한 텔레그램 채널도 여전히 사라지지 않고 많은 이들이 이용하고 있다. 이런 봇은 무료 이용권으로 신규 사용자를 유입한 뒤 싸게는 몇백원 정도를 받고 딥페이크 사진 한장을 만들어주는 식으로 사람을 모은다. 특히 사진을 나체로 바꿔주는 봇을 탑재한 한 채널의 현재 이용자는 40만명에 육박한다. 이러한 채널은 10여개에 달하는데, 이용자를 모두 합하면 200만명을 훌쩍 넘는다. 서울경찰청 딥페이크 성범죄 태스크포스(TF)는 우선 텔레그램 봇을 탑재한 채널 8개에 대한 입건 전 조사(내사)에 착수했다. 경찰이 본격적으로 수사에 나서자 텔레그램 대화방에서 딥페이크 영상물을 공유하며 범죄를 저질렀던 이들 중 일부는 텔레그램 계정을 탈퇴하거나 방을 폐쇄하기도 했다. 하지만 추가 범행을 위해 영상 공유 등은 하지 않고 모여만 있는 이른바 ‘대피방’으로 숨어드는 경우도 있다. 잠시 단속과 수사를 피했다가 다시 범행을 재개할 가능성이 높다는 얘기다. 텔레그램에는 ‘보안 가이드’라며 신원이 드러나지 않도록 하는 방법을 알려주는 채널도 여럿이다. 결국 딥페이크 성범죄를 근절하려면 텔레그램의 협조를 끌어낼 방안이 시급하다는 목소리에 힘이 실린다. 곽대경 동국대 경찰사법대학 교수는 “수사 협조를 하지 않으면 국내 서비스에 제동을 걸 수 있도록 하는 등 적절한 제도적 절차를 마련할 필요가 있다”고 말했다. 앞서 독일은 연방내부무장관 등이 나서 제한적이지만 텔레그램으로부터 수사 협조를 끌어냈고, 브라질 대법원은 텔레그램에 대한 일시적 접속 차단을 명령하기도 했다. 뚜렷한 대책이 나오지 않는 사이 피해가 발생한 것으로 추정되는 학교를 모은 지도도 여럿 등장했다. ‘텔레맵’(TeleMap)을 제작한 김모(17)군은 “후배들로부터 주변에 피해자가 많다고 들어 지도를 만들었다”면서 “주동자가 잡히지 않고 미성년자라는 이유로 봐주기로 처벌하니 ‘너도나도 해도 괜찮다’는 분위기에 휩쓸려 범죄가 반복된다”고 말했다.

‘러시아의 마크 저커버그’로 불리는 텔레그램 창업자 파벨 두로프가 프랑스에서 체포되자 러시아에서 미국이 배후라는 주장이 나왔다. 러시아 국민 대다수가 사용하는 메신저 서비스를 워싱턴이 ‘접수’해 우크라이나 전쟁에서 유리한 고지를 점하려는 것 아니냐는 의심이다. 27일(현지시간) 뱌체슬라프 볼로딘 러시아 두마(하원) 의장은 “미국이 프랑스를 통해 텔레그램 통제권을 행사하려고 한다”면서 “텔레그램은 미국이 영향력을 행사할 수 없는 몇 안 되는 거대 인터넷 플랫폼이다. 미 대선을 앞두고 조 바이든 대통령은 텔레그램을 통제하는 것이 매우 중요하다”고 주장했다. 이에 대해 백악관은 별다른 반응을 보이지 않았다. 드미트리 페스코프 크렘린궁 대변인도 이날 브리핑에서 “두로프에 제기된 혐의는 실제 매우 심각하며 그에 상응하는 심각한 증거가 필요하다”고 말했다. 이어 “그렇지 않으면 통신의 자유를 제한하려는 직접적인 시도가 된다. 그가 프랑스에서 구금된 데 대해 중대한 증거를 제시하지 못하면 정치적 사건으로 간주하겠다”고 반발했다. 두로프는 지난 24일 프랑스 수도 파리 부르제 공항에서 아동 음란물 유통 조장 등 12개 혐의로 체포됐다. 텔레그램은 러시아 태생 니콜라이·파벨 두로프 형제가 2013년 8월 출시한 메신저 프로그램이다. 오랜 기간 비영리 정책을 유지해 유료 기능이나 광고가 없다가 2021년 11월부터 광고가 실리고 있다. 현재 월간활성사용자는 9억명을 돌파했다. 러시아 제2의 도시 상트페테르부르크에서 시작했지만 정부의 과도한 규제에 압박을 느껴 해외로 나왔다. 독일 베를린, 영국 런던, 싱가포르 등 이주를 타전하다가 지금은 아랍에미리트 두바이에 터를 잡고 있다. 텔레그램은 암호화 기술을 통해 대화 내용을 남기지 않는 기술로 표현의 자유와 익명성 보장을 앞세워 많은 이용자를 모을 수 있었다. 이런 익명성 보장이 각종 범죄의 온상이 됐다는 비판도 받는다. 현재 러시아는 러시아 국민 절반 이상이 사용하는 텔레그램을 구하고자 옹호 발언을 내놓고 있지만 창업자 두로프가 러시아를 떠나게 된 근본 원인이 모스크바의 압박 때문이었음을 감안하면 아이러니라고 할 수 있다. 앞서 영국 일간 가디언은 두로프가 인터뷰를 거의 하지 않는 등 ‘미스터리한’ 인물이라고 26일 평가했다. 두로프는 과거 텔레그램 채널에 게재한 글에서 고기와 술, 커피를 멀리하며 ‘고독한 삶’을 살고 있다고 밝혔다. 지난 7월에는 12개국에서 정자를 기증해 100명 넘는 아이들의 생물학적 아버지가 된 것을 자랑하기도 했다. 경제 전문지 포브스에 따르면 두로프의 재산은 155억 달러(약 20조 6000억원)에 이른다. 2012년에는 러시아 상트페테르부르크 사무실에서 고액권 지폐를 행인들에게 날리는 기행을 벌이기도 했다. 항상 검은 옷을 입어 영화 ‘매트릭스’ 배우 키아누 리브스를 닮았다는 말도 나온다.

최근 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 ‘딥페이크’ 성범죄가 급격하게 확산하는 가운데 중고생들이 홍보책으로 활동하고 있다는 주장이 나왔다. 2019년 텔레그램 ‘n번방’ 사건을 세상에 처음 알린 ‘추적단 불꽃’의 원은지 활동가는 28일 CBS 라디오 ‘김현정의 뉴스쇼’와 인터뷰에서 “10대 학생이 개인적으로 운영하는 텔레그램 대화방만 있는 것이 아니라 이 행위 자체가 시장이 되어서 여러 불법 업체가 이런 대화방을 운영하고 있다는 게 문제”라며 이같이 밝혔다. 원씨는 “딥페이크를 이용할 수 있는 포인트 같은 것을 지급해서 국내 청소년들이 이 포인트를 받기 위해 온라인에 홍보하거나 동시에 불법 합성물을 불특정 다수가 있는 대화방들에 공유·유포하고 있는 것을 확인했다”고 했다. 그러면서 “업체들은 (10대들을) 전형적인 홍보책으로 쓴다”면서 “이게 돈이 된다는 걸 텔레그램 안에서 (업체들이) 계속 실험했고 그걸 알게 되었기 때문에 돈이 되는 이상 모든 전국의 중고생들을 홍보책으로 쓰려는 업체들이 더 많아졌다”고 했다. 업체가 운영하는 방에 다른 사람을 초대하면 일정량의 크레딧을 받을 수 있고 이 크레딧으로 딥페이크 이미지가 공유되는 방에 입장할 수 있다는 게 원씨의 설명이다. 원씨는 “업체마다 다른데 한 업체는 어떤 상체의 상반신 사진을 합성하는데 1크레딧이 필요한데 약 2650원 정도로 거래된다”며 “동영상을 만들기 위해서는 5크레딧, 그러니까 1만 3250원 정도가 필요하다”고 설명했다. 이어 “방에서 결제를 한 번 한 사람들은 불특정 다수의 여성의 딥페이크된 이미지가 공유되는 대화방에 입장할 수 있는 권한이 부여된다”며 “유포 규모는 걷잡을 수 없게 커진다”고 우려했다. 그러면서 “(해당 방에서는) 영상 또는 사진 외에도 여성의 이름, 나이, 생년월일, 신상정보, 사는 곳까지 공유된다”고 했다. 피해자의 관련 정보를 밝히는 이유에 대해서는 “사진 속 여성이 실제로 존재하는 사람이라는 것을 보여주면서 더 큰 자극을 유도하는 걸로 보인다”며 “실제로 그렇게 올리는 사람들은 그 행위 자체로 일탈한다는 감정을 느끼기도 하는 걸로 보인다”고 추정했다. 한편 원씨는 딥페이크 성범죄의 가장 큰 문제로 내가 언제 어떻게 피해자가 될지 모른다는 점을 꼽았다. 그는 “‘n번방’ 사건, ‘박사방’ 사건의 피해자는 어떤 물리적인 폭력이나 가해자와의 직간접적인 접촉이 있어 피해가 발생했다는 사실을 인지할 수 있는데 이번 딥페이크 성 착취 사건은 내가 언제 어떻게 피해자가 될지 모르는 두려운 상황”이라고 지적했다. 원씨는 내가 피해자라는 것을 알게 됐을 땐 바로 신고해야 하며 신고하기 전에 관련 내용을 모두 저장해서 증거 자료로 남겨둬야 한다고 조언했다. 그리고 기업이나 공공기관 차원에서 프로필 사진을 캡처하는 것이 감지되면 ‘사진을 불법적으로 사용할 경우 5년 이하의 징역, 5000만원 이하의 벌금을 받을 수 있다’는 알림창을 띄우는 등의 노력이 필요하다고 했다.

서울대 졸업생들이 동문 여성들의 얼굴을 ‘딥페이크’ 기술을 활용해 음란물에 합성해 유포한 이른바 이른바 ‘서울대 N번방’ 사건의 공범이 징역 5년을 선고받았다. 서울중앙지법 형사14단독 김유랑 부장판사는 28일 성폭력처벌법상 허위영상물편집·반포 등의 혐의로 구속기소된 박모(28)씨에게 징역 5년을 선고했다. 검찰이 구형한 징역 10년보다는 형량이 낮았다. 재판부는 또 40시간의 성폭력 치료 프로그램 이수, 5년간 아동·청소년 관련 기관 취업 제한도 명령했다. 재판부는 “허위 영상물 내용은 일반인 입장에서 입에 담기 어려운 역겨운 내용”이라며 “학업과 진로, 연애 스트레스를 해소하기 위해 범행했다고 하지만 영상물의 개수와 피해자와의 관계 등을 고려할 때 죄질이 불량하다”고 지적했다. 재판부는 “인터넷에서 익명성 등을 이용해 왜곡된 성적 욕망을 표출시키고 여성을 성적으로 대상화했다”며 “이는 피해자 인격을 몰살하는 것으로 엄벌이 요구된다”고 질타했다. 박씨는 2020년 7월부터 올해 4월까지 허위 영상물 400여개를 제작하고 1700여개를 유포한 혐의로 지난 5월 기소됐다. 박씨는 주범인 서울대 졸업생 박모(40)씨와 온라인 메신저로 연락하며 여성 수십명을 대상으로 음란물을 만들어 유포한 것으로 조사됐다. 다만 박씨는 서울대 졸업생은 아닌 것으로 파악됐다. 박씨는 최후 진술에서 “고통받은 피해자들에게 사죄드린다”며 선처를 호소했다. 재판부에 따르면 박씨는 공소제기 후 피해자 5명과 합의하고 6명에게 형사공탁을 했으나, 아직 인적 사항이 밝혀지지 않은 피해자가 남아있다. 이른바 ‘서울대 n번방’ 사건은 서울대 졸업생인 박씨와 강모(31)씨 등이 서울대 동문 여성 수십명의 사진으로 허위 음란물을 만들어 텔레그램을 통해 유포한 사건이다. 이 사건으로 다른 서울대 졸업생 한모씨 등 4명이 기소돼 재판을 받고 있다. 최근 텔레그램과 딥페이크 기술에 기반한 ‘딥페이크 성범죄’가 대학가는 물론 중·고등학교까지 확산되자 정부는 대책 마련에 나섰다. 방송통신심의위원회는 이날 긴급 전체회의를 소집하고 텔레그램을 비롯해 페이스북·엑스(X)·인스타그램·유튜브 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성해 신속한 영상 삭제 차단 조치와 자율적인 규제를 강력히 요청하기로 했다. 정부와 국민의힘은 오는 29일 협의회를 열고 딥페이크 성범죄 방지 대책 및 피해 지원 방안을 논의한다.

‘딥페이크’ 기술을 이용해 지인 등의 사진을 기반으로 한 음란물을 만들어 유포하는 성범죄가 대학가는 물론 전국의 중·고등학교까지 파고든 가운데, 한동훈 국민의힘 대표가 “딥페이크 성범죄에 학생들이 두려움에 떨고 있다”고 호소한 고3 학생의 손편지를 공개했다. 올해 들어 딥페이크 성범죄로 인한 피해 자 피해자 3명 중 1명이 미성년자라는 통계도 나왔다. 韓 “AI 부작용 법으로 막을 수 있어”28일 정치권에 따르면 한동훈 국민의힘 대표는 지난 27일 자신의 페이스북에 국민의힘 전남도당 청소년특별위원회에서 활동하고 있는 고등학교 3학년 학생의 손편지를 공개했다. “결코 가볍게 넘어갈 만한 사안이 아닌데도 불구하고, 정치권에서 이를 본격적으로 다루지 않고 있는 것 같다”고 운을 뗀 이 학생은 “몇 년 전 텔레그램 n번방 사건으로 온 나라가 떠들썩했는데도 최근에 또다시 텔레그램을 이용한 비슷한 일이 대규모로 발생하고 있다”고 말했다. 이어 “텔레그램 ‘겹지방’은 소셜미디어(SNS)에 올라온 사진들을 딥페이크 기술을 이용해 불법 합성물을 만들고 있다”면서 “각 지역의 중·고등학교 및 대학교 명의로 피해자들의 불법합성물을 카테고리화해 생년월일·학번·주소 등으로 개인정보를 명시하고 있으며, 텔레그램이라는 방어막으로 자신의 가족, 동료, 급우들의 사진으로 불법 합성물을 만들어 유포하고 있다”고 전했다. 이 학생은 “지금 학생들은 두려움에 떨고 있다”며 “정의라는 가치 아래 법과 제도를 통하여 보호받아야 할 대한민국의 미래들이 법의 테두리 밖에서 악의적으로 훼손당하고 있다”고 호소했다. 그러면서 “부디 존경하는 대표님을 비롯한 당 차원, 국가 차원의 관심을 가져주시고 대책 마련에 힘써달라”고 당부했다. 이에 대해 한 대표는 “AI를 악용하는 것도 사람이지만, 이를 예방하고 제한할 수 있는 것도 사람이다”라면서 “법과 제도 안에서 악용은 막을 수 있다”고 강조했다. 이어 “‘n번방 방지법’이 21대 국회에서 통과됐지만, AI의 부작용을 막기 위한 제도, 정책의 미비는 신속히 보완돼야 한다”면서 “디지털 성범죄 근절 대책을 마련하는데 국민의힘이 앞장서겠다”고 밝혔다. 10대 피해자 2년 새 4.5배 급증 한편 이날 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터(디성센터)로부터 딥페이크 피해 지원을 요청한 피해자 781명 중 36.9%(288명)이 10대 이하인 것으로 집계됐다. 딥페이크로 인한 피해 지원을 요청한 미성년자는 2022년 64명에서 2년 사이 4.5배로 급증했다. 같은 기간 전체 연령대의 피해 지원 요청자가 212명에서 781명으로 3.7배 증가한 것과 견줘보면 10대 연령층에서 증가세가 가파르다. 디성센터 관계자는 “저연령층이 SNS 등을 이용한 온라인 소통과 관계 형성에 익숙하다”고 원인을 짚었다. 딥페이크 성범죄에 대한 공포가 확산되면서 당국도 대대적인 대응에 나섰다. 경찰청은 이날부터 내년 3월말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 실시한다. 서울경찰청 사이버수사대는 22만명이 참여한 것으로 알려진 불법합성물 제작 텔레그램 채널과 관련해 입건 전 조사(내사)에 착수했다. 교육부는 17개 시·도교육청별로 딥페이크 성범죄물 피해 현황을 파악하고, 일선 학교에는 예방교육과 피해 신고를 하도록 요청했다. 방송통신심의위원회도 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다.

인공지능(AI) 기술을 이용해 개인의 얼굴을 음란물과 합성한 가짜 영상물(딥페이크)들이 기승을 부리고 있다. 텔레그램 대화방을 중심으로 유포되면서 최소 100개 이상의 국내 대학과 중고교 등에서 피해자가 속출하고 있다. 대화방에 유포된 허위 영상 속 피해자들은 중고생 미성년자는 물론 군인, 교사 등 나이와 직업을 가리지 않고 다양했다. 연예인 등 유명인들의 초상을 음란물로 합성하던 수준을 넘어 불특정 다수를 상대로 디지털 성범죄가 만연하니 이만저만 불안하지 않다. 어제 윤석열 대통령도 “딥페이크는 명백한 범죄”라며 척결을 주문하고 나섰다. 성적 허위 영상물의 급증 추세는 놀랍다. 방송통신심의원회에서 접속 차단과 이용 해지 등 시정 조치한 허위 영상물 건수는 2020년 473건에서 지난해 7187건으로 15배 불어났다. 올해만 해도 지난 7월 말 현재 지난해 대비 90%(6434건)나 치솟았다. 방통심의위는 긴급 대책회의를 열고 텔레그램 피해 신고 접수, 모니터링 강화, 수사 의뢰 등 가능한 조치를 모두 동원하기로 했다. 만시지탄인 측면이 크다. 텔레그램에 개설된 단체 채팅방을 통해 불법 음란물을 생성하고 거래·유포한 디지털 성범죄 ‘N번방’ 사건이 터진 게 이미 5년 전이다. 사이버 성범죄가 더 지능화할 환경이 뻔한데 선제적 예방에 소홀했던 것 아닌지 따져 보지 않을 수 없다. 사이버 성범죄는 일반 범죄와 달리 순식간에 불특정 다수에게 확산한다는 점에서 문제의 심각성은 더 크다. 게다가 지금은 생성형 AI로 딥페이크 사진과 영상을 너무나 손쉽게 만들 수 있는 시대다. 정부 단속을 피하려는 허위 영상물 제작자의 수법도 갈수록 고도화되고 있다. 불법 촬영물을 제작, 유포하는 사이트 운영자들은 문제적 동영상의 추출과 다운로드를 막기 위해 영상 소스를 숨기는 등 수사기관의 추적을 탐지 단계에서부터 철저히 방해한다. 사이버 성범죄의 방치는 사회적 재난을 부를 수 있다. 신속하고 강력한 대책이 전방위로 보강돼야 한다. 허위 영상물 유포에 대한 엄벌뿐만 아니라 수위 높은 허위 영상물 소지도 처벌하는 입법보완이 무엇보다 절실하다. 허위 영상물은 일반 불법영상물과 달리 소지, 구입, 저장, 시청 자체는 처벌하지 않고 유포, 배포만 처벌한다. 허위 영상물 단속에 플랫폼도 적극 동참해야 한다. 텔레그램뿐만 아니라 국내 포털에도 유해 콘텐츠는 적지 않다. 10대 청소년에 대한 교육 강화는 말할 것도 없다. 소셜미디어(SNS) 이용이 일상인 청소년들은 딥페이크 음란물에 대한 범죄 인식이 희박하다. 지난해 성적 허위 영상물 유포 가해자의 76%가 10대였다.

윤석열 대통령은 27일 ‘딥페이크’(특정 인물의 얼굴 등을 영상에 합성)를 활용한 디지털 성범죄에 대해 강력히 대응하라고 지시했다. 여야 대표들도 대책 마련에 나섰다. 윤 대통령은 이날 국무회의에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “피해자가 미성년인 경우가 많고 가해자 역시 대부분 10대로 드러나고 있다”고 밝혔다. 윤 대통령은 “딥페이크 영상물은 ‘단순 장난’이라고 둘러대기도 하지만 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위”라며 “우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”고 했다. 이어 “관계 당국은 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아 달라”며 “건전한 디지털 문화가 자리매김할 수 있도록 교육 방안도 강구해 달라”고 당부했다. 윤 대통령은 이날 ‘2024 국제 사이버범죄 대응 심포지엄’ 개회식에 참석해 얼굴을 변형한 딥페이크 동영상을 제작하는 과정과 허위 영상을 탐지하는 과정을 참관했다. 한동훈 국민의힘 대표는 페이스북에 “‘N번방 방지법’이 21대 국회에서 통과됐지만, AI의 부작용을 막기 위한 제도·정책의 미비는 신속히 보완돼야 한다”고 적었다. 국민의힘은 29일 국회에서 한 대표 주재로 딥페이크 관계 부처의 현안 보고를 받고 실태 및 대응 방안을 논의한다. 이재명 더불어민주당 대표도 피해자 보호 방안과 딥페이크 제작·배포자에 대한 강력한 처벌규정을 강구하라고 지시했고 민주당은 당 차원의 태스크포스(TF)나 특위를 구성하기로 했다. 국회 여성가족위원회는 다음달 4일 여성가족부 등을 대상으로 긴급 현안 질의를 진행하기로 했다. 최근 텔레그램 등에서 여성의 얼굴과 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 대규모로 발견되며 사회적 문제로 대두됐다. 한편 윤 대통령은 29일 오전 10시 용산 대통령실에서 ‘국정 브리핑 및 기자회견’을 개최한다. 지난 5월 9일 취임 2년 기자회견을 개최한 지 110일 만이며 지난 6월 포항 영일만 석유·가스전 개발과 관련해 국정 브리핑을 가진 뒤 두 번째다. 윤 대통령은 ‘4+1개혁’(연금·의료·교육·노동+저출생) 등 핵심 개혁 과제와 국정 운영 방향을 국민들에게 설명하고 언론의 질문에 답한다. 대통령실 관계자는 “핵심 키워드는 민생·안전·개혁·소통”이라며 “국민들이 궁금해하는 부분을 기자회견에서 말씀드릴 것”이라고 말했다.

올해 부산에서 음란물에 여성 얼굴을 합성한 ‘딥페이크’ 범죄 피해 신고가 10여건 접수됐으며, 가해자는 대부분 10대인 것으로 나타났다. 27일 부산경찰청에 따르면 딥페이크 성범죄 전담 수사팀는 현재 10여건의 사건을 수사 중이다. 이중 1건을 제외하고는 모두 피해자를 확인할 수 있는 증거물을 확보했고, 가해자도 대부분 검거했다. 경찰에 따르면 딥페이크 피해 신고는 지난 4월 이후로 피해 신고가 집중됐으며, 사건 대다수가 학교에서 발생했다. 가해자는 대부분 10대 학생이며, 이 중에는 소년법상 보호처분만 할 수 있는 이른바 10세 이상 14세 미만 촉법소년도 있다. 딥페이크는 텔레그램 내에서 툴을 이용해 음란물에 여성 얼굴을 합성하고, 지인들에게 유포한 경우가 많았다. 현재 수사 중인 사건 중에 단체 대화방 참가자들이 같이 아는 특정 인물의 정보를 공유하고 딥페이크 영상물을 제작, 유포하는 일명 ‘겹지인방’은 없었다. 부산경찰청은 사이버 성범죄 수사대 소속 2개 팀으로 전담 수사팀을 구성하고, 24시간 신속 대응 체제를 구축할 예정이다. 상시 모니터링을 통해 합성 성 착취물이 발견되면 선제적으로 수사에 착수하고, 영상물을 추적, 삭제하기 위해서다. 교육청과 함께 지역 초중고 학생들을 대상으로 예방 교육에도 나선다.

이재명 “피해자 보호 방안·처벌규정 강구”29일 오전 10시 대통령실서 국정브리핑 윤석열 대통령은 27일 딥페이크(특정 인물의 얼굴 등을 영상에 합성)를 활용한 디지털 성범죄를 “명백한 범죄 행위”라며 강력히 대응하라고 지시했다. 최근 텔레그램 등 소셜미디어(SNS)를 중심으로 여성의 얼굴에 음란물을 합성한 영상이 생성, 유포되자 관계 당국의 대처를 당부한 것이다. 윤 대통령은 이날 국무회의에서 “최근 불특정다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “피해자가 미성년인 경우가 많고, 가해자 역시 대부분 10대로 드러나고 있다”고 밝혔다. 윤 대통령은 “딥페이크 영상물은 ‘단순 장난’이라고 둘러대기도 하지만, 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위”라며 “우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”고 했다. 이어 “관계 당국에서는 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아 달라”며 “건전한 디지털 문화가 자리매김할 수 있도록 교육 방안도 강구해 달라”고 당부했다. 한덕수 국무총리는 이날 출입기자단 오찬에서 딥페이크 성범죄 대응 방안에 대해 “입법이 필요하면 국회와 협의해 추진하고, 기본적으로는 이런 것(디지털 성범죄)에 대한 교육도 처벌과 같이 가야 한다”며 “마약과 같은 수준의 단속부터 시작돼야 한다”고 말했다. 이재명 더불어민주당 대표도 딥페이크 근절을 위한 국회 차원의 대책 마련을 지시했다. 이 대표는 “피해자 보호 방안과 딥페이크 제작·배포자에 대한 강력한 처벌규정을 강구하라”고 했다고 민주당 공보국이 전했다. 민주당은 당 차원의 태스크포스(TF)나 특위 구성을 통해 종합적인 대응 방안을 논의하기로 했다. 국회 여성가족위원회는 다음달 4일 여성가족부 등을 대상으로 긴급 현안 질의를 진행하기로 했다. 최근 텔레그램을 등에 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 대규모로 발견되면서 사회적 문제로 대두됐다. 피해자 중에는 대학생, 중고생, 교사, 여군 등도 포함된 것으로 알려졌다. 한편 윤 대통령은 29일 오전 10시 용산 대통령실에서 ‘국정브리핑 및 기자회견’을 개최한다. 지난 5월 9일 취임 2년 기자회견을 개최한 지 110일 만이다. 윤 대통령은 ‘4+1개혁’(연금·의료·교육·노동+저출생) 구상과 추진 성과를 설명하고 언론의 질문에도 답한다.

최근 대학가에 이어 10대 학생들 사이에서도 딥페이크(AI 기반 합성 이미지) 불법 합성물 범죄가 확산하는 가운데 이를 우려하는 여성들을 조롱하는 글들이 다수 올라와 공분을 일으키고 있다. 27일 엑스(X·옛 트위터) 등 소셜미디어(SNS)에는 “딥페이크가 별거 아니라는 중2 학생들”이라는 글과 함께 온라인 커뮤니티에 중학생 이용자들이 올린 댓글을 캡처한 사진이 올라왔다. 해당 사진에는 “딥페이크하는 사람들도 예쁜 사람만 고른다”, “성폭행 안 할거니까 걱정하지 마시라고”, “딥페이크 하나 가지고 난리부르스 떠냐” 등 조롱 글이 담겨 있다. 또 다른 중학생은 “오늘부터 셀카 올리는 여자들의 사진을 긁어모아 딥페이크를 하겠다. 딥페이크 제작자도 거를 ○○○들이 허언증인지 자의식 과잉인지 너무 설친다”며 충격적인 발언도 서슴지 않았다. 중학생들뿐만이 아니다. 지난 26일 대학생 커뮤니티 에브리타임에도 “딥페이크 사건 호들갑 지겹다”는 글이 올라오기도 했다. 해당 글에는 “딥페이크 만든 놈들 역겹고 더러운 거 맞지만 여자들 호들갑에 공감하긴 싫다. 사회적으로 여자들은 남자들에게 공감한 적이 단 한번도 없기 때문”이라는 내용이 담겼다. 범죄의 표적이 될까 불안에 떠는 여학생들을 향해 “일단 불안에 떨고 있는 ○○대 여성분들, 80%는 안심하고 발 뻗고 자도 돼. 너 그 정도 급 아니야”, “딥페이크 범죄의 표적은 페미니스트가 아닌 예쁜 여성들만 해당한다. 얼굴 못생긴 사람들은 안심해도 된다”는 조롱글도 넘쳐났다. 앞서 전날 엑스의 한 공개 계정에는 텔레그램 대화방을 통해 딥페이크 음란물이 유포되고 있다며, 피해 사례가 알려진 대학들의 명단이 올라왔다. 이 계정이 지목한 텔레그램 대화방 참여자들은 친구, 교사 등 지인을 넘어 친족 사진까지 음란물 제작용으로 공유하고 있는 것으로 알려졌다. 해당 게시글이 온라인상에 퍼지면서 네티즌들 사이에선 ‘혹시 나도 딥페이크 합성의 대상이 된 게 아니냐’는 불안감이 확산했다. 피해 방지를 위해 일부 여성들은 SNS에 올린 자신의 사진을 삭제하기도 했다. 증가하는 딥페이크 범죄…방심위 대책 마련 착수국회 행정안전위원회 소속 조은희 국민의힘 의원실이 지난 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 누구나 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 10대들도 자주 접하면서 딥페이크 음란물이 범죄라는 인식이 옅어졌다는 지적도 나온다. 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐다. 방송통신심의위원회는 27일 실·국장 회의를 소집, 딥페이크 음란물 확산 사태 관련 대책 마련에 착수했다. 28일에는 전체 회의를 열어 의논한 내용을 확정할 방침이다. 방심위는 먼저 공식 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하기로 했으며, 관련 모니터링 요원을 배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 또 텔레그램과 즉각 협의할 수 있는 핫라인을 개설, 신속한 피해 확산 차단에 나설 계획이다.

인공지능(AI)를 활용, 지인 등 사진과 음란물을 합성하는 ‘딥페이크 음란물’ 제작·유포 범죄가 전국적으로 기승을 부리는 가운데 경남에서도 피해 우려가 커가고 있다. 27일 경남교육청은 하동에서 발생한 중학생 딥페이크 음란물 피해 학생이 4개교 12명이라고 밝혔다. 가해 학생은 1학년 남학생 6명이다. 이 사건은 지난 3월 27일 1학년 남학생 6명이 텔레그램 단체방을 만들어 피해 여학생들 사진을 합성하고 공유한 게 발단이다. 가해 학생이 영상 존재를 선배에게 이야기하면서 수면으로 올랐다. 피해 학생들은 지난달 말 부모와 지인에게 피해 사실을 알렸다. 교육당국은 지난달 가해 학생에게 긴급조치(접촉·보복행동 금지)를 내렸다. 이달에는 피해자 측 보호자들과 면담을 진행했다. 교육당국과 경찰은 조사·수사를 진행 중이다. 가해 학생들이 공유한 사진은 외부로 유출되진 않았고 현재는 전부 삭제된 상태다. 경남도교육청은 피해 학생과 보호자를 대상으로 심리상담과 치료 지원을 하고 있다. 학생들은 정상 등교 중이다. 가해 학생 징계 등을 논의하는 학교폭력대책심의위원회는 29일 열릴 예정이다. 이러한 딥페이크 음란물 피해는 올해 하동 뿐 아니라 경남지역 학교에서 총 24건이 접수됐다. 지역별로 창원·진주·김해 각 5건, 통영 4건, 거제 2건, 사천·함안·하동 각 1건이다. 학년별로는 고등학교 10건, 중학교 13건, 초등학교 1건이다. 다만 경찰 수사를 거쳐 범죄 혐의가 인정되더라도, 일부 가해 학생은 촉법소년인 까닭에 형사처벌은 받지 않을 전망이다. 경남교육청은 청소년들 피해를 막을 수 있도록 관련 교육·활동을 강화할 예정이다. 전 학교장 대상 딥페이크 등 디지털 성범죄 예방 긴급회의를 연 경남교육청은 다음 달 디지털 성범죄 예방 교육 집중 시행, 학교폭력 예방 교육 존중의 약속 만들기 써클 추진 등도 이어갈 방침이다. 배경환 도교육청 민주시민교육과장은 “초중고교 학생들이 손쉽게 앱에 접근해 영상·사진 등을 합성할 수 있어 디지털 성범죄 사건이 다수 발생하고 있는 것으로 보인다”며 “앱 운영 업체에 음란물 차단 등 협조를 구하고 성인지 교육과 사이버범죄 예방 교육 등을 강화하겠다. 경찰, 경남도와도 공조해 성범죄에 대응하겠다”고 말했다.

충북 충주의 한 고등학교 학생들이 같은 학교 여학생 사진을 음란물 사진에 합성한 혐의로 경찰 조사를 받고 있다. 충주경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 A(18)군 등 2명을 불구속 입건해 조사를 벌이고 있다고 27일 밝혔다. A군 등은 지난해 10월 수학여행지에서 같은 학교에 다니는 여학생 얼굴 사진을 상반신만 나오는 음란물 사진과 합성한 혐의다. 이들은 당시 방에 함께 있던 남학생들과 사진을 본 뒤 그 자리에서 삭제한 것으로 알려졌다. 경찰은 문제의 사진을 찾기 위해 디지털 포렌식을 진행할 예정이다. 경찰 관계자는 “뒤늦게 이 사실을 안 여학생이 학교에 신고했고, 자체 조사를 벌인 학교 측이 경찰에 수사를 의뢰했다”며 “한명이 여학생 얼굴 사진을 제공했고, 이를 받아 또 다른 한명이 음란 사진과 합성한 것 같다”고 말했다. 교육 당국은 A군 등 2명과 합성사진을 본 것으로 추정되는 학생 3명 등 총 5명을 학교폭력위원회에 회부하기로 했다.

중·고등학생과 대학생들 사이에서 여성 얼굴을 나체 사진에 합성하는 ‘딥페이크 성범죄’가 기승인 가운데, 엄마·누나·여동생·사촌 등 친족을 대상으로 한 ‘친족 능욕’ 범죄가 활개를 치는 것으로 드러났다. 지난 26일 프레시안에 따르면 ‘가족능욕’이라는 이름으로 개설된 텔레그램 단체채팅방에서는 엄마·누나·여동생·사촌 등 친족들의 사진을 공유하고 성적 모욕을 주는 발언을 일삼았다. 이 방에는 2000여명이 들어가 있는 것으로 전해졌다. 매체에 따르면 이들은 여성 친족이 소셜미디어(SNS)에 올린 사진이나 본인이 직접 찍은 사진을 올렸다. 친족의 속옷 사진, 옷을 갈아입는 사진, 목욕하는 사진은 물론 친족이 잠든 사이 옷을 들추거나 성추행하는 영상도 있었다. 친족에게 졸피뎀 등 약물을 주입한 정황도 포착됐다. 2700여명이 모인 텔레그램 채팅방에서 한 참여자는 동생의 성추행 영상을 올린 뒤 “잠드는 약을 먹였더니 만져도 모른다”고 말했다. 이에 가담자들은 “4~5알 먹여라”, “졸피뎀 4알이면 중간에 깨도 기억 못 한다” 등 호응했다. 유명 ‘맘 카페’ 등에는 자녀를 둔 학부모들이 두려움을 호소하는 글들이 이어지고 있다. 아이가 ‘딥페이크’ 피해를 입을 걱정과 동시에 자녀가 가해자일지 모른다는 공포 때문이다. 한 회원은 “저도 아들 맘이지만 너무 무섭다. 하다하다 못해 엄마나 누나, 여동생을 딥페이크하다니. 너무 충격적이라 한 대 얻어맞은 것 같다”는 글을 올렸고, “진짜 교육을 잘 시켜야겠다는 생각, 피해자가 되지 않게 조심시켜야겠다는 생각 뿐이다”, “아들 딸 둘 다 키우는데 아들은 범죄자 길 들어설까 봐, 딸은 피해자 될까 겁난다”, “딸 키우기 무섭다”, “아들 임신 중인데 교육을 어떻게 해야할지 걱정이다”, “어린 애들이라고 봐주면 커서 더한 짓도 한다. 처벌 강하게 해야 한다” 등의 의견이 쏟아졌다. 한 회원은 “가족도 가족이지만 아들 있으신 분들은 폰 검사라도 해 주셔야 할 것 같다”고 지적하기도 했다. 한편 ‘딥페이크 범죄’ 파장이 커지자 정부가 나섰다. 윤석열 대통령은 27일 서울 용산 대통령실에서 주재한 국무회의 모두발언에서 딥페이크 성범죄에 대해 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “관계 당국에서는 철저한 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아달라”고 강조했다. 이어 “피해자가 미성년자인 경우가 많고 가해자 역시 대부분 10대로 드러나고 있다”며 “누구나 이러한 디지털 성범죄의 피해자가 될 수 있고, 단순 장난이라고 둘러대기도 하지만 익명의 보호막에 기대 기술을 악용하는 명백한 범죄행위”라고 덧붙였다. 방송통신심의위원회는 이날 실·국장 회의, 오는 28일 전체 회의를 연달아 소집해 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련한다고 밝혔다. 방심위는 먼저 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 할 방침이다. 아울러 텔레그램 측에도 영상 삭제 등 강력한 대책을 요구할 계획이다.

중·고등학생과 대학생들 사이에서 ‘딥페이크 성범죄’가 기승을 부리는 가운데, 피해자가 있는 것으로 추정되는 학교들을 지도에서 찾아볼 수 있게 한 ‘딥페이크 피해 학교 지도’가 등장했다. 27일 개설된 ‘딥페이크 피해학교 지도’(https://deepfakemap.xyz)는 최근 엑스(옛 트위터) 등에서 확산되고 있는 ‘딥페이크 피해학교 목록’ 등을 기반으로 해당 학교들을 지도 위에 표시하고 있다. 현재 전국 수백개의 초·중·고등학교와 대학교가 표시돼 있다. 사이트를 만든 ‘팀 데이터스택’은 “제2의 N번방 사태에 대해 경각심을 주고, 추가 피해를 막기 위해 만들었다”고 밝혔다. 이어 “사이트에 게시된 정보들은 각종 커뮤니티에서 자료를 직접 수집한 것”이라며 “다만 정확한 정보만 모여있는게 아니니 참고용으로만 봐주길 바란다”고 당부했다. 서울대와 연세대에서 여학생들의 사진이 음란물에 합성 및 유포되는 피해가 속출한 데 이어, 전국 각지의 중·고교에서도 가해 학생들이 경찰에 적발되고 있다. 특히 지난 26일 네티즌들이 만든 ‘피해학교 목록’이 확산되면서 학생들 사이에서 “나도 피해자가 될 수 있다”는 공포가 퍼지고 있다. 학생들은 인스타그램 등 소셜미디어(SNS)에 올렸던 사진들을 삭제하고 계정을 비공개로 전환하고 있으며, 학부모들도 자녀의 SNS를 단속하는 한편 카카오폭 프로필 사진 등에 올린 자녀의 사진을 삭제하고 있다. 尹 “명백한 범죄행위”…방심위 긴급회의 소집파장이 커지자 정부도 대처에 나섰다. 윤석열 대통령은 이날 서울 용산 대통령실에서 주재한 국무회의 모두발언에서 딥페이크 성범죄에 대해 “익명의 보호막에 기대 기술을 악용하는 명백한 범죄행위”라면서 “관계 당국에서는 철저한 실태 파악과 수사를 통해 디지털 성범죄를 뿌리 뽑아 주기 바란다”고 주문했다. 방송통신심의위원회는 이날 실·국장 회의, 오는 28일 전체 회의를 연달아 소집해 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련한다고 밝혔다. 방심위는 먼저 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 할 방침이다. 아울러 텔레그램 측에도 영상 삭제 등 강력한 대책을 요구할 계획이다.

방송통신심의위원회가 텔레그램을 기반으로 한 딥페이크 음란물 제작 및 유포 사건이 확산하자 긴급회의를 소집했다. 27일 방심위는 실·국장 회의, 오는 28일 전체 회의를 연달아 소집해 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련한다고 밝혔다. 방심위는 먼저 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 할 방침이다. 아울러 텔레그램 측에도 영상 삭제 등 강력한 대책을 요구할 계획이다. 방심위는 최근 온라인 커뮤니티와 소셜미디어(SNS)상 허위 조작정보와 음란물, 도박·마약 관련 등 정보에 대해 강력히 대응한다는 기조를 보여왔다. 특히 성적 허위 영상과 관련해서는 지난해 총 7187건의 시정 요구를 결정했는데, 올해는 7월 말까지만 지난해의 90%에 달하는 6434건을 시정 요구 결정했다. 앞서 최근 한 대학에서 여학생의 얼굴에 음란물을 합성한 딥페이크 영상이 유포된 데 이어 비슷한 종류의 텔레그램 대화방이 잇따라 발견돼 사회적 문제로 대두했다. 피해자 중에는 대학생뿐만 아니라 중고생 등 미성년자는 물론 교사, 여군 등도 포함된 것으로 알려졌으며 ‘피해 학교 명단’으로 떠도는 곳만 100곳 이상이라 대중적인 공포심도 확산하고 있는 상황이다. 김봉식 서울경찰청장은 이러한 상황에 대해 “학생은 물론이고 교사에 대한 것도 만들어 퍼지고, IT 기기에 익숙한 청소년 중심으로 확산해 굉장히 우려스럽다”며 “(딥페이크 성착취물은) 심각한 범죄 행위로서 처벌받을 수 있고, 이러한 범죄 전력은 향후 사회생활에 큰 장애가 될 수 있다는 점을 시교육청과 협의해 학생들에게 교육할 계획”이라고 강조했다.

경기도 파주시에 사는 중학생 학부모 A씨는 딸에게 인스타그램 등 소셜미디어(SNS)에 올린 사진을 모두 삭제하고 계정을 비공개로 돌리라고 했다. 카카오톡의 프로필 사진도 지우라고 했다. “여학생들의 사진이 음란물에 합성돼 텔레그램으로 퍼지고 있다”는 이야기를 남의 일로만 생각해왔던 A씨는 26일 아침 지역 맘카페에 올라온 ‘피해학교 목록’에 딸이 다니는 학교는 물론 주변 학교들이 올라온 것을 보고 충격에 빠졌다. 딸 역시 친구들과의 단체 대화방에서 “우리 학교도 있다”는 이야기를 전해듣고 뜬눈으로 밤을 지샌 터였다. A씨는 “아는 학부모들에게 목록을 보내고 아이들 SNS 잘 단속하라고 당부했다”면서 “세상이 어떻게 돌아가는건지 모르겠다”고 토로했다. “비공개해도 털리니 아예 삭제를” ‘행동 요령’ 퍼져‘딥페이크’ 기술을 이용한 불법 합성물 성범죄가 대학가는 물론 중·고등학교까지 퍼져나가면서, 학생들과 학부모들 사이에서 ‘SNS 포비아’가 확산되고 있다. SNS 계정을 비공개로 돌리고 사진과 프로필을 삭제하면서도 이미 공개한 사진이 범죄에 악용됐을지 모른다는 불안감이 커지고 있다. 26일 온라인 커뮤니티와 일선 학교 학생회 등을 중심으로 “SNS에 올린 사진을 다 내리고 비공개로 전환하라”는 글이 공유되고 있다. 서울의 한 고등학교는 학생회가 공지를 통해 “텔레그램을 통해 우리 학교 학생들의 신상과 합성 사진들이 유포되고 있다”면서 “소셜미디어(SNS)에 업로드한 개인 사진들을 내려 피해를 예방해달라”고 당부했다. 이른바 ‘맘카페’ 등 학부모들이 가입해 활동하는 커뮤니티에서는 “아들·딸을 불문하고 자녀들의 SNS를 잘 단속하라”는 당부가 쏟아지고 있다. 학생과 학부모들이 부랴부랴 SNS 단속에 나선 것은 이날 엑스(옛 트위터)에 이른바 ‘피해 지역·학교 목록’과 특정 학교 및 학생들의 사진을 공유하고 합성해 유포한 정황이 담긴 대화 내역 등이 공유되면서다. 이들 목록과 대화 내역은 네티즌들이 텔레그램 대화방에 잠입해 파악한 것으로 알려졌다. 경찰 수사를 통해 피해 사실이 확인된 것은 아니지만, 사실상 전국의 중·고등학교와 대학교가 포함돼 있어 “내 사진도 ‘음란물’이 돼 온라인을 떠돌 수 있다”는 공포가 퍼지고 있다. 학부모들도 SNS·카카오톡서 자녀 사진 삭제학생들과 학부모들은 SNS를 비공개로 전환하거나 얼굴 사진만 삭제하는 것으로는 불안감을 떨쳐내지 못하고 있다. 엑스(옛 트위터)에는 “계정을 비공개로 돌려도 다 털리니 아예 삭제해라”, “얼굴이 나오지 않은 사진도 주변 건물이나 풍경 등을 통해 위치를 알아내니 모두 지워라” 등의 ‘행동 요령’이 공유되고 있다. 자신이 SNS를 하지 않거나 사진을 삭제했어도 친구가 올린 사진으로 피해를 입을 수 있다는 우려도 나온다. 자신의 계정을 친한 친구들에게만 공개했더라도, 친구들 중에 가해자가 있을 수 있다는 불신마저 고개를 들고 있다. 인천에 사는 한 중학생 B양은 “설마 했는데 우리 학교도 목록에 있어서 내 인스타그램 본계정은 물론 부계정, 부부계정(제2·제3 계정)도 다 지웠다”면서 “친구들한테도 내가 올라간 사진을 지워달라고 일일이 연락하고 있다”고 토로했다. 학부모들도 비상이 걸렸다. 평소 자녀의 사진을 SNS나 카카오톡 프로필에 올렸던 학부모들도 자신 탓에 자녀가 피해를 입을 것을 우려해 자녀의 사진을 삭제하고 있다. 서울경찰청은 올해 들어 지난달 말까지 딥페이크 성범죄와 관련해 청소년 피의자 10명을 입건했다고 이날 밝혔다. 방송통신심의위원회는 불법 합성물에 대해 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사의뢰하기로 했다.

홍콩 교육 당국이 최근 발간한 중학생 대상 성교육 교재가 시대착오적이라는 비판을 받고 있다. 24일(현지시간) 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 홍콩 당국은 지난주 중학교 1~3학년 학생을 위한 시민·경제·사회 과목 교과에 성교육 관련 내용을 포함했다. 여기에는 임신과 출산을 책임질 수 없는 어린 연인은 혼전 성관계를 피하고, 교제 초기 신체접촉에 한계를 정해야 하며, 음란물에 대한 저항력을 키워야 한다는 내용 등이 담겼다. 남학생이 여자친구와 둘만 남겨졌을 때 성적 충동을 누르고 주의를 환기하려면 “체육관에 함께 가서 배드민턴을 쳐라”라고 권고하는 내용도 포함됐다. 교재 내용이 알려지자 인터넷상에서는 “시대에 뒤떨어진 사고방식이다”라며 조롱하는 글들이 쇄도했다. 누리꾼들은 배드민턴 경기 초대가 성행위를 요구하는 완곡한 표현인 ‘넷플릭스 앤 칠’(Netflix and chil·넷플릭스 보면서 쉬자)의 홍콩 버전이냐며 비꼬기도 했다. 하지만 홍콩 정부 고위 관료들은 이 교재가 학생들을 보호하기 위해 필요하다며 옹호하고 나섰다. 크리스틴 초이 교육부 장관은 25일 홍콩 TVB 인터뷰에서 “이 교재는 12∼14세 중학생을 대상으로 하며, 그들을 보호하는 것이 목표다”라고 밝혔다. 청소년들에게 긍정적이고 올바른 가치관을 가르치기 위한 것이라는 설명이다. 홍콩 정부 수장인 존 리 행정장관도 “정부가 교육을 통해 사회를 형성하는 데 도움을 줘야 한다”며 초이 장관의 견해에 힘을 실었다. 이런 옹호론에도 현지의 상당수 교육 전문가는 이 교재가 시대에 맞지 않는 내용이라고 계속 비판하고 있다. 전문가들은 “교육 당국이 청소년들의 성적 충동 통제를 강조하는 대신, 성적 충동에 직면했을 때 어떻게 대처하고 이해해야 하는지를 가르쳐야 한다”고 지적한다. 교재 내용이 ‘피해자 비난 문화’를 강화하는 결과를 초래할 것이라는 우려도 나온다. 성교육 교재를 둘러싼 논란은 홍콩 정치권으로까지 확산하고 있다. 도린 쿵 입법위원은 소셜미디어(SNS)에 올린 글에서 “성적 충동이 들 때 젊은이들에게 배드민턴을 치라고 조언하는 것은 비현실적”이라며 “배드민턴을 치기 위해 그렇게 짧은 시간에 코트를 예약할 수 있을까”라고 반문했다. 게리 장 입법위원은 혼전 성관계를 비방하는 듯한 당국의 태도에 의문을 제기하며 “학생들이 불안과 압박감을 느낄 수 있다”고 지적했다.

‘딥페이크’ 기술을 악용한 불법합성물 성범죄가 텔레그램 대화방을 통해 대학은 물론 중·고교까지 확산한 가운데, 박지현 전 더불어민주당 비상대책위원장이 이에 대해 ‘국가적 재난 상황’을 선포해야 한다고 촉구했다. “‘n번방 방지법’ 만들었다면 이런 일 있었을까”박 전 위원장은 26일 페이스북에 “수많은 여성들이 불안에 떨고 있다. 혹시라도 내가 피해자일까 두려워하고 있다”며 이같이 밝혔다. 박 전 비대위원장은 2019년 ‘n번방’ 사건 당시 텔레그램 대화방에 잠입해 실상을 폭로한 ‘추적단불꽃’의 일원이다. 박 전 위원장은 “온라인상에 떠도는 ‘당장’의 대처법은 소셜미디어(SNS)에 올린 사진들을 다 내리라는 것인데, 이는 해결책이 될 수 없다”며 “SNS를 하지 않는다고 피해 대상에서 완벽히 벗어날 수 없다. 우리는 누구나 디지털성범죄의 피해자가 될 수 있는 상황”이라고 주장했다. 이어 “전국에 있는 중·고등학교와 대학교에서 이런 일이 벌어지고 있다. 중복 숫자를 합쳐 가해자가 22만명”이라며 “명백한 국가적 재난 상황이다. 정부는 디지털 성범죄 뿌리를 뽑아야 한다”고 강조했다. 박 전 위원장은 ‘n번방 사건’을 언급하며 “정말 진정한 ‘n번방 방지법’을 만들었다면 2024년에 이런 일이 벌어졌을까. 사실 지금 일어나고 있는 일들은 제가 추적 활동을 하던 4년 전에도 매일 같이 일어났던 일”이라고 지적했다. 이어 “윤석열 정부는 국가적 재난 상황임을 선포하고 시급히 대안을 마련해야 한다”며 “텔레그램이 가해자들의 신상 협조에 수사를 거부한다면, 최소한 일시적으로 텔레그램을 국내에서 차단하는 조치라도 해야 한다”고 제안했다. ‘피해학교 리스트’에 공포 확산‘서울대 n번방’ 사건에 이어 인하대의 한 동아리 여학생들이 1200명이 참여한 텔레그램 대화방에서 불법 합성물 성범죄 피해를 당하는 등, 딥페이크 성범죄가 대학가를 파고든 데 이어 전국 각지의 중·고교에도 퍼져나가고 있다. 엑스(옛 트위터)에는 이른바 ‘피해 지역·학교 목록’과 특정 학교 및 학생들의 사진을 공유하고 합성해 유포한 정황이 담긴 대화 내역 등이 공유되면서 파장이 일고 있다. 실제 피해 사실 및 규모가 경찰 수사를 통해 파악된 것은 아니지만, “내 사진도 ‘음란물’이 돼 온라인을 떠돌 수 있다”는 공포에 여학생들과 학부모들이 불안에 떨고 있다. 서울경찰청은 올해 들어 지난달 말까지 딥페이크 성범죄와 관련해 청소년 피의자 10명을 입건했다고 이날 밝혔다. 김봉식 서울경찰청장은 이날 열린 정례 기자간담회에서 “학생들은 물론이고 교사에 대한 (영상물)도 만들어서 확산하는 상황”이라며 “시 교육청과 협의해 학생들에게 이것이 심각한 범죄이고 처벌받을 수 있으며, 범죄 전력이 향후 사회생활에 큰 장애가 될 수 있다는 점 등에 대해 예방 교육을 할 예정”이라고 밝혔다. 방송통신심의위원회는 불법 합성물에 대해 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사의뢰하기로 했다.

같은 반 학생이나 선생님 등의 사진을 음란물과 합성한 ‘딥페이크 성착취물’ 제작·유포가 10대들 사이에서 유행처럼 번지고 있다. 올해 서울에서만 10대 청소년 10명이 딥페이크 성착취물을 제작·유포한 혐의로 입건됐다. 서울경찰청 관계자는 26일 정례 기자간담회에서 “올해 1월부터 7월까지 초·중·고등학교 텔레그램 성착취 신고가 10건 접수됐고, 이와 관련해 14세 이상 청소년 10명을 입건했다”고 밝혔다. 김봉식 서울경찰청장은 “학생은 물론이고 교사에 대한 것도 만들어 퍼지고, IT 기기에 익숙한 청소년 중심으로 확산해 굉장히 우려스럽다”고 말했다. 이어 “(딥페이크 성착취물은) 심각한 범죄 행위로서 처벌받을 수 있고, 이러한 범죄 전력은 향후 사회생활에 큰 장애가 될 수 있다는 점을 시교육청과 협의해 학생들에게 교육할 계획”이라고 강조했다. 청소년들은 소셜미디어(SNS)와 애플리케이션(앱) 등을 통해 딥페이크 기술을 쉽게 익힌다. 제작을 의뢰하는 것도 어렵지 않다. 딥페이크 성착취물은 신종 학교폭력 등으로도 악용된다. 실제로 경찰청에 따르면 딥페이크 성착취물 범죄 피의자 중 10대는 2021년 51명, 2022년 52명에서 지난해 91명으로 증가했다. 딥페이크 성착취물은 영상물 합성의 대상자가 아동·청소년이면 아동·청소년의 성보호에 관한 법률로 처벌된다. 성착취물을 제작한 경우 무기 징역 또는 5년 이상의 징역에 처해진다. 영상물 합성의 대상자가 성인이면 성폭력 특별법에 따라 5년 이하 징역 또는 5000만원 이하의 벌금형에 처해진다.