중학생 A(15)군은 텔레그램에서 단체 대화방을 개설한 뒤 ‘인공지능(AI) 자동화 프로그램’을 통해 제작한 연예인 허위·나체 사진을 공유했다. 이런 방식으로 A군은 지난해 11월부터 지난 4월까지 대화방 3개를 만들어 여성 연예인 30명의 얼굴에 나체사진을 합성한 허위 영상물(딥페이크) 590개를 제작하고 유포했다. 이 대화방에 참여한 사람만 840명이었다. A군에게 사진 및 영상을 받거나 같은 방식으로 직접 생산한 허위 영상물 3429개를 퍼뜨린 다른 피의자 23명도 경찰에 붙잡혔다. AI가 일상에 깊숙이 파고들면서 이를 이용한 사이버성범죄도 폭증하고 있다. 특히 사이버성범죄 가운데 딥페이크 범죄 혐의로 검거된 피의자 중 60뉴 이상이 10대였다. 초등학생이라도 온라인을 통해 기초 코딩 프로그램 등을 조금만 익히면 손쉽게 불법 콘텐츠를 제작하거나 유포할 수 있는 만큼 강력한 처벌과 예방 교육이 필요하다는 지적이 나온다. 경찰청 국가수사본부는 지난해 11월부터 올해 10월까지 실시한 사이버성폭력 집중단속으로 3557명을 검거하고 이중 221명을 구속했다고 16일 밝혔다. 지난 특별단속(2023년 11월~2024년 10월)에 붙잡힌 규모(2406명)와 비교하면 검거 규모가 반절 가까이 증가했다. 특히 이번 사이버성폭력범죄 단속 유형 중 딥페이크 범죄의 비중이 35.2뉴로 가장 많았고, 딥페이크 10대 피의자가 61.8뉴(895명)에 달했다. 10대 피의자들은 딥페이크 범죄를 단순히 ‘놀이’처럼 대수롭지 않게 여겨 범행을 저지르는 경향이 크다고 한다. 이때문에 죄의식 없이 청소년들 사이에서 더 빠르고 광범위하게 퍼진다는 것이다. 경찰 관계자는 “A군이 대화방을 운영하면서 별도로 수익을 취한 것은 없다”면서 “조사해보면 10대 피의자들은 대부분 범행 동기를 ‘성적 호기심’과 ‘장난’이라고 한다”고 설명했다. 김명주 서울여대 정보보호학과 교수는 “AI 기술이 발전해 특별한 지식이나 일정 시간 작업에 대한 투자 없이도 초나 분 단위로 불법 콘텐츠를 제작할 수 있다”며 “사이버성범죄의 피해는 피해자에게 영구적인 상처가 될뿐 아니라 재생산 및 유포 우려도 크기 때문에 처벌을 명확히 하고 윤리 교육도 강화해야 한다”고 했다.

중학생 A(15)군은 텔레그램에서 단체 대화방을 개설한 뒤 ‘인공지능(AI) 자동화 프로그램’을 통해 제작한 연예인 허위·나체 사진을 공유했다. 이런 방식으로 A군은 지난해 11월부터 지난 4월까지 대화방 3개를 만들어 여성 연예인 30명의 얼굴에 나체사진을 합성한 허위 영상물(딥페이크) 590개를 제작하고 유포했다. 이 대화방에 참여한 사람만 840명이었다. A군에게 사진 및 영상을 받거나 같은 방식으로 직접 생산한 허위 영상물 3429개를 퍼뜨린 다른 피의자 23명도 경찰에 붙잡혔다. AI가 일상에 깊숙이 파고들면서 이를 이용한 사이버성범죄도 폭증하고 있다. 특히 사이버성범죄 가운데 딥페이크 범죄 혐의로 검거된 피의자 중 60％ 이상이 10대였다. 초등학생이라도 온라인을 통해 기초 코딩 프로그램 등을 조금만 익히면 손쉽게 불법 콘텐츠를 제작하거나 유포할 수 있는 만큼 강력한 처벌과 예방 교육이 필요하다는 지적이 나온다. 경찰청 국가수사본부는 지난해 11월부터 올해 10월까지 실시한 사이버성폭력 집중단속으로 3557명을 검거하고 이중 221명을 구속했다고 16일 밝혔다. 지난 특별단속(2023년 11월~2024년 10월)에 붙잡힌 규모(2406명)와 비교하면 검거 규모가 반절 가까이 증가했다. 특히 이번 사이버성폭력범죄 단속 유형 중 딥페이크 범죄의 비중이 35.2％로 가장 많았고, 딥페이크 10대 피의자가 61.8％(895명)에 달했다. 10대 피의자들은 딥페이크 범죄를 단순히 ‘놀이’처럼 대수롭지 않게 여겨 범행을 저지르는 경향이 크다고 한다. 이때문에 죄의식 없이 청소년들 사이에서 더 빠르고 광범위하게 퍼진다는 것이다. 경찰 관계자는 “A군이 대화방을 운영하면서 별도로 수익을 취한 것은 없다”면서 “조사해보면 10대 피의자들은 대부분 범행 동기를 ‘성적 호기심’과 ‘장난’이라고 한다”고 설명했다. 김명주 서울여대 정보보호학과 교수는 “AI 기술이 발전해 특별한 지식이나 일정 시간 작업에 대한 투자 없이도 초나 분 단위로 불법 콘텐츠를 제작할 수 있다”며 “사이버성범죄의 피해는 피해자에게 영구적인 상처가 될뿐 아니라 재생산 및 유포 우려도 크기 때문에 처벌을 명확히 하고 윤리 교육도 강화해야 한다”고 했다.

서울 강서구가 모두가 존중받는 평등한 세상 만들기에 앞장선다. 구는 오는 7월 5일까지 ‘2023 양성평등 콘텐츠 공모전’을 진행한다고 5일 밝혔다. 이번 공모전은 양성평등에 대한 주민들의 관심을 높이고 사회적 공감대를 형성해 일상 속 성평등 문화를 확산시키기 위해 마련됐다. 공모는 표어, 웹툰, 동영상(UCC) 3개 부문으로 나뉘어 진행된다. 양성평등과 관련된 자유주제로 ▲학교, 직장, 가정, 일상, 미디어 등에서의 양성평등 ▲성역할 고정관념 탈피, 일·가정 양립, 생활 속 양성평등 사례 ▲가정폭력, 성폭력, 데이트폭력, 사이버성범죄, 스토킹범죄 예방 등에 관한 내용을 담으면 된다. 표어는 20글자 이내로 1명당 1작품만 출품할 수 있다. 웹툰은 4컷 이내 만화나 그림일기, 포스터 등이며 동영상은 3분 이내의 MP4 파일로 제출하면 된다. 양성평등에 관심 있는 사람이면 지역 상관없이 누구나 신청할 수 있으며, 구청 가족정책과에 직접 방문 또는 우편으로 접수하거나 전자우편(acceptance@gangseo.seoul.kr)으로 제출하면 된다. 구는 부서심사와 전문가 심사위원회 심사를 통해 부문별 최우수상 각 1개, 우수상 각 1개, 장려상 7개(표어 4개, 웹툰 2개, 동영상 1개) 등 총 13개 작품을 선정하고 수상자에게 개별 통보할 예정이다. 수상자에게는 상장과 함께 최대 50만 원의 상금이 수여된다. 구 관계자는 “수상작들은 양성평등 의식 확산을 위한 구정 홍보자료로 적극 활용할 계획”이라며 “일상 속 양성평등 실천을 위한 공모전에 많은 관심과 참여 부탁드린다”라고 말했다.

장병들의 휴대전화 사용위반 사례가 급증한 것으로 나타났다. 3일 국회 국방위원회 소속 안규백 더불어민주당 의원이 국방부로부터 받은 자료에 따르면 병사들의 휴대전화 사용위반 건수는 2019년 6607건에서 2021년 9279건으로 2년 사이에 40.4% 증가했다. 병사들의 휴대전화 사용은 2019년 4월 전 부대 시범운영을 거쳐 2020년 7월 전면 허용됐다. 부대에서 휴대전화 사용이 가능해지면서 자유·인권 신장과 부조리 개선, 자기개발 기회 확대 등 다양한 측면에서 병영문화를 크게 개선했다는 평가를 받지만 이로 인한 부작용도 함께 늘고 있다. 특히 보안규정 위반 사례가 2019년 2185건에서 2021년 3515건으로 60.8% 늘었고, 군 내부에서 발생한 사이버범죄 역시 휴대전화 사용 허가 전인 2018년 343건에서 지난해 980건으로 크게 상승했다. 이 가운데 병사의 비중은 2018년 205건(59.8%)에서 지난해 742건(75.7%)으로 3배 이상 늘었다. 병사들의 도박·사이버성범죄 사례도 속출하고 있다. 2018년 90건이었던 병사들의 도박은 지난해 368건으로 4배 이상 급증했고, 디지털성범죄 역시 같은 기간 35건에서 136건으로 늘었다. 육군검찰단에 따르면 A일병은 지난해 7월 피해자로부터 신체 사진·동영상 등을 전송받아 타인에게 전송·유포하겠다고 협박한 혐의 등으로 징역 4년을 선고받고 아동·청소년 관련 기관과 장애인복지시설에 5년간 취업 제한을 명령받았다. 2019년 B상병은 230여회에 걸쳐 7000여만원을 불법 도박사이트에서 사용한 혐의로 징역 8개월에 집행유예 2년을 선고받기도 했다. 국방부는 훈련병까지 휴대전화를 허용하기 위해 지난 6월부터 6개월간 시범사업을 운영 중이다. 안 의원은 “휴대전화 부작용 대책 마련이 시급한 상황에서 범위와 시간을 확대하는 것은 불 위에 기름을 붓는 격”이라며 “병사 휴대전화 사용 문제가 드러난 만큼 제도 운용 결과를 점검하고 문제를 최소화할 방안을 모색하는 게 우선”이라고 말했다.

장병들에게 휴대전화 사용을 허가한 이후 디지털성범죄 등 사용위반 사례가 급증한 것으로 나타났다. 3일 국회 국방위원회 소속 안규백 더불어민주당 의원이 국방부로부터 받은 자료에 따르면 병사들의 휴대전화 사용위반 건수는 2019년 6607건에서 2021년 9279건으로 2년 사이에 40.4% 증가했다. 병사들의 휴대전화 사용은 2019년 4월 전부대 시범운영을 거쳐 2020년 7월 전면 허용됐다. 부대에서 휴대전화 사용이 가능해지면서 자유·인권 신장과 부조리 개선, 자기개발 기회 확대 등 다양한 측면에서 병영문화를 크게 개선했다는 평가를 받지만 이로 인한 부작용도 함께 늘고 있다. 특히 디지털성범죄는 2018년 35건에서 2021년 136건으로 폭증했다. 도박도 같은 기간 90건에서 368건으로 늘었다. 보안규정 위반 사례는 2019년 2185건에서 2021년 3515건으로 60.8% 늘었고, 군 내부에서 발생한 사이버범죄 역시 휴대전화 사용 허가 전인 2018년 343건에서 지난해 980건으로 큰 폭으로 상승했다. 이 가운데 병사의 비중은 2018년 205건(59.8%)에서 지난해 742건(75.7%)으로 3배 이상 늘었다. 병사들의 도박·사이버성범죄 사례도 속출하고 있다. 육군검찰단에 따르면 일병 A씨는 지난해 7월 피해자로부터 신체 사진·동영상 등을 전송받아 타인에게 전송·유포하겠다고 협박한 혐의 등으로 징역 4년을 선고받고 아동·청소년 관련 기관과 장애인복지시설에 5년간 취업 제한을 명령받았다. 상병 B씨는 2020 소속대 생활관에서 피해자의 얼굴사진에 성명불상의 남성이 자위를 하며 사정하는 동영상을 게시하는 등 음란한 문언, 영상을 공공연하게 전시하여 명예훼손, 음란물유포, 모욕한 혐의로 벌금 1000만원을 선고받았다. 2019년 상병 C씨는 230여회에 걸쳐 7000여만원을 불법 도박사이트에서 사용한 혐의로 징역 8개월에 집행유예 2년을 선고받기도 했다. 국방부는 훈련병까지 휴대전화를 허용하기 위해 지난 6월부터 6개월간 시범사업을 운영 중이다. 안 의원은 “휴대전화 부작용 대책 마련이 시급한 상황에서 범위와 시간을 확대하는 것은 불 위에 기름을 붓는 격”이라며 “병사 휴대전화 사용 문제가 드러난 만큼 제도 운용 결과를 점검하고 문제를 최소화할 방안을 모색하는 것이 우선”이라고 말했다.

대학생 페미니즘 연합동아리 ‘모두의페미니즘’이 2일 오전 서울 여의도 국회의사당 앞에서 열린 ‘텔레그램 N번방 관련 입법, 사이버성범죄 방지ㆍ처벌법 즉각 제정 촉구 기자회견’에서 구호를 외치고 있다. 2020.4.2 박지환기자 popocar@seoul.co.kr