최근 일선 학교에서 ‘딥페이크’ 기술을 악용한 허위 성착취물 피해가 잇따르고 있는 가운데, 교사 10명 중 9명이 졸업앨범에 실린 자신의 사진이 범죄에 악용될 것을 우려한다는 설문조사 결과가 나왔다. 한국교원단체총연합회는 지난달 30일부터 오는 9일까지 전국 유·초·중·고 교원 3537명을 대상으로 설문조사를 실시한 결과 교원의 93.1%가 졸업사진을 활용한 딥페이크 범죄나 사진 합성, 초상권 침해가 우려된다고 답했다고 15일 밝혔다. 교총에 따르면 교원의 72.5%는 졸업앨범에 사진을 넣는 교사들이 “점점 줄고 있다”고 응답했다. 담임의 얼굴 사진을 앨범에 넣느냐는 질문에는 20.4%가 “(교원) 모두 넣지 않는다”, 17.7%가 “희망자 등 일부만 넣는다”고 답했다. 학급 단체사진에서도 담임 사진을 모두 넣지 않는다는 응답은 14.9%, 희망자 등 일부만 넣는다는 응답은 17.8%로 나타났다. 교총이 졸업앨범에 실린 교사의 사진이 악용된 사례에 대한 서술형 응답을 받은 결과 “학생이 졸업앨범에 실린 교사의 사진을 합성해 성별을 바꾸고 조롱하는 글을 자신의 인스타그램에 올렸다”, “졸업앨범의 교사 사진을 도용해 교사를 사칭한 소셜미디어(SNS) 계정을 만들어 다른 학생들을 상대로 사기를 치는 일이 있었다” 등의 답변이 쏟아졌다. 한 교사는 “우리 학교는 담임교사 사진을 캐리커처로 대신하기로 했다”고 전했다. 학생들 사이에서도 졸업앨범에 자신의 사진을 싣는 것을 꺼리는 분위기가 확산됐다고 교총은 설명했다. “사진 넣기를 꺼리거나 빼기를 원하는 학생이 늘고 있느냐”는 질문에 ‘그렇다’(매우 그렇다 13.5%·약간 그렇다 32.0%)는 응답이 45.5%에 달했다. 졸업앨범 자체에 대한 회의적인 인식도 퍼지고 있다. “졸업앨범을 계속 제작해야 하는지”를 묻는 질문에 교원의 67.2%가 “제작하지 말아야 한다”고 응답해 “제작해야 한다”(32.8%)는 응답의 두 배에 달했다. 교총은 “졸업앨범에서 담임 등 교원들의 모습이 점차 사라지고 사제 간 사진 촬영마저 피하는 현실이 안타깝고 씁쓸하다”며 “앞으로 기술 발달에 따라 딥페이크 등의 범죄와 그 피해가 증가할 수 있다는 게 더 심각한 문제”라고 지적했다.

모델 같은 외모로 유명한 튀르키예 여성 축구 심판이 60대 심판 감독관의 ‘섹스 스캔들’에 휘말려 축구계에서 영구 추방됐다고 지난 9일(현지시간) 데일리메일, 더선 등 외신이 전했다. 보도에 따르면 엘리프 카라아르슬란(24)은 최근 심판 감독관인 오르한 에르데미르(61)와의 성관계 영상 유출로 튀르키예축구협회(TFF)로부터 영구 출전 정지 처분을 받았다. 카라아르슬란은 “유출된 영상 속 여성은 내가 아니다”며 “법적으로 먼 길을 가야겠지만 가장 강력한 방법으로 극복할 것”이라고 징계 처분에 대한 항소 의지를 보였다. 그는 그러면서 “나는 끝까지 내 대의를 지킬 것”이라며 “나는 피해를 입은 많은 사람 중 한 명일 뿐이고 내가 마지막이길 바란다”고 말했다. 카라아르슬란 측 법률대리인은 “유출된 영상은 원본이 아니며 전적으로 인공지능(AI)을 통해 생성된 딥페이크 영상”이라고 주장했다. 이어 “영상을 살펴보면 이미지가 선명하지 않고 성관계 당사자들이 컴퓨터로 완전히 편집된 것을 아주 쉽게 알 수 있다”며 “물질적, 도덕적 이득을 위해 완전히 다른 사람의 영상을 악의적이고 고의적인 의도로 만든 영상”이라고 덧붙였다. 심판 감독관인 에르데미르 역시 “(해당 영상 때문에) 내 가족과 사회, 심판 커뮤니티에서의 나의 영광은 날아갔다“며 ”금전적인 손실은 물론 감정적 피해는 이루 말할 수 없을 정도“라고 호소했다. 한편 카라아르슬란은 튀르키예 명문 축구팀 ‘베식타스’ 소속 선수로 활동하다가 부상으로 선수 생활을 접고 심판의 길을 걸었다. 그는 수려한 외모로 인스타그램에서만 45만명 이상의 팔로워를 보유하고 있다.

10대 때 1년간 유명 연예인의 딥페이크 불법 합성물과 아동·청소년 성 착취물을 판매해 4억원 이상의 범죄 수익금을 챙긴 20대가 실형을 선고받았다. 12일 법조계에 따르면 의정부지법 형사11부(오창섭 부장판사)는 아동·청소년의 성보호에 관한 법률 위반(성 착취물 제작·배포 등) 등 혐의로 기소된 20대 남성 A씨에게 징역 7년을 선고했다. 또 가상화폐 약 1억원 몰수, 현금 3억 2000만원 추징을 명령했다. A씨는 10대이던 2022년 7월부터 약 1년간 음란물 사이트에 아동·청소년 성 착취물과 딥페이크 영상 등을 광고해 이를 본 사람들이 영상물을 내려받게 한 혐의로 기소됐다. 광고 글을 본 사람들은 해외 웹하드 업체에서 이용권을 결제해 성 착취물 등을 내려받았고, 수익금의 50%를 받는 구조였던 A씨는 4억원이 넘는 범죄수익금을 챙긴 것으로 조사됐다. 재판부는 “피해자들은 피고인의 범행으로 자신의 불법 촬영물이 끊임없이 유포될 수 있다는 극심한 두려움과 불필요한 고통과 손해를 감내해야 하는 피해를 보아 엄벌이 불가피하다”고 밝혔다.

경북도의회 김재준 의원(국민의힘·울진)은 10일 제350회 경북도의회 임시회 제1차 본회의 도정질문을 통해 도내 노후화 시설에 대한 안전관리 대책, 울진 백암온천 지역경제 활성화 대책, 후포 마리나항 활성화 방안, 소나무 재선충병 피해 확산방지 대책, 학교 내 딥페이크 성범죄 방지대책에 대해 질의하고 대책마련을 강력히 촉구했다. 김 의원은 우선 지난 1월 발표된 국토교통부의 국토인프라 총조사 결과 즉각 사용을 금지하고 보수가 필요한 최하위 E등급을 받은 도내 저수지, 교량 등이 36개소로 전국 69개소의 절반이 넘는다고 지적하며, 이들 시설이 도민의 생명과 안전에 직결된 만큼 미조치 된 시설에 대한 적극적인 대처와 조사가 실시되지 않은 기반시설에 대해 도차원의 선제적인 노후화·위험성 조사 및 대책 마련을 요구했다. 다음으로 한화리조트 영업 중단 등으로 지역경제 침체의 위기에 처해 있는 울진 백암온천 활성화를 위해 민간투자 유치, 온정·매화간 국지도 조기 개통으로 접근성 개선, 관광 인프라 확충 등 도차원의 적극적인 지원을 요구했고, 영양군을 비롯한 인접 시군과의 연계 광역 협력사업, 충남 예산 덕산 온천 사례를 들어 공영개발방식의 종합개발 등을 제안하였다. 이어 후포 마리나항과 관련하여, 2014년 해양수산부 선정 국가지원 제1호 거점형 국제 마리나항으로 선정되어 2022년에 준공하고도 민간 투자유치 등이 지연되며 뚜렷한 성과를 거두지 못한 점을 지적하며, 마리나항 운영은 고도의 전문성이 요구되는 만큼 향후 운영방안에 대한 활성화 대책 마련을 통해 경북도의 해양 레저관광산업이 성공적으로 추진될 수 있도록 경북도가 적극적으로 나설 것을 요구해다. 또한, 빠르게 북상하고 있는 소나무 재선충병 피해 확산방지를 위해 특별방제단 상시운영 등 산림병해충 예찰방제단 인력 확대와 피해가 심한 지역의 모두베기와 수종갱신을 제안했고, 연중 피해목을 제거하여 효율적인 방제가 이뤄지도록 정부의 방제시기 조정 촉구 등 경북도의 선제적인 정책 전환을 주문했다 교육분야 질문에서는 교육현장까지 확산된 딥페이크 성범죄에 대해 ‘심각한 디지털 재난’으로 규정하고, 사전 예방에 대한 도 교육청의 실효성 있는 대책과 피해 영상물 삭제를 비롯한 2차 피해 방지를 위한 적극적인 대처, 가해 학생에 대한 처분 강화와 피해자 보호 대책 등을 촉구했다. 한편, 대구경북행정통합과 관련해서는 TK통합은 두 단체장의 정치적 실리를 떠나 도민의 미래가 걸린 대업임은 강조하고, 재추진에 대한 도지사의 의지와 쟁점사안에 대한 입장, 도민설득 방안에 대해 질의했다. 끝으로 김 의원은 “지역 경제 소멸 위기 가운데 도민 모두가 안전하고 행복한 경북이 선도하는 지방시대가 펼쳐질 수 있도록 도내 현안들을 점검하고 정책대안을 지속 발굴하겠다”며 의정활동 의지를 밝혔다.

‘텔레그램 지인능욕방’을 운영하면서 딥페이트 허위 영상물을 제작·유포하거나, 신상정보가 유출된 딥페이크 범죄 피해자를 괴롭힌 20대 남성 2명이 붙잡혔다. 부산경찰청 사이버수사과는 청소년성보호법(성 착취물 배포)과 성폭력처벌법(허위영상물편집·통신매체이용음란) 위반 등 혐의로 지인능욕방 운영자 A씨를 지난달 27일, 2차 가해자 B씨 이달 2일 구속 송치했다고 10일 밝혔다. A씨는 2023년 5월부터 올해 6월까지 오래 전부터 알고 지내던 고교 동창 1명의 SNS(사회관계망서비스) 사진을 이용해 딥페이크 허위영상물 264개를 제작하고 자신이 개설·운영하는 텔레그램 지인능욕방(참가자 200명)에 유포한 혐의를 받는다. 또 해당 텔레그램 참가자 중 11명이 만든 딥페이크 영상 11개가 유포되도록 방조한 혐의도 있다. 이 영상 피해자 중에는 아동·청소년도 포함돼 있었다. B씨는 지난해 8월부터 올해 5월까지 다른 지인능욕방에서 신상정보가 유출된 피해자 1명에게 자신이 제작한 딥페이크 사진을 5번 보내고 ‘발신번호 제한 표시’ 전화를 여러 차례 한 혐의를 받는다. 경찰은 텔레그램 지인능욕방에 자신의 불법 합성물이 게시됐다는 한 청소년 신고와 신상정보 유출로 2차 피해를 봤다는 고소장을 접수하고 나서, 수사에 착수해 이들을 검거했다. 경찰은 2차 가해와 딥페이크 불법 합성물 유포를 막고자 디지털 성범죄피해자 지원센터에 해당 영상 긴급 삭제와 차단, 모니터링을 요청했다. 이경민 부산경찰청 사이버범죄수사대장은 “딥페이크 불법 합성물을 제작, 편집, 가공하는 행위를 끝까지 수사해 관련자를 처벌하겠다”고 말했다.

서울시교육청(이하 ‘교육청’)이 학교별 학생 휴대폰 사용 및 수거 현황조차 제대로 파악하지 않은 것으로 나타났다. 지난 4일 윤영희 서울시의원(국민의힘·비례)의 ‘학교별 휴대폰 수거 현황’ 자료요구에 교육청은 파악된 자료가 없으며 학교 자체 규정에 맡기고 있었다고 밝혔다. 윤 의원은 “지난 10년간 학교 교실은 스마트폰과 전쟁 중이었다”라며 “수업 중에도 학생들에게 휴대폰 소지를 허용한 사이 교권과 학습권 침해는 물론 학생들은 카톡 왕따, 딥페이크 범죄에 노출되며 안전까지 위협받고 있다”고 지적했다. 윤 의원은 “그런데도 이념 편향된 교육청은 학생 인권이라는 허명 아래 교육 현장 현황조차 파악하지 않고 있으니 사실상 교실 방치 수준이다”며 “이번 인권위의 결정을 계기로 더는 수업 중 휴대전화 소지로 교권과 학습권은 물론 학생 안전이 침해당할 일은 없어야 한다”라고 말했다. 지난 8일 국가인권위원회(이하 ‘인권위’)는 학생 휴대전화를 수거하는 것이 인권침해가 아니라는 결정을 내렸다. 10년 만의 바뀐 결정은 스마트폰 중독과 의존성이 큰 사회적 문제와 교권이 침해되는 학교 현실에 기인한 것으로 보인다. 윤 의원은 “이번 인권위 결정을 계기로 더는 공방하는 일이 없도록 서울교육청은 서울지역 학생들의 휴대폰 소지에 관한 가이드라인을 신속히 수립해야 할 것”이라고 말했다. 교육청 교육정보연구원의 ‘제3기 학생인권종합계획(2023.12)’ 연구 결과에 따르면 학생과 보호자, 교사 모두가 수업을 위해 휴대폰 사용을 제한해야 한다고 답변했다. 특히 휴대폰 사용으로 고등학교 교사 10명 중 9명 이상은 수업 방해 경험이 있었으며, 중학생 자녀를 둔 학부모 10명 중 6명은 자녀와 갈등을 경험한 것으로 나타났다. 학생들의 휴대폰 제한 의견은 초등학생은 10명 중 5명, 중고등학생은 6명이 필요하다고 응답했다.

‘딥페이크’ 기술로 제작된 성 착취물을 단순 소지하거나 시청만 해도 최대 징역 3년 또는 벌금형에 처해질 수 있게 됐다. 정부는 10일 이같은 내용의 ‘성폭력 범죄의 처벌 등에 관한 특례법 일부 개정 공포안’을 의결했다. 공포안은 딥페이크 성 착취물을 소지·구입·저장하거나 시청한 자에 대해 3년 이하의 징역이나 3000만원 이하의 벌금에 처하는 처벌 규정을 신설했다. 또 딥페이크 성 착취물에 대한 편집·반포 등의 법정형을 기존 5년 이하에서 7년 이하로 강화했으며, 이를 영리 목적으로 행했을 경우 징역 7년 이하에서 3년 이상의 유기징역으로 강화했다. 딥페이크 성 착취물을 이용한 협박에 대한 처벌 규정도 신설해 1년 이상의 유기징역에 처하도록 했다. 이같은 내용은 대통령 재가를 거쳐 관보 게재 후 즉시 시행된다. 정부는 이날 딥페이크 성범죄 및 불법 촬영물에 대해 자료를 삭제하고 피해자의 일상 회복을 지원하는 것을 국가의 책무로 명시하는 ‘성폭력 피해자 보호 등에 관한 법률 개정 공포안’, 아동·청소년을 대상으로 한 협박·강요 행위에 대해 경찰 수사권을 강화하는 ‘아동·청소년의 성보호에 관한 법률 개정 공포안’도 의결했다. 한덕수 국무총리는 “딥페이크 성범죄 대응에 있어 큰 어려움 중 하나는 다수의 가해자가 성적 허위 영상물의 제작·배포 행위가 심각한 범죄라는 인식이 부족한 10대 미성년자라는 점”이라면서 “성적 허위 영상물은 심각한 범죄라는 사회적 인식을 빠르게 확산시키는 것이 매우 중요하다”고 강조했다. 이어 “단순한 호기심이라는 미명 아래 자행되는 범죄 행위에 대해서는 절대 간과하지 말고, 적극적으로 대응하고 신고해 주길 바란다”고 당부했다.

한덕수 국무총리는 10일 “정부는 딥페이크 성범죄에 대해 내년 3월 말까지 집중단속을 실시할 방침”이라고 밝혔다. 한 총리는 이날 오전 서울 종로구 정부서울청사에서 열린 국무회의에서 “최근 딥페이크를 비롯한 디지털 성범죄가 급격히 증가해 국민이 크게 우려하고 있다”며 이같이 말했다. 한 총리는 “학교 피해 현황조사와 텔레그램 핫라인 구축 등 시급히 대응해야 할 사안에 대해서는 우선적으로 조치하고 있다”면서 “국무조정실을 중심으로 범정부 태스크포스(TF)를 구성해 가해자 처벌과 피해자 지원을 강화하고, 온라인 플랫폼 책임을 확대하는 등 추가적인 대책을 강구하고 있다”고 설명했다. 한 총리는 “딥페이크 성범죄 대응에 있어서 가장 큰 어려움 중 하나는 다수의 가해자가 성적 허위영상물의 제작·배포 행위가 심각한 범죄라는 인식이 부족한 10대 미성년자라는 점”이라고 지적했다. 이어 “성적 허위영상물은 심각한 범죄라는 사회적 인식을 빠르게 확산시키는 것이 매우 중요한 만큼 교육부·여가부 등 관계부처에서는 학생, 학부모, 일반 국민 등에 대한 실효성 있는 예방 교육에 적극 나서달라”고 당부했다. 한 총리는 “국민도 우리 가족과 이웃들이 본인도 모르는 사이에 범죄의 피해자가 되지 않도록 각별한 경각심을 가져달라”며 “단순한 호기심이라는 미명 아래 자행되는 범죄행위에 대해서는 절대 간과하지 말고 적극적으로 대응하고 신고해 달라”고 덧붙였다. 이날 국무회의에서는 지난달 26일 국회에서 통과된 ‘성폭력방지 및 피해자보호 등에 관한 법률 개정 공포안’, ‘아동·청소년의 성보호에 관한 법률 개정 공포안’ 등을 상정해 논의했다.

경상북도의회(의장 박성만)는 10일부터 22일까지 13일간의 일정으로 제350회 임시회를 열어, 오는 11월 7일부터 20일까지 예정된 2024년도 행정사무감사에 대한 계획을 수립하고, 도정질문 및 각종 민생 조례안 등의 안건을 처리할 예정이다. 10일 1차 본회의에서는 최덕규(경주), 김대일(안동), 김재준(울진) 의원이 도정질문을 통해 도정 및 교육행정 전반에 걸쳐 현안사항과 문제점을 살펴보고 정책대안을 제시한다. 최덕규 의원은 소나무재선충병 확대에 대한 대책, 중·저준위방사성폐기물 처분시설 관련, 다문화교육 패러다임 전환 등에 대해 질문하고, 김대일 의원은 도청 신도시 및 경북 북부권 발전, 대구·경북 행정통합 관련, 한반도 허리 경제권 제안 등에 대해서 질문한다. 김재준 의원은 국토인프라 총조사 결과에 따른 도내 노후화 시설에 대한 선제적 안전관리 대책, 백암온천과 후포 마리나항 활성화 대책 마련, 학교 내 딥페이크 성범죄 대책 방안 등에 대해 질문한다. 제2차 본회의는 22일에 개의하여 다양한 현안에 대한 5분 자유발언을 시작으로 금년도 행정사무감사계획을 승인하고, 각종 조례안, 출자·출연동의안 등 60여건의 안건을 처리하고 폐회할 계획이다. 박성만 의장은 개회사를 통해 46년 만의 기록적인 폭우로 피해를 본 울릉군민에게 위로를 전하며, 집행부의 신속한 피해복구를 당부하였다. 그리고, “저출생 지방소멸 극복을 위해 수치와 형식에 얽매이지 말고 260만 도민들의 피부에 와 닿는 알찬 결과물이 나올 수 있도록 근본적인 대응책을 마련해 가자”고 제안하며, 특히, 당면 주요현안사업에 대해 “시련과 갈등을 넘어 다시 한번 도약하는 계기로 만들기 위해 지혜와 역량을 모아 달라”고 강조하였다. 아울러, “연초에 계획한 사업들을 다시 한번 점검하고 크고 작은 각종 행사와 축제가 한 건의 사고 없도록 꼼꼼히 살펴줄 것”을 촉구했다.

8일 대구 수성구 동도중학교 정문 앞에서 ‘학교폭력 예방 및 딥페이크 성범죄 방지 합동 캠페인’에 참여 중인 학생들이 사이버 폭력을 근절하자는 내용의 손팻말을 들고 있다. 교육부에 따르면 올해 1월부터 지난 4일까지 딥페이크 피해자는 학생 804명을 포함해 총 840명으로 집계됐다. 대구 뉴스1

텔레그램에서 7개의 유료 채널을 운영하며 1000여개의 아동성착취물과 딥페이크 허위 영상물을 유포하고 판매한 20대 남성이 재판에 넘겨졌다. 8일 부산지검 여성아동범죄조사부(부장 손은영)는 성폭력처벌법 위반(영리목적 허위영상물 반포 등), 청소년 성보호법 위반(영리목적 성착취물 판매 등) 혐의로 20대 A씨를 구속기소 했다고 밝혔다. 검찰에 따르면 A씨는 2022년 7월부터 지난 9월까지 입장비를 낸 회원만 접속할 수 있는 텔레그램 유료채널을 운영하며 해외 사이트에서 수집한 아동성착취물과 딥페이크 허위영상물 등을 유포·판매한 혐의를 받는다. A씨가 유포·판매한 영상은 여성 연예인들의 얼굴을 합성한 딥페이크 허위 영상물 296개, 아동·청소년 대상 성착취물 183개, 성인 대상 불법 촬영물 및 음란물 1175개 등 1600여개에 달하는 것으로 드러났다. A씨는 텔레그램에 무료, 회원, 딥페이크, VIP방 등 7개의 채널을 개설해 입장료 명목으로 2만~10만원을 받아 총 6693만원의 수익을 올린 것으로 파악됐다. 검찰은 “딥페이크 기술 등을 악용한 허위 영상물의 제작·반포 등 디지털 성범죄에 대해 엄정히 대처하고 범죄 수익을 철저히 환수하겠다”며 “허위 영상물 삭제 조치 등 피해자에 대한 2차 피해를 방지하기 위해 최선을 다하겠다”고 했다.

딥페이크 제작·유포범 잇단 검거경찰, 범죄수익금은 환수할 방침 유명 여성 연예인 등의 딥페이크 허위영상물을 만들어 유포한 한국인과 중국인 남성들이 잇따라 경찰에 붙잡혔다. 서울경찰청 ‘딥페이크 등 허위영상물 집중 대응 태스크포스(TF)’는 성폭력처벌법 위반 등 혐의로 20대 남성 A씨를 검거했다고 8일 밝혔다. A씨는 지난 1월부터 3월까지 생성형 인공지능(AI)을 이용해 허위영상물을 제작하는 프로그램을 직접 프로그래밍한 뒤 여성 연예인 72명의 허위영상물 4313건을 제작·판매한 혐의를 받는다. A씨는 이렇게 만든 딥페이크 영상물을 현재는 삭제된 소셜미디어(SNS) 계정을 통해 판매해 383만원을 번 것으로 조사됐다. 경찰은 A씨로부터 허위영상물을 구매해 재판매한 20~30대 남성 2명도 검거해 A씨와 함께 송치할 예정이다. 여성 연예인 13명이 포함된 딥페이크 허위영상물을 유포한 중국 국적 30대 남성 B씨도 구속됐다. B씨는 지난해 6월부터 지난달까지 불법 성영상물 유포 사이트를 운영했다. B씨가 유포한 음란물은 연예인 딥페이크 영상물 20개, 아동·청소년성착취물 5개, 불법촬영물 20개 등을 포함해 총 1만 4526개로 파악됐다. B씨는 자신의 유포 사이트에 온라인도박 등 다른 불법 사이트 광고를 올려주고 1억 4000만원을 챙겼다. 경찰은 이번주 중 B씨를 검찰에 송치하고, 중국에 있는 공범들과 사이트에서 영상을 시청한 이들을 추적할 계획이다. 경찰은 이들을 포함한 허위영상물 사범에 대해선 기소 전 몰수·추징보전 절차를 통해 범죄수익금을 환수한다는 방침이다.

‘게임 리뷰’라고 적힌 한 채널에 별도의 성인 인증 없이 접속하니 스트리머(채널 운영자)가 가슴 부위를 노출한 채 선정적인 춤을 추고 있었다. 영상 하단에 온라인 게임 영상이 재생되고 있었지만, 이른바 ‘벗방’(노출 방송)을 전송하기 위한 ‘눈속임’에 불과했다. ‘생활 습관 개선 1일차’라고 적힌 또 다른 채널에 들어가니 애니메이션 캐릭터의 주요 부위만 가린 딥페이크 이미지가 채널 상단에 걸려있었다. 역시 10대도 시청할 수 있었고, 끝날 때까지 유해 콘텐츠라며 경고받는 일은 없었다. 방송 이후 해당 콘텐츠를 네이버에 신고하려 했지만 스트리머가 이미 영상을 삭제한 터라 신고는 불가능했다. 일부 스트리머의 선정적인 방송으로 시범 서비스 때부터 논란을 불러일으켰던 네이버의 인터넷 생방송(스트리밍) 플랫폼 ‘치지직’(CHZZK)의 유해 콘텐츠 모니터링이 제대로 작동하고 있지 않은 것으로 파악됐다. 지난달에만 약 234만명이 방문한 치지직은 숲(SOOP·옛 아프리카TV)과 국내 스트리밍 업계에서 점유율 1·2위를 다투고 있는 플랫폼이다. 지난 3월 기준 10대 이하 이용자 비율만 해도 38%에 달한다. 서울신문이 7일 이정헌 더불어민주당 의원실을 통해 받은 자료를 보면, 지난 5월 정식 출범한 치지직 채널 중 ‘이용 제한’ 조치를 받은 채널은 단 한 곳도 없었다. 네이버는 자체적으로 플랫폼 운영 정책에 따라 성적 행위나 언행, 폭력 및 가혹 행위 등을 유해 콘텐츠로 분류해 이용 제한을 내린다. 치지직의 경우 자체적으로 개발한 인공지능(AI) 기반 음란 콘텐츠 필터링 기술인 ‘그린아이’를 통해 방송하고 녹화된 영상에 대한 모니터링을 진행한다. 업계와 전문가들은 그동안 치지직에서 이용 제한 조치를 받을 정도의 유해 콘텐츠가 단 한 건도 없었다는 점을 납득하기 어렵다고 지적했다. 염흥열 순천향대 정보보호학과 교수는 “기술이 부족해서 발생한 문제라기보다는 허점이 있다고 봐야 한다”며 “유해 콘텐츠를 판단하는 기준값을 보다 촘촘하게 설정해 놓았다면 많은 건이 적발됐을 것”이라고 지적했다. 이와 관련해 네이버는 치지직에서 이용 제한 외에도 주의 조치 등을 통해 유해 콘텐츠 몇 건이 적발됐는지 공개가 어렵다는 입장이다. 네이버 관계자는 “현재까지 이용 제한 조처를 내린 채널은 시범 서비스 당시인 지난 1월 성기 노출, 욱일기 노출로 논란이 된 2건”이라며 “신고를 기반으로 하는 주의는 계속 증가하고 있다”고 답했다. 현재 네이버는 유해 콘텐츠 노출 가능성이 큰 치지직에 대한 전담 부서를 별도로 두지 않고 있다. 전체 서비스에서 검토가 필요하다고 판단된 콘텐츠를 모니터링할 뿐이다. 유사한 플랫폼인 숲이 서버 안에 모든 영상을 일주일 동안 보관하고, 100명의 모니터링 인력을 바탕으로 24시간 실시간 모니터링하는 부서를 별도로 운영하는 것과는 대조적이다. 네이버 관계자는 “모니터링 인력 현황 등은 외부에 따로 공개하지 않는다”고 했다. 이에 대해 이재성 중앙대 인공지능연구소 소장은 “미성년자 등에게 유해 콘텐츠가 노출되지 않도록 즉각적으로 필터링하는 모니터링 인력이 필요하다”고 말했다.

별도인증 없이 미성년자 시청 가능네이버 AI 모니터링 ‘한계’ 지적도 “즉각 필터링하는 모니터링 인력을 ” ‘게임 리뷰’라고 적힌 한 채널에 별도의 성인 인증 없이 접속하니 스트리머(채널 운영자)가 가슴 부위를 노출한 채 선정적인 춤을 추고 있었다. 영상 하단에 온라인 게임 영상이 재생되고 있었지만, 이른바 ‘벗방’(노출 방송)을 전송하기 위한 ‘눈속임’에 불과했다. ‘생활 습관 개선 1일차’라고 적힌 또 다른 채널에 들어가니 애니메이션 캐릭터의 주요 부위만 가린 딥페이크 이미지가 채널 상단에 걸려있었다. 역시 10대도 시청할 수 있었고, 끝날 때까지 유해 콘텐츠라며 경고받는 일은 없었다. 방송 이후 해당 콘텐츠를 네이버에 신고하려 했지만 스트리머가 이미 영상을 삭제한 터라 신고는 불가능했다. 일부 스트리머의 선정적인 방송으로 시범 서비스 때부터 논란을 불러일으켰던 네이버의 인터넷 생방송(스트리밍) 플랫폼 ‘치지직’(CHZZK)의 유해 콘텐츠 모니터링이 제대로 작동하고 있지 않은 것으로 파악됐다. 지난달에만 약 234만명이 방문한 치지직은 숲(SOOP·옛 아프리카TV)과 국내 스트리밍 업계에서 점유율 1·2위를 다투고 있는 플랫폼이다. 지난 3월 기준 10대 이하 이용자 비율만 해도 38%에 달한다. 서울신문이 7일 이정헌 더불어민주당 의원실을 통해 받은 자료를 보면, 지난 5월 정식 출범한 치지직 채널 중 ‘이용 제한’ 조치를 받은 채널은 단 한 곳도 없었다. 네이버는 자체적으로 플랫폼 운영 정책에 따라 성적 행위나 언행, 폭력 및 가혹 행위 등을 유해 콘텐츠로 분류해 이용 제한을 내린다. 치지직의 경우 자체적으로 개발한 인공지능(AI) 기반 음란 콘텐츠 필터링 기술인 ‘그린아이’를 통해 방송하고 녹화된 영상에 대한 모니터링을 진행한다. 업계와 전문가들은 그동안 치지직에서 이용 제한 조치를 받을 정도의 유해 콘텐츠가 단 한 건도 없었다는 점을 납득하기 어렵다고 지적했다. 염흥열 순천향대 정보보호학과 교수는 “기술이 부족해서 발생한 문제라기보다는 허점이 있다고 봐야 한다”며 “유해 콘텐츠를 판단하는 기준값을 보다 촘촘하게 설정해 놓았다면 많은 건이 적발됐을 것”이라고 지적했다. 이와 관련해 네이버는 치지직에서 이용 제한 외에도 주의 조치 등을 통해 유해 콘텐츠 몇 건이 적발됐는지 공개가 어렵다는 입장이다. 네이버 관계자는 “현재까지 이용 제한 조처를 내린 채널은 시범 서비스 당시인 지난 1월 성기 노출, 욱일기 노출로 논란이 된 2건”이라며 “신고를 기반으로 하는 주의는 계속 증가하고 있다”고 답했다. 현재 네이버는 유해 콘텐츠 노출 가능성이 큰 치지직에 대한 전담 부서를 별도로 두지 않고 있다. 전체 서비스에서 검토가 필요하다고 판단된 콘텐츠를 모니터링할 뿐이다. 유사한 플랫폼인 숲이 서버 안에 모든 영상을 일주일 동안 보관하고, 100명의 모니터링 인력을 바탕으로 24시간 실시간 모니터링하는 부서를 별도로 운영하는 것과는 대조적이다. 네이버 관계자는 “모니터링 인력 현황 등은 외부에 따로 공개하지 않는다”고 했다. 이에 대해 이재성 중앙대 인공지능연구소 소장은 “미성년자 등에게 유해 콘텐츠가 노출되지 않도록 즉각적으로 필터링하는 모니터링 인력이 필요하다”고 말했다.

네이버의 인터넷 생방송(스트리밍) 플랫폼 ‘치지직’(CHZZK)이 인공지능(AI)을 활용해 음란 콘텐츠를 적발하기로 했지만, 정작 이를 통해 걸러낸 콘텐츠 건수는 집계조차 되지 않은 것으로 나타났다. 트위치의 한국 철수로 급성장한 치지직은 아프리카TV와 국내 스트리밍 업계에서 점유율 1·2위를 다투고 있지만, 유해 콘텐츠에 대한 모니터링이나 필터링이 미흡하다는 지적이 나온다. 서울신문이 7일 이정헌 더불어민주당 의원실을 통해 네이버에서 제공받은 ‘AI 기술로 적발한 음란 콘텐츠 현황’ 자료에 따르면, 네이버는 “그린아이를 이용한 선정적 콘텐츠 적발 건수를 산출하기 어렵다”고 답했다. 그린아이는 네이버가 자체적으로 개발한 AI 기반 음란 콘텐츠 필터링 기술로 주로 방송을 하고 녹화된 영상을 모니터링하는 것으로 알려졌다. 앞서 네이버는 그린아이가 유해 사진이나 영상을 걸러낼 적중률은 약 99.5%라고 밝힌 바 있다. AI 기술이 콘텐츠를 정교하게 걸러내는 데 한계가 있는 데도 모니터링 인력은 부족하고 규정을 위반한 사용자에 대한 제재도 무겁지 않다. 치지직이 지난 5월 정식 출범한 이후 네이버 음란물 신고 창구를 통해 신고받은 영상을 게재한 채널 중 ‘이용 제한’ 조치를 받은 채널은 없었다. 숲(SOOP·옛 아프리카TV) 등 다른 스트리밍 플랫폼이 24시간 내내 실시간으로 모니터링하는 부서를 별도로 운영하는 데 반해 네이버는 ‘(치지직) 전담이 아닌 네이버 전체 서비스에서 검토가 필요한 콘텐츠를 모니터링한다’고 밝혔다. 하지만 이날 서울신문이 치지직 플랫폼에 접속해 보니, 신체를 노출하는 이른바 ‘벗방’ 콘텐츠를 대부분 별도의 로그인이나 성인 인증 없이 시청할 수 있었다. 게다가 실시간으로 유해 콘텐츠를 송출한 뒤 스트리머가 이러한 영상을 보관하지 않고 삭제할 경우 치지직에서는 AI가 모니터링해 제지하거나 이용자가 신고하기도 어려운 구조다. 반면 음란 콘텐츠 관리가 허술하다는 비판이 제기되자 SOOP은 서버 안에 모든 영상을 일주일 동안 보관하는 시스템을 마련한 상태다. SOOP이 이 의원실에 제출한 자료에 따르면, 지난해 12월부터 지난 8월까지 AI 기술로 적발한 유해 콘텐츠는 총 3만 1308개였다. SOOP의 실시간 모니터링 인력은 지난달 기준 약 100명이다. 이에 대해 네이버 관계자는 “치지직 서비스에 대해 제한적으로 그린아이를 적용 중”이라며 “지속적인 주의를 받는 요주의 스트리머는 지속적으로 모니터링을 하고 있다”고 답했다. 이 의원은 “치지직의 10대 이하 이용자 비율은 무려 38%에 달한다”면서 “스트리밍 방송을 실시간으로 모니터링하는 부서를 통해 부적합한 콘텐츠를 제한할 수 있도록 조치를 취해야 한다”고 밝혔다.

충남 당진시(시장 오성환)는 당진경찰서·당진교육지원청·청소년문화발전위원회와 허위 영상물(딥페이크)에 효과적 대응을 위한 업무협약을 체결했다고 4일 밝혔다. 이번 협약은 △청소년 대상 허위 영상물 이용 범죄 근절을 위한 상호 협력 △딥페이크 이용 범죄예방 사회적 안전망 구축 △피해 청소년 보호 및 2차 피해 방지 노력 등을 담고 있다. 오성환 당진시장은 “허위 영상물 또한 성범죄로 엄중히 처벌되는 만큼 학생과 학부모, 시민 대상으로 인식 개선 및 경각심을 높일 수 있도록 홍보활동에 적극 노력하겠다고 말했다.

‘소수정예’ 서울 중구의회는 현장 목소리에 귀를 기울이는 소통 의회를 표방한다. 지역 발전의 첫걸음이 주민 참여에서부터 시작한다는 믿음에서다. 중구의회는 서울시 25개 구의회 중 의원 수가 9명으로 가장 적다. 규모가 작은 만큼 모든 의원이 당적을 내려놓고 오로지 지역 발전을 위해 움직이는 게 특징이다. 아울러 구의회는 구민을 대상으로 지방의회의 역할에 대한 이해를 높이고자 현장 중심의 의정 활동을 펼치고 있다. 실제 소재권 중구의회 의장을 비롯해 양은미 부의장, 조미정 의회운영위원회·손주하 행정보건위원회·송재천 복지건설위원회 위원장, 윤판오·이정미·길기영·허상욱 구의원은 매주 지역 곳곳을 돌아다니면서 현장 목소리를 정책에 담고 있다. 최근 중구보훈회관을 찾은 의원들은 간담회를 통해 국가유공자와 보훈 가족을 위한 처우 개선이 필요하다는 데 뜻을 모았다. 지난달에는 사회적 논란이 되는 딥페이크(허위 영상물) 성범죄 문제와 관련한 교육을 진행하면서 경각심을 높이는 동시에 해결책 마련에도 소매를 걷어붙였다. 구의회는 딥페이크 근절을 위한 각종 프로그램을 추진하는 동시에 해결 및 지원책 마련에도 총력을 기울인다는 방침이다. 구의회는 실효성 높은 정책을 제안하고 추진하기 위해 ‘남산숲 살리기’와 ‘입법 역량 강화’ 연구회도 운영 중이다. 남산숲 살리기 연구회는 남산숲의 생태 변화를 관찰하고 주민이 주도하는 남산숲을 만들기 위해 다양한 의견을 논의하고 있다. 이 과정에서 생태 역사 프로그램 활용과 주민참여 남산숲 모니터링, 남산 북사면 소나무림 조성 등 주민이 주도하는 다양한 정책적 대안이 도출됐다. 입법 역량 강화 연구회는 행정기관에 의해 문제가 해결되기를 바라는 ‘행정수요’의 다변화와 지방자치법 개정 등의 변화에 발맞춰 주민 삶의 질을 높이기 위한 전략을 세우고자 결성됐다. 이를 통해 청소년 안전에 대한 사회적 문제와 현상에 주목한 조례 제·개정과 정책 제언을 발굴했다. 또한 전통시장 및 상점가 육성에 초점을 맞춘 조례를 만드는 등 생활밀착형 의정 활동에도 앞장서고 있다. 중구의회 관계자는 “후반기 의회 역시 의원 연구회를 더욱 활성화해 지역 내 현안을 전문적으로 풀어내고 지역사회 요구에 부응할 수 있도록 할 것”이라며 “단순히 연구 활동에만 그치지 않고 정책 제안과 조례 발의, 예산 심의 등 구민이 실질적으로 체감할 수 있는 입법 활동에 집중하겠다”고 말했다.

제9대 후반기 서울 서초구의회는 ‘구민이 바라는 서초, 함께 만드는 의회’를 새로운 슬로건으로 내세우며 의정활동을 본격화했다. 3일 서초구의회에 따르면 이 같은 슬로건은 의회나 집행기관이 아닌 주민들의 시각에서 의정활동을 펼치겠다는 뜻을 담은 것이다. 후반기 서초구의회는 지방의회에 과거보다 많은 역할과 권한이 부여된 만큼 구민의 기대와 요구에 적극적으로 부응해야 할 시기라는 인식 아래 회기를 재가동했다. 후반기 의정활동은 주민과의 소통에 초점을 맞춘다. 제9대 의회는 그동안 행정사무감사, 예·결산심사, 구정업무보고 등의 의사일정을 진행하며 검증이 필요한 부분은 반드시 현장을 방문해 확인하는 절차를 거쳐왔는데, 후반기에서도 마찬가지로 이 같은 원칙 아래 현장을 찾아 주민과 호흡할 계획이다. 이를 위해 의회 청사가 아닌 현장으로 직접 가서 구민과 가장 가까운 거리에서 애로사항이나 민원을 청취하는 방안을 검토하고 있다. 의원들에게는 다양한 교육기회를 제공하고 연구단체를 지원해 역량을 강화할 방침이다. 후반기에 출범한 의원 연구단체는 ▲서초구 고립·은둔생활 실태조사 연구회 ▲서초문화관광연구회 ▲서초 인공지능(AI) 행정과 규제방안 연구회 등으로, 이들은 앞서 출범식을 갖고 본격적인 운영에 들어갔다. 이번 연구단체는 기존의 2개 단체에서 1개 단체가 더 늘어난 것으로, 활동기간도 늘려 보다 내실 있는 결과물을 도출할 계획이다. 더불어 의원 교육과 관련해 민간의 교육프로그램을 적극적으로 활용할 수 있다고 서초구의회는 설명했다. 그동안 지역 곳곳을 방문하고, 구민 권익을 보호하기 위해 나선 노력은 5분 자유발언으로도 이어지고 있다. 9대 의원들은 민원의 시의성과 적시성을 높이기 위해 그때그때 5분 자유발언에 나서고 있다. 9대 서초구의회는 지난달 335회 임시회까지 총 52회의 5분 자유발언이 나오며 전임과 비교하면 횟수가 크게 늘었다. 이는 7대 의회 전체 임기에서 나온 5분 자유발언과 같은 횟수이고, 전임 8대 의회 전체 임기에서 나왔던 횟수(49회)를 이미 넘어선 것이다. 앞서 335회 임시회에서는 서초 문화예술기관 내 장애인 편의시설 증진 촉구, 딥페이크(허위영상물) 성범죄 대응의 중요성, 어린이 등·하굣길 교통사고 예방 대책 촉구 등이 5분 자유발언을 통해 나왔다.

디지털 음란 합성물 범죄, 이른바 ‘딥페이크 성범죄’가 전국적으로 기승을 부리고 있다. 인물 사진을 나체로 바꿔 주는 텔레그램 채널이 10개, 누적 이용자가 200만명에 이른다는 조사 결과도 있다. 딥페이크 사진·영상물은 대화 기록을 남기지 않는 텔레그램이나 다크웹에서 은밀히 유통되기 때문에 증거 확보는 물론 단서 추적조차 쉽지 않다. ‘어둠의 존재’가 대놓고 수사기관을 조롱하는 사례도 빈번하다. “죄 있으니 잡아 보라”는 식이다. 일부는 수사가 진행되면 계정을 폐쇄하고 잠시 숨었다가 근거지를 옮겨 다시 이용자를 끌어모은다. 이런 환경에서 어둠의 존재들을 일망타진하기란 거의 불가능하다. 경찰은 수년 전부터 정치권에 ‘디지털 범죄 위장수사’를 허용해 달라고 읍소해 왔다. 범죄자로 위장해 이미 썩어버린 어둠의 세계 중심부에 도달해 보겠다는 의지였다. ‘공권력 남용’을 우려하는 목소리도 있었으나 2019년 발생한 ‘N번방 사건’이 여론을 크게 흔들었다. 미국, 영국, 독일 등 선진국들은 이미 위장수사를 허용하고 있다는 사실도 부각됐다. 결국 2021년 ‘아동·청소년 디지털 성범죄’에 한해 경찰이 신분을 위장해 수사할 수 있도록 청소년성보호법에 수사특례규정이 마련됐다. 법 개정 효과는 놀라웠다. 경찰청에 따르면 위장수사를 활용한 아동·청소년 디지털 성범죄 검거인원은 2021년 83명, 2022년 374명, 지난해 571명으로 급증했다. 올해도 4월까지 113명이나 검거했다. 경찰은 다시 정치권에 읍소하고 나섰다. 마약범죄, 성인 디지털 성범죄로 위장수사 영역을 확대해 달라는 요청이다. 그러나 21대 국회가 임기 만료되면서 법 개정 시도는 모두 무위에 그쳤다. 딥페이크 사진·영상물을 제작하면 성폭력처벌법에 따라 5년 이하의 징역 또는 5000만원 이하의 벌금으로 처벌한다. 만약 금전적 목적이라면 7년 이하의 징역형으로 처벌이 상향된다. 또 상습범은 형량을 50%까지 더할 수 있다. 이렇게 딥페이크 성범죄물 상습 제작을 ‘중범죄’로 처벌하고 있지만 수사기관을 조롱하고 홍길동처럼 동에 번쩍, 서에 번쩍 등장하는 행위는 끊이질 않는다. 처벌과 수사 강화가 동시에 이뤄져야 하는데 한쪽 바퀴가 제대로 굴러가지 않는다는 뜻이다. 디지털 성범죄는 한 번 발생하면 피해를 회복하는 데 엄청난 시간과 비용이 소요된다. 사진·영상물이 소셜미디어(SNS)에 등장하자마자 곧바로 재유포되기 때문이다. 결국 추가 피해자가 생기기 전에 탐문수사로 악의 근원을 찾아내는 게 가장 실효적인 해법일 수밖에 없다. 성인 피해자 상당수는 뒤늦게 피해 사실을 인지해 수사기관에 신고한다. 그들은 시간을 되돌릴 수 없다. 위장수사가 이런 피해를 조금이나마 미리 줄여 줄 수 있다면 이제 성인 범죄에 대한 도입도 검토할 때가 됐다고 본다. 마약범죄는 또 어떤가. “마약사범의 기본 장비는 텔레그램과 암호화폐”라는 말이 있을 정도로 이미 마약과 디지털은 끈끈하게 결합된 상태다. 대검찰청이 발간한 ‘2023 마약류 범죄백서’ 통계에 따르면 지난해 마약류 사범은 2만 7611명으로 전년보다 50.1%나 늘었다. 10대와 20대 마약사범은 전체의 35.6%인 9845명에 이른다. SNS에 능숙한 청소년과 청년이 마약범죄의 주류로 부상하고 있다는 뜻이다. 마약 유통은 대부분 ‘점조직’을 통해 이뤄진다. 총책을 검거하지 않는 한 조직은 끊임없이 재건된다. 국내 전체 마약사범은 검거된 인원의 10배에 이른다는 추정도 있다. 광활한 ‘디지털 들판’을 무작정 파헤친다고 답이 나오진 않는다. 범죄조직에 접근해 정보를 빼낸 다음 실마리를 잡아 총책에 대한 표적 수사를 진행해야 한다. 수사 실적을 늘리기 위한 편법이나 공권력 남용이 우려된다면 소명된 범죄행위에만 위장수사를 엄격히 적용하도록 법으로 규정하면 된다. 늘어나는 디지털 영역의 범죄를 막는 근본적인 인식 전환이 필요한 시점이다. 정현용 플랫폼전략부장

안철수 국민의힘 의원은 2일 국내에서 대중적으로 사용하는 중국산 IP 캠에 찍힌 영상이 중국 음란사이트를 통해 공유되고 있는 것과 관련, 정부의 강력한 대처를 주문했다. 안 의원은 이날 페이스북에 글을 올려 “중국의 음란물 사이트에 중국산 IP 캠으로 찍은 한국인들의 동영상이 해킹되어 유통되고 있다고 한다”면서 “전 국가적인 철저한 대책이 필요할 때”라고 밝혔다. 그는 “병원, 탈의실뿐 아니라 수영장, 노래방, 가정집까지 장소를 가리지 않고 영상이 올라와 있다”며 “국민 누구나, 어디서나 자기도 모르는 사이에 피해자가 될 수 있다는 사실이 충격적”이라고 했다. 특히 안 의원은 “연결된 IP 주소와 제조사 정보만 알면 1분도 안 걸려 해킹될 정도로 보안이 취약한 경우가 많다는 것을 대부분의 사용자가 모르고 있다”며 “IP 캠뿐 아니라 AI 스피커 등 인터넷으로 연결된 영상 및 통신 장비도 위험은 마찬가지”라고 했다. 그러면서 “정부도 심각성을 인식하고 즉시 대응해야 한다”며 “먼저 IP 캠의 보안 위험에 대한 실태 조사를 실시하고, 보안 인증 강화 등 개선책을 마련해야 한다”고 했다. 또 “해킹과 영상 유출 행위에 대해 철저히 수사하고, 딥페이크와 마찬가지로 음란물 사이트 접속 차단 등 강력하게 조치해야 한다”고 했다. 안 의원은 “무엇보다도 국가 안보 측면에서 철저히 대비해야 한다”며 “비대칭 전력인 사이버 대응 역량을 높이기 위한 국가 차원의 노력이 시급하다”고 했다. 최근 주간조선 보도에 따르면 중국 음란사이트에서 가정집은 물론 공공장소를 불법 촬영한 영상이 버젓이 유통되고 있다. 폐쇄회로(CC)TV의 하나로 널리 쓰이는 중국산 IP캠을 해킹한 것으로 파악됐다. 특히 가정집에서 쓰는 IP 캠은 최근 반려동물이나 갓난아기, 노인 등을 돌보기 위한 용도로 널리 활용되면서 피해가 더 커지고 있다.