고학수 개인정보보호위원회 위원장은 카카오페이가 중국 알리페이 등에 500억건이 넘는 개인신용정보를 유출했다는 의혹과 관련 “카카오페이, 애플, 알리페이 등을 대상으로 조사 중”이라며 “국외 이전 절차와 개인정보 전송 등에 대한 적법성을 들여다보고 있다”고 밝혔다. 고 위원장은 이날 오후 정부서울청사에서 정례브리핑을 갖고 “카카오페이와 관련된 사항은 일단 직접 연관된 당사자들에 관해 들여다보고 있다”며 “세 개 회사를 조사대상으로 삼고 이들 간에 어떤 관계가 있었고 데이터 흐름이 어떠했는지, 법적인 쟁점은 어떤 건지 정리하는 작업을 하고 있다”고 설명했다. 앞서 금융감독원은 지난달 조사에서 카카오페이가 2018년 4월부터 최근까지 매일 1차례에 걸쳐 총 4045만명의 카카오계정 ID와 휴대전화번호, 카카오페이 거래내용 등 542억건의 개인신용정보를 정보주체의 동의 없이 알리페이에 제공했다고 지적했다. 개인정보보호법에 따르면 개인정보를 국외로 이전할 경우 정보 주체로부터 별도의 동의를 받아야 한다. 개인정보위는 관련 기업에 자료 제출을 요구해 사실관계를 확인한 뒤 최근 조사에 착수했다. 고 위원장은 조사 상황에 대해 “지금 단계에서는 애플을 통한 앱스토어 생태계 안에서 지불 결제 수단이 어떻게 작동했는지와 그 맥락에서 개인정보의 흐름이 어땠는지 보고 있는 중”이라며 “구체적으로 어떤 식의 법적 쟁점 있을지에 관해선 지금으로서는 좀더 지켜봐야 한다”고 설명했다. 고 위원장은 이어 “네이버페이나 토스 등 다른 페이 기업에 대한 조사 계획은 없다”고 덧붙였다. 최근 사회적 논란이 커지고 있는 딥페이크 악용에 대한 법 개정 가능성도 시사했다. 고 위원장은 “딥페이크 성범죄는 사람의 존엄성을 건드린 사안으로 개인정보보호법 맥락에서 고민해야 하고, 법 개정을 위한 작업을 진행하고 있다”며 “얼굴은 특정인인데 그 외 신체는 타인이나 조작된 이미지로 만들어진 게 과거와 다른 딥페이크의 특성인데, 이게 개인의 정체성과 어떻게 맞닿아 있느냐는 새로운 질문이 나온다”고 했다. 그러면서 “기존 법을 활용해 들여다볼 수 있는 점이 일부 있지만, 실효성이 높진 않다”며 “현재 관계부처 태스크포스팀에 참여해 개인정보 보호와 관련한 측면을 정리하는 작업을 진행하고 있다”고 덧붙였다. 최근 대학과 공공기관에서 개인정보 유출 사고가 잇따른 것에 대해서도 고 위원장은 “올해부터 재학생 수가 2만명 이상인 대학에는 개인정보보호책임자(CPO)를 의무적으로 지정하도록 했다”며 “공공기관을 대상으로 개인정보 보호 수준을 평가해 그 결과를 기관 평가에 반영하도록 하는 제도도 마련했다”고 강조했다.

충청남도교육청(교육감 김지철)과 충남경찰청(청장 배대희)이 학교 딥페이크 성범죄 근절을 위한 협력을 강화한다. 도교육청과 충남경찰청은 10일 ‘학교 딥페이크 성범죄 대응 공동선언문’을 발표하고, 학생과 교직원 보호를 위한 강력한 의지를 표명했다. 공동선언문은 △예방 교육 강화 △피해자 지원 확대 △가해자 엄정 대응 △관계기관 협력체계 구축 등의 내용을 담았다. 도교육청은 9일 학교 딥페이크 성범죄 근절 추진계획을 발표하고, 디지털 성범죄 소식지 배포, 학교 딥페이크 성범죄예방교육 운영 등을 추진 중이다. 김지철 교육감은 “딥페이크 범죄는 인격 살인과 같은 심각한 범죄”라며 “피해자 보호에 최선을 다하며, 경찰과의 긴밀한 협력을 통해 안전한 학교를 만들겠다”고 말했다.

‘딥페이크’ 성 착취물이 텔레그램 단체 대화방 등을 통해 대거 유포된 가운데 학생과 교사의 딥페이크 피해 건수가 더욱 불어나고 있다. 교육부는 17개 시도교육청을 통해 파악한 결과 올해 1월부터 지난 6일까지 학생·교원 딥페이크 피해 건수가 총 434건으로 집계됐다고 9일 밝혔다. 앞서 지난달 27일 기준 교육부의 1차 조사에서는 이 건수가 196건이었는데, 열흘 만에 진행된 2차 조사에서 238건이 추가됐다. 학교급별로는 고등학교가 243건으로 가장 많았고, 중학교 179건, 초등학교 12건 순이었다. 고등학교의 경우 1차 조사 당시 79건으로 중학교(109건)보다 피해 건수가 적었다가 2차 조사에서 급격히 불었다. 피해 건수 가운데 350건은 수사 의뢰된 상태다. 수사 의뢰 건수 역시 1차 조사(179건)의 두 배 가까이 증가했다. 딥페이크 피해자는 총 617명이다. 학생이 588명, 교사 27명, 직원 등 2명으로 각각 집계됐다. 교육부는 2차 조사에서 피해 건수가 증가한 이유에 대해 “최근 언론보도 이후 학교 현장에서 신속하게 피해 신고·지원에 대한 안내가 이뤄졌고, 피해영상물 삭제 지원을 받기 위해 신고 필요성을 느낀 피해자의 인식 변화가 반영됐다”고 설명했다. 다음 주부터는 증가세가 많이 꺾일 것으로 내다봤다. 2차 조사에서 새롭게 추가된 지표인 ‘삭제 지원 연계’ 건수는 184건으로 나타났다. 이 건수는 관련 기관에 딥페이크 성 착취물 삭제 지원을 의뢰한 것이다. 실제 삭제가 이뤄진 건수는 확인되지 않았다.

딥페이크(허위 영상물)을 제작·유포하는 텔레그램방에 대한 신고가 빗발치는 가운데 서울에서만 100건 넘게 관련 수사를 진행 중인 것으로 나타났다. 또 신분이 특정된 피의자 4명 중 3명은 10대였다. 서울경찰청은 지난 6일 기준 허위 영상물 범죄와 관련해 모두 101건을 수사 중이라고 9일 밝혔다. 경찰은 이 가운데 43건에 대한 피의자 52명의 신분을 특정했다. 52명 가운데 10대가 39명으로 전체의 75%를 차지했다. 20대는 11명(21%), 30대는 2명(4%)이었다. 서울경찰청은 허위 영상물 범죄의 심각성이 드러난 이후인 지난달 28일부터 사이버수사과 등 41명으로 구성된 ‘허위 영상물 집중 대응 태스크포스’(TF)를 운영하고 있다. 앞서 올해 들어 지난 7월까지 경찰에 신고된 허위 영상물 범죄 297건 중 147건(49.5%)이 검거됐는데, 피의자 178명 중 73.6%(131명)는 10대였다. 허위 영상물 사건이 급증한 것은 최근 텔레그램에서 중고등학교 피해 사실이 드러나면서 관련 신고 등이 늘어난 영향으로 보인다. 김봉식 서울청장은 “수사뿐 아니라 서울교육청 등과 협의해 학교전담경찰관(SPO)들이 학생들을 상대로 허위 영상물 제작과 유포가 심각한 범죄이고 피해자들에게 큰 상처를 준다는 사실을 알리고 있다”고 말했다.

충북도교육청은 급증하는 딥페이크로부터 학생과 교직원을 보호하기 위해 딥페이크 성범죄 대응 TF를 운영한다고 9일 밝혔다. TF는 김태형 부교육감을 단장으로 상황총괄팀, 학생피해지원팀, 교원피해지원팀, 디지털윤리대응팀, 교육과정운영팀, 언론동향팀 등 6개 팀으로 구성된다. 도교육청은 딥페이크 성범죄 예방 활동과 피해회복 지원 강화를 위해 디지털성범죄피해자 지원센터 등 5개 협력 기관, 17개 상담 지원 기관, 충북대 병원 등 9개 병원 등과 민간 합동협의체도 구성했다. 피해사례 발생 시 처리 절차 매뉴얼과 피해자 지원대책도 마련했다. 학생 심리 및 정서 치유는 1인 100만원 한도로 지원된다. 교직원 회복을 위해선 법률지원 및 1인 60만원의 심리상담이 지원된다. 각급 학교에선 디지털 윤리교육, 사이버 성폭력 예방 교육, 디지털 성범죄 예방 교육이 추진된다. 매주 1회 정기적으로 학생 및 교직원 피해 현황 조사도 이뤄진다. 여성가족부 산하 디지털 성범죄 피해자지원센터와 협조해 허위 합성물 삭제 지원에도 나선다. 가해자는 엄중 조치하기로 했다. 김태형 부교육감은 “불법 합성물 제작 및 유포는 심각한 범죄행위라는 사실을 학생들에게 알리고, 온라인에서 자신을 보호할 수 있는 교육을 강화할 방침”이라고 말했다.

또래 여학생의 사진을 이용해 딥페이크 성 착취물을 만든 10대 고등학생이 처벌을 받게 됐다. 광주경찰청 사이버범죄수사대는 아동·청소년 성 보호에 관한 법률 위반 혐의로 10대 A군을 불구속 송치했다고 9일 밝혔다. A군은 지난해 6월부터 지난달까지 이른바 ‘텔레그램 봇’을 이용해 같은 학교 피해자 20여명의 사진을 합성해 휴대전화에 보관한 혐의를 받고 있다. 현재까지는 성 착취물이 유포되지는 않은 것으로 파악되고 있다. A군의 범행은, 우연히 A군의 휴대폰에서 딥페이크 영상물을 발견한 친구가 피해자들에게 알리면서 드러났다. 경찰은 피해자 7명으로부터 의심 신고를 받고 A군의 휴대전화를 압수·분석하는 과정에서 추가 피해자를 확인했다. 광주경찰청은 이 사건을 포함해 지금까지 8건의 허위 영상물 사건을 수사해 4건에 대한 혐의를 입증하고 10~20대 피의자 5명을 불구속 송치했다. 이들은 소셜미디어(SNS)에서 등을 통해 확보한 여성 사진을 이용해 성 착취물을 만들고, 일부는 인터넷 게시판에 유포한 것으로 드러났다. 경찰은 또 시 교육청이 전수조사를 통해 확인한 딥페이크 성 착취물 의심 사례 4건을 넘겨받아 수사 중이다. 경찰 관계자는 “딥페이크 피해를 당하거나 목격한 경우 즉시 수사기관에 신고해 도움을 받을 필요가 있다”며 “피해자나 제보자의 신원을 철저하게 보호하고, 검거 시에는 보상금도 지급할 예정이다”고 말했다.

경북도의회 교육위원회(위원장 박채아)는 지난 5일 제349회 경상북도의회 임시회 제2차 교육위원회를 개최하고, 경북교육청과 5개 직속기관 및 11개 교육지원청의 주요업무 보고를 받으며 제349회 임시회 교육위원회를 마감했다. 이날 주요업무 보고에서는 소속기관의 업무현황과 현안사항을 청취하고 그에 대한 심도 있는 질의와 다양한 정책적 대안을 제시했다. 조용진(김천3) 부위원장은 경기도 동탄 소재 학교복합시설에 대한 우수사례를 언급하며, 학교복합시설을 추진할 경우 교육청과 지자체의 연계 및 공동관리, 학교장의 학교 개방에 대한 인식 개선 등을 통해 주민들이 함께 이용하는 학교복합시설을 추진할 수 있도록 노력해 달라고 당부했다. 김대일(안동3) 위원은 교육활동 보호센터의 기능이 단위 학교별로 대응할 수 있는 시스템을 갖출 것을 요구했으며, 유초등 교육과정이 최소한의 기본적인 교육 기준을 세우것임에도 과도한 자기주도형 교육이 강화되고 있다고 말하며 이런면에서 볼 때, 유·초등과 중등 교육과정을 구분하여 편성해 줄 것을 당부했다. 또한 체험학습 등 야외활동에 있어 경북의 장점이라 할 수 있는 여유있는 학교시설을 활용할 것을 주문했다. 김희수(포항2) 위원은 지역 도의원들과의 소통을 통한 원활한 예산 확보가 필요함을 언급하고, 학교 시설이 있음에도 인근에 체육시설을 짓고 이용하는 지자체가 있다며, 경기도 동탄의 학교복합시설을 예로 들며 교육청과 도의원의 소통, 교육청과 지자체의 소통을 통한 학생과 주민이 함께 이용하는 학교시설이 필요함을 강조했다. 김경숙(비례) 위원은 사이버 박물관에 있는 교과서가 한자 또는 한자와 일본어로 표기돼 있어 아이들이나 성인이 교과서의 내용을 파악하기 힘든 점이 있으므로 우리말 번역의 필요성을 언급했다. 또한 딥페이크와 같은 디지털 성범죄 피해에 대한 대안이나 대책을 교육청에서 미리 세우지 못한 것에 대한 아쉬움을 피력하며 예산 편성은 물론 아이들 정신 교육의 중요성도 중요하다며, 교육청이 선도적으로 관련 정책을 만들어 갈 것을 주문했다. 박용선(포항5) 위원은 노후된 전선으로 인한 기숙사 화재가 많았다며 스프링클러와 같은 사후 대책이 아닌 사전에 화재 예방을 할 수 있는 대책를 요구했다. 또한 조리원들의 건강을 위하여 조리 로봇 도입과 이산화탄소 발생을 억제하기 위해 콩고기와 같은 대체식품을 찾도록 주문했다. 한편, 최근 포항 제철중학구 민원의 근본 원인을 밝히며 학생 배정에 따른 선량한 학부형과 학생이 피해를 보지 않도록 교육청이 대책을 마련할 것을 강력히 촉구했다. 윤종호(구미6) 위원은 올해 예산이 많이 부족할 것이 예상되므로 지역현안특별교부금 신청을 통한 예산의 경우 국회의원을 최대한 활용하여 예산을 확보하고, 또한 지역의 단위학교에서 원활히 예산을 신청할 수 있도록 적극적으로 독려할 것을 주문했다. 정한석(칠곡1) 위원은 지역주민들이 학교 운동장 활용에 어려움을 겪고 있다면서 학교는 학생들에 대한 보금자리고 학생들이 설 수 있는 당연한 공간이지만 그 외 시간에는 지역 주민들과 같이 할 수 있는 공간이 돼야 한다고 말했다. 앞으로 주민들과 학생들이 공감할 수 있는 그런 공간을 만들 수 있도록 당부했다. 차주식(경산1) 위원은 행복학교 거점센터 변호사 채용이 잘 되지 않고 있는 것을 지적하며 지역에 있는 고문 변호사 제도를 검토하거나, 연봉을 올려 주는 등 대안을 세울 것을 주문했으며, 출산율을 높이기 위해 육아휴직 복직 후 휴직한 곳에 복직하도록 하는 등 출산에 대한 혜택이 주어져야 한다고 밝혔다. 한편, 도서관에 대해서는 지역주민들이 평생학습 개념으로 도서관을 많이 이용하므로 지자체로부터 예산을 더 많이 지원 받을 수 있도록 관장님들이 좀 더 노력해 줄 것을 당부했다. 황두영(구미2) 위원은 학교폭력 및 디지털 성범죄에 따른 학생들의 극단적인 선택은 선배, 친구 등 주변으로부터 영향을 받아 순간적으로 일어날 수 있다고 말하며, 학생들이 자기몸의 소중함을 느낄 수 있도록 충분한 예방교육을 주문했다. 한편, 일선학교에 설치된 노후 방송장비의 잦은 수리 문제를 언급하며 계속되는 수리보다는 교체가 더 바람직하지 않은 지 면밀하게 살펴 볼 것을 당부했다. 박채아 위원장(경산3)은 “디지털화, AI 교육, 늘봄교육 확대 등 재정수요는 날로 늘어나고 있는 반면, 국가세수는 2년 연속 적자가 예상되고, 디지털 성범죄, 딥페이크 등 디지털화에 따른 폐해도 나타나고 있어 교육을 둘러싼 환경은 그리 녹록치 않다. 교육위원회는 교육현장을 발로 뛰며 교육수요자들을 직접 만나 소통하는 현장중심의 의정활동을 펼쳐 교육을 둘러싼 현재의 어려운 상황을 헤쳐나갈 것”이라고 말했다.

이교구 수퍼톤 대표가 미국 시사주간지 ‘타임(Time)’이 선정한 전 세계 인공지능(AI) 분야의 가장 영향력 있는 인물 100인에 이름을 올렸다. 타임은 5일(현지시간) 발표한 ‘TIME 100 AI 2024’에서 이 대표를 선구자 부문에 등재했다. 한국인 중에서는 이 대표가 유일하게 포함됐다. 타임은 “K팝 산업은 미국 음악 산업보다 발빠르게 AI 기술을 다양하게 실험해 오고 있다”라며 “이 대표가 이런 변화의 중심에 서 있다”고 평가했다. 하이브 산하의 수퍼톤은 고유의 AI 오디오 기술을 기반으로 생성한 목소리를 음악과 영화, 애니메이션, 게임 등 다양한 엔터테인먼트 분야에서 활용하고 있다. 올 상반기 공개 시험 버전을 시작한 AI 실시간 음성 변환 서비스 ‘수퍼톤 시프트’도 주목받고 있다. 올해 명단에는 젠슨 황 엔비디아 최고경영자(CEO), 마크 저커버그 메타 CEO, 숏폼 플랫폼 틱톡(TikTok)을 운영하는 바이트댄스 공동 설립자 리앙 루보 등 AI 빅테크 기업인들이 포함됐다. 이 밖에 딥페이크 피해자 보호 단체를 설립한 15세의 프란체스카 마니, 영화배우 스칼렛 요한슨 등도 이름을 올렸다.

미국 사이버 보안업체 시큐리티히어로가 최근 발표한 ‘2023 딥페이크(허위 영상물) 현황’ 보고서에 따르면 딥페이크 성착취물 피해자의 53%가 한국인이다. 지난해 7~8월 유통된 9만 5820개 영상물 피해자의 99%가 여성인데 상위 피해자 10명 중 8명이 한국 가수다. 미국 경제 일간 월스트리트저널(WSJ)은 “가짜 음란물을 생성·유포하는 세계적인 문제의 진앙지가 한국이라는 것을 시사한다”고 썼다. 새로운 지적은 아니다. 올 3월 프랑스 일간 르몽드는 “(딥페이크를 활용한 성범죄는) 한국에서 수년 전부터 문제였는데 이미 일상적인 일이 됐다”고 보도했다. 한국 남성은 다른 나라 남성보다 관음적일까. 시큐리티히어로 보고서에는 미국 남성 1522명에 대한 설문 결과도 있다. 응답자의 48%가 ‘최근 6개월 동안 최소 한 번 이상 딥페이크 성착취물을 봤다’고 답했다. 이유는 ‘기술에 대한 호기심’(57%), ‘연예인에 대한 관심’(48%), ‘욕구 충족’(36%) 등이었다. 성착취물을 본 사용자의 74%는 ‘죄책감을 느끼지 않았다’고 했다. ‘사람이 아니고’(36%), ‘개인 관심사에 머무는 한 누구를 해치지 않을 거고’(30%), ‘상상보다 조금 현실적일 뿐이며’(29%), ‘실제 포르노와 별반 다르지 않아서’(28%)였다. 응답자의 20%는 ‘관련 기술을 배울 생각을 했다’고 답했다. 가까운 사람이 성착취물의 피해자가 될 경우 73%가 이를 신고할 거라고 답했다. 시큐리티히어로는 “응답자들이 잠재적 피해를 심각하게 인식하고 있다”고 해석했다. 한국 남성들에게 묻는다면 어떤 비율이 나올지 궁금하다. 우리나라의 성범죄 사건은 가해자 중심으로 흘러간다. 올 5월 영국 공영방송 BBC가 ‘버닝썬이 쏘아올린 작은 공’을 유튜브로 방영했다. 5년 전인 2019년 일을 다룬 다큐멘터리를 통해서야 가수 고(故) 구하라가 가해자들과 유착된 경찰을 밝혀내는 데 결정적 역할을 했다는 것이 알려졌다. 그 역시 ‘리벤지 포르노’(전 연인에 대한 보복성 음란물 유포)의 피해자다. 연예인의 ‘몰카’ 사건을 보도하면서 비뚤어진 팬덤의 피해자가 된 기자들, 유출을 두려워하는 몰카 피해자들의 이야기를 담았다. ‘이 다큐가 한국에서가 아니라 BBC를 통해 나왔다는 게 참 비극이다’는 댓글이 6만개가 넘는 ‘좋아요’를 받았다. 성범죄 판결은 가해자 ‘배려’에 가깝다. 2018년 32개국 사법당국의 공조로 잡힌 ‘웰컴투비디오’의 운영자 손정우는 지난 7월 출소했을 것이다. 세계 최대 아동 성착취물 공유 사이트를 운영한 성범죄 혐의가 1년 6개월, 자금세탁 혐의가 2년이었다. 해당 사건에서 영국의 영상 제작자는 22년, 미국의 사이트 공동운영자는 15년, 영상을 내려받은 사람은 5년형을 선고받았다. 2020년 미국의 손정우 인도 청구를 불허한 재판부의 판결문에 이런 내용이 있다. “범죄인이 국적을 가지고 있는 대한민국에서 주권국가로서 범죄인에 대해 주도적으로 형사처벌 권한을 행사할 수 있다.” 피해자 중심으로 바꿔 보자. “피해자가 국적을 가지고 있는 대한민국에서 주권국가로서 피해자에 대해 주도적으로 보호 권한을 행사할 수 있다”도 필요하지 않나. 메신저 앱인 텔레그램 대화방에서 수많은 성착취 영상물을 제작·유포한 ‘n번방’ 사건이 2020년 알려진 이후 대책이 검토되긴 했다. 그러나 피해 영상물이 발견되면 수사기관이 이를 즉시 삭제할 수 있는 권한을 부여하거나, 징역형 상한을 올리거나, 재유포를 방지하는 당연한 일들은 여전히 불가능하다. 딥페이크 성범죄로 인한 실형 또한 극히 드물다. 합성 수준이 낮아서, 범죄 수익이 적어서라는데 이 논점은 피해자의 고통과는 상관없다. 텔레그램이 지난 3일 방송통신심의위원회에 긴급 삭제를 요청한 영상물 25건을 모두 삭제했다는 이메일을 보내왔단다. 경찰이 딥페이크 성범죄 방조 혐의로 내사에 착수한 다음날이다. 성범죄 동영상이 유포되는 플랫폼 기업들은 정부 움직임에 따라 움직인다. 생성형 인공지능(AI) 발달로 1분짜리 딥페이크를 무료로 25분 만에 만들 수 있단다. 정치권과 정부가 요즘 호들갑을 떠는 만큼 빠르게 결과물이 나올 거라 믿고 싶다. 직무유기가 반복되면 한국은 ‘성범죄 선진국, 수사·처벌 후진국’으로 오랫동안 남을 거다. 전경하 논설위원

검색창에 ‘OO사이트 OO능욕 게시판’을 입력하면 한 온라인 커뮤니티의 게시판에 접속할 수 있다. 5000명이 넘는 구독자를 보유한 이 게시판에는 아무런 게시물도 올라와 있지 않았다. 하지만 게시판 운영진 등에게 비밀번호 성격의 코드를 받아 로그인하면 전혀 다른 화면이 펼쳐진다. 아동을 모델로 한 리얼돌 사용 후기와 구매 링크, 성매매 후기, 불법 촬영물 등이 수두룩하다. 아는 사람만 찾아온다는 이 게시판은 딥페이크(허위 영상물)로 성범죄에 대한 경각심이 높아지는 와중에 어떤 제재도 받지 않고 성업 중이었다. 텔레그램 같은 소셜미디어(SNS)뿐 아니라 친목 도모나 취미 공유를 위해 만들어진 일부 온라인 커뮤니티가 ‘성범죄 놀이터’로 이용되고 있는 것으로 나타났다. 5일 서울신문이 불법 음란물 등이 유통되는 커뮤니티를 둘러본 결과 일부 커뮤니티는 가상사설망(VPN)을 통해 우회 접속해야 게시글을 볼 수 있을 정도로 폐쇄성이 짙었다. 소아성애·근친 등 선정적·불법적인 주제를 다룰수록 더 까다로운 절차를 거쳐야 했다. 하지만 성인 인증 등을 요구하는 커뮤니티는 없어 10대 청소년들도 불법 음란물에 무분별하게 노출되고 있다. 음란물 불법 유통, 성매매 알선·광고, 성인용품 판매 등으로 수익을 창출하려는 불법 사이트와 달리 온라인 커뮤니티는 관심사 공유를 목적으로 한다. 리얼돌, 소아성애, 근친, 성매매 정보 공유 등이 주된 내용이다. 커뮤니티 회원들끼리 불법 촬영물이나 성매매 후기 등을 공유하고 영상물 링크 등 각종 정보를 교환하는 식이다. 커뮤니티 이용자들은 관심사를 나눈 것일 뿐 성범죄가 아니라는 주장이다. 아동 리얼돌 후기를 남긴 한 커뮤니티 이용자는 “누군가의 취향일 뿐이지 불법 음란물이 아니다”라며 “이게 왜 범죄가 되느냐”고 했다. 또 다른 이용자는 “직접 찍은 게 아니라 인터넷에 떠도는 야한 사진을 공유한 것일 뿐이다. 이 정도는 처벌 대상이 아니지 않으냐”고 되묻기도 했다. 아예 음지로 숨은 커뮤니티도 적지 않다. 한 커뮤니티의 ‘성매매 게시판’은 국내 IP로는 접속이 불가능했다. 커뮤니티 이용자들끼리 공유하는 IP 설정값을 입력한 뒤 정해진 VPN으로 우회 접속해야만 게시판의 게시물을 볼 수 있었다. 이 게시판에는 업체명을 적시한 성매매 후기는 물론 영상까지 올라와 있었다. 길가의 여성을 대상으로 한 불법 촬영물, 지인이나 가족의 속옷 이미지를 첨부한 사진 등도 많았다. 2016년 폐쇄된 국내 최대 음란 사이트 소라넷과 유사한 모습이었다. 문제는 커뮤니티 대부분이 텔레그램처럼 해외에 서버를 두고 있다는 점이다. 또 운영자가 단속 등을 피하기 위해 클라우드 데이터 백업을 한 뒤 게시판을 폐쇄했다가 다시 운영을 재개하는 경우도 빈번하다. 디지털성범죄피해자지원센터가 조은희 국민의힘 의원실에 제출한 ‘불법 촬영물 등 유포 사이트 서버 국가 현황’을 보면 2018년 4월~지난 3월 해외에 서버를 둔 사이트가 전체의 약 95.4%(2만 6426건)를 차지했다. 곽대경 동국대 경찰사법대학 교수는 “커뮤니티가 워낙 많다 보니 시민사회단체나 여성단체, 학부모단체에서 모니터링한 이후 경찰에 신고하는 유기적인 협조체계 구축이 필요하다”고 말했다. 권헌영 고려대 정보보호대학원 교수는 “VPN으로 우회 접속하는 커뮤니티 등도 시간이 걸릴 뿐 수사하면 모두 추적할 수 있다”며 “추적 이후 실제로 영장 집행 등을 할 수 있도록 국제 공조를 강화하는 게 필수”라고 했다.

올 4월 불법 게시물 388건 적발선관위 명령에도 97건 삭제 안 돼“해외 플랫폼엔 국내법 적용 한계” 4·10 총선의 사이버상 공직선거법 위반 건수가 12년 만에 약 41배 증가한 것으로 드러났다. 또 총선 국면에서 적발된 ‘딥페이크’(허위 영상물) 선거운동 게시물 중 25%는 중앙선거관리위원회(선관위)의 명령에도 삭제되지 않았다. 5일 한병도 더불어민주당 의원실이 선관위에서 제출받은 자료에 따르면 4·10 총선의 사이버상 공직선거법 위반 사례는 7만 4172건으로 12년 전 19대 총선(1793건)과 비교해 41.4배 늘었다. 20대 총선은 1만 7430건, 21대 총선은 5만 3904건 등으로 급격한 증가세다. 선관위의 불법 허위 게시물 삭제 요청도 19대 총선 때 1726건에서 올해 총선 때 7만 4025건으로 42.9배 늘었다. 선관위는 실존하지 않는 인물의 딥페이크 이미지로 특정 정당과 입후보 예정자의 선거운동 메시지를 전파하거나 주요 정치인의 딥페이크 영상으로 특정 후보에 대해 가짜 험담을 한 사례 등이 있었다고 전했다. 특히 이번 총선에서 새롭게 적발된 ‘딥페이크 불법 선거운동 게시물’ 388건 중 97건(25%)은 선관위가 삭제 명령까지 내렸지만 여전히 게시된 상태였다. 국회는 딥페이크를 활용한 가짜 선거운동 우려에 선거일 90일 전부터 선거 당일까지 선거운동을 목적으로 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없게 하는 공직선거법 개정안을 지난해 12월 통과시켰다. 하지만 대부분이 해외 소셜미디어(SNS) 플랫폼에 오른 게시물이어서 국내법의 효력이 미치지 않는다. 이성엽 고려대 기술경영전문대학원 교수는 “(선관위의 불법 게시물 삭제 요청에 대해) 텔레그램과 같은 외국 기업은 콘택트 포인트(연락 지점)는 물론 제대로 집행되는지, 어떻게 이행되는 건지에 대한 지속적인 모니터링이 힘든 부분이 있다”고 말했다. 또 한 의원은 “딥페이크 등 신기술이 불법 선거운동에 악용되는 데 대해 선관위는 대책 마련에 적극 나서야 한다”고 말했다.

4·10 총선의 사이버상 공직선거법 위반 건수가 12년 만에 약 41배 증가한 것으로 드러났다. 또 총선 국면에서 적발된 ‘딥페이크’(허위 영상물) 선거운동 게시물 중 25%는 중앙선거관리위원회(선관위)의 명령에도 삭제되지 않았다. 5일 한병도 더불어민주당 의원실이 선관위에서 제출받은 자료에 따르면 4·10 총선의 사이버상 공직선거법 위반 사례는 7만 4172건으로 12년 전 19대 총선(1793건)과 비교해 41.4배로 늘었다. 20대 총선은 1만 7430건, 21대 총선은 5만 3904건 등으로 급격한 증가세다. 선관위의 불법 허위 게시물 삭제 요청도 19대 총선 때 1726건에서 올해 총선에서 7만 4025건으로 42.9배로 늘었다. 선관위는 실존하지 않은 인물의 딥페이크 이미지로 특정 정당과 입후보예정자의 선거운동 메시지를 전파하거나, 주요 정치인의 딥페이크 영상으로 특정 후보에 대한 가짜 험담을 한 사례 등이 있었다고 전했다. 특히 이번 총선에서 새롭게 적발된 ‘딥페이크 불법 선거운동 게시물’ 388건 중 97건(25%)은 선관위의 요청에도 삭제되지 않았다. 전문가 “해외 플랫폼에는 국내법 적용 한계” 국회는 딥페이크를 활용한 가짜 선거운동 우려에 선거일 90일 전부터 선거 당일까지 선거운동을 목적으로 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없게 하는 공직선거법 개정안을 지난해 12월 통과시켰다. 하지만 대부분이 해외 소셜미디어(SNS) 플랫폼에 오른 게시물이어서 국내법의 효력이 미치지 않는다. 이성엽 고려대 기술경영전문대학원 교수는 “(선관위의 불법 게시물 삭제 요청에 대해) 텔레그램과 같은 외국 기업은 컨택포인트(연락 지점)는 물론, 제대로 집행이 되는지, 어떻게 이행되는 건지에 대해 지속적인 모니터링이 힘든 부분이 있다”고 말했다. 또 한 의원은 “선거운동 방식이 급변하는데 선관위가 적절히 대응하고 있는지 의문”이라며 “딥페이크 등 신기술이 불법 선거운동에 악용되는 데 대해 선관위는 대책 마련에 적극 나서야 한다”고 말했다.

텔레그램 대화방 사태에도 성업일부에선 불법 음란물 유통까지폐쇄성·해외 서버로 수사 난항도“시민사회와 협조 체계 구축해야” 검색창에 ‘OO사이트 OO능욕 게시판’을 입력하면 한 온라인 커뮤니티의 게시판에 접속할 수 있다. 5000명이 넘는 구독자를 보유한 이 게시판에는 아무런 게시물도 올라와 있지 않았다. 하지만 게시판 운영진 등에게 비밀번호 성격의 코드를 받아 로그인하면 전혀 다른 화면이 펼쳐진다. 아동을 모델로 한 리얼돌 사용 후기와 구매 링크, 성매매 후기, 불법 촬영물 등이 수두룩하다. 아는 사람만 찾아온다는 이 게시판은 딥페이크(허위 영상물)로 성범죄에 대한 경각심이 높아지는 와중에도 어떤 제재도 받지 않고 성업 중이었다. 텔레그램 같은 소셜미디어(SNS)뿐 아니라 친목 도모나 취미 공유를 위해 만들어진 일부 온라인 커뮤니티가 ‘성범죄 놀이터’로 이용되고 있는 것으로 나타났다. 5일 서울신문이 불법 음란물 등이 유통되는 커뮤니티를 둘러본 결과, 일부 커뮤니티는 가상사설망(VPN)을 통해 우회 접속해야 게시글을 볼 수 있을 정도로 폐쇄성이 짙었다. 소아성애·근친 등 선정적·불법적인 주제를 다룰수록 더 까다로운 절차를 거쳐야 했다. 하지만 성인 인증 등을 요구하는 커뮤니티는 없어 10대 청소년들도 불법 음란물에 무분별하게 노출되고 있다. 음란물 불법 유통, 성매매 알선·광고, 성인용품 판매 등으로 수익을 창출하려는 불법 사이트와 달리 온라인 커뮤니티는 관심사 공유를 목적으로 한다. 리얼돌, 소아성애, 근친, 성매매 정보공유 등이 주된 내용이다. 커뮤니티 회원들끼리 불법 촬영물이나 성매매 후기 등을 공유하고, 영상물 링크 등 각종 정보를 교환하는 식이다. 커뮤니티 이용자들은 관심사를 말한 것일 뿐 성범죄가 아니라는 주장이다. 아동 리얼돌 후기를 남긴 한 커뮤니티 이용자는 “누군가의 취향일 뿐이지 불법 음란물이 아니다”며 “이게 왜 범죄가 되냐”고 했다. 또 다른 이용자는 “직접 찍은 게 아니라 인터넷에 떠도는 야한 사진을 공유한 것일 뿐이다. 이 정도는 처벌 대상이 아니지 않냐”고 되묻기도 했다. 아예 음지로 숨은 커뮤니티도 적잖다. 한 커뮤니티의 ‘성매매 게시판’은 국내 IP로는 접속이 불가능했다. 커뮤니티 이용자들끼리 공유하는 IP 설정값을 입력한 뒤 정해진 VPN으로 우회 접속해야만 게시판의 게시물을 볼 수 있었다. 이 게시판에는 업체명을 적시한 성매매 후기는 물론 영상까지 올라와 있었다. 길가의 여성을 대상으로 한 불법 촬영물, 지인이나 가족의 속옷 이미지를 첨부한 사진 등도 많았다. 2016년 폐쇄된 국내 최대 음란사이트 소라넷과 유사한 모습이었다. 문제는 커뮤니티 대부분이 텔레그램처럼 해외에 서버를 두고 있다는 점이다. 또 운영자가 단속 등을 피하기 위해 클라우드 데이터 백업을 한 뒤 게시판을 폐쇄했다가 다시 운영을 재개하는 경우도 빈번하다. 디지털성범죄지원센터가 조은희 국민의힘 의원실에 제출한 ‘불법 촬영물 등 유포 사이트 서버 국가 현황’을 보면 2018년 4월~지난 3월 해외에 서버를 둔 사이트가 전체의 약 95.4%(2만 6426건)를 차지했다. 곽대경 동국대 경찰사법대학 교수는 “커뮤니티가 워낙 많다 보니 시민사회단체나 여성단체, 학부모단체에서 모니터링한 이후 경찰에 신고하는 유기적인 협조 체계 구축이 필요하다”고 말했다. 권헌영 고려대 정보보호대학원 교수는 “VPN 우회 접속하는 커뮤니티 등도 시간이 걸릴 뿐 수사하면 모두 추적할 수 있다”며 “추적 이후 실제로 영장 집행 등을 할 수 있도록 국제공조를 강화하는 게 필수”라고 했다.

최근 대두된 딥페이크 범죄로 학생과 학부모의 불안이 커지고 있다. 학생들의 디지털기기 이용 증가로 인한 문해력 저하 우려까지 이어지는 가운데, 학생들의 AI 디지털 교육은 그 어느 때보다 중요하다. 최재란 서울시의원은 이 같은 우려를 종식시키기 위한 ‘AI 윤리교육’을 서울시교육청에 강하게 주문했다. 지난 3일 열린 제326회 임시회 제2차 교육위원회, 서울시교육청 교육정책국 등 주요업무 보고에서 서울시의회 교육위원회 소속 최재란 의원(더불어민주당·비례대표)은 딥페이크 범죄와 관련해, 이번 사태는 과거 디지털 범죄에 대한 소극적인 수사, 가벼운 처벌, 부실 대책이 야기한 결과지만 근본적으로는 여성 혐오와 인간에 대한 존중 부재라는 도덕적 해이가 자리하고 있다고 진단했다. 최 의원은 “젠더 범죄의 역사는 길다. 딥페이크 사건이 갑자기 발생한 것이 아니라는 의미다. 과거와 도구만 달라졌을 뿐”이라면서 “AI 윤리 디지털 시민성 제고를 위해선, 사람에 대한 존중은 물론 성숙한 젠더 교육 등 도덕적인 기준을 아이들에게 먼저 가르쳐야 한다는 것을 깊이 고민을 해달라”고 거듭 당부했다. 주소연 교육정책국장은 “저희도 가장 고민을 하는 부분”이라면서 “이번 딥페이크 범죄로 또 한 번 환기시켰다. 어떻게 예방해 나가면서 (디지털기기 활용 교육을) 할 수 있을까, 가장 중요하게 생각하는 부분 역시 윤리적인 문제”라고 말했다. 또한 최 의원은 AI 디지털 교과서 도입에 대한 우려의 목소리에 귀 기울일 것도 주문했다. 교육부는 2025년부터 수학·영어·정보·특수(국어) 교과에 대해 초등 3·4학년, 중·고등 1학년에 AI 디지털 교과서를 도입, AI 디지털 교육 활성화할 예정이다. 최 의원은 “디지털기기 사용 증가에 따른 학생들의 문해력 저하 우려를 외면해서는 안 된다”며 “서울형 독서토론 수업을 실시하는 것으로 알고 있다. 디지털기기 사용 시간이 늘어나는 만큼 독서토론 시간을 더 늘려 토론 문화를 활성화하고 외부 활동도 확대하면, 디지털기기 이용으로 인해 우려되는 부분을 상쇄할 수 있지 않겠느냐”고 제안했다. 주 국장은 “문해력 부분도 놓칠 수 없기에 아침 독서, 독서토론 등 강화하고 있다”면서 “AI 디지털 교과서 교육에, AI 인터넷 윤리교육부터 들어간다. 선생님들이 올바르게 잘 사용할 수 있도록 디지털 리터러시 교육연수도 진행하고 있고, 어떻게 예방할 수 있을까? 방안을 찾고 있다”고 답했다. 최 의원은 “하나의 정책이 자리 잡기까지 오랜 시간이 걸리고 시행착오 과정에서 발전하고, 또 하나의 사회적인 공감과 통합되는 과정을 거친다”면서 “지금 제기되는 우려에 대해 심도있게 논의하고 연구함과 동시에 디지털 교육을 선도할 기회도 놓치지 않을 수 있도록 노력해 달라”고 당부했다.

서울시의회 교육위원회 황철규 의원(국민의힘·성동4)은 지난 3일 열린 제326회 임시회 교육위원회 소관 서울시교육청 업무보고에서 증가 추세인 학교폭력 심의 현황을 지적, 솜방망이 처벌로 억울한 피해자가 없어야 한다고 당부했다. 황 의원이 서울시교육청에서 받은 자료에 따르면, 2021학년도 1954건이었던 학교폭력 심의건수는 23학년도에 3093건으로 1000건 이상 늘었다. 코로나로 인해 대면 일수가 적었던 시기를 고려하더라도 급격히 늘고 있다. 황 의원은 언론에 보도된 ‘학교폭력 맞신고 사건’에 대해 사건을 심의했던 북부교육지원청 이정희 교육장에게 질의하며 “언론보도에 따르면 1년 동안 지속적으로 폭언과 물리적 폭력을 한 가해자에게는 교내봉사 6시간 처분을 내렸고, 지속적인 폭언과 물리적 폭력을 당하고 고작 손가락 욕으로 대응한 피해자도 가해자와 비슷한 교내봉사 3시간 처분을 받았다”며 “피해자에게 내려진 처분이 형평성이 맞는 것인지 상당한 의구심이 든다”고 지적했다. 황 의원은 “교육청의 학교폭력심의와 행정심판 결과대로라면 “학교폭력 피해자는 당하고만 있으라는 처분 아닌가”라며 질타했다. 또한 황 의원은 “해당 사건에 대한 학폭심의위원회 처분이 적절했는지 여부와 서울시교육청이 행정심판을 기각한 경위 등을 면밀히 따져볼 것”이라며 “솜방망이 처분으로 고통받는 피해자가 없도록 교육청이 보다 전향적으로 학교폭력 문제에 나서야 한다”고 주문했다. 이어 황 의원은 “학교폭력 가해자는 많은 아이를 괴롭혀 언제 어디서 누구를 괴롭혔는지 기억도 하지 못하지만, 학교폭력을 당한 피해자는 평생 트라우마로 고통받게 된다”며 “후반기 의정활동은 딥페이크 등 디지털 성범죄와 학교폭력으로부터 교육공동체가 안전한 환경이 조성될 수 있도록 최선을 다 하겠다”라고 각오를 밝혔다. 마지막으로 “어려운 여건 속에서도 최선을 다하는 선생님들의 노고에 감사드린다”라며 “학교폭력으로 고통받는 학부모, 학생이 있다면 앞장서서 해결하겠다”는 의지를 밝히고. 학교폭력에 대한 제보를 당부했다. ※ 학교폭력으로 고통받는 학생들은 서울시의원 황철규에게 제보해주시기 바랍니다. (제보메일: piyrwa52@naver.com, hck01@hanmail.net)

서울시의회 교육위원회 소속 이효원 의원(국민의힘·비례)이 지난 4일 제326회 임시회 서울시교육청 평생진로교육국 업무보고 질의에서 매년 2배 이상씩 증가한 교내 딥페이크 피해 사례를 언급, 시교육청의 안일한 대처를 강력하게 지적했다. 시교육청이 시의회에 제출한 ‘최근 5년간 딥페이크 피해 현황’에 따르면 2020년도 1건을 시작으로 2021년도 2건, 2022년도 10건 등 매년 증가하는 추세를 보인다. 이어 2023년도에는 딥페이크 피해 접수가 20건을 넘어서는가 하면 올해는 50건을 상회하고 있다. 이 의원은 “시교육청에서 파악하고 있는 서울 초·중·고의 지난 5년간 딥페이크 피해 신고 사례가 총 85건”이라며 “이마저도 올해 피해 건수가 계속해서 증가하는 추세를 보면 100건 이상을 넘어설 가능성도 있다”고 밝혔다. 이어 이 의원은 “시교육청은 언론에서 관련 사안이 크게 보도된 후에야 ‘소 잃고 외양간 고치는’ 방식으로 부랴부랴 움직이는 인상을 지울 수 없다”며 “딥페이크 신고 조짐이 보였던 5년 전부터 이에 대해 심각하게 고민하고 대처 방안을 꾸준히 만들어 왔어야 했다”고 질타했다. 또한 이 의원은 “학생들 사이에서 ‘기절 놀이’가 마치 재미있는 놀이처럼 번지고 자해 사진이 온라인을 타고 유행처럼 삽시간에 퍼졌던 사건을 시교육청은 벌써 잊은 것이냐”며 “SNS 등 디지털 플랫폼과 관련된 범죄 및 피해는 어느 순간 걷잡을 수 없이 퍼질 수 있다는 것에 늘 유념해 좀 더 민감하게 선제적으로 대응해주길 바란다”고 강조했다. 김홍미 평생진로교육국장은 “충분히 동의하며 시교육청이 노력을 더 많이 해야 하는 것이 맞다”라며 “디지털 기술과 관련해 범죄 행위가 앞서나가는 상황에 대해 예방 교육을 강화하고 피해 학생을 지원할 수 있는 방안을 고안하겠다”고 답변했다.

딥페이크 성 착취물 유포의 온상으로 지목된 텔레그램 국내 이용자가 지난달 큰 폭으로 늘어난 것으로 나타났다. 증가폭의 3분의 1은 10대 이하로 최근 딥페이크 관련 사건이 수면 위로 떠오르자 호기심에 접속한 청소년이 많은 것으로 분석된다. 정부가 딥페이크 방지 대책 마련에 나선 가운데 딥페이크 탐지 기술을 무료로 출시한 기업의 주가가 오르는 등 보안주에 대한 관심도 커지는 모습이다. 텔레그램 이용자수, 지난달 약 31만명 증가5일 앱 분석 서비스 모바일인덱스에 따르면 지난달 텔레그램 월간 활성 이용자(MAU)는 347만 1421명으로 전월 대비 31만 1130명 늘었다. 이는 2021년 3월 앱 마켓 집계가 시작된 이후 최대 증가폭으로 연령별로는 10대 이하가 9만 9980명으로 다수를 차지했다. 국내에서 접속할 수 있는 앱스토어에서 텔레그램의 연령 등급은 12세 이상인데, 최근 특정 인물의 얼굴 등을 영상에 합성한 딥페이크 논란이 확산하면서 호기심에 텔레그램에 접속한 10대가 늘어난 것으로 추정된다. 딥페이크 사건의 경우 가해자와 피해자 모두 10대의 비중이 크다. 경찰청에 따르면 논란 이후 당국의 집중단속이 이뤄진 지난달 26~30일 접수된 딥페이크 범죄 신고는 총 118건으로 특정된 피의자 33명 중 31명, 검거된 7명 중 6명이 10대로 파악됐다. 여성가족부 산하 한국여성인권진흥원에 따르면 올 들어 지난달 25일까지 디지털성범죄피해자 지원센터에 딥페이크 관련 피해 지원을 요청한 781명 중 288명(36.9명)은 10대 이하였다. 딥페이크 대응 예산 증액에 대응주·보안주 관심딥페이크 성범죄가 사회 문제로 떠오르자 법무부는 최근 이에 대응하기 위한 분석장비 도입 예산을 12억여원 증액하기로 했다. 이에 따라 책정된 관련 예산은 총 122억 5000만원이다. 소식이 전해지자 이른바 ‘딥페이크 관련주’로 통하는 보안 관련주들이 장중 급등세를 보였다. 한컴위드는 장중 30.00% 상승하며 상한가를 기록했고, 모니터랩도 29.88% 상승하며 가격제한폭까지 올랐다. 이날 딥페이크 탐지 서비스인 ‘페이크체크’의 베타 버전을 출시한 샌즈랩의 주가도 크게 올랐다. 페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업도르하면 수 초 내로 위조 진위 여부를 분석해 판별 결과를 알려주는 서비스로, 회원가입이나 인증 등 번거로운 절차들을 없애 누구나 쉽게 무료로 이용할 수 있도록 했다. 샌즈랩 측은 “현재 국민들이 직면한 사회적 이슈에 조금이나마 도움을 보태기 위해 해당 서비스를 자체 구축하고, 유지하는 데 드는 모든 비용은 사회 공헌 차원에서 직접 부담하기로 했다”고 설명했다.

최근 여성의 얼굴에 음란물을 합성·유포하는 ‘딥페이크 성범죄’가 확산하는 가운데 모델 아이린 측도 피해를 호소하며 강경 대응을 예고했다. 4일 아이린의 소속사 사람엔터테인먼트는 공식 인스타그램에 “최근 소속 아티스트인 아이린을 대상으로 딥페이크 제작물이 불법 제작 및 유포되는 사례가 발생했다”고 밝혔다. 이어 “당사에서는 지속적인 모니터링을 통해 관련 자료를 수집할 예정이다. 관련한 사례를 발견하시면 제보 부탁드린다. 앞으로도 관련한 불법 행위들에 대해 강경하게 대응할 예정”이라고 전했다. 딥페이크는 인공지능을 기반으로 이미지를 합성하는 기술로, 최근 딥페이크를 악용한 불법 합성 사진 및 영상이 심각한 사회 문제가 되고 있다. 경찰청은 지난달 26일부터 30일까지 딥페이크 성범죄 특별 집중 단속 결과 총 118건의 신고를 접수해 33명의 피의자를 특정했으며 이 중 7명을 검거했다. 특히 대중에 노출된 연예인은 오래 전부터 합성 사진 등의 피해 대상이 돼 왔다. 기술이 발전함에 따라 딥페이크 범죄도 확산하자 소속사들도 강력 대응에 나서고 있다. 아이린에 앞서 그룹 (여자)아이들, 트와이스, 블랙핑크, 가수 권은비 측이 딥페이크 피해를 알리며 법적대응을 시사했다. 지난 28일(현지시간) 미국 일간 월스트리트저널(WSJ)에 따르면 미국의 사이버 보안 업체인 ‘시큐리티 히어로’는 최근 발표한 ‘2023 딥페이크 현황’ 보고서에서 한국이 딥페이크 성 착취물에 가장 취약한 국가로 나타났다고 밝혔다. 보고서에 따르면 지난해 딥페이크 성착취물 사이트 10곳의 영상 9만 5820건을 분석한 결과 전세계에 유포된 딥페이크 음란 합성물 피해자 중 53%가 한국인인 것으로 집계됐다. 이들 대부분이 가수와 배우 등 연예인인 것으로 나타났다.

여야가 4일 국회 여성가족위원회의 ‘딥페이크 성범죄 관련 현안 질의’에서 딥페이크 범죄 실태를 지적하며 소관 기관들의 후속 조치 미비를 비판했다. 여야는 딥페이크 성범죄를 막기 위해 정부의 ‘컨트롤타워’ 구축을 강조했다. 또 일부 일선 학교에서 여학생들에게만 소셜미디어(SNS)에서 사진을 내리도록 하는 조치를 한다고 지적했고, 텔레그램 등이 딥페이크 관련 수사 협조를 안 할 경우 서비스를 막는 강경책도 필요하다는 제언이 나왔다. 이인선 여가위원장은 이날 “사람들의 사진을 성폭력 이미지나 영상으로 바꾸는 성범죄, 즉 디지털 기술로 가짜 사진이나 영상을 만들어 유포하는 디지털 성범죄가 우리 사회에 만연한 것으로 알려지며 충격을 주고 있다”며 “텔레그램의 단체 대화방과 채널에서 딥페이크 영상물이 생성 유포된다는 사실이 밝혀졌는데 초등학생들을 대상으로 한 사건으로 영상물의 피해자와 가해자 모두 연령대가 낮다는 사실이 더욱 큰 충격을 주고 있다”고 지적했다. 사태 확산을 막기 위해 범정부 차원의 ‘컨트롤타워’가 필요하다는 의견도 나왔다. 서범수 국민의힘 의원은 “여가부는 예방 및 피해자 지원을 하고 경찰청은 수사하고 법무부는 법 정비를 하지 않나. 그러니까 전부 각자도생으로 취합이 안 된다는 비난을 많이 받았다”며 “국무조정실이 각 부처에 역할을 주고 피드백을 받고 총괄해야 시너지 효과가 난다”고 말했다. 경찰에 적극적인 피의자 추적·단속을 촉구하는 목소리도 나왔다. 서영교 더불어민주당 의원은 “피해자들이 경찰에서 ‘(텔레그램) 서버가 해외에 있어서 어떻게 할 수 없다’는 말을 들으면 목숨 끊는 것밖에 방법이 없다고 생각하지 않겠나”라고 우려했다. 여가위 여당 간사인 김상욱 의원은 텔레그램의 협조가 부실할 경우 국내 서비스 차단도 고려하자고 제언했다. 김 의원은 “수사 협조를 안 하면 서비스할 수 없도록 하는 본질적 대처가 필요하다. 그것이 아니면 협조를 구걸하는 꼴이 된다”며 “이에 대한 기술적·법적 연구가 필요하다”고 강조했다. 이달희 국민의힘 의원은 “호기심 많은 청소년들이 처음엔 딥페이크로 재미있는 영상을 만들다가 성범죄물로 가는 경우가 있다”며 “범죄라는 사실을 교육해야 한다”며 사전 교육의 필요성을 지적했다. 같은 당 한지아 의원은 피해자 보호와 2차 가해 방지를 강조했다. 한 의원은 “피해자 지원 업무에 공백이 생기지 않도록 각별히 신경 써달라”고 말했다. 교사 출신인 백승아 민주당 의원은 일부 학교가 피해를 예방하겠다며 여학생들에게만 SNS에서 사진을 내리도록 하거나, 피해자 익명성을 보장하지 않은 채 현황을 조사한다고 지적했다. 백 의원은 “피해자들이 겁내지 않고 피해 사실을 밝힐 수 있도록 안내하는 게 중요하다”고 강조했다. 이날 질의에는 신영숙 여가부 차관을 비롯해 과학기술정보통신부, 방송통신심의위원회, 법무부, 경찰청 등의 실무자들이 참석했다. 이동수 방심위 디지털성범죄심의국장은 텔레그램이 전날 당국의 공조 요청에 ‘불법 콘텐츠 대응에 어려움이 있는 점을 사과한다’는 취지로 답신한 사실을 밝히며 관련 부처가 텔레그램과 성범죄 대응을 위한 공조 체제를 구축했다고 밝혔다. 다만 ‘위장 수사’ 도입 등 수사권 확대에는 충분한 숙의가 필요하다는 목소리도 나왔다. 한상형 법무부 형사법제과장은 위장 수사 도입 필요성에 대해 “수사기관이 (위장 수사 과정에서) 실제 성 착취물을 광고·거래할 수 있는 등 피해자에 대한 중대한 인권침해를 수반한다”며 “운영 성과와 실익, 문제점 등을 면밀히 분석해야 한다”고 말했다.

최근 4년 반 동안 디지털성범죄피해자지원센터(디성센터)에 ‘딥페이크 성착취물’을 비롯해 불법촬영물을 지워달라고 요청한 건수가 94만건에 달했으나 이 가운데 약 29%인 27만건이 삭제되지 못한 것으로 나타났다. 부족한 대응 인력이 주요 원인으로 꼽히지만 삭제 요청을 받은 기업이 이를 반드시 이행하도록 제도를 개선해야 한다는 목소리도 함께 커지고 있다. 4일 더불어민주당 김남희 의원이 여성가족부에서 제출받은 자료에 따르면 2020년부터 올해 6월까지 여성가족부 산하 한국여성인권진흥원 내 디성센터가 접수한 딥페이크와 성적 모욕 이미지 등 불법촬영물 삭제 요청은 93만 8651건이다. 이 가운데 삭제하지 못한 건수는 26만 9917건(28.8%)에 달한다. 디성센터는 24시간 상담과 불법촬영물 삭제 지원 서비스를 제공하는 기관이다. 피해자로부터 삭제 신청이 접수되면 불법촬영물이 발견된 플랫폼 기업에 이를 지울 것을 요청하고 이후 조치 결과를 확인한다. 삭제 요청 건수는 2021년 16만 6000여건, 2022년 20만 6000여건, 2023년 24만 3000여건으로 매년 최소 3만건 이상씩 불어났다. 올해에도 6월까지 지난해 68% 수준인 16만 5000여건의 삭제 요청이 접수됐다. 미삭제 건수는 2021년 4만 2000여건에서 2023년 7만 5000여건으로 증가해 2년 만에 79.7% 늘었다. 올해 상반기에는 전년의 56%에 달하는 4만 2000여건을 지우지 못했다. 해마다 연간 미삭제 비율은 25% 정도다. 기술의 발전으로 딥페이크 제작이 쉬워지면서 피해가 눈덩이처럼 불어나고 있다. 3일 YTN라디오 ‘이이선 최수영 이슈앤피플’에 출연한 김덕진 IT커뮤니케이션연구소장에 따르면 인공지능(AI) 툴을 활용하면 음란물 제작에 20초도 걸리지 않는다고 한다. 김 소장은 “인플루언서가 찍은 숏폼 영상에 AI가 얼굴만 딴다. 기술이 놀라운데 이런 것들이 악용되는 사이트가 있다”고 짚었다. 아이돌을 좋아하는 팬들을 위해 찍은 ‘직캠’ 영상이나 자체 홍보를 위해 찍은 숏폼 영상이 범죄의 표적이 되고 있다. 최근 트와이스의 소속사 JYP엔터테인먼트, 블랙핑크가 소속된 YG엔터테인먼트, (여자)아이들이 속한 큐브엔터테인먼트, 권은비가 있는 울림엔터테인먼트 등이 딥페이크 피해를 보고 법적 대응에 나섰다. 일반인 역시 공개된 사진에 알몸을 합성 당해 피해를 보는 경우가 많다. 한 초등학교 교사 A씨는 자신의 사진과 합성된 성착취물이 신상 정보와 함께 단톡방에서 퍼지는 끔찍한 경험을 했다. 가해자로 위장해 진범을 5일 만에 잡아낸 A씨는 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 말했다. 피해가 커지는 상황이지만 대책은 뾰족하지 않다. 디성센터의 인력은 부족하고 강제성도 약하다. 전날 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 이수정 경기대 범죄심리학과 교수도 “불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”고 지적했다. 김남희 의원은 “불법촬영물 10건 중 3건을 삭제하지 못하면서 재유포 문제 등이 발생하고 있다”며 “정부가 대책으로 내놓은 ‘플랫폼 자율규제 강화’에 대한 한계가 뚜렷하게 드러난 만큼 특단의 조치가 필요하다”고 강조했다.