찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • 딥페이크
    2025-12-12
    검색기록 지우기
  • 리사
    2025-12-12
    검색기록 지우기
  • 정책 혼선
    2025-12-12
    검색기록 지우기
  • 경우의 수
    2025-12-12
    검색기록 지우기
  • 청소
    2025-12-12
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
700
  • 딥 페이크 갈수록 고도화하는데…대응인력 ‘역부족’

    딥 페이크 갈수록 고도화하는데…대응인력 ‘역부족’

    딥페이크(이미지 합성 기술) 성 착취물 피해가 갈수록 늘고 있지만, 삭제를 지원하는 공공기관의 인력은 오히려 줄어든 것으로 나타났다. 기술이 날로 고도화하는 만큼 관련 기관의 예산과 인력을 늘려 대응력을 키워야 한다는 지적이 나온다. 20일 국회 여성가족위원회 소속 김남희 더불어민주당 의원실이 여성가족부로 받은 자료에 따르면 현재 여성가족부 산하기관인 한국여성인권진흥원의 디지털성범죄피해자지원센터(디성센터) 삭제지원팀 직원 수는 2021년 30명(정규직 12명·기간제 18명)에서 2024년 15명(정규직 13명·기간제 2명)으로 반토막 났다. 전체 직원(현원)은 정규직 27명, 비정규직 2명 등 모두 29명이며, 정원은 4년째 39명 그대로다. 디성센터는 디지털성범죄 피해물 삭제를 지원하고 피해 확산을 방지하기 위해 여가부가 2018년 4월 설치한 기관이다. 반면 불법 촬영 및 합성영상물 피해 규모는 해마다 커지고 있다. 디성센터에 요청된 삭제지원 건수는 2021년 16만 6905건, 2022년 20만 6908건, 2023년 24만 3607건 등 매년 약 4만건씩 불어났다. 올해 상반기에만 16만 5095건의 삭제 지원 요청이 접수됐다. 이러다 보니 삭제지원팀 직원 1명이 처리하는 삭제 지원 건수도 2021년 1만 3908건에서 2022년 1만 7242건, 2023년 2만 4360건으로 급증했다. 지난 6월 기준 1인당 평균 1만 2699건의 삭제 지원을 담당했다. 단순히 삭제지원 인력을 늘리기보단 정규직 비중을 높이는 등 조직의 안정성을 도모해야 한다는 지적도 나온다. 현재 시스템으로는 범죄 피해물 원본이나 피해물이 게재된 인터넷 사이트를 찾아낸 뒤 해당 사이트 운영자에게 일일이 피해물을 삭제해달라는 이메일을 보낼 수밖에 없다. 디성센터는 이 과정을 자동화하면 보다 신속하게 피해물 유포를 막을 수 있다고 본다. 김 의원은 “‘N번방 사건’ 이후 디지털 성범죄 문제가 심각해지고 있지만, 대응 인력은 여전히 부족한 상황”이라며 “상급 기관인 여가부가 피해자 보호와 신속한 불법 촬영물 삭제를 위해 적극적으로 인력 보강에 나서야 한다”고 강조했다. 여가부는 “디성센터 내년 인력은 정규직이 2명 증원돼 총 41명(정원)으로 운영된다”며 “향후 지속적으로 증원을 추진할 계획”이라고 밝혔다.
  • “황의조, 프리즌 FC 입단하나” 외신도 주목 ‘국제 망신’

    “황의조, 프리즌 FC 입단하나” 외신도 주목 ‘국제 망신’

    전 축구 국가대표 황의조(32·알란야스포르)가 불법 촬영 혐의로 징역 4년을 구형받은 가운데, 외신들도 이같은 사실을 일제히 보도했다. 소셜미디어(SNS)에서는 황의조를 조롱하는 게시물이 해외 축구팬들 사이에서 공유되는 등 ‘국제 망신’이라는 비판까지 나온다. 英 BBC 황의조 관련 기사로 ‘딥페이크 성착취’ 소개영국 BBC는 16일(현지시간) “한국 축구 선수 황의조가 법정에서 연인과의 성관계 장면을 몰래 촬영한 혐의를 인정하고 사과했다”면서 “황의조는 기소된 후 처음 법정에 출두해 ‘실망을 안겨드려 유감’이라면서 ‘축구선수로서 최선을 다할 것’이라고 말했다”고 전했다. 그러면서 지난 6월 황의조의 형수가 영상을 소셜미디어(SNS)에 유포하고 황의조를 협박했으며, 형수는 징역 3년을 선고받고 복역중이라고 덧붙였다. BBC는 이와 함께 지난 8월 “한국, 딥페이크 포르노로 ‘비상사태’에 직면했다”는 제목으로 한국의 딥페이크 성착취 실태를 보도한 기사를 타래로 제시했다. 미 뉴욕타임스(NYT)의 자회사인 ‘디 애슬레틱’도 황의조가 징역 4년을 구형받았다고 보도했다. 디 애슬레틱은 앞서 지난 7월 “넷플릭스 범죄 다큐멘터리에서 볼 법한 이야기”라며 형수의 영상 유출과 협박으로 황의조의 불법 촬영 혐의가 드러났다고 보도한 바 있다. 황의조는 소셜미디어(SNS)에서 해외 축구팬들의 ‘조롱거리’가 됐다. 엑스(X·옛 트위터)에서 범죄 전력이 있는 유명 선수들을 소개하는 ‘프리즌 FC’라는 계정은 “한국인 스트라이커 황의조와 4년 계약을 맺기 위해 터키 쉬페르리그 알란야스포르와 협상을 시작했다”고 전했다. ‘프리즌 FC’는 사생활 동영상을 빌미로 동료 선수를 협박한 혐의로 집행유예 판결을 받은 카림 벤제마(알 이티하드), 성폭행 혐의로 실형을 선고받은 다니 알베스 등 ‘화려한’ 스쿼드를 자랑한다. 징역 4년·취업제한 5년 구형…선수 생활 마감 가능성한편 황의조는 지난 16일 서울중앙지법 형사13단독 이용제 판사 심리로 열린 첫 공판에서 불법촬영 혐의를 인정했다. 검찰은 “피해자의 상처와 수치심이 극심했을 것으로 보이고, (영상이) 유포돼 심각한 피해를 입었다”며 징역 4년을 구형했다. 황의조는 2022년 6월~9월 4차례에 걸쳐서 상대방 동의 없이 성관계 영상을 불법 촬영한 혐의를 받는다. 불법 촬영 피해자는 2명인 것으로 조사됐다. 황의조는 지난해 6월 자신과 여성들의 모습이 담긴 사진과 동영상을 인스타그램에 공유한 형수를 협박 등 혐의로 경찰에 고소했으나 수사 과정에서 불법 촬영 정황이 포착됐다. 오는 12월 18일 선고 기일이 예정된 가운데 황의조는 불법 촬영 혐의로 선수 생활을 마감할 가능성을 배제할 수 없게 됐다. 검찰이 황의조에 대해 5년 간의 취업 제한 명령을 부과할 것을 요청했는데, 법원이 받아들인다면 황의조는 2029년에야 선수로 복귀할 수 있다. 축구 국가대표팀 간판 공격수로 2022 국제축구연맹(FIFA) 카타르 월드컵에 출전했던 황의조는 피의자로 전환된 뒤 국가대표팀 선발에서 제외됐다. 황의조는 2022년 EPL 노팅엄 포레스트에 입단했으나 EPL 무대를 단 한 경기도 뛰지 못한 채 올림피아코스와 FC서울, 노리치 시티 등에서 임대 생활을 전전하다 지난달 튀르키예 쉬페르리그 알란야스포르로 완전이적했다. 계약기간은 내년 6월까지다.
  • “오빠한테만 알려줄게”···피해액 626억원, ‘로맨스 스캠’이 무서운 이유

    “오빠한테만 알려줄게”···피해액 626억원, ‘로맨스 스캠’이 무서운 이유

    딥페이크 기술로 만든 여성 이미지로 남성들을 유혹한 뒤 돈을 뜯어간 사기꾼 일당이 홍콩에서 체포됐다. 미국 CNN의 14일(이하 현지시간) 보도에 따르면, 용의자들은 딥페이크로 만든 얼굴로 영상통화를 시도하고 투자를 유도하는 방식으로 아시아 남성들의 지갑을 털었다. 용의자들은 21~34세의 디지털 미디어 및 IT 관련 공부를 한 고학력자들이었다. 상당수는 홍콩 지역에서 대학을 졸업한 뒤 ‘로맨스 스캠’ 갱단에 채용된 것으로 알려졌다. 용의자들은 먼저 피해 대상을 정한 뒤 ‘매력적인 젊은 여성’으로 가장하고 그에게 문자메시지를 보냈다. 이후 실수로 잘못 보냈다고 말하면서 대화를 시작했고, 이내 온라인 상에서 연애를 시작하는 등 개인적인 친분을 쌓았다. 친해진 후에는 투자 정보를 흘려 이득을 보게 한 뒤, 점점 더 큰 돈에 욕심을 갖게 해 거액을 끌어내고, 돈이 입금된 직후 피해자와 연락을 끊는 방식으로 범행을 이어갔다. 용의자들은 피해자들에게 ‘먹이’를 주고 살을 찌워서 잡아 먹는다는 의미로, 이 같은 수법을 ‘돼지 도살’이라고 불렀다. 또 피해 남성들이 딥페이크로 만든 ‘가짜 미인’을 진짜라고 믿고 신뢰하도록 만들기 위해 해외 IT 전문가들과 협력해 가짜 암호화폐 플랫폼을 구축하고 피해자들이 여기에 투자하도록 강제한 것으로 추정된다. 이들에게 당한 아시아 남성들의 국적은 대만과 싱가포르, 인도 등지로 다양하며, 피해액 규모는 4600만 달러, 한화로 약 626억 원에 달하는 것으로 알려졌다. 홍콩 경찰은 카오룽반도 흥홈 지구에 있는 공업단지 내의 용의자 은신처를 급습해 딥페이크 여성을 이용한 로맨스 스캠 사기를 벌인 27명을 체포했다고 밝혔다. 이중 남성 용의자는 21명, 여성 용의자는 6명이다. 홍콩 경찰에 따르면, 용의자 집단은 매우 조직적이었으며, 사기의 여러 단계를 담당하는 부서로 나뉘어져 있었다. 일부 공개된 매뉴얼에는 ‘피해자의 성실함과 감정’을 이용해 사기를 수행하는 방법이 세세하게 적혀 있었다. CNN은 “이러한 사기 수법은 대체로 중국에서 많이 볼 수 있었는데, 부유한 도시인 홍콩에서 이 범죄(딥페이크를 이용한 로맨스 스캠)가 얼마나 퍼져 있는지는 확실하지 않다”면서 “홍콩 경찰은 과거 비슷한 수법에 피해를 입은 노인이 늘자 로맨스 스캠 사기에 대한 인식을 높이기 위한 캠페인을 벌여왔다”고 전했다. 이어 “그러나 점점 더 사실적으로 표현되는 딥페이크 기술로 인해 위험성이 높아졌고, 결국 홍콩 당국은 최고 수준의 경계 태세를 갖추게 됐다”고 덧붙였다. 홍콩 경찰은 지난 8월 용의자 집단에 대한 제보를 받았으며, 문제의 집단이 약 1년 동안 아시아 남성들을 상대로 딥페이크 사기를 저질러온 것으로 보고 있다. 이번 급습 현장에서는 범행에 사용된 휴대전화 100여대와 거액의 현금 및 고급 시계 등이 압수됐다.
  • 텔레그램 ‘지인 능욕방’에 딥페이크 유포 20대 구속 송치

    텔레그램 ‘지인 능욕방’에 딥페이크 유포 20대 구속 송치

    지인의 SNS에 있는 일상 사진 등을 이용해 딥페이크 불법 합성물을 만들고, 텔레그램에서 속칭 ‘지인능욕방’을 개설해 유포한 20대가 구속기소 됐다. 부산지검 여성아동범죄조사부(부장 손은영)는 성폭력처벌법 위반(허위 영상물 편집·반포), 청소년 성보호에 관한 법률 위반(성 착취물 배포) 등 혐의로 20대 남성 A씨를 구속기소 했다고 16일 밝혔다. A씨는 지난해 5월부터 1년여간 텔레그램에 지인능욕방을 직접 개설, 운영하면서 6년째 알고 지낸 여성 B씨의 얼굴을 합성한 딥페이크 영상물 264개를 올린 혐의를 받는다. 또 이 대화방 참여자들과 공모해 딥페이크 불법 합성물, 아동·청소년 성 착취물 15개를 유포한 혐의도 받는다. 경찰로부터 사건을 넘겨받은 경찰은 A씨가 텔레그램 대화방 참여자들의 불법 영상물 유포를 단순히 방조하는 데 그친 게 아니라, 공모한 것으로 판단해 공동정범으로 재판에 넘겼다. 검찰은 피해자 보호를 위해 부산시 여성폭력방지종합지원센터에 불법 영상물 삭제, 차단 조치를 의뢰했다.
  • 이희원·황철규 서울시의원, ‘학교폭력 없는 안전한 학교’ 위한 토론회 개최

    이희원·황철규 서울시의원, ‘학교폭력 없는 안전한 학교’ 위한 토론회 개최

    서울시의회 교육위원회 이희원 의원(국민의힘·동작4)과 황철규 의원(국민의힘·성동4)은 오는 24일 서울시의회 의원회관 제2대회의실에서 ‘학교폭력 없는 안전한 학교만들기:학교폭력 실태와 대안모색’ 토론회를 개최한다. 서울시의회가 주최하고, 이희원 의원과 황철규 의원, 푸른나무재단 위드위센터, (사)학교폭력피해자사족협의회가 공동주관 하는 이번 토론회는 딥페이크와 같은 신종 학교폭력과 맞신고·고소 확대 등 새롭게 대두된 학교폭력 실태를 살펴보고, 학교폭력 예방과 피해자 보호를 위한 개선방안을 모색하기 위해 마련됐다. 정지웅 서울시의원의 사회로 이덕난 국회입법조사처 연구관·대한교육법학회 회장이 발제를 맡고, 이어지는 주제 토론에서는 김소열 (사)학교폭력피해자가족협의회 사무국장, 김미정 푸른나무재단 상담본부장, 조원진 법무법인 동주 변호사, 공승규 인왕중학교 생활지도부장, 박진호 서초경찰서 학교폭력전담팀 팀장(경감), 이희원 서울시의원이 참여, 학교폭력 대응방안에 대해 다양한 의견을 제시할 예정이다. 이번 토론회에서는 학교폭력전담조사관제 도입 성과 및 개선과제, 딥페이크·맞신고·고소 확대 등 학교폭력의 새로운 양상 등에 대해 다양한 전문가들의 의견을 공유하는 한편, 서울시의 특성에 맞는 정책 대안 및 조례 개정 등의 성과를 기대할 수 있을 것으로 보인다. 토론회를 주관하는 황 의원은 “학교폭력이 지속적으로 증가하고 있을 뿐만 아니라 딥페이크 학교폭력·맞신고·고소 확대 등 학교폭력 양상이 변화하고 있어 면밀한 실태 분석과 맞춤형 대안 모색이 필요하다”라며 “이번 토론회를 통해 학교폭력 없는 안전한 학교를 위한 실질적인 변화의 계기가 되기를 바란다”고 기대감을 밝혔다. 토론회를 공동 주관하는 이 의원은 “학교폭력이 발생할 경우 가해학생에 대한 엄정한 조치는 물론 피해 학생 보호와 가족 등을 위한 신속한 정신건강 지원이 필수적이다. 토론회에서 여러 전문가와 함께 학교폭력 근절 방안을 논의하겠다”며 “관심있는 시민 여러분의 적극적인 참여를 부탁드린다”고 말했다.
  • ‘사랑하는 그녀’에게 626억원 사기 당한 남성들…얼마나 매력적이면? [포착]

    ‘사랑하는 그녀’에게 626억원 사기 당한 남성들…얼마나 매력적이면? [포착]

    딥페이크 기술로 만든 여성 이미지로 남성들을 유혹한 뒤 돈을 뜯어간 사기꾼 일당이 홍콩에서 체포됐다. 미국 CNN의 14일(이하 현지시간) 보도에 따르면, 용의자들은 딥페이크로 만든 얼굴로 영상통화를 시도하고 투자를 유도하는 방식으로 아시아 남성들의 지갑을 털었다. 용의자들은 21~34세의 디지털 미디어 및 IT 관련 공부를 한 고학력자들이었다. 상당수는 홍콩 지역에서 대학을 졸업한 뒤 ‘로맨스 스캠’ 갱단에 채용된 것으로 알려졌다. 용의자들은 먼저 피해 대상을 정한 뒤 ‘매력적인 젊은 여성’으로 가장하고 그에게 문자메시지를 보냈다. 이후 실수로 잘못 보냈다고 말하면서 대화를 시작했고, 이내 온라인 상에서 연애를 시작하는 등 개인적인 친분을 쌓았다. 친해진 후에는 투자 정보를 흘려 이득을 보게 한 뒤, 점점 더 큰 돈에 욕심을 갖게 해 거액을 끌어내고, 돈이 입금된 직후 피해자와 연락을 끊는 방식으로 범행을 이어갔다. 용의자들은 피해자들에게 ‘먹이’를 주고 살을 찌워서 잡아 먹는다는 의미로, 이 같은 수법을 ‘돼지 도살’이라고 불렀다. 또 피해 남성들이 딥페이크로 만든 ‘가짜 미인’을 진짜라고 믿고 신뢰하도록 만들기 위해 해외 IT 전문가들과 협력해 가짜 암호화폐 플랫폼을 구축하고 피해자들이 여기에 투자하도록 강제한 것으로 추정된다. 이들에게 당한 아시아 남성들의 국적은 대만과 싱가포르, 인도 등지로 다양하며, 피해액 규모는 4600만 달러, 한화로 약 626억 원에 달하는 것으로 알려졌다. 홍콩 경찰은 카오룽반도 흥홈 지구에 있는 공업단지 내의 용의자 은신처를 급습해 딥페이크 여성을 이용한 로맨스 스캠 사기를 벌인 27명을 체포했다고 밝혔다. 이중 남성 용의자는 21명, 여성 용의자는 6명이다. 홍콩 경찰에 따르면, 용의자 집단은 매우 조직적이었으며, 사기의 여러 단계를 담당하는 부서로 나뉘어져 있었다. 일부 공개된 매뉴얼에는 ‘피해자의 성실함과 감정’을 이용해 사기를 수행하는 방법이 세세하게 적혀 있었다. CNN은 “이러한 사기 수법은 대체로 중국에서 많이 볼 수 있었는데, 부유한 도시인 홍콩에서 이 범죄(딥페이크를 이용한 로맨스 스캠)가 얼마나 퍼져 있는지는 확실하지 않다”면서 “홍콩 경찰은 과거 비슷한 수법에 피해를 입은 노인이 늘자 로맨스 스캠 사기에 대한 인식을 높이기 위한 캠페인을 벌여왔다”고 전했다. 이어 “그러나 점점 더 사실적으로 표현되는 딥페이크 기술로 인해 위험성이 높아졌고, 결국 홍콩 당국은 최고 수준의 경계 태세를 갖추게 됐다”고 덧붙였다. 홍콩 경찰은 지난 8월 용의자 집단에 대한 제보를 받았으며, 문제의 집단이 약 1년 동안 아시아 남성들을 상대로 딥페이크 사기를 저질러온 것으로 보고 있다. 이번 급습 현장에서는 범행에 사용된 휴대전화 100여대와 거액의 현금 및 고급 시계 등이 압수됐다.
  • 졸업앨범에 선생님 ‘캐리커처’가…“제 사진 빼주세요” 아우성

    졸업앨범에 선생님 ‘캐리커처’가…“제 사진 빼주세요” 아우성

    최근 일선 학교에서 ‘딥페이크’ 기술을 악용한 허위 성착취물 피해가 잇따르고 있는 가운데, 교사 10명 중 9명이 졸업앨범에 실린 자신의 사진이 범죄에 악용될 것을 우려한다는 설문조사 결과가 나왔다. 한국교원단체총연합회는 지난달 30일부터 오는 9일까지 전국 유·초·중·고 교원 3537명을 대상으로 설문조사를 실시한 결과 교원의 93.1%가 졸업사진을 활용한 딥페이크 범죄나 사진 합성, 초상권 침해가 우려된다고 답했다고 15일 밝혔다. 교총에 따르면 교원의 72.5%는 졸업앨범에 사진을 넣는 교사들이 “점점 줄고 있다”고 응답했다. 담임의 얼굴 사진을 앨범에 넣느냐는 질문에는 20.4%가 “(교원) 모두 넣지 않는다”, 17.7%가 “희망자 등 일부만 넣는다”고 답했다. 학급 단체사진에서도 담임 사진을 모두 넣지 않는다는 응답은 14.9%, 희망자 등 일부만 넣는다는 응답은 17.8%로 나타났다. 교총이 졸업앨범에 실린 교사의 사진이 악용된 사례에 대한 서술형 응답을 받은 결과 “학생이 졸업앨범에 실린 교사의 사진을 합성해 성별을 바꾸고 조롱하는 글을 자신의 인스타그램에 올렸다”, “졸업앨범의 교사 사진을 도용해 교사를 사칭한 소셜미디어(SNS) 계정을 만들어 다른 학생들을 상대로 사기를 치는 일이 있었다” 등의 답변이 쏟아졌다. 한 교사는 “우리 학교는 담임교사 사진을 캐리커처로 대신하기로 했다”고 전했다. 학생들 사이에서도 졸업앨범에 자신의 사진을 싣는 것을 꺼리는 분위기가 확산됐다고 교총은 설명했다. “사진 넣기를 꺼리거나 빼기를 원하는 학생이 늘고 있느냐”는 질문에 ‘그렇다’(매우 그렇다 13.5%·약간 그렇다 32.0%)는 응답이 45.5%에 달했다. 졸업앨범 자체에 대한 회의적인 인식도 퍼지고 있다. “졸업앨범을 계속 제작해야 하는지”를 묻는 질문에 교원의 67.2%가 “제작하지 말아야 한다”고 응답해 “제작해야 한다”(32.8%)는 응답의 두 배에 달했다. 교총은 “졸업앨범에서 담임 등 교원들의 모습이 점차 사라지고 사제 간 사진 촬영마저 피하는 현실이 안타깝고 씁쓸하다”며 “앞으로 기술 발달에 따라 딥페이크 등의 범죄와 그 피해가 증가할 수 있다는 게 더 심각한 문제”라고 지적했다.
  • ‘60대와 성관계 영상 유출’ 20대 미녀 심판… “딥페이크” 주장에도 튀르키예 축구계 추방

    ‘60대와 성관계 영상 유출’ 20대 미녀 심판… “딥페이크” 주장에도 튀르키예 축구계 추방

    모델 같은 외모로 유명한 튀르키예 여성 축구 심판이 60대 심판 감독관의 ‘섹스 스캔들’에 휘말려 축구계에서 영구 추방됐다고 지난 9일(현지시간) 데일리메일, 더선 등 외신이 전했다. 보도에 따르면 엘리프 카라아르슬란(24)은 최근 심판 감독관인 오르한 에르데미르(61)와의 성관계 영상 유출로 튀르키예축구협회(TFF)로부터 영구 출전 정지 처분을 받았다. 카라아르슬란은 “유출된 영상 속 여성은 내가 아니다”며 “법적으로 먼 길을 가야겠지만 가장 강력한 방법으로 극복할 것”이라고 징계 처분에 대한 항소 의지를 보였다. 그는 그러면서 “나는 끝까지 내 대의를 지킬 것”이라며 “나는 피해를 입은 많은 사람 중 한 명일 뿐이고 내가 마지막이길 바란다”고 말했다. 카라아르슬란 측 법률대리인은 “유출된 영상은 원본이 아니며 전적으로 인공지능(AI)을 통해 생성된 딥페이크 영상”이라고 주장했다. 이어 “영상을 살펴보면 이미지가 선명하지 않고 성관계 당사자들이 컴퓨터로 완전히 편집된 것을 아주 쉽게 알 수 있다”며 “물질적, 도덕적 이득을 위해 완전히 다른 사람의 영상을 악의적이고 고의적인 의도로 만든 영상”이라고 덧붙였다. 심판 감독관인 에르데미르 역시 “(해당 영상 때문에) 내 가족과 사회, 심판 커뮤니티에서의 나의 영광은 날아갔다“며 ”금전적인 손실은 물론 감정적 피해는 이루 말할 수 없을 정도“라고 호소했다. 한편 카라아르슬란은 튀르키예 명문 축구팀 ‘베식타스’ 소속 선수로 활동하다가 부상으로 선수 생활을 접고 심판의 길을 걸었다. 그는 수려한 외모로 인스타그램에서만 45만명 이상의 팔로워를 보유하고 있다.
  • 10대 때 1년에 4억 수입, 어떻게 벌었나 했더니… ‘경악’

    10대 때 1년에 4억 수입, 어떻게 벌었나 했더니… ‘경악’

    10대 때 1년간 유명 연예인의 딥페이크 불법 합성물과 아동·청소년 성 착취물을 판매해 4억원 이상의 범죄 수익금을 챙긴 20대가 실형을 선고받았다. 12일 법조계에 따르면 의정부지법 형사11부(오창섭 부장판사)는 아동·청소년의 성보호에 관한 법률 위반(성 착취물 제작·배포 등) 등 혐의로 기소된 20대 남성 A씨에게 징역 7년을 선고했다. 또 가상화폐 약 1억원 몰수, 현금 3억 2000만원 추징을 명령했다. A씨는 10대이던 2022년 7월부터 약 1년간 음란물 사이트에 아동·청소년 성 착취물과 딥페이크 영상 등을 광고해 이를 본 사람들이 영상물을 내려받게 한 혐의로 기소됐다. 광고 글을 본 사람들은 해외 웹하드 업체에서 이용권을 결제해 성 착취물 등을 내려받았고, 수익금의 50%를 받는 구조였던 A씨는 4억원이 넘는 범죄수익금을 챙긴 것으로 조사됐다. 재판부는 “피해자들은 피고인의 범행으로 자신의 불법 촬영물이 끊임없이 유포될 수 있다는 극심한 두려움과 불필요한 고통과 손해를 감내해야 하는 피해를 보아 엄벌이 불가피하다”고 밝혔다.
  • 김재준 경북도의원 “도내 위험 기반 시설 선제적 안전 점검 나서야”

    김재준 경북도의원 “도내 위험 기반 시설 선제적 안전 점검 나서야”

    경북도의회 김재준 의원(국민의힘·울진)은 10일 제350회 경북도의회 임시회 제1차 본회의 도정질문을 통해 도내 노후화 시설에 대한 안전관리 대책, 울진 백암온천 지역경제 활성화 대책, 후포 마리나항 활성화 방안, 소나무 재선충병 피해 확산방지 대책, 학교 내 딥페이크 성범죄 방지대책에 대해 질의하고 대책마련을 강력히 촉구했다. 김 의원은 우선 지난 1월 발표된 국토교통부의 국토인프라 총조사 결과 즉각 사용을 금지하고 보수가 필요한 최하위 E등급을 받은 도내 저수지, 교량 등이 36개소로 전국 69개소의 절반이 넘는다고 지적하며, 이들 시설이 도민의 생명과 안전에 직결된 만큼 미조치 된 시설에 대한 적극적인 대처와 조사가 실시되지 않은 기반시설에 대해 도차원의 선제적인 노후화·위험성 조사 및 대책 마련을 요구했다. 다음으로 한화리조트 영업 중단 등으로 지역경제 침체의 위기에 처해 있는 울진 백암온천 활성화를 위해 민간투자 유치, 온정·매화간 국지도 조기 개통으로 접근성 개선, 관광 인프라 확충 등 도차원의 적극적인 지원을 요구했고, 영양군을 비롯한 인접 시군과의 연계 광역 협력사업, 충남 예산 덕산 온천 사례를 들어 공영개발방식의 종합개발 등을 제안하였다. 이어 후포 마리나항과 관련하여, 2014년 해양수산부 선정 국가지원 제1호 거점형 국제 마리나항으로 선정되어 2022년에 준공하고도 민간 투자유치 등이 지연되며 뚜렷한 성과를 거두지 못한 점을 지적하며, 마리나항 운영은 고도의 전문성이 요구되는 만큼 향후 운영방안에 대한 활성화 대책 마련을 통해 경북도의 해양 레저관광산업이 성공적으로 추진될 수 있도록 경북도가 적극적으로 나설 것을 요구해다. 또한, 빠르게 북상하고 있는 소나무 재선충병 피해 확산방지를 위해 특별방제단 상시운영 등 산림병해충 예찰방제단 인력 확대와 피해가 심한 지역의 모두베기와 수종갱신을 제안했고, 연중 피해목을 제거하여 효율적인 방제가 이뤄지도록 정부의 방제시기 조정 촉구 등 경북도의 선제적인 정책 전환을 주문했다 교육분야 질문에서는 교육현장까지 확산된 딥페이크 성범죄에 대해 ‘심각한 디지털 재난’으로 규정하고, 사전 예방에 대한 도 교육청의 실효성 있는 대책과 피해 영상물 삭제를 비롯한 2차 피해 방지를 위한 적극적인 대처, 가해 학생에 대한 처분 강화와 피해자 보호 대책 등을 촉구했다. 한편, 대구경북행정통합과 관련해서는 TK통합은 두 단체장의 정치적 실리를 떠나 도민의 미래가 걸린 대업임은 강조하고, 재추진에 대한 도지사의 의지와 쟁점사안에 대한 입장, 도민설득 방안에 대해 질의했다. 끝으로 김 의원은 “지역 경제 소멸 위기 가운데 도민 모두가 안전하고 행복한 경북이 선도하는 지방시대가 펼쳐질 수 있도록 도내 현안들을 점검하고 정책대안을 지속 발굴하겠다”며 의정활동 의지를 밝혔다.
  • 텔레그램 지인능욕방서 딥페이크 영상 유포하고 2차 가해 한 20대들 구속

    텔레그램 지인능욕방서 딥페이크 영상 유포하고 2차 가해 한 20대들 구속

    ‘텔레그램 지인능욕방’을 운영하면서 딥페이트 허위 영상물을 제작·유포하거나, 신상정보가 유출된 딥페이크 범죄 피해자를 괴롭힌 20대 남성 2명이 붙잡혔다. 부산경찰청 사이버수사과는 청소년성보호법(성 착취물 배포)과 성폭력처벌법(허위영상물편집·통신매체이용음란) 위반 등 혐의로 지인능욕방 운영자 A씨를 지난달 27일, 2차 가해자 B씨 이달 2일 구속 송치했다고 10일 밝혔다. A씨는 2023년 5월부터 올해 6월까지 오래 전부터 알고 지내던 고교 동창 1명의 SNS(사회관계망서비스) 사진을 이용해 딥페이크 허위영상물 264개를 제작하고 자신이 개설·운영하는 텔레그램 지인능욕방(참가자 200명)에 유포한 혐의를 받는다. 또 해당 텔레그램 참가자 중 11명이 만든 딥페이크 영상 11개가 유포되도록 방조한 혐의도 있다. 이 영상 피해자 중에는 아동·청소년도 포함돼 있었다. B씨는 지난해 8월부터 올해 5월까지 다른 지인능욕방에서 신상정보가 유출된 피해자 1명에게 자신이 제작한 딥페이크 사진을 5번 보내고 ‘발신번호 제한 표시’ 전화를 여러 차례 한 혐의를 받는다. 경찰은 텔레그램 지인능욕방에 자신의 불법 합성물이 게시됐다는 한 청소년 신고와 신상정보 유출로 2차 피해를 봤다는 고소장을 접수하고 나서, 수사에 착수해 이들을 검거했다. 경찰은 2차 가해와 딥페이크 불법 합성물 유포를 막고자 디지털 성범죄피해자 지원센터에 해당 영상 긴급 삭제와 차단, 모니터링을 요청했다. 이경민 부산경찰청 사이버범죄수사대장은 “딥페이크 불법 합성물을 제작, 편집, 가공하는 행위를 끝까지 수사해 관련자를 처벌하겠다”고 말했다.
  • 윤영희 서울시의원 “서울교육청 학교 휴대폰 수거 가이드라인도 없어···교실 방치 수준 ”

    윤영희 서울시의원 “서울교육청 학교 휴대폰 수거 가이드라인도 없어···교실 방치 수준 ”

    서울시교육청(이하 ‘교육청’)이 학교별 학생 휴대폰 사용 및 수거 현황조차 제대로 파악하지 않은 것으로 나타났다. 지난 4일 윤영희 서울시의원(국민의힘·비례)의 ‘학교별 휴대폰 수거 현황’ 자료요구에 교육청은 파악된 자료가 없으며 학교 자체 규정에 맡기고 있었다고 밝혔다. 윤 의원은 “지난 10년간 학교 교실은 스마트폰과 전쟁 중이었다”라며 “수업 중에도 학생들에게 휴대폰 소지를 허용한 사이 교권과 학습권 침해는 물론 학생들은 카톡 왕따, 딥페이크 범죄에 노출되며 안전까지 위협받고 있다”고 지적했다. 윤 의원은 “그런데도 이념 편향된 교육청은 학생 인권이라는 허명 아래 교육 현장 현황조차 파악하지 않고 있으니 사실상 교실 방치 수준이다”며 “이번 인권위의 결정을 계기로 더는 수업 중 휴대전화 소지로 교권과 학습권은 물론 학생 안전이 침해당할 일은 없어야 한다”라고 말했다. 지난 8일 국가인권위원회(이하 ‘인권위’)는 학생 휴대전화를 수거하는 것이 인권침해가 아니라는 결정을 내렸다. 10년 만의 바뀐 결정은 스마트폰 중독과 의존성이 큰 사회적 문제와 교권이 침해되는 학교 현실에 기인한 것으로 보인다. 윤 의원은 “이번 인권위 결정을 계기로 더는 공방하는 일이 없도록 서울교육청은 서울지역 학생들의 휴대폰 소지에 관한 가이드라인을 신속히 수립해야 할 것”이라고 말했다. 교육청 교육정보연구원의 ‘제3기 학생인권종합계획(2023.12)’ 연구 결과에 따르면 학생과 보호자, 교사 모두가 수업을 위해 휴대폰 사용을 제한해야 한다고 답변했다. 특히 휴대폰 사용으로 고등학교 교사 10명 중 9명 이상은 수업 방해 경험이 있었으며, 중학생 자녀를 둔 학부모 10명 중 6명은 자녀와 갈등을 경험한 것으로 나타났다. 학생들의 휴대폰 제한 의견은 초등학생은 10명 중 5명, 중고등학생은 6명이 필요하다고 응답했다.
  • ‘딥페이크’ 성착취물 갖고만 있어도 최대 징역 3년…즉시 시행

    ‘딥페이크’ 성착취물 갖고만 있어도 최대 징역 3년…즉시 시행

    ‘딥페이크’ 기술로 제작된 성 착취물을 단순 소지하거나 시청만 해도 최대 징역 3년 또는 벌금형에 처해질 수 있게 됐다. 정부는 10일 이같은 내용의 ‘성폭력 범죄의 처벌 등에 관한 특례법 일부 개정 공포안’을 의결했다. 공포안은 딥페이크 성 착취물을 소지·구입·저장하거나 시청한 자에 대해 3년 이하의 징역이나 3000만원 이하의 벌금에 처하는 처벌 규정을 신설했다. 또 딥페이크 성 착취물에 대한 편집·반포 등의 법정형을 기존 5년 이하에서 7년 이하로 강화했으며, 이를 영리 목적으로 행했을 경우 징역 7년 이하에서 3년 이상의 유기징역으로 강화했다. 딥페이크 성 착취물을 이용한 협박에 대한 처벌 규정도 신설해 1년 이상의 유기징역에 처하도록 했다. 이같은 내용은 대통령 재가를 거쳐 관보 게재 후 즉시 시행된다. 정부는 이날 딥페이크 성범죄 및 불법 촬영물에 대해 자료를 삭제하고 피해자의 일상 회복을 지원하는 것을 국가의 책무로 명시하는 ‘성폭력 피해자 보호 등에 관한 법률 개정 공포안’, 아동·청소년을 대상으로 한 협박·강요 행위에 대해 경찰 수사권을 강화하는 ‘아동·청소년의 성보호에 관한 법률 개정 공포안’도 의결했다. 한덕수 국무총리는 “딥페이크 성범죄 대응에 있어 큰 어려움 중 하나는 다수의 가해자가 성적 허위 영상물의 제작·배포 행위가 심각한 범죄라는 인식이 부족한 10대 미성년자라는 점”이라면서 “성적 허위 영상물은 심각한 범죄라는 사회적 인식을 빠르게 확산시키는 것이 매우 중요하다”고 강조했다. 이어 “단순한 호기심이라는 미명 아래 자행되는 범죄 행위에 대해서는 절대 간과하지 말고, 적극적으로 대응하고 신고해 주길 바란다”고 당부했다.
  • [속보] “딥페이크 성범죄 내년 3월까지 집중단속… 국민도 경각심 가져달라”

    [속보] “딥페이크 성범죄 내년 3월까지 집중단속… 국민도 경각심 가져달라”

    한덕수 국무총리는 10일 “정부는 딥페이크 성범죄에 대해 내년 3월 말까지 집중단속을 실시할 방침”이라고 밝혔다. 한 총리는 이날 오전 서울 종로구 정부서울청사에서 열린 국무회의에서 “최근 딥페이크를 비롯한 디지털 성범죄가 급격히 증가해 국민이 크게 우려하고 있다”며 이같이 말했다. 한 총리는 “학교 피해 현황조사와 텔레그램 핫라인 구축 등 시급히 대응해야 할 사안에 대해서는 우선적으로 조치하고 있다”면서 “국무조정실을 중심으로 범정부 태스크포스(TF)를 구성해 가해자 처벌과 피해자 지원을 강화하고, 온라인 플랫폼 책임을 확대하는 등 추가적인 대책을 강구하고 있다”고 설명했다. 한 총리는 “딥페이크 성범죄 대응에 있어서 가장 큰 어려움 중 하나는 다수의 가해자가 성적 허위영상물의 제작·배포 행위가 심각한 범죄라는 인식이 부족한 10대 미성년자라는 점”이라고 지적했다. 이어 “성적 허위영상물은 심각한 범죄라는 사회적 인식을 빠르게 확산시키는 것이 매우 중요한 만큼 교육부·여가부 등 관계부처에서는 학생, 학부모, 일반 국민 등에 대한 실효성 있는 예방 교육에 적극 나서달라”고 당부했다. 한 총리는 “국민도 우리 가족과 이웃들이 본인도 모르는 사이에 범죄의 피해자가 되지 않도록 각별한 경각심을 가져달라”며 “단순한 호기심이라는 미명 아래 자행되는 범죄행위에 대해서는 절대 간과하지 말고 적극적으로 대응하고 신고해 달라”고 덧붙였다. 이날 국무회의에서는 지난달 26일 국회에서 통과된 ‘성폭력방지 및 피해자보호 등에 관한 법률 개정 공포안’, ‘아동·청소년의 성보호에 관한 법률 개정 공포안’ 등을 상정해 논의했다.
  • 경북도의회, 제350회 임시회 개회

    경북도의회, 제350회 임시회 개회

    경상북도의회(의장 박성만)는 10일부터 22일까지 13일간의 일정으로 제350회 임시회를 열어, 오는 11월 7일부터 20일까지 예정된 2024년도 행정사무감사에 대한 계획을 수립하고, 도정질문 및 각종 민생 조례안 등의 안건을 처리할 예정이다. 10일 1차 본회의에서는 최덕규(경주), 김대일(안동), 김재준(울진) 의원이 도정질문을 통해 도정 및 교육행정 전반에 걸쳐 현안사항과 문제점을 살펴보고 정책대안을 제시한다. 최덕규 의원은 소나무재선충병 확대에 대한 대책, 중·저준위방사성폐기물 처분시설 관련, 다문화교육 패러다임 전환 등에 대해 질문하고, 김대일 의원은 도청 신도시 및 경북 북부권 발전, 대구·경북 행정통합 관련, 한반도 허리 경제권 제안 등에 대해서 질문한다. 김재준 의원은 국토인프라 총조사 결과에 따른 도내 노후화 시설에 대한 선제적 안전관리 대책, 백암온천과 후포 마리나항 활성화 대책 마련, 학교 내 딥페이크 성범죄 대책 방안 등에 대해 질문한다. 제2차 본회의는 22일에 개의하여 다양한 현안에 대한 5분 자유발언을 시작으로 금년도 행정사무감사계획을 승인하고, 각종 조례안, 출자·출연동의안 등 60여건의 안건을 처리하고 폐회할 계획이다. 박성만 의장은 개회사를 통해 46년 만의 기록적인 폭우로 피해를 본 울릉군민에게 위로를 전하며, 집행부의 신속한 피해복구를 당부하였다. 그리고, “저출생 지방소멸 극복을 위해 수치와 형식에 얽매이지 말고 260만 도민들의 피부에 와 닿는 알찬 결과물이 나올 수 있도록 근본적인 대응책을 마련해 가자”고 제안하며, 특히, 당면 주요현안사업에 대해 “시련과 갈등을 넘어 다시 한번 도약하는 계기로 만들기 위해 지혜와 역량을 모아 달라”고 강조하였다. 아울러, “연초에 계획한 사업들을 다시 한번 점검하고 크고 작은 각종 행사와 축제가 한 건의 사고 없도록 꼼꼼히 살펴줄 것”을 촉구했다.
  • 우리 학교에서 ‘딥페이크 OUT’

    우리 학교에서 ‘딥페이크 OUT’

    8일 대구 수성구 동도중학교 정문 앞에서 ‘학교폭력 예방 및 딥페이크 성범죄 방지 합동 캠페인’에 참여 중인 학생들이 사이버 폭력을 근절하자는 내용의 손팻말을 들고 있다. 교육부에 따르면 올해 1월부터 지난 4일까지 딥페이크 피해자는 학생 804명을 포함해 총 840명으로 집계됐다. 대구 뉴스1
  • 텔레그램에서 연예인 딥페이크·아동성착취물 1000여건 거래한 20대

    텔레그램에서 연예인 딥페이크·아동성착취물 1000여건 거래한 20대

    텔레그램에서 7개의 유료 채널을 운영하며 1000여개의 아동성착취물과 딥페이크 허위 영상물을 유포하고 판매한 20대 남성이 재판에 넘겨졌다. 8일 부산지검 여성아동범죄조사부(부장 손은영)는 성폭력처벌법 위반(영리목적 허위영상물 반포 등), 청소년 성보호법 위반(영리목적 성착취물 판매 등) 혐의로 20대 A씨를 구속기소 했다고 밝혔다. 검찰에 따르면 A씨는 2022년 7월부터 지난 9월까지 입장비를 낸 회원만 접속할 수 있는 텔레그램 유료채널을 운영하며 해외 사이트에서 수집한 아동성착취물과 딥페이크 허위영상물 등을 유포·판매한 혐의를 받는다. A씨가 유포·판매한 영상은 여성 연예인들의 얼굴을 합성한 딥페이크 허위 영상물 296개, 아동·청소년 대상 성착취물 183개, 성인 대상 불법 촬영물 및 음란물 1175개 등 1600여개에 달하는 것으로 드러났다. A씨는 텔레그램에 무료, 회원, 딥페이크, VIP방 등 7개의 채널을 개설해 입장료 명목으로 2만~10만원을 받아 총 6693만원의 수익을 올린 것으로 파악됐다. 검찰은 “딥페이크 기술 등을 악용한 허위 영상물의 제작·반포 등 디지털 성범죄에 대해 엄정히 대처하고 범죄 수익을 철저히 환수하겠다”며 “허위 영상물 삭제 조치 등 피해자에 대한 2차 피해를 방지하기 위해 최선을 다하겠다”고 했다.
  • 女연예인 딥페이크로 383만원 번 韓남성… 1.4억 챙긴 中남성

    女연예인 딥페이크로 383만원 번 韓남성… 1.4억 챙긴 中남성

    딥페이크 제작·유포범 잇단 검거경찰, 범죄수익금은 환수할 방침 유명 여성 연예인 등의 딥페이크 허위영상물을 만들어 유포한 한국인과 중국인 남성들이 잇따라 경찰에 붙잡혔다. 서울경찰청 ‘딥페이크 등 허위영상물 집중 대응 태스크포스(TF)’는 성폭력처벌법 위반 등 혐의로 20대 남성 A씨를 검거했다고 8일 밝혔다. A씨는 지난 1월부터 3월까지 생성형 인공지능(AI)을 이용해 허위영상물을 제작하는 프로그램을 직접 프로그래밍한 뒤 여성 연예인 72명의 허위영상물 4313건을 제작·판매한 혐의를 받는다. A씨는 이렇게 만든 딥페이크 영상물을 현재는 삭제된 소셜미디어(SNS) 계정을 통해 판매해 383만원을 번 것으로 조사됐다. 경찰은 A씨로부터 허위영상물을 구매해 재판매한 20~30대 남성 2명도 검거해 A씨와 함께 송치할 예정이다. 여성 연예인 13명이 포함된 딥페이크 허위영상물을 유포한 중국 국적 30대 남성 B씨도 구속됐다. B씨는 지난해 6월부터 지난달까지 불법 성영상물 유포 사이트를 운영했다. B씨가 유포한 음란물은 연예인 딥페이크 영상물 20개, 아동·청소년성착취물 5개, 불법촬영물 20개 등을 포함해 총 1만 4526개로 파악됐다. B씨는 자신의 유포 사이트에 온라인도박 등 다른 불법 사이트 광고를 올려주고 1억 4000만원을 챙겼다. 경찰은 이번주 중 B씨를 검찰에 송치하고, 중국에 있는 공범들과 사이트에서 영상을 시청한 이들을 추적할 계획이다. 경찰은 이들을 포함한 허위영상물 사범에 대해선 기소 전 몰수·추징보전 절차를 통해 범죄수익금을 환수한다는 방침이다.
  • [단독] 10대에도 뚫린 ‘벗방’ 판치는데 ‘치지직’ 음란 콘텐츠 제한은 0건

    [단독] 10대에도 뚫린 ‘벗방’ 판치는데 ‘치지직’ 음란 콘텐츠 제한은 0건

    ‘게임 리뷰’라고 적힌 한 채널에 별도의 성인 인증 없이 접속하니 스트리머(채널 운영자)가 가슴 부위를 노출한 채 선정적인 춤을 추고 있었다. 영상 하단에 온라인 게임 영상이 재생되고 있었지만, 이른바 ‘벗방’(노출 방송)을 전송하기 위한 ‘눈속임’에 불과했다. ‘생활 습관 개선 1일차’라고 적힌 또 다른 채널에 들어가니 애니메이션 캐릭터의 주요 부위만 가린 딥페이크 이미지가 채널 상단에 걸려있었다. 역시 10대도 시청할 수 있었고, 끝날 때까지 유해 콘텐츠라며 경고받는 일은 없었다. 방송 이후 해당 콘텐츠를 네이버에 신고하려 했지만 스트리머가 이미 영상을 삭제한 터라 신고는 불가능했다. 일부 스트리머의 선정적인 방송으로 시범 서비스 때부터 논란을 불러일으켰던 네이버의 인터넷 생방송(스트리밍) 플랫폼 ‘치지직’(CHZZK)의 유해 콘텐츠 모니터링이 제대로 작동하고 있지 않은 것으로 파악됐다. 지난달에만 약 234만명이 방문한 치지직은 숲(SOOP·옛 아프리카TV)과 국내 스트리밍 업계에서 점유율 1·2위를 다투고 있는 플랫폼이다. 지난 3월 기준 10대 이하 이용자 비율만 해도 38%에 달한다. 서울신문이 7일 이정헌 더불어민주당 의원실을 통해 받은 자료를 보면, 지난 5월 정식 출범한 치지직 채널 중 ‘이용 제한’ 조치를 받은 채널은 단 한 곳도 없었다. 네이버는 자체적으로 플랫폼 운영 정책에 따라 성적 행위나 언행, 폭력 및 가혹 행위 등을 유해 콘텐츠로 분류해 이용 제한을 내린다. 치지직의 경우 자체적으로 개발한 인공지능(AI) 기반 음란 콘텐츠 필터링 기술인 ‘그린아이’를 통해 방송하고 녹화된 영상에 대한 모니터링을 진행한다. 업계와 전문가들은 그동안 치지직에서 이용 제한 조치를 받을 정도의 유해 콘텐츠가 단 한 건도 없었다는 점을 납득하기 어렵다고 지적했다. 염흥열 순천향대 정보보호학과 교수는 “기술이 부족해서 발생한 문제라기보다는 허점이 있다고 봐야 한다”며 “유해 콘텐츠를 판단하는 기준값을 보다 촘촘하게 설정해 놓았다면 많은 건이 적발됐을 것”이라고 지적했다. 이와 관련해 네이버는 치지직에서 이용 제한 외에도 주의 조치 등을 통해 유해 콘텐츠 몇 건이 적발됐는지 공개가 어렵다는 입장이다. 네이버 관계자는 “현재까지 이용 제한 조처를 내린 채널은 시범 서비스 당시인 지난 1월 성기 노출, 욱일기 노출로 논란이 된 2건”이라며 “신고를 기반으로 하는 주의는 계속 증가하고 있다”고 답했다. 현재 네이버는 유해 콘텐츠 노출 가능성이 큰 치지직에 대한 전담 부서를 별도로 두지 않고 있다. 전체 서비스에서 검토가 필요하다고 판단된 콘텐츠를 모니터링할 뿐이다. 유사한 플랫폼인 숲이 서버 안에 모든 영상을 일주일 동안 보관하고, 100명의 모니터링 인력을 바탕으로 24시간 실시간 모니터링하는 부서를 별도로 운영하는 것과는 대조적이다. 네이버 관계자는 “모니터링 인력 현황 등은 외부에 따로 공개하지 않는다”고 했다. 이에 대해 이재성 중앙대 인공지능연구소 소장은 “미성년자 등에게 유해 콘텐츠가 노출되지 않도록 즉각적으로 필터링하는 모니터링 인력이 필요하다”고 말했다.
  • [단독] 넘쳐나는 벗방·딥페이크… 월 234만명 찾는 ‘치지직’ 콘텐츠 ‘이용 제한’은 0건

    [단독] 넘쳐나는 벗방·딥페이크… 월 234만명 찾는 ‘치지직’ 콘텐츠 ‘이용 제한’은 0건

    별도인증 없이 미성년자 시청 가능네이버 AI 모니터링 ‘한계’ 지적도 “즉각 필터링하는 모니터링 인력을 ” ‘게임 리뷰’라고 적힌 한 채널에 별도의 성인 인증 없이 접속하니 스트리머(채널 운영자)가 가슴 부위를 노출한 채 선정적인 춤을 추고 있었다. 영상 하단에 온라인 게임 영상이 재생되고 있었지만, 이른바 ‘벗방’(노출 방송)을 전송하기 위한 ‘눈속임’에 불과했다. ‘생활 습관 개선 1일차’라고 적힌 또 다른 채널에 들어가니 애니메이션 캐릭터의 주요 부위만 가린 딥페이크 이미지가 채널 상단에 걸려있었다. 역시 10대도 시청할 수 있었고, 끝날 때까지 유해 콘텐츠라며 경고받는 일은 없었다. 방송 이후 해당 콘텐츠를 네이버에 신고하려 했지만 스트리머가 이미 영상을 삭제한 터라 신고는 불가능했다. 일부 스트리머의 선정적인 방송으로 시범 서비스 때부터 논란을 불러일으켰던 네이버의 인터넷 생방송(스트리밍) 플랫폼 ‘치지직’(CHZZK)의 유해 콘텐츠 모니터링이 제대로 작동하고 있지 않은 것으로 파악됐다. 지난달에만 약 234만명이 방문한 치지직은 숲(SOOP·옛 아프리카TV)과 국내 스트리밍 업계에서 점유율 1·2위를 다투고 있는 플랫폼이다. 지난 3월 기준 10대 이하 이용자 비율만 해도 38%에 달한다. 서울신문이 7일 이정헌 더불어민주당 의원실을 통해 받은 자료를 보면, 지난 5월 정식 출범한 치지직 채널 중 ‘이용 제한’ 조치를 받은 채널은 단 한 곳도 없었다. 네이버는 자체적으로 플랫폼 운영 정책에 따라 성적 행위나 언행, 폭력 및 가혹 행위 등을 유해 콘텐츠로 분류해 이용 제한을 내린다. 치지직의 경우 자체적으로 개발한 인공지능(AI) 기반 음란 콘텐츠 필터링 기술인 ‘그린아이’를 통해 방송하고 녹화된 영상에 대한 모니터링을 진행한다. 업계와 전문가들은 그동안 치지직에서 이용 제한 조치를 받을 정도의 유해 콘텐츠가 단 한 건도 없었다는 점을 납득하기 어렵다고 지적했다. 염흥열 순천향대 정보보호학과 교수는 “기술이 부족해서 발생한 문제라기보다는 허점이 있다고 봐야 한다”며 “유해 콘텐츠를 판단하는 기준값을 보다 촘촘하게 설정해 놓았다면 많은 건이 적발됐을 것”이라고 지적했다. 이와 관련해 네이버는 치지직에서 이용 제한 외에도 주의 조치 등을 통해 유해 콘텐츠 몇 건이 적발됐는지 공개가 어렵다는 입장이다. 네이버 관계자는 “현재까지 이용 제한 조처를 내린 채널은 시범 서비스 당시인 지난 1월 성기 노출, 욱일기 노출로 논란이 된 2건”이라며 “신고를 기반으로 하는 주의는 계속 증가하고 있다”고 답했다. 현재 네이버는 유해 콘텐츠 노출 가능성이 큰 치지직에 대한 전담 부서를 별도로 두지 않고 있다. 전체 서비스에서 검토가 필요하다고 판단된 콘텐츠를 모니터링할 뿐이다. 유사한 플랫폼인 숲이 서버 안에 모든 영상을 일주일 동안 보관하고, 100명의 모니터링 인력을 바탕으로 24시간 실시간 모니터링하는 부서를 별도로 운영하는 것과는 대조적이다. 네이버 관계자는 “모니터링 인력 현황 등은 외부에 따로 공개하지 않는다”고 했다. 이에 대해 이재성 중앙대 인공지능연구소 소장은 “미성년자 등에게 유해 콘텐츠가 노출되지 않도록 즉각적으로 필터링하는 모니터링 인력이 필요하다”고 말했다.
위로