여자 연예인 등 공인의 얼굴을 사용해 ‘딥페이크(deepfake)’ 합성물을 만들어 판매한 10대와 이를 구매한 20대 등이 무더기로 경찰에 붙잡혔다. 19일 경기남부경찰청 사이버수사과는 텔레그램 채널을 개설해 딥페이크 불법 합성물을 판매해 수익을 올린 10대 남성 A씨 등 2명을 구속 상태로 송치하고 또 다른 10대 판매자 C씨, 해당 합성물을 구매한 20대 남성 D씨 등 25명을 이달 중 불구속 송치 예정이라고 밝혔다. 딥페이크 합성물 판매자 A씨 등 3명은 지난해 11월부터 올해 7월까지 각기 다른 텔레그램 채널에서 제작한 합성물을 판매한 혐의(청소년보호법 위반 등)를 받는다. 구매자 D씨 등 24명은 판매자들이 만든 각기 다른 채널에서 합성물을 구매해 소지한 혐의로 연령대는 모두 10~20대로 밝혀졌다. 구매자들은 2만~4만원의 입장료를 A씨 등에게 송금한 뒤 텔레그램 방에 들어가 딥페이크 성 착취물을 내려받거나 시청한 것으로 조사됐다. 이들이 판매한 영상이나 사진으로 피해를 본 연예인은 20여명에 달하며, 이 중에는 미성년자도 포함된 것으로 알려졌다. 경찰은 지난 4월부터 “딥페이크 기술을 활용한 불법합성물이 유통되고 있다”는 첩보를 입수, 수사를 이어왔으며 피의자 A씨 C씨를 경기 용인 등 수도권에서, B씨를 충북 제천에서 검거한 것으로 파악됐다. 특히 A씨는 검거 당시 합성물을 판매해 걷어들인 수익금 현금 약 1000만원을 경찰에 압수당한 것으로 전해졌다. 경찰은 해당 채널에서 합성물을 구매한 정황이 있는 80여명을 추가로 확인해 추적 중에 있다. 이에 따라 추가 입건자는 더욱 늘어날 전망이다. 경찰 관계자는 “텔레그램 메신저를 이용한 범죄라 하더라도 수사기관이 추적 기법을 활용해 수사를 진행하고 있다”며 “아동청소년 성착취물을 만든 자뿐만 아니라 구입·소지한 자들도 1년 이상의 징역에 해당하는 처벌을 받을 수 있다”고 말했다.

지난 3년 7개월간 아동 성착취물을 제작·유포해 경찰에 붙잡힌 가해자가 4000명에 달하는 것으로 나타났다. 하지만 구속률은 6%대에 그친 것으로 파악돼 처벌을 강화할 필요가 있다는 지적이 나온다. 황정아 더불어민주당 의원이 17일 경찰청으로부터 받은 자료를 보면, 2021년부터 올 7월까지 아동·청소년 성착취물의 제작과 배포 등을 금지한 청소년성보호법 11조 위반 혐의로 경찰에 적발된 건수는 모두 4763건이었다. 연도별로는 2021년 1747건, 2022년(1052건), 2023년(1052건), 올해(1~7월) 912건이다. 검거된 인원은 2021년(1331명), 2022년(986명), 2023년(978명), 올해(1~7월) 762명이다. 3년 7개월간 검거된 피의자 4057명 중 구속된 비율은 6.4%(261명)에 불과했다. 피해 신고 접수와 단순 소지·시청 등 각 범죄 유형별 현황에 대해서는 따로 집계가 이뤄지지 않고 있는 것으로 파악됐다. 2020년 ‘n번방 사건’을 계기로 개정된 청소년성보호법은 아동·청소년 성착취물을 사거나 단순 소지·시청한 자에 대해서도 1년 이상의 징역을 처하도록 양형을 강화했다. 황 의원은 “n번방 사건 이후에도 수사 당국이 아동 성착취물 피해 정도를 여전히 가볍게 판단하는 경향을 보인다”며 “딥페이크 등 성착취물 처벌을 강화해야 한다는 지적이 많은 상황에서 아동 성착취물 범죄에 대해서도 명확한 현황 분석을 통해 제대로 된 대책을 마련해야 한다”고 지적했다.

40대 남성이 10세 여아에게 “이 시간부로 나의 소유물”이라는 등 성적인 메시지를 보낸 혐의로 유죄가 확정됐다. 대법원 2부(주심 권영준 대법관)는 아동·청소년의 성보호에 관한 법률 위반(성착취목적대화 등) 등 혐의로 기소된 A(40)씨에게 징역 2년에 집행유예 3년을 선고한 원심판결을 13일 확정했다. A씨는 2022년 1월 초등학생이던 피해자에게 애플리케이션 채팅을 통해 총 45회에 걸쳐 성적 수치심 등을 유발할 수 있는 메시지를 보내 정서적으로 학대하고 성 착취 목적으로 대화한 혐의로 기소됐다. 그는 피해자에게 ‘뽀뽀’나 ‘결혼’ 등을 계속 언급하고, ‘○○가 존댓말 쓸 때면 난 흥분된다’ ‘이 시간부로 나의 소유물이다’ 등 성적으로 해석될 수 있는 메시지를 여러 차례 보냈다. 뽀뽀하는 사진을 보내라든지 결혼 서약서를 작성하라는 요구를 하기도 했다. 청소년성보호법은 19세 이상의 성인이 아동·청소년에게 성적 욕망이나 수치심, 혐오감을 유발할 수 있는 대화를 지속적으로 하는 행위를 금지한다. 1심 법원은 A씨에게 아동학대 혐의만 인정해 징역 1년 6개월에 집행유예 3년을 선고했다. 당시 재판부는 A씨가 성행위를 직접 언급하거나 특정 신체 부위 등에 관해 표현하지 않았으므로 성 착취 목적 대화 혐의는 무죄로 판단했다. 반면 2심 법원은 모든 혐의를 유죄로 인정해 징역 2년에 집행유예 3년으로 형량을 올렸다. 2심 재판부는 “피고인이 피해자에게 보낸 메시지는 피해자뿐 아니라 피해자와 같은 성별과 연령대의 일반적이고 평균적인 사람들의 성적 도의관념에 비춰 성적 수치심 또는 혐오감을 일으키는 대화에 해당한다”고 밝혔다. 아울러 “(성 착취 목적 대화는) 내용이 반드시 성교 행위 등을 하도록 유인·권유하는 행위에 비견될 정도에 이르러야 한다고 제한적으로 해석할 것은 아니다”라고 덧붙였다. A씨가 불복했으나 대법원은 “원심 판단에 청소년성보호법 위반(성착취목적대화 등)죄의 성립에 관한 법리를 오해한 잘못이 없다”며 상고를 기각했다.

정부와 국민의힘이 폭행·협박이나 ‘성착취 추심’ 등이 개입된 악질적 불법 대부계약을 무효화해 이자는 물론 원금도 갚지 않도록 하는 법안을 추진한다. ‘불법 사채의 관문’으로 악용되는 대부 중개사이트의 등록 기관을 지방자치단체에서 금융위원회로 상향해 관리감독도 강화할 방침이다. 대부업자의 자기자본 요건을 개인은 1000만원에서 1억원, 법인은 5000만원에서 3억원으로 올린다. ‘쪼개기’ 등록을 막기 위해 다른 대부업체 임직원 겸직은 제한된다. 소비자 오해를 막기 위해 ‘미등록대부업자’라는 명칭은 ‘불법사금융업자’로 바꾼다. 국내 대부업체는 8597개(지난해 말 기준)로 일본(1584개)과 비교해 영세업체가 난립한 데다 그만큼 불법 영업 소지가 크다는 평가를 받아 왔다. 실제 불법 사금융 피해 신고가 2020년 7350건에서 지난해 1만 2884건으로 계속 늘고 있다. 경기침체, 가계대출 규제 강화 등으로 서민들의 자금 마련이 어려워진 것도 영향을 미쳤다. 금융당국은 자기자본 요건 강화를 통해 대부업체 4300여곳의 등록이 취소될 것으로 보고 있다. 대부업자 등록 요건을 강화하는 과정에서 서민들의 금융 접근 기회가 줄어들 수 있다. 대부업 이용 목적을 보면 1년 이내 상환하는 생활비 목적의 대출 비중이 크다. 대부업 시장 정상화와 함께 저소득층의 소액 생계비 등을 위한 정부의 긴급자금 지원 체계가 확충돼야 한다. 우수 대부업자에 대한 인센티브도 늘려 ‘급전’이 필요한 서민들이 ‘제3금융권’에 머물 수 있도록 해야 한다. 불법 사금융은 어려움에 처한 서민들의 절박함을 악용해 이익을 챙기는 파렴치한 범죄다. 점조직 형태로 다양하게 법망을 피해 가는 범죄조직을 적발하기 위해서는 꾸준한 수사와 단속, 그리고 엄격한 처벌이 필요하다. 지금도 반사회적 추심에 고통받는 피해자들이 있다. 다수당인 더불어민주당도 관련 법안을 발의한 만큼 서둘러 의견을 조율하고 법을 개정하기 바란다.

정부가 불법사금융과의 전쟁에 나선다. 등록하지 않고 대부업 영업을 하는 행위에 대한 처벌을 최고 수준으로 강화하고 불법 대부계약 이자도 연 6%로 제한한다. 현재 8000개가 넘는 대부업체 수는 절반으로 줄이고 반사회적 대부계약은 원천 무효로 하는 방안도 추진한다. 고금리 속 저신용자의 불법사금융 피해가 늘자 특단의 대책을 내놓은 셈이다. 금융위원회는 11일 이 같은 내용을 골자로 하는 ‘불법사금융 척결 및 대부업 제도개선방안’을 발표했다. 금융감독원에 접수된 불법사금융 피해 상담·신고 건수는 2022년 1만 350건에서 2023년 1만 2884건으로 24.5% 증가했다. 정부가 정책서민금융 공급을 확대하고 수사·단속을 강화했지만 온라인 대부 중개를 통한 피해는 여전히 확산하는 추세다. 금융위는 우선 벌금 상한선을 6배 이상 높이는 등 불법사금융 처벌 수위를 대폭 강화하기로 했다. 미등록 영업의 경우 5년 이하 징역 또는 5000만원 이하 벌금을 부과했는데 벌금 상한을 2억원으로 높인다. 법정 최고금리 20%를 위반하는 경우 3년 이하 징역 또는 3000만원 이하 벌금을 부과했던 현행 기준도 5년 이하 징역 또는 2억원 이하 벌금으로 상향한다. 이 밖에도 불법사금융 범죄로 법원에서 유죄 선고를 받을 경우 최대 5년간 전자금융거래를 제한한다. 불법사금융업체들의 영업을 막기 위해 미등록 업체의 경우 대부계약 금리를 최대 6%로 제한하고 이보다 높은 금리에 따른 이자는 모두 무효화한다. 또 성착취나 인신매매, 폭행과 협박 등을 이용한 계약은 원금과 이자 모두를 무효로 하는 방안도 추진한다. 자금난에 허덕이다 급한 마음에 미등록 대부업체를 찾는 일을 막기 위해 인식 개선 작업도 병행한다. 현행법은 등록 절차를 거치지 않은 업자를 ‘미등록 대부업자’로 규정해 왔는데 앞으로 등록되지 않은 대부업자를 모두 불법사금융업자로 규정한다. 이수진 한국금융연구원 선임연구위원은 “불법인지 여부를 모르고 대부업체를 찾은 금융소비자들의 피해를 예방하는 효과가 클 것”이라며 “금리도 6%로 제한하면서 불법사금융업자들의 범죄 유인도 자연스레 줄어들 것으로 본다”고 분석했다. 금융위는 7700곳에 달하는 지자체 등록 대부업자들을 대상으로 대대적인 구조조정에도 착수할 예정이다. 현재 대부업 등록은 금융위와 지자체로 이원화돼 있는데 3억원 이상의 자기자본을 요구하는 금융위의 기준과 달리 지자체는 개인은 1000만원, 법인은 5000만원만 있으면 등록할 수 있어 지나치게 문턱이 낮다는 지적을 받아 왔다. 향후 지자체 대부업 등록 기준은 개인 1억원, 법인 3억원으로 각각 10배와 6배 상향 조정된다. 또 대부업자 1명이 자산을 나눠 여러 개의 지자체 대부업체를 운영하는 일명 ‘쪼개기 등록’도 임직원 겸직 제한을 통해 원천 차단한다. 금융당국은 지자체 등록 대부업자 수를 현재의 절반 수준인 3300개로 줄여 관리 수준을 한 단계 높인다는 계획이다. 김병환 금융위원장은 “대부업 시장도 온라인을 중심으로 활성화되면서 날로 수법이 교묘해지고 있다”며 “온라인·지자체 대부업체 등록 요건을 크게 상향하고 불법 대부업체에 대한 처벌 및 제재 수준을 대폭 강화해 불법 대부업의 뿌리를 뽑겠다”고 했다.

당정이 불법사금유이 근절을 위해 칼을 빼들었다. 미등록 대부업과 최고금리 위반 업체에 대한 형량을 최고 수준으로 강화하고, 불법 추심 등 반사회적인 대부계약에 대해 원금과 이자를 무효화할 수 있는 근거를 마련한다. 또 관리 사각지대인 온라인 대부업체의 등록 요건도 강화한다. 당정은 11일 국회에서 열린 ‘금융 취약계층 보호 및 불법 금융 근절 대책’ 당정 협의회에서 이같이 뜻을 모았다고 밝혔다. 추경호 국민의힘 원내대표는 이날 협의회에서 “불법 사금융 등 범죄 수법이 점점 더 교묘해지고 신용이 낮은 금융 취약계층에 피해가 집중되고 있다”며 정부와 금융당국을 향해 “반사회적 불법 대부 계약은 무효화할 수 있도록 소송 지원 등 피해자 구제에 만전을 기해달라”고 당부했다. 추 원내대표는 “경찰청 등 관계 당국은 불법 사금융 관련 악질적, 조직적 범죄에 특별 단속 등 수사 역량을 집중해주고, 불법 사금융 사건의 불법 수익 환수 노력도 배가해달라”고 요청했다. 당정은 미등록대부업, 최고금리 위반 등에 대해 금융 관련 법령상 최고 수준인 징역 최대 5년으로 형벌을 강화하기로 했다. 또 인신매매나 성착취, 폭행·협박 등으로 체결된 반사회적 대부계약에 대해서는 원금과 이자를 무효화해 피해자들을 보호하는 근거를 마련하기로 했다. 대부업체에 대한 관리감독도 강화한다. 대부 중개사이트 등록기관을 지방자치단체에서 금융위원회로 상향하는 등 등록 요건을 강화하고, 미등록 대부업자의 법적 명칭을 ‘불법사금융업자’로 변경한다. 대부업체 대표가 다른 대부업체 임직원을 겸직하는 것을 금지하고, 부적격 업자는 즉시 퇴출시켜 3년 동안 재진입을 제한한다. 김병환 금융위원장은 “서민 취약계층의 불법 사금융 이용이 늘면서 피해도 줄지 않고 있다”면서 “특히 불법 사채 이용 사실을 가족·지인에 알리거나 성 착취물, 개인 비리 등을 유포한다고 협박하는 등 불법 추심 사례가 발생하고 있다”고 지적했다. 이어 “제도 개선과 함께 실제 불법 사금융의 근원적 척결은 관계 기관의 수사와 단속, 처벌 강화도 매우 중요한 만큼 정부 전체가 힘을 합쳐 추진해나가겠다”고 강조했다. 이복현 금융감독원장은 “온라인 불법사금융 확산, 성 착취 추심 등 반사회적 행태 등으로 불법 사금융 피해자의 고통이 가중되는 것은 사회적으로 매우 중요하고 심각한 현실”이라면서 “불법 대부 피해자 구제지원을 강화해 현재 피해자 10여명에 대해 소송을 지원 중이거나 지원할 예정”이라고 밝혔다.

미국 사이버 보안업체 시큐리티히어로가 최근 발표한 ‘2023 딥페이크(허위 영상물) 현황’ 보고서에 따르면 딥페이크 성착취물 피해자의 53%가 한국인이다. 지난해 7~8월 유통된 9만 5820개 영상물 피해자의 99%가 여성인데 상위 피해자 10명 중 8명이 한국 가수다. 미국 경제 일간 월스트리트저널(WSJ)은 “가짜 음란물을 생성·유포하는 세계적인 문제의 진앙지가 한국이라는 것을 시사한다”고 썼다. 새로운 지적은 아니다. 올 3월 프랑스 일간 르몽드는 “(딥페이크를 활용한 성범죄는) 한국에서 수년 전부터 문제였는데 이미 일상적인 일이 됐다”고 보도했다. 한국 남성은 다른 나라 남성보다 관음적일까. 시큐리티히어로 보고서에는 미국 남성 1522명에 대한 설문 결과도 있다. 응답자의 48%가 ‘최근 6개월 동안 최소 한 번 이상 딥페이크 성착취물을 봤다’고 답했다. 이유는 ‘기술에 대한 호기심’(57%), ‘연예인에 대한 관심’(48%), ‘욕구 충족’(36%) 등이었다. 성착취물을 본 사용자의 74%는 ‘죄책감을 느끼지 않았다’고 했다. ‘사람이 아니고’(36%), ‘개인 관심사에 머무는 한 누구를 해치지 않을 거고’(30%), ‘상상보다 조금 현실적일 뿐이며’(29%), ‘실제 포르노와 별반 다르지 않아서’(28%)였다. 응답자의 20%는 ‘관련 기술을 배울 생각을 했다’고 답했다. 가까운 사람이 성착취물의 피해자가 될 경우 73%가 이를 신고할 거라고 답했다. 시큐리티히어로는 “응답자들이 잠재적 피해를 심각하게 인식하고 있다”고 해석했다. 한국 남성들에게 묻는다면 어떤 비율이 나올지 궁금하다. 우리나라의 성범죄 사건은 가해자 중심으로 흘러간다. 올 5월 영국 공영방송 BBC가 ‘버닝썬이 쏘아올린 작은 공’을 유튜브로 방영했다. 5년 전인 2019년 일을 다룬 다큐멘터리를 통해서야 가수 고(故) 구하라가 가해자들과 유착된 경찰을 밝혀내는 데 결정적 역할을 했다는 것이 알려졌다. 그 역시 ‘리벤지 포르노’(전 연인에 대한 보복성 음란물 유포)의 피해자다. 연예인의 ‘몰카’ 사건을 보도하면서 비뚤어진 팬덤의 피해자가 된 기자들, 유출을 두려워하는 몰카 피해자들의 이야기를 담았다. ‘이 다큐가 한국에서가 아니라 BBC를 통해 나왔다는 게 참 비극이다’는 댓글이 6만개가 넘는 ‘좋아요’를 받았다. 성범죄 판결은 가해자 ‘배려’에 가깝다. 2018년 32개국 사법당국의 공조로 잡힌 ‘웰컴투비디오’의 운영자 손정우는 지난 7월 출소했을 것이다. 세계 최대 아동 성착취물 공유 사이트를 운영한 성범죄 혐의가 1년 6개월, 자금세탁 혐의가 2년이었다. 해당 사건에서 영국의 영상 제작자는 22년, 미국의 사이트 공동운영자는 15년, 영상을 내려받은 사람은 5년형을 선고받았다. 2020년 미국의 손정우 인도 청구를 불허한 재판부의 판결문에 이런 내용이 있다. “범죄인이 국적을 가지고 있는 대한민국에서 주권국가로서 범죄인에 대해 주도적으로 형사처벌 권한을 행사할 수 있다.” 피해자 중심으로 바꿔 보자. “피해자가 국적을 가지고 있는 대한민국에서 주권국가로서 피해자에 대해 주도적으로 보호 권한을 행사할 수 있다”도 필요하지 않나. 메신저 앱인 텔레그램 대화방에서 수많은 성착취 영상물을 제작·유포한 ‘n번방’ 사건이 2020년 알려진 이후 대책이 검토되긴 했다. 그러나 피해 영상물이 발견되면 수사기관이 이를 즉시 삭제할 수 있는 권한을 부여하거나, 징역형 상한을 올리거나, 재유포를 방지하는 당연한 일들은 여전히 불가능하다. 딥페이크 성범죄로 인한 실형 또한 극히 드물다. 합성 수준이 낮아서, 범죄 수익이 적어서라는데 이 논점은 피해자의 고통과는 상관없다. 텔레그램이 지난 3일 방송통신심의위원회에 긴급 삭제를 요청한 영상물 25건을 모두 삭제했다는 이메일을 보내왔단다. 경찰이 딥페이크 성범죄 방조 혐의로 내사에 착수한 다음날이다. 성범죄 동영상이 유포되는 플랫폼 기업들은 정부 움직임에 따라 움직인다. 생성형 인공지능(AI) 발달로 1분짜리 딥페이크를 무료로 25분 만에 만들 수 있단다. 정치권과 정부가 요즘 호들갑을 떠는 만큼 빠르게 결과물이 나올 거라 믿고 싶다. 직무유기가 반복되면 한국은 ‘성범죄 선진국, 수사·처벌 후진국’으로 오랫동안 남을 거다. 전경하 논설위원

최근 여성의 얼굴에 음란물을 합성·유포하는 ‘딥페이크 성범죄’가 확산하는 가운데 모델 아이린 측도 피해를 호소하며 강경 대응을 예고했다. 4일 아이린의 소속사 사람엔터테인먼트는 공식 인스타그램에 “최근 소속 아티스트인 아이린을 대상으로 딥페이크 제작물이 불법 제작 및 유포되는 사례가 발생했다”고 밝혔다. 이어 “당사에서는 지속적인 모니터링을 통해 관련 자료를 수집할 예정이다. 관련한 사례를 발견하시면 제보 부탁드린다. 앞으로도 관련한 불법 행위들에 대해 강경하게 대응할 예정”이라고 전했다. 딥페이크는 인공지능을 기반으로 이미지를 합성하는 기술로, 최근 딥페이크를 악용한 불법 합성 사진 및 영상이 심각한 사회 문제가 되고 있다. 경찰청은 지난달 26일부터 30일까지 딥페이크 성범죄 특별 집중 단속 결과 총 118건의 신고를 접수해 33명의 피의자를 특정했으며 이 중 7명을 검거했다. 특히 대중에 노출된 연예인은 오래 전부터 합성 사진 등의 피해 대상이 돼 왔다. 기술이 발전함에 따라 딥페이크 범죄도 확산하자 소속사들도 강력 대응에 나서고 있다. 아이린에 앞서 그룹 (여자)아이들, 트와이스, 블랙핑크, 가수 권은비 측이 딥페이크 피해를 알리며 법적대응을 시사했다. 지난 28일(현지시간) 미국 일간 월스트리트저널(WSJ)에 따르면 미국의 사이버 보안 업체인 ‘시큐리티 히어로’는 최근 발표한 ‘2023 딥페이크 현황’ 보고서에서 한국이 딥페이크 성 착취물에 가장 취약한 국가로 나타났다고 밝혔다. 보고서에 따르면 지난해 딥페이크 성착취물 사이트 10곳의 영상 9만 5820건을 분석한 결과 전세계에 유포된 딥페이크 음란 합성물 피해자 중 53%가 한국인인 것으로 집계됐다. 이들 대부분이 가수와 배우 등 연예인인 것으로 나타났다.

최근 4년 반 동안 디지털성범죄피해자지원센터(디성센터)에 ‘딥페이크 성착취물’을 비롯해 불법촬영물을 지워달라고 요청한 건수가 94만건에 달했으나 이 가운데 약 29%인 27만건이 삭제되지 못한 것으로 나타났다. 부족한 대응 인력이 주요 원인으로 꼽히지만 삭제 요청을 받은 기업이 이를 반드시 이행하도록 제도를 개선해야 한다는 목소리도 함께 커지고 있다. 4일 더불어민주당 김남희 의원이 여성가족부에서 제출받은 자료에 따르면 2020년부터 올해 6월까지 여성가족부 산하 한국여성인권진흥원 내 디성센터가 접수한 딥페이크와 성적 모욕 이미지 등 불법촬영물 삭제 요청은 93만 8651건이다. 이 가운데 삭제하지 못한 건수는 26만 9917건(28.8%)에 달한다. 디성센터는 24시간 상담과 불법촬영물 삭제 지원 서비스를 제공하는 기관이다. 피해자로부터 삭제 신청이 접수되면 불법촬영물이 발견된 플랫폼 기업에 이를 지울 것을 요청하고 이후 조치 결과를 확인한다. 삭제 요청 건수는 2021년 16만 6000여건, 2022년 20만 6000여건, 2023년 24만 3000여건으로 매년 최소 3만건 이상씩 불어났다. 올해에도 6월까지 지난해 68% 수준인 16만 5000여건의 삭제 요청이 접수됐다. 미삭제 건수는 2021년 4만 2000여건에서 2023년 7만 5000여건으로 증가해 2년 만에 79.7% 늘었다. 올해 상반기에는 전년의 56%에 달하는 4만 2000여건을 지우지 못했다. 해마다 연간 미삭제 비율은 25% 정도다. 기술의 발전으로 딥페이크 제작이 쉬워지면서 피해가 눈덩이처럼 불어나고 있다. 3일 YTN라디오 ‘이이선 최수영 이슈앤피플’에 출연한 김덕진 IT커뮤니케이션연구소장에 따르면 인공지능(AI) 툴을 활용하면 음란물 제작에 20초도 걸리지 않는다고 한다. 김 소장은 “인플루언서가 찍은 숏폼 영상에 AI가 얼굴만 딴다. 기술이 놀라운데 이런 것들이 악용되는 사이트가 있다”고 짚었다. 아이돌을 좋아하는 팬들을 위해 찍은 ‘직캠’ 영상이나 자체 홍보를 위해 찍은 숏폼 영상이 범죄의 표적이 되고 있다. 최근 트와이스의 소속사 JYP엔터테인먼트, 블랙핑크가 소속된 YG엔터테인먼트, (여자)아이들이 속한 큐브엔터테인먼트, 권은비가 있는 울림엔터테인먼트 등이 딥페이크 피해를 보고 법적 대응에 나섰다. 일반인 역시 공개된 사진에 알몸을 합성 당해 피해를 보는 경우가 많다. 한 초등학교 교사 A씨는 자신의 사진과 합성된 성착취물이 신상 정보와 함께 단톡방에서 퍼지는 끔찍한 경험을 했다. 가해자로 위장해 진범을 5일 만에 잡아낸 A씨는 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 말했다. 피해가 커지는 상황이지만 대책은 뾰족하지 않다. 디성센터의 인력은 부족하고 강제성도 약하다. 전날 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 이수정 경기대 범죄심리학과 교수도 “불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”고 지적했다. 김남희 의원은 “불법촬영물 10건 중 3건을 삭제하지 못하면서 재유포 문제 등이 발생하고 있다”며 “정부가 대책으로 내놓은 ‘플랫폼 자율규제 강화’에 대한 한계가 뚜렷하게 드러난 만큼 특단의 조치가 필요하다”고 강조했다.

여자 후배 사진을 음란물에 합성하고 유포한 고등학생이 강제 전학을 가게 됐다. 4일 교육계 설명을 종합하면, 경남 진주교육지원청 학교 폭력 대책심의위원회는 지난 8월 회의를 열어 진주의 한 고등학교 남학생인 A(18)군 전학을 포함해 서면 사과와 특별교육 5시간 조치를 결정했다. A군은 이 조치에 앞서 8월 아동·청소년의 성보호에 관한 법률 위반(성착취물제작·배포등) 혐의로 검찰에 송치됐다. A군은 지난 6월 사회관계망서비스(SNS)에서 성명불상자에게 피해 학생 얼굴과 음란물을 합성해줄 것을 의뢰한 후 사진 3~4장을 받은 것으로 조사 됐다. 이후 A군은 피해 학생 이름을 도용해 가짜 SNS 계정을 만들고, 합성 사진을 게시해 신체·정식적인 피해를 입힌 것으로 확인됐다. A군은 학폭위에서 ‘B양에게 어떤 피해와 영향이 미칠지 예상하지 못했다’고 주장한 것으로 알려졌다.

‘딥페이크 성범죄’가 심각한 사회 문제로 대두되는 가운데, K팝 여자 아이돌 그룹 멤버들 사이에서도 피해자가 속출하자 대형 연예기획사들이 잇달아 칼을 빼들었다. 3일 그룹 (여자)아이들의 소속사인 큐브엔터테인먼트는 공식 엑스(X·옛 트위터) 계정에 “소속 아티스트를 대상으로 한 악의적인 딥페이크 제작물이 온라인상에 유포되고 있음을 확인했다”며 “해당 사안에 대해 지속적으로 모니터링하며 자료를 수집하고 있으며, 딥페이크 제작자 및 관련 유포자에게는 선처 없는 강력한 법적 조치를 취할 예정”이라고 밝혔다. 앞서 2일에는 그룹 블랙핑크의 소속사인 YG엔터테인먼트도 “광범위하고 악의적으로 이루어지고 있는 해당 불법행위를 계속 모니터링하고 불법 영상물을 삭제·차단하기 위해 노력하고 있으며, 형사절차를 포함하여 가능한 모든 법적 조치를 진행하고 있다”라며 엄정 대응을 예고했다. 블랙핑크의 경우 해외에 본사를 둔 카지노게임 운영사들이 한국 연예인들을 합성한 허위 홍보영상으로 광고를 내보내고 있는데, 멤버 리사를 합성한 허위 영상이 있는 것으로 확인됐다. 트와이스의 소속사인 JYP엔터테인먼트도 지난달 30일 트와이스 공식 팬 커뮤니티에 올린 공지를 통해 “선처 없는 강력한 법적 대응을 진행 중”이라고 밝혔다. K팝 여자 아이돌 가수들은 ‘딥페이크 성범죄’의 최대 피해자라 할 수 있다. 미국 사이버 보안업체 시큐리티 히어로가 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면, 지난해 딥페이크 성착취물 사이트 10곳의 영상 9만 5820건을 분석한 결과 전세계에 유포된 딥페이크 음란 합성물 피해자 중 53%가 한국인인 것으로 집계됐으며, 이들 대부분이 가수와 배우 등 연예인인 것으로 나타났다.

또래 여학생의 허위 성착취물을 사회관계망서비스(SNS)에서 건네받아 피해자의 친구에게 보낸 남학생이 불구속 상태로 재판에 넘겨졌다. 인천지검 여성아동범죄조사부(부장 정희선)는 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·반포 등 혐의로 고교생 A군을 불구속 기소했다고 3일 밝혔다. A군은 지난해 12월 트위터를 통해 알게 된 한 남성으로 부터 B양의 얼굴 사진에 다른 여성의 나체 사진을 ‘딥페이크’ 기술로 합성해 만든 성 착취물을 SNS로 건네받아 피해자의 친구에게 보낸 혐의를 받고 있다. A군과 B양은 서로 모르는 사이며,성 착취물을 제공한 남성의 신원은 아직 확인되지 않았다. 앞서 경찰은 A군을 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 제공 혐의로 송치했으나, 검찰은 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·배포 등 혐의를 추가로 적용했다. 검찰은 “A군이 초범이고 소년범이지만 사안이 중대하다고 보고 기소했으며 앞으로 허위 영상물은 성 착취물로 보고 관련법을 적용하는 방안을 적극적으로 검토하겠다”고 말했다. 검찰에 따르면 허위영상물은 성폭력처벌법상 반포 등 목적이 없는 제작, 단순 소지 행위에 대해서는 처벌 규정이 없다. 그러나 아동·청소년을 대상으로 한 허위영상물은 ‘성착취물’에 해당돼 청소년성보호법위반죄로 처벌할 수 있다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

텔레그램에서 지인의 사진으로 딥페이크(허위 영상물)를 제작해 유포하는 이른바 ‘겹지방’(겹치는 지인방)에 대한 문제가 제기된 이후 경찰에 관련 신고 88건이 접수됐다. 경찰은 텔레그램 법인에 대한 입건 전 조사(내사)에 착수했다. 우종수 경찰청 국가수사본부장은 2일 기자간담회에서 딥페이크 관련 신고가 “지난달 26일부터 29일까지 한주 동안 88건 접수됐다”면서 “특정된 피의자는 24명으로 피해자는 51명”이라고 밝혔다. 앞서 지난 1월부터 7월까지 경찰에 접수된 딥페이크 관련 신고는 297건이었다. 주당 평균 9건이 접수되던 딥페이크 신고가 10배 가까이 폭증한 것이다. 이 중 상당수는 피해자들이 가해자를 찾아 경찰에 신고한 것으로 파악된다. 우 본부장은 “추측하건데 수사 의뢰하지 않고 사인간에 합의 등으로 넘어갔던 암수 범죄들이 ‘미투 운동’처럼 이게 범죄라는 걸 인식한 피의자들이 적극적으로 신고한 것으로 생각한다”고 밝혔다. 그러면서 “88건 중 24건이 (피의자가) 특정됐다는 건 누가 했다는 것까지 수사의뢰한 게 꽤 많다는 것”이라고 덧붙였다. 텔레그램은 공조가 잘 이뤄지지 않는 만큼 경찰 수사는 쉽지 않을 거라는 얘기다. 여군에 대한 딥페이크가 유포된 텔레그램 방은 언론에 알려진 당일 폐쇄된 것으로 알려졌다. 우 본부장은 “구체적인 수사 단서를 찾기 어려운 상황”이라면서도 “국방부와 협조해서 수사 단서를 조속히 확보할 수 있도록 노력을 다하겠다”고 밝혔다. 경찰은 텔레그램 법인에 불법 합성물 제작·유포를 방조한 혐의를 적용할 수 있을지를 검토 중이다. 텔레그램 법인 자체에 대해 경찰이 입건 전 조사에 착수한 건 이번이 처음이다. 서울경찰청 사이버수사대는 딥페이크를 생성하는 텔레그램 프로그램 봇 8개에 대해서도 입건 전 조사 중이다. 경찰은 디지털 성범죄 대응을 위해 위장수사 대상 범위를 성인 대상 범죄로 확대하는 방안이 필요하다는 입장이다. 미성년 성착취물을 위장 수사하기 위해 텔레그램 방에 잠입한 경찰이 성인 피해자를 발견했더라도 현재로선 위장 수사는 불가능하다. 우 본부장은 “디지철 성범죄 위장 수사 확대 필요성을 느끼고 있다”면서 “신분 비노출 위장 수사는 사전 승인도 필수적인데 휴일 등 긴박한 경우 사후 승인이 가능하도록 적극 추진하겠다”고 밝혔다.

경찰이 미성년자 성 착취물 관련 사건 용의자의 소재지를 확인하는 과정에서 당사자인 한 남성이 자신의 아파트에서 떨어져 숨지는 사고가 발생했다. 1일 경기북부경찰청 등에 따르면 지난달 31일 오후 11시쯤 30대 남성 A씨가 경기 파주시 와동동의 한 아파트 8층 베란다에서 떨어져 숨졌다. 사고는 파주경찰서 수사과 1개 팀 경찰관 4명이 미성년자 성 착취물 관련 사건을 수사하기 위해 용의자인 A씨의 주거지를 방문해 소재를 확인하던 과정에서 발생했다. 파주서는 경찰관들이 A씨 집 벨을 누르고 현관문을 두드렸으나 안에서는 아무런 반응이 없었다고 당시 상황을 전했다. 이에 경찰관 1명이 1층으로 내려가 불빛 등을 확인해 해당 호수 8층 베란다에서 A씨가 서성이는 것을 목격하고 A씨 주거지 현관문 앞에 있던 경찰관 3명에게 이를 알렸다. 이후 경찰관들은 “파주서에서 나왔다”며 현관문을 두들긴 것으로 파악됐다. A씨는 이웃집 베란다로 넘어가는 등 10여분간 베란다에서 머물다 아래로 떨어졌다. 119구급대가 출동했을 때 A씨는 이미 심정지 상태였고 병원으로 옮겨진 뒤 숨졌다. 경찰은 폐쇄회로(CC)TV 등을 통해 정확한 사고 경위를 파악할 예정이다. 경기북부경찰청 관계자는 “용의자는 성 착취물 관련 제작 및 유포 혐의로 신고돼 피해자 조사까지 이뤄졌으나 정확한 인적 사항이 확인되지 않은 상태였다”며 “현장에 있던 경찰관들이 용의자와의 물리적 충돌은 물론 대면 접촉조차 하지 못한 상황에서 사고가 났다”고 설명했다.

“저는 텔레그램 딥페이크(허위 영상물) 성범죄 피해자입니다. 당신 사진도 올라와 있는 것 같아서 이 메시지를 보냅니다.” 2021년 7월 어느 날, 초등교사 박승희(27·가명)씨는 모르는 여성에게 ‘딥페이크 성범죄’ 제보를 받았다. 승희씨는 여성이 알려준 텔레그램 ‘지인능욕방’에 들어갔다. 친구들과 소식을 나누기 위해 각종 소셜미디어(SNS)에 올렸던 사진과 합성된 성착취물이 자신의 이름, 연락처, 근무 중인 학교 등 신상 정보와 함께 단톡방에서 퍼지고 있었다. 그제야 승희씨는 몇 달간 남성들이 성기 사진을 마구잡이로 자신에게 보낸 이유를 알게 됐다. 승희씨는 1일 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 회상했다. 그때부터 승희씨는 ‘지인능욕방에서 활동하는 가해자’처럼 위장했다. 자신의 사진을 콕 집어 ‘얘 마음에 드는데 사진 더 없냐’, ‘지인이냐’고 물었다. 낄낄거리던 가해자 A씨가 자신 말고 또 다른 여성의 딥페이크 사진을 올리며 성희롱하는 걸 본 승희씨는 또 다른 피해 여성을 찾아냈다. 두 사람이 지인을 조합해 가며 ‘합동 수사’한 결과 공통적으로 아는 A씨를 특정할 수 있었다. 이렇게 승희씨가 딥페이크 성범죄 가해자를 찾은 데 걸린 시간은 단 5일이었다. 승희씨가 모은 증거에 덜미가 잡힌 A씨는 자백했다. 연신 “죄송하다”는 A씨를 보며 승희씨는 허탈함을 느꼈다. ‘SNS는 수사가 어렵다’며 미적지근한 태도를 보였던 경찰서도 있었다. A씨는 2022년 말 성폭력범죄처벌 등에 관한 특례법 위반과 모욕 혐의로 징역 1년 2개월에 아동·청소년 관련기관 등에 5년간의 취업제한 명령 등을 받았지만, 텔레그램을 탈퇴한 다른 주범은 잡지 못했다. 승희씨는 “성인 대상 디지털 성범죄 수사도 위장 수사가 절실하다”고 강조했다. 현행법상 아동·청소년 대상 디지털 성범죄 수사에만 경찰의 신분 위장 수사가 허용돼 있어서다. 승희씨는 딥페이크 피해자들에게 “가해자는 텔레그램 밖에선 아무런 행동도 못 하는 사람”이라면서 “수치심에 SNS를 닫기도 했지만 피해자가 숨지 않아도 된다는 걸 깨달았다. 꼭 잡을 수 있다”고 전했다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

텔레그램방 잠입 5일 만에 연대해 특정‘죄송하다’ 반복하는 가해자 보며 허탈도 “텔레그램 밖에선 아무 것도 못하는 이들”‘SNS 수사 어렵다’는 경찰서도“성인 피해도 위장 수사 절실”피해자에 “우린 숨을 필요 없어” “저는 텔레그램 딥페이크(허위 영상물) 성범죄 피해자입니다. 당신 사진도 올라와 있는 것 같아서 이 메시지를 보냅니다.” 2021년 7월 어느 날, 초등교사 박승희(27·가명)씨는 모르는 여성에게 ‘딥페이크 성범죄’ 제보를 받았다. 승희씨는 여성이 알려준 텔레그램 ‘지인능욕방’에 들어갔다. 친구들과 소식을 나누기 위해 각종 소셜미디어(SNS)에 올렸던 사진과 합성된 성착취물이 자신의 이름, 연락처, 근무 중인 학교 등 신상 정보와 함께 단톡방에서 퍼지고 있었다. 그제야 승희씨는 몇 달간 남성들이 성기 사진을 마구잡이로 자신에게 보낸 이유를 알게 됐다. 승희씨는 1일 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 회상했다. 그때부터 승희씨는 ‘지인능욕방에서 활동하는 가해자’처럼 위장했다. 자신의 사진을 콕 집어 ‘얘 마음에 드는데 사진 더 없냐’, ‘지인이냐’고 물었다. 낄낄거리던 가해자 A씨가 자신 말고 또 다른 여성의 딥페이크 사진을 올리며 성희롱하는 걸 본 승희씨는 또 다른 피해 여성을 찾아냈다. 두 사람이 지인을 조합해 가며 ‘합동 수사’한 결과 공통적으로 아는 A씨를 특정할 수 있었다. 이렇게 승희씨가 딥페이크 성범죄 가해자를 찾은 데 걸린 시간은 단 5일이었다. 승희씨가 모은 증거에 덜미가 잡힌 A씨는 자백했다. 연신 “죄송하다”는 A씨를 보며 승희씨는 허탈함을 느꼈다. “왜 피해자가 스트레스를 받으며 가해자를 잡아야 할까”라는 데서 느끼는 답답함도 컸다. ‘SNS는 수사가 어렵다’며 미적지근한 태도를 보였던 경찰서도 있었다. A씨는 2022년 말 성폭력범죄처벌 등에 관한 특례법 위반과 모욕 혐의로 징역 1년 2개월에 아동·청소년 관련기관 등에 5년간의 취업제한 명령 등을 받았지만, 텔레그램을 탈퇴한 다른 주범은 잡지 못했다. 승희씨는 “성인 대상 디지털 성범죄 수사도 위장 수사가 절실하다”고 강조했다. 현행법상 아동·청소년 대상 디지털 성범죄 수사에만 경찰의 신분 위장 수사가 허용돼 있어서다. 승희씨는 딥페이크 피해자들에게 “가해자는 텔레그램 밖에선 아무런 행동도 못 하는 사람”이라면서 “처음엔 나도 수치심에 SNS를 닫았지만, 피해자가 숨지 않아도 된다는 걸 깨달았다. 꼭 잡을 수 있다”고 전했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

경찰이 미성년자 성 착취물 관련 사건 용의자의 소재지를 확인하는 과정에서 30대 남성이 아파트 8층에서 떨어져 숨지는 사고가 발생했다. 1일 경기북부경찰청 등에 따르면 지난 31일 오후 11시쯤 경기 파주시 와동동의 한 아파트에서 30대 남성 A씨가 8층 베란다에서 떨어져 숨졌다. 사고는 파주경찰서 수사과 1개 팀 경찰관 4명이 미성년자 성 착취물 관련 사건을 수사하기 위해 용의자인 A씨의 주거지를 방문해 소재를 확인하는 과정에서 발생했다. 파주서 측은 경찰관들이 A씨 집 벨을 누르고 현관문을 두드려도 안에서는 아무런 반응이 없었다고 당시 상황을 설명했다. 이에 경찰관 1명이 1층으로 내려가 불빛 등을 확인한 결과 8층 베란다에서 A씨가 서성이는 것이 목격했고 이후 A씨 주거지 현관문 앞에 있던 경찰관 3명이 “파주서에서 나왔다”고 여러 차례 말한 것으로 전해졌다. A씨는 이웃집 베란다로 넘어가는 등 10여 분간 베란다에서 머물다 아래로 떨어졌다. 경찰의 신고를 받고 119 구급대가 출동했을 때 A씨는 이미 심정지 상태였으며 병원으로 옮겨진 뒤 숨졌다. 경찰은 A씨가 베란다에서 스스로 뛰어내렸을 가능성이 큰 것으로 보고 폐쇄회로(CC)TV 등을 통해 정확한 사고 경위를 파악할 예정이다. 경기북부경찰청 관계자는 “사고 당일 오후 1시쯤 미성년자 성 착취 피해 고소장을 접수 받고 2차 피해 등이 우려돼 신속한 수사를 위해 밤늦은 시간이었지만 가해자 추정 소재지를 찾았다”며 “A씨가 어떤 경위로 사망케 됐는지는 추가 조사를 통해 밝힐 예정”이라고 말했다.