미국 사이버 보안업체 시큐리티히어로가 최근 발표한 ‘2023 딥페이크(허위 영상물) 현황’ 보고서에 따르면 딥페이크 성착취물 피해자의 53%가 한국인이다. 지난해 7~8월 유통된 9만 5820개 영상물 피해자의 99%가 여성인데 상위 피해자 10명 중 8명이 한국 가수다. 미국 경제 일간 월스트리트저널(WSJ)은 “가짜 음란물을 생성·유포하는 세계적인 문제의 진앙지가 한국이라는 것을 시사한다”고 썼다. 새로운 지적은 아니다. 올 3월 프랑스 일간 르몽드는 “(딥페이크를 활용한 성범죄는) 한국에서 수년 전부터 문제였는데 이미 일상적인 일이 됐다”고 보도했다. 한국 남성은 다른 나라 남성보다 관음적일까. 시큐리티히어로 보고서에는 미국 남성 1522명에 대한 설문 결과도 있다. 응답자의 48%가 ‘최근 6개월 동안 최소 한 번 이상 딥페이크 성착취물을 봤다’고 답했다. 이유는 ‘기술에 대한 호기심’(57%), ‘연예인에 대한 관심’(48%), ‘욕구 충족’(36%) 등이었다. 성착취물을 본 사용자의 74%는 ‘죄책감을 느끼지 않았다’고 했다. ‘사람이 아니고’(36%), ‘개인 관심사에 머무는 한 누구를 해치지 않을 거고’(30%), ‘상상보다 조금 현실적일 뿐이며’(29%), ‘실제 포르노와 별반 다르지 않아서’(28%)였다. 응답자의 20%는 ‘관련 기술을 배울 생각을 했다’고 답했다. 가까운 사람이 성착취물의 피해자가 될 경우 73%가 이를 신고할 거라고 답했다. 시큐리티히어로는 “응답자들이 잠재적 피해를 심각하게 인식하고 있다”고 해석했다. 한국 남성들에게 묻는다면 어떤 비율이 나올지 궁금하다. 우리나라의 성범죄 사건은 가해자 중심으로 흘러간다. 올 5월 영국 공영방송 BBC가 ‘버닝썬이 쏘아올린 작은 공’을 유튜브로 방영했다. 5년 전인 2019년 일을 다룬 다큐멘터리를 통해서야 가수 고(故) 구하라가 가해자들과 유착된 경찰을 밝혀내는 데 결정적 역할을 했다는 것이 알려졌다. 그 역시 ‘리벤지 포르노’(전 연인에 대한 보복성 음란물 유포)의 피해자다. 연예인의 ‘몰카’ 사건을 보도하면서 비뚤어진 팬덤의 피해자가 된 기자들, 유출을 두려워하는 몰카 피해자들의 이야기를 담았다. ‘이 다큐가 한국에서가 아니라 BBC를 통해 나왔다는 게 참 비극이다’는 댓글이 6만개가 넘는 ‘좋아요’를 받았다. 성범죄 판결은 가해자 ‘배려’에 가깝다. 2018년 32개국 사법당국의 공조로 잡힌 ‘웰컴투비디오’의 운영자 손정우는 지난 7월 출소했을 것이다. 세계 최대 아동 성착취물 공유 사이트를 운영한 성범죄 혐의가 1년 6개월, 자금세탁 혐의가 2년이었다. 해당 사건에서 영국의 영상 제작자는 22년, 미국의 사이트 공동운영자는 15년, 영상을 내려받은 사람은 5년형을 선고받았다. 2020년 미국의 손정우 인도 청구를 불허한 재판부의 판결문에 이런 내용이 있다. “범죄인이 국적을 가지고 있는 대한민국에서 주권국가로서 범죄인에 대해 주도적으로 형사처벌 권한을 행사할 수 있다.” 피해자 중심으로 바꿔 보자. “피해자가 국적을 가지고 있는 대한민국에서 주권국가로서 피해자에 대해 주도적으로 보호 권한을 행사할 수 있다”도 필요하지 않나. 메신저 앱인 텔레그램 대화방에서 수많은 성착취 영상물을 제작·유포한 ‘n번방’ 사건이 2020년 알려진 이후 대책이 검토되긴 했다. 그러나 피해 영상물이 발견되면 수사기관이 이를 즉시 삭제할 수 있는 권한을 부여하거나, 징역형 상한을 올리거나, 재유포를 방지하는 당연한 일들은 여전히 불가능하다. 딥페이크 성범죄로 인한 실형 또한 극히 드물다. 합성 수준이 낮아서, 범죄 수익이 적어서라는데 이 논점은 피해자의 고통과는 상관없다. 텔레그램이 지난 3일 방송통신심의위원회에 긴급 삭제를 요청한 영상물 25건을 모두 삭제했다는 이메일을 보내왔단다. 경찰이 딥페이크 성범죄 방조 혐의로 내사에 착수한 다음날이다. 성범죄 동영상이 유포되는 플랫폼 기업들은 정부 움직임에 따라 움직인다. 생성형 인공지능(AI) 발달로 1분짜리 딥페이크를 무료로 25분 만에 만들 수 있단다. 정치권과 정부가 요즘 호들갑을 떠는 만큼 빠르게 결과물이 나올 거라 믿고 싶다. 직무유기가 반복되면 한국은 ‘성범죄 선진국, 수사·처벌 후진국’으로 오랫동안 남을 거다. 전경하 논설위원

검색창에 ‘OO사이트 OO능욕 게시판’을 입력하면 한 온라인 커뮤니티의 게시판에 접속할 수 있다. 5000명이 넘는 구독자를 보유한 이 게시판에는 아무런 게시물도 올라와 있지 않았다. 하지만 게시판 운영진 등에게 비밀번호 성격의 코드를 받아 로그인하면 전혀 다른 화면이 펼쳐진다. 아동을 모델로 한 리얼돌 사용 후기와 구매 링크, 성매매 후기, 불법 촬영물 등이 수두룩하다. 아는 사람만 찾아온다는 이 게시판은 딥페이크(허위 영상물)로 성범죄에 대한 경각심이 높아지는 와중에 어떤 제재도 받지 않고 성업 중이었다. 텔레그램 같은 소셜미디어(SNS)뿐 아니라 친목 도모나 취미 공유를 위해 만들어진 일부 온라인 커뮤니티가 ‘성범죄 놀이터’로 이용되고 있는 것으로 나타났다. 5일 서울신문이 불법 음란물 등이 유통되는 커뮤니티를 둘러본 결과 일부 커뮤니티는 가상사설망(VPN)을 통해 우회 접속해야 게시글을 볼 수 있을 정도로 폐쇄성이 짙었다. 소아성애·근친 등 선정적·불법적인 주제를 다룰수록 더 까다로운 절차를 거쳐야 했다. 하지만 성인 인증 등을 요구하는 커뮤니티는 없어 10대 청소년들도 불법 음란물에 무분별하게 노출되고 있다. 음란물 불법 유통, 성매매 알선·광고, 성인용품 판매 등으로 수익을 창출하려는 불법 사이트와 달리 온라인 커뮤니티는 관심사 공유를 목적으로 한다. 리얼돌, 소아성애, 근친, 성매매 정보 공유 등이 주된 내용이다. 커뮤니티 회원들끼리 불법 촬영물이나 성매매 후기 등을 공유하고 영상물 링크 등 각종 정보를 교환하는 식이다. 커뮤니티 이용자들은 관심사를 나눈 것일 뿐 성범죄가 아니라는 주장이다. 아동 리얼돌 후기를 남긴 한 커뮤니티 이용자는 “누군가의 취향일 뿐이지 불법 음란물이 아니다”라며 “이게 왜 범죄가 되느냐”고 했다. 또 다른 이용자는 “직접 찍은 게 아니라 인터넷에 떠도는 야한 사진을 공유한 것일 뿐이다. 이 정도는 처벌 대상이 아니지 않으냐”고 되묻기도 했다. 아예 음지로 숨은 커뮤니티도 적지 않다. 한 커뮤니티의 ‘성매매 게시판’은 국내 IP로는 접속이 불가능했다. 커뮤니티 이용자들끼리 공유하는 IP 설정값을 입력한 뒤 정해진 VPN으로 우회 접속해야만 게시판의 게시물을 볼 수 있었다. 이 게시판에는 업체명을 적시한 성매매 후기는 물론 영상까지 올라와 있었다. 길가의 여성을 대상으로 한 불법 촬영물, 지인이나 가족의 속옷 이미지를 첨부한 사진 등도 많았다. 2016년 폐쇄된 국내 최대 음란 사이트 소라넷과 유사한 모습이었다. 문제는 커뮤니티 대부분이 텔레그램처럼 해외에 서버를 두고 있다는 점이다. 또 운영자가 단속 등을 피하기 위해 클라우드 데이터 백업을 한 뒤 게시판을 폐쇄했다가 다시 운영을 재개하는 경우도 빈번하다. 디지털성범죄피해자지원센터가 조은희 국민의힘 의원실에 제출한 ‘불법 촬영물 등 유포 사이트 서버 국가 현황’을 보면 2018년 4월~지난 3월 해외에 서버를 둔 사이트가 전체의 약 95.4%(2만 6426건)를 차지했다. 곽대경 동국대 경찰사법대학 교수는 “커뮤니티가 워낙 많다 보니 시민사회단체나 여성단체, 학부모단체에서 모니터링한 이후 경찰에 신고하는 유기적인 협조체계 구축이 필요하다”고 말했다. 권헌영 고려대 정보보호대학원 교수는 “VPN으로 우회 접속하는 커뮤니티 등도 시간이 걸릴 뿐 수사하면 모두 추적할 수 있다”며 “추적 이후 실제로 영장 집행 등을 할 수 있도록 국제 공조를 강화하는 게 필수”라고 했다.

텔레그램 대화방 사태에도 성업일부에선 불법 음란물 유통까지폐쇄성·해외 서버로 수사 난항도“시민사회와 협조 체계 구축해야” 검색창에 ‘OO사이트 OO능욕 게시판’을 입력하면 한 온라인 커뮤니티의 게시판에 접속할 수 있다. 5000명이 넘는 구독자를 보유한 이 게시판에는 아무런 게시물도 올라와 있지 않았다. 하지만 게시판 운영진 등에게 비밀번호 성격의 코드를 받아 로그인하면 전혀 다른 화면이 펼쳐진다. 아동을 모델로 한 리얼돌 사용 후기와 구매 링크, 성매매 후기, 불법 촬영물 등이 수두룩하다. 아는 사람만 찾아온다는 이 게시판은 딥페이크(허위 영상물)로 성범죄에 대한 경각심이 높아지는 와중에도 어떤 제재도 받지 않고 성업 중이었다. 텔레그램 같은 소셜미디어(SNS)뿐 아니라 친목 도모나 취미 공유를 위해 만들어진 일부 온라인 커뮤니티가 ‘성범죄 놀이터’로 이용되고 있는 것으로 나타났다. 5일 서울신문이 불법 음란물 등이 유통되는 커뮤니티를 둘러본 결과, 일부 커뮤니티는 가상사설망(VPN)을 통해 우회 접속해야 게시글을 볼 수 있을 정도로 폐쇄성이 짙었다. 소아성애·근친 등 선정적·불법적인 주제를 다룰수록 더 까다로운 절차를 거쳐야 했다. 하지만 성인 인증 등을 요구하는 커뮤니티는 없어 10대 청소년들도 불법 음란물에 무분별하게 노출되고 있다. 음란물 불법 유통, 성매매 알선·광고, 성인용품 판매 등으로 수익을 창출하려는 불법 사이트와 달리 온라인 커뮤니티는 관심사 공유를 목적으로 한다. 리얼돌, 소아성애, 근친, 성매매 정보공유 등이 주된 내용이다. 커뮤니티 회원들끼리 불법 촬영물이나 성매매 후기 등을 공유하고, 영상물 링크 등 각종 정보를 교환하는 식이다. 커뮤니티 이용자들은 관심사를 말한 것일 뿐 성범죄가 아니라는 주장이다. 아동 리얼돌 후기를 남긴 한 커뮤니티 이용자는 “누군가의 취향일 뿐이지 불법 음란물이 아니다”며 “이게 왜 범죄가 되냐”고 했다. 또 다른 이용자는 “직접 찍은 게 아니라 인터넷에 떠도는 야한 사진을 공유한 것일 뿐이다. 이 정도는 처벌 대상이 아니지 않냐”고 되묻기도 했다. 아예 음지로 숨은 커뮤니티도 적잖다. 한 커뮤니티의 ‘성매매 게시판’은 국내 IP로는 접속이 불가능했다. 커뮤니티 이용자들끼리 공유하는 IP 설정값을 입력한 뒤 정해진 VPN으로 우회 접속해야만 게시판의 게시물을 볼 수 있었다. 이 게시판에는 업체명을 적시한 성매매 후기는 물론 영상까지 올라와 있었다. 길가의 여성을 대상으로 한 불법 촬영물, 지인이나 가족의 속옷 이미지를 첨부한 사진 등도 많았다. 2016년 폐쇄된 국내 최대 음란사이트 소라넷과 유사한 모습이었다. 문제는 커뮤니티 대부분이 텔레그램처럼 해외에 서버를 두고 있다는 점이다. 또 운영자가 단속 등을 피하기 위해 클라우드 데이터 백업을 한 뒤 게시판을 폐쇄했다가 다시 운영을 재개하는 경우도 빈번하다. 디지털성범죄지원센터가 조은희 국민의힘 의원실에 제출한 ‘불법 촬영물 등 유포 사이트 서버 국가 현황’을 보면 2018년 4월~지난 3월 해외에 서버를 둔 사이트가 전체의 약 95.4%(2만 6426건)를 차지했다. 곽대경 동국대 경찰사법대학 교수는 “커뮤니티가 워낙 많다 보니 시민사회단체나 여성단체, 학부모단체에서 모니터링한 이후 경찰에 신고하는 유기적인 협조 체계 구축이 필요하다”고 말했다. 권헌영 고려대 정보보호대학원 교수는 “VPN 우회 접속하는 커뮤니티 등도 시간이 걸릴 뿐 수사하면 모두 추적할 수 있다”며 “추적 이후 실제로 영장 집행 등을 할 수 있도록 국제공조를 강화하는 게 필수”라고 했다.

앞으로 서울시 어린이 놀이시설에서는 놀이 활동 목적 이외의 골프 연습 등 물건을 던지거나 타격행위 또는 음란물 시청 등 성적수치심을 일으키는 행위는 할 수 없게 됐다. 서울시의회 서울미래전략통합추진특별위원회 위원장이자 도시안전건설위원회 소속 김동욱 의원(국민의힘·강남5)이 대표발의한 ‘서울시 어린이놀이시설 안전관리 지원 조례 일부개정조례안’이 5일 서울시의회 제326회 임시회 본회의를 통과했다. 이에 따라 서울시에 있는 어린이 놀이시설에서는 ‘어린이놀이시설 안전관리법’ 제17조의3과 같은 법 시행령 제11조의3에서 제한하고 있는 ‘어린이 놀이시설에서의 행위제한’ 범위 이외에 서울시 조례로 어린이 놀이 활동 목적 이외의 물건을 던지거나 타격해 시설물이나 이용자에게 위험이 되는 행위, 시설 이용자나 관리자 등에게 성적(性的)수치심을 일으켜 위해를 주는 행위는 할 수 없도록 규정이 마련됐다. 김 의원은 “최근 어린이 놀이시설에서 미끄럼틀에 라이터로 열을 가한 주방용 가위를 꽂아놓고 달아난 비합리적인 사건이 발생하고, 벙커샷 연습을 위해 골프채로 공을 날리면서 골프 연습을 하거나 부적절한 음란물을 버젓이 시청하는 등 시민 안전에 위협을 가하고 있다”라고 어린이 놀이시설에서의 안전사고 사례를 지적했다. 김 의원은 “어린이 안전에 위험이 발생하고 있으나 이를 금지할 수 있는 제도적인 근거가 미비해 시민 안전을 강화할 수 있는 관련 규정 마련이 시급한 상황이었다”라고 조례 개정 이유를 설명했다. 김 의원은 지난 3월에도 서울시 시내버스 및 마을버스에서 음란행위, 영상 시청 등을 볼 수 없도록 하는 ‘서울시 시내버스 재정지원 및 안전 운행기준에 관한 조례’와 ‘서울시 마을버스 재정지원 및 안전 운행기준 등에 관한 조례’을 개정, 시민들의 버스 이용 안전을 높이는 데 이바지하는 등 안전 문제 있어서는 가장 먼저 안전사고를 예방하고 시민 안전을 지키기 위해 지속적인 노력을 기울이고 있다. 김 의원은 “어린이 안전 문제는 다른 것들보다 더 민감하고 세밀하게 규정을 마련하여 혹시라도 발생할 수 있는 사고로부터 우리 아이들을 지키는 것이 중요하다”라면서 “제도적으로나 법적으로 사각지대에 있는 안전 문제를 꼼꼼히 살펴 관련 규정들을 마련해 나갈 것”이라고 강조했다.

최근 여성의 얼굴에 음란물을 합성·유포하는 ‘딥페이크 성범죄’가 확산하는 가운데 모델 아이린 측도 피해를 호소하며 강경 대응을 예고했다. 4일 아이린의 소속사 사람엔터테인먼트는 공식 인스타그램에 “최근 소속 아티스트인 아이린을 대상으로 딥페이크 제작물이 불법 제작 및 유포되는 사례가 발생했다”고 밝혔다. 이어 “당사에서는 지속적인 모니터링을 통해 관련 자료를 수집할 예정이다. 관련한 사례를 발견하시면 제보 부탁드린다. 앞으로도 관련한 불법 행위들에 대해 강경하게 대응할 예정”이라고 전했다. 딥페이크는 인공지능을 기반으로 이미지를 합성하는 기술로, 최근 딥페이크를 악용한 불법 합성 사진 및 영상이 심각한 사회 문제가 되고 있다. 경찰청은 지난달 26일부터 30일까지 딥페이크 성범죄 특별 집중 단속 결과 총 118건의 신고를 접수해 33명의 피의자를 특정했으며 이 중 7명을 검거했다. 특히 대중에 노출된 연예인은 오래 전부터 합성 사진 등의 피해 대상이 돼 왔다. 기술이 발전함에 따라 딥페이크 범죄도 확산하자 소속사들도 강력 대응에 나서고 있다. 아이린에 앞서 그룹 (여자)아이들, 트와이스, 블랙핑크, 가수 권은비 측이 딥페이크 피해를 알리며 법적대응을 시사했다. 지난 28일(현지시간) 미국 일간 월스트리트저널(WSJ)에 따르면 미국의 사이버 보안 업체인 ‘시큐리티 히어로’는 최근 발표한 ‘2023 딥페이크 현황’ 보고서에서 한국이 딥페이크 성 착취물에 가장 취약한 국가로 나타났다고 밝혔다. 보고서에 따르면 지난해 딥페이크 성착취물 사이트 10곳의 영상 9만 5820건을 분석한 결과 전세계에 유포된 딥페이크 음란 합성물 피해자 중 53%가 한국인인 것으로 집계됐다. 이들 대부분이 가수와 배우 등 연예인인 것으로 나타났다.

최근 4년 반 동안 디지털성범죄피해자지원센터(디성센터)에 ‘딥페이크 성착취물’을 비롯해 불법촬영물을 지워달라고 요청한 건수가 94만건에 달했으나 이 가운데 약 29%인 27만건이 삭제되지 못한 것으로 나타났다. 부족한 대응 인력이 주요 원인으로 꼽히지만 삭제 요청을 받은 기업이 이를 반드시 이행하도록 제도를 개선해야 한다는 목소리도 함께 커지고 있다. 4일 더불어민주당 김남희 의원이 여성가족부에서 제출받은 자료에 따르면 2020년부터 올해 6월까지 여성가족부 산하 한국여성인권진흥원 내 디성센터가 접수한 딥페이크와 성적 모욕 이미지 등 불법촬영물 삭제 요청은 93만 8651건이다. 이 가운데 삭제하지 못한 건수는 26만 9917건(28.8%)에 달한다. 디성센터는 24시간 상담과 불법촬영물 삭제 지원 서비스를 제공하는 기관이다. 피해자로부터 삭제 신청이 접수되면 불법촬영물이 발견된 플랫폼 기업에 이를 지울 것을 요청하고 이후 조치 결과를 확인한다. 삭제 요청 건수는 2021년 16만 6000여건, 2022년 20만 6000여건, 2023년 24만 3000여건으로 매년 최소 3만건 이상씩 불어났다. 올해에도 6월까지 지난해 68% 수준인 16만 5000여건의 삭제 요청이 접수됐다. 미삭제 건수는 2021년 4만 2000여건에서 2023년 7만 5000여건으로 증가해 2년 만에 79.7% 늘었다. 올해 상반기에는 전년의 56%에 달하는 4만 2000여건을 지우지 못했다. 해마다 연간 미삭제 비율은 25% 정도다. 기술의 발전으로 딥페이크 제작이 쉬워지면서 피해가 눈덩이처럼 불어나고 있다. 3일 YTN라디오 ‘이이선 최수영 이슈앤피플’에 출연한 김덕진 IT커뮤니케이션연구소장에 따르면 인공지능(AI) 툴을 활용하면 음란물 제작에 20초도 걸리지 않는다고 한다. 김 소장은 “인플루언서가 찍은 숏폼 영상에 AI가 얼굴만 딴다. 기술이 놀라운데 이런 것들이 악용되는 사이트가 있다”고 짚었다. 아이돌을 좋아하는 팬들을 위해 찍은 ‘직캠’ 영상이나 자체 홍보를 위해 찍은 숏폼 영상이 범죄의 표적이 되고 있다. 최근 트와이스의 소속사 JYP엔터테인먼트, 블랙핑크가 소속된 YG엔터테인먼트, (여자)아이들이 속한 큐브엔터테인먼트, 권은비가 있는 울림엔터테인먼트 등이 딥페이크 피해를 보고 법적 대응에 나섰다. 일반인 역시 공개된 사진에 알몸을 합성 당해 피해를 보는 경우가 많다. 한 초등학교 교사 A씨는 자신의 사진과 합성된 성착취물이 신상 정보와 함께 단톡방에서 퍼지는 끔찍한 경험을 했다. 가해자로 위장해 진범을 5일 만에 잡아낸 A씨는 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 말했다. 피해가 커지는 상황이지만 대책은 뾰족하지 않다. 디성센터의 인력은 부족하고 강제성도 약하다. 전날 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 이수정 경기대 범죄심리학과 교수도 “불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”고 지적했다. 김남희 의원은 “불법촬영물 10건 중 3건을 삭제하지 못하면서 재유포 문제 등이 발생하고 있다”며 “정부가 대책으로 내놓은 ‘플랫폼 자율규제 강화’에 대한 한계가 뚜렷하게 드러난 만큼 특단의 조치가 필요하다”고 강조했다.

여자 후배 사진을 음란물에 합성하고 유포한 고등학생이 강제 전학을 가게 됐다. 4일 교육계 설명을 종합하면, 경남 진주교육지원청 학교 폭력 대책심의위원회는 지난 8월 회의를 열어 진주의 한 고등학교 남학생인 A(18)군 전학을 포함해 서면 사과와 특별교육 5시간 조치를 결정했다. A군은 이 조치에 앞서 8월 아동·청소년의 성보호에 관한 법률 위반(성착취물제작·배포등) 혐의로 검찰에 송치됐다. A군은 지난 6월 사회관계망서비스(SNS)에서 성명불상자에게 피해 학생 얼굴과 음란물을 합성해줄 것을 의뢰한 후 사진 3~4장을 받은 것으로 조사 됐다. 이후 A군은 피해 학생 이름을 도용해 가짜 SNS 계정을 만들고, 합성 사진을 게시해 신체·정식적인 피해를 입힌 것으로 확인됐다. A군은 학폭위에서 ‘B양에게 어떤 피해와 영향이 미칠지 예상하지 못했다’고 주장한 것으로 알려졌다.

음란물에 유명 연예인의 얼굴을 합성한 딥페이크 영상이나 아동·청소년 성 착취물을 SNS 등을 통해 판매한 10대 3명이 경찰에 붙잡혔다. 부산경찰청 여성·청소년수사계는 성폭력 범죄 처벌 특례법(허위 영상물 편집·반포), 아동·청소년 성 보호에 관한 법률(영리 목적 성 착취물 판매) 위반 혐의로 10대 A군에 대한 구속영장을 신청했다고 4일 밝혔다. 고등학교를 졸업한 A씨는 지난 4월부터 5월까지 게임 정보를 공유하는 해외 커뮤니티앱에서 연예인 등 유명인의 얼굴을 합성한 딥페이크 1230개, 아동·청소년 성 착취물 4만 4000개를 15명에게 판매해 27만원의 수익을 올린 혐의를 받는다. A군은 SNS에서 이들 영상물을 구매해 되판 것으로 조사됐다. 경찰은 또 고교 졸업생 B군, 고등학교 재학생 C군을 아동·청소년의 성 보호에 관한 법률(영리 목적 성 착취물 판매) 혐의로 검거했다. B군은 구속됐으며, C군은 불구속 상태에서 수사받고 있다. B군은 지난해 12월부터 올해 4월까지 해외 게임정보공유 앱을 통해 아동·청소년 성 착취물 5만4609개를 100여명에게 판매해 총 220만원을 받은 혐의를 받는다. C군은 지난 3월부터 5월까지 해외 SNS에서 구매자 10명에게 아동·청소년 성 착취물을 판매해 95만원의 불법 수익을 올린 혐의다. 이들은 SNS 해시태그와 접속 링크를 포함한 광고성 게시글을 적고, 구매자들이 자신과 접촉할 수 있도록 했으며, 성 착취물 여러 개가 담긴 폴더 하나당 5000원에서 3만원을 받고 판매했다. B, C군은 판매한 성 착취물을 지인 등에게 받았다고 경찰에 진술했다. 경찰은 이들로부터 아동·청소년 성 착취물을 구매한 63명도 검거했다. 이 중 형사처벌이 어려운 10~14세 촉법 소년이 약 20% 정도이며, 나머지는 10대 중반에서 20대 초반이었다. 다만, 딥페이크 영상물은 합성된 대상이 성인을 경우 현행법상 제작·유포자만 처벌할 수 있다. 이 탓에 구매자가 영상을 습득한 이후 유포 행위를 하지 않았다면 처벌하기 어렵다. 경찰 관계자는 “법원의 허가를 받아 딥페이크, 아동·청소년 성 착취물 판매자에게 구매자인 척 접근해 검거했다. 딥페이크 영상 제작·유포 행위 첩보를 적극적으로 수집하고 수사에 착수하는 등 디지털 성범죄에 강력하게 대응하겠다”라고 밝혔다.

최근 ‘딥페이크’를 악용한 음란물이 범람하는 것과 관련, 범죄 심리전문가인 이수정 경기대학교 범죄심리학과 교수가 “‘n번방’ 가해자 몇 명을 엄벌하는 것으로 수사를 마무리한 게 실수였다”고 했다. 이 교수는 3일 국회의원회관에서 조은희 국민의힘 의원과 한국여성인권진흥원이 주최하고 여성가족부와 서울시가 후원하는 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에 발제자로 참석해 이같이 밝혔다. 이 교수는 “2019년 (텔레그램) n번방 사건 때도 딥페이크는 있었고, 이를 과연 피해로 봐야 하는지 문제가 제기됐지만 많은 분이 ‘창작의 자유’라는 단어를 쓰면서 아주 많은 비난을 했다”며 “그렇게 시간이 흘러 n번방의 2만명이 10배 늘어 22만명이 이 추세에 적극적으로 가담을 하고 있다”고 했다. 이 교수는 여가부 청소년보호위원장을 하면서 목격한 경험을 이야기하며 현행 제도의 문제점을 거론했다. 그는 “매달 저희가 300개에서 400개 정도의 채팅 애플리케이션을 지켜보기 때문에 정부는 어디서 아동들이 ‘그루밍’돼 성폭력 피해자가 되고 영상이 촬영되고 유포되는지 알고 있다”며 “문제는 여가부가 처벌기관이 아니기 때문에 모니터링 후 권고하거나 수사 의뢰하는 정도에 그친다”고 했다. 특히 조주빈으로 대표되는 텔레그램 n번방 성 착취물 제작 유포 사건을 언급하면서 “우리가 국제적인 흐름에 동참하지 않고 가해자 조주빈 하나만 징역 20년 선고하고 끝난 결과가 바로 초중고가 초토화되고 선생님들이 교단에 서지 못하는 오늘날의 현실”이라고 했다. 이 교수는 해외 사례를 소개하며 입법 보완이 필요하다고 주장했다. 유럽연합(EU)은 ‘디지털 서비스법’을 제정해 지난 2월부터 시행하고 있다. 디지털서비스를 제공하는 업체는 사회 안전에 위협되는 서비스를 제공해선 안 되고, 사용자의 안전을 도모해야 한다는 게 골자다. 이를 어길 시에는 최대 6%를 과징금으로 부과한다. 최근 텔레그램의 창업자인 파벨 두로프가 프랑스에서 체포된 것은 이러한 EU의 디지털 관련 법 제정이 크게 작용했다는 게 이 교수의 설명이다. 프랑스는 ‘정보조작대처법’을 제정해 해외에 기반을 둔 서비스가 허위 정보 유포로 프랑스의 기본 이익을 해치는 경우 시청각최고심의회(CSA)에 의해 서비스 정지 명령을 내릴 수 있고, 수사에 협조하지 않으면 형사 처벌할 수 있다. 이 교수는 “법률에 너무 많은 허들이 있다. 법률을 손질하지 않으면 결국 지금처럼 처벌은 하되 처벌이 아닌 시스템으로 계속 갈 수밖에 없다”며 “외국의 경우 아동 음란물에 대해서는 함정수사를 느슨하게 허용하는데, 우리나라도 광범위하게 함정수사를 허용할 필요가 있다”고 했다.

국내 연예계가 ‘딥페이크’(AI 기반 합성) 영상물 제작과 유통에 대한 강력 대응을 경고하고 나섰다. 가수 권은비와 뉴진스에 대한 딥페이크 음란물에 대한 경찰 수사가 진행 중이다. YG엔터테인먼트 관계자는 3일 “소속 아티스트의 인격과 명예에 심각한 위해를 미치는 모든 불법행위에 대해 지속적으로 엄정 대응할 것”이라고 밝혔다. YG 측은 현재 소속 아티스트들과 관련한 부적절한 딥페이크 제작물의 제작 및 유포 상황을 모니터링하고 있다고 강조했다. 불법 영상물의 삭제 및 차단 뿐 아니라 모든 법적 조치도 진행할 방침이다. 블랙핑크의 완전체 그룹 활동을 담당하는 YG에는 신예 그룹 베이비몬스터, 악뮤, 트레저 등이 소속돼 있다. 앞서 JYP엔터테인먼트도 걸그룹 트와이스 멤버들의 얼굴을 합성한 음란물 확산에 대한 강력 대응에 나섰다. 그룹 뉴진스와 가수 권은비 등도 관련 법적 조치를 진행 중이다. 어도어는 지난 6월 “아티스트의 국적 및 외모 등을 조롱하고 모욕하는 게시글, 성적 수치심이나 혐오감을 일으키는 게시물과 허위 사실을 유포하는 댓글을 작성한 자들을 고소장에 전부 포함했다”라고 밝힌 바 있다. 권은비도 지난 7월 초상을 합성한 음란성 사진 등을 유포한 이들을 고소했다. 전 세계 온라인에서 한국인이 딥페이크 음란물 피해를 보고 있는데 특히 한국 여성 가수들이 주된 표적이 되고 있다. 미국의 사이버보안 업체 ‘시큐리티 히어로’가 공개 ‘2023 딥페이크 현황’ 보고서에 따르면 100개 이상의 웹사이트에서 10만개가량의 콘텐츠를 분석한 결과 ‘딥페이크 성 착취물’에 가장 많이 노출된 10명 중 8명이 한국 가수인 것으로 나타났다. 경찰은 지난달 말 딥페이크 성범죄와 관련해 접수된 총 88건의 신고를 조사 중이다. 국내 연예인을 대상으로 한 딥페이크 범죄가 확산하면서 소속사들도 강력 대응에 나서고 있다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

최근 여성의 얼굴에 음란물을 합성·유포하는 ‘딥페이크 성범죄’가 확산하는 가운데 그룹 트와이스 측이 딥페이크를 악용한 불법 영상물 확산에 법적 대응을 예고했다. 소속사 JYP엔터테인먼트는 30일 팬 커뮤니티를 통해 “최근 당사 아티스트를 대상으로 한 딥페이크 영상물이 확산하고 있는 상황에 대해 매우 심각하게 받아들이고 있다”며 “이는 명백한 불법 행위”라고 했다. 이어 “현재 관련 자료를 모두 수집하고 있으며 전문 법무법인과 함께 선처 없는 강력한 법적 대응을 진행 중”이라며 “아티스트의 권익을 침해하는 모든 행위를 절대 좌시하지 않고 끝까지 단호하게 대처할 것”이라고 밝혔다. 딥페이크는 인공지능 기술을 활용한 이미지 합성 기술로 대중에 노출된 연예인은 오래 전부터 피해 대상이 돼 왔다. 이와 관련 전 세계에 유포된 딥페이크 성 착취물 피해자의 절반 이상이 한국 연예인이라는 조사 결과도 나왔다. 지난 28일(현지시간) 미국 일간 월스트리트저널(WSJ)에 따르면 미국의 사이버 보안 업체인 ‘시큐리티 히어로’는 최근 발표한 ‘2023 딥페이크 현황’ 보고서에서 한국이 딥페이크 성 착취물에 가장 취약한 국가로 나타났다고 밝혔다. 보고서는 지난해 7~8월 딥페이크 성 착취물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 9만 5820건을 분석했다. 그 결과 딥페이크 성 착취물에 등장하는 개인 중 53%가 한국인으로 나타났다. 한국인 딥페이크 피해자 대부분은 가수와 배우 등 연예인이었다. 보고서는 “한국은 딥페이크 성 착취물에서 가장 많이 표적이 되는 나라”라며 “딥페이크는 엔터테인먼트·정치·허위 조작 정보 등 다양한 목적으로 이용되지만 어떤 국가에서는 특정한 형태의 딥페이크 콘텐츠, 특히 노골적인 콘텐츠에 더 취약하다”고 지적했다. 보고서는 또 딥페이크 성 착취물의 최다 표적이 된 개인 10명을 꼽았는데 이 중 8명이 한국인 가수였다. 1∼7위와 9위가 한국 가수였고 8위는 태국 가수, 10위는 영국인 배우였다. 보고서는 사안의 민감성을 고려해 피해자의 이름은 밝히지 않았다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성 착취물 1595건에 등장했으며 총조회수는 561만회였다. 또 다른 한국 가수는 성 착취물 1238건의 표적이 됐고, 조회수는 386만 5000회에 달했다. 딥페이크 성 착취물 피해자 99%는 여성이었고, 94%는 연예계 종사자였다. 이번에 분석한 딥페이크 영상물의 98%는 음란물이었다. 시큐리티 히어로는 보고서에서 “딥페이크 성 착취물은 일정 그룹의 개인이 조작적이고 종종 악의적인 목적에 따른 표적이 된다는 것이 특징”이라며 “유명 인사인 경우가 많은 이들 개인은 딥페이크 창작자들의 시도를 정면에서 마주하게 된다”고 밝혔다.

여성 얼굴을 ‘아헤가오’(성적 흥분이 극에 달해 눈동자가 위로 올라간 채로 안면에 홍조를 띠고 있는 얼굴)로 편집한 영상물은 성착취물일까요. A씨는 2020년 9월부터 12월까지 친구의 전 여자친구 얼굴을 성관계하는 장면에 편집·합성하는 등 지인 11명의 합성물 52건을 제작했습니다. 이중 여성의 얼굴에 정액이 묻어있는 것처럼 편집·합성한 허위영상물 등 16건을 소셜네트워크서비스(SNS)에 올려 반포했습니다. 아동·청소년 여성의 나체 영상물 98건도 휴대전화에 내려받아 소지하고 있었습니다. A씨는 허위영상물 편집·반포, 아동·청소년 성착취물 소지 혐의로 재판에 넘겨졌습니다. 광주지법 재판부는 2021년 7월 1심에서 A씨의 혐의 대부분을 유죄로 인정해 징역 1년 6개월의 집행유예 4년을 선고했습니다. A씨는 재판에서 군 복무 중 우울증, 자살 시도 등으로 현역 복무 부적합 판정을 받고 사회에 복귀한 뒤에도 방에 틀어박혀 고립된 생활을 계속하다 심신 미약 상태에서 범행을 저질렀다고 주장했습니다. 재판부는 A씨의 심신 미약 상태를 인정하면서도 “A씨가 제대로 된 치료를 받으려는 노력을 전혀 하지 않고 오히려 게임과 음란물을 탐닉해 심신미약 상태를 자초했다”며 “피해자들은 크나큰 정신적 고통을 겪었다”며 심신미약을 이유로 형을 낮추지는 않았습니다. 다만 재판부는 A씨가 여성 4명의 얼굴을 눈동자가 위로 치켜 올라간 것처럼 편집해 성적 흥분에 빠진 것처럼 보이도록 하는 이른바 ‘아헤가오’ 허위 영상물을 제작·반포한 행위에 대해선 무죄로 판단했습니다. 재판부는 “A씨가 ‘아헤가오’를 표현하고자 영상물을 편집·합성한 것이더라도 성적인 맥락으로 받아들일 만한 다른 정보가 전혀 없다면, 해당 영상물을 본 건전한 사회통념을 가진 보통 일반인은 영상물의 등장 인물이 성적 흥분에 빠진 것이라고 받아들이기 쉽지 않을 것”이라고 설명했습니다. 또 “피해자 입장에선 ‘아헤가오’로 표현된 자신의 모습을 보고 당혹감이나 불쾌감을 느꼈을 것이 분명하다”면서도 “그것을 넘어 성적 수치심을 유발하는 것으로 보기는 어렵다”고 봤습니다. 검찰은 항소했지만, 광주고법 재판부도 2021년 11월 2심에서 A씨가 ‘아헤가오’ 허위 영상물을 제작·반포한 행위를 무죄로 보고 원심판결을 유지했습니다. 반면 ‘아헤가오’를 표현한 허위 영상물의 제작·반포 행위를 유죄로 판단한 판결도 있었습니다. B씨는 2021년 허위 영상물 제작자에게 의뢰해 여성의 눈동자가 위로 향해 성적 쾌감을 느끼는 얼굴로 편집한 ‘아헤가오’ 사진을 전송받고 이를 SNS을 통해 반포했습니다. 아울러 B씨는 2016년 자신이 여성과 성관계하는 모습을 동의 없이 촬영하고 5년 뒤 여성에게 성관계 동영상을 유포하겠다고 협박하며 나체 사진을 요구했습니다. 여성이 차라리 자살하겠다며 거부하자 B씨는 성관계 동영상을 해외 인터넷 사이트에 올렸습니다. B씨는 2021년 이 사건으로 수사를 받던 도중에도 5년 전 당시 여자친구 몰래 촬영한 성관계 동영상 등을 SNS을 통해 뿌리기도 했습니다. 성폭력처벌법 위반 혐의로 재판에 넘겨진 B씨에 대해 청주지법 재판부는 2022년 2월 B씨의 혐의를 모두 인정하고 징역 7년을 선고했습니다. B씨가 ‘아헤가오’ 허위 영상물을 제작·반포한 행위에 대해서도 “피해자의 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공했다”는 범죄 사실을 인정했습니다. B씨는 항소했지만, 대전고법 재판부는 2022년 5월 2심에서 B씨의 항소를 기각하고 원심판결을 유지했습니다.

텔레그램에서 딥페이크를 이용해 불법 합성 영상물을 유포하는 성범죄가 기승을 부리는 가운데, ‘지인 능욕방’을 운영한 20대 남성이 검찰에 넘겨졌다. 총 피해자는 250명에 육박했다. 서울경찰청 ‘딥페이크 등 허위영상물 집중 대응 TF’는 30일 텔레그램에서 ‘지인 능욕방’ 개설하고 운영한 20대 남성 A씨를 지난 22일 긴급체포해 이날 검찰에 구속 상태로 송치했다고 밝혔다. A씨는 지난 5월부터 7월까지 텔레그램에 ‘지인 능욕방’ 채널을 개설한 뒤 소셜미디어(SNS)에서 홍보하면서 참여자를 유입시켰다. A씨는 이렇게 대화방에 들어온 참여자들로부터 지인의 얼굴 사진과 이름·나이 등 개인정보를 제공받아 279개의 허위 영상물을 제작해 유포한 혐의를 받는다. 피해자는 246명에 달하는 것으로 조사됐다. 또한 경찰은 약 4년 동안 성인사이트를 운영하며 아동·청소년 성착취물 등 불법 성영상물 2만여개를 유포한 30대 남성 B씨도 이날 검찰에 구속 송치했다. B씨는 2020년 12월부터 지난 22일 검거될 때까지 도박사이트 등 배너 광고 대금을 얻을 목적으로 성인사이트 2곳을 운영하면서 허위영상물 5개, 아동·청소년 성착취물 6개, 불법촬영물 9개, 그 외 음란물 2만618개 등 총 2만 638개의 불법 성영상물을 유포한 혐의를 받는다. 수사기관의 추적과 방송통신심의위원회의 차단을 피하기 위해 B씨는 85개의 도메인을 구매해 수시로 변경해가며 사이트를 운영했다. 변동된 도메인을 기존 접속자들에게 알리기 위해 5개의 웹페이지도 별도 운영한 것으로 조사됐다. 경찰은 딥페이크뿐만 아니라 사람의 얼굴·신체를 어떠한 형태로든 성적 수치심이 유발되도록 편집·합성·가공하는 행위에 대해 엄정 대응한다는 방침이다. 경찰 관계자는 “텔레그램, 웹사이트 등 매체를 불문하고 시민사회단체, 관계기관, 해외 수사기관 등 협조할 수 있는 기관들과 적극적으로 협조해 사이버 성폭력 범죄 척결을 위해 최선을 다하겠다”고 말했다. 그러면서 “만일 유사한 피해를 입은 피해자는 자신의 잘못이 아니므로 즉시 수사기관에 신고해 도움을 받으실 것을 당부한다”고 밝혔다.

국민의힘과 정부가 타인의 얼굴을 합성한 음란물을 만들어 유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안도 검토하기로 했다. 당정은 29일 오전 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 진행하고 딥페이크를 포함한 허위 영상물 처벌을 현행법상 ‘최대 5년 이하의 징역 또는 5000만원 이하의 벌금형’에서 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진하기로 했다. 또 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위 영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 교육부는 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”고 했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 국민의힘 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 통과를 당부했다. 이외 국민의힘 10·16 재보궐선거 중앙당 공천관리위원회는 딥페이크 성범죄 등에 연루된 사람은 공천에서 배제하기로 했다. 이원석 검찰총장은 전국 일선 검찰청의 디지털 성범죄 전담 검사들과 화상회의를 열고 “성적 수치심 유발 정도가 중한 아동·청소년 대상의 허위 영상물이나 영리 목적의 허위 영상물 제작 사범은 원칙적으로 구속 수사하라”고 지시했다.

미성년자를 포함한 여성의 얼굴에 음란물을 합성해 유포하는 ‘딥페이크 성범죄’ 피해자의 절반이 한국 여성 연예인으로 조사됐다. 미국 월스트리트저널(WSJ)은 28일(현지시간) 사이버보안 업체인 ‘시큐리티 히어로’가 최근 발표한 ‘2023 딥페이크 현황’ 보고서를 인용해 한국이 딥페이크 성범죄에 가장 취약한 국가라고 보도했다. 이 보고서는 지난해 7∼8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 9만 5820건을 분석했다. 그 결과 딥페이크 음란물에 등장하는 개인 중 53%가 한국인 가수와 배우로 나타났다. 딥페이크 피해자 가운데 미국인 비율이 두번째로 많은 20%였으며, 이어 일본 10%, 영국 6%, 중국 3%, 인도 2%, 대만 2%, 이스라엘 1% 순이었다. 보안 업체의 보고서는 “한국은 딥페이크 음란물의 표적으로 가장 많이 이용되는 나라”라고 지적했다. 보고서는 또 딥페이크 음란물의 최다 표적이 된 개인 10명을 꼽았는데 이 중 8명이 한국인 가수였다. 1∼7위와 9위가 한국 가수였고 8위는 태국 가수, 10위는 영국인 배우였으나 피해자의 신원은 공개되지 않았다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성착취물 1595건에 등장했으며 총조회수는 561만회에 이르렀다. 또 다른 한국 가수는 성착취물 1238건의 표적이 됐고 조회수는 386만 5000회에 달했다. 평균적으로 딥페이크 음란물 피해자 99%는 여성이었고 94%는 연예계 종사자였다. 딥페이크 음란물을 만드는 가해자는 대부분 10대로 한국 교육부는 10살 정도인 가해자에 대해서도 최대한의 처벌을 검토하고 있다고 WSJ는 전했다. 특히 딥페이크 음란물의 유포는 러시아 출신 창업자 파벨 두로프가 만든 텔레그램을 통해 대부분 이뤄졌다. 프랑스 검찰은 자국 시민권을 취득한 두로프를 파리 근교 공항에서 체포하고, 아동 포르노 유포 방조 등의 혐의로 기소했다. 최대 20만명의 사용자를 한 개의 단체채팅방에 모을 수 있는 텔레그램은 올해 4월부터 1000명 이상을 모은 방 개설자에게 광고수익을 지급했다. 암호화폐 ‘톤코인’(TON)을 활용해 구독자 1000명 이상 채널(방) 개설자에게 광고수익을 지급했으며, 수익은 방 개설자와 텔레그램이 50%씩 나눠 갖는 것으로 알려졌다. 톤코인 역시 두로프가 초기 버전을 개발했으며 일부 암호화폐 거래소에서 통용된다. 현재 아랍에미리트 두바이에서 운영되는 텔레그램은 2013년 설립 직후부터 뛰어난 보안성 때문에 각종 범죄 정보의 온상이 되고 있다. 텔레그램 측은 수년간 아동 성착취물이나 범죄 정보 콘텐츠는 삭제했다고 밝혔지만, 정직원 숫자는 약 50명으로 알려져 역부족이었을 것으로 분석된다. 구소련 지역과 이란 등에서 많이 사용하며 31개 국가에서 일시적 또는 영구적 접속이 금지된 텔레그램은 내년에 사용자가 10억명에 이를 전망이다.

# 교사 A씨는 자신의 사진을 도용해 개설된 소셜미디어(SNS) 계정에 이상한 게시물들이 올라와 있는 것을 발견했다. 계정에는 음란물은 물론 A씨가 한 것처럼 교묘하게 합성된 성적인 발언들도 올라와 있었다. 계정에 A씨의 신상정보도 버젓이 올라와있던 탓에 A씨는 여기저기서 협박 메시지도 받았다. 경찰 수사를 통해 한 학생이 가해자로 지목됐지만, 징계나 처벌을 받기는 커녕 A씨에게 사과조차 하지 않은 채 도망치듯 전학갔다. # 교사 B씨는 한 학생이 수업 시간에 질문을 하는 척 하며 교탁 앞으로 와서 자신의 치마 밑을 휴대전화로 촬영하는 것을 발견하고 신고했다. 학생의 휴대전화에서는 A씨의 사진이 합성된 음란물을 비롯해 다른 학생들의 몸을 불법 촬영한 사진들이 쏟아져나왔다. 전국교직원노동조합이 ‘딥페이크 성범죄’ 관련 피해 실태를 조사한 결과 학생들 사이에서 또래 학생과 교사 등을 손쉽게 음란물에 합성해 SNS를 통해 유포하는 사례가 다수 드러났다. 허위 사진은 물론 개인정보까지 유출하고 협박을 일삼는 사례도 적지 않았다. “싸운 친구 딥페이크해달라”…개인정보도 유출전교조는 29일 정부서울청사 앞에서 기자회견을 열고 지난 27일과 28일 이틀간 ‘학교 불법합성물(딥페이크) 성범죄 실태조사’를 벌인 결과 총 2492건의 신고가 접수됐다고 밝혔다. 자신의 사진으로 만들어진 합성물을 직접 보거나 관련한 협박을 받는 등 직간접적인 피해를 겪은 학생 및 교사, 교직원은 총 517명으로 집계됐다. 전교조가 이날 공개한 딥페이크 피해 사례에 따르면 가해자들은 별다른 문제 의식 없이 학생과 교사들의 사진으로 음란물을 만들어 공유하고 있었다. 한 학생은 친한 언니의 게시물을 누군가 도용해 새로운 인스타그램 계정을 만들고, 이 계정에 신음 소리를 입힌 스토리를 올려놓은 것을 목격했다. 한 학생이 친구와 싸운 뒤 남학생에게 “친구의 인스타그램을 해킹해 딥페이크를 해달라”고 부탁한 뒤, 남학생이 만든 불법 합성물을 자신의 SNS에 올려 친구를 협박한 사례도 있었다. 교사들도 딥페이크 성범죄의 타겟이 됐다. 한 교사는 자신의 가족들의 사진까지 도용당해 음란물에 합성되는 피해를 겪었다. 가해 학생이 SNS에 사진을 올리고 버젓이 교사의 이름을 해시태그로 걸어 피해를 알게 됐으며, 게시물에는 차마 입에 담기조차 힘든 역겹고 불쾌한 표현들이 적혀 있었다. “친구끼리 화해해라”…62.3% “수사·처벌 제대로 안 돼”전교조는 피해자가 학교에 사실을 알려도 제대로 된 조치가 내려지지 않은 사례도 적지 않다고 지적했다. 학교 측에서 “친구끼리 사과하라”며 무마하는가 하면, 피해 교사가 교권보호위원회 소집을 요청해도 경찰이 ‘개인정보’라는 이유로 가해자의 정보를 제공하지 않아 아무런 보호 조치도 받지 못한 사례도 있었다. 전교조의 조사에서 “딥페이크 성범죄에 대해 적절한 수사와 합당한 사법 절차가 이뤄지고 있다고 생각하는가”라는 질문에 응답자의 62.3%이 ‘그렇지 않다’고 대답했다. 이어 피해자 지원 대책으로는 범정부 차원에서 유포 영상 삭제 지원(76.4%), 교육당국 차원에서 신고 및 상담지원체계 구축, 피해자에게 신속한 정보 전달(72.4) 등의 순으로 응답률이 높았다. 전교조는 “다수의 학교 구성원이 불법합성물 성범죄를 다루는 경찰 수사와 사법 절차에 심각한 불신을 갖고 있음을 알 수 있다”며 “피해자가 대응하는 과정에서 추가적인 피해와 2차 피해를 방지하기 위한 방안이 가장 시급하다”고 지적했다.

텔레그램과 상시 핫라인 방침수사·상담·영상 삭제 지원 논의제작자도 처벌 포함 법안 추진국민의힘과 정부가 얼굴에 음란물을 합성·유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 것도 검토하기로 했다. 당정은 29일 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 진행하고 딥페이크를 포함한 허위영상물 처벌을 현행법상 ‘최대 징역 5년 이하 징역 또는 5000만원 이하’에서 불법촬영물과 마찬가지로 최대 징역 7년으로 강화하는 것을 추진하기로 했다. 또 해외에 서버를 둔 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 딥페이크 관련 중고생 피해 사례가 급증하는 만큼, 교육부 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “촉법소년 연령 하향 문제도 같이 생각해봐야 한다”며 “(딥페이크 범죄 영상 제작을) 하는 분, 혹시 하고 싶어하는 분 중에 촉법소년 연령에 있는 분들도 많을 것이다. 그런 점에서 저희가 지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나, 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”며 “현재 국회에 딥페이크 성범죄 관련 10여개의 법안이 발의돼 있지만, 본회의에서 아직 의결되지 않아 사실상 입법 공백 상태”라고 지적했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크 기술의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 조속한 통과를 당부했다.