‘딥페이크 성범죄’가 심각한 사회 문제로 대두되는 가운데, K팝 여자 아이돌 그룹 멤버들 사이에서도 피해자가 속출하자 대형 연예기획사들이 잇달아 칼을 빼들었다. 3일 그룹 (여자)아이들의 소속사인 큐브엔터테인먼트는 공식 엑스(X·옛 트위터) 계정에 “소속 아티스트를 대상으로 한 악의적인 딥페이크 제작물이 온라인상에 유포되고 있음을 확인했다”며 “해당 사안에 대해 지속적으로 모니터링하며 자료를 수집하고 있으며, 딥페이크 제작자 및 관련 유포자에게는 선처 없는 강력한 법적 조치를 취할 예정”이라고 밝혔다. 앞서 2일에는 그룹 블랙핑크의 소속사인 YG엔터테인먼트도 “광범위하고 악의적으로 이루어지고 있는 해당 불법행위를 계속 모니터링하고 불법 영상물을 삭제·차단하기 위해 노력하고 있으며, 형사절차를 포함하여 가능한 모든 법적 조치를 진행하고 있다”라며 엄정 대응을 예고했다. 블랙핑크의 경우 해외에 본사를 둔 카지노게임 운영사들이 한국 연예인들을 합성한 허위 홍보영상으로 광고를 내보내고 있는데, 멤버 리사를 합성한 허위 영상이 있는 것으로 확인됐다. 트와이스의 소속사인 JYP엔터테인먼트도 지난달 30일 트와이스 공식 팬 커뮤니티에 올린 공지를 통해 “선처 없는 강력한 법적 대응을 진행 중”이라고 밝혔다. K팝 여자 아이돌 가수들은 ‘딥페이크 성범죄’의 최대 피해자라 할 수 있다. 미국 사이버 보안업체 시큐리티 히어로가 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면, 지난해 딥페이크 성착취물 사이트 10곳의 영상 9만 5820건을 분석한 결과 전세계에 유포된 딥페이크 음란 합성물 피해자 중 53%가 한국인인 것으로 집계됐으며, 이들 대부분이 가수와 배우 등 연예인인 것으로 나타났다.

딥페이크 기술을 활용한 디지털 성범죄가 사회적 문제로 대두된 가운데, 디지털 성범죄에 보다 적극적으로 대응할 수 있도록 위장수사 허용 범위를 확대하는 법안이 추진된다. 국회 행정안전위원회 국민의힘 간사인 조은희 의원(서울 서초갑)은 딥페이크 성범죄 근절을 위한 이른바 ‘위장수사 허용2법(성폭력범죄의 처벌 등에 관한 특례법 및 아동·청소년의 성보호에 관한 법률 일부법률개정안)’을 3일 대표 발의했다고 밝혔다. 먼저 성폭력범죄처벌특례법 개정안은 성인 대상의 디지털 성범죄에 대해서도 ‘신분위장수사 및 신분비공개수사’ 근거를 포함하도록 했다. 텔레그램을 통해 확산하는 디지털 성범죄에 대해 보다 선제적이고 적극적인 수사가 가능하도록 한다는 취지다. 현행법상 아동·청소년 대상 디지털 성범죄에 한해서만 위장수사가 허용되고 있어 성인 대상 범죄는 추적 및 증거 수집에 어려움을 겪고 있는 입법 공백에 대한 보완책 마련에 나선 것이다. 또 아동청소년성보호법 개정안은 야간 공휴일 등 긴급한 경우에는 신분비공개 수사를 선제적으로 할 수 있도록 ‘사후승인제도’를 신설하는 내용을 담고 있다. 현행법상 텔레그램 등에서 신분비공개수사를 하기 위해서는 사전승인이 필요해 야간·공휴일 등에 사전승인을 받기 어려운 경우에는 성착취물을 유포하는 텔레그램방을 발견해도 수사에 착수하지 못하고 놓치는 사례를 방지하기 위한 조치다. 조 의원은 “딥페이크 성범죄가 청소년들 사이에서 놀이처럼 확산되는 범죄의 저연령화는 우리 사회의 위험신호를 알리는 빨간 경고등이나 다름없다”며 “강력한 수사체계로 이를 반드시 뿌리 뽑아야 한다”고 강조했다. 그는 “신분위장수사 및 긴급 비공개수사 확대로 디지털 성범죄에 보다 적극적·선제적 대응해 국민 불안 해소에 적극 나서야 한다”고 밝혔다. 이어 “법안이 통과되면 경찰 조직이 성인 및 아동·청소년 대상 디지털 성범죄에 대해 보다 신속하고 적극적인 수사를 할 수 있게 돼 딥페이크 성범죄와 같은 악성 범죄의 뿌리를 뽑는 데 큰 도움이 될 것”이라고 덧붙였다.

딥페이크 불법 합성물이 제작되고 유포되는 온상인 된 텔레그램이 방송통신심의위원회가 긴급 삭제 요청한 디지털 성범죄 영상물을 모두 삭제한 것으로 파악됐다. 방심위는 3일 “텔레그램 측이 지난 1일 긴급 삭제 요청한 디지털 성범죄 영상물 25건을 모두 삭제했다며 사과의 뜻과 함께 신뢰 관계 구축 의사를 전해왔다”고 밝혔다. 텔레그램은 이날 동아시아 지역 관계자의 공식 이메일 서한을 방심위에 보내 “최근 한국 당국이 자사 플랫폼에서 불법 콘텐츠를 다루는 데(with handling illicit content on our platform) 어려움을 겪고 있다는 언론보도를 알게 됐다”고 밝혔다. 텔레그램 측은 “현재와 같은 상황 전개를 매우 안타깝게 생각한다”면서 “방통심의위와 양측간 오해의 소지가 있었다면 사과한다”고 했다. 그러면서 텔레그램 측은 방심위에 자사와 소통할 전용 이메일을 새로 알렸다. 새로운 이메일 주소로 방심위는 텔레그램이 신고 대상 콘텐츠가 삭제됐는지 즉각 확인할 수 있을 것이라는 설명을 덧붙였다. 방심위 관계자는 “그동안 세계 각국으로부터 보다 적극적인 소통을 요구받아온 텔레그램 측의 이러한 입장 표명은 매우 전향적인 것”이라며 “우리나라에서 최근 발생한 사태에 대해 심각성을 인지하고 향후 협력 의지를 분명히 함으로써 현 사태 해결에 큰 물꼬가 트일 것으로 평가된다”고 말했다. 이어 “이번 기회에 서로 소통하게 된 전용 이메일을 시작으로 핫라인을 구축해 딥페이크 성 착취물 문제를 해결함은 물론 디지털 성범죄 영상의 궁극적 퇴출을 위한 공고한 협력관계를 다져나가기를 기대한다”고 덧붙였다. 텔레그램의 태도가 달라진 것은 창업자이자 최고경영자(CEO)인 파벨 두로프(39)가 지난 24일(현지시간) 프랑스에서 전격 체포된 것과 맞물려 최근 한국 등에서 불거진 딥페이크 범죄가 전 세계적인 이슈로 떠오른 상황과 무관치 않아 보인다. 두로프는 텔레그램이 범죄에 악용되는 것을 막기 위한 조치를 하지 않은 혐의를 받는 것으로 전해지고 있다.

독일 수사 기관이 자국의 좌파 여성 정치인을 “뚱뚱하다”고 언급한 것으로 알려진 미국 소셜미디어(SNS) ‘갭’(GAB)의 한 사용자에 대한 조사를 시도했다고 미 폭스 뉴스가 2일(현지시간) 보도했다. 보도에 따르면, 극우 사용자가 많은 갭 측은 독일 연방범죄수사국(BKA)으로부터 한 사용자의 정보를 제출하라는 요구를 받았다며 이 같이 밝혔다. 갭은 BKA가 공식 요청서에 “사용자 ○○○(사용자명)가 독일 정치인 리카르다 랑을 성적으로 비하하고 그녀의 체중을 폄하하는 게시물 2개를 올렸다”면서 이는 모욕에 관한 법률을 위반한 것이라고 주장했다고 전했다. 이 회사는 또 독일 수당 당국이 해당 사용자의 휴대전화와 이메일, IP 주소, 결제 수단, 과거·현재 사용자명, 성명, 생년월일, 우편 주소, 개인 신분증 서류 등을 요구했다고 언급했다. 이에 대해 앤드루 토르바 갭 최고경영자(CEO)는 회사가 독일 당국의 요청을 공식적으로 거부했다고 밝혔다. 갭은 BKA에 보낸 답변서에 “우리는 표현의 자유에 대한 우리의 약속을 확고히 고수하며, 사용자의 사생활이나 시민 자유를 침해하지 않을 것이다. 우리는 독일 정부를 포함해 표현의 자유를 억압하거나 미국 법률에 의해 보호되는 표현에 대한 사용자의 사생활 권리를 침해하려는 정부의 어떤 요청도 단호히 거부한다”면서 “이 경우, 우리는 독일 정치인에 대해 주장된 범죄와 관련한 어떤 사용자의 데이터도 제공하지 않을 것”이라고 썼다. 한편 독일은 SNS 게시물과 관련해 혐오 표현에 대해 세계에서 가장 엄격한 법을 2018년 1월부터 시행하고 있다. 이른바 ‘네트워크 집행법’(NetzDG)이라고 불리는 해당 법률은 혐오 발언의 경우 모욕 죄에 해당해 1년 이하의 징역 또는 벌금형에 처하도록 했다. 이 법은 이밖에도 차별 발언과 테러 선동, 허위 정보, 아동·청소년 성착취물, 위헌단체의 상징물 등 불법 게시물을 차단하는 데도 초점을 맞추고 있는 것으로 알려졌다.

정부의 검정을 통과한 일부 역사 교과서가 친일·독재 옹호 논란에 휩싸인 가운데 야당이 교과서 검정 과정을 철저히 조사하고 책임자를 문책하라고 촉구했다. 반면 교육부는 “역사관에 대한 다양성을 존중하는 것도 중요하다”며 검정 심사에 문제가 없다고 반박했다. 더불어민주당·조국혁신당 의원들은 3일 국회 소통관에서 기자회견을 열고 “우려했던 대로 ‘뉴라이트’ 한국사 교과서가 나왔다”며 검정 과정에 대한 조사를 요구했다. 이들은 “2022년 개정 교육과정이 담긴 한국학력평가원의 한국사 교과서는 이승만과 박정희의 공적을 부각한다”며 “다른 교과서는 장기독재로 표현한 이승만 집권기를, 뉴라이트 교과서는 장기집권으로 기술한다”고 말했다. 이어 “뉴라이트 교과서는 ‘1946년 단독정부 수립을 공표한 이승만이 만약 정읍 발언을 하지 않았다면 이후 어떻게 됐을까’라는 가정법을 이용해 남한 단독정부 수립의 정당성을 주장한다”며 “우파 세력의 역사적 관점을 학생들에게 주입하려는 시도”라고 덧붙였다. 일본군 ‘위안부’ 문제도 “이 교과서는 위안부 관련 서술은 다른 교과서의 절반 분량으로 줄였다”고 지적했다. 한국학력평가원의 ‘한국사2’ 교과서는 이승만 정부를 ‘장기 집권’으로 표현하고, ‘광복 후 우리 역사에 영향을 끼친 인물 7인’ 중 가장 앞에 언급하는 등 건국 대통령의 면모를 강조한 것으로 평가된다. 또 일본군 ‘위안부’ 문제에 대해 본문에서 성 착취에 대한 직접적인 표현 없이 ‘젊은 여성들을 끌고 가 끔찍한 삶을 살게 하였다’라고 표현하고, 주로 참고자료와 연습문제 형태로 제시했다. 이 교과서는 또한 ‘자치론자들은 일제에 맞서기보다 식민 통치를 인정하면서 한국인의 자치권과 참정권을 확보해야 한다고 주장하였다’며 이광수 등의 자치운동을 소개했다. 또 역사적 사건에 대한 학생의 관점을 묻는 ‘주제 탐구’ 코너에서 ‘일제에 협력한 친일 지식인들을 어떻게 보아야 할 것인가’ 등의 질문을 제시해 친일 미화 논란이 일었다. 전국교직원노동조합은 이에 대해 “자치론자들이 친일 행보를 걸었던 이유에 대해 학생들에게 되묻는 표현을 기술함으로써 친일 행적을 일부 정당화할 가능성을 열어두었다”고 비판하기도 했다. 교과서 검정 과정이 부실하다는 의혹도 불거졌다. 교과서 검정을 받으려면 최근 3년간 검정 신청 교과 관련 도서를 1권 이상 출판해야 하는데, 이 출판사는 지난해 7월 수능 기출 문제집 한 권만 출간한 것으로 알려졌다. 이에 대해 이주호 부총리 겸 교육부 장관은 해당 교과서가 2022 개정 교육과정과 편찬 준거에 따른 심사를 통과했다는 원론적 입장을 밝혔다. 이 부총리는 이날 국회 교육위원회에서 “개별 교과서에 대해 평가하기보다 역사교육의 다양성을 존중하는 검정제도의 취지를 고려해 검정에 합격한 다른 교과서와 함께 종합적이고 균형적으로 살펴볼 필요가 있다”고 말했다. 이어 “(문제 제기된 교과서는) 2022 개정 교육과정을 잘 따랐느냐, 헌법 이념과 가치·교육 중립성을 유지했느냐 하는 기준에 따라서 검정했고 그 심사를 통과한 교과서”라고 반박했다.

최근 ‘딥페이크’를 악용한 음란물이 범람하는 것과 관련, 범죄 심리전문가인 이수정 경기대학교 범죄심리학과 교수가 “‘n번방’ 가해자 몇 명을 엄벌하는 것으로 수사를 마무리한 게 실수였다”고 했다. 이 교수는 3일 국회의원회관에서 조은희 국민의힘 의원과 한국여성인권진흥원이 주최하고 여성가족부와 서울시가 후원하는 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에 발제자로 참석해 이같이 밝혔다. 이 교수는 “2019년 (텔레그램) n번방 사건 때도 딥페이크는 있었고, 이를 과연 피해로 봐야 하는지 문제가 제기됐지만 많은 분이 ‘창작의 자유’라는 단어를 쓰면서 아주 많은 비난을 했다”며 “그렇게 시간이 흘러 n번방의 2만명이 10배 늘어 22만명이 이 추세에 적극적으로 가담을 하고 있다”고 했다. 이 교수는 여가부 청소년보호위원장을 하면서 목격한 경험을 이야기하며 현행 제도의 문제점을 거론했다. 그는 “매달 저희가 300개에서 400개 정도의 채팅 애플리케이션을 지켜보기 때문에 정부는 어디서 아동들이 ‘그루밍’돼 성폭력 피해자가 되고 영상이 촬영되고 유포되는지 알고 있다”며 “문제는 여가부가 처벌기관이 아니기 때문에 모니터링 후 권고하거나 수사 의뢰하는 정도에 그친다”고 했다. 특히 조주빈으로 대표되는 텔레그램 n번방 성 착취물 제작 유포 사건을 언급하면서 “우리가 국제적인 흐름에 동참하지 않고 가해자 조주빈 하나만 징역 20년 선고하고 끝난 결과가 바로 초중고가 초토화되고 선생님들이 교단에 서지 못하는 오늘날의 현실”이라고 했다. 이 교수는 해외 사례를 소개하며 입법 보완이 필요하다고 주장했다. 유럽연합(EU)은 ‘디지털 서비스법’을 제정해 지난 2월부터 시행하고 있다. 디지털서비스를 제공하는 업체는 사회 안전에 위협되는 서비스를 제공해선 안 되고, 사용자의 안전을 도모해야 한다는 게 골자다. 이를 어길 시에는 최대 6%를 과징금으로 부과한다. 최근 텔레그램의 창업자인 파벨 두로프가 프랑스에서 체포된 것은 이러한 EU의 디지털 관련 법 제정이 크게 작용했다는 게 이 교수의 설명이다. 프랑스는 ‘정보조작대처법’을 제정해 해외에 기반을 둔 서비스가 허위 정보 유포로 프랑스의 기본 이익을 해치는 경우 시청각최고심의회(CSA)에 의해 서비스 정지 명령을 내릴 수 있고, 수사에 협조하지 않으면 형사 처벌할 수 있다. 이 교수는 “법률에 너무 많은 허들이 있다. 법률을 손질하지 않으면 결국 지금처럼 처벌은 하되 처벌이 아닌 시스템으로 계속 갈 수밖에 없다”며 “외국의 경우 아동 음란물에 대해서는 함정수사를 느슨하게 허용하는데, 우리나라도 광범위하게 함정수사를 허용할 필요가 있다”고 했다.

국내 연예계가 ‘딥페이크’(AI 기반 합성) 영상물 제작과 유통에 대한 강력 대응을 경고하고 나섰다. 가수 권은비와 뉴진스에 대한 딥페이크 음란물에 대한 경찰 수사가 진행 중이다. YG엔터테인먼트 관계자는 3일 “소속 아티스트의 인격과 명예에 심각한 위해를 미치는 모든 불법행위에 대해 지속적으로 엄정 대응할 것”이라고 밝혔다. YG 측은 현재 소속 아티스트들과 관련한 부적절한 딥페이크 제작물의 제작 및 유포 상황을 모니터링하고 있다고 강조했다. 불법 영상물의 삭제 및 차단 뿐 아니라 모든 법적 조치도 진행할 방침이다. 블랙핑크의 완전체 그룹 활동을 담당하는 YG에는 신예 그룹 베이비몬스터, 악뮤, 트레저 등이 소속돼 있다. 앞서 JYP엔터테인먼트도 걸그룹 트와이스 멤버들의 얼굴을 합성한 음란물 확산에 대한 강력 대응에 나섰다. 그룹 뉴진스와 가수 권은비 등도 관련 법적 조치를 진행 중이다. 어도어는 지난 6월 “아티스트의 국적 및 외모 등을 조롱하고 모욕하는 게시글, 성적 수치심이나 혐오감을 일으키는 게시물과 허위 사실을 유포하는 댓글을 작성한 자들을 고소장에 전부 포함했다”라고 밝힌 바 있다. 권은비도 지난 7월 초상을 합성한 음란성 사진 등을 유포한 이들을 고소했다. 전 세계 온라인에서 한국인이 딥페이크 음란물 피해를 보고 있는데 특히 한국 여성 가수들이 주된 표적이 되고 있다. 미국의 사이버보안 업체 ‘시큐리티 히어로’가 공개 ‘2023 딥페이크 현황’ 보고서에 따르면 100개 이상의 웹사이트에서 10만개가량의 콘텐츠를 분석한 결과 ‘딥페이크 성 착취물’에 가장 많이 노출된 10명 중 8명이 한국 가수인 것으로 나타났다. 경찰은 지난달 말 딥페이크 성범죄와 관련해 접수된 총 88건의 신고를 조사 중이다. 국내 연예인을 대상으로 한 딥페이크 범죄가 확산하면서 소속사들도 강력 대응에 나서고 있다.

또래 여학생의 허위 성착취물을 사회관계망서비스(SNS)에서 건네받아 피해자의 친구에게 보낸 남학생이 불구속 상태로 재판에 넘겨졌다. 인천지검 여성아동범죄조사부(부장 정희선)는 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·반포 등 혐의로 고교생 A군을 불구속 기소했다고 3일 밝혔다. A군은 지난해 12월 트위터를 통해 알게 된 한 남성으로 부터 B양의 얼굴 사진에 다른 여성의 나체 사진을 ‘딥페이크’ 기술로 합성해 만든 성 착취물을 SNS로 건네받아 피해자의 친구에게 보낸 혐의를 받고 있다. A군과 B양은 서로 모르는 사이며,성 착취물을 제공한 남성의 신원은 아직 확인되지 않았다. 앞서 경찰은 A군을 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 제공 혐의로 송치했으나, 검찰은 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·배포 등 혐의를 추가로 적용했다. 검찰은 “A군이 초범이고 소년범이지만 사안이 중대하다고 보고 기소했으며 앞으로 허위 영상물은 성 착취물로 보고 관련법을 적용하는 방안을 적극적으로 검토하겠다”고 말했다. 검찰에 따르면 허위영상물은 성폭력처벌법상 반포 등 목적이 없는 제작, 단순 소지 행위에 대해서는 처벌 규정이 없다. 그러나 아동·청소년을 대상으로 한 허위영상물은 ‘성착취물’에 해당돼 청소년성보호법위반죄로 처벌할 수 있다.

소셜미디어(SNS)를 통해 받은 여학생의 사진을 딥페이크 기술을 이용해 나체사진에 합성해 유포한 고교생이 재판에 넘겨졌다. 이 고교생은 피해 여학생의 허위 합성물을 만든 것으로 모자라 피해 여학생의 친구에게 합성물을 전송하기까지 한 것으로 확인됐다. 인천지검 여성아동범죄조사부(부장 정희선)는 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·반포 등 혐의로 고교생 A군을 불구속 기소했다고 3일 밝혔다. 검찰에 따르면 A군은 지난해 12월 SNS를 통해 알게 된 남성으로부터 피해자 B양의 사진과 개인정보를 건네받은 뒤 B양의 사진을 나체사진과 합성해 유포한 혐의를 받고 있다. A군은 허위 합성물을 B양의 친구에게 보냈다. A군은 B양과 모르는 사이이며, A군에게 B양의 사진과 개인정보를 보낸 남성의 신원은 확인되지 않았다. 앞서 경찰은 A군을 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 제공 혐의로 송치했으나, 검찰은 아동·청소년의 성보호에 관한 법률 성 착취물 소지·배포 등 혐의를 추가로 적용했다. 성폭력 처벌특례법은 허위 영상물을 배포할 의도 없이 제작하거나 소지하기만 할 경우 처벌할 규정이 없다. 그러나 아동·청소년성보호법은 아동·청소년을 대상으로 한 허위 영상물을 ‘성 착취물’로 보고 배포할 의도가 없더라도 제작 및 소지하는 행위를 처벌할 수 있다. 올해 들어 297건 발생·146명 검거딥페이크 성범죄가 기승을 부리고 이에 대한 문제의식이 높아지면서, 올해 들어 발생한 딥페이크 성범죄 건수와 검거 인원이 이미 지난해 1년간의 수준을 넘어선 것으로 나타났다. 황정아 더불어민주당 의원이 경찰청에서 받은 자료에 따르면 올해 1월부터 7월까지 발생한 허위 영상물 범죄는 총 297건으로, 총 146명이 검거됐다. 지난해 발생 건수와 검거 인원은 총 180건, 100명이었으나 7개월만에 지난해 1년간의 수치를 초과했다. 다만 지난 3년간 허위 영상물 범죄로 구속된 인원은 12명으로 전체 검거 인원(257명)의 4.7%에 그친 가운데, 올해 들어서는 구속률이 2.7%(4명 구속)로 낮아졌다. 조지호 경찰청장은 지난 2일 국회 예산결산특별위원회 종합정책질의에서 딥페이크 성범죄 수사 현황에 대해 “지난 한 주간 접수해 수사하는 것만 120건이 넘고 기존에 수사하는 사안까지 포함하면 수백건”이라고 밝혔다. 이어 “검거 인원 대부분인 약 75%가 10대이고, 20대까지 포함하면 약 95%”라며 “경찰청이 처음으로 개발한 딥페이크 탐지 소프트웨어를 최대한 활용해 단속할 계획”이라고 덧붙였다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

한덕수 국무총리는 2일 윤석열 정부 인사 중에 ‘뉴라이트’ 계열이 있다는 야당 지적에 대해 “미몽에서 깨어나라”고 반박했다. 한 총리는 이날 국회 예산결산특별위원회 전체회의에서 신영대 더불어민주당 의원이 윤 정부 전현직 인사들의 뉴라이트 논란을 지적하자 “그분들이 지금 직책을 맡아서 무엇을 하고 있는가 봐달라”라며 이같이 말했다. 한 총리는 “이념주의로 몰아치지 말고”라며 “우리 국민을 제발 색깔 칠하지 말아라”라고 밝혔다. 이어 윤 대통령의 국정기조 전환을 요구하는 말에 “국정 원칙을 자유민주주의와 지성에 기초를 두고 하겠다는 것으로, 국민을 자꾸 분열시키지 말아라”라고 말했다. 신 의원의 “뉴라이트를 아냐”는 질문에는 “그러면 뉴레프트도 있나”라며 “전혀 가치가 없는, 이념이라고 포장하는 분들의 문제에서 비롯됐다”고 말했다. 이어 “보수가 만들었나 누가 만들었나 모르겠다”며 “(뉴라이트란 조직이 있었다는 것에) 의미가 없다고 생각한다. 자유민주주의만 있을 뿐”이라고 밝혔다. 또한 한 총리는 친일 논란에 관한 질문에 대해서도 일일이 반박했다. 한 총리는 “독도는 분명히 우리 땅이고, 그건 배우자나 마찬가지로 매일 아침 확인할 필요가 없는 거다. 너무 당연한 것”이라고 말했다. 이어 ‘일본의 식민지배를 통해 우리나라가 경제성장을 했다는 데 동의하냐’는 질문에 “동의하지 않는다”고 말했다. ‘왜 일제는 착취를 안 했다고 공개적으로 밝히는 자가 이번에 새 역사교과서를 집필하냐’는 질문에는 “그런 문제를 단편적이고 일면적으로 보는 건 우리가 좀 자제해야 되는 것 아닌가 생각한다”고 밝혔다. 한 총리는 “사람은 여러 가지 차원의 성격 등을 가질 수 있다”며 “그렇게 해서 나온 책자가 주장하는 내용이 우리 2세들에게 충분히 정체성과 우리 능력을, 자부심을 가질 수 있게 해주는 건지 평가하는 게 더 중요하다”고 말했다. 이어 ‘위안부의 불법성과 강제성’에 대해 “인정한다”고 말했고 “8월 15일은 1919년 수립된 우리 국가가 정부를 수립한 것이고, 앞으로 자유민주주의에 의한 남북통일을 통해 완성될 것”이라고 밝혔다. 황 의원의 ‘일제 강점기 시절 우리 선조들의 국적은 어디냐’는 질문에도 “당연히 한국의 국적”이라고 말했다. 이어 ‘라인을 일본에 내줬다’는 말에 “일본에 넘겼나. 일본이 전혀 소유권 이전에 대해서 관여하지 않겠다는 입장을 분명히 했는데 왜 라인을 넘겼다고 국민에 얘기하나. 가짜뉴스 선동 아닌가”라며 “그런 식으로 의원들이 우리 행정 하는 걸 질책해서는 안 된다. 행정부 구성하는 공무원들이 실망한다”고 강조했다.

어린이집에서 근무하며 아동 수십 명을 상대로 성범죄를 저지른 혐의를 받는 호주의 보육교사가 법정에서 300건이 넘는 범죄를 저질렀다고 자백했다. 2일(현지시간) 영국 일간 가디언 등에 따르면 이날 호주 퀸즐랜드 주 지방법원에서 열린 전직 보육교사 애슐리 폴 그리피스(46)에 대한 재판에서 그리피스는 자신이 아동들을 상대로 저지른 총 307건의 성범죄 혐의를 인정했다. 이날 법정은 방청객들이 몰려들어 발 디딜 틈이 없었고, 검찰이 총 307건의 범죄 혐의에 대한 공소장을 낭독하는 동안 일부 방청객들은 눈물을 흘렸다고 가디언은 전했다. 그리피스는 2007년부터 2022년 사이에 퀸즐랜드 주 브리즈번과 시드니 등 여러 어린이집에서 일하면서 아동들을 대상으로 성범죄를 저지른 혐의로 2022년 8월 경찰에 체포돼 기소됐다. 그가 인정한 혐의 307건 중에는 12세 미만의 아동들에 대한 학대 190건과 강간 28건, 아동 성 착취물 제작 67건 등이 포함됐다. 그는 보육교사로서의 자격조건을 갖췄음에도 아동들을 상대로 성범죄를 저질렀으며, 자신의 범죄 행각을 스마트폰과 카메라에 고스란히 저장했다고 외신들은 전했다. 앞서 지난해 10월 퀸즐랜드 주에서 성범죄 혐의로 기소된 피고인의 신원을 공개할 수 있도록 한 형법 개정안이 발효됨에 따라 그의 신상도 공개됐다.

텔레그램에서 지인의 사진으로 딥페이크(허위 영상물)를 제작해 유포하는 이른바 ‘겹지방’(겹치는 지인방)에 대한 문제가 제기된 이후 경찰에 관련 신고 88건이 접수됐다. 경찰은 텔레그램 법인에 대한 입건 전 조사(내사)에 착수했다. 우종수 경찰청 국가수사본부장은 2일 기자간담회에서 딥페이크 관련 신고가 “지난달 26일부터 29일까지 한주 동안 88건 접수됐다”면서 “특정된 피의자는 24명으로 피해자는 51명”이라고 밝혔다. 앞서 지난 1월부터 7월까지 경찰에 접수된 딥페이크 관련 신고는 297건이었다. 주당 평균 9건이 접수되던 딥페이크 신고가 10배 가까이 폭증한 것이다. 이 중 상당수는 피해자들이 가해자를 찾아 경찰에 신고한 것으로 파악된다. 우 본부장은 “추측하건데 수사 의뢰하지 않고 사인간에 합의 등으로 넘어갔던 암수 범죄들이 ‘미투 운동’처럼 이게 범죄라는 걸 인식한 피의자들이 적극적으로 신고한 것으로 생각한다”고 밝혔다. 그러면서 “88건 중 24건이 (피의자가) 특정됐다는 건 누가 했다는 것까지 수사의뢰한 게 꽤 많다는 것”이라고 덧붙였다. 텔레그램은 공조가 잘 이뤄지지 않는 만큼 경찰 수사는 쉽지 않을 거라는 얘기다. 여군에 대한 딥페이크가 유포된 텔레그램 방은 언론에 알려진 당일 폐쇄된 것으로 알려졌다. 우 본부장은 “구체적인 수사 단서를 찾기 어려운 상황”이라면서도 “국방부와 협조해서 수사 단서를 조속히 확보할 수 있도록 노력을 다하겠다”고 밝혔다. 경찰은 텔레그램 법인에 불법 합성물 제작·유포를 방조한 혐의를 적용할 수 있을지를 검토 중이다. 텔레그램 법인 자체에 대해 경찰이 입건 전 조사에 착수한 건 이번이 처음이다. 서울경찰청 사이버수사대는 딥페이크를 생성하는 텔레그램 프로그램 봇 8개에 대해서도 입건 전 조사 중이다. 경찰은 디지털 성범죄 대응을 위해 위장수사 대상 범위를 성인 대상 범죄로 확대하는 방안이 필요하다는 입장이다. 미성년 성착취물을 위장 수사하기 위해 텔레그램 방에 잠입한 경찰이 성인 피해자를 발견했더라도 현재로선 위장 수사는 불가능하다. 우 본부장은 “디지철 성범죄 위장 수사 확대 필요성을 느끼고 있다”면서 “신분 비노출 위장 수사는 사전 승인도 필수적인데 휴일 등 긴박한 경우 사후 승인이 가능하도록 적극 추진하겠다”고 밝혔다.

경찰이 미성년자 성 착취물 관련 사건 용의자의 소재지를 확인하는 과정에서 당사자인 한 남성이 자신의 아파트에서 떨어져 숨지는 사고가 발생했다. 1일 경기북부경찰청 등에 따르면 지난달 31일 오후 11시쯤 30대 남성 A씨가 경기 파주시 와동동의 한 아파트 8층 베란다에서 떨어져 숨졌다. 사고는 파주경찰서 수사과 1개 팀 경찰관 4명이 미성년자 성 착취물 관련 사건을 수사하기 위해 용의자인 A씨의 주거지를 방문해 소재를 확인하던 과정에서 발생했다. 파주서는 경찰관들이 A씨 집 벨을 누르고 현관문을 두드렸으나 안에서는 아무런 반응이 없었다고 당시 상황을 전했다. 이에 경찰관 1명이 1층으로 내려가 불빛 등을 확인해 해당 호수 8층 베란다에서 A씨가 서성이는 것을 목격하고 A씨 주거지 현관문 앞에 있던 경찰관 3명에게 이를 알렸다. 이후 경찰관들은 “파주서에서 나왔다”며 현관문을 두들긴 것으로 파악됐다. A씨는 이웃집 베란다로 넘어가는 등 10여분간 베란다에서 머물다 아래로 떨어졌다. 119구급대가 출동했을 때 A씨는 이미 심정지 상태였고 병원으로 옮겨진 뒤 숨졌다. 경찰은 폐쇄회로(CC)TV 등을 통해 정확한 사고 경위를 파악할 예정이다. 경기북부경찰청 관계자는 “용의자는 성 착취물 관련 제작 및 유포 혐의로 신고돼 피해자 조사까지 이뤄졌으나 정확한 인적 사항이 확인되지 않은 상태였다”며 “현장에 있던 경찰관들이 용의자와의 물리적 충돌은 물론 대면 접촉조차 하지 못한 상황에서 사고가 났다”고 설명했다.

“저는 텔레그램 딥페이크(허위 영상물) 성범죄 피해자입니다. 당신 사진도 올라와 있는 것 같아서 이 메시지를 보냅니다.” 2021년 7월 어느 날, 초등교사 박승희(27·가명)씨는 모르는 여성에게 ‘딥페이크 성범죄’ 제보를 받았다. 승희씨는 여성이 알려준 텔레그램 ‘지인능욕방’에 들어갔다. 친구들과 소식을 나누기 위해 각종 소셜미디어(SNS)에 올렸던 사진과 합성된 성착취물이 자신의 이름, 연락처, 근무 중인 학교 등 신상 정보와 함께 단톡방에서 퍼지고 있었다. 그제야 승희씨는 몇 달간 남성들이 성기 사진을 마구잡이로 자신에게 보낸 이유를 알게 됐다. 승희씨는 1일 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 회상했다. 그때부터 승희씨는 ‘지인능욕방에서 활동하는 가해자’처럼 위장했다. 자신의 사진을 콕 집어 ‘얘 마음에 드는데 사진 더 없냐’, ‘지인이냐’고 물었다. 낄낄거리던 가해자 A씨가 자신 말고 또 다른 여성의 딥페이크 사진을 올리며 성희롱하는 걸 본 승희씨는 또 다른 피해 여성을 찾아냈다. 두 사람이 지인을 조합해 가며 ‘합동 수사’한 결과 공통적으로 아는 A씨를 특정할 수 있었다. 이렇게 승희씨가 딥페이크 성범죄 가해자를 찾은 데 걸린 시간은 단 5일이었다. 승희씨가 모은 증거에 덜미가 잡힌 A씨는 자백했다. 연신 “죄송하다”는 A씨를 보며 승희씨는 허탈함을 느꼈다. ‘SNS는 수사가 어렵다’며 미적지근한 태도를 보였던 경찰서도 있었다. A씨는 2022년 말 성폭력범죄처벌 등에 관한 특례법 위반과 모욕 혐의로 징역 1년 2개월에 아동·청소년 관련기관 등에 5년간의 취업제한 명령 등을 받았지만, 텔레그램을 탈퇴한 다른 주범은 잡지 못했다. 승희씨는 “성인 대상 디지털 성범죄 수사도 위장 수사가 절실하다”고 강조했다. 현행법상 아동·청소년 대상 디지털 성범죄 수사에만 경찰의 신분 위장 수사가 허용돼 있어서다. 승희씨는 딥페이크 피해자들에게 “가해자는 텔레그램 밖에선 아무런 행동도 못 하는 사람”이라면서 “수치심에 SNS를 닫기도 했지만 피해자가 숨지 않아도 된다는 걸 깨달았다. 꼭 잡을 수 있다”고 전했다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

텔레그램방 잠입 5일 만에 연대해 특정‘죄송하다’ 반복하는 가해자 보며 허탈도 “텔레그램 밖에선 아무 것도 못하는 이들”‘SNS 수사 어렵다’는 경찰서도“성인 피해도 위장 수사 절실”피해자에 “우린 숨을 필요 없어” “저는 텔레그램 딥페이크(허위 영상물) 성범죄 피해자입니다. 당신 사진도 올라와 있는 것 같아서 이 메시지를 보냅니다.” 2021년 7월 어느 날, 초등교사 박승희(27·가명)씨는 모르는 여성에게 ‘딥페이크 성범죄’ 제보를 받았다. 승희씨는 여성이 알려준 텔레그램 ‘지인능욕방’에 들어갔다. 친구들과 소식을 나누기 위해 각종 소셜미디어(SNS)에 올렸던 사진과 합성된 성착취물이 자신의 이름, 연락처, 근무 중인 학교 등 신상 정보와 함께 단톡방에서 퍼지고 있었다. 그제야 승희씨는 몇 달간 남성들이 성기 사진을 마구잡이로 자신에게 보낸 이유를 알게 됐다. 승희씨는 1일 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 회상했다. 그때부터 승희씨는 ‘지인능욕방에서 활동하는 가해자’처럼 위장했다. 자신의 사진을 콕 집어 ‘얘 마음에 드는데 사진 더 없냐’, ‘지인이냐’고 물었다. 낄낄거리던 가해자 A씨가 자신 말고 또 다른 여성의 딥페이크 사진을 올리며 성희롱하는 걸 본 승희씨는 또 다른 피해 여성을 찾아냈다. 두 사람이 지인을 조합해 가며 ‘합동 수사’한 결과 공통적으로 아는 A씨를 특정할 수 있었다. 이렇게 승희씨가 딥페이크 성범죄 가해자를 찾은 데 걸린 시간은 단 5일이었다. 승희씨가 모은 증거에 덜미가 잡힌 A씨는 자백했다. 연신 “죄송하다”는 A씨를 보며 승희씨는 허탈함을 느꼈다. “왜 피해자가 스트레스를 받으며 가해자를 잡아야 할까”라는 데서 느끼는 답답함도 컸다. ‘SNS는 수사가 어렵다’며 미적지근한 태도를 보였던 경찰서도 있었다. A씨는 2022년 말 성폭력범죄처벌 등에 관한 특례법 위반과 모욕 혐의로 징역 1년 2개월에 아동·청소년 관련기관 등에 5년간의 취업제한 명령 등을 받았지만, 텔레그램을 탈퇴한 다른 주범은 잡지 못했다. 승희씨는 “성인 대상 디지털 성범죄 수사도 위장 수사가 절실하다”고 강조했다. 현행법상 아동·청소년 대상 디지털 성범죄 수사에만 경찰의 신분 위장 수사가 허용돼 있어서다. 승희씨는 딥페이크 피해자들에게 “가해자는 텔레그램 밖에선 아무런 행동도 못 하는 사람”이라면서 “처음엔 나도 수치심에 SNS를 닫았지만, 피해자가 숨지 않아도 된다는 걸 깨달았다. 꼭 잡을 수 있다”고 전했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

경찰이 미성년자 성 착취물 관련 사건 용의자의 소재지를 확인하는 과정에서 30대 남성이 아파트 8층에서 떨어져 숨지는 사고가 발생했다. 1일 경기북부경찰청 등에 따르면 지난 31일 오후 11시쯤 경기 파주시 와동동의 한 아파트에서 30대 남성 A씨가 8층 베란다에서 떨어져 숨졌다. 사고는 파주경찰서 수사과 1개 팀 경찰관 4명이 미성년자 성 착취물 관련 사건을 수사하기 위해 용의자인 A씨의 주거지를 방문해 소재를 확인하는 과정에서 발생했다. 파주서 측은 경찰관들이 A씨 집 벨을 누르고 현관문을 두드려도 안에서는 아무런 반응이 없었다고 당시 상황을 설명했다. 이에 경찰관 1명이 1층으로 내려가 불빛 등을 확인한 결과 8층 베란다에서 A씨가 서성이는 것이 목격했고 이후 A씨 주거지 현관문 앞에 있던 경찰관 3명이 “파주서에서 나왔다”고 여러 차례 말한 것으로 전해졌다. A씨는 이웃집 베란다로 넘어가는 등 10여 분간 베란다에서 머물다 아래로 떨어졌다. 경찰의 신고를 받고 119 구급대가 출동했을 때 A씨는 이미 심정지 상태였으며 병원으로 옮겨진 뒤 숨졌다. 경찰은 A씨가 베란다에서 스스로 뛰어내렸을 가능성이 큰 것으로 보고 폐쇄회로(CC)TV 등을 통해 정확한 사고 경위를 파악할 예정이다. 경기북부경찰청 관계자는 “사고 당일 오후 1시쯤 미성년자 성 착취 피해 고소장을 접수 받고 2차 피해 등이 우려돼 신속한 수사를 위해 밤늦은 시간이었지만 가해자 추정 소재지를 찾았다”며 “A씨가 어떤 경위로 사망케 됐는지는 추가 조사를 통해 밝힐 예정”이라고 말했다.

경찰이 성 착취물 관련 사건 용의자의 소재를 확인하는 과정에서 30대 남성이 아파트 8층 베란다에서 떨어져 숨지는 사고가 발생했다. 1일 경기북부지방경찰청 등에 따르면 지난 31일 오후 11시쯤 경기 파주시 와동동의 한 아파트에서 30대 남성 A씨가 8층 베란다에서 떨어져 숨졌다. 경찰의 신고를 받고 119 구급대가 출동했을 때 A씨는 이미 심정지 상태였으며 병원으로 옮겨진 뒤 숨졌다. 사고는 파주경찰서 수사과 1개 팀 경찰관 4명이 성 착취물 관련 사건을 수사하기 위해 용의자인 A씨의 주거지를 방문해 소재를 확인하는 과정에서 발생했다. 당시 경찰관들이 A씨 집의 초인종을 누르고 현관문을 두드렸으나 집 안에서는 아무런 반응이 없었다고 파주서 측은 설명했다. 이에 경찰관 1명이 1층으로 내려가 A씨 집 불빛 등을 확인했을 때 8층 베란다에서 A씨가 서성이는 것이 목격됐다. 이에 경찰은 곧바로 119에 신고했다. A씨는 이웃집 베란다로 넘어가는 등 10여분간 베란다에서 머물다 119가 도착하기 전 아래로 떨어졌다. 경찰은 A씨가 베란다에서 스스로 뛰어내렸을 가능성이 큰 것으로 보고 정확한 경위를 조사하고 있다. 이날 경찰관들은 성 착취물 사건 관련 추가 피해 우려 등 사안의 심각성을 인지하고 신속히 수사에 착수하고자 A씨 집을 찾았던 것으로 조사됐다. 경기북부경찰청 관계자는 “용의자는 성 착취물 관련 제작 및 유포 혐의로 신고가 돼 피해자 조사까지 이뤄졌으나 정확한 인적 사항이 확인되지 않은 상태였다”며 “이에 파주서 직원들이 가해자로 추정되는 A씨의 집을 방문해 소재를 확인하려 했던 것”이라고 말했다. 이어 “현장에 있던 직원들은 용의자와 물리적 충돌은 물론 대면접촉조차 하지 못한 상황에서 사고가 났다”고 덧붙였다.