브라질 연방대법원이 법원 결정 사항을 이행하지 않았다는 이유로 소셜미디어(SNS) 엑스(X·옛 트위터) 서비스 차단을 결정했다. 브라질 언론 매체 G1과 폴랴지상파울루는 30일(현지시간) 알레샨드리 지모라이스 대법관이 브라질 방송·통신 관련 허가·규제·감독기관인 아나텔에 엑스 접속을 막기 위한 조치를 할 것을 명령했다고 보도했다. 대법관은 또 앱스토어에서 엑스를 삭제할 것과 가상 사설망(VPN)을 통한 개인과 기업의 우회 접속 적발시 하루 최대 5만 헤알(약 1192만원) 벌금 부과도 함께 지시했다. G1에 따르면 지모라이스 대법관은 “엑스는 반복적이고 의식적으로 브라질 사법 시스템을 무시했다”며 “브라질에서 무법천지 환경을 조성한 책임이 있다”고 밝혔다. 지난 4월 브라질 대법원은 자이르 보우소나루 전 대통령 정부 시절 가짜 뉴스와 증오 메시지를 유포한 혐의를 받는 이른바 ‘디지털 민병대’의 행위에 대해 위헌적 요소가 있다며 특정 계정을 차단하라고 엑스에 명령했다. 브라질 대법원은 또 엑스의 가짜 뉴스 차단 조처 명령 미준수 등을 문제 삼으며 미국 우주기업 스페이스X의 위성 인터넷망 스타링크 계좌 동결 조처를 최근 내렸다. 엑스와 스페이스X의 경영주는 모두 일론 머스크다. 브라질 대법원은 특히 오는 10월 브라질 지방선거를 앞두고 엑스를 통한 증오·인종 차별 메시지 유포·재생산이 지나치다고 판단하고 있다. 지모라이스 대법관은 “극단주의 조직과 디지털 민병대의 엑스 도구화 움직임이 확대되고 있다”며 “(엑스가) 기존 법원 명령을 준수하지 않으면서 사회적 피해는 걷잡을 수 없이 커지고 있다”고 비판했다고 현지 매체들은 전했다. 루이스 이나시우 룰라 다시우바 브라질 대통령은 이날 오전 현지 라디오 방송에 출연해 “브라질에서는 누구든 브라질 헌법과 법률의 적용을 받는다”며 “돈이 있다고 해서 그(머스크)가 원하는 대로 뭐든 할 수 있는 건 아니다”라고 말했다. 전날 엑스 측은 글로벌 대관 업무팀 공식 계정으로 “엑스는 언론 자유를 보호하기 위해 최선을 다할 것”이라며 브라질 대법원 결정에 따르지 않겠다는 의사를 밝혔다.

여성 얼굴을 ‘아헤가오’(성적 흥분이 극에 달해 눈동자가 위로 올라간 채로 안면에 홍조를 띠고 있는 얼굴)로 편집한 영상물은 성착취물일까요. A씨는 2020년 9월부터 12월까지 친구의 전 여자친구 얼굴을 성관계하는 장면에 편집·합성하는 등 지인 11명의 합성물 52건을 제작했습니다. 이중 여성의 얼굴에 정액이 묻어있는 것처럼 편집·합성한 허위영상물 등 16건을 소셜네트워크서비스(SNS)에 올려 반포했습니다. 아동·청소년 여성의 나체 영상물 98건도 휴대전화에 내려받아 소지하고 있었습니다. A씨는 허위영상물 편집·반포, 아동·청소년 성착취물 소지 혐의로 재판에 넘겨졌습니다. 광주지법 재판부는 2021년 7월 1심에서 A씨의 혐의 대부분을 유죄로 인정해 징역 1년 6개월의 집행유예 4년을 선고했습니다. A씨는 재판에서 군 복무 중 우울증, 자살 시도 등으로 현역 복무 부적합 판정을 받고 사회에 복귀한 뒤에도 방에 틀어박혀 고립된 생활을 계속하다 심신 미약 상태에서 범행을 저질렀다고 주장했습니다. 재판부는 A씨의 심신 미약 상태를 인정하면서도 “A씨가 제대로 된 치료를 받으려는 노력을 전혀 하지 않고 오히려 게임과 음란물을 탐닉해 심신미약 상태를 자초했다”며 “피해자들은 크나큰 정신적 고통을 겪었다”며 심신미약을 이유로 형을 낮추지는 않았습니다. 다만 재판부는 A씨가 여성 4명의 얼굴을 눈동자가 위로 치켜 올라간 것처럼 편집해 성적 흥분에 빠진 것처럼 보이도록 하는 이른바 ‘아헤가오’ 허위 영상물을 제작·반포한 행위에 대해선 무죄로 판단했습니다. 재판부는 “A씨가 ‘아헤가오’를 표현하고자 영상물을 편집·합성한 것이더라도 성적인 맥락으로 받아들일 만한 다른 정보가 전혀 없다면, 해당 영상물을 본 건전한 사회통념을 가진 보통 일반인은 영상물의 등장 인물이 성적 흥분에 빠진 것이라고 받아들이기 쉽지 않을 것”이라고 설명했습니다. 또 “피해자 입장에선 ‘아헤가오’로 표현된 자신의 모습을 보고 당혹감이나 불쾌감을 느꼈을 것이 분명하다”면서도 “그것을 넘어 성적 수치심을 유발하는 것으로 보기는 어렵다”고 봤습니다. 검찰은 항소했지만, 광주고법 재판부도 2021년 11월 2심에서 A씨가 ‘아헤가오’ 허위 영상물을 제작·반포한 행위를 무죄로 보고 원심판결을 유지했습니다. 반면 ‘아헤가오’를 표현한 허위 영상물의 제작·반포 행위를 유죄로 판단한 판결도 있었습니다. B씨는 2021년 허위 영상물 제작자에게 의뢰해 여성의 눈동자가 위로 향해 성적 쾌감을 느끼는 얼굴로 편집한 ‘아헤가오’ 사진을 전송받고 이를 SNS을 통해 반포했습니다. 아울러 B씨는 2016년 자신이 여성과 성관계하는 모습을 동의 없이 촬영하고 5년 뒤 여성에게 성관계 동영상을 유포하겠다고 협박하며 나체 사진을 요구했습니다. 여성이 차라리 자살하겠다며 거부하자 B씨는 성관계 동영상을 해외 인터넷 사이트에 올렸습니다. B씨는 2021년 이 사건으로 수사를 받던 도중에도 5년 전 당시 여자친구 몰래 촬영한 성관계 동영상 등을 SNS을 통해 뿌리기도 했습니다. 성폭력처벌법 위반 혐의로 재판에 넘겨진 B씨에 대해 청주지법 재판부는 2022년 2월 B씨의 혐의를 모두 인정하고 징역 7년을 선고했습니다. B씨가 ‘아헤가오’ 허위 영상물을 제작·반포한 행위에 대해서도 “피해자의 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공했다”는 범죄 사실을 인정했습니다. B씨는 항소했지만, 대전고법 재판부는 2022년 5월 2심에서 B씨의 항소를 기각하고 원심판결을 유지했습니다.

텔레그램에서 딥페이크를 이용해 불법 합성 영상물을 유포하는 성범죄가 기승을 부리는 가운데, ‘지인 능욕방’을 운영한 20대 남성이 검찰에 넘겨졌다. 총 피해자는 250명에 육박했다. 서울경찰청 ‘딥페이크 등 허위영상물 집중 대응 TF’는 30일 텔레그램에서 ‘지인 능욕방’ 개설하고 운영한 20대 남성 A씨를 지난 22일 긴급체포해 이날 검찰에 구속 상태로 송치했다고 밝혔다. A씨는 지난 5월부터 7월까지 텔레그램에 ‘지인 능욕방’ 채널을 개설한 뒤 소셜미디어(SNS)에서 홍보하면서 참여자를 유입시켰다. A씨는 이렇게 대화방에 들어온 참여자들로부터 지인의 얼굴 사진과 이름·나이 등 개인정보를 제공받아 279개의 허위 영상물을 제작해 유포한 혐의를 받는다. 피해자는 246명에 달하는 것으로 조사됐다. 또한 경찰은 약 4년 동안 성인사이트를 운영하며 아동·청소년 성착취물 등 불법 성영상물 2만여개를 유포한 30대 남성 B씨도 이날 검찰에 구속 송치했다. B씨는 2020년 12월부터 지난 22일 검거될 때까지 도박사이트 등 배너 광고 대금을 얻을 목적으로 성인사이트 2곳을 운영하면서 허위영상물 5개, 아동·청소년 성착취물 6개, 불법촬영물 9개, 그 외 음란물 2만618개 등 총 2만 638개의 불법 성영상물을 유포한 혐의를 받는다. 수사기관의 추적과 방송통신심의위원회의 차단을 피하기 위해 B씨는 85개의 도메인을 구매해 수시로 변경해가며 사이트를 운영했다. 변동된 도메인을 기존 접속자들에게 알리기 위해 5개의 웹페이지도 별도 운영한 것으로 조사됐다. 경찰은 딥페이크뿐만 아니라 사람의 얼굴·신체를 어떠한 형태로든 성적 수치심이 유발되도록 편집·합성·가공하는 행위에 대해 엄정 대응한다는 방침이다. 경찰 관계자는 “텔레그램, 웹사이트 등 매체를 불문하고 시민사회단체, 관계기관, 해외 수사기관 등 협조할 수 있는 기관들과 적극적으로 협조해 사이버 성폭력 범죄 척결을 위해 최선을 다하겠다”고 말했다. 그러면서 “만일 유사한 피해를 입은 피해자는 자신의 잘못이 아니므로 즉시 수사기관에 신고해 도움을 받으실 것을 당부한다”고 밝혔다.

‘딥페이크’ 기술을 이용해 불법 성착취물을 만드는 딥페이크 성범죄에 두려움을 호소하는 여성들을 향해 “호들갑 떤다”고 조롱한 유튜버가 유튜브로부터 수익 창출을 중단당했다. 30일 유튜브 등에 따르면 유튜브 측은 구독자 119만명을 보유한 ‘뻑가’ 채널의 수익 창출을 중단시켰다. 유튜브 측은 뉴시스에 “크리에이터의 플랫폼 안팎의 행동이 유튜브 커뮤니티에 해를 끼친다고 판단할 경우 취할 수 있는 조치를 설명한 크리에이터의 책임에 관한 가이드라인에 따라 ‘뻑가’ 채널의 유튜브 파트너 프로그램 참여를 정지시켰다”며 “이에 해당 채널은 유튜브에서 수익을 창출할 수 없다”고 밝혔다. 이어 “괴롭힘 및 사이버 폭력에 대한 유튜브의 정책과 사회적 또는 정치적 맥락에 따라 특정 개인을 신체적 상해의 위험에 노출하는 콘텐츠를 금지한다”는 유튜브의 커뮤니티 가이드에 따라 문제가 됐던 뻑가의 영상도 삭제 조치했다고 덧붙였다. 실제 유튜브 채널의 수익화 여부를 확인하는 웹사이트 ‘이즈디스마네타이즈(isthischannelmonetized)’에 따르면 뻑가의 채널은 유튜브를 통해 광고 게재 및 수익 창출을 할 수 있는 유튜브 파트너 프로그램에서 제외된 것으로 추정된다. 실제 뻑가의 채널에서는 멤버십 가입 및 슈퍼챗(후원금) 버튼이 모두 사라졌다. “가해자 22만명 선동…눈에 불 켜고 남성혐오”앞서 뻑가는 지난 26일 최근 딥페이크 성범죄를 우려하는 여성들을 조롱하는 영상을 올려 논란을 일으켰다. 뻑가는 “소셜미디어(SNS)에서 얼굴 사진을 다 내려라”는 한 여성의 게시물에 대해 “막 이렇게 호들갑 떠는 글이 퍼지고 있다”며 “이런 사람들은 지금부터 거르시길 바란다”고 비아냥댔다. 또 박지현 전 더불어민주당 비상대책위원장이 ‘재난 상황임을 선포해야 한다’고 촉구한 것에 대해서는 “또 신나게 나와서 22만명 이렇게 선동하고 있다. 아주 눈에 불을 켜고 남혐(남성혐오)하려고 한다. 무슨 국가 재난이냐. 미쳐가지고”라고 비난했다. 이 영상이 확산되자 댓글창에는 각국 네티즌들이 “한국 여성을 지지한다”, “가해자는 놔두고 피해자를 조롱하냐” 등 뻑가를 비판하는 댓글을 쏟아냈다. 일부 네티즌들은 뻑가의 채널을 신고하기도 했다. 텔레그램 ‘지인 능욕방’ 적발…피해자 256명한편 최근 각급 학교에서 학생과 교사를 불문하고 딥페이크 성범죄로 인한 피해가 속출하고 있다. 전국교직원노동조합이 긴급 설문조사를 벌여 2500건에 육박하는 피해를 접수하기도 했다. 이에 정부도 대응에 나섰다. 당정은 지난 29일 국회에서 긴급회의를 열고 허위 영상물을 제작·유포하는 행위에 대한 처벌의 상한을 징역 5년에서 7년으로 강화하는 입법을 추진하기로 했다. 교육부는 태스크포스(TF)를 구성해 각급 학교의 딥페이크 피해 현황 조사와 학생·교원 피해 사안 처리, 심리 지원 등을 지원하기로 했다. 여성가족부는 내년 디지털 성범죄 대응 총예산을 올해보다 약 3억원 늘어난 50억 7500만원으로 책정했다. 경찰도 딥페이크 성범죄 가해자들에 대한 수사와 검거에 나섰다. 서울경찰청 딥페이크 등 허위영상물 집중 대응 TF는 이날 딥페이크 기술을 이용해 허위 영상물 279개를 제작, 유포한 20대 남성 A씨를 검찰에 구속 송치했다. A씨는 올해 5월부터 7월까지 텔레그램에 ‘지인 능욕방’ 채널을 개설하고, 채팅방 참가자들로부터 지인의 얼굴 사진과 신상정보를 제공받아 허위 영상물을 제작해 유포한 혐의를 받는다. 피해자는 256명에 달하는 것으로 조사됐다. 경찰은 또 4년간 성인사이트를 운영하며 허위 영상물을 비롯한 아동·청소년 성착취물, 불법 촬영물 등 2만여개의 불법 영상물을 유포한 30대 남성 B씨도 검찰에 구속 송치했다.

딥페이크 성범죄가 잇따르며 경찰 수사가 본격화되자 수많은 가해자들이 자신이 제작·유포한 불법영상 지우기에 나섰다. 인터넷 기록을 지워주는 ‘디지털 장의사’ 업체에 관련 문의가 쏟아지는데, 대부분 10대 청소년이거나 이들의 부모인 것으로 전해졌다. 30일 현재 엑스(X·구 트위터)에는 ‘딥페이크 피해학교 목록’과 ‘딥페이크 피해학교 지도’ 등이 공유될 뿐만 아니라 가해자들의 인스타그램 주소도 퍼지고 있다. 이에 가해자로 추정되는 10대 남학생들의 부모는 관련 SNS의 게시물을 삭제하기 위해 디지털장의사 업체에 접근하고 있다. 이들은 온라인상에 유포된 딥페이크 불법합성물 삭제도 같이 의뢰한 것으로 알려졌다. 최근 4~5일 사이 하루 평균 문의량이 두 배 가까이 증가한 것으로 파악됐다. 한 디지털장의사 업체 관계자는 “현재 딥페이크 영상물 관련 문의 70%가 가해자 부모”라며 “최근 논란이 된 사건 등과 관련해 온라인에 공유되는 자녀 신상이나 범행 사실을 삭제해달라고 요청한다. (부모들이) 아들이 억울하게 고소당했다는 식이다”라고 설명했다. 가해 학생들이 증거를 인멸하려는 사이 피해 여학생들은 SNS를 비공개하거나 게시물을 내리는 등 두려움에 떨고 있다. 일부 학교는 피해 확산을 막기 위해 학생들에게 SNS 등에서 얼굴 사진을 내리라고 공지했다. 디지털 장의사 업체 사라짐 컴퍼니의 최태운 대표는 다수 언론을 통해 “‘아들이 나쁜 짓을 했는데 지워줄 수 있냐’며 영상물 삭제를 의뢰하는 학부모들이 대다수”라며 “텔레그램 내의 대화 내용을 삭제한다는 건 불가능하다고 말씀드린다”고 말했다. “피해자들은 오히려 선뜻 연락을 못하고 계시는 것 같다”고도 했다. 딥페이크 공포가 확산하자 수사당국과 교육당국은 실태 조사에 나섰다. 경찰청 국가수사본부는 내년 3월까지 7개월간 딥페이크 성범죄 관련 특별 집중단속을 실시한다. 교육부는 전날 전국 17개 시도교육청에 딥페이크 피해·가해 현황을 파악해 달라는 공문을 보냈다. 학생이나 보호자는 SNS, 단체 채팅방에서 딥페이크 의심 성범죄물이나 게시글을 발견하면 112(경찰)·117(학교폭력 신고)로 신고할 수 있다. 재학 중인 학교의 학교전담경찰관(SPO)나 여성긴급전화(1366), 디성센터(02-735-8994) 등에서 피해 상담도 가능하다.

충남교사노조가 충남에서도 딥페이크 성범죄 피해가 발생했다며 충남교육청에 강력한 예방 대책 마련을 촉구했다. 교사노조는 지난 26∼28일 조합원을 대상으로 딥페이크 범죄 관련 설문조사에서 올해 모 중학교 학생이 딥페이크 영상을 제작·유포해 피해 학생 수십명이 발생했었다는 답변이 나왔다고 29일 밝혔다. 가해 학생은 해당 학교에서 학교폭력 절차로 처리 결과, 단순 욕설 수준의 처분 결과에 준하는 서면 사과 등의 가벼운 조치 결과가 내려졌다고 교사 노조는 설명했다. 교사들은 학교 차원에서 학교폭력예방법 등의 절차로는 가해자에 대한 합당한 조치와 피해자 보호 및 지원이 불가능해 교사로서 무력감을 호소한다고 답변했다. 도내 모 고등학교에서는 다수 학생의 사회관계망서비스(SNS)가 해킹돼 비공개 사진과 대화 내용 등의 유출로 딥페이크 범죄를 우려하고 있다는 답변도 있었다. 최재영 충남교사노조 위원장은 “학교나 교육청 노력만으로 딥페이크 등 디지털 성범죄 예방에 한계가 있”며 “교육청, 경찰청, 도청이 통합 컨트롤타워를 마련해 딥페이크 범죄의 심각성에 대한 계도, 피해자를 배려한 별도의 신고 접수 시스템 등 전방위적 대책 마련이 시급하다”고 말했다.

# 교사 A씨는 자신의 사진을 도용해 개설된 소셜미디어(SNS) 계정에 이상한 게시물들이 올라와 있는 것을 발견했다. 계정에는 음란물은 물론 A씨가 한 것처럼 교묘하게 합성된 성적인 발언들도 올라와 있었다. 계정에 A씨의 신상정보도 버젓이 올라와있던 탓에 A씨는 여기저기서 협박 메시지도 받았다. 경찰 수사를 통해 한 학생이 가해자로 지목됐지만, 징계나 처벌을 받기는 커녕 A씨에게 사과조차 하지 않은 채 도망치듯 전학갔다. # 교사 B씨는 한 학생이 수업 시간에 질문을 하는 척 하며 교탁 앞으로 와서 자신의 치마 밑을 휴대전화로 촬영하는 것을 발견하고 신고했다. 학생의 휴대전화에서는 A씨의 사진이 합성된 음란물을 비롯해 다른 학생들의 몸을 불법 촬영한 사진들이 쏟아져나왔다. 전국교직원노동조합이 ‘딥페이크 성범죄’ 관련 피해 실태를 조사한 결과 학생들 사이에서 또래 학생과 교사 등을 손쉽게 음란물에 합성해 SNS를 통해 유포하는 사례가 다수 드러났다. 허위 사진은 물론 개인정보까지 유출하고 협박을 일삼는 사례도 적지 않았다. “싸운 친구 딥페이크해달라”…개인정보도 유출전교조는 29일 정부서울청사 앞에서 기자회견을 열고 지난 27일과 28일 이틀간 ‘학교 불법합성물(딥페이크) 성범죄 실태조사’를 벌인 결과 총 2492건의 신고가 접수됐다고 밝혔다. 자신의 사진으로 만들어진 합성물을 직접 보거나 관련한 협박을 받는 등 직간접적인 피해를 겪은 학생 및 교사, 교직원은 총 517명으로 집계됐다. 전교조가 이날 공개한 딥페이크 피해 사례에 따르면 가해자들은 별다른 문제 의식 없이 학생과 교사들의 사진으로 음란물을 만들어 공유하고 있었다. 한 학생은 친한 언니의 게시물을 누군가 도용해 새로운 인스타그램 계정을 만들고, 이 계정에 신음 소리를 입힌 스토리를 올려놓은 것을 목격했다. 한 학생이 친구와 싸운 뒤 남학생에게 “친구의 인스타그램을 해킹해 딥페이크를 해달라”고 부탁한 뒤, 남학생이 만든 불법 합성물을 자신의 SNS에 올려 친구를 협박한 사례도 있었다. 교사들도 딥페이크 성범죄의 타겟이 됐다. 한 교사는 자신의 가족들의 사진까지 도용당해 음란물에 합성되는 피해를 겪었다. 가해 학생이 SNS에 사진을 올리고 버젓이 교사의 이름을 해시태그로 걸어 피해를 알게 됐으며, 게시물에는 차마 입에 담기조차 힘든 역겹고 불쾌한 표현들이 적혀 있었다. “친구끼리 화해해라”…62.3% “수사·처벌 제대로 안 돼”전교조는 피해자가 학교에 사실을 알려도 제대로 된 조치가 내려지지 않은 사례도 적지 않다고 지적했다. 학교 측에서 “친구끼리 사과하라”며 무마하는가 하면, 피해 교사가 교권보호위원회 소집을 요청해도 경찰이 ‘개인정보’라는 이유로 가해자의 정보를 제공하지 않아 아무런 보호 조치도 받지 못한 사례도 있었다. 전교조의 조사에서 “딥페이크 성범죄에 대해 적절한 수사와 합당한 사법 절차가 이뤄지고 있다고 생각하는가”라는 질문에 응답자의 62.3%이 ‘그렇지 않다’고 대답했다. 이어 피해자 지원 대책으로는 범정부 차원에서 유포 영상 삭제 지원(76.4%), 교육당국 차원에서 신고 및 상담지원체계 구축, 피해자에게 신속한 정보 전달(72.4) 등의 순으로 응답률이 높았다. 전교조는 “다수의 학교 구성원이 불법합성물 성범죄를 다루는 경찰 수사와 사법 절차에 심각한 불신을 갖고 있음을 알 수 있다”며 “피해자가 대응하는 과정에서 추가적인 피해와 2차 피해를 방지하기 위한 방안이 가장 시급하다”고 지적했다.

“돈을 벌고 싶어서…” 전국적으로 딥페이크(Deepfake·딥러닝(Deep learning)과 가짜(Fake)의 결합어) 성범죄가 확산되는 가운데 여중생 성착취물을 제작해 판매하고, 피해자 가족을 협박해 돈까지 뜯어낸 10대가 법정에서 이렇게 답했다. 제주지법 형사2부(재판장 홍은표 부장판사)는 29일 아동·청소년의 성보호에 관한 법률 위반(성착취물 제작) 등으로 구속기소된 A(17)군에게 징역 장기 5년, 단기 3년을 선고했다. 또한 A군에게 성폭력 치료 프로그램 40시간 이수, 아동·청소년·장애인 관련 기관 취업제한 5년 등도 명했다. 재판부는 “15세에 불과한 피해자를 상대로 성착취물을 제작한 점, 피해자 모친을 협박해 돈을 갈취한 점 등 범행 수법과 죄질이 매우 불량하며, 피해자들로부터 용서받지도 못했다”며 “다만 잘못을 인정하고 반성하고 있으며, 17세 소년으로 미성숙한 상태에서 범행한 점 등을 참작했다”고 설명했다. A군은 지난 4월 오픈채팅방에서 알게 된 여중생을 상대로 여러 차례 신체 사진을 요구해 전송받고, 영상통화를 피해자 동의 없이 녹화하는 등의 방식으로 성착취물을 제작한 혐의 등으로 재판에 넘겨졌다. A군은 지난 5월쯤 랜덤채팅을 통해 4만 6000원을 받고 해당 성착취물을 판매하기도 한 것으로 파악됐다. A군은 피해자 어머니에게도 약 17시간에 걸쳐 SNS를 통해 “영상 삭제를 인증할 테니 220만원을 보내라. 그러지 않으면 성착취물을 유포하겠다”고 협박해 결국 10만원을 받아낸 것으로 알려졌다. 앞서 제주도교육청은 지난 27일 보도자료를 내고 ‘딥페이크’ 사진 성범죄물이 공유되고 있는 상황이 전국적으로 발생함에 따라 디지털 성범죄 예방을 위한 대응 방안을 각급 학교에 안내했다. 최근 SNS 상에서 전국 딥페이크 피해 지역과 학교명, 피해자 명단 등이 기재된 게시물이 떠돌아 다니고 있는 가운데 도내 일부 초중고 학교도 거론돼 관련 학부모들이 불안해 하고 있다.

프랑스 검찰이 파벨 두로프(40) 텔레그램 창업자를 28일(현지시간) 아동 포르노 유포 등의 혐의로 예비 기소하고, 출국 금지 명령을 내렸다. 한편 에마뉘엘 마크롱 프랑스 대통령이 6년 전 두로프에게 회사를 파리로 옮기라고 권유했다는 사실이 드러났다. 월스트리트저널(WSJ)은 이날 2018년 두로프가 마크롱 대통령과 점심을 먹었으며 당시 아랍에미리트 두바이에 있는 텔레그램을 파리로 옮기란 권유를 받았다고 보도했다. 프랑스 르몽드 역시 두로프가 2021년 프랑스 시민권을 획득하기 전에 마크롱 대통령을 여러 차례 만났다고 전했다. 두로프는 이 제의를 거절했으며, 대신 프랑스 시민권을 요청했다. 2021년 두로프는 프랑스와 아랍에미리트(UAE)의 시민권을 받았다. 당시 두로프는 불어를 사용하고 프랑스에 특별한 기여를 한 것으로 간주되는 이들을 위해 마련된 특별절차를 통해 시민권을 얻었다. 마크롱 대통령은 두로프 수사에 정치적 동기가 있다는 의혹에 대해 “정치적 결정이 전혀 아니다”라며 “온전히 판사들의 결정에 달린 사안”이라고 반박했다. WSJ는 마크롱과의 회동 1년 전 프랑스 정보기관 스파이들은 아랍에미리트와 함께 ‘퍼플 뮤직’이란 작전명으로 두로프의 아이폰을 해킹했다고도 밝혔다. 프랑스 당국은 이슬람 국가들이 보안이 확실한 메신저인 텔레그램을 이용해 잠재적 테러 요원들을 모집하고 공격을 계획한다고 우려했다는 것이다. 변호사와 대관 로비스트들을 고용하거나 거액의 정치 기부금을 내는 미국의 사업가와 달리 두로프는 수년간 사법 당국의 소환장과 법원 명령을 무시한 것으로 알려졌다. 프랑스 검찰은 두로프가 미성년자 성 착취물 유포, 마약 밀매와 같은 범죄 조직의 불법 거래를 허용한 텔레그램 내 불법 행위와 관련해 수사 당국과의 의사소통을 거부한 혐의 등으로 예비기소 처분을 받았다고 밝혔다. 두로프는 보석금 500만 유로(약 74억원)를 내는 조건으로 석방을 허가받았지만, 일주일에 두 번씩 경찰서에 출석해야 하고 출국도 금지됐다. 추가 조사를 통한 본기소까지는 수개월에서 수년이 걸릴 수 있으며, 공개된 혐의만으로는 10년형까지 가능하다. 두로프의 형이자 텔레그램을 공동 창업한 니콜라이 두로프(44)도 지난 3월 체포영장이 발부됐다. 텔레그램 창업자에 대한 예비기소는 소셜미디어(SNS) 최고경영자(CEO)가 해당 플랫폼에서 벌어지는 범죄 행위에 대해 형사적 책임을 요구받을 수 있다는 점에서 일론 머스크 엑스(X·옛 트위터) 소유주 등의 반발을 샀다. 러시아 당국 역시 두로프 체포에 대해 항의했는데 마리아 자하로바 외무부 대변인은 “프랑스가 지지하던 언론의 자유를 포함한 가치를 무시하고 파괴하고 있다”고 지적했다.

미국에서 올해 11월 5일 대선을 앞둔 가운데 유럽의 젊은 여성 인플루언서들의 사진을 내걸고 공화당 대선 후보 도널드 트럼프 전 대통령을 지지하는 가짜 엑스(X·옛 트위터) 계정이 활개를 치고 있다고 미국 CNN 방송이 28일(현지시간) 보도했다. 일례로 자신을 위스콘신 출신의 32세 여성이라고 소개한 루나는 지난 3월 엑스(@Luna_2K24)에 가입한 후 트럼프 전 대통령의 선거 구호인 ‘마가(MAGA·Make America Great Again·미국을 다시 위대하게)’를 홍보하며 3만명의 팔로워를 확보했다. 그는 트럼프 전 대통령이 추가적인 암살 시도에 직면해 있다는 등의 음모론을 지속적으로 펼쳤고, LGBTQ(성소수자)와 트랜스젠더, 백신에 반대하고 인종 차별과 외국인 혐오를 조장하는 글을 다수 올렸다. 그는 흰색 비키니를 입고 해변에서 찍은 셀카를 공유하면서 “트럼프가 영원히 대통령이 되는 것을 지지하겠느냐”는 글을 올렸는데 조회수는 5만4000명에 달했다. 하지만 루나는 실제 인물이 아닌 것으로 드러났다. 사진 속 갈색 머리 여성은 미국 투표권이 없는 독일의 패션 인플루언서 데비 네더로프였다. 네더로프는 엔지니어링 회사의 소셜미디어 관리자이자 모델인 독일인으로 트럼프와 무관한 것은 물론 미국 대선 투표권이 없다. 네더로프는 CNN에 “내 얼굴이 트럼프의 지지 선전에 사용되고 있다는 사실에 화가 난다”며 “나는 미국과 아무 상관이 없다. 독일의 작은 마을에서 사는 내가 미국 정치에 신경이나 쓰겠냐”고 반문했다. CNN이 정보회복센터(CIR)과 조사한 결과 루나는 물론 네덜란드, 덴마크, 러시아 출신 패션 및 뷰티 인플루언서 17명의 유럽 여성 사진이 무단으로 도용된 엑스 계정이 트럼프의 지지를 도모하는 선전 도구로 이용되고 있다. CIR은 인권 침해를 폭로하는 독립적이고 비영리적인 사회적 기업이다. CNN은 “이들 인플루언서 사진을 도용해 만든 가짜 계정은 56개 엑스 계정 중 일부에 불과하다”고 전했다. CNN은 “해당 계정과 관련해 엑스에 연락했지만 답변을 받지 못했다”며 “해당 기사를 게시하기 24시간 전 동안 엑스는 대부분의 계정을 삭제했다”고 지적했다. 이어 “일론 머스크가 엑스를 인수한 이후 엑스에서 허위 사실과 음모론 유포를 방지하던 팀은 해체됐다”며 “CNN이 인터뷰한 유럽의 인플루언서는 자신의 사진이 동의 없이 사용되거나 신원이 도용됐다고 신고해도 소셜미디어(SNS) 플랫폼 운영사는 조치를 하지 않아 어려움을 겪고 있다”고 전했다. 그러면서 “온라인에서 여성의 신체적 자율권에 대한 위협이 커지고 있음을 보여준다”고 일갈했다. 선거 앞 가짜 콘텐츠에 대한 우려는 인공지능 기술이 확산하면서 지속돼 왔다. 잘못된 정보를 유포하고 가짜 동영상과 이미지를 통해 상대 후보에게 피해를 주려는 행위는 미국뿐 아니라 전세계 선거에서 나타나는 현상이기도 하다. 에밀리 혼 전 백악관 국가안보회의(NSC) 대변인은 올해 미국 대선을 앞두고 SNS를 이용해 허위 정보 캠페인을 시도한 여러 국가의 조직들이 있었다면서, 가짜 계정의 배후와 관련해서도 “이것은 국가 행위자일 수 있다. 정교함의 수준을 보면 러시아, 이란, 중국을 포함한 적대국 행위자 중 하나일 수 있다”고 말했다. 트럼프 “스위프트 지지, 수락한다” 논란 자초 트럼프 전 대통령은 지난 18일 세계적 팝스타 테일러 스위프트와 팬덤 ‘스위프티스’(Swifties)의 지지를 받았다는 가짜 사진을 소셜미디어에 게시하고 “수락한다”고 적어 논란을 자초했다. 트럼프 전 대통령은 자신의 소셜미디어 ‘트루스 소셜’에 스위프트와 팬들이 자신을 지지한다고 적힌 티셔츠를 입은 가짜 이미지를 여러 장 올렸다. 미국을 상징하는 ‘엉클샘’의 복장을 한 스위프트와 ‘테일러는 당신이 도널드 트럼프에게 투표하기를 원한다’고 적힌 사진, ‘트럼프를 지지하는 스위프티스’라고 적힌 티셔츠를 입은 여성들이 모여있는 듯한 사진, 지난 7일 스위프트의 오스트리아 빈 콘서트가 이슬람국가(ISIS)의 테러 가능성으로 취소된 뒤 팬들이 트럼프 쪽으로 돌아섰다는 가짜 뉴스 화면이 갈무리 된 사진 등이었다. 그는 이어 “수락한다(I accept!)”라고 적었다. 스위프트는 아직 트럼프 전 대통령과 카멀라 해리스 부통령 중 지지하는 후보를 공개적으로 밝힌 적은 없으나, 2020년 앞선 대선 때 민주당을 지지하며 트럼프 전 대통령을 향해 “당신을 몰아낼 것”이라고 공개 저격한 바 있다. 트럼프 전 대통령의 이런 의도적 ‘가짜 사진’ 유포는 처음이 아니다. 그는 엑스에 인민복처럼 보이는 옷을 입은 군중들 앞에서 해리스 부통령 뒷모습처럼 보이는 여성이 연설하는 이미지를 올렸고, 지원군인 일론 머스크 테슬라 최고경영자(CEO)와 자신이 춤추는 영상을 공개했다. 둘 다 조작된 것들이었다. 영국 가디언은 “트럼프 전 대통령이 최근 며칠 동안 패러디와 노골적인 선거 허위 정보 사이의 경계를 넘나들며” 퍼뜨린 딥 페이크라고 우려를 표했다. 그러면서 “대선을 앞두고 불투명한 정보 생태계를 더 혼탁하게 만들 위험이 있다. 일상적으로 허위 사실과 음모론을 조장하고 있는 것”이라고 지적했다.

전국교직원노동조합이 ‘딥페이크 성범죄’ 관련 피해 실태를 조사한 결과 피해 신고가 2500건에 육박한 것으로 집계됐다. 중·고등학교는 물론 초등학교와 유치원, 특수학교에서도 피해 신고가 잇따른 것으로 나타났다. 전교조는 29일 정부서울청사 앞에서 기자회견을 열고 지난 27일과 28일 이틀간 ‘학교 불법합성물(딥페이크) 성범죄 실태조사’를 벌인 결과 총 2492건의 신고가 접수됐다고 밝혔다. 전교조에 따르면 자신의 사진으로 만들어진 성착취물을 확인한 직접 피해자는 29명으로 집계됐다. 이중 교사는 16명, 학생은 13명이었다. 또 딥페이크 성착취물 제작 관련 협박을 주변으로부터 전달받은 간접 피해자가 488명(교사 188명·학생 291명·교직원 9명)에 달하는 등, 직간접 피해자는 총 517명으로 조사됐다. 14명(교사 6명, 학생 8명)은 딥페이크 성착취물 관련 협박 범죄에 노출됐다고 전교조는 밝혔다. 학교별로는 중학교 5명, 고등학교 5명, 유치원 5명, 특수학교와 기타(교육청, 대학교, 청소년 등)에서 각 1명이 불법 합성물 관련 협박 피해를 겪고 있는 것으로 나타났다. 또 최근 소셜미디어(SNS)에서 ‘피해 학교 목록’이 확산되고 있는 가운데, 이들 학교 구성원들을 향해 허위 피해를 빌미로 사진과 신상, 금전 등을 요구하는 협박이 발생하고 있다고 전교조는 덧붙였다. 전교조는 “자체적인 피해자 지원과 더불어 범정부 차원의 피해자 회복 지원과 국가 주도의 강력 대응을 요구할 예정”이라며 “가해자에 대한 엄중 조치와 교육활동 보호, 지원을 위해 교육 당국과 지속해서 협의하며 대응하겠다”고 밝혔다. 딥페이크 성범죄에 대해 경찰이 특별 집중 단속을 벌이는 가운데, 일선 학교에서 교사와 학생 등의 사진으로 불법 합성물을 만들어 유포하다 덜미를 잡히는 사례가 잇따르고 있다. 앞서 28일에는 인천의 한 고등학생이 자신의 학교 교사 2명의 얼굴을 나체 사진에 합성해 SNS에 유포한 혐의로 경찰에 입건됐다. 충주에서도 또래 여학생 얼굴을 음란물에 합성해 공유한 고교생이 입건돼 경찰 조사를 받고 있다. 정부는 불법합성물 관련 형량을 높이는 방안을 추진하는 등 칼을 빼들었다. 국민의힘과 정부는 이날 현행 성폭력처벌법상 허위 영상물의 편집 또는 반포 행위에 대한 징역형의 상한을 5년 이하에서 7년으로 강화해야 한다는 데 뜻을 모았다. 한동훈 국민의힘 원내대표는 “딥페이크를 하는 사람들 중 촉법소년(형사처벌을 받지 않는 10세 이상 14세 미만) 연령인 사람도 많을 수밖에 없다”며 촉법소년 연령 하향 입법을 위한 여야 합의가 필요하다고 강조했다.

텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 온라인 성범죄 등 각종 범죄를 공모한 혐의 등으로 기소됐다. 그는 현재 아들 학대 의혹으로도 수사 대상에 올라와 있는 것으로 알려졌다. 28일(현지시간) 프랑스 검찰은 이날 성명을 통해 두로프가 미성년자 성 착취물을 조직적으로 유포하거나 마약을 밀매하는 범죄 등을 공모한 혐의, 범죄 조직의 불법 거래를 가능하게 하는 온라인 플랫폼의 관리를 공모한 혐의, 텔레그램 내 불법 행위와 관련한 프랑스 수사 당국과의 의사소통을 거부한 혐의 등으로 예비기소 처분을 받았다고 밝혔다. 프랑스법상 예비기소란 수사판사가 범죄 혐의가 있다고 믿을만한 타당한 이유가 있지만 추가 조사가 필요하다고 판단될 경우 내리는 준기소 행위에 해당한다. 예비기소된 피의자는 혐의를 더 구체적으로 특정하기 위한 수사판사의 조사 뒤 본기소 여부를 판단 받으며 본기소까지는 수개월에서 수년이 걸릴 수 있다. 두로프는 보석금 500만 유로(약 74억원)의 보석금을 내는 조건으로 석방을 허가받았다. 다만 일주일에 두 번씩 경찰서에 출석하도록 의무가 부과됐으며 프랑스 당국은 두로프에 대해 출국 금지 명령도 내린 것으로 전해졌다. 앞서 지난 2월 미성년자 성 착취물과 관련한 사건을 수사하던 프랑스 검찰은 텔레그램에 용의자의 신원을 알려달라고 요청했지만 응답이 없자 지난 3월 두로프에 체포영장을 발부했다. 이후 두로프는 지난 24일 파리 외곽 르부르제 공항에 전용기를 타고 내렸다가 프랑스 수사 당국에 체포돼 이날까지 조사받았다. 두로프에 대한 예비기소는 소셜미디어(SNS) CEO가 해당 플랫폼에서 벌어지는 범죄 행위에 대해 형사적 책임을 요구받을 수 있다는 점을 의미해 파장이 주목된다. 미국 일간 월스트리저널(WSJ)은 “이날 결정은 두로프가 온라인 플랫폼에서 유해한 콘텐츠를 제한하고 당국과 협력하도록 요구하는 프랑스 법을 위반했는지 여부를 더 깊이 조사할 만큼 충분한 증거가 있다고 판단한 것”이라고 설명했다. 지난 2013년 두로프 형제가 창업한 텔레그램은 철저한 암호화·익명화로 비밀성을 보장한다는 점을 앞세워 세계적인 SNS 플랫폼으로 빠르게 성장했다. 그러나 텔레그램은 검열이 만연한 일부 지역에서 뉴스 플랫폼의 역할을 했다는 긍정적인 평가를 받기도 했지만 마약 및 성 착취물 유포 등 범죄의 온상이 되고 있다는 지적도 받아왔다. 또한 두로프는 현재 아들 학대 의혹으로도 수사 대상에 올라와 있는 것으로 알려졌다. 두로프의 아내는 두로프가 지난 2017년 태어난 아들에게 폭력적인 행동을 했다며 고발했다.

여성 얼굴에 음란물을 합성한 영상을 제작·유포하는 ‘딥페이크 성범죄’ 피해가 속출하는 가운데 피해 학교 명단을 지도에 표시한 ‘딥페이크 피해 학교 지도’를 만든 이가 중학생인 것으로 알려졌다. 이 학생은 2시간 만에 혼자 해당 지도를 만들었다고 한다. ‘딥 페이크 맵’을 만든 중학교 3학년 A군은 28일 JTBC와의 인터뷰에서 “우리 학교에서도 피해 본 애들이 한 5명 정도 있다고 들었다. 실제로 내가 아는 학생이 피해를 보게 되니까 ‘이건 실제가 맞다’ 하고서 만들게 됐다”고 지도 제작 계기를 밝혔다. 사이트가 알려지면서 접속자 수가 급증했고 디도스(DDoS·분산서비스거부)로 추정되는 공격도 있었다고 한다. A군은 “횟수로 따지자면 (디도스 공격이) 50번 넘게 온 것 같은데 급격하게 갑자기 인지도가 높아져서 그런 것 같다”고 설명했다. 수백 통의 제보 메일과 소셜미디어(SNS)를 통해 피해 학교를 정리하고 있는데 실제 피해가 있었는지 사실관계를 확인하는 데는 한계가 있다고 했다. 그럼에도 주변 사람들에게 경각심을 주고 최대한 추가 피해를 막기 위해 지도를 제작했다고 밝혔다. A군은 “자신이 학교에 있는데도 SNS를 안 하면, 다른 애들이 게시글을 SNS에 올려도 자신이 (사건을) 인지할 수가 없지 않나”라며 우려했다. 딥 페이크 맵 측은 JTBC와의 인터뷰 이후 이날 공식 엑스(X·옛 트위터) 계정을 통해 “댓글 중 광고를 삽입하려 돈을 벌려는 목적이 아니냐는 말들이 많았다”며 “딥 페이크 맵은 모든 유지비를 다른 사업과 서비스, 지원 업체에서 마련해 제공 중이며 아무런 광고 없이 진행 중”이라고 해명했다. 한편 교육부가 17개 시도교육청을 통해 파악한 결과 올해 1월부터 이달 27일까지 학생·교원 딥페이크 피해 건수를 파악한 결과 총 196건으로 집계됐다. 학생 피해가 186건, 교원 피해가 10건이었다.

딥페이크 피해자 6인의 ‘지옥 같은 삶’… “내가 뭘 잘못했을까” 매일 생각했다 “이거 너 아니야?”라는 말을 들은 그날 이후 불법 합성 성범죄 피해자들의 일상은 무너진다. 성폭행당하는 모습과 내 얼굴이 합성된 영상, 생식기를 드러낸 내 가짜 사진들을 보며 다른 사람이 이걸 보고 어떤 생각을 떠올렸을지 모멸감과 수치심 속에 하루를 보낸다. 마치 내가 문란하고 범죄를 저지른 사람이 된 것처럼 고개를 숙이고 다니기도 한다. 누가, 왜, 어떻게 내 사진을 도용한 건지 두려움에 학교를 옮기고 직장을 쉬어도 고통은 가라앉지 않는다. 오랜 시간이 걸려 얼굴을 아는 가해자를 잡고 배신감을 느끼거나 아예 가해자를 찾지 못하기도 한다. 서울신문은 28일 피해자 6명의 이야기를 통해 딥페이크 성범죄의 심각성을 살펴봤다. “누군가의 알몸에 제 얼굴이 있었어요. 친구 1명과 선배 2명의 짓이었는데 걔들 부모가 사과는커녕 ‘돈 줄 테니 합의하자’고 할 땐 말문이 막혔어요. 8개월이 지난 지금도 그 사진이 어딘가에 돌아다닐까 싶어 소셜미디어(SNS)를 뒤지고, 혹시라도 (가해자와) 마주칠까 봐 주위를 살피는 버릇이 생겼습니다.” 중학교 3학년 A양은 지난 1월 자신의 얼굴이 합성된 알몸 사진이 텔레그램에서 떠도는 걸 알고 경찰에 신고했다. A양은 “피해를 당했다는 걸 알았을 때 과호흡이 와서 병원에 실려 가기도 했고 일주일 넘게 학교에 가지 못했다”며 “계속 ‘내가 뭘 잘못했을까’만 생각했다”고 말했다. A양 사건은 이달 초 검찰로 송치됐지만 아직 결론이 내려지지는 않았다. A양은 “처음에는 걔들이 보복하려고 다시 SNS에 제 영상을 올릴까 봐 두려웠다”며 “지금은 강한 처벌을 받았으면 좋겠다는 마음이 더 크다”고 말했다. 노윤호 학교폭력 전문 변호사는 “딥페이크 성범죄 가해 학생의 보호자들은 ‘실제 자기 몸 사진도 아니고 합성한 건데 이렇게까지 문제 삼을 일이냐’고 반응하기도 한다”고 전했다. 늘 두려운 피해자친구·제자가 가해자라 더 큰 충격유포됐을까 SNS 몇번씩 뒤져봐경찰 비협조적… 증거도 직접 찾아딥페이크 성범죄로 학교를 떠난 피해자도 있다. 가해 학생과 함께 학교를 다니느니 학업을 포기하는 게 나을 정도로 괴로워서다. 중학생 B양은 지난해 자신의 얼굴과 다른 사람의 생식기가 합성된 영상과 학교 이름이 버젓이 적힌 게시물을 보게 됐다. 당시 B양의 친구들은 ‘너의 잘못이 아니다’라며 위로했지만 이마저도 B양에겐 고통이었다. B양은 “위로마저 수치스럽고 비아냥처럼 들렸다”며 “반년 넘게 집 밖으로 나가지 못했고 지금도 밤에만 산책하는 정도”라고 말했다. 지난 3월 딥페이크 성범죄 피해를 당한 뒤 가해자를 찾지 못해 전학까지 간 고등학생 C양은 “사람들이 쳐다볼 때마다 제 사진에 대해 얘기하는 것 같다”며 괴로워했다. 피해자가 학생만 있는 건 아니다. 중학교 교사인 30대 D씨는 지난달 한 학생이 자신의 얼굴에 알몸 사진을 합성해 텔레그램에 올렸다는 사실을 알게 됐다. 가해 학생을 찾아 경찰에 신고까지 했지만 D씨는 현재 병가 중이다. D씨는 “제자들을 마주치는 게 수치스러워 도저히 일할 수 없었다”며 “한 달이 지난 지금에야 제대로 된 수사가 시작됐는데 사건이 해결되지 않은 채 학교로 돌아가게 될까 두렵다”고 토로했다. 포기한 일상 회복“반년 넘게 집 밖에 못 나갈 정도”괴로움에 전학 가거나 학업 중단6년간 피해 지원 11배 넘게 급증용기를 내 경찰서를 찾았지만 ‘잡기가 쉽지 않다’는 반응에 발걸음을 돌린 피해자도 있었다. 20대 프리랜서 E씨는 가해자에게 “시키는 대로 하지 않으면 지인들에게 사진을 보내겠다”는 협박까지 당했다. 경찰서를 찾은 E씨는 ‘외국 SNS는 잡기 어렵다’며 미적거리는 반응에 신고 접수를 포기했다. 피해자가 직접 텔레그램과 각종 SNS에 잠입해 ‘위장수사’를 벌이기도 한다. 교사인 F씨는 2021년 자신의 얼굴이 합성된 음란물이 텔레그램에서 유포된다는 제보를 받았다. F씨는 “경찰서 2곳을 방문했는데 모두 ‘수사가 쉽지 않다’는 반응이었다”며 “직접 증거를 모으기로 하고 텔레그램 대화방에 잠입했다”고 설명했다. F씨는 가해자 1명을 법정에 세웠고, 가해자는 징역 1년 2개월을 선고받았다. F씨는 “3년 전에도 텔레그램에는 ‘교사능욕방’, ‘지인능욕방’ 등 믿기지 않는 대화방이 수두룩했다”며 “그동안 방치되던 범죄들이 쌓이다가 이제야 심각성이 제대로 알려진 것”이라고 말했다. 여성가족부 산하 한국여성인권진흥원에 설치된 디지털성범죄피해자지원센터가 2018년 4월 이후 올해까지 딥페이크 피해 지원에 나선 건수는 2154건이다. 2018년 69건에서 올해(25일 기준) 781건으로 11배 넘게 급증했다. 익명으로 범죄를 저지르는 경우가 많아 피해 사실을 모를 때가 많다는 점을 고려하면 정확한 피해 규모를 추산하기도 어렵다.

최근 사망한 프랑스 유명 배우 알랭 들롱이 자신의 재산 일부를 나누겠다며 온라인 카지노 가입을 독려하는 영상이 확산되고 있는 가운데, 이는 AI(인공지능)를 이용한 피싱으로 드러났다. 28일(이하 현지시간) 온라인 사기를 추적하는 한 엑스(X·옛 트위터) 계정에 따르면 최근 페이스북에 들롱이 온라인 카지노 사이트를 홍보하는 동영상이 유포되고 있다. 영상 속엔 양복 차림의 들롱이 등장하고 목소리 역시 들롱인 것 같지만 이는 AI가 꾸며낸 가짜다. 이 영상에서 AI로 만들어진 들롱은 “여러분이 이 비디오를 보고 있을 때면 나는 이미 죽었을 것”이라며 “내 온라인 카지노에서 여러분이 따지 못하면 10만 유로(약 1억 4000만원)를 주겠다”고 제안한다. 이어 “내 돈의 일부를 모든 프랑스인에게 나눠주기로 결정했고 그게 옳은 일이라고 생각한다”며 “누구나 첫날부터 4천 유로(약 590만원)를 받을 수 있다”고 말한다. 들롱은 자기 딸이 이미 온라인 카지노 애플리케이션(앱)을 출시했다며, 계정에 돈을 충전하고 게임을 시작하라고 권유하기도 한다. 이 영상에 첨부된 링크를 클릭하면 구글플레이 스토어를 모방한 가짜 사이트로 연결되고 이어 ‘카지노 들롱’이라는 역시 가짜 애플리케이션이 등장한다. 일간 르피가로는 사용자가 이 애플리케이션을 다운로드하면 사용자의 개인 정보와 은행 정보 등이 유출돼 금전 피해를 볼 수 있다고 경고했다. “유명인 AI 사기 증가…SNS 플랫폼 방치”AI 사기 전문가인 빅토르 바이사트는 일간 르파리지앵에 “유명인 이미지를 사기에 활용하는 사례가 점점 더 많아지고 있다”고 우려했다. 지난 3월엔 프랑스 축구 스타 킬리안 음바페도 카지노 홍보 가짜 영상에 등장한 바 있다. 바이사트는 “사기꾼들은 이런 광고를 유포하기 위해 메타에 돈을 내고 있으며 계속해서 광고를 올린다는 건 이런 식의 사기가 효과가 있다는 방증”이라며 SNS 플랫폼이 사실상 이를 방치하고 있다고 지적했다. 한편 ‘가장 아름다운 남자’로 전 세계의 추앙을 받으며 프랑스 영화 황금기를 이끈 들롱은 지난 18일 자택에서 89세를 일기로 숨을 거뒀다. ‘태양은 가득히’(1960), ‘태양은 외로워’(1962), ‘파리는 불타고 있는가’(1966), ‘볼사리노’(1970), ‘조로’(1975) 등 50여년간 90여편의 영화에 출연하며 숱한 명작을 남겼다. 1990년대 이후로는 스크린에서 거의 볼 수 없었으며, 2019년 뇌졸중으로 쓰러져 수술받은 후에는 요양 생활을 해왔다.

여교사들의 얼굴을 나체사진에 합성한 뒤 사회관계망서비스(SNS)에서 유포한 고등학생에 대해 경찰이 수사에 착수했다. 인천 남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 고등학생인 10대 A군을 수사하고 있다고 28일 밝혔다. A군은 지난달 인공지능(AI)을 이용한 ‘딥페이크’ 기술로 인천 소재 한 고등학교에서 일하는 여교사 2명의 얼굴을 나체 사진에 합성한 뒤 SNS에서 유포한 혐의를 받고 있다. 경찰은 앞서 피해 여교사 2명의 진정서를 접수하고 수사를 벌여 성범죄물 제작·유포자로 A군을 특정했다. 경찰은 A군이 주로 텔레그램을 통해 성범죄물을 유포한 것으로 보고 디지털 포렌식을 통해 구체적인 범행 경위를 조사하고 있다. 경찰 관계자는 “추가 피해자가 있는지도 확인하고 있다”며 “포렌식 작업을 마치는 대로 A군을 불러 조사할 계획”이라고 말했다.

서울시와 방송통신심의위원회는 28일 최근 사회적 논란이 되고 있는 딥페이크(허위영상물)에 대응해 24시간 이내에 딥페이크 음란물 영상을 삭제하는 핫라인 시스템을 구축하기로 했다. 오세훈 서울시장과 류희림 방심위원장은 이날 서울시청에서 이를 위해 업무협약을 맺고 협력하기로 했다. 방심위와 핫라인을 구축하는 지자체는 서울시가 처음이다. 이번 협약에 따라 폐쇄형 소셜미디어(SNS)에 딥페이크 불법영상물이 유포돼 피해 신고가 들어올 경우 24시간 이내에 영상이 삭제·차단될 수 있게 조치한다. 기존에는 서울시 디지털성범죄 안심지원센터에서 방심위에 각종 증빙 자료를 제출해야 했지만, 핫라인 구축으로 시스템을 연계해 대량 건수를 일시에 삭제요청할 수 있게 된다. 그간 서울시는 디지털성범죄 안심지원센터를 통해 딥페이크 피해자 72명에게 772건의 서비스를 지원한 바 있다. 이와 함께 오픈채팅방에 ‘딥페이크 SOS 전담 상담창구’를 개설하고 피해지원관 2명을 배치해 신고 방법과 범죄 채증 방법을 안내한다. 또 수사·법률지원 등 피해자에게 필요한 지원을 위해 서울디지털성범죄 안심지원센터로도 연결한다. 서울시는 피해상황을 24시간 모니터링하고 자동으로 삭제신고를 하는 시스템을 연말까지 구축할 계획이다.

‘딥페이크’ 기술을 이용해 지인 등의 사진을 기반으로 한 음란물을 만들어 유포하는 성범죄가 대학가는 물론 전국의 중·고등학교까지 파고든 가운데, 한동훈 국민의힘 대표가 “딥페이크 성범죄에 학생들이 두려움에 떨고 있다”고 호소한 고3 학생의 손편지를 공개했다. 올해 들어 딥페이크 성범죄로 인한 피해 자 피해자 3명 중 1명이 미성년자라는 통계도 나왔다. 韓 “AI 부작용 법으로 막을 수 있어”28일 정치권에 따르면 한동훈 국민의힘 대표는 지난 27일 자신의 페이스북에 국민의힘 전남도당 청소년특별위원회에서 활동하고 있는 고등학교 3학년 학생의 손편지를 공개했다. “결코 가볍게 넘어갈 만한 사안이 아닌데도 불구하고, 정치권에서 이를 본격적으로 다루지 않고 있는 것 같다”고 운을 뗀 이 학생은 “몇 년 전 텔레그램 n번방 사건으로 온 나라가 떠들썩했는데도 최근에 또다시 텔레그램을 이용한 비슷한 일이 대규모로 발생하고 있다”고 말했다. 이어 “텔레그램 ‘겹지방’은 소셜미디어(SNS)에 올라온 사진들을 딥페이크 기술을 이용해 불법 합성물을 만들고 있다”면서 “각 지역의 중·고등학교 및 대학교 명의로 피해자들의 불법합성물을 카테고리화해 생년월일·학번·주소 등으로 개인정보를 명시하고 있으며, 텔레그램이라는 방어막으로 자신의 가족, 동료, 급우들의 사진으로 불법 합성물을 만들어 유포하고 있다”고 전했다. 이 학생은 “지금 학생들은 두려움에 떨고 있다”며 “정의라는 가치 아래 법과 제도를 통하여 보호받아야 할 대한민국의 미래들이 법의 테두리 밖에서 악의적으로 훼손당하고 있다”고 호소했다. 그러면서 “부디 존경하는 대표님을 비롯한 당 차원, 국가 차원의 관심을 가져주시고 대책 마련에 힘써달라”고 당부했다. 이에 대해 한 대표는 “AI를 악용하는 것도 사람이지만, 이를 예방하고 제한할 수 있는 것도 사람이다”라면서 “법과 제도 안에서 악용은 막을 수 있다”고 강조했다. 이어 “‘n번방 방지법’이 21대 국회에서 통과됐지만, AI의 부작용을 막기 위한 제도, 정책의 미비는 신속히 보완돼야 한다”면서 “디지털 성범죄 근절 대책을 마련하는데 국민의힘이 앞장서겠다”고 밝혔다. 10대 피해자 2년 새 4.5배 급증 한편 이날 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터(디성센터)로부터 딥페이크 피해 지원을 요청한 피해자 781명 중 36.9%(288명)이 10대 이하인 것으로 집계됐다. 딥페이크로 인한 피해 지원을 요청한 미성년자는 2022년 64명에서 2년 사이 4.5배로 급증했다. 같은 기간 전체 연령대의 피해 지원 요청자가 212명에서 781명으로 3.7배 증가한 것과 견줘보면 10대 연령층에서 증가세가 가파르다. 디성센터 관계자는 “저연령층이 SNS 등을 이용한 온라인 소통과 관계 형성에 익숙하다”고 원인을 짚었다. 딥페이크 성범죄에 대한 공포가 확산되면서 당국도 대대적인 대응에 나섰다. 경찰청은 이날부터 내년 3월말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 실시한다. 서울경찰청 사이버수사대는 22만명이 참여한 것으로 알려진 불법합성물 제작 텔레그램 채널과 관련해 입건 전 조사(내사)에 착수했다. 교육부는 17개 시·도교육청별로 딥페이크 성범죄물 피해 현황을 파악하고, 일선 학교에는 예방교육과 피해 신고를 하도록 요청했다. 방송통신심의위원회도 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다.

인공지능(AI) 기술을 이용해 개인의 얼굴을 음란물과 합성한 가짜 영상물(딥페이크)들이 기승을 부리고 있다. 텔레그램 대화방을 중심으로 유포되면서 최소 100개 이상의 국내 대학과 중고교 등에서 피해자가 속출하고 있다. 대화방에 유포된 허위 영상 속 피해자들은 중고생 미성년자는 물론 군인, 교사 등 나이와 직업을 가리지 않고 다양했다. 연예인 등 유명인들의 초상을 음란물로 합성하던 수준을 넘어 불특정 다수를 상대로 디지털 성범죄가 만연하니 이만저만 불안하지 않다. 어제 윤석열 대통령도 “딥페이크는 명백한 범죄”라며 척결을 주문하고 나섰다. 성적 허위 영상물의 급증 추세는 놀랍다. 방송통신심의원회에서 접속 차단과 이용 해지 등 시정 조치한 허위 영상물 건수는 2020년 473건에서 지난해 7187건으로 15배 불어났다. 올해만 해도 지난 7월 말 현재 지난해 대비 90%(6434건)나 치솟았다. 방통심의위는 긴급 대책회의를 열고 텔레그램 피해 신고 접수, 모니터링 강화, 수사 의뢰 등 가능한 조치를 모두 동원하기로 했다. 만시지탄인 측면이 크다. 텔레그램에 개설된 단체 채팅방을 통해 불법 음란물을 생성하고 거래·유포한 디지털 성범죄 ‘N번방’ 사건이 터진 게 이미 5년 전이다. 사이버 성범죄가 더 지능화할 환경이 뻔한데 선제적 예방에 소홀했던 것 아닌지 따져 보지 않을 수 없다. 사이버 성범죄는 일반 범죄와 달리 순식간에 불특정 다수에게 확산한다는 점에서 문제의 심각성은 더 크다. 게다가 지금은 생성형 AI로 딥페이크 사진과 영상을 너무나 손쉽게 만들 수 있는 시대다. 정부 단속을 피하려는 허위 영상물 제작자의 수법도 갈수록 고도화되고 있다. 불법 촬영물을 제작, 유포하는 사이트 운영자들은 문제적 동영상의 추출과 다운로드를 막기 위해 영상 소스를 숨기는 등 수사기관의 추적을 탐지 단계에서부터 철저히 방해한다. 사이버 성범죄의 방치는 사회적 재난을 부를 수 있다. 신속하고 강력한 대책이 전방위로 보강돼야 한다. 허위 영상물 유포에 대한 엄벌뿐만 아니라 수위 높은 허위 영상물 소지도 처벌하는 입법보완이 무엇보다 절실하다. 허위 영상물은 일반 불법영상물과 달리 소지, 구입, 저장, 시청 자체는 처벌하지 않고 유포, 배포만 처벌한다. 허위 영상물 단속에 플랫폼도 적극 동참해야 한다. 텔레그램뿐만 아니라 국내 포털에도 유해 콘텐츠는 적지 않다. 10대 청소년에 대한 교육 강화는 말할 것도 없다. 소셜미디어(SNS) 이용이 일상인 청소년들은 딥페이크 음란물에 대한 범죄 인식이 희박하다. 지난해 성적 허위 영상물 유포 가해자의 76%가 10대였다.

딥페이크 피해 400~500개교 추산SNS 등서 ‘피해학교지도’도 퍼져경찰, 내년 3월까지 집중 단속 실시단순 시청자는 처벌도 쉽지 않아“피해 땐 경찰·방심위 신고 최우선” 인공지능(AI)을 이용해 지인 등의 얼굴을 합성한 ‘딥페이크 영상물’을 텔레그램에서 유포하는 성범죄가 학교·단체·군 등으로 광범위하게 확산하자 정치권은 물론 여성·군인권단체 등 각계각층에서 엄중 처벌을 요구하고 나섰다. 교육부는 실태 파악을 시작했고 경찰도 뒤늦게 특별단속을 실시한다. 일부 경찰서에는 관련 피해가 접수돼 수사가 진행 중인 것으로 확인됐다. 다만 상당수 텔레그램방이 이미 폐쇄된 데다 ‘유포 목적’을 입증하지 못하면 법 적용이 어려워 수사부터 처벌까지 난항을 겪을 것으로 보인다. 27일 서울신문 취재를 종합하면 경기 안산상록경찰서에는 지난 주말부터 이날까지 3일간 딥페이크 영상물로 협박을 당했다는 10대 8명의 신고가 접수됐다. 가해자는 피해자들의 이름과 학교 등 신상을 거론하면서 소셜미디어(SNS)에 게시된 피해자들의 사진을 합성해 유포하겠다고 협박한 것으로 전해졌다. 경찰 관계자는 “현재 입건 전 조사(내사) 단계이지만 사안을 검토한 이후 적극적으로 수사하겠다”고 말했다. 이 외에 서울경찰청 사이버수사대도 참여 인원만 22만여명에 달하는 불법 합성물 제작 텔레그램 채널과 관련해 내사에 착수했다. 피해 사실을 나중에 알게 된 이들이 신고하면 앞으로 관련 수사는 급격하게 확대될 것으로 전망된다. 엑스(X·옛 트위터)에 올라온 게시글 등을 보면 텔레그램 딥페이크방에 언급된 학교 수는 400~500곳 정도로 추산된다. 엑스에서 피해 학교 명단을 취합해 알리고 있는 대학생 방서윤(19)씨는 “일주일 만에 2000개 넘는 피해 사실 제보가 들어왔다”며 “학교 차원의 조치나 수사를 통한 처벌이 이뤄져야 한다”고 전했다. 특히 불안감이 커지면서 SNS에는 관련 피해가 발생한 학교와 위치를 알 수 있는 ‘피해학교 지도’도 등장했다. 해당 지도를 볼 수 있는 링크는 SNS와 온라인 커뮤니티 등을 통해서 퍼지고 있다. 긴급 실태 조사를 진행 중인 전국교직원노동조합은 “현재 300곳 정도 조사한 결과 40곳에서 실제 피해가 확인됐다”고 말했다. 학교를 중심으로 확산하는 딥페이크 영상물 범죄는 같은 학교 학생이나 교사 등 주변 지인을 상대로 하는 경우가 많다. 특정 지역과 학교에서 공통 지인을 찾아 이른바 ‘겹지인방’에 모여 영상물을 공유하고 조롱하기도 한다. 경찰청에 따르면 올해 7월까지 딥페이크 영상물 관련 범죄로 검거된 피의자 178명 중 131명(73.6%)이 10대다. 교육부는 17개 시도교육청별로 딥페이크 성범죄물 피해 현황을 파악할 것과 일선 학교에는 예방 교육 및 피해 신고를 하도록 요청했다. 경남교육청에서는 24건의 신고가 접수됐다고 밝혔고 인천교육청은 피해 의심 학교가 22곳이라고 추산했다. 방송통신심의위원회도 이날 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다. 경찰청은 28일부터 내년 3월 말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 한다. 서울경찰청도 딥페이크 성범죄가 처벌 대상임을 경고하고 신고를 당부하는 내용의 ‘긴급 스쿨벨’을 발령했다. 아울러 경찰과 여성가족부 등은 “피해를 당했다면 일단 신고하는 게 먼저”라고 강조했다. 경찰청 사이버범죄 신고시스템(ecrm.police.go.kr)으로 본인이 직접 신고하거나 방송통신심의위원회 홈페이지의 ‘디지털 성범죄 신고’ 배너를 통해 누구나 신고할 수 있다. 이처럼 일상으로 파고든 딥페이크 영상물 범죄를 근절하기 위해선 처벌을 강화해야 한다는 목소리가 나온다. 아동청소년 대상 디지털 성범죄와 달리 성인을 대상으로 한 경우 수사기관의 함정 수사가 불가능한 점도 한계로 꼽힌다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “2020년 개정된 성폭력처벌법상 허위 영상물 등은 유포의 목적이 있어야 처벌이 가능하기에 ‘개인 소장’이거나 ‘단순 시청’이라 주장할 경우 처벌이 쉽지 않다는 맹점이 있다”고 지적했다. 허민숙 국회입법조사처 연구관은 “대화방 단순 참여자라 하더라도 참여하는 사람이 있기에 딥페이크 불법 콘텐츠가 더 확산하는 만큼 연대책임이 반드시 필요하다”고 강조했다.