4·10 총선의 사이버상 공직선거법 위반 건수가 12년 만에 약 41배 증가한 것으로 드러났다. 또 총선 국면에서 적발된 ‘딥페이크’(허위 영상물) 선거운동 게시물 중 25%는 중앙선거관리위원회(선관위)의 명령에도 삭제되지 않았다. 5일 한병도 더불어민주당 의원실이 선관위에서 제출받은 자료에 따르면 4·10 총선의 사이버상 공직선거법 위반 사례는 7만 4172건으로 12년 전 19대 총선(1793건)과 비교해 41.4배로 늘었다. 20대 총선은 1만 7430건, 21대 총선은 5만 3904건 등으로 급격한 증가세다. 선관위의 불법 허위 게시물 삭제 요청도 19대 총선 때 1726건에서 올해 총선에서 7만 4025건으로 42.9배로 늘었다. 선관위는 실존하지 않은 인물의 딥페이크 이미지로 특정 정당과 입후보예정자의 선거운동 메시지를 전파하거나, 주요 정치인의 딥페이크 영상으로 특정 후보에 대한 가짜 험담을 한 사례 등이 있었다고 전했다. 특히 이번 총선에서 새롭게 적발된 ‘딥페이크 불법 선거운동 게시물’ 388건 중 97건(25%)은 선관위의 요청에도 삭제되지 않았다. 전문가 “해외 플랫폼에는 국내법 적용 한계” 국회는 딥페이크를 활용한 가짜 선거운동 우려에 선거일 90일 전부터 선거 당일까지 선거운동을 목적으로 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없게 하는 공직선거법 개정안을 지난해 12월 통과시켰다. 하지만 대부분이 해외 소셜미디어(SNS) 플랫폼에 오른 게시물이어서 국내법의 효력이 미치지 않는다. 이성엽 고려대 기술경영전문대학원 교수는 “(선관위의 불법 게시물 삭제 요청에 대해) 텔레그램과 같은 외국 기업은 컨택포인트(연락 지점)는 물론, 제대로 집행이 되는지, 어떻게 이행되는 건지에 대해 지속적인 모니터링이 힘든 부분이 있다”고 말했다. 또 한 의원은 “선거운동 방식이 급변하는데 선관위가 적절히 대응하고 있는지 의문”이라며 “딥페이크 등 신기술이 불법 선거운동에 악용되는 데 대해 선관위는 대책 마련에 적극 나서야 한다”고 말했다.

텔레그램 대화방 사태에도 성업일부에선 불법 음란물 유통까지폐쇄성·해외 서버로 수사 난항도“시민사회와 협조 체계 구축해야” 검색창에 ‘OO사이트 OO능욕 게시판’을 입력하면 한 온라인 커뮤니티의 게시판에 접속할 수 있다. 5000명이 넘는 구독자를 보유한 이 게시판에는 아무런 게시물도 올라와 있지 않았다. 하지만 게시판 운영진 등에게 비밀번호 성격의 코드를 받아 로그인하면 전혀 다른 화면이 펼쳐진다. 아동을 모델로 한 리얼돌 사용 후기와 구매 링크, 성매매 후기, 불법 촬영물 등이 수두룩하다. 아는 사람만 찾아온다는 이 게시판은 딥페이크(허위 영상물)로 성범죄에 대한 경각심이 높아지는 와중에도 어떤 제재도 받지 않고 성업 중이었다. 텔레그램 같은 소셜미디어(SNS)뿐 아니라 친목 도모나 취미 공유를 위해 만들어진 일부 온라인 커뮤니티가 ‘성범죄 놀이터’로 이용되고 있는 것으로 나타났다. 5일 서울신문이 불법 음란물 등이 유통되는 커뮤니티를 둘러본 결과, 일부 커뮤니티는 가상사설망(VPN)을 통해 우회 접속해야 게시글을 볼 수 있을 정도로 폐쇄성이 짙었다. 소아성애·근친 등 선정적·불법적인 주제를 다룰수록 더 까다로운 절차를 거쳐야 했다. 하지만 성인 인증 등을 요구하는 커뮤니티는 없어 10대 청소년들도 불법 음란물에 무분별하게 노출되고 있다. 음란물 불법 유통, 성매매 알선·광고, 성인용품 판매 등으로 수익을 창출하려는 불법 사이트와 달리 온라인 커뮤니티는 관심사 공유를 목적으로 한다. 리얼돌, 소아성애, 근친, 성매매 정보공유 등이 주된 내용이다. 커뮤니티 회원들끼리 불법 촬영물이나 성매매 후기 등을 공유하고, 영상물 링크 등 각종 정보를 교환하는 식이다. 커뮤니티 이용자들은 관심사를 말한 것일 뿐 성범죄가 아니라는 주장이다. 아동 리얼돌 후기를 남긴 한 커뮤니티 이용자는 “누군가의 취향일 뿐이지 불법 음란물이 아니다”며 “이게 왜 범죄가 되냐”고 했다. 또 다른 이용자는 “직접 찍은 게 아니라 인터넷에 떠도는 야한 사진을 공유한 것일 뿐이다. 이 정도는 처벌 대상이 아니지 않냐”고 되묻기도 했다. 아예 음지로 숨은 커뮤니티도 적잖다. 한 커뮤니티의 ‘성매매 게시판’은 국내 IP로는 접속이 불가능했다. 커뮤니티 이용자들끼리 공유하는 IP 설정값을 입력한 뒤 정해진 VPN으로 우회 접속해야만 게시판의 게시물을 볼 수 있었다. 이 게시판에는 업체명을 적시한 성매매 후기는 물론 영상까지 올라와 있었다. 길가의 여성을 대상으로 한 불법 촬영물, 지인이나 가족의 속옷 이미지를 첨부한 사진 등도 많았다. 2016년 폐쇄된 국내 최대 음란사이트 소라넷과 유사한 모습이었다. 문제는 커뮤니티 대부분이 텔레그램처럼 해외에 서버를 두고 있다는 점이다. 또 운영자가 단속 등을 피하기 위해 클라우드 데이터 백업을 한 뒤 게시판을 폐쇄했다가 다시 운영을 재개하는 경우도 빈번하다. 디지털성범죄지원센터가 조은희 국민의힘 의원실에 제출한 ‘불법 촬영물 등 유포 사이트 서버 국가 현황’을 보면 2018년 4월~지난 3월 해외에 서버를 둔 사이트가 전체의 약 95.4%(2만 6426건)를 차지했다. 곽대경 동국대 경찰사법대학 교수는 “커뮤니티가 워낙 많다 보니 시민사회단체나 여성단체, 학부모단체에서 모니터링한 이후 경찰에 신고하는 유기적인 협조 체계 구축이 필요하다”고 말했다. 권헌영 고려대 정보보호대학원 교수는 “VPN 우회 접속하는 커뮤니티 등도 시간이 걸릴 뿐 수사하면 모두 추적할 수 있다”며 “추적 이후 실제로 영장 집행 등을 할 수 있도록 국제공조를 강화하는 게 필수”라고 했다.

아프리카 콩고민주공화국(이하 민주콩고)의 한 교도소에서 집단 탈옥을 시도하던 수감자 100여 명이 숨졌다. AP통신의 3일(이하 현지시간) 보도에 따르면, 지난 2일 오전 2시경 수도 킨샤사의 마칼라중앙교도소에서 수감자들이 집단 탈옥을 시도했다. 수감자들은 집단 탈옥을 시도하다가 경비원들과 충돌했고 이 과정에서 식량창고와 의무실 등 교도소 곳곳에서 화재가 발생했다. 교도소 일부 구역이 약탈을 당하기도 했다. 이번 탈옥 시도 과정에서 숨진 수감자는 최소 129명, 부상자는 59명으로 집계됐다. 자크맹 샤바니 루쿠 비항고 내무부 장관은 “알려진 인명 피해는 사망자 129명으로, 경고 후 총을 맞아 숨진 사람 24명이 포함됐다”라며 “다른 사람들은 밀쳐지거나 질식사했고, 일부 여성은 강간 당했다”고 설명했다. 수감자 중 탈옥에 성공한 사람은 아무도 없는 것으로 알려졌다. 교도소가 위치한 지역의 주민들은 사건 당시 몇 시간 동안 총격 소리가 울렸으며, 이후에는 현장에서 시신을 제거하는 보안 요원들을 목격했다고 입을 모았다. SNS에도 피투성이가 된 채 바닥에 쓰러져 있는 시신 수십 구의 모습이 담긴 동영상이 유포됐다. 사건이 발생한 교도소는 정원의 8배에 달하는 수감자를 수용하는 등 열악한 환경이었던 것으로 드러났다. 국제인권단체인 앰네스티의 최근 보고서에는 해당 교소도가 1500명만 수용할 수 있음에도 불구하고 탈옥 사건 전 수감자의 수는 1만 2000명에 달했다. 영국 BBC에 따르면, 지난 2020년 교도소의 한 관계자는 BBC에 식량 부족과 위생 불량 등 교도소의 열악한 환경으로 인해 사람들이 죽어가고 있다고 주장하기도 했다. 유럽연합은 “이 비극적인 사건을 조명하고 책임을 규명하기 위해 독립적이고 신속한 조사를 촉구한다”고 밝혔다. 한편, 민주콩고에서는 교도소 탈옥 사건이 끊이지 않고 있다. 2017년에는 특정 종교 종파의 지도자를 포함해 50여 명의 수감자가 해당 종교단체의 침입을 틈타 마칼라중앙교도소를 탈출했다. 2020년에는 북동부 베니지역의 한 교도소에서도 수감자 약 1000명이 탈옥하기도 했다. 당시 해당 탈옥 사건은 이슬람 극단주의 무장단체인 이슬람국가(IS)가 개입됐다는 주장이 나오기도 했다.

여야가 4일 국회 여성가족위원회의 ‘딥페이크 성범죄 관련 현안 질의’에서 딥페이크 범죄 실태를 지적하며 소관 기관들의 후속 조치 미비를 비판했다. 여야는 딥페이크 성범죄를 막기 위해 정부의 ‘컨트롤타워’ 구축을 강조했다. 또 일부 일선 학교에서 여학생들에게만 소셜미디어(SNS)에서 사진을 내리도록 하는 조치를 한다고 지적했고, 텔레그램 등이 딥페이크 관련 수사 협조를 안 할 경우 서비스를 막는 강경책도 필요하다는 제언이 나왔다. 이인선 여가위원장은 이날 “사람들의 사진을 성폭력 이미지나 영상으로 바꾸는 성범죄, 즉 디지털 기술로 가짜 사진이나 영상을 만들어 유포하는 디지털 성범죄가 우리 사회에 만연한 것으로 알려지며 충격을 주고 있다”며 “텔레그램의 단체 대화방과 채널에서 딥페이크 영상물이 생성 유포된다는 사실이 밝혀졌는데 초등학생들을 대상으로 한 사건으로 영상물의 피해자와 가해자 모두 연령대가 낮다는 사실이 더욱 큰 충격을 주고 있다”고 지적했다. 사태 확산을 막기 위해 범정부 차원의 ‘컨트롤타워’가 필요하다는 의견도 나왔다. 서범수 국민의힘 의원은 “여가부는 예방 및 피해자 지원을 하고 경찰청은 수사하고 법무부는 법 정비를 하지 않나. 그러니까 전부 각자도생으로 취합이 안 된다는 비난을 많이 받았다”며 “국무조정실이 각 부처에 역할을 주고 피드백을 받고 총괄해야 시너지 효과가 난다”고 말했다. 경찰에 적극적인 피의자 추적·단속을 촉구하는 목소리도 나왔다. 서영교 더불어민주당 의원은 “피해자들이 경찰에서 ‘(텔레그램) 서버가 해외에 있어서 어떻게 할 수 없다’는 말을 들으면 목숨 끊는 것밖에 방법이 없다고 생각하지 않겠나”라고 우려했다. 여가위 여당 간사인 김상욱 의원은 텔레그램의 협조가 부실할 경우 국내 서비스 차단도 고려하자고 제언했다. 김 의원은 “수사 협조를 안 하면 서비스할 수 없도록 하는 본질적 대처가 필요하다. 그것이 아니면 협조를 구걸하는 꼴이 된다”며 “이에 대한 기술적·법적 연구가 필요하다”고 강조했다. 이달희 국민의힘 의원은 “호기심 많은 청소년들이 처음엔 딥페이크로 재미있는 영상을 만들다가 성범죄물로 가는 경우가 있다”며 “범죄라는 사실을 교육해야 한다”며 사전 교육의 필요성을 지적했다. 같은 당 한지아 의원은 피해자 보호와 2차 가해 방지를 강조했다. 한 의원은 “피해자 지원 업무에 공백이 생기지 않도록 각별히 신경 써달라”고 말했다. 교사 출신인 백승아 민주당 의원은 일부 학교가 피해를 예방하겠다며 여학생들에게만 SNS에서 사진을 내리도록 하거나, 피해자 익명성을 보장하지 않은 채 현황을 조사한다고 지적했다. 백 의원은 “피해자들이 겁내지 않고 피해 사실을 밝힐 수 있도록 안내하는 게 중요하다”고 강조했다. 이날 질의에는 신영숙 여가부 차관을 비롯해 과학기술정보통신부, 방송통신심의위원회, 법무부, 경찰청 등의 실무자들이 참석했다. 이동수 방심위 디지털성범죄심의국장은 텔레그램이 전날 당국의 공조 요청에 ‘불법 콘텐츠 대응에 어려움이 있는 점을 사과한다’는 취지로 답신한 사실을 밝히며 관련 부처가 텔레그램과 성범죄 대응을 위한 공조 체제를 구축했다고 밝혔다. 다만 ‘위장 수사’ 도입 등 수사권 확대에는 충분한 숙의가 필요하다는 목소리도 나왔다. 한상형 법무부 형사법제과장은 위장 수사 도입 필요성에 대해 “수사기관이 (위장 수사 과정에서) 실제 성 착취물을 광고·거래할 수 있는 등 피해자에 대한 중대한 인권침해를 수반한다”며 “운영 성과와 실익, 문제점 등을 면밀히 분석해야 한다”고 말했다.

여자 후배 사진을 음란물에 합성하고 유포한 고등학생이 강제 전학을 가게 됐다. 4일 교육계 설명을 종합하면, 경남 진주교육지원청 학교 폭력 대책심의위원회는 지난 8월 회의를 열어 진주의 한 고등학교 남학생인 A(18)군 전학을 포함해 서면 사과와 특별교육 5시간 조치를 결정했다. A군은 이 조치에 앞서 8월 아동·청소년의 성보호에 관한 법률 위반(성착취물제작·배포등) 혐의로 검찰에 송치됐다. A군은 지난 6월 사회관계망서비스(SNS)에서 성명불상자에게 피해 학생 얼굴과 음란물을 합성해줄 것을 의뢰한 후 사진 3~4장을 받은 것으로 조사 됐다. 이후 A군은 피해 학생 이름을 도용해 가짜 SNS 계정을 만들고, 합성 사진을 게시해 신체·정식적인 피해를 입힌 것으로 확인됐다. A군은 학폭위에서 ‘B양에게 어떤 피해와 영향이 미칠지 예상하지 못했다’고 주장한 것으로 알려졌다.

음란물에 유명 연예인의 얼굴을 합성한 딥페이크 영상이나 아동·청소년 성 착취물을 SNS 등을 통해 판매한 10대 3명이 경찰에 붙잡혔다. 부산경찰청 여성·청소년수사계는 성폭력 범죄 처벌 특례법(허위 영상물 편집·반포), 아동·청소년 성 보호에 관한 법률(영리 목적 성 착취물 판매) 위반 혐의로 10대 A군에 대한 구속영장을 신청했다고 4일 밝혔다. 고등학교를 졸업한 A씨는 지난 4월부터 5월까지 게임 정보를 공유하는 해외 커뮤니티앱에서 연예인 등 유명인의 얼굴을 합성한 딥페이크 1230개, 아동·청소년 성 착취물 4만 4000개를 15명에게 판매해 27만원의 수익을 올린 혐의를 받는다. A군은 SNS에서 이들 영상물을 구매해 되판 것으로 조사됐다. 경찰은 또 고교 졸업생 B군, 고등학교 재학생 C군을 아동·청소년의 성 보호에 관한 법률(영리 목적 성 착취물 판매) 혐의로 검거했다. B군은 구속됐으며, C군은 불구속 상태에서 수사받고 있다. B군은 지난해 12월부터 올해 4월까지 해외 게임정보공유 앱을 통해 아동·청소년 성 착취물 5만4609개를 100여명에게 판매해 총 220만원을 받은 혐의를 받는다. C군은 지난 3월부터 5월까지 해외 SNS에서 구매자 10명에게 아동·청소년 성 착취물을 판매해 95만원의 불법 수익을 올린 혐의다. 이들은 SNS 해시태그와 접속 링크를 포함한 광고성 게시글을 적고, 구매자들이 자신과 접촉할 수 있도록 했으며, 성 착취물 여러 개가 담긴 폴더 하나당 5000원에서 3만원을 받고 판매했다. B, C군은 판매한 성 착취물을 지인 등에게 받았다고 경찰에 진술했다. 경찰은 이들로부터 아동·청소년 성 착취물을 구매한 63명도 검거했다. 이 중 형사처벌이 어려운 10~14세 촉법 소년이 약 20% 정도이며, 나머지는 10대 중반에서 20대 초반이었다. 다만, 딥페이크 영상물은 합성된 대상이 성인을 경우 현행법상 제작·유포자만 처벌할 수 있다. 이 탓에 구매자가 영상을 습득한 이후 유포 행위를 하지 않았다면 처벌하기 어렵다. 경찰 관계자는 “법원의 허가를 받아 딥페이크, 아동·청소년 성 착취물 판매자에게 구매자인 척 접근해 검거했다. 딥페이크 영상 제작·유포 행위 첩보를 적극적으로 수집하고 수사에 착수하는 등 디지털 성범죄에 강력하게 대응하겠다”라고 밝혔다.

여교사들의 얼굴을 나체 사진에 합성해 소셜미디어(SNS)에 유포한 고등학생이 학원 선배와 유명인(인플루언서) 등을 상대로도 딥페이크 범행을 저지른 사실이 확인됐다. 인천 남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 입건한 10대 고교생 A군의 SNS 계정을 분석해 추가 범행을 확인했다고 3일 밝혔다. A군은 지난 7월 인공지능(AI)을 이용한 딥페이크 기술로 고등학교 여교사 2명의 얼굴을 나체 사진에 합성한 뒤 SNS에 유포한 혐의를 받고 있다. 경찰은 피해 여교사들이 용의자로 A군을 지목하자 그의 소속 학교 학생 300명가량의 SNS 계정을 일일이 확인해 관련 정황 증거를 확보했다. 이후 A군을 상대로 압수수색 영장을 신청했으나 검찰에서 반려됐다. 이에 경찰은 직접 A군의 주거지를 찾아 A군에게 범행 사실을 캐물었고 추가 소환 조사도 진행했다. A군은 최초 조사에서는 혐의를 완강히 부인하다가 수사관들의 추궁에 결국 범행 사실을 인정했다. A군은 범행 동기에 대해 “예뻐서 (불법 합성물을) 만들게 됐다”고 진술했다. 경찰 관계자는 “피해자들의 진정서를 접수한 뒤 최대한 신속하게 수사를 진행했고 조만간 A군을 검찰에 송치할 예정”이라고 말했다.

걸그룹 뉴진스 멤버들이 지난달 27일 민희진 전 어도어 대표의 해임 이후 6일 만에 “한동안 멘붕 상태였다”며 답답한 심경을 토로했다. 3일 가요계에 따르면 멤버 다니엘은 전날 오후 전용 소통 앱 ‘포닝’을 통해 “사실 (민희진) 대표님께서 해임당하시고 여러모로 힘들고 고민이 많아졌다”며 “한동안 약간 멘붕 상태였고 많이 불안하기도 했다”고 말했다. 다니엘은 또 “항상 밝고 행복한 모습만 ‘버니즈’(뉴진스 팬덤)에게 보여주고 싶었는데”라며 아쉬움을 나타내기도 했다. 멤버 민지 역시 같은 날 “오늘은 이런 일이 있었다. 저런 일이 있었다 찾아가서 다 말해주고 싶었는데, 그러지 못한 지도 벌써 일주일 정도 돼 간다”며 “찾아와서 걱정해 주고 위로해 주는 많은 ‘버니즈’들에게 괜찮다고 말해주고 위로해 주고 싶었는데 이번엔 자신이 없었다”고 말했다. 민지는 “우리 좋은 이야기만 하기에도 하루가 부족한데, 왜 이런 불필요한 수고를 겪어야 하는지 너무 미안하고 아무것도 해결할 수 없는 제가 너무 답답했다”며 “사실 이걸 적고 있는 지금도 어제와 마찬가지로 제가 할 수 있는 건 없고 제대로 해결된 일 하나 없다”고 털어놨다. 앞서 어도어는 ‘민희진 사내이사’가 뉴진스 프로듀싱은 계속 맡을 것이라고 발표했지만, 민 전 대표는 ‘독소 조항이 포함됐다’며 프로듀싱 업무 위임 계약서 서명을 거부하고 반발 중이다. 대표 교체 후 빚어진 갈등은 뉴진스 뮤직비디오 콘텐츠가 올라온 외부 SNS 계정을 두고 ‘장외 싸움’으로도 번지고 있다. 돌고래유괴단 “어도어 측, 뉴진스 영상 삭제 요구”뉴진스의 ‘OMG’, ‘ETA’, ‘디토’(Ditto) 등의 뮤직비디오를 제작한 돌고래유괴단의 신우석 감독은 자신의 SNS에 “어도어 측의 삭제 요구에 의해 그동안 돌고래유괴단이 작업해 온 뉴진스 뮤직비디오 및 관련 영상 및 채널, 앞으로 업로드 예정이던 영상은 모두 공개할 수 없게 됐다”고 밝혔다. 이에 돌고래유괴단 SNS뿐만 아니라 뉴진스 세계관을 다룬 비공식 계정인 ‘반희수’ 유튜브 채널에서도 뉴진스 관련 콘텐츠가 삭제됐다. ‘반희수’ 채널은 뉴진스의 팬덤명인 ‘버니즈’에서 따온 것으로 뉴진스 멤버들과 팬들이 영상을 통해 교감할 수 있는 채널로 여겨져 왔다. 신 감독은 “돌고래유괴단과 ‘반희수’ 유튜브 채널은 우리가 작업한 포트폴리오 아카이빙을 주목적으로 운영하고 있으며 단 1원의 수익도 발생하지 않는다”며 “입장이 바뀐 어도어의 요구에 따라 모든 영상은 삭제되고 공개될 수 없다. 오늘부로 돌고래유괴단과 어도어의 협업은 불가능할 것 같다”고 전했다. 어도어 “협의 없이 무단 게시…아티스트 권리 보호”이에 어도어는 “돌고래유괴단이 자체 SNS 채널에 올린 ‘ETA’ 뮤직비디오 디렉터스 컷은 과거 광고주와도 이견이 있었던 부분이 포함된 편집물로, 광고주와의 협의 없이 무단으로 게시됐다”며 “‘ETA’ 뮤직비디오 및 이에 대한 편집물은 당사의 공식 채널에 게재돼야 한다. 이는 아티스트의 권리를 보호하기 위한 것”이라고 강조했다. 그러면서 “돌고래유괴단 측에 해당 디렉터스 컷 영상에 대해 게시 중단 요청을 했을 뿐, ‘반희수’ 채널 등 뉴진스와 관련된 모든 영상의 삭제 혹은 업로드 중지를 요구한 사실은 없다”며 “그러나 돌고래유괴단 신우석 감독은 어도어가 디렉터스 컷 영상뿐만 아니라 ‘반희수’ 채널 등 뉴진스 관련 모든 영상을 삭제 요구했다는 취지의 허위 사실을 유포하고 있다”고 말했다.

또래 여학생의 허위 성착취물을 사회관계망서비스(SNS)에서 건네받아 피해자의 친구에게 보낸 남학생이 불구속 상태로 재판에 넘겨졌다. 인천지검 여성아동범죄조사부(부장 정희선)는 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·반포 등 혐의로 고교생 A군을 불구속 기소했다고 3일 밝혔다. A군은 지난해 12월 트위터를 통해 알게 된 한 남성으로 부터 B양의 얼굴 사진에 다른 여성의 나체 사진을 ‘딥페이크’ 기술로 합성해 만든 성 착취물을 SNS로 건네받아 피해자의 친구에게 보낸 혐의를 받고 있다. A군과 B양은 서로 모르는 사이며,성 착취물을 제공한 남성의 신원은 아직 확인되지 않았다. 앞서 경찰은 A군을 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 제공 혐의로 송치했으나, 검찰은 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·배포 등 혐의를 추가로 적용했다. 검찰은 “A군이 초범이고 소년범이지만 사안이 중대하다고 보고 기소했으며 앞으로 허위 영상물은 성 착취물로 보고 관련법을 적용하는 방안을 적극적으로 검토하겠다”고 말했다. 검찰에 따르면 허위영상물은 성폭력처벌법상 반포 등 목적이 없는 제작, 단순 소지 행위에 대해서는 처벌 규정이 없다. 그러나 아동·청소년을 대상으로 한 허위영상물은 ‘성착취물’에 해당돼 청소년성보호법위반죄로 처벌할 수 있다.

울산시교육청이 디지털 성범죄 대응 웹 드라마를 제작해 공개했다. 울산시교육청은 전국적으로 확산하는 불법 합성물(딥페이크) 성범죄와 관련해 디지털 성범죄 예방 웹 드라마 영상을 제작해 학교에서 교육 자료로 활용할 수 있도록 했다고 3일 밝혔다. ‘나의 얼굴, 나의 이야기’라는 제목의 이 영상은 총 10분 14초 분량이다. 드라마 형식의 영상에는 불법 합성물 피해를 본 학생이 용기 있게 주위에 도움을 요청해 문제를 해결한다는 내용이다. 이 과정에서 디지털 성범죄 유형과 피해를 봤을 때 대처 방법을 담고 있다. 또 울산지역 디지털 성범죄 특화 상담소인 동구가정성폭력통합상담소의 상담과 지원 과정 등도 확인할 수 있다. 영상은 울산교육청 공식 유튜브 채널을 비롯해 페이스북, 인스타그램 등 SNS에서 볼 수 있다. 아울러 시교육청은 디지털 성범죄 피해 예방과 대응 요령을 담은 카드뉴스도 제작해 교육청 누리집 등에 올렸다. 사진이나 동영상의 불법 촬영과 유포 등 디지털 성범죄 유형과 함께 행동 요령도 함께 안내했다. 시교육청 관계자는 “학생들이 디지털 성범죄에 경각심을 지닐 수 있도록 관련 예방 교육을 강화하겠다”며 “피해 학생에게는 상담과 함께 심리치료를 적극적으로 지원하겠다”고 말했다. 디지털 성범죄 피해가 발생하면 피해 촬영물이나 인터넷 주소(URL) 등의 증거를 확보하고 디지털성범죄피해자지원센터(02-735-8994)에 신고하면 된다. 울산지역 피해 신고와 상담은 울산해바라기센터(052-265-1375), 동구가정성폭력통합상담소(052-252-6778), 여성긴급전화1366(052-1366)으로 하면 된다.

소셜미디어(SNS)를 통해 받은 여학생의 사진을 딥페이크 기술을 이용해 나체사진에 합성해 유포한 고교생이 재판에 넘겨졌다. 이 고교생은 피해 여학생의 허위 합성물을 만든 것으로 모자라 피해 여학생의 친구에게 합성물을 전송하기까지 한 것으로 확인됐다. 인천지검 여성아동범죄조사부(부장 정희선)는 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·반포 등 혐의로 고교생 A군을 불구속 기소했다고 3일 밝혔다. 검찰에 따르면 A군은 지난해 12월 SNS를 통해 알게 된 남성으로부터 피해자 B양의 사진과 개인정보를 건네받은 뒤 B양의 사진을 나체사진과 합성해 유포한 혐의를 받고 있다. A군은 허위 합성물을 B양의 친구에게 보냈다. A군은 B양과 모르는 사이이며, A군에게 B양의 사진과 개인정보를 보낸 남성의 신원은 확인되지 않았다. 앞서 경찰은 A군을 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 제공 혐의로 송치했으나, 검찰은 아동·청소년의 성보호에 관한 법률 성 착취물 소지·배포 등 혐의를 추가로 적용했다. 성폭력 처벌특례법은 허위 영상물을 배포할 의도 없이 제작하거나 소지하기만 할 경우 처벌할 규정이 없다. 그러나 아동·청소년성보호법은 아동·청소년을 대상으로 한 허위 영상물을 ‘성 착취물’로 보고 배포할 의도가 없더라도 제작 및 소지하는 행위를 처벌할 수 있다. 올해 들어 297건 발생·146명 검거딥페이크 성범죄가 기승을 부리고 이에 대한 문제의식이 높아지면서, 올해 들어 발생한 딥페이크 성범죄 건수와 검거 인원이 이미 지난해 1년간의 수준을 넘어선 것으로 나타났다. 황정아 더불어민주당 의원이 경찰청에서 받은 자료에 따르면 올해 1월부터 7월까지 발생한 허위 영상물 범죄는 총 297건으로, 총 146명이 검거됐다. 지난해 발생 건수와 검거 인원은 총 180건, 100명이었으나 7개월만에 지난해 1년간의 수치를 초과했다. 다만 지난 3년간 허위 영상물 범죄로 구속된 인원은 12명으로 전체 검거 인원(257명)의 4.7%에 그친 가운데, 올해 들어서는 구속률이 2.7%(4명 구속)로 낮아졌다. 조지호 경찰청장은 지난 2일 국회 예산결산특별위원회 종합정책질의에서 딥페이크 성범죄 수사 현황에 대해 “지난 한 주간 접수해 수사하는 것만 120건이 넘고 기존에 수사하는 사안까지 포함하면 수백건”이라고 밝혔다. 이어 “검거 인원 대부분인 약 75%가 10대이고, 20대까지 포함하면 약 95%”라며 “경찰청이 처음으로 개발한 딥페이크 탐지 소프트웨어를 최대한 활용해 단속할 계획”이라고 덧붙였다.

성범죄 등의 혐의로 실형을 살고 지난 3월 출소한 가수 출신 정준영이 프랑스 파리에서 잇따라 목격되고 있다. 지난 2일 한 네티즌은 소셜미디어(SNS)에 “얘들아 파리에 정준영 있어. 조심해”라고 썼다. 이와 함께 정준영의 모습이 담긴 사진과 영상도 게재했다. 짧은 분량의 영상 속 정준영은 어깨까지 머리카락을 기른 모습이다. 자신이 촬영 당하고 있는 것을 알아차린 그가 고개를 돌리고 카메라를 피하는 모습도 포함됐다. 정준영은 지난 2020년 9월 여성들을 집단 성폭행한 혐의로 기소돼 징역 5년을 선고받았다. 연예인들이 참여한 스마트폰 단체 채팅방에 불법 촬영물을 유포한 혐의도 있다. 정준영은 지난 3월 19일 새벽 목포교도소에서 5년 만기 출소했다 정준영은 ‘1박2일’ 시즌3와 ‘정글의 법칙’ ‘짠내투어’ 등 예능에서 활약했으나, 성폭행 건으로 퇴출됐다. 그는 2011년 코미디TV ‘얼짱시대5’로 얼굴을 알렸다. 엠넷 오디션 ‘슈퍼스타K’ 시즌4 톱3에 포함됐다.

고등학생 A(18)양은 지난해부터 참여자가 누구인지도 모르는 카카오톡 단체대화방에 초대받아 이유 없이 끝없는 욕설을 들었다. “왜 이제야 기어들어오냐” “미친X, 손 좀 봐 줘야 한다” “찾아가서 죽을 때까지 팬다”는 등 모욕적이고 폭력적인 문자를 마주한 충격이 채 가시기도 전 A양은 계속 다른 단체대화방에 초대됐다. 하루에도 수십~수백번을 대화방으로 불려 나갔다. 글이 계속 이어져 서너 시간 만에 휴대전화 배터리가 금세 방전될 정도였다. A양은 “알림이 올 때마다 피폐해졌고, 지금도 ‘카톡’ 알림음이 들리는 것 같다”고 말했다. A양은 자신이 당한 괴롭힘을 ‘카카오톡(카톡) 감옥’이라고 했다. A양처럼 사이버 폭력으로 일상을 제대로 보내기 어려울 정도의 고통을 겪는 청소년들이 지속적으로 증가하고 있다. 하지만 어른들은 잘 겪어 보지 못한 종류의 가상공간 폭력이라 도움을 청해도 “소셜미디어(SNS)를 탈퇴하면 해결되는 것 아니냐”라는 등 안일한 답변이 돌아오는 경우가 적지 않다. 이런 사이버 폭력에 대한 불감증은 최근 논란이 되는 딥페이크(허위 영상물) 성범죄를 방치하는 데도 한몫했다는 지적이 나온다. 언어폭력이나 금품 갈취 등 온라인에서 발생하는 범죄에는 성인보다 청소년이 더 쉽게 노출된다. 방송통신위원회의 ‘사이버 폭력 실태조사’ 보고서를 보면 지난해 기준 청소년의 사이버 폭력 피해 및 가해 경험률은 40.8％로 성인 경험률(8.0％)의 5배나 됐다. ‘카톡 감옥’ 괴롭힘뿐 아니라 피해 학생의 SNS에 몰려가 악플 등을 대거 달거나 근거 없는 유언비어를 퍼트리는 등 ‘SNS 조리돌림’, 단체대화방에 피해 학생만 제외하고 초대해 정보를 공유하는 ‘카톡 왕따’ 등이 대표적 사례다. 청소년들의 사이버 폭력은 주로 언어폭력이 다수이지만 불법 촬영물 유포나 지인 능욕과 같은 딥페이크 범죄로 진화하기도 한다. 딥페이크 피해자인 중학생 B양은 “처음에는 단톡방에서 음담패설과 욕설만 하길래 크게 신경 쓰지 않았는데, 제가 아무런 반응도 하지 않으니 제 얼굴이 합성된 나체 사진까지 보냈다”고 전했다. 학교폭력 예방 전문기관 푸른나무재단의 전화 상담에서 사이버 폭력이 차지하는 비중도 2022년 6.7％에서 올해 8월 기준 10.1%로 늘었다. 푸른나무재단의 ‘2024 학교폭력 실태조사’를 보면 사이버 폭력 피해 청소년 4명 중 1명(24.0%)은 ‘문제가 해결될 것 같지 않아서’라는 이유로 그 어느 곳에도 도움을 요청하지 않았다. 사이버 폭력으로 인해 피해 학생의 일상은 실제로 무너지지만 또래끼리의 ‘일탈’ 정도로 치부되는 경우도 있다. 나현경 학교폭력 전문 변호사는 “단순 욕설이나 온라인상의 따돌림 행위 등도 범죄가 될 수 있다는 점을 충분히 교육해야 한다”고 말했다.

고등학생 A(18)양은 지난해부터 참여자가 누구인지도 모르는 카카오톡 단체대화방에 초대받아 이유 없이 끝없는 욕설을 들었다. “왜 이제야 기어들어오냐” “미친X, 손 좀 봐 줘야 한다” “찾아가서 죽을 때까지 팬다”는 등 모욕적이고 폭력적인 문자를 마주한 충격이 채 가시기도 전 A양은 계속 다른 단체대화방에 초대됐다. 하루에도 수십~수백번을 대화방으로 불려 나갔다. 글이 계속 이어져 서너 시간 만에 휴대전화 배터리가 금세 방전될 정도였다. A양은 “알림이 올 때마다 피폐해졌고, 지금도 ‘카톡’ 알림음이 들리는 것 같다”고 말했다. A양은 자신이 당한 괴롭힘을 ‘카카오톡(카톡) 감옥’이라고 했다. A양처럼 사이버 폭력으로 일상을 제대로 보내기 어려울 정도의 고통을 겪는 청소년들이 지속적으로 증가하고 있다. 하지만 어른들은 잘 겪어 보지 못한 종류의 가상공간 폭력이라 도움을 청해도 “소셜미디어(SNS)를 탈퇴하면 해결되는 것 아니냐”라는 등 안일한 답변이 돌아오는 경우가 적지 않다. 이런 사이버 폭력에 대한 불감증은 최근 논란이 되는 딥페이크(허위 영상물) 성범죄를 방치하는 데도 한몫했다는 지적이 나온다. 언어폭력이나 금품 갈취 등 온라인에서 발생하는 범죄에는 성인보다 청소년이 더 쉽게 노출된다. 방송통신위원회의 ‘사이버 폭력 실태조사’ 보고서를 보면 지난해 기준 청소년의 사이버 폭력 피해 및 가해 경험률은 40.8％로 성인 경험률(8.0％)의 5배나 됐다. ‘카톡 감옥’ 괴롭힘뿐 아니라 피해 학생의 SNS에 몰려가 악플 등을 대거 달거나 근거 없는 유언비어를 퍼트리는 등 ‘SNS 조리돌림’, 단체대화방에 피해 학생만 제외하고 초대해 정보를 공유하는 ‘카톡 왕따’ 등이 대표적 사례다. 청소년들의 사이버 폭력은 주로 언어폭력이 다수이지만 불법 촬영물 유포나 지인 능욕과 같은 딥페이크 범죄로 진화하기도 한다. 딥페이크 피해자인 중학생 B양은 “처음에는 단톡방에서 음담패설과 욕설만 하길래 크게 신경 쓰지 않았는데, 제가 아무런 반응도 하지 않으니 제 얼굴이 합성된 나체 사진까지 보냈다”고 전했다. 학교폭력 예방 전문기관 푸른나무재단의 전화 상담에서 사이버 폭력이 차지하는 비중도 2022년 6.7％에서 올해 8월 기준 10.1%로 늘었다. 푸른나무재단 관계자는 “사이버 폭력의 유형이 다양해지고 괴롭힘도 교묘해지고 있다”며 “앞으로 피해는 더 증가할 것”이라고 전망했다. 푸른나무재단의 ‘2024 학교폭력 실태조사’를 보면 사이버 폭력 피해 청소년 4명 중 1명(24.0%)은 ‘문제가 해결될 것 같지 않아서’라는 이유로 그 어느 곳에도 도움을 요청하지 않았다. 사이버 폭력으로 인해 피해 학생의 일상은 실제로 무너지지만 또래끼리의 ‘일탈’ 정도로 치부되는 경우도 있다. 나현경 학교폭력 전문 변호사는 “단순 욕설이나 온라인상의 따돌림 행위 등도 범죄가 될 수 있다는 점을 충분히 교육해야 한다”며 “학교 내에서 발생하는 (사이버 폭력) 문제는 교사의 관리 권한을 확대해 적극적으로 개입할 필요가 있다”고 말했다.

전 세계 영토 면적 5위, 인구수 7위의 대국 브라질에서 31일(현지시간) 소셜미디어(SNS) 엑스(X·옛 트위터) 접속이 차단됐다. 2000만명 넘는 브라질 누리꾼이 사용하는 온라인 소통 도구가 법원의 명령으로 한순간에 가로막히자 브라질 사회는 ‘이용자 보호’와 ‘표현의 자유’를 둘러싸고 거센 공방에 휘말렸다. 전날 AFP통신은 알레샨드리 지모라이스 브라질 대법관이 “엑스는 반복적이고 의식적으로 브라질 사법 시스템을 무시했다. 브라질에서 무법천지 환경을 조성한 책임이 있다”며 서비스 차단을 결정했다고 전했다. 대법원은 브라질 내 앱스토어에서 엑스를 삭제하고 가상사설망(VPN)을 통한 우회 접속 적발 시 5만 헤알(약 1200만원)의 벌금도 부과하라고 지시했다. 일론 머스크 엑스 최고경영자(CEO)는 지모라이스 대법관을 겨냥해 “판사 코스프레를 하는 사악한 독재자”라면서 “브라질에서 민주주의를 파괴하려 한다”고 비난했다. 이어 “카멀라 해리스와 팀 월즈(미국 민주당 대선후보 팀)가 집권하면 미국에서도 비슷한 일이 일어난다”고 주장했다. 브라질 당국과 엑스의 갈등은 지난 4월로 거슬러 올라간다. 브라질 대법원은 자이르 보우소나루 전 대통령 정부 시절 가짜뉴스를 대거 유포한 혐의로 극우 성향 ‘디지털 민병대’ 계정 차단을 명령했다. 오는 10월 지방선거를 앞두고 이들이 발신할 증오·인종차별 신호를 사전에 차단하려는 취지다. 머스크 CEO는 “언론의 자유가 가장 중요하다”며 이 계정에 대한 법원의 ‘검열’ 요청을 거부하다가 급기야 지난 17일 브라질 사업 철수를 선언했다. 그런데도 엑스가 현지인을 대상으로 한 서비스를 계속하겠다는 입장을 밝히자 브라질 사법당국은 명령 미준수에 ‘괘씸죄’까지 적용해 폐쇄 명령을 내렸다. 브라질 사회는 둘로 갈라졌다. 보우소나루 전 대통령은 인스타그램에 “브라질에서 사업하는 세계적 기업들의 신뢰를 훼손한다”고 비판했다. ‘남미의 트럼프’로 불리는 보우소나루 전 대통령은 2022년 10월 대선에서 루이스 이나시우 룰라 다시우바 대통령에게 패배해 현 정부에 대한 반감이 크다. 우파 야당인 자유당 소속 비아 키시스 하원의원은 지모라이스 대법관에 대한 탄핵 절차 개시를 촉구했다. 반면 룰라 대통령은 이날 현지 라디오 방송에 출연해 “누구든 헌법과 법률의 적용을 받는다”면서 “돈이 있다고 해서 그(머스크)가 원하는 대로 뭐든 할 수 있는 건 아니다”라고 일갈했다. 이번 사태의 주인공인 디지털 민병대가 자신을 끝없이 비난하기에 대법원의 조치를 내심 반기고 있다. AP통신은 “엑스 폐쇄로 혼란에 빠진 브라질에서 새 SNS를 찾아가는 ‘플랫폼 이민’ 현상이 나타나고 있다”면서 “‘대안 플랫폼’을 표방하며 지난해 출시된 ‘블루스카이’에 브라질 사용자 유입이 가파르게 늘고 있다”고 전했다. AFP는 엑스를 차단한 국가는 북한과 중국, 러시아, 이란, 미얀마 등 권위주의 국가가 대부분이라고 짚었다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

그룹 ‘애프터스쿨’ 출신 배우 나나(본명 임진아)가 파격적인 화보를 선보였다. 나나는 30일 인스타그램에 “나(NA)”라고 적고 여러 장의 화보 사진을 올렸다. 화보 속에서 나나는 과감한 노출 패션을 선보이며 관능적인 매력을 뽐냈다. 담배를 입에 문 나나는 몽환적인 분위기를 자아냈다. 전날 올린 화보에서도 나나는 다양한 의상을 입고 다채로운 매력을 드러냈다. 나나는 2009년 애프터스쿨 싱글 ‘너 때문에’로 데뷔했다. 이후 애프터스쿨의 유닛 오렌지캬라멜, 애프터스쿨 레드 멤버로도 활약했으며, 배우로 스펙트럼을 넓혔다. 지난해 8월 공개된 넷플릭스 시리즈 ‘마스크걸’에서 활약했다. 한편 나나는 최근 자신의 사생활과 관련한 허위 사실을 유포한 유튜버를 대상으로 법적 대응을 예고했다. 나나는 사이버 렉커 구제역의 개인 통화 노출에서 사생활 루머가 확산하자 고소장을 제출했다. 앞서 24일 나나는 자신의 SNS에 “고소장 제출했다”며 “선처 없이 강력히 대응할 것”이라고 경고했다. 이어 “악플러들 또한 마찬가지”라며 “자극적인 이슈 거리로 저를 선택하셨다면 아주 잘못된 선택이라는 거 직접 보여드리겠다”고 덧붙였다. 그러면서 “구제역? 누군데. 저를 아십니까? 잘못 건드렸습니다”라고 강조했다. 유튜브 구제역(본명 이준희)은 카라큘라, 전국진 등 사이버렉카 연합 유튜버와 함께 유튜버 쯔양을 협박해 금품을 뜯어낸 혐의로 구속기소 된 인물이다. 구제역이 유튜브 채널 ‘가로세로연구소’의 김세의와 과거 통화한 내용이 제 3자를 통해 유포되면서 나나 사생활에 대한 허위 사실이 확산한 것으로 알려졌다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

60대 경비원을 무차별 폭행해 기절시키고 이를 동영상으로 촬영해 소셜미디어(SNS)에 유포한 10대 2명에게 검찰이 징역형을 구형했다. 의정부지법 남양주지원 형사3단독 성재민 판사는 30일 상해 혐의를 받는 A(15)군과 정보통신망법상 명예훼손 혐의를 받는 B(15)군에 대한 결심공판에서 A군에게 단기 징역 1년, B군에게 장기 2년을 구형했다. 검찰은 “피고인들은 여러 차례 소년 범죄를 저지르면서 나이가 어리다는 이유로 법정에서 선처를 요구하는 등 준법 의식이 없다”며 “피해자가 처벌을 원하고 있다”고 구형 이유를 설명했다. 이날 A군과 B군은 공소사실을 대부분 인정했다. 변호인 측 “인정하고 깊이 반성”다만 변호인은 “A군의 경우 가해를 인정하고 깊이 반성하고 있다”면서도 “피해자가 싸우자는 취지로 먼저 얘기하고 주먹을 휘두른 만큼 범행 경위와 동기를 참작해 달라”고 주장했다. B군에 대해서는 “촬영한 동영상이 SNS에 자동 업로드됐다”며 “피해자를 비방할 목적이 없었을 뿐만 아니라 오히려 댓글 대부분은 A군을 비방했다”고 강조했다. 최후 진술에서 A군은 “피해 할아버지께 사과하고 싶다”며 용서를 구했고, B군은 “다시는 잘못된 일에 연루되지 않도록 살겠다”며 선처를 호소했다. A군은 지난 1월 12일 오전 0시쯤 경기 남양주시 다산동에서 60대 경비원 C씨를 마구 때려 3주간의 상해를 입힌 혐의로 재판에 넘겨졌다. A군은 건물 안에서 소란을 피운다고 C씨가 훈계하자 폭행한 것으로 조사됐다. B군은 이를 촬영해 SNS에 올린 혐의로 기소됐다. 동영상에는 A군의 무차별 폭행 장면이 담겼다. C씨가 발차기를 당한 뒤 그대로 바닥에 쓰러져 약 3초간 기절하는 모습도 나온다. 검찰은 이들의 죄질이 가볍지 않고 사회적으로 용인할 수 있는 수준을 넘은 소년 범죄로 판단해 정식 재판에 넘겼다. 이들에 대한 선고 공판은 10월 16일 열린다.