나영석 PD가 ‘상남자’ 매력을 뽐낸 파격 비주얼로 팬들에게 충격을 안겼다. 지난 13일 나영석 PD가 소속된 제작사 에그이즈커밍 유튜브 ‘채널 십오야’는 휴방 공지를 올렸다. ‘채널 십오야’는 “이번 주 금요일 영상과 다음 주 화요일 라이브는 추석 연휴로 쉬어갑니다. 즐겁고 건강한 한가위 보내시고 다음 주에 만나요. 항상 십오야를 사랑해 주셔서 감사합니다”라는 공지문과 함께 나영석 PD의 사진을 올렸다. 사진 속 나영석은 짧은 머리에 구릿빛 피부, 탄탄한 팔뚝을 드러낸 ‘상남자’ 매력을 뽐내며 바닷가를 달리고 있다. 이에 팬들은 “휴방보다 놀라운 공지 사진”, “합성인가요”, “전현무 다이어트 성공한 줄 알았어요”, “강호동님한테 합성하신 건가요”등의 반응을 보이며 놀라움을 드러냈다. 이후 ‘채널 십오야’에는 ‘다음 주 예고) 제주도로 나들이’라는 제목의 영상이 올라왔다. 영상에서 제작진은 나영석에게 “영석 코스와 대주 코스를 나눠서 낮과 저녁으로 (답사를) 가볼까 한다. 선배님 코스로 추천해 드릴만한 곳을 우리가 찾아놨다”며 제주도 나들이를 제안했다. 이에 나영석은 “내가 추천하는 곳을 왜 네가 찾냐. 나도 추천하고 싶은 게 있다”며 프라이빗 비치를 추천했다. 그러면서 “다들 수영복 입고 와라. 문신 다 하고. 근데 우리 서로가 서로를 봐야 한다. 정말 프라이빗해서 아무도 없다”고 말했다. 그러나 제작진은 바쁜 나영석을 위해 미리 코스를 준비한 것이라며 제주 신화월드를 밀어붙였고, 결국 나영석은 제작진의 뜻에 따르기로 했다. 이어진 영상에는 놀이기구를 타고 괴성을 지르는 나영석의 모습과 앞서 공개된 사진처럼 해변을 달리는 모습 등이 담겼다. 이를 본 일부 팬들은 ‘상남자’ 포스를 풍기는 나영석의 사진이 합성이 아니라는 사실에 충격을 감추지 못했다.

‘중후장대(重厚長大)’ 기업은 글자 그대로 ‘무겁고, 두텁고, 길고, 큰 것’을 뜻하는 철강, 화학, 자동차, 조선 등의 제조업을 말한다. 자동차와 휘발유, 경유 등을 제외하고는 대부분 소비재를 생산하지 않는 기업 간 거래(B2B) 기업들이다. 이 기업들은 대체로 당장 어디에 쓰는 건지 정체를 알 수 없지만 엄밀한 기준을 충족해야 하는 제품들을 만든다. 생산 절차는 까다롭고, 높은 숙련도를 요구한다. 도제식 교육이 불가피하다. 또 크고, 무거운 제품을 만들기 위해 육중한 설비를 다뤄야하고, 높은 곳까지 올라가거나 불꽃이 튀는 작업을 해야 한다. 그만큼 위험하다. 안전을 위해서라도 작업장 내 규율이 엄격할 수 밖에 없다. 그래서 군대와 같은 수직적 조직체계를 갖추고 있고, 결과적으로 젊은 세대들에겐 ‘꼰대’ 느낌이 강한 회사로 여겨진다. 하지만 최근 이런 회사들이 이미지 변신을 위한 노력을 기울이고 있다. 이른바 ‘B급 감성’의 병맛 유튜브 영상과 추상적이면서 신비한 이미지를 주는 공중파 광고, 업종의 특성을 담은 귀여운 캐릭터를 앞세우는 등 톡톡 튀는 노력으로 눈길을 끌고 있다. HD현대오일뱅크가 지난 21일 공개한 디지털 영상광고 ‘오일전사’의 조회수는 게재 3주 만에 유튜브 조회수 700만을 돌파했다. 동시에 공개했던 HD현대 그룹 광고영상도 조회수 100만에 육박하고 있다. 영상은 HD현대오일뱅크의 휘발유를 의인화한 오일전사들이 고난과 역경을 극복하는 이야기를 담고 있다. 배우 유지태와 김동준이 이끄는 오일전사들은 투철한 사명감으로 차량을 밀며 멋지게 질주하다 연소돼 일생을 마감한다. ‘40L=40명’이란 직유적 표현에 오일전사로 분장한 배우들의 너무도 진지한 명품 연기가 어우러지면서 ‘B급 감성’을 극대화했다는 평가가 나온다. 영상은 국내 최정상의 독창적 광고 제작사 돌고래유괴단과 협업해 만들었다. 기존에 ‘불꽃’을 강조하는 기업 이미지 영상 광고를 만들어왔던 한화는 최근 바다를 배경으로 신비한 느낌을 주는 영상을 제작해 공중파에 내보내고 있다. 한화오션(옛 대우조선해양) 출범 1년 만에 새로 선보인 기업 이미지 광고지만, 영상에 한화오션이나 한화솔루션 등 직접적인 그룹사에 대한 언급이 없다. 어두운 망망대해의 바이오루미네센스(해양 생태계에서 광합성을 하며 이산화탄소를 흡수하고 산소를 만들어 내는 바다 플랑크톤이 스스로 빛을 내는 현상)와 함께 뱃노래를 배경음악으로 내보내며 ‘바다 위 친환경 솔루션’이라는 메시지를 남긴다. 한화=불꽃으로 이어졌던 기존 문법과 다른 이 영상의 유튜브 조회수는 3개월여 만에 무려 2747만이다. 현대양행에서 시작한 HL그룹도 ‘I AM 에이첼’, ‘나를 믿다’ 등 다소 몽환적인 느낌을 주는 영상으로 기업 이미지 광고를 하며 주목받고 있다. 그룹 관계자는 “광고에 등장하는 모델 ‘에이첼’을 중심으로 가상과 실상의 증명보다 믿음이 중요하다는 의미를 담았다”고 말했다. 이외에도 포스코는 2021년 10월부터 대표 캐릭터 ‘포석호’를, 에코프로는 지난해 포석호와 닯은 느낌을 풍기는 공식 캐릭터 ‘에꼬’를 선보였다. 중후장대 기업들의 이런 노력은 중장기적으로 기업의 사회적 이미지를 높이고, 대중에 존재감을 각인시켜 투자자들에게 매력을 더 할 수 있다는 분석이 나온다.

경기도는 지난 6일 마감한 ‘제1회 대한민국 AI 국제영화제’ 출품작 공모에 전 세계 104개국에서 2천67건을 접수했다고 13일 밝혔다. 경기도가 주최하고 경기콘텐츠진흥원이 주관하는 ‘대한민국 AI 국제 영화제’는 생성형 인공지능(AI) 기술로 만든 영화만 참가할 수 있는 국내 최초·최대 규모 AI 영화제다. 지난 6일까지 진행한 공모에는 2천67건의 작품이 지원했고, 이중 자격요건을 충족한 접수는 국내 410건, 해외 125건(39개국) 등 총 535건으로 나타났다. 부문별로는 내러티브 콘텐츠 부문에서 263건, 다큐멘터리 부문에서 45건, 아트&컬처 부문에서 112건, 자유포맷 115건으로 집계됐다. 도는 심사를 통해 10월 25일 킨텍스에서 열리는 대한민국 AI국제영화제에서 26개 작품에 시상한다. 특히 AI 기술을 활용한 영상만 참가할 수 있기 때문에 생성형 AI 전문 기업인 딥브레인AI와 기술 협력을 통해 기술 심사도 진행한다. ‘딥페이크(이미지 합성기술) 탐지 솔루션’ 기술로 제출된 영상을 딥러닝 분석해서 실제로 AI 제작 도구를 활용한 영상인지 판별한다. 강지숙 경기도 콘텐츠산업과장은 “이번 공모는 해외 창작자들의 관심이 높았으며, 특히 일반적인 영화제에서 보기 힘든 3세계 국가에서도 많은 관심을 보였다”라며 “생성형 AI가 콘텐츠 창작에 새로운 기회를 부여하는 좋은 사례로 남을 수 있을 것이다”라고 말했다. 이번 심사에는 26개 작품을 선정하며, 대상 2천만 원, 부문별 1등에 각 700만 원 등 총 8천 100만 원의 상금이 수여된다.

엉뚱한 사람을 텔레그램 ‘능욕방’(불법합성물 공유) 채널 운영자로 지목해 감금한 뒤 폭행을 가한 10대 2명이 구속돼 재판에 넘겨졌다. 수원지검 안산지청 형사3부(부장 김영준)는 특수중감금치상 혐의로 10대 A군 등 2명을 구속기소했다고 12일 밝혔다. A군 등은 텔레그램 ‘보복방’ 채널에서 활동하며 미성년자인 피해자 B군을 유인해 감금하고 폭행 등 가혹행위를 하며 이를 방송한 혐의를 받고 있 이들은 B군이 불법합성물(딥페이크)을 제작·공유하는 이른바 ‘능욕방’ 채널 운영자라 주장하며 응징하겠다는 명목으로 가혹행위를 한 것으로 조사됐다. A군 등은 B군에게 “너의 집 주소를 알고 있으니 밖에서 만나자”며 B군을 유인한 뒤 A군의 거주지로 데려간 것으로 파악됐다. A군 등은 집에서 B군의 뒤통수를 때리는가 하면 B군의 머리카락을 자르거나 눈썹을 밀었다. 또 B군에게 옷을 벗고 춤을 추게 하는 등의 가혹행위도 한 것으로 조사됐다. A군 등은 B군을 폭행하는 모습을 텔레그램 ‘보복방’ 채널에서 약 30분간 방송하며 후원금을 받았다. 이들의 범행은 한 시청자가 범행 장면을 목격하고 경찰에 신고하면서 덜미가 잡혔다. 검찰이 휴대전화 대화 내역 분석 등 수사를 진행한 결과 B군은 능욕방 운영자가 아니었으며 딥페이크 성범죄 관련 영상물도 없던 것으로 확인됐다. 다만 B군의 휴대전화에서 여성의 뒷모습 등을 촬영한 불법촬영물 2~3장이 발견돼 검찰은 B군 역시 성폭력처벌법 위반(카메라 등 이용 촬영) 혐의로 재판에 넘겼다. 검찰은 “사적 제재라는 명분으로 포장한 자극적 콘텐츠를 통해 수익을 추구하는 ‘보복방’ 운영자 등 공범에 대해 경찰과 긴밀하게 협력해 철저히 수사해 나가겠다”고 말했다.

경남도 특별사법경찰이 드론을 활용해 환경오염원 은폐 사업장을 무더기 적발했다. 도 특사경은 7월 1일~8월 31일 환경오염 사업장을 대상으로 드론을 활용한 기획단속을 벌인 결과, 총 14곳을 적발했다고 12일 밝혔다. 환경오염원 은폐 사업장은 산지·외진 곳 등에 있는 데다가 출입문을 걸어 잠그고 울타리를 치기도 해 단속을 위한 접근과 점검이 어렵다. 이를 해결하고자 도 특사경은 우선 위성사진을 분석해 환경오염 행위가 의심되는 사업장을 특정한 후 드론으로 실시간 증거 영상을 확보, 즉시 현장에 진입해 위반사항을 적발했다. 위반 행위별로 보면 무허가 폐기물 처리업 운영, 폐기물 무단 방치 등 폐기물관리법 위반 사업장이 10곳으로 가장 많았다. 야외에서 아무런 정화설비 없이 무단으로 철 구조물에 페인트 분사 도장을 하며 대기오염을 일으킨 대기환경보전법 위반 사업장 4곳도 있었다. 대표 사례로 무허가 폐기물 처리업체 2곳은 폐비닐·폐합성수지를 재활용하고자 무단으로 폐수배출시설을 설치·운영하다 적발됐다. 도 특사경은 물환경보전법 위반 행위도 추가로 입건해 수사할 계획이다. 폐목재를 재활용하는 한 업체는 폐기물을 정상적으로 보관할 수 있는 장소에 아무런 표시도 없이 폐목재 약 1240㎥(대형버스 약 12대 분량)를 산더미처럼 쌓아 둔 상태로 영업하다 적발됐다. 무허가 폐기물처리업·미신고 대기배출시설 운영 행위는 각 5000만원 이하의 벌금이나 5년 이하의 징역에 처할 수 있다. 도 특사경은 처벌이 절대 가볍지 않음에도 이러한 불법행위가 이어지는 밑바탕에 ‘적발이 쉽지 않아 지속해 불법행위를 할 수 있다는 그릇된 인식’이 깔린 것으로 분석했다. 천성봉 경남도 도민안전본부장은 “도민에게 피해를 주는 은폐형 환경오염 사업장도 드론을 활용해 위반 현장을 실시간으로 촬영할 수 있게 됐다”며 “앞으로도 환경 범죄로 말미암은 도민 피해를 줄일 수 있도록 지속해 단속하고 엄정히 수사하겠다”고 밝혔다.

미성년자 1명을 포함해 평소 알고 지내던 여성 24명의 얼굴 사진에 알몸을 합성한 딥페이크(허위 영상물) 성범죄를 저지른 30대 남성이 구속 상태로 검찰에 넘겨졌다. 서울경찰청 사이버수사대는 30대 남성 A씨를 청소년보호법, 성폭력처벌법 등의 위반 혐의로 6일 구속해 12일 검찰에 송치했다고 밝혔다. 경찰에 따르면 A씨는 지난해 12월부터 올 7월까지 평소 친분이 있던 지인들의 얼굴 사진을 이용한 허위영상물 128개를 제작했다. A씨는 지금은 삭제된 텔레그램 인공지능(AI) 합성봇을 이용해 허위영상물을 만든 것으로 조사됐다. 이후 텔레그램에서 ‘성착취물 교환방’을 운영하며 허위영상물 3개와 아동·청소년 성착취물 151개를 다른 성착취물과 교환하기 위해 유포했다. A씨는 허위영상물 교환 등을 통해 아동·청소년 성착취물 9789개와 불법 촬영물 22개를 소지하고 있었던 것으로 파악됐다. 경찰은 A씨가 운영하는 대화방에 있던 참여자 100여명에 대해서도 계정 등을 추적하고 있다.

학교에서 딥페이크(허위 영상물) 성범죄 피해가 발생하면 절차가 신속하게 진행되는 학교폭력(학폭) 신고만으로 즉시 삭제를 요청할 수 있게 된다. 서울시교육청·서울시·서울중앙지검·서울경찰청은 10일 서울 중구 서울시청에서 딥페이크 긴급 대응을 위한 업무협약을 체결했다. 딥페이크 가해자와 피해자 상당수가 10대인 만큼 피해 영상물의 신속한 삭제와 차단, 피해자 일상 회복까지 통합 지원체계를 만든다는 취지다. 학교 내에서 딥페이크 범죄·피해가 확인되면 학교에서 시로 관련 정보를 연계하는 핫라인을 가동하기로 했다. 피해자가 직접 나서지 않고 교사나 학교 전담경찰관을 통해 서울 디지털성범죄 안심지원센터(안심지원센터)에 의뢰해 피해 사진·영상 삭제를 요청하는 방식이다. 기존엔 안심지원센터 피해지원관이 검찰과 경찰에게서 영상물을 받아 오는 방식이었지만 이번 협약을 계기로 2025년부터는 시스템을 통해 시가 한꺼번에 영상을 확인하고 삭제 작업을 지원할 수 있게 됐다. 이에 따라 딥페이크 피해 학생은 학폭 신고만으로 온라인상의 불법 합성물에 대한 즉시 삭제 요청을 할 수 있게 된다. 법률·심리 상담 지원도 요청할 수 있다. 딥페이크 성범죄 예방 교육을 강화한다. 청소년 가해자가 범죄의 심각성을 인지하지 못하고 놀이나 장난쯤으로 여기는 사례가 많아서다. 서울 시내 1300여개 학교, 시립청소년시설 등과 협력해 관련 캠페인도 추진한다. 시교육청은 “2021년부터 매년 1000학급 이상 실시하고 있는 ‘찾아가는 디지털성범죄 예방교육’을 피해 발생 학교 중심으로 확대할 것”이라고 설명했다. 아울러 아동·청소년 수사 시 서울시 상담원이 동행해 피해자를 보호·지원하기로 했다. 가해자는 검찰청과 연계해 시에서 1명당 14회의 재발 방지 상담을 한다. 앞서 교육부가 지난달 28일부터 이달 6일까지 전국 17개 시도교육청을 통해 학교 딥페이크 성범죄 피해를 조사한 결과 누적 피해자 617명 가운데 학생이 95.3%인 588명이었다. 서울 디지털성범죄 안심지원센터에 접수된 피해자는 2022년 10명, 2023년 17명에서 올해 304명으로 늘었다.

또래 여학생의 사진을 이용해 딥페이크 성 착취물을 만든 10대 고등학생이 처벌을 받게 됐다. 광주경찰청 사이버범죄수사대는 아동·청소년 성 보호에 관한 법률 위반 혐의로 10대 A군을 불구속 송치했다고 9일 밝혔다. A군은 지난해 6월부터 지난달까지 이른바 ‘텔레그램 봇’을 이용해 같은 학교 피해자 20여명의 사진을 합성해 휴대전화에 보관한 혐의를 받고 있다. 현재까지는 성 착취물이 유포되지는 않은 것으로 파악되고 있다. A군의 범행은, 우연히 A군의 휴대폰에서 딥페이크 영상물을 발견한 친구가 피해자들에게 알리면서 드러났다. 경찰은 피해자 7명으로부터 의심 신고를 받고 A군의 휴대전화를 압수·분석하는 과정에서 추가 피해자를 확인했다. 광주경찰청은 이 사건을 포함해 지금까지 8건의 허위 영상물 사건을 수사해 4건에 대한 혐의를 입증하고 10~20대 피의자 5명을 불구속 송치했다. 이들은 소셜미디어(SNS)에서 등을 통해 확보한 여성 사진을 이용해 성 착취물을 만들고, 일부는 인터넷 게시판에 유포한 것으로 드러났다. 경찰은 또 시 교육청이 전수조사를 통해 확인한 딥페이크 성 착취물 의심 사례 4건을 넘겨받아 수사 중이다. 경찰 관계자는 “딥페이크 피해를 당하거나 목격한 경우 즉시 수사기관에 신고해 도움을 받을 필요가 있다”며 “피해자나 제보자의 신원을 철저하게 보호하고, 검거 시에는 보상금도 지급할 예정이다”고 말했다.

미국 사이버 보안업체 시큐리티히어로가 최근 발표한 ‘2023 딥페이크(허위 영상물) 현황’ 보고서에 따르면 딥페이크 성착취물 피해자의 53%가 한국인이다. 지난해 7~8월 유통된 9만 5820개 영상물 피해자의 99%가 여성인데 상위 피해자 10명 중 8명이 한국 가수다. 미국 경제 일간 월스트리트저널(WSJ)은 “가짜 음란물을 생성·유포하는 세계적인 문제의 진앙지가 한국이라는 것을 시사한다”고 썼다. 새로운 지적은 아니다. 올 3월 프랑스 일간 르몽드는 “(딥페이크를 활용한 성범죄는) 한국에서 수년 전부터 문제였는데 이미 일상적인 일이 됐다”고 보도했다. 한국 남성은 다른 나라 남성보다 관음적일까. 시큐리티히어로 보고서에는 미국 남성 1522명에 대한 설문 결과도 있다. 응답자의 48%가 ‘최근 6개월 동안 최소 한 번 이상 딥페이크 성착취물을 봤다’고 답했다. 이유는 ‘기술에 대한 호기심’(57%), ‘연예인에 대한 관심’(48%), ‘욕구 충족’(36%) 등이었다. 성착취물을 본 사용자의 74%는 ‘죄책감을 느끼지 않았다’고 했다. ‘사람이 아니고’(36%), ‘개인 관심사에 머무는 한 누구를 해치지 않을 거고’(30%), ‘상상보다 조금 현실적일 뿐이며’(29%), ‘실제 포르노와 별반 다르지 않아서’(28%)였다. 응답자의 20%는 ‘관련 기술을 배울 생각을 했다’고 답했다. 가까운 사람이 성착취물의 피해자가 될 경우 73%가 이를 신고할 거라고 답했다. 시큐리티히어로는 “응답자들이 잠재적 피해를 심각하게 인식하고 있다”고 해석했다. 한국 남성들에게 묻는다면 어떤 비율이 나올지 궁금하다. 우리나라의 성범죄 사건은 가해자 중심으로 흘러간다. 올 5월 영국 공영방송 BBC가 ‘버닝썬이 쏘아올린 작은 공’을 유튜브로 방영했다. 5년 전인 2019년 일을 다룬 다큐멘터리를 통해서야 가수 고(故) 구하라가 가해자들과 유착된 경찰을 밝혀내는 데 결정적 역할을 했다는 것이 알려졌다. 그 역시 ‘리벤지 포르노’(전 연인에 대한 보복성 음란물 유포)의 피해자다. 연예인의 ‘몰카’ 사건을 보도하면서 비뚤어진 팬덤의 피해자가 된 기자들, 유출을 두려워하는 몰카 피해자들의 이야기를 담았다. ‘이 다큐가 한국에서가 아니라 BBC를 통해 나왔다는 게 참 비극이다’는 댓글이 6만개가 넘는 ‘좋아요’를 받았다. 성범죄 판결은 가해자 ‘배려’에 가깝다. 2018년 32개국 사법당국의 공조로 잡힌 ‘웰컴투비디오’의 운영자 손정우는 지난 7월 출소했을 것이다. 세계 최대 아동 성착취물 공유 사이트를 운영한 성범죄 혐의가 1년 6개월, 자금세탁 혐의가 2년이었다. 해당 사건에서 영국의 영상 제작자는 22년, 미국의 사이트 공동운영자는 15년, 영상을 내려받은 사람은 5년형을 선고받았다. 2020년 미국의 손정우 인도 청구를 불허한 재판부의 판결문에 이런 내용이 있다. “범죄인이 국적을 가지고 있는 대한민국에서 주권국가로서 범죄인에 대해 주도적으로 형사처벌 권한을 행사할 수 있다.” 피해자 중심으로 바꿔 보자. “피해자가 국적을 가지고 있는 대한민국에서 주권국가로서 피해자에 대해 주도적으로 보호 권한을 행사할 수 있다”도 필요하지 않나. 메신저 앱인 텔레그램 대화방에서 수많은 성착취 영상물을 제작·유포한 ‘n번방’ 사건이 2020년 알려진 이후 대책이 검토되긴 했다. 그러나 피해 영상물이 발견되면 수사기관이 이를 즉시 삭제할 수 있는 권한을 부여하거나, 징역형 상한을 올리거나, 재유포를 방지하는 당연한 일들은 여전히 불가능하다. 딥페이크 성범죄로 인한 실형 또한 극히 드물다. 합성 수준이 낮아서, 범죄 수익이 적어서라는데 이 논점은 피해자의 고통과는 상관없다. 텔레그램이 지난 3일 방송통신심의위원회에 긴급 삭제를 요청한 영상물 25건을 모두 삭제했다는 이메일을 보내왔단다. 경찰이 딥페이크 성범죄 방조 혐의로 내사에 착수한 다음날이다. 성범죄 동영상이 유포되는 플랫폼 기업들은 정부 움직임에 따라 움직인다. 생성형 인공지능(AI) 발달로 1분짜리 딥페이크를 무료로 25분 만에 만들 수 있단다. 정치권과 정부가 요즘 호들갑을 떠는 만큼 빠르게 결과물이 나올 거라 믿고 싶다. 직무유기가 반복되면 한국은 ‘성범죄 선진국, 수사·처벌 후진국’으로 오랫동안 남을 거다. 전경하 논설위원

딥페이크 성 착취물 유포의 온상으로 지목된 텔레그램 국내 이용자가 지난달 큰 폭으로 늘어난 것으로 나타났다. 증가폭의 3분의 1은 10대 이하로 최근 딥페이크 관련 사건이 수면 위로 떠오르자 호기심에 접속한 청소년이 많은 것으로 분석된다. 정부가 딥페이크 방지 대책 마련에 나선 가운데 딥페이크 탐지 기술을 무료로 출시한 기업의 주가가 오르는 등 보안주에 대한 관심도 커지는 모습이다. 텔레그램 이용자수, 지난달 약 31만명 증가5일 앱 분석 서비스 모바일인덱스에 따르면 지난달 텔레그램 월간 활성 이용자(MAU)는 347만 1421명으로 전월 대비 31만 1130명 늘었다. 이는 2021년 3월 앱 마켓 집계가 시작된 이후 최대 증가폭으로 연령별로는 10대 이하가 9만 9980명으로 다수를 차지했다. 국내에서 접속할 수 있는 앱스토어에서 텔레그램의 연령 등급은 12세 이상인데, 최근 특정 인물의 얼굴 등을 영상에 합성한 딥페이크 논란이 확산하면서 호기심에 텔레그램에 접속한 10대가 늘어난 것으로 추정된다. 딥페이크 사건의 경우 가해자와 피해자 모두 10대의 비중이 크다. 경찰청에 따르면 논란 이후 당국의 집중단속이 이뤄진 지난달 26~30일 접수된 딥페이크 범죄 신고는 총 118건으로 특정된 피의자 33명 중 31명, 검거된 7명 중 6명이 10대로 파악됐다. 여성가족부 산하 한국여성인권진흥원에 따르면 올 들어 지난달 25일까지 디지털성범죄피해자 지원센터에 딥페이크 관련 피해 지원을 요청한 781명 중 288명(36.9명)은 10대 이하였다. 딥페이크 대응 예산 증액에 대응주·보안주 관심딥페이크 성범죄가 사회 문제로 떠오르자 법무부는 최근 이에 대응하기 위한 분석장비 도입 예산을 12억여원 증액하기로 했다. 이에 따라 책정된 관련 예산은 총 122억 5000만원이다. 소식이 전해지자 이른바 ‘딥페이크 관련주’로 통하는 보안 관련주들이 장중 급등세를 보였다. 한컴위드는 장중 30.00% 상승하며 상한가를 기록했고, 모니터랩도 29.88% 상승하며 가격제한폭까지 올랐다. 이날 딥페이크 탐지 서비스인 ‘페이크체크’의 베타 버전을 출시한 샌즈랩의 주가도 크게 올랐다. 페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업도르하면 수 초 내로 위조 진위 여부를 분석해 판별 결과를 알려주는 서비스로, 회원가입이나 인증 등 번거로운 절차들을 없애 누구나 쉽게 무료로 이용할 수 있도록 했다. 샌즈랩 측은 “현재 국민들이 직면한 사회적 이슈에 조금이나마 도움을 보태기 위해 해당 서비스를 자체 구축하고, 유지하는 데 드는 모든 비용은 사회 공헌 차원에서 직접 부담하기로 했다”고 설명했다.

최근 여성의 얼굴에 음란물을 합성·유포하는 ‘딥페이크 성범죄’가 확산하는 가운데 모델 아이린 측도 피해를 호소하며 강경 대응을 예고했다. 4일 아이린의 소속사 사람엔터테인먼트는 공식 인스타그램에 “최근 소속 아티스트인 아이린을 대상으로 딥페이크 제작물이 불법 제작 및 유포되는 사례가 발생했다”고 밝혔다. 이어 “당사에서는 지속적인 모니터링을 통해 관련 자료를 수집할 예정이다. 관련한 사례를 발견하시면 제보 부탁드린다. 앞으로도 관련한 불법 행위들에 대해 강경하게 대응할 예정”이라고 전했다. 딥페이크는 인공지능을 기반으로 이미지를 합성하는 기술로, 최근 딥페이크를 악용한 불법 합성 사진 및 영상이 심각한 사회 문제가 되고 있다. 경찰청은 지난달 26일부터 30일까지 딥페이크 성범죄 특별 집중 단속 결과 총 118건의 신고를 접수해 33명의 피의자를 특정했으며 이 중 7명을 검거했다. 특히 대중에 노출된 연예인은 오래 전부터 합성 사진 등의 피해 대상이 돼 왔다. 기술이 발전함에 따라 딥페이크 범죄도 확산하자 소속사들도 강력 대응에 나서고 있다. 아이린에 앞서 그룹 (여자)아이들, 트와이스, 블랙핑크, 가수 권은비 측이 딥페이크 피해를 알리며 법적대응을 시사했다. 지난 28일(현지시간) 미국 일간 월스트리트저널(WSJ)에 따르면 미국의 사이버 보안 업체인 ‘시큐리티 히어로’는 최근 발표한 ‘2023 딥페이크 현황’ 보고서에서 한국이 딥페이크 성 착취물에 가장 취약한 국가로 나타났다고 밝혔다. 보고서에 따르면 지난해 딥페이크 성착취물 사이트 10곳의 영상 9만 5820건을 분석한 결과 전세계에 유포된 딥페이크 음란 합성물 피해자 중 53%가 한국인인 것으로 집계됐다. 이들 대부분이 가수와 배우 등 연예인인 것으로 나타났다.

최근 4년 반 동안 디지털성범죄피해자지원센터(디성센터)에 ‘딥페이크 성착취물’을 비롯해 불법촬영물을 지워달라고 요청한 건수가 94만건에 달했으나 이 가운데 약 29%인 27만건이 삭제되지 못한 것으로 나타났다. 부족한 대응 인력이 주요 원인으로 꼽히지만 삭제 요청을 받은 기업이 이를 반드시 이행하도록 제도를 개선해야 한다는 목소리도 함께 커지고 있다. 4일 더불어민주당 김남희 의원이 여성가족부에서 제출받은 자료에 따르면 2020년부터 올해 6월까지 여성가족부 산하 한국여성인권진흥원 내 디성센터가 접수한 딥페이크와 성적 모욕 이미지 등 불법촬영물 삭제 요청은 93만 8651건이다. 이 가운데 삭제하지 못한 건수는 26만 9917건(28.8%)에 달한다. 디성센터는 24시간 상담과 불법촬영물 삭제 지원 서비스를 제공하는 기관이다. 피해자로부터 삭제 신청이 접수되면 불법촬영물이 발견된 플랫폼 기업에 이를 지울 것을 요청하고 이후 조치 결과를 확인한다. 삭제 요청 건수는 2021년 16만 6000여건, 2022년 20만 6000여건, 2023년 24만 3000여건으로 매년 최소 3만건 이상씩 불어났다. 올해에도 6월까지 지난해 68% 수준인 16만 5000여건의 삭제 요청이 접수됐다. 미삭제 건수는 2021년 4만 2000여건에서 2023년 7만 5000여건으로 증가해 2년 만에 79.7% 늘었다. 올해 상반기에는 전년의 56%에 달하는 4만 2000여건을 지우지 못했다. 해마다 연간 미삭제 비율은 25% 정도다. 기술의 발전으로 딥페이크 제작이 쉬워지면서 피해가 눈덩이처럼 불어나고 있다. 3일 YTN라디오 ‘이이선 최수영 이슈앤피플’에 출연한 김덕진 IT커뮤니케이션연구소장에 따르면 인공지능(AI) 툴을 활용하면 음란물 제작에 20초도 걸리지 않는다고 한다. 김 소장은 “인플루언서가 찍은 숏폼 영상에 AI가 얼굴만 딴다. 기술이 놀라운데 이런 것들이 악용되는 사이트가 있다”고 짚었다. 아이돌을 좋아하는 팬들을 위해 찍은 ‘직캠’ 영상이나 자체 홍보를 위해 찍은 숏폼 영상이 범죄의 표적이 되고 있다. 최근 트와이스의 소속사 JYP엔터테인먼트, 블랙핑크가 소속된 YG엔터테인먼트, (여자)아이들이 속한 큐브엔터테인먼트, 권은비가 있는 울림엔터테인먼트 등이 딥페이크 피해를 보고 법적 대응에 나섰다. 일반인 역시 공개된 사진에 알몸을 합성 당해 피해를 보는 경우가 많다. 한 초등학교 교사 A씨는 자신의 사진과 합성된 성착취물이 신상 정보와 함께 단톡방에서 퍼지는 끔찍한 경험을 했다. 가해자로 위장해 진범을 5일 만에 잡아낸 A씨는 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 말했다. 피해가 커지는 상황이지만 대책은 뾰족하지 않다. 디성센터의 인력은 부족하고 강제성도 약하다. 전날 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 이수정 경기대 범죄심리학과 교수도 “불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”고 지적했다. 김남희 의원은 “불법촬영물 10건 중 3건을 삭제하지 못하면서 재유포 문제 등이 발생하고 있다”며 “정부가 대책으로 내놓은 ‘플랫폼 자율규제 강화’에 대한 한계가 뚜렷하게 드러난 만큼 특단의 조치가 필요하다”고 강조했다.

음란물에 유명 연예인의 얼굴을 합성한 딥페이크 영상이나 아동·청소년 성 착취물을 SNS 등을 통해 판매한 10대 3명이 경찰에 붙잡혔다. 부산경찰청 여성·청소년수사계는 성폭력 범죄 처벌 특례법(허위 영상물 편집·반포), 아동·청소년 성 보호에 관한 법률(영리 목적 성 착취물 판매) 위반 혐의로 10대 A군에 대한 구속영장을 신청했다고 4일 밝혔다. 고등학교를 졸업한 A씨는 지난 4월부터 5월까지 게임 정보를 공유하는 해외 커뮤니티앱에서 연예인 등 유명인의 얼굴을 합성한 딥페이크 1230개, 아동·청소년 성 착취물 4만 4000개를 15명에게 판매해 27만원의 수익을 올린 혐의를 받는다. A군은 SNS에서 이들 영상물을 구매해 되판 것으로 조사됐다. 경찰은 또 고교 졸업생 B군, 고등학교 재학생 C군을 아동·청소년의 성 보호에 관한 법률(영리 목적 성 착취물 판매) 혐의로 검거했다. B군은 구속됐으며, C군은 불구속 상태에서 수사받고 있다. B군은 지난해 12월부터 올해 4월까지 해외 게임정보공유 앱을 통해 아동·청소년 성 착취물 5만4609개를 100여명에게 판매해 총 220만원을 받은 혐의를 받는다. C군은 지난 3월부터 5월까지 해외 SNS에서 구매자 10명에게 아동·청소년 성 착취물을 판매해 95만원의 불법 수익을 올린 혐의다. 이들은 SNS 해시태그와 접속 링크를 포함한 광고성 게시글을 적고, 구매자들이 자신과 접촉할 수 있도록 했으며, 성 착취물 여러 개가 담긴 폴더 하나당 5000원에서 3만원을 받고 판매했다. B, C군은 판매한 성 착취물을 지인 등에게 받았다고 경찰에 진술했다. 경찰은 이들로부터 아동·청소년 성 착취물을 구매한 63명도 검거했다. 이 중 형사처벌이 어려운 10~14세 촉법 소년이 약 20% 정도이며, 나머지는 10대 중반에서 20대 초반이었다. 다만, 딥페이크 영상물은 합성된 대상이 성인을 경우 현행법상 제작·유포자만 처벌할 수 있다. 이 탓에 구매자가 영상을 습득한 이후 유포 행위를 하지 않았다면 처벌하기 어렵다. 경찰 관계자는 “법원의 허가를 받아 딥페이크, 아동·청소년 성 착취물 판매자에게 구매자인 척 접근해 검거했다. 딥페이크 영상 제작·유포 행위 첩보를 적극적으로 수집하고 수사에 착수하는 등 디지털 성범죄에 강력하게 대응하겠다”라고 밝혔다.

‘딥페이크 성범죄’가 심각한 사회 문제로 대두되는 가운데, K팝 여자 아이돌 그룹 멤버들 사이에서도 피해자가 속출하자 대형 연예기획사들이 잇달아 칼을 빼들었다. 3일 그룹 (여자)아이들의 소속사인 큐브엔터테인먼트는 공식 엑스(X·옛 트위터) 계정에 “소속 아티스트를 대상으로 한 악의적인 딥페이크 제작물이 온라인상에 유포되고 있음을 확인했다”며 “해당 사안에 대해 지속적으로 모니터링하며 자료를 수집하고 있으며, 딥페이크 제작자 및 관련 유포자에게는 선처 없는 강력한 법적 조치를 취할 예정”이라고 밝혔다. 앞서 2일에는 그룹 블랙핑크의 소속사인 YG엔터테인먼트도 “광범위하고 악의적으로 이루어지고 있는 해당 불법행위를 계속 모니터링하고 불법 영상물을 삭제·차단하기 위해 노력하고 있으며, 형사절차를 포함하여 가능한 모든 법적 조치를 진행하고 있다”라며 엄정 대응을 예고했다. 블랙핑크의 경우 해외에 본사를 둔 카지노게임 운영사들이 한국 연예인들을 합성한 허위 홍보영상으로 광고를 내보내고 있는데, 멤버 리사를 합성한 허위 영상이 있는 것으로 확인됐다. 트와이스의 소속사인 JYP엔터테인먼트도 지난달 30일 트와이스 공식 팬 커뮤니티에 올린 공지를 통해 “선처 없는 강력한 법적 대응을 진행 중”이라고 밝혔다. K팝 여자 아이돌 가수들은 ‘딥페이크 성범죄’의 최대 피해자라 할 수 있다. 미국 사이버 보안업체 시큐리티 히어로가 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면, 지난해 딥페이크 성착취물 사이트 10곳의 영상 9만 5820건을 분석한 결과 전세계에 유포된 딥페이크 음란 합성물 피해자 중 53%가 한국인인 것으로 집계됐으며, 이들 대부분이 가수와 배우 등 연예인인 것으로 나타났다.

딥페이크 불법 합성물이 제작되고 유포되는 온상인 된 텔레그램이 방송통신심의위원회가 긴급 삭제 요청한 디지털 성범죄 영상물을 모두 삭제한 것으로 파악됐다. 방심위는 3일 “텔레그램 측이 지난 1일 긴급 삭제 요청한 디지털 성범죄 영상물 25건을 모두 삭제했다며 사과의 뜻과 함께 신뢰 관계 구축 의사를 전해왔다”고 밝혔다. 텔레그램은 이날 동아시아 지역 관계자의 공식 이메일 서한을 방심위에 보내 “최근 한국 당국이 자사 플랫폼에서 불법 콘텐츠를 다루는 데(with handling illicit content on our platform) 어려움을 겪고 있다는 언론보도를 알게 됐다”고 밝혔다. 텔레그램 측은 “현재와 같은 상황 전개를 매우 안타깝게 생각한다”면서 “방통심의위와 양측간 오해의 소지가 있었다면 사과한다”고 했다. 그러면서 텔레그램 측은 방심위에 자사와 소통할 전용 이메일을 새로 알렸다. 새로운 이메일 주소로 방심위는 텔레그램이 신고 대상 콘텐츠가 삭제됐는지 즉각 확인할 수 있을 것이라는 설명을 덧붙였다. 방심위 관계자는 “그동안 세계 각국으로부터 보다 적극적인 소통을 요구받아온 텔레그램 측의 이러한 입장 표명은 매우 전향적인 것”이라며 “우리나라에서 최근 발생한 사태에 대해 심각성을 인지하고 향후 협력 의지를 분명히 함으로써 현 사태 해결에 큰 물꼬가 트일 것으로 평가된다”고 말했다. 이어 “이번 기회에 서로 소통하게 된 전용 이메일을 시작으로 핫라인을 구축해 딥페이크 성 착취물 문제를 해결함은 물론 디지털 성범죄 영상의 궁극적 퇴출을 위한 공고한 협력관계를 다져나가기를 기대한다”고 덧붙였다. 텔레그램의 태도가 달라진 것은 창업자이자 최고경영자(CEO)인 파벨 두로프(39)가 지난 24일(현지시간) 프랑스에서 전격 체포된 것과 맞물려 최근 한국 등에서 불거진 딥페이크 범죄가 전 세계적인 이슈로 떠오른 상황과 무관치 않아 보인다. 두로프는 텔레그램이 범죄에 악용되는 것을 막기 위한 조치를 하지 않은 혐의를 받는 것으로 전해지고 있다.

국내 연예계가 ‘딥페이크’(AI 기반 합성) 영상물 제작과 유통에 대한 강력 대응을 경고하고 나섰다. 가수 권은비와 뉴진스에 대한 딥페이크 음란물에 대한 경찰 수사가 진행 중이다. YG엔터테인먼트 관계자는 3일 “소속 아티스트의 인격과 명예에 심각한 위해를 미치는 모든 불법행위에 대해 지속적으로 엄정 대응할 것”이라고 밝혔다. YG 측은 현재 소속 아티스트들과 관련한 부적절한 딥페이크 제작물의 제작 및 유포 상황을 모니터링하고 있다고 강조했다. 불법 영상물의 삭제 및 차단 뿐 아니라 모든 법적 조치도 진행할 방침이다. 블랙핑크의 완전체 그룹 활동을 담당하는 YG에는 신예 그룹 베이비몬스터, 악뮤, 트레저 등이 소속돼 있다. 앞서 JYP엔터테인먼트도 걸그룹 트와이스 멤버들의 얼굴을 합성한 음란물 확산에 대한 강력 대응에 나섰다. 그룹 뉴진스와 가수 권은비 등도 관련 법적 조치를 진행 중이다. 어도어는 지난 6월 “아티스트의 국적 및 외모 등을 조롱하고 모욕하는 게시글, 성적 수치심이나 혐오감을 일으키는 게시물과 허위 사실을 유포하는 댓글을 작성한 자들을 고소장에 전부 포함했다”라고 밝힌 바 있다. 권은비도 지난 7월 초상을 합성한 음란성 사진 등을 유포한 이들을 고소했다. 전 세계 온라인에서 한국인이 딥페이크 음란물 피해를 보고 있는데 특히 한국 여성 가수들이 주된 표적이 되고 있다. 미국의 사이버보안 업체 ‘시큐리티 히어로’가 공개 ‘2023 딥페이크 현황’ 보고서에 따르면 100개 이상의 웹사이트에서 10만개가량의 콘텐츠를 분석한 결과 ‘딥페이크 성 착취물’에 가장 많이 노출된 10명 중 8명이 한국 가수인 것으로 나타났다. 경찰은 지난달 말 딥페이크 성범죄와 관련해 접수된 총 88건의 신고를 조사 중이다. 국내 연예인을 대상으로 한 딥페이크 범죄가 확산하면서 소속사들도 강력 대응에 나서고 있다.

또래 여학생의 허위 성착취물을 사회관계망서비스(SNS)에서 건네받아 피해자의 친구에게 보낸 남학생이 불구속 상태로 재판에 넘겨졌다. 인천지검 여성아동범죄조사부(부장 정희선)는 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·반포 등 혐의로 고교생 A군을 불구속 기소했다고 3일 밝혔다. A군은 지난해 12월 트위터를 통해 알게 된 한 남성으로 부터 B양의 얼굴 사진에 다른 여성의 나체 사진을 ‘딥페이크’ 기술로 합성해 만든 성 착취물을 SNS로 건네받아 피해자의 친구에게 보낸 혐의를 받고 있다. A군과 B양은 서로 모르는 사이며,성 착취물을 제공한 남성의 신원은 아직 확인되지 않았다. 앞서 경찰은 A군을 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 제공 혐의로 송치했으나, 검찰은 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·배포 등 혐의를 추가로 적용했다. 검찰은 “A군이 초범이고 소년범이지만 사안이 중대하다고 보고 기소했으며 앞으로 허위 영상물은 성 착취물로 보고 관련법을 적용하는 방안을 적극적으로 검토하겠다”고 말했다. 검찰에 따르면 허위영상물은 성폭력처벌법상 반포 등 목적이 없는 제작, 단순 소지 행위에 대해서는 처벌 규정이 없다. 그러나 아동·청소년을 대상으로 한 허위영상물은 ‘성착취물’에 해당돼 청소년성보호법위반죄로 처벌할 수 있다.

울산시교육청이 디지털 성범죄 대응 웹 드라마를 제작해 공개했다. 울산시교육청은 전국적으로 확산하는 불법 합성물(딥페이크) 성범죄와 관련해 디지털 성범죄 예방 웹 드라마 영상을 제작해 학교에서 교육 자료로 활용할 수 있도록 했다고 3일 밝혔다. ‘나의 얼굴, 나의 이야기’라는 제목의 이 영상은 총 10분 14초 분량이다. 드라마 형식의 영상에는 불법 합성물 피해를 본 학생이 용기 있게 주위에 도움을 요청해 문제를 해결한다는 내용이다. 이 과정에서 디지털 성범죄 유형과 피해를 봤을 때 대처 방법을 담고 있다. 또 울산지역 디지털 성범죄 특화 상담소인 동구가정성폭력통합상담소의 상담과 지원 과정 등도 확인할 수 있다. 영상은 울산교육청 공식 유튜브 채널을 비롯해 페이스북, 인스타그램 등 SNS에서 볼 수 있다. 아울러 시교육청은 디지털 성범죄 피해 예방과 대응 요령을 담은 카드뉴스도 제작해 교육청 누리집 등에 올렸다. 사진이나 동영상의 불법 촬영과 유포 등 디지털 성범죄 유형과 함께 행동 요령도 함께 안내했다. 시교육청 관계자는 “학생들이 디지털 성범죄에 경각심을 지닐 수 있도록 관련 예방 교육을 강화하겠다”며 “피해 학생에게는 상담과 함께 심리치료를 적극적으로 지원하겠다”고 말했다. 디지털 성범죄 피해가 발생하면 피해 촬영물이나 인터넷 주소(URL) 등의 증거를 확보하고 디지털성범죄피해자지원센터(02-735-8994)에 신고하면 된다. 울산지역 피해 신고와 상담은 울산해바라기센터(052-265-1375), 동구가정성폭력통합상담소(052-252-6778), 여성긴급전화1366(052-1366)으로 하면 된다.

소셜미디어(SNS)를 통해 받은 여학생의 사진을 딥페이크 기술을 이용해 나체사진에 합성해 유포한 고교생이 재판에 넘겨졌다. 이 고교생은 피해 여학생의 허위 합성물을 만든 것으로 모자라 피해 여학생의 친구에게 합성물을 전송하기까지 한 것으로 확인됐다. 인천지검 여성아동범죄조사부(부장 정희선)는 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·반포 등 혐의로 고교생 A군을 불구속 기소했다고 3일 밝혔다. 검찰에 따르면 A군은 지난해 12월 SNS를 통해 알게 된 남성으로부터 피해자 B양의 사진과 개인정보를 건네받은 뒤 B양의 사진을 나체사진과 합성해 유포한 혐의를 받고 있다. A군은 허위 합성물을 B양의 친구에게 보냈다. A군은 B양과 모르는 사이이며, A군에게 B양의 사진과 개인정보를 보낸 남성의 신원은 확인되지 않았다. 앞서 경찰은 A군을 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 제공 혐의로 송치했으나, 검찰은 아동·청소년의 성보호에 관한 법률 성 착취물 소지·배포 등 혐의를 추가로 적용했다. 성폭력 처벌특례법은 허위 영상물을 배포할 의도 없이 제작하거나 소지하기만 할 경우 처벌할 규정이 없다. 그러나 아동·청소년성보호법은 아동·청소년을 대상으로 한 허위 영상물을 ‘성 착취물’로 보고 배포할 의도가 없더라도 제작 및 소지하는 행위를 처벌할 수 있다. 올해 들어 297건 발생·146명 검거딥페이크 성범죄가 기승을 부리고 이에 대한 문제의식이 높아지면서, 올해 들어 발생한 딥페이크 성범죄 건수와 검거 인원이 이미 지난해 1년간의 수준을 넘어선 것으로 나타났다. 황정아 더불어민주당 의원이 경찰청에서 받은 자료에 따르면 올해 1월부터 7월까지 발생한 허위 영상물 범죄는 총 297건으로, 총 146명이 검거됐다. 지난해 발생 건수와 검거 인원은 총 180건, 100명이었으나 7개월만에 지난해 1년간의 수치를 초과했다. 다만 지난 3년간 허위 영상물 범죄로 구속된 인원은 12명으로 전체 검거 인원(257명)의 4.7%에 그친 가운데, 올해 들어서는 구속률이 2.7%(4명 구속)로 낮아졌다. 조지호 경찰청장은 지난 2일 국회 예산결산특별위원회 종합정책질의에서 딥페이크 성범죄 수사 현황에 대해 “지난 한 주간 접수해 수사하는 것만 120건이 넘고 기존에 수사하는 사안까지 포함하면 수백건”이라고 밝혔다. 이어 “검거 인원 대부분인 약 75%가 10대이고, 20대까지 포함하면 약 95%”라며 “경찰청이 처음으로 개발한 딥페이크 탐지 소프트웨어를 최대한 활용해 단속할 계획”이라고 덧붙였다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.