최근 4년 반 동안 디지털성범죄피해자지원센터(디성센터)에 ‘딥페이크 성착취물’을 비롯해 불법촬영물을 지워달라고 요청한 건수가 94만건에 달했으나 이 가운데 약 29%인 27만건이 삭제되지 못한 것으로 나타났다. 부족한 대응 인력이 주요 원인으로 꼽히지만 삭제 요청을 받은 기업이 이를 반드시 이행하도록 제도를 개선해야 한다는 목소리도 함께 커지고 있다. 4일 더불어민주당 김남희 의원이 여성가족부에서 제출받은 자료에 따르면 2020년부터 올해 6월까지 여성가족부 산하 한국여성인권진흥원 내 디성센터가 접수한 딥페이크와 성적 모욕 이미지 등 불법촬영물 삭제 요청은 93만 8651건이다. 이 가운데 삭제하지 못한 건수는 26만 9917건(28.8%)에 달한다. 디성센터는 24시간 상담과 불법촬영물 삭제 지원 서비스를 제공하는 기관이다. 피해자로부터 삭제 신청이 접수되면 불법촬영물이 발견된 플랫폼 기업에 이를 지울 것을 요청하고 이후 조치 결과를 확인한다. 삭제 요청 건수는 2021년 16만 6000여건, 2022년 20만 6000여건, 2023년 24만 3000여건으로 매년 최소 3만건 이상씩 불어났다. 올해에도 6월까지 지난해 68% 수준인 16만 5000여건의 삭제 요청이 접수됐다. 미삭제 건수는 2021년 4만 2000여건에서 2023년 7만 5000여건으로 증가해 2년 만에 79.7% 늘었다. 올해 상반기에는 전년의 56%에 달하는 4만 2000여건을 지우지 못했다. 해마다 연간 미삭제 비율은 25% 정도다. 기술의 발전으로 딥페이크 제작이 쉬워지면서 피해가 눈덩이처럼 불어나고 있다. 3일 YTN라디오 ‘이이선 최수영 이슈앤피플’에 출연한 김덕진 IT커뮤니케이션연구소장에 따르면 인공지능(AI) 툴을 활용하면 음란물 제작에 20초도 걸리지 않는다고 한다. 김 소장은 “인플루언서가 찍은 숏폼 영상에 AI가 얼굴만 딴다. 기술이 놀라운데 이런 것들이 악용되는 사이트가 있다”고 짚었다. 아이돌을 좋아하는 팬들을 위해 찍은 ‘직캠’ 영상이나 자체 홍보를 위해 찍은 숏폼 영상이 범죄의 표적이 되고 있다. 최근 트와이스의 소속사 JYP엔터테인먼트, 블랙핑크가 소속된 YG엔터테인먼트, (여자)아이들이 속한 큐브엔터테인먼트, 권은비가 있는 울림엔터테인먼트 등이 딥페이크 피해를 보고 법적 대응에 나섰다. 일반인 역시 공개된 사진에 알몸을 합성 당해 피해를 보는 경우가 많다. 한 초등학교 교사 A씨는 자신의 사진과 합성된 성착취물이 신상 정보와 함께 단톡방에서 퍼지는 끔찍한 경험을 했다. 가해자로 위장해 진범을 5일 만에 잡아낸 A씨는 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 말했다. 피해가 커지는 상황이지만 대책은 뾰족하지 않다. 디성센터의 인력은 부족하고 강제성도 약하다. 전날 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 이수정 경기대 범죄심리학과 교수도 “불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”고 지적했다. 김남희 의원은 “불법촬영물 10건 중 3건을 삭제하지 못하면서 재유포 문제 등이 발생하고 있다”며 “정부가 대책으로 내놓은 ‘플랫폼 자율규제 강화’에 대한 한계가 뚜렷하게 드러난 만큼 특단의 조치가 필요하다”고 강조했다.

경기콘텐츠진흥원(원장 탁용석, 이하 경콘진)은 임직원의 인권 경영 강화를 위한 ‘경콘진 인권 정책 선언문’을 제정하고, 3일 부천 본원에서 인권 정책 선포식을 개최했다. ‘인권 경영’이란 사회적 책임 경영의 하나로, 기관의 사업 수행 과정에서 임직원, 지원 기업, 일반 도민 등 이해관계자의 인권침해를 예방하고, 피해자가 발생할 경우 구제하는 ‘사람 중심’ 경영을 의미한다. 경콘진 인권 정책 선언문은 지난 3월 법무부가 공표한 ‘제4차 국가인권정책기본계획’에 따라 제정되었다. 경콘진은 디지털 시대의 인권 수요를 반영한 제4차 국가인권정책기본계획을 디지털과 가장 인접한 ‘콘텐츠 분야’에서 선제적으로 받아들여야 한다고 판단, 경기도 산하 공공기관 최초로 이를 반영해 인권 정책을 제정·선포했다. 특히, 최근 논란이 되는 생성형 AI 기술을 활용한 디지털 성범죄 등 기술 발전에 따른 새로운 유형의 인권 침해 사례가 급증하며 빠른 대응이 요구되었다. 7개 항목으로 구성된 인권 정책 선언문의 주요 내용으로는 체계적 인권 정책 수립, 인권 제도 지속성 확보, 사회적 약자 보호, 인권 존중 문화 조성, 인권 친화적 업무 활동, 인권 의식 확산, 그리고 디지털 분야 인권 침해 방지를 위한 기준 제시 등이 있다. 경콘진 탁용석 원장은 “모든 이해관계자가 삶의 질 향상을 위한 다양한 권리를 누릴 수 있도록 제도와 문화를 개선하고 있다”라며, “경콘진은 인간 존엄의 가치가 뿌리내릴 수 있도록 노력하는 기관이 되겠다”라고 말했다.

국민의힘이 ‘딥페이크’ 성범죄 대책 마련을 위해 출범하기로 한 당내 태스크포스(TF) 위원장에 안철수 의원을 임명한 것으로 알려졌다. 4일 서울신문 취재를 종합하면 추경호 원내대표는 최근 안 의원에 ‘딥페이크 대책 마련 등이 꼭 필요하지 않느냐, 그런 일을 해줄 수 있겠나’라는 취지로 위원장직을 제안했다. 안 의원은 이에 “전문가들이나 예산 등 여건만 되면 마다할 이유가 없다”라며 이를 수용했다. 앞서 추경호 국민의힘 원내대표는 전날 국회에서 열린 ‘딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 “딥페이크와 관련된 문제가 한두 군데 상임위에 속한 문제가 아니기 때문에 이른 시일 내 딥페이크 관련 TF를 구성할 것”이라고 밝힌 바 있다. 안 의원이 TF 위원장을 맡게된 배경에는 지난 5월 22대 국회 1호 법안으로 발의한 ‘인공지능(AI) 산업 육성 및 신뢰 확보에 관한 법률안’ 제정안 등이 영향을 미쳤다. 안 의원이 발의한 법안은 고위험 영역 인공지능으로부터 이용자를 보호하기 위한 정부의 역할과 사업자의 책무, 이용자 권리 등을 규정하고, 안전한 인공지능 기술 이용을 위한 신뢰 기반 조성 정책 등을 마련하는 내용을 담고 있다. 국민의힘은 이번주 내로 TF 구성을 마치겠다는 계획이다. TF 위원에는 행정안전위원회 간사인 조은희 의원을 비롯해 국회 법제사법위원회, 과학기술정보방송통신위원회, 교육위원회, 행안위 소속 국민의힘 의원들이 참여할 예정이다. 출범 이후 TF는 한동훈 국민의힘 대표가 강조해 온 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안, 딥페이크를 포함한 허위 영상물 처벌을 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안 등을 논의할 예정이다. 한편 더불어민주당의 ‘딥페이크 성범죄·디지털 성폭력 근절 대책 특별위원회(TF)’ 단장은 6선 추미애 의원이 맡았다.

서울 금천구는 오는 9월 6일부터 7일까지 2일간 금천구청 일대에서 제6회 ‘금천과학축제’를 개최한다고 4일 밝혔다. ‘금천과학축제’는 ‘AI와 공감하는 금천, 과학으로 소통하는 미래’라는 주제로 구 인공지능 사업에 대한 주민들의 관심을 높이고, ‘과학과 함께하는 일상’이라는 인식을 확산하기 위해 기획됐다. 인공지능(AI), 우주, 환경 등 과학과 관련된 50개 이상의 다양한 공연 및 강연, 체험과 전시 프로그램이 진행될 예정이다. 과학축제 기념식은 7일 낮 12시에 열리며, 인간형 로봇 ‘에이미’가 전문 사회자와 함께 사회를 볼 예정이다. 대형로봇 ‘타이탄’과 4족 보행 로봇의 합동 공연이 기념식을 포함해 축제 기간 하루 2번씩 총 4차례 진행된다. 과학의 이해를 돕고 흥미를 높이기 위해 우주탐사와 과학수사를 주제로 특별 강연이 진행된다. 6일 오후 1시 30분에는 주 무대에서 아시아인 최초로 미 항공우주국(NASA) 우주생물학 탐사 프로젝트에 참여한 국내 1호 과학 탐험가인 문경수 대장이 ‘AI와 로봇의 우주탐험’을 강연한다. 7일 오후 1시 30분에는 금나래아트홀에서 표창원 범죄과학연구소장이 ‘AI 시대 과학수사와 프로파일링 진로 특강’을 진행한다. 과학동아리 9개 팀이 6일 금나래아트홀에서 ‘행복한 지구, 착한 기술’이라는 주제로 ‘G-해커톤 발표회’에서 팀별 아이디어를 제안한다. 7일에는 가족 단위로 참여하는 ‘자율주행 드라이버’ 행사와 ‘스피로 챌린지’가 진행되고, ‘서프라이즈 과학대탐험’ 프로그램에서 기초과학 실험 10여 종을 체험해볼 수 있다. 축제 기간 정문 광장에는 레고 블록으로 미래도시 금천을 표현한 ‘AI 그라운드’가 설치되고, 인공지능을 활용한 자율주행 자동차 코딩, 만화(웹툰) 창작, 글쓰기 체험관 등이 운영된다. 인공지능 홍보관에서는 인공지능과 관련해 구에서 새롭게 선보일 사업 19개와 시행 중인 사업 17개를 소개할 예정이다. SK 사회복지재단(행복커넥트)과 협업해 AI 돌봄서비스 3종을 시연하고, 이스트소프트사와 함께 제작한 음성인식 인공지능 챗봇도 운영한다. 물첨벙광장에서는 드론으로 하는 빙고 게임(‘팝드론 챌린지’)과 로봇 탑승 체험을 할 수 있고, 썬큰광장에서는 3D 프린터를 활용한 균형 잠자리와 각도 조절 탁상 선풍기 만들기, 금천그린마일리지, 자기부상열차, 나만의 금고만들기 등이 운영된다. 표창원범죄과학연구소와 함께하는 ‘과학수사 CSI 캠프’가 7일 5회에 걸쳐 평생학습관에서 운영되며, 금천구청 12층 대강당에서도 인공지능 양궁·사격 체험과 가상현실(VR) 스포츠 등 체험 프로그램이 진행된다. 이외에도 국립과천과학관의 과학 원리 체험 콘텐츠인 ‘싸이팝(Sci-PoP)’ 전시와 서울시립과학관이 지원하는 방탈출 버스 체험, 한국천문연구원의 천체사진 공모전 당선작 전시 등 관련 기관과 연계한 프로그램도 마련됐다. 행사장 곳곳에서 프로그램을 체험한 후 도장을 모으면 로봇이 만들어주는 아이스크림을 받을 수 있고, 응원 메시지 참여 이벤트와 방문 인증 이벤트도 진행될 예정이다. 유성훈 금천구청장은 “올해 금천과학축제는 현재 과학계 최대 이슈인 인공지능을 기반으로 한 다양한 기술과 교육, 체험을 선보일 예정”이라며, “주민들이 과학을 즐기고 배우며 우리 과학의 발전과 위대한 힘을 알게 되는 계기가 되길 바란다”라고 말했다.

블라디미르 푸틴 러시아 대통령이 국제형사재판소(ICC)가 지난해 3월 전쟁범죄 혐의로 체포영장을 발부한 이후 처음으로 로마규정 당사국인 몽골을 국빈방문했다. 하지만 몽골이 체포영장을 집행하지 않아 로마규정을 위반했고, 이에 대한 제재 조치가 몽골에 취해질 수 있다고 미 정치전문 매체 폴리티코가 보도했다. 푸틴 대통령은 2일(현지시간) 국빈 방문지인 몽골에 도착했다. 몽골은 ICC 가입 조약인 로마 규정에 서명한 국가로, ICC의 체포영장 집행에 협조해야 하지만, 이를 무시하고 몽골 전통 의상을 입은 의장대 사열로 푸틴 대통령을 환대했다. 폴리티코는 그러나 현재로선 몽골이 푸틴 대통령을 체포할 기미는 전혀 보이지 않고 있다며, 만약 몽골이 행동에 나서지 않는다면 협조 의무를 저버린 혐의로 ICC의 사법처리에 직면할 수 있다고 법률전문가를 인용해 전했다. 국제법 전문가인 타마스 호프만은 “ICC는 몽골을 협조 의무 위반 혐의로 기소할 가능성이 매우 크다”며 “ICC는 이후 사건을 당사국 총회에 회부할 것이고, 당사국 총회는 절차 불이행에 의거해 몽골을 규탄할 수 있다”고 예상했다. 그는 ICC 규정 위반국에 대해 제재와 같은 심각한 처벌은 존재하지 않는다고 지적했다. ICC 회원국인 남아프리카공화국도 제노사이드 혐의로 ICC의 체포영장이 발부된 오마르 알바시르 전 수단 대통령이 2015년 남아공을 방문했을 때 국제사회의 요구에도 불구하고 그를 체포하지 않았으나 별다른 제재를 받지 않고 넘어갔다. 국제 인권단체 국제앰네스티(AI) 몽골 지부는 “도망자를 숨겨주는 것은 정의를 방해하는 것에 그치지 않는다”며 “몽골이 푸틴 대통령에게 일시적인 피난처를 제공한다면 이는 국제법상 가장 심각한 범죄에 대한 불처벌을 보장하는 것에 사실상 공모하는 셈”이라고 몽골 정부를 비판했다. 크렘린궁은 푸틴 대통령이 몽골에 도착하기 전 브리핑에서 몽골이 ICC 사법권을 인정하는 문제가 이번 정상 회담의 의제에 포함되지 않았다고 밝혀 푸틴에 대한 ICC 체포 영장 문제가 대수롭지 않다는 듯한 반응을 드러냈다. 블룸버그통신은 이번 푸틴 대통령의 몽골 방문에 정통한 소식통 두 명을 인용해 그가 몽골 방문에 앞서 체포되지 않을 것이라는 확약을 받았다고 보도했다. 이번 푸틴 대통령의 방문은 첫 몽골인 ICC 재판관이 나온 지 불과 6개월 만에 이뤄진 것이라고 블룸버그는 짚었다. 이처럼 몽골이 ICC 체포 영장을 집행하지 않으면서, 푸틴 대통령은 몽골에서 여러 일정을 소화할 예정이다. 푸틴 대통령은 3일 오흐나 후렐수흐 몽골 대통령과 회담한다. 몽골 정부는 두 정상이 “관계와 협력 문제”에 대해 논의할 것이라고 전했다. 이 밖에도 소련군과 몽골군이 할힌골 강에서 일본을 상대로 거둔 공동 승리 85주년 기념식에 참석한다. 유럽 크기의 절반 정도의 면적에 인구는 340만명에 불과한 몽골에 중국 외에 국경을 접한 또 하나의 나라인 러시아는 긴밀한 교역 상대로 꼽힌다. 러시아는 몽골을 거쳐 중국으로 이어지는 가스관 ‘파워 오브 시베리아 2’를 구축할 목표를 세운 상태다. 푸틴 대통령은 앞서 몽골의 신문 어누더와의 인터뷰에서 이 가스관 건설 노력의 일부로써 몽골에도 가스를 공급할 수 있다고 언급했다.

여교사들의 얼굴을 나체 사진에 합성해 소셜미디어(SNS)에 유포한 고등학생이 학원 선배와 유명인(인플루언서) 등을 상대로도 딥페이크 범행을 저지른 사실이 확인됐다. 인천 남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 입건한 10대 고교생 A군의 SNS 계정을 분석해 추가 범행을 확인했다고 3일 밝혔다. A군은 지난 7월 인공지능(AI)을 이용한 딥페이크 기술로 고등학교 여교사 2명의 얼굴을 나체 사진에 합성한 뒤 SNS에 유포한 혐의를 받고 있다. 경찰은 피해 여교사들이 용의자로 A군을 지목하자 그의 소속 학교 학생 300명가량의 SNS 계정을 일일이 확인해 관련 정황 증거를 확보했다. 이후 A군을 상대로 압수수색 영장을 신청했으나 검찰에서 반려됐다. 이에 경찰은 직접 A군의 주거지를 찾아 A군에게 범행 사실을 캐물었고 추가 소환 조사도 진행했다. A군은 최초 조사에서는 혐의를 완강히 부인하다가 수사관들의 추궁에 결국 범행 사실을 인정했다. A군은 범행 동기에 대해 “예뻐서 (불법 합성물을) 만들게 됐다”고 진술했다. 경찰 관계자는 “피해자들의 진정서를 접수한 뒤 최대한 신속하게 수사를 진행했고 조만간 A군을 검찰에 송치할 예정”이라고 말했다.

국제형사재판소(ICC)가 블라디미르 푸틴 러시아 대통령을 상대로 발부한 체포영장을 가지고도 체포하지 않는 몽골을 둘러싼 논란이 뜨겁다. ICC의 체포영장 집행 대상인 푸틴 대통령은 2일(현지시간) 국빈 방문지인 몽골에 도착했다. 몽골은 ICC 가입 조약인 로마 규정에 서명한 국가로 ICC의 체포영장 집행에 협조해야 한다. 그러나 푸틴 대통령을 기다린 건 체포할 병력이 아니라 몽골 전통 의상을 입은 의장대의 사열이었다. ICC는 우크라이나 침략 전쟁을 일으킨 후 우크라이나 어린이 강제 이주 등의 혐의를 적용해 지난해 3월 푸틴 대통령을 상대로 체포영장을 발부한 바 있다. 그간 푸틴 대통령이 북한 등 우방국을 중심으로 외교활동을 펼쳤는데 체포 영장 발부 이후 처음으로 ICC 회원국 땅을 밟으면서 국제사회와 인권단체는 몽골이 푸틴 대통령을 체포해 ICC 회원국으로서 책임을 다하라고 촉구했다. 그러나 미국 정치전문 매체 폴리티코는 몽골이 푸틴 대통령을 체포할 기미는 전혀 보이지 않고 있다고 보도했다. 그러면서 만약 몽골이 행동에 나서지 않는다면 협조 의무를 저버린 혐의로 ICC의 사법처리에 직면할 수 있다고 법률전문가를 인용해 전했다. 국제법 전문가인 타마스 호프만은 “ICC는 몽골을 협조 의무 위반 혐의로 기소할 가능성이 매우 크다”며 “ICC는 이후 사건을 당사국 총회에 회부할 것이고 당사국 총회는 절차 불이행에 의거해 몽골을 규탄할 수 있다”고 예상했다. 다만 ICC 규정 위반에 대해 제재와 같은 실질적인 처벌은 불가능한 것으로 알려졌다. ICC 회원국인 남아프리카공화국도 제노사이드 혐의로 ICC의 체포영장이 발부된 오마르 알-바시르 전 수단 대통령이 2015년 남아공을 방문했을 때 국제사회의 요구에도 불구하고 그를 체포하지 않았으나 별다른 제재를 받지 않고 넘어갔다. 국제 인권단체 국제앰네스티(AI) 몽골 지부는 “도망자를 숨겨주는 것은 정의를 방해하는 것에 그치지 않는다”며 “몽골이 푸틴 대통령에게 일시적인 피난처를 제공한다면 이는 국제법상 가장 심각한 범죄에 대한 불처벌을 보장하는 것에 사실상 공모하는 셈”이라고 몽골 정부를 비판했다. 크렘린궁은 푸틴 대통령이 몽골에 도착하기 전 브리핑에서 몽골이 ICC 사법권을 인정하는 문제가 이번 정상 회담의 의제에 포함되지 않았다고 밝혀 ICC 체포 영장 문제가 대수롭지 않다는 듯한 반응을 드러냈다. 블룸버그통신이 몽골 소식통을 인용한 보도에 따르면 푸틴 대통령은 몽골 방문에 앞서 체포되지 않을 것이라는 확약을 받았다고 한다. 이처럼 몽골이 ICC 체포 영장을 집행하지 않으면서 푸틴 대통령은 몽골에서 여러 일정을 소화할 예정이다. 푸틴 대통령은 3일 오흐나 후렐수흐 몽골 대통령과 회담이 예정됐다. 몽골 정부는 두 정상이 “관계와 협력 문제”에 대해 논의할 것이라고 전했다. 이 밖에도 소련군과 몽골군이 할힌골강에서 일본을 상대로 거둔 공동 승리 85주년 기념식에 참석한다. 인구 340만명에 불과한 몽골은 중국과 러시아하고만 국경을 접하고 있다. 이들의 눈치를 살필 수밖에 없는 위치다. 러시아는 몽골의 긴밀한 교역 상대로 러시아는 몽골을 거쳐 중국으로 이어지는 가스관 ‘파워 오브 시베리아 2’를 구축할 목표를 세운 상태다. 푸틴 대통령은 몽골 언론과의 인터뷰에서 이 가스관을 통해 몽골에도 가스를 공급할 수 있다고 언급했다.

국내 연예계가 ‘딥페이크’(AI 기반 합성) 영상물 제작과 유통에 대한 강력 대응을 경고하고 나섰다. 가수 권은비와 뉴진스에 대한 딥페이크 음란물에 대한 경찰 수사가 진행 중이다. YG엔터테인먼트 관계자는 3일 “소속 아티스트의 인격과 명예에 심각한 위해를 미치는 모든 불법행위에 대해 지속적으로 엄정 대응할 것”이라고 밝혔다. YG 측은 현재 소속 아티스트들과 관련한 부적절한 딥페이크 제작물의 제작 및 유포 상황을 모니터링하고 있다고 강조했다. 불법 영상물의 삭제 및 차단 뿐 아니라 모든 법적 조치도 진행할 방침이다. 블랙핑크의 완전체 그룹 활동을 담당하는 YG에는 신예 그룹 베이비몬스터, 악뮤, 트레저 등이 소속돼 있다. 앞서 JYP엔터테인먼트도 걸그룹 트와이스 멤버들의 얼굴을 합성한 음란물 확산에 대한 강력 대응에 나섰다. 그룹 뉴진스와 가수 권은비 등도 관련 법적 조치를 진행 중이다. 어도어는 지난 6월 “아티스트의 국적 및 외모 등을 조롱하고 모욕하는 게시글, 성적 수치심이나 혐오감을 일으키는 게시물과 허위 사실을 유포하는 댓글을 작성한 자들을 고소장에 전부 포함했다”라고 밝힌 바 있다. 권은비도 지난 7월 초상을 합성한 음란성 사진 등을 유포한 이들을 고소했다. 전 세계 온라인에서 한국인이 딥페이크 음란물 피해를 보고 있는데 특히 한국 여성 가수들이 주된 표적이 되고 있다. 미국의 사이버보안 업체 ‘시큐리티 히어로’가 공개 ‘2023 딥페이크 현황’ 보고서에 따르면 100개 이상의 웹사이트에서 10만개가량의 콘텐츠를 분석한 결과 ‘딥페이크 성 착취물’에 가장 많이 노출된 10명 중 8명이 한국 가수인 것으로 나타났다. 경찰은 지난달 말 딥페이크 성범죄와 관련해 접수된 총 88건의 신고를 조사 중이다. 국내 연예인을 대상으로 한 딥페이크 범죄가 확산하면서 소속사들도 강력 대응에 나서고 있다.

서울시의회 교육위원회 소속 채수지 의원(국민의힘·양천1)이 지난 2일 열린 제326회 임시회 교육위원회 업무보고에서 서울시 교육청이 미성년자의 피해가 심각한 딥페이크 범죄에 대한 적극적인 대책 마련에 나서 달라고 당부했다. 채 의원이 서울시교육청에서 받은 자료에 따르면 21년도부터 올해 8월 말까지 서울시 관내 초·중·고 학교에서 발생한 딥페이크 학교폭력 접수 현황은 50건이다. 딥페이크한 사진을 당사자에게 전송 및 협박하거나 텔레그램 등으로 유포하는 방식으로 범죄가 이뤄졌으며, 가해 학생에게는 학내봉사 및 출석정지, 전학 등의 조치가 취해진 것으로 확인됐다. 채 의원은 설세훈 권한대행에게 “디지털성범죄 예방교육 관련 자료를 살펴보니 단순히 ‘야하다’의 개념을 논의해보자 등 간접적이고 은유적인 접근방식”이라고 지적하며 “딥페이크와 같은 디지털성범죄는 폐쇄적이고 비밀리에 이뤄지는 특성이 있는 심각한 범죄이고 구체적인 피해와 처벌을 알 수 있게 교육청에서 가이드라인을 제시해야 한다”고 강조했다. 이에 설세훈 권한대행은 “타인의 사진을 도용하는 것은 명백한 범죄이며, 교육과정에도 포함하겠다” 답했다. 끝으로 채 의원은 “AI가 빠르게 발전하고 있어 학교에서 이뤄지는 성교육이 뒤처지는 양상을 보이니 예방교육과 가이드라인에 대한 점검에 나서야 한다”고 당부하며 “딥페이크 성범죄와 같은 민감한 문제에 서울시교육청이 선제적으로 대응해달라”고 요청했다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

22대 국회가 임기 시작 96일 만인 어제 약식 개원식을 겸해 정기국회 개회식을 열었다. 윤석열 대통령은 참석하지 않았다. 개원식은 역대 최악의 국회로 평가받던 21대 국회(7월 16일)보다 늦어 1987년 직선제 개헌 이후 최장의 지각국회로 기록됐다. 대통령의 개원식 불참도 6공화국 들어 처음이다. 대통령실은 “특검과 탄핵을 남발하는 국회의 정상화가 먼저”라고 불참 배경을 밝혔다. 압도적 여소야대로 출발한 22대 국회가 관례도, 국회법 취지도 무시하고 오직 힘의 논리와 정쟁으로 국정의 발목을 잡으면서 누적된 불신의 결과이긴 하지만 안타까운 일이다. 그제 열린 여야 대표 회담을 계기로 국회가 하루빨리 정상적인 역할을 다함으로써 정부의 예산안 시정연설 때는 대통령이 직접 참석하고 협치의 국정 운영이 궤도에 오를 수 있기를 기대한다. 여야는 그제 대표 회담에서 양당의 민생 공통공약을 추진하기 위한 협의 기구를 운영하기로 했지만, 각론과 민생 지원의 구체적 방안에 들어가서는 차이점이 적지 않다. 금융투자소득세, 반도체·인공지능(AI)과 국가전력망, 가계·소상공인 지원, 저출생 대책, 딥페이크 성범죄 등 공동 추진 과제를 비롯해 의견차가 크지 않은 민생·경제 법안 위주로 합의폭을 넓혀 갈 필요가 있다. 여야는 의료공백 사태와 관련해서도 정부에 추석 연휴 응급의료 체계 구축을 촉구하는 차원을 넘어 국회 차원의 대책도 서둘러야 한다. 응급실 상황만 앞세워 정부에 의대 증원 보류를 압박하는 것이라면 사태 해결에 도움이 되지 않을 것이다. 지역·필수 의료 살리기 등 본질적 의료개혁의 속도감 있는 추진과 의정(醫政) 대화 구축에 정치권도 힘을 보탤 필요가 있다. 여야는 지구당 부활에 한목소리를 냈지만, 정작 국민 요구가 높은 정치개혁은 불체포특권, 면책특권을 비롯해 국회의원들의 과도한 특권 폐지 또는 축소다. 여야가 선거 때마다 앞다퉈 약속해 온 정치개혁 과제의 입법화도 더이상 늦춰선 안 될 것이다. 채상병특검법, 전 국민 25만원 지급법, 방송 4법, 김건희 여사 특검법 등 여야 시각차가 큰 쟁점 법안들은 민생경제 법안의 발목을 잡지 않도록 별도 트랙으로 충분히 논의하는 등 ‘유연한 전략’이 필요한 시점이다. 여야 대표들의 당내 조율과 설득도 중요하지만, 특히 국민의힘 한동훈 대표가 대통령실과 충분히 소통하고 이를 바탕으로 여야 협상을 주도하는 정치력을 발휘할 필요가 있다. 정부도 필요한 개혁 과제에 대해 여야 구분 없이 적극적인 설명과 협의·설득에 팔을 걷어붙이고 나서야 실질적 성과를 거둘 수 있음을 잊지 말아야 할 것이다.

서울 금천구는 오는 9월 한 달간 정보기술(IT)과 패션 중심 G밸리 가산지역의 대표 축제 ‘금천 GC 페스타’를 개최한다고 2일 밝혔다. ‘금천 GC 페스타’는 지역명 금천(Geum-Cheon)과 새로운 도시 상표 ‘Good City’에서 각각 GC를 따서 지어졌다. ‘금천패션영화제’를 중심으로 다양한 행사와 연계해 G밸리의 과거·현재·미래를 연결하고, 가산동에 많이 거주하는 1인 가구와 2030 직장인의 가치관과 수요를 반영하기 위해 기획됐다. 구는 ‘G밸리위크’ 기간에 맞춰 ‘금천패션영화제’의 개최 시기를 기존 11월에서 9월 초로 변경하고, ‘2024 금천라이브’, ‘금천과학축제’, ‘당신의 금천마켓’, ‘북페스티벌’, ‘금천청년축제’ 등을 준비했다. 2일부터 6일까지는 산업단지 60주년 기념 G밸리 산업문화축제 ‘G밸리위크’가 진행된다. G밸리 근로자 문화행사, 스마트마라톤 대회, 금천 순이의 집 체험관 특별전, 수출상담회 등 다양한 행사가 예정돼있다. 구는 G밸리의 기업과 근로자, 주민들이 함께 즐길 수 있도록 한국산업단지경영자협의회 서울(KIBA), 구로구, 서울시, 한국산업단지공단, 서울경제진흥원(SBA)과 함께 행사를 준비했다. 5일 오후 6시에는 가산동 SK V1센터와 W센터 건물 사이 공간에서 직장인과 1인 가구를 위한 길거리 공연 ‘2024 금천라이브’가 개최된다. 사전에 접수된 G밸리 직장인들의 사연 중 핵심 단어들을 정리해 인공지능(AI) 작곡 프로그램으로 제작한 음악을 선보인다. 정보기술 관련 산업에 주로 종사하는 직장인과 주민들의 공감과 흥미를 불러일으킬 예정이다. 6일과 7일 금천구청 앞 광장 일대에서는 ‘AI로 공감하는 금천, 과학으로 소통하는 미래’라는 주제로 ‘제6회 금천과학축제’가 개최된다. 표창원 범죄과학연구소장의 특별강연과 과학수사 범죄분석(프로파일링) 체험전, 인공지능 로봇 관련 기업 연계 공간, 과학동아리 체험관 등 50개가 넘는 과학 관련 콘텐츠를 만날 수 있다. 6일 오후 6시 마리오·까르뜨니트 공장(디지털로9길 90)에서는 패션을 주제로 하는 국내 유일의 ‘제4회 금천패션영화제’ 개막식이 열린다. 8일까지 마리오·까르뜨니트 공장 내부에서 개막작 등 특별상영과 전시, 추억의 게임장터, 인공지능 영상 제작 강좌 등을 운영하고, 롯데시네마 가산점에서는 본선 진출 작품을 상영한다. 7일에는 현대아울렛 가산점 인근에서 주민참여 벼룩시장(플리마켓)인 ‘2024 청년공감 당신의 금천마켓’과 패션쇼, 자선장터 등 부대행사가 열린다. 8일에는 디지털로10길 22에서 직장인을 위한 ‘G밸리 직장인 3대3 농구대회’ 행사가 진행되고, 현대아울렛 가산점 앞에서 환경과 기후 위기를 주제로 한 책 축제 ‘금천구 도서관 북페스티벌’도 개최된다. 28일 ‘금천 GC 페스타’의 마지막은 ‘금천청년축제’가 장식한다. 금천구청 광장 일대에서 청년축제 기획단이 직접 기획한 무대공연, 게임과 체험 프로그램, 먹거리 구역과 장터 등 다채로운 프로그램을 운영할 예정이다. 유성훈 금천구청장은 “가을철 주요 행사를 플랫폼 형식으로 연계하여 가산지역의 특성에 맞는 브랜드 축제를 기획했다”며 “‘금천 GC 페스타’가 금천의 브랜드 축제를 넘어 서울의 대표적인 축제로 자리매김하도록 노력하겠다“라고 말했다.

금투세 손질·의료대책 논의 공감대채상병 특검범 등 쟁점은 합의 불발반도체·AI 지원 공감대… ‘의료사태’ 국회 차원 대책 협의키로 한동훈 국민의힘 대표와 이재명 더불어민주당 대표가 1일 국회에서 열린 여야 당대표 회담에서 양당의 ‘민생 공통 공약’을 추진하는 협의기구를 운영하기로 합의했다. 또 의료 사태와 관련해 국회 차원의 대책을 협의하기로 했다. 금융투자소득세(금투세)에 대해선 주식시장의 구조적 문제를 포함해 활성화 방안을 검토하기로 했을 뿐 유예·폐지 여부는 결정하지 못했다. 채상병특검법과 ‘전 국민 25만~35만원 지원법’ 같은 주요 쟁점 합의에는 실패했다. 곽규택 국민의힘 수석대변인과 조승래 민주당 수석대변인은 2013년 이후 11년 만에 개최된 이날 여야 당대표 회담 종료 후 이를 포함해 8개 부문의 합의 내용을 담은 ‘공동 발표문’을 발표했다. 양당은 반도체 산업, 인공지능(AI) 산업, 국가 기반 전력망 확충을 위한 지원 방안을 적극 논의하고 가계·소상공인의 부채 부담을 완화하기 위한 지원 방안을 적극 발굴키로 했다. 또 저출생 대책으로 맞벌이 부부의 육아 휴직 기간 연장 등 입법 과제를, 딥페이크 성범죄와 관련해 처벌·제재·예방 등을 위한 제도적 보안 방안을 신속 추진하기로 했다. 정당 정치의 활성화를 위해 ‘지구당 제도’의 재도입도 적극 협의키로 했다. 양 대표는 양당 정책위의장과 수석대변인이 함께 참석하는 ‘3+3 방식’으로 예정했던 90분을 훌쩍 넘겨 135분간 회담을 했다. 이후 양당 실무진이 공동 발표문 문안을 정리하는 동안 양 대표가 배석자 없이 약 40분간 독대했다. 다만 이날 공동 발표문 8개 조항 중 구체적 합의에 이른 것은 ‘민생 공통 공약 추진을 위한 협의기구 설치’ 하나였다. 나머지는 큰 틀에서 공감대를 형성했지만 추후 협의로 미뤘다. 또 양측은 의료 현장의 혼란에 대해 추석 연휴 응급 의료체계 구축에 만전을 기할 것을 정부에 당부하고 국회 차원의 대책을 협의하기로 했지만, 사안을 바라보는 근본적인 시각은 달랐다. 한 대표는 앞서 ‘의대 정원 증원 갈등’을 의제로 삼지 않겠다고 했지만 이 대표의 언급으로 이날 협상 테이블에 올라왔다. 조 수석대변인은 “대통령의 사과, 책임자 문책, 대책기구 구성과 이해 관계자들이 참여해 설득하는 구조가 필요하다고 요청했지만 구체적 합의를 만들진 못했다”고 설명했다. 다만 곽 수석대변인은 “양당 대표가 2025학년도 의대 증원은 더이상 논의할 수 없다는 데 인식을 같이했다”고 언급했다. 정부의 내년도 의대 정원 증원에는 이 대표 역시 동의했다는 의미다. 한 대표의 ‘2026학년도 의대 입학 증원 유예’ 방안에 대해선 깊은 논의가 없었던 것으로 전해졌다. 금투세의 경우 ‘폐지’는 아니어도 ‘유예’까지 예상됐지만 양측은 결론을 내지 못했다. 곽 수석대변인은 “국민의힘은 폐지를 주장하며 최소한 내년 시행을 유예하고 계속 논의하자고 했지만, 이 대표는 상법 개정안에 포함된 주식시장의 구조적 문제도 같이 논의하자는 입장”이라고 전했다. 민주당이 추진하는 전 국민 25만~35만원 지원법과 채상병특검법도 합의점을 찾지 못했다. 채상병특검법에 대해 이 대표는 제3자 추천 방식의 특검법 중재안과 민생지원금 관련 선별·차등 지원도 수용하겠다고 한 대표를 압박했지만, 한 대표는 일방적 제안으로 받아들일 수 없다고 맞섰다. 여야 대표 회담 정례화 부문에서도 양측은 다음 만남의 구체적인 일정을 정하지 못했다. 조 수석대변인은 “정례화하는 것보다 ‘수시로 만나서 대화하자’는 말씀이 있었다”고 했다. 곽 수석대변인은 “양당 대표께서 오랜만에 만나서 논의한 자리인 만큼 오늘 다 합의할 수 없다. 앞으로 자주 대화의 기회를 갖자고 하신 게 성과”라고 평가했다. 또 한 대표는 한국 영주권을 취득한 지 3년이 지난 외국인이 지방선거 투표권을 얻는 데 대해 공직선거법 수정을 제안했고, 이 대표는 검토해 보겠다는 원론적 답변을 했다. 앞서 이 대표는 모두발언에서 “정치가 죽고 죽이는 것만은 아닌데 최근 전 정권에 대한 정치보복이라고 볼 수 있는 과도한 조치가 많은 것 같다”며 문재인 전 대통령의 딸 다혜씨에 대한 검찰 압수수색을 겨냥했다. 반면 한 대표는 “‘법안 강행처리·거부권·재표결·폐기·재발의’라는 이런 도돌이표 정쟁 정치가 개미지옥처럼 무한 반복되고 있다”고 진단한 뒤 “국회의 탄핵소추권 남용과 처분적 입법 남발이 헌법 질서를 위협하고 있는데 이런 악순환을 끊어 내자”고 했다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

한동훈 국민의힘 대표와 이재명 더불어민주당 대표가 1일 민생 공통 공약을 추진하기 위한 협의 기구 운영을 포함해 8개 사항에 대해 합의했다. 가장 큰 쟁점이었던 채상병 특검법과 전 국민 25만원 지원금법은 공동 발표문에 포함되지 않았다. 채상병 특검법의 경우 이 대표가 ‘제3자 방식 추천 특검’을 수용할 수 있다고 했지만 한 대표는 국민의힘 내부 논의가 진행 중이라고 밝혀 일단 합의를 보지 못했다. 한 대표와 이 대표는 이날 약 1시간 43분 동안 회담을 갖고 이같이 결정했다고 양당 수석대변인은 전했다. ▶다음은 대표회담 결과 공동발표문 전문. 국민의힘과 더불어민주당 당대표 회담 결과 공동발표문을 말씀드리도록 하겠습니다. 첫째, 양당의 민생 공동 공약을 추진하기 위해 협의기구를 운영하기로 했다. 둘째, 금투세와 관련해 주식시장의 구조적 문제 등 활성화 방안과 함께 종합적으로 검토, 협의하기로 했다. 셋째, 현재의 의료사태와 관련해 추석 연휴 응급 의료체계 구축에 만전을 기할 것을 정부에 당부하고 국회 차원의 대책을 협의하기로 했다. 넷째, 반도체 산업, AI 산업, 국가 기반 전력망 확충을 위한 지원방안을 적극 논의하기로 했다. 다섯째, 가계와 소상공인의 부채 부담을 완화하기 위한 지원방안을 적극 강구하기로 했다. 여섯째, 저출생 대책의 일환으로 맞벌이 부부의 육아 휴직 기간 연장 등 육아휴직 확대를 위한 입법 과제를 신속 추진하기로 했다. 일곱번째, 딥페이크 성범죄 문제의 심각성에 대해 인식을 같이 하고 이에 대한 처벌과 제재, 예방 등을 위한 제도적 보안 방안을 신속하게 추진하기로 했다. 여덟번째, 정당정치의 활성화를 위해 지구당 제도의 재도입을 적극 협의하기로 했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

국민의힘이 30일 “자유민주주의 헌법 가치를 지키는 정당으로서 민생과 국익을 훼손하는 야당의 막말과 거짓 선동에 단호히 맞서 싸우겠다”고 강조했다. 1박 2일 연찬회를 마무리한 국민의힘은 금융투자소득세(금투세) 폐지를 포함한 170개의 최우선 입법 과제를 선정해 발표했다. 국민의힘 의원들은 이날 인천국제공항공사 인재개발원에서 열린 ‘2024 국민의힘 국회의원 연찬회’를 마치고 이같이 밝혔다. 의원들은 결의문을 통해 “국민의 민생과 안전을 지키고 미래세대를 위한 연금·의료·교육·노동 등 4대 개혁을 책임 있게 이행하겠다”며 “인구·기후위기, 양극화, 지역소멸 등 공동체의 미래를 위협하는 과제에 적극 대응하겠다. 대한민국의 위상에 걸맞는 글로벌 외교를 뒷받침하며 한반도 통일 시대를 준비하겠다”고 했다. 한동훈 국민의힘 대표는 폐회사에서 “1박 2일 동안 많은 대화를 나눴고 저도 생각을 많이 했다”면서 “우리의 길은 미래를 열고 민생으로 가는 것이다. 우리가 정말 국민들이 원하는 정치를 할 수 있는 정치집단이라는 점을 국민들께 증명하고 국민들의 사랑을 되찾자”고 말했다. 그러면서 추경호 원내대표의 트레이드 마크인 “똘똘 뭉치자!”를 인용해 단합을 강조하기도 했다. 연찬회를 마친 국민의힘은 금투세·단통법(단말장치 유통구조 개선법) 폐지와 저출생 대응을 위한 인구전략기획부 신설을 포함한 최우선 입법 과제를 발표했다. 국민의힘 정책위원회는 이날 보도자료를 내고 ▲민생경제 활력 분야 ▲저출생 극복 분야 ▲의료개혁 분야 ▲미래먹거리 발굴 분야 ▲지역균형발전 분야 ▲국민안전 분야 등 총 6대 분야, 170개 법안을 제22대 정기국회 최우선 입법 및 통과 과제로 삼았다고 밝혔다. 민생경제 활력 분야에는 ‘티메프’ (티몬 위메프 정산지연 사태) 방지와 금투세 폐지 등 생활 밀착형 경제법안들이 담겼다. 저출생 극복 분야에는 인구전략기획부 신설, 육아휴직 연장 및 대상 연령확대와 임신기 근로시간 단축 등의 내용을 담았다. 또 ‘의료개혁’에 관해선 ‘의료사고 특례 지원’을 추진하겠다고 밝혔다. 미래먹거리 발굴 분야에서 인공지능(AI)과 원전, 반도체, 전력망 구축 등 첨단산업 인프라 지원을 확대하기로 뜻을 모았다. 지역균형 발전 분야에서는 수도권 집중를 해소하는 내용의 법안을 추진해 지역과 수도권의 경쟁력을 동시에 높이겠다고 밝혔다. 국민안전 분야에는 딥페이크 성범죄 등 디지털 성범죄 문제 해결을 위한 법안이 담겼다. 텔레그램에서 딥페이크를 이용해 불법 합성 영상물을 유포하는 성범죄가 기승을 부리자 이에 대한 대응책을 마련하겠다는 취지다. 또 제복 공무원 및 재해지원 중 순직한 일반 공무원에 대한 예우를 강화하고, 군 장병 및 예비군에 대한 처우 개선도 추진하기로 했다.

국민의힘과 정부가 타인의 얼굴을 합성한 음란물을 만들어 유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안도 검토하기로 했다. 당정은 29일 오전 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 진행하고 딥페이크를 포함한 허위 영상물 처벌을 현행법상 ‘최대 5년 이하의 징역 또는 5000만원 이하의 벌금형’에서 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진하기로 했다. 또 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위 영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 교육부는 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”고 했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 국민의힘 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 통과를 당부했다. 이외 국민의힘 10·16 재보궐선거 중앙당 공천관리위원회는 딥페이크 성범죄 등에 연루된 사람은 공천에서 배제하기로 했다. 이원석 검찰총장은 전국 일선 검찰청의 디지털 성범죄 전담 검사들과 화상회의를 열고 “성적 수치심 유발 정도가 중한 아동·청소년 대상의 허위 영상물이나 영리 목적의 허위 영상물 제작 사범은 원칙적으로 구속 수사하라”고 지시했다.

텔레그램과 상시 핫라인 방침수사·상담·영상 삭제 지원 논의제작자도 처벌 포함 법안 추진국민의힘과 정부가 얼굴에 음란물을 합성·유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 것도 검토하기로 했다. 당정은 29일 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 진행하고 딥페이크를 포함한 허위영상물 처벌을 현행법상 ‘최대 징역 5년 이하 징역 또는 5000만원 이하’에서 불법촬영물과 마찬가지로 최대 징역 7년으로 강화하는 것을 추진하기로 했다. 또 해외에 서버를 둔 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 딥페이크 관련 중고생 피해 사례가 급증하는 만큼, 교육부 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “촉법소년 연령 하향 문제도 같이 생각해봐야 한다”며 “(딥페이크 범죄 영상 제작을) 하는 분, 혹시 하고 싶어하는 분 중에 촉법소년 연령에 있는 분들도 많을 것이다. 그런 점에서 저희가 지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나, 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”며 “현재 국회에 딥페이크 성범죄 관련 10여개의 법안이 발의돼 있지만, 본회의에서 아직 의결되지 않아 사실상 입법 공백 상태”라고 지적했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크 기술의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 조속한 통과를 당부했다.