‘게임 리뷰’라고 적힌 한 채널에 별도의 성인 인증 없이 접속하니 스트리머(채널 운영자)가 가슴 부위를 노출한 채 선정적인 춤을 추고 있었다. 영상 하단에 온라인 게임 영상이 재생되고 있었지만, 이른바 ‘벗방’(노출 방송)을 전송하기 위한 ‘눈속임’에 불과했다. ‘생활 습관 개선 1일차’라고 적힌 또 다른 채널에 들어가니 애니메이션 캐릭터의 주요 부위만 가린 딥페이크 이미지가 채널 상단에 걸려있었다. 역시 10대도 시청할 수 있었고, 끝날 때까지 유해 콘텐츠라며 경고받는 일은 없었다. 방송 이후 해당 콘텐츠를 네이버에 신고하려 했지만 스트리머가 이미 영상을 삭제한 터라 신고는 불가능했다. 일부 스트리머의 선정적인 방송으로 시범 서비스 때부터 논란을 불러일으켰던 네이버의 인터넷 생방송(스트리밍) 플랫폼 ‘치지직’(CHZZK)의 유해 콘텐츠 모니터링이 제대로 작동하고 있지 않은 것으로 파악됐다. 지난달에만 약 234만명이 방문한 치지직은 숲(SOOP·옛 아프리카TV)과 국내 스트리밍 업계에서 점유율 1·2위를 다투고 있는 플랫폼이다. 지난 3월 기준 10대 이하 이용자 비율만 해도 38%에 달한다. 서울신문이 7일 이정헌 더불어민주당 의원실을 통해 받은 자료를 보면, 지난 5월 정식 출범한 치지직 채널 중 ‘이용 제한’ 조치를 받은 채널은 단 한 곳도 없었다. 네이버는 자체적으로 플랫폼 운영 정책에 따라 성적 행위나 언행, 폭력 및 가혹 행위 등을 유해 콘텐츠로 분류해 이용 제한을 내린다. 치지직의 경우 자체적으로 개발한 인공지능(AI) 기반 음란 콘텐츠 필터링 기술인 ‘그린아이’를 통해 방송하고 녹화된 영상에 대한 모니터링을 진행한다. 업계와 전문가들은 그동안 치지직에서 이용 제한 조치를 받을 정도의 유해 콘텐츠가 단 한 건도 없었다는 점을 납득하기 어렵다고 지적했다. 염흥열 순천향대 정보보호학과 교수는 “기술이 부족해서 발생한 문제라기보다는 허점이 있다고 봐야 한다”며 “유해 콘텐츠를 판단하는 기준값을 보다 촘촘하게 설정해 놓았다면 많은 건이 적발됐을 것”이라고 지적했다. 이와 관련해 네이버는 치지직에서 이용 제한 외에도 주의 조치 등을 통해 유해 콘텐츠 몇 건이 적발됐는지 공개가 어렵다는 입장이다. 네이버 관계자는 “현재까지 이용 제한 조처를 내린 채널은 시범 서비스 당시인 지난 1월 성기 노출, 욱일기 노출로 논란이 된 2건”이라며 “신고를 기반으로 하는 주의는 계속 증가하고 있다”고 답했다. 현재 네이버는 유해 콘텐츠 노출 가능성이 큰 치지직에 대한 전담 부서를 별도로 두지 않고 있다. 전체 서비스에서 검토가 필요하다고 판단된 콘텐츠를 모니터링할 뿐이다. 유사한 플랫폼인 숲이 서버 안에 모든 영상을 일주일 동안 보관하고, 100명의 모니터링 인력을 바탕으로 24시간 실시간 모니터링하는 부서를 별도로 운영하는 것과는 대조적이다. 네이버 관계자는 “모니터링 인력 현황 등은 외부에 따로 공개하지 않는다”고 했다. 이에 대해 이재성 중앙대 인공지능연구소 소장은 “미성년자 등에게 유해 콘텐츠가 노출되지 않도록 즉각적으로 필터링하는 모니터링 인력이 필요하다”고 말했다.

별도인증 없이 미성년자 시청 가능네이버 AI 모니터링 ‘한계’ 지적도 “즉각 필터링하는 모니터링 인력을 ” ‘게임 리뷰’라고 적힌 한 채널에 별도의 성인 인증 없이 접속하니 스트리머(채널 운영자)가 가슴 부위를 노출한 채 선정적인 춤을 추고 있었다. 영상 하단에 온라인 게임 영상이 재생되고 있었지만, 이른바 ‘벗방’(노출 방송)을 전송하기 위한 ‘눈속임’에 불과했다. ‘생활 습관 개선 1일차’라고 적힌 또 다른 채널에 들어가니 애니메이션 캐릭터의 주요 부위만 가린 딥페이크 이미지가 채널 상단에 걸려있었다. 역시 10대도 시청할 수 있었고, 끝날 때까지 유해 콘텐츠라며 경고받는 일은 없었다. 방송 이후 해당 콘텐츠를 네이버에 신고하려 했지만 스트리머가 이미 영상을 삭제한 터라 신고는 불가능했다. 일부 스트리머의 선정적인 방송으로 시범 서비스 때부터 논란을 불러일으켰던 네이버의 인터넷 생방송(스트리밍) 플랫폼 ‘치지직’(CHZZK)의 유해 콘텐츠 모니터링이 제대로 작동하고 있지 않은 것으로 파악됐다. 지난달에만 약 234만명이 방문한 치지직은 숲(SOOP·옛 아프리카TV)과 국내 스트리밍 업계에서 점유율 1·2위를 다투고 있는 플랫폼이다. 지난 3월 기준 10대 이하 이용자 비율만 해도 38%에 달한다. 서울신문이 7일 이정헌 더불어민주당 의원실을 통해 받은 자료를 보면, 지난 5월 정식 출범한 치지직 채널 중 ‘이용 제한’ 조치를 받은 채널은 단 한 곳도 없었다. 네이버는 자체적으로 플랫폼 운영 정책에 따라 성적 행위나 언행, 폭력 및 가혹 행위 등을 유해 콘텐츠로 분류해 이용 제한을 내린다. 치지직의 경우 자체적으로 개발한 인공지능(AI) 기반 음란 콘텐츠 필터링 기술인 ‘그린아이’를 통해 방송하고 녹화된 영상에 대한 모니터링을 진행한다. 업계와 전문가들은 그동안 치지직에서 이용 제한 조치를 받을 정도의 유해 콘텐츠가 단 한 건도 없었다는 점을 납득하기 어렵다고 지적했다. 염흥열 순천향대 정보보호학과 교수는 “기술이 부족해서 발생한 문제라기보다는 허점이 있다고 봐야 한다”며 “유해 콘텐츠를 판단하는 기준값을 보다 촘촘하게 설정해 놓았다면 많은 건이 적발됐을 것”이라고 지적했다. 이와 관련해 네이버는 치지직에서 이용 제한 외에도 주의 조치 등을 통해 유해 콘텐츠 몇 건이 적발됐는지 공개가 어렵다는 입장이다. 네이버 관계자는 “현재까지 이용 제한 조처를 내린 채널은 시범 서비스 당시인 지난 1월 성기 노출, 욱일기 노출로 논란이 된 2건”이라며 “신고를 기반으로 하는 주의는 계속 증가하고 있다”고 답했다. 현재 네이버는 유해 콘텐츠 노출 가능성이 큰 치지직에 대한 전담 부서를 별도로 두지 않고 있다. 전체 서비스에서 검토가 필요하다고 판단된 콘텐츠를 모니터링할 뿐이다. 유사한 플랫폼인 숲이 서버 안에 모든 영상을 일주일 동안 보관하고, 100명의 모니터링 인력을 바탕으로 24시간 실시간 모니터링하는 부서를 별도로 운영하는 것과는 대조적이다. 네이버 관계자는 “모니터링 인력 현황 등은 외부에 따로 공개하지 않는다”고 했다. 이에 대해 이재성 중앙대 인공지능연구소 소장은 “미성년자 등에게 유해 콘텐츠가 노출되지 않도록 즉각적으로 필터링하는 모니터링 인력이 필요하다”고 말했다.

네이버의 인터넷 생방송(스트리밍) 플랫폼 ‘치지직’(CHZZK)이 인공지능(AI)을 활용해 음란 콘텐츠를 적발하기로 했지만, 정작 이를 통해 걸러낸 콘텐츠 건수는 집계조차 되지 않은 것으로 나타났다. 트위치의 한국 철수로 급성장한 치지직은 아프리카TV와 국내 스트리밍 업계에서 점유율 1·2위를 다투고 있지만, 유해 콘텐츠에 대한 모니터링이나 필터링이 미흡하다는 지적이 나온다. 서울신문이 7일 이정헌 더불어민주당 의원실을 통해 네이버에서 제공받은 ‘AI 기술로 적발한 음란 콘텐츠 현황’ 자료에 따르면, 네이버는 “그린아이를 이용한 선정적 콘텐츠 적발 건수를 산출하기 어렵다”고 답했다. 그린아이는 네이버가 자체적으로 개발한 AI 기반 음란 콘텐츠 필터링 기술로 주로 방송을 하고 녹화된 영상을 모니터링하는 것으로 알려졌다. 앞서 네이버는 그린아이가 유해 사진이나 영상을 걸러낼 적중률은 약 99.5%라고 밝힌 바 있다. AI 기술이 콘텐츠를 정교하게 걸러내는 데 한계가 있는 데도 모니터링 인력은 부족하고 규정을 위반한 사용자에 대한 제재도 무겁지 않다. 치지직이 지난 5월 정식 출범한 이후 네이버 음란물 신고 창구를 통해 신고받은 영상을 게재한 채널 중 ‘이용 제한’ 조치를 받은 채널은 없었다. 숲(SOOP·옛 아프리카TV) 등 다른 스트리밍 플랫폼이 24시간 내내 실시간으로 모니터링하는 부서를 별도로 운영하는 데 반해 네이버는 ‘(치지직) 전담이 아닌 네이버 전체 서비스에서 검토가 필요한 콘텐츠를 모니터링한다’고 밝혔다. 하지만 이날 서울신문이 치지직 플랫폼에 접속해 보니, 신체를 노출하는 이른바 ‘벗방’ 콘텐츠를 대부분 별도의 로그인이나 성인 인증 없이 시청할 수 있었다. 게다가 실시간으로 유해 콘텐츠를 송출한 뒤 스트리머가 이러한 영상을 보관하지 않고 삭제할 경우 치지직에서는 AI가 모니터링해 제지하거나 이용자가 신고하기도 어려운 구조다. 반면 음란 콘텐츠 관리가 허술하다는 비판이 제기되자 SOOP은 서버 안에 모든 영상을 일주일 동안 보관하는 시스템을 마련한 상태다. SOOP이 이 의원실에 제출한 자료에 따르면, 지난해 12월부터 지난 8월까지 AI 기술로 적발한 유해 콘텐츠는 총 3만 1308개였다. SOOP의 실시간 모니터링 인력은 지난달 기준 약 100명이다. 이에 대해 네이버 관계자는 “치지직 서비스에 대해 제한적으로 그린아이를 적용 중”이라며 “지속적인 주의를 받는 요주의 스트리머는 지속적으로 모니터링을 하고 있다”고 답했다. 이 의원은 “치지직의 10대 이하 이용자 비율은 무려 38%에 달한다”면서 “스트리밍 방송을 실시간으로 모니터링하는 부서를 통해 부적합한 콘텐츠를 제한할 수 있도록 조치를 취해야 한다”고 밝혔다.

삼성전자가 27일 갤럭시 인공지능(AI) 기능을 제공하는 보급형 스마트폰 ‘갤럭시 S24 팬에디션(FE)’을 공개했다. FE 모델은 삼성전자의 플래그십 ‘S 시리즈’의 주요 프리미엄 성능을 담아내면서도 사양을 낮춰 가격을 내린 기종이다. 이번 제품은 갤럭시 S24 시리즈와 동일한 갤럭시 AI 기능을 지원한다. AI 기반 ‘프로비주얼 엔진’을 통해 줌 기능부터 ‘나이토그래피’까지 더 안정된 화질을 제공한다. 더 선명한 사진 구현을 위한 고명암 대비(HDR) 기능도 개선됐다. 촬영뿐 아니라, 갤러리 감상, 소셜 미디어 경험에서도 ‘슈퍼 HDR’ 화질을 제공한다. 갤럭시 AI 기반 ‘포토 어시스트’는 전문가 수준의 콘텐츠 편집을 지원하고, 생성형 편집 기능은 사진 내 피사체를 이동하거나 크기를 조정할 수 있다. 애플리케이션 프로세서는 ‘엑시노스 2400e’ AP 칩셋을 사용했고, 내부 열을 분산시키는 베이퍼 챔버는 전작 대비 1.1배 커졌다. 여기에 최대 120Hz 주사율을 제공하는 약 170.1㎜(6.7형) 다이내믹 아몰레드 2X 디스플레이와 4천700mAh 대용량 배터리를 탑재했다. AI 기반 검색 기능 ‘서클 투 서치’, 통역, 채팅 어시스트, 노트 어시스트 등을 사용할 수 있고, 녹스 볼트와 보안 와이파이 등 개인 정보 보호 기능을 지원한다. 삼성전자는 이 제품에 7세대의 운영체제(OS) 업그레이드와 7년의 보안 업데이트를 제공하기로 했다. 이시영 삼성전자 스마트폰개발팀 부사장은 “갤럭시 AI가 사용자들에게 창의성, 커뮤니케이션, 생산성에 새로운 경험을 제공하고 있다”면서 “갤럭시 S24 FE는 프리미엄 갤럭시 AI 경험을 더 많은 사람에게 제공할 것”이라 말했다. 갤럭시 S24 FE는 다음 달 3일부터 순차 출시된다. 국내 출시 일정은 추후 공개될 예정이다. 앞서 일부 노출됐다 삭제된 제품 웹페이지에 따르면 미국에서 갤럭시 S24 FE의 가격은 128GB 모델 649.99 달러(약 85만 7000원), 256GB 모델 709.99 달러로 전작에 비해 소폭 인상될 것으로 보인다.

미성년자 1명을 포함해 평소 알고 지내던 여성 24명의 얼굴 사진에 알몸을 합성한 딥페이크(허위 영상물) 성범죄를 저지른 30대 남성이 구속 상태로 검찰에 넘겨졌다. 서울경찰청 사이버수사대는 30대 남성 A씨를 청소년보호법, 성폭력처벌법 등의 위반 혐의로 6일 구속해 12일 검찰에 송치했다고 밝혔다. 경찰에 따르면 A씨는 지난해 12월부터 올 7월까지 평소 친분이 있던 지인들의 얼굴 사진을 이용한 허위영상물 128개를 제작했다. A씨는 지금은 삭제된 텔레그램 인공지능(AI) 합성봇을 이용해 허위영상물을 만든 것으로 조사됐다. 이후 텔레그램에서 ‘성착취물 교환방’을 운영하며 허위영상물 3개와 아동·청소년 성착취물 151개를 다른 성착취물과 교환하기 위해 유포했다. A씨는 허위영상물 교환 등을 통해 아동·청소년 성착취물 9789개와 불법 촬영물 22개를 소지하고 있었던 것으로 파악됐다. 경찰은 A씨가 운영하는 대화방에 있던 참여자 100여명에 대해서도 계정 등을 추적하고 있다.

미국 사이버 보안업체 시큐리티히어로가 최근 발표한 ‘2023 딥페이크(허위 영상물) 현황’ 보고서에 따르면 딥페이크 성착취물 피해자의 53%가 한국인이다. 지난해 7~8월 유통된 9만 5820개 영상물 피해자의 99%가 여성인데 상위 피해자 10명 중 8명이 한국 가수다. 미국 경제 일간 월스트리트저널(WSJ)은 “가짜 음란물을 생성·유포하는 세계적인 문제의 진앙지가 한국이라는 것을 시사한다”고 썼다. 새로운 지적은 아니다. 올 3월 프랑스 일간 르몽드는 “(딥페이크를 활용한 성범죄는) 한국에서 수년 전부터 문제였는데 이미 일상적인 일이 됐다”고 보도했다. 한국 남성은 다른 나라 남성보다 관음적일까. 시큐리티히어로 보고서에는 미국 남성 1522명에 대한 설문 결과도 있다. 응답자의 48%가 ‘최근 6개월 동안 최소 한 번 이상 딥페이크 성착취물을 봤다’고 답했다. 이유는 ‘기술에 대한 호기심’(57%), ‘연예인에 대한 관심’(48%), ‘욕구 충족’(36%) 등이었다. 성착취물을 본 사용자의 74%는 ‘죄책감을 느끼지 않았다’고 했다. ‘사람이 아니고’(36%), ‘개인 관심사에 머무는 한 누구를 해치지 않을 거고’(30%), ‘상상보다 조금 현실적일 뿐이며’(29%), ‘실제 포르노와 별반 다르지 않아서’(28%)였다. 응답자의 20%는 ‘관련 기술을 배울 생각을 했다’고 답했다. 가까운 사람이 성착취물의 피해자가 될 경우 73%가 이를 신고할 거라고 답했다. 시큐리티히어로는 “응답자들이 잠재적 피해를 심각하게 인식하고 있다”고 해석했다. 한국 남성들에게 묻는다면 어떤 비율이 나올지 궁금하다. 우리나라의 성범죄 사건은 가해자 중심으로 흘러간다. 올 5월 영국 공영방송 BBC가 ‘버닝썬이 쏘아올린 작은 공’을 유튜브로 방영했다. 5년 전인 2019년 일을 다룬 다큐멘터리를 통해서야 가수 고(故) 구하라가 가해자들과 유착된 경찰을 밝혀내는 데 결정적 역할을 했다는 것이 알려졌다. 그 역시 ‘리벤지 포르노’(전 연인에 대한 보복성 음란물 유포)의 피해자다. 연예인의 ‘몰카’ 사건을 보도하면서 비뚤어진 팬덤의 피해자가 된 기자들, 유출을 두려워하는 몰카 피해자들의 이야기를 담았다. ‘이 다큐가 한국에서가 아니라 BBC를 통해 나왔다는 게 참 비극이다’는 댓글이 6만개가 넘는 ‘좋아요’를 받았다. 성범죄 판결은 가해자 ‘배려’에 가깝다. 2018년 32개국 사법당국의 공조로 잡힌 ‘웰컴투비디오’의 운영자 손정우는 지난 7월 출소했을 것이다. 세계 최대 아동 성착취물 공유 사이트를 운영한 성범죄 혐의가 1년 6개월, 자금세탁 혐의가 2년이었다. 해당 사건에서 영국의 영상 제작자는 22년, 미국의 사이트 공동운영자는 15년, 영상을 내려받은 사람은 5년형을 선고받았다. 2020년 미국의 손정우 인도 청구를 불허한 재판부의 판결문에 이런 내용이 있다. “범죄인이 국적을 가지고 있는 대한민국에서 주권국가로서 범죄인에 대해 주도적으로 형사처벌 권한을 행사할 수 있다.” 피해자 중심으로 바꿔 보자. “피해자가 국적을 가지고 있는 대한민국에서 주권국가로서 피해자에 대해 주도적으로 보호 권한을 행사할 수 있다”도 필요하지 않나. 메신저 앱인 텔레그램 대화방에서 수많은 성착취 영상물을 제작·유포한 ‘n번방’ 사건이 2020년 알려진 이후 대책이 검토되긴 했다. 그러나 피해 영상물이 발견되면 수사기관이 이를 즉시 삭제할 수 있는 권한을 부여하거나, 징역형 상한을 올리거나, 재유포를 방지하는 당연한 일들은 여전히 불가능하다. 딥페이크 성범죄로 인한 실형 또한 극히 드물다. 합성 수준이 낮아서, 범죄 수익이 적어서라는데 이 논점은 피해자의 고통과는 상관없다. 텔레그램이 지난 3일 방송통신심의위원회에 긴급 삭제를 요청한 영상물 25건을 모두 삭제했다는 이메일을 보내왔단다. 경찰이 딥페이크 성범죄 방조 혐의로 내사에 착수한 다음날이다. 성범죄 동영상이 유포되는 플랫폼 기업들은 정부 움직임에 따라 움직인다. 생성형 인공지능(AI) 발달로 1분짜리 딥페이크를 무료로 25분 만에 만들 수 있단다. 정치권과 정부가 요즘 호들갑을 떠는 만큼 빠르게 결과물이 나올 거라 믿고 싶다. 직무유기가 반복되면 한국은 ‘성범죄 선진국, 수사·처벌 후진국’으로 오랫동안 남을 거다. 전경하 논설위원

최근 4년 반 동안 디지털성범죄피해자지원센터(디성센터)에 ‘딥페이크 성착취물’을 비롯해 불법촬영물을 지워달라고 요청한 건수가 94만건에 달했으나 이 가운데 약 29%인 27만건이 삭제되지 못한 것으로 나타났다. 부족한 대응 인력이 주요 원인으로 꼽히지만 삭제 요청을 받은 기업이 이를 반드시 이행하도록 제도를 개선해야 한다는 목소리도 함께 커지고 있다. 4일 더불어민주당 김남희 의원이 여성가족부에서 제출받은 자료에 따르면 2020년부터 올해 6월까지 여성가족부 산하 한국여성인권진흥원 내 디성센터가 접수한 딥페이크와 성적 모욕 이미지 등 불법촬영물 삭제 요청은 93만 8651건이다. 이 가운데 삭제하지 못한 건수는 26만 9917건(28.8%)에 달한다. 디성센터는 24시간 상담과 불법촬영물 삭제 지원 서비스를 제공하는 기관이다. 피해자로부터 삭제 신청이 접수되면 불법촬영물이 발견된 플랫폼 기업에 이를 지울 것을 요청하고 이후 조치 결과를 확인한다. 삭제 요청 건수는 2021년 16만 6000여건, 2022년 20만 6000여건, 2023년 24만 3000여건으로 매년 최소 3만건 이상씩 불어났다. 올해에도 6월까지 지난해 68% 수준인 16만 5000여건의 삭제 요청이 접수됐다. 미삭제 건수는 2021년 4만 2000여건에서 2023년 7만 5000여건으로 증가해 2년 만에 79.7% 늘었다. 올해 상반기에는 전년의 56%에 달하는 4만 2000여건을 지우지 못했다. 해마다 연간 미삭제 비율은 25% 정도다. 기술의 발전으로 딥페이크 제작이 쉬워지면서 피해가 눈덩이처럼 불어나고 있다. 3일 YTN라디오 ‘이이선 최수영 이슈앤피플’에 출연한 김덕진 IT커뮤니케이션연구소장에 따르면 인공지능(AI) 툴을 활용하면 음란물 제작에 20초도 걸리지 않는다고 한다. 김 소장은 “인플루언서가 찍은 숏폼 영상에 AI가 얼굴만 딴다. 기술이 놀라운데 이런 것들이 악용되는 사이트가 있다”고 짚었다. 아이돌을 좋아하는 팬들을 위해 찍은 ‘직캠’ 영상이나 자체 홍보를 위해 찍은 숏폼 영상이 범죄의 표적이 되고 있다. 최근 트와이스의 소속사 JYP엔터테인먼트, 블랙핑크가 소속된 YG엔터테인먼트, (여자)아이들이 속한 큐브엔터테인먼트, 권은비가 있는 울림엔터테인먼트 등이 딥페이크 피해를 보고 법적 대응에 나섰다. 일반인 역시 공개된 사진에 알몸을 합성 당해 피해를 보는 경우가 많다. 한 초등학교 교사 A씨는 자신의 사진과 합성된 성착취물이 신상 정보와 함께 단톡방에서 퍼지는 끔찍한 경험을 했다. 가해자로 위장해 진범을 5일 만에 잡아낸 A씨는 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 말했다. 피해가 커지는 상황이지만 대책은 뾰족하지 않다. 디성센터의 인력은 부족하고 강제성도 약하다. 전날 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 이수정 경기대 범죄심리학과 교수도 “불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”고 지적했다. 김남희 의원은 “불법촬영물 10건 중 3건을 삭제하지 못하면서 재유포 문제 등이 발생하고 있다”며 “정부가 대책으로 내놓은 ‘플랫폼 자율규제 강화’에 대한 한계가 뚜렷하게 드러난 만큼 특단의 조치가 필요하다”고 강조했다.

국내 연예계가 ‘딥페이크’(AI 기반 합성) 영상물 제작과 유통에 대한 강력 대응을 경고하고 나섰다. 가수 권은비와 뉴진스에 대한 딥페이크 음란물에 대한 경찰 수사가 진행 중이다. YG엔터테인먼트 관계자는 3일 “소속 아티스트의 인격과 명예에 심각한 위해를 미치는 모든 불법행위에 대해 지속적으로 엄정 대응할 것”이라고 밝혔다. YG 측은 현재 소속 아티스트들과 관련한 부적절한 딥페이크 제작물의 제작 및 유포 상황을 모니터링하고 있다고 강조했다. 불법 영상물의 삭제 및 차단 뿐 아니라 모든 법적 조치도 진행할 방침이다. 블랙핑크의 완전체 그룹 활동을 담당하는 YG에는 신예 그룹 베이비몬스터, 악뮤, 트레저 등이 소속돼 있다. 앞서 JYP엔터테인먼트도 걸그룹 트와이스 멤버들의 얼굴을 합성한 음란물 확산에 대한 강력 대응에 나섰다. 그룹 뉴진스와 가수 권은비 등도 관련 법적 조치를 진행 중이다. 어도어는 지난 6월 “아티스트의 국적 및 외모 등을 조롱하고 모욕하는 게시글, 성적 수치심이나 혐오감을 일으키는 게시물과 허위 사실을 유포하는 댓글을 작성한 자들을 고소장에 전부 포함했다”라고 밝힌 바 있다. 권은비도 지난 7월 초상을 합성한 음란성 사진 등을 유포한 이들을 고소했다. 전 세계 온라인에서 한국인이 딥페이크 음란물 피해를 보고 있는데 특히 한국 여성 가수들이 주된 표적이 되고 있다. 미국의 사이버보안 업체 ‘시큐리티 히어로’가 공개 ‘2023 딥페이크 현황’ 보고서에 따르면 100개 이상의 웹사이트에서 10만개가량의 콘텐츠를 분석한 결과 ‘딥페이크 성 착취물’에 가장 많이 노출된 10명 중 8명이 한국 가수인 것으로 나타났다. 경찰은 지난달 말 딥페이크 성범죄와 관련해 접수된 총 88건의 신고를 조사 중이다. 국내 연예인을 대상으로 한 딥페이크 범죄가 확산하면서 소속사들도 강력 대응에 나서고 있다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

국민의힘과 정부가 타인의 얼굴을 합성한 음란물을 만들어 유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안도 검토하기로 했다. 당정은 29일 오전 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 진행하고 딥페이크를 포함한 허위 영상물 처벌을 현행법상 ‘최대 5년 이하의 징역 또는 5000만원 이하의 벌금형’에서 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진하기로 했다. 또 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위 영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 교육부는 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”고 했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 국민의힘 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 통과를 당부했다. 이외 국민의힘 10·16 재보궐선거 중앙당 공천관리위원회는 딥페이크 성범죄 등에 연루된 사람은 공천에서 배제하기로 했다. 이원석 검찰총장은 전국 일선 검찰청의 디지털 성범죄 전담 검사들과 화상회의를 열고 “성적 수치심 유발 정도가 중한 아동·청소년 대상의 허위 영상물이나 영리 목적의 허위 영상물 제작 사범은 원칙적으로 구속 수사하라”고 지시했다.

텔레그램과 상시 핫라인 방침수사·상담·영상 삭제 지원 논의제작자도 처벌 포함 법안 추진국민의힘과 정부가 얼굴에 음란물을 합성·유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 것도 검토하기로 했다. 당정은 29일 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 진행하고 딥페이크를 포함한 허위영상물 처벌을 현행법상 ‘최대 징역 5년 이하 징역 또는 5000만원 이하’에서 불법촬영물과 마찬가지로 최대 징역 7년으로 강화하는 것을 추진하기로 했다. 또 해외에 서버를 둔 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 딥페이크 관련 중고생 피해 사례가 급증하는 만큼, 교육부 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “촉법소년 연령 하향 문제도 같이 생각해봐야 한다”며 “(딥페이크 범죄 영상 제작을) 하는 분, 혹시 하고 싶어하는 분 중에 촉법소년 연령에 있는 분들도 많을 것이다. 그런 점에서 저희가 지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나, 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”며 “현재 국회에 딥페이크 성범죄 관련 10여개의 법안이 발의돼 있지만, 본회의에서 아직 의결되지 않아 사실상 입법 공백 상태”라고 지적했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크 기술의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 조속한 통과를 당부했다.

미국에서 올해 11월 5일 대선을 앞둔 가운데 유럽의 젊은 여성 인플루언서들의 사진을 내걸고 공화당 대선 후보 도널드 트럼프 전 대통령을 지지하는 가짜 엑스(X·옛 트위터) 계정이 활개를 치고 있다고 미국 CNN 방송이 28일(현지시간) 보도했다. 일례로 자신을 위스콘신 출신의 32세 여성이라고 소개한 루나는 지난 3월 엑스(@Luna_2K24)에 가입한 후 트럼프 전 대통령의 선거 구호인 ‘마가(MAGA·Make America Great Again·미국을 다시 위대하게)’를 홍보하며 3만명의 팔로워를 확보했다. 그는 트럼프 전 대통령이 추가적인 암살 시도에 직면해 있다는 등의 음모론을 지속적으로 펼쳤고, LGBTQ(성소수자)와 트랜스젠더, 백신에 반대하고 인종 차별과 외국인 혐오를 조장하는 글을 다수 올렸다. 그는 흰색 비키니를 입고 해변에서 찍은 셀카를 공유하면서 “트럼프가 영원히 대통령이 되는 것을 지지하겠느냐”는 글을 올렸는데 조회수는 5만4000명에 달했다. 하지만 루나는 실제 인물이 아닌 것으로 드러났다. 사진 속 갈색 머리 여성은 미국 투표권이 없는 독일의 패션 인플루언서 데비 네더로프였다. 네더로프는 엔지니어링 회사의 소셜미디어 관리자이자 모델인 독일인으로 트럼프와 무관한 것은 물론 미국 대선 투표권이 없다. 네더로프는 CNN에 “내 얼굴이 트럼프의 지지 선전에 사용되고 있다는 사실에 화가 난다”며 “나는 미국과 아무 상관이 없다. 독일의 작은 마을에서 사는 내가 미국 정치에 신경이나 쓰겠냐”고 반문했다. CNN이 정보회복센터(CIR)과 조사한 결과 루나는 물론 네덜란드, 덴마크, 러시아 출신 패션 및 뷰티 인플루언서 17명의 유럽 여성 사진이 무단으로 도용된 엑스 계정이 트럼프의 지지를 도모하는 선전 도구로 이용되고 있다. CIR은 인권 침해를 폭로하는 독립적이고 비영리적인 사회적 기업이다. CNN은 “이들 인플루언서 사진을 도용해 만든 가짜 계정은 56개 엑스 계정 중 일부에 불과하다”고 전했다. CNN은 “해당 계정과 관련해 엑스에 연락했지만 답변을 받지 못했다”며 “해당 기사를 게시하기 24시간 전 동안 엑스는 대부분의 계정을 삭제했다”고 지적했다. 이어 “일론 머스크가 엑스를 인수한 이후 엑스에서 허위 사실과 음모론 유포를 방지하던 팀은 해체됐다”며 “CNN이 인터뷰한 유럽의 인플루언서는 자신의 사진이 동의 없이 사용되거나 신원이 도용됐다고 신고해도 소셜미디어(SNS) 플랫폼 운영사는 조치를 하지 않아 어려움을 겪고 있다”고 전했다. 그러면서 “온라인에서 여성의 신체적 자율권에 대한 위협이 커지고 있음을 보여준다”고 일갈했다. 선거 앞 가짜 콘텐츠에 대한 우려는 인공지능 기술이 확산하면서 지속돼 왔다. 잘못된 정보를 유포하고 가짜 동영상과 이미지를 통해 상대 후보에게 피해를 주려는 행위는 미국뿐 아니라 전세계 선거에서 나타나는 현상이기도 하다. 에밀리 혼 전 백악관 국가안보회의(NSC) 대변인은 올해 미국 대선을 앞두고 SNS를 이용해 허위 정보 캠페인을 시도한 여러 국가의 조직들이 있었다면서, 가짜 계정의 배후와 관련해서도 “이것은 국가 행위자일 수 있다. 정교함의 수준을 보면 러시아, 이란, 중국을 포함한 적대국 행위자 중 하나일 수 있다”고 말했다. 트럼프 “스위프트 지지, 수락한다” 논란 자초 트럼프 전 대통령은 지난 18일 세계적 팝스타 테일러 스위프트와 팬덤 ‘스위프티스’(Swifties)의 지지를 받았다는 가짜 사진을 소셜미디어에 게시하고 “수락한다”고 적어 논란을 자초했다. 트럼프 전 대통령은 자신의 소셜미디어 ‘트루스 소셜’에 스위프트와 팬들이 자신을 지지한다고 적힌 티셔츠를 입은 가짜 이미지를 여러 장 올렸다. 미국을 상징하는 ‘엉클샘’의 복장을 한 스위프트와 ‘테일러는 당신이 도널드 트럼프에게 투표하기를 원한다’고 적힌 사진, ‘트럼프를 지지하는 스위프티스’라고 적힌 티셔츠를 입은 여성들이 모여있는 듯한 사진, 지난 7일 스위프트의 오스트리아 빈 콘서트가 이슬람국가(ISIS)의 테러 가능성으로 취소된 뒤 팬들이 트럼프 쪽으로 돌아섰다는 가짜 뉴스 화면이 갈무리 된 사진 등이었다. 그는 이어 “수락한다(I accept!)”라고 적었다. 스위프트는 아직 트럼프 전 대통령과 카멀라 해리스 부통령 중 지지하는 후보를 공개적으로 밝힌 적은 없으나, 2020년 앞선 대선 때 민주당을 지지하며 트럼프 전 대통령을 향해 “당신을 몰아낼 것”이라고 공개 저격한 바 있다. 트럼프 전 대통령의 이런 의도적 ‘가짜 사진’ 유포는 처음이 아니다. 그는 엑스에 인민복처럼 보이는 옷을 입은 군중들 앞에서 해리스 부통령 뒷모습처럼 보이는 여성이 연설하는 이미지를 올렸고, 지원군인 일론 머스크 테슬라 최고경영자(CEO)와 자신이 춤추는 영상을 공개했다. 둘 다 조작된 것들이었다. 영국 가디언은 “트럼프 전 대통령이 최근 며칠 동안 패러디와 노골적인 선거 허위 정보 사이의 경계를 넘나들며” 퍼뜨린 딥 페이크라고 우려를 표했다. 그러면서 “대선을 앞두고 불투명한 정보 생태계를 더 혼탁하게 만들 위험이 있다. 일상적으로 허위 사실과 음모론을 조장하고 있는 것”이라고 지적했다.

3년간 딥페이크 성범죄 실형 4건뿐미성년자 성관계 500여건 올려도법원 “대부분 가짜인지 알 수 있어”연예인 합성물 5800개 업로드해도영리 목적의 범행 아니라며 ‘감경’“다른 성범죄 수준 양형 강화해야”정치권도 뒤늦게 법안 7개 쏟아내서울시·방심위 ‘삭제 핫라인’ 구축올 학생·교사 피해 179건 수사 의뢰교육부, TF 구성해 10월 중 대응책 딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량이 선고돼 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 오는 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 오세훈 서울시장은 이날 류희림 방송통신심의위원장과 업무협약을 맺고 딥페이크 음란물 영상 신고가 들어올 경우 24시간 이내에 삭제하는 ‘핫라인’을 가동하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 승인을 기다리다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 나온다.

‘딥페이크’ 기술을 활용한 디지털 범죄가 기승을 부리는 가운데, 국회에서 축구 국가대표팀 주장 손흥민(토트넘 핫스퍼)을 활용해 투자 사기를 벌이려는 허위 동영상이 국회에서 공개됐다. 김장겸 국민의힘 의원은 28일 국회 과학기술정보방송통신위원회 전체회의에서 딥페이크 범죄의 심각성을 환기하기 위해 이같은 영상을 공개했다. 영상은 생성형 인공지능(AI)이 손흥민의 목소리를 학습해 손흥민이 녹음한 것처럼 꾸민 목소리가 나온다. 영상 속 손흥민은 “축구선수이자 경험 많은 투자자”라고 자신을 소개하며 “인스타그램 팔로워 1400만명 돌파를 기념해 4월에 급등한 우량주 3개를 무료로 공유드린다”고 말했다. 이어 “‘어시스턴트’ 카톡을 추가하고 아라비아 숫자를 보내는 선착순 200명에게 무료로 저의 독점 사인 사진과 스톡 나우 팬미팅 티켓을 받을 수 있다”고 홍보했다. 영상은 손흥민이 소속팀 경기를 마치고 영국 매체와 인터뷰하는 화면에 AI로 생성한 손흥민의 목소리를 합성했다. 김 의원은 “이처럼 딥페이크로 합성된 영상이 인터넷에서 유포되고 있다”며 “우리 같은 경우 딥페이크라는 걸 인지할 수 있지만 일반 국민들은 모를 수 있다”고 우려했다. 이어 “AI를 활용하면 이런 영상을 쉽게 만들 수 있다”면서 “텔레그램을 통해 지역과 학교, 나이를 불문하고 무차별적으로 불법 합성물이 퍼지고 있다”고 지적했다. 이에 김태규 방송통신위원회 직무대행(부위원장)은 “방송통신심위원회는 삭제 및 차단 요구를 할 수 있고, 시정명령이 이행되지 않을 경우 방송통신위원회가 형사고발 조치할 수 있다”고 밝혔다. 그러면서 “지금 딥페이크 영상물 피해자의 신상정보도 긴급 심의에 포함시키는 내용, AI 생성물 표시제를 도입하는 부분, AI 서비스 이용자에 대한 보호 법규를 마련하는 부분, AI 피해 신고 창구를 활용하는 방법을 고민하고 있다”고 답했다.

최근 대학가에 이어 10대 학생들 사이에서도 딥페이크(AI 기반 합성 이미지) 불법 합성물 범죄가 확산하는 가운데 이를 우려하는 여성들을 조롱하는 글들이 다수 올라와 공분을 일으키고 있다. 27일 엑스(X·옛 트위터) 등 소셜미디어(SNS)에는 “딥페이크가 별거 아니라는 중2 학생들”이라는 글과 함께 온라인 커뮤니티에 중학생 이용자들이 올린 댓글을 캡처한 사진이 올라왔다. 해당 사진에는 “딥페이크하는 사람들도 예쁜 사람만 고른다”, “성폭행 안 할거니까 걱정하지 마시라고”, “딥페이크 하나 가지고 난리부르스 떠냐” 등 조롱 글이 담겨 있다. 또 다른 중학생은 “오늘부터 셀카 올리는 여자들의 사진을 긁어모아 딥페이크를 하겠다. 딥페이크 제작자도 거를 ○○○들이 허언증인지 자의식 과잉인지 너무 설친다”며 충격적인 발언도 서슴지 않았다. 중학생들뿐만이 아니다. 지난 26일 대학생 커뮤니티 에브리타임에도 “딥페이크 사건 호들갑 지겹다”는 글이 올라오기도 했다. 해당 글에는 “딥페이크 만든 놈들 역겹고 더러운 거 맞지만 여자들 호들갑에 공감하긴 싫다. 사회적으로 여자들은 남자들에게 공감한 적이 단 한번도 없기 때문”이라는 내용이 담겼다. 범죄의 표적이 될까 불안에 떠는 여학생들을 향해 “일단 불안에 떨고 있는 ○○대 여성분들, 80%는 안심하고 발 뻗고 자도 돼. 너 그 정도 급 아니야”, “딥페이크 범죄의 표적은 페미니스트가 아닌 예쁜 여성들만 해당한다. 얼굴 못생긴 사람들은 안심해도 된다”는 조롱글도 넘쳐났다. 앞서 전날 엑스의 한 공개 계정에는 텔레그램 대화방을 통해 딥페이크 음란물이 유포되고 있다며, 피해 사례가 알려진 대학들의 명단이 올라왔다. 이 계정이 지목한 텔레그램 대화방 참여자들은 친구, 교사 등 지인을 넘어 친족 사진까지 음란물 제작용으로 공유하고 있는 것으로 알려졌다. 해당 게시글이 온라인상에 퍼지면서 네티즌들 사이에선 ‘혹시 나도 딥페이크 합성의 대상이 된 게 아니냐’는 불안감이 확산했다. 피해 방지를 위해 일부 여성들은 SNS에 올린 자신의 사진을 삭제하기도 했다. 증가하는 딥페이크 범죄…방심위 대책 마련 착수국회 행정안전위원회 소속 조은희 국민의힘 의원실이 지난 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 누구나 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 10대들도 자주 접하면서 딥페이크 음란물이 범죄라는 인식이 옅어졌다는 지적도 나온다. 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐다. 방송통신심의위원회는 27일 실·국장 회의를 소집, 딥페이크 음란물 확산 사태 관련 대책 마련에 착수했다. 28일에는 전체 회의를 열어 의논한 내용을 확정할 방침이다. 방심위는 먼저 공식 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하기로 했으며, 관련 모니터링 요원을 배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 또 텔레그램과 즉각 협의할 수 있는 핫라인을 개설, 신속한 피해 확산 차단에 나설 계획이다.

인공지능(AI)를 활용, 지인 등 사진과 음란물을 합성하는 ‘딥페이크 음란물’ 제작·유포 범죄가 전국적으로 기승을 부리는 가운데 경남에서도 피해 우려가 커가고 있다. 27일 경남교육청은 하동에서 발생한 중학생 딥페이크 음란물 피해 학생이 4개교 12명이라고 밝혔다. 가해 학생은 1학년 남학생 6명이다. 이 사건은 지난 3월 27일 1학년 남학생 6명이 텔레그램 단체방을 만들어 피해 여학생들 사진을 합성하고 공유한 게 발단이다. 가해 학생이 영상 존재를 선배에게 이야기하면서 수면으로 올랐다. 피해 학생들은 지난달 말 부모와 지인에게 피해 사실을 알렸다. 교육당국은 지난달 가해 학생에게 긴급조치(접촉·보복행동 금지)를 내렸다. 이달에는 피해자 측 보호자들과 면담을 진행했다. 교육당국과 경찰은 조사·수사를 진행 중이다. 가해 학생들이 공유한 사진은 외부로 유출되진 않았고 현재는 전부 삭제된 상태다. 경남도교육청은 피해 학생과 보호자를 대상으로 심리상담과 치료 지원을 하고 있다. 학생들은 정상 등교 중이다. 가해 학생 징계 등을 논의하는 학교폭력대책심의위원회는 29일 열릴 예정이다. 이러한 딥페이크 음란물 피해는 올해 하동 뿐 아니라 경남지역 학교에서 총 24건이 접수됐다. 지역별로 창원·진주·김해 각 5건, 통영 4건, 거제 2건, 사천·함안·하동 각 1건이다. 학년별로는 고등학교 10건, 중학교 13건, 초등학교 1건이다. 다만 경찰 수사를 거쳐 범죄 혐의가 인정되더라도, 일부 가해 학생은 촉법소년인 까닭에 형사처벌은 받지 않을 전망이다. 경남교육청은 청소년들 피해를 막을 수 있도록 관련 교육·활동을 강화할 예정이다. 전 학교장 대상 딥페이크 등 디지털 성범죄 예방 긴급회의를 연 경남교육청은 다음 달 디지털 성범죄 예방 교육 집중 시행, 학교폭력 예방 교육 존중의 약속 만들기 써클 추진 등도 이어갈 방침이다. 배경환 도교육청 민주시민교육과장은 “초중고교 학생들이 손쉽게 앱에 접근해 영상·사진 등을 합성할 수 있어 디지털 성범죄 사건이 다수 발생하고 있는 것으로 보인다”며 “앱 운영 업체에 음란물 차단 등 협조를 구하고 성인지 교육과 사이버범죄 예방 교육 등을 강화하겠다. 경찰, 경남도와도 공조해 성범죄에 대응하겠다”고 말했다.

에릭 슈미트 구글 전 최고경영자(CEO)가 “엔비디아가 인공지능(AI) 최대 수혜자가 될 것”이라고 말했다.15일(현지시간) 미 CNBC 등에 따르면 슈미트 전 회장은 최근 스탠퍼드 대학교에서 열린 강연에서 “거대 기술기업들이 엔비디아 칩 기반 AI 데이터센터에 점점 더 많은 투자를 계획하고 있다”며 이같이 전망했다. 그는 빅테크 기업들이 AI 데이터센터를 건설하는 데 최대 3000억 달러(약 408조원)가 들어갈 것이라고 내다봤다. 그는 “이 같은 지출의 상당수가 AI 전용칩을 만드는 엔비디아로 흘러 들어갈 것”이라며 “만약 3000억 달러가 모두 엔비디아에 투자된다면 주식 시장에서 무엇을 해야 할지 여러분들이 더 잘 알 것”이라고 말했다. 그러면서 “(이런 발언이) 주식 종목을 추천하는 건 아니다”고 말했다. 엔비디아가 AI 시장에서 유일한 승자가 되지는 않겠지만, 다른 선택지는 많지 않다고도 했다. “선도적인 모델과 다른 모델들 간 격차는 점점 더 벌어지고 있다”는 이유에서인데, 특히 AI 개발자들이 사용하는 많은 오픈 소스 도구들이 엔비디아의 쿠다(CUDA) 프로그래밍 언어를 기반으로 하기 때문에 경쟁사들이 엔비디아를 따라잡기 어려울 것이라고 전망했다. 구글의 경우 엔비디아 프로세서와 경쟁할 수 있는 TPU(Tensor Processing Unit)라는 칩을 개발했지만 아직 초기 단계에 불과하다는 설명이다. 슈미트는 2001년부터 2011년까지 구글의 CEO였으며 이후에도 2019년까지 이사회에 있었다. 이날 슈미트 전 회장의 강연 내용은 스탠퍼드대학교가 이번 주에 게시한 동영상에 포함돼 있지만 금방 삭제됐다. 한편 모건스탠리 투자운용의 주식 포트폴리오 수석 매니저인 앤드류 슬림몬은 올해 말 스탠더드앤드푸어스(S&P)500 지수가 6000에 근접할 것으로 내다보면서 아마존, TSMC, 노보노디스크와 함게 엔비디아를 추전 종목으로 선정했다. 엔비디아는 이날 뉴욕 증시에서 4.05% 오른 122.860달러에 마감했으며, 오는 28일 2025 회계연도 2분기 실적을 발표할 예정이다.