딥페이크 성범죄 공포가 전국을 뒤덮은 가운데 성폭력 피해여성 등을 지원하는 기관에서 ‘딥페이크’ 관련 상담 안내를 하면서 남학생을 피해자로, 여학생을 가해자로 묘사해 논란이 일고 있다. 센터 측은 “딥페이크 피해자에 대한 성인지 감수성이 부족했다”며 사과했다. 3일 여성긴급전화1366 충남센터는 공식 소셜미디어(SNS)는 “최근 본 센터에서 게시한 딥페이크 예방 카드뉴스로 인해 불편함을 느끼신 모든 분들께 진심으로 사과드린다”는 글을 게재했다. 센터 측은 “본 센터는 이번 카드뉴스 논란에 대해 깊은 우려와 책임감을 느끼고 있다”며 “이는 딥페이크 피해자에 대한 성인지 감수성이 부족했던 점에서 비롯된 것으로, 이부분에 대해 다시 한번 고개 숙여 사과드린다”고 전했다. 이어 “해당 논란이 발생한 후 즉시 카드뉴스 배포를 중단하였으며 아울러 카드뉴스 제작에 더 세심하고 주의 깊에 검토하지 못한 점에 깊이 반성 중”이라며 “관련 직원에 대한 적절한 조치와 성인지 교육 및 재발방지 교육을 통해 이러한 일이 재발하지 않도록 하겠다”고 강조했다. 마지막으로 센터 측은 “이를 계기로 여성긴급전화1366 충남센터는 딥페이크 피해자 보호와 지원에 더욱 신중을 기하며, 향후 발생할 수 있는 피해 예방을 위해 최선을 다하겠다”며 “다시 한번 진심으로 사과드린다”고 덧붙였다. 앞서 지난달 센터 측은 SNS에 딥페이크 관련 카드뉴스를 게재했다. 센터 측은 딥페이크에 대해 설명하면서 ‘내 사진으로 딥페이크 성적 영상물을 발견했다면 여성긴급전화1366 충남센터나 충남 아동청소년 지원센터로 연락달라’고 안내했다. 문제는 함께 올린 카드뉴스 속 일러스트였다. ‘딥페이크 실체’라는 제목의 그림에서 피해자는 교복을 입은 남학생으로, 가해자는 여성으로 묘사된 것이다. 피해자 성별이 정해진 것은 아니지만, 센터 측이 카드뉴스에 활용한 템플릿 원본에는 가해자가 남녀 모두로 구성돼 있어 고의로 남성 가해자를 삭제했다는 지적이 일었다. 해당 카드뉴스는 온라인 커뮤니티 및 SNS를 통해 퍼졌고, 비난이 커지자 센터 측은 문제가 된 카드뉴스를 삭제했다. 한편 여성긴급전화1366은 가정폭력·성폭력·성매매 피해여성에 대한 1차적 긴급지원센터로, 전국 16개 시·도에서 운영되고 있다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

태국의 한 남성이 스피드보트를 타면서 바다에 용변을 보는 영상을 소셜미디어에 올려 논란이 커지고 있다. 더타이거를 비롯한 태국 언론에 따르면, 촌부리 코란 섬의 티엔 비치에서 스피드보트 직원으로 일하는 35세의 옴 씨가 바다에 용변을 보는 영상을 자신의 페이스북 계정에 공유했다. 그는 영상에 “식사는 하셨나? 난 진짜 마음씨가 착해. 물고기들에게 먹이를 주려고 똥을 싸고 있어”라는 자막을 달았다. 이 영상이 공개되자마자 누리꾼들의 비난이 쏟아졌고, 옴 씨는 영상을 삭제한 후 자신의 프로필을 비공개로 전환했다. 하지만 그의 행동에 불쾌함을 느낀 한 누리꾼이 영상을 저장해 다시 소셜미디어에 게시하면서 논란은 일파만파 확산되었다. 대부분의 누리꾼들은 옴 씨의 행동이 부적절하다고 지적했지만, 일부는 보트 직원들에게는 일반적인 관행이라며 옹호해 논란은 커졌다. 이에대해 옴 씨는 “오랫동안 이 지역에서 스피드보트를 운전해왔으며, 바다에서 용변을 보는 것은 업계의 일상적인 일“이라고 밝혔다. 그는 관광객들이 보지 못하도록 보트 뒤에서 용변을 본다고 덧붙였지만, ”재미로 영상을 공유했을 뿐 이렇게 논란이 될 줄 몰랐다“면서 자신의 행동을 후회하며, 앞으로 이러한 행동을 자제하겠다고 약속했다.

태국의 한 남성이 스피드보트를 타면서 바다에 용변을 보는 영상을 소셜미디어에 올려 논란이 커지고 있다. 더타이거를 비롯한 태국 언론에 따르면, 촌부리 코란 섬의 티엔 비치에서 스피드보트 직원으로 일하는 35세의 옴 씨가 바다에 용변을 보는 영상을 자신의 페이스북 계정에 공유했다. 그는 영상에 “식사는 하셨나? 난 진짜 마음씨가 착해. 물고기들에게 먹이를 주려고 똥을 싸고 있어”라는 자막을 달았다. 이 영상이 공개되자마자 누리꾼들의 비난이 쏟아졌고, 옴 씨는 영상을 삭제한 후 자신의 프로필을 비공개로 전환했다. 하지만 그의 행동에 불쾌함을 느낀 한 누리꾼이 영상을 저장해 다시 소셜미디어에 게시하면서 논란은 일파만파 확산되었다. 대부분의 누리꾼들은 옴 씨의 행동이 부적절하다고 지적했지만, 일부는 보트 직원들에게는 일반적인 관행이라며 옹호해 논란은 커졌다. 이에대해 옴 씨는 “오랫동안 이 지역에서 스피드보트를 운전해왔으며, 바다에서 용변을 보는 것은 업계의 일상적인 일“이라고 밝혔다. 그는 관광객들이 보지 못하도록 보트 뒤에서 용변을 본다고 덧붙였지만, ”재미로 영상을 공유했을 뿐 이렇게 논란이 될 줄 몰랐다“면서 자신의 행동을 후회하며, 앞으로 이러한 행동을 자제하겠다고 약속했다.

만취 상태로 전동스쿠터를 운전한 혐의로 검찰에 송치된 그룹 방탄소년단(BTS) 멤버 슈가(31·민윤기)가 삼성전자 광고 모델로 돌아왔다. 이로서 슈가의 음주운전 사건 이후 제기된 삼성전자와의 광고모델 계약 해지 논란은 일단락됐다. 2일 업계에 따르면 삼성전자 파라과이 법인은 지난달 31일 소셜미디어(SNS)를 통해 슈가가 출연한 삼성전자의 빔프로젝터 ‘더 프리스타일 2세대’의 광고 사진을 공개했다. 사진에서 슈가는 야외에 스크린을 설치하고 프리스타일로 모닥불 영상을 띄워 ‘불멍’을 즐기고, 실내의 스크린에 자신의 콘서트 영상을 띄운 채 기타 연주를 한다. 삼성전자 파라과이 법인은 “슈가가 프리스타일 2세대를 사용하는 방법”이라면서 “스튜디오나 캠핑 등 어디든 함께 할 수 있다”고 제품을 소개했다. 앞서 슈가의 음주운전으로 삼성전자가 방탄소년단과의 광고모델 계약을 놓고 고심 중인 것으로 전해졌다. 지난달에는 삼성전자 독일법인이 공식 SNS 계정에 슈가가 갤럭시 S24 울트라 기기를 들고 있는 홍보 사진을 올렸다 삭제하면서 슈가가 삼성전자의 광고 모델에서 하차하는 게 아니냐는 의문이 확산됐다. 코리아헤럴드는 관계자를 인용해 “사회적 논란을 일으킨 인물을 브랜드 앰배서더로 내세우는 것은 리스크가 크다”며, 그러면서도 슈가가 팀을 탈퇴하지 않는 한 삼성전자도 조치를 취하기 어렵다고 전했다. 한편 서울 용산경찰서는 지난달 30일 슈가를 도로교통법 위반(음주운전) 혐의로 서울서부지검에 불구속 송치했다. 슈가는 지난 6일 밤 11시 15분쯤 서울 용산구 한남동 자택 인근에서 만취 상태로 전동 스쿠터를 운전한 혐의를 받는다. 사고 당시 슈가의 혈중알코올농도는 면허 취소 기준(0.08%)의 약 3배에 달하는 0.227%로 조사된 것으로 알려졌다. 슈가는 사건 발생 17일 만인 지난 23일 용산경찰서에 출석하면서 “잘못된 행동으로 많은 상처와 실망을 안겨드려 정말 죄송하다는 말씀 드리고 싶다”고 밝혔다.

이정선 광주시교육감이 광주 학생 세계국제연수를 통해 각국에서 5·18민주화운동 퍼포먼스를 전개하는 등 세계화에 앞장선 공로로 5·18기념재단 감사패를 받았다. 시교육청이 5·18기념재단과 함께 학교 현장에서 사용되는 ‘5·18 꾸러미’ 등 교육 수업자료를 개발해 5·18 교육 내실화와 전국화에 기여한 공로다. 특히 이 교육감 공약사업으로 추진되는 ‘글로벌리더 세계 한바퀴’ 학생국제연수를 통해 해외로 나간 광주 학생들은 세계 각국에서 5·18퍼포먼스를 펼치고 ‘임을 위한 행진곡’을 부르는 등 5·18 세계화의 첨병으로 활동하고 있다. 이 교육감의 또다른 공약사업으로 ‘광주민주주의역사누리터’도 용역을 거쳐 2026년 완공을 목표로 추진되고 있다. 역사누리터는 광주학생독립운동과 5·18민주화운동 등 광주지역 민주주의 역사를 한 데 모아 학생들이 체험하며 배울 수 있는 공간이다. 44주년 5·18민주화운동기념일을 앞둔 지난 5월에는 메타버스 게임 플랫폼에서 5·18을 왜곡하는 게임을 제보해 게임 삭제를 이끈 부산 초등학생을 초청해 광주시교육감상을 수여하기도 했다. 이정선 광주시교육감은 “어떤 상보다도 의미있고 값진 상을 받은 데에는 5·18전국화를 넘어 세계화를 위해 혼신을 다해 뛰고 있는 광주시교육청 가족들의 노고에 감사한다”면서 “취임 이후부터 5·18을 세계와 공유하기 위해 고민해 왔다. 앞으로 더 잘 5·18을 가르치라는 격려로 알고 우리 아이들을 가슴 따뜻한 세계민주시민으로 길러내겠다”고 말했다.

전 세계 영토 면적 5위, 인구수 7위의 대국 브라질에서 31일(현지시간) 소셜미디어(SNS) 엑스(X·옛 트위터) 접속이 차단됐다. 2000만명 넘는 브라질 누리꾼이 사용하는 온라인 소통 도구가 법원의 명령으로 한순간에 가로막히자 브라질 사회는 ‘이용자 보호’와 ‘표현의 자유’를 둘러싸고 거센 공방에 휘말렸다. 전날 AFP통신은 알레샨드리 지모라이스 브라질 대법관이 “엑스는 반복적이고 의식적으로 브라질 사법 시스템을 무시했다. 브라질에서 무법천지 환경을 조성한 책임이 있다”며 서비스 차단을 결정했다고 전했다. 대법원은 브라질 내 앱스토어에서 엑스를 삭제하고 가상사설망(VPN)을 통한 우회 접속 적발 시 5만 헤알(약 1200만원)의 벌금도 부과하라고 지시했다. 일론 머스크 엑스 최고경영자(CEO)는 지모라이스 대법관을 겨냥해 “판사 코스프레를 하는 사악한 독재자”라면서 “브라질에서 민주주의를 파괴하려 한다”고 비난했다. 이어 “카멀라 해리스와 팀 월즈(미국 민주당 대선후보 팀)가 집권하면 미국에서도 비슷한 일이 일어난다”고 주장했다. 브라질 당국과 엑스의 갈등은 지난 4월로 거슬러 올라간다. 브라질 대법원은 자이르 보우소나루 전 대통령 정부 시절 가짜뉴스를 대거 유포한 혐의로 극우 성향 ‘디지털 민병대’ 계정 차단을 명령했다. 오는 10월 지방선거를 앞두고 이들이 발신할 증오·인종차별 신호를 사전에 차단하려는 취지다. 머스크 CEO는 “언론의 자유가 가장 중요하다”며 이 계정에 대한 법원의 ‘검열’ 요청을 거부하다가 급기야 지난 17일 브라질 사업 철수를 선언했다. 그런데도 엑스가 현지인을 대상으로 한 서비스를 계속하겠다는 입장을 밝히자 브라질 사법당국은 명령 미준수에 ‘괘씸죄’까지 적용해 폐쇄 명령을 내렸다. 브라질 사회는 둘로 갈라졌다. 보우소나루 전 대통령은 인스타그램에 “브라질에서 사업하는 세계적 기업들의 신뢰를 훼손한다”고 비판했다. ‘남미의 트럼프’로 불리는 보우소나루 전 대통령은 2022년 10월 대선에서 루이스 이나시우 룰라 다시우바 대통령에게 패배해 현 정부에 대한 반감이 크다. 우파 야당인 자유당 소속 비아 키시스 하원의원은 지모라이스 대법관에 대한 탄핵 절차 개시를 촉구했다. 반면 룰라 대통령은 이날 현지 라디오 방송에 출연해 “누구든 헌법과 법률의 적용을 받는다”면서 “돈이 있다고 해서 그(머스크)가 원하는 대로 뭐든 할 수 있는 건 아니다”라고 일갈했다. 이번 사태의 주인공인 디지털 민병대가 자신을 끝없이 비난하기에 대법원의 조치를 내심 반기고 있다. AP통신은 “엑스 폐쇄로 혼란에 빠진 브라질에서 새 SNS를 찾아가는 ‘플랫폼 이민’ 현상이 나타나고 있다”면서 “‘대안 플랫폼’을 표방하며 지난해 출시된 ‘블루스카이’에 브라질 사용자 유입이 가파르게 늘고 있다”고 전했다. AFP는 엑스를 차단한 국가는 북한과 중국, 러시아, 이란, 미얀마 등 권위주의 국가가 대부분이라고 짚었다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

브라질 연방대법원이 법원 결정 사항을 이행하지 않았다는 이유로 소셜미디어(SNS) 엑스(X·옛 트위터) 서비스 차단을 결정했다. 브라질 언론 매체 G1과 폴랴지상파울루는 30일(현지시간) 알레샨드리 지모라이스 대법관이 브라질 방송·통신 관련 허가·규제·감독기관인 아나텔에 엑스 접속을 막기 위한 조치를 할 것을 명령했다고 보도했다. 대법관은 또 앱스토어에서 엑스를 삭제할 것과 가상 사설망(VPN)을 통한 개인과 기업의 우회 접속 적발시 하루 최대 5만 헤알(약 1192만원) 벌금 부과도 함께 지시했다. G1에 따르면 지모라이스 대법관은 “엑스는 반복적이고 의식적으로 브라질 사법 시스템을 무시했다”며 “브라질에서 무법천지 환경을 조성한 책임이 있다”고 밝혔다. 지난 4월 브라질 대법원은 자이르 보우소나루 전 대통령 정부 시절 가짜 뉴스와 증오 메시지를 유포한 혐의를 받는 이른바 ‘디지털 민병대’의 행위에 대해 위헌적 요소가 있다며 특정 계정을 차단하라고 엑스에 명령했다. 브라질 대법원은 또 엑스의 가짜 뉴스 차단 조처 명령 미준수 등을 문제 삼으며 미국 우주기업 스페이스X의 위성 인터넷망 스타링크 계좌 동결 조처를 최근 내렸다. 엑스와 스페이스X의 경영주는 모두 일론 머스크다. 브라질 대법원은 특히 오는 10월 브라질 지방선거를 앞두고 엑스를 통한 증오·인종 차별 메시지 유포·재생산이 지나치다고 판단하고 있다. 지모라이스 대법관은 “극단주의 조직과 디지털 민병대의 엑스 도구화 움직임이 확대되고 있다”며 “(엑스가) 기존 법원 명령을 준수하지 않으면서 사회적 피해는 걷잡을 수 없이 커지고 있다”고 비판했다고 현지 매체들은 전했다. 루이스 이나시우 룰라 다시우바 브라질 대통령은 이날 오전 현지 라디오 방송에 출연해 “브라질에서는 누구든 브라질 헌법과 법률의 적용을 받는다”며 “돈이 있다고 해서 그(머스크)가 원하는 대로 뭐든 할 수 있는 건 아니다”라고 말했다. 전날 엑스 측은 글로벌 대관 업무팀 공식 계정으로 “엑스는 언론 자유를 보호하기 위해 최선을 다할 것”이라며 브라질 대법원 결정에 따르지 않겠다는 의사를 밝혔다.

‘딥페이크’ 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌받게 된다. 국무조정실은 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 이같은 내용의 입법을 추진한다고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다. 정부는 전문가 등 민간 의견을 추가로 수렴해 오는 10월까지 범정부 종합 대책을 마련할 계획이다.

잠수함 13척 이어 수상함 정보도 지워 “北 해군력으로 연합 훈련 쉽지 않아” 북한이 국제해사기구(IMO)에 잠수함을 처음 등록한 사실이 알려진 뒤 관련 정보를 지운 데 이어 기존에 있던 군함 정보까지 모두 삭제한 것으로 나타났다. 잠수함 등록 ‘해프닝’으로 빈약한 해군력이 주목받게 되자 아예 관련 정보를 모두 지운 것이라는 분석이 나온다. 30일 미국의소리(VOA)에 따르면 북한은 김군옥영웅함 등 잠수함 13척을 지난 27일자로 IMO 선박정보데이터베이스(GISIS)에 등록했다. 그러나 이 사실이 알려진 다음날에는 북한 잠수함 정보가 모두 사라졌다. 또 지난 29일에는 남포급 호위함 FFH-3호 등 기존에 이미 등록돼 있던 수상함 정보까지 모두 지워졌다. 해당 데이터베이스에서 ‘조선민주주의인민공화국(북한) 정부 해군’으로 검색하면 현재 아무런 결과가 나오지 않는다. 관련 정보는 북한의 요구에 따라 삭제된 것으로 알려졌다. 다만 북한 상선에 대한 정보는 남아 있다. IMO는 해상 안전 등을 위해 국제 항해를 하는 선박에 대해 고유의 식별번호를 부여한다. 이에 북한이 IMO에 잠수함을 처음 등록한 것이 중국 또는 러시아 해역에서 연합훈련을 염두에 둔 것 아니냐는 추측이 나오기도 했다. 김정은 국무위원장은 지난 2월 남포조선소를 방문해 ‘해군무력 강화’를 강조하기도 했다. 그러나 북한 분야 전문가들은 이 같은 추측은 현실성이 떨어진다고 보고 있다. 북한이 잠수함을 건조해 배치했다고 해도 연합훈련 형태로 심해에서 실제 기동을 하기는 쉽지 않다는 것이다. 이 때문에 잠수함 등록 자체가 실무자의 실수 등 일종의 해프닝이었다는 분석도 나온다. 조한범 통일연구원 석좌연구위원은 “북한은 일반 국가들처럼 해군력을 당당히 공개하긴 힘들다. 해프닝일 가능성”이라며 “이 일로 빈약한 해군력이 주목 받게 되자 기존 정보까지 모두 삭제했을 수 있다”고 분석했다. 국방부 관계자는 이에 대해 “어떤 의도에서 (관련 정보가 등록 및 삭제)됐는지는 분석해 봐야한다”며 “합참과 해군에서 예의주시하고 있다”고 밝혔다.

‘딥페이크’ 기술을 이용해 불법 성착취물을 만드는 딥페이크 성범죄에 두려움을 호소하는 여성들을 향해 “호들갑 떤다”고 조롱한 유튜버가 유튜브로부터 수익 창출을 중단당했다. 30일 유튜브 등에 따르면 유튜브 측은 구독자 119만명을 보유한 ‘뻑가’ 채널의 수익 창출을 중단시켰다. 유튜브 측은 뉴시스에 “크리에이터의 플랫폼 안팎의 행동이 유튜브 커뮤니티에 해를 끼친다고 판단할 경우 취할 수 있는 조치를 설명한 크리에이터의 책임에 관한 가이드라인에 따라 ‘뻑가’ 채널의 유튜브 파트너 프로그램 참여를 정지시켰다”며 “이에 해당 채널은 유튜브에서 수익을 창출할 수 없다”고 밝혔다. 이어 “괴롭힘 및 사이버 폭력에 대한 유튜브의 정책과 사회적 또는 정치적 맥락에 따라 특정 개인을 신체적 상해의 위험에 노출하는 콘텐츠를 금지한다”는 유튜브의 커뮤니티 가이드에 따라 문제가 됐던 뻑가의 영상도 삭제 조치했다고 덧붙였다. 실제 유튜브 채널의 수익화 여부를 확인하는 웹사이트 ‘이즈디스마네타이즈(isthischannelmonetized)’에 따르면 뻑가의 채널은 유튜브를 통해 광고 게재 및 수익 창출을 할 수 있는 유튜브 파트너 프로그램에서 제외된 것으로 추정된다. 실제 뻑가의 채널에서는 멤버십 가입 및 슈퍼챗(후원금) 버튼이 모두 사라졌다. “가해자 22만명 선동…눈에 불 켜고 남성혐오”앞서 뻑가는 지난 26일 최근 딥페이크 성범죄를 우려하는 여성들을 조롱하는 영상을 올려 논란을 일으켰다. 뻑가는 “소셜미디어(SNS)에서 얼굴 사진을 다 내려라”는 한 여성의 게시물에 대해 “막 이렇게 호들갑 떠는 글이 퍼지고 있다”며 “이런 사람들은 지금부터 거르시길 바란다”고 비아냥댔다. 또 박지현 전 더불어민주당 비상대책위원장이 ‘재난 상황임을 선포해야 한다’고 촉구한 것에 대해서는 “또 신나게 나와서 22만명 이렇게 선동하고 있다. 아주 눈에 불을 켜고 남혐(남성혐오)하려고 한다. 무슨 국가 재난이냐. 미쳐가지고”라고 비난했다. 이 영상이 확산되자 댓글창에는 각국 네티즌들이 “한국 여성을 지지한다”, “가해자는 놔두고 피해자를 조롱하냐” 등 뻑가를 비판하는 댓글을 쏟아냈다. 일부 네티즌들은 뻑가의 채널을 신고하기도 했다. 텔레그램 ‘지인 능욕방’ 적발…피해자 256명한편 최근 각급 학교에서 학생과 교사를 불문하고 딥페이크 성범죄로 인한 피해가 속출하고 있다. 전국교직원노동조합이 긴급 설문조사를 벌여 2500건에 육박하는 피해를 접수하기도 했다. 이에 정부도 대응에 나섰다. 당정은 지난 29일 국회에서 긴급회의를 열고 허위 영상물을 제작·유포하는 행위에 대한 처벌의 상한을 징역 5년에서 7년으로 강화하는 입법을 추진하기로 했다. 교육부는 태스크포스(TF)를 구성해 각급 학교의 딥페이크 피해 현황 조사와 학생·교원 피해 사안 처리, 심리 지원 등을 지원하기로 했다. 여성가족부는 내년 디지털 성범죄 대응 총예산을 올해보다 약 3억원 늘어난 50억 7500만원으로 책정했다. 경찰도 딥페이크 성범죄 가해자들에 대한 수사와 검거에 나섰다. 서울경찰청 딥페이크 등 허위영상물 집중 대응 TF는 이날 딥페이크 기술을 이용해 허위 영상물 279개를 제작, 유포한 20대 남성 A씨를 검찰에 구속 송치했다. A씨는 올해 5월부터 7월까지 텔레그램에 ‘지인 능욕방’ 채널을 개설하고, 채팅방 참가자들로부터 지인의 얼굴 사진과 신상정보를 제공받아 허위 영상물을 제작해 유포한 혐의를 받는다. 피해자는 256명에 달하는 것으로 조사됐다. 경찰은 또 4년간 성인사이트를 운영하며 허위 영상물을 비롯한 아동·청소년 성착취물, 불법 촬영물 등 2만여개의 불법 영상물을 유포한 30대 남성 B씨도 검찰에 구속 송치했다.

전남도가 최근 확산하는 딥페이크 성범죄 영상물 피해 지원을 위한 유관기관 협력 강화에 나섰다. 전라남도는 29일 도청 정약용실에서 전남도경찰청과 1366전남센터, 디지털 성범죄 상담소, 시군 등과 간담회를 갖고 딥페이크 성범죄 영상물 피해 지원에 대한 기관별 추진상황과 계획을 공유하고 피해자의 빠른 상담과 영상물 삭제 등 지원에 어려움이 없도록 연계 협력을 강화하기로 했다. 전남도경찰청에 피해 신고가 접수되면, 1366전남센터, 목포여성상담센터, 순천여성인권지원센터에서 운영하는 ‘디지털 성범죄 상담소’와 연계해 신속한 영상물 삭제 지원과 피해자의 치료 회복 등을 지원할 계획이다. 또 딥페이크 사례 상담을 신청하는 피해자의 경우 법률 지원 등을 받을 수 있도록 경찰청과 연계해 지원할 방침이다. 유미자 전남도 여성가족정책관은 “딥페이크 성범죄 피해 학생과 가족이 일상으로 조기 복귀하도록 역량을 집중할 것”이라며 “유관기관과 긴밀하게 협력해 피해자 지원에 최선을 다하겠다”고 말했다. 전남도는 디지털성범죄 피해자 지원을 강화하기 위해 국비 지원 ‘디지털성범죄 지역특화상담소(목포)’와 ‘전남도 디지털성범죄 특화상담소(순천)’를 지정해 운영하고 있다. 디지털성범죄 특화상담소는 디지털 성범죄 피해 신고·접수 및 초기 긴급삭제 지원, 수사기관, 의료·법률 연계 지원 및 치유회복 프로그램 지원 등의 활동을 펼친다. 딥페이크 성범죄 피해가 발생하면 여성긴급전화 1366전남센터(061-1366), 디지털성범죄상담소를 운영하는 목포여성상담센터(061-285-1366), 순천여성인권지원센터(061-753-3644)에 피해상담을 신청해 삭제 지원과 심리·법률 상담, 치료회복 등 필요한 지원을 받을 수 있다.

딥페이크 성범죄가 잇따르며 경찰 수사가 본격화되자 수많은 가해자들이 자신이 제작·유포한 불법영상 지우기에 나섰다. 인터넷 기록을 지워주는 ‘디지털 장의사’ 업체에 관련 문의가 쏟아지는데, 대부분 10대 청소년이거나 이들의 부모인 것으로 전해졌다. 30일 현재 엑스(X·구 트위터)에는 ‘딥페이크 피해학교 목록’과 ‘딥페이크 피해학교 지도’ 등이 공유될 뿐만 아니라 가해자들의 인스타그램 주소도 퍼지고 있다. 이에 가해자로 추정되는 10대 남학생들의 부모는 관련 SNS의 게시물을 삭제하기 위해 디지털장의사 업체에 접근하고 있다. 이들은 온라인상에 유포된 딥페이크 불법합성물 삭제도 같이 의뢰한 것으로 알려졌다. 최근 4~5일 사이 하루 평균 문의량이 두 배 가까이 증가한 것으로 파악됐다. 한 디지털장의사 업체 관계자는 “현재 딥페이크 영상물 관련 문의 70%가 가해자 부모”라며 “최근 논란이 된 사건 등과 관련해 온라인에 공유되는 자녀 신상이나 범행 사실을 삭제해달라고 요청한다. (부모들이) 아들이 억울하게 고소당했다는 식이다”라고 설명했다. 가해 학생들이 증거를 인멸하려는 사이 피해 여학생들은 SNS를 비공개하거나 게시물을 내리는 등 두려움에 떨고 있다. 일부 학교는 피해 확산을 막기 위해 학생들에게 SNS 등에서 얼굴 사진을 내리라고 공지했다. 디지털 장의사 업체 사라짐 컴퍼니의 최태운 대표는 다수 언론을 통해 “‘아들이 나쁜 짓을 했는데 지워줄 수 있냐’며 영상물 삭제를 의뢰하는 학부모들이 대다수”라며 “텔레그램 내의 대화 내용을 삭제한다는 건 불가능하다고 말씀드린다”고 말했다. “피해자들은 오히려 선뜻 연락을 못하고 계시는 것 같다”고도 했다. 딥페이크 공포가 확산하자 수사당국과 교육당국은 실태 조사에 나섰다. 경찰청 국가수사본부는 내년 3월까지 7개월간 딥페이크 성범죄 관련 특별 집중단속을 실시한다. 교육부는 전날 전국 17개 시도교육청에 딥페이크 피해·가해 현황을 파악해 달라는 공문을 보냈다. 학생이나 보호자는 SNS, 단체 채팅방에서 딥페이크 의심 성범죄물이나 게시글을 발견하면 112(경찰)·117(학교폭력 신고)로 신고할 수 있다. 재학 중인 학교의 학교전담경찰관(SPO)나 여성긴급전화(1366), 디성센터(02-735-8994) 등에서 피해 상담도 가능하다.

딥페이크(허위 영상물) 성범죄가 확산하며 정부와 수사기관이 엄정 대응에 나선 가운데 딥페이크로 인해 직간접적인 피해를 본 학교 구성원이 500명이 넘는다는 조사 결과가 나왔다. 교육 현장과 여성계에서는 유포 영상 삭제 지원 등 구체적이고 즉각적인 피해자 보호 조치와 처벌 강화를 촉구했다. 전국교직원노동조합은 29일 정부서울청사 앞에서 기자회견을 열고 지난 27일부터 이틀간 교내 불법 합성물 성범죄 실태를 조사한 결과를 발표했다. 조사 결과 접수된 신고 2492건 중 517건(20.7%)은 딥페이크로 인한 직간접 피해를 입은 사례였다. 각각 교사 204명, 학생 304명, 교직원 9명이었다. 특히 불법 합성물을 직접 확인한 피해자는 29명(교사 16명·학생 13명)이나 됐다. 협박을 받거나 주변 사람을 통해 피해를 파악한 사람은 488명(교사 188명·학생 291명·교직원 9명)이었다. ‘피해가 의심되지만 피해를 확인하지 못했다’고 답한 응답자도 26.3%였다. 또한 응답자의 62.3%는 딥페이크 성범죄에 대해 적절한 수사와 합당한 사법절차가 이뤄지지 못하고 있다고 답했다. 최우선 과제(복수 응답 포함)로는 ‘범정부 차원에서 영상 삭제 지원’(76.4%)과 ‘불법 합성물 소지와 시청 시 처벌 규정 신설과 처벌 강화’(81.2%)를 고른 응답이 많았다. 실제로 한 신고 학생은 불법 합성물이 텔레그램에 유포됐지만 경찰에서 수사가 어렵다는 이유로 가해자를 특정하지 못했다고 했다. 또 다른 학생은 초등학교 동창이 자신의 사진으로 합성한 사실을 학교에 알렸지만, 학교는 ‘친구끼리 사과하고 넘어가라’고 했다고 전했다. 서울여성회와 서울여성회 페미니스트 대학생 연합동아리(서페대연)도 이날 서울 강남역 10번 출구 앞에서 기자회견을 열고 “불법 합성물을 제작·유포하는 게 놀이문화로 자리잡았다는 데 충격이 크다”며 “현실을 방관한 정부 기관과 국회, 사법기구에 책임을 촉구한다”면서 30일 집회를 예고했다. 한편 카카오는 이날 고객센터 공지사항 등을 통해 “카카오 서비스에서 딥페이크 이미지 등 관련 콘텐츠를 발견하면 즉시 신고해 주시기를 바란다”고 밝혔다. 네이버도 전날 딥페이크에 대한 신고 채널을 안내했다.

국민의힘과 정부가 타인의 얼굴을 합성한 음란물을 만들어 유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안도 검토하기로 했다. 당정은 29일 오전 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 진행하고 딥페이크를 포함한 허위 영상물 처벌을 현행법상 ‘최대 5년 이하의 징역 또는 5000만원 이하의 벌금형’에서 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진하기로 했다. 또 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위 영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 교육부는 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”고 했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 국민의힘 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 통과를 당부했다. 이외 국민의힘 10·16 재보궐선거 중앙당 공천관리위원회는 딥페이크 성범죄 등에 연루된 사람은 공천에서 배제하기로 했다. 이원석 검찰총장은 전국 일선 검찰청의 디지털 성범죄 전담 검사들과 화상회의를 열고 “성적 수치심 유발 정도가 중한 아동·청소년 대상의 허위 영상물이나 영리 목적의 허위 영상물 제작 사범은 원칙적으로 구속 수사하라”고 지시했다.

미성년자를 포함한 여성의 얼굴에 음란물을 합성해 유포하는 ‘딥페이크 성범죄’ 피해자의 절반이 한국 여성 연예인으로 조사됐다. 미국 월스트리트저널(WSJ)은 28일(현지시간) 사이버보안 업체인 ‘시큐리티 히어로’가 최근 발표한 ‘2023 딥페이크 현황’ 보고서를 인용해 한국이 딥페이크 성범죄에 가장 취약한 국가라고 보도했다. 이 보고서는 지난해 7∼8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 9만 5820건을 분석했다. 그 결과 딥페이크 음란물에 등장하는 개인 중 53%가 한국인 가수와 배우로 나타났다. 딥페이크 피해자 가운데 미국인 비율이 두번째로 많은 20%였으며, 이어 일본 10%, 영국 6%, 중국 3%, 인도 2%, 대만 2%, 이스라엘 1% 순이었다. 보안 업체의 보고서는 “한국은 딥페이크 음란물의 표적으로 가장 많이 이용되는 나라”라고 지적했다. 보고서는 또 딥페이크 음란물의 최다 표적이 된 개인 10명을 꼽았는데 이 중 8명이 한국인 가수였다. 1∼7위와 9위가 한국 가수였고 8위는 태국 가수, 10위는 영국인 배우였으나 피해자의 신원은 공개되지 않았다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성착취물 1595건에 등장했으며 총조회수는 561만회에 이르렀다. 또 다른 한국 가수는 성착취물 1238건의 표적이 됐고 조회수는 386만 5000회에 달했다. 평균적으로 딥페이크 음란물 피해자 99%는 여성이었고 94%는 연예계 종사자였다. 딥페이크 음란물을 만드는 가해자는 대부분 10대로 한국 교육부는 10살 정도인 가해자에 대해서도 최대한의 처벌을 검토하고 있다고 WSJ는 전했다. 특히 딥페이크 음란물의 유포는 러시아 출신 창업자 파벨 두로프가 만든 텔레그램을 통해 대부분 이뤄졌다. 프랑스 검찰은 자국 시민권을 취득한 두로프를 파리 근교 공항에서 체포하고, 아동 포르노 유포 방조 등의 혐의로 기소했다. 최대 20만명의 사용자를 한 개의 단체채팅방에 모을 수 있는 텔레그램은 올해 4월부터 1000명 이상을 모은 방 개설자에게 광고수익을 지급했다. 암호화폐 ‘톤코인’(TON)을 활용해 구독자 1000명 이상 채널(방) 개설자에게 광고수익을 지급했으며, 수익은 방 개설자와 텔레그램이 50%씩 나눠 갖는 것으로 알려졌다. 톤코인 역시 두로프가 초기 버전을 개발했으며 일부 암호화폐 거래소에서 통용된다. 현재 아랍에미리트 두바이에서 운영되는 텔레그램은 2013년 설립 직후부터 뛰어난 보안성 때문에 각종 범죄 정보의 온상이 되고 있다. 텔레그램 측은 수년간 아동 성착취물이나 범죄 정보 콘텐츠는 삭제했다고 밝혔지만, 정직원 숫자는 약 50명으로 알려져 역부족이었을 것으로 분석된다. 구소련 지역과 이란 등에서 많이 사용하며 31개 국가에서 일시적 또는 영구적 접속이 금지된 텔레그램은 내년에 사용자가 10억명에 이를 전망이다.

# 교사 A씨는 자신의 사진을 도용해 개설된 소셜미디어(SNS) 계정에 이상한 게시물들이 올라와 있는 것을 발견했다. 계정에는 음란물은 물론 A씨가 한 것처럼 교묘하게 합성된 성적인 발언들도 올라와 있었다. 계정에 A씨의 신상정보도 버젓이 올라와있던 탓에 A씨는 여기저기서 협박 메시지도 받았다. 경찰 수사를 통해 한 학생이 가해자로 지목됐지만, 징계나 처벌을 받기는 커녕 A씨에게 사과조차 하지 않은 채 도망치듯 전학갔다. # 교사 B씨는 한 학생이 수업 시간에 질문을 하는 척 하며 교탁 앞으로 와서 자신의 치마 밑을 휴대전화로 촬영하는 것을 발견하고 신고했다. 학생의 휴대전화에서는 A씨의 사진이 합성된 음란물을 비롯해 다른 학생들의 몸을 불법 촬영한 사진들이 쏟아져나왔다. 전국교직원노동조합이 ‘딥페이크 성범죄’ 관련 피해 실태를 조사한 결과 학생들 사이에서 또래 학생과 교사 등을 손쉽게 음란물에 합성해 SNS를 통해 유포하는 사례가 다수 드러났다. 허위 사진은 물론 개인정보까지 유출하고 협박을 일삼는 사례도 적지 않았다. “싸운 친구 딥페이크해달라”…개인정보도 유출전교조는 29일 정부서울청사 앞에서 기자회견을 열고 지난 27일과 28일 이틀간 ‘학교 불법합성물(딥페이크) 성범죄 실태조사’를 벌인 결과 총 2492건의 신고가 접수됐다고 밝혔다. 자신의 사진으로 만들어진 합성물을 직접 보거나 관련한 협박을 받는 등 직간접적인 피해를 겪은 학생 및 교사, 교직원은 총 517명으로 집계됐다. 전교조가 이날 공개한 딥페이크 피해 사례에 따르면 가해자들은 별다른 문제 의식 없이 학생과 교사들의 사진으로 음란물을 만들어 공유하고 있었다. 한 학생은 친한 언니의 게시물을 누군가 도용해 새로운 인스타그램 계정을 만들고, 이 계정에 신음 소리를 입힌 스토리를 올려놓은 것을 목격했다. 한 학생이 친구와 싸운 뒤 남학생에게 “친구의 인스타그램을 해킹해 딥페이크를 해달라”고 부탁한 뒤, 남학생이 만든 불법 합성물을 자신의 SNS에 올려 친구를 협박한 사례도 있었다. 교사들도 딥페이크 성범죄의 타겟이 됐다. 한 교사는 자신의 가족들의 사진까지 도용당해 음란물에 합성되는 피해를 겪었다. 가해 학생이 SNS에 사진을 올리고 버젓이 교사의 이름을 해시태그로 걸어 피해를 알게 됐으며, 게시물에는 차마 입에 담기조차 힘든 역겹고 불쾌한 표현들이 적혀 있었다. “친구끼리 화해해라”…62.3% “수사·처벌 제대로 안 돼”전교조는 피해자가 학교에 사실을 알려도 제대로 된 조치가 내려지지 않은 사례도 적지 않다고 지적했다. 학교 측에서 “친구끼리 사과하라”며 무마하는가 하면, 피해 교사가 교권보호위원회 소집을 요청해도 경찰이 ‘개인정보’라는 이유로 가해자의 정보를 제공하지 않아 아무런 보호 조치도 받지 못한 사례도 있었다. 전교조의 조사에서 “딥페이크 성범죄에 대해 적절한 수사와 합당한 사법 절차가 이뤄지고 있다고 생각하는가”라는 질문에 응답자의 62.3%이 ‘그렇지 않다’고 대답했다. 이어 피해자 지원 대책으로는 범정부 차원에서 유포 영상 삭제 지원(76.4%), 교육당국 차원에서 신고 및 상담지원체계 구축, 피해자에게 신속한 정보 전달(72.4) 등의 순으로 응답률이 높았다. 전교조는 “다수의 학교 구성원이 불법합성물 성범죄를 다루는 경찰 수사와 사법 절차에 심각한 불신을 갖고 있음을 알 수 있다”며 “피해자가 대응하는 과정에서 추가적인 피해와 2차 피해를 방지하기 위한 방안이 가장 시급하다”고 지적했다.