딥페이크(허위 영상물)을 제작·유포하는 텔레그램방에 대한 신고가 빗발치는 가운데 경찰이 최근 신분을 특정한 피의자 33명 중 31명은 10대인 것으로 나타났다. 경찰청 국가수사본부는 지난달 26일부터 30일까지 허위 영상물 관련 신고 118건을 접수했다고 3일 밝혔다. 경찰은 그 중 피의자 33명을 특정하고 수사 중이다. 경찰청은 지난달 28일부터 내년 3월까지 ‘허위 영상물 특별 집중단속’을 진행한다. 불특정 인물을 대상으로 한 사이버 성폭력과 달리 이른바 ‘지인능욕방’처럼 지인을 범행 대상으로 삼는 경우, 피해자가 가해자를 지목해 신고하는 사례가 적지 않다. 이 때문에 일부 피의자가 신속하게 특정된 것으로 풀이된다. 피의자 33명 중 93.9%인 31명은 10대였다. 경찰에 검거된 피의자 7명 중 6명도 10대다. 중고등학교를 중심으로 텔레그램에서 ‘겹치는 지인’을 찾아 신상 정보나 딥페이크 사진을 유포하는 ‘능욕 범죄’가 늘어나서다. 앞서 올해 들어 지난 7월까지 경찰에 신고된 허위 영상물 범죄 297건 중 147건(49.5%)이 검거됐는데, 피의자 178명 중 73.6%(131명)는 10대였다.10대는 텔레그램 등에서 딥페이크 기술을 쉽게 접할 수 있는 만큼, 디지털 성범죄에 대한 경각심을 높이고 국제 공조 방안을 찾아야 한다는 지적이 나온다. 조지호 경찰청장은 전날 국회 행정안전위원회 전체회의에서 디지털 성범죄 검거율이 50% 밑으로 떨어진 데 대해 “보안 메신저를 수사하는 게 완전히 불가능하진 않지만, 우회 경로를 활용하면 시간이 너무 오래 걸리고 어려움을 겪는다”고 밝혔다.

서울시의회 교육위원회 소속 채수지 의원(국민의힘·양천1)이 지난 2일 열린 제326회 임시회 교육위원회 업무보고에서 서울시 교육청이 미성년자의 피해가 심각한 딥페이크 범죄에 대한 적극적인 대책 마련에 나서 달라고 당부했다. 채 의원이 서울시교육청에서 받은 자료에 따르면 21년도부터 올해 8월 말까지 서울시 관내 초·중·고 학교에서 발생한 딥페이크 학교폭력 접수 현황은 50건이다. 딥페이크한 사진을 당사자에게 전송 및 협박하거나 텔레그램 등으로 유포하는 방식으로 범죄가 이뤄졌으며, 가해 학생에게는 학내봉사 및 출석정지, 전학 등의 조치가 취해진 것으로 확인됐다. 채 의원은 설세훈 권한대행에게 “디지털성범죄 예방교육 관련 자료를 살펴보니 단순히 ‘야하다’의 개념을 논의해보자 등 간접적이고 은유적인 접근방식”이라고 지적하며 “딥페이크와 같은 디지털성범죄는 폐쇄적이고 비밀리에 이뤄지는 특성이 있는 심각한 범죄이고 구체적인 피해와 처벌을 알 수 있게 교육청에서 가이드라인을 제시해야 한다”고 강조했다. 이에 설세훈 권한대행은 “타인의 사진을 도용하는 것은 명백한 범죄이며, 교육과정에도 포함하겠다” 답했다. 끝으로 채 의원은 “AI가 빠르게 발전하고 있어 학교에서 이뤄지는 성교육이 뒤처지는 양상을 보이니 예방교육과 가이드라인에 대한 점검에 나서야 한다”고 당부하며 “딥페이크 성범죄와 같은 민감한 문제에 서울시교육청이 선제적으로 대응해달라”고 요청했다.

딥페이크 성범죄 공포가 전국을 뒤덮은 가운데 성폭력 피해여성 등을 지원하는 기관에서 ‘딥페이크’ 관련 상담 안내를 하면서 남학생을 피해자로, 여학생을 가해자로 묘사해 논란이 일고 있다. 센터 측은 “딥페이크 피해자에 대한 성인지 감수성이 부족했다”며 사과했다. 3일 여성긴급전화1366 충남센터는 공식 소셜미디어(SNS)는 “최근 본 센터에서 게시한 딥페이크 예방 카드뉴스로 인해 불편함을 느끼신 모든 분들께 진심으로 사과드린다”는 글을 게재했다. 센터 측은 “본 센터는 이번 카드뉴스 논란에 대해 깊은 우려와 책임감을 느끼고 있다”며 “이는 딥페이크 피해자에 대한 성인지 감수성이 부족했던 점에서 비롯된 것으로, 이부분에 대해 다시 한번 고개 숙여 사과드린다”고 전했다. 이어 “해당 논란이 발생한 후 즉시 카드뉴스 배포를 중단하였으며 아울러 카드뉴스 제작에 더 세심하고 주의 깊에 검토하지 못한 점에 깊이 반성 중”이라며 “관련 직원에 대한 적절한 조치와 성인지 교육 및 재발방지 교육을 통해 이러한 일이 재발하지 않도록 하겠다”고 강조했다. 마지막으로 센터 측은 “이를 계기로 여성긴급전화1366 충남센터는 딥페이크 피해자 보호와 지원에 더욱 신중을 기하며, 향후 발생할 수 있는 피해 예방을 위해 최선을 다하겠다”며 “다시 한번 진심으로 사과드린다”고 덧붙였다. 앞서 지난달 센터 측은 SNS에 딥페이크 관련 카드뉴스를 게재했다. 센터 측은 딥페이크에 대해 설명하면서 ‘내 사진으로 딥페이크 성적 영상물을 발견했다면 여성긴급전화1366 충남센터나 충남 아동청소년 지원센터로 연락달라’고 안내했다. 문제는 함께 올린 카드뉴스 속 일러스트였다. ‘딥페이크 실체’라는 제목의 그림에서 피해자는 교복을 입은 남학생으로, 가해자는 여성으로 묘사된 것이다. 피해자 성별이 정해진 것은 아니지만, 센터 측이 카드뉴스에 활용한 템플릿 원본에는 가해자가 남녀 모두로 구성돼 있어 고의로 남성 가해자를 삭제했다는 지적이 일었다. 해당 카드뉴스는 온라인 커뮤니티 및 SNS를 통해 퍼졌고, 비난이 커지자 센터 측은 문제가 된 카드뉴스를 삭제했다. 한편 여성긴급전화1366은 가정폭력·성폭력·성매매 피해여성에 대한 1차적 긴급지원센터로, 전국 16개 시·도에서 운영되고 있다.

최근 딥페이크를 이용한 성범죄가 확산해 경찰이 집중 단속에 나선 가운데, 검거 인원 대부분이 10대인 것으로 알려졌다. 조지호 경찰청장은 2일 국회 예산결산특별위원회 종합정책질의에서 딥페이크 성범죄 수사와 관련해 “지난 한 주간 접수해 수사하는 것만 120건이 넘고 기존에 수사하는 사안까지 포함하면 수백건”이라고 밝혔다. 조 청장은 “검거 인원 대부분인 약 75%가 10대고, 20대까지 포함하면 약 95%까지 확산한다”며 “죄의식이나 범죄 의식 없이 범죄를 저지르는 경향이 많아 학교전담경찰관을 통해 예방 교육을 병행할 것”이라고 말했다. 조 청장은 지난달 28일부터 ‘딥페이크 성범죄 관련 특별 집중 단속’을 실시하고 있다면서 “경찰청이 처음으로 개발한 딥페이크 탐지 소프트웨어를 최대한 활용해 단속할 계획”이라고 전했다. 앞서 이날 교육부는 학생·교원 딥페이크 피해 건수를 총 196건으로 파악해 179건을 수사당국에 수사 의뢰했다고 밝힌 바 있다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

22대 국회가 임기 시작 96일 만인 어제 약식 개원식을 겸해 정기국회 개회식을 열었다. 윤석열 대통령은 참석하지 않았다. 개원식은 역대 최악의 국회로 평가받던 21대 국회(7월 16일)보다 늦어 1987년 직선제 개헌 이후 최장의 지각국회로 기록됐다. 대통령의 개원식 불참도 6공화국 들어 처음이다. 대통령실은 “특검과 탄핵을 남발하는 국회의 정상화가 먼저”라고 불참 배경을 밝혔다. 압도적 여소야대로 출발한 22대 국회가 관례도, 국회법 취지도 무시하고 오직 힘의 논리와 정쟁으로 국정의 발목을 잡으면서 누적된 불신의 결과이긴 하지만 안타까운 일이다. 그제 열린 여야 대표 회담을 계기로 국회가 하루빨리 정상적인 역할을 다함으로써 정부의 예산안 시정연설 때는 대통령이 직접 참석하고 협치의 국정 운영이 궤도에 오를 수 있기를 기대한다. 여야는 그제 대표 회담에서 양당의 민생 공통공약을 추진하기 위한 협의 기구를 운영하기로 했지만, 각론과 민생 지원의 구체적 방안에 들어가서는 차이점이 적지 않다. 금융투자소득세, 반도체·인공지능(AI)과 국가전력망, 가계·소상공인 지원, 저출생 대책, 딥페이크 성범죄 등 공동 추진 과제를 비롯해 의견차가 크지 않은 민생·경제 법안 위주로 합의폭을 넓혀 갈 필요가 있다. 여야는 의료공백 사태와 관련해서도 정부에 추석 연휴 응급의료 체계 구축을 촉구하는 차원을 넘어 국회 차원의 대책도 서둘러야 한다. 응급실 상황만 앞세워 정부에 의대 증원 보류를 압박하는 것이라면 사태 해결에 도움이 되지 않을 것이다. 지역·필수 의료 살리기 등 본질적 의료개혁의 속도감 있는 추진과 의정(醫政) 대화 구축에 정치권도 힘을 보탤 필요가 있다. 여야는 지구당 부활에 한목소리를 냈지만, 정작 국민 요구가 높은 정치개혁은 불체포특권, 면책특권을 비롯해 국회의원들의 과도한 특권 폐지 또는 축소다. 여야가 선거 때마다 앞다퉈 약속해 온 정치개혁 과제의 입법화도 더이상 늦춰선 안 될 것이다. 채상병특검법, 전 국민 25만원 지급법, 방송 4법, 김건희 여사 특검법 등 여야 시각차가 큰 쟁점 법안들은 민생경제 법안의 발목을 잡지 않도록 별도 트랙으로 충분히 논의하는 등 ‘유연한 전략’이 필요한 시점이다. 여야 대표들의 당내 조율과 설득도 중요하지만, 특히 국민의힘 한동훈 대표가 대통령실과 충분히 소통하고 이를 바탕으로 여야 협상을 주도하는 정치력을 발휘할 필요가 있다. 정부도 필요한 개혁 과제에 대해 여야 구분 없이 적극적인 설명과 협의·설득에 팔을 걷어붙이고 나서야 실질적 성과를 거둘 수 있음을 잊지 말아야 할 것이다.

국내외를 막론하고 가짜뉴스, 딥페이크, 허위·조작 정보가 넘쳐 난다. 여전히 진화론과 기후 위기를 부정하고 백신 음모론 등 정치적 편향과 사회적 편견의 경계를 흐리는 담론이 끊임없이 만들어지고 확산한다. 이런 시대에 연구자들은 어떻게 대중과 과학에 대해 소통할 수 있을까. 과학기술학(STS) 분야 교양 학술지 ‘과학기술과 사회’ 제6호(2024 여름호)는 ‘과학 커뮤니케이션’이라는 주제를 통해 과학기술과 대중이 어떻게 만나야 할지에 대한 특집 논문을 실었다. 편집인인 이두갑 서울대 과학학과 교수는 머리말을 통해 “인공지능의 발전과 소셜네트워크의 확산이 딥페이크나 음모론을 강화하는 식의 부작용을 만들어 내고 있다”며 “전문가들조차 의견이 일치하지 않고 엇갈리는 일이 생기기도 하는데 과학적 사실 전달 통로를 다양화하고 강화해 이런 문제를 해결해야 한다”고 제안했다. 신지은 서울대 기초교육원 교수는 ‘과학 커뮤니케이션 모델의 진화와 새로운 도전’이라는 논문에서 과학 커뮤니케이션의 목표와 모델이 어떻게 역사적으로 진화해 왔는지를 살펴보는 한편 과학 커뮤니케이션이 단순히 과학적 사실의 소통에서 벗어나 정치, 정책 등 다양한 영역에서 시민의 의사 결정과 민주 참여의 장을 열어 주는 도구가 됐다고 강조했다. 신 교수는 “최근에는 전통적 미디어 채널은 쇠퇴하는 동시에 대중과의 상호작용이 활발한 참여형 저널리즘으로 진화하고 있다”며 “다양한 온라인 플랫폼으로 과학자들이 대중과 소통에 적극적으로 참여하면서 과학자, 언론인, 대중 사이의 경계가 모호해지고 있다”고 했다. 과학기자 출신인 윤신영 얼룩소 에디터는 구체적인 방법론을 거론하고 있다. 윤 에디터는 ‘미디어의 데이터 활용과 과학 커뮤니케이션’이란 글에서 과학 저널리즘의 전문화와 미디어 플랫폼의 변화라는 차원에서 데이터 저널리즘의 등장과 활용을 설명한다. 과거에는 숨겨진 진실을 밝히기 위한 자료가 부족했기에 이를 탐색하고 확보하는 것이 탐사보도의 핵심이었지만 현재는 데이터가 풍부해지고 접근성이 좋아지면서 탐사보도를 넘어 미디어 전반에서 데이터를 사용한 보도가 늘고 있다고 말한다. 그렇지만 한국에서는 투입하는 자원 대비 성과가 부족하다는 인식 때문에 데이터 저널리즘의 관심이 후퇴하고 있다고 윤 에디터는 지적했다. 한편 이미솔 EBS PD와 홍성욱 서울대 과학학과 교수는 ‘사이언스픽션(SF)과 STS 커뮤니케이션’을 통해 스토링텔링과 엔터테인먼트를 결합한 방식도 과학 커뮤니케이션의 새로운 수단이 될 수 있다고 설명했다.

텔레그램 딥페이크(허위 영상물)의 심각성이 드러나면서 경찰이 성범죄 방조 혐의로 텔레그램 법인에 대한 입건 전 조사(내사)에 착수했다. 경찰이 텔레그램 법인을 내사하는 것은 이번이 처음이다. 우종수 경찰청 국가수사본부장은 2일 정례 기자간담회에서 “프랑스에서 했듯이 서울경찰청이 텔레그램 법인에 대한 입건 전 조사에 착수했다”고 밝혔다. 텔레그램을 통해 딥페이크 성범죄는 물론 마약 거래 등 각종 범죄가 이뤄지고 있지만 이를 차단하기 위한 적절한 조처를 하지 않아 범죄에 대한 ‘방조’ 혐의로 내사하겠다는 것이다. 텔레그램은 암호화된 비밀 채팅 기능으로 보안성이 뛰어나 전 세계 사용자가 9억명에 이른다. 경찰이 텔레그램 법인의 내사에 나선 건 텔레그램 범죄에 대한 국제사회의 우려가 커지는 상황에서 적극적인 수사 의지를 피력하는 차원으로 풀이된다. 향후 국제 공조 등도 염두에 둔 것으로 보인다. 앞서 프랑스 정부는 텔레그램 창업자 겸 최고경영자(CEO)인 파벨 두로프를 지난달 24일(현지시간) 파리에서 체포하고 온라인 성범죄와 마약 유통 등 각종 범죄를 방조 및 공모한 혐의로 예비 기소했다. 우 본부장은 “최근 텔레그램 이용 범죄가 지속적으로 발생해 관련 수사 자료 등을 요청했지만 공유가 잘 되지 않는다”며 “이번 기회에 프랑스 수사당국이나 국제경찰 기구 등과 공조해 텔레그램 수사를 할 수 있는 방법을 찾아 보겠다”고 말했다. 다만 텔레그램 법인에 대한 조사가 실질적으로 이뤄질 가능성은 낮다는 지적이다. 내사 착수는 선언적 의미일 뿐 실효성이 없다는 얘기다. 텔레그램 본사는 두바이에 있고 서버는 미국에 있다. 그동안 텔레그램에 보낸 수사 협조 요청 중 답신을 받은 경우는 단 한 건도 없다. 딥페이크 성범죄 피해가 확산하며 지난달 26~29일 경찰에는 88건의 피해 신고가 접수됐다. 경찰은 이 가운데 24명의 피의자를 특정해 수사 중이다. 지난 1월부터 7월까지 경찰에 접수된 딥페이크 관련 신고는 297건으로 일주일 평균 9건이 접수됐다는 점을 감안하면 지난달 나흘간은 신고가 10배 가까이 폭증한 것이다. 서울경찰청 사이버범죄수사대는 딥페이크 합성물을 생산하는 텔레그램 방 8곳에 대한 내사도 진행 중이다. 딥페이크 봇을 만든 제작자에게는 범행 공모 및 방조 등의 혐의 적용을 검토할 계획이다.

고등학생 A(18)양은 지난해부터 참여자가 누구인지도 모르는 카카오톡 단체대화방에 초대받아 이유 없이 끝없는 욕설을 들었다. “왜 이제야 기어들어오냐” “미친X, 손 좀 봐 줘야 한다” “찾아가서 죽을 때까지 팬다”는 등 모욕적이고 폭력적인 문자를 마주한 충격이 채 가시기도 전 A양은 계속 다른 단체대화방에 초대됐다. 하루에도 수십~수백번을 대화방으로 불려 나갔다. 글이 계속 이어져 서너 시간 만에 휴대전화 배터리가 금세 방전될 정도였다. A양은 “알림이 올 때마다 피폐해졌고, 지금도 ‘카톡’ 알림음이 들리는 것 같다”고 말했다. A양은 자신이 당한 괴롭힘을 ‘카카오톡(카톡) 감옥’이라고 했다. A양처럼 사이버 폭력으로 일상을 제대로 보내기 어려울 정도의 고통을 겪는 청소년들이 지속적으로 증가하고 있다. 하지만 어른들은 잘 겪어 보지 못한 종류의 가상공간 폭력이라 도움을 청해도 “소셜미디어(SNS)를 탈퇴하면 해결되는 것 아니냐”라는 등 안일한 답변이 돌아오는 경우가 적지 않다. 이런 사이버 폭력에 대한 불감증은 최근 논란이 되는 딥페이크(허위 영상물) 성범죄를 방치하는 데도 한몫했다는 지적이 나온다. 언어폭력이나 금품 갈취 등 온라인에서 발생하는 범죄에는 성인보다 청소년이 더 쉽게 노출된다. 방송통신위원회의 ‘사이버 폭력 실태조사’ 보고서를 보면 지난해 기준 청소년의 사이버 폭력 피해 및 가해 경험률은 40.8％로 성인 경험률(8.0％)의 5배나 됐다. ‘카톡 감옥’ 괴롭힘뿐 아니라 피해 학생의 SNS에 몰려가 악플 등을 대거 달거나 근거 없는 유언비어를 퍼트리는 등 ‘SNS 조리돌림’, 단체대화방에 피해 학생만 제외하고 초대해 정보를 공유하는 ‘카톡 왕따’ 등이 대표적 사례다. 청소년들의 사이버 폭력은 주로 언어폭력이 다수이지만 불법 촬영물 유포나 지인 능욕과 같은 딥페이크 범죄로 진화하기도 한다. 딥페이크 피해자인 중학생 B양은 “처음에는 단톡방에서 음담패설과 욕설만 하길래 크게 신경 쓰지 않았는데, 제가 아무런 반응도 하지 않으니 제 얼굴이 합성된 나체 사진까지 보냈다”고 전했다. 학교폭력 예방 전문기관 푸른나무재단의 전화 상담에서 사이버 폭력이 차지하는 비중도 2022년 6.7％에서 올해 8월 기준 10.1%로 늘었다. 푸른나무재단의 ‘2024 학교폭력 실태조사’를 보면 사이버 폭력 피해 청소년 4명 중 1명(24.0%)은 ‘문제가 해결될 것 같지 않아서’라는 이유로 그 어느 곳에도 도움을 요청하지 않았다. 사이버 폭력으로 인해 피해 학생의 일상은 실제로 무너지지만 또래끼리의 ‘일탈’ 정도로 치부되는 경우도 있다. 나현경 학교폭력 전문 변호사는 “단순 욕설이나 온라인상의 따돌림 행위 등도 범죄가 될 수 있다는 점을 충분히 교육해야 한다”고 말했다.

고등학생 A(18)양은 지난해부터 참여자가 누구인지도 모르는 카카오톡 단체대화방에 초대받아 이유 없이 끝없는 욕설을 들었다. “왜 이제야 기어들어오냐” “미친X, 손 좀 봐 줘야 한다” “찾아가서 죽을 때까지 팬다”는 등 모욕적이고 폭력적인 문자를 마주한 충격이 채 가시기도 전 A양은 계속 다른 단체대화방에 초대됐다. 하루에도 수십~수백번을 대화방으로 불려 나갔다. 글이 계속 이어져 서너 시간 만에 휴대전화 배터리가 금세 방전될 정도였다. A양은 “알림이 올 때마다 피폐해졌고, 지금도 ‘카톡’ 알림음이 들리는 것 같다”고 말했다. A양은 자신이 당한 괴롭힘을 ‘카카오톡(카톡) 감옥’이라고 했다. A양처럼 사이버 폭력으로 일상을 제대로 보내기 어려울 정도의 고통을 겪는 청소년들이 지속적으로 증가하고 있다. 하지만 어른들은 잘 겪어 보지 못한 종류의 가상공간 폭력이라 도움을 청해도 “소셜미디어(SNS)를 탈퇴하면 해결되는 것 아니냐”라는 등 안일한 답변이 돌아오는 경우가 적지 않다. 이런 사이버 폭력에 대한 불감증은 최근 논란이 되는 딥페이크(허위 영상물) 성범죄를 방치하는 데도 한몫했다는 지적이 나온다. 언어폭력이나 금품 갈취 등 온라인에서 발생하는 범죄에는 성인보다 청소년이 더 쉽게 노출된다. 방송통신위원회의 ‘사이버 폭력 실태조사’ 보고서를 보면 지난해 기준 청소년의 사이버 폭력 피해 및 가해 경험률은 40.8％로 성인 경험률(8.0％)의 5배나 됐다. ‘카톡 감옥’ 괴롭힘뿐 아니라 피해 학생의 SNS에 몰려가 악플 등을 대거 달거나 근거 없는 유언비어를 퍼트리는 등 ‘SNS 조리돌림’, 단체대화방에 피해 학생만 제외하고 초대해 정보를 공유하는 ‘카톡 왕따’ 등이 대표적 사례다. 청소년들의 사이버 폭력은 주로 언어폭력이 다수이지만 불법 촬영물 유포나 지인 능욕과 같은 딥페이크 범죄로 진화하기도 한다. 딥페이크 피해자인 중학생 B양은 “처음에는 단톡방에서 음담패설과 욕설만 하길래 크게 신경 쓰지 않았는데, 제가 아무런 반응도 하지 않으니 제 얼굴이 합성된 나체 사진까지 보냈다”고 전했다. 학교폭력 예방 전문기관 푸른나무재단의 전화 상담에서 사이버 폭력이 차지하는 비중도 2022년 6.7％에서 올해 8월 기준 10.1%로 늘었다. 푸른나무재단 관계자는 “사이버 폭력의 유형이 다양해지고 괴롭힘도 교묘해지고 있다”며 “앞으로 피해는 더 증가할 것”이라고 전망했다. 푸른나무재단의 ‘2024 학교폭력 실태조사’를 보면 사이버 폭력 피해 청소년 4명 중 1명(24.0%)은 ‘문제가 해결될 것 같지 않아서’라는 이유로 그 어느 곳에도 도움을 요청하지 않았다. 사이버 폭력으로 인해 피해 학생의 일상은 실제로 무너지지만 또래끼리의 ‘일탈’ 정도로 치부되는 경우도 있다. 나현경 학교폭력 전문 변호사는 “단순 욕설이나 온라인상의 따돌림 행위 등도 범죄가 될 수 있다는 점을 충분히 교육해야 한다”며 “학교 내에서 발생하는 (사이버 폭력) 문제는 교사의 관리 권한을 확대해 적극적으로 개입할 필요가 있다”고 말했다.

텔레그램에서 지인의 사진으로 딥페이크(허위 영상물)를 제작해 유포하는 이른바 ‘겹지방’(겹치는 지인방)에 대한 문제가 제기된 이후 경찰에 관련 신고 88건이 접수됐다. 경찰은 텔레그램 법인에 대한 입건 전 조사(내사)에 착수했다. 우종수 경찰청 국가수사본부장은 2일 기자간담회에서 딥페이크 관련 신고가 “지난달 26일부터 29일까지 한주 동안 88건 접수됐다”면서 “특정된 피의자는 24명으로 피해자는 51명”이라고 밝혔다. 앞서 지난 1월부터 7월까지 경찰에 접수된 딥페이크 관련 신고는 297건이었다. 주당 평균 9건이 접수되던 딥페이크 신고가 10배 가까이 폭증한 것이다. 이 중 상당수는 피해자들이 가해자를 찾아 경찰에 신고한 것으로 파악된다. 우 본부장은 “추측하건데 수사 의뢰하지 않고 사인간에 합의 등으로 넘어갔던 암수 범죄들이 ‘미투 운동’처럼 이게 범죄라는 걸 인식한 피의자들이 적극적으로 신고한 것으로 생각한다”고 밝혔다. 그러면서 “88건 중 24건이 (피의자가) 특정됐다는 건 누가 했다는 것까지 수사의뢰한 게 꽤 많다는 것”이라고 덧붙였다. 텔레그램은 공조가 잘 이뤄지지 않는 만큼 경찰 수사는 쉽지 않을 거라는 얘기다. 여군에 대한 딥페이크가 유포된 텔레그램 방은 언론에 알려진 당일 폐쇄된 것으로 알려졌다. 우 본부장은 “구체적인 수사 단서를 찾기 어려운 상황”이라면서도 “국방부와 협조해서 수사 단서를 조속히 확보할 수 있도록 노력을 다하겠다”고 밝혔다. 경찰은 텔레그램 법인에 불법 합성물 제작·유포를 방조한 혐의를 적용할 수 있을지를 검토 중이다. 텔레그램 법인 자체에 대해 경찰이 입건 전 조사에 착수한 건 이번이 처음이다. 서울경찰청 사이버수사대는 딥페이크를 생성하는 텔레그램 프로그램 봇 8개에 대해서도 입건 전 조사 중이다. 경찰은 디지털 성범죄 대응을 위해 위장수사 대상 범위를 성인 대상 범죄로 확대하는 방안이 필요하다는 입장이다. 미성년 성착취물을 위장 수사하기 위해 텔레그램 방에 잠입한 경찰이 성인 피해자를 발견했더라도 현재로선 위장 수사는 불가능하다. 우 본부장은 “디지철 성범죄 위장 수사 확대 필요성을 느끼고 있다”면서 “신분 비노출 위장 수사는 사전 승인도 필수적인데 휴일 등 긴박한 경우 사후 승인이 가능하도록 적극 추진하겠다”고 밝혔다.

SM엔터테인먼트가 만든 가상인간 나이비스(nævis)가 데뷔한다. 나이비스는 그룹 에스파(aespa)의 조력자 캐릭터로 최근 에스파 콘서트에 깜짝 등장해 화제를 모았다. 나이비스는 에스파 멤버들이 현실인 리얼 월드와 ‘광야’로 불리는 디지털 월드를 오갈 수 있게 해주는 능력을 지녔다는 설정으로, 지난해 에스파의 세 번째 미니음반 수록곡 ‘웰컴 투 마이 월드’에 피처링으로 참여했다. 제작을 맡은 SM 버추얼 IP 센터는 나이비스가 플랫폼과 콘텐츠에 따라 사람의 모습을 본뜬 3D 캐릭터에서 애니메이션을 떠오르게 하는 2D 캐릭터까지 유연하게 외형을 바꿀 수 있도록 설계했다고 설명했다. 인공지능(AI) 음성 기술을 활용해 목소리를 만들고 생성형 AI로 콘텐츠를 제작했다. 나이비스는 음악 활동과 더불어 게임, 브랜드 협업 상품 등으로 IP(지식재산)를 확장해나갈 계획이다. 이를 위해 SM엔터테인먼트는 LG유플러스와 손잡고, 나이비스의 콘텐츠를 제작한다고 발표했다. LG유플러스가 자체 개발한 생성형 인공지능(AI) ‘익시젠’을 활용한 이미지와 영상이 나이비스의 뮤직비디오, 쇼츠, 굿즈 제작 등에 활용된다. LG유플러스는 “SM은 버추얼 아티스트에 AI를 결합함으로써 새로운 문화 장르를 만들고 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서의 긍정적 효과를 기대할 수 있게 됐다”고 말했다. 아담 넘은 ‘가상 인간’ 전성시대1998년도에 등장한 국내 최초 사이버 가수 ‘아담’ 이후 30여년이 흐른 지금 ‘가상 아이돌’이란 통칭 아래 다양한 콘셉트의 그룹들이 등장하고 있다. 실제 인간 멤버 4명과 버추얼 휴먼 멤버 1명으로 조합된 최초의 ‘AI과 사람’ 그룹 슈퍼카인드는 게임 속 캐릭터를 캐스팅했다는 설정을 지닌다. 카카오엔터테인먼트가 기획한 버추얼 아이돌 서바이벌 예능 프로그램 ‘소녀 리버스’는 대중들에게 익숙한 웹툰 스타일의 캐릭터를 차용했다. 실제 30명의 전현직 K-팝 걸그룹 멤버들이 가상현실(VR) 기기를 이용해 메타버스 세상 속에서 정체를 숨긴 채 경쟁하는 콘텐츠로 대중성도 확보했다. 버추얼 멤버들로만 구성된 11인조 걸그룹 ‘이터니티’ 역시 2D 딥페이크 기술을 적용해 만들어진 아이돌로, 신진 아티스트들의 재능 기부를 받아 데뷔곡을 제작했다. 이터니티의 멤버 제인은 4부작 웹드라마에서 정식 배역을 맡아 진짜 사람을 연기한다. 실제 배우가 촬영한 동작 데이터에 AI의 데이터를 녹이는 방식으로 구현하는 식이다. 제인은 한 방송에 출연해 직접 진행자와 대화하며 “음주 관련 사건 사고·연예인 갑질·사회의 물의를 일으킬 일이 없다”고 버추얼 아이돌 그룹으로서의 장점을 소개하기도 했다. 전문가들은 현재까지는 버추얼 아이돌이 일부 마니아층이나 1020세대에서 주로 인기를 끄는 만큼 팬덤의 확장, 대중성 확보가 성공의 가장 큰 관건이 될 것이라고 전망하고 있다.

교원과 학생을 대상으로 한 딥페이크 불법합성물이 제작·유통되어 피해가 되는 가운데 서울시의회가 딥페이크 실태조사 및 예방·대응 교육을 의무화에 나섰다. 이경숙 서울시의원(국민의힘·도봉1)이 대표발의한 ‘서울시교육청 디지털 성범죄 예방 및 교육에 관한 조례 일부개정조례안(이하 개정안)’이 지난 1일 발의됐다. 개정안은 ▲실태조사 의무 실시(안 제5조 신설) ▲학생·피해자 대상 교육 의무화(안 제6조) ▲피해자 심리 지원 추진(안 제7조제1항제2호)을 골자로 했다. 이 의원은 “규제만으로 딥페이크 성범죄를 막기 어려운 만큼 실태 파악과 관련 교육 의무화를 통해 체계적인 사전·사후 대응책 수립과 피해 발생 후 적기 대응을 할 수 있는 계기가 될 것”이라며 발의 취지를 밝혔다. 끝으로 이 의원은 “국회가 나서 디지털 기술 변화에 부합하는 윤리교육 의무화 및 강력한 처벌 규정 마련도 해야 한다”고 덧붙였다.

금투세 손질·의료대책 논의 공감대채상병 특검범 등 쟁점은 합의 불발반도체·AI 지원 공감대… ‘의료사태’ 국회 차원 대책 협의키로 한동훈 국민의힘 대표와 이재명 더불어민주당 대표가 1일 국회에서 열린 여야 당대표 회담에서 양당의 ‘민생 공통 공약’을 추진하는 협의기구를 운영하기로 합의했다. 또 의료 사태와 관련해 국회 차원의 대책을 협의하기로 했다. 금융투자소득세(금투세)에 대해선 주식시장의 구조적 문제를 포함해 활성화 방안을 검토하기로 했을 뿐 유예·폐지 여부는 결정하지 못했다. 채상병특검법과 ‘전 국민 25만~35만원 지원법’ 같은 주요 쟁점 합의에는 실패했다. 곽규택 국민의힘 수석대변인과 조승래 민주당 수석대변인은 2013년 이후 11년 만에 개최된 이날 여야 당대표 회담 종료 후 이를 포함해 8개 부문의 합의 내용을 담은 ‘공동 발표문’을 발표했다. 양당은 반도체 산업, 인공지능(AI) 산업, 국가 기반 전력망 확충을 위한 지원 방안을 적극 논의하고 가계·소상공인의 부채 부담을 완화하기 위한 지원 방안을 적극 발굴키로 했다. 또 저출생 대책으로 맞벌이 부부의 육아 휴직 기간 연장 등 입법 과제를, 딥페이크 성범죄와 관련해 처벌·제재·예방 등을 위한 제도적 보안 방안을 신속 추진하기로 했다. 정당 정치의 활성화를 위해 ‘지구당 제도’의 재도입도 적극 협의키로 했다. 양 대표는 양당 정책위의장과 수석대변인이 함께 참석하는 ‘3+3 방식’으로 예정했던 90분을 훌쩍 넘겨 135분간 회담을 했다. 이후 양당 실무진이 공동 발표문 문안을 정리하는 동안 양 대표가 배석자 없이 약 40분간 독대했다. 다만 이날 공동 발표문 8개 조항 중 구체적 합의에 이른 것은 ‘민생 공통 공약 추진을 위한 협의기구 설치’ 하나였다. 나머지는 큰 틀에서 공감대를 형성했지만 추후 협의로 미뤘다. 또 양측은 의료 현장의 혼란에 대해 추석 연휴 응급 의료체계 구축에 만전을 기할 것을 정부에 당부하고 국회 차원의 대책을 협의하기로 했지만, 사안을 바라보는 근본적인 시각은 달랐다. 한 대표는 앞서 ‘의대 정원 증원 갈등’을 의제로 삼지 않겠다고 했지만 이 대표의 언급으로 이날 협상 테이블에 올라왔다. 조 수석대변인은 “대통령의 사과, 책임자 문책, 대책기구 구성과 이해 관계자들이 참여해 설득하는 구조가 필요하다고 요청했지만 구체적 합의를 만들진 못했다”고 설명했다. 다만 곽 수석대변인은 “양당 대표가 2025학년도 의대 증원은 더이상 논의할 수 없다는 데 인식을 같이했다”고 언급했다. 정부의 내년도 의대 정원 증원에는 이 대표 역시 동의했다는 의미다. 한 대표의 ‘2026학년도 의대 입학 증원 유예’ 방안에 대해선 깊은 논의가 없었던 것으로 전해졌다. 금투세의 경우 ‘폐지’는 아니어도 ‘유예’까지 예상됐지만 양측은 결론을 내지 못했다. 곽 수석대변인은 “국민의힘은 폐지를 주장하며 최소한 내년 시행을 유예하고 계속 논의하자고 했지만, 이 대표는 상법 개정안에 포함된 주식시장의 구조적 문제도 같이 논의하자는 입장”이라고 전했다. 민주당이 추진하는 전 국민 25만~35만원 지원법과 채상병특검법도 합의점을 찾지 못했다. 채상병특검법에 대해 이 대표는 제3자 추천 방식의 특검법 중재안과 민생지원금 관련 선별·차등 지원도 수용하겠다고 한 대표를 압박했지만, 한 대표는 일방적 제안으로 받아들일 수 없다고 맞섰다. 여야 대표 회담 정례화 부문에서도 양측은 다음 만남의 구체적인 일정을 정하지 못했다. 조 수석대변인은 “정례화하는 것보다 ‘수시로 만나서 대화하자’는 말씀이 있었다”고 했다. 곽 수석대변인은 “양당 대표께서 오랜만에 만나서 논의한 자리인 만큼 오늘 다 합의할 수 없다. 앞으로 자주 대화의 기회를 갖자고 하신 게 성과”라고 평가했다. 또 한 대표는 한국 영주권을 취득한 지 3년이 지난 외국인이 지방선거 투표권을 얻는 데 대해 공직선거법 수정을 제안했고, 이 대표는 검토해 보겠다는 원론적 답변을 했다. 앞서 이 대표는 모두발언에서 “정치가 죽고 죽이는 것만은 아닌데 최근 전 정권에 대한 정치보복이라고 볼 수 있는 과도한 조치가 많은 것 같다”며 문재인 전 대통령의 딸 다혜씨에 대한 검찰 압수수색을 겨냥했다. 반면 한 대표는 “‘법안 강행처리·거부권·재표결·폐기·재발의’라는 이런 도돌이표 정쟁 정치가 개미지옥처럼 무한 반복되고 있다”고 진단한 뒤 “국회의 탄핵소추권 남용과 처분적 입법 남발이 헌법 질서를 위협하고 있는데 이런 악순환을 끊어 내자”고 했다.

“저는 텔레그램 딥페이크(허위 영상물) 성범죄 피해자입니다. 당신 사진도 올라와 있는 것 같아서 이 메시지를 보냅니다.” 2021년 7월 어느 날, 초등교사 박승희(27·가명)씨는 모르는 여성에게 ‘딥페이크 성범죄’ 제보를 받았다. 승희씨는 여성이 알려준 텔레그램 ‘지인능욕방’에 들어갔다. 친구들과 소식을 나누기 위해 각종 소셜미디어(SNS)에 올렸던 사진과 합성된 성착취물이 자신의 이름, 연락처, 근무 중인 학교 등 신상 정보와 함께 단톡방에서 퍼지고 있었다. 그제야 승희씨는 몇 달간 남성들이 성기 사진을 마구잡이로 자신에게 보낸 이유를 알게 됐다. 승희씨는 1일 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 회상했다. 그때부터 승희씨는 ‘지인능욕방에서 활동하는 가해자’처럼 위장했다. 자신의 사진을 콕 집어 ‘얘 마음에 드는데 사진 더 없냐’, ‘지인이냐’고 물었다. 낄낄거리던 가해자 A씨가 자신 말고 또 다른 여성의 딥페이크 사진을 올리며 성희롱하는 걸 본 승희씨는 또 다른 피해 여성을 찾아냈다. 두 사람이 지인을 조합해 가며 ‘합동 수사’한 결과 공통적으로 아는 A씨를 특정할 수 있었다. 이렇게 승희씨가 딥페이크 성범죄 가해자를 찾은 데 걸린 시간은 단 5일이었다. 승희씨가 모은 증거에 덜미가 잡힌 A씨는 자백했다. 연신 “죄송하다”는 A씨를 보며 승희씨는 허탈함을 느꼈다. ‘SNS는 수사가 어렵다’며 미적지근한 태도를 보였던 경찰서도 있었다. A씨는 2022년 말 성폭력범죄처벌 등에 관한 특례법 위반과 모욕 혐의로 징역 1년 2개월에 아동·청소년 관련기관 등에 5년간의 취업제한 명령 등을 받았지만, 텔레그램을 탈퇴한 다른 주범은 잡지 못했다. 승희씨는 “성인 대상 디지털 성범죄 수사도 위장 수사가 절실하다”고 강조했다. 현행법상 아동·청소년 대상 디지털 성범죄 수사에만 경찰의 신분 위장 수사가 허용돼 있어서다. 승희씨는 딥페이크 피해자들에게 “가해자는 텔레그램 밖에선 아무런 행동도 못 하는 사람”이라면서 “수치심에 SNS를 닫기도 했지만 피해자가 숨지 않아도 된다는 걸 깨달았다. 꼭 잡을 수 있다”고 전했다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

텔레그램방 잠입 5일 만에 연대해 특정‘죄송하다’ 반복하는 가해자 보며 허탈도 “텔레그램 밖에선 아무 것도 못하는 이들”‘SNS 수사 어렵다’는 경찰서도“성인 피해도 위장 수사 절실”피해자에 “우린 숨을 필요 없어” “저는 텔레그램 딥페이크(허위 영상물) 성범죄 피해자입니다. 당신 사진도 올라와 있는 것 같아서 이 메시지를 보냅니다.” 2021년 7월 어느 날, 초등교사 박승희(27·가명)씨는 모르는 여성에게 ‘딥페이크 성범죄’ 제보를 받았다. 승희씨는 여성이 알려준 텔레그램 ‘지인능욕방’에 들어갔다. 친구들과 소식을 나누기 위해 각종 소셜미디어(SNS)에 올렸던 사진과 합성된 성착취물이 자신의 이름, 연락처, 근무 중인 학교 등 신상 정보와 함께 단톡방에서 퍼지고 있었다. 그제야 승희씨는 몇 달간 남성들이 성기 사진을 마구잡이로 자신에게 보낸 이유를 알게 됐다. 승희씨는 1일 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 회상했다. 그때부터 승희씨는 ‘지인능욕방에서 활동하는 가해자’처럼 위장했다. 자신의 사진을 콕 집어 ‘얘 마음에 드는데 사진 더 없냐’, ‘지인이냐’고 물었다. 낄낄거리던 가해자 A씨가 자신 말고 또 다른 여성의 딥페이크 사진을 올리며 성희롱하는 걸 본 승희씨는 또 다른 피해 여성을 찾아냈다. 두 사람이 지인을 조합해 가며 ‘합동 수사’한 결과 공통적으로 아는 A씨를 특정할 수 있었다. 이렇게 승희씨가 딥페이크 성범죄 가해자를 찾은 데 걸린 시간은 단 5일이었다. 승희씨가 모은 증거에 덜미가 잡힌 A씨는 자백했다. 연신 “죄송하다”는 A씨를 보며 승희씨는 허탈함을 느꼈다. “왜 피해자가 스트레스를 받으며 가해자를 잡아야 할까”라는 데서 느끼는 답답함도 컸다. ‘SNS는 수사가 어렵다’며 미적지근한 태도를 보였던 경찰서도 있었다. A씨는 2022년 말 성폭력범죄처벌 등에 관한 특례법 위반과 모욕 혐의로 징역 1년 2개월에 아동·청소년 관련기관 등에 5년간의 취업제한 명령 등을 받았지만, 텔레그램을 탈퇴한 다른 주범은 잡지 못했다. 승희씨는 “성인 대상 디지털 성범죄 수사도 위장 수사가 절실하다”고 강조했다. 현행법상 아동·청소년 대상 디지털 성범죄 수사에만 경찰의 신분 위장 수사가 허용돼 있어서다. 승희씨는 딥페이크 피해자들에게 “가해자는 텔레그램 밖에선 아무런 행동도 못 하는 사람”이라면서 “처음엔 나도 수치심에 SNS를 닫았지만, 피해자가 숨지 않아도 된다는 걸 깨달았다. 꼭 잡을 수 있다”고 전했다.

한동훈 국민의힘 대표와 이재명 더불어민주당 대표가 1일 민생 공통 공약을 추진하기 위한 협의 기구 운영을 포함해 8개 사항에 대해 합의했다. 가장 큰 쟁점이었던 채상병 특검법과 전 국민 25만원 지원금법은 공동 발표문에 포함되지 않았다. 채상병 특검법의 경우 이 대표가 ‘제3자 방식 추천 특검’을 수용할 수 있다고 했지만 한 대표는 국민의힘 내부 논의가 진행 중이라고 밝혀 일단 합의를 보지 못했다. 한 대표와 이 대표는 이날 약 1시간 43분 동안 회담을 갖고 이같이 결정했다고 양당 수석대변인은 전했다. ▶다음은 대표회담 결과 공동발표문 전문. 국민의힘과 더불어민주당 당대표 회담 결과 공동발표문을 말씀드리도록 하겠습니다. 첫째, 양당의 민생 공동 공약을 추진하기 위해 협의기구를 운영하기로 했다. 둘째, 금투세와 관련해 주식시장의 구조적 문제 등 활성화 방안과 함께 종합적으로 검토, 협의하기로 했다. 셋째, 현재의 의료사태와 관련해 추석 연휴 응급 의료체계 구축에 만전을 기할 것을 정부에 당부하고 국회 차원의 대책을 협의하기로 했다. 넷째, 반도체 산업, AI 산업, 국가 기반 전력망 확충을 위한 지원방안을 적극 논의하기로 했다. 다섯째, 가계와 소상공인의 부채 부담을 완화하기 위한 지원방안을 적극 강구하기로 했다. 여섯째, 저출생 대책의 일환으로 맞벌이 부부의 육아 휴직 기간 연장 등 육아휴직 확대를 위한 입법 과제를 신속 추진하기로 했다. 일곱번째, 딥페이크 성범죄 문제의 심각성에 대해 인식을 같이 하고 이에 대한 처벌과 제재, 예방 등을 위한 제도적 보안 방안을 신속하게 추진하기로 했다. 여덟번째, 정당정치의 활성화를 위해 지구당 제도의 재도입을 적극 협의하기로 했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.