가수 김호중의 음주운전 뺑소니 사건을 보도하면서 앵커가 다리를 저는 흉내를 낸 채널A가 방송통신심의위원회의 법정 제재를 피했다. 이 프로그램은 방송 직후 시청자들로부터 뭇매를 맞고 곧바로 폐지됐다. 방송통신심의위원회는 23일 서울 양천구 목동 방송회관에서 전체회의를 열고 음주운전 혐의로 기소된 김호중의 법원 출석 소식를 전하는 과정에서 장애인을 비하했다는 비판을 받은 채널A ‘강력한 4팀’에 대한 행정지도를 결정했다. 이 프로그램은 지난달 10일 방송 때 진행자인 이모 앵커가 “김호중씨가 뭔가 법정에 입장을 할 때 ‘절뚝절뚝’ 이런 모습이었다. 재판을 마치고 나갈 때도 마찬가지로 ‘절뚝절뚝’ 뭐 이런 모습이었다는 거예요”라며 즉석에서 다리를 저는 흉내를 냈다. 해당 방송이 나간 후 시청자게시판에는 4000건이 넘는 비판 글이 쏟아졌다. 방심위에도 1519건의 민원이 접수됐다. 이날 의견진술에는 당시 앵커도 직접 출석해 사과했다. 앵커 이씨는 “말로만 설명했어도 충분했을 것을, 행동을 통해서 좀 더 잘 알려드리겠다는 욕심 때문에 결과적으로 이런 혼란과 불편을 드렸다”며 “당사자와 그 방송을 보면서 불편함을 느꼈을 시청자들께 지금도 송구스럽고 죄송스럽게 생각한다”라고 고개를 숙였다. 천상철 채널A 보도본부 부본부장은 “해당 프로그램은 폐지됐다. 새 교양 프로그램이 신설돼 곧 생방송으로 진행될 예정”이라고 밝혔다. 류희림 위원장은 “보름 만에 프로그램을 폐지했고 당사자 징계까지 했으며 깊이 반성하는 모습을 보였다. 후속 조치를 신속하게 한 점을 높이 평가한다”고 했다. 방심위는 전원 일치로 행정지도 중 ‘권고’를 의결했다.

집단행동에 참여하지 않은 의사와 의대생 신상 정보를 공개한 의사 명단의 사이트 링크 주소가 온라인 커뮤니티를 통해 공유되는 등 무분별하게 확산하고 있다. 정부가 ‘악의적인 행위’라 규정하고 엄정 대응을 강조했지만, 오히려 경찰 수사나 정부 대응을 조롱하는 내용도 수두룩했다. 19일 서울신문 취재를 종합하면 병원에 근무하는 전공의와 전임의, 학교에 남은 의대생 등의 신상 정보를 공개한 이른바 ‘감사한 의사 명단’ 링크가 누구나 접속할 수 있는 디시인사이드 의학 갤러리에 버젓이 공유됐다가 삭제됐다. 지난 16일 ‘블랙리스트 아카이브 링크’, ‘아카이브 링크 알려준다’라는 제목으로 링크 주소가 함께 게재된 글 2개가 연달아 올라왔다가 삭제되기도 했다. 기존에는 명단 내용을 담은 사이트 링크가 수시로 바뀌어 접근성이 낮았지만, 최근 업데이트된 명단은 한 번 링크를 알게 되면 언제든 접속이 가능한 방식으로 바뀌었다. 명단 작성자는 텔레그램에서 운영하는 익명 블로그인 ‘텔레그래프’를 통해 고정 링크를 공지해두고, 수사 대상으로 특정되지 않을 방법으로 사이트에 접근하고 공유하는 방법 등을 안내하고 있다. 이 링크를 공유하는 다른 이들은 주소와 함께 경찰을 향해 “헛짓거리 그만하시라”거나 “실적 올리려고 무리한 수사 제발 그만두라”는 조롱섞인 표현을 쓰기도 했다. 김명주 서울여대 정보보호학 교수는 “해당 서버는 물리적으로 유럽 쪽에 있고 무정부주의를 표명한 사이트라 수사 및 접속 차단을 위한 국제 공조도 어렵고 시간도 오래 걸린다”면서 “기술적으로도 완벽하게 차단한다는 건 불가능하고, 계속 우회 접근이 가능한 구조”라고 말했다. 경찰의 ‘의사 블랙리스트’ 관련 수사는 지난 2월 의사·의대생 커뮤니티 등에 올라온 ‘참의사 리스트’, 지난 7월 텔레그램 ‘감사한 의사 명단’, 지난달부터 활동 중인 아카이브 형식의 ‘감사한 의사 명단’으로 나뉘어 진행되고 있다. ‘참의사 리스트’ 작성자는 검찰로 송치됐고, 텔레그램 명단 작성자는 오는 20일 구속 전 피의자심문(영장심사)을 받을 예정이다. 한편 방송통신심의위원회(방심위)는 “해당 아카이브 사이트에 대해 관련 법령 위반 여부 등을 현재 검토하고 있다”고 밝혔다.

국회 과학기술정보방송통신위원회가 야권이 제기한 류희림 방송통신심의위원장의 ‘민원 사주’ 의혹과 관련, 오는 30일 이를 규명하기 위한 청문회를 열기로 했다. 더불어민주당 등 야당 소속 과방위원들은 13일 전체회의를 열고 ‘방송통신심의위원장의 청부 민원과 공익신고자 탄압 등에 대한 청문회 실시 계획의 건’을 단독 의결했다. 여당 소속 의원들은 이날 회의에 불참했다. 이날 회의는 민주당이 ‘방심위 직원 압수수색 관련 긴급 현안질의’를 하겠다며 열었다. 하지만 류 위원장과 김태규 방송통신위원장 직무대행 등 관계기관장이 불출석하며 파행으로 이어졌다. 국민의힘 소속 의원들도 법에 근거한 압수수색을 문제 삼아 상임위가 정부 부처에 질의하는 것은 부당하다며 불참했다. 과방위 여당 간사인 최형두 의원은 “압수수색 요청이 부당했다면 법원이 영장을 발부했겠느냐”며 “그에 대해 상임위가 질의하겠다는 것은 국회 권한을 넘어선 것”이라고 항의한 뒤 질의 시작 전 회의장을 나갔다. 추경호 원내대표도 “수사에까지 영향을 미치려는 의도로 청문회를 강행한다”며 “민주당이 이성 잃은 초법적 입법권력을 남용하고 있다”고 반발했다. 반면 이훈기 민주당 의원은 “민원사주라는 악질 범죄 의혹이 발생했는데 공익제보자를 경찰이 압수수색하는 초유의 공익 제보자 색출 소동도 벌어지고 있다”고 지적했다. 야당 의결에 따라 청문회 증인으로는 류 위원장과 김 직무대행, 김봉식 서울경찰청장, 유철환 국민권익위원장이, 참고인으로는 윤창현 언론노조위원장, 김준희 언론노조 방심위지부 지부장 등 모두 30명이 채택됐다. 앞서 경찰은 지난 10일 방심위 직원이 민원인 개인정보를 유출했단 의혹과 관련, 방심위 청사와 노조 사무실 직원 주거지 등을 압수수색 했다. 야권은 이를 ‘제보자 색출 수사’라고 비판해 왔다.

방송통신심의위원회 직원이 민원인의 개인정보를 유출했다는 의혹과 관련해 경찰이 방심위 사무실 등을 압수수색 중이다. 서울경찰청 반부패범죄수사대는 10일 서울 양천구 목동 방심위 사무실과 관련자 주거지 등지에 수사관을 보내 관련 자료를 확보하고 있다. 앞서 경찰은 지난 1월에도 방심위 사무실을 압수수색했다. 뉴스타파와 MBC는 류희림 방심위원장이 가족 등을 동원해 뉴스타파의 ‘김만배-신학림 허위 인터뷰’ 보도와 인용 보도들에 대해 방심위에 민원을 넣도록 했다는 의혹이 있다고 보도했으며 방심위는 민원인 정보 유출과 관련해 수사를 의뢰했다.

여야가 4일 국회 여성가족위원회의 ‘딥페이크 성범죄 관련 현안 질의’에서 딥페이크 범죄 실태를 지적하며 소관 기관들의 후속 조치 미비를 비판했다. 여야는 딥페이크 성범죄를 막기 위해 정부의 ‘컨트롤타워’ 구축을 강조했다. 또 일부 일선 학교에서 여학생들에게만 소셜미디어(SNS)에서 사진을 내리도록 하는 조치를 한다고 지적했고, 텔레그램 등이 딥페이크 관련 수사 협조를 안 할 경우 서비스를 막는 강경책도 필요하다는 제언이 나왔다. 이인선 여가위원장은 이날 “사람들의 사진을 성폭력 이미지나 영상으로 바꾸는 성범죄, 즉 디지털 기술로 가짜 사진이나 영상을 만들어 유포하는 디지털 성범죄가 우리 사회에 만연한 것으로 알려지며 충격을 주고 있다”며 “텔레그램의 단체 대화방과 채널에서 딥페이크 영상물이 생성 유포된다는 사실이 밝혀졌는데 초등학생들을 대상으로 한 사건으로 영상물의 피해자와 가해자 모두 연령대가 낮다는 사실이 더욱 큰 충격을 주고 있다”고 지적했다. 사태 확산을 막기 위해 범정부 차원의 ‘컨트롤타워’가 필요하다는 의견도 나왔다. 서범수 국민의힘 의원은 “여가부는 예방 및 피해자 지원을 하고 경찰청은 수사하고 법무부는 법 정비를 하지 않나. 그러니까 전부 각자도생으로 취합이 안 된다는 비난을 많이 받았다”며 “국무조정실이 각 부처에 역할을 주고 피드백을 받고 총괄해야 시너지 효과가 난다”고 말했다. 경찰에 적극적인 피의자 추적·단속을 촉구하는 목소리도 나왔다. 서영교 더불어민주당 의원은 “피해자들이 경찰에서 ‘(텔레그램) 서버가 해외에 있어서 어떻게 할 수 없다’는 말을 들으면 목숨 끊는 것밖에 방법이 없다고 생각하지 않겠나”라고 우려했다. 여가위 여당 간사인 김상욱 의원은 텔레그램의 협조가 부실할 경우 국내 서비스 차단도 고려하자고 제언했다. 김 의원은 “수사 협조를 안 하면 서비스할 수 없도록 하는 본질적 대처가 필요하다. 그것이 아니면 협조를 구걸하는 꼴이 된다”며 “이에 대한 기술적·법적 연구가 필요하다”고 강조했다. 이달희 국민의힘 의원은 “호기심 많은 청소년들이 처음엔 딥페이크로 재미있는 영상을 만들다가 성범죄물로 가는 경우가 있다”며 “범죄라는 사실을 교육해야 한다”며 사전 교육의 필요성을 지적했다. 같은 당 한지아 의원은 피해자 보호와 2차 가해 방지를 강조했다. 한 의원은 “피해자 지원 업무에 공백이 생기지 않도록 각별히 신경 써달라”고 말했다. 교사 출신인 백승아 민주당 의원은 일부 학교가 피해를 예방하겠다며 여학생들에게만 SNS에서 사진을 내리도록 하거나, 피해자 익명성을 보장하지 않은 채 현황을 조사한다고 지적했다. 백 의원은 “피해자들이 겁내지 않고 피해 사실을 밝힐 수 있도록 안내하는 게 중요하다”고 강조했다. 이날 질의에는 신영숙 여가부 차관을 비롯해 과학기술정보통신부, 방송통신심의위원회, 법무부, 경찰청 등의 실무자들이 참석했다. 이동수 방심위 디지털성범죄심의국장은 텔레그램이 전날 당국의 공조 요청에 ‘불법 콘텐츠 대응에 어려움이 있는 점을 사과한다’는 취지로 답신한 사실을 밝히며 관련 부처가 텔레그램과 성범죄 대응을 위한 공조 체제를 구축했다고 밝혔다. 다만 ‘위장 수사’ 도입 등 수사권 확대에는 충분한 숙의가 필요하다는 목소리도 나왔다. 한상형 법무부 형사법제과장은 위장 수사 도입 필요성에 대해 “수사기관이 (위장 수사 과정에서) 실제 성 착취물을 광고·거래할 수 있는 등 피해자에 대한 중대한 인권침해를 수반한다”며 “운영 성과와 실익, 문제점 등을 면밀히 분석해야 한다”고 말했다.

5일간 118건 신고… 33명 특정디지털 성범죄 예산 32% 삭감내년 대응 인력 증원 어려울 듯방심위 “텔레그램, 영상물 삭제” 딥페이크(허위 영상물)를 제작·유포하는 텔레그램방에 대한 신고가 빗발치는 가운데 경찰이 지난 일주일간 검거한 피의자 7명 중 6명은 10대인 것으로 나타났다. 딥페이크 성범죄에 대한 검거나 구속이 다른 디지털 성범죄와 비교해 저조하다는 분석도 나왔다. 허위 영상물 유통 창구로 지목된 텔레그램은 방송통신심의위원회가 긴급 삭제 요청한 영상물을 모두 삭제한 것으로 파악됐다. 경찰청 국가수사본부는 지난달 26일부터 30일까지 허위 영상물과 관련한 신고가 모두 118건 접수됐다고 3일 밝혔다. 경찰은 이 가운데 피의자 33명의 신분을 특정했는데 31명(93.9%)이 10대인 것으로 파악됐다. 같은 기간 경찰이 검거한 7명 중 6명도 10대였다. 올해 1~7월 검거된 피의자 178명 중에서도 10대가 131명(73.6%)으로 가장 많았다. 아울러 허위 영상물 사건의 절반은 피의자가 붙잡히지 않은 데다 잡히더라도 구속되는 등 강력한 조치가 취해지는 경우는 드문 것으로 나타났다. 황정아 더불어민주당 의원이 경찰청에서 받은 자료를 보면 2021~2023년 허위 영상물 범죄로 검거된 257명 중 구속된 경우는 12명으로 전체의 4.7%에 그쳤다. 구속률도 2021년 5.1%에서 지난해 4.0%로 낮아졌다. 이는 허위 영상물을 포함한 전체 사이버 성폭력 범죄 구속률(지난해 기준 7.1%)보다 낮은 것이다. 이런 상황에서 디지털 성범죄 피해 대응 예산은 오히려 삭감됐다. 김남희 민주당 의원이 여성가족부로부터 제출받은 자료를 보면 내년 디지털 성범죄 피해 대응 예산은 8억 4100만원으로 올해(12억 2800만원)보다 31.5% 줄었다. 한편 방심위는 이날 “텔레그램 측이 긴급 삭제 요청한 영상물 25건을 모두 삭제했다며 사과의 뜻과 함께 신뢰 관계 구축 의사를 전해 왔다”고 밝혔다. 텔레그램 동아시아 지역 관계자는 “최근 한국이 자사 플랫폼에서 불법 콘텐츠를 다루는 데 어려움을 겪고 있다는 것을 알게 됐다”며 “현재와 같은 상황 전개를 매우 안타깝게 생각한다. 오해의 소지가 있었다면 사과한다”는 내용의 이메일을 방심위에 보냈다. 방심위 관계자는 “소통 채널을 구축하고 어떤 식으로 디지털 성범죄에 대해 협력할지 검토할 것”이라고 말했다.

딥페이크 불법 합성물이 제작되고 유포되는 온상인 된 텔레그램이 방송통신심의위원회가 긴급 삭제 요청한 디지털 성범죄 영상물을 모두 삭제한 것으로 파악됐다. 방심위는 3일 “텔레그램 측이 지난 1일 긴급 삭제 요청한 디지털 성범죄 영상물 25건을 모두 삭제했다며 사과의 뜻과 함께 신뢰 관계 구축 의사를 전해왔다”고 밝혔다. 텔레그램은 이날 동아시아 지역 관계자의 공식 이메일 서한을 방심위에 보내 “최근 한국 당국이 자사 플랫폼에서 불법 콘텐츠를 다루는 데(with handling illicit content on our platform) 어려움을 겪고 있다는 언론보도를 알게 됐다”고 밝혔다. 텔레그램 측은 “현재와 같은 상황 전개를 매우 안타깝게 생각한다”면서 “방통심의위와 양측간 오해의 소지가 있었다면 사과한다”고 했다. 그러면서 텔레그램 측은 방심위에 자사와 소통할 전용 이메일을 새로 알렸다. 새로운 이메일 주소로 방심위는 텔레그램이 신고 대상 콘텐츠가 삭제됐는지 즉각 확인할 수 있을 것이라는 설명을 덧붙였다. 방심위 관계자는 “그동안 세계 각국으로부터 보다 적극적인 소통을 요구받아온 텔레그램 측의 이러한 입장 표명은 매우 전향적인 것”이라며 “우리나라에서 최근 발생한 사태에 대해 심각성을 인지하고 향후 협력 의지를 분명히 함으로써 현 사태 해결에 큰 물꼬가 트일 것으로 평가된다”고 말했다. 이어 “이번 기회에 서로 소통하게 된 전용 이메일을 시작으로 핫라인을 구축해 딥페이크 성 착취물 문제를 해결함은 물론 디지털 성범죄 영상의 궁극적 퇴출을 위한 공고한 협력관계를 다져나가기를 기대한다”고 덧붙였다. 텔레그램의 태도가 달라진 것은 창업자이자 최고경영자(CEO)인 파벨 두로프(39)가 지난 24일(현지시간) 프랑스에서 전격 체포된 것과 맞물려 최근 한국 등에서 불거진 딥페이크 범죄가 전 세계적인 이슈로 떠오른 상황과 무관치 않아 보인다. 두로프는 텔레그램이 범죄에 악용되는 것을 막기 위한 조치를 하지 않은 혐의를 받는 것으로 전해지고 있다.

3년간 딥페이크 성범죄 실형 4건뿐미성년자 성관계 500여건 올려도법원 “대부분 가짜인지 알 수 있어”연예인 합성물 5800개 업로드해도영리 목적의 범행 아니라며 ‘감경’“다른 성범죄 수준 양형 강화해야”정치권도 뒤늦게 법안 7개 쏟아내서울시·방심위 ‘삭제 핫라인’ 구축올 학생·교사 피해 179건 수사 의뢰교육부, TF 구성해 10월 중 대응책 딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량이 선고돼 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 오는 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 오세훈 서울시장은 이날 류희림 방송통신심의위원장과 업무협약을 맺고 딥페이크 음란물 영상 신고가 들어올 경우 24시간 이내에 삭제하는 ‘핫라인’을 가동하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 승인을 기다리다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 나온다.

서울시와 방송통신심의위원회는 28일 최근 사회적 논란이 되고 있는 딥페이크(허위영상물)에 대응해 24시간 이내에 딥페이크 음란물 영상을 삭제하는 핫라인 시스템을 구축하기로 했다. 오세훈 서울시장과 류희림 방심위원장은 이날 서울시청에서 이를 위해 업무협약을 맺고 협력하기로 했다. 방심위와 핫라인을 구축하는 지자체는 서울시가 처음이다. 이번 협약에 따라 폐쇄형 소셜미디어(SNS)에 딥페이크 불법영상물이 유포돼 피해 신고가 들어올 경우 24시간 이내에 영상이 삭제·차단될 수 있게 조치한다. 기존에는 서울시 디지털성범죄 안심지원센터에서 방심위에 각종 증빙 자료를 제출해야 했지만, 핫라인 구축으로 시스템을 연계해 대량 건수를 일시에 삭제요청할 수 있게 된다. 그간 서울시는 디지털성범죄 안심지원센터를 통해 딥페이크 피해자 72명에게 772건의 서비스를 지원한 바 있다. 이와 함께 오픈채팅방에 ‘딥페이크 SOS 전담 상담창구’를 개설하고 피해지원관 2명을 배치해 신고 방법과 범죄 채증 방법을 안내한다. 또 수사·법률지원 등 피해자에게 필요한 지원을 위해 서울디지털성범죄 안심지원센터로도 연결한다. 서울시는 피해상황을 24시간 모니터링하고 자동으로 삭제신고를 하는 시스템을 연말까지 구축할 계획이다.

딥페이크 피해 400~500개교 추산SNS 등서 ‘피해학교지도’도 퍼져경찰, 내년 3월까지 집중 단속 실시단순 시청자는 처벌도 쉽지 않아“피해 땐 경찰·방심위 신고 최우선” 인공지능(AI)을 이용해 지인 등의 얼굴을 합성한 ‘딥페이크 영상물’을 텔레그램에서 유포하는 성범죄가 학교·단체·군 등으로 광범위하게 확산하자 정치권은 물론 여성·군인권단체 등 각계각층에서 엄중 처벌을 요구하고 나섰다. 교육부는 실태 파악을 시작했고 경찰도 뒤늦게 특별단속을 실시한다. 일부 경찰서에는 관련 피해가 접수돼 수사가 진행 중인 것으로 확인됐다. 다만 상당수 텔레그램방이 이미 폐쇄된 데다 ‘유포 목적’을 입증하지 못하면 법 적용이 어려워 수사부터 처벌까지 난항을 겪을 것으로 보인다. 27일 서울신문 취재를 종합하면 경기 안산상록경찰서에는 지난 주말부터 이날까지 3일간 딥페이크 영상물로 협박을 당했다는 10대 8명의 신고가 접수됐다. 가해자는 피해자들의 이름과 학교 등 신상을 거론하면서 소셜미디어(SNS)에 게시된 피해자들의 사진을 합성해 유포하겠다고 협박한 것으로 전해졌다. 경찰 관계자는 “현재 입건 전 조사(내사) 단계이지만 사안을 검토한 이후 적극적으로 수사하겠다”고 말했다. 이 외에 서울경찰청 사이버수사대도 참여 인원만 22만여명에 달하는 불법 합성물 제작 텔레그램 채널과 관련해 내사에 착수했다. 피해 사실을 나중에 알게 된 이들이 신고하면 앞으로 관련 수사는 급격하게 확대될 것으로 전망된다. 엑스(X·옛 트위터)에 올라온 게시글 등을 보면 텔레그램 딥페이크방에 언급된 학교 수는 400~500곳 정도로 추산된다. 엑스에서 피해 학교 명단을 취합해 알리고 있는 대학생 방서윤(19)씨는 “일주일 만에 2000개 넘는 피해 사실 제보가 들어왔다”며 “학교 차원의 조치나 수사를 통한 처벌이 이뤄져야 한다”고 전했다. 특히 불안감이 커지면서 SNS에는 관련 피해가 발생한 학교와 위치를 알 수 있는 ‘피해학교 지도’도 등장했다. 해당 지도를 볼 수 있는 링크는 SNS와 온라인 커뮤니티 등을 통해서 퍼지고 있다. 긴급 실태 조사를 진행 중인 전국교직원노동조합은 “현재 300곳 정도 조사한 결과 40곳에서 실제 피해가 확인됐다”고 말했다. 학교를 중심으로 확산하는 딥페이크 영상물 범죄는 같은 학교 학생이나 교사 등 주변 지인을 상대로 하는 경우가 많다. 특정 지역과 학교에서 공통 지인을 찾아 이른바 ‘겹지인방’에 모여 영상물을 공유하고 조롱하기도 한다. 경찰청에 따르면 올해 7월까지 딥페이크 영상물 관련 범죄로 검거된 피의자 178명 중 131명(73.6%)이 10대다. 교육부는 17개 시도교육청별로 딥페이크 성범죄물 피해 현황을 파악할 것과 일선 학교에는 예방 교육 및 피해 신고를 하도록 요청했다. 경남교육청에서는 24건의 신고가 접수됐다고 밝혔고 인천교육청은 피해 의심 학교가 22곳이라고 추산했다. 방송통신심의위원회도 이날 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다. 경찰청은 28일부터 내년 3월 말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 한다. 서울경찰청도 딥페이크 성범죄가 처벌 대상임을 경고하고 신고를 당부하는 내용의 ‘긴급 스쿨벨’을 발령했다. 아울러 경찰과 여성가족부 등은 “피해를 당했다면 일단 신고하는 게 먼저”라고 강조했다. 경찰청 사이버범죄 신고시스템(ecrm.police.go.kr)으로 본인이 직접 신고하거나 방송통신심의위원회 홈페이지의 ‘디지털 성범죄 신고’ 배너를 통해 누구나 신고할 수 있다. 이처럼 일상으로 파고든 딥페이크 영상물 범죄를 근절하기 위해선 처벌을 강화해야 한다는 목소리가 나온다. 아동청소년 대상 디지털 성범죄와 달리 성인을 대상으로 한 경우 수사기관의 함정 수사가 불가능한 점도 한계로 꼽힌다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “2020년 개정된 성폭력처벌법상 허위 영상물 등은 유포의 목적이 있어야 처벌이 가능하기에 ‘개인 소장’이거나 ‘단순 시청’이라 주장할 경우 처벌이 쉽지 않다는 맹점이 있다”고 지적했다. 허민숙 국회입법조사처 연구관은 “대화방 단순 참여자라 하더라도 참여하는 사람이 있기에 딥페이크 불법 콘텐츠가 더 확산하는 만큼 연대책임이 반드시 필요하다”고 강조했다.

인공지능(AI)을 이용해 지인 등의 얼굴을 합성한 ‘딥페이크 영상물’을 텔레그램에서 유포하는 성범죄가 학교·군 등으로 광범위하게 확산하자 정치권은 물론 여성·군인권단체 등 각계각층에서 엄중 처벌을 요구하고 나섰다. 교육부는 실태 파악에 나섰고 경찰도 뒤늦게 특별단속을 실시하기로 했다. 일부 경찰서에는 관련 피해가 접수돼 수사가 진행 중인 것으로 확인됐다. 다만 이미 상당수 텔레그램방이 폐쇄된 데다 유포 목적을 입증하지 못하면 법 적용이 어려운 점 때문에 수사부터 처벌까지는 난항을 겪을 것으로 보인다. 27일 서울신문 취재를 종합하면, 경기 안산상록경찰서에는 지난 주말부터 이날까지 3일간 딥페이크 영상물로 협박을 당했다는 10대 8명의 신고가 접수됐다. 가해자는 피해자들의 이름과 학교 등 신상을 거론하면서 소셜미디어(SNS)에 게시된 피해자들의 사진을 합성해 유포하겠다고 협박한 것으로 전해졌다. 경찰 관계자는 “현재 입건 전 조사(내사) 단계지만, 사안을 검토한 이후 적극적으로 수사하겠다”고 말했다. 이 외에 서울경찰청 사이버수사대도 참여 인원만 22만여명에 달하는 불법합성물 제작 텔레그램 채널과 관련해 입건 전 조사(내사)에 착수했다. 피해 사실을 나중에 알게된 이들이 신고를 접수하면 앞으로 관련 수사는 급격하게 확대될 것으로 전망된다. 엑스(X·옛 트위터)에 올라온 게시글 등을 보면, 텔레그램 딥페이크방에 언급된 학교 수는 400~500곳 정도로 추산된다. 특히 엑스에서 피해 학교 명단을 취합해 알리고 있는 대학생 방서윤(19)씨는 “모교에 피해자가 있다고 해서 취합을 시작했는데 일주일 만에 2000개가 넘는 피해 사실 제보가 들어왔다”며 “가해자들은 ‘잘못한 게 없다’는 태도를 보이는 경우가 많다. 학교 차원의 조치나 수사를 통한 처벌이 이뤄져야 한다”고 전했다. 현재 긴급 실태 조사를 진행 중인 전국교직원노동조합은 “현재 300곳 정도 조사한 결과 40곳에서 실제 피해가 확인됐다”며 “조사가 진행 중인 만큼 피해 학교는 더 늘어날 것”이라고 말했다. 최근 학교를 중심으로 확산하는 딥페이크 영상물 범죄는 같은 학교 학생이나 교사 등 주변 지인을 상대로 하는 경우가 많다. 특정 지역과 학교에서 공통 지인을 찾아 이른바 ‘겹지인방’에 모여 영상물을 공유하고 조롱하기도 한다. 영상물을 유포하겠다며 피해자를 협박하기도 한다. 경찰청에 따르면 올해 7월까지 딥페이크 영상물 관련 범죄로 검거된 피의자 178명 중 131명(73.6%)이 10대다. 딥페이크 영상물 범죄의 심각성이 드러나자 정부는 수사와 실태 파악에 나섰다. 교육부는 17개 시·도교육청별로 딥페이크 성범죄물 피해 현황을 파악하고, 일선 학교에는 예방교육과 피해 신고를 하도록 요청했다. 방송통신심의위원회도 이날 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다. 경찰청은 28일부터 내년 3월말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 실시한다. 다만 일상으로 파고든 딥페이크 영상물 범죄를 근절하기 위해선 처벌을 강화해야 한다는 목소리가 나온다. 아동청소년 대상 디지털 성범죄와 달리 성인을 대상으로 한 경우 수사기관의 함정 수사도 불가능한 점도 한계로 꼽힌다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “2020년 개정된 성폭력처벌법상 허위영상물 등은 유포의 목적이 있어야 처벌이 가능하기에 ‘개인 소장’이거나 ‘단순 시청’이라 주장할 경우 처벌이 쉽지 않다는 맹점이 있다”고 지적했다. 허민숙 국회입법조사처 연구관은 “대화방 단순 참여자라 하더라도 참여하는 사람이 있기에 딥페이크 불법 콘텐츠가 더 확산하는 만큼 연대책임이 반드시 필요하다”고 강조했다.

최근 대학가에 이어 10대 학생들 사이에서도 딥페이크(AI 기반 합성 이미지) 불법 합성물 범죄가 확산하는 가운데 이를 우려하는 여성들을 조롱하는 글들이 다수 올라와 공분을 일으키고 있다. 27일 엑스(X·옛 트위터) 등 소셜미디어(SNS)에는 “딥페이크가 별거 아니라는 중2 학생들”이라는 글과 함께 온라인 커뮤니티에 중학생 이용자들이 올린 댓글을 캡처한 사진이 올라왔다. 해당 사진에는 “딥페이크하는 사람들도 예쁜 사람만 고른다”, “성폭행 안 할거니까 걱정하지 마시라고”, “딥페이크 하나 가지고 난리부르스 떠냐” 등 조롱 글이 담겨 있다. 또 다른 중학생은 “오늘부터 셀카 올리는 여자들의 사진을 긁어모아 딥페이크를 하겠다. 딥페이크 제작자도 거를 ○○○들이 허언증인지 자의식 과잉인지 너무 설친다”며 충격적인 발언도 서슴지 않았다. 중학생들뿐만이 아니다. 지난 26일 대학생 커뮤니티 에브리타임에도 “딥페이크 사건 호들갑 지겹다”는 글이 올라오기도 했다. 해당 글에는 “딥페이크 만든 놈들 역겹고 더러운 거 맞지만 여자들 호들갑에 공감하긴 싫다. 사회적으로 여자들은 남자들에게 공감한 적이 단 한번도 없기 때문”이라는 내용이 담겼다. 범죄의 표적이 될까 불안에 떠는 여학생들을 향해 “일단 불안에 떨고 있는 ○○대 여성분들, 80%는 안심하고 발 뻗고 자도 돼. 너 그 정도 급 아니야”, “딥페이크 범죄의 표적은 페미니스트가 아닌 예쁜 여성들만 해당한다. 얼굴 못생긴 사람들은 안심해도 된다”는 조롱글도 넘쳐났다. 앞서 전날 엑스의 한 공개 계정에는 텔레그램 대화방을 통해 딥페이크 음란물이 유포되고 있다며, 피해 사례가 알려진 대학들의 명단이 올라왔다. 이 계정이 지목한 텔레그램 대화방 참여자들은 친구, 교사 등 지인을 넘어 친족 사진까지 음란물 제작용으로 공유하고 있는 것으로 알려졌다. 해당 게시글이 온라인상에 퍼지면서 네티즌들 사이에선 ‘혹시 나도 딥페이크 합성의 대상이 된 게 아니냐’는 불안감이 확산했다. 피해 방지를 위해 일부 여성들은 SNS에 올린 자신의 사진을 삭제하기도 했다. 증가하는 딥페이크 범죄…방심위 대책 마련 착수국회 행정안전위원회 소속 조은희 국민의힘 의원실이 지난 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 누구나 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 10대들도 자주 접하면서 딥페이크 음란물이 범죄라는 인식이 옅어졌다는 지적도 나온다. 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐다. 방송통신심의위원회는 27일 실·국장 회의를 소집, 딥페이크 음란물 확산 사태 관련 대책 마련에 착수했다. 28일에는 전체 회의를 열어 의논한 내용을 확정할 방침이다. 방심위는 먼저 공식 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하기로 했으며, 관련 모니터링 요원을 배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 또 텔레그램과 즉각 협의할 수 있는 핫라인을 개설, 신속한 피해 확산 차단에 나설 계획이다.

중·고등학생과 대학생들 사이에서 여성 얼굴을 나체 사진에 합성하는 ‘딥페이크 성범죄’가 기승인 가운데, 엄마·누나·여동생·사촌 등 친족을 대상으로 한 ‘친족 능욕’ 범죄가 활개를 치는 것으로 드러났다. 지난 26일 프레시안에 따르면 ‘가족능욕’이라는 이름으로 개설된 텔레그램 단체채팅방에서는 엄마·누나·여동생·사촌 등 친족들의 사진을 공유하고 성적 모욕을 주는 발언을 일삼았다. 이 방에는 2000여명이 들어가 있는 것으로 전해졌다. 매체에 따르면 이들은 여성 친족이 소셜미디어(SNS)에 올린 사진이나 본인이 직접 찍은 사진을 올렸다. 친족의 속옷 사진, 옷을 갈아입는 사진, 목욕하는 사진은 물론 친족이 잠든 사이 옷을 들추거나 성추행하는 영상도 있었다. 친족에게 졸피뎀 등 약물을 주입한 정황도 포착됐다. 2700여명이 모인 텔레그램 채팅방에서 한 참여자는 동생의 성추행 영상을 올린 뒤 “잠드는 약을 먹였더니 만져도 모른다”고 말했다. 이에 가담자들은 “4~5알 먹여라”, “졸피뎀 4알이면 중간에 깨도 기억 못 한다” 등 호응했다. 유명 ‘맘 카페’ 등에는 자녀를 둔 학부모들이 두려움을 호소하는 글들이 이어지고 있다. 아이가 ‘딥페이크’ 피해를 입을 걱정과 동시에 자녀가 가해자일지 모른다는 공포 때문이다. 한 회원은 “저도 아들 맘이지만 너무 무섭다. 하다하다 못해 엄마나 누나, 여동생을 딥페이크하다니. 너무 충격적이라 한 대 얻어맞은 것 같다”는 글을 올렸고, “진짜 교육을 잘 시켜야겠다는 생각, 피해자가 되지 않게 조심시켜야겠다는 생각 뿐이다”, “아들 딸 둘 다 키우는데 아들은 범죄자 길 들어설까 봐, 딸은 피해자 될까 겁난다”, “딸 키우기 무섭다”, “아들 임신 중인데 교육을 어떻게 해야할지 걱정이다”, “어린 애들이라고 봐주면 커서 더한 짓도 한다. 처벌 강하게 해야 한다” 등의 의견이 쏟아졌다. 한 회원은 “가족도 가족이지만 아들 있으신 분들은 폰 검사라도 해 주셔야 할 것 같다”고 지적하기도 했다. 한편 ‘딥페이크 범죄’ 파장이 커지자 정부가 나섰다. 윤석열 대통령은 27일 서울 용산 대통령실에서 주재한 국무회의 모두발언에서 딥페이크 성범죄에 대해 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “관계 당국에서는 철저한 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아달라”고 강조했다. 이어 “피해자가 미성년자인 경우가 많고 가해자 역시 대부분 10대로 드러나고 있다”며 “누구나 이러한 디지털 성범죄의 피해자가 될 수 있고, 단순 장난이라고 둘러대기도 하지만 익명의 보호막에 기대 기술을 악용하는 명백한 범죄행위”라고 덧붙였다. 방송통신심의위원회는 이날 실·국장 회의, 오는 28일 전체 회의를 연달아 소집해 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련한다고 밝혔다. 방심위는 먼저 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 할 방침이다. 아울러 텔레그램 측에도 영상 삭제 등 강력한 대책을 요구할 계획이다.

중·고등학생과 대학생들 사이에서 ‘딥페이크 성범죄’가 기승을 부리는 가운데, 피해자가 있는 것으로 추정되는 학교들을 지도에서 찾아볼 수 있게 한 ‘딥페이크 피해 학교 지도’가 등장했다. 27일 개설된 ‘딥페이크 피해학교 지도’(https://deepfakemap.xyz)는 최근 엑스(옛 트위터) 등에서 확산되고 있는 ‘딥페이크 피해학교 목록’ 등을 기반으로 해당 학교들을 지도 위에 표시하고 있다. 현재 전국 수백개의 초·중·고등학교와 대학교가 표시돼 있다. 사이트를 만든 ‘팀 데이터스택’은 “제2의 N번방 사태에 대해 경각심을 주고, 추가 피해를 막기 위해 만들었다”고 밝혔다. 이어 “사이트에 게시된 정보들은 각종 커뮤니티에서 자료를 직접 수집한 것”이라며 “다만 정확한 정보만 모여있는게 아니니 참고용으로만 봐주길 바란다”고 당부했다. 서울대와 연세대에서 여학생들의 사진이 음란물에 합성 및 유포되는 피해가 속출한 데 이어, 전국 각지의 중·고교에서도 가해 학생들이 경찰에 적발되고 있다. 특히 지난 26일 네티즌들이 만든 ‘피해학교 목록’이 확산되면서 학생들 사이에서 “나도 피해자가 될 수 있다”는 공포가 퍼지고 있다. 학생들은 인스타그램 등 소셜미디어(SNS)에 올렸던 사진들을 삭제하고 계정을 비공개로 전환하고 있으며, 학부모들도 자녀의 SNS를 단속하는 한편 카카오폭 프로필 사진 등에 올린 자녀의 사진을 삭제하고 있다. 尹 “명백한 범죄행위”…방심위 긴급회의 소집파장이 커지자 정부도 대처에 나섰다. 윤석열 대통령은 이날 서울 용산 대통령실에서 주재한 국무회의 모두발언에서 딥페이크 성범죄에 대해 “익명의 보호막에 기대 기술을 악용하는 명백한 범죄행위”라면서 “관계 당국에서는 철저한 실태 파악과 수사를 통해 디지털 성범죄를 뿌리 뽑아 주기 바란다”고 주문했다. 방송통신심의위원회는 이날 실·국장 회의, 오는 28일 전체 회의를 연달아 소집해 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련한다고 밝혔다. 방심위는 먼저 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 할 방침이다. 아울러 텔레그램 측에도 영상 삭제 등 강력한 대책을 요구할 계획이다.

방송통신심의위원회가 텔레그램을 기반으로 한 딥페이크 음란물 제작 및 유포 사건이 확산하자 긴급회의를 소집했다. 27일 방심위는 실·국장 회의, 오는 28일 전체 회의를 연달아 소집해 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련한다고 밝혔다. 방심위는 먼저 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 할 방침이다. 아울러 텔레그램 측에도 영상 삭제 등 강력한 대책을 요구할 계획이다. 방심위는 최근 온라인 커뮤니티와 소셜미디어(SNS)상 허위 조작정보와 음란물, 도박·마약 관련 등 정보에 대해 강력히 대응한다는 기조를 보여왔다. 특히 성적 허위 영상과 관련해서는 지난해 총 7187건의 시정 요구를 결정했는데, 올해는 7월 말까지만 지난해의 90%에 달하는 6434건을 시정 요구 결정했다. 앞서 최근 한 대학에서 여학생의 얼굴에 음란물을 합성한 딥페이크 영상이 유포된 데 이어 비슷한 종류의 텔레그램 대화방이 잇따라 발견돼 사회적 문제로 대두했다. 피해자 중에는 대학생뿐만 아니라 중고생 등 미성년자는 물론 교사, 여군 등도 포함된 것으로 알려졌으며 ‘피해 학교 명단’으로 떠도는 곳만 100곳 이상이라 대중적인 공포심도 확산하고 있는 상황이다. 김봉식 서울경찰청장은 이러한 상황에 대해 “학생은 물론이고 교사에 대한 것도 만들어 퍼지고, IT 기기에 익숙한 청소년 중심으로 확산해 굉장히 우려스럽다”며 “(딥페이크 성착취물은) 심각한 범죄 행위로서 처벌받을 수 있고, 이러한 범죄 전력은 향후 사회생활에 큰 장애가 될 수 있다는 점을 시교육청과 협의해 학생들에게 교육할 계획”이라고 강조했다.

방송통신심의위원회(방심위)가 이기호 스포츠 캐스터의 성희롱 발언을 방송한 KBS N 스포츠 ‘2024 신한 솔 뱅크(SOL Bank) KBO리그’에 대해 제작진 의견청취를 결정했다. 방심위는 26일 서울 목동 방송회관에서 전체회의를 열고 해당 프로그램의 지난 8월 1일 방송분에 대해 ‘의견진술’을 의결했다. 당시 한국프로야구(KBO) 한화 이글스와 KT 위즈의 경기 중계 방송에서 관중석의 ‘여자라면 최재훈’이라는 문구가 적힌 스케치북을 본 이 캐스터는 “저는 여자라면이 먹고 싶은데요”, “가장 맛있는 라면이 아닙니까”라고 발언해 문제가 됐다. 이와 관련해 방심위는 ‘방송심의에 관한 규정’ 제30조(양성평등)제2항 및 제4항을 적용했다. 아울러 방심위는 간접광고 상품명을 과도하게 부각해 시청흐름을 방해한 MBN ‘현역가왕’(지난해 12월 19·26일, 올해 1월 9·16·23, 2월 6·13일 방송분)에 대해서도 제작진 의견청취를 결정했다.

최근 ‘딥페이크’ 합성 사진 및 영상이 단체 대화방에서 공유되며 피해가 확산하는 가운데 여군을 상대로 한 딥페이크 대화방이 공개돼 파장이 커지고 있다. 문제의 대화방 참가자는 900명이 넘는 것으로 알려졌다. 이들은 딥페이크로 합성한 여군들을 ‘군수품’이라고 칭하며 능욕했다. 해당 대화방 공지 사항이라며 공유되는 캡처 이미지에 따르면 해당 대화방에 참가하기 위해서는 군수품으로 만들고 싶은 여군의 군복 사진뿐 아니라 전화번호와 소속, 계급과 나이 등 개인정보를 운영자에게 제출하거나 현역 군인임을 인증해야 한다. 혹은 인공지능(AI)을 활용해 합성을 할 수 있는 합성장인, 관리자가 지정한 여군에게 ‘능욕 메시지’를 보내고 반응을 인증 사진을 보내야 가입이 허용됐다. 최근 인하대의 한 동아리 여학생들이 1200명이 참여한 텔레그램 대화방에서 불법 합성물 성범죄 피해를 본 사실이 알려져 논란이 커지자 이들은 “당분간 합성장인 혹은 관리자가 지정한 능욕 메시지 보내기 미션을 수행한 사람 외에는 받지 않겠다”고 추가 공지를 내걸었다. 또한 여군에 대한 비하 발언도 포함돼 있어 충격을 더했다. 해당 게시물에는 “여군들을 용서할 수 없다”며 “벗겨서 망가뜨릴 것”이라는 설명이 따랐다. 이는 지난 5월 강원 인제 육군 제12보병사단 신병교육대에서 발생한 훈련병 사망사건이 여군 중대장의 가혹한 지시로 발생한 것에 대한 반발심을 담은 표현이다. 작성자는 “같이 근무했던 주대장, 소대장, 부소대장의 알몸이 궁금하지 않느냐”면서 딥페이크 합성으로 나체를 공개하겠다는 의지를 드러냈다. 딥페이크 기술이 발전하면서 이를 이용한 범죄도 빠르게 확산하고 있다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 특히 10대 시절부터 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 이를 자주 접하게 되면서 딥페이크 음란물이 범죄라는 인식이 옅어질 수 있다는 우려가 나온다. 대학은 물론 중·고교까지 피해가 확산하면서 “내 사진도 ‘음란물’이 돼 온라인을 떠돌 수 있다”는 공포에 불안감이 확산하고 있다. 방송통신심의위원회(방심위)도 텔레그램 단체 대화방을 중심으로 확산한 딥페이크 성적 허위영상물 관련 대응에 나섰다. 방심위는 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사 의뢰하기로 했다. 매일 열리는 전자심의를 통해 성적 허위영상물을 24시간 이내에 시정 요구하겠다고도 했다.

5년 전 아이스크림 CF에 출연해 아동 성적 대상화 논란에 휩싸였던 어린이 모델이 K팝 걸그룹 데뷔를 코앞에 둔 근황이 전해졌다. 더블랙레이블은 지난 21일 공식 유튜브 채널에 올린 ‘미야오 트레일러 엘라’라는 제목의 영상을 통해 프로듀서 테디가 제작한 걸그룹 ‘미야오’(MEOVV)의 첫 번째 멤버 엘라 그로스를 공개했다. 2008년생인 엘라 그로스는 독일인 아버지와 한국계 미국인 어머니 사이에서 태어난 미국인이다. 만 2세 때부터 미국에서 키즈모델, 아역배우 등으로 활동했다. 이제 막 데뷔 트레일러 영상이 떴을 뿐이지만 국내 대중에게도 낯설지 않은 얼굴이다. 2019년 뜨거운 논란이 됐던 ‘배스킨라빈스 핑크스타’ CF 모델로 아주 짧은 기간이었지만 강렬하게 뇌리에 각인돼서다. 배스킨라빈스는 그해 7월 ‘이달의 맛’으로 신제품 핑크스타를 출시하면서 당시 11세이던 엘라 그로스가 아이스크림을 먹고 깜짝 놀라는 모습을 광고에 담았다. 그런데 엘라 그로스가 제품 이름에 맞춰 핑크색을 테마로 진한 화장을 한 모습과 아이스크림을 먹으려 입을 벌리는 모습을 클로즈업한 장면 등이 아동 모델을 성적 대상화했다는 비판이 온라인 여초 커뮤니티 등을 중심으로 확산했다. 해당 광고에 대한 비판이 쇄도하자 배스킨라빈스 측은 “이번 광고는 어린이임에도 불구하고 당당하고 개성 넘치는 엘라 그로스의 모습과 핑크스타의 이미지를 연계하기 위해 기획됐고, 해당 어린이 모델의 부모님과 소속사를 통해 충분한 사전 논의 후 제작했다”고 해명했다. 또 “광고영상 촬영은 엘라 그로스의 부모님의 참관하에 일반적인 어린이 모델 수준의 메이크업을 했으며, 평소 모델로 활동했던 아동복 브랜드 의상을 착용한 상태로 이뤄졌다”고 설명했다. 배스킨라빈스는 그러면서도 “일련의 절차와 준비과정에도 불구하고 광고영상 속 엘라 그로스의 이미지에 불편함을 느끼시는 고객님들의 의견을 적극적으로 수용해 해당 영상 노출을 중단했다”며 고개를 숙였다. 그러나 정작 당사자의 어머니는 이 같은 논란에 대해 불편한 심경을 내비쳤다. 엘라 그로스의 모친은 당시 일부 네티즌들의 비판 반응에 대해 “한국 대중이 이 광고에 반응하는 걸 보면서 슬펐다. 재밌는 광고인데 역겹고 끔찍한 것으로 인식이 되고 있다”며 “사람들이 부주의하고 전투적인 방식으로 맹렬히 비난하는 것이 괴롭다. 엘라는 강한 신념을 가지고 성장하며 나 역시 그녀가 소녀들의 롤모델이 되기를 기도한다”고 밝혔다. 이어 “배스킨라빈스 광고에 반대하는 사람들이 ‘이건 엘라를 위한 것’이라고 말하는 걸 그만두길 바란다”며 “엘라는 총명하고 겸손한 소녀다. 딸을 사랑해주는 많은 이들에게 진심으로 감사하다. 1000마디가 넘는 증오의 말보다 친절한 몇 마디가 더욱 감사하다”고 강조했다. 그럼에도 어린아이에게 섹스어필을 강조한 광고일 뿐이라는 비판은 계속됐고, 일부 네티즌들은 엘라 그로스 어머니의 글에 비난 댓글을 달기도 했다. 방송통신심의위원회는 논란 약 2개월 후 ‘배스킨라빈스 핑크스타’ 광고를 송출한 7개 채널에 대해 법정제재인 ‘경고’를 의결했다. 방심위는 “어린이 정서 보호를 위한 사회적 책임이 있는 방송사가 화장한 어린이를 이용해 성적 환상을 불러일으키는 광고를 방송한 것은 방송사로서의 공적 책임을 방기한 심각한 문제로 법정제재가 불가피하다”고 지적했다. 한편 엘라 그로스는 미야오 첫 번째 멤버로 공개된 영상에서 인형 같은 비주얼과 신인답지 않은 강렬한 눈빛으로 존재감을 드러냈다. 2분이 채 안 되는 이 영상은 공개된 지 약 22시간 만에 72만건의 조회수를 기록하며 전 세계 K팝 팬들의 주목을 받고 있다. 더블랙레이블은 엘라 그로스를 시작으로 순차적으로 미야오 멤버들을 공개할 예정이다. 미야오는 다음달 정식 데뷔한다.

KBS에서 광복절에 일본 국가와 일본 전통 복식이 나오는 오페라 ‘나비부인’을 방송해 논란이 된 건과 관련, 방송통신심의위원회가 신속 심의해 중징계할 방침이다. 18일 방심위에 따르면 KBS 1TV ‘KBS 중계석’ 지난 15일 방송분에 대한 민원이 28건 접수됨에 따라 오는 19일 전체 회의에서 해당 프로그램을 신속 심의 안건으로 지정할 계획이다. 신속 심의 안건으로 지정되면 2주 후 심의하게 되며 방심위는 전례에 따라 법정 제재 이상의 중징계를 할 것으로 알려졌다. 앞서 방심위는 2014년 외국인 패널 출연자들을 소개하는 과정에서 일본인이 등장할 때 기미가요를 배경음악으로 노출해 논란이 됐던 JTBC ‘비정상회담’에 대해 법정 제재인 ‘경고’를 의결한 바 있다. 2015년에는 해병대 훈련에 투입된 출연자들을 해설로 소개하는 과정에서 배경 음악으로 일본 군가인 ‘군함 행진곡’을 방송한 MBC TV ‘일밤·진짜 사나이’에 대해서도 ‘경고’를 결정했다. KBS 1TV ‘KBS 중계석’은 지난 15일 0시 올해 6월 29일 예술의전당에서 공연된 오페라 ‘나비부인’ 녹화본을 내보냈다. 해당 작품은 미국인 장교와 일본인 여성의 사랑을 다룬다. 두 주인공의 결혼식 장면에서는 일본 국가인 기미가요가 연주되고, 여주인공은 일본 전통 복식 기모노를 입는다. 광복절에 기모노와 기미가요가 공영방송에 등장하자 부적절하다는 비판이 이어졌고, 박민 KBS 사장은 사과 후 관련 문제를 해결하기 위한 태스크포스 구성을 약속했다.

유튜브 콘텐츠를 통해 지역 비하성 표현이 노출되면서 경북 영양군이 고초를 겪은 가운데 경북도가 재발 방지를 위해 칼을 빼 들었다. 경북도는 지난 14일 방송통신심의위원회를 방문해 온라인 플랫폼상 지역 비하와 명예훼손 등에 대해 처벌 강화를 비롯한 강력 대응을 요청했다고 15일 밝혔다. 지난 5월 유튜브 채널 ‘피식대학’이 올린 ‘메이드 인 경상도’ 영양 편에는 지역을 비하하는 내용의 발언이 다수 포함돼 논란을 낳았다. 출연진은 영양군을 ‘도파민 제로 시티’라고 표현하며 “여기 중국 아닌가”라는 등 폄하하는 발언을 서슴지 않았다. 지역 특산품을 먹으면서는 “할매 맛이다. 할머니 살을 뜯는 것 같다”는 표현까지 했다. 해당 콘텐츠가 노출된 뒤 논란이 일자 피식대학은 사과문과 함께 영상을 비공개 처리했다. 하지만 온라인 플랫폼 특성상 충분한 검증 없이 누구나 콘텐츠를 게재할 수 있어 비슷한 문제가 다시 발생할 우려가 있다. 이에 경북도에서는 지역 비하나 왜곡 등 부적절한 콘텐츠로 인한 피해 방지와 공식적인 구제책 및 대응 시스템 마련을 위해 방심위에 규제 및 처벌 기준 마련을 요청했다. 류희림 방심위원장은 “갈수록 고도화되는 온라인 플랫폼에서 다양한 문제가 발생하고 있다”며 “경북도에서 제기한 문제를 살펴보고 대안 마련을 검토해보겠다”고 했다. 임대성 경북도 대변인은 “지역 비하 등 왜곡된 온라인 콘텐츠에 효과적으로 대응할 방안 마련이 시급하다”며 “불법 및 유해 콘텐츠를 보다 신속하게 처리할 수 있도록 관계기관과 협의해나갈 것”이라고 강조했다.