온라인에 퍼진 성범죄 영상을 인공지능(AI)이 24시간 모니터링해 찾아내고 삭제 신고까지 원스톱으로 해치우는 ‘AI 자동 삭제 신고 시스템’을 서울시가 국내 최초로 개발해 시행한다. 모든 과정에 소용되는 시간은 6분에 불과하다. 21일 시에 따르면 이 시스템은 AI가 문제의 영상을 검출한 뒤 자동으로 채증해 보고서를 만든다. 이어 해당 사이트에 삭제를 요청하는 이메일을 자동으로 만든다. 이렇게 완성된 신고 이메일은 삭제지원관의 최종 확인을 거쳐 발송된다. 이 시스템을 활용하면 온라인상에 떠도는 불법 영상물을 찾아내 해당 사이트에 삭제 신고를 하는 데까지 드는 시간이 약 3시간에서 6분으로 단축된다. 기존에는 삭제지원관이 직접 문제의 영상을 채증하고 보고서를 작성했으나, 이 시스템에서는 모든 과정을 AI 자동화함으로써 처리 시간을 대폭 줄였다. 영상물이 해외에 서버를 둔 사이트에 올라오는 사례가 증가함에 따라 AI는 해외에 유포된 피해 영상물을 검색 후 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 만든다. 시는 또 서울 디지털 성범죄 안심지원센터를 통해 삭제지원을 비롯해 수사·법률지원, 심리치료·의료 지원 등을 원스톱 지원하고 있다. 2022년 3월부터 올해 3월까지 3650명의 피해자를 지원했다. 지원 건수는 6만 4677건이다. 피해자 연령대는 10~20대가 가장 많다. 아동·청소년을 대상으로 한 디지털 성범죄도 적지 않다. 아동·청소년 피해자는 2022년 50명에서 2024년 624명으로 급증했다. 전체 피해자 가운데 아동·청소년이 차지하는 비율도 같은 기간 16.2%에서 22.1%로 올랐다. 아동·청소년을 대상으로 한 온라인 그루밍(길들이기) 피해는 19건에서 370건으로 급증했다. 센터에서는 카카오톡 오픈채팅방 ‘디지털성범죄 SOS 상담’ 창구를 통해 익명으로 상담을 지원하고 아동·청소년 뿐 아니라 학부모를 대상으로도 심리치료를 무료로 지원하고 있다. 또한 수사, 법률, 의료, 삭제지원까지 원스톱으로 지원한다. 도움이 필요한 누구나 센터 상담전용 직통번호 ‘815-0382(영상빨리)’나 홈페이지(www.8150382.or.kr)로 문의하면 된다.

서울시의회 이민석 의원(국민의힘, 마포1)이 발의한 ‘서울시교육청 사이버 폭력 예방 및 교육에 관한 조례 일부개정조례안’이 30일 서울시의회 제330회 제3차 본회의를 통과했다. 최근 인공지능(AI) 기술의 급격한 발전으로 딥페이크 영상 제작·유포 사례가 늘어나면서, 아동·청소년이 피해 대상이 되는 사건이 급증하고 있다. 서울경찰청은 약 6개월간 사이버 성폭력 범죄 단속을 실시한 결과 아동·성착취 사범 포함 222명이 검거됐으며, 적발된 아동·청소년 성착취물은 3755건에 달한다고 지난 29일 발표했다. 이 의원은 “교육청 자료에 따르면 지난해 서울시 내 학교 딥페이크 신고 건수는 83건, 피해학생은 147명에 이르는 등 상황이 심각하다”며, “딥페이크 범죄는 가해자와 피해자 모두 10대가 가장 많은 만큼, 교육청 차원의 적극적인 대응을 촉구하기 위해 개정안을 발의했다”고 밝혔다. 이어 “이번 개정안은 ‘학교폭력예방법’ 개정에 맞춰, 사이버폭력의 정의에 딥페이크 영상 제작·반포를 명확히 포함하고 교육감이 피해 학생의 요청 없이도 아동·청소년 성착취물 삭제를 지원 요청할 수 있도록 규정해 피해 확산을 방지하는 데 초점을 맞췄다”고 설명했다. 이 의원은 “사이버폭력은 기존의 따돌림이나 단순 모욕과 달리, 피해자의 삶에 장기적이고 심각한 영향을 미칠 수 있다”라며 “이번 조례 개정을 통해 피해 학생들이 보다 신속하고 실질적인 보호를 받을 수 있는 계기가 되길 바란다”고 전했다. 한편, 이번 조례 개정안은 법 시행일에 맞춰 오는 9월 19일부터 시행될 예정이다.

‘목사’·‘판도라’ 등 사이버성폭력범 224명 검거일당, ‘5명 낚아오면 해방’ 다른 피해자 유인 ‘딥페이크 영상 유포자를 알려주겠다’며 또래 여학생들에게 인스타그램 등으로 접근한 뒤 성착취물을 만든 10대 남성이 검찰에 넘겨졌다. 29일 서울경찰청 사이버수사대는 아동·청소년 등을 상대로 텔레그램 등 소셜미디어(SNS)에서 성범죄를 저지른 A군(17) 등 224명을 검거했다고 밝혔다. A군은 10대 초반 여성 피해자 19명을 상대로 지난해 7월쯤부터 이달까지 성착취물 34건을 만들고 불법 촬영물 81건과 허위영상물(딥페이크 영상 등) 1832건 등을 소지한 혐의로 지난 22일 구속됐다. A군은 ‘판도라’라는 이름으로 활동했는데, 이들 일당은 피해자들에게 “텔레그램에서 당신의 딥페이크 영상이 유포되고 있는데 유포자를 알려주겠다”며 접근했다. 유인된 이들이 신체 사진이나 돈을 보내면 딥페이크 사진이 있는지 확인하겠다고 속였다. 전달받은 개인정보 등으로 협박한 뒤 나체 사진 등을 전송받은 것으로 조사됐다. 가장 어린 피해자는 중1 학생이었다. 피해자들에게 ‘5명을 낚아오면 해방해주겠다’며 다른 피해자를 물색하거나 유인하도록 지시하기도 했다. 경찰에 검거된 공범 B(16)양 등 3명도 판도라에게 성착취물 피해를 봤다가 범행에 이른 것으로 파악됐다. 경찰은 자경단 수사 이후 구축한 텔레그램과 핫라인 등을 통해 2개월 만에 비슷한 수법으로 범행을 벌인 판도라 등 공범들을 검거했다. A씨는 경찰에 “성적인 호기심에 범행을 저질렀다”는 취지로 진술한 것으로 알려졌다. 서울청은 지난해 8월부터 올 3월까지 국가수사본부의 ‘허위 영상물 범죄 일제 단속’과 병행해 사이버 성폭력 범죄 단속을 진행했다. 그 결과 판도라, 목사 등 224명이 검거됐고 그 중 13명은 구속됐다. 이 과정에서 오피스텔에 화재경보기 모양의 폐쇄회로(CC)TV를 설치한 뒤 아동·청소년 3명 등 여성 53명을 대상으로 성관계 장면 등 총 1584회 불법 촬영한 혐의(미성년자 의제강간, 성착취물 제작)로 C(33)씨와 D(28)씨도 구속됐다. 경찰은 두 사람이 불법 촬영한 영상을 유료 구독 사이트에 판매해 얻은 범죄 수익금 1300만원을 추징·보전했다. 또한 경찰은 텔레그램에서 일명 ‘작가’로 활동하면서 청소년 2명에 대한 아동·청소년 성착취물 46건을 만들고 가족, 직장 동료, 직장 동료의 부인 등 피해자 182명에 대한 허위 영상물 281건을 제작해 소지한 혐의 등으로 E(52)씨와 F(23)씨 등도 지난해 구속했다. 경찰은 “사이버 성폭력 사범들에 대해 무관용 원칙으로 엄정 대응할 방침”이라며 “피해 발생 시 망설이지 말고 바로 수사기관이나 관련 상담 기관 등을 방문해 피해 사실을 알려달라”고 당부했다.

미국의 억만장자 금융가 제프리 엡스타인의 성 착취 피해 여성 중 한 명인 버지니아 주프레(41)가 25일(현지시간) 세상을 떠났다. BBC 등에 따르면 10대 시절 엡스타인의 안마사로 고용돼 영국 앤드루 왕자를 포함한 주요 인사들과 강제로 성관계를 가졌다고 폭로한 주프레가 이날 호주 서부 퍼스의 자택에서 숨진 채 발견됐다. 서호주 경찰은 “주프레가 자택에서 의식이 없는 상태로 발견됐다”며 “현재 사건을 조사 중이며, 초기 조사 결과 사망과 관련한 의심스러운 정황은 발견되지 않았다”고 밝혔다. 주프레는 할리우드 거물이자 억만장자인 엡스타인의 미성년자 성 착취 사실을 공론화한 핵심 증인 중 한 명이다. 엡스타인은 미성년자 성 착취 혐의로 체포된 뒤 지난 2019년 구치소에서 숨졌다. 주프레는 2009년 엡스타인과 그의 여자친구 길레인 맥스웰을 각각 미성년자 성 착취 및 공모 혐의로 고소했다. 이후 2015년 엡스타인의 여러 피해 여성 중 처음으로 언론에 이름과 얼굴을 공개하고 피해 내용을 증언했다. 언론을 통해 공개된 주프레의 증언에 따르면 그는 17세였던 2000년 도널드 트럼프 미 대통령이 소유한 플로리다주 팜비치의 마러라고 리조트에서 직원으로 일하던 중 맥스웰로부터 엡스타인의 동행 안마사 자리를 제안받았다. 그러나 안마사로 고용된 이후 주프레는 엡스타인과 멕스웰의 부유한 지인들과 강제로 성관계를 갖도록 두 사람에 의해 그루밍(길들이기) 범죄를 당했다고 주장했다. 주프레가 당시 미성년자로서 강제로 성관계를 맺었다고 폭로한 유력 인사 중에는 엘리자베스 2세 영국 여왕의 차남인 앤드루 왕자도 포함돼 큰 파장을 낳았다. 앤드루 왕자는 혐의를 부인했으나 2022년 관련 소송 개시 전 주프레에게 거액을 지불하고 합의했다. 주프레의 가족은 이날 성명에서 “주프레가 평생을 성 착취와 성매매의 희생자로 보낸 뒤 자살로 숨을 거뒀다”고 밝혔다. 이어 “학대의 대가는 견딜 수 없을 정도였다”면서도 “그는 성 착취 및 성매매와 맞서 싸운 치열한 전사였다”고 애도했다.

텔레그램 대규모 성착취 조직 ‘목사방’의 총책 김녹완(33)과 공범 10명이 추가로 재판에 넘겨졌다. 검찰 추가 수사 결과, 피해자는 261명으로 늘어나 ‘박사방’(73명) 사건의 3배를 넘어섰으며, 공범 중 6명은 고등학생으로 최연소는 15세였다. 서울중앙지검 자경단 특별수사팀은 23일 김녹완을 추가 기소하고, 공범 10명을 재판에 넘겼다. 김녹완은 2020년 5월부터 지난 1월까지 ‘자경단’이라는 사이버 성폭력 범죄조직을 운영하며 ‘목사’로 활동, 아동·청소년 성착취물을 대량 제작·유포한 혐의로 이미 구속기소된 상태다. 이번 추가 수사로 새로운 피해자 10명과 과거 확정판결 사건의 피해자 17명 등 27명이 추가로 확인됐다. 특히 눈에 띄는 점은 공범 중 상당수가 미성년자라는 점이다. 기소된 10명 중 6명이 고등학생으로, 이들은 ‘전도사’라는 직함으로 활동했다. 17세 B군은 ‘선임전도사’로 활동하며 성착취물 158개를 제작하고 53개를 배포했으며, 피해자를 유사강간하며 불법 촬영한 혐의도 받는다. 16세와 15세 학생도 ‘전도사’로 활동하며 성착취물 제작·배포와 피해자 협박에 가담했다. 자경단은 김녹완을 정점으로 선임전도사·후임전도사·예비전도사로 체계적으로 조직화됐다. 하위 전도사들이 피해자를 물색해 상부로 전달하면, 김녹완의 지시로 성착취물을 제작·배포하는 구조였다. 이번 사건은 텔레그램이 국내 수사기관에 협조한 최초 사례로, 검찰은 피해자들에게 심리치료비 지원과 불법영상물 삭제, 텔레그램 내 ‘박제채널’ 접속 차단 등을 지원하고 있다. 검찰 관계자는 “피해자들의 인격을 말살하고 2차, 3차 피해가 양산되는 디지털 성폭력 범죄에 대해선 무관용 원칙으로 엄정 대응할 것”이라고 밝혔다.

대만의 ‘국민MC’였던 남자 연예인이 미성년 성착취 영상 약 3000건을 소지한 혐의로 재판을 받고 있다. 그는 2년 전 자신에 대한 ‘미투 폭로’가 나온 데 이어 미성년 성착취 영상 소지 혐의까지 받으면서 연예계에서 사실상 퇴출됐다. 그럼에도 일부 연예인들이 그를 두둔하고 있어 대만 연예계가 진통을 겪고 있다. 23일 대만 연합신문망 등에 따르면 타이베이 지방검찰청은 전날 아동 및 청소년 성착취 방지법 위반 혐의로 기소된 대만의 유명 MC 황즈자오(53·미키 황)에 대해 같은 혐의로 추가 기소했다. 앞서 그는 ‘대만판 n번방’이라 불리는 한 불법 영상 공유 플랫폼에서 미성년자 성착취 영상 2259건을 내려받아 소지한 혐의로 기소돼 지난해 1심에서 징역 8개월을 선고받았다. 그를 수사하던 검찰은 그의 휴대전화에서 영상 586건을 새로 발견해 그를 추가 기소했다. 이에 따라 그는 미성년자 성착취 영상 2845건을 소지한 혐의로 2심 재판을 받게 됐다. 보도에 따르면 그가 소지한 영상에서 확인된 미성년자 피해자가 최소 27명으로 집계됐다. ‘미투’ 폭로 수사 중 하드디스크에서 영상 발견1988년 데뷔해 대만의 주요 시상식과 가수 오디션 프로그램, 예능 프로그램 MC를 맡으며 ‘국민MC’로 군림했던 그는 2023년 대만을 휩쓴 ‘미투 운동’으로 추락했다. 그해 6월 프랑스에 거주하는 한 인플루언서가 “17세 때 그에게 성추행을 당했다”고 폭로한 데 이어 피해자가 여러 명 있다는 사실이 드러나자 그는 이같은 사실을 인정하고 돌연 자해를 시도했다. 그의 성추행 혐의를 수사하던 경찰이 압수한 하드디스크에서 미성년 성착취 영상을 다수 발견했고, 검찰은 그를 ‘정당한 이유 없는 청소년 성 관련 영상 소지’를 금지하는 아동 및 청소년 성착취 방지법을 위반한 혐의로 재판에 넘겼다. 그는 법정에서 “‘미투’ 수사로 인한 스트레스를 풀기 위해 영상을 내려받았다”고 진술했다. 그의 이같은 혐의가 드러나자 동료 연예인들은 “그와 함께 활동하지 않을 것”이라고 선언했고, 그와 협업하던 방송사와 정부 부처 등이 모두 계약을 해지하며 방송계에서 사실상 퇴출됐다. ‘황즈자오 사건’은 대만이 아동 및 청소년 성착취 방지법을 개정하는 도화선이 되기도 했다. 아동 및 청소년의 성 관련 영상 소지에 대한 처벌이 지나치게 가볍다는 지적이 제기되자 대만 입법원(국회)는 지난해 7월 해당 혐의에 대해 최대 7년의 징역형에 처하도록 법을 개정했다. “복귀시켜야” 동료 연예인 발언 파문그럼에도 일부 동료 연예인들이 그를 두둔하는 발언을 연이어 하면서, 한때 그의 방송 복귀 가능성을 놓고 여론이 들끓기도 했다. 그와 절친했던 연예인들은 지난달 인터뷰에서 “그가 먹을 밥 한 입은 남겨둬야 한다”, “다시 시작할 수 있다” 등 방송 복귀를 지지하는 발언을 했다 거센 역풍을 맞고 진행하던 방송에서 하차했다. 또 일부 팬들은 “영상을 찍은 것도 아니고 가지고만 있는 게 뭐가 문제냐”며 그를 두둔하다 온라인 커뮤니티 등에서 뭇매를 맞았다. 드라마 ‘황제의 딸’ 등으로 국내에서도 잘 알려진 배우 린신루(임심여)는 전날 인터뷰에서 그의 추가 기소에 대한 의견을 묻는 질문에 “성착취 영상을 소지하는 건 엄연한 범죄로, 절대 용인될 수 없다”고 목소리를 높였다. 2017년 시작된 전세계 ‘미투 운동’을 비껴갔던 대만에서는 2023년 대만 정치권의 암투를 그린 넷플릭스 드라마 ‘인선지인: 웨이브 메이커스’가 파장을 일으키며 뒤늦게 미투 열풍이 불었다. 여야 정치인을 비롯해 중국 ‘톈안먼 사태’ 당시 민주화 시위를 이끌고 대만에 정착한 인권운동가 왕단, 법조계와 학계, 문화계, 연예계 등의 거물급 인사를 상대로 한 성폭력 피해 폭로가 터져나왔다. 이후 경찰의 수사와 법정 공방, 업계 퇴출 등의 후폭풍이 이어졌다.

6·3 대선 경선이 본격화하면서 후보들간 공약 경쟁이 한창이지만 지난 대선 ‘뜨거운 감자’였던 젠더 이슈가 이번 선거에선 전면에 드러나지 않고 있다. 2030 표심이 이번 대선에서도 최대 승부처가 될 수 있다는 전망이 나오는 상황에서 갈라치기 논란에 휘말리면 표가 안 될 수 있기 때문에 신중하게 접근하는 것이란 분석이 나온다. 김동연 더불어민주당 대선 경선 후보는 21일 한국여성정치연구소가 주최한 성평등 간담회에 참석한 뒤 최근 민주당이 여성 이슈에 소극적 태도를 보이고 있다는 지적에 대해 “표를 의식한 결정이라면 비겁한 일”이라며 쓴소리를 냈다. 김 후보는 공약집에서 ‘여성의 안전과 건강권’ 관련 세부 정책으로 ‘비동의 강간죄 개정’과 ‘낙태죄 개선 입법’을 내세웠다. 젠더 이슈에 대한 언급을 피하는 다른 민주당 경선 후보와 달리 정책 차별화를 꾀하는 행보로 풀이된다. 김경수 후보도 이날 발표한 공약집에 여성가족부를 ‘성평등가족부’로 확대하고 대통령 직속 ‘성평등위원회’를 신설하는 등의 여성 관련 정책을 제안했다. 다만 이날 발표한 사회·정치·외교안보 분야 공약에 젠더 갈등 해소에 대한 언급은 없었다. 반면 유력 대권 주자인 이재명 후보는 젠더와 여성 정책에 대한 뚜렷한 입장이 없다는 평가를 받는다. 이 후보는 지난 11일 ‘비전발표회’ 기자 질의응답 과정에서 “광장에서 집회를 주도한 2030 여성에 대해서는 구체적 언급이 없는 것 같다”고 지적 받자 “모든 국민이 함께했다”며 모호한 입장을 보였다. 이 후보 측 캠프 관계자는 “여성 관련 공약도 캠프에서 꾸준히 논의하고 있고 적절한 시점에 발표할 것으로 보인다”면서 “3년 전 대선 때도 여러 여성 공약을 발표한 게 있다”고 전했다. 일각에선 이 후보의 지지율이 우세한 상황에서 젠더 정책은 ‘표’가 되지 않는다는 판단 아래 이탈표를 최대한 줄인다는 전략적 분석도 나온다. 젠더와 여성 정책은 2016년 ‘강남역 살인 사건’과 이듬해 ‘미투’(Me Too) 운동, 2020년 디지털 성착취 범죄인 ‘n번방’ 사건 등을 거치며 선거 국면마다 활발하게 논의된 의제 중 하나였다. 2017년 대선 당시 문재인 전 대통령은 민주당 대선 주자로서 “페미니스트 대통령이 되겠다”고 자임하며 여러 여성차별 개선 공약들을 적극 발표했다. 이후 치러진 2022년 대선은 젠더 갈등이 표면적으로 드러난 전장이었다. 이준석 전 국민의힘 당대표와 국민의힘 대권 주자였던 하태경 의원, 유승민 전 의원 등은 ‘여성가족부 폐지’ 공약을 잇따라 주장했다. 윤 전 대통령 역시 대선 후보 신분으로 페이스북에 ‘여성가족부 폐지’라는 7자 공약을 게재하기도 했다. 페미니스트 정책에 대한 ‘백래시’(반발)로 20대 남성 유권자들을 공략한 것이다. 이 결과 지난 대선에서 20대 남성(58.7％)은 윤 전 대통령에, 20대 여성(52.3％)은 이 후보로 몰렸다. 당시 여성단체는 “제3의 선택을 고민했던 20대 여성이 이 후보를 선택하게 된 건 여성과 소수집단에 대한 차별·혐오·배제의 정치가 현실화할 거란 공포와 이를 막아야겠다는 절박한 의지 때문”이라고 일갈했다.

경남경찰청은 지난해 8월부터 올 3월까지 ‘허위영상물 범죄 집중 단속’을 벌여 42명을 검거하고 이 중 3명을 구속했다고 21일 밝혔다. 또 지난 2월 24일부터 지난달 28일까지 ‘아동 성 착취물 아시아 6개국 특별 단속’을 시행, 총 18명을 검거해 이 중 1명을 구속 송치했다고 덧붙였다. 아시아 6개국 단속에는 한국·말레이시아·싱가포르·일본·태국·홍콩이 참여했다. 경찰이 사건을 분석한 결과, 피해자는 일반인·연예인·지인 등으로 다양했다. 인공지능(AI)·관련 플랫폼(합성 사이트 등) 발달로 특별한 관련 지식이 없는 피의자들도 손쉽게 범행을 저지르는 경향도 나타났다. 허위영상물 관련 범죄로 검거된 피의자 42명 중 10대는 33명(78.6%)에 달했다. 이들은 호기심, 장난 등으로 범행을 저질렀다고 진술했다. 경찰은 이와 함께 허위 영상물 등 성범죄의 경우 주로 ‘딥페이크’(특정 인물 얼굴 등을 합성한 영상) 등을 통해 범행이 이뤄진 것을 확인했다. 아동 성 착취물 범죄 역시 딥페이크가 범행 수법으로 사용되는 일이 늘었고, 강요 등으로 성 착취물을 제작하게 하는 범행 행태도 파악했다. 경찰은 “해당 범죄는 피해자에게 평생 씻기 어려운 상처를 남기는, 인간의 존엄을 파괴하는 매우 심각한 범죄”라며 “특별단속 여부와는 관계없이 사이버 수사역량을 집중하여 대응해 나가겠다”고 밝혔다. 이어 “허위영상물은 제작뿐 아니라 소지·시청만으로도 무겁게 처벌된다”며 “청소년들이 호기심에 범행을 저지르지 않도록 교육과 예방 등에 관심을 기울여 달라”고 밝혔다.

인공지능(AI)은 우리 삶에 많은 도움을 주고 있지만 부작용도 만만치 않다. 가장 큰 부작용이 ‘딥페이크’(deepfake)다. AI 심층학습을 뜻하는 딥러닝(deep learning)과 가짜를 의미하는 페이크(fake)의 합성어. AI 기술로 얼굴 등 이미지를 합성해 실제처럼 보이도록 조작한 허위 사진·영상 편집물이다. ‘챗GPT’ 열풍과 함께 누가 언제 어디서 누구의 얼굴을 합성해 조작하고 있을지 모를 일이다. 딥페이크가 기승을 부리면서 피해도 확산하고 있다. 방송통신심의위원회의 딥페이크 관련 심의 건수는 지난해 9월 기준 1만 305건. 2021년(1913건)에 비해 5배 이상 늘었다. 법원은 최근 텔레그램에서 딥페이크 영상물 1275개를 유포한 ‘지인 능욕방’ 운영자에게 징역 2년 6개월을 선고했다. 2019년 아동·청소년 성착취 범죄인 ‘N번방’ 사건을 계기로 성폭력처벌법에 ‘허위 영상물 등의 반포’ 처벌 조항이 신설됐다. 성적 딥페이크도 디지털 성범죄에 포함됐다. 5년 이하의 징역 또는 5000만원 이하의 벌금이 내려질 수 있다. 6·3 대선에도 ‘딥페이크 주의보’가 내려졌다. 일상화한 AI 기술로 정치공작, 가짜뉴스 유포 등에 활용될 가능성이 어느 때보다 커졌다. 이미 피해 사례도 심각한 수준이다. 대선주자들을 희화화하거나 경쟁 후보를 비방하는 동영상, 죄수복을 입은 후보 사진 등이 등장했다. 이재명 더불어민주당 예비후보도 비상이 걸렸다. 이 후보가 부인에게 욕설하는 딥페이크 영상이 유포될 수 있다는 제보가 접수됐다. 이 후보 측은 “유포 시 모든 수단을 동원해 법적 책임을 묻겠다”는 경고로 제동을 건 상태다. 중앙선거관리위원회는 ‘딥페이크 기술로 만든 선거 관련 영상이 조금이라도 오인 가능성이 있다면 법 위반’이라고 경고했다. 유권자들의 할 일이 후보자들 검증에만 머물 수 없는 세상이다. 답페이크에 속지 않고 무사히 한 표를 행사하는 것. 딥페이크 시대의 유권자들은 시력도 두 배로 좋아져야 한다.

텔레그램에서 구한 피해자들의 사진과 개인정보로 딥페이크 불법 합성 영상물을 제작·유포한 혐의를 받는 소위 ‘지인능욕방’ 운영자가 1심에 이어 2심에서도 실형을 선고받았다. 서울고법 형사11-2부(부장 정문경·박영주·박재우)는 11일 아동·청소년 성보호법 위반(성착취물 제작) 등 혐의로 재판에 넘겨진 20대 남성 A씨의 항소심 선고기일에서 1심과 마찬가지로 징역 2년 6개월을 선고했다. 이와 함께 성폭력 치료프로그램 이수 80시간과 아동·청소년 기관 및 장애인 관련 기관에 대한 취업 제한 3년을 명령했다. 재판부는 “원심과 비교해 양형 조건이 변하지 않았고 합리적 범위 내에서 형이 정해진 것으로 보인다”며 피고인과 검사의 항소를 모두 기각했다. A씨는 2023년 9월부터 지난해 8월까지 텔레그램 ‘지인능욕방’ 참여자들로부터 받은 피해자들의 사진, 이름 등 개인정보를 이용해 아동·청소년 대상 허위영상물 92개와 성인 대상 허위영상물 1275개를 제작·유포한 혐의로 지난해 9월 구속기소 됐다. 확인된 피해자만 1200여명에 이른다. 검찰은 또 포렌식과 계좌 추적 등 보완 수사를 통해 A씨가 제작·유포한 허위영상물 1069개를 추가로 파악해 함께 기소했다. 지난 1월 1심은 “피해자가 다수이며 상당 기간에 걸쳐 범행이 반복돼 이뤄졌고 피고인은 일부 피해자가 청소년에 해당한다는 사실을 알면서도 범행했다”면서 “사람의 얼굴을 대상으로 한 촬영물을 가공해 성적 도구, 희화화 대상으로 삼아 잘못된 성 인식을 확대·재생산하는 등 해악이 상당하다”고 지적했다. 다만 “피고인이 범행을 모두 인정하고 반성하는 모습을 보이고 피해자 중 한 명과 합의한 점, 전과가 없고 나이가 어린 점을 유리한 정상으로 참작한다”며 A씨에게 징역 2년 6개월을 선고했다.

2023년 8월부터 1년 8개월간 딥페이크를 악용해 미성년자의 얼굴을 합성한 성행위 영상을 만들어 텔레그램 방에 유포하던 A씨가 경찰의 위장 수사와 국제 공조를 바탕으로 한 끈질긴 추적 끝에 구속됐다. 한국·일본·싱가포르·태국·말레이시아·홍콩 등 아시아 6개국의 수사당국이 지난 2월 24일부터 지난달 28일까지 약 5주 동안 진행한 ‘사이버 가디언 작전’의 결과다. 경찰청 국가수사본부는 이번 작전으로 온라인에서 아동 성착취물을 제작하거나 유포·시청한 범죄자 544명(6개국 합산)을 적발했다고 6일 밝혔다. 적발된 성범죄자 중 한국 경찰이 검거한 인원은 374명에 달했다. 아동 성착취물을 소지·시청한 경우가 258명, 제작자 74명, 유포자 42명이었다. 경찰 관계자는 “국제 공조로 아동 성착취물 관련 한국인 피의자를 검거했고 이 중 10대가 213명으로 가장 많았다”고 설명했다. 전체 피의자 중 20대는 127명, 30대 23명, 40대 10명, 50대 이상 1명으로 10~20대의 비중이 최다였다. 경찰은 이번에 검거된 이들 중 13명을 구속했다. 이들은 미성년 피해자를 협박해 나체 사진을 텔레그램으로 전송받거나 인스타그램에서 미성년자의 사진을 캡처한 뒤 나체 사진에 합성해 텔레그램에 유포한 혐의 등을 받는다.

딥페이크를 악용해 미성년자의 얼굴을 합성한 성행위 영상을 2023년 8월부터 지난 3월까지 자신이 만든 텔레그램 방에 유포한 피의자가 경기북부경찰청의 위장 수사와 국제 공조 끝에 구속됐다. 지난해 1월 미성년 피해자를 협박해 나체 사진을 텔레그램으로 전송받은 피의자도 부산경찰청에 검거돼 구속됐다. 경북경찰청은 인스타그램에서 미성년자의 사진을 캡처한 뒤 나체사진에 합성해 텔레그램에 유포한 피의자가 구속됐다고 밝혔다. 6일 경찰청 국가수사본부에 따르면, 이처럼 온라인에서 아동성착취물을 제작하거나 유포·시청한 범죄자가 최근 한국, 싱가포르, 홍콩 등 아시아 6개국(지역)에서 544명이 적발된 것으로 나타났다. 싱가포르 경찰의 요청으로 ‘사이버 수호자’라는 작전명으로 지난 2월 24일부터 지난달 28일까지 5주간 동시 특별 단속이 진행된 결과다. 올해는 말레이시아, 일본, 태국 등 3개국 경찰이 새롭게 참여했다. 검거 인원도 지난해(272명) 대비 59.9% 증가한 435명으로 집계됐다. 이 가운데 국수본이 검거한 인원은 전체의 86%인 374명에 달했다. 범죄 유형별로는 아동성착취물을 소지하거나 시청한 인원이 258명, 제작자 74명, 유포자 42명이었다. 연령대는 10대가 213명으로 가장 많았다. 20대 127명, 30대 23명, 40대 10명, 50대 이상 1명이었다. 국수본은 이들 중 13명이 구속됐다고 밝혔다. 한편 일본에서는 이번 특별 단속으로 아동성착취물 제작 등 혐의로 111명이 체포되거나 검찰에 송치됐다고 니혼게이자이신문 등이 보도했다. 검거된 이들은 14~68세로 직업은 학교 교사, 입시학원 강사, 회사원, 중·고등학생 등으로 다양했다. 말레이메일과 CNA 등에 따르면 말레이시아에서는 공무원 등 4명, 싱가포르에서는 21명이 검거됐다.

한국, 일본, 싱가포르, 태국, 말레이시아, 홍콩 등 6개국(지역) 경찰이 지난 2∼3월 아동 포르노 등 인터넷상 아동 성 착취에 대한 공조 수사를 벌여 544명을 적발하고 435명을 검거했다. 한국 경찰청 국가수사본부와 일본 경찰청에 따르면 6개국 수사당국은 싱가포르 측 요청에 따라 ‘사이버 가디언 작전’이라는 이름으로 국제 공조 수사를 벌였다. 공조 수사는 인터넷 사이트나 소셜미디어(SNS)에서 유통되는 동영상을 분석, 해당국에 정보를 넘기는 등의 방식으로 이뤄졌다. 전체 적발 인원 가운데 일본에서는 111명이 검거돼 아동 성 매수 및 아동 포르노 금지법 위반 등 혐의로 입건됐다. 국수본이 검거한 인원은 374명에 달했다. 범죄 유형별로 보면 아동 성착취물을 소지하거나 시청한 인원이 258명, 제작자가 74명, 유포자가 42명이었다. 연령대는 10대가 213명으로 가장 많았고 20대가 127명, 30대가 23명, 40대가 10명, 50대 이상이 1명 검거됐다. 국수본은 이들 중 13명을 구속했다. 검거된 피의자들은 성행위 영상에 미성년 피해자들의 얼굴을 합성한 뒤 텔레그램 방에 유포하거나, 미성년 피해자를 협박해 나체사진을 텔레그램으로 전송받아 아동 성착취물을 제작하는 등의 범행을 저지른 것으로 조사됐다. 국수본 관계자는 “국경 없이 전 세계로 퍼져나가는 사이버범죄의 특성상 피해 아동이 입는 고통은 그 어느 범죄보다도 심각하다”며 “향후 국제협력 네트워크 구축을 지속해서 확대해 나갈 것”이라고 밝혔다.

수학을 가르치는 과외교사 지위를 이용해 초등학생을 신체·정신적으로 학대하고 성추행한 혐의로 재판에 넘겨진 40대 여성이 항소심에서도 징역 8년을 선고받았다. 1일 법조계에 따르면 대전고법 제3형사부(김병식 부장판사)는 아동·청소년의성보호에관한법률위반(성착취물제작·배포등), 13세미만미성년자강제추행, 아동학대 등 혐의로 기소된 A씨에게 징역 8년을 선고했다. 또 10년간 아동·장애인 관련 시설 취업제한 명령을 내렸다. 과외교사인 A씨는 2021년 11월부터 2022년 9월까지 10대 초등학교 남학생을 가르치며 신체·정신적으로 학대하고 여러 차례 성추행과 성 착취 동영상을 만들게 한 혐의를 받고 있다. A씨는 주중 화상 수업에서 피해 초등생이 집중하지 못했다는 이유로 대면 수업 중 종아리에 멍이 들도록 때리는 등 2022년 6월부터 4개월가량 모두 10차례에 걸쳐 신체 학대를 가했다. 거짓말했다는 이유로 초등생 옷을 벗겨 수치심을 느끼게 하는 등의 성적 정서·성적 학대 혐의도 더해졌다. 아이 행동을 이상하게 여긴 부모가 아이 휴대전화를 확인하면서 A씨 범행이 드러났다. 1심 재판부가 징역 10년을 선고하자 A씨와 검찰 측이 서로 항소했고, 2심 재판부는 피해자의 일부 범죄 사실이 증명되지 않았다며 2년을 줄인 징역 8년을 선고했다. 2심 재판부는 “피고인은 자신의 지시 때문이 아니라 스스로 자해한 것이고, 피해자 측이 때려서라도 수업해달라고 했다는 주장을 펼치지만 체벌 책임을 초등학생에게 전가하는 태도에 불가하다”고 판시했다.

한국야구위원회(KBO)는 14일 아동·청소년 성보호법 위반(성 착취물 제작·배포 등) 혐의로 처벌받은 서준원(전 롯데 자이언츠)에게 ‘무기실격 처분’을 내렸다. KBO는 “지난 12일 상벌위원회를 열고 서준원에 관해 심의했다”며 “서준원의 판결이 확정됨에 따라 최종 제재에 대해 심의했다. KBO 규약 151조 ‘품위손상행위’에 의거해 무기실격 처분을 결정했다”고 밝혔다. 서준원은 2022년 8월 모바일 메신저 공개 채팅방으로 알게 된 미성년자에게 신체 사진을 전송받아 성 착취물을 만들고 음란행위를 강요한 혐의로 기소돼 2024년 9월 1심에서 징역 3년에 집행유예 5년을 선고받았다. 또 사회봉사 120시간, 성폭력 치료 강의 40시간, 아동·청소년·장애인 관련 기관 5년간 취업제한 명령도 받았다. 10월 항소심에서도 원심이 유지됐다. 서준원은 지난해 5월에는 운전면허 정지 수준의 혈중알코올농도에서 차를 몰다가 신호대기 중인 택시를 들이받아 입건되기도 했다. 롯데 구단은 2023년 3월 서준원이 부산지검의 조사를 받는다는 소식이 알려지자, 서준원을 방출했다. 서준원은 KBO가 극적으로 실격 처분을 철회하지 않는 한, 그라운드에 설 수 없다.

서울시의회 보건복지위원회 이병도 의원(더불어민주당, 은평2)이 대표발의한 ‘서울시 디지털성범죄 예방 및 피해자 지원 조례 일부개정조례안’이 지난 7일 제328회 임시회 본회의를 통과했다. 개정안은 ‘디지털성범죄 안심지원센터’의 기능과 역할을 명확히 하고, 조례에 사용된 디지털성범죄 관련 용어를 상위법과 일치시키는 것이 주요 내용이다. 우선 본 조례를 근거로 운영되고 있는 디지털성범죄 안심지원센터의 업무범위를 구체적으로 명시했다. ▲불법촬영물등 피해 신고 접수·상담 및 사후관리 ▲불법촬영물등·신상정보 삭제 지원 ▲피해 예방 관련 교육·홍보 ▲불법촬영물등 유포 모니터링 및 재유포 방지 ▲수사·법률·심리상담·의료 등 지원 ▲디지털 성범죄 관련 조사·연구 등이 포함된다. 또한 기존 조례에서 명확한 기준과 근거 없이 ‘디지털 성착취물, 디지털성범죄 피해자 관련 영상’ 등으로 혼용되던 용어를 상위법인 ‘성폭력방지 및 피해자보호 등에 관한 법률’에 맞춰 ‘불법촬영물등’으로 통일했다. 이번 조례 개정으로 디지털성범죄 안심지원센터의 디지털성범죄 피해자에 대한 초기대응부터 사후관리까지 종합적인 지원체계 강화는 물론, 안정적이고 책임 있는 업무수행도 도모할 수 있을 것으로 기대된다. 상위법과 용어를 통일함으로써 피해 지원과 대응에 있어 법적 해석 및 적용의 혼선을 방지하고, 보다 신속한 조치가 가능해질 것으로 전망된다. 이 의원은 “디지털성범죄는 기술 발달과 함께 점점 더 교묘하고 심각한 형태로 진화하고 있다”라며 “조례 개정을 통해 디지털성범죄 예방 및 피해자 보호를 위한 조치가 효과적으로 이뤄질 수 있도록 지속적인 관심과 노력을 기울이겠다”고 강조했다.

도널드 트럼프 미국 대통령의 부인 멜라니아 여사와 의붓딸 이방카 간의 냉랭한 관계가 새롭게 조명받고 있다. 트럼프는 2005년 슬로베니아 출신 모델 멜라니아와 세 번째 결혼을 했는데, 이방카는 트럼프의 첫 부인과의 사이에서 태어난 장녀로 멜라니아와 단 11살 차이밖에 나지 않는다. 두 여성의 20년간 이어진 긴장 관계는 트럼프의 새 임기에도 백악관 내부 역학의 변수로 작용할 전망이다. 9일(현지시간) 영국 더 미러 등 외신에 따르면 이방카가 트럼프의 두 번째 임기 중 정치에서 물러나겠다고 선언했음에도 불구하고 두 모녀 사이의 긴장감은 현재도 여전히 남아있다. 더 미러는 소식통을 인용해 “이방카는 항상 멜라니아의 눈엣가시 같은 존재”라고 전했다. 멜라니아와 이방카의 관계는 2005년 멜라니아가 트럼프와 결혼한 이후 20년 동안 그리 원만하지 않았던 것으로 알려졌다. 당시 멜라니아는 34세였고, 이방카는 23세로 단 11살 차이였다. 부동산 재벌이자 TV 리얼리티 프로그램 스타였던 트럼프가 정치권에 입문하면서 두 사람 사이의 긴장감은 더욱 고조된 것으로 전해진다. 두 여성 사이의 갈등은 2016년 트럼프 대통령 취임 직후 본격적으로 표면화됐다. 이방카는 남편과 함께 월 1만 5000달러(약 2200만원)를 주고 워싱턴DC의 임대 주택으로 이사했지만, 멜라니아는 2017년 여름까지 뉴욕에 머물렀다. 멜라니아와 트럼프 사이의 아들 배런이 당시 10살이었기 때문이다. 멜라니아는 배런이 학교를 마칠 때까지 뉴욕에 남아있기로 했다. 그 사이 이방카는 퍼스트레이디의 많은 임무를 대신 수행했다. 데일리메일은 소식통을 인용해 “이방카가 이 역할을 너무나 즐긴 나머지 백악관 내 전통적인 ‘퍼스트레이디 사무실’의 이름을 ‘퍼스트패밀리 사무실’로 바꿔달라고 요청했으며, 이는 곧 멜라니아를 격분시켰다”고 전했다. 트럼프의 첫 임기 중 백악관 내 두 여성 사이의 갈등은 여러 차례 목격됐다. 멜라니아는 종종 전처의 딸인 이방카를 ‘공주님’이라고 불렀다고 한다. 멜라니아는 지난해 10월 출간한 회고록에서 의붓어머니로서의 역할에 대해 “내 역할은 그들(의붓자녀들)의 어머니를 대체하는 것이 아니라 그들을 지지하고 우호적인 관계를 갖는 것이다. 의견 차이와 상관없이 모든 사람은 존중과 이해를 받을 자격이 있다는 것을 기억하는 것이 중요하다”고 적었다. 멜라니아는 트럼프 취임식이 열린 지난 1월 짙은 감색의 코트와 챙이 넓은 모자를 쓰고 나타나 세간의 관심을 끌었으며, 지난 3일에는 남성용 정장 스타일 차림으로 워싱턴DC 연방의회 의사당에서 열린 ‘테이크 잇 다운’(불법 성착취물 강력단속) 법안 관련 좌담회에 참석하기도 했다. 트럼프의 백악관 복귀 이래 첫 독자 행보였다. 곧바로 다음날인 4일에는 트럼프의 집권 2기 첫 의회 연설에 참석했다. 반면 트럼프 1기 행정부 때 사실상 퍼스트레이디 역할을 맡은 이방카는 지난 1월 “정치는 매우 어둡고 부정적인 사업이다. 나는 정책과 영향력을 사랑하지만 정치를 싫어한다”며 백악관 복귀에 선을 그었다. 다만 멜라니아와 이방카의 복잡한 관계는 트럼프 2기 행정부에서도 계속 주목받을 것으로 보인다. 트럼프 가족 내부의 이런 역학 관계가 단순한 가족 문제를 넘어 미국 정치에 영향을 미칠 수 있다는 분석도 나온다. 퍼스트레이디와 대통령 장녀 사이의 관계가 백악관 내 분위기는 물론 정책 결정 과정에 간접적인 영향을 줄 수 있어서다.

동의 없는 성착취물 유포자 처벌플랫폼에 관련 콘텐츠 삭제 의무“유해 온라인환경서 아이들 보호” 도널드 트럼프 대통령의 부인 멜라니아 트럼프 여사가 3일(현지시간) ‘리벤지 포르노’(헤어진 연인의 은밀한 사진과 영상을 온라인에 불법으로 유포하는 행위), ‘딥페이크’(인공지능으로 만든 이미지·영상 합성물) 성착취물 등 사이버 성폭력에 대응하는 입법 좌담회를 가졌다. 트럼프 대통령 백악관 복귀 이래 멜라니아 여사가 독자 행보에 나선 건 처음이다. 멜라니아 여사는 이날 워싱턴DC 연방의회 의사당에서 열린 ‘테이크 잇 다운’(불법 성착취물 강력단속) 법안 관련 좌담회에서 남성용 정장 스타일 차림으로 회의에 참석해 연설했다. 이날 행사에는 고등학생 또래 친구들이 자신의 동의 없이 인공지능(AI)으로 불법 성착취물을 만들어 소셜미디어에 유포하는 피해를 입은 15세 소녀 엘리스턴 베리도 함께했다. 테드 크루즈(공화·텍사스) 상원의원과 에이미 클로버샤(민주·미네소타) 상원의원 등이 공동 발의한 이 법은 상대방 동의 없이 AI로 제작한 딥페이크, 리벤지 포르노 등 불법 성착취물을 온라인상으로 유포하는 행위를 형사범죄로 처벌하고 온라인 플랫폼이 책임지고 관련 콘텐츠를 즉시 삭제하도록 하는 내용이 담겼다. 이날 멜라니아 여사는 “AI가 주도하는 세상에서 개인정보에 대한 무단 접근과 오용의 위험이 커졌다”며 “우리는 강력한 보안 조치를 우선시하고 프라이버시를 보호하기 위해 엄격한 윤리적 기준을 준수해야 한다”고 강조했다. 이어 “우리가 아이들을 비열하고 해로운 온라인상의 행위로부터 보호하는 것은 필수적”이라며 “아이들을 보호하는 것은 책임일 뿐 아니라 내일의 리더를 키우는 데 있어 중요한 조치”라고 설명했다. 앞서 멜라니아 여사는 트럼프 대통령의 첫 임기 때 청소년 인권 관련 인식 개선 캠페인 ‘비 베스트’ 활동에 나선 바 있다. 

검색하면 음란 영상에 접근 가능“대부분 해외 서버… 단속 어려워”인증 쉬워 미성년자도 사용 추정아청물 사전 인지 증명도 모호해 ‘미자(미성년자) 교복’, ‘여동생 히토미(일본 성인만화 공유 사이트)’. 일론 머스크 테슬라 최고경영자가 소유한 소셜미디어(SNS) ‘엑스’(X·옛 트위터)에 이런 검색어를 입력하면 일본의 성인 만화를 공유하는 계정 수십 개가 뜬다. 가장 인기 있는 계정은 팔로어가 4만명이 넘는데, 대부분 교복을 입은 여학생을 대상으로 한 아동·청소년 성착취물(아청물)이다. 예컨대 성인이 학생을 상대로 노골적인 성희롱적 표현을 하는 음란물이 상당수다. 이처럼 X에 검색어만 넣으면 아동 등을 대상으로 한 성착취 영상을 손쉽게 시청할 수 있는데도 해외 플랫폼에 대한 수사가 어려워 ‘사각지대’에 놓여 있다는 지적이 제기된다. 또 수사를 통해 적발하더라도 게시자나 이용자가 사전에 이런 불법 영상임을 알고 찾아봤다는 점을 입증하기가 어려워 처벌도 쉽지 않다는 게 법조계의 우려다. 현행법상 아청물 배포는 벌금형이 없이 징역형만 규정하고 있는 중범죄다. 청소년성보호법에 따르면 아청물을 배포·제공하거나 전시 또는 상영한 경우 3년 이상의 징역에 처할 수 있다. 돈을 벌려는 목적이 있었다면 5년 이상의 징역형으로 처벌이 강화된다. 게시물을 올린 사람뿐 아니라 이를 시청만 해도 처벌 대상에 속한다. 하지만 수사에 나서더라도 X 등 SNS 대부분이 해외에 서버를 두고 있어 단속이 쉽지 않다. 특히 X는 지난해 자체적인 가이드라인을 발표하고 ‘합의된 성인용 콘텐츠는 허용한다’고 밝힌 바 있다. 성인용 콘텐츠엔 만화, 일본의 노골적인 성인 애니메이션 등도 포함된다. 김정학 법무법인 시그니처 변호사는 “국내에 서버를 두고 있지 않은 경우 이용자들의 인터넷 프로토콜(IP) 등 관련 정보를 확인하는 데 수사상 어려움이 있다”고 진단했다. X는 해당 콘텐츠에 ‘성인용’이라는 표기를 하고, 이를 열람 또는 공유하려면 ‘18세 이상’임을 사전 인증해야 한다는 규정을 뒀다. 하지만 가입 시 등록한 생년월일을 기준으로 삼되 신분증 확인 같은 별도의 추가 인증을 요구하지 않기 때문에 타인의 신상정보로 가입하는 등 ‘우회로’가 적지 않다는 지적도 나온다. 더욱이 게시자나 이용자가 아청물이란 사실을 사전에 인지하고 있었다는 점을 밝히는 것도 쉽지 않다. 예컨대 ‘선생·제자 강간’ 같은 단어가 게시물에 표기돼 있다면 아청물 게시나 시청 의도를 갖고 있었다는 게 명확해지지만 그렇지 않은 경우가 대다수라 ‘모르고 들어갔다’고 발뺌할 수 있다. 이에 정부가 플랫폼 자체 검열 강화를 유도하고 해외 수사기관과 협조 체제를 구축해야 한다는 제언이 나온다. 박성현 법률사무소 유 변호사는 “미국은 개인정보보호에 매우 엄격하지만 최근 아청물에 관해선 수사기관이 플랫폼업체나 SNS 등과 협조해 처벌에 적극 나서고 있다”면서 “한국도 해외 수사기관이나 SNS와의 협조 체계를 강화해 수사에 활용해야 한다”고 조언했다.

인공지능(AI) 생태계의 파수꾼일까, 청소부일까. 분명한 점은 보이지 않지만 필수적인 존재라는 사실이다. 국내에서 아직 생소한 개념인 콘텐츠 모더레이터는 유해 콘텐츠를 걸러내는 노동자다. 서울신문은 국내외에서 활동하는 전현직 콘텐츠 모더레이터들을 심층 인터뷰했다. 또 이들이 AI에게 필터링 기술을 가르친 뒤 대체되는 과정을 살펴봤다. ●영상 걸러내는 ‘콘텐츠 모더레이터’ “영상 수위요? 상상을 초월하죠. AI가 영상을 보다가 ‘그냥 사람한테 시켜야지’라고 할걸요?” 콘텐츠 모더레이터 손지혁(30대 초반·이하 가명)씨는 한 시간에 600여개의 숏폼(짧은 동영상)을 본다. 일주일도, 하루도 아닌 한 시간에 600여개다. 이 중 20~30개가 노골적인 포르노물이거나 잔인한 영상이다. 알몸 댄스 챌린지, 참수당하는 군인, 자해하는 청소년…. 이런 콘텐츠를 매뉴얼에 따라 분류하고 거르는 것이 그의 일이다. 그의 기술과 노하우는 고스란히 AI에게 넘어간다. 솎아내고 또 솎아내도 계속 밀려오는 숏폼은 압박 그 자체다. 끊임없이 작업물을 토해내는 컨베이어벨트처럼. ●음란물·참수 영상까지 상상 그 이상 지혁씨는 말레이시아의 한 BPO(비즈니스 프로세스 아웃소싱) 회사에 다닌다. 릴스, 틱톡, 쇼츠 등을 운영하는 글로벌 플랫폼(원청)이 외주를 주면 동남아에 있는 BPO사(하청)가 정화 작업을 맡는다. 지혁씨가 속한 팀은 한국 관련 영상물을 관리한다. 그는 지난 3일 서울신문과의 인터뷰에서 “한국 콘텐츠는 한국인이 처리하는 게 가장 빠르다”며 “한국어 욕설, 은어를 잘 알기 때문”이라고 설명했다. 지혁씨는 “IS(테러 단체 ‘이슬람국가’)의 테러를 옹호하며 참수하는 영상이 가장 충격적이었다”고 말했다. 박정화(30대)씨는 국내 한 인터넷 커뮤니티에 올라오는 게시글과 댓글을 실시간으로 감시한다. 1시간에 8000~1만 2000개의 게시글을 훑는다. 그는 “젠더 갈등이 컸던 2022년 음란 행위를 하면서 살인하는 장면이 담긴 영상이 올라왔는데, 그 잔상이 아직도 남아 있다”고 말했다. 정화씨는 “언제부턴가 아이들을 계속 옭아매는 강박에 사로잡혔다”며 “내 아이들이 조금이라도 위험한 상황에 놓이면 안 된다는 강박”이라고 말했다. 시한폭탄이 된 트라우마“종일 투신·생식기 영상만… 정신 피폐”“아이들을 옭아매야 하는 강박 생겨”테크 기업 이름만 보고 지원했다 충격견디는 것 외엔 마땅한 방법이 없어국내 BPO사에 들어갔다가 곧 포기한 양민아(20대 후반)씨는 “구인 광고에서 콘텐츠 관련 일이라고 해서 기대감을 갖고 시작했다. 그런데 어떤 날은 사람 사진에서 생식기 부분만 하루 종일 표시하고, 어떤 날은 건물에서 뛰어내리는 영상만 보다 보니 정신이 피폐해졌다”며 “퇴사하고도 한동안은 스마트폰을 쳐다볼 수도 없었다”고 말했다. 민아씨처럼 채용 공고에 언급된 페이스북, 유튜브 등 글로벌 테크 기업의 이름에 매료돼 문을 두드렸다가 충격에 빠지는 이들이 많다. 콘텐츠 모더레이터들은 심각한 트라우마를 겪었지만 견디는 것 외엔 마땅한 방법이 없었다. 오히려 버티다 보면 ‘맷집’이 생겨 점점 무감각해졌다. 정신건강은 사측이 보호해야 할 영역이 아니라 노동자가 갖춰야 할 ‘능력’이었다. 신입 모더레이터를 교육하는 한 BPO의 교관은 이렇게 말했다. “여러분은 우리 사회를 깨끗하게 만드는 가치 있는 일을 하는 겁니다. 그렇지 않으면 7살짜리 아이도 성관계 영상을 볼 수 있으니까요.” 한국노동안전보건연구소가 의뢰한 ‘국내 콘텐츠 모더레이터 노동의 실태와 위험성’ 보고서를 쓴 노가빈(연구책임자)·이수민(공동연구원)씨는 “반복적인 유해 콘텐츠 시청은 언제 터질지 모르는 폭탄과 같다”며 “사측에서 정신건강 시스템을 마련해도 허울뿐인 경우가 많다”고 말했다. 모더레이터 업무는 프리랜서 형태의 계약직이 많은데, 잠시라도 휴식 시간을 가지면 재계약에서 불리하게 작용한다. 정화씨는 재택근무를 하며 육아를 병행할 수 있겠다 싶어 일을 시작했는데, 오히려 끼니를 거르거나 화장실도 못 가는 날이 빈번하다고 한다. 그는 “10분이라도 쉬고 오거나 화장실에 가면 바로 관리자한테 연락이 온다”고 했다. 지혁씨는 “1시간에 600~700개 영상을 검수하지 못하면 바로 호출된다”고 했다. 쳇바퀴가 돌아가는 속도는 점점 빨라진다. 사측은 처음에는 30초짜리 영상을 1분 동안 검수할 수 있게 시간을 준다. 평균 작업 시간이 40초라면 1분→40초→35초→30초 안에 마치도록 시간을 단축하며 압박한다. 동남아에서 모더레이터로 일한 성은경(30대 초반)씨는 “퀄리티(질)와 퀀터티(양) 모두에서 압박을 받는다”면서 “속도가 가장 중요한 업무 평가 기준”이라고 전했다. 유령 노동자로 전락한 그들“끼니 거르고 화장실 못 가는 날 빈번”“배달 라이더처럼 시간 내 무조건 완료”스마트폰 반납·비밀유지 서약 ‘열악’직업코드도 없어… 법적책임 강화를하은성 노무사는 “배달 라이더가 신호 위반을 해서라도 음식을 시간 안에 배달해야 하는 것과 같다”면서 “콘텐츠 모더레이터들에게는 보안 강요라는 족쇄가 덧씌워진다”고 말했다. 출근하자마자 스마트폰을 반납해야 하고 본인이 하는 일을 외부에 발설하지 않겠다는 비밀유지 서약서를 쓴다. 은경씨가 다니던 회사엔 3년 전까지만 해도 ‘ID 검열팀’이 있었다. 소셜미디어(SNS) 계정과 실제 사용자가 일치하는지 확인하는 팀이었는데, 어느새 팀이 사라졌다. 그는 “AI가 대신 할 수 있게 됐기 때문”이라고 말했다. AI를 가르치고 AI에게 밀려난 것이다. 민아씨도 “처음엔 사람이 일일이 라벨링 작업을 했지만 점점 AI가 필터링한 작업물을 수정하는 쪽으로 사람의 일이 바뀌었다”고 말했다. 지혁씨는 “AI에게 밀려난 잉여 인력은 교육을 받으며 대기하다가 AI가 처리할 수 없는 새로운 영역이 생기면 거기로 투입된다”고 밝혔다. 2018년 페이스북의 콘텐츠 모더레이터로 일했던 셀리나 스콜라는 외상 후 스트레스 장애(PTSD)에 대한 보상을 요구하는 소송을 최초로 제기했다. 이후 세계 곳곳에서 모더레이터의 노동권 보장 요구가 이어졌다. 국내에선 최근에서야 모더레이터, 데이터 라벨러의 고용 불안 문제가 제기되고 있다. 지난 1월 서울지방노동위원회는 유해 콘텐츠를 분류하는 교육을 받은 뒤 ‘채용 취소’를 통보받은 교육생이 낸 진정을 부당 해고로 인정했다. 이학영 더불어민주당 의원실이 중앙노동위원회로부터 제출받은 ‘데이터 라벨러·콘텐츠 모더레이터 관련 구제 신청 현황’에 따르면 최근 5년간 11건(인정 4건·기각 6건·각하 1건)이 접수됐으며, 신청 취지는 대부분 부당 해고였다. 전문가들은 모더레이터의 노동 안전망 확보를 위해 정부 지원과 기업의 법적 책임을 강화해야 한다고 조언한다. 노가빈 연구책임자는 “모더레이터라는 ‘직업코드’가 아직 없다”며 “이들을 둘러싼 장막을 걷어 내는 실태 조사와 통계 확보가 우선 필요하다”고 강조했다. ‘혐오·음란물’ 청소의 외주화… 인건비 싼 동남아에 2차 하청업체 몰려인공지능(AI) 시대의 콘텐츠 모더레이팅 작업은 철저하게 외주화, 분업화되고 있다. 피라미드의 최상단은 유튜브, 틱톡, 인스타그램, 페이스북, 엑스(X·옛 트위터) 등을 운영하는 빅테크 기업이 자리잡고 있다. 글로벌 원청인 셈이다. 이들은 중간 계층인 1차 하청 업체에 콘텐츠 검수를 맡긴다. 콘센트릭스(미국)와 텔레퍼포먼스(프랑스)가 1차 하청의 양대 산맥으로 알려져 있다. 콘센트릭스는 40여 개국(직원수 약 43만명), 텔레퍼포먼스는 100여 개국(약 50만명)에 지사를 두고 있다. 1차 하청 기업은 일감을 다시 2차 하청 기업(지사)에 보낸다. 인도, 태국, 말레이시아, 인도네시아 등 아시아 개발도상국에 주로 포진한 2차 하청 업체들이 피라미드의 밑바닥을 이루고 있다. 이들 국가는 컴퓨터를 다룰 줄 아는 인력이 비교적 많고, 임금은 싸며, 노동 관련 법규가 느슨하다는 특징을 갖고 있다. ‘디지털 쓰레기 처리장’으로서의 ‘3박자’를 고루 갖춘 셈이다. ●검열에도 다양한 언어·문화권 인력 투입 동남아의 2차 하청 업체들은 자국 인력뿐만 아니라 해당 유해 콘텐츠가 주로 생산되고 유통되는 국가 출신 인력을 따로 모집한다. 문화적·언어적 맥락에 대한 이해가 부족해 콘텐츠 속 혐오 표현이나 음란한 내용을 분별하는 데 한계가 있기 때문이다. 한국의 구직 포털에서 말레이시아나 태국 등지에 있는 콘텐츠 모더레이팅 업체가 한국 인력을 찾는 구인 광고를 종종 볼 수 있는 것도 이런 이유에서다. 현지 교민이 취업하는 경우도 있고 한국에서 원정 취업에 나서는 경우도 있다. ●딥페이크는 韓, 화형은 阿, 난민혐오는 美 실제로 유해 콘텐츠 내용은 지역마다 큰 특징이 있다. 한국과 관련된 유해 콘텐츠는 딥페이크 성착취물이 가장 많다. 미국의 사이버보안 업체 시큐리티 히어로가 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 딥페이크 음란물에 등장하는 개인 가운데 53%가 한국인이다. 대부분이 연예인이었다. 아프리카 문화권은 화형(火刑)이나 강간, 아랍권은 참수(斬首)나 여성에 대한 명예살인, 유럽과 미국은 난민 혐오, 인종차별과 관련된 유해 콘텐츠가 많다고 한다. ■ 기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자