서울 금천구는 푸른나무재단과 청소년 사이버폭력 예방교육 업무협약을 체결했다고 6일 밝혔다. 지난 5일 열린 협약식에는 유성훈 금천구청장과 박길성 푸른나무재단 이사장을 비롯해 총 6명의 관계자가 참석했다. 금천구 관계자는 “사이버폭력의 조기 예방 교육을 위한 시스템을 구축하기 위한 협약”이라며 “ 특히 금천구가 푸른나무재단이 업무협약을 맺은 첫 지자체”라고 설명했다. 두 기관은 사이버폭력 없는 건강한 지역사회 문화 조성과 유지를 위해 협력하기로 하고 전문 교육 프로그램인 ‘사이좋은 디지털 세상’ 운영에 대해 합의했다. 사이좋은 디지털 세상 교육 프로그램은 관내 초등학교 18개소의 5학년 학급 전체를 대상으로 사이버폭력의 위험성과 예방 방법, 디지털 기기와 인터넷을 안전하게 사용하는 방법에 대한 맞춤형 교육을 제공한다. 또 청소년들이 스스로 사이버폭력에 대응할 수 있는 역량을 기를 수 있도록 다양한 체험형 중심의 교육을 시행할 계획이다. 유 구청장은 “최근 청소년 도박, 마약, 첨단조작기술(딥페이크)이 학교 현장에서 큰 문제로 대두되고 있다”라며 “청소년들이 사이버폭력으로부터 위협받지 않고 안전하고 행복한 생활을 할 수 있도록 적극적으로 지원하겠다”라고 말했다.

‘한국에 거주하는 30대 후반 남성 박모씨’로 신상이 특정된 유튜버 뻑가가 자신을 명예훼손 혐의로 고소한 인터넷방송인(BJ) 과즙세연(본명 인세연) 측에 신상과 관련된 내용을 공개적으로 언급하지 말라는 내용의 경고장을 발송한 것으로 전해졌다. 지난 5일 YTN에 따르면 과즙세연의 법률대리를 맡은 법무법인 리우의 정경석 변호사는 최근 뻑가로부터 이번 사건과 관련해 언론을 포함한 외부 공개를 중단하라는 내용의 경고성 메일을 받았다고 밝혔다. 앞서 지난달 21일 정 변호사는 의뢰인 과즙세연을 대리해 미국 연방법원의 디스커버리(증거 개시) 제도를 통해 현지 법원의 승인을 받아 뻑가의 신원을 확보했다고 전한 바 있다. 정 변호사는 당시 “미국 캘리포니아주 북부 지방법원으로부터 뻑가에 대한 증거게시 요청 일부를 승인받아 구글로부터 뻑가에 대한 일부 개인정보를 받았다”며 뻑가가 한국에 거주하는 30대 후반 남성 박모씨라고 밝혔다. 정 변호사는 디스커버리 제도를 통해 아이돌 그룹 아이브의 장원영 등에 대한 허위 비방 영상을 올린 유튜버 탈덕수용소의 신원 확인에 성공해 국내 법정에 세운 바 있다. 정 변호사는 뻑가와 관련해 “개인 신상이 특정될 수 있어 연령과 성별, 성만 공개하게 됐다”며 “이번에 입수된 개인정보는 뻑가를 상대로 제기한 소송에 활용될 것”이라며 향후 소송 향방에 대해 언급했다. 이에 뻑가는 정 변호사에게 메일을 보내 “본 사건에서 획득한 정보를 활용해 추가적인 소송을 촉진하거나 유도할 의도가 있음을 강하게 시사한다”고 주장했다. 그러면서 이 사건과 관련된 모든 인터뷰를 포함한 외부 공개를 중단하고, 소송 관련 정보를 제3자에게 공유하지 않으며, 소송을 통해 얻은 정보는 소송 외의 목적에 사용하지 않고, 이메일·메시지·인터뷰 녹취록 등 이 사건과 관련된 모든 커뮤니케이션 기록을 보존할 것을 요구했다. 정 변호사는 이와 관련해 “대중적 관심이 높은 사건에 대해 소송 진행 상황이나 전망 등에 대한 의견을 말하는 것은 전혀 법적으로 문제가 없다”며 “저와 미국 디스커버리를 진행한 현지 변호사에게도 비슷한 경고장을 보냈는데 우리는 모든 절차를 법에 정해진 바에 따라 수행하고 있을 뿐”이라고 설명했다. 뻑가는 구독자 114만명을 보유한 인기 유튜버로 이슈 관련 자극적인 콘텐츠를 만들어 올리는 이른바 ‘사이버 렉카’로 활동해 왔다. 가면을 쓰고 자신의 정체를 철저히 감춘 채 유튜브 채널을 운영해온 뻑가는 지난해 8월 딥페이크 성범죄를 우려하는 여성들을 조롱하는 듯한 내용의 영상을 올려 수익 정지 조치를 당하기도 했다. 뻑가는 한 콘텐츠에서 과즙세연의 사생활 의혹을 제기했다가 지난해 9월 과즙세연으로부터 명예훼손 혐의로 피소됐다. 뻑가는 이에 대해 지난달 24일 자신의 유튜브 커뮤니티를 통해 “현재 여기저기서 저를 음해하고 공격하는 사람들에 대해 최대한 제가 할 수 있는 강력한 대응을 할 예정”이라며 “어차피 수익도 막혔고 잃을 게 없는 상황에서 총력을 다해 맞서겠다”고 밝혔다.

도널드 트럼프 미국 대통령의 집권 2기 첫 의회 연설에 트럼프 일가가 총출동했다. 다만 막내아들인 배런은 참석하지 않았다. 정부효율부(DOGE) 수장인 일론 머스크 테슬라 최고경영자(CEO)는 평소와 달리 검은색 정장을 차려입고 왔다. 4일(현지시간) 월스트리트저널(WSJ)에 따르면 트럼프 대통령 가족은 워싱턴DC 의회 연방의사당에서 열린 두 번째 임기 첫 의회 연설에 참석했다. 부인인 멜라니아 트럼프 여사는 벨트가 달린 회색 정장 재킷과 치마를 입고 등장했다. JD 밴스 부통령과 마이크 존슨 하원의장에 이어 세 번째로 소개되자 공화당 의원들이 환호하며 박수를 보냈다. 의회 연설에서 영부인이 세 번째로 소개된 것은 처음이다. 트럼프 대통령이 자기 가족을 ‘스타’로 만들고자 노력한 흔적이다. 멜라니아 여사 옆에는 딥페이크(허위영상) 피해자들이 섰다. 그가 지난 3일 리벤지 포르노(보복성 음란물), 딥페이크 퇴치를 위한 법안 입법을 촉구한 것을 강조한 것이다. 트럼프 대통령의 장남인 트럼프 주니어와 차남 에릭, 장녀 이방카와 사위 재러드 쿠슈너, 차녀 티퍼니도 청중석에 모습을 드러냈다. 다만 막내아들 배런은 불참했다. 뉴욕대 1학년인 그는 수업이 있어서 참석하지 못했다고 매체들은 전했다. 트럼프 대통령의 최측근인 머스크 CEO는 검은색 정장에 파란색 넥타이, 하얀색 셔츠를 입고 왔다. 그는 박수로 환영하는 참석자들에게 거수경례로 답례했다. 엄지손가락을 치켜들기도 했다. 평소 머스크는 자유로운 차림으로 백악관을 누볐다. 지난달 26일 트럼프 2기 행정부 첫 각료회의에는 ‘기술 지원’이라고 쓰인 티셔츠와 마가(MAGA·미국을 다시 위대하게) 모자를 쓰고 나타났다. 이날 머스크의 정장 차림은 지난달 28일 볼로디미르 젤렌스키 우크라이나 대통령과 트럼프 대통령 간 정상회담에서 불거진 정장 논란을 의식한 것으로 보인다. 당시 트럼프 대통령은 젤렌스키 대통령과 악수하며 “오늘 잘 차려입었네”라고 비꼬듯 말한 바 있다.

동의 없는 성착취물 유포자 처벌플랫폼에 관련 콘텐츠 삭제 의무“유해 온라인환경서 아이들 보호” 도널드 트럼프 대통령의 부인 멜라니아 트럼프 여사가 3일(현지시간) ‘리벤지 포르노’(헤어진 연인의 은밀한 사진과 영상을 온라인에 불법으로 유포하는 행위), ‘딥페이크’(인공지능으로 만든 이미지·영상 합성물) 성착취물 등 사이버 성폭력에 대응하는 입법 좌담회를 가졌다. 트럼프 대통령 백악관 복귀 이래 멜라니아 여사가 독자 행보에 나선 건 처음이다. 멜라니아 여사는 이날 워싱턴DC 연방의회 의사당에서 열린 ‘테이크 잇 다운’(불법 성착취물 강력단속) 법안 관련 좌담회에서 남성용 정장 스타일 차림으로 회의에 참석해 연설했다. 이날 행사에는 고등학생 또래 친구들이 자신의 동의 없이 인공지능(AI)으로 불법 성착취물을 만들어 소셜미디어에 유포하는 피해를 입은 15세 소녀 엘리스턴 베리도 함께했다. 테드 크루즈(공화·텍사스) 상원의원과 에이미 클로버샤(민주·미네소타) 상원의원 등이 공동 발의한 이 법은 상대방 동의 없이 AI로 제작한 딥페이크, 리벤지 포르노 등 불법 성착취물을 온라인상으로 유포하는 행위를 형사범죄로 처벌하고 온라인 플랫폼이 책임지고 관련 콘텐츠를 즉시 삭제하도록 하는 내용이 담겼다. 이날 멜라니아 여사는 “AI가 주도하는 세상에서 개인정보에 대한 무단 접근과 오용의 위험이 커졌다”며 “우리는 강력한 보안 조치를 우선시하고 프라이버시를 보호하기 위해 엄격한 윤리적 기준을 준수해야 한다”고 강조했다. 이어 “우리가 아이들을 비열하고 해로운 온라인상의 행위로부터 보호하는 것은 필수적”이라며 “아이들을 보호하는 것은 책임일 뿐 아니라 내일의 리더를 키우는 데 있어 중요한 조치”라고 설명했다. 앞서 멜라니아 여사는 트럼프 대통령의 첫 임기 때 청소년 인권 관련 인식 개선 캠페인 ‘비 베스트’ 활동에 나선 바 있다. 

지난해 한 해 동안 검거된 딥페이크 성범죄 피의자의 80%가 10대 청소년이었다. 10대 마약사범이 3년 새 50배 이상 증가했고, 검거된 사이버 도박범의 절반가량이 청소년이었다. 도대체 학교에서 무슨 일이 일어나고 있는 걸까. 최재란 의원(더불어민주당, 비례대표)은 지난 24일 열린 제328회 서울시의회 임시회 제1차 교육위원회에서 정근식 서울시교육감을 상대로 최근 청소년의 각종 사회문제 심각성을 지적하고, 우리 아이들의 인성교육을 위해 자원봉사 활성화를 제안했다. 교육부는 2019년 11월 대입제도 공정성 강화 방안을 발표했다. 학생 봉사활동의 경우, 개인활동은 제외되고 학교 교육계획에 의한 봉사활동만 대학입시에 반영되는 것으로 변경됐다. 2025년부터는 2022년 개정 교육과정이 적용됨에 따라 단계적으로 창의적 체험활동 영역(봉사활동, 동아리활동, 진로활동, 자율활동)에서 봉사활동이 제외됐다. 결국 봉사활동이 축소 운영되거나 줄어들 수밖에 없는 상황. 최 의원은 “학교 교육계획에 의한 봉사활동만 대학입시에 반영되는 일련의 과정을 겪으면서 지역 자원봉사 현장에서 청소년들이 사라졌다”면서 “물론 대학 입시 반영 여부에 따라 자원봉사 현장에 아이들이 보이고 보이지 않는 것은 부모의 책임”이라고 꼬집었다. 최 의원은 자녀들과 함께 봉사활동을 하며 직접 경험한 사례를 전하며 “지자체마다 자원봉사센터를 운영하고 있으며, 각 동 캠프를 통한 마을 봉사도 활발한데, 특히 가족이 함께하는 봉사활동은 부모와 함께하는 시간이 늘어나 대화 시간이 많아지고 가족 간의 돈독함이 깊어지는 긍정적 영향을 끼치는 걸 목격했다”라는 것이다. 최 의원은 봉사활동이 인성교육 역할을 한다고 말했으며 “자원봉사활동으로 나와 형편이 다른 이웃의 삶을 경험하면서 다 함께 살아가는 이웃이라는 것을 인지하고, 이해하는 인성교육 역할을 한다”면서 “이런 자원봉사활동을 교육현장에서 등한시하는 데 대해 우려가 깊다”라며 교육감의 자원봉사에 대한 의견을 물었다. 정근식 교육감은 “자원봉사활동이 인성교육에 중요하다는 데 대해 전적으로 동의한다”면서 “우리나라 교육은 대학 입시 제도와 연결지어 규정력을 가지는데, 대학입시에서 자원봉사 경력을 둘러싸고 문제가 발생하자 폐지하게 된 것으로 파악한다”라고 설명했다. 이어 정 교육감은 “자원봉사가 중요하다는 것은 많은 사람이 인지하고 있으므로 시간이 지나면서 교육 평가나 입시에 반영할 것인지 다시 한번 논의해 볼 과제라고 생각한다”고 덧붙였다. 또한 최 의원은 과거의 문제에 대해서도 짚었다. 최 의원은 “봉사실적 입력이 전산화되기 전, 자원봉사 실적을 수기로 기재하는 과정에서 봉사 시간을 과도하게 기입하는 부정 사례가 있었지만 이미 전산화됐고, 봉사자의 인식개선과 각 센터의 노력으로 개선됐기 때문에 과거와 달라졌다. 빈대 잡자고 초가삼간 태울 수는 없는 법”이라며 “봉사활동 관련해 문제가 있다면 개선하고 보완하면 된다”고 강조했다. 최 의원은 청소년의 자원봉사활동은 이어져야 한다고 주장했으며 “부모의 강권으로 자원봉사를 시작했던 아이들도 봉사가 이어질수록 얼굴이 눈에 띄게 달라진다”라며 “자원봉사를 통한 보람을 얻고 소중함을 깨닫게 된 아이들은 스스로 봉사활동에 참여하며 성인이 돼서도 봉사를 이어나간다. 청소년들에게 이보다 더 좋은 인성교육이 있겠나. 거듭 자원봉사 활성화를 위한 노력을 요청드린다”고 말했다. 최 의원은 수많은 청소년 범죄와 관련해 “학교 수업을 통한 인성교육의 한계가 있음을 인정하고, 교육부와 타 시·도 교육감님들과 논의를 통해 개선하고 보완해 활성화할 수 있도록 노력해달라”고 요청했다. 끝으로 정 교육감은 “잘 알겠다. 바람직한 것은 대학입시와 무관하게 자원봉사가 활성화가 돼야 하는데 대학입시와 연결이 끊기니 자원봉사가 확 줄었다고 하는 것은 우리 사회의 어두운 측면 중 하나”라며 “서울교육청에서 어느 정도 유의미한 대책을 세울 수 있을지 검토 한번 해보겠다”고 답했다.

윤석열 대통령 부부의 얼굴을 합성해 만든 딥페이크 영상을 광주에서 열린 탄핵 촉구 집회에서 상영한 유튜버가 경찰에 입건됐다. 광주경찰청 사이버범죄수사대는 허위 영상물 제작 및 배포 혐의(성폭력범죄의 처벌 등에 관한 특례법 위반)로 유튜버 2명을 입건했다고 27일 밝혔다. 이들은 지난 15일 광주 동구 금남로 일대에서 열린 윤 대통령 탄핵 촉구 시민궐기대회를 앞두고 집회 장소 인근 5·18 민주광장에서 딥페이크 영상을 배포한 혐의를 받는다. 3분 20초 분량의 해당 영상에는 윤 대통령이 속옷 차림으로 인파가 몰린 거리에서 맥주로 보이는 음료를 마시고, 노출이 심한 의상을 입은 여성과 공군 1호기에서 내리는 등 성적으로 비하하는 모습이 담긴 것으로 알려졌다. 영상의 제작자는 해외에, 상영자는 경기도 모처에 각각 거주하며, 탄핵 촉구 집회에서의 상영 행위는 집회를 주최한 시민단체와 무관한 것으로 전해졌다. 경찰은 대통령실의 고발장 제출로 수사에 착수, 사건 발생지 기준으로 광주경찰청이 수사하도록 했다. 경찰은 법리 검토를 거쳐 유튜버들에게 출석을 통보할 방침이다.

인공지능(AI) 생태계의 파수꾼일까, 청소부일까. 분명한 점은 보이지 않지만 필수적인 존재라는 사실이다. 국내에서 아직 생소한 개념인 콘텐츠 모더레이터는 유해 콘텐츠를 걸러내는 노동자다. 서울신문은 국내외에서 활동하는 전현직 콘텐츠 모더레이터들을 심층 인터뷰했다. 또 이들이 AI에게 필터링 기술을 가르친 뒤 대체되는 과정을 살펴봤다. ●영상 걸러내는 ‘콘텐츠 모더레이터’ “영상 수위요? 상상을 초월하죠. AI가 영상을 보다가 ‘그냥 사람한테 시켜야지’라고 할걸요?” 콘텐츠 모더레이터 손지혁(30대 초반·이하 가명)씨는 한 시간에 600여개의 숏폼(짧은 동영상)을 본다. 일주일도, 하루도 아닌 한 시간에 600여개다. 이 중 20~30개가 노골적인 포르노물이거나 잔인한 영상이다. 알몸 댄스 챌린지, 참수당하는 군인, 자해하는 청소년…. 이런 콘텐츠를 매뉴얼에 따라 분류하고 거르는 것이 그의 일이다. 그의 기술과 노하우는 고스란히 AI에게 넘어간다. 솎아내고 또 솎아내도 계속 밀려오는 숏폼은 압박 그 자체다. 끊임없이 작업물을 토해내는 컨베이어벨트처럼. ●음란물·참수 영상까지 상상 그 이상 지혁씨는 말레이시아의 한 BPO(비즈니스 프로세스 아웃소싱) 회사에 다닌다. 릴스, 틱톡, 쇼츠 등을 운영하는 글로벌 플랫폼(원청)이 외주를 주면 동남아에 있는 BPO사(하청)가 정화 작업을 맡는다. 지혁씨가 속한 팀은 한국 관련 영상물을 관리한다. 그는 지난 3일 서울신문과의 인터뷰에서 “한국 콘텐츠는 한국인이 처리하는 게 가장 빠르다”며 “한국어 욕설, 은어를 잘 알기 때문”이라고 설명했다. 지혁씨는 “IS(테러 단체 ‘이슬람국가’)의 테러를 옹호하며 참수하는 영상이 가장 충격적이었다”고 말했다. 박정화(30대)씨는 국내 한 인터넷 커뮤니티에 올라오는 게시글과 댓글을 실시간으로 감시한다. 1시간에 8000~1만 2000개의 게시글을 훑는다. 그는 “젠더 갈등이 컸던 2022년 음란 행위를 하면서 살인하는 장면이 담긴 영상이 올라왔는데, 그 잔상이 아직도 남아 있다”고 말했다. 정화씨는 “언제부턴가 아이들을 계속 옭아매는 강박에 사로잡혔다”며 “내 아이들이 조금이라도 위험한 상황에 놓이면 안 된다는 강박”이라고 말했다. 시한폭탄이 된 트라우마“종일 투신·생식기 영상만… 정신 피폐”“아이들을 옭아매야 하는 강박 생겨”테크 기업 이름만 보고 지원했다 충격견디는 것 외엔 마땅한 방법이 없어국내 BPO사에 들어갔다가 곧 포기한 양민아(20대 후반)씨는 “구인 광고에서 콘텐츠 관련 일이라고 해서 기대감을 갖고 시작했다. 그런데 어떤 날은 사람 사진에서 생식기 부분만 하루 종일 표시하고, 어떤 날은 건물에서 뛰어내리는 영상만 보다 보니 정신이 피폐해졌다”며 “퇴사하고도 한동안은 스마트폰을 쳐다볼 수도 없었다”고 말했다. 민아씨처럼 채용 공고에 언급된 페이스북, 유튜브 등 글로벌 테크 기업의 이름에 매료돼 문을 두드렸다가 충격에 빠지는 이들이 많다. 콘텐츠 모더레이터들은 심각한 트라우마를 겪었지만 견디는 것 외엔 마땅한 방법이 없었다. 오히려 버티다 보면 ‘맷집’이 생겨 점점 무감각해졌다. 정신건강은 사측이 보호해야 할 영역이 아니라 노동자가 갖춰야 할 ‘능력’이었다. 신입 모더레이터를 교육하는 한 BPO의 교관은 이렇게 말했다. “여러분은 우리 사회를 깨끗하게 만드는 가치 있는 일을 하는 겁니다. 그렇지 않으면 7살짜리 아이도 성관계 영상을 볼 수 있으니까요.” 한국노동안전보건연구소가 의뢰한 ‘국내 콘텐츠 모더레이터 노동의 실태와 위험성’ 보고서를 쓴 노가빈(연구책임자)·이수민(공동연구원)씨는 “반복적인 유해 콘텐츠 시청은 언제 터질지 모르는 폭탄과 같다”며 “사측에서 정신건강 시스템을 마련해도 허울뿐인 경우가 많다”고 말했다. 모더레이터 업무는 프리랜서 형태의 계약직이 많은데, 잠시라도 휴식 시간을 가지면 재계약에서 불리하게 작용한다. 정화씨는 재택근무를 하며 육아를 병행할 수 있겠다 싶어 일을 시작했는데, 오히려 끼니를 거르거나 화장실도 못 가는 날이 빈번하다고 한다. 그는 “10분이라도 쉬고 오거나 화장실에 가면 바로 관리자한테 연락이 온다”고 했다. 지혁씨는 “1시간에 600~700개 영상을 검수하지 못하면 바로 호출된다”고 했다. 쳇바퀴가 돌아가는 속도는 점점 빨라진다. 사측은 처음에는 30초짜리 영상을 1분 동안 검수할 수 있게 시간을 준다. 평균 작업 시간이 40초라면 1분→40초→35초→30초 안에 마치도록 시간을 단축하며 압박한다. 동남아에서 모더레이터로 일한 성은경(30대 초반)씨는 “퀄리티(질)와 퀀터티(양) 모두에서 압박을 받는다”면서 “속도가 가장 중요한 업무 평가 기준”이라고 전했다. 유령 노동자로 전락한 그들“끼니 거르고 화장실 못 가는 날 빈번”“배달 라이더처럼 시간 내 무조건 완료”스마트폰 반납·비밀유지 서약 ‘열악’직업코드도 없어… 법적책임 강화를하은성 노무사는 “배달 라이더가 신호 위반을 해서라도 음식을 시간 안에 배달해야 하는 것과 같다”면서 “콘텐츠 모더레이터들에게는 보안 강요라는 족쇄가 덧씌워진다”고 말했다. 출근하자마자 스마트폰을 반납해야 하고 본인이 하는 일을 외부에 발설하지 않겠다는 비밀유지 서약서를 쓴다. 은경씨가 다니던 회사엔 3년 전까지만 해도 ‘ID 검열팀’이 있었다. 소셜미디어(SNS) 계정과 실제 사용자가 일치하는지 확인하는 팀이었는데, 어느새 팀이 사라졌다. 그는 “AI가 대신 할 수 있게 됐기 때문”이라고 말했다. AI를 가르치고 AI에게 밀려난 것이다. 민아씨도 “처음엔 사람이 일일이 라벨링 작업을 했지만 점점 AI가 필터링한 작업물을 수정하는 쪽으로 사람의 일이 바뀌었다”고 말했다. 지혁씨는 “AI에게 밀려난 잉여 인력은 교육을 받으며 대기하다가 AI가 처리할 수 없는 새로운 영역이 생기면 거기로 투입된다”고 밝혔다. 2018년 페이스북의 콘텐츠 모더레이터로 일했던 셀리나 스콜라는 외상 후 스트레스 장애(PTSD)에 대한 보상을 요구하는 소송을 최초로 제기했다. 이후 세계 곳곳에서 모더레이터의 노동권 보장 요구가 이어졌다. 국내에선 최근에서야 모더레이터, 데이터 라벨러의 고용 불안 문제가 제기되고 있다. 지난 1월 서울지방노동위원회는 유해 콘텐츠를 분류하는 교육을 받은 뒤 ‘채용 취소’를 통보받은 교육생이 낸 진정을 부당 해고로 인정했다. 이학영 더불어민주당 의원실이 중앙노동위원회로부터 제출받은 ‘데이터 라벨러·콘텐츠 모더레이터 관련 구제 신청 현황’에 따르면 최근 5년간 11건(인정 4건·기각 6건·각하 1건)이 접수됐으며, 신청 취지는 대부분 부당 해고였다. 전문가들은 모더레이터의 노동 안전망 확보를 위해 정부 지원과 기업의 법적 책임을 강화해야 한다고 조언한다. 노가빈 연구책임자는 “모더레이터라는 ‘직업코드’가 아직 없다”며 “이들을 둘러싼 장막을 걷어 내는 실태 조사와 통계 확보가 우선 필요하다”고 강조했다. ‘혐오·음란물’ 청소의 외주화… 인건비 싼 동남아에 2차 하청업체 몰려인공지능(AI) 시대의 콘텐츠 모더레이팅 작업은 철저하게 외주화, 분업화되고 있다. 피라미드의 최상단은 유튜브, 틱톡, 인스타그램, 페이스북, 엑스(X·옛 트위터) 등을 운영하는 빅테크 기업이 자리잡고 있다. 글로벌 원청인 셈이다. 이들은 중간 계층인 1차 하청 업체에 콘텐츠 검수를 맡긴다. 콘센트릭스(미국)와 텔레퍼포먼스(프랑스)가 1차 하청의 양대 산맥으로 알려져 있다. 콘센트릭스는 40여 개국(직원수 약 43만명), 텔레퍼포먼스는 100여 개국(약 50만명)에 지사를 두고 있다. 1차 하청 기업은 일감을 다시 2차 하청 기업(지사)에 보낸다. 인도, 태국, 말레이시아, 인도네시아 등 아시아 개발도상국에 주로 포진한 2차 하청 업체들이 피라미드의 밑바닥을 이루고 있다. 이들 국가는 컴퓨터를 다룰 줄 아는 인력이 비교적 많고, 임금은 싸며, 노동 관련 법규가 느슨하다는 특징을 갖고 있다. ‘디지털 쓰레기 처리장’으로서의 ‘3박자’를 고루 갖춘 셈이다. ●검열에도 다양한 언어·문화권 인력 투입 동남아의 2차 하청 업체들은 자국 인력뿐만 아니라 해당 유해 콘텐츠가 주로 생산되고 유통되는 국가 출신 인력을 따로 모집한다. 문화적·언어적 맥락에 대한 이해가 부족해 콘텐츠 속 혐오 표현이나 음란한 내용을 분별하는 데 한계가 있기 때문이다. 한국의 구직 포털에서 말레이시아나 태국 등지에 있는 콘텐츠 모더레이팅 업체가 한국 인력을 찾는 구인 광고를 종종 볼 수 있는 것도 이런 이유에서다. 현지 교민이 취업하는 경우도 있고 한국에서 원정 취업에 나서는 경우도 있다. ●딥페이크는 韓, 화형은 阿, 난민혐오는 美 실제로 유해 콘텐츠 내용은 지역마다 큰 특징이 있다. 한국과 관련된 유해 콘텐츠는 딥페이크 성착취물이 가장 많다. 미국의 사이버보안 업체 시큐리티 히어로가 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 딥페이크 음란물에 등장하는 개인 가운데 53%가 한국인이다. 대부분이 연예인이었다. 아프리카 문화권은 화형(火刑)이나 강간, 아랍권은 참수(斬首)나 여성에 대한 명예살인, 유럽과 미국은 난민 혐오, 인종차별과 관련된 유해 콘텐츠가 많다고 한다. ■ 기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

세라 로버츠 UCLA 교수 인터뷰“인공지능(AI) 만능주의에 빠지면 안 됩니다. AI 알고리즘 뒤에 있는 사람들의 실체를 인정하고 그들의 건강과 안전을 보장하는 것이 AI 시대에도 인간의 존엄성을 잃지 않는 첫걸음입니다.” 서울신문은 AI 기술과 뉴미디어가 현실 사회와 만나는 접점을 집요하게 탐구해 온 미국의 미디어학자 세라 로버츠 교수를 지난달 25일 화상으로 인터뷰했다. 그는 저서 ‘비하인드 더 스크린’을 통해 콘텐츠 모더레이터의 실체를 세상에 드러냈다. 규제 밖 뉴플랫폼의 실체치열한 경쟁 탓 쓰레기 콘텐츠 늘어AI 환상 커질수록 존재 숨기기 급급‘부적절’ 판단하려면 인간에 의해 학습-어떤 계기로 ‘비하인드 더 스크린’을 쓰게 됐나요. “거대 테크 기업에 유저(사용자)는 곧 돈입니다. 유저 끌어모으기 경쟁이 치열해질수록 쓰레기 같은 콘텐츠도 많아졌어요. 소셜미디어(SNS)라는 거대한 스크린 뒤에서 쓰레기를 청소하는 사람도 더욱 많이 필요해졌습니다. AI에 대한 환상이 커질수록 ‘디지털 쓰레기 청소부’는 점점 더 어두운 곳으로 밀려났습니다. 그걸 경고하고 싶었어요.” -거대 플랫폼 기업들은 왜 콘텐츠 모더레이터의 존재를 숨길까요. “유튜브, 틱톡, 인스타그램, 페이스북과 같은 SNS는 그 자체가 상품이고 브랜드입니다. 이 기업들은 저마다 ‘우리 플랫폼에서는 표현의 자유를 만끽할 수 있다’고 선전합니다. 또 ‘안전하고 깨끗하다’고 주장하죠. 하지만 누군가 청소를 하지 않으면 플랫폼에 온갖 오물이 밀려듭니다. 성착취물, 딥페이크물, 참수 영상, 자살 영상, 인종차별, 여성혐오…. 이런 유해물을 사람이 일일이 걸러낸다고 하면 누가 그 플랫폼에 들어오겠습니까. 이들의 존재가 부각될수록 플랫폼의 매력은 떨어집니다.” -콘텐츠 모더레이터들의 검수 작업이 표현의 자유를 제한하는 측면이 있는 건 사실 아닌가요. “테크 기업은 알고리즘을 활용해 유저가 좋아할 만한 콘텐츠를 계속 보여 주며 소비 욕구를 부추깁니다. 이 기업들이 광고를 위해 특정 콘텐츠를 선택적으로 띄우거나 삭제하는 걸 통상적인 ‘검열’로 볼 수 있을까요. 이건 표현의 자유나 검열과는 완전히 다른 차원의 문제입니다. 브랜드 관리일 뿐이죠.” -AI의 발달로 사람의 손을 거치지 않아도 유해 콘텐츠를 걸러낼 수 있지 않나요. “아무리 AI가 발달해도 무엇이 나쁜지에 대해서는 인간의 판단이 필요해요. 기존 알고리즘을 우회하는 새로운 내용, 형태의 콘텐츠가 계속해서 올라오기 때문이죠. AI가 특정 콘텐츠를 보고 ‘이건 부적절하다’고 판단하기까지는 인간에 의한 학습이 필요합니다. 머신러닝을 위한 ‘나쁜 데이터’를 준비하는 건 결국 사람입니다.” ‘콘텐츠 모더레이터’ 고충고통 숨기는 건 기밀 유지 조항 때문상상 이상의 콘텐츠로 술 중독까지 안전한 노동환경·보수·권리 보장을-교수님이 만난 콘텐츠 모더레이터들의 고충은 어떠했나요. “많은 모더레이터가 ‘가장 충격적인 경험이 무엇이었는지 더이상 묻지 말라’고 합니다. 상상 그 이상의 콘텐츠를 보기 때문이죠. 그리고 ‘이젠 무덤덤해졌다’고 말하는 분이 많습니다. 덤덤해졌다는 건 괜찮아졌다는 게 아닙니다. 오히려 그만큼 마음의 병이 깊어졌다는 뜻입니다. 어떤 분은 알코올에 의존해 일한다고 했고, 어떤 분은 충격적인 영상이 떠올라 자신도 모르게 파트너를 소파에서 밀쳐 냈다고 했어요. 이들이 고통을 숨기는 건 기밀 유지 조항에 묶여 있기 때문입니다.” -미국도 기존 산업에 비해 AI 등 신기술 분야엔 아직 관련 제도와 법이 정비되지 않았나요. “뉴미디어와 뉴플랫폼 산업에 대한 규제가 거의 없어요. 빅테크 기업이 하는 일은 너무나 창의적이고 중요하기 때문에 그들의 자유를 지켜 줘야 한다는 신화가 강력하게 작동합니다. 전통 미디어 회사들은 규제를 받지만 유튜브와 같은 새로운 미디어에는 규제가 거의 없어요. 원인은 1997년 제정된 ‘통신품위법’에 있어요. 이 법 230조는 인터넷 통신회사는 콘텐츠에 대해 법적 책임을 지지 않는다고 명시하고 있어요. 제정 당시 인터넷 통신회사는 단순히 정보의 전달자였기 때문입니다. 그런데 지금은 메타, 구글과 같은 새로운 형태의 인터넷 통신회사들이 무수히 많은 콘텐츠를 만들고 있어요. 그래도 통신품위법에 따라 아무런 규제를 받지 않아요. 자신의 플랫폼에 접속한 사람이 누구인지, 어디에 사는지, 어떤 추천물을 좋아하는지 훤히 알고 있는데 그들이 유포하는 콘텐츠에 아무런 책임을 묻지 않는 게 과연 정당할까요.” -저희가 취재한 바로는 모더레이팅과 라벨링 작업이 동남아 등으로 대거 외주화한 상태였는데요. 이 현상을 어떻게 이해해야 할까요. “노조의 힘이 약하거나 정부가 노동권에 큰 신경을 쓰지 않는 곳으로 옮겨가고 있어요. 인건비가 싼 것도 중요한 원인이죠. 유럽이나 미국의 경우 자국에서 모더레이팅 업무를 유지하더라도 실제 이 일을 하는 이들은 대부분 이민자입니다. 독일에서는 콘텐츠 모더레이터도 다른 노동자처럼 노동권을 누릴 수는 있어요. 그런데 독일인이 이 업종에 종사하는 경우는 거의 없어요. 폴란드, 루마니아 등에서 온 이민자들이 주로 이 일을 담당해요.” -외주화와 계층화가 동시에 일어나는 건가요. “그렇습니다. 다국적 기업은 늘 인건비가 싼 곳으로 공장을 옮겼고 고급 기술과 저급 기술을 나누는 계층화 전략을 써 왔어요. 그런데 AI 시대에는 새로운 특징이 있어요. 제아무리 뛰어난 기술이나 심오한 인문학적 성과도 곧 하찮은 것이 된다는 사실입니다. AI를 더 똑똑하게 만들기 위해 사람이 쌓아 올린 모든 것이 공짜로 학습 데이터의 수단이 되고 있죠. AI 발달 과정이 인간 평가절하 과정이 돼서는 안 됩니다.” -AI 시대에도 인간 노동이 존중받으려면 어떻게 해야 할까요. “AI 시대의 규칙과 거버넌스(지배구조)를 과연 누가 만드는가를 끊임없이 물어야 합니다. 지금은 소수 빅테크 기업이 만들고 있어요. 사람이 공장에서 일하다가 다치면 생산라인을 일단 멈추지만 온라인 플랫폼에는 그런 제동장치가 없어요. AI 기업이 더 많은 자유를 누리고 더 많은 자본을 흡수하고 있지만 책임은 지지 않아요. AI 시대에도 안전한 노동환경이 보장돼야 하고, 합당한 보수가 제공돼야 하며, 정당한 권리가 부여돼야 합니다. 이런 일은 AI가 해 주지 않아요. 결국 사람이 해야 합니다.” ● 세라 로버츠 교수는 미국 캘리포니아대 로스앤젤레스(UCLA)의 세라 로버츠 교수는 소셜미디어(SNS) 플랫폼 뒤에서 이뤄지는 사람의 숨겨진 노동을 체계적으로 연구한 최초의 학자다. 2019년 발간한 저서 ‘비하인드 더 스크린’에서 유튜브, 트위터(현 X), 페이스북 등에 올라오는 온갖 유해 콘텐츠를 걸러내는 전 세계 작업자들의 실태를 폭로했다. 유럽연합(EU)과 미국 의회에서 콘텐츠 모더레이터들의 정신건강 보호, 노동조건 개선, 플랫폼 기업과 인공지능(AI)의 책임성 강화 방안을 조언하고 있다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

3월 중순 선고 예상에 말 아껴기대와 우려 교차…“살얼음판”윤석열 대통령의 탄핵심판이 막바지 수순으로 접어들면서 용산 대통령실에 긴장감이 고조되고 있다. 참모들은 탄핵심판 결론에 대해 말을 아끼면서 촉각을 곤두세우는 분위기다. 헌법재판소는 지난 20일 10차 변론기일에서 ‘25일에 변론을 종결하겠다’고 밝혔다. 노무현·박근혜 전 대통령의 탄핵심판이 각각 변론 종결 14일, 11일만에 선고한 걸 감안하면 윤 대통령의 탄핵심판은 3월 11일~14일쯤 선고할 것으로 예상된다. 대통령실은 지난해 12월 윤 대통령의 탄핵소추안이 국회에서 가결된 뒤 정진석 비서실장 주재로 비상체제를 유지해 왔다. 실장 주재 수석비서관 회의 등을 통해 각종 현안을 공유하고, 최상목 대통령 권한대행 부총리 겸 기획재정부 장관 등을 보좌하는 역할을 수행하고 있다. 윤 대통령이 ‘빨리 직무 복귀를 해 대한민국을 이끌어나가겠다’는 말을 했다고 알려지면서 주목을 받았지만, 사실이 아니라고 정정했다. 윤 대통령 측 대리인 배의철 변호사는 지난 20일 국민변호인단 집회에서 윤 대통령의 이러한 메시지를 공개했는데, 다음날 “윤 대통령이 직접 메시지를 준 것은 아니고 석동현 변호사가 대통령 의중을 담아 말한 내용을 자신이 옮겨적은 것”이라고 해명했다. 윤 대통령의 탄핵심판 선고가 한달 안으로 다가오면서 대통령실에는 기대와 우려가 교차하고 있다. 일각에서 ‘대통령실이 탄핵 기각 가능성에 무게를 두고 있다’는 관측도 나왔지만, 대통령 복귀에 대비하면서 국정 운영에 만전을 기한다는 방침이다. 대통령실 한 참모는 “현재 분위기는 살얼음판”이라며 “어느 쪽도 섣불리 말하기가 어려운 상황”이라고 했다. 헌재의 탄핵심판 과정에 대한 불만 기류도 읽힌다. 또다른 참모는 “헌재가 불공정한 모습을 보이는 것이 우려된다”며 “박근혜 전 대통령은 17차까지 변론을 했는데, 이번에는 너무 신속 재판에만 열을 올리는 것 같다”고 했다. 대통령실은 인용을 상정한 ‘조기 대선’에는 선을 그으면서 헌재 재판을 예의주시해왔다. 박선원 더불어민주당 의원이 “대통령실이 폐업 절차, 국민의힘은 대선 준비에 착수한다”고 주장하자, 대통령실은 “명백한 가짜뉴스”라고 반박했다. 윤 대통령 방어에도 적극 나서고 있다. 대통령실은 윤 대통령 부부의 딥페이크 영상 배포자와 ‘5대 명산 굿판’ 의혹을 제기한 유튜버 등도 고발했다.

대통령실은 17일 윤석열 대통령 부부의 얼굴을 합성한 딥페이크 영상을 편집·합성·가공해 배포한 두개의 유튜브 채널 운영자를 성폭력범죄의 처벌 등에 관한 특례법 위반으로 고발했다. 대통령실은 이날 언론 공지에서 “피고발인은 수회에 걸쳐 상습적으로 대통령 부부의 얼굴을 합성한 영상을 유튜브 채널에 게시했고, 또다른 피고발인은 지난 15일 광주광역시에서 열린 집회 현장에서 공개적으로 상영하는 방법으로 배포했다”고 밝혔다. 5·18 민주광장에서 열린 탄핵 찬성 집회 현장에서는 수영복을 입은 윤 대통령과 김건희 여사가 나오는 딥페이크 영상이 상영됐다. 해당 영상은 이날 유튜브에서 차단 조처됐다. 대통령실은 “이러한 피고발인들의 행위는 ‘성폭력범죄의 처벌 등에 관한 특례법’ 위반임이 분명할 뿐 아니라, 대한민국 국가원수와 그 배우자를 피해자로 삼아 공개적으로 이들의 명예를 훼손한 것”이라고 밝혔다. 대통령실은 또 ‘5대 명산 굿판’ 의혹을 제기한 유튜브 채널 운영자를 정보통신망법상 허위사실에 의한 명예훼손죄로 고발 조치했다. 대통령실은 “피고발인은 2월15일 자신의 채널에서 굿판을 벌였다는 허위 사실을 언급했으며, 특히 대통령실이 허위사실을 유포한 신용한씨를 고발한 사실을 인지하고 있었음에도 또다시 이를 단정적으로 방영했다”고 밝혔다. 이어 “위 비용이 특활비로 지출되었을 것이라는 음해적인 허위 사실을 유포해 대통령실의 명예를 훼손했다”고 덧붙였다. 신씨는 지난 4일 국회에서 열린 ‘윤석열 정부의 비상계엄 선포를 통한 내란 혐의 진상규명 국정조사 특별위원회’ 청문회에 참고인으로 출석해 “5대 명산에서 같은날 같은시에 굿을 했다는 제보를 받았다”고 주장했고, 대통령실은 신씨를 고발했다.

힘든 하루를 보내고 집으로 돌아온 존. 남자친구와 저녁을 먹고 소파에 앉아 TV를 켜자 OTT 스트림베리에 ‘존은 끔찍해’라는 새로운 콘텐츠가 올라왔다. 유명 배우 셀마 헤이엑이 자신과 똑같은 스타일을 하고는 존이라는 이름으로 등장해 그날 있었던 존의 하루(직원을 해고하고, 전 남자친구와 만난 것까지)를 그대로 재현했다. 영문도 모른 채 순식간에 사생활이 까발려진 존. 그는 다음날 자신의 변호사를 찾아가지만 법적으로 아무런 문제가 없다는 황당한 소리를 듣는다. 수백쪽 계약서에 적힌 온갖 정보를 스트림베리가 이용할 수 있도록 존이 모두 동의했다는 것이다. 심지어 자신의 역을 맡은 셀마 헤이엑조차 진짜 배우가 아니라 이미지만 빌린 딥페이크였다. 스트림베리는 양자컴퓨터와 컴퓨터그래픽(CG)을 활용해 소위 ‘맞춤형 콘텐츠’라는 이름으로 존의 일상을 실시간 드라마로 만들어 내보냈다. 언젠가 이런 일이 진짜 벌어질지도 모른다는 사실에 더욱 오싹해지는 이 이야기는 영국 드라마 ‘블랙 미러’ 시즌 6에 나오는 한 에피소드다. 그동안 인터넷이나 모바일 서비스를 이용하기 위해 눌러 왔던 수많은 정보 수집 ‘동의’ 항목을 생각하면 이 드라마가 던지는 메시지가 결코 가볍지 않다. 실제로 친구와 여행지에 관해 이야기를 나눈 뒤 SNS에 들어가면 마치 스마트폰이 우리 이야기를 듣고 있었나 싶게 그 여행지가 광고로 뜨는 시대에 이미 살고 있다. 최근 중국 스타트업이 만든 인공지능(AI) 모델 딥시크의 등장과 함께 개인정보 보호에 관한 문제가 화두로 떠올랐다. 딥시크의 개인정보 보호 정책을 보면 딥시크는 AI 모델 학습을 위해 사용자의 이름과 생년월일, 이메일은 물론이고 인터넷 IP 주소와 키보드 입력 패턴, 심지어 채팅 기록과 파일까지도 수집한다고 돼 있다. 그리고 이 정보는 중국에 있는 서버로 전송된다. 이렇게 수집된 정보가 얼마나 광범위하게 쓰일지 모를 일이다. 그야말로 중국판 블랙 미러가 우려되는 대목이다. AI 모델이 더 구체적이고 더 많은 정보를 학습할수록 더욱 정교한 결과를 내놓을 수 있다는 점에서 앞으로 데이터 확보를 위한 치열한 전쟁이 펼쳐질 것이라고 AI 업계는 보고 있다. 동시에 데이터 주권을 놓고 여러 가지 쟁점이 불거질 것으로 봤다. 미국에서는 뉴욕타임스와 주요 일간지가 오픈AI와 마이크로소프트(MS)를 상대로 자사 기사를 AI 학습에 무단 사용했다며 각각 저작권 침해 소송을 낸 상태다. 국내 AI 업계에선 글로벌 빅테크 기업들이 국내 뉴스 콘텐츠도 AI 학습에 무단으로 사용했으리라 보고 있다. 최근에는 국내 지상파 방송 3사도 네이버가 생성형 AI인 하이퍼클로바와 하이퍼클로바X를 학습시키는 데 방송사 기사를 무단으로 활용했다며 지난달 소송을 제기했다. 소송 결과에 따라 데이터 사용의 범위가 크게 달라질 전망이다. 더 늦기 전에 데이터 통제와 보호가 어디까지 이뤄져야 할지 정부 차원의 ‘데이터 주권’ 정립이 필요한 시점이다. 신융아 산업부 기자

‘민주화의 성지’ 광주 금남로에서 열린 윤석열 대통령 탄핵 반대 집회에 1만명(주최 측 신고)이 집결한 것을 두고 16일 여야의 평가가 극명하게 갈렸다. 이재명 더불어민주당 대표는 “재차 겁탈 살해당하는 모멸감”이라고 했고, 국민의힘은 “광주가 민주당 정치인의 독점적 소유물인가”라고 반박했다. 윤 대통령의 탄핵심판이 막바지에 이르면서 여야 모두 광장으로 달려가는 장외 여론전도 최고조에 달하고 있다. 민주당은 전날 금남로에서 열린 탄핵 반대 집회에 격앙된 분위기다. 이 대표는 16일 페이스북에 윤 대통령의 12·3 비상계엄에 대해 “계엄이 시행됐다면 납치, 고문, 살해가 일상인 코리안킬링필드가 열렸을 것”이라며 “5월 광주처럼 대한민국 전역이 피바다가 됐을 것”이라고 주장했다. 킬링필드는 1970년대 캄보디아에서 벌어진 ‘크메르루주’의 대학살로 170만명의 주민이 희생된 사건이다. 이 대표는 특히 “전두환의 불법계엄으로 계엄군 총칼에 수천명이 죽고 다친 광주로 찾아가 불법계엄 옹호 시위를 벌이는 그들이 과연 사람인가”라며 “억울하게 죽임당한 피해자 상갓집에서 살인자를 옹호하며 행패 부리는 악마와 다를 게 무엇인가”라고 비판했다. 또 “한달음에 저도 광주로 달려가고 싶었을 만큼 불안했지만 광주는 달랐다. 경의를 표한다”고 했다. 박찬대 민주당 원내대표는 전날 페이스북에 “극우세력들이 민주화의 성지 광주에서 대규모 집회를 열고 민주주의와 헌정질서를 모독하고 있다”고 썼다. 김경수 전 경남지사는 “탄핵 반대 세력들이 광주 금남로를 찾아 ‘5·18 광주 정신’을 짓밟은 것은 도저히 용납할 수 없는 일”이라고 했다. 국민의힘은 민주당의 반응을 “광주 정신 사유화”라고 비판하며 금남로에서 역대 최대 규모의 보수 성향 집회가 열린 것을 재평가해야 한다고 반박했다. 권성동 국민의힘 원내대표는 국회 기자간담회에서 “탄핵 반대 집회 자체를 비판할 수는 있어도 광주는 안 된다는 발상은 지역주의와 편가르기 조장이자 반민주적”이라고 했다. 권 원내대표는 특히 “이 대표의 논리라면 광주 민주화운동만 중요하고 부산이나 대구는 중요하지 않다는 것인가”라고 반문했다. 신동욱 국민의힘 수석대변인은 “광주와 민주주의 그리고 ‘광주 정신’이 오로지 민주당 정치인들의 독점적 소유물인가”라며 “광주는 모든 국민들의 광주다. 반헌법적·반민주적 망동을 자행하며 ‘진정한 광주 정신’을 모욕한 일부 민주당 정치인들은 국민과 광주 시민에게 사죄해야 할 것”이라고 했다. 유승민 전 의원도 “일어나지 않은 일을 기정 사실화하는 ‘공포 마케팅’에 열을 올리는 일이 과연 공당의 대표가 할 일인가”라고 비판했다. 홍준표 대구시장은 “80년대 이후 광주에서 수만명의 군중이 모인 보수단체 집회가 금남로에서 개최된 것은 이번이 처음”이라며 “그만큼 빛고을 광주가 변하고 있다는 것”이라고 했다. 나경원 국민의힘 의원은 “많은 국민들이 민주당 장기 집권하의 광주가 왜 이리 낙후됐느냐며 민주당의 위선을 책망한다”고 했다. 호남 출신으로 대통령실 미래기획비서관을 지낸 장성민 전 의원은 “금남로 민심은 이 대표 대선 불출마 요구”라고 주장했다. 이준석 개혁신당 의원은 ‘킬링필드’를 거론한 이 대표를 향해 “광주의 비극적 역사는 우리가 숙연하게 받아들이고 기억해야 할 중요한 사건이며, 이를 정치적 목적으로 활용하는 것은 바람직하지 않다”며 “김대중 대통령은 5·18 민주화운동으로 인해 정치적 고난을 겪었지만 그 아픔을 자신의 정치 여정에 작위적으로 활용하지 않았다”고 지적했다. 한편 대통령실은 금남로 탄핵 찬성 집회에서 윤 대통령 부부의 얼굴을 합성한 딥페이크 영상이 재생된 데 대해 “국가원수에 대한 명백한 모독”이라며 유감을 표했다. 국민의힘 미디어특위는 17일 딥페이크 음란물로 이를 고발하기로 했다.

대통령실이 16일 ‘윤석열 대통령 탄핵 찬성 집회’에 윤 대통령 부부 얼굴을 합성한 딥페이크 영상이 재생된 데 대해 “영상 제작 및 유포 관련자들에게는 강력한 법적 대응을 포함한 모든 조치를 취할 것”이라고 밝혔다. 대통령실은 이날 공지를 통해 “어제(15일) 광주 5·18 민주광장에서 열린 대통령 탄핵 찬성 집회에서 대통령 부부 얼굴을 합성한 딥페이크 영상이 재생됐다”고 밝혔다. 그러면서 “현직 대통령 부부를 향한 조롱을 넘어선 심각한 인격 모독과 인권 침해”라고 덧붙였다. 대통령실은 “딥페이크를 이용한 범죄 행위에 분노를 금할 길이 없다”고 강조하며 해당 딥페이크 영상을 제작한 자, 집회 현장에서 재생한 자, 이를 현장에서 방관한 자 모두에게 강력한 유감을 표한다고 했다. 전날 5·18 민주광장에서 열린 탄핵 찬성 집회 현장에서 재생된 3분 20초 분량의 해당 딥페이크 영상에는 수영복을 입은 윤 대통령과 김건희 여사가 나오는 것으로 알려졌다.

경찰청이 국제형사경찰기구(인터폴) 국가중앙사무국 국장 회의에 참석해 딥페이크(허위 영상물) 범죄에 대한 국제 공조를 촉구했다. 인터폴 국장 회의는 인터폴 사무총국과 회원국이 주요 범죄에 대한 국제공조 방안을 논의하는 고위급 협의체다. 프랑스 리옹에서 열린 회의에서 이준형 경찰청 국제협력관은 딥페이크 성범죄 확산과 피해 심각성, 국내 법·제도적 대응 현황 등을 설명하고 인터폴 차원의 공동 대응을 요구했다. 경찰은 지난해 허위 영상물 성범죄 사건 1202건을 접수해 682명을 검거하고 이 중 40명을 구속했다. 피의자 중 10대가 548명(80.3%)으로 대다수였고, 10세 이상 14세 미만인 촉법소년도 104명이나 됐다. 촉법소년은 범죄를 저질러도 형사 처벌 대신 가정법원 등에서 사회봉사나 소년원 송치 등 보호 처분을 받는다.

청원인 “여성혐오 범죄 가해 대부분 남성…개인이 남성 교화시키는 건 한계 도달” 주장호주 사례 들며 “국가 단위 지원 필요” 강조 여성혐오 범죄에 대한 해결 방안이 필요하다는 취지로 ‘남성 행동 변화 비서’ 신설을 요구하는 국회 국민동의 청원이 5만명 이상의 동의를 얻어 청원 성립 요건을 채웠다. 13일 국회전자청원 홈페이지를 보면 청원인 김모씨가 올린 ‘남성행동 변화 역할을 하는 비서 신설에 관한 청원’은 지난달 14일부터 동의 마감일인 이날까지 국민 5만 2000여명의 동의를 얻었다. 김씨는 청원 취지에서 “여성혐오 범죄의 가해자 대부분이 남성임을 인지하고, 여성을 향한 범죄가 여성혐오 범죄임을 인정하는 국민적 합의에 다다른 이 순간에 새로운 움직임이 필요하다”고 주장했다. 이어 “이를 해결하기 위해 남성의 행동을 교정 혹은 변화시킬 방법으로 새로운 공직 자리를 선별해 비서 단위의 강력한 역할이 필요하다고 사료된다”고 덧붙였다. 김씨는 보다 구체적인 청원 내용에 “최근 호주에서 여성에 대한 폭력을 줄이기 위해 ‘남성 행동 변화 비서’라는 새로운 공직이 신설됐다”면서 “호주는 성평등을 지향하는 국가임에도 여성 4명 중 1명이 가까운 사이의 남성들에게 폭력을 당한다고 한다. 그리고 여성에 대한 폭력이 한 해 전보다 28% 늘어났다고 한다. 이런 위기 속에 시민들이 시위를 했고 그에 부응해 정부가 비서를 신설했다”고 설명했다. 김씨는 그러면서 최근 국내에서 벌어진 남성 범죄자의 여성 살해 사건, 여성 신체에 대한 불법촬영, 조직화된 딥페이크 범죄 등 사례를 열거한 뒤 “개개인의 여성들이 남성을 교화시키거나 비판해서 사회가 바뀌는 것엔 한계에 도달했다”고 주장했다. 김씨는 “남성 행동 변화를 개인의 역할로만 치부하기엔 여성의 현실이 너무 가혹하고 위험한 상태”라며 “그래서 국가 단위의 조직체계가 만들어져 지원이 필요하다”고 거듭 강조했다. 국민동의청원은 30일 이내에 5만명 이상 동의를 충족하면 소관 상임위에 회부된다.

서울 성동구가 청소년 성 상담 전문기관인 성동청소년성상담센터 ‘마음 봄’을 운영해 청소년들의 올바른 성 가치관 정립과 건강한 성문화 조성을 위해 각별한 노력을 기울이고 있다고 10일 밝혔다. 한국여성정책연구원의 연구(또래문화를 통해 본 청소년의 성평등 의식과 태도 연구, 2020)에 따르면, 평소 성적 호기심을 해소하는 경로는 남녀 청소년 모두 포털사이트 검색(각각 29.4%, 24.7%)이 가장 많은 것으로 나타났다. 디지털 매체를 통한 정보 습득은 성 관련 정보가 무분별하게 노출돼 성에 대해 부정확한 정보를 접하게 될 가능성이 높다. 이에 구는 지난 2023년 성동청소년성상담센터 ‘마음봄(왕십리로8길 6)’을 개소했다. 주제별, 연령별로 체계적이고 다양한 성교육 프로그램을 제공하고 청소년기의 성 고민과 호기심에 대해 전문적인 상담으로 실질적으로 도움을 주고 있다고 구는 전했다. 관내 청소년과 학부모가 부담 없이 이용할 수 있도록 무료 혹은 저렴한 비용으로 상담 및 교육 서비스를 제공한다. 하교 후에도 이용할 수 있도록 매주 화요일부터 토요일 오전 11시부터 오후 8시까지 운영(오후 1시 ~ 2시 점심시간 미운영)하고 있다. 대면상담이 부담스러운 청소년들을 위해 전화, 카카오톡 상담(성동청소년성상담센터-마음봄 채널 검색)도 운영 중이다. 청소년 성 관련 전문가가 ▲맞춤형 성 상담(상시 운영)소규모 그룹 성교육 ▲찾아가는 성교육 ▲여름·겨울방학 성교육 특강 ▲딥페이크 등 사회적 이슈에 맞춘 특강 ▲성인 대상 성(性)수다회 동아리 운영 등 다양한 사업을 진행하고 있다. 그중 소규모 맞춤형 성교육과 학교 및 청소년 기관, 공동주택 커뮤니티센터 등으로 찾아가서 진행하는 현장 중심의 성교육은 참여자들의 만족도가 특히 높다고 구는 전했다. 성동청소년성상담센터 ‘마음 봄’ 개소 이후 성 상담 건수는 2023년 129건(279명)에서 2024년 318건(383명)으로 약 2.5배 증가했다. 성교육 건수는 2023년 114회(1848명)에서 2024년 198회(2976명)로 약 1.7배 늘었다. 성교육을 받은 후 상황에 따라 맞춤형 개별상담까지 연계 진행한 것이 학부모와 청소년들의 큰 호응을 얻게 된 것이란 분석이다. 올해는 그동안의 청소년 성 상담 사례를 담은 주제별 사례집을 발간할 예정이다. 또한 성 상담을 받은 청소년들에게 지속적이고 안정적인 사후관리 서비스와 학부모 대상 교육, 컨설팅을 강화해 청소년의 성 문제에 대한 대응능력을 높일 방침이다. 정원오 성동구청장은 “청소년성상담센터 ‘마음 봄’을 통해 청소년들이 성에 대한 다양한 고민과 갈등을 해결하고 올바른 성 가치관을 형성할 수 있기를 바란다”며 “앞으로도 관내 청소년들이 몸과 마음이 건강한 사회구성원으로 바르게 성장할 수 있도록 다양한 지원과 노력을 아끼지 않을 것”이라고 말했다.

텔레그램을 이용해 성착취 범행을 일삼은 이른바 ‘자경단’을 검거한 경찰이 특진했다. 경찰청은 10일 특별승진 임용식을 열고 서울경찰청 사이버수사과 강길병 경위를 경감으로, 손새결 경사를 경위로 임용했다고 밝혔다. 두 특진 대상자를 비롯한 경찰은 텔레그램에서 성착취 범죄조직 ‘자경단’을 운영한 총책 ‘목사’ 김녹완과 조직원 등 54명을 검거했다. 김녹완 등은 2020년부터 지난달까지 남녀 234명(미성년 159명)을 협박하면서 아동·청소년 성착취물 제작·유포나 성폭력 등 각종 성착취 범죄를 저지른 혐의를 받는다. 경찰 조사 결과, 자경단이 제작한 성착취물은 1546건으로 파악됐다. 피해자 규모는 박사방 사건(74명)의 3배가 넘는다. 우리나라 수사기관으로는 처음으로 국제 공조를 통해 텔레그램으로부터 범죄 자료를 회신 받기도 했다. 전국 경찰서에서 개별적으로 수사하던 사건들을 조직적인 범죄로 판단한 경찰은 사건을 병합하고 잠입·위장수사 등을 진행했고 텔레그램에 대한 압수수색 영장도 발부받았다. 경찰청은 “역대 최대 피해 규모의 사이버 성착취 조직을 검거했다”면서 “적극적인 국제공조를 통해 텔레그램 등 보안메신저를 활용한 범죄도 검거된다는 인식을 각인시켰다”고 특진 배경을 설명했다. 경찰은 자경단에게 지인의 딥페이크 등 허위 영상물을 제작해 제공한 혐의 등으로 33명을 추적 중이다.

한국편집기자협회(회장 김창환)가 2024년 한 해 지면과 온라인을 뜨겁게 달궜던 이슈를 엄선한 ‘2025 기자가 본 100대 뉴스’(이하 100대 뉴스)를 발간했다. 100대 뉴스는 전국 53개 언론사 1000여명의 편집기자들이 직접 목록 선정과 집필까지 참여해 완성한 역사 자료집이다. 이번 100대 뉴스에는 비상 계엄, 한강 작가의 노벨문학상 수상, 딥페이크 음란물 공포까지 굵직한 이슈들이 담겼다. 100대 뉴스는 시중 온·오프라인 서점에서 만나 볼 수 있다.

경찰이 역대 최대 규모의 텔레그램 성착취방인 ‘목사방’ 총책의 신상을 공개했다. 33세 김녹완이다. 서울경찰청은 8일 오전 9시 청소년성보호법상 강간 등 19개 혐의를 받는 총책 김녹완(33)의 신상정보를 공개했다. 경찰은 중대범죄신상공개법 제4조에 따라 서울경찰청 홈페이지 ‘공지사항’에 김녹완의 이름과 나이, 얼굴을 다음 달 10일까지 30일 동안 공개한다고 전날 밝혔다. 앞서 서울경찰청 사이버수사대는 지난달 22일 김녹완에 대한 신상정보공개 심의위원회를 열고 공개를 결정했다. 범행 수단의 잔인성과 피해의 중대성, 충분한 증거, 공공의 이익 등을 고려한 것으로 파악됐다. 김녹완은 결정 하루 뒤인 지난달 23일 신상정보 공개 집행정지 가처분 신청을 냈고, 본안소송인 신상정보 공개 처분 취소 청구 행정소송도 제기해 공개가 보류됐다. 하지만 법원이 받아들이지 않으면서 김녹완은 올해 첫 신상정보 공개 피의자가 됐다. 서울행정법원 행정7부(부장 이주영)는 김녹완이 서울경찰청장을 상대로 제기한 신상정보 공개 집행정지 가처분 신청을 지난 6일 기각했다. 김녹완은 전날 항고했다. 그는 가처분을 심리한 서울행정법원 행정7부(부장판사 이주영)에 항고장을 제출했다. 다만 행정소송법 제23조 5항에 따라 항고해도 경찰의 신상공개를 정지할 수 있는 효력이 없기 때문에 공개는 그대로 진행됐다. 김녹완은 지난 2020년 5월부터 올해 1월까지 텔레그램 ‘자경단’이라는 피라미드형 사이버 성폭력 범죄집단을 만든 뒤 5년간 피해자 234명을 상대로 가학적 성착취를 한 혐의를 받는다. 경찰은 텔레그램의 협조로 범죄집단 ‘자경단’ 총책 김녹완 등 조직원 14명을 검거했고, 지난달 24일 김녹완을 서울중앙지검에 구속 송치했다. 이번 사건 피해자 규모는 조주빈이 운영한 텔레그램 n번방 ‘박사방(73명)’과 ‘서울대 n번방(48명)’의 3배 이상이다. 김녹완은 소셜미디어(SNS)를 통해 대상을 물색한 뒤 텔레그램으로 유인해 약점을 잡아 협박하는 방식으로 범행했다. 지인 딥페이크 합성물에 관심을 보인 남성들에게 접근해 신상정보를 확보한 뒤 돌변해 유포 또는 수사기관 고발하겠다며 협박했다. 여성 피해자들 역시 텔레그램으로 유인해 신상정보를 유포하겠다며 협박하는 방식을 썼다. 김녹완은 피해자를 조직원으로 포섭하고, 조직원이 또 다른 피해자를 끌어들이는 피라미드 시스템을 구축했다. 자신을 목사라 칭하며 절대적 복종을 위해 ‘1시간마다 일상 보고’, ‘반성문 작성’ 등 수단을 동원했다. 해당 지시를 어기면 벌을 준다는 명목으로 나체 촬영, 자해 등 가학적 행위를 요구했다. 특히 여성 피해자들에겐 남성과 성관계를 해야만 지배 상태에서 벗어날 수 있다며, 전국을 돌며 미성년자 여성 10명을 상대로 강간하고, 이를 촬영하는 범행을 저질렀다. 자신의 지시를 따르지 않는다며 조직원끼리 유사강간 등 성적 학대를 강제했다. 김녹완이 참여한 텔레그램 채널 및 대화방은 총 453개에 달했다. 60개는 직접 운영했다.

그룹 애프터스쿨 출신 배우 유이(본명 김유진·37)가 데뷔 초 악의적인 합성사진 때문에 트라우마를 겪었다고 토로했다. 유이는 지난 6일 유튜브 채널 ‘피디씨 by PDC’ 영상에 출연해 2009년 애프터스쿨 멤버로 합류하며 연예계에 첫발을 들였던 시절에 마주한 자신을 겨냥한 악성 루머에 대해 언급했다. 유이는 연예인인 자신을 알아보는 사람들이 많은 장소에 가면 힘들게 느껴졌던 시절이 있었다면서 “20대 때는 지금 생각하면 ‘왜 그랬을까’ 생각할 정도로 마스크 쓰고 얼굴 가리고 가족과 함께 식사할 때도 빨리 먹고 (고개 숙인 채) 앉아 있던 시절이 있었다”고 회상한 뒤 당시 상처로 남은 기억 하나를 꺼냈다. 유이는 “당시 (포털 사이트 뉴스 헤드라인에) ‘걸그룹 A양 야한 동영상이 떴다’는 식의 기사가 나왔다. 아직도 안 잊힌다”며 “그때 대표님께 너무 감사하다. 이 어린 친구가 상처받지 않게 어떻게든 돌려 말하고 싶으셔서 ‘유이야 난 널 믿어. 이런 영상이나 사진에 안 찍혔을 거라고 믿지만 지금 소문이 다 널 가리키고 있어. 그러니까 사진을 보고 솔직하게 얘기해줘’라고 하시더라”고 했다. 이어 “21살 때였다. 바쁘게 활동하고 있는데 갑자기 사무실로 불려 가니까 되게 무서웠다. 딱 보니 누가 봐도 합성이었다”면서 “싸구려 모텔 같은 곳에 제 얼굴만 있는 합성인데, 데뷔한 지 3개월도 안 됐을 때 그런 일이 벌어지니까 인생에서 큰 상처를 받았다. 그게 저한테는 되게 힘든 트라우마였다”고 털어놨다. 유이는 “당연히 합성사진이라는 게 밝혀졌다. 지금의 나라면 ‘저 아니에요’ 하고 쿨하게 넘겼을 텐데 그땐 너무 옛날이고 어렸다. 애프터스쿨과 회사에 피해를 주는 것 같았다”며 “그런 일들 때문에 그땐 카메라 소리만 나도 ‘나 찍는 거 아니야?’라는 생각을 했다”고 말했다. 그러면서 “지금은 어딜 가든 알아봐 주시는 게 감사하다. 저를 존중해주시는 분들이 많아졌다”며 “‘유이도 친구랑 밥을 먹으러 왔구나’, ‘여기서 촬영하는구나’라며 저를 알아봐 주시고 사인이나 사진을 요청하는 게 감사한 일이라고 느끼는 데뷔 16년차다”라고 했다. 한편 여성 연예인을 대상으로 한 악의적인 사진 합성은 인공지능(AI) 기술이 발전하면서 딥페이크 범죄로 정교해지고 있다. 국민권익위원회가 발표한 범정부 민원분석시스템 조사 결과에 따르면 지난해 1월부터 10월까지 월평균 50건의 딥페이크 성범죄 관련 민원이 접수됐다. 전년 월평균 30건에서 약 1.7배 증가했다. 특히 한국은 전 세계에서 딥페이크 성범죄 피해를 가장 많이 당하는 국가로 알려져 있다. 미국 사이버보안 업체 ‘시큐리티 히어로’의 2023년 보고서에 따르면 전 세계 딥페이크 성착취물 피해자의 53%가 한국인이었다. 가장 큰 피해를 입은 것은 K팝 아이돌 등 한국인 가수다. 한국인 가수는 약 1600건의 딥페이크 성착취물에 노출됐으며 누적 조회수는 561만건에 달했다. 이같은 상황에서 그룹 트와이스의 소속사 JYP엔터테인먼트는 지난해 8월 불법 영상물 범죄와의 전쟁을 선포하기도 했다. 당시 JYP는 “당사 아티스트를 대상으로 한 딥페이크 영상물이 확산 중이다. 매우 심각하게 받아들이고 있다. 명백한 불법행위”라면서 “전문 법무법인과 함께 선처 없는 강력한 법적 대응을 진행 중”이라고 밝혔다. 최근에는 그룹 아이브의 안티팬이 만든 것으로 추정되는 딥페이크 사진이 소속사 공식 소셜미디어(SNS)에 올라와 논란이 되는 사건도 있었다. 아이브 소속사 스타쉽엔터테인먼트는 지난달 15일 “중국 SNS를 담당하는 당사 직원의 중대한 과실로 인해 큰 마음의 상처를 받았을 소속 아티스트 안유진과 팬여러분에게 진심으로 머리숙여 사과드린다”며 “해당 직원에 대해 가장 높은 수위의 중징계 조치를 취했고, 관련 업무에서 배제했다. 앞으로 이러한 불미스러운 일이 다시는 발생하지 않도록 내부 관리체계를 철저하게 정비하겠다”고 약속했다.