‘딥페이크’ 기술을 악용한 불법합성물 성범죄가 텔레그램 대화방을 통해 대학은 물론 중·고교까지 확산한 가운데, 이른바 ‘피해 지역·학교 목록’이 공유되면서 파장이 일고 있다. 실제 피해 사실 및 규모가 경찰 수사를 통해 파악된 것은 아니지만, “내 사진도 ‘음란물’이 돼 온라인을 떠돌 수 있다”는 공포에 여학생들과 학부모들이 불안에 떨고 있다. 26일 온라인 커뮤니티에 따르면, 엑스(옛 트위터)의 한 계정에 불법합성물 성범죄 피해자에 대한 제보가 잇따르고 있다. 이 계정은 ‘XX대(대학)방’, ‘XX고 능욕방’ 등 각 지역 및 학교 이름을 앞세워 개설된 텔레그램 대화방 목록을 제보받아 올리고 있다. ‘능욕’이란 불법합성을 뜻하는 은어로 ‘지능방’(지인능욕방)은 지인의 얼굴 사진으로 불법 합성물을 만들어 주고받는 채팅방을 가리킨다. “XX고 08(년생)” “XX중 OOO 아는 분 사진 좀” 등 특정 학교의 여학생을 지목해 사진을 공유한 정황이 담긴 대화 내역도 공개돼 있다. 특정 여학생의 사진을 공유하며 이른바 ‘얼평’(외모 평가)을 하거나 여성 비하적 발언 및 성희롱을 한 대화 내역도 있다. 이 계정에 공유된 피해 학교 목록과 대화 내역은 네티즌들이 텔레그램 대화방에 잠입해 파악한 것으로 알려졌다. 실제 경찰 수사를 통해 확인됐는지 여부는 알려지지 않았으나, 일부 학교에서는 학생회 등이 “우리 학교에 피해자가 있다”며 주의를 당부하는 사례가 잇따르고 있다. 서울의 한 고등학교는 학생회가 공지를 통해 “텔레그램을 통해 우리 학교 학생들의 신상과 합성 사진들이 유포되고 있다”면서 “소셜미디어(SNS)에 업로드한 개인 사진들을 내려 피해를 예방해달라”고 당부했다. 포항의 한 고등학교도 SNS의 ‘대신 전해드립니다’ 계정을 통해 “우리 계정에도 누군가 영상을 보냈다 지웠다 반복한 일이 있었다”면서 “피해를 입었다면 주저말고 부모님과 선생님께 알려 해결하라”고 당부했다. ‘피해학교 목록’이 확산되자 여학생들과 학부모들은 “나와 내 아이도 피해자가 될 수 있다”는 공포에 빠졌다. 이 목록은 사실상 전국 각지의 중·고교를 포함하고 있어, 피해자 또는 가해자가 없는 학교가 거의 없는 셈이기 때문이다. 인천에 사는 한 중학생은 “우리 학교도 목록에 있어서 내 인스타그램 본계정은 물론 부계정도 다 지웠다”면서 “친구들과 밤새 메신저로 대화했는데 다들 불안해했다”고 토로했다. 경기도 파주시에 사는 한 중학생 학부모 A씨는 “목록을 보니 아이의 학교는 물론 주변 학교가 다 있다”면서 “아는 학부모들에게 목록을 보내고 아이에게 SNS에 올린 사진을 다 내리고 계정을 비공개로 돌리라고 했다”고 말했다. ‘서울대 n번방’ 사건에 이어 인하대의 한 동아리 여학생들이 1200명이 참여한 텔레그램 대화방에서 불법 합성물 성범죄 피해를 당하는 등, 딥페이크 성범죄는 대학가는 물론 중·고교까지 확산하고 있다. 방송통신심의위원회는 불법 합성물에 대해 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사의뢰하기로 했다.

UDT(해군 특수전전단) 출신 방송인 덱스가 자신을 사칭 광고에 대한 주의를 당부했다. 지난 23일 소속사 킥더허들 스튜디오는 공식 인스타그램을 통해 “최근 소속 아티스트 덱스를 사칭해 딥페이크, 인공지능(AI) 등의 기술이 접목된 불법 도박 게임 광고가 온라인 커뮤니티 및 유튜브, 소셜미디어(SNS) 등을 통해 무분별하게 유포되고 있다”고 밝혔다. 이어 “덱스는 불법 도박 게임 APP(앱) 등의 광고를 진행한 적이 없으며, 해당 광고는 덱스가 출연했던 영상들을 기반으로 만들어진 가짜 영상이다”고 했다. 그러면서 “이러한 불법 가짜 광고 영상을 발견 즉시 신고해 주시길 바라며, 불법 광고로 인한 피해가 발생하지 않도록 각별한 주의를 부탁드린다”고 했다. 소속사는 “아티스트의 권익 보호를 위해 최선을 다할 것”이라며 지속적인 모니터링을 통해 강력히 대응할 방침이라고 했다. 한편 덱스는 지난해 MBC TV ‘태어난 김에 세계 일주 시즌3’, 웨이브 서바이벌 ‘피의 게임’, MBC에브리원 ‘나는 지금 화가 나 있어’ 등에서 활약했다. 지난해 12월 열린 ‘2023 MBC 방송연예대상’에서 MBC 아나운서 김대호와 함께 신인상을 받았다. 현재 tvN ‘언니네 산지직송’ 등에서 활약 중이다.

최근 인하대에서 여학생 사진을 음란물과 합성해 유포한 ‘딥페이크 성착취물’ 사건이 발생한 가운데 딥페이크 기술을 이용한 10대 범죄가 급증한 것으로 나타났다. 청소년들이 심각한 사회적 범죄를 대수롭지 않게 생각하면 안 된다는 점에서 관련 교육이 시급하다는 지적이 나온다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가세다. 2020년 6월 성폭력 범죄의 처벌 등에 관한 특례법 개정안이 시행됐고 불법 합성물 제작·유포에 대한 처벌 근거가 마련됐다. 허위 영상물 범죄 피의자를 연령별로 살펴보면 10대에 집중돼 있다. 지난해 기준 허위 영상물 범죄 피의자 120명 가운데 10대는 91명(75.8%)으로 4명 중 3명꼴이었다. 이어 20대는 24명(20.0%), 30대 4명(3.3%), 60대 1명(0.8%) 순이었다. 전체 피의자 중 10대가 차지하는 비중도 2021년 65.3%, 2022년 61.0%에서 지난해 75.8%로 크게 늘었다. 딥페이크 기술은 신종 학교폭력 등으로도 악용되고 있다. 부산시교육청과 경찰 등에 따르면 부산의 한 중학교 학생 4명은 같은 학교 학생 등 18명, 교사 2명의 얼굴을 인공지능(AI)을 활용해 음란물과 합성한 사진 80여장을 만들어 공유했다. 이에 관할 교육지원청은 최근 이 학생들에 대한 학교폭력심의위원회(학폭위)를 열었다. 청소년들은 소셜미디어(SNS)와 애플리케이션(앱) 등을 통해 딥페이크 기술을 쉽게 익힐 수 있으며 제작 의뢰도 어렵지 않다. 더 심각한 문제는 이를 자주 접하면서 딥페이크 음란물이 피해자에게 큰 타격을 입히는 범죄라는 인식이 옅어질 수 있다는 점이다. 조 의원은 “관련 범죄가 더 기승을 부릴 수 있는 만큼 제도적 보완책이 시급하다”고 했다. 전문가들은 10대들이 경각심을 갖도록 예방 교육을 강화해야 한다고 주문했다. 이수정 경기대 범죄심리학과 교수는 “연령이 어릴수록 ‘장난’이라고만 생각할 수 있다”며 “(딥페이크 음란물로) 처벌받는 중고등학생 시기보다 더 어릴 때부터 교육을 강화해야 한다”고 말했다. 그는 “딥페이크 기술은 코딩 수업 등을 통해서도 배울 수 있으므로 이 과정에서 윤리적·법적인 부분도 함께 다뤄야 한다”고 강조했다.

최근 인하대에서 여학생 사진을 음란물과 합성해 유포한 ‘딥페이크 성착취물’ 사건이 발생한 가운데, 딥페이크 기술을 이용한 10대 범죄가 급증한 것으로 나타났다. 청소년들이 심각한 사회적 범죄를 대수롭지 않게 생각해서는 안 된다는 점에서 관련 교육이 시급하다는 지적이 나온다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가세다. 2020년 6월에 성폭력범죄의 처벌 등에 관한 특례법 개정안이 시행됐고, 불법 합성물 제작·유포에 대한 처벌 근거가 마련됐다. 허위 영상물 범죄 피의자를 연령별로 살펴보면 10대에 집중돼 있다. 지난해 기준 허위 영상물 범죄 피의자 120명 중 10대는 91명(75.8%)으로 4명 중 3명꼴이었다. 이어 20대는 24명(20.0%), 30대 4명(3.3%), 60대 1명(0.8%) 순이었다. 전체 피의자 중 10대가 차지하는 비중도 2021년 65.3%, 2022년 61.0%에서 지난해 75.8%로 크게 늘었다. 딥페이크 기술은 신종 학폭(학교폭력) 등으로도 악용되고 있다. 부산시교육청과 경찰 등에 따르면 부산의 한 중학교 학생 4명은 인공지능(AI)으로 같은 학교 학생 등 18명 등의 얼굴과 음란 사진을 합성한 80여장을 만들어 공유했다. 이에 관할 교육지원청은 최근 이 학생들에 대한 학교폭력심의위원회(학폭위)를 열었다. 청소년들은 소셜미디어(SNS)와 애플리케이션(앱) 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고, 제작 의뢰도 어렵지 않다. 문제는 이를 자주 접하면서 딥페이크 음란물이 피해자에게 큰 타격을 입히는 범죄라는 인식이 옅어질 수 있다는 점이다. 조은희 의원은 “피해자에게 씻을 수 없는 상처를 주는 디지털 성범죄가 청소년층에서 마치 놀이처럼 퍼지고 있다”며 “앞으로 딥페이크 기술 발전으로 관련 범죄가 더욱 기승을 부릴 수 있는만큼 제도적 보완책이 시급하다”고 강조했다. 전문가들은 10대들이 경각심을 갖도록 예방 교육을 강화해야 한다고 했다. 이수정 경기대 범죄심리학과 교수는 “피해자는 돌이킬 수 없는 심각한 피해를 보는데 연령이 어릴수록 이런 본질을 상상하지 못하고 ‘장난’이라고만 생각할 수 있다”고 지적했다. 그는 “(딥페이크 음란물로) 처벌받는 중고등학생 시기보다 더 어릴 때부터 교육을 강화해야 한다”며 “딥페이크 기술은 코딩 수업 등을 통해서도 배울 수 있으므로 이 과정에서 윤리적·법적인 부분도 함께 다뤄야 한다”고 강조했다.

부산에서 중학생들이 인공지능(AI) 딥페이크 기술을 이용해 학생과 교사를 대상으로 음란물을 제작했다는 내용의 고소장이 접수돼 경찰이 수사에 나섰다. 21일 부산교육청 등에 따르면 최근 부산의 한 중학교 학생 4명에 대한 고소장이 경찰에 접수됐다. 이들은 지난 6월 AI를 활용해 같은 학교 학생 18명과 교사 2명의 얼굴을 신체 이미지에 합성한 사진을 제작해 카카오톡 단체채팅방을 통해 공유한 것으로 알려졌다. 이에 관할 교육지원청은 최근 이들 학생에 대한 학교폭력심의위원회(학폭위)를 열었다. 이를 통해 제1~9호 조치 중 학생 1명은 학급교체(7호)와 출석정지(6호) 조치를 받았고 나머지 3명의 학생에게는 출석정지 20일 처분이 내려졌다. 경찰은 정확한 사건 경위 등을 조사 중인 것으로 전해졌다. 최근 딥페이크를 이용해 동급생이나 교사의 사진을 합성해 불법 음란물을 제작·유포하는 범죄가 사회적 문제로 떠오르고 있다. 형사 처벌을 받을 수 있는 성폭력 범죄행위지만 청소년들 사이에서 딥페이크 기술을 악용한 신종 학교 폭력이 유행처럼 번지는 상황이다. 이와 관련해 경찰 관계자는 “불법 음란합성물의 제작·유포행위는 피해자들에게 돌이킬 수 없는 피해를 주는 중범죄다”며 “모든 피의자를 끝까지 추적해 엄중 처벌하겠다”고 전했다.

한국과학기술기획평가원이 최근 6년간 국가별 인공지능(AI) 연구자와 논문 수를 파악한 결과 한국의 논문 수는 전 세계 12위, 연구자 수는 9위였다. 연구자와 논문 수 모두 세계 최강국은 중국, 인도, 미국이었다. 정부는 불과 6년 뒤인 2030년에 AI 세계 3강으로 도약한다는 목표를 밝혔지만 이를 이루기엔 지금의 연구 경쟁력이 한참 빈약해 보인다. 국내 AI 연구자들의 열악한 연구 여건은 설문조사에서도 나타난다. 연구비가 충분하지 않다는 응답이 58.1%로 충분하다(18.3%)는 답변의 세 배를 웃돌았다. 딥러닝 학습 등을 위해 AI 분야에서 기본이 되는 고성능 그래픽처리장치(GPU) 같은 컴퓨팅 자원은 항상 모자란다는 아쉬움도 있었다. 반면 미국, 중국의 연구자들은 최근 논문 수가 급증하고 자금 조달이 활발한 연구 주제인 컴퓨터 비전, 딥페이크 등에서 가장 많은 논문을 낸 상위 500명 연구자 중 각각 31.8%, 24.2%를 차지하며 저만치 앞서가고 있었다. 한국의 이 분야 연구자는 고작 5명으로 세계 16위였다. AI 산업 육성을 위한 각국 정부의 움직임도 빨라지고 있다. 미국은 해외 AI 전문가와 학생들의 미국 체류와 활동을 촉진하는 다양한 정책을 내놓고 있다. 지금도 전 세계 최고 수준의 AI 인재 75%를 보유하고 있는데도 인재 확보에 박차를 가하고 있는 것이다. 중국은 미국과의 AI 경쟁을 겨냥, 올해 과학기술 예산을 지난해보다 10% 늘린 68조원으로 책정했다. 일본은 해외 AI 인재 유치를 위해 외국인 창업 규제를 풀고 GPU도 무상 지원한다. 세계 AI 3강 목표를 이루려면 먼저 AI 연구개발 시스템부터 개선해야 한다. AI기본법 제정은 물론 연구자들이 원하는 고성능 GPU 지원 등 국가 차원의 AI 공동활용 인프라를 구축해야 한다. 이공계 대학원생의 연구환경 조성과 의료계 등 인접학문과 산업분야의 협력모델 발굴도 필요하다. 다음달 출범하는 국가AI위원회가 AI와 관련한 국가 역량을 총결집하는 역할을 하기 바란다.

여학생들의 얼굴을 나체 사진에 합성하는 이른바 ‘딥페이크’ 사진을 대학생 단체 채팅방에서 공유한다는 신고가 접수돼 경찰이 수사 중이다. 19일 연합뉴스에 따르면 인천경찰청 사이버범죄수사대는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 텔레그램 단체 대화방 운영자 A씨 등을 수사하고 있다고 밝혔다. 경찰이 현재 파악한 피해자는 4명이다. 이 중 일부는 인하대 재학생인 것으로 알려졌다. 아직 피해 사실을 모르는 피해자들을 감안하면 피해 학생은 더욱 늘어날 것으로 보인다. 이들은 2020년부터 피해자 얼굴을 나체 사진에 합성한 딥페이크 사진을 텔레그램 단체 대화방에서 공유한 혐의 등을 받고 있다. 1000여명 넘게 참여한 단체 대화방에는 허위 성 영상물을 공유하고 있는 것으로 알려졌으며, 참가자들의 신원은 아직 확인되지 않았다. 대화방에서는 딥페이크를 통한 합성 사진 외에도 피해자 연락처 등 개인정보도 공유되면서 일부 피해자들이 협박을 받기도 했다. 지난해 피해자 신고를 받고 수사에 착수한 경찰은 지난 3월 피해 영상물을 재유포한 텔레그램 참가자 1명을 붙잡아 검찰에 구속 송치했다. 경찰 관계자는 “텔레그램은 추적하기가 어려워 주범인 A씨의 신원은 아직 확인하지 못했다”며 “구체적인 수사 상황은 밝히기 어렵다”고 전했다.

日 거짓 재난 예고글 넘쳐 수습 난항英 ‘살인자 무슬림’ 확산돼 극우 폭동 유언비어 퍼지며 전 세계 혼란 가중 머스크는 허위 글 공유하며 ‘부채질’“SNS 대기업에도 책임 있다” 비판도 소셜미디어(SNS)를 타고 순식간에 퍼지는 가짜뉴스는 혐오 감정을 자극하고 분열을 야기한다는 데 위험성이 컸다. 이제는 혐오의 바탕 위에서 광범위한 지역에 폭력을 부추기면서 국가 기반까지 흔들고 있다. “무슬림이 살인 사건 가해자”라는 가짜뉴스에 지난달 31일(현지시간)부터 일주일 이상 30개 도시에서 벌어진 영국 극우의 폭력 집회가 단적인 예다. 서남부 지방인 난카이 트로프(해구)에 대지진 발생 가능성이 높아진 일본에선 “대지진이 14일에 일어난다”는 가짜뉴스가 확산하면서 전역에 공포심이 번지고 있다. 지난 8일 미야자키현에서 규모 7.1의 지진이 발생한 후 엑스(X·옛 트위터)에는 “8월 10일이 지진 예정일”, “8월 14일에 난카이 트로프 발생” 등 특정 날짜를 명기해 대지진을 예고하는 글이 넘쳐 나고 있다. 지진이 발생하기 전에 나타나는 ‘지진운’이라는 특이한 구름 사진도 확산 중이다. 미야자키현 지진 이후 일본 정부는 규모 8~9의 난카이 해구 대지진 발생 가능성이 커졌다면서 처음으로 ‘난카이 트로프 지진 임시 정보’를 발령했는데 이와 관련된 가짜뉴스가 빠르게 번지고 있는 것이다. 일본에선 올해 첫날 노토반도 강진이 일었을 때도 2011년 동일본 대지진 당시 쓰나미 영상이 현재 일어나는 일인 듯 SNS에 퍼져 혼란을 키운 일도 있었다. 가짜뉴스가 야기한 공포감이 커지자 방재교육학 전공의 기무라 레오 효고현립대 교수는 12일 요미우리신문에 “냉정하게 받아들여 (유언비어) 확산에 가담하지 말아야 한다”고 조언했다. 유언비어의 온상이 된 엑스의 관리 책임자조차 정보 확인 없이 유포에 가담하고 있다. 엑스 소유주인 일론 머스크 테슬라 최고경영자(CEO)는 엑스에 민주당 대선 후보 카멀라 해리스의 선거 캠페인 홍보 영상을 교묘히 바꾼 딥페이크 영상을 공유했다가 비판받고 30분 만에 삭제했다. 해리스와 비슷한 목소리가 “조 바이든이 마침내 토론에서 자신의 노망을 드러냈다”고 말하는 영상이었다. 머스크는 지난 8일 키어 스타머 영국 총리가 극우 폭동에서 체포한 이들을 수용하기 위해 남미 포클랜드 제도에 ‘긴급 구금 캠프’ 건설을 고려하고 있다는 가짜뉴스를 공유했다가 급히 삭제하기도 했다. 가짜뉴스에 엑스 CEO도 속은 셈인데, 이 글은 이미 100만여명이 본 뒤였다. 유언비어가 사회 혼란은 물론 안보에까지 영향을 미치고 있다. 미국에서는 지난달 조 바이든 대통령이 대선 후보직에서 사퇴하자 바이든 사망설이 SNS에 확산하면서 미국 사회가 한때 큰 혼란을 겪기도 했다. 또 지난달에는 볼로디미르 젤렌스키 우크라이나 대통령의 부인 올레나 젤렌스카 여사가 450만 유로(약 67억원) 상당의 슈퍼카 ‘부가티 투르비옹’을 주문했다는 가짜뉴스를 친러시아 성향 인플루언서들이 SNS에 집중 유포하기도 했다. 가짜뉴스에 큰 혼란을 겪은 영국 정부는 온라인에서 무분별하게 퍼지는 가짜뉴스에 대응하기 위해 ‘합법적이지만 유해한’ 콘텐츠까지 제거하도록 압박할 수 있는 온라인안전법 개정을 추진하고 있다. 일본 정부도 SNS 기업 책임을 강화하기 위해 사업자 규제를 검토 중이다. 유언비어 게시물을 신속하게 삭제하도록 하는 것은 물론 광고 심사 기준도 강화할 계획이다. 각국 정부가 가짜뉴스 확산 방지를 위해 대책을 마련하고 있지만 SNS 발전 속도에 따라가지 못하는 뒤늦은 대응이라는 지적도 나온다.

전 세계 곳곳이 근거 없는 유언비어로 몸살을 앓고 있다. 과장된 우려를 넘어 사회 기반을 흔들 정도로 가짜뉴스가 확산하면서 각 정부가 주의를 환기하고 있지만 한 번 퍼지기 시작한 가짜뉴스를 막기 쉽지 않은 상황이다. 일본에서는 지난 8일 미야자키현에서 규모 7.1 지진이 발생한 후 특정 날짜를 명기하며 대형 지진이 발생할 것이라는 거짓 예고 글이 넘쳐나고 있다. 일본 정부는 지진 전문가들 분석 결과 당시 지진으로 난카이 해구에서 100~150년 간격으로 발생하는 규모 8~9의 ‘난카이 트로프(해구) 대지진’ 발생 가능성이 커졌다며 처음으로 ‘난카이 트로프 지진 임시 정보’를 발령했는데 이와 관련 유언비어가 확산하고 있는 것이다. 엑스(X·옛 트위터)에는 “8월 10일에 거대 지진이 온다”, “8월 14일에 난카이 트로프가 일어난다”는 글이 퍼졌고 많은 사람이 관련 글을 조회하기도 했다. 이뿐만 아니라 지진이 발생하기 전에 나타난다는 형태가 특이한 구름이라는 ‘지진운’ 사진도 확산하고 있다. 요미우리신문은 구글 트렌드를 분석한 결과 지진운 검색 사례가 미야자키현 지진 발생일인 8일부터 급증했다고 전했다. 일본에서 자연재해 때마다 유언비어가 퍼지면서 피해 수습도 어려운 가운데 사회 혼란마저 커지는 상황이다. 올해 첫날 노토반도 강진이 발생했을 때 2011년 동일본 대지진 당시 쓰나미 영상을 당시 피해 상황인 것처럼 꾸민 것이 소셜미디어(SNS)에 확산하기도 했다. 이보다 훨씬 전인 1923년 간토대지진 당시 “조선인이 우물에 독을 풀었다”라는 유언비어가 확산해 조선인 대량학살이 발생한 과거도 있다. 방재교육학 전공의 기무라 레오 효고현립대 교수는 12일 요미우리신문에 “냉정하게 받아들여 (유언비어) 확산에 가담하지 말아야 한다”고 조언했다. 이처럼 유언비어가 널리 확산하게 된 통로인 SNS에 대한 법적·윤리적 책임이 요구되고 있지만 정작 관리 책임자부터 정보 확인 없이 유포에만 앞장서고 있다. 엑스 소유주인 일론 머스크 테슬라 최고경영자(CEO)는 엑스에 민주당 대선후보 카멀라 해리스의 선거 캠페인 홍보 영상을 교묘히 바꾼 딥페이크 영상을 공유했다가 비판받고 30분 만에 삭제했다. 영상 속 해리스와 닮은 목소리는 “저, 카멀라 해리스가 민주당 대선 후보입니다. 조 바이든이 마침내 토론에서 자신의 노망을 드러냈기 때문입니다”라고 말한다. 이에 대해 해리스 캠프 대변인 미아 에렌버그는 성명을 통해 “우리는 미국 국민이 해리스 부통령이 제공하는 진정한 자유, 기회, 안보를 원한다고 믿는다”며 “일론 머스크와 도널드 트럼프의 가짜, 조작된 거짓말은 원하지 않는다”고 비판했다. 머스크 CEO의 무책임한 행동은 이뿐만이 아니다. 지난달 29일 영국은 북서부 사우스포트 댄스 교실에서 소녀 3명이 칼에 찔려 숨진 뒤 사건 피의자가 무슬림 망명 신청자라는 가짜뉴스가 퍼지며 극우 폭동이 촉발되자 키어 스타머 영국 총리가 “SNS 대기업에도 책임이 있다”고 비판했다. 그러자 머스크 CEO는 “영국 경찰의 대응이 일방적”이라고 책임을 돌리는 등 일을 더 키우기도 했다. 유언비어가 사회 혼란은 물론 안보까지 영향을 미치고 있다. 미국에서는 지난달 조 바이든 대통령이 대선 후보직에서 사퇴하자 바이든 사망설이 SNS에 확산하면서 미국 사회가 한때 큰 혼란을 겪기도 했다. 민주당 지지자들이 직접 나서 음모론에 반박하는 게시물을 전파하는 등 진화에 나섰다. 지난달에는 볼로디미르 젤렌스키 우크라이나 대통령의 부인 올레나 젤렌스카 여사가 450만 유로(67억원) 상당의 슈퍼카 ‘부가티 투르비옹’을 주문했다는 가짜뉴스를 친러시아 성향 인플루언서들이 SNS에 집중 유포하기도 했다. 부가티는 “그런 일이 없다”며 공식 성명을 발표했다. 유언비어 확산 방지를 위해 각국 정부가 대책을 마련하고 있지만 SNS 발전 속도에 발맞추지 못하는 뒤늦은 대응이라는 지적도 나온다. 영국 정부는 온라인에서 무분별하게 퍼지는 가짜뉴스에 대응하기 위해 ‘합법적이지만 유해한’ 콘텐츠까지 제거하도록 압박할 수 있는 온라인안전법 개정을 추진하고 있다. 소셜미디어 기업이 성적 학대, 테러와 같은 범죄 행위를 조장하는 콘텐츠를 삭제하기 위한 보호 조처를 충분히 하지 않을 경우, 규제 당국인 오프콤이 최고 1800만파운드(약 313억원) 또는 전 세계 매출의 10%까지 과징금을 물릴 수 있다. 현재 오프콤은 법률 시행을 위한 행정지침을 작업 중이며, 전면 시행은 내년부터 가능할 것으로 예상된다. 일본 정부는 SNS 기업 책임을 강화하기 위해 사업자 규제를 검토하고 있다. 유언비어 게시물을 신속하게 삭제하도록 하는 것은 물론 광고 심사 기준도 강화할 계획이다.

최근 딥페이크를 사용해 동급생의 사진을 합성해 불법 음란물을 제작·유포하는 범죄가 사회적 문제로 떠오르고 있다. 형사 처벌을 받을 수 있는 성폭력 범죄행위지만, 청소년들 사이에서 딥페이크 기술을 악용한 신종 학교 폭력이 유행처럼 번지고 있다. 이에 일부 지자체에선 스쿨 사이렌 ‘딥페이크 성범죄’ 경보를 발령하고 경찰은 강력 처벌을 예고하는 등 긴급 대응에 나섰다. 전북에서는 올해 초 전주시 한 중학교에선 남학생들이 같은 학교 동급 여학생과 교사 등 12명의 얼굴 사진을 다른 여성 나체 사진에 합성하고 유포한 혐의로 조사를 받았다. 이들은 SNS나 학급단체 사진 등에서 피해자들의 사진을 도용해 합성한 것으로 파악됐다. 또 군산의 한 초등학교에서도 한 학생이 다른 학생의 얼굴을 음란물에 합성했다는 신고가 접수돼 경찰이 수사를 벌이고 있고, 무주 한 중학교에서는 남학생들이 여학생들의 사진을 합성한 음란물을 만들어 친구들과 돌려 본 사실이 적발되기도 했다. 딥페이크를 이용한 청소년 성범죄는 전북만의 문제가 아니다. 전국적으로 성행하며 학교마다 문제가 되고 있다. 제주도에서도 한 국제학교 학생이 또래 여학생들을 상대로 성 착취물을 제작한 혐의로 검찰에 송치됐다. A 군의 범행은 피해 사실을 인지한 여학생들이 지난 5월 이를 교사에게 알리면서 사건이 드러났고, 경찰이 디지털 포렌식한 결과 피해자는 11명에 달하는 것으로 알려졌다. 부산에서는 딥페이크 기술로 또래 여학생들의 얼굴을 합성한 음란물을 제작·판매한 혐의를 받는 고등학생이 경찰 수사를 받고 있다. 이와 관련해 경북교육청과 경북경찰청은 지난달 29일 ‘스쿨 사이렌’ 제1호 경보를 발령하고 청소년들의 범죄 예방에 나섰다. 최근 딥페이크 기술을 이용한 성범죄가 증가함에 따라 학교와 사회의 유해 환경을 선제적으로 차단하고, 청소년들에게 범죄 예방 교육을 제공하겠다는 것이다. 경찰 역시 불법 음란합성물 제작·유포 범죄에 대해 강력 처벌을 예고했다. 경찰 관계자는 “불법 음란합성물의 제작·유포행위는 피해자들에게 돌이킬 수 없는 피해를 주는 중범죄다”며 “모든 피의자를 끝까지 추적해 엄중 처벌하겠다”고 말했다.

경남 진주에서 지인 등 여성 얼굴을 나체 사진에 합성한 일명 ‘딥페이크’ 피해 사례가 연이어 발생해 경찰이 수사에 나섰다. 경남경찰청은 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 20대 A씨를 불구속 입건했다고 29일 밝혔다.A씨는 인공지능을 활용한 인간 이미지 합성 기술인 딥페이크로 지인 여성 등 얼굴을 나체 사진에 합성한 혐의를 받는다. 경찰이 확인한 피해자만 5명이다. 딥페이크 사진은 수십장에 달한다. A씨는 사진을 제작한 것은 맞지만 유포하지는 않았다고 주장한 것으로 알려졌다. 경찰은 A씨 휴대전화를 디지털 포렌식 작업 등을 하는 등 정확한 사건 경위를 조사하고 있다. 지난달 17일에는 여자후배인 10대 피해자 얼굴을 나체 사진에 합성하고 나서, 이를 사회관계망서비스(SNS)에 유포한 혐의로 고등학생 B군이 경찰에 붙잡혔다. 그는 피해자가 직접 해당 사진을 올린 것처럼 하고자 SNS 계정을 새로 만들고 피해자 이름·학교명이 적힌 명찰을 올리기도 했다. 지난해 11월에는 진주지역 중학생 C군이 또래 여학생 사진을 음란물과 합성한 뒤 친구에게 판매했다가 적발돼 불구속 송치됐다. 방송통신심의위원회 설명을 보면, 딥페이크 피해 관련 자료 삭제 등 시정 요구 건수는 2020년 470여건에서 지난해 7100여건으로 늘어났다. 경찰 관계자는 “최근 딥페이크 범죄가 늘어 2차 피해를 호소하는 경우도 많다”며 “관련 법에 따라 엄정히 대응할 계획이다”고 말했다.

일론 머스크 테슬라·스페이스X CEO가 각국 지도자, 기업인 등 세계적인 인물들이 런웨이를 걷는 인공지능(AI) 영상을 공개해 화제다. 22일(현지시각) 머스크는 소셜미디어(SNS) 엑스(X·옛 트위터)에 딥페이크로 생성한 1분 23초짜리 패션쇼 영상을 게재하며 “AI 패션쇼를 선보일 최고의 시기”라고 썼다. 해당 영상은 1억4850만회가 넘는 조회수와 120만개의 좋아요를 기록했다.영상에는 가장 먼저 흰색 롱패딩을 입은 프란치스코 교황이 등장한다. 이어 무지개색 루이비통 드레스를 차려입은 블라디미르 푸틴 러시아 대통령, 선글라스를 쓰고 휠체어에 앉아 있는 조 바이든 미국 대통령이 잇따라 나온다. 일론 머스크 본인은 X가 새겨진 속옷 차림에서 이내 테슬라 로고가 새겨진 우주복을 입은 모습으로 변신했다. 도널드 트럼프 전 미국 대통령은 오렌지색 교도소 작업복을 입고 런웨이를 걷고, 김정은 북한 국무위원장은 ‘KIM’이 새겨진 후드 티셔츠와 금색 체인 목걸이를 착용한 모습으로 나타났다.시진핑 중국 국가주석은 붉은색 바탕에 노란색 곰이 그려진 옷을 입고 등장하는데, 이는 시 주석이 평소 싫어하는 것으로 알려진 ‘곰돌이 푸’ 캐릭터를 연상하는 모습이다.버락 오바마 전 미국 대통령은 일본 사무라이, 로마 전사, 미국 프로농구(NBA) 시카고 불스 유니폼 등 15가지의 복장을 소화했다.마지막 모델은 마이크로소프트(MS)사를 설립한 빌 게이츠다. 그는 양손에 ‘PC에 문제가 생겨 다시 시작해야 한다’는 문구가 적힌 모니터를 들고 등장했다. 최근 MS발 IT 대란을 풍자한 것으로 추정된다. 그 외에도 마크 저커버그 메타 CEO, 카멀라 해리스 부통령, 나렌드라 모디 인도 총리 등 총 20명의 저명인사가 등장한다.네티즌들은 “신선하고 재밌다”, “정치인들의 풍자적인 착장이 인상적이다” 등 해당 영상에 긍정적인 반응을 보였다. 하지만 일각에서는 딥페이크 기술에 대한 우려의 목소리도 나오고 있다. 딥페이크(Deepfake)는 인공지능 기술인 ‘딥러닝’(deep learning)과 가짜를 의미하는 ‘페이크’(fake)의 합성어다. 간단한 이미지와 텍스트 등으로 그럴듯한 음성이나 영상을 만들어낼 수 있다. 지난 1월에는 미국 뉴햄프셔주(州) 프라이머리를 앞두고 조 바이든 대통령을 사칭해 해당 경선에 불참할 것을 권하는 딥페이크 음성이 유포된 사건이 있었다. 미 연방통신위원회는 해당 음성을 제작한 정치 컨설턴트 스티브 크레이머에게 600만달러(약 82억원)의 벌금을 부과했다. 최근에는 방송통신심의위원회가 딥페이크를 이용한 ‘성적 허위 영상물’에 대한 시정요구가 매년 급증하고 있다고 발표하기도 했다. 전문가들은 정치, 성범죄 등에 악용될 수 있는 인공지능의 위험성에 대한 기준이 필요하다고 지적한다.

같은 반 친구를 성희롱하려고 인공지능을 기반으로 한 이미지 합성 기술인 딥페이크까지 동원하는 등 청소년들의 학교폭력이 심각한 수준인 것으로 나타났다. 22일 서울경찰청에 따르면 올 상반기 학교폭력 신고 건수는 1년 전보다 7.7% 증가한 4688건으로 집계됐다. 학교폭력 검거 건수도 같은 기간 30.2% 늘어난 1344건이다. 학교폭력 중 가장 큰 폭으로 증가한 유형은 성폭력·성희롱 신고다. 1년 전보다 2.6배 증가한 662건의 신고가 올 상반기 접수됐다. 강제 추행이 전체 성폭력·성희롱 신고의 55.9%를 차지했다. 강제 추행은 이성보다는 동성(51.9%), 여성보다는 남성(89.0%) 사이에 발생한 경우가 많았다. 지난 3월에는 한 초등학생이 볼일을 보는 동성 친구의 속옷을 내려 엉덩이가 드러나게 해 경찰에 검거되기도 했다. 성희롱의 경우 온라인상에서 발생하는 경우가 전체의 63.1%를 차지한 것으로 분석됐다. 특히 딥페이크를 이용해 성희롱당했다는 신고가 20건이나 됐다. 일면식 없는 학생의 얼굴을 다른 인물의 나체사진에 합성하고 신상정보를 온라인에 게재하는 방식이 대표적이다. 서울청이 적발한 청소년 범죄(14~18세)도 1년 전보다 1.3% 증가한 것으로 나타났다. 살인·강도 등 강력범죄는 22% 줄었지만, 도박은 7건에서 23건으로, 마약은 22건에서 35건으로 증가했다. 경찰은 여름방학 동안 폭행과 갈취 등 대면형 학교폭력보다 비대면형인 사이버 학교폭력이 늘어날 것으로 보고, 딥페이크 등 신종 청소년 성범죄에 관한 검거 사례와 적용 법조 등을 학부모와 학교에 전파할 예정이다.

지난해 스스로 콘텐츠를 만드는 생성형 인공지능(젠AI)의 등장은 누구보다도 영화계 종사자들에게는 경악과 공포로 다가왔다. 인간의 창의성이 요구되는 예술 분야는 아무리 과학기술이 발달해도 침투가 어려운 최후의 영역으로 여겨졌기 때문이다. 이미 쳇GPT 등장 이후 미국 할리우드 배우와 작가들이 63년 만에 장기간 파업을 벌였지만, 단 몇 분만에 원하는 영상을 별다른 비용 지불없이 제공하는 젠AI의 등장은 더 큰 충격이 됐을 법하다. 실제로 ‘다이하드’의 배우 브루스 윌리스의 허락도 없이 딥페이크 기술로 만든 러시아 광고와 ‘위대한 개츠비’를 패러디한 AI 영화 등이 연이어 나오면서 관련 산업 종사자들이 가슴을 쓸어내릴 만했다. 기계와 로봇에 의한 지배를 거부하며 ‘꿈의 공장’을 한동안 멈춰 세웠던 반감은 그러나 오래가지 못했다. 이유는 시간과 돈. 비용에 민감한 영화산업에서 이제 AI는 날로 존재감을 높이고 있다. AI가 영화 제작의 물리적 한계를 뛰어넘어 창작자의 상상력을 실현하는 도구로 자리잡는 모양새다. 할리우드 제작사도 거액을 들여 지으려던 스튜디오를 포기하고 AI 기술에 투자할 정도다. 무엇보다 영화 찍을 돈이 없어 포기했던 무명의 젊은 창작자들에게 AI는 기회의 창이 되고 있다. 올해 처음 AI 영화 부문을 만든 부천판타스틱영화제에서 그 가능성이 확인됐다. 국내 출품작 가운데 주목받았던 3분짜리 영화 ‘원 모어 펌킨’은 감독 혼자 닷새 만에 만들었다고 한다. 제작비는 달랑 전기료뿐이었다고 하니 이제 영화판은 천지개벽을 앞두고 있다. 영화제에 참석한 관련 전문가는 “AI는 무한정 작업하면서 마블 영화 예산의 절반으로 비슷한 작품을 만들 수 있으니 1년 안에 AI 영화가 대중화될 것”이라고 장담했다. 장인의 예술혼을 훼손하는 공포의 대상이자 영화 제작의 지평을 넓히는 ‘게임체인저’, AI의 두 얼굴이다. 박상숙 논설위원

한국컴플라이언스협회(KCA)가 5일 서울 코엑스에서 ‘국제 컴플라이언스협회(ICA) 후원 2024 컴플라이언스 어워즈’를 개최했다. 기업 부문에서 롯데지주와 포스코인터내셔널이, 공공부문에서 한국전기안전공사와 한국에너지공단이 대상을 받았다. 컴플라이언스란 기업이 각종 규제나 법규, 윤리를 준수하기 위해 행하는 준법 활동을 뜻한다. 대상을 받은 기업들은 예방적·선제적으로 사내 컴플라이언스 위협 요인을 진단하고 적극 개선한 공로를 인정 받았다. 이날 ‘제2회 대한민국 컴플라이언스 컨퍼런스’도 기업윤리와 컴플라이언스를 주제로 개최되었다. 지난 1월 ‘ESG(환경·사회·지속가능성 경영)의 근간, 컴플라이언스’를 주제로 컨퍼런스를 연 이후 KCA가 개최한 두 번째 컨퍼런스로 전문가와 실무자 300여명이 참석했다. 준법경영을 수행하는 개념을 넘어 조직이 내외부 관계자들의 공정과 행복을 추구하는 방식, 생성형 인공지능(AI) 기술 대응 새 규범을 모색해야 할 필요성 등에 대한 폭넓은 논의가 컨퍼런스에서 이뤄졌다. KMA 경영자교육위원회 위원장을 맡고 있는 김형철 전 연세대 교수가 ‘기업윤리와 리더의 윤리의식’을 주제로 기조강연에 나서며 컨퍼런스를 시작했다. 김 교수는 서브프라임 모기지 사태부터 다국적 기업들의 위기관리 사례를 예로 들며 윤리 경영의 중요성을 강조했다. 이어 박종근 지멘스 윤리경영실장이 사내 준법제도에 대해 설명했다. 박 실장은 “준법 제도는 기업이 경쟁우위를 섭렵하고 지속가능한 성장을 지탱하기 위한 것”이라고 했다.이어진 오전 세션에서 맹수석 대한상사중재원 원장이 ‘중재를 통한 전략적 컴플라이언스’를, 법무법인 세종의 홍탁균 변호사가 ‘반부패 뇌물방지 규제 최근 동향’을 전했다. 이어 정연홍 한국공정거래조정원 실장의 ‘CP등급평가 운영계획 및 공정거래 자율준수 사례’, 김광기 ESG경제 대표의 ‘ESG 공시 의무 컴플라이언스’, 성수용 금융감독원 선임교수의 ‘금융회사 내부통제와 책무구조도’ 강의로 참석한 준법경영관리 실무자들이 궁금증을 풀어냈다. 오후에는 신주호 성균관대 글로벌스마트시티융합전공 겸임교수가 ‘AI 시대의 컴플라이언스’에 대해 설명했다. 신 교수는 “2022년 생성형 AI 작품이 미술대회에서 수상을 하면서 창의성이 중요한 분야에서도 AI 활용이 용이하다는 점을 보여준 동시에 딥페이크 등에 대한 우려도 커지고 있다”고 진단했다. 그는 이어 “모니터링 솔루션이나 편향성 검사에 AI를 활용할 수 있다”고 제안했다. 이어 김재은 서울과학종합대학원 교수가 ‘청렴윤리 컴플라이언스’를, 김은성 KCA 이사장이 ‘공공부문의 컴플라이언스’를 주제로 강의하며 공공 부문에서 컴플라이언스 경영의 중요성이 커지고 있는 실태를 소개했다. 김은성 이사장은 “컴플라이언스가 단순 법적 의무를 넘어 기업의 지속가능성을 좌우할 핵심 요인이 되고 있다”면서 “앞으로 컴플라이언스의 변화가 우리 기업과 산업의 변화를 이끌 것”이라고 강조했다. KCA는 지난해 11월 산업통상자원부 설립인가를 받아 출범했다. 협회는 기업 전반의 컴플라이언스 체계 진단 및 컨설팅, 교육, 정책연구, 국내외 네트워킹 공유, 어워즈 등의 활동을 통해 컴플라이언스 생태계 확장에 나서고 있다.

생성형 인공지능(AI) 기술이 일반화되면서 ‘딥페이크’(AI 기반 인간 이미지합성기술) 해킹 공격 등이 새로운 사이버 위협으로 등장했다. 딥페이크로 구현된 화상회의에 속아 340억원의 거금을 송금한 사례도 있었다. SK쉴더스(구 ADT캡스)는 2일 서울 중구 페럼타워에서 ‘2024 상반기 보안 트렌드 및 안전한 AI 활용을 위한 보안 전략 공개’ 미디어 세미나를 통해 올해 상반기 유형별 침해사고 통계를 공개했다. 이날 발표는 국내 최대 규모의 화이트해커 전문가 그룹인 SK쉴더스 ‘이큐스트’(EQST)가 상반기에 직접 경험한 사고 사례와 연구 결과를 토대로 분석한 내용을 바탕으로 진행됐다. 특히 이큐스트는 주목받고 있는 AI 거대언어모델(LLM)의 취약점을 이용한 공격 3가지를 시연하면서 보안 대책을 발표했다. 이큐스트는 가상자산 탈취와 딥페이크 해킹 공격 등이 올해 상반기에 화제가 됐다고 밝혔다. 지난 1월에는 전 세계적으로 사용되고 있는 ‘Ivanti VPN 솔루션’에서 제로데이 취약점이 발견돼 다양한 산업 분야에서 피해를 보았다. 2월에는 중국 정부 지원을 받는 것으로 알려진 ‘볼트 타이푼’이 미국의 주요 인프라 내부망을 공격했다는 사실이 밝혀졌다. 특히 딥페이크로 구현된 화상회의에 속아 340억원의 거금을 송금한 사례도 있었다고 이큐스트는 설명했다. 3월에는 공개 소스 ‘ZX Utils’에서 백도어가 발견됐고, 4월에는 LLM에 의해 작성된 악성 스크립트가 사용된 악성 메일 공격이 발생했으며, 5월에는 블록체인 기반의 게임 플랫폼이 해킹돼 300억원의 가상자산을 도난당하는 사건도 있었다.이큐스트가 분석한 업종별 침해사고 발생 통계에 따르면 국내에서는 금융업을 대상으로 한 침해사고가 20.6%로 가장 높은 비중을 차지했다. 반면 국외에서는 러시아, 이스라엘 등 국제 분쟁으로 인해 정부와 공공기관을 대상으로 한 공격이 26.7%로 가장 높은 순위를 차지했다. 유형별 사고 발생 통계로는 취약점 공격이 45%로 가장 많이 발생했다. VPN, 라우터 등 네트워크 장비를 이용한 지능형 지속 위협(APT) 공격 때문으로 조사됐다. 인간의 심리를 이용해 기밀을 탈취하는 수법인 ‘소셜 엔지니어링’ 공격도 26%로 뒤를 이었다. 특히 이큐스트는 생성형 AI가 급속도로 발전하면서 AI가 가져올 수 있는 보안 위협에 관한 연구 결과도 발표했다. 우선 프롬프트 인젝션은 악의적인 질문을 통해 AI 서비스 내 적용된 지침이나 정책을 우회해 본 목적 이외의 답변을 끌어내는 취약점이다. 악성코드 생성이나 마약 제조 피싱 공격 등에 악용될 수 있다.두 번째로 불완전한 출력 처리 취약점은 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생한다. 이는 다른 2차 공격으로 이어질 수 있다는 점에서 위험도가 높다. 예를 들어 공격자가 원격 접속 코드 실행 요청이 포함된 내용을 챗봇에 질문하고 챗봇이 원격 접속 코드를 실행하게 되면 공격자가 AI LLM 운영 서버에 접속해 중요 정보를 탈취할 수 있게 되는 방식이다. 마지막으로 이큐스트는 개인정보가 포함되거나 애플리케이션의 권한 관리가 미흡해 생길 수 있는 민감정보 노출 취약점을 분석하며 데이터베이스(DB) 정보를 탈취하는 공격을 시연했다. LLM 모델을 학습시킬 때 민감 정보 필터링이 미흡한 경우 LLM이 생성하는 답변에 학습된 민감정보가 출력될 수 있다는 점에서 학습 데이터에 가명 처리를 하거나 데이터를 검증하는 등의 추가적인 보완책이 필요하다고 이큐스트는 강조했다. 김병무 정보보안사업부장(부사장)은 “전 산업 분야에 AI 기술 접목이 확산하면서 이를 노린 보안 위협이 현실화하고 있어 이에 대한 체계적인 대비가 필요하다”고 했다.

동급생과 교사의 얼굴을 ‘딥페이크’ 기술로 음란물과 합성해 소셜미디어(SNS)에 유포해 처벌받은 학생들이 다시 등교할 예정인 것으로 알려져 피해 학생들이 고통을 호소하고 있다. 2일 전북 전주에서 중학생 딸을 둔 보호자 A(50)씨는 연합뉴스에 “처벌이 이뤄졌지만, 가해자 5명이 2학기에 복귀한다고 들었다”면서 “딸이 굉장히 불안에 떨고 있다”고 토로했다. 앞서 지난달 28일 전북경찰청은 전주의 한 중학교에 재학 중인 남학생 7명을 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 검찰 및 소년부 송치했다. 이들은 지난 3월 딥페이크 기술을 이용해 같은 학교 여학생 12명과 여교사 2명의 사진을 다른 여성의 나체 사진과 합성해 SNS 등에서 유포한 혐의를 받는다. 학교는 학교폭력대책심의위원회를 열고 가해 학생 7명 중 2명에 대해 강제 전학 조치를, 나머지 학생들에 대해서는 출석정지·봉사활동 조치를 내렸다. 그러나 강제 전학 조치를 받은 남학생 중 1명은 처분에 불복해 법적 대응에 나섰고, 가해자 5명은 2학기에 등교하는 것으로 알려졌다. A씨에 따르면 해당 학교는 규모가 그리 크지 않은 학교여서 소문이 빠르게 퍼졌고, 피해자들은 충격과 불안에 시달려야 했다. A씨는 “딸이 가해자들과 다시 한 공간에서 생활한다는 사실을 듣고서 소름이 끼친다고 한다”면서 “딥페이크 범죄는 피해자의 존엄성을 해치고 사회적·정신적으로 죽이는 것이나 마찬가지”라고 목소리를 높였다. 이어 “우리가 원하는 것은 피해자들과 가해자들의 철저한 분리”라며 “피해자 부모들과 연대해 대응해 나갈 것”이라고 밝혔다.

최근 청소년들 사이에 성행하고 있는 불법 음란합성물 제작·유포 범죄에 대해 경찰이 강력 처벌을 예고했다. 전북특별자치도경찰청은 지난 26일 전북교육청, 전주성폭력상담소, 전북도 청소년상담센터 등 유관기관과 함께 불법 음란합성물 제작·유포 범죄 예방을 위한 간담회를 개최했다고 28일 밝혔다. 참석자들은 AI 등 딥페이크 기술의 발전에 따라 불법 음란합성물의 제작·유포행위가 초·중·고등학교 10대 학생들을 대상으로까지 확대됨에 따라 이에 대한 예방 대책과 홍보·교육 방안을 논의했다. AI 딥페이크 프로그램을 이용한 범죄는 지난 2020년 성폭력범죄의처벌등에관한특례법에 불법 음란합성물에 대한 처벌 규정이 신설되면서 처벌이 가능해졌다. 그러나 청소년들 사이에서 딥페이크 기술이 유행처럼 번지고 있다. 올해 초 전북 전주시 한 중학교에선 남학생들이 같은 학교 동급 여학생과 교사 등 12명의 얼굴 사진을 다른 여성 나체 사진에 합성하고 유포한 혐의로 조사를 받았다. 이들은 SNS나 학급단체 사진 등에서 피해자들의 사진을 도용한 것으로 알려졌다. 해당 사진은 외부로 유포되지는 않았고, 일부 학생들은 스스로 학교 측에 범행을 자백한 것으로 전해졌다. 전북경찰청 사이버수사과에서는 이들 중 일부를 지난 26일 검찰 및 소년부로 송치했다. 경찰은 학교 내 불법 음란합성물 제작·유포행위에 대하여 ‘신종 학교폭력’으로 규정하고 학부모 및 교육 당국과 협조하여 예방 및 처벌을 병행하며 대응해 나갈 방침이다. 이현진 전북청 사이버범죄수사대장은 “불법 음란합성물 제작·유포와 관련하여 여러 건 수사 중에 있다”며 “불법 음란합성물의 제작·유포행위는 피해자들에게 돌이킬 수 없는 피해를 주는 중범죄’라면서 ‘모든 피의자를 끝까지 추적해 엄중 처벌하겠다”고 말했다.

북한이 24~25일 이틀 연속으로 대남 오물 풍선을 살포한 가운데 누리꾼들 사이에서 북한의 오물 풍선이 한 영상 때문이라는 우스갯소리가 돌고 있다. 합동참모본부는 25일 밤 공지를 통해 “북한이 대남 오물 풍선(추정)을 또다시 부양하고 있다”며 “현재 풍향은 북서풍으로, 경기 북부 지역에서 남동 방향으로 이동 중”이라고 밝혔다. 그러면서 “국민들께서는 적재물 낙하에 주의하시고, 떨어진 풍선을 발견하시면 접촉하지 마시고 가까운 군부대나 경찰에 신고해주시기를 바란다”고 덧붙였다. 서울시도 오후 10시 5분쯤 발송한 안전 안내 문자를 통해 “북한의 오물 풍선이 서울 상공으로 진입했다”고 알렸다. 북한은 전날 밤에도 오물 풍선은 350여개를 살포해 경기 북부와 서울 등 남측 지역에 100여개가 낙하한 바 있다. 북한이 이날 살포한 대남 오물 풍선은 올해 들어 여섯 번째다. 이해하기 어려운 행태의 공격에 누리꾼들 역시 황당해하는 가운데 김여정 북한 노동당 부부장의 영상도 관심을 끌고 있다. 북한 관련 패러디물을 올리는 유튜브 채널 화성인 릴도지에 5월 초에 올라온 ‘마라탕후루 챌린지’ 영상인데 유튜브 조회수가 66만에 달한다. 댓글 역시 2000개가 넘어가며 반응이 뜨겁다.지난 4월 곡이 나온 이후 젊은 세대를 중심으로 챌린지 열풍이 불었는데 화성인 릴도지가 딥페이크(인공지능 기술을 이용해 진위를 구별하기 어려운 가짜 이미지나 영상물)를 활용해 김 부부장이 노래에 맞춰 춤을 추는 영상을 올렸다. 누리꾼들은 “동무 춤선이 살아있습네다”, “AI가 아니고 실제 김여정을 섭외했다”, “김여정도 몰래 보면서 끅끅댈만한 퀄리티” 등의 반응을 보였다. 화성인 릴도지의 안부를 걱정하는 누리꾼들도 있었다. 김 부부장은 지난 21일 발표한 담화에서 탈북민단체의 대북전단 살포를 비난하며 “분명 하지 말라고 한 일을 또 벌였으니 (우리도) 하지 않아도 될 일거리가 생기는 것은 당연하다”라고 주장했다. 다만 탈북민단체 역시 계속해서 맞대응하고 있어 오물 풍선 공격은 계속 이어질 가능성이 크다. 풍선의 내용물은 대다수 종이류의 쓰레기로 현재까지 분석 결과 안전 위해 물질은 없다는 게 합참의 설명이다. 합참은 강력한 대응 수단인 대북 확성기 방송에 대해 “군이 방송할 준비는 항상 돼 있다. 군은 전략적, 작전적 상황을 고려해 융통성 있게 시행할 것”이라는 입장이다. 윤석열 대통령은 25일 6·25전쟁 제74주년을 맞아 찾은 대구 엑스코 행사에서 “북한은 최근 오물 풍선 살포와 같이 비열하고 비이성적인 도발까지 서슴지 않고 있다”고 비판하기도 했다.

최근 중국 소셜미디어(SNS)에서 한 여성 유튜버의 얼굴을 무단 이용해 “중국 남자랑 결혼하고 싶다” 등 중국을 찬양하는 인플루언서들이 대거 등장한 것으로 전해졌다. 24일 SBS 등에 따르면 우크라이나 출신 유튜버 올가 로이크는 중국 SNS에 자신의 얼굴을 한 여성들이 있다는 사실을 알게 됐다. 자신을 러시아 출신 중국 유학생이라 소개한 에이프릴은 SNS에서 “8년간 중국에서 거주했다”며 “중국 남자와 결혼하고 중국에 살고 싶다”고 말했다. 또 “중국을 좋아한다”, “러시아 여자들이 중국인과 결혼하는 것을 환영하냐”, “중국과 러시아의 우정이 영원히 지속되길 바란다”, “전 세계가 다 등 돌렸지만, 중국 형제자매만이 러시아를 포기하지 않았다” 등의 발언도 이어갔다. 유창한 중국어 실력을 갖춘 에이프릴은 ‘중국 예찬론’으로 유명한 인플루언서다. 러시아 식품 마케터라고 자신을 소개한 31세 여성 나타샤는 팔로워 14만명을 보유한 인플루언서다. 그는 “중국에서 러시아 음식을 판매하고 광고하는 러시아인”이라면서 러시아가 중국의 경제적 지원이 얼마나 필요한지 등을 말한다. 나타샤는 SNS에 올린 영상에서 “중국과 러시아의 우정은 영원하다”고 말한 뒤 러시아 사탕을 광고하고, 실제 구매가 가능한 주소를 첨부해 사탕을 구매하도록 유도하기도 한다.그런데 중국을 찬양하는 에이프릴과 나타샤의 얼굴은 쌍둥이처럼 닮아 있었다. 이 얼굴의 원형은 유튜버 올가 로이크다. 이들은 모두 AI 딥페이크로 만들어진 가상 인물이었다. 자신의 얼굴이 중국 SNS에서 쓰이고 있다는 사실을 안 올가 로이크는 “처음에는 조금 혼란스러웠고, 농담인 줄 알았다. 내 얼굴인데 중국말을 하고 있었고, 배경에는 (러시아) 크렘린이 있었다”고 전했다. 올가 로이크가 찾아낸 자신의 얼굴과 목소리 등을 활용한 AI 가상 인물 동영상만 5000개가 넘는다. 대부분 중국을 찬양하는 내용이고, 물건을 팔아 수익을 내는 경우도 있었다. 인공지능 응용 사업이 빠르게 발전하는 중국에서는 AI 기술이 다양한 분야에서 활용되고 있다. 24시간 온라인 쇼핑몰 운영을 위해 AI 쇼호스트가 동원되는가 하면, 먼저 세상을 떠난 가족을 AI로 되살려낸다는 이른바 ‘AI 부활’이 산업화하면서 곧 시장 규모 180조원대 달성을 눈앞에 두고 있다. 다만 올가 로이크의 사례처럼 동의 없이 이용되거나, 범죄 등 악용되는 경우가 늘자 중국 당국은 AI 개발과 규제를 위한 법안 마련에 착수했다. 한편 올가 로이크는 자신의 유튜브 영상을 통해 피해 사실을 밝히며 “주의하라”고 강조했다.