‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

LG유플러스가 SM엔터테인먼트와 생성형 인공지능(AI) 기반 콘텐츠 개발 협력을 위한 업무협약을 체결했다. 이를 계기로 SM엔터테인먼트의 첫 번째 버추얼 아티스트인 ‘나이비스’의 뮤직비디오 등 콘텐츠 제작에 LG유플러스가 자체 개발한 생성형 AI ‘익시젠’(ixi-GEN)이 활용된다. 1일 LG유플러스에 따르면 양사는 지난달 29일 서울 성수동 SM엔터테인먼트 사옥에서 업무협약식을 갖고 이런 내용에 합의했다. 업무협약식에는 정수헌 LG유플러스 컨슈머부문장(부사장), 정혜윤 마케팅그룹장, 한영섭 AI테크랩장, 김희진 통합브랜드마케팅팀장, 탁영준 SM엔터테인먼트 공동대표, 박준영 최고크리에이티브책임자(CCO), 이종호 버추얼IP비즈유닉장, 김선택 버추얼IP콘텐츠유닛장 등 양사 주요 관계자가 참석했다. 이번 업무협약으로 LG유플러스는 자체 개발 생성형 AI 익시젠을 활용해 SM엔터테인먼트의 첫 번째 버추얼 아티스트 나이비스의 콘텐츠 제작에 나선다. 익시젠이 생성한 이미지와 영상을 활용해 뮤직비디오와 쇼츠, 굿즈 등을 제작하고 이를 통해 전 세계 K팝 팬들에게 AI 경험을 제공한다는 계획이다. SM엔터테인먼트는 버추얼 아티스트에 AI 기술을 결합함으로써 새로운 문화 장르로 만들어가겠다는 포부다. 특히 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서 긍정적 효과를 기대하고 있다. 앞서 LG유플러스는 올 초부터 마케팅의 전 영역을 AI 중심으로 혁신하는 ‘익시 프로덕션’ 프로젝트를 진행하고 있다. 이번 SM엔터테인먼트 협업도 익시 프로덕션 활동의 하나로 AI를 활용한 새로운 고객 경험을 창출해 나간다는 방침이다. 정수헌 LG유플러스 부사장은 “국내 대표 기획사인 SM과의 협업은 U+고객을 넘어 글로벌 K팝 팬들에게도 새로운 디지털 경험을 제공할 뿐 아니라 마케팅, 브랜딩 측면에서 높은 시너지를 창출할 것으로 기대된다”고 전했다. 탁영준 SM엔터테인먼트 공동대표도 “LG유플러스의 생성형 AI 익시젠과 SM의 버추얼 아티스트 나이비스 간의 협업은 단순한 비즈니스 제휴를 넘어 양사 간의 창의적 시너지를 통해 미래 지향적인 콘텐츠와 기술 혁신을 실현하는 중요한 이정표가 될 것”이라고 강조했다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

호주의 한 광산 회사 사장이 회사 밖으로 나가서 커피를 사 먹는 직원들 때문에 회사가 너무 많은 돈을 낭비하고 있다고 주장한 것으로 알려졌다. 29일(현지시간) BBC에 따르면 호주의 광물 자원 회사 미네랄리소스의 사장 크리스 엘리슨은 지난 28일 재무 실적 발표에서 “직원들을 하루 종일 회사에 사로잡아 둬야 한다”고 주장했다. 그는 “직원들이 회사 밖으로 나가는 것을 원하지 않는다”며 “본사에는 레스토랑, 9명의 직원 심리상담사, 체육관 등 여러 시설이 갖춰져 있다”고 전했다. BBC에 따르면 이 회사는 ‘재택근무 금지’ 정책을 엄격히 고수하고 있다. 엘리슨은 “사무실에서 일하는 것이 집에서 일하는 것보다 효율이 높다는 내 생각을 업계 전체가 공감해야 한다”고 강조했다. 그는 “광산 업계는 (재택을 시킬) 여유가 없다”며 “사람들이 주 3일 일하고 주 5일 급여를 받는 것을 허용할 수 없으며 주 4일 급여를 받는 것도 허용할 수 없다”고 했다. BBC는 재택근무 금지 정책을 시행한 사장이 엘리슨이 유일하지는 않다고 전했다. 영국 런던에 본사를 둔 한 스마트폰 제조업체 대표는 최근 모든 직원에게 이메일을 보내 재택근무를 금지한다고 발표한 것으로 알려졌다. 대표는 “논란의 여지가 있는 결정이라는 것을 알지만 우리 사업 유형에는 적합하지 않다”며 “회사로서의 잠재력을 실현하기 위한 방법”이라고 밝혔다. 앞서 에릭 슈밋 전 구글 최고경영자(CEO) 또한 구글이 인공지능(AI) 기술 경쟁에서 뒤처진 배경으로 재택근무 확산을 지목해 논란의 중심에 서기도 했다. 그는 스탠퍼드대 학생들을 대상으로 한 대담에서 “구글이 왜 AI 선두 자리를 오픈AI나 앤스로픽 같은 스타트업에 뺏겼는가”라는 질문에 “구글이 승리보다는 ‘워라밸’(work life balance)을 선택했기 때문”이라며 “반면 스타트업이 성공하는 이유는 그 사람들은 지옥처럼 일하고 있기 때문”이라고 답했다. 다만 그는 이후 월스트리트저널(WSJ)에 메일을 보내 “구글과 그들의 근무 시간에 대해 잘못 말했고 후회한다”며 해당 발언을 철회했다. 구글 모회사 알파벳 노조가 반발하는 등 논란이 커지자 대담 동영상은 비공개로 전환됐다. 구글은 팬데믹 이후 주 3회 사무실 출근 의무화 정책을 실시하고 있다.

국민의힘이 30일 “자유민주주의 헌법 가치를 지키는 정당으로서 민생과 국익을 훼손하는 야당의 막말과 거짓 선동에 단호히 맞서 싸우겠다”고 강조했다. 1박 2일 연찬회를 마무리한 국민의힘은 금융투자소득세(금투세) 폐지를 포함한 170개의 최우선 입법 과제를 선정해 발표했다. 국민의힘 의원들은 이날 인천국제공항공사 인재개발원에서 열린 ‘2024 국민의힘 국회의원 연찬회’를 마치고 이같이 밝혔다. 의원들은 결의문을 통해 “국민의 민생과 안전을 지키고 미래세대를 위한 연금·의료·교육·노동 등 4대 개혁을 책임 있게 이행하겠다”며 “인구·기후위기, 양극화, 지역소멸 등 공동체의 미래를 위협하는 과제에 적극 대응하겠다. 대한민국의 위상에 걸맞는 글로벌 외교를 뒷받침하며 한반도 통일 시대를 준비하겠다”고 했다. 한동훈 국민의힘 대표는 폐회사에서 “1박 2일 동안 많은 대화를 나눴고 저도 생각을 많이 했다”면서 “우리의 길은 미래를 열고 민생으로 가는 것이다. 우리가 정말 국민들이 원하는 정치를 할 수 있는 정치집단이라는 점을 국민들께 증명하고 국민들의 사랑을 되찾자”고 말했다. 그러면서 추경호 원내대표의 트레이드 마크인 “똘똘 뭉치자!”를 인용해 단합을 강조하기도 했다. 연찬회를 마친 국민의힘은 금투세·단통법(단말장치 유통구조 개선법) 폐지와 저출생 대응을 위한 인구전략기획부 신설을 포함한 최우선 입법 과제를 발표했다. 국민의힘 정책위원회는 이날 보도자료를 내고 ▲민생경제 활력 분야 ▲저출생 극복 분야 ▲의료개혁 분야 ▲미래먹거리 발굴 분야 ▲지역균형발전 분야 ▲국민안전 분야 등 총 6대 분야, 170개 법안을 제22대 정기국회 최우선 입법 및 통과 과제로 삼았다고 밝혔다. 민생경제 활력 분야에는 ‘티메프’ (티몬 위메프 정산지연 사태) 방지와 금투세 폐지 등 생활 밀착형 경제법안들이 담겼다. 저출생 극복 분야에는 인구전략기획부 신설, 육아휴직 연장 및 대상 연령확대와 임신기 근로시간 단축 등의 내용을 담았다. 또 ‘의료개혁’에 관해선 ‘의료사고 특례 지원’을 추진하겠다고 밝혔다. 미래먹거리 발굴 분야에서 인공지능(AI)과 원전, 반도체, 전력망 구축 등 첨단산업 인프라 지원을 확대하기로 뜻을 모았다. 지역균형 발전 분야에서는 수도권 집중를 해소하는 내용의 법안을 추진해 지역과 수도권의 경쟁력을 동시에 높이겠다고 밝혔다. 국민안전 분야에는 딥페이크 성범죄 등 디지털 성범죄 문제 해결을 위한 법안이 담겼다. 텔레그램에서 딥페이크를 이용해 불법 합성 영상물을 유포하는 성범죄가 기승을 부리자 이에 대한 대응책을 마련하겠다는 취지다. 또 제복 공무원 및 재해지원 중 순직한 일반 공무원에 대한 예우를 강화하고, 군 장병 및 예비군에 대한 처우 개선도 추진하기로 했다.

국민의힘과 정부가 타인의 얼굴을 합성한 음란물을 만들어 유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안도 검토하기로 했다. 당정은 29일 오전 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 진행하고 딥페이크를 포함한 허위 영상물 처벌을 현행법상 ‘최대 5년 이하의 징역 또는 5000만원 이하의 벌금형’에서 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진하기로 했다. 또 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위 영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 교육부는 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”고 했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 국민의힘 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 통과를 당부했다. 이외 국민의힘 10·16 재보궐선거 중앙당 공천관리위원회는 딥페이크 성범죄 등에 연루된 사람은 공천에서 배제하기로 했다. 이원석 검찰총장은 전국 일선 검찰청의 디지털 성범죄 전담 검사들과 화상회의를 열고 “성적 수치심 유발 정도가 중한 아동·청소년 대상의 허위 영상물이나 영리 목적의 허위 영상물 제작 사범은 원칙적으로 구속 수사하라”고 지시했다.

한동훈 대표 인재영입으로 뱃지 단 ‘친한’계삼성전자 출신에 매달 지역구서 청년 멘토링원외 韓 대표의 정책 행보는 법안 발의로 지원매주 금요일 [주간 여의도 Who?]가 온라인을 통해 독자를 찾아갑니다. 서울신문 정당팀이 ‘주간 여의도 인물’을 선정해 탐구합니다. 지난 일주일 국회에서 가장 눈에 띄었던 정치인의 말과 움직임을 다각도로 포착해 분석합니다. ‘갤럭시 신화’의 고동진 국민의힘 의원이 지난 26일 당의 인재 영입위원장에 임명됐다. 한동훈 국민의힘 대표가 사활을 건 ‘중수청(중도·수도권·청년)’ 중심의 외연 확장과 관련해 주요 역할을 할 것으로 기대된다. 고 의원은 4·10 총선 전 한동훈 당시 국민의힘 비상대책위원장에 의해 영입돼 서울 강남병에 당선돼 ‘친한’(친한동훈)계로 묶인다. 고 의원은 삼성전자 대표이사 출신으로 스마트폰 ‘갤럭시’ 시리즈 개발을 총괄한 주역으로 꼽힌다. 고 의원은 지난 2022년 삼성전자 정기인사를 통해 경영일선에서 물러난 뒤 2023년 자신의 경험을 담아 저서 ‘일이란 무엇인가’를 냈다. 고 의원에 대한 입당 제안은 한 대표가 그의 책을 읽고 직접 설득한 것으로 알려져 있다. 고 의원은 한 대표가 강조하는 중수청 확장에 주력할 것으로 보인다. 한 대표는 지난 26일 기자들과 만난 자리에서 “지금은 우리 당의 내실과 체질을 다질 때다. 당장 선거가 임박한 것은 아니니 체질과 정책을 다지는 게 중요하다”라고 강조했다. 또 중수청에 대해서 그는 “가만히 보면 실제로 교집합이 큰 영역이다. 우리가 인색한 부자 정당이 아니라, 현실 세계 국민의 어려움에 대해 집중할 것”이라고 계획을 밝혔다. 앞서 한 대표는 지난 5일에는 당의 인재영입의 중요성에 대해 강조했다. 한 대표는 “지금까지 전국 단위 선거에 임박해서 인재위가 후보를 영입하는 방식으로 운영됐지만 앞으론 중도나 수도권, 청년으로 외연 확장을 해야 하는 상황”이라면서 “인재영입위원회를 상설화하고 강화해 상시적으로 인재 발굴과 영입 교육을 하는데 당의 사활을 걸 필요가있다”라고 말했다. 이에 고 의원은 인재영입위원장 물망에 올라있던 지난 19일 채널A 라디오에서 한 대표의 인재영입위원회 상설화에 찬성 의견을 냈다. 고 의원은 “지난 총선에서 우리가 패인 원인을 분석을 하면 나왔던 게 중수청이다. 인재 영입을 위한 초점을 중도, 수도권, 청년에 맞춘다는 세팅은 잘된 것 같다”라고 했다. 이어 그는 “중도는 ‘나는 지금 결정하지 않았다’라는 의미가 크다. 중도층을 흡수하고 외연을 확장하기 위해서는 국민의힘이 민생을 위한, 정책을 위한 정당으로 평소에 열심히 노력을 해야되겠다”라고 말했다. 그는 “말로만 하는 게 아니라 실천을 함으로써 아직 결정을 하지 않은 분들이 공감할 수 있는, 당이 되어야 한다”고 덧붙였다. 고 의원이 인재영입위원장에 발탁된 배경에는 청년층과 호흡할 수 있다는 점, 대중적 인지도가 높다는 점 등이 영향을 미친 것으로 보인다. 정치에 입문하면서 그는 ‘청년의 미래’를 위해 일하고 싶다고 여러 인터뷰를 통해 강조하기도 했다. 또한 고 의원은 매달 지역구인 강남구에서 ‘청년 멘토링’을 진행하며 청년들과 진로 고민, 주요 관심사인 인공지능(AI) 등을 소재로 대화하고 있다. 당선 이후 이제까지 총 4번의 멘토링이 진행됐다. 한 대표가 중수청 회복을 위해 정치개혁의 일환으로 약속한 ‘지구당 부활’에 대해 고 의원이 정당법·정치자금법 개정안을 대표 발의해 뒷받침하기도 했다. 개정안에는 정당 운영을 국회의원지역선거구를 단위로 하는 지구당(지역당) 중심으로 변경하는 내용이 담겼다. 정당 및 후보자 등이 지역주민의 생활 현장에서 생생한 정치적 요구를 수렴할 수 있도록 하고, 풀뿌리 민주주의를 활성화하려는 차원이다. 고 의원은 법안 제안 이유에서 “지난 2004년에 정치개혁의 일환으로 지구당을 폐지했으나 예상했던 정치발전보다는 정당의 기반이 허약해지고 생활현장에서 지역주민의 다양한 의견과 요구를 청취할 수 없는 부작용이 오히려 더 크다는 비판이 제기되고 있다”고 지적했다. 또 “지구당 폐지 당시 지적되었던 고비용 및 운영상 부조리한 문제 등이 상당부분 개선되었다는 의견이 제시되고 있”고도 부연했다. 고 의원은 원외 대표인 한 대표의 정책 행보에도 법안 발의로 힘을 싣고 있다. 서울 은평구에서 발생한 일본도 살인 사건 이후 한 대표는 “총포·도검 소지 전반에 대한 재점검과 감독이 필요하다”고 발언했고, 이후 고 의원은 곧바로 정신질환자 도검소지 방지법을 발의해 대표를 지원 사격했다. 한 대표가 최근 19명의 사상자를 낸 경기 부천 호텔 화재와 관련해 스프링클러 의무 설치 제도의 미비점을 지적했을 때도 고 의원은 노후 숙박시설에도 스프링클러 등의 소방시설을 설치하도록 하는 소방시설 설치 및 관리에 관한 법률 개정안을 발의했다. 한편 고 의원은 국회 공직자윤리위원회가 지난 29일 공개한 22대 국회 신규등록 국회의원 147명 중 최고 자산가로 꼽혀 주목을 받기도 했다. 고 의원은 72억 4070만원의 한남동 아파트, 2021년식 페라리 자동차(2억 3108만원), 삼성전자 주식 4만 8500주 등을 포함해 총 333억 107만원을 신고했다.

텔레그램과 상시 핫라인 방침수사·상담·영상 삭제 지원 논의제작자도 처벌 포함 법안 추진국민의힘과 정부가 얼굴에 음란물을 합성·유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 것도 검토하기로 했다. 당정은 29일 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 진행하고 딥페이크를 포함한 허위영상물 처벌을 현행법상 ‘최대 징역 5년 이하 징역 또는 5000만원 이하’에서 불법촬영물과 마찬가지로 최대 징역 7년으로 강화하는 것을 추진하기로 했다. 또 해외에 서버를 둔 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 딥페이크 관련 중고생 피해 사례가 급증하는 만큼, 교육부 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “촉법소년 연령 하향 문제도 같이 생각해봐야 한다”며 “(딥페이크 범죄 영상 제작을) 하는 분, 혹시 하고 싶어하는 분 중에 촉법소년 연령에 있는 분들도 많을 것이다. 그런 점에서 저희가 지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나, 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”며 “현재 국회에 딥페이크 성범죄 관련 10여개의 법안이 발의돼 있지만, 본회의에서 아직 의결되지 않아 사실상 입법 공백 상태”라고 지적했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크 기술의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 조속한 통과를 당부했다.

미국에서 올해 11월 5일 대선을 앞둔 가운데 유럽의 젊은 여성 인플루언서들의 사진을 내걸고 공화당 대선 후보 도널드 트럼프 전 대통령을 지지하는 가짜 엑스(X·옛 트위터) 계정이 활개를 치고 있다고 미국 CNN 방송이 28일(현지시간) 보도했다. 일례로 자신을 위스콘신 출신의 32세 여성이라고 소개한 루나는 지난 3월 엑스(@Luna_2K24)에 가입한 후 트럼프 전 대통령의 선거 구호인 ‘마가(MAGA·Make America Great Again·미국을 다시 위대하게)’를 홍보하며 3만명의 팔로워를 확보했다. 그는 트럼프 전 대통령이 추가적인 암살 시도에 직면해 있다는 등의 음모론을 지속적으로 펼쳤고, LGBTQ(성소수자)와 트랜스젠더, 백신에 반대하고 인종 차별과 외국인 혐오를 조장하는 글을 다수 올렸다. 그는 흰색 비키니를 입고 해변에서 찍은 셀카를 공유하면서 “트럼프가 영원히 대통령이 되는 것을 지지하겠느냐”는 글을 올렸는데 조회수는 5만4000명에 달했다. 하지만 루나는 실제 인물이 아닌 것으로 드러났다. 사진 속 갈색 머리 여성은 미국 투표권이 없는 독일의 패션 인플루언서 데비 네더로프였다. 네더로프는 엔지니어링 회사의 소셜미디어 관리자이자 모델인 독일인으로 트럼프와 무관한 것은 물론 미국 대선 투표권이 없다. 네더로프는 CNN에 “내 얼굴이 트럼프의 지지 선전에 사용되고 있다는 사실에 화가 난다”며 “나는 미국과 아무 상관이 없다. 독일의 작은 마을에서 사는 내가 미국 정치에 신경이나 쓰겠냐”고 반문했다. CNN이 정보회복센터(CIR)과 조사한 결과 루나는 물론 네덜란드, 덴마크, 러시아 출신 패션 및 뷰티 인플루언서 17명의 유럽 여성 사진이 무단으로 도용된 엑스 계정이 트럼프의 지지를 도모하는 선전 도구로 이용되고 있다. CIR은 인권 침해를 폭로하는 독립적이고 비영리적인 사회적 기업이다. CNN은 “이들 인플루언서 사진을 도용해 만든 가짜 계정은 56개 엑스 계정 중 일부에 불과하다”고 전했다. CNN은 “해당 계정과 관련해 엑스에 연락했지만 답변을 받지 못했다”며 “해당 기사를 게시하기 24시간 전 동안 엑스는 대부분의 계정을 삭제했다”고 지적했다. 이어 “일론 머스크가 엑스를 인수한 이후 엑스에서 허위 사실과 음모론 유포를 방지하던 팀은 해체됐다”며 “CNN이 인터뷰한 유럽의 인플루언서는 자신의 사진이 동의 없이 사용되거나 신원이 도용됐다고 신고해도 소셜미디어(SNS) 플랫폼 운영사는 조치를 하지 않아 어려움을 겪고 있다”고 전했다. 그러면서 “온라인에서 여성의 신체적 자율권에 대한 위협이 커지고 있음을 보여준다”고 일갈했다. 선거 앞 가짜 콘텐츠에 대한 우려는 인공지능 기술이 확산하면서 지속돼 왔다. 잘못된 정보를 유포하고 가짜 동영상과 이미지를 통해 상대 후보에게 피해를 주려는 행위는 미국뿐 아니라 전세계 선거에서 나타나는 현상이기도 하다. 에밀리 혼 전 백악관 국가안보회의(NSC) 대변인은 올해 미국 대선을 앞두고 SNS를 이용해 허위 정보 캠페인을 시도한 여러 국가의 조직들이 있었다면서, 가짜 계정의 배후와 관련해서도 “이것은 국가 행위자일 수 있다. 정교함의 수준을 보면 러시아, 이란, 중국을 포함한 적대국 행위자 중 하나일 수 있다”고 말했다. 트럼프 “스위프트 지지, 수락한다” 논란 자초 트럼프 전 대통령은 지난 18일 세계적 팝스타 테일러 스위프트와 팬덤 ‘스위프티스’(Swifties)의 지지를 받았다는 가짜 사진을 소셜미디어에 게시하고 “수락한다”고 적어 논란을 자초했다. 트럼프 전 대통령은 자신의 소셜미디어 ‘트루스 소셜’에 스위프트와 팬들이 자신을 지지한다고 적힌 티셔츠를 입은 가짜 이미지를 여러 장 올렸다. 미국을 상징하는 ‘엉클샘’의 복장을 한 스위프트와 ‘테일러는 당신이 도널드 트럼프에게 투표하기를 원한다’고 적힌 사진, ‘트럼프를 지지하는 스위프티스’라고 적힌 티셔츠를 입은 여성들이 모여있는 듯한 사진, 지난 7일 스위프트의 오스트리아 빈 콘서트가 이슬람국가(ISIS)의 테러 가능성으로 취소된 뒤 팬들이 트럼프 쪽으로 돌아섰다는 가짜 뉴스 화면이 갈무리 된 사진 등이었다. 그는 이어 “수락한다(I accept!)”라고 적었다. 스위프트는 아직 트럼프 전 대통령과 카멀라 해리스 부통령 중 지지하는 후보를 공개적으로 밝힌 적은 없으나, 2020년 앞선 대선 때 민주당을 지지하며 트럼프 전 대통령을 향해 “당신을 몰아낼 것”이라고 공개 저격한 바 있다. 트럼프 전 대통령의 이런 의도적 ‘가짜 사진’ 유포는 처음이 아니다. 그는 엑스에 인민복처럼 보이는 옷을 입은 군중들 앞에서 해리스 부통령 뒷모습처럼 보이는 여성이 연설하는 이미지를 올렸고, 지원군인 일론 머스크 테슬라 최고경영자(CEO)와 자신이 춤추는 영상을 공개했다. 둘 다 조작된 것들이었다. 영국 가디언은 “트럼프 전 대통령이 최근 며칠 동안 패러디와 노골적인 선거 허위 정보 사이의 경계를 넘나들며” 퍼뜨린 딥 페이크라고 우려를 표했다. 그러면서 “대선을 앞두고 불투명한 정보 생태계를 더 혼탁하게 만들 위험이 있다. 일상적으로 허위 사실과 음모론을 조장하고 있는 것”이라고 지적했다.

‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제 착수 최근 ‘초거대언어모델’(LLM)이 가진 문제를 해결할 수 있는 RAG(Retrieval-Augmented Generation, 검색증강생성) 기술의 중요성이 날로 커져가고 있다. 이러한 가운데, 텍스트 이외에도 음성, 이미지, 동영상 등 다양한 데이터를 결합하여 추론이 가능한 ‘멀티모달 RAG 기술’이 AI와 인간이 구사하는 인지 사고의 편차를 현저히 줄일 것으로 각광받는다. 이러한 기술 추세에 발맞추어, 인공지능(AI) 전문기업 와이즈넛(대표 강용성)은 과학기술정보통신부가 주관하는 정보통신방송기술개발사업 중 정보통신기획평가원이 추진하는 ‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제의 주관사로서 1차 연도 연구에 착수했다고 29일 밝혔다. 2027년까지 4년에 걸쳐 진행되는 본 연구는 실제 업무 환경에서 융합되어 활용되는 멀티모달 데이터를 기반으로 초거대언어모델(LLM)의 구조적, 성능적 한계로 제기되는 ▲최신화된 정보 유지의 어려움 ▲할루시네이션 ▲도메인 정보 부족▲대규모 컴퓨팅자원소요 등의 한계를 극복하는 멀티모달 RAG 기술 개발을 목표로 한다. 멀티모달(Multi modal)은 인간이 사물의 양상을 다양한 감각기관으로 받아들이는 것처럼 텍스트, 이미지, 음성, 비디오 등 다양한 형태의 데이터 채널(Modality)을 동시에 처리하는 것을 뜻한다. 이는 텍스트와 함께 소리 데이터를 융합하고 이를 분석해 소리의 크기나 성격을 더 정확하게 이해하거나, 동영상에서 얼굴 이미지를 인식하고 음성 대화를 텍스트로 변환해 자동 자막을 생성하는 등 폭넓게 활용될 수 있는 만큼 새로운 대안으로 주목받는 기술이다. 와이즈넛은 이번 과제에서 멀티모달 데이터 수집 및 처리, 검색, 통합관리 기술 개발에 주력한다. 자체 보유하고 있는 LLM 기술 기반 검색증강생성(RAG) 기술을 적용해, 멀티모달 질의 이해 및 답변 생성 기술부터 LLM의 성능을 높이기 위한 언어모델 최신화 기술, 효율적인 데이터 학습 및 관리를 위한 RAG 데이터 파이프라인 기술, 도메인 실증까지 전반의 기술 개발을 총괄 수행한다. 본 과제는 연구개발에 이어 의료(전남대학교병원), 법률(앤쌤), 제조(JB주식회사), 미디어 광고(SBSi) 등 다양한 도메인에서의 실증을 통해, 각종 비즈니스 환경과 사용자 요구에 맞춘 현실 데이터로 검증하는 단계를 거칠 계획이다. 특히 그간 전통적인 제조 분야의 산업현장, 반도체 공정 등에서 멀티모달 RAG기술에 대한 필요성이 꾸준히 제기되어 왔던 만큼, 본 기술을 반영하여 수요가 있는 다양한 분야에서 더욱 복잡하고 효율적인 작업을 수행할 수 있게 실증사업을 진행할 예정이며, 향후 더 많은 고객군을 대상으로 사업을 확대해 나갈 것으로 기대를 모으고 있다. 또한, 다양한 멀티모달 데이터 통합처리를 통해 LLM의 데이터 이해 및 분석 역량을 향상하고 맞춤형 응답과 문제 해결능력을 함양할 수 있어, AI 서비스를 활용하는 고객의 사용자 경험 및 만족도를 대폭 향상시킬 전망이다. 강용성 와이즈넛 대표는 “향후 인공지능이 ‘인간처럼’ 사고하고 상호작용하기 위해서는 멀티모달 RAG기술은 필수적”이라며, “와이즈넛은 이번 연구에서 멀티모달 RAG기술을 통해 AI 기술 수준을 한 단계 업그레이드하고, 혁신적인 비즈니스 모델을 선제적으로 창출하는 기술적 토대를 마련할 것”이라고 말했다.

국민의힘과 정부는 29일 이른바 ‘딥페이크 성범죄’를 근절하기 위해 국무조정실에 종합 컨트롤 타워를 설치하기로 했다. 또 허위 영상물을 제작·유포하는 행위에 대한 처벌을 대폭 강화하기로 했다. 이날 당정은 국회에서 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 가진 뒤 이같이 밝혔다. 김상훈 국민의힘 정책위의장은 “현행 성폭력처벌법상 허위 영상물의 편집 또는 반포 행위는 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해지는데, 상한을 7년으로 강화하는 입법이 필요하다는 판단”이라고 설명했다. 김 위원장은 또 종합 컨트롤 타워 설치에 대해 “딥페이크 관련해 전체적으로 부처에서 각각 대응하고 있다는 느낌”이라며 “국무조정실이 역할을 맡아줘야 한다”고 설명했다. 당정은 딥페이크 기술을 활용한 허위 영상물이 주로 유포되는 텔레그램 등 해외 플랫폼이 불법 정보를 자율 규제할 수 있도록 정부 측이 핫라인을 확보하는 방안을 추진한다. 한동훈 국민의힘 대표는 이날 회의에서 “21대 국회에서도 인공지능(AI) 기본법이나 성폭력범죄 특례법 등 딥페이크 기술 부작용을 막기 위한 법의 재개정 노력이 있었는데 만족할 만한 성과를 내지 못했다”며 “딥페이크 기술을 악용하는 것도 인간이지만 이를 막을 수 있는 것도 인간이다. 사회의 법과 제도 안에서 이 문제를 해결해 내야 한다”고 말했다.

롯데마트는 다방면으로 AI를 활용 중이다. ‘AI 선별 시스템’ 활용해 신선식품 품질 관리 프로세스를 고도화했고, 롯데그룹의 자체 AI 플랫폼 ‘아이멤버’(Aimemver)를 도입해 업무 검색의 효율성을 높였다. 이번에는 롯데마트를 방문객에게 다채로운 쇼핑 경험을 주고자 AI를 마케팅에 접목한 다양한 콘텐츠를 선보였다. 롯데마트는 생성형 AI 음원 제작 플랫폼 이용해 만든 음원을 지난 8일부터 매장 배경음악(BGM)으로 송출 중이라고 29일 밝혔다. 이번에 공개한 음원은 ▲롯데마트, 즐거운 시간 ▲요리하다, 지친 너를 위해 ▲마블나인, 파티 투나잇(Marble Nine, Party Tonight) 총 3가지로, 작곡, 작사, 가창 등 음원을 구성하는 모든 영역을 생성형 AI를 활용해 만들었다. 해당 음원들은 K팝 장르의 경쾌한 댄스곡으로, 롯데마트의 대표 자체브랜드(PB)인 ‘오늘좋은’과 ‘요리하다’, ‘마블나인’을 주제로 생성된 트렌디한 가사가 인상적이다. 특히, 기획부터 제작까지 소요된 기간은 이틀에 불과하며, 작곡가와 가수를 섭외해 제작하는 기존 방식보다 비용과 시간을 90%가량 절감했다. 이번 AI 음원은 ‘ZRT(gen Z Round Table) 2기’가 롯데마트의 대표 브랜드를 소비자에게 쉽고 재밌게 전달하기 위해 제작한 콘텐츠다. ‘ZRT’는 롯데마트가 Z세대의 소비 인사이트를 얻고자 대형마트 업계 처음으로 선보인 대학생 싱크탱크 프로그램으로, ZRT 2기는 ‘AI 마케팅’을 주제로 음원과 영상, 이미지 등 생성형 AI를 활용한 콘텐츠 개발에 힘쓰고 있다. 향후에는 추석과 설날, 크리스마스 등 주요 시즌을 테마로 생성한 AI 배경음악을 선보일 예정이며, 월별 대표 과일을 주제로 만든 ‘월간 AI 과일송’을 제작해 매장 내 시즌감을 더한다는 계획이다. 또한 이번 추석 선물세트 사전예약 기간에 맞춰 ‘선물세트 카달로그’를 생성형 AI를 활용해 영상 콘텐츠로 제작, 전 점에서 송출 중이다.

3년간 딥페이크 성범죄 실형 4건뿐미성년자 성관계 500여건 올려도법원 “대부분 가짜인지 알 수 있어”연예인 합성물 5800개 업로드해도영리 목적의 범행 아니라며 ‘감경’“다른 성범죄 수준 양형 강화해야”정치권도 뒤늦게 법안 7개 쏟아내서울시·방심위 ‘삭제 핫라인’ 구축올 학생·교사 피해 179건 수사 의뢰교육부, TF 구성해 10월 중 대응책 딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량이 선고돼 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 오는 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 오세훈 서울시장은 이날 류희림 방송통신심의위원장과 업무협약을 맺고 딥페이크 음란물 영상 신고가 들어올 경우 24시간 이내에 삭제하는 ‘핫라인’을 가동하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 승인을 기다리다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 나온다.

우원식 “양질의 법률 위한 제도”박상철 “해외 주요국선 보편화” 국회입법조사처와 국무조정실, 한국경제인협회 등 각계 기관과 윤재옥 국민의힘 의원 등이 모여 의원 입법에 대한 입법영향분석 제도 도입 필요성을 논의했다. 이들은 불필요한 규제를 예방하고 부실 법안 발의 등을 막으려면 법령의 영향을 객관적·과학적으로 분석하는 관련 제도가 필요하다는 데 의견을 같이했다. 28일 한경협 등 산업계와 노동계, 시민단체, 정부, 학계, 연구기관 등 17개 기관을 비롯해 윤 의원과 박성준·부승찬 더불어민주당 의원 등이 서울 영등포구 국회도서관 대강당에서 ‘더 좋은 법률과 입법영향분석: 각계가 말하다’를 주제로 세미나를 개최했다. 윤 의원과 박 의원, 부 의원은 앞서 법률안 발의 시 입법영향분석서를 제출하도록 하는 국회법 일부 개정법률안을 각각 대표 발의한 바 있다. 우원식 국회의장은 축사를 통해 “입법영향분석은 입법 과정에서 사회경제적 복잡성, 이해관계자의 다양성, 기술과 가치의 변화 등을 충분히 고려함으로써 양질의 법률안을 만들고 법률 심사의 효율성을 높이기 위한 제도”라면서 “의원의 입법권을 침해하는 게 아니냐는 우려와 입법 지연 가능성도 제기돼 왔지만, 의원들이 이 제도의 여러 측면을 충분히 인식하고 논의에 참여해서 함께 만들 수 있도록 잘 뒷받침하는 것이 매우 중요하다”고 말했다. 박상철 입법조사처장은 “의회주의와 법치주의가 성숙한 유럽의 많은 국가들은 영향분석을 거쳐 법을 만드는 것이 이미 보편화돼 있다”면서 “우리 국회도 입법영향분석을 통해 과학적이고 근거에 기반한 입법활동을 본격화할 필요가 있다”고 강조했다. 김창범 한경협 상근부회장은 “의원입법 법률안은 정부 입법과 달리 사전 영향분석이 없어 불필요한 규제가 쉽게 만들어지는 상황”이라며 “불필요한 규제를 예방하기 위해 의원입법에 대한 입법영향분석이 필요하다”고 말했다. 박성호 한국인터넷기업협회장은 “과거 인터넷 실명제법이 통과된 이후 결과적으로는 국내 온라인동영상서비스 업체들이 망하는 일이 있었다”면서 “디지털 인공지능(AI) 패권 경쟁이 치열한 현 상황은 전문가들이 (발의 법안에 대해) 더 많은 분석을 해야 하는 시점”이라고 말했다. 기조 연설에 나선 성낙인 전 서울대 총장은 “사회변화 속도에 비례해 법안 발의가 증가하고 있으나 이에 대한 충분한 논의·검토 및 대안 모색이 어려운 상황”이라면서 “국민 생활과 직결되는 경제 분야 규제를 사전에 충분히 검토하지 않을 경우 그 영향이 매우 크다는 점을 고려할 때 의원입법에 대한 입법영향분석 도입은 중요하다”고 말했다.

최근 사망한 프랑스 유명 배우 알랭 들롱이 자신의 재산 일부를 나누겠다며 온라인 카지노 가입을 독려하는 영상이 확산되고 있는 가운데, 이는 AI(인공지능)를 이용한 피싱으로 드러났다. 28일(이하 현지시간) 온라인 사기를 추적하는 한 엑스(X·옛 트위터) 계정에 따르면 최근 페이스북에 들롱이 온라인 카지노 사이트를 홍보하는 동영상이 유포되고 있다. 영상 속엔 양복 차림의 들롱이 등장하고 목소리 역시 들롱인 것 같지만 이는 AI가 꾸며낸 가짜다. 이 영상에서 AI로 만들어진 들롱은 “여러분이 이 비디오를 보고 있을 때면 나는 이미 죽었을 것”이라며 “내 온라인 카지노에서 여러분이 따지 못하면 10만 유로(약 1억 4000만원)를 주겠다”고 제안한다. 이어 “내 돈의 일부를 모든 프랑스인에게 나눠주기로 결정했고 그게 옳은 일이라고 생각한다”며 “누구나 첫날부터 4천 유로(약 590만원)를 받을 수 있다”고 말한다. 들롱은 자기 딸이 이미 온라인 카지노 애플리케이션(앱)을 출시했다며, 계정에 돈을 충전하고 게임을 시작하라고 권유하기도 한다. 이 영상에 첨부된 링크를 클릭하면 구글플레이 스토어를 모방한 가짜 사이트로 연결되고 이어 ‘카지노 들롱’이라는 역시 가짜 애플리케이션이 등장한다. 일간 르피가로는 사용자가 이 애플리케이션을 다운로드하면 사용자의 개인 정보와 은행 정보 등이 유출돼 금전 피해를 볼 수 있다고 경고했다. “유명인 AI 사기 증가…SNS 플랫폼 방치”AI 사기 전문가인 빅토르 바이사트는 일간 르파리지앵에 “유명인 이미지를 사기에 활용하는 사례가 점점 더 많아지고 있다”고 우려했다. 지난 3월엔 프랑스 축구 스타 킬리안 음바페도 카지노 홍보 가짜 영상에 등장한 바 있다. 바이사트는 “사기꾼들은 이런 광고를 유포하기 위해 메타에 돈을 내고 있으며 계속해서 광고를 올린다는 건 이런 식의 사기가 효과가 있다는 방증”이라며 SNS 플랫폼이 사실상 이를 방치하고 있다고 지적했다. 한편 ‘가장 아름다운 남자’로 전 세계의 추앙을 받으며 프랑스 영화 황금기를 이끈 들롱은 지난 18일 자택에서 89세를 일기로 숨을 거뒀다. ‘태양은 가득히’(1960), ‘태양은 외로워’(1962), ‘파리는 불타고 있는가’(1966), ‘볼사리노’(1970), ‘조로’(1975) 등 50여년간 90여편의 영화에 출연하며 숱한 명작을 남겼다. 1990년대 이후로는 스크린에서 거의 볼 수 없었으며, 2019년 뇌졸중으로 쓰러져 수술받은 후에는 요양 생활을 해왔다.

딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 허위영상물을 제작·반포하는 행위만으로도 처벌하는 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량을 선고해 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 경찰청 국가수사본부가 내년 3월까지 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시하는 가운데 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 사전 승인을 받기 위해 대기하다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 있다.

아동 후원 단체인 굿네이버스가 ‘1점 궁사’로 알려진 이스라엘 마다예(36)를 ‘굿네이버스 글로벌 인플루언서’로 위촉했다고 28일 밝혔다. 위촉식은 지난 26일(현지시간) 아프리카 차드 수도 은자메나에 위치한 굿네이버스차드에서 진행됐다. 마다예는 “굿네이버스와 함께 많은 이들에게 긍정적인 영향을 미칠 수 있게 돼 기쁘다”며 “아프리카 아이들이 어려운 환경 속에서도 꿈을 잃지 않고 도전하기를 바란다”고 말했다. 굿네이버스는 마다예와 함께 교육, 아동 보호, 사회적 인프라 개선 등을 위한 다양한 프로젝트를 진행할 예정이다. 최용기 굿네이버스차드 대표는 “불가능해 보이는 상황 속에서도 끊임없이 도전한 마다예의 경험이 전 세계에 희망의 메시지로 확산하기를 기대한다”고 말했다. 마다예는 2024 파리올림픽 양궁 남자 개인전 64강에서 김우진(청주시청)과 맞대결 중 2세트 마지막 화살로 1점을 쏴 누리꾼들로부터 ‘1점 궁사’라는 별명을 얻었다. 당시 민무늬 티셔츠를 한 장을 걸치고 가슴 보호대도 없이 활시위를 당기는 모습으로 화제가 된 그는 장비와 환경 등이 열악한 차드에서 한국 양궁 선수들의 영상을 보면서 훈련했다고 말했다. 아프리카 최빈국 중 하나인 차드를 대표해 나선 그의 열정에 누리꾼들의 응원이 이어졌다. 국내 기업도 나섰다. 양궁 장비 제조기업 파이빅스는 “포기하지 않고 양궁을 끝까지 해주길 바란다”며 마다예를 후원하기로 했다. 덕분에 마다예는 2028 로스앤젤레스올림픽까지 훈련과 경기 출전에 필요한 물품을 해마다 받을 수 있게 됐다. 한국인들의 사랑과 응원에 그는 지난 21일 한국에 대한 애정을 드러내기도 했다. 마다예는 인스타그램에 태극기 사진과 함께 “J´aime le drapeau”(나는 이 깃발을 좋아한다)고 적었다. 앞서 11일에는 차드의 독립기념일을 축하하는 메시지와 함께 “차드에 있는 한국인들도 잊지 않겠다”며 감사를 표했다.

‘딥페이크’ 기술을 활용한 디지털 범죄가 기승을 부리는 가운데, 국회에서 축구 국가대표팀 주장 손흥민(토트넘 핫스퍼)을 활용해 투자 사기를 벌이려는 허위 동영상이 국회에서 공개됐다. 김장겸 국민의힘 의원은 28일 국회 과학기술정보방송통신위원회 전체회의에서 딥페이크 범죄의 심각성을 환기하기 위해 이같은 영상을 공개했다. 영상은 생성형 인공지능(AI)이 손흥민의 목소리를 학습해 손흥민이 녹음한 것처럼 꾸민 목소리가 나온다. 영상 속 손흥민은 “축구선수이자 경험 많은 투자자”라고 자신을 소개하며 “인스타그램 팔로워 1400만명 돌파를 기념해 4월에 급등한 우량주 3개를 무료로 공유드린다”고 말했다. 이어 “‘어시스턴트’ 카톡을 추가하고 아라비아 숫자를 보내는 선착순 200명에게 무료로 저의 독점 사인 사진과 스톡 나우 팬미팅 티켓을 받을 수 있다”고 홍보했다. 영상은 손흥민이 소속팀 경기를 마치고 영국 매체와 인터뷰하는 화면에 AI로 생성한 손흥민의 목소리를 합성했다. 김 의원은 “이처럼 딥페이크로 합성된 영상이 인터넷에서 유포되고 있다”며 “우리 같은 경우 딥페이크라는 걸 인지할 수 있지만 일반 국민들은 모를 수 있다”고 우려했다. 이어 “AI를 활용하면 이런 영상을 쉽게 만들 수 있다”면서 “텔레그램을 통해 지역과 학교, 나이를 불문하고 무차별적으로 불법 합성물이 퍼지고 있다”고 지적했다. 이에 김태규 방송통신위원회 직무대행(부위원장)은 “방송통신심위원회는 삭제 및 차단 요구를 할 수 있고, 시정명령이 이행되지 않을 경우 방송통신위원회가 형사고발 조치할 수 있다”고 밝혔다. 그러면서 “지금 딥페이크 영상물 피해자의 신상정보도 긴급 심의에 포함시키는 내용, AI 생성물 표시제를 도입하는 부분, AI 서비스 이용자에 대한 보호 법규를 마련하는 부분, AI 피해 신고 창구를 활용하는 방법을 고민하고 있다”고 답했다.

인공지능(AI) 기술을 이용해 개인의 얼굴을 음란물과 합성한 가짜 영상물(딥페이크)들이 기승을 부리고 있다. 텔레그램 대화방을 중심으로 유포되면서 최소 100개 이상의 국내 대학과 중고교 등에서 피해자가 속출하고 있다. 대화방에 유포된 허위 영상 속 피해자들은 중고생 미성년자는 물론 군인, 교사 등 나이와 직업을 가리지 않고 다양했다. 연예인 등 유명인들의 초상을 음란물로 합성하던 수준을 넘어 불특정 다수를 상대로 디지털 성범죄가 만연하니 이만저만 불안하지 않다. 어제 윤석열 대통령도 “딥페이크는 명백한 범죄”라며 척결을 주문하고 나섰다. 성적 허위 영상물의 급증 추세는 놀랍다. 방송통신심의원회에서 접속 차단과 이용 해지 등 시정 조치한 허위 영상물 건수는 2020년 473건에서 지난해 7187건으로 15배 불어났다. 올해만 해도 지난 7월 말 현재 지난해 대비 90%(6434건)나 치솟았다. 방통심의위는 긴급 대책회의를 열고 텔레그램 피해 신고 접수, 모니터링 강화, 수사 의뢰 등 가능한 조치를 모두 동원하기로 했다. 만시지탄인 측면이 크다. 텔레그램에 개설된 단체 채팅방을 통해 불법 음란물을 생성하고 거래·유포한 디지털 성범죄 ‘N번방’ 사건이 터진 게 이미 5년 전이다. 사이버 성범죄가 더 지능화할 환경이 뻔한데 선제적 예방에 소홀했던 것 아닌지 따져 보지 않을 수 없다. 사이버 성범죄는 일반 범죄와 달리 순식간에 불특정 다수에게 확산한다는 점에서 문제의 심각성은 더 크다. 게다가 지금은 생성형 AI로 딥페이크 사진과 영상을 너무나 손쉽게 만들 수 있는 시대다. 정부 단속을 피하려는 허위 영상물 제작자의 수법도 갈수록 고도화되고 있다. 불법 촬영물을 제작, 유포하는 사이트 운영자들은 문제적 동영상의 추출과 다운로드를 막기 위해 영상 소스를 숨기는 등 수사기관의 추적을 탐지 단계에서부터 철저히 방해한다. 사이버 성범죄의 방치는 사회적 재난을 부를 수 있다. 신속하고 강력한 대책이 전방위로 보강돼야 한다. 허위 영상물 유포에 대한 엄벌뿐만 아니라 수위 높은 허위 영상물 소지도 처벌하는 입법보완이 무엇보다 절실하다. 허위 영상물은 일반 불법영상물과 달리 소지, 구입, 저장, 시청 자체는 처벌하지 않고 유포, 배포만 처벌한다. 허위 영상물 단속에 플랫폼도 적극 동참해야 한다. 텔레그램뿐만 아니라 국내 포털에도 유해 콘텐츠는 적지 않다. 10대 청소년에 대한 교육 강화는 말할 것도 없다. 소셜미디어(SNS) 이용이 일상인 청소년들은 딥페이크 음란물에 대한 범죄 인식이 희박하다. 지난해 성적 허위 영상물 유포 가해자의 76%가 10대였다.