서울 금천구는 오는 9월 한 달간 정보기술(IT)과 패션 중심 G밸리 가산지역의 대표 축제 ‘금천 GC 페스타’를 개최한다고 2일 밝혔다. ‘금천 GC 페스타’는 지역명 금천(Geum-Cheon)과 새로운 도시 상표 ‘Good City’에서 각각 GC를 따서 지어졌다. ‘금천패션영화제’를 중심으로 다양한 행사와 연계해 G밸리의 과거·현재·미래를 연결하고, 가산동에 많이 거주하는 1인 가구와 2030 직장인의 가치관과 수요를 반영하기 위해 기획됐다. 구는 ‘G밸리위크’ 기간에 맞춰 ‘금천패션영화제’의 개최 시기를 기존 11월에서 9월 초로 변경하고, ‘2024 금천라이브’, ‘금천과학축제’, ‘당신의 금천마켓’, ‘북페스티벌’, ‘금천청년축제’ 등을 준비했다. 2일부터 6일까지는 산업단지 60주년 기념 G밸리 산업문화축제 ‘G밸리위크’가 진행된다. G밸리 근로자 문화행사, 스마트마라톤 대회, 금천 순이의 집 체험관 특별전, 수출상담회 등 다양한 행사가 예정돼있다. 구는 G밸리의 기업과 근로자, 주민들이 함께 즐길 수 있도록 한국산업단지경영자협의회 서울(KIBA), 구로구, 서울시, 한국산업단지공단, 서울경제진흥원(SBA)과 함께 행사를 준비했다. 5일 오후 6시에는 가산동 SK V1센터와 W센터 건물 사이 공간에서 직장인과 1인 가구를 위한 길거리 공연 ‘2024 금천라이브’가 개최된다. 사전에 접수된 G밸리 직장인들의 사연 중 핵심 단어들을 정리해 인공지능(AI) 작곡 프로그램으로 제작한 음악을 선보인다. 정보기술 관련 산업에 주로 종사하는 직장인과 주민들의 공감과 흥미를 불러일으킬 예정이다. 6일과 7일 금천구청 앞 광장 일대에서는 ‘AI로 공감하는 금천, 과학으로 소통하는 미래’라는 주제로 ‘제6회 금천과학축제’가 개최된다. 표창원 범죄과학연구소장의 특별강연과 과학수사 범죄분석(프로파일링) 체험전, 인공지능 로봇 관련 기업 연계 공간, 과학동아리 체험관 등 50개가 넘는 과학 관련 콘텐츠를 만날 수 있다. 6일 오후 6시 마리오·까르뜨니트 공장(디지털로9길 90)에서는 패션을 주제로 하는 국내 유일의 ‘제4회 금천패션영화제’ 개막식이 열린다. 8일까지 마리오·까르뜨니트 공장 내부에서 개막작 등 특별상영과 전시, 추억의 게임장터, 인공지능 영상 제작 강좌 등을 운영하고, 롯데시네마 가산점에서는 본선 진출 작품을 상영한다. 7일에는 현대아울렛 가산점 인근에서 주민참여 벼룩시장(플리마켓)인 ‘2024 청년공감 당신의 금천마켓’과 패션쇼, 자선장터 등 부대행사가 열린다. 8일에는 디지털로10길 22에서 직장인을 위한 ‘G밸리 직장인 3대3 농구대회’ 행사가 진행되고, 현대아울렛 가산점 앞에서 환경과 기후 위기를 주제로 한 책 축제 ‘금천구 도서관 북페스티벌’도 개최된다. 28일 ‘금천 GC 페스타’의 마지막은 ‘금천청년축제’가 장식한다. 금천구청 광장 일대에서 청년축제 기획단이 직접 기획한 무대공연, 게임과 체험 프로그램, 먹거리 구역과 장터 등 다채로운 프로그램을 운영할 예정이다. 유성훈 금천구청장은 “가을철 주요 행사를 플랫폼 형식으로 연계하여 가산지역의 특성에 맞는 브랜드 축제를 기획했다”며 “‘금천 GC 페스타’가 금천의 브랜드 축제를 넘어 서울의 대표적인 축제로 자리매김하도록 노력하겠다“라고 말했다.

SM엔터테인먼트가 만든 가상인간 나이비스(nævis)가 데뷔한다. 나이비스는 그룹 에스파(aespa)의 조력자 캐릭터로 최근 에스파 콘서트에 깜짝 등장해 화제를 모았다. 나이비스는 에스파 멤버들이 현실인 리얼 월드와 ‘광야’로 불리는 디지털 월드를 오갈 수 있게 해주는 능력을 지녔다는 설정으로, 지난해 에스파의 세 번째 미니음반 수록곡 ‘웰컴 투 마이 월드’에 피처링으로 참여했다. 제작을 맡은 SM 버추얼 IP 센터는 나이비스가 플랫폼과 콘텐츠에 따라 사람의 모습을 본뜬 3D 캐릭터에서 애니메이션을 떠오르게 하는 2D 캐릭터까지 유연하게 외형을 바꿀 수 있도록 설계했다고 설명했다. 인공지능(AI) 음성 기술을 활용해 목소리를 만들고 생성형 AI로 콘텐츠를 제작했다. 나이비스는 음악 활동과 더불어 게임, 브랜드 협업 상품 등으로 IP(지식재산)를 확장해나갈 계획이다. 이를 위해 SM엔터테인먼트는 LG유플러스와 손잡고, 나이비스의 콘텐츠를 제작한다고 발표했다. LG유플러스가 자체 개발한 생성형 인공지능(AI) ‘익시젠’을 활용한 이미지와 영상이 나이비스의 뮤직비디오, 쇼츠, 굿즈 제작 등에 활용된다. LG유플러스는 “SM은 버추얼 아티스트에 AI를 결합함으로써 새로운 문화 장르를 만들고 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서의 긍정적 효과를 기대할 수 있게 됐다”고 말했다. 아담 넘은 ‘가상 인간’ 전성시대1998년도에 등장한 국내 최초 사이버 가수 ‘아담’ 이후 30여년이 흐른 지금 ‘가상 아이돌’이란 통칭 아래 다양한 콘셉트의 그룹들이 등장하고 있다. 실제 인간 멤버 4명과 버추얼 휴먼 멤버 1명으로 조합된 최초의 ‘AI과 사람’ 그룹 슈퍼카인드는 게임 속 캐릭터를 캐스팅했다는 설정을 지닌다. 카카오엔터테인먼트가 기획한 버추얼 아이돌 서바이벌 예능 프로그램 ‘소녀 리버스’는 대중들에게 익숙한 웹툰 스타일의 캐릭터를 차용했다. 실제 30명의 전현직 K-팝 걸그룹 멤버들이 가상현실(VR) 기기를 이용해 메타버스 세상 속에서 정체를 숨긴 채 경쟁하는 콘텐츠로 대중성도 확보했다. 버추얼 멤버들로만 구성된 11인조 걸그룹 ‘이터니티’ 역시 2D 딥페이크 기술을 적용해 만들어진 아이돌로, 신진 아티스트들의 재능 기부를 받아 데뷔곡을 제작했다. 이터니티의 멤버 제인은 4부작 웹드라마에서 정식 배역을 맡아 진짜 사람을 연기한다. 실제 배우가 촬영한 동작 데이터에 AI의 데이터를 녹이는 방식으로 구현하는 식이다. 제인은 한 방송에 출연해 직접 진행자와 대화하며 “음주 관련 사건 사고·연예인 갑질·사회의 물의를 일으킬 일이 없다”고 버추얼 아이돌 그룹으로서의 장점을 소개하기도 했다. 전문가들은 현재까지는 버추얼 아이돌이 일부 마니아층이나 1020세대에서 주로 인기를 끄는 만큼 팬덤의 확장, 대중성 확보가 성공의 가장 큰 관건이 될 것이라고 전망하고 있다.

서울시의회 이상욱 의원(국민의힘·비례)이 3일 서울시의회 의원회관 제2대회의실에서 ‘AI·빅데이터 활용 더 안전한 서울 만들기’ 토론회를 개최한다. 토론회는 이상욱 의원, 한국안전정책학회가 주관한다. 토론회는 최은수 서울과학종합대학원 석학교수의 ‘사람관제(VMS)를 넘어 AI 관제(AMS)로 서울시 AI 통합관제시대 구현하기’, 조윤식 중앙대학교 AI 학과 교수의 ‘초거대 영상검색모델(VLM)로 빅데이터 생성을 통한 서울시 ‘예방안전’ 구현‘ 2개의 주제발표가 준비돼있다. 조가영 서울연구원 연구위원, 임승철 서울시 정보통신과장, 이성관 극동대 특임교수, 이창윤 한국안전정책 포럼 부회장, 김현중 서울시 재난안전정책과장이 ’더 안전한 서울 해법 모색‘을 주제로 토론을 진행한다. 축사를 맡은 석재왕 교수(건국대 안보재난관리학과)는 “기후위기가 점점 다가옴에 따라 재난안전산업이 체계적으로 육성되어야 한다”라며 토론회의 필요성을 강조했다. 이 의원은 “이번 토론회가 기후위기에 따른 폭우, 폭염 등 자연재해로 인한 위험이 일상화됨에 따라 서울 시민의 안전을 보장하기 위한 구체적인 방안을 모색하는 중요한 자리”라며 “AI와 빅데이터를 활용한 안전 대응 전략이 시민들의 생명과 재산을 보호하는 데 큰 역할을 할 것으로 기대된다”고 밝혔다. 이어 “이번 토론회를 통해 실질적인 방안이 제시되고 활발한 논의가 이뤄져 안전한 서울을 만드는 중요한 초석이 되기를 바란다”고 말했다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

LG유플러스가 SM엔터테인먼트와 생성형 인공지능(AI) 기반 콘텐츠 개발 협력을 위한 업무협약을 체결했다. 이를 계기로 SM엔터테인먼트의 첫 번째 버추얼 아티스트인 ‘나이비스’의 뮤직비디오 등 콘텐츠 제작에 LG유플러스가 자체 개발한 생성형 AI ‘익시젠’(ixi-GEN)이 활용된다. 1일 LG유플러스에 따르면 양사는 지난달 29일 서울 성수동 SM엔터테인먼트 사옥에서 업무협약식을 갖고 이런 내용에 합의했다. 업무협약식에는 정수헌 LG유플러스 컨슈머부문장(부사장), 정혜윤 마케팅그룹장, 한영섭 AI테크랩장, 김희진 통합브랜드마케팅팀장, 탁영준 SM엔터테인먼트 공동대표, 박준영 최고크리에이티브책임자(CCO), 이종호 버추얼IP비즈유닉장, 김선택 버추얼IP콘텐츠유닛장 등 양사 주요 관계자가 참석했다. 이번 업무협약으로 LG유플러스는 자체 개발 생성형 AI 익시젠을 활용해 SM엔터테인먼트의 첫 번째 버추얼 아티스트 나이비스의 콘텐츠 제작에 나선다. 익시젠이 생성한 이미지와 영상을 활용해 뮤직비디오와 쇼츠, 굿즈 등을 제작하고 이를 통해 전 세계 K팝 팬들에게 AI 경험을 제공한다는 계획이다. SM엔터테인먼트는 버추얼 아티스트에 AI 기술을 결합함으로써 새로운 문화 장르로 만들어가겠다는 포부다. 특히 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서 긍정적 효과를 기대하고 있다. 앞서 LG유플러스는 올 초부터 마케팅의 전 영역을 AI 중심으로 혁신하는 ‘익시 프로덕션’ 프로젝트를 진행하고 있다. 이번 SM엔터테인먼트 협업도 익시 프로덕션 활동의 하나로 AI를 활용한 새로운 고객 경험을 창출해 나간다는 방침이다. 정수헌 LG유플러스 부사장은 “국내 대표 기획사인 SM과의 협업은 U+고객을 넘어 글로벌 K팝 팬들에게도 새로운 디지털 경험을 제공할 뿐 아니라 마케팅, 브랜딩 측면에서 높은 시너지를 창출할 것으로 기대된다”고 전했다. 탁영준 SM엔터테인먼트 공동대표도 “LG유플러스의 생성형 AI 익시젠과 SM의 버추얼 아티스트 나이비스 간의 협업은 단순한 비즈니스 제휴를 넘어 양사 간의 창의적 시너지를 통해 미래 지향적인 콘텐츠와 기술 혁신을 실현하는 중요한 이정표가 될 것”이라고 강조했다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

호주의 한 광산 회사 사장이 회사 밖으로 나가서 커피를 사 먹는 직원들 때문에 회사가 너무 많은 돈을 낭비하고 있다고 주장한 것으로 알려졌다. 29일(현지시간) BBC에 따르면 호주의 광물 자원 회사 미네랄리소스의 사장 크리스 엘리슨은 지난 28일 재무 실적 발표에서 “직원들을 하루 종일 회사에 사로잡아 둬야 한다”고 주장했다. 그는 “직원들이 회사 밖으로 나가는 것을 원하지 않는다”며 “본사에는 레스토랑, 9명의 직원 심리상담사, 체육관 등 여러 시설이 갖춰져 있다”고 전했다. BBC에 따르면 이 회사는 ‘재택근무 금지’ 정책을 엄격히 고수하고 있다. 엘리슨은 “사무실에서 일하는 것이 집에서 일하는 것보다 효율이 높다는 내 생각을 업계 전체가 공감해야 한다”고 강조했다. 그는 “광산 업계는 (재택을 시킬) 여유가 없다”며 “사람들이 주 3일 일하고 주 5일 급여를 받는 것을 허용할 수 없으며 주 4일 급여를 받는 것도 허용할 수 없다”고 했다. BBC는 재택근무 금지 정책을 시행한 사장이 엘리슨이 유일하지는 않다고 전했다. 영국 런던에 본사를 둔 한 스마트폰 제조업체 대표는 최근 모든 직원에게 이메일을 보내 재택근무를 금지한다고 발표한 것으로 알려졌다. 대표는 “논란의 여지가 있는 결정이라는 것을 알지만 우리 사업 유형에는 적합하지 않다”며 “회사로서의 잠재력을 실현하기 위한 방법”이라고 밝혔다. 앞서 에릭 슈밋 전 구글 최고경영자(CEO) 또한 구글이 인공지능(AI) 기술 경쟁에서 뒤처진 배경으로 재택근무 확산을 지목해 논란의 중심에 서기도 했다. 그는 스탠퍼드대 학생들을 대상으로 한 대담에서 “구글이 왜 AI 선두 자리를 오픈AI나 앤스로픽 같은 스타트업에 뺏겼는가”라는 질문에 “구글이 승리보다는 ‘워라밸’(work life balance)을 선택했기 때문”이라며 “반면 스타트업이 성공하는 이유는 그 사람들은 지옥처럼 일하고 있기 때문”이라고 답했다. 다만 그는 이후 월스트리트저널(WSJ)에 메일을 보내 “구글과 그들의 근무 시간에 대해 잘못 말했고 후회한다”며 해당 발언을 철회했다. 구글 모회사 알파벳 노조가 반발하는 등 논란이 커지자 대담 동영상은 비공개로 전환됐다. 구글은 팬데믹 이후 주 3회 사무실 출근 의무화 정책을 실시하고 있다.

국민의힘이 30일 “자유민주주의 헌법 가치를 지키는 정당으로서 민생과 국익을 훼손하는 야당의 막말과 거짓 선동에 단호히 맞서 싸우겠다”고 강조했다. 1박 2일 연찬회를 마무리한 국민의힘은 금융투자소득세(금투세) 폐지를 포함한 170개의 최우선 입법 과제를 선정해 발표했다. 국민의힘 의원들은 이날 인천국제공항공사 인재개발원에서 열린 ‘2024 국민의힘 국회의원 연찬회’를 마치고 이같이 밝혔다. 의원들은 결의문을 통해 “국민의 민생과 안전을 지키고 미래세대를 위한 연금·의료·교육·노동 등 4대 개혁을 책임 있게 이행하겠다”며 “인구·기후위기, 양극화, 지역소멸 등 공동체의 미래를 위협하는 과제에 적극 대응하겠다. 대한민국의 위상에 걸맞는 글로벌 외교를 뒷받침하며 한반도 통일 시대를 준비하겠다”고 했다. 한동훈 국민의힘 대표는 폐회사에서 “1박 2일 동안 많은 대화를 나눴고 저도 생각을 많이 했다”면서 “우리의 길은 미래를 열고 민생으로 가는 것이다. 우리가 정말 국민들이 원하는 정치를 할 수 있는 정치집단이라는 점을 국민들께 증명하고 국민들의 사랑을 되찾자”고 말했다. 그러면서 추경호 원내대표의 트레이드 마크인 “똘똘 뭉치자!”를 인용해 단합을 강조하기도 했다. 연찬회를 마친 국민의힘은 금투세·단통법(단말장치 유통구조 개선법) 폐지와 저출생 대응을 위한 인구전략기획부 신설을 포함한 최우선 입법 과제를 발표했다. 국민의힘 정책위원회는 이날 보도자료를 내고 ▲민생경제 활력 분야 ▲저출생 극복 분야 ▲의료개혁 분야 ▲미래먹거리 발굴 분야 ▲지역균형발전 분야 ▲국민안전 분야 등 총 6대 분야, 170개 법안을 제22대 정기국회 최우선 입법 및 통과 과제로 삼았다고 밝혔다. 민생경제 활력 분야에는 ‘티메프’ (티몬 위메프 정산지연 사태) 방지와 금투세 폐지 등 생활 밀착형 경제법안들이 담겼다. 저출생 극복 분야에는 인구전략기획부 신설, 육아휴직 연장 및 대상 연령확대와 임신기 근로시간 단축 등의 내용을 담았다. 또 ‘의료개혁’에 관해선 ‘의료사고 특례 지원’을 추진하겠다고 밝혔다. 미래먹거리 발굴 분야에서 인공지능(AI)과 원전, 반도체, 전력망 구축 등 첨단산업 인프라 지원을 확대하기로 뜻을 모았다. 지역균형 발전 분야에서는 수도권 집중를 해소하는 내용의 법안을 추진해 지역과 수도권의 경쟁력을 동시에 높이겠다고 밝혔다. 국민안전 분야에는 딥페이크 성범죄 등 디지털 성범죄 문제 해결을 위한 법안이 담겼다. 텔레그램에서 딥페이크를 이용해 불법 합성 영상물을 유포하는 성범죄가 기승을 부리자 이에 대한 대응책을 마련하겠다는 취지다. 또 제복 공무원 및 재해지원 중 순직한 일반 공무원에 대한 예우를 강화하고, 군 장병 및 예비군에 대한 처우 개선도 추진하기로 했다.

국민의힘과 정부가 타인의 얼굴을 합성한 음란물을 만들어 유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안도 검토하기로 했다. 당정은 29일 오전 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 진행하고 딥페이크를 포함한 허위 영상물 처벌을 현행법상 ‘최대 5년 이하의 징역 또는 5000만원 이하의 벌금형’에서 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진하기로 했다. 또 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위 영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 교육부는 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”고 했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 국민의힘 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 통과를 당부했다. 이외 국민의힘 10·16 재보궐선거 중앙당 공천관리위원회는 딥페이크 성범죄 등에 연루된 사람은 공천에서 배제하기로 했다. 이원석 검찰총장은 전국 일선 검찰청의 디지털 성범죄 전담 검사들과 화상회의를 열고 “성적 수치심 유발 정도가 중한 아동·청소년 대상의 허위 영상물이나 영리 목적의 허위 영상물 제작 사범은 원칙적으로 구속 수사하라”고 지시했다.

한동훈 대표 인재영입으로 뱃지 단 ‘친한’계삼성전자 출신에 매달 지역구서 청년 멘토링원외 韓 대표의 정책 행보는 법안 발의로 지원매주 금요일 [주간 여의도 Who?]가 온라인을 통해 독자를 찾아갑니다. 서울신문 정당팀이 ‘주간 여의도 인물’을 선정해 탐구합니다. 지난 일주일 국회에서 가장 눈에 띄었던 정치인의 말과 움직임을 다각도로 포착해 분석합니다. ‘갤럭시 신화’의 고동진 국민의힘 의원이 지난 26일 당의 인재 영입위원장에 임명됐다. 한동훈 국민의힘 대표가 사활을 건 ‘중수청(중도·수도권·청년)’ 중심의 외연 확장과 관련해 주요 역할을 할 것으로 기대된다. 고 의원은 4·10 총선 전 한동훈 당시 국민의힘 비상대책위원장에 의해 영입돼 서울 강남병에 당선돼 ‘친한’(친한동훈)계로 묶인다. 고 의원은 삼성전자 대표이사 출신으로 스마트폰 ‘갤럭시’ 시리즈 개발을 총괄한 주역으로 꼽힌다. 고 의원은 지난 2022년 삼성전자 정기인사를 통해 경영일선에서 물러난 뒤 2023년 자신의 경험을 담아 저서 ‘일이란 무엇인가’를 냈다. 고 의원에 대한 입당 제안은 한 대표가 그의 책을 읽고 직접 설득한 것으로 알려져 있다. 고 의원은 한 대표가 강조하는 중수청 확장에 주력할 것으로 보인다. 한 대표는 지난 26일 기자들과 만난 자리에서 “지금은 우리 당의 내실과 체질을 다질 때다. 당장 선거가 임박한 것은 아니니 체질과 정책을 다지는 게 중요하다”라고 강조했다. 또 중수청에 대해서 그는 “가만히 보면 실제로 교집합이 큰 영역이다. 우리가 인색한 부자 정당이 아니라, 현실 세계 국민의 어려움에 대해 집중할 것”이라고 계획을 밝혔다. 앞서 한 대표는 지난 5일에는 당의 인재영입의 중요성에 대해 강조했다. 한 대표는 “지금까지 전국 단위 선거에 임박해서 인재위가 후보를 영입하는 방식으로 운영됐지만 앞으론 중도나 수도권, 청년으로 외연 확장을 해야 하는 상황”이라면서 “인재영입위원회를 상설화하고 강화해 상시적으로 인재 발굴과 영입 교육을 하는데 당의 사활을 걸 필요가있다”라고 말했다. 이에 고 의원은 인재영입위원장 물망에 올라있던 지난 19일 채널A 라디오에서 한 대표의 인재영입위원회 상설화에 찬성 의견을 냈다. 고 의원은 “지난 총선에서 우리가 패인 원인을 분석을 하면 나왔던 게 중수청이다. 인재 영입을 위한 초점을 중도, 수도권, 청년에 맞춘다는 세팅은 잘된 것 같다”라고 했다. 이어 그는 “중도는 ‘나는 지금 결정하지 않았다’라는 의미가 크다. 중도층을 흡수하고 외연을 확장하기 위해서는 국민의힘이 민생을 위한, 정책을 위한 정당으로 평소에 열심히 노력을 해야되겠다”라고 말했다. 그는 “말로만 하는 게 아니라 실천을 함으로써 아직 결정을 하지 않은 분들이 공감할 수 있는, 당이 되어야 한다”고 덧붙였다. 고 의원이 인재영입위원장에 발탁된 배경에는 청년층과 호흡할 수 있다는 점, 대중적 인지도가 높다는 점 등이 영향을 미친 것으로 보인다. 정치에 입문하면서 그는 ‘청년의 미래’를 위해 일하고 싶다고 여러 인터뷰를 통해 강조하기도 했다. 또한 고 의원은 매달 지역구인 강남구에서 ‘청년 멘토링’을 진행하며 청년들과 진로 고민, 주요 관심사인 인공지능(AI) 등을 소재로 대화하고 있다. 당선 이후 이제까지 총 4번의 멘토링이 진행됐다. 한 대표가 중수청 회복을 위해 정치개혁의 일환으로 약속한 ‘지구당 부활’에 대해 고 의원이 정당법·정치자금법 개정안을 대표 발의해 뒷받침하기도 했다. 개정안에는 정당 운영을 국회의원지역선거구를 단위로 하는 지구당(지역당) 중심으로 변경하는 내용이 담겼다. 정당 및 후보자 등이 지역주민의 생활 현장에서 생생한 정치적 요구를 수렴할 수 있도록 하고, 풀뿌리 민주주의를 활성화하려는 차원이다. 고 의원은 법안 제안 이유에서 “지난 2004년에 정치개혁의 일환으로 지구당을 폐지했으나 예상했던 정치발전보다는 정당의 기반이 허약해지고 생활현장에서 지역주민의 다양한 의견과 요구를 청취할 수 없는 부작용이 오히려 더 크다는 비판이 제기되고 있다”고 지적했다. 또 “지구당 폐지 당시 지적되었던 고비용 및 운영상 부조리한 문제 등이 상당부분 개선되었다는 의견이 제시되고 있”고도 부연했다. 고 의원은 원외 대표인 한 대표의 정책 행보에도 법안 발의로 힘을 싣고 있다. 서울 은평구에서 발생한 일본도 살인 사건 이후 한 대표는 “총포·도검 소지 전반에 대한 재점검과 감독이 필요하다”고 발언했고, 이후 고 의원은 곧바로 정신질환자 도검소지 방지법을 발의해 대표를 지원 사격했다. 한 대표가 최근 19명의 사상자를 낸 경기 부천 호텔 화재와 관련해 스프링클러 의무 설치 제도의 미비점을 지적했을 때도 고 의원은 노후 숙박시설에도 스프링클러 등의 소방시설을 설치하도록 하는 소방시설 설치 및 관리에 관한 법률 개정안을 발의했다. 한편 고 의원은 국회 공직자윤리위원회가 지난 29일 공개한 22대 국회 신규등록 국회의원 147명 중 최고 자산가로 꼽혀 주목을 받기도 했다. 고 의원은 72억 4070만원의 한남동 아파트, 2021년식 페라리 자동차(2억 3108만원), 삼성전자 주식 4만 8500주 등을 포함해 총 333억 107만원을 신고했다.

텔레그램과 상시 핫라인 방침수사·상담·영상 삭제 지원 논의제작자도 처벌 포함 법안 추진국민의힘과 정부가 얼굴에 음란물을 합성·유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 것도 검토하기로 했다. 당정은 29일 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 진행하고 딥페이크를 포함한 허위영상물 처벌을 현행법상 ‘최대 징역 5년 이하 징역 또는 5000만원 이하’에서 불법촬영물과 마찬가지로 최대 징역 7년으로 강화하는 것을 추진하기로 했다. 또 해외에 서버를 둔 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 딥페이크 관련 중고생 피해 사례가 급증하는 만큼, 교육부 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “촉법소년 연령 하향 문제도 같이 생각해봐야 한다”며 “(딥페이크 범죄 영상 제작을) 하는 분, 혹시 하고 싶어하는 분 중에 촉법소년 연령에 있는 분들도 많을 것이다. 그런 점에서 저희가 지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나, 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”며 “현재 국회에 딥페이크 성범죄 관련 10여개의 법안이 발의돼 있지만, 본회의에서 아직 의결되지 않아 사실상 입법 공백 상태”라고 지적했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크 기술의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 조속한 통과를 당부했다.

미국에서 올해 11월 5일 대선을 앞둔 가운데 유럽의 젊은 여성 인플루언서들의 사진을 내걸고 공화당 대선 후보 도널드 트럼프 전 대통령을 지지하는 가짜 엑스(X·옛 트위터) 계정이 활개를 치고 있다고 미국 CNN 방송이 28일(현지시간) 보도했다. 일례로 자신을 위스콘신 출신의 32세 여성이라고 소개한 루나는 지난 3월 엑스(@Luna_2K24)에 가입한 후 트럼프 전 대통령의 선거 구호인 ‘마가(MAGA·Make America Great Again·미국을 다시 위대하게)’를 홍보하며 3만명의 팔로워를 확보했다. 그는 트럼프 전 대통령이 추가적인 암살 시도에 직면해 있다는 등의 음모론을 지속적으로 펼쳤고, LGBTQ(성소수자)와 트랜스젠더, 백신에 반대하고 인종 차별과 외국인 혐오를 조장하는 글을 다수 올렸다. 그는 흰색 비키니를 입고 해변에서 찍은 셀카를 공유하면서 “트럼프가 영원히 대통령이 되는 것을 지지하겠느냐”는 글을 올렸는데 조회수는 5만4000명에 달했다. 하지만 루나는 실제 인물이 아닌 것으로 드러났다. 사진 속 갈색 머리 여성은 미국 투표권이 없는 독일의 패션 인플루언서 데비 네더로프였다. 네더로프는 엔지니어링 회사의 소셜미디어 관리자이자 모델인 독일인으로 트럼프와 무관한 것은 물론 미국 대선 투표권이 없다. 네더로프는 CNN에 “내 얼굴이 트럼프의 지지 선전에 사용되고 있다는 사실에 화가 난다”며 “나는 미국과 아무 상관이 없다. 독일의 작은 마을에서 사는 내가 미국 정치에 신경이나 쓰겠냐”고 반문했다. CNN이 정보회복센터(CIR)과 조사한 결과 루나는 물론 네덜란드, 덴마크, 러시아 출신 패션 및 뷰티 인플루언서 17명의 유럽 여성 사진이 무단으로 도용된 엑스 계정이 트럼프의 지지를 도모하는 선전 도구로 이용되고 있다. CIR은 인권 침해를 폭로하는 독립적이고 비영리적인 사회적 기업이다. CNN은 “이들 인플루언서 사진을 도용해 만든 가짜 계정은 56개 엑스 계정 중 일부에 불과하다”고 전했다. CNN은 “해당 계정과 관련해 엑스에 연락했지만 답변을 받지 못했다”며 “해당 기사를 게시하기 24시간 전 동안 엑스는 대부분의 계정을 삭제했다”고 지적했다. 이어 “일론 머스크가 엑스를 인수한 이후 엑스에서 허위 사실과 음모론 유포를 방지하던 팀은 해체됐다”며 “CNN이 인터뷰한 유럽의 인플루언서는 자신의 사진이 동의 없이 사용되거나 신원이 도용됐다고 신고해도 소셜미디어(SNS) 플랫폼 운영사는 조치를 하지 않아 어려움을 겪고 있다”고 전했다. 그러면서 “온라인에서 여성의 신체적 자율권에 대한 위협이 커지고 있음을 보여준다”고 일갈했다. 선거 앞 가짜 콘텐츠에 대한 우려는 인공지능 기술이 확산하면서 지속돼 왔다. 잘못된 정보를 유포하고 가짜 동영상과 이미지를 통해 상대 후보에게 피해를 주려는 행위는 미국뿐 아니라 전세계 선거에서 나타나는 현상이기도 하다. 에밀리 혼 전 백악관 국가안보회의(NSC) 대변인은 올해 미국 대선을 앞두고 SNS를 이용해 허위 정보 캠페인을 시도한 여러 국가의 조직들이 있었다면서, 가짜 계정의 배후와 관련해서도 “이것은 국가 행위자일 수 있다. 정교함의 수준을 보면 러시아, 이란, 중국을 포함한 적대국 행위자 중 하나일 수 있다”고 말했다. 트럼프 “스위프트 지지, 수락한다” 논란 자초 트럼프 전 대통령은 지난 18일 세계적 팝스타 테일러 스위프트와 팬덤 ‘스위프티스’(Swifties)의 지지를 받았다는 가짜 사진을 소셜미디어에 게시하고 “수락한다”고 적어 논란을 자초했다. 트럼프 전 대통령은 자신의 소셜미디어 ‘트루스 소셜’에 스위프트와 팬들이 자신을 지지한다고 적힌 티셔츠를 입은 가짜 이미지를 여러 장 올렸다. 미국을 상징하는 ‘엉클샘’의 복장을 한 스위프트와 ‘테일러는 당신이 도널드 트럼프에게 투표하기를 원한다’고 적힌 사진, ‘트럼프를 지지하는 스위프티스’라고 적힌 티셔츠를 입은 여성들이 모여있는 듯한 사진, 지난 7일 스위프트의 오스트리아 빈 콘서트가 이슬람국가(ISIS)의 테러 가능성으로 취소된 뒤 팬들이 트럼프 쪽으로 돌아섰다는 가짜 뉴스 화면이 갈무리 된 사진 등이었다. 그는 이어 “수락한다(I accept!)”라고 적었다. 스위프트는 아직 트럼프 전 대통령과 카멀라 해리스 부통령 중 지지하는 후보를 공개적으로 밝힌 적은 없으나, 2020년 앞선 대선 때 민주당을 지지하며 트럼프 전 대통령을 향해 “당신을 몰아낼 것”이라고 공개 저격한 바 있다. 트럼프 전 대통령의 이런 의도적 ‘가짜 사진’ 유포는 처음이 아니다. 그는 엑스에 인민복처럼 보이는 옷을 입은 군중들 앞에서 해리스 부통령 뒷모습처럼 보이는 여성이 연설하는 이미지를 올렸고, 지원군인 일론 머스크 테슬라 최고경영자(CEO)와 자신이 춤추는 영상을 공개했다. 둘 다 조작된 것들이었다. 영국 가디언은 “트럼프 전 대통령이 최근 며칠 동안 패러디와 노골적인 선거 허위 정보 사이의 경계를 넘나들며” 퍼뜨린 딥 페이크라고 우려를 표했다. 그러면서 “대선을 앞두고 불투명한 정보 생태계를 더 혼탁하게 만들 위험이 있다. 일상적으로 허위 사실과 음모론을 조장하고 있는 것”이라고 지적했다.

‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제 착수 최근 ‘초거대언어모델’(LLM)이 가진 문제를 해결할 수 있는 RAG(Retrieval-Augmented Generation, 검색증강생성) 기술의 중요성이 날로 커져가고 있다. 이러한 가운데, 텍스트 이외에도 음성, 이미지, 동영상 등 다양한 데이터를 결합하여 추론이 가능한 ‘멀티모달 RAG 기술’이 AI와 인간이 구사하는 인지 사고의 편차를 현저히 줄일 것으로 각광받는다. 이러한 기술 추세에 발맞추어, 인공지능(AI) 전문기업 와이즈넛(대표 강용성)은 과학기술정보통신부가 주관하는 정보통신방송기술개발사업 중 정보통신기획평가원이 추진하는 ‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제의 주관사로서 1차 연도 연구에 착수했다고 29일 밝혔다. 2027년까지 4년에 걸쳐 진행되는 본 연구는 실제 업무 환경에서 융합되어 활용되는 멀티모달 데이터를 기반으로 초거대언어모델(LLM)의 구조적, 성능적 한계로 제기되는 ▲최신화된 정보 유지의 어려움 ▲할루시네이션 ▲도메인 정보 부족▲대규모 컴퓨팅자원소요 등의 한계를 극복하는 멀티모달 RAG 기술 개발을 목표로 한다. 멀티모달(Multi modal)은 인간이 사물의 양상을 다양한 감각기관으로 받아들이는 것처럼 텍스트, 이미지, 음성, 비디오 등 다양한 형태의 데이터 채널(Modality)을 동시에 처리하는 것을 뜻한다. 이는 텍스트와 함께 소리 데이터를 융합하고 이를 분석해 소리의 크기나 성격을 더 정확하게 이해하거나, 동영상에서 얼굴 이미지를 인식하고 음성 대화를 텍스트로 변환해 자동 자막을 생성하는 등 폭넓게 활용될 수 있는 만큼 새로운 대안으로 주목받는 기술이다. 와이즈넛은 이번 과제에서 멀티모달 데이터 수집 및 처리, 검색, 통합관리 기술 개발에 주력한다. 자체 보유하고 있는 LLM 기술 기반 검색증강생성(RAG) 기술을 적용해, 멀티모달 질의 이해 및 답변 생성 기술부터 LLM의 성능을 높이기 위한 언어모델 최신화 기술, 효율적인 데이터 학습 및 관리를 위한 RAG 데이터 파이프라인 기술, 도메인 실증까지 전반의 기술 개발을 총괄 수행한다. 본 과제는 연구개발에 이어 의료(전남대학교병원), 법률(앤쌤), 제조(JB주식회사), 미디어 광고(SBSi) 등 다양한 도메인에서의 실증을 통해, 각종 비즈니스 환경과 사용자 요구에 맞춘 현실 데이터로 검증하는 단계를 거칠 계획이다. 특히 그간 전통적인 제조 분야의 산업현장, 반도체 공정 등에서 멀티모달 RAG기술에 대한 필요성이 꾸준히 제기되어 왔던 만큼, 본 기술을 반영하여 수요가 있는 다양한 분야에서 더욱 복잡하고 효율적인 작업을 수행할 수 있게 실증사업을 진행할 예정이며, 향후 더 많은 고객군을 대상으로 사업을 확대해 나갈 것으로 기대를 모으고 있다. 또한, 다양한 멀티모달 데이터 통합처리를 통해 LLM의 데이터 이해 및 분석 역량을 향상하고 맞춤형 응답과 문제 해결능력을 함양할 수 있어, AI 서비스를 활용하는 고객의 사용자 경험 및 만족도를 대폭 향상시킬 전망이다. 강용성 와이즈넛 대표는 “향후 인공지능이 ‘인간처럼’ 사고하고 상호작용하기 위해서는 멀티모달 RAG기술은 필수적”이라며, “와이즈넛은 이번 연구에서 멀티모달 RAG기술을 통해 AI 기술 수준을 한 단계 업그레이드하고, 혁신적인 비즈니스 모델을 선제적으로 창출하는 기술적 토대를 마련할 것”이라고 말했다.

국민의힘과 정부는 29일 이른바 ‘딥페이크 성범죄’를 근절하기 위해 국무조정실에 종합 컨트롤 타워를 설치하기로 했다. 또 허위 영상물을 제작·유포하는 행위에 대한 처벌을 대폭 강화하기로 했다. 이날 당정은 국회에서 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 가진 뒤 이같이 밝혔다. 김상훈 국민의힘 정책위의장은 “현행 성폭력처벌법상 허위 영상물의 편집 또는 반포 행위는 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해지는데, 상한을 7년으로 강화하는 입법이 필요하다는 판단”이라고 설명했다. 김 위원장은 또 종합 컨트롤 타워 설치에 대해 “딥페이크 관련해 전체적으로 부처에서 각각 대응하고 있다는 느낌”이라며 “국무조정실이 역할을 맡아줘야 한다”고 설명했다. 당정은 딥페이크 기술을 활용한 허위 영상물이 주로 유포되는 텔레그램 등 해외 플랫폼이 불법 정보를 자율 규제할 수 있도록 정부 측이 핫라인을 확보하는 방안을 추진한다. 한동훈 국민의힘 대표는 이날 회의에서 “21대 국회에서도 인공지능(AI) 기본법이나 성폭력범죄 특례법 등 딥페이크 기술 부작용을 막기 위한 법의 재개정 노력이 있었는데 만족할 만한 성과를 내지 못했다”며 “딥페이크 기술을 악용하는 것도 인간이지만 이를 막을 수 있는 것도 인간이다. 사회의 법과 제도 안에서 이 문제를 해결해 내야 한다”고 말했다.

롯데마트는 다방면으로 AI를 활용 중이다. ‘AI 선별 시스템’ 활용해 신선식품 품질 관리 프로세스를 고도화했고, 롯데그룹의 자체 AI 플랫폼 ‘아이멤버’(Aimemver)를 도입해 업무 검색의 효율성을 높였다. 이번에는 롯데마트를 방문객에게 다채로운 쇼핑 경험을 주고자 AI를 마케팅에 접목한 다양한 콘텐츠를 선보였다. 롯데마트는 생성형 AI 음원 제작 플랫폼 이용해 만든 음원을 지난 8일부터 매장 배경음악(BGM)으로 송출 중이라고 29일 밝혔다. 이번에 공개한 음원은 ▲롯데마트, 즐거운 시간 ▲요리하다, 지친 너를 위해 ▲마블나인, 파티 투나잇(Marble Nine, Party Tonight) 총 3가지로, 작곡, 작사, 가창 등 음원을 구성하는 모든 영역을 생성형 AI를 활용해 만들었다. 해당 음원들은 K팝 장르의 경쾌한 댄스곡으로, 롯데마트의 대표 자체브랜드(PB)인 ‘오늘좋은’과 ‘요리하다’, ‘마블나인’을 주제로 생성된 트렌디한 가사가 인상적이다. 특히, 기획부터 제작까지 소요된 기간은 이틀에 불과하며, 작곡가와 가수를 섭외해 제작하는 기존 방식보다 비용과 시간을 90%가량 절감했다. 이번 AI 음원은 ‘ZRT(gen Z Round Table) 2기’가 롯데마트의 대표 브랜드를 소비자에게 쉽고 재밌게 전달하기 위해 제작한 콘텐츠다. ‘ZRT’는 롯데마트가 Z세대의 소비 인사이트를 얻고자 대형마트 업계 처음으로 선보인 대학생 싱크탱크 프로그램으로, ZRT 2기는 ‘AI 마케팅’을 주제로 음원과 영상, 이미지 등 생성형 AI를 활용한 콘텐츠 개발에 힘쓰고 있다. 향후에는 추석과 설날, 크리스마스 등 주요 시즌을 테마로 생성한 AI 배경음악을 선보일 예정이며, 월별 대표 과일을 주제로 만든 ‘월간 AI 과일송’을 제작해 매장 내 시즌감을 더한다는 계획이다. 또한 이번 추석 선물세트 사전예약 기간에 맞춰 ‘선물세트 카달로그’를 생성형 AI를 활용해 영상 콘텐츠로 제작, 전 점에서 송출 중이다.

3년간 딥페이크 성범죄 실형 4건뿐미성년자 성관계 500여건 올려도법원 “대부분 가짜인지 알 수 있어”연예인 합성물 5800개 업로드해도영리 목적의 범행 아니라며 ‘감경’“다른 성범죄 수준 양형 강화해야”정치권도 뒤늦게 법안 7개 쏟아내서울시·방심위 ‘삭제 핫라인’ 구축올 학생·교사 피해 179건 수사 의뢰교육부, TF 구성해 10월 중 대응책 딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량이 선고돼 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 오는 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 오세훈 서울시장은 이날 류희림 방송통신심의위원장과 업무협약을 맺고 딥페이크 음란물 영상 신고가 들어올 경우 24시간 이내에 삭제하는 ‘핫라인’을 가동하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 승인을 기다리다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 나온다.

우원식 “양질의 법률 위한 제도”박상철 “해외 주요국선 보편화” 국회입법조사처와 국무조정실, 한국경제인협회 등 각계 기관과 윤재옥 국민의힘 의원 등이 모여 의원 입법에 대한 입법영향분석 제도 도입 필요성을 논의했다. 이들은 불필요한 규제를 예방하고 부실 법안 발의 등을 막으려면 법령의 영향을 객관적·과학적으로 분석하는 관련 제도가 필요하다는 데 의견을 같이했다. 28일 한경협 등 산업계와 노동계, 시민단체, 정부, 학계, 연구기관 등 17개 기관을 비롯해 윤 의원과 박성준·부승찬 더불어민주당 의원 등이 서울 영등포구 국회도서관 대강당에서 ‘더 좋은 법률과 입법영향분석: 각계가 말하다’를 주제로 세미나를 개최했다. 윤 의원과 박 의원, 부 의원은 앞서 법률안 발의 시 입법영향분석서를 제출하도록 하는 국회법 일부 개정법률안을 각각 대표 발의한 바 있다. 우원식 국회의장은 축사를 통해 “입법영향분석은 입법 과정에서 사회경제적 복잡성, 이해관계자의 다양성, 기술과 가치의 변화 등을 충분히 고려함으로써 양질의 법률안을 만들고 법률 심사의 효율성을 높이기 위한 제도”라면서 “의원의 입법권을 침해하는 게 아니냐는 우려와 입법 지연 가능성도 제기돼 왔지만, 의원들이 이 제도의 여러 측면을 충분히 인식하고 논의에 참여해서 함께 만들 수 있도록 잘 뒷받침하는 것이 매우 중요하다”고 말했다. 박상철 입법조사처장은 “의회주의와 법치주의가 성숙한 유럽의 많은 국가들은 영향분석을 거쳐 법을 만드는 것이 이미 보편화돼 있다”면서 “우리 국회도 입법영향분석을 통해 과학적이고 근거에 기반한 입법활동을 본격화할 필요가 있다”고 강조했다. 김창범 한경협 상근부회장은 “의원입법 법률안은 정부 입법과 달리 사전 영향분석이 없어 불필요한 규제가 쉽게 만들어지는 상황”이라며 “불필요한 규제를 예방하기 위해 의원입법에 대한 입법영향분석이 필요하다”고 말했다. 박성호 한국인터넷기업협회장은 “과거 인터넷 실명제법이 통과된 이후 결과적으로는 국내 온라인동영상서비스 업체들이 망하는 일이 있었다”면서 “디지털 인공지능(AI) 패권 경쟁이 치열한 현 상황은 전문가들이 (발의 법안에 대해) 더 많은 분석을 해야 하는 시점”이라고 말했다. 기조 연설에 나선 성낙인 전 서울대 총장은 “사회변화 속도에 비례해 법안 발의가 증가하고 있으나 이에 대한 충분한 논의·검토 및 대안 모색이 어려운 상황”이라면서 “국민 생활과 직결되는 경제 분야 규제를 사전에 충분히 검토하지 않을 경우 그 영향이 매우 크다는 점을 고려할 때 의원입법에 대한 입법영향분석 도입은 중요하다”고 말했다.

최근 사망한 프랑스 유명 배우 알랭 들롱이 자신의 재산 일부를 나누겠다며 온라인 카지노 가입을 독려하는 영상이 확산되고 있는 가운데, 이는 AI(인공지능)를 이용한 피싱으로 드러났다. 28일(이하 현지시간) 온라인 사기를 추적하는 한 엑스(X·옛 트위터) 계정에 따르면 최근 페이스북에 들롱이 온라인 카지노 사이트를 홍보하는 동영상이 유포되고 있다. 영상 속엔 양복 차림의 들롱이 등장하고 목소리 역시 들롱인 것 같지만 이는 AI가 꾸며낸 가짜다. 이 영상에서 AI로 만들어진 들롱은 “여러분이 이 비디오를 보고 있을 때면 나는 이미 죽었을 것”이라며 “내 온라인 카지노에서 여러분이 따지 못하면 10만 유로(약 1억 4000만원)를 주겠다”고 제안한다. 이어 “내 돈의 일부를 모든 프랑스인에게 나눠주기로 결정했고 그게 옳은 일이라고 생각한다”며 “누구나 첫날부터 4천 유로(약 590만원)를 받을 수 있다”고 말한다. 들롱은 자기 딸이 이미 온라인 카지노 애플리케이션(앱)을 출시했다며, 계정에 돈을 충전하고 게임을 시작하라고 권유하기도 한다. 이 영상에 첨부된 링크를 클릭하면 구글플레이 스토어를 모방한 가짜 사이트로 연결되고 이어 ‘카지노 들롱’이라는 역시 가짜 애플리케이션이 등장한다. 일간 르피가로는 사용자가 이 애플리케이션을 다운로드하면 사용자의 개인 정보와 은행 정보 등이 유출돼 금전 피해를 볼 수 있다고 경고했다. “유명인 AI 사기 증가…SNS 플랫폼 방치”AI 사기 전문가인 빅토르 바이사트는 일간 르파리지앵에 “유명인 이미지를 사기에 활용하는 사례가 점점 더 많아지고 있다”고 우려했다. 지난 3월엔 프랑스 축구 스타 킬리안 음바페도 카지노 홍보 가짜 영상에 등장한 바 있다. 바이사트는 “사기꾼들은 이런 광고를 유포하기 위해 메타에 돈을 내고 있으며 계속해서 광고를 올린다는 건 이런 식의 사기가 효과가 있다는 방증”이라며 SNS 플랫폼이 사실상 이를 방치하고 있다고 지적했다. 한편 ‘가장 아름다운 남자’로 전 세계의 추앙을 받으며 프랑스 영화 황금기를 이끈 들롱은 지난 18일 자택에서 89세를 일기로 숨을 거뒀다. ‘태양은 가득히’(1960), ‘태양은 외로워’(1962), ‘파리는 불타고 있는가’(1966), ‘볼사리노’(1970), ‘조로’(1975) 등 50여년간 90여편의 영화에 출연하며 숱한 명작을 남겼다. 1990년대 이후로는 스크린에서 거의 볼 수 없었으며, 2019년 뇌졸중으로 쓰러져 수술받은 후에는 요양 생활을 해왔다.

딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 허위영상물을 제작·반포하는 행위만으로도 처벌하는 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량을 선고해 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 경찰청 국가수사본부가 내년 3월까지 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시하는 가운데 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 사전 승인을 받기 위해 대기하다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 있다.