텔레그램과 상시 핫라인 방침수사·상담·영상 삭제 지원 논의제작자도 처벌 포함 법안 추진국민의힘과 정부가 얼굴에 음란물을 합성·유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 것도 검토하기로 했다. 당정은 29일 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 진행하고 딥페이크를 포함한 허위영상물 처벌을 현행법상 ‘최대 징역 5년 이하 징역 또는 5000만원 이하’에서 불법촬영물과 마찬가지로 최대 징역 7년으로 강화하는 것을 추진하기로 했다. 또 해외에 서버를 둔 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 딥페이크 관련 중고생 피해 사례가 급증하는 만큼, 교육부 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “촉법소년 연령 하향 문제도 같이 생각해봐야 한다”며 “(딥페이크 범죄 영상 제작을) 하는 분, 혹시 하고 싶어하는 분 중에 촉법소년 연령에 있는 분들도 많을 것이다. 그런 점에서 저희가 지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나, 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”며 “현재 국회에 딥페이크 성범죄 관련 10여개의 법안이 발의돼 있지만, 본회의에서 아직 의결되지 않아 사실상 입법 공백 상태”라고 지적했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크 기술의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 조속한 통과를 당부했다.

미국에서 올해 11월 5일 대선을 앞둔 가운데 유럽의 젊은 여성 인플루언서들의 사진을 내걸고 공화당 대선 후보 도널드 트럼프 전 대통령을 지지하는 가짜 엑스(X·옛 트위터) 계정이 활개를 치고 있다고 미국 CNN 방송이 28일(현지시간) 보도했다. 일례로 자신을 위스콘신 출신의 32세 여성이라고 소개한 루나는 지난 3월 엑스(@Luna_2K24)에 가입한 후 트럼프 전 대통령의 선거 구호인 ‘마가(MAGA·Make America Great Again·미국을 다시 위대하게)’를 홍보하며 3만명의 팔로워를 확보했다. 그는 트럼프 전 대통령이 추가적인 암살 시도에 직면해 있다는 등의 음모론을 지속적으로 펼쳤고, LGBTQ(성소수자)와 트랜스젠더, 백신에 반대하고 인종 차별과 외국인 혐오를 조장하는 글을 다수 올렸다. 그는 흰색 비키니를 입고 해변에서 찍은 셀카를 공유하면서 “트럼프가 영원히 대통령이 되는 것을 지지하겠느냐”는 글을 올렸는데 조회수는 5만4000명에 달했다. 하지만 루나는 실제 인물이 아닌 것으로 드러났다. 사진 속 갈색 머리 여성은 미국 투표권이 없는 독일의 패션 인플루언서 데비 네더로프였다. 네더로프는 엔지니어링 회사의 소셜미디어 관리자이자 모델인 독일인으로 트럼프와 무관한 것은 물론 미국 대선 투표권이 없다. 네더로프는 CNN에 “내 얼굴이 트럼프의 지지 선전에 사용되고 있다는 사실에 화가 난다”며 “나는 미국과 아무 상관이 없다. 독일의 작은 마을에서 사는 내가 미국 정치에 신경이나 쓰겠냐”고 반문했다. CNN이 정보회복센터(CIR)과 조사한 결과 루나는 물론 네덜란드, 덴마크, 러시아 출신 패션 및 뷰티 인플루언서 17명의 유럽 여성 사진이 무단으로 도용된 엑스 계정이 트럼프의 지지를 도모하는 선전 도구로 이용되고 있다. CIR은 인권 침해를 폭로하는 독립적이고 비영리적인 사회적 기업이다. CNN은 “이들 인플루언서 사진을 도용해 만든 가짜 계정은 56개 엑스 계정 중 일부에 불과하다”고 전했다. CNN은 “해당 계정과 관련해 엑스에 연락했지만 답변을 받지 못했다”며 “해당 기사를 게시하기 24시간 전 동안 엑스는 대부분의 계정을 삭제했다”고 지적했다. 이어 “일론 머스크가 엑스를 인수한 이후 엑스에서 허위 사실과 음모론 유포를 방지하던 팀은 해체됐다”며 “CNN이 인터뷰한 유럽의 인플루언서는 자신의 사진이 동의 없이 사용되거나 신원이 도용됐다고 신고해도 소셜미디어(SNS) 플랫폼 운영사는 조치를 하지 않아 어려움을 겪고 있다”고 전했다. 그러면서 “온라인에서 여성의 신체적 자율권에 대한 위협이 커지고 있음을 보여준다”고 일갈했다. 선거 앞 가짜 콘텐츠에 대한 우려는 인공지능 기술이 확산하면서 지속돼 왔다. 잘못된 정보를 유포하고 가짜 동영상과 이미지를 통해 상대 후보에게 피해를 주려는 행위는 미국뿐 아니라 전세계 선거에서 나타나는 현상이기도 하다. 에밀리 혼 전 백악관 국가안보회의(NSC) 대변인은 올해 미국 대선을 앞두고 SNS를 이용해 허위 정보 캠페인을 시도한 여러 국가의 조직들이 있었다면서, 가짜 계정의 배후와 관련해서도 “이것은 국가 행위자일 수 있다. 정교함의 수준을 보면 러시아, 이란, 중국을 포함한 적대국 행위자 중 하나일 수 있다”고 말했다. 트럼프 “스위프트 지지, 수락한다” 논란 자초 트럼프 전 대통령은 지난 18일 세계적 팝스타 테일러 스위프트와 팬덤 ‘스위프티스’(Swifties)의 지지를 받았다는 가짜 사진을 소셜미디어에 게시하고 “수락한다”고 적어 논란을 자초했다. 트럼프 전 대통령은 자신의 소셜미디어 ‘트루스 소셜’에 스위프트와 팬들이 자신을 지지한다고 적힌 티셔츠를 입은 가짜 이미지를 여러 장 올렸다. 미국을 상징하는 ‘엉클샘’의 복장을 한 스위프트와 ‘테일러는 당신이 도널드 트럼프에게 투표하기를 원한다’고 적힌 사진, ‘트럼프를 지지하는 스위프티스’라고 적힌 티셔츠를 입은 여성들이 모여있는 듯한 사진, 지난 7일 스위프트의 오스트리아 빈 콘서트가 이슬람국가(ISIS)의 테러 가능성으로 취소된 뒤 팬들이 트럼프 쪽으로 돌아섰다는 가짜 뉴스 화면이 갈무리 된 사진 등이었다. 그는 이어 “수락한다(I accept!)”라고 적었다. 스위프트는 아직 트럼프 전 대통령과 카멀라 해리스 부통령 중 지지하는 후보를 공개적으로 밝힌 적은 없으나, 2020년 앞선 대선 때 민주당을 지지하며 트럼프 전 대통령을 향해 “당신을 몰아낼 것”이라고 공개 저격한 바 있다. 트럼프 전 대통령의 이런 의도적 ‘가짜 사진’ 유포는 처음이 아니다. 그는 엑스에 인민복처럼 보이는 옷을 입은 군중들 앞에서 해리스 부통령 뒷모습처럼 보이는 여성이 연설하는 이미지를 올렸고, 지원군인 일론 머스크 테슬라 최고경영자(CEO)와 자신이 춤추는 영상을 공개했다. 둘 다 조작된 것들이었다. 영국 가디언은 “트럼프 전 대통령이 최근 며칠 동안 패러디와 노골적인 선거 허위 정보 사이의 경계를 넘나들며” 퍼뜨린 딥 페이크라고 우려를 표했다. 그러면서 “대선을 앞두고 불투명한 정보 생태계를 더 혼탁하게 만들 위험이 있다. 일상적으로 허위 사실과 음모론을 조장하고 있는 것”이라고 지적했다.

‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제 착수 최근 ‘초거대언어모델’(LLM)이 가진 문제를 해결할 수 있는 RAG(Retrieval-Augmented Generation, 검색증강생성) 기술의 중요성이 날로 커져가고 있다. 이러한 가운데, 텍스트 이외에도 음성, 이미지, 동영상 등 다양한 데이터를 결합하여 추론이 가능한 ‘멀티모달 RAG 기술’이 AI와 인간이 구사하는 인지 사고의 편차를 현저히 줄일 것으로 각광받는다. 이러한 기술 추세에 발맞추어, 인공지능(AI) 전문기업 와이즈넛(대표 강용성)은 과학기술정보통신부가 주관하는 정보통신방송기술개발사업 중 정보통신기획평가원이 추진하는 ‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제의 주관사로서 1차 연도 연구에 착수했다고 29일 밝혔다. 2027년까지 4년에 걸쳐 진행되는 본 연구는 실제 업무 환경에서 융합되어 활용되는 멀티모달 데이터를 기반으로 초거대언어모델(LLM)의 구조적, 성능적 한계로 제기되는 ▲최신화된 정보 유지의 어려움 ▲할루시네이션 ▲도메인 정보 부족▲대규모 컴퓨팅자원소요 등의 한계를 극복하는 멀티모달 RAG 기술 개발을 목표로 한다. 멀티모달(Multi modal)은 인간이 사물의 양상을 다양한 감각기관으로 받아들이는 것처럼 텍스트, 이미지, 음성, 비디오 등 다양한 형태의 데이터 채널(Modality)을 동시에 처리하는 것을 뜻한다. 이는 텍스트와 함께 소리 데이터를 융합하고 이를 분석해 소리의 크기나 성격을 더 정확하게 이해하거나, 동영상에서 얼굴 이미지를 인식하고 음성 대화를 텍스트로 변환해 자동 자막을 생성하는 등 폭넓게 활용될 수 있는 만큼 새로운 대안으로 주목받는 기술이다. 와이즈넛은 이번 과제에서 멀티모달 데이터 수집 및 처리, 검색, 통합관리 기술 개발에 주력한다. 자체 보유하고 있는 LLM 기술 기반 검색증강생성(RAG) 기술을 적용해, 멀티모달 질의 이해 및 답변 생성 기술부터 LLM의 성능을 높이기 위한 언어모델 최신화 기술, 효율적인 데이터 학습 및 관리를 위한 RAG 데이터 파이프라인 기술, 도메인 실증까지 전반의 기술 개발을 총괄 수행한다. 본 과제는 연구개발에 이어 의료(전남대학교병원), 법률(앤쌤), 제조(JB주식회사), 미디어 광고(SBSi) 등 다양한 도메인에서의 실증을 통해, 각종 비즈니스 환경과 사용자 요구에 맞춘 현실 데이터로 검증하는 단계를 거칠 계획이다. 특히 그간 전통적인 제조 분야의 산업현장, 반도체 공정 등에서 멀티모달 RAG기술에 대한 필요성이 꾸준히 제기되어 왔던 만큼, 본 기술을 반영하여 수요가 있는 다양한 분야에서 더욱 복잡하고 효율적인 작업을 수행할 수 있게 실증사업을 진행할 예정이며, 향후 더 많은 고객군을 대상으로 사업을 확대해 나갈 것으로 기대를 모으고 있다. 또한, 다양한 멀티모달 데이터 통합처리를 통해 LLM의 데이터 이해 및 분석 역량을 향상하고 맞춤형 응답과 문제 해결능력을 함양할 수 있어, AI 서비스를 활용하는 고객의 사용자 경험 및 만족도를 대폭 향상시킬 전망이다. 강용성 와이즈넛 대표는 “향후 인공지능이 ‘인간처럼’ 사고하고 상호작용하기 위해서는 멀티모달 RAG기술은 필수적”이라며, “와이즈넛은 이번 연구에서 멀티모달 RAG기술을 통해 AI 기술 수준을 한 단계 업그레이드하고, 혁신적인 비즈니스 모델을 선제적으로 창출하는 기술적 토대를 마련할 것”이라고 말했다.

국민의힘과 정부는 29일 이른바 ‘딥페이크 성범죄’를 근절하기 위해 국무조정실에 종합 컨트롤 타워를 설치하기로 했다. 또 허위 영상물을 제작·유포하는 행위에 대한 처벌을 대폭 강화하기로 했다. 이날 당정은 국회에서 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 가진 뒤 이같이 밝혔다. 김상훈 국민의힘 정책위의장은 “현행 성폭력처벌법상 허위 영상물의 편집 또는 반포 행위는 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해지는데, 상한을 7년으로 강화하는 입법이 필요하다는 판단”이라고 설명했다. 김 위원장은 또 종합 컨트롤 타워 설치에 대해 “딥페이크 관련해 전체적으로 부처에서 각각 대응하고 있다는 느낌”이라며 “국무조정실이 역할을 맡아줘야 한다”고 설명했다. 당정은 딥페이크 기술을 활용한 허위 영상물이 주로 유포되는 텔레그램 등 해외 플랫폼이 불법 정보를 자율 규제할 수 있도록 정부 측이 핫라인을 확보하는 방안을 추진한다. 한동훈 국민의힘 대표는 이날 회의에서 “21대 국회에서도 인공지능(AI) 기본법이나 성폭력범죄 특례법 등 딥페이크 기술 부작용을 막기 위한 법의 재개정 노력이 있었는데 만족할 만한 성과를 내지 못했다”며 “딥페이크 기술을 악용하는 것도 인간이지만 이를 막을 수 있는 것도 인간이다. 사회의 법과 제도 안에서 이 문제를 해결해 내야 한다”고 말했다.

롯데마트는 다방면으로 AI를 활용 중이다. ‘AI 선별 시스템’ 활용해 신선식품 품질 관리 프로세스를 고도화했고, 롯데그룹의 자체 AI 플랫폼 ‘아이멤버’(Aimemver)를 도입해 업무 검색의 효율성을 높였다. 이번에는 롯데마트를 방문객에게 다채로운 쇼핑 경험을 주고자 AI를 마케팅에 접목한 다양한 콘텐츠를 선보였다. 롯데마트는 생성형 AI 음원 제작 플랫폼 이용해 만든 음원을 지난 8일부터 매장 배경음악(BGM)으로 송출 중이라고 29일 밝혔다. 이번에 공개한 음원은 ▲롯데마트, 즐거운 시간 ▲요리하다, 지친 너를 위해 ▲마블나인, 파티 투나잇(Marble Nine, Party Tonight) 총 3가지로, 작곡, 작사, 가창 등 음원을 구성하는 모든 영역을 생성형 AI를 활용해 만들었다. 해당 음원들은 K팝 장르의 경쾌한 댄스곡으로, 롯데마트의 대표 자체브랜드(PB)인 ‘오늘좋은’과 ‘요리하다’, ‘마블나인’을 주제로 생성된 트렌디한 가사가 인상적이다. 특히, 기획부터 제작까지 소요된 기간은 이틀에 불과하며, 작곡가와 가수를 섭외해 제작하는 기존 방식보다 비용과 시간을 90%가량 절감했다. 이번 AI 음원은 ‘ZRT(gen Z Round Table) 2기’가 롯데마트의 대표 브랜드를 소비자에게 쉽고 재밌게 전달하기 위해 제작한 콘텐츠다. ‘ZRT’는 롯데마트가 Z세대의 소비 인사이트를 얻고자 대형마트 업계 처음으로 선보인 대학생 싱크탱크 프로그램으로, ZRT 2기는 ‘AI 마케팅’을 주제로 음원과 영상, 이미지 등 생성형 AI를 활용한 콘텐츠 개발에 힘쓰고 있다. 향후에는 추석과 설날, 크리스마스 등 주요 시즌을 테마로 생성한 AI 배경음악을 선보일 예정이며, 월별 대표 과일을 주제로 만든 ‘월간 AI 과일송’을 제작해 매장 내 시즌감을 더한다는 계획이다. 또한 이번 추석 선물세트 사전예약 기간에 맞춰 ‘선물세트 카달로그’를 생성형 AI를 활용해 영상 콘텐츠로 제작, 전 점에서 송출 중이다.

3년간 딥페이크 성범죄 실형 4건뿐미성년자 성관계 500여건 올려도법원 “대부분 가짜인지 알 수 있어”연예인 합성물 5800개 업로드해도영리 목적의 범행 아니라며 ‘감경’“다른 성범죄 수준 양형 강화해야”정치권도 뒤늦게 법안 7개 쏟아내서울시·방심위 ‘삭제 핫라인’ 구축올 학생·교사 피해 179건 수사 의뢰교육부, TF 구성해 10월 중 대응책 딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량이 선고돼 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 오는 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 오세훈 서울시장은 이날 류희림 방송통신심의위원장과 업무협약을 맺고 딥페이크 음란물 영상 신고가 들어올 경우 24시간 이내에 삭제하는 ‘핫라인’을 가동하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 승인을 기다리다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 나온다.

우원식 “양질의 법률 위한 제도”박상철 “해외 주요국선 보편화” 국회입법조사처와 국무조정실, 한국경제인협회 등 각계 기관과 윤재옥 국민의힘 의원 등이 모여 의원 입법에 대한 입법영향분석 제도 도입 필요성을 논의했다. 이들은 불필요한 규제를 예방하고 부실 법안 발의 등을 막으려면 법령의 영향을 객관적·과학적으로 분석하는 관련 제도가 필요하다는 데 의견을 같이했다. 28일 한경협 등 산업계와 노동계, 시민단체, 정부, 학계, 연구기관 등 17개 기관을 비롯해 윤 의원과 박성준·부승찬 더불어민주당 의원 등이 서울 영등포구 국회도서관 대강당에서 ‘더 좋은 법률과 입법영향분석: 각계가 말하다’를 주제로 세미나를 개최했다. 윤 의원과 박 의원, 부 의원은 앞서 법률안 발의 시 입법영향분석서를 제출하도록 하는 국회법 일부 개정법률안을 각각 대표 발의한 바 있다. 우원식 국회의장은 축사를 통해 “입법영향분석은 입법 과정에서 사회경제적 복잡성, 이해관계자의 다양성, 기술과 가치의 변화 등을 충분히 고려함으로써 양질의 법률안을 만들고 법률 심사의 효율성을 높이기 위한 제도”라면서 “의원의 입법권을 침해하는 게 아니냐는 우려와 입법 지연 가능성도 제기돼 왔지만, 의원들이 이 제도의 여러 측면을 충분히 인식하고 논의에 참여해서 함께 만들 수 있도록 잘 뒷받침하는 것이 매우 중요하다”고 말했다. 박상철 입법조사처장은 “의회주의와 법치주의가 성숙한 유럽의 많은 국가들은 영향분석을 거쳐 법을 만드는 것이 이미 보편화돼 있다”면서 “우리 국회도 입법영향분석을 통해 과학적이고 근거에 기반한 입법활동을 본격화할 필요가 있다”고 강조했다. 김창범 한경협 상근부회장은 “의원입법 법률안은 정부 입법과 달리 사전 영향분석이 없어 불필요한 규제가 쉽게 만들어지는 상황”이라며 “불필요한 규제를 예방하기 위해 의원입법에 대한 입법영향분석이 필요하다”고 말했다. 박성호 한국인터넷기업협회장은 “과거 인터넷 실명제법이 통과된 이후 결과적으로는 국내 온라인동영상서비스 업체들이 망하는 일이 있었다”면서 “디지털 인공지능(AI) 패권 경쟁이 치열한 현 상황은 전문가들이 (발의 법안에 대해) 더 많은 분석을 해야 하는 시점”이라고 말했다. 기조 연설에 나선 성낙인 전 서울대 총장은 “사회변화 속도에 비례해 법안 발의가 증가하고 있으나 이에 대한 충분한 논의·검토 및 대안 모색이 어려운 상황”이라면서 “국민 생활과 직결되는 경제 분야 규제를 사전에 충분히 검토하지 않을 경우 그 영향이 매우 크다는 점을 고려할 때 의원입법에 대한 입법영향분석 도입은 중요하다”고 말했다.

최근 사망한 프랑스 유명 배우 알랭 들롱이 자신의 재산 일부를 나누겠다며 온라인 카지노 가입을 독려하는 영상이 확산되고 있는 가운데, 이는 AI(인공지능)를 이용한 피싱으로 드러났다. 28일(이하 현지시간) 온라인 사기를 추적하는 한 엑스(X·옛 트위터) 계정에 따르면 최근 페이스북에 들롱이 온라인 카지노 사이트를 홍보하는 동영상이 유포되고 있다. 영상 속엔 양복 차림의 들롱이 등장하고 목소리 역시 들롱인 것 같지만 이는 AI가 꾸며낸 가짜다. 이 영상에서 AI로 만들어진 들롱은 “여러분이 이 비디오를 보고 있을 때면 나는 이미 죽었을 것”이라며 “내 온라인 카지노에서 여러분이 따지 못하면 10만 유로(약 1억 4000만원)를 주겠다”고 제안한다. 이어 “내 돈의 일부를 모든 프랑스인에게 나눠주기로 결정했고 그게 옳은 일이라고 생각한다”며 “누구나 첫날부터 4천 유로(약 590만원)를 받을 수 있다”고 말한다. 들롱은 자기 딸이 이미 온라인 카지노 애플리케이션(앱)을 출시했다며, 계정에 돈을 충전하고 게임을 시작하라고 권유하기도 한다. 이 영상에 첨부된 링크를 클릭하면 구글플레이 스토어를 모방한 가짜 사이트로 연결되고 이어 ‘카지노 들롱’이라는 역시 가짜 애플리케이션이 등장한다. 일간 르피가로는 사용자가 이 애플리케이션을 다운로드하면 사용자의 개인 정보와 은행 정보 등이 유출돼 금전 피해를 볼 수 있다고 경고했다. “유명인 AI 사기 증가…SNS 플랫폼 방치”AI 사기 전문가인 빅토르 바이사트는 일간 르파리지앵에 “유명인 이미지를 사기에 활용하는 사례가 점점 더 많아지고 있다”고 우려했다. 지난 3월엔 프랑스 축구 스타 킬리안 음바페도 카지노 홍보 가짜 영상에 등장한 바 있다. 바이사트는 “사기꾼들은 이런 광고를 유포하기 위해 메타에 돈을 내고 있으며 계속해서 광고를 올린다는 건 이런 식의 사기가 효과가 있다는 방증”이라며 SNS 플랫폼이 사실상 이를 방치하고 있다고 지적했다. 한편 ‘가장 아름다운 남자’로 전 세계의 추앙을 받으며 프랑스 영화 황금기를 이끈 들롱은 지난 18일 자택에서 89세를 일기로 숨을 거뒀다. ‘태양은 가득히’(1960), ‘태양은 외로워’(1962), ‘파리는 불타고 있는가’(1966), ‘볼사리노’(1970), ‘조로’(1975) 등 50여년간 90여편의 영화에 출연하며 숱한 명작을 남겼다. 1990년대 이후로는 스크린에서 거의 볼 수 없었으며, 2019년 뇌졸중으로 쓰러져 수술받은 후에는 요양 생활을 해왔다.

딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 허위영상물을 제작·반포하는 행위만으로도 처벌하는 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량을 선고해 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 경찰청 국가수사본부가 내년 3월까지 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시하는 가운데 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 사전 승인을 받기 위해 대기하다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 있다.

아동 후원 단체인 굿네이버스가 ‘1점 궁사’로 알려진 이스라엘 마다예(36)를 ‘굿네이버스 글로벌 인플루언서’로 위촉했다고 28일 밝혔다. 위촉식은 지난 26일(현지시간) 아프리카 차드 수도 은자메나에 위치한 굿네이버스차드에서 진행됐다. 마다예는 “굿네이버스와 함께 많은 이들에게 긍정적인 영향을 미칠 수 있게 돼 기쁘다”며 “아프리카 아이들이 어려운 환경 속에서도 꿈을 잃지 않고 도전하기를 바란다”고 말했다. 굿네이버스는 마다예와 함께 교육, 아동 보호, 사회적 인프라 개선 등을 위한 다양한 프로젝트를 진행할 예정이다. 최용기 굿네이버스차드 대표는 “불가능해 보이는 상황 속에서도 끊임없이 도전한 마다예의 경험이 전 세계에 희망의 메시지로 확산하기를 기대한다”고 말했다. 마다예는 2024 파리올림픽 양궁 남자 개인전 64강에서 김우진(청주시청)과 맞대결 중 2세트 마지막 화살로 1점을 쏴 누리꾼들로부터 ‘1점 궁사’라는 별명을 얻었다. 당시 민무늬 티셔츠를 한 장을 걸치고 가슴 보호대도 없이 활시위를 당기는 모습으로 화제가 된 그는 장비와 환경 등이 열악한 차드에서 한국 양궁 선수들의 영상을 보면서 훈련했다고 말했다. 아프리카 최빈국 중 하나인 차드를 대표해 나선 그의 열정에 누리꾼들의 응원이 이어졌다. 국내 기업도 나섰다. 양궁 장비 제조기업 파이빅스는 “포기하지 않고 양궁을 끝까지 해주길 바란다”며 마다예를 후원하기로 했다. 덕분에 마다예는 2028 로스앤젤레스올림픽까지 훈련과 경기 출전에 필요한 물품을 해마다 받을 수 있게 됐다. 한국인들의 사랑과 응원에 그는 지난 21일 한국에 대한 애정을 드러내기도 했다. 마다예는 인스타그램에 태극기 사진과 함께 “J´aime le drapeau”(나는 이 깃발을 좋아한다)고 적었다. 앞서 11일에는 차드의 독립기념일을 축하하는 메시지와 함께 “차드에 있는 한국인들도 잊지 않겠다”며 감사를 표했다.

‘딥페이크’ 기술을 활용한 디지털 범죄가 기승을 부리는 가운데, 국회에서 축구 국가대표팀 주장 손흥민(토트넘 핫스퍼)을 활용해 투자 사기를 벌이려는 허위 동영상이 국회에서 공개됐다. 김장겸 국민의힘 의원은 28일 국회 과학기술정보방송통신위원회 전체회의에서 딥페이크 범죄의 심각성을 환기하기 위해 이같은 영상을 공개했다. 영상은 생성형 인공지능(AI)이 손흥민의 목소리를 학습해 손흥민이 녹음한 것처럼 꾸민 목소리가 나온다. 영상 속 손흥민은 “축구선수이자 경험 많은 투자자”라고 자신을 소개하며 “인스타그램 팔로워 1400만명 돌파를 기념해 4월에 급등한 우량주 3개를 무료로 공유드린다”고 말했다. 이어 “‘어시스턴트’ 카톡을 추가하고 아라비아 숫자를 보내는 선착순 200명에게 무료로 저의 독점 사인 사진과 스톡 나우 팬미팅 티켓을 받을 수 있다”고 홍보했다. 영상은 손흥민이 소속팀 경기를 마치고 영국 매체와 인터뷰하는 화면에 AI로 생성한 손흥민의 목소리를 합성했다. 김 의원은 “이처럼 딥페이크로 합성된 영상이 인터넷에서 유포되고 있다”며 “우리 같은 경우 딥페이크라는 걸 인지할 수 있지만 일반 국민들은 모를 수 있다”고 우려했다. 이어 “AI를 활용하면 이런 영상을 쉽게 만들 수 있다”면서 “텔레그램을 통해 지역과 학교, 나이를 불문하고 무차별적으로 불법 합성물이 퍼지고 있다”고 지적했다. 이에 김태규 방송통신위원회 직무대행(부위원장)은 “방송통신심위원회는 삭제 및 차단 요구를 할 수 있고, 시정명령이 이행되지 않을 경우 방송통신위원회가 형사고발 조치할 수 있다”고 밝혔다. 그러면서 “지금 딥페이크 영상물 피해자의 신상정보도 긴급 심의에 포함시키는 내용, AI 생성물 표시제를 도입하는 부분, AI 서비스 이용자에 대한 보호 법규를 마련하는 부분, AI 피해 신고 창구를 활용하는 방법을 고민하고 있다”고 답했다.

인공지능(AI) 기술을 이용해 개인의 얼굴을 음란물과 합성한 가짜 영상물(딥페이크)들이 기승을 부리고 있다. 텔레그램 대화방을 중심으로 유포되면서 최소 100개 이상의 국내 대학과 중고교 등에서 피해자가 속출하고 있다. 대화방에 유포된 허위 영상 속 피해자들은 중고생 미성년자는 물론 군인, 교사 등 나이와 직업을 가리지 않고 다양했다. 연예인 등 유명인들의 초상을 음란물로 합성하던 수준을 넘어 불특정 다수를 상대로 디지털 성범죄가 만연하니 이만저만 불안하지 않다. 어제 윤석열 대통령도 “딥페이크는 명백한 범죄”라며 척결을 주문하고 나섰다. 성적 허위 영상물의 급증 추세는 놀랍다. 방송통신심의원회에서 접속 차단과 이용 해지 등 시정 조치한 허위 영상물 건수는 2020년 473건에서 지난해 7187건으로 15배 불어났다. 올해만 해도 지난 7월 말 현재 지난해 대비 90%(6434건)나 치솟았다. 방통심의위는 긴급 대책회의를 열고 텔레그램 피해 신고 접수, 모니터링 강화, 수사 의뢰 등 가능한 조치를 모두 동원하기로 했다. 만시지탄인 측면이 크다. 텔레그램에 개설된 단체 채팅방을 통해 불법 음란물을 생성하고 거래·유포한 디지털 성범죄 ‘N번방’ 사건이 터진 게 이미 5년 전이다. 사이버 성범죄가 더 지능화할 환경이 뻔한데 선제적 예방에 소홀했던 것 아닌지 따져 보지 않을 수 없다. 사이버 성범죄는 일반 범죄와 달리 순식간에 불특정 다수에게 확산한다는 점에서 문제의 심각성은 더 크다. 게다가 지금은 생성형 AI로 딥페이크 사진과 영상을 너무나 손쉽게 만들 수 있는 시대다. 정부 단속을 피하려는 허위 영상물 제작자의 수법도 갈수록 고도화되고 있다. 불법 촬영물을 제작, 유포하는 사이트 운영자들은 문제적 동영상의 추출과 다운로드를 막기 위해 영상 소스를 숨기는 등 수사기관의 추적을 탐지 단계에서부터 철저히 방해한다. 사이버 성범죄의 방치는 사회적 재난을 부를 수 있다. 신속하고 강력한 대책이 전방위로 보강돼야 한다. 허위 영상물 유포에 대한 엄벌뿐만 아니라 수위 높은 허위 영상물 소지도 처벌하는 입법보완이 무엇보다 절실하다. 허위 영상물은 일반 불법영상물과 달리 소지, 구입, 저장, 시청 자체는 처벌하지 않고 유포, 배포만 처벌한다. 허위 영상물 단속에 플랫폼도 적극 동참해야 한다. 텔레그램뿐만 아니라 국내 포털에도 유해 콘텐츠는 적지 않다. 10대 청소년에 대한 교육 강화는 말할 것도 없다. 소셜미디어(SNS) 이용이 일상인 청소년들은 딥페이크 음란물에 대한 범죄 인식이 희박하다. 지난해 성적 허위 영상물 유포 가해자의 76%가 10대였다.

공무원 보수 3% 인상 ‘8년 만에 최대’ 딥페이크 범죄 관련 예산 27억 편성 서민층 주거 안정을 위해 정부가 내년도 예산안에 25만 2000호의 공공주택 공급 물량 계획을 편성했다. 올해 공급이 예정된 20만 5000호를 넘는 역대 최대 규모다. 27일 발표된 2025년도 정부 예산안에 따르면 임대주택은 올해 11만 5000호에서 15만 2000호로, 분양주택은 9만호에서 10만호로 확대됐다. 지난 5년간 공공주택 공급 규모가 평균 15만 5000호였던 것에 비하면 10만호 가까이 늘어난 규모다. 공급 물량은 크게 늘지만 공공주택 예산은 올해 18조 1276억원에서 내년 14조 8996억원으로 오히려 줄었다. 한국토지주택공사(LH) 사장 출신인 박상우 국토교통부 장관의 아이디어로 신축매입약정 방식을 일시불에서 3년 분할로 변경했기 때문이다. 신축매입약정은 입주까지 3년가량 소요된다. 현재는 LH가 첫해에 매입 비용을 전액 지불하는데 앞으로는 3년에 걸쳐 정부가 매입 비용을 치르기로 했다. 이를 통해 첫해에 드는 재정이 3조원가량 줄어드는 것으로 추산됐다. 주거 사다리 역할을 하는 비아파트 공급은 2년간 16만호로 늘린다. 주변 시세의 90% 이하 수준으로 최장 8년간 거주할 수 있는 든든전세주택 신규 공급에 8627억원을 편성했다. 내년도 공무원 보수는 3.0% 오른다. 올해(2.5%)보다 0.5% 포인트 인상됐다. 2017년 이후 8년 만의 최대 인상폭이다. 이대로 국회를 통과한다면 공무원 총인건비는 올해 44조 8000억원에서 1조 8000억원(4.0%) 늘어난 46조 6000억원이 된다. 향후 인사혁신처가 봉급표를 만드는 과정에서 급수가 낮은 저연차 공무원의 인상률이 상대적으로 높게 결정될 수도 있다. 국방 예산은 올해보다 3.6% 증가한 61조 5878억원으로 편성됐다. 국방 예산이 60조원을 넘긴 건 이번이 처음이다. 킬체인, 한국형 미사일방어(KAMD), 대량응징보복(KMPR) 등 한국형 3축 체계를 강화하기 위해 총 6조 1615억원을 책정했다. 한국형 전투기 KF-21 ‘보라매’ 최초 양산에 1조 1495억원이 들어간다. 현재 1000만원인 북한이탈주민의 초기 정착지원금을 내년엔 1500만원으로 50% 올린다. 최근 우려가 증폭된 전기차 인프라의 안전성을 높이기 위해 과충전을 방지하는 스마트제어 충전기를 현재 2만 3000기에서 내년 9만 5000기로 대폭 늘린다. 보이스피싱 전화번호 전국 차단에 걸리는 시간은 기존 48시간에서 10분으로 줄인다. 기승을 부리는 딥페이크 범죄를 막고자 인공지능(AI) 영상과 음성을 분석하기 위한 예산 27억원도 편성했다.

딥페이크 피해 400~500개교 추산SNS 등서 ‘피해학교지도’도 퍼져경찰, 내년 3월까지 집중 단속 실시단순 시청자는 처벌도 쉽지 않아“피해 땐 경찰·방심위 신고 최우선” 인공지능(AI)을 이용해 지인 등의 얼굴을 합성한 ‘딥페이크 영상물’을 텔레그램에서 유포하는 성범죄가 학교·단체·군 등으로 광범위하게 확산하자 정치권은 물론 여성·군인권단체 등 각계각층에서 엄중 처벌을 요구하고 나섰다. 교육부는 실태 파악을 시작했고 경찰도 뒤늦게 특별단속을 실시한다. 일부 경찰서에는 관련 피해가 접수돼 수사가 진행 중인 것으로 확인됐다. 다만 상당수 텔레그램방이 이미 폐쇄된 데다 ‘유포 목적’을 입증하지 못하면 법 적용이 어려워 수사부터 처벌까지 난항을 겪을 것으로 보인다. 27일 서울신문 취재를 종합하면 경기 안산상록경찰서에는 지난 주말부터 이날까지 3일간 딥페이크 영상물로 협박을 당했다는 10대 8명의 신고가 접수됐다. 가해자는 피해자들의 이름과 학교 등 신상을 거론하면서 소셜미디어(SNS)에 게시된 피해자들의 사진을 합성해 유포하겠다고 협박한 것으로 전해졌다. 경찰 관계자는 “현재 입건 전 조사(내사) 단계이지만 사안을 검토한 이후 적극적으로 수사하겠다”고 말했다. 이 외에 서울경찰청 사이버수사대도 참여 인원만 22만여명에 달하는 불법 합성물 제작 텔레그램 채널과 관련해 내사에 착수했다. 피해 사실을 나중에 알게 된 이들이 신고하면 앞으로 관련 수사는 급격하게 확대될 것으로 전망된다. 엑스(X·옛 트위터)에 올라온 게시글 등을 보면 텔레그램 딥페이크방에 언급된 학교 수는 400~500곳 정도로 추산된다. 엑스에서 피해 학교 명단을 취합해 알리고 있는 대학생 방서윤(19)씨는 “일주일 만에 2000개 넘는 피해 사실 제보가 들어왔다”며 “학교 차원의 조치나 수사를 통한 처벌이 이뤄져야 한다”고 전했다. 특히 불안감이 커지면서 SNS에는 관련 피해가 발생한 학교와 위치를 알 수 있는 ‘피해학교 지도’도 등장했다. 해당 지도를 볼 수 있는 링크는 SNS와 온라인 커뮤니티 등을 통해서 퍼지고 있다. 긴급 실태 조사를 진행 중인 전국교직원노동조합은 “현재 300곳 정도 조사한 결과 40곳에서 실제 피해가 확인됐다”고 말했다. 학교를 중심으로 확산하는 딥페이크 영상물 범죄는 같은 학교 학생이나 교사 등 주변 지인을 상대로 하는 경우가 많다. 특정 지역과 학교에서 공통 지인을 찾아 이른바 ‘겹지인방’에 모여 영상물을 공유하고 조롱하기도 한다. 경찰청에 따르면 올해 7월까지 딥페이크 영상물 관련 범죄로 검거된 피의자 178명 중 131명(73.6%)이 10대다. 교육부는 17개 시도교육청별로 딥페이크 성범죄물 피해 현황을 파악할 것과 일선 학교에는 예방 교육 및 피해 신고를 하도록 요청했다. 경남교육청에서는 24건의 신고가 접수됐다고 밝혔고 인천교육청은 피해 의심 학교가 22곳이라고 추산했다. 방송통신심의위원회도 이날 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다. 경찰청은 28일부터 내년 3월 말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 한다. 서울경찰청도 딥페이크 성범죄가 처벌 대상임을 경고하고 신고를 당부하는 내용의 ‘긴급 스쿨벨’을 발령했다. 아울러 경찰과 여성가족부 등은 “피해를 당했다면 일단 신고하는 게 먼저”라고 강조했다. 경찰청 사이버범죄 신고시스템(ecrm.police.go.kr)으로 본인이 직접 신고하거나 방송통신심의위원회 홈페이지의 ‘디지털 성범죄 신고’ 배너를 통해 누구나 신고할 수 있다. 이처럼 일상으로 파고든 딥페이크 영상물 범죄를 근절하기 위해선 처벌을 강화해야 한다는 목소리가 나온다. 아동청소년 대상 디지털 성범죄와 달리 성인을 대상으로 한 경우 수사기관의 함정 수사가 불가능한 점도 한계로 꼽힌다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “2020년 개정된 성폭력처벌법상 허위 영상물 등은 유포의 목적이 있어야 처벌이 가능하기에 ‘개인 소장’이거나 ‘단순 시청’이라 주장할 경우 처벌이 쉽지 않다는 맹점이 있다”고 지적했다. 허민숙 국회입법조사처 연구관은 “대화방 단순 참여자라 하더라도 참여하는 사람이 있기에 딥페이크 불법 콘텐츠가 더 확산하는 만큼 연대책임이 반드시 필요하다”고 강조했다.

윤석열 대통령은 27일 ‘딥페이크’(특정 인물의 얼굴 등을 영상에 합성)를 활용한 디지털 성범죄에 대해 강력히 대응하라고 지시했다. 여야 대표들도 대책 마련에 나섰다. 윤 대통령은 이날 국무회의에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “피해자가 미성년인 경우가 많고 가해자 역시 대부분 10대로 드러나고 있다”고 밝혔다. 윤 대통령은 “딥페이크 영상물은 ‘단순 장난’이라고 둘러대기도 하지만 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위”라며 “우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”고 했다. 이어 “관계 당국은 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아 달라”며 “건전한 디지털 문화가 자리매김할 수 있도록 교육 방안도 강구해 달라”고 당부했다. 윤 대통령은 이날 ‘2024 국제 사이버범죄 대응 심포지엄’ 개회식에 참석해 얼굴을 변형한 딥페이크 동영상을 제작하는 과정과 허위 영상을 탐지하는 과정을 참관했다. 한동훈 국민의힘 대표는 페이스북에 “‘N번방 방지법’이 21대 국회에서 통과됐지만, AI의 부작용을 막기 위한 제도·정책의 미비는 신속히 보완돼야 한다”고 적었다. 국민의힘은 29일 국회에서 한 대표 주재로 딥페이크 관계 부처의 현안 보고를 받고 실태 및 대응 방안을 논의한다. 이재명 더불어민주당 대표도 피해자 보호 방안과 딥페이크 제작·배포자에 대한 강력한 처벌규정을 강구하라고 지시했고 민주당은 당 차원의 태스크포스(TF)나 특위를 구성하기로 했다. 국회 여성가족위원회는 다음달 4일 여성가족부 등을 대상으로 긴급 현안 질의를 진행하기로 했다. 최근 텔레그램 등에서 여성의 얼굴과 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 대규모로 발견되며 사회적 문제로 대두됐다. 한편 윤 대통령은 29일 오전 10시 용산 대통령실에서 ‘국정 브리핑 및 기자회견’을 개최한다. 지난 5월 9일 취임 2년 기자회견을 개최한 지 110일 만이며 지난 6월 포항 영일만 석유·가스전 개발과 관련해 국정 브리핑을 가진 뒤 두 번째다. 윤 대통령은 ‘4+1개혁’(연금·의료·교육·노동+저출생) 등 핵심 개혁 과제와 국정 운영 방향을 국민들에게 설명하고 언론의 질문에 답한다. 대통령실 관계자는 “핵심 키워드는 민생·안전·개혁·소통”이라며 “국민들이 궁금해하는 부분을 기자회견에서 말씀드릴 것”이라고 말했다.

인공지능(AI)을 이용해 지인 등의 얼굴을 합성한 ‘딥페이크 영상물’을 텔레그램에서 유포하는 성범죄가 학교·군 등으로 광범위하게 확산하자 정치권은 물론 여성·군인권단체 등 각계각층에서 엄중 처벌을 요구하고 나섰다. 교육부는 실태 파악에 나섰고 경찰도 뒤늦게 특별단속을 실시하기로 했다. 일부 경찰서에는 관련 피해가 접수돼 수사가 진행 중인 것으로 확인됐다. 다만 이미 상당수 텔레그램방이 폐쇄된 데다 유포 목적을 입증하지 못하면 법 적용이 어려운 점 때문에 수사부터 처벌까지는 난항을 겪을 것으로 보인다. 27일 서울신문 취재를 종합하면, 경기 안산상록경찰서에는 지난 주말부터 이날까지 3일간 딥페이크 영상물로 협박을 당했다는 10대 8명의 신고가 접수됐다. 가해자는 피해자들의 이름과 학교 등 신상을 거론하면서 소셜미디어(SNS)에 게시된 피해자들의 사진을 합성해 유포하겠다고 협박한 것으로 전해졌다. 경찰 관계자는 “현재 입건 전 조사(내사) 단계지만, 사안을 검토한 이후 적극적으로 수사하겠다”고 말했다. 이 외에 서울경찰청 사이버수사대도 참여 인원만 22만여명에 달하는 불법합성물 제작 텔레그램 채널과 관련해 입건 전 조사(내사)에 착수했다. 피해 사실을 나중에 알게된 이들이 신고를 접수하면 앞으로 관련 수사는 급격하게 확대될 것으로 전망된다. 엑스(X·옛 트위터)에 올라온 게시글 등을 보면, 텔레그램 딥페이크방에 언급된 학교 수는 400~500곳 정도로 추산된다. 특히 엑스에서 피해 학교 명단을 취합해 알리고 있는 대학생 방서윤(19)씨는 “모교에 피해자가 있다고 해서 취합을 시작했는데 일주일 만에 2000개가 넘는 피해 사실 제보가 들어왔다”며 “가해자들은 ‘잘못한 게 없다’는 태도를 보이는 경우가 많다. 학교 차원의 조치나 수사를 통한 처벌이 이뤄져야 한다”고 전했다. 현재 긴급 실태 조사를 진행 중인 전국교직원노동조합은 “현재 300곳 정도 조사한 결과 40곳에서 실제 피해가 확인됐다”며 “조사가 진행 중인 만큼 피해 학교는 더 늘어날 것”이라고 말했다. 최근 학교를 중심으로 확산하는 딥페이크 영상물 범죄는 같은 학교 학생이나 교사 등 주변 지인을 상대로 하는 경우가 많다. 특정 지역과 학교에서 공통 지인을 찾아 이른바 ‘겹지인방’에 모여 영상물을 공유하고 조롱하기도 한다. 영상물을 유포하겠다며 피해자를 협박하기도 한다. 경찰청에 따르면 올해 7월까지 딥페이크 영상물 관련 범죄로 검거된 피의자 178명 중 131명(73.6%)이 10대다. 딥페이크 영상물 범죄의 심각성이 드러나자 정부는 수사와 실태 파악에 나섰다. 교육부는 17개 시·도교육청별로 딥페이크 성범죄물 피해 현황을 파악하고, 일선 학교에는 예방교육과 피해 신고를 하도록 요청했다. 방송통신심의위원회도 이날 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링 강화, 경찰 수사 의뢰 등 대책을 논의했다. 경찰청은 28일부터 내년 3월말까지 7개월 동안 딥페이크 성범죄 관련 특별 집중 단속을 실시한다. 다만 일상으로 파고든 딥페이크 영상물 범죄를 근절하기 위해선 처벌을 강화해야 한다는 목소리가 나온다. 아동청소년 대상 디지털 성범죄와 달리 성인을 대상으로 한 경우 수사기관의 함정 수사도 불가능한 점도 한계로 꼽힌다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “2020년 개정된 성폭력처벌법상 허위영상물 등은 유포의 목적이 있어야 처벌이 가능하기에 ‘개인 소장’이거나 ‘단순 시청’이라 주장할 경우 처벌이 쉽지 않다는 맹점이 있다”고 지적했다. 허민숙 국회입법조사처 연구관은 “대화방 단순 참여자라 하더라도 참여하는 사람이 있기에 딥페이크 불법 콘텐츠가 더 확산하는 만큼 연대책임이 반드시 필요하다”고 강조했다.

서울시의회 더불어민주당(대표의원 성흠제)은 27일 서울시의회 제2대회의실에서 한국대학총학생회 공동포럼과 함께 청년정책을 점검, 지속가능한 청년정책의 방향을 모색하는 토론회를 개최했다. 1부와 2부로 나누어 열린 이번 토론회에서는 수동적인 정책대상자가 아닌 주체적인 정책당사자로서의 ‘청년’의 입장에서 청년세대가 처한 다양한 어려움에 대한 분석, 청년정책의 한계와 대안, 청년의 권익보호와 민주시민으로서의 역량강화를 위한 학생자치 활성화 방안 등이 심도깊게 논의됐다. 봉건우 전 경희대 총학생회장의 발제로 시작한 1부 ‘서울시 청년정책 톺아보기’에서는 함형진 연세대학교 총학생회장이 좌장을 맡고 김서영 고려대 총학생회장, 이연서 서강대 부총학생회장, 김지은 서울대 전 총학생회장, 박종진 UNIST 비상대책위원장 등이 토론자로 참여 ▲천원의 아침밥 ▲청년취업사관학교 ▲서울청년정책네트워크 등을 주제로 토론을 이어 나갔다. 2부 ‘학생자치 위기론에서 역할론의 전환’에서는 ▲학생자치의 위기와 원인 ▲시대에 맞는 학생자치의 역할 ▲제도권 차원에서의 실천과제 등을 다뤘다. 박현민 한국대학총학생회공동포럼 사무처장이 발제를, 김성원 KAIST 부총학생회장이 좌장을 맡았다. 심각한 사회적 어려움에 부닥친 청년세대의 현실을 반영하듯 이날 토론회장을 가득 메운 청년과 학생 청중들은 희망보다 실패와 포기를 먼저 배우는 현실을 토로하고, 당면한 문제를 극복하기 위한 현실적이고도 효과적인 정책을 주문했다. 일자리·주거 문제에 대한 대안을 제시하거나, 지방자치단체의 역할을 강조하고 지역별로 차별화된 정책로드맵 구축을 요청하는 목소리도 높았다. 서울시의회 더불어민주당 성흠제 대표의원은 축사를 통해 “청년들이 꿈꾸는 미래가 곧 서울시의 미래”라고 선언하고, “서울시의회 더불어민주당이 청년의 꿈을 실현하고, 사회 발전에 기여할 수 있는 환경을 만들기 위해 최선을 다하겠다”고 약속했다. 이 밖에도 최호정 서울시의회 의장, 김인제 서울시의회 부의장, 김병민 서울시 정무부시장 등 많은 내빈이 참석해 청년세대를 응원했다. 장경태 국회의원(더불어민주당 서울시당 위원장)은 영상으로 축하와 격려의 메시지를 보내오기도 했다. 서울시의회 더불어민주당은 이번 토론회를 계기로 청년·대학생과의 연대와 협력을 강화하고, 정책생산자이자 소비자로서의 청년의 입장을 반영한 다양한 청년정책을 개발·지원할 예정이다.

최근 대학가에 이어 10대 학생들 사이에서도 딥페이크(AI 기반 합성 이미지) 불법 합성물 범죄가 확산하는 가운데 이를 우려하는 여성들을 조롱하는 글들이 다수 올라와 공분을 일으키고 있다. 27일 엑스(X·옛 트위터) 등 소셜미디어(SNS)에는 “딥페이크가 별거 아니라는 중2 학생들”이라는 글과 함께 온라인 커뮤니티에 중학생 이용자들이 올린 댓글을 캡처한 사진이 올라왔다. 해당 사진에는 “딥페이크하는 사람들도 예쁜 사람만 고른다”, “성폭행 안 할거니까 걱정하지 마시라고”, “딥페이크 하나 가지고 난리부르스 떠냐” 등 조롱 글이 담겨 있다. 또 다른 중학생은 “오늘부터 셀카 올리는 여자들의 사진을 긁어모아 딥페이크를 하겠다. 딥페이크 제작자도 거를 ○○○들이 허언증인지 자의식 과잉인지 너무 설친다”며 충격적인 발언도 서슴지 않았다. 중학생들뿐만이 아니다. 지난 26일 대학생 커뮤니티 에브리타임에도 “딥페이크 사건 호들갑 지겹다”는 글이 올라오기도 했다. 해당 글에는 “딥페이크 만든 놈들 역겹고 더러운 거 맞지만 여자들 호들갑에 공감하긴 싫다. 사회적으로 여자들은 남자들에게 공감한 적이 단 한번도 없기 때문”이라는 내용이 담겼다. 범죄의 표적이 될까 불안에 떠는 여학생들을 향해 “일단 불안에 떨고 있는 ○○대 여성분들, 80%는 안심하고 발 뻗고 자도 돼. 너 그 정도 급 아니야”, “딥페이크 범죄의 표적은 페미니스트가 아닌 예쁜 여성들만 해당한다. 얼굴 못생긴 사람들은 안심해도 된다”는 조롱글도 넘쳐났다. 앞서 전날 엑스의 한 공개 계정에는 텔레그램 대화방을 통해 딥페이크 음란물이 유포되고 있다며, 피해 사례가 알려진 대학들의 명단이 올라왔다. 이 계정이 지목한 텔레그램 대화방 참여자들은 친구, 교사 등 지인을 넘어 친족 사진까지 음란물 제작용으로 공유하고 있는 것으로 알려졌다. 해당 게시글이 온라인상에 퍼지면서 네티즌들 사이에선 ‘혹시 나도 딥페이크 합성의 대상이 된 게 아니냐’는 불안감이 확산했다. 피해 방지를 위해 일부 여성들은 SNS에 올린 자신의 사진을 삭제하기도 했다. 증가하는 딥페이크 범죄…방심위 대책 마련 착수국회 행정안전위원회 소속 조은희 국민의힘 의원실이 지난 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 누구나 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 10대들도 자주 접하면서 딥페이크 음란물이 범죄라는 인식이 옅어졌다는 지적도 나온다. 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐다. 방송통신심의위원회는 27일 실·국장 회의를 소집, 딥페이크 음란물 확산 사태 관련 대책 마련에 착수했다. 28일에는 전체 회의를 열어 의논한 내용을 확정할 방침이다. 방심위는 먼저 공식 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하기로 했으며, 관련 모니터링 요원을 배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 또 텔레그램과 즉각 협의할 수 있는 핫라인을 개설, 신속한 피해 확산 차단에 나설 계획이다.

인공지능(AI)를 활용, 지인 등 사진과 음란물을 합성하는 ‘딥페이크 음란물’ 제작·유포 범죄가 전국적으로 기승을 부리는 가운데 경남에서도 피해 우려가 커가고 있다. 27일 경남교육청은 하동에서 발생한 중학생 딥페이크 음란물 피해 학생이 4개교 12명이라고 밝혔다. 가해 학생은 1학년 남학생 6명이다. 이 사건은 지난 3월 27일 1학년 남학생 6명이 텔레그램 단체방을 만들어 피해 여학생들 사진을 합성하고 공유한 게 발단이다. 가해 학생이 영상 존재를 선배에게 이야기하면서 수면으로 올랐다. 피해 학생들은 지난달 말 부모와 지인에게 피해 사실을 알렸다. 교육당국은 지난달 가해 학생에게 긴급조치(접촉·보복행동 금지)를 내렸다. 이달에는 피해자 측 보호자들과 면담을 진행했다. 교육당국과 경찰은 조사·수사를 진행 중이다. 가해 학생들이 공유한 사진은 외부로 유출되진 않았고 현재는 전부 삭제된 상태다. 경남도교육청은 피해 학생과 보호자를 대상으로 심리상담과 치료 지원을 하고 있다. 학생들은 정상 등교 중이다. 가해 학생 징계 등을 논의하는 학교폭력대책심의위원회는 29일 열릴 예정이다. 이러한 딥페이크 음란물 피해는 올해 하동 뿐 아니라 경남지역 학교에서 총 24건이 접수됐다. 지역별로 창원·진주·김해 각 5건, 통영 4건, 거제 2건, 사천·함안·하동 각 1건이다. 학년별로는 고등학교 10건, 중학교 13건, 초등학교 1건이다. 다만 경찰 수사를 거쳐 범죄 혐의가 인정되더라도, 일부 가해 학생은 촉법소년인 까닭에 형사처벌은 받지 않을 전망이다. 경남교육청은 청소년들 피해를 막을 수 있도록 관련 교육·활동을 강화할 예정이다. 전 학교장 대상 딥페이크 등 디지털 성범죄 예방 긴급회의를 연 경남교육청은 다음 달 디지털 성범죄 예방 교육 집중 시행, 학교폭력 예방 교육 존중의 약속 만들기 써클 추진 등도 이어갈 방침이다. 배경환 도교육청 민주시민교육과장은 “초중고교 학생들이 손쉽게 앱에 접근해 영상·사진 등을 합성할 수 있어 디지털 성범죄 사건이 다수 발생하고 있는 것으로 보인다”며 “앱 운영 업체에 음란물 차단 등 협조를 구하고 성인지 교육과 사이버범죄 예방 교육 등을 강화하겠다. 경찰, 경남도와도 공조해 성범죄에 대응하겠다”고 말했다.

경찰청 ‘사이버범죄 대응 국제심포지엄’에 현직 대통령 첫 참석 윤석열 대통령은 27일 ‘2024 국제 사이버범죄 대응 심포지엄’에서 “국가가 배후에 있는 해킹조직이 사이버공격을 벌여 개인과 기업은 물론 국가안보를 위협하는 수준에 이르렀다”고 밝혔다. 윤 대통령은 이날 서울의 한 호텔에서 개최된 심포지엄에서 “AI(인공지능)를 비롯한 신기술이 눈부시게 발전하면서 사이버범죄에 맞서는 일도 갈수록 어려워진다”며 이렇게 밝혔다. 윤 대통령은 최고 수준의 사이버범죄 대응 역량을 갖추기 위해 노력한 참석자들을 격려하고, 대한민국이 디지털 연대의 글로벌 리더가 되고자 하는 의지를 표명하기 위해 심포지엄에 참석했다고 대통령실은 설명했다. 올해로 25회를 맞은 경찰청이 주최하는 국제행사에 대통령이 참석한 것은 이번이 처음이다. 윤 대통령은 축사에서 “사이버안보 위협에 대한 공세적 대응 등을 위해 지난 2월 ‘국가 사이버 안보전략’을 발표했다”며 “이를 토대로 최정예 인력을 양성하고, 사이버보안 기술 개발 속도를 더욱 높여나갈 것”이라고 밝혔다. 또한 “작년 8월 ‘캠프 데이비드 한미일 정상회의’와 올해 7월 ‘NATO 정상회의’에서 사이버안보를 위한 국제사회의 연대와 협력의 필요성을 강조했다”며 “사이버 공간에서 일어나는 범죄에 더 효과적으로 대응하기 위해서는 국제사회가 함께 힘을 모아야 한다”고 강조했다. 이어 “대한민국 정부는 AI 디지털 기술이 인류의 자유와 복지를 확장하고, 그 혁신의 혜택을 미래 세대가 누릴 수 있도록 필요한 지원과 관심을 계속 이어 나가겠다”고 했다. 윤 대통령은 K-과학치안 전시관에서 파손된 디지털기기를 복구해 포렌식 작업을 하는 과정과 AI 기술을 활용해 CCTV 영상 속 아동의 이상행동을 분석하고 아동학대 장면을 신속히 검출하는 시스템의 시연을 관람했다. 이날 개회식에는 국내외 법집행기관과 글로벌 IT 기업, 주요 국제기구(유엔·인터폴·유로폴·아세아나폴·유럽평의회), 미국·영국·프랑스·독일·일본 등 주한 외교사절이 참석했다. 정부에서는 이상민 행정안전부 장관, 조지호 경찰청장이 참석했고 대통령실에서는 임종인 사이버특별보좌관, 왕윤종 국가안보실 3차장, 신용석 사이버안보비서관, 조상명 국정상황실장 등 300여 명이 참석했다.