“돈을 벌고 싶어서…” 전국적으로 딥페이크(Deepfake·딥러닝(Deep learning)과 가짜(Fake)의 결합어) 성범죄가 확산되는 가운데 여중생 성착취물을 제작해 판매하고, 피해자 가족을 협박해 돈까지 뜯어낸 10대가 법정에서 이렇게 답했다. 제주지법 형사2부(재판장 홍은표 부장판사)는 29일 아동·청소년의 성보호에 관한 법률 위반(성착취물 제작) 등으로 구속기소된 A(17)군에게 징역 장기 5년, 단기 3년을 선고했다. 또한 A군에게 성폭력 치료 프로그램 40시간 이수, 아동·청소년·장애인 관련 기관 취업제한 5년 등도 명했다. 재판부는 “15세에 불과한 피해자를 상대로 성착취물을 제작한 점, 피해자 모친을 협박해 돈을 갈취한 점 등 범행 수법과 죄질이 매우 불량하며, 피해자들로부터 용서받지도 못했다”며 “다만 잘못을 인정하고 반성하고 있으며, 17세 소년으로 미성숙한 상태에서 범행한 점 등을 참작했다”고 설명했다. A군은 지난 4월 오픈채팅방에서 알게 된 여중생을 상대로 여러 차례 신체 사진을 요구해 전송받고, 영상통화를 피해자 동의 없이 녹화하는 등의 방식으로 성착취물을 제작한 혐의 등으로 재판에 넘겨졌다. A군은 지난 5월쯤 랜덤채팅을 통해 4만 6000원을 받고 해당 성착취물을 판매하기도 한 것으로 파악됐다. A군은 피해자 어머니에게도 약 17시간에 걸쳐 SNS를 통해 “영상 삭제를 인증할 테니 220만원을 보내라. 그러지 않으면 성착취물을 유포하겠다”고 협박해 결국 10만원을 받아낸 것으로 알려졌다. 앞서 제주도교육청은 지난 27일 보도자료를 내고 ‘딥페이크’ 사진 성범죄물이 공유되고 있는 상황이 전국적으로 발생함에 따라 디지털 성범죄 예방을 위한 대응 방안을 각급 학교에 안내했다. 최근 SNS 상에서 전국 딥페이크 피해 지역과 학교명, 피해자 명단 등이 기재된 게시물이 떠돌아 다니고 있는 가운데 도내 일부 초중고 학교도 거론돼 관련 학부모들이 불안해 하고 있다.

중·고등학생과 대학생들 사이에서 ‘딥페이크 성범죄’가 기승을 부리는 가운데, 피해자가 있는 것으로 추정되는 학교들을 지도에서 찾아볼 수 있게 한 ‘딥페이크 피해 학교 지도’가 등장했다. 27일 개설된 ‘딥페이크 피해학교 지도’(https://deepfakemap.xyz)는 최근 엑스(옛 트위터) 등에서 확산되고 있는 ‘딥페이크 피해학교 목록’ 등을 기반으로 해당 학교들을 지도 위에 표시하고 있다. 현재 전국 수백개의 초·중·고등학교와 대학교가 표시돼 있다. 사이트를 만든 ‘팀 데이터스택’은 “제2의 N번방 사태에 대해 경각심을 주고, 추가 피해를 막기 위해 만들었다”고 밝혔다. 이어 “사이트에 게시된 정보들은 각종 커뮤니티에서 자료를 직접 수집한 것”이라며 “다만 정확한 정보만 모여있는게 아니니 참고용으로만 봐주길 바란다”고 당부했다. 서울대와 연세대에서 여학생들의 사진이 음란물에 합성 및 유포되는 피해가 속출한 데 이어, 전국 각지의 중·고교에서도 가해 학생들이 경찰에 적발되고 있다. 특히 지난 26일 네티즌들이 만든 ‘피해학교 목록’이 확산되면서 학생들 사이에서 “나도 피해자가 될 수 있다”는 공포가 퍼지고 있다. 학생들은 인스타그램 등 소셜미디어(SNS)에 올렸던 사진들을 삭제하고 계정을 비공개로 전환하고 있으며, 학부모들도 자녀의 SNS를 단속하는 한편 카카오폭 프로필 사진 등에 올린 자녀의 사진을 삭제하고 있다. 尹 “명백한 범죄행위”…방심위 긴급회의 소집파장이 커지자 정부도 대처에 나섰다. 윤석열 대통령은 이날 서울 용산 대통령실에서 주재한 국무회의 모두발언에서 딥페이크 성범죄에 대해 “익명의 보호막에 기대 기술을 악용하는 명백한 범죄행위”라면서 “관계 당국에서는 철저한 실태 파악과 수사를 통해 디지털 성범죄를 뿌리 뽑아 주기 바란다”고 주문했다. 방송통신심의위원회는 이날 실·국장 회의, 오는 28일 전체 회의를 연달아 소집해 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련한다고 밝혔다. 방심위는 먼저 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 할 방침이다. 아울러 텔레그램 측에도 영상 삭제 등 강력한 대책을 요구할 계획이다.

어린이가 권장기준의 두 배에 달하는 불소가 함유된 수돗물을 마셨을 때 지능지수(아이큐·IQ)가 저하될 수 있다는 미국 정부의 조사 결과가 나왔다. 21일(현지시간) AP통신에 따르면 미 보건복지부 산하 기관인 국립 독성물질관리프로그램(National Toxicology Program·NTP)은 “1리터(L)당 1.5㎎ 이상의 불소가 포함된 수돗물을 지속적으로 마시는 것은 아이들의 IQ 저하와 연관이 있다”고 밝혔다. 이는 캐나다, 중국, 인도, 이란, 파키스탄, 멕시코에서 실시한 연구를 검토한 결과다. 이같이 미 연방 기관이 높은 수준의 불소 노출과 어린이의 IQ 저하 사이의 연관성을 ‘중간 수준의 신뢰성’으로 인정한 것은 처음이라고 AP는 전했다. 미국 인구의 약 0.6%인 190만명 정도가 1L당 1.5㎎ 이상의 불소가 포함된 수돗물을 사용하고 있다고 한다. 미국 질병통제예방센터(CDC)에 따르면 불소는 치아를 강화하고 충치를 예방하는 역할을 하며, 낮은 농도의 불소를 음용수에 첨가하는 것은 지난 세기 최고의 공중보건 성과 중 하나로 여겨져 왔다. 미 보건 당국은 2015년부터 물 1L당 0.7㎎의 불소화 수준을 권고해 왔다. 세계보건기구(WHO)는 음용수의 안전한 불소 농도를 1L당 1.5㎎으로 설정했다. AP는 “보고서에서는 다양한 불소 노출 수준에서 IQ가 얼마나 저하할 수 있는지, 성인에게 어떤 영향을 미치는지는 언급하지 않았다”면서도 “일부 연구에서는 불소에 더 많이 노출됐던 어린이의 IQ가 2~5포인트 더 낮았다”고 설명했다. “美수돗물 절반, 암 유발 PFAS에 오염”앞서 미국 전역의 수돗물 가운데 절반 가까이가 암 등을 유발하는 것으로 알려진 과불화화합물(PFAS)에 오염됐다는 조사 결과도 나온 바 있다. 지난달 미 지질조사국(USGS)이 새로 발간한 보고서에 따르면 과학자들이 미국의 716개 지역에서 수돗물 성분을 분석한 결과 전체의 45%에서 과불화화합물이 검출됐다. 과불화화합물은 탄소와 불소가 결합한 유기 화합물로, 열에 강하고 물이나 기름을 막는 특성을 가져 의류, 생활용품, 식료품에서 화학, 자동차 반도체 산업에 이르기까지 널리 사용된다. 자연에서 잘 분해되지 않아 ‘영원한 화학물질’(forever chemicals)로 불리기도 한다. 이 조사에서 대부분 오염은 도시와 화합물을 생산하는 제조 지역, 이들을 폐기하는 현장 인근에서 확인됐다. 오염이 가장 높은 지역은 오대호 및 동부 해안가, 캘리포니아 중·남부 지역으로 나타났다. CNN은 수돗물에 정수 필터를 설치하고 이를 주기적으로 교체하는 것이 일상에서 쉽게 적용할 수 있는 대책일 수 있다고 소개하기도 했다.

경기 수원시 대표 캐릭터 ‘수원이’의 인스타그램 채널이 한국인터넷전문가협회(KIPFA)가 주최하는 ‘소셜아이어워드(SOCIAL i-AWARD)’에서 지자체 부문 대상을 받았다. 소셜아이어워드는 서비스, 디자인, 브랜드, 마케팅, 콘텐츠 등 5개 분야에서 가장 혁신적이고 모범적인 소셜미디어 서비스 사례를 선정해 시상하는 행사다. ‘수원이’ 인스타그램은 ‘현재에 안주하지 않고 트렌드에 따라 끊임없이 변화를 시도한다’는 호평을 받았다. 또 단순 일러스트 뿐 아니라 소묘·실사 등 다양한 디자인으로 접근해 다른 지자체와 차별화된 콘텐츠를 제작하고, 이용자가 공감과 재미를 느낄 수 있도록 효과적으로 구성된 콘텐츠 서비스로 브랜드 아이덴티티(정체성)를 잘 보여준다는 평가를 받았다. 수원시 관계자는 “수원이 캐릭터 SNS는 MZ세대, 더 나아가 알파 세대가 시정을 친근하게 받아들이고, 정책에 참여하도록 이끄는 중요한 매체”라며 “시민의 친구와 같은 존재인 수원이를 활용해 더 친근하게 시민에게 다가가며 수원을 알릴 것”이라고 말했다. ‘수원이’는 멸종위기종 1급인 수원청개구리를 모티브로 만든 수원시 대표 캐릭터다. 수원시는 캐릭터 SNS뿐 아니라 시 대표 SNS, 공동주택 엘리베이터TV, 시정소식지, 공공와이파이 등 다양한 매체를 활용한 지역 홍보에 수원이 캐릭터를 활용해 좋은 반응을 얻고 있다. 지난 4월에는 경기수원우만지역자활센터와 캐릭터 상품 제작·판매를 위한 업무협약을 체결하고 디자인 상품을 개발하고 있고, 8월 중순부터 연말까지 스타필드 수원에서 캐릭터 전시도 진행할 계획이다.

전남도 공식 유튜브와 블로그가 국내 최고 권위를 자랑하는 ‘소셜아이어워드(Social i-Awards) 2024’에서 광역자치단체 분야 대상을 받았다. 소셜아이어워드는 과학기술정보통신부 산하 사단법인인 한국인터넷전문가협회(KIPFA)가 주최하고 한국인터넷진흥원(KISA) 등이 후원한다. 매년 4천여 명의 전문가로 구성된 평가위원단이 그 해 가장 혁신적인 채널 및 서비스를 선정해 시상하고 있다. 전남도 공식 유튜브 채널인 ‘으뜸전남’은 유튜브와 블로그 부분 디자인, 브랜드, 콘텐츠, 마케팅, 서비스 등에서 전국 최고를 입증하며 지난해에 이어 2년 연속 대상을 수상했다. 전남도는 2014년 유튜브를 개설해 지금까지 2600여개의 영상을 게시했으며, 2024년 1~7월 기준 하루 평균 방문자가 1만여 명에 달한다. 특히 올해 정책 핵심을 짧게 요약해 전달하는 ‘정책 1분컷’과 통계를 바탕으로 재밌게 재구성한 ‘전남 순위 TOP5’ 등이 구독자에게 큰 인기를 얻었다. 전남 블로그는 2019년 수상 이후 5년 만에 대상을 받았다. 카드 뉴스로 관광·복지·안전 등의 정보를 쉽고 재밌게 제공하는 다양한 콘텐츠가 주효했다는 분석이다. 특히 100명의 SNS 응원단이 참여해 국민 눈높이에 맞춘 기사와 사진, 영상을 제작해 호평을 받았다. 윤재광 전남도 대변인은 “앞으로도 시대 흐름에 맞는 다양한 콘텐츠로 재밌고 유익한 정보를 제공해 글로벌 전남을 알리겠다”며 “전남도의 유튜브 채널과 누리소통망에 많은 관심을 가져달라”고 말했다. 전남도는 공식 유튜브와 블로그 외에도 인스타그램, 페이스북, 카카오톡 채널 등 다양한 누리소통망을 통해 도정과 실생활에 필요한 정보를 제공하고 있다.

일론 머스크 테슬라·스페이스X CEO가 각국 지도자, 기업인 등 세계적인 인물들이 런웨이를 걷는 인공지능(AI) 영상을 공개해 화제다. 22일(현지시각) 머스크는 소셜미디어(SNS) 엑스(X·옛 트위터)에 딥페이크로 생성한 1분 23초짜리 패션쇼 영상을 게재하며 “AI 패션쇼를 선보일 최고의 시기”라고 썼다. 해당 영상은 1억4850만회가 넘는 조회수와 120만개의 좋아요를 기록했다.영상에는 가장 먼저 흰색 롱패딩을 입은 프란치스코 교황이 등장한다. 이어 무지개색 루이비통 드레스를 차려입은 블라디미르 푸틴 러시아 대통령, 선글라스를 쓰고 휠체어에 앉아 있는 조 바이든 미국 대통령이 잇따라 나온다. 일론 머스크 본인은 X가 새겨진 속옷 차림에서 이내 테슬라 로고가 새겨진 우주복을 입은 모습으로 변신했다. 도널드 트럼프 전 미국 대통령은 오렌지색 교도소 작업복을 입고 런웨이를 걷고, 김정은 북한 국무위원장은 ‘KIM’이 새겨진 후드 티셔츠와 금색 체인 목걸이를 착용한 모습으로 나타났다.시진핑 중국 국가주석은 붉은색 바탕에 노란색 곰이 그려진 옷을 입고 등장하는데, 이는 시 주석이 평소 싫어하는 것으로 알려진 ‘곰돌이 푸’ 캐릭터를 연상하는 모습이다.버락 오바마 전 미국 대통령은 일본 사무라이, 로마 전사, 미국 프로농구(NBA) 시카고 불스 유니폼 등 15가지의 복장을 소화했다.마지막 모델은 마이크로소프트(MS)사를 설립한 빌 게이츠다. 그는 양손에 ‘PC에 문제가 생겨 다시 시작해야 한다’는 문구가 적힌 모니터를 들고 등장했다. 최근 MS발 IT 대란을 풍자한 것으로 추정된다. 그 외에도 마크 저커버그 메타 CEO, 카멀라 해리스 부통령, 나렌드라 모디 인도 총리 등 총 20명의 저명인사가 등장한다.네티즌들은 “신선하고 재밌다”, “정치인들의 풍자적인 착장이 인상적이다” 등 해당 영상에 긍정적인 반응을 보였다. 하지만 일각에서는 딥페이크 기술에 대한 우려의 목소리도 나오고 있다. 딥페이크(Deepfake)는 인공지능 기술인 ‘딥러닝’(deep learning)과 가짜를 의미하는 ‘페이크’(fake)의 합성어다. 간단한 이미지와 텍스트 등으로 그럴듯한 음성이나 영상을 만들어낼 수 있다. 지난 1월에는 미국 뉴햄프셔주(州) 프라이머리를 앞두고 조 바이든 대통령을 사칭해 해당 경선에 불참할 것을 권하는 딥페이크 음성이 유포된 사건이 있었다. 미 연방통신위원회는 해당 음성을 제작한 정치 컨설턴트 스티브 크레이머에게 600만달러(약 82억원)의 벌금을 부과했다. 최근에는 방송통신심의위원회가 딥페이크를 이용한 ‘성적 허위 영상물’에 대한 시정요구가 매년 급증하고 있다고 발표하기도 했다. 전문가들은 정치, 성범죄 등에 악용될 수 있는 인공지능의 위험성에 대한 기준이 필요하다고 지적한다.

일본에서 발암성 화학물질인 과불화화합물(PFAS)이 정수장과 하천에서 잇따라 검출된 가운데, PFAS에 오염된 수돗물을 사용한 현지 주민의 피해 사례도 나오고 있다. 이에 일본 정부가 전국 단위 수돗물 현황 조사에 처음으로 착수했다. 23일 교도통신 등에 따르면 일본 정부는 지난달 전국 47개 도도부현(都道府縣·광역자치단체)의 지자체 담당 부서나 수도 사업자 등에 오염 실태 파악을 요청하는 문서를 보냈다. 조사 기한은 오는 9월까지로, 수돗물 등에서 검출된 PFAS 농도와 관련 정수장 정보를 요구했다. 검사하지 않은 경우는 이유나 향후 실시 계획 등의 보고를 요청했다. PFAS는 인공적으로 만들어진 유기불소 화합물을 이르는 용어로, 비교적 최근에야 유해성이 알려졌다. 자연에서 잘 분해되지 않아 ‘영원한 화학물질’(forever chemicals)로도 불린다. 日시골마을서 목표치 ‘28배’ PFAS 검출 최근 NHK는 “일본 전국 각지에서 ‘PFAS 오염’이 밝혀지고 있다”며 일본의 한 시골마을 사람들의 피해 사례를 조명했다. 지난해 10월 오카야마현의 한 마을 수돗물에서 일본의 잠정 목표치인 1ℓ당 50ng(나노그램)의 28배에 달하는 1400ng의 PFAS가 검출됐다. 마을 주민 약 1000명이 사용하는 수돗물이었다.이 마을에 거주하는 60대 여성은 “오늘부터 물을 못 마시니 근처 급수대로 물을 가지러 오라고 했다”며 “매일 매일 힘들었다”고 당시 상황을 떠올렸다. 이 여성은 혈액 검사 결과 혈중에서 1㎖당 362.9ng의 PFAS가 검출됐다. 이에 대해 NHK는 “미국 학술기관이 건강 위험이 커진다고 지적하는 값(20ng/㎖)의 18배에 해당한다”고 설명했다. 혈액 검사를 받은 마을 주민 27명 모두 이 수치를 웃돌았다. 결국 이 여성은 ‘이상지질혈증’ 진단을 받았고, 앞으로 꾸준히 약을 먹어야만 한다.NHK 조사에 따르면 주민들의 혈액 검사 결과지에서 특히 눈에 띈 것은 ‘유산 경험’이었다. 마을 주민 30대~40대 여성 5명 중 3명이 유산을 경험했다고 답했다. 43세 여성은 13년 전 도쿄에서 이 마을로 이사 온 뒤 3번 유산했다고 한다. 그는 “몇 번 임신해도 유산해버렸다”고 전했다. 이와 관련해 NHK는 “PFAS의 높은 혈중 농도와 유산 위험이 연관이 있는지는 확실하지 않지만, 최근 몇 년간 해외에서는 (이들이) 관련 있다고 결론 내린 논문이 여러 편 발표되고 있다”고 밝혔다. 한편 일본에서는 PFAS가 일본수도협회 통계 검사항목 중 하나로 포함은 돼 있지만, 그동안 급수 인구 5000명 이상 대형 수도 등으로 조사 대상이 한정돼있었다. 일본 정부는 이번 조사 결과를 향후 결정할 수질 목표 재검토 자료 등에 활용할 계획이다.

실론은 다음달 2일부터 3일까지 중국 상하이 월드 엑스포 전시회 센터(Shanghai World Expo Exhibition & Convention Center)에서 개최하는 FTS(Functional Textiles Shanghai) 전시회에 참가한다. FTS 전시회는 ‘Performance Days’(PD)에서 주관하는 전시로, 이틀 동안 115개 이상의 의류 전문 업체가 참가한다. 실론은 이번 전시에 처음 참가하는 것으로 동계 스포츠 의류와 무봉제 속옷에 사용할 수 있는 자사 심테이프와 접착 필름 등 다양한 제품을 선보인다. 실론의 모든 제품은 ‘PFAS 프리’ 제품으로, 제조 및 공급 체인 전반에 걸쳐 섬유 관련 인증 규격인 ‘블루사인’(bluesign) 인증을 획득했다. 또한 원료, 중간 제품 및 완성품의 유해물질을 독립적 검사하는 오코텍스 스탠다드 100(OEKO-TEX STANDARD 100) 인증을 받은 제품을 생산하고 있다. 뿐만 아니라 환경에 무해한 환경 경영 체제 규격인 국제 인증 ISO와 공장 내 생산부터 폐기까지의 과정을 친환경적인 기준에 따라 평가한 ‘Higg Index’ 인증을 받은 바 있다. 실론 관계자는 “올해 3월 독일 Performance day 전시회를 시작으로 중국 FTS 전시회와 미국, 독일에서 진행하는 모든 Performance Days의 전시회에 참가할 예정”이라고 전했다. 한편 ‘Performance day’ 전시회는 독일 뮌헨, 미국 포틀랜드 및 뉴욕에서 열리는 FFF(Functional Fabric Fair)라는 이름의전시로 개최되고 있다. 이번 전시에는 스포츠, 작업복, 기능성 의류를 위한 원단, 원사, 방수 기술 및 의류 부자재의 최신 트렌드와 혁신을 중점으로 소개한다.

마치 영화 ‘바이센테니얼맨’을 보는 듯한 일이 현실에서 일어나 전 세계가 충격에 휩싸였다. 미국의 휴머노이드 로봇 개발 스타트업인 ‘피규어AI’가 챗GPT 개발업체인 오픈AI와 협업해 만든 로봇 영상이 13일(현지시간) 공개되면서다. 영상 속 로봇 ‘피규어 01’에게 인간이 “지금 뭐가 보이냐”고 묻자 ‘피규어 01’은 “테이블 중앙에 있는 접시 위에 올려진 빨간 사과가 보인다”고 말한다. 이어 “뭐 좀 먹어도 되냐”고 묻자 “물론”이라고 대답하면서 사과를 집어 건넨다. 인공지능(AI)을 탑재한 로봇이 스스로 주어진 환경을 인식하고 판단해 상황에 맞는 행동을 취한 것이다. AI가 스스로 판단하고 행동할 수 있는 수준이 된다는 건 인간의 통제 범위를 벗어난다는 것을 의미한다. 미국 민간업체 글래드스톤 AI가 미 국무부 의뢰로 최근 발표한 보고서는 범용인공지능(AGI)의 위험성을 담고 있다. AGI는 인간과 유사하거나 그 이상의 능력을 지닌 ‘미래의 AI’를 말하는데, 최첨단 로봇과 AGI가 등장하면 인류에게 멸종 수준의 위협을 초래할 수 있다는 것이다. AGI의 진화 속도가 관건이다. 전문가들은 향후 5년 이내에 AGI가 나올 수 있다고 본다. AI를 악용한 딥페이크(Deepfake)가 범람하면서 AI 규제 움직임이 촉발된 것은 그나마 다행스럽다. 지난 1월 테일러 스위프트를 합성한 딥페이크 이미지가 소셜미디어 ‘X’(옛 트위터)를 통해 유포된 것이 AI 규제법 논의의 촉매제가 됐다. 미국 정치권에서도 민주당 뉴햄프셔주 경선 전날인 지난 1월 22일 조 바이든 대통령 목소리를 흉내 낸 로보콜(녹음된 음성이 재생되는 자동전화)이 무더기로 유포돼 혼란이 일었다. 발등에 불이 떨어진 인류에게 시간은 얼마 남지 않았다. 다행히 유럽연합(EU)은 세계 최초로 포괄적 AI 규제법을 마련해 13일(현지시간) 승인했다. AI 활용 분야를 총 4단계의 위험등급으로 나눠 차등 규제한다. 특히 AGI 개발 기업에 대해 ‘투명성 의무’를 부여하기로 했는데 초안에 없었다가 AI 오남용에 대한 우려로 추가됐다. 우리나라도 2021년 7월 정필모 더불어민주당 의원 등이 발의한 ‘인공지능기본법’ 이후 다수의 법안이 발의됐지만 논의는 제자리다. 딥페이크로 인한 피해는 이미 눈앞에 다가왔는데 너무 태평하다.

딥페이크(Deepfake)로 영상 속 인물의 얼굴을 가상 인물로 바꾼 한 영상을 ‘딥페이크 탐지 소프트웨어’에 업로드해 분석하니 금세 ‘변조율’이 76.76%인 ‘가짜’ 영상으로 판독됐다. 합성 유형은 ‘얼굴 바꿔치기’라고 가려냈다. 경찰청 국가수사본부는 이처럼 딥페이크 영상을 탐지하는 기술을 개발해 범죄 단속에 활용한다고 5일 밝혔다. 경찰이 개발한 소프트웨어는 영상 길이 등에 따라 5~10분이면 딥페이크인지를 판별한다. 딥페이크는 딥러닝(Deep learning)과 가짜를 의미하는 페이크(Fake)의 합성어로, 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술을 기반으로 이미지를 합성하는 기술이다. 갈수록 딥페이크 기술이 정교해지 가운데 맨눈으로 구분해내기 어려운 딥페이크 영상을 이 소프트웨어로 구분할 수 있을 것으로 기대된다. 해외에서도 마이크로소프트 등이 딥페이크를 탐지하는 기술을 개발했지만, 서양인 위주로 데이터를 쌓았기에 한국인 얼굴을 바꿔치기 한 영상은 탐지율이 상대적으로 떨어진다는 평가를 받았다. 경찰청이 도입한 소프트웨어는 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점 등을 포함한 인물 5400명의 데이터 520만점을 학습한 결과, 탐지율 정확도가 80%에 달하는 것으로 분석됐다. 경찰은 총선을 앞두고 딥페이크로 가짜 영상을 만들어 허위 정보를 퍼뜨리거나 성 착취물을 만드는 범죄를 수사하는 데 소프트웨어를 활용할 계획이다. 공직선거법에 따라 딥페이크를 활용한 선거운동은 선거일 90일 전부터 선거일까지 전면 금지된다. 그러나 딥페이크 영상인지만을 따지기에 이 소프트웨어만으로는 모든 허위 영상을 구분해낼 수는 없다. 최근 소셜네트워크서비스(SNS)에서 퍼진 윤석열 대통령의 ‘가짜 양심고백 연설’ 동영상은 실제로 존재하는 영상을 짜깁기 한 것이기에 이 소프트웨어는 해당 영상을 ‘진짜’라고 판단했다. 경찰은 소프트웨어의 신뢰도가 100%가 아니기에 증거자료로 쓰기보다는 수사 방향을 정하는 참고자료로 활용하겠다는 계획이다. 국수본 관계자는 “딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극적으로 수사할 수 있을 것”이라며 “향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 말했다.

조지호 서울경찰청장은 최근 온라인상에서 유포된 윤석열 대통령 모습이 등장하는 허위 조작 영상에 대해 “오늘 아이디로 개인을 특정하는 압수수색을 할 것”이라고 26일 밝혔다. 조 청장은 이날 정례 기자간담회에서 “영상을 올린 것으로 보이는 아이디를 확보했다”며 “당사자가 어떤 의도로 어떤 구체적 행위를 했는지 수사할 것”이라며 이같이 밝혔다. 앞서 지난해 연말부터 틱톡과 메타 등 소셜미디어(SNS)에는 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 제목의 동영상이 급속하게 퍼졌다. 46초 분량의 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이어 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다”며 연설을 끝맺는다. 해당 영상은 당초 ‘딥페이크’(Deepfake·AI로 만든 영상·이미지 합성 기술)로 알려졌으나 기술적으로 확인한 결과 지난 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV연설 장면을 짜깁기한 것으로 확인됐다. 경찰은 최근 방송통신심의위원회에 공문을 보내 관련 게시글의 삭제 및 차단을 요청했다. 이어 방심위는 지난 23일 이들 영상에 대한 차단 조치를 만장일치로 의결했다. 앞서 경찰은 지난해 12월 개정된 딥페이크 선거운동을 금지한 공직선거법까지 거론하며 수사 범위를 확대할 수도 있다는 취지로 말했지만, 고발 당사자가 정보통신망법상 명예훼손으로만 고발한 것으로 알려져 우선 관련 혐의에 대해 조사한다는 입장인 것으로 알려졌다. 조 청장은 “(경찰이) 자의성을 갖고 (수사)하지는 않을 것”이라면서 “경찰이 인위적으로 마음대로 강제 수사할 수 있는 것도 아니고 수사 결과도 경찰이 송치하면 검찰에서의 과정이 있고 유죄로 판단하는 것은 법원”이라고 강조했다.

방송통신심의위원회가 23일 긴급 통신심의소위원회를 열어 윤석열 대통령과 관련한 짜깁기 영상을 차단하기로 의결했다. 방심위는 향후 이와 유사한 허위 영상에 대해서는 긴급 차단 조치에 나선다는 방침이다. 이날 방심위는 경찰이 전날 삭제·차단을 요청해온 윤 대통령 관련 조작 영상 23개를 ‘현저한 사회 혼란을 일으킬 우려가 있는 영상’으로 판단하고 소셜네트워크서비스(SNS)에서 차단하는 결정을 만장일치로 의결했다. 이를 위해 인스타그램과 페이스북, 틱톡 등의 플랫폼에 차단 조치를 요청했다. 해당 영상은 인공지능(AI)으로 만든 딥페이크(Deepfake·영상·이미지 합성 조작물)가 아닌 2022년 2월 대선 과정에서 윤 대통령이 했던 TV연설 장면을 편집해 제한 것으로 파악됐다. 이 영상의 제목은 ‘가상으로 꾸며본 윤 대통령 양심고백연설’로, 44초 분량의 해당 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”라고 말하는 장면이 담겼다. 방심위는 실제 영상을 이용해 만든 해당 게시물을 일반 국민이 윤 대통령이 한 실제 발언으로 오인하게 할 우려가 큰 것으로 보고 신고 접수 하루 만에 긴급 차단 조치를 하게 됐다고 설명했다. 일각에서는 게시자가 ‘가상으로 꾸몄다’라고 밝힌 영상인 만큼 정치적 풍자로 볼 수 있다는 주장도 나온다. 경찰은 해당 영상과 게시글이 허위 사실 적시에 의한 명예훼손에 해당한다고 보고 차단을 요청한 바 있다.

“저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다. 저 윤석열의 사전에 정치 보복은 있어도 민생은 없습니다” ‘윤석열 대통령 양심고백 영상’이란 제목으로 ‘가짜’ 윤석열 대통령 딥페이크(Deepfake·AI로 만든 이미지 영상 합성 기술) 영상물이 소셜미디어(SNS)에서 확산하자 경찰이 22일 방송통신심의위원회에 차단을 요청한 것으로 확인됐다. 방심위는 해당 영상을 ‘대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물’로 판단하고 긴급 심의에 착수했다. 서울경찰청은 최근 방심위에 공문을 보내 틱톡과 메타 등에 올라온 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’ 딥페이크 게시글의 삭제와 차단을 요청했다. 근거 조항은 방송통신위원회의 설치 및 운영에 관한 법률, 정보통신망 이용촉진 및 정보보호 등에 관한 법률, 정보통신에 관한 심의 규정이다. 경찰은 “같은 URL 주소를 통해 틱톡, 인스타, 페이스북 사이트 계정을 사용하는 회원이 문제의 영상 등을 게시한 것으로 확인돼 삭제·차단을 요청한다”고 밝혔다. 방심위는 해당 내용을 접수하고 오는 23일 긴급 통신 심의소위원회를 열어 해당 안건을 심의한 뒤 바로 삭제 및 차단 조치를 할 것으로 알려졌다.46초 분량의 영상 속 윤석열 대통령은 “존경하는 국민 여러분. 저 윤석열, 국민을 괴롭히는 법을 집행해온 사람이다. 무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”라고 말한다. 이어 “저 윤석열, 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”며 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”고 말했다. 그러면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다. 감사하다”며 연설을 끝맺는다. 이날 오후 4시 현재 틱톡에서 ‘윤석열 양심’을 검색하면 같은 게시글이 5개가량 검색된다. 영상 댓글에는 “이건 윤석열이 아니다”, “이거 만든 사람 처벌해야 한다”는 부정적 반응과 반대로 “정말 저렇게 인정하면 좋으련만”, “가짜가 진짜보다 좋다” 등의 반대 반응도 달렸다. 앞서 2022년에도 지방선거를 앞두고 윤 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 SNS를 통해 확산하면서 정치적 논란이 됐었다. 한편, 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

실론이 2월 1일부터 4일까지 방글라데시 국제 컨벤션 시티 바순다라(ICCB) 다카에서 개최하는 DTG (Dhaka International Textile & Garment Machinery Exhibition) 전시회에 참가한다. DTG는 2004년에 시작한 섬유 및 의류 기계 관련 전시회로 방글라데시 의류 산업 발전에 따라 계속해서 규모가 확장되고 있다. 또한 방글라데시는 최대 봉제 산업 국가 중 하나로 매년 전시회에 참가하는 바이어 수가 증가하는 추세다. 특히 섬유·의류 분야는 방글라데시 경제 발전의 원동력으로 총수출의 약 80%를 차지하고 있다. DTG 전시회에 참가하는 방글라데시 섬유업체들은 기존의 단순 섬유품목 제조에서 벗어나 다양한 기능을 겸비한 고부가가치 섬유 제품을 생산에 큰 관심을 보이고 있다. 이에 이번 전시회를 통해 다양한 섬유와 부자재를 소개할 수 있는 기회가 될 것으로 보인다. 실론은 이번 전시회에 처음으로 참여해 봉제와 무봉제를 컨셉트로 심테이프 및 접착필름 등 다양한 제품을 선보일 예정이다. 실론 관계자는 “이번 방글라데시 전시회를 시작으로 2024년 국내를 비롯한 다양한 해외 전시회를 참가할 예정”이라고 전했다. 한편 실론의 모든 제품은 PFAS FREE 제품이며 제조 및 공급 체인 전반에 걸쳐 섬유 관련 인증 규격인 블루사인(bluesign®) 인증을 획득했다. 또한 원료, 중간 제품, 완성품의 유해물질을 독립적으로 검사하는 오코텍스 스탠다드 100(OEKO-TEX® STANDARD 100) 인증을 받은 제품을 생산하고 있으며, 환경에 무해한 환경 경영 체제 규격에 대한 국제인증(ISO), 실제 공장에서 생산부터 폐기까지의 전 과정에서 친환경 요소를 파악하는 Higg Index 인증을 받은 바 있다.

지난해 10월 7일 팔레스타인 무장정파 하마스의 이스라엘 기습 공격 이후 이스라엘의 보복 지상전이 시작되면서 가자지구 민간인 희생자가 꾸준히 증가하는 가운데, 공습으로 부상한 가자지구 여성이 사망한 뒤 아기를 출산하는 기적이 벌어졌다. 팔레스타인 현지 언론의 보도에 따르면, 팔레스타인 가자지구에 살던 임산부 하나디 아부 암샤는 최근 이스라엘군의 공격으로 큰 부상을 입고 병원으로 옮겨졌다. 그러나 결국 임산부는 사망선고를 받았고, 의료진은 뱃속 태아라도 살리기 위해 긴급 제왕절개 수술을 실시했다. 사망한 어머니의 뱃속에서 꺼내진 신생아는 여자아이였고, 곧바로 인큐베이터로 옮겨져 집중 치료를 받고 있다. 현지에서 이를 지켜 본 한 의료진은 “악몽과도 같은 상황이었다”면서 “아이가 첫 숨을 내쉬었을 때, 이미 아이는 고아가 된 상태였다”고 말했다. 현지 언론은 신생아의 어머니를 비롯해 모든 가족이 이미 이스라엘군의 공습 탓에 사망한 것으로 보인다고 전했다. 가자지구 전쟁터서 태어나는 신생아 매일 180명 유엔아동기구인 유니세프에 따르면, 이스라엘의 지상전이 시작된 뒤 약 2만 명의 아기들이 믿기 힘든 열악한 환경에서 세상에 나왔다. 유니세프는 “가자지구는 세상에서 어린이에게 가장 위험한 장소”라고 말하기도 했다.유니세프 측은 “현재 이곳에서 벌어지는 일은 아이들과의 전쟁이나 다름없다”면서 “가자지구를 향한 이스라엘의 보복 공격이 확대된 뒤 약 2만 5000명이 사망했고, 이중 70%가 여성과 어린이”라고 목소리를 높였다. 유엔인구기금(UNPFA)은 1월 5일 펴낸 보고서에서 가자지구에서 매일 약 180명의 여성이 출산한다고 추산했다. 앞서 세계보건기구(WHO)는 2023년 11월3 일 가자지구 임산부 15%가량이 임신·출산 합병증으로 치료가 필요하다고 경고한 바 있다. 이스라엘 “병원 지하에 하마스 은신처”…탱크 공격까지 이스라엘군은 하마스 대원들이 가자지구 곳곳에 있는 병원 지하에 은신처를 두고 활동하고 있다고 주장하며 병원 공습을 멈추지 않고 있다. AFP통신의 23일 보도에 따르면, 이날 가자지구 보건부는 성명을 통해 “이스라엘 탱크가 나세르 병원의 수술 병동 건물과 응급실 건물의 상층부에 포격을 가했다”며 “수십 명이 부상했을 것”이라고 주장했다.앞서 가자지구 보건부는 전날에도 이스라엘군이 칸 유니스 서부 알마와시(市)에 있는 알카이르 병원을 상대로 진압 작전을 펼치고, 의료진 등을 체포했다고 전했다. 이스라엘 측은 하마스 최고 지도자들이 칸 유니스의 지하터널에 은신해 있을 가능성이 있다고 보고 해당 지역에 대한 고강도 공습을 이어가고 있다. 이스라엘군의 권고에 따라 환자들 상당수가 병원 밖으로 강제 이송됐지만, 일부 환자는 이송이 불가능할 정도로 건강상태가 악화돼 있으며, 의료진도 환자를 두고 떠날 수 없다며 포탄이 쏟아지는 병원에 남아있는 것으로 알려졌다.

국회는 20일 오후 본회의를 열고 정치자금법·공직선거법 개정안 등을 포함해 130여건의 법안들을 처리했다. 더불어민주당은 이날 안건으로 오르지 못한 ‘쌍특검법’(대장동 50억 클럽·김건희 여사 주가조작 의혹)과 이태원참사 특별법 같은 쟁점 법안을 연내 처리하겠다고 강조해 정쟁 국면은 연말까지 이어질 전망이다. 이날 본회의에서는 여성추천보조금 지급 구간을 세분화하고, 여성정치발전을 위한 경상보조금의 용도를 구체적으로 명시하는 내용의 정치자금법 개정안이 통과됐다. 현행법은 정당이 받은 경상보조금 총액의 10% 이상을 여성 정치 발전을 위해 사용하도록 규정하고 있는데, 구체적 용도를 정하지 않아 대부분이 인건비에 지출되는 등 실효성이 떨어진다는 지적<서울신문 2023년 8월 28일 자 1·4·5면>이 제기된 데 따른 것이다. 선거일 90일 전부터 ‘딥페이크‘(Deepfake) 기술을 활용한 선거운동을 금지하는 내용의 공직선거법 개정안도 본회의를 통과했다. ‘AI(인공지능) 윤석열’, ‘AI 이재명’ 등 AI를 활용해 합성·편집한 영상물을 해당 기간에는 유세에 쓰면 안 된다. 이 밖에 민사소송에서도 항소이유서 제출을 의무화하는 민사소송법 개정안, 특별사법경찰관리의 지명 대상자와 직무 범위를 확대하는 사법경찰직무법 개정안, 유전자 검사일로부터 10년이 경과한 유전 정보도 보존할 수 있도록 하는 실종아동보호법 개정안 등이 본회의에서 의결됐다. 민생 법안 처리를 위해 여야 원내수석부대표와 정책위의장으로 구성한 ‘2+2 협의체’는 전날 3차 회의를 열고 정당별로 10개씩 제시한 법안을 검토했지만 합의에 이르지는 못했다. 오는 28일 본회의에서 처리될 가능성이 있다. 이와 별도로 지난 4월 민주당 주도로 신속처리안건(패스트트랙)으로 지정된 쌍특검법 역시 국민의힘이 반대하더라도 22일까지 상정되지 않으면 그 후 열리는 첫 본회의인 28일에 자동 상정된다. 윤영덕 민주당 원내대변인은 이날 의원총회 이후 기자들을 만나 “본회의에 부의돼 있는 쌍특검법, 이태원참사 특별법도 연내 처리를 위해 최선을 다할 생각”이라고 말했다.

‘딥페이크(deepfake)’ 기술로 사진 속 여성의 옷을 벗기는 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있다. 딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다. 10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다. 그래피카에 따르면 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다. 딥페이크 앱과 웹사이트에 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지가 뜬다. 사진 속 인물 대부분은 여성이다. 외신은 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다.구글은 이 같은 문제에 대해 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다. 디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 말했다. AI 기술 발달이 이 같은 딥페이크 앱이 범죄에 악용될 수 있다는 우려를 심화시키고 있다. 온라인상에서 당사자의 동의 없이 사진을 가져와 나체 사진 등 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.실제 한 인터넷 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다는 내용으로 성희롱을 조장하고 있다. 우리나라에서도 최근 여성 지인의 얼굴을 음란물에 합성해 SNS에 퍼뜨린 20대 남성 A씨가 경찰에 붙잡혔다. 경찰에 따르면 A씨는 익명의 SNS 계정을 통해 피해자에게 ‘삭제를 원하면 자신의 노예가 되거나 직접 사진을 찍어 보내라’고 위협하기도 했다. 우리나라는 성폭력 처벌법 제14조의2는 허위 영상물을 편집, 합성, 가공할 경우 5년 이하, 5000만원 이하 형에 처하도록 규정하고 있고, 판매할 경우 7년 이하 징역형에 처할 수 있도록 하고 있다. 다만 딥페이크 관련 처벌법은 지난해 성폭력범죄의 처벌 등에 관한 특례법 일부개정법률로 신설되었으나 제작 또는 반포한 자에 한하여 처벌한다는 점에서 딥페이크 포르노를 소비한 ‘단순 이용자’에 대한 처벌 규정이 전무한 상황이다. 한편 2019년 네덜란드의 사이버 보안연구 회사인 딥트레이스가 발간한 보고서에 따르면 전 세계 딥페이크 영상의 96%가 포르노 영상이었다. 또 피해자의 25%는 한국 여성 연예인이었다는 사실이 드러났다.

내년 총선 90일 전부터 ‘딥페이크’(Deepfake)를 활용한 선거운동이 전면 금지될 전망이다. 딥페이크 기술이 점점 정교해지면서 선거에 악용될 우려가 큰 만큼 새로운 법을 마련해 이를 방지한다는 것이다. 국회 정치개혁특별위원회는 4일 법안소위를 열고 딥페이크 선거 운동 금지를 골자로 하는 공직선거법 개정안을 통과시켰다. 딥페이크는 인공지능(AI)을 활용해 실제 인물의 얼굴이나 특정 부위를 가상으로 합성해 만들어낸 영상편집물을 뜻한다. 지난 대선 땐 딥페이크를 활용한 ‘AI 윤석열’, ‘AI 이재명’ 등이 허용됐다. 정개특위 관계자는 이날 서울신문의 통화에서 “딥페이크의 경우 사례는 많지 않지만 그 파급력이 큰 만큼 기간을 정해 통으로 금지시키는 게 좋겠다는 데 의견이 모였다”면서 “이견이 없는 만큼 5일 정개특위 전체회의에서 이를 통과시킬 예정”이라고 했다. 해당 법안이 7일 법제사법위원회를 통과하면 8일 예정된 본회의에서 최종 처리될 예정이다. 법안이 공포되면 22대 국회의원 선거 90일 전인 다음 달 11일부터 딥페이크를 활용한 선거 홍보 영상 배포는 전면 금지된다. 다음 달 11일 이전까지는 딥페이크를 인증하는 ‘표기’를 전제로 선거운동에 이용할 수 있다. 정개특위 법안1소위원장인 김영배 더불어민주당 의원은 소위 이후 기자들과 만나 “평소에는 딥페이크 선거 운동을 허용하되 ‘딥페이크’ 표기를 의무화하도록 했다”면서 “이를 위반할 경우 과태료를 물도록 했다”고 설명했다. 딥페이크 표기를 하지 않고 허위 사실을 담은 경우에는 가중 처벌까지 가능하다. 딥페이크 제작 목적이 당선일 경우와 낙선일 경우 모두 법의 적용을 받는다. 김 의원은 “‘선거운동을 위하여’라는 문구가 있는 만큼 선거와 아무 관계 없는 딥페이크는 허용된다”며 “이를테면 딥페이크를 활용한 기업 홍보 등은 아무 상관 없다”고 덧붙였다. 딥페이크가 선거 운동용인지 아닌지는 소관 기관인 중앙선거관리위원회에서 판별하기로 했다. 한편 이날 소위에서는 선거운동 도구를 착용하는 것뿐만 아니라 소지할 수 있도록 하는 내용의 공직선거법 개정안도 의결됐다. 현행법상 피켓과 같은 표지물을 목에 걸 수는 있지만 손으로 들 수 없게 돼 있는데 과하다는 지적에 따라 이를 수정한 것이다. 국민투표법 전부 개정과 관련한 입법공청회도 열렸다. 김 의원은 “국민투표법이 2014년 헌법재판소에서 위헌 판결이 난 이후로 10년간 한 번도 논의된 적이 없다”면서 “국민 투표가 오히려 거꾸로 국민 통합을 해치는 결과로 이어져선 안 되지 않느냐는 지적이 있었다”고 설명했다. 국민투표법에 대한 심사는 다음 소위에서 진행될 예정이다.