윤석열 대통령은 딥페이크(인공지능으로 만든 영상·이미지 합성물)를 활용한 디지털 성범죄가 확산하는 것과 관련해 “관계 당국에서는 철저한 실태 파악과 수사를 통해 디지털 성범죄를 뿌리 뽑아 주기 바란다”고 주문했다. 윤 대통령은 27일 서울 용산 대통령실 청사에서 주재한 국무회의 모두발언에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 소셜미디어(SNS)를 타고 빠르게 유포되고 있다”며 이같이 말했다. 윤 대통령은 “피해자가 미성년인 경우가 많고, 가해자 역시 대부분 10대로 드러나고 있다”며 “‘단순 장난’이라 둘러대기도 하지만 익명의 보호막에 기대 기술을 악용하는 명백한 범죄행위”라고 지적했다. 윤 대통령은 그러면서 “우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”며 “건전한 디지털 문화가 자리매김할 수 있도록 교육 방안도 강구해주기 바란다”고 참모들에 당부했다.

방송통신심의위원회가 텔레그램을 기반으로 한 딥페이크 음란물 제작 및 유포 사건이 확산하자 긴급회의를 소집했다. 27일 방심위는 실·국장 회의, 오는 28일 전체 회의를 연달아 소집해 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련한다고 밝혔다. 방심위는 먼저 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 할 방침이다. 아울러 텔레그램 측에도 영상 삭제 등 강력한 대책을 요구할 계획이다. 방심위는 최근 온라인 커뮤니티와 소셜미디어(SNS)상 허위 조작정보와 음란물, 도박·마약 관련 등 정보에 대해 강력히 대응한다는 기조를 보여왔다. 특히 성적 허위 영상과 관련해서는 지난해 총 7187건의 시정 요구를 결정했는데, 올해는 7월 말까지만 지난해의 90%에 달하는 6434건을 시정 요구 결정했다. 앞서 최근 한 대학에서 여학생의 얼굴에 음란물을 합성한 딥페이크 영상이 유포된 데 이어 비슷한 종류의 텔레그램 대화방이 잇따라 발견돼 사회적 문제로 대두했다. 피해자 중에는 대학생뿐만 아니라 중고생 등 미성년자는 물론 교사, 여군 등도 포함된 것으로 알려졌으며 ‘피해 학교 명단’으로 떠도는 곳만 100곳 이상이라 대중적인 공포심도 확산하고 있는 상황이다. 김봉식 서울경찰청장은 이러한 상황에 대해 “학생은 물론이고 교사에 대한 것도 만들어 퍼지고, IT 기기에 익숙한 청소년 중심으로 확산해 굉장히 우려스럽다”며 “(딥페이크 성착취물은) 심각한 범죄 행위로서 처벌받을 수 있고, 이러한 범죄 전력은 향후 사회생활에 큰 장애가 될 수 있다는 점을 시교육청과 협의해 학생들에게 교육할 계획”이라고 강조했다.

경기도 파주시에 사는 중학생 학부모 A씨는 딸에게 인스타그램 등 소셜미디어(SNS)에 올린 사진을 모두 삭제하고 계정을 비공개로 돌리라고 했다. 카카오톡의 프로필 사진도 지우라고 했다. “여학생들의 사진이 음란물에 합성돼 텔레그램으로 퍼지고 있다”는 이야기를 남의 일로만 생각해왔던 A씨는 26일 아침 지역 맘카페에 올라온 ‘피해학교 목록’에 딸이 다니는 학교는 물론 주변 학교들이 올라온 것을 보고 충격에 빠졌다. 딸 역시 친구들과의 단체 대화방에서 “우리 학교도 있다”는 이야기를 전해듣고 뜬눈으로 밤을 지샌 터였다. A씨는 “아는 학부모들에게 목록을 보내고 아이들 SNS 잘 단속하라고 당부했다”면서 “세상이 어떻게 돌아가는건지 모르겠다”고 토로했다. “비공개해도 털리니 아예 삭제를” ‘행동 요령’ 퍼져‘딥페이크’ 기술을 이용한 불법 합성물 성범죄가 대학가는 물론 중·고등학교까지 퍼져나가면서, 학생들과 학부모들 사이에서 ‘SNS 포비아’가 확산되고 있다. SNS 계정을 비공개로 돌리고 사진과 프로필을 삭제하면서도 이미 공개한 사진이 범죄에 악용됐을지 모른다는 불안감이 커지고 있다. 26일 온라인 커뮤니티와 일선 학교 학생회 등을 중심으로 “SNS에 올린 사진을 다 내리고 비공개로 전환하라”는 글이 공유되고 있다. 서울의 한 고등학교는 학생회가 공지를 통해 “텔레그램을 통해 우리 학교 학생들의 신상과 합성 사진들이 유포되고 있다”면서 “소셜미디어(SNS)에 업로드한 개인 사진들을 내려 피해를 예방해달라”고 당부했다. 이른바 ‘맘카페’ 등 학부모들이 가입해 활동하는 커뮤니티에서는 “아들·딸을 불문하고 자녀들의 SNS를 잘 단속하라”는 당부가 쏟아지고 있다. 학생과 학부모들이 부랴부랴 SNS 단속에 나선 것은 이날 엑스(옛 트위터)에 이른바 ‘피해 지역·학교 목록’과 특정 학교 및 학생들의 사진을 공유하고 합성해 유포한 정황이 담긴 대화 내역 등이 공유되면서다. 이들 목록과 대화 내역은 네티즌들이 텔레그램 대화방에 잠입해 파악한 것으로 알려졌다. 경찰 수사를 통해 피해 사실이 확인된 것은 아니지만, 사실상 전국의 중·고등학교와 대학교가 포함돼 있어 “내 사진도 ‘음란물’이 돼 온라인을 떠돌 수 있다”는 공포가 퍼지고 있다. 학부모들도 SNS·카카오톡서 자녀 사진 삭제학생들과 학부모들은 SNS를 비공개로 전환하거나 얼굴 사진만 삭제하는 것으로는 불안감을 떨쳐내지 못하고 있다. 엑스(옛 트위터)에는 “계정을 비공개로 돌려도 다 털리니 아예 삭제해라”, “얼굴이 나오지 않은 사진도 주변 건물이나 풍경 등을 통해 위치를 알아내니 모두 지워라” 등의 ‘행동 요령’이 공유되고 있다. 자신이 SNS를 하지 않거나 사진을 삭제했어도 친구가 올린 사진으로 피해를 입을 수 있다는 우려도 나온다. 자신의 계정을 친한 친구들에게만 공개했더라도, 친구들 중에 가해자가 있을 수 있다는 불신마저 고개를 들고 있다. 인천에 사는 한 중학생 B양은 “설마 했는데 우리 학교도 목록에 있어서 내 인스타그램 본계정은 물론 부계정, 부부계정(제2·제3 계정)도 다 지웠다”면서 “친구들한테도 내가 올라간 사진을 지워달라고 일일이 연락하고 있다”고 토로했다. 학부모들도 비상이 걸렸다. 평소 자녀의 사진을 SNS나 카카오톡 프로필에 올렸던 학부모들도 자신 탓에 자녀가 피해를 입을 것을 우려해 자녀의 사진을 삭제하고 있다. 서울경찰청은 올해 들어 지난달 말까지 딥페이크 성범죄와 관련해 청소년 피의자 10명을 입건했다고 이날 밝혔다. 방송통신심의위원회는 불법 합성물에 대해 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사의뢰하기로 했다.

‘딥페이크’ 기술을 악용한 불법합성물 성범죄가 텔레그램 대화방을 통해 대학은 물론 중·고교까지 확산한 가운데, 박지현 전 더불어민주당 비상대책위원장이 이에 대해 ‘국가적 재난 상황’을 선포해야 한다고 촉구했다. “‘n번방 방지법’ 만들었다면 이런 일 있었을까”박 전 위원장은 26일 페이스북에 “수많은 여성들이 불안에 떨고 있다. 혹시라도 내가 피해자일까 두려워하고 있다”며 이같이 밝혔다. 박 전 비대위원장은 2019년 ‘n번방’ 사건 당시 텔레그램 대화방에 잠입해 실상을 폭로한 ‘추적단불꽃’의 일원이다. 박 전 위원장은 “온라인상에 떠도는 ‘당장’의 대처법은 소셜미디어(SNS)에 올린 사진들을 다 내리라는 것인데, 이는 해결책이 될 수 없다”며 “SNS를 하지 않는다고 피해 대상에서 완벽히 벗어날 수 없다. 우리는 누구나 디지털성범죄의 피해자가 될 수 있는 상황”이라고 주장했다. 이어 “전국에 있는 중·고등학교와 대학교에서 이런 일이 벌어지고 있다. 중복 숫자를 합쳐 가해자가 22만명”이라며 “명백한 국가적 재난 상황이다. 정부는 디지털 성범죄 뿌리를 뽑아야 한다”고 강조했다. 박 전 위원장은 ‘n번방 사건’을 언급하며 “정말 진정한 ‘n번방 방지법’을 만들었다면 2024년에 이런 일이 벌어졌을까. 사실 지금 일어나고 있는 일들은 제가 추적 활동을 하던 4년 전에도 매일 같이 일어났던 일”이라고 지적했다. 이어 “윤석열 정부는 국가적 재난 상황임을 선포하고 시급히 대안을 마련해야 한다”며 “텔레그램이 가해자들의 신상 협조에 수사를 거부한다면, 최소한 일시적으로 텔레그램을 국내에서 차단하는 조치라도 해야 한다”고 제안했다. ‘피해학교 리스트’에 공포 확산‘서울대 n번방’ 사건에 이어 인하대의 한 동아리 여학생들이 1200명이 참여한 텔레그램 대화방에서 불법 합성물 성범죄 피해를 당하는 등, 딥페이크 성범죄가 대학가를 파고든 데 이어 전국 각지의 중·고교에도 퍼져나가고 있다. 엑스(옛 트위터)에는 이른바 ‘피해 지역·학교 목록’과 특정 학교 및 학생들의 사진을 공유하고 합성해 유포한 정황이 담긴 대화 내역 등이 공유되면서 파장이 일고 있다. 실제 피해 사실 및 규모가 경찰 수사를 통해 파악된 것은 아니지만, “내 사진도 ‘음란물’이 돼 온라인을 떠돌 수 있다”는 공포에 여학생들과 학부모들이 불안에 떨고 있다. 서울경찰청은 올해 들어 지난달 말까지 딥페이크 성범죄와 관련해 청소년 피의자 10명을 입건했다고 이날 밝혔다. 김봉식 서울경찰청장은 이날 열린 정례 기자간담회에서 “학생들은 물론이고 교사에 대한 (영상물)도 만들어서 확산하는 상황”이라며 “시 교육청과 협의해 학생들에게 이것이 심각한 범죄이고 처벌받을 수 있으며, 범죄 전력이 향후 사회생활에 큰 장애가 될 수 있다는 점 등에 대해 예방 교육을 할 예정”이라고 밝혔다. 방송통신심의위원회는 불법 합성물에 대해 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사의뢰하기로 했다.

같은 반 학생이나 선생님 등의 사진을 음란물과 합성한 ‘딥페이크 성착취물’ 제작·유포가 10대들 사이에서 유행처럼 번지고 있다. 올해 서울에서만 10대 청소년 10명이 딥페이크 성착취물을 제작·유포한 혐의로 입건됐다. 서울경찰청 관계자는 26일 정례 기자간담회에서 “올해 1월부터 7월까지 초·중·고등학교 텔레그램 성착취 신고가 10건 접수됐고, 이와 관련해 14세 이상 청소년 10명을 입건했다”고 밝혔다. 김봉식 서울경찰청장은 “학생은 물론이고 교사에 대한 것도 만들어 퍼지고, IT 기기에 익숙한 청소년 중심으로 확산해 굉장히 우려스럽다”고 말했다. 이어 “(딥페이크 성착취물은) 심각한 범죄 행위로서 처벌받을 수 있고, 이러한 범죄 전력은 향후 사회생활에 큰 장애가 될 수 있다는 점을 시교육청과 협의해 학생들에게 교육할 계획”이라고 강조했다. 청소년들은 소셜미디어(SNS)와 애플리케이션(앱) 등을 통해 딥페이크 기술을 쉽게 익힌다. 제작을 의뢰하는 것도 어렵지 않다. 딥페이크 성착취물은 신종 학교폭력 등으로도 악용된다. 실제로 경찰청에 따르면 딥페이크 성착취물 범죄 피의자 중 10대는 2021년 51명, 2022년 52명에서 지난해 91명으로 증가했다. 딥페이크 성착취물은 영상물 합성의 대상자가 아동·청소년이면 아동·청소년의 성보호에 관한 법률로 처벌된다. 성착취물을 제작한 경우 무기 징역 또는 5년 이상의 징역에 처해진다. 영상물 합성의 대상자가 성인이면 성폭력 특별법에 따라 5년 이하 징역 또는 5000만원 이하의 벌금형에 처해진다.

최근 ‘딥페이크’ 합성 사진 및 영상이 단체 대화방에서 공유되며 피해가 확산하는 가운데 여군을 상대로 한 딥페이크 대화방이 공개돼 파장이 커지고 있다. 문제의 대화방 참가자는 900명이 넘는 것으로 알려졌다. 이들은 딥페이크로 합성한 여군들을 ‘군수품’이라고 칭하며 능욕했다. 해당 대화방 공지 사항이라며 공유되는 캡처 이미지에 따르면 해당 대화방에 참가하기 위해서는 군수품으로 만들고 싶은 여군의 군복 사진뿐 아니라 전화번호와 소속, 계급과 나이 등 개인정보를 운영자에게 제출하거나 현역 군인임을 인증해야 한다. 혹은 인공지능(AI)을 활용해 합성을 할 수 있는 합성장인, 관리자가 지정한 여군에게 ‘능욕 메시지’를 보내고 반응을 인증 사진을 보내야 가입이 허용됐다. 최근 인하대의 한 동아리 여학생들이 1200명이 참여한 텔레그램 대화방에서 불법 합성물 성범죄 피해를 본 사실이 알려져 논란이 커지자 이들은 “당분간 합성장인 혹은 관리자가 지정한 능욕 메시지 보내기 미션을 수행한 사람 외에는 받지 않겠다”고 추가 공지를 내걸었다. 또한 여군에 대한 비하 발언도 포함돼 있어 충격을 더했다. 해당 게시물에는 “여군들을 용서할 수 없다”며 “벗겨서 망가뜨릴 것”이라는 설명이 따랐다. 이는 지난 5월 강원 인제 육군 제12보병사단 신병교육대에서 발생한 훈련병 사망사건이 여군 중대장의 가혹한 지시로 발생한 것에 대한 반발심을 담은 표현이다. 작성자는 “같이 근무했던 주대장, 소대장, 부소대장의 알몸이 궁금하지 않느냐”면서 딥페이크 합성으로 나체를 공개하겠다는 의지를 드러냈다. 딥페이크 기술이 발전하면서 이를 이용한 범죄도 빠르게 확산하고 있다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 특히 10대 시절부터 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 이를 자주 접하게 되면서 딥페이크 음란물이 범죄라는 인식이 옅어질 수 있다는 우려가 나온다. 대학은 물론 중·고교까지 피해가 확산하면서 “내 사진도 ‘음란물’이 돼 온라인을 떠돌 수 있다”는 공포에 불안감이 확산하고 있다. 방송통신심의위원회(방심위)도 텔레그램 단체 대화방을 중심으로 확산한 딥페이크 성적 허위영상물 관련 대응에 나섰다. 방심위는 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사 의뢰하기로 했다. 매일 열리는 전자심의를 통해 성적 허위영상물을 24시간 이내에 시정 요구하겠다고도 했다.

‘딥페이크’ 기술을 악용한 불법합성물 성범죄가 텔레그램 대화방을 통해 대학은 물론 중·고교까지 확산한 가운데, 이른바 ‘피해 지역·학교 목록’이 공유되면서 파장이 일고 있다. 실제 피해 사실 및 규모가 경찰 수사를 통해 파악된 것은 아니지만, “내 사진도 ‘음란물’이 돼 온라인을 떠돌 수 있다”는 공포에 여학생들과 학부모들이 불안에 떨고 있다. 26일 온라인 커뮤니티에 따르면, 엑스(옛 트위터)의 한 계정에 불법합성물 성범죄 피해자에 대한 제보가 잇따르고 있다. 이 계정은 ‘XX대(대학)방’, ‘XX고 능욕방’ 등 각 지역 및 학교 이름을 앞세워 개설된 텔레그램 대화방 목록을 제보받아 올리고 있다. ‘능욕’이란 불법합성을 뜻하는 은어로 ‘지능방’(지인능욕방)은 지인의 얼굴 사진으로 불법 합성물을 만들어 주고받는 채팅방을 가리킨다. “XX고 08(년생)” “XX중 OOO 아는 분 사진 좀” 등 특정 학교의 여학생을 지목해 사진을 공유한 정황이 담긴 대화 내역도 공개돼 있다. 특정 여학생의 사진을 공유하며 이른바 ‘얼평’(외모 평가)을 하거나 여성 비하적 발언 및 성희롱을 한 대화 내역도 있다. 이 계정에 공유된 피해 학교 목록과 대화 내역은 네티즌들이 텔레그램 대화방에 잠입해 파악한 것으로 알려졌다. 실제 경찰 수사를 통해 확인됐는지 여부는 알려지지 않았으나, 일부 학교에서는 학생회 등이 “우리 학교에 피해자가 있다”며 주의를 당부하는 사례가 잇따르고 있다. 서울의 한 고등학교는 학생회가 공지를 통해 “텔레그램을 통해 우리 학교 학생들의 신상과 합성 사진들이 유포되고 있다”면서 “소셜미디어(SNS)에 업로드한 개인 사진들을 내려 피해를 예방해달라”고 당부했다. 포항의 한 고등학교도 SNS의 ‘대신 전해드립니다’ 계정을 통해 “우리 계정에도 누군가 영상을 보냈다 지웠다 반복한 일이 있었다”면서 “피해를 입었다면 주저말고 부모님과 선생님께 알려 해결하라”고 당부했다. ‘피해학교 목록’이 확산되자 여학생들과 학부모들은 “나와 내 아이도 피해자가 될 수 있다”는 공포에 빠졌다. 이 목록은 사실상 전국 각지의 중·고교를 포함하고 있어, 피해자 또는 가해자가 없는 학교가 거의 없는 셈이기 때문이다. 인천에 사는 한 중학생은 “우리 학교도 목록에 있어서 내 인스타그램 본계정은 물론 부계정도 다 지웠다”면서 “친구들과 밤새 메신저로 대화했는데 다들 불안해했다”고 토로했다. 경기도 파주시에 사는 한 중학생 학부모 A씨는 “목록을 보니 아이의 학교는 물론 주변 학교가 다 있다”면서 “아는 학부모들에게 목록을 보내고 아이에게 SNS에 올린 사진을 다 내리고 계정을 비공개로 돌리라고 했다”고 말했다. ‘서울대 n번방’ 사건에 이어 인하대의 한 동아리 여학생들이 1200명이 참여한 텔레그램 대화방에서 불법 합성물 성범죄 피해를 당하는 등, 딥페이크 성범죄는 대학가는 물론 중·고교까지 확산하고 있다. 방송통신심의위원회는 불법 합성물에 대해 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사의뢰하기로 했다.

UDT(해군 특수전전단) 출신 방송인 덱스가 자신을 사칭 광고에 대한 주의를 당부했다. 지난 23일 소속사 킥더허들 스튜디오는 공식 인스타그램을 통해 “최근 소속 아티스트 덱스를 사칭해 딥페이크, 인공지능(AI) 등의 기술이 접목된 불법 도박 게임 광고가 온라인 커뮤니티 및 유튜브, 소셜미디어(SNS) 등을 통해 무분별하게 유포되고 있다”고 밝혔다. 이어 “덱스는 불법 도박 게임 APP(앱) 등의 광고를 진행한 적이 없으며, 해당 광고는 덱스가 출연했던 영상들을 기반으로 만들어진 가짜 영상이다”고 했다. 그러면서 “이러한 불법 가짜 광고 영상을 발견 즉시 신고해 주시길 바라며, 불법 광고로 인한 피해가 발생하지 않도록 각별한 주의를 부탁드린다”고 했다. 소속사는 “아티스트의 권익 보호를 위해 최선을 다할 것”이라며 지속적인 모니터링을 통해 강력히 대응할 방침이라고 했다. 한편 덱스는 지난해 MBC TV ‘태어난 김에 세계 일주 시즌3’, 웨이브 서바이벌 ‘피의 게임’, MBC에브리원 ‘나는 지금 화가 나 있어’ 등에서 활약했다. 지난해 12월 열린 ‘2023 MBC 방송연예대상’에서 MBC 아나운서 김대호와 함께 신인상을 받았다. 현재 tvN ‘언니네 산지직송’ 등에서 활약 중이다.

최근 인하대에서 여학생 사진을 음란물과 합성해 유포한 ‘딥페이크 성착취물’ 사건이 발생한 가운데 딥페이크 기술을 이용한 10대 범죄가 급증한 것으로 나타났다. 청소년들이 심각한 사회적 범죄를 대수롭지 않게 생각하면 안 된다는 점에서 관련 교육이 시급하다는 지적이 나온다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가세다. 2020년 6월 성폭력 범죄의 처벌 등에 관한 특례법 개정안이 시행됐고 불법 합성물 제작·유포에 대한 처벌 근거가 마련됐다. 허위 영상물 범죄 피의자를 연령별로 살펴보면 10대에 집중돼 있다. 지난해 기준 허위 영상물 범죄 피의자 120명 가운데 10대는 91명(75.8%)으로 4명 중 3명꼴이었다. 이어 20대는 24명(20.0%), 30대 4명(3.3%), 60대 1명(0.8%) 순이었다. 전체 피의자 중 10대가 차지하는 비중도 2021년 65.3%, 2022년 61.0%에서 지난해 75.8%로 크게 늘었다. 딥페이크 기술은 신종 학교폭력 등으로도 악용되고 있다. 부산시교육청과 경찰 등에 따르면 부산의 한 중학교 학생 4명은 같은 학교 학생 등 18명, 교사 2명의 얼굴을 인공지능(AI)을 활용해 음란물과 합성한 사진 80여장을 만들어 공유했다. 이에 관할 교육지원청은 최근 이 학생들에 대한 학교폭력심의위원회(학폭위)를 열었다. 청소년들은 소셜미디어(SNS)와 애플리케이션(앱) 등을 통해 딥페이크 기술을 쉽게 익힐 수 있으며 제작 의뢰도 어렵지 않다. 더 심각한 문제는 이를 자주 접하면서 딥페이크 음란물이 피해자에게 큰 타격을 입히는 범죄라는 인식이 옅어질 수 있다는 점이다. 조 의원은 “관련 범죄가 더 기승을 부릴 수 있는 만큼 제도적 보완책이 시급하다”고 했다. 전문가들은 10대들이 경각심을 갖도록 예방 교육을 강화해야 한다고 주문했다. 이수정 경기대 범죄심리학과 교수는 “연령이 어릴수록 ‘장난’이라고만 생각할 수 있다”며 “(딥페이크 음란물로) 처벌받는 중고등학생 시기보다 더 어릴 때부터 교육을 강화해야 한다”고 말했다. 그는 “딥페이크 기술은 코딩 수업 등을 통해서도 배울 수 있으므로 이 과정에서 윤리적·법적인 부분도 함께 다뤄야 한다”고 강조했다.

최근 인하대에서 여학생 사진을 음란물과 합성해 유포한 ‘딥페이크 성착취물’ 사건이 발생한 가운데, 딥페이크 기술을 이용한 10대 범죄가 급증한 것으로 나타났다. 청소년들이 심각한 사회적 범죄를 대수롭지 않게 생각해서는 안 된다는 점에서 관련 교육이 시급하다는 지적이 나온다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가세다. 2020년 6월에 성폭력범죄의 처벌 등에 관한 특례법 개정안이 시행됐고, 불법 합성물 제작·유포에 대한 처벌 근거가 마련됐다. 허위 영상물 범죄 피의자를 연령별로 살펴보면 10대에 집중돼 있다. 지난해 기준 허위 영상물 범죄 피의자 120명 중 10대는 91명(75.8%)으로 4명 중 3명꼴이었다. 이어 20대는 24명(20.0%), 30대 4명(3.3%), 60대 1명(0.8%) 순이었다. 전체 피의자 중 10대가 차지하는 비중도 2021년 65.3%, 2022년 61.0%에서 지난해 75.8%로 크게 늘었다. 딥페이크 기술은 신종 학폭(학교폭력) 등으로도 악용되고 있다. 부산시교육청과 경찰 등에 따르면 부산의 한 중학교 학생 4명은 인공지능(AI)으로 같은 학교 학생 등 18명 등의 얼굴과 음란 사진을 합성한 80여장을 만들어 공유했다. 이에 관할 교육지원청은 최근 이 학생들에 대한 학교폭력심의위원회(학폭위)를 열었다. 청소년들은 소셜미디어(SNS)와 애플리케이션(앱) 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고, 제작 의뢰도 어렵지 않다. 문제는 이를 자주 접하면서 딥페이크 음란물이 피해자에게 큰 타격을 입히는 범죄라는 인식이 옅어질 수 있다는 점이다. 조은희 의원은 “피해자에게 씻을 수 없는 상처를 주는 디지털 성범죄가 청소년층에서 마치 놀이처럼 퍼지고 있다”며 “앞으로 딥페이크 기술 발전으로 관련 범죄가 더욱 기승을 부릴 수 있는만큼 제도적 보완책이 시급하다”고 강조했다. 전문가들은 10대들이 경각심을 갖도록 예방 교육을 강화해야 한다고 했다. 이수정 경기대 범죄심리학과 교수는 “피해자는 돌이킬 수 없는 심각한 피해를 보는데 연령이 어릴수록 이런 본질을 상상하지 못하고 ‘장난’이라고만 생각할 수 있다”고 지적했다. 그는 “(딥페이크 음란물로) 처벌받는 중고등학생 시기보다 더 어릴 때부터 교육을 강화해야 한다”며 “딥페이크 기술은 코딩 수업 등을 통해서도 배울 수 있으므로 이 과정에서 윤리적·법적인 부분도 함께 다뤄야 한다”고 강조했다.

부산에서 중학생들이 인공지능(AI) 딥페이크 기술을 이용해 학생과 교사를 대상으로 음란물을 제작했다는 내용의 고소장이 접수돼 경찰이 수사에 나섰다. 21일 부산교육청 등에 따르면 최근 부산의 한 중학교 학생 4명에 대한 고소장이 경찰에 접수됐다. 이들은 지난 6월 AI를 활용해 같은 학교 학생 18명과 교사 2명의 얼굴을 신체 이미지에 합성한 사진을 제작해 카카오톡 단체채팅방을 통해 공유한 것으로 알려졌다. 이에 관할 교육지원청은 최근 이들 학생에 대한 학교폭력심의위원회(학폭위)를 열었다. 이를 통해 제1~9호 조치 중 학생 1명은 학급교체(7호)와 출석정지(6호) 조치를 받았고 나머지 3명의 학생에게는 출석정지 20일 처분이 내려졌다. 경찰은 정확한 사건 경위 등을 조사 중인 것으로 전해졌다. 최근 딥페이크를 이용해 동급생이나 교사의 사진을 합성해 불법 음란물을 제작·유포하는 범죄가 사회적 문제로 떠오르고 있다. 형사 처벌을 받을 수 있는 성폭력 범죄행위지만 청소년들 사이에서 딥페이크 기술을 악용한 신종 학교 폭력이 유행처럼 번지는 상황이다. 이와 관련해 경찰 관계자는 “불법 음란합성물의 제작·유포행위는 피해자들에게 돌이킬 수 없는 피해를 주는 중범죄다”며 “모든 피의자를 끝까지 추적해 엄중 처벌하겠다”고 전했다.

한국과학기술기획평가원이 최근 6년간 국가별 인공지능(AI) 연구자와 논문 수를 파악한 결과 한국의 논문 수는 전 세계 12위, 연구자 수는 9위였다. 연구자와 논문 수 모두 세계 최강국은 중국, 인도, 미국이었다. 정부는 불과 6년 뒤인 2030년에 AI 세계 3강으로 도약한다는 목표를 밝혔지만 이를 이루기엔 지금의 연구 경쟁력이 한참 빈약해 보인다. 국내 AI 연구자들의 열악한 연구 여건은 설문조사에서도 나타난다. 연구비가 충분하지 않다는 응답이 58.1%로 충분하다(18.3%)는 답변의 세 배를 웃돌았다. 딥러닝 학습 등을 위해 AI 분야에서 기본이 되는 고성능 그래픽처리장치(GPU) 같은 컴퓨팅 자원은 항상 모자란다는 아쉬움도 있었다. 반면 미국, 중국의 연구자들은 최근 논문 수가 급증하고 자금 조달이 활발한 연구 주제인 컴퓨터 비전, 딥페이크 등에서 가장 많은 논문을 낸 상위 500명 연구자 중 각각 31.8%, 24.2%를 차지하며 저만치 앞서가고 있었다. 한국의 이 분야 연구자는 고작 5명으로 세계 16위였다. AI 산업 육성을 위한 각국 정부의 움직임도 빨라지고 있다. 미국은 해외 AI 전문가와 학생들의 미국 체류와 활동을 촉진하는 다양한 정책을 내놓고 있다. 지금도 전 세계 최고 수준의 AI 인재 75%를 보유하고 있는데도 인재 확보에 박차를 가하고 있는 것이다. 중국은 미국과의 AI 경쟁을 겨냥, 올해 과학기술 예산을 지난해보다 10% 늘린 68조원으로 책정했다. 일본은 해외 AI 인재 유치를 위해 외국인 창업 규제를 풀고 GPU도 무상 지원한다. 세계 AI 3강 목표를 이루려면 먼저 AI 연구개발 시스템부터 개선해야 한다. AI기본법 제정은 물론 연구자들이 원하는 고성능 GPU 지원 등 국가 차원의 AI 공동활용 인프라를 구축해야 한다. 이공계 대학원생의 연구환경 조성과 의료계 등 인접학문과 산업분야의 협력모델 발굴도 필요하다. 다음달 출범하는 국가AI위원회가 AI와 관련한 국가 역량을 총결집하는 역할을 하기 바란다.

여학생들의 얼굴을 나체 사진에 합성하는 이른바 ‘딥페이크’ 사진을 대학생 단체 채팅방에서 공유한다는 신고가 접수돼 경찰이 수사 중이다. 19일 연합뉴스에 따르면 인천경찰청 사이버범죄수사대는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 텔레그램 단체 대화방 운영자 A씨 등을 수사하고 있다고 밝혔다. 경찰이 현재 파악한 피해자는 4명이다. 이 중 일부는 인하대 재학생인 것으로 알려졌다. 아직 피해 사실을 모르는 피해자들을 감안하면 피해 학생은 더욱 늘어날 것으로 보인다. 이들은 2020년부터 피해자 얼굴을 나체 사진에 합성한 딥페이크 사진을 텔레그램 단체 대화방에서 공유한 혐의 등을 받고 있다. 1000여명 넘게 참여한 단체 대화방에는 허위 성 영상물을 공유하고 있는 것으로 알려졌으며, 참가자들의 신원은 아직 확인되지 않았다. 대화방에서는 딥페이크를 통한 합성 사진 외에도 피해자 연락처 등 개인정보도 공유되면서 일부 피해자들이 협박을 받기도 했다. 지난해 피해자 신고를 받고 수사에 착수한 경찰은 지난 3월 피해 영상물을 재유포한 텔레그램 참가자 1명을 붙잡아 검찰에 구속 송치했다. 경찰 관계자는 “텔레그램은 추적하기가 어려워 주범인 A씨의 신원은 아직 확인하지 못했다”며 “구체적인 수사 상황은 밝히기 어렵다”고 전했다.

日 거짓 재난 예고글 넘쳐 수습 난항英 ‘살인자 무슬림’ 확산돼 극우 폭동 유언비어 퍼지며 전 세계 혼란 가중 머스크는 허위 글 공유하며 ‘부채질’“SNS 대기업에도 책임 있다” 비판도 소셜미디어(SNS)를 타고 순식간에 퍼지는 가짜뉴스는 혐오 감정을 자극하고 분열을 야기한다는 데 위험성이 컸다. 이제는 혐오의 바탕 위에서 광범위한 지역에 폭력을 부추기면서 국가 기반까지 흔들고 있다. “무슬림이 살인 사건 가해자”라는 가짜뉴스에 지난달 31일(현지시간)부터 일주일 이상 30개 도시에서 벌어진 영국 극우의 폭력 집회가 단적인 예다. 서남부 지방인 난카이 트로프(해구)에 대지진 발생 가능성이 높아진 일본에선 “대지진이 14일에 일어난다”는 가짜뉴스가 확산하면서 전역에 공포심이 번지고 있다. 지난 8일 미야자키현에서 규모 7.1의 지진이 발생한 후 엑스(X·옛 트위터)에는 “8월 10일이 지진 예정일”, “8월 14일에 난카이 트로프 발생” 등 특정 날짜를 명기해 대지진을 예고하는 글이 넘쳐 나고 있다. 지진이 발생하기 전에 나타나는 ‘지진운’이라는 특이한 구름 사진도 확산 중이다. 미야자키현 지진 이후 일본 정부는 규모 8~9의 난카이 해구 대지진 발생 가능성이 커졌다면서 처음으로 ‘난카이 트로프 지진 임시 정보’를 발령했는데 이와 관련된 가짜뉴스가 빠르게 번지고 있는 것이다. 일본에선 올해 첫날 노토반도 강진이 일었을 때도 2011년 동일본 대지진 당시 쓰나미 영상이 현재 일어나는 일인 듯 SNS에 퍼져 혼란을 키운 일도 있었다. 가짜뉴스가 야기한 공포감이 커지자 방재교육학 전공의 기무라 레오 효고현립대 교수는 12일 요미우리신문에 “냉정하게 받아들여 (유언비어) 확산에 가담하지 말아야 한다”고 조언했다. 유언비어의 온상이 된 엑스의 관리 책임자조차 정보 확인 없이 유포에 가담하고 있다. 엑스 소유주인 일론 머스크 테슬라 최고경영자(CEO)는 엑스에 민주당 대선 후보 카멀라 해리스의 선거 캠페인 홍보 영상을 교묘히 바꾼 딥페이크 영상을 공유했다가 비판받고 30분 만에 삭제했다. 해리스와 비슷한 목소리가 “조 바이든이 마침내 토론에서 자신의 노망을 드러냈다”고 말하는 영상이었다. 머스크는 지난 8일 키어 스타머 영국 총리가 극우 폭동에서 체포한 이들을 수용하기 위해 남미 포클랜드 제도에 ‘긴급 구금 캠프’ 건설을 고려하고 있다는 가짜뉴스를 공유했다가 급히 삭제하기도 했다. 가짜뉴스에 엑스 CEO도 속은 셈인데, 이 글은 이미 100만여명이 본 뒤였다. 유언비어가 사회 혼란은 물론 안보에까지 영향을 미치고 있다. 미국에서는 지난달 조 바이든 대통령이 대선 후보직에서 사퇴하자 바이든 사망설이 SNS에 확산하면서 미국 사회가 한때 큰 혼란을 겪기도 했다. 또 지난달에는 볼로디미르 젤렌스키 우크라이나 대통령의 부인 올레나 젤렌스카 여사가 450만 유로(약 67억원) 상당의 슈퍼카 ‘부가티 투르비옹’을 주문했다는 가짜뉴스를 친러시아 성향 인플루언서들이 SNS에 집중 유포하기도 했다. 가짜뉴스에 큰 혼란을 겪은 영국 정부는 온라인에서 무분별하게 퍼지는 가짜뉴스에 대응하기 위해 ‘합법적이지만 유해한’ 콘텐츠까지 제거하도록 압박할 수 있는 온라인안전법 개정을 추진하고 있다. 일본 정부도 SNS 기업 책임을 강화하기 위해 사업자 규제를 검토 중이다. 유언비어 게시물을 신속하게 삭제하도록 하는 것은 물론 광고 심사 기준도 강화할 계획이다. 각국 정부가 가짜뉴스 확산 방지를 위해 대책을 마련하고 있지만 SNS 발전 속도에 따라가지 못하는 뒤늦은 대응이라는 지적도 나온다.

전 세계 곳곳이 근거 없는 유언비어로 몸살을 앓고 있다. 과장된 우려를 넘어 사회 기반을 흔들 정도로 가짜뉴스가 확산하면서 각 정부가 주의를 환기하고 있지만 한 번 퍼지기 시작한 가짜뉴스를 막기 쉽지 않은 상황이다. 일본에서는 지난 8일 미야자키현에서 규모 7.1 지진이 발생한 후 특정 날짜를 명기하며 대형 지진이 발생할 것이라는 거짓 예고 글이 넘쳐나고 있다. 일본 정부는 지진 전문가들 분석 결과 당시 지진으로 난카이 해구에서 100~150년 간격으로 발생하는 규모 8~9의 ‘난카이 트로프(해구) 대지진’ 발생 가능성이 커졌다며 처음으로 ‘난카이 트로프 지진 임시 정보’를 발령했는데 이와 관련 유언비어가 확산하고 있는 것이다. 엑스(X·옛 트위터)에는 “8월 10일에 거대 지진이 온다”, “8월 14일에 난카이 트로프가 일어난다”는 글이 퍼졌고 많은 사람이 관련 글을 조회하기도 했다. 이뿐만 아니라 지진이 발생하기 전에 나타난다는 형태가 특이한 구름이라는 ‘지진운’ 사진도 확산하고 있다. 요미우리신문은 구글 트렌드를 분석한 결과 지진운 검색 사례가 미야자키현 지진 발생일인 8일부터 급증했다고 전했다. 일본에서 자연재해 때마다 유언비어가 퍼지면서 피해 수습도 어려운 가운데 사회 혼란마저 커지는 상황이다. 올해 첫날 노토반도 강진이 발생했을 때 2011년 동일본 대지진 당시 쓰나미 영상을 당시 피해 상황인 것처럼 꾸민 것이 소셜미디어(SNS)에 확산하기도 했다. 이보다 훨씬 전인 1923년 간토대지진 당시 “조선인이 우물에 독을 풀었다”라는 유언비어가 확산해 조선인 대량학살이 발생한 과거도 있다. 방재교육학 전공의 기무라 레오 효고현립대 교수는 12일 요미우리신문에 “냉정하게 받아들여 (유언비어) 확산에 가담하지 말아야 한다”고 조언했다. 이처럼 유언비어가 널리 확산하게 된 통로인 SNS에 대한 법적·윤리적 책임이 요구되고 있지만 정작 관리 책임자부터 정보 확인 없이 유포에만 앞장서고 있다. 엑스 소유주인 일론 머스크 테슬라 최고경영자(CEO)는 엑스에 민주당 대선후보 카멀라 해리스의 선거 캠페인 홍보 영상을 교묘히 바꾼 딥페이크 영상을 공유했다가 비판받고 30분 만에 삭제했다. 영상 속 해리스와 닮은 목소리는 “저, 카멀라 해리스가 민주당 대선 후보입니다. 조 바이든이 마침내 토론에서 자신의 노망을 드러냈기 때문입니다”라고 말한다. 이에 대해 해리스 캠프 대변인 미아 에렌버그는 성명을 통해 “우리는 미국 국민이 해리스 부통령이 제공하는 진정한 자유, 기회, 안보를 원한다고 믿는다”며 “일론 머스크와 도널드 트럼프의 가짜, 조작된 거짓말은 원하지 않는다”고 비판했다. 머스크 CEO의 무책임한 행동은 이뿐만이 아니다. 지난달 29일 영국은 북서부 사우스포트 댄스 교실에서 소녀 3명이 칼에 찔려 숨진 뒤 사건 피의자가 무슬림 망명 신청자라는 가짜뉴스가 퍼지며 극우 폭동이 촉발되자 키어 스타머 영국 총리가 “SNS 대기업에도 책임이 있다”고 비판했다. 그러자 머스크 CEO는 “영국 경찰의 대응이 일방적”이라고 책임을 돌리는 등 일을 더 키우기도 했다. 유언비어가 사회 혼란은 물론 안보까지 영향을 미치고 있다. 미국에서는 지난달 조 바이든 대통령이 대선 후보직에서 사퇴하자 바이든 사망설이 SNS에 확산하면서 미국 사회가 한때 큰 혼란을 겪기도 했다. 민주당 지지자들이 직접 나서 음모론에 반박하는 게시물을 전파하는 등 진화에 나섰다. 지난달에는 볼로디미르 젤렌스키 우크라이나 대통령의 부인 올레나 젤렌스카 여사가 450만 유로(67억원) 상당의 슈퍼카 ‘부가티 투르비옹’을 주문했다는 가짜뉴스를 친러시아 성향 인플루언서들이 SNS에 집중 유포하기도 했다. 부가티는 “그런 일이 없다”며 공식 성명을 발표했다. 유언비어 확산 방지를 위해 각국 정부가 대책을 마련하고 있지만 SNS 발전 속도에 발맞추지 못하는 뒤늦은 대응이라는 지적도 나온다. 영국 정부는 온라인에서 무분별하게 퍼지는 가짜뉴스에 대응하기 위해 ‘합법적이지만 유해한’ 콘텐츠까지 제거하도록 압박할 수 있는 온라인안전법 개정을 추진하고 있다. 소셜미디어 기업이 성적 학대, 테러와 같은 범죄 행위를 조장하는 콘텐츠를 삭제하기 위한 보호 조처를 충분히 하지 않을 경우, 규제 당국인 오프콤이 최고 1800만파운드(약 313억원) 또는 전 세계 매출의 10%까지 과징금을 물릴 수 있다. 현재 오프콤은 법률 시행을 위한 행정지침을 작업 중이며, 전면 시행은 내년부터 가능할 것으로 예상된다. 일본 정부는 SNS 기업 책임을 강화하기 위해 사업자 규제를 검토하고 있다. 유언비어 게시물을 신속하게 삭제하도록 하는 것은 물론 광고 심사 기준도 강화할 계획이다.

최근 딥페이크를 사용해 동급생의 사진을 합성해 불법 음란물을 제작·유포하는 범죄가 사회적 문제로 떠오르고 있다. 형사 처벌을 받을 수 있는 성폭력 범죄행위지만, 청소년들 사이에서 딥페이크 기술을 악용한 신종 학교 폭력이 유행처럼 번지고 있다. 이에 일부 지자체에선 스쿨 사이렌 ‘딥페이크 성범죄’ 경보를 발령하고 경찰은 강력 처벌을 예고하는 등 긴급 대응에 나섰다. 전북에서는 올해 초 전주시 한 중학교에선 남학생들이 같은 학교 동급 여학생과 교사 등 12명의 얼굴 사진을 다른 여성 나체 사진에 합성하고 유포한 혐의로 조사를 받았다. 이들은 SNS나 학급단체 사진 등에서 피해자들의 사진을 도용해 합성한 것으로 파악됐다. 또 군산의 한 초등학교에서도 한 학생이 다른 학생의 얼굴을 음란물에 합성했다는 신고가 접수돼 경찰이 수사를 벌이고 있고, 무주 한 중학교에서는 남학생들이 여학생들의 사진을 합성한 음란물을 만들어 친구들과 돌려 본 사실이 적발되기도 했다. 딥페이크를 이용한 청소년 성범죄는 전북만의 문제가 아니다. 전국적으로 성행하며 학교마다 문제가 되고 있다. 제주도에서도 한 국제학교 학생이 또래 여학생들을 상대로 성 착취물을 제작한 혐의로 검찰에 송치됐다. A 군의 범행은 피해 사실을 인지한 여학생들이 지난 5월 이를 교사에게 알리면서 사건이 드러났고, 경찰이 디지털 포렌식한 결과 피해자는 11명에 달하는 것으로 알려졌다. 부산에서는 딥페이크 기술로 또래 여학생들의 얼굴을 합성한 음란물을 제작·판매한 혐의를 받는 고등학생이 경찰 수사를 받고 있다. 이와 관련해 경북교육청과 경북경찰청은 지난달 29일 ‘스쿨 사이렌’ 제1호 경보를 발령하고 청소년들의 범죄 예방에 나섰다. 최근 딥페이크 기술을 이용한 성범죄가 증가함에 따라 학교와 사회의 유해 환경을 선제적으로 차단하고, 청소년들에게 범죄 예방 교육을 제공하겠다는 것이다. 경찰 역시 불법 음란합성물 제작·유포 범죄에 대해 강력 처벌을 예고했다. 경찰 관계자는 “불법 음란합성물의 제작·유포행위는 피해자들에게 돌이킬 수 없는 피해를 주는 중범죄다”며 “모든 피의자를 끝까지 추적해 엄중 처벌하겠다”고 말했다.

경남 진주에서 지인 등 여성 얼굴을 나체 사진에 합성한 일명 ‘딥페이크’ 피해 사례가 연이어 발생해 경찰이 수사에 나섰다. 경남경찰청은 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 20대 A씨를 불구속 입건했다고 29일 밝혔다.A씨는 인공지능을 활용한 인간 이미지 합성 기술인 딥페이크로 지인 여성 등 얼굴을 나체 사진에 합성한 혐의를 받는다. 경찰이 확인한 피해자만 5명이다. 딥페이크 사진은 수십장에 달한다. A씨는 사진을 제작한 것은 맞지만 유포하지는 않았다고 주장한 것으로 알려졌다. 경찰은 A씨 휴대전화를 디지털 포렌식 작업 등을 하는 등 정확한 사건 경위를 조사하고 있다. 지난달 17일에는 여자후배인 10대 피해자 얼굴을 나체 사진에 합성하고 나서, 이를 사회관계망서비스(SNS)에 유포한 혐의로 고등학생 B군이 경찰에 붙잡혔다. 그는 피해자가 직접 해당 사진을 올린 것처럼 하고자 SNS 계정을 새로 만들고 피해자 이름·학교명이 적힌 명찰을 올리기도 했다. 지난해 11월에는 진주지역 중학생 C군이 또래 여학생 사진을 음란물과 합성한 뒤 친구에게 판매했다가 적발돼 불구속 송치됐다. 방송통신심의위원회 설명을 보면, 딥페이크 피해 관련 자료 삭제 등 시정 요구 건수는 2020년 470여건에서 지난해 7100여건으로 늘어났다. 경찰 관계자는 “최근 딥페이크 범죄가 늘어 2차 피해를 호소하는 경우도 많다”며 “관련 법에 따라 엄정히 대응할 계획이다”고 말했다.

일론 머스크 테슬라·스페이스X CEO가 각국 지도자, 기업인 등 세계적인 인물들이 런웨이를 걷는 인공지능(AI) 영상을 공개해 화제다. 22일(현지시각) 머스크는 소셜미디어(SNS) 엑스(X·옛 트위터)에 딥페이크로 생성한 1분 23초짜리 패션쇼 영상을 게재하며 “AI 패션쇼를 선보일 최고의 시기”라고 썼다. 해당 영상은 1억4850만회가 넘는 조회수와 120만개의 좋아요를 기록했다.영상에는 가장 먼저 흰색 롱패딩을 입은 프란치스코 교황이 등장한다. 이어 무지개색 루이비통 드레스를 차려입은 블라디미르 푸틴 러시아 대통령, 선글라스를 쓰고 휠체어에 앉아 있는 조 바이든 미국 대통령이 잇따라 나온다. 일론 머스크 본인은 X가 새겨진 속옷 차림에서 이내 테슬라 로고가 새겨진 우주복을 입은 모습으로 변신했다. 도널드 트럼프 전 미국 대통령은 오렌지색 교도소 작업복을 입고 런웨이를 걷고, 김정은 북한 국무위원장은 ‘KIM’이 새겨진 후드 티셔츠와 금색 체인 목걸이를 착용한 모습으로 나타났다.시진핑 중국 국가주석은 붉은색 바탕에 노란색 곰이 그려진 옷을 입고 등장하는데, 이는 시 주석이 평소 싫어하는 것으로 알려진 ‘곰돌이 푸’ 캐릭터를 연상하는 모습이다.버락 오바마 전 미국 대통령은 일본 사무라이, 로마 전사, 미국 프로농구(NBA) 시카고 불스 유니폼 등 15가지의 복장을 소화했다.마지막 모델은 마이크로소프트(MS)사를 설립한 빌 게이츠다. 그는 양손에 ‘PC에 문제가 생겨 다시 시작해야 한다’는 문구가 적힌 모니터를 들고 등장했다. 최근 MS발 IT 대란을 풍자한 것으로 추정된다. 그 외에도 마크 저커버그 메타 CEO, 카멀라 해리스 부통령, 나렌드라 모디 인도 총리 등 총 20명의 저명인사가 등장한다.네티즌들은 “신선하고 재밌다”, “정치인들의 풍자적인 착장이 인상적이다” 등 해당 영상에 긍정적인 반응을 보였다. 하지만 일각에서는 딥페이크 기술에 대한 우려의 목소리도 나오고 있다. 딥페이크(Deepfake)는 인공지능 기술인 ‘딥러닝’(deep learning)과 가짜를 의미하는 ‘페이크’(fake)의 합성어다. 간단한 이미지와 텍스트 등으로 그럴듯한 음성이나 영상을 만들어낼 수 있다. 지난 1월에는 미국 뉴햄프셔주(州) 프라이머리를 앞두고 조 바이든 대통령을 사칭해 해당 경선에 불참할 것을 권하는 딥페이크 음성이 유포된 사건이 있었다. 미 연방통신위원회는 해당 음성을 제작한 정치 컨설턴트 스티브 크레이머에게 600만달러(약 82억원)의 벌금을 부과했다. 최근에는 방송통신심의위원회가 딥페이크를 이용한 ‘성적 허위 영상물’에 대한 시정요구가 매년 급증하고 있다고 발표하기도 했다. 전문가들은 정치, 성범죄 등에 악용될 수 있는 인공지능의 위험성에 대한 기준이 필요하다고 지적한다.

같은 반 친구를 성희롱하려고 인공지능을 기반으로 한 이미지 합성 기술인 딥페이크까지 동원하는 등 청소년들의 학교폭력이 심각한 수준인 것으로 나타났다. 22일 서울경찰청에 따르면 올 상반기 학교폭력 신고 건수는 1년 전보다 7.7% 증가한 4688건으로 집계됐다. 학교폭력 검거 건수도 같은 기간 30.2% 늘어난 1344건이다. 학교폭력 중 가장 큰 폭으로 증가한 유형은 성폭력·성희롱 신고다. 1년 전보다 2.6배 증가한 662건의 신고가 올 상반기 접수됐다. 강제 추행이 전체 성폭력·성희롱 신고의 55.9%를 차지했다. 강제 추행은 이성보다는 동성(51.9%), 여성보다는 남성(89.0%) 사이에 발생한 경우가 많았다. 지난 3월에는 한 초등학생이 볼일을 보는 동성 친구의 속옷을 내려 엉덩이가 드러나게 해 경찰에 검거되기도 했다. 성희롱의 경우 온라인상에서 발생하는 경우가 전체의 63.1%를 차지한 것으로 분석됐다. 특히 딥페이크를 이용해 성희롱당했다는 신고가 20건이나 됐다. 일면식 없는 학생의 얼굴을 다른 인물의 나체사진에 합성하고 신상정보를 온라인에 게재하는 방식이 대표적이다. 서울청이 적발한 청소년 범죄(14~18세)도 1년 전보다 1.3% 증가한 것으로 나타났다. 살인·강도 등 강력범죄는 22% 줄었지만, 도박은 7건에서 23건으로, 마약은 22건에서 35건으로 증가했다. 경찰은 여름방학 동안 폭행과 갈취 등 대면형 학교폭력보다 비대면형인 사이버 학교폭력이 늘어날 것으로 보고, 딥페이크 등 신종 청소년 성범죄에 관한 검거 사례와 적용 법조 등을 학부모와 학교에 전파할 예정이다.

지난해 스스로 콘텐츠를 만드는 생성형 인공지능(젠AI)의 등장은 누구보다도 영화계 종사자들에게는 경악과 공포로 다가왔다. 인간의 창의성이 요구되는 예술 분야는 아무리 과학기술이 발달해도 침투가 어려운 최후의 영역으로 여겨졌기 때문이다. 이미 쳇GPT 등장 이후 미국 할리우드 배우와 작가들이 63년 만에 장기간 파업을 벌였지만, 단 몇 분만에 원하는 영상을 별다른 비용 지불없이 제공하는 젠AI의 등장은 더 큰 충격이 됐을 법하다. 실제로 ‘다이하드’의 배우 브루스 윌리스의 허락도 없이 딥페이크 기술로 만든 러시아 광고와 ‘위대한 개츠비’를 패러디한 AI 영화 등이 연이어 나오면서 관련 산업 종사자들이 가슴을 쓸어내릴 만했다. 기계와 로봇에 의한 지배를 거부하며 ‘꿈의 공장’을 한동안 멈춰 세웠던 반감은 그러나 오래가지 못했다. 이유는 시간과 돈. 비용에 민감한 영화산업에서 이제 AI는 날로 존재감을 높이고 있다. AI가 영화 제작의 물리적 한계를 뛰어넘어 창작자의 상상력을 실현하는 도구로 자리잡는 모양새다. 할리우드 제작사도 거액을 들여 지으려던 스튜디오를 포기하고 AI 기술에 투자할 정도다. 무엇보다 영화 찍을 돈이 없어 포기했던 무명의 젊은 창작자들에게 AI는 기회의 창이 되고 있다. 올해 처음 AI 영화 부문을 만든 부천판타스틱영화제에서 그 가능성이 확인됐다. 국내 출품작 가운데 주목받았던 3분짜리 영화 ‘원 모어 펌킨’은 감독 혼자 닷새 만에 만들었다고 한다. 제작비는 달랑 전기료뿐이었다고 하니 이제 영화판은 천지개벽을 앞두고 있다. 영화제에 참석한 관련 전문가는 “AI는 무한정 작업하면서 마블 영화 예산의 절반으로 비슷한 작품을 만들 수 있으니 1년 안에 AI 영화가 대중화될 것”이라고 장담했다. 장인의 예술혼을 훼손하는 공포의 대상이자 영화 제작의 지평을 넓히는 ‘게임체인저’, AI의 두 얼굴이다. 박상숙 논설위원