아름다운 외모 사진으로 이성에게 접근해 호감을 산 뒤 주식과 코인 투자사기를 벌여 120억원 상당을 가로챈 일당이 경찰에 붙잡혔다. 울산경찰청 반부패·경제범죄수사대는 로맨스 스캠 일당 45명을 검거해 총책 A씨 부부 등 10명을 범죄단체조직·가입·활동 및 특정범죄 가중처벌 등에 관한 법률 위반 혐의로 구속하고, 채팅 담당 직원 등 나머지 35명을 입건했다고 30일 밝혔다. 경찰에 따르면 이들은 캄보디아에 사무실을 운영하면서 지난해 3월부터 로맨스 스캠을 통한 주식투자나 가상화폐 투자를 접목한 사기를 벌였다. 이들은 외모가 뛰어난 여성의 이미지를 사용해 딥페이크로 가상의 인물을 만든 뒤 연인 관계를 맺어 신뢰를 쌓았다. 가상의 여성에게는 MBTI(성격유형지표), 혈액형, 학력, 집안 등 세부 정보까지 설정해 실제 존재하는 인물처럼 속였다. 피해자와 지속적인 대화를 위해 10일치 분량의 대본까지 미리 작성하는 치밀함도 보였다. 이 과정에서 이들은 자신을 서울 강남에 40억원대 아파트와 카페 소유자로 소개한 뒤 상대방에게 “같이 투자 공부를 해보자”라며 유튜브 채널을 알려준다. 이 말에 속은 피해자들이 유튜브 채널에 접속하면 다른 일당이 ‘경제 전문가’로 등장해 피해자들에게 실제 존재하는 투자회사의 가짜 투자사이트와 대포통장을 알려주며 가상화폐·주식 투자금을 보내도록 유도했다. 일당은 이런 방법으로 지난해 3월부터 올해 2월까지 100여명을 상대로 120억원을 가로챘다. 피해자 중에는 장애인이나 중소기업 사장, 주부 등도 있다. 이들은 200만원에서 8억 8000만원까지 뜯겼다. 경찰은 수사를 통해 대포통장과 대포폰 등을 확인했고, 인터폴을 통해 캄보디아 현지 피의자들에 대한 수배조치도 내렸다. 경찰은 캄보디아 당국에 구금된 총책 부부 2명은 송환 절차를 진행 중이다. 경찰 관계자는 “로맨스 스캠 범죄조직에 대한 수사를 계속하고 있다”며 “해외 도피 중인 피의자들도 끝까지 추적해 검거하겠다”고 밝혔다.

딥페이크로 가상 인물을 만들어 투자 사기 행각을 벌여 120억원을 가로챈 일당이 경찰에 적발됐다. 30일 울산경찰청 반부패·경제범죄수사대는 로맨스 스캠(연애 빙자 사기) 일당 45명을 검거해 주범 A씨 등 10명을 범죄단체조직·가입·활동 및 특정범죄 가중처벌 등에 관한 법률 위반 혐의로 구속하고 채팅 담당 직원 등 나머지 35명을 입건했다고 밝혔다. 일당은 먼저 각종 소셜미디어(SNS)에 있는 일반인 사진 등을 모은 후 딥페이크 기술을 통해 가상 인물인 34세 여성 B씨를 만들었다. 이들은 B씨가 실존하는 인물인 것처럼 보이기 위해 혈액형과 부모 직업, 가정 환경, 학력, 자산 등을 구체적으로 설정한 후 채팅 앱에서 남성들에게 무작위로 말을 걸었다. 피해자와 연락을 시작하면 B씨 역할을 맡은 채팅 담당 직원들이 미리 준비한 10∼15일치 시나리오에 따라 매일 채팅하면서 마치 교제하는 사이가 된 것처럼 신뢰를 쌓았다. 딥페이크 인물 B씨를 통해 영상통화까지 하면서 상대방이 완전히 믿도록 했다. 이 과정에서 B씨는 자신이 투자를 통해 서울 강남에 40억원대 아파트를 소유하고 있으며, 카페도 운영 중이라고 하면서 상대방에게 “같이 투자 공부를 해보자”라고 권유했다. 이 말에 속은 피해자들은 B씨가 알려주는 유튜브 채널에 접속했고, 이때 해당 채널에 등장해 ‘경제 전문가’ 행세하는 다른 일당이 피해 남성들에게 개인적으로 연락해 실제 존재하는 투자회사의 가짜 투자사이트와 대포통장을 알려주며 가상화폐·주식 투자금을 보내도록 유도했다. 피해 남성들은 가짜 사이트에서 자신의 투자금이 수익을 나는 것을 보고 안심했으나, 수익금을 찾겠다고 하면 B씨는 입원했다는 둥 핑계를 대면서 그대로 연락을 끊어버렸다. A씨 일당은 이런 식으로 지난해 3월부터 올해 2월까지 100여명을 상대로 120억원을 뜯어냈으며 가상화폐나 상품권 매매 등을 통해 현금화했다. 피해자 중에는 장애인이나 중소기업 사장, 주부, 노인 등도 있으면 적게는 200만원에서 많게는 8억 8000만원까지 뜯겼다. 일부는 대출까지 받아 투자한 것으로 드러났다. 피해자 신고를 받은 경찰은 수사를 통해 대포통장과 대포폰 등을 확인했으며, 캄보디아 현지에 피의자들을 인터폴을 통해 수배 조치했다. 현재 총책 부부 2명은 캄보디아 당국에 구금된 상태로, 경찰은 송환 절차를 진행 중이다. 경찰 관계자는 “로맨스 스캠 범죄조직에 대한 수사를 계속하고 있다”며 “해외 도피 중인 피의자들도 끝까지 추적해 검거하겠다”고 말했다.

‘목사’·‘판도라’ 등 사이버성폭력범 224명 검거일당, ‘5명 낚아오면 해방’ 다른 피해자 유인 ‘딥페이크 영상 유포자를 알려주겠다’며 또래 여학생들에게 인스타그램 등으로 접근한 뒤 성착취물을 만든 10대 남성이 검찰에 넘겨졌다. 29일 서울경찰청 사이버수사대는 아동·청소년 등을 상대로 텔레그램 등 소셜미디어(SNS)에서 성범죄를 저지른 A군(17) 등 224명을 검거했다고 밝혔다. A군은 10대 초반 여성 피해자 19명을 상대로 지난해 7월쯤부터 이달까지 성착취물 34건을 만들고 불법 촬영물 81건과 허위영상물(딥페이크 영상 등) 1832건 등을 소지한 혐의로 지난 22일 구속됐다. A군은 ‘판도라’라는 이름으로 활동했는데, 이들 일당은 피해자들에게 “텔레그램에서 당신의 딥페이크 영상이 유포되고 있는데 유포자를 알려주겠다”며 접근했다. 유인된 이들이 신체 사진이나 돈을 보내면 딥페이크 사진이 있는지 확인하겠다고 속였다. 전달받은 개인정보 등으로 협박한 뒤 나체 사진 등을 전송받은 것으로 조사됐다. 가장 어린 피해자는 중1 학생이었다. 피해자들에게 ‘5명을 낚아오면 해방해주겠다’며 다른 피해자를 물색하거나 유인하도록 지시하기도 했다. 경찰에 검거된 공범 B(16)양 등 3명도 판도라에게 성착취물 피해를 봤다가 범행에 이른 것으로 파악됐다. 경찰은 자경단 수사 이후 구축한 텔레그램과 핫라인 등을 통해 2개월 만에 비슷한 수법으로 범행을 벌인 판도라 등 공범들을 검거했다. A씨는 경찰에 “성적인 호기심에 범행을 저질렀다”는 취지로 진술한 것으로 알려졌다. 서울청은 지난해 8월부터 올 3월까지 국가수사본부의 ‘허위 영상물 범죄 일제 단속’과 병행해 사이버 성폭력 범죄 단속을 진행했다. 그 결과 판도라, 목사 등 224명이 검거됐고 그 중 13명은 구속됐다. 이 과정에서 오피스텔에 화재경보기 모양의 폐쇄회로(CC)TV를 설치한 뒤 아동·청소년 3명 등 여성 53명을 대상으로 성관계 장면 등 총 1584회 불법 촬영한 혐의(미성년자 의제강간, 성착취물 제작)로 C(33)씨와 D(28)씨도 구속됐다. 경찰은 두 사람이 불법 촬영한 영상을 유료 구독 사이트에 판매해 얻은 범죄 수익금 1300만원을 추징·보전했다. 또한 경찰은 텔레그램에서 일명 ‘작가’로 활동하면서 청소년 2명에 대한 아동·청소년 성착취물 46건을 만들고 가족, 직장 동료, 직장 동료의 부인 등 피해자 182명에 대한 허위 영상물 281건을 제작해 소지한 혐의 등으로 E(52)씨와 F(23)씨 등도 지난해 구속했다. 경찰은 “사이버 성폭력 사범들에 대해 무관용 원칙으로 엄정 대응할 방침”이라며 “피해 발생 시 망설이지 말고 바로 수사기관이나 관련 상담 기관 등을 방문해 피해 사실을 알려달라”고 당부했다.

광주광역시교육청이 글로벌 인재 양성을 위해 APEC국제교육협력원과 손을 맞잡았다. 이정선 광주시교육감은 25일 시교육청 상황실에서 박동선 APEC국제교육협력원 이사장과 국제교류 증진 및 글로벌 미래 인재 양성을 위한 업무협약(MOU)을 체결했다. 이번 협약에 따라 양 기관은 ▲AI 딥페이크 예방교육 및 디지털 교육정보화 정책 협력 ▲해외 학교 간 국제교류수업 및 네트워크 확대 ▲지역 인재의 글로벌 역량 강화를 위한 협력사업 ▲공동 글로벌 교육 프로젝트 개발 등을 함께 추진한다. 이 교육감은 “4차 산업혁명과 글로벌 시대를 선도할 인재 양성을 위해 국제 협력은 더 이상 선택이 아닌 필수”라며 “학생들이 세계를 무대로 역량을 펼칠 수 있도록 적극 지원하겠다”고 말했다. 박 이사장은 “광주교육청과 함께 지역 인재들이 글로벌 감각을 갖춘 인재로 성장할 수 있도록 최선을 다하겠다”고 밝혔다.

여성 연예인의 얼굴을 합성한 딥페이크 합성 영상물 등을 텔레그램에서 판매해 수천만 원을 챙긴 혐의로 재판에 넘겨진 20대에게 징역형이 선고됐다. 부산지법 형사6부(부장 김용균)는 25일 성폭력 처벌법(영리 목적 허위 영상물 반포 등), 청소년 성 보호법(영리 목적 성 착취물 판매 등) 위반 등 혐의로 기소된 A씨에게 징역 6년을 선고했다. 이와 함께 80시간 성폭력 치료 프로그램 이수, 아동·청소년 및 장애인 관련 기관 취업 제한 5년, 추징금 6600만원도 명령했다. A씨는 2022년 7월부터 2023년 9월까지 입장료를 낸 회원만 접속할 수 있는 텔레그램 유료방을 운영하면서 여성 연예인의 얼굴을 합성한 딥페이크 296개, 아동·청소년 성 착취물 183개, 성인 불법 촬영물 및 음란물 10175개를 유포한 혐의로 재판에 넘겨졌다. 이 방의 유료 회원은 400여명이었으며, 자료를 구매하거나 시청한 사람은 2800여명인 것으로 조사됐다. A씨는 이들에게 불법 영상물을 판매해 6000여만원을 챙겼다. 재판부는 “영상에 등장하는 피해자들에게 평생 치유할 수 없는 심각한 정신적 고통을 안겨주고, 시청하는 사람들의 성 의식을 왜곡할 우려가 매우 크다는 점에서 사회에 미치는 해악이 아주 크다”라고 밝혔다.

서울시의회 교육위원회 최재란 의원(더불어민주당, 비례대표)은 지난 23일 열린 제330회 임시회 제2차 교육위원회 업무보고에서 학교 내 안전교육 체계의 실효성, 교육복지 예산, 학부모 민원 현안 등을 종합적으로 점검하며 교육청의 개선 의지를 강하게 촉구했다. 최 의원은 이날 “학교 7대 안전 교육 항목에 ‘도박’이 빠져 있다”면서 “이미 청소년 사이에서 온라인 도박이 심각한 문제로 떠오르고 있는 만큼, 도박 예방교육을 체계적으로 포함시켜야 한다”고 강조했다. 이어 강동구 명일동 초등학교의 사례를 언급하며 “졸업앨범 동의서와 함께 딥페이크 예방 서약서를 배포한 것은 매우 훌륭한 시도”라며, “이러한 교육이 보다 널리 확산돼야 한다”고 평가했다. 무엇보다 우리 아이들의 상담을 통한 심리·정서 지원을 세심하게 챙길 것을 주문했다. 최 의원은 “초·중등교육법 개정으로 전문 상담 인력을 배치하도록 했으나 2025년 본예산에는 미처 반영되지 못했다”면서 “위클래스 상담 공간은 있어도 인력이 없다면 무용지물이므로 추경에 반영해주길 바란다”고 요청했다. 또한 최 의원은 군인 자녀 입학과 관련해 “박봉과 잦은 근무지 이전이라는 열악한 근무 환경에도 묵묵히 국방의 의무를 다하는 군인 자녀들을 위해 서울시교육청이 지원청 간 시행계획을 통일해 달라”고 재차 촉구했다. 이는 지난 임시회 때 국방부의 보직 이동 명령에 의한 관사 입주와 신입생 배정 시기가 달라 발생하는 불편으로, 교육지원청별로 상이한 운영 기준으로 인해 동일한 상황에서도 학생 간 차별이 발생한다고 지적한 바 있다. 최 의원은 양천지역 내 학교시설 관련 민원도 다뤘다. 애초 추진됐던 월촌중학교 급식실 예산이 체육관 건립으로 변경 추진된 사례를 언급하며 “학교 계획서 작성 단계에서부터 학부모 및 시의원과 소통이 필요하다”고 지적했고, 강서고등학교의 석면 천장 제거 및 조도 개선 공사를 조속히 추진해줄 것을 요청했다. 아울러 월촌초등학교의 과밀학급 해소와 교사 수 확보를 위한 신축 방안으로, 주차장 부지 활용 방안을 제안하며 교육청 관계자에게 현장 방문을 요청했다. 마지막으로 최 의원은 “학교는 단지 교육의 공간이 아니라 아이들의 안전과 권리를 지키는 첫 번째 사회 기반”이라며 “교육청과 시의회가 함께, 실질적인 변화를 만들기 위해 책임 있게 움직여야 한다”고 강조했다.

조회수 1회당 0.6원 정도의 수익시청 유도 위해 자극적 영상 생산가짜뉴스·음모론으로 극단 선동규제 어려워 AI 활용 표절도 확산 유튜브는 지난 20년간 ‘자유의 땅’이자 ‘기회의 땅’이었다. 휴대전화 하나만 있으면 자신의 의견을 자유롭게 내고, 재능을 활용해 돈도 벌 수 있었다. 그러나 검증되지 않은 가짜뉴스가 난무하고 알고리즘의 선택을 받지 못하면 수익 올리기도 어려워졌다. 너도나도 ‘황금알을 낳는 거위’로 생각하는 유튜브가 자극이 넘쳐 나는 ‘도파민 저수지’가 돼 간다는 지적도 나온다. 과학기술정보통신부와 한국전파진흥협회가 최근 발표한 ‘2024년 디지털크리에이터 미디어 산업 실태조사’ 결과에 따르면 2023년 기준 국내 디지털 크리에이터 시장 총매출액은 5조 3159억원이었다. 사업체 수는 1만 3514개, 종사자 수는 4만 2378명으로 조사됐다. 전년도와 비교하면 각각 2391개(21.5%), 7003명(19.8%) 늘었다. 해당 조사에서 전체 플랫폼 시장을 유튜브가 과점(68.1%)하고 있는 것으로 집계된 점을 고려하면 유튜버 매출은 3조 4000억원 수준으로 추산할 수 있다. 유튜브 시장이 매년 20% 이상씩 성장하면서 직업으로 삼고 싶다는 초등학생들 수도 늘어나는 추세다. 그러나 성공하긴 생각보다 쉽지 않다. 전파진흥협회가 수익이 발생한 개인 또는 법인체 3만 6751곳을 대상으로 조사한 ‘2023년 디지털 크리에이터 활동 현황 조사 보고서’에 따르면 연간 수익은 2040만 9000원 수준에 그쳤다. 국세청의 2022년 자료에 따르면 ‘1인 미디어 창작자’로 수입을 신고한 사업자 3만 9366명의 연간 총수입은 1조 1420억원이었는데, 상위 1%에 해당하는 393명의 총수입이 3333억원으로 전체의 30%를 차지할 정도였다. 이를 소득 평균과 연결해 보면 결국 유튜브로 생계를 유지할 정도가 되는 이들은 일부에 그친다는 사실을 짐작할 수 있다. 경쟁이 치열해지면서 수익 창출 역시 어려워지고 있다. 201만명의 구독자를 보유한 유튜브 채널 ‘1분미만’이 최근 공개한 영상에 따르면 조회수 수입은 1회당 0.6원 정도에 불과했다. 채널 관계자는 “조회수 100만을 찍어야 수익이 60만원 정도”라면서 “각종 비용 등을 빼면 채널 유지 역시 쉽지 않다”고 토로했다. 유튜버 김대권씨는 최근 자신의 채널에 ‘알고리즘에 버림받은 66만 목공 채널’이라는 제목의 영상을 올렸다. 그가 2019년부터 꾸린 ‘김팀장 크래프트’는 구독자를 빠르게 늘리며 성공한 채널로 평가받았다. 조회수가 잘 나올 때는 한 달에 700만~800만원씩 벌기도 했지만 쇼츠나 릴스 등 ‘숏폼’이 대세를 이루는 최근 들어서는 어려움을 겪고 있다고 밝혔다. 김씨는 서울신문과의 통화에서 “영상 하나를 만드는 데 2주 가까이 걸리지만 알고리즘의 외면을 받자 조회수가 5분의1로 급감했다”고 밝혔다. 사회 영향력이 커지면서 유튜브는 뉴스 플랫폼으로도 주목받았다. 그러나 공익보다 조회수 올리기에 급급해 거짓을 퍼뜨리는 가짜뉴스에 대한 우려도 커지고 있다. 로이터저널리즘연구소가 전 세계 47개국을 대상으로 실시한 ‘디지털 뉴스 리포트 2024’에 따르면 유튜브를 통해 뉴스를 시청하는 비율은 전 세계 평균 61%였고 우리나라는 이보다 14% 포인트나 높은 75%였다. 2017년 28%였던 점을 고려하면 8년 만에 2.5배 정도 늘어난 셈이다. ‘디지털 뉴스 리포트 2020’에서는 ‘가짜·허위 정보로 가장 우려되는 온라인 플랫폼’에 대한 설문 조사에서 유튜브가 31%로 1위를 차지했다. 가짜뉴스의 폐해는 사회 곳곳에서 드러나고 있다. 평소 보수 우익 유튜버 방송을 즐겨 보는 것으로 알려진 윤석열 전 대통령이 12·3 비상계엄 선포 당시 보수 세력 일각에서 주장하는 ‘부정선거론’을 들고 나와 논란을 불렀다. 헌법재판소가 이달 만장일치로 대통령 파면을 선고했지만, 보수 우익 유튜버들은 가짜뉴스와 음모론을 퍼뜨리며 선동을 이어 오고 있다. 지난해 12월 무안국제공항에서 일어난 제주항공 참사 이후 ‘사고기 기장이 살아 돌아왔다’, ‘사고기는 사실 모형 항공기’와 같은 허위 주장을 담은 가짜뉴스가 유튜브를 통해 확산해 경찰청 국가수사본부가 단속에 나서기도 했다. 같은 해 11월 유튜브 등에는 ‘롯데그룹 공중분해 위기’라는 제목의 동영상이 올라오면서 막심한 피해로 이어졌다. 롯데지주와 롯데케미칼 등의 주가가 이후 10% 안팎 급락하면서 6000억원대 손해가 발생했고 경찰 수사 요청까지 이어졌다. 최근엔 인공지능(AI)을 활용한 영상 제작이 활발해지면서 저작권 논란도 거세다. 현행법상 저작물은 ‘인간의 사상 또는 감정을 표현한 창작물’로 규정한다. 그러나 타인의 저작물을 활용해 AI로 새롭게 창작물을 만드는 것에 대해서는 아직 명확한 규정이 없다. 유튜브에는 유명인 얼굴을 활용해 만든 딥페이크 영상, 허위 정보를 마치 실제 뉴스인 것처럼 주장하는 영상 등도 버젓이 돌고 있다. 한국저작권위원회 관계자는 “생성형 AI로 유명 캐릭터를 활용해 만든 이미지나 마이클 잭슨 목소리로 방탄소년단(BTS) 노래를 부른 음원을 제작해 유튜브 등에 올리면 저작권 침해 문제가 발생할 수 있다”고 설명했다. 그러나 세세한 규정은 없는 상황이라 문제가 불거지면 법으로 일일이 다투는 수밖에 없는 실정이다.

여성 대학 동문 얼굴에 나체사진을 합성한 뒤 이른바 ‘지인 능욕방’(텔레그램)을 통해 유포한 대학원생 등 8명이 재판에 넘겨졌다. 인천지검 여성아동범죄조사부(부장검사 정희선)는 성폭력처벌법 위반(허위영상물편집 등) 혐의로 대학원생 A(24)씨 등 10∼30대 남성 8명을 구속 기소했다고 22일 밝혔다. A씨 등은 2022년 11월부터 지난해 8월까지 90차례에 걸쳐 성범죄물을 만든 뒤 텔레그램에 개설한 지인 능욕방을 통해 270여 차례 유포함 혐의를 받고 있다. A씨는 인공지능(AI)을 이용한 ‘딥페이크’ 기술이나 사진 편집 프로그램으로 대학교 동문 여성과 지인 등 얼굴에 다른 여성의 나체사진을 합성한 것으로 조사됐다. 피해자는 총 41명에 이른다. 지인 능욕방은 개설자, 관리자, 참여자로 나누어져 있었으며 적극 동조하는 사람에게 권한을 부여해 참가자들에게 피해자들의 허위영상물을 다른 텔레그램방에 반포하도록 독려한 것으로 파악됐다. 또 텔레그램방이 폭파될 경우를 대비해 일명 ‘대피소’도 운영했다. 검찰 관계자는 “피고인들에게 죄에 상응하는 엄정한 처벌이 이뤄질 수 있도록 공소 유지에 만전을 기할 것”이라며 “피해자들에 대해서는 디지털성범죄 피해자지원센터에 의뢰해 허위영상물을 삭제·차단토록 지원하고 ‘잊혀질 권리’를 위해 다각적인 방안을 마련하겠다”고 말했다.

경상북도의회 이동업 의원(포항7ㆍ국민의힘)이 대표발의한 「경상북도교육청 디지털 성범죄 예방 및 피해학생 지원에 관한 조례 전부개정조례안」이 지난 16일, 제355회 임시회 제1차 교육위원회 심사를 통과했다. 이 의원이 발의한 개정조례안은 ▲‘피해자’에 대한 용어 정의를 디지털 성범죄로 피해를 당한 학생과 학생에 의한 디지털 성범죄 피해를 당한 교직원으로 확대 규정하고 ▲학생을 대상으로 한 실태조사 매년 실시 ▲예방 및 대응 교육 매년 1회 이상 실시 ▲피해자에 대한 불법촬영물ㆍ신상정보의 삭제 및 사후 모니터링 지원을 포함한 지원 사업 추진 등의 사항을 주요 골자로 하고 있다. 교육부 및 경북교육청에 따르면, 2024년 1월부터 9월 6일까지의 전국 학교 딥페이크 성범죄 피해자는 학생 588명, 교원 27명, 직원 2명으로 집계됐고, 2020년부터 2024년까지의 경북도 내 학교에서의 디지털 성범죄 피해 접수도 학생 59건, 교원 7건으로 총 66건, 2024년 한 해 동안의 딥페이크를 포함한 허위영상물 피해는 24건에 달하는 것으로 나타났다. 이 의원은 “디지털 정보화의 발전으로 딥페이크 기술 등을 이용한 디지털 성범죄 문제가 갈수록 심각해지고, 피해 대상이 학생을 넘어 교직원으로도 확대되고 있지만 보호 및 지원에 관한 제도적 근거는 부족한 실정이다”면서 “초ㆍ중등학생을 대상으로 한 디지털 성범죄는 발달과정에 치명적 영향을 미칠 수 있어, 교육현장에서의 예방교육 강화와 적극적이고 체계적인 대응책 마련이 이루어져야 한다”라고 강조했다. 이어, 이동업 의원은 “조례의 개정을 통해 학생과 교직원을 대상으로 한 디지털 성범죄 예방 및 대응 교육 강화와 보호ㆍ지원사업을 확대하여 경상북도 내 학교의 안전한 교육환경 구축에 크게 기여할 것으로 판단된다”면서 “디지털 성범죄 확산에 따른 학생과 교직원의 안전 보장과 피해자에 대한 치유와 지원에 관한 제도적 보완을 통해 흔들리는 교육현장을 바로 세우는 데 의회 차원의 노력을 아끼지 않겠다”라고 밝혔다. 한편, 해당 조례안은 오는 29일 제355회 임시회 제2차 본회의에서 최종 의결되어 시행될 예정이다.

경남경찰청은 지난해 8월부터 올 3월까지 ‘허위영상물 범죄 집중 단속’을 벌여 42명을 검거하고 이 중 3명을 구속했다고 21일 밝혔다. 또 지난 2월 24일부터 지난달 28일까지 ‘아동 성 착취물 아시아 6개국 특별 단속’을 시행, 총 18명을 검거해 이 중 1명을 구속 송치했다고 덧붙였다. 아시아 6개국 단속에는 한국·말레이시아·싱가포르·일본·태국·홍콩이 참여했다. 경찰이 사건을 분석한 결과, 피해자는 일반인·연예인·지인 등으로 다양했다. 인공지능(AI)·관련 플랫폼(합성 사이트 등) 발달로 특별한 관련 지식이 없는 피의자들도 손쉽게 범행을 저지르는 경향도 나타났다. 허위영상물 관련 범죄로 검거된 피의자 42명 중 10대는 33명(78.6%)에 달했다. 이들은 호기심, 장난 등으로 범행을 저질렀다고 진술했다. 경찰은 이와 함께 허위 영상물 등 성범죄의 경우 주로 ‘딥페이크’(특정 인물 얼굴 등을 합성한 영상) 등을 통해 범행이 이뤄진 것을 확인했다. 아동 성 착취물 범죄 역시 딥페이크가 범행 수법으로 사용되는 일이 늘었고, 강요 등으로 성 착취물을 제작하게 하는 범행 행태도 파악했다. 경찰은 “해당 범죄는 피해자에게 평생 씻기 어려운 상처를 남기는, 인간의 존엄을 파괴하는 매우 심각한 범죄”라며 “특별단속 여부와는 관계없이 사이버 수사역량을 집중하여 대응해 나가겠다”고 밝혔다. 이어 “허위영상물은 제작뿐 아니라 소지·시청만으로도 무겁게 처벌된다”며 “청소년들이 호기심에 범행을 저지르지 않도록 교육과 예방 등에 관심을 기울여 달라”고 밝혔다.

경북도의회 교육위원회 김경숙 의원(더불어민주당, 비례)이 대표발의한 “경북도교육청 생성형 인공지능 활용 지원에 관한 조례안‘이 16일 제355회 임시회에서 소관 상임위인 교육위원회의 심의를 통과했다. 조례안은 학교에서 생성형 인공지능을 효과적으로 활용하기 위해 필요한 사항을 규정함으로써 교육의 질적 향상과 디지털 기반 교육 혁신에 이바지하는 것을 목적으로 하고 있다. 특히 경북도 학생들이 생성형 인공지능을 올바르게 활용하고, 딥페이크 범죄 등의 부작용을 예방할 수 있도록 윤리교육을 실시하여 AI의 위험성을 올바르게 인식하고 책임감 있게 사용할 수 있게 한 점이 눈길을 끈다. 조례안의 주요 내용으로 ▲AI 활용 교육의 기본 원칙 수립 ▲교육감의 정책 수립 및 사업 추진 ▲ 학생 대상 AI 윤리교육 의무화 ▲자문위원회 설치 및 협력체계 구축 등을 포함하고 있다. 이번 조례안을 대표 발의한 김 의원은 “생성형 인공지능은 이제 교육 현장에서 피할 수 없는 현실이 되었다. 하지만 학생들의 무분별한 사용이 사회적 문제를 초래할 수 있다”면서 “이번 조례안 제정으로 우리 경북의 학생들이 AI시대를 주도적으로 살아갈 수 있는 역량을 키우는 동시에 생성형 인공지능 기술을 올바르게 활용할 수 있는 윤리적 책임감을 기를 수 있을 것으로 기대한다”고 전했다. 이날 본 조례안은 교육위원회 심사를 통과해, 오는 29일 본회의에 상정 처리될 예정이다.

인공지능(AI)은 우리 삶에 많은 도움을 주고 있지만 부작용도 만만치 않다. 가장 큰 부작용이 ‘딥페이크’(deepfake)다. AI 심층학습을 뜻하는 딥러닝(deep learning)과 가짜를 의미하는 페이크(fake)의 합성어. AI 기술로 얼굴 등 이미지를 합성해 실제처럼 보이도록 조작한 허위 사진·영상 편집물이다. ‘챗GPT’ 열풍과 함께 누가 언제 어디서 누구의 얼굴을 합성해 조작하고 있을지 모를 일이다. 딥페이크가 기승을 부리면서 피해도 확산하고 있다. 방송통신심의위원회의 딥페이크 관련 심의 건수는 지난해 9월 기준 1만 305건. 2021년(1913건)에 비해 5배 이상 늘었다. 법원은 최근 텔레그램에서 딥페이크 영상물 1275개를 유포한 ‘지인 능욕방’ 운영자에게 징역 2년 6개월을 선고했다. 2019년 아동·청소년 성착취 범죄인 ‘N번방’ 사건을 계기로 성폭력처벌법에 ‘허위 영상물 등의 반포’ 처벌 조항이 신설됐다. 성적 딥페이크도 디지털 성범죄에 포함됐다. 5년 이하의 징역 또는 5000만원 이하의 벌금이 내려질 수 있다. 6·3 대선에도 ‘딥페이크 주의보’가 내려졌다. 일상화한 AI 기술로 정치공작, 가짜뉴스 유포 등에 활용될 가능성이 어느 때보다 커졌다. 이미 피해 사례도 심각한 수준이다. 대선주자들을 희화화하거나 경쟁 후보를 비방하는 동영상, 죄수복을 입은 후보 사진 등이 등장했다. 이재명 더불어민주당 예비후보도 비상이 걸렸다. 이 후보가 부인에게 욕설하는 딥페이크 영상이 유포될 수 있다는 제보가 접수됐다. 이 후보 측은 “유포 시 모든 수단을 동원해 법적 책임을 묻겠다”는 경고로 제동을 건 상태다. 중앙선거관리위원회는 ‘딥페이크 기술로 만든 선거 관련 영상이 조금이라도 오인 가능성이 있다면 법 위반’이라고 경고했다. 유권자들의 할 일이 후보자들 검증에만 머물 수 없는 세상이다. 답페이크에 속지 않고 무사히 한 표를 행사하는 것. 딥페이크 시대의 유권자들은 시력도 두 배로 좋아져야 한다.

이재명 전 더불어민주당의 대선 경선 캠프가 11일 공식 가동한 가운데 이 전 대표를 이용한 딥페이크 영상 등이 만들어지면 엄정 대응하겠다는 경고가 나왔다. 이 전 대표 캠프의 박수현 공보단장은 이날 국회에서 기자회견을 열고 “선대위는 딥페이크 영상 등 허위 조작정보를 절대 용납하지 않겠다”며 “적발 시 유포중지 가처분, 고발 등 법적 책임을 끝까지 묻겠다”고 밝혔다. 이 전 대표 캠프 측은 이 전 대표가 부인 김혜경씨에게 욕하는 동영상이라는 내용의 딥페이크 영상을 만들어 유포를 시도한다는 제보가 접수됐다고 했다. 제보에 따르면 과거 수사기관 조사를 받고 귀가한 김씨에게 이 전 대표가 험악한 호칭을 쓰며 나무라는 것으로 상황이 설정됐다고 한다. 박 단장은 “엄중하게 경고한다”며 “제보된 딥페이크 영상을 비롯해 허위 조작 정보는 국민의 올바른 선택을 방해하는 민주주의의 적”이라며 “모든 수단을 동원해 법적 책임을 묻겠다”고 강조했다. 한편 이 전 대표 캠프는 이날 ‘이제부터 진짜 대한민국’이라는 이름의 인터넷 카페를 만들었다고 밝혔다. 이 전 대표는 페이스북에 인터넷 카페를 소개하며 “문턱은 없다. 편히 들어와서 자유롭게 소통해달라”고 했다. 이어 “모두가 손님이 되기도, 주인이 되기도 하는 다채로운 공간”이라며 “진짜 대한민국을 함께 만들어 나갈 여러분의 이야기가 궁금하다. 자주 들으러 오겠다”고 밝혔다.

텔레그램에서 구한 피해자들의 사진과 개인정보로 딥페이크 불법 합성 영상물을 제작·유포한 혐의를 받는 소위 ‘지인능욕방’ 운영자가 1심에 이어 2심에서도 실형을 선고받았다. 서울고법 형사11-2부(부장 정문경·박영주·박재우)는 11일 아동·청소년 성보호법 위반(성착취물 제작) 등 혐의로 재판에 넘겨진 20대 남성 A씨의 항소심 선고기일에서 1심과 마찬가지로 징역 2년 6개월을 선고했다. 이와 함께 성폭력 치료프로그램 이수 80시간과 아동·청소년 기관 및 장애인 관련 기관에 대한 취업 제한 3년을 명령했다. 재판부는 “원심과 비교해 양형 조건이 변하지 않았고 합리적 범위 내에서 형이 정해진 것으로 보인다”며 피고인과 검사의 항소를 모두 기각했다. A씨는 2023년 9월부터 지난해 8월까지 텔레그램 ‘지인능욕방’ 참여자들로부터 받은 피해자들의 사진, 이름 등 개인정보를 이용해 아동·청소년 대상 허위영상물 92개와 성인 대상 허위영상물 1275개를 제작·유포한 혐의로 지난해 9월 구속기소 됐다. 확인된 피해자만 1200여명에 이른다. 검찰은 또 포렌식과 계좌 추적 등 보완 수사를 통해 A씨가 제작·유포한 허위영상물 1069개를 추가로 파악해 함께 기소했다. 지난 1월 1심은 “피해자가 다수이며 상당 기간에 걸쳐 범행이 반복돼 이뤄졌고 피고인은 일부 피해자가 청소년에 해당한다는 사실을 알면서도 범행했다”면서 “사람의 얼굴을 대상으로 한 촬영물을 가공해 성적 도구, 희화화 대상으로 삼아 잘못된 성 인식을 확대·재생산하는 등 해악이 상당하다”고 지적했다. 다만 “피고인이 범행을 모두 인정하고 반성하는 모습을 보이고 피해자 중 한 명과 합의한 점, 전과가 없고 나이가 어린 점을 유리한 정상으로 참작한다”며 A씨에게 징역 2년 6개월을 선고했다.

유명 연예인과 여성 아이돌 그룹 멤버 등의 성적 허위 영상물(딥페이크)을 제작해 유포하고 대화방에서 영상물을 돌려 본 남성 100여 명이 무더기로 경찰에 붙잡혔다. 피해자만 100여 명에 이른다. 경기북부경찰청 사이버범죄수사2대는 아동청소년의성보호법, 성폭력범죄의처벌등에관한특례법 등 위반 혐의로 텔레그램 대화방 운영자 23명을 검거하고, 이 중 13명을 구속 송치했다고 11일 밝혔다. 또 대화방에 참여했던 60여 명을 추가로 검거했다. 대화방 운영자인 30대 남성 A씨는 지난해 8월부터 올해 3월까지 자신이 좋아하는 여성 아이돌 그룹 멤버 등 연예인 30여 명을 대상으로 성적 허위 영상물 1천 100여 건을 제작해 텔레그램 방에서 유포한 혐의를 받는다. 또 다른 채팅방 운영자인 30대 남성 B씨는 아이돌과 배우, 인터넷 개인방송 진행자 등 총 70여 명을 대상으로 150건의 성적 허위 영상물을 제작해 회원 360여 명과 공유했다. B씨는 ‘딥보이스’ 기술을 이용해 연예인이 실제로 저속한 말을 하는 것처럼 영상을 조작하기도 했다. 20대 남성 C씨는 B씨의 채팅방에서 자신이 아는 중학교 동창 등 일반인을 대상으로 300여 건의 성적 허위 영상물을 제작해 공유한 것으로 드러났다.

지난해 디지털 성범죄로 도움을 요청한 피해자 수가 1만명을 넘어섰다. 이 중 생성형 인공지능(AI)을 활용한 딥페이크 성범죄 피해자의 92.6%는 20대 이하였다. 여성가족부와 한국여성인권진흥원은 이런 내용의 ‘2024 디지털성범죄 피해자 지원 보고서’를 10일 공개했다. 지난해 중앙디지털성범죄피해자지원센터(중앙디성센터)에서 지원받은 피해자는 1만 305명으로 전년 대비 14.7% 증가했다. 삭제 지원, 상담, 수사기관 연계를 합치면 총 33만 2341건으로 전년보다 20.6% 증가했다. 신고하지 않은 건수를 합치면 실제 피해 규모는 훨씬 클 것으로 추정된다. 디지털성범죄 피해자는 10대(27.8%)와 20대(50.9%)에 집중됐다. 소셜미디어(SNS)나 익명 기반 플랫폼 등을 활발히 이용하는 연령대 특성 때문으로 분석된다. 피해자의 72.1%는 여성이었다. 피해 유형별로는 유포 불안(25.9%), 불법 촬영(24.9%), 유포(17.2%) 순으로 나타났다. 유포 불안은 대개 과거 촬영했던 성관계 동영상이나 불법 촬영물 등이 온라인상에 퍼졌을까 두려워 모니터링을 요청하는 경우다. 최근에는 딥페이크 성범죄 증가세가 두드러졌다. 지난해 딥페이크 성범죄 피해 건수는 1384건으로 전년(423건) 대비 272.2% 급증했다. 박성혜 디성센터 삭제지원팀장은 “최근에는 생성형 AI를 활용해 친구나 교사의 얼굴을 합성한 이미지를 장난처럼 공유하는 일이 늘고 있다”며 “아직 유의미한 통계가 나오진 않았지만 생성형 AI 관련 딥페이크 성범죄 심각성이 커질 것으로 보인다”고 말했다.

지난해 디지털 성범죄로 도움을 요청한 피해자 수가 1만명을 넘어섰다. 이 중 생성형 인공지능(AI)을 활용한 딥페이크 성범죄 피해자의 92.6%는 20대 이하였다. 여성가족부와 한국여성인권진흥원은 이런 내용의 ‘2024 디지털성범죄 피해자 지원 보고서’를 10일 공개했다. 지난해 중앙디지털성범죄피해자지원센터(중앙디성센터)에서 지원받은 피해자는 1만 305명으로 전년 대비 14.7% 증가했다. 삭제 지원, 상담, 수사기관 연계 등을 합친 지원 건수는 총 33만 2341건으로 전년보다 20.6% 증가했다. 신고하지 않은 건수를 합치면 실제 피해 규모는 훨씬 클 것으로 추정된다. 디지털성범죄 피해자는 10대(27.8%)와 20대(50.9%)에 집중됐다. 소셜미디어(SNS)나 익명 기반 플랫폼 등을 활발히 이용하는 연령대 특성 때문으로 분석된다. 피해자의 72.1%는 여성이었다. 피해 유형별로는 유포 불안(25.9%), 불법 촬영(24.9%), 유포(17.2%) 순으로 나타났다. 유포 불안은 대개 과거 촬영했던 성관계 동영상이나 불법 촬영물 등이 온라인상에 퍼졌을까 두려워 모니터링을 요청하는 경우다. 최근에는 딥페이크(합성·편집) 성범죄 증가세가 두드러졌다. 지난해 딥페이크 성범죄 피해 건수는 1384건으로 전년(423건) 대비 272.2% 급증했다. 박성혜 디성센터 삭제지원팀장은 “최근에는 생성형 AI를 활용해 친구나 교사의 얼굴을 합성한 이미지를 장난처럼 공유하는 일이 늘고 있다”며 “아직 유의미한 통계가 나오진 않았지만 생성형 AI 관련 딥페이크 성범죄 심각성이 커질 것으로 보인다”고 말했다. 피해자와 가해자와의 관계로는 채팅상대, 일회성 만남 등 일시적 관계가 28.9%로 가장 많았다. 모르는 사람(26.5%), 관계 미상(24.7%), 사회적 관계(10.0%), 친밀한 관계(9.7%) 등 순으로 나타났다. 다수 사용자에게 가공·재유포되는 딥페이크 성범죄가 증가하면서 가해자를 특정하기 어려운 경우 등이 복합적으로 작용한 것으로 풀이된다. 지난해 중앙디성센터가 삭제 지원한 영상물 30만 237건 중 7만 6652건(25.9%)는 피해자의 이름이나 연령 등 개인정보가 함께 유출된 것으로 집계됐다. 이는 전년(5만 7082건) 대비 36.0% 증가한 수치로 삭제 지원 영상물 4건 중 1건꼴로 개인정보가 포함된 것이다. 국내 법망을 피하기 위해 성범죄물 유포 사이트는 대부분(95.4%) 국외에 서버를 두고 있었다. 미국이 70.4%로 가장 높았으며 호주(5.9%), 네덜란드(5.7%), 한국(4.8%) 등이 뒤를 이었다. 한편 오는 17일 시행되는 성폭력방지법 개정안에 따르면 디성센터는 중앙과 지역으로 나뉘는 등 역할이 강화되고, 삭제 지원 대상에 피해자 신상 정보까지 포함된다. 신보라 한국여성인권진흥원장은 “17일 출범하는 중앙디성센터가 피해자에게 신속하고 효과적인 지원을 제공하도록 질적 향상을 도모해 나가겠다”고 밝혔다.

새달 3일 양자 대결로 후보 확정불공정 차단 ‘명태균 방지 조항’도홍준표·한동훈 등 4자 경선 선호 국민의힘이 다음달 3일 전당대회를 열어 21대 대선 후보를 확정한다. 100% 국민 여론조사로 4명을 압축하고 다시 2인을 추려 당심 50%·민심50%로 최종 후보를 선출하는 방안이 거론된다. 국민의힘은 9일 대선경선관리위원회(위원장 황우여)를 열어 경선 일정을 확정했다. 오는 14~15일 후보자 등록을 받고 16일 서류 심사를 통해 1차 경선 진출자를 발표한다. 서류 심사에서는 마약범죄·성범죄 등 사회적 지탄을 받은 범죄 전력 등을 토대로 부적격자를 걸러 낸다. 이번 경선에서는 딥페이크 성범죄 조항이 새롭게 추가됐다. 국민의힘은 여론조사 관련 불공정 시비를 차단하기 위한 ‘명태균 방지 조항’도 도입한다. 호준석 대변인은 “여론조사와 관련해 혹시라도 있을 불공정 시비를 없애기 위해, 여론조사를 실시할 때는 (각 후보) 캠프에서 사전에 (당 사무처) 기획조정국에 의무적으로 신고하도록 했다”고 설명했다. 후보를 압축해 가는 경선 시나리오는 10일 비상대책위원회에서 최종 확정한다. 호 대변인은 “(2강 대결 등) 장단점에 대한 토론이 있었고 종합적 고려가 있었다”며 “비대위에서 최종 의결할 것”이라고 설명했다. 경선 룰을 두고는 후보마다 입장이 갈린다. 홍준표 대구시장은 “원샷 4자 경선으로 가야 한다”며 “양자 경선 운운은 탄핵 대선판을 모르는 사람들의 탁상공론”이라고 했다. 한동훈 전 국민의힘 대표 측도 4자 경선을 선호하는 것으로 전해진다. 유승민 전 국민의힘 의원은 “완전국민경선이 이재명 민주당 후보를 꺾을 수 있는 길”이라며 민심 100% 반영을 주장했다. 경선 기탁금은 최대 3억원 상한 이내에서 조정하기로 했다. 당초 국민의힘은 중앙선거관리위원회 의뢰를 통한 ‘K보팅’ 방식으로 투표를 진행했지만, 이번에는 급박하게 조기 대선 날짜가 확정되면서 신청 기간이 경과해 당 자체 모바일 투표를 실시하기로 했다. 현직 비대위원, 시도당위원장, 중앙당 및 시도당 상설위원회 위원장, 대변인단 등이 특정 후보 선거 지원에 나서면 엄중 문책하기로 했다.

“아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘. 나중에 설명할게.” 울먹이며 읍소하는 목소리는 대학교수 A씨가 30년간 들었던 외동딸의 진짜 목소리였다. 돈을 보내려던 A씨는 혹시나 하는 마음에 다시 딸에게 전화를 걸었다. 그러자 “아, 보이스피싱인가봐”라는 답이 돌아왔다. 휴대전화 속 목소리는 인공지능(AI) 기술로 딸의 목소리를 흉내 낸 것이었다. AI 기술이 발전하면서 이를 악용한 범죄가 진화하고 있다. 과거 보이스피싱이 지인의 목소리를 어설프게 흉내내거나 공공기관을 사칭하는 방식이었다면, 이제는 실제 목소리 정보를 AI로 합성해 조작한다. 이른바 ‘딥보이스’는 먼저 목소리 정보를 얻어낼 상대방에게 전화를 걸어 짧게 통화하는 것으로 시작된다. 이 목소리 데이터를 AI프로그램에 합성하면 가족이나 지인의 음성을 유사하게 만들어 낼 수 있다. 실제 서울신문이 한 딥보이스 앱에 목소리 녹음 파일을 올리자 30초도 채 안 돼 패턴과 속도 등을 분석했다. 이후 “엄마 핸드폰이 고장 나서 그런데 100만원 입금해줘”라는 문장을 글로 입력하고, 상황 등을 설정하자 녹음파일의 목소리와 비슷한 음성이 흘러나왔다. 법무법인 청의 곽준호 변호사는 “목소리 녹음 파일만 있으면 누구나 쉽게 AI로 그럴듯하게 목소리를 만들어 내 범죄에 악용할 수 있다”고 했다. 경찰 관계자도 “목소리를 수집하는 역할을 하는 ‘콜센터’를 검거하기가 쉽지 않다”면서 “이런 유형의 보이스피싱이 빈번해지고 있다”고 전했다. 경찰청에 따르면 지난해 보이스피싱 피해액은 8545억원으로 1년 전보다 91% 늘었다. 하지만 최신 기술인 딥보이스가 악용된 경우가 얼마나 되는지는 공식 통계조차 잡히지 않는다. AI 기술로 조작되는 것은 목소리뿐만이 아니다. 카카오톡 프로필 사진 등 얼굴 사진을 도용해 영상과 사진으로 만드는 범죄도 여전히 잦다. 이미 심각한 사회문제가 된 딥페이크 성범죄뿐 아니라 최근에는 인터넷은행의 생체 인증 서비스를 딥페이크로 뚫으려다 적발된 사례도 있다. 금융권에 따르면 지난달 한 인터넷은행에서는 고객 개인정보를 탈취한 이들이 면허증의 사진 등을 AI로 조작해 얼굴 인식 등 금융사의 생체인증을 뚫으려고 시도했다. 황석진 동국대 국제정보보호대학원 교수는 “기술의 발전으로 피해자들이 더 쉽게 속아 넘어갈 수 있게 됐다”며 “AI를 이용한 범죄의 피해 규모를 파악하고 대응법을 마련해야 한다”고 말했다.

“아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘. 나중에 설명할게.” 울먹이며 읍소하는 목소리는 대학교수 A씨가 30년간 들었던 외동딸의 진짜 목소리였다. 돈을 보내려던 A씨는 혹시나 하는 마음에 다시 딸에게 전화를 걸었다. 그러자 “아, 보이스피싱인가봐”라는 답이 돌아왔다. 휴대전화 속 목소리는 인공지능(AI) 기술로 딸의 목소리를 흉내 낸 것이었다. AI 기술이 발전하면서 이를 악용한 범죄가 진화하고 있다. 과거 보이스피싱은 가족과 지인의 목소리를 어설프게 흉내 냈다면, 이제는 실제 목소리 정보를 AI로 합성해 조작한다. 카카오톡 프로필 사진 등을 활용해 AI 조작 영상이나 사진을 만든 뒤 금융회사의 인증망을 뚫으려고 하거나 공문서를 손쉽게 조작하다 적발되기도 한다. 이른바 ‘딥보이스’는 먼저 목소리 정보를 얻어낼 상대방에게 전화를 걸어 짧게 통화하는 것으로 시작된다. 이 목소리 데이터를 AI프로그램에 합성하면 가족이나 지인의 음성을 유사하게 만들어 낼 수 있다. 실제 서울신문이 한 딥보이스 앱에 목소리 녹음 파일을 올리자 30초도 채 안 돼 패턴과 속도 등을 분석했다. 이후 “엄마 핸드폰이 고장 나서 그런데 100만원 입금해줘”라는 문장을 글로 입력하고, 상황 등을 설정하자 녹음파일의 목소리와 비슷한 음성이 흘러나왔다. 법무법인 청의 곽준호 변호사는 “목소리 녹음 파일만 있으면 누구나 쉽게 AI로 그럴듯하게 목소리를 만들어 내 범죄에 악용할 수 있다”고 했다. 경찰 관계자도 “목소리를 수집하는 역할을 하는 ‘콜센터’를 검거하기가 쉽지 않다”면서 “이런 유형의 보이스피싱이 빈번해지고 있다”고 전했다. 경찰청에 따르면 지난해 보이스피싱 피해액은 8545억원으로 1년 전보다 91% 늘었다. 하지만 최신 기술인 딥보이스가 악용된 경우가 얼마나 되는지는 공식 통계조차 잡히지 않는다. 황석진 동국대 국제정보보호대학원 교수는 “그동안 가족이나 친구의 목소리를 흉내 내는 방식은 성공률이 낮은 편이었지만, 기술의 발전으로 피해자들이 더 쉽게 속아 넘어갈 수 있게 됐다”며 “정확한 피해 규모를 파악하는 게 우선”이라고 말했다. AI 기술로 조작되는 것은 목소리뿐만이 아니다. 카카오톡 프로필 사진 등 얼굴 사진을 도용해 영상과 사진으로 만드는 범죄도 여전히 잦다. 이미 심각한 사회문제가 된 딥페이크 성범죄뿐 아니라 최근에는 인터넷은행의 생체 인증 서비스를 딥페이크로 뚫으려다 적발된 사례도 있다. 금융권에 따르면 지난달 한 인터넷은행에서는 고객 개인정보를 탈취한 이들이 면허증의 사진 등을 AI로 조작해 얼굴 인식 등 금융사의 생체인증을 뚫으려고 시도했다. AI프로그램에 사진을 넣은 뒤 영상을 만들었고, 이를 이용해 스마트폰 얼굴 인식으로 본인 인증을 시도한 것이다. 하지만 수상함을 감지한 은행이 이들을 적발했고, 수사기관에 넘겼다. 법원의 압수수색·구속영장 허가서나 피의사건 처분결과 통지서 등을 공문서 조작은 더 쉬워졌다. 실제로 챗GPT에 ‘전자금융사기’ 죄목으로 ‘압수수색·구속영장 허가서’ 양식을 작성해달라고 요청하면, 사건 개요, 사건명, 관련 법률 등 필요 항목을 정리해준다. 여기에 더 정밀한 명령어를 내려 실제 문서까지 만들 수 있다고 한다. 법무법인 YK의 고두희 변호사는 “한국말을 잘 모르는 외국인 범죄자들이 AI를 통해 한국 수사기관의 공문서를 위조하기도 한다”고 전했다. 이처럼 범죄에 AI가 악용되는 경우가 늘어나고 있는 만큼 수사기관의 대응도 강화해야 한다는 지적이 나온다. 이건수 백석대 범죄수사학과 교수는 “기술이 좀 더 발전해 정교해진다면 조작된 목소리나 얼굴로 사람은 물론 디지털 인증 체계까지 속일 수 있다”며 “AI가 범죄에 활용되는 통계 집계부터 시작해 진화하는 수법에 대응하는 방법을 고민해야 할 시기”라고 말했다.