이재명 더불어민주당 대선 후보가 16일 데이트폭력(교제폭력) 범죄에 대한 처벌을 강화하고 ‘고용평등 임금 공시제’를 도입해 성별 임금격차를 개선하겠다고 밝혔다. 이 후보는 여성 정책이 미비하다는 지적에 대해 “끊임없이 노력해나갈 것”이라고 강조했다. 이 후보는 전북 전주 유세현장에서 기자들과 만나 “(여성들의) 구조적 차별이 분명해서 끊임없는 개선 노력이 필요하다”며 “우리 사회의 구성원으로 동등하게 살아갈 수 있도록 각별한 보호정책이 필요하다”고 말했다. 이어 ‘여성 정책이 소홀하다’는 지적에는 “여성에 대해 민주당 정책이 없거나 (여성 정책을) 언급하지 않는다는 지적은 옳지 않은 지적”이라며 “당연히 관심이 있고 성차별을 극복해야 한다. 특히 구조적 문제를 해결하기 위한 노력도 끊임 없이 해나갈 것”이라고 했다. 이 후보는 그간 논란을 피하기 위한 ‘로우 키’ 전략을 쓰면서 젠더 이슈로 번질 수 있는 여성 정책 발표를 피하고 있다는 지적을 받아왔다. 이 후보는 이날 “최근 20~30대 여성들이 우리 사회에 어려운 위기 국면, 특히 이번 내란 국면에서 큰 역할을 해줘서 새로운 우리 사회에 희망을 만들어주지 않았냐”고 추켜세웠다. 윤석열 전 대통령의 탄핵 찬성 집회에 청년층 여성의 참여율이 높았다는 점을 부각한 것이다. 다만 이 후보는 여성 정책이 젠더 갈등으로 비화하는 것을 경계한 듯 “지나치게 남녀를 구분해 갈등적 상황으로 가는 건 옳지 않다”고 강조했다. 이날 페이스북을 통해 여성 공약을 발표하면서도 “이들을 여성 정책의 범주로 국한해 말씀드리지 않겠지만 앞으로도 공약집 발표를 통해 여성이 안전하고 일하기 좋은 사회를 만들기 위한 정책은 계속 발표해 나갈 것”이라며 덧붙였다. 이 후보는 여성 공약에서도 범죄 예방 등 안전 분야에 집중했다. 이 후보는 “연인이나 배우자 등 친밀한 관계에서 발생한 교제폭력은 여전히 법적 보호의 사각지대에 놓여 있다”며 “교제폭력 가해자에게 접근금지 명령(을 한 뒤), 불응 시 접근금지 명령의 실효성 확보를 위한 유치장 유치 등 강력한 대책을 마련하겠다”고 밝혔다. 이 후보가 여성 공약에 교제 폭력 예방을 앞세운 것은 반복되는 교제폭력 사건에 경찰의 안일한 대처와 실효성 없는 예방책에 대해 여론이 악화하고 있는 점을 의식한 것으로 보인다. 지난 12일 경기 화성 동탄신도시에서는 사실혼 관계였던 30대 남성에게 납치·살해 당한 피해자가 생전 가해자를 폭력 혐의로 세차례 신고하고 구속수사까지 요청했던 것이 드러나 공분이 일었다. 이 후보는 딥페이크 영상 등 디지털 성범죄를 집중 모니터링하고, 인공지능(AI) 등 첨단 기술을 악용한 성범죄와 명예훼손에 대한 처벌을 강화하겠다는 공약도 밝혔다. 불법 촬영물의 삭제와 수사, 법률‧의료지원이 원스톱으로 가능하도록 ‘디지털 성범죄 피해자 지원센터’ 협력체계를 고도화겠다는 것이 이 후보의 구상이다. 노동환경에서의 남녀 격차 완화를 위해서는 ‘고용평등 임금 공시제’를 도입하겠다고 했다. 이 후보는 “공공기관에 성별 평등 지표를 적극 반영하고, 경력보유여성 채용 기업에는 세제지원을 강화하겠다”며 “여성 벤처기업 투자펀드를 확대해 창업과 성장을 뒷받침하고, 경력보유 여성과학기술인의 역량 강화와 경력 전환을 적극 지원하겠다”고 밝혔다.

광주광역시경찰청은 카카오모빌리티와 파트너사 GJT모빌리티와 손잡고 전국 카카오T택시 승객용 모니터(10~13인치)를 활용한 ‘치안 시책’ 홍보 영상을 송출한다고 8일 밝혔다. 청은 일상 속 생활 교통수단인 택시 공간을 활용하여 보이스피싱 예방, 교통안전, 딥페이크 등 다양한 치안 정책을 친근한 방식으로 시민에게 전달하기 위해 이번 사업을 시행한다고 설명했다. 우선 5월은 최근 피해가 급증하고 있는 ‘기관사칭형 보이스피싱’과 AI 기술을 악용해 사람 얼굴, 목소리, 말투 등을 조작, 가짜 영상을 만드는 ‘딥페이크’ 범죄 예방 위한 홍보 영상이 송출된다. 이후 교통안전, 스미싱 등 다양한 치안 시책에 대해 공감형 스토리 기반 영상을 제작, ‘일상 속 체감치안’ 내용을 모니터에 담기로 했다. 박성주 광주경찰청장은 “모빌리티 플랫폼의 기술력과 공공기관의 사회안전망이 결합하여 시민들의 안전을 강화하고 범죄를 예방하는데 큰 의미가 있을 것으로 기대한다”고 밝혔다.

“아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘. 나중에 설명할게.” 울먹이며 읍소하는 목소리는 대학교수 A씨가 30년간 들었던 외동딸의 진짜 목소리였다. 돈을 보내려던 A씨는 혹시나 하는 마음에 다시 딸에게 전화를 걸었다. 그러자 “아, 보이스피싱인가봐”라는 답이 돌아왔다. 휴대전화 속 목소리는 인공지능(AI) 기술로 딸의 목소리를 흉내 낸 것이었다. AI 기술이 발전하면서 이를 악용한 범죄가 진화하고 있다. 과거 보이스피싱이 지인의 목소리를 어설프게 흉내내거나 공공기관을 사칭하는 방식이었다면, 이제는 실제 목소리 정보를 AI로 합성해 조작한다. 이른바 ‘딥보이스’는 먼저 목소리 정보를 얻어낼 상대방에게 전화를 걸어 짧게 통화하는 것으로 시작된다. 이 목소리 데이터를 AI프로그램에 합성하면 가족이나 지인의 음성을 유사하게 만들어 낼 수 있다. 실제 서울신문이 한 딥보이스 앱에 목소리 녹음 파일을 올리자 30초도 채 안 돼 패턴과 속도 등을 분석했다. 이후 “엄마 핸드폰이 고장 나서 그런데 100만원 입금해줘”라는 문장을 글로 입력하고, 상황 등을 설정하자 녹음파일의 목소리와 비슷한 음성이 흘러나왔다. 법무법인 청의 곽준호 변호사는 “목소리 녹음 파일만 있으면 누구나 쉽게 AI로 그럴듯하게 목소리를 만들어 내 범죄에 악용할 수 있다”고 했다. 경찰 관계자도 “목소리를 수집하는 역할을 하는 ‘콜센터’를 검거하기가 쉽지 않다”면서 “이런 유형의 보이스피싱이 빈번해지고 있다”고 전했다. 경찰청에 따르면 지난해 보이스피싱 피해액은 8545억원으로 1년 전보다 91% 늘었다. 하지만 최신 기술인 딥보이스가 악용된 경우가 얼마나 되는지는 공식 통계조차 잡히지 않는다. AI 기술로 조작되는 것은 목소리뿐만이 아니다. 카카오톡 프로필 사진 등 얼굴 사진을 도용해 영상과 사진으로 만드는 범죄도 여전히 잦다. 이미 심각한 사회문제가 된 딥페이크 성범죄뿐 아니라 최근에는 인터넷은행의 생체 인증 서비스를 딥페이크로 뚫으려다 적발된 사례도 있다. 금융권에 따르면 지난달 한 인터넷은행에서는 고객 개인정보를 탈취한 이들이 면허증의 사진 등을 AI로 조작해 얼굴 인식 등 금융사의 생체인증을 뚫으려고 시도했다. 황석진 동국대 국제정보보호대학원 교수는 “기술의 발전으로 피해자들이 더 쉽게 속아 넘어갈 수 있게 됐다”며 “AI를 이용한 범죄의 피해 규모를 파악하고 대응법을 마련해야 한다”고 말했다.

“아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘. 나중에 설명할게.” 울먹이며 읍소하는 목소리는 대학교수 A씨가 30년간 들었던 외동딸의 진짜 목소리였다. 돈을 보내려던 A씨는 혹시나 하는 마음에 다시 딸에게 전화를 걸었다. 그러자 “아, 보이스피싱인가봐”라는 답이 돌아왔다. 휴대전화 속 목소리는 인공지능(AI) 기술로 딸의 목소리를 흉내 낸 것이었다. AI 기술이 발전하면서 이를 악용한 범죄가 진화하고 있다. 과거 보이스피싱은 가족과 지인의 목소리를 어설프게 흉내 냈다면, 이제는 실제 목소리 정보를 AI로 합성해 조작한다. 카카오톡 프로필 사진 등을 활용해 AI 조작 영상이나 사진을 만든 뒤 금융회사의 인증망을 뚫으려고 하거나 공문서를 손쉽게 조작하다 적발되기도 한다. 이른바 ‘딥보이스’는 먼저 목소리 정보를 얻어낼 상대방에게 전화를 걸어 짧게 통화하는 것으로 시작된다. 이 목소리 데이터를 AI프로그램에 합성하면 가족이나 지인의 음성을 유사하게 만들어 낼 수 있다. 실제 서울신문이 한 딥보이스 앱에 목소리 녹음 파일을 올리자 30초도 채 안 돼 패턴과 속도 등을 분석했다. 이후 “엄마 핸드폰이 고장 나서 그런데 100만원 입금해줘”라는 문장을 글로 입력하고, 상황 등을 설정하자 녹음파일의 목소리와 비슷한 음성이 흘러나왔다. 법무법인 청의 곽준호 변호사는 “목소리 녹음 파일만 있으면 누구나 쉽게 AI로 그럴듯하게 목소리를 만들어 내 범죄에 악용할 수 있다”고 했다. 경찰 관계자도 “목소리를 수집하는 역할을 하는 ‘콜센터’를 검거하기가 쉽지 않다”면서 “이런 유형의 보이스피싱이 빈번해지고 있다”고 전했다. 경찰청에 따르면 지난해 보이스피싱 피해액은 8545억원으로 1년 전보다 91% 늘었다. 하지만 최신 기술인 딥보이스가 악용된 경우가 얼마나 되는지는 공식 통계조차 잡히지 않는다. 황석진 동국대 국제정보보호대학원 교수는 “그동안 가족이나 친구의 목소리를 흉내 내는 방식은 성공률이 낮은 편이었지만, 기술의 발전으로 피해자들이 더 쉽게 속아 넘어갈 수 있게 됐다”며 “정확한 피해 규모를 파악하는 게 우선”이라고 말했다. AI 기술로 조작되는 것은 목소리뿐만이 아니다. 카카오톡 프로필 사진 등 얼굴 사진을 도용해 영상과 사진으로 만드는 범죄도 여전히 잦다. 이미 심각한 사회문제가 된 딥페이크 성범죄뿐 아니라 최근에는 인터넷은행의 생체 인증 서비스를 딥페이크로 뚫으려다 적발된 사례도 있다. 금융권에 따르면 지난달 한 인터넷은행에서는 고객 개인정보를 탈취한 이들이 면허증의 사진 등을 AI로 조작해 얼굴 인식 등 금융사의 생체인증을 뚫으려고 시도했다. AI프로그램에 사진을 넣은 뒤 영상을 만들었고, 이를 이용해 스마트폰 얼굴 인식으로 본인 인증을 시도한 것이다. 하지만 수상함을 감지한 은행이 이들을 적발했고, 수사기관에 넘겼다. 법원의 압수수색·구속영장 허가서나 피의사건 처분결과 통지서 등을 공문서 조작은 더 쉬워졌다. 실제로 챗GPT에 ‘전자금융사기’ 죄목으로 ‘압수수색·구속영장 허가서’ 양식을 작성해달라고 요청하면, 사건 개요, 사건명, 관련 법률 등 필요 항목을 정리해준다. 여기에 더 정밀한 명령어를 내려 실제 문서까지 만들 수 있다고 한다. 법무법인 YK의 고두희 변호사는 “한국말을 잘 모르는 외국인 범죄자들이 AI를 통해 한국 수사기관의 공문서를 위조하기도 한다”고 전했다. 이처럼 범죄에 AI가 악용되는 경우가 늘어나고 있는 만큼 수사기관의 대응도 강화해야 한다는 지적이 나온다. 이건수 백석대 범죄수사학과 교수는 “기술이 좀 더 발전해 정교해진다면 조작된 목소리나 얼굴로 사람은 물론 디지털 인증 체계까지 속일 수 있다”며 “AI가 범죄에 활용되는 통계 집계부터 시작해 진화하는 수법에 대응하는 방법을 고민해야 할 시기”라고 말했다.

코로나 팬데믹 이후 ‘나만의 삶에 빠져든 대한민국’이 사회 트렌드로 떠오른 만큼, 문화 정책 역시 초개인화된 ‘나’만을 위한 문화소비에 초점을 맞춰 수립해야 한다는 주장이 제기됐다. 한국문화관광연구원은 2일 ‘문화예술 트렌드 분석 및 전망 2025-2027’ 보고서를 내고, 한국 사회가 준비해야 할 10대 문화예술 트렌드를 선정했다. 보고서는 ‘나만의 삶에 빠져든 대한민국’을 주요 트렌드 중 하나로 제시하며, 개인주의 확산과 초개인화된 문화 소비가 향후 문화예술계의 중요한 변화 요인이 될 것으로 전망했다. 코로나 팬데믹 이후 비대면 생활이 증가하면서 사람들의 소비와 생활 방식이 근본적으로 변화했고, 초개인화 기술이 발전하면서 사람들이 대중적이고 통합적인 문화콘텐츠를 소비하기보다 자신만의 독특한 취향에 맞춘 개별화된 콘텐츠를 선호하게 됐다는 것이다. 이런 성향은 문화예술 소비에도 영향을 주고 있다. 과거 집단적 문화를 즐기는 사람들이 대형 극장이나 공연장에서 다수와 함께 공감하며 체험하는 것을 선호했다면, 초개인화된 라이프 스타일에서는 소규모 공연이나 1:1 맞춤형 공간과 같이 개인화된 경험을 추구한다. 보고서는 “비혼 증가로 인한 1인 가구의 지속 증가, 개인주의 성향으로 인한 소규모 맞춤형 예술 작품과 서비스가 확대될 것”이라 예상한 뒤 “온라인으로 다양한 문화예술 콘텐츠를 접할 수 있는 통합 플랫폼 구축으로 접근성을 높이고, 도시 내 개인 맞춤형 커뮤니티 공간을 확대할 것” 등을 대안으로 제시했다. 개인의 정신건강을 위한 ‘멘탈헬스’, 즉 치유적 문화 소비도 문화의 주요 트렌드로 자리 잡을 것으로 전망했다. 정신건강의 보조 돌봄 장치로서 ‘아트 테라피’ 등이 디지털 기술과 접목해 빠르게 상용화된다는 것이다. 경제적 소비 트렌드도 문화예술계에 자리 잡을 것으로 예상했다. 보고서는 “‘이코노-럭스’(Econo-Lux) 시대의 도래와 함께, ‘요노족’(YONO: You Only Need One)의 등장에 주목해야 한다”며 “이는 ‘하나만 있으면 된다’는 미니멀한 소비 패턴을 보이면서도, 자신의 취향과 가치에 맞는 제품에는 과감히 투자하는 특징을 보인다”고 설명했다. ‘윤리 없이 스며든 디지털과 인공지능(AI)’ 트렌드도 문제다. 이경진 부연구위원은 “AI로 인한 윤리 문제 발생을 예방하기 위해서 정책적으로는 디지털 기술 및 생성형 AI 사용 가이드라인을 마련하고, 예술가의 창작 활동 및 소비활동에서 발생할 수 있는 윤리적 문제를 예방해야 한다”고 조언했다. 또한 “모든 국민이 디지털 활용을 원활히 할 수 있도록 교육 프로그램을 제공하고, 딥페이크 기술을 악용한 범죄 행위에 대한 강력한 처벌 규정을 수립하는 등의 법적 대응 체계를 강화할 필요가 있다”고 지적했다. 연구원은 문화예술, 관광, 콘텐츠산업 분야의 트렌드 연구를 3년 간격으로 진행하고 있다. 이번 연구 결과는 기존 문화예술 트렌드 키워드 분석을 기반으로 ▲발현도와 지속성 분석 ▲환경분석 ▲미디어 스캐닝 ▲전문가 FGI 조사 ▲전문가 델파이 조사 ▲전문가 좌담회 등의 방법을 종합해 도출했다. ‘빠르게 변화하는 시대, 우리가 준비해야 할 문화예술 트렌드 2025-2027’ 전문은 연구원 누리집(www.kcti.re.kr)에서 확인할 수 있다.

최근 북한의 비트코인 보유량이 전 세계 3위에 이른다는 주장이 나와 많은 이들을 놀라게 했습니다. 북한의 사이버 위협은 최근 몇 년 새 국제사회에서 매우 심각한 문제로 떠올랐습니다. 해킹 등 사이버 공격, 정보기술(IT) 인력의 위장 취업 등 다양한 수법으로 정보를 탈취하거나 가상화폐로 수익을 얻어 대북제재로 막힌 경제활동을 하고 있는 것으로 지적됐는데, 그 규모도 상당한 것으로 추정됩니다. 지난 17일(현지시간) 세계 최대 코인거래소인 바이낸스의 뉴스 포털 바이낸스뉴스는 가상화폐 관련 미디어 코이노미디어, 데이터업체 블록비츠 등을 인용해 북한의 해킹 조직 라자루스가 현재 11억 4000만 달러(1조 6500억원)에 해당하는 1만 3562 비트코인(BTC)을 보유한 것으로 추정된다고 했습니다. 이는 19만 8109 BTC를 보유한 미국 정부와 6만 1245 BTC를 보유한 영국 정부에 이어 정부 단위로 세계 3위에 해당하는 양입니다. 게다가 비트코인을 법정 통화로 도입한 엘살바도르(6117 BTC)나 국가적 차원에서 비트코인을 채굴하는 부탄(1만 635 BTC) 보다도 많은 양이라고 합니다. 라자루스는 북한 정찰총국이 운영하는 것으로 알려져 있습니다. 지난달에는 세계 2위 암호화폐 거래소 바이비트의 공급업체를 해킹해 이더리움 40만 1000개 등 14억 6000만달러(2조 1000억원) 상당의 코인을 탈취하기도 했습니다. 역대 암호화폐 탈취 사건 중 최대 규모로 꼽힙니다. 라자루스는 탈취한 이더리움을 비트코인으로 바꾼 뒤 여러 경로를 거쳐 현금화를 하고 있는 것으로 추정됩니다. 문제는 대북제재에도 불구하고 북한의 해킹과 가상화폐 탈취 등의 행태가 인공지능(AI) 기술을 활용해 더욱 교묘하게 이뤄지고 있다는 우려도 커지고 있습니다. 지난 18일 서울에서 열린 ‘구글 클라우드 시큐리티 데이 미디어 브리핑’에서 루크 맥나마라 구글 위협인텔리전스그룹 맨디엍느 부수석 애널리스트는 “북한은 간첩 활동보다도 금전적 이득 혹은 갈취 목적의 공격이 두드러진다”며 “특히 가상자산이나 가상자산거래소를 노리거나 가상자산 사용자, 혹은 대체불가능토큰(NFT) 프로젝트를 겨냥한 활동이 있었다”고 밝혔습니다. 그러면서 “북한은 특이하게도 가상자산 산업이나 기술에 대한 이해도가 굉장히 높다”며 “NFT나 브릿지 등 신기술이 나올 때마다 빠르게 이해하고 악용 방법을 알아냈다”고 지적했습니다. “한국에서 관찰된 적은 없지만 IT 인력을 활용하는 방식도 세계적으로 일어난다”며 “주 목적은 취직한 뒤 수입을 창출해 북한 정권에 송금하는 것이고, 일부는 해커조직과 관련된 경우도 있다”고도 설명했습니다. 한국과 미국을 비롯해 국제사회는 북한의 이러한 사이버 위협과 가상화폐 탈취가 곧 북한 정권의 핵·미사일 프로그램 개발 자금을 위한 외화벌이 수단이라고 보고 사이버 분야까지 제재 범위를 넓혀왔습니다. 가상화폐 거래소부터 브릿지, 가상화폐를 ‘세탁’하는 믹서 기업 등을 제재 대상으로 올려 가상화폐를 현금화하기 위한 자금 흐름을 지속적으로 추적, 차단하고 있습니다. 지난 1월엔 한미일 3국은 공동성명을 내고 “3국 정부는 북한의 불법적인 대량살상무기(WMD) 및 탄도미사일 프로그램에 사용되는 불법 수익 차단을 궁극적인 목표로, 민간업계 등을 대상으로 북한의 암호화폐 탈취를 예방하고 해당 자금을 회수하기 위해 함께 노력하고 있다”고 강조했습니다. 한미일 3국은 3국 제재 대상으로 지정된 라자루스 등 북한과 연계된 지능형 지속공격(ATP) 단체들이 사이버 범죄를 통해 암호화폐를 탈취하고 거래소나 가상자산 수탁업체, 개인 사용자를 겨냥하고 있다고 지적하기도 했습니다. 미국 도널드 트럼프 2기 정부의 피트 헤그세스 국방부 장관도 인사청문회 때 제출한 답변서를 통해 북한의 사이버 역량 강화가 세계 안정에 위협이 된다고 밝힌 바 있습니다. 이승열 국회입법조사처 입법조사관은 2023년 통일연구원의 ‘통일정책연구’에 실은 논문 ‘북한 사이버 공격 전략의 진화: 대북제재 회피를 위한 외화벌이 수단으로서 사이버 전략’을 통해 미국은 물론 한국 정부도 북한의 사이버 공격을 심각하게 보고 적극적인 대응방안을 모색하고 있다면서도 “우리 정부의 노력과 관계 없이 국제사회의 공통된 협력 체계가 부재한 상황에서 개별 국가의 노력은 한계가 있을 수밖에 없다”고 지적했습니다. 따라서 “무엇보다 우리 정부는 미국과 함께 북한의 사이버 공격에 대한 대응 차원에서 국제적 제재 플랫폼을 구축하는 데 적극적으로 나설 필요가 있다”며 사이버 안보에 대한 국제규범 확립에 더 적극적으로 참여할 것을 촉구했습니다.

“인류 역사상 최대 강도 사건.” 26일(현지시간) 영국 인디펜던트는 최근 발생한 2조원 규모 가상화폐 탈취 사건을 이렇게 평가했다. 사상 최대 규모의 이 도둑질 뒤에는 북한이 있다. 美 FBI “바이비트 해킹 북한 소행…훔친 암호화폐 이미 분산”지난 21일 가상화폐 거래소 바이비트(Bybit)에서는 14억 6000만 달러(약 2조 1000억원) 규모의 코인이 해킹을 통해 탈취되는 사건이 발생했다. 해커 집단은 바이비트의 콜드월렛(인터넷이 차단된 가상화폐 지갑)에 보관돼 있던 암호화폐를 핫월렛(온라인에 연결된 가상화폐 지갑)으로 옮기는 과정에서 지갑 주소를 확인하는 담당자를 표적으로 삼고 ‘피싱’(phishing) 공격을 가했다. 여기에 속은 바이비트 측은 정상적인 거래라고 생각해 송금을 승인했지만, 실제로는 해커 집단의 지갑으로 암호화폐가 흘러갔고 이후 약 50개의 다른 지갑들로 분산돼 ‘세탁’을 시도하려 한 정황이 포착됐다. 배후로는 북한 해킹 조직 ‘라자루스’가 지목됐다. 바이비트와 블록체인 분석 전문가들은 이번 사건에 동원된 범행 수법이 과거 라자루스의 수법과 흡사했다고 밝혔다. 미국 연방수사국(FBI) 역시 25일 북한이 이번 사건의 배후라고 지목하면서 이른바 ‘트레이더트레이터’(TraderTraitor) 수법이 동원된 것으로 파악됐다고 밝혔다. 트레이더트레이터는 ‘고소득 일자리 제안 등으로 위장해 악성코드가 숨겨진 암호화폐 애플리케이션 등을 내려받도록 유도하는 해킹 수법’을 지칭하는 미국 정부 용어다. FBI는 “트레이더트레이터 행위자들은 빠르게 진행 중이며, 훔친 자산 일부를 수천개의 주소에 분산된 비트코인과 여타 가상자산으로 전환했다”라며, 이 자산이 좀 더 세탁을 거쳐 현금화될 것으로 전망한다고 설명했다. 英매체 “북한 라자루스, 자국 한해 국방예산 탈취한 셈” 이번 사건의 피해 규모는 과거 있었던 비슷한 사건과는 비교도 할 수 없을 만큼 크다. 2022년 로닌 네트워크 해킹과 2021년 폴리 네트워크 해킹 사건 피해액도 각각 6억 1500만 달러(약 8880억원), 6억 1100만 달러(약 8820억원)였다. 2022년 BNB 토큰 취약점 악용 사건과 2018년 코인핵 절도 사건 피해액은 각각 5억 6900만 달러(약 8210억원), 5억 3000만 달러(약 7650억원)였다. 인디펜던트는 라자루스의 이번 해킹을 “인류 역사상 최대 강도 사건”이라고 표현하며, 사담 후세인 전 이라크 대통령을 거론하기도 했다. 통상 인류 역사상 최대 규모 강도 사건이라고 하면 2003년 이라크 전쟁 발발 직전 사담 후세인 당시 이라크 대통령이 이라크 중앙은행에서 10억 달러(약 1조 4000억원) 상당의 돈을 훔친 것이 거론된다. 이번 해킹 사건 피해액은 그보다도 5억 달러 가까이 많은 14억 6000만 달러(약 2조 1000억원)에 달한다. 인디펜던트는 이 돈이 북한의 한 해 국방예산(2023년 기준 14억 7000만 달러, 약 2조원)과 맞먹는다고 지적했다. 바이비트, 라자루스 겨냥 현상금 사이트 개설바이비트 측은 라자루스의 자금 세탁 활동을 완전히 투명하게 공개하는 첫 현상금 사이트를 개설, 자금추적에 나서는 한편 제공된 정보로 자금 동결에 성공할 경우 동결 금액의 5%를 보상금으로 지급한다는 계획을 발표했다. 벤 저우 바이비트 최고경영자(CEO)는 이러한 활동을 “라자루스 또는 가상화폐 업계의 악의적인 행위자가 사라질 때까지 멈추지 않을 것이다”라고 강조했다. 2009년 창립된 것으로 알려진 북한 정찰총국 산하 해커조직 라자루스는 2014년 미국 소니픽처스를 해킹하면서 주목받기 시작했다. 이 조직은 2016년에는 방글라데시 중앙은행을 해킹해 8100만 달러(약 1100억원)를 훔쳤고, 2017년에는 ‘워너크라이’ 랜섬웨어를 유포해 전 세계 150여개국에 대규모 피해를 발생시키는 등 각종 범죄를 저질러 온 것으로 평가된다.

미국 기술패권의 아성을 뒤흔들 중국의 혁신적인 인공지능(AI) 기술로 주목받은 대규모 언어모델(LLM) ‘딥시크’가 심각한 신뢰성 문제를 드러냈다. 정보 검증에서 83%의 높은 실패율을 기록했을 뿐 아니라, 보안상 취약점도 다수 발견됐다. 미 포춘지는 29일(현지시간) “중국의 딥시크 AI가 잘못된 정보로 가득 차 있으며, 심지어 폭탄 제조법 생성까지 유도될 수 있다는 연구진의 경고가 나왔다”고 보도했다. 정보 신뢰성 평가 기관인 뉴스가드의 최근 검사 결과에 따르면, 딥시크 챗봇은 뉴스 관련 주제에 대한 질문에서 83%라는 높은 비율로 부정확한 답변을 제공하거나 응답하지 못했다. 특히 명백한 거짓 정보를 제시했을 때 이를 반박한 경우는 17%에 불과했다. 이러한 실패율로 인해 딥시크의 R1 모델은 테스트 대상이었던 11개 챗봇 중 10위라는 저조한 성적을 기록했다. 반면 오픈AI의 챗GPT-4, 앤트로픽의 클로드, 미스트랄의 르챗 등 서구 기업들의 서비스는 대부분 상위권에 올랐다. 뉴스가드는 딥시크의 낮은 신뢰성에 대해 여러 원인을 지적했다. 우선 딥시크가 2023년 10월 이후 정보를 학습할 수 없던 점이 부정확한 답변으로 이어졌다는 분석이다. 또한 딥시크가 거짓 정보를 학습하도록 쉽게 조작할 수 있어 대규모 오정보 유포에 악용될 우려가 있다고 밝혔다. 특히 이번 검사에서는 딥시크의 결과값이 중국의 정보 통제 정책을 반영하고 있다는 점이 드러났다. 뉴스가드의 분석가들은 “테스트한 10개의 거짓 주장 중 3개의 경우, 중국과 무관한 질문임에도 딥시크가 중국 정부의 입장을 전달했다”고 지적했다. 한편, 사이버범죄 정보 기관인 켈라도 딥시크의 보안 취약성을 지적하는 분석을 발표했다. 켈라는 “딥시크 R1은 챗GPT와 유사점이 있지만 훨씬 더 취약하다”며 경고했다. 연구진은 다양한 시나리오에서 R1을 활용해 랜섬웨어 개발, 민감한 콘텐츠 조작, 독소 및 폭발물 제조에 대한 상세 지침 등 악의적인 정보를 생성할 수 있었다고 밝혔다. 특히 딥시크는 ‘악한 탈옥’ 공격에 취약한 것으로 나타났다. 이는 AI에게 돈세탁이나 데이터 도용 멀웨어 작성 같은 불법 활동에 대한 질문에 대답하도록 유도하면서, AI에 내장된 안전 장치를 무력화하는 공격 방식을 의미한다. 켈라는 또한 딥시크가 답변 과정의 추론 단계를 모두 표시하는 방식이 위험하다고 지적했다. 챗GPT가 추론 과정을 숨기는 것과 달리, 딥시크는 이를 상세히 공개함으로써 악의적 사용자들이 멀웨어 개발 등에 활용할 수 있는 정보까지 제공한다는 것이다. 이러한 문제점들이 알려지면서 서구권의 반발도 거세지고 있다. 미 해군은 이미 “모델의 출처와 사용에 관련된 잠재적 보안 및 윤리적 우려”를 이유로 소속 구성원들에게 딥시크 사용을 금지했으며, 백악관은 국가안보회의 차원에서 딥시크의 영향을 검토 중이라고 밝혔다. 더불어 오픈AI는 자사 AI 데이터를 딥시크가 무단으로 빼돌려 기술을 개발했을 가능성이 있다고 주장하고 있다.

-국내 5대 가상거래소 최초 고객 신원확인 솔루션 도입-신분증 위변조 판별하여 신분 도용 범죄 방지 알체라의 자회사 레그테크(Reg-Tech) 전문기업 유스비가 국내 가상자산(암호화폐) 거래소 코빗에 신분증 OCR과 사본판별 솔루션 공급 계약을 체결했다고 밝혔다. 코빗은 국내 5대 가상자산 거래소 중 최초로 가입자의 신원 확인 프로세스를 강화하기 위해 유스비와 비대면 고객 실명 확인 솔루션(eKYC) 계약을 체결했다. 이번 계약을 통해 유스비는 코빗 앱에 신분증 OCR 및 사본 판별 솔루션을 공급하며, 안전하고 효율적인 신원확인 서비스를 지원할 예정이다. 유스비의 신분증 OCR 솔루션은 체감 속도 약 0.1초 이내로 텍스트 정보를 추출하며, 빠르고 정확한 신원 확인을 지원한다. 신분증 사본판별 솔루션은 종이 사본, 스마트폰 또는 PC로 촬영된 이미지를 실시간으로 분석해 신분증 위·변조 여부를 판별한다. 이를 통해 타인의 신분증이나 실물이 아닌 신분증 사본을 이용한 부정 가입을 효과적으로 차단한다. 국내 가상자산 거래자가 1500만 명을 넘어선 가운데, 거래소 가입자의 신원 확인 절차 시 보안 취약점에 대한 문제는 자주 지적되어 왔다. 특히, 모바일 환경에서 쉽게 이루어지는 비대면 가입 방식을 악용한 부정 사례가 증가하면서, 신원 위조와 도용을 방지하기 위한 보안 강화와 절차 개선이 무엇보다 중요해졌다. 이러한 상황에서 유스비의 비대면 고객 실명 확인(eKYC) 솔루션은 문제를 해결할 핵심 대안으로 주목받으며, 시장의 기대를 모으고 있다. 유스비의 eKYC 통합 솔루션은 ▲신분증 OCR 및 진위 확인 ▲1원 계좌 인증(계좌 실명 조회 및 계좌 점유 인증) ▲안면 인증으로 구성되어 있으며, 기업의 환경, 규모, 사용량에 맞춰 적합한 인증 방식을 선택할 수 있도록 다양한 커스터마이징 옵션과 부가 기능을 제공한다. 무엇보다 SaaS(서비스형 소프트웨어) 방식으로 구현이 가능하여 OCR 엔진 설치, 서비스 UI/UX 기획 및 디자인, 개발에 소요되는 시간과 비용 부담을 최소화할 수 있다는 장점이 있다. 특히, 국내 최고 수준의 AI 안면 인식기술력을 자랑하는 알체라의 솔루션이 적용되어 사용자에게 뛰어난 성능과 정확성을 제공한다. 유스비 김성수 대표는 “가상자산 거래소 업계가 신뢰와 보안을 바탕으로 성장할 수 있도록, 유스비의 eKYC 통합 솔루션이 핵심 역할을 할 것으로 기대한다”며, “안전하고 효율적인 신원 확인 체계를 구축할 수 있도록 지속적으로 기술을 발전시키고 혁신적인 서비스를 제공하겠다”고 포부를 밝혔다. 한편 유스비는 Vision AI 혁신 선도기업 알체라의 자회사로, 양사는 금융사업과 본인인증 분야의 판로를 개척하기 위한 협업을 이어가고 있다. 그 결과 금융과 핀테크 외 비대면 본인인증 분야에서 괄목할 만한 성과를 내고 있다. 특히, 유스비의 eKYC는 SaaS 형식의 비대면 고객확인 통합 솔루션으로, 고객확인을 위한 모든 기능과 디자인까지 한 번의 연동으로 구현 가능하다. 또한 필요 기능, 디자인 등 고객 맞춤 커스텀이 가능하여 안정성은 물론, 활용성과 확장성이 우수한 특징을 지니고 있다.

정보통신정책연구원(원장직무대행 김정언, 이하 ‘KISDI’)은 과학기술정보통신부(장관 유상임, 이하 ‘과기정통부’)와 함께 지난 20일 온라인 생중계를 통해 ‘인공지능(이하 ‘AI’) 영상합성서비스 윤리영향평가 공개 토론회’를 개최했다고 밝혔다. 이번 토론회는 학계·산업계·법조계·공공·시민사회·국제기구 등 다양한 분야 전문가들로 구성된 ‘전문가평가단’과 일반 국민 참여로 이루어진 ‘국민포럼단’이 ‘AI 영상합성’ 서비스의 윤리적 영향에 대해 논의한 결과를 공유하고, 국민의 의견을 폭넓게 듣기 위해 마련된 자리이다. AI 윤리영향평가는 기업의 AI 윤리 및 신뢰성 실천 노력을 뒷받침하고, 사용자가 AI를 윤리적이고 주체적으로 활용할 수 있도록 기준을 제시하기 위해 올해 처음 시범적으로 시행되고 있다. 올해는 특히 딥페이크 범죄가 사회적 문제로 떠오르면서, 이에 따른 국민적 우려와 관심을 반영해 ‘AI 영상합성’ 서비스를 대상*으로 평가를 시행했다. *제3기 AI 윤리·신뢰성 포럼, 대국민 의견조사(1500명 대상), 정부부처 선호도 등을 종합적으로 고려해 평가대상 선정 ‘AI 영상합성’ 서비스는 딥러닝 기반으로 영상 데이터를 분석하고, 이를 토대로 영상을 생성하거나 기존의 영상, 이미지, 음성을 수정 및 변형하는 서비스를 의미한다. 딥페이크 악용 등으로 인한 부정적 우려가 존재하지만, 순기능을 강화한다면 다양한 산업 분야에서 긍정적 혁신과 사회적 효과를 기대할 수 있다. 이번 AI 윤리영향평가는 ‘AI 영상합성’ 서비스의 윤리적 긍·부정 영향을 국가 ‘인공지능(AI) 윤리기준’ 10대 핵심요건별로 살펴보고, 긍정적 영향 극대화와 부정적 영향 최소화를 위한 정부, 기업, 국민 등의 주체별 노력과 정책, 법·제도·기술적 대응 방안 등도 함께 고려했다. 본 평가는 2023년 과기정통부와 KISDI에서 개발한 ‘인공지능 윤리영향평가 프레임워크’와 같은 해 유네스코(UNESCO)가 발표한 ‘윤리적 영향평가도구 방법론’을 활용했으며, 이를 통해 기업, 시민사회, 학계, 정부 및 공공 등에 AI 영상합성서비스의 윤리적 영향력을 체계적으로 파악할 수 있는 참고자료를 제공하고자 한다. 이번 공개토론회에서는 문정욱 KISDI 디지털사회전략연구실장이 ‘2024년 AI 영상합성서비스 윤리영향평가 결과(안)’을 소개했다. 이어 AI 윤리영향평가단장으로 활동한 이상욱 한양대 교수(좌장) ▲김유철 LG AI연구원 전략부문장 ▲변형진 이스트소프트 개발TF센터장 ▲선지원 한양대 법학전문대학원 교수 ▲이영복 제네시스랩 대표 ▲최호진 KAIST 교수 ▲송호준 과기정통부 인공지능확산팀장이 토론자로 참여했다. 문정욱 KISDI 디지털사회전략연구실장은 “AI 기술의 윤리적이고 안전한 활용은 지속가능한 디지털 사회를 위한 핵심과제이다. 이번 시범 평가는 AI 영상합성서비스의 긍정적 가능성을 극대화하고 부정적 영향을 최소화하기 위한 출발점이며 향후 학계·산업계·정부·시민사회가 함께 실효성 있는 대응 방안을 마련하는 데 중요한 참고자료가 될 것으로 기대한다”라고 말했다. AI 윤리영향평가는 오늘 공개토론회에서의 논의와 내년 초 이해관계자 의견수렴을 통해 최종 결과를 도출한 뒤, 국민도 쉽게 접할 수 있도록 책자 형태로 내년 상반기에 발간될 예정이다. 본 행사는 과기정통부와 KISDI 유튜브채널을 통해 온라인으로 참여할 수 있다.

서울 강서구가 딥페이크(이미지 합성 기술) 범죄를 막기 위한 주민 강좌를 진행한다. 강서구는 ‘딥페이크 기반 디지털 성범죄 이해와 대응 방안’이라는 주제로 제186회 강서지식비타민강좌를 진행하고 있다고 2일 밝혔다. ‘딥페이크’는 딥러닝과 페이크의 합성어로, 인공 지능 기술을 활용해 만든 가짜 이미지나 영상물을 말한다. 이번 강좌는 구청 공식 유튜브 채널을 통해 25일까지 시청이 가능하다. 강사로 나선 장광호 ㈜CNAI 대표이사가 나선다. 한신대학교 연구교수를 겸하고 있는 장 대표는 경찰청 과학수사관리관실 범죄분석기획담당과 경찰대학 치안정책연구소 스마트치안지능센터 센터장을 역임했다. 그는 이번 강의에서 딥페이크 기술을 이용한 디지털 성범죄의 개념과 대응 방안에 대해 자세히 전달한다. 특히 실제 범행 사례를 통해 온라인 환경에서 악용되기 쉬운 딥페이크 기술의 특성과 위험성을 설명한다. 또 디지털 성범죄와 관련한 국·내외 처벌 기준을 논의하고 가해자의 책임을 강화하는 방향으로 법제도 정비의 필요성을 강조한다. 딥페이크 영상 생성 과정과 탐지 기술을 살펴보고, 불법합성물 피해자 지원에 대한 관심을 촉구하는 시간도 가진다. 이번 강좌는 청소년들이 딥페이크 성범죄에 노출될 우려가 큰 만큼 지역 내 초·중·고등학교에 공문과 가정통신문 등을 통해 안내될 예정이다. 구 관계자는 “최근 학생 등을 대상으로 한 딥페이크 범죄가 심각한 사회문제로 대두되어 이를 예방하고자 이번 강좌를 마련했다”며 “이번 강좌가 디지털 성범죄에 대한 심각성을 알리고 안전한 교육환경을 조성하는 데 도움이 되길 바란다”고 말했다.

가짜뉴스나 딥페이크 범죄, 사이버 공격 등 인공지능(AI) 악용에서 비롯된 잠재적 위험을 막기 위한 연구 전담 조직 ‘AI 안전연구소’가 출범했다. 과학기술정보통신부는 27일 경기 성남시 글로벌 연구개발(R&D)센터에서 ‘AI 안전연구소’ 개소식을 열었다. 지난 5월 AI 서울정상회의 당시 윤석열 대통령이 “AI안전연구소를 설립해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것”이라고 밝힌 데 따른 것이다. 연구소는 AI의 기술적 한계, 인간의 AI 기술 오용, AI 통제력 상실 등으로 일어날 수 있는 위험에 체계적·전문적으로 대응하기 위해 세워졌다. 국가 단위의 AI 안전 정책 및 기술 연구를 진행하고, 국내 기업의 해외 진출도 돕는다. 히말라야 등반자들이 셰르파의 도움을 받아 안전하게 산에 오르듯 우리 기업이 글로벌 AI 경쟁에서 정상으로 나아갈 수 있도록 돕는다는 의미다. 정부는 AI 안전연구소는 아시아태평양지역을 대표하는 글로벌 AI 안전 거점연구소로 키워갈 방침이다. ▲AI 안전 평가 ▲AI 안전 정책 연구 ▲AI 안전 글로벌 협력 ▲AI 안전 연구개발(R&D) 등이 4대 핵심과제다. 정책 협력 및 기술 연구를 위해 AI 안전연구소는 이날 삼성전자·네이버·카카오·SK텔레콤·KT·LG AI연구원 등 산학연 24곳과 ‘대한민국 AI 안전 컨소시엄’ 업무협약(MOU)을 맺었다. 김명주 AI 안전연구소장은 “규제 기관이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관 역할을 하겠다”고 말했다.

인공지능(AI) 기반 사진 합성 기술을 악용해 다른 사람의 신체나 음성을 음란물에 합성하는 ‘딥페이크 성범죄’가 급격히 확산하면서 관련 민원이 1년 새 2배가량 증가한 것으로 나타났다. 국민권익위원회가 21일 발표한 범정부 민원분석시스템 조사 결과에 따르면, 올해 1월부터 10월까지 월평균 50건의 딥페이크 성범죄 관련 민원이 접수됐다. 지난해 월평균 30건에서 약 1.7배 늘었다. 특히 올해 8월에는 대학가를 중심으로 한 딥페이크 사건으로 인해 민원이 1년 전 대비 무려 6.1배 급증한 213건에 이르렀다. 이에 권익위는 심각성을 인지하고 딥페이크 성범죄와 관련된 ‘민원주의보’를 발령하며 관계기관에 단속 및 처벌 강화와 피해자 보호 체계 마련을 긴급 권고했다. 한국은 전 세계에서 딥페이크 성범죄에 가장 취약한 국가로 알려져 있다. 미국 사이버보안 업체 ‘시큐리티 히어로’의 2023년 보고서에 따르면, 전 세계 딥페이크 성착취물 피해자의 53%가 한국인이었다. 특히나 한국 가수들이 이 범죄의 주요 표적이 됐다. 가장 큰 피해를 본 한국인 가수의 경우 약 1600건의 딥페이크 성착취물에 노출됐으며 누적 조회 수는 561만 회에 달했다. 불특정 다수에게 얼굴이 많이 알려진 걸그룹도 딥페이크 성범죄의 주요 표적이 되는 실정이다. 걸그룹 트와이스와 뉴진스 소속사는 최근 딥페이크 성범죄에 법적으로 강력 대응하겠다고 밝힌 바 있다.

서울시의회 교육위원회 소속 이효원 의원(국민의힘·비례)이 지난 7일 제327회 정례회 서울시교육청 행정사무감사 교육정책국 질의에서 교육청의 개인정보보호 수준 및 대처 문제를 지적하고 AI 디지털교과서 도입에 있어 학생 개별 개인정보보호에 만전을 기할 것을 당부했다. 서울시교육청이 제출한 ‘최근 5년간 서울 관내 초중고 개인정보보호 수준’에 따르면 개인정보보호 수준 점수가 3년째 계속 하락 중인 것으로 나타났다. 심지어 교육청은 최근 5년간 보안 수준이 전국 평균치 미달로 많은 서울시 학생들이 정보 유출 및 그에 따른 범죄 노출 가능성을 안고 있는 것으로 드러났다. 또한 교육청은 개인정보보호 수준을 평가하는 세부 항목 중 ‘개인정보 노출 개선 조치’에서 가장 낮은 ‘매우 미흡’을 받은 것으로 나타났다. 이는 학생들의 정보 유출이 발생했음에도 교육청이 그에 대한 후속 대응을 제대로 하지 않았다는 방증이다. 개인정보 유출로 인해 발생하는 더 심각한 문제는 2차 피해까지 광범위하게 확산될 수 있다는 것이다. 스팸 발송 문자나 메일뿐 아니라 보이스피싱부터 명의도용, 개인정보 불법 매매로 악용될 위험이 있고 개인정보는 국내뿐 아니라 해외 사이트에 되팔리는 경우도 비일비재하다는 측면에서 후속 대응은 중요하다. 내년 인공지능(AI) 디지털교과서 도입을 앞두고 개인정보보호 문제는 더욱 중요해졌다. 작년 8월 교육부가 발표한 ‘AI 디지털교과서 개발 지침’에서는 데이터의 안정성 및 신뢰성을 보장해야 해야 한다고 밝히고 있다. 결국 학생의 학습 데이터 및 개인정보 보호를 위해 데이터 관리 정책이 중요하다는 것이다. 이 의원은 “학생 개인정보 유출 우려에 대한 교육 현장의 불안한 목소리들이 있다”며 “정보 유출과 안전성, 신뢰성 등 전반적인 부작용이 충분히 검토될 때 개인별 맞춤형 교육 체제인 AI 교과서의 긍정적 효과를 보장할 수 있을 것”이라고 강조했고 “학생들의 개인정보는 최근 사회적으로 문제가 된 딥페이크와 같은 디지털 성범죄의 표적이 될 수 있다”며 “딥페이크 피해자에 미성년자가 다수 포함된 만큼 학생들이 범죄의 표적이 되지 않도록 관계 기관과의 협력을 통해 학생 개인정보보호에 만전을 기해야 한다”고 역설했다. 이에주소연 서울시교육청 정책국장은 “여러 가지 개선 사항을 통해 내년에는 상황이 조금 더 나아질 거라고 기대하고 있다”며 “AI 교과서 도입에는 차질이 없도록 준비하겠다”고 답변했다. 한편, 이 의원은 지난 임시회에서 서울시교육청에 AI 디지털교과서의 효용성 극대화를 위한 맞춤형 교원 연수 체계화를 당부하고 학교 현장에 혼란이 없도록 선제적으로 대응하길 주문한 바 있다.

외국인 A씨는 지난달 한국으로 여행 간 딸이 납치됐다며 “살려달라”고 우는 영상을 받았다. 영상을 보낸 외국 범죄조직은 “딸을 살리고 싶으면 합의금을 보내라”며 A씨를 협박했다. 놀란 A씨는 영사관에 알렸고, 신고를 받고 출동한 한국 경찰은 A씨의 딸이 안전하게 지내고 있다는 사실을 확인했다. 경찰 수사 결과, A씨가 받은 딸의 영상은 딥페이크로 만든 가짜였다. 경찰청 국가수사본부는 7일 이러한 사건을 공개하면서 “국내에서도 유사한 사건이 발생할 가능성이 있으므로 유의해달라”고 밝혔다. 딥페이크나 딥보이스로 얼굴과 목소리를 실제와 흡사하게 복제해 부모나 지인 등에게 곧바로 돈을 보내라고 요구하면 당황한 피해자가 돈을 보낼 위험이 적지 않다. 경찰은 이런 피해를 예방하기 위해 소셜미디어(SNS) 등에 본인이나 가족의 영상이나 사진을 전체 공개로 올리지 않도록 유의해야 한다고 강조했다. 특히 자녀 등을 납치했다는 협박을 받은 경우 가장 먼저 경찰에 전화나 문자 등으로 신고해 도움을 요청해야 한다. 경찰청에 따르면 올해 들어 지난 9월까지 납치를 빙자한 전화 금융사기만 174건이 발생했다. 안찬수 경찰청 마약조직범죄수사과장은 “인공지능(AI) 발전이 일상생활을 더 편리하게 만들었지만, 동시에 범죄에 악용될 환경을 제공했다”고 말했다.

윤석열 대통령이 21일 서울 서대문구 경찰청 참수리홀에서 열린 ‘제79주년 경찰의날 기념식’에 참석해 경찰들과 함께 기념 촬영을 하고 있다. 윤 대통령은 “인공지능(AI)과 딥페이크 등 첨단기술을 악용한 신종 범죄와 가짜뉴스가 끊이질 않는다”며 “서민에게 고통을 주는 민생 범죄를 끝까지 추적해서 엄중하게 처벌해야 한다”고 말했다. 대통령실 제공

윤석열 대통령이 21일 “AI(인공지능)와 딥페이크 등 첨단기술을 악용한 신종 범죄와 가짜뉴스가 끊이질 않는다”고 밝혔다. 윤 대통령은 이날 서울 서대문구 경찰청 참수리홀에서 열린 ‘제79주년 경찰의날 기념식’에 참석해 “새로운 위협에 맞서기 위해 경찰이 더 빠르게 발전하고 능동적으로 변화해야 한다”며 이렇게 말했다. 또 딥페이크 식별 시스템 개발에 박차를 가하고 관계 기관과의 협업을 통해 디지털 성범죄를 뿌리 뽑고, 가짜뉴스에도 신속하고 강력하게 대응해 주길 당부했다. 윤 대통령은 취임 이후 3년 연속 경찰의날 기념식에 참석했다. 윤 대통령은 이날 불특정 다수를 위협하는 이상 동기 범죄와 조직폭력배의 민생범죄, 마약, 사이버도박 등을 ‘새로운 위협’으로 지목했다. 그러면서 서민에게 고통을 주는 민생범죄는 끝까지 추적해 엄중히 처벌하고, 범죄수익과 자금원은 빠짐없이 환수해 범죄 생태계 연결 고리를 근원적으로 끊어내야 한다고 했다. 윤 대통령은 “기존의 치안 활동 방식만 고수해서는 국민의 생명과 안전을 새로운 위협으로부터 지켜내기 어려울 것”이라며 “국민이 경찰을 믿고 의지할 수 있도록 사회적 변화와 새로운 상황에 맞춰 치안 역량을 키우고 발전시켜야 한다”고 강조했다. 스토킹·가정폭력·아동학대 같은 약자 대상 범죄에 대해선 “사건 초기부터 강력하게 법을 집행해 가해자의 범죄 의지를 꺾어야 한다”며 “꼼꼼한 모니터링으로 재범 가능성을 원천 차단하고, 보호시설 연계부터 심리 치료 지원까지 피해자를 보호하는 안전망을 더욱 촘촘히 구축해달라”고 했다. 윤 대통령은 특히 아산 경찰병원을 조속히 건립하고, 순직·공상 경찰관에 대한 지원을 더욱 확대할 것이라고 밝혔다. 또 현장 경찰들이 역량을 키울 수 있도록 교육 인프라도 대폭 확충할 것이라고 했다. 이어 “무엇보다 경찰의 정당한 법 집행이 국가의 보호를 받을 수 있도록 면책 규정 확대를 비롯한 다양한 노력을 아끼지 않을 것”이라고 강조했다. 현직 대통령의 경찰청 청사 방문은 이명박 전 대통령 이후 12년 만이다.

딥페이크(허위 합성물) 성 착취물에 대한 논란이 확산하면서 딥페이크 성 착취물 소지·시청에 대한 처벌법이 국회 문턱을 넘었습니다. 문제는 딥페이크의 악용 사례가 성범죄를 넘어 사회 전반으로 확산되고 있다는 점입니다. 특히 불특정 다수의 금융소비자를 상대로 한 딥페이크 범죄의 확산 조짐이 일면서 예방 시스템 마련을 위한 금융권의 움직임도 분주해지고 있습니다. 1일 보험연구원의 ‘미국 딥페이크 관련 법안 동향과 보험회사의 대응’ 보고서에 따르면, 딥페이크 관련 금융 사기 규모는 2023년 123억 달러에서 2027년 400억 달러로 해마다 평균 32%씩 늘어날 것으로 예상됩니다. 이에 보험업계가 딥페이크를 이용한 새로운 사기 위험에 대응하는 시스템을 마련해야 한다고 연구원은 진단했습니다. 현재 보험금 청구 과정에서 사진을 증거로 활용하는데 기존의 시스템만으로는 딥페이크 보험사기에 대응하기 한계가 있다는 겁니다. 2025년까지 보험청구의 70%가 비대면 자동처리로 이뤄질 것으로 예상되는 만큼 보험사기를 잡아내기 어렵다는 관측도 나옵니다. 특히 딥페이크 사기로 발생한 손실이 보험료에 반영되면 불필요한 사회적 비용이 발생할 수 있다는 점도 문제로 꼽힙니다. 통상 보험금이 과다 지급되면 해당 보험사의 손해율이 올라가는데, 손해율 상승은 보험료가 오르는 주요인이기 때문입니다. 해외 보험사들은 인공지능(AI) 기반의 딥페이크 탐지 기술을 도입하거나 비정상적인 패턴을 감지하는 시스템을 개발하는 중입니다. 독일의 보험사 알리안츠는 머신러닝(기계학습)을 통해 허위 데이터를 감지하는 시스템을 구축, 170만 파운드(약 31억원)의 피해를 막았습니다. 스위스의 취리히보험사는 전통적인 규칙 기반 엔진과 AI 기반 엔진을 결합해 비정상 행동을 감지하는 시스템을 가동하고 있습니다. 손민숙 보험연구원 연구원은 “딥페이크 관련 법안을 마련하고 사회적으로 교육·시스템을 구축하는 등 향후 기술적, 법적, 사회적으로 광범위한 혼합 조치와 대응이 필요하다”고 강조했습니다. 든든과 만만, 그리고 막막의 사이를 오가는 ‘보험에 따라오는 이야기들’을 보따리가 하나씩 풀어드리겠습니다.

지난 24일 열린 2024 미스코리아 선발대회에서 딥페이크와 관련한 부적절한 질문이 나와 비판 여론이 거세지는 가운데 주최사가 “주최 측의 분명한 잘못”이라며 고개 숙였다. 26일 미스코리아 선발대회 주최사 ㈜글로벌이앤비 공식 인스타그램에 “지난 24일 서울 강남구 코엑스 오디토리움에서 진행된 ‘2024 제68회 미스코리아 선발대회’ 본선 녹화 과정에서 최종 15인에 대한 Q&A 중 하나로 ‘딥페이크 영상 속 내가 더 매력적이라면, 진짜 나와의 갭은 어떻게 줄일 수 있을까요?’라는 질문을 진행했다”며 해당 논란이 사실임을 인정했다. 주최사는 “해당 질문에서 ‘딥페이크 영상’이 표현하고자 했던 바는 ‘AI 기술을 활용해 실제 모습을 재현하는 영상’ 자체를 지칭하고자 한 것”이라며 “디지털 기술로 만들어낸 모습과 실제 자신의 모습과의 차이에 대한 생각을 묻는 말이었다”고 해명했다. 이어 “다만 ‘딥페이크’를 이용한 불법 영상물에 대한 피해가 발생하고 있는 상황에서, ‘딥페이크’라는 단어 자체를 사용한 것은 저희 주최 측의 분명한 잘못”이라며 “AI 가상 기술이 영화, 광고, 교육 등에 광범위하게 활용되는 세태에 대한 생각을 듣기 위해 질문을 제시한 것이었지만, 현재 ‘딥페이크’가 성적 불법 영상물로 악용되고 있는 현실을 감안하면 질문에 훨씬 주의를 기울여야 했다”고 전했다. 그러면서 “미스코리아 참가자들을 포함해 이로 인해 불편을 느끼셨을 모든 분께 깊이 사과드린다”며 “앞으로도 미스코리아 선발대회 운영에 있어서 더 많은 분의 생각과 이야기를 듣고 배려하도록 하겠다”고 사과했다. 앞서 전날 온라인 커뮤니티에는 “현재 논란 중인 미스코리아 질문”이라는 제목으로 ‘2024 미스코리아 선발대회’의 한 장면이 공유됐다. 사진을 보면 무대 위 스크린에 “딥페이크 영상 속 내가 더 매력적이라면, 진짜 나와의 갭은 어떻게 줄일 수 있을까요?”라는 질문이 띄워져 있다. 최근 딥페이크를 이용한 성착취물 범죄가 기승을 부리는 상황에서 적절한 질문이 아니었다는 비판이 나왔다. 네티즌들은 “딥페이크 범죄가 만연한데 저게 질문이냐”, “범죄가 아무렇지 않은 거냐”, “미스코리아는 지성도 평가하는 건데 어떻게 저런 질문을 하느냐” 등 해당 질문이 적절치 못했다는 반응을 쏟아냈다. 미스코리아 선발대회 공식 소셜미디어(SNS)에도 항의성 댓글이 이어지고 있다. 네티즌들은 “딥페이크는 범죄다. 딥페이크와 매력 대결이라니”, “성범죄가 재밌어요? 대회 수준 되게 격떨어지네”, “이 질문이 미스코리아 자질과 어떤 연관이 있길래 하신 질문인가요?”, “이 질문은 정말 자신이 피해자가 될 리 없다고 생각하는 사람만이 할 수 있는 가벼운 질문이다” 등의 댓글을 달았다. 한편 최근 딥페이크 성범죄에 대한 공포가 확산되면서 당국도 대대적인 대응에 나섰다. 지난 25일에는 딥페이크 성 착취물을 알면서도 이를 소지하거나 시청만 해도 처벌할 수 있게 하는 법안이 여야 합의로 국회 법제사법위원회 문턱을 넘었다. 해당 법안은 딥페이크 성 착취물 영상물의 소지·구입·저장·시청할 경우 3년 이하의 징역 또는 3000만원 이하의 벌금에 처할 수 있도록 규정했다.

1994년 성수대교가 무너졌을 때 가장 먼저 현장에 도착한 기자가 있습니다. 삼풍백화점이 무너졌을 때도, 세월호 참사 때도 그랬습니다. 사회부 사건팀 기자들입니다. 시대도 세대도 바뀌었지만, 취재수첩에 묻은 꼬깃한 손때는 그대롭니다. 기사에 실리지 않은 취재수첩 뒷장을 공개합니다. 우리 사회의 치안을 책임지는 경찰청은 부 단위에 버금가는 예산이 배정되는 거대 부처입니다. 경찰청이 최근 공개한 2025년 예산안을 보면 2024년 대비 4.2%(5457억원) 늘어난 13조 5364억원 규모의 예산이 편성될 거로 보입니다. 그 중 주요 사업비도 1.9%(494억원) 증가한 2조 6067억원이 될 것으로 보입니다. 내년 예산안은 아직 국회에서 심사하고 확정하는 단계가 남았지만, 경찰이 내 건 방향은 명확했는데요. 인공지능(AI) 등 신기술을 활용해 갈수록 지능화되는 범죄를 예방하고 수사에 속도를 내겠다는 것입니다. 일상을 파고든 AI가 범죄와 수사에는 어떤 영향을 끼칠까요. 유사 사건·수사 쟁점 알려주고 서식 초안 ‘AI 수사도우미’ 27억원우선 경찰청은 생성형 인공지능(AI)을 활용해 수사관에게 유사 사건과 수사 쟁점 등을 제공하고 영장 신청서 등 각종 수사서식의 초안을 만들어주는 AI 수사 도우미를 구축하는 데 27억원을 배정했습니다. 수사 기간이 단축되고 완결성을 높일 거란 기대가 나옵니다. 원격화상조사시스템과 음성인식 조서작성시스템에는 기존 11억 5000만원에서 14억 7000만원으로 예산을 늘리기로 했습니다. 실제로 검경 등이 쓰는 차세대 형사사법정보시스템(킥스·KICS)는 범죄 사실과 키워드, 죄명 정보 등을 분석해 수사 담당자에게 유사한 사건의 조서, 결정문, 판결문 등을 제공하는 처리하는 기능이 추가됐습니다. 일상에서 흔히 쓰이는 음성인식 기술을 활용한 조서 작성 기능도 들어가 음성을 문자로 변환할 수도 있습니다. 올해 개발이 끝난 ‘아동학대 영상분석’에 6억원이 배정돼 내년부터 도입됩니다. AI가 CC(폐쇄회로)TV 등 영상에 찍힌 아동의 표정과 움직임 등을 분석해 아동학대 의심 장면을 요약하고 분석하는 시스템입니다. 또 흐릿한 얼굴이나 번호판의 화질을 개선하고 영상을 요약하는 등 형사기능 영상분석(8억 6000만원)도 수사에 도움이 될 거로 보입니다. 복합형 허위조작 콘텐츠 탐지 기술 개발 3년간 91억원…기존 기술 업그레이드신종 범죄를 막기 위한 기술 개발에도 박차를 가하기로 했습니다. 딥페이크(허위 영상물)는 성범죄에 악용되거나 유명인 등을 사칭한 사기에 쓰일 수 있어 사진이나 영상의 진위를 가리는 탐지 기술의 중요성이 커지고 있습니다. 이에 경찰은 내년부터 2027년까지 3년간 총 91억원을 투입해 딥페이크와 딥보이스 등 여러 기술을 복합적으로 적용해 만든 허위조작 콘텐츠를 탐지하는 기술을 딥러닝에 기반해 개발한다는 구상입니다. 얼굴을 바꾸는 ‘페이스 스왑’ 등 시각 영상물을 가려내는 기술은 어느 정도 개발됐지만, 음성을 따라 한 딥보이스를 탐지하는 기술은 아직 미흡하다는 게 경찰의 설명입니다. 딥페이크 기술도 고도화되고 있어 더 정교한 탐지기술 개발이 필요합니다. 또한 현재 활용 중인 딥페이크 탐지 기술에 대해선 최신 AI 기술도 가려낼 수 있도록 소프트웨어를 업데이트할 계획입니다. 예산은 올해(3억원)보다 2억원 늘어난 5억원을 책정했습니다. 아울러 경찰은 시나리오별 훈련이 가능한 실감형 훈련장비(VR) 장비(4억 8000만원), 신형 전자 충격기(56억 1000만원)도 규모를 키워 투입한다는 계획입니다. 경량화된 기동대 신형방패(13억 7000만원), 차세대 외근조끼(8억원)도 투입합니다. 전국 운전면허시험장 등에서 운전능력을 자가진단할 수 있는 VR 테스트 시스템(20억 9000만원)도 시범 운영될 예정입니다. 과기부도 딥페이크 탐지 기술 개발 20억원…신종 성범죄·사기 범죄 근절될까이러한 새로운 기술들이 실제로 현장에서 얼마나 효과를 발휘할지는 어느 정도 시간이 지나야 윤곽이 드러날 것으로 보입니다. 여러 기능이 추가된 만큼 수사관들이 적응하는 기간도 필요한데다 AI가 예상만큼 정확도가 높지 않을 수도 있습니다. 각 부처마다, 각 부서마다 딥페이크 탐지 등 AI를 활용한 기술을 개발하고 도입에 뛰어드는 모습입니다. 과학기술정보통신부도 딥페이크 성범죄를 예방하기 위해 적대적 생성신경망(GAN) 방식의 탐지 고도화 및 생성 억제 기술 개발에는 10억원, 자가진화형 딥페이크 탐지 기술 개발에 10억원씩 투입하겠다고 밝혔습니다. 선의의 경쟁으로 더 나은 기술을 발굴하게 될지 아니면 예산을 중복으로 투입하는 비효율을 낳을지 꾸준한 관심이 필요해 보입니다.