찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • AI 범죄
    2026-10-06
    검색기록 지우기
  • 낭독
    2026-10-06
    검색기록 지우기
  • BTS RM
    2026-10-06
    검색기록 지우기
  • TA
    2026-10-06
    검색기록 지우기
  • ETF
    2026-10-06
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
총 2,463 건
  • “신종 ‘코인 보이스피싱’ AI로 잡는다”

    “신종 ‘코인 보이스피싱’ AI로 잡는다”

    “어느 날 검사가 전화를 걸어 현금을 코인으로 바꿔 해외 주소로 보내라고 시킨다면 기자님은 어떨까요. 저런 뻔한 거짓말에 왜 속을까 싶으시죠. 정말 안 당해 봐서 하는 이야깁니다.” 가상자산거래소 업비트에서 이상거래탐지 업무를 담당하는 안재민(44) 운영지원팀장은 “작정하고 덤벼들면 눈 뜨고 당하는 게 요즘 코인 보이스피싱”이라고 7일 말했다. 그는 6년째 고객 계좌에서 입출금 금액이 갑자기 늘어나는 등 보이스피싱이 의심되는 거래가 나타나면 곧바로 확인을 거쳐 출금을 막는 일을 하고 있다. 요즘 전화 금융사기 조직은 마지막 출금 계좌로 코인을 애용한다. 은행 등 제도권 금융사보다 계좌 추적이 어렵고 민관 공조도 쉽지 않다는 점을 노려서다. 지난해부터는 범죄에 연루될 경우 코인도 지급을 정지하도록 제도가 바뀌자 사기꾼들은 해외 코인거래소로 돈을 들고 튀고 있다. 안 팀장은 “현재로는 코인이 해외로 보내지기 전에 이상거래로 탐지해 막는 게 최선”이라고 말했다. 최근 안 팀장은 똘똘한 부사수 한 명을 키우고 있다. 다름 아닌 인공지능(AI)이다. 지난 6년간의 비법을 고스란히 AI에게 학습시키고 이상거래를 걸러 낸다. 안 팀장은 “인간의 노하우를 학습시키면 AI는 하루 수십만 건의 입출금을 24시간 모니터링할 수 있다”면서 “덕분에 하루 수십 건의 이상거래를 탐지해 피해를 막는다는 데 보람을 느낀다”고 말했다. 디지털자산거래소 공동협의체(DAXA)에 따르면 가상자산을 이용한 보이스피싱 피해 금액은 2020년 82억 6000만원에서 2022년 199억 6000만원으로 2배 넘게 늘었다. 무섭게 늘기만 하던 피해는 AI 단속의 등장과 민관 합동단속 등의 노력으로 지난해에는 82억 5000만원으로 증가세가 꺾였다. 안 팀장은 재벌 등 고액자산가까지 노린다는 알뜰폰 범죄를 예방할 수 있는 ‘꿀팁’을 공개했다. 그는 “인터넷으로 정부의 명의도용방지서비스에 가입하면 범죄자가 나 몰래 알뜰폰을 개통해 계좌에서 돈 털어가는 걸 막을 수 있다. 5분이면 가능해 지인들에게 추천 중”이라고 말했다.
  • [씨줄날줄] AI 커버곡

    [씨줄날줄] AI 커버곡

    본인이 직접 노래하는 것처럼 인공지능이 부른다면 어떤 기분이 들까? 최근 개그맨이자 가수인 박명수는 자신의 목소리를 학습한 ‘인공지능(AI) 박명수’가 부르는 ‘밤양갱’이라는 커버곡을 듣고는 깜짝 놀랐다. 그는 방송에서 “이 노래를 부른 적이 없다. 들어 보니 어쩜 이렇게 똑같나. 앞으로 우리 어떻게 해야 하나. 연예인들 어떻게 해야 돼” 하며 혀를 내둘렀다. 인공지능 기술 발달로 AI 커버가 주목받고 있다. 커버곡은 가수가 자기 노래가 아닌 다른 가수의 노래를 자신만의 스타일로 부르는 노래다. 인공지능 커버는 일반인이 박명수 같은 연예인이나 가수의 목소리 데이터를 학습한 인공지능 모델을 활용해 만든 노래다. 정교한 커버곡은 소셜미디어에서 수백만회 조회를 올릴 정도로 인기다. AI 커버곡 제작을 전문으로 하는 채널들이 있을 정도로 새로운 음악시장을 형성하고 있다. 인공지능 커버 시장이 커질수록 법적 분쟁도 늘어날 전망이다. 저작권법엔 AI 커버 제작에 사용된 원 노래의 저작권과 목소리 주인공의 저작인접권 침해에 대한 별도 규정이 없다. 커버 인기가 노래 홍보를 뛰어넘는 단계로 옮아가면 분쟁은 불가피할 것이다. 이 때문에 한국음악저작권협회는 AI 활용 표시 의무를 담은 콘텐츠산업진흥법 개정을 촉구하고 있다. AI 커버곡 제작자들은 자신들의 행위가 공익성을 가지며 인공지능 산업 발전에도 기여한다고 한다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정이용으로 본다. 최근 미국의 뉴욕타임스가 자사 기사를 무단 사용했다며 오픈AI를 상대로 낸 저작권 침해 소송에 오픈AI는 이 공정이용 조항을 들먹이며 반박했다. 하지만 가치 있고 신뢰도 있는 데이터를 상업적으로 사용한다면 법적으로 문제될 수 있다. 법적 분쟁 못지않게 우려되는 건 이런 기술이 딥페이크 등 범죄에 악용될 수 있다는 점이다. 목소리 데이터가 쌓이면 쌓일수록 본인까지 깜짝 속을 정도의 딥보이스 기술이 적용된 콘텐츠는 확산될 것이다. 인공지능 기술 발달로 현실과 상상의 경계가 무너지고 있다. 인공지능이 삶의 질은 향상시키고 범죄에 악용되는 등의 부작용은 줄일 안전한 보안기술이 나오기를 바라 본다.
  • 의협 “의대 증원은 국가 자살…의사 악마화” 외신에 호소

    의협 “의대 증원은 국가 자살…의사 악마화” 외신에 호소

    의대 증원 정책을 둘러싼 정부와 의사단체의 여론전이 국외로까지 확산하고 있다. 5일 정부와 의료계에 따르면 조규홍 보건복지부 장관은 이날 글로벌 뉴스통신사 블룸버그와 인터뷰를 진행했고, 대한의사협회(의협)은 외신 기자간담회를 열고 각자의 의견을 피력했다. ● 복지부 “의대 정원 확대는 과학적 연구 결과” 먼저 조 장관은 이날 블룸버그와의 인터뷰에서 전공의에 대한 행정명령이 기본권을 제한한다는 의사단체들의 주장에 대해 “한국법에 따른 정당한 조치”라고 반박했다.조 장관은 “모든 한국 국민은 헌법상 직업 선택의 자유를 보장받는다”면서도 “정당한 사유 없는 집단 사직서 제출은 현행 의료법과 형법을 위반하는 행위에 해당하고, 헌법상 보장된 자유로 볼 수 없다”고 지적했다. 그러면서 헌법재판소의 한 판시 내용도 소개했다. 조 장관은 “인간의 생명권은 헌법에 문언 규정이 없더라도 선험적, 자연법적 권리로 헌법에 규정된 모든 기본권의 전제”라면서 “집단 사직서 수리 제한 등 행정명령은 집단 사직 등으로 명백히 초래될 국민 보건 위해를 방지하는 사실상 유일한 수단”이라고 강조했다. 한국의 의사 증원이 비과학적이라는 세계의사회(WMA)의 지적에 대해서는 “의대 정원 확대는 과학적 연구 결과를 바탕으로 의료계 등 사회 각계와 논의하고, 40개 의대의 수요 조사를 기반으로 결정한 것”이라고 주장했다. 복지부는 이러한 논리 등이 담긴 자료를 외신 기자들에게 배포했다. ● 의협 “의대 정원 반대 이유는 韓미래 때문” 의협도 이날 오후 3시 외신 기자간담회를 열었다. 국내 언론사 기자는 ‘질문하지 않는 조건’으로 10여명 정도 선착순으로 참석 신청을 받았으나, 이날 오전 장소 및 설비 문제 등을 고려해 외신 기자들만 참석했다. 의협은 그동안 한국 언론이 의사단체의 입장을 충분히 전달하지 않았다고 주장하고 있기 때문에 이번 외신 간담회를 정부 정책의 부당성을 세계에 알리는 기회로 삼은 것으로 보인다. 국회의원 출신인 박인숙 의협 비상대책위원회(비대위) 대외협력위원장은 이날 오후 자신의 페이스북에 외신 기자간담회 기조발언을 올렸다. 박 위원장은 “의사들이 의대 정원을 반대하는 진짜 이유는 대한민국의 미래를 걱정하기 때문”이라며 “의대 증원의 직격탄을 맞을 분야는 이공계와 산업계로, 급격한 의대 증원 때문에 (이들 분야의) 젊은이들이 의대 입시에 올인함으로써 대한민국 산업계가 망가진다. 이는 국가 자살 수준”이라고 비판했다. 이어 “의대 정원 확대로 금전적 이득을 얻는 대학 총장에게 증원 규모를 물어보는 건 고양이에게 생선을 몇 마리 줄(받을) 거냐고 묻는 것과 같은 이치”라며 “급박한 상황도 아닌데 의대 정원을 갑자기 2000명 늘리려는 건 한 달 뒤 총선에서 표를 얻으려는 것”이라고 지적했다. 또 “포퓰리즘 정책에 대해 의사가 경고를 해도 정부도, 정치권도, 언론도, 국민도 모두 듣지 않는다”며 “언론은 마녀사냥하듯이 개별 환자들의 감성적인 안타까운 사연들을 매일 실으면서 의사들을 악마화하고 있다”고 주장했다. 박단 대한전공의협의회(대전협) 비대위원장도 이날 자신의 페이스북에 “뉴욕타임스, 워싱턴 포스트, 로이터 등의 외신 기자들과 인터뷰를 이어오고 있다”며 외신들과의 소통 소식을 알렸다. 박단 위원장이 링크로 공유한 뉴욕타임스 기사에서 한 사직 전공의는 “우리는 환자들과 함께 울었고, 회복 과정에서 그들의 손을 잡아줬다. 우리는 범죄자가 아니다”고 말했다. 같은 기사에서 임현택 대한소아과학회장은 수련의 상황을 “어린 소년 소녀들이 강제로 공장에서 일해야 했던 산업혁명 때와 비슷하다”고 ‘강제노동’에 빗댔다.의협은 세계의사회 루자인 알코드마니(Lujain ALQODMANI) 회장의 지지 영상 메시지를 공개하기도 했다. 알코드마니 회장은 의대생 휴학과 전공의 사직을 두고 “의대생과 젊은 의사들을 포함한 우리 동료들은 민주적 법규와 헌법의 테두리 안에서 그들의 권리를 평화롭게 행사하고 있다”고 옹호했다. 그러면서 “개인적 사유의 사직을 저지하고 학교 입학 조건을 규제하려는 한국 정부의 시도는 잠재적 인권 침해이고, 대한민국에 위험한 선례를 남길 수 있다”며 “한국 정부는 이런 조치를 재고하고, 의료계에 가하는 강압적인 조치를 중단해야 한다”고 강조했다. 한편 의대생들도 해외 동료들을 상대로 자신들의 정당성을 피력했다. 대한의과대학·의학전문대학원학생협회(KMSA)는 전날 소셜미디어(SNS)에 “여러분의 지원이 필요하다”며 세계의대생연합(IFMSA)에 보내는 성명을 공개했다. IFMSA는 1951년 설립돼 현재 세계 130개국 의대생 130만여명이 가입된 국제 의대생 단체다. KMSA는 성명에서 “폭압적인 정부에 굴복하지 않을 것”이라면서 “정부가 미래의 환자들을 위협에 빠트리게 하지 않을 것이다. 국민 건강을 위해 싸우는 우리에게 지원 바란다”고 했다.
  • ‘1인 가구가 행복한 도시 수원’…맞춤형 정책으로 1인 가구 만족도↑

    ‘1인 가구가 행복한 도시 수원’…맞춤형 정책으로 1인 가구 만족도↑

    광주광역시에 살던 김광원(31·당수동)씨는 대학에 입학하면서 수원에 쭉 살았다. 기숙사 생활을 하다가 취업 후 7년째 ‘1인 가구’로 생활하고 있다. 성인이 돼 수원으로 온 김씨는 동네에 ‘친구’라고 할만한 사람이 딱히 없다. 동네에서 편하게 만나거나 이사를 할 때 원하는 기반 시설을 갖춘 지역에 대한 조언을 구할 사람도 없어 아쉽다고 했다. 김씨는 “1인 가구는 나처럼 다른 지역에서 이사 온 사람이 대부분이라 수원에 아는 사람도 적고, 정보를 얻기도 어렵다”며 “수원시가 동네별로 1인 가구 청년들이 교류하고, 정보를 교환할 수 있는 커뮤니티를 구축했으면 한다”고 제안했다. 1인 가구가 된 지 3년 됐다는 고정희(69·영통2동)씨는 “장·노년층 1인 가구가 가장 힘든 것은 외로움”이라며 “장·노년층 1인 가구에 전화로 ‘잘 지내느냐?’고 안부를 물어주고, 1인 가구 지원사업 정보를 제공한다면 큰 힘이 될 것”이라고 말했다. 고씨는 “수원시가 안부 전화를 할 수 있는 자원봉사자와 1인 가구를 연결해 줬으면 한다”며 “안부 전화 자원봉사 사업을 추진한다면 나부터 기쁘게 자원봉사를 하겠다”고 약속했다. 다세대주택에 거주하는 김모(39·여)씨는 “주차가 편리하고, 상대적으로 안전한 아파트에 살고 싶지만, 소형 아파트가 많이 없어 1인 가구는 어쩔 수 없이 원룸이나 다세대주택에 거주하는 경우가 많다”며 “20평(66㎡) 이하 소형 아파트 공급을 늘리는 정책을 추진했으면 한다”고 말했다. 통계청이 지난해 7월 발표한 인구주택총조사(2022년 기준)에 따르면 수원시 1인 가구 비율은 34.4%로 세 가구 중 한 가구는 1인 가구였다. 1인 가구 비율은 꾸준히 증가하는 추세다. 2010년 24.8%에서 10여 년 만에 10%P 증가했다. 수원시는 1인 가구 증가 추세에 발맞춰 체계적으로 1인 가구 지원 사업을 추진하고 있다. 지난해 3월 ‘1인가구지원팀’을 신설했고, 1인 가구 관계기관 간담회, 1인 가구 정책 설문조사·간담회 등을 꾸준히 열며 1인 가구의 의견을 반영한 지원 사업·정책을 수립해 추진하고 있다. 지난해 10월에는 1인 가구가 많이 사는 지역을 찾아가 지원사업을 홍보하고 맞춤형 상담을 하는 ‘찾아가는 1인 가구 새빛 솔로라이프(SoloLife) 스테이션’ 운영을 시작했고, 11월에는 1인 가구를 초청해 1인 가구 정책 쇼케이스를 열었다. 올해 초에는 1인 가구 사업 정보를 한눈에 볼 수 있는 1인 가구 맞춤형 온라인포털 ‘쏘옥(SsOcC)’을 개설했다. 쏘옥은 ‘Suwon Safe(안심) One Convenience(편의) Connect(연결)’의 첫 글자를 따서 만든, 수원시 1인 가구 지원사업 브랜드다. 수원시는 올해 1인 가구 지원사업 목표를 ‘1인 가구를 이해하고 존중하는 사회적 공감대 형성’·‘다양한 의견 수렴을 통한 내실 있는 1인 가구 정책 추진’으로 설정하고, 복지여성국장을 총괄로 하는 ‘1인 가구 종합 컨트롤타워’를 운영하고 있다. ‘연결’, ‘안심’, ‘편의’ 등 3개 추진 과제를 중심으로 40여 개 사업을 추진한다. ‘연결’은 1인 가구들이 교류하며 소통할 수 있도록 네트워크를 구축하는 것이다. 구별로 ‘요리와 나눔’·‘에이징 솔로’·‘배움과 문화’·‘One 크루(청년 관계망 확대사업)’ 등 다채로운 프로그램을 진행하는 ‘4구(區) 4색(色) 1인 가구 거점 지원사업’을 비롯해 ‘온라인 플랫폼 쏘옥 활성화’, 1인 가구 시민참여단 ‘쏘옥 패밀리’ 활성화 등 사업이 있다. ‘안심’은 1인 가구가 안심하고 살아갈 수 있도록 생활안심망을 구축하고, 주거안심지원을 하는 것이다. ‘여성1인가구 안심패키지 보급’, ‘청년 월세 지원’, ‘새빛 청년존(ZONE)’ 등 17개 사업이 있다. 여성1인가구 여성안심 패키지 지원사업은 범죄에 취약한 여성1인가구에 창문 잠금장치·휴대용 비상벨 등 ‘안심물품’을 지급하는 것이고, 새빛 청년존은 LH의 역세권 비주택리모델링 청년임대주택에 입주할 청년을 수원시가 자체 선정 기준으로 모집해 저렴한 임대료로 임대하는 사업이다. ‘편의’는 1인 가구 돌봄 체계를 확대하고, 맞춤형 프로그램을 운영하는 것이다. 수원새빛돌봄사업, 초거대 AI(인공지능) 활용 위기 가구 발굴·지원사업 등 12개 사업이 있다. 수원시여성자문위원회와 함께 추진한 1인 가구 청년 대상 역량강화지원사업 ‘새빛 솔로(Solo) 자문’도 있다. 다양한 직종에 종사하는 여성자문위원회 위원들이 재능기부 형식으로 청년들에게 창업·경영 노하우 등을 알려주는 강의를 하는 것이다. 지난해 10~11월 두 차례에 걸쳐 1인 가구 청년 30여 명을 대상으로 진행했는데, 반응이 무척 좋았다. 새빛 솔로자문에 참여한 한 청년은 “여러 사람을 만나며 많은 것을 배울 수 있었던 시간”이라고 호평했다. 수원시의 모든 1인 가구 사업 정보는 지난 1월 개설한 온라인플랫폼 ‘쏘옥(SsOcC)’(www.suwon.go.kr/web/1insuwon/index.do)에서 볼 수 있다. 수원시 부서와 관계 기관에서 추진하는 모든 1인 가구 사업의 정보를 제공한다. 1인 가구가 자유롭게 이야기를 나눌 수 있는 ‘소통공간’, 1인 가구 관계기관을 안내하는 ‘기관안내’ 게시판도 있다. 소통공간 게시판에서는 ‘인계동에서 혼밥하기 좋은 집 추천’, ‘커피캡슐 나눔’, ‘뮤지컬·연극 함께 보러 다니실 분’ 등 1인 가구가 올린 글을 볼 수 있다. 수원시는 지난 2월 ‘수원시 1인 가구 실태조사·정책연구’를 시작했다. 수원시정연구원이 수행하는 이번 연구에서는 수원시 1인 가구 현황과 특성, 생활실태, 정책수요 등을 파악해 1인 가구 정책이 나아갈 방향을 세밀하게 설정할 예정이다. 이재준 수원시장은 “1인 가구의 목소리를 계속해서 듣고, 정책에 적극적으로 반영하겠다”며 “1인 가구가 안전하고, 편리하게 살 수 있는 도시를 만들어 가겠다”고 말했다.
  • 10분 만에 ‘딥페이크 영상’ 판독…경찰, 탐지 기술로 선거범죄·합성 성착취물 가려낸다

    10분 만에 ‘딥페이크 영상’ 판독…경찰, 탐지 기술로 선거범죄·합성 성착취물 가려낸다

    딥페이크(Deepfake)로 영상 속 인물의 얼굴을 가상 인물로 바꾼 한 영상을 ‘딥페이크 탐지 소프트웨어’에 업로드해 분석하니 금세 ‘변조율’이 76.76%인 ‘가짜’ 영상으로 판독됐다. 합성 유형은 ‘얼굴 바꿔치기’라고 가려냈다. 경찰청 국가수사본부는 이처럼 딥페이크 영상을 탐지하는 기술을 개발해 범죄 단속에 활용한다고 5일 밝혔다. 경찰이 개발한 소프트웨어는 영상 길이 등에 따라 5~10분이면 딥페이크인지를 판별한다. 딥페이크는 딥러닝(Deep learning)과 가짜를 의미하는 페이크(Fake)의 합성어로, 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술을 기반으로 이미지를 합성하는 기술이다. 갈수록 딥페이크 기술이 정교해지 가운데 맨눈으로 구분해내기 어려운 딥페이크 영상을 이 소프트웨어로 구분할 수 있을 것으로 기대된다. 해외에서도 마이크로소프트 등이 딥페이크를 탐지하는 기술을 개발했지만, 서양인 위주로 데이터를 쌓았기에 한국인 얼굴을 바꿔치기 한 영상은 탐지율이 상대적으로 떨어진다는 평가를 받았다. 경찰청이 도입한 소프트웨어는 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점 등을 포함한 인물 5400명의 데이터 520만점을 학습한 결과, 탐지율 정확도가 80%에 달하는 것으로 분석됐다. 경찰은 총선을 앞두고 딥페이크로 가짜 영상을 만들어 허위 정보를 퍼뜨리거나 성 착취물을 만드는 범죄를 수사하는 데 소프트웨어를 활용할 계획이다. 공직선거법에 따라 딥페이크를 활용한 선거운동은 선거일 90일 전부터 선거일까지 전면 금지된다. 그러나 딥페이크 영상인지만을 따지기에 이 소프트웨어만으로는 모든 허위 영상을 구분해낼 수는 없다. 최근 소셜네트워크서비스(SNS)에서 퍼진 윤석열 대통령의 ‘가짜 양심고백 연설’ 동영상은 실제로 존재하는 영상을 짜깁기 한 것이기에 이 소프트웨어는 해당 영상을 ‘진짜’라고 판단했다. 경찰은 소프트웨어의 신뢰도가 100%가 아니기에 증거자료로 쓰기보다는 수사 방향을 정하는 참고자료로 활용하겠다는 계획이다. 국수본 관계자는 “딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극적으로 수사할 수 있을 것”이라며 “향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 말했다.
  • 관세청, 최첨단 마약 감시단속장비 도입 [서울포토]

    관세청, 최첨단 마약 감시단속장비 도입 [서울포토]

    관세청이 27일 관세행정발전심의위원회를 열어 스마트혁신 추진방안을 발표하고, 첨단 장비로 이루어진 홍보관을 선보였다. 관세청은 치밀해지는 마약 밀반입 범죄를 예방하기 위해 최첨단 감시단속장비를 도입한다. 첨단검색장비인 밀리미터파 신변검색기를 배치해 운용하고, 인공지능(AI) 기술을 활용해 우범여행자에 대한 식별 처리를 강화한다. 마약 등 위해물품 유입 차단을 위해 공항과 항만 입국장에 첨단검색장비인 밀리미터파 신변검색기를 배치해 운용할 예정이다. 해당 장비는 몸이나 옷속에 숨긴 소량 마약도 단속이 가능하다. AI 신기술 활용도 확대한다. 우범여행자의 안면 정보를 입국심사대에서 CCTV가 인식한 후 세관출구 CCTV에서 동일여행자 여부를 확인하는 AI CCTV를 설치한다. AI 알고리즘으로 마약 등 특송물품 고위험 선별모델도 개발한다. 고광효 관세청장은 “국민과 기업의 눈높이에서 관세행정을 변화시키기 위해 기업인·학계·청년층 등 다양한 분야에서 제기된 현장의 목소리를 최대한 반영해 스마트혁신 추진계획을 수립했다”며 “금년 내 스마트혁신 추진을 통해 국민들이 체감할 수 있는 가시적인 성과를 창출하겠다”라고 전했다.
  • 하루 7건꼴… 딥페이크, 총선 파고들다

    하루 7건꼴… 딥페이크, 총선 파고들다

    보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.
  • 10초 만에 거짓말 섞어 탄원서 써낸 AI

    10초 만에 거짓말 섞어 탄원서 써낸 AI

    ‘일찍 부모 여읜 친구’ 가정하니순식간에 원고지 4장 분량 뚝딱수사·재판 과정서 악용 우려 급증檢 “진정성 의심 땐 철저히 확인” “존경하는 판사님. 저의 친구 ○○에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라고 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”라는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “○○은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역사회의 문제에 관한 관심 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”라고 꾸며 썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여 보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례도 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT로 지방자치단체 체육회 팀장 명의의 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미를 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적이고 형식적인 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”며 “챗GPT를 이용해 물량 공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해 달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI 기술을 악용한 증거 조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.
  • 하루 7건꼴… 딥페이크, 총선 파고들다

    하루 7건꼴… 딥페이크, 총선 파고들다

    #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.
  • 챗GPT에 음주운전 친구 탄원서 요청하니…10초만에 ‘뚝딱’

    챗GPT에 음주운전 친구 탄원서 요청하니…10초만에 ‘뚝딱’

    “존경하는 판사님. 저의 친구 OO에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라는 점을 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고, 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만, 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “OO은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역 사회의 문제에 관한 관심, 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”고 꾸며썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례가 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT를 이용해 지방자치단체 체육회 팀장 명의로 자신의 선처를 요청하는 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미가 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적 형식적 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”면서 “챗GPT로 물량공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI기술을 악용한 증거조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.
  • 윤두현 “여당 현역이 경산 발전” 최경환 “경산 발전 원조”

    윤두현 “여당 현역이 경산 발전” 최경환 “경산 발전 원조”

    재선 도전 尹, 지난해 국비 1604억원 확보5선 도전 崔, 의원 시절 산업단지 확장 등 4·10 총선을 50여일 앞두고 국민의힘 ‘텃밭’인 경북 경산의 현역 윤두현 국민의힘 의원과 무소속 최경환 전 경제부총리의 신경전이 고조되고 있다. 재선에 도전하는 윤 의원과 경산에서 4선 의원을 지낸 최 전 부총리의 경쟁에 관심이 쏠리는 모양새다. 18일 정치권에 따르면 윤 의원은 ‘여당 현역이 경산 발전을 이룰 수 있다’는 점을 강조하고 나섰다. 윤 의원은 지난 16일 KTX 경산역에 하루 4회에서 6회로 증편했다고 밝혔다. 경산역에 KTX가 증편된 것은 10년 만이다. 윤 의원은 “경산역에 서는 KTX가 하루 4회에 불과해 서울이나 수도권에 업무가 있는 분들의 불편을 호소하는 일이 많았다”며 “관계부처와 긴밀하게 협의한 결과 시민분들께 좋은 소식을 전하게 되어 기쁘고, 지역 경제 활성화와 경산 시민 불편 해소를 위해 결정을 내려준 원희룡 국토교통부 장관께도 감사하다”고 말했다. 윤 의원은 지난해 경산 발전 예산으로 국비 1604억원을 확보한 점도 강조했다. 윤 의원은 “경산의 미래 먹거리를 위해 ‘초거대 AI 클라우드팜 실증 사업에 40억원을 확보했다”며 “대구도시철도 1호선을 경산 하양역까지 연장하는 사업에도 238억원을 확보했다”고 밝혔다. 17~20대 국회에서 경산에서만 내리 4선을 지낸 최 전 부총리는 ‘경산의 발전을 이끈 원조는 바로 나’라는 점을 강조하고 있다. 최 전 부총리는 지난 16일 페이스북에 “지지자 분께서 고마운 글을 보내왔다”며 “‘경산의 전성시대를 이끌었던 최경환, 최경환이라는 이름은 경산의 발전과 함께 항상 호명됐다”는 글을 올렸다. 최 전 부총리는 지난 13일 330만여㎡(100만평) 규모 국가산업단지 유치로 경산의 남북첨단산업벨트를 완성하겠다는 공약을 발표하면서 국회의원 시절 경산의 산업단지를 204만여㎡(약 62만평)에서 990만여㎡(약300만평)으로 넓힌 점을 부각했다. 두 후보는 최 전 부총리가 국가정보원 특활비 상납 혐의로 징역 5년을 선고받은 후 사면 복권된 점을 두고 공방을 벌이고 있다. 윤 의원은 최 전 부총리를 향해 “7년 전 뇌물수수 혐의로 징역형을 받은 사건으로 인해 공천 규정에 따라 원천적으로 배제됐다”며 “범죄 행위로 실형을 산 사람까지 나오는 것은 국민으로부터 정치 불신을 더욱더 쌓는 일만 될 뿐”이라고 지적했다. 반면 최 전 부총리는 “국가운영을 위해 특활비를 다 쓰는데, 문재인 정부의 정치보복이자 정치탄압”이라며 “경산시민 대부분이 제가 정치 보복당했다고 인식하고 있다”고 반박했다. 두 후보 모두 친박계라는 점도 눈에 띈다. 윤 의원은 박근혜 전 대통령 시절 홍보수석을 지냈다. 최 전 부총리는 친박 좌장으로 불린다. 박근혜 정부에서 경제부총리 겸 기획재정부 장관을 역임했다.
  • ‘완전 범죄’ ‘미제 사건’ 이젠 없다 [달콤한 사이언스]

    ‘완전 범죄’ ‘미제 사건’ 이젠 없다 [달콤한 사이언스]

    “지구가 태양 주위를 도는지도 모를 정도로 천문학 지식 없음. 철학, 문학 지식 없음. 식물학 지식은 독성물질에만 해박. 지질학 지식은 실용적이지만 한정적. 화학 지식 전문가급. 해부학 지식 정확. 필체 분석과 향수 감별 전문가급. 담뱃재에 대한 지식 상당.” 이런 사람이 있을까 싶겠지만 1887년 ‘주홍색 연구’로 처음 대중 앞에 등장한 셜록 홈스의 특징을 동료 존 왓슨 박사가 관찰해 정리한 내용이다. 소설 ‘주홍색 연구’에서 홈스는 과학적 방법으로 피해자 사망 시간을 추정한다. 과학수사 원조라고 하는 홈스의 뒤를 잇는 것은 영국 소설가 리처드 오스틴 프리먼이 창조한 존 이블린 손다이크 박사다. 변호사이자 병리학자, 추리소설 사상 최초 전문 법의학자로 ‘휴대용 실험실’이라고 불리는 녹색 가방을 들고 범죄 현장에 나타난다. 가방 속에는 현대 과학수사대나 감식반이 갖고 다니는 것처럼 각종 현장 검증을 위한 실험장비가 들어있다. 실제로 미국과 영국 경찰에서 20세기 중반 과학수사대가 만들어진 것도 손다이크 박사가 등장하는 소설 때문이라는 것은 공공연한 비밀이다.20세기 중반까지만 해도 법과학 활용 수준은 추리소설보다 뒤졌다. 1950년대를 지나면서 분자생물학을 비롯한 다양한 과학기술 발전으로 법의학, 법 물리학, 법화학, 법생물학, 법 고고학 등 법과학 수준도 빠르게 발전하고 있다. 기증받은 36구 사체 활용다양한 환경과 기후에서 부패 실험사체 분해 미생물 종류와 순서 확인 이런 상황에서 미국 콜로라도 주립대 동물과학대, 테네시대 미생물학과를 중심으로 한 미국 내 27개 대학 및 연구기관과 캐나다 국립 고등연구소 공동 연구팀은 인간 사체를 분해하는 데 관여하는 미생물 군집과 종류는 지역이나 환경 조건과 관계없이 보편적이라고 18일 밝혔다. 유기물을 분해하는 미생물 상호 작용의 보존과 예측할 수 있는 순서가 있음을 의미하는 것으로 법의학 연구와 실제 범죄 수사에 영향을 미칠 것으로 기대된다. 이 연구 결과는 생명 과학 분야 국제 학술지 ‘네이처 미생물학’ 2월 13일 자에 실렸다. 생태계에서 분해는 죽은 생물학적 물질을 재활용해 식물이나 토양에 연료를 공급하는 과정이다. 분해는 곰팡이, 박테리아가 주로 관여한다. 많은 연구가 있지만 인간을 포함한 동물 사체에는 쉽게 분해되는 단백질과 지질이 풍부해, 생물 지질 화학이나 생태계에 미치는 영향에 대해서는 잘 알려지지 않았다.연구팀은 미국 연방 형사정책연구소 지원으로 테네시대, 샘 휴스턴 주립대, 콜로라도 메사대 세 곳의 법인류학 연구실에서 기증받은 36구의 사체가 분해되는 과정을 살폈다. 연구팀은 온대, 반건조 기후를 가진 세 곳에서 각각 사계절마다 3구씩 배치해 분해 과정을 장기간 분석했다. 연구팀은 부패하는 각 시신에 대해 처음 21일 동안 시신의 피부 변화와 주변 토양 표본을 수집했다. 연구팀은 표본에서 분자 및 게놈 분석을 했다. 이를 통해 각 시신에 존재하는 미생물 군집(마이크로바이옴) 지도를 구축했다. 그 결과, 연구팀은 부패 중인 인간 사체에는 지역이나 기후, 계절에 상관없이 부패하지 않은 환경에서는 찾아볼 수 없는, 오직 분해 시에만 나타나는 20종의 미생물 군집이 같이 나타나는 것을 발견했다. 특히, 이 미생물 군집은 특정 시점에 시계처럼 나타나며 그로 인해 모여드는 곤충들도 같은 것으로 나타났다.이번 연구 결과와 AI 머닝러신 결합정확한 사망 시간 예측 도구까지 개발 연구팀은 이번 연구 결과와 기존에 얻은 법과학 지식을 결합한 빅데이터와 인공지능 머신러닝 기술로 사망 후 시간을 정확하게 예측할 수 있는 도구를 개발했다. 부검의가 추정하는 사망 시간보다 좀 더 정확하게 예측이 가능할 것으로 기대된다고 연구팀 관계자는 밝혔다. 연구를 이끈 제시카 매트칼프 콜로라도 주립대 교수(실험 생태학·생물정보학)는 “모든 살인 사건의 수사에서 중요한 것은 사망 시간”이라면서 “이번 연구는 유해의 사망 시간을 정확히 예측하고, 신원을 확인하며, 잠재적 용의자를 파악해 수사하는 데 상당한 도움이 될 것”이라고 말했다. 매트칼프 교수는 “야외에서 발견된 사체에서는 사망 시간을 비롯해 수사의 단서가 될 만한 것을 수집하기가 어렵다”라면서 “이번 연구는 야외에서 발견된 시신에 대해서도 정확한 정보를 얻을 수 있게 도와줄 것”이라고 덧붙였다.
  • 경기도, 1인 가구 ‘아늑하고 안전한 연결망’ 지원

    경기도, 1인 가구 ‘아늑하고 안전한 연결망’ 지원

    (신규) 정책참여단 모집, 주거 안전 체크리스트 개발·보급, 인공지능(AI) 노인 말벗 서비스 등 (확대) 병원 안심 동행, 자유주제 제안사업, 중장년 수다 살롱 등경기도가 올해 도내 163만 1인 가구의 아늑하고 안전한 삶을 지원하기 위해 39개 과제에 8897억 원을 지원한다. 경기도는 이런 내용을 담은 ‘2024년 경기도 1인 가구 지원 시행계획’을 14일 발표했다. 시행계획에는 1인 가구에 꼭 필요한 ▲주거 ▲안전·건강 ▲외로움 ▲추진체계 등 4개 영역을 포함해 39개 과제로 구성됐다. 또한 영역별 촘촘한 정책 추진을 위해 1인 가구 총괄 부서인 가족다문화과와 주택, 청년, 노인 등 도내 7개 실국, 15개 부서가 협업해 계획을 짰다. 우선 지난해 신설한 ‘1인 가구 병원 안심 동행 사업’은 안산시, 광명시, 군포시, 성남시, 과천시 등 5개 시에 이어 올해는 평택시, 시흥시, 광주시, 구리시, 양평군 등 5개 시군이 신규로 참여한다. 이용 요금도 관내 거주자의 경우 3시간에 5천 원으로 낮췄으며, 해당 시군이 아닌 인근 시군 거주자도 시간당 5천 원의 이용 요금을 내면 서비스를 이용할 수 있도록 했다. 또 상반기 중 1인 가구정책에 관심이 있는 경기도민 50명으로 ‘1인 가구 정책참여단’을 모집해 1인 가구 정책 아이디어 제안, 사업 홍보 영상 공모전 참여 등 다양한 활동을 지원할 계획이다. 1인 가구의 안전한 집 선택을 돕기 위한 ‘주거 안전 체크리스트’도 상반기에 개발·보급하고 안부 확인이 필요한 65세 이상 노인을 대상으로 ‘인공지능(AI) 노인 말벗 서비스’도 추진한다. 이밖에 ▲1인 가구 밀집 지역 등 우범지역에 방범 시설물 설치하는 환경개선 사업 ▲고립 은둔 청년 실태 파악, 발굴, 맞춤형 프로그램 지원 ▲안전 취약계층인 청년들에게 호신용품 보급 등 범죄예방 정책 등이 과제에 포함됐다. 경기도는 1인 가구 지원 정책을 추진하기 위해 올해 총 8천807억 원(국비 7천43억 원, 도비 810억 원, 시군비 953억 원, 기타 1억 원)을 편성한 가운데 주거지원 사업비는 6천868억 원, 그 외 정책사업비로 1천939억 원을 책정했다.
  • “포스코 미래기술연구원, 포항 중심이라더니… 최정우, 약속 어겨”

    “포스코 미래기술연구원, 포항 중심이라더니… 최정우, 약속 어겨”

    경북 포항지역 시민단체인 ‘포스코지주사 본사·미래기술연구원 포항 이전 범시민대책위원회’(범대위)가 이달 하순 열리는 포스코 미래기술연구원 기공식 철회를 공식 요구했다. 이들은 최정우 포스코홀딩스 회장을 향해 포항 중심으로 미래기술연구원을 운영하겠다고 한 포항시민과의 약속을 지키라고 강조했다.이들은 12일 성명을 내고 “지난 2022년 2월 최정우 회장은 포항시민에게 ‘미래기술연구원의 포항 중심 운영체계 구축’을 서면으로 약조했으나 이를 배반하고 오는 22일 마치 포항시민을 조롱하는 듯이 약 5300억원에 매입한 성남시 위례지구에서 미래기술연구원 기공식을 한다고 공지했다”며 “미래기술연구원 기공식을 철회하고 ‘미래기술연구원 포항중심 운영체계 구축’ 서면 합의를 즉각 이행하라”고 밝혔다. 그러면서 범대위는 “최 회장은 AI, 빅데이터, 이차 전지 소재, 수소 등을 주요 연구 분야로 내세우는데, 그 4가지 분야는 대한민국에서 포항이 가장 잘 준비돼 있지만 우수 인재가 포항에 오지 않는다는 단 하나의 이유로 합의서조차 휴지통에 버리고 성남으로 간다는 것”이라고 비판했다. 이어 “포항에는 포스텍이 있다. 포스텍 책임자는 ‘포스텍은 AI도 빅데이터도 잘하고 있고, 우수 실력자는 연구원보다 교수 타이틀을 훨씬 더 선호하기 때문에 포스텍과 융합하면 더 우수한 인재들을 모을 수 있다’고 밝혔다”고 주장했다. 범대위는 포스코홀딩스 최고경영자 후보로 추천된 장인화 전 포스코 사장에 대해서도 반대 의사를 확실히 했다. 범대위는 “포스코홀딩스 CEO후보추천위원회가 범죄 피의자로 구성돼서 공정성과 도덕성을 상실한 만큼 그들의 모든 결정은 원천 무효”라며 “장 전 사장은 2019년 중국 호화 관광 골프 이사회 문제와 자본시장법 위반 등 혐의로 경찰 조사를 받고 있다”고 주장했다. 이 단체는 “장 전 사장은 지난 2018년 4월에 박원순 서울시장에게 ‘서울숲에 5천억원 과학관을 기증하겠다’고 하는 등 포항시민들에게 씻을 수 없는 큰 상처를 입힌 장본인”이라며 “과거 회장 경쟁을 앞두고 전 정권 실세를 수시로 만나는 등 포스코 노조가 신임 회장 조건으로 제시한 ‘외풍을 받지 않을 것’에 자유로울 수 없는 인물”이라고 밝혔다. 이와 관련 범대위는 포스코홀딩스 대주주인 국민연금공단에 장 전 사장의 회장 선임 무효화 등을 촉구했다.
  • 개그우먼과 연기하며 예방책 홍보한 보이스피싱 합수단장…“통신사 등 투자·노력 절실”

    개그우먼과 연기하며 예방책 홍보한 보이스피싱 합수단장…“통신사 등 투자·노력 절실”

    “피해자들이 보이스피싱에 당하는 이유는 범인들이 스미싱(문자메시지+피싱)을 통해 사전에 개인정보를 빼간 뒤 이를 바탕으로 전화를 걸기 때문입니다. 휴대전화에 저장된 지인 이름은 물론 은행 계좌번호 등 내밀한 정보까지 알고 접근하기에 깜박 속는 겁니다. 금융당국이 선전하는 것처럼 모르는 사람으로부터 전화가 걸려오면 ‘늘·꼭·또’를 꼭 기억하십시오. ‘늘’ 의심하고, ‘꼭’ 전화끊고, ‘또’ 확인하는 방법밖에 없습니다.” 김수민 서울동부지검 보이스피싱범죄 정부합동수사단장은 지난 7일 서울신문과 만나 “인공지능(AI)을 이용해 보이스피싱이나 스미싱 문자를 필터링하는 시스템이 고도화되고 있지만 이를 피하는 방법도 계속 출현하고 있어 발 빠른 대책이 필요하다”며 “은행이나 통신사가 고객을 대상으로 문자나 앱 알림 등을 통해 신종 수법에 대한 주의 메시지를 전송해 알려주는 게 가장 효과적”이라고 진단했다. 김 단장은 “보이스피싱 조직이 스미싱 문자를 뿌리기 위해 해외문자발송 사이트를 이용<서울신문 2월 5일자 9면>하는 가장 큰 이유는 발신번호 변경이 가능하고 한국인터넷진흥원(KISA)이나 통신 3사의 스팸문자 차단 필터링을 우회할 수 있기 때문”이라며 “이를 막을 수 있는 통신사의 투자와 노력이 더 절실하다”고 했다. “미국의 경우 가상납치 형태의 보이스피싱 범죄가 주로 발생하고 있습니다. 자녀 등을 납치했다고 속여 가족으로부터 돈을 받아챙기는 거죠. AI를 통해 합성된 사진이나 영상을 가족들에게 보내 자녀가 납치됐다고 가장하기도 합니다. 중국에서도 위챗 등을 통해 간편 송금 시스템이 활발하게 운영되고 있어 허위 투자나 자산관리, 물품 구매, 고객 서비스 등을 빙자한 보이스피싱 피해가 많이 발생하고 있습니다. 우리도 이런 형태를 주의해야 합니다.” 김 단장은 최근 대검찰청 유튜브인 ‘검찰나우’에 개그맨 심문규·이수지씨 등과 출연해 보이스피싱 신종 수법과 예방책을 홍보하기도 했다. 심씨가 김 단장을 사칭해 보이스피싱범을 연기하자 김 단장이 “내가 김 단장”이라며 그를 잡는 연기를 했다. 김 단장은 “촬영 당시 기온이 영하 14도까지 떨어졌는데 녹음기에 소음이 들어가는 걸 막기 위해 난방장치를 껐다”며 “핫팩 2개를 몸에 붙이고 연기한 기억이 난다”고 웃었다. 김 단장은 “검사가 유튜브에 출연하는 게 흔치는 않은 일이지만 국민에게 조금이라도 더 예방법을 알려야겠다는 생각에 응했다”며 “앞으로도 피해예방을 위한 홍보영상 등을 제작해 지속적으로 국민에게 알리겠다”고 말했다.
  • ‘그놈 목소리’ 분석 모델로 보이스피싱 꽉 잡았다[폴리시 메이커]

    ‘그놈 목소리’ 분석 모델로 보이스피싱 꽉 잡았다[폴리시 메이커]

    최근 5년간 국내에서 발생한 보이스피싱 피해 건수는 총 15만 6000여건, 피해액은 3조원에 이른다. 갈수록 수법이 교묘해지지만 사실상 속수무책이었다. 하지만 지난해 2월 행정안전부가 보이스피싱 음성분석 모델 ‘케이봄’(Korea-Voice Analysis Model)을 개발한 이후 변화의 조짐이 감지되고 있다. 케이봄을 만드는 데 앞장선 이는 2022년 부임한 김철(46·행정고시 50회) 행안부 통합데이터분석센터장이다. 김 센터장은 6일 “전에는 러시아, 영국 프로그램을 사용했지만 정확도가 낮아 어려움이 있었다”면서 “우리만의 음성분석 모델을 만들자는 의견이 모였고 2022년 8월 개발에 착수했다”고 설명했다. 음성분석 모델은 인공지능(AI)을 활용해 보이스피싱범의 목소리를 수많은 음성데이터와 비교하는 시스템이다. 음성을 잘 구분하려면 AI가 데이터를 학습하는 과정이 필요했다. 김 센터장은 “우선 6000명에게서 추출한 100만개의 음성을 케이봄에게 학습시키는 데 집중했다”며 “지금은 범죄자 음성데이터 1만 5000여개를 수사에 활용하고 있다”고 말했다. 이후 경찰과 소통하며 케이봄을 안착시키고자 노력했다. 5개월에 걸친 논의 끝에 경찰 수사지원시스템에 케이봄을 적용해 현장에서 언제든 시스템에 접속할 수 있도록 했다. 김 센터장은 케이봄이 해외 프로그램보다 판독률이 77%가량 높아 큰 도움이 되고 있다고 자부했다. 지난해 5월 경기남부경찰청은 케이봄으로 보이스피싱 범죄자 5명을 적발했다. 이어 통화 및 계좌 내역 조사, 폐쇄회로(CC)TV 등을 확인한 끝에 10월 일당 46명을 추가 검거했다. 김 센터장은 “끊임없이 지능화하는 범죄 형태에 맞게 케이봄을 고도화할 계획”이라며 “보이스피싱뿐 아니라 전세사기 등 다양한 음성 범죄 수사에 활용될 예정”이라고 말했다.
  • 가짜 목소리에 ‘혼란’… 음란 사진에 ‘경악’, 바이든 이어 스위프트도 딥페이크에 당해

    가짜 목소리에 ‘혼란’… 음란 사진에 ‘경악’, 바이든 이어 스위프트도 딥페이크에 당해

    조 바이든 미국 대통령 행세를 한 가짜 목소리로 혼란을 일으키더니 이번엔 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란한 이미지가 온라인상에 퍼져 팬들의 공분을 사고 있다. 이미지는 인공지능(AI) 도구로 생성된 것으로 추정돼 관련 규제를 강화해야 한다는 목소리가 커지고 있다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송에 따르면 최근 스위프트 얼굴이 합성된 성적 수위가 높은 이미지가 소셜미디어(SNS)에 퍼졌다가 삭제됐다. 이미지의 최초 출처는 불분명하지만 주로 X(옛 트위터)에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. 이 이미지는 삭제 전까지 조회수 4700만회를 웃돌 정도로 빠르게 확산했다. X는 성명에서 “해당 이미지를 게시한 계정에 대해 적절한 조처를 했다. 추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 이미지 공유를 한때 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 함께 관련 키워드를 더해 올리며 이미지 검색을 어렵게 만들기 위해 노력했다. 사이버보안업체 리얼리티 디펜더는 이 이미지가 AI 딥러닝을 이용한 합성기술인 딥페이크로 생성된 것으로 확신한다고 NYT에 밝혔다. 일부 전문가는 마이크로소프트(MS)의 AI 생성 프로그램인 ‘디자이너’로 만들어졌다고도 지적하면서 MS는 관련 조사를 벌이고 있다. 앞서 미국 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 22일 민주당 당원들에게 바이든 대통령의 가짜 목소리를 담은 전화가 걸려오기도 했다. 바이든 대통령 목소리를 닮은 로보콜(자동녹음 전화)은 통화 상대에게 “당신의 표를 11월(대선)을 위해 아껴 두라. 이번 투표는 도널드 트럼프 공화당 후보를 다시 선출하게 만들 뿐”이라며 투표하지 말 것을 권유했다. 특히 바이든 대통령이 즐겨 쓰는 ‘정말 말도 안 되는 소리’(What a bunch of malarkey)로 시작해 유권자들을 혼동에 빠트렸다. 이번 일로 AI를 이용한 가짜 이미지 생성에 더욱 강한 규제가 필요하다는 여론이 거세다. 현재 미국 9개 주에서는 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만 연방정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 이미지 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 “끔찍하다. 이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 사티아 나델라 MS 최고경영자(CEO)도 NBC 방송과 한 인터뷰에서 스위프트의 딥페이크 사건과 관련해 “누구도 콘텐츠 제작자와 소비자 모두에게 안전하지 않은 온라인 세상을 원하지 않는다”면서 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”고 밝혔다.
  • 테일러 스위프트도 당했다…노골적 음란물 유포

    테일러 스위프트도 당했다…노골적 음란물 유포

    팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.
  • 단돈 5만원 벌려고 마약 운반했다 징역 20년 선고받은 남성[여기는 동남아]

    단돈 5만원 벌려고 마약 운반했다 징역 20년 선고받은 남성[여기는 동남아]

    단돈 100만동(약 5만4000원)을 벌기 위해 헤로인을 배달하다 체포된 베트남 40대 남성이 징역 20년형을 선고받았다. 뚜오이째를 비롯한 베트남 현지 언론에 따르면, 베트남 중부 응에안성 인민법원은 지난 24일 열린 1심 재판에서 마약 운반 혐의로 구속 기소된 A(45,남)씨에게 징역 20년을 선고했다. 중학교 체육 교사였던 A씨는 교사 자격도 박탈당했다. A씨는 지난해 9월 18일 지인의 장례식에 참석했다 돌아오는 길에 한 라오스 남성을 만났다. 라오스 남성은 A씨가 돌아가는 목적지를 확인한 뒤 같은 마을에 물건을 배달해 주면 100만동을 주겠다고 약속했다. A씨는 이에 동의하고 물건을 받았다. 하지만 30분가량 오토바이를 타고 자택이 있는 마을로 향하던 중 경찰의 검색에 걸려 헤로인을 압수당하고, 현장에서 체포됐다. 법정에서 A씨는 “내가 한 일을 후회한다. 교사 자격도 잃고, 가정도 파탄 났다”면서 “가족을 위해 다시 한번 기회를 달라”고 선처를 호소했다. 하지만 재판부는 마약 밀매 혐의를 적용해 징역 20년을 선고했다. 당국은 A씨에게 헤로인을 건넨 라오스인의 신원을 조사 중이다. 한편 베트남은 마약 범죄를 엄격하게 처벌하고 있다. 헤로인 600g 이상 또는 필로폰 2.5㎏ 이상을 소지하거나 밀반입하다가 적발되면 사형에 처한다. 지난해 1월부터 10월까지 마약 범죄로 사형을 선고받은 사람은 최소 189명에 이른다. 이종실 동남아 통신원 litta74.lee@gmail.com
  • 에이즈 알고도 미성년자들과 성관계…30대 남성의 최후 [여기는 동남아]

    에이즈 알고도 미성년자들과 성관계…30대 남성의 최후 [여기는 동남아]

    후천성 면역결핍증(에이즈, HIV)에 걸린 사실을 숨기고, 미성년자 3명과 성행위를 한 싱가포르 남성에게 중형이 선고됐다. 23일 더스트레이츠타임스에 따르면 싱가포르 고등법원은 이날 미성년자 성범죄 혐의로 기소된 자칭 종교 교사 A씨(35,남)에게 징역 21년 6개월과 태형 8대를 선고했다. A씨는 비디오 게임이나 소셜미디어(SNS)를 통해 소년들에게 접근한 것으로 드러났다. 그는 2014년부터 소년들에게 중고 게임기나 게임 크레딧 등을 주면서 친분을 쌓은 뒤 성범죄를 저질렀다. 그의 범행은 지난해 9월 싱가포르 창이 해변 인근을 순찰하던 경찰이 두 명의 소년과 함께 있던 A씨의 행동이 수상쩍어 조사하던 중 밝혀졌다. 경찰은 A씨의 휴대폰에서 아동 음란물과 구강 성행위를 위해 75달러를 제공하겠다는 등의 문자메시지를 발견해 현장에서 체포했다. A씨는 법정에서 본인의 범죄 행위를 시인했다. 그가 성행위를 저지른 피해자 3명은 16세 미만의 미성년자였고, 이 중 2명은 14세 미만에 불과했다. 또한 A씨는 본인이 에이즈에 걸린 뒤에도 이 사실을 알리지 않고 성관계를 한 혐의도 양형에 참작됐다. A씨는 이집트 유학을 마치고 귀국한 뒤 2013년부터 종교 및 아랍어 가정 교사로 일해왔던 것으로 알려졌다. 경찰 조사 결과, A씨는 소아성애자 진단을 받았으며, 재범 위험성도 높은 것으로 나타났다. 검찰은 A씨에게 징역 24년과 태형 8대를 요구했지만, 변호인 측은 “A씨는 신체적으로 허약하고 HIV 양성 환자이기 때문에 태형은 적절치 않다”고 주장했다. 검찰은 “가해자의 무책임한 성행위로 인해 피해자들이 성병에 노출되었다”면서 강한 처벌을 요구했다. 실제로 첫 번째 피해자인 B군은 A씨와 성관계를 가진 후 2019년 7월에 HIV 양성 반응을 보였다. 하지만 A씨는 본인이 HIV에 걸린 사실을 안 뒤에는 B군과 성관계를 갖지 않았다고 주장했다. 23일 재판부는 A씨에게 미성년자에 대한 성행위 및 HIV 감염 사실을 고지하지 않고 무분별한 성행위를 한 점 등을 고려해 징역 21년 6개월과 태형 8대를 선고했다. 이종실 동남아 통신원 litta74.lee@gmail.com
위로