#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인되면서 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른 AI 연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니, 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만, 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 어플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수도 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 북한이 딥페이크 영상을 유포해 총선 앞 국론 분열을 노려 공격에 나설 수 있다는 의미다. 영국 옥스포드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업이 필요하다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

총기 소지가 불법인 중국에서 충격적인 총기난사 사건이 발생했지만 당국은 언론을 통제하며 이를 쉬쉬하는 분위기다. 미국 자유아시아방송(RFA)의 12일(이하 현지시간) 보도에 따르면, 중국의 설 명절인 춘절 연휴였던 지난 10일 산둥성(省) 르자오시(市)의 한 농촌에서 중년 남성이 사제 총기와 흉기로 주민들을 공격하는 사건이 발생했다. 이름이 공개되지 않은 이 남성은 직접 만든 것으로 추정되는 총기를 이용했으며, 이후 흉기까지 사용하면서 10여 명의 사상자가 발생했다. 정확한 사망자 수는 공개되지 않은 가운데, 해당 남성은 사건 발생 당일 현지의 공무원 주택단지를 침입했던 것으로 알려졌다. 이 때문에 사상자 가운데는 공무원뿐만 아니라 구급대원과 경찰도 포함됐다는 보도가 나왔다.다만 엑스(옛 트위터) 계정에는 한 사용자(아이디 李老師不是你老師)가 12일 “범인은 30대 남성으로 어린 시절 삼촌에게 입양돼 키워졌으며 약간의 장애를 가지고 있었다”면서 “사망자 가운데에는 두 가족이 포함돼 있으며, 그중 한 명은 어린이”라는 내용의 글을 올렸다. 이어 “또 다른 희생자는 범인의 학교 선생님이며, 범인은 개조한 사제 총을 사용했다. 의료진 한 명도 범인의 총격에 숨졌다”고 주장했다. 현지 SNS에는 무장한 군인들이 야간에 집결한 사진이 유포되고 있지만, 해당 사진의 구체적인 장소와 시간 등의 배경은 알려지지 않았다.해당 소식은 사건 발생 이튿날인 11일과 다음 날인 12일 현지 매체인 봉황망에 보도됐지만, 현재 해당 기사들은 모두 삭제된 상태다. 중국 대형 포털사이트 왕이에서도 관련 기사가 한 때 검색됐지만, 역시 현재는 모두 검색이 불가한 상황이다. 이와 관련해 RFA는 “사건이 발생한 현지 공무원과 응급구조센터 등에 전화로 문의했지만, 그쪽에서는 ‘대답하기 어렵다’거나 ‘관련 소식을 알지 못한다’라는 답만 들려줬다”고 보도했다. 한편, 중국에서 총기 난사 또는 총격 사건은 좀처럼 보기 드물다. 총기 규제가 엄격하기로 유명한 중국은 매년 미국에 15만 정의 총기를 수출하면서도 자국 내에서는 실물과 유사한 장난감 총을 소지하는 것만으로도 처벌을 받을 수 있다. 다만 인터넷 등을 통해 사제 총기 제조법 등을 쉽게 접할 수 있게 되면서 최근 몇 년 새 총기를 불법 제조하거나 유통하는 거대 조직이 적발되는 등 총기 위협이 커지고 있다.

성관계 장면을 불법 촬영하고 피해자에게 2차 가해를 한 혐의로 축구선수 황의조(32)씨가 검찰에 넘겨졌다. 황씨 측 변호인 김모씨도 불법 촬영 피해자의 신상을 공개한 혐의(성폭력처벌법상 비밀누설)로 송치됐다. 서울경찰청 사이버수사과는 8일 황씨를 성폭력처벌법상 카메라 등을 이용한 촬영과 소지 등의 혐의로 서울중앙지검에 불구속 송치했다고 밝혔다. 황씨는 성관계 상대방을 불법 촬영한 혐의로 경찰 조사를 받았다. 그 과정에서 황씨는 지난해 11월 낸 입장문에서 피해 여성의 신분을 특정할 수 있는 내용을 언급하며 2차 가해 혐의를 받는다. 당초 황씨는 지난해 6월 황씨의 전 연인이라고 주장하며 황씨와 여성들의 모습이 담긴 사진과 동영상을 소셜미디어(SNS)에 게시한 A씨를 협박 등의 혐의로 경찰에 고소했다. 그러나 경찰은 황씨가 성행위 영상을 불법적으로 촬영한 정황을 포착해 황씨를 피의자 신분으로 전환했다. 해당 영상을 온라인에 유포하며 황씨를 협박한 혐의를 받는 황씨의 형수는 지난해 12월 구속 기소돼 재판을 받고 있다. 황씨는 “연인과 합의된 영상”이라고 주장하며 혐의를 전면 부인하고 있다. 하지만 피해자의 변호사가 공개한 통화 내용에는 피해자가 황씨에게 “내가 싫다고 분명히 얘기를 했잖아”라고 말하는 내용 등이 담겼다. 한편 황씨 측은 수사팀을 공무상비밀누설 등의 혐의로 검찰에 고발할 계획인 것으로 알려졌다.

피해자 2차 가해 혐의 추가…변호인 함께 송치 성관계 장면을 불법 촬영하고 피해자를 2차 가해한 혐의로 축구선수 황의조(32)씨가 검찰에 넘겨졌다. 황씨 측 변호인 김모씨도 불법촬영 피해자의 신상을 공개한 혐의(성폭력처벌법상 비밀누설)로 함께 송치됐다. 서울경찰청 사이버수사과는 8일 황씨를 성폭력처벌법상 카메라 등을 이용한 촬영과 소지 등 혐의로 서울중앙지검에 불구속 송치했다고 밝혔다. 황씨는 성관계 상대방을 동의 없이 불법 촬영한 혐의로 경찰 조사를 받았다. 그 과정에서 황씨는 지난해 11월 법무법인을 통해 낸 입장문에서 피해 여성의 신분을 특정할 수 있는 내용을 언급하며 피해자에게 2차 가해를 저지른 혐의를 받는다. 당초 황씨는 지난해 6월 황씨의 전 연인이라고 주장하며 황씨와 여성들의 모습이 담긴 사진과 동영상을 소셜미디어(SNS)에 게시한 A씨를 협박 등 혐의로 경찰에 고소했다. 그러나 경찰은 황씨가 성행위 영상을 불법적으로 촬영한 정황을 포착해 황씨를 피의자 신분으로 전환했다. 해당 영상을 온라인에 유포하며 황씨를 협박한 혐의를 받는 황씨의 형수는 지난해 12월 구속기소돼 재판을 받고 있다. 황씨는 “연인과 합의된 영상”이라고 주장하며 혐의를 전면 부인하고 있다. 하지만 피해자의 변호사가 공개한 통화 내용에는 피해자가 황씨에게 “내가 싫다고 분명히 얘기를 했잖아”라고 말하는 내용 등이 담겼다. 한편 황씨 측은 전날 수사 정보 유출 의혹을 제기하며 서울경찰청 청문감사인권담당실에 수사관 기피 신청서를 제출했으나 사건 송치로 각하될 예정이다. 황씨 측은 지난달 17일에도 경찰의 출국금지에 반발해 ‘과잉 수사로 경기에 참여하지 못했다’는 취지로 수사관 기피 신청서를 경찰에 제출했으나 각하됐다. 황씨 측은 수사팀을 공무상비밀누설 등 혐의로 검찰에 고발할 계획으로 알려졌다.

참여연대 회계사 출신인 김경율 국민의힘 비상대책위원이 1일 노무현 재단 건물 건축비 문제와 무소속 윤미향 의원이 상임대표를 지낸 ‘한국정신대문제대책협의회’(정대협)의 보조금 관련 의혹을 제기했다. 김 비대위원은 더불어민주당을 향해 “저를 허위사실 유포로 고소 부탁드린다”고 했다. 김 비대위원은 이날 서울 영등포구 중앙당사에서 열린 비상대책위원회의에서 노무현 시민센터·노무현재단 기념관의 평당 건설비가 지나치게 높게 책정됐다는 점을 지적했다. 김 비대위원은 “노무현 시민센터·노무현재단 기념관이 서울과 김해 두 군데에 지어졌는데, 두 군데의 평당 건축비가 서울이 평당 2100만 원이다. 김해는 1660만 원이다”라고 말했다. 이어 김 비대위원은 “평당 2100만원짜리 건설비는 들어보지도 못했다. 당시 노무현시민센터가 종로에 건설될 때쯤 서울 강남의 고급 아파트에 인테리어 포함해 여러 부대시설, 식당·헬스시설·조경 다 포함해서 평당 500만원이다”면서 “여러 차례 소셜미디어(SNS) 등을 통해서 문제를 제기했고, 이에 대해서 당시 유시민 노무현재단 이사장, 현 노무현재단 이사장, 그리고 책임 있는 민주당의 답변은 단 한 차례도 들어본 적이 없다”고 언급했다. 김 비대위원은 또 윤 의원이 상임대표를 지낸 정대협의 보조금 문제도 짚었다. 그는 “국고보조금 5억원을 신청하면서 본인들 정대협은 19억원을 내겠다는 건데, 통장을 보시면 5억원만 들어와 있다”면서 “국가가 제공한 5억원만 들어와 있지 자부담금 19억원은 없다”고 설명했다. 김 비대위원은 “한동훈 위원장께 문제를 제기해 보면 이거 검찰에서 기소된 바 없다”며 “제발 민주당은 저를 허위사실 유포로 고소 부탁드린다”고 발언했다. 김 비대위원의 발언이 끝나자 한 위원장은 “저 분 저런 거 하라고 제가 모신 거라는 말씀을 드린다”며 “수십 년째 운동권 경력으로 끼리끼리 주고받으며 특권 정치를 기득권으로 계속해 오는 과정에서 이분들이 부패해졌다. 운동권 특권 정치가 부패했기 때문에, 자기들 끼리끼리의 정치를 하기 때문에 그런 차원에서 청산해야 한다는 생각을 다잡았다”고 강조했다.

팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

인공지능(AI)의 민주주의 위협이 현실화하고 있다. 미국 대선 후보 경선이 진행되는 가운데 조 바이든 대통령을 사칭해 뉴햄프셔주 프라이머리(예비선거) 불참을 권하는 딥페이크 음성이 유포돼 주정부가 지난 22일(현지시간) 수사에 착수했다. 대선 경선이 시작된 이후 AI를 악용한 허위 정보 유포에 대한 첫 수사다. 미국에서는 최소 13개 주가 AI를 활용한 콘텐츠로 선거 관련 허위 정보가 퍼지는 일을 막기 위한 법을 추진하고 있다. 영국 일간 파이낸셜타임스에 따르면 지난해 영국, 인도, 나이지리아, 수단 등에서 정치와 관련해 음성 조작으로 의심되는 사례가 나왔다. 생성형 AI가 발전할수록 음성 조작 메시지, 딥페이크 영상 등 허위 정보를 퍼트려 상대방을 공격하는 일이 쉬워진다. 올해 전 세계 50개국 이상에서 선거가 치러지니 AI를 악용한 허위 정보가 더 범람할 것이다. 우리나라는 북한과 중국 변수도 있다. 국가정보원은 중국이 국내 언론사로 위장한 사이트를 200여개 개설, 이를 통해 친중·반미 성향 콘텐츠를 게시하고 소셜미디어(SNS)로 확산시켰다고 의심하고 있다. 지난해 공공기관에 대한 해킹 시도가 하루 평균 162만여건인데 이 중 80%가 북한 소행이다. 중국은 건수로는 5%지만 피해 심각도를 고려하면 21%란다. 총선을 앞두고 선거 개입 및 정부 불신을 조장하는 행위가 더욱 기승을 부릴 것이다. 국내에서는 공직선거법에 따라 오는 29일부터 딥페이크를 활용한 선거운동이 금지된다. 이는 처벌 근거 마련에 불과하다. 뉴스 콘텐츠를 대량 유통하는 대형 포털의 책임 있는 자세가 필요하다. 허위 정보 차단의 첨병은 유권자들이다. 팩트체크 기능을 선거운동 기간만이라도 공공기관과 대형 포털 중심으로 강화해 유권자의 올바른 선택을 돕자.

지난해 공공기관을 대상으로 한 국제 해킹조직의 사이버 공격 시도가 하루 평균 162만여건으로 2022년(119만건)보다 36% 증가했다. 특히 북한과 중국 해킹조직에 의한 공격이 전체의 90%에 달한 것으로 파악됐다. 국가정보원은 24일 경기 성남시 국가사이버안보협력센터에서 기자간담회를 갖고 “북한의 공격 건수가 80%로 가장 많았고 중국은 5%였다”면서 “피해의 심각도를 반영하면 북한이 68%, 중국이 21%로 중국의 비중이 크다”고 밝혔다. 국정원 분석 결과 북한 해킹조직은 ‘김정은 지시’에 따라 빠르게, 중국 해킹조직은 천천히 깊숙이 공격하는 특징을 보였다. 지난해 초 김정은 북한 국무위원장이 식량난 해결을 지시하자 해커들은 국내 농수산기관 3곳을 공격해 식량연구자료를 빼갔다. 지난해 8~9월 김 위원장의 해군력 강화 지시 이후엔 국내 조선업체 4곳을 해킹해 도면과 설계자료를, 10월 무인기 생산 강화를 지시하자 국내외 업체에서 무인기 엔진 자료를 각각 수집했다. 김 위원장의 관심과 지시에 따라 빠르게 목표물을 바꿔 움직인 것이다. 국정원은 또 북한이 2020년부터 지난해까지 4년간 한국을 포함해 최소 25개국의 방산 분야를 해킹했다고 밝혔다. 해킹 시도 분야는 항공(25%), 전차(17%), 위성(16%), 함정(11%) 순이었다. 특히 북한은 우방국인 러시아 방산업체를 여러 차례 해킹했다. 북한이 개발한 전차와 지대공 미사일은 해킹으로 빼낸 설계도면 등을 활용해 러시아산과 매우 유사한 것으로 국정원은 보고 있다. 중국은 천천히, 은밀하게 침투해 생존력을 높였다. 일부 해커는 한 국내업체의 서버를 해킹하고 공개 소프트웨어(SW)로 위장한 악성코드를 숨겨놨다가 수년에 걸쳐 여러 고객사를 해킹했다. 중국인으로 추정되는 해커가 국내 기관이 사용하는 위성통신 신호를 수집·분석한 뒤 정상 장비인 것처럼 위장해 지상의 위성망 관리시스템에 무단으로 접속하고 최초로 정부 행정망을 침투하려다 적발되기도 했다. 중국 언론홍보 업체들이 국내 언론사로 위장한 사이트 200여개를 열어 친중·반미 성향 콘텐츠를 올린 뒤 소셜미디어(SNS) 인플루언서를 통해 확산시킨 정황도 확인됐다. 국정원은 특히 ‘슈퍼 선거의 해’인 올해 북한이 선거 개입과 정부 불신 조장을 위한 가짜뉴스 유포나 선거시스템 해킹 공격 가능성이 크다고 전망했다. 백종욱 국정원 3차장은 “남북관계가 경색되고 대남 비난 강도가 높을 때 사이버 공격이 잇따라 발생했다”고 말했다.

지난해 공공기관을 대상으로 한 국제 해킹조직의 사이버 공격 시도가 하루 평균 162만여건으로 2022년(119만건)보다 36% 증가했다. 특히 북한과 중국 해킹조직에 의한 공격이 전체의 90%에 달한 것으로 파악됐다. 국가정보원은 24일 경기 성남시 국가사이버안보협력센터에서 기자간담회를 갖고 “북한의 공격 건수가 80%로 가장 많았고 중국은 5%였다”면서 “피해의 심각도를 반영하면 북한이 68%, 중국이 21%로 중국의 비중이 크다”고 밝혔다. 국정원 분석 결과 북한 해킹조직은 ‘김정은 지시’에 따라 빠르게, 중국 해킹조직은 천천히 깊숙이 공격하는 특징을 보였다. 지난해 초 김정은 북한 국무위원장이 식량난 해결을 지시하자 해커들은 국내 농수산기관 3곳을 공격해 식량연구자료를 빼갔다. 지난해 8~9월 김 위원장의 해군력 강화 지시 이후엔 국내 조선업체 4곳을 해킹해 도면과 설계자료를, 10월 무인기 생산 강화를 지시하자 국내외 업체에서 무인기 엔진 자료를 각각 수집했다. 김 위원장의 관심과 지시에 따라 빠르게 목표물을 바꿔 움직인 것이다. 국정원은 또 북한이 2020년부터 지난해까지 4년간 한국을 포함해 최소 25개국의 방산 분야를 해킹했다고 밝혔다. 해킹 시도 분야는 항공(25%), 전차(17%), 위성(16%), 함정(11%) 순이었다. 특히 북한은 우방국인 러시아 방산업체를 여러 차례 해킹했다. 북한이 개발한 전차와 지대공 미사일은 해킹으로 빼낸 설계도면 등을 활용해 러시아산과 매우 유사한 것으로 국정원은 보고 있다. 중국은 천천히, 은밀하게 침투해 생존력을 높였다. 일부 해커는 한 국내업체의 서버를 해킹하고 공개 소프트웨어(SW)로 위장한 악성코드를 숨겨놨다가 수년에 걸쳐 여러 고객사를 해킹했다. 중국인으로 추정되는 해커가 국내 기관이 사용하는 위성통신 신호를 수집·분석한 뒤 정상 장비인 것처럼 위장해 지상의 위성망 관리시스템에 무단으로 접속하고 최초로 정부 행정망을 침투하려다 적발되기도 했다. 중국 언론홍보 업체들이 국내 언론사로 위장한 사이트 200여개를 열어 친중·반미 성향 콘텐츠를 올린 뒤 소셜미디어(SNS) 인플루언서를 통해 확산시킨 정황도 확인됐다. 국정원은 특히 ‘슈퍼 선거의 해’인 올해 북한이 선거 개입과 정부 불신 조장을 위한 가짜뉴스 유포나 선거시스템 해킹 공격 가능성이 크다고 전망했다. 백종욱 국정원 3차장은 “남북관계가 경색되고 대남 비난 강도가 높을 때 사이버 공격이 잇따라 발생했다”고 말했다. 국정원은 관계기관과 협력을 통해 선거철 ‘정부 흔들기’를 위한 공격에 대응하고 전문 연구소 설립 등을 통해 AI 활용 해킹 등에 대한 대응할 계획이다. 지난해 7~9월 투·개표 관리 시스템의 해킹 취약점이 다수 발견된 것과 관련, 전날 선거관리위원회의 합동 보안점검 후속 보안 조치의 적절성 여부 확인에 들어갔다. 또 북한 해킹그룹의 대법원 전산망 해킹 피해 범위와 공격 주체 등을 파악하기 위해 지난 22일부터 법원행정처와 현장 조사를 진행하고 있다. 백 차장은 “정부 전산망 장애 발생 시 해킹 가능성을 배제하지 않고 사고 초기부터 적극 관여해 대응할 것”이라고 강조했다.

경찰이 불법 촬영과 2차 가해 혐의를 받는 축구선수 황의조(32)씨와 관련해 불법 촬영물 여러 개가 있는 정황을 포착한 것으로 파악됐다. 피해자 측은 해당 영상에 대해 ‘촬영에 동의하지 않았거나 촬영 자체를 몰랐다’며 황씨에 대한 신속 수사를 요구했다. 22일 서울신문 취재를 종합하면 서울경찰청 사이버수사대는 황씨가 소환조사를 위해 입국했던 지난 10일 황씨의 휴대전화와 노트북을 압수해 포렌식 작업을 진행하고 있다. 지난해 12월 휴대전화 4대, 노트북 1대를 압수한 데 이어 추가로 압수물 분석이 이뤄진 것이다. 당시 황씨의 변호인은 “황 선수가 과거부터 현재까지 사용하던 휴대폰과 노트북 등 9대 이상의 전자기기를 모두 포렌식했으나 어떤 불법 촬영 영상도 발견되지 않았다”고 주장했다. 하지만 피해자 측 변호인은 “경찰에서 피해자가 촬영된 영상이 최소 5개 이상이라는 점을 파악했다”고 전했다. 해당 촬영물 가운데 황씨의 촬영 시도를 피해자가 알게 돼 촬영 중 즉시 피해자가 거부 의사를 밝힌 것도 있지만, 피해자가 촬영 사실을 전혀 몰랐던 것들도 있다는 게 피해자 측 변호인의 설명이다. 피해자 측은 불법 촬영물 다수에서 편집한 흔적이 있는 만큼 원본을 찾아 추가 유포 및 2차 가해를 막아야 한다는 입장이다. 반면 황씨는 경찰의 출국금지 조치에 반발해 ‘과잉 수사로 소속 팀에서 무단 이탈했다’는 내용의 수사관 기피 신청서를 경찰에 제출했다. 서울경찰청 관계자는 “추가 조사가 더 필요한데 그간 황씨가 계속 출석을 지연했다는 점 등을 고려해 출국금지 조치했다”면서 “황씨의 진술과 다른 관련자들의 진술을 종합해 분석 중이고 그에 따라서 추가 소환 여부를 검토하겠다”고 밝혔다. 앞서 황씨는 지난해 6월 ‘전 연인’이라고 주장하면서 황씨와 여성들의 모습이 담긴 사진 및 동영상을 한 소셜미디어(SNS)에 공유한 네티즌을 협박 등 혐의로 경찰에 고소했다. 경찰은 수사 과정에서 불법 촬영 정황을 발견하고 황씨를 피의자 신분으로 전환했다. 지난해 11월 첫 피의자 조사를 받은 황씨는 경찰의 출석 요구에 구단 사정 등을 이유로 응하지 않다가 지난 10일 입국해 12일과 15일 비공개로 경찰 조사를 받았다. 황씨는 경찰 조사에서 촬영 사실을 인정했지만 피해 여성이 촬영 사실을 알고 거부 의사를 밝히지 않아 불법은 아니었다는 주장을 반복한 것으로 알려졌다.

영화 ‘어벤져스: 에이지 오브 울트론’에는 인공지능(AI) 자비스에 바탕을 둔 ‘비전’에 관한 이야기가 나온다. 강력한 힘을 가진 이 새로운 존재가 아군인지, 적군인지, 더 나아가 통제가 가능할지 등을 놓고 고민한다. 다행히 영화 속 비전은 아군으로 활약했다. 하지만 많은 이가 전장의 AI로 비전보다는 영화 ‘터미네이터’에서 인류를 말살하려는 ‘스카이넷’을 떠올린다. #AI 활용 ‘군사 경쟁’ 가속표적 찾아 자폭·적 얼굴 인식딥페이크로 가짜 뉴스 제작 영화나 드라마에 나올 법한 존재로 여겨졌던 AI는 2022년 우크라이나·러시아 전쟁을 계기로 전쟁 양상을 완전히 바꿀 수 있는 존재로 다가왔다. 표적을 찾아 자폭하는 드론뿐 아니라 적군 병사를 인식하는 안면인식 기술부터 머신러닝을 활용한 군수 지원까지 몇 년 전만 해도 상상조차 할 수 없었던 각종 AI 기술이 현실화하고 있다. 무기 체계에만 AI를 활용하는 건 아니다. 전쟁 초기 소셜미디어(SNS)에서 볼로디미르 젤렌스키 우크라이나 대통령이 항복 성명을 발표하는 ‘딥페이크’(AI 기반 이미지 합성기술) 영상이 유포된 적이 있다. 같은 시기 블라디미르 푸틴 러시아 대통령이 평화를 선언하는 영상도 퍼져 나갔다. 지난해 이스라엘·하마스 전쟁 역시 AI가 전장을 어떻게 바꿀 수 있는지 보여 주는 사례로 꼽힌다. 이스라엘군은 드론 영상, 감청 자료, 감시 데이터, 움직임·행동 양상 데이터를 학습한 AI가 표적을 실시간으로 분석하고 선별하는 의사결정지원 시스템을 사용하고 있다. AI 기술이 지휘통제, 기동, 화력, 정보, 방호, 군수 등 전투 수행에 필요한 모든 영역에서 필수 불가결한 요소로 자리잡으면서 AI를 둘러싼 각국의 군사 경쟁도 거세지고 있다. #美 ‘CDAO’ 미래전 대비지휘통제에 AI 활용 계획로봇 전투차량·참모 개발 예컨대 미국 국방부는 2018년 합동인공지능센터(JAIC)를 창설했으며, 2022년 국방부 전체의 AI와 데이터 분석 등을 총괄하는 최고디지털인공지능국(CDAO)을 신설해 JAIC를 산하 조직으로 통합했다. 2022년 AI가 의사결정에 도움을 주는 합동전영역지휘통제(JADC2) 계획을 발표하고 기능별 하부 시스템을 마련하고 있다. 미 해군은 무인 자율주행 전함, 드론과 무인 수상함, 무인 잠수정이 임무를 수행하는 유·무인복합체계를 만들고 있고, 미 육군은 전투에 가장 적합한 경로를 직접 선택해 임무를 수행하는 로봇 무인 전투차량뿐 아니라 소부대용 AI 전투참모도 개발하고 있다. #한국도 국방혁신4.0 잰걸음지뢰탐지시스템 개발 완료연내 국방AI센터 창설 예고 우리 정부 역시 발걸음이 빨라지고 있다. 국방부는 2021년 인공지능추진전략을 수립한 데 이어 지난해 3월 발표한 국방혁신 4.0 기본계획을 통해 AI 기반 유·무인복합전투체계 등을 확보하고 올해 국방AI센터를 창설한다는 계획을 내놨다. 육군 관계자는 “최근 AI 융합 지뢰탐지시스템 개발을 완료했다. 올해부터 민간에서 보유한 다양한 AI 기술을 미래 지상전투체계인 ‘아미 타이거’에 시범 적용할 계획”이라면서 “앞으로 AI 기반 초연결 전투체계를 개발하는 것을 목표로 하고 있다”고 밝혔다. 조상근 카이스트 국가미래전략기술정책연구소 연구교수는 “군사 행동에서의 핵심은 감시, 결심, 대응이다. AI 기술이 이 세 가지를 하나로 결합하고 시간도 단축하고 있다”면서 “먼저 보고, 먼저 결심하고, 먼저 타격할 수 있다. 최종 선택을 할 시간을 단축해 준다”고 설명했다. 정홍용 예비역 육군 중장은 “AI를 적용하려면 충분한 데이터가 필요하지만 현재 국방 분야 데이터는 대부분 보안으로 묶여 있어 데이터 확보 자체가 어렵다”면서 “공개 자료에 기반한 텍스트, 동영상 등의 군사 자료에 대해 가공 과정을 거쳐 가상 데이터를 만든 뒤 민간 개발자들에게 제공함으로써 AI 개발 과정에서 충분히 활용할 수 있도록 지원해야 한다”고 제안했다. AI 기술 발전과 더불어 판단 오류로 인한 민간인 피해가 심각할 수 있다는 우려도 커지고 있다. 이스라엘군은 최첨단 AI 기술로 적군과 민간인을 구별할 수 있다고 했으나 가자지구 민간인 사상자는 1만명을 훌쩍 넘어섰다. AI가 전쟁에 개입하면서 책임 소재 논란이 불거지는 만큼 교전 윤리를 새롭게 만들어야 한다는 지적도 나온다. 안토니우 구테흐스 유엔 사무총장은 지난해 6월 기자회견에서 핵 감시 기구인 국제원자력기구(IAEA)처럼 AI를 감시하고 규제할 유엔 산하 기구를 구상하고 있다고 밝힌 바 있다.

‘남양주 10대 학생, 60대 경비원 폭행’ 영상이 사회관계망서비스(SNS)에 유포돼 논란이 확산하자, 처벌을 원치 않았던 피해자가 경찰 조사에서 처벌을 원하는 것으로 입장을 바꾼 것으로 전해졌다. 경기 남양주남부경찰서는 10대 A군과 B군을 상해와 정보통신망법상 명예훼손 등의 혐의로 검찰에 각각 송치할 예정이라고 16일 밝혔다. 경찰은 또 이날 진행된 피해자 2차 조사에서 경비원 C씨가 애초 “학생들의 처벌을 전혀 원치 않는다”는 입장을 바꿔 학생들의 처벌을 원한다고 진술했다고 전했다. 경찰 관계자는 “현재 피해자와 학생들의 조사가 끝나 법리 검토를 거쳐 검찰에 송치할 예정”이라며 “해당 사건과 별개로 피해 보복을 방지하기 위해 보호시설이나 소년원에 직접 송치하는 우범소년 송치제도도 검토하고 있다”고 말했다. 앞서 A군은 지난 12일 0시쯤 경기 남양주시 다산동의 한 상가에서 건물 경비원인 C씨를 넘어뜨리고 얼굴에 발길질하는 등 폭행했다. A군의 친구인 B군이 당시 폭행 장면을 촬영해 영상을 인스타그램에 올려,영상이 SNS를 통해 확산했다. 영상에는 C씨가 반항했지만, 속수무책으로 얻어맞았고 A군의 발차기를 맞아 정신을 잃고 그대로 바닥으로 쓰러져 3초간 기절하는 모습이 나오기도 한다. 경찰은 경비원 C씨가 건물 안에서 소란을 피우는 A군 일행을 훈계하는 과정에서 몸싸움이 일어난 것으로 파악했다.

“창피하기도 하고, 이거 더 살아서 뭐 하나(싶다).” 60대 경비원을 무차별 폭행한 10대 남학생이 경찰의 자체 조사 뒤 상해 혐의로 입건된 가운데, 문제의 폭행 장면을 담은 영상을 온라인에 올린 다른 남학생도 결국 명예훼손으로 고소당했다. 애초 “내 손주 같다”며 처벌을 원하지 않았던 경비원은 뒤늦게 자신이 폭행당하는 영상이 무차별 유포된 것을 알고 마음을 바꾼 것으로 알려졌다. 16일 경찰에 따르면 경기 남양주 남부경찰서는 A군의 상해 혐의 조사를 마치는 대로 검찰에 송치하는 한편, 폭행 과정을 영상으로 찍어 소셜미디어(SNS)에 올린 A군의 친구 C군에 대해서도 정보통신망법상 명예훼손에 해당하는지 조사 중이다. C군이 SNS에 올린 영상을 보면, 건장한 체격의 A군은 B씨의 허리를 밀어 넘어뜨린 뒤 축구공을 차듯 얼굴에 수차례 발길질하고 주먹도 휘둘렀다. A군의 발차기에 맞은 B씨는 결국 기절하듯 바닥에 쓰러져 움직이지 못했다. 해당 영상에는 C군의 웃음소리와 “대박” 같은 말소리도 함께 담겼다. JTBC에 따르면 앞서 A군 일당은 상가 앞에 파라솔을 넘어뜨리며 장난을 치다가 B씨로부터 꾸중을 들었던 상태였다고 한다. 이 과정에서 시비가 일었고 감정이 상했던 B씨는 “나도 화가 나니까 스파링하자(고 했다)”고 말했고 이후 본격적인 몸싸움이 시작됐다. 시민의 신고를 받고 경찰이 현장에 출동했지만 B씨는 쌍방폭행이라고 주장하며 처벌을 원치 않았다고 한다. B씨는 경찰에 “(A군이) 자신에게 사과했으며 재차 사과하겠다는 의사도 전달받았다”며 “학생의 처벌을 전혀 원치 않는다”고 진술한 것으로 전해졌다. 하지만 주말 사이 C군이 올린 폭행 영상이 온라인에 퍼지면서 일이 커졌다. 뒤늦게 자기 모습이 담긴 영상이 온라인상에 퍼진 사실을 안 B씨도 결국 학생들을 명예훼손 혐의로 고소했다.B씨는 “내 손주 같아서, 내 손주들도 어디 가서 사고 칠 수 있으니까 넘어가려 했다”며 “(그런데) 집에서 쉬는 사이에 인터넷에 뜨고 난리가 났다. 창피하기도 하고 이거 더 살아서 뭐 하나”라고 말했다. C군은 자신의 SNS에 해명하는 취지의 글을 올리기도 했다. C군은 “아니, ×× 난 말리러 간 거다. 경비 아저씨분이 스파링하자고 (제안해서) 체육관을 찾다가 다 (문을) 닫아서 지하 주차장 폐쇄회로(CC)TV 있는 곳에서 하자고 한 것”이라며 “(영상을) 찍으라고 하고 녹음도 켰다. 끝나고 잘 풀고 갔다”고 주장했다. B씨가 고소함에 따라 경찰은 영상을 올린 C군에게 정보통신망법상 명예훼손 혐의 적용을 검토하고 있다. A군에 대해서는 B씨가 기절할 정도로 폭행한 점에 비추어 반의사불벌죄에 해당하지 않는 상해 혐의 적용을 검토하고 있다.

고교 선배인 여대생에게 접근해 성폭행을 시도한 뒤 불법 촬영한 나체 동영상을 유포하겠다고 협박해 돈을 뜯어낸 혐의로 경찰이 고교생에 대해 수사에 나섰다. 15일 충남 공주경찰서는 동영상촬영유포 및 협박 혐의로 고등학교 3학년인 A(18)군에 대한 고소장을 접수했다고 밝혔다. 대학생인 피해자 B씨 등에 따르면 A군은 지난해 중순부터 고등학교 선배인 B씨에게 접근했다. 같은 해 10월에는 자기 집으로 B씨를 유인해 성폭행을 시도하기도 했다. 성폭행은 미수에 그쳤다. 그러나 이후 A군은 돈을 주지 않으면 B씨 나체를 촬영한 영상을 B씨 학교와 친구들에게 유포하겠다고 지속해서 협박해온 것으로 알려졌다. 지난달에는 B씨를 협박해 한 금융권으로부터 B씨 명의로 받은 대출금 500만원을 빼앗기도 한 것으로 전해졌다. 대출이자 미납 안내서가 집으로 발송되자 B씨 가족들도 피해 사실을 알게됐다. 지속적인 협박으로 지금까지 A군이 갈취한 피해금만 1000만원이 넘는 것으로 알려졌다. 가족들은 극도의 정신적 피해를 호소하고 있다. B씨 어머니는 연합뉴스에 “협박범이 딸 금융 플랫폼 계정도 알고 있어서 통장도 쓸 수 없는 상황이고, 소셜미디어(SNS)로 끔찍한 욕을 쏟아내며 협박을 이어오고 있다”며 “딸이 극단적 선택을 할까 봐 무섭고 둘째 딸은 개명까지 고민할 정도로 온 가족이 정신적인 고통을 받고 있다”고 호소했다. 실제로 B씨가 지난 12일 고소장을 접수한 뒤 연락처를 변경하자, A군은 B씨의 SNS에 욕설과 함께 ‘돈 구했어요?’, ‘급하다고 했지?’, ‘네 몸 ×× 팔리고 싶냐?’는 등의 협박성 메시지를 보냈다. 경찰은 정확한 피해 내용을 확인하는 한편 추가 피해자가 있는지도 조사를 벌이고 있다.

경기 남양주의 한 상가에서 70대 경비원을 폭행한 10대를 경찰이 상해 혐의로 입건했다. 지난 14일 YTN에 따르면 경찰은 경비원을 폭행한 A군을 상해 혐의로 입건하고 본격적인 수사에 나섰다. 또한 영상을 유포한 행위에 대해서도 정보통신망법상 명예훼손에 해당할 수 있다고 보고 혐의 추가 여부를 검토하고 있다. 앞서 지난 12일 인스타그램 등 소셜미디어(SNS) 등에는 10대 남성이 노인을 폭행하는 장면이 담긴 영상이 공유됐다. 사건은 이날 0시쯤 경기 남양주시 다산동의 한 상가에서 벌어졌다. 영상을 보면 건장한 체격의 10대가 흰머리가 희끗희끗한 노인에게 허리 태클을 시도해 넘어뜨린다. 이어 10대는 축구공을 차듯 발길질하고 주먹을 휘둘렀다. 노인은 아이의 행동을 막아보려고 하지만 전혀 상대가 되지 못하는 모습이다. 결국 노인은 10대의 발차기를 맞은 후 정신을 잃고 바닥으로 쓰러졌다. 영상에는 웃음소리와 “대박” 등의 소리가 함께 담겼다. 영상을 본 네티즌들은 “신상 공개해라”, “엄벌에 처해야 한다”, “소년이고 뭐고 죗값을 똑같이 받아야 한다” 등의 반응을 보이며 분노했다. 경비원은 경찰조사에서 “(A군이) 자신에게 사과했으며, 다시 사과할 예정”이라며 “학생의 처벌을 전혀 원치 않는다”고 진술했다. 그러나 경찰은 영상 속 경비원이 3초 가량 정신을 잃은 모습을 근거로 혐의 적용이 가능하다고 봤다. 부모님과 함께 경찰 조사에 출석한 A군은 자신의 행동을 뉘우치고 반성한다고 진술한 것으로 전해졌다. 온라인상에는 ‘사전에 합의된 스파링 결투였다’는 A군 친구의 주장도 나왔다. 경찰은 정확한 사실관계를 조사할 방침이다.

어반자카파 조현아가 악플러에 법적 대응을 예고했다. 조현아는 최근 방송에서의 발언을 두고 누리꾼의 불만이 이어지자 “마녀사냥”이라며 강경 대응을 선언했다. 조현아는 11일 방송된 ENA·SBS PLUS ‘나는 솔로, 그 후 사랑은 계속된다’에서 “난 남자는 하늘이야”라는 멘트를 던진 바 있다. 해당 방송에서 9기 옥순은 “(여자는) 서른 살 넘어가면서 저울이 기운다고 하지 않냐”는 남자 2호의 언급에 “저울이 기운다는 게 무슨 뜻이냐. 가지고 있는 역량에 따라 다른 건데 어떻게 남자와 여자를 일반적으로 묶어서 기울어진 운동장처럼 이야기 하냐”라고 반박했다. 이를 스튜디오에서 VCR로 지켜보던 경리는 9기 옥순의 의견에 동의했지만, 조현아는 “왜? 난 기울어져 있는데? 난 남아 선호 사상이야, 난 남자는 하늘이야”라고 농담했다. 이날 발언에 대해 한 누리꾼은 조현아의 소셜미디어(SNS)에 “시대착오적이면서 하나도 안 웃긴 멘트 칠 거면 하차 좀 하라. 안 그래도 과거 논란들 때문에 보기 좀 부답스럽고 거북스러운데 ‘남아 선호 사상’, ‘남자가 하늘이다’ 어쩌고, ‘나솔사계’에서 제발 안 보고 싶다”라는 댓글을 남겼다. 이에 조현아는 “농담 한 번 하니까 물어뜯을 거 생겨서 좋죠? 그리고 TV는 본인이 선택해서 보는 거다. 끄시면 된다”라고 반박했다. 그러면서 조현아는 인스타그램 스토리에 “과거 논란, 진실이 아니다”라며 “언급시 또 콘텐츠 유포시 고소한다. 분명히 경고한다”라는 글을 게시했다. 더불어 조현아는 “무분별한 정보와 깎아내리기식 마녀사냥, 허위사실 유포 및 모든 내용은 전부 법무법인에서 처리중”이라고 악플에 대한 법적대응을 시사했다.

이스라엘군의 차량이 하마스 대원으로 추정되는 시신을 짓밟고 지나가는 모습이 포착돼 논란이 되고 있다. 9일(현지시간) 소셜미디어(SNS)에 공개된 약 12초 분량의 영상을 보면 요르단강 서안 툴카렘의 한 도로 위에 숨진 것으로 보이는 남성이 누워 있다. 헤드라이트를 켜고 천천히 접근해온 이스라엘 군용 차량은 잠시 정차했다가 이내 오른쪽 앞바퀴로 시신을 친다. 속도를 줄이지 않은 차의 타이어에 걸린 시신은 수미터를 매달려 가다가 뒷바퀴에 마저 깔렸다. 길에는 이스라엘군의 차량이 시신을 밝고 주행한 경로를 따라 핏자국이 길게 이어졌다. 이 영상이 유포되자 이미 생명이 끊어진 시신에 대한 이스라엘군의 잔혹 행위에 대한 비판이 쇄도했다. 이에 대한 AFP통신 질의에 이스라엘군 관계자는 “영상에 나오는 작전 차량은 포화에 휩싸인 아군 병력을 구출하기 위해 출동했던 것”이라며 “본의 아니게 테러리스트의 시신 위로 달리게 된 것”이라고 해명했다. 이 관계자는 “영상에 전체 상황이 담기지 않았다”며 진상을 파악할 방침이라고 덧붙였다.

2023년 3월 도널드 트럼프 전 미국 대통령이 뉴욕 맨해튼에서 자신을 체포하려는 경찰과 싸우는 사진이 소셜미디어(SNS)에 광범위하게 유포됐다. 한 달쯤 지나 미 공화당 전국위원회는 조 바이든 대통령이 재선될 경우 일어날 수 있는 다양한 상상 속 재난의 모습을 보여 주는 광고를 공개했다. 지난해 11월에는 일본 SNS에 기시다 후미오 총리가 성적인 발언을 하는 영상이 유포돼 논란을 불렀다. 여름에 유튜브에 올라온 것인데 X(옛 트위터)를 타고 하루 만에 조회수 230만회를 훌쩍 넘겼다. 모두 인공지능(AI) 딥러닝을 기반으로 한 합성 기술인 딥페이크로 만든 영상과 이미지였다.문제는 세상에 없는 인물과 이미지를 만들어 내는 딥페이크가 더 방대한 정보가 투입되는 딥러닝을 통해 더 정교해지고 실존에 가까워진다는 점이다. 말하는 모양의 동영상을 만들고 실제 동영상에 입술 움직임만 바꿔 넣는 딥페이크 기술로 생성한 동영상을 X나 유튜브에 올리기만 하면 삽시간에 전 세계로 퍼져 나간다. 팩트체크를 통해 가짜뉴스로 판명되더라도 이미 누군가에게는 사실로 인식되고 있을 터. 이렇게 가짜뉴스를 퍼뜨리기 좋은 상황은 극단적인 정치 분열이 있을 때나 전쟁 상황에서 더 큰 효과를 발휘한다. 우크라이나·러시아 전쟁 초반인 2022년 3월 페이스북과 유튜브 등에 퍼진 볼로디미르 젤렌스키 우크라이나 대통령의 항복 영상이 단적인 예다. 직후 블라디미르 푸틴 러시아 대통령의 평화 선언 영상이 올라왔다. 둘 다 조작된 영상으로 밝혀지면서 메타와 유튜브 등 운영사는 원본 영상을 삭제했지만 여전히 흔적이 남아 있다.딥페이크를 이용한 가짜뉴스는 전 세계 주요 선거가 줄줄이 예정된 올해 특히 민주주의를 위태롭게 하는 요소로 꼽힌다. 미국 코넬대 세라 크렙스 교수와 더그 크리너 교수는 ‘AI는 어떻게 민주주의를 위협하는가’(민주주의 저널)라는 논문에서 한 실험 결과를 내놨다. 이들은 미국 주의원 7000여명에게 AI가 쓴 편지와 사람이 작성한 편지를 동시에 보냈는데, 사람이 직접 작성한 이메일의 응답률은 AI가 쓴 이메일보다 2% 정도 높은 수준에 불과했다. 이들은 “사람이 만든 진짜 정보와 AI가 생성한 가짜 정보를 구별할 수 없는 상황”이라면서 “허위조작정보를 받아들였다고 해서 유권자들의 선택이 반드시 바뀌는 건 아니지만 민주주의 사회 내 구성원들 간 신뢰를 저해하고 공론장을 왜곡할 수 있다”고 지적했다. 3개월 전 치러진 아르헨티나 대선에서는 상대 후보를 비방하려고 만든 홍보물에 생성형 AI가 마구잡이로 악용됐다. 당시 집권 좌파연합의 대선후보였던 세르히오 마사 경제장관은 극우 경제학자 출신 하비에르 밀레이 당시 후보(현 대통령)가 “(장기 매매 시장이 활성화되면) 아이를 낳는 것이 곧 투자가 될 수 있다”고 말하는 딥페이크 영상을 제작해 유포했다. 밀레이 후보는 마사 후보를 구소련 정치 선전 포스터의 주인공으로 만들어 마사가 공산당 지도자처럼 보이게끔 했다. 두 사람이 만든 홍보물은 AI 창작물임을 명시했음에도 유권자들에게 부정적 인상을 심어 줬다. 미국은 올해 11월 5일 예정된 대선에서 생성형 AI가 훨씬 더 강력한 영향을 미칠 수 있다고 우려하고 있다. 과거의 조악한 합성 영상물과 달리 요즘의 생성형 AI가 만들어 내는 딥페이크는 실제 사람이 만든 것과 구별하기 어려울 정도로 정교하다. 지난해 5월 SNS에서 미 국방부 청사인 펜타곤 건물에서 대형 화재가 발생한 사진이 빠르게 확산하면서 주식시장까지 출렁이는 소동을 빚었다.사안의 심각성을 인식한 미국, 유럽 등 서구 민주주의 사회는 AI를 활용한 가짜뉴스를 규제하는 방법을 끊임없이 고민하고 있다. 유럽연합(EU)은 이미 수년 전부터 가짜뉴스라는 말 대신 허위정보, 잘못된 정보라는 표현을 쓰면서 미디어 역할을 차단해 왔다. 다음달부터는 ‘디지털 서비스법’을 시행해 가입국이 허위정보, 차별적 콘텐츠, 아동 학대, 테러 선전 등의 불법 유해 콘텐츠를 의무적으로 제거하도록 했다. 이를 지속적으로 위반하면 가입국에서 퇴출하는 등 강경하게 대응한다. 미국도 SNS 사업자를 규제하는 방안을 논의하는 중이다. 특히 대선을 앞둔 상황에서 극단주의와 인종차별 등 부정적인 콘텐츠가 유통되는 것을 차단하기 위해서다. 문제가 된 콘텐츠를 제작·배포하는 것뿐만 아니라 이를 확산시킬 수 있는 플랫폼을 제공한 SNS 사업자에게도 합당한 책임을 물어 콘텐츠 규제를 강화하고 있다. 포린폴리시(FP)는 최근 “올해가 AI의 안전한 개발과 사용을 위한 규제를 부과하는 정부 거버넌스 위기를 극복할 수 있을 분수령이 될 것”이라고 평가했다. 미 플로리다, 사우스캐롤라이나, 뉴햄프셔를 비롯한 여러 주에서 선거 캠페인 영상에 AI 사용을 규제하는 법안, 특히 딥페이크 기술을 이용해 후보자의 목소리와 얼굴을 악의적인 방식으로 합성하거나 조작하는 것을 규제하는 법안을 검토하고 있다. 미 싱크탱크인 ‘브레넌 정의센터’는 지난해 11월 발표한 보고서에서 “민주주의의 실험실이라 불리는 주의회에서 AI의 위협에 대처하는 방법에 대해 영감을 줄 수 있을 것”이라고 썼다. AI 연구 선도자이자 구글 딥마인드의 공동 창업자인 무스타파 술레이만은 새 저서 ‘다가오는 물결’에서 “AI를 통제하는 것은 거의 불가능하다”고 주장했다. 술레이만은 AI의 결함이 발생하는 이유를 정부가 파악해야 하고 AI가 폭주할 때 전원을 끌 수 있는 제동장치를 마련해야 한다고 썼다.이언 브레머 스탠퍼드대 교수는 지난해 포린어페어스 기고문에서 “AI는 기존 세계 권력의 구조를 뒤흔들고 어떤 경우에는 권력을 공고히 할 수 있다”면서 “민주주의 국가에서 개인정보를 동의 없이 무분별하게 수집해 상업적으로 활용하는 속도는 더 빨라지고, 권위주의 정부가 사상과 표현의 자유를 억압하는 도구로 악용될 수 있다”고 지적했다. 이어 “AI를 규제하지 않으면 국가는 민주주의를 유지하고 공공재를 제공해야 한다는 사회적 합의의 정당성을 잃는다”고 경고했다. AI가 제멋대로 만들어 낸 ‘환각 현상’과 허위조작정보의 위협에 맞서기 위해서는 전통적으로 민주주의 사회 공론장에서 ‘팩트체커’ 구실을 해 온 레거시미디어의 역할이 강조된다. 아서 설즈버거 뉴욕타임스 발행인은 컬럼비아저널리즘리뷰 기고문 ‘저널리즘의 본질적 가치’에서 “언론은 새롭게 취재한 사실을 다양한 방식으로 교차 검증하는 게이트키핑 시스템을 지키고, 공정과 이해충돌 방지 원칙을 준수했는지, 편견과 차별의 관점을 걸러 냈는지 프로세스를 거친다”면서 “잘못된 정보가 민주주의의 근간을 흔드는 이 시대에 언론이야말로 세상에 꼭 필요한 자양분”이라고 강조했다. 크렙스·크리너 교수의 강조점은 문해력 향상이다. 이들은 “안타깝게도 인터넷 세상은 거대한 확증편향 기계”라며 “객관적 사실을 포기하거나 뉴스에서 사실을 분별하는 능력을 포기하면 민주주의 사회가 기반해야 하는 신뢰가 무너질 수 있다”고 꼬집었다. 이어 제대로 걸러진 미디어를 통한 디지털 리터러시(지식과 정보를 이해하는 능력)의 필요성을 언급하며 “시민들이 다양한 언론 매체를 ‘신뢰하되 검증하는 방식’으로 콘텐츠의 진실성을 가리는 눈과 가짜뉴스를 맹신하지 않는 비판적 사고력을 길러야 한다”고 부연했다.

팔레스타인 무장정파 하마스 지지 차원에서 전쟁에 개입해온 레바논 무장정파 헤즈볼라가 이스라엘 보안군(IDF) 북부사령부 본부를 겨냥해 드론 공격을 감행했다고 9일(현지시간) 밝혔다. 로이터 통신 등 외신 보도에 따르면 헤즈볼라는 이날 “다수의 드론을 동원해 이스라엘 북부 사페드에 있는 적군의 북부사령부 지휘 본부를 공격했다”며 “이는 헤즈볼라 고위 지휘관 위삼 알타윌 죽음에 대한 보복”이라고 공언했다. IDF도 이날 무인기 공격을 받은 사실을 확인했지만 인명 피해는 없었다면서, 무인기가 발사된 레바논 남부 지역을 재차 공격했다고 밝혔다. 소셜미디어(SNS)에 유포된 영상을 보면 지휘본부 주차장에서 연기가 피어오르고, 건물 일부가 훼손됐다. 전날 IDF는 레바논 남부 마즈달 셀름에서 표적 공습을 단행했고, 이 과정에서 차량에 타고 있던 헤즈볼라 정예 라드완 부대의 지휘관 알타윌이 숨졌다. 지난해 10월 7일 가자지구 전쟁이 시작된 뒤 이스라엘과 레바논 국경지대에서는 교전이 잇따랐고, 알타윌은 지금까지 사망한 헤즈볼라 지휘관 가운데 최고위급이다.지난 2일 이스라엘군이 레바논 수도 베이루트 외곽에 위치한 팔레스타인 무장정파 하마스의 사무실을 공습해 전체 서열 3위인 살레흐 알아루리 하마스 정치국 부국장 등 6명이 사망한 데 이어 헤즈볼라 고위급 지휘관이 폭격으로 사망하면서 확전에 대한 우려를 더욱 키웠다. 헤즈볼라는 6일에도 “다양한 종류의 미사일 62발로 이스라엘 북부 메론 공군기지에 직접적이고 확실한 타격을 입혔다”고 밝혔다. 헤즈볼라는 “이는 베이루트 남부 교외에서 살레흐 알아루리 최고사령관과 형제들이 암살당한 사건에 대한 초기 대응”이라고 언급, 보복 차원의 공격이었음을 분명히 했다. 이스라엘은 지난해 10월 7일 하마스의 기습을 받아 전쟁이 발발한 이후 헤즈볼라가 자리잡은 레바논 남부 지역을 견제 차원에서 지속적으로 폭격해왔으나 베이루트를 겨냥한 공격은 처음이었다. 이에 헤즈볼라 지도자 하산 나스랄라는 지난 5일 “이스라엘군이 가자지구에서 군사적 목표를 달성하면 레바논으로 눈을 돌릴 것”이라며 “이번 베이루트 공습에 대응하지 않으면 더 많은 공격에 노출될 것”이라고 거듭 강조했다.