“딥페이크가 의심되면 이미지의 입과 눈을 주의 깊게 보세요. 우리가 가상인간을 만들 때 가장 어려운 부분이 역으로 딥페이크의 허점이 될 수 있습니다.” 인공지능(AI) 영상기술 전문기업 포바이포에서 버추얼유튜버(버튜버, V튜버) 태스크포스(TF)를 이끄는 안찬용(36) 팀장의 전공 분야인 가상인간을 바로 딥페이크 기술로 만든다. 딥페이크는 ‘딥러닝’과 ‘가짜’(fake)의 합성어로, 실제 인물의 이미지나 영상, 음성을 학습한 AI를 이용, 현실과 흡사한 가짜를 만들어 내는 기술이다. 그는 롯데홈쇼핑의 가상인간 ‘루시’ 제작을 총괄했으며 그의 팀은 지난해 말 ‘청아린’이라는 버튜버를 선보였다. 현재는 2호, 3호 버튜버 출시를 준비 중이다. 안 팀장은 “가상인간은 ‘20대가 가장 호감을 느끼는 얼굴 표본’처럼 실제로는 존재하지 않는 인물을 컴퓨터로 만들어 학습시킨다”며 “만일 같은 기술로 실존하는 정치인이나 연예인 등을 학습시켜 만든 가짜 인물을 통해 허위 정보를 유포하거나 특정인의 명예를 훼손하면 큰 문제가 된다”고 설명했다. 이 같은 우려는 지난달 미국에서 실제로 일어났다. 가수 테일러 스위프트를 딥페이크 기술로 합성한 음란 사진이 소셜미디어(SNS)에 유포됐다. 뉴햄프셔주 예비선거를 앞두고는 조 바이든 미국 대통령을 가장한 딥페이크 음성 전화가 유권자들에게 걸려 오기도 했다.딥페이크 콘텐츠를 탐지하는 ‘안티페이크’ AI도 존재한다. 학습 데이터에 눈에는 보이지 않는 ‘디지털 표지’를 붙여 AI가 콘텐츠를 만들 때 드러나게 하는 ‘워터마크’ 기술도 주목받고 있다. 다만 안 팀장은 “이런 기술처럼 딥페이크 기술도 빠르게 발전하는 게 문제”라고 지적했다. 가상인간을 만드는 딥페이크 전문가는 허위 영상을 판별하는 요령을 알지 않을까. 안 팀장은 “가상인간을 만들 때 말소리와 입모양을 일치(싱크)시키는 작업이 가장 어렵다”면서 “조악한 영상들은 입모양을 자세히 보면 일반인도 구분할 수 있다”고 말했다. 또 “단어의 의미나 문장의 맥락에 맞는 표정이나 자연스러운 시선 처리도 구현하기 어려운 부분”이라면서 “이런 것들 중 하나라도 이상하다고 느껴진다면 가짜 영상임을 의심해볼 수 있다”고 말했다. 하지만 이런 요령도 시간이 지나면 소용이 없어질 가능성이 있다. 안 팀장은 “후반 보정 작업을 정교하게 여러 번 거치면 얼마든지 표가 나지 않게 만들 수 있다”며 “갈수록 정교해지는 결과물을 재학습한 더 강력한 AI 모델이 반드시 등장할 것”이라고 설명했다. 다만 “‘기술’의 문제를 해결할 수 있는 것은 역시 ‘기술’인 만큼 딥페이크의 문제도 우리 딥페이크 기술자들이 해결할 것”이라고 말했다.

경찰이 최근 윤석열 대통령이 등장하는 허위 조작 영상이 온라인에 유포된 것과 관련해 게시자를 특정하기 위한 강제수사에 나섰다. 조지호 서울경찰청장은 26일 기자간담회에서 “영상을 올린 것으로 보이는 아이디를 확보했고, 해당 아이디로 개인을 특정하기 위한 압수수색을 집행했다”며 “당사자가 어떤 의도로 구체적 행위를 했는지 수사할 것”이라고 밝혔다. 지난해 11월부터 틱톡과 메타 등 소셜미디어(SNS)에는 ‘가상으로 꾸며 본 윤 대통령 양심고백 연설’이라는 제목의 46초짜리 영상이 확산됐다. 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이달 초 국민의힘이 영상을 올린 성명 불상자를 명예훼손 혐의로 고발하자 서울경찰청 사이버수사대가 수사에 착수했다. 경찰이 최근 방송통신심의위원회에 관련 게시글의 삭제와 차단을 요청했고 방심위는 지난 23일 영상에 대한 접속을 차단했다. 해당 영상에 대해 당초 딥페이크(AI로 만든 영상·이미지 합성 조작물)라는 추측이 제기됐으나 2022년 2월 윤 대통령이 대선 후보이던 시절 진행한 TV 연설 장면을 짜깁기한 것이라는 분석이 나왔다.

경찰이 최근 윤석열 대통령이 등장하는 허위 조작 영상이 온라인에 유포된 것과 관련해 게시자를 특정하기 위한 강제 수사에 나섰다. 조지호 서울경찰청장은 26일 기자간담회에서 “영상을 올린 것으로 보이는 아이디를 확보했고, 해당 아이디로 개인을 특정하기 위한 압수수색을 집행했다”며 “당사자가 어떤 의도로 구체적 행위를 했는지 수사할 것”이라고 밝혔다. 앞서 지난해 11월부터 틱톡과 메타 등 소셜미디어(SNS)에는 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 제목의 46초짜리 영상이 확산됐다. 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”면서 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이달 초 국민의힘이 영상을 올린 성명 불상자를 정보통신망법상 명예훼손 혐의로 고발하자 서울경찰청 사이버수사대가 수사에 착수했다. 경찰이 최근 방송통신심의위원회에 공문을 보내 관련 게시글의 삭제와 차단을 요청했고 방심위는 지난 23일 해당 영상에 대한 접속을 차단했다. 해당 영상은 당초 딥페이크(AI로 만든 영상·이미지 합성 조작물)라는 추측이 제기됐으나, 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV 연설 장면을 짜깁기한 것이라는 분석이 나왔다. 조 청장은 경찰의 자의적인 수사가 아니냐는 지적에 대해 “경찰이 마음대로 강제 수사할 수 있는 것도 아니고, 수사 결과도 검찰에서의 과정이 있고, 유죄로 판단하는 것은 법원”이라며 “자의성을 갖고 (수사)하지는 않을 것”이라고 강조했다.

조지호 서울경찰청장은 최근 온라인상에서 유포된 윤석열 대통령 모습이 등장하는 허위 조작 영상에 대해 “오늘 아이디로 개인을 특정하는 압수수색을 할 것”이라고 26일 밝혔다. 조 청장은 이날 정례 기자간담회에서 “영상을 올린 것으로 보이는 아이디를 확보했다”며 “당사자가 어떤 의도로 어떤 구체적 행위를 했는지 수사할 것”이라며 이같이 밝혔다. 앞서 지난해 연말부터 틱톡과 메타 등 소셜미디어(SNS)에는 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 제목의 동영상이 급속하게 퍼졌다. 46초 분량의 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이어 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다”며 연설을 끝맺는다. 해당 영상은 당초 ‘딥페이크’(Deepfake·AI로 만든 영상·이미지 합성 기술)로 알려졌으나 기술적으로 확인한 결과 지난 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV연설 장면을 짜깁기한 것으로 확인됐다. 경찰은 최근 방송통신심의위원회에 공문을 보내 관련 게시글의 삭제 및 차단을 요청했다. 이어 방심위는 지난 23일 이들 영상에 대한 차단 조치를 만장일치로 의결했다. 앞서 경찰은 지난해 12월 개정된 딥페이크 선거운동을 금지한 공직선거법까지 거론하며 수사 범위를 확대할 수도 있다는 취지로 말했지만, 고발 당사자가 정보통신망법상 명예훼손으로만 고발한 것으로 알려져 우선 관련 혐의에 대해 조사한다는 입장인 것으로 알려졌다. 조 청장은 “(경찰이) 자의성을 갖고 (수사)하지는 않을 것”이라면서 “경찰이 인위적으로 마음대로 강제 수사할 수 있는 것도 아니고 수사 결과도 경찰이 송치하면 검찰에서의 과정이 있고 유죄로 판단하는 것은 법원”이라고 강조했다.

최근 블라디미르 푸틴 러시아 대통령의 정적이자 러시아 야권 지도자인 알렉세이 나발니가 시베리아 교도소에서 의문사한 가운데, 푸틴 대통령의 정적을 ‘처리’하는 특수 암살단이 존재한다는 주장이 나왔다. 러시아의 대표적인 반체제 인사인 블라디미르 카라-무르자(42)는 2022년 미국 애리조나 의회 연설에서 러시아의 우크라이나 침공을 비난하고, 전쟁에 대한 허위 정보를 유포해 반역을 저지른 혐의로 지난해 4월 25년형을 선고받았다. 지난해 말에는 시베리아의 한 교도소 독방으로 이감됐는데, 지난 22일(현지시간) 화상 법원 심리에 모습을 드러낸 카라-무르자는 “모스크바 정보국 내에 ‘푸틴 정권에 반대하는 정치적 반대자들을 물리적으로 제거하는 ’죽음의 부대‘가 있다”고 주장했다. 이어 “이들은 전문 살인자 그룹이며, 러시아 연방보안국(FSB)에 소속된 암살단”이라고 강조했다.카라-무르자는 푸틴 대통령에게 저항하다가 2015년과 2017년 독극물 중독으로 죽을 고비를 2번이나 넘겼던 인물이다. 당시 그를 독극물로 살해하려한 배후가 러시아 정부라는 추측은 있었지만, 정확한 수사가 이뤄지지 않았다. 이후 그는 독극물 중독으로 인한 신경질환을 앓고 있음에도, 환경이 매우 열악한 시베리아의 제6교도소(IK-6)로 이감돼 논란이 일기도 했다. 러시아 독립매체인 ‘소타’가 공개한 이날 법원 심리현장 영상에는 “내게 벌어진 독살 시도도 제대로 조사되지 않았다”면서 “나발니는 비록 사망했지만 모든 러시아인들이 포기하지 않길 바란다”고 강조했다. “나발니를 죽인 사람이 푸틴이라는 사실을 의심하지 않는다” 푸틴 대통령에게 ‘정적 전문 암살단’이 있다고 주장하는 이는 카라-무르자 한 명 만이 아니다. 러시아 야당 정치인이자 우크라이나 침공을 공개적으로 비판해 온 얄리야 야신은 우크라이나 부차에서 러시아군이 민간인을 학살했다고 발언한 후 8년 형을 받고 복역 중인 인물이다. 그는 최근 변호인 등을 통해 공개한 SNS 글에서 “나발니를 죽인 것이 푸틴이라는 사실을 의심하지 않는다. 푸틴은 전범자”라면서 “나발니는 푸틴과 크렘린궁(대통령실)의 미움을 받았다. 그에게는 (나발니를 죽일) 동기와 기회가 모두 있었다. 그가 살인을 명령했다고 확신한다”고 주장했다. 이어 “나 역시 위험에 처해 있다고 생각하지만, 계속해서 (푸틴에 저항하는) 목소리를 낼 것”이라고 덧붙였다. 나발니가 살해 당했다는 증거들 러시아 당국은 나발니의 죽음과 관련해 여전히 공식적인 입장을 내놓지 않고 있는 가운데, 나발니의 유가족과 서방 언론들은 그가 독살 당한 것으로 보인다며 다양한 ‘증거’들을 제시하고 있다.러시아의 반정부 독립매체인 노바야 가제타 측은 당시 현장에 출동했던 구급대원의 증언을 인용해 “구급차가 도착했을 때 나발니는 이미 사망한 후였다”면서 “심지어 그의 사망 소식은 교도소 측에서 공식적으로 발표하기도 전에 알려졌다”고 지적했다. 나발니의 아내인 율리아 나발나야는 자신의 남편이 푸틴 대통령의 지시에 따라 신경작용제 노비촉에 중독돼 사망한 것이라고 주장하고 있다.나발니가 사망하기 불과 며칠 전 감시카메라가 고장났다는 사실도 의심스러운 부분으로 꼽힌다. 러시아 인권단체 굴라구닷넷은 푸틴 대통령의 명령을 수행하는 러시아 연방보안국(FSB) 스파이들이 나발니를 살해하기 며칠 전 나발니의 모습이 촬영되는 감시카메라의 연결을 끊은 것으로 보인다고 주장했다. 굴라구닷넷은 “러시아 당국은 ‘지나치게’ 신속하게 그의 사망 소식을 전했다. 나발니가 사망한 것으로 추정되는 시간은 오후 2시 17분인데, 당국이 보도자료를 내보낸 시간은 불과 2분 후인 2시 19분”이라면서 “그의 죽음부터 보도자료까지 모든 것이 분 단위, 초 단위로 사전 계획되고 조정된 것”이라고 목소리를 높였다. 이어 “같은 감옥에 수감된 수감자들은 그가 사망하기 전날 밤 교도소에 등장한 정체 불명의 차량을 목격했다고 밝혔다”고 덧붙였다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

축구선수 황의조(32·알라니아스포르)의 사생활을 폭로하고 협박한 혐의로 기소된 형수가 재판부에 반성문을 제출하며 범행을 자백한 것으로 전해진 가운데 피해 여성 측이 ‘가족의 도련님 구하기’라며 강하게 반발했다. 피해자 측 법률대리인인 이은의 변호사는 21일 입장문을 통해 “반성문은 황씨를 돌연 가족들에게 버림받은 불쌍한 피해자로 둔갑시켰다”며 “황씨의 거짓 주장에 동조해 피해 여성이 촬영 사실을 알고 있었다는 취지의 이야기를 여과 없이 실었다”고 주장했다. 이 변호사는 “(형수의) 자백과 반성은 피해자에 대한 반성이라고 보기 어렵다”며 “반성문을 빙자해 황씨가 불쌍한 피해자임을 강조하며 불법 촬영을 하지 않았다는 주장을 노골적으로 옹호하는 것”이라고 강조했다. 한국일보 보도에 따르면 성폭력처벌법 위반 등 혐의로 구속기소 된 황씨의 형수 A씨는 서울중앙지법 형사합의31부(부장 박준석)에 자필 반성문을 제출했다. A씨는 반성문에서 “형 부부의 헌신을 인정하지 않는 시동생(황의조)을 혼내주고 다시 우리에게 의지하도록 만들기 위해 범행을 저질렀다”고 밝힌 것으로 알려졌다. 그는 “(안정적인 생활을 했던) 저희 부부는 오로지 황의조의 성공을 위해 한국에서 모든 것을 포기하고 해외에 체류하면서 5년간 뒷바라지에 전념했다. 그런데 지난해 영국 구단으로 복귀를 준비하는 과정에서 남편과 황의조에 선수 관리에 대한 이견으로 마찰을 빚게 됐다”며 범죄를 저지른 이유를 설명했다. A씨는 지난해 6월 황의조의 전 연인이라고 주장하면서 황씨와 여성들의 모습이 담긴 사진·동영상을 소셜미디어(SNS)에 공유하고 황씨가 다수 여성과 관계를 맺고 피해를 줬다고 주장한 혐의로 구속기소 됐다. 지난해 5월부터 황의조에게 ‘(영상이)풀리면 재밌을 것이다’, ‘기대하라’며 촬영물을 유포하겠다며 협박한 혐의도 받는다. A씨 측은 그간 재판에서 “전혀 모르는 일”이라며 혐의를 전면 부인해왔다. 지난달 25일 공판에서는 인터넷 공유기 해킹으로 황씨의 사진과 영상이 SNS에 게재됐을 수 있다는 황당한 주장도 폈다. “브로커 매개로 수사기밀 유출…법조계 종사자 결탁 주목” 한편, 황의조 측은 이날 “가족의 배신을 접하고 참담한 심정을 느끼고 있다”며 “‘형수와의 불륜’ ‘모종의 관계’ ‘공동 이해관계’ 등 피해자를 가해자로 몰아가는 근거 없는 비방에 대해 선처 없이 엄정 대응하겠다”는 입장을 내놨다. 황씨 측은 “브로커를 매개로 수사기밀이 유출돼 수사기관은 물론 현직 법조계 종사자까지 결탁했을 가능성에 주목하고 있다”며 “황의조가 도리어 피의자 신분이 되고 망신주기 수사가 지속된 점에 대해 모종의 프레임에 의해 불공정한 수사가 진행된 것은 아닌지 의구심을 갖고 있다”고 지적했다. 그러면서 “향후 검찰 수사에 성실히 협조해 무고함을 밝히겠다”고 강조했다.

축구선수 황의조(31)의 사생활과 관련한 게시물을 올리고 협박한 혐의로 기소된 형수가 재판부에 반성문을 제출하며 범행을 자백한 것으로 전해졌다. 21일 한국일보에 따르면 성폭력처벌법 위반 등 혐의로 구속기소 된 황의조의 형수 A씨는 서울중앙지법 형사합의31부(부장 박준석)에 자필 반성문을 제출했다. 그동안 A씨는 경찰과 검찰 조사에서 “해킹을 당한 것 같다”며 범행을 부인해왔다. A씨는 반성문에서 “형 부부의 헌신을 인정하지 않는 시동생(황의조)을 혼내주고, 다시 우리에게 의지하도록 만들기 위해 범행을 저질렀다”고 밝힌 것으로 알려졌다. 그는 “(안정적인 생활을 했던) 저희 부부는 오로지 황의조의 성공을 위해 한국에서 모든 것을 포기하고 해외에 체류하면서 5년간 뒷바라지에 전념했다”며 “그런데 지난해 영국 구단으로 복귀를 준비하는 과정에서 남편과 황의조에 선수 관리에 대한 이견으로 마찰을 빚게 됐다”고 말했다. 그러면서 “그간 남편의 노고가 전혀 인정받지 못하는 것 같다는 생각에 배신감을 느끼게 됐다”며 “저 역시도 황의조만을 위해 학업과 꿈도 포기하고 남편을 따라 해외에서 외로운 생활을 하고 있었기 때문에 배신의 깊이가 더욱 컸다”고 전했다. A씨는 “평소 황의조의 사생활을 관리하던 저는 휴대전화에서 한 여성과 찍은 성관계 영상을 발견하게 됐고, 이를 이용해 황의조를 협박해 다시 저희 부부에게 의지하게 하려고 했다”면서도 “황의조의 선수 생활을 망치거나 여성에게 피해를 줄 생각은 결코 없었다”고 강조했다. 그는 후회와 사과의 뜻도 밝혔다. A씨는 지난해 6월 황의조의 전 연인이라고 주장하면서 황의조와 여성들의 모습이 담긴 사진·동영상을 소셜미디어(SNS)에 공유하고, 황의조가 다수 여성과 관계를 맺고 피해를 줬다고 주장한 혐의로 구속기소 됐다. 지난해 5월부터 황의조에게 ‘풀리면 재밌을 것이다’, ‘기대하라’며 촬영물을 유포하겠다며 협박한 혐의도 받는다. A씨 측은 지난달 8일 첫 공판에서 “공소사실을 전반적으로 부인하며, 피고인이 직접적으로 관여한 사실이 없다”고 주장한 바 있다. 한편 불법 촬영과 2차 가해 혐의를 받는 황의조는 지난 8일 서울중앙지검에 불구속 송치됐다.

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

“선관위, 영상 확인에 최소 하루선거 전날 유포 땐 대응 어려워”“딥페이크 저작물 엄격한 관리기술 발전 막는 방향은 안 돼” 중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인된 가운데 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른AI연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는 데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지, 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 애플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 총선 앞 국론 분열을 노린 북한이 딥페이크 영상을 유포하며 공격에 나설 수 있다는 의미다. 영국 옥스퍼드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업해야 한다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인되면서 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른 AI 연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니, 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만, 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 어플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수도 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 북한이 딥페이크 영상을 유포해 총선 앞 국론 분열을 노려 공격에 나설 수 있다는 의미다. 영국 옥스포드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업이 필요하다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

총기 소지가 불법인 중국에서 충격적인 총기난사 사건이 발생했지만 당국은 언론을 통제하며 이를 쉬쉬하는 분위기다. 미국 자유아시아방송(RFA)의 12일(이하 현지시간) 보도에 따르면, 중국의 설 명절인 춘절 연휴였던 지난 10일 산둥성(省) 르자오시(市)의 한 농촌에서 중년 남성이 사제 총기와 흉기로 주민들을 공격하는 사건이 발생했다. 이름이 공개되지 않은 이 남성은 직접 만든 것으로 추정되는 총기를 이용했으며, 이후 흉기까지 사용하면서 10여 명의 사상자가 발생했다. 정확한 사망자 수는 공개되지 않은 가운데, 해당 남성은 사건 발생 당일 현지의 공무원 주택단지를 침입했던 것으로 알려졌다. 이 때문에 사상자 가운데는 공무원뿐만 아니라 구급대원과 경찰도 포함됐다는 보도가 나왔다.다만 엑스(옛 트위터) 계정에는 한 사용자(아이디 李老師不是你老師)가 12일 “범인은 30대 남성으로 어린 시절 삼촌에게 입양돼 키워졌으며 약간의 장애를 가지고 있었다”면서 “사망자 가운데에는 두 가족이 포함돼 있으며, 그중 한 명은 어린이”라는 내용의 글을 올렸다. 이어 “또 다른 희생자는 범인의 학교 선생님이며, 범인은 개조한 사제 총을 사용했다. 의료진 한 명도 범인의 총격에 숨졌다”고 주장했다. 현지 SNS에는 무장한 군인들이 야간에 집결한 사진이 유포되고 있지만, 해당 사진의 구체적인 장소와 시간 등의 배경은 알려지지 않았다.해당 소식은 사건 발생 이튿날인 11일과 다음 날인 12일 현지 매체인 봉황망에 보도됐지만, 현재 해당 기사들은 모두 삭제된 상태다. 중국 대형 포털사이트 왕이에서도 관련 기사가 한 때 검색됐지만, 역시 현재는 모두 검색이 불가한 상황이다. 이와 관련해 RFA는 “사건이 발생한 현지 공무원과 응급구조센터 등에 전화로 문의했지만, 그쪽에서는 ‘대답하기 어렵다’거나 ‘관련 소식을 알지 못한다’라는 답만 들려줬다”고 보도했다. 한편, 중국에서 총기 난사 또는 총격 사건은 좀처럼 보기 드물다. 총기 규제가 엄격하기로 유명한 중국은 매년 미국에 15만 정의 총기를 수출하면서도 자국 내에서는 실물과 유사한 장난감 총을 소지하는 것만으로도 처벌을 받을 수 있다. 다만 인터넷 등을 통해 사제 총기 제조법 등을 쉽게 접할 수 있게 되면서 최근 몇 년 새 총기를 불법 제조하거나 유통하는 거대 조직이 적발되는 등 총기 위협이 커지고 있다.

성관계 장면을 불법 촬영하고 피해자에게 2차 가해를 한 혐의로 축구선수 황의조(32)씨가 검찰에 넘겨졌다. 황씨 측 변호인 김모씨도 불법 촬영 피해자의 신상을 공개한 혐의(성폭력처벌법상 비밀누설)로 송치됐다. 서울경찰청 사이버수사과는 8일 황씨를 성폭력처벌법상 카메라 등을 이용한 촬영과 소지 등의 혐의로 서울중앙지검에 불구속 송치했다고 밝혔다. 황씨는 성관계 상대방을 불법 촬영한 혐의로 경찰 조사를 받았다. 그 과정에서 황씨는 지난해 11월 낸 입장문에서 피해 여성의 신분을 특정할 수 있는 내용을 언급하며 2차 가해 혐의를 받는다. 당초 황씨는 지난해 6월 황씨의 전 연인이라고 주장하며 황씨와 여성들의 모습이 담긴 사진과 동영상을 소셜미디어(SNS)에 게시한 A씨를 협박 등의 혐의로 경찰에 고소했다. 그러나 경찰은 황씨가 성행위 영상을 불법적으로 촬영한 정황을 포착해 황씨를 피의자 신분으로 전환했다. 해당 영상을 온라인에 유포하며 황씨를 협박한 혐의를 받는 황씨의 형수는 지난해 12월 구속 기소돼 재판을 받고 있다. 황씨는 “연인과 합의된 영상”이라고 주장하며 혐의를 전면 부인하고 있다. 하지만 피해자의 변호사가 공개한 통화 내용에는 피해자가 황씨에게 “내가 싫다고 분명히 얘기를 했잖아”라고 말하는 내용 등이 담겼다. 한편 황씨 측은 수사팀을 공무상비밀누설 등의 혐의로 검찰에 고발할 계획인 것으로 알려졌다.

피해자 2차 가해 혐의 추가…변호인 함께 송치 성관계 장면을 불법 촬영하고 피해자를 2차 가해한 혐의로 축구선수 황의조(32)씨가 검찰에 넘겨졌다. 황씨 측 변호인 김모씨도 불법촬영 피해자의 신상을 공개한 혐의(성폭력처벌법상 비밀누설)로 함께 송치됐다. 서울경찰청 사이버수사과는 8일 황씨를 성폭력처벌법상 카메라 등을 이용한 촬영과 소지 등 혐의로 서울중앙지검에 불구속 송치했다고 밝혔다. 황씨는 성관계 상대방을 동의 없이 불법 촬영한 혐의로 경찰 조사를 받았다. 그 과정에서 황씨는 지난해 11월 법무법인을 통해 낸 입장문에서 피해 여성의 신분을 특정할 수 있는 내용을 언급하며 피해자에게 2차 가해를 저지른 혐의를 받는다. 당초 황씨는 지난해 6월 황씨의 전 연인이라고 주장하며 황씨와 여성들의 모습이 담긴 사진과 동영상을 소셜미디어(SNS)에 게시한 A씨를 협박 등 혐의로 경찰에 고소했다. 그러나 경찰은 황씨가 성행위 영상을 불법적으로 촬영한 정황을 포착해 황씨를 피의자 신분으로 전환했다. 해당 영상을 온라인에 유포하며 황씨를 협박한 혐의를 받는 황씨의 형수는 지난해 12월 구속기소돼 재판을 받고 있다. 황씨는 “연인과 합의된 영상”이라고 주장하며 혐의를 전면 부인하고 있다. 하지만 피해자의 변호사가 공개한 통화 내용에는 피해자가 황씨에게 “내가 싫다고 분명히 얘기를 했잖아”라고 말하는 내용 등이 담겼다. 한편 황씨 측은 전날 수사 정보 유출 의혹을 제기하며 서울경찰청 청문감사인권담당실에 수사관 기피 신청서를 제출했으나 사건 송치로 각하될 예정이다. 황씨 측은 지난달 17일에도 경찰의 출국금지에 반발해 ‘과잉 수사로 경기에 참여하지 못했다’는 취지로 수사관 기피 신청서를 경찰에 제출했으나 각하됐다. 황씨 측은 수사팀을 공무상비밀누설 등 혐의로 검찰에 고발할 계획으로 알려졌다.

참여연대 회계사 출신인 김경율 국민의힘 비상대책위원이 1일 노무현 재단 건물 건축비 문제와 무소속 윤미향 의원이 상임대표를 지낸 ‘한국정신대문제대책협의회’(정대협)의 보조금 관련 의혹을 제기했다. 김 비대위원은 더불어민주당을 향해 “저를 허위사실 유포로 고소 부탁드린다”고 했다. 김 비대위원은 이날 서울 영등포구 중앙당사에서 열린 비상대책위원회의에서 노무현 시민센터·노무현재단 기념관의 평당 건설비가 지나치게 높게 책정됐다는 점을 지적했다. 김 비대위원은 “노무현 시민센터·노무현재단 기념관이 서울과 김해 두 군데에 지어졌는데, 두 군데의 평당 건축비가 서울이 평당 2100만 원이다. 김해는 1660만 원이다”라고 말했다. 이어 김 비대위원은 “평당 2100만원짜리 건설비는 들어보지도 못했다. 당시 노무현시민센터가 종로에 건설될 때쯤 서울 강남의 고급 아파트에 인테리어 포함해 여러 부대시설, 식당·헬스시설·조경 다 포함해서 평당 500만원이다”면서 “여러 차례 소셜미디어(SNS) 등을 통해서 문제를 제기했고, 이에 대해서 당시 유시민 노무현재단 이사장, 현 노무현재단 이사장, 그리고 책임 있는 민주당의 답변은 단 한 차례도 들어본 적이 없다”고 언급했다. 김 비대위원은 또 윤 의원이 상임대표를 지낸 정대협의 보조금 문제도 짚었다. 그는 “국고보조금 5억원을 신청하면서 본인들 정대협은 19억원을 내겠다는 건데, 통장을 보시면 5억원만 들어와 있다”면서 “국가가 제공한 5억원만 들어와 있지 자부담금 19억원은 없다”고 설명했다. 김 비대위원은 “한동훈 위원장께 문제를 제기해 보면 이거 검찰에서 기소된 바 없다”며 “제발 민주당은 저를 허위사실 유포로 고소 부탁드린다”고 발언했다. 김 비대위원의 발언이 끝나자 한 위원장은 “저 분 저런 거 하라고 제가 모신 거라는 말씀을 드린다”며 “수십 년째 운동권 경력으로 끼리끼리 주고받으며 특권 정치를 기득권으로 계속해 오는 과정에서 이분들이 부패해졌다. 운동권 특권 정치가 부패했기 때문에, 자기들 끼리끼리의 정치를 하기 때문에 그런 차원에서 청산해야 한다는 생각을 다잡았다”고 강조했다.

팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

인공지능(AI)의 민주주의 위협이 현실화하고 있다. 미국 대선 후보 경선이 진행되는 가운데 조 바이든 대통령을 사칭해 뉴햄프셔주 프라이머리(예비선거) 불참을 권하는 딥페이크 음성이 유포돼 주정부가 지난 22일(현지시간) 수사에 착수했다. 대선 경선이 시작된 이후 AI를 악용한 허위 정보 유포에 대한 첫 수사다. 미국에서는 최소 13개 주가 AI를 활용한 콘텐츠로 선거 관련 허위 정보가 퍼지는 일을 막기 위한 법을 추진하고 있다. 영국 일간 파이낸셜타임스에 따르면 지난해 영국, 인도, 나이지리아, 수단 등에서 정치와 관련해 음성 조작으로 의심되는 사례가 나왔다. 생성형 AI가 발전할수록 음성 조작 메시지, 딥페이크 영상 등 허위 정보를 퍼트려 상대방을 공격하는 일이 쉬워진다. 올해 전 세계 50개국 이상에서 선거가 치러지니 AI를 악용한 허위 정보가 더 범람할 것이다. 우리나라는 북한과 중국 변수도 있다. 국가정보원은 중국이 국내 언론사로 위장한 사이트를 200여개 개설, 이를 통해 친중·반미 성향 콘텐츠를 게시하고 소셜미디어(SNS)로 확산시켰다고 의심하고 있다. 지난해 공공기관에 대한 해킹 시도가 하루 평균 162만여건인데 이 중 80%가 북한 소행이다. 중국은 건수로는 5%지만 피해 심각도를 고려하면 21%란다. 총선을 앞두고 선거 개입 및 정부 불신을 조장하는 행위가 더욱 기승을 부릴 것이다. 국내에서는 공직선거법에 따라 오는 29일부터 딥페이크를 활용한 선거운동이 금지된다. 이는 처벌 근거 마련에 불과하다. 뉴스 콘텐츠를 대량 유통하는 대형 포털의 책임 있는 자세가 필요하다. 허위 정보 차단의 첨병은 유권자들이다. 팩트체크 기능을 선거운동 기간만이라도 공공기관과 대형 포털 중심으로 강화해 유권자의 올바른 선택을 돕자.

지난해 공공기관을 대상으로 한 국제 해킹조직의 사이버 공격 시도가 하루 평균 162만여건으로 2022년(119만건)보다 36% 증가했다. 특히 북한과 중국 해킹조직에 의한 공격이 전체의 90%에 달한 것으로 파악됐다. 국가정보원은 24일 경기 성남시 국가사이버안보협력센터에서 기자간담회를 갖고 “북한의 공격 건수가 80%로 가장 많았고 중국은 5%였다”면서 “피해의 심각도를 반영하면 북한이 68%, 중국이 21%로 중국의 비중이 크다”고 밝혔다. 국정원 분석 결과 북한 해킹조직은 ‘김정은 지시’에 따라 빠르게, 중국 해킹조직은 천천히 깊숙이 공격하는 특징을 보였다. 지난해 초 김정은 북한 국무위원장이 식량난 해결을 지시하자 해커들은 국내 농수산기관 3곳을 공격해 식량연구자료를 빼갔다. 지난해 8~9월 김 위원장의 해군력 강화 지시 이후엔 국내 조선업체 4곳을 해킹해 도면과 설계자료를, 10월 무인기 생산 강화를 지시하자 국내외 업체에서 무인기 엔진 자료를 각각 수집했다. 김 위원장의 관심과 지시에 따라 빠르게 목표물을 바꿔 움직인 것이다. 국정원은 또 북한이 2020년부터 지난해까지 4년간 한국을 포함해 최소 25개국의 방산 분야를 해킹했다고 밝혔다. 해킹 시도 분야는 항공(25%), 전차(17%), 위성(16%), 함정(11%) 순이었다. 특히 북한은 우방국인 러시아 방산업체를 여러 차례 해킹했다. 북한이 개발한 전차와 지대공 미사일은 해킹으로 빼낸 설계도면 등을 활용해 러시아산과 매우 유사한 것으로 국정원은 보고 있다. 중국은 천천히, 은밀하게 침투해 생존력을 높였다. 일부 해커는 한 국내업체의 서버를 해킹하고 공개 소프트웨어(SW)로 위장한 악성코드를 숨겨놨다가 수년에 걸쳐 여러 고객사를 해킹했다. 중국인으로 추정되는 해커가 국내 기관이 사용하는 위성통신 신호를 수집·분석한 뒤 정상 장비인 것처럼 위장해 지상의 위성망 관리시스템에 무단으로 접속하고 최초로 정부 행정망을 침투하려다 적발되기도 했다. 중국 언론홍보 업체들이 국내 언론사로 위장한 사이트 200여개를 열어 친중·반미 성향 콘텐츠를 올린 뒤 소셜미디어(SNS) 인플루언서를 통해 확산시킨 정황도 확인됐다. 국정원은 특히 ‘슈퍼 선거의 해’인 올해 북한이 선거 개입과 정부 불신 조장을 위한 가짜뉴스 유포나 선거시스템 해킹 공격 가능성이 크다고 전망했다. 백종욱 국정원 3차장은 “남북관계가 경색되고 대남 비난 강도가 높을 때 사이버 공격이 잇따라 발생했다”고 말했다.