국민의힘의 위성정당 ‘국민의미래’가 23일 창당대회를 열고 공식 행보를 시작한다. 총선용 정당이라는 비판을 감안한 듯 한동훈 비상대책위원장은 야권이 다수 의석을 바탕으로 밀어붙인 ‘준연동형 비례대표제’로 인한 불가피한 선택임을 강조했다. 또 민주당의 위성정당인 ‘민주개혁진보연합’(가칭)이 통합진보당의 후신인 진보당 등과 연대를 추진하는 데 대해서 날을 세웠다. 한 위원장은 22일 당사 출근길에 기자들과 만나 “이재명 민주당 대표가 자기 살기 위해 종북 통진당 세력을 부활시켜 민주당을 ‘통진당화’하고 있다”고 했다. 민주당이 진보당, 새진보연합과 전날 합의를 통해 비례대표를 3석씩 배분하고 일부 지역구 또한 진보당에 양보하거나 단일화를 시행하기로 한 점을 지적한 것이다. 한 위원장은 비대위 회의에서도 “진보당에 단지 비례의석 몇 석 주는 의미가 아니라 지역구까지 당선시키겠다고 이제 발을 벗고 나서고 있다”며 “운동권 특권세력, 이재명 개딸(개혁의딸) 세력, 종북 통진당 세력, 거기다 조국까지 정말 살벌한 라인업 아닌가”라고 비판했다. 국민의미래를 이끌 당 대표로는 국민의힘의 최선임급 당직자인 조철희 총무국장이 내정됐다. 국회의원이나 유명인이 아니라는 점에서 되레 파격적 인사라는 평가가 나온다. 21대 총선 당시 비례대표 공천을 두고 내홍을 겪은 ‘한선교의 난’을 사전에 차단하기 위한 것으로 해석된다. 한 위원장은 “저는 불출마하므로 비례정당을 위해서도 혼신의 힘을 다할 것”이라고 밝혔다. 공직선거법상 불출마할 경우 다른 당 선거운동도 할 수 있어 한 위원장은 국민의미래 선거운동도 가능하다.

국민의힘의 위성정당 ‘국민의미래’가 23일 창당대회를 열고 공식 행보를 시작한다. 총선용 정당이라는 비판을 감안한 듯 한동훈 비상대책위원장은 야권이 다수 의석을 바탕으로 밀어붙인 ‘준연동형 비례대표제’로 인한 불가피한 선택임을 강조했다. 또 민주당의 위성정당인 ‘민주개혁진보연합’(가칭)이 통합진보당의 후신인 진보당 등과 연대를 추진하는 데 대해서 날을 세웠다. 한 위원장은 22일 당사 출근길에 기자들과 만나 “이재명 민주당 대표가 자기 살기 위해 종북 통진당 세력을 부활시켜 민주당을 ‘통진당화’하고 있다”고 했다. 민주당이 진보당, 새진보연합과 전날 합의를 통해 비례대표를 3석씩 배분하고 일부 지역구 또한 진보당에 양보하거나 단일화를 시행하기로 한 점을 지적한 것이다. 한 위원장은 비대위 회의에서도 “진보당에 단지 비례의석 몇 석 주는 의미가 아니라 지역구까지 당선시키겠다고 이제 발을 벗고 나서고 있다”며 “운동권 특권세력, 이재명 개딸(개혁의딸) 세력, 종북 통진당 세력, 거기다 조국까지 정말 살벌한 라인업 아닌가”라고 비판했다. 국민의미래를 이끌 당 대표로는 국민의힘의 최선임급 당직자인 조철희 총무국장이 내정됐다. 국회의원이나 유명인이 아니라는 점에서 되레 파격적 인사라는 평가가 나온다. 21대 총선 당시 비례대표 공천을 두고 내홍을 겪은 ‘한선교의 난’을 사전에 차단하기 위한 것으로 해석된다. 한 위원장은 “저는 불출마하므로 비례정당을 위해서도 혼신의 힘을 다할 것”이라고 밝혔다. 공직선거법상 불출마할 경우 다른 당 선거운동도 할 수 있어 한 위원장은 국민의미래 선거운동도 가능하다.

소병철 국회의원이 22일 노관규 순천시장을 공직선거법 위반 혐의로 고발장을 제출했다. 노 시장은 전날 ‘민주당 경선에 노 시장과 전·현직 공무원 등이 개입하고 있다’는 관권선거 논란을 부인하는 기자회견을 열었다. 이와관련 소 의원은 이날 선거캠프에서 기자회견을 열고 “어제 노관규 시장 긴급 기자회견을 보면 마치 국회의원 후보자로서 본인의 입장을 밝힌 것처럼 보인다”며 “선거중립을 지켜야 하는 시장이 스스로 특정후보를 지지한다는 것을 인정하는 ‘관권선거’를 자행했다”고 말했다. 소 의원은 “노 시장이 특정후보에 대해서는 후보자의 선거 슬로건까지 적극적으로 홍보해 주는 반면 특정후보를 제외한 타 후보에 대해서는 스스럼없이 평가절하 하고 있다”며 “‘혜성처럼 나타난 특정후보가 왜 압도적 지지를 받는지’ 등과 같은 미사여구까지 사용해가며 특정후보 띄우기에 여념이 없다”고 지적했다. 소 의원은 “노 시장이 언급한 ‘근거없는 관권선거 주장’이 아니라는 점을 강조하기 위해 증거인멸 우려 등 수사에 방해되지 않는 선에서 증거자료의 극히 일부만 공개한다”고 말했다. 이날 공개된 증거자료는 노 시장이 특정후보의 페이스북 게시글에서 반복적으로 ‘좋아요’를 누르다가 최근에 와서 이를 모두 삭제하고 있다는 내용 등이다. 또 돈다발 가짜뉴스에 대한 노관규 시장의 음성녹음 일부, 이번 총선 선거운동 과정에서 ‘봉사단체 수백 명을 조직적으로 동원하고 있다’는 음성녹음 제보자료의 일부도 포함됐다. 소 의원은 “민주당에서 공천이 확정된 인물이 순천에 내려왔고, 소병철은 부적격 판정을 받았다거나, 하위 20%에 해당한다는 가짜뉴스가 카카오톡 등을 통해 조직적으로 배포하고 있는 상황도 확인했다”며 “선거가 얼마 남지 않았고 사안이 사안이니만큼 신속하고 엄정한 수사를 촉구한다”고 강조했다. 소병철 캠프는 기자회견 종료 이후 즉각 고발장을 제출했다. 선거캠프 내에 설치된 ‘관권선거·불법선거·가짜뉴스 신고센터’에 접수된 제보 자료를 토대로 향후 순차적인 법적 대응을 해나간다는 방침이다. 앞서 지난 20일 소병철·손훈모 예비후보 측은 신성식 예비후보 캠프의 ‘관권선거 의혹’을 제기하며 전남경찰청에 고발장을 접수했다. 이와 관련 노 시장은 다음 날 긴급 기자회견을 열고 “어떠한 경우에도 선거에 개입하지 않았다”고 반박했다.

“저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다. 저 윤석열의 사전에 정치 보복은 있어도 민생은 없습니다” ‘윤석열 대통령 양심고백 영상’이란 제목으로 ‘가짜’ 윤석열 대통령 딥페이크(Deepfake·AI로 만든 이미지 영상 합성 기술) 영상물이 소셜미디어(SNS)에서 확산하자 경찰이 22일 방송통신심의위원회에 차단을 요청한 것으로 확인됐다. 방심위는 해당 영상을 ‘대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물’로 판단하고 긴급 심의에 착수했다. 서울경찰청은 최근 방심위에 공문을 보내 틱톡과 메타 등에 올라온 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’ 딥페이크 게시글의 삭제와 차단을 요청했다. 근거 조항은 방송통신위원회의 설치 및 운영에 관한 법률, 정보통신망 이용촉진 및 정보보호 등에 관한 법률, 정보통신에 관한 심의 규정이다. 경찰은 “같은 URL 주소를 통해 틱톡, 인스타, 페이스북 사이트 계정을 사용하는 회원이 문제의 영상 등을 게시한 것으로 확인돼 삭제·차단을 요청한다”고 밝혔다. 방심위는 해당 내용을 접수하고 오는 23일 긴급 통신 심의소위원회를 열어 해당 안건을 심의한 뒤 바로 삭제 및 차단 조치를 할 것으로 알려졌다.46초 분량의 영상 속 윤석열 대통령은 “존경하는 국민 여러분. 저 윤석열, 국민을 괴롭히는 법을 집행해온 사람이다. 무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”라고 말한다. 이어 “저 윤석열, 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”며 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”고 말했다. 그러면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다. 감사하다”며 연설을 끝맺는다. 이날 오후 4시 현재 틱톡에서 ‘윤석열 양심’을 검색하면 같은 게시글이 5개가량 검색된다. 영상 댓글에는 “이건 윤석열이 아니다”, “이거 만든 사람 처벌해야 한다”는 부정적 반응과 반대로 “정말 저렇게 인정하면 좋으련만”, “가짜가 진짜보다 좋다” 등의 반대 반응도 달렸다. 앞서 2022년에도 지방선거를 앞두고 윤 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 SNS를 통해 확산하면서 정치적 논란이 됐었다. 한편, 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.

더불어민주당 이재명 대표 아내인 김혜경씨의 법인카드 유용 의혹과 관련해 공직선거법 위반 혐의로 1·2심에서 징역형의 집행유예를 선고받은 전 경기도청 5급 별정직 공무원 배모씨가 대법원에 상고하지 않은 것으로 확인됐다. 22일 법조계에 따르면 공직선거법 위반 혐의로 1심에서 징역 10월에 집행유예 2년을 선고받은 배씨 측은 항소를 기각한 2심 판결에 대해 상고장을 내지 않아 형량이 그대로 확정됐다. 지난 14일 항소심 선고를 받은 배씨는 판결에 불복할 경우 선고일부터 7일까지인 지난 21일까지 상고장을 냈어야 했다. 배씨는 대선을 앞두고 2022년 1∼2월 김혜경 씨의 ‘불법 의전’과 ‘대리 처방’ 등 의혹이 제기되자 “후보 가족을 위해 사적 용무를 처리한 사실이 없다”, “제가 복용할 목적으로 다른 사람이 처방받은 약(호르몬제)을 구하려 했다”고 허위 발언을 해 공직선거법을 위반한 혐의로 기소됐다. 배씨는 2021년 8월 2일 서울 모 식당에서 김혜경 씨가 민주당 관련 인사 3명과 함께 식사한 자리에서 이들과 경기도청 공무원 등 6명의 식사비 10만4천원을 경기도청 법인카드로 결제하도록 해 공직선거법상 기부행위를 한 혐의도 받는다. 원심은 배씨의 혐의를 모두 유죄로 판단했다. 1심 재판부는 피고인이 지난 제20대 대통령 선거 후보자가 되려는 이 대표를 위해 범행했다고 봤다. 원심은 “피고인이 공표한 허위 사실은 대통령 선거 후보자 배우자의 행위에 관한 것으로 중요성이 상당히 컸고, 이는 대중으로부터 초미의 관심을 받고 있던 사안”이라며 “의약품 전달 사실과 관련해선 명백한 증거들에도 불구하고 납득하기 어려운 주장을 하는 등 제대로 반성하는지 의문”이라고 밝혔다. 항소심 재판부는 원심과 당심이 적법하게 채택한 증거들에 의하면 원심의 판단이 적법하다고 봤다. 배씨는 경기도청에서 사적으로 채용되고 김씨를 위해 대리 처방한 의혹은 사실이 아니라고 주장해왔으나, 공직선거법상 기부행위 공소사실은 인정했다. 배씨는 2018년 7월부터 2021년 9월까지 김혜경 씨의 개인 음식값을 경기도 법인카드로 결제한 혐의(업무상 배임)에 대해 아직 검찰 수사를 받고 있다. 검찰은 배씨가 2심 선고 직후 공직선거법 위반 혐의 공모공동정범으로 분류된 김씨를 불구속 기소했다.

우리나라 정당은 매년 분기마다 나랏돈을 지원받는다. 정당 운영에 필요한 경비에 사용하라고 국민 세금으로 나눠 주는 국고보조금(경상보조금)이다. 선거가 있는 해엔 추가로 선거보조금도 받는다. 선거가 없었던 지난해 정당 7곳에 지급된 국고보조금 총액은 476억원이었다. 대통령선거와 지방선거가 동시에 실시됐던 2022년엔 1420억원으로 역대 최대였다. 정치자금법상 선거보조금과 별개로 공직선거법의 선거비용공영제에 따라 일정 비율 이상을 득표한 정당과 후보자는 선거비용도 보전받으니 ‘꿩 먹고 알 먹고’다. 국고보조금은 1980년 전두환 군사정권 체제에서 도입됐다. 선거보조금은 1991년부터다. 정당 보조금 자체는 전 세계적으로 보편화된 제도다. 중앙선거관리위원회 선거연수원이 2021년 발간한 ‘각국의 정당·정치자금제도 비교 연구’에 따르면 경제협력개발기구(OECD) 회원국 37개국 중 이탈리아를 제외한 36개국이 국고보조금 제도를 운용하고 있다. 정치자금법에 따라 국고보조금은 의원 20석 이상 교섭단체에 총액의 50%를 우선 균등 배분한다. 이어 5석 이상 정당에 총액의 5%를 배분하고, 5석 미만 또는 의석이 없는 정당 중 최근 선거에서 득표수 비율 요건을 충족한 정당에 총액의 2%를 지급한다. 거대 양당 기득권 위주의 배분 방식을 개선해야 한다는 지적도 있지만 보조금을 더 받기 위해 온갖 꼼수를 일삼는 소수 정당의 행태도 문제다. 민주당 출신 무소속 양정숙 의원의 전격 입당으로 ‘보조금 뻥튀기’ 의혹을 자초했던 개혁신당이 새로운 미래 이낙연 대표와의 결별로 먹튀 논란에 휩싸였다. 개혁신당은 양 의원의 합류로 5석을 채워 지난 15일 보조금 6억 6000만원을 받았지만 통합이 깨지면서 의석수가 줄어들 위기에 놓였다. 하지만 이런 경우에 선관위가 보조금을 돌려받을 법적 절차가 없다고 한다. 국회 의석수가 ‘0’인 원외 정당 민생당이 올 1분기 보조금으로 2억 5000만원을 지급받은 것도 논란이다. 민생당은 4년 전 21대 총선에서 보조금 지급 기준인 득표율 2%를 넘겼다. 법적으로 문제는 없지만 정당 활동은 하지 않고 보조금만 타는 ‘유령 정당’ 아니냐는 비판이 나온다. 22대 국회가 합당한 대안을 찾는 데 머리를 맞대기 바란다. 이순녀 논설위원

“여야, 진보와 보수를 떠나 우리는 하나의 동지다.” 2020년 5월 20일 문희상 전 국회의장은 국회 헌정기념관에서 열린 21대 국회 초선의원 의정연찬회 특강에서 새내기 의원 151명을 향해 ‘협치’를 강조했다. 국민과 국가를 위해 보수와 진보가 함께해야 무엇을 하든 결실을 볼 수 있다는 취지였다. 문 전 의장은 “오늘을, 초심을, 국회의원이 되려고 얼마나 노력했는지를 잊지 말라”며 초심의 중요성도 언급했다. 특강이 끝난 후 당선자들은 여야를 가리지 않고 “일하는 국회를 만들고 국민을 위한 입법 기능 강화를 위해 노력하겠다”, “일하는 국회 만들기에 앞장서겠다”고 한목소리로 답했다. 4년이 흐른 지금 일하는 국회를 위한 의원들의 협치 약속은 잘 지켜졌을까. 21대 국회에 계류된 법안 비율만 봐도 “아니오”라고 답할 수밖에 없을 듯하다. 21일 국회 의안정보시스템에 등록된 처리 의안 통계를 보면 21대 국회에서는 법안 2만 5711건이 발의됐고, 1만 6392건(63.75%)이 계류 중이다. 계류 중인 법안은 국회 임기 4년이 지나면 자동으로 전량 폐기된다. 21대 국회 임기 마지막 날인 5월 29일이 지나면 휴지통으로 들어가는 셈이다. 앞선 국회를 보면 법안 폐기 비율(폐기 법안/발의 법안)이 18대 47.83%, 19대 51.89%, 20대 62.65%로 점차 증가세다. 이번 국회에서 계류 중인 법안이 모두 폐기될 경우 법안 폐기 비율은 역대 최고를 기록할 것으로 보인다. 실제로 지난 19일 개회한 2월 임시국회를 보면 향후 전망도 밝지 않다. ‘쌍특검법’(김건희 여사의 도이치모터스 주가조작 의혹·대장동 50억 클럽 의혹)과 이태원 참사 특별법을 놓고 여야가 한 치의 양보도 없는 기싸움을 벌이고 있기 때문이다. 오는 29일 사실상 이번 국회의 마지막 본회의가 개최될 예정이지만 추가로 처리되는 민생법안 숫자도 미미할 것으로 예상된다. 노후 차를 새 차로 바꿀 때 개별소비세를 70% 감면해 주는 법안도 공회전하고 있다. 더불어민주당 관계자는 “선거구 획정을 위한 공직선거법 개정안이 이번 국회에서 통과가 안 되면 2020년처럼 3월 국회가 열릴 수는 있다”면서도 “국회가 총선 모드로 전환했고, 국회부의장도 탈당한다고 하는 지금 정치적 상황이 녹록지 않다”고 밝혔다. 정치권에서 협치의 중요성을 강조하며 자성의 목소리가 나오는 건 그나마 다행이다. 홍익표 민주당 원내대표는 전날 교섭단체 대표연설에서 “바로 필요한 입법 과정을 진행해 국민께 새로운 희망을 드리자”, “관용과 협업의 정치를 바로 오늘부터 시작하자”고 밝혔다. 국민의힘 윤재옥 원내대표도 이날 “서로를 손가락질하며 수시로 국회를 멈춰 세웠고 국회 파행은 일상이 됐다”면서 “민주화 이후 가장 심각한 불통 국회였다. 국회가 민생과 동떨어져 있기 때문”이라고 자성했다. 이날 기준으로 다음 국회 개원일(5월 30일)이 100일 앞으로 다가왔다. 지금이라도 여야, 진보와 보수를 떠나 진정으로 협치하는 모습을 기대하는 건 나만의 이상향일까. 자신의 정치적 생명이 걸린 총선도 중요하지만 정치권이 ‘일하는 국회’를 다시 한번 떠올렸으면 한다. 이범수 정치부 기자

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

전남 순천시가 4월 총선을 앞두고 관권선거 시비에 휩싸이면서 유권자들의 우려를 사고 있다. 노관규 시장은 이례적으로 기자회견을 열고 이같은 사실을 전면 부인하는 등 적극 해명에 나서 관심을 끌었다. 노 시장은 21일 순천시청 소회의실에서 ‘특정 총선후보의 관권선거 의혹제기와 고발건에 대한 순천시 입장’ 을 전달하면서 “시는 어떠한 경우에도 선거에 개입하지 않았다”며 “어제 보도된 관권선거 의혹제기 및 고발에 대해 심한 우려와 유감을 표한다”고 성토했다. 그는 “정례조회, 간부회의, 읍면동장 회의 등 다양한 방법으로 선거 엄정중립에 대해 교육하고 주지시키고 있다”고 했다. 노 시장은 “불리한 선거판을 뒤엎기 위한 수단으로서 근거 없는 관권선거 주장과 고발까지 일삼는 이들의 행태에 큰 실망을 갖는다”며 “순천을 분열시키는 고질적이고 악랄한 행위를 더 이상 묵과할 수 없다”고 긴급 기자회견을 갖는 의미를 설명했다. 그는 “선거에 개입한 현직 공무원이 누구인지 명백하게 밝혀주면 시는 절차에 따라 철저히 조사하고 징계하겠다”며 “신종 관권선거 운운하는 행위는 정치판을 떠나 비열한 행동으로 아니면 말고식이 아닌 정확한 근거를 제시 해 달라”고 요구했다. 노 시장은 “아무리 민주당이면 당선된다는 호남이지만 어떤 정치인의 표현처럼 국회의원 놀이 하는 사람이 아닌 국회의원 다운 정치력을 보여줄 수 있는 사람을 공천하고 뽑아달라”고 강조했다.앞서 전날 손훈모·소병철 순천광양곡성구례(갑) 예비후보측은 신성식 예비후보자 캠프 관계자 등을 ‘공직선거법’ 위반으로 전남경찰청에 고발했다. 손훈모·소병철 예비후보측은 “순천시의 경우 시의 보조금을 받는 단체에서 구성원을 대상으로 조직적인 선거운동을 하게 했다는 의혹을 받고 있다”며 “고발 대상에는 공직선거법상 선거운동이 금지된 현직 통장의 부정선거운동 혐의도 포함돼 있다”고 전했다. 소병철 예비후보자 선거사무소 관계자는 “지금 일부 전·현직 공무원들과 순천시로부터 예산 지원을 받는 단체들을 이용한 총선개입 정황이 순천을 어지럽히고 있어 심히 유감스럽게 생각한다”며 “신종 관권 선거를 뿌리뽑아야한다”고 목소리를 높였다. 손훈모 예비후보자 선거사무소 관계자는 “민주주의의 꽃은 선거인데 행복해하고 즐거워야 하는 선거가 탈법과 불법의 온상이 되는 것은 우리 순천시민을 무시하는 행위다”며 “특정캠프가 버젓이 선거범죄를 저지르고 있는 점에 대해 수사기관에서는 한치의 의혹도 없이 엄정한 수사를 해달라”고 촉구했다.

중앙선거관리위원회가 오는 4월 총선을 앞두고 공직선거법상 위법 사항인 인공지능(AI)을 활용한 ‘딥페이크’ 불법 게시물을 22일 만에 129건이나 적발했다. 상대당 후보가 참석하지도 않은 행사에 참석한 듯 이미지를 합성하는 등 특정 정치인의 이미지를 왜곡하거나 조롱하는 영상물로 모두 삭제했다고 한다. 선거가 가까워질수록 이런 불법 선거물이 넘쳐날 판이니 대책 마련이 시급해 보인다. 딥페이크 영상 등은 AI 기술 등으로 만들어 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등이다. 공직선거법 개정에 따라 지난달 29일부터 이런 딥페이크물은 제작·편집·유포·상영·게시할 수 없다. 위반하면 7년 이하 징역이나 최고 5000만원의 벌금형에 처한다. AI 기술로 만든 가상의 영상물이라고 표시를 하더라도 허위사실이 포함된 경우에는 허위사실 공표죄로 처벌한다지만 위해성을 감안하면 미흡한 대책이다. 선관위는 반복적이고 악의적인 딥페이크물은 고발 조치 등 강력 대응해야 한다. 이런 불법 게시물은 삭제하더라도 삭제하기 전에 본 유권자들에게 특정 정당과 정치인에 대한 왜곡되거나 편향된 인식을 심어 주고 유권자의 정확한 판단을 흐리게 한다. 포털 업체와 정치권의 협조도 필요하다. 선관위에서 AI 전담 조직을 꾸려 모니터링을 강화한다지만 모든 딥페이크물을 적발하기란 힘든 일이다. 포털 업체가 선관위의 삭제 요청에 앞서 스스로 이런 딥페이크물을 걸러 내는 시스템을 갖춰야 한다. 정치권은 딥페이크를 활용한 불법 선거물을 제작, 유포하는 정치인은 공직선거에 입후보할 자격을 박탈하는 등 AI 선거의 해악을 최소화할 방안을 모색해야 한다. 유권자의 눈과 귀를 흐리는 선거는 정치에 대한 불신감만 키울 것이다.

이재명 더불어민주당 대표를 흉기로 찌른 혐의로 기소된 김모(67)씨가 첫 재판에서 자신의 범행을 인정했다. 다만 검찰이 규정한 범행 배경에 대해서는 부인했다. 부산지법 형사6부(부장 김태업)는 20일 살인미수와 공직선거법 위반 혐의로 기소된 김씨에 대한 첫 공판준비기일을 진행했다. 공판준비기일은 본격 심리에 앞서 피고인과 검찰의 입장을 확인하고 증거 입증 계획을 논의하는 절차다. 김씨의 변호인은 “김씨는 범행 사실은 자백하지만 범행 동기는 다투는 부분이 있다”고 말했다. 변호인은 “김씨는 검찰의 공소장 중 범행 배경 부분에서 자포자기 심정과 영웅 심리에서 범행을 저질렀다는 부분을 인정하지 않고 있으며 순수한 정치적 명분에 의한 행동이라고 주장한다”고 말했다. 김씨는 범행 전 본인이 작성한 문건인 일명 ‘변명문’을 공개하길 원하지만 변호인은 공개하지 않을 것이라고 밝혔다. 변호인은 “피고인의 변호인이긴 하지만 피고인 가족들의 변호인이기도 하다. 변명문이 공개될 경우 파급력은 상당할 것으로 예상된다”면서 “사건 발생 이후 피고인 가족들의 주거지나 회사에 어떤 기관과 단체에서 찾아와 많이 힘들어한다. 변명문이 공개될 경우 또다시 피해가 발생할 수 있기 때문에 변명문을 공개할 수 없다”고 강조했다.

2022년 제20대 대통령 선거와 관련한 공직선거법 위반 혐의로 재판에 넘겨진 이재명 더불어민주당 대표의 배우자 김혜경씨의 첫 재판이 오는 26일 열린다. 20일 법조계에 따르면 수원지법 형사13부(부장 박정호)는 김씨의 첫 공판 기일을 오는 26일 오후 2시로 지정했다. 박 부장판사는 수원지법에서 무기징역을 선고받은 연쇄살인범이 23년 전 저지른 성폭력 범죄가 뒤늦게 밝혀져 기소되자 징역 10년을 추가로 선고하고 벽간소음으로 참혹하게 살인을 저지른 남성에게는 징역 25년을 선고한 바 있다. 앞서 검찰은 김씨에 대한 공직선거법상 기부행위 혐의 공소시효가 정지된 지 1년 5개월인 지난 14일 수사를 마무리하고 그를 불구속기소 했다. 김씨는 이 대표의 당내 대선 경선 출마 선언 후인 2021년 8월 2일 서울 모 음식점에서 당 관련 인사 3명 및 자신의 운전기사·변호사 등에게 10만원 상당의 식사를 제공한 혐의를 받는다. 김씨의 공직선거법 공소시효는 측근이자 공모공동정범으로 분류된 경기도청 전 별정직 5급 공무원 배모 씨가 공소시효 만료를 하루 앞둔 2022년 9월 8일 재판에 먼저 넘겨지면서 정지됐다. 형사소송법에 따르면 공범이 기소되면 다른 공범에 대한 공소시효는 기소된 공범의 재판이 확정되기 전까지 정지될 수 있다. 검찰은 “야당 대표의 배우자 사건이고 공범(배씨)의 재판 경과와 판결 선고까지 고려해 신중히 처리했다”며 “공소시효 때문에 일부 혐의를 우선 처리한 것이고 나머지 배임 혐의는 최근 권익위에서 의뢰한 부분까지 수사 중”이라고 밝혔다. 검찰은 김씨를 기소하면서 김씨가 음식값 등을 경기도 법인카드로 결제해 경기도에 손해를 끼쳤다는 ‘배임’ 혐의도 추가해 기소하는 방안도 검토하는 것으로 전해졌다. 공직선거법 위반 혐의로 1심과 2심에서 집행유예를 선고받은 배씨는 공직선거법상 기부행위와 관련한 공소사실을 인정했다. 검찰은 배씨와 김씨의 경기도청 법인카드 유용 의혹(업무상 배임 혐의)에 대해서도 수사를 계속 이어가고 있다.

윤석열 대통령이 얼마 전 민생토론회에서 이공계 석박사에게 장학금을 지원하겠다고 약속한 데 대해 더불어민주당이 선거법 위반이라며 다음주쯤 윤 대통령을 수사기관에 고발하겠다고 밝혔다. 선거를 앞둔 시점에서 특정 금액 지원을 약속하는 것은 공직자가 선거구민이나 기관단체 등에 기부행위를 금지한 공직선거법 113조 위반이라는 것이다. 하지만 대통령이 열악한 처우 등으로 공동화 위기에 직면한 이공계를 살리기 위한 방안을 내놓는 게 기부행위에 해당하는지 납득하기 어렵다. 외려 선거를 앞두고 정쟁으로 몰아가 선거에서 이득을 챙기려는 속셈이 아닌지 의심스럽다. 이공계 인재 부족은 갈수록 심화하고 있다. 정부에 따르면 배터리업계만 해도 지난해 말 기준 연구개발(R&D) 수요에 비해 700여명이 부족하다. 우리나라의 인공지능(AI) 인력은 2555명으로 세계 인재의 0.5%에 불과하다는 한국직업능력연구원 조사도 있다. 한국반도체산업협회에 따르면 2031년 한국 반도체산업 인력이 5만여명 부족할 것이라고 한다. 이공계 공동화가 우려되는 현 상황을 고려하면 인력 부족은 이보다 더 악화될 가능성이 크다. 윤 대통령의 R&D 지원 약속은 외려 늦은 감이 있다. 당초 세수 부족 우려로 정부·여당이 R&D 예산 삭감에 나선 게 섣부른 측면이 있다. 좀 일찍 이를 바로잡았으면 하는 아쉬움도 있지만 이제라도 윤 대통령이 나선 건 다행스런 일이다. 게다가 정부의 대규모 의대 정원 증원 방침에 이공계 예비 인재들이 블랙홀처럼 빨려들 조짐마저 나타나고 있다. 야당이 이런 사태를 걱정한다면 대통령의 지원 약속이 외려 부족하다고 지적하고 예산 지원을 위한 입법을 서둘러야 할 일이다. 대통령이 하는 약속마다 선거에 결부시키면 어떻게 국정을 운영하나.

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

충남도선거여론조사심의위원회는 제22대 국회의원선거와 관련해 당내경선 여론조사에서 나이를 거짓으로 응답하도록 권유·유도하는 내용을 사회관계망 서비스(SNS)에 게시한 혐의로 예비후보자 자원봉사자 A씨를 경찰에 고발했다고 19일 밝혔다. 충남여심위에 따르면 자원봉사자 A씨는 당내경선 관련 여론조사가 오면 정당과 예비후보자, 나이대 등의 선택을 유도하는 내용을 자신의 페이스북 등 SNS에 게시한 혐의를 받고 있다. 공직선거법에는 당내경선을 위한 여론조사의 결과에 영향을 미치게 하기 위해 성별·나이 등을 거짓으로 응답하도록 지시·권유·유도하는 행위를 할 수 없도록 규정하고 있다. 충남여심위는 “왜곡된 여론조사 결과를 공표해 여론을 호도하거나, 당내경선 여론조사 결과에 영향을 미치기 위해 나이 등을 거짓으로 응답하도록 하는 행위 등을 집중해 단속할 계획”이라고 말했다.

4·10 총선의 핵심 구도로 ‘정권 심판론’을 앞세운 더불어민주당이 윤석열 대통령의 선거 개입 의혹과 경호실 폭력 제압 등을 거세게 비판했다. 민주당 ‘윤석열 정권 관권선거 저지 대책위원회’의 서영교 위원장은 18일 국회에서 열린 2차 회의에서 “대통령과 정부는 선거에 개입하면 안 된다. 선거법 85조 위반, 선거법 113조 위반 등 엄청난 불법행위”라며 윤 대통령이 최근 지방 방문을 통해 선심성 공약을 남발했다고 비판했다. 그는 윤 대통령이 지난 16일 민생토론회에서 이공계 석사에게는 80만원, 박사에게는 110만원의 연구생활장학금을 지원하겠다고 한 것에 대해 “공직선거법에서 금지한 ‘기부행위 약속’을 한 것”이라며 법적 조치를 예고했다. 강승규 전 대통령실 시민사회수석의 ‘대통령 시계 살포’ 의혹에 대해서도 “어마어마한 기부행위에 해당한다. 고발장은 거의 완성돼 있다”고 밝혔다. 민주당은 대통령실의 공천 개입 의혹도 지적했다. 윤 대통령이 최근 서울 강남을에 공천을 신청한 박진 전 외교부 장관과 이원모 전 대통령실 인사비서관을 재배치하도록 압박했다는 주장이다. 강병원 민주당 의원은 이날 회의에서 “이 전 비서관은 윤 대통령 언급 하루 만에 이례적으로 당 결정에 따르겠다는 입장을 밝혔다”며 “윤심(윤 대통령 의중) 공천을 위한 대통령의 공천 과정 개입, 선거 개입이 실현되는 것”이라고 비판했다. 권칠승 민주당 수석대변인은 이날 브리핑에서 지난 16일 한국과학기술원(KAIST) 학위 수여식에서 한 졸업생(녹색정의당 대전시당 대변인)이 축사 중인 윤 대통령에게 ‘연구개발(R&D) 예산 삭감’에 대해 항의하다 강제 퇴장당한 것과 관련해 “민심의 분노는 들풀처럼 번지고 있다”고 비난했다.

4·10 총선의 핵심 구도로 ‘정권 심판론’을 앞세운 더불어민주당이 윤석열 대통령의 선거 개입 의혹과 경호실 폭력 제압 등을 거세게 비판했다. 민주당 ‘윤석열 정권 관권선거 저지 대책위원회’의 위원장인 서영교 의원은 18일 국회에서 열린 2차 회의에서 “대통령과 정부는 선거에 개입하면 안 된다. 선거법 85조 위반, 선거법 113조 위반 등 엄청난 불법행위”라며 윤 대통령이 최근 지방 방문을 통해 선심성 공약을 남발했다고 비판했다. 또한 서 의원은 윤 대통령이 지난 16일 민생토론회에서 이공계 석·박사에 80·110만원의 연구생활장학금을 지원하겠다고 한 것에 대해 “공직선거법에서 금지한 ‘기부행위 약속’을 한 것”이라면서 법적 조치를 하겠다고 강조했다. 강승규 전 대통령실 시민사회수석의 ‘대통령 시계 살포’ 의혹에 대해서도 “어마어마한 기부행위에 해당한다. 이에 대한 고발장은 거의 완성돼 있다”고 밝혔다. 민주당은 대통령실의 공천 개입 의혹도 지적했다. 윤 대통령이 최근 서울 강남을에 공천을 신청한 박진 외교부 장관과 이원모 전 대통령 인사비서관을 재배치하도록 압박했다는 주장이다. 강병원 민주당 의원은 이날 회의에서 “이 전 비서관은 윤 대통령 언급 하루 만에 이례적으로 당 결정에 따르겠다는 입장을 밝혔다”며 “윤심(윤 대통령 의중) 공천을 위한 대통령의 공천 과정 개입, 선거 개입이 실현되는 것”이라고 비판했다. 앞서 민주당은 한동훈 국민의힘 비상대책위원장에게 사퇴를 언급했다며 이관섭 대통령실 비서실장을 경찰에 고발한 바 있다. 권칠승 민주당 수석대변인은 이날 브리핑에서 지난 16일 한국과학기술원(KAIST) 학위 수여식에서 한 졸업생(녹색정의당 대전시당 대변인)이 축사 중인 윤 대통령에게 ‘연구개발(R&D) 예산 삭감’에 대해 항의하다 강제 퇴장당한 데 대해 “민심의 분노는 들풀처럼 번지고 있다”고 비난했다.

‘지금 여론조사 중. 전화를 받아서 OOO을 꼭 눌러주세요.’ 제22대 총선을 50여일 앞두고 예비후보들의 ARS 홍보 전화와 문자메시지가 무차별적으로 쏟아지고 있다. 예비후보들이 쏟아내는 전화, 문자메시지, 카톡에 유권자들의 피로감이 가중되고 있다. 특히 예비후보들이 선거구에 상관없이 무차별적으로 전화와 문자메시지를 보내면서 ‘선거 공해’로 인식되고 있다. 울산에 사는 김모씨(35)는 “지역구 예비후보는 물론 다른 지역에서 보내는 문자메시지와 ARS 홍보 전화를 합치면 하루 10여통에 이른다”며 “예비후보들의 간절한 마음을 이해가 되지만, 무차별적인 전화와 문자메시지로 피로감이 쌓인다”고 지적했다. 20대 박모씨는 최근 모르는 번호로 ‘OOO 의원 단체방’이라며 링크 클릭을 유도하는 문자를 받았다고 밝혔다. 또 강모씨는 “여론조사에서 누구를 선택해달라거나 특정 후보의 홍보 페이지로 연결되는 링크가 포함된 문자가 하루도 끊이지 않고 있다”며 “모르는 번호의 전화는 받지도 않고, 문자메시지도 안 본다”고 말했다. 이모(50)씨는 “선거구가 다른 후보가 홍보 문자나 SNS를 보내오면 불쾌감과 불안감을 느낀다”며 “때로는 보이스피싱으로 의심해 은행과 관계기관 등에 확인 전화를 하기도 한다”고 말했다. 하지만, 현행 공직선거법으로는 이를 막을 수가 없다. 이 때문에 홍보수단과 내용에 대해 기준·형식 등 체계가 필요하다는 지적도 제기된다. 일부에서는 유권자들이 홍보물을 가려서 받을 수 있는 장치나 수단을 마련해야 한다는 목소리도 나온다. 선관위 관계자는 “현재로서는 유권자들의 민원이 있어도 문자메시지와 ARS 전화 등 합법적인 선거운동을 제재할 방법은 없다”고 말했다.