국내외에서 선거를 앞두고 인공지능(AI) 기술로 만든 딥페이크 가짜 영상에 주의보가 내려진 가운데, 국내 생성형 AI 전문 기업 딥브레인AI가 경찰청과 협력해 딥페이크 범죄 단속을 돕는 탐지 솔루션을 선보였다고 15일 밝혔다. 최근 딥페이크 기술의 고도화로 이를 악용한 범죄 우려가 가중됨에 따라, 딥브레인AI는 경찰청과 함께 이를 효과적으로 대응할 수 있는 맞춤형 딥페이크 탐지 솔루션을 개발했다. 경찰청은 이를 활용해 총선을 겨냥한 선거범죄를 비롯한 피싱 범죄와 합성 성 착취물 범죄 등 딥페이크 기반 지능형 범죄에 능동적으로 대처할 방침이다. 딥브레인은 앞서 딥페이크 탐지 솔루션을 지속 개발해 왔다. 이번 솔루션은 ▲종합탐지 ▲음성탐지 2가지로 구성돼 있으며, 각각 이미지와 영상, 음성 탐지를 지원한다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 ▲탐지모델 ▲탐지구간 ▲탐지인물 등을 설정하면 진위여부를 즉각 판별한다. 이번 딥페이크 탐지 솔루션은 딥브레인AI의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 기반으로 설계됐다. 서양인 위주의 데이터로 제작된 기존 대다수 탐지 모델과 달리 한국인 데이터 100만 건, 아시아 계열 인종 데이터 13만 건을 포함해 총 520만 건의 데이터 학습을 더해 탐지율을 높였다. 딥브레인AI는 이번 경찰청과의 협력을 계기로 다양한 분야의 기업, 기관과 딥페이크 탐지 솔루션 구축 방안을 논의할 예정이다. 혼란과 위기 상황을 야기하는 허위 정보의 진위여부를 즉각 판별하는 솔루션을 적극 공급하며 전 사회적인 손실 비용을 최소화한다는 방침이다.

빠르게 진화하는 인공지능(AI)이 인류에 멸종급 위협이 될 수 있다는 경고가 미국에서 나왔다. 12일(현지시간) 미국 CNN방송에 따르면 AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI는 미국 국무부의 의뢰로 작성해 이번 주 발표한 보고서에 이같은 내용을 담았다. 미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고도 포함했다. 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기(WMD) 전문가, 국가안보 정부 당국자 등 200여명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다. 이에 대해 글래드스톤 AI 측은 챗GPT 개발사인 오픈AI, 구글 딥마인드, 페이스북 모회사인 메타, 앤트로픽 등 주요 빅테크 기업의 기술 및 리더십 팀과 이야기를 나눴다고 밝혔다. 또 일론 머스크, 리나 칸 미국 연방거래위원회(FTC) 위원장 등 AI로 인한 실존적 위험에 대해 경고해온 저명인사들도 보고서에 언급했다.보고서는 AI가 제기할 수 있는 위협을 크게 두 가지로 정리했다. 우선 최첨단 AI 시스템이 향후 돌이킬 수 없는 피해를 가할 가능성이 있는 무기로 전용될 가능성을 우려했다. 보고서는 경쟁 압박으로 인해 기업들이 안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있다며 무기화 가능성 등을 경고했다. 다음으로는 어느 시점이 되면 인간이 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있음을 꼽았다. 보고서는 “AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다”며 AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다고 예상했다. 경쟁 압박 속에 각 기업은 떠밀리듯 안전과 보안을 장담할 수 없는 AI 개발을 가속하고 있으며, 이로 인해 AI 체계가 미국에 반하는 방식으로 무기화하거나 절취될 수 있다고 봤다. 그러면서 이러한 위협에 대응하기 위해 “미국 정부의 개입 필요성이 매우 분명하고 긴급하다”고 보고서는 촉구했다. 아울러 새로운 AI 감독 기관 및 긴급 규제 안전장치 마련, AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한 등을 방안으로 제시했다. 글래드스톤 공동 설립자이자 최고경영자(CEO)인 제러미 해리스는 CNN에 “AI는 이미 경제적으로 혁신적인 기술”이라면서 “하지만 또한 우리가 알아야 할, 재앙적인 위험을 포함한 심각한 위험을 가져올 수 있다”고 지적했다. 그는 “세계 최고의 AI 회의들에서 발표된 경험적 연구와 분석을 포함해 늘어나는 증거들은 특정 능력의 한계점을 넘어서면 AI가 잠재적으로 통제할 수 없게 될 수 있음을 시사한다”고 말했다.글래드스톤 AI에 따르면 AI 기업들의 일부 직원들도 사석에서 비슷한 우려를 공유하고 있다. 보고서는 “한 유명한 AI 연구소의 한 직원은 특정 차세대 AI 모델이 오픈 액세스로 나온다면 끔찍하게 나쁠 것이라는 견해를 밝히기도 했다”며 “이 모델의 잠재적인 설득 능력이 선거 개입이나 유권자 조작 같은 분야에 사용될 경우 민주주의를 파괴할 수 있다는 점 때문”이라고 전했다. 보고서에 따르면 AI 전문가들은 올해 AI로 인한 사고(AI incident)가 전 세계적으로 돌이킬 수 없는 영향을 미칠 가능성을 4%에서 최대 20%까지로 추정했다. 보고서는 다만 이 같은 추정치는 비공식적이며 상당히 편향된 것일 가능성도 있다고 밝혔다. 이제 관건은 AI가 얼마나 빠르게 진화하느냐다. 보고서는 특히 인간과 유사하거나 인간의 역량을 넘어서는 학습 능령을 지닌 AGI의 진화 속도에 주목했다. AGI의 경우 인간이 통제력을 잃는 재앙적인 상황을 촉발할 주된 요인이 될 수 있다는 것이다. 보고서는 “AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아는 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다고 덧붙였다. 아울러 AI 체계가 향후 주요 인프라를 마비시킬 역량을 갖춘, 타격이 큰 사이버 공격을 시행하는 방향으로 고안될 수 있으며, 가짜 정보 캠페인이나 심리적 조작에 악용되거나 인간에게 적대적인 권력에 부합하는 통제 불가능한 방향으로 발달할 수 있다고 경고했다. CNN은 이날 보고서를 보도하며 향후 30년 이내에 AI가 인류 멸종을 이끌 가능성이 10%가량 된다는 ‘AI 대부’ 제프리 힌튼의 발언도 함께 전했다. 힌튼을 비롯한 AI 산업 저명 인사들은 지난해 6월 AI로 인한 인류 멸종 위험을 완화해야 한다는 성명을 낸 바 있다.

더불어민주당 공천에서 배제된 뒤 단식 농성에 나섰던 노웅래 의원은 10일 “당의 결정에 따르고 이번 총선에서 불출마한다”고 밝혔다. 노 의원은 이날 입장문을 통해 “지금은 윤석열 검찰 독재 심판이라는 더 큰 대의를 위해 힘을 하나로 모아야 한다”고 말했다. 노 의원은 “민주당다운 민주당을 만드는 데 앞장서겠다. 지금 민주당은 총선을 앞두고 절체절명의 상황에 놓여있다”며 “이번 총선에서 국회마저 윤석열 정권에 넘겨줄 수도 있다는 위기감은 점점 커지고 있다”고 강조했다. 이어 “당 지도부의 불공정하고 불투명한 공천 시스템을 다시금 바로 세우고자 단식 농성에까지 나섰다”며 “공천 심사 과정에서 우리 당이 자랑하는 ‘시스템 공천’이 사천의 수단으로 악용돼 총선에 패배하는 상황만큼은 막아야 했기 때문”이라고 설명했다. 그러면서 “선대부터 평생 지켜온 민주당 당원으로서, 당을 지키면서 총선 승리를 통한 윤석열 정권의 검찰 독재 심판에 힘을 보태겠다”며 “그동안 계파 눈치 안 보고 대의를 따르는 소신의 정치 해 온 것처럼, 앞으로도 민주당다운 민주당을 만드는 일에 온 힘을 다하겠다”고 강조했다. 노 의원은 “국민들이 민주당의 사당화, 계파·패거리 정치를 심각하게 걱정하는 상황”이라며 “저 역시 불공정하고 불투명한 공천에 실망을 넘어 좌절했지만, 당내에서 이를 바로잡기 위한 역할을 계속할 것”이라고 전했다. 그는 “지도부의 공천 전횡과 잘못된 상황 인식으로 총선에서 패배한다면 반드시 그 책임을 져야 할 것”이라도 덧붙였다. 노 의원은 지난달 22일 자신의 지역구인 서울 마포갑이 전략 선거구로 지정되자 이에 반발하며 당 대표실에서 9일 동안 단식 농성을 이어갔다. 당 전략공천관리위원회는 마포갑에 영입 인재인 이지은 전 총경을 공천했다.

“영국 사람은 (스스로를) 자유롭다고 생각하고 있지만, 그건 큰 착각이다. 그들이 자유로운 건 의원을 선거로 뽑는 기간뿐이다. 의원이 선출되자마자 영국 인민들은 노예가 되고, 아무것도 아닌 상태로 돌아가고 만다.” 18세기 프랑스 사상가 장 자크 루소는 대의민주주의의 한계를 지적하며 이렇게 말했다. 하지만 대의민주주의 체제에서 우리 모두가 이 명제에 동의할지는 의문이다. 적어도 이재명 더불어민주당 대표 강성 지지층인 개딸들은 자신들이 선거할 때만 이용당하고 노예가 된다는 것을 인정할 수 없을 것이다. 특정 정치인 좌표찍기나 문자폭탄으로 정치 효능감을 느낀 그들은 자신들이 정치인을 조종한다고 생각할 것이다. 그러나 정치학자인 박상훈 국회미래연구원 연구위원은 지난해 출간한 저서 ‘혐오하는 민주주의’에서 팬덤정치의 원인을 ‘팬덤을 필요로 하는 정치’에서 찾아야 한다고 했다. 이 말에 동의한다. 팬덤정치의 다른 말은 혐오정치다. 개딸들이 비명(비이재명)계 의원을 멸칭하는 ‘수박’(겉과 속이 다르다는 뜻의 은어)은 이미 일상적인 용어가 됐다. 증오와 혐오를 이용한 팬덤정치가 가장 잘 활용되고 있는 공간이 바로 친명(친이재명) 유튜브 채널이다. 민주당 공천 과정에서 친명 유튜버들은 노골적으로 비명계를 수박으로 낙인찍어 비난해 논란이 일었다. 심지어 “친명 유튜버들이 공천관리위원장”이라는 말까지 나온다. ‘이재명 사당화’를 위해 이 대표와 가까운 친명 유튜버들이 팬덤정치를 악용하고 있는 것이다. 그 결과 친문(친문재인) 좌장인 홍영표 의원과 임종석 전 대통령 비서실장을 비롯해 하위평가 10%, 10~20%로 분류돼 감점받은 비명계 현역 의원들이 줄줄이 공천 배제됐다. ‘친명횡재 비명횡사’라는 신조어를 낳은 공천 파동은 민주당과 국민의힘 지지율을 오차 범위 밖으로 벌려 놓았다. 이런 상황에서 지난 3일 조국 전 법무부 장관이 조국혁신당을 공식 창당했다. 조 전 장관은 지난 5일 이재명 대표를 예방해 “조국혁신당이 학익진의 망치선 역할을 하겠다, 본진이 완전히 포위해 달라”고 말했고, 이 대표는 “같이 승리해야죠”라고 답했다고 한다. 불과 3주 전만 해도 조 전 장관이 총선에서 민주당과 연대할 수도 있다는 가능성을 내비치자 불편해하는 기색이 역력했던 민주당이 급격하게 노선의 방향을 튼 것으로 보인다. 민주당의 태도 변화는 지지율 하락에 따른 고육지책일 것이다. 급부상한 조국혁신당의 심상치 않은 기세를 활용해 공천 논란으로 인한 지지율 하락세를 만회하려는 전략으로 보인다. 최근의 한 여론조사에서 총선 비례대표 투표 정당을 물은 결과 조국혁신당 지지율이 15%로 집계돼 국민의미래, 민주당 계열 비례정당에 이어 3위를 차지했다. 준연동형 비례대표제에서 최대 10석 이상을 챙길 수도 있는 지지율이다. 신장식 조국혁신당 대변인은 총선 표어를 ‘지민비조’라고 밝혔다. ‘지역구 투표는 민주당, 비례대표 투표는 조국혁신당’의 줄임말이라는데, 노골적인 야합에 어떤 부끄러움도 없다. 최근 자녀 입시비리, 감찰 무마 등의 혐의로 항소심에서 징역 2년의 실형을 선고받은 조 전 장관은 비례대표 의원으로 선출돼 국회에 입성하더라도 대법원에서 원심이 확정되면 의원직을 상실한다. 그럼에도 ‘조국 사태’로 확인한 팬덤을 자신의 명예회복에 활용하기 위해 이 대표의 팬덤과 결합하겠다는 속내다. 대선 전 조국 사태에 대해 사과했던 이 대표는 결국 태도를 바꿔 다시 조국의 강에 빠지고 말았다. 박 위원은 “팬덤이라고 불리는 강성 지지자의 문제는 근본적으로 나쁜 정치에 의해 ‘만들어진’ 문제”라고 했다. ‘내로남불’의 상징인 조 전 장관과 이 대표의 팬덤이 가져올 정치 퇴행을 막으려면 나쁜 정치에 휘둘리지 않도록 국민들부터 정신을 바짝 차려야 한다. 황비웅 논설위원

서울시의회 교통위원회 윤기섭 의원(국민의힘·노원구 제5선거구)은 지난달 5일 발의한 특수의료장비 설치인정기준 중 시설기준 폐지를 위한 ‘특수의료장비의 설치 및 운영에 관한 규칙’ 개정 촉구 건의안이 지난달 29일 서울시의회 제322회 임시회 제5차 본회의를 통과했다. 윤 의원은 지역구에 있는 병원에서 기존 장비를 최신장비로 교체하려고 장비를 계약했으나, 특수의료장비 설치인정기준을 충족하지 못해 계약한 장비를 동물병원에 이양한 사례를 보고 건의안을 발의하기로 마음먹었다. 이번 건의안은 공동활용병상을 매매하는 폐해를 방지하고, 개원의의 특수의료장비 도입과 의료기관이 최신 특수의료장비로 교체를 원활하게 해 환자 중심의 서비스를 제공할 수 있도록 ‘특수의료장비의 설치 및 운영에 관한 규칙’ 개정을 통해 특수의료장비 설치인정기준 중 시설기준 폐지하여 줄 것을 촉구하는 건의안이다.현행 ‘특수의료장비의 설치 및 운영에 관한 규칙’에 따르면 특수의료장비를 설치·운영하기 위해서는 인력기준으로 전속 또는 비전속 영상의학과 전문의 1인 이상, 시설기준으로 자체보유 병상 200개 이상 또는 같은 수의 공동활용병상이 있어야 한다는 내용을 담고 있으며, 지난 2003년부터 시행되고 있다. 공동활용병상은 현행제도의 유연성과 의료자원의 효율적인 활용을 위해 도입됐으나, 물밑에서는 공동활용병상을 고가에 매매하는 폐해가 발생하고 있어 제도의 순기능보다는 악용의 상황이 발생하고 있고 영상의학 전문의가 개원할 경우 특수의료장비가 꼭 필요함에도 특수의료장비 설치인정기준의 시설기준을 충족해야 장비설치가 가능해 다른 전문의들보다 개원의 장벽이 높은 현실이다. 윤 의원은 “이번 건의안이 반영된다면 특수의료장비 설치 인정기준이 완화되어 개원의의 특수의료장비 도입을 원활하고 최신장비로 교체도 수월해질 것”이라고 말하며 “이를 통해 환자들이 의원급에서 진료받을 수 있고 최신장비로 환자들이 더 정확하고 정밀하게 검사받을 수 있어, 국민건강 증진에 도움이 됐으면 한다”고 소감을 밝혔다.

1945년 해방 이후 이승만 전 대통령이 대한민국 정부를 수립한 과정을 담은 다큐멘터리 ‘건국전쟁’ 속편이 나온다. 김덕영(59) 감독은 29일 서울 용산 CGV아이파크몰에서 열린 ‘건국전쟁2’ 제작보고회에서 “내년 3월 26일 이승만 탄생 150주년을 기념해 ‘건국전쟁2’를 개봉할 예정”이라고 밝혔다. 영어 제목은 ‘The Birth Of Koreans’이다. 김 감독은 “한국이 어떻게 탄생했는지의 과정에서 건국 1세대가 우리에게 어떤 큰 선물을 줬는지를 이야기할 것”이라고 밝혔다. 그는 또 “이승만 다이어리에 나온 이야기를 집중적으로 다룬다. 이승만의 개인사, 기독교인으로서의 활동도 포함된다”고 덧붙였다. 2월 1일 개봉한 ‘건국전쟁’은 개봉 3주 만인 27일 누적 100만 관객을 돌파했다. 그러나 일각에서는 이승만의 공만 내세우고 과는 제대로 다루지 않거나 왜곡했다는 평가가 나온다. 독재 체제에서 수많은 인명 피해가 발생하고 결국 4·19혁명으로 이승만이 불명예 퇴임한 것에 대해 김 감독은 그동안 “4·19혁명을 촉발한 3·15부정선거는 불법 선거였지만, 이 전 대통령과는 관련이 없다”고 주장해 왔다. 이날 보고회에서 제주 4·3사건에 대한 이승만의 책임을 묻는 질문에 그는 “양민 학살 피해자라고 알려졌던 2명이 알고 보니 살해를 자백한 사람이었다. 이승만은 여러 거짓말에 의한 피해자”라고 반박했다. 김 감독은 소셜미디어(SNS)에 올린 영화 ‘파묘’ 좌파몰이 논란에 배후설을 제기하기도 했다. 그는 “‘건국전쟁’ 개봉 후 여러 다양한 인플루언서들의 콘텐츠를 모니터링했는데, 특정 정치 집단에서 이 영화를 보이콧하자는 운동을 하고 있었다”며 “더이상 반일이니, 항일이니 근거도 없는 민족감정을 악용하는 영화보단 대한민국을 구한 사람이 누구인지, 그 진실에 관한 영화에 관심을 돌려 달라”고 말했다.

더불어민주당 소병철 순천갑 국회의원이 27일 “아무리 선거구도라지만 평생 지켜온 자존심을 모멸감으로 산산조각 내면서 도저히 인정할 수 없는 상대와 경선할 수 없었다”며 총선 불출마 이유를 밝혔다. 신성식 예비후보를 지칭한 발언이다. 소 의원은 이날 순천시 조례동 선거사무소에서 기자회견을 열고 “순천 선거구 정상화를 위해 4년 동안 혼신의 노력을 다했고 그 결과 분구가 긍정적인 상황이라서 할 일은 다했다는 생각에 어제를 불출마 선언 시점으로 선택했다”고 설명했다. 그는 “동귀어진(함께 죽음으로써 끝장을 냄) 각오로 순천의 썩은 정치 실상을 시민에 고발한다”며 “부피로 오염된 정치, 시의원 자리를 악용해서 이권 챙기기, 거짓말로 신의를 저버린 배신 등의 정치를 추방하고자 고군분투해왔다”고 지난 4년간의 활동을 설명했다. 소 의원은 이날 기자회견의 대부분을 노관규 시장에 대한 비난으로 할애했다. 그는 최근 ‘관권선거’ 당사자로 지목해 경찰에 고발한 노 시장에 대해 “이번 임기를 마치면 더 이상 선거나 정치에 나서지 말라고 강력하게 권유할 생각이다”며 “순천 정치발전에 노관규씨가 정치에서 물러나는 것이 가장 관건이라고 생각한다”고 불편한 감정을 드러냈다. 이어 “음해와 공작을 하는 사람이 아직도 순천 정치를 주도하고 있다”며 “같이 퇴장하자”고 까지 발언했다. 소 의원은 “순천 정치 발전을 역행하는 노시장과 정병회 순천시의장, 서동욱 전남도의장 등은 시민들과 방송 앞에서 1대일 공개토론을 하자”며 “노 시장은 정치에서 물러날 것과 이번 주 내 방송 앞에서 1대1 공개토론 제안에 답변해달라”고 요구했다. 그는 “노관규 시장이 ‘혜성처럼 나타났다’고 선전해준 진짜 검사라고 자칭하는 신성식후보는 어떤 사람인지 아냐”며 “KBS 검언유착 오보사건으로 기소돼 재판중이고 KBS시사기획 보도에 따르면 유력 로비스트와 만남만 무려 4회나 된다”고 지적했다. 이어 “건전한 상식을 가진 여러분이 저라면 이런 후보와 경선을 한다는 자체가 저의 삶의 존재가치와 자존심을 산산조각 내는 것이라고 이해하실 수 있을 것이다”고 질타했다. 소 의원은 지난 23일 이재명 대표와 독대 자리에서 “소 의원님은 하위 통보 해당이 없으시잖아요. 오늘로써 통보는 다 끝났습니다라고 직접 말씀도 하셨다”며 “이미 그 가짜 뉴스를 유포한 사람들이 음해와 공작을 일삼는 사람들임을 짐작할 수 있는 만큼 앞으로도 예외없이 고소해서 엄벌에 처할 것이다”고 강조했다. 향후 행보에 대해서는 “아직까진 특정 후보를 지지하고 함께 하겠다는 생각은 없다”면서도 “앞으로 정치 상황이 바뀌고, 제가 지켜왔던 일관된 가치와 뜻을 같이하는 분이 있다면 시민들을 위해 뜻을 합하겠다”고 여지를 남겼다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

윤재옥 국민의힘 원내대표는 21일 “총선에서 승리해 다수당이 되면 국회의원 선거구 획정 권한을 중앙선거관리위원회에 온전히 넘겨 총선 때마다 반복되는 선거구 혼란을 방지하겠다”고 밝혔다. 윤 원내대표는 이날 국회 교섭단체 대표연설에서 “현재 유권자도, 출마자도 내 선거구가 어딘지 모르는 황당한 상황이 벌어지고 있다”며 이렇게 말했다. 선거구 획정 권한의 ‘선관위 이전’을 정치개혁 과제로 제시한 것이다. 이어 윤 원내대표는 4·10 총선 승리 후 준연동형 비례대표제를 폐지하겠다고 약속했다. 그는 “준연동형 비례대표제는 정치 오염 현상의 인큐베이터가 되고 있다”며 “우리 당이 총선에서 승리하면 즉각 공정하고 투명한 외부의 독립위원회를 구성해 준연동형 비례대표제 폐지를 포함한 선거제도 개혁을 위임하겠다”고 했다. 더불어민주당이 ‘비교섭단체 몫’을 쟁점 법안 처리에 악용한 안건조정위원회 구성 방식도 바꾸겠다고 했다. 윤 원내대표는 “민주당은 21대 국회 내내 위성정당을 활용하고 그것도 모자라면 위장 탈당까지 해서 법적 날치기를 감행했다”며 “다수당이 되면 안건조정위 구성 방식 변경이나 단서조항 신설 등의 국회법 개정을 통해 제도 도입 취지를 살리겠다”고 했다. 또 국회의원 세비는 외부 전문가로 구성된 독립기구에서 정하도록 하겠다고도 했다. 윤 원내대표는 노동·저출생·규제·국토·금융 등 ‘5대 개혁 구상’도 밝혔다. 그는 “천문학적 예산만 쏟아붓고 제대로 효과를 거두지 못했던 기존의 저출생 대책도 개혁 대상이라는 것이 우리 당의 입장”이라며 부총리급의 인구부 신설을 약속했다. 이와 함께 “서울과 경기는 행정구역 개편을 추진할 때가 됐다”며 김포, 구리 등 서울 인접 도시의 서울 편입과 경기 북부 분도를 함께 추진하겠다는 입장을 재확인했다. 민주당을 향해서는 “21대 국회 남은 임기 동안 시급한 현안에 대승적 합의를 하자”며 50인 미만 사업장에 대한 중대재해처벌법 시행 유예 재협상과 이태원참사 특별법의 합의를 촉구했다.

국회 교섭단체 대표연설“4월 총선 다수당 되면 준연동 폐지”안건조정위 ‘비교섭단체 몫’ 악용도 손질 윤재옥 국민의힘 원내대표는 21일 “총선에서 승리해 다수당이 되면 국회의원 선거구 획정 권한을 중앙선거관리위원회에 온전히 넘겨 총선 때마다 반복되는 선거구 혼란을 방지하겠다”고 밝혔다. 윤 원내대표는 이날 국회 교섭단체 대표연설에서 “현재 유권자도, 출마자도 내 선거구가 어딘지 모르는 황당한 상황이 벌어지고 있다”며 이렇게 말했다. 선거구 획정 권한의 ‘선관위 이전’을 정치개혁 과제로 제시한 것이다. 이어 윤 원내대표는 4·10 총선 승리 후 준연동형 비례대표제를 폐지하겠다고 약속했다. 그는 “준연동형 비례대표제는 정치 오염 현상의 인큐베이터가 되고 있다”며 “우리 당이 총선에서 승리하면 즉각 공정하고 투명한 외부의 독립위원회를 구성해 준연동형 비례대표제 폐지를 포함한 선거제도 개혁을 위임하겠다”고 했다. 더불어민주당이 ‘비교섭단체 몫’을 쟁점 법안 처리에 악용한 안건조정위원회 구성 방식도 바꾸겠다고 했다. 윤 원내대표는 “민주당은 21대 국회 내내 위성정당을 활용하고 그것도 모자라면 위장 탈당까지 해서 법적 날치기를 감행했다”며 “다수당이 되면 안건조정위 구성 방식 변경이나 단서조항 신설 등의 국회법 개정을 통해 제도 도입 취지를 살리겠다”고 했다. 또 국회의원 세비는 외부 전문가로 구성된 독립기구에서 정하도록 하겠다고도 했다. 윤 원내대표는 노동·저출생·규제·국토·금융 등 ‘5대 개혁 구상’도 밝혔다. 그는 “천문학적 예산만 쏟아붓고 제대로 효과를 거두지 못했던 기존의 저출생 대책도 개혁 대상이라는 것이 우리 당의 입장”이라며 부총리급의 인구부 신설을 약속했다. 이와 함께 “서울과 경기는 행정구역 개편을 추진할 때가 됐다”며 김포, 구리 등 서울 인접 도시의 서울 편입과 경기 북부 분도를 함께 추진하겠다는 입장을 재확인했다. 민주당을 향해서는 “21대 국회 남은 임기 동안 시급한 현안에 대승적 합의를 하자”며 50인 미만 사업장에 대한 중대재해처벌법 시행 유예 재협상과 이태원참사 특별법의 합의를 촉구했다.

더불어민주당이 20일 양육비를 지급하지 않는 ‘나쁜 부모’로 인해 아이들이 피해를 봐서는 안 된다며 총선 공약으로 ‘양육비 국가 대지급 제도’를 내놓았다. 양육비 채무자가 양육비를 주지 않으면 국가가 대신 양육비를 지급한 뒤 채무자에게서 환수하는 방식이다. 홍익표 원내대표는 민주당 정책위원회가 이날 국회에서 개최한 정책 간담회에서 해당 공약을 제시한 뒤 “민주당은 양육비 미지급에 대해 아동의 생존권을 위협하는 행위이자 아동학대의 문제라고 인식한다”고 말했다. 국회 여성가족위원장인 권인숙 의원은 “양육비 채무자가 위장 전입 등의 제도를 악용해 양육비 이행 확보를 사실상 어렵게 만드는 일이 부지기수”라며 “21대 국회에서 양육비 미지급 시 제재하는 법안이 어렵게 통과됐지만 여전히 부족한 부분이 남았다”고 했다. 민주당은 양육비 국가 대지급 제도 도입을 위해 지급금의 최소 기준을 마련하고 지급 기준을 심의·의결하는 ‘양육비결정심의위원회’(가칭)를 만들겠다고 했다. 또 한국건강가정진흥원 내 양육비이행관리원을 독립 기관으로 만들어 채무자에 대한 조사·징수 권한을 강화하겠다고 했다. 이 외에 양육비 채무자의 소득·재산을 당사자의 동의 없이 조회할 수 있게 하고 양육비 이행의 지속성을 고려해 긴급 지원 체계를 마련하는 방안, 양육비 지급 이행 명령을 따르지 않는 채무자에 대한 제재 요건 강화 등도 이번 공약에 포함됐다. 개혁신당도 이날 정부가 양육비를 월 최대 100만원 선지급하고 그 비용을 국세청이 원천징수하는 ‘양육비 국가 보증제’ 도입 공약을 발표했다. 또 공직선거 후보자의 양육비 체납액 무기한 정보 공개를 추진하겠다고 밝혔다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

‘갈색 베레모를 쓴 백발 노인이 한 카페에 앉아 멀리 시선을 둔 채 생각에 잠긴 듯 촉촉한 눈을 깜빡인다. 노인은 이내 뭔가 생각이 떠오른 듯 희미한 미소를 짓는다. 눈가와 수염이 난 입가에 살짝 주름이 파인다.’ 마치 영화 속 한 장면과 같은 영상은 사실 챗GPT 개발사인 오픈AI가 생성형 인공지능(AI) 기술로 만들어 낸 것이다. 영상 속 따뜻한 색감의 조명과 핸드헬드(카메라를 손에 들고 찍음) 촬영 기법으로 찍은 듯 조금씩 흔들리는 시야 등도 모두 AI가 ‘창조’했다. 오픈AI가 지난 15일(현지시간) 자사 홈페이지를 통해 공개한 동영상 생성 AI ‘소라’를 두고 충격적이란 반응과 함께 ‘딥페이크’(AI 기술로 만든 가짜 영상) 악용 우려가 동시에 나오고 있다. 그동안엔 막대한 시간과 비용을 투자해야만 만들 수 있었던 수준의 영상을 소라는 단 몇 줄의 명령어(프롬프트)만으로도 만들어 낼 수 있기 때문이다. 뉴욕타임스(NYT)는 소라가 공개되자 “깜짝 놀랄 영상을 순식간에 생성하는 AI”라고 소개했다. 18일까지 X(옛 트위터)엔 소라를 이용해 생성한 것으로 추정되는 15초짜리 동영상들이 입력한 프롬프트와 함께 속속 올라오고 있다. 소라 서비스 이용 권한을 제한적으로 제공받은 예술 종사자들이 만든 것으로 추정된다. 이를 접한 사용자들은 “방금 충격적인 걸 봤다”는 등 놀라움을 표현하며 영상을 공유하고 있다. 오픈AI에 따르면 소라는 최대 1분짜리 고품질 영상을 생성할 수 있다. 다만 현재는 15초 분량을 만들 수 있는 서비스를 일부 영상 제작자, 시각 예술가 등에게만 시범으로 제공하고 있다고 밝혔다. 오픈AI가 소라를 이용해 만들었다고 공개한 영상 샘플 40여 편은 AI가 빛과 물리법칙에 대해 깊이 이해하고 있다는 걸 보여 줬다. 도쿄 번화가의 화려한 간판 불빛이 젖은 길거리에 거울처럼 비친 모습, 설원을 달리는 매머드의 발바닥에 눈이 붙었다 떨어지는 모습, 잔 속에서 일렁이는 커피의 파도에 요동치는 해적선들의 움직임 등까지 완벽하게 표현했다. 비현실적인 장면도 컴퓨터그래픽(CG) 이상의 품질로 구현했다. 오픈AI는 또 딥페이크 우려를 예상한 듯 “잘못된 정보, 혐오 콘텐츠, 편견과 같은 분야 전문가들로 ‘레드팀’을 구성해 안전성 테스트를 할 것”이라고 밝혔다. 특히 “복잡한 장면에서 물리법칙을 정확하게 재현하는 데 어려움을 겪을 수 있으며, 원인과 결과의 특정 사례를 이해하지 못할 수도 있다”고 소라의 약점을 공개하기도 했다. 그럼에도 딥페이크로 인한 정치 혼란, 사생활 침해 등 우려를 잠재우진 못하고 있다. 소라가 보여 준 수준의 기술이면 학습할 데이터가 많은 유력 정치인의 아주 정교한 가짜 영상을 만드는 것은 ‘식은 죽 먹기’라는 평가가 일반적이다. 미국 앨런 AI 연구소 창립자이자 워싱턴대 교수인 오렌 에치오니 박사는 자신의 X 계정을 통해 “이런 영상들 때문에 박빙의 선거가 뒤집힐까 봐 정말 두렵다”고 말했다. 한 X 사용자는 “누가 내 사진으로 가짜 영상을 만들까 봐 이제 소셜미디어에 사진도 못 올리겠다”고 했다. 연기자, 분장사, 의상, 조명예술가, CG 일러스트레이터 등의 일자리가 위협받는 것도 문제다. 최근 넷플릭스 시리즈 ‘살인자ㅇ난감’에는 배우 손석구의 어릴 적 사진을 이용한 딥페이크 아역이 등장했다. 영화 CG 일러스트레이터인 리드 사우든은 “2022년 미드저니(이미지 생성 AI)가 처음 나왔을 때 우리는 ‘귀엽다’며 비웃었지만 이제 사람들은 생성 AI 때문에 일자리를 잃고 있다”고 말했다.

국회 부의장인 국민의힘 정우택(청주상당) 의원이 ‘돈 봉투 받는 영상’을 언급한 더불어민주당 이재명 대표를 명예훼손 혐의로 고소하겠다고 16일 밝혔다. 정 의원은 이날 자신의 페이스북에 ‘네거티브로 상대방 흠집내기에 전념하는 구태한 적폐에 강력히 대응하겠다’ 는 제목의 글을 올리며 이같이 경고했다. 이 대표가 이날 오전 최고위원 회의에서 “정 의원이 돈 봉투 받는 장면을 영상으로 봤는데 변명이 가관이었다”며 “그 자리에서 돌려주지, 뭐 하러 주머니에 넣었다가 나중에 돌려주나. 국회에서 제명해야 할 사안”이라고 비판했기 때문이다. 문제가 된 동영상은 지난 14일 저녁 충북의 한 언론사 보도를 통해 공개됐다. 2022년 10월 촬영된 이 영상에는 청주의 한 카페업자 A씨가 주는 봉투를 정 의원이 받아 주머니에 넣는 모습이 담겨 있다. 해당 보도는 A씨가 불법영업으로 중단된 카페영업을 다시 할 수 있게 해달라며 정 의원에게 돈 봉투를 건넨 것이라고 설명했다. 촬영된 장소는 A씨의 카페 별관으로 알려졌다. 보도가 나가자 정 의원 측은 “후원을 하고 싶으면 정식 후원계좌를 이용해 달라” 며 문을 열고 나오자마자 바로 봉투를 돌려줬고, 며칠 후 A씨가 후원계좌를 통해 돈을 입금했다고 주장했다. 정 의원은 페이스북 글을 통해 “A씨가 후원계좌 입금을 인정하고 있다”며 “대장동사건을 비롯한 수많은 범죄행위로 재판을 받고 있는 이 대표조차 허위사실을 선거에 악용하고 있는 현실에 개탄을 금할 수 없다”고 비난했다. 정 의원은 페이스북에 A씨의 정치후원금 입금내역이 기록된 통장사본 사진도 올렸다. 충북지역 시민단체들은 청렴한 정치인의 모범을 보여야 할 국회 부의장 행보에 큰 흠집이 났다며 정 의원의 의원직 사퇴를 촉구하고 있다.

보은, 전입 유공 기업체 등 포상울산, 대학생 최대 90만원 지급고창, 매년 중고교 학자금 지원거주지 복수주소제 논의 논란도“경제활동 통한 생활 기반 중요” 요즘 지방자치단체들은 다른 지역에서 주소를 옮겨 오는 ‘전입자 유치전’에 한창이다. 많게는 수백만원의 포상금도 내걸고 있다. 어떻게 해서든 인구 감소를 막기 위한 궁여지책이지만 ‘사람 빼 가기’에 불과한 제로섬 게임인 만큼 전입자들이 장기간 거주하며 경제활동을 할 수 있는 기반을 조성하는 게 중요하다는 지적이 나온다. 13일 전국 지자체에 따르면 충북 보은군은 올해 신규 시책으로 전입을 유도한 유공자에게 포상금을 지급한다. 전입 인원수에 따라 20만원(2~4명)에서 최대 50만원(5명 이상)을 지원할 계획이다. 소속 직원 전입을 유도한 기관과 기업체에는 최대 500만원(40명 이상)까지 지급할 방침이다. 전북 고창군도 올해부터 전입 가구원 15만원, 전입 군인 20만원, 전입 유공기관·단체·기업체에는 50만~200만원을 지원키로 했다. 전입 중고등학생에게는 최초 학기는 20만원, 이후에는 학년당 10만원을 준다. 전남 곡성군은 관내 중소기업 전입 근로자에게 월세를 지원하고 울산시는 전입하는 대학생에게 최대 90만원의 생활 장학금을 준다. 다만 전문가들은 곱지 않은 시선을 보낸다. 이상림 한국보건사회연구원 인구모니터링평가센터장은 “구조적인 문제를 해결해 인구를 늘리기 어렵다 보니 단체장들이 쉽게 업적으로 포장할 수 있는 시도를 하는 셈”이라면서 “자칫 예산만 낭비하는 결과를 초래할 것”이라고 지적했다. 최용환 충북연구원 수석 연구위원도 “모든 지자체들이 해당 제도를 도입하면 실상 아무 효과 없는 정책이 될 것”이라고 꼬집었다. 지자체들은 ‘선택지가 없다’고 항변한다. 인구가 줄면 정부 교부금이 감소하는 만큼 이렇게라도 인구 감소를 막아야 한다는 논리다. 한 기초단체 관계자는 “경쟁 지자체들이 전입자 지원금을 주고 있어 우리만 가만히 있을 수 없는 상황”이라며 “실제로 ‘전입하면 얼마를 주느냐’는 문의 전화도 걸려 온다”고 귀띔했다. 도입 여부를 논의 중인 복수주소제도 논란이다. 복수주소제는 일자리나 학업 등을 위해 전셋집이나 기숙사 등에 잠시 거주하는 이들을 생활인구로 편입시키는 방식이다. 독일, 영국 등에서 시행 중이다. 주소지가 두 곳으로 늘면 해당 지역을 자주 찾게 돼 그만큼 지역에서의 소비가 증가하고 경제 활성화와 세입 증가로 이어질 수 있다. 생활 편의 시설이나 공공서비스 공급 시 유동 인구와 중장기 체류 인구를 정확히 알 수도 있다. 반면 서류상의 인구수만 늘리는 ‘눈속임’이라는 지적도 나온다. 부동산 위장 전입과 부정 선거에 악용될 소지도 있다. 한 명의 국민을 위해 복수의 지자체가 동원되는 등 행정력 낭비도 우려된다. 모든 지자체의 인구가 늘어난다고 한정된 정부 교부금이 늘어날 리도 만무하다. 이에 전문가들은 사람을 지역에 오래 붙잡아 두는 게 중요하다고 입을 모으고 있다. 대표적인 사례는 경북 의성군 고운마을이다. 2018년 단촌면에 체류형 농장 등 복합단지가 조성됐다. 군은 입주민들에게 유럽풍 임대주택을 보증금 300만원, 월 임대료 20여만원의 저렴한 비용으로 제공했다. 단, 입주민이 최소 주 3일 이상 고운마을에서 생활하는 것을 조건으로 내세웠다. 최초 2년 임대계약 이후 매년 심사로 연장한다. 설동훈 전북대 사회학과 교수는 “주소를 추가하는 데 그치는 것이 아니라 일정 기간 머무르고 경제활동을 통한 생활 기반을 마련해야 인구 증가 효과를 극대화할 수 있다”고 덧붙였다.

올해 11월 미국 대통령 선거를 앞두고 유력 후보들의 본격적인 선거 유세 운동이 시작된 가운데, 민주당의 사실상 유일한 당내 후보인 조 바이든 대통령이 틱톡 계정을 개설했다. 바이든 대통령은 미국 최대 스포츠 이벤트인 미국프로풋볼(NFL) 슈퍼볼이 열린 11일(이하 현지시간) 틱톡 계정을 개설하고 첫 게시물로 NFL과 관련한 영상을 공개했다. 해당 영상은 27초 분량으로, 우승 전망에 대한 질문에는 즉답을 피했지만 스스로를 필라델피아 이글스의 팬이라고 밝혔다. 바이든 대통령의 새로운 틱톡 계정에 올라온 영상에서는 가상의 슈퍼히어로인 ‘다크 브랜던’이 등장하기도 했다. 눈에서 레이저를 뿜는 이 캐릭터는 비교적 약해 보인다는 자신의 이미지와 반대되는 강한 이미지를 강조하기 위해 사용한 것으로 분석된다. 바이든 대통령이 틱톡 계정을 개설한 것은 이른바 Z세대(1990년대 후반~2010년대 초반에 태어난 젊은층) 유권자의 표심을 공략하기 위한 것으로 풀이된다. 미국 정치매체 폴리티코는 “바이든 대통령이 민주당 지지층의 핵심인 젊은 층에게서 확실한 기반을 구축하지 못하는 상황에서 (틱톡 계정 개설이) 이뤄졌다”고 분석했다. “틱톡, 미국 안보에 위협” 금지할 땐 언제고… 바이든 대통령의 이 같은 선거 활동 행보는 앞서 미국 정부가 안보 위협을 이유로 틱톡 사용을 금지해 왔다는 사실과 대립한다는 점에서 논란이 예상된다. 지난해 3월, 미국에서는 중국산 동영상 플랫폼임 틱톡 퇴출을 위한 청문회가 열렸다. 틱톡이 미국 사용자들의 데이터를 불법적으로 무분별하게 수집하고 이를 악용할 수 있다는 우려 때문이었다. 당시 공화당 소속인 캐시 맥모리스 로저스 위원장은 이날 청문회에서 “미국인은 틱톡이 우리 국가와 개인의 안보에 취하는 위협에 대해 진실을 알아야 한다”며 “틱톡은 반복적으로 통제와 감시와 조작을 강화하는 길을 택하고 있다”고 비판했다. 이어 “틱톡은 사람들의 위치는 물론이고 그들이 무슨 말을 하는지를 비롯해 생물학적 정보 등 상상 가능한 거의 모든 자료를 수집한다”면서 “우리는 틱톡이 자유와 인권, 혁신이라는 미국의 가치를 포용한 적이 단 한 번이라도 있다고 보지 않는다”고 덧붙였다. 또 “중국 공산당이 미국 전체를 조종하는 데에 틱톡을 사용할 수 있다”고 주장하며 틱톡 위협론을 역설했다.틱톡에 대한 규제는 도널드 트럼프 전 대통령 행정부 시절부터 시작됐지만, 바이든 행정부가 들어선 이후 규제 강도를 점차 높였다. 지난해 하반기 백악관은 연방정부가 사용하는 모든 전자 기기에서 틱톡 애플리케이션을 삭제하도록 지시했고, 여러 주(州) 정부가 정부기관에서 사용하는 공공 기기에서 틱톡 사용을 여전히 금지하고 있다. 뿐만 아니라 바이든 행정부는 미국 내 틱톡 전면 금지 방안도 검토하는 등 미국 내 틱톡 퇴출을 위해 다양한 노력을 해 왔다. 그러나 미국의 10대를 중심으로 틱톡의 주 사용 연령대인 10~30대가 틱톡 전면 금지에 대해 강한 반발을 표출했고, 일각에서는 바이든 행정부가 틱톡 전면 금지를 강행할 경우 젊은 층의 표심에도 부정적인 영향을 미칠 것이라는 우려를 내비쳤다.최근 지지율 급락으로 고전을 면치 못하고 있는 바이든 대통령은 결국 기존의 ‘미국 내 틱톡 전면 금지 방안’을 완전히 철회한 것으로 보인다. 틱톡 계정 개설을 통해 젊은층 유권자의 표심을 잡고 유세 기간 동안 이를 적극 활용하기 위함이다. 바이든 대통령의 이러한 선택에 정치권 내에서는 우려와 비난의 목소리가 동시에 나왔다. 상원 정보위원장인 민주당 소속 마크 워너 의원은 “틱톡을 금지한 인도를 따르는 방법을 찾을 필요가 있다고 본다”며 “혼재된 메시지에 다소 우려스럽다”고 했다. 공화당 소속인 마크 갤러거 중국특위 위원장은 “18세 청소년들에게 자신을 위해 투표하라고 설득하는 것보다 국가안보가 훨씬 큰 일이다. 우리는 정부와 틱톡 금지에 대해 논의해 왔다”고 비판했다.

그제부터 인공지능(AI) 프로그램으로 만든 ‘딥페이크’ 영상 등을 선거운동에 이용하는 행위가 금지됐다. 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다. 지난해 12월 국회에서 공직선거법 개정안이 통과되면서 이뤄진 조치다. 하지만 이번 법 개정은 딥페이크 선거운동에 대한 처벌 근거를 마련한 것일 뿐이다. 빠르게 제작돼 사회관계망서비스(SNS)를 타고 삽시간에 퍼지는 딥페이크 콘텐츠의 특성상 광범위한 폐해를 막기엔 한계가 있다. 단속에 더해 조작된 정보는 만들지도 보지도 않겠다는 정치권과 유권자들의 자세가 필요한 이유다. AI 발달로 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 조 바이든 미국 대통령의 ‘선거 불참을 권하는’ 딥페이크 음성이 확산되는가 하면 영국과 나이지리아 등에서도 정치 관련 음성 조작 사례가 속출하고 있다. 정치인뿐만이 아니다. 미국의 팝가수 테일러 스위프트는 얼굴 사진이 합성된 딥페이크 음란 이미지가 SNS에 게시돼 수천만회 조회되면서 곤욕을 치렀다. 딥페이크 콘텐츠는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 중앙선관위는 검증요원과 AI 전문가들을 최대한 동원해 단속하겠다고 하지만 딥페이크 영상·이미지는 수분 만에 제작돼 실시간으로 확산되기 때문에 뒷북만 칠 가능성도 있다. 따라서 무엇보다 허위정보를 만들지 않겠다는 정치권의 책임 있는 자세가 필요하다. 지난 대선에서 가짜뉴스로 판명된 콘텐츠의 90%를 정치권이 생산했다는 조사 결과도 있다. 허위정보를 최대한 걸러 내겠다는 대형 포털의 책임 있는 자세, 조작된 정보는 보지도 퍼나르지도 않겠다는 유권자들의 노력이 뒷받침돼야 함은 물론이다.

인공지능(AI)의 민주주의 위협이 현실화하고 있다. 미국 대선 후보 경선이 진행되는 가운데 조 바이든 대통령을 사칭해 뉴햄프셔주 프라이머리(예비선거) 불참을 권하는 딥페이크 음성이 유포돼 주정부가 지난 22일(현지시간) 수사에 착수했다. 대선 경선이 시작된 이후 AI를 악용한 허위 정보 유포에 대한 첫 수사다. 미국에서는 최소 13개 주가 AI를 활용한 콘텐츠로 선거 관련 허위 정보가 퍼지는 일을 막기 위한 법을 추진하고 있다. 영국 일간 파이낸셜타임스에 따르면 지난해 영국, 인도, 나이지리아, 수단 등에서 정치와 관련해 음성 조작으로 의심되는 사례가 나왔다. 생성형 AI가 발전할수록 음성 조작 메시지, 딥페이크 영상 등 허위 정보를 퍼트려 상대방을 공격하는 일이 쉬워진다. 올해 전 세계 50개국 이상에서 선거가 치러지니 AI를 악용한 허위 정보가 더 범람할 것이다. 우리나라는 북한과 중국 변수도 있다. 국가정보원은 중국이 국내 언론사로 위장한 사이트를 200여개 개설, 이를 통해 친중·반미 성향 콘텐츠를 게시하고 소셜미디어(SNS)로 확산시켰다고 의심하고 있다. 지난해 공공기관에 대한 해킹 시도가 하루 평균 162만여건인데 이 중 80%가 북한 소행이다. 중국은 건수로는 5%지만 피해 심각도를 고려하면 21%란다. 총선을 앞두고 선거 개입 및 정부 불신을 조장하는 행위가 더욱 기승을 부릴 것이다. 국내에서는 공직선거법에 따라 오는 29일부터 딥페이크를 활용한 선거운동이 금지된다. 이는 처벌 근거 마련에 불과하다. 뉴스 콘텐츠를 대량 유통하는 대형 포털의 책임 있는 자세가 필요하다. 허위 정보 차단의 첨병은 유권자들이다. 팩트체크 기능을 선거운동 기간만이라도 공공기관과 대형 포털 중심으로 강화해 유권자의 올바른 선택을 돕자.

11월 미국 대선을 앞두고 인공지능(AI) 기술이 선거에 미치는 영향에 대한 우려가 커지는 가운데 실제로 미 경선에서 이를 악용한 사례가 접수됐다. 23일(한국시간) 뉴욕타임스와 NBC 등 외신에 따르면 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 상황에서 민주당 당원에게 ‘투표하지 말라’는 조 바이든 미국 대통령의 목소리가 담긴 전화가 걸려왔다. 뉴햄프셔 법무장관실에 따르면 가짜 녹음에는 “당신의 투표는 11월이 중요하다. 이번 화요일은 그렇지 않다”라는 내용이 담겼다. 이어 법무장관실은 “뉴햄프셔 대통령 예비선거를 방해하고 유권자들을 억압하려는 불법 시도로 보인다”며 “유권자들은 이 내용을 완전히 무시해야 한다”라고 밝혔다. 이처럼 AI 기술이 빠르게 발전하면서 이를 기반으로 한 가짜뉴스도 기승을 부리고 있다. 지난해 공화당은 바이든 대통령이 대선 출마를 발표했을 때 세상의 종말 시나리오를 담은 비디오를 생성하는 데 이 기술을 사용하기도 했다. 도널드 트럼프 전 대통령 역시 미 경찰에게 체포당하는 가짜 이미지가 공개된 바 있다.“백인 AI이미지, 실제보다 더 현실적이라 느껴” AI로 생성된 사람 얼굴 사진이 실제 사람을 찍은 사진보다 더 진짜처럼 보이는 현상도 나타나고 있다. 최근 AI 이미지에 대한 여러 연구 결과에 따르면 AI 얼굴 사진과 실제 사람 얼굴 사진을 구분하도록 하는 실험 결과 AI 백인 얼굴 사진이 실제 사람보다 더 현실적인 것으로 인식되는 ‘극사실주의’(하이퍼 리얼리즘) 현상이 확인됐다. 실제로 최근 미국 일간 뉴욕타임스(NYT)가 기사에서 제시한 AI 백인 얼굴 사진 5장 중 4장은 연구 결과 실험 참가자의 89∼93%가 진짜 사진으로 착각한 것으로 나타났다. 이미지 생성 AI가 학습한 수만 장에 이르는 실제 인간 얼굴 사진의 대부분이 백인 얼굴이어서 백인 얼굴은 현실보다 더 현실적으로 나온다는 것이다. 그간 AI 사진은 양쪽 귀 모양이 다르다거나 하는 AI임을 숨길 수 없는 흔적이 통상적으로 있었다. 하지만 AI의 발전됨에 따라 AI 사진 속 얼굴의 모든 부분이 실제 사람의 평균적인 비율에 매우 가까워져서 실험 참가자가 AI인지 의심하지 못할 정도가 됐다는 것이다. 오히려 실험 참가자들은 실제 사람 얼굴 사진에서 귀 모양이 남들과 다르다든가 코가 평균치보다 더 크다든가 하는 등 평균 비율과 어긋나는 부분을 보고 AI 사진으로 착각하는 것으로 보인다고 NYT는 전했다.이처럼 AI 사진이 실제 사람보다 더 진짜 사람처럼 보일 수 있다는 점에 전문가들은 깜짝 놀라고 있다. 호주국립대(ANU)의 에이미 다웰 교수는 이런 AI 사진이 가짜 메시지의 온라인 확산을 도울 수 있다고 우려했다. 다웰 교수는 “과도한 수준의 이런 자신감을 보고 놀랐다”며 “이는 인터넷에서 우리를 가짜 정보에 더 취약하게 만드는 사고방식을 암시한다”고 설명했다.