이탈리아의 첫 여성 총리 조르자 멜로니(47)가 딥페이크 음란물 제작·유포자를 상대로 칼을 빼들었다. 딥페이크는 딥러닝과 가짜라는 말의 합성어인데 인공지능(AI) 기술로 제작한 가짜 사진·영상·음성 등을 말한다. 이탈리아 안사(ANSA) 통신은 19일(현지시간) 멜로니 총리가 자신의 얼굴로 딥페이크 음란물 영상을 제작·유포한 73세와 40세 부자(父子)를 상대로 10만 유로(약 1억5000만원)의 손해배상 민사소송을 제기했다고 보도했다. 멜로니 총리는 자신의 변호인을 통해 “나와 같은 피해를 본 모든 여성들에게 고발하는 것을 두려워하지 말라는 메시지를 전하고자 소송에 나섰다”고 밝혔다. 그는 오는 7월 2일 사르데냐 섬에서 열리는 재판에 원고로 직접 출석해 증언할 예정이다. 승소하면 배상액 모두 폭력 피해 여성을 위한 내무부 기금에 기부할 것이라고 밝히기도 했다. 이번 소송은 멜로니 총리가 아직 당선되기 전인 포르자이탈리아 당대표 시절까지 거슬러 올라간다. 당시 미국의 한 성인물 사이트에는 그의 딥페이크 영상이 올라왔고 몇 달 동안 수백만 건의 조회 수를 기록했다. 수사 당국은 BBC 방송에 멜로니 총리의 딥페이크 영상을 올리는 데 사용됐던 모바일 기기를 추적해 제작·유포자를 찾아낼 수 있었다고 밝혔다.

러시아와 우크라이나의 전쟁이 2년 넘게 이어지며 장기화되고 있는 가운데, 적을 속이는 기상천외한 전술도 속속 보고되고 있다. 지난 20일(현지시간) 영국 국방부는 러시아군이 우크라이나군을 속이기 위해 부두 위에 잠수함의 실루엣을 그렸다고 소셜미디어 ‘엑스’에 사진과 함께 공개했다. 실제 공개된 위성 이미지를 보면 러시아의 킬로급 잠수함 옆으로 부두 위에 잠수함 모양의 검은 그림이 확인된다. 해당 장소는 흑해의 러시아 수출 핵심 항구인 노보로시스크로, 최근들어 우크라이나의 드론 공격으로 심각한 타격을 받고있다. 이에대해 영국 국방부는 “이는 우크라이나 드론 조종사들에게 혼란을 주기 위한 것으로 보인다”면서도 “다만 이를 통해 러시아의 손실이 크게 줄어들지는 않을 것 같다”고 평가했다.이처럼 러시아가 치열한 전쟁이 벌어지는 가운데 그림까지 그려 혼란을 주는 것은 우크라이나의 드론 공격으로 인한 러시아 흑해 함대의 피해가 크다는 방증이다. 실제로 지난달 우크라이나군은 CNN과의 인터뷰에서 “우크라이나군의 공격으로 러시아 흑해함대의 3분의 1이 무력화됐다”고 주장했다. 또한 우크라이나군은 개전 이후 총 24대의 러시아 군함과 1대의 잠수함을 무력화시켰다고 발표한 바 있다. 사실상 해군 전력도 없는 우크라이나가 러시아가 자랑하는 흑해 함대를 파괴할 수 있는 것은 바로 드론 덕이다. 특히 이중 해상드론의 역할이 가장 큰 데 러시아군의 군함이 파괴되는 생생한 영상이 이미 여러차례 공개된 바 있다.이와 비슷한 러시아군의 기만 전술은 항구 뿐 아니라 비행장에서도 마찬가지다. 지난해 12월 28일 미국 위성영상 업체 플래닛 랩스 PBC 위성이 러시아 남부 프리모르스코-아흐타르스크 공군기지를 촬영한 사진에는 이상한 모습의 전투기들 모습이 담겼다. 전투기 여러 대가 공군기지 내에 일렬로 배치돼 있는데, 이중 두 대(원안)의 경우 묘한 흰색을 띠고있다. 또다른 전투기(원안) 역시 푸른색을 띠고있는데 역시 다른 항공기와 다른 느낌을 준다. 매체는 총 3대의 전투기가 마치 유령같다면서 그림자도 없다고 지적했다.이는 지난해 6월 26일 러시아 예이스크 공군기지를 촬영한 위성 사진에 보다 명확히 드러난다. 총 4대의 전투기가 모두 밝은 흰색으로 배치되어 있으며 이중 한 대는 바닥에 페인트칠을 하다만듯 몸통 부분이 바닥을 드러내고 있다. 이처럼 공군기지 내에도 그림이 등장하는 이유는 한마디로 적을 교란시켜 탄약과 미사일, 드론 등 화력을 쓸데없는 곳에 소진시키기 위한 것이다. 영국의 국제 안보 씽크탱크인 왕립합동군사연구소 저스틴 브룩은 “단순한 카메라가 장착된 우크라이나의 공격 드론에게 가짜 표적을 제공하는 것이 목표일 것”이라면서 “항공기를 표적으로 삼는 우크라이나 무기에 혼동을 주려는 시도”라고 분석했다.

가수 이찬원이 가짜 뉴스로 마음고생했던 경험담을 털어놓았다. 20일 오후 8시 40분 방송되는 티캐스트 E채널 ‘한끗차이’에서는 심리 키워드 ‘군중심리’를 주제로 다룬다. 이날 방송에서는 10대들의 단톡방에서 시작된 끔찍한 살인사건과 역사상 가장 비열한 대통령 선거전을 만든 ‘킹 메이커’이자 ‘흑막의 협잡꾼’으로 불린 정치인을 소개한다. 이 가운데 이찬원은 자신을 주제로 등장했던 가짜 뉴스에 대해 언급했다. 이찬원은 “지금은 삭제됐는데, ‘장윤정이 도경완과 이혼 후 이찬원과 재혼을 선택했다’라는 내용의 영상이었다”며 “이런 걸 믿는 사람이 있을까 했는데 국밥집 이모님이 내 등을 딱 때리면서 ‘어쩌려고 애 있는 여자랑 결혼을 하려고 해!’라며 화를 내시더라”라고 전했다.

인공지능(AI)은 인류의 삶에 여러 가지로 영향을 미치고 있다. 일상에 사소한 영향을 미치는 것은 물론 크게는 현대 민주주의 제도의 작동에도 영향을 미치고 있다. AI가 인류의 풍요와 번영에 기여할 수 있도록 하기 위해서는 어떤 사회적 고민이 필요할지에 대해 본격적인 논의가 필요한 시점이다. 그런 점에서 이번에 서울에서 개최되는 ‘제3차 민주주의 정상회의’는 시의적절하면서도 중요한 행사다. 민주주의 정상회의는 미국에서 매년 개최되다가 이번에 처음으로 미국을 벗어나 우리나라에서 열리게 되었다. 올해 행사의 주제는 ‘AI·디지털 기술과 민주주의’로, AI를 포함한 새로운 디지털 기술이 민주주의에 어떤 영향을 미치는지 그리고 그에 대해 어떤 준비를 해야 할지를 여러 나라의 고위급 대표와 전문가들이 모여 깊이 있게 논의하는 기회가 될 것이다. AI 같은 새로운 기술은 사회적 도입 과정에서 흔히 불안감을 야기한다. AI를 이용한 가짜뉴스가 양산될 가능성이나 딥페이크 기술이 활용돼 왜곡된 이미지나 영상이 무분별하게 만들어지고 유포될 가능성을 두고 우려의 목소리가 제기되는 것이 대표적이다. 또 AI 기술이 개인 맞춤형 서비스의 고도화에 적극 활용되면서 소셜미디어(SNS) 이용자들이 극단적 시각이나 편향된 시각에 일방적이고 지속적으로 노출될 가능성에 대한 염려도 있다. 이런 문제는 AI가 민주주의 작동 과정에 악영향을 끼치는 부정적 요소로 작용할 가능성을 시사한다. 하지만 AI는 다양한 상황에 다양한 방식으로 응용되면서 민주주의가 원활하게 작동하는 데 도움을 줄 수도 있다. 예를 들어 이름이 잘 알려지지 않은 정치 신인이 자신의 정치적 견해를 유권자들에게 손쉽게 알리는 데 AI 기술이 적극 활용될 수 있다. 유권자의 시각에서는 AI 기술이 개별 정치인이나 정당의 정책적 입장에 대해 빠르고 체계적으로 파악하는 데 도움이 될 수 있고, 더 나아가 서로 다른 정치인이나 정당 사이의 입장을 명확히 비교해 판단하는 데 활용될 수도 있다. 기존의 정치인이 어떤 의정 활동을 했는지 정리해 파악하는 데에도 AI가 도움을 줄 수 있다. 정치인의 법안 발의와 관련해서도 많은 고민이 담긴 새로운 법안의 발의를 위해 진지한 노력을 했는지, 혹은 그 반대로 ‘복사해서 붙여넣기’ 수준의 법안 발의를 주로 했는지에 관해 AI가 쉽게 요약해 알려 줄 수 있다. 이처럼 AI는 민주주의적 의사 결정 과정에서 다양한 역할을 수행할 수 있다. 그리고 그 영향은 부정적인 것일 수도, 긍정적인 것일 수도 있다. 우리 사회가 어떤 준비를 하고 어떤 대응을 하는지에 따라 AI는 민주주의에 도움이 될 수도, 저해 요소로 작동할 수도 있다. 이번에 열리는 민주주의 정상회의를 계기로 AI가 유용한 역할을 하는 밝은 미래를 위한 논의가 본격화되기를 기대한다. 고학수 개인정보보호위원장

현대판 ‘차르’(황제) 블라디미르 푸틴(71) 러시아 대통령이 2024 대선에서 압도적 지지로 5선을 사실상 확정했다. 대선 마지막 날인 17일(현지시간) 러시아 여론조사센터 브치옴(VTsIOM)이 진행한 출구조사에 따르면 푸틴은 4명의 후보 중 가장 높은 87%의 득표율로 선두에 올랐다. 다른 여론조사 기관 폼(FOM)은 출구조사에서 푸틴 대통령의 득표율이 87.8%로 나타났다고 밝혔다. 이들 여론조사 기관은 러시아 최서단 역외영토인 칼리닌그라드의 투표가 마감된 직후(모스크바 시각 오후 9시) 출구조사 결과를 발표했다. 러시아중앙선거관리위원회 개표는 아직 진행 중이지만 푸틴 대통령의 당선이 확실한 상황이다. 선관위는 개표가 40% 진행된 상황에서 푸틴 대통령의 득표율이 87.634%로 선두라고 밝혔다. 최종 개표 결과에서도 80%대 득표율이 나올 경우 이는 러시아 대선 역대 최고 득표율 기록이 된다. ● 답 정해진 선거…득표율 90%는 무엇을 시사하나 ‘답은 정해진’ 이번 선거에서 관건은 득표율이었다. 우크라이나 전쟁이 3년 차에 접어든 가운데 5기 정권의 안정적 국정운영과 내부 결속을 도모하기 위해선 2018년 역대 최고 득표율 76.7%를 넘는 게 푸틴에겐 중요했다. 결국 푸틴은 역대 기록을 경신, 90%에 육박하는 득표율로 종신집권의 길을 열었다. 다만 전쟁에 반대하는 야권 인사들의 출마가 가로막히고, 각종 부정선거 의혹이 불거진 점은 한계로 남을 전망이다. 테러 위험 등에 따른 대비 차원이긴 했으나 ▲비밀투표를 보장할 수 없는 투명한 투표함이 동원했다거나 ▲투표율을 끌어올리기 위해 대선으로는 처음으로 사흘간 투표를 진행한 점 ▲공정한 선거 감시가 어려워 조작이 가능하다는 우려가 제기된 온라인 투표를 처음으로 도입한 점 등은 선거의 공정성과 정당성에 대한 의심으로 이어진다. 국제적으로 러시아 영토로 인정받지 못하는 크림반도와 우크라이나 4개 지역에서도 투표가 시행된 점 역시 지탄의 대상이다. 선관위에 따르면 러시아가 ‘새 영토’로 부르는 우크라이나 점령지에서 푸틴은 90% 안팎의 높은 지지를 얻었다. 구체적으로는 도네츠크 95.23%, 루한스크 94.12%, 자포리자 92.83%, 헤르손 88.12% 등이었다. 러시아 국방부의 경우 특수군사작전구역, 즉 우크라이나 전장에 있는 군인 중 99.27%가 푸틴에게 투표했다고 밝혔다. 2022년 2월 24일 러시아가 우크라이나를 침공한 이래 러시아군 전사상자는 최소 31만 5000명에 달하는 것으로 알려졌다. 반푸틴 진영에서는 ‘이게 민주주의에서 나올 수 있는 득표율이냐’는 지적이 나온다. ● 백악관 “자유롭지도 공정하지도 않아”…젤렌스키 “영구통치 위해 안간힘” 서방도 러시아의 대선이 민주주의를 흉내 내는 선거일 뿐이라고 비판했다. 미 백악관은 러시아 대선에 대해 “분명히 자유롭지도 공정하지도 않다”는 입장을 밝혔다. 독일 외교부는 소셜미디어 엑스(X·옛 트위터)를 통해 “러시아에서 치러진 가짜(pseudo) 선거는 자유롭지도 공정하지도 않았으며, 그 결과는 누구도 놀라게 하지 않을 것”이라고 말했다. 데이비드 캐머런 영국 외교장관도 엑스에 올린 글에서 “러시아에서 투표가 종료됐다. 우크라이나 영토에서는 불법적으로 선거를 실시됐고, 유권자에겐 선택권이 주어지지 않았으며 유럽안보협력기구(OSCE)의 독립적 선거감시도 없었다. 이건 자유롭고 공정한 선거처럼 보이지 않는다”고 했다. 젤렌스키 대통령은 17일 밤 영상 메시지를 통해 “러시아 독재자가 또 다른 선거를 흉내 내고 있다”며 “이 사람은 권력에 병들었고 종신 집권을 위해 멈추지 않을 것임을 전 세계가 안다”고 푸틴 러시아 대통령을 맹비난했다. 그는 푸틴 대통령을 권력에 굶주린 독재자라고 표현하면서 “영원히 통치하기 위해 모든 수단을 동원하고 있다”고 비판했다. 이어 “러시아가 우크라이나 점령지에서 저지른 모든 일은 범죄”라며 “러시아 살인마들이 푸틴의 영원한 통치를 보장하려 이 전쟁에서 저지른 모든 일에는 마땅한 대응이 있어야 한다”고 말했다. ● 2000년부터 30년 통치…스탈린의 29년 집권 기간 넘어 2000·2004·2012·2018년에 이어 2024 대선에서 또다시 승리한 푸틴 대통령은 2030년까지 6년간 집권 5기를 열게 됐다. 푸틴 대통령은 2020년 개헌으로 2030년에 열리는 대선까지 출마할 수 있어 이론상 84세가 되는 2036년까지 정권을 연장할 수도 있다. 이 경우 푸틴 대통령은 18세기 예카테리나 2세의 재위 기간(34년)도 넘어선다. 러시아제국 초대 차르(황제) 표트르 대제(43년 재위)만이 푸틴보다 오래 러시아를 통치한 인물로 남게 된다. 종신집권에 나서는 차르의 ‘대관식’ 성격을 가질 푸틴 대통령의 생애 다섯번째 취임식은 ‘전승절’ 이틀 전인 5월 7일 열릴 것으로 예상된다.

김행 전 국민의힘 비상대책위원과 진중권 광운대 교수가 라디오 생방송 중 격렬한 논쟁을 벌여 청취자들에게 사과하는 일이 발생했다. 15일 CBS라디오 ‘박재홍의 한판승부’에는 김 전 위원과 진 교수가 출연했다. 김 전 위원은 가짜뉴스에 대해 이야기를 나누던 중 진 교수에게 “꼭 여쭤보고 싶은 게 있었다”며 “제가 ‘강간당해도 애를 낳아야 된다’고 한번도 이야기 한 적 없다. 그런데 진 선생님이 그걸로 저를 엄청 공격하셨다”고 말했다. 진 교수가 “그때 어떤 발언을 했던 걸로 기억한다”고 하자 김 전 위원은 “아니다. 제가 이렇게 정확하게 얘기했다”고 반박했다. 그는 “강간을 당했어도 아이를 낳았다면 그 아이는 사회에서 관용적으로 받아줘야 된다고 얘기했다. 그런데 진 선생님이 저한테 ‘강간당해도 애를 낳아야 된다’ 이렇게 얘기한 이런 여자가 있냐. 이런 여자가 여가부 후보가 되는 게 맞냐(고 했다)”고 말했다. 진 교수가 “그 말이 그 말 아니냐”고 따지자 김 전 위원은 “강간했어도 애 낳으라 얘기 안 했다. 아이를 낳았다면 그 아이를 얘기한 것”이라 강조했다. 김 전 위원은 “제가 로힝야의 난민지원센터에 가서도 거기서 강간당해서 로힝야족이 낳은 아이들 구제 사업을 하고 있는 사람이다. 그런데 그거하고 어떻게 같느냐”면서 “멀쩡한 대한민국 여성이 강간당한 여성이 애를 낳아야 된다고 얘기하는 정신 빠진 여자가 어디 있냐. 그렇지만 그렇게 해서 낳은 아이는 국가가 사회가 보호해 줘야 한다”고 말했다. 김 전 위원은 “경향신문에서도 자기네들이 잘못 썼다고 기사를 고쳤다. 그런데 진 선생님의 동영상은 그대로 있다”면서 “그것 때문에 제가 어떤 경우에든 여성가족부 장관이 안 되어야지 되는 이유가 그거라고, 제가 여성 비하 발언했다고 (공격당했다)”고 반발했다. 그러면서 “저는 이런저런 어려운 상황에서도 어쩔 수 없이 어떻게든 태어난 아이들을 많이 봤고 그 아이들이 지금 보호하고 있다”고 덧붙였다. 두 사람은 이 문제를 놓고 점점 언성을 높였다. 진 교수가 “애초에 그런 일이 없게 해야 된다. 강간당한 여인이 애를 왜 낳느냐”고 따지자 김 전 위원은 “제가 그렇게 얘기 안 했다”고 반박하며 평행선을 달렸다.이에 사회자가 “그때 어떤 말씀이었냐면 낙태가 금지된 필리핀에서는 한국인 남자들이 취하고 도망쳐도 코피노를 다 낳는다. 너무 가난하고 성폭행을 당해 임신을 원치 않을 경우에도 우리 모두가 부드럽게 받아들일 수 있는 관용이 있으면 여자가 어떻게든 아이를 키울 수 있다고 생각한다, 이런 발언을 했다”고 설명했다. 진 교수는 “너무 가난하고 성폭행당해 임신을 원치 않을 경우에도 모두 우리가 부드럽게 받아줄 수 있는 관용이라고 얘기를 했다. 저게 관용이냐”고 하자 김 전 위원은 “아이에 대해 관용이다. 생명권에 대한 존중이라 생각해서 저 말을 했다”고 말했다. 진 교수는 “저런 표현 자체가 부적절하다. 애초에 그런 일(강간당한 여성의 출산)이 없게끔 해야 한다”고 말했고 김 전 위원은 “그럼 그렇게 해서 낳은 아이는 누가 책임지냐”고 반박했다. 김 전 위원은 “저 얘기의 전체적인 맥락은 아이를 보호해야지 된다는 것”이라며 “이거 굉장히 예민한 문제다. 어떤 사람의 말을 그렇게 한마디로 딱 집어내서 왜곡되게 이렇게 하면 안 된다”고 강조했다. 그는 “제가 정신 빠진 여자도 아니고 저기는 아이를 보호하자는 게 목적이었다. 처음부터 끝까지”라고 덧붙였다. 사회자가 “그만하시라”라고 목소리를 높였지만 파행은 계속됐다. 김 전 위원이 “총선 끝나고 고소할 리스트에 진 선생님도 포함돼 있다”고 하자 진 교수는 “하세요”라고 맞받아쳤다. 진 교수는 “수많은 사람들이 그렇게 받아들였다면 본인이 표현하는 데 잘못이 있다고 인정을 하셔야 된다”고 쏘아붙였다. 사회자가 “마무리하겠다. 그만해달라”고 거듭 발언했음에도 다툼이 이어지자 결국 마이크를 강제로 끄는 상황까지 발생했다. 이후 두 사람은 청취자들에게 “죄송합니다” 고개를 숙였고 인터뷰도 급히 마무리됐다.

알쓸금지는 ‘알면 쓸 데 있는 금융지식’입니다. 경제기사 너무 어렵고 멀게 느껴지시나요. 알쓸금지에서는 소소하지만 실제 금융생활에 도움이 될 수 있는 알토란 같은 정보를 전하겠습니다. 저출산과 국민연금 고갈 등 이슈로 은퇴 후 생계에 대한 걱정이 나날이 심화하고 있는 가운데 ‘연금형 달러 펀드’라는 키워드를 이용한 사기 사건이 발생하고 있습니다. 최근 강세를 보인 ‘달러’에 대표적인 노후 대비책인 ‘연금’이란 단어가 붙으니 더욱 매력적으로 느껴질 수밖에 없겠지만 ‘불법’일 가능성이 높으니 주의가 필요합니다. 금융감독원은 최근 ‘연금형 달러 펀드’로 안정적으로 고수익을 낼 수 있다며 불법 투자자금을 모집하는 사례가 발생하고 있다고 밝혔습니다. 달러 펀드다 보니 환율 상승으로 국내 펀드 대비 높은 수익을 가져올 수 있다며 금융 소비자들을 유인하고 있는데요, 실제 소액의 수익금까지 지급하며 정상적으로 운용되는 것처럼 꾸미고 있어 더욱 조심해야 합니다. 이들은 미국 뉴욕에 기반을 둔 글로벌 금융회사로 위장해 외화자산 분산 투자와 환차익으로 국내 펀드 대비 안정적으로 높은 이익을 얻을 수 있다고 홍보하고 있습니다. 월 최소 2.0%에서 최대 2.8%까지 이익을 얻을 수 있다고 하는데, 단순 계산해도 연 24~33.6%이니 엄청난 수익이라 할 수 있습니다. 유튜브나 블로그, 지식인, 카페 등에 홍보 영상과 광고 글을 게시해 투자자를 현혹하는데, 홈페이지에 들어가 보면 ‘저위험’, ‘중위험’ 등 문구와 펀드 운용 비중을 제시하며 마치 정상적인 펀드인 것처럼 꾸며낸 것이 특징입니다. 인터넷 언론에 뉴스 형태로 광고물을 게시해 투자자들의 신뢰를 확보하기도 했습니다.이뿐만이 아닙니다. 유명 금융·재테크 관련 유튜브처럼 보이도록 가짜 계정을 만들어 원본 영상의 일부를 가져와 자신들이 만든 영상을 중간중간 끼워 넣는 방식으로 위장하기도 했습니다. 기존에 투자 사기범들이 단체 채팅방이나 일대일 채팅에서 투자를 직접적으로 권유했다면, 이들은 직접적인 투자 권유는 하지 않고 피해자들이 스스로 불법업자의 홈페이지에 방문하도록 유도하고 있다는 점에서 차이가 있습니다.실제 20대 피해자인 A씨는 올해 초 유명 유튜버의 영상을 도용한 이들 사기꾼의 영상을 시청하던 중 안정적 고수익이라는 키워드에 현혹돼 직접 포탈에 ‘연금형 달러 펀드’를 검색했습니다. 검색 결과 이들이 사칭한 회사가 국내에 연금형 달러 펀드를 출시했다는 인터넷 기사가 나왔고, 블로그나 지식인에도 해당 상품을 통해 이익을 얻었다는 글들이 쏟아졌습니다. A씨는 2000만원을 투자하게 됐고, 이후 지나치게 높은 수익률이 의구심이 들어 금감원에 이를 문의한 후에야 불법임을 알게 됐습니다. 금감원은 “불법업자들이 투자자들과 이메일로만 응대하며 (가입 후) 60일 후에나 해지 신청이 가능하다며 청약철회/해지를 거부하고 있다”면서 “현재 수익금을 지급하더라도 가입 60일이 지난 후에도 해지 요구에 응하지 않을 가능성이 매우 높다”고 설명했습니다. 해외 금융회사라 할지라도 법률상 인허가 없이는 국내 영업이 불법입니다. 제도권 금융회사가 아닌 업자와의 거래로 인한 피해는 금감원의 분쟁조정 대상도 되지 않아 피해 구제가 어려우므로 투자 전엔 반드시 제도권 금융회사인지 아닌지를 확인하는 것이 필요합니다. 불법업자임이 의심된다면 거래를 중단하고 신속하게 경찰에 신고하거나 금감원에 제보해야 합니다.

국내외에서 선거를 앞두고 인공지능(AI) 기술로 만든 딥페이크 가짜 영상에 주의보가 내려진 가운데, 국내 생성형 AI 전문 기업 딥브레인AI가 경찰청과 협력해 딥페이크 범죄 단속을 돕는 탐지 솔루션을 선보였다고 15일 밝혔다. 최근 딥페이크 기술의 고도화로 이를 악용한 범죄 우려가 가중됨에 따라, 딥브레인AI는 경찰청과 함께 이를 효과적으로 대응할 수 있는 맞춤형 딥페이크 탐지 솔루션을 개발했다. 경찰청은 이를 활용해 총선을 겨냥한 선거범죄를 비롯한 피싱 범죄와 합성 성 착취물 범죄 등 딥페이크 기반 지능형 범죄에 능동적으로 대처할 방침이다. 딥브레인은 앞서 딥페이크 탐지 솔루션을 지속 개발해 왔다. 이번 솔루션은 ▲종합탐지 ▲음성탐지 2가지로 구성돼 있으며, 각각 이미지와 영상, 음성 탐지를 지원한다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 ▲탐지모델 ▲탐지구간 ▲탐지인물 등을 설정하면 진위여부를 즉각 판별한다. 이번 딥페이크 탐지 솔루션은 딥브레인AI의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 기반으로 설계됐다. 서양인 위주의 데이터로 제작된 기존 대다수 탐지 모델과 달리 한국인 데이터 100만 건, 아시아 계열 인종 데이터 13만 건을 포함해 총 520만 건의 데이터 학습을 더해 탐지율을 높였다. 딥브레인AI는 이번 경찰청과의 협력을 계기로 다양한 분야의 기업, 기관과 딥페이크 탐지 솔루션 구축 방안을 논의할 예정이다. 혼란과 위기 상황을 야기하는 허위 정보의 진위여부를 즉각 판별하는 솔루션을 적극 공급하며 전 사회적인 손실 비용을 최소화한다는 방침이다.

국민의힘 정우택 국회부의장 ‘돈봉투 수수 의혹’의 당사자인 카페 사장 A씨가 “정우택 의원에게 건넨 돈 봉투를 다시 돌려받은 적 없다”고 주장했다. 정 부의장이 돈봉투를 다시 돌려줬다고 주장한 것에 대해 정면으로 반박하면서 진실 공방이 벌어지고 있다. A씨의 변호를 맡은 법무법인 창 김창환 변호사는 6일 충북경찰청에 출석해 “의뢰인은 정 부의장 ‘돈 봉투 사건’이 갈수록 커지고 경찰 조사까지 이르게 된 상황에서 더 이상 진실을 숨길 수 없다고 생각했다”며 “고민 끝에 처벌을 감수하고 진실을 밝히기 위한 입장문을 발표하게 됐다”고 말했다. 김 변호사는 A씨가 2022년 3월 국회의원 재보궐선거 직전 당시 국민의힘 정우택 후보자에게 현금 200만원이 든 봉투를 줬으며 같은 해 9월 3일, 10월 1일 각각 현금 100만원을 과일 상자와 돈봉투에 담아 건넨 사실을 밝혔다. 이후에 A씨는 후원 계좌로 400만원을 추가로 보냈다. A씨는 돈을 건네며 상수원 보호구역에 있는 자신의 카페 운영 허가 문제를 정 의원에게 알아봐달라고 청탁했다고 김 변호사는 밝혔다. 관련 의혹이 언론에 보도된 이후 정 부의장에서 외압도 있었다는 주장도 나왔다. 김 변호사는 “A씨가 일부 언론에 정 부의장에게 돈 봉투를 다시 돌려받았다고 인터뷰한 것은 거짓 진술”이라며 “당시 A씨는 병원에 입원해 있었는데 정 부의장 보좌관이 찾아와 특정 기자로부터 전화가 오면 받고, 다른 언론사와는 접촉하지 말라고 얘기했다”라고 밝혔다.김 변호사는 허위 사실을 기반한 정치 공작이라는 정 부의장 측 주장에 대해 “필요할 경우 모든 증거를 의뢰인의 동의를 받아서 공개하겠다”며 반박했다. A씨는 관련 내용이 담긴 수기 메모장과 A씨가 정 부의장의 보좌관과 나눈 문자 메시지를 경찰에 제출하고 경찰 수사에 협조하겠다는 입장이다. 김 변호사는 “의뢰인도 뇌물 공여로 처벌받을 각오를 하고 변호사를 선임한 것 같다”며 “법조인으로서의 경험으로 봤을 때 의뢰인이 갖고 있는 자료는 충분히 신빙성이 있지 않나 판단된다”고 말했다. 정 부의장도 같은 날 오전 충북도청에서 기자회견을 열고 “A씨는 선거관리위원회에서 한 진술도 번복하고 있어 신빙성이 없다”며 “진실은 수사기관의 수사를 통해 밝혀질 것”이라고 의혹을 일체 부인했다. “돈봉투는 바로 돌려줬고 공식 후원금으로 회계처리했다”는 게 정 부의장의 공식 입장이다. 정 부의장의 돈봉투 의혹과 관련해 이재명 더불어민주당 대표는 이날 오전 국회에서 열린 최고위원회의에서 “정우택 후보가 단수추천을 받으셨던데 CCTV 영상에 돈봉투 주고받는 장면이 그대로 찍히지 않았냐”며 “심사 대상조차도 되지 못할 돈봉투 후보를 뻔뻔하게 단수추천하는 것이 국민의힘의 공천”이라고 비판했다. 정 부의장은 “민주당이 공천 과정에서 지지율이 떨어지고 있으니까 마타도어, 가짜뉴스 이런 것들을 생산해서 시민을 현혹시킬 가능성이 있다. 배후세력을 반드시 밝혀내야 한다”고 강조했다.

생성형 인공지능(AI) 등장 이후 빠른 속도로 기술이 발전하면서 인류와 AI의 공존이 화두로 떠올랐다. 모든 산업의 AI화를 넘어 일상에까지 침투해 온 AI를 그저 ‘반가운 손님’으로 맞이할 것인지 사람들이 묻기 시작한 것이다. AI가 인간의 통제를 벗어날지도 모른다는 두려움은 더 늦기 전에 기술 개발을 잠시 멈추자는 논의로 이어졌다. 스스로 의식을 가진 AI가 갑자기 깨어나서 인류를 멸망시킬 것인가. 서울신문은 ‘인간은 필요 없다’, ‘인공지능의 미래’ 등 베스트셀러 저자이자 미국 스탠퍼드대에서 AI의 사회·경제적 영향에 관해 강의하고 있는 인공지능학자 제리 캐플런(72) 박사에게 생성형 AI 이후 달라질 미래 모습에 대해 이메일을 통해 물었다. 그는 5일 “걱정하지 말라”며 “변화를 감당할 수 없을 만큼 상황이 너무 빠르게 진행되고 있지는 않다”고 말했다. 캐플런 박사는 최근 생성형 AI가 가져올 변화를 다룬 책에서도 “우리가 설계한 기계가 엉망이 돼 날뛰지 않도록 적절한 회로 차단기를 설치하면 된다”고 주장했다. “생성형 AI는 인간처럼 생각하지도 않고 인간과 같은 마음도 없다”는 그는 정체불명의 의인화된 AI는 현실에 없기 때문에 우리를 공격하지 않을 것이라고 했다. 다만 생성형 AI가 우리 삶의 거의 모든 걸 변화시키고 노동시장을 뒤흔들며 사회질서를 재편할 것이라고 봤다. 다음은 일문일답.#선거판 속 AI딥페이크, 스팸 메일처럼 심각사용금지·형사고발 이어질 것 -텍스트를 입력하면 알아서 동영상을 만들어 주는 AI 모델(소라·Sora)이 공개됐다. 기술 발전 속도가 너무 빠른 것 아닌가. “놀랍게도 기술 발전의 속도를 연구하는 경제학자들은 가까운 과거의 발전 속도가 실제로 이전보다 더 느리다는 사실을 발견했다. 예를 들어 당신이 1910년에 살고 있었다면 지난 20년 동안 자동차, 비행기, 녹음기 발명을 목격했을 것이다. 조금만 더 거슬러 올라가면 사진 발명도 있었다.” -대선을 앞둔 미국과 마찬가지로 한국은 4월 국회의원 선거를 앞두고 딥페이크 영상 게시물로 몸살을 앓고 있다. “딥페이크는 과거 스팸 메일과 마찬가지로 심각한 문제다. 간단히 말해 선거 등 중요한 상황에서 딥페이크 사용은 금지될 것이며 사용할 경우 형사 고발로 이어질 것이다. 또한 사람들은 그 문제에 대해 훨씬 더 많이 인식하게 될 것이고, (딥페이크 영상에 대해) 더욱 회의적으로 변할 것이다.” -AI 기술로 인한 일자리 변화는 막을 수 없을 것 같다. “그래픽 아티스트, 컴퓨터 프로그래머 등 일부 직업은 다른 직업보다 더 큰 영향을 받을 것이다. 그러나 이러한 직업에 종사하는 대부분의 사람들은 여전히 직업을 갖고 있을 것이고, 생성형 AI 시스템을 ‘지능형 비서’로 사용할 것이다. 과거 사진이 발명됐을 때 초상화가 등 화가라는 직업에 영향을 미쳤던 것만큼 극적인 변화는 아닐 것으로 본다.”#노동시장의 변화컴퓨터 관련 직업은 변화 예고AI 시스템에 업무 도움받을 것 -생성형 AI의 문제점 중 하나는 ‘할루시네이션’(환각 현상)이다. AI가 그럴듯한 오답을 내놓는 이 현상이 수년 내 해결될까. “실제로 AI가 우리가 기대하는 것보다 더 인간처럼 행동한다는 게 문제다. 이 문제는 여러 방식으로 제어가 될 것이다. 우선 가짜 정보를 만들어 내는 걸 방지하는 ‘내부 설정’ 작업과 함께 특정 목적에 맞게 훈련을 거칠 것이다. 둘째, 개발자들이 AI가 꾸며내지 않도록 지시하는 더 나은 방법을 찾을 것이다. 셋째, 대부분 시스템은 인간이 하는 것처럼 외부 소스를 통해 의심스러운 정보를 확인할 수 있을 것이다. 문제가 해결되지는 않아도 이 세 가지는 환각 문제를 크게 줄여 줄 것으로 본다.” -AI가 설계자의 의도나 예상과 다른 결과물을 내놓는다면 결과적으로 인간이 AI를 통제할 수 없다는 것 아닐까. 국제규범 마련이 시급하다는 의견도 있다. “국제규범은 도움이 되지 않을 것이다. 무엇이 허용되고, 그렇지 않은지를 AI 시스템이 더 잘 이해할 수 있게 훈련시켜야 한다. 이 시스템을 적절하게 통제할 수 없다면 굳이 특정한(위험한) 용도나 목적으로 사용하지는 않을 것이다. 우리는 온갖 위험한 도구를 만들고, 그 결과를 감수하며 살아간다. 자동차를 예로 들어 보자. 교통사고로 수많은 사람이 목숨을 잃지만 편리함 때문에 자동차를 이용한다. AI 시스템도 마찬가지 아닐까.” -생성형 AI의 등장으로 인간이 묻고 AI가 답하는 시대가 됐다. 우리는 어떤 역량을 더 발전시켜야 할까. “생성형 AI로 인해 사람들은 이전보다 감독자, 관리자에 가까워질 것이다. 이 새로운 기술은 사람들이 기계로부터 나은 결과를 얻어내는 데 전문가가 되게 해 줄 것이다. 스프레드시트(숫자 표에서 계산 기능을 수행하는 프로그램) 사용법을 아는 것과 다르지 않다. 기술을 더 잘 활용할 수 있는 사람이 이러한 기술을 갖지 못한 사람에 비해 더 높은 평가를 받게 될 거다.” -사람들이 AI에 감정적 애착을 느낄 수도 있을 것 같다. AI를 유일한 대화 상대이자 친구로 느끼게 되면 인간과의 관계 맺기가 왜곡되지 않을까. “저는 AI와 교제하는 걸 ‘정서적 포르노’(emotional pornography)라고 부른다. 우리를 이전보다 더 고독하게 만드는 동시에 외로움을 줄여 줄 수도 있다. 얼마나 모순인가.” #오답 말하는 AI기대보다 ‘인간처럼 행동’ 문제여러 설정·훈련 통해 제어될 것 -정서적 포르노라고 표현한 건 AI와 매우 강한 감정적 유대를 형성하면서 사람들이 혼란을 겪게 되고, 정상적인 인간관계가 붕괴될 수 있다는 뜻인가. “포르노는 사람들이 실제 사람들과 상호작용하는 대신 사진을 통해 만족을 얻도록 한다. 정서적 포르노도 비슷하다. 실제 사람들과 교제하지 않고 컴퓨터 프로그램과 상호작용하면서 (관계에 대한) 필요를 충족시킬 것이다. 그렇게 되면 인류와도 단절되는 것이다.” -AI 기술 발전으로 로봇이 많은 일을 대체하면 ‘사람은 도대체 뭔가’라는 질문에 직면할 것 같다. AI 시대 인간다움은 무엇이라고 생각하나. “인류는 아무데도 가지 않는다. 걱정할 필요가 없다. 오늘날 우리는 더이상 가구, 옷 등을 만드는 숙련된 장인을 필요로 하지 않지만 그러한 기술을 가진 사람은 과거에 비해 훨씬 더 존경받으며 가치를 인정받는다. 생성형 AI도 우리를 가장 인간답게 만드는 일에 집중할 수 있게 해 줄 것이다.” #저작권의 새 정의사진 첫 발명 때 저작권 미적용AI 결과물도 법 보호받게 될 것 -생성형 AI가 내놓은 결과물이 인간의 창작 활동을 대체하면서 저작권 정의를 바꿔야 한다는 주장도 나온다. “AI 프로그램의 결과물도 저작권 보호를 받을 수 있게 법률을 바꿀 필요가 있다. 사진이 발명됐을 당시 사진가가 한 일은 ‘버튼을 누르는 것’뿐이었기 때문에 사진은 저작권이 있는 것으로 여겨지지 않았다. 지금 생각하면 말도 안 되는 얘기 아닌가. 생성형 AI에도 같은 일이 일어날 거다. 생성형 AI로 최상의 결과를 얻을 수 있는 사람은 매우 숙련된 사람으로 간주되고, 그들의 작업은 저작권의 보호를 받을 것이다.” -챗GPT 등장 이후 세계는 AI 경쟁에 돌입해 자국의 언어와 문화를 접목한 AI 모델을 만들고 있다. 앞으로 AI 주권을 지키는 현상이 더욱 강화될 것으로 예상된다. ‘AI 민족주의’는 불가피한가. “그렇다. 하지만 좋은 일이라고 생각한다. 사람들은 그들의 가치와 문화를 반영하는 제품(AI 모델)을 원할 것이다. 현지 기업은 멀리 있는 글로벌 기업보다 이러한 요구 사항을 더 잘 식별할 가능성이 높다. 이를 가장 잘 수행하는 회사나 제품이 현지 시장 내 경쟁에서도 이길 것이다.” #제리 캐플런 박사는? 제리 캐플런 박사는 미국 실리콘밸리에서 여러 기술기업을 창업했던 현장형 전문가다. 인공지능(AI) 분야 벤처기업 ‘테크놀리지’(Teknowledge)를 비롯해 ‘고 코퍼레이션’, ‘온세일’ 등을 공동 설립했다. 그는 현장 경험을 살려 일흔이 넘은 나이에도 여전히 강단(스탠퍼드대 겸임강사)에 서며 저술 활동을 하고 있다. 지난달 생성형 AI에 관한 책(‘Generative Artificial Intelligence: What Everyone Needs to Know’)을 새로 냈다. 한국어판(‘제리 카플란 생성형 AI: 지금 우리에게 필요한 것들’)은 올 상반기 내 나올 예정이다.

딥페이크(Deepfake)로 영상 속 인물의 얼굴을 가상 인물로 바꾼 한 영상을 ‘딥페이크 탐지 소프트웨어’에 업로드해 분석하니 금세 ‘변조율’이 76.76%인 ‘가짜’ 영상으로 판독됐다. 합성 유형은 ‘얼굴 바꿔치기’라고 가려냈다. 경찰청 국가수사본부는 이처럼 딥페이크 영상을 탐지하는 기술을 개발해 범죄 단속에 활용한다고 5일 밝혔다. 경찰이 개발한 소프트웨어는 영상 길이 등에 따라 5~10분이면 딥페이크인지를 판별한다. 딥페이크는 딥러닝(Deep learning)과 가짜를 의미하는 페이크(Fake)의 합성어로, 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술을 기반으로 이미지를 합성하는 기술이다. 갈수록 딥페이크 기술이 정교해지 가운데 맨눈으로 구분해내기 어려운 딥페이크 영상을 이 소프트웨어로 구분할 수 있을 것으로 기대된다. 해외에서도 마이크로소프트 등이 딥페이크를 탐지하는 기술을 개발했지만, 서양인 위주로 데이터를 쌓았기에 한국인 얼굴을 바꿔치기 한 영상은 탐지율이 상대적으로 떨어진다는 평가를 받았다. 경찰청이 도입한 소프트웨어는 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점 등을 포함한 인물 5400명의 데이터 520만점을 학습한 결과, 탐지율 정확도가 80%에 달하는 것으로 분석됐다. 경찰은 총선을 앞두고 딥페이크로 가짜 영상을 만들어 허위 정보를 퍼뜨리거나 성 착취물을 만드는 범죄를 수사하는 데 소프트웨어를 활용할 계획이다. 공직선거법에 따라 딥페이크를 활용한 선거운동은 선거일 90일 전부터 선거일까지 전면 금지된다. 그러나 딥페이크 영상인지만을 따지기에 이 소프트웨어만으로는 모든 허위 영상을 구분해낼 수는 없다. 최근 소셜네트워크서비스(SNS)에서 퍼진 윤석열 대통령의 ‘가짜 양심고백 연설’ 동영상은 실제로 존재하는 영상을 짜깁기 한 것이기에 이 소프트웨어는 해당 영상을 ‘진짜’라고 판단했다. 경찰은 소프트웨어의 신뢰도가 100%가 아니기에 증거자료로 쓰기보다는 수사 방향을 정하는 참고자료로 활용하겠다는 계획이다. 국수본 관계자는 “딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극적으로 수사할 수 있을 것”이라며 “향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 말했다.

가수 이효리가 데뷔 26년 만에 실제 생일을 밝혔다. 그동안 무속인 유튜버들이 이효리의 프로필 상 생일을 기반으로 풀이한 사주 팔자들은 모두 가짜였던 것이다. 이효리는 지난 3일 생일 파티를 하는 영상을 게재하며 “사실 제 생일은 79년 음력 1월 23일이다. 민증상 5월 10일로 되어 있어 프로필에 올리고 지냈다. 이제 진짜 제 생일을 알려드리고 싶다”고 밝혔다. 이효리의 진짜 생일 공개로 민망해진 이들이 있다. 그 동안 이효리의 프로필상 생일로 사주 풀이를 해 조회수 장사를 하던 무속인 유튜버들이다. 실제로 유튜브에서 이효리를 검색하면 결혼운이나 재물운부터 “2세가 안 보여” “자식이 귀해” “2세를 가질 수 없는 진짜 이유” “아기는 없을 것 같다” 등 이효리가 방송에서 2세를 원한다는 말을 했던 것을 두고 무례한 점괘를 예언, 자극적인 발언으로 클릭을 유발하고 있어 눈살을 찌푸리게 한다.

타인 명의의 위조 신분증과 휴대전화로 비대면 계좌를 개설한 뒤 오픈뱅킹에 접속해 자산을 탈취하는 금융 사기가 횡행하고 있다. 심지어 대기업 2곳의 전·현직 회장도 이런 범죄 수법에 노출된 사실이 드러나기도 했다. 다행히 두 사례 모두 자산이 빠져나가기 직전에 사기 행각을 파악하고 발 빠르게 금융 거래를 차단해 실제 금전적 피해는 발생하지 않았다. 하지만 기업 회장을 표적 삼아 명의도용 금융 사기를 벌일 정도로 비대면 금융과 오픈뱅킹 보안이 허술하다는 점에서 충격이 아닐 수 없다. 스마트폰으로 웬만한 은행 업무를 해결하는 비대면 금융이 일상화된 지 오래다. 하나의 은행 앱에 모든 금융 계좌를 등록해 간편하게 금융 서비스를 이용하는 오픈뱅킹 가입자도 3564만명에 이를 만큼 보편화됐다. 편리하지만 각종 금융 사고와 사기 범죄 위험도 상존한다. 누군가 내 오픈뱅킹에 접근하기만 하면 사실상 금융 자산 전부를 털어 갈 수 있다. 비대면 금융의 보안 장벽 강화를 아무리 강조해도 지나치지 않는 이유다. 금융사는 비대면 실명 인증 시 신분증 사본, 영상통화, 기존 계좌를 활용한 1원 송금, 생체정보, 우편 확인 등 5개 필수항목 가운데 2가지를 확인한다. 하지만 피해자 위조 신분증과 이를 이용해 가짜로 개설한 알뜰폰만 있으면 오픈뱅킹이 뚫리는 건 시간문제다. 알뜰폰은 본인 확인 절차가 상대적으로 취약하고, 비대면 개통도 수월해 불법 대포폰으로 악용된다. 알뜰폰만 제대로 통제해도 명의도용 사기범죄를 막을 수 있다는 얘기다. 금융당국은 비대면으로 실명을 확인할 때 안면인식 시스템을 반드시 거치도록 하는 개편안을 이달 중 내놓겠다고 한다. 금융사도 신분증 도용 여부를 확인하는 방안을 보다 정교하게 만들어 사기 피해를 막을 책임이 있다.

‘오픈뱅킹’ 덕분에 스마트폰 하나로 자신의 모든 은행 계좌 등을 들여다보며 은행 업무를 볼 수 있게 됐다. 스마트폰에 애플리케이션(앱) 하나만 깔면 굳이 은행 창구에 가거나, 현금자동입출금기(ATM)를 찾을 필요도 없어졌다. 쉽고 간편해 디지털 시대의 선물이라 할 만하다. 그러나 신분증을 도용당하는 순간, 선물은 재앙으로 변한다. #디지털 시대의 ‘선물’3564만명 계좌 수 1억 9375만개ATM 찾는 수고로움 크게 줄어 오픈뱅킹은 하나의 은행 앱에 자신의 모든 은행 계좌를 등록해 금융 서비스를 이용할 수 있는 서비스다. 2019년 말 오픈뱅킹이 전면 시행된 이후 높은 편의성 덕에 가입자 수가 급격히 늘었다. 3일 금융권에 따르면 지난해 말 기준 오픈뱅킹 가입자 수는 3564만명이 넘는다. 5000만 국민 중 3분의2 이상이 오픈뱅킹을 사용하는 셈이다. 등록된 계좌는 1억 9375만개다. 은행·카드·보험·증권 등 136개 금융사도 오픈뱅킹에 참여 중이다. 문제는 오픈뱅킹 보안이 가짜 신분증과 그 신분증으로 개통한 알뜰폰 하나면 허무하게 뚫린다는 점이다. 금융위원회 가이드라인에 따라 금융사는 비대면으로 실명을 확인할 때 ▲신분증 사본 ▲영상 통화 ▲ 기존 계좌를 활용한 1원 송금 ▲생체 정보 ▲우편 확인 등 5개 필수항목 가운데 2가지만 확인하면 된다. 이미 피해자 신분증을 손에 넣고 알뜰폰 개통까지 마친 금융사기 일당에게 인증은 어려운 관문이 아니다. 이런 허점을 이용한 범죄는 빈번하게 일어난다. A씨는 자녀를 사칭한 금융사기 일당에게 속아 자신의 신분증 사진을 찍어 보냈다. 일당은 중국에서 A씨 신분증 사진으로 A씨 명의의 알뜰폰을 개통하고 은행 앱을 설치했다. 오픈뱅킹을 통해 일당은 A씨의 정기예금 4억 2000여만원을 담보로 3500만원을 대출받고 예금을 중도 해지해 2억 2000여만원을 챙겼다. 순식간에 벌어진 일이었다. B씨 역시 신분증 도용으로 큰돈을 잃었다. 일당은 B씨의 신분증을 도용해 대포폰에 모바일트레이딩서비스(MTS) 앱을 설치하고 매도대금 담보대출 1억 7600만원을 받았다.#순식간에 다가온 ‘재앙’가족 사칭 등 수법 신분증 도용은행 보안 뚫고 예금인출·대출 일당은 여러 차례에 걸쳐 주식 4515주를 사고팔아 결국 1억 1000만원의 예수금을 출금했다. 일당은 같은 날 오후 여러 은행의 모바일·오픈뱅킹을 통해 다른 은행 예금 1480만원을 해지해 인출하기도 했다. C씨는 분실 신고한 신분증을 도용당해 억대 피해를 봤다. 일당은 C씨가 분실 신고한 신분증 사본을 위·변조해 캐피털사에서 1억원, 은행에서 5000만원을 각각 비대면으로 대출받았다. 경제정의실천시민연합 등에 따르면 비슷한 피해를 당한 뒤 ‘신분증 사본 인증 피해자 모임 공동대책위원회’를 찾은 이들은 700명이 넘는다. #비대면 금융거래 ‘보완’신분증 안면 인식 시스템 구축은행이 피해액 최대 50% 배상 금융당국은 뒤늦게 대책 마련에 나섰다. 금융위는 이달 중 ‘비대면 실명확인 관련 구체적 적용방안 개편안’을 발표할 계획이다. 안면인식 시스템을 통한 실명 확인을 반드시 거치도록 하는 내용이 들어갈 것으로 보인다. 금융결제원이 지난달 ‘신분증 안면인식 시스템’을 구축한 것도 같은 맥락이다. 금융결제원은 금융사가 고객 실명을 모바일뱅킹 등 비대면으로 확인할 때 신분증 사진이 제출인과 같은지 확인하는 ‘신분증 온라인 도용 방지 시스템’을 만들었다. 지금까지는 고객이 제출한 신분증의 위·변조 여부만 확인할 수 있을 뿐 해당 신분증을 사용하는 사람이 본인인지 아닌지는 정확히 알 수 없었다. 금융결제원 신분증 안면인식 시스템은 신분증 사진과 스마트폰 등으로 찍은 고객의 얼굴 사진을 비교해 같은 사람인지 확인한다. 고객이 신분증 사진과 함께 본인의 얼굴 사진을 제출한다. 그러면 안면인식 시스템이 신분증 사진과 고객 얼굴 사진의 특징을 비교해 같은 사람인지 확인한다. 현재 KB국민은행, 전북은행, SH수협은행, 제주은행, NH농협은행, BNK부산은행, 산업은행, 광주은행 등 8개 은행이 금융결제원 신분증 안면인식 시스템을 사용하고 있다. 나머지 금융사들도 향후 각 사 일정에 따라 신분증 도용 방지 시스템을 도입한다. 금융결제원은 올 상반기까지 20개 내외의 금융사가 참여할 것으로 보고 있다. 그간 신분증 유출로 인한 금융 사고는 이용자의 중과실로 간주됐다. 피해를 보더라도 배상받지 못하는 일이 많았다. 배상받으려면 피해자가 개별적으로 금융사를 상대로 소송을 해야 했다. 사태가 심각해짐에 따라 금융감독원은 신분증 도용으로 인한 비대면 금융거래 사고 등이 발생했을 때도 금융사에 일부 책임을 묻기로 했다. 금감원 관계자는 “비대면 금융거래 과정에 문제가 있다는 점을 알고 있다. 여러 사례를 짚어 보고 종합적인 대책을 마련 중”이라고 밝혔다. 금감원은 비대면 금융사고가 발생하면 은행이 피해액의 최대 50%를 배상하는 내용을 골자로 하는 ‘비대면 금융사고 예방 추진을 위한 협약’을 국내 19개 은행과 맺고 올해부터 실시할 예정이다. 은행의 사고 예방 노력과 이용자의 과실 정도에 따라 배상 규모가 결정된다. 은행은 20%에서 최대 50%를 분담한다. 은행의 책임 경중은 인증서 등을 발급할 때 본인 확인을 제대로 했는지, 사고를 예방할 이상금융거래탐지시스템(FDS)을 가이드라인에 따라 만들었는지 등을 따진다.

“딥페이크가 의심되면 이미지의 입과 눈을 주의 깊게 보세요. 우리가 가상인간을 만들 때 가장 어려운 부분이 역으로 딥페이크의 허점이 될 수 있습니다.” 인공지능(AI) 영상기술 전문기업 포바이포에서 버추얼유튜버(버튜버, V튜버) 태스크포스(TF)를 이끄는 안찬용(36) 팀장의 전공 분야인 가상인간을 바로 딥페이크 기술로 만든다. 딥페이크는 ‘딥러닝’과 ‘가짜’(fake)의 합성어로, 실제 인물의 이미지나 영상, 음성을 학습한 AI를 이용, 현실과 흡사한 가짜를 만들어 내는 기술이다. 그는 롯데홈쇼핑의 가상인간 ‘루시’ 제작을 총괄했으며 그의 팀은 지난해 말 ‘청아린’이라는 버튜버를 선보였다. 현재는 2호, 3호 버튜버 출시를 준비 중이다. 안 팀장은 “가상인간은 ‘20대가 가장 호감을 느끼는 얼굴 표본’처럼 실제로는 존재하지 않는 인물을 컴퓨터로 만들어 학습시킨다”며 “만일 같은 기술로 실존하는 정치인이나 연예인 등을 학습시켜 만든 가짜 인물을 통해 허위 정보를 유포하거나 특정인의 명예를 훼손하면 큰 문제가 된다”고 설명했다. 이 같은 우려는 지난달 미국에서 실제로 일어났다. 가수 테일러 스위프트를 딥페이크 기술로 합성한 음란 사진이 소셜미디어(SNS)에 유포됐다. 뉴햄프셔주 예비선거를 앞두고는 조 바이든 미국 대통령을 가장한 딥페이크 음성 전화가 유권자들에게 걸려 오기도 했다.딥페이크 콘텐츠를 탐지하는 ‘안티페이크’ AI도 존재한다. 학습 데이터에 눈에는 보이지 않는 ‘디지털 표지’를 붙여 AI가 콘텐츠를 만들 때 드러나게 하는 ‘워터마크’ 기술도 주목받고 있다. 다만 안 팀장은 “이런 기술처럼 딥페이크 기술도 빠르게 발전하는 게 문제”라고 지적했다. 가상인간을 만드는 딥페이크 전문가는 허위 영상을 판별하는 요령을 알지 않을까. 안 팀장은 “가상인간을 만들 때 말소리와 입모양을 일치(싱크)시키는 작업이 가장 어렵다”면서 “조악한 영상들은 입모양을 자세히 보면 일반인도 구분할 수 있다”고 말했다. 또 “단어의 의미나 문장의 맥락에 맞는 표정이나 자연스러운 시선 처리도 구현하기 어려운 부분”이라면서 “이런 것들 중 하나라도 이상하다고 느껴진다면 가짜 영상임을 의심해볼 수 있다”고 말했다. 하지만 이런 요령도 시간이 지나면 소용이 없어질 가능성이 있다. 안 팀장은 “후반 보정 작업을 정교하게 여러 번 거치면 얼마든지 표가 나지 않게 만들 수 있다”며 “갈수록 정교해지는 결과물을 재학습한 더 강력한 AI 모델이 반드시 등장할 것”이라고 설명했다. 다만 “‘기술’의 문제를 해결할 수 있는 것은 역시 ‘기술’인 만큼 딥페이크의 문제도 우리 딥페이크 기술자들이 해결할 것”이라고 말했다.

“허위조작 영상 확대재생산 안되도록 힘모아야” 대통령실은 23일 윤석열 대통령이 등장하는 가짜 영상이 소셜미디어에서 확산하는 것에 대해 “강력하게 대응할 방침”이라고 밝혔다. 김수경 대통령실 대변인은 이날 브리핑에서 “민주주의의 꽃인 총선을 앞두고 허위조작 영상이 확대재생산 되지 않도록 우리 사회 전체가 힘을 모으길 기대한다”며 이같이 말했다. 앞서 윤 대통령의 이미지가 나오는 허위 영상이 온라인상에서 퍼지자 방송통신심의위원회는 이날 ‘접속 차단’ 조치하기로 긴급 결정하며 대응에 나선 상황이다. 김 대변인은 “일부 매체에서 사실과 다른 허위 조작 영상을 풍자 영상으로 규정하거나 (영상에) 가상 표시가 있어서 괜찮다는 등으로 보도하는 것에 대해 심각한 우려를 표한다”고 지적했다. 이어 “이는 가짜뉴스를 근절해야 하는 언론의 사명에도 반하는 행동”이라며 “해당 영상은 명백히 허위 조작 영상이며 설령 가상이라고 표시했다 해도, 가상 표시를 삭제한 편집 영상이 온라인서 확대 재생산되고 있으므로 반드시 근절돼야 한다”고 부연했다. 앞서 경찰은 ‘윤석열 대통령 양심고백 영상’이란 제목의 영상콘텐츠가 최근 소셜미디어로 확산되자 전날 방심위에 차단을 요청했다.

“저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다. 저 윤석열의 사전에 정치 보복은 있어도 민생은 없습니다” ‘윤석열 대통령 양심고백 영상’이란 제목으로 ‘가짜’ 윤석열 대통령 딥페이크(Deepfake·AI로 만든 이미지 영상 합성 기술) 영상물이 소셜미디어(SNS)에서 확산하자 경찰이 22일 방송통신심의위원회에 차단을 요청한 것으로 확인됐다. 방심위는 해당 영상을 ‘대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물’로 판단하고 긴급 심의에 착수했다. 서울경찰청은 최근 방심위에 공문을 보내 틱톡과 메타 등에 올라온 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’ 딥페이크 게시글의 삭제와 차단을 요청했다. 근거 조항은 방송통신위원회의 설치 및 운영에 관한 법률, 정보통신망 이용촉진 및 정보보호 등에 관한 법률, 정보통신에 관한 심의 규정이다. 경찰은 “같은 URL 주소를 통해 틱톡, 인스타, 페이스북 사이트 계정을 사용하는 회원이 문제의 영상 등을 게시한 것으로 확인돼 삭제·차단을 요청한다”고 밝혔다. 방심위는 해당 내용을 접수하고 오는 23일 긴급 통신 심의소위원회를 열어 해당 안건을 심의한 뒤 바로 삭제 및 차단 조치를 할 것으로 알려졌다.46초 분량의 영상 속 윤석열 대통령은 “존경하는 국민 여러분. 저 윤석열, 국민을 괴롭히는 법을 집행해온 사람이다. 무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”라고 말한다. 이어 “저 윤석열, 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”며 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”고 말했다. 그러면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다. 감사하다”며 연설을 끝맺는다. 이날 오후 4시 현재 틱톡에서 ‘윤석열 양심’을 검색하면 같은 게시글이 5개가량 검색된다. 영상 댓글에는 “이건 윤석열이 아니다”, “이거 만든 사람 처벌해야 한다”는 부정적 반응과 반대로 “정말 저렇게 인정하면 좋으련만”, “가짜가 진짜보다 좋다” 등의 반대 반응도 달렸다. 앞서 2022년에도 지방선거를 앞두고 윤 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 SNS를 통해 확산하면서 정치적 논란이 됐었다. 한편, 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

사용자가 딥페이크 영상에 속는 일을 막기 위해 인공지능(AI)이 생성한 이미지나 영상을 감지하거나 콘텐츠에 ‘표지’를 남기는 기술도 계속 개발되고 있다. 하지만 대체로 딥페이크를 잡는 기술은 나날이 정교해지는 딥페이크 기술의 발달 속도를 따라잡지 못하고 있다. 19일 AI 업계에 따르면 딥페이크에 대응하는 기술은 크게 ‘탐지’하는 방식과 ‘표지’를 남기는 방식으로 나뉜다. 이 중 탐지 방식은 딥페이크의 특징을 학습한 AI가 가짜 영상을 찾아내 확산되기 전에 막는 기술이다. 합성한 얼굴과 합성 이미지를 덧씌운 대상의 얼굴 경계에 있는 미세한 차이, 모델의 데이터가 부족할 때 나타나는 부정확한 표정, 딥페이크에서만 나타나는 미묘한 음성 지연 등 얼굴이나 음성을 합성할 때만 나타나는 현상을 인간의 눈, 귀보다 빠르고 정확하게 찾아낸다. 2020년 마이크로소프트(MS)와 구글, 메타 등은 우승 상금 100만 달러(현재 환율로 약 133억 3550만원)를 걸고 ‘딥페이크 디텍터 챌린지’를 열었다. 전 세계 연구자와 개발자들의 기술과 아이디어를 끌어모으기 위해서다. 대회를 통해 탐지용 AI를 학습시킬 수 있는 딥페이크 데이터 세트가 만들어졌고, 누구나 탐지 모델을 만들 때 쓸 수 있도록 소스코드도 공유됐다. 하지만 2000명 이상의 참가작 중 1위 AI 모델조차 탐지 정확도가 65%에 그쳤다. 지난해엔 인텔이 ‘페이크캐처’라는 딥페이크 탐지 소프트웨어를 공개했다. 인텔은 페이크캐처가 사람의 심장이 뛸 때마다 얼굴에 나타나는 미세한 색 변화 등을 감지해 무려 96%의 정확도로 딥페이크를 걸러낸다고 밝혔다. 하지만 BBC 등에 따르면 이는 조명, 대상 인종 등 실험 조건이 통제된 상황에서만 달성될 가능성이 높다. 국내에선 딥브레인AI가 딥페이크 탐지 기술을 꾸준히 개발하고 있다. 자사에 축적된 AI 아바타 제작 데이터와 기술력을 딥페이크 탐지에도 활용해 솔루션을 만들어 출시하고 있다. 지난달 출시한 서비스는 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 2종으로, 조작된 이미지와 동영상 탐지 서비스, 음성 탐지 서비스를 각각 제공한다. 생성형 AI가 학습할 데이터에 눈엔 보이지 않는 ‘딱지’를 붙여 딥페이크 생성 과정에서 이를 드러나게 하는 ‘워터마크’ 방식도 최근 주목을 받고 있다. 구글 딥마인드가 지난해 8월 공개한 ‘신스ID’(SynthID)가 대표적이며, 네이버 제페토와 메타 등도 워터마크 정책을 도입했다. 하지만 워터마크를 지우는 기술 역시 다양하고 빠르게 확산되고 있다. 미국 메릴랜드대 연구진은 지난해 10월 신스ID를 포함한 주요 AI 워터마크를 모두 깨뜨렸다는 연구 결과를 발표하기도 했다.