온라인 구독 서비스가 보편화된 요즘 ‘한달 무료 체험’을 선택했다가 낭패를 보는 경우가 적지 않다. 무료 체험 기간이 끝난 뒤 구독 지속 여부를 묻지 않고 자동으로 결제가 이뤄지거나, 구독 취소나 서비스 탈퇴를 하려고 해도 절차를 복잡하게 만들어놨기 때문이다. 이처럼 소비자의 실수를 유도하거나 은밀하게 원치 않는 지출을 유발하도록 하는 ‘눈속임 상술’을 온라인상에 치밀하게 설계한 인터페이스를 다크패턴이라고 한다. 결제할 때 가격 올리고 앱 설치 유도하고 다크패턴에는 수많은 유형이 있다. 공정거래위원회는 이를 크게 편취형·오도형·방해형·압박형 등 4개 유형으로 분류하고 있다. 편취형 상술은 소비자가 알아채기 어렵게 인터페이스를 조작하는 유형으로, ▲숨은 갱신 ▲순차공개 가격 책정 ▲몰래 장바구니 추가 등으로 예상치 못한 지출을 유도하는 방식이다. 소비자 모르게 구독을 연장하거나(숨은 갱신) 처음 제시한 가격과 달리 결제 시 세금, 봉사료 등 추가금액을 더하는(순차공개 가격 책정) 상술이 편취형이다.오도형 상술은 거짓 할인 등 통상적인 기대와 전혀 다르게 화면이나 문구를 구성해 소비자의 착각을 유도하는 상술이다. 평소 1만원으로 팔다가 할인 기간에 원래 가격이 3만원인 것처럼 표시해 할인율을 과장한다거나(거짓 할인) 별도 앱 가입 없이 이용할 수 있는 서비스인데도 앱 가입 화면을 눈에 띄게 구성해 앱 설치를 유도하는(잘못된 계층구조) 등의 방식이 오도형에 해당한다. 또 ‘광고를 표시하지 않겠습니까×’라는 식의 이중부정, ‘결제에 동의’ ‘멤버십 가입 동의’ 등 2가지 질문을 던져놓고 ‘동의하고 구매하기’ 버튼을 배치하는 등의 교묘한 수법(속임수 질문)도 오도형이다.프로그램을 설치할 때 중간 단계에 제휴 서비스나 프로그램을 추가로 설치하도록 동의 버튼을 배치하는 것(특정옵션 사전선택)도 마찬가지다. 그밖에도 가짜 후기(거짓 추천), 허위 매물(유인 판매), 뒷광고(위장 광고) 등이 있다.방해형은 ▲탈퇴를 어렵게 만들거나 ▲여러 상품의 가격이나 판매 조건 비교를 어렵게 만들고 ▲소비자에게 유리한 선택에 클릭을 여러 번 하게 만드는 등의 수법을 가리킨다. ‘숨겨진 정보’도 방해형에 포함된다. ‘스튜디오 가족사진 무료 촬영’이라고 광고한 뒤 실제로는 50장의 사진 중 잘 나오지 않은 사진 1장만을 무료로 제공하고 잘 나온 사진을 받으려면 추가요금을 부담해야 하는 경우가 대표적인 사례다. 압박형에는 ▲팝업을 반복적으로 띄우는 반복간섭 ▲‘혜택 포기하기’ 등 감정적 언어 사용 ▲‘오늘만 이 가격, 2시간 30분 11초 남음’ 등 시간제한 알림 ▲‘재고 소진 임박’ 등의 문구 ▲‘19명이 이 상품을 보고 있어요’ 등 다른 소비자의 활동 알림 등이 있다. 편취형처럼 노골적으로 소비자 이익을 가로채는 유형뿐만 아니라 ‘재고 소진 임박’처럼 너무 흔해서 마케팅 기법으로만 여겨진 경우도 공정위는 다크패턴으로 보고 있다. 온라인몰 94개 중 66%가 다크패턴 사용 한국소비자원이 지난해 11월 발표한 국내 온라인 쇼핑몰(38개) 웹사이트 및 모바일앱(76개)의 다크패턴 실태조사에 따르면 평균 5.6개의 다크패턴 유형이 사용되고 있었다. 이 중 ‘거짓 할인’ 등 소비자 피해를 유발할 우려가 큰 유형은 평균 2.5개 발견됐다. 가장 많은 유형이 ‘특정옵션 사전선택’(48.7%, 37개)이었고, ‘숨겨진 정보’(44.7%, 34개), ‘유인 판매’(28.9%, 22개), ‘거짓 추천’(26.3%, 20개) 순이었다. 올해 2월 서울YWCA가 온라인 쇼핑몰 94개를 대상으로 한 다크패턴 실태조사에서도 온라인몰 66.0%가 총 160건의 눈속임 상술을 사용 중인 것으로 나타났다. 이 중 소비자 피해 유발 가능성이 높은 13개 유형은 115건에 달했다. ‘다크패턴 방지법’ 국회 통과…자율규약도 마련 공정위는 다크패턴 피해의 심각성을 고려해 지난해 4월 다크패턴 금지 종합대책을 발표했고, 지난해 7월에는 법 규제 이전 사업자가 스스로 다크패턴을 개선하도록 자율관리 가이드라인을 내놨다. 이러한 노력 끝에 지난 1월 15일 다크패턴 규율을 위한 전자상거래법 개정안 및 소비자기본법 개정안이 국회 본회의를 통과했다. 이를 통해 현행법으로 규율이 어려워 입법 공백이 어려웠던 6개 유형의 다크패턴 규제와 사업자 자율규약 등이 마련됐다. 6개 유형은 ▲숨은갱신(정기결제 대금 증액 또는 무료 서비스의 유료 전환시 소비자의 사전 동의 의무화) ▲순차공개가격책정 (정당한 사유 없이 총비용이 아닌 일부 금액만 표시·광고하는 행위 금지) ▲특정옵션사전선택(특정 상품 구매과정에서 다른 상품 구매 여부를 질문하면서 옵션을 미리 선택하는 행위 금지) ▲잘못된 계층구조(선택항목의 크기·모양·색깔 등에 현저한 차이를 두어 사업자에게 유리한 특정 항목 유인 금지) ▲취소·탈퇴방해 (소비자의 취소·탈퇴 방해 행위 금지) ▲반복간섭 (팝업창 등으로 소비자 선택을 반복적으로 변경 요구하는 행위 금지) 등이다.공정위가 다크패턴 금지행위의 예방 및 소비자보호를 위해 지침을 정할 수 있도록 하고 사업자 및 사업자단체는 금지행위를 예방하기 위해 자율적으로 규약을 정할 수 있도록 하는 내용도 담겼다. 또 다크패턴 규율을 위한 시정조치와 과태료 규정을 신설 및 수정했다. 전자상거래법 중 다크패턴의 규율에 관한 내용은 공포일로부터 1년이 경과한 날부터, 사업자 자율 준수를 위한 공정위의 지침 마련 및 사업자 자율규약에 관한 나머지 개정 조항은 공포일 즉시 시행된다. 또한 소비자기본법 개정안 중 실태조사 근거 조항은 공포 후 6개월이 경과한 날부터 소비자중심경영인증 관련 조항은 내년 1월1일부터 시행될 예정이다. 공정위는 개정 법률안이 공포되는 대로 조속히 하위 법령을 정비해 법 시행에 차질이 없도록 준비할 계획이다.

중국군 서열 3위인 허웨이둥 중앙군사위원회 부주석이 ‘가짜 전투력’을 단속하겠다는 입장을 밝혔다. 군부에 대한 반(反)부패 사정 움직임이 당분간 계속될 것이라는 관측이 나온다. 10일 사우스차이나모닝포스트(SCMP)에 따르면 허 부주석은 지난 5일 전국인민대표대회(전인대) 군 대표단 토의에서 ‘가짜 전투력’을 문제 삼았다. 앞서 중국군 기관지 해방군보는 허 부주석이 당일 토의에서 “정치 정돈·훈련을 깊이 있게 추진하고 늘 정풍숙기(분위기를 바로 잡고 기율을 엄히 함)와 반부패를 견지하며 형식주의와 관료주의를 단호히 시정해야 한다”고 말했다고 보도했다. 중국군 전문가인 제임스 차 싱가포르 난양공대 연구원은 허 부주석의 언급에 대해 “중국인민해방군 내 조달 비리에 대한 최근의 폭로와 연관됐을 수 있다”면서 “이번 부패 사례가 중국군이 도입한 무기의 품질과 전투 수행에 영향을 줄 수 있다는 의미”라고 설명했다. 전직 중국군 장비 전문가인 푸첸샤오도 허 부주석이 ‘가짜 전투력’이라는 말로 결함 있는 무기 조달 현실을 비판한 것으로 보인다고 분석했다. 중국군 간부들은 6일 회의에서도 반부패 사정 운동을 공언했다. 류전리 중국군 연합참모부 부참모장(중앙군사위원)은 강력한 청탁 근절 노력을 주문했고 장성민 중앙기율검사위원회 부주석(중앙군사위원)도 “부패를 낳는 토양과 환경을 단호히 제거해야 한다”고 압박했다. 시진핑 중국 국가주석은 지난해 중반부터 인민해방군 비리 혐의를 포착하고 부패의 뿌리를 뽑고자 애쓰고 있다. 이미 군 고위직 상당수가 낙마하는 등 중국군은 격랑에 휩싸여 있다. 앞서 파이낸셜타임스(FT)는 지난해 7월 “(대규모 감찰로) 로켓군 전·현직 고위관리 10여명의 소재가 확인되지 않고 있다”고 보도했다. 로켓군은 대륙간탄도미사일(ICBM) 등 전략 핵미사일을 운영하는 정예부대로 2015년 출범했다. 유사시 대만과 가까운 미군 기지를 견제할 수 있어 중요성이 커지고 있다.이 때문에 시 주석은 늘 최측근 인사들로 로켓군 수뇌부를 채웠다. 그럼에도 군 수뇌부는 집단 비리로 얼룩져 물의를 일으켰다. 지난달에도 로켓군 출신 첫 국방부장인 웨이펑허 전 부장이 ’원로 동지‘ 명단에서 빠져 ’숙청된 것 아니냐‘는 관측이 나왔다. 시 주석 개인에 대한 충성심을 핵심 지표로 판단하는 ‘시진핑식 인사’의 실패를 보여 주는 것으로 여겨진다. 로켓군이 대대적 물갈이 대상이 된 것은 시 주석 3연임이 확정된 2022년 10월 미 공군대학 산하 중국우주항공연구소(CASI)가 공개한 중국 로켓군 보고서 때문이다. 여기에는 위성사진만으로는 파악할 수 없는 중국군 고급 정보가 총망라돼 있었다. 미국이 장기 집권에 나서려는 시 주석을 겨냥해 ‘당신이 생각하는 것보다 더 많은 것을 알고 있다’는 경고를 담은 것으로 해석됐다. FT는 “(CASI 보고서 공개 이후) 로켓군 하급 관리들이 대거 체포돼 수사를 받았다. 그 칼날이 위로 향하는 것은 자연스런 수순”이라고 전했다. 특히 리위차오 전 로켓군 사령관의 아들이 미국 유학 중 미군에 정보를 흘린 것으로 확인되면서, 당시 미국대사였던 친강이 이에 책임을 지고 외교부장 자리에서 물러났다는 설도 나왔다. ICBM 대당 가격이 우리 돈 수천억원에 달해 로켓군이 구조적으로 부정부패에 취약할 수밖에 없다는 진단도 있다. SCMP는 익명의 소식통을 인용해 “중국 각지에서 성실히 활약하던 로켓군 장성들이 중앙 정치무대인 베이징으로 영전만 하면 군수 기업들과 ‘공생 관계’로 엮이는 현상이 비일비재하게 생겨난다”고 설명했다.

[포토多이슈] 사진으로 다양한 이슈를 짚어보는 서울신문 멀티미디어부 연재물 친문계 좌장인 4선 중진 홍영표 더불어민주당 의원이 당의 공천 배제 결정에 반발하며 탈당을 선언했다. 홍 의원은 6일 서울 여의도 국회 소통관에서 탈당 기자회견을 열고 “저는 오늘 민주가 사라진 가짜 민주당을 탈당한다”며 “윤석열 정권, 검찰공화국이라는 거악에 맞서기 위해 온갖 부당한 일들 속에서도 버텨왔지만 부당한 공천, 막다른 길 앞에서 더 이상 제가 민주당에서 할 수 있는 일이 없다고 판단한다”고 밝혔다. 이어 “이번 민주당 공천은 정치적 학살”이라며 “어떠한 비판도 허용하지 않고 오로지 이재명의 민주당으로 가겠다는 대국민 선전포고”라며 “정권을 심판하고 견제해야 할 막중한 책임이 있는 민주당이 총선 승리보다 반대세력 제거에 몰두하고 있다”며 “부당한 권력의 사유화, 사당화에 맞서 당당하게 맞서겠다”고 주장했다. 그러면서 앞으로 행보와 관련해 “윤석열 대통령 지키기와 이재명 당 대표 지키기에 매몰된 거대 양당이 아니라 국민을 지키는 진짜 민주정당이 필요하다”며 “서민의 삶과 민주주의를 지켜내는 정치, 국민을 편안하게 하고 미래를 준비하는 정치, 증오를 넘어 통합의 정치를 바로 세우기 위해 정치적 사명을 다하겠다”고 말했다.

지난 1월 복부 수술 후 모습을 드러내지 않아 위독설 등 각종 음모론이 일었던 케이트 미들턴 영국 왕세자빈이 오는 6월 국왕 생일을 기념하는 군기분열식에 참석한다. 5일(현지시간) 일간 더타임스와 가디언에 따르면 영국 육군은 올해 열리는 군기분열식 공식 홈페이지에 미들턴 왕세자빈이 오는 6월 8일 사전 행사에 참석한다고 이날 공지했다. 왕세자빈이 7주 동안 자취를 감추면서 위독설 등 확인되지 않은 소문과 음모론까지 등장한 가운데 영국 정부가 공식 일정을 예고한 셈이다. 하지만 왕실은 아직 왕세자빈의 참석 여부를 확인하지 않고 있다고 신문은 전했다. 영국에서 왕세자 부부는 찰스 3세 국왕 부부보다 대중적 인기가 높아 일거수일투족이 주목받는다. 하지만 영국 왕실은 전통적으로 가족의 신변과 관련해 비밀주의 전략을 고수하고 있어 늘 온갖 소문과 가짜뉴스를 양산하는 부작용을 일으킨다는 지적이 끊임없이 제기됐다. 영국 스카이뉴스도 이날 “왕실이 처한 딜레마를 다시금 드러낸 사례”라며 “너무 많은 기관이 얽혀 왕실이 발표를 통제하기 어렵다”고 지적했다. 그러면서 “만약 왕실이 6월 행사 참석을 확인하지 못한다면 왕세자빈의 상태가 안 좋다는 추측을 부채질할 것”이라고 전했다. 미들턴 왕세자빈은 지난달 16일 복부 수술을 받고 약 2주간 입원했다. 하지만 왕세자빈이 병원을 떠나는 모습이 영국 언론에 일체 공개되지 않아 음모론이 난무하기 시작했다. 최근 소셜미디어(SNS) 등에서는 스페인 언론의 보도 내용을 인용해 왕세자빈이 수술 직후 혼수상태에 빠졌다는 둥 그의 건강 상태를 둘러싼 루머도 무차별 확산했다. 이런 가운데 전날 미국 연예매체 TMZ는 왕세자빈이 윈저성 인근에서 모친인 캐럴 미들턴이 운전하는 차의 조수석에 선글라스를 낀 채로 앉아 있는 모습을 보도했다. 이 사진은 찰스 3세 국왕의 암 발병으로 공무 활동을 재개한 왕세자가 지난달 27일 윈저성 근처 성조지 예배당에서 열린 전 그리스 국왕 추도식을 개인적 사유로 불참하면서 왕세자빈의 건강을 둘러싼 루머가 확산하는 가운데 나왔다. 비록 멀리서 찍힌 사진이었지만 평소보다 왕세자빈의 얼굴이 부어있어 건강 이상설은 어느 정도 사실이라는 분석이 나왔지만 보도 이후 그의 신변에 대한 논란은 어느 정도 가라앉았다. 다만 일각에선 영국 왕실이 미들턴 왕세자빈에 대한 논란을 잠재우기 위해 의도적으로 해당 장면을 흘린 것 아니냐는 추측도 나왔다. 앞서 영국 왕실은 왕세자빈의 수술 사실을 발표하면서 그가 부활절(3월 31일)까지는 공식 업무에 나서지 못할 것이라고 설명한 만큼 왕세자빈이 6월 군기분열식 참석 전이라도 공식 활동을 재개할 가능성도 있다. 이날 군 홈페이지에는 6월 15일 열리는 군기분열식 주 행사에는 찰스 3세 국왕이 군을 사열하는 것으로 공지됐다. 군기분열식은 260여 년 전부터 치러져 온 국왕의 공식 생일 기념행사로 지난해 6월 찰스 3세는 즉위 후 처음으로 열린 행사에 직접 말을 타고 군을 사열했다. 왕실은 왕세자빈의 회복 소식을 상세히 전하지 않는 것과 달리 암 진단 사실을 발표한 찰스 3세의 업무 모습은 계속 공개하고 있다.

생성형 인공지능(AI) 등장 이후 빠른 속도로 기술이 발전하면서 인류와 AI의 공존이 화두로 떠올랐다. 모든 산업의 AI화를 넘어 일상에까지 침투해 온 AI를 그저 ‘반가운 손님’으로 맞이할 것인지 사람들이 묻기 시작한 것이다. AI가 인간의 통제를 벗어날지도 모른다는 두려움은 더 늦기 전에 기술 개발을 잠시 멈추자는 논의로 이어졌다. 스스로 의식을 가진 AI가 갑자기 깨어나서 인류를 멸망시킬 것인가. 서울신문은 ‘인간은 필요 없다’, ‘인공지능의 미래’ 등 베스트셀러 저자이자 미국 스탠퍼드대에서 AI의 사회·경제적 영향에 관해 강의하고 있는 인공지능학자 제리 캐플런(72) 박사에게 생성형 AI 이후 달라질 미래 모습에 대해 이메일을 통해 물었다. 그는 5일 “걱정하지 말라”며 “변화를 감당할 수 없을 만큼 상황이 너무 빠르게 진행되고 있지는 않다”고 말했다. 캐플런 박사는 최근 생성형 AI가 가져올 변화를 다룬 책에서도 “우리가 설계한 기계가 엉망이 돼 날뛰지 않도록 적절한 회로 차단기를 설치하면 된다”고 주장했다. “생성형 AI는 인간처럼 생각하지도 않고 인간과 같은 마음도 없다”는 그는 정체불명의 의인화된 AI는 현실에 없기 때문에 우리를 공격하지 않을 것이라고 했다. 다만 생성형 AI가 우리 삶의 거의 모든 걸 변화시키고 노동시장을 뒤흔들며 사회질서를 재편할 것이라고 봤다. 다음은 일문일답.#선거판 속 AI딥페이크, 스팸 메일처럼 심각사용금지·형사고발 이어질 것 -텍스트를 입력하면 알아서 동영상을 만들어 주는 AI 모델(소라·Sora)이 공개됐다. 기술 발전 속도가 너무 빠른 것 아닌가. “놀랍게도 기술 발전의 속도를 연구하는 경제학자들은 가까운 과거의 발전 속도가 실제로 이전보다 더 느리다는 사실을 발견했다. 예를 들어 당신이 1910년에 살고 있었다면 지난 20년 동안 자동차, 비행기, 녹음기 발명을 목격했을 것이다. 조금만 더 거슬러 올라가면 사진 발명도 있었다.” -대선을 앞둔 미국과 마찬가지로 한국은 4월 국회의원 선거를 앞두고 딥페이크 영상 게시물로 몸살을 앓고 있다. “딥페이크는 과거 스팸 메일과 마찬가지로 심각한 문제다. 간단히 말해 선거 등 중요한 상황에서 딥페이크 사용은 금지될 것이며 사용할 경우 형사 고발로 이어질 것이다. 또한 사람들은 그 문제에 대해 훨씬 더 많이 인식하게 될 것이고, (딥페이크 영상에 대해) 더욱 회의적으로 변할 것이다.” -AI 기술로 인한 일자리 변화는 막을 수 없을 것 같다. “그래픽 아티스트, 컴퓨터 프로그래머 등 일부 직업은 다른 직업보다 더 큰 영향을 받을 것이다. 그러나 이러한 직업에 종사하는 대부분의 사람들은 여전히 직업을 갖고 있을 것이고, 생성형 AI 시스템을 ‘지능형 비서’로 사용할 것이다. 과거 사진이 발명됐을 때 초상화가 등 화가라는 직업에 영향을 미쳤던 것만큼 극적인 변화는 아닐 것으로 본다.”#노동시장의 변화컴퓨터 관련 직업은 변화 예고AI 시스템에 업무 도움받을 것 -생성형 AI의 문제점 중 하나는 ‘할루시네이션’(환각 현상)이다. AI가 그럴듯한 오답을 내놓는 이 현상이 수년 내 해결될까. “실제로 AI가 우리가 기대하는 것보다 더 인간처럼 행동한다는 게 문제다. 이 문제는 여러 방식으로 제어가 될 것이다. 우선 가짜 정보를 만들어 내는 걸 방지하는 ‘내부 설정’ 작업과 함께 특정 목적에 맞게 훈련을 거칠 것이다. 둘째, 개발자들이 AI가 꾸며내지 않도록 지시하는 더 나은 방법을 찾을 것이다. 셋째, 대부분 시스템은 인간이 하는 것처럼 외부 소스를 통해 의심스러운 정보를 확인할 수 있을 것이다. 문제가 해결되지는 않아도 이 세 가지는 환각 문제를 크게 줄여 줄 것으로 본다.” -AI가 설계자의 의도나 예상과 다른 결과물을 내놓는다면 결과적으로 인간이 AI를 통제할 수 없다는 것 아닐까. 국제규범 마련이 시급하다는 의견도 있다. “국제규범은 도움이 되지 않을 것이다. 무엇이 허용되고, 그렇지 않은지를 AI 시스템이 더 잘 이해할 수 있게 훈련시켜야 한다. 이 시스템을 적절하게 통제할 수 없다면 굳이 특정한(위험한) 용도나 목적으로 사용하지는 않을 것이다. 우리는 온갖 위험한 도구를 만들고, 그 결과를 감수하며 살아간다. 자동차를 예로 들어 보자. 교통사고로 수많은 사람이 목숨을 잃지만 편리함 때문에 자동차를 이용한다. AI 시스템도 마찬가지 아닐까.” -생성형 AI의 등장으로 인간이 묻고 AI가 답하는 시대가 됐다. 우리는 어떤 역량을 더 발전시켜야 할까. “생성형 AI로 인해 사람들은 이전보다 감독자, 관리자에 가까워질 것이다. 이 새로운 기술은 사람들이 기계로부터 나은 결과를 얻어내는 데 전문가가 되게 해 줄 것이다. 스프레드시트(숫자 표에서 계산 기능을 수행하는 프로그램) 사용법을 아는 것과 다르지 않다. 기술을 더 잘 활용할 수 있는 사람이 이러한 기술을 갖지 못한 사람에 비해 더 높은 평가를 받게 될 거다.” -사람들이 AI에 감정적 애착을 느낄 수도 있을 것 같다. AI를 유일한 대화 상대이자 친구로 느끼게 되면 인간과의 관계 맺기가 왜곡되지 않을까. “저는 AI와 교제하는 걸 ‘정서적 포르노’(emotional pornography)라고 부른다. 우리를 이전보다 더 고독하게 만드는 동시에 외로움을 줄여 줄 수도 있다. 얼마나 모순인가.” #오답 말하는 AI기대보다 ‘인간처럼 행동’ 문제여러 설정·훈련 통해 제어될 것 -정서적 포르노라고 표현한 건 AI와 매우 강한 감정적 유대를 형성하면서 사람들이 혼란을 겪게 되고, 정상적인 인간관계가 붕괴될 수 있다는 뜻인가. “포르노는 사람들이 실제 사람들과 상호작용하는 대신 사진을 통해 만족을 얻도록 한다. 정서적 포르노도 비슷하다. 실제 사람들과 교제하지 않고 컴퓨터 프로그램과 상호작용하면서 (관계에 대한) 필요를 충족시킬 것이다. 그렇게 되면 인류와도 단절되는 것이다.” -AI 기술 발전으로 로봇이 많은 일을 대체하면 ‘사람은 도대체 뭔가’라는 질문에 직면할 것 같다. AI 시대 인간다움은 무엇이라고 생각하나. “인류는 아무데도 가지 않는다. 걱정할 필요가 없다. 오늘날 우리는 더이상 가구, 옷 등을 만드는 숙련된 장인을 필요로 하지 않지만 그러한 기술을 가진 사람은 과거에 비해 훨씬 더 존경받으며 가치를 인정받는다. 생성형 AI도 우리를 가장 인간답게 만드는 일에 집중할 수 있게 해 줄 것이다.” #저작권의 새 정의사진 첫 발명 때 저작권 미적용AI 결과물도 법 보호받게 될 것 -생성형 AI가 내놓은 결과물이 인간의 창작 활동을 대체하면서 저작권 정의를 바꿔야 한다는 주장도 나온다. “AI 프로그램의 결과물도 저작권 보호를 받을 수 있게 법률을 바꿀 필요가 있다. 사진이 발명됐을 당시 사진가가 한 일은 ‘버튼을 누르는 것’뿐이었기 때문에 사진은 저작권이 있는 것으로 여겨지지 않았다. 지금 생각하면 말도 안 되는 얘기 아닌가. 생성형 AI에도 같은 일이 일어날 거다. 생성형 AI로 최상의 결과를 얻을 수 있는 사람은 매우 숙련된 사람으로 간주되고, 그들의 작업은 저작권의 보호를 받을 것이다.” -챗GPT 등장 이후 세계는 AI 경쟁에 돌입해 자국의 언어와 문화를 접목한 AI 모델을 만들고 있다. 앞으로 AI 주권을 지키는 현상이 더욱 강화될 것으로 예상된다. ‘AI 민족주의’는 불가피한가. “그렇다. 하지만 좋은 일이라고 생각한다. 사람들은 그들의 가치와 문화를 반영하는 제품(AI 모델)을 원할 것이다. 현지 기업은 멀리 있는 글로벌 기업보다 이러한 요구 사항을 더 잘 식별할 가능성이 높다. 이를 가장 잘 수행하는 회사나 제품이 현지 시장 내 경쟁에서도 이길 것이다.” #제리 캐플런 박사는? 제리 캐플런 박사는 미국 실리콘밸리에서 여러 기술기업을 창업했던 현장형 전문가다. 인공지능(AI) 분야 벤처기업 ‘테크놀리지’(Teknowledge)를 비롯해 ‘고 코퍼레이션’, ‘온세일’ 등을 공동 설립했다. 그는 현장 경험을 살려 일흔이 넘은 나이에도 여전히 강단(스탠퍼드대 겸임강사)에 서며 저술 활동을 하고 있다. 지난달 생성형 AI에 관한 책(‘Generative Artificial Intelligence: What Everyone Needs to Know’)을 새로 냈다. 한국어판(‘제리 카플란 생성형 AI: 지금 우리에게 필요한 것들’)은 올 상반기 내 나올 예정이다.

‘오픈뱅킹’ 덕분에 스마트폰 하나로 자신의 모든 은행 계좌 등을 들여다보며 은행 업무를 볼 수 있게 됐다. 스마트폰에 애플리케이션(앱) 하나만 깔면 굳이 은행 창구에 가거나, 현금자동입출금기(ATM)를 찾을 필요도 없어졌다. 쉽고 간편해 디지털 시대의 선물이라 할 만하다. 그러나 신분증을 도용당하는 순간, 선물은 재앙으로 변한다. #디지털 시대의 ‘선물’3564만명 계좌 수 1억 9375만개ATM 찾는 수고로움 크게 줄어 오픈뱅킹은 하나의 은행 앱에 자신의 모든 은행 계좌를 등록해 금융 서비스를 이용할 수 있는 서비스다. 2019년 말 오픈뱅킹이 전면 시행된 이후 높은 편의성 덕에 가입자 수가 급격히 늘었다. 3일 금융권에 따르면 지난해 말 기준 오픈뱅킹 가입자 수는 3564만명이 넘는다. 5000만 국민 중 3분의2 이상이 오픈뱅킹을 사용하는 셈이다. 등록된 계좌는 1억 9375만개다. 은행·카드·보험·증권 등 136개 금융사도 오픈뱅킹에 참여 중이다. 문제는 오픈뱅킹 보안이 가짜 신분증과 그 신분증으로 개통한 알뜰폰 하나면 허무하게 뚫린다는 점이다. 금융위원회 가이드라인에 따라 금융사는 비대면으로 실명을 확인할 때 ▲신분증 사본 ▲영상 통화 ▲ 기존 계좌를 활용한 1원 송금 ▲생체 정보 ▲우편 확인 등 5개 필수항목 가운데 2가지만 확인하면 된다. 이미 피해자 신분증을 손에 넣고 알뜰폰 개통까지 마친 금융사기 일당에게 인증은 어려운 관문이 아니다. 이런 허점을 이용한 범죄는 빈번하게 일어난다. A씨는 자녀를 사칭한 금융사기 일당에게 속아 자신의 신분증 사진을 찍어 보냈다. 일당은 중국에서 A씨 신분증 사진으로 A씨 명의의 알뜰폰을 개통하고 은행 앱을 설치했다. 오픈뱅킹을 통해 일당은 A씨의 정기예금 4억 2000여만원을 담보로 3500만원을 대출받고 예금을 중도 해지해 2억 2000여만원을 챙겼다. 순식간에 벌어진 일이었다. B씨 역시 신분증 도용으로 큰돈을 잃었다. 일당은 B씨의 신분증을 도용해 대포폰에 모바일트레이딩서비스(MTS) 앱을 설치하고 매도대금 담보대출 1억 7600만원을 받았다.#순식간에 다가온 ‘재앙’가족 사칭 등 수법 신분증 도용은행 보안 뚫고 예금인출·대출 일당은 여러 차례에 걸쳐 주식 4515주를 사고팔아 결국 1억 1000만원의 예수금을 출금했다. 일당은 같은 날 오후 여러 은행의 모바일·오픈뱅킹을 통해 다른 은행 예금 1480만원을 해지해 인출하기도 했다. C씨는 분실 신고한 신분증을 도용당해 억대 피해를 봤다. 일당은 C씨가 분실 신고한 신분증 사본을 위·변조해 캐피털사에서 1억원, 은행에서 5000만원을 각각 비대면으로 대출받았다. 경제정의실천시민연합 등에 따르면 비슷한 피해를 당한 뒤 ‘신분증 사본 인증 피해자 모임 공동대책위원회’를 찾은 이들은 700명이 넘는다. #비대면 금융거래 ‘보완’신분증 안면 인식 시스템 구축은행이 피해액 최대 50% 배상 금융당국은 뒤늦게 대책 마련에 나섰다. 금융위는 이달 중 ‘비대면 실명확인 관련 구체적 적용방안 개편안’을 발표할 계획이다. 안면인식 시스템을 통한 실명 확인을 반드시 거치도록 하는 내용이 들어갈 것으로 보인다. 금융결제원이 지난달 ‘신분증 안면인식 시스템’을 구축한 것도 같은 맥락이다. 금융결제원은 금융사가 고객 실명을 모바일뱅킹 등 비대면으로 확인할 때 신분증 사진이 제출인과 같은지 확인하는 ‘신분증 온라인 도용 방지 시스템’을 만들었다. 지금까지는 고객이 제출한 신분증의 위·변조 여부만 확인할 수 있을 뿐 해당 신분증을 사용하는 사람이 본인인지 아닌지는 정확히 알 수 없었다. 금융결제원 신분증 안면인식 시스템은 신분증 사진과 스마트폰 등으로 찍은 고객의 얼굴 사진을 비교해 같은 사람인지 확인한다. 고객이 신분증 사진과 함께 본인의 얼굴 사진을 제출한다. 그러면 안면인식 시스템이 신분증 사진과 고객 얼굴 사진의 특징을 비교해 같은 사람인지 확인한다. 현재 KB국민은행, 전북은행, SH수협은행, 제주은행, NH농협은행, BNK부산은행, 산업은행, 광주은행 등 8개 은행이 금융결제원 신분증 안면인식 시스템을 사용하고 있다. 나머지 금융사들도 향후 각 사 일정에 따라 신분증 도용 방지 시스템을 도입한다. 금융결제원은 올 상반기까지 20개 내외의 금융사가 참여할 것으로 보고 있다. 그간 신분증 유출로 인한 금융 사고는 이용자의 중과실로 간주됐다. 피해를 보더라도 배상받지 못하는 일이 많았다. 배상받으려면 피해자가 개별적으로 금융사를 상대로 소송을 해야 했다. 사태가 심각해짐에 따라 금융감독원은 신분증 도용으로 인한 비대면 금융거래 사고 등이 발생했을 때도 금융사에 일부 책임을 묻기로 했다. 금감원 관계자는 “비대면 금융거래 과정에 문제가 있다는 점을 알고 있다. 여러 사례를 짚어 보고 종합적인 대책을 마련 중”이라고 밝혔다. 금감원은 비대면 금융사고가 발생하면 은행이 피해액의 최대 50%를 배상하는 내용을 골자로 하는 ‘비대면 금융사고 예방 추진을 위한 협약’을 국내 19개 은행과 맺고 올해부터 실시할 예정이다. 은행의 사고 예방 노력과 이용자의 과실 정도에 따라 배상 규모가 결정된다. 은행은 20%에서 최대 50%를 분담한다. 은행의 책임 경중은 인증서 등을 발급할 때 본인 확인을 제대로 했는지, 사고를 예방할 이상금융거래탐지시스템(FDS)을 가이드라인에 따라 만들었는지 등을 따진다.

조형예술 대가의 ‘쓴소리’요즘 학자들 책 도판 위주로 공부‘전공 세분화’로 좁은 분야만 연구문제의식 없고 작품성 구별 미흡몰입 통해 펼친 ‘인생 2막’전공과 무관한 다양한 미술에 관심치열하게 쓰고 그리며 새 길 찾아 ‘필생의 연구’ 시작은 퇴직한 그날 강우방 일향한국미술사연구원장은 2015년 서울신문에 ‘세계 조형예술 용(龍)으로 읽다’를 연재했다. 마지막회는 동양의 불상과 예수의 부활을 담은 서양 미술이 완전히 같은 원리로 표현돼 있음을 보여 주는 내용이었다. 문자언어는 지역마다, 나라마다 다르지만 ‘조형언어’는 전 세계적으로 하나의 원리를 갖고 있다는 것이다. 그는 이런 원리를 깨우치고자 3만점 남짓한 작품을 채색분석했다. 강 원장이 스스로 개발한 연구방법이다. 서울신문 연재 내용은 그동안의 연구 성과를 더해 곧 책으로 펴낼 것이라고 한다. 우리 사회의 가장 권위 있는 미술사학자 강 원장을 세검정 어귀의 서울 부암동 연구실에서 만났다.강 원장은 대뜸 “요즘은 예술작품을 보고 아름답다고 느끼는 학자가 별로 없다. 아름답다고 느끼면 애정을 갖는데 그런 게 없으니 애정도 없는 것 같다”고 했다. 대학이나 박물관에 재직하고 있을 때는 열심히 연구 활동을 하던 미술사학자가 퇴임하면 새로운 학문의 길을 개척하는 것이 아니라 그냥 사라지고 마는 현실이 안타깝다는 것이다. 학문적 대상에서 아름다움을 발견하고 놀라운 경험을 했다면 연구를 그만두지는 않았을 것이라는 아쉬움이다. 그는 그 배경의 하나로 ‘전공의 세분화’를 지목했다. “요즘에는 평생 자기 분야밖에는 모릅니다. 고려시대 불화도 전기불화와 후기불화로 나뉘어졌지요. 이렇게 세분화된 전공의 연구자들은 50대에만 접어들어도 더이상 문제의식을 갖지 못합니다. 너무나 좁은 자기 분야만 공부하다 보니 고려불화 전공자가 고려불화를 가장 모른다는 역설이 나타나지요.” 강 원장은 추사 김정희와 이중섭의 것으로 알려진 작품 가운데 가짜가 많다는 주장을 끊임없이 펴오고 있다. 예술의전당 서예박물관 주최로 2019년 중국 베이징 중국국가미술관에서 열린 ‘추사 김정희와 청조 문인의 대화’전에도 문제를 제기했다. 당시 강 원장은 “출품작의 90%를 차지한 해괴한 글씨들을 진품으로 뒷받침하기 위한 대담무쌍한 국제적 사기극”이라고 직격탄을 날렸다. 2022년 국립현대미술관에서 열린 ‘이건희 컬렉션 특별전-이중섭’ 전시회 때도 “대부분 구도가 엉망이고 선은 날림이며 색은 가벼워서 들떴으니 모든 요소가 힘이 없다. 경박하고 추해서 도저히 이중섭 작품이라고 볼 수 없다”며 단호하게 비판했다. 강 원장은 “글씨나 그림의 문제를 지적하면 저를 가리켜 그분은 불교조각이 전공이라며 회피한다”고 했다. 그러면서 “요즘 글씨나 그림을 전공하는 학자들은 책의 도판을 보고 공부하니 좋은 작품과 그렇지 않은 작품을 구별하는 능력이 떨어진다”면서 “저는 실제로 치열하게 글씨를 쓰고 그림도 그린 만큼 가차없는 비판도 할 수 있는 것”이라고 했다. “대학 시절 서예 동아리 모집공고를 보고 찾아갔습니다. 30대이던 여초 김응현 선생 지도로 북위시대 비석을 글씨첩으로 만든 장맹용비첩(張猛龍碑帖)을 열심히 썼습니다. 임서(臨書)는 단순히 글씨를 옮겨 쓰는 것이 아니라 글씨의 구성과 기운생동을 스스로 깨우치는 것입니다. 훗날 작품의 진위를 구별하는 데 큰 힘이 돼 주었지요. 사군자도 열심히 쳐서 조금씩 동양화에도 눈을 뜨기 시작했습니다. 여초는 저를 수제자로 키우려 했었지요.” 강 원장은 서예에 몰입하기 시작한 즈음 캔버스를 사서 서양화도 혼자 그리기 시작했다. 유화를 독학으로 그렸는데 옆집에 살던 서양화가 손동진 서울대 미대 교수로부터 ‘초현실적인 그림’이라는 평가를 받기도 했다. 손 교수집에서 대학원생들과 함께 데생을 하고 유화도 그렸다. 이젤과 스케치북을 들고 산과 들로 오가며 전국을 안 다닌 곳이 없었다고 한다. 동서양의 예술을 혼신을 다해 체험하며 한때는 작가가 되기를 꿈꾸기도 했다는 것이다. 그는 서울대 문리대 독문과 출신이다. 평균 학점은 C였다고 한다. 석사학위도 없다. 그럼에도 하버드대 박사과정에 들어갔으니 우리나라라면 불가능한 일이 아니었을까 싶다. “1980년 미국에서 ‘한국미술 5000년전’이 열렸는데 클리블랜드에 이어 보스턴에서 전시가 예정돼 있었습니다. 클리블랜드박물관에는 특히 인도 불상이 많아 감상할 시간을 자주 가졌는데 다양한 미술에 관심을 갖는 계기가 됐지요. 보스턴에서는 ‘삼국시대와 통일신라 미술의 과도기적 양식’이라는 발표를 국제심포지엄에서 했는데, 하버드대의 존 로젠필드 교수가 다가오더니 대뜸 교환교수로 초청하고 싶다는 것이었습니다. 이후 내가 학위가 없다는 것을 알고는 박사과정에 들어오는 것이 어떻겠느냐고 해서 수락했습니다.” 강 원장은 “미술사학과에 다닌 적이 없으니 미술사학 강의를 들은 적도 없었다”면서 “영어에는 어느 정도 자신이 있었는데 강의 내용이 귀에 들어오지 않았다”고 했다. “중국과 인도 미술에 관한 강의를 들었는데, 내용이 그리 들을 만하지 않았어요. 지금은 어떤 나라 미술사 강의든 문제가 많음을 알고 있으니 오류에 가득 찬 강의에서 자유로웠다고 할까요.” 박사 논문을 쓰려고 하자 자신이 알고 있는 것이 너무나 미미하다는 깨우침이 일었다. 그래서 떠올린 것이 석굴암이었다고 한다. 그는 석굴암의 불상 조각과 건축은 반드시 함께 연구해야 한다고 생각했다. 일제강점기 경주박물관의 일본인 건축직 촉탁 요네다 미네지가 측정해 당나라 시대 자로 환산한 본존불의 치수도 반드시 무언가에 근거했으리라는 생각이 들었다. 동료 대학원생들에게 불상 논문을 읽다가 숫자가 보이면 무조건 전화하라고 했다. 어느 날 대만 유학생 그레이스 옌이 당나라 현장법사가 인도를 여행하고 쓴 ‘대당서역기’에서 알 수 없는 숫자를 보았다고 했다. 신라 사람들이 석굴암 본존불을 부처가 깨달음을 이룬 인도 보드가야 마하보리사원의 정각상과 같은 크기로 조성했음을 밝혀낸 순간이었다. 애초에 그가 국립중앙박물관에 들어간 것도 오늘날의 상식으로는 불가사의한 일이다. 그는 대학을 졸업하고 한 해를 그림과 붓글씨로 보내고 이듬해 서울대 고고인류학과 2학년에 편입했다. 학사편입이니 3학년에 들어가야 했지만 미학과 학점 40학점을 인정받지 못했다는 것이다. 당시 유명세를 떨치던 김원룡 교수로부터 미술사학을 배울 수 있다고 생각했는데, 김 교수가 곧 강의를 하지 않겠다고 선언했다고 한다. 게다가 고고인류학과 강의를 들어도 만족하지 못하는 나날이 이어졌다. 그렇게 한 학기 만에 중퇴할 수밖에 없었다고 한다. “1967년 여름 서울대박물관 수장고에 있는 작품도 볼 겸 유물카드를 쓰는 일을 하면 어떨까 생각했습니다. 조교에게 말했더니 대환영이었고요. 어둑한 수장고에서 유물을 관찰하며 카드에 유물 이름, 작품의 특성과 상태를 열심히 기록했습니다. 그때 정양모 당시 국립중앙박물관 학예연구관이 서울대박물관 소장 회화의 낙관을 조사하고 있었는데, 조교에게 박물관 미술과에 사람이 필요하니 한 사람을 천거해 달라고 청한 모양입니다. 마로니에 벤치에서 정 선생과 한참 이야기를 나눴는데, 당장 근무를 제안하는 것이었습니다.” 하지만 박물관에 들어간 지 1년 6개월 만에 사직서를 냈다. 일하는 과정에서 오해가 있었고 미술부 내부에 약간의 잡음도 있었다고 했다. 쉬면서 앞날을 모색하고 있었는데 문득 경주를 떠올렸다. 당시 최순우 국립중앙박물관장에게 복직을 부탁하며 경주 이야기를 꺼내니 기특하게 여겼다고 한다. 경주는 좌천을 넘어 유배지였다는 것이다. 1970년 부임하니 관장만 있던 경주박물관의 제1호 학예직이었다. 옛 경주박물관 건물 옆에 조그만 가건물을 붙여 연구 공간으로 썼다. 강 원장과 경주, 나아가 신라의 오래된 인연은 이렇게 시작됐다. 강 원장은 1997년 국립경주박물관장이 됐고 2000년 그곳에서 정년퇴임했다. 퇴임 발표는 기와에 새긴 조각이 귀신이 아니라 용이라는 사실을 증명하는 내용이었다. 귀면와(鬼面瓦)가 아니라 용면와(龍面瓦)라는 인식은 영기화생론의 기반이 됐다. 퇴직한 그날 필생의 연구를 본격적으로 시작한 것이다. 처음에는 용이 세계 미술을 푸는 열쇠가 될 것이라고는 생각하지 못했다고 한다. 20년이 지나서야 용의 입에서 나오는 무언가가 ‘조형언어’였음을 알게 됐다는 것이다. 그는 요즘도 “매일매일 새로운 계획을 세워서 직진하고 있다”고 했다. 아침에 집을 나서면서 “나는 세상을 위해서 나가는 거야” 하고 스스로 다짐한다는 것이다. ■강우방 원장은 1941년 중국 만주 안둥에서 태어났다. 서울대 독문과를 졸업하고 미국 하버드대 박사과정을 수료했다. 국립중앙박물관에 오랫동안 재직하며 국립경주박물관장을 지냈다. 이후 이화여대 미술사학과에서 후학을 가르치다 퇴직한 뒤 일향한국미술사연구원을 열어 오늘에 이른다. 저서로 ‘원융과 조화’, ‘법공과 장엄’, ‘한국불교조각의 흐름’, ‘한국미술의 탄생’, ‘수월관음의 탄생’ 등이 있다.

“딥페이크가 의심되면 이미지의 입과 눈을 주의 깊게 보세요. 우리가 가상인간을 만들 때 가장 어려운 부분이 역으로 딥페이크의 허점이 될 수 있습니다.” 인공지능(AI) 영상기술 전문기업 포바이포에서 버추얼유튜버(버튜버, V튜버) 태스크포스(TF)를 이끄는 안찬용(36) 팀장의 전공 분야인 가상인간을 바로 딥페이크 기술로 만든다. 딥페이크는 ‘딥러닝’과 ‘가짜’(fake)의 합성어로, 실제 인물의 이미지나 영상, 음성을 학습한 AI를 이용, 현실과 흡사한 가짜를 만들어 내는 기술이다. 그는 롯데홈쇼핑의 가상인간 ‘루시’ 제작을 총괄했으며 그의 팀은 지난해 말 ‘청아린’이라는 버튜버를 선보였다. 현재는 2호, 3호 버튜버 출시를 준비 중이다. 안 팀장은 “가상인간은 ‘20대가 가장 호감을 느끼는 얼굴 표본’처럼 실제로는 존재하지 않는 인물을 컴퓨터로 만들어 학습시킨다”며 “만일 같은 기술로 실존하는 정치인이나 연예인 등을 학습시켜 만든 가짜 인물을 통해 허위 정보를 유포하거나 특정인의 명예를 훼손하면 큰 문제가 된다”고 설명했다. 이 같은 우려는 지난달 미국에서 실제로 일어났다. 가수 테일러 스위프트를 딥페이크 기술로 합성한 음란 사진이 소셜미디어(SNS)에 유포됐다. 뉴햄프셔주 예비선거를 앞두고는 조 바이든 미국 대통령을 가장한 딥페이크 음성 전화가 유권자들에게 걸려 오기도 했다.딥페이크 콘텐츠를 탐지하는 ‘안티페이크’ AI도 존재한다. 학습 데이터에 눈에는 보이지 않는 ‘디지털 표지’를 붙여 AI가 콘텐츠를 만들 때 드러나게 하는 ‘워터마크’ 기술도 주목받고 있다. 다만 안 팀장은 “이런 기술처럼 딥페이크 기술도 빠르게 발전하는 게 문제”라고 지적했다. 가상인간을 만드는 딥페이크 전문가는 허위 영상을 판별하는 요령을 알지 않을까. 안 팀장은 “가상인간을 만들 때 말소리와 입모양을 일치(싱크)시키는 작업이 가장 어렵다”면서 “조악한 영상들은 입모양을 자세히 보면 일반인도 구분할 수 있다”고 말했다. 또 “단어의 의미나 문장의 맥락에 맞는 표정이나 자연스러운 시선 처리도 구현하기 어려운 부분”이라면서 “이런 것들 중 하나라도 이상하다고 느껴진다면 가짜 영상임을 의심해볼 수 있다”고 말했다. 하지만 이런 요령도 시간이 지나면 소용이 없어질 가능성이 있다. 안 팀장은 “후반 보정 작업을 정교하게 여러 번 거치면 얼마든지 표가 나지 않게 만들 수 있다”며 “갈수록 정교해지는 결과물을 재학습한 더 강력한 AI 모델이 반드시 등장할 것”이라고 설명했다. 다만 “‘기술’의 문제를 해결할 수 있는 것은 역시 ‘기술’인 만큼 딥페이크의 문제도 우리 딥페이크 기술자들이 해결할 것”이라고 말했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

‘갈색 베레모를 쓴 백발 노인이 한 카페에 앉아 멀리 시선을 둔 채 생각에 잠긴 듯 촉촉한 눈을 깜빡인다. 노인은 이내 뭔가 생각이 떠오른 듯 희미한 미소를 짓는다. 눈가와 수염이 난 입가에 살짝 주름이 파인다.’ 마치 영화 속 한 장면과 같은 영상은 사실 챗GPT 개발사인 오픈AI가 생성형 인공지능(AI) 기술로 만들어 낸 것이다. 영상 속 따뜻한 색감의 조명과 핸드헬드(카메라를 손에 들고 찍음) 촬영 기법으로 찍은 듯 조금씩 흔들리는 시야 등도 모두 AI가 ‘창조’했다. 오픈AI가 지난 15일(현지시간) 자사 홈페이지를 통해 공개한 동영상 생성 AI ‘소라’를 두고 충격적이란 반응과 함께 ‘딥페이크’(AI 기술로 만든 가짜 영상) 악용 우려가 동시에 나오고 있다. 그동안엔 막대한 시간과 비용을 투자해야만 만들 수 있었던 수준의 영상을 소라는 단 몇 줄의 명령어(프롬프트)만으로도 만들어 낼 수 있기 때문이다. 뉴욕타임스(NYT)는 소라가 공개되자 “깜짝 놀랄 영상을 순식간에 생성하는 AI”라고 소개했다. 18일까지 X(옛 트위터)엔 소라를 이용해 생성한 것으로 추정되는 15초짜리 동영상들이 입력한 프롬프트와 함께 속속 올라오고 있다. 소라 서비스 이용 권한을 제한적으로 제공받은 예술 종사자들이 만든 것으로 추정된다. 이를 접한 사용자들은 “방금 충격적인 걸 봤다”는 등 놀라움을 표현하며 영상을 공유하고 있다. 오픈AI에 따르면 소라는 최대 1분짜리 고품질 영상을 생성할 수 있다. 다만 현재는 15초 분량을 만들 수 있는 서비스를 일부 영상 제작자, 시각 예술가 등에게만 시범으로 제공하고 있다고 밝혔다. 오픈AI가 소라를 이용해 만들었다고 공개한 영상 샘플 40여 편은 AI가 빛과 물리법칙에 대해 깊이 이해하고 있다는 걸 보여 줬다. 도쿄 번화가의 화려한 간판 불빛이 젖은 길거리에 거울처럼 비친 모습, 설원을 달리는 매머드의 발바닥에 눈이 붙었다 떨어지는 모습, 잔 속에서 일렁이는 커피의 파도에 요동치는 해적선들의 움직임 등까지 완벽하게 표현했다. 비현실적인 장면도 컴퓨터그래픽(CG) 이상의 품질로 구현했다. 오픈AI는 또 딥페이크 우려를 예상한 듯 “잘못된 정보, 혐오 콘텐츠, 편견과 같은 분야 전문가들로 ‘레드팀’을 구성해 안전성 테스트를 할 것”이라고 밝혔다. 특히 “복잡한 장면에서 물리법칙을 정확하게 재현하는 데 어려움을 겪을 수 있으며, 원인과 결과의 특정 사례를 이해하지 못할 수도 있다”고 소라의 약점을 공개하기도 했다. 그럼에도 딥페이크로 인한 정치 혼란, 사생활 침해 등 우려를 잠재우진 못하고 있다. 소라가 보여 준 수준의 기술이면 학습할 데이터가 많은 유력 정치인의 아주 정교한 가짜 영상을 만드는 것은 ‘식은 죽 먹기’라는 평가가 일반적이다. 미국 앨런 AI 연구소 창립자이자 워싱턴대 교수인 오렌 에치오니 박사는 자신의 X 계정을 통해 “이런 영상들 때문에 박빙의 선거가 뒤집힐까 봐 정말 두렵다”고 말했다. 한 X 사용자는 “누가 내 사진으로 가짜 영상을 만들까 봐 이제 소셜미디어에 사진도 못 올리겠다”고 했다. 연기자, 분장사, 의상, 조명예술가, CG 일러스트레이터 등의 일자리가 위협받는 것도 문제다. 최근 넷플릭스 시리즈 ‘살인자ㅇ난감’에는 배우 손석구의 어릴 적 사진을 이용한 딥페이크 아역이 등장했다. 영화 CG 일러스트레이터인 리드 사우든은 “2022년 미드저니(이미지 생성 AI)가 처음 나왔을 때 우리는 ‘귀엽다’며 비웃었지만 이제 사람들은 생성 AI 때문에 일자리를 잃고 있다”고 말했다.

이화영 전 경기도 평화부지사의 재판기록과 검찰 증거자료를 유출한 혐의로 현근택 변호사가 재판에 넘겨졌다. 수원지검 형사1부(부장 오종렬)는 16일 형사소송법 위반 및 개인정보보호법 위반 등 혐의로 현 변호사를 불구속기소 했다. 대북송금 의혹에 연루된 이 전 부지사의 변호인인 현 변호사는 지난해 2월 이 전 부지사의 재판 과정에서 등사한 검찰 증거서류를 소송 준비 목적과 무관하게 더불어민주당에 무단으로 교부, 정당 홈페이지에 게시되게 한 혐의를 받는다. 지난해 3월 22일 민주당 홈페이지에 올라온 ‘드러난 증거는 무시하고 답정기소(답이 정해진 기소)한 쌍방울 수사, 검찰은 북풍 조작 수사를 멈추십시오’ 기자회견문에는 ‘쌍방울 계열사인 나노스의 IR(투자유치)’ 자료가 첨부됐는데, 수사 결과 이 자료는 검찰이 재판부에 제출한 증거자료였다. 당시 이 같은 사실이 알려지자 이 전 부지사 재판에선 검찰 자료 유출 논란이 불거졌고, 이 전 부지사의 또 다른 변호인이 법정에서 “현근택 변호사가 (재판) 기록을 알아야 한다고 해서 준 적 있다”고 밝힌 바 있다. 현 변호사는 또 지난해 3월 이 전 부지사 재판 과정에서 증언한 증인의 개인정보가 담긴 증인신문 녹취서를 등사해 민주당에 권한 없이 제공해 이재명 대표 SNS에 게시되게 한 혐의도 받는다. 지난해 3월 이 대표 SNS에 ‘가짜뉴스 생산과정’이라는 제목으로 “쌍방울 비서실장의 공개 법정 증언과 증언 보도, 너무 달라요”라는 글과 함께 녹취서 사진이 첨부됐다. 법정 녹취서는 사건 관계인만 열람·복사할 수 있기 때문에 이 또한 유출 논란이 일었고, 이 전 부지사 재판부도 “부적절하다”며 경고했다. 이 사건은 보수시민단체인 자유대한호국단 등의 고발로 수사가 시작됐다. 검찰은 재판기록 및 검찰 증거자료 유출과 연관된 것으로 의심된 민주당 관계자 3∼4명에 대해서도 공모 여부 등을 추가로 수사 중이다.

재벌 3세 혼외자 행세를 하고 “자산이 51조원”이라는 허위 사실로 투자자들을 속여 약 30억원을 가로챈 혐의로 재판에 넘겨진 전청조(28)씨가 1심에서 징역 12년을 선고받았다. 재판부는 양형기준을 넘는 형량을 선고했다고 밝혔고, 전씨는 오열하며 법정을 빠져나갔다. 서울동부지법 형사합의11부(부장 김병철)은 14일 특정경제범죄가중처벌법(특경법)상 사기, 공문서위조 및 위조공문서행사, 사문서위조 및 위조사문서행사 혐의로 구속 기소된 전씨에 대해 징역 12년을 선고했다. 같은 혐의로 재판에 넘겨진 전씨의 경호실장 이모(27)씨는 징역 1년 6개월을 선고받았다. 앞서 지난달 31일 결심 공판에서 검찰은 전씨에게 징역 15년, 이씨에게 징역 7년을 각각 구형했다. 재판부는 “전청조는 수많은 사기 범행으로 징역형을 살고 나오자마자 반성은커녕 더 많은 돈을 취하기 위해 특정 유명인에게 접근해 사기 범행을 저질렀다”면서 “피고인은 사기 범행을 저질러 수많은 사람의 삶을 망가트렸다”고 지적했다. 이어 “인간의 인지 능력이 불안정하고 제어되기 어려운 탐욕과 결합할 때는 더욱 그렇다는 점을 너무 잘 알고 있었다”고 덧붙였다. 재판부는 중국 소설가 위화(余華)의 작품 ‘형제’를 언급하며 “가슴은 물론 성별까지 왔다 갔다 하는 막장 현실은 소설가의 상상력을 훌쩍 뛰어넘었다. 이 사건이 인간의 탐욕과 물욕을 경계하는 반면교사가 될 수 있었으면 좋겠다”고 말했다. 소설은 남자 주인공이 먹고 살기 위해 가슴이 커지는 가짜 크림을 파는 내용이다. 또 “피해액을 변제하지 못했고 피해자로부터 용서도 받지 못했다. ‘일상이 사기였다’는 피고인 본인의 말처럼 본인의 범행을 돌아보고 스스로 어떻게 살아왔는지 반성하길 바란다”고 덧붙였다. 재판부는 또 전씨의 재판 중 태도를 거론하면서 “그 유명인(남현희)을 사랑했고 이 사건 범행을 진심으로 반성한다는 피고인의 말이 과연 진심인지 의심스럽고 공허하게 느껴진다”고 덧붙이기도 했다. 전씨는 어깨를 들썩이며 흐느끼다가 형이 선고되자 큰 소리를 내며 울었다. 특히 “피고인의 양형기준은 가중된 기준에 따라도 징역 10년이지만 재판부는 이 기준을 다소 넘어서는 징역형을 선고하겠다”고 밝혔다. 공범 이씨에 대해서는 “피고인은 처음에 전씨로부터 3500여만원을 편취당한 피해자로 사건에 얽혔지만, 2023년 7월부터는 종범(방조범)의 지위로 전환됐다”면서 “그럼에도 피해자들에게 사과하지 않았다”고 양형 사유를 설명했다. 다만 공모·공동정범에 이르지는 않았다고 판단했다. 전씨와 이씨는 지난해 3월부터 10월까지 각각 국내 유명 기업의 숨겨진 후계자와 그 경호실장 행세를 하며 ‘재벌들만 아는 은밀한 투자 기회’라고 피해자들을 속여 해외 비상장주식 투자금 등의 명목으로 피해자 22명으로부터 약 27억 2000만원 상당을 뜯어낸 혐의를 받는다. 이와 별도로 지난 2022년 4월부터 지난해 2월까지 같은 수법으로 피해자 5명에게서 약 3억 5800만원을 가로챈 혐의도 있다. 전씨의 사기로 인한 피해액은 도합 30억 7800만원에 달한다. 범행 과정에서 전씨는 지난해 6월 주민등록번호 뒷자리가 1로 시작되고 본인의 사진을 붙여 남성 주민등록증을 위조, 피해자들에게 보여주는 등 공문서위조 및 위조공문서행사 혐의도 받았다. 지난해 7월에는 본인이 후계자 행세를 한 회사 대표이사 명의로 된 용역계약서를 위조해 피해자들에게 보여준 혐의도 있다.재혼을 발표했던 전 펜싱 국가대표 남현희(43)씨에게는 51조원이 넘는 액수가 찍힌 것처럼 조작한 은행 계좌를 보여준 것으로 알려졌다. 전씨는 자신이 숨겨진 후계자라고 사칭한 기업이 소유한 5성급 호텔 VIP룸이나 펜트하우스에 피해자들을 초청하고, 수백만원대의 와인과 명품을 선물하며 부를 과시한 것으로 파악됐다. 또 경호원 4~5명을 항상 대동하거나 기자 역할 대행 아르바이트를 고용해 ‘기습 인터뷰’ 상황을 연출하는 식으로 자신이 ‘숨겨진 재벌 3세’라고 꾸몄다. 이씨는 전씨의 경호원 역할을 하며 고급 주거지와 외제 차량을 빌리는 데 명의를 제공하고 사기 범죄 수익을 관리하며 일부를 나눠 가진 혐의를 받는다. 이씨는 본인 명의로 단기 임차한 월세 3500만원의 고급 레지던스와 슈퍼카, 일반 신용카드를 한정 발급되는 한도 무제한의 블랙 카드처럼 보이도록 외관을 바꿔 전씨에게 제공한 것으로 파악됐다. 전씨는 피해자들을 레지던스에 초대하고, 슈퍼카에 태우며 환심을 산 것으로 전해진다.이씨는 피해금 21억원가량을 본인 명의 계좌로 송금받아 관리하고, 그중 일부는 현금이나 달러로 받아 환전과 쪼개기 송금을 한 의혹도 받는다. 검찰은 이 과정에서 이씨가 범행 수익금 2억원 상당을 취득하는 등 전씨와 범행을 공모한 것으로 봤다. 피해자들은 전씨의 소셜미디어(SNS) 지인, 재테크 강의를 빙자해 모집한 수강생, 전씨 지인이 운영하는 펜싱 학원 학부모 등이었다. 한편 서울 송파경찰서는 사기방조 등 혐의로 고소·고발된 남씨를 불구속 상태로 수사 중이다. 경찰은 조만간 남씨의 공범 의혹 수사를 마무리 한다는 방침이다.

의혹의 미술품도 물이 흐르는 방식과 똑같다. 높은 곳에서 낮은 곳으로 흘러간다. 1986년부터 1990년 초 일본의 버블경제 시기에 수많은 의혹의 미술품이 일본 시장으로 밀려 들어갔다. 그리고 40년이 흐른 오늘에는 이들 의혹의 미술품이 다시 한국으로 밀려오고 있다. 얼마 전 일본에 있는 수백 점의 올드마스터 작품이 새 주인을 찾기 위해 한국에서 문을 두드리고 있는 것을 목도했다. 일본에서 온 루벤스 작품을 보면서 생각했다. 올드마스터 작품 고객이 한국보다 일본에 훨씬 더 많을 텐데 굳이 한국에서 팔고자 하는 이유는 무엇일까. 뻔한 부분을 놓치고 있다. 지난해 11월 필자에게는 지인으로부터 바스키아 작품 16점, 앤디 워홀 작품 8점, 피카소 작품 8점이 한꺼번에 주어졌다. 국내 한 컬렉터가 바스키아 작품 16점을 소장하고 있다는 사실은 신문 1면에 나올 만한 대사건으로 가치의 합계가 적어도 5000억원을 웃돌 것이다. 이미지와 첨부된 사진 자료 보증서 등을 살펴본 다음 검토도 하지 말라는 의견을 주었다. 당혹스러운 것도 있었다. 크리스마스 다음날인 지난해 26일 또 다른 바스키아 작품 한 점이 주어졌는데, 매의 눈으로 살펴본즉 바스키아 재단 발행 진본 증명서에는 허술한 구석이 여러 곳 눈에 띄었다. 인쇄된 글씨체 서류 양식 서명 등이 사뭇 달랐다. 작품 뒷면에는 에머리히 스탬프가 찍혀 있었는데 그곳에서 구입한 작품이라고 했다. 사실 뉴욕의 유명한 갤러리인 앙드레 에머리히는 폐점된 지 오래됐다. 상속인이 재고 작품 일체를 아메리칸 아트 아카이브에 일괄 기증하고 폐쇄됐는데 1944년 히로시마대학(1949년 설립)을 나왔다고 주장하는 것과 다를 바 없었다. 이런 일이 방치되면 누군가는 싼 맛에 의혹의 명품을 구입하게 되고 낭패를 보게 될 것이다. 사법당국은 무얼 하고 있는지 모르겠다. 이들은 누군가에 의해 제작된 위작들로 추정된다. 매우 위험한 현상이지만 더 심각한 문제는 이런 가짜들을 검증할 전문인력이 국내에 전혀 없다는 사실이다. 진위가 의심스러운 작품을 보게 되면 주저없이 뉴욕이나 런던 소더비 크리스티 필립스의 전문가 의견을 청취하라고 권할 뿐이다.

최근 미국 뉴햄프셔 프라이머리를 앞두고 민주당 당원에게 투표 거부를 독려하는 조 바이든 미국 대통령의 가짜 목소리를 담은 전화가 돌면서 딥페이크 선거운동에 대한 우려가 커졌다. 지난해 초에는 경찰에 체포되는 도널드 트럼프 전 대통령의 사진이 퍼지는 등 인공지능(AI)으로 생성된 이미지가 혼란을 일으켰다. 대통령 선거를 앞두고 민주당과 공화당의 주별 경선이 이어지는 가운데 유권자에게 잘못된 인식을 심어줄 수 있는 이미지를 경계하기 위해 AI 기업들이 자사 AI로 정치적 이미지를 생성하지 못하도록 제한하는 방안을 검토하고 있다. 10일(현지시간) 영국 가디언에 따르면 AI 이미지 생성 기업 미드저니의 최고경영자(CEO) 데이비드 홀츠는 앞으로 1년 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정이라고 설명했다. 또 다른 AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇인 ‘파이’가 정치 후보 지지 발언을 못하도록 하는 조치를 할 계획이다. AI 기업들은 AI 이미지에 라벨을 부착해 출처를 알 수 있게하는 정책을 연이어 발표하고 있다. 페이스북 모회사 메타와 구글, 챗GPT 개발사 오픈AI도 이런 방침을 알리면서 “선거의 무결성을 보호하려면 민주적 절차의 모든 부분에서 협력이 필요하다. 우리 기술이 이 절차를 훼손하는 방식으로 사용되지 않도록 하고자 한다”고 의미를 부여했다. 미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지했고, AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의도 잇따르고 있다.

최근 개봉한 영화 ‘시민 덕희’는 대출을 알아보다가 보이스피싱 피해를 입은 ‘덕희’의 이야기를 담고 있다. 영화의 모티브가 된 실화의 주인공 김성자씨는 2016년 금융사 직원을 사칭한 일당으로부터 보이스피싱을 당해 3200만원을 잃었다. 김씨는 위험을 감수하고 보이스피싱 조직의 사무실 주소지와 최근 사진 등을 수집하며 총책을 추적하기도 했다. 이처럼 전형적인 보이스피싱 사기가 사라지지 않는 데다가 최근에는 미끼 문자를 이용한 투자리딩방, 메신저피싱 등 변종 사기까지 늘어나는 추세다. 경찰청은 9일 “최근 피해 사례를 보면 수년 전부터 이어지는 시나리오에 똑같이 당하는 경우가 많다”며 “보이스피싱, 투자리딩방, 유사수신 다단계 등 금융사기별 특징과 예방법을 익혔다가 설 명절 가족·친지에 꼭 공유해달라”고 강조했다. 지난해 보이스피싱 피해액은 4472억원으로 1년 전(5438억원)보다 줄어들었다. 하지만 월별 통계를 보면 다시 증가하는 추세다. 지난해 10월까지는 월평균 피해액은 340억원이었으나 11월 483억원, 12월 561억원으로 늘었다. 보이스피싱 사기 조직은 택배, 부고장, 건강보험공단 안내 문자 등으로 위장한 미끼 문자를 대량으로 보내 악성 애플리케이션(앱)을 설치하는 수법인 ‘스미싱’으로 피해자를 현혹한다. 악성 앱이 설치되면 개인정보를 담은 문자와 연락처, 사진 등이 고스란히 빠져나가고 일당이 전화를 가로채 경찰, 검찰, 금융감독원 직원 등을 사칭하기도 쉬워진다. 문자로 발송된 인터넷 주소를 누르지 않아야 피해를 예방할 수 있다. 전기통신금융사기 통합신고대응센터에 따르면 지난달 기준 스미싱 범죄는 전체 신고·제보의 36%였다. 이 가운데 70% 이상은 부고장 사칭이나 해외직구 관련 관세청 사칭 문자로 집계됐다. 설 명절에는 안부 인사나 명절 선물, 경조사 알림, 교통 범칙금 납부 고지서로 위장한 미끼 문자가 많을 것으로 예상된다. 다행인 것은 앞으로는 발신자를 보면 미끼문자를 걸러내기가 이전보다는 쉬워지게 된다. 경찰청과 관세청 등 282개 공공·금융기관은 미끼 문자와 혼동되는 걸 막기 위해 문자를 발송할 때 안심 마크(확인된 발신번호)를 표기하는 서비스를 확대하기로 했다. 기존에는 40개 기관에서만 안심 마크 서비스를 적용했다. 또한 해외에서 로밍된 문자는 이동통신사가 로밍발신이라는 안내 문구를 표기해 발송할 예정이다. 투자리딩방 사기도 미끼 문자로 피해자를 끌어들인다. 원금 보장이나 고수익을 창출할 수 있다며 유튜브 광고나 전화·문자 등을 보고 공개 채팅방에 들어가면, 가짜 투자자들이 수익금을 보여주는 등 바람잡이 역할을 한다. 가짜 홈트레이딩 시스템(HTS)으로 피해자 종목을 조작해 보여주기도 한다. 경찰청 관계자는 “원금·고수익을 보장하면서 비밀 정보라는 점을 운운한다면 모두 사기라고 봐야 한다”고 강조했다.

러시아가 허위 정보에 맞서겠다며 내놓은 인터넷 백과사전 루비키(ruwiki)가 독도를 한국과 일본의 영토 분쟁 지역으로 소개하고 있다. 31일(현지시간) 현재 루비키에서 독도를 검색하면 ‘리앙쿠르’ 페이지가 나온다. 이 페이지 첫 줄에는 ‘리앙쿠르 또는 독도 또는 다케시마는 일본해 서부에 있는 작은 섬들’이라고 적혀 있다. 또 ‘일본과 한국이 이 섬에 대한 영유권 분쟁을 벌이고 있다’고 소개하고 있다. 독도의 영어 표기는 ‘Dokdo’다. 루비키가 독도의 영어 이름으로 소개한 리앙쿠르 암초(Liancourt Rock)는 독도를 발견한 프랑스 포경선 이름을 딴 것으로, 한국의 독도 영유권을 부정하는 의미에서 일본 정부가 주로 사용하는 용어다. 독도를 ‘영유권 분쟁지’로 기술한 대목 역시, 독도가 대한민국의 고유 영토이며 독도와 관련한 영토분쟁은 존재하지 않는다는 우리 정부의 공식 입장에 반한다.루비키는 대표적 인터넷 백과사전인 위키피디아가 러시아의 우크라이나 ‘특별군사작전’ 관련 허위 정보를 게재한다는 주장이 제기됨에 따라 등장한 대체 서비스로, 지난 15일 정식 출시됐다. 루비키는 “누구나 콘텐츠 제작에 참여할 수는 있지만, 전문가만이 자료 검증을 보증한다는 점에서 위키피디아와 다르다”고 강조한다. 그러나 루비키가 한국을 소개한 페이지에서도 ‘1910년부터 1945년까지 일본 제국의 일부였다’고 설명하는 등 문제 소지가 있는 오류들이 발견된다. 이와 관련해 서경덕 성신여대 교수는 루비키 측에 관련 정보를 바로잡아 달라고 촉구하는 이메일을 보내고, 독도가 한국 영토이고 동해의 옳은 명칭을 소개하는 영상도 전달했다고 밝혔다. 서 교수는 “독도는 역사적, 지리적, 국제법적으로 한국 영토이기에 분쟁은 존재하지 않는다”며 “일본의 억지 주장일 뿐”이라고 지적했다. 독도의 위치를 일본해로 표기한 것에 대해서도 서 교수는 “한국과 일본 사이의 바다 이름은 2000년 전부터 ‘동해’(East Sea)로 불려 왔다”고 강조했다. 특히 러시아는 일본이 소유권을 주장하는 쿠릴열도 남단 4개 섬을 ‘자기네 땅’이라고 못박은 입장이라, 독도를 분쟁지역으로 잘못 기술했다는 비판에서 자유롭지 못하다. 블라디미르 푸틴 대통령의 최측근인 드미트리 메드베데프 러시아 국가안보회의 부의장은 앞서 기시다 후미오 일본 총리의 영토 문제 언급과 관련해 ‘할복’, ‘원폭’ 등 과격한 표현을 써가며 날을 세우기도 했다. ● 러시아, 일본과 쿠릴열도 소유권 두고 갈등푸틴 최측근 “쿠릴열도, 분쟁지역 아닌 러시아” 메드베데프 부의장은 30일 소셜미디어(SNS) 엑스(X)에 올린 글에서 “영토 문제는 러시아 헌법에 따라 완전 종결”이라면서 “쿠릴열도를 전면 개발할 것이다. 신규 무기 배치를 포함한 쿠릴열도의 전략적 역할은 커질 것”이라고 밝혔다. 또 “이른바 ‘북방영토’에 대한 ‘일본인들의 감정’은 우리가 알 바 아니”라면서 “이곳은 ‘분쟁 지역’이 아닌 러시아”라고 강조했다. 이어 “슬픔을 느끼는 사무라이(무사)들은 할복(seppuku)이라는 일본의 전통 방식으로 생을 마감하면 된다. 물론 감히 그렇게 할 수 있다면 말이다”라고 했다. 이와 함께 할복하는 일본 무사 사진을 첨부했다. 메드베데프 부의장은 “이런 이해에 근거한 평화조약이라면 누구도 반대하지 않는다”고 덧붙였다. 이같은 언급은 앞서 있었던 기시다 후미오 일본 총리의 국회 시정방침 연설을 겨냥한 것이다. 기시다 총리는 30일 중의원(하원)·참의원(상원) 본회의 시정방침 연설에서 “일본은 러시아와의 영토분쟁 해결과 평화협정 체결을 목표로 하는 국가정책에 여전히 전념하고 있다”고 밝힌 바 있다. 메드베데프 부의장은 그러나 SNS 글에서 우크라이나 사태 후 중단된 일본과의 평화조약 협상 재개는 쿠릴열도를 러시아 영토로 인정한다는 전제하에 가능하다고 못박았다.쿠릴열도는 일본 홋카이도와 러시아 극동 캄차카반도 사이에 펼쳐진 길이 1300㎞에 달하는 도서군으로, 러시아가 실효 지배하고 있다. 러시아는 이 섬들이 제2차 세계대전 후 옛 소련의 일부가 됐고 러시아가 영유권을 가진다고 주장한다. 1956년 일본과 소련이 수교하며 서명 발효한 외교문서 ‘일소 공동선언’에는 평화조약 체결 후 소련이 하보마이 군도와 시코탄을 일본에 넘긴다는 내용이 기재돼 있다. 그러나 평화조약은 체결되지 않았다. 러시아는 2022년 우크라이나 ‘특별군사작전’ 이후 서방 제재에 동참한 일본을 비우호국으로 지정하고 평화조약 협상을 중단한다고 밝혔다. 한편 일본은 올해도 대한민국 고유 영토인 독도의 영유권 주장을 반복했다. 가미카와 요코 일본 외무상은 30일 정기국회 외교연설에서 독도와 관련해 “역사적 사실에 비춰 봐도, 국제법상으로도 일본 고유의 영토”라며 “이러한 기본적인 입장에 근거해 의연하게 대응하겠다”고 말했다. 일본 외무상은 기시다 현 총리가 외무상이었던 2014년 외교연설에서 “일본 고유의 영토인 시마네현 다케시마(일본이 주장하는 독도의 명칭)”라고 말한 뒤 11년간 빠짐없이 독도가 일본 땅이라는 망언을 지속하고 있다.

그제부터 인공지능(AI) 프로그램으로 만든 ‘딥페이크’ 영상 등을 선거운동에 이용하는 행위가 금지됐다. 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다. 지난해 12월 국회에서 공직선거법 개정안이 통과되면서 이뤄진 조치다. 하지만 이번 법 개정은 딥페이크 선거운동에 대한 처벌 근거를 마련한 것일 뿐이다. 빠르게 제작돼 사회관계망서비스(SNS)를 타고 삽시간에 퍼지는 딥페이크 콘텐츠의 특성상 광범위한 폐해를 막기엔 한계가 있다. 단속에 더해 조작된 정보는 만들지도 보지도 않겠다는 정치권과 유권자들의 자세가 필요한 이유다. AI 발달로 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 조 바이든 미국 대통령의 ‘선거 불참을 권하는’ 딥페이크 음성이 확산되는가 하면 영국과 나이지리아 등에서도 정치 관련 음성 조작 사례가 속출하고 있다. 정치인뿐만이 아니다. 미국의 팝가수 테일러 스위프트는 얼굴 사진이 합성된 딥페이크 음란 이미지가 SNS에 게시돼 수천만회 조회되면서 곤욕을 치렀다. 딥페이크 콘텐츠는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 중앙선관위는 검증요원과 AI 전문가들을 최대한 동원해 단속하겠다고 하지만 딥페이크 영상·이미지는 수분 만에 제작돼 실시간으로 확산되기 때문에 뒷북만 칠 가능성도 있다. 따라서 무엇보다 허위정보를 만들지 않겠다는 정치권의 책임 있는 자세가 필요하다. 지난 대선에서 가짜뉴스로 판명된 콘텐츠의 90%를 정치권이 생산했다는 조사 결과도 있다. 허위정보를 최대한 걸러 내겠다는 대형 포털의 책임 있는 자세, 조작된 정보는 보지도 퍼나르지도 않겠다는 유권자들의 노력이 뒷받침돼야 함은 물론이다.

조 바이든 미국 대통령 행세를 한 가짜 목소리로 혼란을 일으키더니 이번엔 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란한 이미지가 온라인상에 퍼져 팬들의 공분을 사고 있다. 이미지는 인공지능(AI) 도구로 생성된 것으로 추정돼 관련 규제를 강화해야 한다는 목소리가 커지고 있다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송에 따르면 최근 스위프트 얼굴이 합성된 성적 수위가 높은 이미지가 소셜미디어(SNS)에 퍼졌다가 삭제됐다. 이미지의 최초 출처는 불분명하지만 주로 X(옛 트위터)에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. 이 이미지는 삭제 전까지 조회수 4700만회를 웃돌 정도로 빠르게 확산했다. X는 성명에서 “해당 이미지를 게시한 계정에 대해 적절한 조처를 했다. 추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 이미지 공유를 한때 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 함께 관련 키워드를 더해 올리며 이미지 검색을 어렵게 만들기 위해 노력했다. 사이버보안업체 리얼리티 디펜더는 이 이미지가 AI 딥러닝을 이용한 합성기술인 딥페이크로 생성된 것으로 확신한다고 NYT에 밝혔다. 일부 전문가는 마이크로소프트(MS)의 AI 생성 프로그램인 ‘디자이너’로 만들어졌다고도 지적하면서 MS는 관련 조사를 벌이고 있다. 앞서 미국 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 22일 민주당 당원들에게 바이든 대통령의 가짜 목소리를 담은 전화가 걸려오기도 했다. 바이든 대통령 목소리를 닮은 로보콜(자동녹음 전화)은 통화 상대에게 “당신의 표를 11월(대선)을 위해 아껴 두라. 이번 투표는 도널드 트럼프 공화당 후보를 다시 선출하게 만들 뿐”이라며 투표하지 말 것을 권유했다. 특히 바이든 대통령이 즐겨 쓰는 ‘정말 말도 안 되는 소리’(What a bunch of malarkey)로 시작해 유권자들을 혼동에 빠트렸다. 이번 일로 AI를 이용한 가짜 이미지 생성에 더욱 강한 규제가 필요하다는 여론이 거세다. 현재 미국 9개 주에서는 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만 연방정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 이미지 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 “끔찍하다. 이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 사티아 나델라 MS 최고경영자(CEO)도 NBC 방송과 한 인터뷰에서 스위프트의 딥페이크 사건과 관련해 “누구도 콘텐츠 제작자와 소비자 모두에게 안전하지 않은 온라인 세상을 원하지 않는다”면서 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”고 밝혔다.