AI(인공지능)으로 만든 목소리를 이용해 60대 여성에게 돈을 뜯어내려던 보이스피싱 조직의 현금 수거책이 붙잡혔다. 부산 금정경찰서는 지난 8일 60대 남성 A씨를 공갈미수 방조 혐의로 붙잡아 조사하고 있다고 14일 밝혔다. A씨는 지난 8일 금정구 한 우체국 앞에서 전화금융사기에 속은 60대 여성 B씨로부터 현금 2000만원을 받으려고 한 혐의를 받는다. 경찰에 따르면 이날 오후 1시 30분쯤 금정구 한 은행 직원이 “60대 여성 고객이 거액의 현금을 찾았는데, 전화금융사기에 속은 것으로 의심된다. 경찰 도움이 필요하냐는 질문에 고개를 끄덕였다”며 112에 신고했다. 알고 보니 B씨는 딸의 목소리를 흉내 낸 AI 음성에 깜빡 속은 것이었다. 이날 B씨는 휴대전화에 딸의 이름으로 저장된 번호로 전화가 와 받았다. 통화에서 상대방은 “엄마 친구 보증 섰는데, 친구가 연락이 안 돼서 잡혀 왔어”라고 말했다. 신고를 받고 출동한 경찰은 B씨와 만나 현금 전달 장소에서 잠복해 A씨를 붙잡았다. 경찰은 A씨를 상대로 자세한 범행 경위를 조사 중이다.

NH농협은행 순천시금고가 노인대학 학생들에게 금융사기 예방 교육을 펼쳐 호응을 받았다. NH농협은행 순천시금고는 지난 19일 노인회관 3층 대강당에서 김영수 순천시노인회 회장과 노인대학 학생들 100여명을 대상으로 금융사기예방 교육을 실시했다. 최근 들어 지능화되고 교묘해지는 사기 피해를 예방함과 동시에 급변하는 디지털 환경에서 자칫 소외될 수 있는 시니어들을 대상으로 한 디지털금융 교육도 진행해 눈길을 끌었다. 이날 농협 순천시금고는 노년층을 중심으로 급증하고 있는 보이스피싱, 스미싱 및 불법다단계의 실제 사례를 소개해 현장감 있는 교육이었다는 평가를 받았다. 특히 최근에 새로이 발전하고 있는 AI기술과 결합된 사기피해 사례를 통해 경각심을 일깨우고 실생활에서 일어날 수 있는 예시를 이용한 맞춤형 교육을 펼쳐 박수를 받았다. 교육을 주관한 주철호 NH농협은행 순천시지부장은 “이번 교육을 통해 시니어들이 금융사기 피해를 예방해 소중한 자산을 지킬수 있기를 바란다”며 “앞으로도 금고은행으로서 지역사회에 보탬이 되는일이라면 적극 지원하겠다”고 밝혔다.

인공지능(AI)으로 배우 나문희(82)씨의 20대 시절 모습이 재현됐다. AI 엔터테인먼트 기술 기업 엠씨에이(MCA)는 한국마사회와 협업으로 ‘AI 나문희’와 함께하는 브랜디드 콘텐츠를 선보였다고 9일 밝혔다. 나문희씨와 계약을 맺고 생성형 AI 기술로 나문희씨의 20대 모습을 구현해낸 것이다. 이날 공개된 ‘나문희의 첫사랑’이라는 제목의 영상을 보면 나문희씨는 벚꽃잎이 흩날리는 가운데 60년 전인 23세 때 모습으로 돌아간다. 23세의 나문희씨는 긴 생머리에 다소곳한 자세로 미소를 짓는다.최신 유행 노래에 맞춰 폴짝폴짝 뛰며 춤을 추고, 경마공원에서 데이트를 즐기기도 한다. “사랑하는 사람과 이런 데 오면 참 좋겠습니다”, “사랑이 피어납니다” 등 나문희씨의 현재 목소리로 더빙된 내레이션도 담겼다. 이는 전부 AI 기술을 통해 만들어진 모습과 목소리다. 생성형 AI 기술 기업 ‘딥브레인AI’가 음성·영상 합성 등으로 제작했다. 나문희씨는 MCA와 10년 계약을 체결했다. 앞으로 MCA는 ‘AI 나문희’를 광고, 게임, 상담, 온라인 강의, 개인화 메시지, 가상친구, 모닝콜 등 실생활과 밀접한 다양한 분야에서 활용할 예정이다. 박재수 MCA 대표이사는 “이번 프로젝트는 고급 AI 휴먼 기술과 AI 보이스 기술, 생성형 AI를 실제로 적용하고 활용한 사례”라며 “현실에 필요한 영상 콘텐츠를 만들어 AI 기술이 세상에 널리 도움을 줄 수 있다는 걸 보여주고자 했다”고 말했다. 그러면서 “향후에도 스타가 등장하는 친근한 영상들을 빠르게 제작하고, 제공할 예정”이라고 덧붙였다.

유명인 사진·이름 걸고 투자 권유작년 9~12월 투자자 1266억 떼여변호사 “6개월간 피해 1조원” 추정자율 규제로는 사기 못 막아 한계“계정 1개 지우면 10개 새로 생겨”“예방적 접근·피해구제 절차 절실” 평소 유튜브를 즐겨 보던 60대 A씨는 유명인의 사진과 이름을 내건 한 채널에서 상당한 수익을 올릴 수 있다는 투자 권유 글을 발견했다. 이른바 ‘대박’이 났다는 간증 글까지 읽다 보니 자연스레 단체 채팅방(투자리딩방)으로 들어가게 됐고 이들이 추천하는 종목을 매수하기 위해 돈을 보내기 시작했다. 그렇게 들어간 투자금과 수수료 등은 총 6억원 상당. 고수익을 꿈꾸며 노후 자금을 털어 넣었지만 어느 순간 해당 리딩방은 사라졌고 연락조차 되지 않았다. 1일 구글은 이처럼 유명인을 사칭한 사기 범죄가 온라인 플랫폼에서 기승을 부리자 자사 포털과 유튜브에서 사칭 광고를 한 광고주의 계정을 사전 경고 없이 영구 정지하기로 했다. 지난달 28일부터 ‘공인, 브랜드, 조직과의 제휴 또는 이들의 지위를 사칭하거나 허위로 암시해 사용자가 금전으로 개인 정보를 제공하도록 유도하는 행위’를 전면 금지한 것이다. 그러면서 지난해 출시한 범용 인공지능(AI) 모델 ‘제미나이’를 비롯한 거대언어모델(LLM)을 활용해 광고주의 광고, 웹사이트, 계정, 제3자 출처 등 다양한 정보를 검토할 수 있다고 명시했다. 미온적인 태도로 일관하던 구글의 태도가 바뀐 건 유명인을 사칭한 범죄가 끊이질 않고 있어서다. 지난달 초 경찰청 발표에 따르면 지난해 9월부터 12월까지 접수된 투자리딩방 사기 건수는 1452건으로 경찰 산정 피해액만 1266억원에 달한다. 미국 로펌과의 공조를 통해 해외 플랫폼을 상대로 집단소송을 준비 중인 한상준 법무법인 대건 변호사는 실제 유명인 사칭 피해액이 최근 6개월간 1조원을 넘어설 것으로 추정하기도 했다. 사태가 심각해지자 도용 피해를 본 유명인들도 직접 나섰다. 방송인 송은이·황현희씨, 유명 강사 김미경씨, 주진형 전 한화투자증권 대표 등으로 구성된 ‘유명인 사칭 온라인 피싱 범죄 해결을 위한 모임’(유사모)은 지난달 22일 기자회견을 열고 “온라인 플랫폼은 현재 자신들의 광고로 인해 수많은 피해자가 발생하고 있다는 사실을 인정하고 대책을 마련하라”며 목소리를 높였다. 유명인들의 호소에 정부는 같은 달 27일 범정부 전담팀(TF)을 꾸렸으며 방송통신위원회는 네이버와 카카오, 구글, 메타 등 국내외 플랫폼 업계에 ‘유명인 사칭 광고 피해 방지를 위한 자율 규제 협조 요청’ 공문을 보냈다. 이에 지난해 11월부터 사칭 계정으로 개설한 밴드를 제재하는 등 징계 기준을 강화한 네이버는 최근 고객센터와 신고센터 등에 사칭 사기 피해를 신고할 수 있는 추가 창구 개설에 나섰다. 그러나 플랫폼사의 자율 규제에 맡겨진 현재 대응만으로는 사칭 행위와 사기 범죄를 막는 데 한계가 있다는 지적이다. 한 변호사는 구글이 내놓은 이번 조치에 대해 “이미 올라온 광고 글을 삭제한다는 건 예방적 차원에서의 접근과는 거리가 멀다”면서 “피해가 발생한 이후 사태를 수습하려 하는 것”이라고 지적했다. 구글은 전화번호 인증만으로 계정을 만들 수 있기 때문에 한 계정이 영구 정지되더라도 재차 사기 계정을 만들어 낼 수 있다. 유사모 역시 앞선 기자회견에서 “여러 차례 플랫폼에 신고해 계정을 1개 지우면 다음날 10개의 사기 계정이 새로 생겨난다”면서 “현재 온라인 플랫폼에서는 사칭 피싱 범죄를 당장 멈추게 할 수도, 처벌할 수도 없다”며 고질적인 문제를 꼬집었다. 피해자들의 피해구제 신청 절차가 없다는 점도 한계로 꼽힌다. 검사 등을 사칭한 보이스피싱 범죄의 경우 피해구제를 신청할 수 있는 법적 근거(통신사기피해환급법)가 있지만 유명인 사칭 피싱은 피해구제 신청 절차 자체가 없는 상황이다.

방송 출연 검사 목소리 등 추출보이스피싱 조직이 범죄 시도 檢, 탐지기술 등 연구·개발 나서 “누가 들어도 ○○지검에서 근무하는 ○○○ 검사 목소리입니다. 실제 검사 목소리와 똑같으니 다들 깜박 속았을 겁니다.” 중국 항저우에 근거지를 두고 보이스피싱 범죄를 저질렀던 ‘김군일파’의 한 조직원은 지난해 6월 경찰에 붙잡히자 자신들이 만든 딥보이스(목소리 합성)와 딥페이크(이미지 합성) 범죄 시도를 자백했다. 둘다 인공지능(AI)을 활용해 특정인을 흉내내는 기술이다. 범죄 일당은 이 기술로 방송에 출연한 유명 검사 얼굴과 목소리를 추출한 뒤 조직원의 음성과 합성해 마치 검사가 신상정보를 요구하는 것처럼 감쪽같이 바꿨다. 만일 경찰의 단속이 조금만 늦었다면 실제 검사를 모티브로 한 신종 인공지능(AI) 사기로 보이스피싱 피해자가 무더기로 발생할 뻔했던 사건이었다. 지난해 제주도에선 음성변조 애플리케이션(앱)을 통해 1인 3역을 하며 피해자를 속인 뒤 돈을 뜯은 범인이 법원으로부터 징역형을 선고받기도 했다. 범인은 온라인 게임에서 만난 피해자에게 일본인 가수 행세를 하며 접근했다. 피해자와 직접 연락하게 되자 “동료로부터 집단 성폭행을 당했다”며 동정심을 유발하고 돈을 요구했다. 범인이 음성변조를 통해 또 다른 가수와 소속사 팀장인 것처럼 행세하며 신원보증을 선 탓에 피해자는 의심 없이 속았고, 57차례에 걸쳐 1600여만원을 송금했다. 이처럼 얼굴·음성을 복제·변조해 악용하는 신종 범죄가 국내에서도 현실화되고 있다. 지난해 중국에서 한 정보기술(IT) 업체 대표가 친구의 목소리와 얼굴을 흉내 낸 딥보이스 영상통화에 속아 430만 위안(약 8억원)을 송금한 사건이 벌어졌는데, 우리나라에서도 비슷한 일이 벌어지고 있는 것이다. 딥페이크·딥보이스 범죄는 이미 외국에선 심각한 사회문제화했다. 2021년 아랍에미리트(UAE)의 한 은행은 평소 거래하던 대기업 임원 목소리의 전화를 받고 3500만 달러(약 420억원)를 보냈는데, 딥보이스 범죄였다는 사실이 뒤늦게 밝혀졌다. 이런 신종 범죄는 유력 인사 사칭으로 정치적 혼란을 야기하기도 한다. 지난 1월 미국 대선 경선 과정에서 조 바이든 대통령을 사칭한 가짜 목소리로 “예비선거에 투표하지 말라”는 허위 전화가 돌아 파장이 일었다. 국내서도 윤석열 대통령이 “저 윤석열은 대한민국을 망치고 국민을 고통에 빠뜨렸습니다”라고 말하는 허위 영상이 소셜미디어(SNS)에서 확산돼 경찰이 수사 중이다. 이에 검찰이 새로운 유형의 범죄에 대응하기 위한 ‘딥보이스 탐지기술’ 개발에 나선 것으로 1일 서울신문 취재 결과 확인됐다. 가짜 영상과 음성을 식별해 달라는 취지의 감정 의뢰가 들어오면 신속하게 수사할 수 있도록 선제적으로 기술 개발에 나선 것이다. 대검찰청 과학수사부(부장 박현준)는 2027년까지 4년에 걸쳐 86억원을 투입해 딥보이스 탐지 등을 위한 중장기 연구인 ‘첨단기술 융합형 차세대 검찰 포렌식 기술개발 연구개발(R&D) 사업’을 진행한다. 올해 우선적으로 1억 5000만원을 배정하고 이번 주중 ‘딥보이스 탐지기술 개발 사업’ 연구용역을 발주한다. 검찰은 네이버와 KT 등으로부터 딥보이스 데이터베이스를 수집하고, 업체별로 딥보이스 기술과 특징을 분석하는 연구를 수행한다는 계획이다. 박진성 대검 법과학분석과장은 “보이스피싱 범죄에서 무고한 사람의 목소리가 범죄에 활용됐을 경우에도 딥보이스 탐지 기술로 밝혀낼 수 있을 것으로 기대한다”고 말했다.

AI 악용 범죄 국내서도 현실화방송 출연 검사 목소리 등 추출보이스피싱 조직이 사기 시도檢, 탐지기술 등 연구·개발나서네이버·KT서 ‘딥보이스’ DB 수집 계획 “누가 들어도 ○○지검에서 근무하는 ○○○ 검사 목소리입니다. 실제 검사 목소리와 똑같으니 다들 깜박 속았을 겁니다.” 중국 항저우에 근거지를 두고 보이스피싱 범죄를 저질렀던 ‘김군일파’의 한 조직원은 지난해 6월 경찰에 붙잡히자 자신들이 만든 딥보이스(목소리 합성)와 딥페이크(이미지 합성) 범죄 시도를 자백했다. 둘다 인공지능(AI)을 활용해 특정인을 흉내내는 기술이다. 범죄 일당은 이 기술로 방송에 출연한 유명 검사 얼굴과 목소리를 추출한 뒤 조직원의 음성과 합성해 마치 검사가 신상정보를 요구하는 것처럼 감쪽같이 바꿨다. 만일 경찰의 단속이 조금만 늦었다면 실제 검사를 모티브로 한 신종 인공지능(AI) 사기로 보이스피싱 피해자가 무더기로 발생할 뻔 했던 사건이었다. 지난해 제주도에선 음성변조 애플리케이션(앱)을 통해 1인 3역을 하며 피해자를 속인 뒤 돈을 뜯은 범인이 법원으로부터 징역형을 선고받기도 했다. 범인은 온라인 게임에서 만난 피해자에게 일본인 가수 행세를 하며 접근했다. 피해자와 직접 연락하게 되자 “동료로부터 집단 성폭행을 당했다”며 동정심을 유발하고 돈을 요구했다. 범인이 음성변조를 통해 또 다른 가수와 소속사 팀장인 것처럼 행세하며 신원보증을 선 탓에 피해자는 의심없이 속았고, 57차례에 걸쳐 1600여만원을 송금했다. 이처럼 인공지능(AI)을 악용한 딥페이크·딥보이스 신종 범죄가 국내에서도 현실화되고 있다. 지난해 중국에서 한 정보기술(IT) 업체 대표가 친구의 목소리와 얼굴을 흉내 낸 딥보이스 영상통화에 속아 430만위안(약 8억원)을 송금한 사건이 벌어졌는데, 우리나라에서도 비슷한 일이 벌어지고 있는 것이다. 딥페이크·딥보이스 범죄는 이미 외국에선 심각한 사회문제로 발돋움했다. 지난 2021년 아랍에미리트(UAE)의 한 은행은 평소 거래하던 대기업 임원으로부터 전화를 받고 3500만 달러(약 420억원)를 보냈는데, 딥보이스 범죄였다는 사실이 뒤늦게 밝혀졌다. 이 임원의 목소리를 잘 알았던 은행 측이 아무런 의심 없이 거액을 이체했다가 전화 한 통에 속아 넘어간 것이다. 이 AI 신종 범죄는 유력 인사를 사칭해 정치적 혼란을 야기하기도 한다. 지난 1월 미국 대선 경선 과정에서 조 바이든 대통령을 사칭한 가짜 목소리로 “예비선거에 투표하지말라”는 허위 전화가 돌아 파장이 일었다. 국내서도 윤석열 대통령이 “저 윤석열은 대한민국을 망치고 국민을 고통에 빠뜨렸습니다”라고 말하는 허위 영상이 소셜미디어(SNS)에서 확산돼 경찰이 수사 중이다. 이에 검찰이 새로운 유형의 범죄에 대응하기 위한 ‘딥보이스 탐지기술’ 개발에 나선 것으로 1일 서울신문 취재 결과 확인됐다. 가짜 영상과 음성을 식별해달라는 취지의 감정 의뢰가 들어오면 신속하게 수사할 수 있도록 선제적으로 기술 개발에 나선 것이다. 대검찰청 과학수사부(부장 박현준)는 오는 4월부터 2027년까지 4년에 걸쳐 86억원을 투입해 딥보이스 탐지 등을 위한 중장기 연구인 ‘첨단기술 융합형 차세대 검찰 포렌식 기술개발 R&D 사업’을 진행한다. 올해 우선적으로 1억5000만원을 배정하고 이번 주 중 ‘딥보이스 탐지기술 개발 사업’ 연구용역을 발주할 예정이다. 검찰은 네이버와 KT 등으로부터 딥보이스 데이터베이스를 수집하고, 업체별로 딥보이스 기술과 특징을 분석하는 연구를 수행한다는 계획이다. 박진성 대검 법과학분석과장은 “보이스피싱 범죄에서 무고한 사람의 목소리가 범죄에 활용됐을 경우에도 딥보이스 탐지 기술로 밝혀낼 수 있을 것으로 기대하고 있다”고 말했다.

생성형 인공지능(AI) ‘챗GPT’ 개발사인 오픈AI가 사람 음성을 학습해 모방 음성을 생성하는 AI 도구 ‘보이스 엔진’을 개발해 공개했다. 최근 미국 테네시주가 AI가 사람 음성을 베끼는 것을 금지하는 일명 ‘엘비스(Elvis) 법안’에 미국 최초로 서명한 것과 맞물려 AI 음성이 이미지 생성과 마찬가지로 딥페이크(AI 가짜 영상·음성 조작물) 유포, 개인 정보 해킹 등에 악용될 우려가 제기되고 있다. 오픈AI가 지난 29일(현지시간) 공개한 보이스 엔진 사전실험 결과를 보면 실제 사람 음성 샘플과 이를 이용해 보이스 엔진으로 생성한 음성은 구분이 거의 힘들 만큼 비슷했다. 회사 측은 15초 분량의 음성 샘플만 있으면 이런 AI 음성을 만들어 낼 수 있다고 밝혔다. 언어 질환 환자용 치료 애플리케이션, 장애인 소통 기기에 지원된 이 도구는 동영상의 다국어 번역, 교육 음성 해설, 실시간 맞춤형 응답 등 광범위하게 상용될 수도 있다. 다만 오픈AI는 “현재로선 이 기술을 ‘미리 보여주기’(preview)만 하되 일반에 출시하진 않기로 했다”며 “인조 음성의 오용 가능성 때문에 조심스럽게 접근하고 있다”고 선을 그었다. 이어 “사람 목소리를 닮은 음성을 생성하는 것은 심각한 위험을 야기하며, 선거가 있는 해엔 특히 더 그렇다”면서 “우리는 미국과 해외 정부, 미디어, 시민사회 등과 협력해 피드백을 반영하기 위해 노력하고 있다”고 강조했다. 지난달 회사가 글을 동영상으로 바꿔 주는 AI ‘소라’를 개발했을 때와 동일한 우려가 불거지는 것을 사전에 차단하기 위한 포석이다. 실제로 올해 미 대선을 앞두고 지난 1월엔 뉴햄프셔주 프라이머리(예비선거) 전날 조 바이든 대통령을 사칭한 가짜 전화로 투표 거부를 독려하는 사례가 나오면서 음성 조작 우려가 현실화됐다. 뉴욕타임스(NYT)는 “이미지나 비디오 생성과 마찬가지로 음성 생성도 소셜미디어에 허위 정보를 퍼뜨리는데 도움이 될 수 있고 범죄자가 온라인이나 전화 통화에서 다른 이를 사칭할 수도 있다”고 지적했다. 이와 관련해 빌 리 테네시 주지사는 지난 21일 AI를 사용해 사람 목소리를 베끼는 것을 금지하는 엘비스 법에 미국 최초로 서명했다. 정식 명칭이 ‘초상·음성·이미지 보안 보장법’이지만 로큰롤의 제왕으로 군림한 엘비스 프레슬리의 이름으로 별칭이 붙은 건 사전 허가 없이 예술가 저작을 사용하는 것을 보호하기 위한 법안이기 때문이다. 테네시주는 로큰롤 탄생지인 멤피스, 컨트리 뮤직 본산인 내슈빌이 위치한 대중음악 산업의 메카로, 4500개 이상의 공연장, 6만 1000개 이상의 일자리로 한 해 수십억 달러를 창출하고 있다. 엘비스 법은 지역 핵심 산업이 AI로 타격받는 것을 막은 선제 조치인 셈이다. 리 주지사는 “AI가 나쁜 행위자들의 손에 넘어가면 대중음악 산업이 파괴될 수 있다”고 경고했다. AI업계 혁신을 주도하고 있는 오픈AI는 마이크로소프트(MS)와 1000억 달러(약 132조 6000억원)를 투자해 AI 슈퍼컴퓨터를 포함한 데이터센터 구축도 추진하고 있다. 오픈AI와 MS의 ‘스타게이트’는 6년짜리 프로젝트로, AI 모델 구동을 위한 슈퍼컴퓨터와 이를 위한 초대형 데이터센터를 조성하는 사업이다. 현존 최고 수준 데이터센터와 비교해 100배 이상 큰 규모라고 정보기술(IT) 전문매체 디인포메이션이 보도했다. 데이터센터에는 슈퍼컴퓨터 구동을 위해 특별 제작된 서버 칩 수백만 개가 들어간다. 생성형 AI 연산을 위해서는 그래픽처리장치(GPU) 같은 AI 반도체를 연결하고 대규모 데이터 처리 작업을 수행할 컴퓨팅 시스템이 필요하다. 데이터센터에는 여러 공급업체의 다른 칩을 사용할 것으로 알려졌다. 이는 샘 올트먼 오픈AI 최고경영자(CEO)가 AI 반도체 시장을 90% 이상 점유한 엔비디아에 대응해 ‘AI 반도체 동맹’을 구축하려는 행보와도 연결된다. 올트먼 CEO는 지난 1월 직접 한국을 찾아 삼성전자, SK하이닉스와 협력 방안을 논의했다. 이때 이재용 삼성전자 회장, 최태원 SK그룹 회장도 만난 것으로 알려졌다.

들리는 것이 전부가 아니다. 잘 들리지 않아도 노래할 수 있다. K팝 최초로 멤버 3명 전원이 청각장애인으로 이뤄진 그룹 빅오션이 장애인의 날인 다음달 20일 데뷔한다고 소속사 파라스타엔터테인먼트가 28일 밝혔다. 이찬연, 박현진, 김지석으로 이뤄진 3인조 그룹 빅오션은 한국어 수어, 영어 수어, 국제 수화로 노래한다. 소속사에 따르면 빅오션은 ‘바다와 같은 잠재력을 가지고 전 세계로 뻗어 나가겠다’는 그룹의 포부를 담았다. 이들은 첫 디지털 싱글 ‘빛’을 발표하고 본격적인 활동에 나선다. 1세대 보이그룹 H.O.T.(에이치오티)가 불렀던 동명 히트곡을 리메이크한 노래다. ‘다 함께 손을 잡아요 그리고 하늘을 봐요 / 우리가 함께 만들 세상을 하늘에 그려 봐요 / 눈이 부시죠 너무나 아름답죠’ 등의 가사로 잘 알려진 이 노래는 장애에도 굴하지 않고 K팝 아이돌에 도전한 멤버들의 이야기와 맞물리며 감동을 선사할 것으로 보인다. 잘 들리지 않는데 어떻게 음악을 표현할 수 있을까. 소속사는 지난달 스페인 바르셀로나에서 열린 ‘MWC 2024’(월드 모바일 콩그레스)에 SK텔레콤과 함께 참가해 인공지능(AI) 보이스 등 정보기술(IT) 기업과의 파트너십을 통해 어려움을 극복할 방안을 찾았다고 한다. 자체 개발한 빛 메트로놈 등을 활용해 낮은 청력으로 인한 한계 등을 보완한 것으로 전해졌다. 멤버들은 자신의 목소리로 노래를 녹음했다. 다만 고음역 등 부족한 부분은 자신의 목소리를 학습시킨 AI의 도움을 받았다고 한다. 무대 위에서 퍼포먼스를 펼칠 땐 중간중간 수어도 넣을 예정이다.

“엄마! 나 납치당했어” 서귀포시에 사는 A씨는 최근 미국에 유학 중인 딸로부터 다급한 전화를 받았다. 흐느끼는 딸의 목소리 뒤 한 남성이 전화를 건네받더니 “현금 1000만원을 보내지 않으면 딸을 해코지하겠다”고 협박했다. 18일 안덕파출소에 따르면 15일 오후 9시쯤 ‘해외에서 유학 중인 딸이 납치됐다’는 신고가 접수됐다. 신고자는 제주에 한 달 살기를 하러 온 A씨 부부로, 약 5분 전인 오후 9시 5분쯤 모바일 앱을 통해 걸려 온 전화 한 통을 받았다. 미국 시카고에 유학 중인 딸 B씨의 목소리였는데, 피싱 일당이 인공지능(AI) 기술을 이용해 만든 허위 목소리였다. 일당은 B씨 목소리를 이용해 A씨 부부에게 ‘납치를 당해 감금돼 있다’고 했다. 옆에서 듣고 있던 B씨의 부친은 곧바로 경찰에 신고했다. 신고를 접수한 경찰은 최상위 출동 경보인 ‘코드0’를 발령하고 현장에 출동하는 한편, 신고 직후 부친 휴대전화가 꺼져 있는 정황을 토대로 신종 피싱 수법임을 직감했다. 휴대전화 위치추적과 동시에 통신 수사를 진행했다. 휴대전화 발신 지역 주변에 도착한 경찰은 사이렌을 듣고 온 A씨 부부와 만나 이들을 진정시켰다.경찰은 A씨 부부로부터 딸이 이날 오후 시카고에서 대만행 항공기에 탑승한다는 말을 듣고 시카고 한국 총영사관에 연락을 취했다. 동시에 국제 공조가 이뤄졌다. 제주국제공항 경찰대는 시카고 현지 경찰에 A씨 부부 상황을 설명하고 B씨 신변 확인에 나섰다. 이후 시카고 경찰로부터 B씨가 안전하게 비행기에 오른 사실을 확인했다. 피싱 범죄임을 직감한 경찰은 B씨가 납치되지 않았다고 A씨 부부를 안심시켰다. 이후 A씨 부부는 B씨와 전화 통화를 했다. 안덕파출소 양진모 경위는 “최근 AI 기술이 발전함에 따라 연락이 쉽게 닿지 않는 해외거주 가족을 사칭한 피싱 범죄가 증가하고 있어 주의해야 한다”고 당부했다. 한편 A씨 부부는 제주경찰청 ‘칭찬합니다’ 게시판에 감사의 글을 올렸다. 이들은 “위급한 상황이 닥치기 전까지만 해도 경찰에 대한 이미지는 그리 좋지만은 않았던 게 사실입니다”며 “즉시 출동한 안덕파출소 경찰관, 서귀포 형사들의 전문적이고 체계적인, 그리고 가장 중요한 ‘시민의 안전을 지키겠다’라는 신념이 우리 가족을 신종 보이스피싱 범죄로부터 지켜줬다”고 적었다．

국내 골프 거리측정기 브랜드 보이스캐디가 ‘T11’, ‘T11 프로(PRO)’, ‘레이저(Laser) FIT’ 등 신제품 3종을 정식 출시했다고 12일 밝혔다. 보이스캐디에 따르면 이들 제품은 앞서 진행된 신제품 사전 예약에서 역대 최다 판매량을 기록하며 1~3차 물량을 완판했다. 또한 네이버 라이브 론칭쇼에서 시작 3분만에 2000명 접속을 돌파, 1시간만에 누적 37만명의 시청자 수를 기록했다. 보이스캐디는 지난 11년간 출시됐던 골프전문워치 ‘T시리즈’의 사용자 니즈와 필드 데이터를 결합해 골프에 필요한 기능을 골퍼의 취향에 맞춰 두 가지 제품으로 나눠 출시했다. T11은 라운드에 꼭 필요한 정보를 별도의 조작 없이도 쉽게 사용할 수 있으며, T11 프로는 T11 기능에 더해 풍향·풍속, 클럽 추천, 퍼팅 가이드 등 세부적인 데이터 분석을 제공한다. 두 제품 모두 T시리즈 처음으로 OLED 디스플레이를 탑재해 밝고 선명한 화면을 구현했다. 또한 라운드 시 사용자의 위치와 상황에 따라 정보를 자동으로 안내하는 ‘V.AI 3.5’(골프 인공 지능 서비스)를 활용해 골퍼가 스윙에만 집중할 수 있도록 돕는다. 아울러 2020년부터 상용화한 ‘APL’(실시간 핀 위치) 서비스도 300여개 골프장으로 확대해 T11, T11 프로에서 지원한다. 보이스캐디의 레이저 FIT은 카뎃 블루 색상을 활용해 유니크한 디자인을 완성했다. ‘FIT 좋은 레이저’라는 콘셉트에 맞게 116g의 초경량, 초소형 크기로 쉽게 휴대할 수 있으며 레이저 안전 최고 등급인 ‘CLASS 1M’을 취득했다.

“어느 날 검사가 전화를 걸어 현금을 코인으로 바꿔 해외 주소로 보내라고 시킨다면 기자님은 어떨까요. 저런 뻔한 거짓말에 왜 속을까 싶으시죠. 정말 안 당해 봐서 하는 이야깁니다.” 가상자산거래소 업비트에서 이상거래탐지 업무를 담당하는 안재민(44) 운영지원팀장은 “작정하고 덤벼들면 눈 뜨고 당하는 게 요즘 코인 보이스피싱”이라고 7일 말했다. 그는 6년째 고객 계좌에서 입출금 금액이 갑자기 늘어나는 등 보이스피싱이 의심되는 거래가 나타나면 곧바로 확인을 거쳐 출금을 막는 일을 하고 있다. 요즘 전화 금융사기 조직은 마지막 출금 계좌로 코인을 애용한다. 은행 등 제도권 금융사보다 계좌 추적이 어렵고 민관 공조도 쉽지 않다는 점을 노려서다. 지난해부터는 범죄에 연루될 경우 코인도 지급을 정지하도록 제도가 바뀌자 사기꾼들은 해외 코인거래소로 돈을 들고 튀고 있다. 안 팀장은 “현재로는 코인이 해외로 보내지기 전에 이상거래로 탐지해 막는 게 최선”이라고 말했다. 최근 안 팀장은 똘똘한 부사수 한 명을 키우고 있다. 다름 아닌 인공지능(AI)이다. 지난 6년간의 비법을 고스란히 AI에게 학습시키고 이상거래를 걸러 낸다. 안 팀장은 “인간의 노하우를 학습시키면 AI는 하루 수십만 건의 입출금을 24시간 모니터링할 수 있다”면서 “덕분에 하루 수십 건의 이상거래를 탐지해 피해를 막는다는 데 보람을 느낀다”고 말했다. 디지털자산거래소 공동협의체(DAXA)에 따르면 가상자산을 이용한 보이스피싱 피해 금액은 2020년 82억 6000만원에서 2022년 199억 6000만원으로 2배 넘게 늘었다. 무섭게 늘기만 하던 피해는 AI 단속의 등장과 민관 합동단속 등의 노력으로 지난해에는 82억 5000만원으로 증가세가 꺾였다. 안 팀장은 재벌 등 고액자산가까지 노린다는 알뜰폰 범죄를 예방할 수 있는 ‘꿀팁’을 공개했다. 그는 “인터넷으로 정부의 명의도용방지서비스에 가입하면 범죄자가 나 몰래 알뜰폰을 개통해 계좌에서 돈 털어가는 걸 막을 수 있다. 5분이면 가능해 지인들에게 추천 중”이라고 말했다.

본인이 직접 노래하는 것처럼 인공지능이 부른다면 어떤 기분이 들까? 최근 개그맨이자 가수인 박명수는 자신의 목소리를 학습한 ‘인공지능(AI) 박명수’가 부르는 ‘밤양갱’이라는 커버곡을 듣고는 깜짝 놀랐다. 그는 방송에서 “이 노래를 부른 적이 없다. 들어 보니 어쩜 이렇게 똑같나. 앞으로 우리 어떻게 해야 하나. 연예인들 어떻게 해야 돼” 하며 혀를 내둘렀다. 인공지능 기술 발달로 AI 커버가 주목받고 있다. 커버곡은 가수가 자기 노래가 아닌 다른 가수의 노래를 자신만의 스타일로 부르는 노래다. 인공지능 커버는 일반인이 박명수 같은 연예인이나 가수의 목소리 데이터를 학습한 인공지능 모델을 활용해 만든 노래다. 정교한 커버곡은 소셜미디어에서 수백만회 조회를 올릴 정도로 인기다. AI 커버곡 제작을 전문으로 하는 채널들이 있을 정도로 새로운 음악시장을 형성하고 있다. 인공지능 커버 시장이 커질수록 법적 분쟁도 늘어날 전망이다. 저작권법엔 AI 커버 제작에 사용된 원 노래의 저작권과 목소리 주인공의 저작인접권 침해에 대한 별도 규정이 없다. 커버 인기가 노래 홍보를 뛰어넘는 단계로 옮아가면 분쟁은 불가피할 것이다. 이 때문에 한국음악저작권협회는 AI 활용 표시 의무를 담은 콘텐츠산업진흥법 개정을 촉구하고 있다. AI 커버곡 제작자들은 자신들의 행위가 공익성을 가지며 인공지능 산업 발전에도 기여한다고 한다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정이용으로 본다. 최근 미국의 뉴욕타임스가 자사 기사를 무단 사용했다며 오픈AI를 상대로 낸 저작권 침해 소송에 오픈AI는 이 공정이용 조항을 들먹이며 반박했다. 하지만 가치 있고 신뢰도 있는 데이터를 상업적으로 사용한다면 법적으로 문제될 수 있다. 법적 분쟁 못지않게 우려되는 건 이런 기술이 딥페이크 등 범죄에 악용될 수 있다는 점이다. 목소리 데이터가 쌓이면 쌓일수록 본인까지 깜짝 속을 정도의 딥보이스 기술이 적용된 콘텐츠는 확산될 것이다. 인공지능 기술 발달로 현실과 상상의 경계가 무너지고 있다. 인공지능이 삶의 질은 향상시키고 범죄에 악용되는 등의 부작용은 줄일 안전한 보안기술이 나오기를 바라 본다.

이상민 행정안전부 장관이 5일(현지시간) 아랍에미리트(UAE) 두바이에서 디지털정부 담당 장관 등을 만나 디지털정부 협력 강화와 한국 기업의 중동 진출 방안에 대한 논의를 했다. 전날 사우디아라비아 국제기술전시회(LEAP)에 참석해 한국의 인공지능(AI) 기술 등 첨단 기술을 알리고 디지털정부 담당 사우디 장관을 만나 협력을 모색한 데 이은 중동에서의 두 번째 행보다. 이 장관은 이날 오후드 알 루미 장관 UAE 정부발전미래부 장관을 만나 디지털정부 및 정부혁신 분야 협력 강화 방안을 논의했다. 오후드 장관은 “한국의 디지털정부는 세계 최고 수준으로 유엔과 경제협력개발기구(OECD) 평가에서 우수한 성적을 거뒀다. 한국이 중점으로 추진하고 있는 디지털플랫폼 정부를 배우고 싶다”면서 “AI·데이터·디지털전환 분야에서 협력이 확대되기를 희망한다”고 말했다. 오후드 장관은 한국의 모바일 신분증과 유사한 서비스로 연간 2000만명 이상이 사용하는 대국민 정부 포털 ‘U.AE’와 공공서비스용 디지털 신분증 ‘UAE Pass’를 소개했다. 그는 “한국 정부가 민간 IT 기업과 함께 디지털플랫폼 정책을 추진하고 있는 것처럼 UAE도 민간 기업과 협력 모델을 만들고 있다”고 말했다. 이 장관은 “한국의 디지털플랫폼 정부는 단순 전산화를 넘어 손에 잡히는 편리함을 주기 위해 국민 일상의 디지털화에 집중하고 있다”면서도 “다만 인구감소·고령화 등 한국이 직면한 사회적 문제도 함께 고려하고 있다”고 말했다.세계 최초의 AI 분야 장관인 오마르 빈 술탄 알 올라마 UAE AI·디지털경제부 장관과의 면담도 성사됐다. 이 장관은 생성형 AI 활용 가이드라인 제작, 공공부문 특화형 초거대 AI 기반 구축, AI 기술을 활용한 보이스피싱 수사, 교통량 영상분석 등 공공부문에서 AI를 활용한 사례를 공유했다. 오마르 장관은 전국 도로 교통량 조사에 AI를 도입해 예산 절감 효과가 나타났다는 이 장관의 말에 관심을 보이며 “한국의 IT 기업들이 세계적으로 우수하다. 한국 기업과 협업하고 싶다”고 밝혔다. 이에 이 장관은 “두바이는 중동에서 디지털플랫폼 정부 수출에 중요한 도시이기 때문에 국내 IT 기업이 진출할 수 있도록 돕겠다”고 화답했다. UAE는 2022년 유엔 전자정부 평가에서 13위, 세계은행 디지털정부 성숙도 평가에서 4위를 기록하는 등 디지털정부 신흥강국으로 꼽힌다. 지난해 윤석열 대통령의 국빈 방문 이후 체결된 ‘포괄적 경제동반자 협정’ 등으로 우리 기업의 중동 진출 교두보로 여겨진다.

녹아내리는 눈사람·물고기 풍선 리움 6개 공간 처음으로 전부 사용13.6m 높이 42개 센서 타워 ‘막’풍량 등 전송… AI 목소리 만들어“외부에 등돌린 미술관 틈내고 파어떤 시간 보낼지 여러분에게 달려” 인간의 목소리인지 기계의 잡음인지 알 수 없는 목소리가 도처에서 웅성거린다. 흙으로 범벅된 ‘작고 더러운’ 눈사람들은 시시각각 녹아내리고, 물고기 풍선은 어항 속을 헤엄치듯 전시장 곳곳을 떠다닌다. 사람 없는 피아노에서는 연주가 흘러나오고, 천장에선 오렌지빛 눈이 서걱서걱 내려 전시장 안에 소복이 쌓여 간다. 빛과 온습도 등이 철저히 통제된 화이트큐브 안에 ‘작품을 모시는’ 미술관에서 목격하는 이 생경하고 소란한 풍경은 예술과 전시에 대한 관념을 무너뜨리며 “새롭게 경험하고 느껴 보라”고 제안한다.주인공은 현대미술계에서 가장 영향력 있는 설치미술가로 꼽히는 프랑스 작가 필립 파레노(60). 리움미술관은 개관 이후 처음으로 6개 공간 전관을 그에게 내주며 작가의 아시아 최초·최대 규모 서베이 전시 ‘보이스’를 열었다.야외 데크에 새롭게 설치된 높이 13.6m 크기의 대형 타워이자 일종의 인공두뇌인 ‘막’(2024)이 그 출발점이다. 42개 센서를 달고 있는 ‘막’은 기온, 습도, 풍량, 소음, 대기오염도, 진동 등 외부 환경의 데이터를 실시간으로 내부 전시공간에 들여보내며 작품들을 활성화하고 상호 작용한다. 내부 전시장에 매달린 스피커는 전시장의 소리와 목소리를 흡수해 반응하며 또 다른 새로운 소리로 내보낸다. 작가는 이렇게 데이터 연동, 인공지능(AI), 디지털 멀티플렉스(DMX) 기술을 망라하며 1986년 첫 작업부터 올해 신작까지 40여년간의 대표작 40여점을 꿰뚫어 리움미술관 전체를 하나의 거대한 ‘유기체’ 혹은 ‘자동기계’처럼 작동하게 한다. 최근 전시장에서 만난 파레노는 “갇힌 공간으로 외부 세계에 등돌린 미술관에 틈을 내고 싶었다”고 했다. 그는 그러면서 “센서를 통합하면 타워 안에 모든 걸 예민하게 느끼는 캐릭터가 만들어질 수 있다고 생각했다. 외부 데이터를 언어화하고 그렇게 만들어진 캐릭터에 인간의 목소리를 부여하고 싶었다”고 설명했다. 전시장에서 들려오는 소리는 바로 이러한 인공지능 ‘막’이 만들어 낸 목소리 ‘델타 에이’(δA)로, 배우 배두나의 목소리를 입혀 AI가 창조한 가상의 목소리다.현실과 상상의 경계가 흐릿한 초현실적인 풍경의 전시장에 실재와 가상이 혼재된 목소리가 끊임없이 떠도는 데는 이것이 관람객들의 주의를 끌고 관계를 맺는 기반이 되길 바라는 작가의 의도가 반영돼 있다. 그라운드갤러리에서는 ‘움직임의 예술’ 그 자체가 된 전시장을 체험할 수 있다. 벽은 공간을 가로질러 움직이고, 조명은 깜빡이며 춤을 추고, 말풍선 같은 투명 풍선 수백 개는 천장을 부유한다. “예술은 늘 미완”이라고 여기는 작가답게 전시는 5개월여의 기간 ‘완결’ 없이 시시각각 변화하는 상태로 이어진다. 김성원 리움미술관 부관장이 “작업이 끊임없이 외부 요소에 자극받으며 상호 교류를 이어 나가기 때문에 우리 인생처럼 예측 불가하게 변화하는 공연 같은 전시”라고 말한 이유다. 전시장을 찾기 전 작가가 말한 관람 팁을 기억해 두자. “내 마음대로 헤매고 작품에 얼마든지 관여할 수 있다고 생각해 달라. 영화관처럼 정해진 규칙은 없다. 머물고 싶은 만큼 머물라. 어떤 시간을 보낼지는 여러분에게 달려 있다.”

인간의 목소리인지 기계의 잡음인지 알 수 없는 목소리가 도처에서 웅성거린다. 흙으로 범벅된 ‘작고 더러운’ 눈사람들은 시시각각 녹아내리고, 물고기 풍선은 어항 속을 헤엄치듯 전시장 곳곳을 떠다닌다. 사람 없는 피아노에서는 연주가 흘러나오고 천정에서는 오렌지빛 눈이 서걱서걱 내려 전시장 안에 소복이 쌓여간다. 빛과 온습도 등이 철저히 통제된 화이트큐브 안에 ‘작품을 모시는’ 미술관에서 목격하는 이 생경하고 소란한 풍경은 예술과 전시에 대한 관념을 무너뜨리며 “새롭게 경험하고 느껴보라”고 제안한다. 주인공은 현대미술계에서 가장 영향력 있는 설치미술가로 꼽히는 프랑스 작가 필립 파레노(60). 리움미술관은 개관 이후 처음으로 6개 공간 전관을 그에게 내주며 작가의 아시아 최초·최대 규모 서베이 전시 ‘보이스’를 열었다.야외 데크에 새롭게 설치된 높이 13.6m 크기의 대형 타워이자 일종의 인공두뇌인 ‘막’(2024)이 그 출발점이다. 42개 센서를 달고 있는 ‘막’은 기온, 습도, 풍량, 소음, 대기오염도, 진동 등 외부 환경의 데이터를 실시간으로 내부 전시공간에 들여보내고 작품들을 활성화하고 상호 작용한다. 내부 전시장에 매달린 스피커는 전시장의 소리와 목소리를 흡수해 반응하며 또 다른 새로운 소리로 내보낸다. 작가는 이렇게 데이터 연동, 인공지능(AI), 디지털 멀티플렉스(DMX) 기술을 망라하며 1986년 첫 작업부터 올해 신작까지 40여년간의 대표작 40여점을 꿰뚫어 리움미술관 전체를 하나의 거대한 ‘유기체’ 혹은 ‘자동 기계’처럼 작동하게 한다. 최근 전시장에서 만난 파레노는 “갇힌 공간으로 외부 세계를 향해 등돌린 공간인 미술관에 틈을 내고 싶었다”고 했다. 그러면서 “센서를 통합하면 타워 안에 모든 걸 예민하게 느끼는 캐릭터가 만들어질 수 있다고 생각했다. 외부 데이터를 언어화하고 그렇게 만들어진 캐릭터에 인간의 목소리를 부여하고 싶었다”고 설명했다. 전시장에서 들려오는 소리는 바로 이러한 인공지능 ‘막’이 만들어낸 목소리 ‘델타 에이’(δA)로, 배우 배두나의 목소리를 입혀 AI가 만들어낸 가상의 목소리다.현실과 상상의 경계가 흐릿한 초현실적인 풍경의 전시장에서 실재와 가상이 혼재된 목소리가 끊임없이 떠도는 데는 목소리가 관람객들의 주의를 끌고 관계 맺는 기반이 되길 바라는 작가의 의도가 반영돼 있다. 파레노가 동료 독일 퍼포먼스 예술가 티노 세갈에게 의뢰한 퍼포먼스가 펼쳐지는 에스컬레이터를 타고 그라운드갤러리로 내려가면 ‘움직임의 예술’ 그 자체가 된 전시장을 체험할 수 있다. 벽은 공간을 가로질러 움직이고, 조명은 깜빡이며 춤을 추고, 말풍선 같은 투명 풍선 수백개는 천정을 부유한다. “예술은 늘 미완”이라고 여기는 작가답게 전시는 5개월여간의 기간 동안 ‘완결’ 없이 시시각각 변화하는 상태로 이어진다. 김성원 리움미술관 부관장이 “작업이 끊임없이 외부 요소에 자극받으며 상호 교류를 이어나가기 때문에 우리 인생처럼 예측불가하게 변화하는 공연 같은 전시”라고 말한 이유다. 전시장을 찾기 전, 작가가 말한 관람 팁을 기억해두자. “내 마음대로 헤매고 작품에 얼마든지 관여할 수 있다고 생각해 달라. 영화관처럼 정해진 규칙은 없다. 머물고 싶은 만큼 머물라. 어떤 시간을 보낼지는 여러분에게 달려 있다.”

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

“피해자들이 보이스피싱에 당하는 이유는 범인들이 스미싱(문자메시지+피싱)을 통해 사전에 개인정보를 빼간 뒤 이를 바탕으로 전화를 걸기 때문입니다. 휴대전화에 저장된 지인 이름은 물론 은행 계좌번호 등 내밀한 정보까지 알고 접근하기에 깜박 속는 겁니다. 금융당국이 선전하는 것처럼 모르는 사람으로부터 전화가 걸려오면 ‘늘·꼭·또’를 꼭 기억하십시오. ‘늘’ 의심하고, ‘꼭’ 전화끊고, ‘또’ 확인하는 방법밖에 없습니다.” 김수민 서울동부지검 보이스피싱범죄 정부합동수사단장은 지난 7일 서울신문과 만나 “인공지능(AI)을 이용해 보이스피싱이나 스미싱 문자를 필터링하는 시스템이 고도화되고 있지만 이를 피하는 방법도 계속 출현하고 있어 발 빠른 대책이 필요하다”며 “은행이나 통신사가 고객을 대상으로 문자나 앱 알림 등을 통해 신종 수법에 대한 주의 메시지를 전송해 알려주는 게 가장 효과적”이라고 진단했다. 김 단장은 “보이스피싱 조직이 스미싱 문자를 뿌리기 위해 해외문자발송 사이트를 이용<서울신문 2월 5일자 9면>하는 가장 큰 이유는 발신번호 변경이 가능하고 한국인터넷진흥원(KISA)이나 통신 3사의 스팸문자 차단 필터링을 우회할 수 있기 때문”이라며 “이를 막을 수 있는 통신사의 투자와 노력이 더 절실하다”고 했다. “미국의 경우 가상납치 형태의 보이스피싱 범죄가 주로 발생하고 있습니다. 자녀 등을 납치했다고 속여 가족으로부터 돈을 받아챙기는 거죠. AI를 통해 합성된 사진이나 영상을 가족들에게 보내 자녀가 납치됐다고 가장하기도 합니다. 중국에서도 위챗 등을 통해 간편 송금 시스템이 활발하게 운영되고 있어 허위 투자나 자산관리, 물품 구매, 고객 서비스 등을 빙자한 보이스피싱 피해가 많이 발생하고 있습니다. 우리도 이런 형태를 주의해야 합니다.” 김 단장은 최근 대검찰청 유튜브인 ‘검찰나우’에 개그맨 심문규·이수지씨 등과 출연해 보이스피싱 신종 수법과 예방책을 홍보하기도 했다. 심씨가 김 단장을 사칭해 보이스피싱범을 연기하자 김 단장이 “내가 김 단장”이라며 그를 잡는 연기를 했다. 김 단장은 “촬영 당시 기온이 영하 14도까지 떨어졌는데 녹음기에 소음이 들어가는 걸 막기 위해 난방장치를 껐다”며 “핫팩 2개를 몸에 붙이고 연기한 기억이 난다”고 웃었다. 김 단장은 “검사가 유튜브에 출연하는 게 흔치는 않은 일이지만 국민에게 조금이라도 더 예방법을 알려야겠다는 생각에 응했다”며 “앞으로도 피해예방을 위한 홍보영상 등을 제작해 지속적으로 국민에게 알리겠다”고 말했다.

최근 5년간 국내에서 발생한 보이스피싱 피해 건수는 총 15만 6000여건, 피해액은 3조원에 이른다. 갈수록 수법이 교묘해지지만 사실상 속수무책이었다. 하지만 지난해 2월 행정안전부가 보이스피싱 음성분석 모델 ‘케이봄’(Korea-Voice Analysis Model)을 개발한 이후 변화의 조짐이 감지되고 있다. 케이봄을 만드는 데 앞장선 이는 2022년 부임한 김철(46·행정고시 50회) 행안부 통합데이터분석센터장이다. 김 센터장은 6일 “전에는 러시아, 영국 프로그램을 사용했지만 정확도가 낮아 어려움이 있었다”면서 “우리만의 음성분석 모델을 만들자는 의견이 모였고 2022년 8월 개발에 착수했다”고 설명했다. 음성분석 모델은 인공지능(AI)을 활용해 보이스피싱범의 목소리를 수많은 음성데이터와 비교하는 시스템이다. 음성을 잘 구분하려면 AI가 데이터를 학습하는 과정이 필요했다. 김 센터장은 “우선 6000명에게서 추출한 100만개의 음성을 케이봄에게 학습시키는 데 집중했다”며 “지금은 범죄자 음성데이터 1만 5000여개를 수사에 활용하고 있다”고 말했다. 이후 경찰과 소통하며 케이봄을 안착시키고자 노력했다. 5개월에 걸친 논의 끝에 경찰 수사지원시스템에 케이봄을 적용해 현장에서 언제든 시스템에 접속할 수 있도록 했다. 김 센터장은 케이봄이 해외 프로그램보다 판독률이 77%가량 높아 큰 도움이 되고 있다고 자부했다. 지난해 5월 경기남부경찰청은 케이봄으로 보이스피싱 범죄자 5명을 적발했다. 이어 통화 및 계좌 내역 조사, 폐쇄회로(CC)TV 등을 확인한 끝에 10월 일당 46명을 추가 검거했다. 김 센터장은 “끊임없이 지능화하는 범죄 형태에 맞게 케이봄을 고도화할 계획”이라며 “보이스피싱뿐 아니라 전세사기 등 다양한 음성 범죄 수사에 활용될 예정”이라고 말했다.

KT가 ‘콜센터품질지수 최우수기업 명예의 전당’에 헌정됐다고 31일 밝혔다. 한국표준협회(KSA)가 주관하는 ‘콜센터품질지수’는 54개 업종, 217개 기업을 대상으로 콜센터 서비스 품질 및 고객만족도를 측정해 발표하는 제도다. 특히 품질지수 최우수 기업에 10회 이상 선정된 기업들은 한국표준협회의 평가를 거쳐 명예의 전당에 헌정될 수 있다. KT는 올해도 콜센터품질지수 중 초고속인터넷, IPTV부문에서 최우수 기업으로 선정됨으로써 10년 연속 최우수 기업이자 콜센터품질지수 최우수기업 명예의 전당에 헌정됐다. KT가 2021년 고객센터에 도입한 인공지능 보이스봇 ‘지니’가 안정적으로 정착하면서 상담사와 AI의 조화로운 상담을 구현한 점에서 높은 평가를 받았다. 한편 24일 KT 군포고객센터에선 콜센터품질지수 최우수 기업 명예의 전당 헌정비 제막식 행사가 열렸다. 행사엔 강명수 한국표준협회장, 이병무 KT 고객경험혁신본부장 등 주요 관계자들이 참석했으며, ‘명예의 전당 헌정비’는 KT 군포 고객센터 출입구 앞에 설치됐다. 이병무 KT 고객경험혁신본부장은 “언제나 변함없이 KT를 아껴주는 고객분들에게 감사드린다”며 “KT 고객센터는 소액결제 한도조정 등 단순상담을 AI 상담으로 보조함으로써 상담사의 직접 상담에 필요한 충분한 시간을 확보하는 등 고객을 위한 조화로운 상담을 제공하는 완전상담체계를 구현했다”고 말했다.