선거 90일 전부터 AI 영상도 금지 위법 단속 특별대응팀 440명 운영“딥보이스 로고송·벽보 허용 안 돼” 6·3 지방선거를 앞두고 중앙선거관리위원회가 ‘딥페이크와의 전쟁’에 나섰다. 생성형 인공지능(AI)을 활용한 허위 내용의 딥페이크 영상이 소셜미디어(SNS)를 통해 확산할 경우 유권자의 판단을 저해할 뿐 아니라 선거판을 흔들 수도 있다고 보고 강도 높은 단속에 나선 것이다. 21일 선관위에 따르면 딥페이크 영상 등을 이용한 선거운동과 관련해선 총 4661건(지난 10일 기준)이 적발됐다. 이 중 가상의 아나운서가 등장하는 뉴스 보도 형태의 허위 사실이 포함된 딥페이크 영상을 제작한 뒤 ‘가상정보’라는 사실을 표기하지 않고 소셜미디어(SNS)에 올린 건에 대해선 경찰에 고발했다. 또 8건은 경고 등 조치를 했고, 4652건에 대해선 삭제를 요청했다. 지난 21대 대선 때는 딥페이크 영상 등을 이용한 선거운동을 하다가 적발된 건수가 1만 513건으로 2024년 22대 총선 당시 적발 건수(389건) 대비 약 27배 늘었다. 딥페이크 영상 등은 인공지능 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향·이미지·영상 등을 말한다. 공직선거법에 따르면 딥페이크 영상 등은 선거 90일 전부터 엄격하게 금지된다. 그 이전에도 해당 게시물이AI로 만든 콘텐츠라는 점을 명확하게 표시해야 한다. 다만 ‘가상정보’라고 표시를 하더라도 허위 사실이 표함돼 있다면 처벌 대상이 될 수 있다. 선관위는 딥페이크 영상 등을 이용한 위법한 선거운동을 방지하기 위해 440여명 규모의 특별대응팀을 운영하고 있다. 온라인 위법 게시물을 상시 모니터링하고 경미한 위반 혐의가 있는 게시물은 삭제 요청, 중대선거범죄는 무관용 원칙을 적용하고 있다. AI 기술 발전으로 딥페이크 기법도 교묘해지면서 선관위도 3단계 감별 체계로 대응하고 있다. 우선 1단계로 모니터링(시청각 탐지)를 한 뒤 AI를 이용한 의심 콘텐츠에 대해선 복수의 프로그램을 활용해 감별(2단계)하고, 최종적으로 ‘AI 콘텐츠 감별’ 자문위원을 통한 인적 감별(3단계) 절차를 거친다. 특히 AI로 생성한 콘텐츠에 대해선 한국전자기술연구원과 국립과학수사연구원의 감별 프로그램을 활용하고 있다. 선관위는 “후보들이 선거운동을 위해 로고송을 ‘딥보이스’(AI를 활용한 목소리 합성 기술)로 제작하거나 선거벽보·선거공보 등 인쇄물을 AI로 제작하는 것도 실제와 구분하기 어려운 경우 허용되지 않는다”고 했다. 서울신문·중앙선관위 공동기획

LG유플러스가 인공지능(AI) 통화앱 ‘익시오(ixi-O)’를 알리기 위해 5000명 규모의 체험단을 모집한다고 14일 밝혔다. 통신사와 관계없이 누구나 참여할 수 있으며, 익시오의 통화 요약·보이스피싱 탐지·안티딥보이스 등 주요 기능을 직접 경험할 수 있다. 신청은 오는 21일까지 U+공식온라인스토어 전용 페이지에서 eSIM을 구매·개통하는 방식으로 진행된다. eSIM은 이달 27일까지 이용할 수 있으며, 고객은 eSIM 비용과 ‘너겟35’ 요금제 이용료 전액을 네이버페이로 환급받는다. 너겟35는 월 3만 5000원에 데이터 17GB를 제공하는 무약정 온라인 전용 요금제다. 체험단은 익시오 앱을 내려받아 이용할 수 있고, 내년 출시 예정인 신규 기능도 사전 체험할 수 있다. 새 기능은 통화 중 궁금한 내용을 물으면 AI가 통화 맥락을 파악해 관련 정보를 실시간으로 찾아 음성으로 안내하는 서비스다. 이용 후기 제출 고객에게는 스타벅스 기프티콘과 활동 수료증이 제공되며, 우수 후기 작성자 50명에게는 애플 ‘에어팟4 ANC’가 지급된다.

LG유플러스가 개인 맞춤형 인공지능(AI) 기능을 대폭 강화한 통화 앱 ‘익시오(ixi-O) 2.0’을 새롭게 출시하며 초개인화 AI 시대를 선도한다. 20일 LG유플러스에 따르면 익시오 2.0은 단순한 기록을 넘어 통화 맥락을 이해하고 필요한 정보를 선제적으로 제공하는 ‘더 똑똑해진 AI 비서’로 거듭난 게 특징이다. 이번 업데이트를 통해 기존의 강력한 보안 기능(실시간 보이스피싱 탐지, 안티딥보이스 등)에 고객의 편리성을 극대화하는 AI 기능을 더하는 데 주력했다. 익시오 2.0에 새롭게 탑재된 핵심 AI 기능은 ‘AI 대화 검색’, ‘AI 스마트 요약’, ‘디스커버 2.0’ 등이다. ‘AI 대화 검색’은 과거 통화 이력에서 궁금한 내용을 AI에게 직접 질문하고 답변받는 기능이다. 예를 들어 “지난주에 이 친구가 생일 선물로 뭘 받고 싶다고 했지”라고 질문하면, AI가 통화 내용을 기반으로 필요한 답변을 찾아주는 식이다. ‘AI 스마트 요약’은 통화 내용을 사용자의 필요에 맞게 자동으로 정리해주는 기능이며, ‘디스커버 2.0’은 통화와 문자 데이터를 분석해 고객에게 필요한 AI 기능을 추천하는 안내 페이지다. 운영체제(OS)별 신규 기능도 추가됐다. 안드로이드 사용자에게는 피싱 위험 URL 탐지와 문자로 받은 쿠폰·예약 일정을 감지해 알림을 제공하는 ‘AI 문자 리마인더’가 도입됐다. iOS 버전에는 하나의 휴대전화에서 두 개의 번호를 이용할 수 있는 ‘듀얼넘버’ 기능이 탑재됐다. LG유플러스는 이번 익시오 2.0을 시작으로 서비스를 지속적으로 고도화해 익시오를 단순한 AI 통화 앱이 아닌 초개인화 AI 에이전트로 발전시켜 나갈 방침이다. KT는 이날 마이크로소프트와의 전략적 파트너십을 기반으로 국내 산업계 AX(AI 전환)를 위한 ‘KT 이노베이션 허브’를 개소했다고 밝혔다. KT 광화문 웨스트 빌딩에 약 595㎡ 규모로 마련된 KT 이노베이션 허브는 B2B(기업 대 기업) 고객이 AX 업무 혁신에 관한 전시를 관람하고 맞춤형 컨설팅까지 받을 수 있다.

최근 개인정보 탈취, 해킹 사태 등으로 정보 보안에 대한 경각심이 커진 가운데 통신사들이 보이스피싱 피해를 막기 위한 대응책 마련에 나섰다. SK텔레콤은 최근 인공지능(AI) 서비스인 ‘에이닷’에 최신 글로벌 AI 거대언어모델(LLM)을 도입하고 문자 보안 기능인 ‘AI 메시지’를 새롭게 추가하는 업그레이드를 단행했다. AI 메시지는 △발신번호 △문자 내용 △링크(URL) 등을 AI가 분석해 스팸·피싱이 의심되는 문자를 자동으로 분류한다. 의심 문자는 △사칭주의(가족·금융기관 등 사칭) △사기주의(대출·취업 빌미) △링크주의(악성 앱·개인정보 탈취 링크 포함) 등으로 분류된다. 위험 문자 자체가 앱 내에서 보이지 않도록 설정할 수 있는 ‘주의할 메시지 숨기기’ 기능도 있다. 안드로이드 운영체제(AOS)에서는 에이닷 전화 앱에서, iOS에서는 에이닷 앱 내 ‘전화’ 메뉴에서 사용할 수 있다. 추석 연휴 기간 365일 연중무휴 24시간 운영되는 ‘T 안심 24시간보안센터’도 운영한다. △피싱·스미싱·해킹 등에 대한 즉각 차단과 긴급 조치 △2차 피해 방지를 위한 보안 점검·예방 서비스 안내 및 기관 신고 지원 △피해조사, 보상 및 사후 관리까지 피해 복구를 지원한다. KT는 화자 인식과 딥보이스(AI로 만든 가짜 음성) 탐지 기능을 통합한 ‘AI 보이스피싱 탐지서비스 2.0’을 적용하고 있다. 실제 음성 데이터를 기반으로 위험 여부를 탐지하고, 보이스피싱 고위험 통화로 판단될 경우 강제 종료시킨다. 국립과학수사연구원이 보유한 실제 보이스피싱 통화 내역을 활용해 보이스피싱 탐지 정확도를 높였다. 올해 보이스피싱 탐지율 95% 이상, 약 2000억 원의 피해 예방을 목표로 하고 있다. 스팸 문자 메시지에 대해선 실시간 AI 키워드 등록 시스템을 이용해 투자 유도형, SNS 대화 유도형 등 새로운 유형의 변종 스팸에 대응할 수 있도록 필터링 구조를 지속해서 업데이트하고 있다. LG유플러스는 ‘익시오’ 앱을 통해 실시간 보이스피싱 경고 알림을 받을 수 있다. AI 통화 서비스인 익시오는 실증특례를 통해 보이스피싱범의 성문 데이터를 기반으로 탐지 정확도를 높였다. 악성 앱이 설치되면 카카오톡 알림톡으로 위험 앱이 설치됐다는 통보도 받을 수 있다. 또 전국 1800여개의 모든 대리점에서 스미싱 문자 수신, 악성 앱 감염 등 위협이 의심되는 고객에게 맞춤 상담과 보안 조치를 지원한다. 대리점을 방문해 보안 조치를 요청하면 각 매장에 배치된 보안 전문 인력이 악성 앱 대응에 나선다.

수사당국·금융기관 사칭해 접근다크웹으로 개인 정보 미리 빼내 문자메시지로 악성 앱 설치 유도“확인차 연락”한다며 피해자 압박AI 딥보이스 기술 통해 수법 진화가스라이팅 당한 20대 도피 생활 30대 이하·40~60대도 범죄 표적“검거율 낮아… 해외 사법 공조 필요” 올해 1~7월 보이스피싱·스미싱 피해액이 8000억원에 육박하는 등 역대 최고치를 기록한 것은 그만큼 피싱조직의 수법이 진화하고 있어서다. “서울중앙지검 ○○○ 검사입니다”, “금융감독원 ○○○입니다” 등 기관 단 1곳을 사칭해 범죄에 연루됐다며 출금을 유도하는 ‘고전 방식’은 사라지는 추세다. 31일 경찰과 금융당국에 따르면 최근 두드러진 보이스피싱의 유형 중 하나는 정교해진 ‘역할극 기관 사칭 사기’다. 피싱조직은 검사, 금감원 직원, 은행 직원 등으로 역할을 나눠 피해자에게 접근한다. 피해자의 연락처, 이름, 직장 등 일부 개인정보는 다크웹 등을 통해 확보한 상태인 경우가 대부분이다. 이후 이들은 맞춤형 사기를 저지르기 위해 ‘악성 앱 설치’에 사활을 건다. 대표적인 방식은 문자메시지를 통한 ‘배송조회 URL’ 전송이다. 피해자가 링크를 누르도록 유도한 뒤 “신청하지 않은 카드가 배송될 예정이니 보안 점검을 위해 앱을 설치하라”고 안내한다. 저금리 대출 광고에 응한 피해자에게는 ‘대출 전용 앱’, ‘보안 앱’ 설치를 요구하기도 한다. 서울에 거주하는 40대 A씨는 ‘대출 상담을 원한다면 아래 링크를 클릭해 달라’는 문자를 받은 이후 URL을 클릭했고 이후 안내받은 대로 ‘서민금융진흥원 앱’을 설치했다. 경찰 수사 결과 이 앱은 피싱조직의 악성 앱이었다. 하지만 A씨는 카드사를 사칭해 ‘대출금 중 3000만원을 갚으라’는 피싱조직의 요구대로 돈을 보낸 이후였다. 경찰 관계자는 “실제 금융회사 앱과 구별이 어려울 정도로 정교하게 만들어져 있다”고 말했다. 이후 범죄 조직원들은 여러 기관을 사칭하며 피해자를 압박한다. 검찰을 사칭한 조직원이 “당신 명의로 개설된 계좌가 불법 자금 세탁에 이용됐다”고 전화를 하면 곧이어 금감원을 사칭한 조직원이 “최근 계좌 사칭 범죄가 급증하고 있어 확인차 연락드린다”며 다시 전화를 하는 식이다. 이 밖에도 카드배송원이나 우체국 집배원이 “카드 배송을 하러 왔다”고 연락한 뒤 “본인이 신청한 게 아니면 명의가 도용됐으니 고객센터에 전화해 보라”고 속이는 것도 수법 중 하나다. 피해자가 고객센터에 전화를 걸면 이미 설치된 악성 앱이 작동해 통화가 조직원에게 연결된다. 이후 ‘범죄와 연루돼 있으니 다른 계좌로 돈을 옮겨야 한다’는 식으로 송금을 요구하는 등 피해자를 기만한다. 심리적 지배를 통한 ‘가스라이팅’ 방식 사기도 늘고 있다. 피싱조직은 피해자가 완전히 통제당했다고 판단할 때까지 돈을 요구하지 않고 반성문 작성 등을 지시한다. ‘본인이 처벌될 경우 가족이 입을 불이익’을 강조해 불안을 증폭시키는 것이다. 8월 초 전북 익산에 사는 20대 회사원 B씨는 개인정보 유출로 범죄에 연루됐다는 피싱조직의 가스라이팅에 속아 모텔에서 나흘간 먹고 자면서 실제 도피 생활을 했다. “선생님, 유출된 개인정보가 범죄에 활용됐는데요. 우선 안전한 장소로 이동해 계시면 조치를 취해 보겠습니다.” 이 같은 전화를 받은 B씨는 “수사에 협조하지 않으면 구속하겠다”는 조직의 압박에 이성적인 사고를 할 수 없었다고 한다. 이후 5000만원을 피싱조직에 건네려 했지만 다행히도 관련 첩보를 입수한 경찰의 설득으로 거액을 송금하는 일은 벌어지지 않았다. 경찰 관계자는 “예전의 단순한 보이스피싱으로 여겨 ‘나는 당하지 않겠다’고 생각하면 큰 착각”이라고 경고했다. 소셜미디어(SNS) 등에서 확보한 사진과 영상을 가지고 인공지능(AI)으로 목소리 등을 위조하는 ‘딥페이크·딥보이스 기술’도 피해자를 감쪽같이 속이는 데 한몫한다. 한 대학교수는 지난 4월 “아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내 줘”라는 전화를 딸에게 받았다고 한다. 30년간 들었던 외동딸의 목소리였지만 알고 보니 AI 기술로 딸의 목소리를 흉내 낸 것이었다. 피해자는 연령을 불문한다. 경찰청에 따르면 ‘기관사칭형’ 피해자의 52%는 30대 이하였고, ‘대출빙자형’ 피해자의 80%는 경제활동이 왕성한 40~60대였다. 건당 평균 피해액은 2022년 2326만원에서 올해는 7554만원으로 점점 고액화되는 추세다. 이윤호 동국대 경찰행정학과 명예교수는 “보이스피싱 발생 건수 증가에는 낮은 검거율도 한몫한다”며 “국가 간 사법공조 체제를 강화하는 협정 체결이 효과적일 수 있다. 또 피싱이 합리적인 수준 이상으로 의심되는 경우 금융기관이 경찰에 신고하도록 권한과 의무를 부여하는 방안도 검토할 필요가 있다”고 제언했다.

올해 1~7월 보이스피싱·스미싱 피해액이 8000억원에 육박하는 등 역대 최고치를 기록한 것은 그만큼 피싱조직의 수법이 진화하고 있어서다. “서울중앙지검 ○○○ 검사입니다”, “금융감독원 ○○○입니다” 등 기관 단 1곳을 사칭하면서 범죄에 연루됐다며 출금을 유도하는 ‘고전 방식’은 사라지는 추세다. 31일 경찰과 금융당국에 따르면 최근 두드러진 보이스피싱의 유형 중 하나는 정교해진 ‘역할극 기관 사칭 사기’다. 피싱조직은 검사, 금감원 직원, 은행 직원 등으로 역할을 나눠 피해자에게 접근한다. 피해자의 연락처, 이름, 직장 등 일부 개인정보는 다크웹 등을 통해서 확보한 상태인 경우가 대부분이다. 이후 이들은 맞춤형 사기를 저지르기 위해 ‘악성 앱 설치’에 사활을 건다. 악성 앱이 설치되면 피해자가 거는 전화를 중간에서 가로채 받을 수 있고, 문자 메시지나 검색 내역 등도 파악할 수 있어서다. 대표적인 방식은 문자 메시지를 통한 ‘배송조회 URL’ 전송이다. 피해자가 링크를 누르도록 유도한 뒤 “신청하지 않은 카드가 배송될 예정이니 보안 점검을 위해 앱을 설치하라”고 안내한다. 저금리 대출 광고에 응한 피해자에게는 ‘대출 전용 앱’, ‘보안 앱’ 설치를 요구하기도 한다. 서울에 거주하는 40대 A씨는 ‘대출 상담을 원한다면 아래 링크를 클릭해달라’는 문자를 받은 이후 URL을 클릭했고, 이후 안내받은 대로 ‘서민금융진흥원 앱’을 설치했다. 경찰 수사 결과 이 앱은 피싱조직의 악성 앱이었다. 하지만 A씨는 카드사를 사칭해 ‘대출금 중 3000만원을 갚으라’는 피싱조직의 요구대로 돈을 보낸 이후였다. 경찰 관계자는 “실제 금융회사 앱과 구별이 어려울 정도로 정교하게 만들어져 있다”고 말했다. 이후 범죄 조직원들은 여러 기관을 사칭하며 피해자를 압박한다. 검찰을 사칭한 조직원이 “당신 명의로 개설된 계좌가 불법 자금 세탁에 이용됐다”고 전화를 하면 곧이어 금감원을 사칭한 조직원이 “최근 계좌 사칭 범죄가 급증하고 있어 확인차 연락드린다”며 다시 전화를 하는 식이다. 이 밖에도 카드배송원이나 우체국 집배원이 “카드 배송을 하러 왔다”고 연락한 뒤 “본인이 신청한 게 아니면 명의가 도용됐으니 고객센터에 전화해 보라”고 속이는 것도 수법 중 하나다. 피해자가 고객센터에 전화를 걸면 이미 설치된 악성 앱이 작동해 통화가 조직원에게 연결된다. 이후 ‘범죄와 연루돼 있으니 다른 계좌로 돈을 옮겨야 한다’는 식으로 송금을 요구하는 등 피해자를 기만한다. 심리적 지배를 통한 ‘가스라이팅’ 방식 사기도 늘고 있다. 피싱조직은 피해자가 완전히 통제당했다고 판단할 때까지 돈을 요구하지 않고 반성문 작성 등을 지시한다. ‘본인이 처벌될 경우 가족이 입을 불이익’을 강조해 불안을 증폭시키는 것이다. 8월 초 전북 익산에 사는 20대 회사원 B씨는 개인정보 유출로 범죄에 연루됐다는 피싱조직의 가스라이팅에 속아 모텔에서 나흘간 먹고 자면서 실제 도피 생활을 했다. “선생님, 유출된 개인정보가 범죄에 활용됐는데요. 우선 안전한 장소로 이동해 계시면 조치를 취해 보겠습니다.” 이 같은 전화를 받은 B씨는 “수사에 협조하지 않으면 구속하겠다”는 조직의 압박에 이성적인 사고를 할 수 없었다고 한다. 이후 5000만원을 피싱조직에 건네려 했지만 다행히도 관련 첩보를 입수한 경찰의 설득으로 거액을 송금하는 일은 벌어지지 않았다. 경찰 관계자는 “예전의 단순한 보이스피싱이라 ‘나는 당하지 않겠다’고 생각하면 큰 착각”이라고 경고했다. 소셜미디어(SNS) 등에서 확보한 사진과 영상으로 AI(인공지능)로 목소리 등을 위조하는 ‘딥페이크·딥보이스 기술’도 피해자를 감쪽같이 속이는 데 한몫한다. 한 대학교수는 지난 4월 “아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘”라는 전화를 딸에게 받았다고 한다. 30년간 들었던 외동딸의 목소리였지만, 알고보니 AI 기술로 딸의 목소리를 흉내 낸 것이었다. 피해자는 연령을 불문한다. 경찰청에 따르면 ‘기관사칭형’ 피해자의 52%는 30대 이하였고, ‘대출빙자형’ 피해자의 80%는 경제 활동이 왕성한 40~60대였다. 건당 평균 피해액은 2022년 2326만원에서 올해는 7554만원으로 점점 고액화되는 추세다. 치밀한 설계로 큰 피해를 안기는 경우가 많다는 얘기다. 이윤호 동국대 경찰행정학과 명예교수는 “보이스피싱 발생 건수 증가에는 낮은 검거율도 한몫한다”며 “국가 간 사법 공조 체제를 강화하는 협정 체결이 효과적일 수 있다. 또 피싱이 합리적인 수준 이상으로 의심되는 경우 금융기관이 경찰에 신고하도록 권한과 의무를 부여하는 방안도 검토할 필요가 있다”고 제언했다.

최근 보이스피싱이 인공지능(AI) 기술을 활용해 가족이나 지인의 목소리 혹은 외견을 정교하게 위조해 속이는 방식으로 진화하는 가운데 LG유플러스가 AI 기술을 활용해 위변조 목소리와 얼굴을 판별할 수 있는 기술을 상용화하고 있다. LG유플러스는 26일 AI로 조작된 목소리를 탐지하고 차단하는 ‘안티 딥보이스’ 기능을 온디바이스 형태로 오는 30일 자사의 AI 통화 에이전트 서비스 ‘익시오’(ixi-O)에 탑재한다고 밝혔다. 온디바이스 형태로 해당 기능을 상용화하는 건 LG유플러스가 세계 최초다. 안티 딥보이스는 AI로 음성을 합성할 때 발생하는 비정상적인 고주파 노이즈 등 인간의 귀로는 구별하기 어려운 미세한 차이를 AI가 감지해 위조 음성을 선별하는 기술이다. 이 기술이 익시오에 탑재되면 통화 중 보이스피싱 위험이 감지됐을 때 5초 이내에 위조된 목소리 여부를 탐지해 즉시 안내함으로써 위험을 차단할 수 있다. 영상 통화나 이미지 조작에 대응하는 ‘안티 딥페이크’ 기술도 최적화 작업을 진행 중이다. 해당 기술은 픽셀 단위의 분석을 통해 미세한 왜곡이나 노이즈를 감지해 AI로 조작된 영상이나 이미지를 판별할 수 있도록 한다. 현재 온디바이스 탑재를 목표로 경량화 작업을 진행하고 있으며 화상 통화 중 딥페이크 영상을 실시간으로 감지하거나 문자메시지를 통해 유포되는 유해 이미지를 차단한다. LG유플러스는 통화 전 과정에서 발생할 수 있는 보이스피싱 위험을 차단하기 위해 기술을 추가로 확보한다는 계획이다. 스팸과 보이스피싱 의심 전화를 AI가 대신 받아 주는 서비스는 오는 8월에 선보인다. 범죄자 목소리를 탐지하는 시스템도 시험 중이며 올해 4분기 출시가 목표다.

해킹도 초기 대응이 중요 SKT 해킹, 1차 조사 때보다 더 심각두 달 넘게 해킹·피해범위 오리무중피해자 집단소송·번호 이동 위약금회사 귀책사유 입증·약관 따져봐야 보안도 필수 인프라로 정착을 생성형 AI 활용한 해킹 급증하는데 기업·사회의 보안 의식은 ‘제자리’통신·포털사 국가보안시설급 지정대량 개인정보 보유 땐 의무 투자를사이버사고 대응 정부 역할은초연결 시스템 멈추면 전체가 마비북한·중국 해커 공격 위험성도 큰데부처별 대응 체계 나뉘어져 비효율보안 총괄 ‘사이버안전청’ 설립 필요 국내 최대 통신사인 SK텔레콤(SKT)의 해킹 사건은 우리나라 역대 최악의 사이버보안 침해 사고다. 발생한 지 두 달이 넘었지만 아직도 정확한 해킹 경위와 피해 범위는 오리무중이다. 디지털보안에 대한 대응 태세를 근본적으로 재점검해야 한다는 지적이 나온다. 한국정보통신법학회장인 이성엽 고려대 기술경영전문대학원 교수를 지난 13일 만나 사이버보안 강화 방안에 대한 이야기를 들었다. 이 교수는 “점차 고도화되고 있는 해킹 사고가 급증하는데도 보안 의식이 약해 보안 투자가 제대로 이뤄지지 않고 있다”고 말했다. SKT 해킹 사건을 조사 중인 민관합동조사단의 2차 중간조사 결과가 발표된 19일 추가로 전화 인터뷰를 했다. ●SKT 해킹 ‘복제폰 피해’ 가능성은 낮아 -이번 조사 결과가 1차 발표보다 상황이 더 심각한 것 같다. “이번 2차 조사에서는 최초로 고객 단말기에 부여되는 고객단말식별정보(IMEI)가 유출됐을 가능성이 제기됐다. 다만 IMEI가 유출됐다 하더라도 비정상인증차단시스템(FDS) 등의 시스템을 통해 실제 복제폰 피해는 차단할 수 있다. 정부도 삼성·애플 등 제조사는 15자리 IMEI값 단독으로는 단말기 복제가 불가능하다는 입장이라고 설명했다.” -악성코드에 감염된 일부 서버에 담긴 이름 등 중요 개인정보의 유출 가능성도 배제할 수 없는 상황인데. “금융사고 등이 발생하려면 은행 거래 관련 공인인증서 일회용비밀번호(OTP), 개인 비밀번호까지 알아야 한다. 그럴 가능성은 희박하므로 과도하게 불안해할 필요는 없다고 본다.” -피해자들의 집단소송이 본격화되고 있다. “정보 유출로 인한 정신적 피해에 대해서는 위자료 배상이 가능하다. 단 회사의 법 위반 등 귀책사유가 입증돼야 한다. 보통 피해자가 이를 입증해야 하는데 개인정보보호법은 회사가 귀책사유 없음을 입증하도록 하고 있으므로 이 점에서는 입증이 쉬울 수 있다. 또한 징벌적 손해배상 요구도 높은데 회사의 고의나 중과실이 있는 경우 손해액의 5배까지 배상이 가능한 징벌적 손해배상이 도입돼 있다.” -다른 통신사로의 번호 이동에 대한 위약금 면제 이슈도 논란이다. “소비자 입장에서는 자신의 정보 유출에 대한 불안으로 번호 이동을 한다면 응당 위약금을 면제받아야 한다고 생각하게 마련이다. 하지만 약관을 따져 보면 법리상 위약금 면제가 가능하다는 결론을 내는 것은 쉽지 않다. 이런 이유로 정부도 4군데 로펌에서 의견을 받아 놓고도 결론을 내지 못하고 있는 것으로 보인다.” -SKT 약관 때문에 책임을 물을 수 없다는 건가. “약관상 위약금이 면제되는 ‘회사의 귀책사유로 인해 해지할 경우’란 계약의 온전한 이행을 기대할 수 없는 경우, 즉 약관에 따른 이동통신서비스 제공이 불가능하고 그 원인이 회사에게 있는 경우를 의미한다. 하지만 통신서비스가 중단되지 않았고 회사의 과실이나 법 위반이 확정되지 않은 상황이라서 위약금 면제가 어려울 수 있다는 얘기다.” -해킹 사건이 발행한 지 두 달이 넘도록 사고 원인을 찾지 못한 게 더 심각한 문제 아닌가. “2차 조사 결과에 따르면 3년 전 해킹이 시작됐고 약 2700만건의 정보가 유출된 것으로 파악된다. 다만 아직 해커가 경제적 이익을 노린 것인지, 정치적 목적인지는 알 수 없다. 민관합동조사단이 오는 6월 말쯤 최종 결과를 발표할 예정이다.” -해킹 사고로 인한 직접적인 피해는 아니지만 스미싱 피해가 우려된다는데. “이용자 혼란을 악용한 스미싱 등의 피해 발생이 우려된다. 예컨대 예약한 유심 재고가 확보됐다며 교체를 위해 개인정보를 입력하라는 스미싱 사례가 실제로 확인되고 있다. 한국소비자원에서도 해킹 사고를 악용해 소비자원을 사칭하는 스미싱·피싱에 주의를 당부하고 있다. 당분간 이러한 메시지에 주의해야 한다. 의심스러운 문자의 링크는 절대 눌러서는 안 된다.” ●기업들 정보보호 투자, IT 대비 6% 불과 -SKT는 가입자가 가장 많은데 보안 투자는 경쟁회사에 비해 적은데. “국내 기업들의 정보보호 투자 비율은 전체 정보기술(IT) 투자 대비 평균 6%에 불과하다. 미국·유럽의 평균 투자 비율(25%)에 크게 못 미치는 수준이다. SKT의 지난해 정보보호 분야 투자 금액은 본사(600억원), 자회사 SK브로드밴드(267억원) 등 총 867억원으로, 경쟁사인 KT(1218억원), LGU+(631억원)에 비해 적었다. 다량의 개인정보를 보유하고 있을 수 있는 영세업체의 경우 보안 투자 여력이 없는 만큼 정부가 기술적·경제적 지원을 할 필요가 있다.” -해킹 사건의 중대성을 감안해 정부가 나서야 하지 않을까. “산불 등 자연재해 발생 시 정부는 피해가 확산되지 않도록 안내 및 경보 문자를 보낸다. 국민 대다수가 가입한 이동통신사 해킹 사고 등도 즉시 경보를 해야 할 중요한 사안이다. 산불 피해 방지 문자처럼 사이버 침해 사고 시 국민에게 직접적으로 위험성과 대응 방안을 알리는 경보 체계를 갖출 필요가 있다.” -SKT는 6개월 전 정부의 보안인증심사(ISMS)를 받았다고 하는데. “인증 심사 기준 설정 당시보다 고도화된 사이버 침해에 제대로 대응할 수 없다는 게 문제다. 대기업은 인증 기준에 없더라도 수시로 고도화되는 해킹에 대응하는 보안 역량을 지속적으로 강화해야 한다. 이 제도가 보안 강화에 걸림돌이 되는 측면도 있다. 또한 통신업에 특화된 정보보호 체계를 고도화할 필요가 있다.” -최근 생성형 인공지능(AI)이 사이버 범죄에 악용되고 있는데. “생성형 AI의 출현으로 비전문가에 의한 사이버 공격도 훨씬 쉬워졌다. 챗GPT를 활용해 악성 도구를 개발하는 사례가 확인되고 있다. 생성형 AI가 자연스러운 언어 능력을 가지면서 피싱 메일이 증가할 수 있다. 또 생성형 AI는 코딩 능력이 우수한 것으로 알려져 있다. 전문 지식이 부족한 공격자도 랜섬웨어 같은 악성코드 생성, 웹페이지 공격 수단 검색, 취약점 분석, 공격 스크립트 생성 등을 통해 해킹 공격을 할 수 있다.” -반대로 생성형 AI로 사이버보안 대응력을 키울 수 있지 않을까. “AI 기반 보안 관제 등 AI 기술을 이용해 사이버보안을 강화할 수 있다. 사람이 하루에 수백만건에 달하는 보안 위협을 분석하는 것은 불가능한데, AI는 보안 사고로 이어질 가능성이 큰 위협 요인을 찾아내 위협 원인과 추후 공격 양상, 그리고 잠재적인 공격자 등을 식별하는 데 이용될 수 있다.” -우리 사회의 보안 의식이 약한 것 같다. “사이버보안에 안전지대는 없다. 이번 SKT의 정보 유출 같은 사고뿐만 아니라 스미싱, 가족·친구와 똑같은 목소리로 속이는 딥보이스피싱 등이 날로 진화하고 있다. 해커들은 경제적 이익 등을 목적으로 생성형 AI 등을 활용해 보안 방어 체계를 뚫으려고 전력투구하는데 우리 기업에서는 보안을 비용으로만 보고 투자하지 않으려고 한다. 사이버보안이 기업과 사회 전반에 내재된 필수적인 인프라·문화로 정착돼야 한다.” ●인터넷 강국, 스미싱 등 위협에 더 노출 -보안 사고는 이제 개인을 넘어 사회를 위협하는 단계에 왔다. “디지털 사회는 네트워크와 통신, 사이버 공간에 기반한 초연결 구조 위에 작동하는데 이 시스템이 멈추는 순간 사회 시스템 전반이 마비될 수 있다. 통신사, 포털사, 전력·에너지 기업 등은 국가보안시설에 준하는 보안관리 체계(주요 정보통신기반 보호시설)로 지정할 필요가 있다. 또한 대량의 개인정보를 보유한 대기업에 대해서는 전체 IT투자 대비 정보보호 투자액의 하한선을 가이드로 마련할 필요도 있다.” -정부의 사이버 사고 대응 체계는. “국정원과 행정안전부가 공공부분 사이버보안, 과학기술정보통신부가 민간부분 사이버보안, 개인정보보호위원회가 공공·민간 해킹으로 인한 개인정보 유출 시 조사·제재, 경찰이 사이버 범죄 수사 등을 담당하고 있다.” -여러 부처로 나뉘어 있는 대응 체계의 문제점은 없나. “다층적인 시스템으로 인해 비효율적인 중복 조사·수사, 인력의 전문성 부족, 상시적인 보안·안전 정책 부족 문제가 발생하고 있다. 사이버보안 이슈의 컨트롤타워 역할을 하는 정부 조직이 필요하다. 차기 정부는 ‘사이버안전청’(가칭)을 설립해 사이버보안 기술·정책 개발, 사이버 침해 및 개인정보 유출 조사·제재를 총괄하는 전문기관 역할을 맡겼으면 한다.” -사이버보안을 담당하는 정부 조직까지 필요한 이유는. “우리나라는 인터넷 강국으로, 다른 나라보다 초연결 네트워크 사회다. 스미싱, 딥보이스 등의 위협에 더 노출돼 있다. 특히 북한과 중국의 해커 공격을 받을 수 있다. 안보 차원에서도 이런 취약성을 강화해야 한다.” ■ 이성엽 교수는 고려대 법학과, 서울대 행정대학원, 미국 미네소타대 로스쿨을 졸업한 후 미국 변호사 자격을 취득했고, 서울대에서 법학 박사학위를 받았다. 제35회 행정고시 출신으로 정보통신부, 김앤장 등 민관분야에서 두루 경험을 쌓아 현장과 실무도 밝다. 한국정보통신법학회장, 한국데이터법정책학회장을 맡고 있고 국가데이터정책위원, 개인정보위 규제심사위원장으로 활동하는 ICT 분야 권위자이다. 최광숙 대기자

선관위에 769건 삭제 요청 접수작년 국회의원 선거의 두배 수준유권자 혼란 우려… 18명 수사 중李 대행 “중대한 범죄” 단속 지시 21대 대통령 선거 공식 선거운동이 시작된 가운데 “대한민국을 중국 속국으로 만들겠다”, “신전체주의를 시작하겠다” 등 조작된 내용을 후보 얼굴에 입혀 공격하는 방식의 딥페이크(허위 사진·영상·음성 편집기술)가 소셜미디어(SNS)와 온라인 커뮤니티에 넘쳐나고 있다. 현재까지는 조악한 영상이 대부분이지만, 그럴듯한 딥페이크가 ‘가짜뉴스’에 활용될 경우 유권자 혼란이 커질 것으로 우려된다. 이날 서울신문 취재를 종합하면, 중앙선거관리위원회(선관위)가 대선과 관련해 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 딥페이크 영상물은 지난달 4일부터 지난 11일까지 한 달여간 총 769건으로 집계됐다. 지난 8일까지 598건이었는데 사흘 만에 171건이 늘었다. 지난해 총선 기간(1월 29일~4월 10일) 선관위가 삭제 요청한 딥페이크 영상물이 388건이라는 점을 감안하면 얼마 안된 시점에 이미 삭제 요청 건수가 2배에 육박한 것이다. 지난해 공직선거법 개정으로 선거 90일 전부터 딥페이크 영상물로 선거 운동을 할 경우 5년 이하 징역 또는 5000만원 이하 벌금형을 받게 된다. 후보자 비방뿐만 아니라 지지를 받은 것처럼 조작하거나 일정 등을 홍보하기 위해 ‘딥보이스’(인공지능으로 합성된 음성)를 쓰는 행위도 금지된다. 법 개정 이후 22대 총선이 치러졌지만 공직선거법을 적용해 선관위가 수사를 의뢰하거나 경찰이 검찰에 송치한 사례는 단 한 건도 없었다. 처벌 요건이 까다로워서다. 인공지능(AI)으로 만들었더라도 실제와 구분할 수 있거나 ‘선거 운동을 위해 만들었다’는 목적성이 입증되지 않은 단순 풍자 등은 공직선거법을 적용하기 어렵다. 양홍석 법무법인 이공 변호사는 “영상이나 음향이 실제 인물과 유사하더라도 ‘허위’라는 걸 인식할 수 있다면 처벌이 어려울 수 있다”고 말했다. 이번 대선에선 동영상 생성 AI ‘소라’(Sora) 등 생성형 AI 기술이 대중화돼 딥페이크 영상물이 늘어나고 있는 만큼 형사처벌 사례가 나올 가능성도 있다. 선관위 삭제 요청을 받아 관련 영상을 삭제 조치하는 KISO의 한 관계자는 “기술에 익숙하지 않은 고령층일수록 가짜인지 알기 어렵고, 딥보이스는 누가 들어도 구분하기 어려워 문제”라고 설명했다. 이와 관련해 경찰은 대선 관련 딥페이크 영상물 8건(18명)을 수사 중이라고 이날 밝혔다. 이재명 더불어민주당 대선 후보가 부인인 김혜경 여사에게 험악한 호칭을 쓰며 나무라는 딥페이크 영상 등이 유포되자 민주당은 경찰에 고발장을 접수하기도 했다. 이주호 대통령 권한대행 부총리 겸 교육부 장관은 이날 “불법 딥페이크 영상 등은 선거의 정당성을 흔들 수 있는 중대한 범죄”라며 법무부와 경찰청에 사전 예방과 엄정 단속을 지시했다. 선관위 관계자는 “악의적인 딥페이크가 발견되면 고발 등 엄중히 조치할 예정”이라고 밝혔다.

21대 대통령 선거 공식 선거운동이 시작된 가운데 “대한민국을 중국 속국으로 만들겠다”, “신전체주의를 시작하겠다” 등 조작된 내용을 후보 얼굴에 입혀 공격하는 방식의 딥페이크(허위 사진·영상·음성 편집기술)가 소셜미디어(SNS)와 온라인 커뮤니티에 넘쳐나고 있다. 현재까지는 조악한 영상이 대부분이지만, 그럴듯한 딥페이크가 ‘가짜뉴스’에 활용될 경우 유권자 혼란이 커질 것으로 우려된다. 이날 서울신문 취재를 종합하면, 중앙선거관리위원회(선관위)가 대선과 관련해 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 딥페이크 영상물은 지난달 4일부터 지난 11일까지 한 달여간 총 769건으로 집계됐다. 지난 8일까지 598건이었는데 사흘 만에 171건이 늘었다. 지난해 총선 기간(1월 29일~4월 10일) 선관위가 삭제 요청한 딥페이크 영상물이 388건이라는 점을 감안하면 얼마 안 된 시점에 이미 삭제 요청 건수가 2배에 육박한 것이다. 지난해 공직선거법 개정으로 선거 90일 전부터 딥페이크 영상물로 선거 운동을 할 경우 5년 이하 징역 또는 5000만원 이하 벌금형을 받게 된다. 후보자 비방뿐만 아니라 지지를 받은 것처럼 조작하거나 일정 등을 홍보하기 위해 ‘딥보이스’(인공지능으로 합성된 음성)를 쓰는 행위도 금지된다. 법 개정 이후 22대 총선이 치러졌지만 공직선거법을 적용해 선관위가 수사를 의뢰하거나 경찰이 검찰에 송치한 사례는 단 한 건도 없었다. 처벌 요건이 까다로워서다. 인공지능(AI)으로 만들었더라도 실제와 구분할 수 있거나 ‘선거 운동을 위해 만들었다’는 목적성이 입증되지 않은 단순 풍자 등은 공직선거법을 적용하기 어렵다. 양홍석 법무법인 이공 변호사는 “영상이나 음향이 실제 인물과 유사하더라도 ‘허위’라는 걸 인식할 수 있다면 처벌이 어려울 수 있다”고 말했다. 이번 대선에선 동영상 생성 AI ‘소라’(Sora) 등 생성형 AI 기술이 대중화돼 딥페이크 영상물이 늘어나고 있는 만큼 형사처벌 사례가 나올 가능성도 있다. 선관위 삭제 요청을 받아 관련 영상을 삭제 조치하는 KISO의 한 관계자는 “기술에 익숙하지 않은 고령층일수록 가짜인지 알기 어렵고, 딥보이스는 누가 들어도 구분하기 어려워 문제”라고 설명했다. 이와 관련해 경찰은 대선 관련 딥페이크 영상물 8건(18명)을 수사 중이라고 이날 밝혔다. 이재명 더불어민주당 대선 후보가 부인인 김혜경 여사에게 험악한 호칭을 쓰며 나무라는 딥페이크 영상 등이 유포되자 민주당은 경찰에 고발장을 접수하기도 했다. 이주호 대통령 권한대행 부총리 겸 교육부 장관은 이날 “불법 딥페이크 영상 등은 선거의 정당성을 흔들 수 있는 중대한 범죄”라며 법무부와 경찰청에 사전 예방과 엄정 단속을 지시했다. 선관위 관계자는 “위반 정도가 경미하고 전파성이 낮은 게시물은 삭제 요청 중”이라면서 “악의적인 딥페이크가 발견되면 고발 등 엄중 조치할 예정”이라고 밝혔다.

유명 연예인과 여성 아이돌 그룹 멤버 등의 성적 허위 영상물(딥페이크)을 제작해 유포하고 대화방에서 영상물을 돌려 본 남성 100여 명이 무더기로 경찰에 붙잡혔다. 피해자만 100여 명에 이른다. 경기북부경찰청 사이버범죄수사2대는 아동청소년의성보호법, 성폭력범죄의처벌등에관한특례법 등 위반 혐의로 텔레그램 대화방 운영자 23명을 검거하고, 이 중 13명을 구속 송치했다고 11일 밝혔다. 또 대화방에 참여했던 60여 명을 추가로 검거했다. 대화방 운영자인 30대 남성 A씨는 지난해 8월부터 올해 3월까지 자신이 좋아하는 여성 아이돌 그룹 멤버 등 연예인 30여 명을 대상으로 성적 허위 영상물 1천 100여 건을 제작해 텔레그램 방에서 유포한 혐의를 받는다. 또 다른 채팅방 운영자인 30대 남성 B씨는 아이돌과 배우, 인터넷 개인방송 진행자 등 총 70여 명을 대상으로 150건의 성적 허위 영상물을 제작해 회원 360여 명과 공유했다. B씨는 ‘딥보이스’ 기술을 이용해 연예인이 실제로 저속한 말을 하는 것처럼 영상을 조작하기도 했다. 20대 남성 C씨는 B씨의 채팅방에서 자신이 아는 중학교 동창 등 일반인을 대상으로 300여 건의 성적 허위 영상물을 제작해 공유한 것으로 드러났다.

“아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘. 나중에 설명할게.” 울먹이며 읍소하는 목소리는 대학교수 A씨가 30년간 들었던 외동딸의 진짜 목소리였다. 돈을 보내려던 A씨는 혹시나 하는 마음에 다시 딸에게 전화를 걸었다. 그러자 “아, 보이스피싱인가봐”라는 답이 돌아왔다. 휴대전화 속 목소리는 인공지능(AI) 기술로 딸의 목소리를 흉내 낸 것이었다. AI 기술이 발전하면서 이를 악용한 범죄가 진화하고 있다. 과거 보이스피싱이 지인의 목소리를 어설프게 흉내내거나 공공기관을 사칭하는 방식이었다면, 이제는 실제 목소리 정보를 AI로 합성해 조작한다. 이른바 ‘딥보이스’는 먼저 목소리 정보를 얻어낼 상대방에게 전화를 걸어 짧게 통화하는 것으로 시작된다. 이 목소리 데이터를 AI프로그램에 합성하면 가족이나 지인의 음성을 유사하게 만들어 낼 수 있다. 실제 서울신문이 한 딥보이스 앱에 목소리 녹음 파일을 올리자 30초도 채 안 돼 패턴과 속도 등을 분석했다. 이후 “엄마 핸드폰이 고장 나서 그런데 100만원 입금해줘”라는 문장을 글로 입력하고, 상황 등을 설정하자 녹음파일의 목소리와 비슷한 음성이 흘러나왔다. 법무법인 청의 곽준호 변호사는 “목소리 녹음 파일만 있으면 누구나 쉽게 AI로 그럴듯하게 목소리를 만들어 내 범죄에 악용할 수 있다”고 했다. 경찰 관계자도 “목소리를 수집하는 역할을 하는 ‘콜센터’를 검거하기가 쉽지 않다”면서 “이런 유형의 보이스피싱이 빈번해지고 있다”고 전했다. 경찰청에 따르면 지난해 보이스피싱 피해액은 8545억원으로 1년 전보다 91% 늘었다. 하지만 최신 기술인 딥보이스가 악용된 경우가 얼마나 되는지는 공식 통계조차 잡히지 않는다. AI 기술로 조작되는 것은 목소리뿐만이 아니다. 카카오톡 프로필 사진 등 얼굴 사진을 도용해 영상과 사진으로 만드는 범죄도 여전히 잦다. 이미 심각한 사회문제가 된 딥페이크 성범죄뿐 아니라 최근에는 인터넷은행의 생체 인증 서비스를 딥페이크로 뚫으려다 적발된 사례도 있다. 금융권에 따르면 지난달 한 인터넷은행에서는 고객 개인정보를 탈취한 이들이 면허증의 사진 등을 AI로 조작해 얼굴 인식 등 금융사의 생체인증을 뚫으려고 시도했다. 황석진 동국대 국제정보보호대학원 교수는 “기술의 발전으로 피해자들이 더 쉽게 속아 넘어갈 수 있게 됐다”며 “AI를 이용한 범죄의 피해 규모를 파악하고 대응법을 마련해야 한다”고 말했다.

“아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘. 나중에 설명할게.” 울먹이며 읍소하는 목소리는 대학교수 A씨가 30년간 들었던 외동딸의 진짜 목소리였다. 돈을 보내려던 A씨는 혹시나 하는 마음에 다시 딸에게 전화를 걸었다. 그러자 “아, 보이스피싱인가봐”라는 답이 돌아왔다. 휴대전화 속 목소리는 인공지능(AI) 기술로 딸의 목소리를 흉내 낸 것이었다. AI 기술이 발전하면서 이를 악용한 범죄가 진화하고 있다. 과거 보이스피싱은 가족과 지인의 목소리를 어설프게 흉내 냈다면, 이제는 실제 목소리 정보를 AI로 합성해 조작한다. 카카오톡 프로필 사진 등을 활용해 AI 조작 영상이나 사진을 만든 뒤 금융회사의 인증망을 뚫으려고 하거나 공문서를 손쉽게 조작하다 적발되기도 한다. 이른바 ‘딥보이스’는 먼저 목소리 정보를 얻어낼 상대방에게 전화를 걸어 짧게 통화하는 것으로 시작된다. 이 목소리 데이터를 AI프로그램에 합성하면 가족이나 지인의 음성을 유사하게 만들어 낼 수 있다. 실제 서울신문이 한 딥보이스 앱에 목소리 녹음 파일을 올리자 30초도 채 안 돼 패턴과 속도 등을 분석했다. 이후 “엄마 핸드폰이 고장 나서 그런데 100만원 입금해줘”라는 문장을 글로 입력하고, 상황 등을 설정하자 녹음파일의 목소리와 비슷한 음성이 흘러나왔다. 법무법인 청의 곽준호 변호사는 “목소리 녹음 파일만 있으면 누구나 쉽게 AI로 그럴듯하게 목소리를 만들어 내 범죄에 악용할 수 있다”고 했다. 경찰 관계자도 “목소리를 수집하는 역할을 하는 ‘콜센터’를 검거하기가 쉽지 않다”면서 “이런 유형의 보이스피싱이 빈번해지고 있다”고 전했다. 경찰청에 따르면 지난해 보이스피싱 피해액은 8545억원으로 1년 전보다 91% 늘었다. 하지만 최신 기술인 딥보이스가 악용된 경우가 얼마나 되는지는 공식 통계조차 잡히지 않는다. 황석진 동국대 국제정보보호대학원 교수는 “그동안 가족이나 친구의 목소리를 흉내 내는 방식은 성공률이 낮은 편이었지만, 기술의 발전으로 피해자들이 더 쉽게 속아 넘어갈 수 있게 됐다”며 “정확한 피해 규모를 파악하는 게 우선”이라고 말했다. AI 기술로 조작되는 것은 목소리뿐만이 아니다. 카카오톡 프로필 사진 등 얼굴 사진을 도용해 영상과 사진으로 만드는 범죄도 여전히 잦다. 이미 심각한 사회문제가 된 딥페이크 성범죄뿐 아니라 최근에는 인터넷은행의 생체 인증 서비스를 딥페이크로 뚫으려다 적발된 사례도 있다. 금융권에 따르면 지난달 한 인터넷은행에서는 고객 개인정보를 탈취한 이들이 면허증의 사진 등을 AI로 조작해 얼굴 인식 등 금융사의 생체인증을 뚫으려고 시도했다. AI프로그램에 사진을 넣은 뒤 영상을 만들었고, 이를 이용해 스마트폰 얼굴 인식으로 본인 인증을 시도한 것이다. 하지만 수상함을 감지한 은행이 이들을 적발했고, 수사기관에 넘겼다. 법원의 압수수색·구속영장 허가서나 피의사건 처분결과 통지서 등을 공문서 조작은 더 쉬워졌다. 실제로 챗GPT에 ‘전자금융사기’ 죄목으로 ‘압수수색·구속영장 허가서’ 양식을 작성해달라고 요청하면, 사건 개요, 사건명, 관련 법률 등 필요 항목을 정리해준다. 여기에 더 정밀한 명령어를 내려 실제 문서까지 만들 수 있다고 한다. 법무법인 YK의 고두희 변호사는 “한국말을 잘 모르는 외국인 범죄자들이 AI를 통해 한국 수사기관의 공문서를 위조하기도 한다”고 전했다. 이처럼 범죄에 AI가 악용되는 경우가 늘어나고 있는 만큼 수사기관의 대응도 강화해야 한다는 지적이 나온다. 이건수 백석대 범죄수사학과 교수는 “기술이 좀 더 발전해 정교해진다면 조작된 목소리나 얼굴로 사람은 물론 디지털 인증 체계까지 속일 수 있다”며 “AI가 범죄에 활용되는 통계 집계부터 시작해 진화하는 수법에 대응하는 방법을 고민해야 할 시기”라고 말했다.

2028년까지 5000억 가치 창출AWS·日 통신사와도 협업 추진 홍범식(57) LG유플러스 대표가 “인공지능(AI) 시대엔 (우리가) 후발주자 아닌 선발주자가 될 수 있다”며 자신감을 드러냈다. 그러면서 “최근 구글과의 제휴를 통해 2028년까지 3억 달러, 약 4500억~5000억원의 가치를 창출하자는 목표를 세웠다”면서 “구글뿐 아니라 아마존웹서비스(AWS)와도 협업하기로 했으며, 일본의 통신사 KDDI로부터도 제안받아 검토하고 있다”고 했다. 지난해 12월 취임한 홍 대표는 지난 4일(현지시간) 세계 최대 정보통신기술 박람회 ‘모바일 월드 콩그레스’(MWC) 행사 기간에 취재진과 간담회를 열고 “AI 시대에 (LG유플러스가) 어떤 포지셔닝을 할 수 있을지 고민했는데, 어쩌면 우리가 (이 시대를) 선도할 수도 있겠다는 생각이 들었다”고 말했다. 그러면서 “(MWC에) 와서 보니 우리가 준비된 게 많은 것 같다”며 “통신회사는 글로벌로 가기 어렵지만, AI 시대엔 다르다. 우리에게 글로벌 잠재력이 꽤 있다고 생각한다”고 했다. 홍 대표가 이러한 자신감을 내비치는 배경엔 LG그룹이 지난 5년간 1500억원을 투자해 만든 거대언어모델(LLM) ‘엑사원’이 있다. 그룹 주도하에 LG AI연구원이 개발한 엑사원을 통신 분야에 특화해 학습시킨 소형언어모델(SLM)이 ‘익시젠’이고, 이를 기반으로 통화 요약과 보이스피싱 등 사용자 통화를 도울 수 있도록 한 게 ‘익시오’다. 지난 12월 아이폰용으로 출시된 익시오는 지난 2월까지 20만명의 가입자를 모았고, 이달 삼성 갤럭시 S25에서 사용 가능한 익시오가 출시된다. LG유플러스는 상반기까지 가입자를 100만명까지 늘리겠다는 목표다. LG유플러스는 AI 시대 핵심 가치를 ‘보안’이라고 봤다. MWC에서 ‘안심 지능’을 내걸고 소개한 기술 역시 보안·안전에 관한 것으로 AI로 조작된 목소리를 잡는 ‘안티딥보이스’ 기술이 대표적이다. 이는 양자컴퓨팅 파워로도 풀 수 없는 양자암호(PQC) 보안 기술과 함께 글로벌 최초 상용화에 성공한 기술이다.

‘융합하라·연결하라·창조하라’ 주제통신 3사 등 국내 190개 기업 참여AI 활용한 통신 보안 솔루션 주목최신 6G 기술·휴머노이드도 눈길 ‘융합하라, 연결하라, 창조하라’ 세계 최대 정보통신(ICT) 박람회 ‘모바일 월드 콩그레스(MWC) 2025’가 3일(현지시간) 스페인 바르셀로나에서 이러한 주제로 열린다. 지난해 화두였던 인공지능(AI)뿐 아니라 AI가 적용되는 각종 기술이 시연되며, 차세대 통신 기술인 6G(6세대)는 물론 최근 대중의 관심을 가장 많이 끄는 로봇 기술도 자리한다. 올해 MWC에선 AI 등 첨단 기술이 통신뿐 아니라 금융, 제조·생산, 엔터테인먼트 등 다른 산업과 어떻게 결합하는지를 진단하고 미래상을 제시한다. 지난 1월 미국 라스베이거스에서 열린 ‘CES 2025’에서도 전 산업의 AI화(化)가 전체 전시를 관통하는 주제였던 것과 마찬가지다. 개막 다음날 기조연설자로 프랑스 AI 기업 미스트랄 공동 창업자인 아서 멘슈가 등장하며, ‘특이점이 온다’의 저자인 미국 미래학자 레이 커즈와일도 이번 행사에 참여할 것으로 전해졌다. 국내 주요 기업들도 AI 기술을 대거 선보이는데, AI 기업으로의 전환에 속도를 내는 이동통신 3사가 대표적이다. SK텔레콤은 통신 분야에서 기지국 장비에 다양한 칩셋을 적용한 ‘AI 기지국’(AI-RAN)과 함께, 통신 특화 거대언어모델(LLM)을 적용한 ‘텔코 AI 에이전트’를 선보인다. KT는 광화문빌딩 WEST 사옥을 모티브로 전시 부스 내 ‘K-오피스’ 존을 마련하고 K-AI 모델을 활용해 업무 효율화를 돕는 ‘AI 에이전트 솔루션’을 공개한다. 올해 처음 단독 부스를 마련한 LG유플러스는 AI를 활용한 ‘안티딥보이스’ 등 안심 지능 기술을 중점적으로 소개한다. 5G(5세대)보다 훨씬 빠른 전송 속도를 자랑하는 6G도 주목할 만하다. 국내에선 한국전자통신연구원(ETRI)이 위성 통신, 국방 5G 네트워크를 포함해 차세대 6G 관련 최신 연구 성과를 선보였다. ETRI는 2030년 상용화를 목표로 6G 이동통신 기술을 개발하고 있는데, 이번 전시에서는 초대규모 다중입 출력, 가상 무선 접속 네트워크, 서브 테라헤르츠, 무선 전송 등 6G 핵심 기술을 소개한다. 노키아, 에릭슨, 퀄컴 등 글로벌 ICT 기업 역시 6G 기반 서비스와 애플리케이션, 6G 보안 기술 등을 공개한다. AI 기술이 발달하면서 고도화되는 로봇 관련 기술들도 전시된다. SK텔레콤은 자사의 정밀 측위·자율주행 기술인 ‘VLAM’을 공개하는데, 해당 기술은 다양한 산업 환경에서 로봇의 자율주행을 도움으로써 복잡한 공간에서도 보다 정확하게 움직일 수 있도록 한다. LG유플러스는 디지털 휴먼 ‘나이비스’와 2족 보행 휴머노이드 로봇 ‘앨리스’를 배치하는데, 나이비스는 LG유플러스의 생성형 AI ‘익시젠’과 SM엔터테인먼트가 협업해 만든 버추얼 아티스트다. AI 익시가 탑재된 로봇 제조사 에이로봇의 2족 보행 로봇 ‘앨리스’는 관람객에게 가벼운 퀴즈를 내고 정답을 맞히면 음료를 선물하는 등 관람객과 소통한다. 올해 MWC엔 세계적으로 2700여개 기업이 참가한다. 국내 참가 기업은 190여개사로 스페인과 미국, 중국에 이어 네 번째로 많다. 오는 6일까지 나흘간 열리는 이번 행사엔 관람객 10만명 이상이 참석할 것으로 전망된다. 유상임 과학기술정보통신부 장관도 참석해 국내 스타트업과 중소기업 부스를 방문한다.

SKT, 로봇 자율주행 기술 등 소개KT, 오감으로 통화 멀티모달 경험LGU+, 위조된 음성 판별 AI 공개이동통신 3사를 비롯한 국내 기업들이 다음달 열리는 세계 최대 정보통신기술 박람회 ‘모바일 월드 콩그레스(MWC) 2025’에서 차세대 인공지능(AI) 관련 혁신 기술을 총망라해 선보인다. 25일 통신업계에 따르면 SK텔레콤과 KT, LG유플러스는 다음달 3일(현지시간)부터 6일까지 스페인 바르셀로나에서 ‘융합, 연결, 창의’를 주제로 열리는 MWC25 전시장에 각각 992㎡, 383㎡, 792㎡ 규모의 전시관을 운영한다. 올해 창사 이래 처음으로 단독 전시관을 내는 LG유플러스는 이번 행사에서 자사의 AI 에이전트인 ‘익시오’에 적용할 안티딥보이스와 양자내성암호(PQC) 등을 공개한다. 안티딥보이스는 기계로 위조된 음성을 판별해 주는 AI로 진짜 사람 목소리와 AI가 위조한 목소리를 학습해 이를 구별함으로써 보이스피싱 탐지에 쓰일 전망이다. PQC는 양자컴퓨터로도 풀 수 없는 난제를 기반으로 설계된 암호 기술로 익시오 이용 고객이 스마트폰을 잃어버리더라도 타인이 고객 정보를 열람할 수 없도록 하는 서비스를 제공할 예정이다. SK텔레콤 역시 첨단 통신 기술과 AI를 접목해 건설 현장의 안전과 효율을 높이는 로봇 자율주행 기술과 금융 보안 솔루션 등을 소개한다. ‘VLAM’은 공간 분석 AI와 정밀 측위 AI를 활용해 로봇에 탑재된 카메라 영상을 실시간으로 분석해 위치를 정밀하게 파악하는 자율주행 기술이다. 이를 통해 복잡한 건설 환경이나 병동에서도 로봇이 보다 정확하고 안전하게 이동할 수 있다. 통신 빅데이터 기반 AI 솔루션인 ‘FAME’은 개인과 기업이 모두 활용할 수 있는 모델로 금융·보험 사기를 예방하는 데 도움을 준다. 올해 전시관 규모를 지난해보다 1.7배나 키운 KT는 미래 네트워크를 소개하는 K-랩 공간에서 KT 네트워크의 비전을 제시한다. 방문객들은 미래형 통화 서비스인 멀티모달 통신을 직접 체험할 수 있는데, 이는 AI가 의도를 파악하고 맥락을 이해해 기존 음성, 영상을 비롯한 실감형(오감) 통화를 제공하는 서비스를 말한다. 가령 통화 중 AI가 향기(후각)를 내게끔 하는 등의 기술이다. 5G 정밀 측위 기술인 ‘엘사’를 비롯해 스미싱·스팸 차단 기술, AI 기반 영상 분석 솔루션이 적용된 보안 기술 등도 공개될 예정이다. 올해 MWC에 참가하는 전 세계 기업은 2780곳으로 이 중 한국 기업은 187곳에 이른다. 스페인, 미국, 중국에 이어 참가기업 수 기준 4위다.

경북도의회 기획경제위원회(위원장 이선희)는 지난 11일 경북바이오산업연구원, 경북연구원, 자치경찰위원회에 대한 2024년도 행정사무감사를 실시했다. 먼저 현장에서 진행된 경북바이오산업연구원 감사에서 김창혁(구미) 위원은 “연구 실적을 보면 경북도 위탁사업이 대다수이며, 위탁사업에만 안주하지 않고 꾸준히 경쟁력을 강화하여 국책과제를 많이 가져오는 것이 중요하다”고 강조하는 한편, 연구원별 연구 실적차가 큰 점을 가리며, “업무분장과 업무량 안배에 신경써서 인력 외부 유출을 막고, 목적이 불분명한 곁가지 사업을 정리해 경영 효율성을 제고해야 한다”고 당부했다. 김홍구(상주) 위원은 “연구 과제 분야가 제한적이고 제품화 비율이 낮다며, 설립목적에 맞게 연구과제를 발굴하고 미래산업 육성을 위해 중점을 둬야할 부분에 집중해야 한다”고 강조하는 한편, “인력 부족으로 업무 부하가 크면서도 일부 연구원의 외부 출장이 잦은데, 근무 여건을 개선하고 출강 허가 시 사전 통제를 통해 업무효율을 높여야 한다”고 당부했으며, 장비의 활용률이 낮은 점을 지적하며 장비 운용의 효율성을 높일 것을 주문했다. 박선하(비례) 위원은 “설립한 지 20년이나 됐는데 예산이나 외부 여건을 이유로 삼는 것은 핑계에 불과하다”며 연구원의 장애인 의무 고용치 미달을 지적하면서, “ESG경영을 위해서라도 장애인 고용을 확대해야 한다”고 강조하는 한편 “감사 결과 부정을 발견하여 이사회에 보고된 바가 전혀 없다는 것은 감사의 역할이 제대로 작동하지 않는다는 것”이라며 “현재 비상임으로 선임한 감사를 상임으로 선임하여 감사 업무를 조속히 정상화해야 한다”고 촉구했다. 이칠구(포항) 위원은 “백신상용화센터장의 공석이 오래 지속되었고, 직무대리자의 업무 부담이 과중해 업무수행에 지장이 있어 보인다”고 지적하며 “경북도 및 안동시와 함께 지혜를 모아 조직 및 내부 인사에 대한 근본적인 고민을 통해 대책을 마련해 사업 성과도 올리고 연구원 안팎의 어려움을 해결해야 한다”고 주문했다. 이형식(예천) 위원은 “일부 연구원들의 경우 24년도 연구 실적이 전무한데, 이는 연구원 본연의 역할에 소홀한 것”이라고 지적하는 동시에 연구원의 외부 출강이 빈번함을 지적하며 “이는 관리 역량의 부족으로 인한 조직의 해이이며, 조직 점검을 통해 복무 관리를 시급히 개선해야 한다”고 강조했다. 임병하(영주) 위원은 “산업용 헴프 규제자유특구가 올해로 4년을 채우고 만료되는데 그동안의 성과를 보면 매우 저조하다”고 안타까움을 드러내며 “국책과제 수주와 내부 인사 문제 개선을 통해 연구원 역량을 강화해 어려움을 돌파해야 한다”고 주문했다. 최태림(의성) 위원은 “초창기 농산물 제품 개발에 많은 기대를 걸었으나 결과를 보니 실망스럽다”며 “새로운 변화를 통해 미래 농업에 집중하고 지역별 농업 특성에 부합한 신제품을 연구 개발하여 새로운 농촌 경제를 창출해야 한다”고 조언했다. 또한 “개발한 제품에 대해 소비자에게 보다 적극적으로 홍보하여 제품 수요를 창출하려는 노력도 동반해줄 것”을 당부했다. 황명강(비례) 위원은 “리더십 항목에서 저조한 점수와 예산 관리 항목에서 8점 만점에 5.22점을 받는 등 ESG경영평가 결과가 전반적으로 좋지 않다”고 지적하며, 연구원의 높은 이직률에 대해서는 “연구 인센티브 강화나 관사 제공과 같이 연구원 내 스스로 해결 방안을 도출해야 한다”고 주문하는 한편 “헴프 연구는 농가 소득 증가가 목표인데, 외래종을 대신할 국산종을 개발하여 로얄티 부담을 줄일 수 있도록 해야 한다”고 주문했다. 손희권(포항) 부위원장은 아파트형 공장에 상주 인원이 1명 이하의 입주기업이 상당수라고 지적하면서, “단순 공실 채우기가 아닌 필요한 기업에 대한 지원으로 이어져야 한다”고 당부하며 “산업용 헴프 규제자유특구가 기간 만료에도 헴프 재배산업과 첨단산업의 접목이라는 당초 방향성과는 차이가 있고 관련 법 규정이 완화되지도 않아 다른 기업과 타지역의 움직임을 파악해 규제 완화 시 우리 지역이 산업을 선도할 수 있도록 해야 한다”고 강조하며 “국가첨단전략사업 바이오특화단지 육성사업과 경북바이오산업엑스포 추진에는 특구와 같은 시행착오가 없도록 차질없이 추진해야 한다”고 당부했다. 이선희(청도) 위원장은 “금년도 개최된 이사회에 이사 13명중 7명이 참석하고 개최 실적도 저조할 뿐만 아니라 중요한 의결사항에 대한 의결 요건이 지나치게 단순해 이사회의 운영 전반이 상당히 부실하다”고 지적하며 “정관에는 규정을 통해 수익사업을 가능케 하는 조항이 있는데도 규정을 만들고 있지 않는 등 경영상의 허점이 많다”면서 “법정 의무인 경영공시 이행에 철저를 기할 것”을 주문했다. 다음으로 경북연구원 감사에서 김창혁 위원은 “행정통합이 합당하다고 판단했다면 애초 대구경북연구원의 기관분리한 이유가 이해가 되지 않는다”며 “양 단체장 중 어느 쪽의 주장이 바뀌더라도 연구 활동은 객관적인 중립성을 지켜야 한다”고 강조하며 “연구원 청사 건립 계획에 3.3㎡ 당 현재 평균적으로 1300만원에서 1500만원에 달하는 공사비를 1000만원으로 과소 산출한 것”이라고 질책했다. 김홍구 위원은 “행정통합에 대한 연구에 본격적으로 착수하기 이전에 시군의 의견에 대한 조사가 이행되지도 않는 등 사전 작업이 매우 부실했다”며 “연구 수행이 도정 시책에 이끌릴 것이 아니라 연구원의 본분에 따른 객관적인 연구를 바탕으로 한 직언이 필요하다”고 강력히 주문했다. 박선하 위원은 “경북연구원이 도정 비전을 중심으로 종합적인 연구를 수행한다고 하나 실질적으로는 이차전지부터 농산물 유통에 이르기까지 방대한 분야의 연구 추진으로 연구를 제대로 수행할 전문가가 있는지도 의심된다”면서 “시군정책연구단의 성과가 미흡한데, 지역 소통 전문인력이나 다양한 계층을 대변할 수 있는 인적 자원을 통해 각 지역의 수요가 있는 사업을 발굴해나가야 한다”고 촉구했다. 이칠구 위원은 “행정통합 권역별 주민 설명회는 정책 추진 전에 선행되어야 할 것을 사후약방문식으로 진행된 것이며, 그마저도 형식적인 절차에 그치고 있다”며, “행정통합에 따른 특례와 차별점에 대한 내용이 부족하고 무엇보다 향후 특례 시행여부가 불투명하다는 점이 문제”라고 지적했다. 임병하 위원은 “경북·대구 행정통합을 위한 특별법 제정의 유사 사례로 제주, 강원, 전북 등을 들었는데, 해당 지역의 사례는 경북·대구와 인구, 산업, 자연환경 등 기본 조건 자체가 다르다”고 꼬집으며 “도민의 삶에 큰 영향을 미치는 정책인 만큼 신중한 연구와 판단이 필요하다”고 강조했다. 이형식 위원은 “행정통합에 따른 권역별 발전 전략을 보면 애초 도에서 언급한 사업 외에 새로운 전략이 없을뿐더러 통합을 전제로 한 내용들이 난무하고 있는데, 이것은 경북연구원의 연구활동이 중립성을 잃고 도지사의 주장대로 치우친 결과”라고 질타하며 “2026년 행정통합이 합당하다고 전제했다면 경북연구원 전용 청사 건립 계획을 제출하는 것은 이치에 맞지 않는다”고 날카롭게 지적했다. 최태림 위원은 “기관 분리 후 이탈하는 연구원은 많은데 인력 충원은 잘 이뤄지지 않고 있다”고 지적하며 “지금은 조직 확장보다는 자체 점검과 재구성을 통해 내부를 탄탄히 하여 연구원이 쌓아온 신뢰를 더 이상 훼손하지 않는 것이 중요하다”고 조언했다. 황명강 위원은 “정원대비 현원이 30명 가까이 차이나고 있는데, 정상적인 과업 달성이 불가능한 수준이라며 책임감을 갖고 인원부족 문제를 해결해야 한다”고 지적하며 “2025 아시아태평양경제협력체 경주회의에 막대한 예산이 투입되고 있는데다 수 많은 부대사업과 다양한 콘텐츠 개발이 제대로 된 체계에 이뤄지도록 경북연구원이 정책적인 중심을 잡아야 한다”고 주문했다. 손희권 부위원장은 “공공배달앱 ‘먹깨비’의 추진방향 수립을 위한 운영 효과성 분석에서 공공배달앱의 지속가능 여부에 대한 진단이 포함되어 있지 않은 등 방향 수립의 기초 근거가 불명확하다”고 지적하는 한편 “경북은 바다를 접하고 있어 해양 분야에 강점을 보이는데 연구원에서는 해양과 관련된 연구 역량을 강화해야 한다”고 주문했다. 이선희 위원장은 “수탁사업 중 재위탁 건수가 올해만 58건에 달할 만큼 재위탁이 많다.”며, “연구의 질적 수준이나 정확성을 제고하기 위해선 지나친 재위탁을 줄여야 한다.”고 조언하는 한편, “홈페이지에 출자출연기관 경영공시가 되어있지 않은데, 법정의무인 만큼 경영공시를 철저히 이행하여야 한다”고 지적했다. 마지막으로 자치경찰위원회 감사에서 김창혁 위원은 “도내 경찰서별 야간 범죄발생 건, 자살 건 등 사건 자료들을 수집해 사전에 범죄 동향을 파악해 범죄 발생을 적극적으로 예방해야 한다”고 주문했다. 박선하 위원은 주요업무보고 및 수감자료의 ‘사회적 약자’ 범위에 지난번 업무보고에 이어 또다시 장애인이 명시되어 있지 않음을 지적하며 “조속히 수정하고 명확한 사회적 약자에 대한 범위를 나타내어 사회 인식 개선에 앞장서야 한다”고 당부했다. 이칠구 위원은 “1991년도에 다시 시작된 지방자치의 완성 단계에는 자치경찰이 있다.”고 말하면서도 “아직은 초보 단계라 당장 권한의 대폭 강화에는 어려움이 있지만, 자치경찰위원회의 권한 범위 내에서 해법을 찾을 수 있도록 최대한 기능을 발휘해야 한다”고 주문했다. 이형식 위원은 “제2중앙경찰학교 부지 공모 안내 공문을 제출 기한이 도래한 당일 시군에 발송한 사실이 있는데, 이러한 행정착오가 나오지 않도록 해야한다”고 지적하는 한편 “자치경찰위원회 회의 방식은 안건과 상황을 고려하여 서면보다는 대면으로 진행하는 것이 바람직하다”고 조언했다. 최태림 위원은 “자치경찰위원회는 광역단위 조직이라 시군에는 그 영향이 잘 미치지 못한다”면서 “마을 치안을 위해 봉사하는 자율방범대에 대한 지원을 꾸준히 이어나가야 한다”고 당부하는 한편 “안전속도 5030의 시행에 맞물려 과속단속장비 설치가 과도하게 늘었는데, 통행 편의와 현실성을 감안해 필요한 구간에 대해서는 탄력운영을 적용할 수 있도록 방안을 마련하라”고 주문했다. 황명강 위원은 “개인의 SNS게시물을 이용한 ‘딥페이크’ 범죄뿐만 아니라 요즘에는 ‘딥보이스’ 범죄가 새롭게 활개치고 있다”고 말하며 “이러한 신종 범죄들의 위험성을 홍보하고 SNS게시물에 대한 보안 교육을 실시하여 피해를 방지해야 한다”고 당부하는 한편, 아동안전지킴이 사업의 위탁사업자 선정과정을 꼼꼼히 살피는 등 정당한 행정 집행이 이뤄졌는지 점검했다. 손희권 부위원장은 포항 미성년자 성매매 협박 갈취 사건을 언급하며 “성을 사는 경우에만 집중하는 경향이 있는데, 성을 팔도록 하는 행위에 대해서도 처벌과 예방 방안을 마련해야 피해를 효과적으로 방지할 수 있다”고 강조했다. 마지막으로 이선희 위원장은 사업의 위탁 시 정당한 절차를 통해 사업자를 선정해야 함을 강조하는 한편, 2025년도 본예산 심사에 대비하여 철저한 자료 준비를 주문했으며, 도민들의 체감안전과 만족도를 높여 나갈 수 있도록 지역맞춤형 치안 서비스 제공을 확대할 것을 촉구했다.

외국인 A씨는 지난달 한국으로 여행 간 딸이 납치됐다며 “살려달라”고 우는 영상을 받았다. 영상을 보낸 외국 범죄조직은 “딸을 살리고 싶으면 합의금을 보내라”며 A씨를 협박했다. 놀란 A씨는 영사관에 알렸고, 신고를 받고 출동한 한국 경찰은 A씨의 딸이 안전하게 지내고 있다는 사실을 확인했다. 경찰 수사 결과, A씨가 받은 딸의 영상은 딥페이크로 만든 가짜였다. 경찰청 국가수사본부는 7일 이러한 사건을 공개하면서 “국내에서도 유사한 사건이 발생할 가능성이 있으므로 유의해달라”고 밝혔다. 딥페이크나 딥보이스로 얼굴과 목소리를 실제와 흡사하게 복제해 부모나 지인 등에게 곧바로 돈을 보내라고 요구하면 당황한 피해자가 돈을 보낼 위험이 적지 않다. 경찰은 이런 피해를 예방하기 위해 소셜미디어(SNS) 등에 본인이나 가족의 영상이나 사진을 전체 공개로 올리지 않도록 유의해야 한다고 강조했다. 특히 자녀 등을 납치했다는 협박을 받은 경우 가장 먼저 경찰에 전화나 문자 등으로 신고해 도움을 요청해야 한다. 경찰청에 따르면 올해 들어 지난 9월까지 납치를 빙자한 전화 금융사기만 174건이 발생했다. 안찬수 경찰청 마약조직범죄수사과장은 “인공지능(AI) 발전이 일상생활을 더 편리하게 만들었지만, 동시에 범죄에 악용될 환경을 제공했다”고 말했다.

1994년 성수대교가 무너졌을 때 가장 먼저 현장에 도착한 기자가 있습니다. 삼풍백화점이 무너졌을 때도, 세월호 참사 때도 그랬습니다. 사회부 사건팀 기자들입니다. 시대도 세대도 바뀌었지만, 취재수첩에 묻은 꼬깃한 손때는 그대롭니다. 기사에 실리지 않은 취재수첩 뒷장을 공개합니다. 우리 사회의 치안을 책임지는 경찰청은 부 단위에 버금가는 예산이 배정되는 거대 부처입니다. 경찰청이 최근 공개한 2025년 예산안을 보면 2024년 대비 4.2%(5457억원) 늘어난 13조 5364억원 규모의 예산이 편성될 거로 보입니다. 그 중 주요 사업비도 1.9%(494억원) 증가한 2조 6067억원이 될 것으로 보입니다. 내년 예산안은 아직 국회에서 심사하고 확정하는 단계가 남았지만, 경찰이 내 건 방향은 명확했는데요. 인공지능(AI) 등 신기술을 활용해 갈수록 지능화되는 범죄를 예방하고 수사에 속도를 내겠다는 것입니다. 일상을 파고든 AI가 범죄와 수사에는 어떤 영향을 끼칠까요. 유사 사건·수사 쟁점 알려주고 서식 초안 ‘AI 수사도우미’ 27억원우선 경찰청은 생성형 인공지능(AI)을 활용해 수사관에게 유사 사건과 수사 쟁점 등을 제공하고 영장 신청서 등 각종 수사서식의 초안을 만들어주는 AI 수사 도우미를 구축하는 데 27억원을 배정했습니다. 수사 기간이 단축되고 완결성을 높일 거란 기대가 나옵니다. 원격화상조사시스템과 음성인식 조서작성시스템에는 기존 11억 5000만원에서 14억 7000만원으로 예산을 늘리기로 했습니다. 실제로 검경 등이 쓰는 차세대 형사사법정보시스템(킥스·KICS)는 범죄 사실과 키워드, 죄명 정보 등을 분석해 수사 담당자에게 유사한 사건의 조서, 결정문, 판결문 등을 제공하는 처리하는 기능이 추가됐습니다. 일상에서 흔히 쓰이는 음성인식 기술을 활용한 조서 작성 기능도 들어가 음성을 문자로 변환할 수도 있습니다. 올해 개발이 끝난 ‘아동학대 영상분석’에 6억원이 배정돼 내년부터 도입됩니다. AI가 CC(폐쇄회로)TV 등 영상에 찍힌 아동의 표정과 움직임 등을 분석해 아동학대 의심 장면을 요약하고 분석하는 시스템입니다. 또 흐릿한 얼굴이나 번호판의 화질을 개선하고 영상을 요약하는 등 형사기능 영상분석(8억 6000만원)도 수사에 도움이 될 거로 보입니다. 복합형 허위조작 콘텐츠 탐지 기술 개발 3년간 91억원…기존 기술 업그레이드신종 범죄를 막기 위한 기술 개발에도 박차를 가하기로 했습니다. 딥페이크(허위 영상물)는 성범죄에 악용되거나 유명인 등을 사칭한 사기에 쓰일 수 있어 사진이나 영상의 진위를 가리는 탐지 기술의 중요성이 커지고 있습니다. 이에 경찰은 내년부터 2027년까지 3년간 총 91억원을 투입해 딥페이크와 딥보이스 등 여러 기술을 복합적으로 적용해 만든 허위조작 콘텐츠를 탐지하는 기술을 딥러닝에 기반해 개발한다는 구상입니다. 얼굴을 바꾸는 ‘페이스 스왑’ 등 시각 영상물을 가려내는 기술은 어느 정도 개발됐지만, 음성을 따라 한 딥보이스를 탐지하는 기술은 아직 미흡하다는 게 경찰의 설명입니다. 딥페이크 기술도 고도화되고 있어 더 정교한 탐지기술 개발이 필요합니다. 또한 현재 활용 중인 딥페이크 탐지 기술에 대해선 최신 AI 기술도 가려낼 수 있도록 소프트웨어를 업데이트할 계획입니다. 예산은 올해(3억원)보다 2억원 늘어난 5억원을 책정했습니다. 아울러 경찰은 시나리오별 훈련이 가능한 실감형 훈련장비(VR) 장비(4억 8000만원), 신형 전자 충격기(56억 1000만원)도 규모를 키워 투입한다는 계획입니다. 경량화된 기동대 신형방패(13억 7000만원), 차세대 외근조끼(8억원)도 투입합니다. 전국 운전면허시험장 등에서 운전능력을 자가진단할 수 있는 VR 테스트 시스템(20억 9000만원)도 시범 운영될 예정입니다. 과기부도 딥페이크 탐지 기술 개발 20억원…신종 성범죄·사기 범죄 근절될까이러한 새로운 기술들이 실제로 현장에서 얼마나 효과를 발휘할지는 어느 정도 시간이 지나야 윤곽이 드러날 것으로 보입니다. 여러 기능이 추가된 만큼 수사관들이 적응하는 기간도 필요한데다 AI가 예상만큼 정확도가 높지 않을 수도 있습니다. 각 부처마다, 각 부서마다 딥페이크 탐지 등 AI를 활용한 기술을 개발하고 도입에 뛰어드는 모습입니다. 과학기술정보통신부도 딥페이크 성범죄를 예방하기 위해 적대적 생성신경망(GAN) 방식의 탐지 고도화 및 생성 억제 기술 개발에는 10억원, 자가진화형 딥페이크 탐지 기술 개발에 10억원씩 투입하겠다고 밝혔습니다. 선의의 경쟁으로 더 나은 기술을 발굴하게 될지 아니면 예산을 중복으로 투입하는 비효율을 낳을지 꾸준한 관심이 필요해 보입니다.

KT가 공공기관 최초로 국민건강보험공단 고객센터에 인공지능(AI) ‘목소리 인증’ 서비스를 도입했다. KT의 목소리 인증은 콜센터나 보이스봇을 통해 상담하는 과정에서 목소리 특성 정보만으로도 자연스러운 본인 확인을 할 수 있는 AI 솔루션이다. 23일 KT와 국민건강보험공단에 따르면 지난해 10월부터 AI컨택센터(AICC) 프로젝트를 추진해온 양사는 음성인식(STT) 기술을 활용한 상담 지원과 목소리 인증의 상용화를 준비해왔다. KT 관계자는 “지난 14일부터 목소리 인증 서비스가 적용되었으며 향후 상담 시간을 크게 단축하고 고객 불편을 최소화할 수 있을 것으로 기대된다”고 했다. 목소리 인증은 개인정보를 상담사가 직접 말로 질문해 본인 인증을 하는 기존 방식과는 달리 사람마다 다른 목소리 특성 정보를 활용해 본인 인증이 가능한 서비스다. 고객이 상담사의 권유에 따라 목소리 인증 가입 동의와 간편 인증을 진행하면 고객의 자유 발화를 통해 성문정보가 암호화돼 저장·등록된다. 이후 고객센터와 통화를 할 경우 고객의 목소리가 기존에 등록된 정보와 일치하면 곧바로 신속하게 상담할 수 있다. 목소리 인증은 금융권 적용을 위해 금융결제원의 바이오정보 분산 관리업무 성능평가의 분산 관리 적합성 시험과 ‘바이오인증 성능 시험에도 합격해 적합 판정을 받았다. 목소리 인증은 앞서 2019년부터 KT 100번 콜센터에서 서비스하고 있으며 기업이나 기관에 도입돼 상용화된 사례는 이번이 처음이다. KT는 음성합성(TTS) 등 위변조 기술을 이용한 이른바 ‘딥보이스’로 타인을 사칭할 때에 대비해 이를 탐지할 수 있는 기술을 적용함으로써 보안성을 높이고 있다. 최준기 KT AI 사업본부장(상무)은 “앞으로 KT는 딥보이스 탐지 기술을 계속 강화해 더욱 높은 보안 수준을 제공하고 기업이나 기관이 더욱 향상된 품질의 대국민 상담 서비스를 제공할 수 있도록 돕는 AI 혁신 파트너로 역할을 다하겠다”고 강조했다.