인공지능(AI)이 상상 이상의 속도로 발전해 사회 전반을 빠르게 재편하는 ‘AI 대전환 시대’에 서 있다. 산업 자동화는 물론 수업방식, 금융자산 관리, 신약 개발, 의료 진단에 이르기까지 모든 영역에서 혁신을 창출하고 있다. 이재명 대통령이 AI 3대 강국 도약을 국정 핵심 기조로 제시한 것도 이런 흐름에 선제적으로 대응하기 위함이다. AI 진보와 함께 사이버 위협 또한 빠르게 진화하고 있다. 인터넷에 연결된 모든 사물이 공격 대상이 됐으며, 생성형 AI를 악용해 정교한 피싱 메일을 생성하는 등 해킹 지식 없이도 누구나 해커가 될 수 있는 시대가 도래했다. 최근 SKT 해킹을 비롯해 플랫폼, 명품 업체 등 분야를 막론한 다양한 업종이 공격의 표적이 되고 있다. 사이버 위협은 국가 안보에도 중대한 도전이다. 물리적 교전과 함께 국가 핵심 인프라를 겨냥한 사이버공격이 조직적으로 동반되고 있다. 사이버 공간이 전장의 일부가 되는 새로운 안보 지형이 형성된 것이다. 사이버 위협이 고도화하는 상황에서 AI 강국으로 도약하기 위한 필수 전제는 정보보호다. 이 대통령은 제14회 정보보호의 날 기념식에서 “체계적인 정보보호, 튼튼한 사이버 보안이 뒷받침된다면 AI 3대 강국은 대한민국의 현실이 될 것”이라고 강조했다. AI와 정보보호는 함께 가야 한다. AI가 창출하는 가치와 혁신은 견고한 정보보호 없이는 지속될 수 없다. 과학기술정보통신부는 안전한 AI 시대를 준비하기 위해 민관 역량을 결집해 보안 체계의 대전환을 추진하고자 한다. AI 시대로 본격 진입하기 전인 지금이야말로 국가 핵심 산업의 보안 취약점과 정보보호 수준을 자세히 점검하고 보안 위협에 대한 대응 역량을 갖출 적기다. 과기정통부는 기업이 자체적으로 보안 역량을 점검하고 개선할 수 있도록 공시 제도 내실화, 정보보호 최고책임자 권한 확대 등 제도적 뒷받침을 추진할 것이다. 보안이 취약한 지역, 중소기업 등 사각지대 해소도 과제다. 지난해 침해사고 신고 중 중소기업이 94%를 차지했다. 이에 정보보호 지역센터를 확대해 지역의 사고 대응을 밀착 지원하고 컨설팅을 통해 중소기업의 보안 수준을 끌어올릴 것이다. 아울러 피싱, 스미싱 등 디지털 기술을 악용한 민생 범죄를 근절해 나갈 것이다. 악성 URL이 포함된 문자를 발송 단계에서 차단하는 시스템을 확산하고 휴대전화 부정 개통 방지를 위한 안면인식 시스템을 도입해 나갈 것이다. 국가 정보보호 강화를 위한 제도 정비도 추진한다. 데이터 보호를 위해 보안 의무가 부여되는 주요 인프라를 네트워크 중심에서 중요 데이터 관련 시설로 확대한다. 아울러 정보보호 인증이 현장에서 작동될 수 있도록 심사와 사후 관리를 강화한다. 정보보호산업 육성에도 박차를 가할 것이다. 양자내성암호 등 보안기술에 대한 투자, 전문 인력 양성 등 정보보호산업이 국가 미래를 지키는 전략 산업으로 도약하도록 적극 지원할 것이다. 정보보호는 사회 구성원 모두가 책임 의식을 갖고 실천해야 비로소 완성될 수 있다. 업계에서는 보안을 비용이 아닌 투자로 인식해 자발적인 역량 강화에 힘써야 한다. 개인도 주기적인 비밀번호 변경, 수상한 링크 클릭 금지 등 자신을 지키는 노력이 필요하다. 7월은 정보보호의 달이다. 사이버 보안이 자신은 물론 기업과 국가를 지키는 일이라는 마음가짐으로 정보보호의 중요성을 다시금 되새기는 계기가 되길 바란다. 과기정통부도 AI 시대, 국민이 신뢰할 수 있는 디지털 안심국가 구현을 위해 총력을 기울일 것이다. 류제명 과학기술정보통신부 제2차관

평범한 직장인 A씨는 2020년 자신의 블로그에 ‘여혐(여성혐오) 논란’에 휘말렸던 한 게임회사의 기부 소식과 관련해 부정적 의견을 올렸다가 끔찍한 경험을 했다. 소위 ‘남초 커뮤니티’에 자신의 신상이 박제돼 조리돌림을 당하고 있다는 사실을 알게 된 것이다. 해당 커뮤니티에는 A씨의 사진과 함께 성적인 모욕 문구가 올라가 있었다. 충격을 받은 A씨는 게시자들을 고소했지만 모욕죄에 해당하는 법적 조치만 취할 수 있었다. 당시에는 A씨의 사진을 게시하는 행위가 개인정보보호법 위반에 해당되지 않았기 때문이다. 사건을 맡았던 송지은(39) 변호사는 이를 계기로 개인정보 보호 문제에 관심을 갖게 됐다. 피해의 심각성대규모 유심 정보 유출 사태 외에도개인정보 알아내 연락·방문 흔한 일약 2695만건의 개인정보가 유출된 것으로 추정되며 충격을 안긴 ‘SKT 유심 정보 유출 사태’ 역시 정보기술(IT) 대기업의 허술한 개인정보 보안·관리가 수면 위로 드러난 경우다. 송 변호사는 17일 서울신문과의 인터뷰에서 “SKT 사태와 같은 대규모 유출 피해뿐만 아니라 개인정보 유출은 우리 주변에 생각보다 심각하게 발생하고 있다”며 “누군가 개인정보를 알아 내 수시로 연락하고 방문하거나 음식을 주소지로 배달시켜 골탕을 먹이는 일은 흔하다”고 말했다. 비영리단체 ‘새로운 미래를 위한 청년변호사 모임’(새변)의 창립 멤버이자 공동대표인 송 변호사는 개인정보 보호 문제에 각별히 주목하며 목소리를 내고 있다. ‘사회의 주역인 청년들의 법감정이 입법에 반영되도록 하자’는 취지에서 출발한 새변은 육아·주거 등 청년들의 관심사에서부터 시작해 최근 인공지능(AI) 등 각종 기술 발전으로 사회적 파급력이 커지고 있는 개인정보 보호나 사이버 윤리 등의 분야에도 목소리를 내고 있다. 다음은 송 변호사와의 일문일답. -이재명 대통령이 개인정보 유출 사고 발생 시 명확한 책임을 부과하겠다고 공약했다. “기업의 정보 보호 투자 규모나 인력 운용 등을 투명하게 공개하는 공시제도를 더욱 강화하고, 개인정보 유출 시 중대 피해가 예상되는 경우에는 전 국민 대상 즉시 공지 의무화도 추진하겠다고 명시한 점이 눈에 띈다. 다만 발생한 피해 등의 구제에 대한 구체적인 내용이 없는 점이 아쉽다. 또 기업 차원의 대규모 유출만이 아닌 개인 단위 정보 유출에 대한 문제의식도 강조됐으면 한다.” 변화 못 따라가는 법사생팬, 연예인 정보 공유·공동구매현행법, 영리 목적 업자 처벌만 명시-개인 단위 정보 유출 문제를 강조하는 이유는. “요즘에는 다양한 목적으로 개인정보 유출이 이뤄지고 개인도 손쉽게 정보를 취득할 수 있다. 그런데 법은 이같은 변화를 따라가지 못하는 측면이 있다. 예를 들어서 ‘사생팬’들이 온라인에서 자신이 좋아하는 연예인의 개인정보를 구매하고 이를 다른 팬들과 공유하거나, 심지어 팬들끼리 개인정보를 ‘공동구매’하는 시장이 형성돼 있다. 그러나 현행법상 타인의 개인정보를 구매하는 행위를 제재하기는 어렵다. 현재의 개인정보보호법은 개인정보를 부정하게 취득해 영리를 목적으로 판매하는 업자에 대한 처벌만을 명시하고 있기 때문이다. 타인의 개인정보 구매·제공 행위에 대한 규제책도 필요하다.” -이를 바탕으로 정책 제안을 해 본다면. “개인정보 유출 시 실태 점검과 처분을 강화해야 하며 징벌적 손해배상 조항이 신설돼야 한다. 또 최근에는 범죄 악용 목적이 아니더라도 데이터 기업들이 이용자의 타사 행태 정보를 수집해 광고에 활용하거나, 제3자가 소셜미디어(SNS)에 전체 공개로 올린 게시물 속 개인정보를 다른 목적으로 이용하는 등의 일들도 많다. 단순히 개인정보를 불법으로 유출하는 행위에 대한 규제뿐만 아니라 구매, 재가공, 재유포하는 행위 전반에 관한 제도적 설계가 촘촘히 이뤄져야 한다.” -징벌적 손해배상과 같이 무조건 기업의 책임을 강화하면 관련 산업 성장을 저해할 수 있다는 우려도 있다. “동의한다. 그러나 우리나라 현행법상 기업에 배상 책임을 물으려면 고의성이나 중대 과실을 입증해야만 하는데, 이를 입증하기가 쉽지 않다. 또 고의가 없었다 하더라도 SKT 사태와 같이 대규모 핵심 정보 유출은 막대한 피해를 발생시킬 수 있기 때문에 기업에도 경각심을 줄 필요가 있다.” 징벌적 손해배상 신설해야구매·재가공 행위 관련 제도 설계를 심각성 인지하는 인식 변화도 필수-법적인 보완만 이뤄지면 되나. “사건을 맡다 보면 수사기관에서조차 개인정보 유출의 심각성을 인지하지 못하는 경우가 많다. 얼마 전엔 기업 인사 담당자가 퇴사하면서 직원들 개인정보를 저장해 빼돌린 사건이 있었는데, 수사관이 ‘다운로드만 받은 게 뭐가 문제냐’라고 하더라. 제도적 개선이 시급하지만 인식의 변화가 반드시 함께해야 한다.” ■ 새로운 미래를 위한 청년변호사 모임은 이념이나 정치 성향에서 벗어나 청년들의 피부에 와닿는 입법 제안을 하자는 취지로 ‘MZ세대’(1980년대 초~2000년대 초 출생) 변호사 200여명이 모여 2023년 3월 만든 비영리단체다. 정부 정책 관련 연구 용역 수행, 자문 제공 등의 활동을 한다. 육아와 돌봄, 주거 안정, 개인정보에 이르기까지 다양한 분야에서 목소리를 내고 있다.

황명강 경북도의원(비례, 국민의힘)이 대표발의한 ‘경북도 디지털성범죄 방지 및 피해 지원에 관한 조례 일부개정조례안’이 지난 11일 행정보건복지위원회 심사를 통과했다. 이번 개정조례안은 인공지능(AI) 기술을 악용한 딥페이크 등 디지털 성범죄가 급증함에 따라, 피해자 보호를 강화하고 2차 피해를 방지하기 위한 제도적 기반을 마련하는 데 중점을 뒀다. 한국여성인권진흥원이 2023년 발표한 ‘디지털 성범죄 피해자 상담지원 현황 및 피해지원 욕구조사 보고서’에 따르면, 디지털 성범죄 피해자의 88%가 2차 피해를 경험한 것으로 나타났다. 피해자의 신상정보 유출, 사회적 낙인 등 심각한 2차 피해가 지속적으로 발생하고 있어 실질적 피해 회복과 재발 방지를 위한 제도적 보완이 시급한 것으로 나타냈다. 개정 조례안의 주요 내용은 ▲‘디지털 성범죄를 명확히 정의하여 법적 대응의 근거를 마련하고, ▲디지털 성범죄 피해자에 대한 2차 피해 방지 및 인식 개선 등 실질적 지원사업을 규정하며, ▲피해자의 신상정보 삭제 지원 기능을 신설했다. 황명강 의원은 “디지털 성범죄는 단순히 영상물 유포에 그치지 않고, 피해자 신상정보 유출 및 협박 등 2차 피해로 이어져 심각한 사회적 문제로 대두되고 있다”라며 “디지털 성범죄 예방 교육과 함께 피해자 지원 방안을 더욱 강화해야 한다”라고 개정 배경을 설명했다. 이어 황 의원은 “이번 개정을 통해 디지털 성범죄 피해자의 실질적인 보호와 지원이 한층 강화될 것으로 기대된다”라며 “앞으로도 피해자들의 일상 복귀와 권익 회복에 중점을 두고, 디지털 성범죄 관련 정책을 지속적으로 보완·발전시켜 나가도록 노력하겠다”라고 밝혔다. 본 조례안은 오는 24일 제356회 제1차 정례회 제3차 본회의에서 최종 의결될 예정이다.

#사례 1. 고등학생 A군은 지난해 한 중학생이 중고거래 온라인 게시판에 올린 ‘에어팟을 팔겠다’는 글을 보고 구매하겠다고 연락했다. 하지만 마음이 바뀌어 구매 의사를 철회하자 이 중학생은 “딥페이크(불법 허위 합성물) 사진을 뿌리겠다”고 협박했다. 이후 신분 확인차 보냈던 A군의 학생증 얼굴에 다른 남성의 알몸이 합성된 사진이 실제 소셜미디어(SNS)에 게재됐다. #사례 2. 초등학교 6학년인 B양은 ‘같은 학교 학생이 담배를 피운다’고 친구들에게 이야기했다. 얼마 뒤 B양은 자신의 얼굴과 음란물 사이트의 성인 여성 나체 합성 사진이 친구들 사이에서 돌아다니는 걸 알게 됐다. 흡연을 한 학생이 자신의 친구에게 부탁해 합성 사진을 만들고 주변에 전송해 달라고 한 것이었다. 딥페이크 등 신종 사이버 성폭력 범죄가 심각한 사회문제로 떠오르며 정부가 교육 강화 등 각종 대책을 내놨지만 여전히 청소년들을 중심으로 딥페이크 범죄가 확산하고 있는 것으로 파악됐다. 대선 후보들이 딥페이크 근절을 공약으로 내세우고 있는 가운데 새 정부가 출범하면 범정부 차원의 대책 마련이 필요하다는 지적이 나온다. 서울신문이 25일 법무부로부터 확보한 ‘성폭력처벌법상 허위영상물 편집·반포 접수 및 처분 현황’에 따르면 올 들어 4월까지 딥페이크 사건 접수는 466건으로 지난해 연간 건수(343건)를 이미 뛰어넘었다. 같은 기간 기소된 사건도 80건으로 지난 한 해 56건을 넘어섰다. 특히 소년보호 사건송치(형사처벌이 아닌 보호처분을 전제로 가정법원 소년부로 회부) 건수는 지난해 91건으로 전년(36건)보다 무려 2.5배 늘었다. 최근엔 피해 학생이 가해 학생으로부터 ‘5명을 낚아 오면 해방시켜 주겠다’고 협박받아 성착취물을 제작할 상대방을 섭외했다가 검찰에 적발되기도 했다. 허민숙 국회입법조사처 입법조사관은 “인공지능(AI) 기술을 악용할 경우 큰 처벌을 받게 된다는 것을 저학년부터 가르쳐야 한다”고 말했다. 이영면 법무부 범죄예방정책국장은 “청소년비행예방센터를 통해 일반 학생 대상으로도 디지털성범죄 교육을 더 강화할 방침”이라고 말했다.

올해 1~4월 딥페이크 사건수, 작년 한해 넘어지난해 소년보호사건송치 91건, 전년비 2.5배“인공지능 악용 디지털성범죄 경각심 높여야” #사례 1. 고등학생 A군은 지난해 한 중학생이 중고거래 온라인 게시판에 올린 ‘에어팟을 팔겠다’는 글을 보고 구매하겠다고 연락했다. 하지만 마음이 바뀌어 구매 의사를 철회하자 이 중학생은 “딥페이크(불법 허위 합성물) 사진을 뿌리겠다”고 협박했다. 이후 신분 확인차 보냈던 A군의 학생증 얼굴에 다른 남성의 알몸이 합성된 사진이 실제 소셜미디어(SNS)에 게재됐다. #사례 2. 초등학교 6학년인 B양은 ‘같은 학교 학생이 담배를 피운다’고 친구들에게 이야기했다. 얼마 뒤 B양은 자신의 얼굴과 음란물 사이트의 성인 여성 나체 합성 사진이 친구들 사이에서 돌아다니는 걸 알게 됐다. 흡연을 한 학생이 자신의 친구에게 부탁해 합성 사진을 만들고 주변에 전송해 달라고 한 것이었다. 딥페이크 등 신종 사이버 성폭력 범죄가 심각한 사회문제로 떠오르며 정부가 교육 강화 등 각종 대책을 내놨지만 여전히 청소년들을 중심으로 딥페이크 범죄가 확산하고 있는 것으로 파악됐다. 대선 후보들이 딥페이크 근절을 공약으로 내세우고 있는 가운데, 새 정부가 출범하면 범정부 차원의 대책 마련이 필요하다는 지적이 나온다. 서울신문이 25일 법무부로부터 확보한 ‘성폭력처벌법상 허위영상물 편집·반포 접수 및 처분 현황’에 따르면 올 들어 4월까지 딥페이크 사건 접수는 466건으로 지난해 연간 건수(343건)를 이미 뛰어넘었다. 같은 기간 기소된 사건도 80건으로 지난 한 해 56건을 넘어섰다. 특히 소년보호 사건송치(형사처벌이 아닌 보호처분을 전제로 가정법원 소년부로 회부) 건수는 지난해 91건으로 전년(36건)보다 무려 2.5배 늘었다. 최근엔 피해 학생이 가해 학생으로부터 ‘5명을 낚아오면 해방시켜 주겠다’고 협박받아 성착취물을 제작할 상대방을 섭외했다가 검찰에 적발되기도 했다. 허민숙 국회입법조사처 입법조사관은 “인공지능(AI) 기술을 악용할 경우 큰 처벌을 받게 된다는 것을 저학년부터 가르쳐야 한다”며 “사법부를 중심으로 사회 전반에 디지털 성범죄에 대한 경각심을 높여야 할 때”라고 말했다. 이영면 법무부 범죄예방정책국장은 “최근 디지털성범죄는 저연령화되고 형태는 더욱 다양해지고 있다”며 “초기비행 전문 교육기관인 법무부 청소년비행예방센터는 디지털성범죄 교육을 강화하고 법원·검찰청이 의뢰한 학생 뿐 아니라 일반 학생 대상으로도 교육을 확대할 예정이다”고 말했다.

여성 연예인 등 얼굴을 합성한 성적 허위 사진·영상(딥페이크)을 제작하고 온라인에서 배포한 10대 운영자와 배포자들이 무더기로 검거됐다. 경찰은 딥페이크 성범죄는 나이가 어리고 전과가 없어도 구속이 될 정도로 엄정히 대응하고 있으므로, 교육·예방이 시급하다고 강조했다. 경남경찰청 사이버수사과는 지난해 11월부터 올해 4월까지 여성 연예인 등 얼굴을 나체 사진·영상물에 500여개 합성한 뒤, 텔레그램 대화방 3곳을 개설해 배포한 혐의(아동·청소년의 성보호에 관한 법률 위반, 성폭력범죄의 처벌 등에 관한 특례법 위반)로 10대 고교생 A군을 구속했다고 22일 밝혔다. 경찰은 또 A군과 함께 성적 허위 영상물 3500개를 배포한 혐의로 10대 15명과 20~40대 8명 등 23명도 붙잡았다. 일면식도 없는 이들은 온라인으로 대화만 나눴다. 이들이 영상을 배포한 오픈 대화방에는 총 840여명이 참여하고 있었다. 영상·사진 따로 판매는 이뤄지지 않은 것으로 확인됐다. 이들은 주로 무료 AI 애플리케이션(앱)을 이용해 여성 연예인이나 주변 지인 등의 얼굴을 나체사진과 합성한 것으로 드러났다. 경찰은 올 2월 텔레그램 오픈 대화방에서 10~20대 아이돌 등 여성 사진으로 딥페이크 영상을 만든다는 첩보를 입수해 수사에 착수했다. 붙잡힌 A군 등은 경찰에 “호기심으로, 재밌어서 만들었다”는 취지로 진술했다. 경찰은 AI 기술이나 합성 사이트 등 발달로 누구나 손쉽게 사진·영상 합성이나 변작이 가능해졌고 이를 악용한 성적 허위 영상물 등 제작·배포 범죄가 늘어나고 있다고 말했다. 그러면서 특히 10대 청소년들이 호기심과 재미를 이유로 딥페이크 성범죄를 저지르곤 하나, 딥페이크 성범죄는 나이가 어리고 전과가 없어도 구속이 될 정도로 엄정한 대응이 이루어지고 있다고 강조했다. 경찰 관계자는 “텔레그램 등 보안 메신저 이용 범죄는 추적할 수 없다고 과신하여 경각심 없이 범행하는 경우도 많은데 지난해 10월부터 텔레그램과 수사 공조 관계를 구축했다”며 “딥페이크 성범죄는 인간의 존엄을 파괴하는 매우 심각한 범죄다. 끝까지 추적하여 검거하고 청소년 사이버 예방 교육을 강화하는 한편 교육 당국·시민사회와 지속적으로 협력해 나가겠다”고 밝혔다.

해킹도 초기 대응이 중요 SKT 해킹, 1차 조사 때보다 더 심각두 달 넘게 해킹·피해범위 오리무중피해자 집단소송·번호 이동 위약금회사 귀책사유 입증·약관 따져봐야 보안도 필수 인프라로 정착을 생성형 AI 활용한 해킹 급증하는데 기업·사회의 보안 의식은 ‘제자리’통신·포털사 국가보안시설급 지정대량 개인정보 보유 땐 의무 투자를사이버사고 대응 정부 역할은초연결 시스템 멈추면 전체가 마비북한·중국 해커 공격 위험성도 큰데부처별 대응 체계 나뉘어져 비효율보안 총괄 ‘사이버안전청’ 설립 필요 국내 최대 통신사인 SK텔레콤(SKT)의 해킹 사건은 우리나라 역대 최악의 사이버보안 침해 사고다. 발생한 지 두 달이 넘었지만 아직도 정확한 해킹 경위와 피해 범위는 오리무중이다. 디지털보안에 대한 대응 태세를 근본적으로 재점검해야 한다는 지적이 나온다. 한국정보통신법학회장인 이성엽 고려대 기술경영전문대학원 교수를 지난 13일 만나 사이버보안 강화 방안에 대한 이야기를 들었다. 이 교수는 “점차 고도화되고 있는 해킹 사고가 급증하는데도 보안 의식이 약해 보안 투자가 제대로 이뤄지지 않고 있다”고 말했다. SKT 해킹 사건을 조사 중인 민관합동조사단의 2차 중간조사 결과가 발표된 19일 추가로 전화 인터뷰를 했다. ●SKT 해킹 ‘복제폰 피해’ 가능성은 낮아 -이번 조사 결과가 1차 발표보다 상황이 더 심각한 것 같다. “이번 2차 조사에서는 최초로 고객 단말기에 부여되는 고객단말식별정보(IMEI)가 유출됐을 가능성이 제기됐다. 다만 IMEI가 유출됐다 하더라도 비정상인증차단시스템(FDS) 등의 시스템을 통해 실제 복제폰 피해는 차단할 수 있다. 정부도 삼성·애플 등 제조사는 15자리 IMEI값 단독으로는 단말기 복제가 불가능하다는 입장이라고 설명했다.” -악성코드에 감염된 일부 서버에 담긴 이름 등 중요 개인정보의 유출 가능성도 배제할 수 없는 상황인데. “금융사고 등이 발생하려면 은행 거래 관련 공인인증서 일회용비밀번호(OTP), 개인 비밀번호까지 알아야 한다. 그럴 가능성은 희박하므로 과도하게 불안해할 필요는 없다고 본다.” -피해자들의 집단소송이 본격화되고 있다. “정보 유출로 인한 정신적 피해에 대해서는 위자료 배상이 가능하다. 단 회사의 법 위반 등 귀책사유가 입증돼야 한다. 보통 피해자가 이를 입증해야 하는데 개인정보보호법은 회사가 귀책사유 없음을 입증하도록 하고 있으므로 이 점에서는 입증이 쉬울 수 있다. 또한 징벌적 손해배상 요구도 높은데 회사의 고의나 중과실이 있는 경우 손해액의 5배까지 배상이 가능한 징벌적 손해배상이 도입돼 있다.” -다른 통신사로의 번호 이동에 대한 위약금 면제 이슈도 논란이다. “소비자 입장에서는 자신의 정보 유출에 대한 불안으로 번호 이동을 한다면 응당 위약금을 면제받아야 한다고 생각하게 마련이다. 하지만 약관을 따져 보면 법리상 위약금 면제가 가능하다는 결론을 내는 것은 쉽지 않다. 이런 이유로 정부도 4군데 로펌에서 의견을 받아 놓고도 결론을 내지 못하고 있는 것으로 보인다.” -SKT 약관 때문에 책임을 물을 수 없다는 건가. “약관상 위약금이 면제되는 ‘회사의 귀책사유로 인해 해지할 경우’란 계약의 온전한 이행을 기대할 수 없는 경우, 즉 약관에 따른 이동통신서비스 제공이 불가능하고 그 원인이 회사에게 있는 경우를 의미한다. 하지만 통신서비스가 중단되지 않았고 회사의 과실이나 법 위반이 확정되지 않은 상황이라서 위약금 면제가 어려울 수 있다는 얘기다.” -해킹 사건이 발행한 지 두 달이 넘도록 사고 원인을 찾지 못한 게 더 심각한 문제 아닌가. “2차 조사 결과에 따르면 3년 전 해킹이 시작됐고 약 2700만건의 정보가 유출된 것으로 파악된다. 다만 아직 해커가 경제적 이익을 노린 것인지, 정치적 목적인지는 알 수 없다. 민관합동조사단이 오는 6월 말쯤 최종 결과를 발표할 예정이다.” -해킹 사고로 인한 직접적인 피해는 아니지만 스미싱 피해가 우려된다는데. “이용자 혼란을 악용한 스미싱 등의 피해 발생이 우려된다. 예컨대 예약한 유심 재고가 확보됐다며 교체를 위해 개인정보를 입력하라는 스미싱 사례가 실제로 확인되고 있다. 한국소비자원에서도 해킹 사고를 악용해 소비자원을 사칭하는 스미싱·피싱에 주의를 당부하고 있다. 당분간 이러한 메시지에 주의해야 한다. 의심스러운 문자의 링크는 절대 눌러서는 안 된다.” ●기업들 정보보호 투자, IT 대비 6% 불과 -SKT는 가입자가 가장 많은데 보안 투자는 경쟁회사에 비해 적은데. “국내 기업들의 정보보호 투자 비율은 전체 정보기술(IT) 투자 대비 평균 6%에 불과하다. 미국·유럽의 평균 투자 비율(25%)에 크게 못 미치는 수준이다. SKT의 지난해 정보보호 분야 투자 금액은 본사(600억원), 자회사 SK브로드밴드(267억원) 등 총 867억원으로, 경쟁사인 KT(1218억원), LGU+(631억원)에 비해 적었다. 다량의 개인정보를 보유하고 있을 수 있는 영세업체의 경우 보안 투자 여력이 없는 만큼 정부가 기술적·경제적 지원을 할 필요가 있다.” -해킹 사건의 중대성을 감안해 정부가 나서야 하지 않을까. “산불 등 자연재해 발생 시 정부는 피해가 확산되지 않도록 안내 및 경보 문자를 보낸다. 국민 대다수가 가입한 이동통신사 해킹 사고 등도 즉시 경보를 해야 할 중요한 사안이다. 산불 피해 방지 문자처럼 사이버 침해 사고 시 국민에게 직접적으로 위험성과 대응 방안을 알리는 경보 체계를 갖출 필요가 있다.” -SKT는 6개월 전 정부의 보안인증심사(ISMS)를 받았다고 하는데. “인증 심사 기준 설정 당시보다 고도화된 사이버 침해에 제대로 대응할 수 없다는 게 문제다. 대기업은 인증 기준에 없더라도 수시로 고도화되는 해킹에 대응하는 보안 역량을 지속적으로 강화해야 한다. 이 제도가 보안 강화에 걸림돌이 되는 측면도 있다. 또한 통신업에 특화된 정보보호 체계를 고도화할 필요가 있다.” -최근 생성형 인공지능(AI)이 사이버 범죄에 악용되고 있는데. “생성형 AI의 출현으로 비전문가에 의한 사이버 공격도 훨씬 쉬워졌다. 챗GPT를 활용해 악성 도구를 개발하는 사례가 확인되고 있다. 생성형 AI가 자연스러운 언어 능력을 가지면서 피싱 메일이 증가할 수 있다. 또 생성형 AI는 코딩 능력이 우수한 것으로 알려져 있다. 전문 지식이 부족한 공격자도 랜섬웨어 같은 악성코드 생성, 웹페이지 공격 수단 검색, 취약점 분석, 공격 스크립트 생성 등을 통해 해킹 공격을 할 수 있다.” -반대로 생성형 AI로 사이버보안 대응력을 키울 수 있지 않을까. “AI 기반 보안 관제 등 AI 기술을 이용해 사이버보안을 강화할 수 있다. 사람이 하루에 수백만건에 달하는 보안 위협을 분석하는 것은 불가능한데, AI는 보안 사고로 이어질 가능성이 큰 위협 요인을 찾아내 위협 원인과 추후 공격 양상, 그리고 잠재적인 공격자 등을 식별하는 데 이용될 수 있다.” -우리 사회의 보안 의식이 약한 것 같다. “사이버보안에 안전지대는 없다. 이번 SKT의 정보 유출 같은 사고뿐만 아니라 스미싱, 가족·친구와 똑같은 목소리로 속이는 딥보이스피싱 등이 날로 진화하고 있다. 해커들은 경제적 이익 등을 목적으로 생성형 AI 등을 활용해 보안 방어 체계를 뚫으려고 전력투구하는데 우리 기업에서는 보안을 비용으로만 보고 투자하지 않으려고 한다. 사이버보안이 기업과 사회 전반에 내재된 필수적인 인프라·문화로 정착돼야 한다.” ●인터넷 강국, 스미싱 등 위협에 더 노출 -보안 사고는 이제 개인을 넘어 사회를 위협하는 단계에 왔다. “디지털 사회는 네트워크와 통신, 사이버 공간에 기반한 초연결 구조 위에 작동하는데 이 시스템이 멈추는 순간 사회 시스템 전반이 마비될 수 있다. 통신사, 포털사, 전력·에너지 기업 등은 국가보안시설에 준하는 보안관리 체계(주요 정보통신기반 보호시설)로 지정할 필요가 있다. 또한 대량의 개인정보를 보유한 대기업에 대해서는 전체 IT투자 대비 정보보호 투자액의 하한선을 가이드로 마련할 필요도 있다.” -정부의 사이버 사고 대응 체계는. “국정원과 행정안전부가 공공부분 사이버보안, 과학기술정보통신부가 민간부분 사이버보안, 개인정보보호위원회가 공공·민간 해킹으로 인한 개인정보 유출 시 조사·제재, 경찰이 사이버 범죄 수사 등을 담당하고 있다.” -여러 부처로 나뉘어 있는 대응 체계의 문제점은 없나. “다층적인 시스템으로 인해 비효율적인 중복 조사·수사, 인력의 전문성 부족, 상시적인 보안·안전 정책 부족 문제가 발생하고 있다. 사이버보안 이슈의 컨트롤타워 역할을 하는 정부 조직이 필요하다. 차기 정부는 ‘사이버안전청’(가칭)을 설립해 사이버보안 기술·정책 개발, 사이버 침해 및 개인정보 유출 조사·제재를 총괄하는 전문기관 역할을 맡겼으면 한다.” -사이버보안을 담당하는 정부 조직까지 필요한 이유는. “우리나라는 인터넷 강국으로, 다른 나라보다 초연결 네트워크 사회다. 스미싱, 딥보이스 등의 위협에 더 노출돼 있다. 특히 북한과 중국의 해커 공격을 받을 수 있다. 안보 차원에서도 이런 취약성을 강화해야 한다.” ■ 이성엽 교수는 고려대 법학과, 서울대 행정대학원, 미국 미네소타대 로스쿨을 졸업한 후 미국 변호사 자격을 취득했고, 서울대에서 법학 박사학위를 받았다. 제35회 행정고시 출신으로 정보통신부, 김앤장 등 민관분야에서 두루 경험을 쌓아 현장과 실무도 밝다. 한국정보통신법학회장, 한국데이터법정책학회장을 맡고 있고 국가데이터정책위원, 개인정보위 규제심사위원장으로 활동하는 ICT 분야 권위자이다. 최광숙 대기자

이재명 더불어민주당 대선 후보가 16일 데이트폭력(교제폭력) 범죄에 대한 처벌을 강화하고 ‘고용평등 임금 공시제’를 도입해 성별 임금격차를 개선하겠다고 밝혔다. 이 후보는 여성 정책이 미비하다는 지적에 대해 “끊임없이 노력해나갈 것”이라고 강조했다. 이 후보는 전북 전주 유세현장에서 기자들과 만나 “(여성들의) 구조적 차별이 분명해서 끊임없는 개선 노력이 필요하다”며 “우리 사회의 구성원으로 동등하게 살아갈 수 있도록 각별한 보호정책이 필요하다”고 말했다. 이어 ‘여성 정책이 소홀하다’는 지적에는 “여성에 대해 민주당 정책이 없거나 (여성 정책을) 언급하지 않는다는 지적은 옳지 않은 지적”이라며 “당연히 관심이 있고 성차별을 극복해야 한다. 특히 구조적 문제를 해결하기 위한 노력도 끊임 없이 해나갈 것”이라고 했다. 이 후보는 그간 논란을 피하기 위한 ‘로우 키’ 전략을 쓰면서 젠더 이슈로 번질 수 있는 여성 정책 발표를 피하고 있다는 지적을 받아왔다. 이 후보는 이날 “최근 20~30대 여성들이 우리 사회에 어려운 위기 국면, 특히 이번 내란 국면에서 큰 역할을 해줘서 새로운 우리 사회에 희망을 만들어주지 않았냐”고 추켜세웠다. 윤석열 전 대통령의 탄핵 찬성 집회에 청년층 여성의 참여율이 높았다는 점을 부각한 것이다. 다만 이 후보는 여성 정책이 젠더 갈등으로 비화하는 것을 경계한 듯 “지나치게 남녀를 구분해 갈등적 상황으로 가는 건 옳지 않다”고 강조했다. 이날 페이스북을 통해 여성 공약을 발표하면서도 “이들을 여성 정책의 범주로 국한해 말씀드리지 않겠지만 앞으로도 공약집 발표를 통해 여성이 안전하고 일하기 좋은 사회를 만들기 위한 정책은 계속 발표해 나갈 것”이라며 덧붙였다. 이 후보는 여성 공약에서도 범죄 예방 등 안전 분야에 집중했다. 이 후보는 “연인이나 배우자 등 친밀한 관계에서 발생한 교제폭력은 여전히 법적 보호의 사각지대에 놓여 있다”며 “교제폭력 가해자에게 접근금지 명령(을 한 뒤), 불응 시 접근금지 명령의 실효성 확보를 위한 유치장 유치 등 강력한 대책을 마련하겠다”고 밝혔다. 이 후보가 여성 공약에 교제 폭력 예방을 앞세운 것은 반복되는 교제폭력 사건에 경찰의 안일한 대처와 실효성 없는 예방책에 대해 여론이 악화하고 있는 점을 의식한 것으로 보인다. 지난 12일 경기 화성 동탄신도시에서는 사실혼 관계였던 30대 남성에게 납치·살해 당한 피해자가 생전 가해자를 폭력 혐의로 세차례 신고하고 구속수사까지 요청했던 것이 드러나 공분이 일었다. 이 후보는 딥페이크 영상 등 디지털 성범죄를 집중 모니터링하고, 인공지능(AI) 등 첨단 기술을 악용한 성범죄와 명예훼손에 대한 처벌을 강화하겠다는 공약도 밝혔다. 불법 촬영물의 삭제와 수사, 법률‧의료지원이 원스톱으로 가능하도록 ‘디지털 성범죄 피해자 지원센터’ 협력체계를 고도화겠다는 것이 이 후보의 구상이다. 노동환경에서의 남녀 격차 완화를 위해서는 ‘고용평등 임금 공시제’를 도입하겠다고 했다. 이 후보는 “공공기관에 성별 평등 지표를 적극 반영하고, 경력보유여성 채용 기업에는 세제지원을 강화하겠다”며 “여성 벤처기업 투자펀드를 확대해 창업과 성장을 뒷받침하고, 경력보유 여성과학기술인의 역량 강화와 경력 전환을 적극 지원하겠다”고 밝혔다.

광주광역시경찰청은 카카오모빌리티와 파트너사 GJT모빌리티와 손잡고 전국 카카오T택시 승객용 모니터(10~13인치)를 활용한 ‘치안 시책’ 홍보 영상을 송출한다고 8일 밝혔다. 청은 일상 속 생활 교통수단인 택시 공간을 활용하여 보이스피싱 예방, 교통안전, 딥페이크 등 다양한 치안 정책을 친근한 방식으로 시민에게 전달하기 위해 이번 사업을 시행한다고 설명했다. 우선 5월은 최근 피해가 급증하고 있는 ‘기관사칭형 보이스피싱’과 AI 기술을 악용해 사람 얼굴, 목소리, 말투 등을 조작, 가짜 영상을 만드는 ‘딥페이크’ 범죄 예방 위한 홍보 영상이 송출된다. 이후 교통안전, 스미싱 등 다양한 치안 시책에 대해 공감형 스토리 기반 영상을 제작, ‘일상 속 체감치안’ 내용을 모니터에 담기로 했다. 박성주 광주경찰청장은 “모빌리티 플랫폼의 기술력과 공공기관의 사회안전망이 결합하여 시민들의 안전을 강화하고 범죄를 예방하는데 큰 의미가 있을 것으로 기대한다”고 밝혔다.

“아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘. 나중에 설명할게.” 울먹이며 읍소하는 목소리는 대학교수 A씨가 30년간 들었던 외동딸의 진짜 목소리였다. 돈을 보내려던 A씨는 혹시나 하는 마음에 다시 딸에게 전화를 걸었다. 그러자 “아, 보이스피싱인가봐”라는 답이 돌아왔다. 휴대전화 속 목소리는 인공지능(AI) 기술로 딸의 목소리를 흉내 낸 것이었다. AI 기술이 발전하면서 이를 악용한 범죄가 진화하고 있다. 과거 보이스피싱이 지인의 목소리를 어설프게 흉내내거나 공공기관을 사칭하는 방식이었다면, 이제는 실제 목소리 정보를 AI로 합성해 조작한다. 이른바 ‘딥보이스’는 먼저 목소리 정보를 얻어낼 상대방에게 전화를 걸어 짧게 통화하는 것으로 시작된다. 이 목소리 데이터를 AI프로그램에 합성하면 가족이나 지인의 음성을 유사하게 만들어 낼 수 있다. 실제 서울신문이 한 딥보이스 앱에 목소리 녹음 파일을 올리자 30초도 채 안 돼 패턴과 속도 등을 분석했다. 이후 “엄마 핸드폰이 고장 나서 그런데 100만원 입금해줘”라는 문장을 글로 입력하고, 상황 등을 설정하자 녹음파일의 목소리와 비슷한 음성이 흘러나왔다. 법무법인 청의 곽준호 변호사는 “목소리 녹음 파일만 있으면 누구나 쉽게 AI로 그럴듯하게 목소리를 만들어 내 범죄에 악용할 수 있다”고 했다. 경찰 관계자도 “목소리를 수집하는 역할을 하는 ‘콜센터’를 검거하기가 쉽지 않다”면서 “이런 유형의 보이스피싱이 빈번해지고 있다”고 전했다. 경찰청에 따르면 지난해 보이스피싱 피해액은 8545억원으로 1년 전보다 91% 늘었다. 하지만 최신 기술인 딥보이스가 악용된 경우가 얼마나 되는지는 공식 통계조차 잡히지 않는다. AI 기술로 조작되는 것은 목소리뿐만이 아니다. 카카오톡 프로필 사진 등 얼굴 사진을 도용해 영상과 사진으로 만드는 범죄도 여전히 잦다. 이미 심각한 사회문제가 된 딥페이크 성범죄뿐 아니라 최근에는 인터넷은행의 생체 인증 서비스를 딥페이크로 뚫으려다 적발된 사례도 있다. 금융권에 따르면 지난달 한 인터넷은행에서는 고객 개인정보를 탈취한 이들이 면허증의 사진 등을 AI로 조작해 얼굴 인식 등 금융사의 생체인증을 뚫으려고 시도했다. 황석진 동국대 국제정보보호대학원 교수는 “기술의 발전으로 피해자들이 더 쉽게 속아 넘어갈 수 있게 됐다”며 “AI를 이용한 범죄의 피해 규모를 파악하고 대응법을 마련해야 한다”고 말했다.

“아빠 지금 5000만원만 빨리 입금해 줄 수 있을까? 지금 이 계좌로 좀 보내줘. 나중에 설명할게.” 울먹이며 읍소하는 목소리는 대학교수 A씨가 30년간 들었던 외동딸의 진짜 목소리였다. 돈을 보내려던 A씨는 혹시나 하는 마음에 다시 딸에게 전화를 걸었다. 그러자 “아, 보이스피싱인가봐”라는 답이 돌아왔다. 휴대전화 속 목소리는 인공지능(AI) 기술로 딸의 목소리를 흉내 낸 것이었다. AI 기술이 발전하면서 이를 악용한 범죄가 진화하고 있다. 과거 보이스피싱은 가족과 지인의 목소리를 어설프게 흉내 냈다면, 이제는 실제 목소리 정보를 AI로 합성해 조작한다. 카카오톡 프로필 사진 등을 활용해 AI 조작 영상이나 사진을 만든 뒤 금융회사의 인증망을 뚫으려고 하거나 공문서를 손쉽게 조작하다 적발되기도 한다. 이른바 ‘딥보이스’는 먼저 목소리 정보를 얻어낼 상대방에게 전화를 걸어 짧게 통화하는 것으로 시작된다. 이 목소리 데이터를 AI프로그램에 합성하면 가족이나 지인의 음성을 유사하게 만들어 낼 수 있다. 실제 서울신문이 한 딥보이스 앱에 목소리 녹음 파일을 올리자 30초도 채 안 돼 패턴과 속도 등을 분석했다. 이후 “엄마 핸드폰이 고장 나서 그런데 100만원 입금해줘”라는 문장을 글로 입력하고, 상황 등을 설정하자 녹음파일의 목소리와 비슷한 음성이 흘러나왔다. 법무법인 청의 곽준호 변호사는 “목소리 녹음 파일만 있으면 누구나 쉽게 AI로 그럴듯하게 목소리를 만들어 내 범죄에 악용할 수 있다”고 했다. 경찰 관계자도 “목소리를 수집하는 역할을 하는 ‘콜센터’를 검거하기가 쉽지 않다”면서 “이런 유형의 보이스피싱이 빈번해지고 있다”고 전했다. 경찰청에 따르면 지난해 보이스피싱 피해액은 8545억원으로 1년 전보다 91% 늘었다. 하지만 최신 기술인 딥보이스가 악용된 경우가 얼마나 되는지는 공식 통계조차 잡히지 않는다. 황석진 동국대 국제정보보호대학원 교수는 “그동안 가족이나 친구의 목소리를 흉내 내는 방식은 성공률이 낮은 편이었지만, 기술의 발전으로 피해자들이 더 쉽게 속아 넘어갈 수 있게 됐다”며 “정확한 피해 규모를 파악하는 게 우선”이라고 말했다. AI 기술로 조작되는 것은 목소리뿐만이 아니다. 카카오톡 프로필 사진 등 얼굴 사진을 도용해 영상과 사진으로 만드는 범죄도 여전히 잦다. 이미 심각한 사회문제가 된 딥페이크 성범죄뿐 아니라 최근에는 인터넷은행의 생체 인증 서비스를 딥페이크로 뚫으려다 적발된 사례도 있다. 금융권에 따르면 지난달 한 인터넷은행에서는 고객 개인정보를 탈취한 이들이 면허증의 사진 등을 AI로 조작해 얼굴 인식 등 금융사의 생체인증을 뚫으려고 시도했다. AI프로그램에 사진을 넣은 뒤 영상을 만들었고, 이를 이용해 스마트폰 얼굴 인식으로 본인 인증을 시도한 것이다. 하지만 수상함을 감지한 은행이 이들을 적발했고, 수사기관에 넘겼다. 법원의 압수수색·구속영장 허가서나 피의사건 처분결과 통지서 등을 공문서 조작은 더 쉬워졌다. 실제로 챗GPT에 ‘전자금융사기’ 죄목으로 ‘압수수색·구속영장 허가서’ 양식을 작성해달라고 요청하면, 사건 개요, 사건명, 관련 법률 등 필요 항목을 정리해준다. 여기에 더 정밀한 명령어를 내려 실제 문서까지 만들 수 있다고 한다. 법무법인 YK의 고두희 변호사는 “한국말을 잘 모르는 외국인 범죄자들이 AI를 통해 한국 수사기관의 공문서를 위조하기도 한다”고 전했다. 이처럼 범죄에 AI가 악용되는 경우가 늘어나고 있는 만큼 수사기관의 대응도 강화해야 한다는 지적이 나온다. 이건수 백석대 범죄수사학과 교수는 “기술이 좀 더 발전해 정교해진다면 조작된 목소리나 얼굴로 사람은 물론 디지털 인증 체계까지 속일 수 있다”며 “AI가 범죄에 활용되는 통계 집계부터 시작해 진화하는 수법에 대응하는 방법을 고민해야 할 시기”라고 말했다.

코로나 팬데믹 이후 ‘나만의 삶에 빠져든 대한민국’이 사회 트렌드로 떠오른 만큼, 문화 정책 역시 초개인화된 ‘나’만을 위한 문화소비에 초점을 맞춰 수립해야 한다는 주장이 제기됐다. 한국문화관광연구원은 2일 ‘문화예술 트렌드 분석 및 전망 2025-2027’ 보고서를 내고, 한국 사회가 준비해야 할 10대 문화예술 트렌드를 선정했다. 보고서는 ‘나만의 삶에 빠져든 대한민국’을 주요 트렌드 중 하나로 제시하며, 개인주의 확산과 초개인화된 문화 소비가 향후 문화예술계의 중요한 변화 요인이 될 것으로 전망했다. 코로나 팬데믹 이후 비대면 생활이 증가하면서 사람들의 소비와 생활 방식이 근본적으로 변화했고, 초개인화 기술이 발전하면서 사람들이 대중적이고 통합적인 문화콘텐츠를 소비하기보다 자신만의 독특한 취향에 맞춘 개별화된 콘텐츠를 선호하게 됐다는 것이다. 이런 성향은 문화예술 소비에도 영향을 주고 있다. 과거 집단적 문화를 즐기는 사람들이 대형 극장이나 공연장에서 다수와 함께 공감하며 체험하는 것을 선호했다면, 초개인화된 라이프 스타일에서는 소규모 공연이나 1:1 맞춤형 공간과 같이 개인화된 경험을 추구한다. 보고서는 “비혼 증가로 인한 1인 가구의 지속 증가, 개인주의 성향으로 인한 소규모 맞춤형 예술 작품과 서비스가 확대될 것”이라 예상한 뒤 “온라인으로 다양한 문화예술 콘텐츠를 접할 수 있는 통합 플랫폼 구축으로 접근성을 높이고, 도시 내 개인 맞춤형 커뮤니티 공간을 확대할 것” 등을 대안으로 제시했다. 개인의 정신건강을 위한 ‘멘탈헬스’, 즉 치유적 문화 소비도 문화의 주요 트렌드로 자리 잡을 것으로 전망했다. 정신건강의 보조 돌봄 장치로서 ‘아트 테라피’ 등이 디지털 기술과 접목해 빠르게 상용화된다는 것이다. 경제적 소비 트렌드도 문화예술계에 자리 잡을 것으로 예상했다. 보고서는 “‘이코노-럭스’(Econo-Lux) 시대의 도래와 함께, ‘요노족’(YONO: You Only Need One)의 등장에 주목해야 한다”며 “이는 ‘하나만 있으면 된다’는 미니멀한 소비 패턴을 보이면서도, 자신의 취향과 가치에 맞는 제품에는 과감히 투자하는 특징을 보인다”고 설명했다. ‘윤리 없이 스며든 디지털과 인공지능(AI)’ 트렌드도 문제다. 이경진 부연구위원은 “AI로 인한 윤리 문제 발생을 예방하기 위해서 정책적으로는 디지털 기술 및 생성형 AI 사용 가이드라인을 마련하고, 예술가의 창작 활동 및 소비활동에서 발생할 수 있는 윤리적 문제를 예방해야 한다”고 조언했다. 또한 “모든 국민이 디지털 활용을 원활히 할 수 있도록 교육 프로그램을 제공하고, 딥페이크 기술을 악용한 범죄 행위에 대한 강력한 처벌 규정을 수립하는 등의 법적 대응 체계를 강화할 필요가 있다”고 지적했다. 연구원은 문화예술, 관광, 콘텐츠산업 분야의 트렌드 연구를 3년 간격으로 진행하고 있다. 이번 연구 결과는 기존 문화예술 트렌드 키워드 분석을 기반으로 ▲발현도와 지속성 분석 ▲환경분석 ▲미디어 스캐닝 ▲전문가 FGI 조사 ▲전문가 델파이 조사 ▲전문가 좌담회 등의 방법을 종합해 도출했다. ‘빠르게 변화하는 시대, 우리가 준비해야 할 문화예술 트렌드 2025-2027’ 전문은 연구원 누리집(www.kcti.re.kr)에서 확인할 수 있다.

최근 북한의 비트코인 보유량이 전 세계 3위에 이른다는 주장이 나와 많은 이들을 놀라게 했습니다. 북한의 사이버 위협은 최근 몇 년 새 국제사회에서 매우 심각한 문제로 떠올랐습니다. 해킹 등 사이버 공격, 정보기술(IT) 인력의 위장 취업 등 다양한 수법으로 정보를 탈취하거나 가상화폐로 수익을 얻어 대북제재로 막힌 경제활동을 하고 있는 것으로 지적됐는데, 그 규모도 상당한 것으로 추정됩니다. 지난 17일(현지시간) 세계 최대 코인거래소인 바이낸스의 뉴스 포털 바이낸스뉴스는 가상화폐 관련 미디어 코이노미디어, 데이터업체 블록비츠 등을 인용해 북한의 해킹 조직 라자루스가 현재 11억 4000만 달러(1조 6500억원)에 해당하는 1만 3562 비트코인(BTC)을 보유한 것으로 추정된다고 했습니다. 이는 19만 8109 BTC를 보유한 미국 정부와 6만 1245 BTC를 보유한 영국 정부에 이어 정부 단위로 세계 3위에 해당하는 양입니다. 게다가 비트코인을 법정 통화로 도입한 엘살바도르(6117 BTC)나 국가적 차원에서 비트코인을 채굴하는 부탄(1만 635 BTC) 보다도 많은 양이라고 합니다. 라자루스는 북한 정찰총국이 운영하는 것으로 알려져 있습니다. 지난달에는 세계 2위 암호화폐 거래소 바이비트의 공급업체를 해킹해 이더리움 40만 1000개 등 14억 6000만달러(2조 1000억원) 상당의 코인을 탈취하기도 했습니다. 역대 암호화폐 탈취 사건 중 최대 규모로 꼽힙니다. 라자루스는 탈취한 이더리움을 비트코인으로 바꾼 뒤 여러 경로를 거쳐 현금화를 하고 있는 것으로 추정됩니다. 문제는 대북제재에도 불구하고 북한의 해킹과 가상화폐 탈취 등의 행태가 인공지능(AI) 기술을 활용해 더욱 교묘하게 이뤄지고 있다는 우려도 커지고 있습니다. 지난 18일 서울에서 열린 ‘구글 클라우드 시큐리티 데이 미디어 브리핑’에서 루크 맥나마라 구글 위협인텔리전스그룹 맨디엍느 부수석 애널리스트는 “북한은 간첩 활동보다도 금전적 이득 혹은 갈취 목적의 공격이 두드러진다”며 “특히 가상자산이나 가상자산거래소를 노리거나 가상자산 사용자, 혹은 대체불가능토큰(NFT) 프로젝트를 겨냥한 활동이 있었다”고 밝혔습니다. 그러면서 “북한은 특이하게도 가상자산 산업이나 기술에 대한 이해도가 굉장히 높다”며 “NFT나 브릿지 등 신기술이 나올 때마다 빠르게 이해하고 악용 방법을 알아냈다”고 지적했습니다. “한국에서 관찰된 적은 없지만 IT 인력을 활용하는 방식도 세계적으로 일어난다”며 “주 목적은 취직한 뒤 수입을 창출해 북한 정권에 송금하는 것이고, 일부는 해커조직과 관련된 경우도 있다”고도 설명했습니다. 한국과 미국을 비롯해 국제사회는 북한의 이러한 사이버 위협과 가상화폐 탈취가 곧 북한 정권의 핵·미사일 프로그램 개발 자금을 위한 외화벌이 수단이라고 보고 사이버 분야까지 제재 범위를 넓혀왔습니다. 가상화폐 거래소부터 브릿지, 가상화폐를 ‘세탁’하는 믹서 기업 등을 제재 대상으로 올려 가상화폐를 현금화하기 위한 자금 흐름을 지속적으로 추적, 차단하고 있습니다. 지난 1월엔 한미일 3국은 공동성명을 내고 “3국 정부는 북한의 불법적인 대량살상무기(WMD) 및 탄도미사일 프로그램에 사용되는 불법 수익 차단을 궁극적인 목표로, 민간업계 등을 대상으로 북한의 암호화폐 탈취를 예방하고 해당 자금을 회수하기 위해 함께 노력하고 있다”고 강조했습니다. 한미일 3국은 3국 제재 대상으로 지정된 라자루스 등 북한과 연계된 지능형 지속공격(ATP) 단체들이 사이버 범죄를 통해 암호화폐를 탈취하고 거래소나 가상자산 수탁업체, 개인 사용자를 겨냥하고 있다고 지적하기도 했습니다. 미국 도널드 트럼프 2기 정부의 피트 헤그세스 국방부 장관도 인사청문회 때 제출한 답변서를 통해 북한의 사이버 역량 강화가 세계 안정에 위협이 된다고 밝힌 바 있습니다. 이승열 국회입법조사처 입법조사관은 2023년 통일연구원의 ‘통일정책연구’에 실은 논문 ‘북한 사이버 공격 전략의 진화: 대북제재 회피를 위한 외화벌이 수단으로서 사이버 전략’을 통해 미국은 물론 한국 정부도 북한의 사이버 공격을 심각하게 보고 적극적인 대응방안을 모색하고 있다면서도 “우리 정부의 노력과 관계 없이 국제사회의 공통된 협력 체계가 부재한 상황에서 개별 국가의 노력은 한계가 있을 수밖에 없다”고 지적했습니다. 따라서 “무엇보다 우리 정부는 미국과 함께 북한의 사이버 공격에 대한 대응 차원에서 국제적 제재 플랫폼을 구축하는 데 적극적으로 나설 필요가 있다”며 사이버 안보에 대한 국제규범 확립에 더 적극적으로 참여할 것을 촉구했습니다.

“인류 역사상 최대 강도 사건.” 26일(현지시간) 영국 인디펜던트는 최근 발생한 2조원 규모 가상화폐 탈취 사건을 이렇게 평가했다. 사상 최대 규모의 이 도둑질 뒤에는 북한이 있다. 美 FBI “바이비트 해킹 북한 소행…훔친 암호화폐 이미 분산”지난 21일 가상화폐 거래소 바이비트(Bybit)에서는 14억 6000만 달러(약 2조 1000억원) 규모의 코인이 해킹을 통해 탈취되는 사건이 발생했다. 해커 집단은 바이비트의 콜드월렛(인터넷이 차단된 가상화폐 지갑)에 보관돼 있던 암호화폐를 핫월렛(온라인에 연결된 가상화폐 지갑)으로 옮기는 과정에서 지갑 주소를 확인하는 담당자를 표적으로 삼고 ‘피싱’(phishing) 공격을 가했다. 여기에 속은 바이비트 측은 정상적인 거래라고 생각해 송금을 승인했지만, 실제로는 해커 집단의 지갑으로 암호화폐가 흘러갔고 이후 약 50개의 다른 지갑들로 분산돼 ‘세탁’을 시도하려 한 정황이 포착됐다. 배후로는 북한 해킹 조직 ‘라자루스’가 지목됐다. 바이비트와 블록체인 분석 전문가들은 이번 사건에 동원된 범행 수법이 과거 라자루스의 수법과 흡사했다고 밝혔다. 미국 연방수사국(FBI) 역시 25일 북한이 이번 사건의 배후라고 지목하면서 이른바 ‘트레이더트레이터’(TraderTraitor) 수법이 동원된 것으로 파악됐다고 밝혔다. 트레이더트레이터는 ‘고소득 일자리 제안 등으로 위장해 악성코드가 숨겨진 암호화폐 애플리케이션 등을 내려받도록 유도하는 해킹 수법’을 지칭하는 미국 정부 용어다. FBI는 “트레이더트레이터 행위자들은 빠르게 진행 중이며, 훔친 자산 일부를 수천개의 주소에 분산된 비트코인과 여타 가상자산으로 전환했다”라며, 이 자산이 좀 더 세탁을 거쳐 현금화될 것으로 전망한다고 설명했다. 英매체 “북한 라자루스, 자국 한해 국방예산 탈취한 셈” 이번 사건의 피해 규모는 과거 있었던 비슷한 사건과는 비교도 할 수 없을 만큼 크다. 2022년 로닌 네트워크 해킹과 2021년 폴리 네트워크 해킹 사건 피해액도 각각 6억 1500만 달러(약 8880억원), 6억 1100만 달러(약 8820억원)였다. 2022년 BNB 토큰 취약점 악용 사건과 2018년 코인핵 절도 사건 피해액은 각각 5억 6900만 달러(약 8210억원), 5억 3000만 달러(약 7650억원)였다. 인디펜던트는 라자루스의 이번 해킹을 “인류 역사상 최대 강도 사건”이라고 표현하며, 사담 후세인 전 이라크 대통령을 거론하기도 했다. 통상 인류 역사상 최대 규모 강도 사건이라고 하면 2003년 이라크 전쟁 발발 직전 사담 후세인 당시 이라크 대통령이 이라크 중앙은행에서 10억 달러(약 1조 4000억원) 상당의 돈을 훔친 것이 거론된다. 이번 해킹 사건 피해액은 그보다도 5억 달러 가까이 많은 14억 6000만 달러(약 2조 1000억원)에 달한다. 인디펜던트는 이 돈이 북한의 한 해 국방예산(2023년 기준 14억 7000만 달러, 약 2조원)과 맞먹는다고 지적했다. 바이비트, 라자루스 겨냥 현상금 사이트 개설바이비트 측은 라자루스의 자금 세탁 활동을 완전히 투명하게 공개하는 첫 현상금 사이트를 개설, 자금추적에 나서는 한편 제공된 정보로 자금 동결에 성공할 경우 동결 금액의 5%를 보상금으로 지급한다는 계획을 발표했다. 벤 저우 바이비트 최고경영자(CEO)는 이러한 활동을 “라자루스 또는 가상화폐 업계의 악의적인 행위자가 사라질 때까지 멈추지 않을 것이다”라고 강조했다. 2009년 창립된 것으로 알려진 북한 정찰총국 산하 해커조직 라자루스는 2014년 미국 소니픽처스를 해킹하면서 주목받기 시작했다. 이 조직은 2016년에는 방글라데시 중앙은행을 해킹해 8100만 달러(약 1100억원)를 훔쳤고, 2017년에는 ‘워너크라이’ 랜섬웨어를 유포해 전 세계 150여개국에 대규모 피해를 발생시키는 등 각종 범죄를 저질러 온 것으로 평가된다.

미국 기술패권의 아성을 뒤흔들 중국의 혁신적인 인공지능(AI) 기술로 주목받은 대규모 언어모델(LLM) ‘딥시크’가 심각한 신뢰성 문제를 드러냈다. 정보 검증에서 83%의 높은 실패율을 기록했을 뿐 아니라, 보안상 취약점도 다수 발견됐다. 미 포춘지는 29일(현지시간) “중국의 딥시크 AI가 잘못된 정보로 가득 차 있으며, 심지어 폭탄 제조법 생성까지 유도될 수 있다는 연구진의 경고가 나왔다”고 보도했다. 정보 신뢰성 평가 기관인 뉴스가드의 최근 검사 결과에 따르면, 딥시크 챗봇은 뉴스 관련 주제에 대한 질문에서 83%라는 높은 비율로 부정확한 답변을 제공하거나 응답하지 못했다. 특히 명백한 거짓 정보를 제시했을 때 이를 반박한 경우는 17%에 불과했다. 이러한 실패율로 인해 딥시크의 R1 모델은 테스트 대상이었던 11개 챗봇 중 10위라는 저조한 성적을 기록했다. 반면 오픈AI의 챗GPT-4, 앤트로픽의 클로드, 미스트랄의 르챗 등 서구 기업들의 서비스는 대부분 상위권에 올랐다. 뉴스가드는 딥시크의 낮은 신뢰성에 대해 여러 원인을 지적했다. 우선 딥시크가 2023년 10월 이후 정보를 학습할 수 없던 점이 부정확한 답변으로 이어졌다는 분석이다. 또한 딥시크가 거짓 정보를 학습하도록 쉽게 조작할 수 있어 대규모 오정보 유포에 악용될 우려가 있다고 밝혔다. 특히 이번 검사에서는 딥시크의 결과값이 중국의 정보 통제 정책을 반영하고 있다는 점이 드러났다. 뉴스가드의 분석가들은 “테스트한 10개의 거짓 주장 중 3개의 경우, 중국과 무관한 질문임에도 딥시크가 중국 정부의 입장을 전달했다”고 지적했다. 한편, 사이버범죄 정보 기관인 켈라도 딥시크의 보안 취약성을 지적하는 분석을 발표했다. 켈라는 “딥시크 R1은 챗GPT와 유사점이 있지만 훨씬 더 취약하다”며 경고했다. 연구진은 다양한 시나리오에서 R1을 활용해 랜섬웨어 개발, 민감한 콘텐츠 조작, 독소 및 폭발물 제조에 대한 상세 지침 등 악의적인 정보를 생성할 수 있었다고 밝혔다. 특히 딥시크는 ‘악한 탈옥’ 공격에 취약한 것으로 나타났다. 이는 AI에게 돈세탁이나 데이터 도용 멀웨어 작성 같은 불법 활동에 대한 질문에 대답하도록 유도하면서, AI에 내장된 안전 장치를 무력화하는 공격 방식을 의미한다. 켈라는 또한 딥시크가 답변 과정의 추론 단계를 모두 표시하는 방식이 위험하다고 지적했다. 챗GPT가 추론 과정을 숨기는 것과 달리, 딥시크는 이를 상세히 공개함으로써 악의적 사용자들이 멀웨어 개발 등에 활용할 수 있는 정보까지 제공한다는 것이다. 이러한 문제점들이 알려지면서 서구권의 반발도 거세지고 있다. 미 해군은 이미 “모델의 출처와 사용에 관련된 잠재적 보안 및 윤리적 우려”를 이유로 소속 구성원들에게 딥시크 사용을 금지했으며, 백악관은 국가안보회의 차원에서 딥시크의 영향을 검토 중이라고 밝혔다. 더불어 오픈AI는 자사 AI 데이터를 딥시크가 무단으로 빼돌려 기술을 개발했을 가능성이 있다고 주장하고 있다.

-국내 5대 가상거래소 최초 고객 신원확인 솔루션 도입-신분증 위변조 판별하여 신분 도용 범죄 방지 알체라의 자회사 레그테크(Reg-Tech) 전문기업 유스비가 국내 가상자산(암호화폐) 거래소 코빗에 신분증 OCR과 사본판별 솔루션 공급 계약을 체결했다고 밝혔다. 코빗은 국내 5대 가상자산 거래소 중 최초로 가입자의 신원 확인 프로세스를 강화하기 위해 유스비와 비대면 고객 실명 확인 솔루션(eKYC) 계약을 체결했다. 이번 계약을 통해 유스비는 코빗 앱에 신분증 OCR 및 사본 판별 솔루션을 공급하며, 안전하고 효율적인 신원확인 서비스를 지원할 예정이다. 유스비의 신분증 OCR 솔루션은 체감 속도 약 0.1초 이내로 텍스트 정보를 추출하며, 빠르고 정확한 신원 확인을 지원한다. 신분증 사본판별 솔루션은 종이 사본, 스마트폰 또는 PC로 촬영된 이미지를 실시간으로 분석해 신분증 위·변조 여부를 판별한다. 이를 통해 타인의 신분증이나 실물이 아닌 신분증 사본을 이용한 부정 가입을 효과적으로 차단한다. 국내 가상자산 거래자가 1500만 명을 넘어선 가운데, 거래소 가입자의 신원 확인 절차 시 보안 취약점에 대한 문제는 자주 지적되어 왔다. 특히, 모바일 환경에서 쉽게 이루어지는 비대면 가입 방식을 악용한 부정 사례가 증가하면서, 신원 위조와 도용을 방지하기 위한 보안 강화와 절차 개선이 무엇보다 중요해졌다. 이러한 상황에서 유스비의 비대면 고객 실명 확인(eKYC) 솔루션은 문제를 해결할 핵심 대안으로 주목받으며, 시장의 기대를 모으고 있다. 유스비의 eKYC 통합 솔루션은 ▲신분증 OCR 및 진위 확인 ▲1원 계좌 인증(계좌 실명 조회 및 계좌 점유 인증) ▲안면 인증으로 구성되어 있으며, 기업의 환경, 규모, 사용량에 맞춰 적합한 인증 방식을 선택할 수 있도록 다양한 커스터마이징 옵션과 부가 기능을 제공한다. 무엇보다 SaaS(서비스형 소프트웨어) 방식으로 구현이 가능하여 OCR 엔진 설치, 서비스 UI/UX 기획 및 디자인, 개발에 소요되는 시간과 비용 부담을 최소화할 수 있다는 장점이 있다. 특히, 국내 최고 수준의 AI 안면 인식기술력을 자랑하는 알체라의 솔루션이 적용되어 사용자에게 뛰어난 성능과 정확성을 제공한다. 유스비 김성수 대표는 “가상자산 거래소 업계가 신뢰와 보안을 바탕으로 성장할 수 있도록, 유스비의 eKYC 통합 솔루션이 핵심 역할을 할 것으로 기대한다”며, “안전하고 효율적인 신원 확인 체계를 구축할 수 있도록 지속적으로 기술을 발전시키고 혁신적인 서비스를 제공하겠다”고 포부를 밝혔다. 한편 유스비는 Vision AI 혁신 선도기업 알체라의 자회사로, 양사는 금융사업과 본인인증 분야의 판로를 개척하기 위한 협업을 이어가고 있다. 그 결과 금융과 핀테크 외 비대면 본인인증 분야에서 괄목할 만한 성과를 내고 있다. 특히, 유스비의 eKYC는 SaaS 형식의 비대면 고객확인 통합 솔루션으로, 고객확인을 위한 모든 기능과 디자인까지 한 번의 연동으로 구현 가능하다. 또한 필요 기능, 디자인 등 고객 맞춤 커스텀이 가능하여 안정성은 물론, 활용성과 확장성이 우수한 특징을 지니고 있다.

정보통신정책연구원(원장직무대행 김정언, 이하 ‘KISDI’)은 과학기술정보통신부(장관 유상임, 이하 ‘과기정통부’)와 함께 지난 20일 온라인 생중계를 통해 ‘인공지능(이하 ‘AI’) 영상합성서비스 윤리영향평가 공개 토론회’를 개최했다고 밝혔다. 이번 토론회는 학계·산업계·법조계·공공·시민사회·국제기구 등 다양한 분야 전문가들로 구성된 ‘전문가평가단’과 일반 국민 참여로 이루어진 ‘국민포럼단’이 ‘AI 영상합성’ 서비스의 윤리적 영향에 대해 논의한 결과를 공유하고, 국민의 의견을 폭넓게 듣기 위해 마련된 자리이다. AI 윤리영향평가는 기업의 AI 윤리 및 신뢰성 실천 노력을 뒷받침하고, 사용자가 AI를 윤리적이고 주체적으로 활용할 수 있도록 기준을 제시하기 위해 올해 처음 시범적으로 시행되고 있다. 올해는 특히 딥페이크 범죄가 사회적 문제로 떠오르면서, 이에 따른 국민적 우려와 관심을 반영해 ‘AI 영상합성’ 서비스를 대상*으로 평가를 시행했다. *제3기 AI 윤리·신뢰성 포럼, 대국민 의견조사(1500명 대상), 정부부처 선호도 등을 종합적으로 고려해 평가대상 선정 ‘AI 영상합성’ 서비스는 딥러닝 기반으로 영상 데이터를 분석하고, 이를 토대로 영상을 생성하거나 기존의 영상, 이미지, 음성을 수정 및 변형하는 서비스를 의미한다. 딥페이크 악용 등으로 인한 부정적 우려가 존재하지만, 순기능을 강화한다면 다양한 산업 분야에서 긍정적 혁신과 사회적 효과를 기대할 수 있다. 이번 AI 윤리영향평가는 ‘AI 영상합성’ 서비스의 윤리적 긍·부정 영향을 국가 ‘인공지능(AI) 윤리기준’ 10대 핵심요건별로 살펴보고, 긍정적 영향 극대화와 부정적 영향 최소화를 위한 정부, 기업, 국민 등의 주체별 노력과 정책, 법·제도·기술적 대응 방안 등도 함께 고려했다. 본 평가는 2023년 과기정통부와 KISDI에서 개발한 ‘인공지능 윤리영향평가 프레임워크’와 같은 해 유네스코(UNESCO)가 발표한 ‘윤리적 영향평가도구 방법론’을 활용했으며, 이를 통해 기업, 시민사회, 학계, 정부 및 공공 등에 AI 영상합성서비스의 윤리적 영향력을 체계적으로 파악할 수 있는 참고자료를 제공하고자 한다. 이번 공개토론회에서는 문정욱 KISDI 디지털사회전략연구실장이 ‘2024년 AI 영상합성서비스 윤리영향평가 결과(안)’을 소개했다. 이어 AI 윤리영향평가단장으로 활동한 이상욱 한양대 교수(좌장) ▲김유철 LG AI연구원 전략부문장 ▲변형진 이스트소프트 개발TF센터장 ▲선지원 한양대 법학전문대학원 교수 ▲이영복 제네시스랩 대표 ▲최호진 KAIST 교수 ▲송호준 과기정통부 인공지능확산팀장이 토론자로 참여했다. 문정욱 KISDI 디지털사회전략연구실장은 “AI 기술의 윤리적이고 안전한 활용은 지속가능한 디지털 사회를 위한 핵심과제이다. 이번 시범 평가는 AI 영상합성서비스의 긍정적 가능성을 극대화하고 부정적 영향을 최소화하기 위한 출발점이며 향후 학계·산업계·정부·시민사회가 함께 실효성 있는 대응 방안을 마련하는 데 중요한 참고자료가 될 것으로 기대한다”라고 말했다. AI 윤리영향평가는 오늘 공개토론회에서의 논의와 내년 초 이해관계자 의견수렴을 통해 최종 결과를 도출한 뒤, 국민도 쉽게 접할 수 있도록 책자 형태로 내년 상반기에 발간될 예정이다. 본 행사는 과기정통부와 KISDI 유튜브채널을 통해 온라인으로 참여할 수 있다.

서울 강서구가 딥페이크(이미지 합성 기술) 범죄를 막기 위한 주민 강좌를 진행한다. 강서구는 ‘딥페이크 기반 디지털 성범죄 이해와 대응 방안’이라는 주제로 제186회 강서지식비타민강좌를 진행하고 있다고 2일 밝혔다. ‘딥페이크’는 딥러닝과 페이크의 합성어로, 인공 지능 기술을 활용해 만든 가짜 이미지나 영상물을 말한다. 이번 강좌는 구청 공식 유튜브 채널을 통해 25일까지 시청이 가능하다. 강사로 나선 장광호 ㈜CNAI 대표이사가 나선다. 한신대학교 연구교수를 겸하고 있는 장 대표는 경찰청 과학수사관리관실 범죄분석기획담당과 경찰대학 치안정책연구소 스마트치안지능센터 센터장을 역임했다. 그는 이번 강의에서 딥페이크 기술을 이용한 디지털 성범죄의 개념과 대응 방안에 대해 자세히 전달한다. 특히 실제 범행 사례를 통해 온라인 환경에서 악용되기 쉬운 딥페이크 기술의 특성과 위험성을 설명한다. 또 디지털 성범죄와 관련한 국·내외 처벌 기준을 논의하고 가해자의 책임을 강화하는 방향으로 법제도 정비의 필요성을 강조한다. 딥페이크 영상 생성 과정과 탐지 기술을 살펴보고, 불법합성물 피해자 지원에 대한 관심을 촉구하는 시간도 가진다. 이번 강좌는 청소년들이 딥페이크 성범죄에 노출될 우려가 큰 만큼 지역 내 초·중·고등학교에 공문과 가정통신문 등을 통해 안내될 예정이다. 구 관계자는 “최근 학생 등을 대상으로 한 딥페이크 범죄가 심각한 사회문제로 대두되어 이를 예방하고자 이번 강좌를 마련했다”며 “이번 강좌가 디지털 성범죄에 대한 심각성을 알리고 안전한 교육환경을 조성하는 데 도움이 되길 바란다”고 말했다.

가짜뉴스나 딥페이크 범죄, 사이버 공격 등 인공지능(AI) 악용에서 비롯된 잠재적 위험을 막기 위한 연구 전담 조직 ‘AI 안전연구소’가 출범했다. 과학기술정보통신부는 27일 경기 성남시 글로벌 연구개발(R&D)센터에서 ‘AI 안전연구소’ 개소식을 열었다. 지난 5월 AI 서울정상회의 당시 윤석열 대통령이 “AI안전연구소를 설립해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것”이라고 밝힌 데 따른 것이다. 연구소는 AI의 기술적 한계, 인간의 AI 기술 오용, AI 통제력 상실 등으로 일어날 수 있는 위험에 체계적·전문적으로 대응하기 위해 세워졌다. 국가 단위의 AI 안전 정책 및 기술 연구를 진행하고, 국내 기업의 해외 진출도 돕는다. 히말라야 등반자들이 셰르파의 도움을 받아 안전하게 산에 오르듯 우리 기업이 글로벌 AI 경쟁에서 정상으로 나아갈 수 있도록 돕는다는 의미다. 정부는 AI 안전연구소는 아시아태평양지역을 대표하는 글로벌 AI 안전 거점연구소로 키워갈 방침이다. ▲AI 안전 평가 ▲AI 안전 정책 연구 ▲AI 안전 글로벌 협력 ▲AI 안전 연구개발(R&D) 등이 4대 핵심과제다. 정책 협력 및 기술 연구를 위해 AI 안전연구소는 이날 삼성전자·네이버·카카오·SK텔레콤·KT·LG AI연구원 등 산학연 24곳과 ‘대한민국 AI 안전 컨소시엄’ 업무협약(MOU)을 맺었다. 김명주 AI 안전연구소장은 “규제 기관이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관 역할을 하겠다”고 말했다.

인공지능(AI) 기반 사진 합성 기술을 악용해 다른 사람의 신체나 음성을 음란물에 합성하는 ‘딥페이크 성범죄’가 급격히 확산하면서 관련 민원이 1년 새 2배가량 증가한 것으로 나타났다. 국민권익위원회가 21일 발표한 범정부 민원분석시스템 조사 결과에 따르면, 올해 1월부터 10월까지 월평균 50건의 딥페이크 성범죄 관련 민원이 접수됐다. 지난해 월평균 30건에서 약 1.7배 늘었다. 특히 올해 8월에는 대학가를 중심으로 한 딥페이크 사건으로 인해 민원이 1년 전 대비 무려 6.1배 급증한 213건에 이르렀다. 이에 권익위는 심각성을 인지하고 딥페이크 성범죄와 관련된 ‘민원주의보’를 발령하며 관계기관에 단속 및 처벌 강화와 피해자 보호 체계 마련을 긴급 권고했다. 한국은 전 세계에서 딥페이크 성범죄에 가장 취약한 국가로 알려져 있다. 미국 사이버보안 업체 ‘시큐리티 히어로’의 2023년 보고서에 따르면, 전 세계 딥페이크 성착취물 피해자의 53%가 한국인이었다. 특히나 한국 가수들이 이 범죄의 주요 표적이 됐다. 가장 큰 피해를 본 한국인 가수의 경우 약 1600건의 딥페이크 성착취물에 노출됐으며 누적 조회 수는 561만 회에 달했다. 불특정 다수에게 얼굴이 많이 알려진 걸그룹도 딥페이크 성범죄의 주요 표적이 되는 실정이다. 걸그룹 트와이스와 뉴진스 소속사는 최근 딥페이크 성범죄에 법적으로 강력 대응하겠다고 밝힌 바 있다.