생성형 인공지능(AI)이 거짓말을 하거나 오류가 있는 정보를 진실인 것처럼 말하는 ‘환각 반응’(Hallucination)을 잡아내는 데 어려움을 겪고 있는 AI 제작사들이 AI 학습 개선을 위해 박사급 학위를 소지한 ‘인간 교수’를 대규모로 고용하고 있다는 외신 보도가 나왔다. 이들의 시급은 과거 시급이 2달러에 불과했던 아프리카, 아시아 개발도상국의 데이터 라벨링 인력과 달리 시간당 최대 200달러에 달하는 박사급인 것으로 알려졌다. 생성형 붐이 일던 초창기 오픈AI의 챗GPT나 ‘코히어‘(Cohere)와 같은 AI 모델이 인간과 같은 반응을 내도록 하려면 학습 수준이 낮은 대규모 인력으로 구성된 대규모 팀이 필요했다. 이들은 모델이 이미지가 자동차인지 당근인지와 같은 기본적인 사실을 구별하도록 도왔다. 하지만 생성형 AI 모델을 보다 정교하게 만들려면 역사학자부터 과학자까지 전문 지식을 갖춘 인간 AI 트레이너 네트워크가 급속히 확대돼야 하며, 이중 일부는 박사 학위를 소지한 전문인력이라고 AI 업계 관계자는 전했다. 코히어의 공동 창업자 이반 장은 28일(현지시간) 로이터통신에 “1년 전만 해도 우리는 AI에 개선 방법을 가르치기 위해 학부생을 고용하는 것으로 충분했지만, 이제 우리는 모델에게 의료 환경에서 행동하는 방법을 가르치는 면허 있는 의사나 재무 분석가 또는 회계사가 필요하다”고 말했다. 기업 가치를 50억 달러 이상으로 평가받은 코히어는 ‘인비저블 테크’(Invisible Tech)라는 스타트업과 협력하고 있다. 코히어는 오픈AI의 주요 경쟁사 중 한 곳이며 기업을 위한 AI를 전문으로 제작하고 있다. 인비저블 테크는 원격으로 일하는 수천 명의 트레이너를 고용해 ‘AI21’에서 마이크로소프트(MS) 이르기까지 다양한 AI 회사의 주요 파트너 중 하나가 되어 이들의 AI 모델을 훈련해 AI 세계에서 ‘환각’(Hallucination)으로 알려진 오류를 줄이는 작업을 하고 있다. 인비저블 테크 창립자인 프랜시스 페드라자는 “전 세계 100개국 이상에서 박사, 석사 학위 소지자 및 지식 작업 전문가가 5000명이 넘는다”고 말했다. 인비저블은 노동자의 위치와 작업의 복잡성에 따라 시간당 최대 40달러를 지불한다. ‘아웃라이어’(Outlier)와 같은 일부 회사는 시간당 최대 50달러를 지불하는 반면 ‘라벨박스‘(Labelbox)라는 다른 회사는 양자 물리학과 같은 높은 전문성이 필요한 주제에 관해서는 시간당 최대 200달러를 지불하지만 기본 주제에 대해서는 15달러부터 시작한다고 말했다. 인비저블 테크는 2015년 음식 배달 회사 ‘도어대시’(DoorDash)와 같은 회사의 배달 메뉴를 디지털화하기 위해 워크플로 자동화 회사로 설립됐다. 하지만 2022년 챗GPT 출시를 앞두고 오픈AI가 연락을 해오면서 상황이 변했다. 페즈라자는 “OpenAI는 우리에게 문제를 가지고 왔는데, 그것은 챗GPT의 초기 버전에 질문을 하면 환각 반응을 보인다는 것이었다”면서 “그들은 인간의 피드백을 통해 강화 학습을 제공하는 고급 AI 교육 파트너가 필요했다”고 말했다. 생성형 AI는 훈련에 사용된 과거 데이터를 기반으로 새로운 콘텐츠를 생성한다. 그러나 때로는 진실과 거짓 정보를 구별하지 못하고 환각이라고 알려진 거짓 출력을 생성한다. 주목할 만한 예로, 2023년 구글 챗봇은 홍보 영상에서 지구 태양계 밖의 행성을 처음으로 촬영한 위성에 대한 부정확한 정보를 공유했다. AI 회사들은 환각이 생성형 AI의 기업적 매력을 떨어뜨릴 수 있다는 사실을 알고 있으며, 인간 트레이너를 이용해 사실과 허구의 개념을 가르치는 등 이를 줄이기 위한 다양한 방법을 시도하고 있다. 인비저블 테크는 오픈AI에 합류한 이후 코히어, AI21, MS를 포함한 대부분의 생성형 AI 개발사의 AI 교육 파트너가 됐다고 말했다. 코히어와 AI21은 고객임을 확인했다. MS는 인비저블AI의 고객사임을 확인하지 않았다. 페드라자는 “이 회사들은 모두 교육 문제를 겪고 있었는데, 가장 큰 비용은 컴퓨팅 파워였고, 두 번째로 큰 비용은 양질의 교육이었다”고 설명했다. 생성형 AI에 대한 열풍을 일으킨 오픈AI는 ‘휴먼 데이터 팀(Human Data Team)’이라는 이름의 연구팀을 보유하고 있으며, 이 팀은 AI 트레이너들과 협력하여 챗GPT와 같은 모델을 훈련하기 위한 특수 데이터를 수집한다.오픈AI 연구원들은 환각을 줄이거나 글쓰기 스타일을 개선하는 등 다양한 실험을 진행하고 있고, 인비저블 테크 등 다른 AI 학습 공급업체의 AI 트레이너들과 협력하고 있다고 회사 프로세스를 잘 아는 소식통이 전했다. 그 사람은 언제든지 수십 개의 실험이 진행되고 있으며, 일부는 오픈AI가 개발한 도구를 사용하고 다른 일부는 공급업체의 도구를 사용한다고 말했다. AI 제작사가 원하는 바에 따라 인비저블 테크는 해당 프로젝트에 적합한 학위를 소지한 인력을 채용해 AI 학습에 투입하고, AI 제작사가 수백 명의 트레이너를 관리하는 위험부담을 줄인다. 페드라자는 “오픈AI에는 세계에서 가장 놀라운 컴퓨터 과학자들이 몇몇 있지만 그들은 반드시 스웨덴 역사나 화학, 생물학 등 전문가는 아니다. 질문할 수 있는 어떤 것에 대해서 말이다”라며 “오픈AI에서만 1000명이 넘는 계약직 직원이 일하고 있다”고 말했다. 페드라자 대표는 “인비저블 테크가 AI 트레이너를 직접 AI 학습에 투입하여 생성형AI 모델이 빅데이터 세트에서 관련 정보를 찾도록 가르치는 방법을 찾았다”고 말했다. 이 분야의 경쟁자 중에는 140억 달러의 가치를 지닌 비공개 스타트업 스케일AI(Scale AI)가 있는데, AI 기업에 훈련용 빅데이터 세트를 제공한다. 또한 AI 트레이너를 제공하는 분야에도 진출했고, 오픈AI를 고객으로 삼았다. 2021년부터 수익을 내고 있는 인비저블 테크는 1차 자본금 모집에서 800만 달러를 유치했다. 페드라자는 “우리는 팀이 70%를 소유하고 있고, 투자자가 30%만 소유하고 있다”면서 “우리는 2차 라운드를 촉진하고, 가장 최근 거래 가격은 5억 달러의 평가를 받았다”고 말했다. 인간 트레이너는 자격 요건이 덜하고 급여도 적게 받는 데이터 라벨링 작업을 통해 AI 훈련에 처음 들어갔다. 때로는 2달러 정도였다. 주로 아프리카와 아시아 국가의 개발도상국 국가의 사람들이 수행해왔다. AI 회사들이 더욱 진보된 모델을 출시함에 따라 전문 트레이너에 대한 수요와 수십 개 언어에 대한 수요가 증가하고 있다. 이로 인해 코딩 방법을 전혀 몰라도 다양한 분야의 근로자가 AI 트레이너가 될 수 있는 고소득 틈새 시장이 생겨나고 있다. AI 기업의 수요로 인해 유사한 서비스를 제공하는 기업이 더 많이 생겨나고 있다.

김정은 북한 국무위원장의 동생인 김여정 노동당 중앙위원회 부부장이 짧은 치마를 입고 한국 노래에 맞춰 춤추는 인공지능(AI) 딥페이크(AI로 합성한 진짜 같은 가짜 콘텐츠) 영상물이 화제다. 최근 온라인에서는 김 부부장이 밝은 색상의 미니 원피스를 입고 한국 가수 조현아의 신곡 ‘줄게’를 패러디한 노래를 부르며 춤추는 영상이 확산했다. 이 영상은 지난달 유튜버 ‘화성인 릴도지’가 딥페이크를 활용해 제작한 것으로, 26일 오전 기준 조회수 66만회를 기록하며 큰 인기를 끌고 있다. 영상 속 김여정은 춤을 추며 “오물 다 줄게”라며 노래를 열창했다. 김 부부장 뒤에는 북한 군인들이 등장해 칼군무를 췄다. 노래 가사는 ‘줄게 줄게 오물 다 줄게’, ‘내 남은 쓰레길 남녘에’, ‘오물 다 드릴게요’ 등 연일 오물 풍선을 살포하는 북한을 비꼬는 듯한 내용이 담겼다.

판교 AI 시티 조성, 남부권 AI 지식산업벨트 구축 경기도는 민선 8기 후반기 동안 ‘경기형 인공지능: 기회와 변화’ 비전을 발표하고 ▲판교 AI시티 조성 ▲대한민국 AI 국제영화제 개최 ▲360도 AI 플러스 돌봄 ▲경기 AI 에이전트 AI 경기人 서비스 제공 ▲AI클러스터 조성 ▲AI지식산업벨트 구축 ▲(가칭)AI 혁신센터(4차산업혁명센터) 7대 프로젝트를 추진한다.. 도는 민선 8기 전반기 동안 AI 노인말벗서비스, AI 전문인력 육성, AI국 신설 등 AI를 활용한 맞춤돌봄과 인재양성, 정책추진의 토대를 마련했다고 평가하고, 후반기에는 7대 프로젝트를 체감형 인공지능(AI) 서비스 확대와 글로벌 경쟁력을 강화하겠다고 23일 밝혔다. 먼저 판교테크노밸리에 AI 기술개발과 산업육성을 위한 거점 역할을 해줄 ‘판교 AI시티’를 조성할 계획이다. 판교 AI시티에서는 수도권에 없는 헬스케어 데이터 등 민감데이터를 분석하고 활용할 수 있는 ‘AI기술 안심존’을 관련기관과 함께 구축한다. 두 번째, 생성형 AI를 활용한 창작 활성화를 위해 ‘대한민국 AI 국제영화제’를 개최한다. 행사는 생성형 AI 기술로 제작한 영상을 상영·시상하는 영화제와 전문 포럼으로 구성되는데 첫 영화제가 오는 10월 25일 킨텍스에서 열린다. 세 번째, AI를 활용한 취약계층 돌보미 사업인 ‘360도 AI 플러스 돌봄’을 추진한다. 노인, 발달장애인 등의 돌봄 공백을 최소화하기 위한 대책으로, AI를 활용해 취약계층의 안부를 확인하고 건강을 관리하는 일을 한다. 네 번째, 사용자에게 맞춤 정책정보를 제공하는 AI 챗봇, 일명 ‘경기 AI 에이전트 AI 경기人’ 서비스를 제공한다. 도는 2025년에 챗봇을 개발해 경기도 홈페이지에 시범 서비스를 제공하고 검색 순위가 높은 고시·공고 정보와 복지 정책을 우선으로 대화형 서비스를 도입해 확대할 계획이다. 다섯 번째, 정보통신기술(ICT) 집적단지와 대학을 연계해 AI 스타트업을위한 창업공간과 교육, 기술 실증을 제공하는 ‘AI 클러스터’, 여섯 번째로 AI 기반 IT·반도체·모빌리티 등의 미래산업을 북수원 테크노밸리에 유치하고 도내 산업단지와 연결한 ‘AI 지식산업벨트’를 구축한다. 마지막으로 경기도와 세계경제포럼(WEF) 협력 협약을 통한 ‘(가칭)AI 혁신센터(4차산업혁명센터)’의 설립을 추진한다. 김현곤 경제부지사는 “4차 산업혁명 시대의 핵심인 인공지능 기술을 도정에 적극 도입해 도민 삶의 질을 높이고 경기도의 미래 성장동력을 확보하겠다”면서 “도민 모두가 인공지능 기술의 혜택을 고르게 누릴 수 있도록 최선을 다하겠다”라고 말했다.

경기도는 지난 6일 마감한 ‘제1회 대한민국 AI 국제영화제’ 출품작 공모에 전 세계 104개국에서 2천67건을 접수했다고 13일 밝혔다. 경기도가 주최하고 경기콘텐츠진흥원이 주관하는 ‘대한민국 AI 국제 영화제’는 생성형 인공지능(AI) 기술로 만든 영화만 참가할 수 있는 국내 최초·최대 규모 AI 영화제다. 지난 6일까지 진행한 공모에는 2천67건의 작품이 지원했고, 이중 자격요건을 충족한 접수는 국내 410건, 해외 125건(39개국) 등 총 535건으로 나타났다. 부문별로는 내러티브 콘텐츠 부문에서 263건, 다큐멘터리 부문에서 45건, 아트&컬처 부문에서 112건, 자유포맷 115건으로 집계됐다. 도는 심사를 통해 10월 25일 킨텍스에서 열리는 대한민국 AI국제영화제에서 26개 작품에 시상한다. 특히 AI 기술을 활용한 영상만 참가할 수 있기 때문에 생성형 AI 전문 기업인 딥브레인AI와 기술 협력을 통해 기술 심사도 진행한다. ‘딥페이크(이미지 합성기술) 탐지 솔루션’ 기술로 제출된 영상을 딥러닝 분석해서 실제로 AI 제작 도구를 활용한 영상인지 판별한다. 강지숙 경기도 콘텐츠산업과장은 “이번 공모는 해외 창작자들의 관심이 높았으며, 특히 일반적인 영화제에서 보기 힘든 3세계 국가에서도 많은 관심을 보였다”라며 “생성형 AI가 콘텐츠 창작에 새로운 기회를 부여하는 좋은 사례로 남을 수 있을 것이다”라고 말했다. 이번 심사에는 26개 작품을 선정하며, 대상 2천만 원, 부문별 1등에 각 700만 원 등 총 8천 100만 원의 상금이 수여된다.

미성년자 1명을 포함해 평소 알고 지내던 여성 24명의 얼굴 사진에 알몸을 합성한 딥페이크(허위 영상물) 성범죄를 저지른 30대 남성이 구속 상태로 검찰에 넘겨졌다. 서울경찰청 사이버수사대는 30대 남성 A씨를 청소년보호법, 성폭력처벌법 등의 위반 혐의로 6일 구속해 12일 검찰에 송치했다고 밝혔다. 경찰에 따르면 A씨는 지난해 12월부터 올 7월까지 평소 친분이 있던 지인들의 얼굴 사진을 이용한 허위영상물 128개를 제작했다. A씨는 지금은 삭제된 텔레그램 인공지능(AI) 합성봇을 이용해 허위영상물을 만든 것으로 조사됐다. 이후 텔레그램에서 ‘성착취물 교환방’을 운영하며 허위영상물 3개와 아동·청소년 성착취물 151개를 다른 성착취물과 교환하기 위해 유포했다. A씨는 허위영상물 교환 등을 통해 아동·청소년 성착취물 9789개와 불법 촬영물 22개를 소지하고 있었던 것으로 파악됐다. 경찰은 A씨가 운영하는 대화방에 있던 참여자 100여명에 대해서도 계정 등을 추적하고 있다.

제주4·3평화공원에 설치된 조형물 ‘비설(변방생 모녀 모티브 형상화)’과 동백나무 모양의 메시지 벽이 독일과 영국에 설치돼 선보일 예정이어서 주목을 받고 있다. 제주도가 제주4·3기록물의 유네스코 세계기록유산 등재를 위한 국제적 공감대 조성에 나선 것이다. 제주도는 세계기록유산 등재에 도전하고 있는 4·3기록물의 가치를 전세계에 알리기 위해 다음달 14~20일 독일 베를린 (PalaisPopulaire)과 16~22일 영국 런던(Brunswick Art Gallery)에서 제주4·3 국제특별전 및 심포지엄을 개최한다고 9일 밝혔다. ‘진실과 화해에 관한 기록’을 주제로 열리는 이번 행사에서는 4·3의 연대기와 과거사 해결을 위한 정부와 민간의 노력을 판넬, 영상, 사진, 기록물 복제본 등 다양한 매체를 통해 소개한다. 유해 발굴 현장인 다랑쉬 굴과 피신 도중 희생된 봉개동 주민 변방생 모녀를 모티브로 한 조형물을 선보여 외국인에게 4·3에 대해 시각적으로 알리는 기회를 마련했다. 4·3희생자 변방생(호적명 변병옥) 모녀의 기념조각인 ‘비설(飛雪)’은 1949년 1월 6일 봉개동 지역에 2연대의 토벌작전이 펼쳐지면서 군인들에게 쫓겨 두 살 난 젖먹이 딸을 등에 업은 채 피신 도중 총에 맞아 희생된 모녀를 모티브로 만들어진 기념조각이다. 등신대의 청동조각상인 이 작품은 4·3 당시 하얀 눈밭을 표현한 백대리석의 원형판 위에서 아이를 끌어 안고 죽어가는 모습을 형상화했다. 강문석 고길천 이원우 정용성 작가가 참여해 2002년 설치된 작품으로 공원의 지면보다 낮게 조성된 조각상까지 달팽이형의 제주석으로 조성된 진입로 벽에는 제주 전래의 자장가인 ‘웡이자랑’이 오석 위에 음각되어 있다. 도 관계자는 “4·3평화공원에 있는 ‘비설’ 작품을 1m크기 등신대 폼보드 형태로 제작한다”며 “등신대를 현지 제작 또는 한국서 공수할 지 여부는 논의중”이라고 전했다. 이어 “동백나무 모양의 앙상한 나무를 형상화해 꽃모양의 포스트잇으로 메시지를 써서 붙이는 메시지 벽(Message Wall)를 설치해 참관객들의 참여를 유도하고, 포토존으로 활용해 사회관계망(SNS)을 통한 홍보 효과도 노린다”고 덧붙였다. 독일은 바이마르헌법, 구텐베르크 성경 인쇄본 등 25건이 유네스코 기록문화유산으로 가장 많이 등재돼 세계 1위이며 영국은 찰스 다윈 ‘종의 기원’ 관련 서신과 원고 등 13건의 등재돼 2위를 차지하고 있는 것으로 알려졌다. 전시 기간 중 진행되는 심포지엄은 국제 전문가와 현지 학자들이 참석할 예정이다. 다음달 14일 독일 심포지엄에서는 2021년 제주4·3평화상을 수상한 댄 스미스(Dan Smith) 스톡홀롬 국제평화연구소장(SIPRI)의 기조연설을 시작으로, 베르니 페니히 자유베를린대 교수, 플로리안 펠킹 보훔대 교수, 김종민 4·3평화재단 이사장, 박명림 연세대 교수, 유철인 제주대 교수가 참석한다. 이를 통해 4·3을 소개하고 4·3기록물 세계기록유산 등재 의미, 독일 갈등해결 사례 등을 발표한다. 이어 다음달 16일 영국 심포지엄에서는 임소진 영국 센트럴 랭커셔대 교수가 좌장을 맡고, 오웬 밀러(Owen Miller) SOAS대 교수, 권헌익 캠브리지대 교수, 김종민 4·3평화재단 이사장, 박명림 연세대 교수, 유철인 제주대 교수가 참석해 4·3에 가치에 대해 논한다. 4·3기록물 세계기록유산 등재 의미, 4·3의 트라우마 해결 노력 공유, 영국 갈등해결 사례 소개 등을 주제로 발표할 예정이다. 오영훈 지사는 “세계기록유산 등재 모범국가인 독일과 영국에서 이번 행사를 개최해 4·3기록물 세계기록유산 등재의 의미를 알릴 계획”이라며 “전 세계인들이 제주4·3을 더 깊이 이해하는 계기가 되도록 4·3의 정신과 가치를 소개하고 2025년 세계기록유산 성공 등재를 위해 박차를 가하겠다”고 말했다.

KADEX 2024 집행위원회 측은 6개국 군사 전문 인플루언서들을 이번 전시회에 초청했다고 8일 밝혔다. 집행위에 따르면 호주·독일·핀란드·스페인·멕시코·벨기에 등 6개국의 무기 전문 인플루언서가 KADEX 2024에 참석한다. 이외에도 5개국 6개 채널 인플루언서에게 참석 여부를 타진 중이다. 현재까지 참석 확정을 통보한 인플루언서들의 구독자를 합하면 603만명 이상이다. 집행위는 이들 채널을 통해 KADEX 2024가 알려지면 전 세계 군사무기 전문유투브 채널을 통해 KADEX 2024 참가기업에 대한 정보가 보도될 것으로 기대하고 있다. 호주를 기반으로 하는 패룬(Perun) 채널은 구독자를 54만 3000명을 보유한, 호주에서 가장 영향력 있는 밀리터리 인플루언서로 알려져 있다. 집행위는 패룬의 이번 행사 참석이 지난해 성공한 레드백 장갑차 호주 수출 등 호주를 대상으로 한 K-방산 수출 전선에 큰 도움이 될 것으로 기대한다. 호주 정부는 이번 KADEX 2024에 우리나라 방위사업청에 해당하는 획득관리단(Capability Acquisition and Sustainment Group)과 육군 군수사령부, 주한 호주대사관 등에서 참관단 13명이 참석하기로 해 양국 간 우호 관계가 더 깊어질 것으로 기대하고 있다. 또 스페인어를 기반으로 남미 전역과 유럽을 대상으로 하는 군사 채널 2곳도 참여한다. 385만명의 구독자를 가진 멕시코의 아르마피디아(Armapedia) 채널과 구독자 140만명을 보유하고 있는 스페인의 비주얼폴리틱(VisualPolitik EN) 채널이다. 이 채널들은 스페인과 멕시코뿐만 아니라 스페인어를 쓰는 남미 전역을 커버하면서 무기 시스템과 군사 전술에 이르는 군사 전문 유투버로 알려져 있다. 특히 아르마피디아는 방산 관련 멕시코 최대규모의 구독자를 보유하고 있는 유투버이며, 인스타그램 구독자도 26만 6000명을 보유하고 있다. KADEX 2024에는 페루, 에콰도르, 콜롬비아에서 육군 참모총장 또는 대리인을 파견할 것으로 예정돼 있어 이들의 활동과 참가기업의 제품 관련 내용이 함께 보도될 것으로 예상된다. 방위산업 최강국 중 하나인 독일을 기반으로 하는 판제르우니벌줌(PANZER-UNIVERSUM) 채널도 참석하기로 했다. 이 채널에서는 독일 제품과 한국 제품의 비교분석이 많이 이뤄질 것으로 보인다. 또 K-방산의 큰손으로 떠오르는 핀란드 시장 공략을 위해 핀란드 인플루언서 마이티핀란드(Might Finland)도 KADEX 2024에 참석한다. 마이티핀란드는 핀란드 내에서는 가장 큰 국방 팟캐스트다. 인스타그램에서도 7만명 이상의 팔로워를 보유하고 있다. 이외에 벨기에를 기반으로 활동하면서 19만여명의 구독자를 보유하고 있는 DefenseWebTV가 KADEX 2024의 미디어 파트너로 참여할 예정이다. 이들은 10월 1일 입국하여 10월 5일까지 계룡대에 머물며 KADEX 2024에 대한 취재와 방송을 진행할 예정이다. 참가기업 중에서 이들과의 인터뷰를 원할 경우 집행위원회가 주선할 계획이다. 또한 이들 유튜버는 참가기업, 우리나라 연구기관 관계자들과의 인터뷰를 진행해 K-방산에 대한 상세한 정보를 전달할 예정이다. 유튜버들은 무기에 대한 영상뿐만 아니라 브이로그를 통해 KADEX 2024의 분위기를 전달하고, 짧고 임팩트 있는 쇼츠를 제작해 현장 분위기를 실시간으로 공유할 예정이다. 이들은 모두 한화에어로스페이스와 현대로템과 현대위아, KAI, LIG넥스원, 풍산 등 우리나라 대표기업에 대한 심층취재 및 인터뷰를 원하고 있다고 집행위 관계자는 전했다. 현재 집행위원회에 참가 신청을 알려온 해외 인플루언서는 6개 채널이지만 그 이외에도 더 많은 해외 유투버들이 참여할 것으로 보인다. 허욱구 집행위 사무총장은 “해외 인플루언서를 통한 K-방산의 홍보는 시대변화에 민감하게 대응하는 KADEX만의 새로운 시도”라면서 “기존 미디어와 함께 SNS 채널을 통한 K-방산 홍보에 최선을 다할 것”이라고 말했다.

삼성전자는 ‘갤럭시 S24’ 시리즈와 지난해 출시한 주요 모델 대상으로 갤럭시 인공지능(AI) 신기능 업데이트를 순차적으로 진행한다고 6일 밝혔다. 대상 모델은 갤럭시 S24 시리즈, ’갤럭시 S23 시리즈’, ‘갤럭시 Z 폴드5·Z 플립5’ 모델, ‘갤럭시 탭 S9 시리즈’다. 이번 업데이트를 통해 기존 갤럭시 사용자들은 ‘갤럭시 Z 폴드6∙플립6’에 탑재된 One UI 6.1.1이 지원하는 새로운 갤럭시 AI 기능을 사용할 수 있다. 현장에서 듣는 외국인의 말을 실시간으로 번역해 텍스트로 보여주는 ‘통역 듣기 모드’, 간단한 키워드를 입력하면 사용자의 어조와 스타일이 반영된 이메일과 소셜네트워크 게시글을 제안하는 ‘글쓰기’가 추가된다. 최근 상대방과 주고받은 메시지를 분석해 맞춤형 답장을 제안하는 ‘답장 추천’ 기능도 업데이트에 포함된다. ‘노트 어시스트’의 ‘음성 녹음 텍스트 변환’과 ‘PDF 오버레이 번역’, 간단한 스케치를 정교한 AI 이미지로 변환하는 ‘스케치 변환, 수학 문제 풀이와 음악 찾기 기능을 제공하는 ‘서클 투 서치’도 기존 갤럭시 모델에서 경험할 수 있다. 인물사진을 3차원(D) 캐릭터, 수채화 등 다양한 스타일로 변환하는 ‘인물 사진 스튜디오’, 슬로우 모션 영상을 간단하고 빠르게 제작할 수 있는 ‘인스턴트 슬로우 모션’ 등 사용자의 창의력을 손쉽게 펼칠 수 있도록 돕는 콘텐츠 제작 기능도 업데이트 된다.

미국 사이버 보안업체 시큐리티히어로가 최근 발표한 ‘2023 딥페이크(허위 영상물) 현황’ 보고서에 따르면 딥페이크 성착취물 피해자의 53%가 한국인이다. 지난해 7~8월 유통된 9만 5820개 영상물 피해자의 99%가 여성인데 상위 피해자 10명 중 8명이 한국 가수다. 미국 경제 일간 월스트리트저널(WSJ)은 “가짜 음란물을 생성·유포하는 세계적인 문제의 진앙지가 한국이라는 것을 시사한다”고 썼다. 새로운 지적은 아니다. 올 3월 프랑스 일간 르몽드는 “(딥페이크를 활용한 성범죄는) 한국에서 수년 전부터 문제였는데 이미 일상적인 일이 됐다”고 보도했다. 한국 남성은 다른 나라 남성보다 관음적일까. 시큐리티히어로 보고서에는 미국 남성 1522명에 대한 설문 결과도 있다. 응답자의 48%가 ‘최근 6개월 동안 최소 한 번 이상 딥페이크 성착취물을 봤다’고 답했다. 이유는 ‘기술에 대한 호기심’(57%), ‘연예인에 대한 관심’(48%), ‘욕구 충족’(36%) 등이었다. 성착취물을 본 사용자의 74%는 ‘죄책감을 느끼지 않았다’고 했다. ‘사람이 아니고’(36%), ‘개인 관심사에 머무는 한 누구를 해치지 않을 거고’(30%), ‘상상보다 조금 현실적일 뿐이며’(29%), ‘실제 포르노와 별반 다르지 않아서’(28%)였다. 응답자의 20%는 ‘관련 기술을 배울 생각을 했다’고 답했다. 가까운 사람이 성착취물의 피해자가 될 경우 73%가 이를 신고할 거라고 답했다. 시큐리티히어로는 “응답자들이 잠재적 피해를 심각하게 인식하고 있다”고 해석했다. 한국 남성들에게 묻는다면 어떤 비율이 나올지 궁금하다. 우리나라의 성범죄 사건은 가해자 중심으로 흘러간다. 올 5월 영국 공영방송 BBC가 ‘버닝썬이 쏘아올린 작은 공’을 유튜브로 방영했다. 5년 전인 2019년 일을 다룬 다큐멘터리를 통해서야 가수 고(故) 구하라가 가해자들과 유착된 경찰을 밝혀내는 데 결정적 역할을 했다는 것이 알려졌다. 그 역시 ‘리벤지 포르노’(전 연인에 대한 보복성 음란물 유포)의 피해자다. 연예인의 ‘몰카’ 사건을 보도하면서 비뚤어진 팬덤의 피해자가 된 기자들, 유출을 두려워하는 몰카 피해자들의 이야기를 담았다. ‘이 다큐가 한국에서가 아니라 BBC를 통해 나왔다는 게 참 비극이다’는 댓글이 6만개가 넘는 ‘좋아요’를 받았다. 성범죄 판결은 가해자 ‘배려’에 가깝다. 2018년 32개국 사법당국의 공조로 잡힌 ‘웰컴투비디오’의 운영자 손정우는 지난 7월 출소했을 것이다. 세계 최대 아동 성착취물 공유 사이트를 운영한 성범죄 혐의가 1년 6개월, 자금세탁 혐의가 2년이었다. 해당 사건에서 영국의 영상 제작자는 22년, 미국의 사이트 공동운영자는 15년, 영상을 내려받은 사람은 5년형을 선고받았다. 2020년 미국의 손정우 인도 청구를 불허한 재판부의 판결문에 이런 내용이 있다. “범죄인이 국적을 가지고 있는 대한민국에서 주권국가로서 범죄인에 대해 주도적으로 형사처벌 권한을 행사할 수 있다.” 피해자 중심으로 바꿔 보자. “피해자가 국적을 가지고 있는 대한민국에서 주권국가로서 피해자에 대해 주도적으로 보호 권한을 행사할 수 있다”도 필요하지 않나. 메신저 앱인 텔레그램 대화방에서 수많은 성착취 영상물을 제작·유포한 ‘n번방’ 사건이 2020년 알려진 이후 대책이 검토되긴 했다. 그러나 피해 영상물이 발견되면 수사기관이 이를 즉시 삭제할 수 있는 권한을 부여하거나, 징역형 상한을 올리거나, 재유포를 방지하는 당연한 일들은 여전히 불가능하다. 딥페이크 성범죄로 인한 실형 또한 극히 드물다. 합성 수준이 낮아서, 범죄 수익이 적어서라는데 이 논점은 피해자의 고통과는 상관없다. 텔레그램이 지난 3일 방송통신심의위원회에 긴급 삭제를 요청한 영상물 25건을 모두 삭제했다는 이메일을 보내왔단다. 경찰이 딥페이크 성범죄 방조 혐의로 내사에 착수한 다음날이다. 성범죄 동영상이 유포되는 플랫폼 기업들은 정부 움직임에 따라 움직인다. 생성형 인공지능(AI) 발달로 1분짜리 딥페이크를 무료로 25분 만에 만들 수 있단다. 정치권과 정부가 요즘 호들갑을 떠는 만큼 빠르게 결과물이 나올 거라 믿고 싶다. 직무유기가 반복되면 한국은 ‘성범죄 선진국, 수사·처벌 후진국’으로 오랫동안 남을 거다. 전경하 논설위원

서울시의회 윤리특별위원회 위원장과 환경수자원위원회 위원으로 활동 중인 김춘곤 의원(국민의힘·강서4)은 지난 4일 제326회 임시회 상임위 소관 서울아리수본부 업무보고를 받고 효과 낮은 홍보사업에 대해 지적했다. 서울아리수본부는 아리수의 시민 신뢰도 제고 및 아리수 먹는 문화를 확산하기 위해 약 41억원의 예산을 들여 시민 참여 현장홍보, 소셜미디어 홍보, 언론·방송 홍보, 콘텐츠 제작·매체 홍보, 시설 견학·교육 홍보 등 다방면으로 사업을 진행했다. 시민 참여 현장 프로그램으로는 아리수데이, ‘아낄수록 아리수로’ 캠페인 상반기 붐업 행사, 아리수 서포터즈 16팀 운영, 찾아가는 ‘아리수 스토리텔러’ 강의 등을 시행, 시민이 아리수를 좀 더 가깝게 느끼도록 했다. 서울아리수본부는 직원 유튜버(아튜버)를 통해 2030세대와의 소통 콘텐츠를 제작했으며, 아리수TV를 통해 웹예능과 웹드라마를 촬영하기도 했다. 그뿐만 아니라 아리수 브랜드를 TV광고를 통해 홍보하며 방송 프로그램에 노출하는 등 홍보를 진행했다. 김 의원은 “아리수 홍보사업 예산을 보면 지난 20년 이후부터 연평균 30~40억원이 넘는다”라며 “예산 사용은 많은 데 비해 ‘아리수’라고 하면 생각나는 이미지도 없고 서울시 수돗물의 또 다른 이름이라는 느낌만 든다”고 지적했다. 서울아리수본부는 “아리수에 대해 맛있다, 세련됐다는 이미지를 심어주기 위해 노력하고 있다”라며 “숏폼 영상이나 생성형 AI를 통한 광고를 만드는 등 젊은 층에게 다가가기 쉽도록 다방면으로 시도하고 있다”며 의견을 밝혔다. 김 의원은 “식수라고 한다면 안정성과 신뢰도를 바탕으로 시민들에게 다가가는 것은 기본”이라며 “아리수라고 들었을 때 떠오르는 명확한 포지셔닝이 있어야 인식개선을 노릴 수 있을 것”이라며 방법을 제시했다.

최근 4년 반 동안 디지털성범죄피해자지원센터(디성센터)에 ‘딥페이크 성착취물’을 비롯해 불법촬영물을 지워달라고 요청한 건수가 94만건에 달했으나 이 가운데 약 29%인 27만건이 삭제되지 못한 것으로 나타났다. 부족한 대응 인력이 주요 원인으로 꼽히지만 삭제 요청을 받은 기업이 이를 반드시 이행하도록 제도를 개선해야 한다는 목소리도 함께 커지고 있다. 4일 더불어민주당 김남희 의원이 여성가족부에서 제출받은 자료에 따르면 2020년부터 올해 6월까지 여성가족부 산하 한국여성인권진흥원 내 디성센터가 접수한 딥페이크와 성적 모욕 이미지 등 불법촬영물 삭제 요청은 93만 8651건이다. 이 가운데 삭제하지 못한 건수는 26만 9917건(28.8%)에 달한다. 디성센터는 24시간 상담과 불법촬영물 삭제 지원 서비스를 제공하는 기관이다. 피해자로부터 삭제 신청이 접수되면 불법촬영물이 발견된 플랫폼 기업에 이를 지울 것을 요청하고 이후 조치 결과를 확인한다. 삭제 요청 건수는 2021년 16만 6000여건, 2022년 20만 6000여건, 2023년 24만 3000여건으로 매년 최소 3만건 이상씩 불어났다. 올해에도 6월까지 지난해 68% 수준인 16만 5000여건의 삭제 요청이 접수됐다. 미삭제 건수는 2021년 4만 2000여건에서 2023년 7만 5000여건으로 증가해 2년 만에 79.7% 늘었다. 올해 상반기에는 전년의 56%에 달하는 4만 2000여건을 지우지 못했다. 해마다 연간 미삭제 비율은 25% 정도다. 기술의 발전으로 딥페이크 제작이 쉬워지면서 피해가 눈덩이처럼 불어나고 있다. 3일 YTN라디오 ‘이이선 최수영 이슈앤피플’에 출연한 김덕진 IT커뮤니케이션연구소장에 따르면 인공지능(AI) 툴을 활용하면 음란물 제작에 20초도 걸리지 않는다고 한다. 김 소장은 “인플루언서가 찍은 숏폼 영상에 AI가 얼굴만 딴다. 기술이 놀라운데 이런 것들이 악용되는 사이트가 있다”고 짚었다. 아이돌을 좋아하는 팬들을 위해 찍은 ‘직캠’ 영상이나 자체 홍보를 위해 찍은 숏폼 영상이 범죄의 표적이 되고 있다. 최근 트와이스의 소속사 JYP엔터테인먼트, 블랙핑크가 소속된 YG엔터테인먼트, (여자)아이들이 속한 큐브엔터테인먼트, 권은비가 있는 울림엔터테인먼트 등이 딥페이크 피해를 보고 법적 대응에 나섰다. 일반인 역시 공개된 사진에 알몸을 합성 당해 피해를 보는 경우가 많다. 한 초등학교 교사 A씨는 자신의 사진과 합성된 성착취물이 신상 정보와 함께 단톡방에서 퍼지는 끔찍한 경험을 했다. 가해자로 위장해 진범을 5일 만에 잡아낸 A씨는 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 말했다. 피해가 커지는 상황이지만 대책은 뾰족하지 않다. 디성센터의 인력은 부족하고 강제성도 약하다. 전날 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 이수정 경기대 범죄심리학과 교수도 “불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”고 지적했다. 김남희 의원은 “불법촬영물 10건 중 3건을 삭제하지 못하면서 재유포 문제 등이 발생하고 있다”며 “정부가 대책으로 내놓은 ‘플랫폼 자율규제 강화’에 대한 한계가 뚜렷하게 드러난 만큼 특단의 조치가 필요하다”고 강조했다.

국내 연예계가 ‘딥페이크’(AI 기반 합성) 영상물 제작과 유통에 대한 강력 대응을 경고하고 나섰다. 가수 권은비와 뉴진스에 대한 딥페이크 음란물에 대한 경찰 수사가 진행 중이다. YG엔터테인먼트 관계자는 3일 “소속 아티스트의 인격과 명예에 심각한 위해를 미치는 모든 불법행위에 대해 지속적으로 엄정 대응할 것”이라고 밝혔다. YG 측은 현재 소속 아티스트들과 관련한 부적절한 딥페이크 제작물의 제작 및 유포 상황을 모니터링하고 있다고 강조했다. 불법 영상물의 삭제 및 차단 뿐 아니라 모든 법적 조치도 진행할 방침이다. 블랙핑크의 완전체 그룹 활동을 담당하는 YG에는 신예 그룹 베이비몬스터, 악뮤, 트레저 등이 소속돼 있다. 앞서 JYP엔터테인먼트도 걸그룹 트와이스 멤버들의 얼굴을 합성한 음란물 확산에 대한 강력 대응에 나섰다. 그룹 뉴진스와 가수 권은비 등도 관련 법적 조치를 진행 중이다. 어도어는 지난 6월 “아티스트의 국적 및 외모 등을 조롱하고 모욕하는 게시글, 성적 수치심이나 혐오감을 일으키는 게시물과 허위 사실을 유포하는 댓글을 작성한 자들을 고소장에 전부 포함했다”라고 밝힌 바 있다. 권은비도 지난 7월 초상을 합성한 음란성 사진 등을 유포한 이들을 고소했다. 전 세계 온라인에서 한국인이 딥페이크 음란물 피해를 보고 있는데 특히 한국 여성 가수들이 주된 표적이 되고 있다. 미국의 사이버보안 업체 ‘시큐리티 히어로’가 공개 ‘2023 딥페이크 현황’ 보고서에 따르면 100개 이상의 웹사이트에서 10만개가량의 콘텐츠를 분석한 결과 ‘딥페이크 성 착취물’에 가장 많이 노출된 10명 중 8명이 한국 가수인 것으로 나타났다. 경찰은 지난달 말 딥페이크 성범죄와 관련해 접수된 총 88건의 신고를 조사 중이다. 국내 연예인을 대상으로 한 딥페이크 범죄가 확산하면서 소속사들도 강력 대응에 나서고 있다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

서울 금천구는 오는 9월 한 달간 정보기술(IT)과 패션 중심 G밸리 가산지역의 대표 축제 ‘금천 GC 페스타’를 개최한다고 2일 밝혔다. ‘금천 GC 페스타’는 지역명 금천(Geum-Cheon)과 새로운 도시 상표 ‘Good City’에서 각각 GC를 따서 지어졌다. ‘금천패션영화제’를 중심으로 다양한 행사와 연계해 G밸리의 과거·현재·미래를 연결하고, 가산동에 많이 거주하는 1인 가구와 2030 직장인의 가치관과 수요를 반영하기 위해 기획됐다. 구는 ‘G밸리위크’ 기간에 맞춰 ‘금천패션영화제’의 개최 시기를 기존 11월에서 9월 초로 변경하고, ‘2024 금천라이브’, ‘금천과학축제’, ‘당신의 금천마켓’, ‘북페스티벌’, ‘금천청년축제’ 등을 준비했다. 2일부터 6일까지는 산업단지 60주년 기념 G밸리 산업문화축제 ‘G밸리위크’가 진행된다. G밸리 근로자 문화행사, 스마트마라톤 대회, 금천 순이의 집 체험관 특별전, 수출상담회 등 다양한 행사가 예정돼있다. 구는 G밸리의 기업과 근로자, 주민들이 함께 즐길 수 있도록 한국산업단지경영자협의회 서울(KIBA), 구로구, 서울시, 한국산업단지공단, 서울경제진흥원(SBA)과 함께 행사를 준비했다. 5일 오후 6시에는 가산동 SK V1센터와 W센터 건물 사이 공간에서 직장인과 1인 가구를 위한 길거리 공연 ‘2024 금천라이브’가 개최된다. 사전에 접수된 G밸리 직장인들의 사연 중 핵심 단어들을 정리해 인공지능(AI) 작곡 프로그램으로 제작한 음악을 선보인다. 정보기술 관련 산업에 주로 종사하는 직장인과 주민들의 공감과 흥미를 불러일으킬 예정이다. 6일과 7일 금천구청 앞 광장 일대에서는 ‘AI로 공감하는 금천, 과학으로 소통하는 미래’라는 주제로 ‘제6회 금천과학축제’가 개최된다. 표창원 범죄과학연구소장의 특별강연과 과학수사 범죄분석(프로파일링) 체험전, 인공지능 로봇 관련 기업 연계 공간, 과학동아리 체험관 등 50개가 넘는 과학 관련 콘텐츠를 만날 수 있다. 6일 오후 6시 마리오·까르뜨니트 공장(디지털로9길 90)에서는 패션을 주제로 하는 국내 유일의 ‘제4회 금천패션영화제’ 개막식이 열린다. 8일까지 마리오·까르뜨니트 공장 내부에서 개막작 등 특별상영과 전시, 추억의 게임장터, 인공지능 영상 제작 강좌 등을 운영하고, 롯데시네마 가산점에서는 본선 진출 작품을 상영한다. 7일에는 현대아울렛 가산점 인근에서 주민참여 벼룩시장(플리마켓)인 ‘2024 청년공감 당신의 금천마켓’과 패션쇼, 자선장터 등 부대행사가 열린다. 8일에는 디지털로10길 22에서 직장인을 위한 ‘G밸리 직장인 3대3 농구대회’ 행사가 진행되고, 현대아울렛 가산점 앞에서 환경과 기후 위기를 주제로 한 책 축제 ‘금천구 도서관 북페스티벌’도 개최된다. 28일 ‘금천 GC 페스타’의 마지막은 ‘금천청년축제’가 장식한다. 금천구청 광장 일대에서 청년축제 기획단이 직접 기획한 무대공연, 게임과 체험 프로그램, 먹거리 구역과 장터 등 다채로운 프로그램을 운영할 예정이다. 유성훈 금천구청장은 “가을철 주요 행사를 플랫폼 형식으로 연계하여 가산지역의 특성에 맞는 브랜드 축제를 기획했다”며 “‘금천 GC 페스타’가 금천의 브랜드 축제를 넘어 서울의 대표적인 축제로 자리매김하도록 노력하겠다“라고 말했다.

SM엔터테인먼트가 만든 가상인간 나이비스(nævis)가 데뷔한다. 나이비스는 그룹 에스파(aespa)의 조력자 캐릭터로 최근 에스파 콘서트에 깜짝 등장해 화제를 모았다. 나이비스는 에스파 멤버들이 현실인 리얼 월드와 ‘광야’로 불리는 디지털 월드를 오갈 수 있게 해주는 능력을 지녔다는 설정으로, 지난해 에스파의 세 번째 미니음반 수록곡 ‘웰컴 투 마이 월드’에 피처링으로 참여했다. 제작을 맡은 SM 버추얼 IP 센터는 나이비스가 플랫폼과 콘텐츠에 따라 사람의 모습을 본뜬 3D 캐릭터에서 애니메이션을 떠오르게 하는 2D 캐릭터까지 유연하게 외형을 바꿀 수 있도록 설계했다고 설명했다. 인공지능(AI) 음성 기술을 활용해 목소리를 만들고 생성형 AI로 콘텐츠를 제작했다. 나이비스는 음악 활동과 더불어 게임, 브랜드 협업 상품 등으로 IP(지식재산)를 확장해나갈 계획이다. 이를 위해 SM엔터테인먼트는 LG유플러스와 손잡고, 나이비스의 콘텐츠를 제작한다고 발표했다. LG유플러스가 자체 개발한 생성형 인공지능(AI) ‘익시젠’을 활용한 이미지와 영상이 나이비스의 뮤직비디오, 쇼츠, 굿즈 제작 등에 활용된다. LG유플러스는 “SM은 버추얼 아티스트에 AI를 결합함으로써 새로운 문화 장르를 만들고 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서의 긍정적 효과를 기대할 수 있게 됐다”고 말했다. 아담 넘은 ‘가상 인간’ 전성시대1998년도에 등장한 국내 최초 사이버 가수 ‘아담’ 이후 30여년이 흐른 지금 ‘가상 아이돌’이란 통칭 아래 다양한 콘셉트의 그룹들이 등장하고 있다. 실제 인간 멤버 4명과 버추얼 휴먼 멤버 1명으로 조합된 최초의 ‘AI과 사람’ 그룹 슈퍼카인드는 게임 속 캐릭터를 캐스팅했다는 설정을 지닌다. 카카오엔터테인먼트가 기획한 버추얼 아이돌 서바이벌 예능 프로그램 ‘소녀 리버스’는 대중들에게 익숙한 웹툰 스타일의 캐릭터를 차용했다. 실제 30명의 전현직 K-팝 걸그룹 멤버들이 가상현실(VR) 기기를 이용해 메타버스 세상 속에서 정체를 숨긴 채 경쟁하는 콘텐츠로 대중성도 확보했다. 버추얼 멤버들로만 구성된 11인조 걸그룹 ‘이터니티’ 역시 2D 딥페이크 기술을 적용해 만들어진 아이돌로, 신진 아티스트들의 재능 기부를 받아 데뷔곡을 제작했다. 이터니티의 멤버 제인은 4부작 웹드라마에서 정식 배역을 맡아 진짜 사람을 연기한다. 실제 배우가 촬영한 동작 데이터에 AI의 데이터를 녹이는 방식으로 구현하는 식이다. 제인은 한 방송에 출연해 직접 진행자와 대화하며 “음주 관련 사건 사고·연예인 갑질·사회의 물의를 일으킬 일이 없다”고 버추얼 아이돌 그룹으로서의 장점을 소개하기도 했다. 전문가들은 현재까지는 버추얼 아이돌이 일부 마니아층이나 1020세대에서 주로 인기를 끄는 만큼 팬덤의 확장, 대중성 확보가 성공의 가장 큰 관건이 될 것이라고 전망하고 있다.

LG유플러스가 SM엔터테인먼트와 생성형 인공지능(AI) 기반 콘텐츠 개발 협력을 위한 업무협약을 체결했다. 이를 계기로 SM엔터테인먼트의 첫 번째 버추얼 아티스트인 ‘나이비스’의 뮤직비디오 등 콘텐츠 제작에 LG유플러스가 자체 개발한 생성형 AI ‘익시젠’(ixi-GEN)이 활용된다. 1일 LG유플러스에 따르면 양사는 지난달 29일 서울 성수동 SM엔터테인먼트 사옥에서 업무협약식을 갖고 이런 내용에 합의했다. 업무협약식에는 정수헌 LG유플러스 컨슈머부문장(부사장), 정혜윤 마케팅그룹장, 한영섭 AI테크랩장, 김희진 통합브랜드마케팅팀장, 탁영준 SM엔터테인먼트 공동대표, 박준영 최고크리에이티브책임자(CCO), 이종호 버추얼IP비즈유닉장, 김선택 버추얼IP콘텐츠유닛장 등 양사 주요 관계자가 참석했다. 이번 업무협약으로 LG유플러스는 자체 개발 생성형 AI 익시젠을 활용해 SM엔터테인먼트의 첫 번째 버추얼 아티스트 나이비스의 콘텐츠 제작에 나선다. 익시젠이 생성한 이미지와 영상을 활용해 뮤직비디오와 쇼츠, 굿즈 등을 제작하고 이를 통해 전 세계 K팝 팬들에게 AI 경험을 제공한다는 계획이다. SM엔터테인먼트는 버추얼 아티스트에 AI 기술을 결합함으로써 새로운 문화 장르로 만들어가겠다는 포부다. 특히 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서 긍정적 효과를 기대하고 있다. 앞서 LG유플러스는 올 초부터 마케팅의 전 영역을 AI 중심으로 혁신하는 ‘익시 프로덕션’ 프로젝트를 진행하고 있다. 이번 SM엔터테인먼트 협업도 익시 프로덕션 활동의 하나로 AI를 활용한 새로운 고객 경험을 창출해 나간다는 방침이다. 정수헌 LG유플러스 부사장은 “국내 대표 기획사인 SM과의 협업은 U+고객을 넘어 글로벌 K팝 팬들에게도 새로운 디지털 경험을 제공할 뿐 아니라 마케팅, 브랜딩 측면에서 높은 시너지를 창출할 것으로 기대된다”고 전했다. 탁영준 SM엔터테인먼트 공동대표도 “LG유플러스의 생성형 AI 익시젠과 SM의 버추얼 아티스트 나이비스 간의 협업은 단순한 비즈니스 제휴를 넘어 양사 간의 창의적 시너지를 통해 미래 지향적인 콘텐츠와 기술 혁신을 실현하는 중요한 이정표가 될 것”이라고 강조했다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

국민의힘과 정부가 타인의 얼굴을 합성한 음란물을 만들어 유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안도 검토하기로 했다. 당정은 29일 오전 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 진행하고 딥페이크를 포함한 허위 영상물 처벌을 현행법상 ‘최대 5년 이하의 징역 또는 5000만원 이하의 벌금형’에서 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진하기로 했다. 또 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위 영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 교육부는 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”고 했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 국민의힘 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 통과를 당부했다. 이외 국민의힘 10·16 재보궐선거 중앙당 공천관리위원회는 딥페이크 성범죄 등에 연루된 사람은 공천에서 배제하기로 했다. 이원석 검찰총장은 전국 일선 검찰청의 디지털 성범죄 전담 검사들과 화상회의를 열고 “성적 수치심 유발 정도가 중한 아동·청소년 대상의 허위 영상물이나 영리 목적의 허위 영상물 제작 사범은 원칙적으로 구속 수사하라”고 지시했다.

텔레그램과 상시 핫라인 방침수사·상담·영상 삭제 지원 논의제작자도 처벌 포함 법안 추진국민의힘과 정부가 얼굴에 음란물을 합성·유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 것도 검토하기로 했다. 당정은 29일 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 진행하고 딥페이크를 포함한 허위영상물 처벌을 현행법상 ‘최대 징역 5년 이하 징역 또는 5000만원 이하’에서 불법촬영물과 마찬가지로 최대 징역 7년으로 강화하는 것을 추진하기로 했다. 또 해외에 서버를 둔 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 딥페이크 관련 중고생 피해 사례가 급증하는 만큼, 교육부 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “촉법소년 연령 하향 문제도 같이 생각해봐야 한다”며 “(딥페이크 범죄 영상 제작을) 하는 분, 혹시 하고 싶어하는 분 중에 촉법소년 연령에 있는 분들도 많을 것이다. 그런 점에서 저희가 지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나, 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”며 “현재 국회에 딥페이크 성범죄 관련 10여개의 법안이 발의돼 있지만, 본회의에서 아직 의결되지 않아 사실상 입법 공백 상태”라고 지적했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크 기술의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 조속한 통과를 당부했다.

국민의힘과 정부는 29일 이른바 ‘딥페이크 성범죄’를 근절하기 위해 국무조정실에 종합 컨트롤 타워를 설치하기로 했다. 또 허위 영상물을 제작·유포하는 행위에 대한 처벌을 대폭 강화하기로 했다. 이날 당정은 국회에서 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 가진 뒤 이같이 밝혔다. 김상훈 국민의힘 정책위의장은 “현행 성폭력처벌법상 허위 영상물의 편집 또는 반포 행위는 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해지는데, 상한을 7년으로 강화하는 입법이 필요하다는 판단”이라고 설명했다. 김 위원장은 또 종합 컨트롤 타워 설치에 대해 “딥페이크 관련해 전체적으로 부처에서 각각 대응하고 있다는 느낌”이라며 “국무조정실이 역할을 맡아줘야 한다”고 설명했다. 당정은 딥페이크 기술을 활용한 허위 영상물이 주로 유포되는 텔레그램 등 해외 플랫폼이 불법 정보를 자율 규제할 수 있도록 정부 측이 핫라인을 확보하는 방안을 추진한다. 한동훈 국민의힘 대표는 이날 회의에서 “21대 국회에서도 인공지능(AI) 기본법이나 성폭력범죄 특례법 등 딥페이크 기술 부작용을 막기 위한 법의 재개정 노력이 있었는데 만족할 만한 성과를 내지 못했다”며 “딥페이크 기술을 악용하는 것도 인간이지만 이를 막을 수 있는 것도 인간이다. 사회의 법과 제도 안에서 이 문제를 해결해 내야 한다”고 말했다.