국내 최대 지상군 방산전시회 ‘KADEX(대한민국 국제방위산업전시회) 2024’에서 역대 최대규모의 기술발표회가 개최된다고 집행위원회가 4일 밝혔다. 집행위에 따르면 BAE SYSTEMS, SAAB, SURVITEC 등 해외기업 5개사를 포함, 총 46개 기업이 최첨단 기술발표회를 연다. 발표 주제로는 AI, 디지털 트윈, 3D 프린팅, 스마트 물류, 로봇 등의 신기술과 유무선 복합 드론, 드론 플랫폼의 항공기술, 정보보안 융합기술과 같은 보안솔루션, 첨단 의료 서비스, 콘크리트 모듈러 주택 등 장병 복지 개선을 위한 혁신적인 기술들이 포함된다. 기술발표회는 2~4일 3일간 열릴 예정이며, 세미나 참석은 사전등록 없이 선착순으로 누구나 참가할 수 있다. KADEX 집행위원회 허욱구 사무총장은 “국내외 우수 기업 46곳이 군에 도입 가능한 기술을 소개함으로써 우리 군의 과학기술 강군 도약과 국방혁신 4.0 달성에 기여할 것”이라고 말했다. BAE SYSTEMS, SAAB, SURVITEC 등 해외 6개사는 다목적 전술차량, 전술훈련프로그램, 위성체계 등에 대해서 발표한다. 인텔리빅스, 퀀텀에어로, 인빅, 펀진, 다비오, 노바코스, 아르토에이아이, 이에이트, 테크트리이노베이션, 삼영기계, 대건테크, 라이온로보틱스 등에서 AI 지휘참모 기술개발과 발전 방향, AI 융합 경계시스템, AI 영상변환 솔루션, AI기반 3차원 공간정보 활용, 국방 분야에서의 디지털 트윈 구축방안, 3D프린터를 활용한 방산 부품 제조 혁신 사례, 군사/방산용 창고 자동화 등을 발표한다. 항공 분야에는 프리뉴, 니나노컴퍼니, 팔월삼일, 태경전자, 토리스스퀘터, 동인광학, 바로텍시너지 등이 참여한다. 육군 전력 강화를 위한 드론 기술의 현재와 미래, 다목적 모듈형 유무선 복합 드론 시스템의 군 적용방안, 소형 무인기 체계에 대응하는 ASEA 레이더 적용의 필요성. 공격 드론 및 발칸포용 무인 조준기, 생체모방 조류형 드론 세이런 등이 주요 내용이다. 보안 분야에는 지비아이코리아, 케이앤어스 등이 참가하여 혁신적인 공간보안 솔루션 및 정보보안 융합 기술 등에 대해 발표한다. 장병복지 분야에선 나노씨엠에스, 알피, 어썸레이, 엘디티, 벤텍스, 케이씨산업 등이 심전도 인공지능 서비스, 공기살균정화장비, 초격차 소재를 이용한 K-전투 피복, 군 환경에 적합한 콘크리트 모듈러, 화재감지 시스템, 시설물 유지 방지 솔루션 등에 대해 발표한다. 오는 10월 2일부터 5일간 충남 계룡대에서 열리는 KADEX 2024는 록히드마틴, 현대차그룹, 한화그룹, 풍산, 대한항공, KAI, LIG 등 주요 방산 기업이 대거 참가해 사상 최대규모인 316개사 1417개 부스로 개최될 예정이다. 50개국 해외 VIP에게 초청장을 발송했으며 29개국 34개 대표단이 참가 확정 공문을 보낸 상황이다.

국민의힘이 ‘딥페이크’ 성범죄 대책 마련을 위해 출범하기로 한 당내 태스크포스(TF) 위원장에 안철수 의원을 임명한 것으로 알려졌다. 4일 서울신문 취재를 종합하면 추경호 원내대표는 최근 안 의원에 ‘딥페이크 대책 마련 등이 꼭 필요하지 않느냐, 그런 일을 해줄 수 있겠나’라는 취지로 위원장직을 제안했다. 안 의원은 이에 “전문가들이나 예산 등 여건만 되면 마다할 이유가 없다”라며 이를 수용했다. 앞서 추경호 국민의힘 원내대표는 전날 국회에서 열린 ‘딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 “딥페이크와 관련된 문제가 한두 군데 상임위에 속한 문제가 아니기 때문에 이른 시일 내 딥페이크 관련 TF를 구성할 것”이라고 밝힌 바 있다. 안 의원이 TF 위원장을 맡게된 배경에는 지난 5월 22대 국회 1호 법안으로 발의한 ‘인공지능(AI) 산업 육성 및 신뢰 확보에 관한 법률안’ 제정안 등이 영향을 미쳤다. 안 의원이 발의한 법안은 고위험 영역 인공지능으로부터 이용자를 보호하기 위한 정부의 역할과 사업자의 책무, 이용자 권리 등을 규정하고, 안전한 인공지능 기술 이용을 위한 신뢰 기반 조성 정책 등을 마련하는 내용을 담고 있다. 국민의힘은 이번주 내로 TF 구성을 마치겠다는 계획이다. TF 위원에는 행정안전위원회 간사인 조은희 의원을 비롯해 국회 법제사법위원회, 과학기술정보방송통신위원회, 교육위원회, 행안위 소속 국민의힘 의원들이 참여할 예정이다. 출범 이후 TF는 한동훈 국민의힘 대표가 강조해 온 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안, 딥페이크를 포함한 허위 영상물 처벌을 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안 등을 논의할 예정이다. 한편 더불어민주당의 ‘딥페이크 성범죄·디지털 성폭력 근절 대책 특별위원회(TF)’ 단장은 6선 추미애 의원이 맡았다.

서울시의회 이상욱 의원(국민의힘·비례)이 한국안전정책학회와 주최한 ‘AI·빅데이터 활용 더 안전한 서울만들기’ 토론회가 성황리에 마무리됐다. 토론회는 지난 3일 서울시의회 의원회관 제2대회의실에서 열렸으며 인텔리빅스와 한국안전정책포럼이 후원했다. 김혜지 서울시의회 의원의 사회로 진행된 토론회에는 최호정 서울시의회 의장, 김병민 서울시 정무부시장, 강동길 서울시의회 도시안전건설위원회 위원장, 김길영 서울시의회 도시계획균형위원장이 축사를 전했다. 최호정 의장은 “인공지능과 빅데이터 기술을 활용해 ‘더 안전한 서울’을 구현해야 한다”고 강조했고 김병민 부시장은 “재난안전 분야에 AI와 빅데이터 도입은 ‘안심도시 서울’을 만들기 위해 필수”라고 전했다. 또한 강동길 위원장과 김길영 위원장은 “도시 안전에 새로운 패러다임과 접근법이 필요하다”고 강조했다. 주제 발표를 한 최은수 석학교수(서울과학종합대학원)는 “화재, 도난, 쓰러짐, 인파사고, 불법 주정차, 교통사고 등 시민의 안전과 관련된 거의 모든 이벤트를 AI가 탐지해서 알려주고 관제일지까지 작성해 빅데이터를 만들어주는 시대가 됐다”라며 “사람 관제를 이제 AI관제로 대전환해야 한다”고 말했다. 최 대표는 “특히 AI 모니터링 시스템인 AMS를 도입하면 쓰레기 무단 투기, 화재 등 이벤트가 발생할 때마다 생성형 AI가 자동으로 요약 보고서를 생성해준다”며 “이 빅데이터를 분석하면 교통 흐름, 사고 다발지역, 재난재해 예측 등을 통해 더 안전한 서울을 만들 수 있다”고 설명했다. 조윤식 교수(중앙대학교 AI학과)는 ‘초거대 영상검색모델(VLM)로 빅데이터 생성을 통한 서울시 ’예방안전‘ 구현’을 주제로 발표했다. 조 교수는 “VLM(Vision Language Model) 기술을 활용해 CCTV에 찍힌 영상 정보를 텍스트로 전환해 안전 빅데이터를 만들 필요가 있다”며 “이 데이터를 분석해 사고를 예측하고 대비하는 ‘예방 안전’을 구현해야 한다”밝혔다. 토론에는 석재왕 건국대 교수를 좌장으로 임승철 서울시 정보통신과장, 김형중 서울시 재난안전정책과장, 조가영 서울연구원 연구위원, 이성관 극동대 특임교수, 이창윤 한국안전정책포럼 부회장이 참석했다. 토론자들은 더 안전한 서울을 만들기 위해 첨단 AI 기술 인프라의 확충이 필수적이라는 데 의견을 모았다. 이들은 AI와 빅데이터 기술이 서울시의 안전 관리에 미치는 영향을 깊이 논의하며, 이를 통해 더욱 효과적인 사고 예방과 대응 체계를 구축하는 방안을 모색했으며, 서울 시민의 생활 안전을 향상하기 위해 지속적인 기술 발전과 정책적 지원이 필요하다는 점을 강조했다. 이 의원은 “AI와 빅데이터 기술의 가능성을 확인할 수 있는 토론회였다”라며 “시민안전 위협 요소를 빠르게 파악할 수 있는 기술을 통해 사고를 줄이고, 사후에도 신속히 대처할 수 있는 서울시 시스템도 구축될 수 있기를 기대한다”고 전했다.

“생성형 인공지능(AI)으로 업무의 약 13%가 자동화된 것 같은데 내년에는 25% 정도로 늘어날 것입니다.” 황성우 삼성SDS 대표는 3일 “생성형 AI를 통해 컴퓨터 인터페이스가 자연어 명령을 듣고 사람의 의도를 이해해 작동하는 방식으로 변하고 있다”고 말했다. 서울 강남구 코엑스에서 열린 삼성SDS의 ‘리얼 서밋 2024’ 행사에서 기조연설자로 나선 황 대표는 “기업 고객이 쉽게 이용할 수 있도록 내년쯤 삼성 클라우드 플랫폼을 그래픽처리장치(GPU) 중심 AI 클라우드로 발전시킬 예정”이라고 밝혔다. 황 대표는 이어 “지난해 말부터 코파일럿과 에이전트를 통해 스스로 업무를 자동해왔다”며 7개 ‘메가 프로세스’(기업의 목표 달성을 위해 관리해야 할 최상단 프로세스)와 4000개 이상 하위 프로세스에 생성형 AI를 적용하고 있다고 소개했다. 델 테크놀로지스 마이클 델 회장, 엔비디아 제리 첸 제조·산업 부문 글로벌 비즈니스 개발 총괄, 마이크로소프트 마크 소우자 아시아 부사장 겸 최고기술책임자(CTO), 워크데이 조 윌슨 글로벌 CTO 등 삼성SDS와 협력하는 글로벌 기업 경영진도 기조연설에 참여했다. 델 회장은 동영상을 통한 연설에서 “삼성SDS와 델 테크놀로지스가 수십 년 동안 파트너로서 함께 해 온 만큼 앞으로도 삼성SDS와 혁신의 여정을 함께 하겠다”고 말했다. 제리 첸 총괄은 GPU 중심의 AI 클라우드를 위해 삼성 클라우드 플랫폼과 협력을 계속 강화하겠다고 밝혔다. 삼성SDS 창성중 IW사업팀장은 생성형 AI 기반 협업솔루션 ‘브리티 코파일럿’의 신기능인 ‘퍼스널 에이전트’를 공개했다. 이 기능은 개인별 업무 데이터를 기반으로 주요 일정과 업무 브리핑, 우선순위에 따른 할 일 추천, 영상회의 시 다국어 실시간 통역, 음성 기반 업무 처리 등 ‘개인 비서’의 역할을 수행하는 서비스다. 신계영 Gen.AI사업팀장은 사용자를 대신해 업무를 수행하는 AI 에이전트를 고객이 직접 생성하고(Agent Studio), 프로세스 별로 생성된 에이전트끼리 스스로 소통하며 해결책을 제시하는 멀티 에이전트(Multi-Agent) 등 생성형 AI 플랫폼 ‘패브릭스’의 새로운 기능을 소개했다.

국내 연예계가 ‘딥페이크’(AI 기반 합성) 영상물 제작과 유통에 대한 강력 대응을 경고하고 나섰다. 가수 권은비와 뉴진스에 대한 딥페이크 음란물에 대한 경찰 수사가 진행 중이다. YG엔터테인먼트 관계자는 3일 “소속 아티스트의 인격과 명예에 심각한 위해를 미치는 모든 불법행위에 대해 지속적으로 엄정 대응할 것”이라고 밝혔다. YG 측은 현재 소속 아티스트들과 관련한 부적절한 딥페이크 제작물의 제작 및 유포 상황을 모니터링하고 있다고 강조했다. 불법 영상물의 삭제 및 차단 뿐 아니라 모든 법적 조치도 진행할 방침이다. 블랙핑크의 완전체 그룹 활동을 담당하는 YG에는 신예 그룹 베이비몬스터, 악뮤, 트레저 등이 소속돼 있다. 앞서 JYP엔터테인먼트도 걸그룹 트와이스 멤버들의 얼굴을 합성한 음란물 확산에 대한 강력 대응에 나섰다. 그룹 뉴진스와 가수 권은비 등도 관련 법적 조치를 진행 중이다. 어도어는 지난 6월 “아티스트의 국적 및 외모 등을 조롱하고 모욕하는 게시글, 성적 수치심이나 혐오감을 일으키는 게시물과 허위 사실을 유포하는 댓글을 작성한 자들을 고소장에 전부 포함했다”라고 밝힌 바 있다. 권은비도 지난 7월 초상을 합성한 음란성 사진 등을 유포한 이들을 고소했다. 전 세계 온라인에서 한국인이 딥페이크 음란물 피해를 보고 있는데 특히 한국 여성 가수들이 주된 표적이 되고 있다. 미국의 사이버보안 업체 ‘시큐리티 히어로’가 공개 ‘2023 딥페이크 현황’ 보고서에 따르면 100개 이상의 웹사이트에서 10만개가량의 콘텐츠를 분석한 결과 ‘딥페이크 성 착취물’에 가장 많이 노출된 10명 중 8명이 한국 가수인 것으로 나타났다. 경찰은 지난달 말 딥페이크 성범죄와 관련해 접수된 총 88건의 신고를 조사 중이다. 국내 연예인을 대상으로 한 딥페이크 범죄가 확산하면서 소속사들도 강력 대응에 나서고 있다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

서울 금천구는 오는 9월 한 달간 정보기술(IT)과 패션 중심 G밸리 가산지역의 대표 축제 ‘금천 GC 페스타’를 개최한다고 2일 밝혔다. ‘금천 GC 페스타’는 지역명 금천(Geum-Cheon)과 새로운 도시 상표 ‘Good City’에서 각각 GC를 따서 지어졌다. ‘금천패션영화제’를 중심으로 다양한 행사와 연계해 G밸리의 과거·현재·미래를 연결하고, 가산동에 많이 거주하는 1인 가구와 2030 직장인의 가치관과 수요를 반영하기 위해 기획됐다. 구는 ‘G밸리위크’ 기간에 맞춰 ‘금천패션영화제’의 개최 시기를 기존 11월에서 9월 초로 변경하고, ‘2024 금천라이브’, ‘금천과학축제’, ‘당신의 금천마켓’, ‘북페스티벌’, ‘금천청년축제’ 등을 준비했다. 2일부터 6일까지는 산업단지 60주년 기념 G밸리 산업문화축제 ‘G밸리위크’가 진행된다. G밸리 근로자 문화행사, 스마트마라톤 대회, 금천 순이의 집 체험관 특별전, 수출상담회 등 다양한 행사가 예정돼있다. 구는 G밸리의 기업과 근로자, 주민들이 함께 즐길 수 있도록 한국산업단지경영자협의회 서울(KIBA), 구로구, 서울시, 한국산업단지공단, 서울경제진흥원(SBA)과 함께 행사를 준비했다. 5일 오후 6시에는 가산동 SK V1센터와 W센터 건물 사이 공간에서 직장인과 1인 가구를 위한 길거리 공연 ‘2024 금천라이브’가 개최된다. 사전에 접수된 G밸리 직장인들의 사연 중 핵심 단어들을 정리해 인공지능(AI) 작곡 프로그램으로 제작한 음악을 선보인다. 정보기술 관련 산업에 주로 종사하는 직장인과 주민들의 공감과 흥미를 불러일으킬 예정이다. 6일과 7일 금천구청 앞 광장 일대에서는 ‘AI로 공감하는 금천, 과학으로 소통하는 미래’라는 주제로 ‘제6회 금천과학축제’가 개최된다. 표창원 범죄과학연구소장의 특별강연과 과학수사 범죄분석(프로파일링) 체험전, 인공지능 로봇 관련 기업 연계 공간, 과학동아리 체험관 등 50개가 넘는 과학 관련 콘텐츠를 만날 수 있다. 6일 오후 6시 마리오·까르뜨니트 공장(디지털로9길 90)에서는 패션을 주제로 하는 국내 유일의 ‘제4회 금천패션영화제’ 개막식이 열린다. 8일까지 마리오·까르뜨니트 공장 내부에서 개막작 등 특별상영과 전시, 추억의 게임장터, 인공지능 영상 제작 강좌 등을 운영하고, 롯데시네마 가산점에서는 본선 진출 작품을 상영한다. 7일에는 현대아울렛 가산점 인근에서 주민참여 벼룩시장(플리마켓)인 ‘2024 청년공감 당신의 금천마켓’과 패션쇼, 자선장터 등 부대행사가 열린다. 8일에는 디지털로10길 22에서 직장인을 위한 ‘G밸리 직장인 3대3 농구대회’ 행사가 진행되고, 현대아울렛 가산점 앞에서 환경과 기후 위기를 주제로 한 책 축제 ‘금천구 도서관 북페스티벌’도 개최된다. 28일 ‘금천 GC 페스타’의 마지막은 ‘금천청년축제’가 장식한다. 금천구청 광장 일대에서 청년축제 기획단이 직접 기획한 무대공연, 게임과 체험 프로그램, 먹거리 구역과 장터 등 다채로운 프로그램을 운영할 예정이다. 유성훈 금천구청장은 “가을철 주요 행사를 플랫폼 형식으로 연계하여 가산지역의 특성에 맞는 브랜드 축제를 기획했다”며 “‘금천 GC 페스타’가 금천의 브랜드 축제를 넘어 서울의 대표적인 축제로 자리매김하도록 노력하겠다“라고 말했다.

SM엔터테인먼트가 만든 가상인간 나이비스(nævis)가 데뷔한다. 나이비스는 그룹 에스파(aespa)의 조력자 캐릭터로 최근 에스파 콘서트에 깜짝 등장해 화제를 모았다. 나이비스는 에스파 멤버들이 현실인 리얼 월드와 ‘광야’로 불리는 디지털 월드를 오갈 수 있게 해주는 능력을 지녔다는 설정으로, 지난해 에스파의 세 번째 미니음반 수록곡 ‘웰컴 투 마이 월드’에 피처링으로 참여했다. 제작을 맡은 SM 버추얼 IP 센터는 나이비스가 플랫폼과 콘텐츠에 따라 사람의 모습을 본뜬 3D 캐릭터에서 애니메이션을 떠오르게 하는 2D 캐릭터까지 유연하게 외형을 바꿀 수 있도록 설계했다고 설명했다. 인공지능(AI) 음성 기술을 활용해 목소리를 만들고 생성형 AI로 콘텐츠를 제작했다. 나이비스는 음악 활동과 더불어 게임, 브랜드 협업 상품 등으로 IP(지식재산)를 확장해나갈 계획이다. 이를 위해 SM엔터테인먼트는 LG유플러스와 손잡고, 나이비스의 콘텐츠를 제작한다고 발표했다. LG유플러스가 자체 개발한 생성형 인공지능(AI) ‘익시젠’을 활용한 이미지와 영상이 나이비스의 뮤직비디오, 쇼츠, 굿즈 제작 등에 활용된다. LG유플러스는 “SM은 버추얼 아티스트에 AI를 결합함으로써 새로운 문화 장르를 만들고 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서의 긍정적 효과를 기대할 수 있게 됐다”고 말했다. 아담 넘은 ‘가상 인간’ 전성시대1998년도에 등장한 국내 최초 사이버 가수 ‘아담’ 이후 30여년이 흐른 지금 ‘가상 아이돌’이란 통칭 아래 다양한 콘셉트의 그룹들이 등장하고 있다. 실제 인간 멤버 4명과 버추얼 휴먼 멤버 1명으로 조합된 최초의 ‘AI과 사람’ 그룹 슈퍼카인드는 게임 속 캐릭터를 캐스팅했다는 설정을 지닌다. 카카오엔터테인먼트가 기획한 버추얼 아이돌 서바이벌 예능 프로그램 ‘소녀 리버스’는 대중들에게 익숙한 웹툰 스타일의 캐릭터를 차용했다. 실제 30명의 전현직 K-팝 걸그룹 멤버들이 가상현실(VR) 기기를 이용해 메타버스 세상 속에서 정체를 숨긴 채 경쟁하는 콘텐츠로 대중성도 확보했다. 버추얼 멤버들로만 구성된 11인조 걸그룹 ‘이터니티’ 역시 2D 딥페이크 기술을 적용해 만들어진 아이돌로, 신진 아티스트들의 재능 기부를 받아 데뷔곡을 제작했다. 이터니티의 멤버 제인은 4부작 웹드라마에서 정식 배역을 맡아 진짜 사람을 연기한다. 실제 배우가 촬영한 동작 데이터에 AI의 데이터를 녹이는 방식으로 구현하는 식이다. 제인은 한 방송에 출연해 직접 진행자와 대화하며 “음주 관련 사건 사고·연예인 갑질·사회의 물의를 일으킬 일이 없다”고 버추얼 아이돌 그룹으로서의 장점을 소개하기도 했다. 전문가들은 현재까지는 버추얼 아이돌이 일부 마니아층이나 1020세대에서 주로 인기를 끄는 만큼 팬덤의 확장, 대중성 확보가 성공의 가장 큰 관건이 될 것이라고 전망하고 있다.

서울시의회 이상욱 의원(국민의힘·비례)이 3일 서울시의회 의원회관 제2대회의실에서 ‘AI·빅데이터 활용 더 안전한 서울 만들기’ 토론회를 개최한다. 토론회는 이상욱 의원, 한국안전정책학회가 주관한다. 토론회는 최은수 서울과학종합대학원 석학교수의 ‘사람관제(VMS)를 넘어 AI 관제(AMS)로 서울시 AI 통합관제시대 구현하기’, 조윤식 중앙대학교 AI 학과 교수의 ‘초거대 영상검색모델(VLM)로 빅데이터 생성을 통한 서울시 ‘예방안전’ 구현‘ 2개의 주제발표가 준비돼있다. 조가영 서울연구원 연구위원, 임승철 서울시 정보통신과장, 이성관 극동대 특임교수, 이창윤 한국안전정책 포럼 부회장, 김현중 서울시 재난안전정책과장이 ’더 안전한 서울 해법 모색‘을 주제로 토론을 진행한다. 축사를 맡은 석재왕 교수(건국대 안보재난관리학과)는 “기후위기가 점점 다가옴에 따라 재난안전산업이 체계적으로 육성되어야 한다”라며 토론회의 필요성을 강조했다. 이 의원은 “이번 토론회가 기후위기에 따른 폭우, 폭염 등 자연재해로 인한 위험이 일상화됨에 따라 서울 시민의 안전을 보장하기 위한 구체적인 방안을 모색하는 중요한 자리”라며 “AI와 빅데이터를 활용한 안전 대응 전략이 시민들의 생명과 재산을 보호하는 데 큰 역할을 할 것으로 기대된다”고 밝혔다. 이어 “이번 토론회를 통해 실질적인 방안이 제시되고 활발한 논의가 이뤄져 안전한 서울을 만드는 중요한 초석이 되기를 바란다”고 말했다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

LG유플러스가 SM엔터테인먼트와 생성형 인공지능(AI) 기반 콘텐츠 개발 협력을 위한 업무협약을 체결했다. 이를 계기로 SM엔터테인먼트의 첫 번째 버추얼 아티스트인 ‘나이비스’의 뮤직비디오 등 콘텐츠 제작에 LG유플러스가 자체 개발한 생성형 AI ‘익시젠’(ixi-GEN)이 활용된다. 1일 LG유플러스에 따르면 양사는 지난달 29일 서울 성수동 SM엔터테인먼트 사옥에서 업무협약식을 갖고 이런 내용에 합의했다. 업무협약식에는 정수헌 LG유플러스 컨슈머부문장(부사장), 정혜윤 마케팅그룹장, 한영섭 AI테크랩장, 김희진 통합브랜드마케팅팀장, 탁영준 SM엔터테인먼트 공동대표, 박준영 최고크리에이티브책임자(CCO), 이종호 버추얼IP비즈유닉장, 김선택 버추얼IP콘텐츠유닛장 등 양사 주요 관계자가 참석했다. 이번 업무협약으로 LG유플러스는 자체 개발 생성형 AI 익시젠을 활용해 SM엔터테인먼트의 첫 번째 버추얼 아티스트 나이비스의 콘텐츠 제작에 나선다. 익시젠이 생성한 이미지와 영상을 활용해 뮤직비디오와 쇼츠, 굿즈 등을 제작하고 이를 통해 전 세계 K팝 팬들에게 AI 경험을 제공한다는 계획이다. SM엔터테인먼트는 버추얼 아티스트에 AI 기술을 결합함으로써 새로운 문화 장르로 만들어가겠다는 포부다. 특히 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서 긍정적 효과를 기대하고 있다. 앞서 LG유플러스는 올 초부터 마케팅의 전 영역을 AI 중심으로 혁신하는 ‘익시 프로덕션’ 프로젝트를 진행하고 있다. 이번 SM엔터테인먼트 협업도 익시 프로덕션 활동의 하나로 AI를 활용한 새로운 고객 경험을 창출해 나간다는 방침이다. 정수헌 LG유플러스 부사장은 “국내 대표 기획사인 SM과의 협업은 U+고객을 넘어 글로벌 K팝 팬들에게도 새로운 디지털 경험을 제공할 뿐 아니라 마케팅, 브랜딩 측면에서 높은 시너지를 창출할 것으로 기대된다”고 전했다. 탁영준 SM엔터테인먼트 공동대표도 “LG유플러스의 생성형 AI 익시젠과 SM의 버추얼 아티스트 나이비스 간의 협업은 단순한 비즈니스 제휴를 넘어 양사 간의 창의적 시너지를 통해 미래 지향적인 콘텐츠와 기술 혁신을 실현하는 중요한 이정표가 될 것”이라고 강조했다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

호주의 한 광산 회사 사장이 회사 밖으로 나가서 커피를 사 먹는 직원들 때문에 회사가 너무 많은 돈을 낭비하고 있다고 주장한 것으로 알려졌다. 29일(현지시간) BBC에 따르면 호주의 광물 자원 회사 미네랄리소스의 사장 크리스 엘리슨은 지난 28일 재무 실적 발표에서 “직원들을 하루 종일 회사에 사로잡아 둬야 한다”고 주장했다. 그는 “직원들이 회사 밖으로 나가는 것을 원하지 않는다”며 “본사에는 레스토랑, 9명의 직원 심리상담사, 체육관 등 여러 시설이 갖춰져 있다”고 전했다. BBC에 따르면 이 회사는 ‘재택근무 금지’ 정책을 엄격히 고수하고 있다. 엘리슨은 “사무실에서 일하는 것이 집에서 일하는 것보다 효율이 높다는 내 생각을 업계 전체가 공감해야 한다”고 강조했다. 그는 “광산 업계는 (재택을 시킬) 여유가 없다”며 “사람들이 주 3일 일하고 주 5일 급여를 받는 것을 허용할 수 없으며 주 4일 급여를 받는 것도 허용할 수 없다”고 했다. BBC는 재택근무 금지 정책을 시행한 사장이 엘리슨이 유일하지는 않다고 전했다. 영국 런던에 본사를 둔 한 스마트폰 제조업체 대표는 최근 모든 직원에게 이메일을 보내 재택근무를 금지한다고 발표한 것으로 알려졌다. 대표는 “논란의 여지가 있는 결정이라는 것을 알지만 우리 사업 유형에는 적합하지 않다”며 “회사로서의 잠재력을 실현하기 위한 방법”이라고 밝혔다. 앞서 에릭 슈밋 전 구글 최고경영자(CEO) 또한 구글이 인공지능(AI) 기술 경쟁에서 뒤처진 배경으로 재택근무 확산을 지목해 논란의 중심에 서기도 했다. 그는 스탠퍼드대 학생들을 대상으로 한 대담에서 “구글이 왜 AI 선두 자리를 오픈AI나 앤스로픽 같은 스타트업에 뺏겼는가”라는 질문에 “구글이 승리보다는 ‘워라밸’(work life balance)을 선택했기 때문”이라며 “반면 스타트업이 성공하는 이유는 그 사람들은 지옥처럼 일하고 있기 때문”이라고 답했다. 다만 그는 이후 월스트리트저널(WSJ)에 메일을 보내 “구글과 그들의 근무 시간에 대해 잘못 말했고 후회한다”며 해당 발언을 철회했다. 구글 모회사 알파벳 노조가 반발하는 등 논란이 커지자 대담 동영상은 비공개로 전환됐다. 구글은 팬데믹 이후 주 3회 사무실 출근 의무화 정책을 실시하고 있다.

국민의힘이 30일 “자유민주주의 헌법 가치를 지키는 정당으로서 민생과 국익을 훼손하는 야당의 막말과 거짓 선동에 단호히 맞서 싸우겠다”고 강조했다. 1박 2일 연찬회를 마무리한 국민의힘은 금융투자소득세(금투세) 폐지를 포함한 170개의 최우선 입법 과제를 선정해 발표했다. 국민의힘 의원들은 이날 인천국제공항공사 인재개발원에서 열린 ‘2024 국민의힘 국회의원 연찬회’를 마치고 이같이 밝혔다. 의원들은 결의문을 통해 “국민의 민생과 안전을 지키고 미래세대를 위한 연금·의료·교육·노동 등 4대 개혁을 책임 있게 이행하겠다”며 “인구·기후위기, 양극화, 지역소멸 등 공동체의 미래를 위협하는 과제에 적극 대응하겠다. 대한민국의 위상에 걸맞는 글로벌 외교를 뒷받침하며 한반도 통일 시대를 준비하겠다”고 했다. 한동훈 국민의힘 대표는 폐회사에서 “1박 2일 동안 많은 대화를 나눴고 저도 생각을 많이 했다”면서 “우리의 길은 미래를 열고 민생으로 가는 것이다. 우리가 정말 국민들이 원하는 정치를 할 수 있는 정치집단이라는 점을 국민들께 증명하고 국민들의 사랑을 되찾자”고 말했다. 그러면서 추경호 원내대표의 트레이드 마크인 “똘똘 뭉치자!”를 인용해 단합을 강조하기도 했다. 연찬회를 마친 국민의힘은 금투세·단통법(단말장치 유통구조 개선법) 폐지와 저출생 대응을 위한 인구전략기획부 신설을 포함한 최우선 입법 과제를 발표했다. 국민의힘 정책위원회는 이날 보도자료를 내고 ▲민생경제 활력 분야 ▲저출생 극복 분야 ▲의료개혁 분야 ▲미래먹거리 발굴 분야 ▲지역균형발전 분야 ▲국민안전 분야 등 총 6대 분야, 170개 법안을 제22대 정기국회 최우선 입법 및 통과 과제로 삼았다고 밝혔다. 민생경제 활력 분야에는 ‘티메프’ (티몬 위메프 정산지연 사태) 방지와 금투세 폐지 등 생활 밀착형 경제법안들이 담겼다. 저출생 극복 분야에는 인구전략기획부 신설, 육아휴직 연장 및 대상 연령확대와 임신기 근로시간 단축 등의 내용을 담았다. 또 ‘의료개혁’에 관해선 ‘의료사고 특례 지원’을 추진하겠다고 밝혔다. 미래먹거리 발굴 분야에서 인공지능(AI)과 원전, 반도체, 전력망 구축 등 첨단산업 인프라 지원을 확대하기로 뜻을 모았다. 지역균형 발전 분야에서는 수도권 집중를 해소하는 내용의 법안을 추진해 지역과 수도권의 경쟁력을 동시에 높이겠다고 밝혔다. 국민안전 분야에는 딥페이크 성범죄 등 디지털 성범죄 문제 해결을 위한 법안이 담겼다. 텔레그램에서 딥페이크를 이용해 불법 합성 영상물을 유포하는 성범죄가 기승을 부리자 이에 대한 대응책을 마련하겠다는 취지다. 또 제복 공무원 및 재해지원 중 순직한 일반 공무원에 대한 예우를 강화하고, 군 장병 및 예비군에 대한 처우 개선도 추진하기로 했다.

국민의힘과 정부가 타인의 얼굴을 합성한 음란물을 만들어 유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안도 검토하기로 했다. 당정은 29일 오전 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 진행하고 딥페이크를 포함한 허위 영상물 처벌을 현행법상 ‘최대 5년 이하의 징역 또는 5000만원 이하의 벌금형’에서 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진하기로 했다. 또 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위 영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 교육부는 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”고 했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 국민의힘 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 통과를 당부했다. 이외 국민의힘 10·16 재보궐선거 중앙당 공천관리위원회는 딥페이크 성범죄 등에 연루된 사람은 공천에서 배제하기로 했다. 이원석 검찰총장은 전국 일선 검찰청의 디지털 성범죄 전담 검사들과 화상회의를 열고 “성적 수치심 유발 정도가 중한 아동·청소년 대상의 허위 영상물이나 영리 목적의 허위 영상물 제작 사범은 원칙적으로 구속 수사하라”고 지시했다.

한동훈 대표 인재영입으로 뱃지 단 ‘친한’계삼성전자 출신에 매달 지역구서 청년 멘토링원외 韓 대표의 정책 행보는 법안 발의로 지원매주 금요일 [주간 여의도 Who?]가 온라인을 통해 독자를 찾아갑니다. 서울신문 정당팀이 ‘주간 여의도 인물’을 선정해 탐구합니다. 지난 일주일 국회에서 가장 눈에 띄었던 정치인의 말과 움직임을 다각도로 포착해 분석합니다. ‘갤럭시 신화’의 고동진 국민의힘 의원이 지난 26일 당의 인재 영입위원장에 임명됐다. 한동훈 국민의힘 대표가 사활을 건 ‘중수청(중도·수도권·청년)’ 중심의 외연 확장과 관련해 주요 역할을 할 것으로 기대된다. 고 의원은 4·10 총선 전 한동훈 당시 국민의힘 비상대책위원장에 의해 영입돼 서울 강남병에 당선돼 ‘친한’(친한동훈)계로 묶인다. 고 의원은 삼성전자 대표이사 출신으로 스마트폰 ‘갤럭시’ 시리즈 개발을 총괄한 주역으로 꼽힌다. 고 의원은 지난 2022년 삼성전자 정기인사를 통해 경영일선에서 물러난 뒤 2023년 자신의 경험을 담아 저서 ‘일이란 무엇인가’를 냈다. 고 의원에 대한 입당 제안은 한 대표가 그의 책을 읽고 직접 설득한 것으로 알려져 있다. 고 의원은 한 대표가 강조하는 중수청 확장에 주력할 것으로 보인다. 한 대표는 지난 26일 기자들과 만난 자리에서 “지금은 우리 당의 내실과 체질을 다질 때다. 당장 선거가 임박한 것은 아니니 체질과 정책을 다지는 게 중요하다”라고 강조했다. 또 중수청에 대해서 그는 “가만히 보면 실제로 교집합이 큰 영역이다. 우리가 인색한 부자 정당이 아니라, 현실 세계 국민의 어려움에 대해 집중할 것”이라고 계획을 밝혔다. 앞서 한 대표는 지난 5일에는 당의 인재영입의 중요성에 대해 강조했다. 한 대표는 “지금까지 전국 단위 선거에 임박해서 인재위가 후보를 영입하는 방식으로 운영됐지만 앞으론 중도나 수도권, 청년으로 외연 확장을 해야 하는 상황”이라면서 “인재영입위원회를 상설화하고 강화해 상시적으로 인재 발굴과 영입 교육을 하는데 당의 사활을 걸 필요가있다”라고 말했다. 이에 고 의원은 인재영입위원장 물망에 올라있던 지난 19일 채널A 라디오에서 한 대표의 인재영입위원회 상설화에 찬성 의견을 냈다. 고 의원은 “지난 총선에서 우리가 패인 원인을 분석을 하면 나왔던 게 중수청이다. 인재 영입을 위한 초점을 중도, 수도권, 청년에 맞춘다는 세팅은 잘된 것 같다”라고 했다. 이어 그는 “중도는 ‘나는 지금 결정하지 않았다’라는 의미가 크다. 중도층을 흡수하고 외연을 확장하기 위해서는 국민의힘이 민생을 위한, 정책을 위한 정당으로 평소에 열심히 노력을 해야되겠다”라고 말했다. 그는 “말로만 하는 게 아니라 실천을 함으로써 아직 결정을 하지 않은 분들이 공감할 수 있는, 당이 되어야 한다”고 덧붙였다. 고 의원이 인재영입위원장에 발탁된 배경에는 청년층과 호흡할 수 있다는 점, 대중적 인지도가 높다는 점 등이 영향을 미친 것으로 보인다. 정치에 입문하면서 그는 ‘청년의 미래’를 위해 일하고 싶다고 여러 인터뷰를 통해 강조하기도 했다. 또한 고 의원은 매달 지역구인 강남구에서 ‘청년 멘토링’을 진행하며 청년들과 진로 고민, 주요 관심사인 인공지능(AI) 등을 소재로 대화하고 있다. 당선 이후 이제까지 총 4번의 멘토링이 진행됐다. 한 대표가 중수청 회복을 위해 정치개혁의 일환으로 약속한 ‘지구당 부활’에 대해 고 의원이 정당법·정치자금법 개정안을 대표 발의해 뒷받침하기도 했다. 개정안에는 정당 운영을 국회의원지역선거구를 단위로 하는 지구당(지역당) 중심으로 변경하는 내용이 담겼다. 정당 및 후보자 등이 지역주민의 생활 현장에서 생생한 정치적 요구를 수렴할 수 있도록 하고, 풀뿌리 민주주의를 활성화하려는 차원이다. 고 의원은 법안 제안 이유에서 “지난 2004년에 정치개혁의 일환으로 지구당을 폐지했으나 예상했던 정치발전보다는 정당의 기반이 허약해지고 생활현장에서 지역주민의 다양한 의견과 요구를 청취할 수 없는 부작용이 오히려 더 크다는 비판이 제기되고 있다”고 지적했다. 또 “지구당 폐지 당시 지적되었던 고비용 및 운영상 부조리한 문제 등이 상당부분 개선되었다는 의견이 제시되고 있”고도 부연했다. 고 의원은 원외 대표인 한 대표의 정책 행보에도 법안 발의로 힘을 싣고 있다. 서울 은평구에서 발생한 일본도 살인 사건 이후 한 대표는 “총포·도검 소지 전반에 대한 재점검과 감독이 필요하다”고 발언했고, 이후 고 의원은 곧바로 정신질환자 도검소지 방지법을 발의해 대표를 지원 사격했다. 한 대표가 최근 19명의 사상자를 낸 경기 부천 호텔 화재와 관련해 스프링클러 의무 설치 제도의 미비점을 지적했을 때도 고 의원은 노후 숙박시설에도 스프링클러 등의 소방시설을 설치하도록 하는 소방시설 설치 및 관리에 관한 법률 개정안을 발의했다. 한편 고 의원은 국회 공직자윤리위원회가 지난 29일 공개한 22대 국회 신규등록 국회의원 147명 중 최고 자산가로 꼽혀 주목을 받기도 했다. 고 의원은 72억 4070만원의 한남동 아파트, 2021년식 페라리 자동차(2억 3108만원), 삼성전자 주식 4만 8500주 등을 포함해 총 333억 107만원을 신고했다.

텔레그램과 상시 핫라인 방침수사·상담·영상 삭제 지원 논의제작자도 처벌 포함 법안 추진국민의힘과 정부가 얼굴에 음란물을 합성·유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 것도 검토하기로 했다. 당정은 29일 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 진행하고 딥페이크를 포함한 허위영상물 처벌을 현행법상 ‘최대 징역 5년 이하 징역 또는 5000만원 이하’에서 불법촬영물과 마찬가지로 최대 징역 7년으로 강화하는 것을 추진하기로 했다. 또 해외에 서버를 둔 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 딥페이크 관련 중고생 피해 사례가 급증하는 만큼, 교육부 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “촉법소년 연령 하향 문제도 같이 생각해봐야 한다”며 “(딥페이크 범죄 영상 제작을) 하는 분, 혹시 하고 싶어하는 분 중에 촉법소년 연령에 있는 분들도 많을 것이다. 그런 점에서 저희가 지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나, 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”며 “현재 국회에 딥페이크 성범죄 관련 10여개의 법안이 발의돼 있지만, 본회의에서 아직 의결되지 않아 사실상 입법 공백 상태”라고 지적했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크 기술의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 조속한 통과를 당부했다.

미국에서 올해 11월 5일 대선을 앞둔 가운데 유럽의 젊은 여성 인플루언서들의 사진을 내걸고 공화당 대선 후보 도널드 트럼프 전 대통령을 지지하는 가짜 엑스(X·옛 트위터) 계정이 활개를 치고 있다고 미국 CNN 방송이 28일(현지시간) 보도했다. 일례로 자신을 위스콘신 출신의 32세 여성이라고 소개한 루나는 지난 3월 엑스(@Luna_2K24)에 가입한 후 트럼프 전 대통령의 선거 구호인 ‘마가(MAGA·Make America Great Again·미국을 다시 위대하게)’를 홍보하며 3만명의 팔로워를 확보했다. 그는 트럼프 전 대통령이 추가적인 암살 시도에 직면해 있다는 등의 음모론을 지속적으로 펼쳤고, LGBTQ(성소수자)와 트랜스젠더, 백신에 반대하고 인종 차별과 외국인 혐오를 조장하는 글을 다수 올렸다. 그는 흰색 비키니를 입고 해변에서 찍은 셀카를 공유하면서 “트럼프가 영원히 대통령이 되는 것을 지지하겠느냐”는 글을 올렸는데 조회수는 5만4000명에 달했다. 하지만 루나는 실제 인물이 아닌 것으로 드러났다. 사진 속 갈색 머리 여성은 미국 투표권이 없는 독일의 패션 인플루언서 데비 네더로프였다. 네더로프는 엔지니어링 회사의 소셜미디어 관리자이자 모델인 독일인으로 트럼프와 무관한 것은 물론 미국 대선 투표권이 없다. 네더로프는 CNN에 “내 얼굴이 트럼프의 지지 선전에 사용되고 있다는 사실에 화가 난다”며 “나는 미국과 아무 상관이 없다. 독일의 작은 마을에서 사는 내가 미국 정치에 신경이나 쓰겠냐”고 반문했다. CNN이 정보회복센터(CIR)과 조사한 결과 루나는 물론 네덜란드, 덴마크, 러시아 출신 패션 및 뷰티 인플루언서 17명의 유럽 여성 사진이 무단으로 도용된 엑스 계정이 트럼프의 지지를 도모하는 선전 도구로 이용되고 있다. CIR은 인권 침해를 폭로하는 독립적이고 비영리적인 사회적 기업이다. CNN은 “이들 인플루언서 사진을 도용해 만든 가짜 계정은 56개 엑스 계정 중 일부에 불과하다”고 전했다. CNN은 “해당 계정과 관련해 엑스에 연락했지만 답변을 받지 못했다”며 “해당 기사를 게시하기 24시간 전 동안 엑스는 대부분의 계정을 삭제했다”고 지적했다. 이어 “일론 머스크가 엑스를 인수한 이후 엑스에서 허위 사실과 음모론 유포를 방지하던 팀은 해체됐다”며 “CNN이 인터뷰한 유럽의 인플루언서는 자신의 사진이 동의 없이 사용되거나 신원이 도용됐다고 신고해도 소셜미디어(SNS) 플랫폼 운영사는 조치를 하지 않아 어려움을 겪고 있다”고 전했다. 그러면서 “온라인에서 여성의 신체적 자율권에 대한 위협이 커지고 있음을 보여준다”고 일갈했다. 선거 앞 가짜 콘텐츠에 대한 우려는 인공지능 기술이 확산하면서 지속돼 왔다. 잘못된 정보를 유포하고 가짜 동영상과 이미지를 통해 상대 후보에게 피해를 주려는 행위는 미국뿐 아니라 전세계 선거에서 나타나는 현상이기도 하다. 에밀리 혼 전 백악관 국가안보회의(NSC) 대변인은 올해 미국 대선을 앞두고 SNS를 이용해 허위 정보 캠페인을 시도한 여러 국가의 조직들이 있었다면서, 가짜 계정의 배후와 관련해서도 “이것은 국가 행위자일 수 있다. 정교함의 수준을 보면 러시아, 이란, 중국을 포함한 적대국 행위자 중 하나일 수 있다”고 말했다. 트럼프 “스위프트 지지, 수락한다” 논란 자초 트럼프 전 대통령은 지난 18일 세계적 팝스타 테일러 스위프트와 팬덤 ‘스위프티스’(Swifties)의 지지를 받았다는 가짜 사진을 소셜미디어에 게시하고 “수락한다”고 적어 논란을 자초했다. 트럼프 전 대통령은 자신의 소셜미디어 ‘트루스 소셜’에 스위프트와 팬들이 자신을 지지한다고 적힌 티셔츠를 입은 가짜 이미지를 여러 장 올렸다. 미국을 상징하는 ‘엉클샘’의 복장을 한 스위프트와 ‘테일러는 당신이 도널드 트럼프에게 투표하기를 원한다’고 적힌 사진, ‘트럼프를 지지하는 스위프티스’라고 적힌 티셔츠를 입은 여성들이 모여있는 듯한 사진, 지난 7일 스위프트의 오스트리아 빈 콘서트가 이슬람국가(ISIS)의 테러 가능성으로 취소된 뒤 팬들이 트럼프 쪽으로 돌아섰다는 가짜 뉴스 화면이 갈무리 된 사진 등이었다. 그는 이어 “수락한다(I accept!)”라고 적었다. 스위프트는 아직 트럼프 전 대통령과 카멀라 해리스 부통령 중 지지하는 후보를 공개적으로 밝힌 적은 없으나, 2020년 앞선 대선 때 민주당을 지지하며 트럼프 전 대통령을 향해 “당신을 몰아낼 것”이라고 공개 저격한 바 있다. 트럼프 전 대통령의 이런 의도적 ‘가짜 사진’ 유포는 처음이 아니다. 그는 엑스에 인민복처럼 보이는 옷을 입은 군중들 앞에서 해리스 부통령 뒷모습처럼 보이는 여성이 연설하는 이미지를 올렸고, 지원군인 일론 머스크 테슬라 최고경영자(CEO)와 자신이 춤추는 영상을 공개했다. 둘 다 조작된 것들이었다. 영국 가디언은 “트럼프 전 대통령이 최근 며칠 동안 패러디와 노골적인 선거 허위 정보 사이의 경계를 넘나들며” 퍼뜨린 딥 페이크라고 우려를 표했다. 그러면서 “대선을 앞두고 불투명한 정보 생태계를 더 혼탁하게 만들 위험이 있다. 일상적으로 허위 사실과 음모론을 조장하고 있는 것”이라고 지적했다.

‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제 착수 최근 ‘초거대언어모델’(LLM)이 가진 문제를 해결할 수 있는 RAG(Retrieval-Augmented Generation, 검색증강생성) 기술의 중요성이 날로 커져가고 있다. 이러한 가운데, 텍스트 이외에도 음성, 이미지, 동영상 등 다양한 데이터를 결합하여 추론이 가능한 ‘멀티모달 RAG 기술’이 AI와 인간이 구사하는 인지 사고의 편차를 현저히 줄일 것으로 각광받는다. 이러한 기술 추세에 발맞추어, 인공지능(AI) 전문기업 와이즈넛(대표 강용성)은 과학기술정보통신부가 주관하는 정보통신방송기술개발사업 중 정보통신기획평가원이 추진하는 ‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제의 주관사로서 1차 연도 연구에 착수했다고 29일 밝혔다. 2027년까지 4년에 걸쳐 진행되는 본 연구는 실제 업무 환경에서 융합되어 활용되는 멀티모달 데이터를 기반으로 초거대언어모델(LLM)의 구조적, 성능적 한계로 제기되는 ▲최신화된 정보 유지의 어려움 ▲할루시네이션 ▲도메인 정보 부족▲대규모 컴퓨팅자원소요 등의 한계를 극복하는 멀티모달 RAG 기술 개발을 목표로 한다. 멀티모달(Multi modal)은 인간이 사물의 양상을 다양한 감각기관으로 받아들이는 것처럼 텍스트, 이미지, 음성, 비디오 등 다양한 형태의 데이터 채널(Modality)을 동시에 처리하는 것을 뜻한다. 이는 텍스트와 함께 소리 데이터를 융합하고 이를 분석해 소리의 크기나 성격을 더 정확하게 이해하거나, 동영상에서 얼굴 이미지를 인식하고 음성 대화를 텍스트로 변환해 자동 자막을 생성하는 등 폭넓게 활용될 수 있는 만큼 새로운 대안으로 주목받는 기술이다. 와이즈넛은 이번 과제에서 멀티모달 데이터 수집 및 처리, 검색, 통합관리 기술 개발에 주력한다. 자체 보유하고 있는 LLM 기술 기반 검색증강생성(RAG) 기술을 적용해, 멀티모달 질의 이해 및 답변 생성 기술부터 LLM의 성능을 높이기 위한 언어모델 최신화 기술, 효율적인 데이터 학습 및 관리를 위한 RAG 데이터 파이프라인 기술, 도메인 실증까지 전반의 기술 개발을 총괄 수행한다. 본 과제는 연구개발에 이어 의료(전남대학교병원), 법률(앤쌤), 제조(JB주식회사), 미디어 광고(SBSi) 등 다양한 도메인에서의 실증을 통해, 각종 비즈니스 환경과 사용자 요구에 맞춘 현실 데이터로 검증하는 단계를 거칠 계획이다. 특히 그간 전통적인 제조 분야의 산업현장, 반도체 공정 등에서 멀티모달 RAG기술에 대한 필요성이 꾸준히 제기되어 왔던 만큼, 본 기술을 반영하여 수요가 있는 다양한 분야에서 더욱 복잡하고 효율적인 작업을 수행할 수 있게 실증사업을 진행할 예정이며, 향후 더 많은 고객군을 대상으로 사업을 확대해 나갈 것으로 기대를 모으고 있다. 또한, 다양한 멀티모달 데이터 통합처리를 통해 LLM의 데이터 이해 및 분석 역량을 향상하고 맞춤형 응답과 문제 해결능력을 함양할 수 있어, AI 서비스를 활용하는 고객의 사용자 경험 및 만족도를 대폭 향상시킬 전망이다. 강용성 와이즈넛 대표는 “향후 인공지능이 ‘인간처럼’ 사고하고 상호작용하기 위해서는 멀티모달 RAG기술은 필수적”이라며, “와이즈넛은 이번 연구에서 멀티모달 RAG기술을 통해 AI 기술 수준을 한 단계 업그레이드하고, 혁신적인 비즈니스 모델을 선제적으로 창출하는 기술적 토대를 마련할 것”이라고 말했다.