한국컴플라이언스협회(KCA)가 5일 서울 코엑스에서 ‘국제 컴플라이언스협회(ICA) 후원 2024 컴플라이언스 어워즈’를 개최했다. 기업 부문에서 롯데지주와 포스코인터내셔널이, 공공부문에서 한국전기안전공사와 한국에너지공단이 대상을 받았다. 컴플라이언스란 기업이 각종 규제나 법규, 윤리를 준수하기 위해 행하는 준법 활동을 뜻한다. 대상을 받은 기업들은 예방적·선제적으로 사내 컴플라이언스 위협 요인을 진단하고 적극 개선한 공로를 인정 받았다. 이날 ‘제2회 대한민국 컴플라이언스 컨퍼런스’도 기업윤리와 컴플라이언스를 주제로 개최되었다. 지난 1월 ‘ESG(환경·사회·지속가능성 경영)의 근간, 컴플라이언스’를 주제로 컨퍼런스를 연 이후 KCA가 개최한 두 번째 컨퍼런스로 전문가와 실무자 300여명이 참석했다. 준법경영을 수행하는 개념을 넘어 조직이 내외부 관계자들의 공정과 행복을 추구하는 방식, 생성형 인공지능(AI) 기술 대응 새 규범을 모색해야 할 필요성 등에 대한 폭넓은 논의가 컨퍼런스에서 이뤄졌다. KMA 경영자교육위원회 위원장을 맡고 있는 김형철 전 연세대 교수가 ‘기업윤리와 리더의 윤리의식’을 주제로 기조강연에 나서며 컨퍼런스를 시작했다. 김 교수는 서브프라임 모기지 사태부터 다국적 기업들의 위기관리 사례를 예로 들며 윤리 경영의 중요성을 강조했다. 이어 박종근 지멘스 윤리경영실장이 사내 준법제도에 대해 설명했다. 박 실장은 “준법 제도는 기업이 경쟁우위를 섭렵하고 지속가능한 성장을 지탱하기 위한 것”이라고 했다.이어진 오전 세션에서 맹수석 대한상사중재원 원장이 ‘중재를 통한 전략적 컴플라이언스’를, 법무법인 세종의 홍탁균 변호사가 ‘반부패 뇌물방지 규제 최근 동향’을 전했다. 이어 정연홍 한국공정거래조정원 실장의 ‘CP등급평가 운영계획 및 공정거래 자율준수 사례’, 김광기 ESG경제 대표의 ‘ESG 공시 의무 컴플라이언스’, 성수용 금융감독원 선임교수의 ‘금융회사 내부통제와 책무구조도’ 강의로 참석한 준법경영관리 실무자들이 궁금증을 풀어냈다. 오후에는 신주호 성균관대 글로벌스마트시티융합전공 겸임교수가 ‘AI 시대의 컴플라이언스’에 대해 설명했다. 신 교수는 “2022년 생성형 AI 작품이 미술대회에서 수상을 하면서 창의성이 중요한 분야에서도 AI 활용이 용이하다는 점을 보여준 동시에 딥페이크 등에 대한 우려도 커지고 있다”고 진단했다. 그는 이어 “모니터링 솔루션이나 편향성 검사에 AI를 활용할 수 있다”고 제안했다. 이어 김재은 서울과학종합대학원 교수가 ‘청렴윤리 컴플라이언스’를, 김은성 KCA 이사장이 ‘공공부문의 컴플라이언스’를 주제로 강의하며 공공 부문에서 컴플라이언스 경영의 중요성이 커지고 있는 실태를 소개했다. 김은성 이사장은 “컴플라이언스가 단순 법적 의무를 넘어 기업의 지속가능성을 좌우할 핵심 요인이 되고 있다”면서 “앞으로 컴플라이언스의 변화가 우리 기업과 산업의 변화를 이끌 것”이라고 강조했다. KCA는 지난해 11월 산업통상자원부 설립인가를 받아 출범했다. 협회는 기업 전반의 컴플라이언스 체계 진단 및 컨설팅, 교육, 정책연구, 국내외 네트워킹 공유, 어워즈 등의 활동을 통해 컴플라이언스 생태계 확장에 나서고 있다.

생성형 인공지능(AI) 기술이 일반화되면서 ‘딥페이크’(AI 기반 인간 이미지합성기술) 해킹 공격 등이 새로운 사이버 위협으로 등장했다. 딥페이크로 구현된 화상회의에 속아 340억원의 거금을 송금한 사례도 있었다. SK쉴더스(구 ADT캡스)는 2일 서울 중구 페럼타워에서 ‘2024 상반기 보안 트렌드 및 안전한 AI 활용을 위한 보안 전략 공개’ 미디어 세미나를 통해 올해 상반기 유형별 침해사고 통계를 공개했다. 이날 발표는 국내 최대 규모의 화이트해커 전문가 그룹인 SK쉴더스 ‘이큐스트’(EQST)가 상반기에 직접 경험한 사고 사례와 연구 결과를 토대로 분석한 내용을 바탕으로 진행됐다. 특히 이큐스트는 주목받고 있는 AI 거대언어모델(LLM)의 취약점을 이용한 공격 3가지를 시연하면서 보안 대책을 발표했다. 이큐스트는 가상자산 탈취와 딥페이크 해킹 공격 등이 올해 상반기에 화제가 됐다고 밝혔다. 지난 1월에는 전 세계적으로 사용되고 있는 ‘Ivanti VPN 솔루션’에서 제로데이 취약점이 발견돼 다양한 산업 분야에서 피해를 보았다. 2월에는 중국 정부 지원을 받는 것으로 알려진 ‘볼트 타이푼’이 미국의 주요 인프라 내부망을 공격했다는 사실이 밝혀졌다. 특히 딥페이크로 구현된 화상회의에 속아 340억원의 거금을 송금한 사례도 있었다고 이큐스트는 설명했다. 3월에는 공개 소스 ‘ZX Utils’에서 백도어가 발견됐고, 4월에는 LLM에 의해 작성된 악성 스크립트가 사용된 악성 메일 공격이 발생했으며, 5월에는 블록체인 기반의 게임 플랫폼이 해킹돼 300억원의 가상자산을 도난당하는 사건도 있었다.이큐스트가 분석한 업종별 침해사고 발생 통계에 따르면 국내에서는 금융업을 대상으로 한 침해사고가 20.6%로 가장 높은 비중을 차지했다. 반면 국외에서는 러시아, 이스라엘 등 국제 분쟁으로 인해 정부와 공공기관을 대상으로 한 공격이 26.7%로 가장 높은 순위를 차지했다. 유형별 사고 발생 통계로는 취약점 공격이 45%로 가장 많이 발생했다. VPN, 라우터 등 네트워크 장비를 이용한 지능형 지속 위협(APT) 공격 때문으로 조사됐다. 인간의 심리를 이용해 기밀을 탈취하는 수법인 ‘소셜 엔지니어링’ 공격도 26%로 뒤를 이었다. 특히 이큐스트는 생성형 AI가 급속도로 발전하면서 AI가 가져올 수 있는 보안 위협에 관한 연구 결과도 발표했다. 우선 프롬프트 인젝션은 악의적인 질문을 통해 AI 서비스 내 적용된 지침이나 정책을 우회해 본 목적 이외의 답변을 끌어내는 취약점이다. 악성코드 생성이나 마약 제조 피싱 공격 등에 악용될 수 있다.두 번째로 불완전한 출력 처리 취약점은 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생한다. 이는 다른 2차 공격으로 이어질 수 있다는 점에서 위험도가 높다. 예를 들어 공격자가 원격 접속 코드 실행 요청이 포함된 내용을 챗봇에 질문하고 챗봇이 원격 접속 코드를 실행하게 되면 공격자가 AI LLM 운영 서버에 접속해 중요 정보를 탈취할 수 있게 되는 방식이다. 마지막으로 이큐스트는 개인정보가 포함되거나 애플리케이션의 권한 관리가 미흡해 생길 수 있는 민감정보 노출 취약점을 분석하며 데이터베이스(DB) 정보를 탈취하는 공격을 시연했다. LLM 모델을 학습시킬 때 민감 정보 필터링이 미흡한 경우 LLM이 생성하는 답변에 학습된 민감정보가 출력될 수 있다는 점에서 학습 데이터에 가명 처리를 하거나 데이터를 검증하는 등의 추가적인 보완책이 필요하다고 이큐스트는 강조했다. 김병무 정보보안사업부장(부사장)은 “전 산업 분야에 AI 기술 접목이 확산하면서 이를 노린 보안 위협이 현실화하고 있어 이에 대한 체계적인 대비가 필요하다”고 했다.

동급생과 교사의 얼굴을 ‘딥페이크’ 기술로 음란물과 합성해 소셜미디어(SNS)에 유포해 처벌받은 학생들이 다시 등교할 예정인 것으로 알려져 피해 학생들이 고통을 호소하고 있다. 2일 전북 전주에서 중학생 딸을 둔 보호자 A(50)씨는 연합뉴스에 “처벌이 이뤄졌지만, 가해자 5명이 2학기에 복귀한다고 들었다”면서 “딸이 굉장히 불안에 떨고 있다”고 토로했다. 앞서 지난달 28일 전북경찰청은 전주의 한 중학교에 재학 중인 남학생 7명을 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 검찰 및 소년부 송치했다. 이들은 지난 3월 딥페이크 기술을 이용해 같은 학교 여학생 12명과 여교사 2명의 사진을 다른 여성의 나체 사진과 합성해 SNS 등에서 유포한 혐의를 받는다. 학교는 학교폭력대책심의위원회를 열고 가해 학생 7명 중 2명에 대해 강제 전학 조치를, 나머지 학생들에 대해서는 출석정지·봉사활동 조치를 내렸다. 그러나 강제 전학 조치를 받은 남학생 중 1명은 처분에 불복해 법적 대응에 나섰고, 가해자 5명은 2학기에 등교하는 것으로 알려졌다. A씨에 따르면 해당 학교는 규모가 그리 크지 않은 학교여서 소문이 빠르게 퍼졌고, 피해자들은 충격과 불안에 시달려야 했다. A씨는 “딸이 가해자들과 다시 한 공간에서 생활한다는 사실을 듣고서 소름이 끼친다고 한다”면서 “딥페이크 범죄는 피해자의 존엄성을 해치고 사회적·정신적으로 죽이는 것이나 마찬가지”라고 목소리를 높였다. 이어 “우리가 원하는 것은 피해자들과 가해자들의 철저한 분리”라며 “피해자 부모들과 연대해 대응해 나갈 것”이라고 밝혔다.

최근 청소년들 사이에 성행하고 있는 불법 음란합성물 제작·유포 범죄에 대해 경찰이 강력 처벌을 예고했다. 전북특별자치도경찰청은 지난 26일 전북교육청, 전주성폭력상담소, 전북도 청소년상담센터 등 유관기관과 함께 불법 음란합성물 제작·유포 범죄 예방을 위한 간담회를 개최했다고 28일 밝혔다. 참석자들은 AI 등 딥페이크 기술의 발전에 따라 불법 음란합성물의 제작·유포행위가 초·중·고등학교 10대 학생들을 대상으로까지 확대됨에 따라 이에 대한 예방 대책과 홍보·교육 방안을 논의했다. AI 딥페이크 프로그램을 이용한 범죄는 지난 2020년 성폭력범죄의처벌등에관한특례법에 불법 음란합성물에 대한 처벌 규정이 신설되면서 처벌이 가능해졌다. 그러나 청소년들 사이에서 딥페이크 기술이 유행처럼 번지고 있다. 올해 초 전북 전주시 한 중학교에선 남학생들이 같은 학교 동급 여학생과 교사 등 12명의 얼굴 사진을 다른 여성 나체 사진에 합성하고 유포한 혐의로 조사를 받았다. 이들은 SNS나 학급단체 사진 등에서 피해자들의 사진을 도용한 것으로 알려졌다. 해당 사진은 외부로 유포되지는 않았고, 일부 학생들은 스스로 학교 측에 범행을 자백한 것으로 전해졌다. 전북경찰청 사이버수사과에서는 이들 중 일부를 지난 26일 검찰 및 소년부로 송치했다. 경찰은 학교 내 불법 음란합성물 제작·유포행위에 대하여 ‘신종 학교폭력’으로 규정하고 학부모 및 교육 당국과 협조하여 예방 및 처벌을 병행하며 대응해 나갈 방침이다. 이현진 전북청 사이버범죄수사대장은 “불법 음란합성물 제작·유포와 관련하여 여러 건 수사 중에 있다”며 “불법 음란합성물의 제작·유포행위는 피해자들에게 돌이킬 수 없는 피해를 주는 중범죄’라면서 ‘모든 피의자를 끝까지 추적해 엄중 처벌하겠다”고 말했다.

북한이 24~25일 이틀 연속으로 대남 오물 풍선을 살포한 가운데 누리꾼들 사이에서 북한의 오물 풍선이 한 영상 때문이라는 우스갯소리가 돌고 있다. 합동참모본부는 25일 밤 공지를 통해 “북한이 대남 오물 풍선(추정)을 또다시 부양하고 있다”며 “현재 풍향은 북서풍으로, 경기 북부 지역에서 남동 방향으로 이동 중”이라고 밝혔다. 그러면서 “국민들께서는 적재물 낙하에 주의하시고, 떨어진 풍선을 발견하시면 접촉하지 마시고 가까운 군부대나 경찰에 신고해주시기를 바란다”고 덧붙였다. 서울시도 오후 10시 5분쯤 발송한 안전 안내 문자를 통해 “북한의 오물 풍선이 서울 상공으로 진입했다”고 알렸다. 북한은 전날 밤에도 오물 풍선은 350여개를 살포해 경기 북부와 서울 등 남측 지역에 100여개가 낙하한 바 있다. 북한이 이날 살포한 대남 오물 풍선은 올해 들어 여섯 번째다. 이해하기 어려운 행태의 공격에 누리꾼들 역시 황당해하는 가운데 김여정 북한 노동당 부부장의 영상도 관심을 끌고 있다. 북한 관련 패러디물을 올리는 유튜브 채널 화성인 릴도지에 5월 초에 올라온 ‘마라탕후루 챌린지’ 영상인데 유튜브 조회수가 66만에 달한다. 댓글 역시 2000개가 넘어가며 반응이 뜨겁다.지난 4월 곡이 나온 이후 젊은 세대를 중심으로 챌린지 열풍이 불었는데 화성인 릴도지가 딥페이크(인공지능 기술을 이용해 진위를 구별하기 어려운 가짜 이미지나 영상물)를 활용해 김 부부장이 노래에 맞춰 춤을 추는 영상을 올렸다. 누리꾼들은 “동무 춤선이 살아있습네다”, “AI가 아니고 실제 김여정을 섭외했다”, “김여정도 몰래 보면서 끅끅댈만한 퀄리티” 등의 반응을 보였다. 화성인 릴도지의 안부를 걱정하는 누리꾼들도 있었다. 김 부부장은 지난 21일 발표한 담화에서 탈북민단체의 대북전단 살포를 비난하며 “분명 하지 말라고 한 일을 또 벌였으니 (우리도) 하지 않아도 될 일거리가 생기는 것은 당연하다”라고 주장했다. 다만 탈북민단체 역시 계속해서 맞대응하고 있어 오물 풍선 공격은 계속 이어질 가능성이 크다. 풍선의 내용물은 대다수 종이류의 쓰레기로 현재까지 분석 결과 안전 위해 물질은 없다는 게 합참의 설명이다. 합참은 강력한 대응 수단인 대북 확성기 방송에 대해 “군이 방송할 준비는 항상 돼 있다. 군은 전략적, 작전적 상황을 고려해 융통성 있게 시행할 것”이라는 입장이다. 윤석열 대통령은 25일 6·25전쟁 제74주년을 맞아 찾은 대구 엑스코 행사에서 “북한은 최근 오물 풍선 살포와 같이 비열하고 비이성적인 도발까지 서슴지 않고 있다”고 비판하기도 했다.

최근 중국 소셜미디어(SNS)에서 한 여성 유튜버의 얼굴을 무단 이용해 “중국 남자랑 결혼하고 싶다” 등 중국을 찬양하는 인플루언서들이 대거 등장한 것으로 전해졌다. 24일 SBS 등에 따르면 우크라이나 출신 유튜버 올가 로이크는 중국 SNS에 자신의 얼굴을 한 여성들이 있다는 사실을 알게 됐다. 자신을 러시아 출신 중국 유학생이라 소개한 에이프릴은 SNS에서 “8년간 중국에서 거주했다”며 “중국 남자와 결혼하고 중국에 살고 싶다”고 말했다. 또 “중국을 좋아한다”, “러시아 여자들이 중국인과 결혼하는 것을 환영하냐”, “중국과 러시아의 우정이 영원히 지속되길 바란다”, “전 세계가 다 등 돌렸지만, 중국 형제자매만이 러시아를 포기하지 않았다” 등의 발언도 이어갔다. 유창한 중국어 실력을 갖춘 에이프릴은 ‘중국 예찬론’으로 유명한 인플루언서다. 러시아 식품 마케터라고 자신을 소개한 31세 여성 나타샤는 팔로워 14만명을 보유한 인플루언서다. 그는 “중국에서 러시아 음식을 판매하고 광고하는 러시아인”이라면서 러시아가 중국의 경제적 지원이 얼마나 필요한지 등을 말한다. 나타샤는 SNS에 올린 영상에서 “중국과 러시아의 우정은 영원하다”고 말한 뒤 러시아 사탕을 광고하고, 실제 구매가 가능한 주소를 첨부해 사탕을 구매하도록 유도하기도 한다.그런데 중국을 찬양하는 에이프릴과 나타샤의 얼굴은 쌍둥이처럼 닮아 있었다. 이 얼굴의 원형은 유튜버 올가 로이크다. 이들은 모두 AI 딥페이크로 만들어진 가상 인물이었다. 자신의 얼굴이 중국 SNS에서 쓰이고 있다는 사실을 안 올가 로이크는 “처음에는 조금 혼란스러웠고, 농담인 줄 알았다. 내 얼굴인데 중국말을 하고 있었고, 배경에는 (러시아) 크렘린이 있었다”고 전했다. 올가 로이크가 찾아낸 자신의 얼굴과 목소리 등을 활용한 AI 가상 인물 동영상만 5000개가 넘는다. 대부분 중국을 찬양하는 내용이고, 물건을 팔아 수익을 내는 경우도 있었다. 인공지능 응용 사업이 빠르게 발전하는 중국에서는 AI 기술이 다양한 분야에서 활용되고 있다. 24시간 온라인 쇼핑몰 운영을 위해 AI 쇼호스트가 동원되는가 하면, 먼저 세상을 떠난 가족을 AI로 되살려낸다는 이른바 ‘AI 부활’이 산업화하면서 곧 시장 규모 180조원대 달성을 눈앞에 두고 있다. 다만 올가 로이크의 사례처럼 동의 없이 이용되거나, 범죄 등 악용되는 경우가 늘자 중국 당국은 AI 개발과 규제를 위한 법안 마련에 착수했다. 한편 올가 로이크는 자신의 유튜브 영상을 통해 피해 사실을 밝히며 “주의하라”고 강조했다.

최근 영국의 한 영화관이 대중의 거센 반발에 부딪혀 ‘세계 최초’ 인공지능(AI) 각본 영화 상영을 취소하는 일이 발생하면서 생성형 AI로 만든 영화에 대한 관심이 주목되고 있다. 인력과 비용의 절약 측면에서 영상업계의 새로운 기회로 떠오른 생성형 AI가 영화산업에 위치한 현주소를 들여다봤다. ‘세계 최초’ AI 각본 장편영화 상영 취소 최근 영국 런던의 한 독립영화관이 ‘세계 최초’ 인공지능(AI) 각본 장편영화 상영 계획을 취소했다. 대중의 거센 반발에 부딪힌 까닭이다. 19일(현지시간) BBC는 영국 런던 웨스트엔드에 있는 독립영화관 ‘프린스 찰스 시네마’가 챗GPT로 제작한 장편영화 ‘마지막 시나리오 작가’(The Last Screenwriter)의 월드 프리미어 상영을 취소했다고 전했다. 프린스 찰스 시네마는 “상영 광고가 나간 뒤 200건의 불만사항이 접수됐다”면서 “작가 대신 AI를 사용한 것에 대한 대중의 우려를 받아들인 결정”이라고 밝혔다.‘마지막 시나리오 작가’는 처음부터 끝까지 오직 챗GPT가 쓴 대본을 바탕으로 제작된 영화다. 영화는 유명 시나리오 작가인 ‘잭’이 AI 기술을 활용한 스크립스 작성 시스템을 만나면서 겪는 혼란과 회의를 담은 이야기다. 잭은 AI가 자신만큼이나 인간의 감정에 대한 공감과 이해도 뛰어나다는 사실을 깨닫게 된다. 영화를 제작한 피터 루이시(Peter Luisi) 감독은 “사람들이 프로젝트의 의도를 충분히 이해하지 못한 것 같다”면서 “(영화 자체보단) AI와 영화산업에 대해 질문을 던지는 게 내 목표였다”고 밝혔다.소셜미디어에선 인공지능이 창작의 영역을 넘나드는 것에 대한 갑론을박이 이어지고 있다. 한 네티즌은 “사람들은 AI로 제작한 영화가 좋은 작품일까봐 두려워하는 데 그렇다고 기술의 발전을 피할 수는 없는 일”이라며 AI 각본 영화가 대중의 반발로 상영이 취소된 것에 안타까움을 전했다. 반면 또 다른 네티즌은 “AI는 창의적인 예술가들을 직장에서 쫓아낼 것”이라며 “더 강경하게 대응해야 한다”고 주장했다. ‘AI 영화제’가 열리는 시대 지난 2월 두바이에서는 제1회 AI국제영화제(AIFF)가 열렸다. AI국제영화제는 인간의 창의성과 AI의 공생을 강조하는 ‘AI+U’를 주제로, 영화제작과 AI의 예술적·기술적 성과의 융합을 기념하는 취지로 개최됐다. 초청받은 경쟁 10편 중 대상을 차지한 작품은 국내 최초이자 유일한 동아시아 작품인 권한슬 감독의 단편 영화 ‘원 모어 펌킨’(One More Pumpkin)이다. ‘원 모어 펌킨’은 대상과 관객상을 동시 수상하며 국내외 영화계의 주목을 받았다. ‘원 모어 펌킨’은 200살 넘게 장수하는 노부부의 비밀스러운 이야기를 담은 3분짜리 스릴러 영화다. 모든 프레임과 사운드는 생성형 AI로만 제작됐으며, 영화제작에는 단 5일이 걸렸다고 알려졌다.최근 국내 영화제는 ‘AI 영화 모시기’ 바람이 불고 있다. 경상북도는 지난 15~16일 국내 최초 AI영화제인 ‘국제 AI·메타버스 영화제’(GAMFF)를 개최했다. 접수된 42개국 527편 가운데 심사를 거쳐 10개국 22편의 작품이 공개됐으며, 영광의 대상은 러시아 세르게이 코친체프 감독의 ‘Lullaby’(영상부문), 김소희 감독의 ‘My Dear’(영화부문)가 차지했다. 다음달 5일 개막하는 부천국제판타스틱영화제(BiFan)는 ‘부천 초이스 : AI 영화’ 섹션을 마련했다. AI로 제작한 15편의 작품이 경쟁하며 이중 한국 작품은 지난 2월 AI국제영화제(AIFF)에서 대상을 수상한 권한슬 감독의 ‘원 모어 펌킨’을 포함해 총 4편이다. 영화의전당도 오는 12월 6일부터 8일까지 부산 해운대구 영화의전당에서 ‘1회 부산국제인공지능영화제’를 개최할 예정이다. 본선 진출작 15편을 상영하고 생성형 AI가 영화산업에 미치는 영향을 논의하는 콘퍼런스도 열린다. 영화계의 뜨거운 감자: 생성형 AI 지난 4월 폴란드 제작사 AIO는 “AI 기술을 활용해 만든 영화 ‘푸틴’이 9월 개봉할 예정”이라고 밝혔다. ‘푸틴’은 블라디미르 푸틴 러시아 대통령의 전기 영화로 딥페이크 기술을 이용해 제작했다고 알려졌다. 공개된 2분 30초 분량의 예고편에는 AI 기술로 만든 가상의 푸틴 대통령이 기저귀를 차고 있거나 무술을 선보이는 장면이 등장한다. 아직 현존하는 현대 정치계 주요 인물을 딥페이크를 통해 논란의 여지가 분분한 가상의 이미지로 구현해낸다는 점에서 영화 ‘푸틴’이 가져올 파장에 우려를 표하는 의견도 나오고 있다.생성형 AI가 영화 업계의 일자리를 위협한다는 목소리도 적지 않다. 지난해 7월에는 배우 16만명이 소속된 할리우드 배우·방송인 노동조합(SAG-AFTRA)이 배우들의 이미지나 목소리가 AI 생성 이미지에 무단으로 사용될 것을 우려하면서 이를 방지할 대책 마련도 요구하며 118일간 파업을 이어가기도 했다.

딥페이크 기술을 이용해 동급 여학생들과 교사 얼굴 사진을 나체 사진에 합성한 전북 전주의 중학생들이 경찰 조사를 받고 있다. 전북경찰청 등에 따르면 경찰은 현재 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 중학교 남학생들을 조사 중이다. A 군 등은 지난 3월 같은 학교 동급 여학생과 교사 등 12명의 얼굴 사진을 다른 여성 나체 사진에 합성하고 유포한 혐의를 받고 있다. 이들은 SNS나 학급단체 사진 등에서 피해자들의 사진을 도용한 것으로 알려졌다. 해당 사진은 외부로 유포되지는 않았고, 일부 학생들은 스스로 학교 측에 범행을 자백한 것으로 전해졌다. 해당 학교는 학교폭력대책심의위원회를 열고 가해 학생 7명 중 2명은 강제 전학 조치를 했다. 나머지 학생들에 대해서는 출석정지·봉사활동 등의 조처를 내렸다. 경찰 관계자는 “수사 중이고, 민감한 사안이라 정확한 내용은 확인해 줄 수 없다”고 말했다.

중학교 학생이 학급 단체사진과 소셜미디어(SNS)에 올라온 동급생 및 교사의 사진을 도용해 ‘딥페이크’ 기술로 음란물을 만들어 유포하다 경찰에 적발됐다. 전북경찰청 사이버범죄수사대는 딥페이크 기술을 활용해 음란물을 제작한 혐의(성폭력범죄의 처벌 등에 관한 특례법 위반)로 중학생 A군 등을 조사하고 있다고 21일 밝혔다. A군 등은 지난 3월 SNS와 학급 단체사진 등에서 동급생과 교사의 사진을 무단으로 도용해, 딥페이크 기술로 다른 여성의 나체 사진에 합성해 유포한 혐의를 받고 있다. 사건이 불거진 뒤 전북자치도교육청은 학교폭력대책심의위원회을 열어 이들 7명 중 2명에게는 강제 전학을, 나머지 학생들에게는 출석정지나 봉사활동 등의 조처를 내렸다. 교사와 학생의 사진이 무단 도용돼 온라인에 유포됨은 물론, 음란물과 합성되는 피해까지 불거짐에 따라 교육계에서는 초상권 침해 문제에 대한 경각심이 높아지고 있다. 실제 교사들 사이에서는 초상권 침해를 우려해 졸업앨범에 사진을 싣지 않는 흐름이 확산되고 있다. 학부모들이 교사의 사진을 돌려보며 외모에 대해 ‘품평’하는가 하면, 학생들이 교사의 사진을 도용해 합성 사진을 만들어 유포하는 사례가 늘어난 탓이다. 2020년 서울교사노동조합이 실시한 설문조사에서는 교사 10명 중 5명이 졸업 앨범 폐지에 찬성하는 것으로 나타났다.

같은 학교에 다니는 여학생들의 얼굴 사진을 다른 나체 사진에 붙여 합성한 혐의를 받는 남학생들이 경찰 조사를 받고 있다. 21일 경북 고령경찰서에 따르면 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 관내 고교생 A군 등 2명을 상대로 조사한 뒤 경북경찰청 사이버수사대로 사건을 넘겼다. A군 등은 중학교 3학년이던 지난해 딥페이크 기술을 이용해 같은 학교 여학생 16명의 얼굴 사진을 다 른 여성 나체 사진에 붙여 합성한 뒤 SNS로 친구들과 돌려 본 혐의를 받는다. 경찰은 A군 등을 상대로 사건 경위와 함께 추가 범행 사실이 있는지 등을 조사 중이다.

인공지능(AI)을 기반으로 한 ‘딥페이크’ 기술 등을 활용해 다른 사람의 얼굴을 알몸 사진이나 음란물에 합성하는 범죄가 기승을 부리는 가운데 할리우드 배우 제이콥 엘로디(26)가 딥페이크 범죄의 피해자가 됐다. 19일(현지시간) 미 NBC 방송에 따르면 엘로디의 이미지가 합성된 딥페이크 동영상이 지난 17일부터 엑스(X, 옛 트위터)에서 공유되고 있다. 이 동영상의 조회수는 300만회가 넘었다. 해당 동영상은 브라질에서 영상 크리에이터로 활동 중인 19살 소년이 2년 전 자신의 모습을 촬영한 것으로 확인됐다. 이 소년은 자신의 동영상이 딥페이크로 활용된 것에 대해 “이것은 말 그대로 내 영상이다”, “딥페이크가 점점 더 소름 끼친다”고 소셜미디어(SNS)에 썼다. NBC에 따르면 이 딥페이크 동영상은 노골적으로 성적인 장면을 담고 있다. 영상 속에 드러난 몸은 엘로디의 모습과 분명히 다른 것으로 전해졌다. 그동안 성적인 딥페이크 동영상에는 주로 여성 연예인들이 표적이 됐다. 지난 1월에는 팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐는데, 관련 음란물이 삭제되기 전까지 4700만회나 조회됐다. 정치권도 딥페이크 범죄 표적이다. 이탈리아의 첫 여성 총리 조르자 멜로니(47)는 포르자이탈리아 당대표 시절 딥페이크 피해를 당했다. 당시 미국의 한 성인물 사이트에는 그의 딥페이크 영상이 올라왔고 몇 달 동안 수백만 건의 조회 수를 기록했다. 유명인 얼굴을 활용한 딥페이크 광고 사기 범죄도 기승을 부리고 있다. 할리우드 배우 톰 행크스(67)는 지난해 말 자신의 모습을 담은 인공지능(AI) 광고 사기로 홍역을 앓았다. 한 보험사가 자신의 모습을 흉내 낸 AI 영상으로 치과 보험 홍보 영상을 만들어 고객 유치에 활용한 것이다. 사태가 커지자 톰 행크스는 자신의 SNS에 보험 광고와 자신은 아무 관련이 없다는 내용의 게시물을 올리며 피해 예방을 당부했다.

프랑스 파리에서 다음달 열리는 올림픽을 앞두고 러시아가 할리우드 유명 배우의 모습을 조작한 딥페이크 영상으로 혼란을 시도한 사실이 알려졌다. 미국 마이크로소프트(MS)사는 3일(현지시간) 러시아 조직이 프랑스와 파리올림픽을 겨냥해 온라인으로 허위 정보 유포를 강화하고 있다고 밝혔다. MS는 이날 블로그를 통해 “‘스톰-1679’와 ‘스톰-1099’라는 두 러시아 조직이 국제올림픽위원회(IOC)를 폄하하고, 이번 올림픽이 폭력으로 얼룩질 것이라는 인상을 심어주기 위해 가짜 다큐멘터리 영상을 제작해 유포했다”고 전했다. 이어 “이들 조직은 이스라엘과 하마스 간 전쟁 속에서 무장 조직을 사칭해 올림픽에 대한 위협을 조작하려고 했다”며 “이는 가장 우려스러운 허위 정보”라고 MS는 강조했다. 러시아 조직은 15개의 가짜 뉴스 사이트를 만들고 톰 크루즈가 출연한 것처럼 딥페이크 영상으로 제작한 장편 다큐멘터리 영화까지 만들어 허위 정보를 유포했다. 여기에는 파리 올림픽에 참가하는 이스라엘 선수들을 위협하는 디지털 생성 그라피티(낙서) 이미지도 발견됐다. 특히 이 가운데 일부는 1972년 뮌헨 올림픽에서 팔레스타인 무장 세력이 이스라엘 선수 11명을 살해한 사건을 언급하고 있다고 MS는 지적했다. 러시아의 ‘스톰-1679’은 지난해 6월 IOC의 리더십을 깎아내리기 위해 ‘올림픽은 무너졌다’라는 다큐멘터리 영화를 제작했으며, 미국 배우 크루즈의 가짜 음성 등이 사용됐다. 이 영화는 넷플릭스가 제작한 것처럼 위조됐으며 심지어 뉴욕타임스와 BBC가 별 5개짜리 평점을 줬다며 홍보하고 있다. 파리 시민들이 테러 공격을 예상하여 재산 보험에 가입하고 있으며 테러 공포로 인해 티켓의 4분의 1이 반환됐다는 가짜 방송 뉴스도 유포했다. MS는 “이런 활동은 지난해 말 러시아 선수들이 중립국 자격으로 올림픽에 참가할 수 있도록 한 IOC의 결정 이후 늘어났다”며 “올림픽이 가까워지면서 이런 활동이 더 증가할 수 있다”고 경고했다. 러시아는 옛 소련 시절인 1984년 로스앤젤레스 올림픽을 보이콧한 바 있으며, 2024년 올림픽 출전이 금지됐지만 소수의 선수들이 중립국 자격으로 출전할 수 있다.

이른바 ‘서울대 N번방’ 사건의 주범 박모(40)씨가 첫 재판에서 혐의 일부를 인정했다. 법정에 들어서는 순간부터 몸을 덜덜 떨며 눈물을 흘린 박씨는 재판 내내 괴로워하는 모습을 보였다. 4일 법조계에 따르면 이날 서울중앙지법 형사합의31부(부장 박준석) 심리로 열린 아동·청소년의 성보호에 관한 법률 위반(허위 영상물 편집·반포 등) 등 혐의로 구속기소된 박씨에 대한 첫 공판에서 박씨 변호인은 “딥페이크로 허위 합성물을 게시 및 전송한 혐의의 사실관계는 인정한다”면서도 미성년자 성착취물 소지 혐의는 부인한다고 밝혔다. 변호인은 또 반포·배포 행위를 소지죄로 인정하는 것은 부당하다고 항변했다. 피해자들과 박씨의 관계에 대해서는 “일부는 알고 일부는 모르는 관계”라고 말했다. 이에 피해자 변호인은 “다수가 고통을 호소하는데, 피해자별로 어떻게 아는 사이인지 정리해서 제출하겠다”고 밝혔다. 수의를 입은 박씨는 법정에 입장할 때부터 몸을 떨고 코가 빨개진 채 눈물을 흘렸다. 박씨는 재판 내내 피고인석에 앉아 울먹였다. 검사가 공소사실 요지를 낭독하자 손으로 얼굴을 감싸쥐기도 했다. 재판부가 ‘변호인이 밝힌 입장과 일치하느냐’고 묻자 박씨는 덜덜 떨며 “네”라고 짧게 답했다. ‘서울대 N번방’ 사건은 서울대 졸업생인 박씨와 강모(31)씨 등이 서울대 동문 12명 등 61명의 사진을 ‘딥페이크’ 기술로 음란물과 합성한 불법 동영상을 소지하고 텔레그램 등으로 유포한 사건이다. 박씨는 텔레그램 단체 채팅방 20여개를 만들어 합성물을 유포한 혐의를 받는다. 경찰 조사 결과 제작·유포된 음란물은 각각 100여건·1700여건에 달했다. 피해자 중에는 미성년자도 포함된 것으로 드러나 아동 성 착취물을 게시하고 소지한 혐의도 적용됐다. 앞서 서울경찰청 사이버수사대는 박씨를 포함한 일당 5명을 검거하고 그중 박씨 등 2명을 구속 상태로 검찰에 넘겼다.

정점식 與 정책위의장 “경악 금할 수 없어”“AI ‘지인 능욕’ 등 누구나 피해자 위험”“범죄 수법 진화에 수사력 한계도 드러나”“정부와 실효적 대책 심도 있게 논의할 것” 국민의힘은 23일 최근 ‘여성판 N번방’과 ‘서울대 N번방’ 사건에 “범죄자는 무관용 원칙으로 죗값을 치르게 하고 피해자가 큰 고통과 공포에서 벗어나게 세심한 배려와 지원을 할 것”이라고 했다. 나경원 국민의힘 당선인과 허은아 개혁신당 대표 등이 앞서 문제를 거론했으나, 여권 핵심 지도부가 이를 주시하고 공개 거론한 것은 처음이다. 정점식 정책위의장은 이날 여의도 중앙당사에서 열린 비상대책위원회 회의에서 “이른바 ‘여성판 N번방’에 이어 ‘서울대 N번방’ 사건이 터져 나왔는데 경악을 금할 수 없다”고 말했다. 여성판 N번방은 회원 수 84만 4000명을 보유한 국내 최대 여성 전용 커뮤니티에서 남성 피해자들의 불법 음란물을 생성하고 유통했다는 의혹이다. 서울대 N번방은 서울대 로스쿨 후배 등 여성 60여명의 얼굴을 합성한 음란 사진을 수년간 텔레그램으로 유포한 서울대 출신 30대 남성 두 명 등이 경찰에 검거되면서 드러났다. 정 정책위의장은 “2019년 미성년자를 협박해 성착취 범죄를 일으킨 ‘N번방’ 사건 이후 관련법이 개정됐고 처벌이 강화됐으나 디지털 성범죄가 기승을 부리고 있다”고 지적했다. 이어 “딥페이크를 접목해 더 교묘해지는 양상이라 심각하다”며 “유사 범죄 우려도 매우 크다”고 했다. 또 “SNS를 보내면 AI로 음란을 제작해주는 범죄가 ‘지인 능욕’이라는 이름으로 활개를 치고 있다”며 “누구나 디지털 성범죄 피해자가 될 수 있는 세상이 되어버린 것”이라고 했다. 그러면서 “현행 제도가 현실을 따라가지 못하고 있다”며 “이에 제도적 사각지대가 점점 커지는 현실이다. 공권력의 감시와 추적을 감추려는 범죄 수법도 진화하고 있어 수사력의 한계도 드러나고 있다”고 지적했다. 정 정책위의장은 “디지털 성범죄 확산을 막기 위한 노력이 시급하다”며 “범죄 양상이 빠르게 진화하고 있는 만큼 그에 맞춘 수사 역량을 키워나갈 필요가 있고 제도적 미비점도 신속히 보완해야 한다”고 강조했다. 또 “우리 당은 정부와 실효성 있고 근본적인 대책을 마련하기 위해 깊이 있게 논의해나가겠다”며 “국정을 책임지는 우리 국민의힘은 정쟁 아닌 민생을 끝까지 챙기겠다”고 덧붙였다.

AI 딥페이크로 얼굴·알몸 등 합성 영상 유포자 62.8%는 친구·지인신고 늘어도 검거 절반 정도 그쳐“찾기 어려워… 국제 공조 수사해야” 직장인 이모(26)씨는 몇년 전부터 소셜미디어(SNS)에 ‘셀카’를 포함해 얼굴이 선명하게 나온 사진을 올리지 않는다. 프로필 사진도 뒷모습이나 캐릭터로 설정한다. “누군가 내 사진을 이상한 데 쓸 수 있겠다고 생각했다”던 이씨는 ‘서울대판 n번방’과 같은 디지털 성범죄 소식에 아예 SNS 탈퇴도 고민 중이다. 인공지능(AI)을 기반으로 활용한 ‘딥페이크’ 기술 등을 활용해 다른 사람의 얼굴을 알몸 사진이나 음란물에 합성하는 허위 영상물 제작·유포 범죄가 기승을 부리면서 시민 불안도 커지고 있다. 텔레그램 비공개 대화방 등 은밀한 방법으로 이뤄지는 경우가 많아 범인을 잡기가 쉽지 않은 데다 자기 얼굴 사진이 허위 영상물에 사용되는 걸 모르는 경우도 적지 않다. SNS를 포함해 온라인 공간에 얼굴 사진을 게재하는 것에 대해 많은 여성들이 우려하는 이유다. 22일 경찰청에 따르면 허위 영상물 제작·유포(성폭력처벌법 위반)로 경찰에 신고된 경우는 2021년 156건, 2022년 160건, 지난해 180건으로 해마다 늘고 있다. 하지만 검거까지 이어진 경우는 2021년 74건, 2022년 75건, 지난해 93건으로 절반 정도에 그친다. 과거 음란 사이트인 ‘소라넷’에서 ‘지인 능욕’이라고 불리던 허위 영상물 제작·유포 범죄는 지금은 딥페이크 영상까지 활용할 정도로 정교해진 동시에 일상 속까지 파고든 상태다. 지난달엔 충북의 중학생 9명이 같은 학교 여교사와 여학생들의 얼굴을 다른 사람의 나체 사진과 합성한 허위 영상물 30여개를 SNS 단체 채팅방에서 퍼뜨린 혐의로 검찰에 송치됐다. 피해자들이 더 큰 충격을 받는 이유 중 하나는 허위 영상물 가해자 가운데 지인이 많아서다. 2022년 여성가족부의 성폭력안전실태조사를 보면 여성 대상 허위 영상물 유포 가해자 유형(복수응답) 중 친구가 전체의 36.0%였고 직장 상사·동료·거래처 사람(26.8%)이 다음으로 많았다. 다만 행위자가 누구인지 파악하지 못했거나(25.0%) 전혀 모르는 사람(15.8%)이 가해자인 경우도 적지 않았다. 허위 영상물 범죄 피해자인 임모(24)씨는 “범인이 누군지 몰라 만나는 사람마다 경계했고, 조금만 이상한 행동을 보여도 의심해야만 했다”고 전했다. ‘n번방’ 사건 피해자의 변호인이었던 양태정 변호사는 “불법 촬영물은 피의자 처벌과 별개로 광범위하게 유통되며 피해자들을 괴롭힌다”면서 “피해자들이 휴대전화 번호를 바꾸고 아는 사람이 아무도 없는 곳으로 이사하거나 이민을 떠나기도 한다. 일상이 파괴되는 범죄”라고 설명했다. 정명화 변호사는 “텔레그램에서 벌어진 허위 영상물 범죄는 단서도 찾지 못하는 경우가 많다”며 “국제 공조를 통해 수사할 수 있는 방안이 마련돼야 가해자들을 제대로 추적할 수 있다”고 말했다.

지인 얼굴 사진에 알몸 등 합성영상 유포자 62.8%는 친구·지인 신고 늘어도 검거는 절반에 그쳐“찾기 어려워...국제 공조 수사해야” 직장인 이모(26)씨는 몇년 전부터 소셜미디어(SNS)에 ‘셀카’를 포함해 얼굴이 선명하게 나온 사진을 올리지 않는다. 프로필 사진도 뒷모습이나 캐릭터로 설정한다. “누군가 내 사진을 이상한 데 쓸 수 있겠다고 생각했다”던 이씨는 ‘서울대판 n번방’과 같은 디지털 성범죄 소식에 아예 SNS 탈퇴도 고민 중이다. 인공지능(AI)을 기반으로 활용한 ‘딥페이크’ 기술 등을 활용해 다른 사람의 얼굴을 알몸 사진이나 음란물에 합성하는 허위 영상물 제작·유포 범죄가 기승을 부리면서 시민 불안도 커지고 있다. 텔레그램 비공개 대화방 등 은밀한 방법으로 이뤄지는 경우가 많아 범인을 잡기가 쉽지 않은 데다 자기 얼굴 사진이 허위 영상물에 사용되는 걸 모르는 경우도 적지 않다. SNS를 포함해 온라인 공간에 얼굴 사진을 게재하는 것에 대해 많은 여성들이 우려하는 이유다. 22일 경찰청에 따르면 허위 영상물 제작·유포(성폭력처벌법 위반)로 경찰에 신고된 경우는 2021년 156건, 2022년 160건, 지난해 180건으로 해마다 늘고 있다. 하지만 검거까지 이어진 경우는 2021년 74건, 2022년 75건, 지난해 93건으로 절반 정도에 그친다. 과거 음란 사이트인 ‘소라넷’에서 ‘지인 능욕’이라고 불리던 허위 영상물 제작·유포 범죄는 지금은 딥페이크 영상까지 활용할 정도로 정교해진 동시에 일상 속까지 파고든 상태다. 지난달엔 충북의 중학생 9명이 같은 학교 여교사와 여학생들의 얼굴을 다른 사람의 나체 사진과 합성한 허위 영상물 30여개를 SNS 단체 채팅방에서 퍼뜨린 혐의로 검찰에 송치됐다. 피해자들이 더 큰 충격을 받는 이유 중 하나는 허위 영상물 가해자 가운데 지인이 많아서다. 2022년 여성가족부의 성폭력안전실태조사를 보면 여성 대상 허위 영상물 유포 가해자 유형(복수응답) 중 친구가 전체의 36.0%였고 직장 상사·동료·거래처 사람(26.8%)이 다음으로 많았다. 다만 행위자가 누구인지 파악하지 못했거나(25.0%) 전혀 모르는 사람(15.8%)이 가해자인 경우도 적지 않았다. 허위 영상물 범죄 피해자인 임모(24)씨는 “범인이 누군지 몰라 만나는 사람마다 경계했고, 조금만 이상한 행동을 보여도 의심해야만 했다”고 전했다. ‘n번방’ 사건 피해자의 변호인이었던 양태정 변호사는 “불법 촬영물은 피의자 처벌과 별개로 광범위하게 유통되며 피해자들을 괴롭힌다”면서 “피해자들이 휴대전화 번호를 바꾸고 아는 사람이 아무도 없는 곳으로 이사하거나 이민을 떠나기도 한다. 일상이 파괴되는 범죄”라고 설명했다. 정명화 변호사는 “텔레그램에서 벌어진 허위 영상물 범죄는 단서도 찾지 못하는 경우가 많다”며 “국제 공조를 통해 수사할 수 있는 방안이 마련돼야 가해자들을 제대로 추적할 수 있다”고 말했다.

‘인공지능(AI) 시대’가 본격화하면서 딥페이크 기술을 활용한 가짜 뉴스 확산 우려가 커지는 가운데 정부가 AI 저작물에 워터마크(불법복제 방지를 위한 이미지) 표시를 의무화하기로 했다. 연결되지 않을 권리·잊힐 권리 등 개인의 디지털 권리도 강화한다. 과학기술정보통신부는 21일 국무회의에서 이런 내용을 담은 ‘새로운 디지털 질서 정립 추진계획’을 보고했다. 앞서 지난해 9월 윤석열 대통령의 ‘뉴욕 구상’ 이후 정부는 이를 뒷받침하기 위해 ‘디지털 권리장전’을 수립했다. 이번 추진계획은 AI가 촉발한 문명사적 대전환에 대응하는 디지털 구상을 정책으로 구현하는 차원에서 20대 정책과제로 구체화했다. 국민 관심사나 파급력이 큰 8가지는 핵심과제로 선정했다. 가장 눈에 띄는 추진과제는 딥페이크를 활용한 가짜 뉴스 대응이다. 정부는 AI 저작물에 워터마크 표시를 의무화하는 등 가짜 뉴스 생성·유통·확산 전주기 대응 체계를 구축하기로 했다. 워터마크란 본래 문서·사진 등에 저작자 등을 밝히기 위해 흐릿하게 삽입된 이미지로 AI 워터마크는 해당 저작물이 AI 기술로 만들어졌다는 사실을 이용자가 알 수 있도록 여러가지 방식으로 표시된다. 이를 의무화하려면 법 제정이 이뤄져야 하는데 ‘인공지능산업 육성 및 신뢰 확보법’(AI 기본법)은 이달 말 21대 국회 회기 종료와 함께 폐기될 가능성이 높다. 정부는 22대 국회에서 AI 기본법 논의를 진전시켜 연내에 AI 워터마크 표시 의무화 등을 달성한다는 계획이다. 피싱·디지털 성범죄 등 민생 사이버 범죄를 줄이고자 ‘사기방지법’ 제정 및 ‘성폭력방지법’ 개정도 추진한다. 데이터·AI 보안, 네트워크 보안, 디지털 취약점 대응, 신산업 융합보안 등 4대 핵심 보안기술 개발을 위한 투자를 지난해보다 22.5% 늘려 올해 1141억원을 투입한다.

“챗GPT의 음성을 들었을 때 가장 친한 친구가 진짜 내 목소리와 구분할 수 없을 정도로 비슷해 소름이 끼쳤다. 충격받았고 분노했다.” 미국 영화배우 스칼릿 조핸슨(40)이 오픈AI의 챗GPT가 제공하는 음성이 자신의 목소리와 비슷하다는 논란에 대해 이렇게 말했다. 챗GPT 시리즈에서 제공하는 다섯 가지 목소리 중 스카이(sky)가 조핸슨의 목소리와 같다는 의견이 나왔는데 자연스러운 대화가 가능한 인공지능(AI) 모델 GPT-4o가 공개되면서 논란으로 번졌다. GPT-4o의 기술이 AI와 사랑에 빠진 인간의 감정을 다룬 영화 ‘그녀’(her)를 연상시키면서 많은 사람이 영화 속에서 AI 사만다를 연기한 조핸슨의 목소리를 이용한 것으로 봤다. 조핸슨은 20일(현지시간) 미국 CNBC와의 인터뷰에서 지난해 9월 샘 올트먼 오픈AI 최고경영자(CEO)가 “당신의 목소리가 사람들에게 위로가 될 것”이라고 제안했고, GPT-4o 출시 이틀 전인 지난 13일에도 목소리 사용 요청을 받았지만 거부했다고 강조했다. 지난해 AI가 단역배우를 대체하는 것을 막기 위해 5개월간 진행된 미국배우조합의 파업에 참여한 것이 거절의 배경이었다. 조핸슨은 이어 “우리는 딥페이크(딥러닝을 이용한 합성 기술) 문제와 자신의 초상, 작업, 정체성을 보호하기 위해 고군분투하고 있다”며 오픈AI에 GPT-4o의 목소리 기능 제작 과정을 설명해 달라고 요청했다고 밝혔다. 오픈AI 측은 조핸슨의 음성을 모방한 것이 아니라 성우와 영화배우들에게서 400여개 녹음을 받아 음성을 제공한다고 설명했다. 현재는 챗GPT의 스카이 음성 서비스를 중단한 상태다.

윤석열 대통령은 21일 ‘인공지능(AI) 서울정상회의’에서 “대한민국도 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참하겠다”고 밝혔다. 정상 세션에서는 안전하고 혁신적이며 포용적인 AI를 위한 ‘서울선언’이 채택됐다. 윤 대통령은 이날 리시 수낵 영국 총리와 공동 주재한 AI 서울정상회의 개회사에서 “영국, 미국을 비롯한 주요국들의 AI 안전연구소 설립 노력을 환영한다”며 이렇게 밝혔다. 또 “이러한 AI 혁신은 글로벌 경제에 새로운 성장동력을 부여하고, 환경오염 등 전 지구적인 난제를 풀어 가는 데 큰 도움을 줄 것”이라고 말했다. 윤 대통령은 “지난해 11월 영국 블레츨리 파크에서 개최된 ‘AI 안전성 정상회의’에서 AI 안전을 논의했으며 혁신과 포용까지 논의의 지평을 넓히는 AI 서울정상회의를 개최하게 돼 매우 기쁘게 생각한다”고 밝혔다. 이어 “AI의 영향력이 커지는 만큼 딥페이크를 통한 가짜뉴스와 디지털 격차 등 AI 부작용에 대한 우려도 커지고 있다”고 덧붙였다. 윤 대통령은 “AI 서울정상회의는 그간의 노력을 결집해 글로벌 차원의 AI 규범과 거버넌스를 진전시키는 계기가 될 것”이라며 “AI가 미칠 수 있는 악영향을 최소화하고 민주주의가 훼손되지 않도록 AI 안전성을 확보해야 한다”고 말했다. 이어 “거주 지역과 소득수준에 관계없이 누구나 AI의 혜택을 누릴 수 있도록 AI의 포용성을 확보하는 것도 중요하다”고 했다. 정상 세션에는 G7(미국·영국·프랑스·독일·이탈리아·캐나다·일본)과 싱가포르 정상이 참석했다. 유엔, 유럽연합(EU), 경제협력개발기구(OECD)와 삼성전자, 네이버, 슈밋재단, 구글 딥마인드, 앤트로픽, xAI, 미스트랄AI, 오픈AI, 마이크로소프트, 아마존 웹 서비스, 메타 등 글로벌 빅테크 수장들도 참석했다. 정상들은 안전하고 혁신적이며 포용적인 AI를 위한 서울선언을 채택했다. 정상들은 “AI의 전례 없는 발전과 우리 경제사회에 미치는 영향을 마주해 AI 분야에서 국제 협력과 대화를 촉진하고자 하는 공동의 헌신을 확인했다”고 밝혔다. 지난해 영국에서 개최된 1차 회의가 AI의 위험성에 따른 안전성에 초점을 맞췄다면 이번 서울 2차 회의에서는 안전성에 더해 혁신과 포용성으로 의제를 확대했다. 또 “AI 안전연구소, 연구 프로그램을 포함한 유관기관을 설립하기 위해 진행하거나 계속 진행 중인 노력을 지지하고 단체 간 네트워크를 육성함으로써 안전 연구에 관한 협력을 증진하고자 노력한다”고 밝혔다. 이어 “세 번째 모임으로 프랑스가 개최하는 AI 행동 정상회의를 기대한다”고 덧붙였다. 22일에는 서울 한국과학기술연구원(KIST)에서 19개국 이상의 정부와 기업 인사가 참여하는 장관 세션이 열린다. 이종호 과학기술정보통신부 장관은 미셸 더넬런 영국 과학혁신기술부 장관과 공동으로 장관급 회의를 주재한다. 정상 세션에 불참한 중국도 참석한다.

미국의 유명 배우 톰 행크스(67)가 지난해 말에 자신의 모습을 담은 인공지능(AI) 광고 사기로 홍역을 앓았다. 한 보험사가 자신의 모습을 흉내 낸 AI 영상으로 치과 보험 홍보 영상을 만들어 고객 유치에 활용한 것이다. 문제가 커지자 톰 행크스는 자신의 소셜미디어에 보험 광고와 자신은 아무 관련이 없다는 내용의 게시물을 올리는 등 피해 저지에 안간힘을 썼다. 콘텐츠 제작이 가능한 생성형 AI 서비스가 등장하며 빚어진 촌극이다. AI 딥페이크(이미지 합성기술)가 고도로 발전하면서 전 세계의 관련 산업 전반에 큰 영향을 끼치고 있다. 한국문화관광연구원이 최근 펴낸 ‘콘텐츠 제작 생성형 AI 서비스 등장’은 이런 문제들을 국내 사례를 통해 짚어 본 연구 논문이다. AI 콘텐츠 산업 전반의 동향을 파악하고 향후 발생하게 될 변화 양상과 주요 이슈들을 분석했다.보고서의 동향 분석 결과에 따르면, 텍스트로 동영상을 생성하는 ‘Text-to-Video’ 서비스에서부터 사운드, 배경 음악, 더빙, 번역 등에 이르기까지 다양한 영상 제작 관련 생성형 AI 서비스들이 등장하고 있는 것으로 나타났다. 예컨대 ‘Text-to-Video’ 영역에는 ‘Runway’, ‘Stable Video Diffusion’ 등의 서비스들이 출시됐고, 구글의 ‘Lumiere’, 오픈AI의 ‘Sora’와 같이 이미 많은 데이터를 확보한 빅테크 기업들의 출시가 본격화되고 있다. 보고서는 생성형 AI 활용 확대가 콘텐츠 산업에 많은 영향을 미칠 것으로 예상했다. 무엇보다 지식재산권(IP)의 확장 가능성이 커져 원천 IP의 중요성이 더 커질 것으로 내다봤다. 또 언어와 문화적 장벽 완화로 글로벌 원 마켓이 가속화될 것으로 전망했다. 일자리 부문에선 그래픽 디자인, 배경·세트 디자인 등 분야 인력들이 AI로 인해 대체 또는 감소하겠지만, 변화하는 구조에 맞춰 신규 업무들도 발생할 것으로 예상했다. 보고서는 급변하는 산업 환경에서 선제적으로 대응해야 할 이슈들도 제시했다. 영상 콘텐츠에 생성형 AI 활용이 활성화될 때 사회적으로 가장 크게 문제가 될 수 있는 주제 중 하나로 가짜 뉴스와 딥페이크를 뽑았다. 보고서는 “생성형 AI의 학습을 위한 데이터 저작권 문제, 생성형 AI를 통한 창작물의 저작권 인정 여부 등도 향후 이해관계자들에게 첨예한 다툼을 예고하고 있다”며 “할루시네이션(환각현상), 데이터 오염, 탄소배출이나 환경오염 등의 문제도 정부 차원에서 선제적으로 대응해야 할 이슈”라고 강조했다.