“점점 더 멀어져간다. 머물러 있는 청춘인 줄 알았는데.” 10일 문화체육관광부를 대상으로 열린 국회 문화체육관광위원회 국정감사장에 유인촌 문체부 장관이 부르는 가수 김광석의 ‘서른즈음에’가 울려 퍼졌다. 정확히는 김광석의 영상에 유 장관의 얼굴을 합성하고 유 장관의 음성을 학습시켜 만든 ‘딥페이크’ 영상이다. 문화체육관광위원장인 이상헌 더불어민주당 의원이 최근 인공지능(AI) 기술 접목으로 더욱 정교해진 딥페이크 관련 범죄 피해가 늘고 있다는 점을 지적하기 위해 시연한 것이다. 이 위원장은 이날 유 장관에게 “가수 김광석을 아느냐. 즐겨듣는 김광석 노래가 있느냐”고 질문했다. 유 장관이 “예전에는 많이 들었다”고 하자, 이 위원장은 “그러면 위원장이 장관의 목소리로 김광석 노래를 흉내 내겠다”고 했다. 이에 회의장 스크린에는 유 장관이 기타를 들고 ‘서른즈음에’를 부르는 영상이 상영됐고, 유 장관은 웃음을 터뜨렸다. 기타를 들고 노래하는 김광석에 유 장관의 얼굴을 덧씌운 형태였으며, 음성도 유 장관의 목소리와 제법 비슷했기 때문이다. 이 위원장은 “AI에 유 장관 목소리를 학습시켜서 만들어 보았다. 그럴듯하지 않으냐”며 “생성형 AI가 고도화돼 가짜뉴스와 보이스피싱 등 범죄로 이어질 가능성이 있다”고 우려를 표했다. 그러면서 자신이 지난 5월 AI를 사용해 제작한 콘텐츠에 관련 표기를 의무화하는 콘텐츠산업진흥법 개정안을 발의했다면서 “법안을 긍정적으로 검토해달라”고 당부했다. 이에 유 장관은 “그렇게 하겠다”고 화답했다. 유 장관은 이어 “예전에도 뭘 바꾸고 개혁하자는 이야기가 나오면 정치적으로 해석해 항상 정말 힘들었다”며 “AI 문제도 해결해야 할 미래 과제라 많이 협조해주시면 개정이 잘될 것”이라고 덧붙였다.

‘나는 솔로’ 16기 영수가 방송 후반 통편집을 당한 가운데 그 배경이 주목받고 있다. 4일 유튜브 채널 ‘촌장엔터테인먼트TV’에는 ENA, SBS플러스 ‘나는 솔로’ 16기 출연자들의 라이브 생방송이 공개됐다. 이날 영수는 자신의 방송 분량이 유독 적었던 이유에 대해 “주변에서 저를 아는 분들께서는 왜 자꾸 안 나오느냐고 하던데 진심으로 최선을 다해서 임했다”고 말했다. 이어 “촬영 중에 생긴 어떤 사건 때문에 신변의 사정이 생겨 제작진 분들과 협의 하에 최대한 분량이 안 나오도록 한 거다. 좀 많이 안 나오고 나니까 좋은 그림들이 나온 것 같아서 오히려 다행이라 생각한다”고 설명했다. 당시 라이브 방송에서는 영수의 통편집을 두고 자세한 설명은 없었으나, 네티즌은 그가 지난 8월 ‘로맨스 스캠’ 피해를 당했던 것을 언급했다. ‘로맨스 스캠’은 연애를 뜻하는 로맨스와 신용사기를 뜻하는 스캠의 합성어다. 영수는 지난 8월 자신의 인스타그램을 통해 “내가 쓰는 계정은 이 계정 하나”라며 “지난 몇 년간 국내·해외 여성들에게 내 사진을 도용해 사기 행각을 벌이는 로맨스 스캠이 빈번하게 이뤄졌다”는 글을 게재한 바 있다. 그는 “내 얼굴을 보정해 사용하고, 심지어 딥페이크 기술을 써서 영상 통화까지 했다는 제보도 받었다. 유튜브에 돌아다니는 사진은 도용 계정에서 퍼갔을 것”이라며 “신고를 해도 끝없이 생겨나는 잡초 같은 존재라서 방관하며 지냈다. 이제는 국내 피해자들이 혹시나 생겨날까 봐 걱정스럽다”고 말했다. 이어 “이제는 많은 분들이 사기 계정을 잘 걸러낼 수 있는 판단력이 서지 않을까 하는 긍정의 마음도 생긴다. 영어를 주로 쓰거나, 한국말을 잘 하지 못하는 사칭 계정의 사기 행각에 부디 피해를 입지 않길 당부한다”고 주의를 당부했다. ‘나는 솔로’ 16기 영수의 직업은 트레이너이며, 슬하에 자녀 셋을 두고 있다. 현재 그는 유튜브를 운영하고 있다.

할리우드의 거물급 배우 톰 행크스가 치과 보험 광고를 한다? 물론 그도 유명 연예인이기에 치과 보험 광고를 할 수는 있다. 그러나 왠지 어색하다. 올해 67세인 그와 달리 광고 속 톰 행크스의 모습은 흰머리도 없고 주름살도 없는, 훨씬 젊은 모습이기 때문이다. 이 광고는 톰 행크스 본인의 동의 없이 인공지능(AI)으로 합성한 이미지로 만든 광고였고, 톰 행크스는 문제의 광고가 자신과 아무런 관련이 없다고 직접 경고하고 나섰다. 2일(현지시간) CNN방송 등에 따르면 톰 행크스는 전날 자신의 인스타그램 계정에 “주의하세요! 나의 AI 버전으로 치과 보험을 홍보하는 영상이 있다”면서 “그 광고와 나는 아무런 관련이 없다”고 적었다. 그가 경고문과 함께 첨부한 사진 속 그는 현재 그의 모습보다 젊어 보인다. CNN은 이 사진이 그가 경고한 치과 보험 광고에 포함된 사진인지 독자적으로 확인하진 못했다고 전했다. 뉴욕타임스(NYT)는 톰 행크스가 이 광고와 관련해 법적 조처를 하거나 삭제를 요구할 계획이 있는지 톰 행크스 대리인에게 물었지만 답변을 받지 못했다고 보도했다. AI를 활용한 ‘가상 배우’가 할리우드에서 민감한 문제로 떠오른 가운데 톰 행크스의 경고문까지 나오면서 더욱 주목받고 있다. 지난 7월부터 할리우드 배우들이 파업에 나선 이유 중 하나도 AI를 활용한 가상 배우 문제다. AI가 가상 배우들의 연기 장면을 만드는 데 쓰이는 CGI(컴퓨터 생성 이미지) 기술을 훨씬 쉽고 저렴하게 만들어 배우의 일자리를 빼앗을 수 있다는 우려가 나오고 있다.할리우드 배우·방송인 노동조합(SAG-AFTRA)은 제작사들이 공정한 보상 없이 AI 기술로 연기자들의 일자리를 없애고 싶어 한다고 주장한다. 톰 행크스 역시 앞서 AI가 영화계에 미칠 악영향을 경고한 바 있다. 그는 지난 5월 영국 코미디언 애덤 백스턴의 팟캐스트에 출연해 ‘배우의 유사성(likenesses)’을 지적재산으로 보호하는 방안이 논의되고 있다며, AI 기술 때문에 자신이 죽고 나서도 새 영화에 계속 등장할 수 있다고 지적했다. 톰 행크스는 “이제 누구나 AI, 딥페이크(특정 인물의 얼굴 등을 영상에 합성) 기술로 나이에 상관없이 자기 모습을 재현할 수 있다”면서 “내가 내일 버스에 치여 크게 다치더라도 내 연기는 계속될 수 있다”고 말했다. AI를 악용한 사기성 광고에 피해를 본 유명인은 톰 행크스만이 아니다. NYT에 따르면 CBS방송 진행자 게일 킹도 2일 SNS에서 자신의 동의 없이 AI로 만들어진 자신의 이미지가 체중 감량 관련 광고에 쓰였다고 주장했다. 그는 인스타그램에 “이 제품에 대해 듣거나 사용한 적 없다”며 “AI 영상에 속지 말아달라”고 적었다.

李 “괴벨스가 탄식… 규제 시급”김기현 “총선, AI 조작뉴스 우려”포털 제평위 심사 개선도 촉구 이동관 방송통신위원장은 19일 국민의힘이 국회에서 개최한 ‘가짜뉴스 근절 입법청원 긴급공청회’에 참석해 “(가짜뉴스를) 빨리 바로잡지 않으면 대한민국 존립 자체가 흔들릴 수밖에 없다”고 밝혔다. 그는 이날 공청회 축사에서 “요새 지하에서 괴벨스(나치 독일의 선동가)가 탄식하고 있을 것이다. 소셜미디어(SNS), 유튜브, 딥페이크 기술 등 많은 수단이 생겨나 지금 내가 나가서 활약하면 지구를 뒤엎어 놓겠구나 생각할 것”이라며 이렇게 말했다. 이어 “제도의 사각지대가 많아 선제 대응을 해야 한다”고 강조한 뒤 방통위의 ‘가짜뉴스 근절 방안’을 언급하며 “이건 응급조치일 뿐으로, 입법을 통해 규제의 틀이 만들어져야 할 것”이라고 밝혔다. 방통위는 전날 발표에서 긴급 재난 상황이나 금융시장에 심각한 혼란을 유발하거나 선거 결과에 영향을 끼치는 가짜뉴스의 경우 포털사이트에 선제적으로 임시 삭제나 차단을 요청하는 방안을 추진하기로 했다. 이 위원장은 “국민의 69%가 포털로 뉴스를 보는데 포털은 어떤 규제 수단도 없이 사회적 책임을 뺀 사각지대에서 움직이고 있다”며 “더이상의 국기문란 사태가 없도록 최선을 다할 것”이라고 말했다. 김기현 국민의힘 대표도 “내년 총선을 앞두고 인공지능(AI) 등을 활용한 조작 뉴스의 횡행이 우려된다”며 “법적, 제도적, 사회문화적 조치가 필요하다”고 밝혔다. 이어진 발제 및 토론에서는 법·제도의 보완 방안에 대한 논의가 이뤄졌다. 신홍균 국민대 법학과 교수는 “전문성을 갖춘 전담 조직 또는 기구가 가짜뉴스 판별 기준 및 절차에 있어 객관성과 투명성을 확보해야 한다”며 “다양한 분야에서 ‘상시 모니터링’을 통해 과학적 증거를 기반으로 행정이 구현돼야 할 것”이라고 설명했다. 최철호 공정언론국민연대 공동대표는 잘못된 언론 보도에 대한 ‘징벌적 손해배상제’ 도입과 형사책임 강화, 선거와 관련된 허위 보도에 대한 가중처벌 등을 촉구했다. 한편 이날 국민의힘 정책위원회와 윤두현 의원은 거대 포털의 뉴스 정책에 대한 개혁을 촉구하는 ‘포스트 뉴스제휴평가위원회(제평위)’ 전문가 토론회를 개최했다. 제평위는 뉴스 제휴를 심사·관리하기 위해 네이버·카카오 등이 자율적으로 운영하는 기구다. 박대출 정책위의장은 “제평위는 포털에 입점할 언론을 결정하는 등 막대한 권한을 행사해 왔지만 밀실 심사 등 자의적 심의에 대한 지적이 지속됐다”고 비판했다.

이동관 방송통신위원장은 19일 국민의힘이 국회에서 개최한 ‘가짜뉴스 근절 입법청원 긴급공청회’에 참석해 “(가짜뉴스를) 빨리 바로잡지 않으면 대한민국 존립 자체가 흔들릴 수밖에 없다”고 밝혔다. 그는 이날 공청회 축사에서 “요새 지하에서 괴벨스(나치 독일의 선동가)가 탄식하고 있을 것이다. SNS(소셜미디어), 유튜브, 딥페이크 기술 등 많은 수단이 생겨나 지금 내가 나가서 활약하면 지구를 뒤엎어 놓겠구나 생각할 것”이라며 이렇게 말했다. 이어 “제도의 사각지대가 많아 선제 대응을 해야 한다”고 강조한 뒤, 방통위의 ‘가짜뉴스 근절 방안’을 언급하며 “이건 응급조치일 뿐으로, 입법을 통해 규제의 틀이 만들어져야 할 것”이라고 했다. 방통위는 전날 발표에서 긴급 재난상황이나 금융시장에 심각한 혼란을 유발하거나 선거 결과에 영향을 끼치는 가짜뉴스의 경우, 포탈사이트에 선제적으로 임시 삭제나 차단을 요청하는 방안을 추진키로 했다. 이 위원장은 “국민의 69%가 포털로 뉴스를 보는데 포털은 어떤 규제 수단도 없이 사회적 책임을 뺀 사각지대에서 움직이고 있다”며 “더 이상의 국기 문란 사태가 없도록 최선을 다할 것”이라고 말했다.김기현 국민의힘 대표도 “내년 총선을 앞두고 인공지능(AI) 등을 활용한 조작뉴스의 횡행이 우려된다”며 “법적, 제도적, 사회문화적 조치가 필요하다”고 말했다. 이어진 발제 및 토론에서는 법·제도의 보완 방안에 대한 논의가 이뤄졌다. 신홍균 국민대 법학과 교수는 “전문성을 갖춘 전담 조직 또는 기구가 가짜뉴스 판별 기준 및 절차에 있어 객관성과 투명성을 확보해야 한다”며 “다양한 분야에서 ‘상시 모니터링’을 통해 과학적 증거를 기반으로 행정이 구현되어야 할 것”이라고 설명했다. 최철호 공정언론국민연대 공동대표는 잘못된 언론 보도에 대한 ‘징벌적 손해배상제’ 도입과 형사 책임 강화, 선거와 관련된 허위 보도에 대한 가중 처벌 등을 촉구했다. 한편, 이날 국민의힘 정책위원회와 윤두현 의원은 거대 포털의 뉴스 정책에 대한 개혁을 촉구하는 ‘포스트 뉴스제휴평가위원회(제평위)’ 전문가 토론회를 개최했다. 제평위는 뉴스 제휴를 심사·관리하기 위해 네이버·카카오 등이 자율적으로 운영하는 기구다. 박대출 정책위의장은 “제평위는 포털에 입점할 언론을 결정하는 등 막대한 권한을 행사해 왔지만, 밀실 심사 등 자의적 심의에 대한 지적이 지속됐다”고 비판했다.

최근 지인에게 다급한 전화를 받았다. 그는 “국내 주식 투자액이 직계가족 통틀어 3억원이 넘으면 세금을 40% 뗀다고 한다”며 “지금 당장 주식 보유액이 얼마인지 확인해 보라”고 했다. 무슨 소리인가 해서 찾아보니 지난 정부에서 추진하려고 했던 주식양도세 대주주 기준 얘기였다. 현 정부에서 여야가 논쟁 끝에 기존대로 유지하기로 이미 결정한 사안이었다. 지난해 말에 다 끝난 이야기를 어디서 보고 그러느냐 물었더니 대뜸 “유튜브”가 나왔다. 섬네일에 크게 적힌 자극적인 제목의 문구들이 생각났다. 일부 사실과 다르거나 영상 속에서 잠깐만 언급되는 내용이더라도 구독자를 끌어들일 수 있다면 상관하지 않았을 테다. 시일이 오래된 영상이더라도 그의 유튜브 동영상 추천 목록의 맨 위에 올라가 있었을 수도 있겠다는 생각이 들었다. 지인에게 “포털에서 기사를 검색해 확인해 보라”고 했더니 “걔들도 기자래”라는 답이 돌아왔다. 유튜브를 언론으로 여기는 건 이 지인뿐이 아니었다. 지난해 한국언론진흥재단이 발간한 ‘디지털뉴스리포트 2022’에 따르면 우리나라 유튜브 이용률은 72%에 달하며, 소셜미디어 가운데 뉴스를 접하는 통로는 유튜브가 44%로 가장 높았다. 유튜브는 ‘가장 신뢰하는 언론매체’를 묻는 한 언론사 설문에서 지난 대통령선거 직전인 2019~2021년엔 10위 안에 들었으며, 2020년엔 1위까지 차지했다. 특히 청소년들이 언론보다 유튜브에서 정보를 찾고 신뢰한다는 얘길 많이 듣는다. 실제로 유튜브엔 ‘뉴스’임을 자처하는 콘텐츠와 ‘기자’라는 유튜버가 정말 많다. 하지만 그 유튜브 페이지엔 사소하고 쓸데없어 보이기까지 하는 시시콜콜한 ‘팩트’ 한 조각까지 집요하게 캐묻는 데스크는 없을 것이다. 단언컨대 그 기자는 좀처럼 사실로 확인되지 않는 정황 하나 때문에 전체 기사를 쓰지 못하는 아까움을 느껴 본 적은 없을 것이다. 혹시 틀려서 문제가 되면 ‘사과 콘텐츠’로 조회수를 올리고 다시 계속해서 자극적인 콘텐츠를 쏟아낼 것이다. 무엇보다 문제는 유튜브가 그런 콘텐츠 제작자를 적극적으로 제재하지 않는다는 점이다. 유튜브가 제재하는 영상은 대개 성적으로 선정적이거나 잔혹한 장면이 담긴 것들이지 사실관계의 틀림, 왜곡에 따른 경우는 드물다. 최근 해외 유명 축구선수의 기자회견 영상 속 발언 내용을 딥페이크 기술로 조작해 엄청난 조회수를 기록한 콘텐츠도 언론의 지적을 받기 전까지 제재받지 않았다. 사람들 인식이 여기까지 온 데는 물론 언론의 책임이 크다. 언론답지 않은 매체들과 기자답지 못한 직장인들이 국민 가슴에 상처를 많이도 줬다. 10여년 전만 해도 기자들끼리 농담 삼아 서로를 부르던 ‘기레기’라는 은어가 전 국민이 입에 달고 사는 말이 되기까지 우리에겐 무수한 기회가 있었다. 그럼에도 생각해 본다. 어쩌면 언론이 어떻게 해도 거대한 흐름을 막을 순 없었을지 모른다고. 콘텐츠가 재미있을수록 큰돈이 되고 그렇지 못하면 도태되는 흐름. 실제로 많은 기자들이 유튜버가 돼서 회사를 떠난다. 재미없는 한 줄 사실에 목매는 기자가 점점 사라져 간다. 언론사 내부에서도 기사의 가치와 기자의 능력을 조회수나 클릭수로 평가하는 분위기가 되고 있다. 유튜브와 다를 게 없다.

지난달 31일 방송된 KBS Joy ‘무엇이든 물어보살’에서는 ‘잘난 외모가 독이 된 비주얼 남녀의 억울한 사연’이 공개됐다. 출중한 외모의 두 사람은 로맨스 스캐머들의 사기 행각과 도박 사이트에 연루된 부업 사기 유도로 괴로워하며 조언을 부탁했다. 12년차 트레이너라는 남성 의뢰인은 사진을 도용하는 해외 로맨스 스캐머로 인해 많은 사람들이 피해를 당하고 있다고 설명했다. 그의 사진을 도용해 사칭한 계정이 지난 3월에만 100개가 넘었다. 그는 “미남 대회에 나간 적 있다. 이후 SNS 팔로워 수가 급증했다. 그런데 그때부터 사칭 계정이 늘어났고 제 사진을 수집해서 저인 척 교묘하게 채팅을 한다”라고 말했다. 이어 “최근 멕시코발 로맨스 스캠 기사가 떴는데 기사 속 여권 사진이 제 사진이더라. 피해자가 찾아오기도 했다. 딥페이크로 영상 통화를 했다고 한다”라며 “단순 피해를 넘어 생명 위협까지 당할까 봐 무섭다”라고 설명했다. 그는 “피해자들이 저에게 연락이 온다. 내가 아니라고 해도 믿고 싶지 않아 하더라. 피해자인데 하소연할 곳도 없다. 사칭한 계정을 신고해도 SNS에서는 위반 사항이 없어서 삭제할 방법이 없다. 제 얼굴과 감정에 속아서 피해 보는 일 없었으면 좋겠다”라고 호소했다. 의류 사업을 하는 워킹맘이라는 여성 의뢰인도 “저와 아이들 사진을 도용해서 엄마들을 상대로 부업 사기를 친다. 불법 도박과 관련된 사기다. 일반 주부인데도 너도 돈을 볼 수 있다고 광고를 하더라”라며 “이걸 당하는 사람이 있을까 했는데 피해자가 직접 연락이 왔다”라고 토로했다. 그러면서 “남편이 사기꾼 오픈 채팅방에 들어갔더니 프로필 사진이 우리 가족사진이더라. 사진 도용하지 말라고 했더니 강제 퇴장당했다”라고 말했다. 서장훈과 이수근은 “갑자기 이런 일이 생기면 절대 믿지 마라. 그런 사기에 속지 말아라. 멀쩡히 잘생긴 사람인데 느닷없이 접근해서 돈을 요구하는 게 말이 되냐. 이런 일은 절대 일어나지 않는다”라고 강조했다.

상담 중 멱살 잡혀 끌려다니고학생이 “XX년” 욕설 퍼붓기도폭행·폭언에 일상적으로 방치강제추행·딥페이크 음란물 고통에도… ‘교권 안전망’은 허술했다 경남 진주시의 한 초등학교 교사 A씨는 2020년 12월 학교폭력(학폭) 문제로 대화를 나누다 학부모 B씨에게 멱살을 잡힌 채 끌려다녀 약 2주간의 상해를 입었다. B씨는 이듬해 2월엔 학교 교장 등과 회의를 하다 자신이 제기한 민원을 제대로 들어주지 않는다며 1.5ℓ짜리 음료 페트병을 던지며 욕설을 퍼부었다. B씨는 상해, 폭행, 공무집행방해 등의 혐의로 최근 징역 10개월에 집행유예 2년, 폭력치료 강의 40시간 수강을 선고받았다. ‘서이초 교사 사망 사건’으로 교권 보호가 화두로 떠오른 가운데 폭언, 폭행, 강제추행, 음란물 합성 등의 피해자로 법정에 서는 교사들이 적지 않은 것으로 나타났다. 하지만 교사들이 각종 소송에 얽히거나 물리적·정신적 피해를 보아도 교권과 인권 침해를 막을 제대로 된 공적 안전망이 부족하다는 지적이 나온다. 24일 서울신문이 대법원 판결문 열람시스템을 통해 2021년 7월~2023년 7월 기준 ‘교사·폭행’ 검색어로 주요 판결문을 확인한 결과 교사들이 형사사건 피해자로 법정에 선 사례들이 다수 있었다. 경북 고령군에 있는 한 초등학교 교사인 C씨는 2021년 6월 학교 앞 주차장에서 학부모이자 경찰공무원 D씨에게 강제추행을 당했다. D씨는 자신의 부탁으로 자녀의 책가방을 가져다준 C씨의 손을 10초간 움켜잡고 대화하다 엄지와 검지로 C씨의 앞머리를 잡아 쓸어올리고 여러 차례에 걸쳐 피해자의 옆머리를 잡아 귀 뒤로 넘겼다. 대구지법 서부지원 도정원 부장판사는 학부모 D씨에게 벌금 500만원, 성폭력 치료프로그램 40시간 이수를 명령했다. 교사 얼굴 사진이 음란물과 합성돼 성영상물로 제작된 사례도 있었다. E군은 2020년 자신의 휴대전화에 딥페이크 프로그램 애플리케이션을 설치한 후 담임교사 F씨의 카카오톡 프로필 얼굴 사진을 수집해 12개가 넘는 허위 성영상물을 제작했다. 창원지법 제4형사부(부장 장유진)는 E군이 받는 9개의 혐의를 병합해 징역 5년, 성폭력 치료프로그램 40시간 이수 판결을 했다. 폭언과 모욕은 비일비재하다. 경기 안산시의 한 고등학교 2학년 담임교사인 G씨는 2021년 6월 교실에서 H군과 그의 여자친구와 함께 대화를 나누다 “너 조심해야겠다. 괜히 데이트폭력 당할라”라고 H군의 여자친구에게 농담을 건넸다가 학생들이 있는 자리에서 “××년이”라는 말을 들었다. H군은 같은 해 7월에도 학생들 앞에서 G씨에게 “여전히 싸가지가 없네”라고 말했다. 결국 G씨는 모욕 혐의로 H군을 고소했다. 문제는 이렇게 형사사건 피해자가 되는 교사들이 재판 과정뿐 아니라 사건 이후에도 보호받을 수 있는 제도가 거의 없다는 점이다. 각급 교육청이 교권 침해와 관련한 여러 지원책을 시행 중이지만 조건이 까다로운 탓에 이용률은 저조하다. 예컨대 교육활동 침해행위 발생 때 소송 비용 등을 보상해 주는 ‘교원안심공제 서비스’가 대표적이다. 교사가 소송을 당했을 때만 지원받을 수 있어 실효성이 떨어진다는 지적이 나온다. 폭언, 폭행 등 교권 침해를 사유로 교사가 직접 학생이나 학부모 등을 상대로 고소할 땐 이용할 수 없다. 즉 피해자가 되어야만 지원 가능하다는 얘기다. 또 교원안심공제 서비스로 제공하는 15회의 심리 상담을 지원받으려면 교직원이 학교교권보호위원회에 심의를 요청해 ‘교원 보호 조치’가 선행돼야 한다. 이런 선제 조건 탓에 전국 교사 49만여명이 가입해 있지만 지난해 지원을 받은 교사는 32명뿐이다. 서울시교육청도 교원들의 상담을 지원하는 ‘마음방역’ 제도를 운용 중이지만 이 역시 학교장 의견서를 받아야 한다. 학부모가 교사의 훈육을 아동학대라고 고소해도 교사가 지원받기 어렵다. 김영미 아동학대 전문 변호사는 “억울해도 교사가 피의자가 된 상황이라 지원해 주면 역으로 학생들이 피해자일 땐 지원해 주지 않느냐는 목소리가 나올 수 있다”며 “소송과 관련해 교권 보호를 위해 논의해야 할 부분이 많은 게 사실”이라고 말했다.

형사사건 판결로 본 교권 현실상담 중 멱살 잡혀 끌려다니고학생이 “XX년” 욕설 퍼붓기도‘교원안심공제서비스’ 무용지물 경남 진주시의 한 초등학교 교사 A씨는 2020년 12월 학교폭력(학폭) 문제로 대화를 나누다 학부모 B씨에게 멱살을 잡히고 끌려다녀 약 2주간의 상해를 입었다. B씨는 이듬해 2월엔 학교 교장 등과 회의를 하다 자신이 제기한 민원을 제대로 들어주지 않는다며 1.5ℓ 음료 페트병을 던지고 욕설을 퍼부었다. B씨는 상해, 폭행, 공무집행방해 등의 혐의로 최근 징역 10월에 집행유예 2년, 폭력치료 강의 40시간 수강을 선고받았다. ‘서이초 교사 사망 사건’으로 교권 보호가 화두로 떠오른 가운데 폭언, 폭행, 강제추행, 음란물 합성 등의 피해자로 법정에 서는 교사들이 적지 않은 것으로 나타났다. 하지만 교사들이 각종 소송에 얽히거나 물리적·정신적 피해를 보아도 교권과 인권 침해를 막을 제대로 된 공적 안전망이 부족하다는 지적이 나온다. 24일 서울신문이 대법원 판결문 열람시스템을 통해 2021년 7월~2023년 7월 기준 ‘교사·폭행’ 검색어로 주요 판결문을 확인한 결과 교사들이 형사사건 피해자로 법정에 선 사례들이 다수 있었다. 경북 고령군에 있는 한 초등학교 교사인 C씨는 2021년 6월 학교 앞 주차장에서 학부모이자 경찰공무원 D씨에게 강제추행을 당했다. D씨는 자신의 부탁으로 자녀의 책가방을 가져다준 C씨의 손을 10초간 움켜잡고 대화하다 엄지와 검지로 C씨의 앞머리를 잡아 쓸어올리고 여러 차례에 걸쳐 피해자의 옆머리를 잡아 귀 뒤로 넘겼다. 대구지법 서부지원 도정원 부장판사는 학부모 D씨에게 벌금 500만원, 성폭력 치료프로그램 40시간 이수를 명령했다. 교사 얼굴 사진이 음란물과 합성돼 성영상물로 제작된 사례도 있었다. E군은 2020년 자신의 휴대전화에 딥페이크 프로그램 애플리케이션을 설치한 후 담임교사 F씨의 카카오톡 프로필 얼굴 사진을 수집해 12개가 넘는 허위 성영상물을 제작했다. 창원지법 제4형사부(부장 장유진)는 E군이 받는 9개의 혐의를 병합해 징역 5년, 성폭력 치료프로그램 40시간 이수 판결을 했다. 폭언과 모욕은 비일비재하다. 경기 안산시의 한 고등학교 2학년 담임교사인 G씨는 2021년 6월 교실에서 H군과 그의 여자친구와 함께 대화를 나누다 “너 조심해야겠다. 괜히 데이트폭력 당할라”라고 H군의 여자친구에게 농담을 건넸다가 학생들이 있는 자리에서 “XX년이”라는 말을 들었다. H군은 같은 해 7월에도 학생들 앞에서 G씨에게 “여전히 싸가지가 없네”라고 말했다. 결국 G씨는 모욕 혐의로 H군을 고소했다.문제는 이렇게 형사사건 피해자가 되는 교사들이 재판 과정뿐 아니라 사건 이후에도 보호받을 수 있는 제도가 거의 없다는 점이다. 각급 교육청이 교권 침해와 관련한 여러 지원책을 시행 중이지만 조건이 까다로운 탓에 이용률은 저조하다. 예컨대 교육활동 침해행위 발생 때 소송 비용 등을 보상해주는 ‘교원안심공제 서비스’가 대표적이다. 교사가 소송을 당했을 때만 지원받을 수 있어 실효성이 떨어진다는 지적이 나온다. 폭언, 폭행 등 교권 침해를 사유로 교사가 직접 학생이나 학부모 등을 상대로 고소할 땐 이용할 수 없다. 즉 피해자가 되어야만 지원 가능하다는 얘기다. 또 교원안심공제 서비스로 제공하는 15회의 심리 상담을 지원받으려면 교직원이 학교교권보호위원회에 심의를 요청해 ‘교원 보호 조치’가 선행돼야 한다. 이런 선제 조건 탓에 전국 교사 49만여명이 가입하고 있지만 지난해 지원을 받은 교사는 고작 32명뿐이다. 서울시교육청도 교원들의 상담을 지원하는 ‘마음방역’ 제도를 운용 중이지만 이 역시 학교장 의견서를 받아야 한다. 학부모가 교사의 훈육을 아동학대라고 고소해도 교사가 지원받기 어렵다. 김영미 아동학대 전문 변호사는 “억울해도 교사가 피의자가 된 상황이라 지원해주면, 역으로 학생들이 피해자일 땐 지원해주지 않느냐는 목소리가 나올 수 있다”며 “소송과 관련해 교권 보호를 위해 논의해야 할 부분이 많은 게 사실”이라고 말했다.

‘가상인간(버추얼휴먼)’의 시대다. 인공지능(AI) 기술 고도화와 컴퓨터그래픽 발전으로 가상인간 시장이 빠르게 성장하고 있다. 시장조사업체 이머전리서치는 2020년 약 13조원 수준이었던 세계 가상인간 시장 규모가 오는 2030년엔 약 680조원으로 50배 이상 성장할 것으로 내다봤다. 업계는 글로벌 시장에 선보인 가상인간의 수를 수천명 수준으로 보고 있다. 일정 수준 이상의 소셜미디어 팔로워와 팬덤을 보유한 검증된 가상인간만 간추려 소개하는 미국 사이트 ‘버추얼휴먼스’엔 현재 200명 이상이 등록돼 있다. 국내에 소개된 가상 인간만 150명을 넘는 것으로 추정된다. 하지만 그 중 현재 왕성하게 활동하는 숫자는 한 손에 꼽힐 정도다. 가상인간이 세상에 처음 선보였을 때엔 단순히 ‘신기함’만으로도 충분히 주목받는 환경이었다. 하지만 기술 발전에 따라 가상 인간의 수준은 나날이 높아졌고, 경험이 축적된 대중은 차별화된 경쟁력 없는 가상 인간들에게 더 이상 관심을 주지 않게 됐다. 지금까지 살아남은 가상 인간들에게는 뭔가 차별점이 있다는 얘기다. 국내 1호 가상 인간으로 인정받는 ‘로지(Lozy)’는 시장 선점 효과를 톡톡히 누리고 있다. 2020년 8월 당시 싸이더스 스튜디오X(로커스엑스, 네이버웹툰 인수 후 사명 변경)가 만든 로지는 지난해 광고모델과 홍보대사 등 100건이 넘는 활동으로 20억원에 육박하는 수입을 거둔 것으로 알려졌다. 최근 부산 엑스포 유치 홍보대사로 발탁됐으며, 인스타그램 팔로워도 15만명을 넘어섰다. 로지의 성공 비결로 제작진들의 끊임없는 기술적 개선 노력이 가장 먼저 꼽힌다. 초창기 로지는 3D툴을 이용해 얼굴을 만들고 대역 모델 몸에 이를 합성하는 방식으로 만들어졌는데, 제작자의 작업량이 너무 많아, 초창기 로지 영상이 많지 않은 이유가 됐다. 하지만 곧바로 AI가 대상 얼굴을 미리 학습하고 얼굴을 알아서 합성해주는 ‘딥페이크’ 방식이 도입됐고 적은 비용으로 더 빠르게 이미지와 영상을 제작할 수 있게 됐다. 현재는 거의 모든 가상인간이 딥페이크 방식을 활용한다. 이후에도 로지는 AI 보이스 제작 등 새로운 제작 기술을 계속 적용해 끊임없이 개선했다. 딥페이크 기술은 보통 합성하려는 인물의 얼굴이 잘 드러난 고화질 영상을 AI가 추출한 뒤 학습해서 대상이 되는 사람 얼굴에 프레임 단위로 합성시키는 방식이다. AI는 사람 얼굴의 눈, 코, 입 등 신체 부위의 모양, 움직임 등을 중점 학습해 어떤 얼굴도 쉽게 합성할 수 있다. 예를 들어 실존하는 배우 얼굴을 운동 선수 몸에 합성시킬 때는 학습할 자료인 배우의 얼굴 이미지나 영상이 충분하다. 하지만 가상 인간의 얼굴은 실존하는 이미지가 아니라서 딥러닝 AI의 학습을 위해서는 3D모델링, 렌더링을 통해 가상의 얼굴을 수백장, 많게는 수천, 수만장까지 만들어 내야 한다. 게다가 표정을 학습시키기 위해서는 가상의 뼈와 관절을 만들어 움직임을 제어, 표현하는 ‘리깅’ 기술로 얼굴 움직임을 추가로 학습시켜야 한다. 가상인간의 겉모습을 보다 정교하게 만들 수 있게 된 뒤엔 ‘재능’이 중요해졌다. 비주얼 테크 솔루션 기업 포바이포가 만든 롯데홈쇼핑의 ‘루시(Lucy)’는 화려한 언변으로 롯데홈쇼핑 온라인 채널에서 라이브 커머스 방송을 진행하며 ‘완판 행진’을 이어가고 있다. 유튜브 채널도 운영하는데 얼굴 합성이 까다로운 야외 콘텐츠도 큰 이질감 없이 자연스럽게 구현하고 있어 호평을 받고 있다. 루시가 라이브 방송을 통해 재능을 뽐낼 수 있게 된 것도 꽤 복잡한 기술적 발전이 있었기 때문이다. 보통 가상 인간을 활용한 콘텐츠는 상당히 많은 후보정 작업을 거치는데, 모델 촬영, 이미지 합성, 변환 후 방송 송출까지 실시간으로 구현해야 하는 라이브 커머스 방송을 하는 루시는 보정 작업 없이 초당 36프레임 이상의 완벽한 영상을 만들어 낼 수 있어야 한다. ‘리얼타임 페이스스왑’이라고 불리는 이 기술 덕에 루시는 라이브커머스, 유튜브 방송도 거침없이 할 수 있다. 로지, 루시 등 대부분 가상인간들은 모두 대역 모델이 있다. 목소리와 몸의 움직임을 대역 모델에게 맡기기 때문에 만일 모델이 바뀌면 목소리나 체형이 바뀔 수도 있다. 이런 문제를 해결할 수 있는 ‘딥보이스’ 기술이 적용된 가상인간이 4인조 아이돌그룹 ‘메이브(Mave)’다. 넷마블 자회사 메타버스엔터테인먼트의 AI 버추얼 휴먼 제작 기술과 카카오엔터테인먼트의 음악 프로듀싱의 합작으로 탄생했다.딥보이스는 다양한 목소리를 AI가 학습하고 필요에 따라 자유롭게 합성한 뒤 가상 인간 고유의 목소리를 만드는 방식이다. 가상인간 아이돌 메이브는 누가 노래를 해도 이들 고유의 목소리로 변환이 가능하다. 지난 1월 데뷔곡 ‘판도라’를 선보인 뒤 가상인간 그룹 중 가장 높은 인기를 얻고 있다. 판도라의 공식 뮤직비디오는 2470만회 이상 조회수를 기록하고 있다. 메이브는 목소리 뿐 아니라 몸의 움직임도 100% 3D로 제작한다. 대역 모델이 존재하지만, 모델이 교체돼도 큰 문제가 없다. 콘텐츠를 만들 때마다 모델이 연기하지 않아도 되는 ‘바디스캐닝’ 방식을 이용한다. 과거처럼 센서를 착용한 모델의 움직임을 캡처하는 방식이 아니라 바디스캐너에 잠시 들어갔다 나오면 몇 분 내에 하이퍼리얼 3D 모델이 생성되고 이를 제어해 가상 인간의 움직임을 만들어 낼 수 있다. 가상인간 제작자들의 최종 목표는 대역 모델 없이 얼굴과 몸의 움직임, 목소리까지 스스로 만들어 내는 100% 자동화된 가상인간이다. 여기에 더해 챗GPT 등을 기반으로 제작자 개입 없이 인간과 대화를 이어 나갈 수 있는 수준까지 고도화하는 것도 계획하고 있다. 이런 진정한 의미의 버추얼 휴먼이 언제 등장할지 업계 관심이 쏠리고 있다.

지난해 말 등장한 챗GPT로 대표되는 생성형 인공지능(AI) 기술에 관한 관심이 줄지 않고 있다. AI 기술은 일의 효율성을 높여준다는 장점도 갖고 있지만 가짜 정보의 확산과 같은 문제점도 갖고 있기 때문에 우려가 크다. 실제로 외국에서는 인공지능이 만든 텍스트 형태의 가짜 정보와 가짜 동영상이 레거시 미디어에 실려 논란이 되기도 했다. 그렇다면 가짜 정보 중 텍스트 형태와 영상 형태 중 어느 것이 사람들에게 더 나쁜 영향을 미칠까. 아일랜드 코크대(UCC) 응용심리학부, 아일랜드 과학재단 산하 소프트웨어 연구센터 공동 연구팀은 딥페이크 동영상은 사람들에게 잘못된 기억을 심는다고 17일 밝혔다. 이번 연구 결과는 미국 공공과학도서관에서 발행하는 국제학술지 ‘플로스 원’ 7월 7일자에 실렸다. 가짜 동영상으로 알려진 딥페이크는 AI를 이용해 동영상 속 사람의 목소리나 얼굴을 다른 사람의 것으로 바꿔치기한 것이다. 최근 딥페이크 제작 도구가 저렴해지고 접근성이 좋아지면서 잘못된 정보를 퍼뜨리고 시청자의 기억을 조작하는 등 잠재적 위험에 대한 우려가 커지고 있다. 연구팀은 18~65세 성인남녀 436명을 대상으로 먼저 영화 매트릭스, 샤이닝, 인디아나 존스, 캡틴 마블의 딥페이크 동영상을 시청하도록 했다. 그다음 연구팀은 이들에게 찰리와 초콜릿 공장, 토탈 리콜, 캐리, 툼레이더 등 실제 리메이크 영화 클립도 시청하게 했다. 시청이 끝난 뒤 일부 영화가 딥페이크라는 사실을 밝히고 영화에 대한 가짜 정보가 실린 글을 읽도록 했다. 시간이 지난 뒤 실험 참가자들을 대상으로 영화에 대한 기억 관련 설문조사를 실시했다. 그 결과 딥페이크 영상이라는 사실을 알고 있음에도 실제 리메이크 영화보다는 딥페이크 동영상을 더 잘 기억하는 것으로 나타났다. 실제로 참가자의 절반에 가까운 49%는 여전히 딥페이크를 진짜라고 믿고 나머지 사람들도 딥페이크가 원본보다 더 잘 만들어졌다고 생각하는 것으로 조사됐다. 그렇지만 참가자들 대부분은 딥페이크 기술을 이용해 영화를 리메이크하거나 찍는 데는 예술성 훼손, 영화에 대한 사회적 경험 왜곡 등을 이유로 반대한다는 모습을 보였다. 또 딥페이크 영상을 기억하지 못하더라도 가짜 정보가 실린 텍스트를 기억하는 사람들도 의외로 많은 것으로 나타났다. 연구를 이끈 길리언 머피 UCC 교수는 “딥페이크는 당사자의 합의 없이 동영상을 제작했다는 것뿐만 아니라 과거에 대한 기억을 왜곡하는 데 영향을 미칠 수 있음을 보여준다”라면서도 “이번 연구에서는 동영상뿐만 아니라 텍스트 정보도 기억을 왜곡할 수 있음을 보여준다”라고 설명했다.

지난달 28일 개봉한 영화 ‘인디아나 존스5’의 주인공인 해리슨 포드의 젊은 시절 얼굴이 인공지능(AI) 디에이징(de-aging) 기술로 만들어져 화제가 됐다. 1942년생, 올해 81세인 포드는 최근 CNN과의 인터뷰에서 인디아나 존스 시리즈에선 은퇴하지만 영화배우로서는 은퇴할 계획이 없다고 밝혔다. AI 기술을 활용해 죽을 때까지 배우로 활동할 수도 있다는 다짐이다. 61세인 톰 크루즈도 최근 ‘미션 임파서블7’ 시사회에서 “해리슨 포드의 나이가 될 때까지 ‘미션 임파서블’ 시리즈를 만들고 싶다”며 존경의 뜻을 표했다. 하지만 AI 기술은 ‘양날의 검’이다. 한편으로는 할리우드 산업 종사자들에게 크나큰 위협이 되고 있다. 지난해 10월 러시아의 한 기업이 치매 투병으로 은퇴한 영화배우 브루스 윌리스의 허락 없이 딥페이크 광고를 만든 사실이 알려져 논란이 일기도 했다. 딥페이크는 ‘딥러닝’(deep learning)과 ‘페이크’(fake)를 합성한 용어로, AI를 기반으로 얼굴 생김새나 음성 등을 실제처럼 조작한 영상 등을 말한다. 딥페이크 기술을 활용하면 영화 제작사 입장에서는 시간과 비용을 크게 줄일 수 있지만, 배우들이나 관련 산업 종사자들은 일자리를 잃을 수도 있다. 지난 13일 영국 런던에서 열린 영화 ‘오펜하이머’ 시사회에선 배우 킬리언 머피, 맷 데이먼, 에밀리 블런트가 사진만 찍고 시사회장을 떠나는 해프닝이 있었다. 지난 5월 할리우드 작가조합 파업에 이어 배우·방송인노동조합(SAG-AFTRA)이 지난 14일(현지시간)부터 일제히 시작한 동시 파업 선언을 지지하기 위해서다. 메릴 스트리프, 제니퍼 로런스, 벤 스틸러, 마고 로비 등 유명 배우 300여명도 동참했다. 배우·방송인노동조합은 AI와 컴퓨터로 만든 얼굴·음성으로 배우를 대체하지 말라고 요구하고 있다. 작가·배우조합의 동시 파업은 로널드 레이건 전 대통령이 배우조합장을 지내던 1960년 이후 63년 만이다. 업계에서는 40억 달러(약 5조원)가 넘는 피해를 예상하고 있다. ‘AI 파업’으로 불리는 이번 사태는 일자리의 앞날뿐 아니라 인간의 창작 활동이 어디까지 보호받을 수 있을 것인가를 다툰다는 점에서 향배가 주목된다. AI의 활용과 규제를 둘러싼 논란도 더욱 거세질 듯하다.

지하철에서 여성의 신체를 몰래 촬영하고 도검 등 흉기를 다수 소지하고 있던 20대가 구속됐다. 대전경찰청 사이버범죄수사대는 청소년성보호법과 총포도검화약 등 관리법 위반 혐의로 A(21)씨를 구속해 검찰에 송치했다고 11일 밝혔다. A씨는 지난해 6월부터 버스나 지하철 등에서 여성의 신체를 몰래 촬영한 뒤 24점을 불법 소지한 혐의를 받고 있다. A씨는 자신의 지인 등 여성 10여명의 얼굴을 알몸 사진에 편집한 허위영상물(딥페이크 영상)과 사진 등을 제작한 뒤 이를 자신이 운영하는 텔레그램 ‘지인능욕방’에 올리기도 했다. A씨는 지난해 9월부터 ‘지인능욕방’과 ‘고어방’(잔혹 영상물방) 텔레그램 대화방을 운영하면서 이런 짓을 벌인 것으로 드러났다. 고어방에는 잔혹한 외국 영상물이 게시돼 있어 누구나 쉽게 접근할 수 있었다. 실제 1만 2000여명이 참여하고 있었고, 아동·청소년으로 보이는 참여자가 많은 것으로 전해졌다. A씨는 또 ‘박사방’ ‘N번방’에서 얻은 아동 성착취물 2600여점과 도검 12점도 불법 소지하고 있었다. A씨는 경찰 조사에서 “고등학교 2학년 때부터 고어물(잔혹물)을 봐왔다”면서 “도검은 취미용·호신용으로 가지고 있던 것일 뿐 남을 위협하거나 해치려는 용도가 아니었다”고 진술했다.공정식 경기대 범죄심리학과 교수는 “어릴 때부터 잔인한 장면이나 참혹한 영상물에 자주 노출되면 정서적으로 둔감해지는 특성이 나타나고 학습효과도 생긴다”며 “아동과 청소년들이 고어물에 무방비로 노출되는 것을 규제할 필요성이 분명 있다”고 지적했다. 이어 “관련 법적 규제는 고어물 관련 연구가 지속적으로 이뤄지고, 고어물 규제에 대한 사회적 인식과 공감대가 높아져야 가능한 일”이라고 했다.

지인 등 얼굴에 알몸 사진을 편집하고, 잔혹한 영상인 일명 ‘고어물’을 유포하고 공유하는 텔레그램 대화방을 운영한 20대 남성이 검찰에 넘겨졌다. 11일 대전경찰청 사이버범죄수사대는 청소년 보호법(아동 성 착취물 소지 등), 성폭력처벌법(카메라 등을 이용한 촬영, 허위 영상물 등의 반포 등), 총포 도검 화약류 등 단속법 위반 혐의를 받는 A(21)씨를 검구속 송치했다고 밝혔다. A씨는 지난해 6월부터 버스나 지하철 등에서 여성의 신체를 몰래 촬영한 불법 촬영물 24점을 소지한 혐의를 받는다. 또 지인 등 피해자 10여명의 얼굴을 알몸 사진에 합성해 허위영상물(딥페이크 영상)을 제작하고 일부를 자신이 운영하는 텔레그램 ‘지인능욕방’에 올린 혐의도 있다. 특히 A씨는 ‘박사방’이나 ‘N번방’ 등에서 얻은 아동 성 착취물 2600여점과 흉기로 사용될 위험성이 높은 도검 12점도 허가 없이 소지하고 있었던 것으로 확인됐다. A씨는 지난해 9월부터 ‘지인능욕방’과 ‘고어방’(잔혹 영상물방) 텔레그램 대화방을 운영했다. 고어방에는 사람을 살해하는 등 잔혹한 외국 영상물이 게시돼 있어 누구든 쉽게 잔혹물에 접근할 수 있던 것으로 나타났다. 경찰 조사에서 A씨는 “고등학교 2학년 때부터 고어물(잔혹물)을 봐왔다”며 “도검은 취미용, 호신용으로 가지고 있던 것일 뿐”이라고 진술한 것으로 전해졌다. A씨에게 고어방 운영에 대한 혐의는 적용되지 않았다. 잔혹물 유포를 규제할 법규가 없기 때문이다. 경찰은 방송통신심의위원회를 통한 사이트 URL 삭제 및 차단뿐 아니라 비공개 대화방에서의 성 착취물 또는 잔혹물 등 불법 영상물 유포행위에 대해서도 강력하게 처벌할 필요가 있다고 지적했다. 경찰 관계자는 “잔혹물 유포에 대한 사이버 검색을 통해 사이트나 영상 링크를 발견하면 방송통신심의위원회에 즉시 삭제·차단을 요청하고, 불법행위 발견 시 적극적인 수사를 벌이겠다”며 “특히 아동·청소년들에게 정신적 트라우마나 폭력성이 생길 수 있는 영상물은 시청하지 않아야 한다”고 당부했다.

K팝 걸그룹 멤버 사진을 대량으로 도용해 학습시킨 AI 모델 데이터가 온라인상에서 유포되고 있다. 수익 창출이나 음란물 제작에 악용될 수 있다는 우려가 나온다. 27일 업계 등에 따르면 생성형 인공지능(AI) 모델 공유 사이트 시빗AI(CivitAI)에는 이용자들이 뉴진스, 르세라핌, 아이브, 에스파, 트와이스 같은 인기 K팝 걸그룹 멤버의 이미지를 학습시킨 데이터가 다수 올라와 있다. 게시된 파일들은 지난해 스테빌리티AI가 오픈소스로 공개한 이미지 합성 AI ‘스테이블 디퓨전’(Stable Diffusion)에 적용해 딥페이크 이미지를 생성할 수 있는 AI 모델이다. 스테이블 디퓨전의 모델은 크게 전반적인 화풍을 결정하는 핵심 모델 ‘체크포인트’와 인물의 얼굴·자세 등을 결정하는 보조 모델 ‘LoRA’(Low-Rank Adaptation)로 나뉜다. 이 중 실존 인물 딥페이크 제작에 주로 쓰이는 LoRA는 용량이 수십~수백 메가바이트(MB)에 불과하고, 제작이 상대적으로 쉬워 시빗AI 같은 사이트나 온라인 커뮤니티에서 쉽게 공유되고 있다. ‘챗GPT’ 같은 고성능 대화형 AI와 달리, 일반인도 자기 집 PC에서 오프라인으로 구동할 수 있기 때문이다. 수익창출·음란물 제작 등 악용 가능성도 문제는 이러한 AI 모델이 수익 창출이나 음란물 제작에 악용될 수 있다는 점이다.유튜브에는 이미지 생성 AI로 만들어낸 여성 이미지를 이용한 ‘AI 룩북’ 콘텐츠가 성행하고 있고, 일부 이용자들은 AI가 생성한 음란물을 판매하기도 한다. 다만 연예인이나 인플루언서의 초상권을 침해한 AI 모델로 창작물을 만들어 수익을 낼 경우 민형사상 책임을 질 수 있다. 부정경쟁방지법 2조는 ‘국내에 널리 인식되고 경제적 가치를 가지는 타인의 성명, 초상, 음성, 서명 등 타인을 식별할 수 있는 표지를 무단으로 사용함으로써 타인의 경제적 이익을 침해하는 행위’를 부정행위로 간주하고 있다. 성폭력처벌법 14조의2도 ‘사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물·음성물’과 이에 따른 ‘편집물·합성물·가공물·복제물’을 당사자의 의사에 반해 유포한 사람에 대해 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하도록 하고 있다. K팝 업계도 소속 아티스트의 이미지를 활용한 AI 모델 배포에 대응 방안을 고민하고 있는 것으로 전해졌다.

러시아에서 방송된 블라디미르 푸틴 러시아 대통령의 계엄령 선포 연설은 가짜인 것으로 드러났다. 러시아 국경 지역에 방송된 푸틴 대통령의 계엄령 선포 연설이 딥페이크를 활용한 가짜 영상으로 확인됐다고 블룸버그통신 등이 5일(현지시간) 보도했다. 보도에 따르면 지난 5일 러시아 TV와 라디오 긴급 방송에서는 마치 푸틴 대통령이 대국민 연설을 하는 듯한 목소리가 흘러나왔다. 일부 지역에서는 딥페이크로 만든 영상도 함께 퍼졌다. 방송에서 ‘푸틴 대통령’은 우크라이나군이 오전 4시 나토(북대서양조약기구)의 지원을 받아 러시아를 침공했다며 벨고로드·브랸스크·쿠르스크 지역에 계엄령을 선포한다고 했다. 이어 주민들에게 “러시아 영토 깊숙이 대피하라”고 당부하면서 조만간 ‘총동원령’을 내리겠다고도 했다. 계엄령 선포 지역 중 하나인 벨고로드는 이날 친 우크라이나 성향 민병대 ‘러시아 의용군단’(RVC)이 점령했다고 밝힌 지역이다.크렘린궁은 이날 즉시 러시아 국영 타스통신 등을 통해 해당 방송이 “해킹 공격의 결과”라며 진화에 나섰다. 크렘린궁은 푸틴 대통령이 대국민 연설을 한 적이 “전혀 없다”면서 “여러 네트워크에서 나온 해킹 방송은 모두 삭제됐다”고 밝혔다. 다만 해킹범의 신상이나 어떻게 푸틴 대통령처럼 보일 수 있었는지 등은 밝히지 않았다. 블룸버그 통신은 이 방송이 1941년 6월 22일 나치 독일의 구소련 침공작전 당일 상황을 의도적으로 모방한 것으로 보인다고 짚었다. 소련 외무장관은 당시 오전 4시 라디오 연설을 통해 “적은 패배할 것이고 승리는 우리의 것이다”라고 한 바 있다. 이번 가짜 연설 또한 같은 말로 끝을 맺었다. 이오시프 스탈린이 같은 해 7월 3일 연설에서 국민을 “형제자매들”로 칭한 것도 이번 방송에서 그대로 가져왔다고 블룸버그 통신은 덧붙였다.

스웨덴 팝그룹 아바(ABBA)가 ‘워털루’로 영국 브라이턴에서 열린 유로비전송 콘테스트 우승을 차지하며 세계적으로 이름을 알리기 시작한 것이 1974년이었다. 내년 50주년이 되는데 마침 스웨덴에서 대회가 열린다. 아바 이후 스웨덴 가수가 대회 우승을 차지한 것이 올해 영국 리버풀 대회를 포함해 다섯 번이나 된다. 누구나 아바가 대회 무대에 서는 것이 아닌가 기대해 볼 수 있는 일이다. 그런데 두 남자 멤버 비요른 울바에우스와 베뉘 안데르손이 25일(현지시간) 밤 10시 30분 방영되는 영국 BBC 뉴스나이트에 출연, 그럴 일 없다고 딱잘라 말했다. 둘은 절대 투어 공연에 나서지 않을 것이라고 맹세했다. 이들은 새 천년이 시작되기 전 100차례 쇼에 출연하면 10억 달러를 주겠다는 제안도 뿌리쳤던 것으로 알려졌다. 두 사람은 단 하룻밤이라도 앙네타 펠트스코그, 안니프리드 륑스타드두 여성 멤버와 어울려 무대에 서는 일은 없을 것이라고 거듭 다짐했다. 안데르손은 “원치 않는다”면서 “내가 하고 싶지 않으면 다른 사람도 마찬가지다. 누군가 아니라고 하면 우리 넷은 한마음”이라고 강조했다. 울바에우스는 “무대에 서지 않고도 50주년을 축하할 수 있는 일”이라고 덧붙였다.네 멤버를 디지털로 재현한 가상 콘서트 ‘아바 보이지’를 공연한 지 벌써 일년이 됐다. 43년 전 일본에서의 마지막 공연 모습을 1000명의 특수효과 아티스트, 160대의 카메라, 500대의 조명 세트, 10억 시간의 컴퓨터 작업시간을 들여 꾸몄다. 공연마다 3000명이 입장해 즐길 수 있다. 울바에우스는 영국 런던 관중의 반응이 예상을 뛰어넘는다고 했다. “우리에게 정서적 연결이 중요하다. 이런 일이 먹힐줄 정말 미처 몰랐다. 지적으로는 우리는 거기 있지 않는다고 말하는데 정서적으로 연결돼 있다. 환상적인 일이다.” 그는 나아가 세상을 떠난 예술가의 아바타를 동의 받지 않고 만들어 제작자와 청중 모두를 혼란스럽게 할 수 있다고 말했다. 딥페이크 기술과 결합해 잘못된 정보를 퍼뜨릴 잠재적 위험도 있다고 했다. 안데르손은 “그러나 우리 잘못이라고 할 수는 없는 일”이라고 말했다. 당초 아바 보이지를 위해 지어진 아레나는 런던 운영을 마친 뒤 해체돼 다른 지역으로 옮겨질 것으로 알려졌는데 두 송라이터는 4년의 사용기간이 만료된 뒤 연장되지 않으면 지역사회에 기부하는 방안을 검토하고 있다고 했다. 이에 따라 북미와 아시아 지역에 본뜬 건물을 짓는 방안을 고려하고 있으며 오스트레일리아에까지 가상 콘서트 아레나를 건립하고 싶어한다고 했다. 할리우드 로맨틱 코미디 ‘맘마미아’ 세 번째 편 제작을 고려하고 있다고도 했다. “그저 희망 섞인 생각일 뿐이다.” 두 사람은 1966년부터 알고 지냈으며 새로운 곡을 쓰고 싶다는 열망을 공유하고 있었다. 그렇게 57년이 흘렀다. 둘은 한 번도 다투거나 갈라서지 않았다고 했다. 울바에우스의 말이다. “우리는 다른 견해를 갖고 있다. 많이많이 다르다.” 안데르손의 말이다. “하지만 문제가 되지 않는다. 우리가 함께 이룬 일들이 우리를 함께 묶어준다.”

미국에서 인공지능(AI)으로 만든 가짜 ‘국방부 폭발’ 사진이 돌면서 뉴욕증시에서 주가가 요동쳤다. 진폭은 크지 않았지만 AI 가짜뉴스가 사회 공포를 자극하고, 정치·경제적 타격을 가할 수 있는 실례가 발생한 것이다. 워싱턴포스트(WP)는 22일(현지시간) “블룸버그 피드라는 트위터 계정이 ‘워싱턴DC 펜타곤(국방부 청사) 단지 근처에서 대형 폭발-초기 보고’라는 글과 함께 펜타곤 건물 옆에 거대한 검은 연기 기둥이 있는 이미지를 게시했다”며 “AI가 생성한 가짜 이미지에 (뉴욕증시의) 다우존스30산업평균지수가 4분 만에 85포인트 하락했다 반등하는 등 주식시장이 잠시 요동쳤다”고 보도했다. 사진은 트위터에서 유료 인증을 받은 계정인 ‘@CBKNews121’에 오전 8시 42분쯤 처음 게시됐고, 러시아의 해외 선전매체인 RT가 10시 3분에 “펜타곤 근처에서 폭발 보도가 있다”고 트위터에 썼다. 이어 블룸버그통신과 관련 없는 ‘블룸버그 피드’ 등 가짜뉴스 제조단체들이 확산에 가세했다. 스탠더드앤드푸어스(S&P)500지수는 오전 9시 30분에 0.3% 정도 떨어졌다가 반등했고, 안전자산인 미국 국채와 금의 가격은 반대로 잠시 상승했다. 펜타곤을 담당하는 버지니아주 알링턴 소방서가 오전 10시 27분쯤 “펜타곤이나 그 근처에서 발생한 폭발이나 사건은 아예 없다”고 밝히면서 소동은 진화됐다. 하지만 블룸버그통신은 “AI 가짜뉴스가 시장을 움직인 첫 번째 사례일 가능성이 높다”고 평가했다. 가짜 이미지는 담장이 변형되고 뒤섞인 흔적이 한눈에 보였지만 여파는 작지 않았다. 또 경찰·소방 당국은 소셜미디어를 통한 가짜뉴스의 확산 속도에 뒷북 대응을 할 수밖에 없었다. 이날 백악관에 불이 났다는 가짜 이미지도 돌았다. 미국 공영라디오 NPR은 11달러(약 1만 4500원)에 딥페이크 기술을 적용한 가짜 강의 동영상을 8분 만에 만드는 과정을 소개했다. 미드저니, 챗GPT, 달리E, 스테이블 디퓨전 등 이미지 생성 AI도 다양해진 데다, 달리E는 실제 사람의 얼굴 이미지를 편집할 수 없도록 했던 딥페이크 제한을 지난해 9월 해제했다. 지난달에 도널드 트럼프 전 대통령이 기소당하자 경찰과 몸싸움을 벌이는 가짜 이미지가 퍼졌고, 지난 3월 페이스북은 배우 에마 왓슨과 스칼릿 조핸슨 등 유명 배우들의 딥페이크 성적 광고를 삭제했다. NPR은 “AI로 생성된 딥페이크는 빠르게 진화하지만 정책 입안자들은 이를 따라잡지 못하고 있다”고 지적했다.

미국 워싱턴DC 인근 버지니아주 알링턴카운티에 있는 국방부 청사 펜타곤 근처에서 대형 폭발이 발생했다는 가짜뉴스가 나돌아 금융시장이 일시 출렁였다. 테러 의혹으로까지 이어진 해당 사진은 생성형 인공지능(AI)으로 만든 가짜 사진으로 밝혀졌다. 22일(현지시간) 오전 트위터와 텔레그램 등 각종 SNS에 펜타곤 폭발 현장 사진이 하나 나돌기 시작했다. 사진에는 펜타곤과 닮은 직사각형 건물 주변에서 검은 연기 기둥이 치솟는 모습이 담겨 있었다. 사진은 오전 8시 42분 트위터 유료 인증 계정 ‘@CBKNews121’에 처음 게시됐다. 이 계정에서는 미국 내 음모론자들과 관계가 있는 여러 아이콘, 대표적 음모론 단체인 큐어넌에 대한 지지가 목격됐다. 게시물은 유명 ‘오픈 소스 정보’(OSINT) 관련 계정을 타고 급속도로 확산했다. 전쟁 당사국인 러시아와 우크라이나 매체도 큰 관심을 보였다. 같은날 오전 10시 3분 러시아 해외 선전매체인 RT는 “펜타곤(미국 국방부 청사) 근처에 폭발 보도가 있다”고 트윗했고, 친러 세력은 환호했다. 반대로 우크라이나 나우는 텔레그램을 통해 해당 소식을 속보로 전하며 우려를 표했다. 사진은 트위터 팔로워 65만명으로 블룸버그통신의 헤드라인을 트윗하는 경제뉴스 인플루언서까지 퍼날랐다. 그는 오전 10시 6분쯤 “펜타곤 단지 근처에 대형 폭발”이라는 글을 올렸다가 나중에 삭제했는데, 그 사이 리트윗 수백건이 이뤄졌다. 팔로워 160만명을 보유한 월가의 유명 블로거 ‘제로헤지’도 “펜타곤 근처 폭발”이라는 설명과 함께 사진을 게시했다가 지웠다. 블룸버그 통신과 전혀 관계가 없는 ‘블룸버그 피드’ 등 가짜뉴스 제조단체들도 사진을 퍼뜨리는 데 가세했다.러시아 선전매체도 ‘깜빡’ 속아투자자 동요→금융 시장 일시 출렁AI 가짜사진의 위력 확인되지 않은 SNS발 속보에 일부 투자자들이 동요하면서 금융 시장은 일시 출렁였다. 오전 9시 30분에 개장하는 미 증시의 스탠더드앤드푸어스(S&P) 500 지수는 0.3% 정도 떨어졌다가 회복했다. 이는 시장에 큰 우려가 돌출할 때 나타나는 전형적 현상으로 관측됐다. 위기 때 투자자들이 피신하는 안전자산인 미국 국채와 금의 가격은 반대로 잠시 상승했다. 불안이 확산하자 현지 언론인들이 속속 사실 확인에 나섰다. 블룸버그 수석 에디터 데이비드 요아킴은 자신의 트위터를 통해 “국방부 대변인은 오늘 아침 펜타곤에서 폭발 같은 건 없었다고 했다”며 “가짜 뉴스”라고 밝혔다. 튀르키예 국영방송 TRT 워싱턴 특파원 유누스 팍소이는 직접 찍은 현장 사진과 함께 “펜타곤 폭발은 없다. 가짜 뉴스”라고 전했다. 당국이 개입에 나선 것은 약 2시간 만인 같은 날 오전 10시 27분쯤이었다. 버지니아주 알링턴카운티 소방당국은 공식 트위터를 통해 “SNS 등 온라인에 펜타곤 폭발 관련 정보가 돌고 있으나, 펜타곤 영내는 물론 그 근처에서 그 어떤 폭발이나 사고가 발생하지 않았으며 대중에게 즉각적인 위험은 없다”고 확인했다.전문가들은 이번 소동에 다소 황당한 면이 있다고 분석했다. 디지털자료분석단체 ‘벨링캣’ 조사관 닉 워터스는 “사진을 두고 허둥지둥한 게 아예 납득이 되지 않는다”고 평가했다. 이어 “사진은 진짜 공간이 아닌 까닭에 진짜 위치를 찾을 수 없고 워싱턴DC 어느 곳에도 그런 건물은 없다”고 지적했다. 해당 사진에서는 AI가 이미지를 생성하는 과정에서 건물 앞의 서로 다른 담장이 변형되고 뒤섞인 흔적도 포착됐다. 그러나 이번 사태로 AI발 가짜뉴스 하나가 세상을 어느 정도로 뒤흔들 수 있는지가 재확인됐다. AP통신은 “점점 섬세해지고 접근하기 편한 프로그램이 일상에 가할 수 있는 혼란이 이번 사태에서 부각된다”고 지적했다. 특히 주요 선거를 앞두고 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우 선거 판도에 치명적인 악영향을 끼칠 수 있다는 가능성이 제기된다.미 대선 국면 AI발 허위정보 유포 우려“유권자 맞춤형 허위정보·사진·음성 등장” 20일 영국 가디언은 생성형 AI 작업물은 사람들에게 일방적으로 전달되는 것이 아니라, 실시간 상호작용을 통해 더 설득력 있는 방식으로 표현된다는 점에서 대규모로 선거에 악용될 여지가 있다는 분석이 전문가들 사이에서 나온다고 짚었다. 미국 사이버보안 업체인 ‘레코디드 퓨처’의 알렉산더 레슬리 분석가는 “미국 대선을 앞두고 이런 기술이 더 진보하고, 더 널리 이용 가능해질 수 있다”며 “폭넓은 교육과 인식 개선 없이는 이것이 대선의 진짜 위험요소가 될 수 있다”고 경고했다. 영국 앨런 튜링 연구소의 AI 연구 재단을 맡고 있는 마이클 울드리지 교수도 “AI 기술이 만들어낼 가짜뉴스가 내 가장 큰 걱정거리”라고 말했다. 그는 “영국과 미국에서 선거 일정이 다가오고 있고, 소셜미디어가 허위정보 전달의 강력한 도구라는 점은 이미 알려져 있다”며 “생성형 AI는 이런 가짜뉴스를 산업적인 규모에서 찍어낼 수 있다”고 경고했다. 아주 간단한 프로그래밍 지식만 갖고 있다면, 온라인상 허위 계정들을 만든 후 특정 성향이나 특정 지역의 유권자를 겨냥한 맞춤형 가짜뉴스를 생산해낼 수 있다는 것이다. 샘 올트먼 오픈AI 최고경영자(CEO) 역시 16일 미 의회 청문회에서 “가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력”이라고 우려한 바 있다.실제로 챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 ‘딥페이크’ 동영상 등은 이미 현실과 구분하기 어려울 정도로 높은 수준에 도달하고 있다. 지난 3월에는 성추문 사건과 관련해 체포 전망이 제기되던 가운데 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 AI 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드 발렌시아가 풍의 하얀 패딩 재킷을 입은 허위 이미지도 대중에 실제인 것처럼 인식돼 논란이 벌어진 바 있다. 지난 1월에는 조 바이든 미 대통령의 목소리를 사용해 그가 마치 백악관 회견을 통해 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 AI 영상이 만들어지기도 했다. 뉴스가드 공동CEO인 스티븐 브릴은 “누군가 이런 잘못된 이야기를 고의적으로 대량 생산하기 위해 AI를 활용할 수 있다”고 지적했다.

보이스피싱 범죄에 AI(인공지능) 기술이 악용돼 단 10분 만에 8억 원대의 돈이 이체되는 사건이 발생했다. 22일 신징바오 등 중국 매체들은 최근 푸저우의 한 과학기술개발 전문업체 법인장 궈 모 씨가 지인을 사칭한 피싱범에게 속아 430만 위안(약 8억 6000만 원) 상당의 돈을 한 번에 이체하는 사건이 발생, 관할 바오터우 경찰이 대대적인 수사에 나섰다고 보도했다. 보도에 따르면, 사건 당일 궈 씨는 평소 사업체를 운영하며 큰 도움을 받았던 절친한 지인으로부터 긴급한 자금 이체를 요구하는 영상 통화 한 통을 받았다. 영상 속 지인의 얼굴과 목소리가 평소 알고 지냈던 것과 완전히 일치해 의심할 겨를이 없었던 궈 씨는 영상 속 남성이 요구하는 거액의 돈을 두 차례에 나누어 송금을 완료했다. 하루 만에 마련해 송금하기에는 적지 않은 금액이었기에 잠시 망설였지만, 워낙 평소에 자주 도움을 받아왔던 형편이었고 영상 통화로 얼굴까지 확인했다는 점에서 보이스 피싱 사기범들의 행각일 것이라고는 추호도 의심하지 않은 채 큰돈을 전액 이체했던 것. 이후 궈 씨는 이체 직후 상대방에게 일반 전화로 걸어 송금 사실을 알렸을 때야 비로소 자신이 사기범들에게 속았다는 것을 알아차렸다. 경찰 수사 결과, 이 사기범들은 자산가인 궈 씨의 소셜미디어 계정을 해킹해 해당 SNS에 저장된 궈 씨의 지인으로 가장한 뒤 접근했다. 이 과정에서 범죄자들은 AI 딥페이크와 음색과 억양 등 말투를 위조하는 딥보이스를 악용해 지인을 사칭, 피해자에게 다급한 금전 요구를 하며 돈을 뜯어냈다. 특히 피해자가 쉽게 믿게 하기 위해 일반 음성 통화 대신 고의로 얼굴을 노출 시키는 영상 통화를 시도했고, “현재 해외에서 대형 계약 입찰 중이며 거액의 보증금이 급하다”는 등 궈 씨에게 마치 시각을 다투는 듯한 인상을 남겼다. 다만 불행 중 다행인지, 궈 씨의 신고를 받고 긴급하게 수사에 나선 경찰들이 푸저우와 바오터우 두 곳에 있는 궈 씨 명의와 회사 명의 계좌에 즉시 지급 정지 명령을 내리면서 약 336만 위안(약 6억 3000만 원)의 돈이 인출되는 것을 중도에 막아 피해를 줄였다. 하지만 경찰의 지급 정지 명령 이전에 이미 93만 위안(약 1억 7500만 원)이 피싱범들에게 인출된 것이 확인돼 해당 인출금에 대한 추적 수사를 진행 중인 것으로 전해졌다.