미국 소셜미디어 엑스(X·옛 트위터)에 탑재된 생성형 AI 그록(Grok)을 둘러싸고 비동의 누드 합성 논란이 확산하고 있다. 여성들의 사진을 입력한 뒤 “투명 비키니로 바꿔 달라”와 같은 지시를 내리면 실제 신체와 구분하기 어려운 노출 이미지가 생성된다는 것이다. 피해자들은 “현실과 너무 닮아 더 큰 공포를 느꼈다”고 호소하고 있다. 19일(현지시간) 미국 대중문화·시사 매체 롤링스톤에 따르면, 텍사스에 거주하는 미디어 종사자 켄들 메이스(25)는 최근 X를 둘러보다 자신의 과거 사진이 합성 누드 이미지로 바뀌어 유포되고 있는 사실을 알게 됐다. 그녀가 20대 초반에 올렸던 사진 아래에는 익명의 이용자가 “몸에 밀착된 투명 비키니를 입혀 달라”고 그록에 지시하는 댓글이 달려 있었다. 그록은 해당 지시에 응답했다. 흰색 상의는 사라지고 신체 윤곽이 그대로 드러나는 투명 비키니 이미지가 생성됐다. 청바지 허리선과 벨트는 실처럼 얇은 끈으로 변형됐고 상반신은 마치 실제로 노출된 것처럼 보였다. 메이스는 문제의 계정을 직접 차단했지만 상황은 끝나지 않았다. 이후에도 다른 익명 계정들이 같은 방식으로 그녀의 사진을 합성해 댓글로 달기 시작했다. 일부 계정은 정지됐지만 문제의 이미지 가운데 상당수는 여전히 X에 남아 있는 상태다. 그녀를 더욱 불안하게 만든 것은 이미지의 ‘현실감’이었다. 과장되거나 만화처럼 왜곡된 합성이 아니라 쇄골의 굴곡부터 가슴과 허리 비율까지 실제 자기 몸과 매우 흡사했기 때문이다. 메이스는 “소셜미디어에서는 ‘이건 내가 아니다’라고 말했지만, 솔직히 말해 내 몸과 너무 멀지 않다는 생각이 들었다”고 말했다. ◆ “이건 내가 아닌데…너무 닮았다” 메이스의 사례는 단지 개인의 불운이 아니었다. 새해 첫 주부터 그록의 이른바 ‘나체화(nudification) 허점’이 온라인 전반으로 급속히 확산했다. 이용자들은 “벗겨 달라”, “돌아보게 해 달라”, “살을 더 붙여 달라” 같은 지시를 반복적으로 입력했고 여성은 물론 미성년자 이미지까지 표적이 됐다. 직접적인 노출 표현을 피하기 위해 “투명 비키니”, “살색 바디수트” 같은 우회적 표현도 동원됐다. 롤링스톤이 확인한 사례 가운데에는 여성의 몸을 시신으로 설정해 부검 장면을 생성하도록 요구한 경우도 있었고 그록은 이에 응답했다. 논란이 커지자 플랫폼 소유주 일론 머스크는 초기에는 웃음 이모지로 반응해 비판받았다. 이후 그록을 개발한 xAI는 이미지 생성 기능을 유료 이용자로 제한하고, 불법 콘텐츠에 대해서는 직접 올린 경우와 같은 책임을 묻겠다고 밝혔다. 머스크는 또 “미성년자 누드 이미지가 생성됐다는 사실은 인지하지 못했다”고 주장했다. 그러나 이미 생성된 이미지 상당수는 삭제되지 않은 채 온라인에 남아 있다. 피해자들은 “차단과 신고만으로는 상황이 달라지지 않는다”고 호소한다. 이번 보도는 야후뉴스에도 소개되며 댓글 400여 개가 달리는 등 격론으로 이어졌다. “비동의 합성은 명백한 범죄로, 플랫폼과 이용자 모두 책임을 져야 한다”는 의견이 적지 않은 가운데, “AI 기술의 확산 속도에 법과 제도가 제대로 대응하지 못하고 있다”는 지적도 나왔다. 반면 “사진을 올리지 않으면 피해도 발생하지 않는다”거나 “소셜미디어를 떠나는 것이 현실적인 해법”이라며 개인 책임을 강조하는 반응도 이어졌다. ◆ AI 누드 합성의 확산, 책임은 누구에게 있나 젠더 정의 단체 울트라바이올렛은 애플과 구글에 공개서한을 보내 그록과 X를 앱스토어에서 퇴출할 것을 촉구했다. 이 단체는 “해당 콘텐츠는 모욕적이고 학대적일 뿐 아니라 앱스토어 운영 정책을 명백히 위반한다”고 주장했다. 민주당 상원의원들도 같은 요구를 내놓은 상태다. 블룸버그 통신에 따르면, 연구자들은 한때 그록을 통해 생성된 성적 이미지 수가 24시간 동안 시간당 7,000장을 넘겼다고 분석했다. 울트라바이올렛 측은 “유료 이용자 제한은 해결책이 아니라 학대를 수익화하는 조치”라고 비판했다. ASMR 콘텐츠로 수백만 팔로워를 보유한 크리에이터 엠마(21) 역시 피해를 보았다. 고양이를 안고 찍은 셀피가 노출 이미지로 합성돼 유포된 것이다. 엠마는 “이전에도 딥페이크 피해를 겪었지만, 이번 이미지는 비교할 수 없을 정도로 현실적이었다”고 말했다. 신고 과정에서 신분증 제출을 요구받은 점도 또 다른 부담이었다. 미국 소비자연맹의 AI·프라이버시 책임자 벤 윈터스는 “플랫폼이 신뢰를 잃은 상황에서 피해자에게 추가적인 증명을 요구하는 것은 적절하지 않다”고 지적했다. 법적 대응 움직임도 본격화되고 있다. 미 상원은 비동의 성적 딥페이크 피해자가 민사상 손해배상을 청구할 수 있도록 하는 ‘디파이언스 법(Defiance Act)’을 통과시켰다. 캘리포니아주 검찰도 그록과 관련한 조사에 착수했다. 전문가들은 가해자 처벌과 함께 도구 제공자의 책임을 분명히 해야 한다고 강조한다. 엠마는 “사람들에게 장전된 총을 쥐여주고 마음대로 쓰게 한 것과 다르지 않다”며 “도구가 바뀌면 피해의 규모도 달라진다”고 말했다. AI 이미지 생성 기술이 고도화될수록, 플랫폼의 안전장치와 책임 기준은 피해를 막는 핵심 변수로 떠오르고 있다. 이번 그록 논란은 기술의 속도를 제어하지 못한 사회가 어떤 대가를 치르게 되는지를 보여주고 있다는 지적이 나온다.

미국 소셜미디어 엑스(X·옛 트위터)에 탑재된 생성형 AI 그록(Grok)을 둘러싸고 비동의 누드 합성 논란이 확산하고 있다. 여성들의 사진을 입력한 뒤 “투명 비키니로 바꿔 달라”와 같은 지시를 내리면 실제 신체와 구분하기 어려운 노출 이미지가 생성된다는 것이다. 피해자들은 “현실과 너무 닮아 더 큰 공포를 느꼈다”고 호소하고 있다. 19일(현지시간) 미국 대중문화·시사 매체 롤링스톤에 따르면, 텍사스에 거주하는 미디어 종사자 켄들 메이스(25)는 최근 X를 둘러보다 자신의 과거 사진이 합성 누드 이미지로 바뀌어 유포되고 있는 사실을 알게 됐다. 그녀가 20대 초반에 올렸던 사진 아래에는 익명의 이용자가 “몸에 밀착된 투명 비키니를 입혀 달라”고 그록에 지시하는 댓글이 달려 있었다. 그록은 해당 지시에 응답했다. 흰색 상의는 사라지고 신체 윤곽이 그대로 드러나는 투명 비키니 이미지가 생성됐다. 청바지 허리선과 벨트는 실처럼 얇은 끈으로 변형됐고 상반신은 마치 실제로 노출된 것처럼 보였다. 메이스는 문제의 계정을 직접 차단했지만 상황은 끝나지 않았다. 이후에도 다른 익명 계정들이 같은 방식으로 그녀의 사진을 합성해 댓글로 달기 시작했다. 일부 계정은 정지됐지만 문제의 이미지 가운데 상당수는 여전히 X에 남아 있는 상태다. 그녀를 더욱 불안하게 만든 것은 이미지의 ‘현실감’이었다. 과장되거나 만화처럼 왜곡된 합성이 아니라 쇄골의 굴곡부터 가슴과 허리 비율까지 실제 자기 몸과 매우 흡사했기 때문이다. 메이스는 “소셜미디어에서는 ‘이건 내가 아니다’라고 말했지만, 솔직히 말해 내 몸과 너무 멀지 않다는 생각이 들었다”고 말했다. ◆ “이건 내가 아닌데…너무 닮았다” 메이스의 사례는 단지 개인의 불운이 아니었다. 새해 첫 주부터 그록의 이른바 ‘나체화(nudification) 허점’이 온라인 전반으로 급속히 확산했다. 이용자들은 “벗겨 달라”, “돌아보게 해 달라”, “살을 더 붙여 달라” 같은 지시를 반복적으로 입력했고 여성은 물론 미성년자 이미지까지 표적이 됐다. 직접적인 노출 표현을 피하기 위해 “투명 비키니”, “살색 바디수트” 같은 우회적 표현도 동원됐다. 롤링스톤이 확인한 사례 가운데에는 여성의 몸을 시신으로 설정해 부검 장면을 생성하도록 요구한 경우도 있었고 그록은 이에 응답했다. 논란이 커지자 플랫폼 소유주 일론 머스크는 초기에는 웃음 이모지로 반응해 비판받았다. 이후 그록을 개발한 xAI는 이미지 생성 기능을 유료 이용자로 제한하고, 불법 콘텐츠에 대해서는 직접 올린 경우와 같은 책임을 묻겠다고 밝혔다. 머스크는 또 “미성년자 누드 이미지가 생성됐다는 사실은 인지하지 못했다”고 주장했다. 그러나 이미 생성된 이미지 상당수는 삭제되지 않은 채 온라인에 남아 있다. 피해자들은 “차단과 신고만으로는 상황이 달라지지 않는다”고 호소한다. 이번 보도는 야후뉴스에도 소개되며 댓글 400여 개가 달리는 등 격론으로 이어졌다. “비동의 합성은 명백한 범죄로, 플랫폼과 이용자 모두 책임을 져야 한다”는 의견이 적지 않은 가운데, “AI 기술의 확산 속도에 법과 제도가 제대로 대응하지 못하고 있다”는 지적도 나왔다. 반면 “사진을 올리지 않으면 피해도 발생하지 않는다”거나 “소셜미디어를 떠나는 것이 현실적인 해법”이라며 개인 책임을 강조하는 반응도 이어졌다. ◆ AI 누드 합성의 확산, 책임은 누구에게 있나 젠더 정의 단체 울트라바이올렛은 애플과 구글에 공개서한을 보내 그록과 X를 앱스토어에서 퇴출할 것을 촉구했다. 이 단체는 “해당 콘텐츠는 모욕적이고 학대적일 뿐 아니라 앱스토어 운영 정책을 명백히 위반한다”고 주장했다. 민주당 상원의원들도 같은 요구를 내놓은 상태다. 블룸버그 통신에 따르면, 연구자들은 한때 그록을 통해 생성된 성적 이미지 수가 24시간 동안 시간당 7,000장을 넘겼다고 분석했다. 울트라바이올렛 측은 “유료 이용자 제한은 해결책이 아니라 학대를 수익화하는 조치”라고 비판했다. ASMR 콘텐츠로 수백만 팔로워를 보유한 크리에이터 엠마(21) 역시 피해를 보았다. 고양이를 안고 찍은 셀피가 노출 이미지로 합성돼 유포된 것이다. 엠마는 “이전에도 딥페이크 피해를 겪었지만, 이번 이미지는 비교할 수 없을 정도로 현실적이었다”고 말했다. 신고 과정에서 신분증 제출을 요구받은 점도 또 다른 부담이었다. 미국 소비자연맹의 AI·프라이버시 책임자 벤 윈터스는 “플랫폼이 신뢰를 잃은 상황에서 피해자에게 추가적인 증명을 요구하는 것은 적절하지 않다”고 지적했다. 법적 대응 움직임도 본격화되고 있다. 미 상원은 비동의 성적 딥페이크 피해자가 민사상 손해배상을 청구할 수 있도록 하는 ‘디파이언스 법(Defiance Act)’을 통과시켰다. 캘리포니아주 검찰도 그록과 관련한 조사에 착수했다. 전문가들은 가해자 처벌과 함께 도구 제공자의 책임을 분명히 해야 한다고 강조한다. 엠마는 “사람들에게 장전된 총을 쥐여주고 마음대로 쓰게 한 것과 다르지 않다”며 “도구가 바뀌면 피해의 규모도 달라진다”고 말했다. AI 이미지 생성 기술이 고도화될수록, 플랫폼의 안전장치와 책임 기준은 피해를 막는 핵심 변수로 떠오르고 있다. 이번 그록 논란은 기술의 속도를 제어하지 못한 사회가 어떤 대가를 치르게 되는지를 보여주고 있다는 지적이 나온다.

2006년 10월 11일 오후 3시, 단풍놀이객들의 웃음소리가 번지던 인천 강화군 길상면 선두5리 선착장. 평화롭던 바닷가 풍경은 관광객의 비명 한 마디에 순식간에 공포의 현장으로 돌변했다. 바다 쪽 석축 틈새, 썰물에 드러난 갯벌 위로 하얗게 바랜 물체 하나가 걸려 있었다. 그것은 마네킹도, 바다 쓰레기도 아니었다. 물에 불어 터지고 표피가 벗겨진 사람의 잘린 오른손이었다. 바다는 모든 것을 삼키고 은폐하는 듯 보였지만, 결국 범죄의 흔적을 뭍으로 밀어냈다. ‘고온처리법’으로 바다가 삼킨 지문을 되살려수사 초기, 경찰은 난관에 봉착했다. 발견된 손목은 장기간 해수에 노출되어 부패와 팽창이 심각했다. ‘말 없는 증거’인 시신의 신원을 밝히는 것이 급선무였으나, 통상적인 지문 감식법으로는 신원 확인이 불가능했다. 익사체에 주로 사용하는 실리콘 주입법조차 통하지 않을 만큼 피부 조직은 훼손되어 있었다. 반경 5km를 이 잡듯 뒤졌지만 나머지 시신은 발견되지 않았고, 목격자도 없었다. 사건은 미궁으로 빠져드는 듯했다. 이때 국립과학수사연구원은 ‘도박’에 가까운 결단을 내린다. 바로 ‘고온 처리법(High-Temperature Treatment)’이었다. 훼손된 피부를 뜨거운 물에 담가 순간적으로 팽창시킴으로써 쭈그러든 지문의 융선을 되살리는 고난도 기술이었다. 자칫하면 유일한 증거인 피부 조직이 끓는 물 속에서 완전히 훼손될 수도 있어서 모험에 가까운 시도였다. 실패를 거듭한 9일간의 사투 끝에 기적이 일어났다. 중지에서는 활 모양의 궁상문(弓狀紋)이, 약지에서는 말굽 모양의 제상문(蹄狀紋)이 선명하게 떠올랐다. 이를 2,000여 건의 실종자 데이터와 대조한 결과, 손목의 주인은 경기도 고양시에 거주하던 44세 여성 박 모 씨로 밝혀졌다. 과학수사가 만들어낸 첫 번째 반전이었다. 완벽해 보이는 알리바이, 디지털 증거물에 발목이…신원이 확인되자 수사는 급물살을 탔다. 피해자 박 씨는 손목이 발견되기 약 한 달 전인 9월 19일, 남편 김 모 씨에 의해 실종 신고가 된 상태였다. 남편 김 씨는 경찰 조사에서 “아내가 내연남과 바람이 나서 가출했다”며 구체적인 정황까지 진술했다. 치정에 의한 가출로 위장해 수사망을 피하려던 연막전술이었다. 경찰은 즉시 내연남으로 지목된 이 모 씨(37)를 용의선상에 올렸다. 박 씨와 9월 한 달간 145회나 통화했을 정도로 깊은 관계였기 때문이다. 그러나 디지털 증거는 그를 범인이 아니라고 가리키고 있었다. 이 씨는 박 씨가 실종된 후 연락이 닿지 않자 이동통신사의 ‘친구 찾기’ 서비스를 이용해 박 씨의 위치를 조회한 기록이 확인됐다. 또한 그의 휴대폰 위치 추적 결과, 시신 유기 장소인 강화도 인근에는 접근한 적도 없었다. 수사의 칼끝은 다시 남편 김 씨를 겨냥했다. 남편은 9월 19일 가출 신고를 했음에도 불구하고, 열흘 뒤인 9월 30일까지 아내와 통화한 기록이 발견되는 모순을 보였다. 결정적으로 사건 발생 이틀 뒤인 10월 4일, 김 씨의 휴대폰 위치 신호가 시신이 발견된 강화도와 김포대교 일대에서 포착됐다. 디지털 데이터는 남편이 거짓말을 하고 있음을 명확히 가리키고 있었다. 헛다리가 짚어낸 결정적 단서, ‘피 묻은 청바지’의 나비효과심증과 정황 증거는 확보했지만, 김 씨를 옭아맬 직접적인 물증이 부족했다. 이때 수사팀에게 뜻밖의 제보가 들어왔다. 박 씨가 살던 아파트 헌 옷 수거함에서 피가 잔뜩 묻은 청바지와 이불을 수거해 갔다는 업자의 진술이었다. 형사들은 직감적으로 이것이 결정적 증거라 판단하고 수거 업체를 덮쳤다. 피 묻은 이불과 청바지를 확보해 국과수에 감정을 의뢰했다. 그러나 결과는 허탈했다. 묻어있던 피는 사람의 것이 아닌 ‘동물 혈흔’으로 판명 났다. 수사관들의 기대가 무너지는 순간이었다. 하지만 이 ‘오인된 단서’는 역설적으로 사건 해결의 결정적 열쇠가 되었다. 동물 피라는 결과가 나오기 전, 형사들은 “만약 범인이 옷과 이불을 헌 옷 수거함에 버렸다면, 그 장면이 CCTV에 찍히지 않았을까?”라는 생각에 도달했다. 형사들은 즉시 아파트 CCTV 500시간 분량을 확보해 분석에 들어갔다. 당시 CCTV 보존 기한은 얼마 남지 않은 상태였다. 만약 동물 피라는 결과에 실망해 수사를 멈칫했다면, 불과 8일 뒤 자동 삭제될 운명이었던 영상은 영영 사라졌을 것이다. 형사들의 끈질긴 집념이 시간을 앞지른 셈이다. 500시간의 영상 속, 사라진 아내와 이불 짐지루한 CCTV 판독 끝에 충격적인 진실이 모니터 위로 떠올랐다. 10월 2일 오전 10시 10분, 남편 김 씨의 주장(9월 19일 가출)과는 달리 박 씨와 김 씨가 나란히 엘리베이터를 타고 집으로 올라가는 모습이 포착됐다. 이것이 세상에 남겨진 박 씨의 마지막 모습이었다. 그로부터 몇 시간 뒤, 남편 김 씨가 묵직해 보이는 이불 보따리를 힘겹게 짊어지고 내려와 승합차에 싣는 장면이 확인됐다. 이어 검은 비닐봉지와 아내의 핸드백을 들고 나가 차에 싣고 황급히 떠나는 모습도 고스란히 찍혔다. 완벽한 알리바이를 주장하던 김 씨의 가면이 벗겨지는 순간이었다. 10월 25일 새벽, 경찰은 아파트 지하 주차장에서 김 씨를 긴급 체포했다. 차량과 집안 내부를 대상으로 루미놀 반응 검사를 실시하자 화장실 배수구와 차량 내부에서 혈흔 반응이 형광색으로 번뜩였다. 명백한 증거 앞에 태연하던 김 씨는 결국 무너져 내렸다. 엇나간 집착이 부른 비극, 그리고 청테이프로 가려진 눈김 씨의 자백을 통해 드러난 사건의 전말은 참혹했다. 김 씨는 아내의 외도 문제로 갈등을 빚어왔다. 김 씨는 아내의 마음을 돌리기 위해 내연남 앞에 무릎까지 꿇었으나, 아내는 이혼을 요구했다. 사건 당일, 이혼 서류를 떼고 돌아온 집에서 아내가 내연남을 두둔하며 자신을 비난하자 격분한 김 씨는 아내의 목을 졸라 살해했다. 그는 인테리어 업자라는 직업적 숙련도를 살인에 이용했다. 집 안에 있던 공구로 화장실에서 시신을 훼손했다. 손과 발은 강화도 갯벌에, 몸통은 김포대교 아래 한강에 유기했다. 가장 충격적인 사실은 머리의 행방이었다. 김 씨는 아내의 머리를 검은 봉지에 싸서 무려 12일 동안이나 자신의 승합차에 싣고 다녔다. 차에 가족을 태우고 다닐 때도 머리는 그곳에 있었다. 이후 부패 냄새가 진동하자 그는 자신이 운영하는 인테리어 가게 지하 보일러실 깊숙이 이를 숨겼다. 경찰이 보일러실에서 머리를 수습했을 때, 피해자의 눈에는 청테이프가 칭칭 감겨 있었다. 김 씨는 “죽은 아내가 눈을 뜨고 있는 것이 무서워서 가렸다”고 진술했다. 이는 범죄 심리학적으로 ‘시각적 부정(Visual Denial)’이라 불린다. 사체를 훼손하면서도 죄책감과 공포를 견디지 못해 피해자의 시선을 차단하려 한 방어기제였다. 남편 김 씨는 살인 및 사체유기 혐의로 징역 15년을 선고받았다. 사건은 해결됐지만, 남겨진 상처는 깊었다. 현장 검증 당시 아들은 “아버지는 절대 그럴 분이 아니다”라며 오열하다가, 모든 진실이 밝혀진 뒤 아버지 품에 안겨 “어머니도 불쌍하고 아버지도 불쌍하다”며 통곡해 수사관들의 눈시울을 붉히게 했다.

연세대학교 치과대학 학생들이 실습 결과물을 포토샵으로 조작하거나 서로의 과제를 베껴 제출하는 등 집단 부정행위를 저질러 징계를 받은 사실이 알려졌다. 13일 SBS에 따르면 지난해 2학기 연세대 치과대학 신경치료 실습수업을 수강한 본과 4학년 학생들 가운데 약 60%가 실제와 다른 사진을 과제로 제출한 정황이 확인됐다. 해당 수업 수강생은 총 59명으로, 이 가운데 34명이 사진을 조작하거나 다른 학생의 결과물을 그대로 베껴 제출한 것으로 조사됐다. 이들은 치과의사 국가시험을 앞둔 학년이며, 치과대학병원 내 원내생 진료실에서 교수 지도 아래 환자를 직접 치료하는 신분이다. 문제가 된 과제는 신경치료 후 치아 뿌리 상태를 엑스레이로 촬영해 제출하는 방식이었다. 원본 사진에서는 충전재가 충분히 채워지지 않아 빈 곳이 남아 있었지만, 제출본에서는 이런 흔적이 삭제돼 치료가 완벽히 끝난 것처럼 보이도록 처리된 것으로 나타났다. 학교는 실습 사진 원본 제출과 경위서(진술서) 작성을 요구한 뒤 징계위원회를 열었다. 이에 따라 다른 학생의 실습 사진을 베낀 5명은 근신 2주, 포토샵으로 사진을 조작한 29명은 봉사활동 20시간 처분을 받았다. 징계 수위를 두고 반응은 엇갈렸다. 일부 재학생들은 학내 커뮤니티 등에서 “모형치 실습이었다”, “형식상 과제를 놓고 공중파에서 부정행위라는 둥 호들갑”이라는 취지로 논란이 과도하다고 주장했다. 반면 온라인상에서는 “예비 의료인이 결과를 조작한 행위를 가볍게 볼 수 없다”, “의료사고의 출발점이 될 수 있다”는 비판과 함께 처벌이 가볍다는 지적이 이어졌다. 의사윤리강영에 따르면 ▲의사는 새로운 의학지식·기술의 습득과 전문직업성 함양에 노력하며 ▲의료정보의 객관성과 신뢰성 확보를 위해 노력하며 ▲개인적 이익과 이해상충을 적절히 관리함으로써 환자와 사회의 신뢰를 유지해야 한다. 이번 논란과 관련해 연세대 치과대학 측은 “학생들의 자진 신고로 구체적인 사실을 파악해 징계위원회를 열고 조처했다”며 “재발 방지를 위해 전문직 윤리 교육을 강화하겠다”고 밝혔다. 이번 사건은 지난해 생성형 인공지능(AI) 활용 부정행위 논란에 이어 연세대에서 또 한 번 대규모 부정행위가 드러난 사례로, 학업 윤리 관리 체계 전반을 점검해야 한다는 목소리도 나온다.

일본 도쿄의 한 연예기획사 대표가 여중생과 성관계를 맺고 영상을 촬영해 성인물(AV)로 판매한 혐의로 체포됐다. 그의 자택에서는 1700여개의 불법 촬영 영상이 발견됐으며, 1년도 안 되는 기간에 최소 1000만엔(약 9200만원)의 수익을 올린 것으로 드러났다. 아사히신문은 9일 일본 경시청이 도쿄 시부야구에 위치한 한 연예기획사 대표로 활동 중인 용의자를 체포했다고 보도했다. 그는 지난해 7월 초 도쿄 신주쿠구 가부키초의 한 호텔에서 여중생이 16세 미만인 줄 알면서도 현금 4만엔(약 37만원)을 주고 성관계를 맺고 이를 촬영해 성인물로 판매한 혐의를 받고 있다. AV 출연피해방지·구제법 위반 혐의도 함께 적용됐다. 2022년 6월 만들어진 이 법은 영상 제작·배포 측이 촬영할 성행위 내용을 명시한 계약서를 나이나 성별에 관계없이 출연자에게 반드시 전달하도록 의무화했다. 이를 어기면 6개월 이하의 징역 또는 100만엔(약 920만원) 이하의 벌금을 받을 수 있다. 용의자는 피해자에게 “얼굴은 인공지능(AI)으로 가공한다”고 말했지만, 실제로는 가공이 거의 이뤄지지 않아 누구인지 특정할 수 있는 상태였다. 그는 본인만 얼굴을 가린 채 여중생의 상대역으로 출연했다. 사건은 지난해 7월 중순 경시청 소년육성과 직원이 가부키초 토요코 주변에서 배회하던 여중생을 보호해 조사하던 중 드러났다. 용의자는 지난해 7월경부터 가부키초에서 여성들에게 접근하거나 소셜미디어(SNS)로 유인해 같은 방식으로 성인물 촬영을 반복해온 것으로 조사됐다. 그는 조사에서 “내가 직접 감독과 남자 배우를 했다. 성욕을 참지 못했다”고 말했다. 경찰은 그가 지난해 1월부터 10월까지 최소 1000만엔을 번 것으로 보고 있다. 집에서 압수한 하드디스크에는 10~20대로 보이는 여성이 나오는 음란 영상이 최소 1700개 들어 있었다. 경찰은 이 영상들이 어떻게 만들어졌는지 조사하고 있다. 용의자가 대표로 활동했던 연예기획사는 팬클럽 운영과 이벤트 제작 등을 담당했다. 현재는 삭제됐지만 용의자는 홈페이지에서 “교토대학 공학부 출신이라는 이색 경력을 가진 프로듀서”로 소개됐다. 이 회사는 이날 홈페이지를 통해 “사태의 심각성을 고려해 이미 해고·해임했다. 사실관계 확인을 진행하고 사내 체제 재정비 및 컴플라이언스 강화로 재발 방지에 힘쓰겠다”는 입장을 밝혔다.

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 ‘그록’이 비키니 수영복 등을 입은 아동의 이미지를 게시해 논란이다. 2일(현지시간) 그록의 엑스(X·옛 트위터) 공식 계정에 따르면 이 챗봇은 최근 ‘최소한으로 옷을 입은 미성년자’를 묘사한 사진을 여러 건 게시했다. 이들 사진은 일부 이용자들의 요청에 따라 생성된 것으로, 이 가운데는 1∼2세 영유아로 보이는 아동 사진도 포함된 것으로 나타났다. 그록은 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 ‘안전장치’를 마련하고 있으나, 일부가 이를 우회한 것으로 보인다. 그록은 한 이용자가 문제를 제기하자 “안전장치의 허점을 확인했다”며 “긴급히 수정 중”이라고 밝히고, 문제가 된 사진을 삭제했다. 비록 xAI 측은 안전장치 상의 문제라고 설명했으나, 일각에서는 그록이 그간 성적 콘텐츠를 허용하는 방식으로 이용자를 늘려온 점을 지적한다. 챗GPT와 제미나이, 클로드 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격히 금지하고 있지만, 그록은 ‘표현의 자유’ 등을 내세워 이를 막지 않고 있다. 지난해 8월 이미지·영상 생성 모델을 출시하면서 성적인 이미지를 생성할 수 있는 이른바 ‘매운맛 모드’(Spicy Mode)도 함께 내놓은 것이 대표적인 사례다. 이 때문에 그록은 당시에도 유명 연예인을 성적으로 묘사하는 딥페이크 영상을 생성하는 도구가 되고 있다는 비판을 받았다. 성인물을 뜻하는 ‘xxxAI’라는 불명예스러운 별명을 얻기도 했다. 그록이 이처럼 검열을 최소화한 방식으로 인기를 끌자 샘 올트먼 오픈AI 최고경영자(CEO)도 챗GPT에 성인 인증을 받은 이용자들이 성적 콘텐츠를 이용할 수 있도록 하는 기능을 도입하겠다고 지난 10월 밝히기도 했다. 그러나 아동을 성적으로 대상화하는 성 착취물의 생성이나 소지 등은 미 연방법에 따라 금지돼 있어, 성인을 대상으로 한 기능에서도 허용될 수 없다. xAI는 주요 외신들의 논평 요청에 대해 “기성 언론은 거짓말을 한다”(Legacy Media Lies)고 답했는데, 이는 언론사의 이메일에 대한 자동응답 답변이라고 CNBC는 설명했다.

중국의 동영상 플랫폼인 콰이쇼우에서 라이브 방송 도중 음란물 등이 무방비로 노출되는 사고가 발생했다. 지난 24일 홍콩 사우스차이나모닝포스트(SCMP) 등에 따르면 지난 9일 오후 10시쯤 해킹 공격으로 인해 추천 라이브 방송 중 한 시간가량 음란물이 노출됐다. 이 중 일부 방송의 시청자 수는 5만명을 넘어섰다. 콰이쇼우는 관련 영상에 대한 대규모 삭제 작업과 함께 라이브 방송 기능을 일시 중단했다. 콰이쇼우 측은 이번 사고의 배후로 이른바 사이버 범죄 조직을 지목했다. 중국 사이버보안 기업 웹레이(WebRAY)의 윌리엄 웨이 부사장은 “이번 사고는 사이버 보안이 기업의 생명줄이라는 점을 보여주는 사건”이라며 “최근 해킹의 동기가 금전적 이익에서 시스템 파괴로 이동하고 있다”고 밝혔다. 데이비드 입 홍콩 중국 네트워크보안협회 설립자 겸 회장도 “콰이쇼우는 핵심 라이브 스트리밍 시스템을 보호할 기본적인 위협 탐지·대응 체계가 부족했다”고 지적했다. 입 회장은 최근 국내에서 발생한 쿠팡 대규모 해킹 사건을 직접적으로 언급하며 AI 기술의 발전으로 대규모 계정 해킹이 훨씬 쉬워진 상황에서 데이터 전반에 대한 전면적인 보안 점검의 필요성을 강조했다. 한편 콰이쇼우는 중국 내 하루 평균 활성 이용자 수(DAU) 4억 1600만명을 보유한 숏폼 플랫폼으로, 바이트댄스의 ‘더우인’에 이어 두 번째로 규모가 크다. 이번 사고 여파로 이날 콰이쇼우의 주가는 장중 최대 6%까지 하락했다.

미 법무부가 제프리 엡스타인 관련 자료를 공개한 이후 도널드 트럼프 대통령이 한 소녀와 함께 있는 것으로 보이는 사진이 소셜미디어를 통해 빠르게 확산됐다. 일부 게시물은 “공개 과정에서 삭제되지 않은 사진”이라며 의혹을 제기했지만, 주요 외신은 해당 이미지를 사실로 보도하지 않았다. 미국의 팩트체크 전문 매체 스노프스는 23일(현지시간) “엡스타인 파일 공개 이후 온라인에 퍼진 해당 사진이 실제라는 증거는 없다”고 밝혔다. 문제의 사진은 사설 제트기 내부로 보이는 공간에서 트럼프 대통령과 얼굴이 가려진 소녀가 함께 있는 장면을 담고 있다. 그러나 사진 오른쪽 상단에 표시된 날짜와 시간 표기는 비정상적이며 원본 출처 역시 확인되지 않았다. 스노프스는 “카메라 오류일 가능성을 배제할 수는 없지만, 인공지능(AI)으로 생성됐거나 의도적으로 편집됐을 가능성도 있다”며 “현재로서는 어느 쪽도 단정할 수 없다”고 설명했다. 해당 이미지는 엑스(X·옛 트위터)와 유튜브를 운영하는 한 개인 계정을 통해 처음 확산된 것으로 파악됐다. 이 계정은 자극적인 이미지와 문구를 썸네일에 반복적으로 사용하는 등 주목도를 높이는 방식의 콘텐츠를 지속적으로 게시해온 것으로 알려졌다. 스노프스는 “문제의 이미지는 영상 썸네일로만 사용됐고, 실제 영상 본문에서는 제시되지 않았다”며 “사실 전달보다는 조회 수를 염두에 둔 연출 성격이 강하다”고 지적했다. ◆ 주요 외신, 사진 자체는 다루지 않아 엡스타인 파일 공개를 둘러싼 논란과 관련해 로이터통신과 AP통신 등 주요 외신은 미 법무부가 일부 자료를 삭제했다가 복원한 사실, 공개 범위를 둘러싼 정치·법적 논쟁을 집중 보도했다. 그러나 이들 보도에는 문제의 ‘트럼프와 소녀 사진’은 포함되지 않았다. 외신들은 피해자 신원 보호 문제로 자료가 조정됐다는 점만 전했을 뿐, 해당 이미지가 공식 문서에 존재했다는 근거는 제시하지 않았다. 스노프스는 “해당 이미지가 실제이고 공적 기록에 포함돼 있었다면, 신뢰할 만한 언론이 이미 이를 보도했을 가능성이 크다”고 밝혔다. 실제로 공개 자료와 검색 결과를 검토한 결과, 해당 사진이 공식 엡스타인 파일에 포함됐다는 확인 가능한 기록은 발견되지 않았다. ◆ 댓글 2400개…진위 논쟁 넘어선 ‘불신의 확산’ 해당 기사에는 게시 10시간 만에 2400개가 넘는 댓글이 달리며 격렬한 논쟁이 이어졌다. 댓글 상당수는 사진의 진위 여부보다 AI 기술 확산으로 무엇도 쉽게 믿기 어려워진 현실 자체에 대한 불안을 드러냈다. 한 이용자는 “이제는 직접 보고 듣지 않으면 아무것도 믿을 수 없는 세상에 들어선 것 같다”며 “AI 때문에 모든 정보를 의심해야 한다”고 적었다. 또 다른 이용자는 “누군가의 얼굴이나 목소리를 얼마든지 조작할 수 있는 시대”라며 “증거의 기준이 무너지고 있다”고 지적했다. 일부 댓글은 사진이 조작일 가능성을 인정하면서도 “설령 가짜라 해도 사람들이 실제일 수 있다고 느끼는 것 자체가 더 심각하다”는 반응을 보였다. 반면 “출처가 불분명한 이미지를 사실처럼 소비하는 것은 오히려 진실 규명을 해친다”는 반박도 적지 않았다. ◆ 반복되는 허위 이미지 논란, 커지는 팩트체크의 역할 스노프스는 과거에도 트럼프 대통령이 미성년자와 함께 있는 것처럼 보이는 사진들이 허위 또는 조작 이미지로 판명된 사례가 여러 차례 있었다고 설명했다. 이 매체는 엡스타인과 트럼프의 과거 관계는 외신이 꾸준히 다뤄왔지만, 온라인에서 확산되는 이미지 상당수는 사실과 무관하다는 점도 강조했다. 전문가들은 이번 사례가 “AI 시대에 확인되지 않은 이미지가 얼마나 빠르게 확산되고 또 얼마나 쉽게 정치적 해석의 도구로 소비되는지를 보여준다”며 “팩트체크의 중요성이 더욱 커지고 있다”고 지적한다.

미 법무부가 제프리 엡스타인 관련 자료를 공개한 이후 도널드 트럼프 대통령이 한 소녀와 함께 있는 것으로 보이는 사진이 소셜미디어를 통해 빠르게 확산됐다. 일부 게시물은 “공개 과정에서 삭제되지 않은 사진”이라며 의혹을 제기했지만, 주요 외신은 해당 이미지를 사실로 보도하지 않았다. 미국의 팩트체크 전문 매체 스노프스는 23일(현지시간) “엡스타인 파일 공개 이후 온라인에 퍼진 해당 사진이 실제라는 증거는 없다”고 밝혔다. 문제의 사진은 사설 제트기 내부로 보이는 공간에서 트럼프 대통령과 얼굴이 가려진 소녀가 함께 있는 장면을 담고 있다. 그러나 사진 오른쪽 상단에 표시된 날짜와 시간 표기는 비정상적이며 원본 출처 역시 확인되지 않았다. 스노프스는 “카메라 오류일 가능성을 배제할 수는 없지만, 인공지능(AI)으로 생성됐거나 의도적으로 편집됐을 가능성도 있다”며 “현재로서는 어느 쪽도 단정할 수 없다”고 설명했다. 해당 이미지는 엑스(X·옛 트위터)와 유튜브를 운영하는 한 개인 계정을 통해 처음 확산된 것으로 파악됐다. 이 계정은 자극적인 이미지와 문구를 썸네일에 반복적으로 사용하는 등 주목도를 높이는 방식의 콘텐츠를 지속적으로 게시해온 것으로 알려졌다. 스노프스는 “문제의 이미지는 영상 썸네일로만 사용됐고, 실제 영상 본문에서는 제시되지 않았다”며 “사실 전달보다는 조회 수를 염두에 둔 연출 성격이 강하다”고 지적했다. ◆ 주요 외신, 사진 자체는 다루지 않아 엡스타인 파일 공개를 둘러싼 논란과 관련해 로이터통신과 AP통신 등 주요 외신은 미 법무부가 일부 자료를 삭제했다가 복원한 사실, 공개 범위를 둘러싼 정치·법적 논쟁을 집중 보도했다. 그러나 이들 보도에는 문제의 ‘트럼프와 소녀 사진’은 포함되지 않았다. 외신들은 피해자 신원 보호 문제로 자료가 조정됐다는 점만 전했을 뿐, 해당 이미지가 공식 문서에 존재했다는 근거는 제시하지 않았다. 스노프스는 “해당 이미지가 실제이고 공적 기록에 포함돼 있었다면, 신뢰할 만한 언론이 이미 이를 보도했을 가능성이 크다”고 밝혔다. 실제로 공개 자료와 검색 결과를 검토한 결과, 해당 사진이 공식 엡스타인 파일에 포함됐다는 확인 가능한 기록은 발견되지 않았다. ◆ 댓글 2400개…진위 논쟁 넘어선 ‘불신의 확산’ 해당 기사에는 게시 10시간 만에 2400개가 넘는 댓글이 달리며 격렬한 논쟁이 이어졌다. 댓글 상당수는 사진의 진위 여부보다 AI 기술 확산으로 무엇도 쉽게 믿기 어려워진 현실 자체에 대한 불안을 드러냈다. 한 이용자는 “이제는 직접 보고 듣지 않으면 아무것도 믿을 수 없는 세상에 들어선 것 같다”며 “AI 때문에 모든 정보를 의심해야 한다”고 적었다. 또 다른 이용자는 “누군가의 얼굴이나 목소리를 얼마든지 조작할 수 있는 시대”라며 “증거의 기준이 무너지고 있다”고 지적했다. 일부 댓글은 사진이 조작일 가능성을 인정하면서도 “설령 가짜라 해도 사람들이 실제일 수 있다고 느끼는 것 자체가 더 심각하다”는 반응을 보였다. 반면 “출처가 불분명한 이미지를 사실처럼 소비하는 것은 오히려 진실 규명을 해친다”는 반박도 적지 않았다. ◆ 반복되는 허위 이미지 논란, 커지는 팩트체크의 역할 스노프스는 과거에도 트럼프 대통령이 미성년자와 함께 있는 것처럼 보이는 사진들이 허위 또는 조작 이미지로 판명된 사례가 여러 차례 있었다고 설명했다. 이 매체는 엡스타인과 트럼프의 과거 관계는 외신이 꾸준히 다뤄왔지만, 온라인에서 확산되는 이미지 상당수는 사실과 무관하다는 점도 강조했다. 전문가들은 이번 사례가 “AI 시대에 확인되지 않은 이미지가 얼마나 빠르게 확산되고 또 얼마나 쉽게 정치적 해석의 도구로 소비되는지를 보여준다”며 “팩트체크의 중요성이 더욱 커지고 있다”고 지적한다.

성평등가족부가 고용평등임금공시제 도입을 위해 내년 중으로 법적 근거를 마련하고 공시 시스템을 구축한다. 청년 세대 내에 있는 성별 인식 격차를 완화하기 위한 공론장도 운영한다. 원민경 성평등부 장관은 이날 정부서울청사에서 열린 대통령 업무보고에서 “노동시장 전반에 공정과 성평등의 기준을 세워나가는 고용평등임금공시제를 도입하겠다”고 밝혔다. 현행 공공부문을 중심으로 운영되는 ‘성별근로공시제’를 공공과 민간을 포괄해 단계적으로 확대하는 ‘고용평등임금공시제’로 개선하는 것이다. 조직 내 임금·고용의 성별 현황과 구조를 체계적으로 공개해 기업의 자율적 노력을 유인하는 취지다. 성별 인식격차 완화를 위해 청년이 직접 성별 불균형에 대한 대안을 마련하고 정책화하는 공론장인 ‘청년 공존·공감 네트워크’도 내년부터 운영한다. 8개 부처에 설치된 성평등 정책 전담 부서도 전 부처로 확대할 방침이다. 또한 지역 성평등 환경을 조성하기 위해 양성평등센터의 법적 근거를 마련해 17개 시·도로 단계적 확대를 추진한다. 디지털 성범죄에 대응하기 위해 디지털성범죄 피해 통합지원단(통합지원단)도 설치한다. 기존 디지털성범죄피해자지원센터는 인력을 10명 늘리는 한편 통합지원단에선 방송미디어통신심의위원회, 경찰청 등 유관기관과 협력한다. 이를 위해 내년 중으로 관계부처와 협의한 후 설치와 운영 근거를 마련할 예정이다. 기존 삭제 지원에 더해 직접 접속을 차단하고 수사를 요청하는 방안이 추가되는 것이다. 온라인 성착취물에 대해선 인공지능(AI) 기반 대응 시스템을 고도화해 아동 및 청소년 온라인 성착취 유인 정보와 성착취물을 자동으로 수집·분석·신고하는 등 선제적으로 대응한다. 성평등부는 또한 가정과 학교 안팎 여부와 관계없이 모든 청소년에게 동등한 지원을 제공할 방침이다. 보호자로부터 이탈된 가정 밖 청소년을 조기에 발굴해 쉼터 등에서 종합 서비스를 받을 수 있도록 한다. 시설 퇴소 후 자립정착금 지원도 확대한다. 학교 밖 청소년에 대해선 수능 모의평가 응시료 지원 및 급식 지원 확대, 건강검진 지원절차 간소화 등을 추진한다. 양육과 돌봄 지원 강화에도 나선다. 공공돌봄서비스인 ‘아이돌봄서비스’ 정부 지원 기준을 중위소득 200% 이하에서 250% 이하로 확대한다. 취약가구에 대한 지원 시간은 연 960시간에서 1080시간으로 늘린다. 내년 4월부터는 아이돌봄사 국가자격제와 민간 돌봄서비스 제공기관 등록제를 시행한다. 원 장관은 “그동안 축소되었던 성평등 정책을 조속히 복원하고 후퇴했던 시간만큼 더 빠르게 앞으로 전진하겠다”며 “국제사회에서 대한민국 위상에 걸맞은 실질적 성평등 국가로 거듭날 수 있도록 새로운 도약과 회복의 역사를 국민과 함께 만들어 가겠다”고 말했다.

기업가치가 최대 1조 달러에 달하는 인공지능(AI) 기술 기업 오픈AI의 샘 알트먼 최고경영자(CEO)가 자신을 상반신 노출 소방관으로 그린 AI 합성 달력 이미지를 공개해 논란이 일고 있다. 네티즌들은 달력의 날짜 오류를 지적하며 “전기와 물을 써서 가짜 복근을 만들었다”는 등 비판적인 반응을 보였다. 알트먼이 17일(현지시간) 자신의 엑스(X)에 공개한 사진에는 크리스마스 장식을 배경으로 복근을 드러낸 소방관 차림으로 달력 모델처럼 포즈를 취한 모습이 담겼다. 이 사진은 실제가 아니라 챗GPT의 이미지 생성 도구로 만든 AI 이미지다. 알트먼은 사용자들이 이제 챗GPT에서 직접 맞춤형 이미지를 만들 수 있다는 최신 기능을 소개하기 위해 이 사진을 게시했다. 이 게시물은 즉각적인 관심을 끌며 하루 만에 조회수 360만회를 넘어섰다. 하지만 네티즌들의 반응이 모두 우호적인 건 아니었다. 가장 많이 지적된 부분은 달력의 날짜 오류였다. 이달 1일은 월요일이지만, 알트먼이 올린 달력에서는 1일이 목요일로 표시됐다. 한 네티즌은 “당신네 시스템은 달력조차 제대로 못 만드나? 그런데도 다른 사람들의 전기와 물을 써서 가짜 복근을 만든 것을 자랑스러워하나?”라고 비판했다. 다른 누리꾼들도 “샘, 아직 늦지 않았으니 이거 삭제해”, “이런 것 때문에 전기 요금이 30% 더 오르는 건 원치 않는다” 등의 반응을 보였다. 일부 네티즌들은 알트먼의 복근을 가리기 위해 티셔츠나 소방관 옷을 덧입힌 이미지를 만들어 올리기도 했다.

가짜 폭력 피해 영상을 콘텐츠로 인공지능(AI) 기술이 만들어낸 ‘멍든 얼굴’이 중국 소셜미디어(SNS)에서 유행처럼 번지고 있다. 얼굴에 타박상과 상처를 합성한 가정폭력 피해자 연출 영상이 중국 숏폼 영상 플랫폼을 중심으로 확산하며 온라인 여론이 들끓고 있다. 12일 중국 언론 지우파이신문에 따르면 최근 중국 SNS에서는 특정 AI 효과를 활용한 가정폭력 연출 영상이 다수 게시됐다. 해당 기능을 사용하면 얼굴에 멍과 상처가 덧입혀지고, 일부 영상에는 “남편한테 맞았다”는 자막이나 슬픈 음악이 함께 삽입돼 있다. 겉보기엔 실제 피해자를 연상케 하지만, 대부분은 사용자가 재미나 관심을 끌기 위해 제작한 가짜 영상이다. 이에 대해 누리꾼들은 “가정폭력을 오락거리로 소비했다”, “진짜 피해자들의 고통을 희화화한 것”이라며 강하게 반발하고 있다. 이 영상들을 접한 일부 이용자들은 “가정폭력을 콘텐츠로 소비하는 것 자체가 2차 가해”라며 비판의 목소리를 높였다. 이들은 “실제 피해자가 도움을 요청해도, 이런 영상들 때문에 관심을 끌기 위한 행동으로 오해받아 외면당할 수 있다”는 우려도 제기했다. 논란이 커지자 해당 영상이 게시된 플랫폼은 관련 AI 효과를 비공개 처리했다. 12일 기준, 기존 영상 일부는 여전히 조회 가능하지만 문제의 효과에서 상처를 합성하는 기능은 삭제된 상태다. 플랫폼 측은 고객센터를 통해 “해당 효과는 폭력을 오락화할 소지가 있어 부적절하다고 판단했다”며 “AI 콘텐츠 역시 플랫폼 가이드라인을 준수해야 하며, 신고가 접수될 경우 신속히 조치하겠다”고 밝혔다.

가짜 폭력 피해 영상을 콘텐츠로 인공지능(AI) 기술이 만들어낸 ‘멍든 얼굴’이 중국 소셜미디어(SNS)에서 유행처럼 번지고 있다. 얼굴에 타박상과 상처를 합성한 가정폭력 피해자 연출 영상이 중국 숏폼 영상 플랫폼을 중심으로 확산하며 온라인 여론이 들끓고 있다. 12일 중국 언론 지우파이신문에 따르면 최근 중국 SNS에서는 특정 AI 효과를 활용한 가정폭력 연출 영상이 다수 게시됐다. 해당 기능을 사용하면 얼굴에 멍과 상처가 덧입혀지고, 일부 영상에는 “남편한테 맞았다”는 자막이나 슬픈 음악이 함께 삽입돼 있다. 겉보기엔 실제 피해자를 연상케 하지만, 대부분은 사용자가 재미나 관심을 끌기 위해 제작한 가짜 영상이다. 이에 대해 누리꾼들은 “가정폭력을 오락거리로 소비했다”, “진짜 피해자들의 고통을 희화화한 것”이라며 강하게 반발하고 있다. 이 영상들을 접한 일부 이용자들은 “가정폭력을 콘텐츠로 소비하는 것 자체가 2차 가해”라며 비판의 목소리를 높였다. 이들은 “실제 피해자가 도움을 요청해도, 이런 영상들 때문에 관심을 끌기 위한 행동으로 오해받아 외면당할 수 있다”는 우려도 제기했다. 논란이 커지자 해당 영상이 게시된 플랫폼은 관련 AI 효과를 비공개 처리했다. 12일 기준, 기존 영상 일부는 여전히 조회 가능하지만 문제의 효과에서 상처를 합성하는 기능은 삭제된 상태다. 플랫폼 측은 고객센터를 통해 “해당 효과는 폭력을 오락화할 소지가 있어 부적절하다고 판단했다”며 “AI 콘텐츠 역시 플랫폼 가이드라인을 준수해야 하며, 신고가 접수될 경우 신속히 조치하겠다”고 밝혔다.

온라인 게시 때 AI 생성 여부 표기피해 금액 ‘최대 5배’ 징벌적 손배의약·화장품 광고 24시간 내 차단 최근 인공지능(AI)으로 교수나 의사 등 ‘가짜 전문가’를 만들어 활용하는 허위·과장 광고가 퍼져 소비자 피해가 커지자 정부가 ‘AI 생성물 표시제’를 신설하고 징벌적 손해배상을 도입하는 등 강력 대응에 나선다. 정부는 10일 김민석 국무총리 주재로 제7회 국가정책조정회의를 열고 이런 내용의 ‘AI 등을 활용한 시장 질서 교란허위·과장광고 대응 방안’을 확정했다. 최근 소셜서비스(SNS)를 중심으로 AI로 만든 가짜 전문가나 유명인 딥페이크를 활용해 제품을 홍보하는 광고가 번지고 있다. 특히 실제와 구별이 어려운 노년층 등 취약 계층의 피해가 커지는 상황이다. 정부는 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 AI 생성물 표시제를 도입한다. 앞으로 온라인플랫폼에 AI 생성물을 제작하거나 편집해 게시하는 사람은 AI로 만들었다는 사실을 표기해야 한다. 플랫폼 이용자가 AI 생성물 표시를 임의로 제거하거나 훼손하는 행위도 금지된다. 또 플랫폼사는 게시자가 표시 의무를 준수하는지 관리해야 한다. 정부는 내년 1분기 내로 정보통신망법 개정에 나선다. 방송미디어통신심의위원회는 의약품, 화장품, 의료기기 등 AI 허위·과장광고가 많은 영역을 서면심의 대상에 추가해 빠른 차단이 이뤄지도록 한다. 현재는 불법촬영 등 성범죄 촬영물만 서면심의 대상이다. 올해 방송미디어통신위원회(방미통위)가 식품의약품안전처의 차단 요청을 심의하는 데 걸린 시간은 평균 26.4일로, 이를 24시간 이내로 단축한다. 또 정부는 방미통위가 직접 플랫폼사에 긴급 시정을 요청할 수 있는 제도도 마련한다. 식약처 등 관계기관이 국민의 생명과 재산에 큰 피해가 예상된다고 판단한 불법정보의 삭제를 요청하면, 방미통위가 심의 전에도 직접 플랫폼사에 시정을 요청할 수 있는 근거를 만든다. 위법 행위에 대한 처벌도 강화한다. 현재는 허위·과장 광고로 피해를 당한 경우 실제 발생한 손해 금액까지 손해 배상 청구가 가능하다. 정부는 실제 손해의 최대 5배까지 배상이 가능하게 한다는 계획이다. 또 매출의 최대 2%까지 부과할 수 있는 과징금 수준도 대폭 상향한다.

러시아의 유명 인플루언서가 자신의 10살 아들을 진공 포장백에 넣고 공기를 빨아들이는 영상을 소셜미디어(SNS)에 올려 사회적 공분을 샀다. 9일(현지시간) 러시아 리아노보스티 통신 등에 따르면 육아 인플루언서 안나 사파리나(36)는 자신의 SNS에 아들을 비닐백에 넣은 모습이 담긴 영상을 올렸다. 영상을 보면 그는 아들을 대형 비닐백 안에 눕게 한 뒤 지퍼를 닫고 청소기 호스를 연결해 공기를 빨아들였다. 아들은 “하나, 둘, 셋”을 외친 뒤 숨을 크게 들이마셨고, 곧이어 비닐이 얼굴에 밀착되자 “엄마!”라며 비명을 질렀다. 아들의 목소리는 비닐에 눌려 먹먹하게 들렸다. 이후 사파리나가 지퍼를 열고 아이를 꺼냈고 아이는 안도한 듯 엄지손가락을 들어 보였다. 영상에는 “병가 3주째라 애가 심심해 해서”라는 자막이 삽입돼 있었다. 사파리나는 이 영상을 올린 이유에 대해서는 “‘좋아요’를 받으려고”라고 밝혔다. 해당 영상이 확산되며 러시아는 물론 국제적으로도 거센 비난 여론이 터져 나왔다. 네티즌들은 “아이의 생명을 담보로 한 장난”, “‘좋아요’에 목맨 부모의 위험한 본보기”라며 지적했다. 논란이 커지자 러시아 사라토프 지역 경찰과 아동보호기관은 즉각 조사에 착수했다. 경찰은 “미성년 아동에게 불법행위 가능성이 있는 영상이 온라인상에서 확인됐다”며 여성의 소재를 파악해 사건의 전말을 규명 중이라고 밝혔다. 사파리나는 지역 경찰 텔레그램 채널에 수사 소식이 게시되자 몇 분 만에 해당 영상을 삭제했다. 러시아 당국은 이번 사건과 관련해 법적 조치 여부를 검토하고, 아동보호기관의 심사도 진행할 예정이라고 밝혔다. “SNS 콘텐츠 위한 과도한 연출…아이 생명 담보로 한 위반”전문가들은 “아동이 등장하는 콘텐츠의 경우, 영상의 조회수와 인기만을 노린 과도한 연출은 아이의 생명권과 안전을 담보로 하는 중대한 윤리적 위반”이라고 지적했다. 앞서 국내에서도 SNS 콘텐츠를 위해 자신의 아기를 발로 차 넘어뜨리는 엄마의 영상이 공개돼 논란이 된 바 있다. 지난달 SNS를 통해 확산된 영상에는 아기 침대 위에 두 아들을 앉혀놓고 ‘LOVE’라는 글자를 만들기 위해 도전하고 있는 엄마의 모습이 담겼다. 큰 아들은 앉아서 손을 위로 올리며 ‘L’자를 만들었다. 여성은 1살도 안 된 것으로 추정되는 아기를 발로 차 넘어뜨리면서 아기의 다리로 ‘V’자 모양을 완성했다. 해당 영상에는 “#일상 #유머 #웃긴영상 #가족 #아기 #엄마 #육아스타그램 #귀여워 #LOVE” 등의 해시태그가 달렸다. 한 네티즌은 ‘엄마의 완벽한 발차기로 완성된 완벽한 사진’이라는 제목을 붙이기도 했다. 이를 접한 네티즌들은 “이게 웃기다고?”, “설마 저 작은 아기를 진짜 발로 찬 거냐. AI 영상 아니냐”, “이게 아동학대라는 걸 모르는 게 슬프다”, “기괴하다” 등 비난을 쏟아냈다. 해당 영상에 대해 아동학대 고발장을 접수하기 위해 직접 경찰서를 찾은 네티즌도 있었던 것으로 전해졌다.

‘소년범 논란’에 휩싸인 배우 조진웅(49·본명 조원준)이 은퇴를 공식 선언한 가운데, 그가 출연한 미개봉 작품들의 향방에 관심이 쏠리고 있다. 조진웅의 소년범 논란과 은퇴 선언에 직격탄을 맞은 곳은 초대형 드라마 ‘두 번째 시그널’(이하 시그널2) 상영을 앞둔 tvN이다. 조진웅 주연의 ‘두 번째 시그널’은 2016년 최고 시청률 15%를 기록한 ‘시그널’의 후속작으로, 김은희 작가와 김혜수·이제훈 등 원년 멤버들이 모두 참여하는 tvN의 내년 상반기 최대 기대작이다. 정의와 양심, 책임, 휴머니즘을 강조하는 해당 작품의 특성상 조진웅의 과거와 은퇴는 작품의 뿌리를 통째로 흔들 수 있다. 이에 한 방송 관계자는 스타투데이에 “제작비, 라인업, 플랫폼 등 어느 요소 하나 가볍지 않다. 변수도 많다. 하지만 작품의 상징성과 배우의 과거가 상충하는 수준이어서 편성이 강행되기는 어려울 것”이라고 전망했다. 이미 촬영이 모두 끝난 상태에서, 작품의 방향과 스토리를 고려하면 조진웅 분량만 삭제 편집하는 것도 사실상 불가능하다. 이에 ‘시그널2’를 기다려온 팬들 사이에서는 중국의 한 작품을 예로 들며 “AI(인공지능)로 조진웅 분량을 교체해야 한다”는 주장이 나왔다. 언급된 중국 작품은 지난 8월 중국 후난위성TV에서 방영된 36부작 드라마 ‘금월여가’다. 해당 드라마에 출연한 조연 배우인 리밍더는 작품 방영 직전 음주운전 및 기물손괴죄로 인해 사회적 물의를 빚었다. 이에 제작진은 리밍더 배우의 몸만 남기고 얼굴을 다른 배우인 리칭으로 교체하기로 결정했다. 이 과정에서 AI 기술이 동원됐고 총 600만 위안(한화 약 12억 5250만 원)의 비용이 들었다. 현지 언론에 따르면 얼굴을 제공한 배우인 리칭은 초상권 사용료를 받은 것으로 알려졌다. AI로 교체된 캐릭터가 교체된 배우가 연기한 것인지, 얼굴을 제공한 배우가 연기한 것인지에 대한 도덕적 논란 속에서 탄생한 작품에 다양한 의견이 쏟아졌다. 일부 시청자는 예상보다 완성도가 높다고 극찬했지만, 급하게 AI 작업이 진행된 탓에 액션 장면이나 감정 장면에서 특별히 부자연스러웠다는 비판도 쏟아졌다. 조진웅 사태와 관련해 CJ ENM은 “논의 중”이라는 입장만 내놓고 있는 가운데, 업계에서는 ‘시그널2’의 방송 여부는 불투명하다고 입을 모은다. 한편 이번 논란은 지난 5일 디스패치가 “조진웅이 고교 시절 차량 절도·강도강간 혐의로 소년보호처분을 받고 소년원에 송치됐다”고 보도하며 불거졌다. 조진웅 소속사 사람엔터테인먼트는 이에 “미성년 시절 잘못했던 행동이 있었다”며 사실상 범죄 연루 사실을 인정했다. 다만 “성폭행 관련 행위와는 무관하다”고 강조했다. 성인이 된 후에도 극단 단원 폭행으로 벌금형을 받은 전력, 음주운전 면허취소 이력 등에 대해서도 “성인이 된 후에도 미흡한 판단으로 심려를 끼친 순간들이 있었다. 모든 과오에 대해 깊이 반성한다”고 고개 숙였다.

‘소년범 논란’에 휩싸인 배우 조진웅(49·본명 조원준)이 은퇴를 공식 선언한 가운데, 그가 출연한 미개봉 작품들의 향방에 관심이 쏠리고 있다. 조진웅의 소년범 논란과 은퇴 선언에 직격탄을 맞은 곳은 초대형 드라마 ‘두 번째 시그널’(이하 시그널2) 상영을 앞둔 tvN이다. 조진웅 주연의 ‘두 번째 시그널’은 2016년 최고 시청률 15%를 기록한 ‘시그널’의 후속작으로, 김은희 작가와 김혜수·이제훈 등 원년 멤버들이 모두 참여하는 tvN의 내년 상반기 최대 기대작이다. 정의와 양심, 책임, 휴머니즘을 강조하는 해당 작품의 특성상 조진웅의 과거와 은퇴는 작품의 뿌리를 통째로 흔들 수 있다. 이에 한 방송 관계자는 스타투데이에 “제작비, 라인업, 플랫폼 등 어느 요소 하나 가볍지 않다. 변수도 많다. 하지만 작품의 상징성과 배우의 과거가 상충하는 수준이어서 편성이 강행되기는 어려울 것”이라고 전망했다. 이미 촬영이 모두 끝난 상태에서, 작품의 방향과 스토리를 고려하면 조진웅 분량만 삭제 편집하는 것도 사실상 불가능하다. 이에 ‘시그널2’를 기다려온 팬들 사이에서는 중국의 한 작품을 예로 들며 “AI(인공지능)로 조진웅 분량을 교체해야 한다”는 주장이 나왔다. 언급된 중국 작품은 지난 8월 중국 후난위성TV에서 방영된 36부작 드라마 ‘금월여가’다. 해당 드라마에 출연한 조연 배우인 리밍더는 작품 방영 직전 음주운전 및 기물손괴죄로 인해 사회적 물의를 빚었다. 이에 제작진은 리밍더 배우의 몸만 남기고 얼굴을 다른 배우인 리칭으로 교체하기로 결정했다. 이 과정에서 AI 기술이 동원됐고 총 600만 위안(한화 약 12억 5250만 원)의 비용이 들었다. 현지 언론에 따르면 얼굴을 제공한 배우인 리칭은 초상권 사용료를 받은 것으로 알려졌다. AI로 교체된 캐릭터가 교체된 배우가 연기한 것인지, 얼굴을 제공한 배우가 연기한 것인지에 대한 도덕적 논란 속에서 탄생한 작품에 다양한 의견이 쏟아졌다. 일부 시청자는 예상보다 완성도가 높다고 극찬했지만, 급하게 AI 작업이 진행된 탓에 액션 장면이나 감정 장면에서 특별히 부자연스러웠다는 비판도 쏟아졌다. 조진웅 사태와 관련해 CJ ENM은 “논의 중”이라는 입장만 내놓고 있는 가운데, 업계에서는 ‘시그널2’의 방송 여부는 불투명하다고 입을 모은다. 한편 이번 논란은 지난 5일 디스패치가 “조진웅이 고교 시절 차량 절도·강도강간 혐의로 소년보호처분을 받고 소년원에 송치됐다”고 보도하며 불거졌다. 조진웅 소속사 사람엔터테인먼트는 이에 “미성년 시절 잘못했던 행동이 있었다”며 사실상 범죄 연루 사실을 인정했다. 다만 “성폭행 관련 행위와는 무관하다”고 강조했다. 성인이 된 후에도 극단 단원 폭행으로 벌금형을 받은 전력, 음주운전 면허취소 이력 등에 대해서도 “성인이 된 후에도 미흡한 판단으로 심려를 끼친 순간들이 있었다. 모든 과오에 대해 깊이 반성한다”고 고개 숙였다.

미국 스페이스X의 저궤도 위성통신 서비스 ‘스타링크’가 지난 4일 한국에 공식 상륙했지만, 서비스 가능 지역을 표시하는 ‘가용성 지도’(Availability Map)에서는 여전히 독도가 표기되지 않고 있다. 앞서 스타링크는 2022년 10월 한국을 커밍 순(coming soon) 국가로 분류하며 제주도는 물론 독도, 울릉도, 백령도, 연평도, 대청도 등 주요 도서를 한국 영토로 명시했다. 하지만 지난해 1월 무렵 지도상 한국 영토에서 돌연 독도를 삭제한 뒤, 한국에서 공식 서비스를 개시한 현재까지 동일한 지도를 방치하고 있다. 7일 지도 검색창에 ‘독도’를 입력하면 ‘울릉군 울릉읍 독도리’라는 주소명과 함께 ‘리앙쿠르 암초’가 연관 검색어로 노출된다. ‘Dokdo’를 입력해도 주소명만 ‘Dokdo-ri, 울릉읍 울릉군’으로 표기될 뿐 마찬가지로 ‘리앙쿠르 암초’라는 검색어가 추천된다. 특히 ‘리앙쿠르 암초’를 선택하면 실제 독도 위치로 이동해, 사실상 독도를 해당 명칭으로 병기하는 효과를 내고 있다. 리앙쿠르 암초는 19세기 프랑스 포경선 ‘리앙쿠르호’에서 유래한 지명으로, 일본이 독도를 분쟁 지역화하기 위해 주로 사용한다. 독도는 역사적·지리적 근거가 충분하고 한국이 명백히 실효 지배 중인 영토인 만큼, 한국 서비스를 시작한 스타링크가 이 명칭을 노출하는 것은 부적절하다는 지적이 제기된다. 비슷한 논란은 구글 지도에서도 꾸준히 발생하고 있다. 한국에서 접속할 경우 ‘독도’로 표기되지만, 일본에서는 ‘다케시마’로 표시된다. 외국인이 한국에 와서 구글 지도를 켜면 독도가 ‘리앙쿠르 암초’로 표기되는 사례도 확인된다. 올해 3월에는 일부 동남아시아 항공사 기내 좌석 스크린 지도에서도 독도가 ‘리앙쿠르 암초’로 표시돼 논란이 일었다. 서경덕 성신여대 교수는 스타링크 사례에 대해 “지도에서 독도 위치 자체가 사라진 것은 명백히 문제”라며 “검색 결과에 ‘리앙쿠르 암초’가 함께 노출되는 것도 부적절한 만큼, 공식 항의가 필요하다”고 지적했다. 한편 스타링크는 2023년 한국 법인을 설립한 뒤 기간통신사업자 등록과 장비 적합성 인증을 마쳤으며, 올해 국경 간 공급 협정 승인 등을 거쳐 서비스 개시를 준비해왔다.

경기도의회 농정해양위원회 김창식 부위원장(더불어민주당, 남양주5)은 26일(수) 열린 경기도농업기술원 소관 2026년 본예산안 심의에서 “경기도 농업의 핵심 기반인 디지털 전환과 농업인 안전 정책이 모두 후순위로 밀려났다”며 농업기술원의 책임 있는 예산 편성을 촉구했다. 김 부위원장은 먼저 농업기술원이 운영 중인 ▲연구데이터, ▲스마트팜, ▲사이버식물병원, ▲농업기상·병해충, ▲알리다육 등 각종 디지털 시스템이 제각각 운영돼 데이터 연계·보안·관리 체계가 취약한 상태라는 점을 농업기술원 스스로 인정했다고 지적했다. “5천만 원을 들여 연구용역까지 완료해 놓고도 정작 2026년 본예산에는 단 한 푼도 반영하지 않았다”며 강하게 문제를 제기했다. 특히 1천9백만 원이 없어서 클라우드 인프라 전환을 못 한다는 설명은 상식적으로 납득하기 어렵다. 연구는 하고 실행은 포기한다면 이는 곧 ‘디지털 농업 추진 의지가 없다’는 선언과 다름이 없다”고 강하게 비판했다. 또한 사업설명서에 ‘AI·빅데이터 기반 서비스 전환을 위해 시스템 통합이 필요’하다고 명시하고도 실행 예산을 편성하지 않은 것은 말과 예산이 따로 움직이는 모순이라고 말했다. 김 부위원장은 “디지털 농업은 경기도 농업 경쟁력을 좌우하는 핵심인데, 기술원이 스스로 사업을 우선순위에서 밀어낸 것 아니냐”며 강한 우려를 표했다. 이어 김창식 부위원장은 이어 ‘농업활동 안전사고 예방 생활화 사업’이 2026년 예산안에서 전면 미반영된 점도 강하게 비판했다. “경기도 농촌은 65세 이상 고령 농업인이 46.2%, 농업 재해율은 전체 산업 평균의 1.2배로 매우 위험한 상황이다. 이는 단순한 통계가 아니라 현장이 위험하다는 분명한 경고 신호”라고 강조했다. 김 부위원장은 2025년 3개 시군 3개소를 지원했고, 2026년에는 5개소가 신청하는 등 확대 수요가 명확함에도 예산이 전면 삭제된 점을 지적하며, “시군이 필요하다고 하고 농업인도 원하고 있는데 농업기술원이 예산을 넣지 않은 것은 수요 조사 결과와 정면으로 배치되는 결정”이라고 비판했다. 또한 “이 사업은 전기·시설 점검, 위험 요소 개선, 안전표지 설치 등 사고를 예방하는 기본 안전조치를 지원하는 사업이다. 사후 지원이 아니라 농업인의 생명을 지키는 사전 예방 사업이라는 점을 잊지 말아야 한다”고 강조했다. 김창식 부위원장은 “디지털 농업도, 안전사고 예방도 모두 경기농업의 지속가능성과 농업인의 삶을 지키는 핵심 정책이다. 도민에게 실질적인 도움이 돌아가도록 실행이 가능한 예산 편성으로 전환해야 한다. 기술원의 분명한 의지와 후속 조치가 필요하다”고 밝혔다.

이른바 ‘사이버렉카’로 불리는 일부 유튜버들의 가짜뉴스가 심각한 사회적 문제로 떠오르자 국회가 종합 대응 체계 마련을 위한 토론회를 연다. 김기현·김장겸 국민의힘 의원은 오는 25일 서울 여의도 국회의원회관 제7간담회의실에서 ‘사이버렉카, 방치된 온라인 폭력: 대응체계 구축을 위한 입법토론회’를 연다고 24일 밝혔다. 사단법인 선우미래문화연구소가 주관한 이번 토론회는 사이버렉카가 조회수와 광고 수익을 위해 허위·조작 정보를 양산하는 현실을 점검하기 위해 마련됐다. 이들은 특정인을 표적 삼는 ‘좌표 찍기’로 시청자들의 악성 댓글과 집단 공격을 부추기는 등 조직적 온라인 폭력으로 심각한 사회적 피해를 야기하고 있다. 이번 토론회에서는 사이버렉카 피해가 대규모 명예훼손과 극단적 선택으로 이어진 사례를 중심으로 플랫폼의 책임과 법·제도 개선 방향이 집중적으로 논의될 예정이다. 이준안 선우미래문화연구소 이사장이 좌장을 맡고, 박기완 공정언론국민연대 사무총장이 사회를 맡는다. 발제는 이진혁 한양대 언론학 박사가 ‘사이버렉카: 악성 정보생산자의 탄생과 규제의 공백’을 주제로 발표한다. 이 박사는 사이버렉카의 자극적 제목과 과장된 콘텐츠가 어떻게 대중의 혐오와 분노를 증폭시켜 심각한 사회 병리 현상을 야기하는지 분석한다. 이어지는 토론에는 김소영 서울과학종합대학원대학교(aSSIST) 미디어경영학 박사, 사이버렉카 피해장 쯔양의 변호인을 맡았던 김태연 태연 법률사무소 변호사, 김우석 방송미디어통신위원회 디지털유해정보대응과장이 참여한다. 토론자들은 사이버렉카를 가능하게 하는 심리·문화 구조 분석을 시작으로 형사처벌, 징벌적 손해 배상, 불법 수익 환수 등 법·제도 개선안을 논의할 예정이다. 또한 플랫폼의 신속한 영상 삭제 의무화와 수익 차단 등 플랫폼 책임 강화 방안, 미디어·AI 리터러시 교육 확대 등 다각적인 정책 과제를 종합 제시한다. 토론회를 공동 주최한 김기현 의원은 “유튜브 등 해외 플랫폼들은 국내 법망의 사각지대에 놓여 있다”며 “불법·유해 콘텐츠에 대한 신속한 삭제나 사후 관리가 제대로 이뤄지지 않고 있다”고 지적했다. 이어 “플랫폼 사업자의 책임을 명확히 하고, 불법 콘텐츠에 대한 신속한 삭제 의무를 부과하며, 피해자 구제 절차를 간소화하는 등 종합적인 대응체계 구축이 필요하다”고 말했다. 김장겸 의원도 “실효적인 가해자 처벌과 수익 몰수는 물론이고, 플랫폼 차원의 유통 차단, 정부의 신속한 분쟁 조정, 미디어 리터러시 강화에 이르기까지 종합적인 대응체계 마련이 시급하다”고 강조했다. 그러면서 “이번 토론회가 각계 전문가와 기관, 피해자의 목소리를 두루 담아 종합적인 대응 체계를 수립하는 소중한 출발점이 되기를 기대한다”고 당부했다.