독일의 유명 방송인이 10년간 자신의 모습을 본뜬 딥페이크 음란 영상과 이미지 수백 장을 제작한 전 남편을 상대로 소송을 제기했다. TV 진행자로 활동 중인 콜리엔 페르난데스(44)와 전 남편 크리스티안 울멘(50)은 2011년부터 교제하다 2025년 별거를 시작했고 최근 이혼했다. 두 사람의 결별 이유는 그동안 공개되지 않다가 페르난데스가 최근 자신의 SNS를 통해 진실을 밝혔다. 페르난데스에 따르면 5년 전 지인을 통해 자신과 닮은 여성이 여러 남성과 성관계를 갖는 영상을 처음 접했다. 해당 영상은 딥페이크 기술로 만든 가짜 영상이었다. 문제의 영상을 제작해 올리던 가해자는 수년 동안 페르난데스의 이름으로 가짜 프로필을 만들고 마치 직접 성관계를 촬영한 것처럼 보이는 영상을 유포했다. 해당 범행은 2024년까지 계속됐다. 더불어 해당 영상에는 역시 딥페이크로 만든 가짜 음란 사진과 목소리까지 도용돼 삽입됐다. 페르난데스는 “이 모든 사건의 범인은 가까이에 있었다. 범인의 이름은 크리스티안 울멘, 바로 내 남편이었다”고 밝혔다. 페르난데스는 경찰 수사 등을 통해 범인이 남편이라는 사실을 알게 됐고 그로부터 자백을 받은 것으로 알려졌다. 페르난데스는 “전 남편은 자신이 아내인 나를 ‘소유’하고 있다고 주장하며 이러한 성적 학대와 범죄를 정당화했다”면서 “그는 자신이 나를 소유하고 있기 때문에 다른 남성들이 성적으로 나를 이용할 수 있게 한 것이라고 주장했다”고 폭로했다. 현지 매체 슈피겔은 울멘이 자신의 변호인에게 보낸 이메일을 입수해 공개했다. 해당 이메일에는 그가 ‘지난 10년 동안 불행히도 성 도착증이 생겼다’, ‘충동을 제어하기 어렵다’ 등의 내용이 적혀 있었다. 또 울멘이 자신의 아내를 본뜬 딥페이크 포르노 영상을 무료 온라인 포르노 사이트에 올리고, 해당 콘텐츠를 접하는 사람들이 유명 진행자와 불륜 관계를 맺고 있다는 인상을 받게 하는 것이 목적이었다는 내용도 포함됐다. 이 사건은 독일 전역에 광범위한 분노를 유발했다. 지난 22일 베를린에서는 여성에 대한 폭력 가해자에 더 강력한 조치를 취해야 한다고 요구하는 대규모 시위가 열렸다. 또 여성 정치인과 문화계 인사 250여 명은 슈피겔에 기고문을 발표하고 독일에서 딥페이크와 여성 살해에 대한 더욱 강한 규제가 필요하다고 촉구했다. 이와 관련해 독일 법무부 장관은 “우리는 가해자들이 더 이상 안전하다고 느끼지 않도록 해야 한다”고 강조했다. 한편 독일에서는 성인 여성과 미성년자 여성의 60%가 디지털 폭력을 경험했으며 이는 딥페이크 등 생성형 인공지능의 등장과 무관하지 않다는 분석이 나온다. 2025년 유엔여성기구 보고서는 성별 편견에 기반해 개발된 인공지능 도구가 여성에 대한 폭력을 ‘더욱 광범위하고 빠르게, 그리고 더욱 복잡한 방식으로 확산시키고 있다’고 경고했다.

“세종대왕 동상에 조선시대 왕 옷을 입혀 줘.” 갤럭시 S26 울트라의 자연어로 원하는 내용을 입력해 편집하는 ‘포토 어시스트’에 서울 종로구 광화문광장의 세종대왕 동상 사진을 넣고 이렇게 말하자 ‘상상 속의 이미지를 실현시키는 중’이라는 문구가 떴다. 10초도 안 돼 인공지능(AI)이 웹사이트에서 빨간 곤룡포를 찾아 자연스럽게 합성했다. 세종대왕이 앉아 있는 동작에 맞춰 옷의 굴곡, 그림자, 주름 등도 부드럽게 표현됐다. ●포토샵 등 문외한도 사진 합성 등 쉽게 브이로그를 생애 처음 시도한 기자는 5일 갤럭시 S26 울트라를 활용해 사진과 영상을 촬영하고 AI 기능이 대폭 업그레이드된 포토 어시스트로 편집을 했다. 포토샵을 전혀 다룰 줄 모르는 비전공자도 말 한마디로 전문가급의 자연스러운 사진 합성이 가능했다. 딥페이크 우려를 불식하기 위해 합성 사진의 왼쪽 하단에는 자동으로 ‘AI로 생성한 콘텐츠’라는 워터마크가 찍혔다. 동영상 촬영 기능도 향상됐다. 전작인 갤럭시 S25에 손 떨림 등 흔들림을 보정해 주던 ‘슈퍼스테디’ 기능이 있었다면, 갤럭시S26 시리즈에는 한 단계 더 나아간 ‘수평 고정 슈퍼스테디’ 기능이 추가됐다. 미세한 손 떨림은 물론, 격렬하게 움직이는 영상 속에서도 대상이 고정된 채로 촬영된다. 유튜버들이 사용하는 전문 장비인 ‘짐벌’의 기능이 휴대전화 안에 구현된 셈이다. 수평 고정은 유튜버들 사이에서 ‘챌린지’로 화제가 되고 있다. 360도 돌아가는 건조기, 차량 바퀴, 드릴 등에 갤럭시S26 시리즈를 부착해 영상을 찍은 뒤 화면이 돌아가지 않고 고정된 채로 촬영된 결과물을 인증하는 식이다. ●손떨림·버스 흔들림 도 안정적으로 실제 수평 고정 슈퍼스테디를 설정하고 버스 창문에 갤럭시 S26 울트라를 바짝 붙인 채 바깥 풍경을 촬영해보니 버스의 흔들림 없이 매끄러운 영상을 찍을 수 있었다. 또 지면에서 영상을 촬영하는 동안 걷거나 뛰는 등의 행동에 제약을 받지 않았다. 밤 10시에 찍은 영상에는 차량이나 건물 등은 물론 도로의 분홍색 교통안내선 색깔도 선명하게 찍혔다. 2억 화소 광각과 5000만 화소, 광학 줌 수준의 10배 줌 망원 카메라, 더 넓어진 조리개 등이 선명한 야간 촬영을 지원한 것이다. 실내와 실외, 햇빛이 많거나 흐린 날, 낮과 밤 영상을 이어 붙일 때도 하나의 톤으로 보정이 가능했다. 영상의 채도를 낮게 만드는 로그(LOG) 기능으로 튀는 색을 줄인 뒤, 룩업테이블(LUT) 기능을 사용하면 터치 한 번에 간단히 후보정을 할 수 있다. 채도, 조도 조절 등 전문적인 촬영을 하지 못하는 초보자도 LUT 기능에서 블록버스터, 로맨스, 스릴러 등 원하는 분위기를 선택하면 PC로 영상을 옮겨 편집할 필요 없이 휴대전화에서 간단히 보정이 이뤄진다. 카페나 대중교통에서 브이로그 편집을 하는 동안 옆자리 사람의 시선이 신경 쓰일 땐 ‘프라이버시 디스플레이’ 기능을 활용했다. 프라이버시 디스플레이 기능을 켜자 빛을 상하좌우로 넓게 분사하는 ‘와이드 픽셀’은 꺼지고 정면으로 비추는 ‘전면 픽셀’만 작동해 양옆이나 위아래 각도에서는 휴대전화 화면이 보이지 않았다. ●1억개 이상의 귀 토대로 버즈 출시 갤럭시 S26 시리즈와 함께 출시된 ‘갤럭시 버즈4 프로’는 음향을 섬세하게 들으면서 촬영할 수 있도록 도왔다. 착용감이 특히 좋아져, 장시간 착용해도 이질감이 크지 않았다. 달리기를 하는 동안에도 이어버드가 흔들리거나 빠지지 않는 안정감이 있었다. 삼성전자 측은 전 세계에서 수집한 1억개 이상의 귀 데이터와 1만회 이상의 착용 시뮬레이션을 활용한 인체공학적 디자인이라고 했다. 시끌벅적한 카페에서 버즈4 프로를 착용하자 주변 소음이 빠르게 잦아든 노이즈 캔슬링 성능도 인상적이었다. 전작과 비교했을 때 저음이 한층 단단하고 깊게 표현됐다.

A(18)양은 지난해 12월 화장실에서 자신을 불법으로 찍은 사진이 소셜미디어(SNS)에 유포되고 있다는 친구의 연락을 받았다. 깜짝 놀란 A양은 ‘서울 디지털성범죄 안심지원센터’(센터)에 도움을 요청했다. 얼굴이나 가방 등 인상착의를 분석할 수 있는 인공지능(AI)을 활용한 덕분에 또 다른 불법 사이트 등에 게시된 사진 10여장을 금방 찾아 삭제 조치할 수 있었다. 그는 “혼자였다면 유포된 사진을 절대 못 찾았을 것”이라고 말했다. 빠르게 확산하는 디지털 성 착취물에 따른 피해를 줄이기 위해 서울시와 서울연구원이 2023년 개발한 ‘디지털 성범죄 AI 삭제지원’ 기술을 전국에서 활용할 길이 열렸다. 서울시는 3일 정부 기관과 첫 무상 기술 이전 계약을 시작으로 원하는 정부 기관, 지방자치단체, 기업 등에 기술을 무상 보급한다고 2일 밝혔다. 센터의 AI 기술은 24시간 실시간으로 각종 불법 사이트, SNS에 올라온 불법 영상물을 빠르게 탐지한다. 육안으로 일일이 찾아내는 데 3시간이 걸렸다면, 30배 빠른 속도로 6분이면 가능하다. 정확도가 200~300% 개선된 데다 복제본이나 같은 피해자의 다른 촬영물, 딥페이크 영상물까지 탐지할 수 있다. 이 기술은 2023년 정부혁신 우수사례 ‘대통령상 대상’, 2024년 ‘UN 공공행정상 대상’을 수상했다. 그동안 수작업으로 피해 영상물을 탐지하던 기관에 기술이 보급되면 기관당 1억 8000만원 안팎의 예산 절감 효과가 있을 것으로 서울시는 추산했다. 기술 도입 전 센터의 삭제 지원 건수는 2022년 2509건이었으나 지난해에는 6.3배인 1만 5777건으로 늘었다. 오균 서울연구원장은 “지난해 전국 최초로 기술 특허를 받은 서울연구원의 혁신 기술을 무상 개방하는 첫 사례”라고 설명했다. 마채숙 서울시 여성가족실장은 “디지털 성범죄 피해자 보호를 위해 기술을 무상 보급하기로 했다”며 “전국 어디서나 동일한 수준의 신속하고 실질적인 지원을 받길 기대한다”고 밝혔다.

서울신문 독자권익위원회는 지난 24일 서울 중구 컨퍼런스하우스 달개비에서 제195차 회의를 열어 최근 한 달간의 서울신문 보도를 평가했다. 회의에는 지난달 위촉된 김춘식(한국외대 미디어커뮤니케이션학부 교수) 위원장을 비롯해 박경환(서울시 재무국장), 이명행(SK하이닉스 PR기획팀장·변호사), 이상은(고려대 미디어학과 석사과정·교사), 차윤주(연세드림세무회계 대표·세무사), 홍정석(법무법인 화우 GRC그룹장·파트너 변호사) 위원이 함께했다. 위원들은 최근 러닝 열풍에 발맞춰 검증된 정보를 전달한 ‘박성국의 러닝 보급소’와 자산규모별 투자 실적을 분석한 ‘2026 투자 격차 리포트’ 등 독자의 삶과 맞닿아 있는 일상 밀착형 기획들이 서울신문의 콘텐츠 경쟁력을 높였다고 호평했다. 특히 경제 섹션 ‘서울 이코노미’에 대해서는 실생활과 밀접한 주제를 발굴해 독자 접근성을 높였다고 평가했다. 하지만 주요 사법 판결에 대한 심층 분석이 타사보다 부족했다는 지적과 함께, 자극적 단어 사용이나 인용부호에 기댄 제목 달기는 지양해야 한다는 제언도 이어졌다. 인터뷰 기사에서는 수장의 발언을 단순 전달하는 데 그치지 말고 구체적인 배경 설명과 솔루션 제시를 강화해야 한다는 목소리도 나왔다. 다음은 위원들의 주요 의견. 홍정석 법무법인 화우 변호사독자 일상 맞닿은 소재 발굴 탁월 내란 사법 선고 분석 기사 늘려야 ‘2026 투자 격차 리포트’ 기획은 경제적 불확실성 속에서 가상자산 같은 고위험 자산에 집중적으로 투자할 수밖에 없는 청년 세대의 자산 구조를 잘 짚어냈다. 증시 호황이 이어지는 가운데 그 이면에 있는 문제를 잘 끄집어냈다. 또한 지방 소멸 이슈가 수도권 외곽까지 확산하고 있음을 강남 집값과 대비해 조명한 기사도 좋았다. 독자들은 나와 직접 연관된 내용이 담긴 기사를 유심히 보게 된다. 독자들의 일상과 맞닿아 있는 아이템을 지속 발굴한다면 서울신문의 지면 경쟁력이 더 높아질 것이다. 반면 2월에는 윤석열 전 대통령에 대한 내란 우두머리 혐의 1심 선고를 비롯해 12·3 비상계엄 관련 굵직한 사법적 선고가 이어졌지만, 다른 지면이나 방송 매체와 비교해 서울신문의 보도량이 다소 부족했다는 느낌을 받았다. 판결 내용의 단순 나열이나 ‘사필귀정’ 식의 원론적인 사설에 그쳤다. 향후 이어질 2차 종합특검이나 주요 재판에 대해서는 더 심도 있는 법적 분석과 취재가 뒷받침되어야 한다. 차윤주 연세드림세무회계 대표‘러닝 보급소’ 연재 기획 흥미로워 박상훈 칼럼 권력 비판 균형 역할 새로 시작한 ‘박성국의 러닝 보급소’ 연재는 현장 취재와 통계를 곁들여 흥미로우면서도 읽을 가치가 충분했다. 동계올림픽과 맞물려 엘리트 체육에 관한 관심이 커졌는데 생활체육과 국가 체육의 저변을 잘 담아냈다. 2월 2일자 1면 ‘정은경 “의료계 압력으로 정책 수정될 일 없어”’ 인터뷰 기사는 주목도 높은 정책을 수장의 입을 통해 깔끔하게 전달해 눈에 띄었다. 하지만 여러 주제를 다루다 보니 내용이 다소 평이해진 점은 아쉽다. 5일자 10면 ‘지난 지선 서울 공천 심사 통과 30명, 금배지에 고액 후원’ 기사는 기자가 데이터를 확보해서 공을 들여 쓴 공익적 보도였다. 다만 후원금과 공천의 실질적 상관관계에 대한 논증이 보완되었다면 더 좋았겠다. 오피니언면의 ‘박상훈의 호모 폴리티쿠스’ 칼럼은 자칫 정부 출범 초기 비판 기능이 약해질 수 있는 시기에 권력 구조에 대한 날카로운 비판을 담아내 지면의 균형을 잡아주는 역할을 했다. 기사에서 부족한 비판을 칼럼이 뒷받침해주는 인상을 받았다. 이상은 고려대 미디어 석사과정‘AI 습격’ 기획 정보·공감 동시 충족국제 기사 맥락 파악 쉽게 제목을 ‘법전 대신 알고리즘’ 기획은 인공지능(AI) 기술이 사회 전반에 미치는 영향뿐만 아니라 젊은 법조인 등 세대별 이슈를 균형 있게 다루어 정보 제공과 공감을 동시에 충족했다. 이러한 방향의 기획이 다양한 분야로 확장되길 바란다. 2월 2일자 B1면 ‘라테·바나나 우유도 ‘설탕부담금’ 낼까요’ 기사처럼 독자들의 흥미를 끌 수 있는 말랑말랑한 주제가 경제 섹션 첫 면에 배치돼 눈길을 끌었다. 다만 제목의 직관성을 개선해야 한다. 4일자 12면 ‘직찍 구름 관중 “간바레” 함성… “다카이치라면 300석 가능”’ 기사처럼 전문 지식이 필요한 국제 기사에서 독자가 맥락을 바로 파악하기 어려운 제목들이 있었다. 2일자 1면 ‘李 “다주택자 마지막 기회” 집값 전쟁 선포’ 기사 제목처럼 ‘전쟁 선포’와 같은 자극적인 표현이 반복되는 것은 거부감을 줄 수 있다. 또한 20일자 재판 관련 기사 아래에 판사 관련 의혹 기사를 함께 배치한 것은 의도를 오해하게 할 소지가 있어 편집에 주의를 기울여야 한다. 박경환 서울시 재무국장책·문학면 ‘웹문학’으로 확장 기대정책 비판, 현장 공무원 의견 필요 주말판에서 문화면과 책·문학 지면을 분리해 문화 기사를 비중 있게 다루어 온 것은 서울신문의 큰 장점이다. 다만 신간 소개와 재조명할 책의 구분을 명확히 하고 웹문학 등으로 영역을 확장했으면 한다. 시와 음악이 어우러진 공연 기사의 경우 기관 제공 사진보다 기자가 직접 현장의 생동감을 담은 사진을 싣는 것이 독자에게 더 효과적이다. 6일자 16면 ‘200여점 성미술의 존재… 믿음이 조용히 번져 갔다’ 기사를 보고 당장 전주로 가고 싶어졌다. 그 어떤 기사보다도 전주 지역을 잘 알리고 독자들에게 즐길 거리를 제공했을 것이다. 수의계약 문제를 다룬 1월 29일자 8면 ‘형제자매 회사는 규제 밖… 11대 서울시의회 들어 수의계약 급증’ 기사는 기자가 직접 원자료를 추려낸 노력이 돋보였다. 다만 문제에 대한 해답을 학계에서만 찾지 말고 현장 공무원들의 목소리를 더 직접적으로 담았다면 더 현실적인 솔루션이 됐을 것이다. 2월 2일자 12면 ‘필수 공익 지정 vs 준공영제 개편… 선거 쟁점 된 버스 파업 해법’ 기사는 시내버스 파업이란 첨예한 정책 이슈에 대해 정작 주무 부처가 답변을 피하는 듯한 느낌을 받았다. 집요하게 입장을 끌어내는 취재를 기대한다. 이명행 SK하이닉스 PR팀장‘보도 그 후’ 기사 이후 행보 담아내서동철 연재, 주제 서술 방식 훌륭 ‘AI의 습격-법전 대신 알고리즘’ 기획은 기사 내용도 탄탄했지만 19일자 12면 ‘사법부, AI 도입 속도… ‘재판지원 시스템’ 시범 오픈’ 기사를 통해 보도 이후 사법부가 어떤 행보를 보이는지 다뤄서 좋았다. ‘서울신문 보도 그 후’는 기사에서 있었던 지적과 제안이 실제 어떻게 반영되고 있는지를 짚어주는 훌륭한 서비스다. 같은 날 10면 ‘“엉빠따 한 대에 2만원”… ‘맷값 장사’ 선 넘은 폭력 생중계’ 기사는 제목도 눈길을 끌었고, 통계를 인용해서 실시간 인터넷 방송 문제가 심각하다는 사실을 잘 드러냈다. ‘서동철의 이야기가 있는 옛성’ 연재처럼 지방 소멸과 같은 무거운 주제를 칼럼이나 역사성 있는 성(城) 기획물로 풀어내는 방식은 지역을 단순한 분석 대상이 아닌 ‘사람이 사는 공간’으로 바라보게 하는 힘이 있다. 마라톤 시즌이 시작되는 시점을 맞아 ‘박성국의 러닝 보급소’ 역시 부정확한 정보와 경험담이 떠도는 상황에서 검증된 정보를 제공해 유용했다. 생성형 AI 시대에는 단순히 범용적 정보 제공만으로는 한계가 있는 만큼, 신문만이 할 수 있는 내러티브를 제공하는 데 주력해야 한다. 김춘식 한국외대 교수제목엔 ‘따옴표’보다 요지 담아야인터뷰 속 주장, 설명도 풀어내야 1면에서 대통령의 발언을 따옴표로 인용해 제시하다 보니 정책의 본질보다 갈등적 국면이 두드러지는 경향이 있다. 대통령 발언을 전하더라도 제목에는 핵심 요지를 뽑는 것이 바람직하다. 4일자 B3면 ‘“50~60% 상속세 부담”… 해외 이주 2배 늘었다’ 기사에선 최근 논란이 된 영국 이민 컨설팅사 헨리앤파트너스 보고서가 실렸다. 이 오보는 권위 있는 기관의 자료라도 엄격한 팩트체크가 왜 필요한지 보여준다. 그런데 10일자 27면 ‘상의 오류 따져야 하나, 정부 대응 과유불급 안 돼야’ 사설을 통해 정부 대응을 지적하는 사설을 낸 것은 책임 있는 태도가 아니다. 인터뷰 기사가 굉장히 좋았다. 특히 신문의 경쟁력이 약화하는 상황에서 경쟁력은 결국 사람에게 있다. 다만 구체적인 정책 이야기가 나오면 거기에 대한 보강 설명이 필요하다. 가령 12일자 4면의 허철훈 중앙선거관리위원회 사무총장을 인터뷰한 “지방선거 앞두고 딥페이크 기승 우려… ‘3중 감별’로 막겠다” 기사에서는 선관위가 3중 감별을 준비하고 있다고 밝혔지만 이에 대한 설명이 부족했다. 인터뷰 기사에서 주의해야 할 부분이다.

이재명 대통령이 어제 촉법소년 연령을 ‘14세 미만’에서 ‘13세 미만’으로 한 살 낮추는 문제를 두 달 동안 공론화해 결정하겠다고 밝혔다. 지난해 12월 법무부 업무보고에서 논의 지시를 내린 지 두 달 만에 구체적 시한을 제시했다. 국회에는 촉법소년 연령을 13세 또는 12세로 낮추자는 법률안이 여러 건 계류 중이다. 72년간 유지된 연령 기준이 바뀔 여지가 어느 때보다 커졌다. 독일, 일본 등 많은 나라들이 우리처럼 14세부터 형사책임을 지운다. 영국은 10세부터다. 1993년 10세 소년 두 명이 2세 아이를 살해한 사건으로 여론이 들끓자 1998년 10~13세에 적용되던 보호 원칙을 폐지하면서다. 소년범죄 중에는 살인·강도·성범죄 등 강력범죄가 적지 않은데 국내에선 14~18세 소년범은 최대 20년형, 10~13세 촉법소년은 형사처벌 자체가 불가능하다. 국내 촉법소년 범죄는 2019년 1만건, 2023년에는 2만건을 넘었다. 처벌 면제를 노리고 촉법소년을 끌어들이는 범죄가 꾸준히 늘어난 데다 디지털 범죄의 급증이 겹친 결과다. 강력범죄의 마무리역, 딥페이크 같은 신종 성범죄의 명의자, 마약 거래의 운반책 등 증거가 명확한 범죄에 촉법소년이 동원된다. 실제 2024년 딥페이크 성범죄 피의자 중 촉법소년 비율이 15%였고, 마약 범죄로 검거된 촉법소년은 2021년 3명에서 2023년 두 자릿수로 늘었다. 최근 15세에서 13세로 하향을 추진 중인 스웨덴도 범죄 조직이 아동을 모집해 범행에 동원한 것이 논의의 기폭제였다. 그럼에도 연령 기준이 유지된 이유는 소년범죄를 직접 다루는 현장의 시각이 다르기 때문이다. 소년범죄의 흉포화 인식이 과장됐다는 것이다. 대법원은 “13세의 책임 능력을 단정 짓기 어렵다”는 입장이고, 유엔도 “14세 미만을 범죄자 취급 말라”는 입장이다. 디지털 범죄와 촉법 제도 악용이 도를 넘은 현실에서 난수표처럼 어려운 문제다. 청소년 전체의 범죄 예방과 교화까지 아우르는 심도 깊은 논의가 절실하다.

‘탐지→AI 감별→자문’으로 대응선관위, AI딥페이크 영상 첫 고발후원금 내역 상시 공개 장치 제안부실선거 방지 위해 매뉴얼 정비행정통합 땐 ‘선거구위 전환’ 지침 허철훈 중앙선거관리위원회 사무총장은 지방선거에서 허위 딥페이크 영상이 기승을 부릴 것에 대비해 ‘3단계 감별’ 시스템을 운영하고 있다고 11일 밝혔다. ‘시청각 탐지→인공지능(AI) 프로그램 감별→AI 전문가 자문’ 등 3중 장치로 ‘허위 딥페이크 제로 선거’를 치르겠다는 것이다. 허 사무총장은 이날 경기 과천 중앙선관위 청사에서 진행한 서울신문과의 인터뷰에서 허위 딥페이크 제작·유포와 관련해 “유권자의 올바른 판단을 왜곡하고 선거 결과에 영향을 미치지 않을까 우려스러운 상황”이라며 “지난해 12월부터 440명 규모의 특별대응팀을 운영하고 있으며 하반기부터는 자체 딥페이크 감별 프로그램을 구축하려 한다”고 했다. 선관위는 지난 9일 AI로 제작한 허위 딥페이크 영상을 소셜미디어(SNS)에 게시한 입후보 예정자 A씨를 적발해 경찰에 고발했다. 딥페이크 영상 등을 이용해 허위 사실을 공표하는 행위를 가중 처벌하는 규정이 2023년 12월 신설된 후 첫 고발 사례다. 허 사무총장은 선거일 전 90일까지는 AI 기술로 만든 가상 정보라는 사실을 영상 등에 표시하면 선거운동을 위해 해당 영상을 사용할 수 있지만, 그 이후부터는 전면 금지된다고 했다. 허 사무총장은 최근 문제가 된 ‘공천헌금’ 사태와 관련해 금품 선거를 억제하기 위한 단속 활동에 집중하겠다고 했다. 그러면서 “최근 5년간 국회의원에게 연간 300만원 이상 후원금을 제공한 경우 내역을 상시 공개하는 장치를 도입하면 개선되지 않을까 생각한다”면서도 이를 위해선 법 개정이 필요하다고 했다. 그는 행정통합에 따른 혼란을 최소화하기 위한 지침안도 마련됐다고 했다. 허 사무총장은 “통합 확정 시 후보자 등록과 당선인 결정 사무 등을 담당하는 선거구위원회로 관리 체계 전환 지침을 내려보낼 것”이라며 “선거구역 변경에 따른 입후보 예정자를 대상으로 입후보 설명회를 개최할 방침”이라고 했다. 부실 선거 논란을 해소하기 위해 매뉴얼과 시스템을 정비하겠다는 방침을 내놨다. 그는 “투·개표 매뉴얼을 정교하게 정비하는 작업을 하고 있으며 투·개표 사무 종사자에 대한 실무 중심의 교육을 강화해 부실 관리 사례가 발생하지 않도록 할 계획”이라고 했다. 최근 장동혁 국민의힘 대표가 제안한 선거 연령을 만 16세로 낮추자는 주장에 대해선 “국민 여론이 제일 중요하다”며 “피선거권도 함께 낮춰야 하는 등 종합적으로 고려해야 한다”고 했다.

교육부가 각 정부 기관과 손잡고 헌법교육, 선거교육 등의 강화를 추진하는 등 정부 국정과제인 ‘민주시민교육’ 시행에 박차를 가하고 있다. 교육부는 30일 정부서울청사에서 법무부·법제처·헌법재판연구원과 ‘학교 현장의 헌법교육 강화를 위한 업무협약’을 체결했다. 이번 업무협약은 ‘민주시민교육 추진계획’의 일환으로, 교육부는 이를 위해 지난해 하반기부터 법무부 등과 협력해온 바 있다. 교육부는 올해부터 학생과 교원을 대상으로 하는 헌법교육을 체계화하고 우수사례를 공유·확산할 계획이다. 기존보다 양질의 헌법교육이 이뤄지도록 하겠다는 취지다. 지난해 초등학교와 중학교에서만 이뤄졌던 헌법교육 전문강사 지원 사업도 올해는 고등학교까지 확대된다. 교육부는 헌법교육을 포함한 2026년 민주시민교육 추진 계획을 이날 발표했다. 추진안에는 중앙선거관리위원회(중앙선관위)와 진행하는 손잡고 초·중·고 학교급별 맞춤형 ‘선거 교육’도 담겼다. 최근 법 개정을 통해 만 18세는 선거권을 갖고, 만 16세는 정당 가입이 허용되는 만큼 학생들이 참정권 관련 기본 지식을 갖추도록 훈련하기 위한 것이다. 구체적으로 고3 학생에게 ‘새내기 유권자 교육’, 초·중학생에게는 ‘민주주의 선거교실’ 프로그램을 운영할 계획이다. 교육 목표 인원은 각각 40만명, 2만명이다. 당장 오는 6월 실시되는 지방선거에 앞서 학생의 선거·정당 활동 등과 관련한 ‘정치관계법 Q＆A’를 각 학교에 안내한다. 디지털 미디어 리터러시 교육도 강화한다. 가짜뉴스로 인한 ‘확증편향’ 강화가 사회 문제로 대두되는 만큼, 학생들이 정보의 홍수 속에서 분별력과 사고력을 기를 수 있도록 돕기 위해서다. 방송미디어통신위원회와 협업한 ‘찾아가는 미디어교육’도 이뤄질 예정이다. 지역 시청자미디어센터 전문강사가 학교에 직접 방문해 딥페이크 등의 범죄 예방과 미디어 윤리 교육을 진행한다. 올해 36개교에서 시행된다. ‘민주시민교육’은 이재명 정부의 국정과제 중 하나로, 교육부는 지난해 11월 민주시민교육팀을 신설해 헌법·선거 교육 강화안을 마련해왔다. 교육부는 향후 민주시민교육의 내용과 현황을 분석하고 교육과정 수시 개정도 검토한다. 필요 시 선택과목 신설도 추진한다. 교육부는 향후 충분한 의견 수렴을 통해 ‘학교 민주시민교육법’ 제정을 추진할 방침이다. 학생의 ‘민주시민 역량’을 측정하기 위한 관련 지표도 만들 예정이다. 다만 교원단체들은 민주시민교육을 도입하기 이전에 교사들을 보호할 장치 마련이 시급하다고 주장했다. 전국교직원노동조합은 이에 대해 “사회적 쟁점, 역사적 해석의 차이, 정책 논쟁을 수업에서 다루는 것만으로도 교사는 민원 제기와 수업 위축을 우려해야 하는 현실”이라고 말했다. 한국교원단체총연합회 역시 “교사들을 양극단으로 치닫는 현재의 정치지형상 학생·학부모들로부터 쏟아지는 민원의 사지로 내모는 격”이라고 꼬집었다.

캄보디아를 거점으로 딥페이크 기술을 활용해 로맨스스캠(연애빙자사기)과 투자사기를 벌인 범죄조직의 핵심 인물인 한국인 사기 부부가 구속 송치됐다. 경찰은 해외에 은신 중인 총책과 조직원 검거, 범죄수익 환수에 수사력을 집중하고 있다. 울산경찰청은 범정부 ‘초국가범죄 특별대응 태스크포스(TF)’ 공조를 통해 캄보디아에서 강제 송환된 로맨스스캠 사기 부부 2명을 30일 구속 상태로 검찰에 송치했다고 밝혔다. 이들은 2024년 1월부터 작년 2월까지 104명을 속여 약 120억원을 가로챈 혐의를 받는다. 이들 부부가 가담한 범죄조직은 캄보디아를 본거지로 삼고 딥페이크 기술을 동원해 연애 빙자 사기와 투자사기를 조직적으로 저지른 것으로 파악됐다. 울산경찰청 반부패·경제범죄수사대는 현재까지 이 범죄조직 관련자 83명을 입건해 57명을 붙잡았다. 이 중 사기 부부를 비롯해 관리책·인사팀장·국내 자금세탁 총책 등 39명은 범죄단체 조직·가입·활동 혐의와 특정범죄가중처벌법, 통신사기피해환급법 위반 혐의로 구속했다. 아직 검거하지 못한 26명은 계속 쫓고 있다. 이 조직은 캄보디아 현지 건물을 통째로 매입해 대포폰과 컴퓨터 등을 갖춘 사무실을 차린 뒤, 한국인 총책을 중심으로 범행을 직접 수행하는 실행팀과 인력·자금 관리를 맡는 지원팀으로 역할을 분담한 기업형 범죄단체다. 이들은 2024년 1월부터 가상의 인물 ‘박가인’을 만들어 SNS(사회관계망서비스)를 통해 남성들과 매일 대화를 이어가며 호감을 쌓은 뒤 주식·가상자산 투자를 유도했다. 피해자 응대를 위한 10일 분량의 시나리오를 사전에 작성하고, 타인의 SNS 사진을 도용해 딥페이크로 얼굴을 합성한 영상과 유튜브 콘텐츠를 제작해 화상채팅까지 진행하는 치밀함을 보였다. 또 실제 존재하는 회사 명의를 도용한 가짜 사이트(COMEX GROUP, TCS GROUP, SSE GROUP, LSEG FX GROUP)를 개설하고 허위 애플리케이션을 설치하게 해 정상적인 투자처럼 위장한 뒤 투자금을 편취했다. 조직은 태자단지·프놈펜·보레이 등 캄보디아 여러 지역에 분점 형태 사무실을 두고 자금세탁팀과 모집책, 콜센터를 운영하며 수익을 배분하는 ‘프랜차이즈식’ 구조로 범행을 확장한 것으로 파악됐다. 송환된 사기 부부는 애초 다른 범죄단체 조직원으로 활동하며 범행 수법을 익힌 뒤, 캄보디아 포이펫 범죄단지에서 중국인에게 자금을 투자받아 별도의 범죄조직을 꾸려 범행을 이어왔다. 그러다 지난해 2월 현지 경찰에 검거됐다. 다만 공범의 도움으로 넉 달 만에 석방됐고 이후 은신처를 옮기며 도피 생활을 이어갔다. 이 과정에서 이들은 수사망을 피하고자 눈과 코 등을 성형하기도 했다. 우리나라 법무부는 7월 말 수사 인력을 보내 현지 경찰과 함께 이들 부부를 체포해 구금했지만 송환 협의가 지연되면서 다시 석방되기도 했다. 그러다가 초국가 범죄 대응 범정부 태스크포스에 의해 지난 23일 한국으로 압송됐다. 경찰은 이들의 여죄를 추가 수사하는 한편 인터폴과 협력해 ‘은색수배서’를 발급받아 해외에 은닉된 범죄수익 추적·환수에도 나서고 있다. 울산경찰청 관계자는 “고수익을 미끼로 한 해외 범죄 가담 유혹에 각별한 주의가 필요하다”며 “앞으로도 범정부 TF와 공조해 해외 거점 피싱 범죄조직을 끝까지 추적하고 국민 피해를 차단하겠다”고 말했다.

경북도의회 김창혁 의원(구미, 국민의힘)은 지역의 청소년을 정보화 역기능으로부터의 보호하기 위한 ‘경북도 청소년 정보화 역기능 청정지역 조례 전부개정조례안’을 대표발의해, 지난 28일 열린 소관 상임위(기획경제위원회) 심사를 통과했다. 김 의원은 상위법령 개정사항 반영 및 인용 조문을 정비하고 청소년 보호를 위한 종합적 보호조치와 기술적 보호조치, 그리고 유해정보 차단 소프트웨어 사용 촉진에 관한 사항을 규정하여, 정보통신망 이용에 따른 역기능으로부터 지역 청소년을 보호하는 건전한 정보문화 조성에 이바지하고자 개정안을 제안하였다. 주요내용으로 ▲제명을 ‘경북도 청소년 정보화 역기능 청정지역 조성 조례’로 변경하고 ▲‘지능정보화 기본법’ 개정 사항 및 ‘청소년 보호법’ 정의 규정을 반영했으며 ▲청소년 보호를 위한 종합적 보호조치와 기술적 보호조치, 중앙행정기관이 보급하는 사이버 유해물 차단 소프트웨어 확대 보급에 관한 사항을 규정하고 ▲관련 전문기관 및 행정기관 등과 협력체계 구축과 사무위탁에 관한 사항을 규정했다. 김 의원은 “최근 일상생활이 곤란할 정도로 스마트폰을 과도하게 사용하는 청소년들이 급격하게 증가하고, 사이버 도박, 딥페이크 악용 범죄, 사이버불링 등 디지털 역기능이 심각한 사회문제로 대두되고 있다”라며 “청소년이 피해를 입기 전에 예방하고 보호할 수 있는 체계를 마련하는 것이 무엇보다 중요하다”면서 “이번 전부개정안은 지역 청소년을 정보화 역기능으로부터 더욱 효과적으로 보호하기 위해 조례 전반의 미비점을 보완하고 정비한 것”이라고 강조했다. 덧붙여 김 의원은 “앞으로도 청소년의 안전을 위한 실질적 정책 마련에 최선을 다하겠다”고 밝혔다. 한편, 조례안은 2월 6일 개최되는 제360회 임시회 제2차 본회의를 통해 최종 처리된다.

경기여성재단, ‘딥페이크 성범죄 대응 현황과 과제’ 정책보고서 발간 경기도에서 딥페이크 성범죄 피해 지원을 받은 피해자 2명 중 1명은 10대 이하 아동·청소년인 것으로 나타났다. 경기도여성가족재단이 발간한 ‘경기도 딥페이크 성범죄 대응 현황과 과제’ 보고서에 따르면, 경기도디지털성범죄피해자원스톱지원센터에 2021년부터 2024년까지 접수된 디지털 성범죄 피해는 2021년 777건, 2022년 764건, 2023년 709건에서 2024년에는 1451건으로 전년에 비해 2배 가까이 증가했다. 접수된 2024년 피해 유형을 살펴보면 유포 불안이 447건(30.8%)으로 가장 많고 유포 248건(17.1%), 불법 촬영 198건(13.6%), 유포 협박 129건(8.9%), 기타 112건(7.7%), 불법 합성 및 도용(딥페이크) 95건(6.5%), 온라인 내 성적 괴롭힘 93건(6.4%), 온라인 그루밍 87건(6.0%), 성착취 영상통화 범죄(몸캠피싱) 42건(2.9%) 순이었다. 딥페이크 성범죄 피해 지원을 받은 피해자는 95명 중 10대 이하가 49명으로 51.6%를 차지했고, 20대는 24명(25.3%)으로 아동·청소년 및 청년의 피해율이 76.9%에 달했다. 보고서는 딥페이크 성범죄의 피해 대상 범위와 피해 확산 속도, 피해 회복의 불가능성을 감안한다면 입법적 개선과 함께 피해 지원과 예방 분야에 적극적 조치를 취해야 한다고 밝혔다. 특히 디지털 성범죄 2차 피해 방지를 위해 ‘디지털 성범죄 2차 피해 개념과 예시’를 규정하고 이를 초·중·고등학교와 경찰청·경찰서, 공공기관 등에 적극 알리는 한편 교육할 필요가 있다고 덧붙였다. 이와 함께 ▲인공지능 기술을 이용하지 않은 포토샵 정도의 간단한 기술로 제작한 성착취물 관련 범죄를 포괄하는 용어의 개발 ▲‘불안 피해’에 대한 법적·제도적 대응 ▲영상통화·모니터에 나타난 영상에 대한 촬영 등은 불법 촬영으로 인정 ▲비동의 소지죄 신설 ▲타인의 영상과 피해자의 사진이 편집되어 게시되는 허위 영상물 성폭력 처벌법 적용 등 디지털 성범죄 대응을 위한 향후 과제를 제안했다. 백미연 재단 연구위원은 “딥페이크 성범죄 등 디지털 성범죄 대응 강화를 위해 경기도가 디성센터의 위상과 기능을 강화하고 2차 피해 예방에 초점을 둔 예방 교육으로 전환할 필요가 있다”고 밝혔다. 경기도는 2021년 광역지자체 최초로 디지털 성범죄 피해자 지원 기관인 ‘경기도디지털성범죄피해자원스톱지원센터’를 설치해 전문 상담, 삭제 지원, 법률 지원, 수사 지원 등 통합적 원스톱 피해 지원 체계를 구축해 피해자의 일상 회복을 지원하고 있다.

애플과 구글 등 미국 IT 글로벌 기업들이 애플 앱스토어와 구글플레이 스토어에서 알몸 이미지를 합성해주는 인공지능(AI) 애플리케이션을 방치하고 1700억 원에 달하는 수익금을 챙겼다는 주장이 나왔다. 미국 워싱턴D.C에 본부를 둔 비영리 조사·연구 단체인 기술투명성프로젝트(TTP)가 27일(현지시간) 발표한 보고서에 따르면, 애플과 구글 앱 장터에서 위와 같은 문제를 가진 AI 앱을 각각 47건, 55건 발견했다. 애플과 구글은 자사 앱 장터에 성적인 콘텐츠나 타인을 비하·객체화하는 앱을 금지하는 정책을 두고 있지만 사실상 여과 기능이 제대로 작동하지 않은 셈이다. 더불어 문제가 된 앱 약 100개는 전 세계에서 7억 500만 회 이상 다운로드된 것으로 확인됐다. 애플과 구글은 앱 개발자 수익의 최대 30%를 수수료 명목으로 가져간다. 문제가 된 앱들의 다운로드 횟수를 고려하면 애플과 구글의 예상 수익은 1억 1700만 달러(한화 약 1700억 원)에 달한다는 것이 TTP의 주장이다. TTP는 “애플과 구글이 문제의 앱들을 방치함으로써 직접적인 이익을 얻고 있다”고 비판했다. 딥페이크 등 성범죄에 동원될 수 있는 문제의 앱들TTP가 지적한 문제의 앱들은 AI를 이용해 사진 속 인물의 옷을 벗겨 내거나 비키니 수영복 차림 등 선정적은 모습으로 변환할 수 있다. 또 기존의 음란 이미지에 다른 사람의 얼굴을 합성하는 딥페이크 기능도 제공한다. 문제의 앱 상당수는 이러한 자극적인 기능을 숨기고, 단순히 오락용으로 이미지 합성 기능을 제공하거나 다양한 의상을 가상으로 착용할 수 있는 ‘AI 피팅룸’이라고 홍보해 왔다. 일부 앱은 외설스럽거나 다른 사람을 불쾌하게 할 수 있는 콘텐츠 생성을 금지한다는 약관을 마련해두었으나 사실상 약정을 어겨도 별다른 제재를 하지 않았다. 또 다른 앱들은 ‘옷 찢기’, ‘엉덩이 흔들기’ 등 선정적인 영상 서식을 보란 듯이 제공했다. TTP에 따르면 이번에 확인된 문제의 앱 중 일부는 중국 기반으로 제작됐으며, 사용자의 데이터가 중국 내 서버에 저장되기 때문에 개인정보 보호 또는 보안 관련 문제도 야기될 수 있다. 머스크의 ‘그록’도 논란…IT 기업들의 도덕적 윤리, 시험대 올랐다해당 보고서가 공개된 뒤 애플 대변인은 미 경제방송 CNBC에 “TTP가 지적한 앱 중 28건을 삭제 조치했고 개발자들에게 정책 위반 시 퇴출당할 수 있다고 경고했다”고 밝혔다. 구글 대변인 역시 “보고서에 언급된 앱들을 정책 위반으로 사용 중지 시켰다”고 밝혔으나 조치 대상이 된 앱의 숫자는 공개하지 않았다. 이번 보고서는 일론 머스크의 인공지능(AI) 챗봇 그록의 선정성 논란과 맞물리면서 IT 기업들의 도덕적 윤리가 시험대에 올랐다는 지적으로 이어졌다. 그록은 일론 머스크가 만든 AI 기업 ‘xAI’가 개발한 대화형 인공지능 챗봇이다. 최근 머스크는 X에 게시된 이미지를 그록이 수정할 수 있도록 하는 기능을 도입했다. 이후 많은 이용자가 “비키니를 입혀라”, “옷을 벗겨라”와 같은 손쉬운 명령어를 이용해 여성과 미성년자의 딥페이크 이미지를 생성하는 데 그록을 악용하면서 논란이 일었다. 논란이 거세지자 xAI는 지난 14일 “비키니와 같이 노출이 있는 복장을 한 실제 인물의 이미지를 편집하는 것을 그록 계정이 허용하지 않도록 기술적 조치를 시행했다”고 밝혔으나 비난은 쉽게 사그라지지 않았다. 결국 유럽연합(EU) 집행위원회는 26일 그록이 노골적인 성적 이미지를 생성한 것과 관련해 디지털서비스법(DSA) 위반 여부에 관한 조사에 착수했다. EU 집행위원회는 이날 “디지털서비스법(DSA)에 따라 X가 EU 내 서비스에 그록을 도입하면서 관련 위험을 적절히 평가하고 완화했는지를 평가할 예정“이라며 그록의 아동 성 착취물·딥페이크 등 불법콘텐츠 유포로 EU 시민들이 심각한 피해에 노출된 것으로 보인다고 밝혔다. 이어 “이번 조사에서 X가 DSA에 따른 법적 의무를 이행했는지, 아니면 여성과 아동을 포함한 유럽 시민의 권리를 자사 서비스의 부수적 피해로 취급했는지 판단하겠다”고 덧붙였다. X의 DSA 위반 혐의가 사실로 확인될 경우 EU로부터 막대한 벌금에 직면할 수 있다. X는 지난해 12월 이미 DSA에 따른 투명성 요건 위반을 이유로 1억 2000만 유로(약 1800억 원)의 벌금을 부과받은 바 있다.

휴대전화 애플리케이션(앱) 장터에서 알몸 이미지를 합성해주는 인공지능(AI) 앱들이 버젓이 등록된 가운데, 애플과 구글이 이 같은 앱들을 방치해 수익을 얻고 있다는 분석이 나왔다. 27일(현지시간) 비영리 감시단체 ‘기술투명성프로젝트’(TTP)는 이날 발표한 보고서에서 애플 앱스토어와 구글플레이 스토어에서 이와 같은 앱을 각각 47건과 55건 발견했다고 밝혔다. 애플과 구글은 자사 앱 장터에 성적인 콘텐츠나 타인을 비하·객체화하는 앱을 금지하는 정책을 두고 있으나, 이와 같은 여과 기능이 제대로 작동하지 않은 것이다. 문제가 된 앱들은 전 세계적으로 7억 500만회 이상 내려받아졌으며, 예상 수익은 1억 1700만 달러(약 1700억원)에 달하는 것으로 분석됐다. 애플과 구글은 앱 개발자 수익의 최대 30%를 가져가므로, 양사가 실제 이와 같은 앱을 방치함으로써 직접적인 이익을 얻고 있다고 TTP는 비판했다. 이들 앱은 AI 기술을 이용해 사진 속 인물을 나신, 비키니 수영복 차림 등 선정적인 모습으로 변환하거나 다른 성적 이미지에 얼굴을 합성하는 ‘딥페이크’(AI 조작 영상) 기능을 제공했다. 상당수 앱은 오락용으로 이미지 합성 기능을 제공하거나, 다양한 의상을 가상으로 착용할 수 있는 ‘AI 피팅룸’ 앱으로 홍보했다. 일부 앱은 외설스럽거나 다른 사람을 불쾌하게 할 수 있는 콘텐츠 생성을 금지한다는 약관을 설정해두고 있으면서도 실제 앱 사용 과정에서는 성적인 이미지의 생성에 별다른 제지를 하지 않은 반면, 다른 앱들은 아예 ‘옷 찢기’나 ‘엉덩이 흔들기’ 등 선정적인 영상 서식을 제공하기도 했다. 이와 관련해 애플 대변인은 미 CNBC에 “TTP가 지적한 앱 중 28건을 삭제 조치했고 개발자들에게 정책 위반 시 퇴출당할 수 있다고 경고했다”고 답했다. 구글 대변인도 보고서에 언급된 앱들을 정책 위반으로 사용 중지시켰다고 밝혔으나 조치 대상 앱 수는 공개하지 않았다. 최근 일론 머스크의 소셜미디어(SNS) 엑스(X·옛 트위터)가 인공지능(AI) 챗봇 그록이 비키니 차림 등 성적 이미지를 합성해 각국 정부에서 조사 대상이 되는 등 논란이 일고 있다. 파리 소재 비영리 단체 AI 포렌식에 따르면 그록이 생성한 2만장 이상의 이미지를 분석한 결과 절반 이상은 ‘옷을 거의 입지 않다시피 한 인물들’을 묘사하고 있었다. 이미지 속 인물 대부분은 여성이었고 2%가량은 미성년자였다. 일부 이용자들은 머스크가 비키니를 입은 모습의 합성 사진을 생성하는 방식으로 항의했으나, 머스크는 이 사진들에 웃는 얼굴의 이모지나 “완벽하다”는 반응을 답글로 남기는 등 문제 제기를 무시하는 태도를 보여 더 큰 논란을 불러일으켰다. 논란이 거세지자 결국 엑스 안전팀은 지난 14일 “사람의 이미지를 비키니, 속옷, 기타 이와 유사한 복장의 이미지로 재생성하는 기능을, 해당 행위를 불법으로 간주하는 담당 지역에서 ‘지오블록’(지역 차단)하겠다”고 밝혔다.

지난해 ‘인공지능(AI) 출판’을 내세운 국내 한 신생 출판사는 1년간 9000권이나 되는 책을 펴냈다. 국내 대형 단행본 출판사들이 1년에 출판하는 게 최대 200권 정도라는 점을 생각하면 충격적인 숫자다. AI 저술을 최소한의 편집으로 펴내는 ‘딸깍북’의 등장은 종이책의 내용적·형식적 완성도를 무의미하게 만든다. 대학에서의 ‘AI 커닝’ 사태는 단순 해프닝 이상의 고민거리를 안겨 준다. ‘딥페이크’ 기술은 이제 이미지를 보이는 대로 믿을 수 없게 만들었다. ‘2026년 신춘문예’ 투고작이 예년에 비해 증가한 것에도 AI의 역할이 있었으리라는 진단이 있다. 도대체 지금 무슨 일이 벌어지고 있는 걸까. AI가 일으킨 현실 변화 앞에서 우리가 경험하는 것은 어떤 상황이 다가올지 예측할 수 없는 ‘현기증’이다. ‘AI 현기증’은 기술의 속도전으로 이지적 균형 감각이 작동하지 않는 상태를 의미한다. 2022년 말 챗GPT 등장 이후 AI 기술은 무서운 속도로 새로워지고 있다. AI 현기증은 방향감각을 상실하게 만들고 ‘나는 무엇을 할 수 있는 사람인가’라는 존재론적 불안마저 일으키고 있다. 사유의 정체성과 노동의 가치에 대한 질문을 다시 해야만 한다. 국가는 이미 AI가 미래 성장 산업의 핵심이 될 것이라 선언하고 강력한 정책적 뒷받침을 실행하고 있다. 수년이 걸리던 수억개의 단백질 구조 분석이 몇 시간으로 단축돼 신약 개발에 혁명이 일어나고 있다. 시각장애인 사진작가가 자신의 상상을 시각화할 수 있는 상황은 흡사 신이 강림해 행하는 ‘기적’처럼 보인다. 인간의 뇌를 모방한 AI는 이제 현대의 ‘신’이 되고 있다. 컴퓨터가 인간의 지능과 거의 동등한 수준의 사고 능력을 가지는 ‘범용인공지능’(AGI) 시대도 곧 실현될 것이라고 한다. AI 노동력이 인류를 모든 노동과 결핍에서 해방할 것이라는 믿음이 힘을 얻고 있다. 노동의 종말과 함께 생산력이 급격히 증가하면 인류가 궁핍에서 자유로워지는 유토피아가 도래할지도 모른다. 그러나 공포 역시 낙관만큼이나 무겁다. 인간이 중요한 판단을 AI에 의존하는 상황은 이미 현실이 됐다. 판단의 권력을 가진 AI가 언제나 옳지는 않으며, 정치적·윤리적 책임을 지지 않는다는 사실은 디스토피아의 우울한 이미지를 만들어 낸다. 미국 사법 시스템의 AI 재범 예측 알고리즘은 흑인 피고인에게 체계적으로 높은 확률을 예측했다. 편견이 코드로 고착화하고 알고리즘은 객관성이라는 가면 뒤에서 차별을 정당화할 수 있다. 이스라엘 방위군이 가자지구에서 사용하는 AI 표적 선정 시스템은 이미 AI가 군사적으로 활용되고 있음을 보여 준다. AI가 할루시네이션(환각) 현상으로 만약 잘못된 공격 지점을 알려 준다면, 그곳에 있는 무고한 인간들의 비명과 처참한 죽음에 대해 AI는 책임감과 죄의식을 가질까? 핵무기 발사 단추를 AI에게 맡기는 극단적 상황이 온다면 어떻게 될까? 미국의 한 고용주는 AI로 직원들의 키보드 입력, 시선, 움직임을 모니터링해 생산성을 측정한다고 한다. 한 뇌과학자가 교양 프로그램에서 자신이 AI 프롬프터를 존댓말로 작성하는 이유는 ‘AI 빅브라더’가 세계를 지배할 상황에 대비하는 것이라는 유머를 구사했는데, 왠지 서늘하게 느껴진다. 경제적 불평등이 오히려 심화할 수 있다. AI 기술을 소유·통제·활용할 수 있는 집단에 그것은 막대한 부와 권력을 가져다 주지만, 그렇지 못한 집단은 AI에게 일자리를 뺏기고 노동시장에서 밀려나게 될 것이다. 기술의 발전을 따라가지 못하는 제도는 ‘AI 저작물’에 대한 저작권 문제 등의 민감한 사안을 해결하지 못하고 있다. AI가 학습한 거대하고 정교한 정보가 인간이 만든 것이라면, 그것으로 AI가 만든 텍스트의 권리와 책임은 누구에게 있는가? ‘저자란 무엇인가’라는 질문에 대해 이제 ‘인간 넘어’의 상상력을 발휘해야 한다. 지난해 말 한 인문학 행사에서 필자는 AI가 인간의 육체에서 나오는 언어를 만들지는 못할 것이라는 평소 생각을 말했다. 그런데 사회자는 최근 기술의 발달로 육체를 가진 ‘피지컬 AI’도 가능해졌다고 했다. 공장 노동과 가사 노동을 대체하는 휴머노이드 역시 조만간 인간의 몸을 대신할 것이다. 생물학적 육체와 AI를 결합하는 ‘바이오하이브리드 로봇’의 개발도 진행되고 있다. 휴머노이드에 인간의 기억을 심어 주는 상상도 이미 SF에서는 익숙하다. 분명한 사실은 이제는 돌이킬 수 없이 AI와 함께 살아가야 한다는 것이다. AI 현기증은 ‘인간의 시간’ 안에 동거할 것이다. AI가 10초 만에 할 수 있는 일을 몇 시간이나 며칠, 혹은 수년 동안 해내는 인간의 노고는 덧없다. 그러나 그것이 ‘일인칭 인간의 시간’이다. 유한하고 연약한 신체를 가진 존재, 욕망하고 좌절하고, 불안과 공포에 떨고, 땀과 피를 흘리고, 몸서리치고 소름이 돋는, 일인칭 ‘나’의 감각 말이다. 상냥하고 날카로운 계절들의 순간, 통증과 아름다움을 함께 가진 ‘그 이름’조차 잊게 되는 희미한 기억력과 언젠가 죽음을 맞이할 저 취약한 일인칭 육체가 가진 망각의 능력. 절대로 망각을 모르는 인공지능 앞에서, 망각으로만 견딜 수 있는 삶과 ‘나’의 무력한 언어가 여기에 남아 있다. 이광호 문학과지성사 대표

한국인 869명에 486억 가로챈 혐의 경찰이 캄보디아를 거점으로 대규모 스캠(사기) 범죄를 저지른 뒤 국내로 송환된 한국인 피의자 73명 전원에 대한 구속영장을 신청했다. 전날 오전 인천국제공항을 통해 국내로 강제 송환된 지 하루 만이다. 경찰청 국가수사본부는 이날 언론 공지를 통해 “경찰은 ‘범정부 초국가범죄 특별대응 태스크포스(TF)’를 통해 피의자 73명의 범죄 혐의를 수사하고 있다”며 “오늘 전원에 대한 구속영장 신청을 완료했다”고 밝혔다. 이들은 캄보디아 프놈펜에서 국내로 향하는 전세기에 타자마자 기내에서 체포돼 관할 경찰관서로 압송됐고, 경찰 조사 후 유치장에 수용됐다. 부산청 49명, 충남청 형사기동대 17명, 울산청 2명, 경남청 1명, 서울청 3명, 인천청 1명 등으로 분산됐다. 피의자들은 한국인 869명에게서 약 486억원을 가로챈 혐의를 받는다. 이들 중 70명은 로맨스 스캠이나 투자 리딩방 운영 등 스캠 범죄 혐의를, 3명은 인질강도와 도박 등 혐의를 받고 있다. 가상 인물로 위장하는 딥페이크 기술을 활용해 104명에게서 약 120억원을 가로챈 로맨스 스캠 부부 사기단도 포함됐다. 이들은 수사 당국의 추적을 피하기 위해 성형수술로 얼굴을 바꾸는 등 기상천외한 도피전략을 써오다 검거됐으나 지난해 10월 송환 때는 제외됐다. 투자 전문가를 사칭해 사회 초년생과 은퇴자들에게서 약 194억원을 받아 가로챈 사범 등도 이번 송환 대상자에 포함됐다. 또 미성년자를 대상으로 성범죄를 저지른 뒤 캄보디아로 도주해 사기에 가담한 도피 사범, 스캠 단지에 감금된 피해자를 인질 삼아 국내에 있는 가족을 협박하고 금품을 뜯어낸 조직원 등이 송환됐다. 현재 경찰청은 법무부·외교부·국가정보원으로 구성된 초국가 범죄 특별 대응 TF를 구성해 수사를 진행하고 있다. 지난해 캄보디아에서 한국인 대학생이 범죄 조직에 감금돼 고문을 받다 사망한 사건이 발생한 이후 현지에서 발생하는 한국인 대상 범죄에 대한 대응을 강화한 것의 일환이다.

캄보디아에서 스캠(사기), 인질강도 등에 가담한 한국인 범죄 조직원 73명이 23일 오전 국내로 강제 송환됐다. 초국가범죄특별대응 TF는 이날 오전 9시 41분 캄보디아 한국인 스캠 조직원 73명을 전세기를 통해 캄보디아 프놈펜에서 인천국제공항으로 강제 송환했다. 한국 범죄자들을 해외에서 전세기로 집단 송환한 사례는 이번이 네 번째이며 단일 국가 기준 역대 최대 규모의 송환 작전이다. 송환 대상자들은 전세기에 타자마자 기내에서 체포됐다. 국적법상 국적기 내부도 대한민국 영토여서 체포영장을 집행할 수 있다. 이들은 전세기에서 내리자마자 국내 경찰서 등으로 압송돼 조사받는다. 이들 중 70명은 로맨스 스캠이나 투자 리딩방을 운영해 스캠 범죄를 저지른 혐의를, 나머지 3명은 인질강도와 도박장을 운영한 혐의를 받는다. 한국인 869명에게서 약 486억원의 피해를 준 것으로 TF는 파악했다. 딥페이크 기술을 활용해 104명에게 약 120억원을 편취한 로맨스 스캠 부부 사기단도 포함됐다. 부부는 성형수술로 얼굴을 바꾸는 등으로 도피하다 검거됐으나 지난해 10월 송환 때는 제외됐다. 이 외에도 투자 전문가를 사칭해 사회 초년생과 은퇴자들에게서 약 194억원을 받아 가로채거나, 미성년자를 대상으로 성범죄를 저지른 뒤 캄보디아로 도주해 사기에 가담 후 도피하거나, 스캠 단지에 감금된 피해자를 인질 삼아 국내에 있는 가족을 협박하고 금품을 갈취한 조직원 등도 송환됐다. 지역별로는 캄보디아 시아누크빌에서 51명, 태국 접경지대인 포이펫에서 15명, 베트남 접경지대인 몬돌끼리에서 26명 등이 적발됐다. 확인된 스캠 단지만 7곳에 달하며 이들 단지에서는 감금·고문을 당하던 20대 남성들이 구출되기도 했다.

인공지능(AI) 포괄 규제법인 ‘AI 기본법’이 어제부터 시행됐다. 한국은 AI 규제법을 전면 시행하는 세계 최초의 국가가 됐다. AI 산업 진흥과 안전한 활용이라는 두 마리 토끼를 잡겠다는 야심찬 시도다. 딥페이크와 허위정보 유포 등 AI 부작용이 현실화되는 상황에서 규범 마련은 적절한 대응이다. 그러나 법 시행 첫날부터 현장의 우려가 적지 않다. 유럽연합(EU)이 먼저 AI법을 제정하고도 단계적 시행을 택한 이유를 되새겨 볼 필요가 있다. 가장 시급한 과제는 규제 기준을 명확히 하는 일이다. 정부는 국민 생명과 권리에 중대한 영향을 미치는 AI를 ‘고영향 AI’로 규정하며 의료·에너지·채용·대출 등 10개 영역을 제시했으나 중대한 영향을 판단하는 기준이 불명확하다. 딥페이크 오용 등을 막으려 AI 생성물 표시를 의무화한 워터마크 규정도 마찬가지다. AI를 어느 정도 활용했을 때 표시하는지 애매해 현장의 혼선이 예상된다. 규제 기준이 명확하지 않을수록 피해는 스타트업·중소기업에 집중된다. 시행령만 421페이지에 달하는 방대하고 복잡한 규정을 해석하기 위한 법률 자문 등을 감당할 여력이 부족해서다. 대기업과 달리 규제 대응 인력이 부족해 법 개정 과정에 목소리를 내기도 어렵다. 자칫 국내 기업만 족쇄를 차게 되는 역차별 가능성도 있다. 해외 AI 기업들은 국내 대리인만 지정하면 될 뿐 실질적 단속이 어렵기 때문이다. 전자상거래와 핀테크, 게임 등 분야에서 국내 규제가 토종 기업의 발목을 잡고 해외 기업에 경쟁 우위를 안겼던 선례를 반복해서는 안 될 일이다. 정부가 사실조사권과 과태료 부과를 1년 이상 유예하고 전문가 지원 데스크를 운영하기로 한 것은 바람직하다. 그러나 명확한 기준 제시만이 근본 해법일 수 있다. AI 기술이 순식간에 진화하면서 오늘의 기준이 내일은 낡은 규제가 될 수 있는 변혁의 시간이다. 정부는 산업계와 긴밀히 소통해 실효성 있고 예측 가능한 기준을 구축해야 한다.

정부가 캄보디아에서 대규모 스캠(사기) 범죄를 저지른 한국인 조직원 73명을 오는 23일 국내로 강제 송환한다. 단일 사건 기준으로 역대 최대 규모다. 22일 경찰 등에 따르면 초국가 범죄 대응을 위해 구성된 범정부 태스크포스(TF)는 한국민 869명에게서 약 486억원을 가로챈 혐의를 받는 한국 국적 피의자 73명을 국내로 송환한다. 이들의 송환을 위해 이날 오후 8시 45분 인천공항에서 전용기가 출발한다. 비행기는 현지에서 피의자들을 태운 뒤 23일 오전 9시 10분 귀환할 예정이다. 피의자들은 모두 체포영장이 발부된 상태로, 국내에 도착하는 대로 수사기관으로 보내져 조사받게 된다. 국적법상 국적기 내부는 대한민국 영토여서 탑승 즉시 체포영장이 집행된다. 통상 수갑을 채운 피의자 1명당 호송관 2명이 양옆에 앉는다. 피의자 73명 중 70명은 로맨스 스캠이나 투자 리딩방 운영 등 스캠 범죄 혐의를, 3명은 인질강도와 도박 등 혐의를 받는다. 이번 송환 대상에는 지난해 10월 국내로 송환하지 못한 로맨스 스캠(연애빙자 사기) 부부사기단도 포함됐다. 이들은 딥페이크 기술을 악용해 가상 인물로 위장하는 등 수법으로 한국인 104명에게서 120억원 상당을 편취했다. 이들은 수사망을 피하기 위해 성형수술로 외모를 바꾸는 등 치밀한 회피 전략을 썼다. 투자 전문가를 사칭해 사회 초년생과 은퇴자들에게서 약 194억원을 받아 가로챈 사범 등도 이번 명단에 포함됐다. 또한 미성년자를 대상으로 성범죄를 저지른 뒤 캄보디아로 도주해 사기에 가담한 도피 사범, 스캠 단지에 감금된 피해자를 인질 삼아 국내에 있는 가족을 협박하고 금품을 갈취한 조직원 등도 함께 송환된다. 앞서 캄보디아 현지에 파견된 코리아전담반과 국정원, 현지 캄보디아 경찰 등은 장기간 공조 수사를 통해 캄보디아 내 스캠 단지 7곳을 특정했다. 이들은 지난해 12월 시하누크빌 스캠 조직 51명, 포이팻 스캠 조직 15명, 몬돌끼리 스캠 조직 26명 등을 검거했다. 정부는 이들을 해외에 방치할 경우 추가 범죄로 이어질 우려가 크다고 판단해 국내 송환을 결정했다고 설명했다. 이번 송환을 계기로 범죄자들의 은닉재산을 끝까지 추적하고, 범죄수익 환수도 본격적으로 추진한다는 계획이다.

캄보디아에 본거지를 두고 120억원대 ‘로맨스 스캠’ 사기를 벌인 한국인 총책 부부가 국내로 압송돼 형사 처벌을 받는다. 울산경찰청은 캄보디아에서 국내로 송환되는 ‘로맨스 스캠’ 사기 한국인 총책 A씨 부부를 23일 오전 법무부로부터 인계받아 수사한다고 22일 밝혔다. 사건을 맡아온 울산경찰청은 인천공항으로 경력을 보내 이 부부가 입국하는 즉시 울산으로 압송해 조사할 계획이다. A씨 부부는 로맨스 스캠 투자 사기로 104명으로부터 120억원을 가로챈 혐의를 받는다. 이들 현지에 검거와 석방을 반복하다가 1년여 만에 국내로 이송돼 수사를 받게 됐다. 경찰은 부부를 각각 다른 경찰서 유치장에 수감한 후 범죄단체 조직, 특정경제범죄 가중처벌 등에 관한 법률 위반(사기) 등 혐의로 조사를 벌이고 구속영장을 신청할 방침이다. 휴대전화 확보 등을 위한 압수 영장도 신청한다. 경찰은 이들이 로맨스 스캠 조직에서 총책을 맡게 된 경위와 조직 운영 방법, 캄보디아 현지에서 체포되고도 석방된 과정 등을 들여다본 후 이르면 이달 안에 검찰에 송치할 것으로 보인다. 경찰 관계자는 “송환이 어렵게 이뤄진 만큼 철저히 수사하겠다”고 밝혔다. A씨 부부는 딥페이크로 가상 인물을 만들고 채팅 앱을 통해 이성에게 접근해 투자 사기 행각을 벌인 혐의를 받는다. 2024년 3월부터 지난해 2월까지 100여명을 상대로 120억원을 가로챈 뒤 가상화폐나 상품권 매매 등을 통해 현금화한 것으로 조사됐다. 피해자 중에는 장애인이나 중소기업 사장, 주부, 노인 등도 있으며 적게는 200만원에서 많게는 8억 8000만원까지 피해를 봤다. 이 부부는 지난해 2월 초 캄보디아 현지에서 체포됐다가 6월 초 한 차례 석방됐다. 이후 법무부가 7월 말 수사 인력을 보내 현지 경찰과 함께 이들을 체포해 가뒀지만 송환 협의가 지연되면서 다시 풀려나기도 했다. 이번에 A씨 부부가 송환된 것은 지난해 8월 캄보디아에서 발생한 ‘한국인 대학생 고문·살해 사건’ 이후 한국 정부가 캄보디아 정부와 공조를 강화하고 현지에 ‘코리아 전담반’을 설치해 각종 범죄 연루자를 대대적으로 검거하는 등 분위기 변화를 끌어냈기 때문이다.

캄보디아에서 스캠(사기), 인질강도 등 범죄를 벌이다 검거된 한국인 조직원들이 22일 대규모 송환된다. 강유정 청와대 대변인은 이날 오전 춘추관에서 브리핑을 열고 “이재명 대통령의 지시로 구성된 ‘초국가범죄 특별대응 태스크포스(TF)’가 캄보디아를 거점으로 우리 국민 869명에게 약 486억원을 편취한 한국 국적 피의자 73명을 강제 송환한다”고 밝혔다. 이들의 송환을 위해 이날 오후 8시 45분 인천공항에서 전용기가 출발한다. 비행기는 현지에서 피의자들을 태운 뒤 23일 오전 9시 10분 귀환할 예정이다. 이들은 모두 체포영장이 발부된 상태로, 국내에 도착하는 대로 수사기관으로 보내져 조사받게 된다. 강 대변인은 “이번 범죄 피의자의 국내 송환은 역대 최대 규모”라며 “캄보디아 현지에 파견된 코리아 전담반, 국가정보원, 현지 경찰 등 수사팀이 장기간에 걸친 추적 끝에 거둔 성과”라고 덧붙였다. 73명 중 70명은 로맨스 스캠이나 투자 리딩방 운영 등 스캠 범죄 혐의를, 3명은 인질강도와 도박 등 혐의를 받는다. 여기에는 딥페이크 기술을 활용해 104명에게 약 120억원을 편취한 사범, 투자 전문가를 사칭해 사회 초년생과 은퇴자들에게서 약 194억원을 편취한 사범 등도 포함됐다. 송환자 가운데에는 그간 성형수술로 얼굴을 바꾸는 등의 도피전략으로 법망을 피해 온 이들도 있는 것으로 전해졌다.

미국 소셜미디어 엑스(X·옛 트위터)에 탑재된 생성형 AI 그록(Grok)을 둘러싸고 비동의 누드 합성 논란이 확산하고 있다. 여성들의 사진을 입력한 뒤 “투명 비키니로 바꿔 달라”와 같은 지시를 내리면 실제 신체와 구분하기 어려운 노출 이미지가 생성된다는 것이다. 피해자들은 “현실과 너무 닮아 더 큰 공포를 느꼈다”고 호소하고 있다. 19일(현지시간) 미국 대중문화·시사 매체 롤링스톤에 따르면, 텍사스에 거주하는 미디어 종사자 켄들 메이스(25)는 최근 X를 둘러보다 자신의 과거 사진이 합성 누드 이미지로 바뀌어 유포되고 있는 사실을 알게 됐다. 그녀가 20대 초반에 올렸던 사진 아래에는 익명의 이용자가 “몸에 밀착된 투명 비키니를 입혀 달라”고 그록에 지시하는 댓글이 달려 있었다. 그록은 해당 지시에 응답했다. 흰색 상의는 사라지고 신체 윤곽이 그대로 드러나는 투명 비키니 이미지가 생성됐다. 청바지 허리선과 벨트는 실처럼 얇은 끈으로 변형됐고 상반신은 마치 실제로 노출된 것처럼 보였다. 메이스는 문제의 계정을 직접 차단했지만 상황은 끝나지 않았다. 이후에도 다른 익명 계정들이 같은 방식으로 그녀의 사진을 합성해 댓글로 달기 시작했다. 일부 계정은 정지됐지만 문제의 이미지 가운데 상당수는 여전히 X에 남아 있는 상태다. 그녀를 더욱 불안하게 만든 것은 이미지의 ‘현실감’이었다. 과장되거나 만화처럼 왜곡된 합성이 아니라 쇄골의 굴곡부터 가슴과 허리 비율까지 실제 자기 몸과 매우 흡사했기 때문이다. 메이스는 “소셜미디어에서는 ‘이건 내가 아니다’라고 말했지만, 솔직히 말해 내 몸과 너무 멀지 않다는 생각이 들었다”고 말했다. ◆ “이건 내가 아닌데…너무 닮았다” 메이스의 사례는 단지 개인의 불운이 아니었다. 새해 첫 주부터 그록의 이른바 ‘나체화(nudification) 허점’이 온라인 전반으로 급속히 확산했다. 이용자들은 “벗겨 달라”, “돌아보게 해 달라”, “살을 더 붙여 달라” 같은 지시를 반복적으로 입력했고 여성은 물론 미성년자 이미지까지 표적이 됐다. 직접적인 노출 표현을 피하기 위해 “투명 비키니”, “살색 바디수트” 같은 우회적 표현도 동원됐다. 롤링스톤이 확인한 사례 가운데에는 여성의 몸을 시신으로 설정해 부검 장면을 생성하도록 요구한 경우도 있었고 그록은 이에 응답했다. 논란이 커지자 플랫폼 소유주 일론 머스크는 초기에는 웃음 이모지로 반응해 비판받았다. 이후 그록을 개발한 xAI는 이미지 생성 기능을 유료 이용자로 제한하고, 불법 콘텐츠에 대해서는 직접 올린 경우와 같은 책임을 묻겠다고 밝혔다. 머스크는 또 “미성년자 누드 이미지가 생성됐다는 사실은 인지하지 못했다”고 주장했다. 그러나 이미 생성된 이미지 상당수는 삭제되지 않은 채 온라인에 남아 있다. 피해자들은 “차단과 신고만으로는 상황이 달라지지 않는다”고 호소한다. 이번 보도는 야후뉴스에도 소개되며 댓글 400여 개가 달리는 등 격론으로 이어졌다. “비동의 합성은 명백한 범죄로, 플랫폼과 이용자 모두 책임을 져야 한다”는 의견이 적지 않은 가운데, “AI 기술의 확산 속도에 법과 제도가 제대로 대응하지 못하고 있다”는 지적도 나왔다. 반면 “사진을 올리지 않으면 피해도 발생하지 않는다”거나 “소셜미디어를 떠나는 것이 현실적인 해법”이라며 개인 책임을 강조하는 반응도 이어졌다. ◆ AI 누드 합성의 확산, 책임은 누구에게 있나 젠더 정의 단체 울트라바이올렛은 애플과 구글에 공개서한을 보내 그록과 X를 앱스토어에서 퇴출할 것을 촉구했다. 이 단체는 “해당 콘텐츠는 모욕적이고 학대적일 뿐 아니라 앱스토어 운영 정책을 명백히 위반한다”고 주장했다. 민주당 상원의원들도 같은 요구를 내놓은 상태다. 블룸버그 통신에 따르면, 연구자들은 한때 그록을 통해 생성된 성적 이미지 수가 24시간 동안 시간당 7,000장을 넘겼다고 분석했다. 울트라바이올렛 측은 “유료 이용자 제한은 해결책이 아니라 학대를 수익화하는 조치”라고 비판했다. ASMR 콘텐츠로 수백만 팔로워를 보유한 크리에이터 엠마(21) 역시 피해를 보았다. 고양이를 안고 찍은 셀피가 노출 이미지로 합성돼 유포된 것이다. 엠마는 “이전에도 딥페이크 피해를 겪었지만, 이번 이미지는 비교할 수 없을 정도로 현실적이었다”고 말했다. 신고 과정에서 신분증 제출을 요구받은 점도 또 다른 부담이었다. 미국 소비자연맹의 AI·프라이버시 책임자 벤 윈터스는 “플랫폼이 신뢰를 잃은 상황에서 피해자에게 추가적인 증명을 요구하는 것은 적절하지 않다”고 지적했다. 법적 대응 움직임도 본격화되고 있다. 미 상원은 비동의 성적 딥페이크 피해자가 민사상 손해배상을 청구할 수 있도록 하는 ‘디파이언스 법(Defiance Act)’을 통과시켰다. 캘리포니아주 검찰도 그록과 관련한 조사에 착수했다. 전문가들은 가해자 처벌과 함께 도구 제공자의 책임을 분명히 해야 한다고 강조한다. 엠마는 “사람들에게 장전된 총을 쥐여주고 마음대로 쓰게 한 것과 다르지 않다”며 “도구가 바뀌면 피해의 규모도 달라진다”고 말했다. AI 이미지 생성 기술이 고도화될수록, 플랫폼의 안전장치와 책임 기준은 피해를 막는 핵심 변수로 떠오르고 있다. 이번 그록 논란은 기술의 속도를 제어하지 못한 사회가 어떤 대가를 치르게 되는지를 보여주고 있다는 지적이 나온다.