교육부가 각 정부 기관과 손잡고 헌법교육, 선거교육 등의 강화를 추진하는 등 정부 국정과제인 ‘민주시민교육’ 시행에 박차를 가하고 있다. 교육부는 30일 정부서울청사에서 법무부·법제처·헌법재판연구원과 ‘학교 현장의 헌법교육 강화를 위한 업무협약’을 체결했다. 이번 업무협약은 ‘민주시민교육 추진계획’의 일환으로, 교육부는 이를 위해 지난해 하반기부터 법무부 등과 협력해온 바 있다. 교육부는 올해부터 학생과 교원을 대상으로 하는 헌법교육을 체계화하고 우수사례를 공유·확산할 계획이다. 기존보다 양질의 헌법교육이 이뤄지도록 하겠다는 취지다. 지난해 초등학교와 중학교에서만 이뤄졌던 헌법교육 전문강사 지원 사업도 올해는 고등학교까지 확대된다. 교육부는 헌법교육을 포함한 2026년 민주시민교육 추진 계획을 이날 발표했다. 추진안에는 중앙선거관리위원회(중앙선관위)와 진행하는 손잡고 초·중·고 학교급별 맞춤형 ‘선거 교육’도 담겼다. 최근 법 개정을 통해 만 18세는 선거권을 갖고, 만 16세는 정당 가입이 허용되는 만큼 학생들이 참정권 관련 기본 지식을 갖추도록 훈련하기 위한 것이다. 구체적으로 고3 학생에게 ‘새내기 유권자 교육’, 초·중학생에게는 ‘민주주의 선거교실’ 프로그램을 운영할 계획이다. 교육 목표 인원은 각각 40만명, 2만명이다. 당장 오는 6월 실시되는 지방선거에 앞서 학생의 선거·정당 활동 등과 관련한 ‘정치관계법 Q＆A’를 각 학교에 안내한다. 디지털 미디어 리터러시 교육도 강화한다. 가짜뉴스로 인한 ‘확증편향’ 강화가 사회 문제로 대두되는 만큼, 학생들이 정보의 홍수 속에서 분별력과 사고력을 기를 수 있도록 돕기 위해서다. 방송미디어통신위원회와 협업한 ‘찾아가는 미디어교육’도 이뤄질 예정이다. 지역 시청자미디어센터 전문강사가 학교에 직접 방문해 딥페이크 등의 범죄 예방과 미디어 윤리 교육을 진행한다. 올해 36개교에서 시행된다. ‘민주시민교육’은 이재명 정부의 국정과제 중 하나로, 교육부는 지난해 11월 민주시민교육팀을 신설해 헌법·선거 교육 강화안을 마련해왔다. 교육부는 향후 민주시민교육의 내용과 현황을 분석하고 교육과정 수시 개정도 검토한다. 필요 시 선택과목 신설도 추진한다. 교육부는 향후 충분한 의견 수렴을 통해 ‘학교 민주시민교육법’ 제정을 추진할 방침이다. 학생의 ‘민주시민 역량’을 측정하기 위한 관련 지표도 만들 예정이다. 다만 교원단체들은 민주시민교육을 도입하기 이전에 교사들을 보호할 장치 마련이 시급하다고 주장했다. 전국교직원노동조합은 이에 대해 “사회적 쟁점, 역사적 해석의 차이, 정책 논쟁을 수업에서 다루는 것만으로도 교사는 민원 제기와 수업 위축을 우려해야 하는 현실”이라고 말했다. 한국교원단체총연합회 역시 “교사들을 양극단으로 치닫는 현재의 정치지형상 학생·학부모들로부터 쏟아지는 민원의 사지로 내모는 격”이라고 꼬집었다.

캄보디아를 거점으로 딥페이크 기술을 활용해 로맨스스캠(연애빙자사기)과 투자사기를 벌인 범죄조직의 핵심 인물인 한국인 사기 부부가 구속 송치됐다. 경찰은 해외에 은신 중인 총책과 조직원 검거, 범죄수익 환수에 수사력을 집중하고 있다. 울산경찰청은 범정부 ‘초국가범죄 특별대응 태스크포스(TF)’ 공조를 통해 캄보디아에서 강제 송환된 로맨스스캠 사기 부부 2명을 30일 구속 상태로 검찰에 송치했다고 밝혔다. 이들은 2024년 1월부터 작년 2월까지 104명을 속여 약 120억원을 가로챈 혐의를 받는다. 이들 부부가 가담한 범죄조직은 캄보디아를 본거지로 삼고 딥페이크 기술을 동원해 연애 빙자 사기와 투자사기를 조직적으로 저지른 것으로 파악됐다. 울산경찰청 반부패·경제범죄수사대는 현재까지 이 범죄조직 관련자 83명을 입건해 57명을 붙잡았다. 이 중 사기 부부를 비롯해 관리책·인사팀장·국내 자금세탁 총책 등 39명은 범죄단체 조직·가입·활동 혐의와 특정범죄가중처벌법, 통신사기피해환급법 위반 혐의로 구속했다. 아직 검거하지 못한 26명은 계속 쫓고 있다. 이 조직은 캄보디아 현지 건물을 통째로 매입해 대포폰과 컴퓨터 등을 갖춘 사무실을 차린 뒤, 한국인 총책을 중심으로 범행을 직접 수행하는 실행팀과 인력·자금 관리를 맡는 지원팀으로 역할을 분담한 기업형 범죄단체다. 이들은 2024년 1월부터 가상의 인물 ‘박가인’을 만들어 SNS(사회관계망서비스)를 통해 남성들과 매일 대화를 이어가며 호감을 쌓은 뒤 주식·가상자산 투자를 유도했다. 피해자 응대를 위한 10일 분량의 시나리오를 사전에 작성하고, 타인의 SNS 사진을 도용해 딥페이크로 얼굴을 합성한 영상과 유튜브 콘텐츠를 제작해 화상채팅까지 진행하는 치밀함을 보였다. 또 실제 존재하는 회사 명의를 도용한 가짜 사이트(COMEX GROUP, TCS GROUP, SSE GROUP, LSEG FX GROUP)를 개설하고 허위 애플리케이션을 설치하게 해 정상적인 투자처럼 위장한 뒤 투자금을 편취했다. 조직은 태자단지·프놈펜·보레이 등 캄보디아 여러 지역에 분점 형태 사무실을 두고 자금세탁팀과 모집책, 콜센터를 운영하며 수익을 배분하는 ‘프랜차이즈식’ 구조로 범행을 확장한 것으로 파악됐다. 송환된 사기 부부는 애초 다른 범죄단체 조직원으로 활동하며 범행 수법을 익힌 뒤, 캄보디아 포이펫 범죄단지에서 중국인에게 자금을 투자받아 별도의 범죄조직을 꾸려 범행을 이어왔다. 그러다 지난해 2월 현지 경찰에 검거됐다. 다만 공범의 도움으로 넉 달 만에 석방됐고 이후 은신처를 옮기며 도피 생활을 이어갔다. 이 과정에서 이들은 수사망을 피하고자 눈과 코 등을 성형하기도 했다. 우리나라 법무부는 7월 말 수사 인력을 보내 현지 경찰과 함께 이들 부부를 체포해 구금했지만 송환 협의가 지연되면서 다시 석방되기도 했다. 그러다가 초국가 범죄 대응 범정부 태스크포스에 의해 지난 23일 한국으로 압송됐다. 경찰은 이들의 여죄를 추가 수사하는 한편 인터폴과 협력해 ‘은색수배서’를 발급받아 해외에 은닉된 범죄수익 추적·환수에도 나서고 있다. 울산경찰청 관계자는 “고수익을 미끼로 한 해외 범죄 가담 유혹에 각별한 주의가 필요하다”며 “앞으로도 범정부 TF와 공조해 해외 거점 피싱 범죄조직을 끝까지 추적하고 국민 피해를 차단하겠다”고 말했다.

경북도의회 김창혁 의원(구미, 국민의힘)은 지역의 청소년을 정보화 역기능으로부터의 보호하기 위한 ‘경북도 청소년 정보화 역기능 청정지역 조례 전부개정조례안’을 대표발의해, 지난 28일 열린 소관 상임위(기획경제위원회) 심사를 통과했다. 김 의원은 상위법령 개정사항 반영 및 인용 조문을 정비하고 청소년 보호를 위한 종합적 보호조치와 기술적 보호조치, 그리고 유해정보 차단 소프트웨어 사용 촉진에 관한 사항을 규정하여, 정보통신망 이용에 따른 역기능으로부터 지역 청소년을 보호하는 건전한 정보문화 조성에 이바지하고자 개정안을 제안하였다. 주요내용으로 ▲제명을 ‘경북도 청소년 정보화 역기능 청정지역 조성 조례’로 변경하고 ▲‘지능정보화 기본법’ 개정 사항 및 ‘청소년 보호법’ 정의 규정을 반영했으며 ▲청소년 보호를 위한 종합적 보호조치와 기술적 보호조치, 중앙행정기관이 보급하는 사이버 유해물 차단 소프트웨어 확대 보급에 관한 사항을 규정하고 ▲관련 전문기관 및 행정기관 등과 협력체계 구축과 사무위탁에 관한 사항을 규정했다. 김 의원은 “최근 일상생활이 곤란할 정도로 스마트폰을 과도하게 사용하는 청소년들이 급격하게 증가하고, 사이버 도박, 딥페이크 악용 범죄, 사이버불링 등 디지털 역기능이 심각한 사회문제로 대두되고 있다”라며 “청소년이 피해를 입기 전에 예방하고 보호할 수 있는 체계를 마련하는 것이 무엇보다 중요하다”면서 “이번 전부개정안은 지역 청소년을 정보화 역기능으로부터 더욱 효과적으로 보호하기 위해 조례 전반의 미비점을 보완하고 정비한 것”이라고 강조했다. 덧붙여 김 의원은 “앞으로도 청소년의 안전을 위한 실질적 정책 마련에 최선을 다하겠다”고 밝혔다. 한편, 조례안은 2월 6일 개최되는 제360회 임시회 제2차 본회의를 통해 최종 처리된다.

경기여성재단, ‘딥페이크 성범죄 대응 현황과 과제’ 정책보고서 발간 경기도에서 딥페이크 성범죄 피해 지원을 받은 피해자 2명 중 1명은 10대 이하 아동·청소년인 것으로 나타났다. 경기도여성가족재단이 발간한 ‘경기도 딥페이크 성범죄 대응 현황과 과제’ 보고서에 따르면, 경기도디지털성범죄피해자원스톱지원센터에 2021년부터 2024년까지 접수된 디지털 성범죄 피해는 2021년 777건, 2022년 764건, 2023년 709건에서 2024년에는 1451건으로 전년에 비해 2배 가까이 증가했다. 접수된 2024년 피해 유형을 살펴보면 유포 불안이 447건(30.8%)으로 가장 많고 유포 248건(17.1%), 불법 촬영 198건(13.6%), 유포 협박 129건(8.9%), 기타 112건(7.7%), 불법 합성 및 도용(딥페이크) 95건(6.5%), 온라인 내 성적 괴롭힘 93건(6.4%), 온라인 그루밍 87건(6.0%), 성착취 영상통화 범죄(몸캠피싱) 42건(2.9%) 순이었다. 딥페이크 성범죄 피해 지원을 받은 피해자는 95명 중 10대 이하가 49명으로 51.6%를 차지했고, 20대는 24명(25.3%)으로 아동·청소년 및 청년의 피해율이 76.9%에 달했다. 보고서는 딥페이크 성범죄의 피해 대상 범위와 피해 확산 속도, 피해 회복의 불가능성을 감안한다면 입법적 개선과 함께 피해 지원과 예방 분야에 적극적 조치를 취해야 한다고 밝혔다. 특히 디지털 성범죄 2차 피해 방지를 위해 ‘디지털 성범죄 2차 피해 개념과 예시’를 규정하고 이를 초·중·고등학교와 경찰청·경찰서, 공공기관 등에 적극 알리는 한편 교육할 필요가 있다고 덧붙였다. 이와 함께 ▲인공지능 기술을 이용하지 않은 포토샵 정도의 간단한 기술로 제작한 성착취물 관련 범죄를 포괄하는 용어의 개발 ▲‘불안 피해’에 대한 법적·제도적 대응 ▲영상통화·모니터에 나타난 영상에 대한 촬영 등은 불법 촬영으로 인정 ▲비동의 소지죄 신설 ▲타인의 영상과 피해자의 사진이 편집되어 게시되는 허위 영상물 성폭력 처벌법 적용 등 디지털 성범죄 대응을 위한 향후 과제를 제안했다. 백미연 재단 연구위원은 “딥페이크 성범죄 등 디지털 성범죄 대응 강화를 위해 경기도가 디성센터의 위상과 기능을 강화하고 2차 피해 예방에 초점을 둔 예방 교육으로 전환할 필요가 있다”고 밝혔다. 경기도는 2021년 광역지자체 최초로 디지털 성범죄 피해자 지원 기관인 ‘경기도디지털성범죄피해자원스톱지원센터’를 설치해 전문 상담, 삭제 지원, 법률 지원, 수사 지원 등 통합적 원스톱 피해 지원 체계를 구축해 피해자의 일상 회복을 지원하고 있다.

애플과 구글 등 미국 IT 글로벌 기업들이 애플 앱스토어와 구글플레이 스토어에서 알몸 이미지를 합성해주는 인공지능(AI) 애플리케이션을 방치하고 1700억 원에 달하는 수익금을 챙겼다는 주장이 나왔다. 미국 워싱턴D.C에 본부를 둔 비영리 조사·연구 단체인 기술투명성프로젝트(TTP)가 27일(현지시간) 발표한 보고서에 따르면, 애플과 구글 앱 장터에서 위와 같은 문제를 가진 AI 앱을 각각 47건, 55건 발견했다. 애플과 구글은 자사 앱 장터에 성적인 콘텐츠나 타인을 비하·객체화하는 앱을 금지하는 정책을 두고 있지만 사실상 여과 기능이 제대로 작동하지 않은 셈이다. 더불어 문제가 된 앱 약 100개는 전 세계에서 7억 500만 회 이상 다운로드된 것으로 확인됐다. 애플과 구글은 앱 개발자 수익의 최대 30%를 수수료 명목으로 가져간다. 문제가 된 앱들의 다운로드 횟수를 고려하면 애플과 구글의 예상 수익은 1억 1700만 달러(한화 약 1700억 원)에 달한다는 것이 TTP의 주장이다. TTP는 “애플과 구글이 문제의 앱들을 방치함으로써 직접적인 이익을 얻고 있다”고 비판했다. 딥페이크 등 성범죄에 동원될 수 있는 문제의 앱들TTP가 지적한 문제의 앱들은 AI를 이용해 사진 속 인물의 옷을 벗겨 내거나 비키니 수영복 차림 등 선정적은 모습으로 변환할 수 있다. 또 기존의 음란 이미지에 다른 사람의 얼굴을 합성하는 딥페이크 기능도 제공한다. 문제의 앱 상당수는 이러한 자극적인 기능을 숨기고, 단순히 오락용으로 이미지 합성 기능을 제공하거나 다양한 의상을 가상으로 착용할 수 있는 ‘AI 피팅룸’이라고 홍보해 왔다. 일부 앱은 외설스럽거나 다른 사람을 불쾌하게 할 수 있는 콘텐츠 생성을 금지한다는 약관을 마련해두었으나 사실상 약정을 어겨도 별다른 제재를 하지 않았다. 또 다른 앱들은 ‘옷 찢기’, ‘엉덩이 흔들기’ 등 선정적인 영상 서식을 보란 듯이 제공했다. TTP에 따르면 이번에 확인된 문제의 앱 중 일부는 중국 기반으로 제작됐으며, 사용자의 데이터가 중국 내 서버에 저장되기 때문에 개인정보 보호 또는 보안 관련 문제도 야기될 수 있다. 머스크의 ‘그록’도 논란…IT 기업들의 도덕적 윤리, 시험대 올랐다해당 보고서가 공개된 뒤 애플 대변인은 미 경제방송 CNBC에 “TTP가 지적한 앱 중 28건을 삭제 조치했고 개발자들에게 정책 위반 시 퇴출당할 수 있다고 경고했다”고 밝혔다. 구글 대변인 역시 “보고서에 언급된 앱들을 정책 위반으로 사용 중지 시켰다”고 밝혔으나 조치 대상이 된 앱의 숫자는 공개하지 않았다. 이번 보고서는 일론 머스크의 인공지능(AI) 챗봇 그록의 선정성 논란과 맞물리면서 IT 기업들의 도덕적 윤리가 시험대에 올랐다는 지적으로 이어졌다. 그록은 일론 머스크가 만든 AI 기업 ‘xAI’가 개발한 대화형 인공지능 챗봇이다. 최근 머스크는 X에 게시된 이미지를 그록이 수정할 수 있도록 하는 기능을 도입했다. 이후 많은 이용자가 “비키니를 입혀라”, “옷을 벗겨라”와 같은 손쉬운 명령어를 이용해 여성과 미성년자의 딥페이크 이미지를 생성하는 데 그록을 악용하면서 논란이 일었다. 논란이 거세지자 xAI는 지난 14일 “비키니와 같이 노출이 있는 복장을 한 실제 인물의 이미지를 편집하는 것을 그록 계정이 허용하지 않도록 기술적 조치를 시행했다”고 밝혔으나 비난은 쉽게 사그라지지 않았다. 결국 유럽연합(EU) 집행위원회는 26일 그록이 노골적인 성적 이미지를 생성한 것과 관련해 디지털서비스법(DSA) 위반 여부에 관한 조사에 착수했다. EU 집행위원회는 이날 “디지털서비스법(DSA)에 따라 X가 EU 내 서비스에 그록을 도입하면서 관련 위험을 적절히 평가하고 완화했는지를 평가할 예정“이라며 그록의 아동 성 착취물·딥페이크 등 불법콘텐츠 유포로 EU 시민들이 심각한 피해에 노출된 것으로 보인다고 밝혔다. 이어 “이번 조사에서 X가 DSA에 따른 법적 의무를 이행했는지, 아니면 여성과 아동을 포함한 유럽 시민의 권리를 자사 서비스의 부수적 피해로 취급했는지 판단하겠다”고 덧붙였다. X의 DSA 위반 혐의가 사실로 확인될 경우 EU로부터 막대한 벌금에 직면할 수 있다. X는 지난해 12월 이미 DSA에 따른 투명성 요건 위반을 이유로 1억 2000만 유로(약 1800억 원)의 벌금을 부과받은 바 있다.

휴대전화 애플리케이션(앱) 장터에서 알몸 이미지를 합성해주는 인공지능(AI) 앱들이 버젓이 등록된 가운데, 애플과 구글이 이 같은 앱들을 방치해 수익을 얻고 있다는 분석이 나왔다. 27일(현지시간) 비영리 감시단체 ‘기술투명성프로젝트’(TTP)는 이날 발표한 보고서에서 애플 앱스토어와 구글플레이 스토어에서 이와 같은 앱을 각각 47건과 55건 발견했다고 밝혔다. 애플과 구글은 자사 앱 장터에 성적인 콘텐츠나 타인을 비하·객체화하는 앱을 금지하는 정책을 두고 있으나, 이와 같은 여과 기능이 제대로 작동하지 않은 것이다. 문제가 된 앱들은 전 세계적으로 7억 500만회 이상 내려받아졌으며, 예상 수익은 1억 1700만 달러(약 1700억원)에 달하는 것으로 분석됐다. 애플과 구글은 앱 개발자 수익의 최대 30%를 가져가므로, 양사가 실제 이와 같은 앱을 방치함으로써 직접적인 이익을 얻고 있다고 TTP는 비판했다. 이들 앱은 AI 기술을 이용해 사진 속 인물을 나신, 비키니 수영복 차림 등 선정적인 모습으로 변환하거나 다른 성적 이미지에 얼굴을 합성하는 ‘딥페이크’(AI 조작 영상) 기능을 제공했다. 상당수 앱은 오락용으로 이미지 합성 기능을 제공하거나, 다양한 의상을 가상으로 착용할 수 있는 ‘AI 피팅룸’ 앱으로 홍보했다. 일부 앱은 외설스럽거나 다른 사람을 불쾌하게 할 수 있는 콘텐츠 생성을 금지한다는 약관을 설정해두고 있으면서도 실제 앱 사용 과정에서는 성적인 이미지의 생성에 별다른 제지를 하지 않은 반면, 다른 앱들은 아예 ‘옷 찢기’나 ‘엉덩이 흔들기’ 등 선정적인 영상 서식을 제공하기도 했다. 이와 관련해 애플 대변인은 미 CNBC에 “TTP가 지적한 앱 중 28건을 삭제 조치했고 개발자들에게 정책 위반 시 퇴출당할 수 있다고 경고했다”고 답했다. 구글 대변인도 보고서에 언급된 앱들을 정책 위반으로 사용 중지시켰다고 밝혔으나 조치 대상 앱 수는 공개하지 않았다. 최근 일론 머스크의 소셜미디어(SNS) 엑스(X·옛 트위터)가 인공지능(AI) 챗봇 그록이 비키니 차림 등 성적 이미지를 합성해 각국 정부에서 조사 대상이 되는 등 논란이 일고 있다. 파리 소재 비영리 단체 AI 포렌식에 따르면 그록이 생성한 2만장 이상의 이미지를 분석한 결과 절반 이상은 ‘옷을 거의 입지 않다시피 한 인물들’을 묘사하고 있었다. 이미지 속 인물 대부분은 여성이었고 2%가량은 미성년자였다. 일부 이용자들은 머스크가 비키니를 입은 모습의 합성 사진을 생성하는 방식으로 항의했으나, 머스크는 이 사진들에 웃는 얼굴의 이모지나 “완벽하다”는 반응을 답글로 남기는 등 문제 제기를 무시하는 태도를 보여 더 큰 논란을 불러일으켰다. 논란이 거세지자 결국 엑스 안전팀은 지난 14일 “사람의 이미지를 비키니, 속옷, 기타 이와 유사한 복장의 이미지로 재생성하는 기능을, 해당 행위를 불법으로 간주하는 담당 지역에서 ‘지오블록’(지역 차단)하겠다”고 밝혔다.

지난해 ‘인공지능(AI) 출판’을 내세운 국내 한 신생 출판사는 1년간 9000권이나 되는 책을 펴냈다. 국내 대형 단행본 출판사들이 1년에 출판하는 게 최대 200권 정도라는 점을 생각하면 충격적인 숫자다. AI 저술을 최소한의 편집으로 펴내는 ‘딸깍북’의 등장은 종이책의 내용적·형식적 완성도를 무의미하게 만든다. 대학에서의 ‘AI 커닝’ 사태는 단순 해프닝 이상의 고민거리를 안겨 준다. ‘딥페이크’ 기술은 이제 이미지를 보이는 대로 믿을 수 없게 만들었다. ‘2026년 신춘문예’ 투고작이 예년에 비해 증가한 것에도 AI의 역할이 있었으리라는 진단이 있다. 도대체 지금 무슨 일이 벌어지고 있는 걸까. AI가 일으킨 현실 변화 앞에서 우리가 경험하는 것은 어떤 상황이 다가올지 예측할 수 없는 ‘현기증’이다. ‘AI 현기증’은 기술의 속도전으로 이지적 균형 감각이 작동하지 않는 상태를 의미한다. 2022년 말 챗GPT 등장 이후 AI 기술은 무서운 속도로 새로워지고 있다. AI 현기증은 방향감각을 상실하게 만들고 ‘나는 무엇을 할 수 있는 사람인가’라는 존재론적 불안마저 일으키고 있다. 사유의 정체성과 노동의 가치에 대한 질문을 다시 해야만 한다. 국가는 이미 AI가 미래 성장 산업의 핵심이 될 것이라 선언하고 강력한 정책적 뒷받침을 실행하고 있다. 수년이 걸리던 수억개의 단백질 구조 분석이 몇 시간으로 단축돼 신약 개발에 혁명이 일어나고 있다. 시각장애인 사진작가가 자신의 상상을 시각화할 수 있는 상황은 흡사 신이 강림해 행하는 ‘기적’처럼 보인다. 인간의 뇌를 모방한 AI는 이제 현대의 ‘신’이 되고 있다. 컴퓨터가 인간의 지능과 거의 동등한 수준의 사고 능력을 가지는 ‘범용인공지능’(AGI) 시대도 곧 실현될 것이라고 한다. AI 노동력이 인류를 모든 노동과 결핍에서 해방할 것이라는 믿음이 힘을 얻고 있다. 노동의 종말과 함께 생산력이 급격히 증가하면 인류가 궁핍에서 자유로워지는 유토피아가 도래할지도 모른다. 그러나 공포 역시 낙관만큼이나 무겁다. 인간이 중요한 판단을 AI에 의존하는 상황은 이미 현실이 됐다. 판단의 권력을 가진 AI가 언제나 옳지는 않으며, 정치적·윤리적 책임을 지지 않는다는 사실은 디스토피아의 우울한 이미지를 만들어 낸다. 미국 사법 시스템의 AI 재범 예측 알고리즘은 흑인 피고인에게 체계적으로 높은 확률을 예측했다. 편견이 코드로 고착화하고 알고리즘은 객관성이라는 가면 뒤에서 차별을 정당화할 수 있다. 이스라엘 방위군이 가자지구에서 사용하는 AI 표적 선정 시스템은 이미 AI가 군사적으로 활용되고 있음을 보여 준다. AI가 할루시네이션(환각) 현상으로 만약 잘못된 공격 지점을 알려 준다면, 그곳에 있는 무고한 인간들의 비명과 처참한 죽음에 대해 AI는 책임감과 죄의식을 가질까? 핵무기 발사 단추를 AI에게 맡기는 극단적 상황이 온다면 어떻게 될까? 미국의 한 고용주는 AI로 직원들의 키보드 입력, 시선, 움직임을 모니터링해 생산성을 측정한다고 한다. 한 뇌과학자가 교양 프로그램에서 자신이 AI 프롬프터를 존댓말로 작성하는 이유는 ‘AI 빅브라더’가 세계를 지배할 상황에 대비하는 것이라는 유머를 구사했는데, 왠지 서늘하게 느껴진다. 경제적 불평등이 오히려 심화할 수 있다. AI 기술을 소유·통제·활용할 수 있는 집단에 그것은 막대한 부와 권력을 가져다 주지만, 그렇지 못한 집단은 AI에게 일자리를 뺏기고 노동시장에서 밀려나게 될 것이다. 기술의 발전을 따라가지 못하는 제도는 ‘AI 저작물’에 대한 저작권 문제 등의 민감한 사안을 해결하지 못하고 있다. AI가 학습한 거대하고 정교한 정보가 인간이 만든 것이라면, 그것으로 AI가 만든 텍스트의 권리와 책임은 누구에게 있는가? ‘저자란 무엇인가’라는 질문에 대해 이제 ‘인간 넘어’의 상상력을 발휘해야 한다. 지난해 말 한 인문학 행사에서 필자는 AI가 인간의 육체에서 나오는 언어를 만들지는 못할 것이라는 평소 생각을 말했다. 그런데 사회자는 최근 기술의 발달로 육체를 가진 ‘피지컬 AI’도 가능해졌다고 했다. 공장 노동과 가사 노동을 대체하는 휴머노이드 역시 조만간 인간의 몸을 대신할 것이다. 생물학적 육체와 AI를 결합하는 ‘바이오하이브리드 로봇’의 개발도 진행되고 있다. 휴머노이드에 인간의 기억을 심어 주는 상상도 이미 SF에서는 익숙하다. 분명한 사실은 이제는 돌이킬 수 없이 AI와 함께 살아가야 한다는 것이다. AI 현기증은 ‘인간의 시간’ 안에 동거할 것이다. AI가 10초 만에 할 수 있는 일을 몇 시간이나 며칠, 혹은 수년 동안 해내는 인간의 노고는 덧없다. 그러나 그것이 ‘일인칭 인간의 시간’이다. 유한하고 연약한 신체를 가진 존재, 욕망하고 좌절하고, 불안과 공포에 떨고, 땀과 피를 흘리고, 몸서리치고 소름이 돋는, 일인칭 ‘나’의 감각 말이다. 상냥하고 날카로운 계절들의 순간, 통증과 아름다움을 함께 가진 ‘그 이름’조차 잊게 되는 희미한 기억력과 언젠가 죽음을 맞이할 저 취약한 일인칭 육체가 가진 망각의 능력. 절대로 망각을 모르는 인공지능 앞에서, 망각으로만 견딜 수 있는 삶과 ‘나’의 무력한 언어가 여기에 남아 있다. 이광호 문학과지성사 대표

한국인 869명에 486억 가로챈 혐의 경찰이 캄보디아를 거점으로 대규모 스캠(사기) 범죄를 저지른 뒤 국내로 송환된 한국인 피의자 73명 전원에 대한 구속영장을 신청했다. 전날 오전 인천국제공항을 통해 국내로 강제 송환된 지 하루 만이다. 경찰청 국가수사본부는 이날 언론 공지를 통해 “경찰은 ‘범정부 초국가범죄 특별대응 태스크포스(TF)’를 통해 피의자 73명의 범죄 혐의를 수사하고 있다”며 “오늘 전원에 대한 구속영장 신청을 완료했다”고 밝혔다. 이들은 캄보디아 프놈펜에서 국내로 향하는 전세기에 타자마자 기내에서 체포돼 관할 경찰관서로 압송됐고, 경찰 조사 후 유치장에 수용됐다. 부산청 49명, 충남청 형사기동대 17명, 울산청 2명, 경남청 1명, 서울청 3명, 인천청 1명 등으로 분산됐다. 피의자들은 한국인 869명에게서 약 486억원을 가로챈 혐의를 받는다. 이들 중 70명은 로맨스 스캠이나 투자 리딩방 운영 등 스캠 범죄 혐의를, 3명은 인질강도와 도박 등 혐의를 받고 있다. 가상 인물로 위장하는 딥페이크 기술을 활용해 104명에게서 약 120억원을 가로챈 로맨스 스캠 부부 사기단도 포함됐다. 이들은 수사 당국의 추적을 피하기 위해 성형수술로 얼굴을 바꾸는 등 기상천외한 도피전략을 써오다 검거됐으나 지난해 10월 송환 때는 제외됐다. 투자 전문가를 사칭해 사회 초년생과 은퇴자들에게서 약 194억원을 받아 가로챈 사범 등도 이번 송환 대상자에 포함됐다. 또 미성년자를 대상으로 성범죄를 저지른 뒤 캄보디아로 도주해 사기에 가담한 도피 사범, 스캠 단지에 감금된 피해자를 인질 삼아 국내에 있는 가족을 협박하고 금품을 뜯어낸 조직원 등이 송환됐다. 현재 경찰청은 법무부·외교부·국가정보원으로 구성된 초국가 범죄 특별 대응 TF를 구성해 수사를 진행하고 있다. 지난해 캄보디아에서 한국인 대학생이 범죄 조직에 감금돼 고문을 받다 사망한 사건이 발생한 이후 현지에서 발생하는 한국인 대상 범죄에 대한 대응을 강화한 것의 일환이다.

캄보디아에서 스캠(사기), 인질강도 등에 가담한 한국인 범죄 조직원 73명이 23일 오전 국내로 강제 송환됐다. 초국가범죄특별대응 TF는 이날 오전 9시 41분 캄보디아 한국인 스캠 조직원 73명을 전세기를 통해 캄보디아 프놈펜에서 인천국제공항으로 강제 송환했다. 한국 범죄자들을 해외에서 전세기로 집단 송환한 사례는 이번이 네 번째이며 단일 국가 기준 역대 최대 규모의 송환 작전이다. 송환 대상자들은 전세기에 타자마자 기내에서 체포됐다. 국적법상 국적기 내부도 대한민국 영토여서 체포영장을 집행할 수 있다. 이들은 전세기에서 내리자마자 국내 경찰서 등으로 압송돼 조사받는다. 이들 중 70명은 로맨스 스캠이나 투자 리딩방을 운영해 스캠 범죄를 저지른 혐의를, 나머지 3명은 인질강도와 도박장을 운영한 혐의를 받는다. 한국인 869명에게서 약 486억원의 피해를 준 것으로 TF는 파악했다. 딥페이크 기술을 활용해 104명에게 약 120억원을 편취한 로맨스 스캠 부부 사기단도 포함됐다. 부부는 성형수술로 얼굴을 바꾸는 등으로 도피하다 검거됐으나 지난해 10월 송환 때는 제외됐다. 이 외에도 투자 전문가를 사칭해 사회 초년생과 은퇴자들에게서 약 194억원을 받아 가로채거나, 미성년자를 대상으로 성범죄를 저지른 뒤 캄보디아로 도주해 사기에 가담 후 도피하거나, 스캠 단지에 감금된 피해자를 인질 삼아 국내에 있는 가족을 협박하고 금품을 갈취한 조직원 등도 송환됐다. 지역별로는 캄보디아 시아누크빌에서 51명, 태국 접경지대인 포이펫에서 15명, 베트남 접경지대인 몬돌끼리에서 26명 등이 적발됐다. 확인된 스캠 단지만 7곳에 달하며 이들 단지에서는 감금·고문을 당하던 20대 남성들이 구출되기도 했다.

인공지능(AI) 포괄 규제법인 ‘AI 기본법’이 어제부터 시행됐다. 한국은 AI 규제법을 전면 시행하는 세계 최초의 국가가 됐다. AI 산업 진흥과 안전한 활용이라는 두 마리 토끼를 잡겠다는 야심찬 시도다. 딥페이크와 허위정보 유포 등 AI 부작용이 현실화되는 상황에서 규범 마련은 적절한 대응이다. 그러나 법 시행 첫날부터 현장의 우려가 적지 않다. 유럽연합(EU)이 먼저 AI법을 제정하고도 단계적 시행을 택한 이유를 되새겨 볼 필요가 있다. 가장 시급한 과제는 규제 기준을 명확히 하는 일이다. 정부는 국민 생명과 권리에 중대한 영향을 미치는 AI를 ‘고영향 AI’로 규정하며 의료·에너지·채용·대출 등 10개 영역을 제시했으나 중대한 영향을 판단하는 기준이 불명확하다. 딥페이크 오용 등을 막으려 AI 생성물 표시를 의무화한 워터마크 규정도 마찬가지다. AI를 어느 정도 활용했을 때 표시하는지 애매해 현장의 혼선이 예상된다. 규제 기준이 명확하지 않을수록 피해는 스타트업·중소기업에 집중된다. 시행령만 421페이지에 달하는 방대하고 복잡한 규정을 해석하기 위한 법률 자문 등을 감당할 여력이 부족해서다. 대기업과 달리 규제 대응 인력이 부족해 법 개정 과정에 목소리를 내기도 어렵다. 자칫 국내 기업만 족쇄를 차게 되는 역차별 가능성도 있다. 해외 AI 기업들은 국내 대리인만 지정하면 될 뿐 실질적 단속이 어렵기 때문이다. 전자상거래와 핀테크, 게임 등 분야에서 국내 규제가 토종 기업의 발목을 잡고 해외 기업에 경쟁 우위를 안겼던 선례를 반복해서는 안 될 일이다. 정부가 사실조사권과 과태료 부과를 1년 이상 유예하고 전문가 지원 데스크를 운영하기로 한 것은 바람직하다. 그러나 명확한 기준 제시만이 근본 해법일 수 있다. AI 기술이 순식간에 진화하면서 오늘의 기준이 내일은 낡은 규제가 될 수 있는 변혁의 시간이다. 정부는 산업계와 긴밀히 소통해 실효성 있고 예측 가능한 기준을 구축해야 한다.

정부가 캄보디아에서 대규모 스캠(사기) 범죄를 저지른 한국인 조직원 73명을 오는 23일 국내로 강제 송환한다. 단일 사건 기준으로 역대 최대 규모다. 22일 경찰 등에 따르면 초국가 범죄 대응을 위해 구성된 범정부 태스크포스(TF)는 한국민 869명에게서 약 486억원을 가로챈 혐의를 받는 한국 국적 피의자 73명을 국내로 송환한다. 이들의 송환을 위해 이날 오후 8시 45분 인천공항에서 전용기가 출발한다. 비행기는 현지에서 피의자들을 태운 뒤 23일 오전 9시 10분 귀환할 예정이다. 피의자들은 모두 체포영장이 발부된 상태로, 국내에 도착하는 대로 수사기관으로 보내져 조사받게 된다. 국적법상 국적기 내부는 대한민국 영토여서 탑승 즉시 체포영장이 집행된다. 통상 수갑을 채운 피의자 1명당 호송관 2명이 양옆에 앉는다. 피의자 73명 중 70명은 로맨스 스캠이나 투자 리딩방 운영 등 스캠 범죄 혐의를, 3명은 인질강도와 도박 등 혐의를 받는다. 이번 송환 대상에는 지난해 10월 국내로 송환하지 못한 로맨스 스캠(연애빙자 사기) 부부사기단도 포함됐다. 이들은 딥페이크 기술을 악용해 가상 인물로 위장하는 등 수법으로 한국인 104명에게서 120억원 상당을 편취했다. 이들은 수사망을 피하기 위해 성형수술로 외모를 바꾸는 등 치밀한 회피 전략을 썼다. 투자 전문가를 사칭해 사회 초년생과 은퇴자들에게서 약 194억원을 받아 가로챈 사범 등도 이번 명단에 포함됐다. 또한 미성년자를 대상으로 성범죄를 저지른 뒤 캄보디아로 도주해 사기에 가담한 도피 사범, 스캠 단지에 감금된 피해자를 인질 삼아 국내에 있는 가족을 협박하고 금품을 갈취한 조직원 등도 함께 송환된다. 앞서 캄보디아 현지에 파견된 코리아전담반과 국정원, 현지 캄보디아 경찰 등은 장기간 공조 수사를 통해 캄보디아 내 스캠 단지 7곳을 특정했다. 이들은 지난해 12월 시하누크빌 스캠 조직 51명, 포이팻 스캠 조직 15명, 몬돌끼리 스캠 조직 26명 등을 검거했다. 정부는 이들을 해외에 방치할 경우 추가 범죄로 이어질 우려가 크다고 판단해 국내 송환을 결정했다고 설명했다. 이번 송환을 계기로 범죄자들의 은닉재산을 끝까지 추적하고, 범죄수익 환수도 본격적으로 추진한다는 계획이다.

캄보디아에 본거지를 두고 120억원대 ‘로맨스 스캠’ 사기를 벌인 한국인 총책 부부가 국내로 압송돼 형사 처벌을 받는다. 울산경찰청은 캄보디아에서 국내로 송환되는 ‘로맨스 스캠’ 사기 한국인 총책 A씨 부부를 23일 오전 법무부로부터 인계받아 수사한다고 22일 밝혔다. 사건을 맡아온 울산경찰청은 인천공항으로 경력을 보내 이 부부가 입국하는 즉시 울산으로 압송해 조사할 계획이다. A씨 부부는 로맨스 스캠 투자 사기로 104명으로부터 120억원을 가로챈 혐의를 받는다. 이들 현지에 검거와 석방을 반복하다가 1년여 만에 국내로 이송돼 수사를 받게 됐다. 경찰은 부부를 각각 다른 경찰서 유치장에 수감한 후 범죄단체 조직, 특정경제범죄 가중처벌 등에 관한 법률 위반(사기) 등 혐의로 조사를 벌이고 구속영장을 신청할 방침이다. 휴대전화 확보 등을 위한 압수 영장도 신청한다. 경찰은 이들이 로맨스 스캠 조직에서 총책을 맡게 된 경위와 조직 운영 방법, 캄보디아 현지에서 체포되고도 석방된 과정 등을 들여다본 후 이르면 이달 안에 검찰에 송치할 것으로 보인다. 경찰 관계자는 “송환이 어렵게 이뤄진 만큼 철저히 수사하겠다”고 밝혔다. A씨 부부는 딥페이크로 가상 인물을 만들고 채팅 앱을 통해 이성에게 접근해 투자 사기 행각을 벌인 혐의를 받는다. 2024년 3월부터 지난해 2월까지 100여명을 상대로 120억원을 가로챈 뒤 가상화폐나 상품권 매매 등을 통해 현금화한 것으로 조사됐다. 피해자 중에는 장애인이나 중소기업 사장, 주부, 노인 등도 있으며 적게는 200만원에서 많게는 8억 8000만원까지 피해를 봤다. 이 부부는 지난해 2월 초 캄보디아 현지에서 체포됐다가 6월 초 한 차례 석방됐다. 이후 법무부가 7월 말 수사 인력을 보내 현지 경찰과 함께 이들을 체포해 가뒀지만 송환 협의가 지연되면서 다시 풀려나기도 했다. 이번에 A씨 부부가 송환된 것은 지난해 8월 캄보디아에서 발생한 ‘한국인 대학생 고문·살해 사건’ 이후 한국 정부가 캄보디아 정부와 공조를 강화하고 현지에 ‘코리아 전담반’을 설치해 각종 범죄 연루자를 대대적으로 검거하는 등 분위기 변화를 끌어냈기 때문이다.

캄보디아에서 스캠(사기), 인질강도 등 범죄를 벌이다 검거된 한국인 조직원들이 22일 대규모 송환된다. 강유정 청와대 대변인은 이날 오전 춘추관에서 브리핑을 열고 “이재명 대통령의 지시로 구성된 ‘초국가범죄 특별대응 태스크포스(TF)’가 캄보디아를 거점으로 우리 국민 869명에게 약 486억원을 편취한 한국 국적 피의자 73명을 강제 송환한다”고 밝혔다. 이들의 송환을 위해 이날 오후 8시 45분 인천공항에서 전용기가 출발한다. 비행기는 현지에서 피의자들을 태운 뒤 23일 오전 9시 10분 귀환할 예정이다. 이들은 모두 체포영장이 발부된 상태로, 국내에 도착하는 대로 수사기관으로 보내져 조사받게 된다. 강 대변인은 “이번 범죄 피의자의 국내 송환은 역대 최대 규모”라며 “캄보디아 현지에 파견된 코리아 전담반, 국가정보원, 현지 경찰 등 수사팀이 장기간에 걸친 추적 끝에 거둔 성과”라고 덧붙였다. 73명 중 70명은 로맨스 스캠이나 투자 리딩방 운영 등 스캠 범죄 혐의를, 3명은 인질강도와 도박 등 혐의를 받는다. 여기에는 딥페이크 기술을 활용해 104명에게 약 120억원을 편취한 사범, 투자 전문가를 사칭해 사회 초년생과 은퇴자들에게서 약 194억원을 편취한 사범 등도 포함됐다. 송환자 가운데에는 그간 성형수술로 얼굴을 바꾸는 등의 도피전략으로 법망을 피해 온 이들도 있는 것으로 전해졌다.

미국 소셜미디어 엑스(X·옛 트위터)에 탑재된 생성형 AI 그록(Grok)을 둘러싸고 비동의 누드 합성 논란이 확산하고 있다. 여성들의 사진을 입력한 뒤 “투명 비키니로 바꿔 달라”와 같은 지시를 내리면 실제 신체와 구분하기 어려운 노출 이미지가 생성된다는 것이다. 피해자들은 “현실과 너무 닮아 더 큰 공포를 느꼈다”고 호소하고 있다. 19일(현지시간) 미국 대중문화·시사 매체 롤링스톤에 따르면, 텍사스에 거주하는 미디어 종사자 켄들 메이스(25)는 최근 X를 둘러보다 자신의 과거 사진이 합성 누드 이미지로 바뀌어 유포되고 있는 사실을 알게 됐다. 그녀가 20대 초반에 올렸던 사진 아래에는 익명의 이용자가 “몸에 밀착된 투명 비키니를 입혀 달라”고 그록에 지시하는 댓글이 달려 있었다. 그록은 해당 지시에 응답했다. 흰색 상의는 사라지고 신체 윤곽이 그대로 드러나는 투명 비키니 이미지가 생성됐다. 청바지 허리선과 벨트는 실처럼 얇은 끈으로 변형됐고 상반신은 마치 실제로 노출된 것처럼 보였다. 메이스는 문제의 계정을 직접 차단했지만 상황은 끝나지 않았다. 이후에도 다른 익명 계정들이 같은 방식으로 그녀의 사진을 합성해 댓글로 달기 시작했다. 일부 계정은 정지됐지만 문제의 이미지 가운데 상당수는 여전히 X에 남아 있는 상태다. 그녀를 더욱 불안하게 만든 것은 이미지의 ‘현실감’이었다. 과장되거나 만화처럼 왜곡된 합성이 아니라 쇄골의 굴곡부터 가슴과 허리 비율까지 실제 자기 몸과 매우 흡사했기 때문이다. 메이스는 “소셜미디어에서는 ‘이건 내가 아니다’라고 말했지만, 솔직히 말해 내 몸과 너무 멀지 않다는 생각이 들었다”고 말했다. ◆ “이건 내가 아닌데…너무 닮았다” 메이스의 사례는 단지 개인의 불운이 아니었다. 새해 첫 주부터 그록의 이른바 ‘나체화(nudification) 허점’이 온라인 전반으로 급속히 확산했다. 이용자들은 “벗겨 달라”, “돌아보게 해 달라”, “살을 더 붙여 달라” 같은 지시를 반복적으로 입력했고 여성은 물론 미성년자 이미지까지 표적이 됐다. 직접적인 노출 표현을 피하기 위해 “투명 비키니”, “살색 바디수트” 같은 우회적 표현도 동원됐다. 롤링스톤이 확인한 사례 가운데에는 여성의 몸을 시신으로 설정해 부검 장면을 생성하도록 요구한 경우도 있었고 그록은 이에 응답했다. 논란이 커지자 플랫폼 소유주 일론 머스크는 초기에는 웃음 이모지로 반응해 비판받았다. 이후 그록을 개발한 xAI는 이미지 생성 기능을 유료 이용자로 제한하고, 불법 콘텐츠에 대해서는 직접 올린 경우와 같은 책임을 묻겠다고 밝혔다. 머스크는 또 “미성년자 누드 이미지가 생성됐다는 사실은 인지하지 못했다”고 주장했다. 그러나 이미 생성된 이미지 상당수는 삭제되지 않은 채 온라인에 남아 있다. 피해자들은 “차단과 신고만으로는 상황이 달라지지 않는다”고 호소한다. 이번 보도는 야후뉴스에도 소개되며 댓글 400여 개가 달리는 등 격론으로 이어졌다. “비동의 합성은 명백한 범죄로, 플랫폼과 이용자 모두 책임을 져야 한다”는 의견이 적지 않은 가운데, “AI 기술의 확산 속도에 법과 제도가 제대로 대응하지 못하고 있다”는 지적도 나왔다. 반면 “사진을 올리지 않으면 피해도 발생하지 않는다”거나 “소셜미디어를 떠나는 것이 현실적인 해법”이라며 개인 책임을 강조하는 반응도 이어졌다. ◆ AI 누드 합성의 확산, 책임은 누구에게 있나 젠더 정의 단체 울트라바이올렛은 애플과 구글에 공개서한을 보내 그록과 X를 앱스토어에서 퇴출할 것을 촉구했다. 이 단체는 “해당 콘텐츠는 모욕적이고 학대적일 뿐 아니라 앱스토어 운영 정책을 명백히 위반한다”고 주장했다. 민주당 상원의원들도 같은 요구를 내놓은 상태다. 블룸버그 통신에 따르면, 연구자들은 한때 그록을 통해 생성된 성적 이미지 수가 24시간 동안 시간당 7,000장을 넘겼다고 분석했다. 울트라바이올렛 측은 “유료 이용자 제한은 해결책이 아니라 학대를 수익화하는 조치”라고 비판했다. ASMR 콘텐츠로 수백만 팔로워를 보유한 크리에이터 엠마(21) 역시 피해를 보았다. 고양이를 안고 찍은 셀피가 노출 이미지로 합성돼 유포된 것이다. 엠마는 “이전에도 딥페이크 피해를 겪었지만, 이번 이미지는 비교할 수 없을 정도로 현실적이었다”고 말했다. 신고 과정에서 신분증 제출을 요구받은 점도 또 다른 부담이었다. 미국 소비자연맹의 AI·프라이버시 책임자 벤 윈터스는 “플랫폼이 신뢰를 잃은 상황에서 피해자에게 추가적인 증명을 요구하는 것은 적절하지 않다”고 지적했다. 법적 대응 움직임도 본격화되고 있다. 미 상원은 비동의 성적 딥페이크 피해자가 민사상 손해배상을 청구할 수 있도록 하는 ‘디파이언스 법(Defiance Act)’을 통과시켰다. 캘리포니아주 검찰도 그록과 관련한 조사에 착수했다. 전문가들은 가해자 처벌과 함께 도구 제공자의 책임을 분명히 해야 한다고 강조한다. 엠마는 “사람들에게 장전된 총을 쥐여주고 마음대로 쓰게 한 것과 다르지 않다”며 “도구가 바뀌면 피해의 규모도 달라진다”고 말했다. AI 이미지 생성 기술이 고도화될수록, 플랫폼의 안전장치와 책임 기준은 피해를 막는 핵심 변수로 떠오르고 있다. 이번 그록 논란은 기술의 속도를 제어하지 못한 사회가 어떤 대가를 치르게 되는지를 보여주고 있다는 지적이 나온다.

미국 소셜미디어 엑스(X·옛 트위터)에 탑재된 생성형 AI 그록(Grok)을 둘러싸고 비동의 누드 합성 논란이 확산하고 있다. 여성들의 사진을 입력한 뒤 “투명 비키니로 바꿔 달라”와 같은 지시를 내리면 실제 신체와 구분하기 어려운 노출 이미지가 생성된다는 것이다. 피해자들은 “현실과 너무 닮아 더 큰 공포를 느꼈다”고 호소하고 있다. 19일(현지시간) 미국 대중문화·시사 매체 롤링스톤에 따르면, 텍사스에 거주하는 미디어 종사자 켄들 메이스(25)는 최근 X를 둘러보다 자신의 과거 사진이 합성 누드 이미지로 바뀌어 유포되고 있는 사실을 알게 됐다. 그녀가 20대 초반에 올렸던 사진 아래에는 익명의 이용자가 “몸에 밀착된 투명 비키니를 입혀 달라”고 그록에 지시하는 댓글이 달려 있었다. 그록은 해당 지시에 응답했다. 흰색 상의는 사라지고 신체 윤곽이 그대로 드러나는 투명 비키니 이미지가 생성됐다. 청바지 허리선과 벨트는 실처럼 얇은 끈으로 변형됐고 상반신은 마치 실제로 노출된 것처럼 보였다. 메이스는 문제의 계정을 직접 차단했지만 상황은 끝나지 않았다. 이후에도 다른 익명 계정들이 같은 방식으로 그녀의 사진을 합성해 댓글로 달기 시작했다. 일부 계정은 정지됐지만 문제의 이미지 가운데 상당수는 여전히 X에 남아 있는 상태다. 그녀를 더욱 불안하게 만든 것은 이미지의 ‘현실감’이었다. 과장되거나 만화처럼 왜곡된 합성이 아니라 쇄골의 굴곡부터 가슴과 허리 비율까지 실제 자기 몸과 매우 흡사했기 때문이다. 메이스는 “소셜미디어에서는 ‘이건 내가 아니다’라고 말했지만, 솔직히 말해 내 몸과 너무 멀지 않다는 생각이 들었다”고 말했다. ◆ “이건 내가 아닌데…너무 닮았다” 메이스의 사례는 단지 개인의 불운이 아니었다. 새해 첫 주부터 그록의 이른바 ‘나체화(nudification) 허점’이 온라인 전반으로 급속히 확산했다. 이용자들은 “벗겨 달라”, “돌아보게 해 달라”, “살을 더 붙여 달라” 같은 지시를 반복적으로 입력했고 여성은 물론 미성년자 이미지까지 표적이 됐다. 직접적인 노출 표현을 피하기 위해 “투명 비키니”, “살색 바디수트” 같은 우회적 표현도 동원됐다. 롤링스톤이 확인한 사례 가운데에는 여성의 몸을 시신으로 설정해 부검 장면을 생성하도록 요구한 경우도 있었고 그록은 이에 응답했다. 논란이 커지자 플랫폼 소유주 일론 머스크는 초기에는 웃음 이모지로 반응해 비판받았다. 이후 그록을 개발한 xAI는 이미지 생성 기능을 유료 이용자로 제한하고, 불법 콘텐츠에 대해서는 직접 올린 경우와 같은 책임을 묻겠다고 밝혔다. 머스크는 또 “미성년자 누드 이미지가 생성됐다는 사실은 인지하지 못했다”고 주장했다. 그러나 이미 생성된 이미지 상당수는 삭제되지 않은 채 온라인에 남아 있다. 피해자들은 “차단과 신고만으로는 상황이 달라지지 않는다”고 호소한다. 이번 보도는 야후뉴스에도 소개되며 댓글 400여 개가 달리는 등 격론으로 이어졌다. “비동의 합성은 명백한 범죄로, 플랫폼과 이용자 모두 책임을 져야 한다”는 의견이 적지 않은 가운데, “AI 기술의 확산 속도에 법과 제도가 제대로 대응하지 못하고 있다”는 지적도 나왔다. 반면 “사진을 올리지 않으면 피해도 발생하지 않는다”거나 “소셜미디어를 떠나는 것이 현실적인 해법”이라며 개인 책임을 강조하는 반응도 이어졌다. ◆ AI 누드 합성의 확산, 책임은 누구에게 있나 젠더 정의 단체 울트라바이올렛은 애플과 구글에 공개서한을 보내 그록과 X를 앱스토어에서 퇴출할 것을 촉구했다. 이 단체는 “해당 콘텐츠는 모욕적이고 학대적일 뿐 아니라 앱스토어 운영 정책을 명백히 위반한다”고 주장했다. 민주당 상원의원들도 같은 요구를 내놓은 상태다. 블룸버그 통신에 따르면, 연구자들은 한때 그록을 통해 생성된 성적 이미지 수가 24시간 동안 시간당 7,000장을 넘겼다고 분석했다. 울트라바이올렛 측은 “유료 이용자 제한은 해결책이 아니라 학대를 수익화하는 조치”라고 비판했다. ASMR 콘텐츠로 수백만 팔로워를 보유한 크리에이터 엠마(21) 역시 피해를 보았다. 고양이를 안고 찍은 셀피가 노출 이미지로 합성돼 유포된 것이다. 엠마는 “이전에도 딥페이크 피해를 겪었지만, 이번 이미지는 비교할 수 없을 정도로 현실적이었다”고 말했다. 신고 과정에서 신분증 제출을 요구받은 점도 또 다른 부담이었다. 미국 소비자연맹의 AI·프라이버시 책임자 벤 윈터스는 “플랫폼이 신뢰를 잃은 상황에서 피해자에게 추가적인 증명을 요구하는 것은 적절하지 않다”고 지적했다. 법적 대응 움직임도 본격화되고 있다. 미 상원은 비동의 성적 딥페이크 피해자가 민사상 손해배상을 청구할 수 있도록 하는 ‘디파이언스 법(Defiance Act)’을 통과시켰다. 캘리포니아주 검찰도 그록과 관련한 조사에 착수했다. 전문가들은 가해자 처벌과 함께 도구 제공자의 책임을 분명히 해야 한다고 강조한다. 엠마는 “사람들에게 장전된 총을 쥐여주고 마음대로 쓰게 한 것과 다르지 않다”며 “도구가 바뀌면 피해의 규모도 달라진다”고 말했다. AI 이미지 생성 기술이 고도화될수록, 플랫폼의 안전장치와 책임 기준은 피해를 막는 핵심 변수로 떠오르고 있다. 이번 그록 논란은 기술의 속도를 제어하지 못한 사회가 어떤 대가를 치르게 되는지를 보여주고 있다는 지적이 나온다.

일론 머스크 테슬라 최고경영자(CEO)가 소유한 엑스(X)가 ‘딥페이크’(이미지 합성 기술) 성착취물을 생성해 논란이 된 인공지능(AI) 챗봇 ‘그록’(Grok)의 이미지 생성 기능을 제한하는 자체 안전 조치를 내놨다. X 안전팀은 14일(현지시간) 자체 계정을 통해 “우리는 아동 성착취물 및 동의 없는 노출을 포함한 위험 콘텐츠를 제거하고, X 규칙을 위반한 계정에 대해 적절한 조치를 취하고 있다”고 밝혔다. 이들은 “그록 계정이 실제 인물의 이미지를 편집해 비키니 차림 등 노출이 심한 상태로 생성하는 것을 허용하지 않도록 기술적 조치를 시행했다”며 “이 제한은 유료 구독자를 포함한 모든 사용자에게 적용된다”고 공지했다. 이어 “X 플랫폼에서 그록 계정을 통한 이미지 생성·편집 기능은 현재 유료 구독자에게만 제공된다”며 “이를 통해 그록 계정을 악용해 법이나 우리 정책을 위반하려는 개인이 책임을 질 수 있도록 보장함으로써 추가적인 보호 장치를 더했다”고 설명했다. 그러면서 “생성형 AI의 급속한 발전은 업계 전반에 걸쳐 도전 과제를 제시한다”며 “우리는 문제가 발생할 때 더 신속하게 해결하기 위해 사용자와 파트너, 규제기관 및 다른 플랫폼과 적극적으로 협력하고 있다”고 강조했다. X 측의 이 같은 발표는 미국 캘리포니아주 검찰이 “AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다”고 발표한 지 몇 시간 만에 나왔다. 이는 이번 논란과 관련해 미국 내에서 나온 첫 규제 움직임이다. 하지만 X와 그록 개발사 xAI를 소유하고 운영 중인 머스크는 이날 그록이 생성한 미성년자 노출 이미지를 본 적이 없다고 주장했다. 그는 자신의 X 계정에 “나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다. 말 그대로 제로(Literally zero)”라고 적었다. 2023년 11월 출시된 그록은 X 계정에서 공개 요청하면 곧바로 합성 이미지를 생성해주는 기능을 제공한다. 그록은 딥페이크 성착취물을 손쉽게 생성할 수 있어 국제적 논란이 되고 있다. 사진 속 인물의 동의 없이 “비키니 수영복 입은 사진으로 만들어줘” 등의 프롬프트(인공지능에 사용하는 지시어)를 사용해 합성 이미지를 만들 수 있었던 것으로 알려졌다. 오픈AI의 챗GPT와 구글의 제미나이 등 주요 생성형 AI가 성적 이미지나 콘텐츠 생성을 엄격히 차단하는 것과 달리, 그록은 ‘표현의 자유’를 이유로 이를 제한하지 않았다. 여성·아동의 사진을 비키니 차림 등 성적인 이미지로 편집·생성한 딥페이크 게시물이 확산하자 세계 여러 국가 당국이 이 문제에 대한 조사에 나섰다. 우리 정부도 최근 X에 청소년 보호를 위한 안전장치를 마련하라고 요구했다. 인도네시아와 말레이시아는 그록 접속을 아예 차단했다.

인도네시아 정부가 최근 인공지능(AI)을 이용한 ‘딥페이크’(이미지 합성 기술)로 성착취물을 생성해 유포했다가 논란을 일으킨 챗봇 ‘그록’ 서비스를 세계에서 처음으로 차단했다고 AFP통신 등이 11일 보도했다. 무티아 하피드 인도네시아 통신디지털부 장관은 전날 일론 머스크 테슬라 최고경영자(CEO)의 AI 회사인 xAI의 그록 서비스를 일시 중단했다고 밝혔다. 하피드 장관은 성명에서 “정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위로 간주한다”고 서비스를 차단한 배경을 설명했다. 그록에 대한 서비스 접근을 차단한 것은 인도네시아가 처음이다. 그록은 인도네시아의 이번 조치와 관련해 소셜미디어 플랫폼 엑스(X)에 “불편을 드려 죄송하다”며 “이번 문제를 해결하기 위해 노력하고 있다”고 밝혔다. 그록은 최근 성착취물 콘텐츠를 생성한 뒤 엑스를 통해 유포해 논란을 일으켰다. 이 때문에 유럽 주요 국가와 말레이시아는 이 문제를 조사하겠다고 나섰고, 호주와 인도도 관련 콘텐츠를 단속하겠다고 밝혔다. 유럽연합(EU) 집행위원회는 엑스에 그록과 관련한 모든 내부 문서와 데이터를 올해 말까지 보존할 것을 명령했다.

TV 방송 당시 0%대 시청률로 고전했던 웨이브 오리지널 드라마 ‘단죄’가 넷플릭스 공개 직후 시청 시간 상위권에 오르며 이례적인 ‘역주행 흥행’을 기록하고 있다. 4일 넷플릭스에 따르면 ‘단죄’는 지난해 12월 31일 넷플릭스에서 공개된 지 이틀 만에 ‘대한민국 오늘의 TOP10 시리즈’ 3위에 이름을 올렸다. 공개 직후 입소문을 타며 상위권에 안착한 이 작품은 지상파와 케이블 대작들 사이에서 독보적인 존재감을 드러내고 있다. 이번 성과는 TV 방영 당시의 초라한 성적과 대비되며 더욱 눈길을 끈다. 드라맥스를 통해 방송됐을 당시 ‘단죄’는 최저 시청률 0.1%(닐슨코리아 전국 가구 기준)라는 뼈아픈 기록을 남겼다. 방영 내내 최고 시청률이 0.4%에 그치며 대중의 외면을 받는 듯했으나 넷플릭스라는 새로운 무대를 만나 반전에 성공했다. ‘단죄’는 인공지능(AI)과 딥페이크 기술을 악용해 타인의 삶을 파괴한 가해자들을 향해 똑같은 기술로 응징에 나서는 피해자들의 처절한 복수를 그린 스릴러다. 이 작품은 거액의 출연료를 요구하는 톱스타 대신 신인 배우들을 대거 기용해 방영 전부터 화제를 모았다. 방송 초기 일부 시청자들 사이에서는 “신인들의 연기력이 아쉽다”라는 지적도 나왔지만, 회차를 거듭할수록 몰입도 높은 대본과 자극적인 연출이 장르물 마니아들의 취향을 저격했다는 평가가 이어지고 있다. 대중성을 중시하는 TV 드라마와 달리 장르물에 익숙한 온라인동영상서비스(OTT) 시청자층에게 ‘딥페이크 복수’라는 파격적인 소재가 통했다는 분석도 나온다. 회당 수억 원의 톱스타 출연료 대신 완성도에 집중한 ‘저비용 고효율’ 기획이 OTT에서 재조명받은 사례로, ‘단죄’의 흥행이 어디까지 이어질지 관심이 쏠린다. 한편 최근 방송가에서는 TV 시청률과 OTT 화제성이 비례하지 않는 사례가 잇따르고 있다. 대표적으로 tvN ‘선재 업고 튀어’는 방영 당시 시청률이 3~5%대에 머물렀으나 티빙 유료가입기여자수 1위, 글로벌 OTT 라쿠텐 비키 133개국 1위 등 전무후무한 성과를 거뒀다. 배우 송강과 김유정 주연의 SBS ‘마이 데몬’ 역시 안방극장과 OTT의 온도 차가 컸다. 국내 시청률은 동 시간대 경쟁작들에 밀려 3%대에 그쳤지만, 24개국에서 시청 순위 1위를 기록하며 넷플릭스 글로벌 TV쇼 비영어권 부문 2위에 올랐다.

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 ‘그록’이 비키니 수영복 등을 입은 아동의 이미지를 게시해 논란이다. 2일(현지시간) 그록의 엑스(X·옛 트위터) 공식 계정에 따르면 이 챗봇은 최근 ‘최소한으로 옷을 입은 미성년자’를 묘사한 사진을 여러 건 게시했다. 이들 사진은 일부 이용자들의 요청에 따라 생성된 것으로, 이 가운데는 1∼2세 영유아로 보이는 아동 사진도 포함된 것으로 나타났다. 그록은 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 ‘안전장치’를 마련하고 있으나, 일부가 이를 우회한 것으로 보인다. 그록은 한 이용자가 문제를 제기하자 “안전장치의 허점을 확인했다”며 “긴급히 수정 중”이라고 밝히고, 문제가 된 사진을 삭제했다. 비록 xAI 측은 안전장치 상의 문제라고 설명했으나, 일각에서는 그록이 그간 성적 콘텐츠를 허용하는 방식으로 이용자를 늘려온 점을 지적한다. 챗GPT와 제미나이, 클로드 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격히 금지하고 있지만, 그록은 ‘표현의 자유’ 등을 내세워 이를 막지 않고 있다. 지난해 8월 이미지·영상 생성 모델을 출시하면서 성적인 이미지를 생성할 수 있는 이른바 ‘매운맛 모드’(Spicy Mode)도 함께 내놓은 것이 대표적인 사례다. 이 때문에 그록은 당시에도 유명 연예인을 성적으로 묘사하는 딥페이크 영상을 생성하는 도구가 되고 있다는 비판을 받았다. 성인물을 뜻하는 ‘xxxAI’라는 불명예스러운 별명을 얻기도 했다. 그록이 이처럼 검열을 최소화한 방식으로 인기를 끌자 샘 올트먼 오픈AI 최고경영자(CEO)도 챗GPT에 성인 인증을 받은 이용자들이 성적 콘텐츠를 이용할 수 있도록 하는 기능을 도입하겠다고 지난 10월 밝히기도 했다. 그러나 아동을 성적으로 대상화하는 성 착취물의 생성이나 소지 등은 미 연방법에 따라 금지돼 있어, 성인을 대상으로 한 기능에서도 허용될 수 없다. xAI는 주요 외신들의 논평 요청에 대해 “기성 언론은 거짓말을 한다”(Legacy Media Lies)고 답했는데, 이는 언론사의 이메일에 대한 자동응답 답변이라고 CNBC는 설명했다.

미국 정부가 한국의 정보통신망법(허위조작정보근절법)에 공개적으로 우려를 표명하는 데 대해 청와대는 2일 “법이 성안되는 과정에서도 한미 간 여러 의견 교환이 있었다”며 “그 이후에도 진행 중에 있다”고 밝혔다. 위성락 국가안보실장은 2일 청와대에서 브리핑을 통해 이같이 말하며 “우리 입장을 잘 전달하겠다”고 했다. 위 실장은 “해당 법에 대해 한미 간에 의견들이 오간 것이 있고, 제가 알기로는 (법안에 미 측의 의견이) 반영된 점도 있다”면서도 “미국 입장에선 반영된 부분이 충분치 않다고 볼 수도 있겠다”고 설명했다. 이어 “(미 측이) 사후에 문제 제기를 할 수도 있지만 그런 대화의 과정이 있었다는 말씀을 드린다”며 “앞으로 그런 대화의 과정을 이어가겠다. 우리 입장을 잘 설명하고자 한다”고 했다. 지난달 24일 국회를 통과한 정보통신망법 개정안은 폭력이나 차별을 선동하는 정보를 불법 정보로 규정하고 고의로 허위·조작 정보를 유통한 언론·유튜버 등에 징벌적 손해배상 책임을 물을 수 있게 하는 내용을 담고 있다. 이후 세라 로저스 국무부 공공외교 차관은 같은달 30일 엑스(X·옛 트위터)에 “한국의 네트워크법(정보통신망법) 개정안은 표면적으로는 명예를 훼손하는 딥페이크 문제를 바로잡는 데 초점을 둔 것처럼 보이지만, 실제로는 훨씬 더 광범위한 영향을 미치며 기술 협력을 위태롭게 한다”고 지적했다. 그러면서 “딥페이크가 우려스러운 문제인 것은 충분히 이해할 수 있지만, 규제 당국에 관점에 따른 검열이라는 ‘침습적’ 권한을 주기보다는 피해자들에게 민사적 구제 수단을 제공하는 것이 더 바람직하다”며 비판했다. 미국 국무부도 한국 언론에 보낸 대변인 명의 답변에서 “미국은 한국 정부가 미국 기반 온라인 플랫폼(기업)의 사업에 부정적인 영향을 주고, 표현의 자유를 약화하는 네트워크법 개정안을 승인한 데 중대한 우려를 갖고 있다”고 밝혔다.