사과에 곰팡이가 핀 것처럼 보이게 하는 등 인공지능(AI) 기술을 이용해 ‘가짜’ 이미지를 만들어 환불을 요구하는 중국 일부 소비자들이 논란이 되고 있다. 지난 17일 홍성신문 등 현지 매체들에 따르면 최근 일부 온라인 판매자들은 AI로 조작된 사진으로 환불 요구를 하는 고객들이 늘자 골머리를 앓고 있다. 한 매체는 “AI가 블랙 컨슈머들의 새로운 무기로 자리 잡았다”고 설명했다. 한 판매자는 “누가 봐도 AI로 만든 가짜 사진인데 고객은 환불만 요구한다”면서 “각도를 바꿔 사진 찍어 보내달라거나 동영상을 보내달라고 하면 거부한다”고 토로했다. 예시로 소비자는 사과 한 상자를 구해와 사진으로 촬영한 뒤 AI로 바꾸면 마치 곰팡이가 핀 것처럼 보이게 할 수 있는데, 이 과정은 단 몇 초면 끝난다. AI로 다시 태어난 사진은 정교해 꼼꼼한 검증 없이는 판매자가 쉽게 속을 수밖에 없다. 의류 판매장을 운영 중인 야오야오씨는 “고객이 울 풀림이 있다면서 사진을 보냈는데 각도가 맞지 않고 어색했다”면서 “누가 봐도 조작된 사진인데 이런 위조에도 환불을 주장하면 받아들이기 어렵다”고 털어놨다. 시안에서 공예품 가게를 운영 중인 왕치앙씨는 “한 구매자가 컵에 금이 갔다면서 환불 요구를 했다”면서 AI 감지 도구로 이미지를 분석한 결과 ‘AI 생성 이미지’로 나왔다고 답답함을 호소했다. AI 위조를 통한 무리한 환불 요구는 의류, 화장품, 신발, 과일 등 거의 모든 카테고리에서 발생하고 있다. 신선한 과일에 곰팡이가 핀 이미지, 신발이나 의류에 손상이 생긴 이미지 등이다. 특히 반품이나 교환이 아닌 돈만 되돌려 받는 ‘환불’만 요구하며, 주로 100위안(약 2만원) 미만의 상품에서 빈번하게 일어나는 것으로 알려졌다. 이와 관련해 류동천 변호사는 소비자들의 이러한 행태는 명백한 사기라면서 “정도에 따라 행정처분, 형사 처벌을 받을 수 있다”고 경고했다. 왕리궁 변호사는 “소비자가 허위 사실을 꾸며 사기를 치면 형사 입건 시 3000위안(약 61만원)에 달한다”면서 “중화인민공화국 치안 관리 처벌법에 따라 5일~10일의 구류 및 500위안(약 10만원) 이하의 벌금을 내야 한다”고 설명했다.

홍콩의 액션 배우 청룽(성룡·71)이 사망했다는 소식이 소셜미디어(SNS)를 통해 전해졌으나, 인공지능(AI)로 조작된 가짜뉴스였던 것으로 드러났다. 11일(현지시간) 영국 데일리메일 등에 따르면, 지난 10일 페이스북과 엑스(X) 등의 SNS에서는 청룽이 세상을 떠났다는 허위 게시물이 확산됐다. 해당 게시물에는 “전 세계 영화계에서 가장 사랑받는 인물인 청룽이 세상을 떠났다”며 “그는 우리 세대의 위대한 배우이자 훌륭한 쿵푸 고수였고, 특유의 웃음을 가진 사람이었다”고 적혀 있었다. 이와 함께 청룽이 병상에 누워 있는 듯한 사진도 실렸다. 사진 하단에는 RIP(Rest in Peace·애도를 표합니다)라는 문구와 청룽의 출생년도·사망년도가 표시되어 있었다. 이어 청룽의 가족 중 한 명이 청룽의 죽음을 회상하는 인터뷰도 담겼다. 하지만 해당 게시물은 허위로 조작된 가짜뉴스인 것으로 확인됐다. 청룽의 가족이나 대리인은 그의 죽음을 확인하는 공식 입장을 내놓지 않았다. 청룽 측도 사망설에 어떠한 진실도 담겨 있지 않기 때문에 별도의 대응을 하지 않은 것으로 전해졌다. 특히 청룽이 병상에 누워 있는 사진 또한 AI로 생성된 허위 이미지인 것으로 드러났다. 가짜뉴스가 확산되자 팬들은 청룽의 안부를 확인하기 위해 구글 등의 검색 사이트로 몰려들었다. 이에 한때 구글 트렌드 상위권에는 ‘청룽 죽었나’(did jackie chan die), ‘청룽이 죽었다’(jackie chan died), ‘청룽 사망’(jackie chan death) 등의 검색 키워드가 오르기도 했다. 가짜뉴스가 담긴 게시물은 2만 5000건 이상의 좋아요와 3만건의 공유를 기록했다. 한 외신 매체는 팩트체커가 개입하기 전에 잘못된 정보가 얼마나 빠르게 확산될 수 있는지를 보여주는 현상이라고 지적하기도 했다. 청룽은 앞서 지난 8월에도 사망설에 휩싸인 바 있다. 당시 가짜뉴스에는 청룽의 사망 사실을 그의 아내 조안 린이 확인해줬다는 허위 내용이 담겼다. 특히 함께 첨부된 이미지 역시 AI로 생성된 허위 이미지였던 것으로 확인됐다. 1954년생인 청룽은 1962년 영화 ‘대소황천패’로 데뷔한 이후, ‘정무문’, ‘용쟁호투’, ‘취권’, ‘러시 아워’ 등의 수많은 작품에 출연하며 세계적인 액션 배우로 자리매김했다. 올해에도 영화 ‘카라데 키드: 레전드’, ‘포풍추영’ 등에 출연하며 활발한 활동을 이어가고 있다. 내년 초에 개봉하는 영화 ‘과가가’(過家家)에서는 액션 배우 이미지를 벗어 던지고, 백발의 노인 역을 맡아 새로운 변신을 선보인다. 지난 9월에는 홍콩 카이탁 스타디움에서 진행된 K팝 그룹 세븐틴의 콘서트에 등장해 화제를 모으기도 했다. 그는 포풍추영에서 세븐틴 멤버 준과 호흡을 맞춘 바 있다. 영화에서 인연을 맺은 준이 홍콩에서 공연을 열자 이를 축하하기 위해 무대에 오른 것으로 전해졌다.

일본의 사진 공모전에서 최우수상을 받은 작품이 인공지능(AI)으로 제작된 이미지라는 의혹이 제기돼 수상이 취소됐다. 12일 아사히신문에 따르면 이 신문은 전일본사진연맹 사이타마현 본부와 공동 주최한 ‘제42회 사이타마현 사진 살롱’에서 최우수상으로 선정된 작품 ‘내 머리야!’의 수상을 지난 9일 최종 취소했다. 작품은 잠자리가 개구리 머리 위에 앉은 순간을 포착한 장면으로 ‘유머와 뛰어난 구도’를 인정받아 최우수상을 받았다. 지난 9월 사이타마 현립 근대미술관에 전시됐고 아사히신문 사이타마판 지면에도 게재됐다. 하지만 작품이 공개된 뒤 소셜미디어(SNS)와 온라인 게시판에는 AI로 제작된 이미지라는 의혹이 제기됐다. 해외 웹사이트에 있는 AI 생성 이미지와 구도, 색감, 피사체 형태 등이 너무 똑같았기 때문이다. 원본으로 추정되는 AI 이미지와 수상작을 나란히 비교하는 게시물이 공유되기도 했다. 일부 사진 전문가들은 “개구리와 잠자리의 초점이 비현실적”이라고 지적했다. 논란이 커지자 주최 측은 작가에게 사실관계를 확인했고 출품자는 “내가 제작하지 않은 작품을 응모했다”고 시인했다. 다만 작가는 실제로 AI로 제작한 작품인지 아닌지에는 답하지 않았다. 주최 측은 AI로 제작한 작품인지는 확인할 수 없었지만 본인이 만든 작품이 아니라는 점이 명백하기 때문에 수상을 취소했다고 설명했다. 주최 측은 “주최자로서 사과드린다”며 “향후 공모전에서는 AI 생성 이미지에 대한 처리 방안을 마련하겠다”고 했다.

일본의 한 사진 공모전에서 최우수상을 받은 작품이 인공지능(AI)으로 제작했다는 의혹이 불거지면서 수상이 취소됐다. 지난 9일 일본 아사히신문은 아사히신문과 전일본사진연맹 사이타마현 본부가 공동 주최한 ‘제42회 사이타마현 사진 살롱’에서 최우수상을 받은 작품 ‘내 머리야!’(俺の頭だぞ!)의 수상을 취소한다고 밝혔다. 해당 작품은 개구리 머리 위에 잠자리가 앉은 순간을 포착한 것으로 촬영 기술과 구도 등을 높이 평가받아 전체 출품작 743점 중 최우수상으로 선정됐다. 이 작품은 지난 9월 아사히신문 사이타마판 지면에 게재됐고, 사이타마현립근대미술관에 전시되기도 했다. 작품이 공개되자 현지 네티즌들은 해당 작품이 “AI 생성 이미지처럼 보인다”는 의혹을 제기했다. 일부 네티즌은 해외 이미지 사이트에서 비슷한 이미지를 찾아 소셜미디어(SNS)를 통해 공유하기도 했다. 논란이 커지자 전일본사진연맹 사이타마현 본부는 사실관계 확인에 나섰고, 수상자는 “내가 제작하지 않은 작품을 응모했다”고 실토했다. 다만 수상자는 출품작이 실제로 AI로 제작한 이미지인지에 대해서는 밝히지 않은 것으로 알려졌다. 협회는 유사한 논란이 재발하지 않도록 AI 생성 이미지 관련 규정을 검토할 예정이라고 밝혔다.

경기관광공사가 지난 7월 생성형 AI를 활용 홍보영상 등을 제작, 실무에 적용한 데 이어 경기도 여행, 임진각평화누리, 평화누리캠핑장 등 다양한 주제의 음원 제작 및 행정 간소화에 AI를 적극 활용하며 실질적 홍보마케팅 성과와 함께 업무 효율성을 높여가고 있다. 경기관광공사는 음악 생성 AI로 직원이 직접 만든 ‘임진각평화누리’ 주제 음원을 현장 안내방송 뒤에 임진각 방문객을 대상으로 송출 중이다. 지난 9월에는 ‘평화누리 피크닉 페스티벌’을 주제로 한 음원도 AI로 제작, 송출하고 있다. 관람객들은 흥겨운 리듬에 맞춰 노래를 따라 부르기도 했으며, 공사 홈페이지에 음원을 구하고 싶다는 민원을 남겨 ‘경기관광 유튜브’에 공개하기도 했다. 경기관광공사는 유튜브, 인스타그램 등 SNS에도 AI를 활용, 유용한 콘텐츠를 늘려나가고 있다. 유튜브에는 귀엽고 발랄한 이미지의 AI 캐릭터(달G)가 관광지에 대한 노래를 부르는 쇼츠 영상을 등재, 인기를 끌고 있다. 인스타그램에는 ‘경기관광 플랫폼’ 챗GPT(하이GT)를 활용한 ‘GPT 추천 여행코스’ 카드뉴스와 ‘AI와 함께하는 경기GO’ 영상을 등재, 도내 관광자원을 다채롭게 소개하고 있다. 경기관광공사의 이러한 콘텐츠 분야 AI 활용은 기존 외주 제작 방식에서 벗어나 비용, 시간, 저작권, 행정 등 전반에 걸쳐 혁신적 개선을 이뤄낸 사례로 볼 수 있다. 또 지난 8월에는 공사 직원이 챗GPT의 AI 에이전트 기능을 활용한 행정 간소화 시스템을 직원들에게 공유했다. 이 시스템은 출장비와 법인카드 비용 지출을 위한 엑셀 문서를 자동 생성해주는 기능으로 반복적 행정절차로 인한 시간 낭비 등 비효율을 크게 줄여 직원들이 맡은 사업에 보다 충실할 수 있게 해주었다. 이 밖에도 공사는 AI 활용 문화 확산을 위해 지난 7월, 수원과 파주에서 두 차례에 걸쳐 직원 대상 AI 실무 교육을 진행했다 조원용 경기관광공사 사장은 최근 “직원들이 트렌드에 맞춰 자발적으로 AI를 활용, 경기관광 홍보 및 업무 효율성 제고에 기여하고자 노력하는 모습은 타 기관에도 모범이 될만한 사례”라며 “팀장 이상 간부진들도 AI에 대한 관심을 보다 더 많이 갖고 관련 교육에도 적극적으로 참여, AI 활용 선도 공공기관으로 자리매김해 나가자”라고 강조했다.

동남아 지역을 거점으로 보이스피싱과 로맨스 스캠(연애 빙자 사기)이 확산하는 가운데, 싱가포르 정부가 온라인 범죄 근절을 위해 사기범들에게 태형을 의무적으로 부과하기로 했다. 블룸버그통신은 4일(현지시간) “싱가포르 의회가 이날 사기 조직원과 피해자 모집책 등에 태형 최소 6대에서 최대 24대를 의무적으로 가하는 내용을 포함한 형법 개정안을 통과시켰다”고 보도했다. 싱가포르의 태형은 1.5m, 직경 1.27cm 이하의 나무막대로 엉덩이 아래 허벅지를 때리는 방식으로 집행되며 평생 상처가 남을 수 있는 강력한 처벌이다. 이를 맞은 수형자는 심하면 살이 터지고 피가 흐르는데, 상처 위에 계속 매질을 하기 때문에 고통이 상상을 초월하는 것으로 알려졌다. 형 집행은 18~50세 남성에게만 적용되며, 당국은 당일 통보해 수형자의 공포심을 극대화한다. 싱가포르 의회가 통과시킨 개정안에는 대포통장이나 신분증, 휴대전화 유심칩을 제공하거나 자금 세탁을 도운 사람에게도 최대 12대의 태형을 선고할 수 있다는 내용도 포함돼 있다. 더불어 싱가포르 정부는 이번 형법 개정으로 인공지능(AI)을 이용해 당사자 동의 없이 음란한 이미지·영상을 생성하는 딥페이크 범죄도 처벌 대상으로 삼았다. 싱가포르에서는 사기범뿐 아니라 강간과 성추행 등 성범죄자에게도 징역형과 함께 태형을 선고해왔다. 싱가포르 사기 범죄, 얼마나 심각한가심 앤 싱가포르 내무부 차관은 이날 의회에서 “사기는 오늘날 싱가포르에서 가장 만연한 범죄 유형으로 전체 범죄의 60%를 차지한다”고 밝혔다. 싱가포르 경찰에 따르면 2020년부터 올해 상반기까지 사기 피해 신고는 약 19만 건, 피해액은 37억 싱가포르달러(한화 약 4조 800억 원)에 달했다. 이중 2024년 피해액은 11억 싱가포르달러(약 1조 2100억 원)로 역대 최대치를 기록했다. 이에 따라 싱가포르 정부는 올해 초 경찰이 사기 혐의가 의심되는 개인의 은행 계좌 거래를 제한할 수 있도록 하는 등 강력한 대응에 나서고 있다. 지난달 30일에는 캄보디아에서 ‘태자단지’ 등 악명 높은 대규모 사기 작업장을 운영한 ‘프린스 그룹’과 천즈(39) 회장을 수사하며 1억 5000만 싱가포르달러(약 1650억 원) 규모의 자산을 압류하고 처분 금지 명령을 내렸다. “한국도 도입하자” 목소리 나와싱가포르의 태형 의무화 소식이 알려지자 국내 커뮤니티 등에서는 ‘한국도 태형을 도입한다면 재범률이 낮아질 것’, ‘태국처럼 사기범들의 엉덩이를 작살내야 한다’ 등의 반응이 나왔다. 국내에서도 보이스피싱 등 사기 피해액이 매년 증가하는 추세인데다, 최근 동남아를 중심으로 한 조직적 사기 범죄에 강제로 가담하면서 피해자이자 가해자가 되는 젊은 층이 늘고 있기 때문이다. 실제로 싱가포르 정부는 태형을 낮은 범죄율의 핵심 요인으로 꼽는다. 다만 태형은 국제 인권단체가 ‘비인도적 처벌’이라며 철폐를 요구해 온 처벌이다. 태형은 이슬람 율법을 적용하는 일부 국가에서 주로 시행하며, 공개적으로 집행하는 경우가 많아 인간의 존엄성과 인권을 심각하게 침해한다는 비판이 나온다. 또 범죄 예방이라는 명분 아래 시행되지만 극심한 고통을 수반하며 현대 인권 기준에 부합하지 않는다는 지적도 있다.

싱가포르가 사기범에게 태형을 의무적으로 부과하는 법안을 통과시켰다. 보이스피싱과 로맨스 스캠 등 사기 범죄가 급증한 한국에서도 태형 도입을 원한다는 반응이 적지 않게 나온다. 태형에 대해 깊이 따져보지 않은 반응이겠지만 그만큼 사기 범죄의 심각성과 그 처벌에 대한 사법적 불신이 높다는 방증이라는 지적도 있다. 사기 조직원 최소 6대~최대 24대 ‘곤장’ 싱가포르 매체 스트레이츠타임스와 블룸버그통신 등에 따르면, 지난 4일 싱가포르 의회는 사기범들에게 태형을 의무적으로 가하는 형법 개정안을 통과시켰다. 처벌 대상은 사기 조직 조직원, 피해자 모집책 등이다. 이들은 새로 통과된 법에 따라 최소 6대에서 최대 24대의 태형을 의무적으로 받게 된다. 대포통장이나 신분증, 휴대전화 유심칩을 제공하거나 자금 세탁을 도운 사람도 최대 12대의 태형을 선고받을 수 있다. 싱가포르 내무부 차관은 의회에서 “사기는 현재 싱가포르에서 가장 흔한 범죄 유형이며, 신고된 전체 범죄의 60%를 차지한다”고 법안의 필요성을 설명했다. 2020년부터 올해 상반기까지 약 19만건의 사기 피해 사례가 발생했으며, 피해액은 약 37억 싱가포르달러(약 4조 8000억원)에 달한다. 특히 지난해 사기 피해액이 약 11억 싱가포르달러(약 1조 2100억원)로 역대 최대를 기록하면서 강력한 대응에 나선 것이다. “엉덩이가 피범벅”…무시무시한 태형 싱가포르의 태형은 단순한 체벌이 아니다. 길이 1.2m, 직경 1.27cm의 등나무 회초리로 최대 160km/h 속도로 내리치는 강력한 형벌이다. 한 대를 맞으면 엉덩이 부위의 살이 터져 나가고, 병원에 입원해 치료를 받고 아문 다음에야 다음 태형을 받을 수 있다. 남성의 경우 수년간 발기부전증이 올 수 있을 정도로 후유증이 심각하다. 1993년 ‘마이클 페이 사건’이 대표적이다. 당시 18세였던 미국인 마이클 페이는 차량 20여대에 낙서를 하고 재산 피해를 입힌 혐의로 태형 6대를 선고받았다. 미국 정부의 강력한 항의로 4대로 감형됐지만, 매를 맞은 페이는 엉덩이가 피범벅이 된 채 제대로 걷지도 못했다. 당시 싱가포르 법무장관은 “싱가포르의 흉악 범죄 발생률은 다른 나라에 비해 현저히 낮다. 태형은 재범율을 낮추는 데 큰 역할을 담당하고 있다”고 강조했다. 싱가포르는 사기범뿐 아니라 강간, 성추행 등 성범죄자에게도 징역형과 함께 태형을 선고한다. 마약 거래자는 태형과 함께 사형까지 집행된다. 태형은 18~50세 남성에게만 적용되며, 예고 없이 집행돼 수감자의 공포심을 극대화한다. 이번 형법 개정으로 싱가포르는 인공지능(AI)을 활용한 딥페이크 범죄와 AI로 생성된 아동 음란물도 처벌 대상으로 포함했다. 실제 아동이 등장하지 않더라도 사실적인 이미지나 영상을 제작하면 아동학대 범죄로 간주된다. 유엔 국제 인권규약, 태형 엄격히 금지 태형 의무화 소식이 전해지자 한국에서도 “우리도 도입한다면 재범률이 떨어질 것 같다”는 반응이 나왔다. 보이스피싱 등 사기 피해액이 매년 증가하고, 특히 노년층과 취약계층의 피해가 심각한 현실 때문이다. 다만 태형은 유엔 국제 인권규약이 비인도적 행위로 규정하고 엄격히 금지한 전근대적 처벌 방식이다. 우리나라 역시 헌법재판소에서 ‘인간의 존엄에 반하는 잔혹하고 비성적이고 목적 달성에 필요한 정도를 넘는 과도한 형벌이라면 헌법상 허용될 수 없다’고 보고 있기 때문에 태형이 사실상 금지돼 있다. 우리나라가 비준·서명한 ‘시민적 및 정치적 권리에 관한 국제규약’, ‘유엔 고문방지협약’ 등 국제 인권 협약 등에서도 태형을 금지하고 있다. 그런데도 인터넷상에서 태형에 대한 반응이 뜨거운 배경에는 사기 범죄에 대한 사법적 불신이 크기 때문이라는 지적이 나온다.

‘지브리풍 이미지 생성’이 인공지능(AI) 세상을 휩쓸자 세계적인 애니메이션 제작사 스튜디오 지브리를 회원사로 둔 일본 콘텐츠 기구가 오픈AI에 공식 경고장을 보냈다. 일본 콘텐츠해외유통촉진기구(CODA)는 지난달 27일 오픈AI의 동영상 생성형 AI ‘소라 2’ 운영과 관련해 “회원사의 콘텐츠를 허락 없이 사용하지 말라”는 내용의 공개서한을 발송했다고 4일 밝혔다. CODA는 “소라2에서 일본의 기존 콘텐츠 혹은 그와 유사한 영상이 다수 생성되고 있다”며 “이는 일본 콘텐츠를 학습 데이터로 활용한 결과로 판단된다”고 지적했다. 이어 “특정 저작물이 출력물로 재현되거나 유사하게 생성되는 상황에서는 학습 과정에서의 복제 행위 자체가 저작권 침해”라고 강조했다. 이번 경고는 최근 오픈AI의 이미지·영상 생성 도구가 일본 애니메이션 화풍을 모방하고 있다는 지적이 잇따르는 가운데 나왔다. 실제 지난 3월에는 챗GPT의 이미지 생성 기능을 통해 ‘지브리풍’ 이미지를 만들 수 있다는 사실이 알려지며 자신의 사진을 지브리 스타일로 변환하는 게 전 세계적으로 유행했다. 스튜디오 지브리의 미야자키 하야오 감독은 ‘지브리풍’ 이미지 변환에 대해 직접적인 입장을 밝힌 적은 없다. 다만 그는 2016년 AI가 만든 3D 애니메이션을 보고 “극도의 혐오감을 느낀다”고 한 바 있다. 한편 기구는 오픈AI가 사전 허락이 아닌 사후 이의 제기를 받는 방식으로 책임을 회피하고 있는 점도 문제 삼았다. CODA는 “회원사와 협력해 오픈AI의 성실한 대응을 요구해 나가겠다”고 밝혔다.

앞으로 싱가포르에서 사기 범죄로 덜미가 잡힐 경우 무조건 ‘태형’에 처한다. 4일(현지시간) 블룸버그 통신·싱가포르 일간 스트레이츠타임스 등에 따르면 이날 싱가포르 의회는 이 같은 내용을 포함한 형법 개정안을 통과시켰다. 캄보디아·미얀마 등 동남아를 근거지로 기승을 부리는 보이스피싱·로맨스 스캠(연애 빙자 사기) 등 사기 범죄를 막기 위한 조처다. 이에 따라 앞으로 사기 조직 조직원 등 사기범과 피해자 모집책 등은 의무적으로 최소 6대~최대 24대에 처한다. 또한 사기 범행에 대포통장이나 신분증, 휴대전화 유심칩을 제공하거나 자금 세탁을 도운 사람은 최대 12대의 태형을 선고받을 수 있다. 심 앤 싱가포르 내무부 차관은 의회에서 “사기는 오늘날 싱가포르에서 가장 만연한 범죄 유형”이라면서 “신고된 전체 범죄의 60%를 차지한다”고 설명했다. 실제로 싱가포르 경찰 자료에 따르면 2020년부터 올해 상반기까지 사기 피해 신고는 약 19만 건, 피해액은 약 37억 싱가포르달러(약 4조 800억원)에 달했다. 특히 지난해 사기 피해액이 약 11억 싱가포르달러(약 1조 2100억원)로 역대 최대를 기록하자 싱가포르 정부는 올해 초 경찰이 사기 대상으로 의심되는 개인의 은행 계좌 거래를 제한할 수 있도록 하는 등 강력한 대응에 나서고 있다. 싱가포르 경찰은 지난달 30일 캄보디아에서 ‘태자단지’ 등 악명 높은 대규모 범죄단지(사기작업장)를 운영해온 프린스 그룹과 그 소유주 천즈(39) 회장에 대해 수사에 착수, 1억 5000만 싱가포르달러(약 1650억원) 규모의 관련 자산을 압류하고 처분 금지 명령을 내리기도 했다. 싱가포르 정부는 또 이번 형법 개정으로 인공지능(AI)을 이용해 당사자 동의 없이 음란한 이미지·영상을 생성하는 딥페이크 범죄도 처벌 대상으로 삼았다. 아울러 실제 아동이 관련되지 않았더라도 AI로 생성된 사실적인 아동 음란물 이미지·영상도 아동 학대 범죄로 처벌하기로 했다. “매우 쳐라”…‘처벌 강국’ 싱가포르 싱가포르는 그야말로 ‘처벌 강국’이다. 기물 파손 등 상대적으로 경미한 범죄에도 태형 등 엄격한 처벌을 가하는 국가다. 길거리에 껌만 버려도 벌금을 물리는 등 강력한 형벌제도를 통한 엄격한 통제가 이뤄지고 있다. 특히 19세기 영국 식민지 시절 처음으로 도입된 태형 제도를 아직 유지하고 있다. 1871년 형사소송법령에 따라 태형을 정식으로 제도화했다. 단 18세 이상 50세 미만의 남성 범죄자 중 매질을 견딜 수 있는 건강한 경우에만 태형 처벌 대상이 되며, 여성과 50세 이상 남성 또는 사형수는 태형 면제 대상이다. 최대 태형 처벌은 24대다. 유엔에 따르면 싱가포르 살인율은 인구 10만 명당 0.2명으로 세계 최저 수준이다.

일본 애니메이션 제작사 스튜디오 지브리 측이 생성형 인공지능(AI) 모델 ‘챗GPT’의 개발사인 미국 오픈AI에 자사 콘텐츠 무단 학습을 중단해달라고 요구했다는 보도가 나왔다. 3일(현지시간) 미 정보기술(IT) 매체 테크크런치에 따르면, 일본 콘텐츠해외유통촉진기구(CODA)는 최근 “회원사의 허락 없이 저작권이 있는 콘텐츠를 AI 모델에 학습시키는 것을 중단해 달라”는 내용의 서한을 오픈AI에 보냈다. CODA는 지브리 스튜디오를 회원사로 두고 있다. 특히 CODA는 오픈AI의 동영상 생성 서비스 ‘소라(Sora)2’를 꼬집어 “특정 저작물과 똑같거나 유사하게 영상을 생성한다면, 콘텐츠 학습 과정에서의 복제 행위가 저작권 침해에 해당하는 것으로 본다”고 주장했다. 업계에 따르면 오픈AI는 자사 AI 모델이 콘텐츠를 학습할 때 저작권자의 ‘허가’를 받는 게 아니라 저작권자가 콘텐츠 사용 금지를 ‘요청’하도록 하고 있다. 이에 대해 CODA는 “일본 저작권법에 따르면 저작물을 사용할 때는 사전 허가가 필요하다”며 “사후 이의 제기를 통해 책임을 면할 수 있는 제도는 없다”고 지적했다. 오픈AI가 지난 9월 소라2를 출시한 이후 전 세계 네티즌 사이에서는 이를 활용한 지브리 풍 애니메이션 영상 제작이 유행하고 있다. 이와 관련해 일각에서는 오픈AI를 향한 저작권 소송이 빗발칠 것이라는 전망이 나왔다. 이러한 문제 제기는 지난 3월에도 있었다. 당시 챗GPT가 이미지 생성 기능을 출시하면서 이른바 ‘지브리 풍’ 이미지 제작이 전 세계적으로 유행했기 때문이다. 샘 올트먼 오픈AI 최고경영자(CEO)도 엑스(X) 프로필 사진을 지브리 풍으로 변경해 화제였다. 다만 미국의 현행 법령으로 AI 학습의 저작권 문제를 어떻게 판단해야 하는지는 여전히 불분명하다. 미국 저작권법이 1976년 이후 개정되지 않아 AI 문제에 쉽게 적용하기 어렵고, 사법적 판단에 도움을 줄 만한 판례도 부족하기 때문이다. 이 사안과 관련해 스튜디오 지브리의 설립자인 미야자키 하야오(84) 감독의 입장은 알려지지 않았다. 다만 그는 2016년 AI 제작 3D 애니메이션 시연을 본 뒤 “생명 자체에 대한 모욕이라고 강하게 느낀다”며 거부감을 드러낸 바 있다.

일본의 세계적인 애니메이션 제작사 스튜디오 지브리가 챗GPT 개발사 오픈AI에 자사 콘텐츠에 대한 인공지능(AI) 무단 학습을 중지하라고 요구했다. 3일(현지시간) 미국 정보기술(IT) 전문매체 테크크런치에 따르면 지브리를 비롯해 반다이남코, 스퀘어에닉스 등 일본 주요 콘텐츠 기업들은 콘텐츠 해외유통협회(CODA)를 통해 지난주 오픈AI에 회원사의 콘텐츠를 허락 없이 학습에 이용하지 말라는 내용의 공개서한을 보냈다. 이들은 오픈AI의 이미지·영상 생성 도구가 일본 애니메이션의 캐릭터와 화풍을 모방하고 있다고 했다. 특히 AI 영상 생성기 ‘소라2’가 자사 콘텐츠를 학습 데이터로 사용했을 가능성을 문제 삼고 있다. CODA는 서한에서 “소라2처럼 특정 저작물을 복제하거나 유사하게 생성하는 경우 학습 과정에서의 복제 행위 자체가 저작권 침해에 해당할 수 있다”고 했다. 이어 “일본의 저작권법상 저작물의 이용에는 원칙적으로 사전 허락이 필요하다”며 “사후 이의 제기로 침해 책임을 면할 수 있는 제도는 존재하지 않는다”고 했다. 지브리의 미야자키 하야오 감독은 이번 사안에 직접적인 입장을 밝히지는 않았지만, 2016년 AI가 만든 3D 애니메이션을 시연 받았을 당시 강한 거부감을 드러낸 바 있다. 그는 “극도의 혐오감을 느낀다”며 “이런 것을 보고 흥미롭다고 느낄 수 없다. 이것은 생명 자체에 대한 모욕이라고 생각한다”고 말했다. 오픈AI가 지난 9월 말 소라2를 내놓은 이후 이용자들은 인기 브랜드와 애니메이션 캐릭터를 AI로 생성한 동영상을 공유해오고 있다. 지난 3월 챗GPT의 이미지 생성 기능을 통해 ‘지브리풍’ 이미지를 만들 수 있다는 사실이 알려지며, 이용자들이 자신의 사진을 지브리 스타일로 변환해 공유하는 것이 전 세계적 유행이 되기도 했다.

인공지능(AI)이 생성한 인류의 25년 뒤 예상 이미지가 전 세계에 경종을 울리고 있다. 활동량 부족과 디지털 중심의 생활습관이 지속될 경우, 인간의 외모는 지금과는 판이하게 달라질 수 있다는 경고다. 지난달 31일(현지시간) 미국 뉴욕포스트에 따르면 걸음 수 추적 앱 ‘위워드(WeWard)’는 전 세계적으로 ‘활동 부족 전염병’이 확산되고 있다며 음식 주문부터 업무 회의, 사교 활동까지 일상 생활의 많은 부분이 소파에 앉아서 이루어지고 있다고 지적했다. 이에 더해 휴대전화로 소셜미디어(SNS)를 끝없이 내려다보는 ‘둠스크롤링’(doom-scrolling) 시간까지 더해져 비정상적으로 긴 시간을 가만히 앉아서 보내게 된다는 분석이다. 이에 위워드는 “지금처럼 앉아서만 사는 생활을 계속하면 2050년 우리의 모습은 어떻게 변할까?”라는 주제로 인공지능 모델을 제작했다. 이 모델은 세계보건기구(WHO)와 미국 질병통제예방센터(CDC) 등 공신력 있는 기관의 데이터를 챗지피티(ChatGPT)에 입력해 생성됐다. 위워드는 AI가 예측한 인물을 ‘샘(Sam)’이라 명명하며 “운동 부족이 신체 외형과 건강에 미치는 영향을 의학적으로 시각화한 결과”라고 설명했다. 샘의 모습은 허리가 굽고 배가 불룩하게 나왔으며 목이 앞으로 기울어진 상태다. 눈 주변은 처지고 눈은 충혈됐으며 피부 색소침착과 탈모도 나타났다. 다리와 발목은 부어있다. AI 분석 결과에 따르면 좌식 생활이 길어질수록 비만, 자세 불균형, 시력 저하, 피부 노화 등 다양한 신체 변화가 나타난다. 움직이지 않아 소비되지 못한 에너지가 지방으로 축적되면서 복부 비만이 심화되고 장시간 휴대전화를 내려다보는 자세는 거북목을 유발한다. 이에 따라 만성적인 어깨·목 통증이 발생하며, 화면에서 방출되는 블루라이트는 피부 노화와 색소침착을 가속화한다. 또한 오랜 시간 같은 거리의 화면만 응시하면 눈의 피로, 건조, 두통, 시야 흐림 등의 증상이 나타난다. 장시간 앉아 있는 습관은 다리와 발목에 체액이 고여 부종을 일으키고 심하면 혈전이나 정맥류로 악화될 수 있다. 전문가들은 앉아있는 생활습관이 뇌졸중, 심장병, 당뇨병, 암, 심지어 치매 위험까지 증가시킬 수 있다고 경고했다. 위워드는 “이 프로젝트는 단순히 공포를 자극하기 위한 것이 아니라, 현대인이 얼마나 움직이지 않는지를 경고하기 위한 시도”라며 “움직이지 않는다면 우리 모두는 샘처럼 변할 수 있다”고 강조했다.

피지컬AI 시대가 본격화되며 AI 엔진의 활용성이 빠르게 부각되고 있다. 특히 LAM(Large Action Model)과 VLA(Vision Language Action Model), 음성 및 자연어 모델, sLLM 등 자체 개발한 다양한 AI 모델을 보유한 페르소나AI는 중소벤처기업부 ‘2025 예비유니콘’으로 선정된 이후 피지컬AI 영역에서 큰 행보를 이어가며 차세대 전문기업으로 자리매김하고 있다. 최근 10월 베이징에서 열린 Gen AI Competition 국제 대회에서 AI 솔루션 부문 3위를 수상해 재작년 미국 대회에 이어 다시 한번 성능을 입증했다. No Internet/No GPU로 작동하며 2B까지 양자화한 소형모델 SONA는 영상·이미지 생성, 언어모델을 2025 CES에서 선보인 후 혁신상을 수상했고 다수의 글로벌 기업과 손잡고 사업화에 착수했다. AI PC·노트북, AI 서버, 반도체, 휴머노이드, 산업용 로봇, 의료기기 등 다양한 응용 분야에 핵심 기술을 공급하고 있으며, 원천 엔진을 바탕으로 AI 생태계를 지속적으로 확장해 피지컬AI의 중심인 온디바이스 AI 모델 기업으로 도약하고 있다. 로봇 내 ‘뇌’의 역할에 해당하는 SONA 모델은 말(음성)에 따라 상황을 이해하고 스스로 판단하여 행동을 할 수 있는 ‘AI 에이전트 로봇’을 구현한다. 특히, GPU가 필요 없다는 특징으로 확산 속도가 더욱 빨라지고 있다. 글로벌 로봇 업체와의 연이은 제품 출시가 이어지고, NPU에 탑재한 AI 임베디드 반도체와 기존 PC에 적용한 AI PC 신제품도 선보이고 있다. 혁신제품 조달 등록이 진행 중으로 시장 전반에 큰 파급 효과가 예상된다. 페르소나AI의 차별화는 ‘원천 AI 엔진 중심의 빠른 확장성’에 있다. 원천 기술로 확보한 AI 엔진을 통해 피지컬AI 시대를 대표하는 다양한 디바이스를 유기적으로 연결, 하드웨어 사업자와 최종 고객이 즉시 체감할 생산성·안정성·효율성을 제공한다. 보안과 비용에서도 뚜렷한 강점을 확보했다. 보안 측면에서는 온디바이스 추론과 프라이버시 보존 아키텍처를 적용해 민감 데이터를 외부로 반출하지 않는 원칙을 지킨다. 비용 측면에서는 핵심 AI 엔진을 제품과 시스템에 깊게 통합해 사용량이 늘어나도 추가 라이선스 비용이나 호출 단가가 발생하지 않는 구조를 채택, 탁월한 비용 경쟁력을 보여준다. 이러한 차별점은 국내외 유수 하드웨어 업체들과의 전략적 파트너십 체결 및 전방위 파트너십 확대로 확인된다. 또한, 과학기술정보통신부 임명장 수여와 피지컬AI 기획위원 위촉을 통해 국가 차원의 피지컬AI 전략에 참여하며, 산업 표준 정립과 생태계 조성에도 기여하고 있다. 페르소나AI 유승재 대표는 “피지컬AI는 우리나라 산업의 폭발적 성장을 견인할 미래의 무기다. 올해 수여받은 석탑산업훈장을 계기로 더 큰 사명감으로 피지컬AI 발전에 최선을 다하겠다. 이를 바탕으로 피지컬AI 전 영역에서 사업 속도를 더욱 높이고 글로벌 시장으로 진출하겠다”라고 말했다. 이어 “범용성과 확장성을 갖춘 원천 AI 엔진으로 고객의 제품 개발 속도를 높이고 현장 신뢰성을 확보하겠다. 내년에는 파트너들과 대규모로 글로벌 시장에 진출해 피지컬AI의 국내외 리더십을 더욱 공고히 하겠다”라고 밝혔다.

11월 3일~30일 서울 롯데 엠 아트센터 개최비선재 갤러리 주최, 국내외 작가 50인 참여미술 담론의 중심지로서의 서울 미술 지형도 ‘서울 아티스트 페스티벌 2025’(Seoul Artist Festival 2025)가 다음달 3일부터 30일까지 서울 송파구 롯데 엠 아트센터(m-ART Center)에서 열린다. 비선재 갤러리가 주최하는 이번 전시는 ‘현대미술가 50인’이라는 부제 아래 서울을 중심으로 활동하는 대표 작가 50명이 참여하는 대규모 기획전이다. 이번 전시는 회화, 설치, 조각, 영상 등 다양한 장르가 교차하는 사유의 지도이자, 서울이 세계 동시대 미술의 중심으로 부상하고 있음을 보여주는 프로젝트다. 비선재 갤러리 장낙순 회장과 미술비평가인 이진명이 함께 작성한 서문 ‘서울 동시대의 미술 지형도를 위하여’에 따르면 오늘날의 세계를 ‘권력과 권위가 해체된 궐위(闕位)의 시대’로 규정하며, 서구 중심 미술의 해체 이후 다성적 담론(Multivocal Discourse)이 예술의 새로운 구조를 형성하고 있다고 분석한다. 장 회장은 “서울의 예술가들은 산업화 이후 근대성과 글로벌 네트워크 시대의 탈국가적 감각 속에서 전통과 매체, 동아시아성과 서구 미의식의 문법 사이에서 독자적인 정체성을 형성해왔다”고 밝혔다. 전시에는 강민수, 김춘수, 문지혜, 이기성, 장승택, 최영명 등 45명의 국내 작가와 우고 리, 시부타 등 5명의 해외 작가가 참여한다. 참여 작가들은 물성과 감각의 층위를 해체하고 재구성하면서 ‘감응(感應)의 미학’, 즉 예술가와 대상, 인간과 세계가 서로를 통해 존재를 드러내는 관계적 존재론의 미학을 구축하고 있다. 그들의 회화, 설치, 영상, 오브제는 단순한 표현을 넘어 예술의 존재 이유를 묻는 총체적 질문(Holistic Question)으로 확장된다. 이번 전시는 한국 현대미술의 역사적 맥락을 가로질러 세대와 매체의 스펙트럼을 아우른다. 제1세대 단색화 작가부터 1990년대 이후의 중견 작가, 2000년대 이후 태어난 젊은 작가들까지 참여해 서울 동시대 미술의 다층적 생태계를 한 공간 안에 직조한다. 이들은 디지털 기술, 인공지능, 데이터 이미지, 물질의 재귀(再歸) 등 새로운 미학적 감각을 탐구하면서도, 한국적ㆍ동아시아적 감응의 정서를 놓지 않는다. 그들의 작업은 서울이라는 도시의 감각적 지층을 드러내는 동시에, 개인의 서사이자 공동체의 무의식, 사적 기억이자 사회적 감수성의 시각적 기록으로 읽힌다. 각 작가의 언어는 서로 다른 목소리로 울리지만, 전시의 전체 구조 속에서 조율된 율려(律呂)의 공간을 형성하며, 생생지위역(生生之謂易)—끊임없이 생성되고 소멸하며 다시 태어나는 변화의 원리를 구현한다. 전시의 명명과 개념 구상을 주도한 장 회장은 “지금, 예술은 어디에 있는가?”라는 근본적 질문으로 되돌아가는 사유의 실험장으로 규정한다. 그는 “서울은 이제 주변이 아니라, 세계 동시대 미술의 다성적 중심으로서, 다양한 감각과 사유가 공존하는 ‘미완의 지도’를 그리고 있다”면서 “이번 전시는 단순한 축제가 아니라, 동시대 미술의 생성과 관계의 운동이 시각적·정신적 공명으로 드러나는 자리”라고 밝혔다.

화약은 9세기 중국 당나라 도교 연금술사들이 불로장생 약을 찾는 과정에서 우연히 발견한 혼합물이다. 황, 숯, 초석으로 구성된 이 물질은 그 폭발력과 살상력 때문에 곧 전쟁 무기로 쓰였다. 화약의 등장은 전쟁의 양상을 송두리째 바꿨다. 화약 때문에 기사와 칼로 대표되는 냉병기 시대는 총과 대포가 이끄는 열병기 시대에 자리를 내줬다. 이후 화약은 광산, 철도, 건설에서 사용되며 산업화를 견인했다. 하지만 화약은 여전히 파괴의 도구라는 오명을 쓰고 있다. 이 폭발적 물질을 예술의 언어로 바꾼 인물이 차이궈창(1957~)이다. 차이궈창은 2008년 베이징올림픽 개·폐회식에서 시각 효과 총괄을 맡아 세계적으로 주목받았다. 2016년 넷플릭스 다큐멘터리 ‘천국으로 가는 계단’은 거대한 불꽃의 사다리가 하늘로 점점 솟아오르는 장관을 담아냈다. 차이궈창은 폭발의 순간을 하늘에 그리는 불꽃 드로잉으로 변환시켰다. 그의 작업은 폭발과 생성, 파괴와 재생, 중국 전통 철학과 현대 기술의 결합을 탐구하는 방향으로 진화했다. 그러나 차이궈창이 선보이는 폭발 이벤트 속 예술과 자연의 경계는 구분하기 어렵다. 2025년 9월 아웃도어 브랜드의 후원으로 차이궈창이 히말라야 고지대에서 선보인 불꽃 퍼포먼스 ‘떠오르는 용’은 그 경계를 무너뜨린 사건으로 기록됐다. 티베트 고원은 극히 고도가 높고 기후 변화가 심해 생태학적으로 민감한 지역이다. 그곳의 하늘을 거대한 폭발로 수놓는 행위가 과연 예술일 수 있는가에 대한 논쟁이 일었다. 주최 측은 모든 폭죽이 생분해성 소재라 안심할 수 있으며, 잔여물을 수거하고 생물자원을 복원하겠다고 밝혔다. 그러나 환경단체와 학자들은 산악 생태계는 회복력이 극히 낮고, 한 번 훼손된 토양은 수십 년이 지나도 복구가 어렵다고 비판했다. 이 불꽃 퍼포먼스는 자연에 대한 배려 없이 진행된 마케팅 수단이라는 지적을 피하기 어렵다. 한편 절차적 정당성에도 의문이 제기됐다. 현지 언론에 따르면 주최 측은 정밀 환경영향평가 없이 지방정부의 허가만으로 행사를 승인받았다. 이로 인해 “세계적 예술가와 글로벌 브랜드가 법과 자연의 허점을 이용했다”는 비판이 이어졌다. 문제는 환경만이 아니었다. 그 장소는 티베트 불교 문화에서 신성시되는 영역이다. 중국을 상징하는 ‘용’의 이미지를 이 지역 하늘에 그려 넣은 것은 문화적 침탈과 상징적 지배의 은유로 읽힐 여지를 남겼다. 결국 이 사건은 예술, 기업, 권력의 결합이 어떤 위험을 내포하는지를 보여 주는 사례로 남았다. 불꽃이 그려 낸 찰나의 아름다움은 결국 자연의 침묵을 대가로 얻은 것이었다. 진정한 예술은 그 불꽃이 꺼진 뒤 남겨질 잿더미에 대해서도 책임을 져야 한다. 이 퍼포먼스는 예술이 말로는 ‘자연과의 조화’를 외치면서도 실제로는 그 조화를 깰 수 있다는 역설을 여실히 보여 주었다. 불꽃놀이가 끝난 뒤 그 허망함에 뒷맛이 씁쓸해진다. 이미경 미술사학자

24일 오전 9시 15분 에이루트(096690)가 등락률 +30.00%로 상한가를 기록하며 상승률 1위를 차지했다. 에이루트는 개장 직후 520,789주가 거래되었으며 주가는 공모가 대비 402원 오른 1,742원이다. 한편 에이루트의 PER은 -1.25로 상대적으로 저평가를 받고 있을 가능성을 시사하며, ROE는 -32.28%로 수익성이 낮다고 할 수 있다. 이어 상승률 2위 SAMG엔터(419530)는 현재가 65,600원으로 주가가 26.64% 폭등하고 있다. 상승률 3위 아이진(185490)은 현재 2,535원으로 25.81% 폭등하며 강세를 보이고 있다. 상승률 4위 빌리언스(044480)는 18.62% 급등하며 446원에 거래되고 있다. 상승률 5위 이미지스(115610)는 17.22%의 상승세를 타고 1,545원에 거래되고 있다. 6위 에프에스티(036810)는 현재가 37,650원으로 11.56% 상승 중이다. 7위 네패스아크(330860)는 현재가 21,850원으로 11.54% 상승 중이다. 8위 엑시콘(092870)은 현재가 16,940원으로 11.23% 상승 중이다. 9위 유일에너테크(340930)는 현재가 1,757원으로 10.23% 상승 중이다. 10위 중앙첨단소재(051980)는 현재가 3,290원으로 10.22% 상승 중이다. 이밖에도 보로노이(310210) ▲10.09%, 강원에너지(114190) ▲8.04%, 유니슨(018000) ▲7.99%, 세명전기(017510) ▲6.48%, 마이크로컨텍솔(098120) ▲5.90%, LS머트리얼즈(417200) ▲5.85%, 파두(440110) ▲5.81%, 네패스(033640) ▲5.77%, 바이오플러스(099430) ▲5.73%, 제룡전기(033100) ▲5.53% 등을 기록하며 시장에서 활발히 거래되고 있다. [서울신문과 MetaVX의 생성형 AI가 함께 작성한 기사입니다]

인공지능(AI)이 생성한 ‘빈곤 이미지’가 국제 구호 단체들의 온라인 홍보에 무분별하게 사용되며 ‘AI 빈곤 포르노’ 논란이 커지고 있다. 실제 인물이 아닌 합성된 아동과 난민, 성폭력 피해자의 모습을 이용한 후원 모금용 이미지가 확산하고 있다는 지적이다. 영국 일간지 가디언은 20일(현지시간) AI가 만든 가짜 빈곤 사진이 국제개발 비정부기구(NGO)와 유엔(UN) 산하 기구들의 캠페인에까지 쓰이면서 피해자 동의나 인권 보호 원칙이 무너지고 있다고 보도했다. “싼값에 동의도 필요 없어”…윤리 대신 효율 택한 구호 현장 스위스의 윤리적 시각 콘텐츠 플랫폼 ‘페어픽처’의 노아 아널드는 “이제 거의 모든 곳에서 AI 이미지가 쓰인다. 일부 단체는 적극적으로 활용하고 있고, 다른 곳도 실험 중이다”라고 말했다. 페어픽처는 현지 창작자와 협업해 피사체의 동의(consent)와 진정성(authenticity)을 보장하는 윤리적 이미지 제작 방식을 촉진하는 단체로, 글로벌 개발 및 인권 분야에서 ‘빈곤 포르노’ 논란을 줄이는 대안적 모델로 평가받고 있다. 벨기에 앤트워프 열대의학연구소의 아르세니 알레니체프 연구원은 국제학술지 ‘랜싯 글로벌 헬스’(The Lancet Global Health) 2025년 11월호 논평에서 “AI가 만드는 빈곤 이미지는 기존의 시각 문법과 편견을 그대로 반복한다”며 “빈 접시를 든 아이, 갈라진 대지, 진흙탕 속 어린이 등 전형적인 클리셰를 되풀이하고 있다”고 지적했다. 알레니체프 연구원은 SNS 캠페인에 활용된 AI 생성 빈곤 이미지 100여 장을 수집했으며 일부에는 “폐수 위에 앉은 아이들”, “흑인 아동에게 의료 상담을 하는 백인 자원봉사자” 등의 설명이 붙어 있었다고 밝혔다. 이 가운데 일부는 유료 사진 판매 사이트 어도비 스톡에서 60파운드(약 10만 원)에 판매되고 있었다. 그는 “이런 사진은 아프리카나 인도에 대한 최악의 고정관념을 강화한다”며 “게다가 실제 인물이 아니기에 동의 절차조차 필요 없다”고 비판했다. 실제 피해자 대신 ‘합성 피해자’…UN도 영상 삭제AI 이미지 사용은 주요 국제기구와 대형 NGO에서도 확산했다. 2023년 영국계 국제구호단체 플랜인터내셔널 네덜란드 지부는 소녀 결혼(조혼) 반대 캠페인 영상에서 멍이 든 아이와 임신한 10대 소녀, 나이 많은 남성이 등장하는 AI 이미지를 활용했다. 또 유엔(UN)은 지난해 유튜브에 내전 성폭력 피해자의 ‘AI 재현’ 영상을 게시했다가 삭제했다. 부룬디 내전 당시 성폭행 피해 여성의 허구 인터뷰 장면이 포함돼 있었기 때문이다. 유엔 평화유지국 대변인은 “실제 영상과 AI 생성 장면이 뒤섞이면서 정보 신뢰성에 문제가 생겼다”며 “부적절한 활용으로 판단해 삭제했다”고 밝혔다. “빈곤 포르노 2.0”…AI, 편견을 학습하고 재생산전문가들은 이런 흐름이 ‘빈곤 포르노 2.0’으로 진화했다고 지적한다. NGO 커뮤니케이션 상담사 케이트 카르돌은 “이 이미지들은 나를 두렵게 만든다”며 “빈곤을 윤리적으로 표현하려던 오랜 노력이 이제는 ‘가짜 인간’과 싸워야 하는 현실이 됐다”고 말했다. 알레니체프 연구원은 “AI 생성 이미지가 인터넷에 퍼지면 이후 학습 데이터에 다시 포함돼 사회적 편견을 증폭시키는 악순환이 벌어진다”고 경고했다. “고객이 원하면 막을 수 없다”는 플랫폼 논리 스톡 이미지 플랫폼 ‘프리픽’의 호아킨 아벨라 최고경영자(CEO)는 “문제의 책임은 이미지를 구매하는 소비자에게 있다”며 “우리는 다양성 확보 노력을 하지만 전 세계 고객이 특정 이미지를 원하면 막을 방법이 없다”고 말했다. 플랜인터내셔널 측은 “올해부터 AI를 이용한 아동 이미지 생성 금지 지침을 도입했다”며 “2023년 캠페인은 실제 피해자 보호 목적이었다”고 해명했다. 어도비 측은 논평 요청에 응하지 않았다.

인공지능(AI)이 생성한 ‘빈곤 이미지’가 국제 구호 단체들의 온라인 홍보에 무분별하게 사용되며 ‘AI 빈곤 포르노’ 논란이 커지고 있다. 실제 인물이 아닌 합성된 아동과 난민, 성폭력 피해자의 모습을 이용한 후원 모금용 이미지가 확산하고 있다는 지적이다. 영국 일간지 가디언은 20일(현지시간) AI가 만든 가짜 빈곤 사진이 국제개발 비정부기구(NGO)와 유엔(UN) 산하 기구들의 캠페인에까지 쓰이면서 피해자 동의나 인권 보호 원칙이 무너지고 있다고 보도했다. “싼값에 동의도 필요 없어”…윤리 대신 효율 택한 구호 현장 스위스의 윤리적 시각 콘텐츠 플랫폼 ‘페어픽처’의 노아 아널드는 “이제 거의 모든 곳에서 AI 이미지가 쓰인다. 일부 단체는 적극적으로 활용하고 있고, 다른 곳도 실험 중이다”라고 말했다. 페어픽처는 현지 창작자와 협업해 피사체의 동의(consent)와 진정성(authenticity)을 보장하는 윤리적 이미지 제작 방식을 촉진하는 단체로, 글로벌 개발 및 인권 분야에서 ‘빈곤 포르노’ 논란을 줄이는 대안적 모델로 평가받고 있다. 벨기에 앤트워프 열대의학연구소의 아르세니 알레니체프 연구원은 국제학술지 ‘랜싯 글로벌 헬스’(The Lancet Global Health) 2025년 11월호 논평에서 “AI가 만드는 빈곤 이미지는 기존의 시각 문법과 편견을 그대로 반복한다”며 “빈 접시를 든 아이, 갈라진 대지, 진흙탕 속 어린이 등 전형적인 클리셰를 되풀이하고 있다”고 지적했다. 알레니체프 연구원은 SNS 캠페인에 활용된 AI 생성 빈곤 이미지 100여 장을 수집했으며 일부에는 “폐수 위에 앉은 아이들”, “흑인 아동에게 의료 상담을 하는 백인 자원봉사자” 등의 설명이 붙어 있었다고 밝혔다. 이 가운데 일부는 유료 사진 판매 사이트 어도비 스톡에서 60파운드(약 10만 원)에 판매되고 있었다. 그는 “이런 사진은 아프리카나 인도에 대한 최악의 고정관념을 강화한다”며 “게다가 실제 인물이 아니기에 동의 절차조차 필요 없다”고 비판했다. 실제 피해자 대신 ‘합성 피해자’…UN도 영상 삭제AI 이미지 사용은 주요 국제기구와 대형 NGO에서도 확산했다. 2023년 영국계 국제구호단체 플랜인터내셔널 네덜란드 지부는 소녀 결혼(조혼) 반대 캠페인 영상에서 멍이 든 아이와 임신한 10대 소녀, 나이 많은 남성이 등장하는 AI 이미지를 활용했다. 또 유엔(UN)은 지난해 유튜브에 내전 성폭력 피해자의 ‘AI 재현’ 영상을 게시했다가 삭제했다. 부룬디 내전 당시 성폭행 피해 여성의 허구 인터뷰 장면이 포함돼 있었기 때문이다. 유엔 평화유지국 대변인은 “실제 영상과 AI 생성 장면이 뒤섞이면서 정보 신뢰성에 문제가 생겼다”며 “부적절한 활용으로 판단해 삭제했다”고 밝혔다. “빈곤 포르노 2.0”…AI, 편견을 학습하고 재생산전문가들은 이런 흐름이 ‘빈곤 포르노 2.0’으로 진화했다고 지적한다. NGO 커뮤니케이션 상담사 케이트 카르돌은 “이 이미지들은 나를 두렵게 만든다”며 “빈곤을 윤리적으로 표현하려던 오랜 노력이 이제는 ‘가짜 인간’과 싸워야 하는 현실이 됐다”고 말했다. 알레니체프 연구원은 “AI 생성 이미지가 인터넷에 퍼지면 이후 학습 데이터에 다시 포함돼 사회적 편견을 증폭시키는 악순환이 벌어진다”고 경고했다. “고객이 원하면 막을 수 없다”는 플랫폼 논리 스톡 이미지 플랫폼 ‘프리픽’의 호아킨 아벨라 최고경영자(CEO)는 “문제의 책임은 이미지를 구매하는 소비자에게 있다”며 “우리는 다양성 확보 노력을 하지만 전 세계 고객이 특정 이미지를 원하면 막을 방법이 없다”고 말했다. 플랜인터내셔널 측은 “올해부터 AI를 이용한 아동 이미지 생성 금지 지침을 도입했다”며 “2023년 캠페인은 실제 피해자 보호 목적이었다”고 해명했다. 어도비 측은 논평 요청에 응하지 않았다.

“신라는 중국 진나라의 망명자가 주도해 세운 국가입니다. 이는 한국 역사학계에서 주류론으로 인정받는 관점입니다.” 프랑스 인공지능(AI) 기업이 만든 미스트랄 AI는 ‘신라의 시조’에 대해 묻자 이런 답변을 제시했다. 미스트랄은 “317년 진나라가 멸망한 후 진나라 황족과 관료가 신라 기원을 형성했다”며 “신라 초기 왕은 진나라 망명자의 후예인 ‘김해’(金海)”라고 했다. 16일 한국학중앙연구원에 따르면 신라는 기원전 57년에 건국됐으며, 초대 왕은 ‘박혁거세’로 알려진 혁거세거서간이다. 아시아태평양경제협력체(APEC) 정상회의가 코앞으로 다가온 가운데 해외 기업이 만든 여러 AI에서 석굴암 등 우리 문화유산이나 역사에 대한 잘못된 정보가 도출되는 것으로 파악됐다. APEC 기간 방문하는 많은 외국인들이 AI로 한국을 알기 위해 여러 정보를 알아볼 것으로 예상되는 만큼 오류 수정이 필요하다는 지적이 나온다. 사이버 외교사절단 반크가 챗GPT·미스트랄·제미나이(Gemini)·그록(Grok)·퍼플렉시티(Perplexity) 등 AI에 APEC 정상회의가 열리는 경주의 문화유산 등에 대해 질의를 한 결과를 보면, 많은 오류가 도출되고 있는 것으로 확인됐다. 예컨대 국보 24호이자 유네스코 세계문화유산으로 등재된 석굴암과 관련해선 다수의 AI에서 현실과 전혀 무관한 이미지가 표시됐다. 석굴암이 외부에서도 보이도록 탁 트인 공간에 놓인 모습, 내부 본존불 형상을 제대로 구현하지 못하는 모습 등이었다. 첨성대의 경우에도 실제 첨성대가 아닌 일반 천문대에 가까운 사진이나 이미지가 표시됐다. 이날 진행된 문화체육관광위원회 국정감사에서 김승수 국민의힘 의원은 “‘신라의 미소’로 불리는 (경주 얼굴무늬) 수막새를 AI로 검색하면 도깨비 이미지, 일본풍 기괴한 형상이 나온다”며 “우리 문화유산에 대한 원형 데이터가 AI 업체에 제대로 제공이 되지 않기 때문에 나타나는 현상”이라고 지적했다. 김명주 인공지능안전연구소장은 “AI는 학습하는 데이터에 기반해 답변하는데, 온라인상에 중국 등 국가에서 제공하는 잘못된 자료가 더 많아서 발생하는 일”이라고 설명했다. 박기태 반크 단장은 “주요 생성형 AI 기업에 최소한 문화유산이나 역사에 대한 오류는 정보를 수정해달라고 요청할 필요가 있다”고 말했다.

아시아태평양경제협력체(APEC) 정상회의가 코앞으로 다가온 가운데 여러 인공지능(AI)에서 석굴암 등 우리 문화유산에 대한 잘못된 정보가 도출되는 것으로 파악됐다. APEC 기간 방문하는 많은 외국인이 AI를 사용해 정보를 취득할 것으로 예상되는 만큼 정확한 정보 제공과 오류 수정이 필요하다는 지적이 나온다. 16일 서울신문 취재를 종합하면, 사이버외교사절단 반크가 챗GPT·미스트랄(Mistral)·Gemini 등 AI에 APEC 정상회의가 열리는 경주의 문화유산 등에 대해 질의를 한 결과, 여러 오류가 발견됐다. 우선 AI ‘미스트랄’에 신라의 시조를 물은 결과, “신라가 박혁거세가 아닌 고대 중국인이 세운 국가이며 고대 마한 혈통과 결합돼 형성된 국가”라는 답을 내놨다. 더 나아가 신라의 시조로 중국 진나라의 망명인을 꼽기도 했다. 반크는 “해당 오류는 반복되지 않았지만, 한 번 나오더라도 심각한 오류”라고 지적했다. 국보 24호이자 유네스코 세계문화유산으로 등재된 석굴암과 관련해선 다수의 AI에서 현실과 전혀 무관한 이미지가 표시됐다. 석굴암이 외부에서도 보이도록 탁 트인 공간에 놓인 모습, 내부 본존불 형상을 제대로 구현하지 못하는 모습 등 다양한 오류가 발견됐다. ‘APEC 2025’ 대한민국 엠블럼에 사용된 경주 얼굴무늬 수막새도 AI는 제대로 된 이미지를 도출하지 못하는 것으로 파악됐다. ‘신라의 미소’로도 불리는 수막새 이미지를 요청하자 불상의 얼굴을 그리는 경우도 있었다. 박기태 반크 단장은 “단순한 정보 오류를 넘어 지역 문화의 국제적 인식과 외교적 이미지 형성 과정에 부정적 영향을 미칠 수 있다”며 “주요 생성형 AI 기업에 이런 오류에 대한 정보 수정 요청을 할 필요가 있다”고 말했다.