‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

LG유플러스가 SM엔터테인먼트와 생성형 인공지능(AI) 기반 콘텐츠 개발 협력을 위한 업무협약을 체결했다. 이를 계기로 SM엔터테인먼트의 첫 번째 버추얼 아티스트인 ‘나이비스’의 뮤직비디오 등 콘텐츠 제작에 LG유플러스가 자체 개발한 생성형 AI ‘익시젠’(ixi-GEN)이 활용된다. 1일 LG유플러스에 따르면 양사는 지난달 29일 서울 성수동 SM엔터테인먼트 사옥에서 업무협약식을 갖고 이런 내용에 합의했다. 업무협약식에는 정수헌 LG유플러스 컨슈머부문장(부사장), 정혜윤 마케팅그룹장, 한영섭 AI테크랩장, 김희진 통합브랜드마케팅팀장, 탁영준 SM엔터테인먼트 공동대표, 박준영 최고크리에이티브책임자(CCO), 이종호 버추얼IP비즈유닉장, 김선택 버추얼IP콘텐츠유닛장 등 양사 주요 관계자가 참석했다. 이번 업무협약으로 LG유플러스는 자체 개발 생성형 AI 익시젠을 활용해 SM엔터테인먼트의 첫 번째 버추얼 아티스트 나이비스의 콘텐츠 제작에 나선다. 익시젠이 생성한 이미지와 영상을 활용해 뮤직비디오와 쇼츠, 굿즈 등을 제작하고 이를 통해 전 세계 K팝 팬들에게 AI 경험을 제공한다는 계획이다. SM엔터테인먼트는 버추얼 아티스트에 AI 기술을 결합함으로써 새로운 문화 장르로 만들어가겠다는 포부다. 특히 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서 긍정적 효과를 기대하고 있다. 앞서 LG유플러스는 올 초부터 마케팅의 전 영역을 AI 중심으로 혁신하는 ‘익시 프로덕션’ 프로젝트를 진행하고 있다. 이번 SM엔터테인먼트 협업도 익시 프로덕션 활동의 하나로 AI를 활용한 새로운 고객 경험을 창출해 나간다는 방침이다. 정수헌 LG유플러스 부사장은 “국내 대표 기획사인 SM과의 협업은 U+고객을 넘어 글로벌 K팝 팬들에게도 새로운 디지털 경험을 제공할 뿐 아니라 마케팅, 브랜딩 측면에서 높은 시너지를 창출할 것으로 기대된다”고 전했다. 탁영준 SM엔터테인먼트 공동대표도 “LG유플러스의 생성형 AI 익시젠과 SM의 버추얼 아티스트 나이비스 간의 협업은 단순한 비즈니스 제휴를 넘어 양사 간의 창의적 시너지를 통해 미래 지향적인 콘텐츠와 기술 혁신을 실현하는 중요한 이정표가 될 것”이라고 강조했다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

미국에서 올해 11월 5일 대선을 앞둔 가운데 유럽의 젊은 여성 인플루언서들의 사진을 내걸고 공화당 대선 후보 도널드 트럼프 전 대통령을 지지하는 가짜 엑스(X·옛 트위터) 계정이 활개를 치고 있다고 미국 CNN 방송이 28일(현지시간) 보도했다. 일례로 자신을 위스콘신 출신의 32세 여성이라고 소개한 루나는 지난 3월 엑스(@Luna_2K24)에 가입한 후 트럼프 전 대통령의 선거 구호인 ‘마가(MAGA·Make America Great Again·미국을 다시 위대하게)’를 홍보하며 3만명의 팔로워를 확보했다. 그는 트럼프 전 대통령이 추가적인 암살 시도에 직면해 있다는 등의 음모론을 지속적으로 펼쳤고, LGBTQ(성소수자)와 트랜스젠더, 백신에 반대하고 인종 차별과 외국인 혐오를 조장하는 글을 다수 올렸다. 그는 흰색 비키니를 입고 해변에서 찍은 셀카를 공유하면서 “트럼프가 영원히 대통령이 되는 것을 지지하겠느냐”는 글을 올렸는데 조회수는 5만4000명에 달했다. 하지만 루나는 실제 인물이 아닌 것으로 드러났다. 사진 속 갈색 머리 여성은 미국 투표권이 없는 독일의 패션 인플루언서 데비 네더로프였다. 네더로프는 엔지니어링 회사의 소셜미디어 관리자이자 모델인 독일인으로 트럼프와 무관한 것은 물론 미국 대선 투표권이 없다. 네더로프는 CNN에 “내 얼굴이 트럼프의 지지 선전에 사용되고 있다는 사실에 화가 난다”며 “나는 미국과 아무 상관이 없다. 독일의 작은 마을에서 사는 내가 미국 정치에 신경이나 쓰겠냐”고 반문했다. CNN이 정보회복센터(CIR)과 조사한 결과 루나는 물론 네덜란드, 덴마크, 러시아 출신 패션 및 뷰티 인플루언서 17명의 유럽 여성 사진이 무단으로 도용된 엑스 계정이 트럼프의 지지를 도모하는 선전 도구로 이용되고 있다. CIR은 인권 침해를 폭로하는 독립적이고 비영리적인 사회적 기업이다. CNN은 “이들 인플루언서 사진을 도용해 만든 가짜 계정은 56개 엑스 계정 중 일부에 불과하다”고 전했다. CNN은 “해당 계정과 관련해 엑스에 연락했지만 답변을 받지 못했다”며 “해당 기사를 게시하기 24시간 전 동안 엑스는 대부분의 계정을 삭제했다”고 지적했다. 이어 “일론 머스크가 엑스를 인수한 이후 엑스에서 허위 사실과 음모론 유포를 방지하던 팀은 해체됐다”며 “CNN이 인터뷰한 유럽의 인플루언서는 자신의 사진이 동의 없이 사용되거나 신원이 도용됐다고 신고해도 소셜미디어(SNS) 플랫폼 운영사는 조치를 하지 않아 어려움을 겪고 있다”고 전했다. 그러면서 “온라인에서 여성의 신체적 자율권에 대한 위협이 커지고 있음을 보여준다”고 일갈했다. 선거 앞 가짜 콘텐츠에 대한 우려는 인공지능 기술이 확산하면서 지속돼 왔다. 잘못된 정보를 유포하고 가짜 동영상과 이미지를 통해 상대 후보에게 피해를 주려는 행위는 미국뿐 아니라 전세계 선거에서 나타나는 현상이기도 하다. 에밀리 혼 전 백악관 국가안보회의(NSC) 대변인은 올해 미국 대선을 앞두고 SNS를 이용해 허위 정보 캠페인을 시도한 여러 국가의 조직들이 있었다면서, 가짜 계정의 배후와 관련해서도 “이것은 국가 행위자일 수 있다. 정교함의 수준을 보면 러시아, 이란, 중국을 포함한 적대국 행위자 중 하나일 수 있다”고 말했다. 트럼프 “스위프트 지지, 수락한다” 논란 자초 트럼프 전 대통령은 지난 18일 세계적 팝스타 테일러 스위프트와 팬덤 ‘스위프티스’(Swifties)의 지지를 받았다는 가짜 사진을 소셜미디어에 게시하고 “수락한다”고 적어 논란을 자초했다. 트럼프 전 대통령은 자신의 소셜미디어 ‘트루스 소셜’에 스위프트와 팬들이 자신을 지지한다고 적힌 티셔츠를 입은 가짜 이미지를 여러 장 올렸다. 미국을 상징하는 ‘엉클샘’의 복장을 한 스위프트와 ‘테일러는 당신이 도널드 트럼프에게 투표하기를 원한다’고 적힌 사진, ‘트럼프를 지지하는 스위프티스’라고 적힌 티셔츠를 입은 여성들이 모여있는 듯한 사진, 지난 7일 스위프트의 오스트리아 빈 콘서트가 이슬람국가(ISIS)의 테러 가능성으로 취소된 뒤 팬들이 트럼프 쪽으로 돌아섰다는 가짜 뉴스 화면이 갈무리 된 사진 등이었다. 그는 이어 “수락한다(I accept!)”라고 적었다. 스위프트는 아직 트럼프 전 대통령과 카멀라 해리스 부통령 중 지지하는 후보를 공개적으로 밝힌 적은 없으나, 2020년 앞선 대선 때 민주당을 지지하며 트럼프 전 대통령을 향해 “당신을 몰아낼 것”이라고 공개 저격한 바 있다. 트럼프 전 대통령의 이런 의도적 ‘가짜 사진’ 유포는 처음이 아니다. 그는 엑스에 인민복처럼 보이는 옷을 입은 군중들 앞에서 해리스 부통령 뒷모습처럼 보이는 여성이 연설하는 이미지를 올렸고, 지원군인 일론 머스크 테슬라 최고경영자(CEO)와 자신이 춤추는 영상을 공개했다. 둘 다 조작된 것들이었다. 영국 가디언은 “트럼프 전 대통령이 최근 며칠 동안 패러디와 노골적인 선거 허위 정보 사이의 경계를 넘나들며” 퍼뜨린 딥 페이크라고 우려를 표했다. 그러면서 “대선을 앞두고 불투명한 정보 생태계를 더 혼탁하게 만들 위험이 있다. 일상적으로 허위 사실과 음모론을 조장하고 있는 것”이라고 지적했다.

‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제 착수 최근 ‘초거대언어모델’(LLM)이 가진 문제를 해결할 수 있는 RAG(Retrieval-Augmented Generation, 검색증강생성) 기술의 중요성이 날로 커져가고 있다. 이러한 가운데, 텍스트 이외에도 음성, 이미지, 동영상 등 다양한 데이터를 결합하여 추론이 가능한 ‘멀티모달 RAG 기술’이 AI와 인간이 구사하는 인지 사고의 편차를 현저히 줄일 것으로 각광받는다. 이러한 기술 추세에 발맞추어, 인공지능(AI) 전문기업 와이즈넛(대표 강용성)은 과학기술정보통신부가 주관하는 정보통신방송기술개발사업 중 정보통신기획평가원이 추진하는 ‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제의 주관사로서 1차 연도 연구에 착수했다고 29일 밝혔다. 2027년까지 4년에 걸쳐 진행되는 본 연구는 실제 업무 환경에서 융합되어 활용되는 멀티모달 데이터를 기반으로 초거대언어모델(LLM)의 구조적, 성능적 한계로 제기되는 ▲최신화된 정보 유지의 어려움 ▲할루시네이션 ▲도메인 정보 부족▲대규모 컴퓨팅자원소요 등의 한계를 극복하는 멀티모달 RAG 기술 개발을 목표로 한다. 멀티모달(Multi modal)은 인간이 사물의 양상을 다양한 감각기관으로 받아들이는 것처럼 텍스트, 이미지, 음성, 비디오 등 다양한 형태의 데이터 채널(Modality)을 동시에 처리하는 것을 뜻한다. 이는 텍스트와 함께 소리 데이터를 융합하고 이를 분석해 소리의 크기나 성격을 더 정확하게 이해하거나, 동영상에서 얼굴 이미지를 인식하고 음성 대화를 텍스트로 변환해 자동 자막을 생성하는 등 폭넓게 활용될 수 있는 만큼 새로운 대안으로 주목받는 기술이다. 와이즈넛은 이번 과제에서 멀티모달 데이터 수집 및 처리, 검색, 통합관리 기술 개발에 주력한다. 자체 보유하고 있는 LLM 기술 기반 검색증강생성(RAG) 기술을 적용해, 멀티모달 질의 이해 및 답변 생성 기술부터 LLM의 성능을 높이기 위한 언어모델 최신화 기술, 효율적인 데이터 학습 및 관리를 위한 RAG 데이터 파이프라인 기술, 도메인 실증까지 전반의 기술 개발을 총괄 수행한다. 본 과제는 연구개발에 이어 의료(전남대학교병원), 법률(앤쌤), 제조(JB주식회사), 미디어 광고(SBSi) 등 다양한 도메인에서의 실증을 통해, 각종 비즈니스 환경과 사용자 요구에 맞춘 현실 데이터로 검증하는 단계를 거칠 계획이다. 특히 그간 전통적인 제조 분야의 산업현장, 반도체 공정 등에서 멀티모달 RAG기술에 대한 필요성이 꾸준히 제기되어 왔던 만큼, 본 기술을 반영하여 수요가 있는 다양한 분야에서 더욱 복잡하고 효율적인 작업을 수행할 수 있게 실증사업을 진행할 예정이며, 향후 더 많은 고객군을 대상으로 사업을 확대해 나갈 것으로 기대를 모으고 있다. 또한, 다양한 멀티모달 데이터 통합처리를 통해 LLM의 데이터 이해 및 분석 역량을 향상하고 맞춤형 응답과 문제 해결능력을 함양할 수 있어, AI 서비스를 활용하는 고객의 사용자 경험 및 만족도를 대폭 향상시킬 전망이다. 강용성 와이즈넛 대표는 “향후 인공지능이 ‘인간처럼’ 사고하고 상호작용하기 위해서는 멀티모달 RAG기술은 필수적”이라며, “와이즈넛은 이번 연구에서 멀티모달 RAG기술을 통해 AI 기술 수준을 한 단계 업그레이드하고, 혁신적인 비즈니스 모델을 선제적으로 창출하는 기술적 토대를 마련할 것”이라고 말했다.

롯데마트는 다방면으로 AI를 활용 중이다. ‘AI 선별 시스템’ 활용해 신선식품 품질 관리 프로세스를 고도화했고, 롯데그룹의 자체 AI 플랫폼 ‘아이멤버’(Aimemver)를 도입해 업무 검색의 효율성을 높였다. 이번에는 롯데마트를 방문객에게 다채로운 쇼핑 경험을 주고자 AI를 마케팅에 접목한 다양한 콘텐츠를 선보였다. 롯데마트는 생성형 AI 음원 제작 플랫폼 이용해 만든 음원을 지난 8일부터 매장 배경음악(BGM)으로 송출 중이라고 29일 밝혔다. 이번에 공개한 음원은 ▲롯데마트, 즐거운 시간 ▲요리하다, 지친 너를 위해 ▲마블나인, 파티 투나잇(Marble Nine, Party Tonight) 총 3가지로, 작곡, 작사, 가창 등 음원을 구성하는 모든 영역을 생성형 AI를 활용해 만들었다. 해당 음원들은 K팝 장르의 경쾌한 댄스곡으로, 롯데마트의 대표 자체브랜드(PB)인 ‘오늘좋은’과 ‘요리하다’, ‘마블나인’을 주제로 생성된 트렌디한 가사가 인상적이다. 특히, 기획부터 제작까지 소요된 기간은 이틀에 불과하며, 작곡가와 가수를 섭외해 제작하는 기존 방식보다 비용과 시간을 90%가량 절감했다. 이번 AI 음원은 ‘ZRT(gen Z Round Table) 2기’가 롯데마트의 대표 브랜드를 소비자에게 쉽고 재밌게 전달하기 위해 제작한 콘텐츠다. ‘ZRT’는 롯데마트가 Z세대의 소비 인사이트를 얻고자 대형마트 업계 처음으로 선보인 대학생 싱크탱크 프로그램으로, ZRT 2기는 ‘AI 마케팅’을 주제로 음원과 영상, 이미지 등 생성형 AI를 활용한 콘텐츠 개발에 힘쓰고 있다. 향후에는 추석과 설날, 크리스마스 등 주요 시즌을 테마로 생성한 AI 배경음악을 선보일 예정이며, 월별 대표 과일을 주제로 만든 ‘월간 AI 과일송’을 제작해 매장 내 시즌감을 더한다는 계획이다. 또한 이번 추석 선물세트 사전예약 기간에 맞춰 ‘선물세트 카달로그’를 생성형 AI를 활용해 영상 콘텐츠로 제작, 전 점에서 송출 중이다.

3년간 딥페이크 성범죄 실형 4건뿐미성년자 성관계 500여건 올려도법원 “대부분 가짜인지 알 수 있어”연예인 합성물 5800개 업로드해도영리 목적의 범행 아니라며 ‘감경’“다른 성범죄 수준 양형 강화해야”정치권도 뒤늦게 법안 7개 쏟아내서울시·방심위 ‘삭제 핫라인’ 구축올 학생·교사 피해 179건 수사 의뢰교육부, TF 구성해 10월 중 대응책 딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량이 선고돼 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 오는 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 오세훈 서울시장은 이날 류희림 방송통신심의위원장과 업무협약을 맺고 딥페이크 음란물 영상 신고가 들어올 경우 24시간 이내에 삭제하는 ‘핫라인’을 가동하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 승인을 기다리다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 나온다.

최근 사망한 프랑스 유명 배우 알랭 들롱이 자신의 재산 일부를 나누겠다며 온라인 카지노 가입을 독려하는 영상이 확산되고 있는 가운데, 이는 AI(인공지능)를 이용한 피싱으로 드러났다. 28일(이하 현지시간) 온라인 사기를 추적하는 한 엑스(X·옛 트위터) 계정에 따르면 최근 페이스북에 들롱이 온라인 카지노 사이트를 홍보하는 동영상이 유포되고 있다. 영상 속엔 양복 차림의 들롱이 등장하고 목소리 역시 들롱인 것 같지만 이는 AI가 꾸며낸 가짜다. 이 영상에서 AI로 만들어진 들롱은 “여러분이 이 비디오를 보고 있을 때면 나는 이미 죽었을 것”이라며 “내 온라인 카지노에서 여러분이 따지 못하면 10만 유로(약 1억 4000만원)를 주겠다”고 제안한다. 이어 “내 돈의 일부를 모든 프랑스인에게 나눠주기로 결정했고 그게 옳은 일이라고 생각한다”며 “누구나 첫날부터 4천 유로(약 590만원)를 받을 수 있다”고 말한다. 들롱은 자기 딸이 이미 온라인 카지노 애플리케이션(앱)을 출시했다며, 계정에 돈을 충전하고 게임을 시작하라고 권유하기도 한다. 이 영상에 첨부된 링크를 클릭하면 구글플레이 스토어를 모방한 가짜 사이트로 연결되고 이어 ‘카지노 들롱’이라는 역시 가짜 애플리케이션이 등장한다. 일간 르피가로는 사용자가 이 애플리케이션을 다운로드하면 사용자의 개인 정보와 은행 정보 등이 유출돼 금전 피해를 볼 수 있다고 경고했다. “유명인 AI 사기 증가…SNS 플랫폼 방치”AI 사기 전문가인 빅토르 바이사트는 일간 르파리지앵에 “유명인 이미지를 사기에 활용하는 사례가 점점 더 많아지고 있다”고 우려했다. 지난 3월엔 프랑스 축구 스타 킬리안 음바페도 카지노 홍보 가짜 영상에 등장한 바 있다. 바이사트는 “사기꾼들은 이런 광고를 유포하기 위해 메타에 돈을 내고 있으며 계속해서 광고를 올린다는 건 이런 식의 사기가 효과가 있다는 방증”이라며 SNS 플랫폼이 사실상 이를 방치하고 있다고 지적했다. 한편 ‘가장 아름다운 남자’로 전 세계의 추앙을 받으며 프랑스 영화 황금기를 이끈 들롱은 지난 18일 자택에서 89세를 일기로 숨을 거뒀다. ‘태양은 가득히’(1960), ‘태양은 외로워’(1962), ‘파리는 불타고 있는가’(1966), ‘볼사리노’(1970), ‘조로’(1975) 등 50여년간 90여편의 영화에 출연하며 숱한 명작을 남겼다. 1990년대 이후로는 스크린에서 거의 볼 수 없었으며, 2019년 뇌졸중으로 쓰러져 수술받은 후에는 요양 생활을 해왔다.

딥페이크 범죄 우려가 고조되고 있는 가운데 테슬라 최고경영자이자 인공지능 스타트업 xAI의 주인 일론 머스크가 미국 캘리포니아주의 인공지능(AI) 기술 규제 법안을 지지한다고 밝혔다. 대부분의 AI 업체들이 해당 법안을 반대하고 있는 것과는 다른 행보다. 지난 26일(현지시간) 머스크는 X에 “나는 20여년간 AI 규제를 옹호해왔다”며 “공공에 잠재적인 위험이 있는 모든 제품과 기술을 규제하는 것과 마찬가지”라고 썼다. 캘리포니아주의 AI안전법안(SB 1047)은 개발 비용인 1억달러(약 1300억원)가 넘는 거대 언어모델에 대해 안전 테스트를 의무화하는 내용을 골자로 한다. 아울러 AI시스템이 많은 사람을 사망에 이르게하거나 5억 달러 이상의 피해를 일으키는 심각한 문제를 발생하면 AI개발 회사가 책임을 지게 했다. 지난 5월 주상원을 통과한 이 법안은 이번 달 내에 주하원 표결이 이뤄질 예정이다. 알고리즘 투명성 보장해 AI를 좀 더 안전하고 책임감 있게 만든다는 취지지만 모델의 역량을 잘못 표현하면 개발자가 위증죄로 갇힐 수 있어 페이스북과 인스타그램의 모회사인 메타를 비롯해 AI 업계에서는 대체로 이 법안에 반대 의견을 표명해 왔다. 법이 통과되면 xAI도 규제 대상에 오른다. 최근 이 회사가 출시한 새 AI 챗봇이 해로운 이미지를 생성하면서 논란이 된 바 있다.

딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 허위영상물을 제작·반포하는 행위만으로도 처벌하는 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량을 선고해 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 경찰청 국가수사본부가 내년 3월까지 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시하는 가운데 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 사전 승인을 받기 위해 대기하다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 있다.

최근 대학가에 이어 10대 학생들 사이에서도 딥페이크(AI 기반 합성 이미지) 불법 합성물 범죄가 확산하는 가운데 이를 우려하는 여성들을 조롱하는 글들이 다수 올라와 공분을 일으키고 있다. 27일 엑스(X·옛 트위터) 등 소셜미디어(SNS)에는 “딥페이크가 별거 아니라는 중2 학생들”이라는 글과 함께 온라인 커뮤니티에 중학생 이용자들이 올린 댓글을 캡처한 사진이 올라왔다. 해당 사진에는 “딥페이크하는 사람들도 예쁜 사람만 고른다”, “성폭행 안 할거니까 걱정하지 마시라고”, “딥페이크 하나 가지고 난리부르스 떠냐” 등 조롱 글이 담겨 있다. 또 다른 중학생은 “오늘부터 셀카 올리는 여자들의 사진을 긁어모아 딥페이크를 하겠다. 딥페이크 제작자도 거를 ○○○들이 허언증인지 자의식 과잉인지 너무 설친다”며 충격적인 발언도 서슴지 않았다. 중학생들뿐만이 아니다. 지난 26일 대학생 커뮤니티 에브리타임에도 “딥페이크 사건 호들갑 지겹다”는 글이 올라오기도 했다. 해당 글에는 “딥페이크 만든 놈들 역겹고 더러운 거 맞지만 여자들 호들갑에 공감하긴 싫다. 사회적으로 여자들은 남자들에게 공감한 적이 단 한번도 없기 때문”이라는 내용이 담겼다. 범죄의 표적이 될까 불안에 떠는 여학생들을 향해 “일단 불안에 떨고 있는 ○○대 여성분들, 80%는 안심하고 발 뻗고 자도 돼. 너 그 정도 급 아니야”, “딥페이크 범죄의 표적은 페미니스트가 아닌 예쁜 여성들만 해당한다. 얼굴 못생긴 사람들은 안심해도 된다”는 조롱글도 넘쳐났다. 앞서 전날 엑스의 한 공개 계정에는 텔레그램 대화방을 통해 딥페이크 음란물이 유포되고 있다며, 피해 사례가 알려진 대학들의 명단이 올라왔다. 이 계정이 지목한 텔레그램 대화방 참여자들은 친구, 교사 등 지인을 넘어 친족 사진까지 음란물 제작용으로 공유하고 있는 것으로 알려졌다. 해당 게시글이 온라인상에 퍼지면서 네티즌들 사이에선 ‘혹시 나도 딥페이크 합성의 대상이 된 게 아니냐’는 불안감이 확산했다. 피해 방지를 위해 일부 여성들은 SNS에 올린 자신의 사진을 삭제하기도 했다. 증가하는 딥페이크 범죄…방심위 대책 마련 착수국회 행정안전위원회 소속 조은희 국민의힘 의원실이 지난 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 누구나 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 10대들도 자주 접하면서 딥페이크 음란물이 범죄라는 인식이 옅어졌다는 지적도 나온다. 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐다. 방송통신심의위원회는 27일 실·국장 회의를 소집, 딥페이크 음란물 확산 사태 관련 대책 마련에 착수했다. 28일에는 전체 회의를 열어 의논한 내용을 확정할 방침이다. 방심위는 먼저 공식 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하기로 했으며, 관련 모니터링 요원을 배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 또 텔레그램과 즉각 협의할 수 있는 핫라인을 개설, 신속한 피해 확산 차단에 나설 계획이다.

“에어컨 26도로 맞춰 주고 오후 5시까지 세탁 끝내 줘.” 삼성전자의 인공지능(AI) 음성 비서 ‘빅스비’가 맥락을 이해할 수 있을 정도로 기능이 향상되면서 사람에게 말하듯 가전과 대화할 수 있는 시대가 열렸다. 삼성전자는 26일 비스포크 AI 가전에 업그레이드된 빅스비가 적용돼 음성 명령으로 가전을 보다 손쉽게 제어할 수 있게 됐다고 밝혔다. 자연어(일상언어)를 이해하는 AI 비서와 가전의 결합으로 가전이 보다 똑똑해진 셈이다. 서로 다른 명령을 한 번에 말해도 가전제품이 각 명령을 알아듣고, 앞의 대화를 기억해 다음 명령까지 연결해 수행할 수 있게 된 게 이번 업데이트의 가장 큰 특징이다. 예를 들어 “이번 달 세탁기가 절약한 에너지 양 알려 줘”라고 말한 뒤 “아, 사용 요금은?”이라고 말해도 두 가지 내용을 모두 알아듣고 답변해 준다. 기기 관련 궁금증도 이제는 종이로 된 매뉴얼을 찾아보거나 서비스센터에 연락할 필요 없이 “세탁기 통 세척을 어떻게 하지?”, “에어컨 필터를 어떻게 갈지?” 등 사용자가 질문을 하면 의도를 파악하고 사용 방법을 음성으로 알려 준다. 골프 의류, 아기 옷 등 특별한 관리가 필요한데 어떻게 세탁해야 할지 모르는 경우에도 음성으로 질문을 하면 적절한 세탁코스를 추천해 준다. 빅스비 업데이트가 적용되는 제품은 올해 출시된 ‘비스포크 AI 패밀리허브 냉장고’, ‘비스포크 AI 콤보’, ‘비스포크 AI 스팀’, ‘비스포크 AI 무풍 갤러리 에어컨’이다. 비스포크 AI 패밀리허브 냉장고 사용자는 생성형 배경 화면 기능을 통해 ‘나만의 배경 화면’을 만들 수도 있다. 자연, 꽃, 이벤트, 음식 등 7가지 주제와 수채화, 유화, 일러스트 등 6가지 아트 스타일 중 원하는 항목을 선택하면 맞춤형 이미지를 생성해 준다. 유미영 삼성전자 DA(생활가전)사업부 부사장은 “더 많은 소비자들이 ‘AI 가전=삼성’이라는 인식에 공감할 수 있게 서비스를 확대하겠다”고 말했다.

지구 생태계는 인간 때문에 몸살을 앓고 있습니다. 서식지를 파괴하고 도로를 내어 생활권을 조각내고, 환경을 오염시키거나 혹은 바꿔서 살기 힘들게 만들고 있습니다. 여기에 우연히 혹은 의도적으로 외부에서 들어온 침입종까지 토종 생태계를 파괴하는 골칫거리로 등장했습니다. 이런 외래 침입종 중 하나가 바로 붉은불개미(RIFA, Red Imported Fire Ant, 학명 Solenopsis invicta)입니다. 붉은불개미는 본래 남미에서 살던 개미로 우연히 1930년대부터 미국과 유럽, 아시아 지역으로 퍼지면서 골칫거리가 되고 있습니다. 붉은불개미는 이름처럼 매우 공격적인 개미로 자신과 크기가 비슷한 곤충은 물론이고 자신보다 훨씬 큰 양서류나 파충류, 새까지 강한 독으로 공격해 사냥합니다. 따라서 토종 곤충과 절지동물은 물론이고 소형 동물까지 초토화되는 심각한 문제를 일으킵니다. 사실 붉은불개미의 가장 큰 문제는 생태계에만 위험한 게 아니라 사람에게도 위험하다는 것입니다. 붉은불개미 독에 쏘이면 심한 통증과 가려움증을 유발할 뿐 아니라 심한 경우 사망할 수도 있습니다. 붉은불개미는 세계자연보호연맹(IUCN)이 지정한 세계 100대 악성 침입 외래종으로 아직 침입하지 않은 국가에서는 철저한 방역을 통해 침입을 막으려고 노력하고 있습니다. 다행히 아직 붉은불개미가 침입하지 않은 우리나라 역시 2018년 부산항에서 처음 보고된 후 몇 차례 침입 시도가 있어 이를 막기 위해 안간힘을 썼던 일이 있습니다. 하지만 이미 침입한 후 자리를 잡은 붉은불개미는 박멸이 매우 어려운 것으로 알려져 있습니다. 토종 개미와 쉽게 구분되지도 않고 여기저기 개미굴을 지어 번식하기 때문에 일일이 찾아서 제거하기 힘듭니다. 그냥 두면 생태계와 사람에 모두 위험하기 때문에 현재도 사람이 직접 개미굴을 찾고 살충제로 제거하는 작업이 진행되고 있습니다. 브라질과 중국의 과학자들은 이 작업을 더 안전하고 효과적으로 수행하기 위해 로봇 개와 인공지능 이미지 인식 기술을 사용했습니다. 브라질 고이아스 주립대학과 중국 내 여러 기관의 연구팀은 샤오미가 상용화한 로봇 개인 사이버독에 이미지 인식 인공지능을 탑재했습니다. 붉은불개미 개미굴의 이미지 1100장을 학습한 사이버독은 실제 환경에서 테스트했을 때 90%의 정확도로 붉은불개미의 개미굴을 발견했습니다. 붉은불개미의 것으로 의심되는 개미굴을 발견하면 사이버독은 한쪽 발을 올려 개미굴을 막는데, 이때 붉은불개미는 매우 공격적인 행동을 보이며 독을 사용하기 때문에 더 쉽게 구분할 수 있습니다. 연구팀은 AI 로봇 개가 붉은불개미를 찾는 데 큰 도움이 될 것으로 기대하고 있습니다. 붉은불개미가 살고 있는 서식지는 대개 평탄하지 않은 산림지역인 경우가 많은데, 이런 곳에는 평지가 아닌 지형도 이동할 수 있는 사족보행 로봇 개가 적합합니다. 사람이 산길을 오르며 잘 보이지도 않는 작은 개미굴을 찾는 것보다 로봇 개가 먼저 개미굴을 찾아낸 후 사람이 직접 확인하고 제거하는 방법이 시간과 노력을 크게 절약할 수 있습니다. 한 가지 단점은 사이버독의 배터리 지속 시간이 실제 환경에서 30분 정도로 짧다는 것입니다. 이 단점을 극복하기 위해서는 몸집을 키우더라도 배터리 지속 시간이 긴 새로운 로봇 개가 필요할 것으로 보입니다. 참고로 진짜 개를 투입하면 배터리 지속 시간 고민도 없고 후각까지 뛰어나 더 도움이 되지 않겠냐고 반문할 수 있지만, 붉은불개미의 독은 개에게도 위험할 수 있어 장기간 임무에 투입하기는 어렵습니다. 이런 일에는 아무리 독에 쏘여도 끄떡없는 로봇 개가 제격입니다. 개를 투입하기에는 위험하고 사람이 직접 하기에는 너무 많은 시간과 노력이 필요한 일에 로봇 개와 인공지능 기술이 해결책이 될 수 있을지 후속 연구가 주목됩니다.

지구 생태계는 인간 때문에 몸살을 앓고 있습니다. 서식지를 파괴하고 도로를 내어 생활권을 조각내고, 환경을 오염시키거나 혹은 바꿔서 살기 힘들게 만들고 있습니다. 여기에 우연히 혹은 의도적으로 외부에서 들어온 침입종까지 토종 생태계를 파괴하는 골칫거리로 등장했습니다. 이런 외래 침입종 중 하나가 바로 붉은불개미(RIFA, Red Imported Fire Ant, 학명 Solenopsis invicta)입니다. 붉은불개미는 본래 남미에서 살던 개미로 우연히 1930년대부터 미국과 유럽, 아시아 지역으로 퍼지면서 골칫거리가 되고 있습니다. 붉은불개미는 이름처럼 매우 공격적인 개미로 자신과 크기가 비슷한 곤충은 물론이고 자신보다 훨씬 큰 양서류나 파충류, 새까지 강한 독으로 공격해 사냥합니다. 따라서 토종 곤충과 절지동물은 물론이고 소형 동물까지 초토화되는 심각한 문제를 일으킵니다. 사실 붉은불개미의 가장 큰 문제는 생태계에만 위험한 게 아니라 사람에게도 위험하다는 것입니다. 붉은불개미 독에 쏘이면 심한 통증과 가려움증을 유발할 뿐 아니라 심한 경우 사망할 수도 있습니다. 붉은불개미는 세계자연보호연맹(IUCN)이 지정한 세계 100대 악성 침입 외래종으로 아직 침입하지 않은 국가에서는 철저한 방역을 통해 침입을 막으려고 노력하고 있습니다. 다행히 아직 붉은불개미가 침입하지 않은 우리나라 역시 2018년 부산항에서 처음 보고된 후 몇 차례 침입 시도가 있어 이를 막기 위해 안간힘을 썼던 일이 있습니다. 하지만 이미 침입한 후 자리를 잡은 붉은불개미는 박멸이 매우 어려운 것으로 알려져 있습니다. 토종 개미와 쉽게 구분되지도 않고 여기저기 개미굴을 지어 번식하기 때문에 일일이 찾아서 제거하기 힘듭니다. 그냥 두면 생태계와 사람에 모두 위험하기 때문에 현재도 사람이 직접 개미굴을 찾고 살충제로 제거하는 작업이 진행되고 있습니다. 브라질과 중국의 과학자들은 이 작업을 더 안전하고 효과적으로 수행하기 위해 로봇 개와 인공지능 이미지 인식 기술을 사용했습니다. 브라질 고이아스 주립대학과 중국 내 여러 기관의 연구팀은 샤오미가 상용화한 로봇 개인 사이버독에 이미지 인식 인공지능을 탑재했습니다. 붉은불개미 개미굴의 이미지 1100장을 학습한 사이버독은 실제 환경에서 테스트했을 때 90%의 정확도로 붉은불개미의 개미굴을 발견했습니다. 붉은불개미의 것으로 의심되는 개미굴을 발견하면 사이버독은 한쪽 발을 올려 개미굴을 막는데, 이때 붉은불개미는 매우 공격적인 행동을 보이며 독을 사용하기 때문에 더 쉽게 구분할 수 있습니다. 연구팀은 AI 로봇 개가 붉은불개미를 찾는 데 큰 도움이 될 것으로 기대하고 있습니다. 붉은불개미가 살고 있는 서식지는 대개 평탄하지 않은 산림지역인 경우가 많은데, 이런 곳에는 평지가 아닌 지형도 이동할 수 있는 사족보행 로봇 개가 적합합니다. 사람이 산길을 오르며 잘 보이지도 않는 작은 개미굴을 찾는 것보다 로봇 개가 먼저 개미굴을 찾아낸 후 사람이 직접 확인하고 제거하는 방법이 시간과 노력을 크게 절약할 수 있습니다. 한 가지 단점은 사이버독의 배터리 지속 시간이 실제 환경에서 30분 정도로 짧다는 것입니다. 이 단점을 극복하기 위해서는 몸집을 키우더라도 배터리 지속 시간이 긴 새로운 로봇 개가 필요할 것으로 보입니다. 참고로 진짜 개를 투입하면 배터리 지속 시간 고민도 없고 후각까지 뛰어나 더 도움이 되지 않겠냐고 반문할 수 있지만, 붉은불개미의 독은 개에게도 위험할 수 있어 장기간 임무에 투입하기는 어렵습니다. 이런 일에는 아무리 독에 쏘여도 끄떡없는 로봇 개가 제격입니다. 개를 투입하기에는 위험하고 사람이 직접 하기에는 너무 많은 시간과 노력이 필요한 일에 로봇 개와 인공지능 기술이 해결책이 될 수 있을지 후속 연구가 주목됩니다.

최근 ‘딥페이크’ 합성 사진 및 영상이 단체 대화방에서 공유되며 피해가 확산하는 가운데 여군을 상대로 한 딥페이크 대화방이 공개돼 파장이 커지고 있다. 문제의 대화방 참가자는 900명이 넘는 것으로 알려졌다. 이들은 딥페이크로 합성한 여군들을 ‘군수품’이라고 칭하며 능욕했다. 해당 대화방 공지 사항이라며 공유되는 캡처 이미지에 따르면 해당 대화방에 참가하기 위해서는 군수품으로 만들고 싶은 여군의 군복 사진뿐 아니라 전화번호와 소속, 계급과 나이 등 개인정보를 운영자에게 제출하거나 현역 군인임을 인증해야 한다. 혹은 인공지능(AI)을 활용해 합성을 할 수 있는 합성장인, 관리자가 지정한 여군에게 ‘능욕 메시지’를 보내고 반응을 인증 사진을 보내야 가입이 허용됐다. 최근 인하대의 한 동아리 여학생들이 1200명이 참여한 텔레그램 대화방에서 불법 합성물 성범죄 피해를 본 사실이 알려져 논란이 커지자 이들은 “당분간 합성장인 혹은 관리자가 지정한 능욕 메시지 보내기 미션을 수행한 사람 외에는 받지 않겠다”고 추가 공지를 내걸었다. 또한 여군에 대한 비하 발언도 포함돼 있어 충격을 더했다. 해당 게시물에는 “여군들을 용서할 수 없다”며 “벗겨서 망가뜨릴 것”이라는 설명이 따랐다. 이는 지난 5월 강원 인제 육군 제12보병사단 신병교육대에서 발생한 훈련병 사망사건이 여군 중대장의 가혹한 지시로 발생한 것에 대한 반발심을 담은 표현이다. 작성자는 “같이 근무했던 주대장, 소대장, 부소대장의 알몸이 궁금하지 않느냐”면서 딥페이크 합성으로 나체를 공개하겠다는 의지를 드러냈다. 딥페이크 기술이 발전하면서 이를 이용한 범죄도 빠르게 확산하고 있다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 특히 10대 시절부터 SNS와 앱 등을 통해 딥페이크 기술을 쉽게 익힐 수 있고 제작 의뢰도 어렵지 않아 이를 자주 접하게 되면서 딥페이크 음란물이 범죄라는 인식이 옅어질 수 있다는 우려가 나온다. 대학은 물론 중·고교까지 피해가 확산하면서 “내 사진도 ‘음란물’이 돼 온라인을 떠돌 수 있다”는 공포에 불안감이 확산하고 있다. 방송통신심의위원회(방심위)도 텔레그램 단체 대화방을 중심으로 확산한 딥페이크 성적 허위영상물 관련 대응에 나섰다. 방심위는 중점 모니터링에 착수해 악성 유포자 정보가 확인되는 대로 수사 의뢰하기로 했다. 매일 열리는 전자심의를 통해 성적 허위영상물을 24시간 이내에 시정 요구하겠다고도 했다.

서울시는 국내 최초로 전 과정에 생성형 인공지능(AI)을 활용한 ‘2024 서울 AI스토리공모전 <테크놀서울>’을 개최해, 지난달 16일부터 지난 15일 한 달간 스토리 3044건 생성, 응모 1025건을 기록하며 성공적으로 마쳤다고 23일 밝혔다. AI스토리공모전은 AI를 처음 사용하더라도 클릭 몇 번만으로 나만의 스토리를 생성할 수 있도록 하여, 많은 시민들이 생성형 AI를 접할 수 있는 기회를 제공했다. 공모전 플랫폼 ‘루이스’는 프롬프트 엔지니어링 자동화 기술과 AI 모델들을 결합한 AI 스토리 창작 플랫폼으로, 이 플랫폼에서 제공하는 키토크 프롬프트(명령어)를 활용하면 다양한 스토리를 생성할 수 있다. 이번 공모전에 참여자들이 가장 많이 사용한 테마 키토크 프롬프트는 ‘스마트 도시에서’ ‘돌봄 로봇이 함께하는’ ‘디지털 세상인’ 순으로, 혁신 기술 선도 도시로서의 서울 이미지를 확산하고자 했던 공모전의 기획 의도가 담긴 결과이다. 시는 이런 프롬프트를 기반으로 ▲1인가구 어르신인 주인공의 유일한 동반자이자, 집안일을 돕는 ‘돌봄로봇’의 이야기 ▲도심항공모빌리티(UAM)을 타고 재난 현장에 신속하게 출동한 의사 이야기 ▲청각장애인 주인공이 ‘수어통역 로봇’의 특별한 우정을 그린 이야기 등 첨단 기술의 적용도 약자가 먼저라는 서울의 시정 가치를 드러내는 다채로운 이야기가 쏟아졌다. 이밖에 ‘슈퍼히어로’, ‘타임루프’, ‘두뇌 싸움이 펼쳐지는’ 등 독특한 프롬프트를 사용해 생성된 ▲한강의 초능력 상어 ▲로봇요리대회 ▲어르신들의 인기만점 기억여행사 ▲舊서울의 방구석 백수가 뉴서울의 택배 기사가 되다 등 기발한 주제의 스토리들도 눈길을 끌었다. 특히 이번 공모전은 심사 과정 전반에도 AI를 도입한다. 생성형 AI 활용 심사는 스토리의 서울시 정책 반영도, 독창성, 창의성, 몰입도, 완성도 등을 심사기준으로 설정하여 객관적인 심사가 가능하다. 심사를 통해 본상 3작품(정책동행상, 참신매력상, 테크놀서울상)을 선정하고, 가장 많은 공감수를 얻은 4개 작품을 인기상으로 선정, 오는 30일 ‘내 손안에 서울’ 공모전 페이지에서 발표할 예정이다. 본상 수상자에게는 서울시장 상장과 상금이 부여되며, 수상작 등 스토리를 숏폼 영상으로 제작해 서울시 소셜미디어 채널과 ‘서울 스마트 라이프 위크’ 전시장 등 홍보 매체를 통해 배포할 계획이다. 왕희순 서울시 콘텐츠담당관은 “이번 AI스토리공모전 ‘테크놀 서울’을 통해 생성형AI 활용 경험과 약자와 동행하는 ‘첨단기술 선도 도시 서울’을 그려보는 기회를 제공했다”며 “참신한 스토리들을 활용해 올해 처음 개최되는 ‘서울 스마트 라이프 위크’와 서울의 스마트 도시 정책 알리기에 최선을 다하겠다”고 말했다.

이미지 정보로 AI와 대화 가능한국어·손글씨 인식 능력 강화검정고시 문제 이미지 처리 결과 정답률 오픈AI GPT 4o보다 높아음성 기술·감정 표현 기능도 향상 네이버가 자사의 대화형 인공지능(AI) 에이전트인 ‘클로바X’에 시각정보 처리 능력을 새롭게 추가한다. 문자로 대화를 나누던 것에서 나아가 사진이나 표 등 이미지를 입력해 이를 기반으로 AI와 소통할 수 있도록 한 것인데 앞서 오픈AI의 ‘GPT-4o’나 구글의 ‘제미나이’ 역시 유사한 기능을 탑재하며 이목이 집중됐었다. 음성 기술도 한층 향상됐지만 관련 서비스는 추후 안전성을 확보한 뒤 출시할 계획이다. 네이버는 클로바X가 오는 27일 서비스 업데이트를 통해 이미지 이해 기능이 향상됨에 따라 클로바X 대화창에 이미지를 업로드하면 이미지에서 추출된 정보와 입력한 질의를 바탕으로 AI와의 대화가 가능해진다고 22일 밝혔다. 자사의 거대언어모델(LLM)인 하이퍼클로바X가 문자는 물론 이미지나 음성을 동시에 처리할 수 있는 멀티모달 AI로 고도화되면서 이와 결합한 클로바X의 기능도 향상됐다. 실제 클로바X에 한 장의 야구 경기 사진을 보여 주며 ‘상황을 설명해 달라’고 하자 “사진 속 장소는 수원 KT 위즈 파크”라며 국내 경기장임을 정확하게 인식한 뒤 ‘조명이 켜진 걸 보니 야간 경기가 진행 중인 것으로 보인다’며 추론하는 모습을 보였다. 표나 그래프를 이해하고 수학 문제를 풀어내는 능력도 갖췄는데, 회사 네 곳의 시장 점유율(%)을 나타낸 원형 도표를 제시하면서 ‘어느 회사의 점유율이 가장 높냐’고 질문하자 클로바X는 “그래프에 따르면 회사 A의 시장 점유율이 50%로 가장 높다”고 말한 뒤 이어 점유율 순서대로 회사를 나열했다. 흥미로운 건 해당 이미지가 컴퓨터 등으로 만들어진 정제된 도표가 아니라 손으로 종이에 대략적으로 그린 그림이라는 점이다. 이에 대해 네이버는 자사가 세계 최고 수준의 한국어와 손글씨 인식 능력을 갖추고 있다고 밝혔다. 글로벌 빅테크와 비교했을 때 한국형 AI로서의 강점도 두드러졌다. 우리나라 초중고등학교 검정고시에 출제된 1480개의 사지선다 문제를 이미지 형태로 클로바X와 GPT-4o에 입력하자 클로바X의 정답률이 83.8%로 GPT-4o(77.8%) 대비 높게 나타났다. 네이버 관계자는 “이미지를 인식하는 능력뿐만 아니라 한국어 맞춤법 등 한국어와 문화 등을 잘 이해하고 있음을 보여 주는 대목”이라고 했다. 네이버는 이번에 기존의 음성 인식, 음성 합성 기술보다 한층 발전한 모델을 선보이기도 했다. 언어 구조와 발음 정확도가 개선됐을 뿐만 아니라 감정 표현까지 더해져 자연스러운 대화가 가능한 수준까지 도달했지만, 안전한 AI 서비스를 위해 더 면밀한 연구 및 검토가 진행된 이후 서비스에 적용할 예정이란 입장이다.

“형사들이 치킨 파는 영화 뭐였지?” 인공지능(AI) 기술이 발전하면서 TV의 기능도 단순한 콘텐츠 시청에서 스마트 기기와의 상호 소통을 통해 나의 맥락과 의도를 파악하는 데까지 뻗어나가고 있다. 22일 경기 수원시 영통구 삼성전자 수원사업장 디지털연구소(R4)에 마련된 신제품 탐구실에서는 삼성 AI TV에 탑재된 AI 스크린의 다양한 기능을 체험할 수 있었다. 삼성전자 영상디스플레이(VD) 사업부 직원이 음성으로 대화하듯 묻자 삼성 AI TV는 OTT 영상 목록 중에서 영화 ‘극한 직업’을 첫 번째로 화면에 띄웠다. “첫 번째 거 선택하고 볼륨 15로 바꿔줘.” 삼성 AI TV는 하나의 문장에 두 가지 명령이 복합된 음성 지시를 동시에 안정적으로 수행하는 모습을 보였다. 삼성전자 관계자는 “기본적으로 30초의 맥락을 유지하고 있다”며 “현재 안정적인 수행은 두 가지 명령까지 수행하고 있다”고 설명했다. 삼성 AI TV는 이후에도 “광복과 관련된 영화 찾아줘.”, “이민과 관련된 영화 찾아줘.”, “올드보이 감독이 누구였지?” 등 다양한 음성 질문에 알맞은 영화 목록을 찾아주는 모습을 보여줬다. 용석우 삼성전자 VD 사업부장 사장은 이날 ‘삼성 AI 스크린 미디어 브리핑’에서 “AI 라이프의 구심점 역할을 맡은 삼성 AI TV가 집안의 다양한 기기를 연결하는 것을 넘어 기기와 사람, 사람과 사람을 연결해 소비자의 일상이 더 풍요롭고 가치 있게 변화할 수 있도록 할 것”이라고 강조했다. 앞서 용 사장은 지난 1월 미국 라스베이거스에서 열린 세계 최대 전자 전시회 ‘CES 2024’에서 TV 업계 최초로 AI 스크린 비전을 발표하고 AI 스크린 시대를 선언한 바 있다. 삼성전자는 AI 홈 라이프의 중심이 AI TV가 될 것이라는 확신 아래 올해 삼성전자 AI TV를 구매한 고객에게 향후 7년간 새로운 AI 기능이 탑재된 타이젠 OS 업그레이드를 무상으로 지원하겠다고 밝혔다. 타이젠 OS 7년 업그레이드는 2023년형 일부 제품에도 해당한다. 삼성전자가 개발한 운영체제인 타이젠 OS는 삼성전자 TV에 적용된 스마트 TV 플랫폼으로 2023년 기준 2억 7000만대 이상의 삼성 스마트 TV에 적용돼 있다. 삼성전자는 기존 콘텐츠 시청 위주의 TV 경험을 집안 곳곳의 다양한 스마트 기기를 연결하고 제어하는 AI 홈 디바이스로서의 기술과 고객 경험 연구를 강화한다는 방침이다. 우선 기성세대에겐 다소간의 진입 장벽이 있었던 AI 스마트홈 구축에 있어 삼성 AI TV를 구매하는 것만으로도 첫 발걸음을 뗄 수 있도록 간편한 기기 연결과 관리를 지원한다. 삼성 AI TV에는 스마트싱스 허브가 내장돼 있어 별도의 허브 기기 없이도 집안의 AI 가전과 조명, 커튼 등 스마트 기기를 연결할 수 있다. 또한 TV의 대화면을 통해 스마트싱스의 ‘3D 맵 뷰’ 기능을 활성화하면 기존 목록 형태로 관리하던 기기를 3D 평면도 형태로 한눈에 관리할 수 있게 도와준다. 이를 통해 각 기기의 모니터링뿐만 아니라 공간별로 기기나 조명을 켜고 끌 수 있고, 온도와 공기 질, 에너지 사용량까지 손쉽게 확인할 수 있다. AI TV의 대기화면인 ‘데일리 보드’를 통해서는 날씨와 메모 위젯, 기기 상태와 에너지 사용량 등을 편하게 확인할 수 있다. 특히 AI 기능은 AI 업스케일링과 AI 사운드 기능 등을 통해 TV의 본래 기능인 시청 경험도 충족시켜주고 있다. 삼성전자 AI 업스케일링은 AI 기술을 활용해 저해상도 영상도 최대 8K급으로 선명하게 감상할 수 있게 해준다. ‘무빙 사운드 Pro’, ‘액티브 보이스 Pro’ 등 AI 사운드 기능은 영상의 움직임대로 사운드를 들려주거나 배경음악과 음성을 분리해 또렷하게 들려주는 기능을 제공한다. AI 기술을 활용하면 영상 장르별 맞춤 화질도 자동으로 선택할 수 있다. AI가 영화, 스포츠 등 영상 장르를 인식하고 사용자가 장르별 대표 이미지를 선택하는 방식으로 적합한 화질을 선택해두면 AI가 이후 장르별 사용자 취향에 맞게 화질을 최적화해주는 방식이다. 스포츠나 슈팅 게임 등 게임 장르를 AI가 인식해 최적화해주는 ‘AI 오토 게임 모드’뿐 아니라 저시력 사용자를 위해 AI 기술로 화면의 윤곽선과 색상을 뚜렷하게 해주는 ‘릴루미노 모드’ 등도 제공한다. 특히 영상 내 자막 텍스트를 AI가 검출해 음성으로 변화해 들려주는 ‘들리는 자막’ 기능이나 외장 카메라를 사용해 AI가 사용자의 제스처를 인식해 수어 통역사 화면 크기를 200%까지 키워주는 기능 등은 접근성을 크게 높일 것으로 보인다. 이번 브리핑에서 최초 공개된 AI를 통해 이미지를 생성하는 ‘Generative Wallpaper’ 기능도 눈길을 끌었다. 사용자가 데코, 경치, 페인팅 등 그날의 감정에 따른 몇 가지 조건을 선택하면 AI가 그에 맞는 이미지를 추천해주는 기능이다. 용석우 사장은 “삼성 AI 스크린의 차별화된 소비자 경험을 통해 ‘AI TV는 삼성’이란 공식을 써가겠다”라고 강조했다.

국내에서도 많은 사랑을 받고 있는 할리우드 영화 ‘에이리언’ 시리즈의 신작 ‘에이리언: 로물루스’가 4년 전 세상을 떠난 배우의 모습을 인공지능(AI) 기술로 생성해 실제 배우처럼 등장시켜 논란이 되고 있다. 21일(현지시간) 영국 BBC 방송 등에 따르면 지난주 세계적으로 개봉한 ‘에이리언: 로물루스’에는 고인이 된 배우 이언 홈을 닮은 인조인간 캐릭터가 등장했다. 영화 ‘반지의 제왕’과 ‘호빗’ 시리즈의 ‘빌보’ 역으로 많이 알려진 이 영국 출신 배우는 지난 2020년 88세로 세상을 떠났다. 이 배우는 1979년 개봉한 리들리 스콧 감독의 원조 ‘에이리언’에서는 비중 있는 인조인간 캐릭터 ‘애쉬’ 역을 맡았다. 이번 신작 ‘에이리언: 로물루스’ 제작진은 그의 얼굴과 목소리를 AI 기술로 생성해 새로운 캐릭터 ‘루크’를 탄생시켰다. 그러나 외신들은 이 AI 캐릭터의 등장이 일부 관객과 비평가들에게 거부감을 일으켰으며, 윤리적인 문제도 제기되고 있다고 전했다. 한 관객은 엑스(옛 트위터)에 “이 캐릭터가 꼭 홈(Holm)이어야 할 이유는 하나도 없다”며 “이것은 모든 사람의 기분을 상하게 한다”고 주장했으며 또 다른 관객은 “디지털 강령술이냐”고 비난했다. 온라인 매체 ‘슬레이트’의 비평가 샘 애덤스는 “활용할 수 있는 지식재산권(IP)이 있는데 죽은 사람을 왜 쉬게 놔두겠느냐”며 “이 시리즈에서 단 하나의 변함없는 존재는 괴물들의 존재를 넘어, 인간 생명 존중보다 이윤을 앞세우는 거대 대기업의 영향력”이라고 꼬집었다. 이는 해당 영화를 제작한 디즈니 산하 20세기 스튜디오를 영화 속의 악덕 기업에 빗대 비판한 것이다. 이러한 논란에 대해 영화 연출을 맡은 페데 알바레즈 감독은 최근 LA타임스 인터뷰에서 해당 캐릭터를 만든 동기는 에이리언 시리즈 역사에서 이 배우의 위치를 기리고자 하는 진정한 열망 때문이었다면서 “그에 대한 큰 존경심을 갖고 모든 작업에 임했다”고 밝혔다. 이어 AI 기술에 대한 논란에 대해 “우리는 배우로서 그 사람의 재능을 재현하는 불가능한 일을 하려고 한 것이 아니다”며 “이 캐릭터들이 가진 공통점은 닮았다는 것뿐”이라고 강조했다. 또한 알바레즈 감독은 홈의 유족인 부인 소피 드 스템펠에게 먼저 이런 구상을 설명하고 의견을 구했으며, 스템펠 역시 열렬한 반응을 보여 실행하게 됐다고 설명했다. BBC는 이런 시도 자체는 나쁘지 않았지만, 해당 캐릭터의 출연 분량이 필요 이상으로 많고 클로즈업을 반복해 인공적인 이미지를 지나치게 부각한 것이 제작진의 실수였다고 지적했다. 온라인 매체 ‘더 바이트’는 “이것은 지금까지 주요 블록버스터 영화에서 생성형 AI를 중요하게 사용한 사례 중 하나”라며 “향후 영화에서 이 기술이 어떻게 활용될지에 대한 리트머스 시험지가 될 수 있다”고 전망하기도 했다. 22일 영화진흥위원회 영화관입장권통합전산망 집계에 따르면 ‘에이리언: 로물루스’는 누적 관객 수 85만 3214명을 돌파하며 박스오피스 1위를 지키고 있다. ‘에이리언:로물루스’는 보다 나은 삶을 찾기 위해 식민지를 떠난 청년들이 버려진 우주 기지 ‘로물루스’에 도착한 후 에이리언의 무자비한 공격에 쫓기기 시작하면서 생존을 위한 치열한 사투를 벌이는 서바이벌 스릴러다.