챗GPT 개발사 오픈AI가 추론하는 능력을 갖춘 새 모델 ‘오픈AI-o1(오원)’이 탑재된 챗GPT를 12일(현지시간) 출시했다. o1은 그간 오픈AI가 ‘스트로베리’라는 코드명으로 추론 능력에 초점을 두고 개발해 온 AI 모델로 과학, 코딩, 수학과 같은 복잡한 문제 해결이 가능하다. o1은 이용자의 질문에 대한 답을 내놓기까지는 기존 모델보다 시간이 걸리지만, 단계적인 사고 과정을 통해 어려운 문제를 해결한다. 야쿱 파초키 오픈AI 수석 과학자는 “챗GPT와 같은 이전 모델은 질문을 하면 즉시 응답하기 시작하지만, 이 모델은 시간이 걸릴 수 있다”며 “영어로 문제를 생각하고 분석하고 각도를 찾아 최선의 해답을 제시한다”고 말했다. 오픈AI가 공개한 시연 영상에 따르면 o1은 “Strawberry에 몇 개의 ’r‘ 이 있나”라는 질문에 정확히 “3개”라고 답하는가 하면 기존 AI 모델이 풀지 못한 복잡한 퍼즐도 단계별로 풀어 나가는 모습을 보여줬다. 오픈AI는 o1이 국제수학올림피아드(IMO) 예선 시험에서 83%의 정답률을 기록했다고 밝히기도 했는데, 이전 모델 정답률이 13%인 점을 감안하면 문제 풀이 능력이 월등히 높아졌다. 물리학자들이 복잡한 수학 공식을 만들고 의료 연구자들의 실험을 지원하는 데 도움이 될 수 있을 전망이다. 특히 한국인도 제대로 이해하지 못할 수 있는 한국어를 영어로 번역하기도 했는데, 실제 “직우상 얻떤 번역깃돋 일끌 슈 없쥐많 한국인듦은 쉽게 앗랍볼 수 있는 한끌의 암혼화 방펍잇 잊다”(지구상 어떤 번역기도 읽을 수 없지만 한국인들은 쉽게 알아볼 수 있는 한글의 암호화 방법이 있다)라는 문장을 “No Translator on Earth can do this, but Koreans can easily recognize it”이라고 영어로 맞게 번역했다. 이 새로운 모델은 오픈AI가 인간 수준의 AI인 범용인공지능(AGI)을 개발하기 위한 노력의 하나다. 샘 올트먼 오픈AI 최고경영자(CEO)은 이 모델을 “새로운 패러다임”이라며 “범용의 복잡한 문제를 추론할 수 있는 AI”라고 강조했다. 다만 “이 기술이 여전히 결함이 있고, 제한적”이라고 덧붙였다. 오픈AI는 o1의 기본 모델과 함께 소형 모델인 ‘o1-mini’(오원-미니)도 공개했다. ‘o1’는 텍스트로 답을 제공하며 이미지와 영상을 제공하지는 않는다. 오픈AI가 o1을 공개하면서 AI 모델 개발을 둘러싼 경쟁은 한층 더 치열해질 것으로 보인다. 오픈AI의 대항마로 평가받는 AI 스타트업 앤스로픽과 구글도 추론 능력을 높이는 AI 모델을 개발하고 있다. o1의 발표는 오픈AI가 최근 대규모 투자 유치에 나선 가운데 나와 더욱 눈길을 끈다. 오픈AI는 1500억 달러(약 199조) 상당의 기업가치를 평가받으며 65억 달러에 달하는 자금 조달(펀딩)에 나선 것으로 알려졌다. 이번 펀딩에 기존의 마이크로소프트뿐만 아니라, 애플, 엔비디아 등도 참여하는 것을 검토 중인 것으로 전해졌다. 월스트리트저널은 소식통을 인용해 아랍에미리트 한 국영 기업도 오픈AI에 투자를 위한 협의를 진행 중이라고 보도하기도 했다. 소식통은 올해 초 아랍에미리트가 AI 프로젝트에 투자하기 위해 설립한 기업 ‘MGX’가 오픈AI에 투자를 검토하고 있다며 아직 규모는 결정하지 못했다고 전했다.

경기도는 지난 6일 마감한 ‘제1회 대한민국 AI 국제영화제’ 출품작 공모에 전 세계 104개국에서 2천67건을 접수했다고 13일 밝혔다. 경기도가 주최하고 경기콘텐츠진흥원이 주관하는 ‘대한민국 AI 국제 영화제’는 생성형 인공지능(AI) 기술로 만든 영화만 참가할 수 있는 국내 최초·최대 규모 AI 영화제다. 지난 6일까지 진행한 공모에는 2천67건의 작품이 지원했고, 이중 자격요건을 충족한 접수는 국내 410건, 해외 125건(39개국) 등 총 535건으로 나타났다. 부문별로는 내러티브 콘텐츠 부문에서 263건, 다큐멘터리 부문에서 45건, 아트&컬처 부문에서 112건, 자유포맷 115건으로 집계됐다. 도는 심사를 통해 10월 25일 킨텍스에서 열리는 대한민국 AI국제영화제에서 26개 작품에 시상한다. 특히 AI 기술을 활용한 영상만 참가할 수 있기 때문에 생성형 AI 전문 기업인 딥브레인AI와 기술 협력을 통해 기술 심사도 진행한다. ‘딥페이크(이미지 합성기술) 탐지 솔루션’ 기술로 제출된 영상을 딥러닝 분석해서 실제로 AI 제작 도구를 활용한 영상인지 판별한다. 강지숙 경기도 콘텐츠산업과장은 “이번 공모는 해외 창작자들의 관심이 높았으며, 특히 일반적인 영화제에서 보기 힘든 3세계 국가에서도 많은 관심을 보였다”라며 “생성형 AI가 콘텐츠 창작에 새로운 기회를 부여하는 좋은 사례로 남을 수 있을 것이다”라고 말했다. 이번 심사에는 26개 작품을 선정하며, 대상 2천만 원, 부문별 1등에 각 700만 원 등 총 8천 100만 원의 상금이 수여된다.

오픈AI의 기업 가치가 1년 새 5배 넘게 뛴 1500억 달러의 기업가치를 인정받고 투자자들로부터 65억 달러를 모금하기 위한 협상을 진행중이라고 블룸버그통신이 12일(현지시간) 보도했다. 이번 새로운 가치 평가에는 모금된 금액은 포함되지 않았지만, 올초 회사가 공개 매수 제안을 통해 평가한 860억 달러 가치보다 상당히 높은 금액이다. 이번 거래가 성사되면 오픈AI는 중국 동영상 플랫폼 틱톡 모회사 바이트댄스에 이어 전 세계에서 비상장 기업으로는 두 번째로 비싼 기업이 된다. 이를 통해 오픈AI는 세계에서 가장 가치 있는 스타트업 중 하나라는 입지를 굳건히 하게 됐다. 이와 동시에 오픈AI는 월가 은행으로부터 회전 신용 편의 방식(대출은행이 자금대출한도를 정하고 차입자에게 일정기간동안 이 대출한도내에서 계속해서 대출해 주는 기법)으로 50억 달러의 부채를 조달하기 위해 논의 중이라고 익명을 요구한 한 관계자는 밝혔다. 오픈AI는 회전 신용 편의 방식을 통해 월가 은행에 대출을 받은 최초의 주요 기술 스타트업이 아닙니다. 현재 메타인 페이스북, 중국 전자상거래 업체 알리바바, 우버 테크놀로지스, 도어대시 등 많은 기술 스타트업들이 IPO 추진 전 월가에서 신용 한도를 확보했고, 이는 종종 은행 관계를 강화하기 위한 부분적인 목적에 따른 것이었다. 역사적으로 기술 스타트업은 IPO에서 큰 신용 공약을 하는 은행에 보상하는 경향이 있다. 그 대가로 대출 기관은 때때로 자금 조달에 더 나은 조건을 제공힌다. 2015년 설립된 오픈AI는 2022년 11월 30일 생성형 AI 챗GPT 출시 이후 기술 산업의 AI로의 빠른 전환의 중심에 섰다.몇 마디의 프롬프트만으로도 사실적인 이미지와 인간처럼 들리는 텍스트를 생성할 수 있는 이 회사의 제품은 소비자와 투자자 모두의 관심을 사로잡았다. 오픈AI는 창립 이래 회사로서 급격한 발전을 이뤘다. 지난해 말 최고경영자 샘 올트먼을 잠시 축출하는 사태 이후 오늘날에는 창립 멤버 중 소수만이 남았고, 회사는 이사회를 개편하고 임원진을 늘리기 위한 조치를 취했다. 블룸버그가 입수한 오픈AI의 최고재무책임자인 사라 프라이어가 지난달 직원들에게 보낸 메모에 따르면 “이 자금 조달이 컴퓨팅 파워와 기타 운영 비용에 대한 필요를 충족시킬 것”이라고 말했다 . 그는 또한 메모에서 “오픈AI가 올해 말에 공개 매수 제안을 통해 직원들이 일부 주식을 매각할 수 있도록 허용할 계획”이라고 말했다.

2023년 65세 고령인구는 961만 명으로 집계되었으며, 이는 2022년 915만 명에 비해 약 50만 명이 증가한 수치다. 유소년 인구 100명당 고령자 인구를 나타내는 노령화지수는 171.0으로 전년 대비 14.9 증가했다. 이러한 추세라면 2025년에는 우리나라 전체 인구의 20% 이상이 65세를 넘는 초고령화 사회에 진입할 것으로 예상된다. 세계 어느 나라보다 초고령화 사회로 빠르게 진입하는 대한민국에서 ‘돌봄’은 가장 민감하고 중요한 주제로 떠오르고 있다. 간병 시장 규모는 2018년 5조 원에서 2020년 7조 원, 2023년 8.8조 원으로 연평균 8% 이상 성장세를 보인다. 2030년에는 그 규모가 11.6조 원에 이를 것으로 전망된다. 간병뿐 아니라 가사돌봄, 병원 동행 등의 일상돌봄 영역까지 포함한다면 전체 돌봄 시장 규모는 더욱 커질 것으로 예상된다. 돌봄 서비스를 대표하는 간병, 장기요양서비스는 오프라인 시장에서 운영된다. 보건복지부와 국민건강보험공단이 관리하는 장기요양서비스는 정부의 관리 감독하에 수요와 공급이 이루어지고 있다. 그러나 비수가 시장인 간병은 관련 제도가 미비하고 관리 감독의 주체가 없는 실정이다. 간병 시장에서는 정찰제, 현금 결제, 정보 불균형 등의 관행이 여전히 존재하며, 이로 인해 간병비 미지급, 추가 비용 요구, 간병 당일 취소 등 여러 문제가 발생하고 있지만 이에 대한 해결은 더디다. 최근 돌봄 시장은 오프라인을 넘어 온라인 플랫폼까지 다양한 방식으로 확장되고 있다. 이는 시장 규모가 커지면서 대기업과 스타트업이 온라인 플랫폼 시장에 적극적으로 진출하고 있기 때문이다. 온라인 플랫폼은 기존 오프라인 시장의 시공간적 제약과 서비스 신청 및 제공 방식의 한계를 극복하며, 다양한 합리적 돌봄 선택지를 제시한다. 이에 따라 일부에서는 온라인 플랫폼이 기존 오프라인 돌봄 시장의 문제를 해결할 수 있을 것이라는 기대감도 커지고 있다. 한편, 이러한 사회 변화에 민첩하게 대응하며 기대를 현실로 만드는 스타트업이 있다. 돌봄 서비스 플랫폼 시장을 선도하는 ‘케어네이션’이다. 창업자인 김견원 대표는 돌봄 시장의 문제를 해결하기 위해 돌봄 플랫폼 사업을 구상하고, 오프라인 간병 협회를 인수해 4년간 운영했다. 오프라인을 통해 쌓은 경험과 데이터를 기반으로 2020년 7월 케어네이션 1.0을 출시했다. 이후, 인구 전반의 돌봄 문제 해결과 돌봄 공백 해소를 목표로 B2C 서비스를 고도화하며 2022년 6월 케어네이션 2.0을 선보였다. 이어 동행, 가사돌봄 서비스를 내놓으며 서비스 영역을 빠르게 확장하고 있다. 케어네이션은 오프라인 시장에서 고착화되었던 정찰제 현금결제 방식과 간병 서비스 품질관리 문제 등을 해결하기 위해 환자 상태에 따라 변동하는 간병비를 분석해 적정 간병비를 산출하는 알고리즘을 개발했다. 이를 통해 간병인은 산출된 간병비 가이드라인에 따라 적정 수준의 간병비를 보호자에게 먼저 제안할 수 있으며, 케어네이션은 이러한 시스템을 ‘역경매 입찰제’라고 설명한다. 합리적인 간병비가 책정을 위해서는 정확한 환자 정보가 필수적인데, 케어네이션은 서비스 신청 시 환자 정보를 최대한 자세히 기재하도록 하고 있으며, 최근에는 보호자와 간병인의 의견을 반영해 환자 상세 정보를 개편했다. 케어네이션은 환자 상태에 맞춘 간병비 가이드라인을 제시하고, 간병인은 자신의 능력과 경험에 따라 자율적으로 간병비를 제안할 수 있다. 보호자는 간병인이 제시한 금액, 프로필, 후기를 확인한 후 환자에게 적합한 간병인을 직접 선택할 수 있으며, 이를 통해 간병 서비스의 품질관리도 자연스럽게 이루어진다. 간병인은 경력이나 간병 난이도에 따라 높은 보수를 받을 수 있고 보호자는 신뢰할 수 있는 간병 서비스를 이용할 수 있다. 저임금 노동으로 인식되던 간병에 대한 이미지 개선 또한 케어네이션이 기대하는 긍정적인 변화 중 하나다. 역경매 입찰제 방식으로 간병인과 환자는 플랫폼 내에서 100% 자율적이고 자동으로 매칭된다. 이러한 서비스 구조 덕분에 케어네이션 내에서는 일반간병과 가족간병(환자를 가족관계에 있는 사람이 주간병인으로서 돌보는 형태의 간병)을 동일한 프로세스로 이용할 수 있다. 케어네이션의 또 다른 경쟁력은 데이터를 기반으로 한 서비스 설계와 기획이다. 온⋅오프라인 사업부를 통해 수집된 데이터를 자체 기업부설연구소에서 분석하고 가공해 서비스 방향과 전략 수립에 활용한다. 연구소 관계자는 “데이터는 가설 검증, 서비스 개발 우선순위 결정, 방향설정 등에 중요한 역할을 하며, 축적된 유저 데이터를 통해 구체적인 서비스 개선안을 도출한다”고 설명했다. 케어네이션은 이용자들이 합리적이고 편리하게 서비스를 이용할 수 있도록 진단부터 완치까지의 과정을 연속적이고 체계적으로 제공하는 데 주력한다. 간병비 카드결제, 서비스 증명서 자동발급, AI 기반 최적 간병인 추천 서비스, 최적 간병인 자동 매칭 및 간병비 자동결제 서비스 등 사용자 경험을 개선하기 위한 다양한 기능을 출시하고 있다. 8월 말에는 재가요양기관 관리 시스템 베타 서비스를 시작했으며, 향후 방문요양 서비스, 산후돌봄, 아이돌봄, 건강검진, 손해보상 찾기 등 다양한 서비스도 출시할 계획이다. 케어네이션 서대건 각자대표는 “수가/비수가, 청년/장년을 막론하고 돌봄이 필요할 때 누구나 쉽게 이용할 수 있는 플랫폼을 만드는 것이 케어네이션의 목표다. 오프라인 돌봄 시장의 문제가 완전히 해결될 때까지 돌봄 서비스의 온라인 혁신을 멈추지 않겠다.”고 전했다.

삼성 ‘비스포크’ 세균 99.99% 없애시장 점유율 25% 빠르게 추격 나서LG ‘로보킹AI’ 올프리 솔루션 제공전용관리제로 걸레 악취 발생 억제로보락 ‘S8 맥스V’ 모서리 청소 강화 하이엔드 제품 시장점유율 65.7% 드리미 ‘X40 울트라’ 전자동 기능 최대 75일간 별도 관리 없이 사용 로봇청소기가 건조기, 식기세척기와 함께 가사 노동시간을 줄여 주는 이른바 ‘3신가전’, 즉 필수 가전으로 자리잡으면서 국내 시장도 급성장하고 있다. 국내 가전제품 대기업인 삼성전자와 LG전자가 먼지 흡입과 물걸레 청소 기능이 분리된 모델에 주력하는 사이 먼지 흡입과 물걸레 청소 기능을 결합한 ‘올인원’(일체형) 제품을 먼저 내놓은 로보락 등 중국 업체가 프리미엄 시장을 주도하고 있다. 가전 강국의 안방 시장을 내준 삼성전자와 LG전자도 최근 고급 기능을 갖춘 올인원 로봇청소기 신제품을 잇달아 출시하며 본격적인 추격에 나섰다. 9일 업계에 따르면 국내 로봇청소기 시장은 중국 업체인 로보락이 2022년 이후 3년 연속 시장점유율 1위를 차지하고 있다. 로보락은 2014년 중국 베이징에서 마이크로소프트, 인텔, 바이두 등 글로벌 빅테크 엔지니어들이 설립한 회사다. 기존 ‘중국산’의 이미지와 달리 높은 기술력을 바탕으로 가격보다는 성능을 앞세워 시장을 지배하고 있다. 코로나19 팬데믹 이후 실내 위생에 관한 관심이 높아졌고 반려동물을 키우는 인구가 늘어난 영향 등으로 국내 로봇청소기 시장 규모는 2021년 약 2100억원에서 2022년 약 3000억원, 지난해 약 4722억원 규모로 급성장하고 있다. 이 가운데 로보락의 시장점유율은 지난해 35.5%에서 올해 상반기 기준 46.5%에 달한다. 특히 150만원 이상 하이엔드급 로봇청소기 시장점유율은 65.7%를 기록하는 등 국내 로봇청소기 시장을 이끌고 있다. 올해 출시된 플래그십 모델인 ‘로보락 S8 맥스V 울트라’는 모서리와 가장자리 등 좁고 세밀한 부분을 청소할 수 있도록 하는 ‘엣지 클리닝’ 기능을 강화한 것이 특징이다. 최대 60℃ 온수와 열풍 건조 기능, 도크 셀프 클리닝, 지능형 먼지 감지, 자동 먼지 비움, 자동 물통 채움, 자동 세제 디스펜서, 오프피크 충전 등 편의 기능을 갖춰 사람이 손대지 않고도 전자동으로 유지보수를 할 수 있다. 공식 온라인 판매처 기준 179만원에 판매하고 있다. 중국 업체인 드리미도 지난 6월 신제품 ‘X40 울트라’를 출시하며 국내 시장 공략을 강화했다. 최대 70℃ 온수 세척과 세척판 청소, 먼지 비움, 열풍 건조, 세정제 추가, 온도 제어, 정수 채움(직배수), 오수 비움(직배수) 등 편의 기능을 모두 자동으로 제공해 최대 75일간 사람이 직접 관리하지 않아도 전자동으로 유지될 수 있다는 것이 장점이다. 공식 온라인 판매처 기준 179만 9000원에 판매하고 있으며 직배수 키트는 22만 9000원이다. 국내 업체들은 위생 기능을 강조한 신제품을 잇달아 출시하며 반격에 나섰다. 삼성전자는 지난 4월 국내 최초로 물걸레 스팀 살균 기능을 탑재한 ‘비스포크 AI 스팀’을 출시했다. 비스포크 AI 스팀은 출시 한 달 만에 누적 판매량 1만대를 돌파하기도 했다. 위생 문제 등을 이유로 흡입과 물걸레 청소 일체형 출시를 미뤄 왔던 삼성전자는 스팀 기능을 장점으로 내세운다. 물걸레를 100℃ 스팀으로 살균해 대장균 등 각종 세균을 99.99% 없애 주는 등 위생적으로 관리할 수 있다는 것이다. 삼성전자는 적극적 마케팅을 통해 올 4월 이후 로봇청소기 시장 점유율을 25%로 끌어올려 1위인 로보락(35%)을 빠르게 추격하고 있다. 비스포크 AI 스팀은 삼성 닷컴 기준가 179만원에 판매되고 있다. 가전 명가의 명성 회복에 나선 LG전자도 지난달 15일 ‘LG 로보킹 AI 올인원’을 출시했다. 위생과 설치 관련 문제를 한 번에 해결할 수 있다는 등 편리함을 내세우고 있다. 특히 고객이 청소 시작 버튼을 누르거나 예약 설정을 해두면 먼지 흡입과 물걸레 청소부터 세척, 건조까지 한 번에 알아서 완료해 주는 ‘올프리 솔루션’을 제공한다. 특히 LG전자는 기존 로봇청소기의 고질적 문제로 지적된 걸레 냄새를 해결하기 위해 오수통 냄새를 줄이는 관리제를 자체 개발했다. 물걸레를 세척할 때 전용 관리제를 자동 분사하고 열풍 건조로 말려 줘 냄새와 위생 문제를 동시에 해결한다는 것이다. LG전자 관계자는 “전용 관리제를 사용하면 불쾌한 냄새를 유발하는 황화합물 생성을 약 30% 줄여 오수통의 악취 발생을 억제한다”고 설명했다. LG전자의 가전 구독 서비스를 이용할 경우 케어 전문가가 정기적으로 방문해 제품 작동 상태 점검, 자동 급배수 키트 및 급·오수통 스팀 세척, 먼지통 청소, 먼지통 필터 교체, 기본 브러시 교체, 물걸레 교체, 관리제 제공 등 관리 서비스를 제공한다는 장점도 있다. 가격은 출하가 기준 자동 급배수 키트 포함 219만원, 프리스탠딩 제품은 199만원이다. 국내 로봇청소기 시장을 둘러싼 한중 업체 간 경쟁이 격화되는 가운데 글로벌 로봇청소기 시장은 지속적으로 성장할 것이란 전망이다. 글로벌 시장조사기관인 모르도르 인텔리전스에 따르면 로봇청소기 시장은 2024년 약 54억 6000만 달러(7조 3218억원) 규모로 예상되며 2029년까지 약 103억 7000만 달러(13조 9621억원)에 이를 것으로 추정됐다. 연평균 13.7%의 가파른 성장세를 보일 전망이다.

지난 6일(현지기간) 독일 베를린의 대형 복합 전시센터 ‘메세 베를린’에서 개막한 유럽 최대 정보기술(IT)·가전 박람회 ‘IFA 2024’는 유럽 최대 박람회라는 수식어가 무색할 정도로 중국 기업 일색이었다. IFA 주최 측에 따르면 올해 전체 참가 기업 2200여 곳 중 1300여 기업은 중국에 뿌리를 두고 있다. 박람회 메인 스폰서는 중국 전자기업 TCL로, 현장을 찾는 방문객의 출입증에는 TCL 사명이 적혀있다. 중국 메이저 기업들의 기술력은 이제 삼성전자·LG전자 등 글로벌 시장 선도 기업을 위협할 수준까지 올라왔지만, 일부 기업들은 타사 기업 제품을 모방한 제품을 박람회에 내놓으면서 박람회의 취지를 흐리고 있다는 지적도 나온다. 실제 8일 중국의 중소·중견 기업이 밀집한 전시관에서는 눈에 익은 제품에 발길이 멈췄다. 2019년 중국에서 설립된 가전 기업 호니처(Honiture)는 스틱형 진공청소기를 유럽 시장에 소개했다. 하지만 전시관 중앙 자리에 놓인 제품 중 유난히 눈에 익은 제품이 있었다. 보라색으로 마감된 진공 모터와 주황색 연결부 및 흡입관까지 영국 기업 다이슨의 ‘V12 디텍트 슬림’ 제품과 외관이 너무나 흡사했다. 주말마다 집에서 청소기를 돌리고 먼지 통을 비우는 제품이어서 제품의 유사성을 한 눈에 알아 볼 수 있었다. 삼성전자 갤럭시S24 스마트폰으로 사진을 찍어 구글 인공지능(AI) 기반 이미지 검색 기능인 ‘서클 투 터치’로 AI는 이 제품을 어떻게 인식하는지 입력해봤다. 그 결과 구글 AI 검색은 다이슨의 V12 디텍트 슬림 제품 이미지와 판매 사이트를 제시했다. 이와 관련해 국내 업계 관계자는 “중국 기업의 카피캣(표절·모방) 전략은 어제오늘의 일이 아니다”라면서 “매년 초 미국 라스베이거스에서 열리는 CES나 9월 베를린 IFA에서 출시를 앞둔 제품이나 기술을 공개할 때 가장 꺼려지는 게 중국 기업이 이를 베껴 먼저 출시하는 것”이라고 고충을 토로했다.

삼성전자는 ‘갤럭시 S24’ 시리즈와 지난해 출시한 주요 모델 대상으로 갤럭시 인공지능(AI) 신기능 업데이트를 순차적으로 진행한다고 6일 밝혔다. 대상 모델은 갤럭시 S24 시리즈, ’갤럭시 S23 시리즈’, ‘갤럭시 Z 폴드5·Z 플립5’ 모델, ‘갤럭시 탭 S9 시리즈’다. 이번 업데이트를 통해 기존 갤럭시 사용자들은 ‘갤럭시 Z 폴드6∙플립6’에 탑재된 One UI 6.1.1이 지원하는 새로운 갤럭시 AI 기능을 사용할 수 있다. 현장에서 듣는 외국인의 말을 실시간으로 번역해 텍스트로 보여주는 ‘통역 듣기 모드’, 간단한 키워드를 입력하면 사용자의 어조와 스타일이 반영된 이메일과 소셜네트워크 게시글을 제안하는 ‘글쓰기’가 추가된다. 최근 상대방과 주고받은 메시지를 분석해 맞춤형 답장을 제안하는 ‘답장 추천’ 기능도 업데이트에 포함된다. ‘노트 어시스트’의 ‘음성 녹음 텍스트 변환’과 ‘PDF 오버레이 번역’, 간단한 스케치를 정교한 AI 이미지로 변환하는 ‘스케치 변환, 수학 문제 풀이와 음악 찾기 기능을 제공하는 ‘서클 투 서치’도 기존 갤럭시 모델에서 경험할 수 있다. 인물사진을 3차원(D) 캐릭터, 수채화 등 다양한 스타일로 변환하는 ‘인물 사진 스튜디오’, 슬로우 모션 영상을 간단하고 빠르게 제작할 수 있는 ‘인스턴트 슬로우 모션’ 등 사용자의 창의력을 손쉽게 펼칠 수 있도록 돕는 콘텐츠 제작 기능도 업데이트 된다.

AI로 아인슈타인 되살린 삼성전자‘스마트싱스’ 차별화된 경험 제공단일 기업 최대 규모 전시장 꾸려‘생성형 AI’ 가전 처음 공개한 LG전자가사 부담 덜어주고 세심히 관리가족과 대화하듯 음성으로 소통 “여러분이 라디오를 들을 때 인류가 이 멋진 악기를 어떻게 얻었는지 생각해 보십시오. 모든 기술적 성취의 원천은 신성한 호기심과 숙고하는 연구원의 우스꽝스러운 추진력, 그리고 기술 발명가의 건설적인 상상력입니다.” 유럽 최대 정보기술(IT)·가전 박람회 ‘IFA 2024’ 개막을 하루 앞둔 5일(현지시간) 삼성전자가 독일 베를린에 마련한 단독 전시장에서는 ‘역사상 가장 위대한 물리학자’로 꼽히는 알베르트 아인슈타인이 관객을 맞았다. 삼성전자는 자체 개발한 인공지능(AI)기술로 1930년 제7회 IFA에서 기조연설자로 나섰던 아인슈타인의 영상과 목소리를 생생하게 되살려 냈다. 삼성전자는 글로벌 미디어와 협력사 관계자 등 700여명이 참석한 프레스 콘퍼런스 행사에서 ‘모두를 위한 AI’ 비전을 제시했다. 삼성전자는 베를린의 대규모 전시·컨벤션 센터 ‘메세 베를린’에서 6일 개막해 10일까지 열리는 올해 박람회에서 단일 기업 최대 규모인 6017㎡(약 1820평) 넓이의 전시장을 꾸렸다. 삼성전자는 이곳에서 가전 통합 플랫폼인 스마트싱스를 기반으로 한 AI 경험을 제공하고 영상디스플레이부터 생활가전, 모바일에 이르기까지 최신 AI 제품을 대거 공개한다. 크게 ▲보안 ▲개인정보 보호 ▲지속가능성 ▲쉬운 연결과 제어 ▲안전과 건강 ▲기업간거래(B2B) 솔루션으로 테마를 나눴다. 삼성전자는 AI 기술로 생활가전은 물론 일상의 모든 영역이 통합·연결되는 시대를 맞아 개인정보 보호와 같은 보안 강화를 전면에 내세웠다. 기기 간 안전한 연결을 지원하는 ‘삼성 녹스 매트릭스’와 사용자의 중요한 정보를 보호하는 ‘삼성 녹스 볼트’, 그리고 외부인의 임의 접속이 감지되면 즉시 이를 차단해 스마트싱스의 보안 수준을 높여 주는 ‘리셋 보호’ 기술을 유럽 시장에 소개한다. 에너지 절감을 중시하는 유럽 소비자의 눈높이에 맞춰 구성한 ‘지속가능성존’에서는 전력 소비가 집중되는 시간대에 에너지 절감을 도와주는 ‘플렉스 커넥트’ 등 에너지 절약을 위한 주요 기능을 소개한다. 태양광을 통해 생성된 전력량과 잔여 에너지량, 전기차 배터리 충전 상태 등을 한눈에 확인하고 전력 소비량을 최적화해 주는 ‘스마트싱스 에너지’ 서비스도 테슬라와 협업해 전시한다. LG전자는 ‘공감지능으로 새롭게 그려 내는 AI홈’을 주제로 전시관을 구성한다. 이곳에서 가전기업 중 최초로 생성형 AI를 탑재한 AI홈 허브와 더불어 AI 신가전을 대거 공개하며 유럽 시장 공략에 고삐를 죈다는 전략이다. LG전자가 이번 전시에서 처음 공개하는 ‘LG 씽큐 온’은 집안 가전과 사물인터넷(IoT) 기기들을 사용자가 원하는 순간이면 언제든지 즉시 이어 주는 LG AI홈의 핵심 플랫폼이다. 사용자는 AI홈 허브를 통해 가족이나 친구와 대화하듯이 음성으로 소통할 수 있다. 생성형 AI가 대화의 맥락이나 주변 환경 등을 파악해 집안의 온도와 습도, 조도 등을 최적의 조건으로 조절하는 방식이다. 가로 약 30m 길이의 초대형 LED에 AI홈 이미지를 연출한 미디어아트를 지나 전시관으로 들어서면 LG AI홈을 구체적으로 보여 주는 라이프스타일 공간이 관람객을 맞는다. 고령화 시대에 맞춰 준비한 ‘액티브 시니어’ 공간에는 LG AI홈이 일상생활 속 가사 부담을 덜어 주는 가운데 은퇴 후 제2의 삶을 활기차게 살아가는 소비자의 모습이 담겼다. LG 씽큐 온이 그날의 일정을 음성으로 알려 주고, 이와 연계해 택시 호출을 돕는 등 생활 전반을 세심히 관리한다. 또 운동 일정이 끝날 때쯤 세탁기 코스를 미리 설정해 놓은 ‘기능성 의류’로 바꿔 주는 등 가전제품이 유기적으로 작동해 가사 부담을 줄인다. 세탁기에 ‘작동 오류’ 표시가 뜨는 경우에는 제품이 스스로 오류 원인과 해결 방법, 관리 방법을 알려 준다. 류재철 LG전자 H&A사업본부장(사장)은 “생성형 AI로 고객을 이해하고 공감하는 LG AI홈 솔루션을 앞세워 고객의 일상을 업그레이드하는 AI홈 시대를 이끌겠다”고 말했다.

서울시의회 윤리특별위원회 위원장과 환경수자원위원회 위원으로 활동 중인 김춘곤 의원(국민의힘·강서4)은 지난 4일 제326회 임시회 상임위 소관 서울아리수본부 업무보고를 받고 효과 낮은 홍보사업에 대해 지적했다. 서울아리수본부는 아리수의 시민 신뢰도 제고 및 아리수 먹는 문화를 확산하기 위해 약 41억원의 예산을 들여 시민 참여 현장홍보, 소셜미디어 홍보, 언론·방송 홍보, 콘텐츠 제작·매체 홍보, 시설 견학·교육 홍보 등 다방면으로 사업을 진행했다. 시민 참여 현장 프로그램으로는 아리수데이, ‘아낄수록 아리수로’ 캠페인 상반기 붐업 행사, 아리수 서포터즈 16팀 운영, 찾아가는 ‘아리수 스토리텔러’ 강의 등을 시행, 시민이 아리수를 좀 더 가깝게 느끼도록 했다. 서울아리수본부는 직원 유튜버(아튜버)를 통해 2030세대와의 소통 콘텐츠를 제작했으며, 아리수TV를 통해 웹예능과 웹드라마를 촬영하기도 했다. 그뿐만 아니라 아리수 브랜드를 TV광고를 통해 홍보하며 방송 프로그램에 노출하는 등 홍보를 진행했다. 김 의원은 “아리수 홍보사업 예산을 보면 지난 20년 이후부터 연평균 30~40억원이 넘는다”라며 “예산 사용은 많은 데 비해 ‘아리수’라고 하면 생각나는 이미지도 없고 서울시 수돗물의 또 다른 이름이라는 느낌만 든다”고 지적했다. 서울아리수본부는 “아리수에 대해 맛있다, 세련됐다는 이미지를 심어주기 위해 노력하고 있다”라며 “숏폼 영상이나 생성형 AI를 통한 광고를 만드는 등 젊은 층에게 다가가기 쉽도록 다방면으로 시도하고 있다”며 의견을 밝혔다. 김 의원은 “식수라고 한다면 안정성과 신뢰도를 바탕으로 시민들에게 다가가는 것은 기본”이라며 “아리수라고 들었을 때 떠오르는 명확한 포지셔닝이 있어야 인식개선을 노릴 수 있을 것”이라며 방법을 제시했다.

최근 4년 반 동안 디지털성범죄피해자지원센터(디성센터)에 ‘딥페이크 성착취물’을 비롯해 불법촬영물을 지워달라고 요청한 건수가 94만건에 달했으나 이 가운데 약 29%인 27만건이 삭제되지 못한 것으로 나타났다. 부족한 대응 인력이 주요 원인으로 꼽히지만 삭제 요청을 받은 기업이 이를 반드시 이행하도록 제도를 개선해야 한다는 목소리도 함께 커지고 있다. 4일 더불어민주당 김남희 의원이 여성가족부에서 제출받은 자료에 따르면 2020년부터 올해 6월까지 여성가족부 산하 한국여성인권진흥원 내 디성센터가 접수한 딥페이크와 성적 모욕 이미지 등 불법촬영물 삭제 요청은 93만 8651건이다. 이 가운데 삭제하지 못한 건수는 26만 9917건(28.8%)에 달한다. 디성센터는 24시간 상담과 불법촬영물 삭제 지원 서비스를 제공하는 기관이다. 피해자로부터 삭제 신청이 접수되면 불법촬영물이 발견된 플랫폼 기업에 이를 지울 것을 요청하고 이후 조치 결과를 확인한다. 삭제 요청 건수는 2021년 16만 6000여건, 2022년 20만 6000여건, 2023년 24만 3000여건으로 매년 최소 3만건 이상씩 불어났다. 올해에도 6월까지 지난해 68% 수준인 16만 5000여건의 삭제 요청이 접수됐다. 미삭제 건수는 2021년 4만 2000여건에서 2023년 7만 5000여건으로 증가해 2년 만에 79.7% 늘었다. 올해 상반기에는 전년의 56%에 달하는 4만 2000여건을 지우지 못했다. 해마다 연간 미삭제 비율은 25% 정도다. 기술의 발전으로 딥페이크 제작이 쉬워지면서 피해가 눈덩이처럼 불어나고 있다. 3일 YTN라디오 ‘이이선 최수영 이슈앤피플’에 출연한 김덕진 IT커뮤니케이션연구소장에 따르면 인공지능(AI) 툴을 활용하면 음란물 제작에 20초도 걸리지 않는다고 한다. 김 소장은 “인플루언서가 찍은 숏폼 영상에 AI가 얼굴만 딴다. 기술이 놀라운데 이런 것들이 악용되는 사이트가 있다”고 짚었다. 아이돌을 좋아하는 팬들을 위해 찍은 ‘직캠’ 영상이나 자체 홍보를 위해 찍은 숏폼 영상이 범죄의 표적이 되고 있다. 최근 트와이스의 소속사 JYP엔터테인먼트, 블랙핑크가 소속된 YG엔터테인먼트, (여자)아이들이 속한 큐브엔터테인먼트, 권은비가 있는 울림엔터테인먼트 등이 딥페이크 피해를 보고 법적 대응에 나섰다. 일반인 역시 공개된 사진에 알몸을 합성 당해 피해를 보는 경우가 많다. 한 초등학교 교사 A씨는 자신의 사진과 합성된 성착취물이 신상 정보와 함께 단톡방에서 퍼지는 끔찍한 경험을 했다. 가해자로 위장해 진범을 5일 만에 잡아낸 A씨는 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 말했다. 피해가 커지는 상황이지만 대책은 뾰족하지 않다. 디성센터의 인력은 부족하고 강제성도 약하다. 전날 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 이수정 경기대 범죄심리학과 교수도 “불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”고 지적했다. 김남희 의원은 “불법촬영물 10건 중 3건을 삭제하지 못하면서 재유포 문제 등이 발생하고 있다”며 “정부가 대책으로 내놓은 ‘플랫폼 자율규제 강화’에 대한 한계가 뚜렷하게 드러난 만큼 특단의 조치가 필요하다”고 강조했다.

SM엔터테인먼트가 만든 가상인간 나이비스(nævis)가 데뷔한다. 나이비스는 그룹 에스파(aespa)의 조력자 캐릭터로 최근 에스파 콘서트에 깜짝 등장해 화제를 모았다. 나이비스는 에스파 멤버들이 현실인 리얼 월드와 ‘광야’로 불리는 디지털 월드를 오갈 수 있게 해주는 능력을 지녔다는 설정으로, 지난해 에스파의 세 번째 미니음반 수록곡 ‘웰컴 투 마이 월드’에 피처링으로 참여했다. 제작을 맡은 SM 버추얼 IP 센터는 나이비스가 플랫폼과 콘텐츠에 따라 사람의 모습을 본뜬 3D 캐릭터에서 애니메이션을 떠오르게 하는 2D 캐릭터까지 유연하게 외형을 바꿀 수 있도록 설계했다고 설명했다. 인공지능(AI) 음성 기술을 활용해 목소리를 만들고 생성형 AI로 콘텐츠를 제작했다. 나이비스는 음악 활동과 더불어 게임, 브랜드 협업 상품 등으로 IP(지식재산)를 확장해나갈 계획이다. 이를 위해 SM엔터테인먼트는 LG유플러스와 손잡고, 나이비스의 콘텐츠를 제작한다고 발표했다. LG유플러스가 자체 개발한 생성형 인공지능(AI) ‘익시젠’을 활용한 이미지와 영상이 나이비스의 뮤직비디오, 쇼츠, 굿즈 제작 등에 활용된다. LG유플러스는 “SM은 버추얼 아티스트에 AI를 결합함으로써 새로운 문화 장르를 만들고 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서의 긍정적 효과를 기대할 수 있게 됐다”고 말했다. 아담 넘은 ‘가상 인간’ 전성시대1998년도에 등장한 국내 최초 사이버 가수 ‘아담’ 이후 30여년이 흐른 지금 ‘가상 아이돌’이란 통칭 아래 다양한 콘셉트의 그룹들이 등장하고 있다. 실제 인간 멤버 4명과 버추얼 휴먼 멤버 1명으로 조합된 최초의 ‘AI과 사람’ 그룹 슈퍼카인드는 게임 속 캐릭터를 캐스팅했다는 설정을 지닌다. 카카오엔터테인먼트가 기획한 버추얼 아이돌 서바이벌 예능 프로그램 ‘소녀 리버스’는 대중들에게 익숙한 웹툰 스타일의 캐릭터를 차용했다. 실제 30명의 전현직 K-팝 걸그룹 멤버들이 가상현실(VR) 기기를 이용해 메타버스 세상 속에서 정체를 숨긴 채 경쟁하는 콘텐츠로 대중성도 확보했다. 버추얼 멤버들로만 구성된 11인조 걸그룹 ‘이터니티’ 역시 2D 딥페이크 기술을 적용해 만들어진 아이돌로, 신진 아티스트들의 재능 기부를 받아 데뷔곡을 제작했다. 이터니티의 멤버 제인은 4부작 웹드라마에서 정식 배역을 맡아 진짜 사람을 연기한다. 실제 배우가 촬영한 동작 데이터에 AI의 데이터를 녹이는 방식으로 구현하는 식이다. 제인은 한 방송에 출연해 직접 진행자와 대화하며 “음주 관련 사건 사고·연예인 갑질·사회의 물의를 일으킬 일이 없다”고 버추얼 아이돌 그룹으로서의 장점을 소개하기도 했다. 전문가들은 현재까지는 버추얼 아이돌이 일부 마니아층이나 1020세대에서 주로 인기를 끄는 만큼 팬덤의 확장, 대중성 확보가 성공의 가장 큰 관건이 될 것이라고 전망하고 있다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

LG유플러스가 SM엔터테인먼트와 생성형 인공지능(AI) 기반 콘텐츠 개발 협력을 위한 업무협약을 체결했다. 이를 계기로 SM엔터테인먼트의 첫 번째 버추얼 아티스트인 ‘나이비스’의 뮤직비디오 등 콘텐츠 제작에 LG유플러스가 자체 개발한 생성형 AI ‘익시젠’(ixi-GEN)이 활용된다. 1일 LG유플러스에 따르면 양사는 지난달 29일 서울 성수동 SM엔터테인먼트 사옥에서 업무협약식을 갖고 이런 내용에 합의했다. 업무협약식에는 정수헌 LG유플러스 컨슈머부문장(부사장), 정혜윤 마케팅그룹장, 한영섭 AI테크랩장, 김희진 통합브랜드마케팅팀장, 탁영준 SM엔터테인먼트 공동대표, 박준영 최고크리에이티브책임자(CCO), 이종호 버추얼IP비즈유닉장, 김선택 버추얼IP콘텐츠유닛장 등 양사 주요 관계자가 참석했다. 이번 업무협약으로 LG유플러스는 자체 개발 생성형 AI 익시젠을 활용해 SM엔터테인먼트의 첫 번째 버추얼 아티스트 나이비스의 콘텐츠 제작에 나선다. 익시젠이 생성한 이미지와 영상을 활용해 뮤직비디오와 쇼츠, 굿즈 등을 제작하고 이를 통해 전 세계 K팝 팬들에게 AI 경험을 제공한다는 계획이다. SM엔터테인먼트는 버추얼 아티스트에 AI 기술을 결합함으로써 새로운 문화 장르로 만들어가겠다는 포부다. 특히 LG유플러스는 익시젠을 활용해 다양한 콘텐츠를 선보임으로써 마케팅과 브랜드 측면에서 긍정적 효과를 기대하고 있다. 앞서 LG유플러스는 올 초부터 마케팅의 전 영역을 AI 중심으로 혁신하는 ‘익시 프로덕션’ 프로젝트를 진행하고 있다. 이번 SM엔터테인먼트 협업도 익시 프로덕션 활동의 하나로 AI를 활용한 새로운 고객 경험을 창출해 나간다는 방침이다. 정수헌 LG유플러스 부사장은 “국내 대표 기획사인 SM과의 협업은 U+고객을 넘어 글로벌 K팝 팬들에게도 새로운 디지털 경험을 제공할 뿐 아니라 마케팅, 브랜딩 측면에서 높은 시너지를 창출할 것으로 기대된다”고 전했다. 탁영준 SM엔터테인먼트 공동대표도 “LG유플러스의 생성형 AI 익시젠과 SM의 버추얼 아티스트 나이비스 간의 협업은 단순한 비즈니스 제휴를 넘어 양사 간의 창의적 시너지를 통해 미래 지향적인 콘텐츠와 기술 혁신을 실현하는 중요한 이정표가 될 것”이라고 강조했다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

미국에서 올해 11월 5일 대선을 앞둔 가운데 유럽의 젊은 여성 인플루언서들의 사진을 내걸고 공화당 대선 후보 도널드 트럼프 전 대통령을 지지하는 가짜 엑스(X·옛 트위터) 계정이 활개를 치고 있다고 미국 CNN 방송이 28일(현지시간) 보도했다. 일례로 자신을 위스콘신 출신의 32세 여성이라고 소개한 루나는 지난 3월 엑스(@Luna_2K24)에 가입한 후 트럼프 전 대통령의 선거 구호인 ‘마가(MAGA·Make America Great Again·미국을 다시 위대하게)’를 홍보하며 3만명의 팔로워를 확보했다. 그는 트럼프 전 대통령이 추가적인 암살 시도에 직면해 있다는 등의 음모론을 지속적으로 펼쳤고, LGBTQ(성소수자)와 트랜스젠더, 백신에 반대하고 인종 차별과 외국인 혐오를 조장하는 글을 다수 올렸다. 그는 흰색 비키니를 입고 해변에서 찍은 셀카를 공유하면서 “트럼프가 영원히 대통령이 되는 것을 지지하겠느냐”는 글을 올렸는데 조회수는 5만4000명에 달했다. 하지만 루나는 실제 인물이 아닌 것으로 드러났다. 사진 속 갈색 머리 여성은 미국 투표권이 없는 독일의 패션 인플루언서 데비 네더로프였다. 네더로프는 엔지니어링 회사의 소셜미디어 관리자이자 모델인 독일인으로 트럼프와 무관한 것은 물론 미국 대선 투표권이 없다. 네더로프는 CNN에 “내 얼굴이 트럼프의 지지 선전에 사용되고 있다는 사실에 화가 난다”며 “나는 미국과 아무 상관이 없다. 독일의 작은 마을에서 사는 내가 미국 정치에 신경이나 쓰겠냐”고 반문했다. CNN이 정보회복센터(CIR)과 조사한 결과 루나는 물론 네덜란드, 덴마크, 러시아 출신 패션 및 뷰티 인플루언서 17명의 유럽 여성 사진이 무단으로 도용된 엑스 계정이 트럼프의 지지를 도모하는 선전 도구로 이용되고 있다. CIR은 인권 침해를 폭로하는 독립적이고 비영리적인 사회적 기업이다. CNN은 “이들 인플루언서 사진을 도용해 만든 가짜 계정은 56개 엑스 계정 중 일부에 불과하다”고 전했다. CNN은 “해당 계정과 관련해 엑스에 연락했지만 답변을 받지 못했다”며 “해당 기사를 게시하기 24시간 전 동안 엑스는 대부분의 계정을 삭제했다”고 지적했다. 이어 “일론 머스크가 엑스를 인수한 이후 엑스에서 허위 사실과 음모론 유포를 방지하던 팀은 해체됐다”며 “CNN이 인터뷰한 유럽의 인플루언서는 자신의 사진이 동의 없이 사용되거나 신원이 도용됐다고 신고해도 소셜미디어(SNS) 플랫폼 운영사는 조치를 하지 않아 어려움을 겪고 있다”고 전했다. 그러면서 “온라인에서 여성의 신체적 자율권에 대한 위협이 커지고 있음을 보여준다”고 일갈했다. 선거 앞 가짜 콘텐츠에 대한 우려는 인공지능 기술이 확산하면서 지속돼 왔다. 잘못된 정보를 유포하고 가짜 동영상과 이미지를 통해 상대 후보에게 피해를 주려는 행위는 미국뿐 아니라 전세계 선거에서 나타나는 현상이기도 하다. 에밀리 혼 전 백악관 국가안보회의(NSC) 대변인은 올해 미국 대선을 앞두고 SNS를 이용해 허위 정보 캠페인을 시도한 여러 국가의 조직들이 있었다면서, 가짜 계정의 배후와 관련해서도 “이것은 국가 행위자일 수 있다. 정교함의 수준을 보면 러시아, 이란, 중국을 포함한 적대국 행위자 중 하나일 수 있다”고 말했다. 트럼프 “스위프트 지지, 수락한다” 논란 자초 트럼프 전 대통령은 지난 18일 세계적 팝스타 테일러 스위프트와 팬덤 ‘스위프티스’(Swifties)의 지지를 받았다는 가짜 사진을 소셜미디어에 게시하고 “수락한다”고 적어 논란을 자초했다. 트럼프 전 대통령은 자신의 소셜미디어 ‘트루스 소셜’에 스위프트와 팬들이 자신을 지지한다고 적힌 티셔츠를 입은 가짜 이미지를 여러 장 올렸다. 미국을 상징하는 ‘엉클샘’의 복장을 한 스위프트와 ‘테일러는 당신이 도널드 트럼프에게 투표하기를 원한다’고 적힌 사진, ‘트럼프를 지지하는 스위프티스’라고 적힌 티셔츠를 입은 여성들이 모여있는 듯한 사진, 지난 7일 스위프트의 오스트리아 빈 콘서트가 이슬람국가(ISIS)의 테러 가능성으로 취소된 뒤 팬들이 트럼프 쪽으로 돌아섰다는 가짜 뉴스 화면이 갈무리 된 사진 등이었다. 그는 이어 “수락한다(I accept!)”라고 적었다. 스위프트는 아직 트럼프 전 대통령과 카멀라 해리스 부통령 중 지지하는 후보를 공개적으로 밝힌 적은 없으나, 2020년 앞선 대선 때 민주당을 지지하며 트럼프 전 대통령을 향해 “당신을 몰아낼 것”이라고 공개 저격한 바 있다. 트럼프 전 대통령의 이런 의도적 ‘가짜 사진’ 유포는 처음이 아니다. 그는 엑스에 인민복처럼 보이는 옷을 입은 군중들 앞에서 해리스 부통령 뒷모습처럼 보이는 여성이 연설하는 이미지를 올렸고, 지원군인 일론 머스크 테슬라 최고경영자(CEO)와 자신이 춤추는 영상을 공개했다. 둘 다 조작된 것들이었다. 영국 가디언은 “트럼프 전 대통령이 최근 며칠 동안 패러디와 노골적인 선거 허위 정보 사이의 경계를 넘나들며” 퍼뜨린 딥 페이크라고 우려를 표했다. 그러면서 “대선을 앞두고 불투명한 정보 생태계를 더 혼탁하게 만들 위험이 있다. 일상적으로 허위 사실과 음모론을 조장하고 있는 것”이라고 지적했다.

‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제 착수 최근 ‘초거대언어모델’(LLM)이 가진 문제를 해결할 수 있는 RAG(Retrieval-Augmented Generation, 검색증강생성) 기술의 중요성이 날로 커져가고 있다. 이러한 가운데, 텍스트 이외에도 음성, 이미지, 동영상 등 다양한 데이터를 결합하여 추론이 가능한 ‘멀티모달 RAG 기술’이 AI와 인간이 구사하는 인지 사고의 편차를 현저히 줄일 것으로 각광받는다. 이러한 기술 추세에 발맞추어, 인공지능(AI) 전문기업 와이즈넛(대표 강용성)은 과학기술정보통신부가 주관하는 정보통신방송기술개발사업 중 정보통신기획평가원이 추진하는 ‘멀티모달 데이터 입력 기반 검색증강생성 기술 개발’ 과제의 주관사로서 1차 연도 연구에 착수했다고 29일 밝혔다. 2027년까지 4년에 걸쳐 진행되는 본 연구는 실제 업무 환경에서 융합되어 활용되는 멀티모달 데이터를 기반으로 초거대언어모델(LLM)의 구조적, 성능적 한계로 제기되는 ▲최신화된 정보 유지의 어려움 ▲할루시네이션 ▲도메인 정보 부족▲대규모 컴퓨팅자원소요 등의 한계를 극복하는 멀티모달 RAG 기술 개발을 목표로 한다. 멀티모달(Multi modal)은 인간이 사물의 양상을 다양한 감각기관으로 받아들이는 것처럼 텍스트, 이미지, 음성, 비디오 등 다양한 형태의 데이터 채널(Modality)을 동시에 처리하는 것을 뜻한다. 이는 텍스트와 함께 소리 데이터를 융합하고 이를 분석해 소리의 크기나 성격을 더 정확하게 이해하거나, 동영상에서 얼굴 이미지를 인식하고 음성 대화를 텍스트로 변환해 자동 자막을 생성하는 등 폭넓게 활용될 수 있는 만큼 새로운 대안으로 주목받는 기술이다. 와이즈넛은 이번 과제에서 멀티모달 데이터 수집 및 처리, 검색, 통합관리 기술 개발에 주력한다. 자체 보유하고 있는 LLM 기술 기반 검색증강생성(RAG) 기술을 적용해, 멀티모달 질의 이해 및 답변 생성 기술부터 LLM의 성능을 높이기 위한 언어모델 최신화 기술, 효율적인 데이터 학습 및 관리를 위한 RAG 데이터 파이프라인 기술, 도메인 실증까지 전반의 기술 개발을 총괄 수행한다. 본 과제는 연구개발에 이어 의료(전남대학교병원), 법률(앤쌤), 제조(JB주식회사), 미디어 광고(SBSi) 등 다양한 도메인에서의 실증을 통해, 각종 비즈니스 환경과 사용자 요구에 맞춘 현실 데이터로 검증하는 단계를 거칠 계획이다. 특히 그간 전통적인 제조 분야의 산업현장, 반도체 공정 등에서 멀티모달 RAG기술에 대한 필요성이 꾸준히 제기되어 왔던 만큼, 본 기술을 반영하여 수요가 있는 다양한 분야에서 더욱 복잡하고 효율적인 작업을 수행할 수 있게 실증사업을 진행할 예정이며, 향후 더 많은 고객군을 대상으로 사업을 확대해 나갈 것으로 기대를 모으고 있다. 또한, 다양한 멀티모달 데이터 통합처리를 통해 LLM의 데이터 이해 및 분석 역량을 향상하고 맞춤형 응답과 문제 해결능력을 함양할 수 있어, AI 서비스를 활용하는 고객의 사용자 경험 및 만족도를 대폭 향상시킬 전망이다. 강용성 와이즈넛 대표는 “향후 인공지능이 ‘인간처럼’ 사고하고 상호작용하기 위해서는 멀티모달 RAG기술은 필수적”이라며, “와이즈넛은 이번 연구에서 멀티모달 RAG기술을 통해 AI 기술 수준을 한 단계 업그레이드하고, 혁신적인 비즈니스 모델을 선제적으로 창출하는 기술적 토대를 마련할 것”이라고 말했다.

롯데마트는 다방면으로 AI를 활용 중이다. ‘AI 선별 시스템’ 활용해 신선식품 품질 관리 프로세스를 고도화했고, 롯데그룹의 자체 AI 플랫폼 ‘아이멤버’(Aimemver)를 도입해 업무 검색의 효율성을 높였다. 이번에는 롯데마트를 방문객에게 다채로운 쇼핑 경험을 주고자 AI를 마케팅에 접목한 다양한 콘텐츠를 선보였다. 롯데마트는 생성형 AI 음원 제작 플랫폼 이용해 만든 음원을 지난 8일부터 매장 배경음악(BGM)으로 송출 중이라고 29일 밝혔다. 이번에 공개한 음원은 ▲롯데마트, 즐거운 시간 ▲요리하다, 지친 너를 위해 ▲마블나인, 파티 투나잇(Marble Nine, Party Tonight) 총 3가지로, 작곡, 작사, 가창 등 음원을 구성하는 모든 영역을 생성형 AI를 활용해 만들었다. 해당 음원들은 K팝 장르의 경쾌한 댄스곡으로, 롯데마트의 대표 자체브랜드(PB)인 ‘오늘좋은’과 ‘요리하다’, ‘마블나인’을 주제로 생성된 트렌디한 가사가 인상적이다. 특히, 기획부터 제작까지 소요된 기간은 이틀에 불과하며, 작곡가와 가수를 섭외해 제작하는 기존 방식보다 비용과 시간을 90%가량 절감했다. 이번 AI 음원은 ‘ZRT(gen Z Round Table) 2기’가 롯데마트의 대표 브랜드를 소비자에게 쉽고 재밌게 전달하기 위해 제작한 콘텐츠다. ‘ZRT’는 롯데마트가 Z세대의 소비 인사이트를 얻고자 대형마트 업계 처음으로 선보인 대학생 싱크탱크 프로그램으로, ZRT 2기는 ‘AI 마케팅’을 주제로 음원과 영상, 이미지 등 생성형 AI를 활용한 콘텐츠 개발에 힘쓰고 있다. 향후에는 추석과 설날, 크리스마스 등 주요 시즌을 테마로 생성한 AI 배경음악을 선보일 예정이며, 월별 대표 과일을 주제로 만든 ‘월간 AI 과일송’을 제작해 매장 내 시즌감을 더한다는 계획이다. 또한 이번 추석 선물세트 사전예약 기간에 맞춰 ‘선물세트 카달로그’를 생성형 AI를 활용해 영상 콘텐츠로 제작, 전 점에서 송출 중이다.

3년간 딥페이크 성범죄 실형 4건뿐미성년자 성관계 500여건 올려도법원 “대부분 가짜인지 알 수 있어”연예인 합성물 5800개 업로드해도영리 목적의 범행 아니라며 ‘감경’“다른 성범죄 수준 양형 강화해야”정치권도 뒤늦게 법안 7개 쏟아내서울시·방심위 ‘삭제 핫라인’ 구축올 학생·교사 피해 179건 수사 의뢰교육부, TF 구성해 10월 중 대응책 딥페이크(허위 영상물) 성범죄에 대해 정치권과 정부 모두 ‘엄벌’을 강조하고 있지만 일선 법원에선 ‘합성 수준이 낮다’거나 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 있는 것으로 나타났다. 2020년 개정된 성폭력처벌법(딥페이크 처벌법) 취지에 어긋나게 감경 사유를 적용해 ‘솜방망이’ 처벌에 그치고 있다는 비판이 제기된다. 이에 판사들에게 형량을 권고하는 가이드라인인 양형기준에 감경 사유를 엄격히 정하고 법령을 강화해 딥페이크 성착취물을 소지하는 행위도 처벌하도록 하는 등 개선이 필요하다는 제언이 나온다. 28일 법조계에 따르면 약 2년간 텔레그램 그룹에 아동·청소년을 포함한 일반인 여성의 얼굴을 성관계 장면에 합성한 영상물 500여건을 올린 A씨에 대해 제주지법 재판부는 지난 2월 징역 2년 6개월에 집행유예 4년을 선고했다. 재판부는 형량 감경 사유로 “합성 수준이 높지 않아 가짜임을 알아챌 수 있는 것이 대부분”이라고 밝혔다. 연예인의 얼굴을 성관계하는 사진에 합성하는 등 허위 영상물 2200여개를 제작하고 인터넷 사이트에 5800여개의 영상물을 업로드한 피고인에 대해서도 재판부는 지난 1월 징역 3년에 집행유예 4년을 선고했다. 합성 수준이 높지 않을 뿐만 아니라 ‘영리를 목적으로 범행을 저지른 것으로 보이지 않는다’는 이유였다. 이처럼 딥페이크 성범죄자에 대한 형량을 정하면서 ‘합성 수준’이나 ‘범죄 수익’을 고려하는 것은 딥페이크 처벌법 취지에 반한다는 비판이 나온다. 민고은 변호사는 “허위 영상물의 제작·반포에 대한 법정형(5년 이하의 징역 또는 5000만원 이하의 벌금형)이 실제 촬영물의 제작·반포보다 이미 낮은데 허위 영상물이 실제처럼 보이지 않는다고 또 감경하는 것이 맞는지 의문”이라고 말했다. 앞서 대법원 양형위원회는 2020년 디지털 성범죄 양형기준에 허위 영상물 반포 범죄를 추가했다. 하지만 권고 형량이 기본 징역 6개월~1년 6개월이고 일선 재판부가 여러 감경 요소를 적용하면 그보다도 낮은 형량이 선고돼 비판이 제기돼 왔다. 형량 가중 사유가 있더라도 10개월~2년 6개월에 그친다. 실제로 2020~2023년 딥페이크 성범죄 관련 1·2심 판결 71건 중 절반에 달하는 35건에서 집행유예가 선고됐다. 실형이 선고된 35건 가운데 31건은 다른 성범죄도 함께 저지른 경우이고, 딥페이크 성범죄만으로 실형이 나온 것은 4건에 불과했다. 1건은 무죄였다. 이경하 한국여성변호사회 인권이사는 “딥페이크 성범죄가 불법촬영 등 다른 성범죄와 비교해 피해의 정도가 덜하다고 보기 어렵다”며 “피해 양상 및 법익에 맞도록 양형기준을 최소한 다른 성범죄와 비슷한 수준으로 상향할 필요가 있다”고 말했다. 지난 27일 국회에서 발의된 것처럼 딥페이크 성착취물을 소지만 해도 처벌하는 입법이 신속하게 마무리돼야 한다는 주문도 나온다. 현재 성폭력처벌법은 허위 영상물을 제작·반포한 경우에만 처벌한다. 법제처 및 정보통신정책연구원에 따르면 지난 2월 기준 미국 40개 이상의 주에선 총 407건의 인공지능(AI) 관련 법안이 발의돼 논의 중이다. 사우스다코타주는 딥페이크 등 디지털 기술로 아동을 대상으로 한 성적 학대 이미지를 제작·배포 또는 소지한 혐의로 유죄판결을 받은 사람에게 징역형을 선고하도록 관련 법안을 개정했다. 유럽연합(EU)은 지난 1일 세계 최초로 ‘AI 규제법’을 발효해 딥페이크 기술로 만들어진 콘텐츠는 인위적으로 생성·조작됐다는 사실 등을 의무적으로 표기하도록 하고 있다. 한편 교육부는 올해 발생한 학생과 교사의 딥페이크 피해 건수가 총 196건으로 집계됐다고 28일 밝혔다. 이 가운데 179건은 수사당국에 수사를 의뢰한 상태다. 교육부는 긴급 태스크포스(TF)를 구성하고 다음달 관계부처 대책회의를 거쳐 오는 10월 중 교육 분야 딥페이크 대응 후속 조치를 마련하기로 했다. 오세훈 서울시장은 이날 류희림 방송통신심의위원장과 업무협약을 맺고 딥페이크 음란물 영상 신고가 들어올 경우 24시간 이내에 삭제하는 ‘핫라인’을 가동하기로 했다. 여야 정치권도 뒤늦게 관련 법안 마련에 나섰다. 윤석열 대통령이 강력 대응을 주문한 지난 27일부터 이날까지 총 7개 법안이 국회에 제출됐다. 법안 대부분은 허위 영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌 규정을 마련하는 내용을 담고 있다. 딥페이크 영상물에 대해 즉각적인 조치를 취하지 않은 경우 정보통신서비스 제공자를 처벌하도록 하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안’(김남희 의원 대표 발의)도 발의됐다. 단속에 활용되는 위장수사 방식을 개선해야 한다는 목소리도 있다. 현재는 아동·청소년 성보호법 등에 따라 신분 비공개 수사를 할 땐 사전 승인을 받아야 한다. 공휴일에 성착취물을 유포하는 텔레그램방을 발견해도 승인을 기다리다 해당 방이 없어져 수사에 차질을 빚는 경우도 있다. 또 위장수사의 대상이 아동·청소년 대상 디지털 성범죄로 한정돼 있어 피해자가 성인인 경우까지로 확대해야 한다는 지적도 나온다.

최근 사망한 프랑스 유명 배우 알랭 들롱이 자신의 재산 일부를 나누겠다며 온라인 카지노 가입을 독려하는 영상이 확산되고 있는 가운데, 이는 AI(인공지능)를 이용한 피싱으로 드러났다. 28일(이하 현지시간) 온라인 사기를 추적하는 한 엑스(X·옛 트위터) 계정에 따르면 최근 페이스북에 들롱이 온라인 카지노 사이트를 홍보하는 동영상이 유포되고 있다. 영상 속엔 양복 차림의 들롱이 등장하고 목소리 역시 들롱인 것 같지만 이는 AI가 꾸며낸 가짜다. 이 영상에서 AI로 만들어진 들롱은 “여러분이 이 비디오를 보고 있을 때면 나는 이미 죽었을 것”이라며 “내 온라인 카지노에서 여러분이 따지 못하면 10만 유로(약 1억 4000만원)를 주겠다”고 제안한다. 이어 “내 돈의 일부를 모든 프랑스인에게 나눠주기로 결정했고 그게 옳은 일이라고 생각한다”며 “누구나 첫날부터 4천 유로(약 590만원)를 받을 수 있다”고 말한다. 들롱은 자기 딸이 이미 온라인 카지노 애플리케이션(앱)을 출시했다며, 계정에 돈을 충전하고 게임을 시작하라고 권유하기도 한다. 이 영상에 첨부된 링크를 클릭하면 구글플레이 스토어를 모방한 가짜 사이트로 연결되고 이어 ‘카지노 들롱’이라는 역시 가짜 애플리케이션이 등장한다. 일간 르피가로는 사용자가 이 애플리케이션을 다운로드하면 사용자의 개인 정보와 은행 정보 등이 유출돼 금전 피해를 볼 수 있다고 경고했다. “유명인 AI 사기 증가…SNS 플랫폼 방치”AI 사기 전문가인 빅토르 바이사트는 일간 르파리지앵에 “유명인 이미지를 사기에 활용하는 사례가 점점 더 많아지고 있다”고 우려했다. 지난 3월엔 프랑스 축구 스타 킬리안 음바페도 카지노 홍보 가짜 영상에 등장한 바 있다. 바이사트는 “사기꾼들은 이런 광고를 유포하기 위해 메타에 돈을 내고 있으며 계속해서 광고를 올린다는 건 이런 식의 사기가 효과가 있다는 방증”이라며 SNS 플랫폼이 사실상 이를 방치하고 있다고 지적했다. 한편 ‘가장 아름다운 남자’로 전 세계의 추앙을 받으며 프랑스 영화 황금기를 이끈 들롱은 지난 18일 자택에서 89세를 일기로 숨을 거뒀다. ‘태양은 가득히’(1960), ‘태양은 외로워’(1962), ‘파리는 불타고 있는가’(1966), ‘볼사리노’(1970), ‘조로’(1975) 등 50여년간 90여편의 영화에 출연하며 숱한 명작을 남겼다. 1990년대 이후로는 스크린에서 거의 볼 수 없었으며, 2019년 뇌졸중으로 쓰러져 수술받은 후에는 요양 생활을 해왔다.