KAIST(한국과학기술원) 학위 수여식에서 윤석열 대통령에게 항의하던 졸업생 신민기씨가 5일 경호원들에게 끌려 나간 이른바 ‘입틀막’ 장면을 선거광고와 선거공보물에 사용하지 말라고 요구했다. 신씨는 더불어민주당과 더불어민주연합 총선 후보들이 이 장면을 활용하고 있다고 지적하고 유감을 표했다. 녹색정의당 대전시당 대변인이기도 한 신씨는 이날 입장문을 내고 “민주당이 동의 없이 자신의 피해 장면을 묘사해 선거광고에 활용하고 있다”며 “수원정 김준혁 후보, 대전 서구갑 장종태 후보 등 최소 수십 종의 선거광고와 선거공보물에 ‘입틀막’ 장면이 사용된 것으로 파악하고 있다”고 밝혔다. 신씨는 이 장면이 무단 사용된 선거공보물을 찾아 입장을 알리는 ‘#매너손챌린지’를 진행하고 있다. 그는 “학위 수여식에서 ‘연구개발(R&D) 예산 복원하라’고 외쳐 대통령 경호원들로부터 끌려나간 피해자”라고 소개했다. 그러면서 “녹색정의당은 사전에 이 사건을 전혀 몰랐는데도, 외부에서 알고 누구보다도 일찍 경찰서로 달려와 경찰조사, 경호처 고발 등 법적 절차를 함께하며 큰 도움을 줬다”고 지지를 호소했다. 이어 “청년 피해자를 이용하는 정치가 아니라 함께 세상을 바꾸는 정치가 필요하다”고 투표를 적극 독려했다. 한편 더불어민주연합 측은 ‘입틀막’ 영상광고를 삭제하라는 신씨의 공개 요구에 “낼 입장이 없다”고 한 것으로 알려졌다.

생성형 인공지능(AI) 프로그램으로 누구나 1분 이내의 쇼트폼 동영상(쇼츠) 제작을 할 수 있게 되면서 해외에서 만들어진 영상을 짜깁기한 ‘불법 양산형 쇼츠’가 소셜미디어(SNS)에 넘쳐나고 있다. 해외 영상의 경우 원작자가 자신의 영상이 다른 나라에서 몰래 활용된다는 걸 알기 어렵다는 점을 악용한 것이다. 불법 쇼츠로 실제 월 500만~600만원의 수익을 거두는 이들이 생겨나면서 저작권 침해 우려가 불거지고 있지만 다양한 ‘쇼츠 부업법’은 빠르게 확산하고 있다. 2일 SNS에 공유되고 있는 ‘쇼츠 부업’을 따라 했더니 한 생성형 AI 프로그램을 통해 57초짜리 쇼츠를 만드는 데 5분이 채 걸리지 않았다. 방법도 간단하다. ‘유튜브 링크(URL)를 입력하면 자동으로 쇼츠를 만들어 드립니다’라고 홍보하고 있는 AI 프로그램에 접속한 뒤 해외 유튜브 영상 링크를 입력하면 사실상 준비가 끝난다. 그러면 AI가 원본 영상에서 가장 많은 주목을 받았던 부분을 알아서 골라 준다. 이후 자동으로 번역된 자막이 영상에 맞춰 생성된다. 번역되면서 어색해진 자막 일부만 수정하면 곧바로 유튜브에 쇼츠를 올릴 수 있다. 유튜브는 자체 프로그램을 통해 영상을 올리기 전 저작권 침해 여부를 판단하지만 이런 쇼츠에 대해선 상당수 ‘저작권 문제가 없다’고 판별한다. 해외 영상을 원작자 동의 없이 가져와 만드는 쇼츠가 성행하기 시작한 건 지난해 2월 유튜브가 쇼츠에도 광고 수익을 배분하면서부터다. 유튜브 코리아에 따르면 90일 동안 게시한 쇼츠 동영상의 조회수가 1000만회를 달성하고, 구독자가 1000명 이상인 채널은 수익 신청을 할 수 있다. 유튜버들은 거주하는 국가에서 발생한 총 쇼츠 광고 수익에서 음악 사용료 등을 제외하고 자신의 채널 조회수만큼 광고 수익을 받는다. 업계 관계자들의 말을 종합하면 우리나라의 경우 통상 쇼츠 조회수 1만회당 1달러 정도의 수익을 받는 것으로 추산된다. 구독자 20만명의 한 채널을 보면 지난달 58개의 쇼츠를 게재했고 각 영상의 조회수는 5000회부터 150만회까지 기록했다. 조회수 1만회당 1달러의 수익을 가정하면 이 채널 운영자는 지난달 약 582만원의 수익을 거둔 것으로 추정된다. 한 유튜버는 “양산형 불법 쇼츠는 주로 해외의 자극적이거나 희귀한 장면이 포함돼 있는 경우가 많고, AI의 도움을 받다 보니 어색한 한국말이 쓰이는 게 특징 중 하나”라고 귀띔했다. 유튜브도 저작권 침해 논란을 의식해 ‘타인의 영상을 무단 재가공하면 수익을 지급하지 않는다’고 안내하고 있지만 사각지대는 여전하다. 유튜브가 영상을 삭제하려면 저작권을 침해한 영상이라는 요청이 접수돼야 하는데 이 요청은 원작자여야만 가능하다. 다른 국가에서 자신의 영상이 불법적으로 쓰이는 걸 아는 원작자가 드물다는 점을 감안하면 해당 규정은 무용지물이라는 지적이다. 앞으로 쇼츠 시장이 커지면 이러한 불법 쇼츠는 더 늘어날 가능성이 크다. 지난해 7월 기준 유튜브 쇼츠의 하루 평균 조회수는 1년 전보다 90% 이상 늘었고 같은 기간 쇼츠 시청자도 40% 이상 증가했다. 법무법인 덕수의 범유경 변호사는 “국내에선 영리 목적으로 타인의 저작물을 대량 양산하면 제3자의 고발로도 형사처벌이 가능하다”며 “저작권 침해가 명백한 경우가 다수인 만큼 민사상 손해배상 책임도 뒤따를 것”이라고 말했다.

생성형 인공지능(AI) 프로그램으로 누구나 1분 이내의 숏폼 동영상(쇼츠) 제작을 할 수 있게 되면서 해외에서 만들어진 영상을 짜깁기한 ‘불법 양산형 쇼츠’가 소셜미디어(SNS)에 넘쳐나고 있다. 해외 영상의 경우 원작자가 자신의 영상이 다른 나라에서 몰래 활용된다는 걸 알기 어렵다는 점을 악용한 것이다. 불법 쇼츠로 실제 월 500만~600만원의 수익을 거두는 이들이 생겨나며 저작권 침해 우려가 불거지고 있지만 다양한 ‘쇼츠 부업법’은 빠르게 확산하고 있다. 2일 SNS에 공유되고 있는 ‘쇼츠 부업’을 따라했더니 한 생성형 AI 프로그램을 통해 57초짜리 쇼츠를 만드는 데는 5분이 채 걸리지 않았다. 방법도 간단하다. ‘유튜브 링크(URL)를 입력하면 자동으로 쇼츠를 만들어드립니다’는 제목의 AI 프로그램에 접속한 뒤 해외에서 조회수가 높은 유튜브 영상 링크를 입력하면 사실상 준비가 끝난다. 그럼 AI가 알아서 원본 영상에서 가장 높은 주목을 받았던 부분을 골라준다. 이후 자동으로 번역된 자막이 영상에 맞춰 생성된다. 번역되면서 어색해진 자막 일부만 수정하면 곧바로 유튜브에 쇼츠를 올릴 수 있다. 유튜브는 자체 프로그램을 통해 영상을 올리기 전 저작권 침해 여부를 판단하지만, 이런 쇼츠에 대해선 상당수 ‘저작권 문제가 없다’고 판별한다.해외 영상을 원작자 동의 없이 가져와 만드는 쇼츠가 성행하기 시작한 건 지난해 2월 유튜브가 쇼츠에도 광고 수익을 배분하기 시작한 이후부터다. 유튜브 코리아에 따르면 90일 동안 게시한 쇼츠 동영상의 조회수가 1000만회, 구독자가 1000명 이상인 채널은 수익 신청을 할 수 있다. 유튜버들은 거주하는 국가에서 발생한 총 쇼츠 광고 수익에서 음악 사용료 등을 제외하고 자신의 채널 조회수만큼 광고 수익을 받는다. 업계 관계자들의 말을 종합하면, 우리나라의 경우 통상 쇼츠 조회수 1만회당 1달러 정도의 수익을 받는 것으로 추산된다. 구독자 20만명의 한 채널을 보면, 지난달 58개의 쇼츠를 게재했고 각 영상의 조회수는 5000회부터 150만회까지 기록했다. 조회수 1만회당 1달러의 수익을 가정하면 이 채널 운영자는 지난달 약 582만원의 수익을 거둔 것으로 추정된다. 한 유튜버는 “양산형 불법 쇼츠는 주로 해외의 자극적이거나 희귀한 장면이 포함돼 있는 경우가 많고, AI의 도움을 받다보니 어색한 한국말이 쓰이는게 특징 중 하나”라고 귀띔했다. 유튜브도 저작권 침해 논란을 의식해 ‘타인의 영상을 무단 재가공하면 수익을 지급하지 않는다’고 안내하고 있지만 사각지대는 여전하다. 유튜브가 영상을 삭제하려면 저작권을 침해한 영상이라는 요청이 접수돼야 하는데, 이 요청은 원작자만 가능하다. 원작자가 다른 국가에서 자신의 영상이 불법적으로 쓰인다는 것을 알기 어렵다는 점을 감안하면 해당 규정은 무용지물이라는 지적이다. 앞으로 쇼츠 시장이 커지면 이러한 불법 쇼츠는 더 늘어날 가능성도 크다. 지난해 7월 기준 유튜브 쇼츠의 하루 평균 조회수는 1년 전보다 90% 이상 늘었고, 같은 기간 쇼츠 시청자도 40% 이상 증가했다. 법무법인 덕수의 범유경 변호사는 “국내에선 영리 목적으로 타인의 저작물을 대량 양산하면 제3자의 고발로도 형사 처벌이 가능하다”며 “저작권 침해가 명백한 경우 민사상으로 손해배상 책임도 생길 수 있다”고 말했다.

유명인 사진·이름 걸고 투자 권유작년 9~12월 투자자 1266억 떼여변호사 “6개월간 피해 1조원” 추정자율 규제로는 사기 못 막아 한계“계정 1개 지우면 10개 새로 생겨”“예방적 접근·피해구제 절차 절실” 평소 유튜브를 즐겨 보던 60대 A씨는 유명인의 사진과 이름을 내건 한 채널에서 상당한 수익을 올릴 수 있다는 투자 권유 글을 발견했다. 이른바 ‘대박’이 났다는 간증 글까지 읽다 보니 자연스레 단체 채팅방(투자리딩방)으로 들어가게 됐고 이들이 추천하는 종목을 매수하기 위해 돈을 보내기 시작했다. 그렇게 들어간 투자금과 수수료 등은 총 6억원 상당. 고수익을 꿈꾸며 노후 자금을 털어 넣었지만 어느 순간 해당 리딩방은 사라졌고 연락조차 되지 않았다. 1일 구글은 이처럼 유명인을 사칭한 사기 범죄가 온라인 플랫폼에서 기승을 부리자 자사 포털과 유튜브에서 사칭 광고를 한 광고주의 계정을 사전 경고 없이 영구 정지하기로 했다. 지난달 28일부터 ‘공인, 브랜드, 조직과의 제휴 또는 이들의 지위를 사칭하거나 허위로 암시해 사용자가 금전으로 개인 정보를 제공하도록 유도하는 행위’를 전면 금지한 것이다. 그러면서 지난해 출시한 범용 인공지능(AI) 모델 ‘제미나이’를 비롯한 거대언어모델(LLM)을 활용해 광고주의 광고, 웹사이트, 계정, 제3자 출처 등 다양한 정보를 검토할 수 있다고 명시했다. 미온적인 태도로 일관하던 구글의 태도가 바뀐 건 유명인을 사칭한 범죄가 끊이질 않고 있어서다. 지난달 초 경찰청 발표에 따르면 지난해 9월부터 12월까지 접수된 투자리딩방 사기 건수는 1452건으로 경찰 산정 피해액만 1266억원에 달한다. 미국 로펌과의 공조를 통해 해외 플랫폼을 상대로 집단소송을 준비 중인 한상준 법무법인 대건 변호사는 실제 유명인 사칭 피해액이 최근 6개월간 1조원을 넘어설 것으로 추정하기도 했다. 사태가 심각해지자 도용 피해를 본 유명인들도 직접 나섰다. 방송인 송은이·황현희씨, 유명 강사 김미경씨, 주진형 전 한화투자증권 대표 등으로 구성된 ‘유명인 사칭 온라인 피싱 범죄 해결을 위한 모임’(유사모)은 지난달 22일 기자회견을 열고 “온라인 플랫폼은 현재 자신들의 광고로 인해 수많은 피해자가 발생하고 있다는 사실을 인정하고 대책을 마련하라”며 목소리를 높였다. 유명인들의 호소에 정부는 같은 달 27일 범정부 전담팀(TF)을 꾸렸으며 방송통신위원회는 네이버와 카카오, 구글, 메타 등 국내외 플랫폼 업계에 ‘유명인 사칭 광고 피해 방지를 위한 자율 규제 협조 요청’ 공문을 보냈다. 이에 지난해 11월부터 사칭 계정으로 개설한 밴드를 제재하는 등 징계 기준을 강화한 네이버는 최근 고객센터와 신고센터 등에 사칭 사기 피해를 신고할 수 있는 추가 창구 개설에 나섰다. 그러나 플랫폼사의 자율 규제에 맡겨진 현재 대응만으로는 사칭 행위와 사기 범죄를 막는 데 한계가 있다는 지적이다. 한 변호사는 구글이 내놓은 이번 조치에 대해 “이미 올라온 광고 글을 삭제한다는 건 예방적 차원에서의 접근과는 거리가 멀다”면서 “피해가 발생한 이후 사태를 수습하려 하는 것”이라고 지적했다. 구글은 전화번호 인증만으로 계정을 만들 수 있기 때문에 한 계정이 영구 정지되더라도 재차 사기 계정을 만들어 낼 수 있다. 유사모 역시 앞선 기자회견에서 “여러 차례 플랫폼에 신고해 계정을 1개 지우면 다음날 10개의 사기 계정이 새로 생겨난다”면서 “현재 온라인 플랫폼에서는 사칭 피싱 범죄를 당장 멈추게 할 수도, 처벌할 수도 없다”며 고질적인 문제를 꼬집었다. 피해자들의 피해구제 신청 절차가 없다는 점도 한계로 꼽힌다. 검사 등을 사칭한 보이스피싱 범죄의 경우 피해구제를 신청할 수 있는 법적 근거(통신사기피해환급법)가 있지만 유명인 사칭 피싱은 피해구제 신청 절차 자체가 없는 상황이다.

갤럭시 S23 시리즈와 갤럭시 Z 플립·폴드 5 시리즈 등 지난해 출시된 삼성전자 스마트폰 사용자도 실시간 통번역 기능을 비롯한 ‘갤럭시 인공지능(AI)’ 기능을 쓸 수 있게 됐다. 삼성전자는 갤럭시 S23 시리즈 등 지난해 출시한 주요 모델을 대상으로 갤럭시 AI 기능 업데이트를 전날부터 시작했다고 29일 밝혔다.이번 원 UI(One UI) 6.1 소프트웨어 업데이트는 ▲갤럭시 S23 시리즈(일반·플러스·울트라) ▲갤럭시 S23 FE ▲갤럭시 Z 플립·폴드5 ▲갤럭시 탭 S9 시리즈(일반·플러스·울트라) 등 총 9개 모델 대상이며, 업데이트를 통해 갤럭시 AI를 지원한다. 해당 제품 사용자들은 업데이트를 통해 삼성전자가 올해 출시한 갤럭시 S24 시리즈에 탑재한 실시간 통번역, 채팅 어시스트, 서클 투 서치, 노트 어시스트, 생성형 편집 등 갤럭시 AI 기능을 곧바로 사용할 수 있다. 삼성전자는 13개 언어를 지원하는 실시간 통역과 메시지의 번역부터 톤 변경까지 제공하는 채팅 어시스트를 통해 사용자들은 언어의 장벽을 넘어 보다 자유로운 소통을 할 수 있다고 강조했다. 어느 화면에서나 간단히 동그라미를 그리면 구글 검색 결과가 제공되는 서클 투 서치, 복잡한 글을 간략하고 쉽게 정리해주는 노트 어시스트, 인터넷 페이지를 원하는 언어로 번역하고 요약해주는 브라우징 어시스트는 생산성을 극대화해준다. 생성형 AI 기반으로 사진 일부를 채워주거나 사물을 삭제·이동할 수 있는 생성형 편집 기능과 AI가 사진을 분석하여 편집 도구를 추천해주는 편집 제안 기능도 지원해 갤럭시 AI를 기반으로 더욱 효율적인 사진 편집 경험을 제공한다.갤럭시 AI를 지원하는 원 UI 6.1 소프트웨어 업데이트는 스마트폰 알림창의 안내에 따라 28일부터 순차적으로 진행된다. 아울러 삼성전자는 갤럭시 AI 적용 모델 확대를 기념해 다음 달 30일까지 갤럭시 AI가 지원되는 기종을 구매하는 고객에게 갤럭시 스마트태그2를 증정하는 등 프로모션을 진행한다. 다음 달 1일부터 5월 31일까지 갤럭시 탭S9 시리즈를 구매하는 고객에게는 S펜 크리에이터 에디션 등 정품 액세서리를 최대 70% 할인하고, 기존 갤럭시 탭이나 아이패드를 반납하면 중고 매입가에서 최대 35만원을 추가 보상한다.

중국 배우 이심(33)으로 추정되는 증명사진이 한 웹드라마에 영정사진으로 불법 도용돼 논란이다. 지난 21일 중국 매체 ‘차이나 프레스’ 등에 따르면 이심의 소속사는 한 웹드라마에 이심의 사진이 영정사진으로 사용된 것에 대해 “즉각 삭제하라”고 요청했다. 이심의 소속사는 “감독은 이심의 증명사진을 매우 무례한 방식으로 드라마에 활용했다. 감독은 소속사와 어떠한 의사소통도 거치지 않았으며 초상권과 관련해 어떠한 허락도 받은 적이 없다”며 “삭제하지 않을 경우 법적 조치를 취해 관련자의 책임을 물을 것”이라고 경고했다. 논란이 커지자 웹드라마 감독은 “해당 사진은 스태프가 AI(인공지능)를 활용해 합성한 사진이다. 이심의 사진이 아니다”라면서 “그렇게 어리석은 행동은 안 했다. AI가 만든 사진이 이심과 비슷할 수도 있다는 것을 제작진도 부주의로 알아채지 못했다”라고 해명했다. 웹드라마 측은 해명을 한 뒤 1시간 후 해당 드라마 편을 삭제했다. 한편, 이심은 중국의 대중에게 많은 사랑을 받는 인지도가 높은 배우다. 그의 대표작으로는 ‘금수남가’, ‘량전하’, ‘칠야설’ 등이 있다.

얼마 전 연로하신 할머니를 위해 AI 기술로 돌아가신 아버지 모습으로 영상을 남긴 한 아들의 소식이 중국을 감동시켰다. 인공지능 기술 개발의 원래 목적이라며 과학 기술 발전의 긍정적으로 평가했던 것과 달리 이번에는 이 AI 기술을 무분별하게 사용하는 소식이 전해졌다. 17일 중국 홍성신문(红星新闻)에 따르면 한 블로거가 AI 기술을 이용해 사망한 유명 연예인을 ‘부활’ 시켜 논란이 되었다. 이 블로거는 지난 2016년 사망한 가수 차오런량(乔任梁)을 부활시켜 팬들에게 안부 인사를 남기는 영상을 만들었다. 팬들은 자신이 사랑한 연예인을 만난 것처럼 기뻐했지만 정작 가수의 가족들은 기뻐하지 않았다. 실제로 차오런량 아버지는 “온라인에서 해당 영상을 봤다. 받아들일 수 없고 보는 내내 기분이 좋지 않았다”며 해당 블로거에게 당장 영상을 삭제할 것을 요구했다. 가족의 동의도 없이 이런 영상을 만드는 것 자체가 옳지 않으며 이 영상으로 우리 가족은 “또다시 상처 입었다”라며 고통을 호소했다. 35살 대만 출신 배우인 가오이샹(高以翔)의 경우 프로그램 녹화 도중 사망해 안타까운 스타로 꼽히는 인물이다. 온라인에서는 해당 배우의 ‘디지털 부활’도 이뤄지고 있지만 그의 가족들 역시 “부활을 원치 않는다”며 영상 삭제를 요청했다. 만약 즉각 영상을 삭제하지 않을 경우 법적 조치를 취하겠다며 강경 대응했다. 해당 영상을 만든 사람들은 블로거나 다른 SNS에서 AI 기술을 이용해 사망한 사람들을 부활시키고 있다. 물론 무료는 아니다. 관련 업계에서는 암암리에 ‘가격표’까지 정해진 상태로 제작 비용은 198위안~598위안(약 3만 7000원~약 11만 원)으로 다양했다. 사망자의 얼굴로 사망자의 목소리로 말하는 것이 가장 비쌌다. 영상을 제작한 사람들은 이미 연예인 AI 영상을 삭제한 상태로 “팬들의 요청에 어쩔 수 없이 만든 것”이라며 앞으로는 유명 연예인들의 AI 부활 영상은 제작하지 않겠다고 답했다. 법조계에 따르면 “AI 부활이 가족 친지 관계에서 이뤄질 경우 고인을 그리워하는 것으로 볼 수 있으나 이 범위를 넘어설 경우 문제가 될 수 있다”라고 전했다. 고인의 초상권, 명예권 모두 여전히 법적 보호를 받고 있기 때문에 함부로 사망한 연예인의 영상을 사용할 경우 법적 처벌을 받을 수 있다고 경고했다. 중국 ‘민법전’ 제994조에 따르면 고인의 성명, 초상, 명예, 사생활 등이 침해받은 경우 배우자, 자녀, 부모가 해당 행위자에 대해 민사 책임을 물을 권리가 있다. AI 영상이 범죄나 사생활 침해로 이어지는 경우가 늘자 중국 당국은 인공지능 콘텐츠에 “이 영상은 AI로 생성되었고 허구이다”라는 점을 명시해야 한다고 규정했다.

지난 1월 복부 수술 후 모습을 드러내지 않아 건강위독설 등 여러 의혹에 휩싸인 케이트 미들턴 영국 왕세자빈이 두 달여 만에 처음 공개한 사진이 조작된 것임을 인정하고 결국 사과했다. 10일(현지시간) 케이트 왕세자빈은 의혹이 발생한 지 12시간 만에 윌리엄 왕세자 부부의 공식 소셜미디어(SNS) X(옛 트위터)에서 “많은 아마추어 사진작가들처럼 본인도 종종 원본을 고치는 편집을 실험하곤 했다”며 “전날 공개한 우리 가족 사진이 초래한 혼란에 사과를 표한다”고 밝혔다. 앞서 로이터·AP·AFP 통신 등 주요 매체들은 이날 윌리엄 왕세자 부부의 X와 인스타그램 계정에 공개된 왕세자빈의 사진이 조작됐다는 우려가 있어 사진 발행을 취소하겠다고 밝혔다. AP 통신은 “켄싱턴궁이 제공한 해당 사진을 처음에는 발행했으나, 이후 더 자세히 검토한 결과 원본 단계에서 이미지가 AP의 사진 기준에 맞지 않는 방식으로 조작된 것으로 보인다”며 “사진 속 샬럿 공주의 왼손이 모순된 것으로 보인다”고 삭제 이유를 밝혔다. 샬럿 공주의 왼손 부분을 자세히 살펴보면 소매가 매끄럽지 않고 흐릿하게 연결돼 있다. 손가락이나 소매 같은 세밀한 부분의 오류는 인공지능(AI)이 생성한 이미지에서 흔하게 나타난다.왕세자빈이 세 자녀와 함께 웃고 있는 이 사진은 지난 1월 16일 복부 수술을 받은 왕세자빈이 공식 석상에서 자취를 감춘 지 두 달여만에 처음으로 정식 공개한 사진이다. 사진과 함께 올라온 글에는 왕세자빈이 적은 것으로 보이는 “지난 두 달 동안 보내준 따뜻한 관심과 지속적인 성원에 감사드린다. 모두에게 행복한 어머니의 날을 기원한다”는 감사 인사도 적혀 있었다. 켄싱턴궁은 윌리엄 왕세자가 이달 초 해당 사진을 촬영했다며 왕세자빈의 신변을 둘러싼 의혹들을 불식하려고 했으나, 오히려 사진 조작 의혹까지 더해지며 음모론에 불을 지폈다. 켄싱턴궁은 앞서 왕세자빈이 수술 후 회복 중이며, 부활절(3월 31일) 전까지는 업무에 복귀하지 않을 예정이라고 밝혔다. 병명은 공개하지 않았으며 최근 찰스 3세 국왕이 전립선암을 진단받은 사실을 의식해 암과 관련된 것은 아니라고만 밝힌 상태다.하지만 암 진단을 받은 직후 차로 이동하며 국민을 향해 손을 흔들거나 총리의 보고를 받는 모습을 공개한 찰스 국왕과 달리 왕세자빈은 건강하다면서도 사진을 제공하지 않아 의혹만 낳았다. 앞서 켄싱턴궁은 사진이 조작됐다는 의혹에 대해 답변을 거부해 음모론을 부채질하고 있다. 영국 왕실은 전통적으로 가족의 신변과 관련해 “불평하지 않되, 설명하지 않는다”(Never complain, never explain)는 대외 전략을 써 왔다. 이번 사진 조작 의혹에 대해서도 마찬가지 방식으로 대응했다. 하지만 결국 사진 조작이 사실로 밝혀지면서 비밀을 유지하는 신비주의 전략이 되려 의혹만 낳고 있다.

생성형 인공지능(AI)이 무분별한 유해 콘텐츠를 만들어 낼 수 있다는 우려가 현실로 나타나고 있다. 세계 최고 수준의 기술로 안전성을 확보한다던 글로벌 기술기업들의 서비스가 잇달아 결함을 드러내고 있기 때문이다. 마이크로소프트(MS) 내부에서 자사 생성형 AI가 성적 묘사 등을 담은 이미지를 생성한다는 경고가 나왔지만 회사는 아직 조치를 취하지 않고 있다. 6일(현지시간) 월스트리트저널(WSJ)과 CNBC 등에 따르면 MS의 AI 기술자인 셰인 존스는 자사 이미지 생성 서비스 ‘코파일럿 디자이너’ 이용 등급을 성인용으로 변경할 것을 제안하는 서한을 이사회와 연방거래위원회(FTC)에 보냈다. 그는 서한을 통해 “지난 3개월간 더 나은 안전장치가 마련될 때까지 이 프로그램을 공개적으로 사용하지 말 것을 MS에 거듭 촉구했지만 회사는 거부했다”고 고발했다. 코파일럿 디자이너는 오픈AI의 이미지 생성 모델 ‘달리’(Dall-E)를 기반으로 사용자의 문자 명령어에 따라 이미지를 만들어 주는 서비스다. 존스는 지난해 12월부터 코파일럿 디자이너의 결함을 찾는 ‘레드팀’으로 활동했으며 이 과정에서 악마와 괴물, 소총을 든 10대, 여성의 성적인 이미지, 미성년자 음주나 약물 사용 등의 이미지가 생성된 것을 발견했다고 털어놨다. ‘낙태 찬성’(pro-choice)을 프로그램에 입력하자 다 자란 아이를 드릴로 공격하는 이미지가 만들어졌다고 했다. 존스는 상부에 이같은 우려를 전달했지만 묵살됐고 상품도 시장에서 회수되지 않았다. 그는 “회사 정책에 따라 모든 우려 사항을 해결하는 데 노력하고 있으며, 안전을 더 강화하기 위해 최신 기술을 연구하고 테스트하는 직원들의 노력에 감사를 표한다”는 답신만 돌아왔다고 했다. 앞서 구글의 생성형 AI 서비스 ‘제미나이’는 지난달 22일 인종 역차별 이미지를 생성하는 결함이 발견돼 현재까지 인물 관련 이미지 생성을 중단한 상태다. 제미나이는 역대 미국 대통령들과 교황 등 백인을 모두 흑인이나 아시아계로 묘사해 논란을 일으켰다. 이와 관련해 구글 공동 창업자인 세르게이 브린은 지난 4일 “테스트 부족으로 확실하게 망쳤다”며 “우리는 왜 답변이 (정치적으로) 왼쪽으로 기울어지는지 완전히 이해하지 못했다”고 말했다. 이미지 생성 AI를 학습시키는 데 쓰는 데이터세트에 아동학대 이미지가 포함돼 논란이 일기도 했다. 지난달 20일 블룸버그에 따르면 스탠퍼드 인터넷 관측소(SIO)는 독일 비영리 단체인 ‘레이온’이 배포한 데이터세트에서 아동에 대한 성적 학대로 의심되는 이미지 1000여장을 확인해 신고했다. 레이온은 곧바로 데이터세트 배포를 중단하고 문제 이미지를 삭제했다. 문제는 이 데이터세트가 이미 가장 유명한 이미지 생성기 중 하나인 ‘스테이블 디퓨전’을 학습시키는 데도 사용됐다는 점이다. 스테이블 디퓨전 운영사인 ‘스테이빌리티 AI’는 필터링으로 문제 이미지를 걸러낸 뒤 학습을 실시했다고 해명했지만 SIO 측은 “이 데이터세트로 학습한 다른 AI가 잠재적으로 유해 콘텐츠를 생성할 수 있다”며 스테이블 디퓨전 1.5버전 사용 중단을 권고했다.

행정안전부가 “만주 하얼빈에서 시작된 임시정부의 3·1 독립선언”이라는 잘못된 내용의 포스터를 제작했다가 뭇매를 맞았다. 행안부는 지난달 29일 공식 소셜미디어(SNS) 계정에 ‘3·1절을 맞아 뜻깊은 명소를 추천한다’는 내용의 카드 뉴스를 올렸다. 여기에서 행안부는 3·1운동을 “1919년 3월1일 만주 하얼빈에서 시작된 대한민국 임시정부의 독립선언과 동시에 만주, 한국, 일본 등에서 일어난 대규모 항일 독립운동”이라고 소개했다. 명백한 오류였다. 3·1운동은 1919년 3월1일 서울 종로 태화관에서 민족대표 33인이 기미독립선언서를 낭독하면서 시작됐다. 대한민국 임시정부는 3·1운동 직후인 1919년 4월 11일 수립됐고, 장소도 하얼빈이 아니라 상하이였다. 논란이 일자 행안부는 “검수를 통해 유사한 실수가 일어나지 않도록 주의 깊게 확인하겠다”며 해당 게시물을 삭제했다. 야권에서는 날 선 비판이 잇따랐다. 노무현 정부 당시 행안부 장관을 지낸 김두관 더불어민주당 의원은 “기가 막혀서 말이 나오지 않는다. 도대체 제정신들이냐. 전직 장관으로 부끄러움을 감출 수 없다”고 일갈했다. 조국 조국혁신당 인재영입 위원장도 “처음에는 가짜라고 생각했다. 정신 나간 것 아닌가. 인공지능(AI)이 만든 줄 알았다. 몰랐다고 해도 일부러 그랬다고 해도 문제”라고 비판했다.더불어민주당은 “광복 이전의 독립운동사를 폄훼하기 위한 윤석열 정부의 ‘의도적 실수’”라고 주장했다. 강선우 더불어민주당 대변인은 2일 서면 브리핑에서 “이번 해프닝은 결코 단순한 실수가 아니다. 윤석열 정부는 역사를 재단하고 왜곡하려는 시도를 하지 말라”고 경고했다. 강 대변인은 “문제가 되자 뒤늦게 행안부는 ‘역사적 오류가 있다는 사실을 확인하고 삭제했다’면서 슬그머니 해당 게시물을 내렸다”며 “행안부는 올해 처음 3·1절을 맞이하는가. 헌법 전문부터 다시 읽어보라”고 비판했다. 그러면서 “주요 국가 행사와 의전을 주관하는 행안부가 최소한의 역사적 사실조차 몰랐다는 게 말이 되느냐”고 지적했다. 민주당은 윤석열 대통령의 3·1절 기념사를 두고도 “노골적으로 극우 친일의 면모를 드러냈다”며 연일 공세를 이어갔다. 강 대변인은 “색깔론과 대일 굴종 외교로 뒤덮인 윤 대통령의 3·1절 기념사는 참담 그 자체”라며 “심지어 윤 대통령은 ‘한일 양국의 새 세상’을 운운하며 ‘일본에 역사적 책임을 묻지 않겠다’는 입장을 또다시 내비쳤다”고 비판했다. 이어 “홍범도 장군 흉상 철거 시도부터 노골적인 이승만 대통령 띄우기까지 갈수록 어처구니가 없다”며 “누구도 독점한 적 없는 역사를 윤 대통령은 마음대로 재단하고 훼손하고 있다”고 주장했다. 윤 대통령이 참석한 3.1절 기념식도 도마 위에 올랐다. 1일 오전 서울 중구 유관순기념관에서 열린 3·1절 기념식 배경은 ‘자유를 향한 위대한 여정, 대한민국 만세’라는 대형 글씨였는데 세로로 읽으면 자위대가 돼 논란이 됐다. 다른 날도 아닌 3·1절에 자위대라는 글자가 기념식 문구에 보이게 한 것은 부주의했다는 지적이 나온다.

세계 최초 인공지능(AI) 스마트폰인 삼성전자의 ‘갤럭시 S24 시리즈’가 출시 28일 만에 국내 판매량 100만대를 넘기며 판매 흥행을 이어가고 있다. 갤럭시 S24 시리즈에 새롭게 탑재된 ‘갤럭시 AI’의 신기능에 대한 국내 소비자의 관심과 호응이 높다는 평가다. 28일 삼성전자에 따르면 지난달 31일 정식 출시된 갤럭시 S24 시리즈는 출시 28일 만인 전날 기준 국내 판매량 100만대를 돌파했다. 이는 갤럭시 S 시리즈 중 최단기간에 100만대 판매를 돌파한 것으로 2017년 출시된 갤럭시 S8 시리즈보다 9일 빠르며, 전작 갤럭시 S23 시리즈보다는 약 3주 일찍 기록을 세웠다. 갤럭시 스마트폰 중에서는 2019년 출시된 갤럭시 노트 10의 25일에 이어 역대 두 번째를 기록했다. 삼성전자 관계자는 “‘실시간 통역’ 등 통·번역 기능과 새로운 검색 방식을 제공하는 ‘서클 투 서치‘가 특히 좋은 반응을 얻고 있다”고 말했다. 이어 “10대와 20대 구매 고객들은 생성형 AI 기반으로 사진 일부를 채워주거나 사물을 삭제, 이동할 수 있는 ‘생성형 편집’을 가장 선호했다”고 설명했다.

경찰이 최근 윤석열 대통령이 등장하는 허위 조작 영상이 온라인에 유포된 것과 관련해 게시자를 특정하기 위한 강제수사에 나섰다. 조지호 서울경찰청장은 26일 기자간담회에서 “영상을 올린 것으로 보이는 아이디를 확보했고, 해당 아이디로 개인을 특정하기 위한 압수수색을 집행했다”며 “당사자가 어떤 의도로 구체적 행위를 했는지 수사할 것”이라고 밝혔다. 지난해 11월부터 틱톡과 메타 등 소셜미디어(SNS)에는 ‘가상으로 꾸며 본 윤 대통령 양심고백 연설’이라는 제목의 46초짜리 영상이 확산됐다. 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이달 초 국민의힘이 영상을 올린 성명 불상자를 명예훼손 혐의로 고발하자 서울경찰청 사이버수사대가 수사에 착수했다. 경찰이 최근 방송통신심의위원회에 관련 게시글의 삭제와 차단을 요청했고 방심위는 지난 23일 영상에 대한 접속을 차단했다. 해당 영상에 대해 당초 딥페이크(AI로 만든 영상·이미지 합성 조작물)라는 추측이 제기됐으나 2022년 2월 윤 대통령이 대선 후보이던 시절 진행한 TV 연설 장면을 짜깁기한 것이라는 분석이 나왔다.

경찰이 최근 윤석열 대통령이 등장하는 허위 조작 영상이 온라인에 유포된 것과 관련해 게시자를 특정하기 위한 강제 수사에 나섰다. 조지호 서울경찰청장은 26일 기자간담회에서 “영상을 올린 것으로 보이는 아이디를 확보했고, 해당 아이디로 개인을 특정하기 위한 압수수색을 집행했다”며 “당사자가 어떤 의도로 구체적 행위를 했는지 수사할 것”이라고 밝혔다. 앞서 지난해 11월부터 틱톡과 메타 등 소셜미디어(SNS)에는 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 제목의 46초짜리 영상이 확산됐다. 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”면서 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이달 초 국민의힘이 영상을 올린 성명 불상자를 정보통신망법상 명예훼손 혐의로 고발하자 서울경찰청 사이버수사대가 수사에 착수했다. 경찰이 최근 방송통신심의위원회에 공문을 보내 관련 게시글의 삭제와 차단을 요청했고 방심위는 지난 23일 해당 영상에 대한 접속을 차단했다. 해당 영상은 당초 딥페이크(AI로 만든 영상·이미지 합성 조작물)라는 추측이 제기됐으나, 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV 연설 장면을 짜깁기한 것이라는 분석이 나왔다. 조 청장은 경찰의 자의적인 수사가 아니냐는 지적에 대해 “경찰이 마음대로 강제 수사할 수 있는 것도 아니고, 수사 결과도 검찰에서의 과정이 있고, 유죄로 판단하는 것은 법원”이라며 “자의성을 갖고 (수사)하지는 않을 것”이라고 강조했다.

조지호 서울경찰청장은 최근 온라인상에서 유포된 윤석열 대통령 모습이 등장하는 허위 조작 영상에 대해 “오늘 아이디로 개인을 특정하는 압수수색을 할 것”이라고 26일 밝혔다. 조 청장은 이날 정례 기자간담회에서 “영상을 올린 것으로 보이는 아이디를 확보했다”며 “당사자가 어떤 의도로 어떤 구체적 행위를 했는지 수사할 것”이라며 이같이 밝혔다. 앞서 지난해 연말부터 틱톡과 메타 등 소셜미디어(SNS)에는 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 제목의 동영상이 급속하게 퍼졌다. 46초 분량의 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이어 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다”며 연설을 끝맺는다. 해당 영상은 당초 ‘딥페이크’(Deepfake·AI로 만든 영상·이미지 합성 기술)로 알려졌으나 기술적으로 확인한 결과 지난 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV연설 장면을 짜깁기한 것으로 확인됐다. 경찰은 최근 방송통신심의위원회에 공문을 보내 관련 게시글의 삭제 및 차단을 요청했다. 이어 방심위는 지난 23일 이들 영상에 대한 차단 조치를 만장일치로 의결했다. 앞서 경찰은 지난해 12월 개정된 딥페이크 선거운동을 금지한 공직선거법까지 거론하며 수사 범위를 확대할 수도 있다는 취지로 말했지만, 고발 당사자가 정보통신망법상 명예훼손으로만 고발한 것으로 알려져 우선 관련 혐의에 대해 조사한다는 입장인 것으로 알려졌다. 조 청장은 “(경찰이) 자의성을 갖고 (수사)하지는 않을 것”이라면서 “경찰이 인위적으로 마음대로 강제 수사할 수 있는 것도 아니고 수사 결과도 경찰이 송치하면 검찰에서의 과정이 있고 유죄로 판단하는 것은 법원”이라고 강조했다.

전 세계적으로 ‘소라(Sora)’ 열풍이다. OpenAI가 발표한 텍스트로 동영상을 제작해 주는 인공지능으로 생각보다 수준 높은 동영상 퀄리티에 업계는 물론 일반 시민들조차도 놀라움을 금치 못하고 있다. OpenAI에서 지난 2월 15일 발표한 내용은 테스트 버전으로 아직 대중들에게 정식으로 공개되지 않은 상황이다. 그러나 이 ‘틈새시장’을 노려 벌써부터 AI 강의 시장이 들썩이고 있다. 정식 출시도 되지 않은 상황에서 Sora 관련 응용 수업, 자문 서비스, ‘독점’이라는 타이틀을 달고 수강생들을 모으고 있다. 21일 중국 현지 지무신문에 따르면 2월 15일 미국 Open AI에서 텍스트로 동영상을 생성하는 Sora를 발표한 즉시 중국 온라인 강의 시장에서 관련 강의가 쏟아져 나왔다. 현재 Sora의 경우 구체적인 사용 방법이 공개되지 않았고 일부 연구진들만 사용 권한이 있는 상태인데 소비자들의 관심이 모이는 틈을 타 사기 행각을 벌이는 것이다. 온라인 AI 관련 수업에는 저마다 ‘SORA’ 를 강조하며 누구보다 빨리 SORA를 이용할 수 있다고 강조한다. 수강료는 99위안(약 18000원) 수준으로 강의 구매 후 교환 및 환불은 ‘불가’하다. 커리큘럼을 살펴보면 Sora 전용 지시어 모음, Sora 전용 지시어 교육, Sora 전용 지시어 기술 30가지 등으로 콘텐츠 제작자, 광고 마케팅, 교육 종사자 등에 적합한 수업이라고 말한다. 우후죽순으로 나오고 있는 Sora 강의 가격대는 천차만별이다. 가장 저렴한 것은 Sora 사용 툴 강의로 강의료는 단돈 1위안, 우리 돈으로 200원도 되지 않는 가격에 판매하고 있다. 이미 700명 넘는 사람들이 이 강의를 구매한 것으로 알려졌다. 심지어 ‘Sora 내부 테스트 계정 신청’이 적게는 0.01위안 많게는 50위안(약 9232원)의 가격으로 판매되었지만 실제로 계정을 신청하면 최소 300위안(약 5만 5000원)을 요구한다. 워낙 많은 수업이 있지만 그중에서도 ‘자칭’ AI 전문가로 통하는 인물, 리이저우(李一舟)를 빼 놓을 수 없다. 중국 최고 명문대인 칭화대 박사 출신의 그는 IT 회사 3곳의 창업주이자 보유 자산만 수백억 대로 알려졌다. AI 솔루션, 비즈니스 모델, 지적재산권 관련 문제 관련 컨설팅을 주로 하면서 SNS 상에서 팔로워 331만 명을 보유한 인물이다. 원래 온라인상에서 자기개발 관련 영상을 올리던 그는 2023년 챗GPT(ChatGPT)가 공개된 이후 AI 강의를 판매하기 시작했다. 틱톡을 비롯한 중국 내 동영상 플랫폼에서 수시로 라이브 방송을 하면서 강의를 판매했고 그의 AI강의는 199위안(약 3만 7000원)이다. ‘모두의 AI 수업’이라는 강의는 1년 동안 약 25만 명이 구매했고 판매 금액만 약 5000만 위안(약 92억 3200만 원)에 달한다. 그러면서 자신을 “중국에서 ChatGPT를 가장 잘 활용하는 사람”이라고 강조하면서 홍보하고 있다. 그러나 실제 수강생들은 강의 내용이 불만족을 표시하며 환불을 요구했고, 칭화대 박사생이라고만 밝혔던 그는 사실 디자인을 전공한 것으로 알려졌다. 수강생을 위한 단체 채팅방에서 여러 수강생들이 환불을 요구하자 아예 대화방을 삭제하는 등의 행동으로 의심을 사고 있다. 전문가들은 “현재 온라인에서 유행하는 AI 강의는 실제로 수익화로 이어지는 내용이 없는 경우가 많다”라면서 “아무리 저렴한 수강비라도 사기를 당하지 않도록 조심해야 한다”라며 조언했다. 실제로 한 온라인 플랫폼에서 ‘Sora’라고 입력하자 30개가 넘는 커뮤니티가 검색되었고 이 중 10개는 유료 입장을 해야 하는 곳이었다.

방송통신심의위원회가 23일 긴급 통신심의소위원회를 열어 윤석열 대통령과 관련한 짜깁기 영상을 차단하기로 의결했다. 방심위는 향후 이와 유사한 허위 영상에 대해서는 긴급 차단 조치에 나선다는 방침이다. 이날 방심위는 경찰이 전날 삭제·차단을 요청해온 윤 대통령 관련 조작 영상 23개를 ‘현저한 사회 혼란을 일으킬 우려가 있는 영상’으로 판단하고 소셜네트워크서비스(SNS)에서 차단하는 결정을 만장일치로 의결했다. 이를 위해 인스타그램과 페이스북, 틱톡 등의 플랫폼에 차단 조치를 요청했다. 해당 영상은 인공지능(AI)으로 만든 딥페이크(Deepfake·영상·이미지 합성 조작물)가 아닌 2022년 2월 대선 과정에서 윤 대통령이 했던 TV연설 장면을 편집해 제한 것으로 파악됐다. 이 영상의 제목은 ‘가상으로 꾸며본 윤 대통령 양심고백연설’로, 44초 분량의 해당 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”라고 말하는 장면이 담겼다. 방심위는 실제 영상을 이용해 만든 해당 게시물을 일반 국민이 윤 대통령이 한 실제 발언으로 오인하게 할 우려가 큰 것으로 보고 신고 접수 하루 만에 긴급 차단 조치를 하게 됐다고 설명했다. 일각에서는 게시자가 ‘가상으로 꾸몄다’라고 밝힌 영상인 만큼 정치적 풍자로 볼 수 있다는 주장도 나온다. 경찰은 해당 영상과 게시글이 허위 사실 적시에 의한 명예훼손에 해당한다고 보고 차단을 요청한 바 있다.

“저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다. 저 윤석열의 사전에 정치 보복은 있어도 민생은 없습니다” ‘윤석열 대통령 양심고백 영상’이란 제목으로 ‘가짜’ 윤석열 대통령 딥페이크(Deepfake·AI로 만든 이미지 영상 합성 기술) 영상물이 소셜미디어(SNS)에서 확산하자 경찰이 22일 방송통신심의위원회에 차단을 요청한 것으로 확인됐다. 방심위는 해당 영상을 ‘대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물’로 판단하고 긴급 심의에 착수했다. 서울경찰청은 최근 방심위에 공문을 보내 틱톡과 메타 등에 올라온 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’ 딥페이크 게시글의 삭제와 차단을 요청했다. 근거 조항은 방송통신위원회의 설치 및 운영에 관한 법률, 정보통신망 이용촉진 및 정보보호 등에 관한 법률, 정보통신에 관한 심의 규정이다. 경찰은 “같은 URL 주소를 통해 틱톡, 인스타, 페이스북 사이트 계정을 사용하는 회원이 문제의 영상 등을 게시한 것으로 확인돼 삭제·차단을 요청한다”고 밝혔다. 방심위는 해당 내용을 접수하고 오는 23일 긴급 통신 심의소위원회를 열어 해당 안건을 심의한 뒤 바로 삭제 및 차단 조치를 할 것으로 알려졌다.46초 분량의 영상 속 윤석열 대통령은 “존경하는 국민 여러분. 저 윤석열, 국민을 괴롭히는 법을 집행해온 사람이다. 무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”라고 말한다. 이어 “저 윤석열, 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”며 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”고 말했다. 그러면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다. 감사하다”며 연설을 끝맺는다. 이날 오후 4시 현재 틱톡에서 ‘윤석열 양심’을 검색하면 같은 게시글이 5개가량 검색된다. 영상 댓글에는 “이건 윤석열이 아니다”, “이거 만든 사람 처벌해야 한다”는 부정적 반응과 반대로 “정말 저렇게 인정하면 좋으련만”, “가짜가 진짜보다 좋다” 등의 반대 반응도 달렸다. 앞서 2022년에도 지방선거를 앞두고 윤 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 SNS를 통해 확산하면서 정치적 논란이 됐었다. 한편, 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

중앙선거관리위원회가 오는 4월 총선을 앞두고 공직선거법상 위법 사항인 인공지능(AI)을 활용한 ‘딥페이크’ 불법 게시물을 22일 만에 129건이나 적발했다. 상대당 후보가 참석하지도 않은 행사에 참석한 듯 이미지를 합성하는 등 특정 정치인의 이미지를 왜곡하거나 조롱하는 영상물로 모두 삭제했다고 한다. 선거가 가까워질수록 이런 불법 선거물이 넘쳐날 판이니 대책 마련이 시급해 보인다. 딥페이크 영상 등은 AI 기술 등으로 만들어 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등이다. 공직선거법 개정에 따라 지난달 29일부터 이런 딥페이크물은 제작·편집·유포·상영·게시할 수 없다. 위반하면 7년 이하 징역이나 최고 5000만원의 벌금형에 처한다. AI 기술로 만든 가상의 영상물이라고 표시를 하더라도 허위사실이 포함된 경우에는 허위사실 공표죄로 처벌한다지만 위해성을 감안하면 미흡한 대책이다. 선관위는 반복적이고 악의적인 딥페이크물은 고발 조치 등 강력 대응해야 한다. 이런 불법 게시물은 삭제하더라도 삭제하기 전에 본 유권자들에게 특정 정당과 정치인에 대한 왜곡되거나 편향된 인식을 심어 주고 유권자의 정확한 판단을 흐리게 한다. 포털 업체와 정치권의 협조도 필요하다. 선관위에서 AI 전담 조직을 꾸려 모니터링을 강화한다지만 모든 딥페이크물을 적발하기란 힘든 일이다. 포털 업체가 선관위의 삭제 요청에 앞서 스스로 이런 딥페이크물을 걸러 내는 시스템을 갖춰야 한다. 정치권은 딥페이크를 활용한 불법 선거물을 제작, 유포하는 정치인은 공직선거에 입후보할 자격을 박탈하는 등 AI 선거의 해악을 최소화할 방안을 모색해야 한다. 유권자의 눈과 귀를 흐리는 선거는 정치에 대한 불신감만 키울 것이다.

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.