생성형 인공지능(AI) 프로그램으로 누구나 1분 이내의 쇼트폼 동영상(쇼츠) 제작을 할 수 있게 되면서 해외에서 만들어진 영상을 짜깁기한 ‘불법 양산형 쇼츠’가 소셜미디어(SNS)에 넘쳐나고 있다. 해외 영상의 경우 원작자가 자신의 영상이 다른 나라에서 몰래 활용된다는 걸 알기 어렵다는 점을 악용한 것이다. 불법 쇼츠로 실제 월 500만~600만원의 수익을 거두는 이들이 생겨나면서 저작권 침해 우려가 불거지고 있지만 다양한 ‘쇼츠 부업법’은 빠르게 확산하고 있다. 2일 SNS에 공유되고 있는 ‘쇼츠 부업’을 따라 했더니 한 생성형 AI 프로그램을 통해 57초짜리 쇼츠를 만드는 데 5분이 채 걸리지 않았다. 방법도 간단하다. ‘유튜브 링크(URL)를 입력하면 자동으로 쇼츠를 만들어 드립니다’라고 홍보하고 있는 AI 프로그램에 접속한 뒤 해외 유튜브 영상 링크를 입력하면 사실상 준비가 끝난다. 그러면 AI가 원본 영상에서 가장 많은 주목을 받았던 부분을 알아서 골라 준다. 이후 자동으로 번역된 자막이 영상에 맞춰 생성된다. 번역되면서 어색해진 자막 일부만 수정하면 곧바로 유튜브에 쇼츠를 올릴 수 있다. 유튜브는 자체 프로그램을 통해 영상을 올리기 전 저작권 침해 여부를 판단하지만 이런 쇼츠에 대해선 상당수 ‘저작권 문제가 없다’고 판별한다. 해외 영상을 원작자 동의 없이 가져와 만드는 쇼츠가 성행하기 시작한 건 지난해 2월 유튜브가 쇼츠에도 광고 수익을 배분하면서부터다. 유튜브 코리아에 따르면 90일 동안 게시한 쇼츠 동영상의 조회수가 1000만회를 달성하고, 구독자가 1000명 이상인 채널은 수익 신청을 할 수 있다. 유튜버들은 거주하는 국가에서 발생한 총 쇼츠 광고 수익에서 음악 사용료 등을 제외하고 자신의 채널 조회수만큼 광고 수익을 받는다. 업계 관계자들의 말을 종합하면 우리나라의 경우 통상 쇼츠 조회수 1만회당 1달러 정도의 수익을 받는 것으로 추산된다. 구독자 20만명의 한 채널을 보면 지난달 58개의 쇼츠를 게재했고 각 영상의 조회수는 5000회부터 150만회까지 기록했다. 조회수 1만회당 1달러의 수익을 가정하면 이 채널 운영자는 지난달 약 582만원의 수익을 거둔 것으로 추정된다. 한 유튜버는 “양산형 불법 쇼츠는 주로 해외의 자극적이거나 희귀한 장면이 포함돼 있는 경우가 많고, AI의 도움을 받다 보니 어색한 한국말이 쓰이는 게 특징 중 하나”라고 귀띔했다. 유튜브도 저작권 침해 논란을 의식해 ‘타인의 영상을 무단 재가공하면 수익을 지급하지 않는다’고 안내하고 있지만 사각지대는 여전하다. 유튜브가 영상을 삭제하려면 저작권을 침해한 영상이라는 요청이 접수돼야 하는데 이 요청은 원작자여야만 가능하다. 다른 국가에서 자신의 영상이 불법적으로 쓰이는 걸 아는 원작자가 드물다는 점을 감안하면 해당 규정은 무용지물이라는 지적이다. 앞으로 쇼츠 시장이 커지면 이러한 불법 쇼츠는 더 늘어날 가능성이 크다. 지난해 7월 기준 유튜브 쇼츠의 하루 평균 조회수는 1년 전보다 90% 이상 늘었고 같은 기간 쇼츠 시청자도 40% 이상 증가했다. 법무법인 덕수의 범유경 변호사는 “국내에선 영리 목적으로 타인의 저작물을 대량 양산하면 제3자의 고발로도 형사처벌이 가능하다”며 “저작권 침해가 명백한 경우가 다수인 만큼 민사상 손해배상 책임도 뒤따를 것”이라고 말했다.

생성형 인공지능(AI) 프로그램으로 누구나 1분 이내의 숏폼 동영상(쇼츠) 제작을 할 수 있게 되면서 해외에서 만들어진 영상을 짜깁기한 ‘불법 양산형 쇼츠’가 소셜미디어(SNS)에 넘쳐나고 있다. 해외 영상의 경우 원작자가 자신의 영상이 다른 나라에서 몰래 활용된다는 걸 알기 어렵다는 점을 악용한 것이다. 불법 쇼츠로 실제 월 500만~600만원의 수익을 거두는 이들이 생겨나며 저작권 침해 우려가 불거지고 있지만 다양한 ‘쇼츠 부업법’은 빠르게 확산하고 있다. 2일 SNS에 공유되고 있는 ‘쇼츠 부업’을 따라했더니 한 생성형 AI 프로그램을 통해 57초짜리 쇼츠를 만드는 데는 5분이 채 걸리지 않았다. 방법도 간단하다. ‘유튜브 링크(URL)를 입력하면 자동으로 쇼츠를 만들어드립니다’는 제목의 AI 프로그램에 접속한 뒤 해외에서 조회수가 높은 유튜브 영상 링크를 입력하면 사실상 준비가 끝난다. 그럼 AI가 알아서 원본 영상에서 가장 높은 주목을 받았던 부분을 골라준다. 이후 자동으로 번역된 자막이 영상에 맞춰 생성된다. 번역되면서 어색해진 자막 일부만 수정하면 곧바로 유튜브에 쇼츠를 올릴 수 있다. 유튜브는 자체 프로그램을 통해 영상을 올리기 전 저작권 침해 여부를 판단하지만, 이런 쇼츠에 대해선 상당수 ‘저작권 문제가 없다’고 판별한다.해외 영상을 원작자 동의 없이 가져와 만드는 쇼츠가 성행하기 시작한 건 지난해 2월 유튜브가 쇼츠에도 광고 수익을 배분하기 시작한 이후부터다. 유튜브 코리아에 따르면 90일 동안 게시한 쇼츠 동영상의 조회수가 1000만회, 구독자가 1000명 이상인 채널은 수익 신청을 할 수 있다. 유튜버들은 거주하는 국가에서 발생한 총 쇼츠 광고 수익에서 음악 사용료 등을 제외하고 자신의 채널 조회수만큼 광고 수익을 받는다. 업계 관계자들의 말을 종합하면, 우리나라의 경우 통상 쇼츠 조회수 1만회당 1달러 정도의 수익을 받는 것으로 추산된다. 구독자 20만명의 한 채널을 보면, 지난달 58개의 쇼츠를 게재했고 각 영상의 조회수는 5000회부터 150만회까지 기록했다. 조회수 1만회당 1달러의 수익을 가정하면 이 채널 운영자는 지난달 약 582만원의 수익을 거둔 것으로 추정된다. 한 유튜버는 “양산형 불법 쇼츠는 주로 해외의 자극적이거나 희귀한 장면이 포함돼 있는 경우가 많고, AI의 도움을 받다보니 어색한 한국말이 쓰이는게 특징 중 하나”라고 귀띔했다. 유튜브도 저작권 침해 논란을 의식해 ‘타인의 영상을 무단 재가공하면 수익을 지급하지 않는다’고 안내하고 있지만 사각지대는 여전하다. 유튜브가 영상을 삭제하려면 저작권을 침해한 영상이라는 요청이 접수돼야 하는데, 이 요청은 원작자만 가능하다. 원작자가 다른 국가에서 자신의 영상이 불법적으로 쓰인다는 것을 알기 어렵다는 점을 감안하면 해당 규정은 무용지물이라는 지적이다. 앞으로 쇼츠 시장이 커지면 이러한 불법 쇼츠는 더 늘어날 가능성도 크다. 지난해 7월 기준 유튜브 쇼츠의 하루 평균 조회수는 1년 전보다 90% 이상 늘었고, 같은 기간 쇼츠 시청자도 40% 이상 증가했다. 법무법인 덕수의 범유경 변호사는 “국내에선 영리 목적으로 타인의 저작물을 대량 양산하면 제3자의 고발로도 형사 처벌이 가능하다”며 “저작권 침해가 명백한 경우 민사상으로 손해배상 책임도 생길 수 있다”고 말했다.

대학로 학전 소극장 마당에 설치된 ‘김광석 노래비’는 학전 폐관 이후에도 보존될 예정이다. 학전은 28일 보도자료를 내고 이런 내용 등이 담긴 향후 운영방침을 밝혔다. 학전은 지난 15일 폐관했다. 이에 따라 소극장 현판은 임차계약이 끝나는 오는 31일 철거된다. 다만 마당에 있는 고 김광석 추모비와 학전 뮤지컬 ‘지하철 1호선’ 원작 극작가 폴커 루트비히와 작곡가 비르거 하이만의 흉상은 그대로 보존한다. 폐관 이후에도 학전은 사업자등록을 유지하고 김민기 대표와 학전의 저작물을 관리하고 역사를 보존하기 위한 아카이빙 작업을 이어간다. 김광석은 학전이 배출한 대중음악 스타다. 1991년부터 1995년까지 이곳에서 라이브 콘서트를 1000회 이상 열었다. 김민기 대표가 이끄는 김광석추모사업회는 매년 학전에서 ‘김광석 노래상 경연대회’를 열었다. 향후 학전블루 공간은 한국문화예술위원회가 건물을 임차, 리모델링하는 과정을 거쳐 7∼8월부터 어린이·청소년 중심 공연장으로 운영할 예정이다. 학전은 “앞으로 김민기 대표와 학전의 콘텐츠가 상업적인 형태로 이용되지 않기를 바란다”고 밝혔다.

“‘검정고무신’은 제 인생 전부이자 생명입니다. 창작 이외에는 바보스러울 만큼 어리석은 창작자들의 권리를 찾을 수 있도록 도와주십시오.” 1990년대 인기 만화 ‘검정고무신’을 탄생시킨 이우영 작가가 생전 재판부에 마지막으로 제출한 진술서에 적은 글이다. 창작자의 권리 보호와 불공정한 계약 관행 문제 개선을 촉발한 이 작가가 51세 일기로 세상을 등진 지 1년이 지났다. 만화계는 11일 1주기에 고인을 조용히 추모한다. 유가족 측을 대변해 온 이우영작가사건대책위원회는 이날은 별도로 1주기 행사를 열지 않고 오는 5∼6월쯤 추모 전시를 마련해 고인을 기리고 그의 작품 세계를 되짚어 볼 계획이다. 고인은 지난해 3월 11일 캐릭터 업체 형설앤과의 저작권 분쟁으로 심적 고통을 겪다가 극단적인 선택으로 생을 마감했다. 이를 계기로 만화·웹툰 창작자의 취약한 권리를 보호하기 위한 정책, 지원 제도 개선이 이뤄졌다. 가장 최근에 이뤄진 변화로는 정부의 만화·웹툰 표준계약서 제·개정을 꼽을 수 있다. 문화체육관광부는 지난 7일 2차적 저작물 작성권 관련 계약서 2종을 새로 마련하고 제3자와 계약할 경우 원작자에게 이를 사전에 고지해야 한다는 조항을 담았다. 생전 이 작가가 검정고무신이 2차 사업화되는 과정에서 어떤 통보도 듣지 못했다고 호소해 온 것을 고려해 업계와 정부가 머리를 맞댄 결과다. 지난해 4월에는 저작권위원회 서울사무소에 저작권 계약 전반에 필요한 법률 자문, 저작권 교육 등을 제공하는 저작권법률지원센터가 설치되기도 했다. 하지만 남은 과제도 있다. 생전 이 작가가 고통스러워했던 저작권 침해 소송이 양측의 항소로 2심으로 넘어가며 이를 둘러싼 법적 공방이 길어지게 됐다.

앞으로 만화·웹툰을 애니메이션이나 드라마 등 2차 저작물로 만들 때 사업자가 작가에게 반드시 사전 고지해야 한다. 작가는 자신의 만화를 2차 저작물로 만들 때 사업자와 별도 계약서를 작성할 수 있게 된다. 지난해 3월 만화 ‘검정고무신’ 이우영 작가가 저작권 분쟁 중 스스로 목숨을 끊는 일이 발생한 후 이를 바로잡기 위해 정부와 업계가 머리를 맞댄 결과물이다. 문화체육관광부는 만화·웹툰 분야 표준계약서 2종과 기존 6종에 대해 제·개정안을 마련한다고 7일 밝혔다. 우선 ‘2차적 저작물작성권 이용 허락 계약서’와 ‘2차적 저작물 작성권 양도 계약서’를 새로 만든다. ‘2차적 저작물 작성권 관련 계약 시 제3자와의 계약에 대한 사전 고지 의무’에 대한 조항이 포함됐다. 기존에는 2차적 저작물에 관한 내용이 본계약서 조항 중 하나로 포함됐지만, 앞으로 2차 저작물 작성과 이용에 관한 별도 계약서를 써야 한다. 2종의 계약서는 본계약 부속계약서 또는 별도 계약서 모두 사용할 수 있다. 6종 개정안에는 수익분배 비율 등을 창작자들이 쉽게 이해할 수 있는 방식으로 기재하고, 관련 주요 사항을 상호 합의해 작성하도록 한 내용이 담긴다. 정산 근거가 되는 관련 정보를 받아볼 수 있는 권리를 명문화하고, 작품별 최소·최대 컷 수를 합의해 설정할 수 있다. 비밀 유지 조건도 완화해 창작자들이 계약서 체결을 위해 변호사 등에게 검토받을 수 있게 했다. 문체부는 이번 제·개정안에 대해 “2022년 12월 정부와 업계가 ‘웹툰 생태계 상생 환경 조성을 위한 협약’에서 다룬 안건을 대부분 반영했다”고 설명했다. 제·개정안은 행정예를 거쳐 다음 달 중 확정하고 고시한다.

본인이 직접 노래하는 것처럼 인공지능이 부른다면 어떤 기분이 들까? 최근 개그맨이자 가수인 박명수는 자신의 목소리를 학습한 ‘인공지능(AI) 박명수’가 부르는 ‘밤양갱’이라는 커버곡을 듣고는 깜짝 놀랐다. 그는 방송에서 “이 노래를 부른 적이 없다. 들어 보니 어쩜 이렇게 똑같나. 앞으로 우리 어떻게 해야 하나. 연예인들 어떻게 해야 돼” 하며 혀를 내둘렀다. 인공지능 기술 발달로 AI 커버가 주목받고 있다. 커버곡은 가수가 자기 노래가 아닌 다른 가수의 노래를 자신만의 스타일로 부르는 노래다. 인공지능 커버는 일반인이 박명수 같은 연예인이나 가수의 목소리 데이터를 학습한 인공지능 모델을 활용해 만든 노래다. 정교한 커버곡은 소셜미디어에서 수백만회 조회를 올릴 정도로 인기다. AI 커버곡 제작을 전문으로 하는 채널들이 있을 정도로 새로운 음악시장을 형성하고 있다. 인공지능 커버 시장이 커질수록 법적 분쟁도 늘어날 전망이다. 저작권법엔 AI 커버 제작에 사용된 원 노래의 저작권과 목소리 주인공의 저작인접권 침해에 대한 별도 규정이 없다. 커버 인기가 노래 홍보를 뛰어넘는 단계로 옮아가면 분쟁은 불가피할 것이다. 이 때문에 한국음악저작권협회는 AI 활용 표시 의무를 담은 콘텐츠산업진흥법 개정을 촉구하고 있다. AI 커버곡 제작자들은 자신들의 행위가 공익성을 가지며 인공지능 산업 발전에도 기여한다고 한다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정이용으로 본다. 최근 미국의 뉴욕타임스가 자사 기사를 무단 사용했다며 오픈AI를 상대로 낸 저작권 침해 소송에 오픈AI는 이 공정이용 조항을 들먹이며 반박했다. 하지만 가치 있고 신뢰도 있는 데이터를 상업적으로 사용한다면 법적으로 문제될 수 있다. 법적 분쟁 못지않게 우려되는 건 이런 기술이 딥페이크 등 범죄에 악용될 수 있다는 점이다. 목소리 데이터가 쌓이면 쌓일수록 본인까지 깜짝 속을 정도의 딥보이스 기술이 적용된 콘텐츠는 확산될 것이다. 인공지능 기술 발달로 현실과 상상의 경계가 무너지고 있다. 인공지능이 삶의 질은 향상시키고 범죄에 악용되는 등의 부작용은 줄일 안전한 보안기술이 나오기를 바라 본다.

‘AI 임재범’ 뉴진스 커버도 73만회가수 동의 없이 ‘2~3분’ 만에 제작목소리 주인에게 수익 배분 안 돼저작인접권 침해여부 판단 어려워저작권협 “저작물 활용 표기해야”법조계 “수익 없어도 분쟁 소지” “달디달고 달디달고 달디단 밤양갱 밤양갱~” 귓가에 계속해서 맴도는 멜로디와 흥미로운 가사로 인기를 모으고 있는 가수 비비의 ‘밤양갱’이라는 노래는 최근 소셜미디어(SNS)에서 폭발적인 인기를 끌고 있다. 이 노래가 화제가 된 배경 중 하나는 생성형 인공지능(AI) 기술로 만들어진 가수 고 김광석, 백예린, 만화 캐릭터인 보노보노 등 다양한 이들의 목소리가 담긴 이른바 ‘AI 커버곡’이 대거 등장해서다. AI 커버곡은 AI가 실제 가수 목소리를 학습해 멜로디 위에 입히는 방식으로 만들어진다. 유튜브 등 SNS에서 AI 커버곡이 인기를 끌면서 5일 기준 아이유가 부른 밤양갱 AI 커버곡 영상은 조회수가 44만회를 기록했다. 앞서 프레디 머큐리의 목소리로 커버된 아이유의 ‘내 손을 잡아’는 131만회, 임재범의 목소리로 커버된 뉴진스의 ‘Hype Boy’는 조회수가 73만회나 됐다. 하지만 아이유의 목소리를 입힌 ‘밤양갱’으로 수익이 발생해도 정작 목소리의 당사자인 아이유는 1원도 가져가지 못한다. AI 커버곡 제작 과정에서 학습에 활용된 목소리의 주인공인 가수에게는 수익을 배분받을 수 있는 저작인접권이 인정되지 않아서다. 창작된 표현을 보호하는 저작권은 아니지만 가수나 연주자 등 실연자나 음반 제작자, 방송사업자는 저작권에 준해 보호되는 저작인접권을 갖는다. 실제 가수가 다른 가수의 노래를 리메이크한 음악에 대한 수익은 노래를 부른 실연자에게도 분배되지만 AI 커버곡은 목소리의 주인공과 수익을 나누지 않는다. AI 커버곡의 목소리는 원곡 가수의 목소리로 인정하지 않기 때문이다. 황선철 한국음악저작권협회 사업2국장은 “AI 커버곡을 만들기 위한 학습 단계에서는 저작인접권 침해 우려가 있지만 AI 커버곡 완성본에는 해당 가수의 음원 원본이 더이상 남아 있지 않아 저작인접권이 침해됐다고 보기 어렵다는 견해가 많다”고 말했다. 강진석 변호사도 “AI 커버곡은 가수의 음성에 부여되는 인격권을 침해해서 손해배상이나 사용금지 청구를 고려할 수 있다”면서도 “하지만 커버곡이 공유되는 유튜브가 잘 협조하지 않아 커버곡 제작자를 찾는 과정 자체가 쉽지 않다”고 설명했다. 국내에선 아직 AI 커버곡에 자신의 목소리가 쓰이는 것에 대한 반대나 우려 의견을 낸 가수는 없지만, 미국에서 래퍼 드레이크와 위켄드가 협업한 것으로 알려진 노래가 AI 커버곡으로 밝혀지면서 두 사람의 소속사가 이 노래에 대한 게재 금지를 요청한 일이 있었다. AI 커버곡 제작 프로그램을 제공하는 업체의 저작권 침해 우려가 크다는 지적도 나온다. 업체들이 제공하는 프로그램을 사용, 음성 학습을 위한 노래와 커버할 원곡 파일만 올리면 2~3분 만에 온라인에서 자동으로 커버곡을 만들 수 있다. 박정훈 한국저작권위원회 선임연구원은 “실연자나 저작권자의 권리가 침해될 수 있다는 사실을 알면서도 프로그램을 제공한 것”이라면서 “어느 정도로 영리성을 추구했는지에 따라 방조 책임이나 간접 책임을 질 수 있다”고 말했다. 대부분의 AI 커버곡 제작자들은 음원 제작자의 동의 없이 무단으로 커버곡을 만든다. 이런 상황에서 목소리의 주인공인 가수의 저작인접권이 제대로 보호받기 어려운 만큼 창작자와 노래를 부른 가수의 권리 등에 대한 명확한 규정이 필요하다는 지적이 나온다. 지난해 12월 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시키기도 했다. 국내에서는 한국음악저작권협회가 ‘생성형 AI 콘텐츠 표기 의무화법’ 도입의 필요성을 주장하며 지난 1월 국회 공청회를 열었다. 한국음악저작권협회는 “AI 생성물 여부와 AI 커버곡 제작에 어떤 저작물이 활용됐는지 표기를 의무화하는 입법이 시급하다”고 밝혔다. 반면 AI 커버곡 제작은 ‘공정 이용’에 해당한다는 의견도 있다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정 이용으로 본다. SNS에 AI 커버곡을 만들어 올리는 제작자들은 ‘커버곡으로 음원 수익을 창출하지 않는다’며 음원을 학습해 커버곡을 만드는 과정이 공익성을 일부 가지며 AI 산업 발전에도 기여하는 것이라고 주장한다. 이에 대해 이나래 변호사는 “수익을 창출하지 않았더라도 가수의 목소리를 학습 데이터로 무단 활용한 것은 법적으로 분쟁의 소지가 있다”고 지적했다.

“달디달고 달디달고 달디단 밤양갱 밤양갱~” 귓가에 계속해서 맴도는 멜로디와 흥미로운 가사로 인기를 모으고 있는 가수 비비의 ‘밤양갱’이라는 노래는 최근 소셜미디어(SNS)에서 폭발적인 인기를 끌고 있다. 이 노래가 화제가 된 배경 중 하나는 생성형 인공지능(AI) 기술로 만들어진 가수 고 김광석, 백예린, 만화 캐릭터인 보노보노 등 다양한 이들의 목소리가 담긴 이른바 ‘AI 커버곡’이 대거 등장해서다. AI 커버곡은 실제 가수가 부르지 않은 노래를 AI가 학습한 가수의 목소리로 재생성해 멜로디 위에 입히는 방식으로 만들어진다. 유튜브 등 SNS에서 AI 커버곡이 인기를 끌면서 5일 기준 아이유가 부른 밤양갱 AI 커버곡 영상은 조회수가 44만회를 기록했다. 앞서 프레디 머큐리의 목소리로 커버된 아이유의 ‘내 손을 잡아’는 131만회, 임재범의 목소리로 커버된 뉴진스의 ‘Hype Boy’는 조회수가 73만회나 됐다. 하지만 아이유의 목소리를 입힌 ‘밤양갱’으로 수익이 발생해도 정작 목소리의 당사자인 아이유는 1원도 가져가지 못한다. AI 커버곡 제작 과정에서 학습에 활용된 목소리의 주인인 가수에게는 저작인접권이 인정되지 않아서다. 창작된 표현을 보호하는 저작권은 아니지만 가수나 연주자 등 실연자나 음반제작자, 방송사업자는 저작권에 준해 보호되는 저작인접권을 갖는다. 실제 가수가 다른 가수의 노래를 리메이크한 음악에 대한 수익은 노래를 부른 실연자와 노래를 만든 저작권자에게 모두 분배되지만, AI 커버곡은 목소리의 주인공과 수익을 나누지 않는다.황선철 한국음악저작권협회 사업2국장은 “AI 커버곡을 만들기 위한 학습 단계에서는 저작인접권 침해 우려가 있지만 AI 커버곡 완성본에는 해당 가수의 음원 원본이 더이상 남아 있지 않아 저작인접권이 침해됐다고 보기 어렵다는 견해가 많다”고 말했다. 강진석 변호사도 “AI 커버곡은 가수의 음성에 부여되는 인격권을 침해해서 손해배상이나 사용금지 청구를 고려할 수 있다”면서도 “하지만 커버곡이 공유되는 유튜브 등이 잘 협조하지 않아 커버곡 제작자를 찾는 과정 자체가 쉽지 않다”고 설명했다. 국내에선 아직 AI 커버곡에 자신의 목소리가 쓰이는 것에 대한 반대나 우려 의견을 낸 가수는 없지만, 미국에서 래퍼 드레이크와 위켄드가 협업한 것으로 알려진 노래가 AI 커버곡으로 밝혀지면서 두 사람의 소속사가 이 노래에 대한 게재 금지를 요청한 일이 있었다. AI 커버곡 제작 프로그램을 제공하는 업체의 저작권 침해 우려가 크다는 지적도 나온다. 업체들이 제공하는 프로그램을 사용하면 온라인에서 음성학습을 위한 노래와 커버할 원곡 파일만 올리면 2~3분 만에 자동으로 커버곡을 만들 수 있다. 박정훈 한국저작권위원회 선임연구원은 “가수나 연주자 등 실연자나 저작권자의 권리가 침해될 수 있다는 사실을 알면서도 프로그램을 제공한 것”이라면서 “어느 정도로 영리성을 추구했는지에 따라 방조 책임이나 간접 책임을 질 수 있다”고 말했다.대부분의 AI 커버곡 제작자들은 음원 제작자의 동의 없이 무단으로 커버곡을 만든다. 이런 상황에서 목소리의 주인공인 가수의 저작인접권이 제대로 보호받기 어려운 만큼 창작자와 노래를 부른 가수의 권리에 대한 명확한 규정이 필요하다는 지적이 나온다. 지난해 12월 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시키기도 했다. 국내에서는 한국음악저작권협회가 ‘생성형 AI 콘텐츠 표기 의무화법’ 도입의 필요성을 주장하며 지난 1월 국회 공청회를 열었다. 한국음악저작권협회는 “AI 생성물 여부와 AI 커버곡 제작에 어떤 저작물이 활용됐는지 표기를 의무화하는 입법이 시급하다”고 밝혔다. 다만 SNS에 AI 커버곡을 만들어 올리는 제작자들은 ‘커버곡으로 음원 수익을 창출하지 않는다’며 음원을 학습해 커버곡을 만드는 과정이 AI 산업 발전에 기여하는 것이라고 주장한다. 이에 대해 이나래 변호사는 “수익을 창출하지 않았더라도 가수의 목소리를 학습 데이터로 무단 활용한 것은 법적으로 분쟁의 소지가 있다”고 지적했다.

앞으로 지역서점은 도서를 15% 이상 할인 판매할 수 있게 된다. 외국인을 대상으로만 허용하던 도시민박(공유숙박)을 내국인에게도 허용한다. 유인촌 문화체육관광부 장관은 4일 서울 종로구 국립현대미술관 서울관에서 규제혁신 추진회의를 주재하고 문화·예술·스포츠·관광 등 5대 분야 20개 과제의 규제 혁신을 추진한다고 밝혔다. 우선 도서정가제 적용 대상에서 웹툰과 웹소설을 제외하는 내용으로 연내 출판문화산업진흥법을 개정한다. 도서정가제는 도서 가격 할인 폭을 정가의 15%(가격 할인 10%+마일리지 5%) 이내로 제한하는 제도다. 온라인·오프라인 서점이 이를 위반하면 과태료 처분을 받는다. 다만 지역서점에 한해 정가의 15% 이상 할인해 판매할 수 있도록 완화한다. 지역서점은 규모 660㎡(약 200평) 미만으로, 매장 내 구성 상품 절반 이상이 책이고 서적 매출액이 50% 이상인 오프라인 서점을 가리킨다. 이밖에 도시지역 주택에서 외국인을 대상으로만 허용한 도시민박을 내국인도 이용할 수 있도록 제도화 방안을 마련하기로 했다. 게임물과 온라인 동영상 서비스(OTT) 광고의 등급분류 민간 자율성도 대폭 확대한다. 현재 게임물 자체등급분류사업자는 ‘청소년이용불가’ 게임에 대한 등급을 분류할 수 없지만, 올해 안에 게임산업법을 개정해 청소년이용불가 게임도 등급을 분류할 수 있도록 권한을 확대한다. ‘영화 및 비디오물의 진흥에 관한 법률’도 연내 개정해 OTT 자체등급분류사업자가 본편뿐 아니라 광고·선전물 등 예고편에 대해서도 영상물등급위원회의 사전심의 없이 자체 심의할 수 있도록 한다. 수출과 투자 확대를 위한 과제로는 신규 개발된 카지노게임의 사행성 등을 검증할 수 있도록 6개월 이내로 시범운영을 허용하는 방안을 추진한다. 미술품 수출 규제도 올해 안에 문화유산법 시행령을 개정해 완화한다. 제작된 지 50년 이상 지난 미술품은 수출이 원칙적으로 금지됐으나, 앞으로 1946년 이후 제작된 미술품은 별도 허가 없이 수출할 수 있도록 한다. 소상공인과 기업의 애로사항도 개선한다. PC방 등에서 소상공인이 신분증 위조·변조·도용 등으로 청소년에게 속아 억울하게 영업정지·등록취소를 당하지 않도록 영화비디오법, 게임산업법, 공연법 등을 개정해 행정처분을 면제받는 근거 규정을 마련한다. 선착순으로만 이용할 수 있던 비회원제 골프장의 이용방식을 개선해 골프장과 숙박 등을 연계한 다양한 상품개발이 가능하게 하고, 골프장의 체육지도자 배치 의무도 폐지할 방침이다. 지자체가 공립 박물관·미술관을 설립하려면 문체부 장관으로부터 설립 타당성 사전평가를 받아야 했지만, 관련법을 개정해 지자체가 스스로 평가할 수 있도록 한다. 인구 감소 지역에서는 ‘소규모 관광단지’ 제도를 신설한다. 소규모 관광단지(5만~30만㎡)는 총면적이 관광단지(50만㎡ 이상)만큼 크지 않아도 시장·군수가 시·도지사의 사전협의를 거쳐 지정할 수 있다. 저작권자를 알 수 없는 저작물을 이용하는 경우 저작권자를 찾기 위해 문서 등을 보낸 후 1개월 이내에 회신이 없으면 법정 허락을 통해 이용이 가능한데 이 기간을 최대 20일로 축소할 방침이다. 이밖에 저작권 등록 수수료 인하, 여행업, 국제회의업과 유원시설업의 등록·허가 신청 서류 간소화 등도 포함됐다. 문체부는 지난해 10월부터 문화·예술·콘텐츠·체육·관광 등 분야별로 건의 사항을 수렴해 문체부 개혁전담팀(TF)이 추진 과제를 구체화했다. 전병극 제1차관이 팀장인 개혁전담팀을 통해 추진과제 이행 상황을 분기별로 점검한다.

한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 여럿 수상했지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. #AI 화가 ‘미드저니’‘멸종위기종’ 한국 어린이 그려주최 측 “창의·기획력 등 평가” 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출산 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽게 표현되지 않은 것을 두고 AI가 그려 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 “생성형 AI 미드저니를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 프로젝트 펀딩을 받기 전 AI 활용 여부와 범위를 명확하게 밝히도록 권고한다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. #AI 제작물의 저작권단순 명령어 입력하는 것 넘어핵심 아이디어·추가 작업 필수 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 쓴 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 김명주 서울여대 정보보호학과 교수는 “AI로 손쉽게 만든 그림이나 글은 창작자들이 공들여 만든 데이터를 학습한 결과이기에, 학습 데이터를 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 자신의 저작권을 주장하지 않고 AI를 금지한 공모전도 생긴 것”이라고 설명했다. 손승우(중앙대 법학과 교수) 한국지식재산연구원장도 “예술인의 권한을 침해하지 않도록 AI를 발전시키고 공모전도 기준을 세워야 한다”고 강조했다.

한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 수상한 사례가 있었지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만, 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출생 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽지 않아 AI가 그렸기에 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 서울신문과 통화에서 “생성형 AI ‘미드저니’를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도 주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 비슷한 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고, 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 AI 활용을 금지하고 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 지난해부터 프로젝트 펀딩을 받기 전에 AI 활용 여부와 범위를 명확하게 밝히도록 권고했다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고, 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “그동안 촬영이나 포토샵 등 다양한 도구를 사용했는데 미드저니 등 AI를 활용한 광고가 많아졌다”면서 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 현재 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심적인 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 활용해 만든 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 하신아 웹툰작가노조 위원장은 “인간에게만 저작권을 보장하는 건 인간이 계속 창작할 수 있도록 창작 의욕이나 생활을 보호하기 위해서다”며 “식품에 원산지를 표기하는 것처럼 AI를 얼마나 활용했는지도 밝혀야 하는 시대가 왔다”고 말했다. 김명주 서울여대 정보보호학과 교수는 “AI로 손 쉽게 만든 그림이나 글은 창작자들이 공 들여 만든 데이터를 학습한 결과이기에, 학습 데이터의 저작권도 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 당장은 자신의 저작권을 주장하지 않고, AI 사용을 막는 공모전이 생긴 것”이라고 설명했다. 손승우 한국지식재산연구원장(중앙대 법학과 교수)도 “AI를 활용한 결과물이 기존 문화예술인의 권익을 침해하는 등 윤리적, 법적 문제가 발생할 수 있다”면서 “AI가 기존 저작물을 침해하지 않도록 발전시키고, 공모전도 출품작에 대한 기준을 세워야 한다”고 강조했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

생성형 인공지능(AI)은 시·소설, 시나리오 등의 글쓰기부터 음악, 미술 등 예술 창작 전반에 활용되고 있다. 세계적으로 AI를 창작 도구로는 인정하고 있지만 저작권은 인간에게만 허용된다는 게 원칙이다. 국내 대중음악 창작에는 AI가 깊숙이 침투해 있다. 지니뮤직은 지난해 AI를 활용한 편곡 서비스 ‘지니리라’를 선보였고 김형석 작곡가는 AI 편곡 프로젝트를 진행 중이다. 국내에서는 이미 AI 저작권이 취소된 사례도 나왔다. 안창욱 광주과학기술원(GIST) 교수가 개발한 AI 작곡가 ‘이봄’(EvoM)이 곡을 쓴 노래 ‘사랑은 24시간’은 가수 홍진영이 불러 2021년 2월 음원이 공개됐다. 이와 관련해 한국음악저작권협회는 AI 작곡 사실을 확인하고 이봄에 대한 저작권 취소와 함께 저작권료 지급을 중단한 바 있다. 김현숙 한국음악콘텐츠협회 정책법률연구소장은 “AI가 작곡·작사한 음악은 원천적으로 지식재산권이 인정되지 않으며 AI 가창의 경우 실연권도 허용되지 않는다”며 “창작자들이 AI를 보조 수단으로 사용한 경우에만 저작권 등록이 가능하다”고 말했다. AI가 쓴 시와 소설 역시 저작권이 인정되지 않는다. 창작물이 아닌 기존 작품들을 활용한 ‘산출물’에 불과하다는 판단 때문이다. 지난해 9월 미국 작가협회가 챗GPT 개발사 오픈AI를 상대로 제기한 기존 저작물의 무단 학습 소송 결과가 나오면 저작권 다툼의 기준이 확립될 것으로 전망된다. 이정화 민음사 편집자는 “생성형 AI를 창작에 활용하는 작가가 늘어나는 건 간과할 수 없는 시대적 흐름이지만 민감한 ‘2차 저작 인용’ 문제를 출판계도 예의 주시하고 있다”고 말했다. 국내에서도 지난해 11월 웹툰 작가를 주축으로 국회가 논의 중인 ‘AI 학습 면책권’ 도입에 반대하는 입장을 표명한 바 있다. 이들은 “‘TDM’(텍스트와 데이터 마이닝) 면책 규정이 무분별하게 도입되면 AI가 기존 웹툰들을 무단 학습해 상업적으로 무차별 이용할 것”이라고 우려했다. AI가 그린 그림과 사진 작품도 이미 법적 판단이 나오거나 피소되는 상황에 부닥쳤다. 지난해 8월 미 연방법원은 AI로 만든 미술 작품에 대한 저작권을 불허하는 첫 판결을 낸 바 있다. 정준모 미술평론가는 “최근 유명 예술비평가 제리 살츠가 로마에서 AI 작품을 구매하면서 논쟁이 붙었지만 진짜 미술품으로 판단할 수 있는지는 여전히 논쟁의 영역”이라고 지적했다. 지난해 12월 생성형 AI 저작권 안내서를 발간한 문화체육관광부는 AI의 데이터 학습과 관련한 저작권 보호 기술 개발에 나서고 있다. 유럽연합(EU) 역시 지난해 12월 AI 콘텐츠에 대한 워터마크 의무화 법안을 통과시켰고, 우리 국회에도 AI 콘텐츠의 표기를 의무화하는 콘텐츠산업진흥법 개정안이 발의된 상태다. 앞으로 AI 창작물의 경우 AI가 얼마나 관여했는지 판별하는 기술이 중요해질 전망이다. 저작권 이슈가 첨예한 창작물의 경우 표절 여부부터 해당 창작물에 대한 AI의 참여율을 수치화하는 판정 기술이 절대적으로 필요하다는 인식이 커지고 있다.

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

“선관위, 영상 확인에 최소 하루선거 전날 유포 땐 대응 어려워”“딥페이크 저작물 엄격한 관리기술 발전 막는 방향은 안 돼” 중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인된 가운데 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른AI연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는 데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지, 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 애플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 총선 앞 국론 분열을 노린 북한이 딥페이크 영상을 유포하며 공격에 나설 수 있다는 의미다. 영국 옥스퍼드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업해야 한다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인되면서 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른 AI 연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니, 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만, 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 어플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수도 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 북한이 딥페이크 영상을 유포해 총선 앞 국론 분열을 노려 공격에 나설 수 있다는 의미다. 영국 옥스포드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업이 필요하다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

정부가 인공지능 저작권에 대한 방안을 전문가들과 함께 모색한다. 문화체육관광부와 한국저작권위원회는 학계, 법조계, 권리자, 사업자, 산업기술계 등 다양한 분야 전문가가 참여하는 협의체(워킹그룹)로 구성한 ‘2024 인공지능(AI)-저작권 제도개선 워킹그룹’을 발족하고 전병극 제1차관 주재로 19일 첫 번째 회의를 연다고 밝혔다. 협의체는 11월까지 전체 회의와 쟁점별 분과 회의로 나누어 운영된다. 전체 회의에서는 분과 회의에서 논의할 주요 의제를 설명하고 이에 대한 위원들의 의견을 듣는다. 매월 진행하는 분과 회의에서는 쟁점별 주요 현안에 대한 구체적인 정책대안을 논의하고 논의 내용을 다시 전체 회의에 공유해 보완한다. 협의체는 저작물을 포함한 데이터를 수집·이용하는 ‘학습’ 분과 단계와 데이터를 생성하는 ‘산출’ 분과 단계로 나눠 운영된다. 학습 분과에서는 인공지능 학습용 저작물에 대한 적법한 이용 권한 확보 방안, 인공지능 학습데이터의 목록 공개 여부 등을 다룬다. 산출 분과에서는 인공지능 산출물의 보호 여부와 표시 방안, 인공지능 산출물의 저작권 등록 시 요건과 범위, 저작권 침해 판단 기준 등을 논의한다. 문체부와 위원회는 협의체 운영과 함께 인공지능과 저작권 쟁점에 대한 종합적인 대책을 마련하기 위해 ‘인공지능-저작권 법·제도 개선 방안 연구’를 병행한다. 이후 대국민 의견수렴 등을 거쳐 연말에 인공지능과 저작권 쟁점에 대한 정책 방향을 발표할 예정이다. 전병극 문체부 차관은 “최근 유럽연합이 인공지능 법안(AI act) 최종안에 합의하고, 미국은 행정명령을 통해 대책 수립을 지시하는 등 전 세계가 인공지능 시대의 저작권 이슈에 대해 적극적으로 대응하고 있다”면서 “문체부도 인공지능 시대를 선제적으로 대응하겠다”라고 밝혔다.

소녀시대 멤버이자 배우 최수영의 첫 연극 작품 ‘와이프’가 공연 도중 불법촬영한 민폐 관객 때문에 논란이 일고 있다. 최근 한 온라인 커뮤니티에는 지난 5일 ‘와이프’ 공연 도중 한 남성 관객이 DSLR 카메라를 꺼내 연속 촬영을 했다는 후기가 올라왔다. 해당 관객은 인터미션 후 2막에 입장했는데 최수영이 맡은 데이지가 옷을 갈아입는 장면에서 대포 카메라를 꺼내 대놓고 촬영했다는 내용이었다. 이에 주변 관객까지 덩달아 촬영했지만 스태프가 제지하지 않았고 공연이 끝나고 항의하자 “그 사람이 나가서 어떻게 할 방법이 없다”는 답을 들었다고 한다. 공연 중에 촬영은 엄연히 불법이다. 커튼콜 때 촬영이 가능하거나 저작권이 엄격한 작품은 빈 무대 촬영조차 금지되기도 한다. 이런 비매너 행동이 발생하면 공연장 직원이 주의를 주지만 ‘와이프’에서는 이 부분이 부족했다는 관객들의 불만이 쏟아졌다.논란이 불거지자 ‘와이프’ 측은 “공연장 특성상 사람의 눈으로 직접 보는 것이다 보니 사각지대 같은 것들이 있고 해서 몰랐던 것 같다”고 해명했다. 이어 “내부적으로 하우스 쪽에서도 인력을 좀 더 충원할 예정”이라며 “원래 현장에서 촬영하지 못하게 돼 있다. 이 부분을 더 강하게 알릴 것”이라고 덧붙였다. 외국인 관객도 알아들을 수 있도록 영문 멘트도 추가하고 2막 시작할 때도 안내 멘트를 강력하게 공지하겠다는 방침이다. 불법촬영이 이뤄진 만큼 저작물이 온라인에 올라오는 것도 살피겠다는 입장이다. ‘와이프’ 관계자는 “제작사 쪽에서도 이런 불법 촬영물을 올려서 2차 가공을 하는 것에 대해 강력하게 대응할 예정이다. 그것과 관련해 모니터링도 지속적으로 할 계획”이라고 설명했다. 서울 강서구 LG아트센터 서울에서 공연 중인 연극 ‘와이프’는 헨리크 입센(1828~1906)의 연극 ‘인형의 집’을 모티브로 한 작품이다. ‘인형의 집’이 끝나는 시점에서 시작해 1959년부터 2046년까지 4개의 시대를 유기적으로 연결해 사회의 억압적인 시선에 갇힌 여성과 퀴어의 이야기를 집중적으로 다뤄 이들의 사랑과 삶을 예술적인 시선으로 담아냈다.