이상민 행정안전부 장관이 5일(현지시간) 아랍에미리트(UAE) 두바이에서 디지털정부 담당 장관 등을 만나 디지털정부 협력 강화와 한국 기업의 중동 진출 방안에 대한 논의를 했다. 전날 사우디아라비아 국제기술전시회(LEAP)에 참석해 한국의 인공지능(AI) 기술 등 첨단 기술을 알리고 디지털정부 담당 사우디 장관을 만나 협력을 모색한 데 이은 중동에서의 두 번째 행보다. 이 장관은 이날 오후드 알 루미 장관 UAE 정부발전미래부 장관을 만나 디지털정부 및 정부혁신 분야 협력 강화 방안을 논의했다. 오후드 장관은 “한국의 디지털정부는 세계 최고 수준으로 유엔과 경제협력개발기구(OECD) 평가에서 우수한 성적을 거뒀다. 한국이 중점으로 추진하고 있는 디지털플랫폼 정부를 배우고 싶다”면서 “AI·데이터·디지털전환 분야에서 협력이 확대되기를 희망한다”고 말했다. 오후드 장관은 한국의 모바일 신분증과 유사한 서비스로 연간 2000만명 이상이 사용하는 대국민 정부 포털 ‘U.AE’와 공공서비스용 디지털 신분증 ‘UAE Pass’를 소개했다. 그는 “한국 정부가 민간 IT 기업과 함께 디지털플랫폼 정책을 추진하고 있는 것처럼 UAE도 민간 기업과 협력 모델을 만들고 있다”고 말했다. 이 장관은 “한국의 디지털플랫폼 정부는 단순 전산화를 넘어 손에 잡히는 편리함을 주기 위해 국민 일상의 디지털화에 집중하고 있다”면서도 “다만 인구감소·고령화 등 한국이 직면한 사회적 문제도 함께 고려하고 있다”고 말했다.세계 최초의 AI 분야 장관인 오마르 빈 술탄 알 올라마 UAE AI·디지털경제부 장관과의 면담도 성사됐다. 이 장관은 생성형 AI 활용 가이드라인 제작, 공공부문 특화형 초거대 AI 기반 구축, AI 기술을 활용한 보이스피싱 수사, 교통량 영상분석 등 공공부문에서 AI를 활용한 사례를 공유했다. 오마르 장관은 전국 도로 교통량 조사에 AI를 도입해 예산 절감 효과가 나타났다는 이 장관의 말에 관심을 보이며 “한국의 IT 기업들이 세계적으로 우수하다. 한국 기업과 협업하고 싶다”고 밝혔다. 이에 이 장관은 “두바이는 중동에서 디지털플랫폼 정부 수출에 중요한 도시이기 때문에 국내 IT 기업이 진출할 수 있도록 돕겠다”고 화답했다. UAE는 2022년 유엔 전자정부 평가에서 13위, 세계은행 디지털정부 성숙도 평가에서 4위를 기록하는 등 디지털정부 신흥강국으로 꼽힌다. 지난해 윤석열 대통령의 국빈 방문 이후 체결된 ‘포괄적 경제동반자 협정’ 등으로 우리 기업의 중동 진출 교두보로 여겨진다.

주요 사업 입찰·공모 정보, 누리집 공지사항에 사전 공개 중경기콘텐츠진흥원(원장 탁용석)이 오는 3월 12일 오후 2시에 ‘2024년 경기콘텐츠진흥원 온라인 사업설명회’를 공식 유튜브 채널에서 연다. 이번 사업설명회는 ‘문화를 산업으로 확장하는 연결점’이라는 주제로 올해 경기콘텐츠진흥원에서 수행하는 100여 개의 사업을 기능별로 분류해서 영상과 자료집으로 소개한다. 파트는 ▲콘텐츠 장르 지원 프로그램 ▲콘텐츠 인재 양성 프로그램 ▲콘텐츠 기업 육성 프로그램 ▲지역 콘텐츠 특화 프로그램 등 4개로 구성된다. ‘콘텐츠 장르 지원 프로그램’ 파트에서는 출판, 음악, 웹툰, 영화 등 각 콘텐츠 장르의 창작자 지원사업과 도민의 문화생활 기회를 확대하는 행사를 소개한다. 대표적으로 경기도 인증 지역 서점에서 지역화폐로 결제하면 사용 금액의 10%를 돌려주는 ‘경기도 지역 서점 소비지원금’, 다양한 콘텐츠 IP와 결합한 유행을 따르는 게임 제작을 지원하는 ‘IP활용 게임 제작 지원’ 사업 등이 있다. ‘콘텐츠 인재 양성 프로그램’ 파트에서는 콘텐츠 분야의 전문가로 도약하기 위한 다양한 교육과 멘토링 프로그램들을 확인할 수 있다. 유명 유튜버들이 거쳐 간 ‘경기도 1인 크리에이터 아카데미’, 콘텐츠 창업 멘토를 양성하는 교육인 ‘문화창업플래너 11기’, 그리고 생성형 AI를 활용한 콘텐츠 제작 전문가 교육인 ‘AI 콘텐츠 창작 아카데미’ 사업 등이 준비 중이다. ‘콘텐츠 기업 육성 프로그램’ 파트에는 콘텐츠 산업을 육성하기 위한 지원사업을 소개한다. 경기도를 무대로 활동하는 콘텐츠 기업이나 스타트업, 또는 아이디어를 사업화하고 싶은 예비 창업자들에게 도움이 되는 지원사업들을 만나볼 수 있다. 중소 콘텐츠 기업이 정상급 IP 보유사의 도움을 받아 융복합 콘텐츠를 제작하는 대중소 상생 협력 사업인 ‘K-콘텐츠 IP융복합 제작 지원’은 작년보다 3개 늘어난 8개 파트너사와 협력한다. 총상금 2억 원이 걸린 유망 게임 발굴 경연대회 ‘경기게임오디션’도 3월부터 모집을 시작한다. 마지막으로 ‘지역 콘텐츠 특화 프로그램’ 파트에서는 경기도 31개 시군의 특색을 반영하는 지역 기반 콘텐츠 제작 및 창업 지원사업과 입주 지원 프로그램을 소개한다. 작년 경기도청 구청사에서 시작해 경기도 방방곡곡에서 2만 6천 명 이상 체험한 문화기술 체험 전시 ‘오르:빛 워터파고다’는 올해도 연장 운영한다. 경기도 동서남북 권역에 있는 콘텐츠 창업 거점센터 ‘경기문화창조허브’의 입주 지원도 계속된다. 이번 사업설명회는 12일 오후 2시부터 공식 유튜브 채널(youtube.com/@gcontv)에서 시청할 수 있다. 사업설명 자료집은 누리집(www.gcon.or.kr)에서 내려받을 수 있다. 한편 경기콘텐츠진흥원은 2월 29일에 누리집(www.gcon.or.kr)을 통해 주요 사업의 입찰 및 공모 정보를 사전 공개한 바 있다. 관련 내용은 공지사항 게시판에서 확인할 수 있다.

‘AI 임재범’ 뉴진스 커버도 73만회가수 동의 없이 ‘2~3분’ 만에 제작목소리 주인에게 수익 배분 안 돼저작인접권 침해여부 판단 어려워저작권협 “저작물 활용 표기해야”법조계 “수익 없어도 분쟁 소지” “달디달고 달디달고 달디단 밤양갱 밤양갱~” 귓가에 계속해서 맴도는 멜로디와 흥미로운 가사로 인기를 모으고 있는 가수 비비의 ‘밤양갱’이라는 노래는 최근 소셜미디어(SNS)에서 폭발적인 인기를 끌고 있다. 이 노래가 화제가 된 배경 중 하나는 생성형 인공지능(AI) 기술로 만들어진 가수 고 김광석, 백예린, 만화 캐릭터인 보노보노 등 다양한 이들의 목소리가 담긴 이른바 ‘AI 커버곡’이 대거 등장해서다. AI 커버곡은 AI가 실제 가수 목소리를 학습해 멜로디 위에 입히는 방식으로 만들어진다. 유튜브 등 SNS에서 AI 커버곡이 인기를 끌면서 5일 기준 아이유가 부른 밤양갱 AI 커버곡 영상은 조회수가 44만회를 기록했다. 앞서 프레디 머큐리의 목소리로 커버된 아이유의 ‘내 손을 잡아’는 131만회, 임재범의 목소리로 커버된 뉴진스의 ‘Hype Boy’는 조회수가 73만회나 됐다. 하지만 아이유의 목소리를 입힌 ‘밤양갱’으로 수익이 발생해도 정작 목소리의 당사자인 아이유는 1원도 가져가지 못한다. AI 커버곡 제작 과정에서 학습에 활용된 목소리의 주인공인 가수에게는 수익을 배분받을 수 있는 저작인접권이 인정되지 않아서다. 창작된 표현을 보호하는 저작권은 아니지만 가수나 연주자 등 실연자나 음반 제작자, 방송사업자는 저작권에 준해 보호되는 저작인접권을 갖는다. 실제 가수가 다른 가수의 노래를 리메이크한 음악에 대한 수익은 노래를 부른 실연자에게도 분배되지만 AI 커버곡은 목소리의 주인공과 수익을 나누지 않는다. AI 커버곡의 목소리는 원곡 가수의 목소리로 인정하지 않기 때문이다. 황선철 한국음악저작권협회 사업2국장은 “AI 커버곡을 만들기 위한 학습 단계에서는 저작인접권 침해 우려가 있지만 AI 커버곡 완성본에는 해당 가수의 음원 원본이 더이상 남아 있지 않아 저작인접권이 침해됐다고 보기 어렵다는 견해가 많다”고 말했다. 강진석 변호사도 “AI 커버곡은 가수의 음성에 부여되는 인격권을 침해해서 손해배상이나 사용금지 청구를 고려할 수 있다”면서도 “하지만 커버곡이 공유되는 유튜브가 잘 협조하지 않아 커버곡 제작자를 찾는 과정 자체가 쉽지 않다”고 설명했다. 국내에선 아직 AI 커버곡에 자신의 목소리가 쓰이는 것에 대한 반대나 우려 의견을 낸 가수는 없지만, 미국에서 래퍼 드레이크와 위켄드가 협업한 것으로 알려진 노래가 AI 커버곡으로 밝혀지면서 두 사람의 소속사가 이 노래에 대한 게재 금지를 요청한 일이 있었다. AI 커버곡 제작 프로그램을 제공하는 업체의 저작권 침해 우려가 크다는 지적도 나온다. 업체들이 제공하는 프로그램을 사용, 음성 학습을 위한 노래와 커버할 원곡 파일만 올리면 2~3분 만에 온라인에서 자동으로 커버곡을 만들 수 있다. 박정훈 한국저작권위원회 선임연구원은 “실연자나 저작권자의 권리가 침해될 수 있다는 사실을 알면서도 프로그램을 제공한 것”이라면서 “어느 정도로 영리성을 추구했는지에 따라 방조 책임이나 간접 책임을 질 수 있다”고 말했다. 대부분의 AI 커버곡 제작자들은 음원 제작자의 동의 없이 무단으로 커버곡을 만든다. 이런 상황에서 목소리의 주인공인 가수의 저작인접권이 제대로 보호받기 어려운 만큼 창작자와 노래를 부른 가수의 권리 등에 대한 명확한 규정이 필요하다는 지적이 나온다. 지난해 12월 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시키기도 했다. 국내에서는 한국음악저작권협회가 ‘생성형 AI 콘텐츠 표기 의무화법’ 도입의 필요성을 주장하며 지난 1월 국회 공청회를 열었다. 한국음악저작권협회는 “AI 생성물 여부와 AI 커버곡 제작에 어떤 저작물이 활용됐는지 표기를 의무화하는 입법이 시급하다”고 밝혔다. 반면 AI 커버곡 제작은 ‘공정 이용’에 해당한다는 의견도 있다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정 이용으로 본다. SNS에 AI 커버곡을 만들어 올리는 제작자들은 ‘커버곡으로 음원 수익을 창출하지 않는다’며 음원을 학습해 커버곡을 만드는 과정이 공익성을 일부 가지며 AI 산업 발전에도 기여하는 것이라고 주장한다. 이에 대해 이나래 변호사는 “수익을 창출하지 않았더라도 가수의 목소리를 학습 데이터로 무단 활용한 것은 법적으로 분쟁의 소지가 있다”고 지적했다.

“달디달고 달디달고 달디단 밤양갱 밤양갱~” 귓가에 계속해서 맴도는 멜로디와 흥미로운 가사로 인기를 모으고 있는 가수 비비의 ‘밤양갱’이라는 노래는 최근 소셜미디어(SNS)에서 폭발적인 인기를 끌고 있다. 이 노래가 화제가 된 배경 중 하나는 생성형 인공지능(AI) 기술로 만들어진 가수 고 김광석, 백예린, 만화 캐릭터인 보노보노 등 다양한 이들의 목소리가 담긴 이른바 ‘AI 커버곡’이 대거 등장해서다. AI 커버곡은 실제 가수가 부르지 않은 노래를 AI가 학습한 가수의 목소리로 재생성해 멜로디 위에 입히는 방식으로 만들어진다. 유튜브 등 SNS에서 AI 커버곡이 인기를 끌면서 5일 기준 아이유가 부른 밤양갱 AI 커버곡 영상은 조회수가 44만회를 기록했다. 앞서 프레디 머큐리의 목소리로 커버된 아이유의 ‘내 손을 잡아’는 131만회, 임재범의 목소리로 커버된 뉴진스의 ‘Hype Boy’는 조회수가 73만회나 됐다. 하지만 아이유의 목소리를 입힌 ‘밤양갱’으로 수익이 발생해도 정작 목소리의 당사자인 아이유는 1원도 가져가지 못한다. AI 커버곡 제작 과정에서 학습에 활용된 목소리의 주인인 가수에게는 저작인접권이 인정되지 않아서다. 창작된 표현을 보호하는 저작권은 아니지만 가수나 연주자 등 실연자나 음반제작자, 방송사업자는 저작권에 준해 보호되는 저작인접권을 갖는다. 실제 가수가 다른 가수의 노래를 리메이크한 음악에 대한 수익은 노래를 부른 실연자와 노래를 만든 저작권자에게 모두 분배되지만, AI 커버곡은 목소리의 주인공과 수익을 나누지 않는다.황선철 한국음악저작권협회 사업2국장은 “AI 커버곡을 만들기 위한 학습 단계에서는 저작인접권 침해 우려가 있지만 AI 커버곡 완성본에는 해당 가수의 음원 원본이 더이상 남아 있지 않아 저작인접권이 침해됐다고 보기 어렵다는 견해가 많다”고 말했다. 강진석 변호사도 “AI 커버곡은 가수의 음성에 부여되는 인격권을 침해해서 손해배상이나 사용금지 청구를 고려할 수 있다”면서도 “하지만 커버곡이 공유되는 유튜브 등이 잘 협조하지 않아 커버곡 제작자를 찾는 과정 자체가 쉽지 않다”고 설명했다. 국내에선 아직 AI 커버곡에 자신의 목소리가 쓰이는 것에 대한 반대나 우려 의견을 낸 가수는 없지만, 미국에서 래퍼 드레이크와 위켄드가 협업한 것으로 알려진 노래가 AI 커버곡으로 밝혀지면서 두 사람의 소속사가 이 노래에 대한 게재 금지를 요청한 일이 있었다. AI 커버곡 제작 프로그램을 제공하는 업체의 저작권 침해 우려가 크다는 지적도 나온다. 업체들이 제공하는 프로그램을 사용하면 온라인에서 음성학습을 위한 노래와 커버할 원곡 파일만 올리면 2~3분 만에 자동으로 커버곡을 만들 수 있다. 박정훈 한국저작권위원회 선임연구원은 “가수나 연주자 등 실연자나 저작권자의 권리가 침해될 수 있다는 사실을 알면서도 프로그램을 제공한 것”이라면서 “어느 정도로 영리성을 추구했는지에 따라 방조 책임이나 간접 책임을 질 수 있다”고 말했다.대부분의 AI 커버곡 제작자들은 음원 제작자의 동의 없이 무단으로 커버곡을 만든다. 이런 상황에서 목소리의 주인공인 가수의 저작인접권이 제대로 보호받기 어려운 만큼 창작자와 노래를 부른 가수의 권리에 대한 명확한 규정이 필요하다는 지적이 나온다. 지난해 12월 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시키기도 했다. 국내에서는 한국음악저작권협회가 ‘생성형 AI 콘텐츠 표기 의무화법’ 도입의 필요성을 주장하며 지난 1월 국회 공청회를 열었다. 한국음악저작권협회는 “AI 생성물 여부와 AI 커버곡 제작에 어떤 저작물이 활용됐는지 표기를 의무화하는 입법이 시급하다”고 밝혔다. 다만 SNS에 AI 커버곡을 만들어 올리는 제작자들은 ‘커버곡으로 음원 수익을 창출하지 않는다’며 음원을 학습해 커버곡을 만드는 과정이 AI 산업 발전에 기여하는 것이라고 주장한다. 이에 대해 이나래 변호사는 “수익을 창출하지 않았더라도 가수의 목소리를 학습 데이터로 무단 활용한 것은 법적으로 분쟁의 소지가 있다”고 지적했다.

챗GPT 개발사인 오픈AI의 샘 올트먼이 만든 새 가상화폐 ‘월드코인’의 가격이 최근 한 달새 두 배 이상 급증하면서 국내에서도 월드코인을 구하기 위해 홍채 인증을 하려는 사람들이 몰려 들고 있다. 올트먼이 설립한 월드코인재단에서 식당이나 카페 등 곳곳에 인증기기를 설치해 놓고 홍채를 인증하면 월드코인을 지급하기 때문이다. 지난 28일 기자가 월드코인을 받을 수 있는 서울 중구 을지로의 한 카페를 찾아 직접 홍채 인식을 해보니 개인정보와 관련해 여러 가지 문제점이 나타났다. 월드코인을 만든 올트먼은 앞으로 온라인에서 인공지능(AI)과 진짜 사람을 구별할 수 없게 되는 시대를 대비해 홍채 인증과 같은 신원 확인이 필요하다고 주장한다. 이를 대비해 일종의 디지털 신분증인 ‘월드 ID’를 만들었는데, 이용자가 홍채를 인증해 월드 ID를 만들면 월드코인을 지급해 주는 식이다. 현재 국내에는 월드코인 개발사인 툴포휴머니티(TFH)의 홍채 인증기기인 오브(Orb)가 설치된 카페, 식당 등이 10곳 있다. 그 중 한 곳을 방문해 기기에 눈을 대고 스캔하자 가상자산 지갑 ‘월드앱’에 코인 10개가 들어왔다. 이런 식으로 2주마다 3개씩 1년간 총 76개의 월드코인을 받을 수 있다고 기기 운영자는 설명했다. 현재 거래가로 계산하면 홍채 인증으로 80만원 상당의 새 가상자산을 받게 되는 셈이다.월드코인은 최근 오픈AI가 생성형 AI로 동영상을 제작하는 ‘소라’(Sora)를 출시한 이후 가격이 급등했다. 1일 가상자산 시황 중계 사이트 코인마켓캡에 따르면, 이날 오전 11시 월드코인의 가격은 1만 137원을 기록했다. 지난달 1일(3220원) 대비 약 214% 오른 것이다. 국내 원화 거래소인 빗썸에서도 같은 시간 1만 670원대에 거래되고 있다. 그러자 국내에서도 홍채를 등록하고 월드코인을 보유하려는 사람들이 몰리기 시작한 것이다. 언젠가 비트코인처럼 가격이 오를지 모른다는 기대감 때문인지 현장에서 만난 이용자들은 민감 정보를 등록하는 것에 대한 거부감은 크게 없어 보였다. 기자가 홍채를 등록한 을지로 카페에서 만난 김모(72·여)씨는 “같이 일하는 사람들 사이에서 공짜로 코인을 받을 수 있다는 얘기가 나와 함께 방문했다”면서 “눈만 잠시 가져다 대면 된다니 별 문제가 될 것 같진 않다”고 말했다. 서울 여의도에서 홍채를 인증하고 월드코인을 받은 직장인 이모(27)씨도 “이미 지문도 여러 금융사에 등록돼 있는데 홍채라고 별다를 게 있을까 싶다”고 말했다.월드코인 관계자는 “지점별로 하루 평균 방문객이 예전에는 5명 정도였는데 최근에는 200명씩 찾아오고 있다”면서 “방문객은 20대부터 80대 어르신까지 다양하다”고 말했다. 내 홍채 정보 어디에 쓰일지도 모르는데… 그러나 아직 검증되지 않은 가상자산을 그것도 개인의 민감한 생체정보를 등록하고 받는다는 점에서 여러 가지 문제가 제기된다. 우선 개인의 홍채 정보를 제공하면 가상자산을 지급하는 방식을 놓고 ‘개인정보 매매’ 논란이 제기된다. 김명주 서울여대 정보보호학과 교수는 “홍채는 개인의 고유 정보로 이를 수정할 수 없기 때문에 어떤 형식으로도 사고파는 것은 불법”이라고 말했다. 다만 “(돈이 아니라) 코인이라는 점에서 매매로 단정짓기는 어렵다”며 “이것이 매매행위에 해당하는 것인지를 먼저 따져본 뒤 개인정보보호법이 지켜지는지 봐야할 것”이라고 설명했다. 홍채 등록 과정에서도 개인의 등록 정보가 어디에 어떻게 쓰이는지 알기 어려웠다. 국내 개인정보보호법상 개인정보 수집 목적, 이용 기간 및 방법, 국외 이전 가능성 등을 사전 고지해야 하지만, 이런 설명은 듣기 어려웠다. 전문가들은 법 위반 소지가 있다고 지적한다. 최진홍 법무법인YK 변호사는 “사전에 알린 목적이 아닌 다른 목적으로 개인의 생체 정보들을 이용하는 경우 수집 단계부터 위법하다고 볼 수 있다”며 “해외에 있는 서버로 생체 정보를 옮겨 사용하겠다는 방침도 충분히 설명됐는지 확인할 필요가 있다”고 말했다.월드코인은 이렇게 수집한 홍채 정보를 블록체인에 데이터 형태로 저장하고 원본 데이터는 지운다고 설명한 바 있지만, 한번 정보를 이전하고 나면 어떻게 이용되는지는 사실상 확인할 길이 없다. 이러한 우려 때문에 미국에서는 월드코인 발급과 거래 자체가 불가능하며, 영국과 프랑스, 독일은 위법성 여부에 대한 조사에 착수한 상태다. 황석진 동국대 국제정보보호대학원 교수는 “금융 모바일 앱의 보안인증처럼 개인정보는 사용 목적과 용도를 명확히 하고 수집해 활용해야 한다”며 “정기적으로 개인정보 이용 현황을 제공자에게 알려야 하고 파기 기한도 정해야 하지만 월드코인의 약관에 이런 부분까지 명시돼 있을지는 확실하지 않다”고 말했다.

“누구나 (AI와) 사랑에 빠질 수 있다. 내 마음속 깊은 곳에서는 생명이 있다고 느낀다.” 네덜란드의 한 예술가가 전 연인들의 프로필 정보를 학습한 ‘홀로그램 파트너’와 결혼을 발표했다. 스페인계 네덜란드인 여성 예술가인 알리시아 프라미스는 최근 홀로그램 파트너인 ‘아이렉스’(AILex)와 오는 여름 결혼식을 올릴 예정이라고 밝혔다. 프라미스는 홀로그램과 결혼한 최초의 여성이 되는 것이 목표라며 결혼식을 통해 인간이 홀로그램이나 아바타, 로봇과 관계를 맺게 될 새로운 시대의 사랑을 상징하는 것이라고 설명했다. 네덜란드 로테르담의 디포 보이만스 반 뵈닝겐박물관 테라스에서 진행될 결혼식은 예술과 기술, 감정이 통합된 예술 프로젝트로 진행할 예정이다. 비즈니스 인사이더 등 외신들은 22일(현지시간) 웨딩드레스와 하객 의상은 직접 디자인하고, 인간과 아이렉스 모두가 즐길 수 있는 ‘분자 요리(molecular food)’를 준비한다고 전했다. 프라미스는 결혼식이 끝나면 스페인 메노르카섬 집안 곳곳에 남편을 ‘투사’할 수 있는 설비를 제작, 신혼 생활을 즐길 계획이다.프라미스는 테크튜브과의 인터뷰에서 아이렉스에 대해 “제대로 반응해 주고 감정까지 있다”라고 말했다. 그러면서 “지금의 남자친구는 나를 판단하려 하지 않는다”라며 자신의 모든 요구를 충족시킨다고 말했다. 그는 “내겐 홀로그램이 로봇보다 감정적으로 친밀하게 느껴진다”라며 “우리가 원하든 원치 않든, 사람들은 홀로그램, 아바타, 로봇 등과 관계를 맺고 결혼을 하게 될 것”이라고 주장했다. 이어 “외국어 학습 앱으로 새로운 언어를 익히는 것처럼 우리는 이 존재들과 (새로운) 관계를 익혀 나가게 될 것”이라고 말했다. 프라미스는 인스타그램 ‘하이브리드커플’을 통해 홀로그램 동반자와의 일상을 영상과 사진으로 공유하고 있다. 사진에는 함께 식사를 하고 설거지를 하고 손을 잡는 일상이 담겨 있다. 그는 아이렉스 이전에 피에르라는 마네킹과 비슷한 관계를 맺은 것으로 알려졌다. 프라미스는 “이 기술은 트라우마나 성적 학대를 경험한 이들이 이성 또는 동성 파트너와 정상적인 관계를 회복하도록 도울 수 있다”면서 “예를 들어 내겐 남편이 떠난 빈자리를 메우려 애쓰는 미망인 친구가 있는데, 인공지능 파트너와 인간 파트너 모두 이렇게 동반자 관계를 필요로 하는 개인들에게 유익한 선택지가 될 수 있다”고 말했다.

“딥페이크가 의심되면 이미지의 입과 눈을 주의 깊게 보세요. 우리가 가상인간을 만들 때 가장 어려운 부분이 역으로 딥페이크의 허점이 될 수 있습니다.” 인공지능(AI) 영상기술 전문기업 포바이포에서 버추얼유튜버(버튜버, V튜버) 태스크포스(TF)를 이끄는 안찬용(36) 팀장의 전공 분야인 가상인간을 바로 딥페이크 기술로 만든다. 딥페이크는 ‘딥러닝’과 ‘가짜’(fake)의 합성어로, 실제 인물의 이미지나 영상, 음성을 학습한 AI를 이용, 현실과 흡사한 가짜를 만들어 내는 기술이다. 그는 롯데홈쇼핑의 가상인간 ‘루시’ 제작을 총괄했으며 그의 팀은 지난해 말 ‘청아린’이라는 버튜버를 선보였다. 현재는 2호, 3호 버튜버 출시를 준비 중이다. 안 팀장은 “가상인간은 ‘20대가 가장 호감을 느끼는 얼굴 표본’처럼 실제로는 존재하지 않는 인물을 컴퓨터로 만들어 학습시킨다”며 “만일 같은 기술로 실존하는 정치인이나 연예인 등을 학습시켜 만든 가짜 인물을 통해 허위 정보를 유포하거나 특정인의 명예를 훼손하면 큰 문제가 된다”고 설명했다. 이 같은 우려는 지난달 미국에서 실제로 일어났다. 가수 테일러 스위프트를 딥페이크 기술로 합성한 음란 사진이 소셜미디어(SNS)에 유포됐다. 뉴햄프셔주 예비선거를 앞두고는 조 바이든 미국 대통령을 가장한 딥페이크 음성 전화가 유권자들에게 걸려 오기도 했다.딥페이크 콘텐츠를 탐지하는 ‘안티페이크’ AI도 존재한다. 학습 데이터에 눈에는 보이지 않는 ‘디지털 표지’를 붙여 AI가 콘텐츠를 만들 때 드러나게 하는 ‘워터마크’ 기술도 주목받고 있다. 다만 안 팀장은 “이런 기술처럼 딥페이크 기술도 빠르게 발전하는 게 문제”라고 지적했다. 가상인간을 만드는 딥페이크 전문가는 허위 영상을 판별하는 요령을 알지 않을까. 안 팀장은 “가상인간을 만들 때 말소리와 입모양을 일치(싱크)시키는 작업이 가장 어렵다”면서 “조악한 영상들은 입모양을 자세히 보면 일반인도 구분할 수 있다”고 말했다. 또 “단어의 의미나 문장의 맥락에 맞는 표정이나 자연스러운 시선 처리도 구현하기 어려운 부분”이라면서 “이런 것들 중 하나라도 이상하다고 느껴진다면 가짜 영상임을 의심해볼 수 있다”고 말했다. 하지만 이런 요령도 시간이 지나면 소용이 없어질 가능성이 있다. 안 팀장은 “후반 보정 작업을 정교하게 여러 번 거치면 얼마든지 표가 나지 않게 만들 수 있다”며 “갈수록 정교해지는 결과물을 재학습한 더 강력한 AI 모델이 반드시 등장할 것”이라고 설명했다. 다만 “‘기술’의 문제를 해결할 수 있는 것은 역시 ‘기술’인 만큼 딥페이크의 문제도 우리 딥페이크 기술자들이 해결할 것”이라고 말했다.

현재 전 세계적으로 AI에 의한 변화의 바람이 거세게 불고 있습니다. 이 과정에서 의외의 결과는 과거 생각했던 것처럼 블루칼라가 아닌 화이트칼라 노동자가 더 취약한 상황에 노출되었다는 것입니다. 올해 연초부터 미국의 빅테크들은 경쟁적으로 직원을 해고했는데, 광고 제작이나 고객 응대 등 사람만 할 수 있었던 업무를 AI로 대체할 수 있게 됐기 때문입니다. 그리고 생성형 AI가 사람 대신 그림이나 음악, 영상, 글을 작성할 수 있게 되면서 과거에는 화이트칼라 노동자가 했던 일의 상당 부분이 AI로 대체될 것이라는 우려가 커지고 있습니다. 하지만 그렇다고 해서 블루칼라 노동자들의 임무가 상대적으로 안전한 것은 아닙니다. 최근에는 3D 업종으로 알려진 폐기물 재활용 업계에서도 인공지능 로봇 도입 속도가 빨라지고 있습니다. 우리가 버린 플라스틱, 금속, 종이 등 재활용 쓰레기는 사실 여러 가지 이질적인 물질이 섞여 있어 자원으로 활용하기 위해서는 수작업에 의한 2차 분류가 필요합니다. 이 작업은 물론 위험하고 힘들고 지저분하기 때문에 대표적인 3D 업종입니다. 따라서 쓰레기는 늘어나는 반면 일할 사람은 구하기 힘들어지고 있습니다. 이런 배경에서 미국과 일본의 쓰레기 재활용 업체들은 인공지능 로봇 시스템을 도입하고 있습니다. 광학 카메라로 쓰레기의 이미지를 확인하고 AI 알고리즘이 어떤 쓰레기인지 확인한 후 로봇이 종류별로 분류하는 것입니다. 쓰레기 재활용의 모든 과정을 자동화하는 것은 아니지만, 가장 많은 인력이 투입되는 과정을 대부분 자동화해 인력을 크게 줄일 수 있습니다. 예를 들어 과거 25-30명이 일하던 재활용 센터가 5-6명의 직원만으로도 운영할 수 있게 되는 것입니다.최근에는 로봇과 AI의 성능도 좋아져서 분류 속도와 정확도가 점점 더 높아지고 있습니다. 2007년부터 관련 시스템을 개발해 온 핀란드의 젠로보틱스(ZenRobotics)는 4세대 쓰레기 분류 로봇을 내놓았습니다. 무거운 물체를 분류하는 헤비 픽커 4.0(Heavy Picker 4.0)는 최대 40kg의 무거운 물체를 시간당 2,300개 분류할 수 있어 건축 폐기물 같은 무거운 쓰레기도 분류할 수 있습니다. 가벼운 물체를 더 빠르게 분류하는 패스트 픽커 4.0(Fast Picker 4.0)는 플라스틱병이나 캔, 비닐같이 1kg 이하의 가벼운 물체를 시간당 4,800개 분류할 수 있습니다. 물론 인공지능 로봇이 쓰레기를 잘못 분류하는 경우를 최소화하기 위해서는 속도만이 아니라 정확도도 같이 높여야 합니다. 젠로보틱스가 개발한 젠브레인(ZenBrain)은 쓰레기를 500가지 카테고리로 나눌 수 있으며 이미지 인식 정확도를 높여 효율을 60-100% 정도 높였습니다. 새로운 AI 알고리즘과 하드웨어는 쓰레기 분류 정확도는 물론 로봇의 움직임을 최소화해 속도와 정확도 모두를 높입니다. 인공지능 로봇은 휴일도 없이 사람보다 훨씬 오래 일하지만, 대신 초기 투자 비용이 많이 들어갑니다. 미국에서 로봇 한 대 당 15-30만 달러의 비용이 들고 광학 카메라 및 이미지 분류 AI 시스템은 이보다 더 비싼 100-200만 달러의 비용이 들어갑니다. 미국의 비싼 인건비를 감안해도 영세 업체가 많은 업계 현실을 생각하면 다소 부담되는 비용입니다. 따라서 장비를 대여해주는 경우도 늘어나고 있습니다. 이 경우 인건비의 절반 이하의 비용으로 쓰레기를 분류할 수 있고 보통 2년 정도면 비용을 회수할 수 있다는 것이 업계의 추정입니다. 인공지능과 로봇은 이런 식으로 우리가 체감하지 못하는 사이 실생활과 경제에 파고들고 있습니다. 10년, 20년 후에는 인공지능 알고리즘이 적용된 로봇과 차량이 사람이 했던 노동의 상당 부분을 대체할지도 모릅니다. 일부 분야에서는 인간이 직접 하기에 힘들어서 일할 사람을 구하기 어려운 작업을 대체해 주겠지만, 그렇지 않은 업무도 대체해 해당 종사자들에게 고통을 줄 수 있습니다. 쓰레기 자동 분류 로봇은 후자보다는 전자에 속하겠지만, 후자의 상황에 대한 사회적 대응책도 필요합니다.

전 세계적으로 ‘소라(Sora)’ 열풍이다. OpenAI가 발표한 텍스트로 동영상을 제작해 주는 인공지능으로 생각보다 수준 높은 동영상 퀄리티에 업계는 물론 일반 시민들조차도 놀라움을 금치 못하고 있다. OpenAI에서 지난 2월 15일 발표한 내용은 테스트 버전으로 아직 대중들에게 정식으로 공개되지 않은 상황이다. 그러나 이 ‘틈새시장’을 노려 벌써부터 AI 강의 시장이 들썩이고 있다. 정식 출시도 되지 않은 상황에서 Sora 관련 응용 수업, 자문 서비스, ‘독점’이라는 타이틀을 달고 수강생들을 모으고 있다. 21일 중국 현지 지무신문에 따르면 2월 15일 미국 Open AI에서 텍스트로 동영상을 생성하는 Sora를 발표한 즉시 중국 온라인 강의 시장에서 관련 강의가 쏟아져 나왔다. 현재 Sora의 경우 구체적인 사용 방법이 공개되지 않았고 일부 연구진들만 사용 권한이 있는 상태인데 소비자들의 관심이 모이는 틈을 타 사기 행각을 벌이는 것이다. 온라인 AI 관련 수업에는 저마다 ‘SORA’ 를 강조하며 누구보다 빨리 SORA를 이용할 수 있다고 강조한다. 수강료는 99위안(약 18000원) 수준으로 강의 구매 후 교환 및 환불은 ‘불가’하다. 커리큘럼을 살펴보면 Sora 전용 지시어 모음, Sora 전용 지시어 교육, Sora 전용 지시어 기술 30가지 등으로 콘텐츠 제작자, 광고 마케팅, 교육 종사자 등에 적합한 수업이라고 말한다. 우후죽순으로 나오고 있는 Sora 강의 가격대는 천차만별이다. 가장 저렴한 것은 Sora 사용 툴 강의로 강의료는 단돈 1위안, 우리 돈으로 200원도 되지 않는 가격에 판매하고 있다. 이미 700명 넘는 사람들이 이 강의를 구매한 것으로 알려졌다. 심지어 ‘Sora 내부 테스트 계정 신청’이 적게는 0.01위안 많게는 50위안(약 9232원)의 가격으로 판매되었지만 실제로 계정을 신청하면 최소 300위안(약 5만 5000원)을 요구한다. 워낙 많은 수업이 있지만 그중에서도 ‘자칭’ AI 전문가로 통하는 인물, 리이저우(李一舟)를 빼 놓을 수 없다. 중국 최고 명문대인 칭화대 박사 출신의 그는 IT 회사 3곳의 창업주이자 보유 자산만 수백억 대로 알려졌다. AI 솔루션, 비즈니스 모델, 지적재산권 관련 문제 관련 컨설팅을 주로 하면서 SNS 상에서 팔로워 331만 명을 보유한 인물이다. 원래 온라인상에서 자기개발 관련 영상을 올리던 그는 2023년 챗GPT(ChatGPT)가 공개된 이후 AI 강의를 판매하기 시작했다. 틱톡을 비롯한 중국 내 동영상 플랫폼에서 수시로 라이브 방송을 하면서 강의를 판매했고 그의 AI강의는 199위안(약 3만 7000원)이다. ‘모두의 AI 수업’이라는 강의는 1년 동안 약 25만 명이 구매했고 판매 금액만 약 5000만 위안(약 92억 3200만 원)에 달한다. 그러면서 자신을 “중국에서 ChatGPT를 가장 잘 활용하는 사람”이라고 강조하면서 홍보하고 있다. 그러나 실제 수강생들은 강의 내용이 불만족을 표시하며 환불을 요구했고, 칭화대 박사생이라고만 밝혔던 그는 사실 디자인을 전공한 것으로 알려졌다. 수강생을 위한 단체 채팅방에서 여러 수강생들이 환불을 요구하자 아예 대화방을 삭제하는 등의 행동으로 의심을 사고 있다. 전문가들은 “현재 온라인에서 유행하는 AI 강의는 실제로 수익화로 이어지는 내용이 없는 경우가 많다”라면서 “아무리 저렴한 수강비라도 사기를 당하지 않도록 조심해야 한다”라며 조언했다. 실제로 한 온라인 플랫폼에서 ‘Sora’라고 입력하자 30개가 넘는 커뮤니티가 검색되었고 이 중 10개는 유료 입장을 해야 하는 곳이었다.

서울 금천구는 계층 간 정보격차를 없애고 디지털 역량을 강화하기 위해 올해 말까지 구민 정보화 교육을 운영한다고 22일 밝혔다. 특히 최신 기술을 체험할 수 있는 정보기술(IT) 융합 실습교육장이 문을 연다. 금천구 관계자는 “신설되는 IT 융합 실습 교육장에선 영상제작, 코딩, 로봇, 확장 가상세계(메타버스), 인공지능(AI), 드론 등 다양한 신기술에 대한 실습교육이 진행될 예정”이라고 소개했다. 기존 일반 교육장에서는 컴퓨터, 인터넷, 스마트폰, 한글, 엑셀, PPT, 그래픽 등 일상생활에 필요한 교육이 진행된다.6개 키오스크 체험존에선 비대면 주문에 어려움을 겪는 어르신들이 체험할 수 있다. 교육용 키오스크를 이용해 실제와 같이 음식 주문, 영화표 예매, KTX 예매 발권 등의 결제와 영수증 출력을 할 수 있다. 전화 및 문자 등을 이용한 금융사기로부터 주민을 보호하기 위한 특강도 매월 진행한다. 복지관과 장애인 복지시설을 대상으로 ‘찾아가는 정보화교육’도 운영한다. 교육은 월 단위로 정규과정(20시간, 월 8회)과 특강과정(10시간, 월 4회)로 나누어 운영된다. 교육과정을 기초부터 심화까지 세분화해 수준에 맞는 강의를 선택해 들을 수 있다. 금천구청 지하1층 전산교육장에서 열린다. 지난해엔 24개 강좌를 1307명이 수료했다. 수강을 원하는 구민은 금천구청 홈페이지 ‘교육포털’ 또는 구민 정보화 교육 콜센터(02-2627-1119)에서 매월 25일쯤 신청할 수 있다. 수강생 선정은 추첨으로 결정되며 신규자가 우선된다. 수강료는 무료이고 교재비는 수강생이 부담해야 한다.

튀르키예의 5세대 전투기 ‘칸’(KAAN)이 첫 비행을 성공적으로 마쳤다. 21일(현지시간) 로이터 통신 등에 따르면, 칸 전투기는 이날 수도 앙카라 북부 아킨즈 공군 기지에서 첫 비행을 완수했다. 개발사인 튀르키예 항공우주산업(TUSAS, 옛 TAI)도 소셜미디어에 칸 전투기가 이착륙하는 모습을 담은 영상을 공유했다. 테멜 코틸 TUSAS 최고경영자(CEO)는 엑스(X, 옛 트위터)를 통해 칸의 첫 비행에는 약 13분이 걸렸다고 밝히면서도 “230노트(시속 약 426㎞)의 속도를 기록하고 8000피트(약 2438m) 고도에 도달했다”고 덧붙였다.레제프 에르도안 튀르키예 대통령은 칸 전투기가 이륙하는 모습이 담긴 사진을 직접 공유하고 “5세대 전투기를 생산하는 과정에서 매우 중요한 단계를 통과했다”고 밝혔다. 튀르키예 첫 국산 전투기 칸, 성능은? 칸 전투기는 지난 2010년부터 튀르키예가 공군의 미국산 F-16 전투기를 대체할 목적으로 개발 중인 차세대 전투기다. 조종사 한 명이 탑승하는 칸은 동체 길이 21m, 날개 길이 14m, 높이 6m이며, 최고 속도 마하 1.8(시속 약 2203㎞), 비행고도 5만5000피트(16.7㎞)의 성능을 목표로 한다. 튀르키예는 칸이 높은 스텔스 성능을 자랑하는 5세대 스텔스 전투기라고 홍보하지만, 전투기 배면에 공대공 미사일 2발을 탑재하는 정도의 내부 무장창만 갖기에 미국이 판매를 거부한 F-35A 전투기보다 내부 무장 탑재량이 떨어진다. 튀르키예 전투기 국산화, 아직 불완전한 성과 튀르키예의 전투기 국산화 사업은 아직 불완전한 성과다. 이날 첫 비행에 나선 칸 전투기는 지상 시험용으로 제작된 시제기로, F-16에 사용되는 미국산 F110 엔진 2기를 탑재하고 있기 때문이다. 튀르키예는 이런 칸 전투기에 향후 자체 생산 엔진을 도입할 계획이지만, 해외 협력사가 확정됐다는 소식은 아직까지 나오지 않았다. 다만 튀르키예 방위산업청(SSB)의 할루크 고르군 청장은 이날 칸의 첫 비행을 자축하면서도 자체 생산 엔진 도입은 예정대로 2028년 시작될 것으로 보인다고 밝혔다. 튀르키예는 칸 전투기가 실전 배치될 때까지 남은 공백을 메우기 위해 공군력을 개선하기 위한 계약도 체결했다. 북대서양조약기구(NATO·나토) 회원국이기도 한 이 나라가 스웨덴의 NATO 가입을 대가로 미국으로부터 F-16 전투기 추가 구매 승인을 받았기 때문이다. 여기에는 최신 사양의 F-16 전투기 40대 구매 뿐 아니라 기존 F-16 전투기 79대를 현대화하는 개량 키트도 포함됐다. 같은 날, 미국은 그리스에 대한 F-35 전투기 판매도 허가했는데, 이는 미국과 밀접한 NATO 회원국들이면서 지역의 앙숙인 두 나라를 고려한 지정학적 균형을 위한 결과라는 분석도 나온다. F-35 전투기는 현존하는 세계 최강 전투기로 평가받는다. 튀르키예는 F-35 전투기의 공동 개발국이었지만, 러시아로부터 S-400 지대공 미사일을 도입하면서 이 전투기 획득 자격을 잃었다. 미국이 두 무기가 함께 쓰이면 관련 기술이 러시아에 유출될 우려가 있다고 강력하게 주장했기 때문이다. 이후 미국은 튀르키예에 S-400을 포기하면 F-35 판매를 고려하겠다는 의사를 전달했던 것으로 알려졌다.

유튜브 강의·제작 전문가 김남훈 대표컨설팅 노하우 집약해 ‘유튜브 백과’ 펴내“첫 기획부터 막힌 이들에게 돌파구 될 것”비즈니스·교육·오락 등 모든 분야 통찰력 제시 “전업 유튜버로 성공하고 싶어요.” “유튜브 담당자인데 도대체 어떤 콘텐츠를 만들어야 할까요?”유튜브 콘텐츠 제작을 시작하는 예비 크리에이터와 유튜브로 브랜딩을 하고 싶은 기업 담당자를 위한 실용적인 안내서가 나왔다. 바로 ‘유튜브 백과-세계의 연결자, 최고의 미디어가 된 빅테크 플랫폼’(김남훈 지음·이은북)이다. ‘유튜브 백과’는 100만 구독자를 가진 크리에이터의 성공 이유, 새로 시작하는 크리에이터를 위한 채널 기획부터 콘텐츠 제작 방향, 채널 운영 코치까지, 유튜브의 모든 것을 담은 ‘백과사전’이다. 유튜브는 전세계 모든 콘텐츠를 담은 초거대 플랫폼이다. 이미 미디어 생태계의 최강자로 등극한 유튜브에서 사람들은 음악을 듣고, 영화를 보고, 함께 이야기하고, 쇼핑하며 지낸다. 현실의 세상이 이미 유튜브로 들어왔다고 해도 과언이 아니다. 그러다보니 유튜브는 기능만 파악한다고 해서 모두 다 알았다고 말할 수 없다. 하지만 시중에 나와있는 책들은 유튜브의 기능만을 소개하는 것이 대부분이다. 그렇다면 유튜브에서 성공하고 싶다면 어떻게 해야할까. 저자는 우선 유튜브라는 미디어의 원리를 파악하고 유튜브 시청자들이 어떤 생각과 어떤 활동 패턴을 보이며, 유튜브가 창작자와 구독자를 연결하는 방식을 제대로 파악하는 것이 중요하다고 말한다. 또 남들과 다른 유튜브 채널 기획 방법과 유튜브 콘텐츠의 기본인 영상을 기획하고 구성하는 법을 제대로 배우는 것이 중요하다고 강조한다. 저자 김남훈 대표는 현업의 노하우와 전문가의 이론을 모두 갖춘 영상 전문가이자 유튜브 전문가로 다수의 유튜브 강의와 채널 컨설팅을 한 베테랑이다. 현재 콘텐츠 기업 훈픽처스 대표이자 뉴미디어 콘텐츠 제작자이며, 한라대학교 미디어광고콘텐츠학과 겸임교수다. 저자는 연세대에서 광고홍보를, 미국 볼주립대학교에서 디지털 스토리텔링을 공부했으며, CJ미디어와 제일기획에서 제작 프로듀서 및 PR 담당자로 근무했다. 미국 ‘에미상’(Emmy Awards) 비디오 에디터로서 활동한 바 있으며 한양대, 서울여대, 성균관대 등 여러 대학에서 학생들을 가르쳤다. 현재 뉴미디어 콘텐츠 전략 기획, 제작 전문가로서 정부 및 공기관, 대기업, 언론사 등의 유튜브 커뮤니케이션 전략 수립, 컨설팅, 콘텐츠 제작을 담당하고 있다. 김 대표는 실무 현장에서 여러 질문을 받으며, 유튜브에 대한 제대로 된 안내서이자 활용서가 없다는 것을 깨달았다고 한다. 그는 “많은 사람들이 한 면만을 바라보며 유튜브 운영을 하다보니 첫 기획부터 잘못 해서 나중에 고생을 하거나, 열심히 해도 채널 성장이 더딘 것을 컨설팅하던 저자는 여러 사람들의 고민을 정리해 이 책의 바탕을 삼았다”고 말했다. 저자는 ‘유튜브 백과’를 통해 사람들이 놓치는 기본에 대해 꼼꼼하게 알려준다. 우선 지금의 유튜브 시장이 어떤지 설명해 준다. 그러면서 유튜브를 하려는 이유에 대해 묻는다. 돈 때문인지, 브랜딩 때문인지. 그리고 목적에 따라 유튜브 채널을 어떻게 운영해야 할지 알려준다. 또 메인 타깃에 대해 진지하게 고민해야 한다고 충고한다. 더불어 어떤 콘텐츠를 제작해야 할지, 콘텐츠마다 어떤 특징이 있는지. 영상을 찍을 때 필요한 구성안 작성법이나 장비에 대해서도 알려준다. 심지어 요즘 막 쓰이기 시작한 생성 AI 도구에 대한 정보도 가르쳐준다. 나아가 장기적으로 채널을 운영하려면 어떤 점들을 주의해야 하는지, 알고리즘은 대략 어떤 법칙을 따르는지까지 친절하게 알려준다. 즉 ‘유튜브 백과’는 쉽게 구할 수 없는 유튜브 관련 알짜배기 정보와 팁들을 알차게 담고 있다. 부자의 노하우를 안다고 해서 부자가 될 수 없듯이, 스타 유튜버의 이야기를 듣는다고 당장 내 구독자가 늘지 않는다. 그보다 더 필요한 것은 자신이 뭘 잘할 수 있는지, 그리고 내 채널은 어떻게 나아가야 할지에 대한 깊고 진지한 고민이다. 이 책은 그 고민을 제대로 할 수 있도록 도와줄 훌륭한 안내서가 돼 줄 것이라고 저자는 강조했다. 김치호 한양대 문화콘텐츠학과 교수는 “이 책은 유튜브를 비즈니스, 교육, 오락의 도구로 활용하려는 모두에게 깊은 통찰력을 제공한다”며 “유튜브의 기본부터 고급 전략까지 폭넓게 다루며, 독자들이 유튜브를 통해 자신의 목소리를 효과적으로 표현하고, 궁극적으로 성공적인 채널을 구축할 수 있도록 이끌어준다. 유튜브와 디지털 미디어에 관심 있는 모두에게 강력히 추천한다”고 전했다. 384쪽.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

인공지능(AI) 개발 경쟁을 두고 미국과 경쟁을 벌이고 있는 중국이 챗GPT 개발사 오픈AI의 영상 생성 AI ‘소라’(Sora)에 충격을 받은 모습이다. 오픈AI는 중국산 동영상 플랫폼 틱톡에 계정을 개설하고, 닷새 만에 20개의 숏폼 영상을 게재했다. 21일 시각적으로 실망스러운 슈퍼볼 광고를 만들라는 주문에 소라가 생성한 10초짜리 영상과 함께 오픈AI의 틱톡 계정은 “소라로 다음엔 무엇을 만들어야 할까”란 질문을 올렸다. 이날 중국 재경망에 따르면 중국 인터넷 보안 기업 치후360 창립자 저우훙이는 오픈AI의 발표 직후 중국판 트위터인 웨이보에 “소라가 광고와 영화 예고편 업계를 완전히 흔들 것”이라고 내다봤다. 저우 창립자는 “소라가 틱톡을 그렇게 빨리 몰아내지는 않을 것이라며, 당분간 틱톡의 제작 도구에 머물 것”이라고 전망했다. 이어 소라의 등장으로 인간의 지능에 가까운 인공범용지능(AGI) 구현에 필요한 기간이 10년에서 1∼2년으로 단축될 것이라고 예측했다. 저우 창립자는 중국의 거대언어모델(LLM) 발전 수준이 오픈AI가 지난해 3월 내놓은 GPT4.0과 1년 반 정도 격차가 있다고 평가했다. 홍콩 사우스차이나모닝포스트는 중국의 한 재계 고위 인사가 소라를 ‘뉴턴 모멘트’라 불렀다고 전했다.마이크로소프트(MS)의 지원을 받는 오픈AI가 미국과 중국의 AI 격차를 확대하는 또 다른 ‘비밀 병기’를 개발하고 있을 가능성도 제기됐다. 중국 소셜미디어(SNS)에서는 한 블로거가 소라를 이용해 만들었다는 단편 애니메이션 ‘서유기’가 화제가 됐다. 미술 작업 경력이 15년이라는 쓰촨성의 블로거 ‘AI 정신병원’은 “수작업으로 완성하는 데 최소 반년이 걸리는데, 소라의 도움으로 일주일 만에 뚝딱 완성할 수 있었다”며 “속도가 그야말로 (서유기의 주인공) 손오공보다 빠르다”고 감탄했다. 오픈AI가 챗GPT에 이어 소라를 공개하며 시장에 충격을 준 가운데, 샘 올트먼 오픈AI 최고경영자(CEO)가 개발한 가상화폐 월드코인 가격도 최근 급등세를 보였다. 가상화폐 정보 사이트 코인마켓캡에 따르면 한국시간 21일 오전 10시 45분 기준 월드코인 가격은 일주일 전 대비 150%가량 오른 6.83달러 선에서 거래됐다. 월드코인 가격은 일주일 전인 14일만 해도 2.9∼3.0달러 수준이었지만 지난주 소라 공개 이후 급등세가 본격화해 19일 한때 7.95달러까지 찍었다가 상승분을 일부 반납한 상태다. 홍콩과 상하이 증시에서도 AI 관련 49개 기술, 엔터테인먼트, 미디어 기업의 주가가 급등하고 있다.

중앙선거관리위원회가 오는 4월 총선을 앞두고 공직선거법상 위법 사항인 인공지능(AI)을 활용한 ‘딥페이크’ 불법 게시물을 22일 만에 129건이나 적발했다. 상대당 후보가 참석하지도 않은 행사에 참석한 듯 이미지를 합성하는 등 특정 정치인의 이미지를 왜곡하거나 조롱하는 영상물로 모두 삭제했다고 한다. 선거가 가까워질수록 이런 불법 선거물이 넘쳐날 판이니 대책 마련이 시급해 보인다. 딥페이크 영상 등은 AI 기술 등으로 만들어 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등이다. 공직선거법 개정에 따라 지난달 29일부터 이런 딥페이크물은 제작·편집·유포·상영·게시할 수 없다. 위반하면 7년 이하 징역이나 최고 5000만원의 벌금형에 처한다. AI 기술로 만든 가상의 영상물이라고 표시를 하더라도 허위사실이 포함된 경우에는 허위사실 공표죄로 처벌한다지만 위해성을 감안하면 미흡한 대책이다. 선관위는 반복적이고 악의적인 딥페이크물은 고발 조치 등 강력 대응해야 한다. 이런 불법 게시물은 삭제하더라도 삭제하기 전에 본 유권자들에게 특정 정당과 정치인에 대한 왜곡되거나 편향된 인식을 심어 주고 유권자의 정확한 판단을 흐리게 한다. 포털 업체와 정치권의 협조도 필요하다. 선관위에서 AI 전담 조직을 꾸려 모니터링을 강화한다지만 모든 딥페이크물을 적발하기란 힘든 일이다. 포털 업체가 선관위의 삭제 요청에 앞서 스스로 이런 딥페이크물을 걸러 내는 시스템을 갖춰야 한다. 정치권은 딥페이크를 활용한 불법 선거물을 제작, 유포하는 정치인은 공직선거에 입후보할 자격을 박탈하는 등 AI 선거의 해악을 최소화할 방안을 모색해야 한다. 유권자의 눈과 귀를 흐리는 선거는 정치에 대한 불신감만 키울 것이다.

아부다비에 다녀왔다. 유네스코가 주최한 제3회 문화예술교육 세계대회는 변화하는 국제 정세와 사회적 가치 등을 반영한 새로운 문화예술교육 프레임워크를 채택하는 국제 행사였다. 한국대표단으로 참석해 인공지능(AI) 기반 교육 확대 전략을 주제로 문화예술 분야의 비인간 교수자 도입 방안을 발표했는데 챗GTP의 도움으로 보다 설득력 있는 발표 자료를 만들 수 있었다. 챗GPT의 활용과 인기는 소셜미디어에서도 확인할 수 있다. AI로 만든 햄스터 캐릭터로 스토리를 이어 가는 인스타그램 계정은 만든 지 3주 만에 팔로어가 1만명을 넘어섰다. 한편에서는 이러한 콘텐츠를 창작물로 볼 수 있는지, 저작권 이슈는 없는지 우려하는 목소리도 있다. 하지만 즐기는 입장에서는 AI가 만든 창작물도 이렇게 재미있을 수 있다는 사실이 흥미롭기만 하다. 챗GPT는 아직은 그 자체로 재미를 창출하지는 못한다. 챗GPT로 콘텐츠를 만드는 방식은 유사하지만 재미의 수준에는 차이가 있어 반응도 제각각이다. 결국 재미라는 것이 챗GPT를 활용하는 창작자에게서 나오기 때문이다. 챗GTP는 제작에 대한 기능적 전문성이 없더라도 창의적 스토리를 시각적으로 보여 줄 수 있게 하므로 아이디어는 갖고 있지만 시각적으로 표현할 능력은 없었던 소비자들을 새로운 창작자로 만들어 주는 기반으로 활용될 수 있다. 이에 대해 소비자학 관점에서는 수동적으로 콘텐츠를 감상하기만 했던 컨슈머가 창작자이자 소비자인 크리슈머로 진화한 것으로 해석한다. 크리슈머는 ‘크리에이터’와 ‘컨슈머’의 합성어다. 로봇산업의 발전 과정에서 논의됐던 ‘불쾌한 골짜기’(uncanny valley) 이론이 챗GPT에도 적용된다. ‘불쾌한 골짜기’란 인간이 로봇 등 인간이 아닌 존재를 볼 때 인간과의 유사성이 높을수록 호감도도 높아지지만, 일정 수준에 이르면 오히려 불쾌감을 느끼는 상황을 뜻한다. 이 이론에 따르면 챗GPT가 인간과 유사한 화자 역할을 하기 때문에 정말로 살아 있는 것은 아닌가 하는 의문이 생길 수 있고, 이러한 의문은 불쾌감으로 연결될 수도 있다. 그러나 챗GPT를 실생활에서 이미 유용하게 활용하고 점점 실용도가 높아지면서 불쾌한 골짜기를 논의할 단계는 지났다고 생각한다. 직업 안정성에 위험을 가져올 기술 발전에 거부감을 느끼는 것은 당연하다. 대표적인 것이 영국의 러다이트운동이다. 그러나 챗GPT와 같은 생성형 AI를 활용한 창작은 튜브물감의 사용으로 등장한 인상주의나 카메라의 발명으로 등장한 사진과 영화, 컴퓨터의 사용으로 등장한 미디어아트와 같이 인간의 창작 방식을 진일보시키는 발전으로 바라봐야 한다. 텍스트만 입력하면 영상이 만들어지는 것은 물론이고 곡을 만들고 원하는 콘셉트로 연주까지 해 주는 AI 플랫폼들이 등장했다. AI를 활용한 새로운 창작 방식을 적극적으로 수용함으로써 이전에는 감히 창작에 나서지 못했던 잠재 창작자들에게 더 많은 창작 참여 기회가 주어지고 있다. AI가 인간을 대체하는 것이 아니다. 인간이 만들고 즐기고 감상할 수 있는 것들이 다양해지는 것이다. 한성대 문학문화콘텐츠학과 교수

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

“선관위, 영상 확인에 최소 하루선거 전날 유포 땐 대응 어려워”“딥페이크 저작물 엄격한 관리기술 발전 막는 방향은 안 돼” 중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인된 가운데 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른AI연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는 데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지, 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 애플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 총선 앞 국론 분열을 노린 북한이 딥페이크 영상을 유포하며 공격에 나설 수 있다는 의미다. 영국 옥스퍼드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업해야 한다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

사용자가 딥페이크 영상에 속는 일을 막기 위해 인공지능(AI)이 생성한 이미지나 영상을 감지하거나 콘텐츠에 ‘표지’를 남기는 기술도 계속 개발되고 있다. 하지만 대체로 딥페이크를 잡는 기술은 나날이 정교해지는 딥페이크 기술의 발달 속도를 따라잡지 못하고 있다. 19일 AI 업계에 따르면 딥페이크에 대응하는 기술은 크게 ‘탐지’하는 방식과 ‘표지’를 남기는 방식으로 나뉜다. 이 중 탐지 방식은 딥페이크의 특징을 학습한 AI가 가짜 영상을 찾아내 확산되기 전에 막는 기술이다. 합성한 얼굴과 합성 이미지를 덧씌운 대상의 얼굴 경계에 있는 미세한 차이, 모델의 데이터가 부족할 때 나타나는 부정확한 표정, 딥페이크에서만 나타나는 미묘한 음성 지연 등 얼굴이나 음성을 합성할 때만 나타나는 현상을 인간의 눈, 귀보다 빠르고 정확하게 찾아낸다. 2020년 마이크로소프트(MS)와 구글, 메타 등은 우승 상금 100만 달러(현재 환율로 약 133억 3550만원)를 걸고 ‘딥페이크 디텍터 챌린지’를 열었다. 전 세계 연구자와 개발자들의 기술과 아이디어를 끌어모으기 위해서다. 대회를 통해 탐지용 AI를 학습시킬 수 있는 딥페이크 데이터 세트가 만들어졌고, 누구나 탐지 모델을 만들 때 쓸 수 있도록 소스코드도 공유됐다. 하지만 2000명 이상의 참가작 중 1위 AI 모델조차 탐지 정확도가 65%에 그쳤다. 지난해엔 인텔이 ‘페이크캐처’라는 딥페이크 탐지 소프트웨어를 공개했다. 인텔은 페이크캐처가 사람의 심장이 뛸 때마다 얼굴에 나타나는 미세한 색 변화 등을 감지해 무려 96%의 정확도로 딥페이크를 걸러낸다고 밝혔다. 하지만 BBC 등에 따르면 이는 조명, 대상 인종 등 실험 조건이 통제된 상황에서만 달성될 가능성이 높다. 국내에선 딥브레인AI가 딥페이크 탐지 기술을 꾸준히 개발하고 있다. 자사에 축적된 AI 아바타 제작 데이터와 기술력을 딥페이크 탐지에도 활용해 솔루션을 만들어 출시하고 있다. 지난달 출시한 서비스는 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 2종으로, 조작된 이미지와 동영상 탐지 서비스, 음성 탐지 서비스를 각각 제공한다. 생성형 AI가 학습할 데이터에 눈엔 보이지 않는 ‘딱지’를 붙여 딥페이크 생성 과정에서 이를 드러나게 하는 ‘워터마크’ 방식도 최근 주목을 받고 있다. 구글 딥마인드가 지난해 8월 공개한 ‘신스ID’(SynthID)가 대표적이며, 네이버 제페토와 메타 등도 워터마크 정책을 도입했다. 하지만 워터마크를 지우는 기술 역시 다양하고 빠르게 확산되고 있다. 미국 메릴랜드대 연구진은 지난해 10월 신스ID를 포함한 주요 AI 워터마크를 모두 깨뜨렸다는 연구 결과를 발표하기도 했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.