서울 금천구는 계층 간 정보격차를 없애고 디지털 역량을 강화하기 위해 올해 말까지 구민 정보화 교육을 운영한다고 22일 밝혔다. 특히 최신 기술을 체험할 수 있는 정보기술(IT) 융합 실습교육장이 문을 연다. 금천구 관계자는 “신설되는 IT 융합 실습 교육장에선 영상제작, 코딩, 로봇, 확장 가상세계(메타버스), 인공지능(AI), 드론 등 다양한 신기술에 대한 실습교육이 진행될 예정”이라고 소개했다. 기존 일반 교육장에서는 컴퓨터, 인터넷, 스마트폰, 한글, 엑셀, PPT, 그래픽 등 일상생활에 필요한 교육이 진행된다.6개 키오스크 체험존에선 비대면 주문에 어려움을 겪는 어르신들이 체험할 수 있다. 교육용 키오스크를 이용해 실제와 같이 음식 주문, 영화표 예매, KTX 예매 발권 등의 결제와 영수증 출력을 할 수 있다. 전화 및 문자 등을 이용한 금융사기로부터 주민을 보호하기 위한 특강도 매월 진행한다. 복지관과 장애인 복지시설을 대상으로 ‘찾아가는 정보화교육’도 운영한다. 교육은 월 단위로 정규과정(20시간, 월 8회)과 특강과정(10시간, 월 4회)로 나누어 운영된다. 교육과정을 기초부터 심화까지 세분화해 수준에 맞는 강의를 선택해 들을 수 있다. 금천구청 지하1층 전산교육장에서 열린다. 지난해엔 24개 강좌를 1307명이 수료했다. 수강을 원하는 구민은 금천구청 홈페이지 ‘교육포털’ 또는 구민 정보화 교육 콜센터(02-2627-1119)에서 매월 25일쯤 신청할 수 있다. 수강생 선정은 추첨으로 결정되며 신규자가 우선된다. 수강료는 무료이고 교재비는 수강생이 부담해야 한다.

튀르키예의 5세대 전투기 ‘칸’(KAAN)이 첫 비행을 성공적으로 마쳤다. 21일(현지시간) 로이터 통신 등에 따르면, 칸 전투기는 이날 수도 앙카라 북부 아킨즈 공군 기지에서 첫 비행을 완수했다. 개발사인 튀르키예 항공우주산업(TUSAS, 옛 TAI)도 소셜미디어에 칸 전투기가 이착륙하는 모습을 담은 영상을 공유했다. 테멜 코틸 TUSAS 최고경영자(CEO)는 엑스(X, 옛 트위터)를 통해 칸의 첫 비행에는 약 13분이 걸렸다고 밝히면서도 “230노트(시속 약 426㎞)의 속도를 기록하고 8000피트(약 2438m) 고도에 도달했다”고 덧붙였다.레제프 에르도안 튀르키예 대통령은 칸 전투기가 이륙하는 모습이 담긴 사진을 직접 공유하고 “5세대 전투기를 생산하는 과정에서 매우 중요한 단계를 통과했다”고 밝혔다. 튀르키예 첫 국산 전투기 칸, 성능은? 칸 전투기는 지난 2010년부터 튀르키예가 공군의 미국산 F-16 전투기를 대체할 목적으로 개발 중인 차세대 전투기다. 조종사 한 명이 탑승하는 칸은 동체 길이 21m, 날개 길이 14m, 높이 6m이며, 최고 속도 마하 1.8(시속 약 2203㎞), 비행고도 5만5000피트(16.7㎞)의 성능을 목표로 한다. 튀르키예는 칸이 높은 스텔스 성능을 자랑하는 5세대 스텔스 전투기라고 홍보하지만, 전투기 배면에 공대공 미사일 2발을 탑재하는 정도의 내부 무장창만 갖기에 미국이 판매를 거부한 F-35A 전투기보다 내부 무장 탑재량이 떨어진다. 튀르키예 전투기 국산화, 아직 불완전한 성과 튀르키예의 전투기 국산화 사업은 아직 불완전한 성과다. 이날 첫 비행에 나선 칸 전투기는 지상 시험용으로 제작된 시제기로, F-16에 사용되는 미국산 F110 엔진 2기를 탑재하고 있기 때문이다. 튀르키예는 이런 칸 전투기에 향후 자체 생산 엔진을 도입할 계획이지만, 해외 협력사가 확정됐다는 소식은 아직까지 나오지 않았다. 다만 튀르키예 방위산업청(SSB)의 할루크 고르군 청장은 이날 칸의 첫 비행을 자축하면서도 자체 생산 엔진 도입은 예정대로 2028년 시작될 것으로 보인다고 밝혔다. 튀르키예는 칸 전투기가 실전 배치될 때까지 남은 공백을 메우기 위해 공군력을 개선하기 위한 계약도 체결했다. 북대서양조약기구(NATO·나토) 회원국이기도 한 이 나라가 스웨덴의 NATO 가입을 대가로 미국으로부터 F-16 전투기 추가 구매 승인을 받았기 때문이다. 여기에는 최신 사양의 F-16 전투기 40대 구매 뿐 아니라 기존 F-16 전투기 79대를 현대화하는 개량 키트도 포함됐다. 같은 날, 미국은 그리스에 대한 F-35 전투기 판매도 허가했는데, 이는 미국과 밀접한 NATO 회원국들이면서 지역의 앙숙인 두 나라를 고려한 지정학적 균형을 위한 결과라는 분석도 나온다. F-35 전투기는 현존하는 세계 최강 전투기로 평가받는다. 튀르키예는 F-35 전투기의 공동 개발국이었지만, 러시아로부터 S-400 지대공 미사일을 도입하면서 이 전투기 획득 자격을 잃었다. 미국이 두 무기가 함께 쓰이면 관련 기술이 러시아에 유출될 우려가 있다고 강력하게 주장했기 때문이다. 이후 미국은 튀르키예에 S-400을 포기하면 F-35 판매를 고려하겠다는 의사를 전달했던 것으로 알려졌다.

유튜브 강의·제작 전문가 김남훈 대표컨설팅 노하우 집약해 ‘유튜브 백과’ 펴내“첫 기획부터 막힌 이들에게 돌파구 될 것”비즈니스·교육·오락 등 모든 분야 통찰력 제시 “전업 유튜버로 성공하고 싶어요.” “유튜브 담당자인데 도대체 어떤 콘텐츠를 만들어야 할까요?”유튜브 콘텐츠 제작을 시작하는 예비 크리에이터와 유튜브로 브랜딩을 하고 싶은 기업 담당자를 위한 실용적인 안내서가 나왔다. 바로 ‘유튜브 백과-세계의 연결자, 최고의 미디어가 된 빅테크 플랫폼’(김남훈 지음·이은북)이다. ‘유튜브 백과’는 100만 구독자를 가진 크리에이터의 성공 이유, 새로 시작하는 크리에이터를 위한 채널 기획부터 콘텐츠 제작 방향, 채널 운영 코치까지, 유튜브의 모든 것을 담은 ‘백과사전’이다. 유튜브는 전세계 모든 콘텐츠를 담은 초거대 플랫폼이다. 이미 미디어 생태계의 최강자로 등극한 유튜브에서 사람들은 음악을 듣고, 영화를 보고, 함께 이야기하고, 쇼핑하며 지낸다. 현실의 세상이 이미 유튜브로 들어왔다고 해도 과언이 아니다. 그러다보니 유튜브는 기능만 파악한다고 해서 모두 다 알았다고 말할 수 없다. 하지만 시중에 나와있는 책들은 유튜브의 기능만을 소개하는 것이 대부분이다. 그렇다면 유튜브에서 성공하고 싶다면 어떻게 해야할까. 저자는 우선 유튜브라는 미디어의 원리를 파악하고 유튜브 시청자들이 어떤 생각과 어떤 활동 패턴을 보이며, 유튜브가 창작자와 구독자를 연결하는 방식을 제대로 파악하는 것이 중요하다고 말한다. 또 남들과 다른 유튜브 채널 기획 방법과 유튜브 콘텐츠의 기본인 영상을 기획하고 구성하는 법을 제대로 배우는 것이 중요하다고 강조한다. 저자 김남훈 대표는 현업의 노하우와 전문가의 이론을 모두 갖춘 영상 전문가이자 유튜브 전문가로 다수의 유튜브 강의와 채널 컨설팅을 한 베테랑이다. 현재 콘텐츠 기업 훈픽처스 대표이자 뉴미디어 콘텐츠 제작자이며, 한라대학교 미디어광고콘텐츠학과 겸임교수다. 저자는 연세대에서 광고홍보를, 미국 볼주립대학교에서 디지털 스토리텔링을 공부했으며, CJ미디어와 제일기획에서 제작 프로듀서 및 PR 담당자로 근무했다. 미국 ‘에미상’(Emmy Awards) 비디오 에디터로서 활동한 바 있으며 한양대, 서울여대, 성균관대 등 여러 대학에서 학생들을 가르쳤다. 현재 뉴미디어 콘텐츠 전략 기획, 제작 전문가로서 정부 및 공기관, 대기업, 언론사 등의 유튜브 커뮤니케이션 전략 수립, 컨설팅, 콘텐츠 제작을 담당하고 있다. 김 대표는 실무 현장에서 여러 질문을 받으며, 유튜브에 대한 제대로 된 안내서이자 활용서가 없다는 것을 깨달았다고 한다. 그는 “많은 사람들이 한 면만을 바라보며 유튜브 운영을 하다보니 첫 기획부터 잘못 해서 나중에 고생을 하거나, 열심히 해도 채널 성장이 더딘 것을 컨설팅하던 저자는 여러 사람들의 고민을 정리해 이 책의 바탕을 삼았다”고 말했다. 저자는 ‘유튜브 백과’를 통해 사람들이 놓치는 기본에 대해 꼼꼼하게 알려준다. 우선 지금의 유튜브 시장이 어떤지 설명해 준다. 그러면서 유튜브를 하려는 이유에 대해 묻는다. 돈 때문인지, 브랜딩 때문인지. 그리고 목적에 따라 유튜브 채널을 어떻게 운영해야 할지 알려준다. 또 메인 타깃에 대해 진지하게 고민해야 한다고 충고한다. 더불어 어떤 콘텐츠를 제작해야 할지, 콘텐츠마다 어떤 특징이 있는지. 영상을 찍을 때 필요한 구성안 작성법이나 장비에 대해서도 알려준다. 심지어 요즘 막 쓰이기 시작한 생성 AI 도구에 대한 정보도 가르쳐준다. 나아가 장기적으로 채널을 운영하려면 어떤 점들을 주의해야 하는지, 알고리즘은 대략 어떤 법칙을 따르는지까지 친절하게 알려준다. 즉 ‘유튜브 백과’는 쉽게 구할 수 없는 유튜브 관련 알짜배기 정보와 팁들을 알차게 담고 있다. 부자의 노하우를 안다고 해서 부자가 될 수 없듯이, 스타 유튜버의 이야기를 듣는다고 당장 내 구독자가 늘지 않는다. 그보다 더 필요한 것은 자신이 뭘 잘할 수 있는지, 그리고 내 채널은 어떻게 나아가야 할지에 대한 깊고 진지한 고민이다. 이 책은 그 고민을 제대로 할 수 있도록 도와줄 훌륭한 안내서가 돼 줄 것이라고 저자는 강조했다. 김치호 한양대 문화콘텐츠학과 교수는 “이 책은 유튜브를 비즈니스, 교육, 오락의 도구로 활용하려는 모두에게 깊은 통찰력을 제공한다”며 “유튜브의 기본부터 고급 전략까지 폭넓게 다루며, 독자들이 유튜브를 통해 자신의 목소리를 효과적으로 표현하고, 궁극적으로 성공적인 채널을 구축할 수 있도록 이끌어준다. 유튜브와 디지털 미디어에 관심 있는 모두에게 강력히 추천한다”고 전했다. 384쪽.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

인공지능(AI) 개발 경쟁을 두고 미국과 경쟁을 벌이고 있는 중국이 챗GPT 개발사 오픈AI의 영상 생성 AI ‘소라’(Sora)에 충격을 받은 모습이다. 오픈AI는 중국산 동영상 플랫폼 틱톡에 계정을 개설하고, 닷새 만에 20개의 숏폼 영상을 게재했다. 21일 시각적으로 실망스러운 슈퍼볼 광고를 만들라는 주문에 소라가 생성한 10초짜리 영상과 함께 오픈AI의 틱톡 계정은 “소라로 다음엔 무엇을 만들어야 할까”란 질문을 올렸다. 이날 중국 재경망에 따르면 중국 인터넷 보안 기업 치후360 창립자 저우훙이는 오픈AI의 발표 직후 중국판 트위터인 웨이보에 “소라가 광고와 영화 예고편 업계를 완전히 흔들 것”이라고 내다봤다. 저우 창립자는 “소라가 틱톡을 그렇게 빨리 몰아내지는 않을 것이라며, 당분간 틱톡의 제작 도구에 머물 것”이라고 전망했다. 이어 소라의 등장으로 인간의 지능에 가까운 인공범용지능(AGI) 구현에 필요한 기간이 10년에서 1∼2년으로 단축될 것이라고 예측했다. 저우 창립자는 중국의 거대언어모델(LLM) 발전 수준이 오픈AI가 지난해 3월 내놓은 GPT4.0과 1년 반 정도 격차가 있다고 평가했다. 홍콩 사우스차이나모닝포스트는 중국의 한 재계 고위 인사가 소라를 ‘뉴턴 모멘트’라 불렀다고 전했다.마이크로소프트(MS)의 지원을 받는 오픈AI가 미국과 중국의 AI 격차를 확대하는 또 다른 ‘비밀 병기’를 개발하고 있을 가능성도 제기됐다. 중국 소셜미디어(SNS)에서는 한 블로거가 소라를 이용해 만들었다는 단편 애니메이션 ‘서유기’가 화제가 됐다. 미술 작업 경력이 15년이라는 쓰촨성의 블로거 ‘AI 정신병원’은 “수작업으로 완성하는 데 최소 반년이 걸리는데, 소라의 도움으로 일주일 만에 뚝딱 완성할 수 있었다”며 “속도가 그야말로 (서유기의 주인공) 손오공보다 빠르다”고 감탄했다. 오픈AI가 챗GPT에 이어 소라를 공개하며 시장에 충격을 준 가운데, 샘 올트먼 오픈AI 최고경영자(CEO)가 개발한 가상화폐 월드코인 가격도 최근 급등세를 보였다. 가상화폐 정보 사이트 코인마켓캡에 따르면 한국시간 21일 오전 10시 45분 기준 월드코인 가격은 일주일 전 대비 150%가량 오른 6.83달러 선에서 거래됐다. 월드코인 가격은 일주일 전인 14일만 해도 2.9∼3.0달러 수준이었지만 지난주 소라 공개 이후 급등세가 본격화해 19일 한때 7.95달러까지 찍었다가 상승분을 일부 반납한 상태다. 홍콩과 상하이 증시에서도 AI 관련 49개 기술, 엔터테인먼트, 미디어 기업의 주가가 급등하고 있다.

중앙선거관리위원회가 오는 4월 총선을 앞두고 공직선거법상 위법 사항인 인공지능(AI)을 활용한 ‘딥페이크’ 불법 게시물을 22일 만에 129건이나 적발했다. 상대당 후보가 참석하지도 않은 행사에 참석한 듯 이미지를 합성하는 등 특정 정치인의 이미지를 왜곡하거나 조롱하는 영상물로 모두 삭제했다고 한다. 선거가 가까워질수록 이런 불법 선거물이 넘쳐날 판이니 대책 마련이 시급해 보인다. 딥페이크 영상 등은 AI 기술 등으로 만들어 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등이다. 공직선거법 개정에 따라 지난달 29일부터 이런 딥페이크물은 제작·편집·유포·상영·게시할 수 없다. 위반하면 7년 이하 징역이나 최고 5000만원의 벌금형에 처한다. AI 기술로 만든 가상의 영상물이라고 표시를 하더라도 허위사실이 포함된 경우에는 허위사실 공표죄로 처벌한다지만 위해성을 감안하면 미흡한 대책이다. 선관위는 반복적이고 악의적인 딥페이크물은 고발 조치 등 강력 대응해야 한다. 이런 불법 게시물은 삭제하더라도 삭제하기 전에 본 유권자들에게 특정 정당과 정치인에 대한 왜곡되거나 편향된 인식을 심어 주고 유권자의 정확한 판단을 흐리게 한다. 포털 업체와 정치권의 협조도 필요하다. 선관위에서 AI 전담 조직을 꾸려 모니터링을 강화한다지만 모든 딥페이크물을 적발하기란 힘든 일이다. 포털 업체가 선관위의 삭제 요청에 앞서 스스로 이런 딥페이크물을 걸러 내는 시스템을 갖춰야 한다. 정치권은 딥페이크를 활용한 불법 선거물을 제작, 유포하는 정치인은 공직선거에 입후보할 자격을 박탈하는 등 AI 선거의 해악을 최소화할 방안을 모색해야 한다. 유권자의 눈과 귀를 흐리는 선거는 정치에 대한 불신감만 키울 것이다.

아부다비에 다녀왔다. 유네스코가 주최한 제3회 문화예술교육 세계대회는 변화하는 국제 정세와 사회적 가치 등을 반영한 새로운 문화예술교육 프레임워크를 채택하는 국제 행사였다. 한국대표단으로 참석해 인공지능(AI) 기반 교육 확대 전략을 주제로 문화예술 분야의 비인간 교수자 도입 방안을 발표했는데 챗GTP의 도움으로 보다 설득력 있는 발표 자료를 만들 수 있었다. 챗GPT의 활용과 인기는 소셜미디어에서도 확인할 수 있다. AI로 만든 햄스터 캐릭터로 스토리를 이어 가는 인스타그램 계정은 만든 지 3주 만에 팔로어가 1만명을 넘어섰다. 한편에서는 이러한 콘텐츠를 창작물로 볼 수 있는지, 저작권 이슈는 없는지 우려하는 목소리도 있다. 하지만 즐기는 입장에서는 AI가 만든 창작물도 이렇게 재미있을 수 있다는 사실이 흥미롭기만 하다. 챗GPT는 아직은 그 자체로 재미를 창출하지는 못한다. 챗GPT로 콘텐츠를 만드는 방식은 유사하지만 재미의 수준에는 차이가 있어 반응도 제각각이다. 결국 재미라는 것이 챗GPT를 활용하는 창작자에게서 나오기 때문이다. 챗GTP는 제작에 대한 기능적 전문성이 없더라도 창의적 스토리를 시각적으로 보여 줄 수 있게 하므로 아이디어는 갖고 있지만 시각적으로 표현할 능력은 없었던 소비자들을 새로운 창작자로 만들어 주는 기반으로 활용될 수 있다. 이에 대해 소비자학 관점에서는 수동적으로 콘텐츠를 감상하기만 했던 컨슈머가 창작자이자 소비자인 크리슈머로 진화한 것으로 해석한다. 크리슈머는 ‘크리에이터’와 ‘컨슈머’의 합성어다. 로봇산업의 발전 과정에서 논의됐던 ‘불쾌한 골짜기’(uncanny valley) 이론이 챗GPT에도 적용된다. ‘불쾌한 골짜기’란 인간이 로봇 등 인간이 아닌 존재를 볼 때 인간과의 유사성이 높을수록 호감도도 높아지지만, 일정 수준에 이르면 오히려 불쾌감을 느끼는 상황을 뜻한다. 이 이론에 따르면 챗GPT가 인간과 유사한 화자 역할을 하기 때문에 정말로 살아 있는 것은 아닌가 하는 의문이 생길 수 있고, 이러한 의문은 불쾌감으로 연결될 수도 있다. 그러나 챗GPT를 실생활에서 이미 유용하게 활용하고 점점 실용도가 높아지면서 불쾌한 골짜기를 논의할 단계는 지났다고 생각한다. 직업 안정성에 위험을 가져올 기술 발전에 거부감을 느끼는 것은 당연하다. 대표적인 것이 영국의 러다이트운동이다. 그러나 챗GPT와 같은 생성형 AI를 활용한 창작은 튜브물감의 사용으로 등장한 인상주의나 카메라의 발명으로 등장한 사진과 영화, 컴퓨터의 사용으로 등장한 미디어아트와 같이 인간의 창작 방식을 진일보시키는 발전으로 바라봐야 한다. 텍스트만 입력하면 영상이 만들어지는 것은 물론이고 곡을 만들고 원하는 콘셉트로 연주까지 해 주는 AI 플랫폼들이 등장했다. AI를 활용한 새로운 창작 방식을 적극적으로 수용함으로써 이전에는 감히 창작에 나서지 못했던 잠재 창작자들에게 더 많은 창작 참여 기회가 주어지고 있다. AI가 인간을 대체하는 것이 아니다. 인간이 만들고 즐기고 감상할 수 있는 것들이 다양해지는 것이다. 한성대 문학문화콘텐츠학과 교수

산림 재난의 통합적 관리를 위한 ‘산림재난방지법’ 제정이 추진된다. 산불 피해가 발생하면 산사태 가능성과 산림병해충 취약성이 증가하고 병해충 피해목은 산불 피해를 키우는 악순환이 이어지고 있다. 극한 기후 변화로 산불·산사태·병해충 등 산림 재난이 심화하고 상호 연계돼 대형 피해를 유발하면서 통합 관리가 필요해졌다. 중대재해처벌법 적용 대상이 50인 미만 사업장까지 확대되면서 안전컨설팅과 현장특임관 운영 등 산림 사업 현장의 안전관리도 강화한다. 산림청은 20일 이런 내용의 과학적 산림 재난 대응을 통한 국민의 생명과 안전 보호 대책을 발표했다. 대형 산불 차단을 위해 영농 부산물 수거·파쇄 등 예방 활동을 강화하고 산불위험이 큰 경북·강원지역을 중심으로 인공지능(AI) 감시카메라를 활용한 24시간 산불감시체계를 가동한다. 담수량이 큰 임차 헬기 7대를 동해안 등 산불위험 지역에 전진 배치하고 산불 진화 임도(409㎞)를 확충해 진화 효율을 강화할 계획이다. 특히 급경사지(행안부)와 도로사면(국토부), 농지(농식품부), 국립공원(환경부) 등 부처별로 관리하던 산림 및 주변 비탈면을 ‘디지털 사면통합 산사태 정보시스템’으로 구축해 통합 관리한다. 산림 계곡 분포와 유량 정보를 자료화한 ‘산림 수계 수치지도’도 제작해 현재 89%인 산사태 예측력을 94%까지 높이고 산사태 예측정보 체계에 ‘예비 경보’를 추가해 주민 대피 시간을 확보할 계획이다. 산림경영 디지털화의 일환으로 2026년까지 디지털·AI 기반의 디지털 산림 플랫폼을 구축한다. 산림·계곡·물 등 전국 산림의 자원데이터와 경영데이터에 대한 통합 관리가 이뤄진다. 2025년 예정된 농림 위성 발사에 대비해 7월 국가산림위성정보센터를 설치 가동한다. 확보된 자료는 국민·임업인에게 개방해 산림경영과 취·창업 등에 활용할 수 있도록 제공키로 했다. 임업의 영세성·장기성, 산림의 공익기능 등을 고려해 임업 분야 비과세 확대, 취득세 감면 등 임업 분야 세제 개선 및 임업 직불제 지급 기준을 유사 산업 수준으로 완화한다. 특히 산림 현장의 인력난에 따른 임업인 애로를 해소하기 위해 올해부터 외국인 근로자(1000명)를 산림 현장에 투입할 예정이다. 남성현 산림청장은 “산불과 산사태 등 산림 재난으로부터 국민의 생명과 안전을 지켜내겠다”면서 “재난 대응에 필요한 규제는 강화하되 산림 경영 등을 위한 규제는 완화해 국민이 체감할 수 있는 정책을 추진해 나가겠다”고 밝혔다.

인공지능(AI) 노트북에 설치된 이미지 편집 애플리케이션(앱)에서 ‘스포츠카’를 영문으로 입력하자 5초 만에 파란색 스포츠카 이미지가 화면에 떴다. 이번엔 사운드 편집 앱을 실행시킨 뒤 ‘재즈’를 입력하자 25초 길이의 재즈 음원이 생성됐다. 두 작업 모두 인터넷이 연결되지 않은 상태에서 진행됐다. 오프라인 상태에서 간단한 명령어만으로 이미지, 음원을 자유롭게 만들 수 있는 시대가 본격 열린 것이다. 19일 서울 성동구 플란트란스 성수 플래그십에 마련된 인텔 행사장에는 자체 AI 프로세서인 ‘인텔 코어 울트라’가 탑재된 AI PC 12종이 전시돼 있었다. 이들 PC는 AI 가속기인 ‘신경망처리장치’(NPU)가 프로세서에 새롭게 적용돼 작업 속도가 빨라지고 전력 효율이 높아졌다. 특히 인터넷 연결 없이도 생성형 AI 툴을 이용할 수 있게 된 점이 기존 PC와 큰 차이점이다. 클라우드를 거치지 않고 기기 내에서 AI를 구동할 수 있는 ‘온디바이스 AI’가 스마트폰에 이어 PC에서도 구현되면서 PC 시장에서도 지각변동이 예상된다. 시장조사업체 가트너는 올해 말 AI PC 출하량이 5450만대로 전체 PC 출하량의 22%를 차지할 것으로 전망했다. 삼성전자, LG전자, 레노보 등 PC 제조사와 손잡고 AI PC 확대에 나선 인텔은 올해 4000만대, 내년 6000만대 등 총 1억대를 공급한다는 계획이다. AI PC가 많아져야 이 기기 안에서 쓸 수 있는 온디바이스 AI 관련 앱 개발도 활성화된다는 논리다. 업계에서는 PC 내에서 자체적으로 AI 연산이 가능하기 때문에 이미지, 음원 제작뿐 아니라 게임, 비디오 편집 등 다양한 기능을 접목할 수 있을 것으로 본다. 음성을 인식하고 문서를 요약해 주거나 검색을 해주는 서비스도 나올 수 있다. 결국 획기적인 AI 앱을 통해 차별화된 서비스를 내놓는 게 관건이다. 정보통신기획평가원도 최근 보고서에서 “일반 스마트 기기보다 가격이 더 비싼 온디바이스 AI 기기를 선택할 수 있는 ‘킬러 앱’을 개발해 사용이 편리하고 쉽게 다가갈 수 있는 서비스를 모색해야 한다”고 밝혔다. 온디바이스 AI는 상대적으로 속도가 빠르고, 내부 정보 유출 우려가 크지 않다는 점이 장점으로 꼽힌다. 사용자의 일상생활 데이터를 직접 파악할 수 있어 맞춤형 서비스도 가능하다. 이 때문에 스마트폰, PC에 이어 웨어러블 기기, 사물인터넷(IoT), 자율주행차 등으로 점차 시장을 넓혀 갈 것으로 보인다.

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

“선관위, 영상 확인에 최소 하루선거 전날 유포 땐 대응 어려워”“딥페이크 저작물 엄격한 관리기술 발전 막는 방향은 안 돼” 중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인된 가운데 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른AI연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는 데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지, 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 애플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 총선 앞 국론 분열을 노린 북한이 딥페이크 영상을 유포하며 공격에 나설 수 있다는 의미다. 영국 옥스퍼드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업해야 한다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

사용자가 딥페이크 영상에 속는 일을 막기 위해 인공지능(AI)이 생성한 이미지나 영상을 감지하거나 콘텐츠에 ‘표지’를 남기는 기술도 계속 개발되고 있다. 하지만 대체로 딥페이크를 잡는 기술은 나날이 정교해지는 딥페이크 기술의 발달 속도를 따라잡지 못하고 있다. 19일 AI 업계에 따르면 딥페이크에 대응하는 기술은 크게 ‘탐지’하는 방식과 ‘표지’를 남기는 방식으로 나뉜다. 이 중 탐지 방식은 딥페이크의 특징을 학습한 AI가 가짜 영상을 찾아내 확산되기 전에 막는 기술이다. 합성한 얼굴과 합성 이미지를 덧씌운 대상의 얼굴 경계에 있는 미세한 차이, 모델의 데이터가 부족할 때 나타나는 부정확한 표정, 딥페이크에서만 나타나는 미묘한 음성 지연 등 얼굴이나 음성을 합성할 때만 나타나는 현상을 인간의 눈, 귀보다 빠르고 정확하게 찾아낸다. 2020년 마이크로소프트(MS)와 구글, 메타 등은 우승 상금 100만 달러(현재 환율로 약 133억 3550만원)를 걸고 ‘딥페이크 디텍터 챌린지’를 열었다. 전 세계 연구자와 개발자들의 기술과 아이디어를 끌어모으기 위해서다. 대회를 통해 탐지용 AI를 학습시킬 수 있는 딥페이크 데이터 세트가 만들어졌고, 누구나 탐지 모델을 만들 때 쓸 수 있도록 소스코드도 공유됐다. 하지만 2000명 이상의 참가작 중 1위 AI 모델조차 탐지 정확도가 65%에 그쳤다. 지난해엔 인텔이 ‘페이크캐처’라는 딥페이크 탐지 소프트웨어를 공개했다. 인텔은 페이크캐처가 사람의 심장이 뛸 때마다 얼굴에 나타나는 미세한 색 변화 등을 감지해 무려 96%의 정확도로 딥페이크를 걸러낸다고 밝혔다. 하지만 BBC 등에 따르면 이는 조명, 대상 인종 등 실험 조건이 통제된 상황에서만 달성될 가능성이 높다. 국내에선 딥브레인AI가 딥페이크 탐지 기술을 꾸준히 개발하고 있다. 자사에 축적된 AI 아바타 제작 데이터와 기술력을 딥페이크 탐지에도 활용해 솔루션을 만들어 출시하고 있다. 지난달 출시한 서비스는 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 2종으로, 조작된 이미지와 동영상 탐지 서비스, 음성 탐지 서비스를 각각 제공한다. 생성형 AI가 학습할 데이터에 눈엔 보이지 않는 ‘딱지’를 붙여 딥페이크 생성 과정에서 이를 드러나게 하는 ‘워터마크’ 방식도 최근 주목을 받고 있다. 구글 딥마인드가 지난해 8월 공개한 ‘신스ID’(SynthID)가 대표적이며, 네이버 제페토와 메타 등도 워터마크 정책을 도입했다. 하지만 워터마크를 지우는 기술 역시 다양하고 빠르게 확산되고 있다. 미국 메릴랜드대 연구진은 지난해 10월 신스ID를 포함한 주요 AI 워터마크를 모두 깨뜨렸다는 연구 결과를 발표하기도 했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인되면서 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른 AI 연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니, 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만, 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 어플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수도 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 북한이 딥페이크 영상을 유포해 총선 앞 국론 분열을 노려 공격에 나설 수 있다는 의미다. 영국 옥스포드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업이 필요하다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

서울 성동구가 행정안전부와 국민권익위원회가 합동으로 실시한 ‘2023년 민원서비스 종합평가’에서 전국에서 가장 뛰어난 민원서비스를 제공한 ‘최우수기관’으로 선정됐다. 2017년 처음으로 최우수기관으로 꼽힌 이래 7년 연속 선정으로, 한 지방자치단체가 이 같은 기록을 세운 것은 전국에서 성동구가 최초이자 유일한 사례다. 정부 업무평가의 하나로 매년 실시되는 ‘민원서비스 종합평가’는 중앙행정기관 46개, 광역·기초 자치단체 243개, 시도교육청 17개 등 총 306개 기관을 대상으로 국민이 직접 접하는 민원서비스의 수준과 민원 운영 실태를 종합적으로 평가하는 제도다. 민원행정 전략과 체계, 민원제도 운영, 국민신문고 민원처리, 고충민원 처리, 민원만족도 등 5개 항목으로 구성된 평가 지표에서 상위 10%에 드는 기관만이 최우수기관을 의미하는 ‘가’ 등급을 획득할 수 있다. 이 가운데 구는 지역 특성을 반영한 차별성 있는 민원서비스 제공, 민원 취약계층까지 배려한 창의성이 돋보이는 민원행정 개선, 기관장의 적극적인 민원행정 활동 등에서 타 기관에 비해 탁월하다는 평가를 받았다. 먼저 구가 전국 최초로 도입해 운영하고 있는 스마트 민원서식 작성시스템은 노력도와 효과성 부분에서 높은 평가를 받고 민원행정 및 서비스 개선 우수사례로 인정받았다. 스마트 민원서식 작성시스템은 디지털 취약계층이 더욱 편리하게 민원을 접수하고 처리할 수 있도록 음성인식 및 실시간 점자 표시 등의 편의 기능을 넣어 특수 제작된 시스템이다. 또 디지털 취약계층을 대상으로 스마트폰, 키오스크 등의 기초 활용법을 교육하는 ‘찾아가는 스마트 교실’, 민원인의 특성에 따라 문자·음성·수어 등 적절한 방법으로 민원 정보를 제공하는 AI 민원안내시스템 ‘성동이랑’, 취약계층 방문시 민원 안내 및 동행 서비스를 제공하는 ‘전문민원상담관’ 등도 차별성 있는 민원서비스로 평가됐다. 특히 구청장이 민원인과 직접 만나 민원을 청취하고 해결책을 모색하는 ‘구청장과 대화의 날’, 학부모를 만나 다양한 의견에 귀 기울이고 민원행정에 반영하는 ‘구청장-학부모 간담회’, 구청장이 안전에서부터 생활 불편에 이르기까지 주민의 다양한 민원을 휴대전화 문자메시지를 통해 접수하고 답변하는 ‘구청장 문자민원’ 등 민원행정에 대한 기관장의 노력 또한 높은 평가를 받아 해당 지표에서는 만점을 받은 것으로 확인됐다. 법정민원, 국민신문고민원, 고충민원 등 민원처리 완료 경험자를 대상으로 한 만족도 조사에서도 우수한 성적을 거뒀다. 정원오 성동구청장은 “앞으로도 성동구청의 모든 직원과 한마음으로 힘을 모아 주민이 체감할 수 있는 전국 최고 수준의 민원서비스 제공을 위해 최선의 노력을 다하겠다”고 강조했다.

한국과학기술원(KAIST·카이스트) 학위 수여식에서 윤석열 대통령 축사 도중 연구개발(R&D) 예산 삭감에 항의하다 쫓겨난 졸업생 신민기(녹색정의당 대전시당 대변인)씨가 윤 대통령의 방문 일정을 당일 행사장에 도착해서야 알았다고 밝혔다. 신씨는 또 강제 퇴장 후 별실에 사실상 감금당했다고 주장했다. 신씨는 19일 CBS라디오 ‘김현정의 뉴스쇼’ 전화 인터뷰에서 “졸업식에 국무총리가 참석한다는 안내가 졸업식 이틀 전에 나왔다. 피케팅을 하겠다고 생각해서 평소에 갖고 있던 생각을 바탕으로 부자감세 기조를 철회하고 R&D 예산 삭감을 복원하라는 내용으로 피켓을 제작해 당일 들게 됐다”고 설명했다. 다만 윤 대통령 참석 사실은 학위 수여식 당일 행사장에 도착해서 알았다고 그는 강조했다. 그러면서 “졸업식 마치면 나도 다른 학생들과 마찬가지로 사진 찍고 저녁 먹고 할 약속까지 잡아놓은 상태였다”며 강제퇴장 사태를 예상하지 못했다고 덧붙였다.신씨는 지난 16일 대전 유성구 카이스트에서 열린 2024년 학위 수여식에서 윤 대통령 축사 도중 R&D 예산 복원을 요구하며 항의하다 대통령실 경호원에 끌려 나갔다. 신씨가 ‘부자감세 중단하고, R&D 예산 복원하라’고 쓴 플래카드를 든 채 “R&D 예산 복원하십시오! 생색내지 말고 R&D 예산”이라고 외치자 대통령 경호원은 즉각 신씨의 입을 틀어막았다. 또 신씨가 제압되지 않자 학생들 사이에 잠복해 있던 학위복 차림의 경호원들이 신씨에게 달려가 그의 팔다리를 들고 행사장 밖으로 끌어냈다. 당시 윤 대통령은 “실패를 두려워하지 말고 과감하게 도전하라. 언제든 다시 일어설 수 있도록 제가 여러분의 손을 굳게 잡겠다”고 말하고 있었다. 이와 관련해 신씨는 “신체적 제압 전 구두 경고는 전혀 없었고, 끌려 나간 뒤에는 사실상 감금당했다”고 주장했다. 신씨는 “일어나는 것과 거의 동시에 (항의) 피켓을 빼앗기고 입을 막으려고 시도하는 과정들이 있었다”고 설명했다. 또 “(강제 퇴장 이후) 행사장 근처에 있는 별실로 이동시켜 대기를 시켰는데 못 나가게 했기 때문에 사실상 감금이나 다름없었다”며 “이 부분에도 문제가 있다고 생각한다”고 덧붙였다.“법과 규정, 경호 원칙에 따른 불가피한 조처였다”는 대통령실의 해명에 대해서는 이해가 되지 않는다고 반박했다. 신씨는 “입장 대기할 때부터 금속 탐지를 받고 소지품 검사까지 받았다. 또 실내체육관인 졸업식장은 농구 코트 2개 이상의 크기로 나는 중간줄 맨 구석에 앉아 있었다”며““(대통령에게) 어떤 위해를 가하는 것은 상상도 할 수 없었던 상황”이라고 했다. 버락 오바마 전 미국 대통령의 10년 전 졸업식 축사 관련 일화에 대해선 “(오바마 전 대통령처럼) 끝까지 이야기를 들어줬으면 참 좋았을 것이고 그게 아니더라도 말로 제지했으면 더 좋았을 텐데 사지를 붙들려서 (졸업식장 밖으로) 나가게 끌어내린 것은 전혀 예상을 못 했다”고 언급했다. 오바마 전 대통령은 2013년 11월 이민정책 개혁 방향을 설명하던 중 연단 뒤에 있던 한국계 청년이 ‘추방 중단’을 외치며 연설을 방해하자 그를 말리려던 경호원들을 오히려 제지하고 청년의 말을 듣고 난 뒤 연설을 마무리했었다. 신씨는 졸업식에서의 정치적 행동은 적절치 않다는 지적에 대해선 “개인적인 행동이었다”며 “졸업생 입장에서 그 장소에서밖에 말할 수 없는, 꼭 말해야 한다고 생각한 평소의 생각을 외쳤을 뿐”이라고 강조했다. 그러면서 “졸업식이라고 해도 정치적 행동을 할 수 있는 것은 헌법이나 법에서 정한 시민의 권리이지 않나”라며 “그렇기 때문에 장내 질서를 위한 것이라 해도 그런 권리를 뛰어넘어서까지 제가 제지를 받아야 한다는 것은 인정할 수 없다. 카이스트는 예산 삭감의 피해자라서 카이스트에 항의하고 싶으신 분들이 많다”고 전했다. 올해 국가 R&D 예산은 26조 5000억원으로 2023년과 비교해 4조 6000억원가량(15%) 삭감됐다. 이는 1991년 이후 33년 만의 첫 연구개발 예산 삭감이다.

‘갈색 베레모를 쓴 백발 노인이 한 카페에 앉아 멀리 시선을 둔 채 생각에 잠긴 듯 촉촉한 눈을 깜빡인다. 노인은 이내 뭔가 생각이 떠오른 듯 희미한 미소를 짓는다. 눈가와 수염이 난 입가에 살짝 주름이 파인다.’ 마치 영화 속 한 장면과 같은 영상은 사실 챗GPT 개발사인 오픈AI가 생성형 인공지능(AI) 기술로 만들어 낸 것이다. 영상 속 따뜻한 색감의 조명과 핸드헬드(카메라를 손에 들고 찍음) 촬영 기법으로 찍은 듯 조금씩 흔들리는 시야 등도 모두 AI가 ‘창조’했다. 오픈AI가 지난 15일(현지시간) 자사 홈페이지를 통해 공개한 동영상 생성 AI ‘소라’를 두고 충격적이란 반응과 함께 ‘딥페이크’(AI 기술로 만든 가짜 영상) 악용 우려가 동시에 나오고 있다. 그동안엔 막대한 시간과 비용을 투자해야만 만들 수 있었던 수준의 영상을 소라는 단 몇 줄의 명령어(프롬프트)만으로도 만들어 낼 수 있기 때문이다. 뉴욕타임스(NYT)는 소라가 공개되자 “깜짝 놀랄 영상을 순식간에 생성하는 AI”라고 소개했다. 18일까지 X(옛 트위터)엔 소라를 이용해 생성한 것으로 추정되는 15초짜리 동영상들이 입력한 프롬프트와 함께 속속 올라오고 있다. 소라 서비스 이용 권한을 제한적으로 제공받은 예술 종사자들이 만든 것으로 추정된다. 이를 접한 사용자들은 “방금 충격적인 걸 봤다”는 등 놀라움을 표현하며 영상을 공유하고 있다. 오픈AI에 따르면 소라는 최대 1분짜리 고품질 영상을 생성할 수 있다. 다만 현재는 15초 분량을 만들 수 있는 서비스를 일부 영상 제작자, 시각 예술가 등에게만 시범으로 제공하고 있다고 밝혔다. 오픈AI가 소라를 이용해 만들었다고 공개한 영상 샘플 40여 편은 AI가 빛과 물리법칙에 대해 깊이 이해하고 있다는 걸 보여 줬다. 도쿄 번화가의 화려한 간판 불빛이 젖은 길거리에 거울처럼 비친 모습, 설원을 달리는 매머드의 발바닥에 눈이 붙었다 떨어지는 모습, 잔 속에서 일렁이는 커피의 파도에 요동치는 해적선들의 움직임 등까지 완벽하게 표현했다. 비현실적인 장면도 컴퓨터그래픽(CG) 이상의 품질로 구현했다. 오픈AI는 또 딥페이크 우려를 예상한 듯 “잘못된 정보, 혐오 콘텐츠, 편견과 같은 분야 전문가들로 ‘레드팀’을 구성해 안전성 테스트를 할 것”이라고 밝혔다. 특히 “복잡한 장면에서 물리법칙을 정확하게 재현하는 데 어려움을 겪을 수 있으며, 원인과 결과의 특정 사례를 이해하지 못할 수도 있다”고 소라의 약점을 공개하기도 했다. 그럼에도 딥페이크로 인한 정치 혼란, 사생활 침해 등 우려를 잠재우진 못하고 있다. 소라가 보여 준 수준의 기술이면 학습할 데이터가 많은 유력 정치인의 아주 정교한 가짜 영상을 만드는 것은 ‘식은 죽 먹기’라는 평가가 일반적이다. 미국 앨런 AI 연구소 창립자이자 워싱턴대 교수인 오렌 에치오니 박사는 자신의 X 계정을 통해 “이런 영상들 때문에 박빙의 선거가 뒤집힐까 봐 정말 두렵다”고 말했다. 한 X 사용자는 “누가 내 사진으로 가짜 영상을 만들까 봐 이제 소셜미디어에 사진도 못 올리겠다”고 했다. 연기자, 분장사, 의상, 조명예술가, CG 일러스트레이터 등의 일자리가 위협받는 것도 문제다. 최근 넷플릭스 시리즈 ‘살인자ㅇ난감’에는 배우 손석구의 어릴 적 사진을 이용한 딥페이크 아역이 등장했다. 영화 CG 일러스트레이터인 리드 사우든은 “2022년 미드저니(이미지 생성 AI)가 처음 나왔을 때 우리는 ‘귀엽다’며 비웃었지만 이제 사람들은 생성 AI 때문에 일자리를 잃고 있다”고 말했다.

“제가 02학번인데 학부(카이스트) 때 칩을 만들어볼 수 있다는 건 상상도 못 했어요. 매사추세츠공대(MIT)에서 박사 과정을 밟을 때 우리 연구실이 제일 유명했는데 이유는 단 하나, 석·박사 기간에 칩을 한 번 찍어볼 수 있기 때문입니다. ‘마이칩’(My Chip) 서비스는 소중한 기회고 큰 도움이 될 경험입니다.(박상현 리벨리온 대표)” “칩을 만든 이후 과정도 중요합니다. 오실로스코프(입력전압 변화를 출력하는 장치)에서 신호가 또각또각 뜨는지까지 완벽하게 보세요. 저는 대학원생 때 한 번 경험한 그 기억이 지금까지도 강렬한 기억으로 남아 있습니다.”(한국전자통신연구원(ETRI) 김혜지 선임연구원) 15일 대전 ETRI에서 열린 ‘마이칩 토크콘서트’에는 최근 국내외에서 1650억원의 투자를 유치해 화제가 된 인공지능(AI) 반도체 개발 스타트업 리벨리온의 박성현 대표와 김혜지 ETRI 선임연구원이 이종호 과학기술정보통신부 장관과 함께 반도체 설계자를 꿈꾸는 학생들의 질문에 답했다.‘마이칩’ 서비스란 반도체를 공부하는 학부생이나 대학원생이 설계한 칩을 무료로 제작해볼 수 있도록 한 제도다. 서울대 전기정보공학부 교수 출신 반도체 전문가인 이 장관이 아이디어를 냈다. 지난해 25개팀이 처음 혜택을 봤다. ETRI, 서울대 반도체공동연구소, 대구경북과학기술원 등이 운영하는 팹(반도체 제조시설)에서 학생들이 0.5㎛(마이크로미터) Si CMOS(규소 상보형 금속산화물반도체)를 직접 찍어본 것이다. 과기부는 올해 150팀으로 지원대상을 6배 늘린다. 재료공학 전공 대학원생이 전공에 대한 고민을 털어놓자 이 장관은 “지금도 전공에 따른 (마이칩 서비스 이용)제한은 없다”며 “훌륭한 회로 설계자가 되려면 트랜지스터도, 재료 특성도 알아야 한다”고 격려했다. 마이칩 서비스는 Si CMOS 회로 설계 및 레이아웃 도구를 사용할 수 있는 학부·대학원생이 지도교수 승인을 받아 신청할 수 있다. 현재 제공되는 0.5㎛ 서비스를 미세공정까지 넓힐 계획이 있느냐는 질문에 이 장관은 “반도체 팹을 새로 지어야 할 수도 있어 당장은 어렵다”면서도 “팹에 들어가있는 장비 업그레이드를 위해 산업통상자원부와 협력하고 있고, 부족한 예산은 기업들의 도움을 받아 확보하려고 한다. 시간이 걸리겠지만 향후 0.35㎛, 0.18㎛까지 넓혀가겠다”고 답했다. 최근 글로벌 반도체 동향에 관한 질문도 이어졌다. 한국 반도체 산업이 세계 최대 파운드리(반도체 수탁생산) 기업인 대만의 TSMC를 앞설 전략이 있는지를 묻는 질문에 김 연구원은 “우리나라의 강점 중 하나는 삼성전자 휴대전화가 있다는 것이다. 반도체를 팔 수 있는 상품이 존재하고, 시장에서 빠른 피드백을 얻을 수 있다”고 말했다. 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)가 자체 AI반도체 개발을 위해 최대 7조 달러(약 9300조원)의 투자금을 모은다는 소식이 한국에 미칠 영향에 대한 질의도 나왔다. 이 장관은 “(천문학적 자금은) 핵발전소까지 생각하는 것 같다”며 “사람 수준의 연산·추론을 하는 AI를 개발한다는데 학습에 어마어마한 전기가 필요할 것”이라고 설명했다. 이어 “우리가 미국과 같은 방식으로 사업을 구상하면 필패다. 적은 비용으로 효과적으로 할 수 AI 영역이 있다”며 초고속·저전력 국산 AI반도체 개발을 목표로 한 K클라우드 프로젝트를 예로 들었다. 정부는 올해 반도체 연구개발(R&D)에 지난해보다 12.9% 늘어난 6361억원을 투자한다. 특히 과기부는 올해 신규사업으로 차세대 반도체 장비 원천기술 개발(80억원), 반도체 첨단 패키징 개발(64억원), 글로벌 첨단 팹 연계 활용(25억원) 등을 추진한다. 반도체 계약학과·계약정원제 등을 통한 학사급 실무 인재 3만 1766명, 반도체 특성화 대학원 확대 등을 통한 석·박사급 고급인재 약 3700명을 양성할 계획이다.

“인공지능(AI) 덕분에 앵커들이 집으로 돌아가 새해를 축하할 수 있게 됐습니다” 중국의 한 방송국이 중국 최대 명절인 춘제(春節·설) 연휴에 실제 앵커와 닮은 AI 앵커로 메인 뉴스를 진행해 화제다. 13일(현지시간) 홍콩 명보, 저장일보 등에 따르면 중국 저장성 항저우 원광그룹 항저우 TV는 지난 10~11일 오후 7시 30분 저녁 메인 뉴스 ‘항저우 신원롄보’ 진행자로 ‘샤오위’(小雨)와 ‘샤오위’(小宇)라는 두 AI 앵커를 기용했다. AI 앵커는 같은 시간대 뉴스를 진행하는 실제 남녀 앵커를 모델로 만들었다. 여성 앵커는 춘제를 맞아 붉은색 정장을 입고 남성 앵커는 정장에 붉은색 넥타이를 매고 뉴스에 등장했다. 방송 직후 바이두에는 “언뜻 보면 실제 사람처럼 보인다”는 반응이 쏟아졌다. 항저우 원광그룹이 개발한 AI 앵커는 생성형 AI인 ‘NeRF’(고화질 3D 변환기술·Neural radiance Fields) 기술을 기반으로 실제 앵커 위천(雨辰)과 치위(麒宇)의 표정과 목소리, 이미지, 몸짓, 억양 등을 본떠 그대로 재현했다. 앞서 중국에서는 2018년에 이미 AI 앵커가 이미 첫선을 보였지만 뉴스 프로그램 전체를 AI 앵커가 진행한 것은 처음이라고 명보는 전했다. 또 해당 기술을 이용하면 500자(字) 대본을 음성으로 바꾸는 데 30초밖에 걸리지 않으며, 쉬는 시간 없이 장시간 촬영할 수도 있다고 현지 매체는 전했다. 앞서 중국 관영 신화통신은 2018년 11월 저장성에서 열린 세계인터넷대회에서 세계 최초로 ‘AI 합성 아나운서’를 발표했다. 한편 항저우 원광그룹은 항저우 대표 미디어 그룹으로 20여명의 디지털 제작자가 다수의 방송 프로그램에 콘텐츠를 생산해 독자들에게 서비스를 제공하고 있다.