“세종대왕 동상에 조선시대 왕 옷을 입혀 줘.” 갤럭시 S26 울트라의 자연어로 원하는 내용을 입력해 편집하는 ‘포토 어시스트’에 서울 종로구 광화문광장의 세종대왕 동상 사진을 넣고 이렇게 말하자 ‘상상 속의 이미지를 실현시키는 중’이라는 문구가 떴다. 10초도 안 돼 인공지능(AI)이 웹사이트에서 빨간 곤룡포를 찾아 자연스럽게 합성했다. 세종대왕이 앉아 있는 동작에 맞춰 옷의 굴곡, 그림자, 주름 등도 부드럽게 표현됐다. ●포토샵 등 문외한도 사진 합성 등 쉽게 브이로그를 생애 처음 시도한 기자는 5일 갤럭시 S26 울트라를 활용해 사진과 영상을 촬영하고 AI 기능이 대폭 업그레이드된 포토 어시스트로 편집을 했다. 포토샵을 전혀 다룰 줄 모르는 비전공자도 말 한마디로 전문가급의 자연스러운 사진 합성이 가능했다. 딥페이크 우려를 불식하기 위해 합성 사진의 왼쪽 하단에는 자동으로 ‘AI로 생성한 콘텐츠’라는 워터마크가 찍혔다. 동영상 촬영 기능도 향상됐다. 전작인 갤럭시 S25에 손 떨림 등 흔들림을 보정해 주던 ‘슈퍼스테디’ 기능이 있었다면, 갤럭시S26 시리즈에는 한 단계 더 나아간 ‘수평 고정 슈퍼스테디’ 기능이 추가됐다. 미세한 손 떨림은 물론, 격렬하게 움직이는 영상 속에서도 대상이 고정된 채로 촬영된다. 유튜버들이 사용하는 전문 장비인 ‘짐벌’의 기능이 휴대전화 안에 구현된 셈이다. 수평 고정은 유튜버들 사이에서 ‘챌린지’로 화제가 되고 있다. 360도 돌아가는 건조기, 차량 바퀴, 드릴 등에 갤럭시S26 시리즈를 부착해 영상을 찍은 뒤 화면이 돌아가지 않고 고정된 채로 촬영된 결과물을 인증하는 식이다. ●손떨림·버스 흔들림 도 안정적으로 실제 수평 고정 슈퍼스테디를 설정하고 버스 창문에 갤럭시 S26 울트라를 바짝 붙인 채 바깥 풍경을 촬영해보니 버스의 흔들림 없이 매끄러운 영상을 찍을 수 있었다. 또 지면에서 영상을 촬영하는 동안 걷거나 뛰는 등의 행동에 제약을 받지 않았다. 밤 10시에 찍은 영상에는 차량이나 건물 등은 물론 도로의 분홍색 교통안내선 색깔도 선명하게 찍혔다. 2억 화소 광각과 5000만 화소, 광학 줌 수준의 10배 줌 망원 카메라, 더 넓어진 조리개 등이 선명한 야간 촬영을 지원한 것이다. 실내와 실외, 햇빛이 많거나 흐린 날, 낮과 밤 영상을 이어 붙일 때도 하나의 톤으로 보정이 가능했다. 영상의 채도를 낮게 만드는 로그(LOG) 기능으로 튀는 색을 줄인 뒤, 룩업테이블(LUT) 기능을 사용하면 터치 한 번에 간단히 후보정을 할 수 있다. 채도, 조도 조절 등 전문적인 촬영을 하지 못하는 초보자도 LUT 기능에서 블록버스터, 로맨스, 스릴러 등 원하는 분위기를 선택하면 PC로 영상을 옮겨 편집할 필요 없이 휴대전화에서 간단히 보정이 이뤄진다. 카페나 대중교통에서 브이로그 편집을 하는 동안 옆자리 사람의 시선이 신경 쓰일 땐 ‘프라이버시 디스플레이’ 기능을 활용했다. 프라이버시 디스플레이 기능을 켜자 빛을 상하좌우로 넓게 분사하는 ‘와이드 픽셀’은 꺼지고 정면으로 비추는 ‘전면 픽셀’만 작동해 양옆이나 위아래 각도에서는 휴대전화 화면이 보이지 않았다. ●1억개 이상의 귀 토대로 버즈 출시 갤럭시 S26 시리즈와 함께 출시된 ‘갤럭시 버즈4 프로’는 음향을 섬세하게 들으면서 촬영할 수 있도록 도왔다. 착용감이 특히 좋아져, 장시간 착용해도 이질감이 크지 않았다. 달리기를 하는 동안에도 이어버드가 흔들리거나 빠지지 않는 안정감이 있었다. 삼성전자 측은 전 세계에서 수집한 1억개 이상의 귀 데이터와 1만회 이상의 착용 시뮬레이션을 활용한 인체공학적 디자인이라고 했다. 시끌벅적한 카페에서 버즈4 프로를 착용하자 주변 소음이 빠르게 잦아든 노이즈 캔슬링 성능도 인상적이었다. 전작과 비교했을 때 저음이 한층 단단하고 깊게 표현됐다.

30년 AI 발전의 산증인LLM 딥러닝 이후 진화 매우 빨라시험 부정행위? 과제를 바꾸면 돼AI 거품론도 크게 걱정할 것 아냐실패 경험은 새로운 도전의 밑천피지컬AI 대응 어떻게로봇 도입 혜택, 노동자 함께 누려야기존 역할 달라져도 새 일자리 생겨AI 핵심은 이미 오픈소스로 알려져꾸준히 투자하면 한국도 3강 가능인간을 뛰어넘는 ‘디지털 뇌’가 물리적인 ‘몸’과 결합한 피지컬 인공지능(AI)이 2026년 벽두 인류의 화두로 떠올랐다. 성큼 다가온 피지컬 AI를 바라보는 시선에는 두려움과 기대가 교차한다. 일자리를 뺏길 수 있다는 걱정을 넘어, 인간 통제를 벗어날 수도 있을 것이란 막연한 불안까지 느낀다. 동시에 인간의 생물학·물리적 한계를 피지컬 AI의 ‘강력한 몸’을 통해 극복할 수 있을 것이란 희망도 공존한다. 30년 가까이 AI 학계와 산업·교육계에 독보적 영향력을 미친 피터 노빅(70) 구글 연구총괄(Director of Research) 겸 스탠퍼드대 인간중심인공지능연구원(HAI) 펠로를 지난달 27일 화상으로 만났다. 노빅 총괄은 “(AI와 인간이 공존할 미래를) 누구도 정확하게 알 수는 없지만, 변화 속도가 지나치게 빠르다는 점은 우려된다”면서 “그 속도를 따라가기 어려운 이들을 위해 사회는 무엇을 할 수 있을지 고민해야 한다”고 강조했다. 또 “피지컬 AI 도입에 따른 혜택을 경영자, 주주 외에 노동자도 함께 누릴 수 있어야 한다”고 밝혔다. 다음은 일문일답. -AI 교육 바이블로 불리는 ‘인공지능 : 현대적 접근방식’(1995)을 집필했는데. “(공동 저자인) 스튜어트 러셀(UC버클리 교수)과 적절한 때 만났다. 프로그래머가 직접 규칙과 지식을 일일이 입력하던 방식에서 머신러닝으로 이동이 일어날 때였다. 2022년 전후 거대언어모델(LLM)을 활용한 딥러닝이 AI 발전을 가속했다. 1995년 목격한 변화의 싹이 매우 빠르게 진화하는 상황이다.” -교육자이기도 해서 더 궁금하다. 최근 한국 대학에선 AI를 이용한 부정행위가 논란인데. “AI로 학생 개개인에게 세심한 개별 지도를 할 수 있게 됐다. 교사가 30명을 동시에 가르쳐야 하던 교실에선 어려웠다. 물론 학생이 부정행위를 하는 것은 아닌지, AI가 과제를 대신하고 학생은 생각하지 않는 건 아닌지 우려도 있다. 결국 학생이 더 깊게 사고하도록 과제를 바꾸는 게 중요하다. AI가 단순 작업을 대신하는 만큼, 학생은 보다 수준 높은 과제에 도전할 수 있어야 한다. 평가 일부를 대면으로 해야 한다. 과제를 받은 뒤, 교사가 마주 앉아 작업 과정과 내용을 설명하도록 요구하는 식이다. AI의 도움을 받았다면 제대로 답하지 못할 가능성이 크다.” -빅테크의 과도한 투자와 수익성 부진 우려에 따른 AI 거품론이 끊이지 않는다. “AI가 혁신 기술로 떠오르자 기회를 놓치지 않으려는 투자 열기가 주식시장에 번졌다. 과잉 투자도 생기고, 성공하는 기업도, 실패하는 기업도 나오기 마련이다. 하지만 크게 걱정하진 않는다. 2008년 (서브프라임 모기지 사태 때)에는 주식시장을 넘어 삶 전반이 타격을 입었다. 이번에도 일부 벤처캐피털은 기대만큼 이익을 거두지 못할 수 있다. 하지만 사회 전반에 부정적 영향을 미치지는 않을 거다. 일부는 실패하더라도 소중한 경험을 얻은 이들은 다른 곳에서 새로운 도전을 하게 될 거다.” -지난달 세계 최대 가전·IT 전시회 CES에서 현대자동차가 선보인 ‘아틀라스’로 피지컬 AI에 관한 관심이 뜨겁다. 이후 현대차 노동조합은 로봇의 공장 투입에 반대하고 나섰다. “자동차 산업은 이미 상당한 자동화가 이뤄졌다. 노동자가 모든 용접을 하거나, 자동차를 도장(塗裝)하는 시대는 끝났다. 노조가 로봇 도입으로 인한 이익을 공정하게 배분하라고 요구하는 것은 타당하다. 로봇이 생산 비용을 낮추고 생산성을 높여 이익을 가져다준다면 경영진과 주주, 기업뿐 아니라 노동자도 혜택을 함께 누릴 수 있어야 한다. 신기술 성과를 어떻게 공유할 것인지 사회적 합의가 필요하다.” -AI가 일자리를 대체할 거라는 전망이 많다. 어디까지 나아갈까. “아직 확실히 알 수는 없다. 과거 새로운 기술은 기존 일자리를 대체했지만, 결과적으로 더 많은 일자리를 만들었다. 이번에도 새로운 수요와 일자리가 생길 거다. 열린 마음으로 받아들이면 기회가 있다. 우려되는 건 변화 속도가 지나치게 빠르다는 점이다. 농업 자동화는 여러 세대에 걸쳐 이뤄졌기에 적응할 시간이 있었다. 하지만 이번에는 훈련받았거나 하고 싶던 일이 사라지고, 다른 길을 시도하고 싶지 않다고 느끼는 사람도 분명히 생길 거다. 속도를 따라가기 어려운 이들을 위해 우리 사회는 무엇을 할 수 있을지 고민해야 한다.” -‘책임 있는 AI(Responsible AI)’ 담론을 주도하는 HAI에 몸담고 있다. AI가 공정하고 포용적이며 인류에게 유익하게 작동하게 하려면. “다양한 장치가 함께 작동해야 한다. 소비자는 제품을 고를 때 기업이 어떤 가치를 추구하고, 그 가치가 자신과 맞는지를 판단한다. 규제도 중요한 축이다. 정부가 무엇을 허용하고 허용하지 않을 지를 정한다. 주요 기업들은 자율 규제인 ‘AI 프레임워크’를 이미 마련했다. 소프트웨어 분야에선 흔치 않지만 전문 직능단체를 통한 관리도 고려할 수 있다. 예컨대 제3자 인증제도가 정부보다 빠를 수도 있다. (노빅 총괄은 미국 최초의 안전규격 인증 회사인 UL의 AI 안전위원회에 참여하고 있다.) 100여년 전 전기가 처음 등장했을 때 미국인들에겐 놀라움과 두려움이 공존했지만, UL이 전선이나 전구 등을 검사하고 안전하다는 인증을 부여하기 시작하면서 소비자들도 신뢰하게 됐다.” -한국은 세계 최초로 AI 생성물 표시를 의무화한 ‘AI 기본법’을 시행했다. “(어느 정도 규제가 적정한지) 아직 확실치 않다. 가짜 뉴스나 조작된 사진은 전에도 있었지만, 영상 제작까지 쉬워지면서 규모가 커졌다. 워터마크는 가능한 대응 수단이지만, 궁극적으론 출처에 더 의존하는 방향으로 나아가기를 바란다. 한쪽은 악의를 갖고 가짜를 만들어내는데, 선의를 지닌 다른 한쪽이 끊임없이 판별해야 하는 싸움은 바람직하지 않다. 웹사이트나 언론사 등이 ‘영상 출처가 어디고, 진짜라는 데 명예를 걸겠다’고 제시하는 구조가 돼야 한다.” -미국과 중국은 AI 분야의 확고한 양강이다. 한국이 틈을 비집고 ‘AI 3대 강국’에 진입할 수 있을까. “미국은 AI 분야의 선두다. 중국도 빠르게 따라잡았다. AI는 ‘패스트 팔로워’가 나타날 수 있는 분야라는 얘기다. 수십년간 전문성을 쌓아야 겨우 첫발을 뗄 수 있는 분야도 있지만, AI는 아니다. 핵심 기법은 오픈소스로 널리 알려졌기에 AI를 이해한 전문가와 연산 능력이나 데이터에 대한 투자, 꾸준한 노력이 갖춰지면 경쟁력을 확보할 수 있다. 한국도 충분히 올라설 수 있다.” -(그는 지난달 30일 서울시가 주관한 ‘AI 서울 2026’ 포럼에서 ‘파운데이션 모델이 어떻게 피지컬 AI의 두뇌가 되는가’를 주제로 기조연설을 했다.) 서울시는 피지컬 AI 선도도시로 도약하기 위해 ‘양재 AI 클러스터’와 ‘수서 로봇 클러스터’를 키우기로 했다. 실리콘밸리처럼 성장할 수 있을까. “지난해가 LLM의 해였다면 올해는 피지컬 AI의 해다. 코로나19 때 로봇을 연구하는 학생들이 각자의 집이 아닌 연구실에 모인 게 오늘의 피지컬 AI 성과로 나타나고 있다. 실리콘밸리는 엔지니어, 법률가, 투자자 등 다양한 전문가가 기꺼이 모험하겠다는 마음을 품고 모인 곳이다. 전문가들이 함께 할 수 있는 환경이 성공을 위해 중요하다.” ■피터 노빅 연구총괄은 1956년 미국에서 태어나 브라운대에서 응용수학을 공부하고, UC버클리에서 컴퓨터과학 박사 학위를 받았다. 스튜어트 러셀 UC버클리 교수와 함께 쓴 ‘인공지능: 현대적 접근방식’(1995)을 통해 AI 교육의 표준을 정립했다. 이 책은 전 세계 135개국, 1500개 대학에서 교재로 채택됐다. 2011년 세바스티안 스런과 함께 한 온라인 AI 강의는 16만명 이상이 수강해 온라인 대중교육(MOOC) 열풍의 기폭제가 됐다. 그는 이론에만 매몰되지 않았다. 1998년 미항공우주국(NASA)의 에임스 연구센터 계산과학 분과장을 맡아 우주탐사 로봇 및 자율주행 소프트웨어의 기반을 닦았다. 이후 구글에서 20년 넘게 연구총괄을 맡아 구글이 검색엔진을 넘어 최고의 AI 기업으로 거듭나는 과정을 이끌었다. ‘AI의 미래는 기술이 아닌 인간에 의해 결정되어야 한다’는 철학으로 만들어진 스탠퍼드대 HAI의 펠로를 겸하며 AI 기술의 혁신이 인간의 존엄을 훼손하지 않을 방법을 찾고 있다.

경찰 보디캠 촬영 같은 AI 영상 제작AI로 음란물도 만들어 SNS로 판매 경찰관이 112 신고 현장에 출동해 보디캠으로 찍은 것처럼 보이는 인공지능(AI) 허위 영상물을 제작해 유튜브에 올린 30대 남성이 경찰에 붙잡혔다. 경기북부경찰청 사이버수사대는 전기통신 기본법 위반 등 혐의로 30대 남성 A씨를 구속했다고 2일 밝혔다. A씨는 지난해 10월부터 약 2개월간 ‘순찰 24시’라는 유튜브 채널을 운영하면서 ‘여장남자 여성 탈의실 신고 출동’, ‘중국인 난동 체포 영상’, ‘부천역 인터넷 BJ 체포 영상’, ‘아파트 복도 흡연 신고 출동 영상’ 등 경찰이 실제로 사건 현장에 출동해 보디캠으로 찍은 듯한 AI 영상을 올린 혐의를 받는다. A씨는 채널 소개 글에 ‘경찰의 시선으로 사건 현장을 본다. 실화를 기반으로 한 AI 보디캠 영상’이라고 적었다. 그러나 개별 영상에는 AI로 만든 가짜 영상이라는 알림이 없었고, AI 제작 영상을 표시하는 워터마크를 지우기도 했다. 이 때문에 A씨가 만든 허위 영상물을 본 일부 시청자는 실제 상황으로 오인하기도 했다. 이러한 영상들은 유튜브뿐만 아니라 인스타그램, 틱톡, 페이스북 등에 짧은 영상(숏폼) 형태로 게재되며 총 3400만회 이상의 조회수를 기록했다. 경찰은 해당 영상들이 공권력에 대한 국민적 신뢰를 훼손한다고 판단해 A씨를 입건해 구속했다. 영상들은 대부분 챗GPT나 그록 등으로 만들어진 것으로 전해졌다. 경찰 관계자는 “초반에 만든 영상은 상당히 어설펐지만, 시간이 지날수록 영상의 질이 향상됐다”고 전했다. 경찰은 압수물을 분석하는 과정에서 A씨가 해외 유료 구독형 소셜미디어(SNS) 채널을 운영하면서 AI 음란물을 제작·판매한 사실을 추가로 밝혀냈다. 또 무허가 사설 선물거래 홈트레이딩시스템(HTS) 및 투자 리딩방 운영에 가담해 3000만원 상당의 부당이득을 취한 사실도 확인했다.

음악은 시작 부분 안내 설명 삽입정부, 스타트업 현장 설명회 개최첫날 문의 10여건… 큰 혼란 없어인공지능(AI) 산업의 진흥과 규제 체계를 담은 ‘인공지능기본법’이 22일 세계 최초로 시행됐다. AI 기술의 안전성과 신뢰성을 높이는 동시에 국내 기업의 글로벌 경쟁력 확보를 뒷받침하겠다는 취지다. 첫날 현장은 비교적 차분했지만, 연착륙이 쉽지 않다는 볼멘소리도 들렸다. AI기본법의 내용과 영향을 일문일답으로 정리했다. Q. AI 기본법을 제정한 핵심 이유는. A. 국가 차원에서 AI 산업 경쟁력을 높이고 안전하고 신뢰할 수 있는 활용 기반을 조성하기 위해서다. 연구개발·인력 양성 등 산업 진흥과 투명성 확보와 고영향 AI 관리 등 안전 규제를 두 축으로 한다. Q. 누가 AI 표시 의무를 지는가. A. 표시 의무는 개인이 아닌 사업자에게 부과된다. AI 모델 개발사와 이를 활용해 서비스를 운영하는 사업자가 책임 주체다. 국내 이용자를 대상으로 서비스를 제공하는 해외 사업자도 포함된다. 서비스 초기 화면이나 이용약관 등을 통해 AI 기반 운용 사실을 고지하고, 생성 결과물에는 AI 생성물임을 명확히 표시해야 한다. 다만 AI를 도구로 활용하는 영화 제작사, 웹툰 작가, 유튜버 등은 법상 ‘이용자’로 분류돼 표시 의무의 직접 대상은 아니다. Q. 음악·음성 서비스는 어떻게 고지해야 하나. A. 이용자가 청각적으로 AI임을 인지할 수 있도록 오디오 시작 부분에 안내 설명을 삽입하거나, 비가시적 디지털 워터마킹 기술을 적용할 수 있다. Q. ‘고영향 AI’란 무엇인가. A. 생명·신체 안전이나 기본권에 중대한 영향을 미칠 우려가 있는 AI다. 의료, 채용, 대출 심사 등 10개 영역이 해당하며, 위험관리방안 수립과 결과 설명 방안 마련 등 강화된 의무가 부과된다. Q. 법 위반 시 즉시 과태료가 부과되나. A. 시정 명령을 이행하지 않을 경우 최대 3000만원의 과태료가 부과될 수 있다. 다만 정부는 최소 1년 이상의 계도 기간을 두고 처벌보다는 현장 컨설팅에 주력할 방침이다. Q. 법 시행 첫날 업계의 모습은 어땠나. A. 큰 혼란은 없었다. 과학기술정보통신부가 한국인공지능소프트웨어산업협회(KOSA)에 설치한 ‘AI 기본법 지원데스크’(비공개 상담 창구)에 이날 접수된 문의는 10건 안팎에 그쳤다. Q. 게임업계의 우려가 특히 컸는데. A. 여전히 신중한 관망세다. AI 사용 여부 표시 규정보다는 투명성 가이드라인이 없어 고민하고 있다. 즉, 게임은 ‘예술적·창의적 표현물’로 인정돼 전시·향유를 저해하지 않는 방식으로 고지 또는 표시가 가능한데, 구체적인 표시 방법이나 적용 범위에 대해서 언급이 없다. Q. 정부 대책은 뭔가. A. 정부는 제도가 현장 혁신을 위축시키지 않도록 지원과 보완을 병행하겠다는 입장이다. 과학기술정보통신부는 AI기본법과 관련해 질의응답 사례집을 배포하고 스타트업 대상 현장 설명회를 지역별로 열 계획이다. 배경훈 부총리 겸 과학기술정보통신부 장관도 “비합리적인 요소는 적극적으로 개선하겠다”고 말했다.

인공지능(AI) 포괄 규제법인 ‘AI 기본법’이 어제부터 시행됐다. 한국은 AI 규제법을 전면 시행하는 세계 최초의 국가가 됐다. AI 산업 진흥과 안전한 활용이라는 두 마리 토끼를 잡겠다는 야심찬 시도다. 딥페이크와 허위정보 유포 등 AI 부작용이 현실화되는 상황에서 규범 마련은 적절한 대응이다. 그러나 법 시행 첫날부터 현장의 우려가 적지 않다. 유럽연합(EU)이 먼저 AI법을 제정하고도 단계적 시행을 택한 이유를 되새겨 볼 필요가 있다. 가장 시급한 과제는 규제 기준을 명확히 하는 일이다. 정부는 국민 생명과 권리에 중대한 영향을 미치는 AI를 ‘고영향 AI’로 규정하며 의료·에너지·채용·대출 등 10개 영역을 제시했으나 중대한 영향을 판단하는 기준이 불명확하다. 딥페이크 오용 등을 막으려 AI 생성물 표시를 의무화한 워터마크 규정도 마찬가지다. AI를 어느 정도 활용했을 때 표시하는지 애매해 현장의 혼선이 예상된다. 규제 기준이 명확하지 않을수록 피해는 스타트업·중소기업에 집중된다. 시행령만 421페이지에 달하는 방대하고 복잡한 규정을 해석하기 위한 법률 자문 등을 감당할 여력이 부족해서다. 대기업과 달리 규제 대응 인력이 부족해 법 개정 과정에 목소리를 내기도 어렵다. 자칫 국내 기업만 족쇄를 차게 되는 역차별 가능성도 있다. 해외 AI 기업들은 국내 대리인만 지정하면 될 뿐 실질적 단속이 어렵기 때문이다. 전자상거래와 핀테크, 게임 등 분야에서 국내 규제가 토종 기업의 발목을 잡고 해외 기업에 경쟁 우위를 안겼던 선례를 반복해서는 안 될 일이다. 정부가 사실조사권과 과태료 부과를 1년 이상 유예하고 전문가 지원 데스크를 운영하기로 한 것은 바람직하다. 그러나 명확한 기준 제시만이 근본 해법일 수 있다. AI 기술이 순식간에 진화하면서 오늘의 기준이 내일은 낡은 규제가 될 수 있는 변혁의 시간이다. 정부는 산업계와 긴밀히 소통해 실효성 있고 예측 가능한 기준을 구축해야 한다.

구글 등 국내 대리인 의무화에도책임자 아닌 ‘본사 창구’ 그칠 듯스타트업은 찰나에 존폐 위기“법 시행 후 ‘디테일의 싸움’ 필요”세계에서 처음으로 인공지능(AI)법을 제정한 유럽연합(EU)보다 우리나라의 ‘AI 기본법’이 오는 22일 먼저 시행되면서 업계의 긴장감이 커지고 있다. 특히 국내에서 영업하는 해외 기업의 경우 엄격한 국내법 적용이 힘들다는 점에서 ‘역차별 우려’도 적지 않다. 정보기술(IT) 업계 관계자는 18일 “인공지능(AI) 기본법은 시행으로 끝이 아니라 그때부터 ‘디테일의 싸움’을 시작해야 한다”며 “대기업은 법적 자문으로 어느 정도 대비할 수 있지만, 스타트업은 AI 기본법의 규제 조항에 잘못 걸리면 회사의 존립이 위태로울 수 있다”고 말했다. 업계는 참고할 만한 국제 기준이 없는 상황에서 AI 기본법이 규제 일변도로 적용되는 것을 가장 우려했다. 최성진 스타트업성장연구소 대표는 지난 6일 황정아 더불어민주당 의원이 개최한 토론회에서 “현재 시행령은 AI의 책임성과 투명성 원칙을 어떻게 산업 현장에서 실효성 있게 구현할지에 대해 구체성과 예측 가능성이 부족하다”고 지적했다. 정부는 의료, 채용, 대출 심사 등 국민 생명이나 권리에 큰 영향을 주는 분야의 AI를 ‘고영향 AI’로 정의하고 규제할 예정인데, 기준 자체가 아직 모호하다는 평가가 나온다. 스타트업의 경우 이런 AI 기본법에 저촉돼 위법한 AI 기업으로 낙인찍히면 존립 자체가 위태로울 수 있다는 것이다. 또 AI 기본법 시행령은 고영향 AI와 생성형 AI 결과물의 경우 워터마크 등으로 표시하도록 규정했는데, 업계는 워터마크 표시 자체가 소비자들에게 부정적인 인식을 줄 수 있다고 봤다. 특히 해외 기업과의 역차별 문제는 업계에서 뜨거운 감자다. 앞서 정부는 AI 기본법의 역차별 문제를 해결하려 구글, 오픈AI 등 해외에 본사를 두고 국내 서비스를 제공하는 글로벌 빅테크 기업은 국내 대리인을 두게 했다. 하지만 국내 대리인이 책임자 성격보다 해외 본사와의 연락 창구 기능에 불과할 것이라는 관측도 나온다. 업계 관계자는 “최근 쿠팡처럼 국내법을 회피하려는 시도는 얼마든지 일어날 수 있다”며 “또 국내 AI 기업이 해외 시장에 진출할 때 ‘한국이 우리를 제재하니 우리도 한국 기업을 규제하겠다’고 타국에서 주장하면 피해는 기업이 본다”고 지적했다. 반면, AI 기본법은 사회적 논의를 통해 단계별로 진화하기 위해 첫발을 뗐을 뿐이라는 견해도 적지 않다. 산업 진흥 조항, 스타트업과 중소기업의 시장 진입 장벽 하향, AI 정책 커트롤타워 정립 등 순기능도 적지 않다는 것이다. 정부도 향후 기업 의견을 반영해 규제를 최소화하고 예측 가능성을 높이는 식으로 AI 기본법을 산업 진흥의 도구로 삼겠다는 입장이다. 고영향 AI를 규정한 것에 대해 우선 ‘규율의 기준점’을 세웠다는 데 의미가 있다는 견해도 있다. 고영향 AI로 지정되면 기업에 안전성·신뢰성 검증 등 관리 의무가 생기고 최대 3000만원의 과태료 등 법적 제재를 적용받는다.

최근 소셜미디어(SNS) 틱톡 등을 중심으로 대학교 교수님이 강의실에서 고함치는 모습 등 담긴 영상이 급물살을 타고 있습니다. ‘Professors crashing out’(혹은 teacher angry chatgpt)라는 키워드로 영상을 검색하면, 상기된 얼굴을 한 교수님이 학생들 앞에서 “AI를 사용하지 말라”며 고함을 치고 넘어지는 등 폭발하는 모습이 담겼습니다. 알고보니 이 영상들은 전부 생성형 AI로 만든 비디오인데요. 사람들의 이목을 끈 원본 영상들은 ‘AI-generated’라는 문구와 함께 업로드됐으며, Sora 워터마크 등을 찾아볼 수 있었습니다. 그러나 “AI인지 잘 모르겠다”며 실제 영상과 구분할 수 없다는 틱톡 사용자들의 댓글도 함께 볼 수 있는데요. 영상 속 내용을 들어보면, 대중적으로 알려진 챗GPT 대신 새로운 인공지능 앱을 언급하는 등 광고용 목적으로도 활용되고 있습니다. 이러한 상황 속에서 유사 콘텐츠가 수천 건 이상 업로드되며 틱톡에서는 하나의 밈 형태로 자리 잡았습니다. 전문가들은 이 현상에 대해 “워터마크 같은 안전장치가 사라지면 진위를 구별하기 어렵다”며 AI 기술 발전 속도를 감안할 때 미디어 리터러시와 검증 습관이 필수적이라고 강조하고 나섰습니다. Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

일본에서 생성형 인공지능(AI)으로 만든 이미지가 저작물로 인정되면서 저작권법 위반 혐의가 처음 적용됐다. 요미우리신문은 지바현 경찰이 20일 AI 이미지 생성 프로그램 ‘스테이블 디퓨전’으로 제작된 그림을 무단 복제한 혐의로 27세 남성 A씨를 저작권법 위반 혐의로 검찰에 송치할 방침이라고 보도했다. 지바현 경찰은 기소 의견을 붙여 송치를 결정하며 이번 사건을 AI 이미지에 저작권법을 처음 적용한 사례로 규정했다. “프롬프트 2만회 입력” 창작 관여 인정 보도에 따르면 A씨는 지난해 8월 하순 지바현에 사는 20대 남성 B씨가 생성형 AI로 만든 이미지를 허락 없이 복제해 자신의 판매용 책 표지로 사용했다. 일본 저작권법은 사상과 감정을 창작적으로 표현한 저작물을 보호 대상으로 규정한다. 일본 문화청은 AI 생성물이 저작물인지 판단할 때 프롬프트의 양과 내용, 생성 과정의 반복 여부 등을 함께 보라고 안내해왔다. B씨는 요미우리신문에 “프롬프트 입력을 2만회 넘게 진행했다”고 밝혔다. 지바현 경찰은 B씨가 구체적인 지시를 반복했고 결과물을 확인해 계속 수정한 점을 근거로 최종 이미지가 창작적 표현을 갖춘 저작물이라고 판단했다. 해외 판단 엇갈려…미국은 거부 중국은 인정 AI 생성물의 저작권 여부는 여러 나라에서 논쟁이 이어진다. 미국 저작권청은 2023년 2월 생성형 AI가 만든 만화 삽화의 저작권 등록을 거부했다. 저작권청은 결과물이 사람의 예측과 통제를 벗어난다고 보고 시간과 비용 투입은 저작권 기준이 아니라고 설명했다. 반면 중국 베이징 인터넷법원은 같은 해 11월 생성형 AI 이미지가 저작물에 해당한다고 인정했다. 법원은 이미지 제작자가 프롬프트 선택 과정에서 상당한 지적 노력을 기울였다고 보고 무단 사용을 저작권 침해라고 판단했다. 영국 법원 “학습 과정은 직접 복제 아냐”…상표권만 일부 인정지난달 영국에서도 AI 학습과 저작권을 둘러싼 소송이 주목됐다. 미국 게티이미지는 스테이블 디퓨전의 제작사 스테빌리티AI가 게티사 이미지 수백만 장을 무단으로 학습에 사용했다며 영국 법원에 소송을 냈다. 법원은 “AI 학습 과정은 원본 이미지를 그대로 저장하거나 재생산하는 행위가 아니므로 저작권의 이차적 침해로 보기 어렵다”고 판단하며 대부분의 청구를 기각했다. 다만 게티 워터마크가 그대로 드러난 일부 생성 이미지에 대해 상표권 침해를 인정했다. 전문가 “구체적 지시가 결과 예측할 수 있게 만들어”AI 저작권 전문가인 후쿠이 겐사쿠 변호사는 “프롬프트가 구체적일수록 결과물이 창작자의 의도에 더 가까워진다”고 설명했다. 그는 “지시가 모호하면 결과가 예측하기 어렵지만 명확한 지시가 쌓이면 생성물도 창작자의 방향성에 따라 나온다”며 판단 기준을 인간의 관여도로 봐야 한다고 강조했다. 일본 온라인 여론 “법 정비 시급”…일본 포털서 논쟁 확산 이번 보도가 올라온 일본 포털사이트 야후뉴스 재팬 댓글에는 100건 넘는 의견이 달렸다. 다수 이용자는 일본 국회가 AI 시대에 맞는 저작권 기준을 서둘러 마련해야 한다고 주장했다. 생성형 AI라고 해서 저작권이 없다고 단정하는 시각은 잘못이라는 의견도 이어졌다. 온라인 이용자들은 사람이 프롬프트와 수정 과정을 거치며 창작에 기여했다면 보호 대상이 되는 것이 자연스럽다고 평가했다. 딥페이크와 AI 영상 확산을 걱정하는 반응도 많았다. AI 저작권을 인정하면 일정한 방식으로 대량 이미지를 양산하는 사례가 늘어 제도적 허점을 만들 수 있다는 지적도 제기됐다. AI 학습 과정에서 기존 창작물 데이터가 사용된다는 점을 들어 원작자 보상 체계 조정이 필요하다는 주장도 나왔다. 일부는 생성형 AI 이용자를 “남의 작품을 무단 활용하는 도둑”으로 규정하며 강한 규제를 요구했다. 일본은 첫 형사 사건…향후 법원 판단 주목일본에서는 아직 관련 판례가 없다. 이번 송치 결정이 일본 법원의 첫 판단으로 이어질 가능성이 커지면서 일본 정부가 AI 저작권 제도 정비에 속도를 낼 것이라는 전망이 나온다. 일본 저작권법은 무단 복제를 형사 범죄로 규정한다. 법원이 저작권법 위반을 인정하면 10년 이하 징역 또는 1,000만 엔(약 9,400만 원) 이하 벌금을 선고할 수 있으며 두 형을 함께 적용하는 병과도 가능하다. A씨는 상업적 목적으로 이미지를 사용한 혐의를 받는 만큼 벌금형 가능성이 크다는 분석이다.

일본에서 생성형 인공지능(AI)으로 만든 이미지가 저작물로 인정되면서 저작권법 위반 혐의가 처음 적용됐다. 요미우리신문은 지바현 경찰이 20일 AI 이미지 생성 프로그램 ‘스테이블 디퓨전’으로 제작된 그림을 무단 복제한 혐의로 27세 남성 A씨를 저작권법 위반 혐의로 검찰에 송치할 방침이라고 보도했다. 지바현 경찰은 기소 의견을 붙여 송치를 결정하며 이번 사건을 AI 이미지에 저작권법을 처음 적용한 사례로 규정했다. “프롬프트 2만회 입력” 창작 관여 인정 보도에 따르면 A씨는 지난해 8월 하순 지바현에 사는 20대 남성 B씨가 생성형 AI로 만든 이미지를 허락 없이 복제해 자신의 판매용 책 표지로 사용했다. 일본 저작권법은 사상과 감정을 창작적으로 표현한 저작물을 보호 대상으로 규정한다. 일본 문화청은 AI 생성물이 저작물인지 판단할 때 프롬프트의 양과 내용, 생성 과정의 반복 여부 등을 함께 보라고 안내해왔다. B씨는 요미우리신문에 “프롬프트 입력을 2만회 넘게 진행했다”고 밝혔다. 지바현 경찰은 B씨가 구체적인 지시를 반복했고 결과물을 확인해 계속 수정한 점을 근거로 최종 이미지가 창작적 표현을 갖춘 저작물이라고 판단했다. 해외 판단 엇갈려…미국은 거부 중국은 인정 AI 생성물의 저작권 여부는 여러 나라에서 논쟁이 이어진다. 미국 저작권청은 2023년 2월 생성형 AI가 만든 만화 삽화의 저작권 등록을 거부했다. 저작권청은 결과물이 사람의 예측과 통제를 벗어난다고 보고 시간과 비용 투입은 저작권 기준이 아니라고 설명했다. 반면 중국 베이징 인터넷법원은 같은 해 11월 생성형 AI 이미지가 저작물에 해당한다고 인정했다. 법원은 이미지 제작자가 프롬프트 선택 과정에서 상당한 지적 노력을 기울였다고 보고 무단 사용을 저작권 침해라고 판단했다. 영국 법원 “학습 과정은 직접 복제 아냐”…상표권만 일부 인정지난달 영국에서도 AI 학습과 저작권을 둘러싼 소송이 주목됐다. 미국 게티이미지는 스테이블 디퓨전의 제작사 스테빌리티AI가 게티사 이미지 수백만 장을 무단으로 학습에 사용했다며 영국 법원에 소송을 냈다. 법원은 “AI 학습 과정은 원본 이미지를 그대로 저장하거나 재생산하는 행위가 아니므로 저작권의 이차적 침해로 보기 어렵다”고 판단하며 대부분의 청구를 기각했다. 다만 게티 워터마크가 그대로 드러난 일부 생성 이미지에 대해 상표권 침해를 인정했다. 전문가 “구체적 지시가 결과 예측할 수 있게 만들어”AI 저작권 전문가인 후쿠이 겐사쿠 변호사는 “프롬프트가 구체적일수록 결과물이 창작자의 의도에 더 가까워진다”고 설명했다. 그는 “지시가 모호하면 결과가 예측하기 어렵지만 명확한 지시가 쌓이면 생성물도 창작자의 방향성에 따라 나온다”며 판단 기준을 인간의 관여도로 봐야 한다고 강조했다. 일본 온라인 여론 “법 정비 시급”…일본 포털서 논쟁 확산 이번 보도가 올라온 일본 포털사이트 야후뉴스 재팬 댓글에는 100건 넘는 의견이 달렸다. 다수 이용자는 일본 국회가 AI 시대에 맞는 저작권 기준을 서둘러 마련해야 한다고 주장했다. 생성형 AI라고 해서 저작권이 없다고 단정하는 시각은 잘못이라는 의견도 이어졌다. 온라인 이용자들은 사람이 프롬프트와 수정 과정을 거치며 창작에 기여했다면 보호 대상이 되는 것이 자연스럽다고 평가했다. 딥페이크와 AI 영상 확산을 걱정하는 반응도 많았다. AI 저작권을 인정하면 일정한 방식으로 대량 이미지를 양산하는 사례가 늘어 제도적 허점을 만들 수 있다는 지적도 제기됐다. AI 학습 과정에서 기존 창작물 데이터가 사용된다는 점을 들어 원작자 보상 체계 조정이 필요하다는 주장도 나왔다. 일부는 생성형 AI 이용자를 “남의 작품을 무단 활용하는 도둑”으로 규정하며 강한 규제를 요구했다. 일본은 첫 형사 사건…향후 법원 판단 주목일본에서는 아직 관련 판례가 없다. 이번 송치 결정이 일본 법원의 첫 판단으로 이어질 가능성이 커지면서 일본 정부가 AI 저작권 제도 정비에 속도를 낼 것이라는 전망이 나온다. 일본 저작권법은 무단 복제를 형사 범죄로 규정한다. 법원이 저작권법 위반을 인정하면 10년 이하 징역 또는 1,000만 엔(약 9,400만 원) 이하 벌금을 선고할 수 있으며 두 형을 함께 적용하는 병과도 가능하다. A씨는 상업적 목적으로 이미지를 사용한 혐의를 받는 만큼 벌금형 가능성이 크다는 분석이다.

요즘 SNS에서는 동영상 생성 AI ‘소라(Sora)’로 만든 영상인 척, 사람이 직접 연기한 영상들이 인기를 끌고 있습니다. 부자연스러운 움직임과 말투, 그리고 ‘sora ai’ 워터마크까지 완벽하게(?) 재현한 덕분에, 정작 소라 AI 공식 계정은 해명 댓글을 다느라 바쁘다고 하네요. “이거 제가 만든 거 아니에요ㅠㅠ” -소라- AI를 흉내 내는 사람들, 영상으로 만나보시죠. 여러분이 보시기에 싱크로율은 몇 점인가요? Instagram에서 이 게시물 보기 이슈&트렌드 | 케찹(@ccatch_upp)님의 공유 게시물

‘인공지능(AI) 기본법’ 제정안과 ‘단통법’(이동통신 단말장치 유통구조 개선법) 폐지안이 26일 국회 과학기술정보방송통신위원회(과방위) 전체회의에서 통과됐다. 여야 모두 필요성에 공감하고 있는 만큼 국회 법제사법위원회 전체회의를 거쳐 이르면 28일 본회의에 상정·의결될 것으로 보인다. AI 기본법은 여야 의원들이 발의한 19건의 법안을 병합한 안이다. 정부가 AI 산업의 건전한 발전을 지원할 근거와 기준을 명시하고, 신뢰 기반 조성에 관한 기본 사항을 규정하는 내용이 담겼다. 과학기술정보통신부가 3년마다 대통령 직속 ‘국가인공지능위원회’의 의결을 거쳐 AI 정책 방향과 전문인력 양성 등을 담은 ‘인공지능 기본계획’을 수립하도록 했다. 사람의 생명과 신체의 안전에 위험을 미칠 수 있는 AI 시스템을 ‘고영향 AI’로 규정하고 정부가 해당 사업자에 책임 있는 조치를 요구할 수 있도록 한 게 특징이다. 해외 AI 사업자가 국내에서 사업을 할 때는 국내 대리인을 지정해 정부와 소통할 수 있도록 했으며, AI 사업자는 워터마크 등을 의무적으로 표시하도록 했다. AI 기술이 빠른 속도로 발전하면서 업계에서도 AI 기본법 제정이 시급하다고 했지만 지난 21대 국회에선 관련 법안이 결국 폐기됐다. 22대 국회가 출범한 지 반년이 지난 시점에야 결국 상임위 문턱을 통과했다. 단통법 폐지안은 이동통신 단말기 공시지원금 제도와 추가지원금 상한은 없애고, 선택약정할인 제도는 전기통신사업법에 이관해 유지하는 내용을 담고 있다. 2014년 제정된 단통법을 10년 만에 폐지하기로 한 건 사업자 간 지원금 경쟁을 통해 통신비 인하를 유도하기 위해서다. 다만 이용자의 거주 지역과 나이, 신체적 조건 등에 따른 지원금 차별은 금지하도록 했다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

최근 딥페이크를 이용한 성범죄가 확산해 사회적 문제로 대두된 가운데, 합성된 인공 영상인 줄 알고 접하더라도 어느새 진위 경계가 사라지고 몰입하게 된다는 연구 결과가 나왔다. 중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨는 31일 한국방송학보에 기고한 논문 ‘2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구’를 통해 이같이 밝혔다. 연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다. 사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어(SNS) 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다. 참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다. 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 했다. 이들은 “딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제”라고 지적했다. 특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다. 한 참여자는 “군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다”고 털어놨다. 다른 참여자는 “인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다”고 밝혔다. 이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다. 또 다른 참여자는 “워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다”면서 “또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다”고 강조했다. 연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 우려했다. 연구진은 “허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다”고 전했다. “딥페이크 합성물 소지·구입·시청 행위도 처벌” 입법 추진한편 국무조정실은 지난 30일 정부서울청사에서 관계 부처와 함께 딥페이크 성범죄 대응을 위한 첫 번째 범정부 대책 회의를 열고 “딥페이크 기술을 이용해 만든 허위 영상물을 제작, 배포 및 판매하는 것 뿐 아니라 소지하거나 구입 및 시청하는 행위도 처벌 받게 하겠다”고 밝혔다. 현행법에 따르면 카메라 등을 이용한 불법촬영물은 반포·판매·임대한 자 뿐 아니라 구입하거나 소지한 자도 처벌하도록 하고 있지만, 허위영상물의 경우에는 처벌하는 규정이 없다. 이같은 입법 공백 탓에 딥페이크 허위 영상물을 휴대전화 등에 소지한 가해자가 적발돼도 직접 제작했거나 유포했다는 사실이 입증되지 않아 처벌을 받지 않는 사례가 나오고 있다. 경찰은 지난 28일부터 딥페이크 성범죄에 대한 특별 집중 단속에 착수한 데 이어 검찰과 함께 수사 인력과 조직을 강화해 딥페이크 성범죄에 대응할 방침이다. 또 위장 수사를 확대하는 방안도 검토하고 있으며, 이를 위해 성폭력처벌특례법 등 추가로 필요한 법률안도 이날 회의에서 논의됐다. 국무조정실은 또 딥페이크 성범죄가 일선 학교에서 확산되는 만큼, 교육부가 학교 내 예방 교육 강화 등 교육 현장에서의 구체적 대응책을 마련하기로 했다고 설명했다. 과학기술정보통신부와 방송통신위원회는 불법 영상물이 쉽게 제작·유통·확산하는 것을 막고 신속히 삭제될 수 있도록 딥페이크 탐지 기술의 조속한 추가 상용화에 나서기로 했다. 또 허위 영상물 삭제와 상담, 법률 등 피해자 지원을 강화하고, 부처별로 운영하고 있는 신고 접수 방법을 통합해 피해자들이 쉽게 신고할 수 있게 할 방침이다.

국민의힘과 정부가 타인의 얼굴을 합성한 음란물을 만들어 유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 방안도 검토하기로 했다. 당정은 29일 오전 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’를 진행하고 딥페이크를 포함한 허위 영상물 처벌을 현행법상 ‘최대 5년 이하의 징역 또는 5000만원 이하의 벌금형’에서 불법 촬영물과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진하기로 했다. 또 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위 영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 교육부는 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”고 했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 국민의힘 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 통과를 당부했다. 이외 국민의힘 10·16 재보궐선거 중앙당 공천관리위원회는 딥페이크 성범죄 등에 연루된 사람은 공천에서 배제하기로 했다. 이원석 검찰총장은 전국 일선 검찰청의 디지털 성범죄 전담 검사들과 화상회의를 열고 “성적 수치심 유발 정도가 중한 아동·청소년 대상의 허위 영상물이나 영리 목적의 허위 영상물 제작 사범은 원칙적으로 구속 수사하라”고 지시했다.

텔레그램과 상시 핫라인 방침수사·상담·영상 삭제 지원 논의제작자도 처벌 포함 법안 추진국민의힘과 정부가 얼굴에 음란물을 합성·유포하는 ‘딥페이크’ 성범죄에 대해 최대 징역 7년으로 처벌을 강화하는 방안을 추진한다. 여당은 촉법소년(형사 처벌을 안 받는 10세 이상 14세 미만) 연령 기준을 낮추는 것도 검토하기로 했다. 당정은 29일 국회에서 한동훈 국민의힘 대표 주재로 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 진행하고 딥페이크를 포함한 허위영상물 처벌을 현행법상 ‘최대 징역 5년 이하 징역 또는 5000만원 이하’에서 불법촬영물과 마찬가지로 최대 징역 7년으로 강화하는 것을 추진하기로 했다. 또 해외에 서버를 둔 텔레그램이 국제 공조에 응하지 않는다는 점에서, 정부는 텔레그램 측과 협력 회의를 진행하고 불법 정보를 자율 규제할 수 있도록 상시 핫라인을 확보할 방침이다. 피해자 구제 조치로는 수사, 상담, 허위영상 삭제 지원, 정신건강 의료비 지급, 법률 자문 등이 논의됐다. 국무조정실 산하에는 김종문 국무1차장이 이끄는 ‘딥페이크 관련 범정부 대응 태스크포스’(TF)를 설치하고 30일 첫 회의를 연다. 딥페이크 관련 중고생 피해 사례가 급증하는 만큼, 교육부 홈페이지에 딥페이크 성범죄 신고센터를 만든다. 이와 별도로 한 대표는 이날 최고위원회의에서 “촉법소년 연령 하향 문제도 같이 생각해봐야 한다”며 “(딥페이크 범죄 영상 제작을) 하는 분, 혹시 하고 싶어하는 분 중에 촉법소년 연령에 있는 분들도 많을 것이다. 그런 점에서 저희가 지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하한과 같은 국민 여망이 큰 제도도 합의를 이뤄야 한다”고 말했다. 2022년 한 대표가 이끌던 법무부는 촉법소년 연령 기준을 만 13세로 낮추는 소년법·형법 개정안을 제출했으나, 국회에서 통과되지 못했다. 딥페이크 게시물 유포자뿐 아니라 제작자도 처벌 대상에 포함하는 법안도 추진된다. 김상훈 국민의힘 정책위의장은 “우리나라는 딥페이크 게시물을 유포한 자는 처벌 대상으로 삼지만 제작한 사람은 대상에 포함하지 않기 때문에 (이를) 보완할 필요가 있다”며 “현재 국회에 딥페이크 성범죄 관련 10여개의 법안이 발의돼 있지만, 본회의에서 아직 의결되지 않아 사실상 입법 공백 상태”라고 지적했다. 여당은 워터마크 부착 규제를 요구하는 인공지능(AI) 기본법과 성폭력범죄 특례법 등 딥페이크 기술의 부작용을 막는 법을 재개정하는 노력도 필요하다고 봤다. 추경호 원내대표는 지난 6월 당론으로 제출한 AI 기본법의 조속한 통과를 당부했다.

“인공지능(AI) 기술을 규제하면 발전이 더뎌질 수 있습니다. 안전성을 추구하되 기술은 장려해야 합니다.” 인공지능(AI) 분야 세계적 석학인 앤드류 응 미국 스탠퍼드대 교수는 22일 서울 성북구 한국과학기술연구원(KIST)에서 열린 ‘AI 글로벌 포럼’ 개회식에서 “AI는 범용기술이다. 한두 가지에만 유용한 게 아니라 여러 어플리케이션(앱·응용프로그램)에 도움이 된다”는 말로 기조연설을 시작하며 이렇게 밝혔다. 응 교수는 “사실 AI는 오래됐다. 하지만 생성형 AI가 몇 년 전 등장해 전 세계를 사로잡았다”고 말했다. 이어 “어제 저녁에 정말 멋진 한국 음악을 들었다. 호텔로 돌아가 영감을 얻어 노래 한 곡을 작곡했다”며 AI를 활용해 직접 작곡한 음악을 KIST 본관 대강당 존슨홀을 가득 메운 사람들에게 들려줬다. 영어 가사를 입힌 한국풍 음악이 흐르자 객석엔 탄성 섞인 웃음이 번졌다. 응 교수는 “불과 1~2년 전만 해도 상상할 수 없던 것들이 현실이 되고 있다”며 “생성형 AI가 자동화를 통해 어떤 영향을 미칠지 분석한 자료를 보면, 초창기엔 자동화 등으로 저임금 근로자가 영향을 받을 것이라 봤는데 이제는 고임금 근로자들이 더 영향을 받는다고 나와 있다”고 말했다. 그러면서 “모든 지식 근로자가 다양한 리서치 작업 등에서 AI를 활용해 생산성 증진 효과를 볼 수 있다”며 “기업들은 AI를 안전하고 책임 있게 쓸 수 있도록 근로자들을 교육해야 한다”고 강조했다. 응 교수는 AI 기술이 많은 사람과 기업에 공유돼야 한다는 취지의 주장도 했다. 그는 “어떤 기업은 오픈소스를 선호하지 않는 경우가 있다. 많은 돈을 투자했기에 (오픈소스로 공개하면) 자신들의 투자 가치가 훼손된다고 생각한다”며 “규제가 이뤄지면 모든 사람이 패자가 된다. AI 접근성이 크게 줄어들 수밖에 없기 때문”이라고 설명했다. 응 교수에 이어 두 번째 기조연설자로 미국 휴머노이드 로봇 기업 보스턴다이내믹스 창업자인 마크 레이버트가 연단에 올랐다. 레이버트 창업자는 “아침에 지인을 만났는데, 오늘 연설에서 로봇에 대해 말한 건지 AI에 대해 말한 건지 물어보더라”며 “제 마음속에서는 둘 사이에 차이가 없다. 로봇은 AI의 물리적 구현이며 둘은 상호 결합돼 있다고 생각한다”고 말했다. 이어 “로봇과 AI 모두 잠재력을 제공한다. 사람들을 3D 노동에서 해방시키는 등 많은 문제를 해결할 수 있다”고 덧붙였다. 그는 자사의 4족 보행 로봇 ‘스팟’(Spot)이 활약하는 여러 영상을 보여줬다. 영상 속에서 센서를 장착한 스폿은 거대 석유 시설에서 계단을 오르내리며 순찰을 했다. 몇 년 전엔 방사능 오염 지역으로 유명한 체르노빌에서 방사능을 검사하고, 일본 후쿠시마에서도 사람이 들어가지 못하는 원전 시설을 스폿이 점검하기도 했다고 레이버트 창업자는 설명했다. 레이버트 창업자는 “올해 말엔 전 세계 약 100개의 기업이 휴머노이드 로봇을 만들 것으로 예상된다”며 “아직 상용화 단계에 이르진 않았지만 많은 기회가 있다”고 말했다. 그는 휴머노이드 로봇이 사람에게 요리를 가르치는 모습, 의자 형태의 보행 로봇이 사람을 싣고 편하게 하이킹하도록 돕는 모습, ‘로봇개’ 한쌍이 장미꽃을 물고 탱고 음악에 맞춰 듀엣 댄스를 추는 모습 등을 이미지와 영상으로 차례로 보여줬다. 그러면서 “아직은 공상과학(SF)소설에 불과할 거라 생각하지만 몇 년 후엔 현실이 될 수 있다. 로봇과 인간이 함께 춤추는 날을 기대하고 있다”며 연설을 마무리했다. 한편 이날 행사에선 삼성전자, 네이버, 카카오, AI연구소, SK텔레콤, KT 등 국내기업과 구글, 오픈AI MS, 엔트로픽, IBM, 세일즈포스, 코히어, 어도비 등 글로벌기업 등 총 14개 AI 선도 기업들이 AI의 책임, 발전, 혜택 등 기업이 추구해야 할 방향을 담은 ‘서울 AI 기업 서약’을 발표했다. 이종호 과학기술정보통신부 장관은 “국내외 기업들과 책임 있는 AI 개발·사용을 위해 협력하고 AI가 생성한 콘텐츠를 워터마크로 식별 조치하는 등 국제 표준 개발을 위한 협력을 강화하는 내용을 담은 서약을 발표한다”며 “AI의 지속 가능한 발전과 혁신을 위해 협력하고 전문인력 육성, 사회적 취약 계층을 위한 다양성과 포용성을 장려할 것을 약속한다”고 밝혔다.

‘인공지능(AI) 시대’가 본격화하면서 딥페이크 기술을 활용한 가짜 뉴스 확산 우려가 커지는 가운데 정부가 AI 저작물에 워터마크(불법복제 방지를 위한 이미지) 표시를 의무화하기로 했다. 연결되지 않을 권리·잊힐 권리 등 개인의 디지털 권리도 강화한다. 과학기술정보통신부는 21일 국무회의에서 이런 내용을 담은 ‘새로운 디지털 질서 정립 추진계획’을 보고했다. 앞서 지난해 9월 윤석열 대통령의 ‘뉴욕 구상’ 이후 정부는 이를 뒷받침하기 위해 ‘디지털 권리장전’을 수립했다. 이번 추진계획은 AI가 촉발한 문명사적 대전환에 대응하는 디지털 구상을 정책으로 구현하는 차원에서 20대 정책과제로 구체화했다. 국민 관심사나 파급력이 큰 8가지는 핵심과제로 선정했다. 가장 눈에 띄는 추진과제는 딥페이크를 활용한 가짜 뉴스 대응이다. 정부는 AI 저작물에 워터마크 표시를 의무화하는 등 가짜 뉴스 생성·유통·확산 전주기 대응 체계를 구축하기로 했다. 워터마크란 본래 문서·사진 등에 저작자 등을 밝히기 위해 흐릿하게 삽입된 이미지로 AI 워터마크는 해당 저작물이 AI 기술로 만들어졌다는 사실을 이용자가 알 수 있도록 여러가지 방식으로 표시된다. 이를 의무화하려면 법 제정이 이뤄져야 하는데 ‘인공지능산업 육성 및 신뢰 확보법’(AI 기본법)은 이달 말 21대 국회 회기 종료와 함께 폐기될 가능성이 높다. 정부는 22대 국회에서 AI 기본법 논의를 진전시켜 연내에 AI 워터마크 표시 의무화 등을 달성한다는 계획이다. 피싱·디지털 성범죄 등 민생 사이버 범죄를 줄이고자 ‘사기방지법’ 제정 및 ‘성폭력방지법’ 개정도 추진한다. 데이터·AI 보안, 네트워크 보안, 디지털 취약점 대응, 신산업 융합보안 등 4대 핵심 보안기술 개발을 위한 투자를 지난해보다 22.5% 늘려 올해 1141억원을 투입한다.

인공지능(AI)이 일상생활에 빠르게 퍼지고 있다. AI에 기반한 대화로봇(챗봇) ‘챗GTP’ 개발사인 오픈AI는 어제 듣고 대답하는 ‘GPT-4o’를 공개했다. 텍스트에 기반해 대화하는 기존 모델과 달리 대화는 물론 이미지로도 추론할 수 있는 모델이다. 10년 전 영화 ‘그녀’(Her)의 주인공이었던 AI의 현실판이다. 마이크로소프트(MS)는 어제 한국을 포함해 31개국 3만 1000명에게 물은 결과 전 세계 근로자 4명 중 3명은 직장에서 AI를 쓴다고 발표했다. MS는 올해가 ‘AI가 직장에서 현실화되는 해’라고 했다. 주요국들은 AI 육성에 박차를 가하고 있다. 미국은 2020년 ‘국가 AI 이니셔티브법’ 제정과 함께 AI 분야에 17억 달러(약 2조 3200억원)를 투자했다. AI 부작용에 대한 목소리가 커지자 지난해 10월 AI 개발사가 제품을 내놓기 전 반드시 안전검사를 받도록 하고, AI로 만든 자료에 식별용 워터마크 부착을 의무화하는 행정명령을 발표했다. 일본은 지난해 5월 AI전략회의를 신설했고 지난달 기업용 AI 가이드라인을 발표했다. 유럽연합(EU)은 지난 3월 빅테크의 거대언어모델(LLM) 등에 엄격한 잣대를 적용하는 내용의 AI법을 최종 승인했다. 역내 기업을 보호하기 위해서다. 우리 기업들은 적극적으로 하고 싶어도 할 수 없는 상황이다. AI 개념 규정, AI 산업 육성·안전성 확보 방안 등이 담긴 ‘AI기본법’(인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 묶여 있어서다. 이 법은 여야 의원들이 대표 발의한 7건의 AI 관련 법안을 병합한 것인데도 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과한 뒤로 감감무소식이다. 여야의 정쟁이 AI 산업을 시계제로 상태로 만들었다고 해도 과언이 아닌 상황이다. 가이드라인이 없으니 현장에서는 데이터를 어느 수준까지 쓸 수 있는지 불분명해 적극적으로 나서지 못하고 있다. AI를 개발했다가 뒤늦게 규제를 받게 될 수도 있기 때문이다. 오는 21~22일 ‘AI 정상회의’, 9월 9~10일에는 ‘AI의 책임 있는 군사적 이용에 관한 고위급회의’(REAIM)가 서울에서 열린다. 정부는 지난달 ‘AI 주요3개국(G3)’ 도약을 목표로 하는 ‘AI 반도체 이니셔티브’도 발표했다. AI 논의가 급물살을 타고 있는 과정에서 임기를 따지며 AI기본법을 창고에 처박아 두는 것은 국회의 직무유기다. 여야가 머리를 맞대고 가장 빨리 법안을 통과시킬 수 있는 방안을 마련하기 바란다.

생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별 표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽다는 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 제니퍼의 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다. 업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별 표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지 의무 등이 담겨 있다. 하지만 다음달 임시 국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”면서 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.

넷플 다큐에 AI 이미지 사용 논란무분별한 AI 활용에도 제한 없어“의무 규정 없다면 AI 제작 숨길듯”‘AI 기본법’ 1년 넘게 국회 계류중 생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽단 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다.업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 재연이 어려우면 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지의무 등이 담겨있다. 하지만 다음달 임시국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”며 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.