제22대 국회가 오늘 임기를 시작한다. 21대 국회가 여야 대립과 혼란 속에 허무하게 끝나는 모습을 지켜본 국민 마음속엔 새 국회에 대한 기대보다 걱정이 앞선다. 더불어민주당은 본회의 재의결에서도 부결된 ‘채 상병 특검법’은 물론 전세사기특별법, 민주유공자법 등 야당이 단독 통과시켰지만 윤석열 대통령이 어제 거부권을 행사한 4개 쟁점 법안을 모두 22대 국회가 열리자마자 재추진한다는 방침이다. 법안의 야당 단독 처리와 대통령의 거부권 행사가 맞부딪치는 악순환이 새 국회에서도 반복될 공산이 크다. 원 구성을 둘러싸고 여야 간 힘겨루기가 길어지면 국회도 그만큼 공전할 가능성을 배제하기 어렵다. 법사위, 운영위를 비롯해 상임위 배분을 위한 원 구성 협상은 협의에 의한 운영이라는 국회법 정신과 관례를 존중해 합리적 수준에서 타협하는 것이 순리에 맞는다. 민주당이 171석 다수파의 힘만 앞세워 상임위를 독식하려 한다면 협치가 들어설 여지는 없어진다. 채 상병 특검법도 고위공직자수사처의 수사 결과를 지켜보고 도입을 논의한다는 데 합의할 필요가 있다. 여타의 쟁점 법안들도 마찬가지다. 여야 합의 없이 거대 야당이 본회의 직회부로 일방 처리하는 행태가 반복되면 대통령 거부권 횟수만 늘려 탄핵 빌미를 만들려는 정략적 입법 폭주라는 비판을 피하기 어렵다. 국민연금 개혁안은 막판 구조개혁과 동시타결을 요구하며 여야 간 의견이 접근된 모수개혁안 처리를 거부했던 국민의힘이 정부와 긴밀히 협의해 모수·구조개혁 통합안의 밑그림을 조속히 제시해야 할 것이다. 내년으로 넘겨서는 2026년 지방선거, 2027년 대선 등으로 연금개혁이 사실상 불가능해진다. 연말까지 처리 시한과 구체적 로드맵부터 합의할 필요가 있다. 무엇보다 여야가 거의 합의하고도 특검법 정쟁에 밀려 줄폐기된 민생·경제 법안부터 서둘러 처리하길 바란다. 고준위방사성폐기물법, 유통산업발전법, 인공지능(AI)기본법, K칩스법, 구하라법, 모성보호3법, 법관증원법 등은 조속히 재발의해 통과시켜야 한다. 이런 민생 법안들을 최우선 처리하는 일정부터 합의한다면 22대 국회가 21대 국회와는 좀 다를 수 있으리라는 희망을 보여 줄 수 있다. 정쟁과 민생의 분리를 하나의 원칙과 관행으로 정착시켜 나갈 때 식물 국회, 빈손 국회가 아니라 ‘일하는 국회’에 비로소 다가설 수 있는 길이 열린다.

어제 21대 국회 마지막 본회의 모습은 예상에서 단 한 치도 빗나가지 않았다. 윤석열 대통령이 재의요구권(거부권)을 행사한 ‘채 상병 특검법’ 재표결에 매달려 여당도 야당도 민생 입법을 돌아볼 생각이 없었다. 채 상병 특검법은 재표결 결과 재석 294표 중 찬성 179표, 반대 111표, 무효 4표로 결국 폐기됐다. 민주당은 여당 의원이 모두 퇴장한 뒤 단독으로 전세사기피해자지원특별법을 처리했다. 이후 김진표 국회의장은 야당이 본회의에 직회부한 7개 쟁점법안 중 4개 법안만 상정했고, 민주당은 이 법안들까지 처리했다. 김 의장은 양곡법·가맹사업법·농수산물유통안정법은 상정하지 않았다. 무기력하고 무책임한 집권당, 입법 폭주가 아예 몸에 배어 버린 거대야당의 일그러진 모습으로 마지막 본회의까지 얼룩지고 말았다. 21대 국회는 민생을 외면한 최악의 국회로 기록될 수밖에 없을 듯하다. 여야는 끝까지 정쟁만 일삼으며 민생 입법을 외면하는 직무 유기를 저질렀다. 거야의 입법 독주가 계속된 문제도 심각했지만, 여소야대의 불가피한 상황에서 어떻게든 야당과의 협치를 끌어냈어야 할 여당의 무책임한 행태도 똑같이 심각했다. 여야가 특검법을 놓고 당략에 매달린 탓에 국민연금 개혁이 결국 무산됐다. 여당은 기존에 합의된 민생법안만 처리하자며 모든 상임위원회와 본회의를 보이콧했다. 이런 집권당이 세상에 또 있겠나. 여야가 공감대를 이룬 고준위방사성폐기물관리특별법(고준위특별법)을 비롯해 모성보호 3법, 인공지능(AI)기본법, K칩스법, 로톡법 등 하루가 급한 민생법안들이 이유야 어떻든 상임위 단계에서 여당에 발목 잡힌 것이다. 양육 의무를 외면한 친부모 상속권을 제한하는 구하라법은 법사위 법안소위를 통과하고도 20대 국회에 이어 또 자동 폐기될 판이다. 거야는 여야 합의도 없이 자기들 구미가 당기는 쟁점 법안들만 무더기로 통과시켰다. 연금개혁이 끝내 좌절된 것은 21대 국회의 실책 중에서도 최대 오명으로 남게 됐다. 무엇보다 특검법 표단속에 급급했던 여당은 연금개혁마저 뒷전으로 미뤘다는 원망을 두고두고 벗어나지 못할 처지다. 이것으로 끝이 아니어서 국회로 고개를 돌리기가 더 참담하다. 거야의 입법 폭주는 예고돼 있고, 여당 지도부는 특검법 이탈표 단속에 또 사활을 걸 것이다. 22대 국회가 더했으면 더했지 덜하지 않을 것이라는 좌절의 말들이 지금 쏟아진다.

올해 초 A씨는 집에 전시할 그림 2점을 한 주문제작 온라인 플랫폼을 통해 연결된 작가 B씨에게 의뢰했습니다. 의뢰 당시 A씨는 작가가 모든 그림을 직접 그려주는 것으로 알았다고 합니다. 하지만 실제 전달받은 그림의 배경 한 편엔 피사체의 실선이 맞지 않는 등 생성형 인공지능(AI)으로 제작한 콘텐츠의 특징이 엿보였다고 합니다. A씨는 이를 문제 삼았으나 B씨는 인정하지 않았다고 합니다. A씨는 “법적 문제 제기도 검토했으나 적용할 혐의가 마땅치 않아 플랫폼에 중재 요청밖에 할 수 없었다”고 말했습니다. 27일 서울신문 취재를 종합하면, 이미지·음악·영상 등 콘텐츠 제작을 의뢰하고 대가를 지급하는 온라인 플랫폼에서 B씨처럼 생성형 AI를 활용한 콘텐츠 제작 사례가 속속 확인되고 있습니다. 이에 피해를 입은 일부 소비자들은 법무법인에 법률 상담을 요청하고 있으나 실제 소송으로는 이어지는 경우는 많지 않다고 합니다. 지세훈법률사무소의 지세훈 변호사는 “온라인 플랫폼상에서 이뤄지는 콘텐츠 거래는 소액인 경우가 많아 법적 문제를 제기하는 게 손해”라면서도 “향후 기업들의 콘텐츠 의뢰 과정서 유사 문제 발생 시 큰 금액의 소송으로 이어질 순 있을 것”이라고 말했습니다. 하지만 실제 소송을 제기해도 현재로선 AI 활용 자체를 제재할 법규가 부재한 상황입니다. 이 때문에 AI 활용 여부를 사전에 고지했는지 등 계약서상 내용을 따져 적법성을 판단해야 한다는 것이 법조계서 지적하는 현 실정입니다. 대안으로는 AI 활용한 콘텐츠라는 것을 표시 의무화해야 한다는 목소리가 높습니다. 때마침 이날 국회 국민동의청원에는 ‘AI 활용 콘텐츠 표시 의무화’를 촉구하는 내용의 청원이 올라 청원성립 요건인 5만명 동의를 달성했습니다. 현재 국회에는 이상헌 무소속 의원이 대표 발의한 생성형 AI 콘텐츠 표시를 의무화하는 내용의 ‘콘텐츠산업진흥법 개정안’이 계류 중이지만, 28일 마지막 본회의를 끝으로 21대 국회는 사실상 종료돼 해당 법안은 폐기 수순을 밟고 있습니다. 이 의원실 측은 “다음 국회서 AI 기본법 재정이 선행된 후에야 표시 의무화를 법으로 규정할지 등을 논의할 수 있을 것”이라 전망했습니다. 다만 일각에선 AI 콘텐츠 표시가 유관 산업 발전을 저해할 수 있어 논의가 필요하단 지적도 나옵니다. 강승희 법무법인 강남 변호사는 “표시 의무화는 사실상 ‘규제’로 AI에 대한 부정적 선입견만 심을 수 있다”며 “콘텐츠 유형에 따라 제작자들의 AI 활용 정도, 이에 대한 소비자 공유 방안 등 구체적 논의가 필요하다”고 말했습니다.

대만 라이칭더호(號)의 ‘인공지능(AI)·반도체 광폭 행보’가 부럽다. 지난 20일 취임한 라이칭더 총통은 세계적인 반도체 기업 TSMC에 소재·장비를 납품하는 톱코그룹 회장을 경제부 장관에 지명했다. 기업인을 중책에 기용한 이례적 인사의 배경에는 반도체 산업이 겪는 전력난과 일본 등과의 글로벌 반도체 협력의 적임자라는 판단이 작용했다고 한다. 라이칭더 총통은 취임사에서 5대 핵심 산업으로 반도체·AI·군사·보안·차세대 통신을 육성해 가겠다고 밝혔다. 그는 “대만을 실리콘(반도체) 섬에서 AI 섬으로 발전시켜 나가겠다”고 강조했다. AI·반도체에 대만의 국력을 쏟아 미래의 먹거리를 창출하겠다는 의지를 대내외에 천명한 것이다. 대만은 지난 2월 반도체 역량 강화를 위한 실리콘밸리 계획을 승인하고 1만㎡의 과학 단지용 부지도 마련했다. 2027년까지 20조원 이상을 투자한다고 한다. 제트엔진을 달고 질주하는 대만과 멍석조차 못 깐 우리의 처지가 대비된다. 반도체 기업 시설투자에 세액공제 혜택을 제공하는 ‘K칩스법’은 올해 말 시효가 끝나는데도 국회에 발이 묶여 있다. ‘AI기본법’(인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안)은 국회 상임위 논의에서 나아가지 못하고 있다. 정부의 반도체 지원 10조원은 보조금 형태가 아니라 금융 지원에 불과하다. 삼성전자가 반도체 사업의 디바이스솔루션(DS) 부문 수장을 교체했다. 수익성이 높은 고대역폭메모리(HBM) 주도권 다툼에서 한발 뒤진 삼성이 과거 메모리반도체를 세계 최고로 끌어올린 주역을 내세워 혁신에 나섰다. 미국, 대만, 일본, 유럽의 ‘AI·반도체 전쟁’이 한창이다. 삼성 같은 민간의 노력에 정부·국회의 전폭적 지원이 없으면 생존 경쟁에서 살아남지 못하는 위기 앞에 우리는 섰다.

‘인공지능(AI) 시대’가 본격화하면서 딥페이크 기술을 활용한 가짜 뉴스 확산 우려가 커지는 가운데 정부가 AI 저작물에 워터마크(불법복제 방지를 위한 이미지) 표시를 의무화하기로 했다. 연결되지 않을 권리·잊힐 권리 등 개인의 디지털 권리도 강화한다. 과학기술정보통신부는 21일 국무회의에서 이런 내용을 담은 ‘새로운 디지털 질서 정립 추진계획’을 보고했다. 앞서 지난해 9월 윤석열 대통령의 ‘뉴욕 구상’ 이후 정부는 이를 뒷받침하기 위해 ‘디지털 권리장전’을 수립했다. 이번 추진계획은 AI가 촉발한 문명사적 대전환에 대응하는 디지털 구상을 정책으로 구현하는 차원에서 20대 정책과제로 구체화했다. 국민 관심사나 파급력이 큰 8가지는 핵심과제로 선정했다. 가장 눈에 띄는 추진과제는 딥페이크를 활용한 가짜 뉴스 대응이다. 정부는 AI 저작물에 워터마크 표시를 의무화하는 등 가짜 뉴스 생성·유통·확산 전주기 대응 체계를 구축하기로 했다. 워터마크란 본래 문서·사진 등에 저작자 등을 밝히기 위해 흐릿하게 삽입된 이미지로 AI 워터마크는 해당 저작물이 AI 기술로 만들어졌다는 사실을 이용자가 알 수 있도록 여러가지 방식으로 표시된다. 이를 의무화하려면 법 제정이 이뤄져야 하는데 ‘인공지능산업 육성 및 신뢰 확보법’(AI 기본법)은 이달 말 21대 국회 회기 종료와 함께 폐기될 가능성이 높다. 정부는 22대 국회에서 AI 기본법 논의를 진전시켜 연내에 AI 워터마크 표시 의무화 등을 달성한다는 계획이다. 피싱·디지털 성범죄 등 민생 사이버 범죄를 줄이고자 ‘사기방지법’ 제정 및 ‘성폭력방지법’ 개정도 추진한다. 데이터·AI 보안, 네트워크 보안, 디지털 취약점 대응, 신산업 융합보안 등 4대 핵심 보안기술 개발을 위한 투자를 지난해보다 22.5% 늘려 올해 1141억원을 투입한다.

윤석열 대통령이 야당에서 단독으로 강행 처리한 ‘순직 해병 진상규명 방해 및 사건 은폐 등의 진상규명을 위한 특별검사 임명법’(채 상병 특검법)에 재의요구권(거부권)을 행사했다. 이에 더불어민주당 이재명 대표는 거부권 행사를 전제로 “윤 대통령이 범인임을 자백한 것”이라는 극언과 함께 “범행에 대해 책임을 물어야 한다”고 반발했다. 정치 공세 차원의 언동이라 해도 도를 한참 넘은 발언이 아닐 수 없다. 야권에선 탄핵 추진 가능성까지 거론하고 나섰다. 21대 국회 폐회를 앞두고 고준위방폐장법 등 시급히 처리해야 할 민생 과제가 산적한 마당에 정국이 특검 공방에 빠져 허우적댈 일인지 개탄스럽다. 대통령실은 어제 윤 대통령의 거부권 행사 이유로 삼권분립 정신에 맞지 않고 공수처가 수사 중인 사안이며, 야당 주도의 특검 임명 등은 수사 공정성을 담보할 수 없다는 점을 들었다. 대통령실 언급이 아니더라도 이 사건은 지금 공수처와 경찰이 한창 관련자 소환 조사 등을 통해 본격 수사를 벌이고 있는 상황이다. 어제만 해도 공수처는 김계환 해병대사령관과 박정훈 전 해병대수사단장을 차례로 불러 외압 의혹을 조사했다. 우리 사법이 특검 제도를 둔 이유는 검찰과 경찰 등의 수사가 미진해 실체 규명이 제대로 이뤄지지 않는 상황을 해소하자는 뜻이다. 이런 취지를 감안하면 대통령실의 거부권 행사는 불가피하다고 하겠다. 민주당은 “야당과 국민을 향한 전쟁 선포”(박찬대 원내대표)라 주장하지만 근거 박약의 공세일 뿐이다. 공수처만 해도 민주당이 검찰 수사를 믿을 수 없다며 지난 정부 때 국민의힘을 배제하고 국회에서 법안을 강행 처리하며 만든 수사기관 아닌가. 이런 기관도 믿지 못해 수사 도중 특검을 실시한다는 건 설득력이 떨어진다. 딱한 노릇은 범야권이 대규모 장외집회에 나서는 한편 28일 재의결 추진, 22대 국회 1호 법안 추진 등 공세를 이어 갈 태세라는 점이다. 이로 인해 인공지능(AI)기본법, 예금자보호법 개정안, 일명 구하라법(민법 개정안), 고준위방사성폐기물관리특별법, 국가전략기술 세액공제 관련법 등 여야의 의견차도 별로 없는 민생경제 법안들까지 통째로 무산될 상황이다. 특검법이 모든 정국을 빨아들이는 블랙홀이 되지 않도록 일반 법안 처리와 분리할 필요가 있다. 공수처는 엄정·신속한 수사로 국민이 납득할 수 있는 결과물을 내놓아야 할 것이다.

‘일본 라인야후 사태’ 현안 질의가 예정된 국회 과학기술정보방송통신위원회 전체회의가 21일 여야 간의 ‘남 탓 공방’ 끝에 재차 무산됐다. 이날 열린 여야 간 ‘2+2(원내대표·원내수석부대표) 회동’도 이렇다 할 성과물을 내지 못하는 등 ‘채 상병 특검법’을 둘러싼 거대 양당의 첨예한 대치가 확산하는 모습이다. 이날 정치권에 따르면 국민의힘은 ‘인공지능(AI) 기본법’(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안) 상정을, 더불어민주당은 방송통신심의위원회 관련 추가 질의를 각각 주장해 과방위 개최가 무산됐다. 당초 민주당은 지난 16일 과방위 개최를 요구했지만 국민의힘 소속 장제원 과방위원장이 5·18 이후 개최를 주장하면서 연기됐는데, 이날은 소집 자체가 무산됐다. 양측 모두 라인야후 사태에 대한 현안 질의가 필요하다면서도 상대 요구를 거부한 결과다. 국민의힘은 라인야후 사태 질의와 함께 AI 기본법 처리를 요구했다. 여당 간사인 박성중 의원은 “민주당은 방심위의 정당한 방송 심의와 소송 예산을 빌미로 과방위 전제회의를 파행으로 몰고 갔다”고 주장했다. 민주당은 방심위의 징계 남발과 이에 따른 방송통신위원회의 소송 예산 낭비 문제를 질의해야 한다고 맞섰다. 또 AI 기본법은 보완이 필요해 당장 처리할 수 없다고 주장했다. 야당 간사인 조승래 의원은 “장 위원장이 라인야후 사태는 21대 국회에서 다루고 방심위 징계 남발 문제와 방통위 소송 예산 낭비 문제는 22대 국회에서 다루는 것이 맞다는 알 수 없는 잣대를 내밀었다”고 비판했다. 여야 원내지도부는 22대 국회 원 구성 협의를 위해 이날 처음으로 2+2 회동을 했지만 입장 차를 재확인했다. 여야는 법제사법위원회, 운영위원회 위원장 자리를 놓고 샅바 싸움을 벌이고 있다. 박찬대 민주당 원내대표는 “민생 법안이 집권당에 발목 잡혀 국회 문턱을 못 넘는 걸 반복하지 말라는 것이 총선의 민심”이라고 말했다. 반면 추경호 국민의힘 원내대표는 “국회의장에 이어 운영위와 법사위까지 독식하겠다는 민주당의 발상은 입법 독재”라고 반박했다.

인공지능(AI)이 일상생활에 빠르게 퍼지고 있다. AI에 기반한 대화로봇(챗봇) ‘챗GTP’ 개발사인 오픈AI는 어제 듣고 대답하는 ‘GPT-4o’를 공개했다. 텍스트에 기반해 대화하는 기존 모델과 달리 대화는 물론 이미지로도 추론할 수 있는 모델이다. 10년 전 영화 ‘그녀’(Her)의 주인공이었던 AI의 현실판이다. 마이크로소프트(MS)는 어제 한국을 포함해 31개국 3만 1000명에게 물은 결과 전 세계 근로자 4명 중 3명은 직장에서 AI를 쓴다고 발표했다. MS는 올해가 ‘AI가 직장에서 현실화되는 해’라고 했다. 주요국들은 AI 육성에 박차를 가하고 있다. 미국은 2020년 ‘국가 AI 이니셔티브법’ 제정과 함께 AI 분야에 17억 달러(약 2조 3200억원)를 투자했다. AI 부작용에 대한 목소리가 커지자 지난해 10월 AI 개발사가 제품을 내놓기 전 반드시 안전검사를 받도록 하고, AI로 만든 자료에 식별용 워터마크 부착을 의무화하는 행정명령을 발표했다. 일본은 지난해 5월 AI전략회의를 신설했고 지난달 기업용 AI 가이드라인을 발표했다. 유럽연합(EU)은 지난 3월 빅테크의 거대언어모델(LLM) 등에 엄격한 잣대를 적용하는 내용의 AI법을 최종 승인했다. 역내 기업을 보호하기 위해서다. 우리 기업들은 적극적으로 하고 싶어도 할 수 없는 상황이다. AI 개념 규정, AI 산업 육성·안전성 확보 방안 등이 담긴 ‘AI기본법’(인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 묶여 있어서다. 이 법은 여야 의원들이 대표 발의한 7건의 AI 관련 법안을 병합한 것인데도 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과한 뒤로 감감무소식이다. 여야의 정쟁이 AI 산업을 시계제로 상태로 만들었다고 해도 과언이 아닌 상황이다. 가이드라인이 없으니 현장에서는 데이터를 어느 수준까지 쓸 수 있는지 불분명해 적극적으로 나서지 못하고 있다. AI를 개발했다가 뒤늦게 규제를 받게 될 수도 있기 때문이다. 오는 21~22일 ‘AI 정상회의’, 9월 9~10일에는 ‘AI의 책임 있는 군사적 이용에 관한 고위급회의’(REAIM)가 서울에서 열린다. 정부는 지난달 ‘AI 주요3개국(G3)’ 도약을 목표로 하는 ‘AI 반도체 이니셔티브’도 발표했다. AI 논의가 급물살을 타고 있는 과정에서 임기를 따지며 AI기본법을 창고에 처박아 두는 것은 국회의 직무유기다. 여야가 머리를 맞대고 가장 빨리 법안을 통과시킬 수 있는 방안을 마련하기 바란다.

21대 국회 폐원을 한 달가량 앞두고 2일 열린 국회 본회의에서 ‘고준위방사성폐기물특별법’(고준위방폐물법) 등 민생 법안의 처리가 불발됐다. 오는 29일 종료되는 21대 국회 문턱을 넘지 못하면 이들 법안은 자동 폐기된다. 고준위방폐물법은 원자력발전소에서 발생한 고준위 폐기물인 사용후핵연료를 식힌 후 임시 보관할 중간저장시설과 영구처분장을 만드는 것을 골자로 한다. 국내 원전 운영 과정에서 발생한 사용후핵연료는 현재 각 원전에 마련된 임시시설에서 보관 중인데 2030년이면 포화 상태에 이르게 된다. 사안의 심각성을 고려해 여야가 특별법 제정에 공감대를 형성했지만, 이날 본회의에 오르지 못했다. 여야는 민생 법안 처리 불발에 ‘네 탓 공방’을 벌였다. 윤재옥 국민의힘 원내대표는 “본회의에서 고준위방폐물법을 처리하기로 여야 원내대표 간 합의했음에도 불구하고 민주당의 협조가 제대로 되지 않았다”면서 “지금 국회에 기만이 난무한다”고 말했다. 또 다른 시급한 민생 법안으로 꼽히는 ‘풍력발전보급촉진특별법’(풍력법)도 처리가 불발됐다. 풍력 사업 절차를 간소화해 풍력발전 보급을 확대하는 내용을 담고 있다. 육아휴직 기간을 1년 6개월(현행 1년)로 늘리는 남녀고용평등법 개정안도 수년째 발이 묶여 있다. 국회 연금개혁특별위원회가 추진하는 연금개혁 역시 22대 국회로 넘어갈 경우 다시 처음부터 논의를 시작해야 한다. 특위 시민 숙의 방식 공론조사 결과 선호도가 가장 높았던 ‘더 내고 더 받는’ 연금개편안(소득보장안)을 놓고 여야의 입장 차가 극명하다. 김진표 국회의장은 “(연금개혁을) 무려 17년간 미루다 또 미룬다는 비판을 받을 것”이라며 “민생 법안에 대해 여야가 협의해서 반드시 21대 국회에 마무리해 달라”고 했다. 국회에 1년 넘도록 계류 중인 인공지능(AI) 산업 육성 및 신뢰 기반 조성에 관한 법률(AI 기본법) 역시 국회의 무관심으로 사실상 이번 회기 통과가 어려운 상황이다. 한덕수 국무총리는 이날 ‘한국포럼’ 축사에서 “AI 기본법이 21대 국회에서 통과될 수 있도록 적극 노력하겠다”고 밝혔다. 이 외에 더불어민주당은 이날 본회의에 부의된 ‘전세사기피해자 지원 및 주거안정에 관한 특별법’(전세사기특별법) 통과를 위해 오는 28일 21대 마지막 본회의를 추진하고 있는데, 여당은 ‘선 구제, 후 회수’에 반대한다.

생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별 표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽다는 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 제니퍼의 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다. 업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별 표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지 의무 등이 담겨 있다. 하지만 다음달 임시 국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”면서 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.

넷플 다큐에 AI 이미지 사용 논란무분별한 AI 활용에도 제한 없어“의무 규정 없다면 AI 제작 숨길듯”‘AI 기본법’ 1년 넘게 국회 계류중 생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽단 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다.업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 재연이 어려우면 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지의무 등이 담겨있다. 하지만 다음달 임시국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”며 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.

K이슈플랫폼은 사단법인 싱크탱크인 K정책플랫폼(이사장 전광우, 공동원장 정태용·박진)이 개최하는 월례 토론회이다. 다툼만 있고 해결이 없는 우리 사회에 합의를 통한 정책 방향을 제시한다는 목표로 기획됐다.의제: 인공지능(AI)에 대한 규제 수준규제론: 최은창 아밀라(Armilla) AI, AI 정책총괄자율론: 김윤희 법무법인 세종 파트너 변호사사회: 이경전 K정책플랫폼 이머징이슈위원장 (경희대 교수)원고: 박진 K정책플랫폼 공동원장 (KDI대학원 교수)기원전(BC)이 ‘Before 챗GPT’라 할 정도로 AI는 인류 문명에 엄청난 변화를 줄 것으로 기대를 모으고 있다. 그러나 이미 2014년에 영국의 물리학자 고 스티븐 호킹 박사는 “AI 발전이 인류의 생존에 중대한 위협이 될 수 있다”는 경고를 한 바 있다. 지난달 유엔총회는 안전한 AI 개발을 촉구하는 결의문을 채택했고 다음달에는 한국에서 AI 안전성 정상회의가 개최되는 등 AI 규제에 대한 국제적 논의가 활발해지고 있다. 정부도 AI 기본법안을 발의하는 등 나름의 대응을 보이고 있다. 그러나 글로벌 IT 공룡기업들 속에서 생존 여부조차 의문시되는 한국 AI 업계를 과도하게 규제해선 안 된다는 목소리도 있다. AI는 어느 정도로 규제돼야 하는가?1. 데이터 저작권 정책 저작권자의 거부권을 인정하면서 저작권 위반에 대한 처벌을 완화해야 한다. [사회] 지난해 12월 오픈AI사와 마이크로소프트(MS)는 미국의 뉴욕타임스(NYT)로부터 저작권 침해 소송을 당했습니다. 수백만개의 기사를 허락 없이 AI 모델 학습에 사용해 NYT에 손해를 끼쳤다는 내용입니다. 또한 스톡 포토 전문회사 게티이미지는 스태빌리티AI사에 마찬가지로 소송을 걸었죠. 웹 크롤링(web crawling)을 통한 텍스트·데이터 마이닝(TDM) 학습을 어디까지 허용해야 할까요.[자율] 소설가 지망생이 만 권의 책을 읽고 새로운 소설을 창작하는 것이 문제가 되지 않는 것처럼 AI도 공개된 데이터를 학습하는 것은 자유로워야 합니다. [규제] 저작물은 저작권자와 라이선스를 맺고 학습 데이터로 활용해야 합니다. 언론 등이 생산한 콘텐츠를 머신러닝에 무제한 허용하면 창작 동기가 약화될 것입니다. 챗GPT가 뉴욕타임스 유료 구독자만 읽을 수 있는 기사들을 학습해 99% 동일한 콘텐츠를 답변으로 내놓는다면 이는 공정이용(fair use)은 아니라고 봅니다. 저작권자에게는 자신의 저작물이 AI에 학습되지 않도록 거부할 수 있는 옵트아웃(opt out)이 보장돼야 하죠. [자율] AI 선진국에 한참 뒤처진 우리 기업이 데이터 학습 시 일일이 저작권자에게 허락을 받아야 한다면 이는 AI 혁신을 늦출 수 있습니다. 현실적이지도 않고요. 보수적인 일본도 이미 2018년에 저작권법을 개정해 “저작권자의 이익을 부당하게 침해하는 경우를 제외하면… 어떠한 방법으로든 이용할 수 있다”고 규제를 완화했습니다. AI로 새로운 저작물을 창작한다면 저작권을 부당하게 침해하는 것은 아니지요. [규제] TDM도 일부 허용할 필요가 있지만 기계적 정보 해석 목적에 한정해야 합니다. 저작권자의 옵트아웃 권리는 대립적 이해관계의 균형을 맞추는 방안이라고 봅니다. [사회] 저작권자의 거부권을 인정하면서 대신 저작권 위반에 대한 처벌을 완화하는 방안은 어떨까요? [자율] 하긴 사소한 저작권 위반은 발견하기도 어렵고 대형 사안이 문제이니 처벌 완화가 중요하지요. 분쟁 시 형사처벌을 제외하고 민사소송으로 해결하도록 하되 저작권자의 사용금지 청구를 못 하게 한다면 동의할 수 있습니다. [규제] 그 정도가 현실적일 것 같습니다. [사회] 공개된 데이터에 대해서는 합의가 이루어졌습니다. 비공개 데이터에 대해서는 저작권 주체의 데이터를 보관하는 데이터 뱅크를 설립하고 이 뱅크들이 저작권자를 대신해 AI사와 계약을 맺는 방식은 어떨까요? [규제/자율] 위탁에 대한 자율성이 보장되는 한 데이터를 보호하는 동시에 활용을 높이는 좋은 방안이네요. 2. AI 오남용 규제 AI 개발사의 기술적 표시 의무에 대한 사회적 합의 형성과 AI 사용 범죄 가중처벌이 필요하다. [사회] 딥페이크나 음성 복제를 통한 신원 도용과 사기 피해가 발생하고 있습니다. 이를 어떻게 규제해야 할까요. [규제] AI로 최고재무책임자(CFO) 얼굴을 복제한 후 화상 회의에서 송금 지시를 내려 사취한 사례가 홍콩에서 발생했죠. 이런 비대면 사기의 추적을 위한 규제가 필요합니다. AI로 생성한 이미지나 목소리 속에 암호화된 워터마크를 넣도록 의무화해 AI 사용 여부를 기록에 남겨야 합니다. [자율] 조영남씨의 그림 대작(代作) 소송에서 무죄 판결이 난 것을 기억하시죠? 대법원은 조영남씨에게 대작 화가의 존재를 고지할 의무는 없다고 판시했습니다. 앞으로 AI를 이용한 창작이 보편화될 텐데 그러한 명시 의무는 AI를 통한 창작활동을 위축시킬 수 있습니다. [규제] 워터마크 등 기술적 조치를 이용자가 아니라 AI 개발사에 의무화할 수 있지 않을까요? [자율] 의무화에 대한 사회적 합의를 형성한다는 정도면 동의할 수 있습니다. 사실 문제는 사기나 선거 여론조작 등 나쁜 의도를 가진 AI 사용자이지요. AI 활용 범죄에 대해서는 가중처벌할 것을 제안합니다. [규제] 동의합니다.3. 알고리즘 규제 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하자. [사회] 최근 유럽연합(EU)에서 인공지능 법률(EU AI Act)이 통과돼 앞으로 글로벌 인공지능 규범이 될 것으로 예상됩니다. 또한 미국에서는 알고리즘 책임법(Algorithmic Accountability Act)을 의회가 논의 중이지요. 이 법은 AI 알고리즘이 편향적 결과를 내지 않도록 기업들이 자체 감사와 보고를 하도록 요구합니다. AI 알고리즘은 어떻게 규제해야 할까요? [자율] 알고리즘의 의무적 공개는 민감한 영업비밀 등 기업의 지식재산권을 침해하는 결과를 가져옵니다. 사전 검열이 될 수도 있습니다. [규제] 경쟁이 존재하는 시장에서는 알고리즘의 편견과 차별이 스스로 교정될 수 있습니다. 그러나 경쟁이 없고 소비자와 사업자 간 엄청난 정보의 비대칭성이 있는 경우가 문제지요. 미국은 우리의 공정거래위원회에 해당하는 연방거래위원회(FTC)에서 가이드라인을 주고 있습니다. 중국에선 모든 AI 개발사들이 중앙정부에 알고리즘을 제출해야 하고 보안성 평가까지 통과해야 합니다. 중국 같은 과한 개입은 곤란하지만 그래도 알고리즘의 투명성을 위한 최소한의 조치는 필요합니다. [사회] 누군가의 감시가 필요하지만 정부의 직접 개입은 안 된다는 말씀이네요. 그렇다면 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하는 정도는 어떨까요? [규제/자율] 동의합니다. [사회] 끝으로 정부의 AI정책에 대한 건의를 해 주신다면. [규제] AI 관련 위험성 감축 노력이 AI 혁신 저해로 받아들여져서는 곤란합니다. 그러나 현재 정부가 구상하는 AI 관련 법률은 모호한 윤리원칙으로 가득 차 있습니다. 이렇게 되면 법안이 의미가 없거나 아니면 너무 광범위한 규제를 할 수 있습니다. 규제는 명확해야 합니다. [자율] AI에 대한 규제는 공직선거법, 성폭력처벌법 등 개별법에서 규정하는 것이 좋다고 봅니다. 이와 관련된 사회적 합의 형성이 필요합니다. [사회] 정부는 4월 초 다양한 이해당사자들이 참여하는 AI전략 최고위협의회를 구성했습니다. 이를 통해 구체적인 규제를 최소한으로 담는 법안을 만들기 바랍니다. 오늘의 논의가 그 기본틀이 됐으면 합니다.

21대 국회 임기가 불과 6주 남은 가운데 무려 1만 6351개의 법안이 계류 중이다. 역대 최대로 법안을 폐기했던 20대 국회(1만 5125건)의 기록을 경신하지 않으려면 무려 1226개를 ‘땡처리’해야 한다. 특히 고준위방폐법·산업은행법 개정안·의료법 개정안·유통산업발전법 개정안 등 국민의힘과 더불어민주당이 지난해 12월 신속한 법안 처리를 위해 구성한 ‘2+2 협의체’의 협상 테이블에 올랐던 안건들조차 논의가 없다. 총선 내내 거대 양당이 외쳤던 ‘일하는 국회’가 헛구호라는 비판이 나온다. 17일 국회에 따르면 방사성폐기물을 안전하게 처리하기 위한 고준위방폐법, KDB산업은행의 부산 이전을 핵심 내용으로 하는 산업은행법 개정안, 비대면 진료를 제도화하는 내용의 의료법 개정안, 대형마트 영업 휴무일에 온라인 배송을 허용하는 유통산업발전법 개정안 등이 상임위원회에 계류 중이다. 이를 포함해 국민의힘이 2+2 협의체에 내놓았던 10개 민생 법안 중 민주당이 동의해 통과된 것은 ‘우주항공청 설치법’과 ‘개 식용 금지 및 폐업 지원 특별법’ 2개뿐이다. 민주당이 2+2 협의체에 제출했던 10개 법안도 모두 통과되지 않았다. 민주당은 이 중 ‘전세사기 피해구제 특별법’, ‘농수산물 유통·가격 안정법’, ‘가맹사업거래공정화법’ 등 3개 법안을 이번 국회 회기 내에 일방적으로라도 통과시키겠다는 입장이다. 이 외 정부가 추진하는 주요 법안도 국회 문턱을 넘지 못했다. 인공지능(AI) 기본법은 여전히 상임위에 계류 중이다. AI와 관련된 제품과 서비스를 우선 출시하되 규제는 이후에 하겠다는 ‘우선 허용·사후 규제’가 핵심이다. 정부가 ‘킬러 규제’로 선정한 산업입지법 개정안과 외국인근로자 고용법도 상임위에 계류된 상태다. 산업기술 유출 방지법 등 민생 법안들도 본회의 통과 가능성이 작다. 국회 의안정보시스템에 따르면 21대 국회에서 발의된 법안은 총 2만 5803개로, 이 중 1만 6351개가 계류 중이다. 여야는 통상 총선 후 마지막 본회의에서 법안을 무더기 통과시키지만 현실적으로 100여개를 통과시키는 것이 한계라는 게 정치권의 얘기다.

21대 국회 임기가 불과 6주 남은 가운데 무려 1만 6351개의 법안이 계류 중이다. 역대 최대로 법안을 폐기했던 20대 국회(1만 5125건)의 기록을 경신하지 않으려면 무려 1226개를 ‘땡처리’해야 한다. 특히 고준위방폐법·산업은행법 개정안·의료법 개정안·유통산업발전법 개정안 등 국민의힘과 더불어민주당이 지난해 12월 신속한 법안 처리를 위해 구성한 ‘2+2 협의체’의 협상 테이블에 올랐던 안건들조차 논의가 없다. 총선 내내 거대 양당이 외쳤던 ‘일하는 국회’가 헛구호라는 비판이 나온다. 17일 국회에 따르면 방사성폐기물을 안전하게 처리하기 위한 고준위방폐법, KDB산업은행의 부산 이전을 핵심 내용으로 하는 산업은행법 개정안, 비대면 진료를 제도화하는 내용의 의료법 개정안, 대형마트 영업 휴무일에 온라인 배송을 허용하는 유통산업발전법 개정안 등이 상임위원회에 계류 중이다. 이를 포함해 국민의힘이 2+2 협의체에 내놓았던 10개 민생 법안 중 민주당이 동의해 통과된 것은 ‘우주항공청 설치법’과 ‘개 식용 금지 및 폐업 지원 특별법’ 2개뿐이다. 민주당이 2+2 협의체에 제출했던 10개 법안도 모두 통과되지 않았다. 민주당은 이 중 ‘전세사기 피해구제 특별법’, ‘농수산물 유통·가격 안정법’, ‘가맹사업거래공정화법’ 등 3개 법안을 이번 국회 회기 내에 일방적으로라도 통과시키겠다는 입장이다. 이 외 정부가 추진하는 주요 법안도 국회 문턱을 넘지 못했다. 인공지능(AI) 기본법은 여전히 상임위에 계류 중이다. AI와 관련된 제품과 서비스를 우선 출시하되 규제는 이후에 하겠다는 ‘우선 허용·사후 규제’가 핵심이다. 정부가 ‘킬러 규제’로 선정한 산업입지법 개정안과 외국인근로자 고용법도 상임위에 계류된 상태다. 산업기술 유출 방지법 등 민생 법안들도 본회의 통과 가능성이 작다. 국회 의안정보시스템에 따르면 21대 국회에서 발의된 법안은 총 2만 5803개로, 이 중 1만 6351개가 계류 중이다. 임기 내 처리되지 못해 폐기된 법안은 17대 국회 3582건, 18대 7220건, 19대 1만 190건, 20대 1만 5125건 등으로 증가세다. 여야는 통상 총선 후 마지막 본회의에서 법안을 무더기 통과시키지만 현실적으로 100여개를 통과시키는 것이 한계라는 게 정치권의 얘기다.

마치 영화 ‘바이센테니얼맨’을 보는 듯한 일이 현실에서 일어나 전 세계가 충격에 휩싸였다. 미국의 휴머노이드 로봇 개발 스타트업인 ‘피규어AI’가 챗GPT 개발업체인 오픈AI와 협업해 만든 로봇 영상이 13일(현지시간) 공개되면서다. 영상 속 로봇 ‘피규어 01’에게 인간이 “지금 뭐가 보이냐”고 묻자 ‘피규어 01’은 “테이블 중앙에 있는 접시 위에 올려진 빨간 사과가 보인다”고 말한다. 이어 “뭐 좀 먹어도 되냐”고 묻자 “물론”이라고 대답하면서 사과를 집어 건넨다. 인공지능(AI)을 탑재한 로봇이 스스로 주어진 환경을 인식하고 판단해 상황에 맞는 행동을 취한 것이다. AI가 스스로 판단하고 행동할 수 있는 수준이 된다는 건 인간의 통제 범위를 벗어난다는 것을 의미한다. 미국 민간업체 글래드스톤 AI가 미 국무부 의뢰로 최근 발표한 보고서는 범용인공지능(AGI)의 위험성을 담고 있다. AGI는 인간과 유사하거나 그 이상의 능력을 지닌 ‘미래의 AI’를 말하는데, 최첨단 로봇과 AGI가 등장하면 인류에게 멸종 수준의 위협을 초래할 수 있다는 것이다. AGI의 진화 속도가 관건이다. 전문가들은 향후 5년 이내에 AGI가 나올 수 있다고 본다. AI를 악용한 딥페이크(Deepfake)가 범람하면서 AI 규제 움직임이 촉발된 것은 그나마 다행스럽다. 지난 1월 테일러 스위프트를 합성한 딥페이크 이미지가 소셜미디어 ‘X’(옛 트위터)를 통해 유포된 것이 AI 규제법 논의의 촉매제가 됐다. 미국 정치권에서도 민주당 뉴햄프셔주 경선 전날인 지난 1월 22일 조 바이든 대통령 목소리를 흉내 낸 로보콜(녹음된 음성이 재생되는 자동전화)이 무더기로 유포돼 혼란이 일었다. 발등에 불이 떨어진 인류에게 시간은 얼마 남지 않았다. 다행히 유럽연합(EU)은 세계 최초로 포괄적 AI 규제법을 마련해 13일(현지시간) 승인했다. AI 활용 분야를 총 4단계의 위험등급으로 나눠 차등 규제한다. 특히 AGI 개발 기업에 대해 ‘투명성 의무’를 부여하기로 했는데 초안에 없었다가 AI 오남용에 대한 우려로 추가됐다. 우리나라도 2021년 7월 정필모 더불어민주당 의원 등이 발의한 ‘인공지능기본법’ 이후 다수의 법안이 발의됐지만 논의는 제자리다. 딥페이크로 인한 피해는 이미 눈앞에 다가왔는데 너무 태평하다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

온 세상이 인공지능(AI)이다. 뉴스에 AI 얘기가 빠지는 날이 하루도 없다. 삼성전자는 자체 거대언어모델(LLM) 가우스의 일부 기능을 경량화해 ‘온디바이스 AI’ 휴대전화를 손에 쥘 수 있게 했다. AI가 일자리를 빼앗을 것이란 우려가 일찍부터 현실화한 웹소설 시장에선 AI 표지를 쓴 작품은 불매하자는 목소리가 일기도 했으나 AI 이미지 활용이 웹툰과 영상 등에 빠르게 확산될 것은 자명하다. 2022년 공개된 챗GPT가 불러일으킨 생성형 AI 열풍은 메타버스, 대체불가토큰(NFT) 등 한철 유행처럼 지나간 개념들과 파급력이 다르다. AI 반도체 시장에서 독점적 위치를 차지한 엔비디아 주가는 신고가를 경신하며 1년 새 3배 넘게 올랐다. 생성형 AI의 등장은 인류의 생활양식을 통째로 바꿔 놓은 전기 발명에 비견되는 혁신이다. AI는 ‘뉴노멀’로 굳어질 가능성이 커 보인다. 주요국이 AI 산업 지원 관련 법안·제도 정비에 나서고 있다. 특히 미중 경쟁에서도 AI는 핵심으로 들어왔다. 미국은 지난해 수출관리규정(EAR) 2차 개정을 통해 13개 중국 AI 반도체 설계 기업을 통제 대상에 추가했다. 챗GPT를 만든 샘 올트먼 오픈AI 최고경영자(CEO)가 최근 AI 반도체 자체 개발을 위해 최대 7조 달러(약 9300조원)의 투자금을 유치하려 한다는 외신 보도가 나오기도 했다. 영국 데이터 분석 미디어 토터스인텔리전스의 ‘글로벌 AI 지수’에 따르면 한국의 AI 산업 수준은 62개국 중 6위다. 1위 미국, 2위 중국과의 격차는 크지만 3~8위는 엇비슷하다. 상대적으로 낮은 점수를 받은 현장 인력 부문, AI 기업 수 및 투자 규모 등을 보완하면 우위에 설 수도 있다. 요즘 과학기술정보통신부에서는 AI 담당자들이 가장 바쁘다. 그런데도 최근 사무관급 이하 직원 인사 때 지원자들이 AI 관련 과들에 몰렸다고 한다. 정부는 ‘전 세계에서 AI를 가장 잘 활용하는 대한민국’이라는 비전을 내걸고 있다. 투자 규모에선 미중을 이길 수 없지만, 사회 전 분야에 AI 대중화를 서둘러 디지털 강국을 실현하겠다는 것이다. 지난 13일 발표된 과기부의 ‘2024년 주요 정책 추진계획’에도 AI는 핵심 과제로 담겼다. 박윤규 과기부 2차관이 많게는 일주일에 두 번씩 ‘AI 일상화 연속 현장 간담회’를 이어 가는 것도 같은 취지다. AI 반도체 기업 방문을 시작으로 법률, 뷰티, 의료·심리상담 등 AI가 접목될 분야 종사자들을 만나 현장 목소리를 제도 개선으로 옮기려 한다. 하지만 ‘AI 기본법’(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 1년 넘게 국회에 계류 중인 점은 우려스럽다. AI 산업 발전과 안정성 확보를 위한 방향성을 모두 담고 있는 이 법안은 AI 규제 부분이 취약하다는 시민단체의 지적 이후 논의가 이뤄지지 않고 있다. 과기부는 올해 추진계획에서 AI 기본법을 제정하겠다는 계획을 내세우면서도 구체적인 방안은 밝히지 않았다. 관련 법조차 정비되지 않은 상태로 AI 일상화만 서두른다면 자칫 ‘AI 무법지대’로 국민을 몰아넣는 꼴이 될까 우려스럽다. 세계 3위 AI 강국의 꿈을 실현하기 위해서라도 입법을 서둘러야 할 때다.

서비스 수출이 불안하다. 경제협력개발기구(OECD)에 따르면 우리나라의 지난해 3분기 서비스 수출액은 1년 전보다 7.6% 줄었다. 덴마크(-20.0%)에 이어 두 번째로 큰 감소폭이다. 특히 지난해 주요국 서비스 수출이 코로나19 엔데믹(풍토화) 영향으로 늘었는데 우리나라는 4분기 연속 줄었다. OECD 39개 회원국 중 4분기 연속 수출 감소는 한국과 이스라엘뿐이다. 서비스 수출이 좋아지려면 국내 서비스산업이 발전해야 한다. 하지만 관광, 보건의료, 콘텐츠 등 서비스 업종 규제를 완화하고 세제를 지원하는 내용의 서비스산업발전기본법은 2011년 국회에 제출된 이후 폐기와 발의만 반복되고 있다. 현 21대 국회에서는 상임위 문턱조차 넘지 못했다. 관광 수요는 해외로 나간 지 오래다. 지난해 1~11월 여행수지 적자는 113억 달러로 전년 같은 기간 68억 달러의 1.6배로 불어났다. 세계가 부러워하는 K콘텐츠를 갖고도 관광 수요를 끌어들이지 못하고 있다. 인공지능(AI) 진료가 언급되지만 비대면 진료의 법적 근거도 아직 못 만들었다. 저비용·고품질의 의료 서비스를 찾아 아시아를 찾아오는 의료관광이 붐이지만 싱가포르, 인도 등에 자리를 내주고 있다. 의료관광은 체류 기간이 길고 체류 비용이 큰 고부가가치 산업이다. 우리나라의 서비스 수출 규모는 전 세계 15위로 상품 수출(6위)보다 경쟁력이 낮다. 서비스 수출이 되살아나지 않으면 수출이 더디게 회복되고 회복세를 보여도 그 혜택이 대기업 등 일부에 머무를 수밖에 없다. 내수와 일자리를 동시에 늘려 경제성장률은 물론 잠재성장률을 높일 수 있는 길이 서비스산업이다. 규제를 혁파해 국내의 서비스산업을 키워야겠다. 국회가 적극 나서야 할 의무가 있다.

AI 시대, 글로벌 규범 논의 주도를 위한 간담회 최근 미국, 유럽 등에서 인공지능(AI)의 위험성에 대비한 행정명령과 법안 도입이 잇따른 가운데 한국에서의 AI 관련 규범은 어떤 방향으로 가져가야 하는지를 논의하는 간담회가 지난 28일 서울 영등포구 전경련회관에서 열렸다. 박성필 한국과학기술원(KAIST) 문술미래전략대학원장은 이날 열린 ‘AI 시대, 글로벌 규범 논의 주도를 위한 간담회’에서 미국의 AI 관련 행정명령에 대해 “미국 행정부가 AI는 국가 안보와 직결되는 문제라는 것을 드러냈다”며 “사회 질서 유지는 당연하고, AI가 잠재력을 잘 발휘할 때는 사회적으로 큰 편익을 줄 수 있다라는 공공복리의 관점과 관련해 규제의 필요성이 아주 적극적으로 요구되는 분야에 대한 정부의 인식을 절실하게 보여줬다”고 말했다. 미국에서는 7월 마이크로소프트·구글 등 빅테크 기업들이 AI 사용의 안전·보안·신뢰 원칙을 담은 자율서약을 발표했다. 10월에는 자율서약 취지를 구체화한 행정명령이 나왔고 조 바이든 대통령이 서명했다. 행정명령에는 ▲AI 안전·보안·신뢰 평가 표준 마련 ▲포괄적 프라이버시 보호법안 촉구 ▲일자리 전환 등 충격에서 근로자 보호 등 내용이 담겼다. 박 원장은 “이번 행정명령에는 AI에 대한 위해성을 15회, 위험성을 101회 언급했다. 이전과 달리 AI 규범에 대한 성격이 변화하고 있는 것”이라며 “행정명령이 본격화할 경우 매우 엄격하고 광범위한 규제가 될 가능성도 있다”고 설명했다. 유럽연합(EU)이 추진하는 AI법을 소개한 강지원 김앤장 법률사무소 미국변호사는 “특정 분야의 인공지능 시스템 규율에 국한되지 않는 기본법적 성격의 포괄적 규제”라는 점에 주목했다. 강 변호사는 “EU의 AI법안은 상당히 과도한 규제”라며 “현 시점에서 AI 산업이 예측할 수 없을 정도로 변화 속도가 빠른데 내년, 내후년에 이 법안이 현실적으로 타당한지에 대한 우려들이 벌써 나올 정도”라고 말했다. 박윤규 과학기술정보통신부 2차관은 간담회를 시작하며 한 모두발언에서 “미국, 영국, EU 등 주요국은 AI 규범을 앞다퉈 만들려는 노력을 하고 있다”며 “우리나라는 AI 관련 법이 국회 문턱을 못 넘고 있어서 아쉽다. 법안이 조속히 통과되길 희망한다”고 말했다. 박 차관은 “국제사회의 AI 규범 관련 주도권 경쟁이 본격화되고 있다”며 “우리나라는 독자적인 AI 생태계를 보유하고 있는 글로벌 시장에서도 경쟁력을 인정받고 있는 몇 안 되는 국가다. 우리의 산업 환경과 사회·문화적 맥락을 고려한 정책 방향을 설정해 나가는 것이 무엇보다 중요하다”고 강조했다.

핼러윈 ‘맛의 거리’ 4만명 모일 듯지능형 CCTV로 인원 감지 가능밀집도 3구간 나눠 위험 징후 알려150명 ‘심각’ 단계, 경찰·소방 투입경찰, 인파 매뉴얼 아직 완성 못 해 “좁은 골목으로 진입하지 마시고 현 지역에서 벗어나 이동해주시길 바랍니다.” 서울시와 광진구가 핼러윈을 일주일여 앞둔 25일 건대입구 ‘맛의 거리’에서 인파밀집 대응 훈련을 실시했다. 실제로 인파가 몰리는 상황을 가정해 시와 구, 광진경찰서, 광진소방서, 한국인터넷진흥원 등이 훈련에 참여했다. 건대 맛의 거리는 평소 주말 저녁마다 2만 8000여명이 오가고, 지난해 핼러윈에는 3만 7000여명이 방문했다. 시 관계자는 “올해는 이태원 참사의 풍선효과로 방문객이 늘어 4만여명이 운집할 것으로 예상된다”고 말했다. 이에 오세훈 서울시장은 이날 맛의 거리를 찾아 김경호 광진구청장과 함께 지능형(AI) CCTV를 활용해 위험 징후를 사전에 알리는 ‘인파감지 시스템’의 가동을 직접 점검했다. 시는 인파 밀집 위험단계를 ‘주의-경계-심각’ 3단계로 구분하고, 밀집도를 높여가며 대응하는 모습을 시연했다. 좁은 골목(30㎡)에 단계별로 ▲주의 1㎡당 3명(약 90명) ▲경계 1㎡당 4명(약 120명) ▲심각 1㎡당 5명(약 150명)이 밀집하는 상황을 연출했다. 폭이 2m에 불과한 좁은 골목 안으로 90여명이 들어선 상황을 가정해 훈련이 시작됐다. 지나가던 행인 두 명이 119에 신고하자 서울시 재난안전상황실에 신고 내용이 공유됐다. 또 재난안전통신망을 통해 구와 경찰, 소방 등에도 전달됐다. 현장에는 “지금 계신 건대 맛의 거리는 인구밀집도 주의 단계입니다”라며 해산을 안내하는 방송이 울려퍼졌다. 인파가 150명까지 늘어 심각 단계에 이르자 광진구 현장대응반뿐 아니라 광진경찰서, 광진소방서 인력이 현장에 투입됐다. 경찰은 호루라기를 불며 “질서있게 앞 사람을 따라 차분히 이동해 달라”며 안내했다. 재난 문자가 발송되는 상황도 연출됐다. 이처럼 핼러윈을 앞두고 서울시와 자치구, 경찰 등이 인파밀집 안전관리에 촉각을 곤두세우고 있다. 지난 1월 경찰은 일정 지역 내에서 112 신고가 반복되면 자동으로 위험을 감지하는 시스템을 전국적으로 도입했다. 경찰은 “반경 50m 내에서 1시간 이내 3회 이상 신고가 접수되면 반복신고로 분류해 신속하게 대응해왔다”고 설명했다. 지난 5월부터는 소방청과 상호 연락관을 파견해 112와 119 신고 모니터링은 물론 관련 정보도 공유하는 체계를 구축했다. 다만 경찰은 지난해 11월 경찰 대혁신 태스크포스(TF)가 제안한 핵심 과제인 ‘인파 안전관리 매뉴얼’은 아직 마련하지 못했다. 주최자가 없는 행사에 대해 경찰의 역할과 책임을 명확하게 하기 위한 현장 대응 매뉴얼이지만, 행정안전부의 ‘지역축제장 안전관리 매뉴얼’과 ‘재난 및 안전관리 기본법’이 먼저 개정돼야 매뉴얼을 완성할 수 있다는 게 행안부와 경찰의 입장이다.