힌두 국수주의 성향의 나렌드라 모디 인도 정부가 총선을 앞두고 ‘반(反) 무슬림’ 논란에 휩싸였던 시민권 개정법(CAA) 도입을 강행했다. 12일(현지시간) BBC 방송 등에 따르면, 인도 정부는 전날 성명을 통해 시민권 개정법 시행에 들어간다고 밝혔다. 이 법은 파키스탄과 아프가니스탄, 방글라데시 등 3개국에서 종교적 박해를 피해 2014년 12월 31일 이전에 인도로 건너와 불법 체류 중인 힌두교도와 불교도, 기독교도 등 6개 종교 신자에게 인도 시민권 획득의 길을 열어줬다. 그러나 여기에 이슬람교도(무슬림)가 빠지면서 소수 집단과 대학생 등이 크게 반발했다. 2019년 해당 법안이 의회를 통과하자 수도 뉴델리를 비롯한 전국 곳곳에서 항의 시위가 벌어졌다. 시위 참가자들은 경찰과 격렬하게 충돌했고 이 과정에서 수십 명이 숨졌다. 이에 인도 정부는 시행을 보류해오다가 이번에 이를 발표한 것이다.당시 시위에는 인도 내 여러 종교 관계자들이 두루 합류했고, 이들은 해당 법이 인도 헌법의 토대인 ‘세속주의’를 훼손한다고 주장했다. 세속주의는 사회 제도나 그 운영 등에서 종교적 영향력을 제거하고, 세속과 종교 각각의 독립적인 영역을 구분하고 인정하자는 주장이나 견해를 말한다.특히 2억명에 달하는 무슬림 측은 정부가 자신들을 소외시키는데 이 법 등을 이용할 수 있다는 우려를 나타냈다. 모디 정부는 주변국에서 인도로 피신한 종교적 소수자에게만 시민권을 주는 것으로 인도 시민에게는 악용되지 않을 것이라며 시민권 개정법이 인도주의적 내용을 담은 것이라고 항변해왔다. 이번 법 시행과 관련해서도 집권 인도국민당(BJP)은 오랫동안 요구해온 사안이 실현되게 됐다며 환영했다. 하지만 연방의회 제1야당 인도국민회의(INC)는 정부가 총선 직전에 법 시행을 발표한 것은 표심을 양극화하려는 속셈이라며 비판했다. BJP가 법 시행으로 인구의 80%를 차지하는 힌두교도를 결집, 4∼5월 총선에서 유리한 고지를 차지하려 한다는 것이다. 인권단체 국제앰네스티(AI) 인도지부도 성명을 통해 해당 법은 차별적인 것으로 “평등이라는 헌법 가치뿐 아니라 국제인권법에도 위배된다”고 지적했다. 모디 총리는 이번 총선에서 3연임을 노리고 있다.

‘AI 임재범’ 뉴진스 커버도 73만회가수 동의 없이 ‘2~3분’ 만에 제작목소리 주인에게 수익 배분 안 돼저작인접권 침해여부 판단 어려워저작권협 “저작물 활용 표기해야”법조계 “수익 없어도 분쟁 소지” “달디달고 달디달고 달디단 밤양갱 밤양갱~” 귓가에 계속해서 맴도는 멜로디와 흥미로운 가사로 인기를 모으고 있는 가수 비비의 ‘밤양갱’이라는 노래는 최근 소셜미디어(SNS)에서 폭발적인 인기를 끌고 있다. 이 노래가 화제가 된 배경 중 하나는 생성형 인공지능(AI) 기술로 만들어진 가수 고 김광석, 백예린, 만화 캐릭터인 보노보노 등 다양한 이들의 목소리가 담긴 이른바 ‘AI 커버곡’이 대거 등장해서다. AI 커버곡은 AI가 실제 가수 목소리를 학습해 멜로디 위에 입히는 방식으로 만들어진다. 유튜브 등 SNS에서 AI 커버곡이 인기를 끌면서 5일 기준 아이유가 부른 밤양갱 AI 커버곡 영상은 조회수가 44만회를 기록했다. 앞서 프레디 머큐리의 목소리로 커버된 아이유의 ‘내 손을 잡아’는 131만회, 임재범의 목소리로 커버된 뉴진스의 ‘Hype Boy’는 조회수가 73만회나 됐다. 하지만 아이유의 목소리를 입힌 ‘밤양갱’으로 수익이 발생해도 정작 목소리의 당사자인 아이유는 1원도 가져가지 못한다. AI 커버곡 제작 과정에서 학습에 활용된 목소리의 주인공인 가수에게는 수익을 배분받을 수 있는 저작인접권이 인정되지 않아서다. 창작된 표현을 보호하는 저작권은 아니지만 가수나 연주자 등 실연자나 음반 제작자, 방송사업자는 저작권에 준해 보호되는 저작인접권을 갖는다. 실제 가수가 다른 가수의 노래를 리메이크한 음악에 대한 수익은 노래를 부른 실연자에게도 분배되지만 AI 커버곡은 목소리의 주인공과 수익을 나누지 않는다. AI 커버곡의 목소리는 원곡 가수의 목소리로 인정하지 않기 때문이다. 황선철 한국음악저작권협회 사업2국장은 “AI 커버곡을 만들기 위한 학습 단계에서는 저작인접권 침해 우려가 있지만 AI 커버곡 완성본에는 해당 가수의 음원 원본이 더이상 남아 있지 않아 저작인접권이 침해됐다고 보기 어렵다는 견해가 많다”고 말했다. 강진석 변호사도 “AI 커버곡은 가수의 음성에 부여되는 인격권을 침해해서 손해배상이나 사용금지 청구를 고려할 수 있다”면서도 “하지만 커버곡이 공유되는 유튜브가 잘 협조하지 않아 커버곡 제작자를 찾는 과정 자체가 쉽지 않다”고 설명했다. 국내에선 아직 AI 커버곡에 자신의 목소리가 쓰이는 것에 대한 반대나 우려 의견을 낸 가수는 없지만, 미국에서 래퍼 드레이크와 위켄드가 협업한 것으로 알려진 노래가 AI 커버곡으로 밝혀지면서 두 사람의 소속사가 이 노래에 대한 게재 금지를 요청한 일이 있었다. AI 커버곡 제작 프로그램을 제공하는 업체의 저작권 침해 우려가 크다는 지적도 나온다. 업체들이 제공하는 프로그램을 사용, 음성 학습을 위한 노래와 커버할 원곡 파일만 올리면 2~3분 만에 온라인에서 자동으로 커버곡을 만들 수 있다. 박정훈 한국저작권위원회 선임연구원은 “실연자나 저작권자의 권리가 침해될 수 있다는 사실을 알면서도 프로그램을 제공한 것”이라면서 “어느 정도로 영리성을 추구했는지에 따라 방조 책임이나 간접 책임을 질 수 있다”고 말했다. 대부분의 AI 커버곡 제작자들은 음원 제작자의 동의 없이 무단으로 커버곡을 만든다. 이런 상황에서 목소리의 주인공인 가수의 저작인접권이 제대로 보호받기 어려운 만큼 창작자와 노래를 부른 가수의 권리 등에 대한 명확한 규정이 필요하다는 지적이 나온다. 지난해 12월 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시키기도 했다. 국내에서는 한국음악저작권협회가 ‘생성형 AI 콘텐츠 표기 의무화법’ 도입의 필요성을 주장하며 지난 1월 국회 공청회를 열었다. 한국음악저작권협회는 “AI 생성물 여부와 AI 커버곡 제작에 어떤 저작물이 활용됐는지 표기를 의무화하는 입법이 시급하다”고 밝혔다. 반면 AI 커버곡 제작은 ‘공정 이용’에 해당한다는 의견도 있다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정 이용으로 본다. SNS에 AI 커버곡을 만들어 올리는 제작자들은 ‘커버곡으로 음원 수익을 창출하지 않는다’며 음원을 학습해 커버곡을 만드는 과정이 공익성을 일부 가지며 AI 산업 발전에도 기여하는 것이라고 주장한다. 이에 대해 이나래 변호사는 “수익을 창출하지 않았더라도 가수의 목소리를 학습 데이터로 무단 활용한 것은 법적으로 분쟁의 소지가 있다”고 지적했다.

“달디달고 달디달고 달디단 밤양갱 밤양갱~” 귓가에 계속해서 맴도는 멜로디와 흥미로운 가사로 인기를 모으고 있는 가수 비비의 ‘밤양갱’이라는 노래는 최근 소셜미디어(SNS)에서 폭발적인 인기를 끌고 있다. 이 노래가 화제가 된 배경 중 하나는 생성형 인공지능(AI) 기술로 만들어진 가수 고 김광석, 백예린, 만화 캐릭터인 보노보노 등 다양한 이들의 목소리가 담긴 이른바 ‘AI 커버곡’이 대거 등장해서다. AI 커버곡은 실제 가수가 부르지 않은 노래를 AI가 학습한 가수의 목소리로 재생성해 멜로디 위에 입히는 방식으로 만들어진다. 유튜브 등 SNS에서 AI 커버곡이 인기를 끌면서 5일 기준 아이유가 부른 밤양갱 AI 커버곡 영상은 조회수가 44만회를 기록했다. 앞서 프레디 머큐리의 목소리로 커버된 아이유의 ‘내 손을 잡아’는 131만회, 임재범의 목소리로 커버된 뉴진스의 ‘Hype Boy’는 조회수가 73만회나 됐다. 하지만 아이유의 목소리를 입힌 ‘밤양갱’으로 수익이 발생해도 정작 목소리의 당사자인 아이유는 1원도 가져가지 못한다. AI 커버곡 제작 과정에서 학습에 활용된 목소리의 주인인 가수에게는 저작인접권이 인정되지 않아서다. 창작된 표현을 보호하는 저작권은 아니지만 가수나 연주자 등 실연자나 음반제작자, 방송사업자는 저작권에 준해 보호되는 저작인접권을 갖는다. 실제 가수가 다른 가수의 노래를 리메이크한 음악에 대한 수익은 노래를 부른 실연자와 노래를 만든 저작권자에게 모두 분배되지만, AI 커버곡은 목소리의 주인공과 수익을 나누지 않는다.황선철 한국음악저작권협회 사업2국장은 “AI 커버곡을 만들기 위한 학습 단계에서는 저작인접권 침해 우려가 있지만 AI 커버곡 완성본에는 해당 가수의 음원 원본이 더이상 남아 있지 않아 저작인접권이 침해됐다고 보기 어렵다는 견해가 많다”고 말했다. 강진석 변호사도 “AI 커버곡은 가수의 음성에 부여되는 인격권을 침해해서 손해배상이나 사용금지 청구를 고려할 수 있다”면서도 “하지만 커버곡이 공유되는 유튜브 등이 잘 협조하지 않아 커버곡 제작자를 찾는 과정 자체가 쉽지 않다”고 설명했다. 국내에선 아직 AI 커버곡에 자신의 목소리가 쓰이는 것에 대한 반대나 우려 의견을 낸 가수는 없지만, 미국에서 래퍼 드레이크와 위켄드가 협업한 것으로 알려진 노래가 AI 커버곡으로 밝혀지면서 두 사람의 소속사가 이 노래에 대한 게재 금지를 요청한 일이 있었다. AI 커버곡 제작 프로그램을 제공하는 업체의 저작권 침해 우려가 크다는 지적도 나온다. 업체들이 제공하는 프로그램을 사용하면 온라인에서 음성학습을 위한 노래와 커버할 원곡 파일만 올리면 2~3분 만에 자동으로 커버곡을 만들 수 있다. 박정훈 한국저작권위원회 선임연구원은 “가수나 연주자 등 실연자나 저작권자의 권리가 침해될 수 있다는 사실을 알면서도 프로그램을 제공한 것”이라면서 “어느 정도로 영리성을 추구했는지에 따라 방조 책임이나 간접 책임을 질 수 있다”고 말했다.대부분의 AI 커버곡 제작자들은 음원 제작자의 동의 없이 무단으로 커버곡을 만든다. 이런 상황에서 목소리의 주인공인 가수의 저작인접권이 제대로 보호받기 어려운 만큼 창작자와 노래를 부른 가수의 권리에 대한 명확한 규정이 필요하다는 지적이 나온다. 지난해 12월 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시키기도 했다. 국내에서는 한국음악저작권협회가 ‘생성형 AI 콘텐츠 표기 의무화법’ 도입의 필요성을 주장하며 지난 1월 국회 공청회를 열었다. 한국음악저작권협회는 “AI 생성물 여부와 AI 커버곡 제작에 어떤 저작물이 활용됐는지 표기를 의무화하는 입법이 시급하다”고 밝혔다. 다만 SNS에 AI 커버곡을 만들어 올리는 제작자들은 ‘커버곡으로 음원 수익을 창출하지 않는다’며 음원을 학습해 커버곡을 만드는 과정이 AI 산업 발전에 기여하는 것이라고 주장한다. 이에 대해 이나래 변호사는 “수익을 창출하지 않았더라도 가수의 목소리를 학습 데이터로 무단 활용한 것은 법적으로 분쟁의 소지가 있다”고 지적했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

생성형 인공지능(AI)은 시·소설, 시나리오 등의 글쓰기부터 음악, 미술 등 예술 창작 전반에 활용되고 있다. 세계적으로 AI를 창작 도구로는 인정하고 있지만 저작권은 인간에게만 허용된다는 게 원칙이다. 국내 대중음악 창작에는 AI가 깊숙이 침투해 있다. 지니뮤직은 지난해 AI를 활용한 편곡 서비스 ‘지니리라’를 선보였고 김형석 작곡가는 AI 편곡 프로젝트를 진행 중이다. 국내에서는 이미 AI 저작권이 취소된 사례도 나왔다. 안창욱 광주과학기술원(GIST) 교수가 개발한 AI 작곡가 ‘이봄’(EvoM)이 곡을 쓴 노래 ‘사랑은 24시간’은 가수 홍진영이 불러 2021년 2월 음원이 공개됐다. 이와 관련해 한국음악저작권협회는 AI 작곡 사실을 확인하고 이봄에 대한 저작권 취소와 함께 저작권료 지급을 중단한 바 있다. 김현숙 한국음악콘텐츠협회 정책법률연구소장은 “AI가 작곡·작사한 음악은 원천적으로 지식재산권이 인정되지 않으며 AI 가창의 경우 실연권도 허용되지 않는다”며 “창작자들이 AI를 보조 수단으로 사용한 경우에만 저작권 등록이 가능하다”고 말했다. AI가 쓴 시와 소설 역시 저작권이 인정되지 않는다. 창작물이 아닌 기존 작품들을 활용한 ‘산출물’에 불과하다는 판단 때문이다. 지난해 9월 미국 작가협회가 챗GPT 개발사 오픈AI를 상대로 제기한 기존 저작물의 무단 학습 소송 결과가 나오면 저작권 다툼의 기준이 확립될 것으로 전망된다. 이정화 민음사 편집자는 “생성형 AI를 창작에 활용하는 작가가 늘어나는 건 간과할 수 없는 시대적 흐름이지만 민감한 ‘2차 저작 인용’ 문제를 출판계도 예의 주시하고 있다”고 말했다. 국내에서도 지난해 11월 웹툰 작가를 주축으로 국회가 논의 중인 ‘AI 학습 면책권’ 도입에 반대하는 입장을 표명한 바 있다. 이들은 “‘TDM’(텍스트와 데이터 마이닝) 면책 규정이 무분별하게 도입되면 AI가 기존 웹툰들을 무단 학습해 상업적으로 무차별 이용할 것”이라고 우려했다. AI가 그린 그림과 사진 작품도 이미 법적 판단이 나오거나 피소되는 상황에 부닥쳤다. 지난해 8월 미 연방법원은 AI로 만든 미술 작품에 대한 저작권을 불허하는 첫 판결을 낸 바 있다. 정준모 미술평론가는 “최근 유명 예술비평가 제리 살츠가 로마에서 AI 작품을 구매하면서 논쟁이 붙었지만 진짜 미술품으로 판단할 수 있는지는 여전히 논쟁의 영역”이라고 지적했다. 지난해 12월 생성형 AI 저작권 안내서를 발간한 문화체육관광부는 AI의 데이터 학습과 관련한 저작권 보호 기술 개발에 나서고 있다. 유럽연합(EU) 역시 지난해 12월 AI 콘텐츠에 대한 워터마크 의무화 법안을 통과시켰고, 우리 국회에도 AI 콘텐츠의 표기를 의무화하는 콘텐츠산업진흥법 개정안이 발의된 상태다. 앞으로 AI 창작물의 경우 AI가 얼마나 관여했는지 판별하는 기술이 중요해질 전망이다. 저작권 이슈가 첨예한 창작물의 경우 표절 여부부터 해당 창작물에 대한 AI의 참여율을 수치화하는 판정 기술이 절대적으로 필요하다는 인식이 커지고 있다.

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

정부가 인공지능 저작권에 대한 방안을 전문가들과 함께 모색한다. 문화체육관광부와 한국저작권위원회는 학계, 법조계, 권리자, 사업자, 산업기술계 등 다양한 분야 전문가가 참여하는 협의체(워킹그룹)로 구성한 ‘2024 인공지능(AI)-저작권 제도개선 워킹그룹’을 발족하고 전병극 제1차관 주재로 19일 첫 번째 회의를 연다고 밝혔다. 협의체는 11월까지 전체 회의와 쟁점별 분과 회의로 나누어 운영된다. 전체 회의에서는 분과 회의에서 논의할 주요 의제를 설명하고 이에 대한 위원들의 의견을 듣는다. 매월 진행하는 분과 회의에서는 쟁점별 주요 현안에 대한 구체적인 정책대안을 논의하고 논의 내용을 다시 전체 회의에 공유해 보완한다. 협의체는 저작물을 포함한 데이터를 수집·이용하는 ‘학습’ 분과 단계와 데이터를 생성하는 ‘산출’ 분과 단계로 나눠 운영된다. 학습 분과에서는 인공지능 학습용 저작물에 대한 적법한 이용 권한 확보 방안, 인공지능 학습데이터의 목록 공개 여부 등을 다룬다. 산출 분과에서는 인공지능 산출물의 보호 여부와 표시 방안, 인공지능 산출물의 저작권 등록 시 요건과 범위, 저작권 침해 판단 기준 등을 논의한다. 문체부와 위원회는 협의체 운영과 함께 인공지능과 저작권 쟁점에 대한 종합적인 대책을 마련하기 위해 ‘인공지능-저작권 법·제도 개선 방안 연구’를 병행한다. 이후 대국민 의견수렴 등을 거쳐 연말에 인공지능과 저작권 쟁점에 대한 정책 방향을 발표할 예정이다. 전병극 문체부 차관은 “최근 유럽연합이 인공지능 법안(AI act) 최종안에 합의하고, 미국은 행정명령을 통해 대책 수립을 지시하는 등 전 세계가 인공지능 시대의 저작권 이슈에 대해 적극적으로 대응하고 있다”면서 “문체부도 인공지능 시대를 선제적으로 대응하겠다”라고 밝혔다.

한기정 공정거래위원장은 올해 공정위의 키워드로 ‘민생’을 제시했다. 국민에게 경제적 부담을 안기는 담합에 대한 감시를 강화하고, 국민 실생활과 밀접한 분야의 불공정 문제를 해소하는 데 주력하겠다고 밝혔다. 건설 경기 위축으로 피해를 입은 중소기업을 보호하는 장치를 마련하고 혁신 기업의 성장을 막는 규제를 적극 발굴·개선해 나가기로 했다. 한 위원장은 최근 공정위가 제재 불복 소송에서 잇달아 패소한 것과 관련해 “고등법원과 공정위의 견해차로 발생한 것”이라며 “상고해 대법원의 판단을 받아 보겠다”고 밝혔다. 국세청처럼 패소 사건 담당자에게 책임을 묻는 제도가 필요한 것 아니냐는 질문에는 “관련자의 고의·중과실이 명백히 확인될 때는 성과 평가지표를 개선하는 방안을 검토해 볼 수 있을 것”이라고 답했다. 인터뷰는 15일 서울 중구 한국공정거래조정원에서 이뤄졌다.‘모바일상품권’ 거래 관행 개선카드보다 수수료율 4.5~9.5%P ↑정산 기간 길어 소상공인 부담민관협의체 통해 새 방안 도출기한 넘으면 환불액 90% 그쳐 -‘기프티콘’이라고 불리는 모바일상품권 거래 관행의 문제점과 개선책은. “모바일상품권은 다양한 이해관계가 복잡하게 얽혀 있다. 특히 다른 결제수단보다 수수료율이 높고 정산 기간이 길어 소상공인의 부담이 커지고 있다. 신용카드 수수료율은 0.5~1.5%, 정산 기간은 최대 3영업일 이내인데, 모바일상품권 수수료율은 5~11%, 정산 기간은 최대 60일 이내다. 수수료와 정산 기간은 민관협의체를 구성해 개선 방안을 도출할 계획이다. 소비자 입장에서는 유효기간이 지난 모바일상품권에 대한 환불이 90%만 이뤄져 불만이 크다. 앞으로 90% 이상을 돌려받을 수 있도록 표준 약관을 개정하려고 한다.” -건설경기 침체로 피해가 우려되는 중소기업을 보호할 방안은. “건설 분야의 어려움이 가중돼 하도급대금 미지급, 불리한 거래 조건 강요와 같은 불공정한 거래 관행이 증가할 것으로 예상된다. 공정위에도 신고가 늘어나고 있다. 피해 중소기업이 신속하게 구제받을 수 있도록 제도를 마련하고 법 집행에 집중할 계획이다.” -인공지능(AI)과 소프트웨어 오작동 등에 따른 사고의 배상을 가능하게 하는 ‘제조물 책임법 개정안’은 어떻게 준비되고 있는가. “현행법상 AI와 소프트웨어가 제조물 책임법상 ‘제조물’에 해당하는지 불명확하다. 그래서 소프트웨어의 결함으로 인한 피해는 구제가 쉽지 않다. 공정위는 제조물 개념을 재정의해 AI와 소프트웨어를 제조물에 포함하는 방안을 검토할 계획이다. 포함된다면 자율주행 소프트웨어 오작동으로 인한 교통사고에도 법이 적용될 수 있다.” 4건의 기업 제재 불복소송 상고패소 원인은 고법과의 견해 차이쿠팡 사건, 기존 판례와 달리 판단행정소송 승소율 5년간 90% 넘어최종 결과까지 지켜봐야 할 상황 -공정위가 행정소송에서 잇달아 패소하면서 애초 무리한 과징금 부과였던 것 아니냐는 지적이 있는데. “SK실트론의 사익 편취, SPC의 부당 지원 행위, 쿠팡의 대규모유통업법 위반, 해운 담합 제재 관련 소송에서 패소했다. 공정위와 서울고법 사이에 견해 차이가 있다고 본다. SK실트론 사건은 지난 13일 상고했다. 해운 담합 사건은 고등법원이 공정거래법에 대한 새로운 해석을 시도했고, SK실트론 사건은 판례가 정립되지 않은 상황에서 ‘사업 기회 제공 행위’에 대한 해석을 두고 견해 차이가 있었다. SPC 사건에서 패소한 건 정상가격 산정에 대한 견해 차이 때문이다. 쿠팡 사건은 고법이 기존 판례와 다르게 판단했다. 최근 5년간 대법원에서 공정위 승소 취지로 파기 환송된 비율은 약 33%로 높은 편이다.” -공정위 제재 결정에 대한 기업 수용도가 떨어지고 있는데. “공정위의 행정소송 승소율은 최근 5년 평균 90%가 넘는다. 일부 승소를 제외한 전부 승소율만 보면 73.8%다. 내부적으로는 패소 사례와 관련해 조사와 심결의 품질을 조금 더 높이는 노력을 해야겠다고 생각하고 있다. 최근 법원이 보다 엄격하게 증거를 요구하는 추세다. 이런 부분에 적극 대응할 생각이다. 심의 단계에서는 처분의 타당성을 높이기 위해 심사관과 피심인 사이에 충분히 공방이 이뤄질 수 있도록 더 많은 기회를 부여할 계획이다. 판단을 내리기 모호할 때는 재심사 결정을 적극 활용해 심의의 타당성을 높이려고 한다.” 제재 중과실 확인시 평가지표 개선 공정위 제재, 회의서 합의로 결정 조세법정주의 국세청 과세와 달라 개인의 책임으로 돌리기 어려워4건의 패소 사건 원인 분석 마쳐 -패소했을 때 담당자에게 책임을 묻는 제도가 필요하다는 지적이 있는데. “국세청의 과세는 조세법정주의에 따라 과세 요건이 법에 명확하게 규정돼 있지만 공정위 제재는 위법성 평가와 관련해 판단 여지가 많다. 또 전원회의나 소회의 등 합의제로 운영되기 때문에 개인 책임으로 귀속시키긴 어려운 측면이 있다. 다만 행정소송 패소 원인을 보다 체계적으로 관리하고 분석할 필요가 있다. 최근 4건의 패소와 관련해 내부적으로 무엇을 보완해야 할지 분석을 마쳤다.” -공정위가 올해 추진하는 대기업집단 제도 개선 방안은. “일관되게 대기업집단 제도의 합리적인 운영을 강조해 왔다. 올해도 기업 활동을 과도하게 제약하는 규제는 합리적으로 조정할 계획이다. 일부 교묘하게 법 위반을 회피하려는 시도에 대해서는 엄정하게 대응하기 위한 제도적 보완 장치를 마련할 것이다. 기업집단 규제의 합리적 조정을 위해 현재 자산총액 5조원 이상인 공시대상기업집단 기준이 국내총생산(GDP)과 연동되도록 연내 입법을 추진할 방침이다.” 혁신기업 성장 막는 규제 완화 개선된 대기업집단제 연내 추진사주 사익편취 고발 지침 급선회플랫폼법, 관계자 의견 수렴 필요소비자단체와도 소통, 입법 지속 -김범석 쿠팡 이사회 의장의 올해 동일인 지정 가능성 전망은. “개별 기업집단 동일인이 누가 될 것인지는 현재로서는 말씀드리기 곤란하다.” -재계 반발로 무산된 사주 일가 사익 편취 고발 강화 지침에 대해선 어떤 입장인가. “고발 지침 개정은 하지 않을 것이다. 당초 사익 편취 행위에 특수관계인이 관여한 사실을 입증할 때 간접·정황증거도 고려한다는 대법원 판례를 반영하려고 했다. 지침을 개정하지 않고 조사·심결에 적용할 수도 있었는데 피심인의 방어권 보장에 문제가 생길 수 있기 때문에 지침에 반영하려고 했던 것이다. 그런데 이를 오해해 ‘특수관계인의 관여 사실이 입증되지 않아도 무조건 고발하려고 한다’는 의견이 제기됐다. 이후 업계와 충분한 소통이 이뤄져 지침을 개정하기보다 사건 조사와 심결 과정에 판례 취지를 반영하는 쪽으로 선회했다. 앞으로는 판례 취지에 따라 간접·정황증거까지 포함해 종합적으로 고려할 예정이다.” -플랫폼 공정경쟁 촉진법 발표를 연기한 배경과 앞으로의 계획은. “지난해 12월에 추진 방침을 발표했고 이해관계자 의견 수렴 과정에서 추가 청취 및 검토가 필요하다고 판단했다. 시장에 미치는 영향이 큰 사안이니까 당장 법안을 공개하기보단 플랫폼 업계와 소상공인, 소비자단체 등과 폭넓게 소통하고 지배적 사업자 지정 제도를 포함해 대안을 열어 놓고 충분히 검토할 계획이다. 입법은 분명히 한다.” ●한기정 공정거래위원장 서울대 법학전문대학원장 출신 경제·금융·보험법 전문가다. 최상목 부총리 겸 기획재정부 장관, 조국 전 법무부 장관, 나경원 국민의힘 전 의원, 원희룡 전 국토교통부 장관, 조해진·송언석·박수영 의원(국민의힘), 송기헌 의원(더불어민주당) 등과 함께 서울대 법대 82학번이다. 정부 기관과 위원회에서도 경력을 쌓았다. 2009년 금융감독원 금융분쟁조정 전문위원, 2016~2017년 금융위원회 금융발전심의회 위원, 2016~2019년 보험연구원 원장을 역임했다. 법무부 감찰위원회 위원장과 대법원 사법행정자문회의 위원도 맡은 바 있다.

온 세상이 인공지능(AI)이다. 뉴스에 AI 얘기가 빠지는 날이 하루도 없다. 삼성전자는 자체 거대언어모델(LLM) 가우스의 일부 기능을 경량화해 ‘온디바이스 AI’ 휴대전화를 손에 쥘 수 있게 했다. AI가 일자리를 빼앗을 것이란 우려가 일찍부터 현실화한 웹소설 시장에선 AI 표지를 쓴 작품은 불매하자는 목소리가 일기도 했으나 AI 이미지 활용이 웹툰과 영상 등에 빠르게 확산될 것은 자명하다. 2022년 공개된 챗GPT가 불러일으킨 생성형 AI 열풍은 메타버스, 대체불가토큰(NFT) 등 한철 유행처럼 지나간 개념들과 파급력이 다르다. AI 반도체 시장에서 독점적 위치를 차지한 엔비디아 주가는 신고가를 경신하며 1년 새 3배 넘게 올랐다. 생성형 AI의 등장은 인류의 생활양식을 통째로 바꿔 놓은 전기 발명에 비견되는 혁신이다. AI는 ‘뉴노멀’로 굳어질 가능성이 커 보인다. 주요국이 AI 산업 지원 관련 법안·제도 정비에 나서고 있다. 특히 미중 경쟁에서도 AI는 핵심으로 들어왔다. 미국은 지난해 수출관리규정(EAR) 2차 개정을 통해 13개 중국 AI 반도체 설계 기업을 통제 대상에 추가했다. 챗GPT를 만든 샘 올트먼 오픈AI 최고경영자(CEO)가 최근 AI 반도체 자체 개발을 위해 최대 7조 달러(약 9300조원)의 투자금을 유치하려 한다는 외신 보도가 나오기도 했다. 영국 데이터 분석 미디어 토터스인텔리전스의 ‘글로벌 AI 지수’에 따르면 한국의 AI 산업 수준은 62개국 중 6위다. 1위 미국, 2위 중국과의 격차는 크지만 3~8위는 엇비슷하다. 상대적으로 낮은 점수를 받은 현장 인력 부문, AI 기업 수 및 투자 규모 등을 보완하면 우위에 설 수도 있다. 요즘 과학기술정보통신부에서는 AI 담당자들이 가장 바쁘다. 그런데도 최근 사무관급 이하 직원 인사 때 지원자들이 AI 관련 과들에 몰렸다고 한다. 정부는 ‘전 세계에서 AI를 가장 잘 활용하는 대한민국’이라는 비전을 내걸고 있다. 투자 규모에선 미중을 이길 수 없지만, 사회 전 분야에 AI 대중화를 서둘러 디지털 강국을 실현하겠다는 것이다. 지난 13일 발표된 과기부의 ‘2024년 주요 정책 추진계획’에도 AI는 핵심 과제로 담겼다. 박윤규 과기부 2차관이 많게는 일주일에 두 번씩 ‘AI 일상화 연속 현장 간담회’를 이어 가는 것도 같은 취지다. AI 반도체 기업 방문을 시작으로 법률, 뷰티, 의료·심리상담 등 AI가 접목될 분야 종사자들을 만나 현장 목소리를 제도 개선으로 옮기려 한다. 하지만 ‘AI 기본법’(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 1년 넘게 국회에 계류 중인 점은 우려스럽다. AI 산업 발전과 안정성 확보를 위한 방향성을 모두 담고 있는 이 법안은 AI 규제 부분이 취약하다는 시민단체의 지적 이후 논의가 이뤄지지 않고 있다. 과기부는 올해 추진계획에서 AI 기본법을 제정하겠다는 계획을 내세우면서도 구체적인 방안은 밝히지 않았다. 관련 법조차 정비되지 않은 상태로 AI 일상화만 서두른다면 자칫 ‘AI 무법지대’로 국민을 몰아넣는 꼴이 될까 우려스럽다. 세계 3위 AI 강국의 꿈을 실현하기 위해서라도 입법을 서둘러야 할 때다.

지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.

최근 미국 뉴햄프셔 프라이머리를 앞두고 민주당 당원에게 투표 거부를 독려하는 조 바이든 미국 대통령의 가짜 목소리를 담은 전화가 돌면서 딥페이크 선거운동에 대한 우려가 커졌다. 지난해 초에는 경찰에 체포되는 도널드 트럼프 전 대통령의 사진이 퍼지는 등 인공지능(AI)으로 생성된 이미지가 혼란을 일으켰다. 대통령 선거를 앞두고 민주당과 공화당의 주별 경선이 이어지는 가운데 유권자에게 잘못된 인식을 심어줄 수 있는 이미지를 경계하기 위해 AI 기업들이 자사 AI로 정치적 이미지를 생성하지 못하도록 제한하는 방안을 검토하고 있다. 10일(현지시간) 영국 가디언에 따르면 AI 이미지 생성 기업 미드저니의 최고경영자(CEO) 데이비드 홀츠는 앞으로 1년 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정이라고 설명했다. 또 다른 AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇인 ‘파이’가 정치 후보 지지 발언을 못하도록 하는 조치를 할 계획이다. AI 기업들은 AI 이미지에 라벨을 부착해 출처를 알 수 있게하는 정책을 연이어 발표하고 있다. 페이스북 모회사 메타와 구글, 챗GPT 개발사 오픈AI도 이런 방침을 알리면서 “선거의 무결성을 보호하려면 민주적 절차의 모든 부분에서 협력이 필요하다. 우리 기술이 이 절차를 훼손하는 방식으로 사용되지 않도록 하고자 한다”고 의미를 부여했다. 미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지했고, AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의도 잇따르고 있다.

조 바이든 미국 대통령 행세를 한 가짜 목소리로 혼란을 일으키더니 이번엔 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란한 이미지가 온라인상에 퍼져 팬들의 공분을 사고 있다. 이미지는 인공지능(AI) 도구로 생성된 것으로 추정돼 관련 규제를 강화해야 한다는 목소리가 커지고 있다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송에 따르면 최근 스위프트 얼굴이 합성된 성적 수위가 높은 이미지가 소셜미디어(SNS)에 퍼졌다가 삭제됐다. 이미지의 최초 출처는 불분명하지만 주로 X(옛 트위터)에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. 이 이미지는 삭제 전까지 조회수 4700만회를 웃돌 정도로 빠르게 확산했다. X는 성명에서 “해당 이미지를 게시한 계정에 대해 적절한 조처를 했다. 추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 이미지 공유를 한때 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 함께 관련 키워드를 더해 올리며 이미지 검색을 어렵게 만들기 위해 노력했다. 사이버보안업체 리얼리티 디펜더는 이 이미지가 AI 딥러닝을 이용한 합성기술인 딥페이크로 생성된 것으로 확신한다고 NYT에 밝혔다. 일부 전문가는 마이크로소프트(MS)의 AI 생성 프로그램인 ‘디자이너’로 만들어졌다고도 지적하면서 MS는 관련 조사를 벌이고 있다. 앞서 미국 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 22일 민주당 당원들에게 바이든 대통령의 가짜 목소리를 담은 전화가 걸려오기도 했다. 바이든 대통령 목소리를 닮은 로보콜(자동녹음 전화)은 통화 상대에게 “당신의 표를 11월(대선)을 위해 아껴 두라. 이번 투표는 도널드 트럼프 공화당 후보를 다시 선출하게 만들 뿐”이라며 투표하지 말 것을 권유했다. 특히 바이든 대통령이 즐겨 쓰는 ‘정말 말도 안 되는 소리’(What a bunch of malarkey)로 시작해 유권자들을 혼동에 빠트렸다. 이번 일로 AI를 이용한 가짜 이미지 생성에 더욱 강한 규제가 필요하다는 여론이 거세다. 현재 미국 9개 주에서는 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만 연방정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 이미지 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 “끔찍하다. 이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 사티아 나델라 MS 최고경영자(CEO)도 NBC 방송과 한 인터뷰에서 스위프트의 딥페이크 사건과 관련해 “누구도 콘텐츠 제작자와 소비자 모두에게 안전하지 않은 온라인 세상을 원하지 않는다”면서 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”고 밝혔다.

팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

수사단계서 동결할 입법안 추진최소 6개월 정지… 추가 범행 차단“지급정지로 범죄 줄이는 데 기여”온라인 마약 판매 사진 AI로 판독 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급정지’를 하기 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어 버리면 추가 수사 시간을 확보하고 범죄수익 몰수와 추징도 강화할 수 있을 것으로 본다. 17일 서울신문 취재를 종합하면 대검찰청 마약조직범죄부(부장 박영빈)는 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민체육진흥법’, ‘게임산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 특히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고 은행권의 협조를 요청할 계획이다. 현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수 없다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법도박 근절을 위해 관련 사이트 접속 차단을 해 왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌 지급정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것”이라고 밝혔다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해 왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 만들었다.

수사단계서 동결할 입법안 추진최소 6개월 정지… 추가 범행 차단이원석 총장, 은행연합회와 MOU 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. 대화방을 옮긴 A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급정지’를 하기가 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어 버리면 추가 수사에 대한 시간을 확보하고 범죄수익 몰수와 추징도 강화할 수 있을 것으로 기대하고 있다. 17일 서울신문 취재를 종합하면 대검찰청은 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민체육진흥법’, ‘개입산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 온라인 불법도박과 관련된 법안은 스포츠토토 외에도 조정·경륜·경마 등 세부화돼 있어 법안마다 개정이 필요하다. 특히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고 은행권의 협조를 요청할 계획이다. 현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 범죄 피해자가 금융회사에 지급정지를 신청하거나 수사기관이 사기 이용 계좌로 의심된다고 판단해 금융회사에 고지하면 해당 계좌가 동결된다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수 없다. 오히려 범죄자들이 은행을 상대로 수사기관의 요청에 따라 계좌 지급정지를 한 데 대해 민원을 넣거나 소송을 건다는 게 검찰 측 설명이다. 검찰 측은 “범죄자가 대포통장 명의자를 시켜 은행에 ‘왜 내 멀쩡한 계좌를 정지시키느냐’며 항의하는 경우도 있다”고 밝혔다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 대검에 따르면 지난해 1~11월 단속된 마약류 사범은 2만 5188명에 달했다. 지난해 12월을 제외했는데도 2022년(1만 8395명)에 비해 36.9% 증가했다. 불법도박 시장 규모도 급격하게 커졌다. 사행산업통합감독위원회에 따르면 연도별 불법도박 추정액(이용자 기준)은 2016년 70조 8934억원에서 2022년 102조 7236억원으로 늘었다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법도박 근절을 위해 관련 사이트 접속 차단을 해 왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌 지급정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것으로 보인다”고 밝혔다. 백주선 법무법인 융평 대표변호사는 “계좌 지급정지를 통해 수사를 진행한 후 범죄수익이라고 판단되면 국가가 환수할 수 있어 효과가 클 것으로 기대된다”며 “대포통장을 이용한 범행 건수가 줄어드는 효과도 있을 것으로 보인다”고 말했다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해 왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 만들었다. 또 인스타그램과 핀터레스트 등 SNS를 통한 마약류 모니터링 시스템을 강화하고자 마약 범죄 관련 사용자 계정(ID)과 연락처, 이미지, 텍스트 등 데이터베이스(DB)도 재구축했다.

수사단계서 동결할 입법안 추진최소 6개월 정지…추가 범행 차단이원석 총장, 은행연합회와 MOUe드러그 모니터링 이달 상용화 계획 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. 대화방을 옮긴 A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급 정지’를 하기가 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어버리면 추가 수사에 대한 시간을 확보하고 범죄수익 몰수와 추징도 강화할 것으로 기대하고 있다. 17일 서울신문 취재를 종합하면 대검찰청 마약조직범죄부(부장 박영빈)는 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법 도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민 체육진흥법’, ‘게임산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 온라인 불법도박과 관련된 법안은 스포츠토토 외에도 조정·경륜·경마 등 세부화돼 있어 각 법안마다 개정이 필요하다. 툭히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고, 은행권의 협조를 요청할 계획이다.현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 범죄피해자가 금융회사에 지급정지를 신청하거나 수사기관이 사기이용계좌로 의심된다고 판단해 금융회사에 고지하면 해당 계좌가 동결된다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수가 없다. 오히려 범죄자들이 은행을 상대로 수사기관의 요청에 따라 계좌지급 정지를 한 데 대해 민원을 넣거나 소송을 건다는 게 검찰 측 설명이다. 검찰 측은 “범죄자가 대포통장 명의자를 시켜 은행에 ‘왜 내 멀쩡한 계좌를 정지시키냐’며 항의하는 경우도 있다”고 설명했다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 대검에 따르면 지난해 1~11월 단속된 마약류 사범은 2만 5188명에 달했다. 지난해 12월을 제외했는데도 2022년(1만 8395명)에 비해 36.9% 증가했다. 불법도박 시장 규모도 급격하게 커졌다. 사행산업통합감독위원회에 따르면 연도별 불법도박 추정액(이용자 기준)은 2016년 70조 8934억원에서 2022년 102조 7236억원으로 늘었다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여 간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법 도박 근절을 위해 관련 사이트 접속 차단을 해왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌지급 정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것으로 보인다”고 밝혔다. 백주선 법무법인 융평 대표변호사는 “계좌 지급정지를 통해 수사를 진행한 후 범죄 수익이라고 판단되면 국가가 환수할 수 있어 효과가 클 것으로 기대된다”며 “대포통장을 이용한 범행 건수가 줄어드는 효과도 있을 것으로 보인다”고 말했다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고, 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인 상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 구축했다. 또 인스타그램과 핀터레스트 등 SNS를 통한 마약류 모니터링 시스템을 강화하고자 마약 범죄 관련 사용자 계정(ID)과 연락처, 이미지, 텍스트 등 데이터베이스(DB)도 다시 재구축했다.

김춘곤 서울시의원(윤리특별위원장)은 지난 10일 의원회관 제2대회의실에서 ‘2024 Wellness Forum’을 개최했다. 이날 포럼은 우리나라 웰니스관광산업의 현실을 진단하고, 향후 나아가야 할 방향에 대한 발제 및 토론의 장으로 마련됐다. 1부 행사에서는 오는 8월 2일부터 양일간 개최 예정인 ‘2024 Wellness Fair’ 조직위원회 위촉식이 열렸다. 국민 삶의 질 향상을 위한 목적으로 올해 3회째를 맞는 웰니스페어의 조직위원장은 김춘곤 의원이 맡았다. 부위원장은 ▲고성규 경희대 한의과학대학장 ▲최희윤 한국디지털웰니스협회장 ▲한은희 유니에스아이엔씨 대표이사 ▲김정하 경인여대 교수 ▲이인재 가천대 교수 ▲이덕현 온원엔터테인먼트 이사 ▲정여진 성원애드피아 상무 ▲도경환 이엔코프 대표이사 ▲전성제 법무법인 한양 변호사 ▲박성우 서울특별시한의사회장 ▲임세웅 더와이즈치과병원장 ▲강은영 이와이의원 대표원장 ▲김소은 단국대 교수 ▲정민우 바른자산 대표이사 ▲위지훈 한의사 ▲이제헌 단국대 교수 등 분야별 전문가를 위촉했다. 서울시의회의 관심도 매우 뜨거웠다. 남창진 부의장을 비롯해 ▲최호정 국민의힘 원내대표 ▲이종환 문화체육관광위원장 ▲이숙자 기획경제위원장 ▲강석주 보건복지위원장 ▲김용호 도시안전건설위원회 부위원장 ▲김형재 의원 ▲김길영 의원 ▲이종배 의원 ▲이상욱 의원 ▲이효원 의원 등이 참석해 축사와 응원의 메시지를 전했다. 기념사에 이어 이정실 부산관광공사 사장이 ‘한국 웰니스관광 육성 전략’을 주제로 기조연설을 했다. 이 사장은 긍정적 요인을 최대화하고, 부정적 요인을 최소화하기 위한 세부 전략을 통해 지속 가능한 환경 조성에 필요한 업계 맞춤형 지원 확대 및 연계 사업과의 생태계 조성을 강조했다. 특히 경쟁력 있는 웰니스 콘텐츠 운영을 위한 인재 육성 및 일자리 창출 및 글로벌 인지도 제고가 가장 먼저 필요하다고 피력했다. 향후 점차 그 범위를 확대해 산업의 지속가능성을 확보할 필요성이 있다고도 했다.이후 양정원 어린이동아 공공정책부장의 진행으로 ▲김혜영 서울시의회 의원 ▲김가영 서울시 관광산업과장 ▲탁정삼 서울관광재단 기획경영본부장 ▲고동균 서울시한의사회 대외협력이사가 패널로 참석해 주제발표 및 토론을 이어갔다. 김가영 과장은 서울이 보유한 첨단 의료관광 인프라를 중심으로 매력이 넘치는 웰니스관광 콘텐츠를 적극 활용해 글로벌 의료관광 도시로서 위상을 강화하겠다는 계획을 밝혔다. 고동균 이사는 균형 있는 건강과 행복한 삶을 추구하기 위해 한의약과 웰니스의 결합을 이끌고 있다는 점을 강조하며, 웰니스관광산업에 활력을 더하기 위해서는 관련 법안 및 규정의 보완·제정이 꼭 필요하다고 전했다. 최근 전 세계적으로 급성장세를 보이는 웰니스관광산업의 밝은 미래를 맞이하기 위해 인재 양성에 박차를 가해야 한다는 지적도 있었다. 이인재 가천대 관광경영학과 교수는 “관련 산업을 이끌어갈 미래인재 육성을 위한 필요성을 실감하고 있는 만큼 교육현장에서 체계적인 뒷받침이 조성되어야 한다”라고 말했다. 한편 ‘2024 Wellness Fair’는 국내 웰니스관광 콘텐츠를 비롯해 생애주기별 건강지원 정책 및 산업의 장으로 8월 2일 펼쳐질 예정이다.

“싸우지 말고, 서로 존중하고, 협력하면서 안전과 평화와 번영의 나라로 나아가길 바랍니다.” 지난 6일 김대중(DJ) 전 대통령 탄생 100주년을 맞아 열린 행사에서 인공지능(AI) 기술로 구현한 DJ가 무대에 깜짝 등장해 언급한 말이다. DJ는 자신을 사지(死地)로 내몬 이들에게도 손을 내밀었다. 전두환 신군부의 ‘내란 음모 조작 사건’으로 고문까지 받았던 DJ는 대선에서 승리한 뒤 김영삼 전 대통령과의 회동에서 전두환·노태우 두 전직 대통령의 사면을 발표했다. 정치권은 여야 가리지 않고 DJ의 정신을 기리겠다고 했지만 국회가 거듭될수록 상생의 정신은 사라져 왔다. 상대 당을 악마화하고 적으로 규정해 강성 지지자에 기대는 정치가 일상화됐다. 선거라는 게 내가 이기기 위해 상대를 쓰러뜨려야 하는 쟁투(爭鬪)적 속성이 어느 정도 있을 수밖에 없지만 국민은 적당히 좀 하라고 외치는 게 현실이다. 양곡관리법 개정안, 간호법 제정안 등 거대 야당이 단독으로 법안을 통과시키고, 대통령이 거부권을 행사하는 모습이 이제는 낯설지 않다. 정치권은 전날 이태원참사특별법을 놓고도 합의에 이르지 못했다. 최근 만난 한 정치권 원로는 “요즘에는 여야 의원들이 밥도 술도 따로 먹고, 출장을 가도 각각 모여 논다는 데 문제가 있다”고 말했다. 상생과 관련해 떠오르는 장면이 없는 건 아니다. 2013년 12월 국회 국토교통위원회 소속인 새누리당(현 국민의힘) 김무성 의원과 민주당(현 더불어민주당) 박기춘 의원이 ‘수서발 KTX 법인’ 설립을 둘러싼 철도노조의 파업 철회에 손발을 맞춰 나간 게 대표적이다. 사상 최장기 철도 파업이 해결된 데는 산파 역할을 맡은 두 의원의 돈독한 신뢰 관계가 역할을 했다는 평이 나왔다. 당시 김 의원은 “박 의원과 저는 오랜 기간 쌓은 신뢰 관계가 있다”고 밝히기도 했다. 2014년 12월 국회가 새해 예산안을 법정 기한 내에 처리한 것도 기억에 남는 장면 중 하나다. 12년 만에 처음 있는 일이었다. 당시 처음 시행된 국회 선진화법의 위력이기도 했지만 현실적으로 타협을 끌어낸 이완구·우윤근 여야 원내대표는 호평받았다. 지난 2일 이재명 민주당 대표 피습 사건을 계기로 의원들 사이에 자성론이 나오는 건 그나마 다행이다. 정성호 민주당 의원은 한 방송에서 “민주주의가 무너지는 과정에서 나타나는 가장 결정적 징후는 상대방에 대한 관용의 정치가 실종되는 것”이라며 “자기와 견해를 달리하는 사람들을 악마화하는 데 정치인들이 앞장서는 게 아닌가 걱정된다”고 밝혔다. 국민의힘에서는 윤재옥 원내대표가 비상대책위원회 회의에서 “여야 모두 독버섯처럼 자라난 증오 정치가 국민께 악영향을 미치고 있음을 인정하고 머리를 맞대 정치 문화를 혁신할 방안을 찾아야 한다”고 호소했다. 인간은 입이 하나, 귀가 둘이다. 탈무드는 “말하기보다 듣기를 두 배 더하라는 뜻”이라고 이를 풀이한다. 인간은 보통 1분에 약 150개 낱말을 말할 수 있지만 1분에 600개 정도 단어를 들을 수 있다고 한다. 정치권도 말하기보다 듣기에 집중하고, DJ의 말을 본받아 행동을 실천에 옮기는 건 어떨까.

2023년 3월 도널드 트럼프 전 미국 대통령이 뉴욕 맨해튼에서 자신을 체포하려는 경찰과 싸우는 사진이 소셜미디어(SNS)에 광범위하게 유포됐다. 한 달쯤 지나 미 공화당 전국위원회는 조 바이든 대통령이 재선될 경우 일어날 수 있는 다양한 상상 속 재난의 모습을 보여 주는 광고를 공개했다. 지난해 11월에는 일본 SNS에 기시다 후미오 총리가 성적인 발언을 하는 영상이 유포돼 논란을 불렀다. 여름에 유튜브에 올라온 것인데 X(옛 트위터)를 타고 하루 만에 조회수 230만회를 훌쩍 넘겼다. 모두 인공지능(AI) 딥러닝을 기반으로 한 합성 기술인 딥페이크로 만든 영상과 이미지였다.문제는 세상에 없는 인물과 이미지를 만들어 내는 딥페이크가 더 방대한 정보가 투입되는 딥러닝을 통해 더 정교해지고 실존에 가까워진다는 점이다. 말하는 모양의 동영상을 만들고 실제 동영상에 입술 움직임만 바꿔 넣는 딥페이크 기술로 생성한 동영상을 X나 유튜브에 올리기만 하면 삽시간에 전 세계로 퍼져 나간다. 팩트체크를 통해 가짜뉴스로 판명되더라도 이미 누군가에게는 사실로 인식되고 있을 터. 이렇게 가짜뉴스를 퍼뜨리기 좋은 상황은 극단적인 정치 분열이 있을 때나 전쟁 상황에서 더 큰 효과를 발휘한다. 우크라이나·러시아 전쟁 초반인 2022년 3월 페이스북과 유튜브 등에 퍼진 볼로디미르 젤렌스키 우크라이나 대통령의 항복 영상이 단적인 예다. 직후 블라디미르 푸틴 러시아 대통령의 평화 선언 영상이 올라왔다. 둘 다 조작된 영상으로 밝혀지면서 메타와 유튜브 등 운영사는 원본 영상을 삭제했지만 여전히 흔적이 남아 있다.딥페이크를 이용한 가짜뉴스는 전 세계 주요 선거가 줄줄이 예정된 올해 특히 민주주의를 위태롭게 하는 요소로 꼽힌다. 미국 코넬대 세라 크렙스 교수와 더그 크리너 교수는 ‘AI는 어떻게 민주주의를 위협하는가’(민주주의 저널)라는 논문에서 한 실험 결과를 내놨다. 이들은 미국 주의원 7000여명에게 AI가 쓴 편지와 사람이 작성한 편지를 동시에 보냈는데, 사람이 직접 작성한 이메일의 응답률은 AI가 쓴 이메일보다 2% 정도 높은 수준에 불과했다. 이들은 “사람이 만든 진짜 정보와 AI가 생성한 가짜 정보를 구별할 수 없는 상황”이라면서 “허위조작정보를 받아들였다고 해서 유권자들의 선택이 반드시 바뀌는 건 아니지만 민주주의 사회 내 구성원들 간 신뢰를 저해하고 공론장을 왜곡할 수 있다”고 지적했다. 3개월 전 치러진 아르헨티나 대선에서는 상대 후보를 비방하려고 만든 홍보물에 생성형 AI가 마구잡이로 악용됐다. 당시 집권 좌파연합의 대선후보였던 세르히오 마사 경제장관은 극우 경제학자 출신 하비에르 밀레이 당시 후보(현 대통령)가 “(장기 매매 시장이 활성화되면) 아이를 낳는 것이 곧 투자가 될 수 있다”고 말하는 딥페이크 영상을 제작해 유포했다. 밀레이 후보는 마사 후보를 구소련 정치 선전 포스터의 주인공으로 만들어 마사가 공산당 지도자처럼 보이게끔 했다. 두 사람이 만든 홍보물은 AI 창작물임을 명시했음에도 유권자들에게 부정적 인상을 심어 줬다. 미국은 올해 11월 5일 예정된 대선에서 생성형 AI가 훨씬 더 강력한 영향을 미칠 수 있다고 우려하고 있다. 과거의 조악한 합성 영상물과 달리 요즘의 생성형 AI가 만들어 내는 딥페이크는 실제 사람이 만든 것과 구별하기 어려울 정도로 정교하다. 지난해 5월 SNS에서 미 국방부 청사인 펜타곤 건물에서 대형 화재가 발생한 사진이 빠르게 확산하면서 주식시장까지 출렁이는 소동을 빚었다.사안의 심각성을 인식한 미국, 유럽 등 서구 민주주의 사회는 AI를 활용한 가짜뉴스를 규제하는 방법을 끊임없이 고민하고 있다. 유럽연합(EU)은 이미 수년 전부터 가짜뉴스라는 말 대신 허위정보, 잘못된 정보라는 표현을 쓰면서 미디어 역할을 차단해 왔다. 다음달부터는 ‘디지털 서비스법’을 시행해 가입국이 허위정보, 차별적 콘텐츠, 아동 학대, 테러 선전 등의 불법 유해 콘텐츠를 의무적으로 제거하도록 했다. 이를 지속적으로 위반하면 가입국에서 퇴출하는 등 강경하게 대응한다. 미국도 SNS 사업자를 규제하는 방안을 논의하는 중이다. 특히 대선을 앞둔 상황에서 극단주의와 인종차별 등 부정적인 콘텐츠가 유통되는 것을 차단하기 위해서다. 문제가 된 콘텐츠를 제작·배포하는 것뿐만 아니라 이를 확산시킬 수 있는 플랫폼을 제공한 SNS 사업자에게도 합당한 책임을 물어 콘텐츠 규제를 강화하고 있다. 포린폴리시(FP)는 최근 “올해가 AI의 안전한 개발과 사용을 위한 규제를 부과하는 정부 거버넌스 위기를 극복할 수 있을 분수령이 될 것”이라고 평가했다. 미 플로리다, 사우스캐롤라이나, 뉴햄프셔를 비롯한 여러 주에서 선거 캠페인 영상에 AI 사용을 규제하는 법안, 특히 딥페이크 기술을 이용해 후보자의 목소리와 얼굴을 악의적인 방식으로 합성하거나 조작하는 것을 규제하는 법안을 검토하고 있다. 미 싱크탱크인 ‘브레넌 정의센터’는 지난해 11월 발표한 보고서에서 “민주주의의 실험실이라 불리는 주의회에서 AI의 위협에 대처하는 방법에 대해 영감을 줄 수 있을 것”이라고 썼다. AI 연구 선도자이자 구글 딥마인드의 공동 창업자인 무스타파 술레이만은 새 저서 ‘다가오는 물결’에서 “AI를 통제하는 것은 거의 불가능하다”고 주장했다. 술레이만은 AI의 결함이 발생하는 이유를 정부가 파악해야 하고 AI가 폭주할 때 전원을 끌 수 있는 제동장치를 마련해야 한다고 썼다.이언 브레머 스탠퍼드대 교수는 지난해 포린어페어스 기고문에서 “AI는 기존 세계 권력의 구조를 뒤흔들고 어떤 경우에는 권력을 공고히 할 수 있다”면서 “민주주의 국가에서 개인정보를 동의 없이 무분별하게 수집해 상업적으로 활용하는 속도는 더 빨라지고, 권위주의 정부가 사상과 표현의 자유를 억압하는 도구로 악용될 수 있다”고 지적했다. 이어 “AI를 규제하지 않으면 국가는 민주주의를 유지하고 공공재를 제공해야 한다는 사회적 합의의 정당성을 잃는다”고 경고했다. AI가 제멋대로 만들어 낸 ‘환각 현상’과 허위조작정보의 위협에 맞서기 위해서는 전통적으로 민주주의 사회 공론장에서 ‘팩트체커’ 구실을 해 온 레거시미디어의 역할이 강조된다. 아서 설즈버거 뉴욕타임스 발행인은 컬럼비아저널리즘리뷰 기고문 ‘저널리즘의 본질적 가치’에서 “언론은 새롭게 취재한 사실을 다양한 방식으로 교차 검증하는 게이트키핑 시스템을 지키고, 공정과 이해충돌 방지 원칙을 준수했는지, 편견과 차별의 관점을 걸러 냈는지 프로세스를 거친다”면서 “잘못된 정보가 민주주의의 근간을 흔드는 이 시대에 언론이야말로 세상에 꼭 필요한 자양분”이라고 강조했다. 크렙스·크리너 교수의 강조점은 문해력 향상이다. 이들은 “안타깝게도 인터넷 세상은 거대한 확증편향 기계”라며 “객관적 사실을 포기하거나 뉴스에서 사실을 분별하는 능력을 포기하면 민주주의 사회가 기반해야 하는 신뢰가 무너질 수 있다”고 꼬집었다. 이어 제대로 걸러진 미디어를 통한 디지털 리터러시(지식과 정보를 이해하는 능력)의 필요성을 언급하며 “시민들이 다양한 언론 매체를 ‘신뢰하되 검증하는 방식’으로 콘텐츠의 진실성을 가리는 눈과 가짜뉴스를 맹신하지 않는 비판적 사고력을 길러야 한다”고 부연했다.

이광재 전 국회 사무총장이 3일 자신의 역점사업인 ‘AI(인공지능) 국회’와 관련해 “내년부터 작은 주제는 가능할 거고, 3년 정도 뒤부터는 상당 부분 가능하게 될 것”이라고 밝혔다. 이 전 이날 국회 본청 사무총장 집무실에서 진행한 서울신문과의 인터뷰에서 이같이 말하면서 “AI 국회는 전세계 국회에 수출할 수 있는 좋은 상품이 될 거고, 이게 상용화 되면 ‘민폐’를 끼치는 정치인들은 퇴출될 것”이라고 강조했다. 이 전 총장은 지난달 28일 총장직 임기에 마침표를 찍고 다시 더불어민주당의 품으로 돌아왔다. 노무현 전 대통령의 국회의원 시절 보좌관으로 정치 인생을 시작한 이 전 총장은 3선 국회의원, 35대 강원지사 등을 두루 역임했다. 지난 지방선거에서 당의 험지출마 요구에 따라 강원지사에 출마했다 고배를 마셨다. 사무총장직을 마무리짓는 소회에 대해서는 “공무원들이 국회도 혁신할 수 있다는 자신감을 가지게 된 점이 가장 큰 변화”라고 밝혔다. 이 전 총장은 이번 총선에 출마하며 정치 행보를 재개할 예정이다. 후보지로는 서울 종로와 홍성국 의원이 불출마를 선언한 세종갑 등이 거론된다. 이 전 총장은 “지난 지선 때 강원지사 출마도 낙선을 각오하고 임했듯이, 이번에도 ‘선당후사’ 정신으로 임하겠다. 이제부터 당과 소통을 시작할 것”이라면서 “(나의 희생은) 민주당 단결에 의미있는 역할을 하는 것”이라고 했다. 정당인으로 돌아온 만큼 윤석열 정부에 대한 비판도 날카로워졌다. 이 전 총장은 한동훈 비상대책위원장 임명에 대해 “이제 ‘윤핵관의 시대’가 가고 ‘윤검핵관의 시대’가 왔다. 직할 체제가 된 것”이라면서 “코로나 때보다 살기 어려워졌고 엑스포 참사 등 외교에 무지했는데 아직도 야당 탓만 한다”고 일갈했다. 민주당이 총선에서 승리하기 위한 조건으로는 단합과 쇄신, 경제·외교 등에서 능력있는 모습, 민주주의에 대한 단호한 모습 등 3가지를 제시했다. 민주주의에 대한 단호함에 대해서는 “윤석열 정부가 국민권익위원회 감사, 경찰국 신설 등으로 민주주의를 망가뜨렸는데 전현희 전 권익위원장, 류삼영 총경 등을 국회에 진입시켜 단호하게 맞서야 한다”고 부연했다. 민주당 내 원심력이 커져가는 상황에 대해 “이재명 대표를 선출된 대표로서 인정하는 게 필요하다”면서도 “한편으로는 이 대표가 재판 때문에 선거가 본격화되면 (직을 온전히 수행하기) 어려운 것도 현실”이라고 덧붙였다. 다음은 일문일답.-지난 1년 5개월간 국회 사무총장직을 맡았는데 소회가 어떤가. 업적으로 내세울 점과 아쉬운 점은? “국회가 국민의 집이 돼야 하는데, 공직자들이 자신감을 가지면서 일하게 됐다. 그 배경에는 법을 바꿔 가면서 일을 했던 것이 있다. 대표적인 게 유튜브 중계 시스템을 만들기 위해 방송법을 개정한 것이다. 1년에 1400개 정도 세미나가 열리는데 이걸 중계하고, 또 지역 케이블 TV까지 연결하면 누가 일을 하는지 안 하는지 알 수 있지 않겠나. 강변서재라는 카페를 국회에 만든 것도 사례다. 다들 안 된다고 해서 9번 유찰됐는데 결국 직영으로 성공했다. 아쉬운 점은 국민들의 삶의 질이 정치인의 성적표가 돼야 하는데 지금 코로나 때보다 살기 어렵다고 한다. 정치인의 성적표를 매기지 못한 게 아쉽다.” -‘AI(인공지능) 국회’는 언제, 어떻게 현실화 되나. “AI 국회의 핵심은 국회에서 특정한 주제가 있으면 그와 관련된 모든 속기록, 기사, 연구 논문, 보고서 등을 한꺼번에 AI가 쟁점과 문제점, 다른 나라 사례들을 분석해주는 것이다. 정확한 의사결정을 내리는 데 도움을 주는 거다. 이걸 500억원 정도의 예산을 가지고 하는데 ISP(인터넷 서비스 사업) 예산은 이미 작년에 설계가 끝났고 올해 본격적인 예산 투입을 한다. 내년부터 작은 주제는 가능할 거고, 3년 정도 뒤부터는 상당 부분 가능하게 될 거다. 아마 전세계 국회에 수출할 수 있는 좋은 상품이 될 거다. 이게 상용화 되면 ‘민폐’를 끼치는 정치인들은 퇴출될 거다.” -‘일하지 않는 국회’를 해결 위해서 가장 시급한 과제는 무엇인가. “대통령실과 국회의 관계를 ‘수직 관계’가 아닌 ‘수평 관계’로 만드는 일이다. 지금 여당의 상황을 보면 대통령이 잘못해서 지지도가 떨어졌는데 여당 대표가 쫓겨나지 않나. 여당 대표한테 룸을 안 주면 사실상 국회에서 협상할 방법이 없다. 그리고 국회도 바뀌어야 한다. 상임위 중심주의를 확실하게 해서 상임위원장은 해당 상임위에 가장 오래 있었던 의원들 중에 투표로 결정하게 하고, 장관을 임명할 때 상임위원장도 한 명 정도 임명하게 해야 한다. 그러면 여야 모두 ‘세컨드 캐비넷’을 가지는 효과가 있다. 이렇게 상임위 중심주의가 강해지면 자기 실력만 쌓으면 되니까 대통령이 아니라 국민에게 충성하게 된다.” -국회 본회의를 할 때마다 법안이 한 번에 몇 백 건씩 통과되는 문제도 있는 것 같다. “프랑스, 독일, 영국 같은 나라들은 법안을 1년에 100개도 통과를 안 시킨다. 우리가 본회의와 상임위를 통틀어 회의를 500회 정도 하면 미국은 3000회를 한다. 그러면 회의는 적게 하고 법안은 많이 통과시키는 거다. 그리고 대부분의 나라에서는 법률을 본회의에서 독회(법안을 세 번으로 나누어 심의)한다. 뉴질랜드 같은 경우 국회는 법안을 한 번에 2개만 낼 수 있다. 하나는 상임위에 가거나 본회의를 통과해야 또 하나를 낼 수 있다. 그러면 본인 법안에 대해 신중할 수밖에 없다.” -선거제 개정 문제에 대해 조언이 있다면. “선거제 자체가 선악의 문제는 아니다. 단순 병립형으로 돌아가선 안되고 위성정당도 만들어선 안 된다. 비례대표를 어떻게 뽑을지가 중요한데 결국 좋은 인재들을 어떻게 가려내는지가 중요하다. 여러 정당, 국민들과 일종의 연대 회의를 만들어 결론을 내는 것도 좋은 방법일 듯하다. 정책연대가 필요하다. 그리고 지역갈등 구도를 극복하려면 수도권, 강원·충청, 경상·전라 이렇게 3개 권역으로 나눠서 비례대표를 선출하고, 거기에 석패율제를 도입하는 게 그나마 현실적인 안이다. ” -사무총장직을 수행하면서 협치를 위한 물밑 작업을 했다고 들었다. 극단의 정치를 해결하기 위한 방안에 대한 생각은? “정치인이 정치를 잘 하도록 해야 한다. 일자리가 줄었나 늘었나, 집이 사기 좋아졌나 나빠졌나 등의 기준을 가지고 대통령부터 1년에 한 번씩 평가를 받아야 한다. 회사에서도 1년에 한 번 평가 받는다. 손흥민 선수는 경기 끝나면 바로 평가가 나온다. 대학 평가도 한다. 이렇게 평가를 해놓으면 다른 일에 싸울 여유가 없다.” -종로 출마설, 세종 출마설 등이 무성하다. 아직 고민이 필요한 시기인가. “선당후사 정신으로 임할 거다. 강원지사 출마할 때도 낙선을 각오하고 나갔듯이. 현 정부에 대해서는 국민들이 아주 매운 회초리를 들어야 한다고 생각하고, 거기에 제가 의미있는 역할을 하고 싶다. 또한 민주당 단결에 의미 있는 역할을 해야 하지 않나 싶다.” -이낙연 전 대표의 이재명 대표 사퇴 요구 및 신당 움직임이 강화되고 있는데, 통합 해결책은 어떻게 마련해야 하나. “이재명 대표는 선출된 대표기 때문에, 이를 현실로 인정하는 게 우선 필요해 보인다. 한편으로는 이 대표가 재판 때문에 선거가 본격화되면 (직을 온전히 수행하기) 어려운 것도 현실이다. 민주당의 가장 큰 과제가 단결과 변화다. 이재명 대표도 고심이 많기 때문에 김부겸·정세균 총리를 만나는 게 아닐까 싶다. 민주당의 가장 강력한 쇄신은 단합이고, 변화된 모습은 결국 경제와 외교에서 능력 있는 모습이고, 민주주의에서 단호한 모습을 보이는 것이 필요하다. 이 세 가지 기둥을 가지고 좋은 인물들을 공천해 가면서 선거를 해나가면 되지 않을까 싶다.” -정세균·김부겸 전 총리와 자주 소통한다고 들었는데, 전해주고 싶은 말이 있다면. “나라의 격이 떨어졌다, 바로 세워야 한다는 말을 많이 하신다. 이번에는 국민들과 힘을 합쳐서 총선에서 이겨야 한다, 민주당이 단결하고 변화할 것은 변화해야 한다는 말씀도 하신다. 한동훈 비대위원장은 겸손했으면 좋겠다. 윤석열 정권 심판론에 가장 큰 책임 있는 사람 중에 하나가 아닌가. 윤 대통령의 지지도 하락의 가장 큰 원인이 인사 참사 아닌가. 한 위원장이 법무부 장관 시절 야당 국회의원이랑 말싸움 한 것 말고 실질적으로 대한민국을 위해서 한 게 뭐가 있나. 이제 ‘윤핵관의 시대’가 가고 ‘윤검핵관의 시대’가 왔다. 직할 체제가 됐다. 국민들이 보기에 코로나 때보다 살기 어려워졌고 엑스포 참사가 발생했다. 정권을 잡은 지 2년이 됐고 국민들은 국정대전환을 요구하는데 아직 야당 탓만 하면 안 된다.”