생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별 표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽다는 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 제니퍼의 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다. 업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별 표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지 의무 등이 담겨 있다. 하지만 다음달 임시 국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”면서 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.

넷플 다큐에 AI 이미지 사용 논란무분별한 AI 활용에도 제한 없어“의무 규정 없다면 AI 제작 숨길듯”‘AI 기본법’ 1년 넘게 국회 계류중 생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽단 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다.업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 재연이 어려우면 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지의무 등이 담겨있다. 하지만 다음달 임시국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”며 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.

유럽 국가 가운데 중국에 가장 우호적인 독일이 중국 자본 투자를 규제하려던 계획을 축소하려 한다고 월스트리트저널(WSJ)이 28일(현지시간) 보도했다. ‘차이나머니’에 대한 장벽을 높이는 미국이나 유럽연합(EU)과 다른 노선을 찾은 모습이다. WSJ는 정통한 소식통의 말을 인용해 “현재 독일 정부가 추진 중인 외국인 투자 심사 법안이 ‘독일 경제에 타격을 줄 수 있다’는 우려가 커져 이를 완화할 것으로 보인다”고 전했다. 독일 경제부는 외국인 신규 투자 시 안보 위험을 심사하는 방안을 추진 중이다. 양자컴퓨팅 기술과 첨단반도체, 인공지능(AI), 핵심 인프라 관련 그린필드 투자 등이 대상이다. 그린필드 투자는 외국 기업이 투자 대상국에 직접 생산시설이나 법인을 세워 운영하는 것을 말한다. 여기에 더해 경제부는 핵심 기술 분야에서 독일 연구기관과 외국 파트너 간 협력 프로젝트 진행에 앞서 이를 심사하는 안도 제시했다. 협업 과정에서 중요 기술이 다른 나라로 빠져나가는 것을 차단하려는 취지다. 두 계획 모두 중국을 겨냥한 조치다. 그러나 소식통은 “중국의 투자와 협력 프로젝트를 심사하려는 규제안이 모두 폐기될 가능성이 높다”고 봤다. 새 법안이 중국의 독일 투자 심리를 위축시켜 경제에 악영향을 줄 수 있다는 내부 지적에 따른 것이다. 그간 독일은 중국 ‘개혁개방’ 정책의 최대 수혜국으로 꼽혀 왔다. 1970년대 말 덩샤오핑이 전 세계를 상대로 “중국에 투자해 달라”고 요청하자 위험을 무릅쓰고 가장 먼저 자본을 투자한 나라가 독일이었다. 이러한 ‘퍼스트 펭귄’ 행보 덕분에 독일의 자동차와 기계류, 소재 등은 중국에서 가장 인기 있는 제품으로 자리잡았다. 당시 경험을 토대로 독일 기업들은 ‘중국을 지나치게 두려워하면 손해’라는 인식이 강하다. 러시아산 에너지 및 자원 의존도가 높은 독일은 2022년 2월 우크라이나 전쟁 이후 서방의 대러 제재로 경제에 직격탄을 맞았다. 이런 상황에서 중국 자본까지 밀어낸다면 독일 경제는 더욱 나빠질 수 있다. 독일의 행보는 미국이나 EU의 방향성에 배치되지만 대중 규제가 외국 자본 유치를 원하는 정책 기조와 충돌하는 것도 피하고 싶어 한다고 WSJ는 설명했다.

유럽국가 가운데 중국에 가장 우호적인 독일이 중국 자본 투자를 규제하려던 계획을 축소하려 한다고 월스트리트저널(WSJ)이 28일(현지시간) 보도했다. ‘차이나 머니’에 대한 장벽을 높이는 미국이나 유럽연합(EU)과 다른 노선을 찾은 모습이다. WSJ는 정통한 소식통을 인용해 “현재 독일 정부가 추진 중인 외국인 투자 심사 법안이 ‘독일 경제에 타격을 줄 수 있다’는 우려가 커져 이를 완화할 것으로 보인다”고 전했다. 독일 경제부는 외국인 신규 투자시 안보 위험을 심사하는 방안을 추진 중이다. 양자컴퓨팅 기술과 첨단반도체, 인공지능(AI), 핵심 인프라 관련 그린필드 투자 등이 대상이다. 그린필드 투자는 외국 기업이 투자 대상국에 직접 생산시설이나 법인을 세워 운영하는 것을 말한다. 여기에 더해 경제부는 핵심기술 분야에서 독일 연구기관과 외국 파트너 간 협력 프로젝트 진행에 앞서 이를 심사하는 안도 제시했다. 협업 과정에서 중요 기술이 다른 나라로 빠져 나가는 것을 차단하려는 취지다. 두 계획 모두 중국을 겨냥한 조치다. 그러나 소식통은 “중국의 투자와 협력 프로젝트를 심사하려는 규제안이 모두 폐기될 가능성이 높다”고 봤다. 새 법안이 중국의 독일 투자 심리를 위축시켜 경제에 악영향을 줄 수 있다는 내부 지적에 따른 것이다. 그간 독일은 중국 ‘개혁개방’ 정책의 최대 수혜국으로 꼽혀왔다. 1970년대 말 덩샤오핑이 전 세계를 상대로 “중국에 투자해 달라”고 요청하자 위험을 무릅쓰고 가장 먼저 자본을 투자한 나라가 독일이었다. 이러한 ‘퍼스트 펭귄’ 행보 덕분에 독일의 자동차와 기계류, 소재 등은 중국에서 가장 인기 있는 제품으로 자리 잡았다. 당시 경험을 토대로 독일 기업들은 ‘중국을 지나치게 두려워하면 손해’라는 인식이 강하다. 러시아산 에너지 및 자원 의존도가 높은 독일은 2022년 2월 우크라이나 전쟁 이후 서방의 대러 제재로 경제에 직격탄을 맞았다. 이런 상황에서 중국 자본까지 밀어낸다면 독일 경제는 더욱 나빠질 수 있다. 독일의 행보는 미국이나 EU의 방향성에 배치되지만 대중 규제가 외국 자본 유치를 원하는 정책 기조와 충돌하는 것도 피하고 싶어한다고 WSJ는 설명했다.

23일(현지시간) 미국 의회가 중국산 동영상 플랫폼 틱톡의 미국 내 사업권을 매각해야 한다고 결정한 가운데 틱톡 1호 투자자는 미국 억만장자인 것으로 나타났다. 파이낸셜 타임스는 이날 비상장 무역회사인 서스퀘하나 인터내셔널 그룹을 운영하는 미국인 제프 야스가 10여년 전 틱톡의 모회사인 바이트댄스에 최초로 투자한 1호 투자자라고 보도했다. 야스는 베이징의 한 커피숍에서 냅킨에 그려진 아이디어를 보고 바이트댄스에 8만 달러(약 1억원)를 투자했다. 몇달 뒤 추가로 200만 달러를 투자해 바이트 댄스 창립자인 장이밍이 소셜 미디어 혁명을 시작하는 데 큰 도움을 주었다. 현재 야스가 설립한 서스퀘하나 인터내셔널 그룹은 바이트댄스의 지분 약 15%를 소유하고 있으며 가치는 약 400억 달러로 평가된다. 야스의 순자산 가운데 바이트댄스의 지분이 차지하는 비중은 상당한데 미중 갈등으로 그의 재산이 인질이 된 것이다. 공화당 지지자인 야스는 틱톡 규제 법안의 의회 통과를 앞두고 공화당 의원들에 대한 기부를 늘렸지만, 틱톡 법안은 결국 하원에 이어 상원까지 통과했다. 1987년 서스퀘하나 인터내셔널 그룹을 설립한 이후 야스는 2023년 말 기준 5000억 달러 이상의 가치로 회사를 키웠고, 2005년부터 중국 투자에 나섰다. 지난 20년 가까이 서스퀘하나 인터내셔널 그룹은 중국 벤처기업 350개 이상에 35억 달러 이상을 투자했다.미 의회는 자국 벤처 캐피탈리스트들의 투자 활동을 조사하고 있는데 이에 따라 실리콘 밸리 벤처 캐피탈 회사인 세쿼이아 캐피탈과 GGV 캐피탈 두 그룹은 중국에서 기술 투자를 철수하려는 압력에 대응하여 2023년에 사업을 분할하기로 결정했다. 야스는 중국 투자 사업을 분할하는 대신 틱톡 금지에 반대하는 상원의원 등에 대한 기부를 늘렸다. 한때 틱톡 금지에 찬성했던 도널드 트럼프 전 미국 대통령도 3월에 야스를 만나고 난 이후 “틱톡 규제가 페이스북과 인스타그램을 운영하는 메타에만 도움이 될 것”이라며 반대 입장으로 돌아섰다. 메타는 대선 불복 의회 폭동 사건을 계기로 트럼프 전 대통령의 계정을 중단시켰다가 2년 만에 복구시킨 바 있다. 트럼프 전 대통령은 야스와 틱톡 문제에 대해 논의한 적이 없다고 말했으며 야스의 대변인도 그가 트럼프에게 기부한 적이 없고 그럴 계획도 없다고 밝혔다. 또 중국 정부의 감시 활동을 맡거나 인공지능(AI)을 개발하는 중국 회사에는 투자하지 않았다고 강조했다.틱톡 규제 법안이 하원을 통과할 때 반대표를 던진 공화당 의원 15명 가운데 절반 이상의 최대 기부자는 야스가 운영하는 서스퀘하나 인터내셔널 그룹이었다. 틱톡은 미국 내 이용자만 1억 7000만명에 이르고 특히 10∼20대 사이에서 인기가 높다. 이날 상원에서 처리된 법안은 틱톡의 모기업인 중국기업 바이트댄스에 270일 안에 미국 내 사업권을 매각해야 한다고 규정한다. 틱톡의 미국 사업권 가치는 500억 달러 규모로 추산되며 인수자가 나타나기는 어려울 수 있다. 게다가 개인의 휴대전화에 깔린 틱톡 앱을 어떻게 사용할 수 없게 할지도 논란거리다. 바이트댄스가 법안에 반발해 소송을 제기하면 실제 틱톡 금지까지는 1년 이상의 시간이 걸릴 전망이다. 미 정치권은 바이트댄스가 중국 정부에 정보를 제공할 수 있다며 ‘국가 안보’를 내세워 틱톡 금지를 추진했다.

K이슈플랫폼은 사단법인 싱크탱크인 K정책플랫폼(이사장 전광우, 공동원장 정태용·박진)이 개최하는 월례 토론회이다. 다툼만 있고 해결이 없는 우리 사회에 합의를 통한 정책 방향을 제시한다는 목표로 기획됐다.의제: 인공지능(AI)에 대한 규제 수준규제론: 최은창 아밀라(Armilla) AI, AI 정책총괄자율론: 김윤희 법무법인 세종 파트너 변호사사회: 이경전 K정책플랫폼 이머징이슈위원장 (경희대 교수)원고: 박진 K정책플랫폼 공동원장 (KDI대학원 교수)기원전(BC)이 ‘Before 챗GPT’라 할 정도로 AI는 인류 문명에 엄청난 변화를 줄 것으로 기대를 모으고 있다. 그러나 이미 2014년에 영국의 물리학자 고 스티븐 호킹 박사는 “AI 발전이 인류의 생존에 중대한 위협이 될 수 있다”는 경고를 한 바 있다. 지난달 유엔총회는 안전한 AI 개발을 촉구하는 결의문을 채택했고 다음달에는 한국에서 AI 안전성 정상회의가 개최되는 등 AI 규제에 대한 국제적 논의가 활발해지고 있다. 정부도 AI 기본법안을 발의하는 등 나름의 대응을 보이고 있다. 그러나 글로벌 IT 공룡기업들 속에서 생존 여부조차 의문시되는 한국 AI 업계를 과도하게 규제해선 안 된다는 목소리도 있다. AI는 어느 정도로 규제돼야 하는가?1. 데이터 저작권 정책 저작권자의 거부권을 인정하면서 저작권 위반에 대한 처벌을 완화해야 한다. [사회] 지난해 12월 오픈AI사와 마이크로소프트(MS)는 미국의 뉴욕타임스(NYT)로부터 저작권 침해 소송을 당했습니다. 수백만개의 기사를 허락 없이 AI 모델 학습에 사용해 NYT에 손해를 끼쳤다는 내용입니다. 또한 스톡 포토 전문회사 게티이미지는 스태빌리티AI사에 마찬가지로 소송을 걸었죠. 웹 크롤링(web crawling)을 통한 텍스트·데이터 마이닝(TDM) 학습을 어디까지 허용해야 할까요.[자율] 소설가 지망생이 만 권의 책을 읽고 새로운 소설을 창작하는 것이 문제가 되지 않는 것처럼 AI도 공개된 데이터를 학습하는 것은 자유로워야 합니다. [규제] 저작물은 저작권자와 라이선스를 맺고 학습 데이터로 활용해야 합니다. 언론 등이 생산한 콘텐츠를 머신러닝에 무제한 허용하면 창작 동기가 약화될 것입니다. 챗GPT가 뉴욕타임스 유료 구독자만 읽을 수 있는 기사들을 학습해 99% 동일한 콘텐츠를 답변으로 내놓는다면 이는 공정이용(fair use)은 아니라고 봅니다. 저작권자에게는 자신의 저작물이 AI에 학습되지 않도록 거부할 수 있는 옵트아웃(opt out)이 보장돼야 하죠. [자율] AI 선진국에 한참 뒤처진 우리 기업이 데이터 학습 시 일일이 저작권자에게 허락을 받아야 한다면 이는 AI 혁신을 늦출 수 있습니다. 현실적이지도 않고요. 보수적인 일본도 이미 2018년에 저작권법을 개정해 “저작권자의 이익을 부당하게 침해하는 경우를 제외하면… 어떠한 방법으로든 이용할 수 있다”고 규제를 완화했습니다. AI로 새로운 저작물을 창작한다면 저작권을 부당하게 침해하는 것은 아니지요. [규제] TDM도 일부 허용할 필요가 있지만 기계적 정보 해석 목적에 한정해야 합니다. 저작권자의 옵트아웃 권리는 대립적 이해관계의 균형을 맞추는 방안이라고 봅니다. [사회] 저작권자의 거부권을 인정하면서 대신 저작권 위반에 대한 처벌을 완화하는 방안은 어떨까요? [자율] 하긴 사소한 저작권 위반은 발견하기도 어렵고 대형 사안이 문제이니 처벌 완화가 중요하지요. 분쟁 시 형사처벌을 제외하고 민사소송으로 해결하도록 하되 저작권자의 사용금지 청구를 못 하게 한다면 동의할 수 있습니다. [규제] 그 정도가 현실적일 것 같습니다. [사회] 공개된 데이터에 대해서는 합의가 이루어졌습니다. 비공개 데이터에 대해서는 저작권 주체의 데이터를 보관하는 데이터 뱅크를 설립하고 이 뱅크들이 저작권자를 대신해 AI사와 계약을 맺는 방식은 어떨까요? [규제/자율] 위탁에 대한 자율성이 보장되는 한 데이터를 보호하는 동시에 활용을 높이는 좋은 방안이네요. 2. AI 오남용 규제 AI 개발사의 기술적 표시 의무에 대한 사회적 합의 형성과 AI 사용 범죄 가중처벌이 필요하다. [사회] 딥페이크나 음성 복제를 통한 신원 도용과 사기 피해가 발생하고 있습니다. 이를 어떻게 규제해야 할까요. [규제] AI로 최고재무책임자(CFO) 얼굴을 복제한 후 화상 회의에서 송금 지시를 내려 사취한 사례가 홍콩에서 발생했죠. 이런 비대면 사기의 추적을 위한 규제가 필요합니다. AI로 생성한 이미지나 목소리 속에 암호화된 워터마크를 넣도록 의무화해 AI 사용 여부를 기록에 남겨야 합니다. [자율] 조영남씨의 그림 대작(代作) 소송에서 무죄 판결이 난 것을 기억하시죠? 대법원은 조영남씨에게 대작 화가의 존재를 고지할 의무는 없다고 판시했습니다. 앞으로 AI를 이용한 창작이 보편화될 텐데 그러한 명시 의무는 AI를 통한 창작활동을 위축시킬 수 있습니다. [규제] 워터마크 등 기술적 조치를 이용자가 아니라 AI 개발사에 의무화할 수 있지 않을까요? [자율] 의무화에 대한 사회적 합의를 형성한다는 정도면 동의할 수 있습니다. 사실 문제는 사기나 선거 여론조작 등 나쁜 의도를 가진 AI 사용자이지요. AI 활용 범죄에 대해서는 가중처벌할 것을 제안합니다. [규제] 동의합니다.3. 알고리즘 규제 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하자. [사회] 최근 유럽연합(EU)에서 인공지능 법률(EU AI Act)이 통과돼 앞으로 글로벌 인공지능 규범이 될 것으로 예상됩니다. 또한 미국에서는 알고리즘 책임법(Algorithmic Accountability Act)을 의회가 논의 중이지요. 이 법은 AI 알고리즘이 편향적 결과를 내지 않도록 기업들이 자체 감사와 보고를 하도록 요구합니다. AI 알고리즘은 어떻게 규제해야 할까요? [자율] 알고리즘의 의무적 공개는 민감한 영업비밀 등 기업의 지식재산권을 침해하는 결과를 가져옵니다. 사전 검열이 될 수도 있습니다. [규제] 경쟁이 존재하는 시장에서는 알고리즘의 편견과 차별이 스스로 교정될 수 있습니다. 그러나 경쟁이 없고 소비자와 사업자 간 엄청난 정보의 비대칭성이 있는 경우가 문제지요. 미국은 우리의 공정거래위원회에 해당하는 연방거래위원회(FTC)에서 가이드라인을 주고 있습니다. 중국에선 모든 AI 개발사들이 중앙정부에 알고리즘을 제출해야 하고 보안성 평가까지 통과해야 합니다. 중국 같은 과한 개입은 곤란하지만 그래도 알고리즘의 투명성을 위한 최소한의 조치는 필요합니다. [사회] 누군가의 감시가 필요하지만 정부의 직접 개입은 안 된다는 말씀이네요. 그렇다면 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하는 정도는 어떨까요? [규제/자율] 동의합니다. [사회] 끝으로 정부의 AI정책에 대한 건의를 해 주신다면. [규제] AI 관련 위험성 감축 노력이 AI 혁신 저해로 받아들여져서는 곤란합니다. 그러나 현재 정부가 구상하는 AI 관련 법률은 모호한 윤리원칙으로 가득 차 있습니다. 이렇게 되면 법안이 의미가 없거나 아니면 너무 광범위한 규제를 할 수 있습니다. 규제는 명확해야 합니다. [자율] AI에 대한 규제는 공직선거법, 성폭력처벌법 등 개별법에서 규정하는 것이 좋다고 봅니다. 이와 관련된 사회적 합의 형성이 필요합니다. [사회] 정부는 4월 초 다양한 이해당사자들이 참여하는 AI전략 최고위협의회를 구성했습니다. 이를 통해 구체적인 규제를 최소한으로 담는 법안을 만들기 바랍니다. 오늘의 논의가 그 기본틀이 됐으면 합니다.

싱가포르가 아시아 국가 최초로 ‘주 4일제 도입’으로 가는 첫 걸음을 뗐다. 오는 12월부터 노동자는 회사에 재택근무나 시차 출퇴근 등 다양한 방식의 근무를 요청할 수 있다. 경쟁국들은 기업의 비용 증가 등 부작용을 우려하면서도 싱가포르의 ‘성공 가능성’을 예의주시하고 있다. 21일 사우스차이나모닝포스트(SCMP)는 “지난 16일 싱가포르 노사정 연합이 올해 12월 1일부터 모든 직원이 고용주에 유연근무를 요청할 수 있도록 새 고용 지침을 마련해 발표했다”고 보도했다. 노동자가 출퇴근과 근무시간, 장소·형태를 자유롭게 선택할 수 있는 것이 골자다. 육아나 간병, 건강 등 ‘합당한 사유’가 있으면 누구나 신청할 수 있다. 하루 업무 시간을 조정해 일주일에 나흘만 일하는 것도 가능하다. 고용주가 정당한 이유 없이 이를 거절하면 싱가포르 인력부의 경고를 받고 관련 교육을 이수해야 한다. 이 때문에 싱가포르 매체들은 이번 조치를 ‘주 4일 근무 사회로 가는 첫 단추’로 평가한다. 노사정이 머리를 맞대고 주 4일 근무 지침을 만든 것은 젊은이들이 돈보다 유연한 근무 환경을 선호하기 때문이다. 홍콩 등과 ‘인재허브 경쟁’을 벌이는 싱가포르로서는 인공지능(AI) 전문가 등 최고급 두뇌들에게 자유로운 근무 환경을 제공하는 것이 국가 경쟁력 강화의 핵심이라고 본 것이다. 만성화된 저출산·고령화에 대응하려는 포석도 있다. 싱가포르에서는 2030년이면 전체 인구 4명 가운데 1명 꼴로 65세 이상이 된다. 고령의 가족을 돌보느라 취업하지 못하는 이들도 늘어날 것으로 예상된다. 고령화 추세 자체를 막을 순 없어도 근무 여건을 개선하면 장년층과 경력단절여성이 사회로 복귀할 수 있어 인력난을 완화할 수 있다는 계산이다. 주변국들은 싱가포르의 실험에 촉각을 곤두세우고 있다. 직원의 만족도가 높아질 순 있지만 기업 입장에서 인력 추가 채용으로 인한 비용 증가는 숙제다. 은행 등 일부 직무에서 고객 불만이 커질 것이라는 지적도 있다. 그럼에도 주 4일 근무의 매력 덕분에 글로벌 인재가 대거 싱가포르로 몰려 이런 우려를 모두 상쇄할 것이라는 전망도 나온다. SCMP는 “(싱가포르와 경쟁하는) 홍콩 등 아시아 국가에서 당장 주 4일 근무를 채택할 가능성은 낮다”면서도 “아시아 지역 고용주들은 (싱가포르의 실험을 통해) 현재의 업무 방식을 전면 재검토할 수 있는 기회를 갖게 됐다”고 평가했다. 싱가포르뿐 아니라 영국과 아일랜드, 호주, 일본에서도 주 4일 근무 도입을 검토 중이다. 미국의 대표적 진보 정치인 버니 샌더스 상원의원(무소속)도 지난 14일(현지시간) 주당 근로시간을 40시간에서 32시간으로 낮추는 내용의 법안을 발의했다. 글로벌 회계법인 KPMG의 최근 설문조사에 따르면 미 대기업의 30% 정도가 주 4일 또는 4.5일 근무제 도입을 고민하고 있다.

‘혁신의 아이콘’이었던 애플이 창사 이래 최대 위기에 처했다. 매출 비중이 높던 중국에선 이른바 ‘애국 소비’가 늘면서 고전을 면치 못하고 있으며, 미국과 유럽에선 반독점 규제에 직면한 상태다. 삼성전자가 갤럭시 S24로 쏘아올린 ‘생성형 AI(인공지능)’ 중심 산업에서도 뒤처졌다는 평가가 나온다. 지난 19일(이하 현지시간) 뉴욕 증시에서 애플 주가는 전장 대비 1.22% 하락한 165.00달러(약 22만 7000원)에 거래를 마쳤다. 올 들어 매그니피센트 7(애플, 아마존닷컴, 알파벳, 마이크로소프트, 메타 플랫폼, 테슬라, 엔비디아) 중 주가가 하락한 곳은 테슬라(-40.81%)와 애플(-11.12%) 단 두 곳뿐이다. 애플 주가가 지지부진한 이유는 글로벌 시장에서 애플의 입지가 좁아지고 있어서다. 시장조사업체 IDC에 따르면 올 1분기 전 세계 스마트폰 출하량(2억 8940만대) 중 애플이 차지하는 비중은 5010만대(17.4%)로 전년 동기 대비 9.6% 급감해 삼성전자(6010만대·20.8%)에 1위 자리를 내줬다. 중국 내 애국 소비 열풍이 불면서 아이폰 판매가 감소했기 때문인데, 시장조사업체 카운터포인트리서치에 따르면 올 1~2월 중국 내 애플의 출하량은 전년 동기 대비 33~39% 감소한 것으로 추산된다. 여러 나라에서 반독점 규제에 발목이 잡힌 것도 부진의 원인으로 꼽힌다. 지난달 21일 미국 법무부는 애플을 반독점법 위반으로 제소했는데, 애플이 아이폰을 중심으로 한 강력한 시장 지배력을 바탕으로 혁신을 제한하고 이용자에게 비싼 비용을 지불하도록 했다고 봤다. 유럽연합(EU) 역시 지난달 거대 플랫폼 사업자의 시장 지배력 남용을 방지하는 ‘디지털시장법’(DMA)을 시행하며 애플을 비롯한 빅테크 6곳에 대한 특별 규제에 나섰다. 최근엔 일본도 애플과 구글의 독점 행위를 규제하기 위해 ‘스마트폰 경쟁촉진법안’을 마련하기로 했다. 삼성전자에 생성형 AI 시장 주도권을 빼앗긴 애플은 하반기 출시될 차기 아이폰에 AI 기술을 탑재하기 위해 안간힘을 쓰고 있다. 업계 안팎에선 애플이 오는 6월 열리는 애플의 세계개발자회의(WWDC)에서 아이폰16에 들어갈 AI 기술을 언급할 것으로 보고 있다. 이 외에도 중국 의존도를 줄이기 위해 인도네시아와 베트남 등 새로운 아시아 시장으로 보폭을 넓히고 있으며, 최근 미 상표특허청(USPTO)에서 폴더블 관련 신규 특허를 획득하는 등 점유율 확대를 위한 활로를 모색하고 있다. 한편 애플은 국내에서 2022년 10월부터 지난해 9월까지 7조 5240억원의 매출과 5599억원의 영업이익을 올렸다. 전년 대비 각각 2.6%, 550% 증가했는데 10~20대의 아이폰 선호 현상으로 역대 최대 실적을 기록했다.

21대 국회 임기가 불과 6주 남은 가운데 무려 1만 6351개의 법안이 계류 중이다. 역대 최대로 법안을 폐기했던 20대 국회(1만 5125건)의 기록을 경신하지 않으려면 무려 1226개를 ‘땡처리’해야 한다. 특히 고준위방폐법·산업은행법 개정안·의료법 개정안·유통산업발전법 개정안 등 국민의힘과 더불어민주당이 지난해 12월 신속한 법안 처리를 위해 구성한 ‘2+2 협의체’의 협상 테이블에 올랐던 안건들조차 논의가 없다. 총선 내내 거대 양당이 외쳤던 ‘일하는 국회’가 헛구호라는 비판이 나온다. 17일 국회에 따르면 방사성폐기물을 안전하게 처리하기 위한 고준위방폐법, KDB산업은행의 부산 이전을 핵심 내용으로 하는 산업은행법 개정안, 비대면 진료를 제도화하는 내용의 의료법 개정안, 대형마트 영업 휴무일에 온라인 배송을 허용하는 유통산업발전법 개정안 등이 상임위원회에 계류 중이다. 이를 포함해 국민의힘이 2+2 협의체에 내놓았던 10개 민생 법안 중 민주당이 동의해 통과된 것은 ‘우주항공청 설치법’과 ‘개 식용 금지 및 폐업 지원 특별법’ 2개뿐이다. 민주당이 2+2 협의체에 제출했던 10개 법안도 모두 통과되지 않았다. 민주당은 이 중 ‘전세사기 피해구제 특별법’, ‘농수산물 유통·가격 안정법’, ‘가맹사업거래공정화법’ 등 3개 법안을 이번 국회 회기 내에 일방적으로라도 통과시키겠다는 입장이다. 이 외 정부가 추진하는 주요 법안도 국회 문턱을 넘지 못했다. 인공지능(AI) 기본법은 여전히 상임위에 계류 중이다. AI와 관련된 제품과 서비스를 우선 출시하되 규제는 이후에 하겠다는 ‘우선 허용·사후 규제’가 핵심이다. 정부가 ‘킬러 규제’로 선정한 산업입지법 개정안과 외국인근로자 고용법도 상임위에 계류된 상태다. 산업기술 유출 방지법 등 민생 법안들도 본회의 통과 가능성이 작다. 국회 의안정보시스템에 따르면 21대 국회에서 발의된 법안은 총 2만 5803개로, 이 중 1만 6351개가 계류 중이다. 여야는 통상 총선 후 마지막 본회의에서 법안을 무더기 통과시키지만 현실적으로 100여개를 통과시키는 것이 한계라는 게 정치권의 얘기다.

21대 국회 임기가 불과 6주 남은 가운데 무려 1만 6351개의 법안이 계류 중이다. 역대 최대로 법안을 폐기했던 20대 국회(1만 5125건)의 기록을 경신하지 않으려면 무려 1226개를 ‘땡처리’해야 한다. 특히 고준위방폐법·산업은행법 개정안·의료법 개정안·유통산업발전법 개정안 등 국민의힘과 더불어민주당이 지난해 12월 신속한 법안 처리를 위해 구성한 ‘2+2 협의체’의 협상 테이블에 올랐던 안건들조차 논의가 없다. 총선 내내 거대 양당이 외쳤던 ‘일하는 국회’가 헛구호라는 비판이 나온다. 17일 국회에 따르면 방사성폐기물을 안전하게 처리하기 위한 고준위방폐법, KDB산업은행의 부산 이전을 핵심 내용으로 하는 산업은행법 개정안, 비대면 진료를 제도화하는 내용의 의료법 개정안, 대형마트 영업 휴무일에 온라인 배송을 허용하는 유통산업발전법 개정안 등이 상임위원회에 계류 중이다. 이를 포함해 국민의힘이 2+2 협의체에 내놓았던 10개 민생 법안 중 민주당이 동의해 통과된 것은 ‘우주항공청 설치법’과 ‘개 식용 금지 및 폐업 지원 특별법’ 2개뿐이다. 민주당이 2+2 협의체에 제출했던 10개 법안도 모두 통과되지 않았다. 민주당은 이 중 ‘전세사기 피해구제 특별법’, ‘농수산물 유통·가격 안정법’, ‘가맹사업거래공정화법’ 등 3개 법안을 이번 국회 회기 내에 일방적으로라도 통과시키겠다는 입장이다. 이 외 정부가 추진하는 주요 법안도 국회 문턱을 넘지 못했다. 인공지능(AI) 기본법은 여전히 상임위에 계류 중이다. AI와 관련된 제품과 서비스를 우선 출시하되 규제는 이후에 하겠다는 ‘우선 허용·사후 규제’가 핵심이다. 정부가 ‘킬러 규제’로 선정한 산업입지법 개정안과 외국인근로자 고용법도 상임위에 계류된 상태다. 산업기술 유출 방지법 등 민생 법안들도 본회의 통과 가능성이 작다. 국회 의안정보시스템에 따르면 21대 국회에서 발의된 법안은 총 2만 5803개로, 이 중 1만 6351개가 계류 중이다. 임기 내 처리되지 못해 폐기된 법안은 17대 국회 3582건, 18대 7220건, 19대 1만 190건, 20대 1만 5125건 등으로 증가세다. 여야는 통상 총선 후 마지막 본회의에서 법안을 무더기 통과시키지만 현실적으로 100여개를 통과시키는 것이 한계라는 게 정치권의 얘기다.

과로사 및 고령화로 인한 일손 부족 현상이 고질적인 사회 문제로 꼽히는 일본에서 법정 근무시간을 넘는 시간외 근무(초과근무) 한도를 규제하는 정책이 1일(이하 현지시간) 시행됐다. 이 규정은 대학 병원 전공의와 건설 노동자, 운송업 종사자 등에게 적용된다. 공영방송 NHK와 니혼게이자이신문(닛케이) 등 현지 언론의 보도에 따르면, 일본 정부는 2019년 4월 법정 노동시간(주 40시간) 외 근무에 대해 월 45시간까지만 인정하는 규제를 시행했다. 다만 당시 의사와 건설 노동자, 운송업 종사자 등 세 가지 업종에 대해서는 5년간 유예기간을 부여했는데, 해당 유예기간이 끝나면서 잔업 규제 정책이 본격적으로 시작됐다. 본격적인 정책 시행에 따라 의사의 경우 휴일 근무를 포함한 상한은 연 960시간으로 제한된다. 단 응급실 등 지역 의료 체계를 유지하는데 필요한 업무는 노사 협의 및 지방자치단체의 지정 절차 등을 거치면 최대 연 1860시간까지 시간 외 노동이 가능하다. 이러한 조치는 대학 병원 전공의나 지역 의료를 담당하는 공공병원 의사들의 과도한 업무 부담을 줄이기 위한 것으로 해석된다. 실제로 지난 5년의 유예기간 동안 일본 의사들의 업무 환경은 크게 개선되지 않았다. 일본 후생노동성의 2022년 실태 조사에 따르면 시간 외 노동이 연 960시간 이상이라고 답한 상근의사 비율은 21.2%에 달했다. 일본 노동계, 과로사와 일손 부족 모두 문제…해결 방법은? ‘야근 왕국’이라는 오명이 있을 만큼 과로사 문제가 심각했던 일본은 오랫동안 근로자의 시간외 근무에 대한 별다른 지침이 없었다. 그러나 지나친 야근에 따른 과로사가 문제가 되자 2018년이 되어서야 ‘일본판 주52시간 근로제’에 해당하는 ‘일하는 방식 개혁’ 법안을 제정하고 2019년부터 시행에 들어갔다. 다만 해당 정책 시행 당시 정부가 의사와 건설 노동자, 운송업 종사자 등 세 가지 업종에 대한 근무시간 규제 유예를 결정한 것은 이 분야들의 일손 부족 현상이 심해 정책을 바로 적용하기가 어렵다고 판단했기 때문이다. 문제는 유예 기간이 끝난 현재도 일본 사회의 고령화 및 일손 부족 문제는 해결되지 않았다는 사실이다. 이에 의료계와 건설, 운송업 노동자들의 초과근무 상한 시간이 제한되면 일본 사회에 상당한 충격이 미칠 수 있다는 우려가 제기돼 왔다. 현지에서는 유예 기간이 끝나는 시점을 본 따 이를 ‘2024년 문제’라고 일컬어 왔다.정부와 기업은 유예 기간 종료를 앞두고 대책 마련에 나섰다. 먼저 운송업 분야의 경우, 일본 정부는 최장 5년간 외국인 노동자의 취업 체류를 허용하는 분야에 운송 등을 추가하기로 하고, 일부 운송 수요를 트럭에서 열차로 교체하고 자동화를 확대하는 방안 등을 내놓았다. 건설업계는 인공지능(AI)과 드론 등을 활용해 공사 기간과 관리에 투입되는 인력 및 시간을 줄이려는 노력을 시작했다. 의료계의 경우 시간이 오래 걸리는 병원 진료 기록 입력 등의 업무를 보조하는 인력을 충원하는 방안을 내놓았지만, 의사 증원 없이는 과도한 업무를 줄이긴 어려울 것이라는 지적은 여전하다. 경제협력개발기구(OECD) 조사에 따르면, 2021년 기준 인구 1000명당 의사 수는 한국과 일본 모두 2.6명(한국은 한의사 제외 시 2.2명)으로 같다. 일본 현지에서는 의사 증원을 목표로, 의사 및 의대생을 대상으로 하는 서명 운동 등이 이뤄지고 있지만 당장 구급 의료 체계가 축소될 것이라는 걱정의 목소리가 끊이지 않는다. 산케이신문은 이번 규제 시행을 두고 “국민 생활에 널리 영향이 미칠 것으로 보인다”면서 “이미 문제가 되는 인력 부족이 더욱 심화할 것으로 우려된다”고 내다봤다.

생성형 인공지능(AI) ‘챗GPT’ 개발사인 오픈AI가 사람 음성을 학습해 모방 음성을 생성하는 AI 도구 ‘보이스 엔진’을 개발해 공개했다. 최근 미국 테네시주가 AI가 사람 음성을 베끼는 것을 금지하는 일명 ‘엘비스(Elvis) 법안’에 미국 최초로 서명한 것과 맞물려 AI 음성이 이미지 생성과 마찬가지로 딥페이크(AI 가짜 영상·음성 조작물) 유포, 개인 정보 해킹 등에 악용될 우려가 제기되고 있다. 오픈AI가 지난 29일(현지시간) 공개한 보이스 엔진 사전실험 결과를 보면 실제 사람 음성 샘플과 이를 이용해 보이스 엔진으로 생성한 음성은 구분이 거의 힘들 만큼 비슷했다. 회사 측은 15초 분량의 음성 샘플만 있으면 이런 AI 음성을 만들어 낼 수 있다고 밝혔다. 언어 질환 환자용 치료 애플리케이션, 장애인 소통 기기에 지원된 이 도구는 동영상의 다국어 번역, 교육 음성 해설, 실시간 맞춤형 응답 등 광범위하게 상용될 수도 있다. 다만 오픈AI는 “현재로선 이 기술을 ‘미리 보여주기’(preview)만 하되 일반에 출시하진 않기로 했다”며 “인조 음성의 오용 가능성 때문에 조심스럽게 접근하고 있다”고 선을 그었다. 이어 “사람 목소리를 닮은 음성을 생성하는 것은 심각한 위험을 야기하며, 선거가 있는 해엔 특히 더 그렇다”면서 “우리는 미국과 해외 정부, 미디어, 시민사회 등과 협력해 피드백을 반영하기 위해 노력하고 있다”고 강조했다. 지난달 회사가 글을 동영상으로 바꿔 주는 AI ‘소라’를 개발했을 때와 동일한 우려가 불거지는 것을 사전에 차단하기 위한 포석이다. 실제로 올해 미 대선을 앞두고 지난 1월엔 뉴햄프셔주 프라이머리(예비선거) 전날 조 바이든 대통령을 사칭한 가짜 전화로 투표 거부를 독려하는 사례가 나오면서 음성 조작 우려가 현실화됐다. 뉴욕타임스(NYT)는 “이미지나 비디오 생성과 마찬가지로 음성 생성도 소셜미디어에 허위 정보를 퍼뜨리는데 도움이 될 수 있고 범죄자가 온라인이나 전화 통화에서 다른 이를 사칭할 수도 있다”고 지적했다. 이와 관련해 빌 리 테네시 주지사는 지난 21일 AI를 사용해 사람 목소리를 베끼는 것을 금지하는 엘비스 법에 미국 최초로 서명했다. 정식 명칭이 ‘초상·음성·이미지 보안 보장법’이지만 로큰롤의 제왕으로 군림한 엘비스 프레슬리의 이름으로 별칭이 붙은 건 사전 허가 없이 예술가 저작을 사용하는 것을 보호하기 위한 법안이기 때문이다. 테네시주는 로큰롤 탄생지인 멤피스, 컨트리 뮤직 본산인 내슈빌이 위치한 대중음악 산업의 메카로, 4500개 이상의 공연장, 6만 1000개 이상의 일자리로 한 해 수십억 달러를 창출하고 있다. 엘비스 법은 지역 핵심 산업이 AI로 타격받는 것을 막은 선제 조치인 셈이다. 리 주지사는 “AI가 나쁜 행위자들의 손에 넘어가면 대중음악 산업이 파괴될 수 있다”고 경고했다. AI업계 혁신을 주도하고 있는 오픈AI는 마이크로소프트(MS)와 1000억 달러(약 132조 6000억원)를 투자해 AI 슈퍼컴퓨터를 포함한 데이터센터 구축도 추진하고 있다. 오픈AI와 MS의 ‘스타게이트’는 6년짜리 프로젝트로, AI 모델 구동을 위한 슈퍼컴퓨터와 이를 위한 초대형 데이터센터를 조성하는 사업이다. 현존 최고 수준 데이터센터와 비교해 100배 이상 큰 규모라고 정보기술(IT) 전문매체 디인포메이션이 보도했다. 데이터센터에는 슈퍼컴퓨터 구동을 위해 특별 제작된 서버 칩 수백만 개가 들어간다. 생성형 AI 연산을 위해서는 그래픽처리장치(GPU) 같은 AI 반도체를 연결하고 대규모 데이터 처리 작업을 수행할 컴퓨팅 시스템이 필요하다. 데이터센터에는 여러 공급업체의 다른 칩을 사용할 것으로 알려졌다. 이는 샘 올트먼 오픈AI 최고경영자(CEO)가 AI 반도체 시장을 90% 이상 점유한 엔비디아에 대응해 ‘AI 반도체 동맹’을 구축하려는 행보와도 연결된다. 올트먼 CEO는 지난 1월 직접 한국을 찾아 삼성전자, SK하이닉스와 협력 방안을 논의했다. 이때 이재용 삼성전자 회장, 최태원 SK그룹 회장도 만난 것으로 알려졌다.

인공지능(AI)은 인류의 삶에 여러 가지로 영향을 미치고 있다. 일상에 사소한 영향을 미치는 것은 물론 크게는 현대 민주주의 제도의 작동에도 영향을 미치고 있다. AI가 인류의 풍요와 번영에 기여할 수 있도록 하기 위해서는 어떤 사회적 고민이 필요할지에 대해 본격적인 논의가 필요한 시점이다. 그런 점에서 이번에 서울에서 개최되는 ‘제3차 민주주의 정상회의’는 시의적절하면서도 중요한 행사다. 민주주의 정상회의는 미국에서 매년 개최되다가 이번에 처음으로 미국을 벗어나 우리나라에서 열리게 되었다. 올해 행사의 주제는 ‘AI·디지털 기술과 민주주의’로, AI를 포함한 새로운 디지털 기술이 민주주의에 어떤 영향을 미치는지 그리고 그에 대해 어떤 준비를 해야 할지를 여러 나라의 고위급 대표와 전문가들이 모여 깊이 있게 논의하는 기회가 될 것이다. AI 같은 새로운 기술은 사회적 도입 과정에서 흔히 불안감을 야기한다. AI를 이용한 가짜뉴스가 양산될 가능성이나 딥페이크 기술이 활용돼 왜곡된 이미지나 영상이 무분별하게 만들어지고 유포될 가능성을 두고 우려의 목소리가 제기되는 것이 대표적이다. 또 AI 기술이 개인 맞춤형 서비스의 고도화에 적극 활용되면서 소셜미디어(SNS) 이용자들이 극단적 시각이나 편향된 시각에 일방적이고 지속적으로 노출될 가능성에 대한 염려도 있다. 이런 문제는 AI가 민주주의 작동 과정에 악영향을 끼치는 부정적 요소로 작용할 가능성을 시사한다. 하지만 AI는 다양한 상황에 다양한 방식으로 응용되면서 민주주의가 원활하게 작동하는 데 도움을 줄 수도 있다. 예를 들어 이름이 잘 알려지지 않은 정치 신인이 자신의 정치적 견해를 유권자들에게 손쉽게 알리는 데 AI 기술이 적극 활용될 수 있다. 유권자의 시각에서는 AI 기술이 개별 정치인이나 정당의 정책적 입장에 대해 빠르고 체계적으로 파악하는 데 도움이 될 수 있고, 더 나아가 서로 다른 정치인이나 정당 사이의 입장을 명확히 비교해 판단하는 데 활용될 수도 있다. 기존의 정치인이 어떤 의정 활동을 했는지 정리해 파악하는 데에도 AI가 도움을 줄 수 있다. 정치인의 법안 발의와 관련해서도 많은 고민이 담긴 새로운 법안의 발의를 위해 진지한 노력을 했는지, 혹은 그 반대로 ‘복사해서 붙여넣기’ 수준의 법안 발의를 주로 했는지에 관해 AI가 쉽게 요약해 알려 줄 수 있다. 이처럼 AI는 민주주의적 의사 결정 과정에서 다양한 역할을 수행할 수 있다. 그리고 그 영향은 부정적인 것일 수도, 긍정적인 것일 수도 있다. 우리 사회가 어떤 준비를 하고 어떤 대응을 하는지에 따라 AI는 민주주의에 도움이 될 수도, 저해 요소로 작동할 수도 있다. 이번에 열리는 민주주의 정상회의를 계기로 AI가 유용한 역할을 하는 밝은 미래를 위한 논의가 본격화되기를 기대한다. 고학수 개인정보보호위원장

한국언론진흥재단은 19일 서울 중구 세종대로 한국프레스센터 20층 국제회의장에서 ‘인공지능(AI) 시대 뉴스 저작권 포럼’ 발족식을 갖는다. 뉴스 저작권 보호와 생성형 AI 기술 등 디지털 환경 변화에 대한 대응 방안을 마련하기 위한 이 포럼은 한국신문협회·한국방송협회·한국기자협회·한국신문방송편집인협회·한국인터넷신문협회·한국온라인신문협회가 공동 주관한다. 6개 단체에서 추천한 언론계, 언론 유관기관, 학계 전문가들이 모여 법 제도 개선 및 지원 정책, 대가 산정 및 상생협력, AI 준칙 제정 분과를 구성한다. 각 분과는 AI 관련 뉴스저작권법 개정 법안 마련, 적정 대가 산정 모델 설계, 언론계 AI 활용 준칙 제정 등을 목표로 한다. 포럼에는 이대희 고려대 법학전문대학원 교수, 최봉현 한국전통문화대 교수 등 32명의 위원이 참여한다. 6개월간 분과별로 도출된 내용을 바탕으로 8~9월 대토론회를 진행할 예정이다.

마치 영화 ‘바이센테니얼맨’을 보는 듯한 일이 현실에서 일어나 전 세계가 충격에 휩싸였다. 미국의 휴머노이드 로봇 개발 스타트업인 ‘피규어AI’가 챗GPT 개발업체인 오픈AI와 협업해 만든 로봇 영상이 13일(현지시간) 공개되면서다. 영상 속 로봇 ‘피규어 01’에게 인간이 “지금 뭐가 보이냐”고 묻자 ‘피규어 01’은 “테이블 중앙에 있는 접시 위에 올려진 빨간 사과가 보인다”고 말한다. 이어 “뭐 좀 먹어도 되냐”고 묻자 “물론”이라고 대답하면서 사과를 집어 건넨다. 인공지능(AI)을 탑재한 로봇이 스스로 주어진 환경을 인식하고 판단해 상황에 맞는 행동을 취한 것이다. AI가 스스로 판단하고 행동할 수 있는 수준이 된다는 건 인간의 통제 범위를 벗어난다는 것을 의미한다. 미국 민간업체 글래드스톤 AI가 미 국무부 의뢰로 최근 발표한 보고서는 범용인공지능(AGI)의 위험성을 담고 있다. AGI는 인간과 유사하거나 그 이상의 능력을 지닌 ‘미래의 AI’를 말하는데, 최첨단 로봇과 AGI가 등장하면 인류에게 멸종 수준의 위협을 초래할 수 있다는 것이다. AGI의 진화 속도가 관건이다. 전문가들은 향후 5년 이내에 AGI가 나올 수 있다고 본다. AI를 악용한 딥페이크(Deepfake)가 범람하면서 AI 규제 움직임이 촉발된 것은 그나마 다행스럽다. 지난 1월 테일러 스위프트를 합성한 딥페이크 이미지가 소셜미디어 ‘X’(옛 트위터)를 통해 유포된 것이 AI 규제법 논의의 촉매제가 됐다. 미국 정치권에서도 민주당 뉴햄프셔주 경선 전날인 지난 1월 22일 조 바이든 대통령 목소리를 흉내 낸 로보콜(녹음된 음성이 재생되는 자동전화)이 무더기로 유포돼 혼란이 일었다. 발등에 불이 떨어진 인류에게 시간은 얼마 남지 않았다. 다행히 유럽연합(EU)은 세계 최초로 포괄적 AI 규제법을 마련해 13일(현지시간) 승인했다. AI 활용 분야를 총 4단계의 위험등급으로 나눠 차등 규제한다. 특히 AGI 개발 기업에 대해 ‘투명성 의무’를 부여하기로 했는데 초안에 없었다가 AI 오남용에 대한 우려로 추가됐다. 우리나라도 2021년 7월 정필모 더불어민주당 의원 등이 발의한 ‘인공지능기본법’ 이후 다수의 법안이 발의됐지만 논의는 제자리다. 딥페이크로 인한 피해는 이미 눈앞에 다가왔는데 너무 태평하다.

유럽연합(EU) 의회가 세계 최초로 ‘인공지능(AI)법’을 통과시켰다. EU 의회가 13일(현지시간) AI법을 통과시켰다고 블룸버그통신이 보도했다. 티에리 브레통 내부시장 담당 집행위원은 이날 성명에서 “유럽은 이제 신뢰할 수 있는 AI 분야에서 글로벌 표준을 제시하는 국가가 됐다”고 밝혔다. 이 법은 EU 27개 회원국이 각국 의회 비준을 거치고 EU 공식 관보에 게재되면 발효된다. 이 법은 AI가 인간의 편견을 재생산할 우려, 개인정보와 프라이버시권이 침해될 위험 등을 방지하기 위해 만들어졌다. 예를 들어 직장과 학교에서 개인의 감정을 감지하는 데 AI를 사용하는 것을 금지하고 직원 채용 시 입사 지원서를 분류할 때 AI 사용을 금지한다. 블룸버그는 “챗GPT 출시 이후 초국적인 개발 붐이 일고 있는 생성형 AI에 관한 최초의 규제법”이라면서 “미국에서 아직 AI법이 마련되지 않은 상황에서 서방 세계에서 AI법에 관한 기준을 제시했다”고 평가했다. 이 법은 지난해 12월 EU 관계자들이 35시간이 넘는 마라톤 협상 끝에 잠정 합의에 도달한 뒤 지난 3개월간 계속 논란을 빚었다. 빅테크 기업들은 EU의 AI 규제가 너무 지나치다고 반발하는 반면 이들을 감시하는 시민단체는 규제가 충분치 않다고 토로해 왔다. 지난해 12월 법안 통과가 임박하자 프랑스와 독일 정부는 “자국의 AI 스타트업인 ‘미스트랄 AI’, ‘알레프 알파’와 같은 유럽 AI 스타트업이 국제 경쟁력을 잃을 것”이라며 법안 통과에 반대했다. 이 법 초안 작성에 핵심 역할을 한 카이 제너 유엔 AI 정책 고문은 “EU 입법자가 또 놀아났다”고 쏘아붙였다. 시민단체 유럽기업관측소도 “범용인공지능(AGI)에 대한 규제는 대부분 빠졌고, 투명성 의무 몇 가지만 준수하면 되는 수준”이라고 비판했다. 반면 싱크탱크 카네기 유럽의 랄루카 세르나토니 연구원은 “미국과 중국에 비해 절대적 투자가 부족한 상황에서 강한 규제까지 더해지면 AI 기술 패권 경쟁에서 주도권을 쥐려는 EU의 야망은 좌절될 가능성이 높다”고 지적했다.

힌두 국수주의 성향의 나렌드라 모디 인도 정부가 총선을 앞두고 ‘반(反) 무슬림’ 논란에 휩싸였던 시민권 개정법(CAA) 도입을 강행했다. 12일(현지시간) BBC 방송 등에 따르면, 인도 정부는 전날 성명을 통해 시민권 개정법 시행에 들어간다고 밝혔다. 이 법은 파키스탄과 아프가니스탄, 방글라데시 등 3개국에서 종교적 박해를 피해 2014년 12월 31일 이전에 인도로 건너와 불법 체류 중인 힌두교도와 불교도, 기독교도 등 6개 종교 신자에게 인도 시민권 획득의 길을 열어줬다. 그러나 여기에 이슬람교도(무슬림)가 빠지면서 소수 집단과 대학생 등이 크게 반발했다. 2019년 해당 법안이 의회를 통과하자 수도 뉴델리를 비롯한 전국 곳곳에서 항의 시위가 벌어졌다. 시위 참가자들은 경찰과 격렬하게 충돌했고 이 과정에서 수십 명이 숨졌다. 이에 인도 정부는 시행을 보류해오다가 이번에 이를 발표한 것이다.당시 시위에는 인도 내 여러 종교 관계자들이 두루 합류했고, 이들은 해당 법이 인도 헌법의 토대인 ‘세속주의’를 훼손한다고 주장했다. 세속주의는 사회 제도나 그 운영 등에서 종교적 영향력을 제거하고, 세속과 종교 각각의 독립적인 영역을 구분하고 인정하자는 주장이나 견해를 말한다.특히 2억명에 달하는 무슬림 측은 정부가 자신들을 소외시키는데 이 법 등을 이용할 수 있다는 우려를 나타냈다. 모디 정부는 주변국에서 인도로 피신한 종교적 소수자에게만 시민권을 주는 것으로 인도 시민에게는 악용되지 않을 것이라며 시민권 개정법이 인도주의적 내용을 담은 것이라고 항변해왔다. 이번 법 시행과 관련해서도 집권 인도국민당(BJP)은 오랫동안 요구해온 사안이 실현되게 됐다며 환영했다. 하지만 연방의회 제1야당 인도국민회의(INC)는 정부가 총선 직전에 법 시행을 발표한 것은 표심을 양극화하려는 속셈이라며 비판했다. BJP가 법 시행으로 인구의 80%를 차지하는 힌두교도를 결집, 4∼5월 총선에서 유리한 고지를 차지하려 한다는 것이다. 인권단체 국제앰네스티(AI) 인도지부도 성명을 통해 해당 법은 차별적인 것으로 “평등이라는 헌법 가치뿐 아니라 국제인권법에도 위배된다”고 지적했다. 모디 총리는 이번 총선에서 3연임을 노리고 있다.

‘AI 임재범’ 뉴진스 커버도 73만회가수 동의 없이 ‘2~3분’ 만에 제작목소리 주인에게 수익 배분 안 돼저작인접권 침해여부 판단 어려워저작권협 “저작물 활용 표기해야”법조계 “수익 없어도 분쟁 소지” “달디달고 달디달고 달디단 밤양갱 밤양갱~” 귓가에 계속해서 맴도는 멜로디와 흥미로운 가사로 인기를 모으고 있는 가수 비비의 ‘밤양갱’이라는 노래는 최근 소셜미디어(SNS)에서 폭발적인 인기를 끌고 있다. 이 노래가 화제가 된 배경 중 하나는 생성형 인공지능(AI) 기술로 만들어진 가수 고 김광석, 백예린, 만화 캐릭터인 보노보노 등 다양한 이들의 목소리가 담긴 이른바 ‘AI 커버곡’이 대거 등장해서다. AI 커버곡은 AI가 실제 가수 목소리를 학습해 멜로디 위에 입히는 방식으로 만들어진다. 유튜브 등 SNS에서 AI 커버곡이 인기를 끌면서 5일 기준 아이유가 부른 밤양갱 AI 커버곡 영상은 조회수가 44만회를 기록했다. 앞서 프레디 머큐리의 목소리로 커버된 아이유의 ‘내 손을 잡아’는 131만회, 임재범의 목소리로 커버된 뉴진스의 ‘Hype Boy’는 조회수가 73만회나 됐다. 하지만 아이유의 목소리를 입힌 ‘밤양갱’으로 수익이 발생해도 정작 목소리의 당사자인 아이유는 1원도 가져가지 못한다. AI 커버곡 제작 과정에서 학습에 활용된 목소리의 주인공인 가수에게는 수익을 배분받을 수 있는 저작인접권이 인정되지 않아서다. 창작된 표현을 보호하는 저작권은 아니지만 가수나 연주자 등 실연자나 음반 제작자, 방송사업자는 저작권에 준해 보호되는 저작인접권을 갖는다. 실제 가수가 다른 가수의 노래를 리메이크한 음악에 대한 수익은 노래를 부른 실연자에게도 분배되지만 AI 커버곡은 목소리의 주인공과 수익을 나누지 않는다. AI 커버곡의 목소리는 원곡 가수의 목소리로 인정하지 않기 때문이다. 황선철 한국음악저작권협회 사업2국장은 “AI 커버곡을 만들기 위한 학습 단계에서는 저작인접권 침해 우려가 있지만 AI 커버곡 완성본에는 해당 가수의 음원 원본이 더이상 남아 있지 않아 저작인접권이 침해됐다고 보기 어렵다는 견해가 많다”고 말했다. 강진석 변호사도 “AI 커버곡은 가수의 음성에 부여되는 인격권을 침해해서 손해배상이나 사용금지 청구를 고려할 수 있다”면서도 “하지만 커버곡이 공유되는 유튜브가 잘 협조하지 않아 커버곡 제작자를 찾는 과정 자체가 쉽지 않다”고 설명했다. 국내에선 아직 AI 커버곡에 자신의 목소리가 쓰이는 것에 대한 반대나 우려 의견을 낸 가수는 없지만, 미국에서 래퍼 드레이크와 위켄드가 협업한 것으로 알려진 노래가 AI 커버곡으로 밝혀지면서 두 사람의 소속사가 이 노래에 대한 게재 금지를 요청한 일이 있었다. AI 커버곡 제작 프로그램을 제공하는 업체의 저작권 침해 우려가 크다는 지적도 나온다. 업체들이 제공하는 프로그램을 사용, 음성 학습을 위한 노래와 커버할 원곡 파일만 올리면 2~3분 만에 온라인에서 자동으로 커버곡을 만들 수 있다. 박정훈 한국저작권위원회 선임연구원은 “실연자나 저작권자의 권리가 침해될 수 있다는 사실을 알면서도 프로그램을 제공한 것”이라면서 “어느 정도로 영리성을 추구했는지에 따라 방조 책임이나 간접 책임을 질 수 있다”고 말했다. 대부분의 AI 커버곡 제작자들은 음원 제작자의 동의 없이 무단으로 커버곡을 만든다. 이런 상황에서 목소리의 주인공인 가수의 저작인접권이 제대로 보호받기 어려운 만큼 창작자와 노래를 부른 가수의 권리 등에 대한 명확한 규정이 필요하다는 지적이 나온다. 지난해 12월 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시키기도 했다. 국내에서는 한국음악저작권협회가 ‘생성형 AI 콘텐츠 표기 의무화법’ 도입의 필요성을 주장하며 지난 1월 국회 공청회를 열었다. 한국음악저작권협회는 “AI 생성물 여부와 AI 커버곡 제작에 어떤 저작물이 활용됐는지 표기를 의무화하는 입법이 시급하다”고 밝혔다. 반면 AI 커버곡 제작은 ‘공정 이용’에 해당한다는 의견도 있다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정 이용으로 본다. SNS에 AI 커버곡을 만들어 올리는 제작자들은 ‘커버곡으로 음원 수익을 창출하지 않는다’며 음원을 학습해 커버곡을 만드는 과정이 공익성을 일부 가지며 AI 산업 발전에도 기여하는 것이라고 주장한다. 이에 대해 이나래 변호사는 “수익을 창출하지 않았더라도 가수의 목소리를 학습 데이터로 무단 활용한 것은 법적으로 분쟁의 소지가 있다”고 지적했다.

“달디달고 달디달고 달디단 밤양갱 밤양갱~” 귓가에 계속해서 맴도는 멜로디와 흥미로운 가사로 인기를 모으고 있는 가수 비비의 ‘밤양갱’이라는 노래는 최근 소셜미디어(SNS)에서 폭발적인 인기를 끌고 있다. 이 노래가 화제가 된 배경 중 하나는 생성형 인공지능(AI) 기술로 만들어진 가수 고 김광석, 백예린, 만화 캐릭터인 보노보노 등 다양한 이들의 목소리가 담긴 이른바 ‘AI 커버곡’이 대거 등장해서다. AI 커버곡은 실제 가수가 부르지 않은 노래를 AI가 학습한 가수의 목소리로 재생성해 멜로디 위에 입히는 방식으로 만들어진다. 유튜브 등 SNS에서 AI 커버곡이 인기를 끌면서 5일 기준 아이유가 부른 밤양갱 AI 커버곡 영상은 조회수가 44만회를 기록했다. 앞서 프레디 머큐리의 목소리로 커버된 아이유의 ‘내 손을 잡아’는 131만회, 임재범의 목소리로 커버된 뉴진스의 ‘Hype Boy’는 조회수가 73만회나 됐다. 하지만 아이유의 목소리를 입힌 ‘밤양갱’으로 수익이 발생해도 정작 목소리의 당사자인 아이유는 1원도 가져가지 못한다. AI 커버곡 제작 과정에서 학습에 활용된 목소리의 주인인 가수에게는 저작인접권이 인정되지 않아서다. 창작된 표현을 보호하는 저작권은 아니지만 가수나 연주자 등 실연자나 음반제작자, 방송사업자는 저작권에 준해 보호되는 저작인접권을 갖는다. 실제 가수가 다른 가수의 노래를 리메이크한 음악에 대한 수익은 노래를 부른 실연자와 노래를 만든 저작권자에게 모두 분배되지만, AI 커버곡은 목소리의 주인공과 수익을 나누지 않는다.황선철 한국음악저작권협회 사업2국장은 “AI 커버곡을 만들기 위한 학습 단계에서는 저작인접권 침해 우려가 있지만 AI 커버곡 완성본에는 해당 가수의 음원 원본이 더이상 남아 있지 않아 저작인접권이 침해됐다고 보기 어렵다는 견해가 많다”고 말했다. 강진석 변호사도 “AI 커버곡은 가수의 음성에 부여되는 인격권을 침해해서 손해배상이나 사용금지 청구를 고려할 수 있다”면서도 “하지만 커버곡이 공유되는 유튜브 등이 잘 협조하지 않아 커버곡 제작자를 찾는 과정 자체가 쉽지 않다”고 설명했다. 국내에선 아직 AI 커버곡에 자신의 목소리가 쓰이는 것에 대한 반대나 우려 의견을 낸 가수는 없지만, 미국에서 래퍼 드레이크와 위켄드가 협업한 것으로 알려진 노래가 AI 커버곡으로 밝혀지면서 두 사람의 소속사가 이 노래에 대한 게재 금지를 요청한 일이 있었다. AI 커버곡 제작 프로그램을 제공하는 업체의 저작권 침해 우려가 크다는 지적도 나온다. 업체들이 제공하는 프로그램을 사용하면 온라인에서 음성학습을 위한 노래와 커버할 원곡 파일만 올리면 2~3분 만에 자동으로 커버곡을 만들 수 있다. 박정훈 한국저작권위원회 선임연구원은 “가수나 연주자 등 실연자나 저작권자의 권리가 침해될 수 있다는 사실을 알면서도 프로그램을 제공한 것”이라면서 “어느 정도로 영리성을 추구했는지에 따라 방조 책임이나 간접 책임을 질 수 있다”고 말했다.대부분의 AI 커버곡 제작자들은 음원 제작자의 동의 없이 무단으로 커버곡을 만든다. 이런 상황에서 목소리의 주인공인 가수의 저작인접권이 제대로 보호받기 어려운 만큼 창작자와 노래를 부른 가수의 권리에 대한 명확한 규정이 필요하다는 지적이 나온다. 지난해 12월 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시키기도 했다. 국내에서는 한국음악저작권협회가 ‘생성형 AI 콘텐츠 표기 의무화법’ 도입의 필요성을 주장하며 지난 1월 국회 공청회를 열었다. 한국음악저작권협회는 “AI 생성물 여부와 AI 커버곡 제작에 어떤 저작물이 활용됐는지 표기를 의무화하는 입법이 시급하다”고 밝혔다. 다만 SNS에 AI 커버곡을 만들어 올리는 제작자들은 ‘커버곡으로 음원 수익을 창출하지 않는다’며 음원을 학습해 커버곡을 만드는 과정이 AI 산업 발전에 기여하는 것이라고 주장한다. 이에 대해 이나래 변호사는 “수익을 창출하지 않았더라도 가수의 목소리를 학습 데이터로 무단 활용한 것은 법적으로 분쟁의 소지가 있다”고 지적했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).