넷플 다큐에 AI 이미지 사용 논란무분별한 AI 활용에도 제한 없어“의무 규정 없다면 AI 제작 숨길듯”‘AI 기본법’ 1년 넘게 국회 계류중 생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽단 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다.업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 재연이 어려우면 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지의무 등이 담겨있다. 하지만 다음달 임시국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”며 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.

“남편이 바람 났는데 남편 회사에 말해도 되나요?”, “협의 이혼 중 배우자 통장에서 돈 빼도 되나요?”, “이혼할 때 애 셋을 어떻게 나눠야 할까요?” 리걸테크 스타트업 로앤굿이 지난달부터 시행 중인 법률 인공지능(AI) 챗봇 서비스 ‘로앤서치’에 들어온 질문들이다. 변호사에게 직접 묻기 부담스러운 내밀한 사생활에 대한 법률자문이 적잖다. 이용자들은 AI에 이런 질문을 입력한 후 참고 가능한 법규와 소송 절차 등을 무료로 조언받을 수 있다. 법조계에선 최근 등장한 이런 ‘AI 무료 법률 상담 서비스’가 의뢰인의 선택권을 넓히고 이용을 도울 수 있다는 평가가 나온다. 하지만 대한변호사협회(대한변협)은 AI가 변호사 업무를 대행하는만큼 현행법 위반이라며 징계까지 예고한 상태다. 법률시장에서 AI 서비스를 어디까지 수용할 수 있을 지 관심이 쏠리는 이유다 29일 법조계에 따르면 현재 운영 중인 AI 법률 상담 서비스는 로앤굿의 ‘로앤서치’와 법무법인 대륙아주의 인공지능 서비스 ‘AI대륙아주’이다. 비대면 AI 상담인인만큼 말 못 할 고민도 쉽게 자문받을 수 있어 지난달 출시 후 인기를 끌고 있다. 실제 소송 준비를 위한 변호사도 추천 받을 수 있다. 성폭력처벌법 위반 혐의 고소를 준비했던 30대 직장인 A씨는 “소송을 해본 적이 없어 막막했는데 AI 서비스로 기본적인 사항을 확인하고 변호사 상담을 연계해 받을 수 있어 편리했다”고 말했다. 리걸테크 스타트업 관계자는 “AI가 법률 서비스는 변호사의 영역을 침범하는 것이 아니라 오히려 의뢰인들의 법률 서비스 접근 장벽을 허물어 시장 확대에 기여할 것”이라고 말했다. 하지만 대한변협은 AI대륙아주에 대해 징계 절차에 착수했다. 변호사법 34조에 따르면, 변호사가 아닌 자의 법률 사무수행 및 이익 분배를 금하고 있는데 AI를 변호사로 보기 어렵다는 이유에서다. 변협 측은 이 서비스와 관련한 변호사 광고 규정 위반, 의뢰인 개인정보 유출 등으로 인한 변호사법 위반 가능성도 들여다보고 있다. 변협 측은“로앤굿 등 다른 스타트업 AI 상담도 포괄적으로 예의주시 중”이라고 밝혔다. 대륙아주 측은 “AI 서비스 이용자들에게 실제 의사 결정에 필요한 법률상담은 변호사와 하라는 취지의 안내를 하고 있다”며 문제가 없다고 반박한다. 또 ’24시간 무료 상담’이라는 표현이 변호사 광고 규정 위반 소지가 있다는 변협의 지적에 따라 이를 홈페이지에서 삭제하고, 공식 명칭도 법률상담 대신 ‘법률 Q&A’로 바꿨다. 변협 징계가 확정되고 대륙아주가 이를 거부하면 최종 판단은 법무부 징계위원회로 넘어간다. 전삼현 숭실대 법학과 교수는 “AI 법률 상담 서비스의 긍정적인 측면도 있어 무조건적인 반대보다는 구체적인 가이드라인부터 마련할 필요가 있다”며 “변호사 자격이 있는 사람에 한해 AI 서비스 개발이나 시행을 허가하는 등 시대 변화에 따른 논의가 필요하다”고 조언했다.

“치유의 유일한 길은 입 밖으로 (피해 사실을) 내뱉고 고발하는 것임을 믿는다.”아르헨티나의 뉴스 진행자가 생방송 도중 성폭력 피해 사실을 고백했다. 그는 아동 성폭력의 공소시효를 폐지해야 한다고 목소리를 냈고, 이에 용기를 얻고 시민단체에 도움을 요청하는 성폭력 피해자들의 사례가 늘고 있다고 현지 언론들은 전했다. 연합뉴스에 따르면 24일(현지시간) 로사리오 지역 유명 TV뉴스 앵커인 후안 페드로 알레아르트는 최근 ‘카날3’의 간판 뉴스 프로그램에서 “시청자 여러분께 제 이야기를 들려드리는 건 이번이 처음”이라며 “저는 가족들에게서 아동 성폭력을 당한 피해자”라며 생방송 30여분간 피해 사실을 고백했다. 6살부터 아버지와 삼촌의 성적 학대를 받았다는 그는 “아버지는 특히 인체면역결핍바이러스(HIV) 양성, 즉 후천성면역결핍증(AIDS·에이즈) 판정을 받았음에도 여동생에게까지 성적 학대를 했다”라며 중간중간 눈물을 보였다. 알레아르트는 이 사건을 공론화하기 전 경찰에 아버지와 삼촌을 고소했으며, 그의 부친은 피소된 사실을 알게 된 후 극단 선택을 했다. 로사리오국립대 교수였던 삼촌은 방송 직후 정직 처분을 받았다. 그는 “오래된 잔혹한 행위 앞에서 진실은 언제나 승리한다”라며 아동 성폭력 공소시효 폐지를 위한 입법화에 속도를 내줄 것을 요청했다. 시민단체 아랄마의 대표 역시 현지 매체인 파히나12 인터뷰에서 “아동 성폭력은 발생 당시에만 피해자에게 영향을 미치는 게 아니라, 그 후유증이 평생 남는 지속성 범죄”라며 “공소시효 적용을 받을 수 없고, 받아서도 안 된다는 뜻”이라고 강조했다. 아르헨티나 형법에는 성폭력 범죄 공소시효를 12년으로 규정하고 있다. 아동 성폭력의 경우엔 2015년 ‘피해자 시간 존중 법’으로 알려진 법률 개정을 통해 피해자가 고소한 시점부터 공소시효 시기를 계산하는 것으로 정했지만 소급 적용 여부에 대한 규정이 미비해 개별 사건마다 법관의 판단이 다른 상황이다.

‘金사과’ 기상이변에 생산 급감 탓농업 고령화·노동력 부족도 요인재배면적 줄이고 과수원 문닫아수입 문제는 신중하게 접근해야AI·빅데이터 등 첨단기술 융·복합기상 조건 등 통제·조정 농업으로英佛獨 농업인 150만… 韓 145만명숫자 줄이고 혁신농업 유도 필요 금(金)사과, 대파 파동에 이어 양배추와 참외 등 과일·채소 값이 치솟고 있다. 글로벌 투자은행 노무라증권에 따르면 올해 1분기(1~3월) 우리나라의 월평균 과일류 소비자물가지수(CPI) 상승률은 36.9%로 주요 7개국(G7)과 유로존, 대만 가운데 가장 크게 올랐다. 채소류 상승률도 10.7%로 가장 높았다. 이 같은 농산물 가격 급등은 지난해 이상 기후로 인한 작황 부진이 직접적인 원인이지만 농업 인구 고령화 등 구조적인 문제도 상황을 악화시킨 요인으로 꼽힌다. 대통령 소속 농어업·농어촌특별위원회 농어업분과위원장인 김한호(63) 서울대 농경제사회학부 교수를 지난 18일 만나 우리 농업의 현재와 미래에 대해 물었다.-사과 얘기부터 해야겠다. 통계청의 3월 소비자물가동향을 보면 사과 가격이 1년 전보다 88.2% 상승했다. 통계 작성이 시작된 1980년 1월 이후 역대 최대 상승폭이다. 배 가격도 87.8% 뛰었다. 왜 이렇게까지 올랐나. “지난해 봄 과일 개화기와 착과기에 냉해 피해가 있었고 여름에는 호우와 병해충 피해가 연달아 발생했다. 이 때문에 주요 과일 생산량이 크게 줄었다. 사과는 2022년 55만t에서 지난해 39만t으로, 배는 25만t에서 19만t으로 각각 30%와 27% 감소했다. 기상 이변으로 공급 규모가 급격히 줄어서 생긴 수급 불균형이 가격을 끌어올렸다.” -미리 대비할 수는 없었나. “우리나라는 기후 특성상 과일을 한철 생산해서 일년 동안 소비하는 구조다. 그 덕분에 저장기술이 매우 발달했다. 사과와 배 등 명절 제수용·선물용 과일은 수확기에 저장했다가 추석, 설에 맞춰 시장에 내놓는 패턴에 생산자와 소비자 모두 익숙하다. 지금까지는 이런 사이클을 잘 활용해서 수급을 맞출 수 있었다. 하지만 작년처럼 생산량이 3분의1이나 급감하면 대응하기가 쉽지 않다.” -사과를 수입하자는 주장도 있는데. “과일 등 농산물을 수입하려면 국제 협약과 국내법에 따른 과학적 검역 절차에서 아무런 위험 요소가 없다는 판정이 나야 한다. 수입 검역을 섣불리 풀었다가 외래 병해충이 유입될 경우 그 피해가 수백 년이 갈 수도 있다. 사과의 경우 미국, 호주, 뉴질랜드, 일본이 요청해 수입 검역 절차가 진행 중이다. 과학적으로 신중하게 접근해야 할 사안이다.” 사과 수입 논란과 관련해 지난 12일 이창용 한국은행 총재의 발언이 주목받았다. 이 총재는 물가 관련 질문에 “중앙은행으로서 제일 곤혹스러운 건 농산물 가격이다. 기후변화가 심할 때 통화나 재정 등 생산자 보호 정책을 계속할지 아니면 수입을 통해 문제를 해결할지 고민해 봐야 한다”고 말해 파장을 일으켰다. -한국농촌경제연구원에 따르면 올해 사과, 배, 감귤 등 6대 과일 재배 면적이 지난해보다 1.1% 줄었다. 특히 사과 재배 면적은 2033년까지 축구장 4000개 규모가 감소할 것으로 전망했다. “농업 인구 고령화와 노동력 부족 탓에 가격 전망이 좋아져도 재배 면적을 줄이거나 과수원 문을 닫는 현상이 벌어진다. 쌀은 파종부터 이앙, 수확까지 거의 모든 재배 과정이 기계화됐지만 과일은 기계화 비율이 30% 정도다. 사람 손으로 하는 일이 70%인데 고령 농업인에겐 과도한 노동력 요구다. 과일 재배를 기피할 수밖에 없다.” -어떻게 해야 하나. “근본적으로 과수 농법을 바꿔야 한다. 기술을 접목해서 기계화를 확산하는 방향으로 가야 한다. 기계 작업이 쉽도록 과일 나무의 형태를 바꾸면 노동력을 덜 들이고도 생산성을 높일 수 있다. 여러 개의 줄기에서 사과가 열리는 다축형 사과 재배가 대표적이다. 경북 지역 일부 농가에서 시범적으로 도입했고 정부도 연구개발 지원을 확대하고 있다.” -기후 변화로 인한 물가 상승을 의미하는 기후 인플레이션의 일상화에 대한 우려가 커지고 있다. 이에 대한 대응책은. “두 가지 방안이 있다. 기존 농업 시스템은 위축되겠지만 온난화된 기후에 맞는 새로운 작목을 개발해 우리 농업의 영역을 넓히는 기회로 활용하는 것이다. 다른 하나는 기상 상황과 자연환경 조건을 최대한 통제하고 조정하는 스마트 농업으로의 전환이다. 인공지능(AI), 빅데이터, 사물인터넷(IoT) 등 첨단 정보통신기술을 융·복합한 스마트팜이 기후 변화에 대응하고 생산성을 높이는 좋은 전략이 될 것이다. 정부도 이와 관련한 다양한 정책을 추진하고 있다. 여러 부처에서 진행하던 스마트팜 연구개발을 하나로 모은 ‘스마트팜연구사업단’을 설립했고 ‘스마트농업 육성 및 지원에 관한 법률’도 오는 7월부터 시행된다. 지난달엔 스마트 농산업의 국내 기반 강화와 글로벌 경쟁력 확보 등을 목표로 한 ‘스마트 농산업 발전 방안’을 내놨다. 고무적인 일이다. 다만 민간의 자율적 참여를 위축시켜선 안 되고 단기간에 성과가 나지 않더라도 지속적으로 정책을 추진하는 것이 중요하다는 점을 강조하고 싶다.” -우리나라 농업이 당면한 과제는. “농업의 정예화다. 우리나라 인구 5000만명 가운데 농업인이 145만명이다. 유럽 3대 선진 농업국가인 영국, 프랑스, 독일의 농업인 총합이 150만명이다. 이들이 세 나라 인구 2억명을 먹여살린다. 우리나라는 누구든 농업인이 될 수 있고 70, 80대가 돼도 은퇴가 없다. 은퇴하고 싶어도 생계가 보장이 안 되니 농업인으로 계속 남아 있는 것이다. 농지이양 은퇴 직불제(소유 농지를 한국농어촌공사 등에 매도 이양하는 경우 매월 일정 금액을 지급하는 제도)를 도입해 운영하고 있지만 지급 액수가 적다 보니 아직 활발하지 않다. 농업인의 숫자를 줄여 정예화해야 유럽과 같은 고도의 혁신농업을 유도할 수 있고 정부 정책도 사후 대응에서 사전 대응으로 바뀔 수 있을 것이다.” 양곡관리법 개정안이 지난 18일 더불어민주당 단독 의결로 국회 본회의에 직회부됐다. 윤석열 대통령이 지난해 거부권을 행사해 폐기된 양곡법을 되살린 제2양곡법으로, 쌀값이 일정 수준 이상 하락하면 양곡수급관리위원회 심의를 거쳐 정부가 초과 생산량을 사들이도록 하는 내용이다. 김 교수는 “쌀 매입 정책은 대규모 예산이 투입될 수밖에 없는데 한정된 예산의 우선순위를 생각해야 한다”면서 “농업의 정예화 측면에서도 바람직하지 않다”고 했다. -농어업·농어촌특별위원회의 역할과 현안은. “정부 부처 간 농업 정책을 조정하고 농업인의 요구를 파악해 정책에 반영하도록 하는 일이다. 스마트 농업으로의 전환에 따라 농업인에 대한 재정의, 농지 규제와 활용에 관한 새로운 논의가 필요하다. 그래야 맞춤형 정책을 펼칠 수 있다.” ■ 김한호 교수는 서울대 농경제학 학사·경제학 석사를 거쳐 미국 미네소타대에서 응용경제학 박사 학위를 받았다. 대통령 소속 농어업·농어촌특별위원회 농어업분과위원장, 한국농어촌공사 비상임 이사, 농림축산식품부 정책자문위원장 등을 맡고 있다.

강기정 광주시장과 조국 조국혁신당 대표가 광주 발전을 위해 함께 힘을 모으기로 했다. 광주시와 조국혁신당은 23일 시청 비즈니스룸에서 ‘지역 현안 간담회’를 열고 5·18정신 헌법 전문 수록, 인공지능(AI)·미래차 산업 육성 방안 등을 논의했다. 이날 간담회에는 강기정 시장을 비롯해 조국 대표와 박은정·이해민·신장식·김선민·김재원·정춘생·차규근·강경숙·서왕진 국회의원 당선인, 은우근 광주시당위원장 등이 참석했다. 조 대표가 광주시청을 찾은 것은 지난달 14일에 이어 두 번째로, 제22대 국회 개원을 앞두고 당 차원의 지역현안 해결 지원 방안을 사전에 논의하기 위한 것이다. 광주시는 5·18민주화운동의 역사적 사실에 대한 국민적 공감대가 형성됐음에도 여전히 왜곡과 폄훼가 반복되고 있다며 제22대 국회에서 ‘5·18정신 헌법 전문 수록’을 추진해 나갈 수 있도록 조국혁신당이 중심이 돼 달라고 요청했다. 또 오는 6월 마무리되는 5·18민주화운동 진상규명조사위원회의 최종보고서가 미완의 보고서가 되지 않도록 해줄 것을 건의했다. 광주시가 집중 육성하고 있는 미래 전략산업에 대한 전폭적인 지원도 요청했다. 올해 말 완성되는 인공지능(AI) 1단계에 이어 2단계 사업이 곧바로 착수될 수 있도록 인공지능(AI) 2단계 사업의 예비타당성조사 면제와 함께 전기·수소·자율주행차와 같은 미래차의 핵심부품 성능 안전을 시험할 수 있는 테스트베드 구축 등을 건의했다. 지난해 광주군공항이전특별법 제정을 시작으로 광주와 전남의 합의에 이르기까지 의미있는 진전을 이뤄낸 군·민간공항 통합 이전이 올해 안에 가시화될 수 있도록 당 차원의 관심과 지원을 요청했다. 마지막으로 ‘광주다움 통합돌봄’이 모태가 되어 21대 국회에서 제정된 ‘지역돌봄 통합지원법’ 이 대한민국의 돌봄의 표준 정책으로 구체화 되어 확산할 수 있도록 22대 국회의 전폭적인 관심과 지원을 건의했다. 이밖에 올해 창설 30돌을 맞는 ‘광주비엔날레’가 성공적으로 개최될 수 있도록 광주비엔날레 홍보와 참여를 제안했다.강 시장은 당선 축하 인사를 전하고 “국회 도움 없이 광주의 새로운 변화와 발전을 이끌기는 어렵다”며 “우리 광주가 인공지능과 자동차 대표도시로, 아시아문화중심도시로 나아갈 수 있도록 뜨겁게 사랑해 달라”고 말했다. 조국 조국혁신당 대표는 “광주시민들은 총선의 의미를 분명히 하고자 신생정당인 조국혁신당에 강한 지지와 힘을 몰아줬다. 그 뜻과 마음을 잊지 않고 정책과 법률로 구현하겠다”고 강조했다. 이어 “광주는 정치적 판단력이 가장 뛰어난 지역인 만큼 이번엔 조국혁신당을 지지했지만, 만약 잘못하면 매몰차게 질타할 것임을 잘 알고 있다”며 “앞으로 민주당과 협력해 일당백으로 광주발전을 위해 모든 노력을 다하겠다”고 밝혔다.

K이슈플랫폼은 사단법인 싱크탱크인 K정책플랫폼(이사장 전광우, 공동원장 정태용·박진)이 개최하는 월례 토론회이다. 다툼만 있고 해결이 없는 우리 사회에 합의를 통한 정책 방향을 제시한다는 목표로 기획됐다.의제: 인공지능(AI)에 대한 규제 수준규제론: 최은창 아밀라(Armilla) AI, AI 정책총괄자율론: 김윤희 법무법인 세종 파트너 변호사사회: 이경전 K정책플랫폼 이머징이슈위원장 (경희대 교수)원고: 박진 K정책플랫폼 공동원장 (KDI대학원 교수)기원전(BC)이 ‘Before 챗GPT’라 할 정도로 AI는 인류 문명에 엄청난 변화를 줄 것으로 기대를 모으고 있다. 그러나 이미 2014년에 영국의 물리학자 고 스티븐 호킹 박사는 “AI 발전이 인류의 생존에 중대한 위협이 될 수 있다”는 경고를 한 바 있다. 지난달 유엔총회는 안전한 AI 개발을 촉구하는 결의문을 채택했고 다음달에는 한국에서 AI 안전성 정상회의가 개최되는 등 AI 규제에 대한 국제적 논의가 활발해지고 있다. 정부도 AI 기본법안을 발의하는 등 나름의 대응을 보이고 있다. 그러나 글로벌 IT 공룡기업들 속에서 생존 여부조차 의문시되는 한국 AI 업계를 과도하게 규제해선 안 된다는 목소리도 있다. AI는 어느 정도로 규제돼야 하는가?1. 데이터 저작권 정책 저작권자의 거부권을 인정하면서 저작권 위반에 대한 처벌을 완화해야 한다. [사회] 지난해 12월 오픈AI사와 마이크로소프트(MS)는 미국의 뉴욕타임스(NYT)로부터 저작권 침해 소송을 당했습니다. 수백만개의 기사를 허락 없이 AI 모델 학습에 사용해 NYT에 손해를 끼쳤다는 내용입니다. 또한 스톡 포토 전문회사 게티이미지는 스태빌리티AI사에 마찬가지로 소송을 걸었죠. 웹 크롤링(web crawling)을 통한 텍스트·데이터 마이닝(TDM) 학습을 어디까지 허용해야 할까요.[자율] 소설가 지망생이 만 권의 책을 읽고 새로운 소설을 창작하는 것이 문제가 되지 않는 것처럼 AI도 공개된 데이터를 학습하는 것은 자유로워야 합니다. [규제] 저작물은 저작권자와 라이선스를 맺고 학습 데이터로 활용해야 합니다. 언론 등이 생산한 콘텐츠를 머신러닝에 무제한 허용하면 창작 동기가 약화될 것입니다. 챗GPT가 뉴욕타임스 유료 구독자만 읽을 수 있는 기사들을 학습해 99% 동일한 콘텐츠를 답변으로 내놓는다면 이는 공정이용(fair use)은 아니라고 봅니다. 저작권자에게는 자신의 저작물이 AI에 학습되지 않도록 거부할 수 있는 옵트아웃(opt out)이 보장돼야 하죠. [자율] AI 선진국에 한참 뒤처진 우리 기업이 데이터 학습 시 일일이 저작권자에게 허락을 받아야 한다면 이는 AI 혁신을 늦출 수 있습니다. 현실적이지도 않고요. 보수적인 일본도 이미 2018년에 저작권법을 개정해 “저작권자의 이익을 부당하게 침해하는 경우를 제외하면… 어떠한 방법으로든 이용할 수 있다”고 규제를 완화했습니다. AI로 새로운 저작물을 창작한다면 저작권을 부당하게 침해하는 것은 아니지요. [규제] TDM도 일부 허용할 필요가 있지만 기계적 정보 해석 목적에 한정해야 합니다. 저작권자의 옵트아웃 권리는 대립적 이해관계의 균형을 맞추는 방안이라고 봅니다. [사회] 저작권자의 거부권을 인정하면서 대신 저작권 위반에 대한 처벌을 완화하는 방안은 어떨까요? [자율] 하긴 사소한 저작권 위반은 발견하기도 어렵고 대형 사안이 문제이니 처벌 완화가 중요하지요. 분쟁 시 형사처벌을 제외하고 민사소송으로 해결하도록 하되 저작권자의 사용금지 청구를 못 하게 한다면 동의할 수 있습니다. [규제] 그 정도가 현실적일 것 같습니다. [사회] 공개된 데이터에 대해서는 합의가 이루어졌습니다. 비공개 데이터에 대해서는 저작권 주체의 데이터를 보관하는 데이터 뱅크를 설립하고 이 뱅크들이 저작권자를 대신해 AI사와 계약을 맺는 방식은 어떨까요? [규제/자율] 위탁에 대한 자율성이 보장되는 한 데이터를 보호하는 동시에 활용을 높이는 좋은 방안이네요. 2. AI 오남용 규제 AI 개발사의 기술적 표시 의무에 대한 사회적 합의 형성과 AI 사용 범죄 가중처벌이 필요하다. [사회] 딥페이크나 음성 복제를 통한 신원 도용과 사기 피해가 발생하고 있습니다. 이를 어떻게 규제해야 할까요. [규제] AI로 최고재무책임자(CFO) 얼굴을 복제한 후 화상 회의에서 송금 지시를 내려 사취한 사례가 홍콩에서 발생했죠. 이런 비대면 사기의 추적을 위한 규제가 필요합니다. AI로 생성한 이미지나 목소리 속에 암호화된 워터마크를 넣도록 의무화해 AI 사용 여부를 기록에 남겨야 합니다. [자율] 조영남씨의 그림 대작(代作) 소송에서 무죄 판결이 난 것을 기억하시죠? 대법원은 조영남씨에게 대작 화가의 존재를 고지할 의무는 없다고 판시했습니다. 앞으로 AI를 이용한 창작이 보편화될 텐데 그러한 명시 의무는 AI를 통한 창작활동을 위축시킬 수 있습니다. [규제] 워터마크 등 기술적 조치를 이용자가 아니라 AI 개발사에 의무화할 수 있지 않을까요? [자율] 의무화에 대한 사회적 합의를 형성한다는 정도면 동의할 수 있습니다. 사실 문제는 사기나 선거 여론조작 등 나쁜 의도를 가진 AI 사용자이지요. AI 활용 범죄에 대해서는 가중처벌할 것을 제안합니다. [규제] 동의합니다.3. 알고리즘 규제 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하자. [사회] 최근 유럽연합(EU)에서 인공지능 법률(EU AI Act)이 통과돼 앞으로 글로벌 인공지능 규범이 될 것으로 예상됩니다. 또한 미국에서는 알고리즘 책임법(Algorithmic Accountability Act)을 의회가 논의 중이지요. 이 법은 AI 알고리즘이 편향적 결과를 내지 않도록 기업들이 자체 감사와 보고를 하도록 요구합니다. AI 알고리즘은 어떻게 규제해야 할까요? [자율] 알고리즘의 의무적 공개는 민감한 영업비밀 등 기업의 지식재산권을 침해하는 결과를 가져옵니다. 사전 검열이 될 수도 있습니다. [규제] 경쟁이 존재하는 시장에서는 알고리즘의 편견과 차별이 스스로 교정될 수 있습니다. 그러나 경쟁이 없고 소비자와 사업자 간 엄청난 정보의 비대칭성이 있는 경우가 문제지요. 미국은 우리의 공정거래위원회에 해당하는 연방거래위원회(FTC)에서 가이드라인을 주고 있습니다. 중국에선 모든 AI 개발사들이 중앙정부에 알고리즘을 제출해야 하고 보안성 평가까지 통과해야 합니다. 중국 같은 과한 개입은 곤란하지만 그래도 알고리즘의 투명성을 위한 최소한의 조치는 필요합니다. [사회] 누군가의 감시가 필요하지만 정부의 직접 개입은 안 된다는 말씀이네요. 그렇다면 AI 전문성을 보유한 비영리단체의 감시 노력을 정부가 지원하는 정도는 어떨까요? [규제/자율] 동의합니다. [사회] 끝으로 정부의 AI정책에 대한 건의를 해 주신다면. [규제] AI 관련 위험성 감축 노력이 AI 혁신 저해로 받아들여져서는 곤란합니다. 그러나 현재 정부가 구상하는 AI 관련 법률은 모호한 윤리원칙으로 가득 차 있습니다. 이렇게 되면 법안이 의미가 없거나 아니면 너무 광범위한 규제를 할 수 있습니다. 규제는 명확해야 합니다. [자율] AI에 대한 규제는 공직선거법, 성폭력처벌법 등 개별법에서 규정하는 것이 좋다고 봅니다. 이와 관련된 사회적 합의 형성이 필요합니다. [사회] 정부는 4월 초 다양한 이해당사자들이 참여하는 AI전략 최고위협의회를 구성했습니다. 이를 통해 구체적인 규제를 최소한으로 담는 법안을 만들기 바랍니다. 오늘의 논의가 그 기본틀이 됐으면 합니다.

초등학교 4학년 영어를 가르치는 A교사는 ‘좋아하는 과목 듣고 말하기’ 수업에 인공지능(AI) 도구를 활용했다. 전에는 암기나 읽기 위주 수업이었지만, AI 기반 코스웨어로 학생 수준에 맞는 개별 학습을 설계하고 도전과제를 추가하며 피드백하는 과정을 반복했다. 스스로 단어 연습과 문장 녹음, 영작을 한 뒤 모둠끼리 대화하는 시간도 가졌다. A교사는 “평소 말하기를 안 하던 학생들도 자신의 속도에 맞춰 학습하다 보니 492회까지 말하기를 했다”며 “더 많은 학생이 말하기에 자신감이 붙는 수업을 설계할 수 있었다”고 말했다. 내년 인공지능(AI) 디지털교과서 도입을 앞두고 정부가 교사들의 디지털 수업 역량을 강화하기 위한 연수에 나선다. 디지털 시대 맞춤형 교육을 제공하고 학생들의 수업 참여를 높이기 위해 디지털 기술을 효과적으로 활용할 수 있는 교사들을 길러낸다는 취지다. 교육부는 이런 내용의 ‘디지털 기반 교육혁신 역량 강화 지원 방안’을 15일 발표했다. 교육부는 우선 2026년까지 수업 혁신에 의지와 전문성을 갖춘 ‘교실 혁명 선도 교사’를 총 3만 4000명을 양성한다. 현재 한 학교당 1명에서 2~3명의 선도 교사를 배치해 동료 교사와 협업하며 학교를 변화시킨다는 구상이다. 올해 1만 1500명을 시작으로 내년 1만 1500명, 2026년 1만 1000명을 선도 교사로 키운다. 이들은 동료교사 코칭과 교육청 연수 강사로 활동하게 된다. 이와 함께 AI디지털교과서가 적용되는 과목 담당 교원 32만명을 대상으로 맞춤 연수도 한다. 이 가운데 내년 디지털교과서를 사용하게 될 초등교사, 중·고등학교 수학·영어·정보 교사 중 15만명에 대한 연수를 올해 우선 진행한다. 올해 선도교사와 교과별 연수 대상자를 합하면 16만 1500명으로 전체 초중고 교사(44만 497명)의 36%에 이른다. AI 디지털교과서 시제품(프로토타입)을 실제 사용해 보는 실습 연수도 대폭 개설할 계획이다. 학교로 ‘찾아가는 연수’도 운영된다. 교육부는 올해 3000개교를 비롯해 내년 4000개교, 2026년 5000개교 등 3년간 전체 초·중·고(1만 2000개교)에서 연수를 진행한다. 교사의 업무가 가중되지 않도록 디지털 기기(인프라) 관리를 지원하는 보조강사인 ‘디지털 튜터’를 올해 1200명 투입한다. 모든 교육청에 관내 학교의 기기와 네트워크 품질을 점검하고 장애가 발생할 때 지원하는 거점 기술지원 기관(테크센터)도 시범 운영한다. 이영찬 교육부 디지털교육기획관은 “교사들이 새로운 기술을 사용하는 데 대해 대한 부담을 느낀다는 이야기가 많았다”며 “초기에 세팅하는 데 들어가는 어려움을 최소화하기 위해 디지털 튜터나 수업을 보조할 수 있는 강사요원을 1200명 양성할 계획”이라고 설명했다. 교사 연수에는 지난해 늘어난 특별교부금 3818억원이 투입된다. 지난해 말 국회는 ‘지방교육재정교부금법’ 일부개정 법률안을 통과시켜 교육교부금 중 특별교부금 비율을 올해부터 3년간 3.0%에서 3.8%로 높였다. 이에 따라 디지털 교육 목적으로 전체 교육교부금의 0.8%가 배정된다. 올해는 특별교부금(5333억원) 가운데 71.6%가 활용된다.

한국 방송사들의 총선 개표방송이 흥미로운 시도라는 외신의 평가가 나왔다. 10일(현지시간) 영국 BBC 방송은 ‘이것은 K-드라마인가? 아니다. 한국 선거의 밤이다’라는 제목의 기사에서 한국 주요 방송사들이 총선 개표방송을 소개했다. 매체는 한국 총선 개표방송을 주목하며 대중문화, 인공지능(AI), 그래픽을 활용해 재미있는 프로그램을 선보일 예정이라고 전했다. 그러면서 SBS가 2003년 처음 방영돼 큰 인기를 끈 드라마 ‘천국의 계단’을 패러디한 장면과 톰 크루즈 주연의 영화 ‘미션 임파서블’을 모방한 장면을 개표방송에서 내보낼 예정이라고 전했다. 특히 BBC는 KBS가 개표방송에서 AI로 구현한 후보들의 아바타가 랩 배틀을 하는 코너를 준비했다는 점도 주목했다. 아바타는 공약 정책을 개사한 음원으로 노래와 춤을 뽐낼 것으로 전해졌다.“선거쟁점 흐릴 수 있다”…일부 부작용 우려도 외신은 방송사들의 이런 시도를 둘러싼 명암을 조명하기도 했다. 지루하지 않게 젊은 유권자들을 사로잡았다는 점이 긍정적으로 부각됐다. 밈(인터넷 유행 콘텐츠)과 컴퓨터 그래픽 덕분에 정치인들의 권위주의적 이미지가 더 접근하기 쉬워지면서 정치에 대한 관심으로 이어질 수 있다는 젊은층의 반응을 소개했다. 다만 부작용을 우려하는 목소리도 있다. 일각에서는 AI, 그래픽 등을 동원한 개표방송이 시청률을 높일 수 있지만 선거 쟁점들의 중요성이 간과되는 측면이 있다는 것이다.한편 한국방송협회 산하 방송사공동예측조사위원회(KEP)는 이날 “지상파 방송 3사(KBS, MBC, SBS)는 어려운 대내외적 여건 속에서도 신속한 선거 예측을 통해 국민의 알 권리와 선거 피로감 해소, 공정한 선거관리에 대한 검증이라는 공적책무를 수행할 것”이라고 밝혔다. 이번 ‘제22대 국회의원선거 방송3사 공동출구조사’는 한국리서치, 코리아리서치, 입소스주식회사 3개 조사기관이 수행한다. 총 사업이 72억 8000만원이 소요된다. 선거당일 오전 6시부터 오후 6시까지 전국 2000여개 투표소에서 투표자 약 50만명을 대상으로 조사한다. 출구조사 결과는 선거마감 시각인 오후 6시 방송3사를 통해 공표된다.김철우 KEP위원장은 “출구조사 결과는 막대한 비용이 투자된 방송3사의 지적재산으로 방송3사 허락 없이 출구조사 결과를 인용한 것은 ‘부정경쟁방지 및 영업비밀 보호에 관한 법률’을 위한한 불법”이라며 무단 인용보도에 대해 적극적인 법적대응을 예고했다. KEP가 발표한 출구조사 인용기준에 따르면 기준을 적용받는 매체는 종편, 신문, 포털 뿐 아니라 유튜브 채널도 해당된다. 출구조사결과 인용은 매체 형태에 상관없이 지상파3사에서 모두 공표된 지역에 한 해 상당한 시간차를 두고 인용해야 한다는 게 원칙이다. 각 정당별 의석수는 오후 6시 30분 이후, 각 지역구 당선자 예측결과는 오후 7시 이후 인용할 수 있다.

지난 2월 윤석열 대통령이 참석한 한국과학기술원(KAIST) 학위수여식에서 강제 퇴장 사건 당사자인 신민기씨가 9일 “헌법상 기본권을 침해당했다”며 헌법재판소에 헌법소원 심판을 청구했다. 카이스트 석사 졸업생이자 녹색정의당 대전시당 대변인인 신씨는 지난 2월 16일 대전 카이스트에서 열린 학위수여식에서 대통령 경호처 요원들에게 입이 막히고 사지가 들린 채 퇴장당했다. 당시 신씨는 윤 대통령이 학위수여식에서 축사하던 중 ‘부자 감세 중단하고 연구·개발(R&D) 예산 복원하라’라고 쓴 플래카드를 들고 “윤석열 대통령은 R&D 예산 복원하라”고 외쳤다. 신씨는 경호 요원들이 자신의 발언을 막고 행사 종료 후에도 다른 방에 가둬둔 것은 헌법상 기본권인 표현의 자유와 신체의 자유를 침해한 것이라며 헌재에 판단을 요구했다. 신씨는 이날 헌재 앞에서 기자회견을 열고 “당일 나는 석사학위 졸업장을 받으러 갔지만 경호처의 연행과 감금 때문에 (졸업장을) 받지 못했고 차가운 방에서 박수 소리만 들을 수 있었다”며 “대한민국의 누구도 다시는 겪어서는 안 되는 사건”이라고 주장했다. 이어 “대통령 경호처가 나를 졸업식 업무방해로 신고해 경찰에 체포됐고 경찰조사 결과를 기다리고 있다”며 “생각해보라. 그렇게 받고 싶었던 졸업장이 눈앞에 있는데 내가 뭐 하러 졸업식을 방해했겠는가”라고 되물었다. 이날 기자회견에 함께 참석한 녹색정의당 김준우 상임 선거대책위원장은 “부자 감세 철회와 R&D 예산 복구를 외쳤다는 이유만으로 ‘입틀막’과 불법 감금을 자행한 행위는 법률 위반뿐 아니라 중대한 위헌 소지가 있다”고 지적했다. 김 위원장은 “오늘 총선 선거운동 마지막 날이지만 헌재 앞을 찾았다”며 “국민 기본권을 침해하는 윤석열 정권의 무도한 행위는 정권 심판의 이유를 하나 늘려주는 것이다. 녹색정의당은 무도한 정권을 최선두에서 심판할 것”이라고 강조했다.

광주 AI영재고등학교가 광주과학기술원(GIST)과 인접한 첨단3지구 AI(인공지능)집적단지 바로 옆 부지에 건립된다. 강기정 광주시장은 9일 시청에서 기자 간담회를 열고 “AI영재고는 첨단3지구에 건립하기로 결정했다”며 “부지의 면적과 주변환경 등 다양한 조건을 두루 감안했으며, 특히 지스트와의 접근성을 가장 먼저 고려했다”고 밝혔다. 강 시장은 “AI영재고는 지스트 부설기관으로 운영되기 때문에 협업 프로그램 운영, 지스트의 기반시설 활용을 위한 지리적 접근성이 필수”라며 “AI집적단지 내에 있는 국가AI데이터센터 등 인공지능 기반시설을 활용해 양질의 교육서비스를 제공받을 수 있다는 점도 고려했다”고 덧붙였다. 광주 AI영재고 설립은 대통령 지역공약으로 추진됐으며, 지난 1월 ‘광주과학기술원(GIST)법’ 일부 개정법률안이 공포돼 지스트 부설 AI영재고의 설립 근거가 마련됐다. 광주시는 올해 AI영재고 실시설계비로 국비 31억7500만원을 확보했다.광주시는 AI영재고 설립 부지가 확정됨에 따라 후속 절차에도 속도를 낼 방침이다. 광주 AI영재고는 사업비 1000억원이 투입되며 건축면적 2만40㎡, 지하1층~지상5층 규모의 학습연구동과 기숙사동 2개 동으로 구성된다. 오는 2027년 3월 개교를 목표로 올해 실시설계를 거쳐 2025년 착공에 들어가 2026년 건축공사를 마칠 계획이다. 교육과정 개발, 교직원 및 학생 선발 등 구체적인 운영방안도 마련되고 있다. 정원은 150명이며, 매년 50명의 학생을 모집할 계획이다. 교육과정은 총 3년 원칙이지만 무학년·졸업학점제가 운영되며, AI 융합 교과가 편성된다. 광주시는 AI영재고 설립에 따라 초등학교에서부터 중·고등학교, 대학교(원), 실무인재 양성에 이르기까지 ‘인공지능 인재양성 사다리’를 탄탄하게 구축할 수 있게 됐다. 강기정 시장은 “AI영재고는 광주의 인재양성 사다리 구축을 완성할 책임기관으로, AI대표도시가 한걸음 더 가까이 다가왔다”며 “AI영재고가 첨단3지구에 자리함으로써 첨단3지구는 인공지능(AI) 기반시설, 기업, 교육기관이 집적된 명실상부 대한민국 최고의 인공지능 클러스터로 자리매김할 것”이라고 말했다.

서양인들에게 있어 ‘로마제국’은 역사적, 문화적 정체성 이상의 의미가 있는 것 같다. 그런 이유 때문에 로마제국이 역사에서 사라진 후에도 ‘신성로마제국’(Holy Roman Empire)과 같은 수많은 나라들은 “우리가 로마제국의 정통성을 이어받았다”고 주장해왔다. 로마제국의 정통성을 이어받았다고 주장한 나라 중에는 러시아도 있었다. 1453년 동로마제국이 오스만제국에 의해 멸망하자 러시아의 이반3세는 “나는 동로마제국의 마지막 황제 콘스탄티누스 11세의 조카 소피아 팔라이올로기나(Sophia Palaiologina) 공주와 결혼했다. 따라서 로마제국의 정통성을 이은 유일한 황제는 나뿐”이라고 주장했다. 하지만 무엇보다 아쉬운 것은 따로 있다. 적지 않은 사람들이 이탈리아를 중심으로 한 서로마제국만 로마제국으로 생각한다는 점이다. 동로마제국도 서로마제국과 마찬가지로 로마제국의 역사를 계승한 제국이다. 하지만, 일부 서유럽의 역사가들이 서로마제국의 멸망을 로마제국의 멸망으로 서술하면서, 동로마제국은 유럽대륙을 버리고 떠났다가 이슬람 제국에 의해 멸망한 나라로만 기억하게 된 것이다. 그러나 동로마제국은 유럽대륙 변방으로 옮겼다가 이슬람 제국에 의해 멸망한 작고 약한 나라가 아니었다. 그래서 지금부터 가난한 농부의 아들로 태어났다가 동로마제국의 위대한 황제가 된 유스티니아누스 대제(Justinianus I·483~565) 이야기를 들려주고자 한다.동로마의 위대한 황제 ‘유스티니아누스 대제’ 유스티니아누스 황제는 482년 가난한 농부의 아들로 태어났다. 그는 황실경비대 사령관이었던 외삼촌 유스티누스에 의해 동로마제국의 수도 콘스탄티노플로 왔으며 나중에는 외삼촌의 양자가 되었다. 518년 동로마제국 황제가 세상을 떠났다. 황제의 후사가 없는 혼란한 틈을 타서 유스티누스가 황제의 자리에 올랐다. 유스티니아누스는 황제의 자리에 오른 외삼촌 유스티누스가 올바른 정치를 할 수 있도록 도와주었고, 원로원의 신임까지 얻었다. 시간이 흘러 527년 유스티누스도 세상을 떠났고 유스티니아누스가 뒤를 이어 동로마제국의 황제가 되었다. 유스티니아누스 황제의 재위기간(527~565)은 동로마제국은 전성기였다. 유스티니아누스 황제는 사산왕조페르시아의 침입을 막아 제국을 안정시켰고, 서로마제국이 멸망한 후 게르만족이 가져간 아프리카와 이탈리아 영토의 상당부분을 되찾았다. 그리고 537년에는 소실된 ‘성 소피아 대성당’을 재건했다. 이러한 업적으로 인해 유스티니아누스는 로마제국의 위대한 황제로 평가받고 있으며, 동방정교회로부터 대제(大帝)라는 칭호를 받아 ‘유스티니아누스 대제’로 기록되어 있다.유스티니아누스 황제가 사랑한 여인 ‘테오도라’ 522년 동로마제국의 황태자였던 유스티니아누스는 테오도라(Theodora)를 만나 한 눈에 사랑에 빠졌다. 그리고 얼마 후 공식적으로 그녀와의 결혼을 발표했다. 황태자의 결혼발표는 로마사회 전체를 충격에 빠뜨렸다. 테오도라는 당시 가장 천한 신분으로 여겨졌던 서커스 극단의 여배우였기 때문이었다. 지금이라면 황태자와 여배우의 ‘세기의 결혼’ 또는 ‘세기의 로맨스’로 세간의 관심을 받았을 것이다. 하지만 당시 관습법은 고위 관료와 천한 여배우의 결혼을 인정하지 않았다. 테오도라를 놓치고 싶지 않았던 황태자 유스티니아누스는 법을 개정해서 테오도라와 결혼했다. 그리고 2년 후에는 황제의 자리에 올랐고, 테오도라는 황후의 자리에 올랐다. 테오도라에 대해서는 많은 이야기가 전해지지 않는다. 아마도 천한 신분의 여배우를 황후로 인정하고 싶지 않은 사람들은 기록을 남기고 싶지 않았을 것이다. 일부 사람들은 테오도라 황후를 마녀처럼 묘사한 기록을 남기기도 했다. 그러나 테오도라 황후는 유스티니아누스 황제와 함께 동로마제국의 번영을 이끌었던 위대한 리더였다. 반란으로 황제의 자리가 위태로웠을 때에도, 페스트에 걸린 황제가 죽음의 문턱을 넘고 있었을 때에도 테오도라는 강력한 리더십을 발휘해 황제와 황실을 지켜냈다. 신분이 달라도 결혼할 수 있는 제도를 만들고, 여성의 지참금을 강요하는 악습을 폐지했으며, 여성을 성적으로 착취하는 행위를 엄격히 단죄하는 법을 만들었다. 가난한 사람들을 위한 재단을 만들어 구호활동에도 앞장섰다. 시간이 흐를수록 사람들은 그녀의 진심을 알아갔고, 어느덧 황후는 성녀(聖女)로 인정받기 시작했다. 테오도라는 51세의 나이로 세상을 떠났다. 사랑하는 황후를 잃은 황제는 발이 닿는 모든 곳마다 황후를 기억했고, 황후가 생전에 실천한 모든 것들을 이어가기 위해 노력했다. 황제는 언제나 테오도라의 이름을 걸고 맹세했고, 적과의 전쟁에서 승리했을 때에도 테오도라의 무덤을 먼저 찾아 그녀에게 승리의 기쁨을 들려주었다. 그리고 황후가 떠난 지 17년이 지난 어느 날 81세의 유스티니아누스 황제는 그리워하던 황후의 곁으로 떠났다.로마에 가면 로마법을 따르라 유스티니아누스 황제의 최대 업적은 ‘로마법 대전’의 편찬이다. 로마제국의 모든 법률, 판례, 칙령 등을 집대성하여 체계적으로 구성한 로마법 대전은 이후 대륙법으로 전승되었고 독일과 일본을 거쳐 우리나라 법률에도 영향을 주었다. 독일의 법학자 ‘루돌프 폰 예링’(Rudolf von Jhering·1818~1892)은 그의 저서 ‘로마법 정신’을 통해 로마는 세 번에 걸쳐 세계를 지배했다고 설명했다. 첫 번째는 무력을 통한 유럽대륙을 통일이고, 두 번째는 밀라노 칙령을 통해 기독교를 공인하면서 종교적 통일을 이룬 것이라고 설명했다. 그리고 마지막 세 번째는 서양법률의 근간이 되는 로마법을 완성해 인류의 행동기준과 정신을 통일한 것이라고 설명하면서, 로마법 대전을 로마제국이 인류에게 남긴 가장 위대한 업적이라고 평가했다. 동로마제국의 위대한 황제 유스티니아누스 대제의 업적과 순애보를 정리하며, 동로마제국은 결코 작고 약한 유럽대륙 변방의 나라가 아니었으며, 인류에게 위대한 유산을 남긴 위대한 제국이었음을 다시 한번 강조하고자 한다.

인공지능(AI)을 활용해 만든 콘텐츠에는 반드시 ‘AI 창작물’임을 표기토록 하는 방안이 추진된다. AI로 이미지나 음성을 그럴싸하게 짜깁기하는 ‘딥페이크’ 기술이 범죄에 악용되는 사례가 늘어나서다. 방송통신위원회는 21일 이런 내용이 담긴 올해 업무계획을 윤석열 대통령에게 보고했다. 딥페이크 범죄가 전방위로 확산하면서 피해를 호소하는 이가 늘어나고 있다. 방송통신심의위원회에 따르면 성적 허위 영상물에 대한 시정 요구는 2020년 473건에서 지난해 6000건 이상으로 급증했다. 성범죄뿐만 아니라 정치권에서도 골칫거리다. 미국에서는 조 바이든 대통령의 목소리를 모방 녹음한 뒤 유권자들에게 공화당 예비선거 불참을 권하는 ‘가짜전화’가 기승을 부리며 홍역을 치렀다. 다음달 총선을 앞두고 있는 국내에서도 딥페이크 기술의 여파에 촉각을 곤두세우고 있는 상황이다. 딥페이크는 ‘딥러닝’과 ‘페이크’(Fake)의 합성어로 AI를 기반으로 영상이나 이미지를 학습시킨 뒤 조작된 영상을 만들어 내는 기술이다. 이런 피해를 막고자 방통위는 ‘인공지능서비스 이용자 보호에 관한 법률’ 제정을 추진하고 AI가 생성한 콘텐츠에는 관련 표시를 의무화하기로 했다. 향후 AI 관련 피해 구제를 위한 전담 신고 센터도 운영한다. 한편 방송 분야에서는 방송사의 안정적인 사업 운영을 위해 허가·승인 유효기간 범위를 확대한다. 포털 분야에서는 포털사별 뉴스제휴 평가 기구를 구성하고 기준과 결과를 공개하도록 한다. 특히 ‘맞춤형 추천 서비스’ 때문에 이용자가 걸러진 정보만 접하게 되는 ‘필터 버블’ 등의 부작용이 일어나지 않도록 ‘알고리즘투명성위원회’도 구성키로 했다.

문서 작업량이 많은 변호사들이 인공지능(AI)을 적극적으로 쓰고 있다. LG화학은 지난달 영국 AI 기업 루미넌스와 계약서를 자동으로 검토하고 수정하는 AI 이용 계약을 맺었다. 미국의 렉시스넥시스는 자료 조사, 법률 문서 초안 작성 및 요약 등이 가능한 ‘렉시스플러스 AI’를 지난 19일 국내에 출시했다. 렉시스넥시스는 150개국에 진출해 있다. 2020년 국내 출시된 엘박스의 판례 검색 서비스는 변호사의 절반 정도가 쓰는 것으로 알려졌다. 일반인이 법률 문제에 AI를 이용하는 과정은 순탄하지 않다. 올 초 프랑스에서는 연 69유로(약 10만원)에 법률 조언을 제공한다는 AI 변호사 ‘아이아보카’가 출시됐다. 지난 50년간 프랑스의 판결문에 기반한 법률 조언인데 프랑스 변호사 단체의 반발로 ‘아보카’(변호사)라는 용어를 뺀 ‘인텔리전스 리걸’로 이름을 바꿨다. 법무법인 대륙아주가 지난 20일 공개한 AI대륙아주의 보도자료에 있던 ‘24시간 무료 AI 법률상담’은 ‘24시간 법률 Q&A 서비스’로 바뀌었다. 대한변호사협회(변협)가 변호사 광고 규정 위반 소지가 있다는 공문을 보냈기 때문이다. 변협은 변호사의 답변 검수 여부도 물었단다. 변호사법 위반 여부를 따지기 위해서다. 변협이 지난달 진행한 인권보고대회에선 “AI를 활용한 법률상담이나 법률 관계 문서 작성은 변호사법 위반으로 봐야 한다”는 주장이 나왔다. 변호사법은 변협이 변호사 상담서비스 업체인 로톡을 10년 가까이 옭아맸던 규정이다. 로톡은 2015년부터 세 차례 변호사법 위반으로 검찰에 고발됐지만 모두 무혐의 처분을 받았다. 변협은 2022년 10월 로톡 가입 변호사를 광고 규정 위반으로 징계했고, 법무부는 2023년 9월 이를 취소했다. 로톡이 송사에 시달리는 사이 국내 리걸테크(법과 기술의 합성어)는 늦어졌다. 존 로버츠 미 연방대법원장은 지난해 말 발표된 보고서에서 “AI는 법률 분야에 혼합된 축복을 가져다준다”며 변호사는 물론 변호사가 아닌 사람의 정보 접근성, 사생활 침해 가능성 등을 거론했다. 리걸테크 발전은 법률서비스 이용이 어려운 취약계층에게 좋은 일이다. 변협은 반대할 것이 아니라 전문용어가 낯선 이들이 AI를 어떻게 잘 쓸 수 있는지 가이드라인을 만들어야 한다.

양자 산업육성, ‘퀀텀시티’ 청사진 밑그림‘사이버보안 선도도시 세종’ 업무협약 세종시가 미래 전략산업으로 추진하는 사이버보안과 양자 산업 생태계 조성에 본격적으로 나섰다. 시는 13일 세종테크노파크와 공동으로 기업·대학·연구기관 등 산학연 관계자들과 ‘세종시 양자 산업 육성 마스터플랜 수립 회의’를 개최했다. 이번 회의는 윤석열 정부의 양자 산업 육성정책과 연계해 세종을 ‘글로벌 퀀텀 도시’로 도약을 위한 구체적 정책 방안을 논의하기 위해 마련됐다. 시는 양자 기술과 연계한 입지환경과 산업 기반 조성 등을 분석해 전략별 세부 실행계획과 로드맵을 구체화할 계획이다. 정부는 미래 산업 생태계를 바꿀 ‘게임 체인저로’ 불리는 양자 산업 중심 국가 도약을 위해 지난해 6월 ‘대한민국 양자 과학기술 전략’ 발표에 이어 관련 법률 제정 등에 나섰다.시는 지난해 9월 미국 큐에라컴퓨팅사(QuEra Computing Inc), 카이스트(KAIST) 간 양자 산업 육성을 위한 업무협약을 체결하고 세종을 양자 과학기술 거점도시로의 도약을 추진 중이다. 국내 기업과 사이버보안산업 생태계 조성도 본격화됐다. 시는 전날 국내 사이버보안기업과 사이버보안산업 생태계 조성을 위한 산학관 업무협약을 체결했다. 이번 협약은 사이버보안 분야에서 산학관 협력과 지역 전문인력 양성을 추진하고, 시 역점사업인 ‘사이버보안산업 중심의 세종형 기회발전특구 조성’ 등의 지원을 위해 마련됐다. 세종에는 정부 부처는 물론 향후 대통령 집무실, 국회 세종의사당 등 주요 국가시설이 들어서고 인근에 3군 본부 등 국가 주요 정보망이 집중된 사이버보안 요충지다. 최 시장은 “미래전략 수도로서 글로벌 입지를 구축하기 위해 내실 있는 전략산업 추진이 절실하다”며 “양자와 사이버보안 산업 육성으로 세종시가 대한민국의 미래를 선도해 나갈 것”이라고 말했다.

블라디미르 푸틴이 5선에 도전하는 러시아 대선(15~17일)이 코앞으로 다가온 가운데 러시아의 한 대학생이 자신의 와이파이망 이름을 우크라이나 지지 구호로 바꿨다가 투옥됐다. 10일(현지시간) BBC방송에 따르면 모스크바국립대(MSU)의 한 학생이 지난 7일 모스크바 법원에서 ‘나치 또는 극단주의 조직 상징의 공공연한 전시’ 혐의 유죄가 인정돼 징역 10일형을 선고받았다. 그는 대학 기숙사 자신의 방 와이파이망 이름을 ‘우크라이나에 영광을’이라는 뜻의 ‘슬라바 우크라이니’로 바꿨다. 한 경찰관이 와이파이망을 발견해 당국에 보고했다. 경찰은 대학 기숙사 내 그의 방을 뒤져 그의 PC와 와이파이 공유기를 확보한 뒤 지난 6일 그를 체포했다. 재판부는 피고인이 “와이파이 전파가 미치는 범위 안의 불특정 다수에 ‘우크라이나에 영광을’이라는 구호를 홍보하기 위해 자신의 와이파이망을 이용했다”고 밝혔다. ‘슬라바 우크라이니’는 2022년 2월 러시아의 우크라이나 침공 이후 우크라이나 지지자들의 대표적인 구호 중 하나다. 러시아에서는 지난달 시베리아 교도소에서 복역 도중 의문사한 야권 지도자 알렉세이 나발니의 추모 장소에 꽃을 놨다는 이유만으로 400여명이 체포되는 등 푸틴 정권과 우크라이나 전쟁에 반대하는 이들이 줄줄이 체포·수감되고 있다. 앰네스티인터내셔널(AI)은 지난해 러시아에서 2만 1000여명이 반전 운동가들이 억압적 법률의 표적이 됐다고 밝혔다. 이 단체는 러시아 당국이 “매우 불공정한 재판”을 이용해 “최소한의 반대 의견에도 비판자들의 입을 틀어막고자 징역형과 고액 벌금을 남발하고 있다”고 지적했다.

생성형 인공지능(AI) 등장 이후 빠른 속도로 기술이 발전하면서 인류와 AI의 공존이 화두로 떠올랐다. 모든 산업의 AI화를 넘어 일상에까지 침투해 온 AI를 그저 ‘반가운 손님’으로 맞이할 것인지 사람들이 묻기 시작한 것이다. AI가 인간의 통제를 벗어날지도 모른다는 두려움은 더 늦기 전에 기술 개발을 잠시 멈추자는 논의로 이어졌다. 스스로 의식을 가진 AI가 갑자기 깨어나서 인류를 멸망시킬 것인가. 서울신문은 ‘인간은 필요 없다’, ‘인공지능의 미래’ 등 베스트셀러 저자이자 미국 스탠퍼드대에서 AI의 사회·경제적 영향에 관해 강의하고 있는 인공지능학자 제리 캐플런(72) 박사에게 생성형 AI 이후 달라질 미래 모습에 대해 이메일을 통해 물었다. 그는 5일 “걱정하지 말라”며 “변화를 감당할 수 없을 만큼 상황이 너무 빠르게 진행되고 있지는 않다”고 말했다. 캐플런 박사는 최근 생성형 AI가 가져올 변화를 다룬 책에서도 “우리가 설계한 기계가 엉망이 돼 날뛰지 않도록 적절한 회로 차단기를 설치하면 된다”고 주장했다. “생성형 AI는 인간처럼 생각하지도 않고 인간과 같은 마음도 없다”는 그는 정체불명의 의인화된 AI는 현실에 없기 때문에 우리를 공격하지 않을 것이라고 했다. 다만 생성형 AI가 우리 삶의 거의 모든 걸 변화시키고 노동시장을 뒤흔들며 사회질서를 재편할 것이라고 봤다. 다음은 일문일답.#선거판 속 AI딥페이크, 스팸 메일처럼 심각사용금지·형사고발 이어질 것 -텍스트를 입력하면 알아서 동영상을 만들어 주는 AI 모델(소라·Sora)이 공개됐다. 기술 발전 속도가 너무 빠른 것 아닌가. “놀랍게도 기술 발전의 속도를 연구하는 경제학자들은 가까운 과거의 발전 속도가 실제로 이전보다 더 느리다는 사실을 발견했다. 예를 들어 당신이 1910년에 살고 있었다면 지난 20년 동안 자동차, 비행기, 녹음기 발명을 목격했을 것이다. 조금만 더 거슬러 올라가면 사진 발명도 있었다.” -대선을 앞둔 미국과 마찬가지로 한국은 4월 국회의원 선거를 앞두고 딥페이크 영상 게시물로 몸살을 앓고 있다. “딥페이크는 과거 스팸 메일과 마찬가지로 심각한 문제다. 간단히 말해 선거 등 중요한 상황에서 딥페이크 사용은 금지될 것이며 사용할 경우 형사 고발로 이어질 것이다. 또한 사람들은 그 문제에 대해 훨씬 더 많이 인식하게 될 것이고, (딥페이크 영상에 대해) 더욱 회의적으로 변할 것이다.” -AI 기술로 인한 일자리 변화는 막을 수 없을 것 같다. “그래픽 아티스트, 컴퓨터 프로그래머 등 일부 직업은 다른 직업보다 더 큰 영향을 받을 것이다. 그러나 이러한 직업에 종사하는 대부분의 사람들은 여전히 직업을 갖고 있을 것이고, 생성형 AI 시스템을 ‘지능형 비서’로 사용할 것이다. 과거 사진이 발명됐을 때 초상화가 등 화가라는 직업에 영향을 미쳤던 것만큼 극적인 변화는 아닐 것으로 본다.”#노동시장의 변화컴퓨터 관련 직업은 변화 예고AI 시스템에 업무 도움받을 것 -생성형 AI의 문제점 중 하나는 ‘할루시네이션’(환각 현상)이다. AI가 그럴듯한 오답을 내놓는 이 현상이 수년 내 해결될까. “실제로 AI가 우리가 기대하는 것보다 더 인간처럼 행동한다는 게 문제다. 이 문제는 여러 방식으로 제어가 될 것이다. 우선 가짜 정보를 만들어 내는 걸 방지하는 ‘내부 설정’ 작업과 함께 특정 목적에 맞게 훈련을 거칠 것이다. 둘째, 개발자들이 AI가 꾸며내지 않도록 지시하는 더 나은 방법을 찾을 것이다. 셋째, 대부분 시스템은 인간이 하는 것처럼 외부 소스를 통해 의심스러운 정보를 확인할 수 있을 것이다. 문제가 해결되지는 않아도 이 세 가지는 환각 문제를 크게 줄여 줄 것으로 본다.” -AI가 설계자의 의도나 예상과 다른 결과물을 내놓는다면 결과적으로 인간이 AI를 통제할 수 없다는 것 아닐까. 국제규범 마련이 시급하다는 의견도 있다. “국제규범은 도움이 되지 않을 것이다. 무엇이 허용되고, 그렇지 않은지를 AI 시스템이 더 잘 이해할 수 있게 훈련시켜야 한다. 이 시스템을 적절하게 통제할 수 없다면 굳이 특정한(위험한) 용도나 목적으로 사용하지는 않을 것이다. 우리는 온갖 위험한 도구를 만들고, 그 결과를 감수하며 살아간다. 자동차를 예로 들어 보자. 교통사고로 수많은 사람이 목숨을 잃지만 편리함 때문에 자동차를 이용한다. AI 시스템도 마찬가지 아닐까.” -생성형 AI의 등장으로 인간이 묻고 AI가 답하는 시대가 됐다. 우리는 어떤 역량을 더 발전시켜야 할까. “생성형 AI로 인해 사람들은 이전보다 감독자, 관리자에 가까워질 것이다. 이 새로운 기술은 사람들이 기계로부터 나은 결과를 얻어내는 데 전문가가 되게 해 줄 것이다. 스프레드시트(숫자 표에서 계산 기능을 수행하는 프로그램) 사용법을 아는 것과 다르지 않다. 기술을 더 잘 활용할 수 있는 사람이 이러한 기술을 갖지 못한 사람에 비해 더 높은 평가를 받게 될 거다.” -사람들이 AI에 감정적 애착을 느낄 수도 있을 것 같다. AI를 유일한 대화 상대이자 친구로 느끼게 되면 인간과의 관계 맺기가 왜곡되지 않을까. “저는 AI와 교제하는 걸 ‘정서적 포르노’(emotional pornography)라고 부른다. 우리를 이전보다 더 고독하게 만드는 동시에 외로움을 줄여 줄 수도 있다. 얼마나 모순인가.” #오답 말하는 AI기대보다 ‘인간처럼 행동’ 문제여러 설정·훈련 통해 제어될 것 -정서적 포르노라고 표현한 건 AI와 매우 강한 감정적 유대를 형성하면서 사람들이 혼란을 겪게 되고, 정상적인 인간관계가 붕괴될 수 있다는 뜻인가. “포르노는 사람들이 실제 사람들과 상호작용하는 대신 사진을 통해 만족을 얻도록 한다. 정서적 포르노도 비슷하다. 실제 사람들과 교제하지 않고 컴퓨터 프로그램과 상호작용하면서 (관계에 대한) 필요를 충족시킬 것이다. 그렇게 되면 인류와도 단절되는 것이다.” -AI 기술 발전으로 로봇이 많은 일을 대체하면 ‘사람은 도대체 뭔가’라는 질문에 직면할 것 같다. AI 시대 인간다움은 무엇이라고 생각하나. “인류는 아무데도 가지 않는다. 걱정할 필요가 없다. 오늘날 우리는 더이상 가구, 옷 등을 만드는 숙련된 장인을 필요로 하지 않지만 그러한 기술을 가진 사람은 과거에 비해 훨씬 더 존경받으며 가치를 인정받는다. 생성형 AI도 우리를 가장 인간답게 만드는 일에 집중할 수 있게 해 줄 것이다.” #저작권의 새 정의사진 첫 발명 때 저작권 미적용AI 결과물도 법 보호받게 될 것 -생성형 AI가 내놓은 결과물이 인간의 창작 활동을 대체하면서 저작권 정의를 바꿔야 한다는 주장도 나온다. “AI 프로그램의 결과물도 저작권 보호를 받을 수 있게 법률을 바꿀 필요가 있다. 사진이 발명됐을 당시 사진가가 한 일은 ‘버튼을 누르는 것’뿐이었기 때문에 사진은 저작권이 있는 것으로 여겨지지 않았다. 지금 생각하면 말도 안 되는 얘기 아닌가. 생성형 AI에도 같은 일이 일어날 거다. 생성형 AI로 최상의 결과를 얻을 수 있는 사람은 매우 숙련된 사람으로 간주되고, 그들의 작업은 저작권의 보호를 받을 것이다.” -챗GPT 등장 이후 세계는 AI 경쟁에 돌입해 자국의 언어와 문화를 접목한 AI 모델을 만들고 있다. 앞으로 AI 주권을 지키는 현상이 더욱 강화될 것으로 예상된다. ‘AI 민족주의’는 불가피한가. “그렇다. 하지만 좋은 일이라고 생각한다. 사람들은 그들의 가치와 문화를 반영하는 제품(AI 모델)을 원할 것이다. 현지 기업은 멀리 있는 글로벌 기업보다 이러한 요구 사항을 더 잘 식별할 가능성이 높다. 이를 가장 잘 수행하는 회사나 제품이 현지 시장 내 경쟁에서도 이길 것이다.” #제리 캐플런 박사는? 제리 캐플런 박사는 미국 실리콘밸리에서 여러 기술기업을 창업했던 현장형 전문가다. 인공지능(AI) 분야 벤처기업 ‘테크놀리지’(Teknowledge)를 비롯해 ‘고 코퍼레이션’, ‘온세일’ 등을 공동 설립했다. 그는 현장 경험을 살려 일흔이 넘은 나이에도 여전히 강단(스탠퍼드대 겸임강사)에 서며 저술 활동을 하고 있다. 지난달 생성형 AI에 관한 책(‘Generative Artificial Intelligence: What Everyone Needs to Know’)을 새로 냈다. 한국어판(‘제리 카플란 생성형 AI: 지금 우리에게 필요한 것들’)은 올 상반기 내 나올 예정이다.

“저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다. 저 윤석열의 사전에 정치 보복은 있어도 민생은 없습니다” ‘윤석열 대통령 양심고백 영상’이란 제목으로 ‘가짜’ 윤석열 대통령 딥페이크(Deepfake·AI로 만든 이미지 영상 합성 기술) 영상물이 소셜미디어(SNS)에서 확산하자 경찰이 22일 방송통신심의위원회에 차단을 요청한 것으로 확인됐다. 방심위는 해당 영상을 ‘대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물’로 판단하고 긴급 심의에 착수했다. 서울경찰청은 최근 방심위에 공문을 보내 틱톡과 메타 등에 올라온 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’ 딥페이크 게시글의 삭제와 차단을 요청했다. 근거 조항은 방송통신위원회의 설치 및 운영에 관한 법률, 정보통신망 이용촉진 및 정보보호 등에 관한 법률, 정보통신에 관한 심의 규정이다. 경찰은 “같은 URL 주소를 통해 틱톡, 인스타, 페이스북 사이트 계정을 사용하는 회원이 문제의 영상 등을 게시한 것으로 확인돼 삭제·차단을 요청한다”고 밝혔다. 방심위는 해당 내용을 접수하고 오는 23일 긴급 통신 심의소위원회를 열어 해당 안건을 심의한 뒤 바로 삭제 및 차단 조치를 할 것으로 알려졌다.46초 분량의 영상 속 윤석열 대통령은 “존경하는 국민 여러분. 저 윤석열, 국민을 괴롭히는 법을 집행해온 사람이다. 무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”라고 말한다. 이어 “저 윤석열, 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”며 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”고 말했다. 그러면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다. 감사하다”며 연설을 끝맺는다. 이날 오후 4시 현재 틱톡에서 ‘윤석열 양심’을 검색하면 같은 게시글이 5개가량 검색된다. 영상 댓글에는 “이건 윤석열이 아니다”, “이거 만든 사람 처벌해야 한다”는 부정적 반응과 반대로 “정말 저렇게 인정하면 좋으련만”, “가짜가 진짜보다 좋다” 등의 반대 반응도 달렸다. 앞서 2022년에도 지방선거를 앞두고 윤 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 SNS를 통해 확산하면서 정치적 논란이 됐었다. 한편, 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

생성형 인공지능(AI)은 시·소설, 시나리오 등의 글쓰기부터 음악, 미술 등 예술 창작 전반에 활용되고 있다. 세계적으로 AI를 창작 도구로는 인정하고 있지만 저작권은 인간에게만 허용된다는 게 원칙이다. 국내 대중음악 창작에는 AI가 깊숙이 침투해 있다. 지니뮤직은 지난해 AI를 활용한 편곡 서비스 ‘지니리라’를 선보였고 김형석 작곡가는 AI 편곡 프로젝트를 진행 중이다. 국내에서는 이미 AI 저작권이 취소된 사례도 나왔다. 안창욱 광주과학기술원(GIST) 교수가 개발한 AI 작곡가 ‘이봄’(EvoM)이 곡을 쓴 노래 ‘사랑은 24시간’은 가수 홍진영이 불러 2021년 2월 음원이 공개됐다. 이와 관련해 한국음악저작권협회는 AI 작곡 사실을 확인하고 이봄에 대한 저작권 취소와 함께 저작권료 지급을 중단한 바 있다. 김현숙 한국음악콘텐츠협회 정책법률연구소장은 “AI가 작곡·작사한 음악은 원천적으로 지식재산권이 인정되지 않으며 AI 가창의 경우 실연권도 허용되지 않는다”며 “창작자들이 AI를 보조 수단으로 사용한 경우에만 저작권 등록이 가능하다”고 말했다. AI가 쓴 시와 소설 역시 저작권이 인정되지 않는다. 창작물이 아닌 기존 작품들을 활용한 ‘산출물’에 불과하다는 판단 때문이다. 지난해 9월 미국 작가협회가 챗GPT 개발사 오픈AI를 상대로 제기한 기존 저작물의 무단 학습 소송 결과가 나오면 저작권 다툼의 기준이 확립될 것으로 전망된다. 이정화 민음사 편집자는 “생성형 AI를 창작에 활용하는 작가가 늘어나는 건 간과할 수 없는 시대적 흐름이지만 민감한 ‘2차 저작 인용’ 문제를 출판계도 예의 주시하고 있다”고 말했다. 국내에서도 지난해 11월 웹툰 작가를 주축으로 국회가 논의 중인 ‘AI 학습 면책권’ 도입에 반대하는 입장을 표명한 바 있다. 이들은 “‘TDM’(텍스트와 데이터 마이닝) 면책 규정이 무분별하게 도입되면 AI가 기존 웹툰들을 무단 학습해 상업적으로 무차별 이용할 것”이라고 우려했다. AI가 그린 그림과 사진 작품도 이미 법적 판단이 나오거나 피소되는 상황에 부닥쳤다. 지난해 8월 미 연방법원은 AI로 만든 미술 작품에 대한 저작권을 불허하는 첫 판결을 낸 바 있다. 정준모 미술평론가는 “최근 유명 예술비평가 제리 살츠가 로마에서 AI 작품을 구매하면서 논쟁이 붙었지만 진짜 미술품으로 판단할 수 있는지는 여전히 논쟁의 영역”이라고 지적했다. 지난해 12월 생성형 AI 저작권 안내서를 발간한 문화체육관광부는 AI의 데이터 학습과 관련한 저작권 보호 기술 개발에 나서고 있다. 유럽연합(EU) 역시 지난해 12월 AI 콘텐츠에 대한 워터마크 의무화 법안을 통과시켰고, 우리 국회에도 AI 콘텐츠의 표기를 의무화하는 콘텐츠산업진흥법 개정안이 발의된 상태다. 앞으로 AI 창작물의 경우 AI가 얼마나 관여했는지 판별하는 기술이 중요해질 전망이다. 저작권 이슈가 첨예한 창작물의 경우 표절 여부부터 해당 창작물에 대한 AI의 참여율을 수치화하는 판정 기술이 절대적으로 필요하다는 인식이 커지고 있다.

대전 한국과학기술원(KAIST·카이스트) 동문들이 지난 16일 열린 학위수여식에서 졸업생이 윤석열 대통령에게 항의하다 강제 퇴장당한 사건과 관련해 대통령경호처를 고발했다. 카이스트 동문들은 20일 오전 서울 서대문구 경찰청 국가수사본부 앞에서 기자회견을 열고 대통령 경호처장과 직원 등을 대통령경호법상 직권남용, 폭행·감금죄 등으로 고발한다고 밝혔다. 고발인은 2004년도 카이스트 총학생회장이자 더불어민주당 예비후보인 김혜민씨, 카이스트 산업경영학과 96학번 주시형 전남대 산업공학과 교수를 비롯해 총 26명이다. 고발대리인인 김동아 변호사는 “민주주의 국가라면 대통령의 정책에 항의하고 소리치는 것은 당연한 국민의 권리”라며 “피해자가 대통령을 위해할 어떤 의사나 도구도 없이 단지 R&D(연구·개발) 예산 삭감을 항의하기 위해 잠시 소리친 데 대해 국가 권력을 동원해 과도하게 제압한 국가 폭력 사건이다. 끝까지 책임을 추궁하겠다”고 고발 취지를 밝혔다. 주 교수는 “대통령 경호처 직원들은 말로 항의한 학생에게 물리력을 동원해 집단 폭행했다”며 “이러한 행위는 헌법과 법률이 국가기관에 부여한 권한을 남용·과잉 행사해 국민의 기본권, 특히 신체의 자유와 표현의 자유를 침해한 심각한 폭력 행위”라고 지적했다. 이어 “폭력 행위에 직접 가담한 대통령 경호처 직원들은 물론 지휘 책임이 있는 경호처장과 대통령이 이를 묵인·방조한 것은 아닌지 법에 따라 철저히 밝혀지고 이들이 합당한 책임을 지길 기대한다”고 덧붙였다.김씨는 “이번 사건을 계기로 우리 동문은 힘을 합쳐 R&D 예산을 복원하고 대통령실 경호처장의 경질을 이뤄내고 대통령의 사과를 받아내도록 끝까지 싸울 것”이라고 말했다. 지난 16일 카이스트 학위수여식에서 졸업생 신민기 녹색정의당 대전시당 대변인은 윤석열 대통령의 축사 도중 소리를 질러 퇴장당했다. 그는 윤 대통령이 “과학 강국으로의 퀀텀 점프를 위해 연구개발(R&D) 예산을 대폭 확대하겠다”고 하자 “생색내지 말고 R&D 예산을 복원하라”고 외치다 사복 경호원들에 의해 행사장 밖으로 끌려 나갔다. 이날 카이스트 대학원인권센터는 성명문을 통해 “이번 학위수여식에서 발생한 과잉대응과 폭력적 행위를 규탄하며 대통령실에 이번 사태의 잘못에 대한 인정과 공식적인 사과를 강력히 촉구한다”고 밝혔다. 이들은 “이번 과잉대응 사건은 우리 구성원에 대한 명백한 인권침해이며 나아가 대한민국 이공계 발전에 이바지하는 많은 연구자에게 큰 실망감과 무력감을 준 개탄스러운 일”이라며 “이번 학위수여식에서 발생한 과잉대응 사건에 대해 우리 카이스트 구성원은 결코 좌시하지 않을 것”이라고 강조했다.