인공지능(AI) 시대가 열리면서 ‘10년이면 강산이 변한다’는 얘기는 옛말이 됐다. 챗GPT의 등장이 그랬듯이 1년 만에 강산이 변할 정도로 AI는 우리 사회를 급속도로 바꿔 놓고 있다. AI가 업무 곳곳에 활용되면서 생산성, 효율성이 높아지고 ‘언어의 장벽’도 무너지고 있다. AI가 가져온 축복이 상당하지만 저주의 위험성 또한 무시 못 한다. AI가 만들어 낸 가짜뉴스 폐해부터 딥페이크로 인해 진짜와 가짜를 구별하기 어려운 세상이 도래했다. 궁극적으로 인간을 닮은 기계를 구현하고자 하면서도 인간의 결함이 없는 기계를 두려워하는 인류의 모순 앞에서 AI는 이 시대에 ‘인간다움이 무엇인지’ 질문을 던졌다. 서울신문은 새해를 맞아 ‘AI 블랙홀 시대: 인간다움을 묻다’를 주제로 10회에 걸쳐 AI가 우리 삶에 미치는 영향을 다각적으로 살펴본다.국민 1000명에게 AI 기술 발전이 세상을 더 좋은 방향으로 바꿀지, 더 나쁜 방향으로 바꿀지를 물었다. 3명 중 2명이 긍정적 전망을 내놓았다. 부정적 전망은 4명 중 1명에 그쳤다. AI로 발생하는 여러 문제에도 불구하고 이를 상쇄시킬 수 있는 순기능이 더 크다고 본 것이다. 서울신문이 비영리 공공조사 네트워크 공공의창, 여론조사기관 리서치DNA와 함께 지난달 26~27일 만 18세 이상 남녀 1000명을 대상으로 자동응답방식(ARS) 전화 조사를 한 결과 전체 응답자의 66.2%가 ‘AI 기술 발전이 세상을 더 좋은 방향으로 바꿀 것’이라고 답했다. ‘더 나쁜 방향으로 바꿀 것’이란 응답은 22.9%, ‘잘 모르겠다’는 10.9%였다. ‘더 늦지 않게 AI를 활용하는 방법을 배워야 한다’는 의견에는 80.5%가 공감한다고 했다. 60세 이상 응답자 중에서도 77.6%가 AI 활용법을 배워야 한다는 데 동의했다.AI가 환경 보호·기후변화 대응(긍정 비율 80.6%), 의료 서비스 개선(77.1%), 교통 관리·안전 향상(75.4%), 교육 개선(62.8%) 등 사회문제 개선에 도움이 될 것이란 의견이 우세했다. 반면 AI가 인간관계 약화(77.2%), 개인정보·프라이버시 침해(76.6%), AI의 편향성과 차별(76.4%), 일자리 감소로 인한 불평등 증가(69.7%) 등 사회문제를 악화시킬 것이란 의견에도 10명 중 7명이 동의했다. 김기수 리서치DNA 대표는 “AI의 편익과 위험에 대해 매우 높은 공감대가 병존하고 있다”고 지적했다. 눈에 띄는 대목은 AI로 인한 사회문제 악화에 동의한 응답자 중 3분의2가 “그래도 AI 기술이 세상을 더 좋은 방향으로 바꿀 것”이라고 내다봤다는 점이다. ‘AI 빅뱅’ 저자인 김재인 경희대 비교문화연구소 교수는 “AI는 인간의 역량을 증강시키는 기술이라고 본다. 인간의 기본 역량에 집중해야 하는 이유”라면서 “인간관계를 맺고 경청하고 배려하고 함께 해나갈 수 있는 능력이 더 중요해질 것”이라고 전망했다.

중국이 오는 13일 대만 대선에서 친중 후보를 당선시키기 위해 야당인 국민당에 기부하도록 했다는 주장이 제기됐다. 1일 자유시보 등 대만언론은 대만 정부 관계자를 인용해 중국 내 전국대만동포투자기업연합회(이하 연합회) 상무 부회장이 중국 당국 요청으로 연합회 소셜미디어(SNS) 단체대화방에 이같은 내용을 담은 글을 올렸다고 보도했다. 연합회 상무 부회장은 이 글에서 친중 성향 제1야당인 국민당의 정치헌금 특별계좌를 적고 1만 200 대만달러(약 42만원) 이상의 소액 기부를 요청했다. 이 부회장은 중국에서 활동하는 대만 기업인들의 기부금을 확인할 수 있도록 끝자리 금액을 200 대만달러(약 8000원)로 맞춰달라고 요청한 것으로 알려졌다. 그러자 친미, 대만 독립 성향의 집권 여당인 민진당 측은 “대만 기업인들은 국민당에 기부하지 않으면 보복을 받을까 두려워하는 어려운 입장에 놓이게 됐다”고 주장했다. 대만의 정치 기부금법에 따르면 개인과 기업은 연간 최대 30만 대만달러까지 기부할 수 있다.자유시보는 중국이 다음 주 토요일 이뤄지는 대만 선거에서 친중 후보의 당선을 위해 중국에 기반을 둔 대만 기업인들이 고향으로 돌아가 국민당에 투표하기를 바란다고 지적했다. 민진당의 한 의원은 “정치 기부금은 공개 정보이므로 중국에서 활동하는 대만 기업인들의 기부금을 식별하기 위해 구체적 금액을 요구하는 것은 위협으로 보일 수 있다”고 비판했다. 이어 폭로된 기부금 제안은 “중국에서 사업을 하고 싶다면 국민당에 기부하고 국민당에 투표해야 한다”는 내용의 중국식 표현이라고 덧붙였다. 안보전문가인 랴오훙샹 전 대만 국방대 교수는 선거를 앞두고 중국이 인공지능(AI)으로 만든 딥페이크 동영상을 내놓을 수 있다고 경고했다. 랴오 교수는 숙련된 컴퓨터 사용자가 아니더라도 손쉽게 가짜 동영상을 만들 수 있으며, 예를 들어 대선 후보가 뇌물을 받는 모습을 보여주는 딥페이크 동영상은 그것이 가짜라고 빨리 발표되더라도 유권자들의 마음에 의심을 낳을 수 있다고 주장했다. 그는 “중국이 대만 선거에 개입할 기회를 기다리고 있는 만큼 예측할 수 없는 위험이 연일 나타나고 있다”며 “이러한 위협은 대만 민주주의의 기초에 관한 것이기 때문에 가볍게 여겨서는 안 된다”고 덧붙였습니다. 한편 국민당 측은 민진당의 기부금 강요 의혹 주장에 “뒷받침할 증거를 제공하지 않으면, 국민당에 대한 흑색선전에 지나지 않는다”고 반박했다. 대만 총통 선거(대선)는 오는 13일 입법위원 선거와 함께 치러지며 차기 총통은 5월 20일 차이잉원 현 총통의 뒤를 이어 임기를 시작한다.

韓·美·유럽 등서 국가 단위 선거몇 초면 가짜 음성·영상 등 생산 각국 규제·단속 기술 등 미비 미 대선과 한국 총선 등 전 세계 47개국에서 선거가 치러지는 2024년을 목전에 두고 챗GPT 등 생성형 인공지능(AI)을 악용한 가짜뉴스와의 전쟁이 현실로 닥쳤다. 가짜 영상·음성을 단 몇 초 만에 만들어 내는 AI 딥페이크 기술이 한층 정교해지면서 선거를 앞두고 여론을 선동, 조작하는 허위 정보가 판을 칠 것이라는 경고가 나온다. 명백한 가짜는 물론 사실과 주장의 경계가 모호한 선전 선동에도 딥페이크가 동원되면 민주주의의 설 자리가 더 위태로워진다는 우려도 제기되고 있다. 미 언론들은 내년에 있을 대선이 딥페이크가 본격 동원되는 사상 최초의 선거가 될 것으로 내다보고 있다고 AP통신이 26일(현지시간) 전했다. 이를 제어할 안전장치가 전보다 약해졌거나 정부 차원의 규제가 아직 미진한 탓에 가짜뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 지적이다. 딥페이크가 선거와 정치판을 뒤흔드는 사례는 널렸다. 양측 진영이 대립하고 선거전이 치열할수록 딥페이크 활용은 잦아진다. 미국 공화당전국위원회는 지난 5월 30여초짜리 선거 광고를 공개하면서 중무장한 채 샌프란시스코 거리를 순찰하는 미군, 남부 국경을 점령한 이민자들, 대만을 폭격한 중국 전투기 등의 이미지를 담았다. 조 바이든 행정부에서 일어나는 디스토피아를 나타낸 것인데, AI가 만든 가짜 이미지였다. 지난 9월 총선을 치른 슬로바키아에서는 친미 성향의 야당 대표인 미할 시메츠카의 “우리 당이 선거에 이기려면 (소외 계층인) 로마족에게 돈을 줘야 한다”는 음성 파일이 파장을 불렀다. 이 역시 가짜였다. 당사자들은 즉각 반발했지만 투표 이틀 전에 나온 터라 선거에 영향을 미쳐 친러시아 성향 야당의 승리를 견인했다고 프랑스24 등은 전했다. 슬로바키아는 친러 선동과 우크라이나 전쟁 거짓 정보, 반이민을 부추기는 혐오 콘텐츠 등 허위 정보로도 선거가 얼룩졌다. 미중 대리전 격인 대선(2024년 1월 13일)을 앞둔 대만에서는 중국산 동영상 플랫폼 틱톡(중국명 더우인)에서 독립 성향 민진당 후보를 겨냥한 가짜 정보가 활개를 치고 있다. 대만의 의무 군복무 기간이 내년부터 기존 4개월에서 1년으로 늘어나는데, 이를 두고 “대만 청년들은 군 복무 연장에 항의하고 전쟁을 반대하나 민진당이 청년들을 ‘대만 독립’의 사료로 삼고 있다”는 중국 측 주장을 담은 동영상이 유포되고 있는 것이다. 한국의 국가정보원 격인 대만 국가안전국에 따르면 지난해 1400개였던 가짜 정보가 올해는 최소 1800개로 늘어났다. 이들 가짜 정보는 틱톡, 인스타그램, 페이스북, 유튜브 등으로 유통됐다. 미국에서도 사법 재판에 휘말린 도널드 트럼프 전 대통령이 경찰에 체포되는 가짜 영상이 출현했다. AI 전문가인 워싱턴대 오런 에치오니 명예교수는 “(고령인) 대선 후보 바이든 대통령이 병원에 실려 가는 모습도 나올 수 있다”면서 “내 예상이 틀리면 좋겠지만, 재료는 널려 있고 나는 정말 겁이 난다”며 가짜 정보 홍수에 대한 불안감을 드러냈다. 하지만 규제는 기술 발전을 따라가지 못하는 추세다. 소셜미디어 업체들은 가짜뉴스 감시정책이 전반적으로 후퇴했고 AI 기술이 가장 앞선 미국에서도 아직 각 주에 단속을 맡기는 상황이다. 지난해 10월 옛 트위터(X)를 인수한 일론 머스크 테슬라 최고경영자는 콘텐츠 감시 인력을 대규모 해고하고 차단됐던 음모론·극단주의자들의 계정은 ‘표현의 자유’를 들어 복원했다. 페이스북·인스타그램 모회사인 메타와 유튜브 역시 최근 비용 절감을 위해 인력을 줄였다. 기술·미디어 분야 비영리 단체 ‘프리프레스’는 X와 메타, 유튜브에서 혐오 콘텐츠, 허위 정보와 관련해 미디어 보호 정책을 없앤 사례는 총 17개에 이른다고 집계했다. 가짜 정보를 걸러 내겠다면서 적용한 수단은 AI 라벨링 정책으로 제작자가 AI인지 아닌지를 가려내는 정도다. 미국은 연방 의회와 연방 선거관리위원회 차원에서 AI 생성 기술 규제 조치를 모색하고 있지만 아직은 확정된 게 없다고 AP통신은 전했다. 다만 연방 상원에 민주·공화당이 초당적으로 공동 발의한 법안에서는 “패러디, 풍자를 제외하고 연방 후보와 관련된 기만적인 딥페이크를 금지한다”는 내용을 담았다. 주별로는 캘리포니아, 미네소타, 텍사스, 워싱턴주 등이 정치 광고의 딥페이크를 규제하는 법안을 통과시켰다. 비영리 단체인 ‘퍼블릭 시티즌’에 따르면 일리노이, 뉴저지, 뉴욕주 등에서도 유사한 법안이 발의됐다. 미시간주의 경우 지난달 그레천 휘트머 주지사가 ‘선거 전 90일 이내 AI로 생성된 딥페이크 사용을 금지하고 정치 광고가 AI를 사용해 제작됐는지 여부를 명확히 밝혀야 한다’는 법안에 서명했다. 이를 위반하면 초범은 최대 93일 징역형, 최대 1000달러의 벌금형에 처한다. 언론과 정당에 대한 불신이 높은 나라일수록 대중들에게 침투하기 위해 AI를 활용한 딥페이크가 활개 칠 가능성이 높다. 허위 정보를 추적하는 초당파적 단체 ‘민주주의 안전 연합’의 브렛 셰퍼 선임 연구원은 “민주주의에 대한 유권자들의 불신이 커지면서 폭력으로 이어질 수 있다”며 “사람들이 궁극적으로 선거 정보를 신뢰하지 않으면 민주주의는 작동을 멈추게 된다. 인구의 상당수가 영향을 받는다면, 2021년 1·6 미 의회 난입 사태는 워밍업처럼 보일 것”이라고 경고했다.

앞으로 선거일 전 90일부터 선거일까지 인공지능(AI)을 활용한 인간 이미지 합성 기술인 ‘딥페이크’를 이용한 가상의 음향, 이미지 또는 영상 등을 제작·편집·유포·상영·게시하는 행위가 금지된다. 어기면 7년 이하의 징역이나 1000만원 이상 5000만원 이하의 벌금형을 받는다. 금지 기간이 아닌 때에는 가상의 정보라는 사실을 명확하게 인식할 수 있도록 표기해야 한다. 최근 국회를 통과한 공직선거법 개정안의 골자다. 현행 선거법에 없던 딥페이크 영상과 관련된 신규 규제로 유권자들이 오인할 딥페이크를 활용한 여론조작 행위를 응징하겠다니 환영할 일이다. 수많은 사람이 이용하는 인터넷 공간에서 딥페이크 사진이나 영상 제작을 가능하게 하는 AI 기술은 공정 선거의 최대 적이나 다름없다. 최근 빅테크의 AI 챗봇이 제공하는 선거 관련 정보의 30%가 엉터리라는 연구 결과가 나왔다. 사퇴한 미국 대선 후보를 유력 후보로 제시하는 등 사실을 왜곡했다고 한다. 이 때문에 구글은 내년부터 선거 관련 질문에 대한 자사의 AI 답변을 검증된 후보자, 투표방법, 장소 등으로 제한하기로 했다. 딥페이크 등을 활용한 여론조작을 막으려면 신속한 수사체계부터 구축해야 한다. AI 기술이 발전할수록 가짜와 진짜 구분은 힘들어지고 그만큼 돈벌이나 정치적 목적을 위해 딥페이크 조작에 나설 사람들도 늘 것이다. 2002년 16대 대선 당시 나온 이회창 후보에 대한 병역비리 의혹은 조작된 것으로 최종 판명 났지만 이 후보 낙선이라는 선거 결과를 뒤집지 못했다. 내년 총선에서는 이런 여론조작이 더욱 고도화, 다각화할 가능성이 높다. 대응 속도가 관건인 만큼 중앙선거관리위원회과 수사당국은 신속 대응체계 구축을 서두르기 바란다.

국회는 20일 오후 본회의를 열고 정치자금법·공직선거법 개정안 등을 포함한 130여건의 법안을 처리했다. 더불어민주당은 이날 안건으로 오르지 못한 ‘쌍특검법’(대장동 50억 클럽·김건희 여사 주가조작 의혹)과 이태원 참사 특별법 같은 쟁점 법안을 연내 처리하겠다고 강조해 정쟁 국면은 연말까지 이어질 것으로 전망된다. 이날 본회의에서는 여성추천보조금 지급 구간을 세분화하고 여성 정치 발전을 위한 경상보조금의 용도를 구체적으로 명시하는 내용의 정치자금법 개정안이 통과됐다. 현행법은 정당이 받은 경상보조금 총액의 10% 이상을 여성 정치 발전을 위해 사용하도록 규정하고 있는데 구체적 용도를 정하지 않아 대부분이 인건비에 지출되는 등 실효성이 떨어진다는 지적<서울신문 8월 28일자 1·4·5면>이 제기된 데 따른 것이다. 아울러 성범죄·강력범죄 전력이 있으면 배달대행 기사로 일할 수 없도록 하고 배달대행업체가 범죄 경력을 조회할 수 있도록 하는 생활물류서비스산업발전법 개정안도 가결됐다. 선거일 90일 전부터 ‘딥페이크’ 기술을 활용한 선거운동을 금지하는 내용의 공직선거법 개정안도 본회의를 통과했다. ‘AI(인공지능) 윤석열’, ‘AI 이재명’ 등 AI를 활용해 합성·편집한 영상물을 해당 기간에는 유세에 쓰면 안 된다. 이 밖에 개인 채무자의 연체이자 부담을 낮춰 주는 개인채무자보호법 제정안, 유전자 검사일로부터 10년이 경과한 유전 정보도 보존할 수 있도록 하는 실종아동보호법 개정안 등이 본회의에서 가결됐다. 민생 법안 처리를 위해 여야 원내수석부대표와 정책위의장으로 구성한 ‘2+2 협의체’는 전날 3차 회의를 열고 정당별로 10개씩 제시한 법안을 검토했지만 합의에 이르지는 못했다. 이와 별도로 지난 4월 민주당 주도로 신속처리안건(패스트트랙)으로 지정된 쌍특검법 역시 국민의힘이 반대하더라도 22일까지 상정되지 않으면 그 후 열리는 첫 본회의일인 오는 28일에 자동 상정된다. 윤영덕 민주당 원내대변인은 이날 의원총회 이후 기자들을 만나 “본회의에 부의돼 있는 쌍특검법, 이태원 참사 특별법도 연내 처리를 위해 최선을 다할 생각”이라고 말했다.

국회는 20일 오후 본회의를 열고 정치자금법·공직선거법 개정안 등을 포함해 130여건의 법안들을 처리했다. 더불어민주당은 이날 안건으로 오르지 못한 ‘쌍특검법’(대장동 50억 클럽·김건희 여사 주가조작 의혹)과 이태원참사 특별법 같은 쟁점 법안을 연내 처리하겠다고 강조해 정쟁 국면은 연말까지 이어질 전망이다. 이날 본회의에서는 여성추천보조금 지급 구간을 세분화하고, 여성정치발전을 위한 경상보조금의 용도를 구체적으로 명시하는 내용의 정치자금법 개정안이 통과됐다. 현행법은 정당이 받은 경상보조금 총액의 10% 이상을 여성 정치 발전을 위해 사용하도록 규정하고 있는데, 구체적 용도를 정하지 않아 대부분이 인건비에 지출되는 등 실효성이 떨어진다는 지적<서울신문 2023년 8월 28일 자 1·4·5면>이 제기된 데 따른 것이다. 선거일 90일 전부터 ‘딥페이크‘(Deepfake) 기술을 활용한 선거운동을 금지하는 내용의 공직선거법 개정안도 본회의를 통과했다. ‘AI(인공지능) 윤석열’, ‘AI 이재명’ 등 AI를 활용해 합성·편집한 영상물을 해당 기간에는 유세에 쓰면 안 된다. 이 밖에 민사소송에서도 항소이유서 제출을 의무화하는 민사소송법 개정안, 특별사법경찰관리의 지명 대상자와 직무 범위를 확대하는 사법경찰직무법 개정안, 유전자 검사일로부터 10년이 경과한 유전 정보도 보존할 수 있도록 하는 실종아동보호법 개정안 등이 본회의에서 의결됐다. 민생 법안 처리를 위해 여야 원내수석부대표와 정책위의장으로 구성한 ‘2+2 협의체’는 전날 3차 회의를 열고 정당별로 10개씩 제시한 법안을 검토했지만 합의에 이르지는 못했다. 오는 28일 본회의에서 처리될 가능성이 있다. 이와 별도로 지난 4월 민주당 주도로 신속처리안건(패스트트랙)으로 지정된 쌍특검법 역시 국민의힘이 반대하더라도 22일까지 상정되지 않으면 그 후 열리는 첫 본회의인 28일에 자동 상정된다. 윤영덕 민주당 원내대변인은 이날 의원총회 이후 기자들을 만나 “본회의에 부의돼 있는 쌍특검법, 이태원참사 특별법도 연내 처리를 위해 최선을 다할 생각”이라고 말했다.

‘딥페이크(deepfake)’ 기술로 사진 속 여성의 옷을 벗기는 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있다. 딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다. 10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다. 그래피카에 따르면 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다. 딥페이크 앱과 웹사이트에 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지가 뜬다. 사진 속 인물 대부분은 여성이다. 외신은 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다.구글은 이 같은 문제에 대해 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다. 디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 말했다. AI 기술 발달이 이 같은 딥페이크 앱이 범죄에 악용될 수 있다는 우려를 심화시키고 있다. 온라인상에서 당사자의 동의 없이 사진을 가져와 나체 사진 등 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.실제 한 인터넷 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다는 내용으로 성희롱을 조장하고 있다. 우리나라에서도 최근 여성 지인의 얼굴을 음란물에 합성해 SNS에 퍼뜨린 20대 남성 A씨가 경찰에 붙잡혔다. 경찰에 따르면 A씨는 익명의 SNS 계정을 통해 피해자에게 ‘삭제를 원하면 자신의 노예가 되거나 직접 사진을 찍어 보내라’고 위협하기도 했다. 우리나라는 성폭력 처벌법 제14조의2는 허위 영상물을 편집, 합성, 가공할 경우 5년 이하, 5000만원 이하 형에 처하도록 규정하고 있고, 판매할 경우 7년 이하 징역형에 처할 수 있도록 하고 있다. 다만 딥페이크 관련 처벌법은 지난해 성폭력범죄의 처벌 등에 관한 특례법 일부개정법률로 신설되었으나 제작 또는 반포한 자에 한하여 처벌한다는 점에서 딥페이크 포르노를 소비한 ‘단순 이용자’에 대한 처벌 규정이 전무한 상황이다. 한편 2019년 네덜란드의 사이버 보안연구 회사인 딥트레이스가 발간한 보고서에 따르면 전 세계 딥페이크 영상의 96%가 포르노 영상이었다. 또 피해자의 25%는 한국 여성 연예인이었다는 사실이 드러났다.

정보통신정책연구원(KISDI, 원장 배경율)은 과학기술정보통신부(장관 이종호)와 7일 포스트타워 대회의실에서 ‘제3회 디지털 대전환 메가트렌드 컨퍼런스’를 개최했다. 과학기술정보통신부와 정보통신정책연구원은 올 한 해 동안 지난 1, 2차연도 메가트렌드 연구에서 디지털 대전환의 방향성으로 제시하고 있는 ‘디지털 공동번영사회’로의 이행을 위해, 새로운 디지털 질서를 정립하고 현 한국사회에 필요한 미래전략을 제시했다. 디지털 대전환 메가트렌드 연구는 한국통신학회, 한국정보과학회, 대한전자공학회, 정보통신정책학회, 한국경영학회, 한국행정학회, 한국정책학회, 한국사회학회, 한국정치학회 등 국내 학회들과 협동연구 형식으로 진행됐으며, 산학연의 전문가들이 연쇄적인 합동 세미나를 개최하며 디지털 대전환 메가트렌드의 영역별 변화상과 중장기 정책 수요를 연구해왔다. 2023년도 연구는 디지털 심화시대의 새로운 질서 정립 및 법제도 정비, 미래 전략 도출을 위한 연구에 중점을 두고 추진됐다. 이날 정보통신정책연구원 배경율 원장은 개회사를 통해 “인공지능을 중심으로 하는 새로운 디지털 기술이 개발·활용되면서 다양한 기회와 함께 디지털 격차, 개인정보 유출 등 새로운 사회적 문제에 직면하고 있다”라며 우리나라가 “글로벌 디지털 규범을 선도할 수 있으려면 디지털 전환의 혜택을 정의롭고 공정하게 누리기 위한 노력을 지속해야 한다”라고 밝혔다. 먼저 1부 세션에서는 대표 발제를 맡은 정보통신정책연구원 디지털경제사회연구단 김정언 선임연구위원이 ‘디지털 공동번영사회 실현을 위한 새로운 질서 정립과 미래전략’을 발표한 뒤, 각 학회가 발표하는 세션으로 이어졌다. 김정언 선임연구위원은 대표발제에서 디지털 대전환의 사회경제적 파급효과를 진단하고 기술, 산업·경제, 공공·행정, 사회·제도 등 영역별 변화상을 살펴보며 디지털 심화 시대에서 국민의 기본권 보호를 위한 입법 개선과제를 도출·제시했다. 또한 대국민 인식조사와 전문가 설문조사를 통해 디지털 관련 국민 역량 측정 및 권리 인식을 조사하고, 디지털 심화 양상 진단, 우리나라의 디지털 메가트렌드 대응 역량 진단, 관련 정책 대응 방향 등에 관한 결과를 공유했다. 마지막으로 디지털 공동번영사회를 실현하기 위한 디지털 혁신과 성장기반 조성, 지속 가능한 사회안정성 확보, 디지털 시민권의 확립, 공공영역의 변화 대응 탄력성 제고, 선도적 글로벌 협력·연대 리딩, 정보 범람과 탈진실 사회 대응, 인간 고유성에 대한 새로운 고찰이라는 일곱 가지 미래 전략을 제안했다. 2023년 일반 시민을 대상으로 성, 연령, 지역을 할당한 표본을 온라인 조사(갤럽)한 결과 디지털 시대에 시민의 권리나 개인적 이익을 보호하기 위한 국가의 의무나 책임에 대한 기대치가 과거에 비해 높아진 편(53.9%)이라는 응답이 가장 많은 것으로 나타나 디지털 심화에 다른 정부 차원의 적극적인 대응이 요구됨을 보여줬다. 새로운 디지털 질서 정립 시 가장 먼저 다뤄야 할 이슈로 경제 분야에서는 ‘디지털 자산에 대한 소비자 보호 법적 근거 마련’(28.9%)이, 사회 분야에서는 ‘인공지능이 출력한 결과물에 대한 지식재산권, 저작권, 발명권에 대한 허용 여부’(24.3%)가, 문화/정치 분야에서는 ‘가짜뉴스/허위정보 등으로 인한 정치적 갈등’(27.6%)과 ‘딥페이크 기술을 활용한 허위 영상의 확산’(27%)이 각각 가장 높게 나타나, 시민들이 중요하게 생각하는 의제들의 우선순위를 확인했다. 2부 세션에서는 ‘기술혁신과 제도 정립방안 연구’라는 주제로 ‘미래 ICT 핵심기술 발전 방향과 기술혁신 요소’, ‘AI기반 전방위적 자동화 시대의 혁신, 경쟁, 포용적 성장’,‘디지털 시대 메타 거버넌스 구축을 위한 중앙-지방정부의 역할’의 발표와 토론이 이어졌다. 2부 세션의 첫 번째 발제를 맡은 한국외국어대학교 정보통신공학과 정성호 교수는 디지털 기술의 급속한 진화에 따른 미래 사회변화를 6G, 양자인터넷, 인공지능, 메타버스 등 미래 핵심 기술의 발전방향 및 관련 이슈를 살펴보며 전망하고, 새로운 디지털 질서 정립을 위한 해당 기술별 혁신 요소와 관련 정책 방향을 논의했다. 두 번째 발제에서 경희대학교 경영대학 김도훈 교수는 일반 인공지능의 확산으로 AI가 사회·경제에 미치는 영향에 대해 분석, 이러한 흐름으로 인한 노동의 과잉 대체와 같은 사회·경제적 딜레마를 데이터세(data tax)와 AI-로봇세(AI-robot tax)와 같은 생산·서비스 활동에 직접 영향을 미치는 과세로 해결하는 방안을 제시함과 동시에 포용적 성장의 가능성에 대해서도 검토했다. 다음으로 아주대학교 행정학과 김서용 교수는 기존에 볼 수 없었던 복잡한 사회문제 해결을 위해 문제해결 대상과 영역에 그 형상이 유동적으로 변화하는 조정 거버넌스와 초월적 거버넌스를 메타 거버넌스라는 개념을 통해 설명했다. 다양한 사례분석을 통해 전통적 거버넌스를 벗어나 메타 거버넌스가 형성되고 있다는 점을 확인, 그 성공적 전환을 위해 관료, 기업가, 시민들의 행태 변화를 비롯한 기존 행정 및 정책 틀의 근본적 변화를 제언했다. 이어지는 종합토론에서는 이경원 교수(정보통신정책학회 차년도 학회장, 동국대학교 경제학과)의 사회로 홍인기 교수(한국통신학회장, 경희대학교 전자공학과), 이희정 교수(정보통신정책학회장, 고려대학교 법학전문대학원), 이덕로 교수(한국행정학회장, 세종대학교 행정학과)가 각 학회 연구책임자에 관한 토론을 진행했다. 3부 세션에는 ‘디지털 보안, 디지털금융과 글로벌 규범’이라는 주제로 ‘새로운 질서를 위한 데이터 보호 및 보안 기술’, ‘디지털 금융의 경제적 영향 및 이슈와 쟁점’,‘디지털 심화에 따른 정치적 분극과 갈등해결 방안 모색’의 발표가 마련됐다. 3부 세션의 첫 발제는 한성대학교 컴퓨터공학부의 허준영 교수가 맡아 새로운 디지털 하에 상호신뢰를 구축하는 데 필요한 규범과 이를 뒷받침해 줄 사이버 보안 기술을 중심으로 설명했다. 특히 최근 주목받고 있는 제로트러스트와 인공지능 활용 보안, 신뢰 가능 인공지능, 공급망 보안을 중심으로 소개했고, 이런 기술에 대한 미래 전망과 관련 R&D 전략과 정책 방향에 대해서도 제시했다. 뒤이어 이화여자대학교 경영대학의 양희동 교수는 디지털 금융의 발전 및 현재 상황에 대해 포괄적으로 조명하여, 디지털 금융의 기본적인 정의에서부터 금융산업 변화의 주요 트렌드, 도전, 기회, 미래 전망을 설명했다. 특히 디지털 자산 시장의 성장이 금융산업의 혁신과 성장을 주도한다면서 정부의 디지털금융 전환 지원을 촉구함과 동시에 디지털 금융 생태계를 고려한 전략 수립을 제시했다. 세 번째로 대구가톨릭대학교 정치외교학과의 장우영 교수는 한국정치가 사회정치적 양극화를 넘어 분극화의 위기에 직면하고 있으며, 자유 공론장을 위협하는 허위조작정보(disinformation), 디지털 플랫폼 정부의 민주적 통제 등의 현상이 디지털 심화 환경에서의 민주주의와 헌정체제의 혁신을 요청하고 있다고 강조했다. 빅데이터 분석을 통해 한국사회의 정치양극화 추세와 구조를 밝히며 정보의 투명성과 디지털 권리 강화의 필요성을 제기했다. 3부 세션의 종합토론은 조화순 교수(한국정치학회 차년도 학회장, 연세대학교 정치외교학과)의 사회로 이원준 교수(한국정보과학회장, 고려대학교 정보보호대학원), 김재구 교수(한국경영학회장, 명지대학교 경영학과), 최아진 교수(한국정치학회장, 연세대학교 국제학대학원)가 디지털 심화시대의 새로운 질서 정립을 위한 방안을 토론했다. 마지막 세션에는 ‘노동 및 교육 그리고 기술 규범’이라는 주제로 ‘새로운 디지털 질서를 위한 기술 규범과 정책 방향’, ‘디지털 전환기 노동과 고등교육의 변화’, ‘디지털 기반 정책 과정의 공정성과 신뢰성 제고 방안’에 대한 주제 발표와 토론이 진행됐다. 첫 번째 발제는 인천대학교 전자공학과의 김훈 교수가 디지털 전환의 가속화 과정에서의 위협요소와 대응 기술 등, 디지털 전환시대의 주요 분야인 AI, 데이터, 메타버스, 자율주행 등에서의 기술 규범 이슈를 분석했다. 이어서 우리나라가 디지털 전환의 기술 규범 이슈에 유연하게 대응하고 기술 규범 선도 국가로의 위상을 다지는데 필요한 기술 정책 방향을 제시했다. 이어서 KAIST 디지털인문사회과학부의 김란우 조교수는 사회적 변화가 노동시장에 미치는 영향과 디지털 전환기의 맥락에서의 세계 각국의 정책적인 대응 현황을 소개했다. 또한 현재 한국의 노동 현장에서 생성형 인공지능으로 대표되는 디지털 대전환의 체감 수준 및 노동자의 대응 정도, 디지털 전환에 선도적으로 대응했던 미국 고등 교육을 분석해 한국의 대학 교육 정책에 시사점을 제공했다. 세 번째로 서울과학기술대학교 IT정책대학원의 성욱준 교수는 디지털 신기술의 공공 도입 확산에 따른 정책결정 과정에서 디지털 신기술의 활용과 이로 인한 변화를 예측해, 정부 정책의 공정성과 신뢰성을 높일 수 있는 방안을 제시했다. 이를 위해 최근 디지털 신기술 도입에 따른 공공·행정 영역 변화 방향과 정책결정 과정에서의 디지털 신기술 접목과 활용에 따른 주요 쟁점을 도출했다. 4부 세션의 종합토론은 윤지웅 교수(한국정책학회 차년도 학회장, 경희대학교 행정학과)의 사회로 황인철 교수(대한전자공학회 부회장, 강원대학교 전기전자공학과), 설동훈 교수(한국사회학회장, 전북대학교 사회학과), 박현희 교수(한국정책학회 총무위원장, 국민대학교 행정학과)가 참여했다. 이번 컨퍼런스는 디지털 공동번영사회로의 성공적인 이행을 위한 새로운 디지털 질서 정립의 중요성을 조명하며 국민의 기본권 보호라는 기초적 제반 환경 마련과 기술, 경제, 공공, 사회제도 등 각 영역에 필요한 정책과제에 대한 학계 및 연구계의 포괄적인 통찰과 분석을 엿볼 수 있는 장이었으며 2024년 디지털 대전환 메가트렌드 4년차 연구로 연결될 예정이다.

내년 총선 90일 전부터 ‘딥페이크’(Deepfake)를 활용한 선거운동이 전면 금지될 전망이다. 딥페이크 기술이 점점 정교해지면서 선거에 악용될 우려가 큰 만큼 새로운 법을 마련해 이를 방지한다는 것이다. 국회 정치개혁특별위원회는 4일 법안소위를 열고 딥페이크 선거 운동 금지를 골자로 하는 공직선거법 개정안을 통과시켰다. 딥페이크는 인공지능(AI)을 활용해 실제 인물의 얼굴이나 특정 부위를 가상으로 합성해 만들어낸 영상편집물을 뜻한다. 지난 대선 땐 딥페이크를 활용한 ‘AI 윤석열’, ‘AI 이재명’ 등이 허용됐다. 정개특위 관계자는 이날 서울신문의 통화에서 “딥페이크의 경우 사례는 많지 않지만 그 파급력이 큰 만큼 기간을 정해 통으로 금지시키는 게 좋겠다는 데 의견이 모였다”면서 “이견이 없는 만큼 5일 정개특위 전체회의에서 이를 통과시킬 예정”이라고 했다. 해당 법안이 7일 법제사법위원회를 통과하면 8일 예정된 본회의에서 최종 처리될 예정이다. 법안이 공포되면 22대 국회의원 선거 90일 전인 다음 달 11일부터 딥페이크를 활용한 선거 홍보 영상 배포는 전면 금지된다. 다음 달 11일 이전까지는 딥페이크를 인증하는 ‘표기’를 전제로 선거운동에 이용할 수 있다. 정개특위 법안1소위원장인 김영배 더불어민주당 의원은 소위 이후 기자들과 만나 “평소에는 딥페이크 선거 운동을 허용하되 ‘딥페이크’ 표기를 의무화하도록 했다”면서 “이를 위반할 경우 과태료를 물도록 했다”고 설명했다. 딥페이크 표기를 하지 않고 허위 사실을 담은 경우에는 가중 처벌까지 가능하다. 딥페이크 제작 목적이 당선일 경우와 낙선일 경우 모두 법의 적용을 받는다. 김 의원은 “‘선거운동을 위하여’라는 문구가 있는 만큼 선거와 아무 관계 없는 딥페이크는 허용된다”며 “이를테면 딥페이크를 활용한 기업 홍보 등은 아무 상관 없다”고 덧붙였다. 딥페이크가 선거 운동용인지 아닌지는 소관 기관인 중앙선거관리위원회에서 판별하기로 했다. 한편 이날 소위에서는 선거운동 도구를 착용하는 것뿐만 아니라 소지할 수 있도록 하는 내용의 공직선거법 개정안도 의결됐다. 현행법상 피켓과 같은 표지물을 목에 걸 수는 있지만 손으로 들 수 없게 돼 있는데 과하다는 지적에 따라 이를 수정한 것이다. 국민투표법 전부 개정과 관련한 입법공청회도 열렸다. 김 의원은 “국민투표법이 2014년 헌법재판소에서 위헌 판결이 난 이후로 10년간 한 번도 논의된 적이 없다”면서 “국민 투표가 오히려 거꾸로 국민 통합을 해치는 결과로 이어져선 안 되지 않느냐는 지적이 있었다”고 설명했다. 국민투표법에 대한 심사는 다음 소위에서 진행될 예정이다.

MC 송해가 딥페이크로 부활했다. 지난 2일 방송된 JTBC 주말드라마 ‘웰컴투 삼달리’에서 고 송해가 등장했다. 이 드라마 1회에서는 1994년 KBS 1TV ‘전국노래자랑’ 제주도 편을 재현했는데, 이때 송해가 그때 그 시절 모습으로 나왔다. 매주 일요일 그가 외치던 “전국~ 노래자랑!”이라는 목소리도 그대로 구현했다. 이를 가능하게 한 것은 ‘딥페이크’다. 딥페이크는 딥러닝(deep learning)과 페이크(fake)의 합성어로, 컴퓨터가 스스로 외부 데이터를 조합, 분석하여 학습하는 딥러닝을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 기술을 일컫는다.송해의 유족들도 여전히 그를 그리워하는 국민에게 좋은 기회가 될 것이라는 점에서 제안에 응했다고 한다. 제작진은 1년 가까이 유족들과 소통하며 해당 장면의 의도와 딥페이크 기술을 설명하고, 테스트 영상을 사전에 공유하며 깊은 감사의 마음을 전했다. 제작진은 “그리웠던 송해 선생님을 다시 무대로 모실 수 있어서 영광이었다. 이를 가능하게 해주신 유족분들께도 깊은 감사의 인사를 전한다”라며 “시청자들도 잠시나마 그때 그 시절의 추억과 그리움을 떠올릴 수 있는 시간이었길 바라며, 유족분들께서 좋은 마음으로 허락해주신 만큼 해당 장면은 ‘웰컴투 삼달리’를 통해서만 함께해주시길 부탁드린다”고 말했다.

생성형 AI 발달로 그림 작업 진입장벽 낮아져가상·실존 인물 안 가려…수요·저변 확대 부작용“제작 자체는 방지 어렵고 배포 안되게 막아야” 생성형 인공지능(AI) 발달로 이미지 제작의 진입장벽이 낮아지면서, 선정적인 이미지가 무차별적으로 온라인에 유포될 수 있다는 우려가 커지고 있다. 생성형 AI는 이용자의 요구에 따라 이미지, 미술, 소설, 비디오 등 다양한 콘텐츠를 만들어내는 인공지능이다. 대부분의 이미지 제작용 AI가 기존에 있던 이미지를 데이터로 학습해 새로운 이미지를 제작하는 원리인 만큼, 실존 인물의 사진이 성적인 용도로 악용될 가능성이 있다. 지난 1일 인스타그램에서 ‘aigirl’(에이아이걸)이라는 단어를 검색하자 67만여개의 게시물이 쏟아졌다. 대부분의 게시물이 가슴 등 여성의 특정 신체 부위를 부각하거나 노출 수위가 높은 이미지를 포함하고 있었다. 최근에는 일반인이 생성형 AI를 통해 ‘돈벌이’를 하는 경우도 생겨나고 있다. 직장인 이모(27)씨는 지인이 이미지 제작 AI를 이용해 남들을 위한 ‘가상 여자친구’를 만든다는 소식을 들었다. 노출이 포함된 여성 이미지를 제작한 뒤 인스타그램 등에 게시함으로써 이용자들에게 후원금을 받는다는 것이다. 실제로 각종 SNS에는 AI로 선정적인 이미지를 생성해 올리는 채널이 우후죽순 생겨나고 있으며, 심지어 구독료를 받는 곳도 있다. 특히 심각한 문제는 대부분의 SNS가 연령 제한 없이 누구나 쉽게 접근할 수 있다는 점이다. 초등학교 교사 임모(28)씨는 연합뉴스에 “성에 관심이 커지는 고학년 학생들은 AI 프로그램에 선정적인 키워드를 입력할 가능성이 있다”며 “그런 키워드로 그림을 그려낸다면 아이들의 성 인식을 왜곡시키고 정서적으로도 좋지 않을 것 같다”고 말했다. 음란물이나 선정적 이미지가 범람하는 문제는 AI 기술의 발달로 인한 대표적인 부작용으로 꼽힌다. 가상의 캐릭터를 대상으로 한 선정적인 이미지의 유포를 넘어, 기존 동영상에 다른 사람의 얼굴을 합성하는 기술인 딥페이크를 활용해 실존 인물을 성적 대상화한 불법 허위 음란물이 만들어지는 사례도 급증하고 있다. 그러나 관계 당국의 시정 조치는 아직 많이 부족한 것이 현실이다. 방송통신심의위원회는 2020년 6월부터 지난 8월까지 불법 성적 허위 영상물에 대해 총 9천6건의 시정 요구를 했지만 실제로 삭제된 영상은 4.55％(410건)에 불과했다. 지금이라도 제도 개선이 필요하다는 주장도 나오는 이유다. 전문가들은 생성형 AI의 자체적인 윤리 판단이 어렵기 때문에 이미지를 배포·유포하는 단계에서 차단하는 것이 필요하다고 지적한다. 김주호 한국과학기술원(KAIST) 전산학부 교수는 “AI 프로그램이 실존 인물의 그림을 재료로 삼아 실사화하고, 성적 대상화하더라도 이것이 음란하거나 실존 인물의 인권을 침해했다고 단정하기는 쉽지 않다”며 “이미지의 생성 자체를 막는 기술적 요소를 강구하기보다는 유포·활용 단계에서 제재하는 것이 바람직하다”고 강조했다.

진위가 혼동되는 시대, 가짜가 진짜를 압도하는 시대여서일까? ‘진짜의’, 진품의’라는 의미의 영어 단어 ‘어센틱’(authentic)이 미국 유명 사전 출판사 메리엄 웹스터의 2023년 ’올해의 단어‘로 선정됐다고 AP 통신이 27일(현지시간) 보도했다. AP는 인공지능(AI)의 발전 속에 딥페이크(deepfake·AI를 활용해 인물의 이미지를 실제처럼 합성하는 기술)가 유행하고 객관적 사실·진실의 중요성이 떨어지는 탈 진실(post truth) 시대가 투영된 결과라고 전했다. 메리엄 웹스터는 단어 조회수와 검색량 증가 정도 등을 토대로 매년 올해의 단어를 선정한다. ‘어센틱’ 단어의 검색량은 예전에도 많았지만, 올해는 일 년 내내 전례 없이 높은 수준이었다고 이 회사의 피터 소콜로프스키 선임 편집장은 설명했다. 이 사전에서 이 단어를 찾아보면 “거짓이나 모방이 아닌, 진짜의, 실제의”라는 풀이가 첫 줄에 나온다. 이어 “자신의 인격이나 정신, 성격에 충실한”, “원본과 동일한 방식으로 만들어지거나 수행된” 등이 따라 나온다. 소콜로프스키 편집장은 “우리는 2023년에 일종의 ‘진실함의 위기’(crisis of authenticity)를 목도하고 있다”면서 “학생이 진짜로 이 논문을 썼는지, 정치인이 실제로 이 발언을 했는지 믿을 수 있는가”라고 반문했다. 그는 이어 “우리는 이제 우리가 목격하는 것들을 더 이상 믿지 않는다. 때때로 우리의 눈과 귀를 믿지 못한다”고 꼬집었다. 메리엄 웹스터는 올해 유독 검색량이 늘어 올해의 단어 후보에 올랐던 다른 단어들도 소개했다. ‘엑스’(X)는 소셜미디어 트위터의 새 이름이 되면서 검색량이 급증했고, 할리우드 배우 바이올라 데이비스가 2월 그래미상을 받으며 에미상·그래미상·아카데미상·토니상을 모두 받게 되자 4개 상을 묶은 신조어 ‘EGOT’ 조회수가 올라갔다. 픽사의 애니메이션 영화 제목 ‘엘리멘탈’도 6월 개봉 후 흥행과 함께 검색량이 늘었다. 이스라엘 집단농장을 의미하는 ‘키부츠’(kibbutz)는 지난달 7일 팔레스타인 무장정파 하마스의 이스라엘 기습 후 찾아보는 사람이 크게 늘었다. 또 6월에 타이태닉호 관광 잠수정 타이탄이 대서양 심해에서 실종된 뒤 잔해가 발견되자 사고 원인인 ‘내파’(implosion·외부 압력에 의해 구조물이 안쪽으로 급속히 붕괴하며 파괴되는 현상)도 관심을 모았다. 올해 도널드 트럼프 전 미국 대통령이 네 차례 기소되면서 ‘기소하다’(indict) 검색도 증가했다. 로맨틱한 매력을 뜻하는 속어 ‘리즈’(rizz)는 지난 9월 메리엄 웹스터 온라인 사전에 추가된 뒤 검색어 상위에 올랐다. ‘서약’(covenant)은 3월 미국 테네시주 초등학교 ‘커버넌트 스쿨’에서 총격 사건이 일어난 뒤 검색량이 급증했다. 참고로 지난해 올해의 단어는 ‘가스라이팅’이었다. 한편 올해 영국에서의 검색 1위는 지난 5월 찰스 3세 국왕의 대관식이 큰 화제가 됐던 만큼 ‘대관’(coronation)이 차지했다.

전자정부 분야 최선도국인 한국과 영국이 인공지능(AI)이 가미된 차세대 전자정부의 세계 표준을 만들기 위한 협력을 대폭 강화하기로 했다. 이상민 행정안전부 장관은 22일(현지시간) 영국 런던 내각부를 방문해 알렉스 버가트 내각부 장관과 ‘한영 디지털 정부 협력에 관한 양해각서(MOU)’를 체결했다. MOU는 이날 한영 정상회담에서 발표된 ‘다우닝가 합의’에 포함된 것으로 서명 즉시 발효돼 5년간 유효하다. 양국은 첨단 정보기술(IT) 도입과 협력, 디지털 정부 시스템 구축과 운영 방식 혁신, AI를 활용한 공공서비스 개발, 클라우드 신기술 도입 및 관련 정책 개발, 국민 중심 디지털 서비스 구현 등에 관한 교류 협력을 확대하기로 했다. 또 미래 시대에 디지털 정부가 어떻게 구현될 수 있을지 설계하고 전 세계 디지털 정부를 선도할 비전을 제시해 가기로 했다. 아울러 딥페이크 영상, 저작권 침해 등 공공 부문의 AI 활용 경험과 지침을 공유해 디지털 정부가 AI 기술 발전에 대응할 수 있는 윤리와 규범을 확립하는 것에도 합의했다. 앞서 버가트 장관은 지난 10일 이 장관에게 별도 초청장을 보내 “꼭 와서 MOU를 체결해 달라”고 요청하기도 했다. 이번 MOU 체결로 양국은 인적 교류와 기술적 협력 로드맵 등 구체적 이행 계획을 내년 1월부터 마련할 수 있게 됐다. 양국은 ‘디지털 네이션스’(한영 주도 디지털 정부 선도국 장관급 회의체) 등 다자 협력에서 더 나아가 실질적 양자 협력을 확대하기로 했다. 버가트 장관은 체결식에서 “디지털 정부 분야에서 많은 성과를 이룬 한국과 MOU를 체결하게 돼 기쁘다”면서 “디지털 정부의 안정성과 AI의 안전한 활용 등은 영국의 최우선 과제인데 이번 실질적 협력 확대를 계기로 양국의 디지털 정부가 크게 발전할 것”이라고 말했다. 이 장관도 “양국의 경험과 사례를 적극 공유하자”고 화답했다. 행안부는 MOU 체결로 영국 공공조달 시장에 한국 기업의 진출 기회를 넓힐 수 있을 것으로 기대했다.

전자정부 분야 최선도국인 한국과 영국이 인공지능(AI)이 가미된 차세대 전자정부의 역할과 발전을 위해 손잡고 전자정부 세계 표준을 만들기 위한 양국간 협력을 대폭 강화하기로 했다. 이상민 행정안전부 장관은 22일(현지시간) 영국 런던 내각부를 방문해 알렉스 버가트 내각부 장관과 ‘한-영 디지털정부협력에 관한 양해각서(MOU)’를 체결했다. MOU는 이날 한·영 정상회담에서 발표된 ‘다우닝가 합의’에 포함된 것으로, 서명 즉시 발효되고 5년간 유효하다. 양국은 최첨단 정보통신(IT)기술 도입과 협력, 디지털정부 시스템 구축과 운영 방식의 혁신, 인공지능을 활용한 공공서비스의 개발, 클라우드 신기술 도입 및 관련 정책 개발, 국민 중심 디지털 서비스 구현 등에 대한 교류 협력을 확대하기로 했다. 또 미래 시대에 디지털정부가 어떻게 구현될 수 있을지 설계하고, 전 세계 디지털정부를 선도할 비전을 제시해가기로 했다.딥페이크 영상, 저작권 침해 등 공공부문 인공지능 활용 경험과 지침을 공유해 디지털정부가 인공지능 기술의 발전에 대응할 수 있는 윤리와 규범을 확립하는 것에도 합의했다. 이번 체결을 위해 버가트 장관은 지난 10일 이 장관에 별도의 초청장을 보내 “대통령 국빈방문 공식수행단으로 오는 것으로 안다. 꼭 와서 MOU를 체결해달라”면서 “‘디지털 네이션스’(한-영 주도 디지털정부 선도국 장관급 회의체) 발전에 대한 심도 있는 대화를 나누고 싶다”고 요청하기도 했다. MOU 체결로 양국은 예정대로 인적교류와 기술적 협력 로드맵 등 구체적 이행계획을 내년 1월부터 마련할 수 있게 됐다. 앞서 지난 17일 ‘행정전산망 마비’ 사태로 미국에서 조기 귀국한 이 장관은 출국에 앞서 많은 고심을 했던 것으로 전해졌다. 양국은 ‘디지털 네이션스’ 등 다자 간 협력에서 더 나아가 양국간 실질적 양자 협력을 확대하기로 했다. 버가트 장관은 체결식에서 “디지털 정부 분야에서 많은 성과를 이룬 한국과 MOU를 체결하게 돼 기쁘고 기대가 크다”면서 “디지털정부의 안정성과 인공지능의 안전한 활용 등은 영국의 최우선 과제인데 이번 실질적 협력 확대로 양국의 디지털 정부가 크게 발전할 것”이라고 말했다. 이 장관은 “양국의 경험과 사례를 적극 공유하자”고 제안한 뒤 “양국의 협력으로 국제사회 디지털 정부 윤리규범 확립과 디지털 격차 해소를 통한 개발도상국 지원 확대 등 세계 디지털 정부를 선도해가겠다”고 밝혔다. 행안부는 MOU 체결로 영국의 공공조달 시장에 한국 기업의 진출 기회를 넓힐 수 있을 것으로 기대했다.

서울 송파구는 청소년들이 대학수학능력시험 후 긴장감에서 해방되어 비행과 범죄에 노출될 위험이 높아짐에 따라 선제적인 대응에 나선다고 20일 밝혔다. 구는 최근 청소년들을 대상으로 한 디지털 성범죄가 교묘하고 빠르게 진화하는 점을 고려해 ‘양육자와 함께하는 디지털 성범죄 예방교육’을 집중 실시한다. 지난 13일 서울시에 따르면, 올해 시가 지원한 디지털 성범죄 피해자 중 10~20대가 51%로 가장 많았다. 이 중 10대 비율은 13.5%였다. 청소년을 대상으로 한 예방의 중요성이 시급하다는 뜻이다. 이에 구는 학부모가 가정에서 실제적으로 활용할 수 있는 예방 교육을 준비했다. 송파청소년성문화센터 전문 강사가 구체적인 사례를 통하여 ▲그루밍·불법촬영·딥페이크 등 디지털 성범죄 유형과 예방법 ▲가정에서 실천할 수 있는 성범죄 예방교육법 ▲피해 발생 시 도움 기관 안내 등을 상세히 전한다. 교육은 이달 28일부터 다음달 12일까지 총 5회에 걸쳐 진행된다. 구립 청소년센터 4개소와 송파구청에서 진행하는 일정이 다르니 이를 참고하여 성문화센터로 신청하면 된다. 관심 있는 학부모와 주민 누구나 신청할 수 있다.구는 또 수능 당일부터 3주간 ‘청소년 보호 특별 활동 주간’으로 정하고 야간 특별 단속과 캠페인을 진행한다. 송파경찰서, 청소년유해환경감시단, 아동·청소년지도위원 등 20여명과 함께 잠실새내역 먹자골목 등 관내 유해업소 밀집 지역을 집중 점검한다. 단속 사항은 △청소년 유흥업소 출입 금지 준수 △청소년 고용금지 위반 △노래연습장·PC방 등 오후 10시 이후 청소년 출입 불가시간 위반 △청소년 대상 유해 약물(주류, 담배 등) 판매행위 △유해 불법 광고 선전물 배포행위 위반 등이다. 위반 사항 적발 시 현장 계도 및 시정명령이 내려지고 불가피한 경우 단계적으로 조치를 강화할 방침이다. 서강석 송파구청장은 “청소년들이 건강한 사회구성원으로 성장하기 위해서는 지역사회의 관심이 중요하다”며 “수능을 치룬 수험생들이 안전하게 입시 생활을 마무리할 수 있도록 많은 협조를 부탁드린다”고 전했다.

미국 기업들은 앞으로 개발하는 인공지능(AI) 모델이 국가안보나 경제안보, 공중보건, 안전 등에 위험을 초래할 경우 연방정부에 통지하고 안전 테스트 결과를 공유해야 한다. 조 바이든 미 대통령은 30일(현지시간) 이런 내용을 담은 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다고 백악관이 밝혔다. 바이든 대통령은 “AI의 도전과 기회는 전 세계적인 것이기 때문에 미국의 리더십을 계속해서 발전시킬 것”이라면서도 본인의 딥페이크(AI를 이용한 진짜 같은 가짜 영상) 경험을 공개하며 ‘기술 발전과 규제가 함께 가야 한다’고 강조했다. 바이든 대통령은 “AI 장치가 이미 사람들을 속이는 데 사용되고 있다”며 “딥페이크는 AI가 만든 오디오, 비디오를 사용해 평판을 훼손하고 가짜뉴스를 만들고 사기를 저지른다”고 강조했다. 그러면서 “그것(딥페이크)을 한번 보라, 정말 놀랍다”며 “나도 내 것(딥페이크)을 본 적이 있는데 ‘내가 언제 저런 말을 했지’라고 말했다”고 털어놓았다. 또 “사기꾼들은 여러분이 사랑하는 사람들이 여러분이 곤경에 빠졌다고 생각해 돈을 보내도록 사기를 치는 데 AI를 활용할 수 있다”고 경고했다. 백악관 측은 AI 안전·보안에 대한 새로운 표준을 수립하는 이번 행정명령 조치를 강제하기 위해 한국전쟁 당시 발효된 국방물자생산법까지 동원했다. 행정명령은 AI를 통한 사기 등을 막기 위해 AI 생성 콘텐츠를 탐지하고 공식 콘텐츠를 인증하기 위한 표준 및 모범 사례를 수립하도록 했다. 미군과 정보당국의 AI 사용 및 적의 군사적 AI 사용 대응을 위한 국가안보 각서도 개발된다. 근로자들이 일터에서 AI로 인해 근로 감시, 작업의 질 저하 등 권리를 침해받아선 안 된다는 내용도 명시됐다. 상무부는 AI 콘텐츠 인증 및 워터마크 지침 개발을 맡는다. 뉴욕타임스(NYT)는 “AI 행정명령은 테러리스트의 대량살상무기 개발 위험과 가짜뉴스가 선거판에 활용되는 것을 막을 것”이라고 전망했다. 한편 리시 수낵 영국 총리는 “AI에는 국경이 없으며 어떤 국가도 혼자 AI를 안전하게 만들 수 없다”며 11월 1~2일 런던에서 ‘글로벌 AI 안보 정상회의’를 출범한다. 미국, 프랑스, 캐나다, 독일 등 주요국 정상은 불참하지만 일론 머스크 테슬라 최고경영자(CEO)는 참석을 확정했다. 주요 국가와 기업이 한자에 모여 AI 윤리·안전을 논의하는 것은 이번이 처음으로 네이버, 삼성전자 등 한국 기업 관계자도 참석한다.

스웨덴의 유명 환경운동가 그레타 툰베리(21)가 앞으로 지속 가능한 전쟁무기와 비건 수류탄을 사용하자고 주장하는 영상이 딥페이크(deepfake)로 확인했다. 지난 27일(현지시간) AFP 통신은 외신은 소셜미디어 X등을 통해 확산한 툰베리의 인터뷰 영상은 조작된 것이라고 보도했다. 딥페이크는 인공지능(AI)을 이용해 사람들의 말과 행동 등을 조작하고 합성하는 영상을 말한다. 해당 영상은 최근 소셜미디어를 통해 확산했는데, 그 내용은 황당하다. 영상에서 툰베리는 "전쟁은 항상 나쁘다. 특히 지구를 위해서 더욱 그렇다"면서 "전투를 계속하고 싶다면 환경을 생각해 지속 가능한 탱크와 무기로 변화해야 한다"고 밝혔다. 이어 "수류탄을 사용한다면 비건 수류탄을 사용해야 한다"고도 덧붙였다. 물론 이 영상은 조작된 것이다. 보도에 따르면 이 딥페이크 영상의 원본은 몇달 전 BBC와의 인터뷰에서 따온 것으로 음성과 입모양 등이 정교하게 조작됐다. 툰베리를 타깃으로 한 조작 게시물은 더 있다. 지난 20일 X에 처음 게시됐다가 삭제된 사진을 보면 툰베리가 이슬람국가(IS)의 깃발과 머리띠를 착용한 모습을 담고있다. 이처럼 툰베리가 소셜미디어 상에 각종 조작에 시달리는 이유는 전세계적으로 팬과 더불어 안티팬도 많기 때문이다. 대표적으로 툰베리가 언론 등에 이목을 끄는 것에만 관심있고 시늉만 하면서 실제로는 친환경적으로 살지 않는 위선자라는 비판이다.특히 팔레스타인 무장정파 하마스의 이스라엘 기습 공격 후, 툰베리가 팔레스타인을 지지한 것이 비판에 불을 질렀다. 툰베리는 최근 국제사회가 즉각적인 휴전과 함께 팔레스타인인들을 비롯한 피해를 본 모든 이들의 자유와 정의를 요구해야 한다고 주장하면서 친 팔레스타인 단체의 포스팅을 자신의 계정에 공유하기도 했다. 이에 이스라엘군 대변인인 아르예 샤루스 샬리카는 툰베리가 이스라엘 국민이 학살된 것에는 한마디 말도 없이 가자지구에 대한 연대를 표시했다고 비난했다. 한편 환경운동으로 세계적인 주목을 받고있는 툰베리는 지난 2018년 8월 학교에 가는 대신 스웨덴 의사당 앞에서 기후 변화 대책을 요구하는 1인 시위를 벌여 세계적인 주목을 받았다. 한 달 넘게 이어진 그의 호소는 전 세계 100여 개 도시에서 학생들이 참여하는 ‘미래를 위한 금요일’(Fridays for Future) 운동으로 발전했다. 

내년 총선을 위한 선거제도 개편안 마련이 지연되는 가운데, 국회 정치개혁특별위원회가 활동 기한을 7개월 연장키로 했다. 선거제 개편안 처리와 더불어 ‘여성정치확대’ 법안, ‘국회개혁’ 법안 등의 처리도 이어갈 방침이다. 26일 정치권에 따르면 여야 원내지도부는 지난 17일 김진표 국회의장과 만난 자리에서 오는 31일까지였던 정개특위의 기존 활동 기한을 21대 국회의 마지막 달인 5월까지 연장하기로 한 것으로 전해졌다. 선거구 획정안, 선거제 개편안 등 정개특위 소관 안건들이 처리되지 않았는데 문을 닫을 수 없다는 공감대가 형성됐다는 것이다. 여야는 오는 31일 내년도 예산안 관련 시정연설을 위해 열리는 국회 본회의에서 활동 연장안건을 처리할 방침이다. 김 의장이 여야 원내지도부에게 내년 총선 예비후보자 등록 시작일인 12월 12일 이전까지 선거제 개편안 논의를 마무리하자고 당부한 만큼, 여야는 다음달에 논의에 박차를 가할 것으로 보인다. 다만 ‘비례대표제’를 두고 여야 간에 여전히 입장차가 커 한달 만에 선거제 개편안 최종안이 나오지 않을 수 있다. 이 경우 우선적으로 ‘지역 선거구수 및 시도별 의원정수’를 정하고 중앙선거관리위원회에서 제출한 선거구 획정안을 통과시키는 수준에 그칠 수도 있다. 또한 정개특위는 그동안 행정안전위원회에 계류돼 논의가 부진했던 여성정치확대 관련 법안, 딥페이크 저지 법안 등을 정개특위로 가져와 논의할 전망이다. 정개특위 관계자는 이날 통화에서 “권성동·박홍근 전임 여야 원내대표가 지난해 정개특위 구성 당시 특위 논의 안건을 좁게 잡으면서 빠졌던 정당법, 정치관계법 등을 여야 합의가 되는 대로 정개특위로 가져올 예정”이라고 설명했다. 여성정치확대 법안은 여성 후보자들을 많이 추천한 정당에게 지원하는 ‘여성추천보조금’을 상향하는 정치자금법 개정안, 지역구 후보 총수 중 여성 후보를 최소 30% 이상 의무 공천하도록 하는 공직선거법 개정안 등이다. 딥페이크 법안으로는 인공지능 기술의 발달로 이미지를 합성해 실제와 구분이 불가능한 경우가 많아짐에 따라 딥페이크 기술을 이용한 선거운동의 기준을 마련하고자 하는 공직선거법 개정안이 있다. 정개특위는 해당 내용들이 내년 총선 때 적용될 수 있도록 최대한 신속하게 이를 처리하겠다는 방침이다. 정개특위 관계자는 “해당 법안들은 여야 의원들 모두 발의한 만큼 여야 합의가 크게 지연될 것 같지는 않다”고 분위기를 전했다. 정개특위는 이 밖에도 법제사법위원회의 체계·자구 심사 권한 폐지, 이해충돌방지법 등 국회 개혁 안건, 지구당 설치를 위한 정당법 개정안 등을 추가로 논의할 계획이다.

지난 7월 개봉한 액션 영화 ‘미션 임파서블: 데드 레코닝’에는 주인공인 이선 헌트(톰 크루즈)가 맞서 싸우는 ‘최강 빌런’(악당)으로 인공지능(AI) 엔티티가 등장한다. 엔티티는 전 세계의 모든 디지털 기기에 접속해 데이터나 시스템을 마음대로 이용·조작할 수 있을 뿐 아니라 수없이 많은 시뮬레이션과 계산으로 미래를 내다볼 수 있는 능력까지 갖춘 초월적인 존재로 그려진다. 목소리도, 형체도 없이 공간을 넘나들며 앞날을 예견하는 신과 같은 존재와 싸워야 하는 잘생긴 헌트의 미간 주름이 유난히 깊어 보였던 것은 기분 탓일까. 그런가 하면 최근에는 전기차 업체 테슬라의 최고경영자(CEO) 일론 머스크가 서방 국가들의 ‘빌런’으로 떠올랐다. 머스크는 지난해 2월 러시아가 우크라이나를 침공하면서 현지의 인터넷 통신망이 끊길 위기에 처하자 자신의 민간 우주기업 스페이스X가 운영하는 스타링크의 위성통신 서비스를 무료로 제공하며 일약 ‘영웅’이 됐다. 그러나 그가 크림반도에 주둔한 러시아 해군을 향한 우크라이나의 기습 공격을 막기 위해 일대의 통신망을 활성화해 주지 않은 사실이 드러나면서 분위기는 급반전됐다. 여기엔 러시아의 핵 공격을 우려한 그의 판단이 작용했다고 전해졌다. 바야흐로 막강한 기술을 가진 개인이 시장뿐 아니라 국가의 운명까지 좌우할 수 있는 시대가 된 것이다. 최근 AI와 같은 첨단기술이 산업계의 화두다. 정보통신기술(ICT) 업계뿐 아니라 제조업, 각종 하드웨어 산업에서도 AI를 미래 먹거리로 선포하고 나섰다. 하늘을 나는 택시, 로봇 비서 등 어릴 적 공상과학(SF) 영화에서 보던 풍경이 눈앞에 펼쳐지는 것도 가까운 미래가 됐다. 그러나 빠른 시장 변화와 기술의 발전은 보안이나 사생활 침해, 범죄의 악용, 저작권 문제 등 다뤄야 할 과제가 그만큼 기하급수적으로 늘어나고 있다는 의미이기도 하다. 우리가 이전에 겪지 못한 새로운 형태의 디지털 재난을 대비해야 한다는 경고도 나온다. 지난 10일 문화체육관광위원회 국정감사장에서는 가수 김광석의 ‘서른 즈음에’를 구성지게 부르는 유인촌 문체부 장관의 딥페이크(AI를 기반으로 한 인간 이미지 합성 기술) 영상이 공개됐다. 당시 장내에선 웃음이 터져 나왔지만, 누구나 타인의 모습을 만들어 낼 수 있게 됐다는 명제는 웃어 넘길 수만은 없는 지점이다. 신기술의 등장은 늘 규제와 혁신이라는 두 가치를 충돌시킨다. 세계 각국은 이미 AI 규범 마련에 돌입한 상태다. 국내에서도 과학기술정보통신부에서 연내 ‘AI 법제 정비 로드맵’을 발표할 계획이다. 업계에서는 하향식 규제가 혁신의 싹을 누를까 우려하는 목소리도 나온다. 샘 올트먼 오픈AI CEO가 “기술은 규제하면 우회해서 발전한다”면서 “기술 자체가 아니라 기술을 활용하는 사례를 규제해야 한다”고 말한 것도 같은 맥락이다. 모두가 ‘일상을 바꾸는 기술’을 이야기하는 시대다. 그러나 우리 사회는 송두리째 달라진 일상을 맞이할 준비가 얼마나 돼 있을까. 새로운 기술로 산업의 꽃은 피우되 악용되는 것은 막을 기준. 참 어려운 숙제를 받아들었다.

12일 서울 서초구 국립중앙도서관에서 진행된 열린마당 실감체험관 행사 ‘작가와의 만남’에서 참관객들이 작가 이상(1910~1937)의 모습을 보고 있다. 열린마당은 디지털 기술과 한국의 고전 문학을 더한 실감형 콘텐츠 체험 공간으로, 이상 작가의 모습은 특정 인물의 얼굴 등을 영상에 합성하는 딥페이크 기술로 만들었다. 뉴스1