‘딥페이크(deepfake)’ 기술로 사진 속 여성의 옷을 벗기는 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있다. 딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다. 10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다. 그래피카에 따르면 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다. 딥페이크 앱과 웹사이트에 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지가 뜬다. 사진 속 인물 대부분은 여성이다. 외신은 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다.구글은 이 같은 문제에 대해 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다. 디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 말했다. AI 기술 발달이 이 같은 딥페이크 앱이 범죄에 악용될 수 있다는 우려를 심화시키고 있다. 온라인상에서 당사자의 동의 없이 사진을 가져와 나체 사진 등 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.실제 한 인터넷 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다는 내용으로 성희롱을 조장하고 있다. 우리나라에서도 최근 여성 지인의 얼굴을 음란물에 합성해 SNS에 퍼뜨린 20대 남성 A씨가 경찰에 붙잡혔다. 경찰에 따르면 A씨는 익명의 SNS 계정을 통해 피해자에게 ‘삭제를 원하면 자신의 노예가 되거나 직접 사진을 찍어 보내라’고 위협하기도 했다. 우리나라는 성폭력 처벌법 제14조의2는 허위 영상물을 편집, 합성, 가공할 경우 5년 이하, 5000만원 이하 형에 처하도록 규정하고 있고, 판매할 경우 7년 이하 징역형에 처할 수 있도록 하고 있다. 다만 딥페이크 관련 처벌법은 지난해 성폭력범죄의 처벌 등에 관한 특례법 일부개정법률로 신설되었으나 제작 또는 반포한 자에 한하여 처벌한다는 점에서 딥페이크 포르노를 소비한 ‘단순 이용자’에 대한 처벌 규정이 전무한 상황이다. 한편 2019년 네덜란드의 사이버 보안연구 회사인 딥트레이스가 발간한 보고서에 따르면 전 세계 딥페이크 영상의 96%가 포르노 영상이었다. 또 피해자의 25%는 한국 여성 연예인이었다는 사실이 드러났다.

정보통신정책연구원(KISDI, 원장 배경율)은 과학기술정보통신부(장관 이종호)와 7일 포스트타워 대회의실에서 ‘제3회 디지털 대전환 메가트렌드 컨퍼런스’를 개최했다. 과학기술정보통신부와 정보통신정책연구원은 올 한 해 동안 지난 1, 2차연도 메가트렌드 연구에서 디지털 대전환의 방향성으로 제시하고 있는 ‘디지털 공동번영사회’로의 이행을 위해, 새로운 디지털 질서를 정립하고 현 한국사회에 필요한 미래전략을 제시했다. 디지털 대전환 메가트렌드 연구는 한국통신학회, 한국정보과학회, 대한전자공학회, 정보통신정책학회, 한국경영학회, 한국행정학회, 한국정책학회, 한국사회학회, 한국정치학회 등 국내 학회들과 협동연구 형식으로 진행됐으며, 산학연의 전문가들이 연쇄적인 합동 세미나를 개최하며 디지털 대전환 메가트렌드의 영역별 변화상과 중장기 정책 수요를 연구해왔다. 2023년도 연구는 디지털 심화시대의 새로운 질서 정립 및 법제도 정비, 미래 전략 도출을 위한 연구에 중점을 두고 추진됐다. 이날 정보통신정책연구원 배경율 원장은 개회사를 통해 “인공지능을 중심으로 하는 새로운 디지털 기술이 개발·활용되면서 다양한 기회와 함께 디지털 격차, 개인정보 유출 등 새로운 사회적 문제에 직면하고 있다”라며 우리나라가 “글로벌 디지털 규범을 선도할 수 있으려면 디지털 전환의 혜택을 정의롭고 공정하게 누리기 위한 노력을 지속해야 한다”라고 밝혔다. 먼저 1부 세션에서는 대표 발제를 맡은 정보통신정책연구원 디지털경제사회연구단 김정언 선임연구위원이 ‘디지털 공동번영사회 실현을 위한 새로운 질서 정립과 미래전략’을 발표한 뒤, 각 학회가 발표하는 세션으로 이어졌다. 김정언 선임연구위원은 대표발제에서 디지털 대전환의 사회경제적 파급효과를 진단하고 기술, 산업·경제, 공공·행정, 사회·제도 등 영역별 변화상을 살펴보며 디지털 심화 시대에서 국민의 기본권 보호를 위한 입법 개선과제를 도출·제시했다. 또한 대국민 인식조사와 전문가 설문조사를 통해 디지털 관련 국민 역량 측정 및 권리 인식을 조사하고, 디지털 심화 양상 진단, 우리나라의 디지털 메가트렌드 대응 역량 진단, 관련 정책 대응 방향 등에 관한 결과를 공유했다. 마지막으로 디지털 공동번영사회를 실현하기 위한 디지털 혁신과 성장기반 조성, 지속 가능한 사회안정성 확보, 디지털 시민권의 확립, 공공영역의 변화 대응 탄력성 제고, 선도적 글로벌 협력·연대 리딩, 정보 범람과 탈진실 사회 대응, 인간 고유성에 대한 새로운 고찰이라는 일곱 가지 미래 전략을 제안했다. 2023년 일반 시민을 대상으로 성, 연령, 지역을 할당한 표본을 온라인 조사(갤럽)한 결과 디지털 시대에 시민의 권리나 개인적 이익을 보호하기 위한 국가의 의무나 책임에 대한 기대치가 과거에 비해 높아진 편(53.9%)이라는 응답이 가장 많은 것으로 나타나 디지털 심화에 다른 정부 차원의 적극적인 대응이 요구됨을 보여줬다. 새로운 디지털 질서 정립 시 가장 먼저 다뤄야 할 이슈로 경제 분야에서는 ‘디지털 자산에 대한 소비자 보호 법적 근거 마련’(28.9%)이, 사회 분야에서는 ‘인공지능이 출력한 결과물에 대한 지식재산권, 저작권, 발명권에 대한 허용 여부’(24.3%)가, 문화/정치 분야에서는 ‘가짜뉴스/허위정보 등으로 인한 정치적 갈등’(27.6%)과 ‘딥페이크 기술을 활용한 허위 영상의 확산’(27%)이 각각 가장 높게 나타나, 시민들이 중요하게 생각하는 의제들의 우선순위를 확인했다. 2부 세션에서는 ‘기술혁신과 제도 정립방안 연구’라는 주제로 ‘미래 ICT 핵심기술 발전 방향과 기술혁신 요소’, ‘AI기반 전방위적 자동화 시대의 혁신, 경쟁, 포용적 성장’,‘디지털 시대 메타 거버넌스 구축을 위한 중앙-지방정부의 역할’의 발표와 토론이 이어졌다. 2부 세션의 첫 번째 발제를 맡은 한국외국어대학교 정보통신공학과 정성호 교수는 디지털 기술의 급속한 진화에 따른 미래 사회변화를 6G, 양자인터넷, 인공지능, 메타버스 등 미래 핵심 기술의 발전방향 및 관련 이슈를 살펴보며 전망하고, 새로운 디지털 질서 정립을 위한 해당 기술별 혁신 요소와 관련 정책 방향을 논의했다. 두 번째 발제에서 경희대학교 경영대학 김도훈 교수는 일반 인공지능의 확산으로 AI가 사회·경제에 미치는 영향에 대해 분석, 이러한 흐름으로 인한 노동의 과잉 대체와 같은 사회·경제적 딜레마를 데이터세(data tax)와 AI-로봇세(AI-robot tax)와 같은 생산·서비스 활동에 직접 영향을 미치는 과세로 해결하는 방안을 제시함과 동시에 포용적 성장의 가능성에 대해서도 검토했다. 다음으로 아주대학교 행정학과 김서용 교수는 기존에 볼 수 없었던 복잡한 사회문제 해결을 위해 문제해결 대상과 영역에 그 형상이 유동적으로 변화하는 조정 거버넌스와 초월적 거버넌스를 메타 거버넌스라는 개념을 통해 설명했다. 다양한 사례분석을 통해 전통적 거버넌스를 벗어나 메타 거버넌스가 형성되고 있다는 점을 확인, 그 성공적 전환을 위해 관료, 기업가, 시민들의 행태 변화를 비롯한 기존 행정 및 정책 틀의 근본적 변화를 제언했다. 이어지는 종합토론에서는 이경원 교수(정보통신정책학회 차년도 학회장, 동국대학교 경제학과)의 사회로 홍인기 교수(한국통신학회장, 경희대학교 전자공학과), 이희정 교수(정보통신정책학회장, 고려대학교 법학전문대학원), 이덕로 교수(한국행정학회장, 세종대학교 행정학과)가 각 학회 연구책임자에 관한 토론을 진행했다. 3부 세션에는 ‘디지털 보안, 디지털금융과 글로벌 규범’이라는 주제로 ‘새로운 질서를 위한 데이터 보호 및 보안 기술’, ‘디지털 금융의 경제적 영향 및 이슈와 쟁점’,‘디지털 심화에 따른 정치적 분극과 갈등해결 방안 모색’의 발표가 마련됐다. 3부 세션의 첫 발제는 한성대학교 컴퓨터공학부의 허준영 교수가 맡아 새로운 디지털 하에 상호신뢰를 구축하는 데 필요한 규범과 이를 뒷받침해 줄 사이버 보안 기술을 중심으로 설명했다. 특히 최근 주목받고 있는 제로트러스트와 인공지능 활용 보안, 신뢰 가능 인공지능, 공급망 보안을 중심으로 소개했고, 이런 기술에 대한 미래 전망과 관련 R&D 전략과 정책 방향에 대해서도 제시했다. 뒤이어 이화여자대학교 경영대학의 양희동 교수는 디지털 금융의 발전 및 현재 상황에 대해 포괄적으로 조명하여, 디지털 금융의 기본적인 정의에서부터 금융산업 변화의 주요 트렌드, 도전, 기회, 미래 전망을 설명했다. 특히 디지털 자산 시장의 성장이 금융산업의 혁신과 성장을 주도한다면서 정부의 디지털금융 전환 지원을 촉구함과 동시에 디지털 금융 생태계를 고려한 전략 수립을 제시했다. 세 번째로 대구가톨릭대학교 정치외교학과의 장우영 교수는 한국정치가 사회정치적 양극화를 넘어 분극화의 위기에 직면하고 있으며, 자유 공론장을 위협하는 허위조작정보(disinformation), 디지털 플랫폼 정부의 민주적 통제 등의 현상이 디지털 심화 환경에서의 민주주의와 헌정체제의 혁신을 요청하고 있다고 강조했다. 빅데이터 분석을 통해 한국사회의 정치양극화 추세와 구조를 밝히며 정보의 투명성과 디지털 권리 강화의 필요성을 제기했다. 3부 세션의 종합토론은 조화순 교수(한국정치학회 차년도 학회장, 연세대학교 정치외교학과)의 사회로 이원준 교수(한국정보과학회장, 고려대학교 정보보호대학원), 김재구 교수(한국경영학회장, 명지대학교 경영학과), 최아진 교수(한국정치학회장, 연세대학교 국제학대학원)가 디지털 심화시대의 새로운 질서 정립을 위한 방안을 토론했다. 마지막 세션에는 ‘노동 및 교육 그리고 기술 규범’이라는 주제로 ‘새로운 디지털 질서를 위한 기술 규범과 정책 방향’, ‘디지털 전환기 노동과 고등교육의 변화’, ‘디지털 기반 정책 과정의 공정성과 신뢰성 제고 방안’에 대한 주제 발표와 토론이 진행됐다. 첫 번째 발제는 인천대학교 전자공학과의 김훈 교수가 디지털 전환의 가속화 과정에서의 위협요소와 대응 기술 등, 디지털 전환시대의 주요 분야인 AI, 데이터, 메타버스, 자율주행 등에서의 기술 규범 이슈를 분석했다. 이어서 우리나라가 디지털 전환의 기술 규범 이슈에 유연하게 대응하고 기술 규범 선도 국가로의 위상을 다지는데 필요한 기술 정책 방향을 제시했다. 이어서 KAIST 디지털인문사회과학부의 김란우 조교수는 사회적 변화가 노동시장에 미치는 영향과 디지털 전환기의 맥락에서의 세계 각국의 정책적인 대응 현황을 소개했다. 또한 현재 한국의 노동 현장에서 생성형 인공지능으로 대표되는 디지털 대전환의 체감 수준 및 노동자의 대응 정도, 디지털 전환에 선도적으로 대응했던 미국 고등 교육을 분석해 한국의 대학 교육 정책에 시사점을 제공했다. 세 번째로 서울과학기술대학교 IT정책대학원의 성욱준 교수는 디지털 신기술의 공공 도입 확산에 따른 정책결정 과정에서 디지털 신기술의 활용과 이로 인한 변화를 예측해, 정부 정책의 공정성과 신뢰성을 높일 수 있는 방안을 제시했다. 이를 위해 최근 디지털 신기술 도입에 따른 공공·행정 영역 변화 방향과 정책결정 과정에서의 디지털 신기술 접목과 활용에 따른 주요 쟁점을 도출했다. 4부 세션의 종합토론은 윤지웅 교수(한국정책학회 차년도 학회장, 경희대학교 행정학과)의 사회로 황인철 교수(대한전자공학회 부회장, 강원대학교 전기전자공학과), 설동훈 교수(한국사회학회장, 전북대학교 사회학과), 박현희 교수(한국정책학회 총무위원장, 국민대학교 행정학과)가 참여했다. 이번 컨퍼런스는 디지털 공동번영사회로의 성공적인 이행을 위한 새로운 디지털 질서 정립의 중요성을 조명하며 국민의 기본권 보호라는 기초적 제반 환경 마련과 기술, 경제, 공공, 사회제도 등 각 영역에 필요한 정책과제에 대한 학계 및 연구계의 포괄적인 통찰과 분석을 엿볼 수 있는 장이었으며 2024년 디지털 대전환 메가트렌드 4년차 연구로 연결될 예정이다.

내년 총선 90일 전부터 ‘딥페이크’(Deepfake)를 활용한 선거운동이 전면 금지될 전망이다. 딥페이크 기술이 점점 정교해지면서 선거에 악용될 우려가 큰 만큼 새로운 법을 마련해 이를 방지한다는 것이다. 국회 정치개혁특별위원회는 4일 법안소위를 열고 딥페이크 선거 운동 금지를 골자로 하는 공직선거법 개정안을 통과시켰다. 딥페이크는 인공지능(AI)을 활용해 실제 인물의 얼굴이나 특정 부위를 가상으로 합성해 만들어낸 영상편집물을 뜻한다. 지난 대선 땐 딥페이크를 활용한 ‘AI 윤석열’, ‘AI 이재명’ 등이 허용됐다. 정개특위 관계자는 이날 서울신문의 통화에서 “딥페이크의 경우 사례는 많지 않지만 그 파급력이 큰 만큼 기간을 정해 통으로 금지시키는 게 좋겠다는 데 의견이 모였다”면서 “이견이 없는 만큼 5일 정개특위 전체회의에서 이를 통과시킬 예정”이라고 했다. 해당 법안이 7일 법제사법위원회를 통과하면 8일 예정된 본회의에서 최종 처리될 예정이다. 법안이 공포되면 22대 국회의원 선거 90일 전인 다음 달 11일부터 딥페이크를 활용한 선거 홍보 영상 배포는 전면 금지된다. 다음 달 11일 이전까지는 딥페이크를 인증하는 ‘표기’를 전제로 선거운동에 이용할 수 있다. 정개특위 법안1소위원장인 김영배 더불어민주당 의원은 소위 이후 기자들과 만나 “평소에는 딥페이크 선거 운동을 허용하되 ‘딥페이크’ 표기를 의무화하도록 했다”면서 “이를 위반할 경우 과태료를 물도록 했다”고 설명했다. 딥페이크 표기를 하지 않고 허위 사실을 담은 경우에는 가중 처벌까지 가능하다. 딥페이크 제작 목적이 당선일 경우와 낙선일 경우 모두 법의 적용을 받는다. 김 의원은 “‘선거운동을 위하여’라는 문구가 있는 만큼 선거와 아무 관계 없는 딥페이크는 허용된다”며 “이를테면 딥페이크를 활용한 기업 홍보 등은 아무 상관 없다”고 덧붙였다. 딥페이크가 선거 운동용인지 아닌지는 소관 기관인 중앙선거관리위원회에서 판별하기로 했다. 한편 이날 소위에서는 선거운동 도구를 착용하는 것뿐만 아니라 소지할 수 있도록 하는 내용의 공직선거법 개정안도 의결됐다. 현행법상 피켓과 같은 표지물을 목에 걸 수는 있지만 손으로 들 수 없게 돼 있는데 과하다는 지적에 따라 이를 수정한 것이다. 국민투표법 전부 개정과 관련한 입법공청회도 열렸다. 김 의원은 “국민투표법이 2014년 헌법재판소에서 위헌 판결이 난 이후로 10년간 한 번도 논의된 적이 없다”면서 “국민 투표가 오히려 거꾸로 국민 통합을 해치는 결과로 이어져선 안 되지 않느냐는 지적이 있었다”고 설명했다. 국민투표법에 대한 심사는 다음 소위에서 진행될 예정이다.

MC 송해가 딥페이크로 부활했다. 지난 2일 방송된 JTBC 주말드라마 ‘웰컴투 삼달리’에서 고 송해가 등장했다. 이 드라마 1회에서는 1994년 KBS 1TV ‘전국노래자랑’ 제주도 편을 재현했는데, 이때 송해가 그때 그 시절 모습으로 나왔다. 매주 일요일 그가 외치던 “전국~ 노래자랑!”이라는 목소리도 그대로 구현했다. 이를 가능하게 한 것은 ‘딥페이크’다. 딥페이크는 딥러닝(deep learning)과 페이크(fake)의 합성어로, 컴퓨터가 스스로 외부 데이터를 조합, 분석하여 학습하는 딥러닝을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 기술을 일컫는다.송해의 유족들도 여전히 그를 그리워하는 국민에게 좋은 기회가 될 것이라는 점에서 제안에 응했다고 한다. 제작진은 1년 가까이 유족들과 소통하며 해당 장면의 의도와 딥페이크 기술을 설명하고, 테스트 영상을 사전에 공유하며 깊은 감사의 마음을 전했다. 제작진은 “그리웠던 송해 선생님을 다시 무대로 모실 수 있어서 영광이었다. 이를 가능하게 해주신 유족분들께도 깊은 감사의 인사를 전한다”라며 “시청자들도 잠시나마 그때 그 시절의 추억과 그리움을 떠올릴 수 있는 시간이었길 바라며, 유족분들께서 좋은 마음으로 허락해주신 만큼 해당 장면은 ‘웰컴투 삼달리’를 통해서만 함께해주시길 부탁드린다”고 말했다.

생성형 AI 발달로 그림 작업 진입장벽 낮아져가상·실존 인물 안 가려…수요·저변 확대 부작용“제작 자체는 방지 어렵고 배포 안되게 막아야” 생성형 인공지능(AI) 발달로 이미지 제작의 진입장벽이 낮아지면서, 선정적인 이미지가 무차별적으로 온라인에 유포될 수 있다는 우려가 커지고 있다. 생성형 AI는 이용자의 요구에 따라 이미지, 미술, 소설, 비디오 등 다양한 콘텐츠를 만들어내는 인공지능이다. 대부분의 이미지 제작용 AI가 기존에 있던 이미지를 데이터로 학습해 새로운 이미지를 제작하는 원리인 만큼, 실존 인물의 사진이 성적인 용도로 악용될 가능성이 있다. 지난 1일 인스타그램에서 ‘aigirl’(에이아이걸)이라는 단어를 검색하자 67만여개의 게시물이 쏟아졌다. 대부분의 게시물이 가슴 등 여성의 특정 신체 부위를 부각하거나 노출 수위가 높은 이미지를 포함하고 있었다. 최근에는 일반인이 생성형 AI를 통해 ‘돈벌이’를 하는 경우도 생겨나고 있다. 직장인 이모(27)씨는 지인이 이미지 제작 AI를 이용해 남들을 위한 ‘가상 여자친구’를 만든다는 소식을 들었다. 노출이 포함된 여성 이미지를 제작한 뒤 인스타그램 등에 게시함으로써 이용자들에게 후원금을 받는다는 것이다. 실제로 각종 SNS에는 AI로 선정적인 이미지를 생성해 올리는 채널이 우후죽순 생겨나고 있으며, 심지어 구독료를 받는 곳도 있다. 특히 심각한 문제는 대부분의 SNS가 연령 제한 없이 누구나 쉽게 접근할 수 있다는 점이다. 초등학교 교사 임모(28)씨는 연합뉴스에 “성에 관심이 커지는 고학년 학생들은 AI 프로그램에 선정적인 키워드를 입력할 가능성이 있다”며 “그런 키워드로 그림을 그려낸다면 아이들의 성 인식을 왜곡시키고 정서적으로도 좋지 않을 것 같다”고 말했다. 음란물이나 선정적 이미지가 범람하는 문제는 AI 기술의 발달로 인한 대표적인 부작용으로 꼽힌다. 가상의 캐릭터를 대상으로 한 선정적인 이미지의 유포를 넘어, 기존 동영상에 다른 사람의 얼굴을 합성하는 기술인 딥페이크를 활용해 실존 인물을 성적 대상화한 불법 허위 음란물이 만들어지는 사례도 급증하고 있다. 그러나 관계 당국의 시정 조치는 아직 많이 부족한 것이 현실이다. 방송통신심의위원회는 2020년 6월부터 지난 8월까지 불법 성적 허위 영상물에 대해 총 9천6건의 시정 요구를 했지만 실제로 삭제된 영상은 4.55％(410건)에 불과했다. 지금이라도 제도 개선이 필요하다는 주장도 나오는 이유다. 전문가들은 생성형 AI의 자체적인 윤리 판단이 어렵기 때문에 이미지를 배포·유포하는 단계에서 차단하는 것이 필요하다고 지적한다. 김주호 한국과학기술원(KAIST) 전산학부 교수는 “AI 프로그램이 실존 인물의 그림을 재료로 삼아 실사화하고, 성적 대상화하더라도 이것이 음란하거나 실존 인물의 인권을 침해했다고 단정하기는 쉽지 않다”며 “이미지의 생성 자체를 막는 기술적 요소를 강구하기보다는 유포·활용 단계에서 제재하는 것이 바람직하다”고 강조했다.

진위가 혼동되는 시대, 가짜가 진짜를 압도하는 시대여서일까? ‘진짜의’, 진품의’라는 의미의 영어 단어 ‘어센틱’(authentic)이 미국 유명 사전 출판사 메리엄 웹스터의 2023년 ’올해의 단어‘로 선정됐다고 AP 통신이 27일(현지시간) 보도했다. AP는 인공지능(AI)의 발전 속에 딥페이크(deepfake·AI를 활용해 인물의 이미지를 실제처럼 합성하는 기술)가 유행하고 객관적 사실·진실의 중요성이 떨어지는 탈 진실(post truth) 시대가 투영된 결과라고 전했다. 메리엄 웹스터는 단어 조회수와 검색량 증가 정도 등을 토대로 매년 올해의 단어를 선정한다. ‘어센틱’ 단어의 검색량은 예전에도 많았지만, 올해는 일 년 내내 전례 없이 높은 수준이었다고 이 회사의 피터 소콜로프스키 선임 편집장은 설명했다. 이 사전에서 이 단어를 찾아보면 “거짓이나 모방이 아닌, 진짜의, 실제의”라는 풀이가 첫 줄에 나온다. 이어 “자신의 인격이나 정신, 성격에 충실한”, “원본과 동일한 방식으로 만들어지거나 수행된” 등이 따라 나온다. 소콜로프스키 편집장은 “우리는 2023년에 일종의 ‘진실함의 위기’(crisis of authenticity)를 목도하고 있다”면서 “학생이 진짜로 이 논문을 썼는지, 정치인이 실제로 이 발언을 했는지 믿을 수 있는가”라고 반문했다. 그는 이어 “우리는 이제 우리가 목격하는 것들을 더 이상 믿지 않는다. 때때로 우리의 눈과 귀를 믿지 못한다”고 꼬집었다. 메리엄 웹스터는 올해 유독 검색량이 늘어 올해의 단어 후보에 올랐던 다른 단어들도 소개했다. ‘엑스’(X)는 소셜미디어 트위터의 새 이름이 되면서 검색량이 급증했고, 할리우드 배우 바이올라 데이비스가 2월 그래미상을 받으며 에미상·그래미상·아카데미상·토니상을 모두 받게 되자 4개 상을 묶은 신조어 ‘EGOT’ 조회수가 올라갔다. 픽사의 애니메이션 영화 제목 ‘엘리멘탈’도 6월 개봉 후 흥행과 함께 검색량이 늘었다. 이스라엘 집단농장을 의미하는 ‘키부츠’(kibbutz)는 지난달 7일 팔레스타인 무장정파 하마스의 이스라엘 기습 후 찾아보는 사람이 크게 늘었다. 또 6월에 타이태닉호 관광 잠수정 타이탄이 대서양 심해에서 실종된 뒤 잔해가 발견되자 사고 원인인 ‘내파’(implosion·외부 압력에 의해 구조물이 안쪽으로 급속히 붕괴하며 파괴되는 현상)도 관심을 모았다. 올해 도널드 트럼프 전 미국 대통령이 네 차례 기소되면서 ‘기소하다’(indict) 검색도 증가했다. 로맨틱한 매력을 뜻하는 속어 ‘리즈’(rizz)는 지난 9월 메리엄 웹스터 온라인 사전에 추가된 뒤 검색어 상위에 올랐다. ‘서약’(covenant)은 3월 미국 테네시주 초등학교 ‘커버넌트 스쿨’에서 총격 사건이 일어난 뒤 검색량이 급증했다. 참고로 지난해 올해의 단어는 ‘가스라이팅’이었다. 한편 올해 영국에서의 검색 1위는 지난 5월 찰스 3세 국왕의 대관식이 큰 화제가 됐던 만큼 ‘대관’(coronation)이 차지했다.

전자정부 분야 최선도국인 한국과 영국이 인공지능(AI)이 가미된 차세대 전자정부의 세계 표준을 만들기 위한 협력을 대폭 강화하기로 했다. 이상민 행정안전부 장관은 22일(현지시간) 영국 런던 내각부를 방문해 알렉스 버가트 내각부 장관과 ‘한영 디지털 정부 협력에 관한 양해각서(MOU)’를 체결했다. MOU는 이날 한영 정상회담에서 발표된 ‘다우닝가 합의’에 포함된 것으로 서명 즉시 발효돼 5년간 유효하다. 양국은 첨단 정보기술(IT) 도입과 협력, 디지털 정부 시스템 구축과 운영 방식 혁신, AI를 활용한 공공서비스 개발, 클라우드 신기술 도입 및 관련 정책 개발, 국민 중심 디지털 서비스 구현 등에 관한 교류 협력을 확대하기로 했다. 또 미래 시대에 디지털 정부가 어떻게 구현될 수 있을지 설계하고 전 세계 디지털 정부를 선도할 비전을 제시해 가기로 했다. 아울러 딥페이크 영상, 저작권 침해 등 공공 부문의 AI 활용 경험과 지침을 공유해 디지털 정부가 AI 기술 발전에 대응할 수 있는 윤리와 규범을 확립하는 것에도 합의했다. 앞서 버가트 장관은 지난 10일 이 장관에게 별도 초청장을 보내 “꼭 와서 MOU를 체결해 달라”고 요청하기도 했다. 이번 MOU 체결로 양국은 인적 교류와 기술적 협력 로드맵 등 구체적 이행 계획을 내년 1월부터 마련할 수 있게 됐다. 양국은 ‘디지털 네이션스’(한영 주도 디지털 정부 선도국 장관급 회의체) 등 다자 협력에서 더 나아가 실질적 양자 협력을 확대하기로 했다. 버가트 장관은 체결식에서 “디지털 정부 분야에서 많은 성과를 이룬 한국과 MOU를 체결하게 돼 기쁘다”면서 “디지털 정부의 안정성과 AI의 안전한 활용 등은 영국의 최우선 과제인데 이번 실질적 협력 확대를 계기로 양국의 디지털 정부가 크게 발전할 것”이라고 말했다. 이 장관도 “양국의 경험과 사례를 적극 공유하자”고 화답했다. 행안부는 MOU 체결로 영국 공공조달 시장에 한국 기업의 진출 기회를 넓힐 수 있을 것으로 기대했다.

전자정부 분야 최선도국인 한국과 영국이 인공지능(AI)이 가미된 차세대 전자정부의 역할과 발전을 위해 손잡고 전자정부 세계 표준을 만들기 위한 양국간 협력을 대폭 강화하기로 했다. 이상민 행정안전부 장관은 22일(현지시간) 영국 런던 내각부를 방문해 알렉스 버가트 내각부 장관과 ‘한-영 디지털정부협력에 관한 양해각서(MOU)’를 체결했다. MOU는 이날 한·영 정상회담에서 발표된 ‘다우닝가 합의’에 포함된 것으로, 서명 즉시 발효되고 5년간 유효하다. 양국은 최첨단 정보통신(IT)기술 도입과 협력, 디지털정부 시스템 구축과 운영 방식의 혁신, 인공지능을 활용한 공공서비스의 개발, 클라우드 신기술 도입 및 관련 정책 개발, 국민 중심 디지털 서비스 구현 등에 대한 교류 협력을 확대하기로 했다. 또 미래 시대에 디지털정부가 어떻게 구현될 수 있을지 설계하고, 전 세계 디지털정부를 선도할 비전을 제시해가기로 했다.딥페이크 영상, 저작권 침해 등 공공부문 인공지능 활용 경험과 지침을 공유해 디지털정부가 인공지능 기술의 발전에 대응할 수 있는 윤리와 규범을 확립하는 것에도 합의했다. 이번 체결을 위해 버가트 장관은 지난 10일 이 장관에 별도의 초청장을 보내 “대통령 국빈방문 공식수행단으로 오는 것으로 안다. 꼭 와서 MOU를 체결해달라”면서 “‘디지털 네이션스’(한-영 주도 디지털정부 선도국 장관급 회의체) 발전에 대한 심도 있는 대화를 나누고 싶다”고 요청하기도 했다. MOU 체결로 양국은 예정대로 인적교류와 기술적 협력 로드맵 등 구체적 이행계획을 내년 1월부터 마련할 수 있게 됐다. 앞서 지난 17일 ‘행정전산망 마비’ 사태로 미국에서 조기 귀국한 이 장관은 출국에 앞서 많은 고심을 했던 것으로 전해졌다. 양국은 ‘디지털 네이션스’ 등 다자 간 협력에서 더 나아가 양국간 실질적 양자 협력을 확대하기로 했다. 버가트 장관은 체결식에서 “디지털 정부 분야에서 많은 성과를 이룬 한국과 MOU를 체결하게 돼 기쁘고 기대가 크다”면서 “디지털정부의 안정성과 인공지능의 안전한 활용 등은 영국의 최우선 과제인데 이번 실질적 협력 확대로 양국의 디지털 정부가 크게 발전할 것”이라고 말했다. 이 장관은 “양국의 경험과 사례를 적극 공유하자”고 제안한 뒤 “양국의 협력으로 국제사회 디지털 정부 윤리규범 확립과 디지털 격차 해소를 통한 개발도상국 지원 확대 등 세계 디지털 정부를 선도해가겠다”고 밝혔다. 행안부는 MOU 체결로 영국의 공공조달 시장에 한국 기업의 진출 기회를 넓힐 수 있을 것으로 기대했다.

서울 송파구는 청소년들이 대학수학능력시험 후 긴장감에서 해방되어 비행과 범죄에 노출될 위험이 높아짐에 따라 선제적인 대응에 나선다고 20일 밝혔다. 구는 최근 청소년들을 대상으로 한 디지털 성범죄가 교묘하고 빠르게 진화하는 점을 고려해 ‘양육자와 함께하는 디지털 성범죄 예방교육’을 집중 실시한다. 지난 13일 서울시에 따르면, 올해 시가 지원한 디지털 성범죄 피해자 중 10~20대가 51%로 가장 많았다. 이 중 10대 비율은 13.5%였다. 청소년을 대상으로 한 예방의 중요성이 시급하다는 뜻이다. 이에 구는 학부모가 가정에서 실제적으로 활용할 수 있는 예방 교육을 준비했다. 송파청소년성문화센터 전문 강사가 구체적인 사례를 통하여 ▲그루밍·불법촬영·딥페이크 등 디지털 성범죄 유형과 예방법 ▲가정에서 실천할 수 있는 성범죄 예방교육법 ▲피해 발생 시 도움 기관 안내 등을 상세히 전한다. 교육은 이달 28일부터 다음달 12일까지 총 5회에 걸쳐 진행된다. 구립 청소년센터 4개소와 송파구청에서 진행하는 일정이 다르니 이를 참고하여 성문화센터로 신청하면 된다. 관심 있는 학부모와 주민 누구나 신청할 수 있다.구는 또 수능 당일부터 3주간 ‘청소년 보호 특별 활동 주간’으로 정하고 야간 특별 단속과 캠페인을 진행한다. 송파경찰서, 청소년유해환경감시단, 아동·청소년지도위원 등 20여명과 함께 잠실새내역 먹자골목 등 관내 유해업소 밀집 지역을 집중 점검한다. 단속 사항은 △청소년 유흥업소 출입 금지 준수 △청소년 고용금지 위반 △노래연습장·PC방 등 오후 10시 이후 청소년 출입 불가시간 위반 △청소년 대상 유해 약물(주류, 담배 등) 판매행위 △유해 불법 광고 선전물 배포행위 위반 등이다. 위반 사항 적발 시 현장 계도 및 시정명령이 내려지고 불가피한 경우 단계적으로 조치를 강화할 방침이다. 서강석 송파구청장은 “청소년들이 건강한 사회구성원으로 성장하기 위해서는 지역사회의 관심이 중요하다”며 “수능을 치룬 수험생들이 안전하게 입시 생활을 마무리할 수 있도록 많은 협조를 부탁드린다”고 전했다.

미국 기업들은 앞으로 개발하는 인공지능(AI) 모델이 국가안보나 경제안보, 공중보건, 안전 등에 위험을 초래할 경우 연방정부에 통지하고 안전 테스트 결과를 공유해야 한다. 조 바이든 미 대통령은 30일(현지시간) 이런 내용을 담은 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다고 백악관이 밝혔다. 바이든 대통령은 “AI의 도전과 기회는 전 세계적인 것이기 때문에 미국의 리더십을 계속해서 발전시킬 것”이라면서도 본인의 딥페이크(AI를 이용한 진짜 같은 가짜 영상) 경험을 공개하며 ‘기술 발전과 규제가 함께 가야 한다’고 강조했다. 바이든 대통령은 “AI 장치가 이미 사람들을 속이는 데 사용되고 있다”며 “딥페이크는 AI가 만든 오디오, 비디오를 사용해 평판을 훼손하고 가짜뉴스를 만들고 사기를 저지른다”고 강조했다. 그러면서 “그것(딥페이크)을 한번 보라, 정말 놀랍다”며 “나도 내 것(딥페이크)을 본 적이 있는데 ‘내가 언제 저런 말을 했지’라고 말했다”고 털어놓았다. 또 “사기꾼들은 여러분이 사랑하는 사람들이 여러분이 곤경에 빠졌다고 생각해 돈을 보내도록 사기를 치는 데 AI를 활용할 수 있다”고 경고했다. 백악관 측은 AI 안전·보안에 대한 새로운 표준을 수립하는 이번 행정명령 조치를 강제하기 위해 한국전쟁 당시 발효된 국방물자생산법까지 동원했다. 행정명령은 AI를 통한 사기 등을 막기 위해 AI 생성 콘텐츠를 탐지하고 공식 콘텐츠를 인증하기 위한 표준 및 모범 사례를 수립하도록 했다. 미군과 정보당국의 AI 사용 및 적의 군사적 AI 사용 대응을 위한 국가안보 각서도 개발된다. 근로자들이 일터에서 AI로 인해 근로 감시, 작업의 질 저하 등 권리를 침해받아선 안 된다는 내용도 명시됐다. 상무부는 AI 콘텐츠 인증 및 워터마크 지침 개발을 맡는다. 뉴욕타임스(NYT)는 “AI 행정명령은 테러리스트의 대량살상무기 개발 위험과 가짜뉴스가 선거판에 활용되는 것을 막을 것”이라고 전망했다. 한편 리시 수낵 영국 총리는 “AI에는 국경이 없으며 어떤 국가도 혼자 AI를 안전하게 만들 수 없다”며 11월 1~2일 런던에서 ‘글로벌 AI 안보 정상회의’를 출범한다. 미국, 프랑스, 캐나다, 독일 등 주요국 정상은 불참하지만 일론 머스크 테슬라 최고경영자(CEO)는 참석을 확정했다. 주요 국가와 기업이 한자에 모여 AI 윤리·안전을 논의하는 것은 이번이 처음으로 네이버, 삼성전자 등 한국 기업 관계자도 참석한다.

스웨덴의 유명 환경운동가 그레타 툰베리(21)가 앞으로 지속 가능한 전쟁무기와 비건 수류탄을 사용하자고 주장하는 영상이 딥페이크(deepfake)로 확인했다. 지난 27일(현지시간) AFP 통신은 외신은 소셜미디어 X등을 통해 확산한 툰베리의 인터뷰 영상은 조작된 것이라고 보도했다. 딥페이크는 인공지능(AI)을 이용해 사람들의 말과 행동 등을 조작하고 합성하는 영상을 말한다. 해당 영상은 최근 소셜미디어를 통해 확산했는데, 그 내용은 황당하다. 영상에서 툰베리는 "전쟁은 항상 나쁘다. 특히 지구를 위해서 더욱 그렇다"면서 "전투를 계속하고 싶다면 환경을 생각해 지속 가능한 탱크와 무기로 변화해야 한다"고 밝혔다. 이어 "수류탄을 사용한다면 비건 수류탄을 사용해야 한다"고도 덧붙였다. 물론 이 영상은 조작된 것이다. 보도에 따르면 이 딥페이크 영상의 원본은 몇달 전 BBC와의 인터뷰에서 따온 것으로 음성과 입모양 등이 정교하게 조작됐다. 툰베리를 타깃으로 한 조작 게시물은 더 있다. 지난 20일 X에 처음 게시됐다가 삭제된 사진을 보면 툰베리가 이슬람국가(IS)의 깃발과 머리띠를 착용한 모습을 담고있다. 이처럼 툰베리가 소셜미디어 상에 각종 조작에 시달리는 이유는 전세계적으로 팬과 더불어 안티팬도 많기 때문이다. 대표적으로 툰베리가 언론 등에 이목을 끄는 것에만 관심있고 시늉만 하면서 실제로는 친환경적으로 살지 않는 위선자라는 비판이다.특히 팔레스타인 무장정파 하마스의 이스라엘 기습 공격 후, 툰베리가 팔레스타인을 지지한 것이 비판에 불을 질렀다. 툰베리는 최근 국제사회가 즉각적인 휴전과 함께 팔레스타인인들을 비롯한 피해를 본 모든 이들의 자유와 정의를 요구해야 한다고 주장하면서 친 팔레스타인 단체의 포스팅을 자신의 계정에 공유하기도 했다. 이에 이스라엘군 대변인인 아르예 샤루스 샬리카는 툰베리가 이스라엘 국민이 학살된 것에는 한마디 말도 없이 가자지구에 대한 연대를 표시했다고 비난했다. 한편 환경운동으로 세계적인 주목을 받고있는 툰베리는 지난 2018년 8월 학교에 가는 대신 스웨덴 의사당 앞에서 기후 변화 대책을 요구하는 1인 시위를 벌여 세계적인 주목을 받았다. 한 달 넘게 이어진 그의 호소는 전 세계 100여 개 도시에서 학생들이 참여하는 ‘미래를 위한 금요일’(Fridays for Future) 운동으로 발전했다. 

내년 총선을 위한 선거제도 개편안 마련이 지연되는 가운데, 국회 정치개혁특별위원회가 활동 기한을 7개월 연장키로 했다. 선거제 개편안 처리와 더불어 ‘여성정치확대’ 법안, ‘국회개혁’ 법안 등의 처리도 이어갈 방침이다. 26일 정치권에 따르면 여야 원내지도부는 지난 17일 김진표 국회의장과 만난 자리에서 오는 31일까지였던 정개특위의 기존 활동 기한을 21대 국회의 마지막 달인 5월까지 연장하기로 한 것으로 전해졌다. 선거구 획정안, 선거제 개편안 등 정개특위 소관 안건들이 처리되지 않았는데 문을 닫을 수 없다는 공감대가 형성됐다는 것이다. 여야는 오는 31일 내년도 예산안 관련 시정연설을 위해 열리는 국회 본회의에서 활동 연장안건을 처리할 방침이다. 김 의장이 여야 원내지도부에게 내년 총선 예비후보자 등록 시작일인 12월 12일 이전까지 선거제 개편안 논의를 마무리하자고 당부한 만큼, 여야는 다음달에 논의에 박차를 가할 것으로 보인다. 다만 ‘비례대표제’를 두고 여야 간에 여전히 입장차가 커 한달 만에 선거제 개편안 최종안이 나오지 않을 수 있다. 이 경우 우선적으로 ‘지역 선거구수 및 시도별 의원정수’를 정하고 중앙선거관리위원회에서 제출한 선거구 획정안을 통과시키는 수준에 그칠 수도 있다. 또한 정개특위는 그동안 행정안전위원회에 계류돼 논의가 부진했던 여성정치확대 관련 법안, 딥페이크 저지 법안 등을 정개특위로 가져와 논의할 전망이다. 정개특위 관계자는 이날 통화에서 “권성동·박홍근 전임 여야 원내대표가 지난해 정개특위 구성 당시 특위 논의 안건을 좁게 잡으면서 빠졌던 정당법, 정치관계법 등을 여야 합의가 되는 대로 정개특위로 가져올 예정”이라고 설명했다. 여성정치확대 법안은 여성 후보자들을 많이 추천한 정당에게 지원하는 ‘여성추천보조금’을 상향하는 정치자금법 개정안, 지역구 후보 총수 중 여성 후보를 최소 30% 이상 의무 공천하도록 하는 공직선거법 개정안 등이다. 딥페이크 법안으로는 인공지능 기술의 발달로 이미지를 합성해 실제와 구분이 불가능한 경우가 많아짐에 따라 딥페이크 기술을 이용한 선거운동의 기준을 마련하고자 하는 공직선거법 개정안이 있다. 정개특위는 해당 내용들이 내년 총선 때 적용될 수 있도록 최대한 신속하게 이를 처리하겠다는 방침이다. 정개특위 관계자는 “해당 법안들은 여야 의원들 모두 발의한 만큼 여야 합의가 크게 지연될 것 같지는 않다”고 분위기를 전했다. 정개특위는 이 밖에도 법제사법위원회의 체계·자구 심사 권한 폐지, 이해충돌방지법 등 국회 개혁 안건, 지구당 설치를 위한 정당법 개정안 등을 추가로 논의할 계획이다.

지난 7월 개봉한 액션 영화 ‘미션 임파서블: 데드 레코닝’에는 주인공인 이선 헌트(톰 크루즈)가 맞서 싸우는 ‘최강 빌런’(악당)으로 인공지능(AI) 엔티티가 등장한다. 엔티티는 전 세계의 모든 디지털 기기에 접속해 데이터나 시스템을 마음대로 이용·조작할 수 있을 뿐 아니라 수없이 많은 시뮬레이션과 계산으로 미래를 내다볼 수 있는 능력까지 갖춘 초월적인 존재로 그려진다. 목소리도, 형체도 없이 공간을 넘나들며 앞날을 예견하는 신과 같은 존재와 싸워야 하는 잘생긴 헌트의 미간 주름이 유난히 깊어 보였던 것은 기분 탓일까. 그런가 하면 최근에는 전기차 업체 테슬라의 최고경영자(CEO) 일론 머스크가 서방 국가들의 ‘빌런’으로 떠올랐다. 머스크는 지난해 2월 러시아가 우크라이나를 침공하면서 현지의 인터넷 통신망이 끊길 위기에 처하자 자신의 민간 우주기업 스페이스X가 운영하는 스타링크의 위성통신 서비스를 무료로 제공하며 일약 ‘영웅’이 됐다. 그러나 그가 크림반도에 주둔한 러시아 해군을 향한 우크라이나의 기습 공격을 막기 위해 일대의 통신망을 활성화해 주지 않은 사실이 드러나면서 분위기는 급반전됐다. 여기엔 러시아의 핵 공격을 우려한 그의 판단이 작용했다고 전해졌다. 바야흐로 막강한 기술을 가진 개인이 시장뿐 아니라 국가의 운명까지 좌우할 수 있는 시대가 된 것이다. 최근 AI와 같은 첨단기술이 산업계의 화두다. 정보통신기술(ICT) 업계뿐 아니라 제조업, 각종 하드웨어 산업에서도 AI를 미래 먹거리로 선포하고 나섰다. 하늘을 나는 택시, 로봇 비서 등 어릴 적 공상과학(SF) 영화에서 보던 풍경이 눈앞에 펼쳐지는 것도 가까운 미래가 됐다. 그러나 빠른 시장 변화와 기술의 발전은 보안이나 사생활 침해, 범죄의 악용, 저작권 문제 등 다뤄야 할 과제가 그만큼 기하급수적으로 늘어나고 있다는 의미이기도 하다. 우리가 이전에 겪지 못한 새로운 형태의 디지털 재난을 대비해야 한다는 경고도 나온다. 지난 10일 문화체육관광위원회 국정감사장에서는 가수 김광석의 ‘서른 즈음에’를 구성지게 부르는 유인촌 문체부 장관의 딥페이크(AI를 기반으로 한 인간 이미지 합성 기술) 영상이 공개됐다. 당시 장내에선 웃음이 터져 나왔지만, 누구나 타인의 모습을 만들어 낼 수 있게 됐다는 명제는 웃어 넘길 수만은 없는 지점이다. 신기술의 등장은 늘 규제와 혁신이라는 두 가치를 충돌시킨다. 세계 각국은 이미 AI 규범 마련에 돌입한 상태다. 국내에서도 과학기술정보통신부에서 연내 ‘AI 법제 정비 로드맵’을 발표할 계획이다. 업계에서는 하향식 규제가 혁신의 싹을 누를까 우려하는 목소리도 나온다. 샘 올트먼 오픈AI CEO가 “기술은 규제하면 우회해서 발전한다”면서 “기술 자체가 아니라 기술을 활용하는 사례를 규제해야 한다”고 말한 것도 같은 맥락이다. 모두가 ‘일상을 바꾸는 기술’을 이야기하는 시대다. 그러나 우리 사회는 송두리째 달라진 일상을 맞이할 준비가 얼마나 돼 있을까. 새로운 기술로 산업의 꽃은 피우되 악용되는 것은 막을 기준. 참 어려운 숙제를 받아들었다.

12일 서울 서초구 국립중앙도서관에서 진행된 열린마당 실감체험관 행사 ‘작가와의 만남’에서 참관객들이 작가 이상(1910~1937)의 모습을 보고 있다. 열린마당은 디지털 기술과 한국의 고전 문학을 더한 실감형 콘텐츠 체험 공간으로, 이상 작가의 모습은 특정 인물의 얼굴 등을 영상에 합성하는 딥페이크 기술로 만들었다. 뉴스1

“점점 더 멀어져간다. 머물러 있는 청춘인 줄 알았는데.” 10일 문화체육관광부를 대상으로 열린 국회 문화체육관광위원회 국정감사장에 유인촌 문체부 장관이 부르는 가수 김광석의 ‘서른즈음에’가 울려 퍼졌다. 정확히는 김광석의 영상에 유 장관의 얼굴을 합성하고 유 장관의 음성을 학습시켜 만든 ‘딥페이크’ 영상이다. 문화체육관광위원장인 이상헌 더불어민주당 의원이 최근 인공지능(AI) 기술 접목으로 더욱 정교해진 딥페이크 관련 범죄 피해가 늘고 있다는 점을 지적하기 위해 시연한 것이다. 이 위원장은 이날 유 장관에게 “가수 김광석을 아느냐. 즐겨듣는 김광석 노래가 있느냐”고 질문했다. 유 장관이 “예전에는 많이 들었다”고 하자, 이 위원장은 “그러면 위원장이 장관의 목소리로 김광석 노래를 흉내 내겠다”고 했다. 이에 회의장 스크린에는 유 장관이 기타를 들고 ‘서른즈음에’를 부르는 영상이 상영됐고, 유 장관은 웃음을 터뜨렸다. 기타를 들고 노래하는 김광석에 유 장관의 얼굴을 덧씌운 형태였으며, 음성도 유 장관의 목소리와 제법 비슷했기 때문이다. 이 위원장은 “AI에 유 장관 목소리를 학습시켜서 만들어 보았다. 그럴듯하지 않으냐”며 “생성형 AI가 고도화돼 가짜뉴스와 보이스피싱 등 범죄로 이어질 가능성이 있다”고 우려를 표했다. 그러면서 자신이 지난 5월 AI를 사용해 제작한 콘텐츠에 관련 표기를 의무화하는 콘텐츠산업진흥법 개정안을 발의했다면서 “법안을 긍정적으로 검토해달라”고 당부했다. 이에 유 장관은 “그렇게 하겠다”고 화답했다. 유 장관은 이어 “예전에도 뭘 바꾸고 개혁하자는 이야기가 나오면 정치적으로 해석해 항상 정말 힘들었다”며 “AI 문제도 해결해야 할 미래 과제라 많이 협조해주시면 개정이 잘될 것”이라고 덧붙였다.

‘나는 솔로’ 16기 영수가 방송 후반 통편집을 당한 가운데 그 배경이 주목받고 있다. 4일 유튜브 채널 ‘촌장엔터테인먼트TV’에는 ENA, SBS플러스 ‘나는 솔로’ 16기 출연자들의 라이브 생방송이 공개됐다. 이날 영수는 자신의 방송 분량이 유독 적었던 이유에 대해 “주변에서 저를 아는 분들께서는 왜 자꾸 안 나오느냐고 하던데 진심으로 최선을 다해서 임했다”고 말했다. 이어 “촬영 중에 생긴 어떤 사건 때문에 신변의 사정이 생겨 제작진 분들과 협의 하에 최대한 분량이 안 나오도록 한 거다. 좀 많이 안 나오고 나니까 좋은 그림들이 나온 것 같아서 오히려 다행이라 생각한다”고 설명했다. 당시 라이브 방송에서는 영수의 통편집을 두고 자세한 설명은 없었으나, 네티즌은 그가 지난 8월 ‘로맨스 스캠’ 피해를 당했던 것을 언급했다. ‘로맨스 스캠’은 연애를 뜻하는 로맨스와 신용사기를 뜻하는 스캠의 합성어다. 영수는 지난 8월 자신의 인스타그램을 통해 “내가 쓰는 계정은 이 계정 하나”라며 “지난 몇 년간 국내·해외 여성들에게 내 사진을 도용해 사기 행각을 벌이는 로맨스 스캠이 빈번하게 이뤄졌다”는 글을 게재한 바 있다. 그는 “내 얼굴을 보정해 사용하고, 심지어 딥페이크 기술을 써서 영상 통화까지 했다는 제보도 받었다. 유튜브에 돌아다니는 사진은 도용 계정에서 퍼갔을 것”이라며 “신고를 해도 끝없이 생겨나는 잡초 같은 존재라서 방관하며 지냈다. 이제는 국내 피해자들이 혹시나 생겨날까 봐 걱정스럽다”고 말했다. 이어 “이제는 많은 분들이 사기 계정을 잘 걸러낼 수 있는 판단력이 서지 않을까 하는 긍정의 마음도 생긴다. 영어를 주로 쓰거나, 한국말을 잘 하지 못하는 사칭 계정의 사기 행각에 부디 피해를 입지 않길 당부한다”고 주의를 당부했다. ‘나는 솔로’ 16기 영수의 직업은 트레이너이며, 슬하에 자녀 셋을 두고 있다. 현재 그는 유튜브를 운영하고 있다.

할리우드의 거물급 배우 톰 행크스가 치과 보험 광고를 한다? 물론 그도 유명 연예인이기에 치과 보험 광고를 할 수는 있다. 그러나 왠지 어색하다. 올해 67세인 그와 달리 광고 속 톰 행크스의 모습은 흰머리도 없고 주름살도 없는, 훨씬 젊은 모습이기 때문이다. 이 광고는 톰 행크스 본인의 동의 없이 인공지능(AI)으로 합성한 이미지로 만든 광고였고, 톰 행크스는 문제의 광고가 자신과 아무런 관련이 없다고 직접 경고하고 나섰다. 2일(현지시간) CNN방송 등에 따르면 톰 행크스는 전날 자신의 인스타그램 계정에 “주의하세요! 나의 AI 버전으로 치과 보험을 홍보하는 영상이 있다”면서 “그 광고와 나는 아무런 관련이 없다”고 적었다. 그가 경고문과 함께 첨부한 사진 속 그는 현재 그의 모습보다 젊어 보인다. CNN은 이 사진이 그가 경고한 치과 보험 광고에 포함된 사진인지 독자적으로 확인하진 못했다고 전했다. 뉴욕타임스(NYT)는 톰 행크스가 이 광고와 관련해 법적 조처를 하거나 삭제를 요구할 계획이 있는지 톰 행크스 대리인에게 물었지만 답변을 받지 못했다고 보도했다. AI를 활용한 ‘가상 배우’가 할리우드에서 민감한 문제로 떠오른 가운데 톰 행크스의 경고문까지 나오면서 더욱 주목받고 있다. 지난 7월부터 할리우드 배우들이 파업에 나선 이유 중 하나도 AI를 활용한 가상 배우 문제다. AI가 가상 배우들의 연기 장면을 만드는 데 쓰이는 CGI(컴퓨터 생성 이미지) 기술을 훨씬 쉽고 저렴하게 만들어 배우의 일자리를 빼앗을 수 있다는 우려가 나오고 있다.할리우드 배우·방송인 노동조합(SAG-AFTRA)은 제작사들이 공정한 보상 없이 AI 기술로 연기자들의 일자리를 없애고 싶어 한다고 주장한다. 톰 행크스 역시 앞서 AI가 영화계에 미칠 악영향을 경고한 바 있다. 그는 지난 5월 영국 코미디언 애덤 백스턴의 팟캐스트에 출연해 ‘배우의 유사성(likenesses)’을 지적재산으로 보호하는 방안이 논의되고 있다며, AI 기술 때문에 자신이 죽고 나서도 새 영화에 계속 등장할 수 있다고 지적했다. 톰 행크스는 “이제 누구나 AI, 딥페이크(특정 인물의 얼굴 등을 영상에 합성) 기술로 나이에 상관없이 자기 모습을 재현할 수 있다”면서 “내가 내일 버스에 치여 크게 다치더라도 내 연기는 계속될 수 있다”고 말했다. AI를 악용한 사기성 광고에 피해를 본 유명인은 톰 행크스만이 아니다. NYT에 따르면 CBS방송 진행자 게일 킹도 2일 SNS에서 자신의 동의 없이 AI로 만들어진 자신의 이미지가 체중 감량 관련 광고에 쓰였다고 주장했다. 그는 인스타그램에 “이 제품에 대해 듣거나 사용한 적 없다”며 “AI 영상에 속지 말아달라”고 적었다.

李 “괴벨스가 탄식… 규제 시급”김기현 “총선, AI 조작뉴스 우려”포털 제평위 심사 개선도 촉구 이동관 방송통신위원장은 19일 국민의힘이 국회에서 개최한 ‘가짜뉴스 근절 입법청원 긴급공청회’에 참석해 “(가짜뉴스를) 빨리 바로잡지 않으면 대한민국 존립 자체가 흔들릴 수밖에 없다”고 밝혔다. 그는 이날 공청회 축사에서 “요새 지하에서 괴벨스(나치 독일의 선동가)가 탄식하고 있을 것이다. 소셜미디어(SNS), 유튜브, 딥페이크 기술 등 많은 수단이 생겨나 지금 내가 나가서 활약하면 지구를 뒤엎어 놓겠구나 생각할 것”이라며 이렇게 말했다. 이어 “제도의 사각지대가 많아 선제 대응을 해야 한다”고 강조한 뒤 방통위의 ‘가짜뉴스 근절 방안’을 언급하며 “이건 응급조치일 뿐으로, 입법을 통해 규제의 틀이 만들어져야 할 것”이라고 밝혔다. 방통위는 전날 발표에서 긴급 재난 상황이나 금융시장에 심각한 혼란을 유발하거나 선거 결과에 영향을 끼치는 가짜뉴스의 경우 포털사이트에 선제적으로 임시 삭제나 차단을 요청하는 방안을 추진하기로 했다. 이 위원장은 “국민의 69%가 포털로 뉴스를 보는데 포털은 어떤 규제 수단도 없이 사회적 책임을 뺀 사각지대에서 움직이고 있다”며 “더이상의 국기문란 사태가 없도록 최선을 다할 것”이라고 말했다. 김기현 국민의힘 대표도 “내년 총선을 앞두고 인공지능(AI) 등을 활용한 조작 뉴스의 횡행이 우려된다”며 “법적, 제도적, 사회문화적 조치가 필요하다”고 밝혔다. 이어진 발제 및 토론에서는 법·제도의 보완 방안에 대한 논의가 이뤄졌다. 신홍균 국민대 법학과 교수는 “전문성을 갖춘 전담 조직 또는 기구가 가짜뉴스 판별 기준 및 절차에 있어 객관성과 투명성을 확보해야 한다”며 “다양한 분야에서 ‘상시 모니터링’을 통해 과학적 증거를 기반으로 행정이 구현돼야 할 것”이라고 설명했다. 최철호 공정언론국민연대 공동대표는 잘못된 언론 보도에 대한 ‘징벌적 손해배상제’ 도입과 형사책임 강화, 선거와 관련된 허위 보도에 대한 가중처벌 등을 촉구했다. 한편 이날 국민의힘 정책위원회와 윤두현 의원은 거대 포털의 뉴스 정책에 대한 개혁을 촉구하는 ‘포스트 뉴스제휴평가위원회(제평위)’ 전문가 토론회를 개최했다. 제평위는 뉴스 제휴를 심사·관리하기 위해 네이버·카카오 등이 자율적으로 운영하는 기구다. 박대출 정책위의장은 “제평위는 포털에 입점할 언론을 결정하는 등 막대한 권한을 행사해 왔지만 밀실 심사 등 자의적 심의에 대한 지적이 지속됐다”고 비판했다.

이동관 방송통신위원장은 19일 국민의힘이 국회에서 개최한 ‘가짜뉴스 근절 입법청원 긴급공청회’에 참석해 “(가짜뉴스를) 빨리 바로잡지 않으면 대한민국 존립 자체가 흔들릴 수밖에 없다”고 밝혔다. 그는 이날 공청회 축사에서 “요새 지하에서 괴벨스(나치 독일의 선동가)가 탄식하고 있을 것이다. SNS(소셜미디어), 유튜브, 딥페이크 기술 등 많은 수단이 생겨나 지금 내가 나가서 활약하면 지구를 뒤엎어 놓겠구나 생각할 것”이라며 이렇게 말했다. 이어 “제도의 사각지대가 많아 선제 대응을 해야 한다”고 강조한 뒤, 방통위의 ‘가짜뉴스 근절 방안’을 언급하며 “이건 응급조치일 뿐으로, 입법을 통해 규제의 틀이 만들어져야 할 것”이라고 했다. 방통위는 전날 발표에서 긴급 재난상황이나 금융시장에 심각한 혼란을 유발하거나 선거 결과에 영향을 끼치는 가짜뉴스의 경우, 포탈사이트에 선제적으로 임시 삭제나 차단을 요청하는 방안을 추진키로 했다. 이 위원장은 “국민의 69%가 포털로 뉴스를 보는데 포털은 어떤 규제 수단도 없이 사회적 책임을 뺀 사각지대에서 움직이고 있다”며 “더 이상의 국기 문란 사태가 없도록 최선을 다할 것”이라고 말했다.김기현 국민의힘 대표도 “내년 총선을 앞두고 인공지능(AI) 등을 활용한 조작뉴스의 횡행이 우려된다”며 “법적, 제도적, 사회문화적 조치가 필요하다”고 말했다. 이어진 발제 및 토론에서는 법·제도의 보완 방안에 대한 논의가 이뤄졌다. 신홍균 국민대 법학과 교수는 “전문성을 갖춘 전담 조직 또는 기구가 가짜뉴스 판별 기준 및 절차에 있어 객관성과 투명성을 확보해야 한다”며 “다양한 분야에서 ‘상시 모니터링’을 통해 과학적 증거를 기반으로 행정이 구현되어야 할 것”이라고 설명했다. 최철호 공정언론국민연대 공동대표는 잘못된 언론 보도에 대한 ‘징벌적 손해배상제’ 도입과 형사 책임 강화, 선거와 관련된 허위 보도에 대한 가중 처벌 등을 촉구했다. 한편, 이날 국민의힘 정책위원회와 윤두현 의원은 거대 포털의 뉴스 정책에 대한 개혁을 촉구하는 ‘포스트 뉴스제휴평가위원회(제평위)’ 전문가 토론회를 개최했다. 제평위는 뉴스 제휴를 심사·관리하기 위해 네이버·카카오 등이 자율적으로 운영하는 기구다. 박대출 정책위의장은 “제평위는 포털에 입점할 언론을 결정하는 등 막대한 권한을 행사해 왔지만, 밀실 심사 등 자의적 심의에 대한 지적이 지속됐다”고 비판했다.

최근 지인에게 다급한 전화를 받았다. 그는 “국내 주식 투자액이 직계가족 통틀어 3억원이 넘으면 세금을 40% 뗀다고 한다”며 “지금 당장 주식 보유액이 얼마인지 확인해 보라”고 했다. 무슨 소리인가 해서 찾아보니 지난 정부에서 추진하려고 했던 주식양도세 대주주 기준 얘기였다. 현 정부에서 여야가 논쟁 끝에 기존대로 유지하기로 이미 결정한 사안이었다. 지난해 말에 다 끝난 이야기를 어디서 보고 그러느냐 물었더니 대뜸 “유튜브”가 나왔다. 섬네일에 크게 적힌 자극적인 제목의 문구들이 생각났다. 일부 사실과 다르거나 영상 속에서 잠깐만 언급되는 내용이더라도 구독자를 끌어들일 수 있다면 상관하지 않았을 테다. 시일이 오래된 영상이더라도 그의 유튜브 동영상 추천 목록의 맨 위에 올라가 있었을 수도 있겠다는 생각이 들었다. 지인에게 “포털에서 기사를 검색해 확인해 보라”고 했더니 “걔들도 기자래”라는 답이 돌아왔다. 유튜브를 언론으로 여기는 건 이 지인뿐이 아니었다. 지난해 한국언론진흥재단이 발간한 ‘디지털뉴스리포트 2022’에 따르면 우리나라 유튜브 이용률은 72%에 달하며, 소셜미디어 가운데 뉴스를 접하는 통로는 유튜브가 44%로 가장 높았다. 유튜브는 ‘가장 신뢰하는 언론매체’를 묻는 한 언론사 설문에서 지난 대통령선거 직전인 2019~2021년엔 10위 안에 들었으며, 2020년엔 1위까지 차지했다. 특히 청소년들이 언론보다 유튜브에서 정보를 찾고 신뢰한다는 얘길 많이 듣는다. 실제로 유튜브엔 ‘뉴스’임을 자처하는 콘텐츠와 ‘기자’라는 유튜버가 정말 많다. 하지만 그 유튜브 페이지엔 사소하고 쓸데없어 보이기까지 하는 시시콜콜한 ‘팩트’ 한 조각까지 집요하게 캐묻는 데스크는 없을 것이다. 단언컨대 그 기자는 좀처럼 사실로 확인되지 않는 정황 하나 때문에 전체 기사를 쓰지 못하는 아까움을 느껴 본 적은 없을 것이다. 혹시 틀려서 문제가 되면 ‘사과 콘텐츠’로 조회수를 올리고 다시 계속해서 자극적인 콘텐츠를 쏟아낼 것이다. 무엇보다 문제는 유튜브가 그런 콘텐츠 제작자를 적극적으로 제재하지 않는다는 점이다. 유튜브가 제재하는 영상은 대개 성적으로 선정적이거나 잔혹한 장면이 담긴 것들이지 사실관계의 틀림, 왜곡에 따른 경우는 드물다. 최근 해외 유명 축구선수의 기자회견 영상 속 발언 내용을 딥페이크 기술로 조작해 엄청난 조회수를 기록한 콘텐츠도 언론의 지적을 받기 전까지 제재받지 않았다. 사람들 인식이 여기까지 온 데는 물론 언론의 책임이 크다. 언론답지 않은 매체들과 기자답지 못한 직장인들이 국민 가슴에 상처를 많이도 줬다. 10여년 전만 해도 기자들끼리 농담 삼아 서로를 부르던 ‘기레기’라는 은어가 전 국민이 입에 달고 사는 말이 되기까지 우리에겐 무수한 기회가 있었다. 그럼에도 생각해 본다. 어쩌면 언론이 어떻게 해도 거대한 흐름을 막을 순 없었을지 모른다고. 콘텐츠가 재미있을수록 큰돈이 되고 그렇지 못하면 도태되는 흐름. 실제로 많은 기자들이 유튜버가 돼서 회사를 떠난다. 재미없는 한 줄 사실에 목매는 기자가 점점 사라져 간다. 언론사 내부에서도 기사의 가치와 기자의 능력을 조회수나 클릭수로 평가하는 분위기가 되고 있다. 유튜브와 다를 게 없다.