“저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다. 저 윤석열의 사전에 정치 보복은 있어도 민생은 없습니다” ‘윤석열 대통령 양심고백 영상’이란 제목으로 ‘가짜’ 윤석열 대통령 딥페이크(Deepfake·AI로 만든 이미지 영상 합성 기술) 영상물이 소셜미디어(SNS)에서 확산하자 경찰이 22일 방송통신심의위원회에 차단을 요청한 것으로 확인됐다. 방심위는 해당 영상을 ‘대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물’로 판단하고 긴급 심의에 착수했다. 서울경찰청은 최근 방심위에 공문을 보내 틱톡과 메타 등에 올라온 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’ 딥페이크 게시글의 삭제와 차단을 요청했다. 근거 조항은 방송통신위원회의 설치 및 운영에 관한 법률, 정보통신망 이용촉진 및 정보보호 등에 관한 법률, 정보통신에 관한 심의 규정이다. 경찰은 “같은 URL 주소를 통해 틱톡, 인스타, 페이스북 사이트 계정을 사용하는 회원이 문제의 영상 등을 게시한 것으로 확인돼 삭제·차단을 요청한다”고 밝혔다. 방심위는 해당 내용을 접수하고 오는 23일 긴급 통신 심의소위원회를 열어 해당 안건을 심의한 뒤 바로 삭제 및 차단 조치를 할 것으로 알려졌다.46초 분량의 영상 속 윤석열 대통령은 “존경하는 국민 여러분. 저 윤석열, 국민을 괴롭히는 법을 집행해온 사람이다. 무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”라고 말한다. 이어 “저 윤석열, 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”며 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”고 말했다. 그러면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다. 감사하다”며 연설을 끝맺는다. 이날 오후 4시 현재 틱톡에서 ‘윤석열 양심’을 검색하면 같은 게시글이 5개가량 검색된다. 영상 댓글에는 “이건 윤석열이 아니다”, “이거 만든 사람 처벌해야 한다”는 부정적 반응과 반대로 “정말 저렇게 인정하면 좋으련만”, “가짜가 진짜보다 좋다” 등의 반대 반응도 달렸다. 앞서 2022년에도 지방선거를 앞두고 윤 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 SNS를 통해 확산하면서 정치적 논란이 됐었다. 한편, 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.

중앙선거관리위원회가 오는 4월 총선을 앞두고 공직선거법상 위법 사항인 인공지능(AI)을 활용한 ‘딥페이크’ 불법 게시물을 22일 만에 129건이나 적발했다. 상대당 후보가 참석하지도 않은 행사에 참석한 듯 이미지를 합성하는 등 특정 정치인의 이미지를 왜곡하거나 조롱하는 영상물로 모두 삭제했다고 한다. 선거가 가까워질수록 이런 불법 선거물이 넘쳐날 판이니 대책 마련이 시급해 보인다. 딥페이크 영상 등은 AI 기술 등으로 만들어 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등이다. 공직선거법 개정에 따라 지난달 29일부터 이런 딥페이크물은 제작·편집·유포·상영·게시할 수 없다. 위반하면 7년 이하 징역이나 최고 5000만원의 벌금형에 처한다. AI 기술로 만든 가상의 영상물이라고 표시를 하더라도 허위사실이 포함된 경우에는 허위사실 공표죄로 처벌한다지만 위해성을 감안하면 미흡한 대책이다. 선관위는 반복적이고 악의적인 딥페이크물은 고발 조치 등 강력 대응해야 한다. 이런 불법 게시물은 삭제하더라도 삭제하기 전에 본 유권자들에게 특정 정당과 정치인에 대한 왜곡되거나 편향된 인식을 심어 주고 유권자의 정확한 판단을 흐리게 한다. 포털 업체와 정치권의 협조도 필요하다. 선관위에서 AI 전담 조직을 꾸려 모니터링을 강화한다지만 모든 딥페이크물을 적발하기란 힘든 일이다. 포털 업체가 선관위의 삭제 요청에 앞서 스스로 이런 딥페이크물을 걸러 내는 시스템을 갖춰야 한다. 정치권은 딥페이크를 활용한 불법 선거물을 제작, 유포하는 정치인은 공직선거에 입후보할 자격을 박탈하는 등 AI 선거의 해악을 최소화할 방안을 모색해야 한다. 유권자의 눈과 귀를 흐리는 선거는 정치에 대한 불신감만 키울 것이다.

아부다비에 다녀왔다. 유네스코가 주최한 제3회 문화예술교육 세계대회는 변화하는 국제 정세와 사회적 가치 등을 반영한 새로운 문화예술교육 프레임워크를 채택하는 국제 행사였다. 한국대표단으로 참석해 인공지능(AI) 기반 교육 확대 전략을 주제로 문화예술 분야의 비인간 교수자 도입 방안을 발표했는데 챗GTP의 도움으로 보다 설득력 있는 발표 자료를 만들 수 있었다. 챗GPT의 활용과 인기는 소셜미디어에서도 확인할 수 있다. AI로 만든 햄스터 캐릭터로 스토리를 이어 가는 인스타그램 계정은 만든 지 3주 만에 팔로어가 1만명을 넘어섰다. 한편에서는 이러한 콘텐츠를 창작물로 볼 수 있는지, 저작권 이슈는 없는지 우려하는 목소리도 있다. 하지만 즐기는 입장에서는 AI가 만든 창작물도 이렇게 재미있을 수 있다는 사실이 흥미롭기만 하다. 챗GPT는 아직은 그 자체로 재미를 창출하지는 못한다. 챗GPT로 콘텐츠를 만드는 방식은 유사하지만 재미의 수준에는 차이가 있어 반응도 제각각이다. 결국 재미라는 것이 챗GPT를 활용하는 창작자에게서 나오기 때문이다. 챗GTP는 제작에 대한 기능적 전문성이 없더라도 창의적 스토리를 시각적으로 보여 줄 수 있게 하므로 아이디어는 갖고 있지만 시각적으로 표현할 능력은 없었던 소비자들을 새로운 창작자로 만들어 주는 기반으로 활용될 수 있다. 이에 대해 소비자학 관점에서는 수동적으로 콘텐츠를 감상하기만 했던 컨슈머가 창작자이자 소비자인 크리슈머로 진화한 것으로 해석한다. 크리슈머는 ‘크리에이터’와 ‘컨슈머’의 합성어다. 로봇산업의 발전 과정에서 논의됐던 ‘불쾌한 골짜기’(uncanny valley) 이론이 챗GPT에도 적용된다. ‘불쾌한 골짜기’란 인간이 로봇 등 인간이 아닌 존재를 볼 때 인간과의 유사성이 높을수록 호감도도 높아지지만, 일정 수준에 이르면 오히려 불쾌감을 느끼는 상황을 뜻한다. 이 이론에 따르면 챗GPT가 인간과 유사한 화자 역할을 하기 때문에 정말로 살아 있는 것은 아닌가 하는 의문이 생길 수 있고, 이러한 의문은 불쾌감으로 연결될 수도 있다. 그러나 챗GPT를 실생활에서 이미 유용하게 활용하고 점점 실용도가 높아지면서 불쾌한 골짜기를 논의할 단계는 지났다고 생각한다. 직업 안정성에 위험을 가져올 기술 발전에 거부감을 느끼는 것은 당연하다. 대표적인 것이 영국의 러다이트운동이다. 그러나 챗GPT와 같은 생성형 AI를 활용한 창작은 튜브물감의 사용으로 등장한 인상주의나 카메라의 발명으로 등장한 사진과 영화, 컴퓨터의 사용으로 등장한 미디어아트와 같이 인간의 창작 방식을 진일보시키는 발전으로 바라봐야 한다. 텍스트만 입력하면 영상이 만들어지는 것은 물론이고 곡을 만들고 원하는 콘셉트로 연주까지 해 주는 AI 플랫폼들이 등장했다. AI를 활용한 새로운 창작 방식을 적극적으로 수용함으로써 이전에는 감히 창작에 나서지 못했던 잠재 창작자들에게 더 많은 창작 참여 기회가 주어지고 있다. AI가 인간을 대체하는 것이 아니다. 인간이 만들고 즐기고 감상할 수 있는 것들이 다양해지는 것이다. 한성대 문학문화콘텐츠학과 교수

#. 사채업자 A씨는 신용불량자를 상대로 100만원을 빌려주고 기한 내에 갚지 않으면 하루 25만원씩 이자를 붙였다. 연리 9000%가 넘었다. A씨는 이렇게 챙긴 거액의 이자로 명품 가방과 신발, 고가의 수입차를 사들였다. 호화 생활을 누리면서도 종합소득세는 한 푼도 내지 않았다. 재산 추적을 피하려고 주소지도 위장 이전했다. #. B 불법대부업 조직은 급전이 필요한 2415명에게 연 1만 507%의 금리로 5억 6000만원을 빌려줬다. 1명당 평균 23만원씩 빌려주고 연체되면 하루 6만 6000원의 이자를 뜯어냈다. 갚지 않으면 피해자의 얼굴을 합성한 나체사진과 자위 동영상을 성인사이트에 유포하겠다고 협박했다. 악질적인 ‘성착취 추심’이다. 국세청은 지난해 11월부터 최근까지 불법사금융 163건에 대해 세무조사·자금출처조사·재산추적조사를 실시해 총 431억원을 추징했다고 20일 밝혔다. 지난해 11월 9일 윤석열 대통령 주재로 열린 ‘불법사금융 민생현장 간담회’의 후속 조치다. 경찰청도 불법사금융 집중 단속으로 성과를 올렸다. 경찰은 신종 성착취 추심으로 이자를 뜯어낸 불법대부업 조직 총책 등 6명을 검거하고 5명을 구속했다. 대출 광고로 유인한 297명 명의로 개통한 휴대전화 단말기 461대를 보이스피싱 등 범죄조직에 넘겨 8억 4000만원을 가로챈 대포조직 총책 등 57명도 경찰에 붙잡혔다. 정부는 이날 정부서울청사에서 ‘불법사금융 척결 범정부 태스크포스(TF)’를 열고 관계기관 협력을 강화해 나가기로 했다. 국세청과 검찰·경찰·금융감독원은 이날부터 ‘4각 공조 체제’로 불법사금융 179건에 대한 2차 전국 동시조사에 착수했다. 중고차 전환 대출 사기, 제3자 대출 사기, 불법 인터넷 대부 중개 플랫폼 구축 등 신종 불법사금융 행위가 대상이다. 검찰은 관련법 위반 기소 자료를 국세청에 제공하고, 경찰은 세무공무원의 신변 보호와 금융 추적을 지원한다. 금감원은 불법사금융 피해 접수 사례를 국세청과 공유한다.

숙명여자대학교는 LG유플러스와 공동 개발한 전용 메타버스 플랫폼 ‘스노우버스’에서 지난 15~16일 이틀간 신입생을 대상으로 ‘예비대학’을 진행했다고 20일 밝혔다. 이번 행사는 입학 전 학교생활이 궁금한 24학번 학생들에게 지역구분 없이 생생한 정보를 제공하기 위해 마련됐다. 먼저 15일과 16일 각각 2회씩 총 4회에 걸쳐 캠퍼스 투어가 진행됐다. 인솔자 안내에 따라 강의실, 학생식당, 중앙도서관 등 주요 건물을 입학 전 미리 둘러봤다. 학생들은 자신이 속한 학과와 이름으로 닉네임을 정해 같은 학과 친구들과 서로 인사를 나눴다. 예비대학에 참여한 한 학생은 “메타버스를 통해 아직 가보지 못한 학교를 둘러볼 수 있어 신기하다”고 밝혔다. 백주년기념관 강당에서는 예비 대학생을 위한 특강이 열렸다. 학생들은 △숙명 메타버스 알아보기 △필수 사이트 안내 △숙명인을 위한 국제교류 프로그램 등 학교생활에 꼭 필요한 강의를 마치 현장에서 듣는 것처럼 수강했다. 최대 300명을 수용하는 강당은 PPT와 영상자료를 공유할 수 있어 취업 박람회 등 비교과 교육 장소로 활용된다. 한편, 스노우버스는 숙명여대의 상징인 스노우(Snow)와 메타버스(Metaverse)의 합성어로, 실제 숙명여대 캠퍼스와 동일하게 구현된 공간이다. 숙명여대는 2021년 LG유플러스와 함께 국내 대학 최초로 자체 메타버스 플랫폼을 구축했다. 중앙도서관 1~2층은 내부까지 구현해 학생들은 친구들과 그룹 스터디를 함께할 수 있다. 올해 1학기부터는 약 1200명이 수강하는 교양필수 과목 ‘논리적 사고와 소프트웨어’ 수업을 스노우버스에서 진행할 예정이다.

박민수 보건복지부 차관이 브리핑 중 ‘의사’를 ‘의새’로 잘못 발음한 것과 관련해 ‘단순 실수’라고 해명했지만 의사들의 강한 반발이 이어지고 있다. 박 차관은 20일 ‘의사 집단행동 중앙사고수습본부’ 브리핑에서 전날 브리핑 과정에서 나온 ‘의새’ 발언은 단순 실수였다고 해명했다. 박 차관은 “직원들에게 ‘내가 정말 그렇게 발언했느냐’고 물어보니 그렇게 들렸다고 했다”며 “그 단어(의새)는 어제 처음 알았다”고 밝혔다. 그는 “그것(의새) 말고도 실수가 여러 군데 있었는데 몇 주째 주말에 쉬지 못하고 새벽까지 일하다 보니까 체력이 그랬던(떨어졌던) 모양”이라면서 “단순한 실수이고 유감의 뜻을 표명했다”고 말했다. 박 차관은 전날인 19일 ‘의사 집단행동 중앙사고수습본부’ 브리핑에서 “독일, 프랑스, 일본에서 의대 정원을 늘리는 동안 의사들이 반대하며 집단행동을 한 일은 없다”고 말했는데 당시 영상을 보면 ‘의사’를 ‘의새’로 발음하는 것처럼 들린다. 의새는 의사를 비하하는 표현이다. 대한의사협회(의협) 비상대책위원회는 이를 지적하며 박 차관의 사퇴를 촉구하고 나섰다. 비대위는 “만약 그러한 표현을 의도적으로 한 것이라면 이는 책임 있는 공직자로서의 기본적인 자세가 돼 있지 않은 것이므로 스스로 직에서 물러나야 한다”고 주장했다. 임현택 대한소아청소년의사회장은 박 차관을 고발하기도 했다. 임 회장은 자신의 소셜미디어(SNS)에 ‘보건복지부 차관 박민수 의사 모욕죄’라고 쓰인 고발장을 들고 서울경찰청 앞에서 찍은 사진을 올렸다. 한편 일부 의사들은 SNS에 의사와 새를 합성한 이미지를 잇달아 올리며 정부의 의대 증원 방침에 항의하고 있다.

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

사용자가 딥페이크 영상에 속는 일을 막기 위해 인공지능(AI)이 생성한 이미지나 영상을 감지하거나 콘텐츠에 ‘표지’를 남기는 기술도 계속 개발되고 있다. 하지만 대체로 딥페이크를 잡는 기술은 나날이 정교해지는 딥페이크 기술의 발달 속도를 따라잡지 못하고 있다. 19일 AI 업계에 따르면 딥페이크에 대응하는 기술은 크게 ‘탐지’하는 방식과 ‘표지’를 남기는 방식으로 나뉜다. 이 중 탐지 방식은 딥페이크의 특징을 학습한 AI가 가짜 영상을 찾아내 확산되기 전에 막는 기술이다. 합성한 얼굴과 합성 이미지를 덧씌운 대상의 얼굴 경계에 있는 미세한 차이, 모델의 데이터가 부족할 때 나타나는 부정확한 표정, 딥페이크에서만 나타나는 미묘한 음성 지연 등 얼굴이나 음성을 합성할 때만 나타나는 현상을 인간의 눈, 귀보다 빠르고 정확하게 찾아낸다. 2020년 마이크로소프트(MS)와 구글, 메타 등은 우승 상금 100만 달러(현재 환율로 약 133억 3550만원)를 걸고 ‘딥페이크 디텍터 챌린지’를 열었다. 전 세계 연구자와 개발자들의 기술과 아이디어를 끌어모으기 위해서다. 대회를 통해 탐지용 AI를 학습시킬 수 있는 딥페이크 데이터 세트가 만들어졌고, 누구나 탐지 모델을 만들 때 쓸 수 있도록 소스코드도 공유됐다. 하지만 2000명 이상의 참가작 중 1위 AI 모델조차 탐지 정확도가 65%에 그쳤다. 지난해엔 인텔이 ‘페이크캐처’라는 딥페이크 탐지 소프트웨어를 공개했다. 인텔은 페이크캐처가 사람의 심장이 뛸 때마다 얼굴에 나타나는 미세한 색 변화 등을 감지해 무려 96%의 정확도로 딥페이크를 걸러낸다고 밝혔다. 하지만 BBC 등에 따르면 이는 조명, 대상 인종 등 실험 조건이 통제된 상황에서만 달성될 가능성이 높다. 국내에선 딥브레인AI가 딥페이크 탐지 기술을 꾸준히 개발하고 있다. 자사에 축적된 AI 아바타 제작 데이터와 기술력을 딥페이크 탐지에도 활용해 솔루션을 만들어 출시하고 있다. 지난달 출시한 서비스는 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 2종으로, 조작된 이미지와 동영상 탐지 서비스, 음성 탐지 서비스를 각각 제공한다. 생성형 AI가 학습할 데이터에 눈엔 보이지 않는 ‘딱지’를 붙여 딥페이크 생성 과정에서 이를 드러나게 하는 ‘워터마크’ 방식도 최근 주목을 받고 있다. 구글 딥마인드가 지난해 8월 공개한 ‘신스ID’(SynthID)가 대표적이며, 네이버 제페토와 메타 등도 워터마크 정책을 도입했다. 하지만 워터마크를 지우는 기술 역시 다양하고 빠르게 확산되고 있다. 미국 메릴랜드대 연구진은 지난해 10월 신스ID를 포함한 주요 AI 워터마크를 모두 깨뜨렸다는 연구 결과를 발표하기도 했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.

“누구인가? 지금 누가 (공연 중에) 기침 소리 내었어?” 2000년에 방영돼 큰 인기를 끌었던 KBS 드라마 ‘태조왕건’ 속 대사다. 극 중에서 궁예를 맡은 배우 김영철의 대사는 지금까지 온라인에서 밈(온라인 유행 콘텐츠)으로 쓰이고 있다. KBS교향악단이 최근 공식 유튜브 채널에 올린 ‘궁예-레퀴엠’ 영상은 13일 기준 조회수 36만회를 넘겼다. 35초 분량의 해당 영상은 궁예의 대사와 영상들이 합성·편집돼 나온다. 드라마 장면들은 공연에서 연주하는 베르디의 ‘레퀴엠’ 중 ‘진노의 날’ 도입부 음악에 맞춰 편집해 넣었다. 내용에는 “내군은 들어라. 그 마구니를 때려죽여라”, “누구인가? 지금 누가 기침 소리를 내었어?” 등 온라인에서 인기를 끌던 대사들이 주를 이룬다.“중독성있네”…클래식 음악 업계, 보기 드문 파격 영상 이 영상은 다음 달 7일 롯데콘서트홀에서 정명훈 지휘로 열리는 기획공연 ‘2024 마스터즈 시리즈’의 홍보 콘텐츠로 제작된 영상이다. 마스터스 시리즈는 KBS교향악단이 특정 지휘자 또는 연주자의 음악 세계를 깊이 들여다볼 수 있게 마련하는 기획공연으로, 보수적인 클래식 음악 업계에서는 보기 드문 파격적인 영상이라는 평가다. 영상을 접한 네티즌은 “이 영상 만든 담당자 꽉 잡아라”, “진짜 교향악단 채널이었네”, “중독성있네”, “누군가 B급 감성을 잘 이해하고 있고 잘 다룬다면 그는 S급 실력자일 가능성이 크다”, “잘못 구독한 줄”등 긍정적인 평가를 했다. 또 KBS교향악단은 “KBS교향악단 후원회원에 가입하신 김영철 배우님 환영합니다. 이제 공연장에 관객으로 오시는 김영철 님을 찾아보세요”라며 영상 아래에 드라마에서 궁예를 연기했던 배우 김영철의 후원회원 가입을 환영한다는 댓글도 달았다. KBS교향악단은 지난해 공연중 팀파니가 찢어진 영상을 유튜브에 올려 화제를 일으킨 바 있다.“초고속 승진 이뤄냈다”…구독자 60만명, 충주맨 김선태 주무관 최근 유튜브를 통해 참신하고 재미있는 홍보 영상을 선보여 화제를 모은 경우가 종종 있다. 충북 충주시 유튜브 ‘충TV’를 성공적으로 운영해 이름을 알린 김선태 주무관은 9급에서 6급으로 초고속 승진했다. 김 주무관이 승진한 이유 역시 유튜브 채널의 폭발적인 인기 덕분이다. 그는 4년 8개월 동안 유튜브 영상·인터뷰 등 249편을 제작했다. 영상은 주로 충주시 행정을 소개하거나 캠페인 등을 담은 내용인데, 2019년 4월 개설한 충TV 구독자 수는 현재 60만명을 넘었다.이 가운데 조회 수 1위는 2020년 5월에 올린 ‘공무원 관짝춤(956만회)’이다. 아프리카 가나의 장례문화를 공무원들이 패러디한 영상이다. 이렇듯 보수적인 유튜브 채널에 ‘B급 감성’을 도입해 젊은 감성과 친근함을 내세운 색다른 홍보 영상이 큰 인기를 끌고 있다.

“피해자들이 보이스피싱에 당하는 이유는 범인들이 스미싱(문자메시지+피싱)을 통해 사전에 개인정보를 빼간 뒤 이를 바탕으로 전화를 걸기 때문입니다. 휴대전화에 저장된 지인 이름은 물론 은행 계좌번호 등 내밀한 정보까지 알고 접근하기에 깜박 속는 겁니다. 금융당국이 선전하는 것처럼 모르는 사람으로부터 전화가 걸려오면 ‘늘·꼭·또’를 꼭 기억하십시오. ‘늘’ 의심하고, ‘꼭’ 전화끊고, ‘또’ 확인하는 방법밖에 없습니다.” 김수민 서울동부지검 보이스피싱범죄 정부합동수사단장은 지난 7일 서울신문과 만나 “인공지능(AI)을 이용해 보이스피싱이나 스미싱 문자를 필터링하는 시스템이 고도화되고 있지만 이를 피하는 방법도 계속 출현하고 있어 발 빠른 대책이 필요하다”며 “은행이나 통신사가 고객을 대상으로 문자나 앱 알림 등을 통해 신종 수법에 대한 주의 메시지를 전송해 알려주는 게 가장 효과적”이라고 진단했다. 김 단장은 “보이스피싱 조직이 스미싱 문자를 뿌리기 위해 해외문자발송 사이트를 이용<서울신문 2월 5일자 9면>하는 가장 큰 이유는 발신번호 변경이 가능하고 한국인터넷진흥원(KISA)이나 통신 3사의 스팸문자 차단 필터링을 우회할 수 있기 때문”이라며 “이를 막을 수 있는 통신사의 투자와 노력이 더 절실하다”고 했다. “미국의 경우 가상납치 형태의 보이스피싱 범죄가 주로 발생하고 있습니다. 자녀 등을 납치했다고 속여 가족으로부터 돈을 받아챙기는 거죠. AI를 통해 합성된 사진이나 영상을 가족들에게 보내 자녀가 납치됐다고 가장하기도 합니다. 중국에서도 위챗 등을 통해 간편 송금 시스템이 활발하게 운영되고 있어 허위 투자나 자산관리, 물품 구매, 고객 서비스 등을 빙자한 보이스피싱 피해가 많이 발생하고 있습니다. 우리도 이런 형태를 주의해야 합니다.” 김 단장은 최근 대검찰청 유튜브인 ‘검찰나우’에 개그맨 심문규·이수지씨 등과 출연해 보이스피싱 신종 수법과 예방책을 홍보하기도 했다. 심씨가 김 단장을 사칭해 보이스피싱범을 연기하자 김 단장이 “내가 김 단장”이라며 그를 잡는 연기를 했다. 김 단장은 “촬영 당시 기온이 영하 14도까지 떨어졌는데 녹음기에 소음이 들어가는 걸 막기 위해 난방장치를 껐다”며 “핫팩 2개를 몸에 붙이고 연기한 기억이 난다”고 웃었다. 김 단장은 “검사가 유튜브에 출연하는 게 흔치는 않은 일이지만 국민에게 조금이라도 더 예방법을 알려야겠다는 생각에 응했다”며 “앞으로도 피해예방을 위한 홍보영상 등을 제작해 지속적으로 국민에게 알리겠다”고 말했다.

‘축구의 신’ 리오넬 메시(인터 마이애미)가 홍콩과의 친선전 ‘노쇼’에 대해 해명했다. 메시는 6일 일본 도쿄에서 열린 기자회견에서 “홍콩에서 뛰지 못한 건 정말 운이 나빴기 때문”이라며 “안타깝지만 이런 일이 축구에서는 일어난다”고 밝혔다. 그러면서 “불편한 느낌이 계속 들어서 뛰기 어려웠다”며 “난 항상 경기에 뛰길 원한다. 우리가 이 경기를 위해 멀리서 온 데다 사람들이 우리 경기에 기대가 큰 상황이었던 만큼 아쉽다”고 말했다. 메시는 사타구니 쪽을 다쳤다고 한다. 알나스르(사우디아라비아)와 경기 직후 자기공명영상(MRI) 촬영 결과 부상 부위가 부어있는 것을 확인했다는 것이다.메시와 루이스 수아레스는 전날 홍콩 스타디움에서 열린 미국 메이저리그사커(MLS) 인터 마이애미와 홍콩 대표팀 간 친선 경기에 예고 없이 결장했다. 홍콩 현지는 물론, 중국 본토와 인근 동남아시아 국가에서 메시의 경기를 보기 위해 모여든 수만명의 팬이 “사기”라며 환불을 요구했고, 소셜미디어(SNS)에는 격분한 팬들의 성토가 이어졌다. 케빈 융 홍콩 문화체육여유국 장관이 기자회견에서 메시가 출전하지 않아 극도로 실망했다고 밝히는 등 정부 당국까지 나서 메시의 ‘노쇼’에 아쉬움을 표했다. 정부가 친선전 주최사에 대한 자금 지원 계획까지 철회할 의사를 내비치는 등 파장은 커졌다. 메시는 마이애미 이적 후 공식 석상에서 언론과의 접촉을 선호하지 않은 것으로 알려져 있다. 하지만 논란이 격화하자 기자회견장에 얼굴을 비췄다. 메시는 “우리가 (홍콩으로) 돌아가서 또 다른 경기를 할 수 있길 바란다”며 “(홍콩에서) 경기에 참여하지 못했던 게 아쉽다”고 거듭 말했다. 아시아 투어를 진행 중인 인터 마이애미는 7일 도쿄 국립경기장에서 비셀 고베(일본)와 친선 경기를 치른다. 메시는 고베전 출전 여부에 대해서 확답을 내놓지 않았다. 메시는 “(내일) 경기에 뛸 수 있을지 없을지 모르지만 상태는 많이 좋아졌다. 정말 뛰고 싶다”고 말했다.AP통신은 이날 이례적인 기자회견에 나선 메시의 행동을 놓고 “비셀 고베를 포함해 일본 스폰서들의 압력을 받았던 게 확실하다”고 해설했다. 그러면서 스포츠 산업·윤리 등에 정통한 전문가를 인용해 일단 메시의 행동이 일반적인 ‘계약상’으로는 문제가 없다고 짚었다. 미국 포덤대의 마크 콘래드 교수는 “많은 팬이 메시를 보기 위해 티켓을 산 게 사실이다. 하지만 명시적 조건이 없는 한, 티켓 자체는 경기를 관전하기 위한 것이지 특정 선수를 보기 위한 것은 아니”라고 말했다. 별도 조건이 없다면 기대감에 찬 팬들이 티켓을 샀다는 사실만으로 특정 선수의 출전을 강요하기 어렵다는 설명이다. 이와 관련해 홍콩 정부는 주최 측인 태틀러아시아(이하 태틀러)와 맺은 스폰서십 계약에는 ‘메시가 안전과 건강 문제가 없는 한 최소 45분간 경기에서 뛰어야 한다’는 내용이 명시됐다고 밝혔다. 홍콩 정부에 따르면 태틀러는 경기 전 메시가 후반전에 출전할 것이라고 확인했으나, 종료 10분 전에야 부상에 대한 우려로 메시가 출전하지 않을 것이라고 밝혔다.팬들을 몰고 다니는 축구 스타가 부상을 이유로 갑작스러운 ‘노쇼’를 선언한 대표적 사례로는 바로 크리스티아누 호날두(알나스르)가 있다. 호날두는 앞서 유벤투스(이탈리아) 소속이던 2019년 7월 서울월드컵경기장에서 열린 K리그 선발팀과 내한 경기에서 모습을 드러냈지만, 한 번도 그라운드를 밟지 않았다. 한국프로축구연맹은 주최·주관사와 계약 조건에 호날두가 엔트리에 포함돼 최소 45분 이상을 뛰어야 한다는 내용을 넣었으나 호날두는 컨디션 조절을 이유로 팬들의 열망을 외면했다. 당시 6만여 관중이 들어찬 가운데 유벤투스 선수단은 킥오프 예정 시각을 넘겨 경기장에 도착, 경기가 1시간 가까이 지연돼 팬들의 분노가 들끓었다. 이 와중에 1초도 뛰지 않은 호날두와 ‘날강도’를 합성한 신조어 ‘날강두’가 등장할 정도로 국내 여론이 악화했으나 호날두의 별도 사과는 없었다.

그제부터 인공지능(AI) 프로그램으로 만든 ‘딥페이크’ 영상 등을 선거운동에 이용하는 행위가 금지됐다. 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다. 지난해 12월 국회에서 공직선거법 개정안이 통과되면서 이뤄진 조치다. 하지만 이번 법 개정은 딥페이크 선거운동에 대한 처벌 근거를 마련한 것일 뿐이다. 빠르게 제작돼 사회관계망서비스(SNS)를 타고 삽시간에 퍼지는 딥페이크 콘텐츠의 특성상 광범위한 폐해를 막기엔 한계가 있다. 단속에 더해 조작된 정보는 만들지도 보지도 않겠다는 정치권과 유권자들의 자세가 필요한 이유다. AI 발달로 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 조 바이든 미국 대통령의 ‘선거 불참을 권하는’ 딥페이크 음성이 확산되는가 하면 영국과 나이지리아 등에서도 정치 관련 음성 조작 사례가 속출하고 있다. 정치인뿐만이 아니다. 미국의 팝가수 테일러 스위프트는 얼굴 사진이 합성된 딥페이크 음란 이미지가 SNS에 게시돼 수천만회 조회되면서 곤욕을 치렀다. 딥페이크 콘텐츠는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 중앙선관위는 검증요원과 AI 전문가들을 최대한 동원해 단속하겠다고 하지만 딥페이크 영상·이미지는 수분 만에 제작돼 실시간으로 확산되기 때문에 뒷북만 칠 가능성도 있다. 따라서 무엇보다 허위정보를 만들지 않겠다는 정치권의 책임 있는 자세가 필요하다. 지난 대선에서 가짜뉴스로 판명된 콘텐츠의 90%를 정치권이 생산했다는 조사 결과도 있다. 허위정보를 최대한 걸러 내겠다는 대형 포털의 책임 있는 자세, 조작된 정보는 보지도 퍼나르지도 않겠다는 유권자들의 노력이 뒷받침돼야 함은 물론이다.

팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

사우디아라비아 프로축구 알나스르가 중국 방문 친선경기를 돌연 취소하자, 소속팀 선수인 슈퍼스타 크리스티아누 호날두가 이례적으로 중국 팬들에게 공개 사과를 전했다. 알나스르는 23일(현지시간) 소셜미디어(SNS)를 통해 “구단이 통제할 수 없는 이유로 인해 24일, 28일 (중국 광둥성 선전에서) 치를 예정이던 두 경기가 연기됐다”고 밝혔다. 이어 “우리는 여기 선전에서 중국 축구 팬, 특히 호날두 팬들의 성원을 받고 있다. 이런 점과 더불어 사우디와 중국의 끈끈한 관계까지 고려하면 계획대로 선전에 트레이닝 캠프를 마련할 것”이라고 설명했다. 그러면서 “행사 주최 측과 (친선전) 일정을 최대한 빨리 새로 마련하기로 합의했다”며 “구단은 이번 행사를 위해 무조건 헌신하려 했다. 호날두를 포함한 전체 선수단을 이끌고 투어에 참여했다”고 덧붙였다.알나스르는 애초 24일 상하이 선화, 28일 저장FC와 친선전을 치를 계획이었다. 그러나 이런 발표만으로는 갑작스러운 경기 취소에 화난 중국 팬들을 달래지 못한 것으로 보인다. ESPN 등은 일부 팬이 알나스르 선수단이 묵고 있는 선전 시내 호텔로 몰려가 거세게 항의했다고 보도했다. 알나스르가 언급한 ‘통제할 수 없는 이유’는 호날두의 부상이다. 호날두는 이례적으로 현지에서 기자회견을 열고 중국 팬들에 갑작스런 일정 변경을 사과했다. 호날두는 “내게 오늘은 슬픈 날이다. 중국 팬들, 특히 선전에 온 팬들에게 미안하다고 말해야 하기 때문”이라며 “축구를 하다 보면 통제할 수 없는 일이 생긴다”고 밝혔다. 이어 “22년을 축구 선수로 뛰었다. 그간 부상이 많지는 않았는데, 매우 슬프다”며 “여기 중국에 와서 투어를 즐기고 싶었다”고 말했다. 그러면서 “중국인들이 보여준 환대와 이곳의 문화 덕에 항상 중국이 제2의 고향이라고 느낀다”면서 “우리는 경기를 연기했을 뿐이다. 취소한 게 아니다”라고 덧붙였다. 현지 보도를 종합하면 호날두는 투어 전후로 허벅지 뒤 근육을 다친 것으로 알려졌다. 이 부상이 장기화하면 중국 투어뿐 아니라 다음 달 초 예정된 인터 마이애미(미국)와 친선전에도 나서지 못하게 된다. 인터 마이애미와 알나스르의 경기는 전 세계 축구를 양분한 리오넬 메시(아르헨티나)와 호날두(포르투갈)의 맞대결로 주목받았다. 알나스르의 방중 경기 주최 측은 실망한 중국 팬들에게 입장권, 항공, 숙박 등 비용을 전액 환불해주겠다고 약속했다.앞서 2019년 7월 유벤투스(이탈리아) 소속이던 호날두는 서울월드컵경기장에서 열린 K리그 선발팀과 내한 경기에서 모습을 드러냈지만, 한 번도 그라운드를 밟지 않았다. 한국프로축구연맹은 주최·주관사와 계약 조건에 호날두가 엔트리에 포함돼 최소 45분 이상을 뛰어야 한다는 내용을 넣었지만, 호날두는 컨디션 조절을 이유로 팬들의 열망을 외면했다. 유벤투스 선수단은 킥오프 예정 시각을 넘겨 경기장에 도착, 경기가 1시간 가까이 지연돼 팬들의 분노가 들끓었다. 그럼에도 호날두와 유벤투스는 궂은 날씨에도 월드컵경기장을 가득 메운 6만 5000명의 관중에 그 어떤 해명도 남기지 않았다. 1초도 뛰지 않은 호날두와 ‘날강도’를 합성한 신조어 ‘날강두’가 등장할 정도로 국내 여론이 악화했으나 끝까지 호날두는 사과하지 없었다. 주최사와 프로축구연맹의 사과만 있었을 뿐이다. 호날두는 귀국 후 인스타그램에 ‘집에 와 좋다’는 표현과 환한 표정의 영상을 올려 한국팬들의 분노를 더했다. 당시 호날두의 ‘45분 출전’ 조항으로 2시간 만에 매진된 입장권 수익만 60여억원으로 추정된다. 국내 스포츠에서 역대 단일 경기 최고 수익을 거뒀지만, 사실상 ‘대국민 사기극’으로 마무리됐다.

사흘 춥고 나흘 포근하다는 ‘삼한사온’은 겨울 날씨를 대표하는 표현이었지만 이제는 옛말이 됐습니다. 올겨울 날씨만 봐도 그렇습니다. 초봄 같은 날씨를 보이다가 갑자기 냉동고 추위가 찾아오고, 아침에는 춥다가 낮에는 포근해지는 등 종잡을 수가 없습니다. 뻔한 이야기 같지만 이 모든 것의 근본 원인은 온난화로 인한 기후변화 때문입니다. 이런 상황에서 미국 캘리포니아공과대(캘텍) 제트추진연구소(JPL), 새너제이주립대 모스 랜딩 해양연구소, 캘리포니아 로스앤젤레스대(UCLA) 지구시스템과학 연구소 공동 연구팀은 크기로는 세계 두 번째인 그린란드 빙상 면적이 1985년 이후 약 5091㎢나 줄어든 것을 확인했습니다. 이 연구는 과학 저널 ‘네이처’ 1월 18일자에 실렸습니다. 가장 큰 빙상인 남극 빙상을 비롯해 극지방 빙상은 지난 수십년 동안 점점 줄어들고 있습니다. 특히 북극 지역 그린란드 빙상은 1990년대 이후 급격히 감소하고 있습니다. 연구팀은 위성과 항공 영상으로 1985~2022년 23만 6328개 그린란드 빙상 가장자리의 변화, 그로 인해 손실된 총얼음 면적을 정밀 분석해 정량화했습니다. 그 결과 그린란드 빙상은 지난 40년 동안 5091㎢가 사라졌으며, 무게로 따지면 약 1034Gt(기가톤, 1034조㎏)에 해당합니다. 연구팀에 따르면 2000년 1월 이후 감소 속도가 빨라져 매년 평균 218㎢씩 줄어들었습니다. 빙하학자 채드 그린 JPL 박사는 “이번 연구로 확인된 빙상 감소는 해수면 에 미치는 영향은 상대적으로 적지만 해양 순환과 열에너지가 지구 전체에 분배되는 방식, 즉 기후에는 상당한 영향을 미칠 수 있는 양”이라고 말했습니다. 그런가 하면 미국 플로리다대, 산림청 북부연구센터, 미시간 앤아버대 환경학부 공동 연구팀은 기후변화로 인한 기온 상승, 가뭄, 산불, 각종 전염병 발생이 숲에 악영향을 주고 있음을 확인했습니다. 이 연구는 미국 국립과학원에서 발행한 국제 학술지 ‘PNAS’ 1월 16일자에 발표됐습니다. 전 세계적으로 숲은 연간 탄소 배출량의 약 25%를 흡수해 기후를 조절하는 데 중요한 역할을 합니다. 연구팀은 미국 산림 관리 데이터를 바탕으로 11만 3806곳 산림 측정치를 분석하고 1999~2020년 추세를 모델링했습니다. 이산화탄소는 나무의 광합성을 유도해 성장을 촉진합니다. 그렇지만 연구 에 따르면 현재 이산화탄소 증가 추세는 성장에 필요한 수준을 훌쩍 넘어섰습니다. 게다가 기후변화로 산불과 가뭄이 잦아지면서 숲의 탄소 저장 능력마저 감소하는 것으로 확인됐습니다. 연구를 주도한 에런 호건 플로리다대 박사는 “이번 연구는 지금까지 기후변화와 해수면 상승에 대한 미래 예측이 너무 낙관적이었음을 보여 준다”고 단언하면서 “숲의 탄소 저장 용량이 줄어들면 온난화와 기후변화가 더 빨라지는 악순환으로 이어진다”고 말했습니다.

영화 ‘어벤져스: 에이지 오브 울트론’에는 인공지능(AI) 자비스에 바탕을 둔 ‘비전’에 관한 이야기가 나온다. 강력한 힘을 가진 이 새로운 존재가 아군인지, 적군인지, 더 나아가 통제가 가능할지 등을 놓고 고민한다. 다행히 영화 속 비전은 아군으로 활약했다. 하지만 많은 이가 전장의 AI로 비전보다는 영화 ‘터미네이터’에서 인류를 말살하려는 ‘스카이넷’을 떠올린다. #AI 활용 ‘군사 경쟁’ 가속표적 찾아 자폭·적 얼굴 인식딥페이크로 가짜 뉴스 제작 영화나 드라마에 나올 법한 존재로 여겨졌던 AI는 2022년 우크라이나·러시아 전쟁을 계기로 전쟁 양상을 완전히 바꿀 수 있는 존재로 다가왔다. 표적을 찾아 자폭하는 드론뿐 아니라 적군 병사를 인식하는 안면인식 기술부터 머신러닝을 활용한 군수 지원까지 몇 년 전만 해도 상상조차 할 수 없었던 각종 AI 기술이 현실화하고 있다. 무기 체계에만 AI를 활용하는 건 아니다. 전쟁 초기 소셜미디어(SNS)에서 볼로디미르 젤렌스키 우크라이나 대통령이 항복 성명을 발표하는 ‘딥페이크’(AI 기반 이미지 합성기술) 영상이 유포된 적이 있다. 같은 시기 블라디미르 푸틴 러시아 대통령이 평화를 선언하는 영상도 퍼져 나갔다. 지난해 이스라엘·하마스 전쟁 역시 AI가 전장을 어떻게 바꿀 수 있는지 보여 주는 사례로 꼽힌다. 이스라엘군은 드론 영상, 감청 자료, 감시 데이터, 움직임·행동 양상 데이터를 학습한 AI가 표적을 실시간으로 분석하고 선별하는 의사결정지원 시스템을 사용하고 있다. AI 기술이 지휘통제, 기동, 화력, 정보, 방호, 군수 등 전투 수행에 필요한 모든 영역에서 필수 불가결한 요소로 자리잡으면서 AI를 둘러싼 각국의 군사 경쟁도 거세지고 있다. #美 ‘CDAO’ 미래전 대비지휘통제에 AI 활용 계획로봇 전투차량·참모 개발 예컨대 미국 국방부는 2018년 합동인공지능센터(JAIC)를 창설했으며, 2022년 국방부 전체의 AI와 데이터 분석 등을 총괄하는 최고디지털인공지능국(CDAO)을 신설해 JAIC를 산하 조직으로 통합했다. 2022년 AI가 의사결정에 도움을 주는 합동전영역지휘통제(JADC2) 계획을 발표하고 기능별 하부 시스템을 마련하고 있다. 미 해군은 무인 자율주행 전함, 드론과 무인 수상함, 무인 잠수정이 임무를 수행하는 유·무인복합체계를 만들고 있고, 미 육군은 전투에 가장 적합한 경로를 직접 선택해 임무를 수행하는 로봇 무인 전투차량뿐 아니라 소부대용 AI 전투참모도 개발하고 있다. #한국도 국방혁신4.0 잰걸음지뢰탐지시스템 개발 완료연내 국방AI센터 창설 예고 우리 정부 역시 발걸음이 빨라지고 있다. 국방부는 2021년 인공지능추진전략을 수립한 데 이어 지난해 3월 발표한 국방혁신 4.0 기본계획을 통해 AI 기반 유·무인복합전투체계 등을 확보하고 올해 국방AI센터를 창설한다는 계획을 내놨다. 육군 관계자는 “최근 AI 융합 지뢰탐지시스템 개발을 완료했다. 올해부터 민간에서 보유한 다양한 AI 기술을 미래 지상전투체계인 ‘아미 타이거’에 시범 적용할 계획”이라면서 “앞으로 AI 기반 초연결 전투체계를 개발하는 것을 목표로 하고 있다”고 밝혔다. 조상근 카이스트 국가미래전략기술정책연구소 연구교수는 “군사 행동에서의 핵심은 감시, 결심, 대응이다. AI 기술이 이 세 가지를 하나로 결합하고 시간도 단축하고 있다”면서 “먼저 보고, 먼저 결심하고, 먼저 타격할 수 있다. 최종 선택을 할 시간을 단축해 준다”고 설명했다. 정홍용 예비역 육군 중장은 “AI를 적용하려면 충분한 데이터가 필요하지만 현재 국방 분야 데이터는 대부분 보안으로 묶여 있어 데이터 확보 자체가 어렵다”면서 “공개 자료에 기반한 텍스트, 동영상 등의 군사 자료에 대해 가공 과정을 거쳐 가상 데이터를 만든 뒤 민간 개발자들에게 제공함으로써 AI 개발 과정에서 충분히 활용할 수 있도록 지원해야 한다”고 제안했다. AI 기술 발전과 더불어 판단 오류로 인한 민간인 피해가 심각할 수 있다는 우려도 커지고 있다. 이스라엘군은 최첨단 AI 기술로 적군과 민간인을 구별할 수 있다고 했으나 가자지구 민간인 사상자는 1만명을 훌쩍 넘어섰다. AI가 전쟁에 개입하면서 책임 소재 논란이 불거지는 만큼 교전 윤리를 새롭게 만들어야 한다는 지적도 나온다. 안토니우 구테흐스 유엔 사무총장은 지난해 6월 기자회견에서 핵 감시 기구인 국제원자력기구(IAEA)처럼 AI를 감시하고 규제할 유엔 산하 기구를 구상하고 있다고 밝힌 바 있다.

사흘 춥고 나흘 포근하다는 ‘삼한사온’은 한국 겨울 날씨를 대표하는 표현이었지만 이제는 옛말이 됐습니다. 올겨울 날씨만 봐도 그렇습니다. 초봄 같은 날씨를 보이다가 갑자기 냉동고 추위가 찾아오고, 아침에는 춥다가 낮에는 포근해지는 등 종잡을 수 없습니다. 뻔한 이야기 같지만 이 모든 것의 근본 원인은 지구 온난화로 인한 기후 변화 때문입니다. 이런 상황에서 미국 캘리포니아공과대(캘텍) 제트추진연구소(JPL), 산호세 주립대 모스 랜딩 해양연구소, 캘리포니아 로스앤젤레스대(UCLA) 지구시스템과학 연구소 공동 연구팀은 크기로는 세계 두 번째인 그린란드 빙상 면적이 1985년 이후 약 5091㎢나 줄어든 것을 확인했습니다. 이 연구 결과는 과학 저널 ‘네이처’ 1월 18일자에 실렸습니다. 가장 큰 빙상인 남극 빙상을 비롯해 극지방 빙상은 지난 수십 년 동안 점점 줄어들고 있습니다. 특히 북극 지역 그린란드 빙상은 1990년대 이후 급격히 감소하고 있습니다. 연구팀은 위성과 항공 영상으로 1985~2022년 23만 6328개 그린란드 빙상 가장자리의 변화, 그로 인해 손실된 총 얼음 면적을 정밀 분석해 정량화했습니다. 그 결과, 그린란드 빙상은 지난 40년 동안 5091㎢가 사라졌으며, 무게로 따지면 약 1034Gt(기가톤, 1034조㎏)에 해당합니다. 연구팀에 따르면 2000년 1월 이후 감소 속도가 빨라져 매년 평균 218㎢씩 줄어들었습니다. 빙하학자 채드 그린 JPL 박사는 “이번 연구로 확인된 빙상 감소는 해수면 상승에 미치는 영향은 상대적으로 적지만, 해양 순환과 열에너지가 지구 전체에 분배되는 방식, 즉 기후에는 상당한 영향을 미칠 수 있는 양”이라고 설명했습니다. 그런가 하면, 미국 플로리다대, 산림청 북부연구센터, 미시간 앤아버대 환경학부 공동 연구팀은 기후 변화로 인한 기온 상승, 가뭄, 산불, 각종 전염병 발생이 숲에 악영향을 주고 있음을 확인했습니다. 이 연구는 미국 국립과학원에서 발행한 국제 학술지 ‘PNAS’ 1월 16일자에 발표됐습니다. 전 세계적으로 숲은 연간 탄소 배출량의 약 25%를 흡수해 기후를 조절하는 데 중요한 역할을 합니다. 연구팀은 미국 산림 관리 데이터를 바탕으로 11만 3806곳 산림 측정치를 분석하고 1999~2020년 추세를 모델링했습니다. 이산화탄소는 나무의 광합성을 유도해 성장을 촉진합니다. 그렇지만, 연구 결과에 따르면 현재의 이산화탄소 증가 추세는 식물 성장에 필요한 수준을 훌쩍 넘어섰습니다. 게다가 기후 변화로 산불과 가뭄이 잦아지면서 숲의 탄소 저장 능력마저 감소하는 것으로 확인됐습니다. 일부 숲은 기후 조절 능력을 잃어 탄소 흡수원이 아닌 배출원이 되는 것으로 나타났습니다. 연구를 주도한 아론 호건 플로리다대 박사는 “이번 연구는 지금까지 기후 변화와 해수면 상승에 대한 미래 예측이 너무 낙관적이었음을 보여준다”라고 단언하면서 “숲의 탄소 저장 용량이 줄어들면 온난화와 기후 변화가 더 빨라지는 악순환으로 이어진다”고 설명했습니다.