전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

사용자가 딥페이크 영상에 속는 일을 막기 위해 인공지능(AI)이 생성한 이미지나 영상을 감지하거나 콘텐츠에 ‘표지’를 남기는 기술도 계속 개발되고 있다. 하지만 대체로 딥페이크를 잡는 기술은 나날이 정교해지는 딥페이크 기술의 발달 속도를 따라잡지 못하고 있다. 19일 AI 업계에 따르면 딥페이크에 대응하는 기술은 크게 ‘탐지’하는 방식과 ‘표지’를 남기는 방식으로 나뉜다. 이 중 탐지 방식은 딥페이크의 특징을 학습한 AI가 가짜 영상을 찾아내 확산되기 전에 막는 기술이다. 합성한 얼굴과 합성 이미지를 덧씌운 대상의 얼굴 경계에 있는 미세한 차이, 모델의 데이터가 부족할 때 나타나는 부정확한 표정, 딥페이크에서만 나타나는 미묘한 음성 지연 등 얼굴이나 음성을 합성할 때만 나타나는 현상을 인간의 눈, 귀보다 빠르고 정확하게 찾아낸다. 2020년 마이크로소프트(MS)와 구글, 메타 등은 우승 상금 100만 달러(현재 환율로 약 133억 3550만원)를 걸고 ‘딥페이크 디텍터 챌린지’를 열었다. 전 세계 연구자와 개발자들의 기술과 아이디어를 끌어모으기 위해서다. 대회를 통해 탐지용 AI를 학습시킬 수 있는 딥페이크 데이터 세트가 만들어졌고, 누구나 탐지 모델을 만들 때 쓸 수 있도록 소스코드도 공유됐다. 하지만 2000명 이상의 참가작 중 1위 AI 모델조차 탐지 정확도가 65%에 그쳤다. 지난해엔 인텔이 ‘페이크캐처’라는 딥페이크 탐지 소프트웨어를 공개했다. 인텔은 페이크캐처가 사람의 심장이 뛸 때마다 얼굴에 나타나는 미세한 색 변화 등을 감지해 무려 96%의 정확도로 딥페이크를 걸러낸다고 밝혔다. 하지만 BBC 등에 따르면 이는 조명, 대상 인종 등 실험 조건이 통제된 상황에서만 달성될 가능성이 높다. 국내에선 딥브레인AI가 딥페이크 탐지 기술을 꾸준히 개발하고 있다. 자사에 축적된 AI 아바타 제작 데이터와 기술력을 딥페이크 탐지에도 활용해 솔루션을 만들어 출시하고 있다. 지난달 출시한 서비스는 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 2종으로, 조작된 이미지와 동영상 탐지 서비스, 음성 탐지 서비스를 각각 제공한다. 생성형 AI가 학습할 데이터에 눈엔 보이지 않는 ‘딱지’를 붙여 딥페이크 생성 과정에서 이를 드러나게 하는 ‘워터마크’ 방식도 최근 주목을 받고 있다. 구글 딥마인드가 지난해 8월 공개한 ‘신스ID’(SynthID)가 대표적이며, 네이버 제페토와 메타 등도 워터마크 정책을 도입했다. 하지만 워터마크를 지우는 기술 역시 다양하고 빠르게 확산되고 있다. 미국 메릴랜드대 연구진은 지난해 10월 신스ID를 포함한 주요 AI 워터마크를 모두 깨뜨렸다는 연구 결과를 발표하기도 했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.

그제부터 인공지능(AI) 프로그램으로 만든 ‘딥페이크’ 영상 등을 선거운동에 이용하는 행위가 금지됐다. 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다. 지난해 12월 국회에서 공직선거법 개정안이 통과되면서 이뤄진 조치다. 하지만 이번 법 개정은 딥페이크 선거운동에 대한 처벌 근거를 마련한 것일 뿐이다. 빠르게 제작돼 사회관계망서비스(SNS)를 타고 삽시간에 퍼지는 딥페이크 콘텐츠의 특성상 광범위한 폐해를 막기엔 한계가 있다. 단속에 더해 조작된 정보는 만들지도 보지도 않겠다는 정치권과 유권자들의 자세가 필요한 이유다. AI 발달로 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 조 바이든 미국 대통령의 ‘선거 불참을 권하는’ 딥페이크 음성이 확산되는가 하면 영국과 나이지리아 등에서도 정치 관련 음성 조작 사례가 속출하고 있다. 정치인뿐만이 아니다. 미국의 팝가수 테일러 스위프트는 얼굴 사진이 합성된 딥페이크 음란 이미지가 SNS에 게시돼 수천만회 조회되면서 곤욕을 치렀다. 딥페이크 콘텐츠는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 중앙선관위는 검증요원과 AI 전문가들을 최대한 동원해 단속하겠다고 하지만 딥페이크 영상·이미지는 수분 만에 제작돼 실시간으로 확산되기 때문에 뒷북만 칠 가능성도 있다. 따라서 무엇보다 허위정보를 만들지 않겠다는 정치권의 책임 있는 자세가 필요하다. 지난 대선에서 가짜뉴스로 판명된 콘텐츠의 90%를 정치권이 생산했다는 조사 결과도 있다. 허위정보를 최대한 걸러 내겠다는 대형 포털의 책임 있는 자세, 조작된 정보는 보지도 퍼나르지도 않겠다는 유권자들의 노력이 뒷받침돼야 함은 물론이다.

팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

인공지능(AI)의 민주주의 위협이 현실화하고 있다. 미국 대선 후보 경선이 진행되는 가운데 조 바이든 대통령을 사칭해 뉴햄프셔주 프라이머리(예비선거) 불참을 권하는 딥페이크 음성이 유포돼 주정부가 지난 22일(현지시간) 수사에 착수했다. 대선 경선이 시작된 이후 AI를 악용한 허위 정보 유포에 대한 첫 수사다. 미국에서는 최소 13개 주가 AI를 활용한 콘텐츠로 선거 관련 허위 정보가 퍼지는 일을 막기 위한 법을 추진하고 있다. 영국 일간 파이낸셜타임스에 따르면 지난해 영국, 인도, 나이지리아, 수단 등에서 정치와 관련해 음성 조작으로 의심되는 사례가 나왔다. 생성형 AI가 발전할수록 음성 조작 메시지, 딥페이크 영상 등 허위 정보를 퍼트려 상대방을 공격하는 일이 쉬워진다. 올해 전 세계 50개국 이상에서 선거가 치러지니 AI를 악용한 허위 정보가 더 범람할 것이다. 우리나라는 북한과 중국 변수도 있다. 국가정보원은 중국이 국내 언론사로 위장한 사이트를 200여개 개설, 이를 통해 친중·반미 성향 콘텐츠를 게시하고 소셜미디어(SNS)로 확산시켰다고 의심하고 있다. 지난해 공공기관에 대한 해킹 시도가 하루 평균 162만여건인데 이 중 80%가 북한 소행이다. 중국은 건수로는 5%지만 피해 심각도를 고려하면 21%란다. 총선을 앞두고 선거 개입 및 정부 불신을 조장하는 행위가 더욱 기승을 부릴 것이다. 국내에서는 공직선거법에 따라 오는 29일부터 딥페이크를 활용한 선거운동이 금지된다. 이는 처벌 근거 마련에 불과하다. 뉴스 콘텐츠를 대량 유통하는 대형 포털의 책임 있는 자세가 필요하다. 허위 정보 차단의 첨병은 유권자들이다. 팩트체크 기능을 선거운동 기간만이라도 공공기관과 대형 포털 중심으로 강화해 유권자의 올바른 선택을 돕자.

韓·美·유럽 등서 국가 단위 선거몇 초면 가짜 음성·영상 등 생산 각국 규제·단속 기술 등 미비 미 대선과 한국 총선 등 전 세계 47개국에서 선거가 치러지는 2024년을 목전에 두고 챗GPT 등 생성형 인공지능(AI)을 악용한 가짜뉴스와의 전쟁이 현실로 닥쳤다. 가짜 영상·음성을 단 몇 초 만에 만들어 내는 AI 딥페이크 기술이 한층 정교해지면서 선거를 앞두고 여론을 선동, 조작하는 허위 정보가 판을 칠 것이라는 경고가 나온다. 명백한 가짜는 물론 사실과 주장의 경계가 모호한 선전 선동에도 딥페이크가 동원되면 민주주의의 설 자리가 더 위태로워진다는 우려도 제기되고 있다. 미 언론들은 내년에 있을 대선이 딥페이크가 본격 동원되는 사상 최초의 선거가 될 것으로 내다보고 있다고 AP통신이 26일(현지시간) 전했다. 이를 제어할 안전장치가 전보다 약해졌거나 정부 차원의 규제가 아직 미진한 탓에 가짜뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 지적이다. 딥페이크가 선거와 정치판을 뒤흔드는 사례는 널렸다. 양측 진영이 대립하고 선거전이 치열할수록 딥페이크 활용은 잦아진다. 미국 공화당전국위원회는 지난 5월 30여초짜리 선거 광고를 공개하면서 중무장한 채 샌프란시스코 거리를 순찰하는 미군, 남부 국경을 점령한 이민자들, 대만을 폭격한 중국 전투기 등의 이미지를 담았다. 조 바이든 행정부에서 일어나는 디스토피아를 나타낸 것인데, AI가 만든 가짜 이미지였다. 지난 9월 총선을 치른 슬로바키아에서는 친미 성향의 야당 대표인 미할 시메츠카의 “우리 당이 선거에 이기려면 (소외 계층인) 로마족에게 돈을 줘야 한다”는 음성 파일이 파장을 불렀다. 이 역시 가짜였다. 당사자들은 즉각 반발했지만 투표 이틀 전에 나온 터라 선거에 영향을 미쳐 친러시아 성향 야당의 승리를 견인했다고 프랑스24 등은 전했다. 슬로바키아는 친러 선동과 우크라이나 전쟁 거짓 정보, 반이민을 부추기는 혐오 콘텐츠 등 허위 정보로도 선거가 얼룩졌다. 미중 대리전 격인 대선(2024년 1월 13일)을 앞둔 대만에서는 중국산 동영상 플랫폼 틱톡(중국명 더우인)에서 독립 성향 민진당 후보를 겨냥한 가짜 정보가 활개를 치고 있다. 대만의 의무 군복무 기간이 내년부터 기존 4개월에서 1년으로 늘어나는데, 이를 두고 “대만 청년들은 군 복무 연장에 항의하고 전쟁을 반대하나 민진당이 청년들을 ‘대만 독립’의 사료로 삼고 있다”는 중국 측 주장을 담은 동영상이 유포되고 있는 것이다. 한국의 국가정보원 격인 대만 국가안전국에 따르면 지난해 1400개였던 가짜 정보가 올해는 최소 1800개로 늘어났다. 이들 가짜 정보는 틱톡, 인스타그램, 페이스북, 유튜브 등으로 유통됐다. 미국에서도 사법 재판에 휘말린 도널드 트럼프 전 대통령이 경찰에 체포되는 가짜 영상이 출현했다. AI 전문가인 워싱턴대 오런 에치오니 명예교수는 “(고령인) 대선 후보 바이든 대통령이 병원에 실려 가는 모습도 나올 수 있다”면서 “내 예상이 틀리면 좋겠지만, 재료는 널려 있고 나는 정말 겁이 난다”며 가짜 정보 홍수에 대한 불안감을 드러냈다. 하지만 규제는 기술 발전을 따라가지 못하는 추세다. 소셜미디어 업체들은 가짜뉴스 감시정책이 전반적으로 후퇴했고 AI 기술이 가장 앞선 미국에서도 아직 각 주에 단속을 맡기는 상황이다. 지난해 10월 옛 트위터(X)를 인수한 일론 머스크 테슬라 최고경영자는 콘텐츠 감시 인력을 대규모 해고하고 차단됐던 음모론·극단주의자들의 계정은 ‘표현의 자유’를 들어 복원했다. 페이스북·인스타그램 모회사인 메타와 유튜브 역시 최근 비용 절감을 위해 인력을 줄였다. 기술·미디어 분야 비영리 단체 ‘프리프레스’는 X와 메타, 유튜브에서 혐오 콘텐츠, 허위 정보와 관련해 미디어 보호 정책을 없앤 사례는 총 17개에 이른다고 집계했다. 가짜 정보를 걸러 내겠다면서 적용한 수단은 AI 라벨링 정책으로 제작자가 AI인지 아닌지를 가려내는 정도다. 미국은 연방 의회와 연방 선거관리위원회 차원에서 AI 생성 기술 규제 조치를 모색하고 있지만 아직은 확정된 게 없다고 AP통신은 전했다. 다만 연방 상원에 민주·공화당이 초당적으로 공동 발의한 법안에서는 “패러디, 풍자를 제외하고 연방 후보와 관련된 기만적인 딥페이크를 금지한다”는 내용을 담았다. 주별로는 캘리포니아, 미네소타, 텍사스, 워싱턴주 등이 정치 광고의 딥페이크를 규제하는 법안을 통과시켰다. 비영리 단체인 ‘퍼블릭 시티즌’에 따르면 일리노이, 뉴저지, 뉴욕주 등에서도 유사한 법안이 발의됐다. 미시간주의 경우 지난달 그레천 휘트머 주지사가 ‘선거 전 90일 이내 AI로 생성된 딥페이크 사용을 금지하고 정치 광고가 AI를 사용해 제작됐는지 여부를 명확히 밝혀야 한다’는 법안에 서명했다. 이를 위반하면 초범은 최대 93일 징역형, 최대 1000달러의 벌금형에 처한다. 언론과 정당에 대한 불신이 높은 나라일수록 대중들에게 침투하기 위해 AI를 활용한 딥페이크가 활개 칠 가능성이 높다. 허위 정보를 추적하는 초당파적 단체 ‘민주주의 안전 연합’의 브렛 셰퍼 선임 연구원은 “민주주의에 대한 유권자들의 불신이 커지면서 폭력으로 이어질 수 있다”며 “사람들이 궁극적으로 선거 정보를 신뢰하지 않으면 민주주의는 작동을 멈추게 된다. 인구의 상당수가 영향을 받는다면, 2021년 1·6 미 의회 난입 사태는 워밍업처럼 보일 것”이라고 경고했다.

유명 정치인의 가짜 동영상과 사진, 기사 등이 여러 나라에서 문제가 되고 있다. 요미우리신문은 4일 인공지능(AI)을 이용해 만든 기시다 후미오 일본 총리의 가짜 동영상이 소셜미디어(SNS)에서 확산하고 있다고 보도했다. 문제의 동영상은 현지 민영 방송 니혼테레비 뉴스 프로그램 로고가 표시돼 있다. 양복 차림의 기시다 총리가 성적 발언을 하는 것처럼 제작된 이 동영상에는 ‘LIVE’(생중계) ‘BREAKING NEWS’(뉴스 속보)라고 적혀 있어 기시다 총리의 발언이 긴급 속보로 생중계되는 듯한 인상을 준다. 3분 43초 분량의 이 동영상은 인터넷 동영상 채널인 ‘니코니코’ 등에 올라왔고, 이후 30초 분량으로 지난 2일 소셜미디어 엑스(X·옛 트위터)에 올라와 하루 만에 조회수 232만회 이상을 기록했다. 오사카에 사는 한 남성(25)은 ‘재미로’ 인터넷에 공개된 기시다 총리의 기자회견과 자민당 대회 연설 등 동영상에 있는 총리의 음성을 AI에 학습시켜 가짜 음성을 만들었다며 지난해부터 기시다 총리 이외에도 아베 신조 전 총리의 가짜 동영상도 제작해 올렸다고 밝혔다. 이에 대해 방송사는 “방송, 프로그램 로고를 가짜 동영상에 악용한 것은 도저히 용서할 수 없다”라며 법적 대응하겠다는 방침이다. 체포돼 끌려가는 트럼프 ‘가짜 사진’ 앞서 지난 3월에는 미국 공화당 유력 대선주자인 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 체포돼 끌려가는 모습이 담긴 ‘가짜 사진’이 인터넷상에서 확산한 바 있다. 트럼프 전 대통령은 2016년 대선 직전 포르노 배우와 과거 성관계 사실을 숨기기 위해 회삿돈으로 합의금을 지급한 뒤 장부를 조작했다는 의혹으로 뉴욕 맨해튼지검의 수사를 받고 있으며, 조만간 기소될 가능성이 있다고 미 언론은 관측해 왔다. 당시 트위터(엑스) 등 소셜미디어에는 “트럼프가 맨해튼에서 체포됐다”는 설명과 함께 관련 사진이 확산했다. 트럼프 전 대통령이 도망가는 듯한 장면, 경찰관들에게 둘러싸여 수갑이 채워지고 끌려가는 모습, 교도소에서 주황색 재소자 복장을 착용한 포즈 등 다양했다. 일부 이미지는 디지털 자료 분석단체 ‘벨링캣’의 창립자 엘리엇 히긴스가 만든 것으로 확인됐다. 그는 트위터에 이미지 생성 AI ‘미드저니’를 이용, 간단한 프롬프트 입력으로 사진을 만들었다고 썼다. 하지만 일부 소셜미디어 사용자들은 이런 맥락 없이 사진을 날랐고, 실제 트럼프 전 대통령이 체포된 줄로 받아들이는 사람도 다수로 알려졌다. 논란이 커지자 트위터는 관련 사진이 노출될 때 따라붙는 공지문을 통해 “트럼프 체포 이미지는 가짜”라며 “인공지능이 생성했고, 사실적 근거가 없다”고 밝혔다.

스웨덴의 유명 환경운동가 그레타 툰베리(21)가 앞으로 지속 가능한 전쟁무기와 비건 수류탄을 사용하자고 주장하는 영상이 딥페이크(deepfake)로 확인했다. 지난 27일(현지시간) AFP 통신은 외신은 소셜미디어 X등을 통해 확산한 툰베리의 인터뷰 영상은 조작된 것이라고 보도했다. 딥페이크는 인공지능(AI)을 이용해 사람들의 말과 행동 등을 조작하고 합성하는 영상을 말한다. 해당 영상은 최근 소셜미디어를 통해 확산했는데, 그 내용은 황당하다. 영상에서 툰베리는 "전쟁은 항상 나쁘다. 특히 지구를 위해서 더욱 그렇다"면서 "전투를 계속하고 싶다면 환경을 생각해 지속 가능한 탱크와 무기로 변화해야 한다"고 밝혔다. 이어 "수류탄을 사용한다면 비건 수류탄을 사용해야 한다"고도 덧붙였다. 물론 이 영상은 조작된 것이다. 보도에 따르면 이 딥페이크 영상의 원본은 몇달 전 BBC와의 인터뷰에서 따온 것으로 음성과 입모양 등이 정교하게 조작됐다. 툰베리를 타깃으로 한 조작 게시물은 더 있다. 지난 20일 X에 처음 게시됐다가 삭제된 사진을 보면 툰베리가 이슬람국가(IS)의 깃발과 머리띠를 착용한 모습을 담고있다. 이처럼 툰베리가 소셜미디어 상에 각종 조작에 시달리는 이유는 전세계적으로 팬과 더불어 안티팬도 많기 때문이다. 대표적으로 툰베리가 언론 등에 이목을 끄는 것에만 관심있고 시늉만 하면서 실제로는 친환경적으로 살지 않는 위선자라는 비판이다.특히 팔레스타인 무장정파 하마스의 이스라엘 기습 공격 후, 툰베리가 팔레스타인을 지지한 것이 비판에 불을 질렀다. 툰베리는 최근 국제사회가 즉각적인 휴전과 함께 팔레스타인인들을 비롯한 피해를 본 모든 이들의 자유와 정의를 요구해야 한다고 주장하면서 친 팔레스타인 단체의 포스팅을 자신의 계정에 공유하기도 했다. 이에 이스라엘군 대변인인 아르예 샤루스 샬리카는 툰베리가 이스라엘 국민이 학살된 것에는 한마디 말도 없이 가자지구에 대한 연대를 표시했다고 비난했다. 한편 환경운동으로 세계적인 주목을 받고있는 툰베리는 지난 2018년 8월 학교에 가는 대신 스웨덴 의사당 앞에서 기후 변화 대책을 요구하는 1인 시위를 벌여 세계적인 주목을 받았다. 한 달 넘게 이어진 그의 호소는 전 세계 100여 개 도시에서 학생들이 참여하는 ‘미래를 위한 금요일’(Fridays for Future) 운동으로 발전했다. 

지난달 28일 개봉한 영화 ‘인디아나 존스5’의 주인공인 해리슨 포드의 젊은 시절 얼굴이 인공지능(AI) 디에이징(de-aging) 기술로 만들어져 화제가 됐다. 1942년생, 올해 81세인 포드는 최근 CNN과의 인터뷰에서 인디아나 존스 시리즈에선 은퇴하지만 영화배우로서는 은퇴할 계획이 없다고 밝혔다. AI 기술을 활용해 죽을 때까지 배우로 활동할 수도 있다는 다짐이다. 61세인 톰 크루즈도 최근 ‘미션 임파서블7’ 시사회에서 “해리슨 포드의 나이가 될 때까지 ‘미션 임파서블’ 시리즈를 만들고 싶다”며 존경의 뜻을 표했다. 하지만 AI 기술은 ‘양날의 검’이다. 한편으로는 할리우드 산업 종사자들에게 크나큰 위협이 되고 있다. 지난해 10월 러시아의 한 기업이 치매 투병으로 은퇴한 영화배우 브루스 윌리스의 허락 없이 딥페이크 광고를 만든 사실이 알려져 논란이 일기도 했다. 딥페이크는 ‘딥러닝’(deep learning)과 ‘페이크’(fake)를 합성한 용어로, AI를 기반으로 얼굴 생김새나 음성 등을 실제처럼 조작한 영상 등을 말한다. 딥페이크 기술을 활용하면 영화 제작사 입장에서는 시간과 비용을 크게 줄일 수 있지만, 배우들이나 관련 산업 종사자들은 일자리를 잃을 수도 있다. 지난 13일 영국 런던에서 열린 영화 ‘오펜하이머’ 시사회에선 배우 킬리언 머피, 맷 데이먼, 에밀리 블런트가 사진만 찍고 시사회장을 떠나는 해프닝이 있었다. 지난 5월 할리우드 작가조합 파업에 이어 배우·방송인노동조합(SAG-AFTRA)이 지난 14일(현지시간)부터 일제히 시작한 동시 파업 선언을 지지하기 위해서다. 메릴 스트리프, 제니퍼 로런스, 벤 스틸러, 마고 로비 등 유명 배우 300여명도 동참했다. 배우·방송인노동조합은 AI와 컴퓨터로 만든 얼굴·음성으로 배우를 대체하지 말라고 요구하고 있다. 작가·배우조합의 동시 파업은 로널드 레이건 전 대통령이 배우조합장을 지내던 1960년 이후 63년 만이다. 업계에서는 40억 달러(약 5조원)가 넘는 피해를 예상하고 있다. ‘AI 파업’으로 불리는 이번 사태는 일자리의 앞날뿐 아니라 인간의 창작 활동이 어디까지 보호받을 수 있을 것인가를 다툰다는 점에서 향배가 주목된다. AI의 활용과 규제를 둘러싼 논란도 더욱 거세질 듯하다.

“팀원으로서 우리는 그를 신뢰해야 한다.” 프랑스 축구선수 킬리안 음바페(25·파리생제르맹)가 한국 축구선수 이강인(22·마요르카)에 대한 일본 기자의 질문에 답한 영상이 조회수 1100만회를 넘어섰다. 그러나 해당 영상은 가짜인 것으로 드러났다. 지난달 15일 한 유튜브 채널에는 ‘이강인 영업 마케팅이죠? 일본 기자 질문에 음바페 반응’이라는 제목의 영상이 게재됐다. 영상은 일본 기자가 기자회견에서 영어로 “이강인이라는 한국 선수가 파리생제르맹(PSG)으로 온다고 들었다. 당신은 이것이 단순한 마케팅을 위한 영입이라고 생각하는가? 다른 일본 선수들에 대해서는 어떻게 생각하는가”라며 음바페에게 묻는 음성이 담겼다. 이후 PSG의 공격수인 음바페는 불쾌한 듯 고개를 내저으면서 프랑스어로 답한 장면이 이어졌다. 영상 자막에는 ‘재능을 가졌기에 여기로 올 수 있는 것이다. 질문의 의도가 무엇인지 모르겠지만 이곳에 온다는 것은 준비가 됐다는 것이고, 팀원으로서 우리는 그를 신뢰해야 한다. 그가 어떠한 선수인지 이미 충분히 알고 있고, 우리는 좋은 호흡을 보일 것이라고 생각한다. 그리고 당신 나라의 선수들에 대해서는 전혀 알지 못한다’라고 나와있다. 해당 영상은 6일 기준 조회수 1170만회를 넘어서는 등 화제가 됐다. 한글로 ‘오늘부터 음바페가 우리 형이다’, ‘음바페는 이제부터 우리 가족이다’, ‘있지도 않은 일본인 선수를 물어보네’ 등의 댓글이 달리기도 했다. 그러나 해당 영상은 인공지능(AI)으로 만들어진 가짜였다. 음바페의 답변은 2년 전인 2021년 ‘유로 2020’ 기자회견 때 진행된 것이다. 원본 질문은 한 기자가 불어로 ‘또 다른 거대한 뉴스는 파리생제르맹과 재계약이다. 유로 이후 결정을 내릴 것인가’라고 묻는다. 이에 음바페가 “난 지금 당장 재계약에 관심이 없다. 난 다른 선수들과 팀을 방해하지 않기 위해 프랑스 팀에 대해서만 얘기하겠다”는 등 본인의 거취를 묻는 질의와 대답이 오간 것이다. 이강인에 대한 언급은 없었다. 해당 가짜 영상은 텍스트를 음성으로 변환하는 TTS(Text-to-Speech)로 일본 기자의 음성을 조작하고 음바페의 답변은 게시자 마음대로 가짜 자막을 붙인 것이다. 축구대표팀 출신 이천수도 유튜브 채널 ‘리춘수’에서 가짜 영상에 속는 장면을 내보내기도 했다. 이천수는 가짜 영상을 보고 “(음)바페~ 난 널 좋아했어”라고 말했다. 이후 가짜 영상에 속은 사실을 알자 “많이 속을 수도 있겠다. 하지 마세요. 안 좋은 거다. 적이 생긴다”고 지적했다. 한편 스페인 마르카는 4일 PSG와 이강인의 원소속팀 스페인 마요르카가 이적에 완전히 합의했다고 보도한 바 있다.이 외에도 지난 6월 리오넬 메시가 중국 언론과의 인터뷰에서 ‘이강인을 후계자로 지목했다’는 질문에 답했다는 영상도 200만회가 넘는 조회수를 기록하고 있으나, 이 역시 조작된 영상이었다. 중국 진행자가 메시의 커리어에 관한 내용으로 이어간 인터뷰에 엉뚱한 자막을 붙인 것이다. 유튜브 커뮤니티 가이드라인을 보면, 혼동을 야기하는 방식으로 기술적으로 조작됐거나 변조된 콘텐츠는 유튜브에서 허용하고 있지 않다. 90일 이내 경고를 3번 받으면 채널이 영구삭제될 수 있다.

미국 워싱턴DC 인근 버지니아주 알링턴카운티에 있는 국방부 청사 펜타곤 근처에서 대형 폭발이 발생했다는 가짜뉴스가 나돌아 금융시장이 일시 출렁였다. 테러 의혹으로까지 이어진 해당 사진은 생성형 인공지능(AI)으로 만든 가짜 사진으로 밝혀졌다. 22일(현지시간) 오전 트위터와 텔레그램 등 각종 SNS에 펜타곤 폭발 현장 사진이 하나 나돌기 시작했다. 사진에는 펜타곤과 닮은 직사각형 건물 주변에서 검은 연기 기둥이 치솟는 모습이 담겨 있었다. 사진은 오전 8시 42분 트위터 유료 인증 계정 ‘@CBKNews121’에 처음 게시됐다. 이 계정에서는 미국 내 음모론자들과 관계가 있는 여러 아이콘, 대표적 음모론 단체인 큐어넌에 대한 지지가 목격됐다. 게시물은 유명 ‘오픈 소스 정보’(OSINT) 관련 계정을 타고 급속도로 확산했다. 전쟁 당사국인 러시아와 우크라이나 매체도 큰 관심을 보였다. 같은날 오전 10시 3분 러시아 해외 선전매체인 RT는 “펜타곤(미국 국방부 청사) 근처에 폭발 보도가 있다”고 트윗했고, 친러 세력은 환호했다. 반대로 우크라이나 나우는 텔레그램을 통해 해당 소식을 속보로 전하며 우려를 표했다. 사진은 트위터 팔로워 65만명으로 블룸버그통신의 헤드라인을 트윗하는 경제뉴스 인플루언서까지 퍼날랐다. 그는 오전 10시 6분쯤 “펜타곤 단지 근처에 대형 폭발”이라는 글을 올렸다가 나중에 삭제했는데, 그 사이 리트윗 수백건이 이뤄졌다. 팔로워 160만명을 보유한 월가의 유명 블로거 ‘제로헤지’도 “펜타곤 근처 폭발”이라는 설명과 함께 사진을 게시했다가 지웠다. 블룸버그 통신과 전혀 관계가 없는 ‘블룸버그 피드’ 등 가짜뉴스 제조단체들도 사진을 퍼뜨리는 데 가세했다.러시아 선전매체도 ‘깜빡’ 속아투자자 동요→금융 시장 일시 출렁AI 가짜사진의 위력 확인되지 않은 SNS발 속보에 일부 투자자들이 동요하면서 금융 시장은 일시 출렁였다. 오전 9시 30분에 개장하는 미 증시의 스탠더드앤드푸어스(S&P) 500 지수는 0.3% 정도 떨어졌다가 회복했다. 이는 시장에 큰 우려가 돌출할 때 나타나는 전형적 현상으로 관측됐다. 위기 때 투자자들이 피신하는 안전자산인 미국 국채와 금의 가격은 반대로 잠시 상승했다. 불안이 확산하자 현지 언론인들이 속속 사실 확인에 나섰다. 블룸버그 수석 에디터 데이비드 요아킴은 자신의 트위터를 통해 “국방부 대변인은 오늘 아침 펜타곤에서 폭발 같은 건 없었다고 했다”며 “가짜 뉴스”라고 밝혔다. 튀르키예 국영방송 TRT 워싱턴 특파원 유누스 팍소이는 직접 찍은 현장 사진과 함께 “펜타곤 폭발은 없다. 가짜 뉴스”라고 전했다. 당국이 개입에 나선 것은 약 2시간 만인 같은 날 오전 10시 27분쯤이었다. 버지니아주 알링턴카운티 소방당국은 공식 트위터를 통해 “SNS 등 온라인에 펜타곤 폭발 관련 정보가 돌고 있으나, 펜타곤 영내는 물론 그 근처에서 그 어떤 폭발이나 사고가 발생하지 않았으며 대중에게 즉각적인 위험은 없다”고 확인했다.전문가들은 이번 소동에 다소 황당한 면이 있다고 분석했다. 디지털자료분석단체 ‘벨링캣’ 조사관 닉 워터스는 “사진을 두고 허둥지둥한 게 아예 납득이 되지 않는다”고 평가했다. 이어 “사진은 진짜 공간이 아닌 까닭에 진짜 위치를 찾을 수 없고 워싱턴DC 어느 곳에도 그런 건물은 없다”고 지적했다. 해당 사진에서는 AI가 이미지를 생성하는 과정에서 건물 앞의 서로 다른 담장이 변형되고 뒤섞인 흔적도 포착됐다. 그러나 이번 사태로 AI발 가짜뉴스 하나가 세상을 어느 정도로 뒤흔들 수 있는지가 재확인됐다. AP통신은 “점점 섬세해지고 접근하기 편한 프로그램이 일상에 가할 수 있는 혼란이 이번 사태에서 부각된다”고 지적했다. 특히 주요 선거를 앞두고 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우 선거 판도에 치명적인 악영향을 끼칠 수 있다는 가능성이 제기된다.미 대선 국면 AI발 허위정보 유포 우려“유권자 맞춤형 허위정보·사진·음성 등장” 20일 영국 가디언은 생성형 AI 작업물은 사람들에게 일방적으로 전달되는 것이 아니라, 실시간 상호작용을 통해 더 설득력 있는 방식으로 표현된다는 점에서 대규모로 선거에 악용될 여지가 있다는 분석이 전문가들 사이에서 나온다고 짚었다. 미국 사이버보안 업체인 ‘레코디드 퓨처’의 알렉산더 레슬리 분석가는 “미국 대선을 앞두고 이런 기술이 더 진보하고, 더 널리 이용 가능해질 수 있다”며 “폭넓은 교육과 인식 개선 없이는 이것이 대선의 진짜 위험요소가 될 수 있다”고 경고했다. 영국 앨런 튜링 연구소의 AI 연구 재단을 맡고 있는 마이클 울드리지 교수도 “AI 기술이 만들어낼 가짜뉴스가 내 가장 큰 걱정거리”라고 말했다. 그는 “영국과 미국에서 선거 일정이 다가오고 있고, 소셜미디어가 허위정보 전달의 강력한 도구라는 점은 이미 알려져 있다”며 “생성형 AI는 이런 가짜뉴스를 산업적인 규모에서 찍어낼 수 있다”고 경고했다. 아주 간단한 프로그래밍 지식만 갖고 있다면, 온라인상 허위 계정들을 만든 후 특정 성향이나 특정 지역의 유권자를 겨냥한 맞춤형 가짜뉴스를 생산해낼 수 있다는 것이다. 샘 올트먼 오픈AI 최고경영자(CEO) 역시 16일 미 의회 청문회에서 “가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력”이라고 우려한 바 있다.실제로 챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 ‘딥페이크’ 동영상 등은 이미 현실과 구분하기 어려울 정도로 높은 수준에 도달하고 있다. 지난 3월에는 성추문 사건과 관련해 체포 전망이 제기되던 가운데 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 AI 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드 발렌시아가 풍의 하얀 패딩 재킷을 입은 허위 이미지도 대중에 실제인 것처럼 인식돼 논란이 벌어진 바 있다. 지난 1월에는 조 바이든 미 대통령의 목소리를 사용해 그가 마치 백악관 회견을 통해 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 AI 영상이 만들어지기도 했다. 뉴스가드 공동CEO인 스티븐 브릴은 “누군가 이런 잘못된 이야기를 고의적으로 대량 생산하기 위해 AI를 활용할 수 있다”고 지적했다.

인공지능(AI) 광풍 속에서 AI가 만드는 거짓 정보가 선거판까지 흔들 수 있다는 우려가 나오고 있다. 지난 16일 미국 의회에서 처음 열린 AI 청문회에 참석한 대화형 AI 챗GPT 개발사인 오픈AI의 최고경영자 샘 올트먼은 “내년 미 대선에서 AI의 허위 정보 쓰나미가 예상된다”며 정부의 AI 규제를 촉구했다. 챗GPT 창시자 입에서 AI의 거짓 정보가 표심을 흔들 수 있다는 경고가 나온 것이다. 내년 총선을 앞둔 우리로서도 섬뜩한 얘기가 아닐 수 없다. 오픈AI의 챗GPT를 필두로 다양한 형태의 AI들이 쏟아지니 전문가들조차도 진화 속도에 놀라고 있다. 오픈AI 공동설립자인 일론 머스크조차 AI 개발 일시 중단을 주장하고 있다. 올트먼은 미 정부에 AI를 별도 관리하는 기관을 만들어 개발 허가를 엄격히 관리하라는 제안까지 했다. 하루가 달리 발전하는 AI 모델이 거짓 정보로 여론을 조작하면 선거는 물론 민주주의의 기반이 흔들릴 것은 자명하다. 당장 선거 유세 과정에서 상대방 헐뜯기에 생성형 AI가 악용되면 유권자들의 혼란은 걷잡을 수 없어진다. 정당 편향성이 심각한 이미지, 영상, 음성 등이 사실로 둔갑해 버젓이 확대재생산될 수 있다. 상상조차 끔찍하다. 남의 일이 아니다. 청담동 술자리, 친일 횟집 등 해괴한 가짜뉴스가 툭하면 팬덤정치에 동원되는 우리 현실에서는 사실상 화급을 다투는 문제다. 어물어물했다가는 내년 총선은 상대 진영 후보의 목소리와 이미지를 진짜처럼 조작해 서로 헐뜯는 난장이 될 수 있다. 중앙선거관리위원회는 AI의 위법 행위에 대응할 방안을 서둘러 마련해야 한다. 딥페이크 영상 등을 동원한 선거운동을 제한하는 공직선거법 개정안이 이미 발의돼 있다. 여야가 관련 입법에 속도를 내야 함은 말할 것도 없다.

폴리티팩트(politifact)는 미국의 대표적인 정치 분야 팩트체크 기관이다. 이들은 6단계의 검증 결과 체계를 두고 있다. ‘사실’, ‘대체로 사실’, ‘절반의 사실’, ‘대체로 거짓’, ‘거짓’. 여기에 하나 더. ‘새빨간 거짓말’이다. 작정하고 꾸며진 거짓말은 아무리 걸러내도 뿌리가 뽑히지 않는다. 폴리티팩트 같은 팩트체커들은 다양하게 등장했지만 어디서도 거짓말 사회병증이 나아지고 있다는 말이 나온 적 없다. ‘새빨간 거짓말’ 뉴스의 중독이 심해지는 것은 전 지구적 추세다. 웹주소 단축 사이트를 이용해 웹에 포스팅된 수천개의 링크를 분석한 미국의 한 연구 결과는 놀랍다. 표본 링크 중 60%를 단 한 명도 클릭하지 않았다. 페이스북이나 트위터의 포스트를 공유하고 댓글을 다는 상당수가 기사 제목만 읽는다는 얘기다. 이런 식의 정보 소비 패턴도 점점 고착화하는 중이다. 인공지능(AI)의 거짓말 수준까지 시시각각 고도화하니 지구촌은 지금 식겁한 표정이다. AI를 이용한 음성 변조, 합성 사진, 동영상 등에 기반한 가짜뉴스와 지능형 범죄에 미국도 칼을 뺐다. 연방 상원은 이 문제를 ‘의회 최우선 과제’로 설정했다. 유럽의 대응 방안은 훨씬 구체적이고 강력하다. EU집행위원회는 ‘디지털서비스법’(DSA)을 강화해 8월부터 시행하기로 했다. 구글, 트위터, 페이스북, 틱톡, 인스타그램 등 유럽 내 이용자가 월 4500만명 이상인 19개 테크기업이 규제 대상이다. 가짜뉴스를 방치하거나 방지 시스템을 갖추지 않으면 연간 글로벌 매출의 최대 6%를 과징금으로 부과한다. 아예 유럽 내 서비스 자체를 금지하겠다고도 벼른다. 중국조차도 딥페이크 이미지 등의 상업적 이용에 강력한 규제안을 마련했다. 우리나라는 조용하다. 대통령이 식사한 횟집 이름이 일광이라고 친일 가짜뉴스를 마구 뿌려 슈퍼챗 돈벌이를 해도 전혀 뒤탈이 없다. 대선 개표기 조작 음모론을 퍼뜨린 폭스뉴스에는 무려 1조원의 배상금이 물렸다. 최근 대통령 직속 국민통합위원회는 일정 수준 이상의 방문자를 확보한 유튜버를 언론 중재 대상에 넣자는 제안을 했다. 겨우 이 정도 대책에도 별 메아리가 없다. 하기야 가짜뉴스를 국회 안으로 끌어와 재미를 보는 사람들이 입법 주도권을 쥐고 있으니.

3개사, AI기반 디지털트윈 공동개발 및 사업협력 MOU 체결… 개발 본격화IP와 음성AI, 비전AI가 만나 시공간 한계 넘어… 아티스트 개인화 등 파급력 기대 위지윅스튜디오(위지윅), 셀바스AI(셀바스), 메라커 3개사가 ‘AI 기반 디지털트윈 공동개발 및 사업협력’에 관한 업무협약을 27일 체결했다. 이번 업무협약식은 위지윅 박관우 공동대표, 셀바스 윤승현 부사장, 메라커 김선권 대표이사가 참석한 가운데 진행됐으며 각 회사의 핵심기술 및 인력을 활용한 공동개발안 및 그를 통한 사업화에 대해서도 긴밀히 논의한 것으로 알려졌다. 이번 업무협약은 ‘AI 기반 디지털트윈 공동개발 및 사업협력’ 파트너쉽 및 그를 통한 신규 사업화, 수익모델 발굴을 상호협력 분야로 한다. 위지윅은 전체적인 디지털트윈 사업모델 구축 및 소속 아티스트 및 인플루언서의 참여, Cg 기반의 비주얼 솔루션을 제공하는 역할을 하며 셀바스는 AI 기반 음성합성(TTS), 음성인식(STT) 등 음성지능 솔루션 및 인공지능 융복합 기술을 제공하는 역할을, 메라커는 AI 기반 영상촬영, 영상생성, 영상조작 및 디퓨전 기반 영상 생성 조작 알고리즘 등을 제공하는 역할을 맡는다. AI 기반 디지털 트윈은 배우, 가수, 예능인 등 아티스트와 인플루언서들을 기반으로 영상·음성을 학습해 한 개인이 가진 시공간의 물리적 한계를 뛰어넘는 효율을 발휘하게 하는 것을 골자로 한다. 위지윅이 지난 다년간 매니지먼트 인수합병을 통해 밸류체인을 확보했던 이유기도 하다. 자회사인 MAA 소속 고윤정, 노윤서 등 배우와 에이투지엔터테인먼트 소속 조세호, 지상렬 등 예능인, 에일리 등 가수들의 참여, 협의를 통해 지금까지와는 전혀 다른 형태의 활동이 가능하다. 그중에서도 특히 기대되는 활용지점은 ‘아티스트의 개인화’다. 이를 테면, 특정 아티스트의 모습과 음성을 AI 학습 알고리즘을 통해 학습시키고 이를 소비자 개인에게 맞춤 형태로 서비스하는 방식도 가능하다. 그동안 버추얼 인플루언서들이 하나의 아티스트로서 소비되었던 방식과는 완전히 궤를 달리 한다. 이러한 아티스트의 무한한 활용가능성은 최근 급부상한 오픈 AI의 챗GPT와도 맞닿아 있다. 대용량 데이터를 스스로 학습해 종합적으로 추론하는 언어기반의 AI 가 오픈소스화 됨에 따라 디지털 트윈의 ‘뇌’ 역할을 하게 되며 뇌가 내리는 정보들을 수행하는 기관(얼굴, 형태, 목소리)을 아티스트와 한없이 가깝게 만들어 내고 이를 상용화하는 역할을 3개사(위지윅-셀바스-메라커)가 하게 될 예정이다.HTML을 기반으로 여러 리소스를 조합해 서비스한 것이 웹사이트(Website)고 이를 기반으로 한 서비스를 통해 구글(Google)이나 아마존(Amazon) 같은 거대 기업이 탄생한 것처럼, 이번 AI 기반 디지컬트윈 사업도 챗GPT를 기반으로 3개사가 지닌 리소스를 결합해 새로운 서비스 모델을 만들어내는 것이 최종 목표이다. 지난 수년간 AI 기업에 대해 꾸준히 투자를 해 온 위지윅은 2021년 5월 시어스랩 투자를 시작으로 같은해 메라커, 다음해 셀바스에 대한 투자를 진행하며 AI 기술 및 유관 밸류체인 확보에 힘써 왔다. 이번 디지털트윈 공동개발 및 사업협력 업무협약은 그동안의 AI 기업에 대한 투자가 단순 재무적 투자자(FI, Financial Investor)로서의 성격이 아닌 실질적인 사업파트너를 확보하는 전략적 투자자(SI, Strategic Investor)차원에서 진행됐다. 위지윅 박관우 대표는 “AI트윈은 배우나 아이돌 등 아티스트들이 한시성이라는 핸디캡을 넘어 하나의 IP로 다시 태어나게 해줄 것이며 위지윅그룹의 영화, 드라마, 예능 출연 뿐 아니라 광고모델활동 등 다양한 BM으로 활용될 것”이라고 포부를 밝혔다. 셀바스AI 윤승현 부사장은 “셀바스AI의 핵심역량인 음성AI 기술과 아티스트 IP, 비전 AI를 융합할 때 시너지와 파급력이 매우 클 것으로 기대된다”며 “특히 아티스트와 팬 간의 일대일 대화, 한 명의 팬 만을 위한 콘서트와 같이 초개인화 된 팬 서비스로 확장 가능할 것으로 기대한다”고 말했으며, 메라커 김선권 대표는 “AI 트윈과 영상 인공지능의 만남은 아티스트들의 활동영역을 지금껏 보지 못했던 수준으로 확장시킬 수 있을 것”이라고 기대감을 더했다. 한편, 위지윅은 지난해 ‘재벌집막내아들’을 필두로 ‘블랙의 신부’, ‘신병 part 1, 2’ 등 콘텐츠를 앞세워 매출액 1,800억을 돌파하며 창사 이래 최대치를 기록한 바 있다.

현대자동차그룹은 교통약자의 이동권을 확보하고자 2011년부터 ‘이동약자 모빌리티 공헌사업’을 통해 복지 차량, 장애인용 자전거, 노인용 전동스쿠터, 근력 보조기 등의 모빌리티 기기를 기증해왔다. 대표적으로 지난해 10월 약 7억 5000만원 규모의 기아 ‘레이’ 복지 차량 30대를 서울시장애인복지시설협회, 한국노인복지중앙회, 중앙장애인권익옹호기관에 10대씩 기증했다. 해당 차량은 현대차그룹이 육성한 사회적 기업인 ‘이지무브’가 개발했으며, 휠체어 탑승자에게 최적화된 설계를 갖췄다. 지난해 11월에는 이동 약자들의 이동권 증진을 위해 진행해온 사회공헌 활동 ‘H-스페셜 무브먼트’의 일환으로 시각장애인 맞춤형 전용 전기차 ‘아이오닉 5’ 3대를 충북 장애인생활이동지원센터 3곳에 각각 전달했다. 이들 차량 역시 이지무브와 협업해 만들었으며 시각장애인들을 위한 편의 기능을 갖췄다. 내외부 손잡이, 안전벨트, 트렁크 등 접촉 빈도가 높은 곳에 점자 스티커를 부착해 차량 내부 구조물의 위치 파악을 돕고, 온도 변화와 문 개폐 여부를 음성으로 안내하는 기능을 적용했다. 한편 현대차그룹은 지난해 7월 지속가능경영을 위한 글로벌 공유가치창출(CSV) 프로젝트 ‘현대 컨티뉴(Hyundai Continue)’의 일환으로 국립재활원, 충남대병원, 부산대병원, 안전생활실천시민연합과 함께 운전 재활 지원 프로그램 ‘가상운전 시뮬레이터’를 운영하고 있다. 가상운전 시뮬레이터는 운전평가와 훈련, 도로주행 연수 등 운전과 관련한 포괄적이고 단계적인 재활 훈련 프로그램을 제공함으로써 이동약자의 자유로운 이동을 지원한다는 목표로 개발됐다. 가상운전 시뮬레이터는 안전생활실천시민연합, ㈜이노시뮬레이션과의 협업을 통해 개발했다. 신체장애를 가진 이들이 조작할 수 있는 핸드컨트롤 및 액셀 페달 보조장치 등이 설치돼 있으며 실제 중형 자동차 좌석에 4축 전동식 모션장치를 적용해 사용자에게 실차를 운전하는 것과 유사한 운전 경험을 제공한다. 아울러 가상운전 시뮬레이터에는 도심주행, 고속도로주행, 야간주행, 국도주행, 주차장의 5개 상황을 상정한 총 20여 개의 체험 시나리오가 탑재돼 있다. 이와 함께 조향력 확보가능 장치(ABS), 차체자세유지 장치(VDC), 자동 긴급제동 장치(AEB), 졸음·운전부주의 경고장치(FCWS·LDWS) 등 4종의 안전기술 체험 시나리오도 갖췄다. 난이도는 3단계로 조절할 수 있다.

코로나19 팬데믹이 길어지면서 게임이 일상 깊숙이 들어오게 됐다. 바쁜 일상에 잠깐잠깐 짬을 내 즐기던 모바일 게임의 시대가 저물고, 푹신한 소파에 몸을 누이고 영화를 보듯 감상하는 PC·콘솔 게임이 대세로 자리잡고 있다. 최근 출시되는 대작 게임들의 높은 작품성을 그대로 즐기려는 사람이 늘어나면서 게이밍 모니터나 오디오 등에도 최신 기술이 요구되고 있다. 이에 삼성전자, LG전자 등 가전 업체들의 기술 경쟁 무대가 게이밍으로까지 확대됐다. 두 회사가 최근 세계 최대 가전·정보기술(IT) 전시회 ‘CES 2023’에서 다수의 게이밍 기기로 최고혁신상, 혁신상 등을 잇따라 받아 낸 것도 같은 맥락이다. 6일 시장조사기관 국제데이터코퍼레이션(IDC)에 따르면 올해 말 기준 글로벌 게이밍 모니터 시장 규모는 약 63억 6000만 달러(약 8조 4270억원)에서 매년 약 8%씩 성장해 2026년엔 85억 4400만 달러(11조 3225억원)에 이를 것으로 전망된다. 게이머들은 화려한 그래픽을 번짐이나 지연 없이 또렷하면서도 신속하게 처리할 수 있는 모니터를 원한다. 때문에 게이밍 모니터에서 해상도와 주사율, 응답 속도는 다른 모니터보다 중요한 요소로 여겨진다. 화질은 물론이고 사용자의 조작이 바로바로 모니터를 통해 확인이 돼야 하기 때문이다. 주사율이 낮은 모니터로 움직임이 많은 일인칭슈팅(FPS) 게임을 장시간 하면 두통이나 어지럼이 느껴지기도 한다.2019년부터 게이밍 모니터 시장 1위를 지키고 있는 삼성전자는 지난 ‘CES 2022’에서 ‘오디세이 아크’를 처음 선보였다. 이 제품은 55형에서 165헤르츠(㎐)의 주사율을 처음 구현했다. 165㎐라면 1초에 165장의 이미지를 보여 준다는 얘기다. 또 GTG(밝은 회색에서 어두운 회색으로 넘어가는 시간) 1㎳(0.001초)로 빠른 응답속도를 자랑한다. 여기에 가장 몰입감이 높다고 하는 1000R(반지름 1000㎜ 원만큼 휜 정도) 곡률로 세로형 ‘콕핏 모드’도 제공한다. 높낮이 조절, 상하 각도 조절, 가로·세로 전환 등 인체공학적 디자인을 적용했으며 스크린을 최대 4개로 분할해 동시에 사용할 수 있는 ‘멀티 뷰’도 지원한다. 화질 측면에서도 최고 수준을 자랑한다. 퀀텀 미니 발광다이오드(LED)를 광원으로 사용하며, 인공지능(AI) 기반 ‘AI 신경망’과 1만 6384단계로 밝기와 명암비를 제어할 수 있는 ‘콘트라스트 매핑’ 기술이 적용됐다. 100만대1 고정 명암비와 HDR10+를 지원해 더 선명하고 실감 나는 화면을 제공한다. 돌비 애트모스와 ‘사운드 돔 테크’를 적용해 음향에서도 압도적인 몰입감을 선보인다.유기발광다이오드(OLED)TV의 ‘명가’ LG전자 역시 올레드 게이밍 모니터를 지난 9월 독일 베를린에서 열린 가전전시회 IFA 2022에서 선보였다. 자체 게이밍 기기 브랜드인 ‘울트라 기어’로 출시한 이 제품은 800R 곡률에 45형 21대9 화면비로 출시됐다. 울트라기어 게이밍 모니터는 압도적인 0.1㎳ 응답속도와 240㎐의 주사율을 지원해 역동적인 게임 화면을 잔상이나 끊김 없이 보여 준다. 이번에 CES 최고혁신상을 거머쥔 ‘올레드 플렉스’는 게이머들의 목소리를 통해 탄생했다. LG전자 자체 수집 고객 데이터에 따르면 40형대 올레드TV를 사용하는 고객 중 70% 이상이 고선명도 멀티미디어 인터페이스(HDMI) 포트에 콘솔 게임기를 연결하고 있는 것으로 나타났다. 올레드로 고사양 게임을 즐기려는 수요가 예상보다 크다는 점을 확인한 LG전자는 게임할 때 화면을 구부려 최대 900R까지 휠 수 있도록 만들어진 제품을 탄생시켰다.LG전자는 주사율 120㎐ 이상 게이밍 모니터 시장에서 지난 2분기까지 누적 점유율을 계속해서 끌어올려 11.7%를 찍었다. 울트라기어 브랜드를 출범하기 이전인 2018년까지 게이밍 모니터 시장 점유율이 2.8%에 불과했던 점을 감안하면 폭발적인 성장이다. 게이밍 모니터 출하량 역시 2018년 13만 7000대에서 지난해 186만 7000대로 3년 만에 14배 이상 늘어났다. 올해도 상반기에만 90만대 이상 출하했다. 삼성전자는 모니터 외에도 게이밍에 최적화된 고성능 솔리드 스테이트 드라이브(SSD)로 CES 혁신상을 획득했다. 기존 제품보다 월등하게 빨라진 읽기·쓰기 속도와 높은 전력 효율로 최신 게임 콘솔과 PC에서 로딩 시간을 단축시켜 더 쾌적한 게임을 즐길 수 있다. LG전자는 음질의 강자인 만큼 게이밍 스피커를 출시했다. 독자 개발한 3D 게이밍 사운드 기술이 적용돼 게임 중 나오는 다양한 소리의 방향과 크기가 분리돼 들린다. 헤드셋 장비 없이도 몰입도를 높여 주며, 내장 마이크로 음성 대화도 주고받을 수 있다.

메타버스(metaverse·3차원 가상현실) 기술이 발전하면서 지속적으로 성폭력 문제가 제기되고 있다. 이에 이용자 보호를 위한 법 개정을 서둘러야 한다는 현직 검사들의 제안이 나왔다. 2일 법조계에 따르면 대구지검 소속 김정화(변시 4회), 김윤식(연수원 46기), 차호동(연수원 38기) 검사는 대검찰청 계간 논문집 ‘형사법의 신동향’ 여름호에 이러한 내용이 담긴 ‘메타버스 공간에서의 성폭력 범죄와 형사법적 규제에 대한 연구’ 논문을 발표했다. 이들은 신기술과 형사법을 연구하는 대검 AI·블록체인 커뮤니티(회장 김후곤 서울고검장)에서 활동하고 있다. 저자들은 PC나 모바일 기기 등을 이용하는 탓에 비교적 몰입감이 낮은 ‘비몰입형 가상현실’에서도 아바타를 이용한 추행이나 스토킹처럼 불쾌감을 주는 범죄가 쉽게 일어날 수 있다고 말했다. 특히 헤드 마운트 디스플레이(HMD) 기기를 이용해 사용자의 몰입감을 극대화하는 ‘몰입형 가상현실’에서 벌어지는 성범죄 피해의 경우 “신경에 미치는 영향 면에서는 가상현실과 현실상에 큰 차이가 없다”면서 메타버스에서 성추행을 당한 뒤 후유증을 호소하는 피해자 사례를 소개했다. 나아가 가상현실에서 일어나는 신체 자극을 사용자에게 즉각 전달하는 햅틱 장갑이나 햅틱 수트를 이용한 ‘4D 가상현실’ 기술이 상용화하면 아바타에 대한 강제추행 등 문제가 쟁점화될 것으로 내다봤다. 다만 메타버스 성폭력을 막기 위해 새로운 법을 만들거나, 기존 성폭력 관련 법으로 규제하는 데에는 회의적인 입장을 나타냈다. 이들은 4D 가상현실 기술이 상용화되지 않은 지금 같은 과도기에 해당 기술을 악용한 범죄에 대한 처벌 규정을 만드는 것은 적절하지 않으며, 현재는 “아바타를 이용해 수치심을 주는 추행, 스토킹 등이 더 큰 문제”라면서 “그 특성에 맞춰 정보통신망을 이용한 범죄행위로 의율함이 알맞다”고 말했다. 그러면서 정보통신망법을 개정해 가상현실에서 이용자 의사에 반해 성적 수치심을 유발하거나 괴롭히는 행위를 금지하고 관련 벌칙 규정을 둘 것을 제안했다.“가상현실 파티 도중 성폭행 당했다”…성폭행 주장한 女 최근 메타(페이스북)가 출시한 메타버스 애플리케이션(앱) ‘호라이즌 월드’에서 한 여성이 낯선 아바타로부터 성폭행을 당했다고 주장했다. 지난 5월 비영리단체 ‘섬 오브 어스’(Sum of Us)는 가상 세계에 익명 여성 연구원(21)의 체험을 바탕으로 작성한 ‘메타버스: 중독성 있는 콘텐츠의 또 다른 시궁창’ 체험 보고서에 따르면, 해당 연구원은 호라이즌 월드를 테스트하면서 성폭행을 당했다. 이 연구원은 여성 아바타에 여성 음성으로 해당 앱에 접속했다. 하지만 시작한 지 한 시간 만에 그의 아바타는 이 가상 세계에서 성폭행을 당하는 일을 겪었다. 연구원에 따르면 자신의 아바타는 메타버스에서 파티를 즐기던 도중 다른 사용자에 의해 개인실로 끌려가 성폭행을 당했다. VR 기기를 착용한 그는 자신의 아바타가 성폭행을 당하자 손에 쥔 조작기에서 진동을 느끼기도 했다. 이 연구원은 “너무 순식간에 일어난 일이라 머릿속이 복잡했다”며 “무슨 일인가 싶다가도 이것은 나의 진짜 몸이 아니라고 생각했다”고 말했다. 호라이즌 월드를 만든 메타의 대변인은 “원치 않는 접촉을 쉽게 피할 수 있도록 ‘개인 경계 기능’이 기본으로 설정 됐다”며 “모르는 사람에 대해선 안전 기능을 해제하지 않는 것이 좋다”고 해명했다. ‘개인 경계 기능’은 친구가 아닌 사람이 자신의 아바타에서 약 120m 이내에 들어오지 못하도록 하는 안전 도구다. 연구원의 경우, 기본 경계 기능은 기본적으로 활성화돼 있었지만 다른 사용자의 권유를 받고 이 설정을 해제했다고 밝혔다.아바타 성범죄도 처벌 받나…“법제도 정비 목소리 커져” 경찰대학 치안정책연구소는 이미 메타버스 내에서는 현재 메타버스 주 이용층을 차지하는 10대를 대상으로 하는 성범죄가 발생하고 있으며, 기술의 발전에 따라 메타버스 플랫폼이 다양한 성착취 범죄의 온상이 될 수 있다고 우려했다. 실제 상대 여성 아바타의 옷을 속옷만 남긴 채로 벗게 한 후 더듬는 듯한 행위를 하거나, 남성 아바타가 게임 아이템 제공을 빌미로 미성년자의 신체 사진을 전송받아 성착취물을 제작하는 사례도 보고되고 있다. 이렇듯 메타버스에서 성폭력 문제가 지속적으로 제기되고 있다. 민형배 의원, ‘성폭력범죄의 처벌 등에 관한 특례법 일부개정법률안’ 대표 발의 최근 민형배 무소속 의원은 피해자 보호 강화를 위해 ‘성폭력범죄의 처벌 등에 관한 특례법 일부개정법률안’을 대표 발의했다. 가상인물이 활동할 수 있도록 제작된 공간에서 성적 행위를 한 사람은 2년 이하의 징역 또는 2000만원 이하의 벌금에 처한다는 내용이 주요 골자다. 현행법은 성적 욕망을 만족시킬 목적으로 통신 매체를 이용해 성적 수치심이나 혐오감을 일으키는 말, 음향, 그림 등을 상대방에게 도달하게 한 사람을 처벌하도록 명시하고 있다. 다만 메타버스 안에서 아바타를 상대로 한 성범죄에 대한 규정은 명확하지 않다. 한편 메타버스의 익명성과 가파른 성장세를 고려하면 앞으로 성범죄가 심각해질 가능성이 크다는 게 전문가들 공통된 의견이다. 이종호 과학기술정보통신부 장관은 “메타버스 산업의 파급력에 대한 대비와 함께 이면의 음지에 대해서도 충분한 대비가 필요하다”면서 “메타버스 범정부협의체를 통해 이용자보호 정책방안에 대해 논의하고 법제도 정비를 추진할 것”이라고 밝혔다.