사용자가 딥페이크 영상에 속는 일을 막기 위해 인공지능(AI)이 생성한 이미지나 영상을 감지하거나 콘텐츠에 ‘표지’를 남기는 기술도 계속 개발되고 있다. 하지만 대체로 딥페이크를 잡는 기술은 나날이 정교해지는 딥페이크 기술의 발달 속도를 따라잡지 못하고 있다. 19일 AI 업계에 따르면 딥페이크에 대응하는 기술은 크게 ‘탐지’하는 방식과 ‘표지’를 남기는 방식으로 나뉜다. 이 중 탐지 방식은 딥페이크의 특징을 학습한 AI가 가짜 영상을 찾아내 확산되기 전에 막는 기술이다. 합성한 얼굴과 합성 이미지를 덧씌운 대상의 얼굴 경계에 있는 미세한 차이, 모델의 데이터가 부족할 때 나타나는 부정확한 표정, 딥페이크에서만 나타나는 미묘한 음성 지연 등 얼굴이나 음성을 합성할 때만 나타나는 현상을 인간의 눈, 귀보다 빠르고 정확하게 찾아낸다. 2020년 마이크로소프트(MS)와 구글, 메타 등은 우승 상금 100만 달러(현재 환율로 약 133억 3550만원)를 걸고 ‘딥페이크 디텍터 챌린지’를 열었다. 전 세계 연구자와 개발자들의 기술과 아이디어를 끌어모으기 위해서다. 대회를 통해 탐지용 AI를 학습시킬 수 있는 딥페이크 데이터 세트가 만들어졌고, 누구나 탐지 모델을 만들 때 쓸 수 있도록 소스코드도 공유됐다. 하지만 2000명 이상의 참가작 중 1위 AI 모델조차 탐지 정확도가 65%에 그쳤다. 지난해엔 인텔이 ‘페이크캐처’라는 딥페이크 탐지 소프트웨어를 공개했다. 인텔은 페이크캐처가 사람의 심장이 뛸 때마다 얼굴에 나타나는 미세한 색 변화 등을 감지해 무려 96%의 정확도로 딥페이크를 걸러낸다고 밝혔다. 하지만 BBC 등에 따르면 이는 조명, 대상 인종 등 실험 조건이 통제된 상황에서만 달성될 가능성이 높다. 국내에선 딥브레인AI가 딥페이크 탐지 기술을 꾸준히 개발하고 있다. 자사에 축적된 AI 아바타 제작 데이터와 기술력을 딥페이크 탐지에도 활용해 솔루션을 만들어 출시하고 있다. 지난달 출시한 서비스는 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 2종으로, 조작된 이미지와 동영상 탐지 서비스, 음성 탐지 서비스를 각각 제공한다. 생성형 AI가 학습할 데이터에 눈엔 보이지 않는 ‘딱지’를 붙여 딥페이크 생성 과정에서 이를 드러나게 하는 ‘워터마크’ 방식도 최근 주목을 받고 있다. 구글 딥마인드가 지난해 8월 공개한 ‘신스ID’(SynthID)가 대표적이며, 네이버 제페토와 메타 등도 워터마크 정책을 도입했다. 하지만 워터마크를 지우는 기술 역시 다양하고 빠르게 확산되고 있다. 미국 메릴랜드대 연구진은 지난해 10월 신스ID를 포함한 주요 AI 워터마크를 모두 깨뜨렸다는 연구 결과를 발표하기도 했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인되면서 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른 AI 연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니, 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만, 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 어플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수도 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 북한이 딥페이크 영상을 유포해 총선 앞 국론 분열을 노려 공격에 나설 수 있다는 의미다. 영국 옥스포드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업이 필요하다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

‘갈색 베레모를 쓴 백발 노인이 한 카페에 앉아 멀리 시선을 둔 채 생각에 잠긴 듯 촉촉한 눈을 깜빡인다. 노인은 이내 뭔가 생각이 떠오른 듯 희미한 미소를 짓는다. 눈가와 수염이 난 입가에 살짝 주름이 파인다.’ 마치 영화 속 한 장면과 같은 영상은 사실 챗GPT 개발사인 오픈AI가 생성형 인공지능(AI) 기술로 만들어 낸 것이다. 영상 속 따뜻한 색감의 조명과 핸드헬드(카메라를 손에 들고 찍음) 촬영 기법으로 찍은 듯 조금씩 흔들리는 시야 등도 모두 AI가 ‘창조’했다. 오픈AI가 지난 15일(현지시간) 자사 홈페이지를 통해 공개한 동영상 생성 AI ‘소라’를 두고 충격적이란 반응과 함께 ‘딥페이크’(AI 기술로 만든 가짜 영상) 악용 우려가 동시에 나오고 있다. 그동안엔 막대한 시간과 비용을 투자해야만 만들 수 있었던 수준의 영상을 소라는 단 몇 줄의 명령어(프롬프트)만으로도 만들어 낼 수 있기 때문이다. 뉴욕타임스(NYT)는 소라가 공개되자 “깜짝 놀랄 영상을 순식간에 생성하는 AI”라고 소개했다. 18일까지 X(옛 트위터)엔 소라를 이용해 생성한 것으로 추정되는 15초짜리 동영상들이 입력한 프롬프트와 함께 속속 올라오고 있다. 소라 서비스 이용 권한을 제한적으로 제공받은 예술 종사자들이 만든 것으로 추정된다. 이를 접한 사용자들은 “방금 충격적인 걸 봤다”는 등 놀라움을 표현하며 영상을 공유하고 있다. 오픈AI에 따르면 소라는 최대 1분짜리 고품질 영상을 생성할 수 있다. 다만 현재는 15초 분량을 만들 수 있는 서비스를 일부 영상 제작자, 시각 예술가 등에게만 시범으로 제공하고 있다고 밝혔다. 오픈AI가 소라를 이용해 만들었다고 공개한 영상 샘플 40여 편은 AI가 빛과 물리법칙에 대해 깊이 이해하고 있다는 걸 보여 줬다. 도쿄 번화가의 화려한 간판 불빛이 젖은 길거리에 거울처럼 비친 모습, 설원을 달리는 매머드의 발바닥에 눈이 붙었다 떨어지는 모습, 잔 속에서 일렁이는 커피의 파도에 요동치는 해적선들의 움직임 등까지 완벽하게 표현했다. 비현실적인 장면도 컴퓨터그래픽(CG) 이상의 품질로 구현했다. 오픈AI는 또 딥페이크 우려를 예상한 듯 “잘못된 정보, 혐오 콘텐츠, 편견과 같은 분야 전문가들로 ‘레드팀’을 구성해 안전성 테스트를 할 것”이라고 밝혔다. 특히 “복잡한 장면에서 물리법칙을 정확하게 재현하는 데 어려움을 겪을 수 있으며, 원인과 결과의 특정 사례를 이해하지 못할 수도 있다”고 소라의 약점을 공개하기도 했다. 그럼에도 딥페이크로 인한 정치 혼란, 사생활 침해 등 우려를 잠재우진 못하고 있다. 소라가 보여 준 수준의 기술이면 학습할 데이터가 많은 유력 정치인의 아주 정교한 가짜 영상을 만드는 것은 ‘식은 죽 먹기’라는 평가가 일반적이다. 미국 앨런 AI 연구소 창립자이자 워싱턴대 교수인 오렌 에치오니 박사는 자신의 X 계정을 통해 “이런 영상들 때문에 박빙의 선거가 뒤집힐까 봐 정말 두렵다”고 말했다. 한 X 사용자는 “누가 내 사진으로 가짜 영상을 만들까 봐 이제 소셜미디어에 사진도 못 올리겠다”고 했다. 연기자, 분장사, 의상, 조명예술가, CG 일러스트레이터 등의 일자리가 위협받는 것도 문제다. 최근 넷플릭스 시리즈 ‘살인자ㅇ난감’에는 배우 손석구의 어릴 적 사진을 이용한 딥페이크 아역이 등장했다. 영화 CG 일러스트레이터인 리드 사우든은 “2022년 미드저니(이미지 생성 AI)가 처음 나왔을 때 우리는 ‘귀엽다’며 비웃었지만 이제 사람들은 생성 AI 때문에 일자리를 잃고 있다”고 말했다.

지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.

최근 미국 뉴햄프셔 프라이머리를 앞두고 민주당 당원에게 투표 거부를 독려하는 조 바이든 미국 대통령의 가짜 목소리를 담은 전화가 돌면서 딥페이크 선거운동에 대한 우려가 커졌다. 지난해 초에는 경찰에 체포되는 도널드 트럼프 전 대통령의 사진이 퍼지는 등 인공지능(AI)으로 생성된 이미지가 혼란을 일으켰다. 대통령 선거를 앞두고 민주당과 공화당의 주별 경선이 이어지는 가운데 유권자에게 잘못된 인식을 심어줄 수 있는 이미지를 경계하기 위해 AI 기업들이 자사 AI로 정치적 이미지를 생성하지 못하도록 제한하는 방안을 검토하고 있다. 10일(현지시간) 영국 가디언에 따르면 AI 이미지 생성 기업 미드저니의 최고경영자(CEO) 데이비드 홀츠는 앞으로 1년 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정이라고 설명했다. 또 다른 AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇인 ‘파이’가 정치 후보 지지 발언을 못하도록 하는 조치를 할 계획이다. AI 기업들은 AI 이미지에 라벨을 부착해 출처를 알 수 있게하는 정책을 연이어 발표하고 있다. 페이스북 모회사 메타와 구글, 챗GPT 개발사 오픈AI도 이런 방침을 알리면서 “선거의 무결성을 보호하려면 민주적 절차의 모든 부분에서 협력이 필요하다. 우리 기술이 이 절차를 훼손하는 방식으로 사용되지 않도록 하고자 한다”고 의미를 부여했다. 미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지했고, AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의도 잇따르고 있다.

다국적 금융기업의 홍콩 지사 직원들이 인공지능(AI) 합성 기술인 딥페이크로 재현된 가짜 최고재무책임자(CFO)에게 속아 거액의 돈을 잃은 사건이 발생했다. 심지어 이들은 화상회의를 진행했는데도 가짜라는 사실을 몰랐던 것으로 확인됐다. 홍콩 사우스차이나모닝포스트와 미국 CNN방송 등은 4일(현지시간) 다국적 기업 홍콩 지점의 직원이 딥페이크 기술을 이용한 사기에 속아 2억 홍콩달러(약 340억원)를 잃었다고 보도했다. AI로 재현된 가짜 CFO가 화상회의를 통해 자금 이체를 명령하자 이를 그대로 따랐다가 거액의 사기 피해를 본 것이다. 홍콩 경찰은 홍콩에서 처음 발생한 AI를 이용한 거액의 사기인 만큼 경각심을 주기 위해 사건을 세세하게 설명하면서도 회사나 관련 직원에 대한 세부 정보는 공개하지 않았다. 이번 사건의 특이점은 일대일 화상 통화에 속았던 이전 사례와 달리 여러 명이 함께 참여한 화상회의에서 보이는 모든 사람이 가짜였다는 점이다. 피해 직원은 영국에 본사를 둔 회사의 CFO로부터 비밀 거래가 필요하다는 내용의 메시지를 받고 처음에는 피싱(사기) 이메일이라고 의심했다. 하지만 화상회의에 참석했을 때 모든 사람의 외모와 목소리가 자신이 아는 동료들과 똑같았기 때문에 초기 의심을 접어두고 거액을 송금했다고 홍콩 경찰은 설명했다. 이 직원은 회의 중 주어진 지시에 따라 5개의 홍콩 은행 계좌로 2억 홍콩달러를 15번 이체했다. 사기꾼들은 이체가 이뤄지기까지 피해 직원과 메신저와 이메일, 화상 통화로 계속 연락했다. AI 사기 행각은 해당 직원이 일주일 뒤 회사 본사에 확인한 뒤에야 발견됐다. 홍콩 경찰은 딥페이크에 속지 않기 위해서는 “화상회의 참석자들에게 머리를 움직여 달라고 요청하거나 사실 여부를 판단하기 위해 질문을 던지고, 돈을 요구하는 즉시 의심하라”고 강조했다.

그제부터 인공지능(AI) 프로그램으로 만든 ‘딥페이크’ 영상 등을 선거운동에 이용하는 행위가 금지됐다. 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다. 지난해 12월 국회에서 공직선거법 개정안이 통과되면서 이뤄진 조치다. 하지만 이번 법 개정은 딥페이크 선거운동에 대한 처벌 근거를 마련한 것일 뿐이다. 빠르게 제작돼 사회관계망서비스(SNS)를 타고 삽시간에 퍼지는 딥페이크 콘텐츠의 특성상 광범위한 폐해를 막기엔 한계가 있다. 단속에 더해 조작된 정보는 만들지도 보지도 않겠다는 정치권과 유권자들의 자세가 필요한 이유다. AI 발달로 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 조 바이든 미국 대통령의 ‘선거 불참을 권하는’ 딥페이크 음성이 확산되는가 하면 영국과 나이지리아 등에서도 정치 관련 음성 조작 사례가 속출하고 있다. 정치인뿐만이 아니다. 미국의 팝가수 테일러 스위프트는 얼굴 사진이 합성된 딥페이크 음란 이미지가 SNS에 게시돼 수천만회 조회되면서 곤욕을 치렀다. 딥페이크 콘텐츠는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 중앙선관위는 검증요원과 AI 전문가들을 최대한 동원해 단속하겠다고 하지만 딥페이크 영상·이미지는 수분 만에 제작돼 실시간으로 확산되기 때문에 뒷북만 칠 가능성도 있다. 따라서 무엇보다 허위정보를 만들지 않겠다는 정치권의 책임 있는 자세가 필요하다. 지난 대선에서 가짜뉴스로 판명된 콘텐츠의 90%를 정치권이 생산했다는 조사 결과도 있다. 허위정보를 최대한 걸러 내겠다는 대형 포털의 책임 있는 자세, 조작된 정보는 보지도 퍼나르지도 않겠다는 유권자들의 노력이 뒷받침돼야 함은 물론이다.

조 바이든 미국 대통령 행세를 한 가짜 목소리로 혼란을 일으키더니 이번엔 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란한 이미지가 온라인상에 퍼져 팬들의 공분을 사고 있다. 이미지는 인공지능(AI) 도구로 생성된 것으로 추정돼 관련 규제를 강화해야 한다는 목소리가 커지고 있다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송에 따르면 최근 스위프트 얼굴이 합성된 성적 수위가 높은 이미지가 소셜미디어(SNS)에 퍼졌다가 삭제됐다. 이미지의 최초 출처는 불분명하지만 주로 X(옛 트위터)에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. 이 이미지는 삭제 전까지 조회수 4700만회를 웃돌 정도로 빠르게 확산했다. X는 성명에서 “해당 이미지를 게시한 계정에 대해 적절한 조처를 했다. 추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 이미지 공유를 한때 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 함께 관련 키워드를 더해 올리며 이미지 검색을 어렵게 만들기 위해 노력했다. 사이버보안업체 리얼리티 디펜더는 이 이미지가 AI 딥러닝을 이용한 합성기술인 딥페이크로 생성된 것으로 확신한다고 NYT에 밝혔다. 일부 전문가는 마이크로소프트(MS)의 AI 생성 프로그램인 ‘디자이너’로 만들어졌다고도 지적하면서 MS는 관련 조사를 벌이고 있다. 앞서 미국 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 22일 민주당 당원들에게 바이든 대통령의 가짜 목소리를 담은 전화가 걸려오기도 했다. 바이든 대통령 목소리를 닮은 로보콜(자동녹음 전화)은 통화 상대에게 “당신의 표를 11월(대선)을 위해 아껴 두라. 이번 투표는 도널드 트럼프 공화당 후보를 다시 선출하게 만들 뿐”이라며 투표하지 말 것을 권유했다. 특히 바이든 대통령이 즐겨 쓰는 ‘정말 말도 안 되는 소리’(What a bunch of malarkey)로 시작해 유권자들을 혼동에 빠트렸다. 이번 일로 AI를 이용한 가짜 이미지 생성에 더욱 강한 규제가 필요하다는 여론이 거세다. 현재 미국 9개 주에서는 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만 연방정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 이미지 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 “끔찍하다. 이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 사티아 나델라 MS 최고경영자(CEO)도 NBC 방송과 한 인터뷰에서 스위프트의 딥페이크 사건과 관련해 “누구도 콘텐츠 제작자와 소비자 모두에게 안전하지 않은 온라인 세상을 원하지 않는다”면서 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”고 밝혔다.

팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

인공지능(AI)의 민주주의 위협이 현실화하고 있다. 미국 대선 후보 경선이 진행되는 가운데 조 바이든 대통령을 사칭해 뉴햄프셔주 프라이머리(예비선거) 불참을 권하는 딥페이크 음성이 유포돼 주정부가 지난 22일(현지시간) 수사에 착수했다. 대선 경선이 시작된 이후 AI를 악용한 허위 정보 유포에 대한 첫 수사다. 미국에서는 최소 13개 주가 AI를 활용한 콘텐츠로 선거 관련 허위 정보가 퍼지는 일을 막기 위한 법을 추진하고 있다. 영국 일간 파이낸셜타임스에 따르면 지난해 영국, 인도, 나이지리아, 수단 등에서 정치와 관련해 음성 조작으로 의심되는 사례가 나왔다. 생성형 AI가 발전할수록 음성 조작 메시지, 딥페이크 영상 등 허위 정보를 퍼트려 상대방을 공격하는 일이 쉬워진다. 올해 전 세계 50개국 이상에서 선거가 치러지니 AI를 악용한 허위 정보가 더 범람할 것이다. 우리나라는 북한과 중국 변수도 있다. 국가정보원은 중국이 국내 언론사로 위장한 사이트를 200여개 개설, 이를 통해 친중·반미 성향 콘텐츠를 게시하고 소셜미디어(SNS)로 확산시켰다고 의심하고 있다. 지난해 공공기관에 대한 해킹 시도가 하루 평균 162만여건인데 이 중 80%가 북한 소행이다. 중국은 건수로는 5%지만 피해 심각도를 고려하면 21%란다. 총선을 앞두고 선거 개입 및 정부 불신을 조장하는 행위가 더욱 기승을 부릴 것이다. 국내에서는 공직선거법에 따라 오는 29일부터 딥페이크를 활용한 선거운동이 금지된다. 이는 처벌 근거 마련에 불과하다. 뉴스 콘텐츠를 대량 유통하는 대형 포털의 책임 있는 자세가 필요하다. 허위 정보 차단의 첨병은 유권자들이다. 팩트체크 기능을 선거운동 기간만이라도 공공기관과 대형 포털 중심으로 강화해 유권자의 올바른 선택을 돕자.

영화 ‘어벤져스: 에이지 오브 울트론’에는 인공지능(AI) 자비스에 바탕을 둔 ‘비전’에 관한 이야기가 나온다. 강력한 힘을 가진 이 새로운 존재가 아군인지, 적군인지, 더 나아가 통제가 가능할지 등을 놓고 고민한다. 다행히 영화 속 비전은 아군으로 활약했다. 하지만 많은 이가 전장의 AI로 비전보다는 영화 ‘터미네이터’에서 인류를 말살하려는 ‘스카이넷’을 떠올린다. #AI 활용 ‘군사 경쟁’ 가속표적 찾아 자폭·적 얼굴 인식딥페이크로 가짜 뉴스 제작 영화나 드라마에 나올 법한 존재로 여겨졌던 AI는 2022년 우크라이나·러시아 전쟁을 계기로 전쟁 양상을 완전히 바꿀 수 있는 존재로 다가왔다. 표적을 찾아 자폭하는 드론뿐 아니라 적군 병사를 인식하는 안면인식 기술부터 머신러닝을 활용한 군수 지원까지 몇 년 전만 해도 상상조차 할 수 없었던 각종 AI 기술이 현실화하고 있다. 무기 체계에만 AI를 활용하는 건 아니다. 전쟁 초기 소셜미디어(SNS)에서 볼로디미르 젤렌스키 우크라이나 대통령이 항복 성명을 발표하는 ‘딥페이크’(AI 기반 이미지 합성기술) 영상이 유포된 적이 있다. 같은 시기 블라디미르 푸틴 러시아 대통령이 평화를 선언하는 영상도 퍼져 나갔다. 지난해 이스라엘·하마스 전쟁 역시 AI가 전장을 어떻게 바꿀 수 있는지 보여 주는 사례로 꼽힌다. 이스라엘군은 드론 영상, 감청 자료, 감시 데이터, 움직임·행동 양상 데이터를 학습한 AI가 표적을 실시간으로 분석하고 선별하는 의사결정지원 시스템을 사용하고 있다. AI 기술이 지휘통제, 기동, 화력, 정보, 방호, 군수 등 전투 수행에 필요한 모든 영역에서 필수 불가결한 요소로 자리잡으면서 AI를 둘러싼 각국의 군사 경쟁도 거세지고 있다. #美 ‘CDAO’ 미래전 대비지휘통제에 AI 활용 계획로봇 전투차량·참모 개발 예컨대 미국 국방부는 2018년 합동인공지능센터(JAIC)를 창설했으며, 2022년 국방부 전체의 AI와 데이터 분석 등을 총괄하는 최고디지털인공지능국(CDAO)을 신설해 JAIC를 산하 조직으로 통합했다. 2022년 AI가 의사결정에 도움을 주는 합동전영역지휘통제(JADC2) 계획을 발표하고 기능별 하부 시스템을 마련하고 있다. 미 해군은 무인 자율주행 전함, 드론과 무인 수상함, 무인 잠수정이 임무를 수행하는 유·무인복합체계를 만들고 있고, 미 육군은 전투에 가장 적합한 경로를 직접 선택해 임무를 수행하는 로봇 무인 전투차량뿐 아니라 소부대용 AI 전투참모도 개발하고 있다. #한국도 국방혁신4.0 잰걸음지뢰탐지시스템 개발 완료연내 국방AI센터 창설 예고 우리 정부 역시 발걸음이 빨라지고 있다. 국방부는 2021년 인공지능추진전략을 수립한 데 이어 지난해 3월 발표한 국방혁신 4.0 기본계획을 통해 AI 기반 유·무인복합전투체계 등을 확보하고 올해 국방AI센터를 창설한다는 계획을 내놨다. 육군 관계자는 “최근 AI 융합 지뢰탐지시스템 개발을 완료했다. 올해부터 민간에서 보유한 다양한 AI 기술을 미래 지상전투체계인 ‘아미 타이거’에 시범 적용할 계획”이라면서 “앞으로 AI 기반 초연결 전투체계를 개발하는 것을 목표로 하고 있다”고 밝혔다. 조상근 카이스트 국가미래전략기술정책연구소 연구교수는 “군사 행동에서의 핵심은 감시, 결심, 대응이다. AI 기술이 이 세 가지를 하나로 결합하고 시간도 단축하고 있다”면서 “먼저 보고, 먼저 결심하고, 먼저 타격할 수 있다. 최종 선택을 할 시간을 단축해 준다”고 설명했다. 정홍용 예비역 육군 중장은 “AI를 적용하려면 충분한 데이터가 필요하지만 현재 국방 분야 데이터는 대부분 보안으로 묶여 있어 데이터 확보 자체가 어렵다”면서 “공개 자료에 기반한 텍스트, 동영상 등의 군사 자료에 대해 가공 과정을 거쳐 가상 데이터를 만든 뒤 민간 개발자들에게 제공함으로써 AI 개발 과정에서 충분히 활용할 수 있도록 지원해야 한다”고 제안했다. AI 기술 발전과 더불어 판단 오류로 인한 민간인 피해가 심각할 수 있다는 우려도 커지고 있다. 이스라엘군은 최첨단 AI 기술로 적군과 민간인을 구별할 수 있다고 했으나 가자지구 민간인 사상자는 1만명을 훌쩍 넘어섰다. AI가 전쟁에 개입하면서 책임 소재 논란이 불거지는 만큼 교전 윤리를 새롭게 만들어야 한다는 지적도 나온다. 안토니우 구테흐스 유엔 사무총장은 지난해 6월 기자회견에서 핵 감시 기구인 국제원자력기구(IAEA)처럼 AI를 감시하고 규제할 유엔 산하 기구를 구상하고 있다고 밝힌 바 있다.

생성형 인공지능(AI)으로 만든 허위조작정보가 미 대선을 비롯해 전 세계 40여개국에서 진행하는 선거를 망칠 수 있다는 우려가 커지자 챗GPT 제작사 오픈AI가 선거 관련 콘텐츠의 정보 출처와 조작 여부를 알 수 있는 시스템을 만드는 등 자율규제책을 발표했다. 오픈AI는 15일(현지시간) 자사 홈페이지에 “올해 세계 각국에서 치러지는 민주주의 선거의 공정성을 지키기 위해 민주적 절차의 모든 부분에서 협력이 필요하다”며 AI 챗봇 챗GPT와 이미지 생성 AI ‘달리’(Dall-E) 관련 선거 공정성 세이프가드 방안을 발표했다. 구체적으로는 챗GPT를 통해 사람들이 선거 캠페인이나 로비 활동을 위한 애플리케이션(앱)을 만드는 것과 임의의 개발자가 선거에 나선 특정 인물이나 중앙정부 또는 지방정부인 것처럼 가장하는 챗봇을 만드는 것을 금지했다. 또 투표소 위치 등을 잘못 알려 주거나 ‘민주주의에서 투표가 무의미하다’고 주장하는 등 민주주의 시민의 참정권 행사를 방해하는 앱 제작을 금지했다. 오픈AI는 “챗GPT는 언론사 뉴스 등 기존의 정보 소스들과 점점 더 통합되고 있다”면서 “전 세계 언론의 실시간 선거 관련 속보 기사를 볼 수 있도록 연결해 생성형 AI를 이용하는 사람들이 정보의 출처와 취재원을 투명하게 쉽게 찾아볼 수 있도록 하겠다”고 밝혔다. 미 대선과 관련해서는 초당파적 단체인 미 국무장관협회(NASS)와 협력해 유권자들이 챗GPT에 투표소 위치 등 선거 관련 특정 질문을 하면 주 선거관리위원회가 정보를 제공하는 공식 웹사이트(CanIVote.org)로 안내한다. 이를 통해 정확한 선거 관련 정보를 안내하는 프로토콜을 구축해 세계 각국의 선거 관련 정보를 준다. 또 후보 관련 사실과 거짓이 뒤섞인 정보, 딥러닝을 이용한 합성기술인 딥페이크 영상 유포를 막기 위해 생성형 AI가 만든 콘텐츠의 출처와 세부 정보를 암호화해 인코딩하는 디지털 자격 증명 체계도 마련한다. 앞서 구글도 자사 챗봇 ‘바드’가 대답을 내놓는 선거 관련 질문을 후보자, 투표 방법, 장소 등으로 제한하는 조처를 했다. 이 내용도 별도 외부 기관을 통해 검증된 정보만으로 구성했다. 선거 관련 정보는 출처를 반드시 제시하고, AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 AI가 사용됐다는 것을 눈에 띄게 표시하도록 했다.

제22대 국회의원 선거를 90여일 앞둔 10일 경기 수원시 경기도선거관리위원회에서 직원들이 흑색선전, 비방, 허위 사실 공표 등 사이버 선거범죄를 근절하기 위한 홍보 퍼포먼스를 하고 있다. 선거법 개정에 따라 선거운동을 위해 인공지능(AI) 기반 딥페이크 영상을 제작·편집·유포·상영·게시하는 것이 금지된다. 뉴스1

2023년 3월 도널드 트럼프 전 미국 대통령이 뉴욕 맨해튼에서 자신을 체포하려는 경찰과 싸우는 사진이 소셜미디어(SNS)에 광범위하게 유포됐다. 한 달쯤 지나 미 공화당 전국위원회는 조 바이든 대통령이 재선될 경우 일어날 수 있는 다양한 상상 속 재난의 모습을 보여 주는 광고를 공개했다. 지난해 11월에는 일본 SNS에 기시다 후미오 총리가 성적인 발언을 하는 영상이 유포돼 논란을 불렀다. 여름에 유튜브에 올라온 것인데 X(옛 트위터)를 타고 하루 만에 조회수 230만회를 훌쩍 넘겼다. 모두 인공지능(AI) 딥러닝을 기반으로 한 합성 기술인 딥페이크로 만든 영상과 이미지였다.문제는 세상에 없는 인물과 이미지를 만들어 내는 딥페이크가 더 방대한 정보가 투입되는 딥러닝을 통해 더 정교해지고 실존에 가까워진다는 점이다. 말하는 모양의 동영상을 만들고 실제 동영상에 입술 움직임만 바꿔 넣는 딥페이크 기술로 생성한 동영상을 X나 유튜브에 올리기만 하면 삽시간에 전 세계로 퍼져 나간다. 팩트체크를 통해 가짜뉴스로 판명되더라도 이미 누군가에게는 사실로 인식되고 있을 터. 이렇게 가짜뉴스를 퍼뜨리기 좋은 상황은 극단적인 정치 분열이 있을 때나 전쟁 상황에서 더 큰 효과를 발휘한다. 우크라이나·러시아 전쟁 초반인 2022년 3월 페이스북과 유튜브 등에 퍼진 볼로디미르 젤렌스키 우크라이나 대통령의 항복 영상이 단적인 예다. 직후 블라디미르 푸틴 러시아 대통령의 평화 선언 영상이 올라왔다. 둘 다 조작된 영상으로 밝혀지면서 메타와 유튜브 등 운영사는 원본 영상을 삭제했지만 여전히 흔적이 남아 있다.딥페이크를 이용한 가짜뉴스는 전 세계 주요 선거가 줄줄이 예정된 올해 특히 민주주의를 위태롭게 하는 요소로 꼽힌다. 미국 코넬대 세라 크렙스 교수와 더그 크리너 교수는 ‘AI는 어떻게 민주주의를 위협하는가’(민주주의 저널)라는 논문에서 한 실험 결과를 내놨다. 이들은 미국 주의원 7000여명에게 AI가 쓴 편지와 사람이 작성한 편지를 동시에 보냈는데, 사람이 직접 작성한 이메일의 응답률은 AI가 쓴 이메일보다 2% 정도 높은 수준에 불과했다. 이들은 “사람이 만든 진짜 정보와 AI가 생성한 가짜 정보를 구별할 수 없는 상황”이라면서 “허위조작정보를 받아들였다고 해서 유권자들의 선택이 반드시 바뀌는 건 아니지만 민주주의 사회 내 구성원들 간 신뢰를 저해하고 공론장을 왜곡할 수 있다”고 지적했다. 3개월 전 치러진 아르헨티나 대선에서는 상대 후보를 비방하려고 만든 홍보물에 생성형 AI가 마구잡이로 악용됐다. 당시 집권 좌파연합의 대선후보였던 세르히오 마사 경제장관은 극우 경제학자 출신 하비에르 밀레이 당시 후보(현 대통령)가 “(장기 매매 시장이 활성화되면) 아이를 낳는 것이 곧 투자가 될 수 있다”고 말하는 딥페이크 영상을 제작해 유포했다. 밀레이 후보는 마사 후보를 구소련 정치 선전 포스터의 주인공으로 만들어 마사가 공산당 지도자처럼 보이게끔 했다. 두 사람이 만든 홍보물은 AI 창작물임을 명시했음에도 유권자들에게 부정적 인상을 심어 줬다. 미국은 올해 11월 5일 예정된 대선에서 생성형 AI가 훨씬 더 강력한 영향을 미칠 수 있다고 우려하고 있다. 과거의 조악한 합성 영상물과 달리 요즘의 생성형 AI가 만들어 내는 딥페이크는 실제 사람이 만든 것과 구별하기 어려울 정도로 정교하다. 지난해 5월 SNS에서 미 국방부 청사인 펜타곤 건물에서 대형 화재가 발생한 사진이 빠르게 확산하면서 주식시장까지 출렁이는 소동을 빚었다.사안의 심각성을 인식한 미국, 유럽 등 서구 민주주의 사회는 AI를 활용한 가짜뉴스를 규제하는 방법을 끊임없이 고민하고 있다. 유럽연합(EU)은 이미 수년 전부터 가짜뉴스라는 말 대신 허위정보, 잘못된 정보라는 표현을 쓰면서 미디어 역할을 차단해 왔다. 다음달부터는 ‘디지털 서비스법’을 시행해 가입국이 허위정보, 차별적 콘텐츠, 아동 학대, 테러 선전 등의 불법 유해 콘텐츠를 의무적으로 제거하도록 했다. 이를 지속적으로 위반하면 가입국에서 퇴출하는 등 강경하게 대응한다. 미국도 SNS 사업자를 규제하는 방안을 논의하는 중이다. 특히 대선을 앞둔 상황에서 극단주의와 인종차별 등 부정적인 콘텐츠가 유통되는 것을 차단하기 위해서다. 문제가 된 콘텐츠를 제작·배포하는 것뿐만 아니라 이를 확산시킬 수 있는 플랫폼을 제공한 SNS 사업자에게도 합당한 책임을 물어 콘텐츠 규제를 강화하고 있다. 포린폴리시(FP)는 최근 “올해가 AI의 안전한 개발과 사용을 위한 규제를 부과하는 정부 거버넌스 위기를 극복할 수 있을 분수령이 될 것”이라고 평가했다. 미 플로리다, 사우스캐롤라이나, 뉴햄프셔를 비롯한 여러 주에서 선거 캠페인 영상에 AI 사용을 규제하는 법안, 특히 딥페이크 기술을 이용해 후보자의 목소리와 얼굴을 악의적인 방식으로 합성하거나 조작하는 것을 규제하는 법안을 검토하고 있다. 미 싱크탱크인 ‘브레넌 정의센터’는 지난해 11월 발표한 보고서에서 “민주주의의 실험실이라 불리는 주의회에서 AI의 위협에 대처하는 방법에 대해 영감을 줄 수 있을 것”이라고 썼다. AI 연구 선도자이자 구글 딥마인드의 공동 창업자인 무스타파 술레이만은 새 저서 ‘다가오는 물결’에서 “AI를 통제하는 것은 거의 불가능하다”고 주장했다. 술레이만은 AI의 결함이 발생하는 이유를 정부가 파악해야 하고 AI가 폭주할 때 전원을 끌 수 있는 제동장치를 마련해야 한다고 썼다.이언 브레머 스탠퍼드대 교수는 지난해 포린어페어스 기고문에서 “AI는 기존 세계 권력의 구조를 뒤흔들고 어떤 경우에는 권력을 공고히 할 수 있다”면서 “민주주의 국가에서 개인정보를 동의 없이 무분별하게 수집해 상업적으로 활용하는 속도는 더 빨라지고, 권위주의 정부가 사상과 표현의 자유를 억압하는 도구로 악용될 수 있다”고 지적했다. 이어 “AI를 규제하지 않으면 국가는 민주주의를 유지하고 공공재를 제공해야 한다는 사회적 합의의 정당성을 잃는다”고 경고했다. AI가 제멋대로 만들어 낸 ‘환각 현상’과 허위조작정보의 위협에 맞서기 위해서는 전통적으로 민주주의 사회 공론장에서 ‘팩트체커’ 구실을 해 온 레거시미디어의 역할이 강조된다. 아서 설즈버거 뉴욕타임스 발행인은 컬럼비아저널리즘리뷰 기고문 ‘저널리즘의 본질적 가치’에서 “언론은 새롭게 취재한 사실을 다양한 방식으로 교차 검증하는 게이트키핑 시스템을 지키고, 공정과 이해충돌 방지 원칙을 준수했는지, 편견과 차별의 관점을 걸러 냈는지 프로세스를 거친다”면서 “잘못된 정보가 민주주의의 근간을 흔드는 이 시대에 언론이야말로 세상에 꼭 필요한 자양분”이라고 강조했다. 크렙스·크리너 교수의 강조점은 문해력 향상이다. 이들은 “안타깝게도 인터넷 세상은 거대한 확증편향 기계”라며 “객관적 사실을 포기하거나 뉴스에서 사실을 분별하는 능력을 포기하면 민주주의 사회가 기반해야 하는 신뢰가 무너질 수 있다”고 꼬집었다. 이어 제대로 걸러진 미디어를 통한 디지털 리터러시(지식과 정보를 이해하는 능력)의 필요성을 언급하며 “시민들이 다양한 언론 매체를 ‘신뢰하되 검증하는 방식’으로 콘텐츠의 진실성을 가리는 눈과 가짜뉴스를 맹신하지 않는 비판적 사고력을 길러야 한다”고 부연했다.

11일부터 의정보고회·출판기념회 금지공무원 입후보하려면 선거 90일전 사퇴해야 중앙선거관리위원회는 선거일 90일 전인 11일부터 의정보고회·출판기념회 등이 금지된다고 8일 밝혔다. 선관위는 29일부터 금지되는 딥페이크 영상을 이용한 선거운동 단속을 강화할 방침이다. 우선 지난해 말 개정된 공직선거법에 따라 선거운동을 위해 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없다. 다만 공포 후 1개월이 지난 이달 29일부터 금지된다. 선관위는 허위사실공표·비방특별대응팀을 확대 편성해 운영하고 있다. AI(인공지능) 감별반을 11일부터 편성해 운영하고, 시·도선관위는 AI모니터링 전담요원을 2~3명씩 확대한다. 국회의원과 지방의회 의원의 의정보고회도 금지된다. 다만 국회의원은 문자메시지, 카카오톡 등을 이용해 의정활동 내용을 상시 전송할 수 있고 자신의 인터넷 홈페이지 등에서 의정보고서를 상시 게시할 수 있다. 국회의원과 예비후보 등의 출판기념회도 금지된다. 다른 사람이 저술한 것이라도 후보자와 관련이 있는 저서의 출판기념회는 금지된다. 정당과 후보자 명의를 나타내는 광고도 금지된다. 누구든 정당 또는 후보자 명의를 나타내는 저술·연예·연극·영화·사진 그 밖의 물품을 공직선거법에 규정되지 않은 방법으로 광고할 수 없다. 후보자는 방송·신문·잡지 기타의 광고에 출연할 수 없다. 후보자가 되려는 사람이 대표로 있는 기업체는 선거와 무관하게 광고할 수 있다. 공무원이 입후보하려면 지역구 후보는 11일까지, 비례대표는 선거 30일 전인 3월 11일까지 직을 그만두어야 한다. 예비군 중대장급 이상의 간부·주민자치위원회위원 또는 통·리·반의 장 등이 선거사무장, 선거연락소장, 선거사무원, 예비후보자·후보자의 활동보조인, 회계책임자, 연설원, 대담·토론자, 투표참관인이나 사전투표참관인이 되려면 11일까지 직을 그만두어야 한다.

가상인간이 기내 안전 안내 영상을 촬영하는가 하면, 전자책을 출간하기도 하는 세상이다. 인공지능(AI) 기술로 탄생한 가상 인간이 이제 가상 세계를 넘어 현실과의 접점을 넓히고 있다. 5일 스마일게이트는 메타휴먼 ‘한유아’가 전자책 ‘답장은 우편함에 넣어둘게요 : 메타휴먼 한유아가 사연에 답해드립니다’를 출간했다고 밝혔다. 전자책 첫번째 장은 AI 기반 한유아가 사람들의 다양한 고민에 대해 공감하고, 따스한 격려의 말을 건네는 글이 담겨있다. 두 번째 장 역시 여러 사람들이 겪고 있는 문제에 대한 한유아의 감성적이고 위트 넘치는 글이 실려 있다. 출판물에 함께 실린 ‘부적’은 한유아가 생성형 AI프로그램을 활용해 그린 그림들이다. 전날엔 대한항공이 공개한 새 기내 안전 영상에 넷마블 자회사 넷마블에프엔씨의 가상인간 ‘리나’와 4인조 가상인간 걸그룹 ‘메이브’가 승무원, 승객으로 등장한다. 하늘색 승무원 유니폼을 입은 리나가 휴대 수하물 보관법, 기내 금연, 비행 중 사용 금지 품목 등 각종 안전 수칙을 상세하게 설명한다. 승객들은 승무원의 시연을 직접 따라해 본다. 업계는 글로벌 시장에 버츄얼 휴먼, 메타 휴먼 등으로 불리는 가상인간이 수천명 활동 중인 것으로 보고 있다. 세계적으로 일정 수준 이상의 소셜미디어 팔로워와 팬덤을 보유한 가상인간 인플루언서들을 소개하는 미국 사이트 ‘버추얼휴먼스’엔 현재 196명이 등록돼 있다. 국내에만 150여명의 가상인간이 등장한 것으로 추정된다. 가상인간은 ‘딥페이크’로 대표되는 AI 기술 등장으로 실제 인간과 흡사할 정도로 정교하게 만들 수 있게 됐다. 예전엔 3D 툴을 이용해 얼굴을 만들고 대역 모델 몸에 합성하는 방식으로 만들어졌는데, 제작을 위해 너무 많은 작업이 필요해서 콘텐츠 양에 한계가 있었다. 게다가 누가 봐도 3D 그래픽임을 알 수 있을 정도로 겉모습의 정교함이 떨어져 소비자의 관심을 끌기 어려웠다. 그래서 가상인간 1호로 인정받고 있는 로커스엑스의 ‘로지’도 2020년 탄생 초기엔 영상이 많지 않았다. 딥페이크 기술은 인물의 얼굴이 잘 드러난 고화질 영상들을 AI가 추출해 학습한 뒤, 가상의 얼굴을 실존하는 대역 모델의 얼굴에 프레임 단위로 합성시키는 방식이다. 여기에 사용되는 AI 모델은 인물의 눈, 코, 입 등 신체 부위의 모양과 움직임을 중점적으로 학습해 얼굴을 합성하는 데에 특화된 모델이다.실존하는 배우나 정치인, 운동선수 등의 딥페이크 영상은 AI가 학습할 데이터가 무수히 많기 때문에 그만큼 실물과 분간하기 어려울 정도로 정교하다. AI가 생성한 도널드 트럼프 전 미국 대통령의 체포 장면은 가짜이지만, 실제 상황처럼 현실적인 이유도 여기에 있다. 반면 가상인간은 실제로 존재하지 않아, AI 학습을 위해 3D 모델링으로 만든 가상의 얼굴을 수천~수만장 만들어 데이터로 쓰기 때문에 아직까지는 어딘가 어색한 점이 보이곤 한다. 가상 걸그룹 메이브의 경우엔 목소리와 춤을 추는 몸의 동작도 대역을 사용하지 않고 AI가 ‘딥보이스’, ‘바디스캐닝’ 기술로 만들어 낸다. 누가 노래를 불러도 메이브 고유의 목소리로 변환이 가능하다. 모델이 몸에 센서를 달고 춤을 추지 않아도 춤사위를 만들어낸다. 대역 가수, 모델이 바뀌어도 메이브 멤버들의 목소리와 춤이 변하지 않는 셈이다. 가상인간의 최종 목표는 대역 모델 없이 얼굴과 몸의 움직임, 목소리까지 스스로 만들어 내는 100% 가상의 인간이며 기술이 여기에 가까워지고 있다. 한유아의 경우 생성형 AI를 이용해 글도 쓰고 그림도 그리는 등 창작 활동을 활발하게 하고 있다. 가상인간은 기술적으론 영원히 늙지 않고 죽지 않을 수 있다. 실제 연예인이나 인플루언서처럼 법적, 윤리적 문제를 일으키거나 사생활 리스크가 일어나지 않는다. 하지만, 이런 가상인간들도 대체로 ‘장수’하지는 못한다. 코로나19로 인해 열린 ‘비대면 시대’엔 등장 자체만으로 흥미를 끌었지만, 신선함이 떨어졌다. 아무리 좋아도 실제로 만날 수 없다는 한계도 있다. 특히 기술이 발달했음에도 콘텐츠 제작 기간이 최소 2~3일, 길게는 수주가 걸린다. 짧은 영상을 빨리 찍어 빨리 소비하는 ‘숏폼’ 콘텐츠가 유행인 요즘 같은 추세엔 더 맞지 않는다. 2022년 매출 40억원에까지 이르렀던 1세대 가상인간 로지는 최근 매각설에 휩싸이기도 했다. 로커스엑스 측이 부인하긴 했지만 지난해 매출이 전년도의 절반 수준으로 떨어진 것이 루머의 원인이다.

오는 13일 대만의 새 총통(대통령)과 입법위원(국회의원)을 뽑는 선거가 실시되는 가운데 허위 정보가 급증한 것으로 나타났다. 4일 대만 언론인 타이베이 타임스는 인공지능(AI) 분석 결과를 인용해 현 차이잉원 총통의 행정부에 대한 신뢰를 훼손하기 위한 가짜 정보가 급증하고 있다고 전했다. 가짜 정보는 틱톡, 페이스북 등 소셜 네트워크(SNS)를 통해 대부분 유통되고 있다. 특히 여당인 민진당의 뤄즈정(羅致政) 위원은 자신의 성행위 모습이 담긴 딥페이크 가짜 영상이 온라인에 유포됐다고 밝혔다. 뤄 위원은 지난 2일 밤 사건을 신고했으며, 가짜 포르노 영상은 중국이 대만 선거에 영향을 미치기 위해 퍼뜨린 것이라고 주장했다. 민진당의 라이칭더 대선후보는 “뤄 위원은 피해자”라며 “중국은 선거에 영향을 미치기 위해 어떤 일이라도 할 것”이라고 말했다.대만 인공지능 실험실(AI Labs) 설립자 뒤이진(杜奕瑾)은 특히 중국산 동영상 플랫폼인 틱톡에서 대만 독립 성향의 여당인 민진당을 비판하는 내용의 메시지가 많다고 지적했다. 그는 “친중 성향 야당인 국민당에 대한 지지를 불러일으키기 위해 틱톡에서 협력하는 그룹이 급증했다”면서 “대부분의 민주주의 국가는 소셜 미디어를 통한 잘못된 정보의 대량 유포를 막을 수 없다”고 진단했다. 이어 “온라인 허위 정보 캠페인의 표적이 되는 국가는 대만뿐만이 아니며, 11월 대선을 준비하고 있는 미국도 조 바이든 대통령을 겨냥한 허위 정보가 증가하고 있다”고 강조했다. 올해는 전세계 50개국에서 40억명이 참정권을 행사하는 ‘사상 최대 선거의 해’로 대만 AI 실험실의 분석은 민주주의의 꽃인 선거에 대한 우려를 낳기에 충분하다. 한편 대만 국방부는 선거를 앞두고 중국이 대만으로 보내는 정찰풍선의 숫자도 늘었다고 밝혔다. 지난 2일 4개의 중국 정찰풍선이 대만 해협을 표류했으며 그 중 3개가 대만 본토를 통과했다고 국방부가 3일 발표했다. 2일 목격된 풍선은 모두 북동쪽에서 표류하여 오전 10시 48분, 오후 5시 18분, 오후 7시 1분, 오후 7시 2분에 사라졌다.풍선은 각각 해발 3658m, 5486m, 6706m, 7315m의 고도에 떠 있었으며, 12월부터 현재까지 모두 9개의 중국산 풍선이 발견됐다. 순리팡 대만 국방부 대변인은 “대부분 중국 풍선은 기상 풍선으로 계절풍 영향으로 12월과 2월에는 중국산 풍선이 대만에서 가장 자주 발견되는 시기”라고 설명했다. 어우시푸 국방안보연구소 연구원은 중국 정찰 풍선의 목적에 대해 “군사적 강압과 심리전용”이라고 관측했다. 그는 “대통령 선거가 다가오는 가운데 중국 풍선은 일종의 군사적 위협 도구”라며 “중국은 더 많은 친중 표를 원한다”고 덧붙였다.

3명 중 2명은 ‘AI 등장’에 긍정적“더 좋은 방향으로 세상 바꿀 것”60세 이상 77% “활용법 배워야” 인공지능(AI) 시대가 열리면서 ‘10년이면 강산이 변한다’는 얘기는 옛말이 됐다. 챗GPT의 등장이 그랬듯이 1년 만에 강산이 변할 정도로 AI는 우리 사회를 급속도로 바꿔 놓고 있다. AI가 업무 곳곳에 활용되면서 생산성, 효율성이 높아지고 ‘언어의 장벽’도 무너지고 있다. AI가 가져온 축복이 상당하지만 저주의 위험성 또한 무시 못 한다. AI가 만들어 낸 가짜뉴스 폐해부터 딥페이크로 인해 진짜와 가짜를 구별하기 어려운 세상이 도래했다. 궁극적으로 인간을 닮은 기계를 구현하고자 하면서도 인간의 결함이 없는 기계를 두려워하는 인류의 모순 앞에서 AI는 이 시대에 ‘인간다움이 무엇인지’ 질문을 던졌다. 서울신문은 새해를 맞아 ‘AI 블랙홀 시대: 인간다움을 묻다’를 주제로 10회에 걸쳐 AI가 우리 삶에 미치는 영향을 다각적으로 살펴본다.국민 1000명에게 AI 기술 발전이 세상을 더 좋은 방향으로 바꿀지, 더 나쁜 방향으로 바꿀지를 물었다. 3명 중 2명이 긍정적 전망을 내놓았다. 부정적 전망은 4명 중 1명에 그쳤다. AI로 발생하는 여러 문제에도 불구하고 이를 상쇄시킬 수 있는 순기능이 더 크다고 본 것이다. 서울신문이 비영리 공공조사 네트워크 공공의창, 여론조사기관 리서치DNA와 함께 지난달 26~27일 만 18세 이상 남녀 1000명을 대상으로 자동응답방식(ARS) 전화 조사를 한 결과 전체 응답자의 66.2%가 ‘AI 기술 발전이 세상을 더 좋은 방향으로 바꿀 것’이라고 답했다. ‘더 나쁜 방향으로 바꿀 것’이란 응답은 22.9%, ‘잘 모르겠다’는 10.9%였다. ‘더 늦지 않게 AI를 활용하는 방법을 배워야 한다’는 의견에는 80.5%가 공감한다고 했다. 60세 이상 응답자 중에서도 77.6%가 AI 활용법을 배워야 한다는 데 동의했다.AI가 환경 보호·기후변화 대응(긍정 비율 80.6%), 의료 서비스 개선(77.1%), 교통 관리·안전 향상(75.4%), 교육 개선(62.8%) 등 사회문제 개선에 도움이 될 것이란 의견이 우세했다. 반면 AI가 인간관계 약화(77.2%), 개인정보·프라이버시 침해(76.6%), AI의 편향성과 차별(76.4%), 일자리 감소로 인한 불평등 증가(69.7%) 등 사회문제를 악화시킬 것이란 의견에도 10명 중 7명이 동의했다. 김기수 리서치DNA 대표는 “AI의 편익과 위험에 대해 매우 높은 공감대가 병존하고 있다”고 지적했다. 눈에 띄는 대목은 AI로 인한 사회문제 악화에 동의한 응답자 중 3분의2가 “그래도 AI 기술이 세상을 더 좋은 방향으로 바꿀 것”이라고 내다봤다는 점이다. ‘AI 빅뱅’ 저자인 김재인 경희대 비교문화연구소 교수는 “AI는 인간의 역량을 증강시키는 기술이라고 본다. 인간의 기본 역량에 집중해야 하는 이유”라면서 “인간관계를 맺고 경청하고 배려하고 함께 해나갈 수 있는 능력이 더 중요해질 것”이라고 전망했다. ※공공의 창은? 2016년 문을 연 비영리 공공조사 네트워크다. 리얼미터·리서치뷰·우리리서치·리서치DNA·조원씨앤아이·코리아스픽스·티브릿지·한국사회여론연구소·한국여론연구소·피플네트웍스리서치·서던포스트·세종리서치·소상공인연구소·PDI·지방자치데이터연구소 등 15개 여론조사 및 데이터분석 기관이 우리 사회를 투명하게 반영하고 공동체에 보탬이 되는 조사가 필요하다는 뜻을 모아 출범시켰다. 정부나 기업의 의뢰를 받지 않고, 매달 ‘의뢰자 없는’ 조사 분석을 실시하고 있다.