#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인되면서 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른 AI 연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니, 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만, 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 어플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수도 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 북한이 딥페이크 영상을 유포해 총선 앞 국론 분열을 노려 공격에 나설 수 있다는 의미다. 영국 옥스포드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업이 필요하다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

‘갈색 베레모를 쓴 백발 노인이 한 카페에 앉아 멀리 시선을 둔 채 생각에 잠긴 듯 촉촉한 눈을 깜빡인다. 노인은 이내 뭔가 생각이 떠오른 듯 희미한 미소를 짓는다. 눈가와 수염이 난 입가에 살짝 주름이 파인다.’ 마치 영화 속 한 장면과 같은 영상은 사실 챗GPT 개발사인 오픈AI가 생성형 인공지능(AI) 기술로 만들어 낸 것이다. 영상 속 따뜻한 색감의 조명과 핸드헬드(카메라를 손에 들고 찍음) 촬영 기법으로 찍은 듯 조금씩 흔들리는 시야 등도 모두 AI가 ‘창조’했다. 오픈AI가 지난 15일(현지시간) 자사 홈페이지를 통해 공개한 동영상 생성 AI ‘소라’를 두고 충격적이란 반응과 함께 ‘딥페이크’(AI 기술로 만든 가짜 영상) 악용 우려가 동시에 나오고 있다. 그동안엔 막대한 시간과 비용을 투자해야만 만들 수 있었던 수준의 영상을 소라는 단 몇 줄의 명령어(프롬프트)만으로도 만들어 낼 수 있기 때문이다. 뉴욕타임스(NYT)는 소라가 공개되자 “깜짝 놀랄 영상을 순식간에 생성하는 AI”라고 소개했다. 18일까지 X(옛 트위터)엔 소라를 이용해 생성한 것으로 추정되는 15초짜리 동영상들이 입력한 프롬프트와 함께 속속 올라오고 있다. 소라 서비스 이용 권한을 제한적으로 제공받은 예술 종사자들이 만든 것으로 추정된다. 이를 접한 사용자들은 “방금 충격적인 걸 봤다”는 등 놀라움을 표현하며 영상을 공유하고 있다. 오픈AI에 따르면 소라는 최대 1분짜리 고품질 영상을 생성할 수 있다. 다만 현재는 15초 분량을 만들 수 있는 서비스를 일부 영상 제작자, 시각 예술가 등에게만 시범으로 제공하고 있다고 밝혔다. 오픈AI가 소라를 이용해 만들었다고 공개한 영상 샘플 40여 편은 AI가 빛과 물리법칙에 대해 깊이 이해하고 있다는 걸 보여 줬다. 도쿄 번화가의 화려한 간판 불빛이 젖은 길거리에 거울처럼 비친 모습, 설원을 달리는 매머드의 발바닥에 눈이 붙었다 떨어지는 모습, 잔 속에서 일렁이는 커피의 파도에 요동치는 해적선들의 움직임 등까지 완벽하게 표현했다. 비현실적인 장면도 컴퓨터그래픽(CG) 이상의 품질로 구현했다. 오픈AI는 또 딥페이크 우려를 예상한 듯 “잘못된 정보, 혐오 콘텐츠, 편견과 같은 분야 전문가들로 ‘레드팀’을 구성해 안전성 테스트를 할 것”이라고 밝혔다. 특히 “복잡한 장면에서 물리법칙을 정확하게 재현하는 데 어려움을 겪을 수 있으며, 원인과 결과의 특정 사례를 이해하지 못할 수도 있다”고 소라의 약점을 공개하기도 했다. 그럼에도 딥페이크로 인한 정치 혼란, 사생활 침해 등 우려를 잠재우진 못하고 있다. 소라가 보여 준 수준의 기술이면 학습할 데이터가 많은 유력 정치인의 아주 정교한 가짜 영상을 만드는 것은 ‘식은 죽 먹기’라는 평가가 일반적이다. 미국 앨런 AI 연구소 창립자이자 워싱턴대 교수인 오렌 에치오니 박사는 자신의 X 계정을 통해 “이런 영상들 때문에 박빙의 선거가 뒤집힐까 봐 정말 두렵다”고 말했다. 한 X 사용자는 “누가 내 사진으로 가짜 영상을 만들까 봐 이제 소셜미디어에 사진도 못 올리겠다”고 했다. 연기자, 분장사, 의상, 조명예술가, CG 일러스트레이터 등의 일자리가 위협받는 것도 문제다. 최근 넷플릭스 시리즈 ‘살인자ㅇ난감’에는 배우 손석구의 어릴 적 사진을 이용한 딥페이크 아역이 등장했다. 영화 CG 일러스트레이터인 리드 사우든은 “2022년 미드저니(이미지 생성 AI)가 처음 나왔을 때 우리는 ‘귀엽다’며 비웃었지만 이제 사람들은 생성 AI 때문에 일자리를 잃고 있다”고 말했다.

지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.

광주시가 국립현대미술관 광주관 유치 등 올해 시민이 일상에서 즐길 수 있는 문화정책을 추진, ‘일상이 예술이 되는 문화중심 기회도시’ 구축에 나선다. 광주시는 민선8기 4대 문화적 가치인 ‘포용·공감·창의·행복’ 실현을 위해 제15회 광주비엔날레를 성공 개최하고, 국립현대미술관 광주관 유치와 광주공원 청춘문화 누리터 운영 등을 통해 시민이 체감하고 즐길 수 있는 문화정책을 추진한다고 11일 밝혔다.▲광주비엔날레 성공 개최로 ‘국제적 시각예술도시’ 도약 추진 올해로 창설 30주년을 맞는 제15회 광주비엔날레는 ‘판소리-동시대의 울림’을 주제로 기후변화, 거주 위기, 소수자 문제 등 인류공동체가 직면한 다양한 문제의 해법을 모색한다. 판소리라는 지역 특유의 문화를 적극 활용해 세계적 보편성으로 나아가는 소통의 장으로 만들 계획이다. 오는 9월 7일부터 12월 1일까지 진행되는 비엔날레에선 30여 개국이 참여하는 20여 개 파빌리온을 광주 전역에 설치해 광주도심을 비엔날레 전시장으로 확장하고, 개별 국가의 파빌리온을 문화외교 플랫폼으로 활용한다는 방안이다. 지역 작가의 비엔날레 참여를 위한 ‘광주 파빌리온’도 운영한다. 청년 작가부터 원로작가까지 지역을 대표하는 작가의 비엔날레 참여를 통해 광주 미술을 조명하고 광주미술을 국제 무대에 선보인다. 광주시는 광주비엔날레의 성공 개최를 통해 세계 미술계에서 광주비엔날레가 차지하는 영향력과 상징성을 강화하는 한편 국제적 시각미술 도시로 발전하는 원년으로 삼는다는 계획이다. 그동안 광주비엔날레는 짝수년도 9월에 개최되어 왔으나, 코로나로 인해 제13회 광주비엔날레가 애초 2020년 9월에서 2021년 4월로 순연되었으며, 이후 제14회 광주비엔날레도 그 여파로 인해 2023년 4월에 열렸다. 따라서 이번 제15회 광주비엔날레는 통상적으로 짝수년도 9월에 열렸던 광주비엔날레의 개최 일정으로 되돌아가게 된 것이다. ▲국립현대미술관 광주관 유치 추진 지역 미술계의 숙원 사업인 국립현대미술관 광주관 유치를 위해 중앙부처, 국회 등과 긴밀한 협력을 구축한다. 동구 지산동 신양파크호텔 부지 등을 활용해 총사업비 800억원 규모로 추진할 예정인 국립현대미술관 광주관은 현대 미술작품의 수집과 보존·전시, 관련 연구, 창·제작, 국제미술교류 촉진 등 지역 미술 분야의 획기적 전환점으로 여겨지고 있다. 무등산권역 역사·생태·문화자원과 연계해 일반회화부터 인공지능(AI) 등 첨단기술 융복합 미술작품까지 선보여 시민이 즐겨 찾는 문화 상징물로 건립할 계획이다. 광주시는 특히 국립현대미술관 광주관의 성공적 유치를 통해 광주비엔날레전시관, 국립아시아문화전당과 함께 ‘국제 시각미술도시 광주’의 3각 축을 조성할 방침이다.▲ 광주공원 청춘문화 누리터 운영 광주시는 광주공원 앞 주차장을 활용한 ‘청춘문화 누리터’를 운영할 방침이다. 희경루, 광주향교, 광주공원, 광주미디어아트플랫폼(GMAP) 등 주변의 문화·역사적 자원과 가치를 바탕으로 시민과 예술인이 만들고 참여하는 문화프로그램을 오는 5월부터 주말에 운영한다. 아울러 연차별 사업을 통해 광주공원 앞 주차장을 문화광장으로 조성해 충장로 상권 활성화에 기여하고, 사직동·양림동으로 이어지는 문화관광 거점으로 조성한다. 광주공원의 역사와 장소성을 기반으로 희경루, 향교, 사직동, 양림동에 이르는 문화마실길을 조성하고 광주공원 신사계단을 미디어아트로 다채롭게 표출한다. ◇ 일상에서 시민이 즐길 수 있는 다채로운 문화행사 지원 강화 지역의 역량 있는 문화예술인, 단체를 발굴하고 육성하기 위해 추진 중인 ‘문화예술 민간단체 통합보조금’은 3개 분야 10개 장르에 걸쳐 총 29억9600만원을 지원한다. 특히 광주FC 홈개막전 등 주요 행사에 통합공모로 선정된 단체의 공연 등이 선보일 수 있도록 추진한다. 이와 함께 문화예술인 안심보험 가입을 지원하고 현장 중심의 예술인 복지 지원을 위한 예술인 소통센터 운영 등 예술인의 안정적 창·제작 지원도 지속해 강화할 예정이다. 또, 지역미술시장 발전을 선도하는 광주국제미술전람회는 신진 청년작가의 시장 진입을 지원하고 지역 미술 경쟁력 강화를 위해 상시 사무국 체제를 도입한다. 이를 통해 작가-갤러리-컬렉터 간 상시적 연결 고리를 조성하고 지역 작가의 안정적 작품 활동을 지원하는 등 아트페어의 사업성과 경쟁력을 강화할 계획이다. 대인예술시장, 예술의 거리, 프린지페스티벌, 아트피크닉 등 광주지역 대표 문화행사는 시민이 주인공으로 적극 참여하고 즐길 수 있도록 다채로운 프로그램을 마련하고 광주비엔날레 등 국제적 문화행사 등과 연계할 수 있도록 추진한다는 방침이다. 지역의 생활문화자원을 토대로 시민들의 문화예술 활동공간을 조성하는 ‘생활문화 아트벙커’도 올해 20여 곳을 조성한다. 일상에서 시민들이 다채로운 문화예술 활동을 실현할 수 있도록 개방성과 접근성을 높이고, 시민들이 직접 프로그램을 기획하고 운영할 수 있다. 시민 간 지역공동체 유대감을 강화하고 동네별 차별화된 문화공간으로 조성해 일상의 삶 속에서 쉽게 즐길 수 있는 문화거점을 조성한다는 계획이다. ▲미디어아트 창의도시 광주 ‘차별성’ 강화 광주송정역이 디지털 이미지를 구현한 광주 대표 관문으로 바뀐다. 미디어아트 창의벨트 5권역(광주송정역) 조성사업으로, 광주송정역 일원에 사람과 예술, 문화가 교차하고 번영하는 역동적 융합을 미디어아트로 선보인다. 미디어아트에 기반한 영상 이미지를 활용한 ‘미디어아트 폭포’와 다양한 영상콘텐츠를 제작·적용할 수 있는 ‘신기술 융·복합 창작지원센터’를 구축한다. 미디어아트 폭포는 유동인구가 많고 사업의 효과성이 뛰어난 최적의 장소를 확정해 ‘미디어아트로 표현되는 폭포’로 이색적인 볼거리와 즐길거리를 제공할 예정이다. ‘신기술 융·복합 창작지원센터’는 유네스코미디어아트플랫폼 및 광주첨단실감콘텐츠큐브 등과 협업을 통해 올해 기본계획을 수립, 미디어아트 창·제작의 산실로 육성할 계획이다. 광주시는 지난 2019년부터 추진한 유네스코미디어아트 창의벨트 조성사업이 광주송정역 조성사업을 끝으로 마무리되면 디지털아트랩, 신기술 융·복합 창작지원센터를 통해 다양한 미디어아트 창·제작 기반을 조성하고 영상 콘텐츠를 제작·유통하는 국내 대표 도시로 육성한다는 계획이다.

쇼퍼블 비디오 테크놀로지, 소스(Sauce) 운영사 모비두(대표 이윤희)가 ‘라이브, 숏하게 폼잡다’라는 주제로 트렌드리포트 2호를 발간했다. ‘쇼퍼블 비디오 테크놀로지’(Shoppable Video Technology)를 표방하는 소스가 두 번째로 발간한 이번 트렌드리포트는 유통·이커머스 업계가 주목하고 있는 ‘숏폼’을 중심으로 ‘숏폼과 커머스를 연결한 숏폼 커머스 트렌드’와 ‘라이브와 숏폼을 활용한 성공적인 커머스 전략’을 담았다. 숏폼의 영향력을 타고 매출 상승의 기회를 노리는 숏핑(Short-pping) 시대가 개막하면서, 숏폼 분야의 선발주자인 틱톡은 물론 유튜브, 인스타그램 등은 커머스 기능을 경쟁적으로 출시했다. 이런 트렌드에 맞춰 소스는 자사몰에 간편하게 도입 가능하면서도 구매 전환에 최적화된 커머스형 숏폼 솔루션 ‘소스클립’ 출시하고, 숏폼 시청 중 원하는 상품을 장바구니에 즉시 담기, 리워드 기능, AI 기반 숏폼 영상편집 에디터 등 숏폼 커머스에 최적화된 기능을 업데이트 했다. 이와 같은 지속적인 신규 기능 업데이트 뿐만 아니라, 업계 1위의 노하우를 기반으로 라이브와 숏폼을 주제로 한 트렌드리포트를 발간했다. 이번 트렌드리포트에서 제시하는 숏폼으로 잡아야 할 3가지 전략은 ▲숏폼으로 One-Source-Multi-Use 효과를 잡다 ▲숏폼으로 매출 상승의 기회를 잡다 ▲숏폼으로 브랜드 팬덤을 잡다 등으로, 각 전략은 TV홈쇼핑 업계의 변화와 패션·뷰티 플랫폼들의 움직임, 소스 고객사의 실제 사례를 기반으로 구성했다. 소스 관계자는 “최근 숏폼은 콘텐츠 소비 트렌드를 주도할 뿐만 아니라 그 영향력이 매우 커지면서 유통·이커머스 업계에 핵심적인 경쟁력으로 떠올랐다”며 “이번 트렌드리포트가 라이브와 숏폼을 활용한 성공적인 커머스 전략을 세우는 데 도움이 되길 바란다”고 말했다. 한편 소스는 자사몰 라이브·숏폼 솔루션부터 방송 제작·실시간 타깃 마케팅까지 성공적인 라이브커머스에 필요한 ‘쇼퍼블 360’ 서비스를 제공하며, 쇼퍼블 비디오 콘텐츠를 기반으로 고객사가 리테일 미디어 수익 모델을 구축할 수 있도록 지원하고 있다. 트렌드리포트는 소스 공식 홈페이지에서 확인 및 다운로드 받을 수 있다.

“피해자들이 보이스피싱에 당하는 이유는 범인들이 스미싱(문자메시지+피싱)을 통해 사전에 개인정보를 빼간 뒤 이를 바탕으로 전화를 걸기 때문입니다. 휴대전화에 저장된 지인 이름은 물론 은행 계좌번호 등 내밀한 정보까지 알고 접근하기에 깜박 속는 겁니다. 금융당국이 선전하는 것처럼 모르는 사람으로부터 전화가 걸려오면 ‘늘·꼭·또’를 꼭 기억하십시오. ‘늘’ 의심하고, ‘꼭’ 전화끊고, ‘또’ 확인하는 방법밖에 없습니다.” 김수민 서울동부지검 보이스피싱범죄 정부합동수사단장은 지난 7일 서울신문과 만나 “인공지능(AI)을 이용해 보이스피싱이나 스미싱 문자를 필터링하는 시스템이 고도화되고 있지만 이를 피하는 방법도 계속 출현하고 있어 발 빠른 대책이 필요하다”며 “은행이나 통신사가 고객을 대상으로 문자나 앱 알림 등을 통해 신종 수법에 대한 주의 메시지를 전송해 알려주는 게 가장 효과적”이라고 진단했다. 김 단장은 “보이스피싱 조직이 스미싱 문자를 뿌리기 위해 해외문자발송 사이트를 이용<서울신문 2월 5일자 9면>하는 가장 큰 이유는 발신번호 변경이 가능하고 한국인터넷진흥원(KISA)이나 통신 3사의 스팸문자 차단 필터링을 우회할 수 있기 때문”이라며 “이를 막을 수 있는 통신사의 투자와 노력이 더 절실하다”고 했다. “미국의 경우 가상납치 형태의 보이스피싱 범죄가 주로 발생하고 있습니다. 자녀 등을 납치했다고 속여 가족으로부터 돈을 받아챙기는 거죠. AI를 통해 합성된 사진이나 영상을 가족들에게 보내 자녀가 납치됐다고 가장하기도 합니다. 중국에서도 위챗 등을 통해 간편 송금 시스템이 활발하게 운영되고 있어 허위 투자나 자산관리, 물품 구매, 고객 서비스 등을 빙자한 보이스피싱 피해가 많이 발생하고 있습니다. 우리도 이런 형태를 주의해야 합니다.” 김 단장은 최근 대검찰청 유튜브인 ‘검찰나우’에 개그맨 심문규·이수지씨 등과 출연해 보이스피싱 신종 수법과 예방책을 홍보하기도 했다. 심씨가 김 단장을 사칭해 보이스피싱범을 연기하자 김 단장이 “내가 김 단장”이라며 그를 잡는 연기를 했다. 김 단장은 “촬영 당시 기온이 영하 14도까지 떨어졌는데 녹음기에 소음이 들어가는 걸 막기 위해 난방장치를 껐다”며 “핫팩 2개를 몸에 붙이고 연기한 기억이 난다”고 웃었다. 김 단장은 “검사가 유튜브에 출연하는 게 흔치는 않은 일이지만 국민에게 조금이라도 더 예방법을 알려야겠다는 생각에 응했다”며 “앞으로도 피해예방을 위한 홍보영상 등을 제작해 지속적으로 국민에게 알리겠다”고 말했다.

‘아세안 건축투어’ 통해 아세안 건축의 아름다움을 만나다 한-아세안센터(사무총장 김해용)는 브루나이, 라오스, 미얀마 3개국의 건축물을 통해 각국의 문화를 조명하는 관광 홍보 영상을 31일 공개한다고 밝혔다. 이번 영상들은 아세안 건축을 테마로 각국의 풍부한 문화관광자원을 소개하는 아세안 관광 홍보 영상 시리즈의 일환으로, 2022년 제작한 4개국(말레이시아, 필리핀, 싱가포르, 태국) 영상과 지난해 제작된 3개국(캄보디아, 인도네시아, 베트남) 영상에 이은 마지막 시리즈다. 각 영상은 한-아세안센터와 아세안 회원국 관광청이 선정한 국가별 두 도시의 건축물을 소개하는 영상(5분)과 오영욱 건축가의 에필로그(1분)로 구성되어 있다. 브루나이 편에서는 황금빛의 도시 전경과 화려한 보물로 알려진 지역인 브루나이 무아라(Brunei Muara)와 벨라잇(Belait)의 건축과 문화를 만나볼 수 있다. 영상은 브루나이 무아라에 있는 술탄 하지 하사날 볼키아 발라이 카자나 이슬람 전시관(Balai Khazanah Islam Sultan Haji Hassanal Bolkiah), 브루나이 에너지 허브 박물관(Brunei Energy Hub Dermaga Diraja), 캄퐁 아예르(Kampong Ayer), 오마르 알리 사이푸딘 모스크(Omar ‘Ali Saifuddien Mosque), 로얄 리갈리아 박물관(Royal Regalia Museum) 등 이슬람 건축물과 자연 지형이 어우러진 도시 디자인을 통해 전통적인 문화와 현대적인 세련미와의 조화를 선보인다. 또한, 벨라잇 지역의 경우 브루나이 경제 성장의 바탕이 된 석유와 천연가스 사업을 상징하는 ‘커다란 찻잔(giant teacup)’과 ‘인사하는 당나귀(nodding donkeys)가 방문객을 맞이하는 모습을 볼 수 있다. 이어 라오스 편에서는 라오스의 수도 비엔티안(Vientiane)과 라오스에서 가장 큰 도시이자 뛰어난 문화적, 역사적 가치를 인정받아 유네스코 세계 문화유산 보호지역으로 지정된 루앙프라방(Luang Prabang)의 건축과 문화를 만나볼 수 있다. 영상은 메콩강의 곡류에 위치한 비엔티안에 있는 라오스의 중요한 국가기념물 중 하나이자 라오스 불교를 상징하는 탓 루앙(That Luang Stupa)과, 빠뚜싸이(Patuxay), 호 파께오 박물관(Ho Phra Keo Museum), 그리고 불상공원(Buddha Park) 등 비엔티안의 다른 주요 건축물들을 담고 있다. 왓 씨엥통(Wat Xieng Thong), 왕궁 박물관(Royal Palace Museum), 그리고 푸씨 산(Mount Phou Si) 등 주위 자연환경과 조화를 이루면서 잘 보존된 루앙프라방의 건축물들과 자연 풍경도 소개된다. 미얀마 편에서는 미얀마 상업의 중심지인 양곤(Yangon)과 세계적인 불교 유적지인 바간(Bagan)의 건축과 생활 양식을 볼 수 있다. 영상은 양곤에는 미얀마에서 가장 사랑받고 있는 쉐다곤 파고다(Shwedagon Pagoda)와 식민지 시대의 건축물들인 구 정부청사(The Secretariat)나 스트랜드 호텔(The Strand Hotel)을 담고 있다. 또한 유네스코 세계 문화유산 보호지역으로 지정된 바간에 있는 아난다 사원(Ananda Temple), 땃빈뉴 사원(Thatbyinnyu Temple), 틸로민로 사원(Htilominlo Temple) 등 다양한 불교 예술과 건축물들이 품은 신성한 분위기도 느낄 수 있다. 더 많은 시청자에게 아세안의 새로운 면모를 보여주고 아세안에 대한 이해도를 높이는 데 기여하기 위해 2019년 ‘아세안 팸투어’라는 이름으로 시작된 동 프로그램은 코로나19로 인해 온라인을 통해 아세안 지역의 다양한 건축과 문화를 소개하는 방식으로 변화되었으며, 한-아세안센터 공식 유튜브 채널을 통해 선보이고 있다. 1월 말 영상 공개 후 시청자를 대상으로 설문조사 이벤트를 진행할 예정으로, 일부 참가자에게 경품도 증정할 예정이다. 이번에 공개되는 브루나이, 라오스, 미얀마 영상으로 아세안 10개국의 ‘건축 여행’ 시리즈는 마무리된다.

그제부터 인공지능(AI) 프로그램으로 만든 ‘딥페이크’ 영상 등을 선거운동에 이용하는 행위가 금지됐다. 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다. 지난해 12월 국회에서 공직선거법 개정안이 통과되면서 이뤄진 조치다. 하지만 이번 법 개정은 딥페이크 선거운동에 대한 처벌 근거를 마련한 것일 뿐이다. 빠르게 제작돼 사회관계망서비스(SNS)를 타고 삽시간에 퍼지는 딥페이크 콘텐츠의 특성상 광범위한 폐해를 막기엔 한계가 있다. 단속에 더해 조작된 정보는 만들지도 보지도 않겠다는 정치권과 유권자들의 자세가 필요한 이유다. AI 발달로 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 조 바이든 미국 대통령의 ‘선거 불참을 권하는’ 딥페이크 음성이 확산되는가 하면 영국과 나이지리아 등에서도 정치 관련 음성 조작 사례가 속출하고 있다. 정치인뿐만이 아니다. 미국의 팝가수 테일러 스위프트는 얼굴 사진이 합성된 딥페이크 음란 이미지가 SNS에 게시돼 수천만회 조회되면서 곤욕을 치렀다. 딥페이크 콘텐츠는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 중앙선관위는 검증요원과 AI 전문가들을 최대한 동원해 단속하겠다고 하지만 딥페이크 영상·이미지는 수분 만에 제작돼 실시간으로 확산되기 때문에 뒷북만 칠 가능성도 있다. 따라서 무엇보다 허위정보를 만들지 않겠다는 정치권의 책임 있는 자세가 필요하다. 지난 대선에서 가짜뉴스로 판명된 콘텐츠의 90%를 정치권이 생산했다는 조사 결과도 있다. 허위정보를 최대한 걸러 내겠다는 대형 포털의 책임 있는 자세, 조작된 정보는 보지도 퍼나르지도 않겠다는 유권자들의 노력이 뒷받침돼야 함은 물론이다.

상명대학교는 충남정보문화산업진흥원에서 AI(인공지능) 웹툰 기반 실감미디어 융합교육 성과물인 ‘백제금동대향로 오악사’ 실감 콘텐츠 10여 점을 전시한다고 24일 밝혔다. ‘콘텐츠 원캠퍼스 구축 운영 사업’의 하나로 추진되는 이번 전시는 26일까지 진행된다. 전시회에서는 상명대 디지털만화영상전공을 비롯해 디지털콘텐츠전공, 영화영상전공 등의 학생들이 6개간 융합 교육을 거쳐 AI소프트웨어 챗GPT, 미드저니를 활용해 제작한 실감 콘텐츠가 전시된다. 상명대 이번 사업을 위해 백제금동대향로를 발굴하고 소장한 국립부여박물관과 함께 콘텐츠 소재 발굴과 현장 교육, 인공지능 교육을 진행해 왔다. ‘백제금동대향로 오악사’ 실감 콘텐츠는 2024년에 새롭게 단장되는 국립부여박물관 내 어린이 박물관에 상설 전시될 예정이다.

지난 12일(현지시간) 미국 라스베이거스에서 막을 내린 세계 최대 가전·IT 전시회 CES 2024의 화두는 단연 인공지능(AI)이었다. ‘챗GPT’가 생성형 AI 시대를 연 뒤 처음 열린 전시인만큼, ‘올 투게더, 올 온(All Together All On)’이라는 주제 아래 다양한 산업 분야와 융합되는 AI 기술이 전시의 중심이었다. 이에 그동안 AI 기술을 고도화 시켜 온 국내 스타트업들이 CES에서 전에 없던 주목을 받았다. 소규모 벤처기업들이 혁신 기술을 선보이는 전시관인 ‘유레카파크’가 ‘K-스타트업’의 무대가 됐다. 국내 스타트업들은 대기업의 투자를 유치하거나 해외 업체와 협력을 체결하고 CES 혁신상을 받는 등 호평을 얻었다.●포바이포 ‘픽셀’, 혁신상 2개 부문 수상 포바이포는 딥러닝 AI 기반 화질 개선 솔루션 ‘픽셀(PIXELL)’로 ‘콘텐츠&엔터테인먼트’, ‘디지털 이미징/사진’ 부문에서 CES 2024 혁신상을 수상했다. 픽셀은 수만 건의 초고화질 영상을 학습한 AI가 채도, 선예도, 명암, 노이즈 등을 미세하게 조정하는 방식으로 화질을 고도화한다. 인간이 눈으로 보는 것과 비슷한 수준의 영상 화질을 구현할 수 있다는 게 포바이포의 설명이다. 영상의 초당 데이터 전송량도 낮추면서도 화질은 초고화질로 바꿀 수 있어 다양한 업계에서 활용할 수 있다. 한국콘텐츠진흥원(KOCCA) 공동부스에 마련된 포바이포 전시 공간엔 미국, 영국, 일본, 스페인 등 글로벌 방송사와 통신사, 증강현실(AR)/가상현실(VR) 협회, 3D 콘텐츠 제작사, 글로벌 VFX 스튜디오, 글로벌 기술 기업, e러닝 교육기업, 헬스케어 이미지 영상 기업 등 디지털 영상 및 이미지 콘텐츠를 생성, 활용하는 다양한 영역의 관계자가 약 300명 이상 방문한 것으로 전해졌다. 현장을 방문한 AI 솔루션 인프라 구축 기업 올파이브데이터 최고기술책임자(CTO) 셔먼 탕은 “AI 화질 개선 결과물의 퀄리티가 매우 놀랍다”며 “미국 등 글로벌 미디어 서비스 및 콘텐츠 제작 분야에서도 활용 잠재력이 매우 클 것이라 생각한다”고 소감을 전했다. 포바이포는 오는 2월 말, 스페인 바르셀로나에서 열리는 세계 최대 모바일 전시회 ‘모바일 월드 콩그레스(MWC) 2024’에서도 스타트업 전문관 ‘4YFN’에도 전시장을 꾸린다. ●에이아이포펫, 반려동물 헬스케어로 주목 반려동물 헬스케어 전문 기업 ㈜에이아이포펫은 CES에 3년 연속 참가해 AI 반려동물 건강관리 기술을 선보이고 현지 관람객들에게 큰 호응을 얻었다. 이번 전시에선 강아지와 고양이 이빨 건강까지 확인하고 관리할 수 있는 발전된 AI 분석 기술을 전시했다. 반려인은 집에서 직접 ‘티티케어’ 앱으로 반려동물 건강 상태를 확인하고 그 데이터를 연계 병원과 실시간 공유할 수도 있다. 현재 한국마사회와 함께 연구개발 중인 AI 기반의 말 개체 식별 기술과 보행 이상 진단 보조 기술도 함께 선보였다. ●딥인사이트, 프롭테크 기술로 美업체와 MOU 인공지능 기반 3D 센싱 솔루션 스타트업 ㈜딥인사이트는 CES 2024에서 미국 라이다(LiDAR) 기업 아우스터와 전략적 기술 협력 업무협약(MOU)를 맺었다. 두 회사는 건설, 건축, 프롭테크(부동산 기술), 인테리어 등 분야에서 3D 공간 정보 획득에 사용되는 라이다 기반의 3D 스캐너 개발과 보급에 협력하기로 했다. 딥인사이트의 ‘디멘뷰’는 아우스터 라이다와 고용량 리튬이온 베터리를 소형화, 경량화한 프롭테크 장비로, 필요한 공간 정보만 선택적으로 모니터링하고 촬영, 2D, 3D 도면 정보를 실시간으로 획득할 수 있도록 만들어졌다.●딥브레인AI, 전시장에 가상인간 세워 AI 휴먼 제작 선도 기업인 딥브레인AI는 2019년부터 매년 CES에 참가하고 있다. 이번엔 LG 노바와 협력해 ‘함께 만드는 더 밝은 미래’를 주제로 유레카 파크에 전시관을 꾸렸다. 이번 전시에서 딥브레인AI는 대화형 AI 키오스크와 가상인간 영상 편집 플랫폼인 ‘AI 스튜디오스’를 중점적으로 소개했다. 특히 자사 ‘드림아바타’ 기술을 기반으로 실제 AI 휴먼을 구현해 화제를 모았다. 드림아바타는 사진 한장과 음성 10초 분량만 있으면 2분 내에 가상인간을 제작할 수 있는 기술이다. 딥브레인AI 전시장에선 AI 스튜디오스를 통해 텍스트 입력만으로 쉽고 간단하게 AI 휴먼을 활용한 영상을 제작해 보는 체험도 이뤄졌다. 글로벌 IT 기업 레노버 및 스콧 모건 재단과 함께 진행한 ‘AI 아바타 프로젝트’도 공개됐다. 스타트업얼라이언스에 따르면 CES 2024에서 한국 기업 중 혁신상을 수상한 스타트업은 116개로, 그 중 가장 많은 30개(25.86%) 스타트업이 헬스케어 분야에 해당됐다. CES 2024 최고 혁신상을 수상한 3D 프린팅 의수 개발 기업 ‘만드로’, AI 전립선암 진단 솔루션 ‘딥바이오’, 재생의료 스타트업 ‘플코스킨’ 등이 이 분야에 해당된다. 두번째로 혁신상이 많은 산업군은 스마트홈&스마트시티 분야(14개, 12.07%), 세번째는 AI(12개, 10.34%)였다.

가수 정동원이 과거 중2병과 ‘연예인병’에 걸렸다고 솔직하게 고백했다. 지난 17일 이경규의 유튜브 채널 ‘르크크 이경규’에는 ‘정동원, 우주에서 온 JD1되어 이경규 혼란하게 만든 사연?! (feat. 김영철)’이라는 제목의 영상이 게재됐다. 영상에서 정동원은 ‘중2병’과 연예인병에 걸렸던 시절을 떠올렸다. 그는 “중2병과 연예인병은 비슷하다. 제가 연예인 활동을 하면서 중2병이 걸렸으니까 거의 남들 2배로 찾아왔다”고 말했다. 이어 “그 당시에 허세가 있었고 멋있어 보이려고 했다. 중2이라서 아무도 나를 멋있는 남자라고 생각을 안 하고 다들 귀엽다고 생각하는데 혼자 화장실 조명 멋있는 데에 가서 멋있는 척하면서 찍고 그랬다”고털어놨다. 정동원은 “지금은 절대 안 그런다. 지금 그 당시를 보니까 같잖다는 생각이 든다”고 말해 웃음을 자아냈다. 그는 “그 당시에는 돈을 처음 버니까 버는 족족 명품을 샀다. 그때 정말 심각했다”며 “그때 민호 삼촌이 ‘너 되게 없어 보여’라고 일침을 날렸다. 정신을 그때 차렸다. 중학교 3학년 때 정신을 차리고 이제 아예 안 한다”고 설명했다. 정동원은 “민호 삼촌이 저를 사람으로 만들어준 삼촌이라서 저도 믿고 따른다”고 덧붙였다. 한편 정동원은 지난 11일 ‘AI 신인 솔로아이돌’ JD1으로 데뷔했다. JD1은 제작자인 가수 정동원이 트로트라는 장르에 국한되지 않고 다양한 장르에 도전하기 위하여 새롭게 창작해낸 독립된 페르소나다.

값싼 하드웨어에 첨단 소프트웨어드론·AI 결합에 미래전 급변 예고조종체계도 전략 게임처럼 바뀔 것 “최첨단 인공지능(AI)을 탑재한 싸구려 드론 수천대가 전투를 벌이는 시대가 1~2년 내에 현실이 됩니다.” 2020년 유튜브에 공개돼 화제가 됐던 영상이 있다. 미국의 국방고등연구계획국(DARPA)에서 주관했던, AI조종사와 인간조종사가 F-16 시뮬레이션으로 공중전 근접전투(도그파이트)를 벌이는 실험에서 AI조종사가 베테랑 인간 조종사를 5-0이라는 압도적인 실력으로 꺾는 모습이 생생하게 담겨 있었다. 이런 AI조종사 기술을 미군과 함께 개발하는 프로젝트에서 중심 역할을 하고 있는 미국 방산업체 ‘에피싸이 창업자인 류봉균(54) 대표는 16일 서울신문과의 인터뷰에서 “AI와 드론의 결합이 미래전의 양상을 완전히 바꿔 놓고 있다”며 “급변하는 시대에 뒤처지지 않으려면 군 교육의 전면 개편이 불가피하다”고 밝혔다. 류 대표는 미국에서 박사 학위를 받고 미국 방산업체에서 일하다가 2012년 무인기와 AI, 센서를 다루는 전문업체 에피사이를 창업했다. “당시에는 회사 주소가 집 뒤뜰 창고였고 상근자가 나 혼자였는데, 지금은 직원 70명 규모의 회사로 성장했다”고 소개했다. 류 대표가 전망하는 미래 전쟁은 “값싼 하드웨어에 최첨단 소프트웨어를 장착한 드론이 전투 주역이 되는 시대”다. 류 대표는 “최첨단 미사일 한 대 값으로 AI가 탑재된 자폭 드론 100~300대를 생산할 수 있다. 이미 골판지 드론도 등장했다”며 “골판지를 사람이 아니라 AI가 날리는 것, 그게 최첨단이다. 이제 최첨단의 정의 자체가 달라져야 한다”고 말했다. 류 대표는 “미군은 1~2년 내에 군집자폭드론 수백대가 작전을 수행하는 전투 체계를 배치하려 한다”며 “5년 뒤에는 드론 수천대를 작전에 동원하는 게 가능해진다”고 내다봤다. 이어 “드론에 장착된 AI가 전장 환경과 적군 동향 같은 각종 정보를 수집해 실시간으로 공유하고 협업 기반의 판단을 하면서 미리 설정된 공격 우선순위에 따라 인간의 최종 허락을 얻은 뒤 자폭 공격을 하는 방식”이라고 설명했다. 사람과 드론이 함께 전투를 수행하는 유·무인복합전투체계에서 조종사에게 필요한 능력도 달라질 수밖에 없다. 류 대표는 “조종 자체는 점점 자율비행 기술로 대체되고 직접 전투도 드론이 수행하는 대신에 조종사는 드론이 보내는 방대한 정보를 바탕으로 상황을 판단하고 드론에 명령을 내리고 관리하는 ‘오퍼레이터’ 역할로 바뀌게 된다”고 말했다. 그는 “한국에는 스타크래프트를 비롯해 인터넷 전략게임을 잘하는 젊은이들이 많다”면서 “그들이 미래전을 위한 핵심 인재 후보”라고 덧붙였다. 류 대표가 예상하는 또 다른 변수는 3D프린터다. 그는 “3D프린터로 문서를 출력하듯이 드론을 대량 제작하거나 필요한 부품을 조달해 전투에 투입하는 것도 가능해진다”며 “몇 년 안에 해군 전함마다 드론 제작용 3D프린터를 갖추고, 3D프린터로 드론을 뽑아내는 지원부대도 창설될 것”이라고 했다. AI 중심 시대에 인간의 역할은 어디서 찾아야 할까. 류 대표는 “작전 설정 하나라도 잘못하면 아군과 민간인에게 치명적인 결과를 초래할 수 있다. AI 기술이 발달할수록 그것을 통제하는 사람의 역할이 더 중요해진다”고 강조했다. 그런 면에서 류 대표는 군 교육 변화도 촉구했다. 류 대표는 “전투현장에는 예상할 수 없는 변수가 너무 많고 드론 등 각종 정찰자산이 전송하는 정보량도 어마어마하다. 역설적으로 무인기술이 발달할수록 전략적 판단능력을 갖춘 지휘관의 중요성이 더 높아진다”고 지적했다. 그는 “군대를 상징하는 상명하복과 정신력, 체력은 로봇과 드론, 영화 ‘아이언맨’과 유사한 강화수트가 상용화되면서 설 자리를 잃게 된다”면서 “창의적으로 판단하고 전략적으로 행동하는 군대, 현장 지휘관들의 신속한 판단과 자율성을 존중하는 조직문화를 갖춘 군대만에 전쟁에서 승리할 수 있다”고 꼬집었다.

영화 ‘어벤져스: 에이지 오브 울트론’에는 인공지능(AI) 자비스에 바탕을 둔 ‘비전’에 관한 이야기가 나온다. 강력한 힘을 가진 이 새로운 존재가 아군인지, 적군인지, 더 나아가 통제가 가능할지 등을 놓고 고민한다. 다행히 영화 속 비전은 아군으로 활약했다. 하지만 많은 이가 전장의 AI로 비전보다는 영화 ‘터미네이터’에서 인류를 말살하려는 ‘스카이넷’을 떠올린다. #AI 활용 ‘군사 경쟁’ 가속표적 찾아 자폭·적 얼굴 인식딥페이크로 가짜 뉴스 제작 영화나 드라마에 나올 법한 존재로 여겨졌던 AI는 2022년 우크라이나·러시아 전쟁을 계기로 전쟁 양상을 완전히 바꿀 수 있는 존재로 다가왔다. 표적을 찾아 자폭하는 드론뿐 아니라 적군 병사를 인식하는 안면인식 기술부터 머신러닝을 활용한 군수 지원까지 몇 년 전만 해도 상상조차 할 수 없었던 각종 AI 기술이 현실화하고 있다. 무기 체계에만 AI를 활용하는 건 아니다. 전쟁 초기 소셜미디어(SNS)에서 볼로디미르 젤렌스키 우크라이나 대통령이 항복 성명을 발표하는 ‘딥페이크’(AI 기반 이미지 합성기술) 영상이 유포된 적이 있다. 같은 시기 블라디미르 푸틴 러시아 대통령이 평화를 선언하는 영상도 퍼져 나갔다. 지난해 이스라엘·하마스 전쟁 역시 AI가 전장을 어떻게 바꿀 수 있는지 보여 주는 사례로 꼽힌다. 이스라엘군은 드론 영상, 감청 자료, 감시 데이터, 움직임·행동 양상 데이터를 학습한 AI가 표적을 실시간으로 분석하고 선별하는 의사결정지원 시스템을 사용하고 있다. AI 기술이 지휘통제, 기동, 화력, 정보, 방호, 군수 등 전투 수행에 필요한 모든 영역에서 필수 불가결한 요소로 자리잡으면서 AI를 둘러싼 각국의 군사 경쟁도 거세지고 있다. #美 ‘CDAO’ 미래전 대비지휘통제에 AI 활용 계획로봇 전투차량·참모 개발 예컨대 미국 국방부는 2018년 합동인공지능센터(JAIC)를 창설했으며, 2022년 국방부 전체의 AI와 데이터 분석 등을 총괄하는 최고디지털인공지능국(CDAO)을 신설해 JAIC를 산하 조직으로 통합했다. 2022년 AI가 의사결정에 도움을 주는 합동전영역지휘통제(JADC2) 계획을 발표하고 기능별 하부 시스템을 마련하고 있다. 미 해군은 무인 자율주행 전함, 드론과 무인 수상함, 무인 잠수정이 임무를 수행하는 유·무인복합체계를 만들고 있고, 미 육군은 전투에 가장 적합한 경로를 직접 선택해 임무를 수행하는 로봇 무인 전투차량뿐 아니라 소부대용 AI 전투참모도 개발하고 있다. #한국도 국방혁신4.0 잰걸음지뢰탐지시스템 개발 완료연내 국방AI센터 창설 예고 우리 정부 역시 발걸음이 빨라지고 있다. 국방부는 2021년 인공지능추진전략을 수립한 데 이어 지난해 3월 발표한 국방혁신 4.0 기본계획을 통해 AI 기반 유·무인복합전투체계 등을 확보하고 올해 국방AI센터를 창설한다는 계획을 내놨다. 육군 관계자는 “최근 AI 융합 지뢰탐지시스템 개발을 완료했다. 올해부터 민간에서 보유한 다양한 AI 기술을 미래 지상전투체계인 ‘아미 타이거’에 시범 적용할 계획”이라면서 “앞으로 AI 기반 초연결 전투체계를 개발하는 것을 목표로 하고 있다”고 밝혔다. 조상근 카이스트 국가미래전략기술정책연구소 연구교수는 “군사 행동에서의 핵심은 감시, 결심, 대응이다. AI 기술이 이 세 가지를 하나로 결합하고 시간도 단축하고 있다”면서 “먼저 보고, 먼저 결심하고, 먼저 타격할 수 있다. 최종 선택을 할 시간을 단축해 준다”고 설명했다. 정홍용 예비역 육군 중장은 “AI를 적용하려면 충분한 데이터가 필요하지만 현재 국방 분야 데이터는 대부분 보안으로 묶여 있어 데이터 확보 자체가 어렵다”면서 “공개 자료에 기반한 텍스트, 동영상 등의 군사 자료에 대해 가공 과정을 거쳐 가상 데이터를 만든 뒤 민간 개발자들에게 제공함으로써 AI 개발 과정에서 충분히 활용할 수 있도록 지원해야 한다”고 제안했다. AI 기술 발전과 더불어 판단 오류로 인한 민간인 피해가 심각할 수 있다는 우려도 커지고 있다. 이스라엘군은 최첨단 AI 기술로 적군과 민간인을 구별할 수 있다고 했으나 가자지구 민간인 사상자는 1만명을 훌쩍 넘어섰다. AI가 전쟁에 개입하면서 책임 소재 논란이 불거지는 만큼 교전 윤리를 새롭게 만들어야 한다는 지적도 나온다. 안토니우 구테흐스 유엔 사무총장은 지난해 6월 기자회견에서 핵 감시 기구인 국제원자력기구(IAEA)처럼 AI를 감시하고 규제할 유엔 산하 기구를 구상하고 있다고 밝힌 바 있다.

생성형 인공지능(AI)으로 만든 허위조작정보가 미 대선을 비롯해 전 세계 40여개국에서 진행하는 선거를 망칠 수 있다는 우려가 커지자 챗GPT 제작사 오픈AI가 선거 관련 콘텐츠의 정보 출처와 조작 여부를 알 수 있는 시스템을 만드는 등 자율규제책을 발표했다. 오픈AI는 15일(현지시간) 자사 홈페이지에 “올해 세계 각국에서 치러지는 민주주의 선거의 공정성을 지키기 위해 민주적 절차의 모든 부분에서 협력이 필요하다”며 AI 챗봇 챗GPT와 이미지 생성 AI ‘달리’(Dall-E) 관련 선거 공정성 세이프가드 방안을 발표했다. 구체적으로는 챗GPT를 통해 사람들이 선거 캠페인이나 로비 활동을 위한 애플리케이션(앱)을 만드는 것과 임의의 개발자가 선거에 나선 특정 인물이나 중앙정부 또는 지방정부인 것처럼 가장하는 챗봇을 만드는 것을 금지했다. 또 투표소 위치 등을 잘못 알려 주거나 ‘민주주의에서 투표가 무의미하다’고 주장하는 등 민주주의 시민의 참정권 행사를 방해하는 앱 제작을 금지했다. 오픈AI는 “챗GPT는 언론사 뉴스 등 기존의 정보 소스들과 점점 더 통합되고 있다”면서 “전 세계 언론의 실시간 선거 관련 속보 기사를 볼 수 있도록 연결해 생성형 AI를 이용하는 사람들이 정보의 출처와 취재원을 투명하게 쉽게 찾아볼 수 있도록 하겠다”고 밝혔다. 미 대선과 관련해서는 초당파적 단체인 미 국무장관협회(NASS)와 협력해 유권자들이 챗GPT에 투표소 위치 등 선거 관련 특정 질문을 하면 주 선거관리위원회가 정보를 제공하는 공식 웹사이트(CanIVote.org)로 안내한다. 이를 통해 정확한 선거 관련 정보를 안내하는 프로토콜을 구축해 세계 각국의 선거 관련 정보를 준다. 또 후보 관련 사실과 거짓이 뒤섞인 정보, 딥러닝을 이용한 합성기술인 딥페이크 영상 유포를 막기 위해 생성형 AI가 만든 콘텐츠의 출처와 세부 정보를 암호화해 인코딩하는 디지털 자격 증명 체계도 마련한다. 앞서 구글도 자사 챗봇 ‘바드’가 대답을 내놓는 선거 관련 질문을 후보자, 투표 방법, 장소 등으로 제한하는 조처를 했다. 이 내용도 별도 외부 기관을 통해 검증된 정보만으로 구성했다. 선거 관련 정보는 출처를 반드시 제시하고, AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 AI가 사용됐다는 것을 눈에 띄게 표시하도록 했다.

집단학살 혐의로 국제사법재판소(ICJ)에 제소된 이스라엘이 심리를 하루 앞두고 지난해 10월 7일 팔레스타인 무장정파 하마스의 이스라엘 기습공격 당시 끔찍하게 살해당한 이스라엘인들의 모습을 게시한 웹사이트를 열었다. 10일(현지시간) 타임스오브이스라엘(TOI) 등에 따르면 이스라엘 총리실 산하 국가공공외교부(NPDD)는 이날 ‘2023년 10월 7일 하마스 학살 : 반인도 범죄’(Oct. 7, 2023, Hamas Massacre: Documentation of Crimes Against Humanity)라는 제목의 웹사이트를 개설했다.이스라엘군(IDF) 대변인실과 함께 제작한 이 웹사이트에는 지난해 10월 7일 분리 장벽을 넘어온 하마스 대원 약 3000명이 이스라엘 남부에서 민간인과 군인을 끔찍하게 학살한 사진과 영상 자료가 게시됐다. 당시 하마스의 공격으로 이스라엘인 1200여명이 살해됐으며 240여명은 가자지구로 끌려갔다. 납치된 이 중 132명은 아직 돌아오지 못했다. NPDD 책임자 모셰 아비브는 “전 세계 사람들이 우리가 경험한 끔찍한 학살에 대해 무관심한 상태에 머물지 않도록 지속해서 노력할 것”이라면서 “내일 우리는 헤이그 세계법정에 서게 되는데 이 웹사이트는 이스라엘이 피해자임을 세상에 각인시키는 도구가 될 것”이라고 말했다. 하마스 기습공격의 잔혹성을 국제사회에 알리기 위해 제작된 이 웹사이트는 피해자와 인질 가족 등을 고려해 이스라엘에서는 접속할 수 없다. IDF는 이스라엘 주민들의 접근을 제한하기로 한 결정에 대해 “사이트는 하마스 범죄에 대한 광범위한 문서를 담고 있다. 우리는 비판적인 언론들을 포함한 기사들에서 해당 웹사이트의 링크를 공유하도록 스마트 기술 도구를 사용했다”고 말했다. 또 “우리는 세계에 다가가고 싶다. 시간이 얼마 남지 않았기에 우리는 세계가 10월 7일의 (학살) 공포를 잊지 않도록 영향력이 큰 수단을 찾아야 했다”며 “목표는 우리가 왜 전쟁을 할 수밖에 없었는지를 세계가 잊지 않도록 하는 것”이라고 설명했다. 그러면서 “영상을 작업한 사람들을 포함한 프로그래머들과 영상 제작자들이 이번 대의에 기여했다”고 덧붙였다. 앞서 남아프리카공화국은 하마스의 근거지인 팔레스타인 가자지구에서 이스라엘이 벌인 행위가 ‘집단학살’에 해당한다면서 “팔레스타인 국가, 집단의 본질적 부분을 파괴하려는 의도가 있다”며 이스라엘을 ICJ에 제소했다. 이 사건에 대한 심리는 11∼12일 네덜란드 헤이그에서 열린다.

제22대 국회의원 선거를 90여일 앞둔 10일 경기 수원시 경기도선거관리위원회에서 직원들이 흑색선전, 비방, 허위 사실 공표 등 사이버 선거범죄를 근절하기 위한 홍보 퍼포먼스를 하고 있다. 선거법 개정에 따라 선거운동을 위해 인공지능(AI) 기반 딥페이크 영상을 제작·편집·유포·상영·게시하는 것이 금지된다. 뉴스1

현대자동차와 기아가 세계 최대 가전·정보기술(IT) 전시회 CES 2024 개막 하루 전인 8일(현지시간) 미국 라스베이거스 만달레이베이 컨벤션센터에서 프레스 콘퍼런스를 열고 ‘인간의 삶을 편안하게 만드는 혁신’이라는 청사진을 그렸다. 현대차는 수소와 소프트웨어(SW), 기아는 목적기반모빌리티(PBV)를 각각 앞세워 그룹 비전을 달성한다는 포부다. 이날 ‘수소와 소프트웨어로의 대전환 : 이즈 에브리 웨이’(Ease every way)를 주제로 한 현대차의 프레스 콘퍼런스가 열린 사우스퍼시픽 볼룸 주변은 행사 시작 약 30분 전부터 입장을 기다리는 참관객들로 붐볐다. 베이지색 가죽 재킷과 아이보리색 면바지, 운동화를 착용한 정의선 현대차그룹 회장은 맨 앞자리에서 행사를 참관했다. 현대차는 수소를 연료로 하는 자동차 생산자에 그치지 않고 수소 에너지를 직접 생산·저장·운반·활용하는 가치체계(밸류체인)를 구축해 에너지 분야로까지 사업 영역을 확장해 나간다는 전략을 공개했다. 정 회장은 콘퍼런스 직후 취재진과 만나 “수소는 저희 세대가 아닌 후대를 위해서 준비해 놓는 게 맞다고 생각한다”고 소신을 밝혔다. 사회자 시니드 보벨의 소개로 무대에 오른 호세 무뇨스 글로벌 최고운영책임자(COO), 장재훈 사장, 김창환 수소연료전지 개발센터장은 기존 연료전지 브랜드인 ‘HTWO’를 그룹의 수소 밸류체인 사업 브랜드로 확장하고, 수소의 전 생애 주기를 설계하는 ‘HTWO 그리드(Grid) 솔루션’을 제공하겠다고 발표했다.구체적으로 메가와트(㎿)급 양성자 교환막(PEM) 수전해를 수년 내 양산, 그린수소(재생 에너지로 생산된 전기로 물을 분해해 얻는 수소)를 생산할 방침이다. 음식물 쓰레기, 폐플라스틱 등 폐기물로 수소를 만드는 자원 순환형 생산기술도 개발한다. 서울 광진구에 시범운영 중인 이동형 수소 충전소를 연내 제주도 등으로 확대하는 방안도 검토한다. 연간 수소 소비량은 지난해 1만 3000t에서 2035년까지 300만t으로 늘릴 계획이다. 수소전기차 ‘넥쏘’의 후속 모델도 내년 출시한다. 소프트웨어 대전환을 위한 중장기 전략 ‘SDx’도 공개됐다. SDx는 모든 이동 솔루션과 서비스가 자동화·자율화하고 끊임없이 연결되는 것을 의미한다는 설명이다. 하드웨어를 제작하고 여기에 맞는 소프트웨어를 개발하던 기존 방식에서 벗어나 하드웨어와 소프트웨어를 분리해 각각 개발과 업데이트할 수 있는 연구개발 체계를 개편한다. 송창현 현대차 SDV 본부장(포티투닷 대표)은 “소비자들은 자동차도 스마트폰처럼 쓸 수 있기를 원한다”며 “직관적인 사용자 경험(UX)은 물론 지속적으로 업데이트되고 새 기능이 추가되거나 기존 오류가 개선되는 등 스마트폰과 동일한 경험을 제공하기 위해서는 소프트웨어가 선행돼야 한다”고 강조했다. 외부 개발자들이 참여해 킬러 애플리케이션을 개발하는 ‘소프트웨어 개발키트’를 만들고, 자체 개발한 대형언어모델(LLM) 기반 음성어시스턴트와 인공지능(AI) 내비게이션도 적용할 계획이다. 2시간 뒤 인근 아일란더 볼룸에서 ‘준비된 기아가 보여줄, 모두를 위한 모빌리티’를 주제로 프레스 콘퍼런스를 진행한 기아도 PBV를 전통적 자동차의 개념을 뛰어넘는 ‘차량 그 이상의 플랫폼’으로 새롭게 정의하며 회사의 미래 먹거리로 제시했다. 기아의 CES 참가는 2019년 이후 5년 만이다. 이날 송호성 사장과 카림 하비브 글로벌디자인 담당 부사장, 피에르 마르텡 PBV 비즈니스 사업부장은 차례로 무대에 올라 내년에 첫 번째 중형 PBV인 ‘PV5’를 출시하겠다는 계획을 밝혔다. 또 이를 바탕으로 대형·소형으로 구성된 PBV 라인업을 구축해 궁극적으로 ‘완전한 맞춤화’(비스포크) 제작까지 이어지는 단계별 로드맵을 공개했다. 발표 도중 소개 영상에 뒤이어 실물 PV5 콘셉트카가 무대에 모습을 드러내자 청중 사이에서는 탄성이 터져나오기도 했다. 송 사장은 “경상용차량(LCV)시장의 전동화를 선도할 기회라고 판단했다”면서 “현재 LCV시장 규모가 2030년 판매 대수 350만대 정도로 예상 되는데, 이 중 30만대를 PBV로 점유하는 것이 목표”라고 설명했다. 기아의 PBV 라인업은 스케이트보드 기반의 전용 전기차 플랫폼 위에 고객 요구에 맞는 모듈인 ‘어퍼보디’를 체결하는 형태다. 예컨대 휠체어를 접지 않고 그대로 차에 탑승시킬 수 있도록 휠체어 전용석을 갖춘 차량이나, 배달 등에 활용할 수 있도록 뒷좌석을 짐칸으로 대체한 차량 등을 구현할 수 있다. 기아는 라인업의 기본이 되는 PV5에 목적에 따라 라이프 모듈을 교체하는 컨버전 기능을 탑재하고, 대형(PV7)과 소형(PV1) 모델을 추가해 물류 회사나 모빌리티 기업, 개인 사용자로 영역을 확대한다는 방침이다. 2028년을 목표로 그룹의 자율주행 합작법인 모셔널과 함께 레벨4 수준의 PBV 로보택시도 개발한다. 이 밖에도 우버, 쿠팡, CJ대한통운, 카카오모빌리티 등과 파트너십을 맺어 사업 영역을 넓힌다는 계획이다.

2023년 3월 도널드 트럼프 전 미국 대통령이 뉴욕 맨해튼에서 자신을 체포하려는 경찰과 싸우는 사진이 소셜미디어(SNS)에 광범위하게 유포됐다. 한 달쯤 지나 미 공화당 전국위원회는 조 바이든 대통령이 재선될 경우 일어날 수 있는 다양한 상상 속 재난의 모습을 보여 주는 광고를 공개했다. 지난해 11월에는 일본 SNS에 기시다 후미오 총리가 성적인 발언을 하는 영상이 유포돼 논란을 불렀다. 여름에 유튜브에 올라온 것인데 X(옛 트위터)를 타고 하루 만에 조회수 230만회를 훌쩍 넘겼다. 모두 인공지능(AI) 딥러닝을 기반으로 한 합성 기술인 딥페이크로 만든 영상과 이미지였다.문제는 세상에 없는 인물과 이미지를 만들어 내는 딥페이크가 더 방대한 정보가 투입되는 딥러닝을 통해 더 정교해지고 실존에 가까워진다는 점이다. 말하는 모양의 동영상을 만들고 실제 동영상에 입술 움직임만 바꿔 넣는 딥페이크 기술로 생성한 동영상을 X나 유튜브에 올리기만 하면 삽시간에 전 세계로 퍼져 나간다. 팩트체크를 통해 가짜뉴스로 판명되더라도 이미 누군가에게는 사실로 인식되고 있을 터. 이렇게 가짜뉴스를 퍼뜨리기 좋은 상황은 극단적인 정치 분열이 있을 때나 전쟁 상황에서 더 큰 효과를 발휘한다. 우크라이나·러시아 전쟁 초반인 2022년 3월 페이스북과 유튜브 등에 퍼진 볼로디미르 젤렌스키 우크라이나 대통령의 항복 영상이 단적인 예다. 직후 블라디미르 푸틴 러시아 대통령의 평화 선언 영상이 올라왔다. 둘 다 조작된 영상으로 밝혀지면서 메타와 유튜브 등 운영사는 원본 영상을 삭제했지만 여전히 흔적이 남아 있다.딥페이크를 이용한 가짜뉴스는 전 세계 주요 선거가 줄줄이 예정된 올해 특히 민주주의를 위태롭게 하는 요소로 꼽힌다. 미국 코넬대 세라 크렙스 교수와 더그 크리너 교수는 ‘AI는 어떻게 민주주의를 위협하는가’(민주주의 저널)라는 논문에서 한 실험 결과를 내놨다. 이들은 미국 주의원 7000여명에게 AI가 쓴 편지와 사람이 작성한 편지를 동시에 보냈는데, 사람이 직접 작성한 이메일의 응답률은 AI가 쓴 이메일보다 2% 정도 높은 수준에 불과했다. 이들은 “사람이 만든 진짜 정보와 AI가 생성한 가짜 정보를 구별할 수 없는 상황”이라면서 “허위조작정보를 받아들였다고 해서 유권자들의 선택이 반드시 바뀌는 건 아니지만 민주주의 사회 내 구성원들 간 신뢰를 저해하고 공론장을 왜곡할 수 있다”고 지적했다. 3개월 전 치러진 아르헨티나 대선에서는 상대 후보를 비방하려고 만든 홍보물에 생성형 AI가 마구잡이로 악용됐다. 당시 집권 좌파연합의 대선후보였던 세르히오 마사 경제장관은 극우 경제학자 출신 하비에르 밀레이 당시 후보(현 대통령)가 “(장기 매매 시장이 활성화되면) 아이를 낳는 것이 곧 투자가 될 수 있다”고 말하는 딥페이크 영상을 제작해 유포했다. 밀레이 후보는 마사 후보를 구소련 정치 선전 포스터의 주인공으로 만들어 마사가 공산당 지도자처럼 보이게끔 했다. 두 사람이 만든 홍보물은 AI 창작물임을 명시했음에도 유권자들에게 부정적 인상을 심어 줬다. 미국은 올해 11월 5일 예정된 대선에서 생성형 AI가 훨씬 더 강력한 영향을 미칠 수 있다고 우려하고 있다. 과거의 조악한 합성 영상물과 달리 요즘의 생성형 AI가 만들어 내는 딥페이크는 실제 사람이 만든 것과 구별하기 어려울 정도로 정교하다. 지난해 5월 SNS에서 미 국방부 청사인 펜타곤 건물에서 대형 화재가 발생한 사진이 빠르게 확산하면서 주식시장까지 출렁이는 소동을 빚었다.사안의 심각성을 인식한 미국, 유럽 등 서구 민주주의 사회는 AI를 활용한 가짜뉴스를 규제하는 방법을 끊임없이 고민하고 있다. 유럽연합(EU)은 이미 수년 전부터 가짜뉴스라는 말 대신 허위정보, 잘못된 정보라는 표현을 쓰면서 미디어 역할을 차단해 왔다. 다음달부터는 ‘디지털 서비스법’을 시행해 가입국이 허위정보, 차별적 콘텐츠, 아동 학대, 테러 선전 등의 불법 유해 콘텐츠를 의무적으로 제거하도록 했다. 이를 지속적으로 위반하면 가입국에서 퇴출하는 등 강경하게 대응한다. 미국도 SNS 사업자를 규제하는 방안을 논의하는 중이다. 특히 대선을 앞둔 상황에서 극단주의와 인종차별 등 부정적인 콘텐츠가 유통되는 것을 차단하기 위해서다. 문제가 된 콘텐츠를 제작·배포하는 것뿐만 아니라 이를 확산시킬 수 있는 플랫폼을 제공한 SNS 사업자에게도 합당한 책임을 물어 콘텐츠 규제를 강화하고 있다. 포린폴리시(FP)는 최근 “올해가 AI의 안전한 개발과 사용을 위한 규제를 부과하는 정부 거버넌스 위기를 극복할 수 있을 분수령이 될 것”이라고 평가했다. 미 플로리다, 사우스캐롤라이나, 뉴햄프셔를 비롯한 여러 주에서 선거 캠페인 영상에 AI 사용을 규제하는 법안, 특히 딥페이크 기술을 이용해 후보자의 목소리와 얼굴을 악의적인 방식으로 합성하거나 조작하는 것을 규제하는 법안을 검토하고 있다. 미 싱크탱크인 ‘브레넌 정의센터’는 지난해 11월 발표한 보고서에서 “민주주의의 실험실이라 불리는 주의회에서 AI의 위협에 대처하는 방법에 대해 영감을 줄 수 있을 것”이라고 썼다. AI 연구 선도자이자 구글 딥마인드의 공동 창업자인 무스타파 술레이만은 새 저서 ‘다가오는 물결’에서 “AI를 통제하는 것은 거의 불가능하다”고 주장했다. 술레이만은 AI의 결함이 발생하는 이유를 정부가 파악해야 하고 AI가 폭주할 때 전원을 끌 수 있는 제동장치를 마련해야 한다고 썼다.이언 브레머 스탠퍼드대 교수는 지난해 포린어페어스 기고문에서 “AI는 기존 세계 권력의 구조를 뒤흔들고 어떤 경우에는 권력을 공고히 할 수 있다”면서 “민주주의 국가에서 개인정보를 동의 없이 무분별하게 수집해 상업적으로 활용하는 속도는 더 빨라지고, 권위주의 정부가 사상과 표현의 자유를 억압하는 도구로 악용될 수 있다”고 지적했다. 이어 “AI를 규제하지 않으면 국가는 민주주의를 유지하고 공공재를 제공해야 한다는 사회적 합의의 정당성을 잃는다”고 경고했다. AI가 제멋대로 만들어 낸 ‘환각 현상’과 허위조작정보의 위협에 맞서기 위해서는 전통적으로 민주주의 사회 공론장에서 ‘팩트체커’ 구실을 해 온 레거시미디어의 역할이 강조된다. 아서 설즈버거 뉴욕타임스 발행인은 컬럼비아저널리즘리뷰 기고문 ‘저널리즘의 본질적 가치’에서 “언론은 새롭게 취재한 사실을 다양한 방식으로 교차 검증하는 게이트키핑 시스템을 지키고, 공정과 이해충돌 방지 원칙을 준수했는지, 편견과 차별의 관점을 걸러 냈는지 프로세스를 거친다”면서 “잘못된 정보가 민주주의의 근간을 흔드는 이 시대에 언론이야말로 세상에 꼭 필요한 자양분”이라고 강조했다. 크렙스·크리너 교수의 강조점은 문해력 향상이다. 이들은 “안타깝게도 인터넷 세상은 거대한 확증편향 기계”라며 “객관적 사실을 포기하거나 뉴스에서 사실을 분별하는 능력을 포기하면 민주주의 사회가 기반해야 하는 신뢰가 무너질 수 있다”고 꼬집었다. 이어 제대로 걸러진 미디어를 통한 디지털 리터러시(지식과 정보를 이해하는 능력)의 필요성을 언급하며 “시민들이 다양한 언론 매체를 ‘신뢰하되 검증하는 방식’으로 콘텐츠의 진실성을 가리는 눈과 가짜뉴스를 맹신하지 않는 비판적 사고력을 길러야 한다”고 부연했다.

11일부터 의정보고회·출판기념회 금지공무원 입후보하려면 선거 90일전 사퇴해야 중앙선거관리위원회는 선거일 90일 전인 11일부터 의정보고회·출판기념회 등이 금지된다고 8일 밝혔다. 선관위는 29일부터 금지되는 딥페이크 영상을 이용한 선거운동 단속을 강화할 방침이다. 우선 지난해 말 개정된 공직선거법에 따라 선거운동을 위해 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없다. 다만 공포 후 1개월이 지난 이달 29일부터 금지된다. 선관위는 허위사실공표·비방특별대응팀을 확대 편성해 운영하고 있다. AI(인공지능) 감별반을 11일부터 편성해 운영하고, 시·도선관위는 AI모니터링 전담요원을 2~3명씩 확대한다. 국회의원과 지방의회 의원의 의정보고회도 금지된다. 다만 국회의원은 문자메시지, 카카오톡 등을 이용해 의정활동 내용을 상시 전송할 수 있고 자신의 인터넷 홈페이지 등에서 의정보고서를 상시 게시할 수 있다. 국회의원과 예비후보 등의 출판기념회도 금지된다. 다른 사람이 저술한 것이라도 후보자와 관련이 있는 저서의 출판기념회는 금지된다. 정당과 후보자 명의를 나타내는 광고도 금지된다. 누구든 정당 또는 후보자 명의를 나타내는 저술·연예·연극·영화·사진 그 밖의 물품을 공직선거법에 규정되지 않은 방법으로 광고할 수 없다. 후보자는 방송·신문·잡지 기타의 광고에 출연할 수 없다. 후보자가 되려는 사람이 대표로 있는 기업체는 선거와 무관하게 광고할 수 있다. 공무원이 입후보하려면 지역구 후보는 11일까지, 비례대표는 선거 30일 전인 3월 11일까지 직을 그만두어야 한다. 예비군 중대장급 이상의 간부·주민자치위원회위원 또는 통·리·반의 장 등이 선거사무장, 선거연락소장, 선거사무원, 예비후보자·후보자의 활동보조인, 회계책임자, 연설원, 대담·토론자, 투표참관인이나 사전투표참관인이 되려면 11일까지 직을 그만두어야 한다.