尹 “대한민국, 메타 AI의 훌륭한 플랫폼 될 수 있어”저커버그 “파운드리 거대 기업 삼성 협력 중요 포인트” 총선 앞 AI 활용 가짜뉴스·기만행위 모니터링 요청 윤석열 대통령은 29일 페이스북 모회사인 메타의 마크 저커버그 최고경영자(CEO)를 만나 “메타가 상상하고 설계한 것을 한국의 (관련) 산업이 적극적으로 지원할 준비가 되어 있다”며 한국 기업과의 협력을 당부했다.윤 대통령은 이날 저커버그 CEO와 용산 대통령실에서 30분간 인공지능(AI)과 디지털 생태계 조성 비전, 메타와 한국 기업의 협력 강화 방안 등을 논의하면서 이렇게 말했다고 성태윤 대통령실 정책실장이 브리핑에서 전했다. 이어 윤 대통령은 “대한민국이야말로 메타의 AI가 적용될 수 있는 훌륭한 플랫폼이 될 수 있다”고 강조했다. 윤 대통령은 “한·미 간 긴밀한 공급망 협력 체계가 구축된 만큼 필요하다면 정부 차원에서 양국 기업의 협력을 적극 지원하겠다”고 약속했다. 또 메타가 주력하는 메타버스 사업 분야 연구개발(R&D)과 인재 양성, 확장현실(XR) 헤드셋 분야 등에서 협력을 기대한다고 했다. 대통령실 고위 관계자에 따르면 저커버그 CEO는 이 자리에서 취약성이 높은, 휘발성이 높은 시기에 메타가 대만의 반도체 기업인 TSMC에 많은 부분을 의존하는 것에 대해 우려를 표했다. 그러면서 “삼성이 파운드리 거대 기업으로 글로벌 경제에서 매우 중요한 위치에 있다”며 “이러한 부분들이 삼성과 협력에 있어 중요한 포인트가 될 수 있다”고 말했다. 미중 반도체 전쟁과 양안관계 악화로 공급망 위기가 커지자, TSMC 의존도를 낮추고자 하는 의중을 드러냈다는 해석이 나온다. 윤 대통령은 이에 “삼성전자 AI 반도체와 시스템 반도체의 투자 생태계 조성을 위해 서울 인근에 이미 정부 지원이 이뤄지고 있다”고 화답했다. 이 고위 관계자는 윤 대통령의 발언에 대해 “현재 지정학적 상황과 메타 입장에서 TSMC에 많이 의존하는 걸 줄여 안정화하는 데 도움이 될 수 있다는 취지”라고 해석했다. 평소 AI 기술에 맞는 디지털 규범의 중요성을 주장해 온 윤 대통령은 저커버그 CEO에도 이와 관련된 조치를 촉구했다. 윤 대통령은 “올해는 전 세계 여러 국가에서 선거가 있는 만큼 메타와 같은 빅테크 플랫폼 기업들이 가짜뉴스와 각종 기만행위를 신속하게 모니터링하고 조치해달라”고 말했다. 저커버그 CEO는 “적극적으로 노력하고 있다”면서 “한국 선관위를 포함해 다른 나라 정부와 가짜정보가 유포되는 것을 제어하기 위한 협업이 광범위하게 이뤄질 수 있다”고 답했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

그제부터 인공지능(AI) 프로그램으로 만든 ‘딥페이크’ 영상 등을 선거운동에 이용하는 행위가 금지됐다. 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다. 지난해 12월 국회에서 공직선거법 개정안이 통과되면서 이뤄진 조치다. 하지만 이번 법 개정은 딥페이크 선거운동에 대한 처벌 근거를 마련한 것일 뿐이다. 빠르게 제작돼 사회관계망서비스(SNS)를 타고 삽시간에 퍼지는 딥페이크 콘텐츠의 특성상 광범위한 폐해를 막기엔 한계가 있다. 단속에 더해 조작된 정보는 만들지도 보지도 않겠다는 정치권과 유권자들의 자세가 필요한 이유다. AI 발달로 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 조 바이든 미국 대통령의 ‘선거 불참을 권하는’ 딥페이크 음성이 확산되는가 하면 영국과 나이지리아 등에서도 정치 관련 음성 조작 사례가 속출하고 있다. 정치인뿐만이 아니다. 미국의 팝가수 테일러 스위프트는 얼굴 사진이 합성된 딥페이크 음란 이미지가 SNS에 게시돼 수천만회 조회되면서 곤욕을 치렀다. 딥페이크 콘텐츠는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 중앙선관위는 검증요원과 AI 전문가들을 최대한 동원해 단속하겠다고 하지만 딥페이크 영상·이미지는 수분 만에 제작돼 실시간으로 확산되기 때문에 뒷북만 칠 가능성도 있다. 따라서 무엇보다 허위정보를 만들지 않겠다는 정치권의 책임 있는 자세가 필요하다. 지난 대선에서 가짜뉴스로 판명된 콘텐츠의 90%를 정치권이 생산했다는 조사 결과도 있다. 허위정보를 최대한 걸러 내겠다는 대형 포털의 책임 있는 자세, 조작된 정보는 보지도 퍼나르지도 않겠다는 유권자들의 노력이 뒷받침돼야 함은 물론이다.

지난해 공공기관을 대상으로 한 국제 해킹조직의 사이버 공격 시도가 하루 평균 162만여건으로 2022년(119만건)보다 36% 증가했다. 특히 북한과 중국 해킹조직에 의한 공격이 전체의 90%에 달한 것으로 파악됐다. 국가정보원은 24일 경기 성남시 국가사이버안보협력센터에서 기자간담회를 갖고 “북한의 공격 건수가 80%로 가장 많았고 중국은 5%였다”면서 “피해의 심각도를 반영하면 북한이 68%, 중국이 21%로 중국의 비중이 크다”고 밝혔다. 국정원 분석 결과 북한 해킹조직은 ‘김정은 지시’에 따라 빠르게, 중국 해킹조직은 천천히 깊숙이 공격하는 특징을 보였다. 지난해 초 김정은 북한 국무위원장이 식량난 해결을 지시하자 해커들은 국내 농수산기관 3곳을 공격해 식량연구자료를 빼갔다. 지난해 8~9월 김 위원장의 해군력 강화 지시 이후엔 국내 조선업체 4곳을 해킹해 도면과 설계자료를, 10월 무인기 생산 강화를 지시하자 국내외 업체에서 무인기 엔진 자료를 각각 수집했다. 김 위원장의 관심과 지시에 따라 빠르게 목표물을 바꿔 움직인 것이다. 국정원은 또 북한이 2020년부터 지난해까지 4년간 한국을 포함해 최소 25개국의 방산 분야를 해킹했다고 밝혔다. 해킹 시도 분야는 항공(25%), 전차(17%), 위성(16%), 함정(11%) 순이었다. 특히 북한은 우방국인 러시아 방산업체를 여러 차례 해킹했다. 북한이 개발한 전차와 지대공 미사일은 해킹으로 빼낸 설계도면 등을 활용해 러시아산과 매우 유사한 것으로 국정원은 보고 있다. 중국은 천천히, 은밀하게 침투해 생존력을 높였다. 일부 해커는 한 국내업체의 서버를 해킹하고 공개 소프트웨어(SW)로 위장한 악성코드를 숨겨놨다가 수년에 걸쳐 여러 고객사를 해킹했다. 중국인으로 추정되는 해커가 국내 기관이 사용하는 위성통신 신호를 수집·분석한 뒤 정상 장비인 것처럼 위장해 지상의 위성망 관리시스템에 무단으로 접속하고 최초로 정부 행정망을 침투하려다 적발되기도 했다. 중국 언론홍보 업체들이 국내 언론사로 위장한 사이트 200여개를 열어 친중·반미 성향 콘텐츠를 올린 뒤 소셜미디어(SNS) 인플루언서를 통해 확산시킨 정황도 확인됐다. 국정원은 특히 ‘슈퍼 선거의 해’인 올해 북한이 선거 개입과 정부 불신 조장을 위한 가짜뉴스 유포나 선거시스템 해킹 공격 가능성이 크다고 전망했다. 백종욱 국정원 3차장은 “남북관계가 경색되고 대남 비난 강도가 높을 때 사이버 공격이 잇따라 발생했다”고 말했다. 국정원은 관계기관과 협력을 통해 선거철 ‘정부 흔들기’를 위한 공격에 대응하고 전문 연구소 설립 등을 통해 AI 활용 해킹 등에 대한 대응할 계획이다. 지난해 7~9월 투·개표 관리 시스템의 해킹 취약점이 다수 발견된 것과 관련, 전날 선거관리위원회의 합동 보안점검 후속 보안 조치의 적절성 여부 확인에 들어갔다. 또 북한 해킹그룹의 대법원 전산망 해킹 피해 범위와 공격 주체 등을 파악하기 위해 지난 22일부터 법원행정처와 현장 조사를 진행하고 있다. 백 차장은 “정부 전산망 장애 발생 시 해킹 가능성을 배제하지 않고 사고 초기부터 적극 관여해 대응할 것”이라고 강조했다.

11월 미국 대선을 앞두고 인공지능(AI) 기술이 선거에 미치는 영향에 대한 우려가 커지는 가운데 실제로 미 경선에서 이를 악용한 사례가 접수됐다. 23일(한국시간) 뉴욕타임스와 NBC 등 외신에 따르면 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 상황에서 민주당 당원에게 ‘투표하지 말라’는 조 바이든 미국 대통령의 목소리가 담긴 전화가 걸려왔다. 뉴햄프셔 법무장관실에 따르면 가짜 녹음에는 “당신의 투표는 11월이 중요하다. 이번 화요일은 그렇지 않다”라는 내용이 담겼다. 이어 법무장관실은 “뉴햄프셔 대통령 예비선거를 방해하고 유권자들을 억압하려는 불법 시도로 보인다”며 “유권자들은 이 내용을 완전히 무시해야 한다”라고 밝혔다. 이처럼 AI 기술이 빠르게 발전하면서 이를 기반으로 한 가짜뉴스도 기승을 부리고 있다. 지난해 공화당은 바이든 대통령이 대선 출마를 발표했을 때 세상의 종말 시나리오를 담은 비디오를 생성하는 데 이 기술을 사용하기도 했다. 도널드 트럼프 전 대통령 역시 미 경찰에게 체포당하는 가짜 이미지가 공개된 바 있다.“백인 AI이미지, 실제보다 더 현실적이라 느껴” AI로 생성된 사람 얼굴 사진이 실제 사람을 찍은 사진보다 더 진짜처럼 보이는 현상도 나타나고 있다. 최근 AI 이미지에 대한 여러 연구 결과에 따르면 AI 얼굴 사진과 실제 사람 얼굴 사진을 구분하도록 하는 실험 결과 AI 백인 얼굴 사진이 실제 사람보다 더 현실적인 것으로 인식되는 ‘극사실주의’(하이퍼 리얼리즘) 현상이 확인됐다. 실제로 최근 미국 일간 뉴욕타임스(NYT)가 기사에서 제시한 AI 백인 얼굴 사진 5장 중 4장은 연구 결과 실험 참가자의 89∼93%가 진짜 사진으로 착각한 것으로 나타났다. 이미지 생성 AI가 학습한 수만 장에 이르는 실제 인간 얼굴 사진의 대부분이 백인 얼굴이어서 백인 얼굴은 현실보다 더 현실적으로 나온다는 것이다. 그간 AI 사진은 양쪽 귀 모양이 다르다거나 하는 AI임을 숨길 수 없는 흔적이 통상적으로 있었다. 하지만 AI의 발전됨에 따라 AI 사진 속 얼굴의 모든 부분이 실제 사람의 평균적인 비율에 매우 가까워져서 실험 참가자가 AI인지 의심하지 못할 정도가 됐다는 것이다. 오히려 실험 참가자들은 실제 사람 얼굴 사진에서 귀 모양이 남들과 다르다든가 코가 평균치보다 더 크다든가 하는 등 평균 비율과 어긋나는 부분을 보고 AI 사진으로 착각하는 것으로 보인다고 NYT는 전했다.이처럼 AI 사진이 실제 사람보다 더 진짜 사람처럼 보일 수 있다는 점에 전문가들은 깜짝 놀라고 있다. 호주국립대(ANU)의 에이미 다웰 교수는 이런 AI 사진이 가짜 메시지의 온라인 확산을 도울 수 있다고 우려했다. 다웰 교수는 “과도한 수준의 이런 자신감을 보고 놀랐다”며 “이는 인터넷에서 우리를 가짜 정보에 더 취약하게 만드는 사고방식을 암시한다”고 설명했다.

인터넷이 이렇게 빨리 보급되고 스마트폰이 우리 생활을 순식간에 잠식할지는 몰랐을 터다. 전화에 모뎀을 연결해 글자로 상대방과 이야기를 나누던 게 엊그제 같은데, 지금은 스마트폰으로 영상 대화를 한다. 페이스북과 같은 소셜미디어(SNS)도 이런 사례다. 2004년 2월 서비스를 시작한 뒤 사용자 수 100만명을 넘는 데 걸린 시간은 불과 15개월이었다. 디지털 기술은 그 어느 때보다 빠르게 확산하며, 확산 속도는 계속해서 더 빨라지고 있다. 그러나 문제는 기술 발전 속도에 비해 사회제도 변화가 이를 따라가지 못한다는 데 있다. 저자는 이를 가리켜 ‘기하급수적 격차’로 명명한다. 책은 기하급수적 격차가 커지는 사회에서 기업이나 노동, 세계, 분쟁, 시민 등 여러 부문에서 변화가 어떻게 일어나는지 살핀다. 예컨대 지금 기술 가운데 가장 눈에 띄는 기술을 들라면 누구나 ‘인공지능’(AI)을 꼽을 것이다. 2022년 11월 나온 생성형 AI 챗GPT는 단 1년 만에 주간 이용자 수 1억명을 돌파했다. 성능이 워낙 탁월해 인간을 대체하고 사람들이 일자리를 잃을 것이라는 말도 공공연하다.그러나 저자는 AI와 기업의 자동화, 로봇화가 노동시장의 미래를 혁신적으로 바꿀 것이며, 특히 어떻게 대응하느냐에 따라 운명이 달라진다고 강조한다. AI나 로봇 때문에 노동자들이 일자리를 잃는 경우가 있을 수 있지만, 반대로 관련 일자리가 더 늘어날 수도 있다고 반박한다. 특히 노동자가 몸담은 기업이 변화에 적응하는 데 실패했을 때 이런 문제가 더 두드러진다고 강조한다. 반대로 더 생산적이고 공격적이고 혁신적이고, 더 빨리 성장하는 기업은 이른바 ‘슈퍼스타 기업’이 된다. 비디오 임대 서비스 업체인 ‘블록버스터’의 몰락과 ‘넷플릭스’의 성공이 이런 사례다. 블록버스터는 비디오 대여 시장을 지배할 당시 9000개의 매장을 갖고 있었지만, 넷플릭스의 회원제와 월정액 서비스, 온라인 스트리밍 제공 등을 따라잡지 못해 폐업해야 했다. 기술 혁신을 눈여겨보고 이에 맞춰 대응한다면 발전할 수 있지만, 경영진이나 주주들이 새로운 기술에 따른 변화를 따라잡지 못했을 때는 몰락할 수밖에 없다는 의미다.저자는 기하급수적 격차가 커질수록 전 세계 국경은 더 견고해질 것으로 내다봤다. 코로나19 대공황이 불러온 세계 공급망 위기에서도 경험했듯, 지리적 요소가 점점 더 중요해진다는 의미다. 분쟁이 더 커질 가능성도 크다. SNS를 통한 가짜뉴스의 확산과 같은 사이버 공격, 드론을 이용한 폭탄 투하 작전, 개인 정보 위협 등에 대비하려면 이에 맞설 기술을 적절히 활용해야 한다. 기술 혁신에 따른 여러 방면의 변화를 살핀 저자는 기하급수적 기술 변화에 발맞춰 적절한 제도를 마련한다면 기술은 결코 인간을 위협하지 않으리라고 거듭 강조한다. 단지 변화에 적응하지 못한 시스템만이 실패한다고 덧붙인다. 이에 따라 기술 진화가 가져오는 변화에 신속하게 적응하는 ‘유연성’, 끊임없는 변화에 대응할 수 있도록 견고한 시스템을 구축하는 ‘회복탄력성’, 국가와 기업, 개인의 협력을 도모하는 ‘공공성’을 극복 방안으로 제시한다. 발 빠른 기술에 한탄하기보다 좀더 적극적인 자세로 기술을 봐야 할 때라는 의미다.

생성형 인공지능(AI)으로 만든 허위조작정보가 미 대선을 비롯해 전 세계 40여개국에서 진행하는 선거를 망칠 수 있다는 우려가 커지자 챗GPT 제작사 오픈AI가 선거 관련 콘텐츠의 정보 출처와 조작 여부를 알 수 있는 시스템을 만드는 등 자율규제책을 발표했다. 오픈AI는 15일(현지시간) 자사 홈페이지에 “올해 세계 각국에서 치러지는 민주주의 선거의 공정성을 지키기 위해 민주적 절차의 모든 부분에서 협력이 필요하다”며 AI 챗봇 챗GPT와 이미지 생성 AI ‘달리’(Dall-E) 관련 선거 공정성 세이프가드 방안을 발표했다. 구체적으로는 챗GPT를 통해 사람들이 선거 캠페인이나 로비 활동을 위한 애플리케이션(앱)을 만드는 것과 임의의 개발자가 선거에 나선 특정 인물이나 중앙정부 또는 지방정부인 것처럼 가장하는 챗봇을 만드는 것을 금지했다. 또 투표소 위치 등을 잘못 알려 주거나 ‘민주주의에서 투표가 무의미하다’고 주장하는 등 민주주의 시민의 참정권 행사를 방해하는 앱 제작을 금지했다. 오픈AI는 “챗GPT는 언론사 뉴스 등 기존의 정보 소스들과 점점 더 통합되고 있다”면서 “전 세계 언론의 실시간 선거 관련 속보 기사를 볼 수 있도록 연결해 생성형 AI를 이용하는 사람들이 정보의 출처와 취재원을 투명하게 쉽게 찾아볼 수 있도록 하겠다”고 밝혔다. 미 대선과 관련해서는 초당파적 단체인 미 국무장관협회(NASS)와 협력해 유권자들이 챗GPT에 투표소 위치 등 선거 관련 특정 질문을 하면 주 선거관리위원회가 정보를 제공하는 공식 웹사이트(CanIVote.org)로 안내한다. 이를 통해 정확한 선거 관련 정보를 안내하는 프로토콜을 구축해 세계 각국의 선거 관련 정보를 준다. 또 후보 관련 사실과 거짓이 뒤섞인 정보, 딥러닝을 이용한 합성기술인 딥페이크 영상 유포를 막기 위해 생성형 AI가 만든 콘텐츠의 출처와 세부 정보를 암호화해 인코딩하는 디지털 자격 증명 체계도 마련한다. 앞서 구글도 자사 챗봇 ‘바드’가 대답을 내놓는 선거 관련 질문을 후보자, 투표 방법, 장소 등으로 제한하는 조처를 했다. 이 내용도 별도 외부 기관을 통해 검증된 정보만으로 구성했다. 선거 관련 정보는 출처를 반드시 제시하고, AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 AI가 사용됐다는 것을 눈에 띄게 표시하도록 했다.

라이칭더 “홍콩처럼 만들려 해”中 업은 허우유이 겨냥 맹비난중도 커원저, 양측 싸잡아 비판미국, 비공식 대표단 파견 계획중국 측 “접촉 반대” 강력 반발 13일 실시되는 대만 대통령(총통) 선거는 올해 전 세계 수십개국에서 예정된 선거 중에서도 중요한 것으로 꼽힌다. 이날 드러나는 1900만 유권자의 표심은 대만 정당의 승리뿐만 아니라 외곽에서 대리전을 벌이고 있는 미국과 중국의 승패도 가르게 된다. 중국이 ‘전쟁이냐 평화냐’를 놓고 선택을 요구하고 있어 국제사회는 대만 대선을 두고 ‘국제 질서의 첫 시험대’라며 주목하고 있다. 이번 선거에는 친미 성향인 집권 민주진보당(민진당)의 라이칭더(65) 후보, 친중 성향인 제1야당 국민당의 허우유이(67) 후보, 중도 성향 대만민중당(민중당)의 커원저(65) 후보가 각축전을 벌이고 있다. 라이 후보는 중국을 등에 업은 허우 후보를 겨냥해 “대만을 홍콩처럼 만들려 한다”고 비난하면서 중국의 압박에 거부감을 느끼는 표심을 공략하고 있다. 여론조사 공표 금지 직전까지 라이 후보가 미세하게 앞선 상황이다. 라이 후보가 이겨 민진당이 집권하면 1996년 총통 직선제 시행 이후 처음으로 12년을 통치하게 된다. 중국은 민진당이 집권을 연장하면 오는 5월 20일 신임 총통 취임식 전 또는 장기적으로 2027년까지 군사훈련 등으로 무력도발을 할 수 있다는 위협을 공공연하게 하고 있다. 허우 후보는 이런 상황에서 ‘92공식’(1992년 하나의 중국을 인정하되 각자 명칭을 사용하기로 한 중국과 대만의 합의)을 지지하는 국민당을 선택하면 평화를 가져올 수 있다고 주장한다. 인민해방군 건군 100주년을 맞는 2027년은 시진핑 중국 국가주석이 4연임을 확립하는 해로 대만 통일은 역사적이고 필연적이라고 내세우는 중국이 대만해협에서 군사적 움직임에 나설 가능성이 매우 높다. 중도를 표방하는 커 후보는 “현 단계에서 양안(중국과 대만)은 통일도, 독립도 불가능하고 국민 10명 중 9명은 현상 유지에 찬성하는데 왜 그렇게 해결할 수 없는 문제에 많은 시간을 허비할 수 없다”며 양당을 싸잡아 비판했다. 하지만 양안 문제가 핵심 쟁점이 되면서 상승세를 타지 못하고 있다. 대선과 함께 치러지는 입법위원(국회의원) 선거에서는 국민당이 앞서는 것으로 파악된다. 블룸버그는 11일 “미국에 우호적인 민진당이 총통 선거에서 이기고 의회에서 통제력을 잃으면 4년간 주요 이슈를 놓고 힘겨운 싸움이 벌어질 것”이라고 내다봤다. 미국은 10일(현지시간) 대만에 대한 변함없는 지지를 확인하며 선거가 끝나면 비공식 대표단을 대만에 파견할 계획으로 알려져 논란을 낳았다. 미 행정부 고위당국자는 이날 전화 브리핑에서 “(대만의) 선거는 정상적이며 일상적인 민주주의 절차의 한 부분”이라며 “중국이 추가적인 군사적 압박이나 강압으로 대응한다면 중국은 ‘도발자’가 될 것”이라고 말했다. 주미 중국대사관은 즉각 성명을 내고 “대만은 중국의 양도 불가능한 일부”라며 “중국은 미국이 대만과 어떠한 형태라도 공식적으로 접촉하는 것을 반대한다”고 반발했다. 대만 문제에 대해서만은 양보나 타협은 없다고 강조하는 중국은 미국의 대만에 대한 무기 판매에 불만이 높다. 그러면서도 대만 주변 공역과 해역에 중국 인민해방군 소속 군용기와 군함을 파견하는 등 군사 압박과 동시에 경제 압박 조치도 이어 가고 있다. 중국 관영언론은 올 들어 대만산 12개 화학제품에 대한 관세 혜택을 중단한 데 이어 더 많은 대만제품에 대해 관세를 부과하는 것은 적법한 조치라고 주장했다. 경제 보복을 예고했던 중국은 11일 수줴팅 중국 상무부 대변인이 “‘하나의 중국’ 원칙의 위에서 양안은 경제·무역 협상을 진행할 수 있다”며 유화책을 제시했다. 한편 이번 선거에는 중국산 가짜뉴스와 허위정보가 범람하고 있어 대만이 민주주의를 지키는 파수꾼 역할도 하게 됐다는 평가가 나온다. AFP통신은 라이 후보의 러닝메이트인 샤오메이친 부총통 후보가 미국 시민권자라는 주장은 선거 캠페인 기간 가장 끈질기게 나오는 허위 정보라고 전했다. 대만 자유시보는 중국이 인공지능(AI)으로 만든 허위 정보 동영상을 분당 100회씩 유튜브, 인스타그램 등 소셜미디어(SNS)에 게시하는 방식으로 정보작전을 벌인다고 주장했다. 허위 정보 양산에 주로 사용되는 도구는 중국 회사 바이트댄스에서 만든 동영상 플랫폼 ‘틱톡’과 동영상 편집 도구인 ‘캡컷’이라고 지적했다.

2023년 3월 도널드 트럼프 전 미국 대통령이 뉴욕 맨해튼에서 자신을 체포하려는 경찰과 싸우는 사진이 소셜미디어(SNS)에 광범위하게 유포됐다. 한 달쯤 지나 미 공화당 전국위원회는 조 바이든 대통령이 재선될 경우 일어날 수 있는 다양한 상상 속 재난의 모습을 보여 주는 광고를 공개했다. 지난해 11월에는 일본 SNS에 기시다 후미오 총리가 성적인 발언을 하는 영상이 유포돼 논란을 불렀다. 여름에 유튜브에 올라온 것인데 X(옛 트위터)를 타고 하루 만에 조회수 230만회를 훌쩍 넘겼다. 모두 인공지능(AI) 딥러닝을 기반으로 한 합성 기술인 딥페이크로 만든 영상과 이미지였다.문제는 세상에 없는 인물과 이미지를 만들어 내는 딥페이크가 더 방대한 정보가 투입되는 딥러닝을 통해 더 정교해지고 실존에 가까워진다는 점이다. 말하는 모양의 동영상을 만들고 실제 동영상에 입술 움직임만 바꿔 넣는 딥페이크 기술로 생성한 동영상을 X나 유튜브에 올리기만 하면 삽시간에 전 세계로 퍼져 나간다. 팩트체크를 통해 가짜뉴스로 판명되더라도 이미 누군가에게는 사실로 인식되고 있을 터. 이렇게 가짜뉴스를 퍼뜨리기 좋은 상황은 극단적인 정치 분열이 있을 때나 전쟁 상황에서 더 큰 효과를 발휘한다. 우크라이나·러시아 전쟁 초반인 2022년 3월 페이스북과 유튜브 등에 퍼진 볼로디미르 젤렌스키 우크라이나 대통령의 항복 영상이 단적인 예다. 직후 블라디미르 푸틴 러시아 대통령의 평화 선언 영상이 올라왔다. 둘 다 조작된 영상으로 밝혀지면서 메타와 유튜브 등 운영사는 원본 영상을 삭제했지만 여전히 흔적이 남아 있다.딥페이크를 이용한 가짜뉴스는 전 세계 주요 선거가 줄줄이 예정된 올해 특히 민주주의를 위태롭게 하는 요소로 꼽힌다. 미국 코넬대 세라 크렙스 교수와 더그 크리너 교수는 ‘AI는 어떻게 민주주의를 위협하는가’(민주주의 저널)라는 논문에서 한 실험 결과를 내놨다. 이들은 미국 주의원 7000여명에게 AI가 쓴 편지와 사람이 작성한 편지를 동시에 보냈는데, 사람이 직접 작성한 이메일의 응답률은 AI가 쓴 이메일보다 2% 정도 높은 수준에 불과했다. 이들은 “사람이 만든 진짜 정보와 AI가 생성한 가짜 정보를 구별할 수 없는 상황”이라면서 “허위조작정보를 받아들였다고 해서 유권자들의 선택이 반드시 바뀌는 건 아니지만 민주주의 사회 내 구성원들 간 신뢰를 저해하고 공론장을 왜곡할 수 있다”고 지적했다. 3개월 전 치러진 아르헨티나 대선에서는 상대 후보를 비방하려고 만든 홍보물에 생성형 AI가 마구잡이로 악용됐다. 당시 집권 좌파연합의 대선후보였던 세르히오 마사 경제장관은 극우 경제학자 출신 하비에르 밀레이 당시 후보(현 대통령)가 “(장기 매매 시장이 활성화되면) 아이를 낳는 것이 곧 투자가 될 수 있다”고 말하는 딥페이크 영상을 제작해 유포했다. 밀레이 후보는 마사 후보를 구소련 정치 선전 포스터의 주인공으로 만들어 마사가 공산당 지도자처럼 보이게끔 했다. 두 사람이 만든 홍보물은 AI 창작물임을 명시했음에도 유권자들에게 부정적 인상을 심어 줬다. 미국은 올해 11월 5일 예정된 대선에서 생성형 AI가 훨씬 더 강력한 영향을 미칠 수 있다고 우려하고 있다. 과거의 조악한 합성 영상물과 달리 요즘의 생성형 AI가 만들어 내는 딥페이크는 실제 사람이 만든 것과 구별하기 어려울 정도로 정교하다. 지난해 5월 SNS에서 미 국방부 청사인 펜타곤 건물에서 대형 화재가 발생한 사진이 빠르게 확산하면서 주식시장까지 출렁이는 소동을 빚었다.사안의 심각성을 인식한 미국, 유럽 등 서구 민주주의 사회는 AI를 활용한 가짜뉴스를 규제하는 방법을 끊임없이 고민하고 있다. 유럽연합(EU)은 이미 수년 전부터 가짜뉴스라는 말 대신 허위정보, 잘못된 정보라는 표현을 쓰면서 미디어 역할을 차단해 왔다. 다음달부터는 ‘디지털 서비스법’을 시행해 가입국이 허위정보, 차별적 콘텐츠, 아동 학대, 테러 선전 등의 불법 유해 콘텐츠를 의무적으로 제거하도록 했다. 이를 지속적으로 위반하면 가입국에서 퇴출하는 등 강경하게 대응한다. 미국도 SNS 사업자를 규제하는 방안을 논의하는 중이다. 특히 대선을 앞둔 상황에서 극단주의와 인종차별 등 부정적인 콘텐츠가 유통되는 것을 차단하기 위해서다. 문제가 된 콘텐츠를 제작·배포하는 것뿐만 아니라 이를 확산시킬 수 있는 플랫폼을 제공한 SNS 사업자에게도 합당한 책임을 물어 콘텐츠 규제를 강화하고 있다. 포린폴리시(FP)는 최근 “올해가 AI의 안전한 개발과 사용을 위한 규제를 부과하는 정부 거버넌스 위기를 극복할 수 있을 분수령이 될 것”이라고 평가했다. 미 플로리다, 사우스캐롤라이나, 뉴햄프셔를 비롯한 여러 주에서 선거 캠페인 영상에 AI 사용을 규제하는 법안, 특히 딥페이크 기술을 이용해 후보자의 목소리와 얼굴을 악의적인 방식으로 합성하거나 조작하는 것을 규제하는 법안을 검토하고 있다. 미 싱크탱크인 ‘브레넌 정의센터’는 지난해 11월 발표한 보고서에서 “민주주의의 실험실이라 불리는 주의회에서 AI의 위협에 대처하는 방법에 대해 영감을 줄 수 있을 것”이라고 썼다. AI 연구 선도자이자 구글 딥마인드의 공동 창업자인 무스타파 술레이만은 새 저서 ‘다가오는 물결’에서 “AI를 통제하는 것은 거의 불가능하다”고 주장했다. 술레이만은 AI의 결함이 발생하는 이유를 정부가 파악해야 하고 AI가 폭주할 때 전원을 끌 수 있는 제동장치를 마련해야 한다고 썼다.이언 브레머 스탠퍼드대 교수는 지난해 포린어페어스 기고문에서 “AI는 기존 세계 권력의 구조를 뒤흔들고 어떤 경우에는 권력을 공고히 할 수 있다”면서 “민주주의 국가에서 개인정보를 동의 없이 무분별하게 수집해 상업적으로 활용하는 속도는 더 빨라지고, 권위주의 정부가 사상과 표현의 자유를 억압하는 도구로 악용될 수 있다”고 지적했다. 이어 “AI를 규제하지 않으면 국가는 민주주의를 유지하고 공공재를 제공해야 한다는 사회적 합의의 정당성을 잃는다”고 경고했다. AI가 제멋대로 만들어 낸 ‘환각 현상’과 허위조작정보의 위협에 맞서기 위해서는 전통적으로 민주주의 사회 공론장에서 ‘팩트체커’ 구실을 해 온 레거시미디어의 역할이 강조된다. 아서 설즈버거 뉴욕타임스 발행인은 컬럼비아저널리즘리뷰 기고문 ‘저널리즘의 본질적 가치’에서 “언론은 새롭게 취재한 사실을 다양한 방식으로 교차 검증하는 게이트키핑 시스템을 지키고, 공정과 이해충돌 방지 원칙을 준수했는지, 편견과 차별의 관점을 걸러 냈는지 프로세스를 거친다”면서 “잘못된 정보가 민주주의의 근간을 흔드는 이 시대에 언론이야말로 세상에 꼭 필요한 자양분”이라고 강조했다. 크렙스·크리너 교수의 강조점은 문해력 향상이다. 이들은 “안타깝게도 인터넷 세상은 거대한 확증편향 기계”라며 “객관적 사실을 포기하거나 뉴스에서 사실을 분별하는 능력을 포기하면 민주주의 사회가 기반해야 하는 신뢰가 무너질 수 있다”고 꼬집었다. 이어 제대로 걸러진 미디어를 통한 디지털 리터러시(지식과 정보를 이해하는 능력)의 필요성을 언급하며 “시민들이 다양한 언론 매체를 ‘신뢰하되 검증하는 방식’으로 콘텐츠의 진실성을 가리는 눈과 가짜뉴스를 맹신하지 않는 비판적 사고력을 길러야 한다”고 부연했다.

기초과학연구원(IBS) 수리 및 계산과학 연구단의 차미영 데이터 사이언스 그룹장(CI)이 세계적인 기초과학 연구 기관이자 노벨과학상의 산실인 독일 막스플랑크 연구소 단장으로 선임됐다. 카이스트 전산학부 교수이기도 한 차 CI는 오는 6월부터 독일 보흠에 있는 막스플랑크 보안 및 정보보호 연구소의 ‘인류를 위한 데이터 과학’ 연구그룹을 이끌 예정이다. 지난해 7월 울산과학기술원(UNIST) 도시환경공학과 강사라 교수가 막스플랑크 기상학연구소 공동 단장으로 선임됐다. 강 교수는 미국 국적의 한국계 과학자로 한국 국적 과학자로 막스플랑크 연구소 단장이 된 것은 차 교수가 처음이다. 차 교수는 카이스트 전산학부에서 학부부터 석·박사 학위를 받은 토종 박사다. 차 교수는 막스플랑크 소프트웨어 시스템 연구소에서 박사후연구원으로 근무한 인연이 있다. 2010년부터 카이스트에 몸담은 차 교수는 2019년부터는 IBS 데이터 사이언스 그룹 CI로 선정돼 데이터 사이언스 그룹을 이끌면서 빅데이터 계산 분석 방법론을 연구하고 있으며 AI를 이용해 가짜뉴스와 혐오 표현을 탐지하는 것 같은 삶과 밀접한 사회현상을 분석한 연구 결과들을 내놓고 있다. 차 교수는 “카이스트 교수로 쌓아온 경험에 IBS에서 긴 호흡으로 연구를 지속한 덕분에 좋은 결과를 얻은 것 같다”라면서 “큰 책임감을 갖고 데이터 과학을 통해 사회에 도움이 되는 연구를 하겠다”라고 말했다. 막스플랑크 연구소는 현재 전 세계에서 노벨과학상 수상자를 가장 많이 배출한 연구기관으로 85개 산하 연구소를 운영하고 있다.

9일(현지시간) 미국 라스베이거스에서 열리는 세계 최대 가전·정보기술(IT) 전시회인 CES 2024의 화두는 인공지능(AI)이다. 전 산업에 파고든 AI는 업종의 경계를 허물고 있다. CES 전시 예정인 제품을 대상으로 사전에 선정하는 혁신상 수상작을 보더라도 AI는 ‘대세 기술’이 됐다. 이렇듯 AI가 모든 산업을 관통하는 트렌드로 자리 잡았지만 AI가 우리 사회를 어떻게 변화시킬 것인지에 대해서는 의견이 분분하다. 기업들이 AI 기술을 기존의 사업에 접목하는 것과 별개로 정부가 나서서 부작용을 최소화할 수 있는 규범을 마련해야 한다는 목소리가 나오는 이유다. 미국소비자기술협회(CTA)는 CES 개막을 앞두고 개최한 미디어 행사에서 “AI가 모든 산업을 이끌어가는 트렌드”라는 점을 분명히 했다. 창립 100주년을 맞는 CTA가 올해 CES 슬로건을 ‘올 투게더, 올 온’(All Together, All On)으로 내건 것도 AI를 비롯한 첨단 기술을 모든 산업 분야로 확산해 전 세계 공통 과제를 해결하자는 취지다. 기술이 가져올 ‘선순환’에 방점이 찍혀 있다.AI가 가져올 파급력, 긍정적 63% > 부정적 24% 서울신문이 비영리 공공조사 네트워크 공공의창, 여론조사기관 리서치DNA와 함께 지난달 26~27일 만 18세 이상 남녀 1000명을 대상으로 ARS 전화 조사를 한 결과에서도 전체 응답자의 63.5%가 ‘AI 기술 발전이 세상을 더 좋은 방향으로 바꿀 것’이라고 답했다. ‘더 나쁜 방향으로 바꿀 것’이란 응답은 24.3%에 그쳤다. 구체적으로 AI가 우리 사회 주요 분야에 미치는 영향을 확인하기 위해 8가지 항목으로 세분화했다. 우선 AI가 의료 서비스, 교통 관리 및 안전 향상, 환경 보호 및 기후변화 대응, 교육 개선에 미치는 영향에 대해 시민 의견을 확인했다. 이후 일자리 감소와 불평등 증가, 개인정보 침해 및 프라이버시 문제, AI의 편향성과 차별, 사회적 격리 및 인간관계 약화 등 AI가 부정적 영향을 미칠 것인지를 물었다. 이 8가지 질문은 생성형 AI 챗GPT를 통해 도출한 내용이다. AI가 의료 서비스 개선시킬까…“응답자 77% 공감” 사회 문제 개선과 관련해 ‘AI 기술이 질병 진단, 치료 계획 수립, 환자 모니터링 등에서 정확도를 높이고 효율성을 개선할 수 있다’고 보는지를 묻는 질문에 전체 응답자의 77.1%가 “공감한다”고 답했다. 남성은 81.0%, 여성은 73.2%로 남성이 상대적으로 공감 비율이 높았다. 연령대별로는 30대가 82.1%로 공감 비율이 가장 높았다. 만 18세 이상~29세 이하도 80.5%로 두 번째로 높았다. 소득 구간별로는 850만원 이상이 82.3%로 공감 비율이 높았다. 반면 250만원 미만은 68.7%로 가장 낮았다. 고소득자와 저소득자의 응답 비율에 차이가 나는 것은 AI가 의료 기술·서비스를 획기적으로 높인다 해도 비용 부담이 클 것이란 전망 때문으로 풀이된다. ‘AI가 교통 흐름 분석, 사고 예측 및 예방, 자율주행차량 개발을 통해 교통 문제와 사고를 줄일 수 있다’고 묻는 질문에는 응답자의 75.4%가 공감한다고 했다. 남성의 공감 비율은 78.2%로 여성(72.6%)에 비해 높았다. 연령별로는 40대가 80.9%로 공감 비율이 가장 높았다. 소득구간별로도 큰 차이를 보였는데 의료 개선과 마찬가지로 850만원 이상 고소득자의 공감 비율(90.1%)이 가장 높게 나왔다. 반면 250만원 이하 구간에서는 공감 비율이 62.9%였다. 모빌리티는 이번 CES에서 AI와 함께 가장 주목해야 하는 기술로 꼽힌다. 자율주행차가 주행 중 사고를 냈을 때 보험사가 자율주행 데이터를 신속하게 분석할 수 있도록 돕는 기법 등이 좋은 평가를 받았다.환경 보호에 활용되는 AI…에너지 절약 기술 등장 ‘환경 모니터링, 기후변화 예측, 에너지 효율 개선 등에 AI를 활용할 수 있다고 생각하는지’를 묻는 질문에는 80.6%가 공감한다고 했다. 비공감 비율은 9.7%로 10명 중 1명도 안 됐다. 연령별로는 30대가 87.7%로 공감 비율이 가장 높았다. 소득구간별로는 850만원 이상이 87.5%로 가장 높게 나왔다. ‘모두를 위한 AI’를 선언한 삼성전자의 경우, CES 2024에서 에너지 사용량과 요금 모니터링 기능을 제공하고 ‘AI 절약 모드’를 통해 직접 에너지 사용량을 줄여 탄소 배출 저감에 기여하는 ‘스마트싱스 에너지’를 선보일 계획이다. 전기요금이 비싼 시간대 혹은 탄소 집약도가 높은 시간대를 피해 로봇청소기를 충전하도록 설정하거나 세탁기와 건조기를 한 대로 합친 ‘비스포크 AI 콤보’와 ‘비스포크 식기세척기’를 자동으로 운전해주는 기능도 상반기 내에 도입된다. 기후위기와 삶의 질 문제 해결에 기여할 ESG(환경·사회·지배구조)가 글로벌 현안으로 떠오르면서 기업들도 AI 기술을 환경에 접목하는 시도를 꾸준히 하고 있는 셈이다. 일본 스타트업 inQs의 유리 제품 ‘SQPV 글래스’는 실내에서 발생하는 조명 빛까지 전력으로 변환해주는 기술을 탑재해 CES 최고 혁신상을 받았다. AI 활용하면 교육 격차 해소?…20대 공감 비율 55% ‘맞춤형 학습 경험 제공, 학습 효율성 증가, 교육 격차 해소 등에 AI를 활용할 수 있는지’를 묻는 질문에는 응답자의 62.8%가 공감한다고 했다. 공감하지 못한다는 비율도 26.5%로 적지 않았다. 의료, 교통, 환경에 미치는 영향과 달리 교육에 대해서는 상대적으로 시민들 의견이 나뉘는 것을 알 수 있다. 연령대별로는 만 18세 이상~29세 이하에서 55.3%로 공감 비율이 가장 낮았다. 소득구간별로는 250만원 미만이 58.3%로 가장 낮았다. AI가 개인별 수준 진단, 맞춤형 콘텐츠 제공 등으로 교육 격차를 좁힐 수도 있지만 AI를 쓸 줄 아는 사람과 그렇지 않은 사람의 경쟁력이 크게 차이나면 오히려 격차가 더 벌어질 수 있다는 점에서 서로 의견이 갈리는 것으로 해석된다.‘자동화 및 AI의 도입에 따른 일자리 감소가 사회적 불평등을 심화시킬 수 있다고 생각하는지’를 묻는 질문에는 응답자의 69.7%가 공감한다고 했다. 이 질문에는 여성의 공감 비율(73.4%)이 남성(65.9%)보다 높았다. 특히 연령대별로는 30대가 81.1%로 공감 비율이 가장 높았다. 반면 만 18세 이상~29세 이하는 63.3%로 가장 낮았다. 직종별로는 사무·관리직이 76.7%로 공감 비율이 높았고 농·축·수산업은 41.9%로 가장 낮았다. AI로 인한 대체 가능성이 높은지, 낮은지에 따라 공감 비율도 크게 차이가 났다. ‘AI 기반 시스템의 데이터 수집과 분석이 개인의 프라이버시를 침해할 수 있다고 생각하는지’를 묻는 질문에는 76.6%가 공감한다고 답했다. 여성이 79.2%로 남성(74.0%)에 비해 공감 비율이 높았다. 직종별로는 사무·관리직이 88.1%로 가장 높았고, 농·축·수산업은 48.7%로 가장 낮았다. 소득구간별로도 AI의 사생활 침해와 관련한 민감도가 달랐다. 850만원 이상에선 84.5%가 사생활 침해에 공감한다고 답한 반면, 250만원 미만에선 63.1%가 공감한다고 했다. 학생 대다수 “편향된 데이터 기반한 AI, 차별적 결정” ‘AI 시스템이 편향된 데이터에 기반해 만들어진다면 부정확하거나 차별적인 결정을 내릴 수 있다고 생각하느냐’는 질문에는 응답자의 76.4%가 공감한다고 했다. 다수의 응답자들도 AI의 편향성, 차별성에 대한 심각성을 인지하고 있는 셈이다. 특히 만 18세 이상~29세 이하(82.4%), 30대(80.7%), 40대(83.7%) 모두 80%대의 공감 비율을 보였다. 그러나 50대, 60세 이상으로 갈수록 공감 비율이 낮아졌다. 60세 이상은 66.0%로 젊은 층과는 크게 차이가 났다. 응답자 중에선 학생(93.5%)이 AI의 편향성·차별성과 관련해 공감 비율이 가장 높았다. 반면 가정주부와 농·축·수산업은 각각 63.3%, 62.8%로 공감 비율이 상대적으로 낮게 나왔다. 소득구간별로는 850만원 이상이 87.2%로 공감 비율이 가장 높았고 250만원 미만이 64.7%로 가장 낮았다.사회 문제 악화에 동의한 3분의 2 “긍정적 기대”“더 늦기 전에 AI 규범 방향 폭넓은 의견 수렴” ‘과도한 AI에 대한 의존이 인간의 상호작용과 커뮤니케이션을 약화시킬 수 있다고 생각하느냐’는 질문에는 응답자의 77.2%가 공감한다고 했다. 여성의 공감 비율은 81.7%로 남성(72.7%)에 비해 높았다. 소득구간별로는 850만원 이상이 87.7%로 공감 비율이 가장 높았고 250만원 미만이 63.9%로 가장 낮았다. 사회 문제 개선과 악화에 대해 각각 질문을 던진 뒤 재차 ‘AI 기술 발전이 세상을 더 좋은 방향을 바꿀지, 아니면 나쁜 방향으로 바꿀지’를 물었다. 그러자 긍정적 방향으로 응답한 비율이 66.2%로 사회문제에 대해 묻기 전(63.5%)보다 더 높게 나왔다. 부정적 방향으로 응답한 비율은 22.9%로 소폭 하락했다.AI로 인한 사회 문제 악화에 동의를 한 응답자 3명 중 2명이 “그래도 AI 기술이 세상을 더 좋은 방향으로 바꿀 것”이라고 내다봤다는 점이 특징이다. 김기수 리서치DNA 대표는 “AI로 발생되는 여러가지 문제에도 불구하고 세상이 더 살기 좋은 방향으로 바뀔 거라고 기대를 갖는 사람이 3분의 2이고, 나쁜 방향으로 바뀔 거라는 전망은 4분의 1 수준”이라고 분석했다. 그러면서 “AI의 경제성, 효용성, 유용성에만 경도돼 이에 대한 보호장치나 규제 없이 무분별한 활용이 이뤄진다면 그로 인한 인권 및 기본권 침해의 문제는 지금 생각할 수 있는 수준 그 이상이 될 수도 있다”고 지적했다. 더 늦기 전에 AI 규범 방향에 대해 폭넓은 의견을 수렴해 나가야 한다는 취지다. 이는 CTA 미디어 행사에서 나온 내용과도 연결된다. 제시카 부스 CTA 리서치 디렉터는 최근 CTA가 미국인들을 대상으로 한 자체 조사에서 “성인 10명 중 9명(86%)이 AI에 친숙하다고 답했다”고 전했다. 그러면서도 “이들은 AI가 어떻게 적용되는지 의구심을 갖는 것으로 조사됐다. 소비자들과 기업들은 AI와 관련해 개인정보와 가짜뉴스, 실업 문제에 대해 모두 우려하고 있다”며 정부의 역할을 강조했다.*어떻게 조사했나 비영리 공공조사 네트워크 공공의창, 여론조사기관 리서치DNA와 함께 ARS 전화로 진행한 이번 설문조사는 지난달 26~27일 전국의 만 18세 이상 남녀 1000명을 대상으로 이뤄졌다. 남녀 각각 496명(49.6%), 504명(50.4%)이며 연령별로는 만 18~29세 16.1%, 30대 14.9%, 40대 18.0%, 50대 19.6%, 60세 이상 31.4%다. 표본 오차는 95% 신뢰수준에서 ±3.1% 포인트다. 리얼미터·리서치뷰·우리리서치·리서치DNA·조원씨앤아이·코리아스픽스·한국사회여론연구소·휴먼앤데이터·피플네트웍스리서치·서던포스트·메타서치·소상공인연구소·PDI·지방자치데이터연구소 등 14개 여론조사 및 데이터분석 기관이 우리 사회를 투명하게 반영하고 공동체에 보탬이 되는 조사가 필요하다는 뜻을 모아 2016년 공공의창을 출범시켰다.

3명 중 2명은 ‘AI 등장’에 긍정적“더 좋은 방향으로 세상 바꿀 것”60세 이상 77% “활용법 배워야” 인공지능(AI) 시대가 열리면서 ‘10년이면 강산이 변한다’는 얘기는 옛말이 됐다. 챗GPT의 등장이 그랬듯이 1년 만에 강산이 변할 정도로 AI는 우리 사회를 급속도로 바꿔 놓고 있다. AI가 업무 곳곳에 활용되면서 생산성, 효율성이 높아지고 ‘언어의 장벽’도 무너지고 있다. AI가 가져온 축복이 상당하지만 저주의 위험성 또한 무시 못 한다. AI가 만들어 낸 가짜뉴스 폐해부터 딥페이크로 인해 진짜와 가짜를 구별하기 어려운 세상이 도래했다. 궁극적으로 인간을 닮은 기계를 구현하고자 하면서도 인간의 결함이 없는 기계를 두려워하는 인류의 모순 앞에서 AI는 이 시대에 ‘인간다움이 무엇인지’ 질문을 던졌다. 서울신문은 새해를 맞아 ‘AI 블랙홀 시대: 인간다움을 묻다’를 주제로 10회에 걸쳐 AI가 우리 삶에 미치는 영향을 다각적으로 살펴본다.국민 1000명에게 AI 기술 발전이 세상을 더 좋은 방향으로 바꿀지, 더 나쁜 방향으로 바꿀지를 물었다. 3명 중 2명이 긍정적 전망을 내놓았다. 부정적 전망은 4명 중 1명에 그쳤다. AI로 발생하는 여러 문제에도 불구하고 이를 상쇄시킬 수 있는 순기능이 더 크다고 본 것이다. 서울신문이 비영리 공공조사 네트워크 공공의창, 여론조사기관 리서치DNA와 함께 지난달 26~27일 만 18세 이상 남녀 1000명을 대상으로 자동응답방식(ARS) 전화 조사를 한 결과 전체 응답자의 66.2%가 ‘AI 기술 발전이 세상을 더 좋은 방향으로 바꿀 것’이라고 답했다. ‘더 나쁜 방향으로 바꿀 것’이란 응답은 22.9%, ‘잘 모르겠다’는 10.9%였다. ‘더 늦지 않게 AI를 활용하는 방법을 배워야 한다’는 의견에는 80.5%가 공감한다고 했다. 60세 이상 응답자 중에서도 77.6%가 AI 활용법을 배워야 한다는 데 동의했다.AI가 환경 보호·기후변화 대응(긍정 비율 80.6%), 의료 서비스 개선(77.1%), 교통 관리·안전 향상(75.4%), 교육 개선(62.8%) 등 사회문제 개선에 도움이 될 것이란 의견이 우세했다. 반면 AI가 인간관계 약화(77.2%), 개인정보·프라이버시 침해(76.6%), AI의 편향성과 차별(76.4%), 일자리 감소로 인한 불평등 증가(69.7%) 등 사회문제를 악화시킬 것이란 의견에도 10명 중 7명이 동의했다. 김기수 리서치DNA 대표는 “AI의 편익과 위험에 대해 매우 높은 공감대가 병존하고 있다”고 지적했다. 눈에 띄는 대목은 AI로 인한 사회문제 악화에 동의한 응답자 중 3분의2가 “그래도 AI 기술이 세상을 더 좋은 방향으로 바꿀 것”이라고 내다봤다는 점이다. ‘AI 빅뱅’ 저자인 김재인 경희대 비교문화연구소 교수는 “AI는 인간의 역량을 증강시키는 기술이라고 본다. 인간의 기본 역량에 집중해야 하는 이유”라면서 “인간관계를 맺고 경청하고 배려하고 함께 해나갈 수 있는 능력이 더 중요해질 것”이라고 전망했다. ※공공의 창은? 2016년 문을 연 비영리 공공조사 네트워크다. 리얼미터·리서치뷰·우리리서치·리서치DNA·조원씨앤아이·코리아스픽스·티브릿지·한국사회여론연구소·한국여론연구소·피플네트웍스리서치·서던포스트·세종리서치·소상공인연구소·PDI·지방자치데이터연구소 등 15개 여론조사 및 데이터분석 기관이 우리 사회를 투명하게 반영하고 공동체에 보탬이 되는 조사가 필요하다는 뜻을 모아 출범시켰다. 정부나 기업의 의뢰를 받지 않고, 매달 ‘의뢰자 없는’ 조사 분석을 실시하고 있다.

인공지능(AI) 시대가 열리면서 ‘10년이면 강산이 변한다’는 얘기는 옛말이 됐다. 챗GPT의 등장이 그랬듯이 1년 만에 강산이 변할 정도로 AI는 우리 사회를 급속도로 바꿔 놓고 있다. AI가 업무 곳곳에 활용되면서 생산성, 효율성이 높아지고 ‘언어의 장벽’도 무너지고 있다. AI가 가져온 축복이 상당하지만 저주의 위험성 또한 무시 못 한다. AI가 만들어 낸 가짜뉴스 폐해부터 딥페이크로 인해 진짜와 가짜를 구별하기 어려운 세상이 도래했다. 궁극적으로 인간을 닮은 기계를 구현하고자 하면서도 인간의 결함이 없는 기계를 두려워하는 인류의 모순 앞에서 AI는 이 시대에 ‘인간다움이 무엇인지’ 질문을 던졌다. 서울신문은 새해를 맞아 ‘AI 블랙홀 시대: 인간다움을 묻다’를 주제로 10회에 걸쳐 AI가 우리 삶에 미치는 영향을 다각적으로 살펴본다.국민 1000명에게 AI 기술 발전이 세상을 더 좋은 방향으로 바꿀지, 더 나쁜 방향으로 바꿀지를 물었다. 3명 중 2명이 긍정적 전망을 내놓았다. 부정적 전망은 4명 중 1명에 그쳤다. AI로 발생하는 여러 문제에도 불구하고 이를 상쇄시킬 수 있는 순기능이 더 크다고 본 것이다. 서울신문이 비영리 공공조사 네트워크 공공의창, 여론조사기관 리서치DNA와 함께 지난달 26~27일 만 18세 이상 남녀 1000명을 대상으로 자동응답방식(ARS) 전화 조사를 한 결과 전체 응답자의 66.2%가 ‘AI 기술 발전이 세상을 더 좋은 방향으로 바꿀 것’이라고 답했다. ‘더 나쁜 방향으로 바꿀 것’이란 응답은 22.9%, ‘잘 모르겠다’는 10.9%였다. ‘더 늦지 않게 AI를 활용하는 방법을 배워야 한다’는 의견에는 80.5%가 공감한다고 했다. 60세 이상 응답자 중에서도 77.6%가 AI 활용법을 배워야 한다는 데 동의했다.AI가 환경 보호·기후변화 대응(긍정 비율 80.6%), 의료 서비스 개선(77.1%), 교통 관리·안전 향상(75.4%), 교육 개선(62.8%) 등 사회문제 개선에 도움이 될 것이란 의견이 우세했다. 반면 AI가 인간관계 약화(77.2%), 개인정보·프라이버시 침해(76.6%), AI의 편향성과 차별(76.4%), 일자리 감소로 인한 불평등 증가(69.7%) 등 사회문제를 악화시킬 것이란 의견에도 10명 중 7명이 동의했다. 김기수 리서치DNA 대표는 “AI의 편익과 위험에 대해 매우 높은 공감대가 병존하고 있다”고 지적했다. 눈에 띄는 대목은 AI로 인한 사회문제 악화에 동의한 응답자 중 3분의2가 “그래도 AI 기술이 세상을 더 좋은 방향으로 바꿀 것”이라고 내다봤다는 점이다. ‘AI 빅뱅’ 저자인 김재인 경희대 비교문화연구소 교수는 “AI는 인간의 역량을 증강시키는 기술이라고 본다. 인간의 기본 역량에 집중해야 하는 이유”라면서 “인간관계를 맺고 경청하고 배려하고 함께 해나갈 수 있는 능력이 더 중요해질 것”이라고 전망했다.

[포토多이슈] 사진으로 다양한 이슈를 짚어보는 서울신문 멀티미디어부 연재물 2023년 서울신문 멀티미디어부 사진기자들은 각 출입처와 여러 사건·사고 현장에서 발로 뛰며 취재했습니다. 동시에 새로운 시도와 변화를 꾀했습니다. 열화상 카메라를 활용해 취재했고, 흑백 필름 사진을 컬러로 복원해 보도했으며, 북한이 공개한 사진에서 새로운 사실을 발견하기도 했습니다. 올해 서울신문에 보도된 사진기자들의 기획 사진 중 일부를 소개합니다. ◼ 1월 25일 <난방비 더 써도 더 추운 ‘단열빈곤층’>25일 서울의 체감온도가 영하 25도까지 내려가는 등 올겨울 가장 추운날씨를 보였다. 계속되는 한파에 각 가정의 난방에너지 사용도 덩달아 늘어나고 있다. 하지만 가스비, 전기료 등의 공공요금이 가파르게 인상되면서 충분히 난방을 하지 못하는 가정이 늘고 있다. 열화상 카메라로 마포구 상암동의 아파트단지와 용산구 동자동 쪽방촌을 촬영한 결과 건물외부 기온이 20도가 넘게 차이가 났다. 난방비 인상으로 난방에서도 양극화가 일어나고 있는 것이다. 사진 왼쪽은 마포구 상암동의 아파트단지 오른쪽은 용산구 동자동 쪽방촌. 열화상 카메라로 촬영한 사진은 온도가 높을수록 붉은색, 낮을수록 푸른색을 나타낸다. 홍윤기 기자 ◼ 3월 1일 <104년 전 만세 부른 그날… 감사합니다, 잊지 않겠습니다>제104주년 3·1절을 앞두고 국가보훈처가 인공지능(AI) 기술을 활용해 독립운동가 15인의 흑백사진을 컬러사진으로 복원했다. 맨 윗줄 왼쪽부터 베델, 김좌진, 송진우, 안창호, 윤동주, 가운뎃줄 왼쪽부터 이승만, 안중근, 김구, 윤봉길, 유관순, 아랫줄 왼쪽부터 조소앙, 최재형, 한용운, 헐버트, 이회영. 이들의 사진을 일제강점기 불교 사찰이 독립거점으로 중요한 역할을 담당했다는 사실을 보여 주는 서울 은평구 진관사 태극기와 합성했다. 홍윤기 기자 ◼ 4월 7일 <아파도 뛴다… 취재 열정 ON>한때는 선망의 직업이었던 기자의 현실은 그리 녹록지 않다. 급증하고 있는 언론사 간 경쟁도 치열하고 갑자기 발생하는 돌발 사건으로 긴장을 늦출 수도 없으며 불규칙한 근무로 개인 생활을 보장받는 것도 쉽지 않다. 하지만 사건 현장 어디든 기자들은 찾아간다. 지난 2월 튀르키예 지진 현장에서 취재를 한 서울신문 곽소영 기자는 “잠을 잘 곳도, 씻을 곳도 없어 렌터카에서 차박을 하며 취재를 했고”, “무너진 건물 위에서 취재하다가 여진을 겪거나 어렵게 숙소를 구해 잠을 자다가 건물이 흔들려 급하게 대피하기도 했다”고 당시 상황을 전했다. 4월 7일은 신문의 날이다. 각종 포털 사이트 등 온라인을 통해 뉴스를 접하면서 ‘종이신문’의 몰락에 대한 우려가 생긴 지 오래다. 챗GPT가 모든 질문에 답은 하지만 사실 여부는 모른다. 인공지능(AI)도 정보가 있어야 어떤 판단이라도 내린다. 난무하는 가짜뉴스 속에서 치열한 취재를 통해 검증된 사실만을 전달하기 위해 노력하는 ‘레거시 미디어’ 기자들은 오늘도 현장에 있다. *기사 일부 발췌 글·사진 도준석 기자 ◼ 5월 5일 <컬러로 되살아난 그때 ‘웃음’처럼… ‘어린이 해방’ 100년, 신나게 놀자>‘어린이를 윤리적 압박으로부터 해방하야 … 완전한 인격적 예우를 허하라.(중략) 그들이 고요히 배우고 즐거이 놀기에 족할 각양의 가정 또는 사회적 시설을 행하게 하라.’ 100년 전 방정환이 결성한 소년운동협회가 발표한 ‘어린이해방선언’입니다. 1979년 서울의 한 기찻길 옆에서 등넘기를 하며 해맑게 웃는 아이들을 찍은 서울신문의 흑백사진을 컬러로 복원해 보니 아이들의 발그레한 얼굴이 더욱 생기 있어 보입니다. 그 시절 이토록 즐거웠던 우리가 어른이 된 지금 아이들에게 이런 ‘고요하고 즐거이’ 지낼 환경을 만들어 주고 있을까요. 아이들 웃음은커녕 탄생의 울음조차 사라지는 현실을 고민해야 하는 시대, 5일 제101회 어린이날을 맞아 아이들의 웃음소리가 가득한 날이 끊이지 않고 계속되기를 기대해 봅니다. 서울신문 멀티미디어부 ◼ 6월 11일 <北 얼마나 힘들길래… 위성장비도 카메라 렌즈통 재활용>조선중앙통신이 지난달 17일 김정은 국무위원장이 정찰위성 발사 준비위원회를 현지지도했다는 소식과 함께 공개한 사진(왼쪽 사진) 속 직사각형 물체(빨간 원)가 한 카메라 제조사의 망원렌즈 상자(600밀리렌즈·오른쪽 사진)와 동일한 것으로 확인됐다. 이 상자에는 많은 케이블이 연결돼 있고 제조사를 지운 흔적이 있었다. 박지환 기자 ◼ 6월 26일 <비수급 빈곤 리포트 - 기초수급 밖, 빈곤에 갇혔다>동생에게 명의를 빌려줬다가 50여명의 공동 명의로 얽힌 부동산을 처리하지 못해 기초생활보장 혜택을 받지 못하는 비수급 빈곤층인 홍상표(가명)씨가 아사 직전에 구조된 뒤 퇴원 후 거동을 못하는 누나의 기저귀를 정리하고 있다. 오장환 기자 ◼ 9월 6일 <파묘: 조상님 묘를 옮기겠습니다 - 아무도 찾지 않는 무덤>경기 파주시 광탄면 용미리 제2묘지에 위치한 서울시립승화원 무연고 추모의 집. 연고가 없는 유골 2397기가 작은 목재 분골함에 담겨 층층이 쌓여 있다. 유골들은 혹시라도 찾아올 누군가를 기다리며 이곳에서 5년간 머물다 자연에 뿌려진다. 무연고로 방치된 무덤의 최후를 추적하기 위해 지난 6일 이곳을 방문했다. 오장환 기자 ◼ 11월 29일 <대한민국 정신건강리포트 - 나는 [숨겨야만 사는] 정신질환자 입니다>최서연(가명)씨는 27세 여성 요리사다. 어릴 때부터 정신과 치료를 받고 싶었지만 부모님의 반대로 성인이 돼서야 상담실 문을 두드렸다. 치료 전에는 자살도 여러 차례 시도했다. 지금은 삶에 대한 의지가 누구보다 더 강하다. 서울신문과 만나 자신을 괴롭혔던 증상과 외부의 편견을 담담하게 풀어낼 수 있었던 건 그만큼 마음의 근육이 단단해 졌기 때문이다. 2022년 대한민국에서 정신과 진료를 받은 사람은 100명당 6명에 이른다. 4년 전보다 27.3% 증가했다. 정연호 멀티미디어부 부장

韓·美·유럽 등서 국가 단위 선거몇 초면 가짜 음성·영상 등 생산 각국 규제·단속 기술 등 미비 미 대선과 한국 총선 등 전 세계 47개국에서 선거가 치러지는 2024년을 목전에 두고 챗GPT 등 생성형 인공지능(AI)을 악용한 가짜뉴스와의 전쟁이 현실로 닥쳤다. 가짜 영상·음성을 단 몇 초 만에 만들어 내는 AI 딥페이크 기술이 한층 정교해지면서 선거를 앞두고 여론을 선동, 조작하는 허위 정보가 판을 칠 것이라는 경고가 나온다. 명백한 가짜는 물론 사실과 주장의 경계가 모호한 선전 선동에도 딥페이크가 동원되면 민주주의의 설 자리가 더 위태로워진다는 우려도 제기되고 있다. 미 언론들은 내년에 있을 대선이 딥페이크가 본격 동원되는 사상 최초의 선거가 될 것으로 내다보고 있다고 AP통신이 26일(현지시간) 전했다. 이를 제어할 안전장치가 전보다 약해졌거나 정부 차원의 규제가 아직 미진한 탓에 가짜뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 지적이다. 딥페이크가 선거와 정치판을 뒤흔드는 사례는 널렸다. 양측 진영이 대립하고 선거전이 치열할수록 딥페이크 활용은 잦아진다. 미국 공화당전국위원회는 지난 5월 30여초짜리 선거 광고를 공개하면서 중무장한 채 샌프란시스코 거리를 순찰하는 미군, 남부 국경을 점령한 이민자들, 대만을 폭격한 중국 전투기 등의 이미지를 담았다. 조 바이든 행정부에서 일어나는 디스토피아를 나타낸 것인데, AI가 만든 가짜 이미지였다. 지난 9월 총선을 치른 슬로바키아에서는 친미 성향의 야당 대표인 미할 시메츠카의 “우리 당이 선거에 이기려면 (소외 계층인) 로마족에게 돈을 줘야 한다”는 음성 파일이 파장을 불렀다. 이 역시 가짜였다. 당사자들은 즉각 반발했지만 투표 이틀 전에 나온 터라 선거에 영향을 미쳐 친러시아 성향 야당의 승리를 견인했다고 프랑스24 등은 전했다. 슬로바키아는 친러 선동과 우크라이나 전쟁 거짓 정보, 반이민을 부추기는 혐오 콘텐츠 등 허위 정보로도 선거가 얼룩졌다. 미중 대리전 격인 대선(2024년 1월 13일)을 앞둔 대만에서는 중국산 동영상 플랫폼 틱톡(중국명 더우인)에서 독립 성향 민진당 후보를 겨냥한 가짜 정보가 활개를 치고 있다. 대만의 의무 군복무 기간이 내년부터 기존 4개월에서 1년으로 늘어나는데, 이를 두고 “대만 청년들은 군 복무 연장에 항의하고 전쟁을 반대하나 민진당이 청년들을 ‘대만 독립’의 사료로 삼고 있다”는 중국 측 주장을 담은 동영상이 유포되고 있는 것이다. 한국의 국가정보원 격인 대만 국가안전국에 따르면 지난해 1400개였던 가짜 정보가 올해는 최소 1800개로 늘어났다. 이들 가짜 정보는 틱톡, 인스타그램, 페이스북, 유튜브 등으로 유통됐다. 미국에서도 사법 재판에 휘말린 도널드 트럼프 전 대통령이 경찰에 체포되는 가짜 영상이 출현했다. AI 전문가인 워싱턴대 오런 에치오니 명예교수는 “(고령인) 대선 후보 바이든 대통령이 병원에 실려 가는 모습도 나올 수 있다”면서 “내 예상이 틀리면 좋겠지만, 재료는 널려 있고 나는 정말 겁이 난다”며 가짜 정보 홍수에 대한 불안감을 드러냈다. 하지만 규제는 기술 발전을 따라가지 못하는 추세다. 소셜미디어 업체들은 가짜뉴스 감시정책이 전반적으로 후퇴했고 AI 기술이 가장 앞선 미국에서도 아직 각 주에 단속을 맡기는 상황이다. 지난해 10월 옛 트위터(X)를 인수한 일론 머스크 테슬라 최고경영자는 콘텐츠 감시 인력을 대규모 해고하고 차단됐던 음모론·극단주의자들의 계정은 ‘표현의 자유’를 들어 복원했다. 페이스북·인스타그램 모회사인 메타와 유튜브 역시 최근 비용 절감을 위해 인력을 줄였다. 기술·미디어 분야 비영리 단체 ‘프리프레스’는 X와 메타, 유튜브에서 혐오 콘텐츠, 허위 정보와 관련해 미디어 보호 정책을 없앤 사례는 총 17개에 이른다고 집계했다. 가짜 정보를 걸러 내겠다면서 적용한 수단은 AI 라벨링 정책으로 제작자가 AI인지 아닌지를 가려내는 정도다. 미국은 연방 의회와 연방 선거관리위원회 차원에서 AI 생성 기술 규제 조치를 모색하고 있지만 아직은 확정된 게 없다고 AP통신은 전했다. 다만 연방 상원에 민주·공화당이 초당적으로 공동 발의한 법안에서는 “패러디, 풍자를 제외하고 연방 후보와 관련된 기만적인 딥페이크를 금지한다”는 내용을 담았다. 주별로는 캘리포니아, 미네소타, 텍사스, 워싱턴주 등이 정치 광고의 딥페이크를 규제하는 법안을 통과시켰다. 비영리 단체인 ‘퍼블릭 시티즌’에 따르면 일리노이, 뉴저지, 뉴욕주 등에서도 유사한 법안이 발의됐다. 미시간주의 경우 지난달 그레천 휘트머 주지사가 ‘선거 전 90일 이내 AI로 생성된 딥페이크 사용을 금지하고 정치 광고가 AI를 사용해 제작됐는지 여부를 명확히 밝혀야 한다’는 법안에 서명했다. 이를 위반하면 초범은 최대 93일 징역형, 최대 1000달러의 벌금형에 처한다. 언론과 정당에 대한 불신이 높은 나라일수록 대중들에게 침투하기 위해 AI를 활용한 딥페이크가 활개 칠 가능성이 높다. 허위 정보를 추적하는 초당파적 단체 ‘민주주의 안전 연합’의 브렛 셰퍼 선임 연구원은 “민주주의에 대한 유권자들의 불신이 커지면서 폭력으로 이어질 수 있다”며 “사람들이 궁극적으로 선거 정보를 신뢰하지 않으면 민주주의는 작동을 멈추게 된다. 인구의 상당수가 영향을 받는다면, 2021년 1·6 미 의회 난입 사태는 워밍업처럼 보일 것”이라고 경고했다.

수천만명의 구독자와 팔로워를 거느린 인플루언서와 사귄다는 가짜뉴스와 악성 댓글에 시달린 22세 브라질 여성이 극단을 선택했다. 가짜뉴스에 대한 강력한 규제를 요구하는 목소리가 힘을 얻고 있다. 26일(현지시간) G1과 오포부 등 브라질 매체에 따르면 브라질 남동부 미나스제라이스에서 제시카 카네두란 여성이 지난 22일 세상을 떠난 사실이 친구와 유족을 통해 확인됐다. 카네두는 이달 중순쯤 브라질 인플루언서이자 복싱 선수로 활동하는 인데르송 누니스(28)의 여자친구로 알려지면서 소셜미디어(SNS)에서 갑자기 주목받았다. 누니스는 한국에는 많이 알려지지 않았으나, 유튜브 구독자 4400만명과 인스타그램 팔로워 5979만명에 이를 정도로 브라질과 라틴아메리카에서 유명하다. 진지한 복싱 선수라기 보다 미국 인플루언서 제이크 폴처럼 장난을 많이 치는 코미디언에 가깝다. 영화와 대중음악, 텔레비전, 유튜브에서 활약한다. 카네두와 누니스는 모두 열애설에 대해 “전혀 사실무근”이라고 즉각 부인했다. 현지 매체들도 두 사람 사이가 특별하지 않다고 보고 있었다. 그런데 문제는 연예인 소식과 가십을 전문적으로 전달하는 일부 SNS 계정이었다. 이 계정들을 통해 헛소문이 삽시간에 퍼져나갔다. 특히 ‘쇼케’(충격이라는 뜻)라는 이름의 SNS는 조작된 메신저 대화 캡처 화면과 카네두 지문 사진 등을 함께 게재해 큰 반향을 일으켰다고 G1은 전했다. 카네두는 자신의 SNS에 “허위 사실로 인해 엄청난 공격을 받고 있다”며 게시물 삭제를 요청하는 글을 올렸으나, 일주일 넘게 받아들여지지 않았다. 낙담한 그는 해서는 안될 선택을 했다. 카네두의 모친은 “내 딸이 무슨 잘못이 있느냐”며 경찰에 이번 사건 관련자에 대한 강력한 처벌을 요구했다고 오포부는 전했다. 특히 우울증에 시달리며 여러 차례 극단을 선택한 적이 있는 취약한 딸에게 악성 댓글 공격은 치명적인 영향을 끼쳤다고 하소연했다. 누니스 역시 “소셜미디어의 부정적 면모로 인한 새로운 ‘공공 학살’이 촉발됐다”면서 “가짜뉴스를 규제할 수 있는 법 제정이 필요하다”며 관련 활동을 펼쳐나가겠다는 뜻을 밝혔다. ‘쇼케’ 측은 뒤늦게 게시물을 삭제하고, 고인의 명복을 비는 성명을 발표했다. 허위 사실 유포와 가짜뉴스 처벌 등에 대한 여론이 비등해진 가운데 시다 곤사우베스 여성부 장관은 자신의 소셜미디어에 “제시카 카네두를 향한 거짓말이 그 젊은 여성에 대한 명예훼손 공격으로 이어졌다는 사실을 용납할 수 없다”고 분개했다. 시우비우 아우메이다 인권부 장관도 “소셜미디어를 지배하는 기업의 무책임도 한 가정의 파괴에 영향을 미쳤다”며 “소셜미디어 규제가 없다면 민주주의와 인간 존엄성에 대한 논의도 있을 수 없다”고 거들었다. 일찌감치 ‘가짜 뉴스와의 전쟁’을 선언한 루이스 이나시우 룰라 다시우바 정부는 구글과 메타 등 소셜미디어 업체 책임까지 묻는 가짜 뉴스 방지 의무를 강제하는 법안을 추진하고 있다. 한편 새해 전 세계 50개국에서 중요한 선거가 치러질 예정인 가운데, 최근 몇 년 급속히 발달한 인공지능(AI) 기술이 선거에 악영향을 미칠 수 있다는 우려가 나온다. 외신에 따르면 미국 대선을 비롯해 러시아, 인도, 멕시코 등에서 선거가 열려 20억명 이상이 투표소로 향할 예정이다. 한국에서도 제22대 국회의원 선거가 내년 4월 치러진다. 하지만 전문가들은 가짜 이미지 등을 쉽게 만들어낼 수 있는 AI 도구가 더 정교해지면서 선거를 앞두고 허위 정보가 그 어느 때보다 판칠 수 있다고 경고한다. 반면 이를 제어할 수 있는 온라인 상의 안전장치는 전보다 약해진 탓에 가짜 뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 것이다. ※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살 예방 핫라인 1577-0199, 희망의 전화 129, 생명의 전화 1588-9191, 청소년 전화 1388 등에서 24시간 전문가의 상담을 받을 수 있습니다.

도널드 트럼프 전 미국 대통령이 최근 공화당 경선에서 상승세를 보이는 니키 헤일리 전 유엔 대사에게 부통령 러닝메이트 자리를 제안하는 방안을 두고 주변 측근과 상의한 것으로 전해졌다. 미 정치매체 폴리티코와 CBS뉴스 등은 22일(현지시간) 사안을 잘 아는 복수의 소식통을 인용해 이같이 보도했다. 소식통에 따르면 트럼프 전 대통령은 최근 헤일리가 여론조사 상승세를 보이자 자신의 캠프 외부의 몇몇 인사들에게 “니키에 대해 어떻게 생각하냐”며 의견을 물었다는 것이다. 트럼프 전 대통령이 러닝메이트로서 헤일리 전 대사에 관심을 드러내자 트럼프 골수 지지층인 ‘마가(MAGA·Make America Great Again·미국을 다시 위대하게)’ 세력 사이에서는 이에 반대하는 목소리가 커지고 있다. 트럼프 전 대통령의 장남인 트럼프 주니어를 비롯해 측근들은 헤일리가 캠프의 방향성과 맞지 않는다며 ‘헤일리 영입설’ 진화에 나섰다. 트럼프의 ‘책사’로 유명한 스티브 배넌 전 백악관 수석전략가는 지난 주말 열린 공화당 행사에서 트럼프가 헤일리를 부통령 후보로 지명하는 것을 공화당 지도부가 막아야 한다고 주장했다. 트럼프 캠프 대변인은 언급을 내놓지 않았으며 헤일리 전 대사 대변인 역시 답변을 거부했다고 폴리티코는 전했다. 한편 헤일리 전 대사는 이날 앞서 ‘대선 풍향계’로 불리는 뉴햄프셔주 여론조사에서 트럼프 전 대통령을 오차범위 내까지 따라붙으며 상승세를 보여주고 있다. 트럼프 캠프의 한 고위 관계자는 CBS뉴스에 헤일리 전 대사가 아이오와주 여론조사에서 론 디샌티스 플로리다 주지사에 근소한 차로 뒤지거나 그를 제치고 2위까지 올라갈 가능성이 있는 것으로 내부적으로 예상한다고 전했다. 그 동안 트럼프 전 대통령은 헤일리의 상승세를 보여준 여론조사를 “가짜 뉴스”라고 비판하며 헤일리를 위협적인 경쟁자로 여기지 않는다는 입장을 보였다. 여론조사 기관인 아메리칸 리서치 그룹이 지난 14~20일 뉴햄프셔주 공화당 예비경선에 참여할 것으로 보이는 유권자 600명을 대상으로 실시해 이날 공개한 여론조사 결과에 따르면 도널드 트럼프 전 대통령 지지율은 33%로 헤일리 전 대사(29%)와 격차가 4%포인트였다. 이 조사의 오차범위는 ±4%포인트다. 전국 단위 조사에서 50~60%의 당내 지지율을 기록하던 공화당 유력 대권 주자인 트럼프 전 대통령과 헤일리 전 대사의 격차가 여론조사 오차범위 안에 들어온 것은 이번이 처음이다. 이 조사에서 크리스 크리스티 전 뉴저지 주지사는 13%, 론 디샌티스 플로리다 주지사는 6%, 비벡 라마스와미 후보는 5%의 지지율을 각각 기록했다. 헤일리 전 대사측은 “이제 두 사람 경쟁임이 분명해졌다”고 평가했다고 의회전문매체 더힐이 전했다. 헤일리 전 대사는 최근 아이오와 및 뉴햄프셔주에서 지지율이 상승세를 보이고 있다. 세인트 앤셀렘 칼리지 서베이 센터가 전날 공개한 뉴햄프셔주 여론조사에서 트럼프 전 대통령(44%)과 헤일리 전 대사(30%)의 격차는 14%포인트였다. CBS 방송의 8~15일 뉴햄프셔주 조사에서도 트럼프 전 대통령 지지율(44%)과 헤일리 전 대사(29%)의 지지율 격차는 세인트 앤셀렘 칼리지 서베이 센터와 비슷했다. 헤일리 전 대사는 아이오와주에서의 지지율도 9월에 비해 10%포인트 정도 상승한 17%(에머슨 칼리지 조사)를 기록했다. 다만 트럼프 전 대통령은 아이오와주 공화당 유권자를 대상으로 한 이 조사에서 50%의 지지를 받으며 압도적 우위를 유지했다. 미국 대선 후보 경선은 당원만 참여할 수 있는 코커스(당원대회) 방식 및 당원뿐 아니라 일반 유권자도 참여하는 프라이머리(예비선거) 방식으로 각각 주별로 진행된다. 공화당은 내년 1월 15일 아이오와주에서 첫 코커스를, 같은 달 23일 뉴햄프셔에서 첫 프라이머리를 진행한다. 두 주(州)는 50년 동안 경선 초기 판세를 보여주고, 선전한 후보가 여론의 집중 조명을 받으며 선거운동의 모멘텀을 얻게 된다는 점 등의 이유로 미국 대선에서 중요한 상징성을 갖고 있다. 다만 두 지역은 대의원 숫자 자체가 적어서 전체 경선 판도에 미치는 파급력이 크지 않고 인구 구성에서 백인 비율 등이 높다는 점에서 대선 표심을 정확하게 반영하기에는 한계가 있다는 지적도 적지 않다. 조 바이든 대통령은 2020년 민주당 대선 경선에서 아이오와 및 뉴햄프셔에서 각각 4위, 5위를 기록했으나 사우스캐롤라이나에서 반전에 성공한 뒤 민주당 대선 후보가 됐다. 민주당은 이런 이유로 공식적인 첫 대선 경선 지역을 사우스캐롤라이나로 변경했으나 뉴햄프셔주는 이에 반발해 1월 23일 프라이머리를 강행하기로 해 논란을 빚고 있다. 한편 트럼프 전 대통령 재임 시절 혐의에 대한 형사상 면책 특권 여부를 신속하게 판단해달라는 잭 스미스 특별검사의 요청을 연방대법원이 거부했다. 대법원은 별다른 설명 없이 거부 방침만 밝혔다. 이에 따라 2020년 대선 결과 뒤집기 등의 혐의로 형사 기소된 트럼프 전 대통령 재판이 지연될 우려가 있다고 미국 언론이 전망했다. 앞서 이달초 워싱턴DC 연방지방법원은 트럼프 전 대통령이 2021년 1월 6일 지지자들에게 의회 난입을 부추긴 연설을 한 것은 “대통령 후보라는 개인 자격”으로 행동한 것이기에 면책특권이 없다고 결론지었다. 의회 경찰 2명과 민주당 의원 10여명이 트럼프 전 대통령이 선거를 도둑맞았다며 폭동을 촉발하는 바람에 자신들이 피해를 보았다면서 제기한 손해배상 소송에서 트럼프 전 대통령측이 공무수행이었다며 면책특권을 주장하자 연방법원이 이렇게 판단하고 재판을 계속하도록 했다. 그러자 트럼프 전 대통령은 이 판결에 대해 항고하면서 이에 대한 최종 판단이 나올 때까지 법정 절차를 모두 보류해줄 것을 요청했다. 이렇게 되면 항소법원을 거쳐 연방 대법원 순으로 절차가 진행될 경우 재판이 지연될 수 있다고 보고 스미스 특검은 지난 11일 트럼프 전 대통령이 재직 시에 발생한 범죄 혐의와 관련해 면책 특권이 있는지를 신속하게 결정해줄 것을 연방 대법원에 직접 요청했다. 워싱턴DC 항소법원은 내년 1월 구두변론을 시작할 예정이다. 스티브 블라덱 텍사스대 법과대학 교수는 CNN 인터뷰를 통해 “내년 3월에 트럼프 재판이 시작되는 것은 여전히 가능하다”면서도 “연방 대법원이 항소 재판을 먼저 진행하려는 의지가 분명하기 때문에 3월 재판이 그대로 시작될 가능성은 상당히 낮아졌다”고 말했다.

일론 머스크(52)의 소셜미디어(SNS) 엑스(X·옛 트위터)가 유럽연합(EU)의 SNS 규제법 첫 공식 조사 대상에 올랐다. EU 집행위원회는 18일(현지시간) 성명을 통해 X에 대해 디지털서비스법(DSA)에 따른 위반 조사를 공식적으로 개시했다고 밝혔다. DSA는 메타, 인스타그램 등 SNS 플랫폼에서 가짜 뉴스와 불법 콘텐츠가 유통되는 것을 막기 위한 장치다. EU의 공식 조사는 지난 8월 법 시행 이후 처음이다. 플랫폼은 유해·불법 콘텐츠의 신속한 제거와 예방 시스템을 마련해야 하고, 이를 어길 경우 연간 글로벌 수익의 최대 6%에 해당하는 과징금을 물게 된다. EU는 지난 10월 머스크에게 DSA를 준수하라고 촉구한 지 두 달여 만에 X에 대한 공식 조사에 착수했다. 당시 EU는 이스라엘과 팔레스타인 무장정파 하마스 간 전쟁 초기 X에 가짜뉴스가 범람한다며 DSA 준수를 촉구한 바 있다. 티에리 브르통 EU 집행위원은 “X는 투명성 의무 준수 미흡 및 사용자 인터페이스의 기만적인 디자인으로 조사를 받고 있다”며 “대형 온라인 플랫폼이 ‘규모가 커서 신경 쓰지 않아도 되는’ 시대는 이제 끝났다”고 말했다. 집행위는 개별 콘텐츠에 대한 조사보다 X가 콘텐츠를 처리하는 방식을 살펴볼 예정이라고 설명했다. X가 자체 약관을 준수하는지, 불법 콘텐츠 신고 메커니즘이 있는지, 이를 얼마나 신속하게 처리하는지 등을 집중적으로 조사할 예정이다. 특히 X의 ‘블루체크’ 시스템을 살펴보고 있다고 EU 관계자는 덧붙였다. 블루체크는 당초 누군가가 검증되고 신뢰할 수 있는 출처임을 나타내는 인증 시스템이었는데, 머스크 인수 후 프리미엄 서비스 이용자 표시로 바뀌었다. 집행위는 블루 체크가 여전히 인증된 계정임을 나타내는 것처럼 이용자에게 오해를 주는지, 프리미엄 사용자의 게시물이 일반 사용자보다 더 많이 노출되는지 등도 파악하기로 했다. 이에 대해 X 측은 “DSA를 준수하기 위해 최선을 다하고 있으며, 규제 절차에도 협조하고 있다. 이번 조사 과정이 정치적 영향력으로부터 자유롭고 법을 준수하는 게 중요하다”고 밝혔다. 머스크는 앞서 지난 10월 EU의 경고에 대해 “우리의 정책은 모든 것의 출처가 공개되고 투명하다는 점이며, 이는 EU도 지지하는 접근 방식”이라면서 “대중들이 볼 수 있도록 뭘 위반했다는 말인지 나열해달라”고 발끈한 바 있다. 블룸버그 통신은 최근 소식통을 인용해 X가 올해 연간 25억 달러(약 3조 2683억원)의 광고 수입을 올릴 것으로 전망했다. 이를 기준으로 환산하면 과징금은 최대 1억 5000만 달러(약 1964억원)이다. X를 ‘시민 저널리즘’의 한마당으로 만들겠다는 머스크는 가짜 뉴스를 창궐하게 만든 책임자라는 비판을 받았다. 이스라엘과 하마스 간 전쟁 이틀째인 지난 10월 8일엔 미국이 이스라엘에 80억 달러 규모 지원을 승인했다는 백악관 문서를 퍼다 나르기도 했다. 하지만 이는 지난 7월 조 바이든 행정부가 우크라이나에 4억 달러를 지원한 문서를 조작한 문건이었다. 이스라엘 언론인 것처럼 이름을 ‘예루살렘 포스트’라고 지은 한 계정은 X에서 베냐민 네타냐후 이스라엘 총리가 병원으로 이송됐다는 허위 기사를 올려 비난을 샀다. 지난해 4월 트위터 인수 후 신원 인증을 받은 미디어·유명인의 계정 옆에만 표시해주던 ‘블루체크’ 마크를 월 8달러에 아무에게나 판매하면서 정보의 진실 여부를 더욱 알기 어렵게 만들었다는 것이다. 익명 기반으로 한 사람이 다수의 계정을 운영할 수 있는 X는 SNS 중 가짜 뉴스 생성과 확산이 가장 빠른 플랫폼으로 꼽혀 악명을 높였다. 가짜 뉴스가 ‘직접적인 테러’라는 인식이 세계적으로 강화되고 있지만 정작 미국에서는 규제가 힘을 받지 못하고 있다. 워싱턴포스트(WP)에 따르면 바이든 정부는 최근 가짜 뉴스 유포를 차단하기 위해 페이스북, 인스타그램 등 일부 SNS 회사와 진행하던 허위정보 경고 시스템 운영을 중단했다. 야당인 공화당이 ‘기본권 침해’라며 공세에 나섰고 법원에서도 공화당을 지지하는 판결을 내렸기 때문이다. WP는 “인공지능(AI)이 발달하며 한층 손쉽게 선동 자료를 만들 수 있는 환경이 됐다”고 했다. 메타 유럽 본사가 있는 아일랜드의 규제 당국은 지난 5월 개인정보보호법 위반을 이유로 메타에 12억유로(약 1조 7000억원) 규모 과징금을 부과했다. 노르웨이 정부는 메타가 이용자의 데이터를 무분별하게 수집하고 있다며 지난 8월 이후 매일 하루 100만크로네(약 1억 2000만원)의 벌금을 부과하고 있다. 개인정보 수집을 막는 방식으로 페이스북과 인스타그램의 영향력을 줄이려는 것이다.