2023년 3월 도널드 트럼프 전 미국 대통령이 뉴욕 맨해튼에서 자신을 체포하려는 경찰과 싸우는 사진이 소셜미디어(SNS)에 광범위하게 유포됐다. 한 달쯤 지나 미 공화당 전국위원회는 조 바이든 대통령이 재선될 경우 일어날 수 있는 다양한 상상 속 재난의 모습을 보여 주는 광고를 공개했다. 지난해 11월에는 일본 SNS에 기시다 후미오 총리가 성적인 발언을 하는 영상이 유포돼 논란을 불렀다. 여름에 유튜브에 올라온 것인데 X(옛 트위터)를 타고 하루 만에 조회수 230만회를 훌쩍 넘겼다. 모두 인공지능(AI) 딥러닝을 기반으로 한 합성 기술인 딥페이크로 만든 영상과 이미지였다.문제는 세상에 없는 인물과 이미지를 만들어 내는 딥페이크가 더 방대한 정보가 투입되는 딥러닝을 통해 더 정교해지고 실존에 가까워진다는 점이다. 말하는 모양의 동영상을 만들고 실제 동영상에 입술 움직임만 바꿔 넣는 딥페이크 기술로 생성한 동영상을 X나 유튜브에 올리기만 하면 삽시간에 전 세계로 퍼져 나간다. 팩트체크를 통해 가짜뉴스로 판명되더라도 이미 누군가에게는 사실로 인식되고 있을 터. 이렇게 가짜뉴스를 퍼뜨리기 좋은 상황은 극단적인 정치 분열이 있을 때나 전쟁 상황에서 더 큰 효과를 발휘한다. 우크라이나·러시아 전쟁 초반인 2022년 3월 페이스북과 유튜브 등에 퍼진 볼로디미르 젤렌스키 우크라이나 대통령의 항복 영상이 단적인 예다. 직후 블라디미르 푸틴 러시아 대통령의 평화 선언 영상이 올라왔다. 둘 다 조작된 영상으로 밝혀지면서 메타와 유튜브 등 운영사는 원본 영상을 삭제했지만 여전히 흔적이 남아 있다.딥페이크를 이용한 가짜뉴스는 전 세계 주요 선거가 줄줄이 예정된 올해 특히 민주주의를 위태롭게 하는 요소로 꼽힌다. 미국 코넬대 세라 크렙스 교수와 더그 크리너 교수는 ‘AI는 어떻게 민주주의를 위협하는가’(민주주의 저널)라는 논문에서 한 실험 결과를 내놨다. 이들은 미국 주의원 7000여명에게 AI가 쓴 편지와 사람이 작성한 편지를 동시에 보냈는데, 사람이 직접 작성한 이메일의 응답률은 AI가 쓴 이메일보다 2% 정도 높은 수준에 불과했다. 이들은 “사람이 만든 진짜 정보와 AI가 생성한 가짜 정보를 구별할 수 없는 상황”이라면서 “허위조작정보를 받아들였다고 해서 유권자들의 선택이 반드시 바뀌는 건 아니지만 민주주의 사회 내 구성원들 간 신뢰를 저해하고 공론장을 왜곡할 수 있다”고 지적했다. 3개월 전 치러진 아르헨티나 대선에서는 상대 후보를 비방하려고 만든 홍보물에 생성형 AI가 마구잡이로 악용됐다. 당시 집권 좌파연합의 대선후보였던 세르히오 마사 경제장관은 극우 경제학자 출신 하비에르 밀레이 당시 후보(현 대통령)가 “(장기 매매 시장이 활성화되면) 아이를 낳는 것이 곧 투자가 될 수 있다”고 말하는 딥페이크 영상을 제작해 유포했다. 밀레이 후보는 마사 후보를 구소련 정치 선전 포스터의 주인공으로 만들어 마사가 공산당 지도자처럼 보이게끔 했다. 두 사람이 만든 홍보물은 AI 창작물임을 명시했음에도 유권자들에게 부정적 인상을 심어 줬다. 미국은 올해 11월 5일 예정된 대선에서 생성형 AI가 훨씬 더 강력한 영향을 미칠 수 있다고 우려하고 있다. 과거의 조악한 합성 영상물과 달리 요즘의 생성형 AI가 만들어 내는 딥페이크는 실제 사람이 만든 것과 구별하기 어려울 정도로 정교하다. 지난해 5월 SNS에서 미 국방부 청사인 펜타곤 건물에서 대형 화재가 발생한 사진이 빠르게 확산하면서 주식시장까지 출렁이는 소동을 빚었다.사안의 심각성을 인식한 미국, 유럽 등 서구 민주주의 사회는 AI를 활용한 가짜뉴스를 규제하는 방법을 끊임없이 고민하고 있다. 유럽연합(EU)은 이미 수년 전부터 가짜뉴스라는 말 대신 허위정보, 잘못된 정보라는 표현을 쓰면서 미디어 역할을 차단해 왔다. 다음달부터는 ‘디지털 서비스법’을 시행해 가입국이 허위정보, 차별적 콘텐츠, 아동 학대, 테러 선전 등의 불법 유해 콘텐츠를 의무적으로 제거하도록 했다. 이를 지속적으로 위반하면 가입국에서 퇴출하는 등 강경하게 대응한다. 미국도 SNS 사업자를 규제하는 방안을 논의하는 중이다. 특히 대선을 앞둔 상황에서 극단주의와 인종차별 등 부정적인 콘텐츠가 유통되는 것을 차단하기 위해서다. 문제가 된 콘텐츠를 제작·배포하는 것뿐만 아니라 이를 확산시킬 수 있는 플랫폼을 제공한 SNS 사업자에게도 합당한 책임을 물어 콘텐츠 규제를 강화하고 있다. 포린폴리시(FP)는 최근 “올해가 AI의 안전한 개발과 사용을 위한 규제를 부과하는 정부 거버넌스 위기를 극복할 수 있을 분수령이 될 것”이라고 평가했다. 미 플로리다, 사우스캐롤라이나, 뉴햄프셔를 비롯한 여러 주에서 선거 캠페인 영상에 AI 사용을 규제하는 법안, 특히 딥페이크 기술을 이용해 후보자의 목소리와 얼굴을 악의적인 방식으로 합성하거나 조작하는 것을 규제하는 법안을 검토하고 있다. 미 싱크탱크인 ‘브레넌 정의센터’는 지난해 11월 발표한 보고서에서 “민주주의의 실험실이라 불리는 주의회에서 AI의 위협에 대처하는 방법에 대해 영감을 줄 수 있을 것”이라고 썼다. AI 연구 선도자이자 구글 딥마인드의 공동 창업자인 무스타파 술레이만은 새 저서 ‘다가오는 물결’에서 “AI를 통제하는 것은 거의 불가능하다”고 주장했다. 술레이만은 AI의 결함이 발생하는 이유를 정부가 파악해야 하고 AI가 폭주할 때 전원을 끌 수 있는 제동장치를 마련해야 한다고 썼다.이언 브레머 스탠퍼드대 교수는 지난해 포린어페어스 기고문에서 “AI는 기존 세계 권력의 구조를 뒤흔들고 어떤 경우에는 권력을 공고히 할 수 있다”면서 “민주주의 국가에서 개인정보를 동의 없이 무분별하게 수집해 상업적으로 활용하는 속도는 더 빨라지고, 권위주의 정부가 사상과 표현의 자유를 억압하는 도구로 악용될 수 있다”고 지적했다. 이어 “AI를 규제하지 않으면 국가는 민주주의를 유지하고 공공재를 제공해야 한다는 사회적 합의의 정당성을 잃는다”고 경고했다. AI가 제멋대로 만들어 낸 ‘환각 현상’과 허위조작정보의 위협에 맞서기 위해서는 전통적으로 민주주의 사회 공론장에서 ‘팩트체커’ 구실을 해 온 레거시미디어의 역할이 강조된다. 아서 설즈버거 뉴욕타임스 발행인은 컬럼비아저널리즘리뷰 기고문 ‘저널리즘의 본질적 가치’에서 “언론은 새롭게 취재한 사실을 다양한 방식으로 교차 검증하는 게이트키핑 시스템을 지키고, 공정과 이해충돌 방지 원칙을 준수했는지, 편견과 차별의 관점을 걸러 냈는지 프로세스를 거친다”면서 “잘못된 정보가 민주주의의 근간을 흔드는 이 시대에 언론이야말로 세상에 꼭 필요한 자양분”이라고 강조했다. 크렙스·크리너 교수의 강조점은 문해력 향상이다. 이들은 “안타깝게도 인터넷 세상은 거대한 확증편향 기계”라며 “객관적 사실을 포기하거나 뉴스에서 사실을 분별하는 능력을 포기하면 민주주의 사회가 기반해야 하는 신뢰가 무너질 수 있다”고 꼬집었다. 이어 제대로 걸러진 미디어를 통한 디지털 리터러시(지식과 정보를 이해하는 능력)의 필요성을 언급하며 “시민들이 다양한 언론 매체를 ‘신뢰하되 검증하는 방식’으로 콘텐츠의 진실성을 가리는 눈과 가짜뉴스를 맹신하지 않는 비판적 사고력을 길러야 한다”고 부연했다.

韓·美·유럽 등서 국가 단위 선거몇 초면 가짜 음성·영상 등 생산 각국 규제·단속 기술 등 미비 미 대선과 한국 총선 등 전 세계 47개국에서 선거가 치러지는 2024년을 목전에 두고 챗GPT 등 생성형 인공지능(AI)을 악용한 가짜뉴스와의 전쟁이 현실로 닥쳤다. 가짜 영상·음성을 단 몇 초 만에 만들어 내는 AI 딥페이크 기술이 한층 정교해지면서 선거를 앞두고 여론을 선동, 조작하는 허위 정보가 판을 칠 것이라는 경고가 나온다. 명백한 가짜는 물론 사실과 주장의 경계가 모호한 선전 선동에도 딥페이크가 동원되면 민주주의의 설 자리가 더 위태로워진다는 우려도 제기되고 있다. 미 언론들은 내년에 있을 대선이 딥페이크가 본격 동원되는 사상 최초의 선거가 될 것으로 내다보고 있다고 AP통신이 26일(현지시간) 전했다. 이를 제어할 안전장치가 전보다 약해졌거나 정부 차원의 규제가 아직 미진한 탓에 가짜뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 지적이다. 딥페이크가 선거와 정치판을 뒤흔드는 사례는 널렸다. 양측 진영이 대립하고 선거전이 치열할수록 딥페이크 활용은 잦아진다. 미국 공화당전국위원회는 지난 5월 30여초짜리 선거 광고를 공개하면서 중무장한 채 샌프란시스코 거리를 순찰하는 미군, 남부 국경을 점령한 이민자들, 대만을 폭격한 중국 전투기 등의 이미지를 담았다. 조 바이든 행정부에서 일어나는 디스토피아를 나타낸 것인데, AI가 만든 가짜 이미지였다. 지난 9월 총선을 치른 슬로바키아에서는 친미 성향의 야당 대표인 미할 시메츠카의 “우리 당이 선거에 이기려면 (소외 계층인) 로마족에게 돈을 줘야 한다”는 음성 파일이 파장을 불렀다. 이 역시 가짜였다. 당사자들은 즉각 반발했지만 투표 이틀 전에 나온 터라 선거에 영향을 미쳐 친러시아 성향 야당의 승리를 견인했다고 프랑스24 등은 전했다. 슬로바키아는 친러 선동과 우크라이나 전쟁 거짓 정보, 반이민을 부추기는 혐오 콘텐츠 등 허위 정보로도 선거가 얼룩졌다. 미중 대리전 격인 대선(2024년 1월 13일)을 앞둔 대만에서는 중국산 동영상 플랫폼 틱톡(중국명 더우인)에서 독립 성향 민진당 후보를 겨냥한 가짜 정보가 활개를 치고 있다. 대만의 의무 군복무 기간이 내년부터 기존 4개월에서 1년으로 늘어나는데, 이를 두고 “대만 청년들은 군 복무 연장에 항의하고 전쟁을 반대하나 민진당이 청년들을 ‘대만 독립’의 사료로 삼고 있다”는 중국 측 주장을 담은 동영상이 유포되고 있는 것이다. 한국의 국가정보원 격인 대만 국가안전국에 따르면 지난해 1400개였던 가짜 정보가 올해는 최소 1800개로 늘어났다. 이들 가짜 정보는 틱톡, 인스타그램, 페이스북, 유튜브 등으로 유통됐다. 미국에서도 사법 재판에 휘말린 도널드 트럼프 전 대통령이 경찰에 체포되는 가짜 영상이 출현했다. AI 전문가인 워싱턴대 오런 에치오니 명예교수는 “(고령인) 대선 후보 바이든 대통령이 병원에 실려 가는 모습도 나올 수 있다”면서 “내 예상이 틀리면 좋겠지만, 재료는 널려 있고 나는 정말 겁이 난다”며 가짜 정보 홍수에 대한 불안감을 드러냈다. 하지만 규제는 기술 발전을 따라가지 못하는 추세다. 소셜미디어 업체들은 가짜뉴스 감시정책이 전반적으로 후퇴했고 AI 기술이 가장 앞선 미국에서도 아직 각 주에 단속을 맡기는 상황이다. 지난해 10월 옛 트위터(X)를 인수한 일론 머스크 테슬라 최고경영자는 콘텐츠 감시 인력을 대규모 해고하고 차단됐던 음모론·극단주의자들의 계정은 ‘표현의 자유’를 들어 복원했다. 페이스북·인스타그램 모회사인 메타와 유튜브 역시 최근 비용 절감을 위해 인력을 줄였다. 기술·미디어 분야 비영리 단체 ‘프리프레스’는 X와 메타, 유튜브에서 혐오 콘텐츠, 허위 정보와 관련해 미디어 보호 정책을 없앤 사례는 총 17개에 이른다고 집계했다. 가짜 정보를 걸러 내겠다면서 적용한 수단은 AI 라벨링 정책으로 제작자가 AI인지 아닌지를 가려내는 정도다. 미국은 연방 의회와 연방 선거관리위원회 차원에서 AI 생성 기술 규제 조치를 모색하고 있지만 아직은 확정된 게 없다고 AP통신은 전했다. 다만 연방 상원에 민주·공화당이 초당적으로 공동 발의한 법안에서는 “패러디, 풍자를 제외하고 연방 후보와 관련된 기만적인 딥페이크를 금지한다”는 내용을 담았다. 주별로는 캘리포니아, 미네소타, 텍사스, 워싱턴주 등이 정치 광고의 딥페이크를 규제하는 법안을 통과시켰다. 비영리 단체인 ‘퍼블릭 시티즌’에 따르면 일리노이, 뉴저지, 뉴욕주 등에서도 유사한 법안이 발의됐다. 미시간주의 경우 지난달 그레천 휘트머 주지사가 ‘선거 전 90일 이내 AI로 생성된 딥페이크 사용을 금지하고 정치 광고가 AI를 사용해 제작됐는지 여부를 명확히 밝혀야 한다’는 법안에 서명했다. 이를 위반하면 초범은 최대 93일 징역형, 최대 1000달러의 벌금형에 처한다. 언론과 정당에 대한 불신이 높은 나라일수록 대중들에게 침투하기 위해 AI를 활용한 딥페이크가 활개 칠 가능성이 높다. 허위 정보를 추적하는 초당파적 단체 ‘민주주의 안전 연합’의 브렛 셰퍼 선임 연구원은 “민주주의에 대한 유권자들의 불신이 커지면서 폭력으로 이어질 수 있다”며 “사람들이 궁극적으로 선거 정보를 신뢰하지 않으면 민주주의는 작동을 멈추게 된다. 인구의 상당수가 영향을 받는다면, 2021년 1·6 미 의회 난입 사태는 워밍업처럼 보일 것”이라고 경고했다.

‘딥페이크(deepfake)’ 기술로 사진 속 여성의 옷을 벗기는 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있다. 딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다. 10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다. 그래피카에 따르면 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다. 딥페이크 앱과 웹사이트에 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지가 뜬다. 사진 속 인물 대부분은 여성이다. 외신은 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다.구글은 이 같은 문제에 대해 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다. 디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 말했다. AI 기술 발달이 이 같은 딥페이크 앱이 범죄에 악용될 수 있다는 우려를 심화시키고 있다. 온라인상에서 당사자의 동의 없이 사진을 가져와 나체 사진 등 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.실제 한 인터넷 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다는 내용으로 성희롱을 조장하고 있다. 우리나라에서도 최근 여성 지인의 얼굴을 음란물에 합성해 SNS에 퍼뜨린 20대 남성 A씨가 경찰에 붙잡혔다. 경찰에 따르면 A씨는 익명의 SNS 계정을 통해 피해자에게 ‘삭제를 원하면 자신의 노예가 되거나 직접 사진을 찍어 보내라’고 위협하기도 했다. 우리나라는 성폭력 처벌법 제14조의2는 허위 영상물을 편집, 합성, 가공할 경우 5년 이하, 5000만원 이하 형에 처하도록 규정하고 있고, 판매할 경우 7년 이하 징역형에 처할 수 있도록 하고 있다. 다만 딥페이크 관련 처벌법은 지난해 성폭력범죄의 처벌 등에 관한 특례법 일부개정법률로 신설되었으나 제작 또는 반포한 자에 한하여 처벌한다는 점에서 딥페이크 포르노를 소비한 ‘단순 이용자’에 대한 처벌 규정이 전무한 상황이다. 한편 2019년 네덜란드의 사이버 보안연구 회사인 딥트레이스가 발간한 보고서에 따르면 전 세계 딥페이크 영상의 96%가 포르노 영상이었다. 또 피해자의 25%는 한국 여성 연예인이었다는 사실이 드러났다.

내년 총선 90일 전부터 ‘딥페이크’(Deepfake)를 활용한 선거운동이 전면 금지될 전망이다. 딥페이크 기술이 점점 정교해지면서 선거에 악용될 우려가 큰 만큼 새로운 법을 마련해 이를 방지한다는 것이다. 국회 정치개혁특별위원회는 4일 법안소위를 열고 딥페이크 선거 운동 금지를 골자로 하는 공직선거법 개정안을 통과시켰다. 딥페이크는 인공지능(AI)을 활용해 실제 인물의 얼굴이나 특정 부위를 가상으로 합성해 만들어낸 영상편집물을 뜻한다. 지난 대선 땐 딥페이크를 활용한 ‘AI 윤석열’, ‘AI 이재명’ 등이 허용됐다. 정개특위 관계자는 이날 서울신문의 통화에서 “딥페이크의 경우 사례는 많지 않지만 그 파급력이 큰 만큼 기간을 정해 통으로 금지시키는 게 좋겠다는 데 의견이 모였다”면서 “이견이 없는 만큼 5일 정개특위 전체회의에서 이를 통과시킬 예정”이라고 했다. 해당 법안이 7일 법제사법위원회를 통과하면 8일 예정된 본회의에서 최종 처리될 예정이다. 법안이 공포되면 22대 국회의원 선거 90일 전인 다음 달 11일부터 딥페이크를 활용한 선거 홍보 영상 배포는 전면 금지된다. 다음 달 11일 이전까지는 딥페이크를 인증하는 ‘표기’를 전제로 선거운동에 이용할 수 있다. 정개특위 법안1소위원장인 김영배 더불어민주당 의원은 소위 이후 기자들과 만나 “평소에는 딥페이크 선거 운동을 허용하되 ‘딥페이크’ 표기를 의무화하도록 했다”면서 “이를 위반할 경우 과태료를 물도록 했다”고 설명했다. 딥페이크 표기를 하지 않고 허위 사실을 담은 경우에는 가중 처벌까지 가능하다. 딥페이크 제작 목적이 당선일 경우와 낙선일 경우 모두 법의 적용을 받는다. 김 의원은 “‘선거운동을 위하여’라는 문구가 있는 만큼 선거와 아무 관계 없는 딥페이크는 허용된다”며 “이를테면 딥페이크를 활용한 기업 홍보 등은 아무 상관 없다”고 덧붙였다. 딥페이크가 선거 운동용인지 아닌지는 소관 기관인 중앙선거관리위원회에서 판별하기로 했다. 한편 이날 소위에서는 선거운동 도구를 착용하는 것뿐만 아니라 소지할 수 있도록 하는 내용의 공직선거법 개정안도 의결됐다. 현행법상 피켓과 같은 표지물을 목에 걸 수는 있지만 손으로 들 수 없게 돼 있는데 과하다는 지적에 따라 이를 수정한 것이다. 국민투표법 전부 개정과 관련한 입법공청회도 열렸다. 김 의원은 “국민투표법이 2014년 헌법재판소에서 위헌 판결이 난 이후로 10년간 한 번도 논의된 적이 없다”면서 “국민 투표가 오히려 거꾸로 국민 통합을 해치는 결과로 이어져선 안 되지 않느냐는 지적이 있었다”고 설명했다. 국민투표법에 대한 심사는 다음 소위에서 진행될 예정이다.

생성형 AI 발달로 그림 작업 진입장벽 낮아져가상·실존 인물 안 가려…수요·저변 확대 부작용“제작 자체는 방지 어렵고 배포 안되게 막아야” 생성형 인공지능(AI) 발달로 이미지 제작의 진입장벽이 낮아지면서, 선정적인 이미지가 무차별적으로 온라인에 유포될 수 있다는 우려가 커지고 있다. 생성형 AI는 이용자의 요구에 따라 이미지, 미술, 소설, 비디오 등 다양한 콘텐츠를 만들어내는 인공지능이다. 대부분의 이미지 제작용 AI가 기존에 있던 이미지를 데이터로 학습해 새로운 이미지를 제작하는 원리인 만큼, 실존 인물의 사진이 성적인 용도로 악용될 가능성이 있다. 지난 1일 인스타그램에서 ‘aigirl’(에이아이걸)이라는 단어를 검색하자 67만여개의 게시물이 쏟아졌다. 대부분의 게시물이 가슴 등 여성의 특정 신체 부위를 부각하거나 노출 수위가 높은 이미지를 포함하고 있었다. 최근에는 일반인이 생성형 AI를 통해 ‘돈벌이’를 하는 경우도 생겨나고 있다. 직장인 이모(27)씨는 지인이 이미지 제작 AI를 이용해 남들을 위한 ‘가상 여자친구’를 만든다는 소식을 들었다. 노출이 포함된 여성 이미지를 제작한 뒤 인스타그램 등에 게시함으로써 이용자들에게 후원금을 받는다는 것이다. 실제로 각종 SNS에는 AI로 선정적인 이미지를 생성해 올리는 채널이 우후죽순 생겨나고 있으며, 심지어 구독료를 받는 곳도 있다. 특히 심각한 문제는 대부분의 SNS가 연령 제한 없이 누구나 쉽게 접근할 수 있다는 점이다. 초등학교 교사 임모(28)씨는 연합뉴스에 “성에 관심이 커지는 고학년 학생들은 AI 프로그램에 선정적인 키워드를 입력할 가능성이 있다”며 “그런 키워드로 그림을 그려낸다면 아이들의 성 인식을 왜곡시키고 정서적으로도 좋지 않을 것 같다”고 말했다. 음란물이나 선정적 이미지가 범람하는 문제는 AI 기술의 발달로 인한 대표적인 부작용으로 꼽힌다. 가상의 캐릭터를 대상으로 한 선정적인 이미지의 유포를 넘어, 기존 동영상에 다른 사람의 얼굴을 합성하는 기술인 딥페이크를 활용해 실존 인물을 성적 대상화한 불법 허위 음란물이 만들어지는 사례도 급증하고 있다. 그러나 관계 당국의 시정 조치는 아직 많이 부족한 것이 현실이다. 방송통신심의위원회는 2020년 6월부터 지난 8월까지 불법 성적 허위 영상물에 대해 총 9천6건의 시정 요구를 했지만 실제로 삭제된 영상은 4.55％(410건)에 불과했다. 지금이라도 제도 개선이 필요하다는 주장도 나오는 이유다. 전문가들은 생성형 AI의 자체적인 윤리 판단이 어렵기 때문에 이미지를 배포·유포하는 단계에서 차단하는 것이 필요하다고 지적한다. 김주호 한국과학기술원(KAIST) 전산학부 교수는 “AI 프로그램이 실존 인물의 그림을 재료로 삼아 실사화하고, 성적 대상화하더라도 이것이 음란하거나 실존 인물의 인권을 침해했다고 단정하기는 쉽지 않다”며 “이미지의 생성 자체를 막는 기술적 요소를 강구하기보다는 유포·활용 단계에서 제재하는 것이 바람직하다”고 강조했다.

오픈AI 샘 올트먼, APEC CEO 서밋 참석 하루 뒤 전격 해임‘챗GPT 아버지’…회사 지분은 없어 ‘챗GPT의 아버지’ 샘 올트먼이 오픈AI 최고경영자(CEO)직에서 전격 해임됐다. 오픈AI는 17일(현지시간) 성명을 통해 “이사회는 올트먼이 회사를 계속 이끌 수 있는지 그 능력에 대해 확신하지 못하고 있다”며 그가 회사를 떠난다고 밝혔다. 이어 “이사회는 신중한 검토 과정을 거쳐 올트먼이 지속해서 소통에 솔직하지 않아 이사회가 책임을 다하는 데 방해가 된다는 결론을 내렸다”고 전했다. 올트먼이 아시아태평양경제협력체(APEC) CEO 서밋에 참가한 지 불과 하루 만이다. 올트먼은 지난 6일에는 오픈AI 첫 개발자 회의를 열고 최신 AI 모델 ‘GPT-4 터보’를 선보이는 등 오픈AI의 앞으로의 사업 계획을 밝힌 바 있다. 오픈AI 이사회는 일리야 수츠케버 수석 과학자를 비롯해 소셜 지식공유 플랫폼 쿼라 CEO 애덤 디엔젤로, 기술 사업가 타샤 맥컬리, 조지타운 보안 및 신흥 기술 센터의 헬렌 토너 등으로 구성돼 있다. 오픈AI는 또 회장인 그레그 브록먼이 “이사회 의장직에서 물러날 것”이라고 전했다. 아울러 올트먼 CEO를 대신해 최고기술책임자(CTO)인 미라 무라티가 임시 CEO를 맡을 것이라고 설명했다. 올트먼이 해임된 구체적인 이유에 대해서는 알려지지 않았다. 다만 올트먼은 자신의 엑스(X) 계정에 “오픈AI에서 보낸 시간이 정말 좋았다”며 “나 개인적으로도, 세상을 조금이나마 변화시키는 계기가 됐고 무엇보다도 재능 있는 사람들과 함께 일할 수 있어서 좋았다”고 말했다. 그러면서 “다음 계획에 대해서는 나중에 더 자세히 말하겠다”고 덧붙였다. 이사회 “소통에 솔직하지 않아…회사 계속 이끌 능력 확신 못해”올트먼 “세상 조금이나마 변화시키는 계기…앞으로 계획은 나중에” 오픈AI 공동 창업자 중 한 명인 올트먼은 지난해 말 챗GPT를 출시하며 전 세계에 생성형 AI의 열풍을 이끌었다. 그는 오픈AI가 마이크로소프트(MS)로부터 130억 달러에 달하는 투자를 받고, 기업가치를 860억 달러(111조 5000억원)로 평가받는 데 기여했다. MS는 올트먼의 해임 소식이 전해진 뒤 대변인 성명을 통해 “우리는 오픈AI와 장기적인 파트너십을 맺고 있으며, 고객에게 차세대 AI시대를 제공하기 위해 미라(새 CEO)와 함께할 것”이라고 밝혔다. 이날 MS 주가는 전날보다 1.68% 하락 마감했다. 올트먼은 2015년 테슬라 CEO 일론 머스크와 링크트인 공동 창업자 리드 호프먼, 피터 틸 클래리엄 캐피털 사장 등과 함께 인류에게 도움이 될 ‘디지털 지능’ 개발을 목표로 오픈AI를 설립했다. 오픈AI의 CEO를 맡기 전에는 스타트업 인큐베이터인 와이 콤비네이터(Y Combinator) 회장을 지냈다. 2005년 설립된 와이 콤비네이터는 경제 전문 매체 포브스가 선정한 세계 최고의 스타트업 투자회사에 이름을 올리기도 했다. 올트먼은 오픈AI의 지분을 전혀 갖고 있지 않은 것으로 알려졌다. 비영리 기업으로 출발한 오픈AI가 2019년 이윤을 창출하는 영리 기업이 된 후 그는 회사 지분을 갖지 않기로 했다고 한다. 올트먼은 지난 6월에는 우리나라를 방문해 한국 스타트업과 협력할 준비가 돼 있다고 밝히기도 했다. 올트먼 해임 배경, 내홍·가족사 등 추측 난무공식사유 ‘솔직하지 않다’ 거짓말·전횡 등으로 해석저가전략 불화설…투자 딴주머니 발각 등 의혹도 ‘보안불만’ MS 개입설…여동생 ‘학대폭로’도 다시 주목 갑작스러운 올트먼 해임과 관련해 테크크런치 등 기술 전문 매체는 올트먼이 이사회와 갈등을 겪었거나 회사 내 보안 문제를 일으켰거나 개인적 가족사 등으로 인해 해임됐을 가능성이 있다고 소개했다. 우선 오픈AI가 발표한 성명 내용 가운데 “올트먼이 계속 소통에 솔직하지 않아 이사회가 책임을 다하는 데 방해가 됐다”는 부분이 주목받는다. 여기서 ‘소통에 솔직하지 않았다’는 건 올트먼이 이사회를 상대로 거짓말을 했거나 특정 사업을 독단적으로 진행했다는 우회적 표현일 수 있다는 분석이다. 예컨대 올트먼이 이사회와 합의 없이 인수 합병과 같은 중대 사안을 논의했고 이것이 해임으로 이어졌을 수 있다는 추측이 나온다. 테크크런치는 그간 올트먼에게 불만을 품은 마이크로소프트(MS)가 해임에 입김을 넣었을 가능성도 제기했다. MS가 2019년부터 오픈AI에 총 130억 달러(약 16조원)를 투자해 지분 49％를 보유하는 만큼 자연스럽게 개입 가능성이 거론된다. 지난주 MS는 자사 직원이 내부 기기에서 챗GPT에 접속할 수 없도록 웹사이트를 차단했다. 이는 오픈AI에 중대한 보안 문제나 개인정보 유출 사고가 발생해 올트먼이 해임됐을 수 있다는 주장으로 이어지기도 한다. 오픈AI와 전략적 파트너십까지 구축한 MS가 해당 조처를 한 배경에는 심각한 보안 문제가 연루돼 있을 것이라는 추측이다 올트먼과 이사회가 기업의 장기적 비전과 관련한 충돌을 빚었을 가능성이 제기된다. 현재 오픈AI는 막대한 개발 등 비용이 투입된 자사 제품을 상대적으로 저렴한 가격에 판매하는 전략을 쓰고 있다. 이를 장기 전략으로 끌어갈 경우 기업의 존립 여부를 장담할 수 없는 만큼 올트먼과 이사회가 견해차를 보였을 수 있다는 설명이다. 그 외 올트먼이 챗GPT 외 다른 분야에 대한 개인적 투자를 이사회 동의 없이 진행했을 가능성도 있는 것으로 전해졌다. 일각에서는 올트먼이 가정사 문제로 해임됐을 가능성을 내놓는다. 앞서 올트먼의 여동생 애니는 X(옛 트위터)를 통해 “오빠들, 특히 샘 올트먼과 잭 올트먼으로부터 성적, 신체적, 정신적, 언어적, 재정적 학대를 당했다”고 주장한 바 있다. 다만 해당 폭로의 진위는 아직 밝혀지지 않았다. 테크 전문지들도 오픈AI의 발표만을 볼 때는 업무문제에 무게가 실린다고 본다. 테크크런치는 “이사회 표현을 통해 알 수 있는 건 이 조치(해임)가 개인적 문제가 아니라 업무적 문제에서 비롯됐다는 점”이라고 해석했다. 오픈AI 이끌 35세 무라티는…테슬라 모델X 개발 브레인알바니아 출신 개발자…‘비영리’ 시절 오픈AI 합류AI 규제 필요하다는 입장 밝히기도 올트먼이 전격 해임되면서 오픈AI는 당분간 기계공학도 출신의 35세 미라 무라티 최고기술책임자(CTO)가 이끌게 됐다. 오픈AI가 임시 CEO로 선임한 무라티는 1988년 알바니아에서 태어나 캐나다로 이주해 교육받았다. 다트머스대 학부 시절 경주용 하이브리드 자동차를 개발한 그는 전기차업체 테슬라의 모델X 개발에 핵심적 역할을 했다. 그는 가상현실(VR)의 손동작 인식 소프트웨어를 개발한 스타트업 립모션에도 몸담았다가 2018년 응용AI(인공지능)·파트너십 부문 부사장으로 오픈AI에 합류했다. 오픈AI는 당시 인공일반지능(AGI)이 전 인류에게 혜택을 줄 수 있도록 애쓰는 비영리 조직이었다. 미국 일간 뉴욕타임스(NYT)에 따르면 무라티는 테슬라에서 일하면서 AI를 접하고 그 분야에서 일자리를 찾게 됐다. 그는 지난 8월 벤처캐피탈업체 안드레센 호로위츠 주최로 열린 행사에서 “지능은 모든 것에 영향을 미치는 우주의 핵심 단위”라며 “인류의 집단지성을 향상하는 것보다 더 고무적인 일은 없을 것”이라고 말했다. 오픈AI 전·현직 직원들은 무라티가 CTO 직함을 달고 있지만 운영 책임자 역할을 했다고 말했다. 그는 개발자들이 일정에 맞춰 챗GPT를 완성하도록 했고 오픈AI에 투자한 마이크로소프트(MS)와 관계를 관리하며 MS의 미국·유럽 내 AI 정책을 세우는 데도 참여했다. MS의 사티아 나델라 CEO는 미 시사주간지 타임 기고에서 무라티에 대해 “기술적 전문성과 상업적 감각, 임무의 중요성에 깊이 공감하는 팀을 구성하는 능력을 보여줬다”며 “그 결과 지금까지 가장 흥미로운 AI 기술을 구축하는 데 기여했다”고 평가했다. 무라티는 AI의 위험성과 관련해 올트먼과 마찬가지로 규제와 협력이 필요하다는 입장이다. 그는 지난 2월 타임 인터뷰에서 “악용되거나 악의적 행위자가 사용할 수 있다”며 “오픈AI와 비슷한 회사가 통제되고 책임감 있는 방식으로 이런 문제를 대중에게 인식시키는 게 중요하다”고 말했다.

금융 서비스 내 명의 도용시도 사전 차단신분증 사본 식별해 즉각 중단 조치 가능이상 탐지 시스템 고도화 계속 이어질 전망 인터넷은행들이 가짜 신분증을 걸러낼 인공지능(AI) 기술을 속속 도입하고 있다. 카카오뱅크와 토스뱅크에 이어 케이뱅크도 신분증 이미지 인식 시스템에 AI를 도입했다고 9일 밝혔다. 고객들이 비대면 계좌 개설 과정에서 찍은 사진이 악용되는 것을 막기 위한 장치다. 비대면으로 계좌를 개설하려면 신분증을 촬영해 본인 인증을 받아야 한다. 그런데 일부 사기꾼들이 타인의 신분증을 촬영해 인쇄하거나 컴퓨터, 모바일 화면에 띄운 신분증 이미지로 인증을 통과하는 일이 종종 벌어졌다. 업계 관계자는 “인증제도를 악용하는 사람들은 피해자에게 본인 명의의 알뜰폰을 개통해주면 돈을 주겠다고 유도한다”며 “이후 사전에 찍어둔 당사자의 신분증 사진을 이용해 대포통장 개설과 명의도용 대출을 시도한다”고 밝였다. AI 도입 전에는 이러한 사본들이 전자 시스템상에서 원본으로 인식되는 경우가 더러 있었다. 그러나 AI 기술은 눈으로는 보이지 않는 특유한 패턴을 잡아내 사본을 가려낸다. 신분증 특유의 재질과 사본(인쇄본, 화면 등) 재질과의 차이점을 구분하는 것이다. 또 AI 기술은 사람들이 위·변조 여부를 판단할 때 주안점을 두는 요소들을 머신러닝으로 스스로 학습하고, 이를 기반으로 진위를 확인한다. 악용 사례를 막기 위해 인터넷 은행은 단순 기술 도입에서 더 나아가 삼중 검증 체계, 검수 우선순위 선정 등 보안성 강화를 위해 노력 중이다. 먼저 케이뱅크는 인터넷 은행 3사 중 가장 최근 시스템을 도입해 빠른 인식 속도와 100%에 가까운 문자 정보 인식률을 자랑한다. 또 기존에는 AI가 신분증 사진을 위·변조 가능성이 있다고 판단하면 고객은 상주 중인 담당 직원이 맨눈으로 다시 확인하기 전까지 서비스 이용이 제한됐다. 이번 서비스 개편에서는 이 이중 검증 체계 앞에 촬영 즉시 AI가 신분증의 위·변조 여부를 판단하는 검증 망을 추가했다. 소요시간을 단축하고 보안성을 높인 것이다. 토스뱅크는 지난해 5월부터 준비를 시작해 지난 2월부터 AI 기반 실시간 신분증 이상 탐지 시스템을 도입했다. 개시 이후 6개월간 잡아낸 가짜 신분증은 총 600건이다. 신분증 진위 판별에 94%의 정확도를 보였다. 더불어 토스뱅크는 담당 직원의 판단과 AI가 확인한 진위 결괏값이 서로 다를 경우 다시 한번 직원이 검증하는 삼중 검증 체계를 운영 중이다. 카카오뱅크는 은행권에서 최초로 원본과 사본 구분 기능을 도입했다. 지난해 9월부터 적용해 3개월간 1만 9000건, 일평균 200건 이상의 가짜 신분증을 식별했다. 또 신분증 제출자의 거래 이력, 진위확인 상태 등을 바탕으로 부정 사용 가능성을 계산하고, 고위험 신분증을 먼저 검수하는 기술도 개발해 운영 중이다.

유명 정치인의 가짜 동영상과 사진, 기사 등이 여러 나라에서 문제가 되고 있다. 요미우리신문은 4일 인공지능(AI)을 이용해 만든 기시다 후미오 일본 총리의 가짜 동영상이 소셜미디어(SNS)에서 확산하고 있다고 보도했다. 문제의 동영상은 현지 민영 방송 니혼테레비 뉴스 프로그램 로고가 표시돼 있다. 양복 차림의 기시다 총리가 성적 발언을 하는 것처럼 제작된 이 동영상에는 ‘LIVE’(생중계) ‘BREAKING NEWS’(뉴스 속보)라고 적혀 있어 기시다 총리의 발언이 긴급 속보로 생중계되는 듯한 인상을 준다. 3분 43초 분량의 이 동영상은 인터넷 동영상 채널인 ‘니코니코’ 등에 올라왔고, 이후 30초 분량으로 지난 2일 소셜미디어 엑스(X·옛 트위터)에 올라와 하루 만에 조회수 232만회 이상을 기록했다. 오사카에 사는 한 남성(25)은 ‘재미로’ 인터넷에 공개된 기시다 총리의 기자회견과 자민당 대회 연설 등 동영상에 있는 총리의 음성을 AI에 학습시켜 가짜 음성을 만들었다며 지난해부터 기시다 총리 이외에도 아베 신조 전 총리의 가짜 동영상도 제작해 올렸다고 밝혔다. 이에 대해 방송사는 “방송, 프로그램 로고를 가짜 동영상에 악용한 것은 도저히 용서할 수 없다”라며 법적 대응하겠다는 방침이다. 체포돼 끌려가는 트럼프 ‘가짜 사진’ 앞서 지난 3월에는 미국 공화당 유력 대선주자인 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 체포돼 끌려가는 모습이 담긴 ‘가짜 사진’이 인터넷상에서 확산한 바 있다. 트럼프 전 대통령은 2016년 대선 직전 포르노 배우와 과거 성관계 사실을 숨기기 위해 회삿돈으로 합의금을 지급한 뒤 장부를 조작했다는 의혹으로 뉴욕 맨해튼지검의 수사를 받고 있으며, 조만간 기소될 가능성이 있다고 미 언론은 관측해 왔다. 당시 트위터(엑스) 등 소셜미디어에는 “트럼프가 맨해튼에서 체포됐다”는 설명과 함께 관련 사진이 확산했다. 트럼프 전 대통령이 도망가는 듯한 장면, 경찰관들에게 둘러싸여 수갑이 채워지고 끌려가는 모습, 교도소에서 주황색 재소자 복장을 착용한 포즈 등 다양했다. 일부 이미지는 디지털 자료 분석단체 ‘벨링캣’의 창립자 엘리엇 히긴스가 만든 것으로 확인됐다. 그는 트위터에 이미지 생성 AI ‘미드저니’를 이용, 간단한 프롬프트 입력으로 사진을 만들었다고 썼다. 하지만 일부 소셜미디어 사용자들은 이런 맥락 없이 사진을 날랐고, 실제 트럼프 전 대통령이 체포된 줄로 받아들이는 사람도 다수로 알려졌다. 논란이 커지자 트위터는 관련 사진이 노출될 때 따라붙는 공지문을 통해 “트럼프 체포 이미지는 가짜”라며 “인공지능이 생성했고, 사실적 근거가 없다”고 밝혔다.

사용자 따라 가짜뉴스 등 부작용인공지능 개발 미중 양강 구도로 “빅테크 기업인 구글, IBM은 물론 대형은행 웰스파고와 세계 최대 명품 기업 루이비통모에헤네시(LVMH) 등 세계적 기업 10여곳이 ‘인간 중심적 인공지능(AI)’ 개발에 참여 중이다. 미국의 고유한 문화적 가치에 첨단 AI 기술을 접목한 제품과 서비스를 내놓기 위해서다.” 25일 서울 중구 웨스틴조선호텔에서 열린 ‘2023 서울미래컨퍼런스’ 기조강연자로 나선 제임스 랜데이(인간 중심 AI연구소 부소장) 미국 스탠퍼드대 컴퓨터공학과 교수는 ‘착한 인공지능의 한계: 인간 중심 인공지능을 향하여’라는 주제로 기조발표를 마친 뒤 서울신문과의 인터뷰에서 ‘인간 중심적 AI’ 개발에 대한 산업계의 관심이 높다고 밝혔다. 랜데이 교수가 부소장으로 있는 인간 중심 AI연구소는 인간 중심적 가치를 내장한 AI 기술을 확산시킨다는 목표를 갖고 있다. 이미 AI를 활용한 제품과 서비스가 시판되고 있으나 사회적 부작용도 만만찮을 것으로 예상되는 만큼 이를 사전에 대비해 개발 단계부터 착한 AI를 기획한다는 것이다. 랜데이 교수는 “AI가 스스로 인류의 통제를 벗어나 전 세계를 장악한다는 소설 같은 이야기는 전혀 현실적이지 않다”고 선을 그으면서도 대중에 무료 공개된 AI 기술을 나쁜 의도를 가진 이용자들이 악용해 사회에 해를 끼칠 수 있다고 우려했다. AI를 활용해 소셜미디어(SNS)로 허위 정보를 대량 배포하거나 성적 수치심을 일으키는 사진을 만들어 협박하는 범죄는 이미 현실로 다가왔다. 랜데이 교수는 “인간을 표적으로 삼아 자동으로 폭발물을 터뜨리는 방식으로 AI가 전쟁에서 대량 살상 무기로 활용될 수도 있다”면서 “AI는 전 세계 국가의 안보와 국방에 큰 영향력을 미치는 단계로 접어들고 있다”고 진단했다. 전 세계 AI 개발이 미중 양강 구도로 확고하게 수렴하고 있다는 진단도 내놨다. 미국이 선두를 이끄는 상황에서 중국이 국가적 차원의 투자로 AI 산업을 육성한 결과 유리한 위치를 차지하고 있다는 설명이다. 그는 “한국 역시 AI 시스템에 자국의 문화와 가치를 내재하는 기술 개발에 관심을 기울여야 할 것”이라고 말했다.

지난 1일 중국 항저우 아시안게임 축구 8강 한중전 당시 포털 ‘다음’의 ‘클릭응원’ 90% 이상이 중국에 몰리며 정부와 여당의 다음 ‘때리기’는 절정을 맞았다. 논란은 국정감사를 거치며 하나둘 추가되고 있다. 총선을 앞두고 안 그래도 포털 견제에 쌍심지를 켠 정치권인데, 하필 한중전에서 중국을 응원하는 클릭이 폭발하다니. 방송통신위원회로부터 긴급 보고를 받은 한덕수 국무총리는 “방통위를 중심으로 법무부, 과학기술정보통신부, 문화체육관광부 등 유관 부처와 함께 ‘여론 왜곡 조작 방지 대책’을 마련하기 위한 범부처 태스크포스(TF)를 시급히 구성하라”고 지시했다. 방통위 측에선 “해외 세력이 가상사설망(VPN)을 악용해 우회 접속하거나 매크로 조작으로 중국 응원 댓글을 대량 생성하는 방법을 사용했다”고 분석했다. 댓글이 아니라 클릭인데. 국민의힘 김기현 대표는 페이스북에 “다음이 여론조작의 숙주 역할을 하고 있다. 여론조작의 망령이 되살아나고 있는데, 발본색원해 엄단하겠다”고 썼다. 그런데 과연 그렇게 무시무시한 일이었을까. 당시 한 커뮤니티 사용자가 “축구 응원 주작(없는 사실을 꾸며 만듦) 중”이라며 “인터넷프로토콜(IP) 두 개로 돌리고 있다”고 쓴 게시물 캡처 이미지가 돌아다녔다. 이런 일은 처음이 아니다. 지난해 9월 카메룬 상대 A매치 평가전에서도, 직전 16강 키르기스스탄전에서도 클릭응원이 상대팀에 몰렸다. 사건이 장난이었을지, 정말 반국가 세력의 획책이었을지는 경찰이 조사 중이니 조만간 드러날 테다. 하지만 이와 별개로 안타까운 점은 카카오 측 설명에 나타난 클릭응원 참여 IP가 단 5591개에 불과했다는 것이다. 다음 클릭응원은 로그인을 하지 않아도 참여할 수 있는데, 로그인을 해야 적을 수 있는 네이버의 같은 경기 ‘응원 오픈톡’ 3만 9847개의 약 7분의1에 불과했다. 축구가 여론조작을 운운할 분야도 아니지만 ‘여론’이라고 하기엔 포털 다음이 너무 주목을 받지 못하고 있다는 걸 보여 준 수치다. 다음은 여권이 두려워했던 진보 여론의 집결지가 더이상 아니다. 이명박 정부를 비판하던 토론이 항상 벌어지던 ‘아고라’는 2019년 문을 닫았다. ‘드루킹’이 여론조작에 이용했던 뉴스 댓글도 지난 6월부터는 24시간 동안만 남는 ‘타임톡’으로 바뀌며 사실상 없어졌다. 클릭응원도 즉각 폐지됐다. 정치권의 공격을 받기 시작하면 즉각 폐지하는 게 요즘 포털의 자세다. 십수년의 경험에 기반한 최선의 선택이다. 이는 네이버도 마찬가지다. 카카오 입장에서도 참 난처한 존재다. 검색 점유율은 5%가 안 된다. 매출은 계속해서 내리막이고 주력 서비스 카카오톡과의 시너지도 나지 않으니 사내 독립기업(CIC)으로 떼어냈다. 그렇다고 분사시키기도 곤란하다. 요즘 저마다 생성형 인공지능(AI)을 개발하는데, 대규모언어모델(LLM) 학습에 포털만 한 게 또 없다. 마이크로소프트, 구글, 애플, 테슬라를 보면 정보통신기술(ICT) 분야에서 한번 기술을 선점하면 그게 얼마나 오래가는지 알 수 있다. 다행히 생성형 AI는 아직 글로벌 빅테크들도 시작 단계다. 한국에 이들과 맞설 기업이 몇 개나 될까. 작은 손, 미운 손이라도 모두 보태야 할 순간이다. 이제 그만 다음을 놔줄 때다.

지난 7월 개봉한 액션 영화 ‘미션 임파서블: 데드 레코닝’에는 주인공인 이선 헌트(톰 크루즈)가 맞서 싸우는 ‘최강 빌런’(악당)으로 인공지능(AI) 엔티티가 등장한다. 엔티티는 전 세계의 모든 디지털 기기에 접속해 데이터나 시스템을 마음대로 이용·조작할 수 있을 뿐 아니라 수없이 많은 시뮬레이션과 계산으로 미래를 내다볼 수 있는 능력까지 갖춘 초월적인 존재로 그려진다. 목소리도, 형체도 없이 공간을 넘나들며 앞날을 예견하는 신과 같은 존재와 싸워야 하는 잘생긴 헌트의 미간 주름이 유난히 깊어 보였던 것은 기분 탓일까. 그런가 하면 최근에는 전기차 업체 테슬라의 최고경영자(CEO) 일론 머스크가 서방 국가들의 ‘빌런’으로 떠올랐다. 머스크는 지난해 2월 러시아가 우크라이나를 침공하면서 현지의 인터넷 통신망이 끊길 위기에 처하자 자신의 민간 우주기업 스페이스X가 운영하는 스타링크의 위성통신 서비스를 무료로 제공하며 일약 ‘영웅’이 됐다. 그러나 그가 크림반도에 주둔한 러시아 해군을 향한 우크라이나의 기습 공격을 막기 위해 일대의 통신망을 활성화해 주지 않은 사실이 드러나면서 분위기는 급반전됐다. 여기엔 러시아의 핵 공격을 우려한 그의 판단이 작용했다고 전해졌다. 바야흐로 막강한 기술을 가진 개인이 시장뿐 아니라 국가의 운명까지 좌우할 수 있는 시대가 된 것이다. 최근 AI와 같은 첨단기술이 산업계의 화두다. 정보통신기술(ICT) 업계뿐 아니라 제조업, 각종 하드웨어 산업에서도 AI를 미래 먹거리로 선포하고 나섰다. 하늘을 나는 택시, 로봇 비서 등 어릴 적 공상과학(SF) 영화에서 보던 풍경이 눈앞에 펼쳐지는 것도 가까운 미래가 됐다. 그러나 빠른 시장 변화와 기술의 발전은 보안이나 사생활 침해, 범죄의 악용, 저작권 문제 등 다뤄야 할 과제가 그만큼 기하급수적으로 늘어나고 있다는 의미이기도 하다. 우리가 이전에 겪지 못한 새로운 형태의 디지털 재난을 대비해야 한다는 경고도 나온다. 지난 10일 문화체육관광위원회 국정감사장에서는 가수 김광석의 ‘서른 즈음에’를 구성지게 부르는 유인촌 문체부 장관의 딥페이크(AI를 기반으로 한 인간 이미지 합성 기술) 영상이 공개됐다. 당시 장내에선 웃음이 터져 나왔지만, 누구나 타인의 모습을 만들어 낼 수 있게 됐다는 명제는 웃어 넘길 수만은 없는 지점이다. 신기술의 등장은 늘 규제와 혁신이라는 두 가치를 충돌시킨다. 세계 각국은 이미 AI 규범 마련에 돌입한 상태다. 국내에서도 과학기술정보통신부에서 연내 ‘AI 법제 정비 로드맵’을 발표할 계획이다. 업계에서는 하향식 규제가 혁신의 싹을 누를까 우려하는 목소리도 나온다. 샘 올트먼 오픈AI CEO가 “기술은 규제하면 우회해서 발전한다”면서 “기술 자체가 아니라 기술을 활용하는 사례를 규제해야 한다”고 말한 것도 같은 맥락이다. 모두가 ‘일상을 바꾸는 기술’을 이야기하는 시대다. 그러나 우리 사회는 송두리째 달라진 일상을 맞이할 준비가 얼마나 돼 있을까. 새로운 기술로 산업의 꽃은 피우되 악용되는 것은 막을 기준. 참 어려운 숙제를 받아들었다.

미국 시카고 근교에서 이슬람교도를 향한 증오범죄로 팔레스타인계 6세 소년이 흉기에 찔려 숨지는 사건이 발생했다. 미국 당국은 이스라엘과 하마스 간 무력 충돌을 계기로 자국 내 유대인, 이슬람교도를 향한 범죄 확산 우려가 커지자 경계 강화에 나섰다. 일리노이주 윌 카운티 경찰은 15일(현지시간) 1급 살인, 증오범죄 등의 혐의로 조셉 추바(71)를 체포해 조사 중이라고 뉴욕타임스(NYT) 등이 전했다. 미 최대 무슬림 단체인 미국이슬람관계위원회(CAIR)에 따르면 추바는 사망한 소년과 어머니가 세 들어 살던 집 주인으로, 중동 관련 뉴스를 보고 화가 나 범행을 저지른 것으로 전해졌다. 그는 전날 소년 집 문을 두드린 뒤 어머니가 문을 열어 주자 “무슬림은 죽어야 된다”고 소리치며 그녀의 목을 조르고 공격했다. 가까스로 피한 모친이 경찰에 신고했지만 소년은 흉기에 26곳을 찔려 병원으로 옮겨진 뒤 숨졌다. 현지 경찰은 “용의자가 두 피해자를 이슬람교도라는 이유로 잔인하게 공격했다”고 밝혔다. 미 연방수사국(FBI)은 미국 내 유대인, 이슬람교도에 대한 위협이 증가하면서 경계를 강화했다. 크리스토퍼 레이 FBI 국장은 이날 브리핑에서 “하마스나 다른 외국 테러조직이 이번 분쟁을 악용해 지지 세력에게 미 영토에 대한 공격을 요청할 가능성을 무시할 수 없으며 무시하지도 않는다”고 말했다. FBI는 종교 지도자들에게 연락해 지역사회의 잠재적 위협을 논의하는 한편 유대교, 이슬람교 종교시설을 보호하기 위해 경찰과도 협력하고 있다. 조 바이든 미 대통령은 이날 성명에서 “질(영부인)과 나는 충격을 받았고 진저리가 났다”고 비난하며 “유족과 팔레스타인인, 아랍인, 미국 내 무슬림 공동체에 위로와 기도를 보낸다. 이 끔찍한 증오 행위는 미국에서 설 자리가 없다”고 강조했다. 흑백 인종 갈등에 이어 화약고였던 유대계와 이슬람 사이 갈등이 충돌로 불거질 우려도 높아지고 있다. 미 뉴욕 도심에선 지난 13일 이스라엘 및 팔레스타인 지지 집회가 동시에 벌어지며 양측의 난폭 행위로 60여명이 체포됐다.

팔레스타인계 美 6세 소년 증오범죄에 희생70대 범인 “무슬림은 죽어야 해” 외치며 공격숨진 소년 26군데 자상…모친도 중상FBI “이스라엘-하마스전쟁 후 위협 증가 추적” 팔레스타인계 미국인 소년이 이슬람교도를 향한 잔인한 증오의 칼날에 희생됐다. 미 당국은 이스라엘과 팔레스타인 무장정파 하마스 간 전쟁 발발 이후 미국 내 유대인과 이슬람교도를 겨냥한 위협이 증가하고 있다고 보고, 경계를 강화하고 나섰다. 15일(현지시간) 미국 뉴욕타임스(NYT) 보도와 현지 경찰 발표에 따르면 일리노이주 윌 카운티 경찰은 1급 살인 및 살인미수 등 혐의로 조셉 추바(71)를 체포해 조사 중이다. 경찰은 증오범죄 혐의도 적용했다. 추바는 지난 14일 시카고 남서부 근교의 플레인필드 타운십의 한 주택에서 팔레스타인계 미국인 소년 와데아 알 파유메(6)를 흉기로 찔러 살해하고, 소년의 어머니(32)를 상해했다. 그는 이들 모자가 세 들어 살던 주택의 집주인이다.미 최대 무슬림 단체인 미국이슬람관계위원회(CAIR)는 소년의 어머니가 병원에서 남편에게 보낸 메시지를 토대로, 추바가 중동 관련 뉴스를 보고 화가 나 범행을 저질렀다고 전했다. CAIR에 따르면 집주인 추바는 소년의 집 문을 두드린 뒤 어머니가 문을 열어주자 “너희 무슬림들은 죽어야 해!”라며 소년의 어머니 목을 조르고 흉기를 휘둘렀다. 소년의 어머니는 911 신고를 위해 화장실로 몸을 피했으나, 그 짧은 사이 추바는 소년을 공격했다. 소년의 어머니는 남편에게 보낸 문자메시지에서 신고 후 화장실 밖으로 나왔을 때 추바가 아들을 흉기로 찔렀다는 것을 알았다며 “모든 일은 단 몇 초 만에 일어났다”고 설명했다. 현지 경찰은 추바가 휘두른 흉기에 소년은 26군데 자상을 입었으며, 병원으로 옮겨졌지만 끝내 숨을 거뒀다고 밝혔다. 소년의 어머니도 추바의 공격으로 12군데 이상 자상을 입고 심각하게 다쳤으나 다행히 생명에는 지장이 없는 것으로 전해졌다.현지 경찰은 “용의자는 하마스와 이스라엘 간 분쟁이 진행 중인 가운데 두 피해자가 이슬람교도라는 이유로 잔인하게 공격했다”라고 설명했다. CAIR 시카고지부는 성명을 내고 “최악의 악몽이 벌어졌다”며 “무거운 마음으로 소년과 그의 어머니를 위해 기도한다”라고 말했다. 미 연방수사국(FBI)은 이스라엘과 하마스 간 전쟁 발발 후 미국 내 유대인과 이슬람교도를 향한 증가하는 위협을 추적하며 경계를 강화했다. 크리스토퍼 레이 FBI 국장은 이날 브리핑에서 이스라엘과 하마스 간 전쟁이 미국 내에서 폭력 행위를 부추길 수 있다고 우려했다. 전쟁 발발 후 미국 내에서 하마스 지지 세력이 미국 내 공격을 지시했다는 증거는 발견되지 않았지만, 공격이 발생할 가능성을 배제할 수는 없다고 레이 국장은 말했다. 레이 국장은 “하마스나 다른 외국 테러조직이 분쟁을 악용해 지지 세력에게 미국 영토에 대한 공격을 요청할 가능성을 무시할 수 없으며, 무시하지도 않고 있다”라고 말했다. FBI는 종교 지도자들과 연락해 지역사회의 잠재적 위협에 대해 논의하고 있으며, 미국 내 유대교 및 이슬람 관련 종교시설을 보호하기 위해 경찰과 협력을 강화하고 있다고 밝혔다.조 바이든 대통령은 15일 성명을 통해 “그 아이의 팔레스타인 무슬림 가족은 우리 모두가 추구하는, 평화롭게 살고 배우고 기도할 피난처를 찾아 미국에 왔다”며 피해자가 팔레스타인 출신 이민자의 후손임을 소개했다. 바이든 대통령은 이어 “질(영부인)과 나는 충격을 받았고 진저리가 났다”며 유족과 팔레스타인인, 아랍인, 미국 내 무슬림 공동체에 위로와 기도를 보낸다고 말했다. 그러면서 “이 끔찍한 증오 행위는 미국에서 설 자리가 없다”며 “어떻게 기도하고 무엇을 신봉하며, 우리가 누구냐는 것을 이유로 한 공포로부터의 자유라는 근본 가치에 위배되는 것”이라고 강조했다. 이어 바이든 대통령은 “미국인으로서 우리는 함께 모여 이슬람교에 대한 증오와 모든 형태의 편견과 증오를 거부해야 한다”며 “미국에서 누군가를 향한 증오는 설 자리가 없다”고 덧붙였다.

팔레스타인 무장정파 하마스가 지난 7일 이스라엘 남부 지역을 기습 공격한 뒤 이스라엘의 보복 공격이 이어지면서 양측에서 4000명이 넘는 사망자가 발생한 가운데, 해당 분쟁의 영향이 세계 각국으로 확산하고 있다. 미국 뉴욕타임스의 15일(이하 현지시간) 보도에 따르면, 조셉 추바(71)라는 이름의 남성은 전날 시카고 남서부 인근 플레인필드 타운십의 한 주택에서 6세 소년을 흉기로 찔러 숨지게 한 혐의로 긴급 체포됐다. 일리노이주(州) 경찰에 따르면, 용의자는 숨진 6세 소년 및 어머니가 함께 사는 집의 집주인으로 확인됐으며 최근 중동에서 벌어진 하마스와 이스라엘의 분쟁 소식을 보고 화가 나 범행을 저지른 것으로 알려졌다. 사건 당시 집주인인 용의자는 소년의 집 문을 두드린 뒤 소년의 어머니가 문을 열어주자 “무슬림을 죽어야 한다”고 소리친 뒤 그녀의 목을 조르고 흉기로 공격을 시도했다. 소년의 어머니는 가까스로 흉기를 피해 화장실로 몸을 숨겼고, 이후 911에 신고했다. 잠시 후 화장실 밖으로 나온 소년의 어머니는 흉기에 찔린 채 쓰러져 있는 어린 아들을 발견했다. 피해 소년은 급히 병원으로 옮겨졌지만 끝내 숨을 거뒀다. 경찰에 따르면 고작 6살인 피해 소년의 몸에는 26군데의 자상이 발견됐다. 소년의 어머니 역시 흉기 공격으로 10여 군데 상처를 입고 큰 부상을 입었으나, 다행히 생명에는 지장이 없는 것으로 알려졌다. 현지 경찰은 용의자를 1급 살인 및 살인미수 등의 혐의로 긴급 체포했다. 용의자에게는 증오범죄 혐의도 적용됐다. 경찰 측은 “용의자는 하마스와 이스라엘 간의 분쟁과 관련한 보도를 접한 뒤, 피해를 입은 모자가 무슬림(이슬람 교도)라는 이유로 잔인하게 공격했다”고 설명했다. 미국 최대 무슬림 단체인 미국이슬람관계위원회(CAIR) 및 미 당국은 하마스와 이스라엘의 대규모 분쟁이 시작된 이후 미국 내에서 유대인과 이슬람교도를 향한 위협이 증가했다며 우려를 표했다. CAIR 측은 공식 성명에서 “최악의 악몽이 벌어졌다. 무거운 마음으로 소년과 그의 어머니를 위해 기도한다”고 전했다. 미 연방수사국(FBI)도 하마스와 이스라엘간의 분쟁이 미국 내에서 폭력을 부추길 수 있다고 우려하며 경계를 강화하겠다고 밝혔다. 크리스토퍼 레이 FBI 국장은 “하마스나 다른 외국 테러조직이 분쟁을 악용해 지지 세력에게 미국 영토에 대한 공격을 요청할 가능성을 무시할 수 없으며, 무시하지도 않고 있다”고 강조했다. 또 “종교 지도자들과 연락해 지역사회의 잠재적 위협에 대해 논의하고 있으며, 미국 내 유대교 및 이슬람 관련 종교시설을 보호하기 위해 경찰과 협력을 강화하고 있다”고 덧붙였다.

할리우드의 거물급 배우 톰 행크스가 치과 보험 광고를 한다? 물론 그도 유명 연예인이기에 치과 보험 광고를 할 수는 있다. 그러나 왠지 어색하다. 올해 67세인 그와 달리 광고 속 톰 행크스의 모습은 흰머리도 없고 주름살도 없는, 훨씬 젊은 모습이기 때문이다. 이 광고는 톰 행크스 본인의 동의 없이 인공지능(AI)으로 합성한 이미지로 만든 광고였고, 톰 행크스는 문제의 광고가 자신과 아무런 관련이 없다고 직접 경고하고 나섰다. 2일(현지시간) CNN방송 등에 따르면 톰 행크스는 전날 자신의 인스타그램 계정에 “주의하세요! 나의 AI 버전으로 치과 보험을 홍보하는 영상이 있다”면서 “그 광고와 나는 아무런 관련이 없다”고 적었다. 그가 경고문과 함께 첨부한 사진 속 그는 현재 그의 모습보다 젊어 보인다. CNN은 이 사진이 그가 경고한 치과 보험 광고에 포함된 사진인지 독자적으로 확인하진 못했다고 전했다. 뉴욕타임스(NYT)는 톰 행크스가 이 광고와 관련해 법적 조처를 하거나 삭제를 요구할 계획이 있는지 톰 행크스 대리인에게 물었지만 답변을 받지 못했다고 보도했다. AI를 활용한 ‘가상 배우’가 할리우드에서 민감한 문제로 떠오른 가운데 톰 행크스의 경고문까지 나오면서 더욱 주목받고 있다. 지난 7월부터 할리우드 배우들이 파업에 나선 이유 중 하나도 AI를 활용한 가상 배우 문제다. AI가 가상 배우들의 연기 장면을 만드는 데 쓰이는 CGI(컴퓨터 생성 이미지) 기술을 훨씬 쉽고 저렴하게 만들어 배우의 일자리를 빼앗을 수 있다는 우려가 나오고 있다.할리우드 배우·방송인 노동조합(SAG-AFTRA)은 제작사들이 공정한 보상 없이 AI 기술로 연기자들의 일자리를 없애고 싶어 한다고 주장한다. 톰 행크스 역시 앞서 AI가 영화계에 미칠 악영향을 경고한 바 있다. 그는 지난 5월 영국 코미디언 애덤 백스턴의 팟캐스트에 출연해 ‘배우의 유사성(likenesses)’을 지적재산으로 보호하는 방안이 논의되고 있다며, AI 기술 때문에 자신이 죽고 나서도 새 영화에 계속 등장할 수 있다고 지적했다. 톰 행크스는 “이제 누구나 AI, 딥페이크(특정 인물의 얼굴 등을 영상에 합성) 기술로 나이에 상관없이 자기 모습을 재현할 수 있다”면서 “내가 내일 버스에 치여 크게 다치더라도 내 연기는 계속될 수 있다”고 말했다. AI를 악용한 사기성 광고에 피해를 본 유명인은 톰 행크스만이 아니다. NYT에 따르면 CBS방송 진행자 게일 킹도 2일 SNS에서 자신의 동의 없이 AI로 만들어진 자신의 이미지가 체중 감량 관련 광고에 쓰였다고 주장했다. 그는 인스타그램에 “이 제품에 대해 듣거나 사용한 적 없다”며 “AI 영상에 속지 말아달라”고 적었다.

“민간 주도 기업투자 적극 지원”이통3사·네이버 등 70여명 참석 윤석열 대통령은 13일 “가짜뉴스가 인공지능(AI)과 디지털을 통해 빛보다 더 빠른 속도로 확산되면서 자유민주주의와 시장경제를 훼손하고 우리의 미래와 미래세대를 망칠 수가 있다”며 AI 규범·질서 확립의 필요성을 강조했다. 윤 대통령은 이날 청와대 영빈관에서 제20차 비상경제민생회의를 겸한 ‘대한민국 초거대 AI 도약’ 회의를 주재하고 “AI와 디지털을 제대로 더 잘 쓰기 위한 법적 규제는 필요하다”며 이같이 말했다. 회의에서는 AI 산업 경쟁력 확보와 디지털 질서 정립에 대한 토론이 진행됐다. 초거대 AI란 대용량 데이터를 학습해 인간처럼 종합적인 인지·판단·추론을 하는 인공지능을 의미한다. 윤 대통령은 그동안 AI와 디지털 기술 발전은 필요하지만 악용이나 부작용을 방지할 규제가 필요하다는 주장을 발전시켜 왔다. 그는 디지털 질서 정립의 기본 방향인 ‘디지털 권리장전’을 만들고 나아가 글로벌 차원에서 통용될 ‘디지털 윤리규범’을 국제사회와 만들겠다는 구상을 진행 중이다. 앞서 윤 대통령은 지난해 9월 ‘뉴욕 구상’을 통해 디지털 질서의 필요성을 제기했으며 지난 6월에는 ‘파리 이니셔티브’에서 규범 마련을 위한 국제기구 설치를 제안했다. 그는 또 지난 10일 뉴델리 주요 20개국(G20) 정상회의에서 규범 마련을 위한 국제사회의 행동을 촉구하기도 했다. 윤 대통령은 “AI가 반도체·데이터·플랫폼 서비스를 비롯해 전후방 산업과 국가안보에도 막대한 영향을 끼친다”며 민간 주도의 기업 투자에 정부가 마중물을 부어 지원하겠다는 입장을 밝혔다. 그는 또 “초거대 AI를 둘러싼 각국의 주도권 경쟁이 아주 치열하다”며 “대통령으로서 전 산업의 발전과 도약이 이뤄질 수 있도록 초거대 AI 기업에 많은 관심을 가지고 지원을 하겠다”고 말했다. 기업들은 이 자리에서 글로벌 동향과 정부의 디지털 선언에 발맞춰 ‘디지털 대항해 시대 초거대 AI 출정’ 선언을 진행했다. 회의에는 SKT·KT·카카오·LG·네이버 등 AI 분야를 주도하는 민간 리더들과 AI 전문가, 관련 기관 관계자 등 70여명이 참석했다.

인스타그램과 틱톡 등 소셜미디어(SNS)에 인공지능(AI) 기술을 이용한 성매매 광고가 넘쳐나고 있다. SNS에서 직접적인 성매매를 광고하는 행위는 검열 대상이지만, AI를 이용한 성적인 광고는 걸러지지 않는다는 점을 이용한 것이다. 최근 미 NBC 방송에 따르면 수십 개의 테크 스타트업들은 ‘성(性)적으로 부적절한’(not-safe-for-work·NSFW) 경험을 조장하는 앱에 대한 노골적인 광고를 틱톡, 인스타그램, 페이스북 등에 올리고 있다. 광고에는 큰 가슴과 타이트한 옷을 입은 AI로 만든 ‘여자 친구’가 등장해 ‘NSFW 사진’이나 ‘맞춤형 핀업 걸’, ‘검열이 안되는’ 채팅을 제안하며 호기심을 자극한다. 특히 일부 광고는 스폰지밥과 쿠키 몬스터 등 인기 어린이 TV 캐릭터가 포함된 밈을 사용해 ‘NSFW 사진’을 만드는 앱을 홍보하는가 하면, 10대 이하로 보이는 소녀를 애니메이션으로 등장시키기도 했다. NBC는 페이스북과 인스타그램 모회사 메타가 소유한 앱에서 이러한 성적 광고를 올리는 앱 개발자 35명을 확인됐다고 밝혔다. 이들이 올린 광고는 모두 1000개를 넘는 것으로 알려졌다. 틱톡에서는 자극적인 AI 광고를 싣는 앱 개발자 14명이 확인됐다고 NBC는 설명했다. 논란이 일자 메타는 “사람이 만든 콘텐츠와 AI가 생성한 콘텐츠에 동일하게 성인용 콘텐츠 금지가 적용된다”고 해명했다. 틱톡도“ 성(性)적으로 자극적인 광고는 금지하고 문제가 된 사례는 삭제하고 있다”고 전했다. ● 소아성애자, AI 이용하기도 AI를 음란물 제작에 악용하는 사례는 늘고 있다. 최근에는 소아성애자들이 AI 기술을 이용해 실제처럼 보이는 아동 성학대 콘텐츠를 제작하고 판매한다는 외신 보도도 나왔다. 영국 BBC방송에 따르면 패트리온(Patreon)이나 픽시브(Pixiv)과 같은 온라인 콘텐츠 공유 플랫폼에 아동 얼굴이 합성된 성적 콘텐츠가 다수 유포되고 거래됐다. 아동 성학대 콘텐츠들은 AI 소프트웨어를 통해 제작됐다. 이들이 사용한 소프트웨어는 사용자가 주요 키워드를 입력하면 프로그램이 그에 맞는 이미지를 생성해주는데, 그림이나 이미지 편집에 대한 전문적인 지식 없이도 원하는 이미지를 만들 수 있다. 영국 전국경찰청장협의회(NPCC) 측은 BBC와의 인터뷰에서 “이러한 합성 이미지에 실제 아동이 등장하지 않기 때문에 문제가 없다는 주장은 잘못됐다. (이러한 행동은) 실제 아동 학대로까지 발전할 수 있다”며 “플랫폼이 이를 방관하며 막대한 이익을 내고도 도덕적 책임을 지지 않는 건 말이 안 된다”고 지적했다. 아동 성적 학대를 묘사하는 합성 사진은 실제 사진과 동일한 법적 책임을 지게 된다. 영국에서는 이를 소유, 게시, 전송하는 모든 것이 불법이다.

캐나다, 하와이 등 지구촌 곳곳에서 산불 피해가 발생했다. 역사상 최악의 산불로 기록될 것이다. 그리고 올해 여름 전 세계 평균기온은 1940년 관측을 시작한 이래 사상 최고치다. 산불, 폭염, 홍수, 가뭄 등 이상기후로 인한 피해와 고통은 기후위기 대응이 얼마나 시급한지를 여실히 보여 주었다. 문제는 어느 한 나라가 이 문제를 해결할 수 없다는 사실이다. 탄소 배출 저감과 친환경 에너지원으로의 전환은 일부 국가의 노력만으로 달성될 수 없다. 전 세계가 하나로 힘을 합치지 않으면 해답을 찾을 수 없다. 글로벌이 협력할 문제는 기후위기만이 아니다. 인공지능(AI)을 악용해 민주주의와 자유를 위협하는 문제를 해소하기 위해서는 공동으로 규범을 마련해야 한다. 이뿐만이 아니다. 글로벌 경제회복 지원을 위해 국제통화기금(IMF) 등 국제기구를 개혁하고 코로나 이후 새로운 팬데믹(대유행) 발발에 미리 준비하며 저소득국의 채무 위기를 해소하기 위해서도 전 세계가 머리를 맞대고 대책을 찾아야 한다. 하지만 현재 국제 정세는 글로벌 문제에 대한 해결책을 기대하기 어려워지게 하고 있다. 무역 전쟁으로 시작된 미중 갈등은 금융, 인권, 지정학적, 첨단산업까지 전방위적으로 확산되고 있다. 러시아의 우크라이나 무력 침공과 이에 따른 파급효과는 전 세계 식량, 에너지 위기를 심화시키고 있다. 이 와중에 개도국들은 중립적 입장을 취하면서 이해관계에 따라 특정 사안별로 지지하는 진영을 수시로 변경하고 있다. 이처럼 복잡하게 얽힌 이해관계로 올해 현재까지 열린 18개 모든 주요 20개국(G20) 장관회의에서는 합의문 도출에 실패했다. 이러한 암울한 상황 때문이었을까. 미국의 기후학자 피터 칼무스는 트위터에 “우리는 지금 남은 인생에서 가장 서늘한 여름을 보내고 있다”며 자조적으로 상실감을 드러냈다. 아직 희망은 있다. 오는 9~10일 인도 뉴델리에서 주요 20개국 정상이 모여서 어떤 지구촌 상생의 공약수를 내놓을지 관심이 집중된다. G20은 세계 국내총생산(GDP)의 86%, 교역액의 77%, 인구의 63%를 차지한다. 명실공히 지구촌을 대표하는 최상위 협의체다. 특히 유엔 등 국제기구에서 주요국 협의가 난관에 봉착한 상황에서 G20은 G7과 중국, 러시아 그리고 개도국들이 모두 참여하는 회의체다. 탄소중립과 청정에너지 전환, 글로벌 보건 협력, IMF 등 다자기구 개혁 등 글로벌 당면 과제가 모두 협상 테이블에 올라간다. 우리로서는 개도국에서 선진국으로 발전한 유일한 국가로서 선진국과 신흥국의 입장 차이를 조율하고 글로벌 중추국가로서 위상을 공고히 할 수 있는 무대이기도 하다. 우리나라가 글로벌 사회의 책임 있는 일원이자 글로벌 중추국가로서 인류의 현안 대응에 기여하는 동시에 국익도 확보할 수 있도록 철저히 준비해서 대응해 나가야 하겠다.

미국 할리우드 영화 ‘터미네이터’ 시리즈 주인공으로 유명한 배우 아널드 슈워제네거(75)가 영화 속 인공지능(AI) 발달에 따른 인류 위기 가능성에 대한 우려를 경고했다. AI 기술 발달과 악용에 따른 피해 가능성을 제기한 것. 1일(현지시간) 미국 언론 폭스뉴스는 이날 로스앤젤레스(LA)에서 열린 한정판 사진첩 출간 기념식에 참석한 슈워제네거가 1980년대 상영된 영화 속 AI의 기술과 현재 AI 기술이 매우 유사한 수준이라면서 이같이 발언했다고 보도했다.보도에 따르면 그는 “수십 년의 세월이 지나는 동안 영화 속 AI의 모습은 이제 현실이 됐다”면서 “‘터미네이터’의 제임스 카메론 감독의 미래 예측은 탁월했다”고 입을 열었다. 그가 언급한 영화 ‘터미네이터’는 1984년 1편이 처음 개봉, 인류 말살을 목표로 인간 사회를 무차별적으로 공격하는 AI ‘스카이넷’과 인간들의 갈등을 그린 작품이다. 이 영화는 인류의 AI 기술 활용이 극대화되면서 AI가 인류의 성장을 없애거나 제약하는 상황을 중점적으로 다뤄 충격을 준 바 있다. 그는 “아직 AI와 인간의 본격적인 전쟁이 시작된 것은 아니지만, 영화를 통해 상상했던 상황과 매우 유사한 상황까지 도달했다는 것을 체감한다”면서 “오늘날 모든 인류는 AI의 발전 방향이 어디로 향할 것인지와 관련해 큰 두려움을 느끼고 있다. 기계가 스스로 자각하고 그들이 인간을 대체하려 하려는 순간을 담아낸 영화 ‘터미네이터’와 비슷하다”고 했다. 그는 또 AI와 관련한 다양한 내용을 그려냈던 터미네이터와 에일리언, 아바타 등의 영화 작품들을 잇따라 언급했다. 영화 ‘터미네이터’ 속 장면처럼 AI가 자율적으로 표적화한 대상을 사살하는 등 부작용에 대한 우려를 제기한 것. 그는 “1980년대 이후 AI가 얼마나 비약적인 발전을 했는지 생각하고 고민해봐야 하는 시점”이라면서 “(내가) 터미네이터에서 연기했던 당시 상황이 현재와 매우 유사한 부분이 많다”고 현실판 터미네이터의 등장 가능성을 지적했다. 한편 유럽연합(EU)은 최근 이같은 AI 기술 발달에 따른 부작용을 방지하기 위해 지난달 세계 최초의 AI 규제 법안을 채택한 바 있다. 또 이에 앞서 지난 5월 미국 의회에서도 AI를 주제로 첫 청문회가 개최, AI의 해악을 막기 위한 기술 안보에 논의에 방점을 찍었다.

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술을 안전하게 이용하려면 비공개 정보나 개인정보 등 민감한 내용을 입력해는 안된다고 권고했다. 국정원은 29일 이같은 내용을 담은 ‘챗GPT 등 생성형 AI 활용 보안 가이드라인’을 공개했다. 국정원은 필수 보안 수칙으로 ▲비공개·개인정보 등 민감 정보 입력 금지 ▲생성물에 대한 정확성·윤리성·적합성 등 재검증 ▲생성물 활용시 지적 재산권·저작권 등 법률 침해·위반여부 확인 ▲연계·확장프로그램 사용시 보안 취약여부 등 안전성 확인 ▲로그인 계정에 대한 보안설정 강화 등을 제시했다.앞서 국정원은 생성형 AI를 활용하는 과정에서 업무상 비밀과 개인정보가 유출되거나 가짜뉴스, 비윤리적 자료가 생성되는 등 기술 악용 우려가 제기되자 지난 4월 국가보안기술연구소와 함께 가이드라인 제정에 착수했다. 국정원은 가이드라인을 국내 420여개 국·공·사립대학 등에 배포하고 국가사이버안보센터 홈페이지에도 게재할 계획이다. 국정원 관계자는 “챗GPT 등이 각광을 받으면서 여러 공공기관이 해당 기술을 활용하려고 했지만 정부 차원의 보안 대책이 없어 기술도입이 어려운 상황”이라며 “보안 가이드라인으로 각급기관이 생성형 AI기술을 적극 활용할 수 있는 토대가 형성되길 기대한다”고 했다.