“팀원으로서 우리는 그를 신뢰해야 한다.” 프랑스 축구선수 킬리안 음바페(25·파리생제르맹)가 한국 축구선수 이강인(22·마요르카)에 대한 일본 기자의 질문에 답한 영상이 조회수 1100만회를 넘어섰다. 그러나 해당 영상은 가짜인 것으로 드러났다. 지난달 15일 한 유튜브 채널에는 ‘이강인 영업 마케팅이죠? 일본 기자 질문에 음바페 반응’이라는 제목의 영상이 게재됐다. 영상은 일본 기자가 기자회견에서 영어로 “이강인이라는 한국 선수가 파리생제르맹(PSG)으로 온다고 들었다. 당신은 이것이 단순한 마케팅을 위한 영입이라고 생각하는가? 다른 일본 선수들에 대해서는 어떻게 생각하는가”라며 음바페에게 묻는 음성이 담겼다. 이후 PSG의 공격수인 음바페는 불쾌한 듯 고개를 내저으면서 프랑스어로 답한 장면이 이어졌다. 영상 자막에는 ‘재능을 가졌기에 여기로 올 수 있는 것이다. 질문의 의도가 무엇인지 모르겠지만 이곳에 온다는 것은 준비가 됐다는 것이고, 팀원으로서 우리는 그를 신뢰해야 한다. 그가 어떠한 선수인지 이미 충분히 알고 있고, 우리는 좋은 호흡을 보일 것이라고 생각한다. 그리고 당신 나라의 선수들에 대해서는 전혀 알지 못한다’라고 나와있다. 해당 영상은 6일 기준 조회수 1170만회를 넘어서는 등 화제가 됐다. 한글로 ‘오늘부터 음바페가 우리 형이다’, ‘음바페는 이제부터 우리 가족이다’, ‘있지도 않은 일본인 선수를 물어보네’ 등의 댓글이 달리기도 했다. 그러나 해당 영상은 인공지능(AI)으로 만들어진 가짜였다. 음바페의 답변은 2년 전인 2021년 ‘유로 2020’ 기자회견 때 진행된 것이다. 원본 질문은 한 기자가 불어로 ‘또 다른 거대한 뉴스는 파리생제르맹과 재계약이다. 유로 이후 결정을 내릴 것인가’라고 묻는다. 이에 음바페가 “난 지금 당장 재계약에 관심이 없다. 난 다른 선수들과 팀을 방해하지 않기 위해 프랑스 팀에 대해서만 얘기하겠다”는 등 본인의 거취를 묻는 질의와 대답이 오간 것이다. 이강인에 대한 언급은 없었다. 해당 가짜 영상은 텍스트를 음성으로 변환하는 TTS(Text-to-Speech)로 일본 기자의 음성을 조작하고 음바페의 답변은 게시자 마음대로 가짜 자막을 붙인 것이다. 축구대표팀 출신 이천수도 유튜브 채널 ‘리춘수’에서 가짜 영상에 속는 장면을 내보내기도 했다. 이천수는 가짜 영상을 보고 “(음)바페~ 난 널 좋아했어”라고 말했다. 이후 가짜 영상에 속은 사실을 알자 “많이 속을 수도 있겠다. 하지 마세요. 안 좋은 거다. 적이 생긴다”고 지적했다. 한편 스페인 마르카는 4일 PSG와 이강인의 원소속팀 스페인 마요르카가 이적에 완전히 합의했다고 보도한 바 있다.이 외에도 지난 6월 리오넬 메시가 중국 언론과의 인터뷰에서 ‘이강인을 후계자로 지목했다’는 질문에 답했다는 영상도 200만회가 넘는 조회수를 기록하고 있으나, 이 역시 조작된 영상이었다. 중국 진행자가 메시의 커리어에 관한 내용으로 이어간 인터뷰에 엉뚱한 자막을 붙인 것이다. 유튜브 커뮤니티 가이드라인을 보면, 혼동을 야기하는 방식으로 기술적으로 조작됐거나 변조된 콘텐츠는 유튜브에서 허용하고 있지 않다. 90일 이내 경고를 3번 받으면 채널이 영구삭제될 수 있다.

“작품 진위 판별 공신력 강화로 소비자 피해 방지에 큰 역할을 할 것으로 기대” 한국미술품감정연구센터(KAAAI)와 국제진품관리협회(AMB)는 상호 신뢰를 바탕으로 작품 감정 및 원본 인증(동일성 검증) 협력 체제를 구축하고, 블록체인을 기반으로 한 신뢰도 높은 데이터베이스(DB) 및 토큰(STO, NFT) 발행·거래 환경을 구축하는 데에 적극적으로 협력하기로 했다고 27일 밝혔다. KAAAI는 미술계에서 축적한 방대한 데이터와 독보적인 전문성은 물론, 오랜 수장고 운영을 통해 키워온 자산 보관 노하우와 역량을 바탕으로, 정확한 작품 진위·시가 감정 및 보관 서비스를 제공하는 미술품 감정평가 회사다. 국내외 미술시장을 분석하여 정기 간행물을 발행하고, 미술품 감정 전문인력 양성을 위한 교육 프로그램을 운영하며 한국 미술 산업의 발전에 이바지해왔다. AMB가 국내외 특허를 기반으로 개발한 원본인증 시스템은 블록체인 DID(Decentralized Identity) 기술 및 수치화된 표면지문 방식이 자동으로 연동되며, 실물 표면의 복제 불가한 고유의 외형적 특성(표면지문)을 활용해 실물의 원본 여부를 확인한다. 이를 기반으로 블록체인 기술을 활용한 토큰을 발행할 경우 기존에 블록체인 토큰이 사실상 실물과의 연계성을 갖지 못했던 문제를 해결하고, 저작권 등 발행 자격이 있는 발행인의 토큰인지 확인할 수 없었던 문제를 해결한다. 양사는 KAAAI에서 진품으로 감정받은 실물을 AMB의 원본인증 시스템으로 인증하여 작품 실물을 연계한 데이터베이스를 구축할 예정이다. 감정-인증 시스템을 통해 진품인 원본이 맞는지 확인이 필요한 실물을 대상으로 객관적인 데이터 기반의 동일성 검증을 통한 진위 판별이 이뤄진다. 이에 따라 ‘어떤 소장자가 KAAAI에서 진품으로 감정받고 AMB에서 원본 인증 받은 어떤 작품을 언제 팔았다’라는 사실을 객관적으로 입증할 수 있다. 국내외 작품 거래 시 위작 교체로 인한 분쟁과 소비자 피해를 방지할 수 있으며, 실물을 연계한 블록체인 기반 DB를 통해 영구성・활용성을 높인 한국 미술 아카이브의 초석을 마련할 수 있다고 회사 측은 설명했다. 또 양사는 해당 데이터를 활용하여 STO, NFT와 같은 블록체인 토큰을 발행할 예정이다. 특히, 제3의 장소에 보관하여야 하는 STO의 경우, 실물자산의 진위 및 보관 현황에 대한 객관적인 정보를 투자자가 정기적으로 확인할 수 있게 할 방침이다. 이에 따라, 실물자산이 토큰화되는 환경에서 블록체인 토큰과 토큰이 기초로 하는 실물자산을 실질적으로 연계할 수 있고, 실물의 진위 및 토큰 발행 자격을 확인하고 안전하게 거래할 수 있는 웹3.0 환경을 구축하는 데에 일조할 것으로 기대된다고 회사는 설명했다. 업계에서 거래의 신뢰도 등을 담보하기 위해 위변조 및 삭제가 불가한 블록체인 기술을 사용하고자 하지만, 기존의 NFT와 같은 블록체인 토큰은 일명 디지털 진품 증명서로 홍보됨에도 불구하고 현실적으로 실물과 연계가 되지 않아 오프라인에서 실물이 교체되는 위험은 해결할 수 없는 한계가 있다. 아울러 기존에 토큰 발행 자격을 확인할 수 없는 환경에 때문에 소비자들이 적격하지 않은 NFT에 속아 구매하는 무분별한 생태계에 노출돼 있다. 예를 들면 세계 최대 NFT 플랫폼 오픈씨가 “자사 플랫폼상 무료로 발행하는 NFT의 80%는 불법 또는 스팸”이라고 직접 발표했을 정도로 소비자 피해가 막심한 상태라고 회사 측은 전했다. 양사는 “앞으로 감정-인증 시스템을 통해 작품(제품)의 진위 판별에 대한 공신력이 강화되고, 실물자산 거래 및 실물을 기초로 발행되는 토큰의 거래에서 소비자 피해 방지책이 마련될 것으로 기대한다”며 “안전한 거래를 기반으로 미술 및 미술금융 시장이 더욱 활성화될 수 있도록 최선을 다하겠다”고 전했다. 지난해 1조원을 넘긴 국내 미술품 시장 현황과 더불어, 전문가들은 앞으로 미술품 금융방식 중 하나로써 STO나 담보 대출로 미술금융 시장이 커질 것이고, 이는 미술품 대중화에 더욱 이바지할 것이라고 전망했다. 이로 인해 실물과 토큰을 모두 안전하게 거래할 수 있는 환경의 구축이 시급하며, 양사의 협력으로 소비자 피해 방지책 중심의 시스템적 기반을 마련할 수 있을 것으로 보인다. 한편, 현 정부에 들어 가상자산, NFT 등 디지털자산에 대한 투자자 보호 이슈가 더욱 주목받고 있는 가운데, 금융위원회는 지난해 4월과 11월, 올해 2월에 잇따라 조각투자 및 STO 투자자 보호책 마련에 관한 내용을 담은 가이드라인을 발표하였다. 여기에는 그동안 국내에서 높아진 조각투자 수요에도 불구하고, 조각투자사들이 보유한 자산의 실시간 정보 등의 확인이 어렵다는 점에서 폰지사기와 같은 피해 우려가 제기되었던 배경이 있다. 이에 금융당국에서는 미술품 등을 대상으로 기존 업체들이 운영하고 있는 조각투자 상품 일부에 대해 증권성을 인정하고, 투자자 보호 방안을 보완하는 등 사업체계를 재정비할 기간을 부여한 상태다. 이 과정에서, 조각투자 수요를 안전하게 제도권에 편입하기 위한 수단으로 토큰증권의 제도화가 추진되었으며, 올해 상반기 자본시장법과 전자증권법 개정안을 제출하고 내년 중 법 개정 완료를 목표로 하고 있다.

아시아 최고의 언론 자유 수준을 보이던 홍콩에 중국 본토 못지않은 ‘만리방화벽’(인터넷 검열 시스템)이 설치됐다. 미국의 빅테크 기업들이 홍콩 국가보안법(홍콩보안법)에 두려움을 느껴 ‘인공지능(AI) 시대의 총아’로 불리는 챗봇 등 핵심 서비스를 모두 차단했다. 월스트리트저널(WSJ)은 11일(현지시간) “얼마 전부터 구글과 마이크로소프트(MS), 오픈AI 등 미 주요 정보기술(IT) 기업들이 홍콩에서 AI 챗봇 서비스 등 주요 기능 접근을 막았다”고 전했다. 챗GPT를 운영하는 오픈AI는 아예 홍콩을 북한과 시리아, 이란과 함께 ‘서비스 제한 국가(지역)’ 목록에 넣었다. 이런 충격적인 조치는 홍콩이 더이상 ‘아시아의 진주’가 아니며 언론의 자유가 없는 중국의 여러 도시 가운데 하나일 뿐이라는 서방의 인식과 무관하지 않다고 WSJ는 분석했다. 중국 정부는 2020년부터 홍콩보안법을 시행하고 있는데, 미 기업들의 AI 서비스가 중국 공산당이나 홍콩 정부에 대한 국제사회의 비판을 언급했다가 당국의 철퇴를 맞게 될 가능성이 커지자 접근 자체를 차단한 것이다. 결국 홍콩에서는 중국식 사회주의로 무장한 ‘홍색 AI’만이 사용 가능할 전망이다. 보안법 시행 이후 홍콩의 인터넷 환경은 근본적으로 달라졌다. 애플은 중국 IT 기업 텅쉰(텐센트)과 손잡고 자사 웹브라우저 사파리에서 의심스러운 사이트를 걸러내고 있다. 미 암호화폐 거래소 코인베이스와 프로그램 코딩 공유 서비스 깃허브가 대표적으로 차단된 사이트다. 디즈니도 애니메이션 ‘심슨 가족’ 에피소드 가운데 중국 강제 노동 수용소와 1989년 톈안먼 사태 등이 언급된 내용을 홍콩 온라인동영상서비스(OTT)에서 삭제했다. 이 모두가 홍콩보안법의 날카로운 칼날을 피하기 위해서다. 홍콩 주민들은 중국 본토처럼 인터넷 만리방화벽이 세워지자 가상사설망(VPN)을 통해 전 세계 사이트를 우회 접속하고 있다. ‘홍콩의 중국화’가 빨라지면서 IT 인력 유출 현상도 심해지고 있다. ‘자유로움’을 핵심 가치로 여기는 IT 업계 종사자들의 특성상 이들에게 홍콩은 아시아 최고의 도시였다. 그러나 홍콩보안법 시행 이후 압박이 거세지면서 수만명의 IT 전문가들이 대거 홍콩을 빠져나갔다고 WSJ는 우려했다. 이런 분위기를 반영하듯 MS는 최근 베이징 연구소 내 핵심 AI 전문가 20 ~40명을 중국에서 빼 캐나다로 보내기로 했다. 예전 같으면 이들은 홍콩으로 이주했을 가능성이 크다. MS의 판단을 두고 중국 관영매체 글로벌타임스는 “일개 연구소가 일부 연구원을 (해외로) 재배치하는 것을 두고 중국의 AI 인재 육성에 문제가 될 것으로 판단하는 것은 지나친 과장”이라고 비웃었다.

아시아 최고의 언론 자유 수준을 보이던 홍콩에 중국 본토 못지않은 ‘만리방화벽’(인터넷 검열 시스템)이 설치됐다. 미국의 빅테크 기업들이 홍콩 국가보안법(홍콩보안법)에 두려움을 느껴 ‘인공지능(AI) 시대의 총아’로 불리는 챗봇 등 핵심 서비스를 모두 차단했다. 월스트리트저널(WSJ)은 11일(현지시간) “얼마 전부터 구글과 마이크로소프트(MS), 오픈AI 등 미 주요 정보기술(IT) 기업들이 홍콩에서 AI 챗봇 서비스 등 주요 기능 접근을 막았다”고 전했다. 챗GPT를 운영하는 오픈AI는 아예 홍콩을 북한과 시리아, 이란과 함께 ‘서비스 제한 국가(지역)’ 목록에 넣었다. 이런 충격적인 조치는 홍콩이 더 이상 ‘아시아의 진주’가 아니며 언론의 자유가 없는 중국의 여러 도시 가운데 하나일 뿐이라는 서방의 인식과 무관하지 않다고 WSJ가 분석했다. 중국 정부는 2020년부터 홍콩보안법을 시행하고 있는데, 미 기업들의 AI 서비스가 중국 공산당이나 홍콩 정부에 대한 국제사회의 비판을 언급했다가 당국의 철퇴를 맞게 될 가능성이 커지자 접근 자체를 차단한 것이다. 결국 홍콩에서는 중국식 사회주의로 무장한 ‘홍색 AI’만이 사용 가능할 전망이다. 보안법 시행 이후 홍콩의 인터넷 환경은 근본적으로 달라졌다. 애플은 중국 IT 기업 텅쉰(텐센트)과 손잡고 자사 웹브라우저 사파리에서 의심스러운 사이트를 걸러내고 있다. 미 암호화폐 거래소 코인베이스와 프로그램 코딩 공유 서비스 깃허브가 대표적으로 차단된 사이트다. 디즈니도 애니메이션 ‘심슨 가족’ 에피소드 가운데 중국 강제 노동 수용소와 1989년 톈안먼 사태 등이 언급된 내용을 홍콩 온라인 동영상 서비스(OTT)에서 삭제했다. 이 모두가 홍콩보안법의 날카로운 칼날을 피하기 위해서다. 홍콩 주민들은 중국 본토처럼 인터넷 만리방화벽이 세워지자 가상사설망(VPN)에 접속해 전 세계 사이트를 우회 접속하고 있다. ‘홍콩의 중국화’가 빨라지면서 IT 인력 유출 현상도 심해지고 있다. ‘자유로움’을 핵심 가치로 여기는 IT 업계 종사자들의 특성상 이들에게 홍콩은 아시아 최고의 도시였다. 그러나 홍콩보안법 시행 이후 압박이 거세지면서 수만명의 IT 전문가들이 대거 홍콩을 빠져나갔다고 WSJ은 우려했다. 이런 분위기를 반영하듯 MS는 최근 베이징 연구소 내 핵심 AI 전문가 20~40명을 중국에서 빼 캐나다로 보내기로 했다. 예전 같으면 이들은 홍콩으로 이주했을 가능성이 크다. MS의 판단을 두고 중국 관영매체 글로벌타임스는 “일개 연구소가 일부 연구원을 (해외로) 재배치하는 것을 두고 중국의 AI 인재 육성에 문제가 될 것으로 판단하는 것은 지나친 과장”이라고 비웃었다.

여행 저널리스트 출신 이호르 자하렌코는 지난해부터 러시아 군의 우크라이나 민간인 살해 사례들을 기록해 오고 있다. 그런데 최근 키이우 일대에서 총격을 받아 목숨을 잃은 남녀와 어린이들의 영상을 페이스북과 인스타그램에 올렸다가 퇴짜를 맞아 적잖이 당황했다. 자하렌코는 “러시아인들은 (민간인 살해가) 거짓이라고,그들은 민간인을 건드리지 않는다고 말했다”면서 이런 주장이 거짓임을 밝히려고 취재해 올린 영상을 소셜네트워크서비스(SNS)들이 일방적으로 삭제했다며 분통을 터뜨렸다. 러시아 군의 전쟁범죄와 세계 곳곳의 내전에서 벌어진 인권침해를 고발하는 SNS 기록들을 인공지능(AI)이 걸러내지 못하고 무차별 삭제하고 있는 것이다. 영국 BBC 방송은 1일(현지시간) 이런 지적이 맞는지 확인하려고 러시아군의 우크라이나 민간인 학살과 관련된 영상을 직접 페이스북에 올려봤더니 거의 즉각적으로 삭제되는 것을 확인했다고 보도했다. AI가 충격적이거나 선정적인지 여부만 따질 뿐 영상이나 사진이 갖는 의미를 온전히 파악하지 못하기 때문으로 지적된다. 추후 전쟁범죄 등에 대한 책임을 물을 때 근거가 될 수 있는 자료들이 유해 콘텐츠로 내몰려 지워지는 것은 문제라 할 수 있다. 이런 문제는 유튜브와 인스타그램 등 다른 SNS도 마찬가지였다. BBC는 가짜 계정을 생성해 우크라이나 전쟁범죄 관련 영상 4건을 이들 플랫폼에 올린 결과 1분도 안 돼 세 건이 차단됐고 곧 모두 삭제됐다고 전했다. BBC는 러시아군의 전쟁범죄를 밝혀낼 증거인 만큼 삭제해선 안 된다고 이의를 제기했지만 받아들여지지 않았다고 강조했다. 메타와 유튜브 등은 공익을 위해서라면 충격적인 장면이 담긴 자료도 성인 이용자에게는 예외적으로 열람을 허용될 수 있다고 밝혀왔지만, 말뿐인 약속이었다고 볼 수 있는 대목이다. 14년째 내전 중인 시리아에서는 이 때문에 난감한 입장에 몰린 이도 있었다. 알레포의 한 시장에서 약국을 운영하던 주민 이마드는 2013년 정부군이 투하한 급조폭발물(IED)이 터져 주민 다수가 사상한 현장에 있었다. 하지만 유튜브와 페이스북은 현지 방송사가 촬영한 영상을 삭제했고, 이후 유럽연합(EU)에 난민 신청을 한 이마드는 자신이 시리아 바샤르 알아사드 정권의 전쟁범죄 피해자란 사실을 입증할 자료가 사라져 상당한 어려움을 겪었다고 한다. 물론 하루에도 수천만 건의 새 게시물이 올라오는 상황에서 AI가 아닌 다른 수단으로 문제 있는 게시물을 걸러내기가 쉽지 않은 현실이다. 페이스북과 인스타그램의 모회사인 메타와 유튜브는 전쟁범죄 및 인권침해 증거 보전과 유해 콘텐츠로부터 이용자를 보호해야 한다는 의무 사이에 균형을 취하는 것을 목표로 하고 있다고 말했다. 메타는 “법과 프라이버시 관련 의무에 부합하는 방식으로 국제적 책임 프로세스를 지원하기 위한 추가적인 수단을 계속 모색하는 중”이라고 말했다. 다만, 유튜브는 SNS 플랫폼이 기록보관소는 아니라고 항변하기도 했다고 BBC는 전했다. 독일 베를린 소재 인권단체인 ‘므네모닉’(Mnemonic) 등 은 SNS에 올라온 전쟁범죄와 인권침해 관련 자료가 삭제되기 전에 내려받아 저장하는 프로젝트를 진행 중이지만, 전 세계 모든 분쟁 지역을 커버하지는 못하는 실정이라고 BBC는 지적했다.모든 사람이 자유롭게 이용할 수 있도록 오픈 소스 자료를 수집하는 일은 특히 분쟁지역에 머무르는 친척들을 도와야 하는 처지의 사람들에게 매우 중요하다. 에티오피아 티그레이 출신으로 미국에 사는 여성 라흐와는 티그레이 지역의 참상을 아카이브로 만드는 일이 자신에게 주어진 임무라고 말한다. 에티오피아 당국은 정보가 밖으로 유출되는 일을 엄단하고 있다. 이런 나라들에는 그나마 SNS라도 없었더라면 외부 세계에 자신들의 참상이 제대로 알려지기 어려웠을 것이다. 베스 반 샤크 미국 국제형사사법대사는 “향후 책임 행사를 위해 정보를 보존할 메커니즘을 만들 필요가 있다. SNS 플랫폼은 전 세계에서 책임있는 메커니즘을 갖추려는 의지를 보여야 한다”고 말했다.

아일랜드 일간지 아이리시타임스는 지난 11일(현지시간) ‘아일랜드 여성들의 인공 태닝 집착은 문제’라는 제목의 기고문을 온라인에 실었다. 더블린에 사는 에콰도르 출신 29세 의료업계 종사자라고 자신을 소개한 기고자의 프로필 사진도 게재했다. 하지만 기고자의 신원과 사진, 기고문 모두 가짜였다. 기고문은 생성형 인공지능(AI) 챗GPT4가 작성했고, 사진은 AI 이미지 생성 프로그램 달리2(DALL-E2)를 사용해 만든 가상 인물로 드러났다. 아이리시타임스는 기고를 삭제하고 공식 사과했지만 신뢰에 손상을 입게 됐다. AI 기술이 빠르게 발전하면서 글, 사진, 음성, 영상 등 AI 제작 콘텐츠도 기하급수적으로 늘고 있다. 영국 AI 전문가 니나 시크는 지난 1월 CES 회의에서 “2025년까지 콘텐츠의 90%가 생성형 AI 도움을 받아 제작될 것”이라고 예측했다. 문제는 허위 정보와 명예훼손 등 AI 콘텐츠의 부작용이 걷잡을 수 없이 커지고 있다는 점이다. 22일 미국 국방부 청사에 폭발이 발생했다는 사진이 소셜미디어에 유포돼 한때 주가가 하락하는 등 혼란이 빚어졌다. 하지만 AI가 만든 가짜 이미지였다. 프란치스코 교황이 명품 브랜드의 흰색 패딩 재킷을 입은 모습, 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 장면 등 온라인에서 화제가 된 사진들도 AI의 창작물이었다. 갈수록 AI가 만든 콘텐츠를 가려내기가 어려워지자 AI 활용 콘텐츠에 그 사실을 명확히 표시하는 방안이 추진되고 있다. 더불어민주당 이상헌 의원이 발의한 콘텐츠산업진흥법 개정안은 AI 기술로 만들어졌다는 점을 해당 콘텐츠에 의무적으로 표시하도록 했다. 이용자에게 콘텐츠의 진위 판단에 필요한 정보를 제공하자는 취지다. 유럽연합(EU)과 미국에서도 유사한 규제안을 논의하고 있다. 반대로 AI가 아닌 사람이 만든 콘텐츠에 이름표를 붙이는 캠페인도 있다. 콘텐츠 크리에이터 앨런 슈가 창립한 ‘낫 바이 AI’(Not by AI) 프로젝트는 웹사이트에서 배지를 내려받아 사람이 만든 콘텐츠에 붙이는 간단한 방식이다. ‘AI와 함께 작업하되 AI로 대체되지 않도록 권장한다’는 프로젝트의 취지가 혼란스러운 AI 시대를 슬기롭게 항해할 유용한 나침반이 아닐까 싶다.

미국에서 인공지능(AI)으로 만든 가짜 ‘국방부 폭발’ 사진이 돌면서 뉴욕증시에서 주가가 요동쳤다. 진폭은 크지 않았지만 AI 가짜뉴스가 사회 공포를 자극하고, 정치·경제적 타격을 가할 수 있는 실례가 발생한 것이다. 워싱턴포스트(WP)는 22일(현지시간) “블룸버그 피드라는 트위터 계정이 ‘워싱턴DC 펜타곤(국방부 청사) 단지 근처에서 대형 폭발-초기 보고’라는 글과 함께 펜타곤 건물 옆에 거대한 검은 연기 기둥이 있는 이미지를 게시했다”며 “AI가 생성한 가짜 이미지에 (뉴욕증시의) 다우존스30산업평균지수가 4분 만에 85포인트 하락했다 반등하는 등 주식시장이 잠시 요동쳤다”고 보도했다. 사진은 트위터에서 유료 인증을 받은 계정인 ‘@CBKNews121’에 오전 8시 42분쯤 처음 게시됐고, 러시아의 해외 선전매체인 RT가 10시 3분에 “펜타곤 근처에서 폭발 보도가 있다”고 트위터에 썼다. 이어 블룸버그통신과 관련 없는 ‘블룸버그 피드’ 등 가짜뉴스 제조단체들이 확산에 가세했다. 스탠더드앤드푸어스(S&P)500지수는 오전 9시 30분에 0.3% 정도 떨어졌다가 반등했고, 안전자산인 미국 국채와 금의 가격은 반대로 잠시 상승했다. 펜타곤을 담당하는 버지니아주 알링턴 소방서가 오전 10시 27분쯤 “펜타곤이나 그 근처에서 발생한 폭발이나 사건은 아예 없다”고 밝히면서 소동은 진화됐다. 하지만 블룸버그통신은 “AI 가짜뉴스가 시장을 움직인 첫 번째 사례일 가능성이 높다”고 평가했다. 가짜 이미지는 담장이 변형되고 뒤섞인 흔적이 한눈에 보였지만 여파는 작지 않았다. 또 경찰·소방 당국은 소셜미디어를 통한 가짜뉴스의 확산 속도에 뒷북 대응을 할 수밖에 없었다. 이날 백악관에 불이 났다는 가짜 이미지도 돌았다. 미국 공영라디오 NPR은 11달러(약 1만 4500원)에 딥페이크 기술을 적용한 가짜 강의 동영상을 8분 만에 만드는 과정을 소개했다. 미드저니, 챗GPT, 달리E, 스테이블 디퓨전 등 이미지 생성 AI도 다양해진 데다, 달리E는 실제 사람의 얼굴 이미지를 편집할 수 없도록 했던 딥페이크 제한을 지난해 9월 해제했다. 지난달에 도널드 트럼프 전 대통령이 기소당하자 경찰과 몸싸움을 벌이는 가짜 이미지가 퍼졌고, 지난 3월 페이스북은 배우 에마 왓슨과 스칼릿 조핸슨 등 유명 배우들의 딥페이크 성적 광고를 삭제했다. NPR은 “AI로 생성된 딥페이크는 빠르게 진화하지만 정책 입안자들은 이를 따라잡지 못하고 있다”고 지적했다.

미국 워싱턴DC 인근 버지니아주 알링턴카운티에 있는 국방부 청사 펜타곤 근처에서 대형 폭발이 발생했다는 가짜뉴스가 나돌아 금융시장이 일시 출렁였다. 테러 의혹으로까지 이어진 해당 사진은 생성형 인공지능(AI)으로 만든 가짜 사진으로 밝혀졌다. 22일(현지시간) 오전 트위터와 텔레그램 등 각종 SNS에 펜타곤 폭발 현장 사진이 하나 나돌기 시작했다. 사진에는 펜타곤과 닮은 직사각형 건물 주변에서 검은 연기 기둥이 치솟는 모습이 담겨 있었다. 사진은 오전 8시 42분 트위터 유료 인증 계정 ‘@CBKNews121’에 처음 게시됐다. 이 계정에서는 미국 내 음모론자들과 관계가 있는 여러 아이콘, 대표적 음모론 단체인 큐어넌에 대한 지지가 목격됐다. 게시물은 유명 ‘오픈 소스 정보’(OSINT) 관련 계정을 타고 급속도로 확산했다. 전쟁 당사국인 러시아와 우크라이나 매체도 큰 관심을 보였다. 같은날 오전 10시 3분 러시아 해외 선전매체인 RT는 “펜타곤(미국 국방부 청사) 근처에 폭발 보도가 있다”고 트윗했고, 친러 세력은 환호했다. 반대로 우크라이나 나우는 텔레그램을 통해 해당 소식을 속보로 전하며 우려를 표했다. 사진은 트위터 팔로워 65만명으로 블룸버그통신의 헤드라인을 트윗하는 경제뉴스 인플루언서까지 퍼날랐다. 그는 오전 10시 6분쯤 “펜타곤 단지 근처에 대형 폭발”이라는 글을 올렸다가 나중에 삭제했는데, 그 사이 리트윗 수백건이 이뤄졌다. 팔로워 160만명을 보유한 월가의 유명 블로거 ‘제로헤지’도 “펜타곤 근처 폭발”이라는 설명과 함께 사진을 게시했다가 지웠다. 블룸버그 통신과 전혀 관계가 없는 ‘블룸버그 피드’ 등 가짜뉴스 제조단체들도 사진을 퍼뜨리는 데 가세했다.러시아 선전매체도 ‘깜빡’ 속아투자자 동요→금융 시장 일시 출렁AI 가짜사진의 위력 확인되지 않은 SNS발 속보에 일부 투자자들이 동요하면서 금융 시장은 일시 출렁였다. 오전 9시 30분에 개장하는 미 증시의 스탠더드앤드푸어스(S&P) 500 지수는 0.3% 정도 떨어졌다가 회복했다. 이는 시장에 큰 우려가 돌출할 때 나타나는 전형적 현상으로 관측됐다. 위기 때 투자자들이 피신하는 안전자산인 미국 국채와 금의 가격은 반대로 잠시 상승했다. 불안이 확산하자 현지 언론인들이 속속 사실 확인에 나섰다. 블룸버그 수석 에디터 데이비드 요아킴은 자신의 트위터를 통해 “국방부 대변인은 오늘 아침 펜타곤에서 폭발 같은 건 없었다고 했다”며 “가짜 뉴스”라고 밝혔다. 튀르키예 국영방송 TRT 워싱턴 특파원 유누스 팍소이는 직접 찍은 현장 사진과 함께 “펜타곤 폭발은 없다. 가짜 뉴스”라고 전했다. 당국이 개입에 나선 것은 약 2시간 만인 같은 날 오전 10시 27분쯤이었다. 버지니아주 알링턴카운티 소방당국은 공식 트위터를 통해 “SNS 등 온라인에 펜타곤 폭발 관련 정보가 돌고 있으나, 펜타곤 영내는 물론 그 근처에서 그 어떤 폭발이나 사고가 발생하지 않았으며 대중에게 즉각적인 위험은 없다”고 확인했다.전문가들은 이번 소동에 다소 황당한 면이 있다고 분석했다. 디지털자료분석단체 ‘벨링캣’ 조사관 닉 워터스는 “사진을 두고 허둥지둥한 게 아예 납득이 되지 않는다”고 평가했다. 이어 “사진은 진짜 공간이 아닌 까닭에 진짜 위치를 찾을 수 없고 워싱턴DC 어느 곳에도 그런 건물은 없다”고 지적했다. 해당 사진에서는 AI가 이미지를 생성하는 과정에서 건물 앞의 서로 다른 담장이 변형되고 뒤섞인 흔적도 포착됐다. 그러나 이번 사태로 AI발 가짜뉴스 하나가 세상을 어느 정도로 뒤흔들 수 있는지가 재확인됐다. AP통신은 “점점 섬세해지고 접근하기 편한 프로그램이 일상에 가할 수 있는 혼란이 이번 사태에서 부각된다”고 지적했다. 특히 주요 선거를 앞두고 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우 선거 판도에 치명적인 악영향을 끼칠 수 있다는 가능성이 제기된다.미 대선 국면 AI발 허위정보 유포 우려“유권자 맞춤형 허위정보·사진·음성 등장” 20일 영국 가디언은 생성형 AI 작업물은 사람들에게 일방적으로 전달되는 것이 아니라, 실시간 상호작용을 통해 더 설득력 있는 방식으로 표현된다는 점에서 대규모로 선거에 악용될 여지가 있다는 분석이 전문가들 사이에서 나온다고 짚었다. 미국 사이버보안 업체인 ‘레코디드 퓨처’의 알렉산더 레슬리 분석가는 “미국 대선을 앞두고 이런 기술이 더 진보하고, 더 널리 이용 가능해질 수 있다”며 “폭넓은 교육과 인식 개선 없이는 이것이 대선의 진짜 위험요소가 될 수 있다”고 경고했다. 영국 앨런 튜링 연구소의 AI 연구 재단을 맡고 있는 마이클 울드리지 교수도 “AI 기술이 만들어낼 가짜뉴스가 내 가장 큰 걱정거리”라고 말했다. 그는 “영국과 미국에서 선거 일정이 다가오고 있고, 소셜미디어가 허위정보 전달의 강력한 도구라는 점은 이미 알려져 있다”며 “생성형 AI는 이런 가짜뉴스를 산업적인 규모에서 찍어낼 수 있다”고 경고했다. 아주 간단한 프로그래밍 지식만 갖고 있다면, 온라인상 허위 계정들을 만든 후 특정 성향이나 특정 지역의 유권자를 겨냥한 맞춤형 가짜뉴스를 생산해낼 수 있다는 것이다. 샘 올트먼 오픈AI 최고경영자(CEO) 역시 16일 미 의회 청문회에서 “가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력”이라고 우려한 바 있다.실제로 챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 ‘딥페이크’ 동영상 등은 이미 현실과 구분하기 어려울 정도로 높은 수준에 도달하고 있다. 지난 3월에는 성추문 사건과 관련해 체포 전망이 제기되던 가운데 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 AI 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드 발렌시아가 풍의 하얀 패딩 재킷을 입은 허위 이미지도 대중에 실제인 것처럼 인식돼 논란이 벌어진 바 있다. 지난 1월에는 조 바이든 미 대통령의 목소리를 사용해 그가 마치 백악관 회견을 통해 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 AI 영상이 만들어지기도 했다. 뉴스가드 공동CEO인 스티븐 브릴은 “누군가 이런 잘못된 이야기를 고의적으로 대량 생산하기 위해 AI를 활용할 수 있다”고 지적했다.

미 국방부 청사인 펜타곤 영내에서 폭발이 일어났다는 이른바 '가짜 사진'이 온라인에 확산돼 파문이 일고있다. 특히 이 사진이 트위터 등 소셜미디어(SNS)를 타고 빠르게 확산하면서 스탠더드앤푸어스(S&P)500 지수가 한때 0.3% 하락하는등 금융시장에도 일시 혼란이 일었다. 지난 22일(현지시간) AP통신, CNN 등 주요언론은 이날 오전 9시 30분 경 미 증시 개장 직후부터 버지니아주 알링턴카운티에 있는 펜타곤 인근에서 폭발이 있었다는 주장과 함께 가짜 사진이 확산했다고 보도했다. 공개된 사진을 보면 한 건물에서 검은 연기가 치솟는 모습이 담겨있는데, 이는 펜타곤 영내에서 대형 폭발이 발생했다는 글과 함께 그럴듯하게 포장돼 빠르게 SNS로 퍼져나갔다. 특히 러시아 관영 매체 RT는 이 소식을 공식 트위터에 사진과 함께 올리며 가짜 뉴스를 부채질했다가 결국 삭제했다.그러나 이 사진은 얼마 후 가짜로 드러났다. 미 국방부 측 관계자는 "오늘 국방부가 공격받은 바 없으며 오보임이 확인됐다"고 밝혔으며 관할인 알링턴 소방국도 "펜타곤과 인근에서 폭발같은 어떤 사건도 일어나지 않았다"며 신속하게 가짜뉴스를 진화했다. 　 현지언론은 이번 가짜 사진이 그럴듯하게 포장된 배경으로 인공지능(AI)이 있다고 분석했다. AI 기술이 발전하고 대중화되면서 누구나 쉽게 진짜와 가짜를 구분하기 힘든 가공 사진을 만들고 있다는 지적이다. 미 워싱턴 대학 AI 시스템 공동책임자인 쉬락 샤는 "AI 기술이 발전함에 따라 사회는 나쁜 정보를 걸러내고 진실에 도달하기 위해 노력해야 한다"면서 "단순히 검색이나 소셜미디어 게시물에 의존하는 것만으로는 충분하지 않다"고 밝혔다.한편 AI를 통해 확산한 가짜 사진 소동은 이번이 처음은 아니다. 지난 3월에도 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 그럴듯한 가짜 사진이 확산한 바 있다.  

구글이 오는 12월부터 2년 이상 사용하지 않은 계정을 삭제하기 시작한다. 지(G)메일 뿐 아니라, 구글 독스(Docs), 워크스페이스, 포토 등 기타 서비스 상에 남은 자료도 삭제되며, 유튜브에 올린 모든 동영상도 삭제된다. 구글은 보안 위험을 해결하기 위한 노력의 일환으로 이렇게 방침을 정했다고 17일(현지시간) 밝혔다. 제품 관리 담당 부사장 루스 크리첼리는 “휴면 계정은 정보 유출에 취약하기 때문에 보안 위협으로부터 사용자를 보호하기 위한 조치”라며 “계정 정보가 유출되면 신원 도용부터 스팸과 같은 원치 않는 콘텐츠나 악의적인 콘텐츠의 매개체 등 다양한 용도로 사용될 수 있다”고 설명했다. 구글 내부 분석에 따르면 휴면 계정은 2단계 인증을 사용할 가능성이 활성 계정보다 훨씬 낮은 것으로 나타났다. 구글은 개설된 뒤 한 번도 사용하지 않은 계정부터 삭제를 시작한다. 계정 삭제 전 Gmail과 제공된 백업 이메일 주소를 통해 사용자에게 몇 가지 알림을 전달할 것이라고 말했습니다. 삭제는 개인 계정에만 적용되며 학교나 기업 같은 기관 계정은 제외된다. 최소 2년 동안 계정을 사용하지 않았는데, 계정 삭제를 원하지 않는 사용자는 지메일이나 구글 드라이브, 유튜브 등 구글 서비스에 로그인하거나 구글 플레이스토어에서 앱을 다운로드해 계정을 활성 상태로 유지할 수 있다.

1997년 총격 사건으로 사망한 유명 래퍼 ‘노토리어스 비아이지’(Notorious B.I.G.·이하 ‘비기’)가 살아돌아온 것처럼 노래하는 ‘인공지능(AI) 음악’이 지난달 공개돼 법적, 윤리적 논쟁을 낳고 있다고 일간 워싱턴 포스트(WP)가 10일(현지시간) 보도했다. 지난달 22일 동영상 공유 플랫폼 틱톡에는 래퍼 나스의 노래 ‘뉴욕 스테이트 오브 마인드’에 비기의 목소리를 입힌 영상이 올라왔다. 이 영상은 39만 8000여회 조회와 ‘좋아요’ 2만 8000여개를 기록하며 인기를 끌었다. AI로 ‘부활’한 비기의 노래는 이뿐만이 아니다. 미국의 음악 프로듀서 팀발랜드는 비기의 목소리를 씌운 본인의 곡을 들으며 감탄하는 영상을 트위터와 인스타그램에 올렸는데, 이 영상의 조회수는 일주일 만에 100만회를 넘겼다. 영상에서 팀발랜드는 흥겹게 리듬을 타며 “나는 언제나 비기와 함께 작업해보기를 바랐는데 오늘까지 기회가 없었다”고 아쉬움을 달랜다. 팬들의 반응은 엇갈린다. ‘역사적인 작업’이라고 열광하는 사람이 있는가 하면 비기의 목소리가 살아있는 것 같지 않고 이상하다는 감상도 있다. 팀발랜드는 일부의 비판을 이해한다며 돈을 벌자는 게 목적이 아니라 새로운 기술로 무엇을 할 수 있는지 보여주려는 것이라고 설명했다.그는 AI로 되살린 옛 가수의 목소리를 듣는 일을 이야기와 기억이 담긴 예술작품 감상에 비유했다. 팬들과 그들이 그리워하는 옛 가수가 AI 기술을 통해 다시 만날 수 있다는 것이다. 그런데 문제는 그리 간단치 않다. 죽은 가수의 목소리를 동의 없이 사용하는 것에 문제가 없는지, 고인의 가족이 아니라 다른 사람이 이익을 보게 되는 것은 아닌지 등 우려가 나온다고 WP는 짚었다. AI로 만든 음악이 ‘진짜’인지, 그것을 예술로 볼 수 있는지도 쟁점이다. 팀발랜드는 ‘AI 음악’에 팬들이 느끼는 불편함은 곧 사라질 것이라고 주장했다. 죽은 가수의 생일을 기념하는 식의 존중을 담은 작업이거나 일회성 발매 같은 방식이라면 괜찮지 않느냐는 것이다. 틱톡 팔로워 200만명을 보유한 프로듀서 저스틴 베르나데즈는 몇 달 전부터 AI 음악 소프트웨어를 사용하기 시작했다. 그의 계정에는 드레이크, 브루노 마스, 리아나(리한나)처럼 살아있는 가수의 목소리를 흉내낸 영상도 있지만 마이클 잭슨이나 비기 등 세상을 떠난 사람들의 목소리를 복제한 트랙도 올라와 있다. 팔로워들의 반응은 윤리적 고민으로 연결되곤 한다. 베르나데즈는 “‘이건 맞지 않은 것 같다’며 죽은 이들을 좀 쉬게 해주라는 사람도,‘죽은 사람의 목소리가 영원히 살 수 있게 됐다’는 정반대의 사람도 있다”며 “몹시 어려운 문제”라고 말했다. 음반사들은 더욱 현실적인 문제에 부딪힌다. 지난달 유명 싱어송라이터 더 위켄드와 힙합 스타 드레이크의 신곡으로 소개돼 소셜네트워크서비스(SNS)에서 화제를 모았던 ‘허트 온 마이 슬리브’가 실은 이들의 목소리를 ‘AI 버전’으로 그럴듯하게 합성한 가짜로 밝혀진 일이 대표적이다. 두 가수의 소속사인 유니버설뮤직의 요청으로 이 곡은 음악 플랫폼에서 삭제됐지만 틱톡 조회 1500만회, 스포티파이 스트리밍 60만회를 기록하는 등 대중의 반응은 뜨거웠다. 앞으로 이런 일이 더 생길 가능성이 열린 셈이다. 현행 미국 법으로도 AI가 만든 작품의 소유권과 저작권은 분명히 규정돼 있지 않다. 목소리 자체는 일반적으로 저작권에 속하지 않는다는 것이 법조계의 중론이다.

인권 단체 국제앰네스티가 2021년 콜롬비아 반정부 시위에서 최소 38명이 사망한 폭력진압 문제를 지적하면서 인공지능(AI)으로 만든 가짜 사진을 사용해 논란을 낳았다. 가디언은 2일(현지시간) 앰네스티가 콜롬비아 경찰이 저지른 인권침해에 관한 보고서를 펴내면서 지난달 말 소셜미디어에 한 여성이 경찰들에게 끌려가는 모습을 담은 사진을 올렸다고 보도했다. 하지만 사진을 자세히 보면 시위 참가 여성이 몸에 두른 콜롬비아 국기의 색깔이 잘못된 데다 경찰의 얼굴이 뭉개져 있고 제복도 구식이다. 앰네스티 측은 2021년 4∼7월 콜롬비아 전역을 휩쓴 반정부 시위로 아직 100명 이상이 감옥에 갇혀 있다면서 시위대원의 신원을 보호하기 위해 AI 사진을 사용했다고 해명했다. 그러나 시위 진압 과정을 취재하다가 경찰이 쏜 고무탄에 맞아 한쪽 눈을 잃은 카메라 기자를 포함해 실제 현장을 취재한 기자들에 대한 모독이라는 지적이 이어지자 AI 사진을 삭제했다. 콜롬비아 반정부 시위는 세금 인상과 건강보험 개혁에 반대해 일어났다. 코로나19 방역 정책으로 집회가 금지됐음에도 수만명이 수도 보고타의 거리 시위에 참여했다. 5800여명의 경찰이 동원됐던 시위 첫날 진압 과정에서만 2명이 사망했고, 시위가 계속 이어지자 경찰에 의한 여성 시위대원 강간 등 각종 인권 말살 행위가 자행됐다. 최근 AI를 활용한 가짜 사진이나 인터뷰가 잇달아 말썽을 빚고 있다. 미국 역사상 처음으로 형사사건으로 기소돼 법정에 선 도널드 트럼프 전 대통령이 경찰 체포에 반발하는 사진이나 스키 사고 이후 은둔 중인 자동차경주 황제 미하엘 슈마허를 인터뷰한 기사가 AI로 만들어져 혼란을 일으켰다. 콜롬비아 사진기자 후안초 토레스는 “거짓말도 하는 AI가 만든 사진을 쓰면 신뢰를 얻을 수 없다”고 지적했다.

인권 단체 국제앰네스티가 지난 2021년 콜롬비아 반정부 시위에서 최소 38명이 사망한 폭력진압 문제를 지적하면서 인공지능(AI)으로 만든 가짜 사진을 사용해 논란을 낳았다. 가디언은 2일(현지시간) 앰네스티가 콜롬비아 경찰이 저지른 인권침해 보고서를 펴내면서 지난달 말 소셜미디어에 한 여성이 경찰들에게 끌려가는 모습의 사진을 게재했다고 보도했다. 하지만 사진을 자세히 살펴보면 시위 참가 여성이 몸에 두른 콜롬비아 국기의 색깔이 잘못된 데다 경찰의 얼굴이 뭉개져 있고 제복도 구식이다. 앰네스티 측은 2021년 4∼7월 콜롬비아 전역을 휩쓴 반정부 시위로 아직 100명 이상이 감옥에 갇혀 있다면서, 시위대의 신원을 보호하기 위해 AI 사진을 사용했다고 해명했다.하지만 시위 진압 과정을 취재하다 경찰이 쏜 고무탄에 맞아 한쪽 눈을 잃은 카메라 기자를 포함해 실제 현장을 취재한 기자들에 대한 모독이란 지적이 이어지자 AI 사진을 삭제했다. 콜롬비아 반정부 시위는 세금 인상과 건강보험 개혁에 반대해 일어났으며, 코로나19 방역 정책으로 집회가 금지됐음에도 수만 명이 수도 보고타의 거리 시위에 참여했다. 5800여명의 경찰이 동원됐던 시위 첫날 진압 과정에서만 2명이 사망했고, 시위가 계속 이어지자 경찰에 의한 여성 시위대 강간 등 각종 인권 말살 행위가 자행됐다. 최근 AI를 활용한 가짜 사진이나 인터뷰가 논란을 낳고 있는데 도널드 트럼프 전 미국 대통령이 체포에 반발하는 사진이나 스키 사고 이후 은둔 중인 자동차경주 황제 미하엘 슈마허 인터뷰가 AI로 만들어져 혼란을 일으켰다. 콜롬비아 사진기자 후안초 토레스는 “거짓말도 하는 AI가 만든 사진을 쓰면 신뢰를 얻을 수 없다”고 지적했다.

삼성전자가 내부 정보 유출 우려를 이유로 챗GPT 등 생성형 인공지능(AI)의 사내 사용을 제한했다. 대신 번역과 문서 요약 등 직원들의 업무를 돕기 위한 자체 소프트웨어를 개발해 보급할 방침이다.2일 업계에 따르면 삼성전자는 지난달 28일 디바이스경험(DX) 부문 임직원을 대상으로 이달부터 사내 PC를 통한 생성형 AI 사용을 일시적으로 제한한다고 공지했다. 삼성전자 관계자는 “생성형 AI에 입력된 내용은 외부 서버에 전송·저장된 뒤 AI 학습에 활용되므로 한번 업로드된 내용은 회수, 삭제가 불가능해 회사의 중요 정보가 타인의 질문에 대한 답변으로 활용될 수 있는 등 심각한 보안 위험이 있다”고 설명했다. 회사 측 결정으로 DX부문에서는 챗GPT는 물론 구글 바드, 마이크로 소프트 빙 등 모든 생성형 AI 사용이 금지됐다. 삼성전자가 지난달 초 DX 부문에서 임직원을 대상으로 챗GPT 사용 관련 설문조사를 한 결과, 상당수 임직원이 빠른 정보 습득과 업무 편리성 등을 이유로 사내에서 챗GPT를 사용한다고 답했다. 다만 응답자의 65%는 사내 사용 시 보안상 리스크가 있다고 답한 것으로 전해졌다. 실제 최근 삼성전자 디바이스솔루션(DS) 부문에서는 사내 메일 본문 업로드, 내부 소스코드 전체 입력 등의 일부 오남용 사례가 확인된 바 있다. 이에 DS 부문에서는 내부 게시판에 챗GPT 오남용을 경고하는 메시지를 공지하고, 각 팀장이 팀원들을 대상으로 챗GPT 사용 가능 범위 등을 교육하기로 했다. 또 챗GPT 사용 시 입력 가능한 글자 수도 제한됐다.

방탄소년단(BTS) 멤버 지민을 닮기 위해 여러 차례 성형수술을 했던 캐나다 출신 배우가 수술 도중 사망했다는 뉴스는 가짜뉴스로 드러났다. 27일(한국시간) 영국 일간 데일리메일은 ‘생 본 콜루치’라는 캐나다 출신 배우가 한국에서 성형수술을 받던 도중 사망했다는 기사를 웹사이트에서 삭제했다. 앞서 지난 25일 데일리메일은 콜루치가 23일 오전 한국의 한 병원에서 사망했다고 보도했다. 당시 보도는 콜루치가 지민을 닮기 위해 지난 1년간 코, 입술 축소, 안면 리프팅, 눈썹 거상술 등 총 12차례의 성형수술을 했다고 전했다. 성형수술에만 22만 달러(약 3억원)가 들어갔다는 설명도 덧붙였다. 지난 22일 콜루치가 지난해 11월에 삽입한 턱 보형물을 제거하기 위한 수술을 받았는데 수술 도중 감염으로 인한 합병증이 발생해 숨졌다는 것이 기사의 요지였다. 미국 연예매체 TMZ 등이 해당 기사를 이어 보도했고, 국내 여러 매체들도 별다른 검증 없이 이 소식을 전했다. 그러나 콜루치가 실존 인물이 아닐 수 있다는 가능성이 제기됐다. ‘아이하트라디오’ 캐나다판은 25일 해당 보도가 가짜뉴스일 가능성이 있다고 봤다. 콜루치의 죽음을 최초 보도한 데일리메일은 그에 대한 대부분의 정보를 콜루치의 홍보 담당자라는 ‘에릭 블레이크’에 의존했다. 아이하트라디오는 ‘에릭 블레이크’라는 이름을 가진 홍보 담당자의 연락처를 온라인 어디에서도 찾을 수 없었다고 전했다. 서울에서 활동하는 프리랜서 기자 라파엘 라시드 역시 데일리메일 보도에 포함된 콜루치의 사진이 인공지능(AI)이 생성한 이미지로 보인다고 주장했다. 라시드 기자가 이미지의 AI 생성 여부를 판별하는 프로그램에 콜루치의 이른바 성형 전 사진을 넣어본 결과 AI 생성 이미지일 가능성이 75%로 나왔다.아이하트라디오는 그밖에도 여러 의혹을 제기했다. 일단 ‘생 본 콜루치’라는 이름은 사망 보도 이전에 크게 주목받지 못했다. ‘saintcolucci.com’이라는 도메인 소유주는 캐나다 토론토의 한 건물을 주소지로 사용했는데, 전화번호는 미국 보스턴의 지역번호를 사용했다. 콜루치의 것으로 알려진 인스타그램 계정은 약 9만 9000명의 팔로우가 있는데 데일리메일이 이 계정에서 가져온 사진은 대부분 흐릿했다. 미국 뉴욕으로 장소가 태그된 인스타그램 사진 2장의 배경은 실제로는 토론토 시내였다. 이 계정은 26일(한국시간) 오후 5시 현재 사라졌다.지난해 1월 28일자로 작성된 콜루치의 보도자료가 온라인상에 남아 있지만 그 내용이 부실하다고 아이하트라디오는 지적했다. 보도자료는 “콜루치는 캐나다 퀘벡에서 태어나 2015년부터 모델·배우로 활동했다”고 밝혔으나 그가 참여한 작품 이력은 찾을 수 없었다. 또 보도자료는 콜루치가 “약 2년 전 한국으로 이주해 다른 K팝 아티스트와 음반을 제작했으며 이번 여름에 데뷔를 할 예정”이라고 했지만 그가 제작했다는 첫 번째 미니앨범 ‘T1K T0K H1GH SCH00L’은 주요 스트리밍 플랫폼에서 발견되지 않았다. 해당 보도자료 하단에 있는 전화번호는 연결이 되지 않고 있으며 소속사로 나온 ‘IBG’에 대한 정보도 찾을 수 없었다. 지난해 5월에 나온 또다른 보도자료는 콜루치가 모 회사와 전세계 매니지먼트 계약을 체결했다며 그의 데뷔 앨범이 6월에 나올 것이라고 했지만 매니지먼트 계약을 체결했다는 회사나 데뷔 앨범 역시 찾을 수 없었다. 데일리메일 보도 중 콜루치가 한국 드라마 찰영에 참여했다는 대목도 미심쩍다. 보도는 콜루치가 “8부작 한국 드라마 ‘Pretty Lies’에서 교환학생 역을 맡아 지난해 6월부터 6개월간 촬영했고, 오는 10월 미국 주요 스트리밍 서비스에서 방영될 예정”이라고 전했다. 데일리메일은 해당 드라마의 한국어 제목을 ‘Cogimar’로 표기했는데 영어로 옮겨지는 과정에서 생긴 오류일 가능성을 감안하더라도 한국어 단어로는 보이지 않는 제목이다. 영화·드라마 정보 사이트인 IMDB에도 해당 제목을 가진 작품은 없으며 ‘Pretty Lies’는 콜루치의 보도자료에 등장했던 노래 제목이기도 하다. 또 데일리메일은 해당 드라마가 지난해 6~12월 촬영됐다고 전했는데 이는 콜루치가 지난해 11월에 턱 보형물 수술을 받았다는 전언과 잘 들어맞지 않는 점도 이상했다. 아이하트라디오는 콜루치의 나이도 명확하지 않다고 지적했다. 2022년 1월 보도자료는 그가 23세라고 밝혔는데 데일리메일은 콜루치가 올해 22세라고 보도했다. 의문투성이의 데일리메일 기사는 결국 삭제됐다. 데일리메일 측은 기사를 삭제한 이유를 명시하지 않았지만 아이하트라디오는 소식통을 인용해 “뉴욕에서 해당 기사를 쓴 기자가 속았으며 데일리메일은 기사 내용이 가짜였다고 판단했다”고 전했다. 가상의 인물을 만들어 1년 전부터 보도자료를 배포하고 극적인 죽음까지 전 세계적인 뉴스로 만든 속임수의 배후가 누군지는 밝혀지지 않았다. 콜루치 사망 보도에 대해 의혹을 제기했던 라시드 기자는 “관심을 끌기 위한 단순한 장난일 수도 있고 사회적 실험일 수도 있다”면서 “언론들이 사실 확인에 좀 더 주의를 기울여야 한다”고 지적했다.

전라도 역사를 집대성한 ‘전라도 (오)천년사’. 왜곡 논란이 제기돼 봉정식까지 취소됐던 전라도 천년사가 도민들로부터 직접 검증을 받는다. 전라도 천년사는 전라도 정도 천년을 맞아 2018년부터 2022년까지 3개 광역단체(광주시·전남도·전북도)가 추진한 역사서 편찬 사업이다. 역사와 문화, 예술 등 각 분야의 전문가 213명이 집필진으로 참여했다. 기존 천년의 역사에서 오천년사로 확대되면서 34권 1만 3559쪽에 달하는 책이 만들어졌다.그러나 앞서 지난해 ‘전라도오천년사바로잡기 전라도민연대’는 전북도청 앞에서 기자회견을 열고 “‘전라도 (오)천년사’ 편찬사업은 그 내용에 있어서 상당 부분이 ‘일제 식민사관’에 기초해 서술되었음이 속속 드러나고 있다”고 밝혔다. 단체는 “전라도 천년사에는 전북 남원시의 옛 지명을 일본서기에 나오는 ‘기문국’(己汶國)으로, 전북 장수군을 ‘반파국’(伴跛國)으로, 전남 해남군을 ‘침미다례’(忱彌多禮)로 썼다”며 “또 ‘임나4현’까지 삽입해 전라도를 통째로 일본의 식민지로 도배해 전라도민을 일본의 후손으로 만들어 놓고 있는 것으로 파악된다”고 주장했다. 논란이 커지자 3개 시도는 지난해 12월 예정됐던 ‘전라도 천년사 봉정식’을 취소했다. 이어 지난 24일부터 오는 5월 7일까지 전북도청 홈페이지 알림판(배너) 등을 통해 전라도 천년사를 온라인 e-book 형태로 공개했다. 도민 의견을 듣고 결정하겠다는 취지다. 전북도 관계자는 “전라도 천년사(34권)에 대한 전라도민의 의견을 수렴한다”며 “의견이 있을 경우 공람의견서를 작성해 담당자에게 이메일(e-mail)로 보내 달라”고 밝혔다. 그러나 시민단체는 반발은 가라앉지 않는 분위기다. 전라도오천년사바로잡기 전라도민연대는 “2만 쪽에 달하는 34권을 2주 안에 살펴보고 이의신청하라는 이런 법이 어디 있냐”라면서 “전북 남원 옛 지명을 ‘기문국’으로, 장수군 지명을 ‘반파국’으로 등으로 쓴 임나 지명을 먼저 삭제하고 e-book을 공개해야 한다”고 촉구했다.

챗GPT를 비롯한 생성형 인공지능(AI)이 일자리를 위협할 수 있다는 불안감을 파고든 모금이나 강의 광고가 우후죽순으로 늘어나고 있지만 검증이 제대로 안 되다 보니 애꿎은 소비자들만 피해를 볼 수 있다는 지적이 나온다. 정보가 많지 않은 소비자는 사기인지, 마케팅인지 분별이 어려운 만큼 정부가 뒷짐 지지 말고 적극적으로 관리 감독해야 한다는 의견도 있다. 최근 크라우드 펀딩 플랫폼 ‘와디즈’는 ‘챗GPT 수익화 활용 비법서’라는 이름으로 전자책을 판매하는 프로젝트를 진행해 한때 모금액이 4억 9000만원을 넘었다. “미국 실리콘밸리에서 챗GPT 사용법을 배운 상위 1% 개발자가 돈을 버는 방법을 알려 주겠다”며 홍보하면서다. 가격이 1인당 최대 15만 9000원에 달했지만 3000여명이 참여했다. 그러나 국내 대학에 재학 중인 학생으로 구성된 팀 ‘그로윙업’이 ‘실리콘밸리에서 온 개발자가 맞느냐’는 의혹이 불거졌다. 이러한 의혹은 모금을 주최한 이들이 이력을 과도하게 부풀린 게 아니냐는 비판으로 이어졌다. 와디즈 측은 “실리콘밸리에서 학위 취득이나 업무 경험이 있을 것으로 추측되는 표현이 있어 수정 조치했다”면서 “수익화 경험으로 대학교 창업지원금을 소개했으나 이는 챗GPT와 직접적인 상관관계를 확인할 수 없어 삭제했다”고 했다. 그러면서 추가 모금을 중단하고 기존 참여자는 5일까지 모금을 철회할 수 있도록 했다. 그로윙업 측도 “큰돈을 바라고 펀딩한 게 아니다”라면서 “모금을 중단하고 취소 여부를 결정할 수 있도록 했다”고 밝혔다. 이에 모금액은 3일 오후 4시 기준 3억 3300만원대로 떨어졌지만 소비자들이 이러한 논란을 알지 못해 피해를 볼 수 있다는 우려가 나온다. 모금이 성사되기 전에 공지를 수정한 만큼 허위 과장 광고로 처벌할 수 있을지는 불투명하다. 공정거래위원회 관계자는 “표시광고법을 위반했는지를 판단하기 위해서는 (책을 제작하기 위한) 투자를 모집하는 과정에서 소비자에게 오인을 일으키고 구매 선택에 영향을 미쳤는지를 검토해야 한다”고 말했다. 시민들은 유사 사례가 있을 수 있는 만큼 대책 마련이 필요하다고 강조한다. 직장인 서모(32)씨는 “과거에도 ‘스마트스토어로 일주일 만에 돈을 벌 수 있다’는 광고에 혹한 적이 있다”면서 “앞으로 직장인은 챗GPT를 잘 활용해야 한다는 부담감이 크다 보니 비슷한 사례가 늘어날 것 같다”고 말했다.

디지털 기술은 생활에 편리함도 주지만 성범죄물 유포와 재확산 등 성범죄를 일으키며 인생을 망치기도 한다. 컴퓨터나 스마트폰 등의 디지털 기기를 해킹해 성적 수치심을 유발하는 사진이나 동영상을 인터넷에 올려 돈을 요구하는가 하면 용돈을 주겠다며 스마트폰으로 유인한 미성년자를 온라인 성매매 시장으로 몰고 가는 등 다양한 성범죄를 양산한다. 피해자의 신고로 경찰이 특정 사이트의 불법 성범죄 영상물을 없애더라도 다른 사이트로 재유포되면서 성범죄물을 인터넷에서 완전히 삭제하기는 쉽지가 않다. 이로 인해 심한 경우 피해자의 극단적 선택으로 이어지기도 한다. 경찰 등 수사당국은 물론 시민 안전을 담보해야 할 책무가 있는 행정기관이 디지털 성범죄 근절과 예방에 적극적으로 나서야 하는 이유다. 서울시가 전국 지자체 가운데 처음으로 인공지능 기술을 활용해 24시간 365일 성범죄 피해 영상물을 자동검색해 삭제한다고 밝혔다. 날로 지능화되는 디지털 성범죄에 대응하기 위해 지난해 3월 말 만든 디지털성범죄 안심지원센터에서 페이스북, 인스타그램, 트위터 등 소셜네트워크서비스에 게시된 피해 영상물을 자동으로 검출해 영상물을 삭제한다고 한다. 그동안은 센터의 담당 직원이 피해자의 얼굴이나 특이점을 눈으로 일일이 판독해 불법 영상물을 없앴으나 인공지능 기반의 딥러닝 기술로 영상 속 피해자 얼굴 매칭뿐 아니라 오디오의 주파수나 대화 내용까지 분석해 피해자와 관련한 모든 영상물을 3분 안에 찾아 삭제한다고 한다. 불법 영상물 삭제에 종전에는 1~2시간씩 걸렸으나 3분 정도면 되고 정확도도 두 배 이상 높다니 성범죄 영상물 유포로 피해자들이 겪을 고통의 시간을 줄이고 성범죄 재확산 방지에도 도움이 될 전망이다. 아동ㆍ청소년의 성범죄 영상물은 본인이나 부모 신고 없이도 즉시 삭제할 수 있다. 말도 못한 채 가슴앓이를 할 성범죄 피해자들에게 이번 인공지능 기술이 희소식이 됐으면 한다. 이 기술은 가해자·피해자가 서울에 연고가 있는 경우가 우선 적용 대상이다. 정부와 협의해 전국으로 확대하고 인터넷을 떠도는 인종차별적 내용이나 불법 저작권 침해 문제도 이런 인공지능 기술로 근절해 보자.

서울시는 ‘디지털 성범죄 안심지원센터’에서 전국 최초로 인공지능(AI) 기술을 도입해 디지털 성범죄를 24시간 추적한다고 29일 밝혔다. 센터는 제2, 제3의 ‘n번방’ 피해를 막는다는 목표로 지난해 3월 29일 개관했다. 영상물 삭제부터 법률 지원, 심리 치유까지 디지털 성범죄 피해자를 통합 지원한다. 서울기술연구원이 개발한 AI 기술은 24시간 실시간 모니터링을 통해 소셜네트워크서비스(SNS)에 게시된 피해 영상물을 자동으로 검출해 영상물을 삭제한다. 기존에는 피해자의 얼굴이나 특이점을 눈으로 판독해 수작업으로 찾아내야 했으나 앞으로는 AI 딥러닝 기술을 기반으로 오디오, 비디오, 문자 정보를 종합적으로 분석해 버튼을 한 번 누르면 피해자와 관련한 모든 영상물을 즉시 찾아낼 수 있게 된다. 관련 키워드 입력부터 영상물을 찾아내는 데까지 걸리는 시간이 기존 1~2시간에서 약 3분으로 크게 단축되고, 정확도 역시 200% 이상 높아졌다고 시는 설명했다. 또 센터 직원이 피해 영상물을 찾으면서 겪게 되는 트라우마와 스트레스도 줄일 수 있다. 시는 최근 아동·청소년을 대상으로 한 디지털 성범죄 피해 건수가 지속적으로 증가하는 만큼 아동·청소년 피해 예방에 주력할 계획이다. 본인이 삭제를 요청해야 삭제 지원이 가능한 성인과 달리 아동·청소년은 ‘아동·청소년의 성보호에 관한 법률’에 따라 본인이나 부모의 신고 없이도 즉시 삭제가 가능한 만큼 AI 추적·감시를 통해 피해 예방에 선제적으로 나설 방침이다.

현재 전 세계 대부분 공항에서는 용량 100mL가 넘는 화장품이나 음료수 등 액체류는 수하물 반입이 금지돼 있다. 100mL 이하의 액체류는 투명한 비닐백에 넣어야 보안 검색대를 통과할 수 있다. 이 규정은 2006년 탄산음료로 위장한 액체 폭발물을 이용해 런던 히스로공항에서 출발한 항공기 7대를 추락시키려는 테러 음모가 적발된 뒤 도입됐다. 그런데 기내 반입을 금지하는 ‘100ml 초과 액체류’ 목록에서 모유를 삭제하자는 주장이 멕시코에서 나왔다. 24일(현지시간) 멕시코 일간지 엘우니베르살에 따르면 집권 국가재건운동(MORENA·모레나) 소속 예세니아 올루아 하원 의원은 이날 인프라통신교통부(SICT) 및 연방항공청(AFAC)에 모유 기내 반입을 명시적으로 허용할 것을 촉구하는 탄원서를 제출했다고 밝혔다. 올루아 의원은 100ml 미만의 경우에만 액체류를 기내에 반입할 수 있는 현행 조항을 수정해야한다고 주장했다. 그러면서 올루아 의원은 지난해 12월 멕시코시티 국제공항(AICM)에서 벌어진 한 사건을 언급했다. 당시 멕시코 유명 인플루언서는 수유 기구에 넣어둔 모유를 기내에 들고 들어가려다 공항 보안요원의 제지를 받았다. 보안요원은 모유의 양, 아이를 동반하지 않고 있는 점 등 상황을 고려할 때 “규정상 가지고 탈 수 없다”고 안내한 것으로 전해졌다. 올루아 의원은 “(인플루언서가) 수유 중이라는 사실을 고지하고 집에서 아이가 먹어야 하는 만큼 모유를 버릴 수 없다며 호소를 했음에도 규정상 공항에서는 이를 거부했다”며 “결과적으로 아이를 품에 안고 있지 않았기 때문에 모유를 버려야 했다”고 했다. 그는 ‘수유 중인 엄마’라는 이유로 비행기 탑승을 차별받아선 안 되는 것은 물론 모유를 몸밖으로 빼내지 않으면 엄마의 건강에도 악영향을 미칠 수 있다는 견해를 덧붙였다. 그러면서 올루아 의원은 특별한 식이요법이 필요한 승객의 마실 거리, 유아용 음료, 환자 영양보충용 액체류도 용량과 관계없이 기내 반입 금지 조항에서 삭제할 필요가 있다고 주장했다. ● ‘기내 액체 반입 금지’…영국 공항서 사라지나 한편 100mL 초과 액체 반입 제한 규정은 2년 후 영국 공항에서 사라질 것으로 보인다. 공항 보안 검색에 고정밀 스캐너를 동원, 가방에서 굳이 꺼내지 않더라도 승객들의 짐을 샅샅이 파악할 수 있게 될 것으로 기대되기 때문이다. 영국 일간 더타임스에 따르면 영국 주요 공항에 오는 2024년 중반까지 병원에서 쓰는 정도의 고정밀 컴퓨터단층촬영(CT) 보안 스캐너를 비치하라는 지침이 전달됐다. 고정밀 스캐너가 비치되면 승객들의 수하물을 고화질 3D 영상으로 샅샅이 파악할 수 있게 돼 액체류나 노트북을 짐에서 따로 꺼내놓은 것이 불필요해질 전망이다. 올 들어 이러한 새로운 기술을 도입한 뒤 액체 수하물 100mL 제한 규정을 폐지한 아일랜드 섀넌 공항은 승객들의 보안 검색대 통과 시간이 예전과 비교해 절반으로 줄었다고 밝혔다.