AI봇·딥페이크 기승… 범죄 정교화직원 음성·화상 활용 기업 피싱 늘어싱가포르 총리 사칭 52억원 사기도15~64세 AI 사용 19%… 韓은 41%국내 사용자 비중 1년 새 15%P 상승 생성형 인공지능(AI)의 확산으로 가상 세계에서 ‘진짜’를 가려내는 일이 더 어려워지고 있다. 사람처럼 대화하는 봇부터 인물의 얼굴과 목소리를 흉내 낸 딥페이크까지 사람과 AI의 경계가 흐려지면서, 무엇을 보고 누구를 믿어야 하는지 판단하는 인간의 기준 자체가 흔들리고 있다. 마이크로소프트(MS)가 28일 발표한 ‘2분기 글로벌 AI 확산 보고서’에 따르면 세계 15~64세 생산연령인구의 생성형 AI 사용률은 18.8%, 한국은 40.6%로 집계됐다. 우리나라 사용자 비중은 최근 1년 사이에 약 15% 포인트나 늘었다. 글로벌 사이버보안 기업 서프샤크가 세계 1722명을 대상으로 소셜미디어(SNS) 댓글의 작성자가 사람인지 AI 봇인지 특정하게 한 실험에서 AI 봇의 댓글을 찾아낸 비율은 40%에 그쳤다. 특히 긍정적이고 친근한 성향을 보인 봇의 탐지율은 38%로 공격적이고 부정적인 봇(50.2%)보다 낮았다. 서프샤크는 정교한 AI 계정이 실제 이용자의 의견에 맞장구치거나 자연스러운 말투를 쓸 경우 의심을 피할 수 있다고 설명했다. AI가 얼굴과 목소리까지 흉내 내면서 ‘특정인 사칭’ 공격을 파악하는 것도 힘들어졌다. 가트너가 기업 보안 책임자 297명을 조사한 결과 41%가 최근 1년간 직원의 음성통화에서 딥페이크를 활용한 사칭 공격을 경험했다고 답했고, 화상통화에서도 36%가 같은 공격을 겪었다. 공격자들이 기존 피싱에 개인정보와 합성 음성·영상을 결합해 사칭 수법을 더 정교하게 만들고 있다는 게 가트너의 분석이다. 지난 5월 싱가포르에서 한 사업가가 총리실 비서관을 사칭한 연락을 받고 로런스 웡 총리 등이 등장하는 딥페이크 화상회의에 참석했고, 최소 490만 싱가포르달러(약 52억원)를 송금했다. 범인은 공식 문서처럼 꾸민 자료까지 내세워 연락, 문서, 화상회의 등이 진짜처럼 보이게 했다. 미국 연방수사국(FBI) 인터넷범죄신고센터(IC3)에 지난해 접수된 ‘AI 관련’ 신고는 2만 2364건, 피해액은 8억 9334만 달러(약 1조 2177억원)였다. FBI는 생성형 AI로 가짜 프로필과 맞춤형 대화, 음성·영상을 손쉽게 만들 수 있게 되면서 사기범죄에서 설득력이 높아졌다고 분석했다. 사람과 AI를 가르기 위해 만든 기존 장치도 예외가 아니다. 이달 초 GPT-6 아스트라는 인터넷의 ‘나는 로봇이 아닙니다’ 인증을 본뜬 게임 48단계를 모두 통과했다. 이후 별도 연구에서도 무료 오픈소스 AI가 이미지 속 신호등이나 횡단보도를 고르게 하는 구글 리캡차(reCAPTCHA)를 92.6%의 비율로 통과했다. 연구진은 사람이 직접 풀도록 만든 시각형 캡차가 더이상 봇을 막는 충분한 방어선이 되기 어렵다고 지적했다.

이른바 ‘분서갱유 비판’ 파문으로 소셜미디어(SNS) 활동을 접었던 ‘중국판 배달의 민족’ 메이퇀디앤핑(메이퇀) 창업자 겸 최고경영자(CEO) 왕싱(44)이 SNS를 재개하며 챗GPT 열풍에 가세했다. 9일 사우스차이나모닝포스트(SCMP)에 따르면 왕싱은 전날 웨이신(중국판 카카오톡)에 메이퇀의 공동 창업자 출신 왕후이원이 최근 설립한 인공지능(AI) 스타트업에 투자할 것이라는 글을 올렸다. 그가 SNS에 글을 올린 것은 2021년 5월 이후 처음이다. 해당 글은 중국 소셜미디어와 트위터를 통해 퍼져 나갔다. 왕싱은 2년 만에 침묵을 깨고 올린 글에서 “챗GPT 같은 AI봇에 필요한 거대언어모델(LLM)의 잠재적 생산성에 전율을 느끼며 그것이 세상에 미칠 영향이 궁금하다”며 과거 동료이자 최측근이던 왕후이원이 설립한 스타트업 광녠 즈와이에 투자할 것이라고 알렸다. 구체적인 투자 규모는 공개하지 않았다. 매체는 “왕싱은 중국 최대 포털사이트 바이두 창업자 리옌훙 최고경영자(CEO)에 이어 중국판 챗GPT 개발 계획과 의지를 공개적으로 천명한 기술 거부 대열에 합류했다”며 “지난달 중국 2위 포털사이트 소거우의 왕샤오촨 CEO도 챗GPT와 유사한 서비스를 위해 준비하고 있다고 밝혔다”고 전했다. 왕싱은 중국이 빅테크에 대한 규제를 본격화하던 2021년 5월 중국 SNS인 판퍼우에 당나라 시인 장갈이 진시황의 분서갱유를 비판하려고 쓴 ‘분서갱’(焚書坑)을 올렸다. 28자로 된 이 한시는 “책 태운 연기가 사라지기도 전에 동쪽 산에서 반란이 일어나니 유방과 항우는 원래부터 책을 읽지 않았다”는 내용을 담고 있다. 아무리 사상을 통제해도 시대의 변화는 막지 못한다는 뜻으로, 중국에서는 종종 체제 비판에 대한 은유로 해석된다. 당시 왕 CEO가 이 시를 빗대 시진핑 국가 주석과 중국 공산당에 불만을 드러낸 것 아니냐는 관측이 나왔다. 중국에서 ‘분서갱유’는 20세기 문화대혁명 등 지나친 통제에 따른 과오를 상징하는 단어로 쓰이기도 해서다. 왕싱은 해당 글이 논란이 되자 이를 삭제하고 “중국 인터넷 업계 내 치열한 경쟁에 관한 것”이었다고 해명했지만 논란을 잠재우지 못했다. 결국 그는 1만 8000개에 달하던 소셜미디어 게시물을 모두 비공개로 전환했다. 얼마 뒤 메이퇀은 34억 4000만 위안(약 6500억원)의 벌금을 부과 받았다.