국내외에서 선거를 앞두고 인공지능(AI) 기술로 만든 딥페이크 가짜 영상에 주의보가 내려진 가운데, 국내 생성형 AI 전문 기업 딥브레인AI가 경찰청과 협력해 딥페이크 범죄 단속을 돕는 탐지 솔루션을 선보였다고 15일 밝혔다. 최근 딥페이크 기술의 고도화로 이를 악용한 범죄 우려가 가중됨에 따라, 딥브레인AI는 경찰청과 함께 이를 효과적으로 대응할 수 있는 맞춤형 딥페이크 탐지 솔루션을 개발했다. 경찰청은 이를 활용해 총선을 겨냥한 선거범죄를 비롯한 피싱 범죄와 합성 성 착취물 범죄 등 딥페이크 기반 지능형 범죄에 능동적으로 대처할 방침이다. 딥브레인은 앞서 딥페이크 탐지 솔루션을 지속 개발해 왔다. 이번 솔루션은 ▲종합탐지 ▲음성탐지 2가지로 구성돼 있으며, 각각 이미지와 영상, 음성 탐지를 지원한다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 ▲탐지모델 ▲탐지구간 ▲탐지인물 등을 설정하면 진위여부를 즉각 판별한다. 이번 딥페이크 탐지 솔루션은 딥브레인AI의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 기반으로 설계됐다. 서양인 위주의 데이터로 제작된 기존 대다수 탐지 모델과 달리 한국인 데이터 100만 건, 아시아 계열 인종 데이터 13만 건을 포함해 총 520만 건의 데이터 학습을 더해 탐지율을 높였다. 딥브레인AI는 이번 경찰청과의 협력을 계기로 다양한 분야의 기업, 기관과 딥페이크 탐지 솔루션 구축 방안을 논의할 예정이다. 혼란과 위기 상황을 야기하는 허위 정보의 진위여부를 즉각 판별하는 솔루션을 적극 공급하며 전 사회적인 손실 비용을 최소화한다는 방침이다.

마치 영화 ‘바이센테니얼맨’을 보는 듯한 일이 현실에서 일어나 전 세계가 충격에 휩싸였다. 미국의 휴머노이드 로봇 개발 스타트업인 ‘피규어AI’가 챗GPT 개발업체인 오픈AI와 협업해 만든 로봇 영상이 13일(현지시간) 공개되면서다. 영상 속 로봇 ‘피규어 01’에게 인간이 “지금 뭐가 보이냐”고 묻자 ‘피규어 01’은 “테이블 중앙에 있는 접시 위에 올려진 빨간 사과가 보인다”고 말한다. 이어 “뭐 좀 먹어도 되냐”고 묻자 “물론”이라고 대답하면서 사과를 집어 건넨다. 인공지능(AI)을 탑재한 로봇이 스스로 주어진 환경을 인식하고 판단해 상황에 맞는 행동을 취한 것이다. AI가 스스로 판단하고 행동할 수 있는 수준이 된다는 건 인간의 통제 범위를 벗어난다는 것을 의미한다. 미국 민간업체 글래드스톤 AI가 미 국무부 의뢰로 최근 발표한 보고서는 범용인공지능(AGI)의 위험성을 담고 있다. AGI는 인간과 유사하거나 그 이상의 능력을 지닌 ‘미래의 AI’를 말하는데, 최첨단 로봇과 AGI가 등장하면 인류에게 멸종 수준의 위협을 초래할 수 있다는 것이다. AGI의 진화 속도가 관건이다. 전문가들은 향후 5년 이내에 AGI가 나올 수 있다고 본다. AI를 악용한 딥페이크(Deepfake)가 범람하면서 AI 규제 움직임이 촉발된 것은 그나마 다행스럽다. 지난 1월 테일러 스위프트를 합성한 딥페이크 이미지가 소셜미디어 ‘X’(옛 트위터)를 통해 유포된 것이 AI 규제법 논의의 촉매제가 됐다. 미국 정치권에서도 민주당 뉴햄프셔주 경선 전날인 지난 1월 22일 조 바이든 대통령 목소리를 흉내 낸 로보콜(녹음된 음성이 재생되는 자동전화)이 무더기로 유포돼 혼란이 일었다. 발등에 불이 떨어진 인류에게 시간은 얼마 남지 않았다. 다행히 유럽연합(EU)은 세계 최초로 포괄적 AI 규제법을 마련해 13일(현지시간) 승인했다. AI 활용 분야를 총 4단계의 위험등급으로 나눠 차등 규제한다. 특히 AGI 개발 기업에 대해 ‘투명성 의무’를 부여하기로 했는데 초안에 없었다가 AI 오남용에 대한 우려로 추가됐다. 우리나라도 2021년 7월 정필모 더불어민주당 의원 등이 발의한 ‘인공지능기본법’ 이후 다수의 법안이 발의됐지만 논의는 제자리다. 딥페이크로 인한 피해는 이미 눈앞에 다가왔는데 너무 태평하다.

빠르게 진화하는 인공지능(AI)이 인류에 멸종급 위협이 될 수 있다는 경고가 미국에서 나왔다. 12일(현지시간) 미국 CNN방송에 따르면 AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI는 미국 국무부의 의뢰로 작성해 이번 주 발표한 보고서에 이같은 내용을 담았다. 미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고도 포함했다. 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기(WMD) 전문가, 국가안보 정부 당국자 등 200여명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다. 이에 대해 글래드스톤 AI 측은 챗GPT 개발사인 오픈AI, 구글 딥마인드, 페이스북 모회사인 메타, 앤트로픽 등 주요 빅테크 기업의 기술 및 리더십 팀과 이야기를 나눴다고 밝혔다. 또 일론 머스크, 리나 칸 미국 연방거래위원회(FTC) 위원장 등 AI로 인한 실존적 위험에 대해 경고해온 저명인사들도 보고서에 언급했다.보고서는 AI가 제기할 수 있는 위협을 크게 두 가지로 정리했다. 우선 최첨단 AI 시스템이 향후 돌이킬 수 없는 피해를 가할 가능성이 있는 무기로 전용될 가능성을 우려했다. 보고서는 경쟁 압박으로 인해 기업들이 안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있다며 무기화 가능성 등을 경고했다. 다음으로는 어느 시점이 되면 인간이 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있음을 꼽았다. 보고서는 “AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다”며 AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다고 예상했다. 경쟁 압박 속에 각 기업은 떠밀리듯 안전과 보안을 장담할 수 없는 AI 개발을 가속하고 있으며, 이로 인해 AI 체계가 미국에 반하는 방식으로 무기화하거나 절취될 수 있다고 봤다. 그러면서 이러한 위협에 대응하기 위해 “미국 정부의 개입 필요성이 매우 분명하고 긴급하다”고 보고서는 촉구했다. 아울러 새로운 AI 감독 기관 및 긴급 규제 안전장치 마련, AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한 등을 방안으로 제시했다. 글래드스톤 공동 설립자이자 최고경영자(CEO)인 제러미 해리스는 CNN에 “AI는 이미 경제적으로 혁신적인 기술”이라면서 “하지만 또한 우리가 알아야 할, 재앙적인 위험을 포함한 심각한 위험을 가져올 수 있다”고 지적했다. 그는 “세계 최고의 AI 회의들에서 발표된 경험적 연구와 분석을 포함해 늘어나는 증거들은 특정 능력의 한계점을 넘어서면 AI가 잠재적으로 통제할 수 없게 될 수 있음을 시사한다”고 말했다.글래드스톤 AI에 따르면 AI 기업들의 일부 직원들도 사석에서 비슷한 우려를 공유하고 있다. 보고서는 “한 유명한 AI 연구소의 한 직원은 특정 차세대 AI 모델이 오픈 액세스로 나온다면 끔찍하게 나쁠 것이라는 견해를 밝히기도 했다”며 “이 모델의 잠재적인 설득 능력이 선거 개입이나 유권자 조작 같은 분야에 사용될 경우 민주주의를 파괴할 수 있다는 점 때문”이라고 전했다. 보고서에 따르면 AI 전문가들은 올해 AI로 인한 사고(AI incident)가 전 세계적으로 돌이킬 수 없는 영향을 미칠 가능성을 4%에서 최대 20%까지로 추정했다. 보고서는 다만 이 같은 추정치는 비공식적이며 상당히 편향된 것일 가능성도 있다고 밝혔다. 이제 관건은 AI가 얼마나 빠르게 진화하느냐다. 보고서는 특히 인간과 유사하거나 인간의 역량을 넘어서는 학습 능령을 지닌 AGI의 진화 속도에 주목했다. AGI의 경우 인간이 통제력을 잃는 재앙적인 상황을 촉발할 주된 요인이 될 수 있다는 것이다. 보고서는 “AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아는 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다고 덧붙였다. 아울러 AI 체계가 향후 주요 인프라를 마비시킬 역량을 갖춘, 타격이 큰 사이버 공격을 시행하는 방향으로 고안될 수 있으며, 가짜 정보 캠페인이나 심리적 조작에 악용되거나 인간에게 적대적인 권력에 부합하는 통제 불가능한 방향으로 발달할 수 있다고 경고했다. CNN은 이날 보고서를 보도하며 향후 30년 이내에 AI가 인류 멸종을 이끌 가능성이 10%가량 된다는 ‘AI 대부’ 제프리 힌튼의 발언도 함께 전했다. 힌튼을 비롯한 AI 산업 저명 인사들은 지난해 6월 AI로 인한 인류 멸종 위험을 완화해야 한다는 성명을 낸 바 있다.

힌두 국수주의 성향의 나렌드라 모디 인도 정부가 총선을 앞두고 ‘반(反) 무슬림’ 논란에 휩싸였던 시민권 개정법(CAA) 도입을 강행했다. 12일(현지시간) BBC 방송 등에 따르면, 인도 정부는 전날 성명을 통해 시민권 개정법 시행에 들어간다고 밝혔다. 이 법은 파키스탄과 아프가니스탄, 방글라데시 등 3개국에서 종교적 박해를 피해 2014년 12월 31일 이전에 인도로 건너와 불법 체류 중인 힌두교도와 불교도, 기독교도 등 6개 종교 신자에게 인도 시민권 획득의 길을 열어줬다. 그러나 여기에 이슬람교도(무슬림)가 빠지면서 소수 집단과 대학생 등이 크게 반발했다. 2019년 해당 법안이 의회를 통과하자 수도 뉴델리를 비롯한 전국 곳곳에서 항의 시위가 벌어졌다. 시위 참가자들은 경찰과 격렬하게 충돌했고 이 과정에서 수십 명이 숨졌다. 이에 인도 정부는 시행을 보류해오다가 이번에 이를 발표한 것이다.당시 시위에는 인도 내 여러 종교 관계자들이 두루 합류했고, 이들은 해당 법이 인도 헌법의 토대인 ‘세속주의’를 훼손한다고 주장했다. 세속주의는 사회 제도나 그 운영 등에서 종교적 영향력을 제거하고, 세속과 종교 각각의 독립적인 영역을 구분하고 인정하자는 주장이나 견해를 말한다.특히 2억명에 달하는 무슬림 측은 정부가 자신들을 소외시키는데 이 법 등을 이용할 수 있다는 우려를 나타냈다. 모디 정부는 주변국에서 인도로 피신한 종교적 소수자에게만 시민권을 주는 것으로 인도 시민에게는 악용되지 않을 것이라며 시민권 개정법이 인도주의적 내용을 담은 것이라고 항변해왔다. 이번 법 시행과 관련해서도 집권 인도국민당(BJP)은 오랫동안 요구해온 사안이 실현되게 됐다며 환영했다. 하지만 연방의회 제1야당 인도국민회의(INC)는 정부가 총선 직전에 법 시행을 발표한 것은 표심을 양극화하려는 속셈이라며 비판했다. BJP가 법 시행으로 인구의 80%를 차지하는 힌두교도를 결집, 4∼5월 총선에서 유리한 고지를 차지하려 한다는 것이다. 인권단체 국제앰네스티(AI) 인도지부도 성명을 통해 해당 법은 차별적인 것으로 “평등이라는 헌법 가치뿐 아니라 국제인권법에도 위배된다”고 지적했다. 모디 총리는 이번 총선에서 3연임을 노리고 있다.

하루가 다르게 발전하는 인공지능(AI)기술, 원래의 기술 목적보다 악용되는 사례가 많은 딥페이크 기술로 중국 전역을 감동시킨 남성이 있다. 9일 중국 CCTV 방송에서는 랴오닝성(省) 푸순에 거주하고 있는 순 씨의 사연을 소개했다. 이 남성은 어머님에게 보내는 안부 영상을 올렸고 짧은 영상에도 말을 제대로 잇지 못하고 눈물을 쏟았다. 알고 보니 이 남성이 찍은 영상의 모습은 본인이 아닌 자신의 아버지였다. 순 씨가 이런 영상을 찍을 수밖에 없던 이유는 연로하신 할머니 때문이다. 지난 2022년 순 씨의 아버지는 충수암에 확진되었다. 발견했을 당시 이미 암 말기 판정을 받았고 병을 고치기 위해 여러 병원을 찾았지만 결국 암 진단 1년 만인 2023년 세상을 떠났다. 당시 중국은 강력한 제로 코로나 정책을 시행하고 있었기 때문에 할머니와 아버지는 오랫동안 만나지 못한 상태였다.아들에게 각별한 감정을 갖고 있던 할머니는 지금까지도 계속 순 씨에게 연락하며 아버지와의 통화를 원했다. 올해로 91세 연로하신 할머니가 충격을 받으실까 봐 가족들은 지금까지 아버지의 죽음을 비밀로 하고 있었기 때문이다. 이런저런 핑계를 대며 할머니와의 통화를 피하던 순 씨는 할머니를 안심시키기 위해 AI 기술을 이용해 아버지의 모습을 하기로 마음먹었다. 아버지처럼 하기 위해 길렀던 수염까지 밀고 AI 프로그램을 사용해 아버지의 모습으로 변했다. 영상 속 순 씨는 아버지가 ‘환생’한 듯 “어머님, 저 지하이(继海)입니다. 베이징에서 잘 살고 있어요…”라며 짧은 말을 남겼다. 순 씨가 사용한 프로그램이 고사양이 아니라서 화질이 좋지 않았지만 다행히 연로하신 할머니는 알아채지 못했다. 영상을 찍으면서 순 씨는 돌아가신 아버지의 빈자리를 느끼고, 아버지의 책임감을 느끼면서 과거의 아버지와 ‘이별’했다고 한다. 이 짧은 영상도 북받치는 감정을 추스르면서 보름 만에 완성했기 때문에 두 번째 영상을 찍을 수 있을지도 불분명하다. 또한 할머니가 연로하시기 때문에 언제까지 속일 수 있을지도 장담할 수 없지만 “좀 더 단단해지고 아버지처럼 가족들에게 정신적인 버팀목이 되겠다”라고 말했다. 이 뉴스를 접한 중국인들은 “나도 같이 울었다”, “이게 바로 기술 개발의 순기능이다”, “AI 진정한 의미다”, “아마도 이런 게 과학 기술 발전의 초심이 아니었을까?” 라며 감동했다.

본인이 직접 노래하는 것처럼 인공지능이 부른다면 어떤 기분이 들까? 최근 개그맨이자 가수인 박명수는 자신의 목소리를 학습한 ‘인공지능(AI) 박명수’가 부르는 ‘밤양갱’이라는 커버곡을 듣고는 깜짝 놀랐다. 그는 방송에서 “이 노래를 부른 적이 없다. 들어 보니 어쩜 이렇게 똑같나. 앞으로 우리 어떻게 해야 하나. 연예인들 어떻게 해야 돼” 하며 혀를 내둘렀다. 인공지능 기술 발달로 AI 커버가 주목받고 있다. 커버곡은 가수가 자기 노래가 아닌 다른 가수의 노래를 자신만의 스타일로 부르는 노래다. 인공지능 커버는 일반인이 박명수 같은 연예인이나 가수의 목소리 데이터를 학습한 인공지능 모델을 활용해 만든 노래다. 정교한 커버곡은 소셜미디어에서 수백만회 조회를 올릴 정도로 인기다. AI 커버곡 제작을 전문으로 하는 채널들이 있을 정도로 새로운 음악시장을 형성하고 있다. 인공지능 커버 시장이 커질수록 법적 분쟁도 늘어날 전망이다. 저작권법엔 AI 커버 제작에 사용된 원 노래의 저작권과 목소리 주인공의 저작인접권 침해에 대한 별도 규정이 없다. 커버 인기가 노래 홍보를 뛰어넘는 단계로 옮아가면 분쟁은 불가피할 것이다. 이 때문에 한국음악저작권협회는 AI 활용 표시 의무를 담은 콘텐츠산업진흥법 개정을 촉구하고 있다. AI 커버곡 제작자들은 자신들의 행위가 공익성을 가지며 인공지능 산업 발전에도 기여한다고 한다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정이용으로 본다. 최근 미국의 뉴욕타임스가 자사 기사를 무단 사용했다며 오픈AI를 상대로 낸 저작권 침해 소송에 오픈AI는 이 공정이용 조항을 들먹이며 반박했다. 하지만 가치 있고 신뢰도 있는 데이터를 상업적으로 사용한다면 법적으로 문제될 수 있다. 법적 분쟁 못지않게 우려되는 건 이런 기술이 딥페이크 등 범죄에 악용될 수 있다는 점이다. 목소리 데이터가 쌓이면 쌓일수록 본인까지 깜짝 속을 정도의 딥보이스 기술이 적용된 콘텐츠는 확산될 것이다. 인공지능 기술 발달로 현실과 상상의 경계가 무너지고 있다. 인공지능이 삶의 질은 향상시키고 범죄에 악용되는 등의 부작용은 줄일 안전한 보안기술이 나오기를 바라 본다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

‘일찍 부모 여읜 친구’ 가정하니순식간에 원고지 4장 분량 뚝딱수사·재판 과정서 악용 우려 급증檢 “진정성 의심 땐 철저히 확인” “존경하는 판사님. 저의 친구 ○○에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라고 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”라는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “○○은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역사회의 문제에 관한 관심 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”라고 꾸며 썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여 보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례도 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT로 지방자치단체 체육회 팀장 명의의 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미를 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적이고 형식적인 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”며 “챗GPT를 이용해 물량 공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해 달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI 기술을 악용한 증거 조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

“존경하는 판사님. 저의 친구 OO에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라는 점을 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고, 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만, 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “OO은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역 사회의 문제에 관한 관심, 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”고 꾸며썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례가 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT를 이용해 지방자치단체 체육회 팀장 명의로 자신의 선처를 요청하는 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미가 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적 형식적 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”면서 “챗GPT로 물량공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI기술을 악용한 증거조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.

‘갈색 베레모를 쓴 백발 노인이 한 카페에 앉아 멀리 시선을 둔 채 생각에 잠긴 듯 촉촉한 눈을 깜빡인다. 노인은 이내 뭔가 생각이 떠오른 듯 희미한 미소를 짓는다. 눈가와 수염이 난 입가에 살짝 주름이 파인다.’ 마치 영화 속 한 장면과 같은 영상은 사실 챗GPT 개발사인 오픈AI가 생성형 인공지능(AI) 기술로 만들어 낸 것이다. 영상 속 따뜻한 색감의 조명과 핸드헬드(카메라를 손에 들고 찍음) 촬영 기법으로 찍은 듯 조금씩 흔들리는 시야 등도 모두 AI가 ‘창조’했다. 오픈AI가 지난 15일(현지시간) 자사 홈페이지를 통해 공개한 동영상 생성 AI ‘소라’를 두고 충격적이란 반응과 함께 ‘딥페이크’(AI 기술로 만든 가짜 영상) 악용 우려가 동시에 나오고 있다. 그동안엔 막대한 시간과 비용을 투자해야만 만들 수 있었던 수준의 영상을 소라는 단 몇 줄의 명령어(프롬프트)만으로도 만들어 낼 수 있기 때문이다. 뉴욕타임스(NYT)는 소라가 공개되자 “깜짝 놀랄 영상을 순식간에 생성하는 AI”라고 소개했다. 18일까지 X(옛 트위터)엔 소라를 이용해 생성한 것으로 추정되는 15초짜리 동영상들이 입력한 프롬프트와 함께 속속 올라오고 있다. 소라 서비스 이용 권한을 제한적으로 제공받은 예술 종사자들이 만든 것으로 추정된다. 이를 접한 사용자들은 “방금 충격적인 걸 봤다”는 등 놀라움을 표현하며 영상을 공유하고 있다. 오픈AI에 따르면 소라는 최대 1분짜리 고품질 영상을 생성할 수 있다. 다만 현재는 15초 분량을 만들 수 있는 서비스를 일부 영상 제작자, 시각 예술가 등에게만 시범으로 제공하고 있다고 밝혔다. 오픈AI가 소라를 이용해 만들었다고 공개한 영상 샘플 40여 편은 AI가 빛과 물리법칙에 대해 깊이 이해하고 있다는 걸 보여 줬다. 도쿄 번화가의 화려한 간판 불빛이 젖은 길거리에 거울처럼 비친 모습, 설원을 달리는 매머드의 발바닥에 눈이 붙었다 떨어지는 모습, 잔 속에서 일렁이는 커피의 파도에 요동치는 해적선들의 움직임 등까지 완벽하게 표현했다. 비현실적인 장면도 컴퓨터그래픽(CG) 이상의 품질로 구현했다. 오픈AI는 또 딥페이크 우려를 예상한 듯 “잘못된 정보, 혐오 콘텐츠, 편견과 같은 분야 전문가들로 ‘레드팀’을 구성해 안전성 테스트를 할 것”이라고 밝혔다. 특히 “복잡한 장면에서 물리법칙을 정확하게 재현하는 데 어려움을 겪을 수 있으며, 원인과 결과의 특정 사례를 이해하지 못할 수도 있다”고 소라의 약점을 공개하기도 했다. 그럼에도 딥페이크로 인한 정치 혼란, 사생활 침해 등 우려를 잠재우진 못하고 있다. 소라가 보여 준 수준의 기술이면 학습할 데이터가 많은 유력 정치인의 아주 정교한 가짜 영상을 만드는 것은 ‘식은 죽 먹기’라는 평가가 일반적이다. 미국 앨런 AI 연구소 창립자이자 워싱턴대 교수인 오렌 에치오니 박사는 자신의 X 계정을 통해 “이런 영상들 때문에 박빙의 선거가 뒤집힐까 봐 정말 두렵다”고 말했다. 한 X 사용자는 “누가 내 사진으로 가짜 영상을 만들까 봐 이제 소셜미디어에 사진도 못 올리겠다”고 했다. 연기자, 분장사, 의상, 조명예술가, CG 일러스트레이터 등의 일자리가 위협받는 것도 문제다. 최근 넷플릭스 시리즈 ‘살인자ㅇ난감’에는 배우 손석구의 어릴 적 사진을 이용한 딥페이크 아역이 등장했다. 영화 CG 일러스트레이터인 리드 사우든은 “2022년 미드저니(이미지 생성 AI)가 처음 나왔을 때 우리는 ‘귀엽다’며 비웃었지만 이제 사람들은 생성 AI 때문에 일자리를 잃고 있다”고 말했다.

그제부터 인공지능(AI) 프로그램으로 만든 ‘딥페이크’ 영상 등을 선거운동에 이용하는 행위가 금지됐다. 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다. 지난해 12월 국회에서 공직선거법 개정안이 통과되면서 이뤄진 조치다. 하지만 이번 법 개정은 딥페이크 선거운동에 대한 처벌 근거를 마련한 것일 뿐이다. 빠르게 제작돼 사회관계망서비스(SNS)를 타고 삽시간에 퍼지는 딥페이크 콘텐츠의 특성상 광범위한 폐해를 막기엔 한계가 있다. 단속에 더해 조작된 정보는 만들지도 보지도 않겠다는 정치권과 유권자들의 자세가 필요한 이유다. AI 발달로 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 조 바이든 미국 대통령의 ‘선거 불참을 권하는’ 딥페이크 음성이 확산되는가 하면 영국과 나이지리아 등에서도 정치 관련 음성 조작 사례가 속출하고 있다. 정치인뿐만이 아니다. 미국의 팝가수 테일러 스위프트는 얼굴 사진이 합성된 딥페이크 음란 이미지가 SNS에 게시돼 수천만회 조회되면서 곤욕을 치렀다. 딥페이크 콘텐츠는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 중앙선관위는 검증요원과 AI 전문가들을 최대한 동원해 단속하겠다고 하지만 딥페이크 영상·이미지는 수분 만에 제작돼 실시간으로 확산되기 때문에 뒷북만 칠 가능성도 있다. 따라서 무엇보다 허위정보를 만들지 않겠다는 정치권의 책임 있는 자세가 필요하다. 지난 대선에서 가짜뉴스로 판명된 콘텐츠의 90%를 정치권이 생산했다는 조사 결과도 있다. 허위정보를 최대한 걸러 내겠다는 대형 포털의 책임 있는 자세, 조작된 정보는 보지도 퍼나르지도 않겠다는 유권자들의 노력이 뒷받침돼야 함은 물론이다.

인공지능(AI)의 민주주의 위협이 현실화하고 있다. 미국 대선 후보 경선이 진행되는 가운데 조 바이든 대통령을 사칭해 뉴햄프셔주 프라이머리(예비선거) 불참을 권하는 딥페이크 음성이 유포돼 주정부가 지난 22일(현지시간) 수사에 착수했다. 대선 경선이 시작된 이후 AI를 악용한 허위 정보 유포에 대한 첫 수사다. 미국에서는 최소 13개 주가 AI를 활용한 콘텐츠로 선거 관련 허위 정보가 퍼지는 일을 막기 위한 법을 추진하고 있다. 영국 일간 파이낸셜타임스에 따르면 지난해 영국, 인도, 나이지리아, 수단 등에서 정치와 관련해 음성 조작으로 의심되는 사례가 나왔다. 생성형 AI가 발전할수록 음성 조작 메시지, 딥페이크 영상 등 허위 정보를 퍼트려 상대방을 공격하는 일이 쉬워진다. 올해 전 세계 50개국 이상에서 선거가 치러지니 AI를 악용한 허위 정보가 더 범람할 것이다. 우리나라는 북한과 중국 변수도 있다. 국가정보원은 중국이 국내 언론사로 위장한 사이트를 200여개 개설, 이를 통해 친중·반미 성향 콘텐츠를 게시하고 소셜미디어(SNS)로 확산시켰다고 의심하고 있다. 지난해 공공기관에 대한 해킹 시도가 하루 평균 162만여건인데 이 중 80%가 북한 소행이다. 중국은 건수로는 5%지만 피해 심각도를 고려하면 21%란다. 총선을 앞두고 선거 개입 및 정부 불신을 조장하는 행위가 더욱 기승을 부릴 것이다. 국내에서는 공직선거법에 따라 오는 29일부터 딥페이크를 활용한 선거운동이 금지된다. 이는 처벌 근거 마련에 불과하다. 뉴스 콘텐츠를 대량 유통하는 대형 포털의 책임 있는 자세가 필요하다. 허위 정보 차단의 첨병은 유권자들이다. 팩트체크 기능을 선거운동 기간만이라도 공공기관과 대형 포털 중심으로 강화해 유권자의 올바른 선택을 돕자.

11월 미국 대선을 앞두고 인공지능(AI) 기술이 선거에 미치는 영향에 대한 우려가 커지는 가운데 실제로 미 경선에서 이를 악용한 사례가 접수됐다. 23일(한국시간) 뉴욕타임스와 NBC 등 외신에 따르면 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 상황에서 민주당 당원에게 ‘투표하지 말라’는 조 바이든 미국 대통령의 목소리가 담긴 전화가 걸려왔다. 뉴햄프셔 법무장관실에 따르면 가짜 녹음에는 “당신의 투표는 11월이 중요하다. 이번 화요일은 그렇지 않다”라는 내용이 담겼다. 이어 법무장관실은 “뉴햄프셔 대통령 예비선거를 방해하고 유권자들을 억압하려는 불법 시도로 보인다”며 “유권자들은 이 내용을 완전히 무시해야 한다”라고 밝혔다. 이처럼 AI 기술이 빠르게 발전하면서 이를 기반으로 한 가짜뉴스도 기승을 부리고 있다. 지난해 공화당은 바이든 대통령이 대선 출마를 발표했을 때 세상의 종말 시나리오를 담은 비디오를 생성하는 데 이 기술을 사용하기도 했다. 도널드 트럼프 전 대통령 역시 미 경찰에게 체포당하는 가짜 이미지가 공개된 바 있다.“백인 AI이미지, 실제보다 더 현실적이라 느껴” AI로 생성된 사람 얼굴 사진이 실제 사람을 찍은 사진보다 더 진짜처럼 보이는 현상도 나타나고 있다. 최근 AI 이미지에 대한 여러 연구 결과에 따르면 AI 얼굴 사진과 실제 사람 얼굴 사진을 구분하도록 하는 실험 결과 AI 백인 얼굴 사진이 실제 사람보다 더 현실적인 것으로 인식되는 ‘극사실주의’(하이퍼 리얼리즘) 현상이 확인됐다. 실제로 최근 미국 일간 뉴욕타임스(NYT)가 기사에서 제시한 AI 백인 얼굴 사진 5장 중 4장은 연구 결과 실험 참가자의 89∼93%가 진짜 사진으로 착각한 것으로 나타났다. 이미지 생성 AI가 학습한 수만 장에 이르는 실제 인간 얼굴 사진의 대부분이 백인 얼굴이어서 백인 얼굴은 현실보다 더 현실적으로 나온다는 것이다. 그간 AI 사진은 양쪽 귀 모양이 다르다거나 하는 AI임을 숨길 수 없는 흔적이 통상적으로 있었다. 하지만 AI의 발전됨에 따라 AI 사진 속 얼굴의 모든 부분이 실제 사람의 평균적인 비율에 매우 가까워져서 실험 참가자가 AI인지 의심하지 못할 정도가 됐다는 것이다. 오히려 실험 참가자들은 실제 사람 얼굴 사진에서 귀 모양이 남들과 다르다든가 코가 평균치보다 더 크다든가 하는 등 평균 비율과 어긋나는 부분을 보고 AI 사진으로 착각하는 것으로 보인다고 NYT는 전했다.이처럼 AI 사진이 실제 사람보다 더 진짜 사람처럼 보일 수 있다는 점에 전문가들은 깜짝 놀라고 있다. 호주국립대(ANU)의 에이미 다웰 교수는 이런 AI 사진이 가짜 메시지의 온라인 확산을 도울 수 있다고 우려했다. 다웰 교수는 “과도한 수준의 이런 자신감을 보고 놀랐다”며 “이는 인터넷에서 우리를 가짜 정보에 더 취약하게 만드는 사고방식을 암시한다”고 설명했다.

# 인터넷쇼핑몰을 운영하는 30대 자영업자 A씨는 대금정산을 하려고 은행에 갔다가 계좌가 정지됐다는 이야기를 들었다. 홈페이지에 올려 둔 자신의 계좌에 누군가 30만원을 입금한 뒤 보이스피싱 피해 신고를 했다는 것이다. 은행에서는 지급정지를 푸는 데 두 달이 넘게 걸린다고 했다. 그사이 사기범은 지급정지를 풀게 해 줄 테니 300만원을 보내라고 요구했다. 보이스피싱 피해를 막기 위해 도입한 금융계좌 지급정지제도를 악용해 돈을 뜯는 이른바 ‘통장묶기’ 신종 사기가 유행하는 가운데, 케이뱅크가 이런 피해를 최소화하기 위해 ‘통장묶기 즉시해제 제도’를 도입했다고 22일 밝혔다. 통신사기피해환급법상 금융사는 보이스피싱 신고를 접수하면 해당 계좌뿐 아니라 은행권 전체 계좌를 즉시 지급정지한다. A씨처럼 실제 보이스피싱 사기 계좌가 아니어도 지급정지된 계좌를 푸는 데 보통 한두 달이 걸린다. 케이뱅크는 지난해 전체 지급정지된 계좌 중 약 30%가 통장묶기에 당한 것으로 보고 있다. 케이뱅크는 접수한 지급정지 이의제기 계좌가 통장묶기에 당한 것으로 보일 경우 신고된 금액을 제외한 나머지에 대해 검증 절차를 거쳐 1시간 안에 지급정지를 풀어 주기로 했다. 진짜 보이스피싱 사기범이 통장묶기 피해자로 위장할 가능성에 대비해 철저한 신원 검증 절차를 거친다. 계좌 주인의 신원을 신분증과 영상통화 등을 통해 1차 인증하고 동시에 인공지능(AI), 빅데이터 등을 활용해 과거 금융거래 패턴을 분석, 보이스피싱 혐의점이 없는지 판단한다.

신사업에 뛰어든다고 투자자를 속여 주가를 띄우고 부당 이득을 챙긴 회사가 대거 적발됐다. 이들 회사는 이차전지, 인공지능(AI) 등 테마주 열기를 교묘하게 이용했다. 이 과정에서 횡령과 배임을 무더기로 저질렀고, 상당수 회사는 상장폐지 또는 매매거래 정지돼 투자자에게 큰 피해를 줬다. 금융감독원은 지난해 말까지 총 7개사의 불공정거래를 적발해 검찰과 경찰에 넘겼고 현재 13개사에 대한 조사를 추가로 진행 중이라고 18일 밝혔다. 금감원에 따르면 이들 회사는 새로운 분야의 사업에 뛰어든다고 허위 공시를 하는 등의 수법으로 주가를 끌어올린 뒤 보유한 주식을 팔아 차익을 남겼다. 기계 만드는 회사가 갑자기 코로나 치료제 개발에 착수한다거나, 유통회사가 이차전지를 개발한다고 발표하는 식이었다. 일부 회사는 사채를 끌어다 대규모 자금 조달에 성공한 것처럼 꾸미거나 해당 신사업과 관련된 유명 인사를 사외이사로 영입해 관련 사업을 본격적으로 추진하는 것처럼 포장했다. 연구기관과 이름뿐인 양해각서(MOU)를 교환하고 신사업 관련 페이퍼컴퍼니에 투자하는 등의 수법도 썼다. 이들 회사는 테마주 열기에 편승했다. 2020년 이전에는 바이오 관련 사업이, 팬데믹 기간이었던 2020년부터 2021년에는 코로나 관련 사업이, 최근에는 이차전지 및 AI가 불공정거래 단골 메뉴로 악용됐다. 금감원은 이러한 신규 사업 가장 불공정거래가 무자본 인수합병(M&A) 세력의 경영권 인수와 연관성이 매우 높다고 판단했다. 조치를 마친 7건 중 3건(42.9%)은 무자본 M&A 세력의 경영권 인수 과정 등에 불공정거래 행위가 발생한 것으로 나타났다. 조사 중인 13건 중 7건(53.8%)도 불공정거래 행위 직전 최대주주가 변경된 것으로 나타났다. 횡령, 배임도 빈번하게 발생했다. 금감원은 조사를 마친 7개사 중 3개사에서 횡령과 배임을 확인했다. 이 가운데 1건은 일반 투자자를 대상으로 수백억원대 유상증자를 하기도 했다. 주로 코스닥 상장사가 신규 사업을 가장한 불공정거래에 연루됐다. 조사 대상 20개사 중 18개사가 코스닥 상장사였다. 이 가운데 10개사는 상장폐지 또는 매매거래 정지됐다. 금감원 관계자는 “주가조작꾼들의 전형적인 주가 부양 수법”이라면서 “중대 위법행위로 엄중 처벌할 것”이라고 밝혔다.

수사단계서 동결할 입법안 추진최소 6개월 정지… 추가 범행 차단“지급정지로 범죄 줄이는 데 기여”온라인 마약 판매 사진 AI로 판독 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급정지’를 하기 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어 버리면 추가 수사 시간을 확보하고 범죄수익 몰수와 추징도 강화할 수 있을 것으로 본다. 17일 서울신문 취재를 종합하면 대검찰청 마약조직범죄부(부장 박영빈)는 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민체육진흥법’, ‘게임산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 특히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고 은행권의 협조를 요청할 계획이다. 현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수 없다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법도박 근절을 위해 관련 사이트 접속 차단을 해 왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌 지급정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것”이라고 밝혔다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해 왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 만들었다.

수사단계서 동결할 입법안 추진최소 6개월 정지… 추가 범행 차단이원석 총장, 은행연합회와 MOU 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. 대화방을 옮긴 A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급정지’를 하기가 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어 버리면 추가 수사에 대한 시간을 확보하고 범죄수익 몰수와 추징도 강화할 수 있을 것으로 기대하고 있다. 17일 서울신문 취재를 종합하면 대검찰청은 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민체육진흥법’, ‘개입산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 온라인 불법도박과 관련된 법안은 스포츠토토 외에도 조정·경륜·경마 등 세부화돼 있어 법안마다 개정이 필요하다. 특히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고 은행권의 협조를 요청할 계획이다. 현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 범죄 피해자가 금융회사에 지급정지를 신청하거나 수사기관이 사기 이용 계좌로 의심된다고 판단해 금융회사에 고지하면 해당 계좌가 동결된다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수 없다. 오히려 범죄자들이 은행을 상대로 수사기관의 요청에 따라 계좌 지급정지를 한 데 대해 민원을 넣거나 소송을 건다는 게 검찰 측 설명이다. 검찰 측은 “범죄자가 대포통장 명의자를 시켜 은행에 ‘왜 내 멀쩡한 계좌를 정지시키느냐’며 항의하는 경우도 있다”고 밝혔다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 대검에 따르면 지난해 1~11월 단속된 마약류 사범은 2만 5188명에 달했다. 지난해 12월을 제외했는데도 2022년(1만 8395명)에 비해 36.9% 증가했다. 불법도박 시장 규모도 급격하게 커졌다. 사행산업통합감독위원회에 따르면 연도별 불법도박 추정액(이용자 기준)은 2016년 70조 8934억원에서 2022년 102조 7236억원으로 늘었다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법도박 근절을 위해 관련 사이트 접속 차단을 해 왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌 지급정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것으로 보인다”고 밝혔다. 백주선 법무법인 융평 대표변호사는 “계좌 지급정지를 통해 수사를 진행한 후 범죄수익이라고 판단되면 국가가 환수할 수 있어 효과가 클 것으로 기대된다”며 “대포통장을 이용한 범행 건수가 줄어드는 효과도 있을 것으로 보인다”고 말했다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해 왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 만들었다. 또 인스타그램과 핀터레스트 등 SNS를 통한 마약류 모니터링 시스템을 강화하고자 마약 범죄 관련 사용자 계정(ID)과 연락처, 이미지, 텍스트 등 데이터베이스(DB)도 재구축했다.

수사단계서 동결할 입법안 추진최소 6개월 정지…추가 범행 차단이원석 총장, 은행연합회와 MOUe드러그 모니터링 이달 상용화 계획 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. 대화방을 옮긴 A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급 정지’를 하기가 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어버리면 추가 수사에 대한 시간을 확보하고 범죄수익 몰수와 추징도 강화할 것으로 기대하고 있다. 17일 서울신문 취재를 종합하면 대검찰청 마약조직범죄부(부장 박영빈)는 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법 도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민 체육진흥법’, ‘게임산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 온라인 불법도박과 관련된 법안은 스포츠토토 외에도 조정·경륜·경마 등 세부화돼 있어 각 법안마다 개정이 필요하다. 툭히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고, 은행권의 협조를 요청할 계획이다.현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 범죄피해자가 금융회사에 지급정지를 신청하거나 수사기관이 사기이용계좌로 의심된다고 판단해 금융회사에 고지하면 해당 계좌가 동결된다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수가 없다. 오히려 범죄자들이 은행을 상대로 수사기관의 요청에 따라 계좌지급 정지를 한 데 대해 민원을 넣거나 소송을 건다는 게 검찰 측 설명이다. 검찰 측은 “범죄자가 대포통장 명의자를 시켜 은행에 ‘왜 내 멀쩡한 계좌를 정지시키냐’며 항의하는 경우도 있다”고 설명했다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 대검에 따르면 지난해 1~11월 단속된 마약류 사범은 2만 5188명에 달했다. 지난해 12월을 제외했는데도 2022년(1만 8395명)에 비해 36.9% 증가했다. 불법도박 시장 규모도 급격하게 커졌다. 사행산업통합감독위원회에 따르면 연도별 불법도박 추정액(이용자 기준)은 2016년 70조 8934억원에서 2022년 102조 7236억원으로 늘었다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여 간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법 도박 근절을 위해 관련 사이트 접속 차단을 해왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌지급 정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것으로 보인다”고 밝혔다. 백주선 법무법인 융평 대표변호사는 “계좌 지급정지를 통해 수사를 진행한 후 범죄 수익이라고 판단되면 국가가 환수할 수 있어 효과가 클 것으로 기대된다”며 “대포통장을 이용한 범행 건수가 줄어드는 효과도 있을 것으로 보인다”고 말했다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고, 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인 상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 구축했다. 또 인스타그램과 핀터레스트 등 SNS를 통한 마약류 모니터링 시스템을 강화하고자 마약 범죄 관련 사용자 계정(ID)과 연락처, 이미지, 텍스트 등 데이터베이스(DB)도 다시 재구축했다.