국내외에서 선거를 앞두고 인공지능(AI) 기술로 만든 딥페이크 가짜 영상에 주의보가 내려진 가운데, 국내 생성형 AI 전문 기업 딥브레인AI가 경찰청과 협력해 딥페이크 범죄 단속을 돕는 탐지 솔루션을 선보였다고 15일 밝혔다. 최근 딥페이크 기술의 고도화로 이를 악용한 범죄 우려가 가중됨에 따라, 딥브레인AI는 경찰청과 함께 이를 효과적으로 대응할 수 있는 맞춤형 딥페이크 탐지 솔루션을 개발했다. 경찰청은 이를 활용해 총선을 겨냥한 선거범죄를 비롯한 피싱 범죄와 합성 성 착취물 범죄 등 딥페이크 기반 지능형 범죄에 능동적으로 대처할 방침이다. 딥브레인은 앞서 딥페이크 탐지 솔루션을 지속 개발해 왔다. 이번 솔루션은 ▲종합탐지 ▲음성탐지 2가지로 구성돼 있으며, 각각 이미지와 영상, 음성 탐지를 지원한다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 ▲탐지모델 ▲탐지구간 ▲탐지인물 등을 설정하면 진위여부를 즉각 판별한다. 이번 딥페이크 탐지 솔루션은 딥브레인AI의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 기반으로 설계됐다. 서양인 위주의 데이터로 제작된 기존 대다수 탐지 모델과 달리 한국인 데이터 100만 건, 아시아 계열 인종 데이터 13만 건을 포함해 총 520만 건의 데이터 학습을 더해 탐지율을 높였다. 딥브레인AI는 이번 경찰청과의 협력을 계기로 다양한 분야의 기업, 기관과 딥페이크 탐지 솔루션 구축 방안을 논의할 예정이다. 혼란과 위기 상황을 야기하는 허위 정보의 진위여부를 즉각 판별하는 솔루션을 적극 공급하며 전 사회적인 손실 비용을 최소화한다는 방침이다.

이재명 더불어민주당 대표가 13일 ‘한강벨트’인 서울 동작을과 용산을 각각 찾아 후보에 대해 지지를 호소하고 민생 현장을 살폈다. 민주당은 이 대표가 지원 유세를 하는 지역구를 ‘윤석열 정권 심판벨트’라고 이름 붙여 공세 수위를 높이고 있다. 이 대표는 이날 서울 동작구 류삼영 민주당 후보 사무실을 찾아 “류 후보는 용기의 상징”이라며 “윤석열 정권의 잘못된 경찰 장악 시도를 저지하기 위해 당사자로서 치열하게 싸우다 결국 이 자리까지 왔다. 함께 손잡고 싸워서 반드시 국회로 보내 주길 바란다”고 했다. 이 대표는 이후 서울 용산으로 이동해 용문시장을 돌며 강태웅 후보 지원 유세를 이어 갔다. 그는 “무능하고 무책임한 윤석열 정권 2년, 이제는 더이상 견디기 어렵다, 앞으로는 바꿔야겠다 싶으면 4월 10일 심판의 날에 확실히 심판해야 하지 않겠나”라고 했다. 박성준 민주당 대변인은 이날 오전 서울 영등포구 당사에서 기자들과 만나 “당 대표는 윤석열 정권 심판벨트 후보지를 선정해서 이 지역을 방문하게 된다. (대통령실이 있는) 서울 용산도 윤석열 대통령을 심판하는 하나의 지역구”라고 설명했다. 이 대표는 14일 대전·충북을, 15일엔 울산·부산을 찾는다. 한국과학기술원(KAIST·카이스트)을 비롯한 과학기술 분야 정부출연연구기관이 몰려 있는 대전에서는 연구개발(R&D) 예산 삭감을 고리로, 울산과 부산에서는 각각 정부가 추진하려던 주 69시간 근무와 부산 엑스포 유치 실패 등을 비판하며 정권 심판론에 불을 지피겠다는 계획이다. 이 대표는 최근 소셜미디어(SNS)에도 다수의 글을 올리며 정권 심판 여론전을 강화하고 있다. 후보의 말 한마디가 선거 판세를 뒤집을 수 있는 만큼 이 대표는 내부적으로 후보 입단속도 강화했다. 이 대표는 이날 선대위 2차 회의에서 “저를 비롯한 민주당의 모든 후보와 당의 구성원들은 앞으로 한층 말과 행동을 신중히 해야 한다”고 했다. 서울 강북을 후보인 정봉주 전 의원이 과거 “발목 지뢰 밟는 사람들한테 목발 하나씩 주자”는 발언으로 논란이 인 상황 등을 의식한 것으로 풀이된다.

이라크 육군 고위 장성이 한국을 찾아 국산 기동헬기 ‘수리온’을 살펴본 것으로 알려지면서 해외수출 가능성에 관심이 쏠린다. 13일 방산업계 등에 따르면 사미르 자키 후세인 알말리키 이라크 육군 항공사령관(중장)을 필두로 한 이라크 육군 고위관계자들이 지난 4~7일 방한했다. 신원식 국방부 장관를 만났고 한국항공우주산업(KAI)을 비롯한 주요 방산업체도 방문한 것으로 전해졌다. 특히 경남 사천시 KAI 본사를 방문해 수리온 계열 중형 헬기 ‘흰수리’ 운용 모습을 참관하고 직접 탑승까지 했다. 수리온은 방위사업청 주관 아래 국방과학연구소(ADD)와 KAI 등이 2006년부터 개발한 첫 국산 기동헬기다. 2012년부터 육군에 실전 배치돼 기동헬기와 의무헬기로 활용되고 있다. 흰수리는 수리온을 기반으로 해양테러, 해양범죄 단속, 수색구조 등 해양경찰 임무 수행에 적합하도록 개발·개조된 헬기다. 순항속도 시속 240㎞, 항속 거리 655㎞로 최대 3.5시간까지 하늘을 날 수 있으며 고성능 탐색 레이더와 광학탐지 장비, 구조용 호이스트 등이 장착돼 주야간 해상 수색과 인명구조가 가능하다. 이라크는 2013년 국산 경공격기인 FA-50(이라크 수출 모델명 T-50IQ) 24대 구매계약을 체결한 바 있다. 이후에도 원유 수송관 테러 등에 대비해 소형 정찰헬기 도입을 진지하게 검토해온 것으로 알려졌다. 특히 수리온과 수리온을 플랫폼으로 삼아 개발된 해경용 흰수리, 경찰청용 참수리 등은 한국에서 이미 수년간 운용돼 외국 바이어들의 관심이 높은 것으로 전해졌다. 정부는 2010년대 중반부터 이라크, 인도네시아, 태국 등 여러 나라와 수리온 수출을 협의해왔지만 아직 계약 성사까지 이른 곳은 없는데, 이라크가 군 고위장성까지 파견할 정도로 관심을 보여 첫 수출 성과로 이어질지 주목된다.

인공지능(AI) 시대 반도체 패권을 둘러싼 각국의 경쟁이 치열해지면서 고급 인력·기술을 빼가려는 시도가 잇따르고 있다. 기업들이 기술 유출을 방지하기 위해 보안을 강화하고 동종업체 전직 금지 약정, 비밀유지 서약을 통해 핵심 인재 단속에 나서고 있지만 점점 더 교묘해지는 ‘기술·인재 사냥’에 대응하기에는 역부족이라는 평가가 나온다. AI 반도체에 필수적으로 탑재되는 고대역폭 메모리(HBM) 시장을 사실상 장악하고 있는 국내 기업 연구개발 인력에 대한 쟁탈전은 앞으로 더 거세질 것으로 보여 처우 개선 등 세심한 관리가 필요하다고 전문가들은 입을 모은다. 9일 산업통상자원부에 따르면 2019년부터 지난해까지 최근 5년간 반도체 부문 산업 기술 유출 적발 건수는 총 38건이다. 국가핵심기술을 포함한 전체 산업 기술 유출 적발 사건 96건 중 39.6%에 해당한다. 한국의 반도체 기술이 상대적으로 우위에 있다 보니 기술 유출의 표적이 된 것이다. 지난해 반도체 기술 유출 적발 건수는 15건으로 2019년 3건에 비해 크게 늘었다. 국가 핵심 기술 유출을 막기 위해 양형기준을 손질하고 손해배상 한도를 최대 다섯 배까지 올리는 등 처벌 실효성을 높이려는 작업이 진행 중이지만 기술 유출 수법이 지능화, 다양화하면서 즉각적인 차단이 쉽지 않은 실정이다.후발 업체들이 기술 격차를 줄이기 위해 인재 포섭에 나선 것도 국내 기업에는 부담이 될 수 밖에 없다. 퇴직 후 2년간 경쟁업체에 취업하지 않는다는 전직 금지 약정서를 쓰더라도 이를 어겼는지를 확인하는 건 기업 몫이기 때문이다. 다른 기업에서 눈독을 들일만한 퇴직 임원에 대해선 일정 기간 고문, 상담역, 자문역 등 퇴직자 프로그램을 통해 관리를 하지만 퇴직 직원들은 이러한 프로그램도 사실상 없어 이직 사실을 파악하기도 어렵다. 퇴직 직원의 이직을 파악했더라도 법적 절차를 밟는 데 시간이 걸리기 때문에 즉각적인 조치를 할 수도 없다. 지난해 8월 SK하이닉스가 미국 마이크론으로 옮겨간 전직 연구원을 상대로 전직 금지 가처분 신청을 했지만 법원 결정이 나오는 데는 7개월 가까이 걸렸다. 오는 7월 전직 금지 약정 기간이 끝나는 상황이라 회사 입장에선 가처분 인용 결정을 받아내도 크게 실익이 없는 셈이다.엔지니어, 경제적 유혹에 빠지지 않으려면“사명감 갖고 일할 수 있는 분위기 조성”“퇴직 후 경력 활용할 수 있게 통로 마련” 처벌 강화와 같은 사후 대책 뿐 아니라 핵심 기술과 인력 유출을 막기 위한 예방 시스템이 함께 갖춰져야 한다는 주장이 나오는 것도 이런 이유에서다. 김양팽 산업연구원 전문연구원은 “경제적 유혹이나 회사에 대한 불만이 이직 동기로 작용할 수 있다”면서 “(쉽지는 않지만) 책임감, 사명감을 갖고 일할 수 있는 분위기를 조성하는 게 중요하다”고 말했다. 삼성전자와 SK하이닉스 등 국내 업체들은 장기간 경험을 쌓은 우수 엔지니어의 경우 정년 이후에도 일할 수 있는 제도를 마련해두긴 했다. SK하이닉스 퇴직 임원이 사내 대학(SKHU)에서 전문 교수로 활동하기도 한다. 이종환 상명대 시스템반도체공학과 교수는 “(HBM의 경우) 핵심 인력을 포섭하면 곧바로 격차를 1년 이상 줄일 수 있기 때문에 영입 경쟁이 더 세질 것”이라면서 “엔지니어가 퇴직 후에도 경력을 활용할 수 있는 통로를 마련해주는 게 중요하다”고 말했다. 이어 “엔지니어는 회사가 자신을 인정해주는 걸 중요하게 생각한다”면서 “이들의 자긍심이 깨져 마음의 상처를 입지 않도록 섬세하고 체계적인 관리가 필요하다”고 덧붙였다.

“어느 날 검사가 전화를 걸어 현금을 코인으로 바꿔 해외 주소로 보내라고 시킨다면 기자님은 어떨까요. 저런 뻔한 거짓말에 왜 속을까 싶으시죠. 정말 안 당해 봐서 하는 이야깁니다.” 가상자산거래소 업비트에서 이상거래탐지 업무를 담당하는 안재민(44) 운영지원팀장은 “작정하고 덤벼들면 눈 뜨고 당하는 게 요즘 코인 보이스피싱”이라고 7일 말했다. 그는 6년째 고객 계좌에서 입출금 금액이 갑자기 늘어나는 등 보이스피싱이 의심되는 거래가 나타나면 곧바로 확인을 거쳐 출금을 막는 일을 하고 있다. 요즘 전화 금융사기 조직은 마지막 출금 계좌로 코인을 애용한다. 은행 등 제도권 금융사보다 계좌 추적이 어렵고 민관 공조도 쉽지 않다는 점을 노려서다. 지난해부터는 범죄에 연루될 경우 코인도 지급을 정지하도록 제도가 바뀌자 사기꾼들은 해외 코인거래소로 돈을 들고 튀고 있다. 안 팀장은 “현재로는 코인이 해외로 보내지기 전에 이상거래로 탐지해 막는 게 최선”이라고 말했다. 최근 안 팀장은 똘똘한 부사수 한 명을 키우고 있다. 다름 아닌 인공지능(AI)이다. 지난 6년간의 비법을 고스란히 AI에게 학습시키고 이상거래를 걸러 낸다. 안 팀장은 “인간의 노하우를 학습시키면 AI는 하루 수십만 건의 입출금을 24시간 모니터링할 수 있다”면서 “덕분에 하루 수십 건의 이상거래를 탐지해 피해를 막는다는 데 보람을 느낀다”고 말했다. 디지털자산거래소 공동협의체(DAXA)에 따르면 가상자산을 이용한 보이스피싱 피해 금액은 2020년 82억 6000만원에서 2022년 199억 6000만원으로 2배 넘게 늘었다. 무섭게 늘기만 하던 피해는 AI 단속의 등장과 민관 합동단속 등의 노력으로 지난해에는 82억 5000만원으로 증가세가 꺾였다. 안 팀장은 재벌 등 고액자산가까지 노린다는 알뜰폰 범죄를 예방할 수 있는 ‘꿀팁’을 공개했다. 그는 “인터넷으로 정부의 명의도용방지서비스에 가입하면 범죄자가 나 몰래 알뜰폰을 개통해 계좌에서 돈 털어가는 걸 막을 수 있다. 5분이면 가능해 지인들에게 추천 중”이라고 말했다.

딥페이크(Deepfake)로 영상 속 인물의 얼굴을 가상 인물로 바꾼 한 영상을 ‘딥페이크 탐지 소프트웨어’에 업로드해 분석하니 금세 ‘변조율’이 76.76%인 ‘가짜’ 영상으로 판독됐다. 합성 유형은 ‘얼굴 바꿔치기’라고 가려냈다. 경찰청 국가수사본부는 이처럼 딥페이크 영상을 탐지하는 기술을 개발해 범죄 단속에 활용한다고 5일 밝혔다. 경찰이 개발한 소프트웨어는 영상 길이 등에 따라 5~10분이면 딥페이크인지를 판별한다. 딥페이크는 딥러닝(Deep learning)과 가짜를 의미하는 페이크(Fake)의 합성어로, 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술을 기반으로 이미지를 합성하는 기술이다. 갈수록 딥페이크 기술이 정교해지 가운데 맨눈으로 구분해내기 어려운 딥페이크 영상을 이 소프트웨어로 구분할 수 있을 것으로 기대된다. 해외에서도 마이크로소프트 등이 딥페이크를 탐지하는 기술을 개발했지만, 서양인 위주로 데이터를 쌓았기에 한국인 얼굴을 바꿔치기 한 영상은 탐지율이 상대적으로 떨어진다는 평가를 받았다. 경찰청이 도입한 소프트웨어는 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점 등을 포함한 인물 5400명의 데이터 520만점을 학습한 결과, 탐지율 정확도가 80%에 달하는 것으로 분석됐다. 경찰은 총선을 앞두고 딥페이크로 가짜 영상을 만들어 허위 정보를 퍼뜨리거나 성 착취물을 만드는 범죄를 수사하는 데 소프트웨어를 활용할 계획이다. 공직선거법에 따라 딥페이크를 활용한 선거운동은 선거일 90일 전부터 선거일까지 전면 금지된다. 그러나 딥페이크 영상인지만을 따지기에 이 소프트웨어만으로는 모든 허위 영상을 구분해낼 수는 없다. 최근 소셜네트워크서비스(SNS)에서 퍼진 윤석열 대통령의 ‘가짜 양심고백 연설’ 동영상은 실제로 존재하는 영상을 짜깁기 한 것이기에 이 소프트웨어는 해당 영상을 ‘진짜’라고 판단했다. 경찰은 소프트웨어의 신뢰도가 100%가 아니기에 증거자료로 쓰기보다는 수사 방향을 정하는 참고자료로 활용하겠다는 계획이다. 국수본 관계자는 “딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극적으로 수사할 수 있을 것”이라며 “향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 말했다.

관세청이 27일 관세행정발전심의위원회를 열어 스마트혁신 추진방안을 발표하고, 첨단 장비로 이루어진 홍보관을 선보였다. 관세청은 치밀해지는 마약 밀반입 범죄를 예방하기 위해 최첨단 감시단속장비를 도입한다. 첨단검색장비인 밀리미터파 신변검색기를 배치해 운용하고, 인공지능(AI) 기술을 활용해 우범여행자에 대한 식별 처리를 강화한다. 마약 등 위해물품 유입 차단을 위해 공항과 항만 입국장에 첨단검색장비인 밀리미터파 신변검색기를 배치해 운용할 예정이다. 해당 장비는 몸이나 옷속에 숨긴 소량 마약도 단속이 가능하다. AI 신기술 활용도 확대한다. 우범여행자의 안면 정보를 입국심사대에서 CCTV가 인식한 후 세관출구 CCTV에서 동일여행자 여부를 확인하는 AI CCTV를 설치한다. AI 알고리즘으로 마약 등 특송물품 고위험 선별모델도 개발한다. 고광효 관세청장은 “국민과 기업의 눈높이에서 관세행정을 변화시키기 위해 기업인·학계·청년층 등 다양한 분야에서 제기된 현장의 목소리를 최대한 반영해 스마트혁신 추진계획을 수립했다”며 “금년 내 스마트혁신 추진을 통해 국민들이 체감할 수 있는 가시적인 성과를 창출하겠다”라고 전했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

그제부터 인공지능(AI) 프로그램으로 만든 ‘딥페이크’ 영상 등을 선거운동에 이용하는 행위가 금지됐다. 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다. 지난해 12월 국회에서 공직선거법 개정안이 통과되면서 이뤄진 조치다. 하지만 이번 법 개정은 딥페이크 선거운동에 대한 처벌 근거를 마련한 것일 뿐이다. 빠르게 제작돼 사회관계망서비스(SNS)를 타고 삽시간에 퍼지는 딥페이크 콘텐츠의 특성상 광범위한 폐해를 막기엔 한계가 있다. 단속에 더해 조작된 정보는 만들지도 보지도 않겠다는 정치권과 유권자들의 자세가 필요한 이유다. AI 발달로 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 조 바이든 미국 대통령의 ‘선거 불참을 권하는’ 딥페이크 음성이 확산되는가 하면 영국과 나이지리아 등에서도 정치 관련 음성 조작 사례가 속출하고 있다. 정치인뿐만이 아니다. 미국의 팝가수 테일러 스위프트는 얼굴 사진이 합성된 딥페이크 음란 이미지가 SNS에 게시돼 수천만회 조회되면서 곤욕을 치렀다. 딥페이크 콘텐츠는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 중앙선관위는 검증요원과 AI 전문가들을 최대한 동원해 단속하겠다고 하지만 딥페이크 영상·이미지는 수분 만에 제작돼 실시간으로 확산되기 때문에 뒷북만 칠 가능성도 있다. 따라서 무엇보다 허위정보를 만들지 않겠다는 정치권의 책임 있는 자세가 필요하다. 지난 대선에서 가짜뉴스로 판명된 콘텐츠의 90%를 정치권이 생산했다는 조사 결과도 있다. 허위정보를 최대한 걸러 내겠다는 대형 포털의 책임 있는 자세, 조작된 정보는 보지도 퍼나르지도 않겠다는 유권자들의 노력이 뒷받침돼야 함은 물론이다.

독일 녹색당의 지방의회 의원이 홀로코스트(나치의 유대인 대학살) 추모일에 만취 상태로 이른바 ‘나치 경례’를 했다가 결국 사퇴했다. 타게스슈피겔 등 현지 언론에 따르면 베를린 샤를로텐부르크-빌머스도르프 구의회 의원 유타 보덴(63)은 27일(현지시간) 오전 1시 40분쯤 베를린 외곽 115번 고속도로에서 음주운전을 의심해 단속하는 경찰관에게 두 차례 나치 경례를 했다. ‘히틀러 경례’로도 불리는 나치 경례는 손바닥을 아래로 하고 오른팔을 비스듬히 올려 뻗는 1930년대식 나치(국가사회주의독일노동자당)의 인사법이다. 반유대주의와 제국주의의 상징으로 독일에서는 형사처벌 대상이다. 보덴 의원은 경찰관 앞에서 나치 경례 구호인 ‘하일 히틀러’(히틀러 만세)도 외쳤다고 독일 언론들은 전했다. 그는 경찰관에게 부당한 대우를 지적하려 했을 뿐이라고 해명했다. 그러나 곧 “음주운전과 부적절하고 잘못된 반응은 용납할 수 없는 행동이었다”며 의원직에서 물러나겠다고 밝혔다. 보덴 의원의 혈중알코올농도는 0.134％로 측정됐다. 한국으로 치면 자동차 운전면허 취소에 해당한다. 독일 수사당국은 음주운전과 함께 위헌단체의 상징을 사용한 혐의에 대해서도 수사할 방침이다. 독일 형법은 위헌으로 선언된 정당 또는 조직의 깃발이나 휘장·경례형식 등을 사용하면 3년 이하 징역 또는 벌금형에 처한다. 보덴 의원이 사고를 낸 27일은 하필 아우슈비츠 수용소 해방 79주년이자 유엔이 지정한 홀로코스트 희생자 추모의 날이었다. 나치가 제2차 세계대전을 일으키고 유대인을 학살한 독일에서는 추모행사와 함께 극우정당 ‘독일을 위한 대안’(AfD)을 규탄하는 시위가 곳곳에서 열렸다.앞서 이달 초순엔 이탈리아에서는 파시즘(fascism·극우 전체주의) 추종자 수백명이 모여 이른바 ‘파시스트 경례’를 하는 영상이 소셜미디어(SNS)에 공개돼 큰 논란을 일으켰다. 이탈리아 공영방송 라이(RAI) 등 현지 매체에 따르면, 문제의 집회는 전날 저녁 로마에 있는 옛 네오파시스트 정당 이탈리아사회운동(MSI) 본부 앞에서 벌어졌다. 이날 집회는 46년 전인 1978년 1월 7일, 좌익 무장 세력 등에게 살해당한 MSI 조직원 3명을 추모하기 위해 열렸다. SNS에 올라온 영상을 보면 현장에 모인 사람들은 “프레젠테(Presente)”를 외치며 손바닥을 아래로 하고 팔을 쭉 뻗는 ‘로마식 경례’를 했다. ‘로마식 경례’는 고대 로마제국에서 사용한 경례법으로, 1921~1943년 파시스트 당수를 지낸 독재자 베니토 무솔리니(1883~1945) 통치 시절에 주로 쓰여 ‘파시스트 경례’로도 불린다. 독일 나치식 경례의 모습과도 유사하다. ‘프레젠테’는 네오파시스트들의 희생이 현재까지 남아 있다는 의미로, 이들을 추모할 때 등장하는 구호다. 영상은 SNS를 통해 순식간에 퍼졌고, 이탈리아 사회는 큰 충격에 빠졌다. 이탈리아는 무솔리니 집권기 때 2차 세계대전에 추축국으로 가담한 과오를 반성하며 파시즘을 찬양하는 행위를 엄금하고 있다. 이탈리아 정치권도 거센 비판을 쏟아냈다. 최대 야당인 민주당(PD) 대표 엘리 슐라인은 “(무솔리니가 총선에서 압승한) 1924년 같아 보인다. 용납할 수 없는 일이다. 네오파시스트 조직은 헌법에 따라 해산돼야 한다”고 말했다.

수사단계서 동결할 입법안 추진최소 6개월 정지… 추가 범행 차단이원석 총장, 은행연합회와 MOU 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. 대화방을 옮긴 A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급정지’를 하기가 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어 버리면 추가 수사에 대한 시간을 확보하고 범죄수익 몰수와 추징도 강화할 수 있을 것으로 기대하고 있다. 17일 서울신문 취재를 종합하면 대검찰청은 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민체육진흥법’, ‘개입산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 온라인 불법도박과 관련된 법안은 스포츠토토 외에도 조정·경륜·경마 등 세부화돼 있어 법안마다 개정이 필요하다. 특히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고 은행권의 협조를 요청할 계획이다. 현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 범죄 피해자가 금융회사에 지급정지를 신청하거나 수사기관이 사기 이용 계좌로 의심된다고 판단해 금융회사에 고지하면 해당 계좌가 동결된다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수 없다. 오히려 범죄자들이 은행을 상대로 수사기관의 요청에 따라 계좌 지급정지를 한 데 대해 민원을 넣거나 소송을 건다는 게 검찰 측 설명이다. 검찰 측은 “범죄자가 대포통장 명의자를 시켜 은행에 ‘왜 내 멀쩡한 계좌를 정지시키느냐’며 항의하는 경우도 있다”고 밝혔다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 대검에 따르면 지난해 1~11월 단속된 마약류 사범은 2만 5188명에 달했다. 지난해 12월을 제외했는데도 2022년(1만 8395명)에 비해 36.9% 증가했다. 불법도박 시장 규모도 급격하게 커졌다. 사행산업통합감독위원회에 따르면 연도별 불법도박 추정액(이용자 기준)은 2016년 70조 8934억원에서 2022년 102조 7236억원으로 늘었다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법도박 근절을 위해 관련 사이트 접속 차단을 해 왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌 지급정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것으로 보인다”고 밝혔다. 백주선 법무법인 융평 대표변호사는 “계좌 지급정지를 통해 수사를 진행한 후 범죄수익이라고 판단되면 국가가 환수할 수 있어 효과가 클 것으로 기대된다”며 “대포통장을 이용한 범행 건수가 줄어드는 효과도 있을 것으로 보인다”고 말했다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해 왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 만들었다. 또 인스타그램과 핀터레스트 등 SNS를 통한 마약류 모니터링 시스템을 강화하고자 마약 범죄 관련 사용자 계정(ID)과 연락처, 이미지, 텍스트 등 데이터베이스(DB)도 재구축했다.

수사단계서 동결할 입법안 추진최소 6개월 정지…추가 범행 차단이원석 총장, 은행연합회와 MOUe드러그 모니터링 이달 상용화 계획 최근 30대 여성 A씨는 호기심으로 마약 구매를 알선하는 소셜미디어(SNS) 대화방에 입장했다. 이 대화방엔 ‘인증 딜러 추천’, ‘호구방 입장’ 등 마약을 실제로 살 수 있는 또 다른 대화방으로 안내하는 글들이 올라왔다. 대화방을 옮긴 A씨가 판매상에게 구매를 원하는 마약 종류와 양을 얘기하자 판매상은 “65만원을 보내면 수수료 5만원을 떼고 60만원어치 ‘아이스’(마약 은어 중 하나)를 주겠다”며 ‘대포(차명)통장’ 계좌번호를 보냈다. 검찰이 이렇게 마약 거래와 온라인 불법 도박에 이용된 대포통장 계좌를 최소 6개월 이상 동결할 수 있는 법안 개정을 추진한다. 현재는 검찰이 A씨 사례에서처럼 범죄 목적으로 이용되고 있는 계좌를 포착해도 ‘계좌 지급 정지’를 하기가 어려웠다. 수사기관이 요청한다고 해도 은행이 즉각 계좌를 동결할 수 있는 법적 근거가 없어서다. 검찰은 범죄에 악용되는 대포통장 계좌를 바로 묶어버리면 추가 수사에 대한 시간을 확보하고 범죄수익 몰수와 추징도 강화할 것으로 기대하고 있다. 17일 서울신문 취재를 종합하면 대검찰청 마약조직범죄부(부장 박영빈)는 상반기 시행을 목표로 마약 거래와 온라인 불법도박에 이용된 대포통장 계좌에 대해 최소 6개월 이상 지급정지를 하는 개정안을 준비 중이다. 텔레그램 등 SNS를 통해 마약을 거래하거나 불법 도박 사이트를 이용할 때 사용되는 대포통장 계좌를 수사 단계에서 즉시 동결해 추가 범행을 막는다는 게 골자다. 검찰은 마약은 ‘마약류불법거래방지법’, 온라인 불법도박은 ‘형법 제247조(도박장소 등 개설)’, ‘국민 체육진흥법’, ‘게임산업법’ 등에 지급정지 관련 규정 신설을 추진하고 있는 것으로 확인됐다. 온라인 불법도박과 관련된 법안은 스포츠토토 외에도 조정·경륜·경마 등 세부화돼 있어 각 법안마다 개정이 필요하다. 툭히 이와 관련해 이원석 검찰총장은 이달 중 전국은행연합회와 업무협약(MOU)을 체결하고, 은행권의 협조를 요청할 계획이다.현재 보이스피싱 범죄에 이용된 계좌는 2011년 제정된 ‘전기통신금융사기 피해방지 및 피해금 환급에 관한 특별법’(통신사기피해환급법)에 따라 지급을 정지할 수 있다. 범죄피해자가 금융회사에 지급정지를 신청하거나 수사기관이 사기이용계좌로 의심된다고 판단해 금융회사에 고지하면 해당 계좌가 동결된다. 하지만 마약 판매상과 온라인 불법도박 사이트 운영자들이 쓰고 있는 계좌는 이런 법적 근거가 없어 범죄 혐의가 포착되더라도 계좌를 막을 수가 없다. 오히려 범죄자들이 은행을 상대로 수사기관의 요청에 따라 계좌지급 정지를 한 데 대해 민원을 넣거나 소송을 건다는 게 검찰 측 설명이다. 검찰 측은 “범죄자가 대포통장 명의자를 시켜 은행에 ‘왜 내 멀쩡한 계좌를 정지시키냐’며 항의하는 경우도 있다”고 설명했다. 검찰이 마약과 불법도박 관련 대포통장을 동결하려는 이유는 최근 관련 범죄가 급격히 늘고 있기 때문이다. 대검에 따르면 지난해 1~11월 단속된 마약류 사범은 2만 5188명에 달했다. 지난해 12월을 제외했는데도 2022년(1만 8395명)에 비해 36.9% 증가했다. 불법도박 시장 규모도 급격하게 커졌다. 사행산업통합감독위원회에 따르면 연도별 불법도박 추정액(이용자 기준)은 2016년 70조 8934억원에서 2022년 102조 7236억원으로 늘었다. 불법계좌 지급정지가 시행되면 검찰은 동결된 계좌에 대해 6개월에서 1년여 간 추가 수사를 벌여 범죄수익 몰수와 추징까지 가능할 수 있을 것으로 보고 있다. 검찰 관계자는 “온라인 불법 도박 근절을 위해 관련 사이트 접속 차단을 해왔지만, 차단까지 시간이 오래 걸리는 데다 해외에 서버를 둬서 피의자 특정이 쉽지 않았다”면서 “계좌지급 정지가 가능해지면 관련 범죄를 줄이는 데 기여할 수 있을 것으로 보인다”고 밝혔다. 백주선 법무법인 융평 대표변호사는 “계좌 지급정지를 통해 수사를 진행한 후 범죄 수익이라고 판단되면 국가가 환수할 수 있어 효과가 클 것으로 기대된다”며 “대포통장을 이용한 범행 건수가 줄어드는 효과도 있을 것으로 보인다”고 말했다. 한편 검찰은 마약 판매 이미지 게시물을 포착할 수 있는 ‘e드러그 모니터링 시스템’을 마련하고, 이달 상용화한다는 계획이다. 검찰에 따르면 마약 공급책들은 온라인 상 게시글이 수사기관에서 키워드 검색으로 적발될 수 있다는 점을 인지하고 검색이 어려운 사진에 ‘아이스’, ‘캔디’ 등 마약을 상징하는 은어를 넣어 다른 상품인 것처럼 홍보한 뒤 불법 거래를 해왔다. 이에 검찰은 마약 판매 관련 이미지 게시물을 판독할 수 있도록 최근 인공지능(AI) 판독 시스템을 구축했다. 또 인스타그램과 핀터레스트 등 SNS를 통한 마약류 모니터링 시스템을 강화하고자 마약 범죄 관련 사용자 계정(ID)과 연락처, 이미지, 텍스트 등 데이터베이스(DB)도 다시 재구축했다.

미성년자 마약류 검색·매매 급증SNS 등 마약류 판별 알고리즘 개발3.7억 예산 투입… 상시 적발 가능“심야·휴일도 자동 모니터링 피해 차단”의사 4000명↑ 마약류 오남용 처방 앞으로 마약류를 초성, 은어로만 검색해도 인공지능(AI)이 잡아내는 허위·과대 광고 차단 시스템이 연내 구축된다. 식품의약품안전처는 12일 온라인에서 식품·의약품·마약류 등의 불법 유통, 허위·과대 광고 등을 판별해 신속히 차단할 수 있는 상시 AI 기반 시스템 구축을 올해 추진한다고 밝혔다. 소셜미디어(SNS)를 이용해 미성년자인 청소년들이 마약류에 손을 대는 경우가 최근 들어 크게 늘어난 것이 시스템 구축 배경으로 꼽힌다. 식약처는 마약류 등 판별 알고리즘 개발, 검색 방지용 광고 단속 기능, 방송통신심의위원회·플랫폼·SNS에 자동으로 불법 유통, 허위 광고 등의 차단을 요청할 수 있는 기능을 구축할 계획이라고 설명했다. 이를 위해 3억 7500만원의 예산이 투입된다. 해당 시스템이 구축되면 자동으로 SNS 등에서 마약 판매 성향의 게시글을 판단해 적발할 수 있게 된다. 마약류로 판단될 수 있는 ‘ㅍㅌㄴ’, ‘ㅍㄷ닐’, ‘펜_타_닐’ 등 초성이나 은어를 활용한 검색 내용을 시스템이 학습해 앞으로 이런 내용의 검색을 차단할 수 있게 되는 방식이다. 식약처 관계자는 “시스템이 구축되면 심야·휴일 등 취약 시간에도 자동으로 모니터링해 소비자 피해를 예방하는 데 도움이 될 것”이라고 기대했다.의사 4169명, 식약처 오남용 방지 규정 위반 의료용 마약류 처방했다가 들통 한편 지난해 6개월 간 의사 4000명 이상이 식약처 규정을 위반해 의료용 마약류를 처방한 것으로 드러났다. 식약처는 지난 4~9월 마약류통합관리시스템으로 보고된 의료용 마약류 조제·투약 정보를 분석한 결과 식약처의 ‘마약류 오남용 방지를 위한 조치기준’를 벗어나 의료용 마약류를 처방한 의사가 4169명에 달했다고 지난달 21일 밝혔다. 현재 식약처 고시 기준에 따르면 의료용 마약류 가운데 최면진정제인 졸피뎀은 1개월을, 진통제 펜타닐은 3개월을 초과해 처방·투약하지 못하도록 하고 있다. 또 펜터민, 펜디메트라진, 암페프라몬, 마진돌 등 식욕억제제는 2종 이상 병용 처방·투약하지 못하게 하고 있다. 식약처는 처방 사유에 의학적 타당성이 없는 것으로 확인되면 마약류 투약 제한·금지 조치를 받을 수 있으며, 이후 해당 제한·금지 조치를 위반하는 경우 마약류 취급업무 정지 등 행정처분을 받을 수 있다고 설명했다. 식약처는 규정 위반 의사들에 ‘알림톡’을 보내 주의를 주는 한편, 앞으로는 한 달 간격으로 마약류 처방 내역을 분석해 기준을 초과한 의사들에게 알림톡을 보낼 것이라고 밝혔다.

11일부터 의정보고회·출판기념회 금지공무원 입후보하려면 선거 90일전 사퇴해야 중앙선거관리위원회는 선거일 90일 전인 11일부터 의정보고회·출판기념회 등이 금지된다고 8일 밝혔다. 선관위는 29일부터 금지되는 딥페이크 영상을 이용한 선거운동 단속을 강화할 방침이다. 우선 지난해 말 개정된 공직선거법에 따라 선거운동을 위해 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없다. 다만 공포 후 1개월이 지난 이달 29일부터 금지된다. 선관위는 허위사실공표·비방특별대응팀을 확대 편성해 운영하고 있다. AI(인공지능) 감별반을 11일부터 편성해 운영하고, 시·도선관위는 AI모니터링 전담요원을 2~3명씩 확대한다. 국회의원과 지방의회 의원의 의정보고회도 금지된다. 다만 국회의원은 문자메시지, 카카오톡 등을 이용해 의정활동 내용을 상시 전송할 수 있고 자신의 인터넷 홈페이지 등에서 의정보고서를 상시 게시할 수 있다. 국회의원과 예비후보 등의 출판기념회도 금지된다. 다른 사람이 저술한 것이라도 후보자와 관련이 있는 저서의 출판기념회는 금지된다. 정당과 후보자 명의를 나타내는 광고도 금지된다. 누구든 정당 또는 후보자 명의를 나타내는 저술·연예·연극·영화·사진 그 밖의 물품을 공직선거법에 규정되지 않은 방법으로 광고할 수 없다. 후보자는 방송·신문·잡지 기타의 광고에 출연할 수 없다. 후보자가 되려는 사람이 대표로 있는 기업체는 선거와 무관하게 광고할 수 있다. 공무원이 입후보하려면 지역구 후보는 11일까지, 비례대표는 선거 30일 전인 3월 11일까지 직을 그만두어야 한다. 예비군 중대장급 이상의 간부·주민자치위원회위원 또는 통·리·반의 장 등이 선거사무장, 선거연락소장, 선거사무원, 예비후보자·후보자의 활동보조인, 회계책임자, 연설원, 대담·토론자, 투표참관인이나 사전투표참관인이 되려면 11일까지 직을 그만두어야 한다.

1994년 성수대교가 무너졌을 때 가장 먼저 현장에 도착한 기자가 있습니다. 삼풍백화점이 무너졌을 때도, 세월호 참사 때도 그랬습니다. 사회부 사건팀 기자들입니다. 시대도 세대도 바뀌었지만, 취재수첩에 묻은 꼬깃한 손때는 그대롭니다. 기사에 실리지 않은 취재수첩 뒷장을 공개합니다.경찰대학 치안정책연구소는 27일 ‘치안전망 2024’을 발간했습니다. 보고서에는 그간 발생한 범죄 건수 등 빅데이터를 토대로 다가오는 2024년에 범죄가 얼마나 발생할지를 머신러닝에 기반해 예측한 전망치도 포함됐습니다. 일종의 인공지능(AI)이 전망한 수치로 한계는 있지만, 내년 한 해의 치안 상황을 가늠해볼 수 있는 자료입니다. 그중에서도 마약 범죄가 눈에 띕니다. 최근 급격히 늘어난 마약범죄는 이대로면 전년 대비 13% 늘어난 1만 2101건이 발생할 것으로 전망됩니다. 2023년(1~9월) 경찰청 잠정통계에 따르면, 마약 관련 범죄는 전년보다 80% 급증하고, 향정신성 의약품 관련 범죄는 47% 증가했습니다. 보고서는 “마약범죄의 증가세를 낮추기 위해선 미국과 같이 마약전담 수사기구를 만들고 마약 구매가 이뤄지는 디지털 플랫폼 단속 등 노력이 필요하다”고 밝혔습니다. 코로나 팬데믹이 끝나고 외부 활동이 늘어나면서 절도(20만 4211건)도 6% 증가할 것으로 예상됩니다. 교통범죄도 전년보다는 2% 늘어날 수 있습니다. 지능 범죄는 2024년에 전년 대비 2% 늘어난 45만 1907건으로 예상됩니다. 지능범죄 중 세부 유형별로는 올해(1~9월) 직권 남용은 전년과 비교하면 8% 늘었지만, 직무유기는 14% 줄었다고 합니다. 보고서는 “직권남용의 증가와 직무유기의 감소라는 상반된 통계는 2024년에 과도한 공권력 사용을 경계하고 모니터링할 필요성이 있다는 걸 시사한다”고 짚었습니다. 제22대 국회의원 선거를 앞둔 만큼, 2024년엔 선거범죄도 전년 대비 122% 늘어난 2616건이 발생할 것으로 보입니다. 대통령 선거가 진행됐던 2022년(1~9월)엔 공직선거법 위반이 전년 같은 기간 대비 1099% 늘어난 2902건을 기록하기도 했습니다. 보고서는 “선거법 위반에 대해 엄격하고 일관되게 처벌해 불법 선거 운동에 대한 경각심을 높이고 공직선거법 교육을 강화해 공정하고 자유로운 선거를 보장하기 위한 노력이 필요하다”고 제언했습니다. 물론 예기치 못한 범죄나 재난이 일상을 위협할 수도 있을 겁니다. 치안정책연구소에 따르면 올 한해 동안 가장 관심을 끈 ‘10대 치안 이슈’를 보면 ▲ 잇따른 이상동기범죄(묻지마 범죄) ▲ ‘빌라왕’ 등 대규모 전세사기 ▲ 수원 영아살해 냉장고 유기 사건 ▲ 교권 침해 및 교사 극단적 선택 ▲ 대치동 학원가 마약 음료 협박 ▲ 충북 오송 지하차도 침수 사고 ▲ 신축아파트 부실시공 ▲ 대구 중학생 성추행·폭행 생중계 ▲ 주식 불법 리딩방 ▲ 인공지능(AI) 활용 아동 성 착취물 제작이 꼽혔습니다. 경찰이 준비 중인 조직 개편 등이 효과를 거둬 내년 한 해는 보다 안전한 일년이 되기를 안전하길 바랍니다.

韓·美·유럽 등서 국가 단위 선거몇 초면 가짜 음성·영상 등 생산 각국 규제·단속 기술 등 미비 미 대선과 한국 총선 등 전 세계 47개국에서 선거가 치러지는 2024년을 목전에 두고 챗GPT 등 생성형 인공지능(AI)을 악용한 가짜뉴스와의 전쟁이 현실로 닥쳤다. 가짜 영상·음성을 단 몇 초 만에 만들어 내는 AI 딥페이크 기술이 한층 정교해지면서 선거를 앞두고 여론을 선동, 조작하는 허위 정보가 판을 칠 것이라는 경고가 나온다. 명백한 가짜는 물론 사실과 주장의 경계가 모호한 선전 선동에도 딥페이크가 동원되면 민주주의의 설 자리가 더 위태로워진다는 우려도 제기되고 있다. 미 언론들은 내년에 있을 대선이 딥페이크가 본격 동원되는 사상 최초의 선거가 될 것으로 내다보고 있다고 AP통신이 26일(현지시간) 전했다. 이를 제어할 안전장치가 전보다 약해졌거나 정부 차원의 규제가 아직 미진한 탓에 가짜뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 지적이다. 딥페이크가 선거와 정치판을 뒤흔드는 사례는 널렸다. 양측 진영이 대립하고 선거전이 치열할수록 딥페이크 활용은 잦아진다. 미국 공화당전국위원회는 지난 5월 30여초짜리 선거 광고를 공개하면서 중무장한 채 샌프란시스코 거리를 순찰하는 미군, 남부 국경을 점령한 이민자들, 대만을 폭격한 중국 전투기 등의 이미지를 담았다. 조 바이든 행정부에서 일어나는 디스토피아를 나타낸 것인데, AI가 만든 가짜 이미지였다. 지난 9월 총선을 치른 슬로바키아에서는 친미 성향의 야당 대표인 미할 시메츠카의 “우리 당이 선거에 이기려면 (소외 계층인) 로마족에게 돈을 줘야 한다”는 음성 파일이 파장을 불렀다. 이 역시 가짜였다. 당사자들은 즉각 반발했지만 투표 이틀 전에 나온 터라 선거에 영향을 미쳐 친러시아 성향 야당의 승리를 견인했다고 프랑스24 등은 전했다. 슬로바키아는 친러 선동과 우크라이나 전쟁 거짓 정보, 반이민을 부추기는 혐오 콘텐츠 등 허위 정보로도 선거가 얼룩졌다. 미중 대리전 격인 대선(2024년 1월 13일)을 앞둔 대만에서는 중국산 동영상 플랫폼 틱톡(중국명 더우인)에서 독립 성향 민진당 후보를 겨냥한 가짜 정보가 활개를 치고 있다. 대만의 의무 군복무 기간이 내년부터 기존 4개월에서 1년으로 늘어나는데, 이를 두고 “대만 청년들은 군 복무 연장에 항의하고 전쟁을 반대하나 민진당이 청년들을 ‘대만 독립’의 사료로 삼고 있다”는 중국 측 주장을 담은 동영상이 유포되고 있는 것이다. 한국의 국가정보원 격인 대만 국가안전국에 따르면 지난해 1400개였던 가짜 정보가 올해는 최소 1800개로 늘어났다. 이들 가짜 정보는 틱톡, 인스타그램, 페이스북, 유튜브 등으로 유통됐다. 미국에서도 사법 재판에 휘말린 도널드 트럼프 전 대통령이 경찰에 체포되는 가짜 영상이 출현했다. AI 전문가인 워싱턴대 오런 에치오니 명예교수는 “(고령인) 대선 후보 바이든 대통령이 병원에 실려 가는 모습도 나올 수 있다”면서 “내 예상이 틀리면 좋겠지만, 재료는 널려 있고 나는 정말 겁이 난다”며 가짜 정보 홍수에 대한 불안감을 드러냈다. 하지만 규제는 기술 발전을 따라가지 못하는 추세다. 소셜미디어 업체들은 가짜뉴스 감시정책이 전반적으로 후퇴했고 AI 기술이 가장 앞선 미국에서도 아직 각 주에 단속을 맡기는 상황이다. 지난해 10월 옛 트위터(X)를 인수한 일론 머스크 테슬라 최고경영자는 콘텐츠 감시 인력을 대규모 해고하고 차단됐던 음모론·극단주의자들의 계정은 ‘표현의 자유’를 들어 복원했다. 페이스북·인스타그램 모회사인 메타와 유튜브 역시 최근 비용 절감을 위해 인력을 줄였다. 기술·미디어 분야 비영리 단체 ‘프리프레스’는 X와 메타, 유튜브에서 혐오 콘텐츠, 허위 정보와 관련해 미디어 보호 정책을 없앤 사례는 총 17개에 이른다고 집계했다. 가짜 정보를 걸러 내겠다면서 적용한 수단은 AI 라벨링 정책으로 제작자가 AI인지 아닌지를 가려내는 정도다. 미국은 연방 의회와 연방 선거관리위원회 차원에서 AI 생성 기술 규제 조치를 모색하고 있지만 아직은 확정된 게 없다고 AP통신은 전했다. 다만 연방 상원에 민주·공화당이 초당적으로 공동 발의한 법안에서는 “패러디, 풍자를 제외하고 연방 후보와 관련된 기만적인 딥페이크를 금지한다”는 내용을 담았다. 주별로는 캘리포니아, 미네소타, 텍사스, 워싱턴주 등이 정치 광고의 딥페이크를 규제하는 법안을 통과시켰다. 비영리 단체인 ‘퍼블릭 시티즌’에 따르면 일리노이, 뉴저지, 뉴욕주 등에서도 유사한 법안이 발의됐다. 미시간주의 경우 지난달 그레천 휘트머 주지사가 ‘선거 전 90일 이내 AI로 생성된 딥페이크 사용을 금지하고 정치 광고가 AI를 사용해 제작됐는지 여부를 명확히 밝혀야 한다’는 법안에 서명했다. 이를 위반하면 초범은 최대 93일 징역형, 최대 1000달러의 벌금형에 처한다. 언론과 정당에 대한 불신이 높은 나라일수록 대중들에게 침투하기 위해 AI를 활용한 딥페이크가 활개 칠 가능성이 높다. 허위 정보를 추적하는 초당파적 단체 ‘민주주의 안전 연합’의 브렛 셰퍼 선임 연구원은 “민주주의에 대한 유권자들의 불신이 커지면서 폭력으로 이어질 수 있다”며 “사람들이 궁극적으로 선거 정보를 신뢰하지 않으면 민주주의는 작동을 멈추게 된다. 인구의 상당수가 영향을 받는다면, 2021년 1·6 미 의회 난입 사태는 워밍업처럼 보일 것”이라고 경고했다.

생성형 인공지능(AI) 사업자는 창작자에게 적절한 보상을 하는 등 방법으로 적법한 이용권한을 확보해야 한다. AI를 활용한 산출물은 원칙적으로 저작권 등록이 불가능하지만, 인간의 창의적 작업은 예외적으로 인정하기로 했다. 문화체육관광부는 27일 서울 서대문구 모두예술극장에서 ‘저작권 강국 실현, 4대 전략’을 발표하고, 생성형 AI 사용 시 유의사항, 저작권 등록 등 주요 사항을 정리한 ‘생성형 인공지능(AI) 저작권 안내서’를 내놨다. ●음악방송에 안무가 이름 표기 우선 케이(K)-댄스의 세계적 위상을 높이고, 보는 음악의 시대를 선도하기 위해 안무저작권 저변을 확대한다. 음악방송에서 작곡·작사가와 함께 안무가 이름을 노출하는 등 성명표시권 보호와 저작권 등록·교육·법률상담 등을 다각적으로 지원한다. 유인촌 문체부 장관이 지난달 22일 저작권박물관 개관식을 계기로 열린 간담회에서 안무저작권 기증단체인 원밀리언의 리아킴 공동대표 등과 나눈 현장 의견을 적극 반영한 조치이다. 이날 자리한 댄스팀 원밀리언의 윤여욱 대표는 “유튜브 구독자가 2600만명이고 누적 조회수가 80억건에 달하지만 월 유튜브 광고 수익은 100만원이 채 안 된다. 안무 저작권을 인정받을 방법이 없기 때문”이라며 “이번 문체부의 저작권 전략이 앞으로 안무도 저작권이 있다는 인식 전환의 계기가 되길 바란다”고 밝혔다. 저작물 자체로서의 인식이 부족하고, 계약단계에서 불공정 관행이 지속되고 있는 건축저작물 보호도 강화한다. 건축가협회 등과 협업해 공모전 모니터링을 강화하고 교육과 캠페인 등으로 저작권 인식을 높인다. 또 저작권 전부 양도 강요 등 현장에서의 불공정 관행도 개선한다. 무대공연(뮤지컬, 연극 등)을 몰래 촬영하는 ‘밀캠’(무단녹화) 영상물의 불법 거래에 대해 집중 단속기간을 운해 보호를 강화한다. 투명한 저작권 산업기반을 구축하고자 저작권료 승인제도와 시스템을 개선한다. 저작권료를 정확하게 분배하기 위해 음악플랫폼 등 신탁저작물 이용자의 사용 정보 제출 의무화를 강화하는 내용으로 저작권법을 개정한다. 또 케이팝의 해외 진출에 따라 저작권료의 해외 징수를 높여 나갈 기반을 마련해 음악창작자의 권익을 강화하기로 했다. 인터폴 등과의 국제공조와 함께 각국의 저작권 보호 규범을 강화하는 전략적 국제 협력도 이어간다. ●AI 창작물서 인간 창작 부분 인정 특히 이날 배포한 ‘생성형 인공지능(AI) 저작권 안내서’에는 AI 산출물에 대한 저작권 기준을 큰 틀에서 담았다. 우선 사업자는 AI를 학습시킬 때 사용하는 자료에 대해 적절한 보상 등 방법으로 적법한 이용권한을 확보해야 한다. 사업자가 저작권자와 계약을 체결할 때는 저작물 이용 목적과 범위, 기간 등에 대해 구체적으로 명시해야 한다. 저작권자는 자신의 저작물이 인공지능 학습에 이용되는 것을 원하지 않을 경우 ‘약관규정 명시’, ‘로봇배제표준’ 등으로 반대 의사를 명시하거나 기술적인 조처를 해야 한다. AI 사업자가 서비스를 제공할 때 기존 저작물과 동일·유사한 인공지능 산출물이 도출되지 않도록 저작권 침해 방지를 위해 노력해야 한다는 내용도 담았다. 저작권법은 인간의 사상 또는 감정이 표현된 창작물에 대해서만 저작권 등록을 할 수 있게 했다. 이에 따라 AI의 산출물에 대한 저작권은 등록할 수 없다. 그러나 인간의 창의적 작업 부분에 한해서는 기존 저작권법에 따라 이를 인정하기로 했다. 다만 ‘기존 저작물과 동일·유사한 산출물’이라든가, ‘인간의 창의적 작업’을 어떻게 인정할지에 대해서는 안내서에 구체적으로 담기지 않았다. ‘논란이 있을 경우 법원의 판단을 통해 결정한다’는 식으로 해둬 분쟁이 이어질 가능성도 나온다. 임성한 문체부 저작권국장은 이에 대해 “미국은 AI가 만든 창작 저작권 등록을 거부하고 있지만, 인간이 창의성을 발의해 추가로 작업한 영역은 인정하고 있다. 중국은 좀 더 포괄적으로 이를 인정하는 추세”라면서 “관련 판례 등이 워낙 적은 터라 현재로선 그 기준을 잡지 못하고 있어 저작권 당국도 고민 중”이라고 밝혔다. 문체부는 이와 관련 내년에 추가로 ‘워킹그룹’을 만들어 이에 대해 논의한다. 학습 저작물 이용 시 보상체계, AI 산출물 보호 여부 등의 쟁점을 심도있게 논의할 계획이다. AI로 제작한 콘텐츠의 유사도 비교·원본 추적 등 저작권 보호 기술개발도 지속 지원하는 내용을 중점적으로 다룬다. 유인촌 문체부 장관은 “챗GPT를 시작으로 저작권 관련 문제들이 끊임없이 제기되고 있다. 이런 상황에서 법도 바뀌고 이용자의 생각도 바뀌어야한다”면서 “문체부는 창작자를 우선적으로 보호한다는 기본적인 생각하고 있음을 알아달라”고 당부했다.

내년부터 전북지역에서도 이륜차 사고가 빈번한 곳을 중심으로 ‘후면 무인 교통단속용 장비’가 도입된다. 전북경찰청은 최근 장비 운용을 위한 전문 검사기관인 도로교통공단의 장비검사 등 절차가 완료됨에 따라 내년 1월부터 시범운영에 나선다고 22일 밝혔다. 경찰은 석 달간 계도기간을 거쳐 4월부터 과태료를 부과할 예정이다. 내년 도입되는 후면 단속 장비는 총 4대다. 위치는 ▲전주시 삼천동 완산소방서 사거리 ▲인후동 건산로 72 사거리(근로복지공단과 아중교 사이) ▲군산시 수송동 수송사거리 ▲익산시 영등동 동초등학교 입구 사거리다. 후면 무인 교통단속용 장비는 AI(인공지능) 영상분석 기술을 활용해 차량의 과속 등 난폭운전을 감지하고 후면 번호판을 촬영하는 방법으로 단속이 이뤄진다. 경찰 통계에 따르면 전북에서는 최근 4년 동안 이륜차 교통사고가 1576건 발생해 91명이 사망하고, 1961명이 부상을 입었다. 경찰은 이륜차 난폭운전, 과속, 신호위반 등 법규 위반 행위에 대한 단속을 강화하기 위해 후면 단속 장비를 도입했다. 기존 장비는 차량 전면번호판을 촬영하는 방식이어서 앞 번호판이 없는 이륜차의 위법행위는 단속이 어려웠으나 후면 단속 장비 도입으로 오토바이 등 이륜차의 교통법 위반 행위가 줄어들 것으로 기대된다. 전북경찰청 관계자는 “보행자 안전 및 교통안전 위협행위 근절을 위해 내년에도 후면장비 6대를 추가설치 예정”이라면서 지자체와 협의를 통해 어린이보호구역, 노인보호구역 등에도 후면번호판 단속 장비를 늘려나가겠다”고 말했다.

서울 마포구가 연말연시 인파가 몰릴 것으로 예상되는 홍대 레드로드에서 특별 안전관리에 나선다. 구는 오는 20일부터 31일까지 12일간 홍대 KT&G 상상마당 광장에 현장상황실을 설치하는 동시에 마포구청사 재난안전상황실을 운영하며 폐쇄회로(CC)TV 관제 상황과 민원 접수, 순찰 상황을 실시간 공유하는 투트랙 전략을 마련했다고 18일 밝혔다. 구는 서울시 실시간 인구데이터 분석을 토대로 성탄 전야인 오는 24일 오후 5~7시 홍대 레드로드에 최대 8만~9만명의 사람이 몰릴 것으로 예상했다. 이에 따라 홍대 클럽거리와 홍대입구역 등 6곳에 설치한 인공지능(AI) 인파밀집분석시스템을 활용해 위험 상황을 면밀히 감시할 예정이다. 또한 공무원 260명과 민간인력 210명을 투입해 매일 오후 8시부터 자정까지 현장 순찰을 한다. 통행에 위험이 되는 불법주정차, 무단적치물을 단속하고 주말 춤 허용업소의 과밀 여부를 확인하는 한편 의료인력을 배치해 응급상황에 대비할 계획이다. 박강수 마포구청장은 “시민들이 연말연시를 안전하게 마무리할 수 있도록 특별 관리에 최선을 다할 것”이라고 말했다.

서울 마포구가 연말연시 인파가 몰릴 것으로 예상되는 홍대 레드로드에서 특별 안전관리에 나선다. 구는 오는 20일부터 31일까지 12일간 홍대 KT&G 상상마당 광장에 현장상황실을 설치하는 동시에 마포구청사 재난안전상황실을 운영하며 폐쇄회로(CC)TV 관제 상황과 민원 접수, 순찰 상황을 실시간 공유하는 투트랙 전략을 마련했다고 18일 밝혔다. 구는 서울시 실시간 인구데이터 분석을 토대로 성탄 전야인 오는 24일 오후 5~7시 홍대 레드로드에 최대 8만~9만명의 사람이 몰릴 것으로 예상했다. 이에 따라 홍대 클럽거리와 홍대입구역 등 6곳에 설치한 인공지능(AI) 인파밀집분석시스템을 활용해 위험 상황을 면밀히 감시할 예정이다. 또한 공무원 260명과 민간인력 210명을 투입해 매일 오후 8시부터 자정까지 현장 순찰을 실시한다. 통행에 위험이 되는 불법주정차, 무단적치물을 단속하고 주말 춤 허용업소의 과밀 여부를 확인하는 한편 의료인력을 배치해 응급상황에 대비할 계획이다. 박강수 마포구청장은 “시민들이 연말연시를 안전하게 마무리할 수 있도록 특별 관리에 최선을 다할 것”이라고 말했다.