미국에서 음식 배달 플랫폼을 대상으로 한 신종 ‘환불 사기’ 수법이 사회적 논란으로 떠오르고 있다. 최근 소셜미디어(SNS)에는 배달받은 음식 사진을 AI 이미지 편집 도구나 포토샵으로 조작해 음식이 덜 익었거나 상한 것처럼 꾸민 뒤, 이를 증거로 배달 플랫폼에서 환불을 받았다는 주장이 확산하고 있다. 지난 4월 한 엑스(X) 사용자가 미국 최대 음식 배달 플랫폼 ‘도어 대시’(DoorDash)에 제출할 목적으로 잘 조리된 햄버거 사진을 고기가 덜 익은 것처럼 조작했다고 주장해 큰 화제를 모았다. 또한, 지난달 31일에도 한 네티즌이 닭고기가 덜 익은 것처럼 편집한 사진을 증거로 전액 환불받았다고 주장해 논란이 이어지고 있다. 실제 환불이 이루어졌는지는 확인되지 않았으나, 전문가들은 이러한 사례가 AI 편집 기술을 악용한 디지털 환불 사기의 확산 가능성을 보여주며 업계와 소비자 간 신뢰를 크게 훼손할 우려가 있다고 경고한다. 음식 배달 앱을 둘러싼 AI 활용 논란은 소비자뿐 아니라 업계 측에서도 커지고 있다. 최근 음식점들이 AI로 고품질 음식 사진을 제작하는 사례가 늘면서, 실제 제품과 사진이 다를 경우 소비자 혼란과 불만이 커지고 있다. AI로 과도하게 편집된 사진이 허위·과대 광고로 이어질 위험도 커, 배달 플랫폼들은 AI 이미지 사용 사실을 명확히 고지하고 모니터링과 검증 시스템 강화를 추진 중이다.

미국의 한 스타트업이 죽은 사람을 인공지능(AI) 아바타로 되살려 대화할 수 있는 애플리케이션을 내놓아 논란이다. 14일(현지시간) 미국 매체 뉴스위크 등은 AI 교육 스타트업 투웨이(2Wai)의 공동창립자인 배우 캘럼 워디가 같은 날 소셜미디어(SNS) 엑스에 애플리케이션 홍보 영상을 공개했다고 보도했다. 문제의 영상을 보면, 임산부가 휴대폰을 통해 세상을 떠난 어머니의 AI 아바타와 대화하는 장면이 등장한다. 이후 세상에 태어난 아기에게 AI 아바타가 동화를 들려주며, 아이가 성인이 되어 손자가 생겼다는 소식을 전하는 장면으로 이어진다. 마지막으로는 “투웨이와 함께라면 3분이 영원해질 수 있다”는 문구로 끝난다. 이 영상은 공개 이후 2260만 회 이상 조회돼 이목을 끌었다. 투웨이 측은 사용자가 생전에 촬영한 짧은 영상을 업로드하면 이를 분석한 후 고인의 외모와 목소리를 흉내 내는 아바타를 생성하는 방식으로 작동한다고 설명한다. 또 역사적 인물과 실존 인물 등 대화 가능한 디지털 아바타(Holo Avatar)를 다양한 버전으로 적용해 여러 모습으로 출력할 수 있다고 소개한다. 현재 이 앱은 애플스토어에서 베타 버전으로 무료 다운로드할 수 있으며, 향후 정식 서비스에서는 구독 기반 모델로 전환할 계획이라고 전했다. 서비스 공개 직후 비판 여론이 강하게 일었다. 이를 본 네티즌들은 “누군가의 슬픔을 사업 기회로 바꿨다”, “정상적인 애도 과정을 피할 또 다른 방법이 등장했다”, “고인의 인격을 모독하는 행위”라는 등 다양한 의견을 내놨다. 또 투웨이 측이 데이터를 이용하는 방식이 불투명하다는 점이 문제로 꼽혔다. 3분짜리 영상으로 “성격, 말투, 외모를 재현한다”고 설명했으나 정확히 어떤 기계학습 모델을 사용하는지, 패턴을 어떻게 파악하는지 등 구체적으로 밝히지 않았다. 또 개인정보 및 데이터 보관 기록 방식 등에 관한 세부적인 정보를 공개하지 않았다는 점도 지적됐다. 투웨이가 내놓은 앱은 죽은 사람을 챗봇 형태로 재현하는 데드봇(Deadbot)의 한 종류다. 지난해 케임브리지대 리버흄 미래 지능 연구센터(FCFL)가 발표한 논문을 보면, 기업이 데드봇 서비스를 상업적으로 이용하거나 미성년자를 대상으로 사용할 경우 심각한 심리적 피해를 줄 수 있다고 주장했다. 비윤리적인 기업에서 데드봇 기술을 이용해 광고 메시지를 보내는 등 부적절하게 이용해 수익을 창출할 경우 유족에게 심리적 타격을 입힐 수 있으며, 특히 부모를 잃고 남겨진 아이가 정상적인 애도 과정을 겪을 수 없도록 만들어 피해를 초래할 수 있다고 지적했다. 논문 공동 저자 카타지나 노바치크-바신스카 박사는 “이 AI 영역은 현재 윤리적 지뢰밭”이라며 “망자의 존엄을 최우선에 두고 이 기술이 금전적 동기에 의해 악용되지 않도록 해야 한다”고 경고했다.

미국의 한 스타트업이 죽은 사람을 인공지능(AI) 아바타로 되살려 대화할 수 있는 애플리케이션을 내놓아 논란이다. 14일(현지시간) 미국 매체 뉴스위크 등은 AI 교육 스타트업 투웨이(2Wai)의 공동창립자인 배우 캘럼 워디가 같은 날 소셜미디어(SNS) 엑스에 애플리케이션 홍보 영상을 공개했다고 보도했다. 문제의 영상을 보면, 임산부가 휴대폰을 통해 세상을 떠난 어머니의 AI 아바타와 대화하는 장면이 등장한다. 이후 세상에 태어난 아기에게 AI 아바타가 동화를 들려주며, 아이가 성인이 되어 손자가 생겼다는 소식을 전하는 장면으로 이어진다. 마지막으로는 “투웨이와 함께라면 3분이 영원해질 수 있다”는 문구로 끝난다. 이 영상은 공개 이후 2260만 회 이상 조회돼 이목을 끌었다. 투웨이 측은 사용자가 생전에 촬영한 짧은 영상을 업로드하면 이를 분석한 후 고인의 외모와 목소리를 흉내 내는 아바타를 생성하는 방식으로 작동한다고 설명한다. 또 역사적 인물과 실존 인물 등 대화 가능한 디지털 아바타(Holo Avatar)를 다양한 버전으로 적용해 여러 모습으로 출력할 수 있다고 소개한다. 현재 이 앱은 애플스토어에서 베타 버전으로 무료 다운로드할 수 있으며, 향후 정식 서비스에서는 구독 기반 모델로 전환할 계획이라고 전했다. 서비스 공개 직후 비판 여론이 강하게 일었다. 이를 본 네티즌들은 “누군가의 슬픔을 사업 기회로 바꿨다”, “정상적인 애도 과정을 피할 또 다른 방법이 등장했다”, “고인의 인격을 모독하는 행위”라는 등 다양한 의견을 내놨다. 또 투웨이 측이 데이터를 이용하는 방식이 불투명하다는 점이 문제로 꼽혔다. 3분짜리 영상으로 “성격, 말투, 외모를 재현한다”고 설명했으나 정확히 어떤 기계학습 모델을 사용하는지, 패턴을 어떻게 파악하는지 등 구체적으로 밝히지 않았다. 또 개인정보 및 데이터 보관 기록 방식 등에 관한 세부적인 정보를 공개하지 않았다는 점도 지적됐다. 투웨이가 내놓은 앱은 죽은 사람을 챗봇 형태로 재현하는 데드봇(Deadbot)의 한 종류다. 지난해 케임브리지대 리버흄 미래 지능 연구센터(FCFL)가 발표한 논문을 보면, 기업이 데드봇 서비스를 상업적으로 이용하거나 미성년자를 대상으로 사용할 경우 심각한 심리적 피해를 줄 수 있다고 주장했다. 비윤리적인 기업에서 데드봇 기술을 이용해 광고 메시지를 보내는 등 부적절하게 이용해 수익을 창출할 경우 유족에게 심리적 타격을 입힐 수 있으며, 특히 부모를 잃고 남겨진 아이가 정상적인 애도 과정을 겪을 수 없도록 만들어 피해를 초래할 수 있다고 지적했다. 논문 공동 저자 카타지나 노바치크-바신스카 박사는 “이 AI 영역은 현재 윤리적 지뢰밭”이라며 “망자의 존엄을 최우선에 두고 이 기술이 금전적 동기에 의해 악용되지 않도록 해야 한다”고 경고했다.

경기도의회 교육기획위원회 장윤정 의원(더불어민주당, 안산3)은 경기도교육청 북부유아체험교육원이 제작·배포한 ‘인공지능(AI) 활용 유아 놀이 분석·평가 자료’와 관련해 개인정보 유출 가능성을 우려하며, 구체적인 보안 대책과 학부모 동의 절차 마련을 촉구했다. 장윤정 의원은 지난 12일 열린 2025년도 경기도교육연구원, 경기도교육복지종합센터, 경기도교육청 남부·북부유아체험교육원 행정사무감사에서 “AI 도입은 편리성만 강조할 것이 아니라, 법적 책임·보호장치·유출 시 대응 체계를 반드시 함께 논의해야 한다”며 이같이 지적했다. 경기도교육청 북부유아체험교육원은 지난 10월 유아교육 현장의 교사들이 구글의 인공지능(AI)을 활용해 유아의 놀이 장면을 분석하고 평가할 수 있도록 하는 내용의 리플릿과 영상자료를 제작·배포했다고 밝혔다. 장윤정 의원은 “교사가 개인정보를 보호하려고 해도 실제 유아의 반 구성 정보, 나이 등 식별 가능 정보가 포함될 여지가 충분하다”며, “개인정보보호법상 민감정보는 최대 5년까지 보관되는데, 교육청이 AI에 저장된 아이들의 영상과 행동 데이터가 5년 뒤 완전히 삭제되는지조차 확인하지 않았다”고 문제를 제기했다. 이에 대해 정재영 북부유아체험교육원장은 “교사 연수를 통해 디지털 윤리를 교육했다”고 설명했지만, 장윤정 의원은 “연수만으로 모든 위험을 예방할 수 있다는 것은 착각”이라며, “딥페이크 사례처럼 기술은 의도와 다르게 악용될 수 있는 만큼 도입 단계부터 대비책을 마련해야 한다”고 강조했다. 또한 장윤정 의원은 “학부모에게 AI로 아이의 영상·사진을 분석해도 되는지 묻지 않은 것은 절차적 정당성을 확보하지 않은 조치”라며, “개인정보 보호·보관·폐기 기준 마련 및 학부모 동의 절차 등을 포함한 구체적인 대책을 마련해 추후 보고해 달라”고 주문했다.

우리는 언제부턴가 기계가 건네는 위안을, 편의를 자연스럽게 받아들이기 시작했다. 외로움을 달래 주는 ‘말벗’ 앱부터, 길 안내 지도, 서류 작성을 돕는 도우미까지 인공지능(AI)은 우리의 일상에 완벽히 스며들었다. 편리한 그만큼 그림자도 짙어졌다. 기술이 윤리적 경계를 흐리는 일이다. 최근 해외에서 화제가 된 AI 동반자 ‘프렌드’(Friend)가 그 하나의 사례다. 목걸이 형태의 웨어러블 AI인 이 장치는 사용자의 일상을 사실상 24시간 함께한다. 언제, 어디서, 누구와 나눈 대화인지 듣고 그 내용을 바탕으로 공감과 대화를 건넨다. 개발사는 ‘곁을 지켜 주는 디지털 동반자’라고 소개했다. 하지만 미국 등에서 일부 시민들은 ‘우리는 가짜 친구가 필요 없다’, ‘인간관계의 대체물’이라며 격렬하게 반발했다. 기술 수용의 속도와 사회적 합의의 불일치가 드러난 한 단면이다. 국내에서도 AI의 기능과 책임을 둘러싼 논쟁이 현실로 다가왔다. 연세대의 한 대형 강의에서 비대면 중간고사 중 상당수 학생이 챗GPT 등 AI를 활용해 답안을 작성한 정황이 드러났다. 수백명에 이르는 집단적 부정행위 의혹이 제기되며 학내외 논란을 불러일으켰다. 이 사태가 남긴 질문은 단순히 “AI를 썼느냐”를 넘어 “우리는 이 기술을 어디까지 허용할 것인가”에 닿아 있다. 두 사례는 같은 축 위에 있다. 하나는 기술이 ‘친구’라는 이름으로 사적인 영역까지 파고들 때의 위험을, 다른 하나는 기술이 ‘손쉬운 편법의 도구’로 악용된 상황을 보여 준다. 기술이 제도와 윤리의 경계선 어딘가에 서 있는 모습이다. AI는 분명 유용한 도구다. 의료 현장에서 진단 정확도를 높이고, 재난을 예측하며, 장애인의 의사소통을 돕는다. 그러나 동시에 교육의 신뢰를 무너뜨리고, 사생활을 침범하며, 인간의 감정을 흉내 내는 데 쓰이기도 한다. ‘어디까지가 인간의 일이고, 어디서부터가 기계의 일인지’에 대한 사회적 합의는 아직 없다. 기술은 중립적이지 않다. 누구의 손에, 어떤 목적과 규칙으로 주어지느냐에 따라 도구가 되기도 하고 무기가 되기도 한다. 실상 아직 AI가 완전한 것도 아니다. 여전히 주변에서는 AI가 존재하지 않는 사실을 꾸며 자료를 만들었다거나, ‘곧 끝난다’고 해 놓고 실제로는 작업의 1%도 진행하지 않았다는 불만이 나온다. 기술의 미비함 역시 현실의 한 단면이다. 해결의 실마리는 결국 사람에게 있다. 첫째, 교육 현장에서 AI 사용을 단순히 금지하는 것만으로는 문제를 해결할 수 없다. AI를 어떻게 정당하게 활용할지, 출처와 책임을 어떻게 표기할지를 가르치는 실질적인 커리큘럼과 평가 체계가 필요하다. 둘째, 개인정보와 사생활의 경계는 기술의 설계 단계에서부터 정립해야 한다. 단순한 동의 절차가 아니라 사용자가 실질적으로 통제권을 행사할 수 있어야 한다. 셋째, 기업과 플랫폼은 ‘혁신’이라는 명분으로 사회적 합의 없이 새로운 생활 영역을 창조하지 말아야 한다. 넷째, AI에 의존하기 이전에 사실 관계와 출처를 확인하는 단계를 반드시 거쳐야 한다. 기술은 시장의 속도만으로 정당화되지 않는다. 마지막으로 법과 규범은 기술의 발전을 뒤쫓아 가는 것이 아니라 최소한의 안전망을 먼저 마련해야 한다. 개인정보 보호, 알고리즘 투명성, 교육 윤리 등 각 영역에서의 기본 규칙을 사회적 논의로 서둘러 정립해야 한다. 그래야 AI와 공존하되 인간의 관계와 신뢰를 기계에 빼앗기지 않는다. AI의 진화가 두려운 것은 인간의 능력을 넘어설까 하는 우려 때문만이 아니다. 인간의 책임과 윤리 의식을 마비시킬 수 있기 때문이다. 지금 필요한 것은 더 빠른 기술이 아니라 더 깊은 성찰이다. 백민경 사회부장

경기도의회 기획재정위원회 조성환 위원장(더불어민주당, 파주2)은 11일 열린 감사위원회 행정사무감사에서 “예산이 부족한 것도 늘 문제지만, 도민의 혈세가 실제로 어디에서 새고 있는지부터 살피는 것이 더 중요하다”고 밝혔다. 대표적으로 복지 분야의 부정수급 실태를 지적하고 인공지능(AI)과 블록체인 등 신기술을 활용한 감사체계 구축을 주문했다. 조 위원장은 “2022년 경기도 감사실 보고에 따르면 복지 부정수급 적발 건수는 7,312건, 금액으로는 247억 원에 달한다”며 “이는 개인의 일탈이라기보다는 제도의 허점을 악용한 구조적 문제로 예산 집행의 공정성과 신뢰를 무너뜨리고 있다”고 비판했다. 이어 “이 같은 문제를 근본적으로 차단하기 위해선 신기술 기반의 사전예방 감사체계로 전환해야 할 것”이라며 “올해 경기연구원이 발표한 연구에서도 블록체인 기술을 복지급여 행정에 적용할 경우, 데이터 위·변조 방지와 자격 검증 자동화가 가능해 부정수급을 사전에 차단할 수 있다고 제시했다”고 설명했다. 실제 경기연구원은 「경기도 복지급여 부정 방지를 위한 블록체인 도입 타당성 연구(2025.8)」에서 △분산원장을 통한 데이터 불변성 확보 △스마트계약 기반 자동 지급 시스템 △실시간 자격 검증 체계 구축을 핵심 대안으로 제시하며, 이러한 기술이 복지행정의 투명성과 신뢰성을 크게 높일 수 있다고 분석했다. 조 위원장은 “감사위원회는 재정 절감의 핵심 기관으로서 예산의 부정 사용을 사후에 적발하는 수준을 넘어, 기술을 활용해 사전에 차단할 수 있는 기반을 마련해야 한다”며 “AI와 블록체인을 접목한 감사기법 연구용역을 추진하고, 중장기 계획을 수립하라”고 촉구했다.

온라인 메신저 카카오톡(카톡)의 최근 개편에 대해 이용자 다수는 피로감을 느끼는 것으로 조사됐다. 한국언론진흥재단이 11일 공개한 온라인 설문조사 결과에 따르면 카톡 친구 탭 개편이 반영된 버전을 사용하는 이들의 90.1%는 ‘별로 알고 싶지 않은 소식까지 보게 돼 피로감을 느낀다’고 답했다. ‘내 활동이 친하지 않은 사람에게 노출될 수 있어 부담스럽다’는 응답도 90.9%로 집계됐다. 최근 카톡은 프로필 변동 내역이 인스타그램의 피드처럼 자동 노출되도록 친구 탭을 개편했는데, 과도한 정보와 원치 않는 노출 때문에 스트레스를 받는다는 부정적 의미로 풀이된다. ‘친구들 소식에 하트나 댓글로 소통할 수 있어서 편하다’는 응답은 20.9%, ‘친구 근황을 한눈에 볼 수 있어 편하다’는 응답은 20.5%로 긍정적 반응은 상대적으로 적었다. 카톡 이용자의 79.7%는 친구 탭 개편 전 버전으로 돌리고 싶다고 답하기도 했다. 반면 카톡의 기능 개편 중 대화방의 메시지 삭제 가능 시간을 5분에서 24시간으로 대폭 늘린 것에 대해서는 ‘실수를 바로잡을 여지가 커져 마음이 편하다’는 응답이 84.3%로 나타났다. ‘메신저의 삭제 기능을 강화하는 것이 자연스러운 흐름’이라는 응답도 80.6%였다. 다만, 삭제 시간이 연장된 것이 ‘책임을 회피하는 데 악용될 소지가 있다’(67.5%) 혹은 ‘대화 내용이 바뀌거나 사라져 대화 상대에 대한 신뢰가 떨어질 것 같다’(50.6%)와 같은 역효과를 우려하는 목소리도 있었다. 카톡이 본격적인 소셜미디어(SNS)로의 변화를 모색하고 앱 내에서 챗GPT를 구현하는 등 인공지능(AI) 기능을 확장하는 것에 대해서는 ‘너무 많은 기능을 담아 복잡하고 혼란스럽다’는 의견이 86.1%였고 ‘미디어 환경을 고려할 때 자연스러운 현상’이라는 평가는 61.2%였다. ‘더 편리하다’고 답한 이들은 38.1%였다. 이번 조사는 카톡 이용 경험이 있는 20~60대 1000명을 대상으로 지난달 29일~이달 2일 실시됐다.

문명의 대전환 부른 AI더 나은 세상 위한 합리적 아이템바이오·의료·에너지·반도체 급변일상 행정 불편 감소 등 국민 체감도일자리·오류 등 대책은수익 유지 땐 일자리 나눌 수 있어복지 시스템 키워 시대 변화 대비인류 위협 막을 ‘킬체인’도 꼭 필요AI 시대 규제 방안은데이터, 우선 허용 후 규제로 바꿔야데이터 잘 활용하며 지키는 게 보호‘연구자 중심’ 제도로 인재 유출 방지AI 기본사회 방향은AI 학습 대중화로 지식 양극화 예방AI, 주체성·메타인지는 대체 못 해사용자 이해력·진짜 지식 길러야 때는 바야흐로 인공지능(AI) 시대다. 미국·중국·일본·유럽연합(EU)의 AI 패권 경쟁이 격화하는 가운데 이재명 정부도 ‘AI 3대 강국’ 진입을 목표로 AI 전쟁 한복판에 뛰어들었다. 이재명 대통령은 지난 9월 AI 정책의 최상위 ‘컨트롤타워’인 국가인공지능전략위원회를 신설했다. 위원장은 대통령이지만 정책 조율과 중장기 전략을 이끄는 실무 책임자는 임문영(59) 부위원장이다. 이 대통령의 ‘AI 책사’로 불리는 임 부위원장은 지난달 28일 서울 중구 서울스퀘어 국가AI전략위 사무실에서 진행한 서울신문 인터뷰에서 “AI는 문명의 대전환이자 지식 인플레이션의 출발점”이라며 “AI는 새끼 호랑이다. 자라면 국민의 삶에 어마어마한 변화를 가져올 것”이라고 말했다. 다음은 일문일답. -왜 AI인가. “지난 20년간 대한민국은 ‘적폐 청산’과 같은 과거 의제에 매달렸다. 이재명 정부 들어서야 비로소 미래 의제, AI가 중심에 섰다. AI는 더 나은 세상으로 나아가기 위한 가장 합리적인 아이템이다. 더 잘살고, 더 안전하고, 더 행복한 나라를 만들어 나가는 것이 목표다.” -AI가 가까운 미래를 어떻게 바꿀까. “속도에 차이는 있어도 결국엔 삶의 모든 분야가 바뀔 것이다. 직접 연관되는 산업은 바이오, 의료, 에너지, 반도체다. 50년간 난제였던 단백질 구조의 접힘 문제를 최근 구글의 AI 연구소 딥마인드가 풀어냈다. 이를 기반으로 신약이 개발되면 5년 안에 어마어마한 바이오 혁명, 의약품 혁명이 일어날 것이다.” -국민이 체감할 변화는. “전자정부가 AI 정부로 바뀌면 문서가 필요 없어진다. 주민등록등본 같은 서류는 개인 동의를 받아 필요한 부서가 데이터만 확인하면 된다. 일상 속 행정 불편이 크게 줄어들 것이다.” -AI가 인간의 일자리를 빼앗을 거란 우려가 큰데. “주 5일제도 경영계와 노동계의 반대 속에 정착했다. 노동시간이 줄어 생산성과 경제성장률이 떨어진 게 아니다. AI가 보편화되면 반복적인 일, 몸과 마음이 상하는 일, 위험하고 더러운 일, 먹고살려고 억지로 했던 일들이 획기적으로 줄 것이다.” -노동시장에 나타날 ‘AI 부작용’을 해결할 방안은. “기술의 발전은 막지 못한다. 러다이트 운동(19세기 초 영국에서 일어난 노동자의 기계 파괴 운동)처럼 기계를 부술 수도 없다. 국가의 복지 시스템이 지금보다 더 커져야 한다. 주 5일 근로에서 4일, 3일로 줄어도 수익이 유지된다면 더 적게 일하고도 일자리를 나눌 수 있다. 힘든 일은 AI에 맡기고 힘들지 않은 일을 나눠 갖는 방향으로 가야 한다.” -개인정보 침해 우려도 크다. “한국에는 개인 정보 유출에 대한 막연한 공포감이 있다. 반면 미국은 공공장소에서 노출된 얼굴은 보호하지 않는다. 보호나 보안을 명목으로 아무것도 못 하게 하면 그건 보호가 아니다. 안전을 위해 항구에만 정박한 선박이 무슨 의미가 있겠나. 정보는 흘러서 분석돼야 의미가 있다. 데이터를 잘 활용하며 지키는 것이 진짜 보호다.” -AI의 엉터리 정보와 오류도 심각한데. “AI는 확률 추정적인 답변을 하기 때문에 오류를 완벽하게 없앨 순 없다. AI에 질문을 던지면 ‘좋은 질문’이라고 추임새를 넣는데, 이게 사람의 마음을 유혹한다. 이를 과잉 수용하면 문제가 생긴다. 문제는 서비스 자체가 아니라 ‘미디어 리터러시’, 즉 사용자의 이해력이다. 대중이 AI를 학습할 시간이 필요하다.” -AI가 콘텐츠 질을 떨어뜨린다는 지적도 있다. “맞다. AI를 통해 지식이 쉽게 만들어지면 지식의 가치가 하락한다. 3만원만 내면 박사급 콘텐츠가 쏟아지니까. 그래서 AI로 만든 콘텐츠가 진실인지 아닌지 판별할 수 있어야 한다. 지식의 가치가 무너진 세상에선 진짜 지식을 길러 내는 힘이 중요하다.” -AI가 생성한 정보를 AI가 재학습하는 것도 문제다. “15~18세기 오스트리아 합스부르크 왕가가 권력 유지를 위해 근친혼을 반복하다가 기형아가 많이 태어났듯이 AI가 자신이 생성한 콘텐츠를 재학습하면 ‘모델 붕괴’ 현상이 나타난다. AI 콘텐츠가 망가지면 인터넷이 정보의 바다가 아닌 쓰레기의 바다가 될 수 있다.” -AI가 초래할 지식 양극화를 해결할 방안은. “AI 활용자와 비활용자 사이의 지식 격차가 커질 수 있다. 그래서 이 대통령이 ‘AI 기본사회’ 모델을 제시한 것이다. 모든 국민이 AI를 활용하게 해 누구도 뒤처지지 않게 하려는 의도다.” -영화 ‘미션 임파서블’처럼 AI가 인류를 위협할 가능성은. “두 가지 위험이 있다. 먼저 AI가 개인의 생각을 지배할 수 있다. AI에 빠진 세계 각국 지도자들이 전쟁을 일으켜도 되는지 묻는 질문에 AI가 ‘그렇다’고 답하면 위험해진다. AI 자체가 아니라 AI에 지배당한 인간이 위험해지는 것이다. 두 번째는 ‘AI 에이전트’(스스로 목표를 설정하고 자율적으로 임무를 수행하는 AI)가 악용될 가능성이다. 이 시스템이 무기체계에 들어가면 위험해진다. 그래서 AI에 킬체인(차단 시스템)이 꼭 필요하다.” -AI 시대로 가는 데 발목을 잡는 규제는 없나. “데이터 규제가 가장 큰 문제다. 해결하려면 정부가 유연해져야 한다. 법을 고치는 데 최소 반년이 걸린다. 법이 기술 속도를 따라잡지 못한다. 그래서 ‘네거티브 규제’(우선 허용 후 규제)로 바뀌어야 한다.” -국가데이터처(옛 통계청) 통계는 활용 가능한가. “데이터처의 통계 데이터와 AI가 사용하는 데이터는 성격이 완전 다르다. 데이터처는 통계를 수집하고 분석해 인사이트를 얻어내는데, AI가 학습할 수 있는 데이터는 데이터처 통계와 포맷뿐만 아니라 분석 방식도 달라 활용이 쉽지 않다.” -병원에 쌓인 의료 데이터를 활용할 순 없나. “의료 데이터는 민감 정보란 이유로 활용하지 못하고 있다. 다행히 최근 병원과 의료단체의 생각이 조금씩 바뀌는 분위기다. 의료 데이터가 AI에 활용되면 가장 큰 도움을 받는 건 환자다. 국가AI전략위도 ‘학습은 자유롭게, 서비스 이용은 신중하게’라는 구호를 만들었다. 의료 데이터를 활용해 모델을 만드는 건 자유롭게 하고, 서비스를 이용하는 건 신중히 하는 방향으로 구분해 접근하면 된다.” -한국의 AI 모델은 어느 수준인가. “한국에도 AI 모델이 많다. 다만 아직 레벨이 미국의 챗GPT·그록, 중국의 딥시크에 못 미친다. 순위로는 3위권인데, 1·2위와 현격히 차이가 나 ‘AI 3강’ 진입을 목표로 세웠다. AI 모델을 이용해 새로운 것을 만들어 내려면 그래픽처리장치(GPU) 같은 반도체와 데이터센터가 뒷받침돼야 하는데, 아직 인프라가 부족하다.” -AI 인재 유출을 막을 방안은 없을까. “한국에 AI 인재가 많다. 하지만 인재들이 돈과 기술이 모이는 곳으로 쏠리는 원심력은 막을 수 없다. 해외로 간 인재들의 1순위 조건은 ‘급여’가 아니라 ‘좋은 동료’였다. 연구자에겐 훌륭한 교수·동료와 함께 연구하는 것이 커리어를 쌓는 데 가장 중요하다. 한국에선 연구자를 위한 행정이 아니라 행정을 위한 연구를 요구했다. 이런 제도적 규제부터 바뀌어야 한다.” -내년 AI 예산 10조 1000억원, 부족한가. “예산이 적진 않다. 문제는 효율이다. 예산을 효율적으로 써야 한다. 뻔한 내용을 뻔하게 연구해 뻔한 답변만 내는 구조를 반복해선 안 된다. 심지어 헌법(127조)도 과학기술을 경제 발전의 수단으로 규정하고 있다. 예산을 지원하고선 과학자를 자유롭게 연구하게 해야 창의성을 발휘해 성과를 낸다. 과학을 그 자체로 존중해야 노벨상이 나온다. 미국과 일본이 노벨상을 휩쓸어 가는 것을 볼 때마다 마음이 아프다.” -AI가 대체할 수 없는 인간의 영역은. “주체성, 메타인지 능력이다. AI는 지식 기계다. 지식은 돈과 시간이 만들지만 지혜는 자기 성찰과 통찰이 만든다. AI는 그걸 할 수 없다.” ■ 임문영 부위원장은 연세대 정치외교학과를 졸업하고 한국PC통신 하이텔, 나우콤 등 정보기술(IT) 업체에서 경력을 쌓았다. 2017년 성남시장 정책보좌관으로 이재명 대통령과 인연을 맺었고, 경기지사 시절엔 경기도 정보화정책관·미래성장정책관을 지내며 이 대통령의 ‘디지털 싱크탱크’로 입지를 다졌다.

국회 과학기술정보방송통신위원회가 13일 과학기술정보통신부 등에 대한 국정감사에서 야당 의원들이 준비한 딥페이크 영상물을 두고 여야가 충돌하며 파행을 빚었다. 김장겸 국민의힘 의원은 정부세종청사에서 열린 국정감사에서 “인공지능(AI) 악용과 부작용 사례는 차고 넘친다. 경각심을 일깨우는 차원에서 딥페이크 영상을 준비했다”고 말했다. 영상에는 배경훈 부총리 겸 과기정통부 장관이 이춘석 전 국회 법제사법위원장(전 더불어민주당 의원)과 비밀 회동을 했다는 점을 암시하는 대화가 담겼다. “7월 말쯤 둘이(배 부총리와 이 의원) 만났다고 하더라고. 이춘석이, 국정기획위에 있었잖아. 정부 AI 사업도 보고받고 그쪽에 관심이 많았나 봐”라는 음성이 송출됐다. 주식 차명거래 의혹이 불거진 이 의원을 겨냥한 것이다. 영상이 시연되자 여당 의원들의 항의가 빗발쳤다. 이에 김 의원은 “이 의원이 정부의 AI 정책을 총괄하는 자리에 있어 여러 뜬소문이 돌았다”고 맞섰다. 그러자 배 부총리는 “이런 영상의 경우 소라로 만들면 소라로 만들어진 영상이라고 표시가 된다”며 “이 영상도 딥페이크 영상이라는 자막이 나왔으면 좋았을 것”이라고 짚었다. 이어 “국정감사에서 영상이 띄워지면 사실로 오해해 (영상이) 돌아다닐 수도 있을 것 같다”며 유감을 표했다. 고성이 이어지자 최민희 과방위원장이 회의 시작 1시간 15분 만에 정회를 선언했다. 한편 2023년 연구개발(R&D) 예산 삭감을 누가 주도했느냐는 노종면 민주당 의원 질의에 배 부총리는 “주요 R&D를 10조원으로 삭감하라는 최상목 당시 경제수석의 지시가 있었다”고 밝혔다.

미국 상원의원 버니 샌더스(무소속·버몬트주)는 인공지능(AI)과 자동화 기술이 향후 10년 안에 미국 내 최대 1억개 일자리를 앗아갈 수 있다고 경고했다. 6일(현지시간) 미국 뉴욕포스트에 따르면 샌더스 의원은 이날 보고서를 통해 AI와 로봇 기술은 화이트칼라(사무직)와 블루칼라(현장직) 전반에 걸쳐 광범위한 직종을 대체할 것으로 예상된다고 발표했다. 보고서는 챗지피티(ChatGPT)의 분석을 기반으로 작성됐다. 보고서는 AI의 영향으로 현재 간호사 40%, 트럭 운전사 47%, 회계사 64%, 교육 보조원 65%, 패스트푸드 종사자 89%가 일자리를 잃게 될 수 있다고 봤다. 샌더스는 보고서에서 “농업 혁명은 수천년에 걸쳐 진행됐고, 산업 혁명도 100년 이상 걸렸다. 그러나 AI 기반 인공 노동은 단 10년 안에 경제를 뒤바꿀 수 있다”라고 밝혔다. 샌더스는 또 이날 폭스뉴스 기고문을 통해, 대기업들이 AI와 로봇 기술을 통해 대규모 구조조정과 인건비 절감을 단행하고 있다며 강하게 비판했다. 그는 “AI와 로봇 기술은 미국 내 수천만개의 양질의 일자리를 없애고, 기업의 이익을 극대화하는 데 악용될 수 있다”라고 지적했다. 그는 특히 일론 머스크, 마크 저커버그, 제프 베조스 등 테크 부호들이 AI에 막대한 자금을 투자하고 있는 현상을 지적하며, “이들이 AI를 통해 서민을 돕고자 하는 것이라면 좋겠지만, 나는 그렇게 보지 않는다. 그보다는 부와 권력을 더 집중시키기 위한 수단으로 AI를 활용하고 있다”라고 주장했다. 미국 정치권에선 AI를 둘러싼 규제 논의가 뜨겁게 진행 중이다. 공화당과 도널드 트럼프 대통령은 “미국이 AI 기술 주도권을 잡아야 하며, 중국의 기술 우위는 국가 안보 위협”이라고 주장하며 기술 개발에 속도를 내고 있다. 반면 민주당은 AI의 사회적 영향에 우려를 표하며 ▲주 32시간제 도입 ▲자동화 전환 기업에 ‘로봇세’ 부과 ▲노동자 보호 조치 강화 등을 요구하고 있다. 이미 아마존(Amazon)과 월마트(Walmart) 등 미국 내 매출 규모가 큰 기업들은 자동화에 무게를 두며 수만개의 일자리를 감축한 바 있다. 샌더스는 제조업, 트럭·버스·택시 운전사 직종이 가장 큰 타격을 받을 것이라고 예측했다. 자동차 업체와 기술 스타트업이 자율주행 기술 개발을 본격화하면서 이러한 직업들이 위험에 처할 것이라는 것이다. 샌더스 의원은 “기술 발전 자체는 막을 수 없지만, 그것이 일반 노동자들의 삶을 파괴하고 극소수의 이익만을 위한 방향으로 흘러가서는 안 된다”며 AI 규제와 노동자 보호의 필요성을 강조했다.

정부 전산망 ‘마비’와 추석·소비쿠폰 지급 등이 겹치며 ‘스미싱’ 피해 주의보가 발령됐다. 1일 세종시에 따르면 대전 국가정보자원관리원(국정자원) 화재로 전산망 복구 기간 전화나 문자메시지로 대체 사이트 접속과 앱 재설치 등을 유도하는 범죄에 각별한 주의를 당부했다. 이어 국정자원 화재로 인한 정부24 변경 주소 안내 및 접속유도, 서비스 장애에 따른 납세 지연 사유 신청, 민원 서비스 장애로 인한 일상생활 피해 국민 보상금 신청 등을 사례로 들었다. 선물 배송이 많은 추석과 2차 민생 회복 소비 쿠폰 지급과 맞물려 유통·금융기관 등을 사칭한 전화금융사기(보이스피싱)와 문자메시지 사기(스미싱) 등도 우려되고 있다. 세종시 관계자는 “시민의 소중한 재산과 안전을 지키기 위해 정부와 긴밀한 협력체계를 강화하고 있다”며 “예방수칙을 실천해 피해를 보지 않도록 경각심을 가져야 한다”고 강조했다. 앞서 정부는 국가 전산망 장애와 관련해 정부·공공기관 등으로 속인 스미싱 공격에 대한 주의를 당부했다. 스미싱은 문자메시지(SMS)와 피싱(Phishing)의 합성어로, 악성 앱 주소가 포함된 휴대전화 문자를 대량 전송해 이용자가 악성 앱을 설치하거나 전화하도록 유도해 금융정보·개인정보 등을 탈취하는 수법이다. 정부 전산장애를 빌미로 임시 본인인증을 거론하며 신분증과 계좌번호, 비밀번호 같은 개인정보 입력을 요구한다. 정부와 지자체, 금융기관 등은 시스템 장애 등 재난 상황 알림 안내 문자 발송 시 인터넷주소(URL)가 포함된 문자메시지를 발송하지 않는다고 강조했다. 경찰청·인터넷진흥원 등은 스미싱 공격에 대한 모니터링을 강화하고, 피해 신고 시 즉시 수사에 착수하는 등 신속 대응체계를 가동하고 있다. 보안업체 관계자는 “사이버 위협은 추석 선물 배송이나 교통법규 위반 과태료 같은 전형적인 스미싱 수법을 넘어 첨단 AI까지 동원해 교묘해지고 있다”며 “계정 탈취는 지인을 대상으로 한 2차 범죄에 악용돼 더 큰 피해로 이어질 수 있다”고 경고했다.

AI로 하루 만에 공격 대상 약점 분석몇 개월 잠복하며 내부망 권한 장악시스템 중단 우려에 보안 조치 미뤄기업 보안 의식 안일… 쉬운 먹잇감 “요즘 해킹은 인공지능(AI)까지 동원해 취약한 고리를 빠르고 집요하게 뚫어내는데, 기업들의 보안 수준과 의식은 2000년대 초반에 머물러 있으니 사고가 날 수밖에 없죠.”(27세 화이트해커 김모씨) SKT, KT, 롯데카드 등 통신사와 금융사에 대한 잇따른 해킹 공격으로 3000만명이 넘는 개인정보가 새 나가면서 ‘내 정보가 언제든지 탈취될 수 있다’는 불안감이 커지고 있다. 사이버 보안업계 등에서 활동 중인 7명의 화이트해커는 25일 서울신문과의 대면·전화 인터뷰에서 “해킹으로 빼낸 개인정보가 다크웹 등에서 흔하게 거래되고 있고, 해킹 툴을 판매하는 이들도 있다”며 “누구나 해킹을 시도할 수 있어 전문가만 해킹한다는 것도 옛말”이라고 했다. 이들은 최근 해킹 공격의 특징으로 크게 ▲AI를 동원해 취약 시스템을 신속 공격하고 ▲내부망을 장악한 뒤 장기간 은닉해 내부 시스템에서 권한을 키우는 방식을 쓰며 ▲해킹 툴 확산으로 비전문가 해킹까지 늘어나고 있다는 점을 꼽았다. 백모(19)씨는 “AI 등장 전에는 공격자인 해커(사람)가 몇 달 동안 기관이나 기업 프로그램의 취약점을 하나하나 분석했다면, 지금은 AI를 활용해서 하루 만에 이를 끝낸다”고 했다. 기업이 보안 프로그램을 업데이트하기 전에 재빨리 취약 고리를 뚫고 내부망을 장악할 수 있다는 것이다. 특히 이렇게 내부망을 장악한 이후 해커들은 길게는 몇 개월 넘게 ‘잠복’하며 시스템 권한을 하나씩 장악해 간다고 한다. 최모(19)씨는 “정상적으로 시스템이 돌아가는 것처럼 보이게 해 안심시킨 뒤 서서히 내부망 접근 권한을 키워나간다”고 했다. 박모(22)씨도 “오랜 기간 권한을 늘려 대량의 정보를 탈취하는 게 해커들의 목적”이라며 “그만큼 은닉 기술이 고도화되고 있다”고 전했다. 범죄에 악용되는 해킹툴을 다크웹에서 손쉽게 구할 수 있단 점도 문제다. 김모(24)씨는 “악의적으로 해킹하겠다는 마음만 먹으면 프로그램 코드 작성 지식조차 없는 이들도 툴에 따라 국내 기업의 보안망을 뚫을 수 있다”며 “기업이 보안 프로그램 업데이트조차 제때하지 않기 때문에 가능한 일”이라고 강조했다. 화이트해커들은 이번 KT, 롯데카드 해킹 사태도 기업들의 안일한 보안 의식이 불러온 결과라고 입을 모았다. 임모(26)씨는 “롯데카드의 경우 2017년에 드러난 취약점인데 그 사이 보안 소프트웨어 업데이트를 제대로 하지 않아 발생한 것”이라며 “시스템 중단 우려에 업데이트를 미루고 보안 소프트웨어의 외주화 등이 맞물려 일어나는 일”이라고 말했다. 이모(20)씨도 “공격하는 해커들 입장에서 ‘가성비’를 따지면 한국 기업만 한 곳이 없다”며 “탈취할 정보는 많은데, 보안은 취약해 뚫기 쉬우니 지속적으로 공격 대상이 될 수 있다”고 지적했다.

“요즘 해킹은 인공지능(AI)까지 동원해 취약한 고리를 빠르고 집요하게 뚫어내는데, 기업들의 보안 수준과 의식은 2000년대 초반에 머물러 있으니 사고가 날 수밖에 없죠.”(27세 화이트해커 김모씨) SKT, KT, 롯데카드 등 통신사와 금융사에 대한 잇따른 해킹 공격으로 3000만명이 넘는 개인정보가 새 나가면서 ‘내 정보가 언제든지 탈취될 수 있다’는 불안감이 커지고 있다. 사이버 보안업계 등에서 활동 중인 7명의 화이트해커는 25일 서울신문과의 대면·전화 인터뷰에서 “해킹으로 빼낸 개인정보가 다크웹 등에서 흔하게 거래되고 있고, 해킹 툴을 판매하는 이들도 있다”며 “누구나 해킹을 시도할 수 있어 전문가만 해킹한다는 것도 옛말”이라고 했다. 이들은 최근 해킹 공격의 특징으로 크게 ▲AI를 동원해 취약 시스템을 신속 공격하고 ▲내부망을 장악한 뒤 장기간 은닉해 내부 시스템에서 권한을 키우는 방식을 쓰며 ▲해킹 툴 확산으로 비전문가 해킹까지 늘어나고 있다는 점을 꼽았다. 백모(19)씨는 “AI 등장 전에는 공격자인 해커(사람)가 몇 달 동안 기관이나 기업 프로그램의 취약점을 하나하나 분석했다면, 지금은 AI를 활용해서 하루 만에 이를 끝낸다”고 했다. 기업이 보안 프로그램을 업데이트하기 전에 재빨리 취약 고리를 뚫고 내부망을 장악할 수 있다는 것이다. 특히 이렇게 내부망을 장악한 이후 해커들은 길게는 몇 개월 넘게 ‘잠복’하며 시스템 권한을 하나씩 장악해 간다고 한다. 최모(19)씨는 “정상적으로 시스템이 돌아가는 것처럼 보이게 해 안심시킨 뒤 서서히 내부망 접근 권한을 키워나간다”고 했다. 박모(22)씨도 “오랜 기간 권한을 늘려 대량의 정보를 탈취하는 게 해커들의 목적”이라며 “그만큼 은닉 기술이 고도화되고 있다”고 전했다. 범죄에 악용되는 해킹툴을 다크웹에서 손쉽게 구할 수 있단 점도 문제다. 김모(24)씨는 “악의적으로 해킹하겠다는 마음만 먹으면 프로그램 코드 작성 지식조차 없는 이들도 툴에 따라 국내 기업의 보안망을 뚫을 수 있다”며 “기업이 보안 프로그램 업데이트조차 제때하지 않기 때문에 가능한 일”이라고 강조했다. 화이트해커들은 이번 KT, 롯데카드 해킹 사태도 기업들의 안일한 보안 의식이 불러온 결과라고 입을 모았다. 임모(26)씨는 “롯데카드의 경우 2017년에 드러난 취약점인데 그 사이 보안 소프트웨어 업데이트를 제대로 하지 않아 발생한 것”이라며 “시스템 중단 우려에 업데이트를 미루고 보안 소프트웨어의 외주화 등이 맞물려 일어나는 일”이라고 말했다. 이모(20)씨도 “공격하는 해커들 입장에서 ‘가성비’를 따지면 한국 기업만 한 곳이 없다”며 “탈취할 정보는 많은데, 보안은 취약해 뚫기 쉬우니 지속적으로 공격 대상이 될 수 있다”고 지적했다.

KT에서 무단 소액결제 사건이 발생하면서 통신사의 보안 부실 문제가 대두되는 가운데 개인정보 유출 경로로 지목된 초소형 기지국(펨토셀)의 33%가 시스템상 잡히지 않는 것으로 나타났다. 15일 최수진 국민의힘 의원실이 이동통신 3사로부터 받은 자료에 따르면 통신 3사의 전체 펨토셀 19만 5000대 중 약 33%에 달하는 6만 4000대가 미작동해 신호가 잡히지 않고 있다. 회사별로 보면 무단 소액결제 사고가 발생한 KT에서 이러한 펨토셀이 가장 많았는데, 총 15만 7000여대의 KT 펨토셀 중 5만 7000대가 신호가 잡히지 않았다. LG유플러스는 2만 8000대 중 4000대, SK텔레콤은 1만대 중 3000대에서 신호가 잡히지 않았다. KT는 이와 관련해 “일부 초소형 기지국 신호가 잡히지 않는 이유는 전원 꺼짐, 고장 등이 주요 원인”이라면서 “잠재적 추가 악용을 막기 위해 신호가 잡히지 않는 초소형의 기지국에 대한 망 접근을 차단했다”고 밝혔다. SK텔레콤은 “신호가 잡히지 않은 3000대는 재고 수량에 해당한다”고 했다. 관리의 사각지대에 놓인 펨토셀은 해킹의 대상이 되기 쉬운데, 펌웨어가 깔려있고 외부와의 통신이 가능해서다. 공격자는 방치된 펨토셀에 접근해 기기 초기화나 펌웨어 탈취 등을 시도할 수 있다. 한편 북한 배후 추정 해킹 조직인 ‘김수키’ 그룹이 생성형 인공지능(AI)으로 만든 딥페이크 이미지로 사이버 공격에 나선 사례가 국내에서 처음 확인됐다. 지난 8월 해외 보안전문 매체 프랙은 김수키가 행정안전부 등 정부 부처와 통신사를 대상으로 공격을 시도했다고 전한 바 있다. 이날 보안 전문기업 지니언스의 시큐리티센터(GSC) 보고서에 따르면 지난 7월 김수키 그룹은 AI로 합성한 이미지를 활용해 군 관계 기관에 ‘스피어 피싱’(특정 개인·조직을 표적화한 사이버 공격)을 시도했다. 군무원 신분증의 시안을 검토해달라고 악성 파일을 심은 피싱 메일을 보낸 것인데, 신분증 시안 속 첨부한 사진이 AI로 합성한 딥페이크 이미지였다. 센터는 “AI 서비스는 업무 생산성을 높이는 강력한 도구이지만 동시에 국가 안보 차원의 사이버 위협에 악용될 수 있는 잠재적 위험 요소”라며 IT 조직 내 채용·업무·운영 전반에서 AI 악용 가능성을 고려한 대책 마련이 필요하다고 제언했다.

배경훈 과학기술정보통신부 장관이 KT 무단 소액결제와 SKT 개인정보 유출 등 잇따르는 통신사 해킹 사태에 대해 “기존보다 반걸음, 한걸음 빠른 대응책을 고민해 해결책을 찾아나가겠다”고 밝혔다. 배 장관은 지난 12일 서울 광화문에서 열린 ‘취임 50일 기자 간담회’에서 반복되는 통신사 사이버 침해 사고에 높아지는 국민 불편·우려에 대한 입장을 묻는 말에 이렇게 답했다. 그는 최근의 KT 사이버 침해 사건에 대해 “(사건 발생 시기로 알려진) 8월 22일 이전부터 문제가 됐던 것들이 지금 터지는 것 아닌가 해서 종합적인 연관 관계를 분석 중”이라고 밝혔다. LG AI연구원장 출신으로 인공지능(AI) 전문가인 배 장관은 “AI에 관심을 가지는 것 이상으로 정보 보호 체계에 대한 관심을 많이 갖고 있으며, AI 대전환 시대에 앞서서 우리가 반드시 해결해야 하는 문제가 해킹 이슈라고 본다”고 강조했다. 그러면서 “AI를 악용한 해킹 기술이 발전하는 상황에서 근본적인 대책을 세워야 하는데 거기에 대한 준비가 되어 있는가에 대한 고민이 매우 많다”고 했다. 이어 “정보 보호 대전환 체계를 만드는 것이 매우 중요하며 류제명 2차관을 단장으로 정보 보호 대응 태스크포스(TF) 팀을 꾸려 할 수 있는 최대한의 대응을 해보고자 한다”고 덧붙였다. 사이버 침해를 당한 기업이 당국에 신고하지 않으면 당국 개입이 어려운 현행 제도 개선 필요성도 언급했다. 정보통신망법은 정보통신 서비스 제공자가 침해 사고를 인지하면 24시간 이내에 과학기술정보통신부 장관이나 한국인터넷진흥원(KISA)에 신고하고 위반 시 3000만원 이하의 과태료를 내도록 규정하고 있다. 하지만 당국의 내부 정보 접근 등을 우려한 기업들이 침해당하고도 ‘쉬쉬’하면서 사이버 보안 역량이 약화하는 상황이 지적돼왔다. 배 장관은 “신고 이후에 당국이 조사할 수 있는 지금 체계를 바꾸기 위해서 국회와 소통 중”이라며 “통신사들도 정부를 믿고 문제가 생겼을 때 바로 신고하거나 상의할 수 있어야 할 것”이라고 말했다. 아울러 휴대전화 출시 단계에서 해킹 예방 애플리케이션 설치, 통신망 차원의 스미싱 차단, 국가적 차원의 화이트해커 육성 등 별도 대책 마련도 언급했다.

경기도의회 안전행정위원회 윤성근 부위원장(국민의힘, 평택4)은 9월 10일 열린 제386회 임시회 자치행정국 대상 2차 추경예산안 심사에서 광역체납징수 사업의 집행률 저조 문제와 디지털 대응체계 필요성을 집중적으로 질의했다. 이번 추경 질의는 도 재정 건전성과 조세 정의 실현을 위한 광역체납징수 사업의 실효성을 높이기 위한 목적에서 진행됐다. 특히 최근 늘어나고 있는 가상자산을 활용한 체납 은닉 시도에 대한 선제적 대응 방안과 타 기관과의 공조 체계 구축 필요성이 부각됐다. 윤성근 부위원장은 “광역체납징수 사업의 올해 집행률이 28% 수준에 불과해 사업의 실효성에 의문이 제기된다”며 “재정 건전성과 납세 정의 실현을 위해 보다 과감하고 적극적인 집행 전략이 필요하다”고 지적했다. 또한 윤 부위원장은 “가상자산 등 새로운 형태의 자산 은닉 수단이 등장하고 있는 상황에서 도 차원의 선제 대응책이 절실하다”며 “AI 기반 재산 추적 시스템 구축과 국세청 등 중앙기관 및 타 시·도와의 협업 강화가 반드시 필요하다”고 강조했다. 이어 윤성근 부위원장은 “소액 체납자의 경우 반복성과 상습성이 높은 만큼, 홍보와 납세 교육을 병행해 도민의 자발적 납세 순응도를 높이는 접근도 필요하다”고 강조했다. 또한 “징수 실적을 수치로만 평가하지 말고, 도민 신뢰 회복과 조세 문화 정착이라는 본질적 목표에 집중해야 한다”고 덧붙였다. 한편, 안전행정위원회는 앞으로 광역체납징수 사업의 디지털 전환 확대와 협업 체계 강화를 통해 실효성 있는 징수 행정이 이뤄질 수 있도록 정책적 뒷받침을 이어갈 계획이다.

오는 22일부터 시작되는 정부의 민생회복 소비쿠폰 2차 지급을 앞두고 정부 기관으로 위장한 스미싱(미끼 문자)이 잇따라 당국이 주의를 당부했다. 지난 4일 방송통신위원회는 소비쿠폰 지급을 악용해 불법 도박 사이트 등에 접속하도록 유도하는 불법 스팸 전화·메시지 피해 주의보를 발령했다. 최근 신고 사례로는 ‘민생회복 쿠폰 도착 안내’, ‘지금 받으러 가기’ 등 허위 안내와 함께 악성 사이트로 이어지는 인터넷주소(URL)가 담긴 문자 메시지가 있었다. 이러한 URL은 대체로 정부 기관 등을 사칭한 위장 사이트로 이어진다. 이때 사용자의 개인정보와 금융정보 탈취를 위한 프로그램과 애플리케이션(앱)이 자동 설치돼 무단 송금 및 휴대전화 원격제어 등 피해가 발생할 수 있다. 피해 예방을 위해서는 출처가 불분명한 메시지에 포함된 URL은 누르지 않고 전화는 그대로 거절하는 것이 좋다. 방통위는 소비쿠폰 2차 지급을 악용한 스미싱에 대응하기 위해 이동통신 3사(SKT·KT·LG U+), 카카오와 협력하고 이용자에게 주의 안내 문자를 발송할 계획이다. 또한 단말기 제조사 등에 지능형 스팸 필터링 강화도 요청했다. 만약 출처가 불분명한 URL이 담긴 메시지를 받았다면 한국인터넷진흥원(KISA)이 운영하는 ‘보호나라’ 서비스를 이용하면 된다. 카카오톡에 접속해 ‘보호나라’ 채널을 실행한 뒤, 해당 문자를 복사-붙여넣기 하면 스미싱 여부를 확인할 수 있다. 불법 스팸을 받았다면 해당 문자 메시지와 전자메일(e-mail) 등을 간편 신고 앱이나 휴대전화 간편 신고 등을 통해 KISA에 신고할 수 있다. 신고된 정보는 불법 여부 확인을 거쳐 경찰청, 금융위원회 등과 공유해 피해 확산 방지에 활용한다.

인공지능(AI) 기술의 발전은 전 세계 모든 영역에서 획기적인 변화를 일으키고 있다. 인류가 지난 수천년간 경험한 것보다 더 큰 변화가 AI로 인해 촉발되는 중이다. AI가 본격적으로 일자리에 영향을 주는 단계에 이르게 되면서 ‘AI가 인간의 일자리를 얼마나 대체할 것인가’는 우리 사회의 가장 뜨거운 화두로 떠올랐다. 19세기 영국에서 기계가 인간의 노동을 대체하면서 러다이트 운동이 일어났던 것처럼 새로운 기술에 대한 공포와 불안이 현실로 다가온 것이다. 미국에서는 AI 자동화로 소프트웨어 엔지니어들이 대규모 해고됐고, 2023년 할리우드에서는 AI가 작가들의 창작 영역을 위협하면서 작가 조합의 파업으로까지 이어졌다. 특히 기술에 대한 수용도가 높고 사회안전망이 부족한 한국 사회는 최근 챗GPT 같은 생성형 AI의 등장으로 더 큰 공포감을 마주하고 있다. 사회과학 연구자들과 현장의 기술·산업·노동 전문가들로 구성된 저자들은 폭넓은 국내외 사례를 바탕으로 심층적인 논의를 통해 기술과 노동 양쪽의 관점에서 AI 시대의 새로운 규범과 대안을 모색한다. AI 기술의 발전은 노동시장에 엄청난 변화를 예고하고 있다. 책은 AI가 과거의 자동화 기술과 달리 고소득·고학력 인지 노동을 대체할 가능성을 심층적으로 분석한다. 어떤 특성을 가진 직업 혹은 직업인들이 AI에 더 많이 노출돼 있는지를 추정한 ‘AI 노출지수’에 따르면 의사나 회계사, 판·검·변호사 등이 상위에 올랐다. 전문 자격증을 거쳐야 진입 가능한 직업이 AI 기술과의 중첩 정도가 높은 것으로 나타난 것이다. 반면 대학교수나 성직자, 언론인 등 사람과 직접 대면해야 하는 직업은 비교적 AI 대체 가능성이 낮은 것으로 분석됐다. 사회적 능력에서는 기계보다 인간이 비교 우위에 있기 때문에 ‘분석’ 역량은 AI로의 대체 가능성이 높지만 ‘대화’ 역량은 아직 대체하기 어렵다는 결과도 같은 맥락에서 해석될 수 있다. 그렇다고 AI가 인간의 일자리를 위협하기만 하는 것은 아니다. 영화 산업에서는 AI가 작업 효율성을 향상시키고 음악 분야에서는 AI 작곡 기술이 인간 창작자에게 새로운 영감을 제공하기도 한다. 학계에서도 연구 생산성을 높이는 데 AI가 활용되곤 한다. 저자들은 “AI를 단순한 경쟁자가 아닌 도구로 활용하는 협력적 지능이 중요하다”면서 “AI 시대에도 인간 고유의 창의성과 감성 노동의 가치는 변하지 않을 것”이라고 강조한다. 책은 AI 기술의 오용과 악용을 막기 위한 규제 방안에 대해서도 심층적으로 다룬다. 최근 AI로 인한 타격과 불평등이 가시적인 영역에서는 관련 입법이 구체적으로 진행되고 있다. 대표적인 것이 미국 캘리포니아주의 사례다. 배우 및 기타 공연자와의 계약서에 생성형 AI를 사용해 목소리나 외모를 복제할지를 명시하고, 사망한 배우의 디지털 복제물 사용에 제한을 가하는 법안에 최근 주지사가 서명하기도 했다. 저자들은 “AI 기술 규제에 관해 해외의 사례를 그대로 따라가기보다는 한국의 방향성을 구체화할 정책적 고민이 필요하다”면서 “사회적 공론을 거쳐 산업적 혁신과 사회적 요구 사이의 균형점을 찾고 AI가 불평등을 강화하는 것을 방지하며 사회 구성원의 고른 참여를 이끄는 촉매제가 되도록 해야 한다”고 제언한다.

모두가 인공지능(AI) 기술 발전에 열광할 때, 그들은 IT(정보기술) 세계 뒷골목에서 태어났다. 처음엔 ‘손가락 6개’였다. 누구나 가짜 사진이라는 것을 눈치챌 수 있는 엉성한 모습이었는데, 사람들은 ‘AI 환상(할루시네이션)’이라며 기술적 오류로 치부해 버렸다. 그러다 등장한 것이 ‘새우 예수’다. 예수가 새우를 타고 바다를 건너는 기괴한 창작물이 시작이었다. 초기엔 장난스럽게 만든 인터넷 밈(유행물) 정도로 여겨졌으나, 이런 사진이 걷잡을 수 없이 빠른 속도로 소셜미디어(SNS)로 퍼지자 ‘실제로 존재했던 사건’이라고 믿는 이들이 생기기 시작했다. 지난 17일(현지시간)엔 영국 케임브리지 사전에 ‘딜룰루’(delulu)라는 단어가 신조어로 등재됐다. 사전은 ‘딜룰루’에 대해 “실제로 존재하지 않거나 사실이 아닌데 본인 선택으로 믿는 것”이라고 정의했다. 처음엔 ‘K팝 아이돌과 사귈 수 있다’는 온갖 망상적 콘텐츠를 조롱하는 의미로 쓰였으나, 최근엔 ‘망상이 해결책’이라는 뜻을 담은 ‘딜룰루는 솔룰루다’(delulu is the solulu)라는 개념으로 발전했다. 이제 사람들은 망상도 굳게 믿으면 현실이 된다고 생각한다. AI라는 치명적 무기를 장착하면서 가짜 사진과 영상은 ‘무한 생성’의 단계로 넘어갔다. 전 세계 생성형 AI 이용자들은 더이상 창작의 고통을 느끼지 않는다. 저작권과 초상권으로 보호받아야 할 콘텐츠가 ‘변형’이라는 탈을 쓴 채 쓰레기처럼 범람하고 있다. 뉴욕타임스(NYT), 워싱턴포스트(WP) 등 해외 주요 매체들은 최근 이런 ‘AI 오물(slop)’의 습격에 주목하기 시작했다. 뒷골목에서 태어난 이들이 주류가 되자 각종 문제가 발생하기 시작했다. 우선 생성형 AI가 무한대의 속도로 콘텐츠를 찍어 내자 데이터 공간이 부족해지기 시작했다. 지금은 새로 생성되는 영상 4~5개 중 1개가 이런 생성형 AI를 활용해 만든 영상이지만, 빠른 생성 속도를 감안하면 곧 비중이 절반을 넘어설 것이라는 관측도 나온다. AI 오물이 금전을 뜯어내는 사기 도구로 이용되는 사례도 빈번하다. 프랑스령 레위니옹섬에서 한 50대 여성이 가짜 브래드 피트에게 12억원을 송금하는 사기를 당하자 지난 1월 피트 대변인이 “사기꾼들이 팬과 유명인사의 유대감을 악용하는 것은 끔찍한 일”이라는 공개 입장을 내기도 했다. 한국에서도 클릭을 유도하기 위해 AI로 짜깁기한 연예인 사망설이 등장하는가 하면 수사기관의 지속적인 단속에도 유명인 영상을 동원한 교묘한 투자 사기 콘텐츠가 끊이질 않는다. 시장이 커지자 가짜 영상 제작을 대행해 주는 업체까지 생겼다. 어딘지 기존 유명곡과 비슷한 곡, 인기 게임 디자인을 베껴 만든 게임 등 기생충처럼 창작자의 영역을 침범해 수익을 공유하는 사례도 폭증하고 있다. 너도나도 저품질 콘텐츠 양산에 몰두하다 보니 전문 프로그래머, 영상 제작자가 설 자리도 없다. 가짜 콘텐츠가 가짜 콘텐츠를 낳고, 어느 것이 원본인지 구분할 수 없는 지경에 이르렀다. 결국 참다 못한 구글과 메타가 나섰다. 지난달 이들 기업은 유튜브 등 SNS에서 폭증하는 저품질 생성형 AI 콘텐츠를 수익화 대상에서 제외한다고 발표했다. 유럽연합(EU)은 ‘인공지능법’을 통해 AI로 생성한 콘텐츠는 유포자와 제작자에게 AI 콘텐츠라는 점을 표시하도록 의무화했다. 한국도 이런 세계적 규제 흐름을 주시해야 한다. 정치권이 ‘가짜뉴스’, ‘딥페이크’ 척결에 목소리를 높이고 있으나, 어떤 제한 조치도 없는 틈을 타 ‘AI 오물’은 점점 더 빠른 속도로 차오르는 상황이다. 답은 간단하다. AI 생성 콘텐츠는 별도로 표시하도록 의무화하는 제도를 도입하면 된다. AI 오물이 교묘한 기술로 숨긴 ‘6번째 손가락’을 강제로 드러내도록 하는 것이다. 규제 범위만 구체화하면 어려운 일도 아니다. 지금도 이런 콘텐츠로 고통받는 이들을 생각하면 시간을 끌 일이 아니다. 정현용 국제부장

2011년 4월 5일, 부산 북부경찰서에 한 여성의 실종 신고가 접수됐다. 실종자는 학원 운영으로 재력이 탄탄했던 50세 여성 A씨. 남동생은 “누나가 매형을 만나러 나갔다가 나흘째 집에 들어오지 않는다”고 알렸다. 경찰은 곧 남편 강모(52)씨에게 수사망을 좁혀갔다. 경상도 모 국립대 교수였던 그는 컴퓨터공학 전문가로, 사이버범죄 연구 학회장과 검찰 자문위원을 지낸 ‘범죄 수사 전문가’였다. 강씨와 A씨는 2010년 재혼했지만 갈등이 깊었다. 결혼 과정에서 강씨가 세 차례 이혼 사실을 숨긴 데다, 살림 마련 비용 5억 원을 A씨가 먼저 부담했음에도 약속한 자기 몫을 끝내 내지 않았다. 빌라 매각 사실을 숨긴 점도 불신을 키웠다. 결국 두 사람은 별거에 들어갔고, 이혼 소송까지 이어졌다. 이혼 위기를 맞은 강씨 곁에는 ‘내연녀’ 최모(49)씨가 있었다. 2004년 대리운전 기사로 만난 두 사람은 오랜 불륜 관계였다. 강씨는 그녀를 범행에 끌어들이며 “결혼해주겠다”, “집 지분과 커피전문점을 주겠다”고 약속했다. 최씨는 결국 공모에 가담했다. 범행은 2011년 4월 2일 밤 벌어졌다. 강씨는 해운대의 한 호텔 주차장에서 아내와 대화하는 척하다가 방심한 틈을 타 목 졸라 살해했다. 미리 준비한 쇠사슬과 마대로 시신을 묶은 뒤 대형 가방에 넣었다. 시신은 공범 최씨 차량으로 옮겨졌고, 이튿날 새벽 을숙도대교 인근 낙동강에 유기됐다. 사건은 치밀했다. 강씨는 경찰 조사에서 아내를 만난 사실조차 부인하며 “기지국 신호로 같은 공간에 있었다고 단정할 수 있느냐”며 맞섰다. 심지어 “아내가 가출했을 것”이라며 태연한 태도까지 보였다. 그는 등산 모임 뒤 술자리와 주점 영수증을 내세워 알리바이를 주장했다. 수사는 난항을 겪었지만 결국 ‘카카오톡 메시지’가 결정적 단서가 됐다. 강씨가 판교 본사를 찾아가 기록 삭제를 요청한 사실이 드러난 것이다. 포렌식 복원 결과, “시신 담을 가방 구하러 다닌다” “을숙도대교에 같이 가보자” 등 범행 준비 대화가 확인됐다. 당시 카카오톡은 초기 서비스라 수사망이 닿기 어려웠지만, 경찰은 이를 증거로 확보했다. 실종 49일 만인 5월 21일, 고교생들이 환경정화 활동 중 낙동강에서 A씨의 시신이 든 가방을 발견하며 사건은 전환점을 맞았다. 차량에서 발견된 혈흔, CCTV의 가방 구매 장면도 강씨를 압박했다. 결국 해외로 도피했던 최씨가 귀국하며 공모 사실을 털어놓자 강씨 역시 범행을 시인했다. 그는 “이혼 소송으로 교수라는 체면이 손상되고 거액의 위자료가 두려웠다”며 동기를 밝혔다. 다만 “살인은 최씨가 저질렀고, 자신은 시신 유기만 도왔다”며 형량을 줄이려 발버둥쳤다. 1심 재판부는 2011년 11월 강씨에게 징역 30년, 최씨에게 징역 10년을 선고했다. 그러나 대법원은 이듬해 형량을 각각 징역 22년과 5년으로 낮췄다. 경찰은 이 사건을 두고 “자신의 전문 지식을 범죄와 증거 인멸에 악용한 지식인 범죄의 전형”이라고 평가했다. 이천열·정철욱 기자