# 친근한 캠프 자원봉사자전화홍보에서 음성봇 비중 94%숨 고르기까지 사람 모방 ‘완벽’맞춤형 대화·현지 억양 구사# 교묘한 딥페이크 상대 후보경쟁자 목소리 비슷하게 베껴허위 유포·투표일 변경 주장현재로선 사실상 추적 불가 오는 11월 미국 중간선거를 앞두고 필라델피아 외곽의 은퇴자 주거 단지에 사는 60대 존슨 씨는 최근 한 통의 선거운동 전화를 받았다. 수화기 너머의 여성은 그의 이름을 친근하게 부르며 지역 의료 보험 공약을 막힘없이 설명했다. 중간중간 가벼운 웃음소리와 숨을 고르는 타이밍까지 완벽한 ‘인간’ 자원봉사자의 목소리였다. 하지만 이 전화의 정체는 후보 캠프가 도입한 대화형 생성 AI(인공지능) 음성 봇이었다. 올해 미 중간선거에서 가장 빠르게 진화한 기술은 단연 ‘AI 전화 선거운동’이다. 선거 테크 분석 기관 닷앤닷에 따르면 올해 미국 주 단위 선거 캠프가 수립한 전체 전화 홍보 계획 중 AI 음성 봇이 차지하는 비중은 94%에 달한다. 2021년 같은 지표가 12%에 불과했던 것과 비교하면 불과 몇 년 사이에 미 선거판의 소통 방식이 통째로 AI로 대체된 셈이다. 선거 캠프가 이 ‘유령 자원봉사자’들에 열광하는 이유는 압도적인 가성비 때문이다. AI 음성 봇을 도입하면 유권자 1인당 접촉 비용은 88% 줄어드는 반면 하루 통화 시도 용량은 4.2배나 늘어난다. 24시간 내내 전화를 돌릴 수 있는 AI 군단이 미국 선거판의 가장 바쁜 노동자가 된 배경이다. 최근 등장한 AI 음성 봇은 과거 로봇콜(자동 녹음 전화)의 어색한 기계음이나 녹음 재생 수준을 넘어 ‘초개인화·다국어 타깃팅’ 능력까지 갖췄다. AP통신에 따르면 최신 AI 음성 봇은 유권자 답변의 뉘앙스와 감정 상태를 실시간으로 파악해 맞춤형 대화를 이어간다. 히스패닉계 유권자가 밀집한 지역에서는 즉각 스페인어로 전환하고, 텍사스나 루이지애나 같은 남부 지역 유권자에게는 친근한 남부 사투리와 억양을 구사하는 식이다. 기술의 진화한 만큼 그림자도 짙다. AI 선거 홍보전에서 가장 큰 문제로 떠오른 것은 일명 ‘기만의 경계선’이다. 유권자는 진짜 사람과 대화하고 있다고 믿었다가 기계였음을 알게 되었을 때 깊은 배신감을 느낀다. 이는 유권자의 심각한 정치적 불신으로 이어질 수 있다. 특히 악의적인 세력이 상대 후보의 목소리를 교묘하게 변조해 허위 사실을 유포하는 ‘딥페이크 보이스 전쟁’의 위험성은 이미 현실이 됐다. 최근 뉴욕주에서는 브루스 블레이크먼 주지사 후보가 경쟁자인 민주당 캐시 호컬 현 주지사의 목소리를 AI로 합성한 43초짜리 광고를 내보냈다. 광고 속 호컬 주지사는 제약회사 광고를 패러디해 “앞으로 4년이 실제로 얼마나 비쌀지 생각하기 싫은 뉴욕 시민들을 위한 정치적 망상 알약”이라며 자신을 조롱한다. 결국 민주당이 주 선거관리위원회에 공식 진정을 제기하는 사태로까지 번졌다. 워싱턴포스트(WP)에 따르면 선거판의 막후를 장악한 정치 컨설턴트들은 빅테크 기업이 마련한 ‘정치적 악용 금지’ 가이드라인을 우회 알고리즘으로 무력화하고 있다. 또 규제가 미치지 않는 해외 서버를 통해 유권자 맞춤형 음성을 초단위로 대량 생산해 유포하는 실정이다. 만약 선거가 임박한 시점에 특정 후보의 목소리로 “투표 날짜가 변경됐다”거나 사생활 관련 허위 자백을 담은 AI 전화가 수백만명에게 동시에 걸려온다면, 이를 정정할 시간적 여유가 없어 선거 결과가 통째로 뒤바뀔 수 있다는 우려도 나온다. 대럴 웨스트 브루킹스 연구소 수석연구원은 “이제 유권자들은 수화기 너머의 목소리뿐 아니라, 그 목소리를 조종하는 알고리즘의 진실성까지 끊임없이 의심해야 하는 피곤한 시대를 살게 됐다”고 꼬집었다. 이에 따라 미국 정가와 관계 당국도 긴박하게 움직이고 있다. 연방통신위원회(FCC)가 허가받지 않은 기만적 AI 로보콜에 대한 제재를 강화한 가운데, 주정부 단위의 입법 움직임도 구체화되고 있다. 루이지애나주를 비롯한 미 전역의 핵심 승부처 주 의회들은 선거용 AI 음성 전화를 가동할 때 통화 시작 뒤 반드시 “이 목소리는 AI에 의해 생성된 음성입니다”라는 고지를 의무화하는 법안을 잇따라 통과시켰다. 그럼에도 기술의 확산 속도가 입법 속도를 앞지르는 현 상황은 명백한 한계로 지적된다. 전문가들은 규제를 피해 해외 서버나 다크웹으로 발송되는 음성 딥페이크는 추적이 사실상 불가능하다고 입을 모은다. 스콧 바브 뉴욕대 기술정책센터 소장은 “AI 생성 고지(라벨링) 법안의 미비는 단순한 규제 실패를 넘어 유권자가 마주하는 디지털 광장의 신뢰 자체를 붕괴시키는 결과를 초래할 것”이라고 경고했다. 결국 이번 중간선거는 AI가 선거 비용을 혁신적으로 낮춘 ‘민주화의 도구’인지, 아니면 유권자의 귀를 멀게 하는 ‘여론 조작의 흉기’인지를 가르는 거대한 시험대가 되고 있다.

㈜아이컴시스(대표 정기택)는 저렴한 비용으로 중소기업에서도 인공지능 기반 고객센터(AICC)서비스를 제공할 수 있도록 구독형 SaaS 서비스를 오픈했다고 12일 밝혔다.주요 서비스로는 쿠첸, 한국렌탈 등으로 무인상담서비스와 대위위니아 등 영상상담 서비스를 제공하고 있다. 또한 최근 다양한 고객사를 대상으로 AICC 솔루션을 서비스하면서 쌓인 노하우를 바탕으로 자체 음성봇 솔루션인 ‘CINNAMON’ 2.0으로 솔루션을 고도화했고 대기업과 AICC 사업협력 계약을 체결하면서 더 많은 고객사를 대상으로 서비스할 수 있게 됐다. 아이컴시스 솔루션 CINNAMON 2.0은 AICC 서비스에 필요한 Voice G·W와 SOE를 자체 개발해 상담사 연결 없이 서비스 가능한 무인상담봇, 캠페인봇, 주소봇과 상담사를 도와주는 역할로 상담사어시스트봇, 주소 검색, 영상상담 서비스를 제공하고 있다. 그 중 주소봇은 고객이 말로 불러 준 주소를 표준주소로 치환해주는 솔루션으로 배송지 및 방문지 주소가 필요한 기업에서 활용되고 있으며, 특히 GS홈쇼핑 등 홈쇼핑 배송지 주소 자동화 업무에 고객센터 최다 레퍼런스를 확보하고 있다. 최근에는 서울시와 서울경제진흥원(SBA)이 공동 주관하는 2023년 ‘하이서울기업’에 선정됐다. 아이컴시스 관계자는 “컨택센터의 업무 효율성 제고 및 고객의 불편을 최소화하고자 AI기술을 활용해 ‘말로 대화하는 음성봇 솔루션’을 개발하여 공급하는 컨택센터 전문기업으로 거듭나, 컨택센터 분야에서 국내 최고의 AICC 서비스 제공사가 되는 것이 목표”라고 전했다.

AI컨택센터 전문 기업인 ECS텔레콤(대표 현해남)은 최근 열린 ‘2023 한국지능정보시스템학회 춘계학술대회’에서 AI컨택센터 음성봇의 VUI(Voice User Interface)기반 품질 평가 지표 개발에 대한 연구 논문을 소개했다고 12일 밝혔다.컨택센터는 기업이 고객에게 정보와 서비스를 직접 소통하며 제공하는 접점 채널로, 기업 활동에 중요한 역할을 담당하고 있다. 그래서 KSQI, KS-CQI와 같은 컨택센터 상담 서비스에 대한 품질 평가 기준을 통해 상담 품질을 평가하고 개선하는 작업이 진행됐다. 최근 음성봇 도입이 활발함에 따라 기계와 고객과의 소통으로 그 형태가 점차 진화하고 있으나 그에 맞는 서비스 품질 평가 기준은 뚜렷하지 않았다. ECS는 이번 학술대회에서 기계와 사람 간의 음성 대화에서 고객 중심의 품질을 측정하는 지표를 개발해 발표했다. 해당 지표 개발은 국내외 다양한 VUI 설계 기법 이론과 ECS의 다년간의 컨택센터 품질관리 경험을 바탕으로 이루어졌다. VUI 이론과 고객센터의 품질 평가 지표에 관한 선행 연구들에서 367개의 기초 평가 요소를 발굴하고, 전문가 인터뷰와 다양한 기법을 통해 4개 영역의 41개의 평가지표를 개발했다. 그 결과, 음성봇이 갖추어야 할 핵심 속성과 구축 시 반드시 고려해야 할 요소들을 발굴하고, 이를 토대로 구체적인 품질 평가 지표를 만들어냈다. 새롭게 개발된 지표는 ‘아이덴티티’ ‘지능적 상담처리’‘풍부한 상담 표현’ 그리고 ‘보완적 모달리티’의 4개 주요 분야로 구성되어 있으며, 음성봇의 초기 설계 단계에서부터 적용이 가능하다. 또한 음성봇의 서비스 품질을 영역별로 정확하게 평가해 음성봇을 사용하는 고객 경험 향상에 대한 방안까지 제공할 수 있다. ECS 관계자는 “디지털 전환과 AI 시스템 도입에 있어 가장 최우선으로 생각해야 할 과제는 고객 경험”이라며 “챗GPT와 같은 생성형 AI가 도입될 때 이번에 개발된 VUI 품질 평가 지표를 기준으로 더 우수한 품질의 음성봇 설계에 기여할 수 있을 것으로 기대한다”고 말했다.

스타트업 발굴·육성 ‘원큐 애자일 랩’ 2015년 6월 만들어 4년간 76개 지원 모든 계열사 부서들과 아이디어 공유 하이 뱅킹·하이 로보 서비스 공동 개발 블록체인·플랫폼 등 사업 분야도 다양 향후 3년간 200억 투자 등 지원 강화시중은행의 핀테크(금융+기술) 성공 사례로 꼽히는 KEB하나은행의 ‘하이(HAI) 뱅킹’과 ‘하이(HAI) 로보’ 서비스는 공통점이 많다. 우선 인공지능(AI)을 기반으로 한 신기술이다. 하이 뱅킹은 스마트폰으로 AI 하이와 대화하면서 은행 업무를 간편하게 볼 수 있다. 하이에게 ‘잔액 알려 줘’라고 하면 하이가 계좌를 조회해 잔액을 말해 준다. ‘엄마에게 5만원 이체해 줘’라고 부탁하면 계좌이체도 척척 해 준다. 공과금 납부는 물론 금융상품 가입도 가능하다. 하이 로보는 빅데이터 분석으로 고객별 성향에 맞는 펀드를 자동 추천하는 온라인 자산관리 서비스다. 주기적으로 성과를 분석해 더 높은 수익률이 기대되는 펀드로 교체도 해 준다.하이 뱅킹과 하이 로보의 또 다른 공통점은 하나은행의 스타트업 발굴·협업·육성 프로그램인 ‘하나 원큐 애자일 랩’이 낳은 작품이라는 점이다. 원큐 애자일 랩에 참여한 마인즈랩(4기)이 하이 뱅킹을, 크래프트테크놀로지스(5기)가 하이 로보를 하나은행과 공동 개발했다. 두 회사는 하나은행과의 협업을 기반으로 업계에서 승승장구하고 있다. 마인즈랩은 언어와 시각, 사고 지능을 통합한 플랫폼 ‘마음 AI’를 출시한 뒤 음성봇과 고객센터, 교육 프로그램 등 다양한 분야로 서비스를 확대하고 있다. 크래프트테크놀로지스는 지난 5월 자체 개발한 AI 기반 상장지수펀드(ETF) 2종을 국내 최초로 미국 뉴욕증권거래소에 상장시키기도 했다. 이 외에도 하나은행은 핀카(5기)와 자동차 구입 비용을 대출해 주는 ‘원큐 오토론’ 서비스를 내놨고, 아토리서치(7기)와는 하나금융 공용 클라우드 서비스 인프라를 구축하기도 했다. 지성규 하나은행장은 26일 하나은행과의 협업으로 성공한 스타트업들의 사례를 언급하면서 “하나은행은 원큐 애자일 랩을 통해 많은 스타트업을 발굴·지원했고, 함께 발전하며 동반 성장했다. 상생 기반의 스타트업 생태계 조성과 생산적 금융 지원을 위한 하나은행의 노력이 금융을 넘어 산업계 전반으로 확산되길 기대한다”고 말했다.원큐 애자일 랩은 하나은행이 핀테크 스타트업 지원을 목표로 2015년 6월에 만들었다. 하나은행은 원큐 애자일 랩으로 선정된 스타트업들에 서울 하나금융그룹 명동사옥을 비롯한 사무실을 연구 공간으로 무료로 내준다. 스타트업 초기 단계에는 하나은행이 직접 종잣돈도 투자한다. 외부 전문가들을 초빙해 스타트업 임직원에게 경영 및 세무 컨설팅도 해 준다. 원큐 애자일 랩의 가장 큰 장점은 스타트업이 하나금융그룹 모든 계열사의 현업 부서들과 새로운 사업 아이디어를 발굴하고 공유할 수 있다는 점이다. ‘하나금융 연계 공동사업’ 프로그램을 통해 발전 가능성이 큰 사업들은 그룹 차원에서 사업화를 지원한다. 지난 4년간 원큐 애자일 랩 1~9기까지 하나은행이 발굴하고 육성한 스타트업만 총 76개다. 선정된 스타트업들의 사업 분야도 다양하다. AI와 빅데이터는 물론 클라우드, 블록체인, 플랫폼, 헬스케어, 자율주행, 온라인 쇼핑 분야의 스타트업들이 하나은행과 함께하고 있다. 하나은행은 지난 20일 서울 중구 을지로에 위치한 본점에서 원큐 애자일 랩 9기 출범식을 열었다. 하나은행은 인공지능 기반 이모티콘 서비스 기술을 보유한 플랫팜, 소비 데이터 분석 및 가계부 프로그램을 서비스하는 텐큐브 등 11개 스타트업과 혁신 사업 모델 구축을 위한 업무협약을 체결했다. 하나은행은 원큐 애자일 랩 출범 5주년을 맞아 스타트업 지원을 한층 강화하기로 했다. 향후 3년간 스타트업을 대상으로 총 200억원 이상의 지분 투자에 나설 계획이다. 올해 말까지 5000억원 수준의 투자금도 유치한다. 유망 스타트업과 지역 거점 대학을 이어 주는 산학 연계 활동과 함께 별도의 청년 창업 지원사업도 시작한다. 하나은행의 강점인 해외 네트워크도 적극 활용하기로 했다. 24개국에 나가 있는 지점을 비롯한 199개 해외 네트워크와 비즈니스 파트너를 활용해 스타트업들의 세계시장 진출을 돕는다. 한준성 하나은행 미래금융그룹 부행장은 “앞으로도 스타트업과의 견고한 파트너십 구축을 확대해 서로 윈윈할 수 있는 디지털 혁신 생태계를 만들겠다”고 강조했다. 장은석 기자 esjang@seoul.co.kr

금융 거래 정보가 부족한 사회 초년생들이 은행에서 저금리 소액 대출을 받고, 인공지능(AI) 로봇이 보험계약 대출을 전화 한 통으로 처리하는 길이 열린다. 금융위원회는 핀테크(금융+기술) 업체인 비바리퍼블리카, 팝펀딩, 마인즈랩, 핑거, 크레파스솔루션 등 5곳을 ‘2차 지정대리인’으로 지정했다고 4일 밝혔다. 지정대리인 제도는 대출 심사 등 금융사만 할 수 있는 업무를 핀테크 업체에 위탁하는 것으로, 핀테크 업체 입장에서는 혁신적인 금융 서비스를 직접 테스트할 수 있다. 앞서 지난해 9월 9개 업체가 1차 지정대리인으로 지정됐다. 토스 애플리케이션(앱)을 운영하는 비바리퍼블리카는 SC제일은행과 손잡았다. 송금, 계좌·카드 조회, 더치페이 등 토스 가입자의 금융정보를 활용한 신용평가 모형을 만들어 1인당 최대 100만원의 소액 대출을 제공할 계획이다. 이른바 ‘신파일러’(신용평가가 어려울 정도로 금융 거래 정보가 부족한 사람)들이 2금융권 대신 1금융권을 이용하는 혜택을 볼 수 있다. 현대해상과 합작한 핀테크 업체 마인즈랩은 콜센터를 통해 보험계약대출(약관대출)을 신청하면 즉시 처리가 불가능하다는 점에 착안해 AI 음성봇으로 약관대출을 받을 수 있는 서비스를 준비 중이다. 24시간 원스톱으로 대출 신청과 심사가 가능하다. IBK기업은행과 제휴한 팝펀딩은 온라인 소상공인을 대상으로 재고 상황과 과거 판매 정보를 분석해 동산담보대출을 제공할 계획이다. 핑거와 농협상호금융은 대출 심사에 필요한 정보를 소셜네트워크서비스(SNS) 등을 통해 간편하게 수집해 지역 농·축협 조합의 대출 소요 시간을 단축시킬 전망이다. 크레파스솔루션은 신한카드와 함께 금융정보가 부족한 해외 거주자 등의 비금융 빅데이터를 분석해 대출·카드발급 심사에 활용하기로 했다. 권대영 금융위 금융혁신기획단장은 “혁신성과 더불어 다양한 소비자 보호 장치들도 심사해 5곳을 지정했다”고 말했다. 금융위는 이날부터 오는 5월 7일까지 3차 지정대리인 신청을 받는다. 최선을 기자 csunell@seoul.co.kr