방송 출연 검사 목소리 등 추출보이스피싱 조직이 범죄 시도 檢, 탐지기술 등 연구·개발 나서 “누가 들어도 ○○지검에서 근무하는 ○○○ 검사 목소리입니다. 실제 검사 목소리와 똑같으니 다들 깜박 속았을 겁니다.” 중국 항저우에 근거지를 두고 보이스피싱 범죄를 저질렀던 ‘김군일파’의 한 조직원은 지난해 6월 경찰에 붙잡히자 자신들이 만든 딥보이스(목소리 합성)와 딥페이크(이미지 합성) 범죄 시도를 자백했다. 둘다 인공지능(AI)을 활용해 특정인을 흉내내는 기술이다. 범죄 일당은 이 기술로 방송에 출연한 유명 검사 얼굴과 목소리를 추출한 뒤 조직원의 음성과 합성해 마치 검사가 신상정보를 요구하는 것처럼 감쪽같이 바꿨다. 만일 경찰의 단속이 조금만 늦었다면 실제 검사를 모티브로 한 신종 인공지능(AI) 사기로 보이스피싱 피해자가 무더기로 발생할 뻔했던 사건이었다. 지난해 제주도에선 음성변조 애플리케이션(앱)을 통해 1인 3역을 하며 피해자를 속인 뒤 돈을 뜯은 범인이 법원으로부터 징역형을 선고받기도 했다. 범인은 온라인 게임에서 만난 피해자에게 일본인 가수 행세를 하며 접근했다. 피해자와 직접 연락하게 되자 “동료로부터 집단 성폭행을 당했다”며 동정심을 유발하고 돈을 요구했다. 범인이 음성변조를 통해 또 다른 가수와 소속사 팀장인 것처럼 행세하며 신원보증을 선 탓에 피해자는 의심 없이 속았고, 57차례에 걸쳐 1600여만원을 송금했다. 이처럼 얼굴·음성을 복제·변조해 악용하는 신종 범죄가 국내에서도 현실화되고 있다. 지난해 중국에서 한 정보기술(IT) 업체 대표가 친구의 목소리와 얼굴을 흉내 낸 딥보이스 영상통화에 속아 430만 위안(약 8억원)을 송금한 사건이 벌어졌는데, 우리나라에서도 비슷한 일이 벌어지고 있는 것이다. 딥페이크·딥보이스 범죄는 이미 외국에선 심각한 사회문제화했다. 2021년 아랍에미리트(UAE)의 한 은행은 평소 거래하던 대기업 임원 목소리의 전화를 받고 3500만 달러(약 420억원)를 보냈는데, 딥보이스 범죄였다는 사실이 뒤늦게 밝혀졌다. 이런 신종 범죄는 유력 인사 사칭으로 정치적 혼란을 야기하기도 한다. 지난 1월 미국 대선 경선 과정에서 조 바이든 대통령을 사칭한 가짜 목소리로 “예비선거에 투표하지 말라”는 허위 전화가 돌아 파장이 일었다. 국내서도 윤석열 대통령이 “저 윤석열은 대한민국을 망치고 국민을 고통에 빠뜨렸습니다”라고 말하는 허위 영상이 소셜미디어(SNS)에서 확산돼 경찰이 수사 중이다. 이에 검찰이 새로운 유형의 범죄에 대응하기 위한 ‘딥보이스 탐지기술’ 개발에 나선 것으로 1일 서울신문 취재 결과 확인됐다. 가짜 영상과 음성을 식별해 달라는 취지의 감정 의뢰가 들어오면 신속하게 수사할 수 있도록 선제적으로 기술 개발에 나선 것이다. 대검찰청 과학수사부(부장 박현준)는 2027년까지 4년에 걸쳐 86억원을 투입해 딥보이스 탐지 등을 위한 중장기 연구인 ‘첨단기술 융합형 차세대 검찰 포렌식 기술개발 연구개발(R&D) 사업’을 진행한다. 올해 우선적으로 1억 5000만원을 배정하고 이번 주중 ‘딥보이스 탐지기술 개발 사업’ 연구용역을 발주한다. 검찰은 네이버와 KT 등으로부터 딥보이스 데이터베이스를 수집하고, 업체별로 딥보이스 기술과 특징을 분석하는 연구를 수행한다는 계획이다. 박진성 대검 법과학분석과장은 “보이스피싱 범죄에서 무고한 사람의 목소리가 범죄에 활용됐을 경우에도 딥보이스 탐지 기술로 밝혀낼 수 있을 것으로 기대한다”고 말했다.

AI 악용 범죄 국내서도 현실화방송 출연 검사 목소리 등 추출보이스피싱 조직이 사기 시도檢, 탐지기술 등 연구·개발나서네이버·KT서 ‘딥보이스’ DB 수집 계획 “누가 들어도 ○○지검에서 근무하는 ○○○ 검사 목소리입니다. 실제 검사 목소리와 똑같으니 다들 깜박 속았을 겁니다.” 중국 항저우에 근거지를 두고 보이스피싱 범죄를 저질렀던 ‘김군일파’의 한 조직원은 지난해 6월 경찰에 붙잡히자 자신들이 만든 딥보이스(목소리 합성)와 딥페이크(이미지 합성) 범죄 시도를 자백했다. 둘다 인공지능(AI)을 활용해 특정인을 흉내내는 기술이다. 범죄 일당은 이 기술로 방송에 출연한 유명 검사 얼굴과 목소리를 추출한 뒤 조직원의 음성과 합성해 마치 검사가 신상정보를 요구하는 것처럼 감쪽같이 바꿨다. 만일 경찰의 단속이 조금만 늦었다면 실제 검사를 모티브로 한 신종 인공지능(AI) 사기로 보이스피싱 피해자가 무더기로 발생할 뻔 했던 사건이었다. 지난해 제주도에선 음성변조 애플리케이션(앱)을 통해 1인 3역을 하며 피해자를 속인 뒤 돈을 뜯은 범인이 법원으로부터 징역형을 선고받기도 했다. 범인은 온라인 게임에서 만난 피해자에게 일본인 가수 행세를 하며 접근했다. 피해자와 직접 연락하게 되자 “동료로부터 집단 성폭행을 당했다”며 동정심을 유발하고 돈을 요구했다. 범인이 음성변조를 통해 또 다른 가수와 소속사 팀장인 것처럼 행세하며 신원보증을 선 탓에 피해자는 의심없이 속았고, 57차례에 걸쳐 1600여만원을 송금했다. 이처럼 인공지능(AI)을 악용한 딥페이크·딥보이스 신종 범죄가 국내에서도 현실화되고 있다. 지난해 중국에서 한 정보기술(IT) 업체 대표가 친구의 목소리와 얼굴을 흉내 낸 딥보이스 영상통화에 속아 430만위안(약 8억원)을 송금한 사건이 벌어졌는데, 우리나라에서도 비슷한 일이 벌어지고 있는 것이다. 딥페이크·딥보이스 범죄는 이미 외국에선 심각한 사회문제로 발돋움했다. 지난 2021년 아랍에미리트(UAE)의 한 은행은 평소 거래하던 대기업 임원으로부터 전화를 받고 3500만 달러(약 420억원)를 보냈는데, 딥보이스 범죄였다는 사실이 뒤늦게 밝혀졌다. 이 임원의 목소리를 잘 알았던 은행 측이 아무런 의심 없이 거액을 이체했다가 전화 한 통에 속아 넘어간 것이다. 이 AI 신종 범죄는 유력 인사를 사칭해 정치적 혼란을 야기하기도 한다. 지난 1월 미국 대선 경선 과정에서 조 바이든 대통령을 사칭한 가짜 목소리로 “예비선거에 투표하지말라”는 허위 전화가 돌아 파장이 일었다. 국내서도 윤석열 대통령이 “저 윤석열은 대한민국을 망치고 국민을 고통에 빠뜨렸습니다”라고 말하는 허위 영상이 소셜미디어(SNS)에서 확산돼 경찰이 수사 중이다. 이에 검찰이 새로운 유형의 범죄에 대응하기 위한 ‘딥보이스 탐지기술’ 개발에 나선 것으로 1일 서울신문 취재 결과 확인됐다. 가짜 영상과 음성을 식별해달라는 취지의 감정 의뢰가 들어오면 신속하게 수사할 수 있도록 선제적으로 기술 개발에 나선 것이다. 대검찰청 과학수사부(부장 박현준)는 오는 4월부터 2027년까지 4년에 걸쳐 86억원을 투입해 딥보이스 탐지 등을 위한 중장기 연구인 ‘첨단기술 융합형 차세대 검찰 포렌식 기술개발 R&D 사업’을 진행한다. 올해 우선적으로 1억5000만원을 배정하고 이번 주 중 ‘딥보이스 탐지기술 개발 사업’ 연구용역을 발주할 예정이다. 검찰은 네이버와 KT 등으로부터 딥보이스 데이터베이스를 수집하고, 업체별로 딥보이스 기술과 특징을 분석하는 연구를 수행한다는 계획이다. 박진성 대검 법과학분석과장은 “보이스피싱 범죄에서 무고한 사람의 목소리가 범죄에 활용됐을 경우에도 딥보이스 탐지 기술로 밝혀낼 수 있을 것으로 기대하고 있다”고 말했다.

올해를 인공지능(AI) 가전 원년으로 삼고 전 제품군의 AI 기능을 강화하고 있는 삼성전자가 미국과 영국 시장에서 잇달아 호평받고 있다. 지난해 글로벌 경기 침체로 반도체를 비롯해 가전에서도 부진한 실적을 낸 삼성전자는 올해 차별화한 AI 제품을 앞세워 빠르게 매출을 회복한다는 전략이다. 스마트폰 시장에서는 삼성전자의 첫 AI 스마트폰 ‘갤럭시S24울트라’가 미국 유력 소비자 전문지 스마트폰 카메라 평가에서 최고 제품으로 꼽혔다. 삼성전자는 갤럭시S24울트라가 미국 컨슈머리포트가 선정하는 ‘최고의 폰 카메라’ 평가에서 총점 87점을 받아 애플의 ‘아이폰15 프로 맥스’(86점)를 제치고 1위를 차지했다고 31일 밝혔다. 갤럭시S24울트라와 함께 출시된 ‘갤럭시S24+’(85점)는 3위, 지난해 출시된 ‘갤럭시S23울트라’(84점)는 공동 4위에 올랐다. 갤럭시S24 기본형(83점)도 공동 7위에 오르며 갤럭시 스마트폰은 상위권에 모두 4개의 모델이 포함됐다. 컨슈머리포트는 촬영한 이미지의 해상도, 색상 정확도, 시각적 노이즈(불필요한 신호), 전후면 카메라의 비디오 촬영 결과 등을 평가 점수 기준으로 언급했다. 올해 1월 말 출시된 갤럭시S24 시리즈는 출시 28일 만인 지난 2월 27일 국내 판매 100만대를 돌파했다. 역대 갤럭시S 시리즈 중 최단기간 100만대 판매 기록이다. 3월 초에는 갤럭시 S24 울트라가 컨슈머리포트의 스마트폰 종합 평가에서 1위에 올랐다. 가전시장에서는 AI 기능을 강화한 비스포크 드럼세탁기가 미 CBS의 전문가 평가에서 ‘2024년 최고의 세탁기’로 선정됐다. 미 인테리어 전문매체 ‘하우스뷰티풀’은 세탁기와 건조기 모두에서 삼성전자를 최고의 브랜드로 꼽았고, 영국 제품 리뷰 전문매체 ‘엑스퍼트 리뷰’는 최고의 건조기 부문에 ‘삼성 시리즈6 건조기’를 선정하며 “뛰어난 에너지 효율뿐 아니라 고급스러운 디자인과 스마트 기능으로 효율적인 세탁 경험을 제공한다”고 평가했다.

생성형 인공지능(AI) ‘챗GPT’ 개발사인 오픈AI가 사람 음성을 학습해 모방 음성을 생성하는 AI 도구 ‘보이스 엔진’을 개발해 공개했다. 최근 미국 테네시주가 AI가 사람 음성을 베끼는 것을 금지하는 일명 ‘엘비스(Elvis) 법안’에 미국 최초로 서명한 것과 맞물려 AI 음성이 이미지 생성과 마찬가지로 딥페이크(AI 가짜 영상·음성 조작물) 유포, 개인 정보 해킹 등에 악용될 우려가 제기되고 있다. 오픈AI가 지난 29일(현지시간) 공개한 보이스 엔진 사전실험 결과를 보면 실제 사람 음성 샘플과 이를 이용해 보이스 엔진으로 생성한 음성은 구분이 거의 힘들 만큼 비슷했다. 회사 측은 15초 분량의 음성 샘플만 있으면 이런 AI 음성을 만들어 낼 수 있다고 밝혔다. 언어 질환 환자용 치료 애플리케이션, 장애인 소통 기기에 지원된 이 도구는 동영상의 다국어 번역, 교육 음성 해설, 실시간 맞춤형 응답 등 광범위하게 상용될 수도 있다. 다만 오픈AI는 “현재로선 이 기술을 ‘미리 보여주기’(preview)만 하되 일반에 출시하진 않기로 했다”며 “인조 음성의 오용 가능성 때문에 조심스럽게 접근하고 있다”고 선을 그었다. 이어 “사람 목소리를 닮은 음성을 생성하는 것은 심각한 위험을 야기하며, 선거가 있는 해엔 특히 더 그렇다”면서 “우리는 미국과 해외 정부, 미디어, 시민사회 등과 협력해 피드백을 반영하기 위해 노력하고 있다”고 강조했다. 지난달 회사가 글을 동영상으로 바꿔 주는 AI ‘소라’를 개발했을 때와 동일한 우려가 불거지는 것을 사전에 차단하기 위한 포석이다. 실제로 올해 미 대선을 앞두고 지난 1월엔 뉴햄프셔주 프라이머리(예비선거) 전날 조 바이든 대통령을 사칭한 가짜 전화로 투표 거부를 독려하는 사례가 나오면서 음성 조작 우려가 현실화됐다. 뉴욕타임스(NYT)는 “이미지나 비디오 생성과 마찬가지로 음성 생성도 소셜미디어에 허위 정보를 퍼뜨리는데 도움이 될 수 있고 범죄자가 온라인이나 전화 통화에서 다른 이를 사칭할 수도 있다”고 지적했다. 이와 관련해 빌 리 테네시 주지사는 지난 21일 AI를 사용해 사람 목소리를 베끼는 것을 금지하는 엘비스 법에 미국 최초로 서명했다. 정식 명칭이 ‘초상·음성·이미지 보안 보장법’이지만 로큰롤의 제왕으로 군림한 엘비스 프레슬리의 이름으로 별칭이 붙은 건 사전 허가 없이 예술가 저작을 사용하는 것을 보호하기 위한 법안이기 때문이다. 테네시주는 로큰롤 탄생지인 멤피스, 컨트리 뮤직 본산인 내슈빌이 위치한 대중음악 산업의 메카로, 4500개 이상의 공연장, 6만 1000개 이상의 일자리로 한 해 수십억 달러를 창출하고 있다. 엘비스 법은 지역 핵심 산업이 AI로 타격받는 것을 막은 선제 조치인 셈이다. 리 주지사는 “AI가 나쁜 행위자들의 손에 넘어가면 대중음악 산업이 파괴될 수 있다”고 경고했다. AI업계 혁신을 주도하고 있는 오픈AI는 마이크로소프트(MS)와 1000억 달러(약 132조 6000억원)를 투자해 AI 슈퍼컴퓨터를 포함한 데이터센터 구축도 추진하고 있다. 오픈AI와 MS의 ‘스타게이트’는 6년짜리 프로젝트로, AI 모델 구동을 위한 슈퍼컴퓨터와 이를 위한 초대형 데이터센터를 조성하는 사업이다. 현존 최고 수준 데이터센터와 비교해 100배 이상 큰 규모라고 정보기술(IT) 전문매체 디인포메이션이 보도했다. 데이터센터에는 슈퍼컴퓨터 구동을 위해 특별 제작된 서버 칩 수백만 개가 들어간다. 생성형 AI 연산을 위해서는 그래픽처리장치(GPU) 같은 AI 반도체를 연결하고 대규모 데이터 처리 작업을 수행할 컴퓨팅 시스템이 필요하다. 데이터센터에는 여러 공급업체의 다른 칩을 사용할 것으로 알려졌다. 이는 샘 올트먼 오픈AI 최고경영자(CEO)가 AI 반도체 시장을 90% 이상 점유한 엔비디아에 대응해 ‘AI 반도체 동맹’을 구축하려는 행보와도 연결된다. 올트먼 CEO는 지난 1월 직접 한국을 찾아 삼성전자, SK하이닉스와 협력 방안을 논의했다. 이때 이재용 삼성전자 회장, 최태원 SK그룹 회장도 만난 것으로 알려졌다.

메르세데스벤츠, BMW, 아우디 등 ‘독일차 3강 체제’였던 국내 수입차 시장의 지형도가 변화하고 있다. 스포츠유틸리티차량(SUV)의 인기와 안전한 이미지를 등에 업고 볼보가 3위 자리를 굳히고 있는 것이다. 볼보는 올해 초 주춤한 수입차 시장에서 유일하게 두자릿수 성장률을 보이며 존재감을 과시하고 있다. 29일 한국수입자동차협회(KAIDA)에 따르면 지난달 국내 시장에서 볼보자동차의 판매량은 전년 동기 대비 16.2% 증가한 961대로 집계됐다. 지난달 수입차 판매량 1위를 차지한 BMW(6381대)와 메르세데스벤츠(5519대)는 같은 기간 판매량이 4.6%, 34.9% 각각 감소한 것에 비해 두드러지는 성장세다. 4위 렉서스의 판매량도 전년 동기 대비 31.6% 줄어든 919대를 기록했다. 전체 수입 승용차 등록 대수도 1만 6237대로 전년 동기 대비 24.9% 줄어들었다. 물가 상승과 고금리 여파로 소비 심리가 위축된 영향으로 풀이된다. 볼보의 선전은 주력 모델인 XC60과 XC90이 뒷받침했다는 분석이다. 올해 1∼2월 중형 SUV인 XC60과 플래그십 SUV XC90의 판매량은 1113대로 전체 볼보 판매량 1926대의 절반 이상인 58%를 차지했다. 특히 XC60은 지난해 국내 시장에서 전년 대비 137% 증가한 5831대가 팔리면서 수입 SUV 전체 판매 1위를 차지하기도 했다. 두 모델은 레이더와 카메라, 초음파 센서 등으로 구성된 최신 첨단 운전자 지원 시스템(ADAS)에 기반한 안전 패키지와 운전 보조 장치를 기본으로 탑재하는 등 안전성을 강화한 것이 특징이다. 차량은 물론 보행자와 자전거 이용자, 대형 동물을 감지해 사고 위험을 줄여주는 첨단 안전 기술인 ‘시티 세이프티’도 적용됐다. 수입차의 약점으로 여겨졌던 네비게이션을 개선하기 위해 통합형 티맵(TMAP) 인포테인먼트 서비스가 기본 탑재된 점도 국내 소비자들의 호응을 끌어냈다. 볼보는 300억원을 투자해 티맵모빌리티와 공동으로 서비스를 개발했다. 차 안에서 말을 걸면 길 안내부터 설정, 정보 탐색, 음악 재생, 전화·문자 확인 등의 기능을 이용할 수 있다.

일본 과자 키노코노야마를 모티브로 만든 일명 ‘초코송이’ 무선 이어폰이 출시되자마자 완판됐다. 27일 일본 현지 방송 닛폰TV, 마이니치신문 등에 따르면 식품회사 메이지가 ‘키노코노야마 무선이어폰’을 출시했다. 26일 정오부터 3500대 한정으로 발매됐지만, 불과 10여분 만에 품절됐다. 키노코노야마는 일본 식품회사 메이지가 1970년대 출시해 오랜 세월 일본 국민의 사랑을 받는 인기 과자다. 이 과자 모양을 본뜬 무선 이어폰은 부가세 포함 2만 9800엔으로 약 26만원이다. 키노코노야마 이어폰은 본체의 귀 쪽은 일반 이어버드처럼 이어피스가 달린 노즐이 튀어나와 있지만 바깥쪽은 버섯 모양이다. 일반 무선 이어버드와 마찬가지로 음악과 통화에 사용할 수 있으며 세계 144의 언어에 대응한 자동 번역 기능도 탑재됐다. 전 세계 74개국 언어와 70개 방언 억양에 대한 동시 자동 번역 기능을 갖췄다. 이어폰형 실시간 인공지능(AI) 번역기 ‘우애스크’를 담당하고 있는 웨더리 재팬이 개발과 제작에 협력했다. 다만 출시와 함께 영유아에게 위험할 수 있다는 우려도 제기됐다. 과자와 똑같은 모양으로 인해 실제 아이들이 삼킬 수 있다는 위험 때문이다.메이지 측은 “무선 이어폰의 출시를 통해 브랜드의 맛과 즐거움의 세계를 넓히고 브랜드 인지도 향상으로 이어지기를 바란다”고 전했다. 한편 해당 제품은 지난해 7월 공식 엑스(트위터) 계정에서 ‘메이지 시대의 있을 법하지 않은 잡화’의 프로젝트로 발매된 가상의 잡화였다. 이후 상품화를 희망하는 의견이 많아 지난해 11월에 상품화를 발표했다. 메이지는 키노코노야마 무선이어폰뿐 아니라 우유 팩 모양의 수정액과 초콜릿 모양의 우표 등의 이미지를 선보였다.

생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.

인공지능(AI)을 활용해 만든 콘텐츠에는 반드시 ‘AI 창작물’임을 표기토록 하는 방안이 추진된다. AI로 이미지나 음성을 그럴싸하게 짜깁기하는 ‘딥페이크’ 기술이 범죄에 악용되는 사례가 늘어나서다. 방송통신위원회는 21일 이런 내용이 담긴 올해 업무계획을 윤석열 대통령에게 보고했다. 딥페이크 범죄가 전방위로 확산하면서 피해를 호소하는 이가 늘어나고 있다. 방송통신심의위원회에 따르면 성적 허위 영상물에 대한 시정 요구는 2020년 473건에서 지난해 6000건 이상으로 급증했다. 성범죄뿐만 아니라 정치권에서도 골칫거리다. 미국에서는 조 바이든 대통령의 목소리를 모방 녹음한 뒤 유권자들에게 공화당 예비선거 불참을 권하는 ‘가짜전화’가 기승을 부리며 홍역을 치렀다. 다음달 총선을 앞두고 있는 국내에서도 딥페이크 기술의 여파에 촉각을 곤두세우고 있는 상황이다. 딥페이크는 ‘딥러닝’과 ‘페이크’(Fake)의 합성어로 AI를 기반으로 영상이나 이미지를 학습시킨 뒤 조작된 영상을 만들어 내는 기술이다. 이런 피해를 막고자 방통위는 ‘인공지능서비스 이용자 보호에 관한 법률’ 제정을 추진하고 AI가 생성한 콘텐츠에는 관련 표시를 의무화하기로 했다. 향후 AI 관련 피해 구제를 위한 전담 신고 센터도 운영한다. 한편 방송 분야에서는 방송사의 안정적인 사업 운영을 위해 허가·승인 유효기간 범위를 확대한다. 포털 분야에서는 포털사별 뉴스제휴 평가 기구를 구성하고 기준과 결과를 공개하도록 한다. 특히 ‘맞춤형 추천 서비스’ 때문에 이용자가 걸러진 정보만 접하게 되는 ‘필터 버블’ 등의 부작용이 일어나지 않도록 ‘알고리즘투명성위원회’도 구성키로 했다.

금호석유화학 건축자재 브랜드 휴그린이 배우 신민아와 함께한 신규 TV 광고를 공개했다. 새로 공개된 휴그린의 TV 광고는 5년 연속 모델로 발탁된 배우 신민아와 함께 ‘창, 그 너머의 창. 작품’이라는 슬로건을 담아 창호의 기능을 넘어 하나의 작품이 되는 휴그린 창호 제품의 프리미엄 이미지를 강조한 것이 특징이다. 신규 TV 광고는 모델 신민아의 내레이션으로 휴그린의 다양한 프리미엄 창호 제품 특징을 직접 설명하고 소개한다. 먼저 휴그린의 대표 제품인 ‘자동환기창 Pro’는 창호를 넘어서 청정을 도와주는 제품이다. 인공지능(AI)이 접목된 스마트센서가 자동으로 실내 공기를 측정해 창문이 닫혀 있어도 환기가 가능하도록 해 주는 제품 특징을 클로즈업해 보여 준다. 특히 환기가 종료된 후 자동환기창 Pro의 디스플레이에 초미세먼지 농도가 낮게 표시되는 제품의 기능을 직관적으로 이해하기 쉽도록 연출했다. 이후 창호를 넘어 안전을 지켜 주는 제품으로 ‘소프트 클로징’이 등장한다. 소프트 클로징은 창문을 닫을 때 속도가 줄어들며 부드럽게 닫혀 안전한 사용을 돕는 기능의 손잡이로 창호를 닫을 때 속도를 감속해 주기 때문에 창틀 떨림 현상이나 손 끼임 현상을 방지할 수 있다. 광고 속에서는 신민아가 창문을 닫을 때 자연스럽게 감속되는 창호의 모습을 담아 제품 특징을 표현하고자 했다. 마지막으로 단순 창호 이상의 오브제가 되는 ‘유리난간창’이 소개된다. 기존 철제 난간을 유리 난간으로 대체해 안전하면서도 완벽한 뷰를 완성시켜 주는 제품이다. 허권욱 금호석유화학 건자재사업부장은 “이번 광고를 통해 소비자를 위한 섬세한 기능과 고급스러운 디자인이 접목돼 보다 프리미엄한 느낌을 경험할 수 있는 휴그린의 창호 제품을 어필할 계획”이라고 밝혔다.

어웨이프롬(대표 최원종)이 인하대학교가 지원하는 INtroduce 기술실증 프로그램에 참여한다고 21일 밝혔다. 어웨이프롬은 2018년 시작된 스타트업 회사로, 정보통신 분야의 영상감시 장치를 개발해 판매한다. 2021년 5월 인하대 초기창업패키지 선정에 이어 2021년 11월 중기부 기술개발지원사업(디딤돌) 연구과제를 수행했고 2023년 10월 TIPS에 선정됐다.Turst & Safety를 기업 가치로 두고 있는 어웨이프롬은 ‘KeepBound’라는 대규모 영상·분석·보안 관리에 특화된 빅데이터 기반 AI 예측 관리 솔루션을 선보이고 있다. 차별화된 네트워크 솔루션으로 고객과 함께 안전하고 신뢰할 수 있는 사회 안전망을 만들어 가는 것이 목표라는 게 업체 측 설명이다. ‘KeepBound’는 기존 영상 이미지 처리 방식과는 다른 새로운 데이터 패킷 분석의 방식을 이용한다. 이는 데이터 처리량이 작아 기존 대비 100배 이상 빠른 처리로 영상 자료의 빅데이터화를 가능하게 하고, 사용자가 원하는 효율적인 영상 제공 및 문제상황을 예측할 수 있다. 또한 해당 솔루션에는 당사의 물리적 패킷 분석 보안 특허도 적용되어 있다. 이는 어웨이프롬의 네트워크 인바운드 처리 기술을 이용한 실시간 물리적 영상 보안 방법으로, 해킹 시도가 있을 시 실시간 알림 및 IP 차단을 통해 보안을 가능케 한다. 어웨이프롬은 이번 INtroduce 기술실증 프로그램을 통해 기존 MAS 등록에서 조달우수까지 등록하는 영업전략을 꾀하고, 이를 통하여 판매를 확대하는 것이 주 목표라고 밝혔다. 어웨이프롬 최원종 대표는 “창업을 결심하게 된 계기는 어린이 보호구역에서의 안전사고 예방을 어떻게 하면 할 수 있을까에서 부터 시작됐다. 현재 어웨이프롬은 조달청 나라장터 등 공공기관을 통해 제품을 판매하고 있다. 신뢰성 높은 빅데이터가 쌓이면 이를 바탕으로 스마트 네트워크 플랫폼을 구축함으로써, 구매자에게는 신뢰성 있는 제품 제공을, 판매자에게는 안전하고 신뢰 있는 정보통신 시장을 구축할 것”이라고 전했다.

생성형 인공지능(AI) 기술에서 ‘마이크로소프트(MS)·오픈AI’ 진영에 밀린다는 평가를 받는 애플과 구글이 전략적 제휴에 나설 것으로 알려졌다. 애플 아이폰에 구글의 AI ‘제미나이’를 탑재하려는 시도다. 세계 AI 업계의 합종연횡이 본격화하고 있다. 블룸버그통신은 18일(현지시간) 소식통의 말을 인용해 “애플이 조만간 출시할 아이폰 운영체제 iOS18에 자체 AI 모델을 탑재할 예정인 가운데 생성형 AI 기능을 강화할 파트너를 찾고 있다”고 전했다. 애플은 지난해 초부터 ‘아약스’라는 코드명으로 대규모 언어모델(LLM)을 시험하고 있다. 일부 직원은 ‘애플GPT’로 불리는 챗봇을 훈련시킨다. 그러나 자사 AI 기술이 ‘MS·오픈AI’ 동맹에 크게 뒤진다는 지적을 받자 결국 경쟁자와의 협력을 택했다고 블룸버그는 분석했다. 현재 애플은 구글과 라이선스 계약을 논의 중이며 오픈AI와도 협의를 진행하고 있다. 그럼에도 월가는 애플이 오픈AI보다 구글과 손잡을 가능성에 무게를 둔다. 시장 선두인 MS에 맞서려면 두 회사가 힘을 모을 수밖에 없다고 보기 때문이다. 이런 계산을 반영하듯 이날 뉴욕증시에서 구글의 모회사 알파벳과 애플 주가는 장중 각각 6%, 2% 넘게 올랐다. 두 기업은 10년 넘게 스마트폰 운영체제 시장에서 안드로이드와 iOS로 세계를 양분해 왔다. 그러나 AI 시대로 접어들면서 MS와 오픈AI 진영과의 경쟁에서 뒤처졌다는 평가를 받아 왔다. 구글은 2016년 ‘알파고’를 내놓고 이세돌과 바둑 대결을 벌일 때만 해도 AI 기술의 선두로 인정받았지만 챗GPT를 내놓은 오픈AI에 주도권을 빼앗겼다. 애플도 아이폰 판매가 줄어드는 가운데 생성형 AI 투자마저 늦어져 MS에 시가총액 세계 1위 자리를 내줬다. 이에 따라 애플과 구글의 파트너십은 서로에게 ‘윈윈’의 기회가 될 수 있다는 예상이 나온다. 일종의 ‘오월동주’(적대적 상황에서도 서로 협력함)다. 구글로서는 아이폰에 제미나이를 탑재하면 전 세계 20억대가 넘는 애플 기기로 자사 AI를 확장할 수 있다. 이미 구글은 삼성전자의 ‘AI폰’에도 제미나이를 장착했다. 전 세계 스마트폰 시장 점유율 1·2위 업체에 모두 AI 서비스를 제공하면 차기 검색시장에서도 MS에 밀리지 않을 수 있다. 앞서 구글과 애플은 검색 엔진 분야에서 수년간 협력해 왔다. 애플은 자사 웹브라우저 사파리에서 구글을 기본 검색엔진으로 사용하는데 구글은 검색 독점권을 유지하고자 애플에 해마다 수십억 달러를 지불한다. 이번 제휴로 구글은 애플에 제미나이 사용료를 받을 수 있다. 애플 입장에서도 구글과의 협력을 통해 ‘AI에서 뒤처졌다’는 시장의 우려를 어느 정도 씻을 수 있고, 이를 통해 MS에 내준 시가총액 1위 자리도 탈환할 수 있을 것으로 기대하는 눈치다. 다만 일각에서는 초대형 기술기업 간 파트너십이기에 전 세계 규제 당국의 반독점 조사 대상이 될 수 있다는 지적이 제기된다. 최근 제미나이가 이미지 생성에서 역사적 사실을 왜곡하는 등 문제가 드러나 ‘아직 MS의 경쟁자가 되지 못한다’는 비판도 있다.

인공지능(AI)은 인류의 삶에 여러 가지로 영향을 미치고 있다. 일상에 사소한 영향을 미치는 것은 물론 크게는 현대 민주주의 제도의 작동에도 영향을 미치고 있다. AI가 인류의 풍요와 번영에 기여할 수 있도록 하기 위해서는 어떤 사회적 고민이 필요할지에 대해 본격적인 논의가 필요한 시점이다. 그런 점에서 이번에 서울에서 개최되는 ‘제3차 민주주의 정상회의’는 시의적절하면서도 중요한 행사다. 민주주의 정상회의는 미국에서 매년 개최되다가 이번에 처음으로 미국을 벗어나 우리나라에서 열리게 되었다. 올해 행사의 주제는 ‘AI·디지털 기술과 민주주의’로, AI를 포함한 새로운 디지털 기술이 민주주의에 어떤 영향을 미치는지 그리고 그에 대해 어떤 준비를 해야 할지를 여러 나라의 고위급 대표와 전문가들이 모여 깊이 있게 논의하는 기회가 될 것이다. AI 같은 새로운 기술은 사회적 도입 과정에서 흔히 불안감을 야기한다. AI를 이용한 가짜뉴스가 양산될 가능성이나 딥페이크 기술이 활용돼 왜곡된 이미지나 영상이 무분별하게 만들어지고 유포될 가능성을 두고 우려의 목소리가 제기되는 것이 대표적이다. 또 AI 기술이 개인 맞춤형 서비스의 고도화에 적극 활용되면서 소셜미디어(SNS) 이용자들이 극단적 시각이나 편향된 시각에 일방적이고 지속적으로 노출될 가능성에 대한 염려도 있다. 이런 문제는 AI가 민주주의 작동 과정에 악영향을 끼치는 부정적 요소로 작용할 가능성을 시사한다. 하지만 AI는 다양한 상황에 다양한 방식으로 응용되면서 민주주의가 원활하게 작동하는 데 도움을 줄 수도 있다. 예를 들어 이름이 잘 알려지지 않은 정치 신인이 자신의 정치적 견해를 유권자들에게 손쉽게 알리는 데 AI 기술이 적극 활용될 수 있다. 유권자의 시각에서는 AI 기술이 개별 정치인이나 정당의 정책적 입장에 대해 빠르고 체계적으로 파악하는 데 도움이 될 수 있고, 더 나아가 서로 다른 정치인이나 정당 사이의 입장을 명확히 비교해 판단하는 데 활용될 수도 있다. 기존의 정치인이 어떤 의정 활동을 했는지 정리해 파악하는 데에도 AI가 도움을 줄 수 있다. 정치인의 법안 발의와 관련해서도 많은 고민이 담긴 새로운 법안의 발의를 위해 진지한 노력을 했는지, 혹은 그 반대로 ‘복사해서 붙여넣기’ 수준의 법안 발의를 주로 했는지에 관해 AI가 쉽게 요약해 알려 줄 수 있다. 이처럼 AI는 민주주의적 의사 결정 과정에서 다양한 역할을 수행할 수 있다. 그리고 그 영향은 부정적인 것일 수도, 긍정적인 것일 수도 있다. 우리 사회가 어떤 준비를 하고 어떤 대응을 하는지에 따라 AI는 민주주의에 도움이 될 수도, 저해 요소로 작동할 수도 있다. 이번에 열리는 민주주의 정상회의를 계기로 AI가 유용한 역할을 하는 밝은 미래를 위한 논의가 본격화되기를 기대한다. 고학수 개인정보보호위원장

“엄마! 나 납치당했어” 서귀포시에 사는 A씨는 최근 미국에 유학 중인 딸로부터 다급한 전화를 받았다. 흐느끼는 딸의 목소리 뒤 한 남성이 전화를 건네받더니 “현금 1000만원을 보내지 않으면 딸을 해코지하겠다”고 협박했다. 18일 안덕파출소에 따르면 15일 오후 9시쯤 ‘해외에서 유학 중인 딸이 납치됐다’는 신고가 접수됐다. 신고자는 제주에 한 달 살기를 하러 온 A씨 부부로, 약 5분 전인 오후 9시 5분쯤 모바일 앱을 통해 걸려 온 전화 한 통을 받았다. 미국 시카고에 유학 중인 딸 B씨의 목소리였는데, 피싱 일당이 인공지능(AI) 기술을 이용해 만든 허위 목소리였다. 일당은 B씨 목소리를 이용해 A씨 부부에게 ‘납치를 당해 감금돼 있다’고 했다. 옆에서 듣고 있던 B씨의 부친은 곧바로 경찰에 신고했다. 신고를 접수한 경찰은 최상위 출동 경보인 ‘코드0’를 발령하고 현장에 출동하는 한편, 신고 직후 부친 휴대전화가 꺼져 있는 정황을 토대로 신종 피싱 수법임을 직감했다. 휴대전화 위치추적과 동시에 통신 수사를 진행했다. 휴대전화 발신 지역 주변에 도착한 경찰은 사이렌을 듣고 온 A씨 부부와 만나 이들을 진정시켰다.경찰은 A씨 부부로부터 딸이 이날 오후 시카고에서 대만행 항공기에 탑승한다는 말을 듣고 시카고 한국 총영사관에 연락을 취했다. 동시에 국제 공조가 이뤄졌다. 제주국제공항 경찰대는 시카고 현지 경찰에 A씨 부부 상황을 설명하고 B씨 신변 확인에 나섰다. 이후 시카고 경찰로부터 B씨가 안전하게 비행기에 오른 사실을 확인했다. 피싱 범죄임을 직감한 경찰은 B씨가 납치되지 않았다고 A씨 부부를 안심시켰다. 이후 A씨 부부는 B씨와 전화 통화를 했다. 안덕파출소 양진모 경위는 “최근 AI 기술이 발전함에 따라 연락이 쉽게 닿지 않는 해외거주 가족을 사칭한 피싱 범죄가 증가하고 있어 주의해야 한다”고 당부했다. 한편 A씨 부부는 제주경찰청 ‘칭찬합니다’ 게시판에 감사의 글을 올렸다. 이들은 “위급한 상황이 닥치기 전까지만 해도 경찰에 대한 이미지는 그리 좋지만은 않았던 게 사실입니다”며 “즉시 출동한 안덕파출소 경찰관, 서귀포 형사들의 전문적이고 체계적인, 그리고 가장 중요한 ‘시민의 안전을 지키겠다’라는 신념이 우리 가족을 신종 보이스피싱 범죄로부터 지켜줬다”고 적었다．

인공지능(AI) 펀드매니저의 수익률이 산전수전 다 겪은 전문 투자자보다 나을까. AI가 체스, 바둑에서 인간을 앞지른 건 오래전 일이다. AI는 인간의 전유물인 줄 알았던 예술 창작의 영역마저 넘보는 중이다. 모르는 것도 못 하는 일도 없어 보이는 AI에게 ‘성투’(성공적 투자)는 그리 어려운 숙제 같지는 않다. 머지않은 미래 AI에게 밀려 인간 펀드매니저가 사라지는 것은 아닐까.로보어드바이저 각광“아직 초기 단계지만무한 가능성 열릴 것” 미국 월가에서 AI에게 금융인들이 의자를 빼앗기고 있는 건 이미 오래된 현실이다. 일례로 미 대형 투자은행 골드만삭스는 2017년 AI 투자분석 프로그램을 도입한 뒤 애널리스트를 600명 가까이 해고했다. 회사가 도입한 분석 프로그램은 당시 애널리스트 15명이 4주에 걸쳐 할 일을 5분 만에 처리한 것으로 알려졌다. 펀드매니저는 어떨까. AI를 통한 투자가 국내에 첫선을 보인 것은 8년 전인 2016년이다. 지금과 비교하면 초보적인 수준이었지만, 로보(robo)와 자문 전문가를 뜻하는 어드바이저(advisor)를 합친 ‘로보어드바이저’라는 이름으로 서비스가 도입됐다. 실험적으로 도입됐지만 현재 로보어드바이저를 사용하지 않는 금융사는 거의 없다. 로보어드바이저가 고객에게 조언하고 돈을 굴리려면 먼저 한국거래소의 정보기술(IT) 자회사 코스콤의 안전성 평가를 통과해야 한다. 지난 15일 기준 코스콤의 심사를 통과해 서비스 중인 로보어드바이저는 356개다. 코스콤은 로보어드바이저를 투자 성향별로 ▲안정추구형 ▲위험중립형 ▲적극투자형으로 구분한다. 17일 코스콤에 따르면 지난해 4분기(9~12월) 위험중립형 로보어드바이저 수익률은 3%다. 숫자만 보면 로보어드바이저가 벤치마크하는 코스피200지수 수익률 9.57%에 크게 못 미친다. 보다 공격적인 투자를 하는 적극투자형 로보어드바이저 수익률은 4.41%, 반대로 안정추구형 로보어드바이저 수익률은 1.87%로 역시 미흡했다. 같은 기간 코스피 수익률이 7.72%, 코스닥 수익률이 3.04%였으니 로보어드바이저 성적표가 좋았다고 보기는 어렵다. 시원찮은 수익률에 투자자 반응은 차게 식었다. 로보어드바이저 계약자 수는 지난해 상반기 37만 6122명에서 지난해 말 29만 2532명으로 줄었다. 같은 기간 운용 금액도 1조 9396억원에서 7579억원으로 급감했다. 이 결과만 놓고 로보어드바이저 능력을 판단하면 오산이다. 로보어드바이저는 위기에 강한 ‘배짱 좋은 구원투수’의 모습을 보여 줬다. 글로벌 주식시장이 크게 침체했던 2022년 당시 코스피200 지수 수익률은 -26.15%, 코스피와 코스닥 수익률은 각각 -24.89%와 -34.30%를 기록했다. 반면 위험중립형 로보어드바이저 평균 수익률은 -8.95%였다. 안정추구형은 -6.09%, 적극투자형은 -11.91%로 상대적으로 선방했다.위험관리 능력 탁월수익률 방어 안정적퇴직연금 등에 적합 금융업계에선 현재 로보어드바이저는 ‘공격보다는 수비에 강하다’고 입을 모은다. 코스콤 측은 “미국 금리인하 기대감 등으로 주요국 주가지수가 대부분 상승했던 지난해 4분기 안전자산 비중이 큰 로보어드바이저의 성과는 상대적으로 부진했다”면서 “불확실성이 큰 시기에는 위험관리 능력이 뛰어난 로보어드바이저가 양호한 성과를 낼 것”이라고 밝혔다. 사람은 위기 때나 변동성이 큰 장에서 판단력이 흐려지는 경우도 많지만 AI는 다르다. 속된 말로 ‘폭락장에도 쫄지 않는다’는 이야기다. 증권업계 관계자는 “AI는 과거 데이터를 바탕으로 포트폴리오를 구성하기 때문에 일희일비하거나 시황에 휘둘리지 않는다”면서 “안정적인 수익률을 추구가 목표여서 장기 투자, 손실 방어에 강하다. 안정적인 노후 대비를 위한 퇴직연금 등을 관리하는 데 적당하다”고 말했다. 은행, 증권사, 핀테크사 등의 홈페이지나 휴대전화 애플리케이션(앱)에 접속해 로보어드바이저 상품에 가입할 수 있다. 사별로 조금씩 다르지만, 대체로 로보어드바이저 서비스에 가입하고 본인의 투자 성향을 입력하면 자신만의 AI 펀드매니저를 가질 수 있다. 로보어드바이저 역시 자신의 판단이 틀리면 궤도 수정을 한다. 시장 상황에 따라 포트폴리오 세부 종목을 리밸런싱(재조정) 하는 식이다. 재조정 주기는 로보어드바이저별로 다르다. 부자가 아니어도 프라이빗뱅킹(PB) 서비스를 누릴 수 있다는 것이 강점이다. 기존 PB 서비스를 받으려면 최소 수억원의 금융자산이 있어야 하지만 로보어드바이저의 최소 가입 금액은 10만~300만원 정도다. 로보어드바이저 서비스는 크게 투자자문형과 일임형으로 나뉜다. 자문형은 종목이나 매수·매도 타이밍 등을 추천만 한다. 투자자의 최종 승인이 없으면 실제 투자가 진행되지 않는다. 일임형은 말 그대로 AI가 알아서 돈을 굴려 준다. 투자자 대다수가 일임형을 선택했다. 자문형 가입자는 지난해 말 기준 822명에 불과하다.맞춤형 투자 제안각자 투자 성향 선택소액도 서비스 가능 오는 6월부터는 400조원에 달하는 퇴직연금 시장에서 로보어드바이저 일임 서비스가 가능해진다. 그간 퇴직연금의 경우 로보어드바이저는 투자 자문만 가능했다. 그러나 지난해 정부는 혁신금융 샌드박스를 통해 퇴직연금도 로보어드바이저에 일임할 수 있게 했다. 로보어드바이저 핀테크 기업 콴텍 관계자는 “투자에 익숙하지 않은 퇴직연금 고객들도 로보어드바이저를 통해 보다 적극적으로 자산을 운용할 수 있을 것”이라고 밝혔다. 로보어드바이저의 AI는 챗GPT가 대표하는 ‘생성형 AI’와는 다르다. 생성형 AI는 텍스트, 오디오, 이미지 등 이미 존재하는 콘텐츠를 활용해 새로운 콘텐츠를 만든다. 문제는 거짓 정보를 사실처럼 그럴듯하게 포장하는 생성형 AI 특유의 ‘할루시네이션’(환각) 현상이다. 거짓말을 할 수 있으니 투자용으로는 적합하지 않다. 로보어드바이저에 활용하는 AI는 데이터에서 ‘분석형 AI’다. 분석형 AI는 수많은 알고리즘, 방대한 빅데이터를 해석해 결론을 낸다. 분석형 AI의 답변은 일관적이다. 질문에 따라 대답이 달라지고 하나의 질문에 여러 답변이 나오는 생성형 AI와 달라 분석형 AI는 투자에 적합하다는 평가다. 전문가들은 로보어드바이저의 가능성에 주목한다. 최병호 고려대 인공지능연구소 교수는 “AI 바둑 프로그램 알파고는 인간이 가지고 있지 않은 수를 둔다”면서 “주식도 금융도 인간의 수준에서 ‘정석’이라는 것이 있다. 하지만 AI는 인간의 정석을 뛰어넘는 투자를 할 수 있을지 모른다. 무한한 가능성이 열릴 것”이라고 했다. 서울여대 바른AI연구센터장인 김명주 정보보호학과 교수는 “기술이 더 좋아지면 로보어드바이저 수익률이 실적 나쁜 인간 펀드매니저보다 높아질 수 있다”고 했다. 김 교수는 “주가에 영향을 줄 수 있는 정보를 즉각적으로 알고리즘에 반영해야 하는데 아직 우리 로보어드바이저 기술이 그 정도가 안 돼 수익률이 기대에 못 미치는 것”이라면서 “앞으로 로보어드바이저가 데이터를 습득하고 반응하는 속도가 빨라지면 얘기가 달라질 것”이라고 밝혔다. 반면 김형중 고려대 정보보호대학원 교수는 “AI가 분석과 해석의 영역에서 빠르고 정확할 수는 있다. 하지만 현실에서는 과거의 패턴과 다른 일이 수시로 발생한다. 벗어난 돌발 상황에 AI가 제대로 대처할 수 있을지는 여전히 의문”이라면서 “로보어드바이저가 인간보다 뛰어난 점은 정해진 절차를 빠르게 수행한다는 것이다. 인간을 보조하고 지원하는 정도에 그칠 것이다. 대체는 무리”라고 말했다. 돌발상황 대처 의문“패턴 벗어나면 오류인간 대체하진 못해” 서기수 서경대 금융정보공학과 교수는 “기술적으로 AI가 펀드매니저를 대신하는 것은 지금도 가능하다”면서도 “자율주행자동차 사고가 났을 때 책임 소재를 묻기 어려운 것처럼 로보어드바이저 투자 실패 때 그 책임을 두고 논란이 일 수 있다. 결국 최종 판단은 인간의 몫”이라고 했다. 최근 산업연구원 보고서에 따르면 금융업에서는 AI 때문에 일자리가 사라질 위험군의 99.1%가 경영·금융 전문가로 나타났다. AI가 인간 펀드매니저를 완벽하게 대체하는 날이 올까. 우울한 현실은 생각보다 가까울 수 있다.

국내외에서 선거를 앞두고 인공지능(AI) 기술로 만든 딥페이크 가짜 영상에 주의보가 내려진 가운데, 국내 생성형 AI 전문 기업 딥브레인AI가 경찰청과 협력해 딥페이크 범죄 단속을 돕는 탐지 솔루션을 선보였다고 15일 밝혔다. 최근 딥페이크 기술의 고도화로 이를 악용한 범죄 우려가 가중됨에 따라, 딥브레인AI는 경찰청과 함께 이를 효과적으로 대응할 수 있는 맞춤형 딥페이크 탐지 솔루션을 개발했다. 경찰청은 이를 활용해 총선을 겨냥한 선거범죄를 비롯한 피싱 범죄와 합성 성 착취물 범죄 등 딥페이크 기반 지능형 범죄에 능동적으로 대처할 방침이다. 딥브레인은 앞서 딥페이크 탐지 솔루션을 지속 개발해 왔다. 이번 솔루션은 ▲종합탐지 ▲음성탐지 2가지로 구성돼 있으며, 각각 이미지와 영상, 음성 탐지를 지원한다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 ▲탐지모델 ▲탐지구간 ▲탐지인물 등을 설정하면 진위여부를 즉각 판별한다. 이번 딥페이크 탐지 솔루션은 딥브레인AI의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 기반으로 설계됐다. 서양인 위주의 데이터로 제작된 기존 대다수 탐지 모델과 달리 한국인 데이터 100만 건, 아시아 계열 인종 데이터 13만 건을 포함해 총 520만 건의 데이터 학습을 더해 탐지율을 높였다. 딥브레인AI는 이번 경찰청과의 협력을 계기로 다양한 분야의 기업, 기관과 딥페이크 탐지 솔루션 구축 방안을 논의할 예정이다. 혼란과 위기 상황을 야기하는 허위 정보의 진위여부를 즉각 판별하는 솔루션을 적극 공급하며 전 사회적인 손실 비용을 최소화한다는 방침이다.

마치 영화 ‘바이센테니얼맨’을 보는 듯한 일이 현실에서 일어나 전 세계가 충격에 휩싸였다. 미국의 휴머노이드 로봇 개발 스타트업인 ‘피규어AI’가 챗GPT 개발업체인 오픈AI와 협업해 만든 로봇 영상이 13일(현지시간) 공개되면서다. 영상 속 로봇 ‘피규어 01’에게 인간이 “지금 뭐가 보이냐”고 묻자 ‘피규어 01’은 “테이블 중앙에 있는 접시 위에 올려진 빨간 사과가 보인다”고 말한다. 이어 “뭐 좀 먹어도 되냐”고 묻자 “물론”이라고 대답하면서 사과를 집어 건넨다. 인공지능(AI)을 탑재한 로봇이 스스로 주어진 환경을 인식하고 판단해 상황에 맞는 행동을 취한 것이다. AI가 스스로 판단하고 행동할 수 있는 수준이 된다는 건 인간의 통제 범위를 벗어난다는 것을 의미한다. 미국 민간업체 글래드스톤 AI가 미 국무부 의뢰로 최근 발표한 보고서는 범용인공지능(AGI)의 위험성을 담고 있다. AGI는 인간과 유사하거나 그 이상의 능력을 지닌 ‘미래의 AI’를 말하는데, 최첨단 로봇과 AGI가 등장하면 인류에게 멸종 수준의 위협을 초래할 수 있다는 것이다. AGI의 진화 속도가 관건이다. 전문가들은 향후 5년 이내에 AGI가 나올 수 있다고 본다. AI를 악용한 딥페이크(Deepfake)가 범람하면서 AI 규제 움직임이 촉발된 것은 그나마 다행스럽다. 지난 1월 테일러 스위프트를 합성한 딥페이크 이미지가 소셜미디어 ‘X’(옛 트위터)를 통해 유포된 것이 AI 규제법 논의의 촉매제가 됐다. 미국 정치권에서도 민주당 뉴햄프셔주 경선 전날인 지난 1월 22일 조 바이든 대통령 목소리를 흉내 낸 로보콜(녹음된 음성이 재생되는 자동전화)이 무더기로 유포돼 혼란이 일었다. 발등에 불이 떨어진 인류에게 시간은 얼마 남지 않았다. 다행히 유럽연합(EU)은 세계 최초로 포괄적 AI 규제법을 마련해 13일(현지시간) 승인했다. AI 활용 분야를 총 4단계의 위험등급으로 나눠 차등 규제한다. 특히 AGI 개발 기업에 대해 ‘투명성 의무’를 부여하기로 했는데 초안에 없었다가 AI 오남용에 대한 우려로 추가됐다. 우리나라도 2021년 7월 정필모 더불어민주당 의원 등이 발의한 ‘인공지능기본법’ 이후 다수의 법안이 발의됐지만 논의는 제자리다. 딥페이크로 인한 피해는 이미 눈앞에 다가왔는데 너무 태평하다.

세계 최대 온라인 학습 플랫폼 ‘코세라’의 제프 마지온칼다 최고경영자(CEO)는 12일 “AI 번역 기능을 통해 4400개 강좌를 한국어로 번역했다”면서 “영어를 몰라도 수많은 대학과 기관이 만들어 낸 학습 프로그램을 이용할 수 있게 됐다”고 말했다. 미국 예일대의 ‘금융 시장’, 미시간대의 ‘모두를 위한 프로그래밍’, IBM의 ‘데이터 과학이란 무엇인가’ 등 최근까지 영어로만 제공됐던 인기 강좌도 이제는 한국어 자막을 통해 좀더 수월하게 들을 수 있게 됐다는 얘기다. 마지온칼다 CEO는 서울 중구 더플라자호텔에서 열린 한국 첫 기자간담회에서 “AI를 통해 번역 비용을 크게 줄였다”면서 “우리의 목표는 언어에 관계없이 모든 사람이 최고의 교육을 받을 수 있게 하는 것”이라고 강조했다. 미 실리콘밸리에 위치한 코세라는 ‘AI 4대 천왕’ 중 한 명으로 불리는 앤드루 응 스탠퍼드대 교수 등이 2012년 세운 온라인 학습 플랫폼으로 전 세계 325개 이상의 대학, 산업 파트너와 협력해 다양한 학습 콘텐츠를 제공한다. 등록된 학습자만 1억 4200만명이다. 마지온칼다 CEO는 “언어 번역 모델을 돌려본 뒤 사람이 직접 읽어서 번역이 제대로 됐는지 확인한다”면서 “최대한 현지 언어 뉘앙스를 살리면 좋겠지만 번역이 완벽할 때까지 기다리는 것보다 먼저 서비스를 제공하는 게 중요하다고 봤다”고 말했다. 현재 AI 번역 서비스가 제공되는 언어는 한국어를 포함해 22개 언어다. 그는 “번역이 어색하면 버튼을 클릭해 피드백을 줄 수 있다”면서 “번역 모델은 계속 개발되고 있고, 우리도 자주 재번역 과정을 거친다”고 말했다. 지금은 자막과 스크립트를 번역하는 수준이지만 딥페이크(AI로 만든 영상·이미지 합성 조작물) 기술을 통해 이른바 ‘더빙’ 작업도 가능할 것으로 보인다. 그는 “많은 컴퓨팅 작업이 필요하지만 비용이 낮아진다면 전 세계 모든 수강생이 자국어로 강좌를 들을 수 있게 된다”면서 “언어 장벽은 곧 사라질 것”이라고 말했다.

경기 용인시는 1인당 5만원까지 지급하는 소프트웨어 구입비 지원 대상 품목에 어도비(Adobe) 18종을 추가한다고 12일 밝혔다. 지금까지 한컴오피스(6종), MS오피스(3종) 대상으로 지원해 왔으나 이미지나 영상 콘텐츠 제작 등 창의적 디자인 활동을 하도록 어도비 프로그램도 지원해 주면 좋겠다는 청년들의 의견을 반영해 이달부터 품목을 확대했다. 어도비 프로그램에는 이미지를 편집하고 디자인 콘텐츠를 제작할 수 있는 포토샵(Photoshop)이나 일러스트레이터(Ai)를 비롯해 영상 편집 프로그램인 프리미어(Premiere) 등이 있다. 참여를 원하는 청년은 최근 1개월 안에 발급된 주민등록 초본과 소프트웨어 구입 영수증, 제조사 홈페이지 제품등록 화면 캡처본 등을 구비해 시 홈페이지(https://www.yongin.go.kr/)에서 신청하면 된다. 시는 매월 신청 현황을 취합해 다음 달에 지원금을 일괄 지급한다. 시 관계자는 “문서 작업부터 디자인 콘텐츠 제작까지 다양한 프로그램을 이용하는 청년들의 정품 라이센스 구입 부담을 덜어주기 위해 소프트웨어 품목을 확대했다”며 “앞으로도 청년의 목소리에 귀 기울이며 실효성 있는 지원을 해나가겠다”고 말했다. 시는 지난 2022년 청년네트워크 제안을 받아들여 전국 지자체 가운데 처음으로 청년 소프트웨어 구입비 지원 사업을 시작했으며, 2022년 738명에게 3600만원을, 지난해엔 611명에게 2977만원을 지원했다.

지난 1월 복부 수술 후 모습을 드러내지 않아 건강위독설 등 여러 의혹에 휩싸인 케이트 미들턴 영국 왕세자빈이 두 달여 만에 처음 공개한 사진이 조작된 것임을 인정하고 결국 사과했다. 10일(현지시간) 케이트 왕세자빈은 의혹이 발생한 지 12시간 만에 윌리엄 왕세자 부부의 공식 소셜미디어(SNS) X(옛 트위터)에서 “많은 아마추어 사진작가들처럼 본인도 종종 원본을 고치는 편집을 실험하곤 했다”며 “전날 공개한 우리 가족 사진이 초래한 혼란에 사과를 표한다”고 밝혔다. 앞서 로이터·AP·AFP 통신 등 주요 매체들은 이날 윌리엄 왕세자 부부의 X와 인스타그램 계정에 공개된 왕세자빈의 사진이 조작됐다는 우려가 있어 사진 발행을 취소하겠다고 밝혔다. AP 통신은 “켄싱턴궁이 제공한 해당 사진을 처음에는 발행했으나, 이후 더 자세히 검토한 결과 원본 단계에서 이미지가 AP의 사진 기준에 맞지 않는 방식으로 조작된 것으로 보인다”며 “사진 속 샬럿 공주의 왼손이 모순된 것으로 보인다”고 삭제 이유를 밝혔다. 샬럿 공주의 왼손 부분을 자세히 살펴보면 소매가 매끄럽지 않고 흐릿하게 연결돼 있다. 손가락이나 소매 같은 세밀한 부분의 오류는 인공지능(AI)이 생성한 이미지에서 흔하게 나타난다.왕세자빈이 세 자녀와 함께 웃고 있는 이 사진은 지난 1월 16일 복부 수술을 받은 왕세자빈이 공식 석상에서 자취를 감춘 지 두 달여만에 처음으로 정식 공개한 사진이다. 사진과 함께 올라온 글에는 왕세자빈이 적은 것으로 보이는 “지난 두 달 동안 보내준 따뜻한 관심과 지속적인 성원에 감사드린다. 모두에게 행복한 어머니의 날을 기원한다”는 감사 인사도 적혀 있었다. 켄싱턴궁은 윌리엄 왕세자가 이달 초 해당 사진을 촬영했다며 왕세자빈의 신변을 둘러싼 의혹들을 불식하려고 했으나, 오히려 사진 조작 의혹까지 더해지며 음모론에 불을 지폈다. 켄싱턴궁은 앞서 왕세자빈이 수술 후 회복 중이며, 부활절(3월 31일) 전까지는 업무에 복귀하지 않을 예정이라고 밝혔다. 병명은 공개하지 않았으며 최근 찰스 3세 국왕이 전립선암을 진단받은 사실을 의식해 암과 관련된 것은 아니라고만 밝힌 상태다.하지만 암 진단을 받은 직후 차로 이동하며 국민을 향해 손을 흔들거나 총리의 보고를 받는 모습을 공개한 찰스 국왕과 달리 왕세자빈은 건강하다면서도 사진을 제공하지 않아 의혹만 낳았다. 앞서 켄싱턴궁은 사진이 조작됐다는 의혹에 대해 답변을 거부해 음모론을 부채질하고 있다. 영국 왕실은 전통적으로 가족의 신변과 관련해 “불평하지 않되, 설명하지 않는다”(Never complain, never explain)는 대외 전략을 써 왔다. 이번 사진 조작 의혹에 대해서도 마찬가지 방식으로 대응했다. 하지만 결국 사진 조작이 사실로 밝혀지면서 비밀을 유지하는 신비주의 전략이 되려 의혹만 낳고 있다.

얼굴 인식은 스마트폰이나 PC에서 널리 사용되는 개인 인증 및 잠금 해제 방식으로 자리 잡았다. 미국 뉴햄프셔의 다트머스 대학 연구팀(사진)은 이 얼굴 인식 기술에 AI를 접목해 개인 인증 외에 의학적으로 응용하는 기술을 연구했다. 바로 AI를 통해 우울증 환자에서 우울증이 더 심해지는 것을 인식하는 것이다. 원리는 간단하다. 우리는 하루에 수십 번씩 스마트폰을 바라보면 얼굴 인식으로 잠금을 해제한다. 이때 찍힌 사진을 분석해 환자의 우울증이 더 심해지는지 분석하는 것이다. 자신은 인식하지 못하더라도 우울하고 무표정한 모습이 자주 보인다면 AI로 그 미묘한 차이를 분석할 수 있다. 그리고 환자의 주변 환경 역시 우울증이 더 심해지고 있는지 판단할 수 있는 근거가 된다. 혼자 있거나 실내에 머물러 있는 시간이 길수록 더 우울해지고 있는 지표로 볼 수 있다.당연히 이 기술은 사생활 침해의 우려가 있기 때문에 모든 사람에 적용하기 힘들다. 연구팀의 목표도 이미 우울증으로 진단받고 치료 중인 환자가 경과가 갑작스럽게 악화되어 극단적인 선택을 하거나 치료를 거부하기 전에 이를 막는 것이다. 연구팀은 177명의 우울증 환자에서 동의를 받고 얼굴 인식 이미지를 AI로 분석하는 무드캡처 (MoodCapture) 앱을 설치해 테스트했다. 환자의 우울증 정도는 8개의 문항으로 되어 있는 우울증 설문 조사지인 PHQ-8을 활용했다. 무드캡처 앱은 90일간 12만 5000장의 사진을 분석해 이를 우울증상 정도와 비교해서 학습했다. 그 결과 75%의 정확도로 우울증이 심해지고 있다는 것을 판단할 수 있었다. 연구팀은 더 많은 데이터와 추가 연구를 통해 정확도를 90%까지 높이면 우울증 환자에서 실제 적용할 수 있을 것으로 보고 연구를 진행 중이다. 우울증은 고혈압처럼 혈압을 측정하거나 당뇨처럼 혈당을 측정해서 나빠지고 있다는 것을 객관적으로 확인하기 어렵기 때문에 관리가 쉽지 않은 질병이다. 악화되고 있는데도 방치하고 치료 시기를 놓칠 경우 돌이킬 수 없는 극단적 상황까지 이를 수 있다. 사생활 침해의 소지가 있긴 하지만, 제한된 고위험군 환자를 대상으로 사용한다면 얼굴 인식 우울증 AI 기술은 생명을 살리는 유용한 인공지능 기술이 될지도 모른다.