인공지능(AI) 규제를 위해 유엔이 전문기구와 행동강령을 만들겠다는 의지를 밝혔다. AP·로이터 통신 등에 따르면 안토니우 구테흐스 유엔 사무총장은 12일(현지시간) 기자회견에서 AI는 허위 정보와 증오를 확산시키는 등 통제할 수 없는 ‘괴수’가 될 수 있다며 이런 구상을 내놨다. 그는 “정립된 과학적 사실을 저해하고 대규모 허위 정보를 퍼뜨리는 AI 기술력이 인류 존망을 위협한다”고 진단했다. 챗봇, 이미지 제작기, 음성 복제기 등 급격히 고도화하는 AI 도구 때문에 정보의 진위 판별이 어렵다는 경고다. 구테흐스 총장은 며칠 안에 과학자 고문단을 임명하고 9월엔 AI자문위원회를 꾸려 계획을 구체화하기로 했다. 아울러 국제원자력기구(IAEA)를 전문기구 모델로 예시했다. IAEA는 190개 회원국을 둔 핵확산금지조약(NPT)을 토대로 원자력의 무기화를 감시하는 권한을 행사한다. 구테흐스 총장은 또 “디지털 플랫폼에서 정보의 진실성을 확보하기 위한 유엔 행동규약을 내년 미래정상회의를 목표로 개발하고 있다”고 덧붙였다. 이와 관련해 어떤 목적이라도 허위 정보와 혐오 발언의 이용·지지·증폭을 자제한다는 대원칙을 제시했다. 각국 정부엔 허위 정보, 정보 왜곡, 혐오 발언에 대응할 때 적법한 발언을 차단하거나 인터넷과 매체 자체를 폐쇄하지 말고 언론을 보호하라고 주문했다. 디지털 플랫폼 기업엔 허위 정보와 증오 발언 대처 방식, 알고리즘, 광고 영업을 투명하게 공개하고 언어와 국가에 따라 이중잣대로 규제하지 말라는 원칙을 강조했다. 그는 AI 규제가 쉽지 않은 과제라고 우려했다.

인공지능(AI)가 머지않은 미래에 인간 존립에 위협이 될 수 있다는 전문가들의 경고가 잇따르는 가운데 유엔이 AI 규제를 위한 전문기구 수립 가능성을 시사했다. AI가 인간을 명령을 듣기보다는 스스로 판단해 인간을 공격하는 등 통제 불능 상태에 빠질 위험을 조기에 차단하겠다는 방침이다. 12일(현지시간) AP 통신 등 외신에 따르면 안토니우 구테흐스 유엔 사무총장은 이날 기자들과 만난 자리에서 과학자 고문을 임명해 빠르면 올 9월 중에는 AI 자문위원회를 만들어 관련 규제 방침을 구체화하겠다고 밝혔다. 이번 조치는 지난 2021년 193개 유네스코 회원국이 만장일치로 141개 항목으로 이뤄진 ‘인공지능(AI) 윤리 권고’를 채택, AI 윤리에 대한 최초의 세계적 표준 지침을 마련한 것보다 한 단계 더 나아간 국제적인 차원의 대처다. 이번 움직임에 대해 구테흐스 총장은 “오늘날의 국제원자력기구(IAEA)와 같은 AI 기구를 우리가 보유할 수 있다는 생각에 동의한다”면서 “정립된 과학적 사실을 저해하는 허위 정보를 대규모로 퍼뜨리는 능력 때문에 인류가 존망의 위협을 받는다”고 입장을 밝혔다. 구테흐스 총장의 이번 조치는 최근 정보기술(IT) 업계에서 AI가 스스로 추론해 성장하는 AGI(범용인공지능)에 가까워져 인류의 지성을 뛰어넘는 ‘기술적 특이점’에 다가서고 있다는 우려가 제기되는 등 AI의 잠재 위험에 대한 전문가들의 섬뜩한 경고가 이어지는 가운데 발표되면서 더 큰 화제가 되고 있다. 실제로 이에 앞서 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)와 미라 무라티 최고기술대표(CTO)를 포함한 IT기업 관계자 350명은 성명서를 통해 “AI로 인한 인류 절멸의 위험성을 낮추는 것은 글로벌 차원에서 우선순위로 삼아야 한다”고 촉구한 바 있다. 챗봇, 이미지 제작기, 음성 복제기 등 급격히 고도화하는 AI 도구 때문에 정보의 진위 판별이 어렵다는 경고가 이어지고 있는 것. 다만 구테흐스 총장은 유엔 기구의 창립 주체는 유엔 사무국이 아닌 회원국들이라며 이행에는 국제사회 합의가 선행돼야 한다는 점을 강조했다. 또, 빠른 시일 내에 디지털 플랫폼과 AI 사용을 글로벌 차원에서 규제하기 위해 ‘국제 행동규약’도 동시에 제정될 전망이다. 구테흐스 총장은 “디지털 플랫폼에서 정보의 진실성을 확보하기 위한 유엔 행동규약이 내년 미래정상회의를 앞두고 개발되고 있다”면서 “모든 AI 애플리케이션이 안전하고 책임감 있으며 윤리적으로 사용되도록 보장할 시급하고 즉각적인 대책”이라고 거듭 국제적인 차원에서 AI 기술 발전에 대처해야 한다는 점을 강조했다. 또 그러면서도 “국제기구와 정부가 수십 년 동안 과학과 전문지식을 지닌 인력에 투자를 소홀히 한 까닭에 쉬운 과제가 아니다”고 덧붙였다. 구테흐스 총장은 행동규약과 관련해 어떤 목적에서도 허위 정보와 혐오 발언의 이용, 지지, 증폭을 자제한다는 원칙을 제시했다. 또, 그는 정부와 디지털 플랫폼을 통제하는 기업들에게도 각각 허위 정보에 대응하는 방식으로 인터넷과 언론 매체 자체를 폐쇄하지 말 것을 주문하고 허위 정보와 증오 발언 대처방식, 알고리즘, 광고 영업을 투명하게 공개해야 한다는 점을 명확히 했다. 이와 동시에 유엔이 AI 기술의 발전에 대처하기 위해 창설될 조직과 운동의 중심이 되겠다는 의지를 피력했다.  

네이버클라우드는 글로벌 인공지능(AI) 학회에서 채택된 논문이 지난 상반기에만 61건에 달한다고 13일 밝혔다. 특히, 마이크로소프트(MS)나 구글 등 빅테크 기업의 격전지인 초거대 AI 분야에서 논문이 채택을 넘어 ‘베스트 페이퍼’ ‘상위 25% 연구’ 등에 선정됐다. 이미지 생성 모델의 성능을 측정하기 위한 평가 지표를 제안한 네이버클라우드의 연구는 머신러닝 분야 세계 1위 학회인 ‘ICLR 2023’에서 논문 리뷰 점수 기준 ‘상위 25% 연구’에 올랐다. 초거대 AI가 연구 영역을 넘어 여러 서비스에 도입되며 사업적으로 활발히 이용되기 시작하면서 중요해진 AI 경량화 연구도 글로벌 머신러닝 학회(ICML 2023)에 채택됐다. 사회적으로 의견 대립이 첨예한 사안에 대한 초거대 AI의 편향 발언을 완화할 수 있는 학습 데이터셋, 이를 구축하기 위한 프로토콜을 제안한 연구는 글로벌 자연어처리 학회 ‘ACL 2023’에서 채택됐다. 특히 독거노인을 위한 네이버의 AI 안부전화 서비스 ‘클로바 케어콜’을 통해 챗봇 서비스의 사회적 가치 창출 가능성에 대해 실증한 인터뷰 연구는 인간-컴퓨터 상호작용 분야 최상위 학회인 ‘CHI 2023’에서 베스트 페이퍼를 수상했다. 챗GPT 등 초거대 언어모델 기반 챗봇 서비스가 출시되며, 최근 자연어처리 분야가 주목을 받고 있다. 네이버는 2021년 자사 초대규모 AI 하이퍼클로바의 연구 논문을 세계 최고 권위 자연어처리 학회 ‘EMNLP 2021’에서 발표했는데, 올해엔 네이버 및 네이버클라우드의 초거대 AI 관련 연구 20개가 글로벌 학회에 게재 승인됐다. 윤상두 네이버클라우드 AI 랩 소장은 “올해 상반기에도 머신러닝, 자연어처리, 음성, 컴퓨터비전 등 다양한 AI 학회에서 의미 있는 연구들을 발표했으며, 특히 최근 주목받고 있는 초거대 AI 분야에서의 성과가 돋보였다”며 “서울대, 카이스트(KAIST), 미국 뉴욕대 등 글로벌 연구기관과 초거대 AI 기술 고도화를 위한 협력을 지속하고, 독일 튀빙겐대, 미국 워싱턴대와의 연구 협력을 통해 더욱 신뢰할 수 있는 초거대 AI를 구축해 나갈 것”이라고 말했다.

AI컨택센터 전문 기업인 ECS텔레콤(대표 현해남)은 최근 열린 ‘2023 한국지능정보시스템학회 춘계학술대회’에서 AI컨택센터 음성봇의 VUI(Voice User Interface)기반 품질 평가 지표 개발에 대한 연구 논문을 소개했다고 12일 밝혔다.컨택센터는 기업이 고객에게 정보와 서비스를 직접 소통하며 제공하는 접점 채널로, 기업 활동에 중요한 역할을 담당하고 있다. 그래서 KSQI, KS-CQI와 같은 컨택센터 상담 서비스에 대한 품질 평가 기준을 통해 상담 품질을 평가하고 개선하는 작업이 진행됐다. 최근 음성봇 도입이 활발함에 따라 기계와 고객과의 소통으로 그 형태가 점차 진화하고 있으나 그에 맞는 서비스 품질 평가 기준은 뚜렷하지 않았다. ECS는 이번 학술대회에서 기계와 사람 간의 음성 대화에서 고객 중심의 품질을 측정하는 지표를 개발해 발표했다. 해당 지표 개발은 국내외 다양한 VUI 설계 기법 이론과 ECS의 다년간의 컨택센터 품질관리 경험을 바탕으로 이루어졌다. VUI 이론과 고객센터의 품질 평가 지표에 관한 선행 연구들에서 367개의 기초 평가 요소를 발굴하고, 전문가 인터뷰와 다양한 기법을 통해 4개 영역의 41개의 평가지표를 개발했다. 그 결과, 음성봇이 갖추어야 할 핵심 속성과 구축 시 반드시 고려해야 할 요소들을 발굴하고, 이를 토대로 구체적인 품질 평가 지표를 만들어냈다. 새롭게 개발된 지표는 ‘아이덴티티’ ‘지능적 상담처리’‘풍부한 상담 표현’ 그리고 ‘보완적 모달리티’의 4개 주요 분야로 구성되어 있으며, 음성봇의 초기 설계 단계에서부터 적용이 가능하다. 또한 음성봇의 서비스 품질을 영역별로 정확하게 평가해 음성봇을 사용하는 고객 경험 향상에 대한 방안까지 제공할 수 있다. ECS 관계자는 “디지털 전환과 AI 시스템 도입에 있어 가장 최우선으로 생각해야 할 과제는 고객 경험”이라며 “챗GPT와 같은 생성형 AI가 도입될 때 이번에 개발된 VUI 품질 평가 지표를 기준으로 더 우수한 품질의 음성봇 설계에 기여할 수 있을 것으로 기대한다”고 말했다.

한국을 방문한 ‘챗GPT의 아버지’ 샘 알트만 오픈AI 최고경영자(CEO)가 최근 화두가 된 인공지능(AI) 규제와 관련 발언들을 쏟아냈다. 전세계를 돌며 각국 정부와 교류하고 있는 그는 “기술 자체에 대해서가 아니라 기술을 활용하는 사례를 규제해야 한다”고 강조했다. 알트만은 9일 중소벤처기업부가 여의도 63빌딩 그랜드볼룸에서 개최한 국내 스타트업과의 간담회에서 “기술 자체를 규제하면 거기에서 벗어나 우회 발전한다”며 “기술보다 활용하는 사례가 사회에 직접 영향을 미치기 때문에 이를 이해하고 각 분야마다 다른 규제를 펼쳐야 한다”고 말했다. 그는 최근 전세계 정부 인사들을 만나면서 AI 규제 관련 논의를 이어가고 있다. 알트만의 말에 따르면 한국 뿐 아니라 미국과 유럽 등 세계적으로 체계적인 규제가 잡혀 있지 않다. 그럼에도 그는 “대부분의 정부 인사들이 규제 때문에 혁신을 저해하지 않으려는 의지를 보였다”며 “규제를 만들어도 기술의 장점이 공유될 수 있도록 하겠다는 관점을 가지고 있다는 게 흥미로웠다”고 말했다. 최근 알트만이 AI 규제 제정 필요성을 강조하면서 후발 주자의 시장 진입이 어려워질 수 있다는 우려가 제기되는 가운데, 이날 함께 무대에 오른 그렉 브로크만 오픈AI 사장은 관련 질문이 나오자 “오픈AI는 시장에 빠르게 진입한 기업이지만 지금 후발주자들에겐 진입하기 어려운 게 사실”이라면서 “하지만 오픈AI 역시 전문적인 수준에서 보면 아직 초기 단계이며, 규제가 혁신을 줄이는 방향으로 작용해선 안 된다”고 말했다. 오픈AI 경영진은 자사 서비스와 기술에 관해서도 발언을 했다. 브로크먼 사장은 스켈터랩스 조원규 CEO가 ‘할루시네이션(AI가 사실이 틀린 정보를 사실인 것처럼 말하는 현상)’ 해결을 위해 어떤 노력을 하는지 묻자 “아직 해결 지점에 도달하진 못했지만 열심히 해답을 찾기 위해 노력 중”이라면서 “한 예로 할루시네이션을 일으킬 수 있는 데이터는 사용하지 않도록 하는 모델도 테스트 과정에 있다”고 말했다. 조만간 완전한 멀티모달 서비스 개시 시점을 묻는 질문도 나왔다. 멀티모달은 텍스트, 이미지, 음성 등 다양한 방법으로 AI에 입출력을 할 수 있도록 하는 기능을 말한다. 브로크만 사장은 질문에 대해 “여기 오기 전에 최적화 작업을 하고 있었다”며 “우리 목표는 (챗GPT, 달리 등)모든 걸 통합하는 것인데, 몇 개월 후면 볼 수 있을 것”이라고 말했다.

서울시의회 교육위원회 이종태 의원(국민의힘·강동2)과 이새날 의원(국민의힘·강남1)은 지난 31일 서울신성초등학교에서 열린 ‘챗GPT 활용 공개수업’을 참관했다. 이번 공개수업은 디지털 기반 교육혁신 기술인 챗GPT를 활용한 교육 현장 체험을 통해 향후 정책 추진의 공감대를 형성하기 위해 마련됐다. 교육위원회 소속 이종태·이새날 의원을 비롯해 조희연 서울시교육감과 교육관계자 등이 신성초등학교 4학년 교실을 방문해 태블릿PC, 노트북 등으로 챗GPT를 활용하는 인공지능 융합 수업을 참관했다.챗GPT 기술은 오픈에이아이(Open AI)가 개발한 인공지능 언어 모델로서 사용자가 텍스트를 입력하면 그에 맞춰 대화를 함께 나누는 방식으로 지식정보 전달은 물론 창의적인 아이디어에 대한 답변과 해결방안을 광범위하게 제시한다. 공개수업으로 선정된 신성초등학교는 영어 수업에서 챗GPT 음성 텍스트 전환을 통해 학생들이 실제 원어민과의 대화처럼 소통하고 발음 연습을 할 수 있도록 교육을 진행하고 있다. 이종태 의원은 “챗GPT와 같은 인공지능 기술은 다양한 분야와 산업 현장에도 활용되고 있다”라며 “학생들의 교육에 도움이 되고 부작용을 해소하는 인공지능 활용 방안을 마련하기 위해 교육 관계자의 지속적인 협력과 노력”을 당부했다.이새날 의원은 “첨단 디지털 기술을 활용해 기존 교육 방식에 혁신이 이뤄지고 있다”라며 “새로운 학습 방식에 따라 학생들의 미래 핵심 역량을 키우고, 지식과 통찰력을 제공하기 위해 교육관계자의 지속적인 지원이 필요하다”고 강조했다. 한편 과제 표절, 정보 부정확성 등 교육현장에서의 챗GPT 기술 한계를 해결하기 위해 교육부는 오는 7월에 ‘챗GPT 활용 가이드라인’을 발표할 예정이다.

정부가 자체 개발한 인공지능(AI) 분석 모델을 활용해 보이스피싱 범죄가 조직범죄 양태로 벌어지고 있다는 점을 규명했다. 2회 이상 범죄를 시도한 경우가 절반에 육박했고, 1명이 범죄에 34회나 가담한 경우도 찾아냈다. ●8년간 범죄 음성 파일 1만 2323개 행정안전부는 지난 2월 세계 최초로 개발한 ‘AI 기반 보이스피싱 음성분석모델’을 활용해 실제 보이스피싱으로 신고된 음성데이터를 분석한 결과 이같이 나타났다고 31일 밝혔다. 이번 분석은 2015년부터 2023년 3월까지 금융감독원에 피해 신고된 1만 2323개의 음성 파일을 대상으로 실시됐으며 행안부 통합데이터분석센터와 국립과학수사연구원 소속 전문 인력이 참여했다. 분석 대상 음성 파일에서 중복 음성을 제외한 범죄 가담자는 5513명으로 파악됐다. 범죄 가담 건수의 경우 1회 가담자는 3042명(55.2%), 2회 이상 가담자는 2471명(44.8%)으로 나타났다. 10회 이상 가담자는 119명(2.2%)이었으며 범죄자 한 사람이 최대 34건의 각기 다른 범죄를 시도한 사례도 있었다. ●235개 조직에 633명 활동 확인 행안부는 보이스피싱 범죄자 군집화 기능을 활용해 범죄조직 규모와 조직별 범죄 가담 건수도 확인했다. 범죄자의 음성을 연쇄적으로 추적하고 추가 가담자를 확인해 동일 범죄집단으로 군집화한 결과 235개 범죄조직에 633명이 가담한 것으로 파악됐다. 2명으로 구성된 범죄조직이 160개로 가장 많았고, 가담자 규모가 가장 큰 조직은 18명에 달했다. 이들 범죄조직이 가담한 범죄 건수는 총2866건이었으며 18명 규모로 파악된 범죄조직이 가장 많은 137건의 범죄에 가담한 것으로 나타났다. 이번 분석을 통해 파악된 범죄조직 정보와 이미 검거된 범죄자의 음성을 비교하면 여죄 추궁과 연루자 파악에 도움이 될 것으로 전망된다. 특히 범죄 그룹 연관성이 확인되지 않은 나머지 4880명의 범죄조직 그룹화도 가능할 것으로 보인다. ●여죄 추궁·연루자 파악 도움 기대 행안부는 이번 분석 결과를 보이스피싱 대응 범정부 태스크포스(TF) 등 관계기관과 공유하고 보이스피싱 범죄 예방을 지원할 방침이다. 또한 분석모델의 활용 범위를 전세대출사기 등 전화금융사기 전반으로 확대해 범죄자들 간의 연관성을 확인할 방침이다. 정선용 행안부 정부혁신조직실장은 “현재 관련 기관별로 관리 중인 보이스피싱 신고 음성데이터를 통합 관리하고 범죄 예방과 범죄자 검거에 필요한 음성 분석 역량을 강화할 수 있도록 조치를 강화해 나가겠다”고 밝혔다.

영화 ‘스타워즈’의 유명한 악역 캐릭터 다스베이더가 남미 칠레 법정에 섰다. 이는 시민들이 사법제도를 쉽게 이해할 수 있도록 칠레 사법부가 준비한 이벤트였던 것으로 알려졌다. 30일(한국시각) AFP통신 등에 따르면 칠레 사법부는 ‘스타워즈’ 내용을 바탕으로 다스베이더를 기소한 것으로 상황을 가정하고 재판을 열었다. 다스베이더는 영화에서처럼 검은색 의상과 망토, 헬멧을 착용하고 법정에 앉았다. 많은 어린이와 시민들이 지켜보는 가운데, 실제 판사들과 변호사들이 참석해 재판을 이어갔다. 현지 매체에 따르면 다스베이더는 스타워즈의 상징적 장면 중 하나인 루크 스카이워커와의 광선검 결투 중 스카이워커의 손을 절단한 혐의를 받았다. 검찰은 “완전히 악랄한 행위”라며 무기 냉동형을 구형했고, 다스베이더 측 변호인은 “피고인은 신체 일부가 기계이긴 하지만 그도 권리를 가진 인간”이라며 “그가 피해자의 아버지라는 점을 고려해 달라”고 재판부에 선처를 호소했다. 하지만 재판부 역시 다스베이더에 대해 30년의 냉동형을 선고했다. 또 광선검 영구 사용 금지, 피해자 루크에 대해 30년간 3개 행성 이내 접근 금지 등을 명령했다. 마리아 델 로사리오 라빈 발파라이소 법원장은 “지독하게 나쁜 범죄자들을 많이 만났다”며 “다스베이더 같은 범죄자가 새로운 존재는 아니다”라고 했다. 그는 “시민들이 정의 실현 과정을 잘 이해할 수 있도록 돕고 싶었다”며 “오늘 이벤트를 통해 시민들이 법원에서 어떤 일이 일어나는 지를 볼 수 있었을 것”이라고 덧붙였다.한편 다스베이더의 가면과 옷을 입고 연기한 배우 데이브 프라우스는 2020년 85세 나이로 사망했다. 50년 가까이 다스베이더의 목소리를 연기했던 배우 제임스 얼 존스(91) 역시 2019년 개봉한 ‘스타워즈: 라이즈 오브 스카이워커’를 마지막으로 스타워즈 프랜차이즈에서 하차했다. 그가 1977년 스타워즈 첫 작품인 ‘새로운 희망’에 출연할 때만 해도 중년인 46살이었는데, 어느덧 시간이 흘러 구순을 넘긴 나이가 되다 보니 과거의 카리스마 넘치던 목소리를 내는 것이 어려워졌기 때문이다. 이에 존스는 스타워즈 제작사 루카스 필름이 우크라이나 AI 음성 기술 스타트업 ‘리스피처’와 계약을 맺는 데 동의했다. 리스피처는 스타워즈에 출연한 존스 목소리와 AI 기술을 토대로 그의 음성을 구현하는 작업을 맡았다. AI 기술 덕분에 세계인들은 스타워즈 시리즈가 계속 나오는 한 시간의 구애를 받지 않고 계속 다스베이더의 전매특허 중저음을 들을 수 있게 됐다.

미국 오픈AI가 개발한 인공지능 챗봇 ‘챗GPT’ 아이폰용 애플리케이션(앱)이 한국에 출시됐다. 오픈AI는 지난 25일(현지시간) 트위터에서 “알바니아와 크로아티아, 프랑스, 독일, 아일랜드, 자메이카, 한국, 뉴질랜드, 니카라과, 나이지리아, 영국 등 11개 국가 사용자도 iOS용 챗GPT 앱을 사용할 수 있게 됐다”고 밝혔다. 26일에도 “오늘 30개 이상 국가로 챗GPT iOS 앱을 확대했다”면서 일본과 캐나다, 이라크 등 총 34개국이 대상 국가라고 전했다. 28일 현재 아이폰 앱스토어에 들어가면 챗GPT 앱을 다운받을 수 있다. 앱 구동을 위해서는 iOS 16.1 이상 버전이 필요하다. 앞서 오픈AI는 지난 18일 미국 내 이용자를 대상으로 아이폰용 챗GPT 앱을 처음 선보였다. 이전까지는 오픈AI 웹사이트를 통해서만 챗GPT를 이용할 수 있었다. 앱을 활용하면 텍스트뿐 아니라 음성으로도 질문 입력이 가능하다. 여행 계획 등 맞춤형 계획이나 시를 짓는 데 필요한 창의적 영감을 얻을 수도 있다고 오픈AI는 설명했다. 챗GPT 앱은 출시 6일 만에 다운로드 수 50만건을 돌파했다. 마이크로소프트(MS)의 새 검색 엔진 빙(Bing) 다운로드 건수도 넘어섰다. 빙에도 사람처럼 묻고 답하는 생성형 AI가 탑재돼 있다. 챗GPT 앱은 무료로 이용할 수 있으며 월 20달러(약 2만 6000원)를 내면 최신 정보 등 추가 기능을 제공하는 ‘챗GPT 플러스’를 사용할 수 있다. 구글 안드로이드용 챗GPT 앱도 곧 출시할 예정이라고 오픈AI는 밝혔다.

아일랜드 일간지 아이리시타임스는 지난 11일(현지시간) ‘아일랜드 여성들의 인공 태닝 집착은 문제’라는 제목의 기고문을 온라인에 실었다. 더블린에 사는 에콰도르 출신 29세 의료업계 종사자라고 자신을 소개한 기고자의 프로필 사진도 게재했다. 하지만 기고자의 신원과 사진, 기고문 모두 가짜였다. 기고문은 생성형 인공지능(AI) 챗GPT4가 작성했고, 사진은 AI 이미지 생성 프로그램 달리2(DALL-E2)를 사용해 만든 가상 인물로 드러났다. 아이리시타임스는 기고를 삭제하고 공식 사과했지만 신뢰에 손상을 입게 됐다. AI 기술이 빠르게 발전하면서 글, 사진, 음성, 영상 등 AI 제작 콘텐츠도 기하급수적으로 늘고 있다. 영국 AI 전문가 니나 시크는 지난 1월 CES 회의에서 “2025년까지 콘텐츠의 90%가 생성형 AI 도움을 받아 제작될 것”이라고 예측했다. 문제는 허위 정보와 명예훼손 등 AI 콘텐츠의 부작용이 걷잡을 수 없이 커지고 있다는 점이다. 22일 미국 국방부 청사에 폭발이 발생했다는 사진이 소셜미디어에 유포돼 한때 주가가 하락하는 등 혼란이 빚어졌다. 하지만 AI가 만든 가짜 이미지였다. 프란치스코 교황이 명품 브랜드의 흰색 패딩 재킷을 입은 모습, 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 장면 등 온라인에서 화제가 된 사진들도 AI의 창작물이었다. 갈수록 AI가 만든 콘텐츠를 가려내기가 어려워지자 AI 활용 콘텐츠에 그 사실을 명확히 표시하는 방안이 추진되고 있다. 더불어민주당 이상헌 의원이 발의한 콘텐츠산업진흥법 개정안은 AI 기술로 만들어졌다는 점을 해당 콘텐츠에 의무적으로 표시하도록 했다. 이용자에게 콘텐츠의 진위 판단에 필요한 정보를 제공하자는 취지다. 유럽연합(EU)과 미국에서도 유사한 규제안을 논의하고 있다. 반대로 AI가 아닌 사람이 만든 콘텐츠에 이름표를 붙이는 캠페인도 있다. 콘텐츠 크리에이터 앨런 슈가 창립한 ‘낫 바이 AI’(Not by AI) 프로젝트는 웹사이트에서 배지를 내려받아 사람이 만든 콘텐츠에 붙이는 간단한 방식이다. ‘AI와 함께 작업하되 AI로 대체되지 않도록 권장한다’는 프로젝트의 취지가 혼란스러운 AI 시대를 슬기롭게 항해할 유용한 나침반이 아닐까 싶다.

미국 워싱턴DC 인근 버지니아주 알링턴카운티에 있는 국방부 청사 펜타곤 근처에서 대형 폭발이 발생했다는 가짜뉴스가 나돌아 금융시장이 일시 출렁였다. 테러 의혹으로까지 이어진 해당 사진은 생성형 인공지능(AI)으로 만든 가짜 사진으로 밝혀졌다. 22일(현지시간) 오전 트위터와 텔레그램 등 각종 SNS에 펜타곤 폭발 현장 사진이 하나 나돌기 시작했다. 사진에는 펜타곤과 닮은 직사각형 건물 주변에서 검은 연기 기둥이 치솟는 모습이 담겨 있었다. 사진은 오전 8시 42분 트위터 유료 인증 계정 ‘@CBKNews121’에 처음 게시됐다. 이 계정에서는 미국 내 음모론자들과 관계가 있는 여러 아이콘, 대표적 음모론 단체인 큐어넌에 대한 지지가 목격됐다. 게시물은 유명 ‘오픈 소스 정보’(OSINT) 관련 계정을 타고 급속도로 확산했다. 전쟁 당사국인 러시아와 우크라이나 매체도 큰 관심을 보였다. 같은날 오전 10시 3분 러시아 해외 선전매체인 RT는 “펜타곤(미국 국방부 청사) 근처에 폭발 보도가 있다”고 트윗했고, 친러 세력은 환호했다. 반대로 우크라이나 나우는 텔레그램을 통해 해당 소식을 속보로 전하며 우려를 표했다. 사진은 트위터 팔로워 65만명으로 블룸버그통신의 헤드라인을 트윗하는 경제뉴스 인플루언서까지 퍼날랐다. 그는 오전 10시 6분쯤 “펜타곤 단지 근처에 대형 폭발”이라는 글을 올렸다가 나중에 삭제했는데, 그 사이 리트윗 수백건이 이뤄졌다. 팔로워 160만명을 보유한 월가의 유명 블로거 ‘제로헤지’도 “펜타곤 근처 폭발”이라는 설명과 함께 사진을 게시했다가 지웠다. 블룸버그 통신과 전혀 관계가 없는 ‘블룸버그 피드’ 등 가짜뉴스 제조단체들도 사진을 퍼뜨리는 데 가세했다.러시아 선전매체도 ‘깜빡’ 속아투자자 동요→금융 시장 일시 출렁AI 가짜사진의 위력 확인되지 않은 SNS발 속보에 일부 투자자들이 동요하면서 금융 시장은 일시 출렁였다. 오전 9시 30분에 개장하는 미 증시의 스탠더드앤드푸어스(S&P) 500 지수는 0.3% 정도 떨어졌다가 회복했다. 이는 시장에 큰 우려가 돌출할 때 나타나는 전형적 현상으로 관측됐다. 위기 때 투자자들이 피신하는 안전자산인 미국 국채와 금의 가격은 반대로 잠시 상승했다. 불안이 확산하자 현지 언론인들이 속속 사실 확인에 나섰다. 블룸버그 수석 에디터 데이비드 요아킴은 자신의 트위터를 통해 “국방부 대변인은 오늘 아침 펜타곤에서 폭발 같은 건 없었다고 했다”며 “가짜 뉴스”라고 밝혔다. 튀르키예 국영방송 TRT 워싱턴 특파원 유누스 팍소이는 직접 찍은 현장 사진과 함께 “펜타곤 폭발은 없다. 가짜 뉴스”라고 전했다. 당국이 개입에 나선 것은 약 2시간 만인 같은 날 오전 10시 27분쯤이었다. 버지니아주 알링턴카운티 소방당국은 공식 트위터를 통해 “SNS 등 온라인에 펜타곤 폭발 관련 정보가 돌고 있으나, 펜타곤 영내는 물론 그 근처에서 그 어떤 폭발이나 사고가 발생하지 않았으며 대중에게 즉각적인 위험은 없다”고 확인했다.전문가들은 이번 소동에 다소 황당한 면이 있다고 분석했다. 디지털자료분석단체 ‘벨링캣’ 조사관 닉 워터스는 “사진을 두고 허둥지둥한 게 아예 납득이 되지 않는다”고 평가했다. 이어 “사진은 진짜 공간이 아닌 까닭에 진짜 위치를 찾을 수 없고 워싱턴DC 어느 곳에도 그런 건물은 없다”고 지적했다. 해당 사진에서는 AI가 이미지를 생성하는 과정에서 건물 앞의 서로 다른 담장이 변형되고 뒤섞인 흔적도 포착됐다. 그러나 이번 사태로 AI발 가짜뉴스 하나가 세상을 어느 정도로 뒤흔들 수 있는지가 재확인됐다. AP통신은 “점점 섬세해지고 접근하기 편한 프로그램이 일상에 가할 수 있는 혼란이 이번 사태에서 부각된다”고 지적했다. 특히 주요 선거를 앞두고 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우 선거 판도에 치명적인 악영향을 끼칠 수 있다는 가능성이 제기된다.미 대선 국면 AI발 허위정보 유포 우려“유권자 맞춤형 허위정보·사진·음성 등장” 20일 영국 가디언은 생성형 AI 작업물은 사람들에게 일방적으로 전달되는 것이 아니라, 실시간 상호작용을 통해 더 설득력 있는 방식으로 표현된다는 점에서 대규모로 선거에 악용될 여지가 있다는 분석이 전문가들 사이에서 나온다고 짚었다. 미국 사이버보안 업체인 ‘레코디드 퓨처’의 알렉산더 레슬리 분석가는 “미국 대선을 앞두고 이런 기술이 더 진보하고, 더 널리 이용 가능해질 수 있다”며 “폭넓은 교육과 인식 개선 없이는 이것이 대선의 진짜 위험요소가 될 수 있다”고 경고했다. 영국 앨런 튜링 연구소의 AI 연구 재단을 맡고 있는 마이클 울드리지 교수도 “AI 기술이 만들어낼 가짜뉴스가 내 가장 큰 걱정거리”라고 말했다. 그는 “영국과 미국에서 선거 일정이 다가오고 있고, 소셜미디어가 허위정보 전달의 강력한 도구라는 점은 이미 알려져 있다”며 “생성형 AI는 이런 가짜뉴스를 산업적인 규모에서 찍어낼 수 있다”고 경고했다. 아주 간단한 프로그래밍 지식만 갖고 있다면, 온라인상 허위 계정들을 만든 후 특정 성향이나 특정 지역의 유권자를 겨냥한 맞춤형 가짜뉴스를 생산해낼 수 있다는 것이다. 샘 올트먼 오픈AI 최고경영자(CEO) 역시 16일 미 의회 청문회에서 “가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력”이라고 우려한 바 있다.실제로 챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 ‘딥페이크’ 동영상 등은 이미 현실과 구분하기 어려울 정도로 높은 수준에 도달하고 있다. 지난 3월에는 성추문 사건과 관련해 체포 전망이 제기되던 가운데 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 AI 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드 발렌시아가 풍의 하얀 패딩 재킷을 입은 허위 이미지도 대중에 실제인 것처럼 인식돼 논란이 벌어진 바 있다. 지난 1월에는 조 바이든 미 대통령의 목소리를 사용해 그가 마치 백악관 회견을 통해 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 AI 영상이 만들어지기도 했다. 뉴스가드 공동CEO인 스티븐 브릴은 “누군가 이런 잘못된 이야기를 고의적으로 대량 생산하기 위해 AI를 활용할 수 있다”고 지적했다.

기계치·외국인 등 누구나 손쉽게 조건·상황 맞게 맞춤형 TV 구현수어 화면 커지고 음성 이중 출력 “하반기 인공지능 자막 기능 추가TV 음성 1.2초 만에 화면에 표시” “기기 접근성 강화의 대상을 장애인으로만 가둬선 안 됩니다. ‘모두를 위한 TV’로 만들면 결국 장애가 있는 고객뿐 아니라 고령층, 기계치, Z세대까지 모두에게 편리한 TV가 탄생하지 않을까요.”(오유진 책임) ‘세계 접근성 인식의 날’인 지난 18일 서울 여의도 LG트윈타워에서 만난 LG전자 TV상품기획팀 팀원들은 이날도 ‘모두를 위한 TV’를 구현할 수 있는 전략 짜기와 아이디어 공유에 한창이었다. 고객의 페인 포인트(불편함을 느끼는 지점)에서부터 고객 가치를 실천할 것을 강조해 온 구광모 LG그룹 회장의 경영 철학에 발맞춰 다양한 고객층에게 쉽고 편리한 접근성, 만족도 높은 시청 경험을 선사하려는 여정은 최근 LG전자가 TV 제품에서 구현하고 있는 ‘접근성 강화 기능’에서 단적으로 드러난다. 올해 TV 제품에는 수어 방송 화면 영역을 3가지 단계로 자유롭게 키웠다 줄일 수 있는 기능을 적용한 데 이어 장애, 노화 등의 이유로 청력이 약한 고객이 가족과 함께 TV를 보면서도 자신에게 맞는 음량을 선택할 수 있게 했다. TV 스피커와 블루투스 기기에 음향을 동시에 출력하는 음성 이중 출력 기술을 구현한 것이다. 올 하반기에는 ‘인공지능(AI) 자막’ 기능을 새로 더할 예정이다. TV에서 나오는 말을 1.2초 만에 자막으로 띄워 주는데 이를 AI가 프로그램 자체에서 나오는 자막과 겹치지 않도록 시청에 방해받지 않는 공간으로 자동으로 옮겨 주는 기능이다. 뉴스뿐 아니라 요즘 예능 프로그램에서 자막이 빈번하게 등장하는 것 등을 감안한 배려다. “소리를 듣지 못하는 청각장애인 고객들은 언어 정보를 전적으로 자막을 통해 받아들이며 TV를 감상하는데 프로그램 자체 자막이 뜨면 서로 겹쳐 방해받는 경우가 많아요. 그래서 TV에 나오는 말들을 1.2초 만에 자막으로 신속하게 띄워 주면서도 AI가 기존 자막 영역을 피해 화면에 배치해 줍니다. 한글뿐 아니라 유럽, 아시아, 아프리카 등 지역의 80여개 언어를 인식할 수 있게 했기 때문에 귀로 듣기 어려운 전 세계 고객들에게 더 나은 시청 경험을 안겨 줄 수 있을 것으로 기대됩니다.”(장효희 책임)LG TV는 2021년부터 시·청각장애, 수어 통역사, 고령층 고객 등으로 구성된 고객 자문단을 운영하며 심층 인터뷰 등을 통해 이들이 TV를 볼 때 경험하는 불편한 점과 요구를 꼼꼼히 살펴 접근성 강화 기능으로 구현해 오고 있다. “처음에 고객들이 어려워하는 부분을 물었을 때 일반인인 우리가 쉽게 쓰는 기능들에 장애를 지닌 고객들은 아예 접근하지 못하고, 그런 기능이 있다는 것조차 모른다는 데서 충격을 받았죠. 접근성 강화는 진정성을 갖고 해야 한다고 느낀 계기였습니다.”(조현포 팀장) 실제 바뀐 접근성 강화 기능을 써 본 장애인 고객들은 “이런 게 있었느냐”며 놀라기 일쑤다.“화면에서 수어 영상이 확대되는 기능을 체험한 한 청각장애인 고객은 ‘손 모양, 입 모양이 제대로 보이니 큰 소리로 또렷하게 말해 주는 것 같아 갑갑함이 시원하게 풀렸다’고 감탄하셨어요.”(장 책임) 볼링을 좋아하지만 시각장애 때문에 스마트폰으로 영상의 소리만 들어 오던 한 고객은 TV에서 음성 지시를 통해 유튜브 볼링 영상을 찾아보곤 새로운 재미에 푹 빠졌다. “스마트폰으로 뿌옇게만 보다가 TV의 음성 인식 기능을 통해 유튜브에서 볼링 영상도 쉽게 찾을 수 있다는 걸 처음 안 데다 큰 화면으로 미약하게나마 공이 굴러가고 핀이 쓰러지는 걸 느끼는 등 난생처음 생생한 몰입감을 경험했다고 하셨죠.”(오 책임) LG TV가 지향하는 ‘모두를 위한 TV’는 신체적, 정신적 취약계층에 국한된 것이 아니다. 디지털 문맹이나 영상에 익숙한 젊은 세대, 고령층, TV 시청을 귀찮아하는 사람 등 다양한 상황과 조건, 환경에 놓인 고객들을 모두 고려해 각각에 맞춤한 개인화된 차별화 서비스를 선보이려는 것이다. “음성 이중 출력 기술만 해도 고령층이나 청각장애인뿐 아니라 수험생 자녀를 둔 아빠가 조용히 TV를 시청하는 등 다양한 장면에서 사용할 수 있죠. 이처럼 개개인의 조건과 관계없이 모두가 편리하게 사용할 수 있는 TV를 만드는 것, 투자 대비 수익을 생각하면 쉽지 않은 행보지만 우리가 하지 않으면 바뀌지 않는다는 신념으로 한 걸음씩 더 나아가야죠.”(조 팀장)

보이스피싱 범죄에 AI(인공지능) 기술이 악용돼 단 10분 만에 8억 원대의 돈이 이체되는 사건이 발생했다. 22일 신징바오 등 중국 매체들은 최근 푸저우의 한 과학기술개발 전문업체 법인장 궈 모 씨가 지인을 사칭한 피싱범에게 속아 430만 위안(약 8억 6000만 원) 상당의 돈을 한 번에 이체하는 사건이 발생, 관할 바오터우 경찰이 대대적인 수사에 나섰다고 보도했다. 보도에 따르면, 사건 당일 궈 씨는 평소 사업체를 운영하며 큰 도움을 받았던 절친한 지인으로부터 긴급한 자금 이체를 요구하는 영상 통화 한 통을 받았다. 영상 속 지인의 얼굴과 목소리가 평소 알고 지냈던 것과 완전히 일치해 의심할 겨를이 없었던 궈 씨는 영상 속 남성이 요구하는 거액의 돈을 두 차례에 나누어 송금을 완료했다. 하루 만에 마련해 송금하기에는 적지 않은 금액이었기에 잠시 망설였지만, 워낙 평소에 자주 도움을 받아왔던 형편이었고 영상 통화로 얼굴까지 확인했다는 점에서 보이스 피싱 사기범들의 행각일 것이라고는 추호도 의심하지 않은 채 큰돈을 전액 이체했던 것. 이후 궈 씨는 이체 직후 상대방에게 일반 전화로 걸어 송금 사실을 알렸을 때야 비로소 자신이 사기범들에게 속았다는 것을 알아차렸다. 경찰 수사 결과, 이 사기범들은 자산가인 궈 씨의 소셜미디어 계정을 해킹해 해당 SNS에 저장된 궈 씨의 지인으로 가장한 뒤 접근했다. 이 과정에서 범죄자들은 AI 딥페이크와 음색과 억양 등 말투를 위조하는 딥보이스를 악용해 지인을 사칭, 피해자에게 다급한 금전 요구를 하며 돈을 뜯어냈다. 특히 피해자가 쉽게 믿게 하기 위해 일반 음성 통화 대신 고의로 얼굴을 노출 시키는 영상 통화를 시도했고, “현재 해외에서 대형 계약 입찰 중이며 거액의 보증금이 급하다”는 등 궈 씨에게 마치 시각을 다투는 듯한 인상을 남겼다. 다만 불행 중 다행인지, 궈 씨의 신고를 받고 긴급하게 수사에 나선 경찰들이 푸저우와 바오터우 두 곳에 있는 궈 씨 명의와 회사 명의 계좌에 즉시 지급 정지 명령을 내리면서 약 336만 위안(약 6억 3000만 원)의 돈이 인출되는 것을 중도에 막아 피해를 줄였다. 하지만 경찰의 지급 정지 명령 이전에 이미 93만 위안(약 1억 7500만 원)이 피싱범들에게 인출된 것이 확인돼 해당 인출금에 대한 추적 수사를 진행 중인 것으로 전해졌다.  

기계치·외국인 등 누구나 손쉽게 조건, 상황 맞게 맞춤형 TV 구현 수어 화면 커지고 음성 이중 출력 “기기 접근성 강화의 대상을 장애인으로만 가둬선 안 됩니다. ‘모두를 위한 TV’로 만들면 결국 장애가 있는 고객뿐 아니라 고령층, 기계치, Z세대까지 모두에게 편리한 TV가 탄생하지 않을까요.” (오유진 책임) ‘세계 접근성 인식의 날’인 지난 18일 서울 여의도 LG트윈타워에서 만난 LG전자 TV상품기획팀 팀원들은 이날도 ‘모두를 위한 TV’를 구현하기 위한 전략 짜기와 아이디어 공유에 한창이었다. 고객의 페인 포인트(불편함을 느끼는 지점)에서부터 고객 가치를 실천할 것을 강조해 온 구광모 LG그룹 회장의 경영 철학에 발맞춰 다양한 고객층에게 쉽고 편리한 접근성, 만족도 높은 시청 경험을 선사하려는 여정은 최근 LG전자가 TV 제품에서 구현하고 있는 ‘접근성 강화 기능’에서 단적으로 드러난다. 올해 TV 제품에는 수어 방송 화면 영역을 3가지 단계로 자유롭게 키웠다 줄일 수 있는 기능을 적용한 데 이어 장애, 노화 등의 이유로 청력이 약한 고객이 가족과 함께 TV를 보면서도 자신에게 맞는 음량을 선택할 수 있게 했다. TV 스피커와 블루투스 기기에 음향을 동시에 출력하는 음성 이중 출력 기술을 구현한 것이다. 올 하반기에는 ‘인공지능(AI) 자막’ 기능을 새로 더할 예정이다. TV에서 나오는 말을 1.2초 만에 자막으로 띄워주는데 이를 AI가 프로그램 자체에서 나오는 자막과 겹치지 않도록 시청에 방해받지 않은 공간으로 자동으로 옮겨주는 기능이다. 뉴스뿐 아니라 요즘 예능 프로그램에서 자막이 빈번하게 등장하는 것 등을 감안한 배려다. “하반기 인공지능 자막 기능도 추가TV 속 음성 1.2초만에 화면에 표시글로벌 고객 위해 80여개 언어 인식” “소리를 듣지 못하는 청각장애인 고객들은 언어 정보를 전적으로 자막을 통해 받아들이고 TV를 감상하는데 프로그램 자체 자막이 많이 뜨면 서로 겹쳐 방해받는 경우가 많아요. 그래서 TV에 나오는 말들을 1.2초 만에 자막으로 신속하게 띄워주면서도 AI가 기존 자막 영역을 피해서 화면에 배치해줍니다. 한글뿐 아니라 유럽, 아시아, 아프리카 등 지역의 80여개 언어를 인식할 수 있게 했기 때문에 귀로 듣기 어려운 전 세계 고객들에게 더 나은 시청 경험을 안겨줄 수 있을 거라 기대됩니다.” (장효희 책임) LG TV는 2021년부터 시·청각 장애, 수어 통역사, 고령층 고객 등으로 구성된 고객 자문단을 운영하며 심층 인터뷰 등으로 이들이 TV를 볼 때 경험하는 불편한 점들과 요구들을 꼼꼼히 살펴 접근성 강화 기능들로 구현해오고 있다. “처음에 고객들이 어려워하는 부분을 물었을 때 일반인인 우리가 쉽게 쓰는 기능들을 장애를 지닌 고객들은 아예 접근조차 못하고, 그런 기능이 있다는 것조차 모르고 있다는 데서 충격을 받았죠. 접근성 강화는 진정성을 갖고 해야 하는구나 느낀 계기였습니다.” (조현포 팀장) 실제 바뀐 접근성 강화 기능을 써본 장애인 고객들은 “이런 게 있었느냐”며 놀라기 일쑤다. “화면에서 수어 영상이 확대되는 기능을 체험한 한 청각장애인 고객은 ‘손 모양, 입 모양이 제대로 보이니 큰 소리로 또렷하게 말해주는 것 같아 갑갑함이 시원하게 풀렸다’고 감탄하셨어요.” (장 책임) 볼링을 좋아하지만 시각장애 때문에 스마트폰으로 영상의 소리만 들어오던 한 고객은 TV에서 음성 지시를 통해 유튜브에서 볼링 영상을 찾아보곤 새로운 재미에 푹 빠졌다. “스마트폰으로는 뿌옇게만 보다가 TV의 음성 인식 기능을 통해 유튜브에서 볼링 영상도 쉽게 찾을 수 있다는 걸 처음 안 데다, 큰 화면으로 미약하게나마 공이 불러가고 핀이 쓰러지는 걸 느끼고 난생처음 생생한 몰입감을 느꼈다고 하셨죠.” (오 책임) LG TV가 지향하는 ‘모두를 위한 TV’는 신체적, 정신적 취약계층에 국한된 것이 아니다. 디지털 문맹이나 영상에 익숙한 젊은 세대, 고령층, TV 시청을 귀찮아하는 이들 등 다양한 상황과 조건, 환경에 놓인 고객들을 모두 고려해 각각에 맞춤한 개인화된 차별화 서비스를 선보이려는 것이다. “이중 음성 출력 기술만 해도 고령층이나 청각장애인뿐 아니라 수험생 자녀를 둔 아빠가 조용히 TV를 시청하는 등 다양한 장면에서 사용할 수 있죠. 이처럼 개개인의 조건과 관계없이 모두가 편리하게 사용할 수 있는 TV를 만드는 것, 투자 대비 수익을 생각하면 쉽지 않은 행보지만 우리가 하지 않으면 바뀌지 않는단 신념으로 한 걸음씩 더 나아가야죠.” (조 팀장)

쉽게 소통하고 상호작용할 수 있게 하는 AI 기술 자체를 재구성 AI 기술 기업 엘젠(대표 김남현)은 지난 10일부터 12일까지 3일간 서울 코엑스 3F D홀에서 개최된 ‘2023 국제 인공지능대전’(AI EXPO)에 참여해 챗GPT ‘AINote’ 앱의 혁신적인 기술력을 인정받았다고 밝혔다. ‘AINote’는 엘젠의 주력 서비스로, 인공지능 서비스에 음성 인식 기술이 융합된 ‘음성 챗GPT’ 기술을 국내에서 선도하고 있는 애플리케이션이다. 사용자가 키보드로 원하는 내용을 직접 입력하는 챗GPT 기술을 넘어서 사용자가 말하는 음성을 인식해 챗GPT 기술력으로 콘텐츠를 생성하는 기술을 탑재하고 있으며, 유저들은 말하는 음성을 텍스트로 변환하는 TTS 기술을 기반으로, 언어 번역이나 영어 튜터, 가상 면접 기능까지 수행할 수 있다. 회사에 따르면 이 서비스는 기존에 출시된 기성 AI기술들과는 다르게 ‘편의성’을 확보하는데 주안점을 뒀다. 보다 편리한 UX를 위한 높은 직관성의 인터페이스와 실제 사람과 대화하는 듯한 실시간 언어처리, 맥락 이해를 통해 인공지능 기반 가상비서로서 기능하는 선구자적인 AI 앱으로 발돋움했다. 현장에서는 ‘AINote’를 이용해 본 방문객들을 대상으로 참가자 100%에게 선물을 증정하는 룰렛 경품 이벤트도 진행됐다. 추첨을 통해 ▲1등 발뮤다 더팟 ▲2등 조명 ▲3등 현대백화점 5만원 상품권 ▲4등 스타벅스 5000원권 ▲5등 추가 랜덤박스을 증정했다. ‘AINote’를 설치해 사용해 본 한 방문자는 “말로 전달하는 내용을 듣고 이해해 콘텐츠를 생산해 내는 앱은 처음 본다”며 “인공지능 기술이 많이 발전했다고 듣긴 했지만, 이 정도까지 발전했는 줄은 몰랐는데 직접 사용해 보니 앞으로 실생활에서도 큰 도움이 될 것 같다”고 밝혔다. 김남현 엘젠 대표는 “‘AINote’는 개인 일상부터 다양한 산업 분야까지 폭넓게 적용될 수 있는 AI기술을 지향하며 개발됐다. 우리가 더 쉽게 소통하고 상호작용할 수 있게 하는 AI 기술 자체를 재구성해 우리 모두를 서로 가깝게 하고, 또한 편리하게 만들어준다”며 “앞으로 개인의 생산성을 극대화하기 위해서 필수적으로 사용하는 AI기술로 AINote가 자리매김하기 위해, 음성 챗GPT를 넘어서 더 많은 인공지능 기술들을 앱에 적용해 나갈 것”이라고 밝혔다. 이어 “실제로 AI EXPO 행사에서는 관심을 갖고 방문한 고객들 중 AINote를 직접 사용해 보고 앱의 차별화된 AI 기술력에 감탄하는 방문객이 많았다”고 덧붙였다.

인공지능(AI) 광풍 속에서 AI가 만드는 거짓 정보가 선거판까지 흔들 수 있다는 우려가 나오고 있다. 지난 16일 미국 의회에서 처음 열린 AI 청문회에 참석한 대화형 AI 챗GPT 개발사인 오픈AI의 최고경영자 샘 올트먼은 “내년 미 대선에서 AI의 허위 정보 쓰나미가 예상된다”며 정부의 AI 규제를 촉구했다. 챗GPT 창시자 입에서 AI의 거짓 정보가 표심을 흔들 수 있다는 경고가 나온 것이다. 내년 총선을 앞둔 우리로서도 섬뜩한 얘기가 아닐 수 없다. 오픈AI의 챗GPT를 필두로 다양한 형태의 AI들이 쏟아지니 전문가들조차도 진화 속도에 놀라고 있다. 오픈AI 공동설립자인 일론 머스크조차 AI 개발 일시 중단을 주장하고 있다. 올트먼은 미 정부에 AI를 별도 관리하는 기관을 만들어 개발 허가를 엄격히 관리하라는 제안까지 했다. 하루가 달리 발전하는 AI 모델이 거짓 정보로 여론을 조작하면 선거는 물론 민주주의의 기반이 흔들릴 것은 자명하다. 당장 선거 유세 과정에서 상대방 헐뜯기에 생성형 AI가 악용되면 유권자들의 혼란은 걷잡을 수 없어진다. 정당 편향성이 심각한 이미지, 영상, 음성 등이 사실로 둔갑해 버젓이 확대재생산될 수 있다. 상상조차 끔찍하다. 남의 일이 아니다. 청담동 술자리, 친일 횟집 등 해괴한 가짜뉴스가 툭하면 팬덤정치에 동원되는 우리 현실에서는 사실상 화급을 다투는 문제다. 어물어물했다가는 내년 총선은 상대 진영 후보의 목소리와 이미지를 진짜처럼 조작해 서로 헐뜯는 난장이 될 수 있다. 중앙선거관리위원회는 AI의 위법 행위에 대응할 방안을 서둘러 마련해야 한다. 딥페이크 영상 등을 동원한 선거운동을 제한하는 공직선거법 개정안이 이미 발의돼 있다. 여야가 관련 입법에 속도를 내야 함은 말할 것도 없다.

우리 사회가 당면한 최우선 과제 중 하나는 사회적 고립가구의 보호다. 급속한 고령화에 따라 1인가구가 빠르게 증가하고 있어서다. 특히 서울 금천구의 전체 가구 중 1인가구 비중은 지난해 기준 50.5%로 서울시 자치구 중 최고 수준이다. 이 중 50세 이상 비율은 41.7%에 달한다. 특히 저소득 1인가구의 경우 외부와의 접촉을 꺼리면서 사회적 고립 위험과 고독사 가능성이 크다. 이에 구는 스마트 안전망 구축으로 돌봄 공백을 최소화하고 고독사 예방에 전력을 기울이고 있다. 금천구는 지난 3월 ‘고독사와 사회적 고립가구 문제 해결을 위한 조례’를 제정한 데 이어 민선 8기 공약 사업인 ‘위드 유 프로젝트’를 추진하고 있다고 17일 밝혔다. 앞서 지난해 11월부터 올해 1월까지 복지 대상자 중 50세 이상 1인가구에 대한 전수조사를 실시해 1가구 1안전망 연계 현황을 파악했다. 이를 기초로 구는 인공지능(AI)·사물인터넷(IoT) 등 디지털 기술을 활용한 스마트 안전망 구축에 주력하고 있다. 대표적인 사업이 ‘AI 안부든든서비스’다. AI 안부든든서비스는 전국 최초로 전력 사용량, 통신 빅데이터, 감지 앱 등 다양한 정보통신 기술을 종합적으로 활용해 대상자의 위기 신호를 감지하고 24시간 긴급 출동할 수 있는 체계를 구축한다. 이를 위해 지난달 SK텔레콤, 한국전력 등과 해당 서비스 시범사업 업무협약을 맺었다. 지난 1월부터 사회적 고립 1인가구 중 고독사 고위험군을 대상으로 한 AI 스피커도 운영 중이다. “살려줘, 구해줘” 등의 음성이 들리는 등 위험신호가 감지됐을 때 즉시 출동해 구조하는 시스템이다. 이웃이 이웃을 살피는 인적 안전망도 강화하고 있다. 민관 협력을 통한 저소득 1인가구 자조모임 프로그램을 확대 운영하고 통합돌봄을 위한 돌봄SOS서비스 맞춤형 틈새 서비스를 확대하는 것을 추진 중이다. 금천형 밑반찬 지원 바우처인 ‘다함께 찬찬찬’ 사업도 늘리고 있다. 이 밖에 복지사각지대 발굴 및 지원을 위해 서울시민이 자주 이용하는 120다산콜과 연계한 ‘복지 핫라인’도 지난해 9월부터 운영 중이다. 120다산콜 전화 주민 중 복지 상담을 원할 경우 구 통통복지콜센터로 바로 연계해 상담을 진행하고 위기가구를 지원하는 방식이다. 올해부터는 비대면 복지상담 채널 ‘금천복지톡톡’도 개설했다. 유성훈 금천구청장은 “사회안전망을 더욱 촘촘히 구축해 관내 사회적 고립가구가 신속하고 효과적으로 도움을 받고 사각지대를 최소화하는 복지 시스템 구축에 최선을 다하겠다”고 말했다.

SK브로드밴드는 가정의 달 5월을 맞아 서울 종로 허리우드극장과 제휴를 하고 시니어 행복 증진 프로그램을 운영한다고 17일 밝혔다. 이번 제휴를 통해 양측은 현재 허리우드극장에서 상영 중인 고전영화를 SK브로드밴드 B tv 해피시니어 내 ‘추억을 파는 극장’ 메뉴에서도 제공한다. ‘보리수’, ‘길은 멀어도 마음만은’, ‘마야’ 등 시니어에게 인기가 높은 수십 편의 해외 명작영화를 일반 영화보다 두 배 이상 큰 자막으로 제공한다. 또한 오는 18일까지 B tv 해피시니어에서 OCEAN 시니어 월정액 상품에 가입하면 스타벅스 쿠폰과 함께 허리우드극장에서 명작영화를 무료로 볼 수 있는 티켓과 극장 매점에서 즐길 수 있는 다방커피 할인쿠폰을 준다. 매주 월요일 오전에는 허리우드극장 내 ‘낭만극장’에서 시니어들이 함께 참여하는 프로그램을 운영한다. 전문강사가 음성인식으로 작동하는 B tv AI 셋톱박스와 리모컨 사용법을 교육하고 극장 무대에서 실제로 체험해보는 교육과정을 올해 말까지 운영할 예정이다. 이와 함께 허리우드극장 매점 키오스크에 디지털 코치 2명을 배치해 시니어들이 실제로 메뉴 주문을 해볼 수 있도록 도와주는 체험존을 운영한다. 특히 허리우드극장 매점 키오스크 단말기로 제품 구매 시 영화 및 음료 할인쿠폰을 제공함으로써 시니어들의 키오스크 사용법을 지원·독려한다는 계획이다. 아울러 박일준, 전영록 등 한 시대를 풍미한 유명 가수들의 공연과 함께 떼창 부르기 프로그램도 진행한다. 이 밖에도 건강체조, 명상 및 웰다잉(Well-Dying) 등의 시니어 교육프로그램을 통해 B tv 시니어 고객을 지속적으로 허리우드극장에 초대할 방침이다.

“골프대회야 CES(세계가전전시회)야?” 오는 18일 제주도 서귀포시 핀크스GC(파72)에서 개막하는 한국프로골프(KPGA) 코리안투어 SK텔레콤오픈에서는 선수들의 멋진 플레이와 함께 미래 생활을 바꿀 첨단 기술도 경험할 수 있다. 주최 측인 SK텔레콤이 인공지능(AI) 기반 첨단 미디어 기술을 대거 도입해 시청자와 갤러리들을 위한 새로운 볼거리를 제공하기 때문이다. SK텔레콤은 이번 대회에서 지난해보다 더 발전한 정보통신기술(ICT) 기술을 골프 대회에 접목해 선보일 계획이다. 가장 눈길을 끄는 것은 최경주 공동집행위원장이 AI 휴먼으로 대회 중계와 현장에 등장하는 것이다. SK텔레콤이 만든 ‘AI 최경주’는 생중계 화면에서 라운드별 관전 포인트 등 다양한 경기 정보를 시청자에게 전달할 계획이다. SK텔레콤 관계자는 “‘AI 최경주’ 개발에는 SKT의 음성합성 기술과 딥브레인 AI의 페이스 스와프 기술이 활용됐다”면서 “최경주의 과거 영상에서 추출한 얼굴 및 음성 데이터를 바탕으로 휴먼 모델링 기술과 SKT의 음성합성 TTS 엔진을 결합해 만들었다”고 설명했다. 지금의 최경주뿐만 아니라 AI로 복원한 ‘소년 AI 최경주’도 만날 수 있다. SK텔레콤은 과거 화재로 어린 시절 사진이 없는 최경주를 위해 AI 이미지 복원 기술 ‘슈퍼노바’와 음성합성 기술을 활용해 ‘소년 AI 최경주’를 제작했다. SK텔레콤은 소년 AI 최경주와 실제 최경주가 대화하는 다큐멘터리를 제작해 중계 방송 중간에 시청자들에게 제공할 계획이다. 이밖에 대회 현장에서는 ‘AI 최경주’와 골프존 GDR 기술을 연동한 ‘AI휴먼 원포인트 레슨’ 서비스도 갤러리에게 선보인다. 갤러리 플라자에 마련된 이벤트 공간에서 공을 타격하면 ‘AI 최경주’가 스윙과 타구에 대한 분석 결과를 알려준다. SKT는 이번 ‘SK텔레콤 오픈 2023’ 중계에 새로운 미디어 기술을 접목, 시청자 각자가 원하는 최적화된 화면과 정보를 시청할 수 있도록 했다. 또 SKT의 AI가 자동 생성하는 각 선수별 하이라이트와 플러스바를 통해 중계방송 도중 전체 순위, 선수 정보, 개인별 스코어 등을 전달하는 실시간 멀티소스 TV 서비스도 제공한다.

“차량 접근 중입니다”, “보행자 접근 중입니다.” 수원의 한 스쿨존에서 조은결(8) 군이 참변을 당하는 등 우회전 교통사고가 잇따르는 가운데 경기 용인시는 12개 초등학교 인근 13곳에 인공지능(AI) 기반의 교통사고 방지 시스템을 설치했다고 15일 밝혔다. 시스템이 설치된 곳은 매봉초등학교를 비롯해 새빛초, 손곡초, 신봉초, 대지초, 솔개초, 신촌초, 이현초, 대청초, 풍덕초, 정평초, 서원초 (2곳) 등 12개 초등학교이다. 시는 시설물이나 건물에 가려져 우회전 차량이 보행자를 확인하기 어려운 곳을 선별해서 지난 1월부터 5억원을 들여 설치했다. 이 시스템은 인공지능 기반의 영상감지기 2대와 전광판 2대, 차량감지센터 1대로 구성됐다. 영상감지기가 차량과 보행자를 인식하면 전광판에서 문자와 음성으로 접근 여부를 알려준다. 용인시 수지구 관계자는 “올해부터 우회전 일시정지가 의무화됐지만 최근 안타까운 사고까지 발생하면서 어린이 보행 안전에 빨간불이 켜졌다”며 “운전자들이 사각지대에 가려진 보행자까지 확실하게 확인해 교통사고를 줄일 수 있도록 이 시스템을 더 확대해나가겠다”고 말했다.