“미래에 움직이는 모든 것은 로봇이 될 것입니다.” 젠슨 황 엔비디아 최고경영자(CEO)는 18일(현지시간) 미국 캘리포니아주 새너제이에서 열린 엔비디아 개발자 콘퍼런스(GTC 2024) 기조연설에서 기대를 모았던 차세대 인공지능(AI) 칩을 소개한 뒤 AI의 미래 종점인 로봇 사업에 대한 비전을 내비쳤다. AI 칩 ‘큰손’으로 떠오른 엔비디아가 자체 플랫폼을 통해 AI 생태계를 구축한 뒤 성장 가능성이 큰 휴머노이드 로봇 시장에서도 영향력을 확대하겠다는 포부를 밝힌 것이다. 검은 가죽점퍼를 입고 연단에 선 황 CEO는 이날 1만 6000여명의 관중 앞에서 엔비디아가 그리는 큰 그림의 시작점이 될 새로운 플랫폼 ‘블랙웰’ 기반의 AI 칩을 선보였다.2080억개의 트랜지스터로 가득 메운 이 칩은 현존하는 최고 AI 칩인 엔비디아 ‘H100’(호퍼 기반)에 비해 연산 처리 속도가 2.5배 더 빠르다. 두 개의 그래픽처리장치(GPU·B200)를 연결해 하나의 칩처럼 작동하는 방식이다. H100을 사용하면 생성형 AI GPT 모델을 훈련시키는 데 90일 동안 8000개의 GPU가 필요하지만 블랙웰 GPU는 같은 기간 2000개만 사용하면 된다는 게 그의 설명이다. 황 CEO는 “호퍼는 매우 환상적이었지만 우리는 더 큰 GPU를 원한다”며 “블랙웰은 이 새로운 산업 혁명을 구동하는 엔진이 될 것”이라고 강조했다. 엔비디아가 구상하는 제품은 생성형 AI의 대규모 연산이 가능한 일종의 ‘슈퍼컴퓨터’(GB200 NVL72)다. 블랙웰 GPU 2개에 중앙처리장치(CPU)를 연결한 ‘슈퍼칩’(GB200)을 36개 쌓아 올린 뒤 시스템 최적화를 통해 성능을 극대화하겠다는 계산이다. 대만 파운드리(위탁생산) 업체인 TSMC의 4㎚(나노미터·10억분의 1m) 공정으로 만들어진 뒤 올 연말부터 공급될 예정이다.엔비디아가 새 AI 칩 가격을 밝히지는 않았지만 기존 제품 가격을 감안하면 5만 달러(약 6700만원) 수준일 것이란 전망이 나온다. 황 CEO는 “(첫 제품은) 수천만 달러에 달할 것”이라고 농담을 하기도 했다. 엔비디아는 블랙웰이 최대 10조개의 매개변수(파라미터)를 가진 대규모 언어모델(LLM)에서 생성형 AI를 구축하고 실행할 수 있을 것이라 보고 있다. 파라미터는 생성형 AI가 정보를 학습하고 기억하는 신경 연결 역할을 한다. 파라미터가 많을수록 AI 성능이 뛰어나다고 평가받는다. 오픈AI가 개발한 생성형 AI GPT-4의 파라미터 수치가 공개되지 않았지만 5000억개 정도로 알려져 있다. 산술적으로는 블랙웰이 이보다 20배 뛰어난 AI 모델도 지원할 수 있다는 얘기다. AI 기술이 궁극적으로 지향하는 로봇 플랫폼을 지원하겠다는 것도 이러한 성능에 대한 자신감 때문이다. 황 CEO는 이날 무대에 자체적으로 훈련시킨 로봇 ‘오렌지’와 ‘그레이’를 등장시키고, 로봇 훈련이 가능한 ‘프로젝트 그루트’(GR00T)를 공개했다.

(주)한국인공지능검증원(대표 강문정, 이하 검증원)은 산업통상자원부 국가기술표준원 산하 한국인정기구(KOLAS·Korea Laboratory Accreditation Scheme)로부터 공인시험기관인정을 획득하고 현판식을 개최했다고 18일 밝혔다.KOLAS 인정제도는 국제기준에 따라 대상 기관의 경영시스템과 기술 및 시험 능력을 평가해 해당 분야에 대한 역량을 공인하는 제도이다. 이날 현판식은 지난 2월 29일 검증원이 한국인정기구로부터 국제공인시험기관으로 인정받은 데따른 것으로, 검증원 관계자 10여 명이 참석했다. 검증원은 대규모 학습데이터에 기반한 인공지능이 산업 전반에 활용 범위를 넓혀가고 있음에 따라, 성능에 관한 확인을 통해 신뢰할 수 있는 인공지능 활용 환경을 구축하는 것을 목적으로 2021년 10월 설립됐으며, 그동안 AI바우처 솔루션 기술점검 및 컨설팅 등을 수행해 왔다. 이번 현판식을 시작으로 소프트웨어 및 인공지능 산업 육성을 위한 기업 맞춤형 지원활동을 본격적으로 시행할 계획이며, 검증원에서 발급된 시험성적서는 국제시험기관 인정협력체 상호인정협정(ILAC-MRA)에 가입한 104개국 인정기구에서 발행한 공인성적서와 동등한 효력을 인정받을 수 있다. 검증원의 강문정 대표는 “이번 KOLAS 공인시험기관 인정으로 인공지능 분야의 시험평가를 위한 틀을 갖추게 돼 더 큰 무게감을 느낀다”라면서 “구성원 모두 더욱 전문성을 갖춰나가면서 신뢰성 확보와 품질향상은 물론 인공지능 산업의 성장 폭을 더욱 확대할 수 있도록 노력하겠다”라고 말했다.

국내외에서 선거를 앞두고 인공지능(AI) 기술로 만든 딥페이크 가짜 영상에 주의보가 내려진 가운데, 국내 생성형 AI 전문 기업 딥브레인AI가 경찰청과 협력해 딥페이크 범죄 단속을 돕는 탐지 솔루션을 선보였다고 15일 밝혔다. 최근 딥페이크 기술의 고도화로 이를 악용한 범죄 우려가 가중됨에 따라, 딥브레인AI는 경찰청과 함께 이를 효과적으로 대응할 수 있는 맞춤형 딥페이크 탐지 솔루션을 개발했다. 경찰청은 이를 활용해 총선을 겨냥한 선거범죄를 비롯한 피싱 범죄와 합성 성 착취물 범죄 등 딥페이크 기반 지능형 범죄에 능동적으로 대처할 방침이다. 딥브레인은 앞서 딥페이크 탐지 솔루션을 지속 개발해 왔다. 이번 솔루션은 ▲종합탐지 ▲음성탐지 2가지로 구성돼 있으며, 각각 이미지와 영상, 음성 탐지를 지원한다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 ▲탐지모델 ▲탐지구간 ▲탐지인물 등을 설정하면 진위여부를 즉각 판별한다. 이번 딥페이크 탐지 솔루션은 딥브레인AI의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 기반으로 설계됐다. 서양인 위주의 데이터로 제작된 기존 대다수 탐지 모델과 달리 한국인 데이터 100만 건, 아시아 계열 인종 데이터 13만 건을 포함해 총 520만 건의 데이터 학습을 더해 탐지율을 높였다. 딥브레인AI는 이번 경찰청과의 협력을 계기로 다양한 분야의 기업, 기관과 딥페이크 탐지 솔루션 구축 방안을 논의할 예정이다. 혼란과 위기 상황을 야기하는 허위 정보의 진위여부를 즉각 판별하는 솔루션을 적극 공급하며 전 사회적인 손실 비용을 최소화한다는 방침이다.

빠르게 진화하는 인공지능(AI)이 인류에 멸종급 위협이 될 수 있다는 경고가 미국에서 나왔다. 12일(현지시간) 미국 CNN방송에 따르면 AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI는 미국 국무부의 의뢰로 작성해 이번 주 발표한 보고서에 이같은 내용을 담았다. 미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고도 포함했다. 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기(WMD) 전문가, 국가안보 정부 당국자 등 200여명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다. 이에 대해 글래드스톤 AI 측은 챗GPT 개발사인 오픈AI, 구글 딥마인드, 페이스북 모회사인 메타, 앤트로픽 등 주요 빅테크 기업의 기술 및 리더십 팀과 이야기를 나눴다고 밝혔다. 또 일론 머스크, 리나 칸 미국 연방거래위원회(FTC) 위원장 등 AI로 인한 실존적 위험에 대해 경고해온 저명인사들도 보고서에 언급했다.보고서는 AI가 제기할 수 있는 위협을 크게 두 가지로 정리했다. 우선 최첨단 AI 시스템이 향후 돌이킬 수 없는 피해를 가할 가능성이 있는 무기로 전용될 가능성을 우려했다. 보고서는 경쟁 압박으로 인해 기업들이 안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있다며 무기화 가능성 등을 경고했다. 다음으로는 어느 시점이 되면 인간이 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있음을 꼽았다. 보고서는 “AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다”며 AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다고 예상했다. 경쟁 압박 속에 각 기업은 떠밀리듯 안전과 보안을 장담할 수 없는 AI 개발을 가속하고 있으며, 이로 인해 AI 체계가 미국에 반하는 방식으로 무기화하거나 절취될 수 있다고 봤다. 그러면서 이러한 위협에 대응하기 위해 “미국 정부의 개입 필요성이 매우 분명하고 긴급하다”고 보고서는 촉구했다. 아울러 새로운 AI 감독 기관 및 긴급 규제 안전장치 마련, AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한 등을 방안으로 제시했다. 글래드스톤 공동 설립자이자 최고경영자(CEO)인 제러미 해리스는 CNN에 “AI는 이미 경제적으로 혁신적인 기술”이라면서 “하지만 또한 우리가 알아야 할, 재앙적인 위험을 포함한 심각한 위험을 가져올 수 있다”고 지적했다. 그는 “세계 최고의 AI 회의들에서 발표된 경험적 연구와 분석을 포함해 늘어나는 증거들은 특정 능력의 한계점을 넘어서면 AI가 잠재적으로 통제할 수 없게 될 수 있음을 시사한다”고 말했다.글래드스톤 AI에 따르면 AI 기업들의 일부 직원들도 사석에서 비슷한 우려를 공유하고 있다. 보고서는 “한 유명한 AI 연구소의 한 직원은 특정 차세대 AI 모델이 오픈 액세스로 나온다면 끔찍하게 나쁠 것이라는 견해를 밝히기도 했다”며 “이 모델의 잠재적인 설득 능력이 선거 개입이나 유권자 조작 같은 분야에 사용될 경우 민주주의를 파괴할 수 있다는 점 때문”이라고 전했다. 보고서에 따르면 AI 전문가들은 올해 AI로 인한 사고(AI incident)가 전 세계적으로 돌이킬 수 없는 영향을 미칠 가능성을 4%에서 최대 20%까지로 추정했다. 보고서는 다만 이 같은 추정치는 비공식적이며 상당히 편향된 것일 가능성도 있다고 밝혔다. 이제 관건은 AI가 얼마나 빠르게 진화하느냐다. 보고서는 특히 인간과 유사하거나 인간의 역량을 넘어서는 학습 능령을 지닌 AGI의 진화 속도에 주목했다. AGI의 경우 인간이 통제력을 잃는 재앙적인 상황을 촉발할 주된 요인이 될 수 있다는 것이다. 보고서는 “AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아는 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다고 덧붙였다. 아울러 AI 체계가 향후 주요 인프라를 마비시킬 역량을 갖춘, 타격이 큰 사이버 공격을 시행하는 방향으로 고안될 수 있으며, 가짜 정보 캠페인이나 심리적 조작에 악용되거나 인간에게 적대적인 권력에 부합하는 통제 불가능한 방향으로 발달할 수 있다고 경고했다. CNN은 이날 보고서를 보도하며 향후 30년 이내에 AI가 인류 멸종을 이끌 가능성이 10%가량 된다는 ‘AI 대부’ 제프리 힌튼의 발언도 함께 전했다. 힌튼을 비롯한 AI 산업 저명 인사들은 지난해 6월 AI로 인한 인류 멸종 위험을 완화해야 한다는 성명을 낸 바 있다.

세계 최대 온라인 학습 플랫폼 ‘코세라’의 제프 마지온칼다 최고경영자(CEO)는 12일 “AI 번역 기능을 통해 4400개 강좌를 한국어로 번역했다”면서 “영어를 몰라도 수많은 대학과 기관이 만들어 낸 학습 프로그램을 이용할 수 있게 됐다”고 말했다. 미국 예일대의 ‘금융 시장’, 미시간대의 ‘모두를 위한 프로그래밍’, IBM의 ‘데이터 과학이란 무엇인가’ 등 최근까지 영어로만 제공됐던 인기 강좌도 이제는 한국어 자막을 통해 좀더 수월하게 들을 수 있게 됐다는 얘기다. 마지온칼다 CEO는 서울 중구 더플라자호텔에서 열린 한국 첫 기자간담회에서 “AI를 통해 번역 비용을 크게 줄였다”면서 “우리의 목표는 언어에 관계없이 모든 사람이 최고의 교육을 받을 수 있게 하는 것”이라고 강조했다. 미 실리콘밸리에 위치한 코세라는 ‘AI 4대 천왕’ 중 한 명으로 불리는 앤드루 응 스탠퍼드대 교수 등이 2012년 세운 온라인 학습 플랫폼으로 전 세계 325개 이상의 대학, 산업 파트너와 협력해 다양한 학습 콘텐츠를 제공한다. 등록된 학습자만 1억 4200만명이다. 마지온칼다 CEO는 “언어 번역 모델을 돌려본 뒤 사람이 직접 읽어서 번역이 제대로 됐는지 확인한다”면서 “최대한 현지 언어 뉘앙스를 살리면 좋겠지만 번역이 완벽할 때까지 기다리는 것보다 먼저 서비스를 제공하는 게 중요하다고 봤다”고 말했다. 현재 AI 번역 서비스가 제공되는 언어는 한국어를 포함해 22개 언어다. 그는 “번역이 어색하면 버튼을 클릭해 피드백을 줄 수 있다”면서 “번역 모델은 계속 개발되고 있고, 우리도 자주 재번역 과정을 거친다”고 말했다. 지금은 자막과 스크립트를 번역하는 수준이지만 딥페이크(AI로 만든 영상·이미지 합성 조작물) 기술을 통해 이른바 ‘더빙’ 작업도 가능할 것으로 보인다. 그는 “많은 컴퓨팅 작업이 필요하지만 비용이 낮아진다면 전 세계 모든 수강생이 자국어로 강좌를 들을 수 있게 된다”면서 “언어 장벽은 곧 사라질 것”이라고 말했다.

제주도 대변인실에 ‘버추얼 휴먼’(가상인간) 아나운서가 입사했다. 버추얼 휴먼은 인공지능과 첨단 그래픽 기술을 기반으로 만든 3D 가상인간을 뜻한다. 제주특별자치도는 제주도정 정책과 소식을 알리는 도정정책 영상뉴스인 ‘위클리 제주’(Weekly JEJU)에 AI(인공지능) 아나운서를 도입했다고 지난 11일 밝혔다. AI 아나운서의 이름은 ‘제이나’(J-NA, JEJU NEWS AI)다. Jeju News AI(제주 뉴스 AI)의 알파벳 각 단어의 앞 자를 따왔다. 제이나는 이달부터 도민과 공직자들에게 다양한 정책 정보를 알리고 있다. 인공지능에 의한 학습능력을 가진게 아니라 정해진 문구를 읽는 형식이다. 제이나의 모습은 도가 직접 만든 것이 아니라 서비스 업체가 가지고 있는 샘플을 사용한 것이다. 매월 60만원 내외의 ‘월급’(사용료)을 주고 있다. 도는 제이나를 활용하면서 시간과 장소에 크게 구애받지 않고 비용을 절감할 수 있게 됐다고 설명했다. 도 관계자는 “대변인실 업무보고 시 도정 소식을 알리는 뉴스를 자체 제작하는 계획이 제시됐다”며 “실제 아나운서의 경우 비용 부담이 커 효율성을 찾다보니 제이나를 이용하게 됐다”고 말했다． ‘제이나’가 나오는 ‘위클리 제주’는 매주 금요일 도 누리집과 공식 유튜브 채널 ‘빛나는 제주TV’를 통해 확인할 수 있다.

황 기조연설… 온라인 생중계900개 세션·250개 전시 구성시총 3위 터치 후 주가 급등락 미국 인공지능(AI) 반도체 시장의 ‘큰손’으로 떠오른 엔비디아가 5년 만에 AI 개발자 행사를 대면으로 진행한다. 역대 최대 규모로 진행되는 이번 행사에서 엔비디아 창립자이자 최고경영자(CEO)인 젠슨 황이 어떤 비전을 내놓을지 주목된다. 11일 업계에 따르면 엔비디아는 오는 18~21일(현지시간) 미 캘리포니아주 새너제이 SAP센터 등에서 AI 개발자 콘퍼런스(GTC 2024)를 연다. 코로나19 대유행 이후 5년 만에 여는 대면 행사로 시장의 관심은 첫날 진행되는 황 CEO의 기조연설에 쏠려 있다. 황 CEO의 기조연설은 온라인을 통해 전 세계에 생중계된다. 해마다 열리는 GTC는 새로운 기술을 소개하는 자리였지만 올해는 기술 강연을 넘어 지식을 공유하고 혁신을 촉발하는 협업 플랫폼으로 차별화한 것으로 보인다. 이번 행사는 900개의 세션과 250개의 전시, 수십 개의 기술 워크숍 등으로 구성돼 있으며 온라인으로도 참석이 가능하다. 엔비디아 측은 30만명 이상의 전 세계 개발자 커뮤니티 회원이 참석할 것으로 예상하고 있다. 그레그 에스테스 엔비디아 부사장(기업 마케팅·개발자 프로그램 부문)은 “여러 산업의 선도 기업이 최고의 AI를 경험하기 위해 GTC를 찾는다”면서 “우리는 그들을 하나로 모으는 것을 자랑스럽게 생각한다”고 말했다. AI 서버에 탑재되는 그래픽처리장치(GPU) 등을 만드는 엔비디아는 ‘AI 열풍’ 수혜를 톡톡히 보면서 1년 전에 비해 주가가 세 배 이상 올랐다. 시가총액은 지난해 6월 1조 달러 돌파 이후 지난 1일 2조 달러를 넘었다. 마이크로소프트(MS), 애플에 이어 시총 3위에 오른 엔비디아 주가는 지난 7일 주당 900달러 선도 넘어섰다. 그러나 다음날인 8일 875.28달러로 하루 만에 5.5% 급락하면서 시장에 충격을 주기도 했다. 증권가에선 급락 배경으로 차익 실현 매물 등에 따른 영향을 꼽았다. 한편 엔비디아도 자체 AI 플랫폼인 ‘네모’를 학습시키기 위해 저작권이 있는 도서를 허가 없이 사용했다는 이유로 저자로부터 소송을 당한 것으로 전해졌다. 로이터통신과 CNBC 방송은 세 명의 미국 소설가가 지난 8일 샌프란시스코 연방법원에 엔비디아를 상대로 소를 제기했다고 보도했다.

LG가 인류의 영원한 숙제인 알츠하이머와 암의 원인 규명에 나선다. LG AI연구원은 세계적인 유전체(게놈) 비영리 연구기관인 미국 잭슨랩과 알츠하이머 및 암의 발병 원인과 진행 과정을 분석하고 치료제 효과까지 예측하는 인공지능(AI) 모델을 개발하는 본계약을 체결했다고 11일 밝혔다. 잭슨랩은 유전자 변형 실험용 생쥐를 직접 설계하고 생산할 수 있는 유전체 전문 연구기관으로 알츠하이머와 암 등 질병과 관련된 다양한 유전적 변이와 돌연변이 유전자 등 방대한 연구 자료를 보유하고 있다. 양사는 우선 LG의 생성형 AI인 엑사원에 잭슨랩이 보유한 알츠하이머의 유전적 특성과 생애주기별 연구 자료를 학습시켜 질병 원인을 분석하고 치료 효율성을 높인다는 계획이다. 특히 암 진단과 치료 분야에 활용될 AI 모델도 공동 개발한다. 특수한 검사를 진행하지 않더라도 사진으로 암을 신속하게 진단하고 치료 효과를 예측하는 멀티모달(시각, 청각 등 다양한 방식을 통한 정보 교환) 생성형 AI 모델과 개인별 유전체 정보 특성에 맞는 맞춤형 항암 치료 선택지를 의사에게 제안하는 대화형 생성 AI 모델 등이다. 배경훈 LG AI연구원장은 “LG의 미래성장 동력인 바이오 분야에서도 AI 기술로 의미 있는 성과를 거둘 수 있도록 연구개발을 적극적으로 이어 나갈 것”이라고 말했다.

얼굴 인식은 스마트폰이나 PC에서 널리 사용되는 개인 인증 및 잠금 해제 방식으로 자리 잡았다. 미국 뉴햄프셔의 다트머스 대학 연구팀(사진)은 이 얼굴 인식 기술에 AI를 접목해 개인 인증 외에 의학적으로 응용하는 기술을 연구했다. 바로 AI를 통해 우울증 환자에서 우울증이 더 심해지는 것을 인식하는 것이다. 원리는 간단하다. 우리는 하루에 수십 번씩 스마트폰을 바라보면 얼굴 인식으로 잠금을 해제한다. 이때 찍힌 사진을 분석해 환자의 우울증이 더 심해지는지 분석하는 것이다. 자신은 인식하지 못하더라도 우울하고 무표정한 모습이 자주 보인다면 AI로 그 미묘한 차이를 분석할 수 있다. 그리고 환자의 주변 환경 역시 우울증이 더 심해지고 있는지 판단할 수 있는 근거가 된다. 혼자 있거나 실내에 머물러 있는 시간이 길수록 더 우울해지고 있는 지표로 볼 수 있다.당연히 이 기술은 사생활 침해의 우려가 있기 때문에 모든 사람에 적용하기 힘들다. 연구팀의 목표도 이미 우울증으로 진단받고 치료 중인 환자가 경과가 갑작스럽게 악화되어 극단적인 선택을 하거나 치료를 거부하기 전에 이를 막는 것이다. 연구팀은 177명의 우울증 환자에서 동의를 받고 얼굴 인식 이미지를 AI로 분석하는 무드캡처 (MoodCapture) 앱을 설치해 테스트했다. 환자의 우울증 정도는 8개의 문항으로 되어 있는 우울증 설문 조사지인 PHQ-8을 활용했다. 무드캡처 앱은 90일간 12만 5000장의 사진을 분석해 이를 우울증상 정도와 비교해서 학습했다. 그 결과 75%의 정확도로 우울증이 심해지고 있다는 것을 판단할 수 있었다. 연구팀은 더 많은 데이터와 추가 연구를 통해 정확도를 90%까지 높이면 우울증 환자에서 실제 적용할 수 있을 것으로 보고 연구를 진행 중이다. 우울증은 고혈압처럼 혈압을 측정하거나 당뇨처럼 혈당을 측정해서 나빠지고 있다는 것을 객관적으로 확인하기 어렵기 때문에 관리가 쉽지 않은 질병이다. 악화되고 있는데도 방치하고 치료 시기를 놓칠 경우 돌이킬 수 없는 극단적 상황까지 이를 수 있다. 사생활 침해의 소지가 있긴 하지만, 제한된 고위험군 환자를 대상으로 사용한다면 얼굴 인식 우울증 AI 기술은 생명을 살리는 유용한 인공지능 기술이 될지도 모른다.

인공지능은 지속적으로 사회적 관심의 대상이 되고 있다. 국내외의 여러 인공지능 기업이 새로운 혁신의 결과물을 계속 선보이고 있기도 하다. 그런데 새로운 인공지능 모형이 개발되는 과정에 대해 생각해 보면 유용한 학습용 데이터를 구하는 것이 모형 개발에서 핵심 관건임을 어렵지 않게 파악할 수 있다. 어떤 면에선 인공지능이란 데이터를 이용해 최신의 과학기술을 적용한 결과물을 만들어 내는 과정인 것으로 이해할 수도 있다. 유용한 데이터는 흔히 개인정보를 포함하게 되는데 그 경우 데이터의 수집과 활용 과정이 아무래도 조심스러울 수밖에 없다. 데이터, 특히 개인정보의 이용과 관련해 사회적 신뢰를 얻지 못한다면 개발된 기술이 아무리 뛰어난 것이라 하더라도 결국은 사회로부터 외면을 받게 될 것이다. 그렇다면 인공지능 시대에 걸맞은 개인정보 정책은 어떻게 마련돼야 할까? 인공지능 기술이 개발되고 이용되는 과정에서 데이터가 어떤 역할을 하는지 살펴보는 것이 출발점이다. 인공지능 데이터의 수집 및 이용에 관해 가장 넓게는 입력값과 관련된 과정과 결과값과 관련된 과정으로 나누어 파악할 수 있다. 우선 입력값 확보의 첫 단계가 되는 각종 데이터의 수집을 위해서는 인터넷 공간에서 크롤링 등의 방법으로 널리 데이터를 수집하는 방식이나 동의에 기반해 이용자로부터 데이터를 수집하는 방식 등 여러 방식이 적용될 수 있다. 수집된 데이터를 정제하고 학습용 데이터를 구축하는 과정도 이 과정에 포함해 이해할 수 있다. 결과값과 관련해서는 추론 과정을 거쳐 판단을 하거나 새로운 결과물을 만들어 내는 과정을 주로 생각할 수 있다. 이용자가 인공지능에 질문을 하거나 지시를 하는 과정은 결과값을 만들어 내는 과정의 일부로 이해할 수 있는 한편 그 과정에서 수집된 이용자의 데이터는 경우에 따라 새로운 입력값으로 활용될 가능성도 있다. 그런 점에서 이용자의 질문이나 지시는 입력값과 결과값 모두와 관련 있는 것으로 볼 수 있다. 지나칠 정도로 간략하기는 하지만 이렇게 도식화하는 것은 인공지능 모형을 만들어 내고 서비스를 제공하는 과정에서 개인정보 보호와 관련해 어떤 어려움이 있을 수 있는지 파악하는 데 도움이 된다. 우선 데이터의 수집 단계를 보자. 동의에 기반해 이용자의 데이터를 수집하는 방식은 다수의 인공지능 기업에 그다지 효과적인 방법이 되지 못한다. 충분한 분량의 데이터를 확보하기도 어렵고 좋은 품질의 다양한 데이터를 확보하기도 어려운 것이 보통이기 때문이다. 한편 인터넷 공간의 데이터를 확보해 이용하는 경우에는 해당 데이터에 개인정보가 섞여 있을 가능성을 고려해 어떤 조치를 취해야 할 것인지에 대한 새로운 질문이 제기된다. 결과값과 관련해서도 여러 질문이 제기될 수 있다. 가장 기본적인 질문으로는 이용자에게 제시되는 결과값에 제3자의 개인정보가 부적절하게 포함될 가능성에 대비해 어떤 대응책을 마련해야 할지에 관한 것이 있다. 이러한 다양한 질문으로부터 어떻게 적절한 해법을 찾아낼 것인가? 몇 가지의 기본 원칙을 들 수 있다. 첫째, 인공지능을 포함한 신기술이 개발되고 사회에 도입되는 과정에서 사회 구성원들이 느낄 수도 있는 불안감을 최소화해야 할 것이다. 둘째, 기업의 정당한 혁신 활동을 적극 장려하는 사회적 기반을 마련해야 한다. 셋째, 인공지능의 개발과 서비스 과정에서 나타날 수 있는 리스크는 다양한 형태를 띠게 될 것인데, 개별 리스크의 수준에 비례하는 유연한 규범 체계를 구축해야 한다. 이 같은 원칙에서 합리적 규범 체계와 다이내믹한 혁신 생태계를 만들어 낼 수 있는지 여부가 인공지능 시대를 맞이하는 대한민국의 성패를 좌우할 것이다. 고학수 개인정보보호위원회 위원장

“어느 날 검사가 전화를 걸어 현금을 코인으로 바꿔 해외 주소로 보내라고 시킨다면 기자님은 어떨까요. 저런 뻔한 거짓말에 왜 속을까 싶으시죠. 정말 안 당해 봐서 하는 이야깁니다.” 가상자산거래소 업비트에서 이상거래탐지 업무를 담당하는 안재민(44) 운영지원팀장은 “작정하고 덤벼들면 눈 뜨고 당하는 게 요즘 코인 보이스피싱”이라고 7일 말했다. 그는 6년째 고객 계좌에서 입출금 금액이 갑자기 늘어나는 등 보이스피싱이 의심되는 거래가 나타나면 곧바로 확인을 거쳐 출금을 막는 일을 하고 있다. 요즘 전화 금융사기 조직은 마지막 출금 계좌로 코인을 애용한다. 은행 등 제도권 금융사보다 계좌 추적이 어렵고 민관 공조도 쉽지 않다는 점을 노려서다. 지난해부터는 범죄에 연루될 경우 코인도 지급을 정지하도록 제도가 바뀌자 사기꾼들은 해외 코인거래소로 돈을 들고 튀고 있다. 안 팀장은 “현재로는 코인이 해외로 보내지기 전에 이상거래로 탐지해 막는 게 최선”이라고 말했다. 최근 안 팀장은 똘똘한 부사수 한 명을 키우고 있다. 다름 아닌 인공지능(AI)이다. 지난 6년간의 비법을 고스란히 AI에게 학습시키고 이상거래를 걸러 낸다. 안 팀장은 “인간의 노하우를 학습시키면 AI는 하루 수십만 건의 입출금을 24시간 모니터링할 수 있다”면서 “덕분에 하루 수십 건의 이상거래를 탐지해 피해를 막는다는 데 보람을 느낀다”고 말했다. 디지털자산거래소 공동협의체(DAXA)에 따르면 가상자산을 이용한 보이스피싱 피해 금액은 2020년 82억 6000만원에서 2022년 199억 6000만원으로 2배 넘게 늘었다. 무섭게 늘기만 하던 피해는 AI 단속의 등장과 민관 합동단속 등의 노력으로 지난해에는 82억 5000만원으로 증가세가 꺾였다. 안 팀장은 재벌 등 고액자산가까지 노린다는 알뜰폰 범죄를 예방할 수 있는 ‘꿀팁’을 공개했다. 그는 “인터넷으로 정부의 명의도용방지서비스에 가입하면 범죄자가 나 몰래 알뜰폰을 개통해 계좌에서 돈 털어가는 걸 막을 수 있다. 5분이면 가능해 지인들에게 추천 중”이라고 말했다.

생성형 인공지능(AI)이 무분별한 유해 콘텐츠를 만들어 낼 수 있다는 우려가 현실로 나타나고 있다. 세계 최고 수준의 기술로 안전성을 확보한다던 글로벌 기술기업들의 서비스가 잇달아 결함을 드러내고 있기 때문이다. 마이크로소프트(MS) 내부에서 자사 생성형 AI가 성적 묘사 등을 담은 이미지를 생성한다는 경고가 나왔지만 회사는 아직 조치를 취하지 않고 있다. 6일(현지시간) 월스트리트저널(WSJ)과 CNBC 등에 따르면 MS의 AI 기술자인 셰인 존스는 자사 이미지 생성 서비스 ‘코파일럿 디자이너’ 이용 등급을 성인용으로 변경할 것을 제안하는 서한을 이사회와 연방거래위원회(FTC)에 보냈다. 그는 서한을 통해 “지난 3개월간 더 나은 안전장치가 마련될 때까지 이 프로그램을 공개적으로 사용하지 말 것을 MS에 거듭 촉구했지만 회사는 거부했다”고 고발했다. 코파일럿 디자이너는 오픈AI의 이미지 생성 모델 ‘달리’(Dall-E)를 기반으로 사용자의 문자 명령어에 따라 이미지를 만들어 주는 서비스다. 존스는 지난해 12월부터 코파일럿 디자이너의 결함을 찾는 ‘레드팀’으로 활동했으며 이 과정에서 악마와 괴물, 소총을 든 10대, 여성의 성적인 이미지, 미성년자 음주나 약물 사용 등의 이미지가 생성된 것을 발견했다고 털어놨다. ‘낙태 찬성’(pro-choice)을 프로그램에 입력하자 다 자란 아이를 드릴로 공격하는 이미지가 만들어졌다고 했다. 존스는 상부에 이같은 우려를 전달했지만 묵살됐고 상품도 시장에서 회수되지 않았다. 그는 “회사 정책에 따라 모든 우려 사항을 해결하는 데 노력하고 있으며, 안전을 더 강화하기 위해 최신 기술을 연구하고 테스트하는 직원들의 노력에 감사를 표한다”는 답신만 돌아왔다고 했다. 앞서 구글의 생성형 AI 서비스 ‘제미나이’는 지난달 22일 인종 역차별 이미지를 생성하는 결함이 발견돼 현재까지 인물 관련 이미지 생성을 중단한 상태다. 제미나이는 역대 미국 대통령들과 교황 등 백인을 모두 흑인이나 아시아계로 묘사해 논란을 일으켰다. 이와 관련해 구글 공동 창업자인 세르게이 브린은 지난 4일 “테스트 부족으로 확실하게 망쳤다”며 “우리는 왜 답변이 (정치적으로) 왼쪽으로 기울어지는지 완전히 이해하지 못했다”고 말했다. 이미지 생성 AI를 학습시키는 데 쓰는 데이터세트에 아동학대 이미지가 포함돼 논란이 일기도 했다. 지난달 20일 블룸버그에 따르면 스탠퍼드 인터넷 관측소(SIO)는 독일 비영리 단체인 ‘레이온’이 배포한 데이터세트에서 아동에 대한 성적 학대로 의심되는 이미지 1000여장을 확인해 신고했다. 레이온은 곧바로 데이터세트 배포를 중단하고 문제 이미지를 삭제했다. 문제는 이 데이터세트가 이미 가장 유명한 이미지 생성기 중 하나인 ‘스테이블 디퓨전’을 학습시키는 데도 사용됐다는 점이다. 스테이블 디퓨전 운영사인 ‘스테이빌리티 AI’는 필터링으로 문제 이미지를 걸러낸 뒤 학습을 실시했다고 해명했지만 SIO 측은 “이 데이터세트로 학습한 다른 AI가 잠재적으로 유해 콘텐츠를 생성할 수 있다”며 스테이블 디퓨전 1.5버전 사용 중단을 권고했다.

인공지능(AI) 기업 페르소나에이아이(페르소나AI, 대표 유승재)는 네이버클라우드(대표 김유원)로부터 투자를 유치했다고 7일 밝혔다. 투자 금액은 공개되지 않았다 페르소나AI는 2021년 국내 최초의 구독형 인공지능 컨택센터(AICC)를 개발한 기업이다. AICC란 콜센터 등의 고객 접점에 챗봇, 콜봇, 주소봇 등 AI 기술을 적용한 것이다. 산업군이나 규모와 구애받지 않고 대고객 서비스를 제공하는 모든 기업에 적용 가능해 성장성이 크다.AICC 시장에 일찌감치 뛰어든 페르소나AI는 금융권에서 다수 레퍼런스를 확보하고 원천기술을 고도화했다. 단시간 내 10만 개 이상의 AI 학습 데이터를 자동 생성하는 자연어 생성(NLG) 기술과 한국어 인식률 100%를 달성한 자연어 처리(NLP) 기술이 핵심이다. 현재 공개된 누적 투자액만 약 200억 원에 달한다. 네이버클라우드 역시 원천기술을 바탕으로 AICC 시장에서 유의미한 성과를 거둔 페르소나AI의 잠재력과 성장성을 높이 평가해 투자를 결정한 것으로 알려졌다. 지난해 초거대 AI ‘하이퍼클로바X’를 공개한 네이버클라우드는 검색, 광고 등 핵심 서비스에 AI를 적용하는 한편, 다양한 산업군과 협업하며 AI 리더십을 구축하고 있다. 페르소나AI와 협력해 AI 역량을 강화하고 국내 AI 생태계 확장에도 박차를 가할 것으로 보인다. 이번 투자 유치를 계기로 페르소나AI는 AICC 전문성을 높이고 시장 지배력 강화에 나선다. 금융권뿐만 아니라 쇼핑, 의료, 렌탈 등 고객 응대를 디지털 전환하고자 하는 다양한 업계를 대상으로 AICC 사업을 적극 전개할 계획이다. 유승재 페르소나AI 대표는 “네이버클라우드의 이번 투자는 페르소나AI의 AICC 사업 성과와 가능성을 다시 한번 인정받은 결과라는 점에서 의미가 크다”며 “AICC 시장의 발전을 선도하며 누구나 편리하게 접하고 이용할 수 있는 AI 서비스를 만들어 나가겠다”고 밝혔다.

본인이 직접 노래하는 것처럼 인공지능이 부른다면 어떤 기분이 들까? 최근 개그맨이자 가수인 박명수는 자신의 목소리를 학습한 ‘인공지능(AI) 박명수’가 부르는 ‘밤양갱’이라는 커버곡을 듣고는 깜짝 놀랐다. 그는 방송에서 “이 노래를 부른 적이 없다. 들어 보니 어쩜 이렇게 똑같나. 앞으로 우리 어떻게 해야 하나. 연예인들 어떻게 해야 돼” 하며 혀를 내둘렀다. 인공지능 기술 발달로 AI 커버가 주목받고 있다. 커버곡은 가수가 자기 노래가 아닌 다른 가수의 노래를 자신만의 스타일로 부르는 노래다. 인공지능 커버는 일반인이 박명수 같은 연예인이나 가수의 목소리 데이터를 학습한 인공지능 모델을 활용해 만든 노래다. 정교한 커버곡은 소셜미디어에서 수백만회 조회를 올릴 정도로 인기다. AI 커버곡 제작을 전문으로 하는 채널들이 있을 정도로 새로운 음악시장을 형성하고 있다. 인공지능 커버 시장이 커질수록 법적 분쟁도 늘어날 전망이다. 저작권법엔 AI 커버 제작에 사용된 원 노래의 저작권과 목소리 주인공의 저작인접권 침해에 대한 별도 규정이 없다. 커버 인기가 노래 홍보를 뛰어넘는 단계로 옮아가면 분쟁은 불가피할 것이다. 이 때문에 한국음악저작권협회는 AI 활용 표시 의무를 담은 콘텐츠산업진흥법 개정을 촉구하고 있다. AI 커버곡 제작자들은 자신들의 행위가 공익성을 가지며 인공지능 산업 발전에도 기여한다고 한다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정이용으로 본다. 최근 미국의 뉴욕타임스가 자사 기사를 무단 사용했다며 오픈AI를 상대로 낸 저작권 침해 소송에 오픈AI는 이 공정이용 조항을 들먹이며 반박했다. 하지만 가치 있고 신뢰도 있는 데이터를 상업적으로 사용한다면 법적으로 문제될 수 있다. 법적 분쟁 못지않게 우려되는 건 이런 기술이 딥페이크 등 범죄에 악용될 수 있다는 점이다. 목소리 데이터가 쌓이면 쌓일수록 본인까지 깜짝 속을 정도의 딥보이스 기술이 적용된 콘텐츠는 확산될 것이다. 인공지능 기술 발달로 현실과 상상의 경계가 무너지고 있다. 인공지능이 삶의 질은 향상시키고 범죄에 악용되는 등의 부작용은 줄일 안전한 보안기술이 나오기를 바라 본다.

인간 뇌 구조와 기능을 모방한 원리로 전력 소모를 최소화하면서도 초고속으로 거대언어모델(LLM)을 처리할 수 있는 인공지능(AI) 반도체를 국내 연구진이 세계 최초로 개발했다. 엔비디아 그래픽처리장치(GPU) A100의 41분의1 크기에 전력은 625분의1만 소모하면서 GPT 2 구동에 성공했다. 격화하는 세계 AI 반도체 전쟁에서 승기를 쥘 수 있는 실마리를 제공한 연구성과로 평가된다. 한국과학기술원(카이스트) PIM반도체 연구센터와 인공지능반도체대학원 유회준 교수 연구팀은 이 같은 초저전력 반도체 ‘상보형 트랜스포머’를 삼성전자 28㎚(나노미터) 공정을 통해 개발했다고 6일 과학기술정보통신부가 밝혔다. 연구팀은 그동안 다량의 GPU와 250W(와트)의 전력 소모를 통해 구동되던 GPT 2를 가로·세로 4.5㎜ 크기의 AI 반도체 한 개로 400㎽(밀리와트) 전력만 소모하면서 0.4초 만에 처리했다. 이번 연구 결과는 지난달 19∼23일 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 발표·시연됐다. 상보형 트랜스포머란 뇌의 뉴런이 정보를 처리하는 방식을 모사한 ‘스파이킹 뉴럴 네트워크’(SNN)와 여러 신경망 층으로 이뤄져 복잡한 패턴을 인식하고 학습하는 AI 모델인 ‘심층인공신경망’(DNN)을 선택적으로 사용할 수 있도록 한 기술이다. 생각할 것이 많을 때는 에너지 소모가 많고, 생각할 것이 적을 때는 에너지 소모가 적은 사람의 뇌 작동 원리를 AI반도체 형태로 구현했다. 입력값 크기가 클 때는 DNN을, 입력값이 작을 때는 SNN을 사용해 전력 소모를 최소화했다. 유회준 교수는 “뉴로모픽(뇌 기능 모사 기술) 컴퓨팅은 IBM, 인텔 같은 회사들도 의미 있게 구현하지 못한 기술로, 초저전력 뉴로모픽 가속기(상보형 트랜스포머)로 LLM을 구동한 것은 저희가 세계 최초라고 자부한다”고 말했다. 다만 당장 상용화로 이어질 수 있는 단계는 아니다. 연구팀은 향후 해당 기술을 LLM뿐 아니라 다양한 응용 분야로 확장해 연구하고, 상용화 관련 문제점들을 파악해 개선한다는 계획이다.

“지난해 국제기구 행사와 관련된 보도자료를 쓸 때 처음 챗GPT를 활용해 봤습니다. 국제기구에서 보내 준 영문 자료를 번역하거나 ‘Q&A’(질의응답) 형태로 정리할 땐 유용하더라고요.” 기획재정부 사무관 A씨는 5일 보고서나 보도자료 작성 때 챗GPT를 활용한다고 털어놓았다. 그는 “관련 법령을 찾아봐야 할 때가 많은데 법제처에서 인공지능(AI) 기반 법령정보검색서비스를 시범운영하고 있어 본격 도입되길 기대하고 있다”며 “보고서 작성 등을 완벽하게 대신할 수 있는 수준은 아니지만 AI 기술이 특화된 재가공, 번역 등 위주로 활용하면 업무를 효율적으로 처리할 수 있다”고 했다. 관가에서도 AI가 거부할 수 없는 ‘뉴노멀’로 자리잡고 있다. 지난해 1월 윤석열 대통령이 신년 업무보고에서 “시험 삼아 신년사를 작성하며 챗GPT에 질문을 던져 보니 제법 그럴듯한 결과가 나왔다. 잘 연구해서 공무원들이 잘 활용할 수 있게 해 달라”고 주문한 뒤 AI 열풍이 더 뜨거워지는 모양새다. 기재부는 지난해 5월 챗GPT를 주제로 민간 전문가와 세미나를 준비했다가 다급히 특강 형태로 전환했다. 역대 가장 많은 150명의 신청자가 몰릴 만큼 공무원들의 관심이 폭발했기 때문이다. AI 주무 부처인 과학기술정보통신부에서는 챗GPT 단순 활용 단계를 넘어 공문서 작성에 적합한 시제품을 개발한 내부 소모임도 나왔다. 과기부 직원 6명이 문장을 요점 중심으로 간단하게 작성하는 ‘개조식’ 표현을 챗GPT에 학습시킨 프로그램 ‘보고 선생’을 만들어 생성형 AI 개발 대회에 출품해 결선까지 올랐다. 행정안전부도 AI 활용도를 높이기 위해 분투 중이다. 행안부는 지난해 8월부터 공무원과 공공기관 종사자들에게 맞춤형으로 개발된 AI 기반 업무지원 서비스를 도입했다. 회의 녹화 영상과 음성 파일을 입력하면 AI가 자동으로 화자를 구분해 회의록을 작성해 주고 뉴스나 블로그에서 추출한 단어의 언급 빈도수를 분석해 최근 여론 동향을 알려준다. 이처럼 AI는 공무원들의 과중한 업무를 덜어 주는 보조 수단에 머물고 있다. 하지만 언젠가는 경직된 관료 조직의 문화와 업무 관행을 스스로 깨뜨리는 촉매제가 되길 기대해 본다.

‘AI 임재범’ 뉴진스 커버도 73만회가수 동의 없이 ‘2~3분’ 만에 제작목소리 주인에게 수익 배분 안 돼저작인접권 침해여부 판단 어려워저작권협 “저작물 활용 표기해야”법조계 “수익 없어도 분쟁 소지” “달디달고 달디달고 달디단 밤양갱 밤양갱~” 귓가에 계속해서 맴도는 멜로디와 흥미로운 가사로 인기를 모으고 있는 가수 비비의 ‘밤양갱’이라는 노래는 최근 소셜미디어(SNS)에서 폭발적인 인기를 끌고 있다. 이 노래가 화제가 된 배경 중 하나는 생성형 인공지능(AI) 기술로 만들어진 가수 고 김광석, 백예린, 만화 캐릭터인 보노보노 등 다양한 이들의 목소리가 담긴 이른바 ‘AI 커버곡’이 대거 등장해서다. AI 커버곡은 AI가 실제 가수 목소리를 학습해 멜로디 위에 입히는 방식으로 만들어진다. 유튜브 등 SNS에서 AI 커버곡이 인기를 끌면서 5일 기준 아이유가 부른 밤양갱 AI 커버곡 영상은 조회수가 44만회를 기록했다. 앞서 프레디 머큐리의 목소리로 커버된 아이유의 ‘내 손을 잡아’는 131만회, 임재범의 목소리로 커버된 뉴진스의 ‘Hype Boy’는 조회수가 73만회나 됐다. 하지만 아이유의 목소리를 입힌 ‘밤양갱’으로 수익이 발생해도 정작 목소리의 당사자인 아이유는 1원도 가져가지 못한다. AI 커버곡 제작 과정에서 학습에 활용된 목소리의 주인공인 가수에게는 수익을 배분받을 수 있는 저작인접권이 인정되지 않아서다. 창작된 표현을 보호하는 저작권은 아니지만 가수나 연주자 등 실연자나 음반 제작자, 방송사업자는 저작권에 준해 보호되는 저작인접권을 갖는다. 실제 가수가 다른 가수의 노래를 리메이크한 음악에 대한 수익은 노래를 부른 실연자에게도 분배되지만 AI 커버곡은 목소리의 주인공과 수익을 나누지 않는다. AI 커버곡의 목소리는 원곡 가수의 목소리로 인정하지 않기 때문이다. 황선철 한국음악저작권협회 사업2국장은 “AI 커버곡을 만들기 위한 학습 단계에서는 저작인접권 침해 우려가 있지만 AI 커버곡 완성본에는 해당 가수의 음원 원본이 더이상 남아 있지 않아 저작인접권이 침해됐다고 보기 어렵다는 견해가 많다”고 말했다. 강진석 변호사도 “AI 커버곡은 가수의 음성에 부여되는 인격권을 침해해서 손해배상이나 사용금지 청구를 고려할 수 있다”면서도 “하지만 커버곡이 공유되는 유튜브가 잘 협조하지 않아 커버곡 제작자를 찾는 과정 자체가 쉽지 않다”고 설명했다. 국내에선 아직 AI 커버곡에 자신의 목소리가 쓰이는 것에 대한 반대나 우려 의견을 낸 가수는 없지만, 미국에서 래퍼 드레이크와 위켄드가 협업한 것으로 알려진 노래가 AI 커버곡으로 밝혀지면서 두 사람의 소속사가 이 노래에 대한 게재 금지를 요청한 일이 있었다. AI 커버곡 제작 프로그램을 제공하는 업체의 저작권 침해 우려가 크다는 지적도 나온다. 업체들이 제공하는 프로그램을 사용, 음성 학습을 위한 노래와 커버할 원곡 파일만 올리면 2~3분 만에 온라인에서 자동으로 커버곡을 만들 수 있다. 박정훈 한국저작권위원회 선임연구원은 “실연자나 저작권자의 권리가 침해될 수 있다는 사실을 알면서도 프로그램을 제공한 것”이라면서 “어느 정도로 영리성을 추구했는지에 따라 방조 책임이나 간접 책임을 질 수 있다”고 말했다. 대부분의 AI 커버곡 제작자들은 음원 제작자의 동의 없이 무단으로 커버곡을 만든다. 이런 상황에서 목소리의 주인공인 가수의 저작인접권이 제대로 보호받기 어려운 만큼 창작자와 노래를 부른 가수의 권리 등에 대한 명확한 규정이 필요하다는 지적이 나온다. 지난해 12월 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시키기도 했다. 국내에서는 한국음악저작권협회가 ‘생성형 AI 콘텐츠 표기 의무화법’ 도입의 필요성을 주장하며 지난 1월 국회 공청회를 열었다. 한국음악저작권협회는 “AI 생성물 여부와 AI 커버곡 제작에 어떤 저작물이 활용됐는지 표기를 의무화하는 입법이 시급하다”고 밝혔다. 반면 AI 커버곡 제작은 ‘공정 이용’에 해당한다는 의견도 있다. 저작권법은 공익을 위한 저작물의 사용과 복제를 저작권 침해가 아닌 공정 이용으로 본다. SNS에 AI 커버곡을 만들어 올리는 제작자들은 ‘커버곡으로 음원 수익을 창출하지 않는다’며 음원을 학습해 커버곡을 만드는 과정이 공익성을 일부 가지며 AI 산업 발전에도 기여하는 것이라고 주장한다. 이에 대해 이나래 변호사는 “수익을 창출하지 않았더라도 가수의 목소리를 학습 데이터로 무단 활용한 것은 법적으로 분쟁의 소지가 있다”고 지적했다.

“달디달고 달디달고 달디단 밤양갱 밤양갱~” 귓가에 계속해서 맴도는 멜로디와 흥미로운 가사로 인기를 모으고 있는 가수 비비의 ‘밤양갱’이라는 노래는 최근 소셜미디어(SNS)에서 폭발적인 인기를 끌고 있다. 이 노래가 화제가 된 배경 중 하나는 생성형 인공지능(AI) 기술로 만들어진 가수 고 김광석, 백예린, 만화 캐릭터인 보노보노 등 다양한 이들의 목소리가 담긴 이른바 ‘AI 커버곡’이 대거 등장해서다. AI 커버곡은 실제 가수가 부르지 않은 노래를 AI가 학습한 가수의 목소리로 재생성해 멜로디 위에 입히는 방식으로 만들어진다. 유튜브 등 SNS에서 AI 커버곡이 인기를 끌면서 5일 기준 아이유가 부른 밤양갱 AI 커버곡 영상은 조회수가 44만회를 기록했다. 앞서 프레디 머큐리의 목소리로 커버된 아이유의 ‘내 손을 잡아’는 131만회, 임재범의 목소리로 커버된 뉴진스의 ‘Hype Boy’는 조회수가 73만회나 됐다. 하지만 아이유의 목소리를 입힌 ‘밤양갱’으로 수익이 발생해도 정작 목소리의 당사자인 아이유는 1원도 가져가지 못한다. AI 커버곡 제작 과정에서 학습에 활용된 목소리의 주인인 가수에게는 저작인접권이 인정되지 않아서다. 창작된 표현을 보호하는 저작권은 아니지만 가수나 연주자 등 실연자나 음반제작자, 방송사업자는 저작권에 준해 보호되는 저작인접권을 갖는다. 실제 가수가 다른 가수의 노래를 리메이크한 음악에 대한 수익은 노래를 부른 실연자와 노래를 만든 저작권자에게 모두 분배되지만, AI 커버곡은 목소리의 주인공과 수익을 나누지 않는다.황선철 한국음악저작권협회 사업2국장은 “AI 커버곡을 만들기 위한 학습 단계에서는 저작인접권 침해 우려가 있지만 AI 커버곡 완성본에는 해당 가수의 음원 원본이 더이상 남아 있지 않아 저작인접권이 침해됐다고 보기 어렵다는 견해가 많다”고 말했다. 강진석 변호사도 “AI 커버곡은 가수의 음성에 부여되는 인격권을 침해해서 손해배상이나 사용금지 청구를 고려할 수 있다”면서도 “하지만 커버곡이 공유되는 유튜브 등이 잘 협조하지 않아 커버곡 제작자를 찾는 과정 자체가 쉽지 않다”고 설명했다. 국내에선 아직 AI 커버곡에 자신의 목소리가 쓰이는 것에 대한 반대나 우려 의견을 낸 가수는 없지만, 미국에서 래퍼 드레이크와 위켄드가 협업한 것으로 알려진 노래가 AI 커버곡으로 밝혀지면서 두 사람의 소속사가 이 노래에 대한 게재 금지를 요청한 일이 있었다. AI 커버곡 제작 프로그램을 제공하는 업체의 저작권 침해 우려가 크다는 지적도 나온다. 업체들이 제공하는 프로그램을 사용하면 온라인에서 음성학습을 위한 노래와 커버할 원곡 파일만 올리면 2~3분 만에 자동으로 커버곡을 만들 수 있다. 박정훈 한국저작권위원회 선임연구원은 “가수나 연주자 등 실연자나 저작권자의 권리가 침해될 수 있다는 사실을 알면서도 프로그램을 제공한 것”이라면서 “어느 정도로 영리성을 추구했는지에 따라 방조 책임이나 간접 책임을 질 수 있다”고 말했다.대부분의 AI 커버곡 제작자들은 음원 제작자의 동의 없이 무단으로 커버곡을 만든다. 이런 상황에서 목소리의 주인공인 가수의 저작인접권이 제대로 보호받기 어려운 만큼 창작자와 노래를 부른 가수의 권리에 대한 명확한 규정이 필요하다는 지적이 나온다. 지난해 12월 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시키기도 했다. 국내에서는 한국음악저작권협회가 ‘생성형 AI 콘텐츠 표기 의무화법’ 도입의 필요성을 주장하며 지난 1월 국회 공청회를 열었다. 한국음악저작권협회는 “AI 생성물 여부와 AI 커버곡 제작에 어떤 저작물이 활용됐는지 표기를 의무화하는 입법이 시급하다”고 밝혔다. 다만 SNS에 AI 커버곡을 만들어 올리는 제작자들은 ‘커버곡으로 음원 수익을 창출하지 않는다’며 음원을 학습해 커버곡을 만드는 과정이 AI 산업 발전에 기여하는 것이라고 주장한다. 이에 대해 이나래 변호사는 “수익을 창출하지 않았더라도 가수의 목소리를 학습 데이터로 무단 활용한 것은 법적으로 분쟁의 소지가 있다”고 지적했다.

딥페이크(Deepfake)로 영상 속 인물의 얼굴을 가상 인물로 바꾼 한 영상을 ‘딥페이크 탐지 소프트웨어’에 업로드해 분석하니 금세 ‘변조율’이 76.76%인 ‘가짜’ 영상으로 판독됐다. 합성 유형은 ‘얼굴 바꿔치기’라고 가려냈다. 경찰청 국가수사본부는 이처럼 딥페이크 영상을 탐지하는 기술을 개발해 범죄 단속에 활용한다고 5일 밝혔다. 경찰이 개발한 소프트웨어는 영상 길이 등에 따라 5~10분이면 딥페이크인지를 판별한다. 딥페이크는 딥러닝(Deep learning)과 가짜를 의미하는 페이크(Fake)의 합성어로, 기존 영상을 다른 영상에 겹쳐서 만들어 내는 AI 기술을 기반으로 이미지를 합성하는 기술이다. 갈수록 딥페이크 기술이 정교해지 가운데 맨눈으로 구분해내기 어려운 딥페이크 영상을 이 소프트웨어로 구분할 수 있을 것으로 기대된다. 해외에서도 마이크로소프트 등이 딥페이크를 탐지하는 기술을 개발했지만, 서양인 위주로 데이터를 쌓았기에 한국인 얼굴을 바꿔치기 한 영상은 탐지율이 상대적으로 떨어진다는 평가를 받았다. 경찰청이 도입한 소프트웨어는 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점 등을 포함한 인물 5400명의 데이터 520만점을 학습한 결과, 탐지율 정확도가 80%에 달하는 것으로 분석됐다. 경찰은 총선을 앞두고 딥페이크로 가짜 영상을 만들어 허위 정보를 퍼뜨리거나 성 착취물을 만드는 범죄를 수사하는 데 소프트웨어를 활용할 계획이다. 공직선거법에 따라 딥페이크를 활용한 선거운동은 선거일 90일 전부터 선거일까지 전면 금지된다. 그러나 딥페이크 영상인지만을 따지기에 이 소프트웨어만으로는 모든 허위 영상을 구분해낼 수는 없다. 최근 소셜네트워크서비스(SNS)에서 퍼진 윤석열 대통령의 ‘가짜 양심고백 연설’ 동영상은 실제로 존재하는 영상을 짜깁기 한 것이기에 이 소프트웨어는 해당 영상을 ‘진짜’라고 판단했다. 경찰은 소프트웨어의 신뢰도가 100%가 아니기에 증거자료로 쓰기보다는 수사 방향을 정하는 참고자료로 활용하겠다는 계획이다. 국수본 관계자는 “딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극적으로 수사할 수 있을 것”이라며 “향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다”고 말했다.

“맞춤법 검사기를 개인 사용자에게 무료로 제공하는 건 계속할 겁니다. 오히려 지금까지는 강의 때문에 검사기를 고치는 게 쉽지 않았는데, 이제는 정말 집중할 수 있어서 더 잘됐어요.” 지난달 정년퇴직한 ‘맞춤법 검사기의 아버지’ 권혁철(66) 부산대 정보컴퓨터공학부 명예교수는 4일 학교 교수실에서 서울신문과 만나 이렇게 말했다. 권 교수는 ‘부산대 맞춤법 검사기’로 불리는 ‘한국어 맞춤법·문법 검사기’(http://nara-speller.co.kr/speller/)의 개발자다. 권 교수가 퇴직한다는 소식이 알려지면서 검사기 운영을 중단하거나 유료화하는 게 아니냐는 걱정도 이용자들 사이에서 나왔다. 이 맞춤법 검사기는 한 달 검사 건수가 1300만건에 이를 정도로 사용자가 많다. 특히 자기소개서를 쓰는 취업준비생에게는 없어서는 안 될 검사기로 통한다. 오탈자를 확실하게 잡아내는 것은 물론 문맥에 맞지 않는 단어까지 찾아 대체어를 제시하는 탁월한 성능 덕분이다. 챗GPT 같은 생성형 AI보다 뛰어나다. 권 교수는 “생성형 AI가 검사하는 방법은 예를 들면 ‘나는 학교에’ 다음에는 확률상 ‘먹는다’보다 ‘간다’라는 단어가 맞다고 판단하는 식이다. 7만여개의 맞춤법 규칙을 토대로 문장을 검사해 오류를 찾아내는 건 우리 검사기가 더 뛰어나다”고 설명했다. 맞춤법 검사기 운영은 권 교수가 설립한 벤처기업인 ㈜나라인포테크와 부산대 인공지능 연구실이 담당해 왔다. 취업정보 사이트, 언론사 등 기업과 기관에 맞춤법 검사기 프로그램을 판매해 얻은 수익으로 운영비를 충당한다. 그런데 권 교수가 퇴직하면서 회사 운영에 어려움이 많아졌다. 연구실 학생들을 직원으로 채용하다 보니 인건비가 많이 늘었다. 지금까지는 석·박사과정 제자들과 새로운 아이디어를 실험할 수 있었는데 지금 회사 규모로는 예전만큼 활발하게 연구·개발하기도 어렵다. 권 교수는 “학교에 적을 두고 있다 보니 기업이나 기관의 협조로 꽤 많은 연구를 했는데, 이제는 그것도 힘들어졌다. 맞춤법 검사기 유료 사용자인 법인, 기관 등을 상대로 구독 서비스를 실시하는 등 새로운 수익 모델을 만들어 운영하려 한다”고 말했다. 권 교수는 맞춤법 검사기의 진화를 멈추지 않을 생각이다. 우선 맞춤법 검사기와 생성형 AI의 장점을 접목하는 데 관심을 두고 있다. 권 교수는 “사람이 규칙을 연구해 입력하는 방식은 스스로 학습하는 AI에 언젠가는 따라잡힐 수밖에 없다. 그동안은 AI를 접목하고 싶어도 운영비가 현재의 100배가 넘어 시도하지 못했는데, 최근에는 거대 AI가 아닌 작고 전문화된 모델이 개발되고 있어 한국어라는 특화 분야에서는 충분히 시도해 볼 만하다”고 말했다. 권 교수는 이어 “‘맞춤법 검사기가 아닌 다른 것에 이 정도로 집중했으면 얼마나 큰 성과를 냈을까’라는 생각을 여러 번 했지만, 언제나 결론은 ‘잘 선택했다’였다. 우리 회사가 무너지면 맞춤법 검사기를 새로 만들려는 회사가 없어진다는 생각으로 매진하겠다”고 덧붙였다.