인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

할리우드가 가장 사랑하는 SF 거장 필립 K 딕의 소설 ‘안드로이드는 전기양의 꿈을 꾸는가’는 영화 ‘블레이드 러너’의 원작이다. 이 작품에는 인간보다 더 인간 같은 안드로이드들이 등장해 인간성이란 무엇인가라는 근본적인 질문을 던진다. 소설이 쓰였던 1968년만 해도 인공지능(AI)이나 로봇은 SF 소설과 영화의 소재일 뿐이었으며, 설사 개발된다고 하더라도 인간 고유의 창조성이나 공감 능력은 가질 수 없어 인간을 뛰어넘지 못할 것이라 봤다. 그런데 생성형 AI가 등장함에 따라 기존 데이터를 바탕으로 이전에는 볼 수 없었던 언어, 이미지, 음성, 동영상 등을 만들어 내고 있다. 2022년에는 이미지 생성형 AI ‘미드저니’로 만들어 낸 그림이 미술 대회에서 1등 상을 받으면서 그동안 인간 고유의 능력으로 알려진 창조력에서마저 AI가 앞서는 것 아니냐는 우려까지 나왔다. ‘창작의 고통’이라는 말처럼 인간은 작품을 만들어 내는 데 오랜 시간이 걸리지만, AI는 불과 몇 분 만에 결과물을 도출해 낸다는 점도 인간에게 좌절을 안겨 주는 부분이다. 다른 한편에서는 AI를 새로운 창작 수단으로 활용하는 사례가 점점 늘어나고 있다. 미국 뉴욕 현대미술관(MoMA) 1층 로비에는 2022년부터 AI가 만든 ‘Unsupervised’라는 작품이 전시되고 있으며, 네덜란드 헤이그 마우리츠하위스 미술관에도 이미지 생성형 AI를 활용해 만든 작품이 전시됐다.국내에서도 다양한 예술 창작 분야에 생성형 AI를 사용한 작품들이 대중과 만나고 있다. ‘주사위 그림’으로 잘 알려진 극사실주의 화가 두민(47)은 2019년부터 AI로 작업을 하고 있다. 지난해 11월 수원 화성 미디어아트 축제에서 AI로 미디어아트 작품을 선보이기도 했다. 그는 “백남준이 브라운관을 작품에 활용했을 때 ‘미친 사람’ 소리를 들었듯 다양한 시도와 실험을 통해 새로운 기술에 반응하고 도구화해 온 것이 미술사의 과정”이라면서 “AI를 활용한 작업도 새로운 미술 장르가 될 것으로 보인다”며 기대감을 드러냈다. 문학 분야에서도 AI를 활용한 창작 활동이 하나둘 눈에 띄고 있다. 카카오브레인이 개발한 AI ‘시아’는 2022년 ‘시를 쓰는 이유’라는 시집을 내 문학계에 충격을 안겨 줬다. 지난해 8월에는 시아가 창작한 시를 대본으로 만든 시극 ‘파포스 2.0’이 공연됐다. 그런가 하면 AI가 작사, 작곡, 편곡을 모두 하면서 대중음악의 영역에까지 침투하고 있다. 안창욱 광주과학기술원(GIST) 교수는 2016년 AI 작곡가 ‘이봄’(EvoM)을 개발했다. 이봄은 클래식 이론을 학습했으며 트로트부터 K팝까지 다양한 대중음악 작곡이 가능하다. 실제로 원하는 음악 장르와 곡 길이를 입력하면 이봄이 선율을 만들어 낸다. 3분짜리 곡 하나 만드는 데 걸리는 시간은 5초 정도에 불과하다. 같은 해 룩셈부르크에서 개발된 AI 아티스트 ‘에이바’(AIVA)는 2019년 프랑스 음악저작권협회 작곡가로 등록되기까지 했다. 창작자들은 현재 수준의 AI에 대해 공통적으로 “사용자가 더 똑똑해져야 제대로 쓸 수 있다”고 입을 모은다. 챗GPT를 활용해 쓴 시를 시집에 수록한 박참새 시인은 “내가 나아져야 AI도 더 나은 결과를 산출한다는 사실을 깨달았다”면서 “AI 개발자들이 원하는 것은 기술과 인간의 상호작용인 만큼 창작자들에게 놓인 과제는 그것과 어떻게 교류할 것인가가 아닐까”라는 질문을 던졌다. 현재 AI의 창작을 이야기하면 대개의 경우 저작권 측면에서 접근하는 경향이 강하다. 인간이 이전에 만들어 낸 데이터를 학습해 조합해 낸 것이 AI의 작품들이기 때문에 당연할지도 모른다. 그렇지만 기술철학자나 예술철학자들은 좀더 본질적인 문제에 접근해야 한다고 조언한다. “AI는 예술작품을 창작할 수 있을까” 또는 “AI가 만든 작품을 예술로 볼 수 있을까”라는 질문을 던져야 한다는 것이다. 지난해 ‘빅 퀘스천: AI+, 미래, 탐험’이라는 주제로 열린 ‘서울미래컨퍼런스’의 연사로 참여했던 김재인 경희대 비교문화연구소 교수는 “많은 작가가 AI를 활용한 작품을 내보이고 있지만 미학적 담론에 포섭될 만한 획기적인 작품은 보이지 않는다”면서 “현재 AI로 내놓는 작품들은 미디어아트의 변종이며, 조금 과장한다면 백남준의 성취를 넘어선 AI 예술작품은 없다”고 평가했다. 김 교수는 “AI는 작가가 사용하는 도구 중 하나일 뿐”이라고 말했다.

인공지능(AI) 노트북에 설치된 이미지 편집 애플리케이션(앱)에서 ‘스포츠카’를 영문으로 입력하자 5초 만에 파란색 스포츠카 이미지가 화면에 떴다. 이번엔 사운드 편집 앱을 실행시킨 뒤 ‘재즈’를 입력하자 25초 길이의 재즈 음원이 생성됐다. 두 작업 모두 인터넷이 연결되지 않은 상태에서 진행됐다. 오프라인 상태에서 간단한 명령어만으로 이미지, 음원을 자유롭게 만들 수 있는 시대가 본격 열린 것이다. 19일 서울 성동구 플란트란스 성수 플래그십에 마련된 인텔 행사장에는 자체 AI 프로세서인 ‘인텔 코어 울트라’가 탑재된 AI PC 12종이 전시돼 있었다. 이들 PC는 AI 가속기인 ‘신경망처리장치’(NPU)가 프로세서에 새롭게 적용돼 작업 속도가 빨라지고 전력 효율이 높아졌다. 특히 인터넷 연결 없이도 생성형 AI 툴을 이용할 수 있게 된 점이 기존 PC와 큰 차이점이다. 클라우드를 거치지 않고 기기 내에서 AI를 구동할 수 있는 ‘온디바이스 AI’가 스마트폰에 이어 PC에서도 구현되면서 PC 시장에서도 지각변동이 예상된다. 시장조사업체 가트너는 올해 말 AI PC 출하량이 5450만대로 전체 PC 출하량의 22%를 차지할 것으로 전망했다. 삼성전자, LG전자, 레노보 등 PC 제조사와 손잡고 AI PC 확대에 나선 인텔은 올해 4000만대, 내년 6000만대 등 총 1억대를 공급한다는 계획이다. AI PC가 많아져야 이 기기 안에서 쓸 수 있는 온디바이스 AI 관련 앱 개발도 활성화된다는 논리다. 업계에서는 PC 내에서 자체적으로 AI 연산이 가능하기 때문에 이미지, 음원 제작뿐 아니라 게임, 비디오 편집 등 다양한 기능을 접목할 수 있을 것으로 본다. 음성을 인식하고 문서를 요약해 주거나 검색을 해주는 서비스도 나올 수 있다. 결국 획기적인 AI 앱을 통해 차별화된 서비스를 내놓는 게 관건이다. 정보통신기획평가원도 최근 보고서에서 “일반 스마트 기기보다 가격이 더 비싼 온디바이스 AI 기기를 선택할 수 있는 ‘킬러 앱’을 개발해 사용이 편리하고 쉽게 다가갈 수 있는 서비스를 모색해야 한다”고 밝혔다. 온디바이스 AI는 상대적으로 속도가 빠르고, 내부 정보 유출 우려가 크지 않다는 점이 장점으로 꼽힌다. 사용자의 일상생활 데이터를 직접 파악할 수 있어 맞춤형 서비스도 가능하다. 이 때문에 스마트폰, PC에 이어 웨어러블 기기, 사물인터넷(IoT), 자율주행차 등으로 점차 시장을 넓혀 갈 것으로 보인다.

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

사용자가 딥페이크 영상에 속는 일을 막기 위해 인공지능(AI)이 생성한 이미지나 영상을 감지하거나 콘텐츠에 ‘표지’를 남기는 기술도 계속 개발되고 있다. 하지만 대체로 딥페이크를 잡는 기술은 나날이 정교해지는 딥페이크 기술의 발달 속도를 따라잡지 못하고 있다. 19일 AI 업계에 따르면 딥페이크에 대응하는 기술은 크게 ‘탐지’하는 방식과 ‘표지’를 남기는 방식으로 나뉜다. 이 중 탐지 방식은 딥페이크의 특징을 학습한 AI가 가짜 영상을 찾아내 확산되기 전에 막는 기술이다. 합성한 얼굴과 합성 이미지를 덧씌운 대상의 얼굴 경계에 있는 미세한 차이, 모델의 데이터가 부족할 때 나타나는 부정확한 표정, 딥페이크에서만 나타나는 미묘한 음성 지연 등 얼굴이나 음성을 합성할 때만 나타나는 현상을 인간의 눈, 귀보다 빠르고 정확하게 찾아낸다. 2020년 마이크로소프트(MS)와 구글, 메타 등은 우승 상금 100만 달러(현재 환율로 약 133억 3550만원)를 걸고 ‘딥페이크 디텍터 챌린지’를 열었다. 전 세계 연구자와 개발자들의 기술과 아이디어를 끌어모으기 위해서다. 대회를 통해 탐지용 AI를 학습시킬 수 있는 딥페이크 데이터 세트가 만들어졌고, 누구나 탐지 모델을 만들 때 쓸 수 있도록 소스코드도 공유됐다. 하지만 2000명 이상의 참가작 중 1위 AI 모델조차 탐지 정확도가 65%에 그쳤다. 지난해엔 인텔이 ‘페이크캐처’라는 딥페이크 탐지 소프트웨어를 공개했다. 인텔은 페이크캐처가 사람의 심장이 뛸 때마다 얼굴에 나타나는 미세한 색 변화 등을 감지해 무려 96%의 정확도로 딥페이크를 걸러낸다고 밝혔다. 하지만 BBC 등에 따르면 이는 조명, 대상 인종 등 실험 조건이 통제된 상황에서만 달성될 가능성이 높다. 국내에선 딥브레인AI가 딥페이크 탐지 기술을 꾸준히 개발하고 있다. 자사에 축적된 AI 아바타 제작 데이터와 기술력을 딥페이크 탐지에도 활용해 솔루션을 만들어 출시하고 있다. 지난달 출시한 서비스는 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 2종으로, 조작된 이미지와 동영상 탐지 서비스, 음성 탐지 서비스를 각각 제공한다. 생성형 AI가 학습할 데이터에 눈엔 보이지 않는 ‘딱지’를 붙여 딥페이크 생성 과정에서 이를 드러나게 하는 ‘워터마크’ 방식도 최근 주목을 받고 있다. 구글 딥마인드가 지난해 8월 공개한 ‘신스ID’(SynthID)가 대표적이며, 네이버 제페토와 메타 등도 워터마크 정책을 도입했다. 하지만 워터마크를 지우는 기술 역시 다양하고 빠르게 확산되고 있다. 미국 메릴랜드대 연구진은 지난해 10월 신스ID를 포함한 주요 AI 워터마크를 모두 깨뜨렸다는 연구 결과를 발표하기도 했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

서울 성동구가 행정안전부와 국민권익위원회가 합동으로 실시한 ‘2023년 민원서비스 종합평가’에서 전국에서 가장 뛰어난 민원서비스를 제공한 ‘최우수기관’으로 선정됐다. 2017년 처음으로 최우수기관으로 꼽힌 이래 7년 연속 선정으로, 한 지방자치단체가 이 같은 기록을 세운 것은 전국에서 성동구가 최초이자 유일한 사례다. 정부 업무평가의 하나로 매년 실시되는 ‘민원서비스 종합평가’는 중앙행정기관 46개, 광역·기초 자치단체 243개, 시도교육청 17개 등 총 306개 기관을 대상으로 국민이 직접 접하는 민원서비스의 수준과 민원 운영 실태를 종합적으로 평가하는 제도다. 민원행정 전략과 체계, 민원제도 운영, 국민신문고 민원처리, 고충민원 처리, 민원만족도 등 5개 항목으로 구성된 평가 지표에서 상위 10%에 드는 기관만이 최우수기관을 의미하는 ‘가’ 등급을 획득할 수 있다. 이 가운데 구는 지역 특성을 반영한 차별성 있는 민원서비스 제공, 민원 취약계층까지 배려한 창의성이 돋보이는 민원행정 개선, 기관장의 적극적인 민원행정 활동 등에서 타 기관에 비해 탁월하다는 평가를 받았다. 먼저 구가 전국 최초로 도입해 운영하고 있는 스마트 민원서식 작성시스템은 노력도와 효과성 부분에서 높은 평가를 받고 민원행정 및 서비스 개선 우수사례로 인정받았다. 스마트 민원서식 작성시스템은 디지털 취약계층이 더욱 편리하게 민원을 접수하고 처리할 수 있도록 음성인식 및 실시간 점자 표시 등의 편의 기능을 넣어 특수 제작된 시스템이다. 또 디지털 취약계층을 대상으로 스마트폰, 키오스크 등의 기초 활용법을 교육하는 ‘찾아가는 스마트 교실’, 민원인의 특성에 따라 문자·음성·수어 등 적절한 방법으로 민원 정보를 제공하는 AI 민원안내시스템 ‘성동이랑’, 취약계층 방문시 민원 안내 및 동행 서비스를 제공하는 ‘전문민원상담관’ 등도 차별성 있는 민원서비스로 평가됐다. 특히 구청장이 민원인과 직접 만나 민원을 청취하고 해결책을 모색하는 ‘구청장과 대화의 날’, 학부모를 만나 다양한 의견에 귀 기울이고 민원행정에 반영하는 ‘구청장-학부모 간담회’, 구청장이 안전에서부터 생활 불편에 이르기까지 주민의 다양한 민원을 휴대전화 문자메시지를 통해 접수하고 답변하는 ‘구청장 문자민원’ 등 민원행정에 대한 기관장의 노력 또한 높은 평가를 받아 해당 지표에서는 만점을 받은 것으로 확인됐다. 법정민원, 국민신문고민원, 고충민원 등 민원처리 완료 경험자를 대상으로 한 만족도 조사에서도 우수한 성적을 거뒀다. 정원오 성동구청장은 “앞으로도 성동구청의 모든 직원과 한마음으로 힘을 모아 주민이 체감할 수 있는 전국 최고 수준의 민원서비스 제공을 위해 최선의 노력을 다하겠다”고 강조했다.

울산대공원 동물원의 조류들은 모두 조류인플루엔자(AI) 음성으로 나왔다. 울산시 보건환경연구원은 울산대공원 동물원에서 사육 중인 가금류 100마리를 대상으로 조류인플루엔자(AI) 검사를 한 결과 모두 ‘음성’으로 나타났다고 16일 밝혔다. 이번 검사는 지난 4일 경북 경주에서 구조된 후 울산야생동물구조관리센터로 이송된 매에서 고병원성 AI가 검출됨에 따라 센터 인근 울산대공원 동물원으로 AI 유입을 방지하려고 진행됐다. 검사는 조류사육시설 5개 동에서 사육 중인 약 100마리 가금을 대상으로 진행됐다. 시설별로 분변과 환경 시료를 채취해 정밀검사를 한 결과 모두 음성으로 확인됐다. 동물원 측은 혹시 모를 AI 유입 방지를 위해 지난 6일부터 임시 휴장에 들어갔다. 이번 음성 판정에 따라 매가 포획된 날을 기준으로 AI 최대 잠복기인 14일이 지나는 시점인 오는 20일 재개장할 예정이다.

구글이 자체 개발한 거대언어모델(LLM) 제미나이의 상위 버전인 제미나이 1.5 프로를 15일(현지시간) 공개했다. 제미나이는 학습 규모에 따라 울트라·프로·나노로 나뉘는데, 이날 공개한 ‘제미나이 1.5 프로’는 구글의 최신 인공지능(AI) 모델인 ‘제미나이 1.0 울트라’와 비슷한 수준으로 텍스트·이미지·음성·영상을 생성하는 중형 멀티모달 모델이다. 구글은 제미나이 1.5 프로는 기존 1.0 프로보다 동시에 정보를 처리할 수 있는 능력이 크게 향상돼 긴 문맥을 이해하는 역량이 뛰어나다고 강조했다. AI 모델이 한 번에 처리할 수 있는 정보의 양을 ‘콘텍스트 윈도(context window)’라고 하는데, 이는 단어·이미지·영상·오디오·코드 등의 의미를 가진 ‘토큰(token)’이라는 단위로 구성된다.제미나이 1.5 프로는 최대 100만개의 토큰 처리 능력을 갖췄다. 한 번에 입력할 수 있는 데이터의 크기가 늘었다는 의미다. 약 1시간 분량의 동영상, 11시간 분량의 음성, 3만 줄의 코드, 70만개 이상의 텍스트에 해당하는 방대한 정보를 한 번에 처리할 수 있다. 예를 들어 400페이지가 넘는 분량의 아폴로 11호 달 탐사 임무 관련 문서를 주면 문서 전체 내용과 이미지, 세부 정보를 추론한다. 미국 배우 버스터 키튼의 무성영화를 보여주면 영화 구성과 사건 등을 분석하고 놓치기 쉬운 세부 내용까지도 파악한다. 문맥 기반 학습 능력도 뛰어나 소멸 위기 언어인 칼라망(Kalamang)어의 문법서를 학습하면 사람과 비슷한 수준으로 영어-칼라망어 번역을 수행한다. 칼라망어는 인도네시아 서뉴기니 섬의 일부 부족 언어로, 이 언어를 사용할 수 있는 사람은 전 세계에 200명 미만으로 알려져 있다. 제미나이 1.5 프로는 구글 AI스튜디오와 버텍스AI를 통해서 사용할 수 있다. 기본 컨텍스트 윈도우는 12만 8000개로 100만개를 사용하려면 추가 요금제를 사용해야 한다.

경기 성남시는 장애인 대상 ‘읽어주는 전자신문 구독 서비스’를 도입한다고 14일 밝혔다. 이 서비스는 전자신문 구독을 신청한 기초생활보장수급 장애인 200명에게 최신 사회·복지 정책 뉴스를 매일 오전 8시 카카오 알림톡이나 문자로 발송한다. 자립생활 콘퍼런스, 채용 연계형 프로그램 등 장애인들에게 필요한 정보를 중심으로 뉴스를 편성해 전송한다. 이 전자신문에는 기사 내용을 읽어주는 인공지능(AI) 음성지원 기능이 탑재됐다. 성남시는 4800여 신청 가구에 월 4차례 지류 장애인 복지신문을 무료 보급 중인 가운데 빠른 정보 전달을 위해 읽어주는 전자신문을 도입하게 됐다. 읽어주는 전자신문 구독 대상은 성남시 기초생활보장수급 장애인 5800명이며, 거주지 동 행정복지센터에서 서비스 신청을 하면된다. 시는 대상자들이 휴대전화로 쉽고 간편하게 매일 유용한 정보를 접해 삶에 실질적인 도움을 주게 될 것으로 내다봤다. 이를 위해 앞선 지난해 8월 7일 ‘성남시 장애인과 보호자의 알 권리 및 정보격차 해소를 위한 조례’를 제정했다. 해당 조례는 성남시에 거주하는 정보 취약계층인 장애인과 그 보호자의 알 권리를 제고하고, 디지털 정보에 쉽게 접근할 수 있도록 지원함으로써 장애인과 보호자의 삶의 질 향상과 정보격차 해소를 위해 제정된 조례다.

“인공지능(AI) 덕분에 앵커들이 집으로 돌아가 새해를 축하할 수 있게 됐습니다” 중국의 한 방송국이 중국 최대 명절인 춘제(春節·설) 연휴에 실제 앵커와 닮은 AI 앵커로 메인 뉴스를 진행해 화제다. 13일(현지시간) 홍콩 명보, 저장일보 등에 따르면 중국 저장성 항저우 원광그룹 항저우 TV는 지난 10~11일 오후 7시 30분 저녁 메인 뉴스 ‘항저우 신원롄보’ 진행자로 ‘샤오위’(小雨)와 ‘샤오위’(小宇)라는 두 AI 앵커를 기용했다. AI 앵커는 같은 시간대 뉴스를 진행하는 실제 남녀 앵커를 모델로 만들었다. 여성 앵커는 춘제를 맞아 붉은색 정장을 입고 남성 앵커는 정장에 붉은색 넥타이를 매고 뉴스에 등장했다. 방송 직후 바이두에는 “언뜻 보면 실제 사람처럼 보인다”는 반응이 쏟아졌다. 항저우 원광그룹이 개발한 AI 앵커는 생성형 AI인 ‘NeRF’(고화질 3D 변환기술·Neural radiance Fields) 기술을 기반으로 실제 앵커 위천(雨辰)과 치위(麒宇)의 표정과 목소리, 이미지, 몸짓, 억양 등을 본떠 그대로 재현했다. 앞서 중국에서는 2018년에 이미 AI 앵커가 이미 첫선을 보였지만 뉴스 프로그램 전체를 AI 앵커가 진행한 것은 처음이라고 명보는 전했다. 또 해당 기술을 이용하면 500자(字) 대본을 음성으로 바꾸는 데 30초밖에 걸리지 않으며, 쉬는 시간 없이 장시간 촬영할 수도 있다고 현지 매체는 전했다. 앞서 중국 관영 신화통신은 2018년 11월 저장성에서 열린 세계인터넷대회에서 세계 최초로 ‘AI 합성 아나운서’를 발표했다. 한편 항저우 원광그룹은 항저우 대표 미디어 그룹으로 20여명의 디지털 제작자가 다수의 방송 프로그램에 콘텐츠를 생산해 독자들에게 서비스를 제공하고 있다.

청룡의 기운이 충만한 갑진년이다. 용의 해이니 ‘화룡점정’(畵龍點睛)이라는 고사성어가 생각난다. 옛날 중국에서 장승요라는 유명 화가가 큰 사찰의 요청을 받아 하얀 용 네 마리를 벽에 그렸는데 눈동자를 그리지 않았다. 사람들이 다들 의아해하니 눈동자를 그려 넣으면 용이 살아나서 승천할 것이라 말했다. 이 말에 다들 실소를 터트리자 장승요가 네 마리 중 한 마리의 용에 눈동자를 그려 넣었고 그 즉시 천둥번개가 치며 용이 벽에서 뛰쳐나와 하늘로 날아갔다는 얘기다. 고사성어가 대개 그렇듯 초현실적인 이야기이지만 이를 통해 전하고자 하는 메시지는 여전히 유효하다. 마지막을 확실하게 마무리해야 한다는 뜻도 있고, 아주 핵심적인 일을 수행할 수 있는 존재가 돼야 한다는 의미도 있다. 그러나 인공지능(AI)으로 변혁의 한가운데 서 있는 2024년 화룡점정은 또 다른 의미를 전해 준다. 하이테크 분야의 세계적 리서치 업체 ‘포레스터’는 올해를 ‘생성형 AI와 함께하는 진보와 실험의 해’로 규정하면서 챗GPT로 대표되는 생성형 AI가 인류의 삶을 근본적으로 변화시킬 것이라고 전망했다. 단적인 예가 최근 삼성이 내놓은 ‘AI폰’이다. 이제 외국 사람들과 통화를 할 때 잘 이해되지 않는 외국어를 걱정하지 않아도 된다. 이 AI폰이 통역사 역할을 하기 때문에 각자의 모국어로도 의사소통이 가능하게 됐다. 이뿐만이 아니다. 최근 챗GPT에는 음성 기능까지 탑재돼 스마트폰을 켜 놓고 AI와 자유롭게 영어로 대화를 나눌 수도 있다. 대화가 끝나고 나면 영어 표현에 대한 코칭까지 해 준다. 이처럼 AI는 인간의 삶에 물처럼 ‘스며들’ 것이므로 AI 회의론자들조차 부지불식간에 AI에 익숙해질 것이라는 전망들이 이어진다. 이러한 현상들은 우리가 이 갑진년에 거대한 용의 그림이 그려진 벽 앞에 서 있음을 의미한다. AI 기능이 아무리 뛰어나도 아직까지는 인간이 사용하는 도구에 지나지 않는다. 그러나 우리가 AI에게 눈동자를 그려 넣는 순간 인간의 삶 전반에서 창의적이고 충직한 파트너로 진화시킬 수 있다. 그렇다면 우리 인간이 그려 넣어야 할 눈동자는 무엇일까? AI를 진정한 파트너로 진화시키기 위한 인간의 역할은 무엇일까? 크게 네 가지 측면에서 요구되는 역할이 있다. 가장 먼저 AI를 활용하는 데 명확한 윤리적 기준이 확립돼야 할 것이다. 개인 데이터를 보호하고 오남용을 방지하기 위한 법적·도덕적 기준이 그것이다. 두 번째로는 AI가 인류의 다양성을 학습할 수 있도록 해야 한다. 여러 문화와 가치관을 반영한 데이터를 학습시켜 AI가 인류 전체의 다양성을 인식하고 존중할 수 있도록 해야 하는 것이다. 세 번째로는 AI 활용 방법에 대한 교육을 일반화하는 일이다. 그래야 AI가 특정 집단만이 아니라 모든 사람들에게 삶의 파트너로 자리잡게 할 수 있다. 이러한 교육은 단순히 기술적 지식을 넘어 AI와 협력하며 새로운 가치를 창출하는 방법을 배울 수 있도록 설계돼야 한다. 마지막으로 AI의 진화는 모든 이해관계자들 간의 끊임없는 대화와 협력을 통해 이루어져야 할 것이다. 기술 개발자, 사용자, 정책 결정자들이 AI의 미래를 함께 모색하고 방향을 설정해야 한다. 인간이 AI의 눈동자를 그려 넣는다는 것은 기술 발전을 넘어서는 문제다. AI가 우리 삶의 질을 향상시키고 인류 공동의 문제를 해결할 수 있도록 하는 데 필요한 모든 것을 포괄해야 한다. 화룡점정의 해인 갑진년에 우리는 AI와 함께 새로운 지평을 열어 가고 있다. AI가 단순한 도구를 넘어 미래의 파트너로 거듭나도록 하기 위해 우리 인간들은 AI의 ‘눈동자’를 그려 넣는 작업에 다 함께 지혜를 모아야 할 것이다.

지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.

우리 몸의 장기 중 중요하지 않은 장기가 없지만, 정보를 얻는 데 있어 눈만큼 중요한 장기가 없다고 해도 과언이 아닐 것입니다. 보는 것이 믿는 것이라는 속담처럼 인간은 눈에 보이는 것에 많이 의존합니다. 하지만 불행하게도 매년 수많은 환자가 시력이 많이 떨어지거나 혹은 거의 상실하는 상황에 처합니다. 전 세계적으로 인구 고령화와 만성 질환자의 증가로 인해 백내장, 녹내장, 당뇨 망막병증 등 다양한 안과 관련 질병이 늘어나는 추세이기 때문입니다. 다행히 정기적인 안과 검진과 치료를 통해 시력을 보존하는 경우도 많지만, 일부 환자들은 치료 시기를 놓치거나 치료 후에도 상태가 악화되어 결국 시력을 대부분 상실하게 됩니다. 따라서 과학자들은 인간의 눈을 대신할 수 있는 인공 눈을 개발하기 위해 많은 연구를 해왔습니다. 하지만 현재까지 최선의 결과는 낮은 해상도로 사물의 윤곽을 보여주는 인공 망막 정도입니다. 그나마 비싼 가격과 부작용으로 인해 널리 쓰이지도 않고 있습니다. 카메라로 포착한 정보를 그대로 뇌에 전송하는 인공 망막이 어렵다면 무엇이 있는지 귀로 알려주는 인공지능 비서가 도움이 대안이 될 수 있습니다. 싱가포르 국립대학 (NUS) 수랑가 나나야카라 교수가 이끄는 연구팀은 시력 자체를 복원하는 대신 소리로 정보를 대신 알려주는 인공지능 시스템을 개발했습니다.연구팀이 AiSee라고 명명한 인공지능 시력 보조기는 목뒤로 걸치는 헤드폰이나 이어폰에 작은 카메라를 탑재한 것처럼 생겼습니다. 본체에는 1300만 화소 카메라와 프로세서, 1,200mAh 배터리, 네트워크 시스템 등이 탑재되어 있습니다. 사용법은 생김새만큼이나 간단하고 직관적입니다. 사용자가 손으로 물건을 든 상태에서 귀에 있는 터치 센서에 손가락을 갖다 대면 카메라가 이 사물을 인식해 이미지를 촬영하고 무선 네트워크를 통해 클라우드 AI에 전달합니다. AI 이미지 판독 결과는 다시 사용자에게 무선으로 전송해 줍니다. 덕분에 사용자는 촉각으로는 알 수 없는 상품 종류와 정보를 알 수 있습니다. 예를 들어 통조림의 내용물이 과일인지 햄인지 알려주고 추가로 상품명과 기타 정보를 음성으로 들을 수 있는 것입니다. 실제 시력 저하 환자에서 AiSee는 의도한 대로 작동했습니다. AiSee는 스마트폰이나 다른 보조 장치 없이 혼자서 사용할 수 있으며 생김새가 일반적인 이어폰/헤드폰과 크게 다르지 않아 착용이 편리할 것으로 기대됩니다. 그리고 현재 기술 수준에서 상용화 역시 어렵지 않을 것으로 예상할 수 있습니다. 최근 AI 기술의 부작용에 대한 경고가 계속 나오고 있지만, 사실 기술보다는 인간의 나쁜 의도가 문제가 되는 경우가 많습니다. 이렇게 선한 의도로 사용한다면 AI는 인류를 돕는 좋은 친구가 될 수 있습니다. 고든 정 과학 칼럼니스트 jjy0501@naver.com

서울 성동구의 민원 안내 인공지능(AI) 로봇 ‘성동이’가 3개월간 실무 수습을 마치고 정식 운영된다. 7일 구에 따르면 성동이는 한국로봇산업진흥원의 ‘2023년 서비스로봇 실증사업’에 선정된 첨단기술활용 민원 안내 로봇이다. 민원인의 업무 편의와 향상된 행정서비스 제공을 위해 도입했다. 지난해 10월 25일부터 시범운영을 시작해 청사 1층 구석구석을 다니며 방문객에게 청사 안내 및 민원 편의 서비스를 제공한다. 민원인과 일상적인 대화 기능을 활용해 출생신고 및 서류 발급, 여권 발급 등 주요 민원의 처리 절차를 안내하는 것은 물론, 목적지까지 에스코트하는 기능도 갖추고 있다. 성동구 주요 생활 정보 안내, 관내 주요 관광지도 소개한다. 성동이가 정식 운영되면서 기능은 보강됐다. 가독성을 높인 27인치 크기의 전·후면 구정 홍보 송출, 도서 대출 예약 서비스가 추가됐다. 특히 서울숲, 마장동 축산물시장 등 성동구 명소를 소개한다. 최근 성수동 등 성동구를 찾는 외국인이 증가함에 따라 영어, 일본어, 중국어 등 9개 국어 통역 기능을 지원해 외국인 방문객도 편리하게 민원 안내를 받을 수 있다. 민원인의 요청을 정확하게 인식하고 응대할 수 있도록 1300여 개 질문과 215개 음성 시나리오도 탑재해 친절과 똑똑함을 더 했다. 향후 구는 초등학생 및 어린이집 원아 등을 대상으로 성동이를 체험해 보는 기회를 제공하는 등 주민들이 더욱 친근하고 편리하게 성동이를 이용할 수 있도록 인공지능 로봇의 신기술에 대한 흥미와 이해를 높이는 방안도 모색해 나갈 예정이다. 정원오 성동구청장은 “시범운영을 통해 기능이 개선된 성동이가 구민들에게 스마트한 행정서비스와 편의를 제공해 줄 것으로 기대한다”라며 “앞으로도 행정서비스에 스마트 기술을 접목함으로써 구민 만족을 높이는 스마트포용도시를 구현할 것”이라고 말했다.

토종 인공지능(AI) 스타트업 업스테이지가 개발한 고성능 경량형 AI 모델이 LG전자의 초경량 노트북 ‘그램’에 ‘온디바이스 AI’(기기 내부에 구축하는 AI) 형태로 들어간다. LG전자와 업스테이지는 최근 온디바이스 AI 기술 개발 협력을 위한 업무협약(MOU)을 체결했다고 6일 밝혔다. 스마트폰에 이어 노트북에도 온디바이스 AI 탑재를 시도하는 것이다. 온디바이스 AI는 인터넷 연결 없이 기기 내부에서 정보를 직접 처리한다. 인터넷에 연결된 클라우드 기반 AI보다 보안성이 높고 속도가 빠르며, 전력 소모량이 적다. 클라우드 기반 대규모언어모델(LLM)이 생성형 AI 시대를 열었지만, 개별 소비자들에게 실용적인 AI 형태로는 온디바이스 AI가 주목받고 있다. 업스테이지의 솔라는 오픈AI의 LLM ‘GPT-3’의 10분의 1이 되지 않는 규모의 경량화 언어모델(SLM)이다. 그러면서도 추론 속도는 훨씬 빠르다. 적은 전력으로 다양한 언어 관련 AI 기능을 제공할 수 있어 온디바이스 AI 최적의 모델로 꼽혀 왔다. LG전자와 업스테이지는 이번 협약으로 솔라 기반 노트북용 온디바이스 AI와 서비스를 함께 개발하고 나아가 가전제품에도 온디바이스 AI를 적용할 수 있도록 협력을 확대해 나갈 방침이다. 가전이 사용자의 음성 명령을 인식하고 노트북 안에 저장된 문서를 검색, 추천하거나 화상 회의 내용을 문자로 저장·요약해 주는 등의 고객경험을 제공할 수 있다. 공혁준 LG전자 IT CX담당은 “초경량 프리미엄 노트북 시장을 선도한 LG 그램은 AI 분야의 앞선 기술 경쟁력을 바탕으로 차세대 AI 노트북 시장까지 공략할 것”이라고 말했다. 최홍준 업스테이지 부사장은 “양사가 더 빠르고 편리하며 안전한 AI 서비스를 제공할 수 있을 것으로 기대한다”고 말했다.

최근 5년간 국내에서 발생한 보이스피싱 피해 건수는 총 15만 6000여건, 피해액은 3조원에 이른다. 갈수록 수법이 교묘해지지만 사실상 속수무책이었다. 하지만 지난해 2월 행정안전부가 보이스피싱 음성분석 모델 ‘케이봄’(Korea-Voice Analysis Model)을 개발한 이후 변화의 조짐이 감지되고 있다. 케이봄을 만드는 데 앞장선 이는 2022년 부임한 김철(46·행정고시 50회) 행안부 통합데이터분석센터장이다. 김 센터장은 6일 “전에는 러시아, 영국 프로그램을 사용했지만 정확도가 낮아 어려움이 있었다”면서 “우리만의 음성분석 모델을 만들자는 의견이 모였고 2022년 8월 개발에 착수했다”고 설명했다. 음성분석 모델은 인공지능(AI)을 활용해 보이스피싱범의 목소리를 수많은 음성데이터와 비교하는 시스템이다. 음성을 잘 구분하려면 AI가 데이터를 학습하는 과정이 필요했다. 김 센터장은 “우선 6000명에게서 추출한 100만개의 음성을 케이봄에게 학습시키는 데 집중했다”며 “지금은 범죄자 음성데이터 1만 5000여개를 수사에 활용하고 있다”고 말했다. 이후 경찰과 소통하며 케이봄을 안착시키고자 노력했다. 5개월에 걸친 논의 끝에 경찰 수사지원시스템에 케이봄을 적용해 현장에서 언제든 시스템에 접속할 수 있도록 했다. 김 센터장은 케이봄이 해외 프로그램보다 판독률이 77%가량 높아 큰 도움이 되고 있다고 자부했다. 지난해 5월 경기남부경찰청은 케이봄으로 보이스피싱 범죄자 5명을 적발했다. 이어 통화 및 계좌 내역 조사, 폐쇄회로(CC)TV 등을 확인한 끝에 10월 일당 46명을 추가 검거했다. 김 센터장은 “끊임없이 지능화하는 범죄 형태에 맞게 케이봄을 고도화할 계획”이라며 “보이스피싱뿐 아니라 전세사기 등 다양한 음성 범죄 수사에 활용될 예정”이라고 말했다.

메타버스 상담 서비스 플랫폼 ‘메타포레스트’를 운영하는 기업 야타브엔터가 국제전문학술지(SCIE)에 메타버스 상담의 보안성 증진 관련 연구 결과를 게재했다고 5일 밝혔다. 이번 연구는 기존 비대면 상담에서 우려됐던 내담자의 얼굴, 목소리 등 개인 정보 공개나, 비언어적 요소의 제한으로 효과적 상담이 어려운 상담자들의 실제 현장 상황을 바탕으로 진행됐다. 연구를 위해 메타포레스트 플랫폼 내 총 550회의 심리상담이 진행됐으며, 상담 이후 진행된 상담사 만족도 설문 조사에서 5점 만점에 평균 4.6점의 수치를 기록했다.호서대 게임소프트웨어 학과 이준 교수 및 육군사관학교 AI데이터과학과 권현 교수는 “최근 MZ세대들의 비대면 상담 선호 현상과 맞물려 개인의 신원 정보 노출을 최소화하는 음성 변조 기반의 메타버스 상담 시스템을 개발했다. 기존 비대면 상담이나 타 메타버스 플랫폼의 경우 내담자의 개인 정보 보안을 강화시키기 위해 아바타를 활용할 수 있었으나, 상담 효과성 측면에서는 상담사가 내담자의 비언어적 단서를 식별하고 분석하기 어렵다는 한계가 있었다. 하지만 메타포레스트 플랫폼 내에서는 실시간 얼굴인식 인공지능 시스템, 아바타 표현 기술을 통해 그 우수성을 입증해 나가고 있다. 이번 연구 결과 역시 비대면 상담의 효과 고도화를 위한 중요한 사료가 될 것이라 기대한다.”라고 밝혔다. 야타브엔터 이성찬 대표는 “심리상담에서 그 무엇보다 중요한 사안은 익명성 존중 및 개인정보 보호를 위해 높은 민감성을 지니는 태도라고 생각한다. 내담자 측면에서는 상담의 보안성을 높이고 상담사 측면에서는 비언어적 요소 파악을 위한 기술 개발에 힘을 더해 누구나 마음 편하게 사용할 수 있는 가상환경 메타버스 상담 플랫폼을 제공하고자 한다.”라고 연구 목적에 대한 추가의견을 전달했다. 한편, 야타브엔터는 지난 1월 CES(Consumer Electronics Show, CES 2024)에 참여, 신한장학재단 및 한국아동복지협회와의 사회공헌 상담 서비스 활동 등을 통해 메타버스 상담의 기술 고도화뿐만 아니라, 사회적 이슈 해결을 위한 활동들을 이어오고 있다.

그제부터 인공지능(AI) 프로그램으로 만든 ‘딥페이크’ 영상 등을 선거운동에 이용하는 행위가 금지됐다. 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하의 징역 등에 처해진다. 지난해 12월 국회에서 공직선거법 개정안이 통과되면서 이뤄진 조치다. 하지만 이번 법 개정은 딥페이크 선거운동에 대한 처벌 근거를 마련한 것일 뿐이다. 빠르게 제작돼 사회관계망서비스(SNS)를 타고 삽시간에 퍼지는 딥페이크 콘텐츠의 특성상 광범위한 폐해를 막기엔 한계가 있다. 단속에 더해 조작된 정보는 만들지도 보지도 않겠다는 정치권과 유권자들의 자세가 필요한 이유다. AI 발달로 딥페이크의 민주주의 위협은 전 세계적으로 현실화하는 추세다. 조 바이든 미국 대통령의 ‘선거 불참을 권하는’ 딥페이크 음성이 확산되는가 하면 영국과 나이지리아 등에서도 정치 관련 음성 조작 사례가 속출하고 있다. 정치인뿐만이 아니다. 미국의 팝가수 테일러 스위프트는 얼굴 사진이 합성된 딥페이크 음란 이미지가 SNS에 게시돼 수천만회 조회되면서 곤욕을 치렀다. 딥페이크 콘텐츠는 단기간에 승부를 내는 선거판에서 위력을 발휘할 가능성이 크다. 중앙선관위는 검증요원과 AI 전문가들을 최대한 동원해 단속하겠다고 하지만 딥페이크 영상·이미지는 수분 만에 제작돼 실시간으로 확산되기 때문에 뒷북만 칠 가능성도 있다. 따라서 무엇보다 허위정보를 만들지 않겠다는 정치권의 책임 있는 자세가 필요하다. 지난 대선에서 가짜뉴스로 판명된 콘텐츠의 90%를 정치권이 생산했다는 조사 결과도 있다. 허위정보를 최대한 걸러 내겠다는 대형 포털의 책임 있는 자세, 조작된 정보는 보지도 퍼나르지도 않겠다는 유권자들의 노력이 뒷받침돼야 함은 물론이다.