한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 수상한 사례가 있었지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만, 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출생 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽지 않아 AI가 그렸기에 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 서울신문과 통화에서 “생성형 AI ‘미드저니’를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도 주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 비슷한 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고, 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 AI 활용을 금지하고 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 지난해부터 프로젝트 펀딩을 받기 전에 AI 활용 여부와 범위를 명확하게 밝히도록 권고했다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고, 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “그동안 촬영이나 포토샵 등 다양한 도구를 사용했는데 미드저니 등 AI를 활용한 광고가 많아졌다”면서 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 현재 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심적인 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 활용해 만든 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 하신아 웹툰작가노조 위원장은 “인간에게만 저작권을 보장하는 건 인간이 계속 창작할 수 있도록 창작 의욕이나 생활을 보호하기 위해서다”며 “식품에 원산지를 표기하는 것처럼 AI를 얼마나 활용했는지도 밝혀야 하는 시대가 왔다”고 말했다. 김명주 서울여대 정보보호학과 교수는 “AI로 손 쉽게 만든 그림이나 글은 창작자들이 공 들여 만든 데이터를 학습한 결과이기에, 학습 데이터의 저작권도 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 당장은 자신의 저작권을 주장하지 않고, AI 사용을 막는 공모전이 생긴 것”이라고 설명했다. 손승우 한국지식재산연구원장(중앙대 법학과 교수)도 “AI를 활용한 결과물이 기존 문화예술인의 권익을 침해하는 등 윤리적, 법적 문제가 발생할 수 있다”면서 “AI가 기존 저작물을 침해하지 않도록 발전시키고, 공모전도 출품작에 대한 기준을 세워야 한다”고 강조했다.

“딥페이크가 의심되면 이미지의 입과 눈을 주의 깊게 보세요. 우리가 가상인간을 만들 때 가장 어려운 부분이 역으로 딥페이크의 허점이 될 수 있습니다.” 인공지능(AI) 영상기술 전문기업 포바이포에서 버추얼유튜버(버튜버, V튜버) 태스크포스(TF)를 이끄는 안찬용(36) 팀장의 전공 분야인 가상인간을 바로 딥페이크 기술로 만든다. 딥페이크는 ‘딥러닝’과 ‘가짜’(fake)의 합성어로, 실제 인물의 이미지나 영상, 음성을 학습한 AI를 이용, 현실과 흡사한 가짜를 만들어 내는 기술이다. 그는 롯데홈쇼핑의 가상인간 ‘루시’ 제작을 총괄했으며 그의 팀은 지난해 말 ‘청아린’이라는 버튜버를 선보였다. 현재는 2호, 3호 버튜버 출시를 준비 중이다. 안 팀장은 “가상인간은 ‘20대가 가장 호감을 느끼는 얼굴 표본’처럼 실제로는 존재하지 않는 인물을 컴퓨터로 만들어 학습시킨다”며 “만일 같은 기술로 실존하는 정치인이나 연예인 등을 학습시켜 만든 가짜 인물을 통해 허위 정보를 유포하거나 특정인의 명예를 훼손하면 큰 문제가 된다”고 설명했다. 이 같은 우려는 지난달 미국에서 실제로 일어났다. 가수 테일러 스위프트를 딥페이크 기술로 합성한 음란 사진이 소셜미디어(SNS)에 유포됐다. 뉴햄프셔주 예비선거를 앞두고는 조 바이든 미국 대통령을 가장한 딥페이크 음성 전화가 유권자들에게 걸려 오기도 했다.딥페이크 콘텐츠를 탐지하는 ‘안티페이크’ AI도 존재한다. 학습 데이터에 눈에는 보이지 않는 ‘디지털 표지’를 붙여 AI가 콘텐츠를 만들 때 드러나게 하는 ‘워터마크’ 기술도 주목받고 있다. 다만 안 팀장은 “이런 기술처럼 딥페이크 기술도 빠르게 발전하는 게 문제”라고 지적했다. 가상인간을 만드는 딥페이크 전문가는 허위 영상을 판별하는 요령을 알지 않을까. 안 팀장은 “가상인간을 만들 때 말소리와 입모양을 일치(싱크)시키는 작업이 가장 어렵다”면서 “조악한 영상들은 입모양을 자세히 보면 일반인도 구분할 수 있다”고 말했다. 또 “단어의 의미나 문장의 맥락에 맞는 표정이나 자연스러운 시선 처리도 구현하기 어려운 부분”이라면서 “이런 것들 중 하나라도 이상하다고 느껴진다면 가짜 영상임을 의심해볼 수 있다”고 말했다. 하지만 이런 요령도 시간이 지나면 소용이 없어질 가능성이 있다. 안 팀장은 “후반 보정 작업을 정교하게 여러 번 거치면 얼마든지 표가 나지 않게 만들 수 있다”며 “갈수록 정교해지는 결과물을 재학습한 더 강력한 AI 모델이 반드시 등장할 것”이라고 설명했다. 다만 “‘기술’의 문제를 해결할 수 있는 것은 역시 ‘기술’인 만큼 딥페이크의 문제도 우리 딥페이크 기술자들이 해결할 것”이라고 말했다.

경찰이 최근 윤석열 대통령이 등장하는 허위 조작 영상이 온라인에 유포된 것과 관련해 게시자를 특정하기 위한 강제수사에 나섰다. 조지호 서울경찰청장은 26일 기자간담회에서 “영상을 올린 것으로 보이는 아이디를 확보했고, 해당 아이디로 개인을 특정하기 위한 압수수색을 집행했다”며 “당사자가 어떤 의도로 구체적 행위를 했는지 수사할 것”이라고 밝혔다. 지난해 11월부터 틱톡과 메타 등 소셜미디어(SNS)에는 ‘가상으로 꾸며 본 윤 대통령 양심고백 연설’이라는 제목의 46초짜리 영상이 확산됐다. 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이달 초 국민의힘이 영상을 올린 성명 불상자를 명예훼손 혐의로 고발하자 서울경찰청 사이버수사대가 수사에 착수했다. 경찰이 최근 방송통신심의위원회에 관련 게시글의 삭제와 차단을 요청했고 방심위는 지난 23일 영상에 대한 접속을 차단했다. 해당 영상에 대해 당초 딥페이크(AI로 만든 영상·이미지 합성 조작물)라는 추측이 제기됐으나 2022년 2월 윤 대통령이 대선 후보이던 시절 진행한 TV 연설 장면을 짜깁기한 것이라는 분석이 나왔다.

경찰이 최근 윤석열 대통령이 등장하는 허위 조작 영상이 온라인에 유포된 것과 관련해 게시자를 특정하기 위한 강제 수사에 나섰다. 조지호 서울경찰청장은 26일 기자간담회에서 “영상을 올린 것으로 보이는 아이디를 확보했고, 해당 아이디로 개인을 특정하기 위한 압수수색을 집행했다”며 “당사자가 어떤 의도로 구체적 행위를 했는지 수사할 것”이라고 밝혔다. 앞서 지난해 11월부터 틱톡과 메타 등 소셜미디어(SNS)에는 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 제목의 46초짜리 영상이 확산됐다. 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”면서 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이달 초 국민의힘이 영상을 올린 성명 불상자를 정보통신망법상 명예훼손 혐의로 고발하자 서울경찰청 사이버수사대가 수사에 착수했다. 경찰이 최근 방송통신심의위원회에 공문을 보내 관련 게시글의 삭제와 차단을 요청했고 방심위는 지난 23일 해당 영상에 대한 접속을 차단했다. 해당 영상은 당초 딥페이크(AI로 만든 영상·이미지 합성 조작물)라는 추측이 제기됐으나, 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV 연설 장면을 짜깁기한 것이라는 분석이 나왔다. 조 청장은 경찰의 자의적인 수사가 아니냐는 지적에 대해 “경찰이 마음대로 강제 수사할 수 있는 것도 아니고, 수사 결과도 검찰에서의 과정이 있고, 유죄로 판단하는 것은 법원”이라며 “자의성을 갖고 (수사)하지는 않을 것”이라고 강조했다.

조지호 서울경찰청장은 최근 온라인상에서 유포된 윤석열 대통령 모습이 등장하는 허위 조작 영상에 대해 “오늘 아이디로 개인을 특정하는 압수수색을 할 것”이라고 26일 밝혔다. 조 청장은 이날 정례 기자간담회에서 “영상을 올린 것으로 보이는 아이디를 확보했다”며 “당사자가 어떤 의도로 어떤 구체적 행위를 했는지 수사할 것”이라며 이같이 밝혔다. 앞서 지난해 연말부터 틱톡과 메타 등 소셜미디어(SNS)에는 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 제목의 동영상이 급속하게 퍼졌다. 46초 분량의 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 이어 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다”며 연설을 끝맺는다. 해당 영상은 당초 ‘딥페이크’(Deepfake·AI로 만든 영상·이미지 합성 기술)로 알려졌으나 기술적으로 확인한 결과 지난 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV연설 장면을 짜깁기한 것으로 확인됐다. 경찰은 최근 방송통신심의위원회에 공문을 보내 관련 게시글의 삭제 및 차단을 요청했다. 이어 방심위는 지난 23일 이들 영상에 대한 차단 조치를 만장일치로 의결했다. 앞서 경찰은 지난해 12월 개정된 딥페이크 선거운동을 금지한 공직선거법까지 거론하며 수사 범위를 확대할 수도 있다는 취지로 말했지만, 고발 당사자가 정보통신망법상 명예훼손으로만 고발한 것으로 알려져 우선 관련 혐의에 대해 조사한다는 입장인 것으로 알려졌다. 조 청장은 “(경찰이) 자의성을 갖고 (수사)하지는 않을 것”이라면서 “경찰이 인위적으로 마음대로 강제 수사할 수 있는 것도 아니고 수사 결과도 경찰이 송치하면 검찰에서의 과정이 있고 유죄로 판단하는 것은 법원”이라고 강조했다.

프랙털 패턴, 대형 카펫 위에 출력“사진 아냐… 기술 탐구하는 연구” 최장 290㎝ 길이의 거대한 융단 위에 프랙털 구조가 무한 증식하며 뻗어 나간다. 현미경으로 들여다본 세포 조직 같기도, 우주나 해저의 심연 어딘가에서 펼쳐지는 불가해한 현상으로도 보인다. 손을 대면 부드럽게 밀려 나갈 듯한 카펫 위를 촘촘히 채운 환상적인 이미지와 변화무쌍한 색채는 그 자체로 ‘황홀경’이다. 종이나 캔버스 천이 아닌 섬유 위라서 구현된 깊이감과 공간감은 이미지를 더 몽환적으로 느끼게 하며 ‘인식 너머의 세계’를 상상하게 한다. 독일 사진 거장 토마스 루프(66)의 신작 ‘d.o.pe’가 관람객을 매혹하는 방식이다. 서울 삼청동 PKM갤러리가 루프의 최근작을 국내 관람객에게 소개한다. 국내에서는 20년 만에 열리는 그의 개인전이다. 1980년대부터 안드레아스 거스키, 칸디다 회퍼 등과 함께 뒤셀도르프 사진학파의 거장 가운데 한 명으로 현대 사진 흐름을 이끌어 온 루프는 새로운 기술의 잠재력과 한계가 우리의 시각을 어떻게 변화시키는지 탐색하며 늘 스스로의 작업을 ‘갱신’해 왔다. 1970년대 후반 초상 사진부터 일본 만화책에서 가져온 이미지를 가공해 인화한 서브스트라트 연작, 인공위성이나 매스미디어에서 전송받은 형상, 알고리즘으로 생성한 디지털 작업 등 40여년간 25가지가 넘는 사진 연작을 선보여 왔다.그가 2022년부터 몰두해 온 ‘d.o.pe’ 연작은 컴퓨터 소프트웨어 프로그램으로 만들어 낸 프랙털 패턴을 독창적인 연출로 겹치거나 합성해 대형 카펫 위에 출력한 것이다. 최근 전시장에서 만난 루프는 “이미지를 인화지에 구현해 벽에 붙여 놓고 봤는데 전형적인 방식으로 이를 보여 줄 건 아니라고 판단하던 중 벽에 카펫을 걸어 놓는 전통이 있는 벨기에의 한 회사에서 카펫에 이미지를 출력한다는 걸 알게 됐다”며 “이미지 속에 끼어들 수 있을 듯한 깊이감을 느낄 수 있었다”고 했다. 동시대 사진 예술가로서 매체의 기술 변화를 작품에 반영한다는 기조를 이어 온 그는 이번 작품에 대해 “이 작품들은 사진이 아니다. 어떤 카메라도 쓰이지 않았으며 여러 기술을 탐구하는 연구의 일환”이라고 강조했다. 그러면서 “기존에 존재하는 이미지를 새로운 이미지로 만들어 내는 것도 내 작업의 일부”라고 소개했다. 하지만 예술계의 인공지능(AI) 활용에 대해선 회의적이다. “AI는 게으른 사람들을 위한 도구라 봐요. 어디선가 본 것을 모방한 것이니 결괏값도 클리셰(진부한 표현)에 불과하죠. 학습된 이미지 그 이상의 것을 만들어 낼 수 있는가가 의문입니다. 다음이 뭐가 될지 예견할 순 없지만 젊은 예술가들이 사진 예술의 경계를 예상치 못한 방식으로 확장할 거라 기대합니다.”

신동빈 롯데그룹 회장이 인공지능(AI) 전환을 연이어 강조하면서 그룹 전체가 생성형 AI 기술 개발에 박차를 가하고 있다. 25일 업계에 따르면 롯데그룹은 연내 상용화를 목표로 직원용 개인 맞춤형 AI 플랫폼을 개발하고 있다. 정보 유출 우려 없이 업무 문서와 일정, 연락처 등을 업로드해 활용할 수 있는 개인 AI 플랫폼을 개발해 전 직원에게 지원한다는 방침이다. 이를 위해 롯데 측은 롯데정보통신이 만든 생성형 AI 플랫폼 ‘아이멤버’를 기반으로 계열사별 사업 특성에 맞춘 ‘아이멤버 커스텀 챗봇’을 개발했다. 앞으로 챗봇을 더 고도화해 상반기 중 팀 단위에 제공되는 맞춤형 플랫폼을 개발하고 연내에 개인 맞춤형 AI 플랫폼을 선보인다는 계획이다. 각 계열사에서도 AI 활용 범위를 넓히고 있다. 롯데백화점은 AI아티스트 노엘 반다이크와 협업, 올해 봄 시즌 비주얼 이미지를 제작했으며 롯데홈쇼핑은 지난 8일 가상인간 루시가 출연하는 ‘루시톡라이브’를 론칭했다. 루시의 AI 아바타를 만들고 음성합성(TTS) 기술로 제작된 목소리를 송출하는 방식이다. 롯데마트는 오는 3월 3일 삼겹살데이를 앞두고 대형마트 검품 현장에 AI 기술을 활용한 삼겹살 선별기를 도입했다. 딥러닝 기반의 AI 장비가 삼겹살 단면을 분석해 살코기와 지방의 비중을 확인하고 과지방 삼겹살을 선별해 낸다. 롯데그룹은 또 하반기에 메타버스 플랫폼 ‘칼리버스’를 공개하고 국내외 시장 공략에 나설 계획이다. 롯데가 이처럼 AI 기술에 힘을 주는 것은 신 회장이 각별히 관심을 쏟고 있기 때문이다. 앞서 신년사에서 ‘AI 트랜스포메이션’ 시대를 맞이하기 위한 사업 혁신을 주문하며 “확보된 AI 기술을 활용해 업무 전반에 AI 수용성을 높이고, 생성형 AI를 비롯한 다양한 부문에 기술 투자를 강화해 달라”고 말했다. 상반기 사장단 회의(VCM)에서도 “AI를 단순히 업무 효율화 수단으로 생각하지 말고, 혁신의 관점에서 본원적 경쟁력을 강화하기 위한 방안으로 여겨 달라”고 했다. 앞서 롯데그룹은 지난해 9월부터 노준형 ESG경영혁신실 실장(부사장)을 중심으로 하는 AI 태스크포스(TF)를 가동해 왔다. 애초 TF는 다음달 운영을 마칠 예정이었지만, 업계에서는 그룹 안팎의 관심을 고려할 때 TF 운영이 어떤 식으로든 연장될 가능성이 있을 것으로 전망하고 있다.

최장 290㎝ 길이의 거대한 융단 위에 프랙털 구조가 무한 증식하며 뻗어나간다. 현미경으로 들여다본 세포 조직 같기도, 우주나 해저의 심연 어딘가에서 펼쳐지는 불가해한 현상으로도 보인다. 손을 대면 부드럽게 밀려나갈 듯한 카페트 위를 촘촘히 채운 환상적인 이미지와 변화무쌍한 색채는 그 자체로 ‘황홀경’이다. 종이나 캔버스 천이 아닌 섬유 위라서 구현된 깊이감과 공간감은 이미지를 더 몽환적으로 느끼게 하며 ‘인식 너머의 세계’를 상상하게 한다. 독일 사진 거장 토마스 루프(66)의 신작 ‘d.o.pe’가 관람객을 매혹하는 방식이다. 서울 삼청동 PKM갤러리가 루프의 최근작을 국내 관람객에게 소개한다. 국내에서는 20년 만에 열리는 그의 개인전이다.1980년대부터 안드레아스 거스키, 칸디다 회퍼 등과 함께 뒤셀도르프 사진학파의 거장 가운데 한 명으로 현대 사진 흐름을 이끌어온 루프는 새로운 기술의 잠재력과 한계가 우리의 시각을 어떻게 변화시키는지 탐색하며 늘 스스로의 작업을 ‘갱신’해 왔다. 1970년대 후반 초상 사진부터 일본 만화책에서 가져온 이미지를 가공해 인화한 서브스트라트 연작, 인공위성이나 매스미디어에서 전송받은 형상, 알고리즘으로 생성한 디지털 작업 등 40여년간 25가지가 넘는 사진 연작을 선보여 왔다. 그가 2022년부터 몰두해온 ‘d.o.pe’ 연작은 컴퓨터 소프트웨어 프로그램으로 만들어낸 프랙털 패턴을 독창적인 연출로 겹치거나 합성해 대형 카페트 위에 출력한 것이다. 최근 전시장에서 만난 루프는 “이미지를 인화지에 구현해 벽에 붙여놓고 봤는데 전형적인 방식으로 이를 보여주는 건 아니라고 판단하던 중 벽에 카펫을 걸어놓는 전통이 있는 벨기에의 한 회사에서 카펫에 이미지를 출력한다는 걸 알게 됐다”며 “이미지 속에 끼어들 수 있을 듯한 깊이감을 느낄 수 있었다”고 했다. 동시대 사진 예술가로서 매체의 기술 변화를 작품에 반영한다는 기조를 이어온 그는 이번 작품에 대해 “이 작품들은 사진이 아니다. 어떤 카메라도 쓰이지 않았고 여러 기술을 탐구하는 연구의 일환”이라고 강조했다. 그러면서 “기존에 존재하는 이미지를 새로운 이미지로 만들어내는 것도 내 작업의 일부”라고 소개했다. 하지만 예술계의 인공지능(AI) 활용에 대해선 회의적이다. “AI는 게으른 사람들을 위한 도구라 봐요. 어디선가 본 것을 모방한 것이니 결과값도 클리셰(진부한 표현)에 불과하죠. 학습된 이미지 그 이상의 것을 만들어낼 수 있는가가 의문입니다. 다음이 뭐가 될지 예견할 순 없지만 젊은 예술가들이 사진 예술의 경계를 예상치 못한 방식으로 확장할 거라 기대합니다.”

국내 가상자산(암호화폐) 거래소들이 앞다투어 시스템 보안을 강화하고 있다. 오는 7월 가상자산 이용자 보호법 시행을 앞둔 가운데 국내외 정보보호 및 보안인증을 바탕으로 투자자 보호책을 보완하려는 것이다. 암호화폐 거래소 코빗은 23일 국내 업계 중 처음으로 SOC 1(Type 2)을 통과했다고 밝혔다. 국제 표준에 따라 재무 관련 내부통제를 평가하는 인증제도로 시스템 보안을 확보하고자 하는 조치다. SOC 인증(System and Organization Controls)은 기업이 안정적 서비스 제공을 위해 미국공인회계사회(AICPA) 및 국제 감사인증기준위원회(IAASB)가 확인하는 제도다. 글로벌 기준에 따라 고객사가 내부통제를 안정적으로 운영하고 있는지를 평가하고 확인한다. 코빗은 2022년 SOC 1의 ‘Type 1’ 인증을 받은바 있는데 이때 발표한 내부통제 설계 계획을 지난 1년간 실제로 이행한 뒤 이차적인 평가를 거쳤다. 향후 법인이 코빗에서 가상자산 입출금, 원화 입출금, 가상자산 매수매도, 기타 스테이킹 서비스를 이용할 때 SOC 1이 있다면 별도로 재무 내역을 확인할 필요가 없다. 코빗 관계자는 “선제적으로 안전장치를 도입한 것이다”며 “향후 법인의 가상자산 투자에 대비함과 동시에 보안 측면에서 신뢰를 확보하고자 했다”고 말했다. 국내 거래소들도 정보보호 관리체계(ISMS), 국제 표준 인증(ISO) 등 정보보호 및 보안인증을 확대하며 시스템을 강화 중이다. 한국인터넷진흥원(KISA)이 관리하는 ISMS 인증은 총 80개 항목의 적합성 평가를 모두 통과할 경우 주어지는데 특금법(특정금융거래정보법)에 따라 가상자산 사업자는 이 인증을 필수적으로 갖춰야 한다. 다만 거래소들은 ISMS 다음 단계의 인증을 취득하거나 해외 인증까지 얻어내는 방식으로 보안을 확보하고 있다. 국내 최대 거래소 업비트는 2018년 ISMS 인증을 취득하고 2021년에는 ISMS-P까지 얻어냈다. ISMS는 기업이 내부 관리체계를 안정적으로 확보했음을 의미하며 ISMS-P는 개인정보의 흐름까지 인정받은 것이다. 또 지난해 11월에는 업무 연속성 관리시스템 국제 표준인 ISO 22301을 인증받았다. 그 외에도 정보·클라우드·개인 정보 보안 등 ISO 인증을 보유하고 있다. 빗썸도 정보보안 인증을 다수 가지고 있다. 지난해 2월 KISA의 ISMS-P 인증을 취득했고 ISO 4종과 국제 인증인 BS10012도 확보했다. 코인원도 지난해 1월 ISMS를 승인받았으며 ISO27001(정보보안) 인증을 보유 중이다. 고팍스도 국제 정보보호 경영시스템 표준인 ISO/IEC 27001과 ISMS 인증을 2018년 업계 최초로 취득한 바 있다. 2021년에는 ISO/IEC 인증을 다음 단계인 ISO·IEC 27017, 27018까지 확장했다.

방송통신심의위원회가 23일 긴급 통신심의소위원회를 열어 윤석열 대통령과 관련한 짜깁기 영상을 차단하기로 의결했다. 방심위는 향후 이와 유사한 허위 영상에 대해서는 긴급 차단 조치에 나선다는 방침이다. 이날 방심위는 경찰이 전날 삭제·차단을 요청해온 윤 대통령 관련 조작 영상 23개를 ‘현저한 사회 혼란을 일으킬 우려가 있는 영상’으로 판단하고 소셜네트워크서비스(SNS)에서 차단하는 결정을 만장일치로 의결했다. 이를 위해 인스타그램과 페이스북, 틱톡 등의 플랫폼에 차단 조치를 요청했다. 해당 영상은 인공지능(AI)으로 만든 딥페이크(Deepfake·영상·이미지 합성 조작물)가 아닌 2022년 2월 대선 과정에서 윤 대통령이 했던 TV연설 장면을 편집해 제한 것으로 파악됐다. 이 영상의 제목은 ‘가상으로 꾸며본 윤 대통령 양심고백연설’로, 44초 분량의 해당 영상에는 윤 대통령이 등장해 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”라고 말하는 장면이 담겼다. 방심위는 실제 영상을 이용해 만든 해당 게시물을 일반 국민이 윤 대통령이 한 실제 발언으로 오인하게 할 우려가 큰 것으로 보고 신고 접수 하루 만에 긴급 차단 조치를 하게 됐다고 설명했다. 일각에서는 게시자가 ‘가상으로 꾸몄다’라고 밝힌 영상인 만큼 정치적 풍자로 볼 수 있다는 주장도 나온다. 경찰은 해당 영상과 게시글이 허위 사실 적시에 의한 명예훼손에 해당한다고 보고 차단을 요청한 바 있다.

“저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다. 저 윤석열의 사전에 정치 보복은 있어도 민생은 없습니다” ‘윤석열 대통령 양심고백 영상’이란 제목으로 ‘가짜’ 윤석열 대통령 딥페이크(Deepfake·AI로 만든 이미지 영상 합성 기술) 영상물이 소셜미디어(SNS)에서 확산하자 경찰이 22일 방송통신심의위원회에 차단을 요청한 것으로 확인됐다. 방심위는 해당 영상을 ‘대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물’로 판단하고 긴급 심의에 착수했다. 서울경찰청은 최근 방심위에 공문을 보내 틱톡과 메타 등에 올라온 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’ 딥페이크 게시글의 삭제와 차단을 요청했다. 근거 조항은 방송통신위원회의 설치 및 운영에 관한 법률, 정보통신망 이용촉진 및 정보보호 등에 관한 법률, 정보통신에 관한 심의 규정이다. 경찰은 “같은 URL 주소를 통해 틱톡, 인스타, 페이스북 사이트 계정을 사용하는 회원이 문제의 영상 등을 게시한 것으로 확인돼 삭제·차단을 요청한다”고 밝혔다. 방심위는 해당 내용을 접수하고 오는 23일 긴급 통신 심의소위원회를 열어 해당 안건을 심의한 뒤 바로 삭제 및 차단 조치를 할 것으로 알려졌다.46초 분량의 영상 속 윤석열 대통령은 “존경하는 국민 여러분. 저 윤석열, 국민을 괴롭히는 법을 집행해온 사람이다. 무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”라고 말한다. 이어 “저 윤석열, 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”며 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다”고 말했다. 그러면서 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다. 감사하다”며 연설을 끝맺는다. 이날 오후 4시 현재 틱톡에서 ‘윤석열 양심’을 검색하면 같은 게시글이 5개가량 검색된다. 영상 댓글에는 “이건 윤석열이 아니다”, “이거 만든 사람 처벌해야 한다”는 부정적 반응과 반대로 “정말 저렇게 인정하면 좋으련만”, “가짜가 진짜보다 좋다” 등의 반대 반응도 달렸다. 앞서 2022년에도 지방선거를 앞두고 윤 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 SNS를 통해 확산하면서 정치적 논란이 됐었다. 한편, 중앙선거관리위원회(선관위)에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.

중앙선거관리위원회가 오는 4월 총선을 앞두고 공직선거법상 위법 사항인 인공지능(AI)을 활용한 ‘딥페이크’ 불법 게시물을 22일 만에 129건이나 적발했다. 상대당 후보가 참석하지도 않은 행사에 참석한 듯 이미지를 합성하는 등 특정 정치인의 이미지를 왜곡하거나 조롱하는 영상물로 모두 삭제했다고 한다. 선거가 가까워질수록 이런 불법 선거물이 넘쳐날 판이니 대책 마련이 시급해 보인다. 딥페이크 영상 등은 AI 기술 등으로 만들어 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등이다. 공직선거법 개정에 따라 지난달 29일부터 이런 딥페이크물은 제작·편집·유포·상영·게시할 수 없다. 위반하면 7년 이하 징역이나 최고 5000만원의 벌금형에 처한다. AI 기술로 만든 가상의 영상물이라고 표시를 하더라도 허위사실이 포함된 경우에는 허위사실 공표죄로 처벌한다지만 위해성을 감안하면 미흡한 대책이다. 선관위는 반복적이고 악의적인 딥페이크물은 고발 조치 등 강력 대응해야 한다. 이런 불법 게시물은 삭제하더라도 삭제하기 전에 본 유권자들에게 특정 정당과 정치인에 대한 왜곡되거나 편향된 인식을 심어 주고 유권자의 정확한 판단을 흐리게 한다. 포털 업체와 정치권의 협조도 필요하다. 선관위에서 AI 전담 조직을 꾸려 모니터링을 강화한다지만 모든 딥페이크물을 적발하기란 힘든 일이다. 포털 업체가 선관위의 삭제 요청에 앞서 스스로 이런 딥페이크물을 걸러 내는 시스템을 갖춰야 한다. 정치권은 딥페이크를 활용한 불법 선거물을 제작, 유포하는 정치인은 공직선거에 입후보할 자격을 박탈하는 등 AI 선거의 해악을 최소화할 방안을 모색해야 한다. 유권자의 눈과 귀를 흐리는 선거는 정치에 대한 불신감만 키울 것이다.

아부다비에 다녀왔다. 유네스코가 주최한 제3회 문화예술교육 세계대회는 변화하는 국제 정세와 사회적 가치 등을 반영한 새로운 문화예술교육 프레임워크를 채택하는 국제 행사였다. 한국대표단으로 참석해 인공지능(AI) 기반 교육 확대 전략을 주제로 문화예술 분야의 비인간 교수자 도입 방안을 발표했는데 챗GTP의 도움으로 보다 설득력 있는 발표 자료를 만들 수 있었다. 챗GPT의 활용과 인기는 소셜미디어에서도 확인할 수 있다. AI로 만든 햄스터 캐릭터로 스토리를 이어 가는 인스타그램 계정은 만든 지 3주 만에 팔로어가 1만명을 넘어섰다. 한편에서는 이러한 콘텐츠를 창작물로 볼 수 있는지, 저작권 이슈는 없는지 우려하는 목소리도 있다. 하지만 즐기는 입장에서는 AI가 만든 창작물도 이렇게 재미있을 수 있다는 사실이 흥미롭기만 하다. 챗GPT는 아직은 그 자체로 재미를 창출하지는 못한다. 챗GPT로 콘텐츠를 만드는 방식은 유사하지만 재미의 수준에는 차이가 있어 반응도 제각각이다. 결국 재미라는 것이 챗GPT를 활용하는 창작자에게서 나오기 때문이다. 챗GTP는 제작에 대한 기능적 전문성이 없더라도 창의적 스토리를 시각적으로 보여 줄 수 있게 하므로 아이디어는 갖고 있지만 시각적으로 표현할 능력은 없었던 소비자들을 새로운 창작자로 만들어 주는 기반으로 활용될 수 있다. 이에 대해 소비자학 관점에서는 수동적으로 콘텐츠를 감상하기만 했던 컨슈머가 창작자이자 소비자인 크리슈머로 진화한 것으로 해석한다. 크리슈머는 ‘크리에이터’와 ‘컨슈머’의 합성어다. 로봇산업의 발전 과정에서 논의됐던 ‘불쾌한 골짜기’(uncanny valley) 이론이 챗GPT에도 적용된다. ‘불쾌한 골짜기’란 인간이 로봇 등 인간이 아닌 존재를 볼 때 인간과의 유사성이 높을수록 호감도도 높아지지만, 일정 수준에 이르면 오히려 불쾌감을 느끼는 상황을 뜻한다. 이 이론에 따르면 챗GPT가 인간과 유사한 화자 역할을 하기 때문에 정말로 살아 있는 것은 아닌가 하는 의문이 생길 수 있고, 이러한 의문은 불쾌감으로 연결될 수도 있다. 그러나 챗GPT를 실생활에서 이미 유용하게 활용하고 점점 실용도가 높아지면서 불쾌한 골짜기를 논의할 단계는 지났다고 생각한다. 직업 안정성에 위험을 가져올 기술 발전에 거부감을 느끼는 것은 당연하다. 대표적인 것이 영국의 러다이트운동이다. 그러나 챗GPT와 같은 생성형 AI를 활용한 창작은 튜브물감의 사용으로 등장한 인상주의나 카메라의 발명으로 등장한 사진과 영화, 컴퓨터의 사용으로 등장한 미디어아트와 같이 인간의 창작 방식을 진일보시키는 발전으로 바라봐야 한다. 텍스트만 입력하면 영상이 만들어지는 것은 물론이고 곡을 만들고 원하는 콘셉트로 연주까지 해 주는 AI 플랫폼들이 등장했다. AI를 활용한 새로운 창작 방식을 적극적으로 수용함으로써 이전에는 감히 창작에 나서지 못했던 잠재 창작자들에게 더 많은 창작 참여 기회가 주어지고 있다. AI가 인간을 대체하는 것이 아니다. 인간이 만들고 즐기고 감상할 수 있는 것들이 다양해지는 것이다. 한성대 문학문화콘텐츠학과 교수

전 세계적으로 인공지능(AI) 기술을 활용한 딥페이크 저작물이 쏟아지는 가운데 우리나라도 주요 선진국처럼 규제 입법 논의를 서둘러야 한다는 지적이 나온다. 딥페이크가 ‘민주주의의 주적(主敵)’으로 부상한 지 오래지만 국회에 발의된 건 소위 ‘made by AI’(인공지능이 만든 저작물) 표기 의무화 법안 4건뿐이다. 이마저도 무관심 속에 오는 4월 폐기될 것으로 전망된다. ‘made by AI’ 표기 의무화여야 무관심 속 무산될 듯 19일 국회 의안정보시스템에 따르면 김승수 국민의힘 의원이 지난해 12월 대표 발의한 정보통신망법 개정안에는 딥페이크 등 AI 기술을 이용해 만든 가상의 정보를 온라인에 게시할 때 ‘워터마크’(식별표시)를 의무화하는 내용이 담겼다. 어기면 1000만원 이하의 과태료를 부과하고 해당 영상을 삭제할 수 있다. 배현진 국민의힘 의원도 2022년 1월 발의한 정보통신망법 개정안에서 딥페이크 영상에 워터마크를 부착하는 것을 의무화했다. 또 당사자 의사에 반해 AI 기술로 딥페이크 영상(음성·이미지 포함)을 만들 경우 당사자가 삭제를 요청할 수 있게 했다. 박성중 국민의힘 의원과 이상헌 더불어민주당 의원도 비슷한 내용으로 각각 정보통신망법 개정안(2023년 11월)과 콘텐츠산업진흥법 개정안(2023년 5월)을 내놓았다.규제 탓 AI 발전 저해 우려“표기 의무 범위 적절해야” 하지만 이번 국회에서 4개 법안의 법제화는 쉽지 않아 보인다. 여야 모두 총선 국면으로 진입하면서 논의는커녕 관심조차 두지 않고 있기 때문이다. 정부 역시 콘텐츠 제작자의 책임성을 강화하는 해당 법안들의 취지에는 공감하지만 AI 산업 성장을 저해할 수 있다는 업계 의견도 있어 신중히 검토해야 한다는 입장이다. 또 이 법안들은 사람 눈에 보이지 않는 컴퓨터용 식별번호인 ‘AI 워터마크’를 의무화하면 원칙적으로 딥페이크 예방이 가능하다는 취지를 담고 있다. 하지만 기술적으로 볼 때 선결 과제가 적지 않다. 우선 현재 오픈AI, 구글, 메타 등이 각자의 워터마크를 표시하겠다는 계획을 밝힌 상태다. 결국은 텍스트, 이미지, 오디오, 동영상 등 모든 콘텐츠에 적용할 수 있고 모든 창작자가 쉽게 사용할 전 세계 기술 표준이 필요하다. 특히 현 상황에서 AI 기술로 AI 워터마크를 우회해 무력화하는 것도 가능하다. 모든 개인 창작자가 워터마크를 표시하라는 규제를 따를지도 의문이다. 이에 워터마크를 쓰지 않는 ‘딥페이크 애플리케이션’을 대형 앱스토어에 올리지 못하도록 해야 한다는 지적도 나온다. 우리나라는 현재 중앙선거관리위원회가 지난해 12월 통과된 공직선거법에 따라 선거 기간 집중적으로 선거운동이나 여론 조작, 국론 분열 등을 의도하는 딥페이크 영상을 규제한다. 누구든지 선거 90일 전(22대 총선 기준 1월 29일)부터 선거운동을 위해 딥페이크 영상·음향·이미지 등을 제작·편집·유포·상영·게시할 수 없다. 또 인터넷에 이미 게시된 딥페이크 영상도 선거 90일 전까지 삭제해야 한다. 위법 기간 전이라도 선거운동으로 딥페이크 영상을 제작·편집·유포·상영·게시한다면 전체 화면의 10분의1 크기로 ‘이 영상은 실제가 아닌 AI 기술 등을 이용해 만든 가상의 정보’라는 문구를 표시해야 한다. 선관위에 따르면 법안에 따른 규제 기간이 아니어도 딥페이크 영상을 아무런 표시 없이 누군가를 당선시킬 목적으로 제작·유포하면 5년 이하의 징역 또는 5000만원 이하의 벌금에 처한다. 또 누군가를 낙선시킬 목적으로 제작·유포하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처한다. 美바이든 AI 생성물 규제구글 등 20곳 연합군 결성 주요 선진국들은 딥페이크 관련 규제를 속속 도입하고 있다. 조 바이든 미국 대통령은 지난해 첫 AI 행정명령에 서명해 AI 생성물 여부를 구분할 수 있도록 했다. 팝가수 테일러 스위프트의 얼굴과 음란물을 합성한 AI 가짜 이미지가 소셜미디어(SNS)에 퍼지며 전 세계에 파문을 일으킨 뒤 백악관이 직접 나서 규제 강화 필요성을 강조하면서 입법을 촉구했다. 애리조나주 공화당 의원들은 공직 후보자나 주민이 자신을 사칭한 가짜 디지털 콘텐츠를 게시한 사람에게 손해배상을 청구할 수 있도록 하는 법안을 제출했다. 최근 구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 독일 뮌헨안보회의(MSC)에서 ‘딥페이크와의 전쟁’을 목표로 연합군을 결성한 것 역시 주목할 만하다. 반면 총선을 앞두고 영향력이 큰 네이버와 카카오 등 국내 포털의 경우 사전 필터링이 아니라 선관위가 판단해 삭제 요청을 하는 딥페이크 저작물에만 대응하는 소극적 후속 조치를 할 뿐이다. 이대희 고려대 법학전문대학원 교수는 “AI 생성물임을 표기하는 것은 이용자를 속이거나 개인 프라이버시를 침해하는 것을 방지하는 긍정적 역할을 하며 원칙적으로는 당연히 필요한 부분”이라면서 “다만 AI 생성물임을 적합하게 표기하도록 하려면 표기 의무 범위를 적절하게 정해 줘야 한다”고 제언했다.

사용자가 딥페이크 영상에 속는 일을 막기 위해 인공지능(AI)이 생성한 이미지나 영상을 감지하거나 콘텐츠에 ‘표지’를 남기는 기술도 계속 개발되고 있다. 하지만 대체로 딥페이크를 잡는 기술은 나날이 정교해지는 딥페이크 기술의 발달 속도를 따라잡지 못하고 있다. 19일 AI 업계에 따르면 딥페이크에 대응하는 기술은 크게 ‘탐지’하는 방식과 ‘표지’를 남기는 방식으로 나뉜다. 이 중 탐지 방식은 딥페이크의 특징을 학습한 AI가 가짜 영상을 찾아내 확산되기 전에 막는 기술이다. 합성한 얼굴과 합성 이미지를 덧씌운 대상의 얼굴 경계에 있는 미세한 차이, 모델의 데이터가 부족할 때 나타나는 부정확한 표정, 딥페이크에서만 나타나는 미묘한 음성 지연 등 얼굴이나 음성을 합성할 때만 나타나는 현상을 인간의 눈, 귀보다 빠르고 정확하게 찾아낸다. 2020년 마이크로소프트(MS)와 구글, 메타 등은 우승 상금 100만 달러(현재 환율로 약 133억 3550만원)를 걸고 ‘딥페이크 디텍터 챌린지’를 열었다. 전 세계 연구자와 개발자들의 기술과 아이디어를 끌어모으기 위해서다. 대회를 통해 탐지용 AI를 학습시킬 수 있는 딥페이크 데이터 세트가 만들어졌고, 누구나 탐지 모델을 만들 때 쓸 수 있도록 소스코드도 공유됐다. 하지만 2000명 이상의 참가작 중 1위 AI 모델조차 탐지 정확도가 65%에 그쳤다. 지난해엔 인텔이 ‘페이크캐처’라는 딥페이크 탐지 소프트웨어를 공개했다. 인텔은 페이크캐처가 사람의 심장이 뛸 때마다 얼굴에 나타나는 미세한 색 변화 등을 감지해 무려 96%의 정확도로 딥페이크를 걸러낸다고 밝혔다. 하지만 BBC 등에 따르면 이는 조명, 대상 인종 등 실험 조건이 통제된 상황에서만 달성될 가능성이 높다. 국내에선 딥브레인AI가 딥페이크 탐지 기술을 꾸준히 개발하고 있다. 자사에 축적된 AI 아바타 제작 데이터와 기술력을 딥페이크 탐지에도 활용해 솔루션을 만들어 출시하고 있다. 지난달 출시한 서비스는 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 2종으로, 조작된 이미지와 동영상 탐지 서비스, 음성 탐지 서비스를 각각 제공한다. 생성형 AI가 학습할 데이터에 눈엔 보이지 않는 ‘딱지’를 붙여 딥페이크 생성 과정에서 이를 드러나게 하는 ‘워터마크’ 방식도 최근 주목을 받고 있다. 구글 딥마인드가 지난해 8월 공개한 ‘신스ID’(SynthID)가 대표적이며, 네이버 제페토와 메타 등도 워터마크 정책을 도입했다. 하지만 워터마크를 지우는 기술 역시 다양하고 빠르게 확산되고 있다. 미국 메릴랜드대 연구진은 지난해 10월 신스ID를 포함한 주요 AI 워터마크를 모두 깨뜨렸다는 연구 결과를 발표하기도 했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

KAIST는 16일 열린 학위수여식에서 세계적인 소프라노 조수미에게 명예 과학기술학 박사 학위를 수여했다. 조씨는 2021년부터 KAIST 문화기술대학원 초빙 석학 교수로 일해왔다. 그는 ‘조수미 공연예술연구센터’를 설립해 AI(인공지능) 기반 음악 합주기술을 활용한 무대 공연, 가창 합성 기술, 가상의 목소리 연구 등을 자문했다. 또 KAIST 학생을 대상으로 특강과 토크 콘서트를 열고 세계 무대 경험을 공유했다. 조씨는 이날 연설에서 “이광형 총장님으로부터 세계 무대에서 경험하고 느낀 바를 ‘음악과 나의 삶’이란 주제로 과학도들에게 얘기해달라는 부탁을 받았을 때 내 음악의 길과 과학기술이 어떤 관계가 있을까 의문이 컸다”면서 “그러나 여기서 일하면서 무대에서 노래하는 것은 예술가의 내면을 음향·조명·연출 등 방법으로 청중이 가장 잘 느낄 수 있도록 보여주는 종합 예술로 과학기술과 문화예술이 공존하는 환경에서 노래했다는 사실을 깨달았다”고 했다. 그는 “과학기술과 문화예술은 공존하며, 자기 아이디어를 자유롭게 즐기며 탐색할 때 통찰은 더 날카로워지고 창의력은 더 풍부해진다”고 거듭 강조했다. 조씨는 1986년 세계 오페라 무대에 처음 데뷔했다. 전설적 지휘자 헤르베르트 폰 카라얀과은 ‘신이 내린 목소리’라고 그를 극찬했다. 조씨는 “카라얀은 ‘모차르트의 밤의 여왕은 가장 어려운 소프라노 아리아 중 하나로 언제나 도전이 필요한 노래다. 그 만큼 목에 무리를 줄 수 있으니 목을 아껴 부르라’고 조언했다”며 “제 목소리가 소중한 재능인 만큼 잘 지키고 가꿔서 사람들에게 오랫동안 감동을 전하라는 따뜻한 충고였고, 저는 그 말씀을 늘 새기며 살아왔다”고 카라얀과의 운명적 만남을 떠올리기도 했다. 이와 관련 그는 “KAIST 졸업생 모두에게도 자신만의 밤의 여왕 아리아가 있을 것이고, 저와 마찬가지로 모두 자신만의 재능으로 세상과 소통하며 즐거움과 희망, 행복, 감동을 줄 수 있다”며 “다른 점이 있다면 목소리와 달리 연구자의 통찰과 창의성은 상하거나 소모되지 않는 것”이라고 조언했다. 이어 “KAIST에서 일하면서 과학기술 인재들이 자기 아이디어를 자유롭게 즐기며 탐색할 때 통찰과 창의력이 더 날카롭고 풍부해지는 걸 볼 수 있었다”며 “여러분이 자신만의 아리아를 맘껏 펼쳤으면 한다”고 했다. 한편 미국 반도체기업 브로드컴 혹 탄(Hock Tan) 최고경영자도 이날 조씨와 함께 KAIST 명예 공학박사 학위를 받았다. 2006~2013년 KAIST 총장자문위원회의 해외위원을 지낸 그는 “KAIST는 한국이 세계적 경제 강국으로 발돋움하는데 핵심 역할을 했다. 이런 대학에게 인정받아 영광”이라고 말했다.

“인공지능(AI) 덕분에 앵커들이 집으로 돌아가 새해를 축하할 수 있게 됐습니다” 중국의 한 방송국이 중국 최대 명절인 춘제(春節·설) 연휴에 실제 앵커와 닮은 AI 앵커로 메인 뉴스를 진행해 화제다. 13일(현지시간) 홍콩 명보, 저장일보 등에 따르면 중국 저장성 항저우 원광그룹 항저우 TV는 지난 10~11일 오후 7시 30분 저녁 메인 뉴스 ‘항저우 신원롄보’ 진행자로 ‘샤오위’(小雨)와 ‘샤오위’(小宇)라는 두 AI 앵커를 기용했다. AI 앵커는 같은 시간대 뉴스를 진행하는 실제 남녀 앵커를 모델로 만들었다. 여성 앵커는 춘제를 맞아 붉은색 정장을 입고 남성 앵커는 정장에 붉은색 넥타이를 매고 뉴스에 등장했다. 방송 직후 바이두에는 “언뜻 보면 실제 사람처럼 보인다”는 반응이 쏟아졌다. 항저우 원광그룹이 개발한 AI 앵커는 생성형 AI인 ‘NeRF’(고화질 3D 변환기술·Neural radiance Fields) 기술을 기반으로 실제 앵커 위천(雨辰)과 치위(麒宇)의 표정과 목소리, 이미지, 몸짓, 억양 등을 본떠 그대로 재현했다. 앞서 중국에서는 2018년에 이미 AI 앵커가 이미 첫선을 보였지만 뉴스 프로그램 전체를 AI 앵커가 진행한 것은 처음이라고 명보는 전했다. 또 해당 기술을 이용하면 500자(字) 대본을 음성으로 바꾸는 데 30초밖에 걸리지 않으며, 쉬는 시간 없이 장시간 촬영할 수도 있다고 현지 매체는 전했다. 앞서 중국 관영 신화통신은 2018년 11월 저장성에서 열린 세계인터넷대회에서 세계 최초로 ‘AI 합성 아나운서’를 발표했다. 한편 항저우 원광그룹은 항저우 대표 미디어 그룹으로 20여명의 디지털 제작자가 다수의 방송 프로그램에 콘텐츠를 생산해 독자들에게 서비스를 제공하고 있다.

지난해 11월 말 챗GPT 출시 1주년을 앞두고 오픈AI 이사회와 샘 올트먼 최고경영자(CEO)가 충돌한 기저에는 인공지능(AI)이 인류에 번영을 가져다 줄 것이라고 생각하는 ‘부머’(Boomer)와 생존을 위협하게 될 것이라고 경고하는 ‘두머’(Doomer)의 갈등이 깔려 있었다.#잠재적 위험챗GPT 이어 AGI 등장 눈앞인간의 의사결정 대체 우려 9년 전 미국 실리콘밸리에서 막역하게 지내던 두 억만장자 일론 머스크 테슬라 CEO와 래리 페이지 구글 창립자가 서먹해진 것도 AI 논쟁 때문이었다. 2015년 7월 머스크의 생일 파티에서 만난 둘은 AI의 미래에 대한 대화를 시작했다. 페이지는 “AI와 인간이 결합한 신인류의 탄생”을 주장했고 머스크가 이에 “기계가 인류를 파괴할 것”이라고 맞서면서 분위기는 과격해졌다. 페이지는 머스크를 “종차별주의자”라고 부르면서 그와 절연했다. 그해 머스크는 올트먼과 오픈AI를 공동 창립하면서 구글 딥마인드의 수석과학자 일리야 수츠케버까지 영입해 이사회에 합류시켰다. 비영리 기업으로 출발한 오픈AI가 챗GPT의 혁신이 거듭될수록 사업을 확장하고 자금 조달, GPT 스토어를 통한 영리화 등을 추진하자 수츠케버가 이끄는 오픈AI 이사회는 ‘초심을 잃은’ 올트먼의 축출을 결정했다. 수츠케버 같은 효율적 이타주의자들은 종국에는 AI가 일자리 상당수를 없애고, 허위 조작 정보를 퍼뜨려 민주주의 공론장을 왜곡시키며, 결국에는 인간의 의사결정마저 대체해 인간을 지배할 것이라 우려하고 있다. 이처럼 인간의 지능을 능가하는 범용인공지능(AGI)이 등장하고 결국 인류를 파멸시킬 특이점(singularity)이 도래할 것이라는 불안감이 AI를 규제해야 한다는 생각의 기초가 됐고, 유럽연합(EU)과 미국 등 세계 각국에서 AI 규제법을 고민하게 하는 주요 쟁점으로 떠올랐다. AI의 잠재적 위험에 대처하기 위해 발 빠르게 움직이려 하지만 인간이 주도하는 행정부와 의회는 AI의 발전 속도를 따라가지 못하는 게 현실이다. 미국 의회는 의원들이 AI의 작동 원리를 거의 이해하지 못한다고 공개적으로 인정하기도 했다.#첫 규제법편견 고착화 금지·출처 표시 등EU, 초안 승인… 위반 땐 벌금 미 의회가 공개한 기업 로비 정보에 따르면 지난해 상반기에 마이크로소프트(MS)와 구글의 로비스트 169명 중 상당수가 백악관 관료와 의원들을 만나 AI 법안을 논의했다. 올트먼도 척 슈머 민주당 상원 원내대표, 케빈 매카시 공화당 하원의원이자 전 하원의장, 테드 류 민주당 하원의원 등 100명 이상의 의원을 만났다. 에마뉘엘 마크롱 프랑스 대통령, 리시 수낵 영국 총리 등 그가 지난해 만난 국가 수반만 해도 수두룩하다. 한 기술 로비 단체는 올해 AI의 이점을 홍보하기 위해 2500만 달러(약 330억원) 규모의 캠페인을 추진하기도 했다. 미국 빅테크 기업들이 자율 규제 움직임을 주도하는 사이 EU는 지난해 12월 각국이 합의한 세계 최초의 포괄적 AI 규제 법률안을 도출했다. EU 집행위원회는 누구도 AI 규제에 별다른 관심이 없던 2018년부터 전문가 수천 명의 의견을 수렴해 2021년 4월 125페이지에 달하는 AI 규제법 초안을 발표했다. 당시 법안에서는 금융, 소매업, 자동차, 항공 등 광범위한 산업 분야에 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 했다. EU는 이 법이 AI를 다루는 글로벌 모델이라고 환영했지만 14개월 뒤 챗GPT가 생성형 AI 붐을 일으키자 처음부터 다시 논의에 들어가야 했다. AI에 관한 가장 공격적인 규제를 시도해 온 EU조차도 AI 발전을 예상하고 규제안을 마련하는 데 속수무책이었다는 방증이다. 챗GPT, 구글 바드 등 강력한 AI 도구가 등장한 현실에 맞춰 EU 의회는 AI 규제법에 범용 AI 관련 조항을 추가해 지난해 6월 14일(현지시간) 초안을 통과시켰다. #나라별 대응美, 안전·보안 중점 표준 추진日, 초안 작성… 中, 일부 제한 딥러닝을 이용한 합성 기술인 ‘딥페이크’로 조작된 사진과 음성, 영상을 생성하는 챗봇과 소프트웨어는 사람들이 보고 있는 것이 AI에 의해 생성된 것임을 명확히 밝혀야 한다. 경찰과 정부의 안면 인식 소프트웨어 사용은 특정 안전 및 국가안보 예외 사항 아니고는 제한된다. 특히 정치, 종교, 성적 지향, 인종 등 민감한 특성을 기준으로 사람을 분류하는 것은 엄격히 금지된다. EU 정책 입안자들은 AI를 규제하기 위한 ‘위험 기반 접근법’에 동의했는데 이 접근법에서는 정의된 애플리케이션이 가장 많은 감독과 제한을 받게 된다. 고용과 교육 등 개인과 사회에 가장 큰 잠재적 해악을 끼칠 수 있는 AI 도구를 만드는 기업은 규제 당국에 위험 평가에 대한 증거, 시스템 훈련에 사용된 데이터의 내역, 소프트웨어가 인종적 편견을 고착화하는 등 해악을 끼치지 않았다는 증거를 EU에 제출해야 한다. 또한 시스템을 만들고 배포할 때도 사람의 감독이 필요하다. 얼굴 인식 데이터베이스를 만들기 위해 인터넷에서 이미지를 무차별적으로 스크랩하는 것과 같은 일부 관행은 전면 금지될 것으로 보인다. AI 규제법에는 규정 위반 기업에 전 세계 매출의 최대 6%에 달하는 벌금을 부과하는 내용도 포함됐다. 최종 법안은 13일 유럽의회 담당 위원회 표결을 거쳐 이르면 오는 3월 의회 본회의에서 의결하고 실제 적용은 2026년쯤에야 될 전망이다. 자국 AI 스타트업을 보호하기 위해 과도한 규제에 반대했던 프랑스는 기술 투명성과 기업 기밀 간 균형을 맞추는 한편 고위험 AI 체계에 대한 행정적 부담을 줄인다는 조건을 확보하면 찬성 의사를 표명할 계획이라고 AFP 통신은 전했다. 미국에서는 지난해 10월 30일 조 바이든 행정부가 AI 모델의 안전, 보안, 테스트 표준 등 국가안보에 미치는 영향에 초점을 맞춘 AI 관련 행정명령을 발표했다. 연방정부가 워터마크를 제작해 배포함으로써 정부 기관에 방향과 지침을 제공하고 규제 목표를 개괄적으로 제시하는 등 더 광범위하고 유연한 접근 방식이다. 이어 최근에는 상무부 소속 국립표준기술연구소(NIST)를 중심으로 AI 안전 표준을 수립하는 ‘AI 안전 컨소시엄’을 구성했다. MS, 구글, 애플, 아마존, 메타, 엔비디아, 인텔, IBM, 오픈AI, 앤트로픽, JPO 모건, 뱅크오브아메리카 등 빅테크와 금융 업계를 망라하는 200여개 기업 및 연구소가 참여했다. #의미와 한계‘글로벌 가이드라인’ 첫걸음빠른 기술변화 대응은 미지수 글로벌 빅테크 기업들이 지난해 자체적으로 ‘AI 안전 서약’을 내놨으나 미국 의회 의결이 더뎌지면서 행정부 주도로 AI 표준 마련에 나선 것이다. 일본은 AI 기술에 대한 구속력 없는 가이드라인 초안을 작성 중이며 영국은 기존 법률이 AI 기술을 규제하기에 충분하다고 판단하면서 아직까지 표준화에는 신중하게 접근하고 있다. 중국은 데이터 사용과 추천 알고리즘 등 특정 유형의 AI에만 제한을 두고 있다. 미 일간 뉴욕타임스(NYT)는 EU의 AI 규제법 초안 통과 당시 “EU가 AI를 규제하는 최초의 법률을 마련하기 위한 중요한 걸음을 뗐다”면서 “(EU의 AI 규제법 초안은) 빠르게 발전하는 기술에 가드레일을 설치하려는 전 세계 정책 결정자들에게 잠재적 모델이 될 수 있다”고 전했다. 그러나 “빠르고 빈번하게 변화하는 AI 환경에 쉽게 적응하기에는 역부족”이라는 월스트리트저널(WSJ)의 평가가 대체적인 현실이다.