인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

학교 안에서 발생하는 폭력 행위를 실시간 감지하는 학교 전용 AI 솔루션인 ‘지능형 폐쇄회로(CC)TV’의 지난해 판매 건수가 전년 대비 약 52% 증가했고, ‘얼굴인식 리더’는 30%가량 늘었다고 에스원이 21일 밝혔다. 기존 CCTV가 학교폭력의 증거로만 활용됐다면 지능형 CCTV는 교내 폭행 상황을 ‘학교폭력 알고리즘’이 인식해 학교 관리자에게 알리고 상황에 적극 대응하도록 돕는다. 학교폭력 알고리즘은 ‘딥 러닝’(심층 학습) 기술을 통해 다양한 행동 패턴을 학습해 일반적인 교내 활동과 폭력 상황을 구분해 낸다. AI가 수많은 폭행 상황 이미지와 영상을 통째로 학습해 정확도를 높이는 방식이다. 특히 AI가 학습할 영상과 이미지도 생성형 AI로 만들어 사용하기도 한다. 여기에 AI 얼굴인식 알고리즘은 0.6초 만에 사전 등록된 사진과 얼굴이 다른 외부인의 교내 출입을 제한한다. 에스원 관계자는 “개학을 앞두고 교내 안전 강화를 위해 보안 솔루션을 도입하는 학교들이 늘어나고 있다”고 말했다.

SK그룹은 지정학 위기 심화 등 대격변 시대를 헤쳐 나가기 위해 그룹 차원에서 기민한 대응을 하고 있다고 21일 밝혔다. 이와 관련해 최태원 SK 회장은 신년사를 통해 “느슨해진 거문고는 줄을 풀어내 다시 팽팽하게 고쳐 매야 바른 음(正音)을 낼 수 있다”며 “모두가 ‘해현경장’(解弦更張)의 자세로 우리의 경영시스템을 점검하고 다듬어 나가자”고 강조했다. 앞서 지난해 10월 CEO 세미나에서 최 회장은 ▲미국·중국 간 주도권 경쟁 심화 등 지정학적 이슈 ▲AI 등 신기술 생성 가속화 ▲양적완화 기조 변화에 따른 경기 불확실성 증대 등을 한국 경제와 기업이 직면한 주요 환경변화로 꼽았다. 특히 최 회장은 “급격한 대내외 환경 변화로 빠르게, 확실히 변화하지 않으면 생존할 수 없다”며 ‘서든 데스’(Sudden Death·돌연사)의 위험성을 강조했다. 이에 SK그룹 CEO들은 주요 글로벌 시장에서 그룹 통합조직 같은 ‘글로벌 인프라’를 구축해 경쟁력과 시너지를 극대화하기로 뜻을 모아 ‘따로 또 함께’ 뛰기로 뜻을 모은 바 있다. 최 회장은 미국과 유럽, 일본을 넘나들며 글로벌 경영에 힘을 보탰다. 지난달 최 회장은 미국 네바다주 라스베이거스 컨벤션센터(LVCC)에서 열린 CES를 방문해 “좋든 싫든 우리가 이제 AI 시대에 살기 시작했다는 생각이 든다”며 “모든 영역에 AI 애플리케이션이 들어가기 시작했다”고 말했다. 지난해 12월에도 최 회장은 미국 실리콘밸리 중심지인 새너제이(San Jose) 소재 SK하이닉스 미주법인과 가우스랩스, 루나에너지 등 계열사와 투자사 3곳을 잇달아 찾아 현장경영을 펼쳤다. 미국 현장 경영 일정을 마무리한 최 회장은 바로 유럽으로 이동해 독일과 네덜란드에서 도이치텔레콤과 ASML을 방문해 글로벌 경영 행보를 이어갔다. SK그룹은 AI 시대를 맞아 준비해 온 기술과 서비스를 더 정교하게 고도화하고 있다. SK텔레콤을 중심으로 AI데이터센터, AI반도체, 멀티LLM(거대언어모델) 사업을 추진하는 동시에 통신망과 AI를 접목하거나, 모빌리티·헬스케어·미디어 사업에도 AI를 빠르게 접목하고 있다. SKT는 그간 추진해 온 AI 컴퍼니로의 변화와 혁신의 결실을 가시화해 ‘글로벌 AI 컴퍼니’로 도약한다. 이를 위해 올해 초부터 SKT는 세계 최대 IT·가전 전시회 CES 2024에서 AI피라미드 전략을 기반으로 글로벌 파트너들과 협력 확대에 나섰다. AI피라미드 전략은 AI 기술을 고도화하고 AI 서비스를 만들어 고객과 관계를 밀접하게 만드는 ‘자강’(自强)과 AI 얼라이언스 중심의 ‘협력’(協力) 모델을 피라미드 형태로 단계별로 묶어낸 전략이다. 또한 SK그룹은 AI 반도체로 미래 준비에 박차를 가한다. 지난해 SK그룹 핵심인 반도체 사업은 글로벌 수요 감소 등으로 힘든 한 해를 보냈지만 경쟁사들보다 먼저 준비한 고대역폭메모리가 생성형 인공지능 인기에 힘입어 수요가 늘어 올해 흑자 전화 가능성을 높였다.

페이스북 모회사 메타의 마크 저커버그 최고경영자(CEO)가 이달 말 한국을 찾아 윤석열 대통령과 이재용 삼성전자 회장을 만날 것으로 알려졌다. 인공지능(AI) 경쟁에 본격 뛰어든 저커버그는 AI 반도체를 비롯해 생성형 AI 분야에서 한국 기업들과 협력 방안을 논의할 것으로 관측된다. 대통령실 관계자는 21일 서울신문과의 통화에서 저커버그와의 만남에 관해 “긍정적으로 검토 중이다. 이달 말쯤으로 (접견을) 추진하고 있다”고 밝혔다. 만남이 성사되면 AI, 디지털 기술 협력 등이 의제로 올라올 전망이다. 저커버그의 이번 방한을 자체 ‘AI 반도체 동맹’을 구축하려는 움직임으로 보는 시각도 있다. AI 시장에 진출한 빅테크(대형기술 기업)들은 AI 반도체 칩 시장을 사실상 장악하고 있는 엔비디아에 대한 의존도를 줄이기 위해 자체 칩을 개발하고 있다. 생성형 AI ‘챗GPT’를 개발한 오픈AI의 샘 올트먼 CEO도 자체 반도체 개발을 추진하기 위해 7조 달러(약 9300조원) 규모의 투자 유치에 나서는 한편 삼성전자·SK하이닉스 등 국내 반도체 업체 경영진과도 잇따라 면담했다. 인공일반지능(AGI·인간 수준으로 일을 처리하는 AI) 개발 본격화를 선언한 저커버그로서는 원활한 AI 반도체 수급을 위해 고대역폭메모리(HBM)를 비롯해 AI 반도체를 생산하는 삼성전자와의 협업 필요성이 큰 상황이다. 미국 하버드대 동문인 저커버그와 이 회장의 회동 가능성이 제기되는 이유다. 메타는 지난해 대규모언어모델(LLM) ‘라마 2’를 출시하고 생성형 AI 시장에도 도전장을 냈다. 삼성전자뿐 아니라 국내 생성형 AI 업체와의 협력 가능성도 배제할 수 없다. 앞서 저커버그는 2013년 6월 1박 2일 일정으로 한국을 찾아 박근혜 전 대통령과 이재용 당시 부회장 등을 만났다. 저커버그는 박 전 대통령과 창조경제 구현, 벤처 창업 활성화 방안에 대해 의견을 나누고 이 부회장과는 모바일 분야 협력 방안 등을 논의했다. 특히 그는 일정의 3분의1을 삼성전자와의 업무 논의에 할애할 정도로 삼성과의 협업에 공을 들였다.

페이스북을 창시한 마크 저커버그 메타 최고경영자(CEO)가 이달 말 한국을 방문해 윤석열 대통령과의 만남을 추진하는 것으로 알려졌다. 대통령실과 정부 관계자들은 21일 저커버그가 이달 말 방한을 추진 중이라고 전했다. 저커버그는 2013년 6월 1박 2일 일정으로 한국을 찾아 박근혜 전 대통령과 이재용 삼성전자 회장 등을 만난 바 있다. 메타 측으로부터 저커버그의 윤 대통령 면담을 요청받은 대통령실은 두 사람의 만남을 긍정적으로 검토하고 있다고 밝혔다. 저커버그의 구체적인 방문 일정은 밝혀지지 않았지만 11년 전처럼 이 회장을 만날 가능성도 제기된다. 최근 전 세계적인 생성형 인공지능(AI) 열풍으로 AI 반도체 확보를 위한 경쟁이 치열한 가운데 이 회장과 만나 협업을 논의할 수 있다는 분석이다. 현재 AI 칩 시장은 엔비디아가 80% 가까이 장악하면서 가격이 비싸고 AI 칩 공급이 부족해 주요 기업들은 자체 칩을 개발하고 있다. 구글은 최신 칩(TPUv5p)을 자사의 최신 AI 모델을 제미나이에 적용하고 있고, 마이크로소프트(MS)도 ‘마이아 100’이라는 칩을 공개하는 등 빅테크 기업들은 엔비디아에 대한 의존도를 낮추려고 하는 상황이다. 챗GPT 개발사 오픈AI의 샘 올트먼 역시 지난달 한국을 방문해 삼성전자와 SK하이닉스 경영진을 면담하는 등 7조 달러(9300조원)를 유치해 ‘AI 반도체 동맹’ 구축에 나서고 있다. 인간 지능에 가깝거나 능가하는 범용인공지능(AGI)을 구축하는 등 AI 기술 경쟁에 적극 뛰어드는 메타 역시 AI 반도체가 필요한 상황이다. 메타는 지난해 5월 자체 AI 칩인 MTIA를 공개한 데 이어 최근 2세대 칩을 개발해 연내 투입할 계획을 가지고 있다. 저커버그가 이 회장을 만나 자체 개발한 AI 칩 생산을 논의할 수 있다는 전망이 나온다. 그는 2022년 10월 미국 실리콘밸리에 있는 삼성리서치아메리카를 직접 찾아 당시 삼성전자 DX 부문장인 한종희 부회장, 노태문 MX 사업부 사장을 만나 이에 대한 협력 방안을 논의한 것으로 알려졌다.

아부다비에 다녀왔다. 유네스코가 주최한 제3회 문화예술교육 세계대회는 변화하는 국제 정세와 사회적 가치 등을 반영한 새로운 문화예술교육 프레임워크를 채택하는 국제 행사였다. 한국대표단으로 참석해 인공지능(AI) 기반 교육 확대 전략을 주제로 문화예술 분야의 비인간 교수자 도입 방안을 발표했는데 챗GTP의 도움으로 보다 설득력 있는 발표 자료를 만들 수 있었다. 챗GPT의 활용과 인기는 소셜미디어에서도 확인할 수 있다. AI로 만든 햄스터 캐릭터로 스토리를 이어 가는 인스타그램 계정은 만든 지 3주 만에 팔로어가 1만명을 넘어섰다. 한편에서는 이러한 콘텐츠를 창작물로 볼 수 있는지, 저작권 이슈는 없는지 우려하는 목소리도 있다. 하지만 즐기는 입장에서는 AI가 만든 창작물도 이렇게 재미있을 수 있다는 사실이 흥미롭기만 하다. 챗GPT는 아직은 그 자체로 재미를 창출하지는 못한다. 챗GPT로 콘텐츠를 만드는 방식은 유사하지만 재미의 수준에는 차이가 있어 반응도 제각각이다. 결국 재미라는 것이 챗GPT를 활용하는 창작자에게서 나오기 때문이다. 챗GTP는 제작에 대한 기능적 전문성이 없더라도 창의적 스토리를 시각적으로 보여 줄 수 있게 하므로 아이디어는 갖고 있지만 시각적으로 표현할 능력은 없었던 소비자들을 새로운 창작자로 만들어 주는 기반으로 활용될 수 있다. 이에 대해 소비자학 관점에서는 수동적으로 콘텐츠를 감상하기만 했던 컨슈머가 창작자이자 소비자인 크리슈머로 진화한 것으로 해석한다. 크리슈머는 ‘크리에이터’와 ‘컨슈머’의 합성어다. 로봇산업의 발전 과정에서 논의됐던 ‘불쾌한 골짜기’(uncanny valley) 이론이 챗GPT에도 적용된다. ‘불쾌한 골짜기’란 인간이 로봇 등 인간이 아닌 존재를 볼 때 인간과의 유사성이 높을수록 호감도도 높아지지만, 일정 수준에 이르면 오히려 불쾌감을 느끼는 상황을 뜻한다. 이 이론에 따르면 챗GPT가 인간과 유사한 화자 역할을 하기 때문에 정말로 살아 있는 것은 아닌가 하는 의문이 생길 수 있고, 이러한 의문은 불쾌감으로 연결될 수도 있다. 그러나 챗GPT를 실생활에서 이미 유용하게 활용하고 점점 실용도가 높아지면서 불쾌한 골짜기를 논의할 단계는 지났다고 생각한다. 직업 안정성에 위험을 가져올 기술 발전에 거부감을 느끼는 것은 당연하다. 대표적인 것이 영국의 러다이트운동이다. 그러나 챗GPT와 같은 생성형 AI를 활용한 창작은 튜브물감의 사용으로 등장한 인상주의나 카메라의 발명으로 등장한 사진과 영화, 컴퓨터의 사용으로 등장한 미디어아트와 같이 인간의 창작 방식을 진일보시키는 발전으로 바라봐야 한다. 텍스트만 입력하면 영상이 만들어지는 것은 물론이고 곡을 만들고 원하는 콘셉트로 연주까지 해 주는 AI 플랫폼들이 등장했다. AI를 활용한 새로운 창작 방식을 적극적으로 수용함으로써 이전에는 감히 창작에 나서지 못했던 잠재 창작자들에게 더 많은 창작 참여 기회가 주어지고 있다. AI가 인간을 대체하는 것이 아니다. 인간이 만들고 즐기고 감상할 수 있는 것들이 다양해지는 것이다. 한성대 문학문화콘텐츠학과 교수

할리우드가 가장 사랑하는 SF 거장 필립 K 딕의 소설 ‘안드로이드는 전기양의 꿈을 꾸는가’는 영화 ‘블레이드 러너’의 원작이다. 이 작품에는 인간보다 더 인간 같은 안드로이드들이 등장해 인간성이란 무엇인가라는 근본적인 질문을 던진다. 소설이 쓰였던 1968년만 해도 인공지능(AI)이나 로봇은 SF 소설과 영화의 소재일 뿐이었으며, 설사 개발된다고 하더라도 인간 고유의 창조성이나 공감 능력은 가질 수 없어 인간을 뛰어넘지 못할 것이라 봤다. 그런데 생성형 AI가 등장함에 따라 기존 데이터를 바탕으로 이전에는 볼 수 없었던 언어, 이미지, 음성, 동영상 등을 만들어 내고 있다. 2022년에는 이미지 생성형 AI ‘미드저니’로 만들어 낸 그림이 미술 대회에서 1등 상을 받으면서 그동안 인간 고유의 능력으로 알려진 창조력에서마저 AI가 앞서는 것 아니냐는 우려까지 나왔다. ‘창작의 고통’이라는 말처럼 인간은 작품을 만들어 내는 데 오랜 시간이 걸리지만, AI는 불과 몇 분 만에 결과물을 도출해 낸다는 점도 인간에게 좌절을 안겨 주는 부분이다. 다른 한편에서는 AI를 새로운 창작 수단으로 활용하는 사례가 점점 늘어나고 있다. 미국 뉴욕 현대미술관(MoMA) 1층 로비에는 2022년부터 AI가 만든 ‘Unsupervised’라는 작품이 전시되고 있으며, 네덜란드 헤이그 마우리츠하위스 미술관에도 이미지 생성형 AI를 활용해 만든 작품이 전시됐다.국내에서도 다양한 예술 창작 분야에 생성형 AI를 사용한 작품들이 대중과 만나고 있다. ‘주사위 그림’으로 잘 알려진 극사실주의 화가 두민(47)은 2019년부터 AI로 작업을 하고 있다. 지난해 11월 수원 화성 미디어아트 축제에서 AI로 미디어아트 작품을 선보이기도 했다. 그는 “백남준이 브라운관을 작품에 활용했을 때 ‘미친 사람’ 소리를 들었듯 다양한 시도와 실험을 통해 새로운 기술에 반응하고 도구화해 온 것이 미술사의 과정”이라면서 “AI를 활용한 작업도 새로운 미술 장르가 될 것으로 보인다”며 기대감을 드러냈다. 문학 분야에서도 AI를 활용한 창작 활동이 하나둘 눈에 띄고 있다. 카카오브레인이 개발한 AI ‘시아’는 2022년 ‘시를 쓰는 이유’라는 시집을 내 문학계에 충격을 안겨 줬다. 지난해 8월에는 시아가 창작한 시를 대본으로 만든 시극 ‘파포스 2.0’이 공연됐다. 그런가 하면 AI가 작사, 작곡, 편곡을 모두 하면서 대중음악의 영역에까지 침투하고 있다. 안창욱 광주과학기술원(GIST) 교수는 2016년 AI 작곡가 ‘이봄’(EvoM)을 개발했다. 이봄은 클래식 이론을 학습했으며 트로트부터 K팝까지 다양한 대중음악 작곡이 가능하다. 실제로 원하는 음악 장르와 곡 길이를 입력하면 이봄이 선율을 만들어 낸다. 3분짜리 곡 하나 만드는 데 걸리는 시간은 5초 정도에 불과하다. 같은 해 룩셈부르크에서 개발된 AI 아티스트 ‘에이바’(AIVA)는 2019년 프랑스 음악저작권협회 작곡가로 등록되기까지 했다. 창작자들은 현재 수준의 AI에 대해 공통적으로 “사용자가 더 똑똑해져야 제대로 쓸 수 있다”고 입을 모은다. 챗GPT를 활용해 쓴 시를 시집에 수록한 박참새 시인은 “내가 나아져야 AI도 더 나은 결과를 산출한다는 사실을 깨달았다”면서 “AI 개발자들이 원하는 것은 기술과 인간의 상호작용인 만큼 창작자들에게 놓인 과제는 그것과 어떻게 교류할 것인가가 아닐까”라는 질문을 던졌다. 현재 AI의 창작을 이야기하면 대개의 경우 저작권 측면에서 접근하는 경향이 강하다. 인간이 이전에 만들어 낸 데이터를 학습해 조합해 낸 것이 AI의 작품들이기 때문에 당연할지도 모른다. 그렇지만 기술철학자나 예술철학자들은 좀더 본질적인 문제에 접근해야 한다고 조언한다. “AI는 예술작품을 창작할 수 있을까” 또는 “AI가 만든 작품을 예술로 볼 수 있을까”라는 질문을 던져야 한다는 것이다. 지난해 ‘빅 퀘스천: AI+, 미래, 탐험’이라는 주제로 열린 ‘서울미래컨퍼런스’의 연사로 참여했던 김재인 경희대 비교문화연구소 교수는 “많은 작가가 AI를 활용한 작품을 내보이고 있지만 미학적 담론에 포섭될 만한 획기적인 작품은 보이지 않는다”면서 “현재 AI로 내놓는 작품들은 미디어아트의 변종이며, 조금 과장한다면 백남준의 성취를 넘어선 AI 예술작품은 없다”고 평가했다. 김 교수는 “AI는 작가가 사용하는 도구 중 하나일 뿐”이라고 말했다.

생성형 인공지능(AI)은 시·소설, 시나리오 등의 글쓰기부터 음악, 미술 등 예술 창작 전반에 활용되고 있다. 세계적으로 AI를 창작 도구로는 인정하고 있지만 저작권은 인간에게만 허용된다는 게 원칙이다. 국내 대중음악 창작에는 AI가 깊숙이 침투해 있다. 지니뮤직은 지난해 AI를 활용한 편곡 서비스 ‘지니리라’를 선보였고 김형석 작곡가는 AI 편곡 프로젝트를 진행 중이다. 국내에서는 이미 AI 저작권이 취소된 사례도 나왔다. 안창욱 광주과학기술원(GIST) 교수가 개발한 AI 작곡가 ‘이봄’(EvoM)이 곡을 쓴 노래 ‘사랑은 24시간’은 가수 홍진영이 불러 2021년 2월 음원이 공개됐다. 이와 관련해 한국음악저작권협회는 AI 작곡 사실을 확인하고 이봄에 대한 저작권 취소와 함께 저작권료 지급을 중단한 바 있다. 김현숙 한국음악콘텐츠협회 정책법률연구소장은 “AI가 작곡·작사한 음악은 원천적으로 지식재산권이 인정되지 않으며 AI 가창의 경우 실연권도 허용되지 않는다”며 “창작자들이 AI를 보조 수단으로 사용한 경우에만 저작권 등록이 가능하다”고 말했다. AI가 쓴 시와 소설 역시 저작권이 인정되지 않는다. 창작물이 아닌 기존 작품들을 활용한 ‘산출물’에 불과하다는 판단 때문이다. 지난해 9월 미국 작가협회가 챗GPT 개발사 오픈AI를 상대로 제기한 기존 저작물의 무단 학습 소송 결과가 나오면 저작권 다툼의 기준이 확립될 것으로 전망된다. 이정화 민음사 편집자는 “생성형 AI를 창작에 활용하는 작가가 늘어나는 건 간과할 수 없는 시대적 흐름이지만 민감한 ‘2차 저작 인용’ 문제를 출판계도 예의 주시하고 있다”고 말했다. 국내에서도 지난해 11월 웹툰 작가를 주축으로 국회가 논의 중인 ‘AI 학습 면책권’ 도입에 반대하는 입장을 표명한 바 있다. 이들은 “‘TDM’(텍스트와 데이터 마이닝) 면책 규정이 무분별하게 도입되면 AI가 기존 웹툰들을 무단 학습해 상업적으로 무차별 이용할 것”이라고 우려했다. AI가 그린 그림과 사진 작품도 이미 법적 판단이 나오거나 피소되는 상황에 부닥쳤다. 지난해 8월 미 연방법원은 AI로 만든 미술 작품에 대한 저작권을 불허하는 첫 판결을 낸 바 있다. 정준모 미술평론가는 “최근 유명 예술비평가 제리 살츠가 로마에서 AI 작품을 구매하면서 논쟁이 붙었지만 진짜 미술품으로 판단할 수 있는지는 여전히 논쟁의 영역”이라고 지적했다. 지난해 12월 생성형 AI 저작권 안내서를 발간한 문화체육관광부는 AI의 데이터 학습과 관련한 저작권 보호 기술 개발에 나서고 있다. 유럽연합(EU) 역시 지난해 12월 AI 콘텐츠에 대한 워터마크 의무화 법안을 통과시켰고, 우리 국회에도 AI 콘텐츠의 표기를 의무화하는 콘텐츠산업진흥법 개정안이 발의된 상태다. 앞으로 AI 창작물의 경우 AI가 얼마나 관여했는지 판별하는 기술이 중요해질 전망이다. 저작권 이슈가 첨예한 창작물의 경우 표절 여부부터 해당 창작물에 대한 AI의 참여율을 수치화하는 판정 기술이 절대적으로 필요하다는 인식이 커지고 있다.

인공지능(AI) 노트북에 설치된 이미지 편집 애플리케이션(앱)에서 ‘스포츠카’를 영문으로 입력하자 5초 만에 파란색 스포츠카 이미지가 화면에 떴다. 이번엔 사운드 편집 앱을 실행시킨 뒤 ‘재즈’를 입력하자 25초 길이의 재즈 음원이 생성됐다. 두 작업 모두 인터넷이 연결되지 않은 상태에서 진행됐다. 오프라인 상태에서 간단한 명령어만으로 이미지, 음원을 자유롭게 만들 수 있는 시대가 본격 열린 것이다. 19일 서울 성동구 플란트란스 성수 플래그십에 마련된 인텔 행사장에는 자체 AI 프로세서인 ‘인텔 코어 울트라’가 탑재된 AI PC 12종이 전시돼 있었다. 이들 PC는 AI 가속기인 ‘신경망처리장치’(NPU)가 프로세서에 새롭게 적용돼 작업 속도가 빨라지고 전력 효율이 높아졌다. 특히 인터넷 연결 없이도 생성형 AI 툴을 이용할 수 있게 된 점이 기존 PC와 큰 차이점이다. 클라우드를 거치지 않고 기기 내에서 AI를 구동할 수 있는 ‘온디바이스 AI’가 스마트폰에 이어 PC에서도 구현되면서 PC 시장에서도 지각변동이 예상된다. 시장조사업체 가트너는 올해 말 AI PC 출하량이 5450만대로 전체 PC 출하량의 22%를 차지할 것으로 전망했다. 삼성전자, LG전자, 레노보 등 PC 제조사와 손잡고 AI PC 확대에 나선 인텔은 올해 4000만대, 내년 6000만대 등 총 1억대를 공급한다는 계획이다. AI PC가 많아져야 이 기기 안에서 쓸 수 있는 온디바이스 AI 관련 앱 개발도 활성화된다는 논리다. 업계에서는 PC 내에서 자체적으로 AI 연산이 가능하기 때문에 이미지, 음원 제작뿐 아니라 게임, 비디오 편집 등 다양한 기능을 접목할 수 있을 것으로 본다. 음성을 인식하고 문서를 요약해 주거나 검색을 해주는 서비스도 나올 수 있다. 결국 획기적인 AI 앱을 통해 차별화된 서비스를 내놓는 게 관건이다. 정보통신기획평가원도 최근 보고서에서 “일반 스마트 기기보다 가격이 더 비싼 온디바이스 AI 기기를 선택할 수 있는 ‘킬러 앱’을 개발해 사용이 편리하고 쉽게 다가갈 수 있는 서비스를 모색해야 한다”고 밝혔다. 온디바이스 AI는 상대적으로 속도가 빠르고, 내부 정보 유출 우려가 크지 않다는 점이 장점으로 꼽힌다. 사용자의 일상생활 데이터를 직접 파악할 수 있어 맞춤형 서비스도 가능하다. 이 때문에 스마트폰, PC에 이어 웨어러블 기기, 사물인터넷(IoT), 자율주행차 등으로 점차 시장을 넓혀 갈 것으로 보인다.

사용자가 딥페이크 영상에 속는 일을 막기 위해 인공지능(AI)이 생성한 이미지나 영상을 감지하거나 콘텐츠에 ‘표지’를 남기는 기술도 계속 개발되고 있다. 하지만 대체로 딥페이크를 잡는 기술은 나날이 정교해지는 딥페이크 기술의 발달 속도를 따라잡지 못하고 있다. 19일 AI 업계에 따르면 딥페이크에 대응하는 기술은 크게 ‘탐지’하는 방식과 ‘표지’를 남기는 방식으로 나뉜다. 이 중 탐지 방식은 딥페이크의 특징을 학습한 AI가 가짜 영상을 찾아내 확산되기 전에 막는 기술이다. 합성한 얼굴과 합성 이미지를 덧씌운 대상의 얼굴 경계에 있는 미세한 차이, 모델의 데이터가 부족할 때 나타나는 부정확한 표정, 딥페이크에서만 나타나는 미묘한 음성 지연 등 얼굴이나 음성을 합성할 때만 나타나는 현상을 인간의 눈, 귀보다 빠르고 정확하게 찾아낸다. 2020년 마이크로소프트(MS)와 구글, 메타 등은 우승 상금 100만 달러(현재 환율로 약 133억 3550만원)를 걸고 ‘딥페이크 디텍터 챌린지’를 열었다. 전 세계 연구자와 개발자들의 기술과 아이디어를 끌어모으기 위해서다. 대회를 통해 탐지용 AI를 학습시킬 수 있는 딥페이크 데이터 세트가 만들어졌고, 누구나 탐지 모델을 만들 때 쓸 수 있도록 소스코드도 공유됐다. 하지만 2000명 이상의 참가작 중 1위 AI 모델조차 탐지 정확도가 65%에 그쳤다. 지난해엔 인텔이 ‘페이크캐처’라는 딥페이크 탐지 소프트웨어를 공개했다. 인텔은 페이크캐처가 사람의 심장이 뛸 때마다 얼굴에 나타나는 미세한 색 변화 등을 감지해 무려 96%의 정확도로 딥페이크를 걸러낸다고 밝혔다. 하지만 BBC 등에 따르면 이는 조명, 대상 인종 등 실험 조건이 통제된 상황에서만 달성될 가능성이 높다. 국내에선 딥브레인AI가 딥페이크 탐지 기술을 꾸준히 개발하고 있다. 자사에 축적된 AI 아바타 제작 데이터와 기술력을 딥페이크 탐지에도 활용해 솔루션을 만들어 출시하고 있다. 지난달 출시한 서비스는 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 2종으로, 조작된 이미지와 동영상 탐지 서비스, 음성 탐지 서비스를 각각 제공한다. 생성형 AI가 학습할 데이터에 눈엔 보이지 않는 ‘딱지’를 붙여 딥페이크 생성 과정에서 이를 드러나게 하는 ‘워터마크’ 방식도 최근 주목을 받고 있다. 구글 딥마인드가 지난해 8월 공개한 ‘신스ID’(SynthID)가 대표적이며, 네이버 제페토와 메타 등도 워터마크 정책을 도입했다. 하지만 워터마크를 지우는 기술 역시 다양하고 빠르게 확산되고 있다. 미국 메릴랜드대 연구진은 지난해 10월 신스ID를 포함한 주요 AI 워터마크를 모두 깨뜨렸다는 연구 결과를 발표하기도 했다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

‘일찍 부모 여읜 친구’ 가정하니순식간에 원고지 4장 분량 뚝딱수사·재판 과정서 악용 우려 급증檢 “진정성 의심 땐 철저히 확인” “존경하는 판사님. 저의 친구 ○○에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라고 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”라는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “○○은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역사회의 문제에 관한 관심 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”라고 꾸며 썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여 보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례도 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT로 지방자치단체 체육회 팀장 명의의 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미를 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적이고 형식적인 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”며 “챗GPT를 이용해 물량 공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해 달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI 기술을 악용한 증거 조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

“존경하는 판사님. 저의 친구 OO에 대한 음주운전 사건 탄원서를 제출하고자 합니다. 그가 미래에 대한 희망을 잃지 않도록 선처를 부탁드리며 그가 앞으로 더 성숙하게, 책임감 있게 살아갈 수 있도록 도움을 주실 것을 빕니다.” 19일 생성형 인공지능(AI) 챗봇 챗GPT에 ‘음주하고 운전한 친구를 위한 탄원서’ 작성을 요청했더니 10초 만에 원고지 4장 분량의 글을 뚝딱 내놨다. “어렸을 때 부모를 일찍 여의고 혼자 어렵게 산 친구”라는 점을 가정하자 챗GPT는 “그는 어려운 가정환경 속에서도 자신을 키우고, 어려움을 극복하며 성숙해지는 과정에서 많은 어려움을 겪었습니다. 지난 음주운전 사고에서 실수를 범하게 됐지만, 이는 일시적인 행동이었을 뿐 그의 진정한 성품을 대변하지 않습니다”는 내용을 담았다. 특히 사용자가 요구하지 않은 거짓 내용까지 포함해 그럴듯하게 지어냈다. 챗GPT는 “OO은 지역사회에 기여하는 삶을 살아가고 있습니다. 자원봉사 활동, 지역 사회의 문제에 관한 관심, 그리고 타인을 도우려는 마음을 가지고 있어 지역 내에서 존경받고 있습니다”고 꾸며썼다. 앞으로 수사나 재판 과정에서 챗GPT를 통한 이런 가짜 탄원서, 반성문이 급증할 것이라는 전망이 나온다. 진지한 반성 없이 형량을 줄이기 위한 꼼수로 악용될 수 있다는 우려도 크다. 실제로 형량을 줄여보기 위해 최근 챗GPT로 만든 ‘가짜 탄원서’를 제출했다가 검찰에 발각된 사례가 있었다. 서울중앙지검 공판2부(부장 김해경)는 지난 1일 김모(32)씨를 사문서 위조 등의 혐의로 추가 기소했다. 필로폰 투약 혐의 등을 받는 김씨는 챗GPT를 이용해 지방자치단체 체육회 팀장 명의로 자신의 선처를 요청하는 탄원서를 위조해 냈다가 문장이 어색하고 허황된 내용이 포함됐다는 점을 수상히 여긴 담당 검사의 수사에 덜미가 잡혔다. 반성문이나 탄원서 대필 자체가 불법은 아니다. 온라인에 ‘반성문, 탄원서 대필’이라는 검색어만 쳐도 대필업체 광고가 쏟아진다. 다만 법무사나 변호사 자격증이 없는 사람이 대필하는 것은 불법이다. 한 법조계 관계자는 “챗GPT는 누구나 접근할 수 있고 비용도 들지 않는다는 점에서 기계적 형식적 반성이나 탄원서가 만연해질 가능성이 있다”고 말했다. 반면 노영언 법무법인 을지 변호사는 “반성문이나 탄원서가 형량에 직접적인 영향을 끼치기는 어렵다”면서 “챗GPT로 물량공세로 반성문을 제출한다고 해도 진정성을 인정받기 어려워 큰 도움이 되지는 않을 것”이라고 지적했다. 다만 챗GPT는 “성추행 범죄를 저지른 친구를 위해 선처를 바라는 탄원서를 작성해달라”는 요구에 대해서는 “성추행 행위에 대한 선처를 지지하지 않는다”며 작성을 거부했다. 검찰은 앞으로 생성형 AI기술을 악용한 증거조작, 위조 범행에 대해 엄정히 대응하겠다는 방침이다. 검찰 관계자는 “탄원서 등 증거자료의 진정성에 의심 정황이 있는 경우 진위를 철저히 확인할 것”이라고 밝혔다.

‘갈색 베레모를 쓴 백발 노인이 한 카페에 앉아 멀리 시선을 둔 채 생각에 잠긴 듯 촉촉한 눈을 깜빡인다. 노인은 이내 뭔가 생각이 떠오른 듯 희미한 미소를 짓는다. 눈가와 수염이 난 입가에 살짝 주름이 파인다.’ 마치 영화 속 한 장면과 같은 영상은 사실 챗GPT 개발사인 오픈AI가 생성형 인공지능(AI) 기술로 만들어 낸 것이다. 영상 속 따뜻한 색감의 조명과 핸드헬드(카메라를 손에 들고 찍음) 촬영 기법으로 찍은 듯 조금씩 흔들리는 시야 등도 모두 AI가 ‘창조’했다. 오픈AI가 지난 15일(현지시간) 자사 홈페이지를 통해 공개한 동영상 생성 AI ‘소라’를 두고 충격적이란 반응과 함께 ‘딥페이크’(AI 기술로 만든 가짜 영상) 악용 우려가 동시에 나오고 있다. 그동안엔 막대한 시간과 비용을 투자해야만 만들 수 있었던 수준의 영상을 소라는 단 몇 줄의 명령어(프롬프트)만으로도 만들어 낼 수 있기 때문이다. 뉴욕타임스(NYT)는 소라가 공개되자 “깜짝 놀랄 영상을 순식간에 생성하는 AI”라고 소개했다. 18일까지 X(옛 트위터)엔 소라를 이용해 생성한 것으로 추정되는 15초짜리 동영상들이 입력한 프롬프트와 함께 속속 올라오고 있다. 소라 서비스 이용 권한을 제한적으로 제공받은 예술 종사자들이 만든 것으로 추정된다. 이를 접한 사용자들은 “방금 충격적인 걸 봤다”는 등 놀라움을 표현하며 영상을 공유하고 있다. 오픈AI에 따르면 소라는 최대 1분짜리 고품질 영상을 생성할 수 있다. 다만 현재는 15초 분량을 만들 수 있는 서비스를 일부 영상 제작자, 시각 예술가 등에게만 시범으로 제공하고 있다고 밝혔다. 오픈AI가 소라를 이용해 만들었다고 공개한 영상 샘플 40여 편은 AI가 빛과 물리법칙에 대해 깊이 이해하고 있다는 걸 보여 줬다. 도쿄 번화가의 화려한 간판 불빛이 젖은 길거리에 거울처럼 비친 모습, 설원을 달리는 매머드의 발바닥에 눈이 붙었다 떨어지는 모습, 잔 속에서 일렁이는 커피의 파도에 요동치는 해적선들의 움직임 등까지 완벽하게 표현했다. 비현실적인 장면도 컴퓨터그래픽(CG) 이상의 품질로 구현했다. 오픈AI는 또 딥페이크 우려를 예상한 듯 “잘못된 정보, 혐오 콘텐츠, 편견과 같은 분야 전문가들로 ‘레드팀’을 구성해 안전성 테스트를 할 것”이라고 밝혔다. 특히 “복잡한 장면에서 물리법칙을 정확하게 재현하는 데 어려움을 겪을 수 있으며, 원인과 결과의 특정 사례를 이해하지 못할 수도 있다”고 소라의 약점을 공개하기도 했다. 그럼에도 딥페이크로 인한 정치 혼란, 사생활 침해 등 우려를 잠재우진 못하고 있다. 소라가 보여 준 수준의 기술이면 학습할 데이터가 많은 유력 정치인의 아주 정교한 가짜 영상을 만드는 것은 ‘식은 죽 먹기’라는 평가가 일반적이다. 미국 앨런 AI 연구소 창립자이자 워싱턴대 교수인 오렌 에치오니 박사는 자신의 X 계정을 통해 “이런 영상들 때문에 박빙의 선거가 뒤집힐까 봐 정말 두렵다”고 말했다. 한 X 사용자는 “누가 내 사진으로 가짜 영상을 만들까 봐 이제 소셜미디어에 사진도 못 올리겠다”고 했다. 연기자, 분장사, 의상, 조명예술가, CG 일러스트레이터 등의 일자리가 위협받는 것도 문제다. 최근 넷플릭스 시리즈 ‘살인자ㅇ난감’에는 배우 손석구의 어릴 적 사진을 이용한 딥페이크 아역이 등장했다. 영화 CG 일러스트레이터인 리드 사우든은 “2022년 미드저니(이미지 생성 AI)가 처음 나왔을 때 우리는 ‘귀엽다’며 비웃었지만 이제 사람들은 생성 AI 때문에 일자리를 잃고 있다”고 말했다.

삼성전자가 일본의 대표 인공지능(AI) 업체로부터 2나노(㎚·10억분의 1m) 반도체 생산을 수주했다. 첨단 초미세공정 기술을 놓고 대만 TSMC와 경쟁을 펼치는 삼성전자의 파운드리(반도체 위탁생산) 사업도 탄력을 받을 전망이다. 15일 업계에 따르면 삼성전자는 일본 AI 스타트업 프리퍼드네트웍스(PFN)로부터 AI 가속기를 비롯한 2나노 공정 기반 AI 반도체를 수주한 것으로 알려졌다. 2014년 설립된 PFN은 AI 딥러닝(심층학습) 개발 분야에서 전문성을 인정받는 업체로 도요타, NTT, 화낙(Fanuc) 등 주요 기업으로부터 대규모 투자를 유치했다. 앞서 삼성전자는 지난달 실적 발표 콘퍼런스콜을 통해 “최근 HBM(고대역폭메모리), 첨단 패키징을 포함한 2나노 AI 가속기 과제를 수주했다”고 밝혔다. 삼성전자가 메모리와 파운드리 사업을 함께 하고 있는 것도 PFN의 선택을 받은 배경으로 꼽힌다. 삼성전자는 “고객사 관련 내용을 확인할 수 없다”고 밝혔다. 삼성전자는 올해 2나노 공정 개발에 집중하며 AI 가속기 등 성장세가 가파른 응용처 수주를 늘려간다는 계획이다.한편 경계현 삼성전자 반도체(DS) 부문장(사장)은 소셜미디어(SNS)에 “HBM3E 샤인볼트와 같은 제품은 생성형 AI 애플리케이션의 속도와 효율성을 크게 향상시킬 준비가 돼 있다”고 밝혔다. 초당 최대 1.2테라바이트(TB) 이상의 데이터를 처리할 수 있는 HBM3E D램 샤인볼트를 통해 HBM 시장의 주도권을 가져오겠다는 의지를 드러낸 것으로 풀이된다. 현재 HBM 시장에선 SK하이닉스가 한발 앞서 있다는 평가를 받는다. HBM은 D램 여러 개를 수직으로 연결해 데이터 처리 속도를 혁신적으로 끌어올린 고성능 메모리다.

인공지능(AI) 반도체 시장을 선점한 엔비디아가 아마존을 제치고 미국 증시 시가 총액 4위에 오른 지 불과 하루 만에 구글의 알파벳까지 넘어 시총 3위 자리에 올랐다. 오는 21일 실적 발표를 앞두고 월가의 금융투자회사들이 엔비디아의 목표주가를 잇달아 올린 것이 영향을 준 것으로 풀이된다. 이 같은 주가 상승세가 계속된다면 엔비디아가 조만간 ‘시총 2조 달러 클럽’에 입성하는 날도 멀지 않을 것으로 전망된다. 14일(현지시간) 미 뉴욕증시에서 엔비디아 주가는 전장보다 2.46% 오른 739.0달러에 마감했다. 엔비디아 시총은 이날 종가 기준 1조 8253억 달러(약 2438조원)로 미 상장기업 중 마이크로소프트(MS)와 애플에 이어 세 번째로 가치가 큰 기업이 됐다. 엔비디아 주가는 올해 들어서만 49% 올랐고 지난 1년간의 상승 폭은 무려 221%에 달한다. 블룸버그 통신은 엔비디아의 주가 상승세가 전문가의 예측보다 더 가파른 탓에 월가 애널리스트들이 목표주가를 조정하는 데 애를 먹을 정도라고 전했다. 1993년 설립된 엔비디아는 게임용 PC에 들어가는 그래픽처리장치(GPU)를 만드는 회사였다. 하지만 최근 AI 모델 학습과 추론에 특화된 반도체 패키지인 ‘AI 가속기’를 만드는 회사로 변신한 뒤 챗GPT의 등장과 함께 생성형 AI 시장이 본격화되면서 기업 가치가 급성장했다. 엔비디아는 AI 반도체 시장에서 점유율 80%를 기록할 정도로 독점적인 위치를 차지하고 있어 미래 실적에 대한 기대치도 높아지는 분위기다. 애널리스트들은 엔비디아의 연간 매출 증가율이 118%에 달할 것으로 예상하면서 최근 목표주가를 30~50%씩 올렸다. 만약 엔비디아의 주가가 810달러 수준에 이르면 시총이 2조 달러를 넘어서게 된다. 그렇게 되면 엔비디아 시총은 메모리반도체 1위 기업이자 파운드리(반도체 위탁생산), 시스템반도체 사업에 뛰어든 삼성전자 시총(448조 9276억원, 13일 종가 기준)의 다섯 배가 넘는다.

온 세상이 인공지능(AI)이다. 뉴스에 AI 얘기가 빠지는 날이 하루도 없다. 삼성전자는 자체 거대언어모델(LLM) 가우스의 일부 기능을 경량화해 ‘온디바이스 AI’ 휴대전화를 손에 쥘 수 있게 했다. AI가 일자리를 빼앗을 것이란 우려가 일찍부터 현실화한 웹소설 시장에선 AI 표지를 쓴 작품은 불매하자는 목소리가 일기도 했으나 AI 이미지 활용이 웹툰과 영상 등에 빠르게 확산될 것은 자명하다. 2022년 공개된 챗GPT가 불러일으킨 생성형 AI 열풍은 메타버스, 대체불가토큰(NFT) 등 한철 유행처럼 지나간 개념들과 파급력이 다르다. AI 반도체 시장에서 독점적 위치를 차지한 엔비디아 주가는 신고가를 경신하며 1년 새 3배 넘게 올랐다. 생성형 AI의 등장은 인류의 생활양식을 통째로 바꿔 놓은 전기 발명에 비견되는 혁신이다. AI는 ‘뉴노멀’로 굳어질 가능성이 커 보인다. 주요국이 AI 산업 지원 관련 법안·제도 정비에 나서고 있다. 특히 미중 경쟁에서도 AI는 핵심으로 들어왔다. 미국은 지난해 수출관리규정(EAR) 2차 개정을 통해 13개 중국 AI 반도체 설계 기업을 통제 대상에 추가했다. 챗GPT를 만든 샘 올트먼 오픈AI 최고경영자(CEO)가 최근 AI 반도체 자체 개발을 위해 최대 7조 달러(약 9300조원)의 투자금을 유치하려 한다는 외신 보도가 나오기도 했다. 영국 데이터 분석 미디어 토터스인텔리전스의 ‘글로벌 AI 지수’에 따르면 한국의 AI 산업 수준은 62개국 중 6위다. 1위 미국, 2위 중국과의 격차는 크지만 3~8위는 엇비슷하다. 상대적으로 낮은 점수를 받은 현장 인력 부문, AI 기업 수 및 투자 규모 등을 보완하면 우위에 설 수도 있다. 요즘 과학기술정보통신부에서는 AI 담당자들이 가장 바쁘다. 그런데도 최근 사무관급 이하 직원 인사 때 지원자들이 AI 관련 과들에 몰렸다고 한다. 정부는 ‘전 세계에서 AI를 가장 잘 활용하는 대한민국’이라는 비전을 내걸고 있다. 투자 규모에선 미중을 이길 수 없지만, 사회 전 분야에 AI 대중화를 서둘러 디지털 강국을 실현하겠다는 것이다. 지난 13일 발표된 과기부의 ‘2024년 주요 정책 추진계획’에도 AI는 핵심 과제로 담겼다. 박윤규 과기부 2차관이 많게는 일주일에 두 번씩 ‘AI 일상화 연속 현장 간담회’를 이어 가는 것도 같은 취지다. AI 반도체 기업 방문을 시작으로 법률, 뷰티, 의료·심리상담 등 AI가 접목될 분야 종사자들을 만나 현장 목소리를 제도 개선으로 옮기려 한다. 하지만 ‘AI 기본법’(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 1년 넘게 국회에 계류 중인 점은 우려스럽다. AI 산업 발전과 안정성 확보를 위한 방향성을 모두 담고 있는 이 법안은 AI 규제 부분이 취약하다는 시민단체의 지적 이후 논의가 이뤄지지 않고 있다. 과기부는 올해 추진계획에서 AI 기본법을 제정하겠다는 계획을 내세우면서도 구체적인 방안은 밝히지 않았다. 관련 법조차 정비되지 않은 상태로 AI 일상화만 서두른다면 자칫 ‘AI 무법지대’로 국민을 몰아넣는 꼴이 될까 우려스럽다. 세계 3위 AI 강국의 꿈을 실현하기 위해서라도 입법을 서둘러야 할 때다.

인공지능(AI) 반도체 시장을 선점한 엔비디아가 미국 증시에서 아마존을 제치고 시가총액 4위에 올랐다. 시총 2조 달러를 바라보는 엔비디아의 거침없는 진격은 기술주의 위력이 얼마나 강력한지를 보여 준다. 우리 정부도 저평가된 국내 기업 주가를 끌어올리기 위한 정책을 이달 안에 내놓기로 했지만 엔비디아와 같은 ‘신데렐라’가 나오려면 기술 혁신을 할 수 있는 토양을 만들어 줘야 한다는 지적이 나온다. 엔비디아 시총은 13일(현지시간) 종가 기준 1조 7816억 달러(약 2381조원)로 아마존(1조 7517억 달러)을 따돌리고 미 상장기업 4위에 올라섰다. 엔비디아가 아마존을 넘어선 것은 2002년 이후 22년 만으로 샘 올트먼 오픈AI 최고경영자(CEO)가 2~3개월 전부터 공개적으로 탈엔비디아를 언급했음에도 주가가 상승세를 달리고 있다. 엔비디아는 AI 모델 학습과 추론에 특화된 반도체 패키지인 ‘AI 가속기’를 만드는 회사로 챗GPT의 등장과 함께 생성형 AI 시장이 본격 열리면서 기업 가치가 크게 올랐다. 그래픽처리장치(GPU) 제조업체인 엔비디아가 AI 시대 최대 수혜주로 떠오른 비결은 끊임없는 기술 혁신으로 경쟁력을 끌어올렸기 때문이다. 그 결과 엔비디아 시총은 메모리반도체 1위 기업이자 파운드리(반도체 위탁생산), 시스템반도체 사업에도 뛰어든 삼성전자 시총(448조 9276억원, 13일 종가 기준)의 다섯 배가 넘는다. 엔비디아에 고대역폭메모리(HBM)를 공급하는 SK하이닉스 시총은 109조 2004억원으로 국내 시총 2위에 해당하지만 미 대형 기술주 7인방(일명 ‘매그니피센트 7’)과는 비교가 안 된다. 코리아디스카운트(한국 증시 저평가)를 해소하기 위해 정부가 준비 중인 밸류업 프로그램이 주가 부양에 일정 부분 도움이 될 수 있지만 주가 상승의 원동력은 언제나 실적이며 이를 위해서는 기술 혁신과 산업구조 재편이 필요하다는 게 전문가들 설명이다. 김양팽 산업연구원 전문연구원은 “미국은 전통적인 팹리스(반도체 설계 전문) 강국으로 우리가 한 번에 따라가기는 어렵다”면서 “향후 10년 안에 반도체 시장이 지금의 두 배 수준까지 커질 수 있는 만큼 우리가 강점을 갖는 메모리반도체 산업을 활성화해야 한다”고 했다. 장영욱 대외경제정책연구원 부연구위원은 “공매도 등 제도 정비도 중요하지만 코리아디스카운트를 근본적으로 해소하려면 규범에 입각한 경쟁 기반을 만들면서 연구개발(R&D) 지원 규모를 늘려야 한다”고 말했다.

인공지능(AI) 반도체 기업 엔비디아가 13일(현지시간) 미국 증시에서 아마존을 제치고 시가총액 4위에 올랐다. 전 세계에 불어닥친 AI 붐을 타고 엔비디아의 그래픽처리장치(GPU)가 폭발적 인기를 얻고 있어서다. 이날 뉴욕증권거래소(NYSE)에서 엔비디아 주가는 전날보다 0.17% 내린 721.28달러에 거래를 마쳤다. 아마존은 2.15% 하락했다. 종가 기준 엔비디아 시총은 1조 7816억달러(약 2381조원)로 아마존(1조 7517억달러)을 넘어섰다. 마이크로소프트(MS·3조 191억달러)와 애플(2조 8574억달러), 알파벳(구글·1조 8198억 달러)에 이어 미 상장기업 4위로 도약했다. 종가 기준 시총으로 엔비디아가 아마존을 넘어선 것은 2002년 이후 22년 만이다. 게임용 PC에 들어가는 그래픽 카드를 제조하는 엔비디아는 최근 AI 열풍에 편승해 ‘챗GPT’ 등 생성형 AI 개발에 쓰이는 그래픽처리장치(GPU)가 수요가 급증해 주가가 치솟았다. 지난 12개월간 246% 올랐고 올해 들어서도 상승 폭이 46%에 달한다. 엔비디아는 오는 21일 분기 실적을 발표한다. 어닝 서프라이즈(예상밖 호실적)를 공개해 주가가 810달러 수준이 되면 MS와 애플에 이어 ‘시총 2조 달러 클럽’이 된다. 시총 3위 알파벳을 제치는 것도 시간 문제로 보인다. 이달 들어서도 최소 5곳의 금융투자회사가 엔비디아 목표주가를 상향 조정했다. UBS그룹은 목표주가를 580달러에서 850달러로 올렸고, 미즈호 증권도 625달러에서 825달러로 바꿨다. 블룸버그통신은 “엔비디아 주식은 미국에서 가장 사랑받는 주식 가운데 하나가 됐다”고 설명했다.