K팝 걸그룹 멤버 사진을 대량으로 도용해 학습시킨 AI 모델 데이터가 온라인상에서 유포되고 있다. 수익 창출이나 음란물 제작에 악용될 수 있다는 우려가 나온다. 27일 업계 등에 따르면 생성형 인공지능(AI) 모델 공유 사이트 시빗AI(CivitAI)에는 이용자들이 뉴진스, 르세라핌, 아이브, 에스파, 트와이스 같은 인기 K팝 걸그룹 멤버의 이미지를 학습시킨 데이터가 다수 올라와 있다. 게시된 파일들은 지난해 스테빌리티AI가 오픈소스로 공개한 이미지 합성 AI ‘스테이블 디퓨전’(Stable Diffusion)에 적용해 딥페이크 이미지를 생성할 수 있는 AI 모델이다. 스테이블 디퓨전의 모델은 크게 전반적인 화풍을 결정하는 핵심 모델 ‘체크포인트’와 인물의 얼굴·자세 등을 결정하는 보조 모델 ‘LoRA’(Low-Rank Adaptation)로 나뉜다. 이 중 실존 인물 딥페이크 제작에 주로 쓰이는 LoRA는 용량이 수십~수백 메가바이트(MB)에 불과하고, 제작이 상대적으로 쉬워 시빗AI 같은 사이트나 온라인 커뮤니티에서 쉽게 공유되고 있다. ‘챗GPT’ 같은 고성능 대화형 AI와 달리, 일반인도 자기 집 PC에서 오프라인으로 구동할 수 있기 때문이다. 수익창출·음란물 제작 등 악용 가능성도 문제는 이러한 AI 모델이 수익 창출이나 음란물 제작에 악용될 수 있다는 점이다.유튜브에는 이미지 생성 AI로 만들어낸 여성 이미지를 이용한 ‘AI 룩북’ 콘텐츠가 성행하고 있고, 일부 이용자들은 AI가 생성한 음란물을 판매하기도 한다. 다만 연예인이나 인플루언서의 초상권을 침해한 AI 모델로 창작물을 만들어 수익을 낼 경우 민형사상 책임을 질 수 있다. 부정경쟁방지법 2조는 ‘국내에 널리 인식되고 경제적 가치를 가지는 타인의 성명, 초상, 음성, 서명 등 타인을 식별할 수 있는 표지를 무단으로 사용함으로써 타인의 경제적 이익을 침해하는 행위’를 부정행위로 간주하고 있다. 성폭력처벌법 14조의2도 ‘사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물·음성물’과 이에 따른 ‘편집물·합성물·가공물·복제물’을 당사자의 의사에 반해 유포한 사람에 대해 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하도록 하고 있다. K팝 업계도 소속 아티스트의 이미지를 활용한 AI 모델 배포에 대응 방안을 고민하고 있는 것으로 전해졌다.

  7월 1일이면 국민건강보험공단이 창립 23주년을 맞는다. 사람으로 치면 혈기왕성한 열정으로 미래에 대한 원대한 비전과 목표를 추진해 가는 시기이다. 곧 도래할 초고령사회에 대비하는 차원에서 ‘국민보건과 사회보장 증진으로 국민 삶의 질 향상’이라는 기관 미션 달성을 위해 성장하고 있는지, 나아가 ‘장기요양보험자로서의 역할’에 대한 전반적인 성찰이 필요한 시기라고 본다. 건보공단은 2023년 현재 107조 4897억원의 재원(건강보험 92조 6734억, 장기요양보험 14조 4739억, 4대보험 분담금 3424억)을 관리하며, 전국적으로 6개 본부 178개 지사에 1만 6000여명의 직원을 거느린 거대 공기업으로 성장했다. 이러한 성장을 축하도 해야겠지만, 돌봄서비스를 공급하는 노인장기요양기관들은 그럴 여유조차 없다. 장기요양보험자로서의 역할에 대한 전반적인 성찰 필요 2008년 7월 암반 위에 심어진 묘목(苗木)마냥 어렵게 싹을 틔우며 불안하게 출발한 노인장기요양보험제도에 대해 국민적 만족도 90% 수준에서 제도 도입의 의의나 성과를 언급하기도 하지만, 장기요양 15주년을 맞는 공급자들의 현실은 ‘참담’(慘憺) 그 자체다. 도입당시 지적되었던 제도적 미비점은 개선 기미조차 보이지 않고, 오히려 정제되지 않은 정책들로 제도의 난맥상(亂脈像)을 더욱 부채질하고 있다. 그 이유로 첫째로 국민의 선택권을 제한하는 등급제도로 인한 서비스의 불공정이다. 두 번째로 모든 직종에 걸친 심각한 구인난이다. 세 번째로는 기획재정부가 실시하는 공기업(공단)경영평가 항목의 오류이다. 국민의 선택권을 제한하는 등급제도로 인한 서비스 불공정 이를 구체적으로 살펴보면 첫째로 등급제도의 문제점을 들여다보아야 한다. 돌봄이 필요한 치매노인을 사회보험이라는 울타리에 가두어두고 등급심사제도를 통해 그 서비스를 받아야 하는 수급 인원을 시설급여, 재가급여로 통제함으로써 불공정이 시작되고 있다. 치료가 필요한 중증노인들을 1등급 입소자격을 부여해 의사가 상주하지 않는 요양원에 입소하게 만들었다. 그 결과 정작 돌봄이 필요한 노인들은 등급을 받지 못해 그냥 아프다고만 말하면 입소가 가능한 요양병원으로 쏠리게 됨으로써 우후죽순(雨後竹筍)처럼 요양병원들이 늘어났다. 이러한 현상으로 건강보험재정이 더욱 악화되고 있는 것이다. 한편, 치매 수급자들에게 등급을 발급해 주기 위해 소요되는 지역별 등급판정위원회에 사용되는 예산이 과연 적정한지 검토해야 할 시기가 왔다.  노인장기요양기관의 심각한 구인난 심각 둘째는 심각한 구인난이다. 저출산 초고령화로 모든 산업에서 인력이 부족하다고 말하지만, 장기요양은 사람이 사람을 돌보는 체제이기 때문에 더욱 그렇다. 그럼에도 불구하고 포퓰리즘적 설익은 제도를 만들어 현장을 더 혼란스럽게 만드는 것이 더 문제다.  대표적으로 ‘지역사회 돌봄’(Community Care) 정책이나 ‘거주지 돌봄’(Aging in Place·AIP)을 하겠다면서 아주 쉽게 돈 버는 일이라고 인력들을 유혹하고 있다. 정작 실태를 들여다보면 수준 이하의 서비스가 제공되면서 예산만 낭비하고 있는 것으로 보인다. 누구를 위한 정책인지 정밀 검토가 필요하다.  공공기관 경영평가 항목의 오류와 공포의 현지 조사 셋째, 기획재정부는 공공기관 경영평가에서 재가급여 확대와 현지조사 환수 실적을 심사기준으로 공단을 우수기관으로 인정하고 인센티브를 지급한다. 공단이 내세우는 사업들을 보면 콧줄(레빈튜브)로 연명하거나 침대에 누워 생활해야 하는 1·2등급 중증노인들을 자택에서 모시게 하는 것이 장기요양제도의 본질일까? ‘집에서 죽고 싶다는 노인의 선택권을 위해 이 사업이 추진되어야 하는지’와 ‘이 사업의 숨은 배경에 공단이 바라보는 인센티브가 있겠구나’ 하는 의심을 떨쳐버릴 수 없다. 다음으로는 공안검찰을 떠올리게 하는 공포의 현지조사다. 현지조사는 장기요양기관이 거짓이나 부정한 방법으로 부정수급을 한 경우 반드시 이를 조사하고 처벌을 해야 할 것이다. 그럼에도 불구하고 최근 공단은 배설물이 묻은 오염된 의류를 세탁기에 돌려 빨래를 한 것을 부정한 짓이라고 수십억 원을 환수하고 위탁 급식을 하는 기관에서 따뜻한 밥을 해드리기 위해 보온밥솥에 밥을 지은 것이 인력배치기준 위반이라고 수억 원을 환수해가고 있다. 공단은 현지조사를 한다는 이유로 2023년 현재 공단이 보유하고 있는 전 국민 5155만 8000명의 99.7%인 5140만명의 건강보험 적용대상자 인적 정보를 많은 국민은 물론, 특히 장기요양시설 종사자·입소자의 동태(해외여행, 근무시간 등)를 감시하는 현미경으로 악용(惡用)하고 있다.  장기요양제도 미래를 위해 요양보호사 처우개선과 인력확보 필요 4개월간의 짧은 기간 제21대 국회의원을 지낸 바 있는 윤희숙 전 의원은 KDI연구위원 시절 출범 1주년이 되는 장기요양제도의 미래에 대해 ‘공단의 관리기능과 평가기능 분리, 최소·최저수준의 통제’를 권고하면서 ‘요양보호사 등 종사자 처우개선과 인력확보 방안을 강구하라’고 촉구한 바 있다. 각성을 촉구하는 목소리가 그것뿐이겠는가? 출범 4주년인 2012년의 양승조 국회의원 토론회와 15주년을 맞은 2023년의 최재형 국회의원 토론회에서 표출된 종사자 처우개선과 구인난 해소, 등급제와 등급판정위원회 제도 개선 등 문제점과 개선방안이 변한 것 없이 15년이라는 세월만 흐른 하나만으로도 참으로 실망스럽고 개탄스럽다.  풍전등화에 놓인 초고령사회 대비책 정부는 제1·2차 ‘장기요양 기본계획’ 등을 통해 정책목표로 제시한 바 있다. 제3차 장기요양 기본계획은 아직 확정·발표하지 못하고 있다. 응당 해결해야 할 요양시설 종사자들의 처우개선이나 요양보호사 구인난(求人難) 해소에는 손을 놓고 있다. ‘하늘의 별 따기’보다 더 어렵다는 요양보호사를 구하기 위해 ‘외국인 인력 수입’을 제안했지만, 귀족노조 눈치만 보고 있다. 최저임금 수준의 종사자 처우개선을 위해 장기요양위원회를 통한 수가(受價)체계 개선을 그토록 촉구했지만, 그때마다 특정 노조단체의 반대로 무산되었다. 종사자 처우개선은 곧 노조 탈퇴로 이어지나 보다. 현지조사에 매몰되어 있는 공단으로 말미암아 불과 2년 후면 도래할 초고령사회 대비책은커녕 그나마 민간에 의지해 명맥을 유지해 왔던 장기요양제도는 풍전등화(風前燈火) 수준이다. ‘NO老케어’(老老케어) 등 장기요양시설에 직면한 여러 현안에 대한 시의적절(時宜適切)한 대책이 제시되지 않고 있고, 이 제도를 파탄에 이르게 한 어용 교수들이 아직도 공단과 어우러져 활동하는 모습을 보면 여야를 넘나드는 처세술에 그저 고개가 끄덕여질 뿐이다. 국민의 편안한 노후 보장을 위한 3가지 제안 이제 건보공단 창립 23주년을 맞이하여 정부에 다음과 같은 몇 가지를 제안하고자 한다. 첫째, 장기요양보험심사평가원을 신설해 장기요양보험제도 운영과 평가기능을 기존 건보공단 업무에서 분리해야 한다. 시설에 대한 불필요하고 폭압적인 통제를 지양하는 한편 장기요양기관에 대한 지원 및 협력 기능을 강화해 온전히 장기요양시설 서비스의 질을 제고할 수 있도록 하는 것이 국민을 위한 길이다. 둘째, ‘국민의 편안한 노후보장’이라는 장기요양의 책무를 진정성 있게 이행하기 위해 모든 역량을 동원해 최근까지 쟁점 현안으로 지속되어 온 ‘종사자 처우개선 및 구인난 해소를 위한 대책을 수립·시행’해야 한다. 이를 위해 사회복지시설 인건비 가이드라인을 우선 적용할 것을 촉구한다. 셋째, 보건복지부에 ‘장기요양제도혁신TF’(가칭)를 구성해 장기요양위원회 거버넌스를 개혁하고 제도 전반에 걸친 제도개편(안)을 마련해야 한다.  일선에서 직접 치매수급자들을 모시고 있는 장기요양기관들은 국민건강보험공단 창립 23주년과 대비해 장기요양보험 15주년이 왠지 서자(庶子) 취급을 받는 것 같아 마음이 편치 않다. 이제 지금부터라도 다시 시작해야 한다. 명실상부한 ‘노인복지의 파수꾼’으로, 초고령사회 노령국민들의 보호자로서 국민 행복을 선도하는 기관으로 우뚝 서길 진심으로 바란다. 권태엽 (한국노인복지중앙회 회장·장기요양위원회 위원)

학생이 교사를 상대로 성희롱 문구를 작성해 폐지 논란이 일었던 교원능력개발평가(교원평가)에 대해 정부가 부적절한 용어에 대한 필터링을 강화하기로 했다. 교원평가를 유지하는 대신 보완하기로 한 것인데, 필터링을 우회할 가능성은 여전하다는 지적이 나온다. 교육부는 2023년 교원평가를 오는 9~11월 시행하기로 하고 구체적인 시행방안을 각 교육청에 안내했다고 12일 밝혔다. 2010년 도입된 교원평가는 매년 교원들에 대한 학생과 학부모 만족도를 객관식과 자유 서술식 문항으로 조사한다. 그러나 평가의 익명성을 악용해 서술식 답변에 욕설과 성희롱 문구를 적어 논란이 끊이지 않았다. 지난해 세종시의 한 고등학교에서 학생이 성희롱 문구를 적어낸 사실이 드러나 교원단체들은 서술식 답변이라도 없애야 한다고 요구해 왔다. 교육부는 학생과 학부모의 여론을 고려할 때 교원평가를 존치해야 한다고 보고 시행방안을 개선하기로 했다. 우선 7~8월 서술식 답변에서 필터링되는 금칙어 목록을 추가한다. 지난해는 데이터베이스(DB)에 저장된 금칙어 876개만 걸러낼 수 있었다. 특수기호가 섞인 금칙어도 보이지 않도록 시스템을 개선했다. 자유 서술식 문항 앞에는 “부적절한 답변을 제출할 경우 관련 법에 따라 처벌될 수 있고 교육활동 침해 행위에 따른 조치를 받을 수 있다”는 경고 문구도 넣기로 했다. 교원 보호도 강화한다. 부적절한 답변은 법에 따라 교육활동 침해 행위로 규정하고 학교와 교육지원청이 수사를 의뢰하는 등 적극 대응할 계획이다. 가해 학생이 특정되면 교권보호위원회를 열어 교내·사회 봉사, 특별교육·심리 치료, 출석 정지, 학급 교체, 전학, 퇴학 등 교육활동 침해 행위에 따른 조치를 시행한다. 교원단체들은 근본적인 대책이 부족하다고 비판했다. 기존에도 필터링 기능이 있었지만 작성자들이 교묘하게 피했기 때문이다. 교사노동조합연맹은 “서술형 평가는 작성자의 무책임한 발언에 대해 책임을 물을 수 없는 구조로 교사들에게 미치는 정신적 악영향이 심각하다”고 지적했다. 한국교원단체총연합회는 “생활지도에 적극적인 교사들이 압력을 받고 낮은 평가 결과를 받는다”며 “인기 평가로 전락한 교원 평가를 전면 개선해야 한다”고 했다. 교육부 관계자는 “장기적으로 인공지능(AI) 기반 필터링을 도입할 필요가 있다”며 “정책 연구와 의견 수렴을 거쳐 전면적인 개선 방안을 마련하겠다”고 말했다.

학생이 교사에게 성희롱 문구를 작성해 폐지 논란이 일었던 교원능력개발평가(교원평가)에 대해 정부가 부적절한 용어 필터링을 강화하기로 했다. 교원평가를 유지하되 보완하는 것인데, 필터링을 우회할 가능성은 여전하다는 지적이 나온다. 교육부는 2023년 교원평가를 오는 9~11월 시행하기로 하고 구체적인 시행방안을 각 교육청에 안내했다고 12일 밝혔다. 2010년 도입된 교원평가는 매년 교원들에 대한 학생과 학부모 만족도를 객관식과 자유 서술식 문항으로 조사한다. 그러나 평가의 익명성을 악용해 서술식 답변에 욕설과 성희롱 문구를 적어 논란이 끊이지 않았다. 지난해 세종시의 한 고등학교에서는 학생이 성희롱 문구를 쓴 사실이 드러나 교원단체들은 서술식 답변이라도 없애야 한다고 요구해 왔다. 교육부는 학생과 학부모의 여론을 고려할 때 교원평가를 존치해야 한다고 보고 시행방안을 개선하기로 했다. 우선 7~8월 서술식 답변에서 필터링되는 금칙어 목록을 추가한다. 지난해는 데이터베이스(DB)에 저장된 금칙어 876개만 걸러낼 수 있었다. 특수기호가 섞인 금칙어도 보이지 않도록 시스템을 개선했다. 자유 서술식 문항 앞에는 “부적절한 답변을 제출할 경우 관련 법에 따라 처벌될 수 있고 교육활동 침해 행위에 따른 조치를 받을 수 있다”는 경고 문구도 넣기로 했다. 교원 보호도 강화한다. 부적절한 답변은 법에 따라 교육활동 침해 행위로 규정하고 학교와 교육지원청이 수사를 의뢰하는 등 적극 대응할 계획이다. 가해 학생이 특정되면 교권보호위원회를 열어 교내·사회 봉사, 특별교육·심리 치료, 출석 정지, 학급 교체, 전학, 퇴학 등 교육활동 침해 행위에 따른 조치를 시행한다. 교원단체들은 근본적인 대책이 부족하다고 비판했다. 기존에도 필터링 기능이 있었지만 작성자들이 교묘하게 피했기 때문이다. 교사노동조합연맹은 “서술형 평가는 작성자의 무책임한 발언에 대해 책임을 물을 수 없는 구조로 교사들에게 미치는 정신적 악영향이 심각하다”며 “교육활동 보호 조치는 사안이 발생한 경우의 후속 조치”라고 지적했다. 한국교원단체총연합회는 “생활지도에 적극적인 교사들이 압력을 받고 낮은 평가 결과를 받는다”며 “인기 평가로 전락한 교원 평가는 전면 개선해야 한다”고 했다. 전국교직원노동조합은 “교원평가를 통한 성희롱, 인격 모독 피해에 대한 전수 조사 실시와 여성 교사에 대한 성희롱 방지 대책이 빠져있다”고 했다. 교육부 관계자는 “장기적으로 인공지능(AI) 기반 필터링을 도입할 필요가 있다”며 “정책 연구와 의견 수렴을 거쳐 전면적인 개선 방안을 마련하겠다”고 말했다.

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술 활용 과정에서 발생하는 보안 문제를 예방할 가이드라인을 마련해 이달 중 공공기관과 지방자치단체에 배포할 예정이라고 11일 밝혔다. 국정원은 지난 9일 챗GPT 보안 관련 분야 산학연 전문가 의견을 청취하기 위해 국가 사이버안보 민관협의체 회의를 열었다고 이날 밝혔다. 국가 사이버안보 민관협의체 소속 전문가와 각 부처 보안 담당자 60여명이 참여한 이번 회의에서 국정원 관계자는 “국가기관에서 AI 기술을 사용할 때 민간 기술 등을 활용해 정부 차원의 AI 모델을 행정업무망 내부에 자체 구축하는 형태가 돼야 한다”며 정부 기관들이 AI 시스템을 구축할 때 고려해야 할 사항을 제시했다. 이어 국정원 관계자는 “회의에서 논의된 내용과 기관별 애로사항을 반영해 이달 안으로 전체 국가 공공기관과 지자체에 보안가이드라인을 배포할 계획”이라고 했다. 권태경 한국정보보호학회 AI보안연구회 부위원장은 “기술의 발전만큼 중요한 것이 보안제도 마련”이라며 “보안정책의 기틀 위에서 AI 기술 활용이 이뤄져야 한다”고 강조했다. 앞서 윤석열 대통령은 챗GPT를 활용해 신년사를 작성한 경험을 알리는 등 정부는 행정 분야에 챗GPT를 활용하는 방안에 적극적인 것으로 알려졌다. 이에 국정원은 지난 4월부터 국가보안기술연구소, 학계 전문가와 합동으로 정부 기관이 챗GPT를 활용하는 과정에서 발생할 수 있는 보안 문제를 사전에 예방하면서 행정업무 효율화를 달성할 수 있도록 지원하는 가이드라인을 만들어 왔다. 일각에선 챗GPT가 행정 업무에 활용될 경우 업무상 비밀이나 개인정보가 유출되거나, 가짜뉴스·비윤리적 자료가 생성되는 등 기술이 악용될 수 있다는 우려가 제기된다. 국정원은 가이드라인에 ▲생성형 AI 기술 개요와 보안위협 ▲안전한 AI 기술 사용방안 ▲기관 정보화사업 보안 대책 등을 담을 예정이다. 미국과 유럽연합 역시 최근 정부 차원에서 챗GPT 사용 시 부작용 방지를 위한 AI행동강령 제작에 착수한 바 있다. 이탈리아 정부는 정보보호 명목으로 챗GPT 접속을 차단했다가 운영사의 보안 조치 시행을 확인한 뒤 접속을 재개했다. 또 국내외 민간 기업들도 사내 보안 정책을 강화하는 추세다. 국정원 관계자는 “앞으로 지속 등장하는 IT 신기술에 대한 보안대책을 적시에 마련해 각급 기관의 안전한 정보통신기술 활용을 지원할 방침”이라고 했다.

국가정보원이 챗GPT 등 생성형 인공지능(AI) 기술 활용 과정에서 발생하는 보안 문제를 예방할 가이드라인을 마련해 이달 중 공공기관과 지방자치단체에 배포할 예정이라고 11일 밝혔다. 국정원은 지난 9일 챗GPT 보안 관련 분야 산학연 전문가 의견을 청취하기 위해 국가 사이버안보 민관협의체 회의를 열었다고 이날 밝혔다. 국가 사이버안보 민관협의체 소속 전문가와 각 부처 보안 담당자 60여명이 참여한 이번 회의에서 국정원 관계자는 “국가기관에서 AI 기술을 사용할 때 민간 기술 등을 활용해 정부 차원의 AI 모델을 행정업무망 내부에 자체 구축하는 형태가 되어야 한다”며 정부 기관들이 AI 시스템을 구축할 때 고려해야할 사항을 제시했다.이어 국정원 관계자는 “회의에서 논의된 내용과 기관별 애로사항을 반영해 이달 안으로 전체 국가 공공기관과 지자체에 보안가이드라인을 배포할 계획”이라고 했다. 권태경 한국정보보호학회 AI보안연구회 부위원장은 “기술의 발전만큼 중요한 것이 보안제도 마련”이라며 “보안정책의 기틀 위에서 AI 기술 활용이 이뤄져야 한다”고 강조했다. 앞서 윤석열 대통령은 챗GPT를 활용해 신년사를 작성한 경험을 알리는 등 정부는 행정분야에 챗GPT를 활용하는 방안에 적극적인 것으로 알려졌다. 이에 국정원은 지난 4월부터 국가보안기술연구소, 학계 전문가와 합동으로 정부 기관이 챗GPT를 활용하는 과정에서 발생할 수 있는 보안 문제를 사전에 예방하면서 행정업무를 효율화을 달성할 수 있도록 지원하는 가이드라인을 만들어왔다. 일각에선 챗GPT가 행정 업무에 활용될 경우 업무상 비밀이나 개인정보가 유출되거나, 가짜뉴스·비윤리적 자료가 생성되는 등 기술이 악용될 수 있다고 우려가 제기된다. 국정원은 가이드라인에 ▲생성형 AI 기술 개요와 보안위협 ▲안전한 AI 기술 사용방안 ▲기관 정보화사업 보안 대책 등을 담을 예정이다. 미국과 유럽연합 역시 최근 정부 차원에서 챗GPT 사용시 부작용 방지를 위한 AI행동강령 제작에 착수한 바 있다. 이탈리아 정부는 정보보호 명목으로 챗GPT 접속을 차단했다가 운영사의 보안 조치 시행을 확인한 뒤 접속을 재개했다. 또 국내외 민간 기업들도 사내 보안 정책을 강화하는 추세다. 국정원 관계자는 “앞으로 지속 등장하는 IT 신기술에 대한 보안대책을 적시에 마련해 각급기관의 안전한 정보통신기술 활용을 지원할 방침”이라고 했다.

미국 워싱턴DC 인근 버지니아주 알링턴카운티에 있는 국방부 청사 펜타곤 근처에서 대형 폭발이 발생했다는 가짜뉴스가 나돌아 금융시장이 일시 출렁였다. 테러 의혹으로까지 이어진 해당 사진은 생성형 인공지능(AI)으로 만든 가짜 사진으로 밝혀졌다. 22일(현지시간) 오전 트위터와 텔레그램 등 각종 SNS에 펜타곤 폭발 현장 사진이 하나 나돌기 시작했다. 사진에는 펜타곤과 닮은 직사각형 건물 주변에서 검은 연기 기둥이 치솟는 모습이 담겨 있었다. 사진은 오전 8시 42분 트위터 유료 인증 계정 ‘@CBKNews121’에 처음 게시됐다. 이 계정에서는 미국 내 음모론자들과 관계가 있는 여러 아이콘, 대표적 음모론 단체인 큐어넌에 대한 지지가 목격됐다. 게시물은 유명 ‘오픈 소스 정보’(OSINT) 관련 계정을 타고 급속도로 확산했다. 전쟁 당사국인 러시아와 우크라이나 매체도 큰 관심을 보였다. 같은날 오전 10시 3분 러시아 해외 선전매체인 RT는 “펜타곤(미국 국방부 청사) 근처에 폭발 보도가 있다”고 트윗했고, 친러 세력은 환호했다. 반대로 우크라이나 나우는 텔레그램을 통해 해당 소식을 속보로 전하며 우려를 표했다. 사진은 트위터 팔로워 65만명으로 블룸버그통신의 헤드라인을 트윗하는 경제뉴스 인플루언서까지 퍼날랐다. 그는 오전 10시 6분쯤 “펜타곤 단지 근처에 대형 폭발”이라는 글을 올렸다가 나중에 삭제했는데, 그 사이 리트윗 수백건이 이뤄졌다. 팔로워 160만명을 보유한 월가의 유명 블로거 ‘제로헤지’도 “펜타곤 근처 폭발”이라는 설명과 함께 사진을 게시했다가 지웠다. 블룸버그 통신과 전혀 관계가 없는 ‘블룸버그 피드’ 등 가짜뉴스 제조단체들도 사진을 퍼뜨리는 데 가세했다.러시아 선전매체도 ‘깜빡’ 속아투자자 동요→금융 시장 일시 출렁AI 가짜사진의 위력 확인되지 않은 SNS발 속보에 일부 투자자들이 동요하면서 금융 시장은 일시 출렁였다. 오전 9시 30분에 개장하는 미 증시의 스탠더드앤드푸어스(S&P) 500 지수는 0.3% 정도 떨어졌다가 회복했다. 이는 시장에 큰 우려가 돌출할 때 나타나는 전형적 현상으로 관측됐다. 위기 때 투자자들이 피신하는 안전자산인 미국 국채와 금의 가격은 반대로 잠시 상승했다. 불안이 확산하자 현지 언론인들이 속속 사실 확인에 나섰다. 블룸버그 수석 에디터 데이비드 요아킴은 자신의 트위터를 통해 “국방부 대변인은 오늘 아침 펜타곤에서 폭발 같은 건 없었다고 했다”며 “가짜 뉴스”라고 밝혔다. 튀르키예 국영방송 TRT 워싱턴 특파원 유누스 팍소이는 직접 찍은 현장 사진과 함께 “펜타곤 폭발은 없다. 가짜 뉴스”라고 전했다. 당국이 개입에 나선 것은 약 2시간 만인 같은 날 오전 10시 27분쯤이었다. 버지니아주 알링턴카운티 소방당국은 공식 트위터를 통해 “SNS 등 온라인에 펜타곤 폭발 관련 정보가 돌고 있으나, 펜타곤 영내는 물론 그 근처에서 그 어떤 폭발이나 사고가 발생하지 않았으며 대중에게 즉각적인 위험은 없다”고 확인했다.전문가들은 이번 소동에 다소 황당한 면이 있다고 분석했다. 디지털자료분석단체 ‘벨링캣’ 조사관 닉 워터스는 “사진을 두고 허둥지둥한 게 아예 납득이 되지 않는다”고 평가했다. 이어 “사진은 진짜 공간이 아닌 까닭에 진짜 위치를 찾을 수 없고 워싱턴DC 어느 곳에도 그런 건물은 없다”고 지적했다. 해당 사진에서는 AI가 이미지를 생성하는 과정에서 건물 앞의 서로 다른 담장이 변형되고 뒤섞인 흔적도 포착됐다. 그러나 이번 사태로 AI발 가짜뉴스 하나가 세상을 어느 정도로 뒤흔들 수 있는지가 재확인됐다. AP통신은 “점점 섬세해지고 접근하기 편한 프로그램이 일상에 가할 수 있는 혼란이 이번 사태에서 부각된다”고 지적했다. 특히 주요 선거를 앞두고 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우 선거 판도에 치명적인 악영향을 끼칠 수 있다는 가능성이 제기된다.미 대선 국면 AI발 허위정보 유포 우려“유권자 맞춤형 허위정보·사진·음성 등장” 20일 영국 가디언은 생성형 AI 작업물은 사람들에게 일방적으로 전달되는 것이 아니라, 실시간 상호작용을 통해 더 설득력 있는 방식으로 표현된다는 점에서 대규모로 선거에 악용될 여지가 있다는 분석이 전문가들 사이에서 나온다고 짚었다. 미국 사이버보안 업체인 ‘레코디드 퓨처’의 알렉산더 레슬리 분석가는 “미국 대선을 앞두고 이런 기술이 더 진보하고, 더 널리 이용 가능해질 수 있다”며 “폭넓은 교육과 인식 개선 없이는 이것이 대선의 진짜 위험요소가 될 수 있다”고 경고했다. 영국 앨런 튜링 연구소의 AI 연구 재단을 맡고 있는 마이클 울드리지 교수도 “AI 기술이 만들어낼 가짜뉴스가 내 가장 큰 걱정거리”라고 말했다. 그는 “영국과 미국에서 선거 일정이 다가오고 있고, 소셜미디어가 허위정보 전달의 강력한 도구라는 점은 이미 알려져 있다”며 “생성형 AI는 이런 가짜뉴스를 산업적인 규모에서 찍어낼 수 있다”고 경고했다. 아주 간단한 프로그래밍 지식만 갖고 있다면, 온라인상 허위 계정들을 만든 후 특정 성향이나 특정 지역의 유권자를 겨냥한 맞춤형 가짜뉴스를 생산해낼 수 있다는 것이다. 샘 올트먼 오픈AI 최고경영자(CEO) 역시 16일 미 의회 청문회에서 “가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력”이라고 우려한 바 있다.실제로 챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 ‘딥페이크’ 동영상 등은 이미 현실과 구분하기 어려울 정도로 높은 수준에 도달하고 있다. 지난 3월에는 성추문 사건과 관련해 체포 전망이 제기되던 가운데 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 AI 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드 발렌시아가 풍의 하얀 패딩 재킷을 입은 허위 이미지도 대중에 실제인 것처럼 인식돼 논란이 벌어진 바 있다. 지난 1월에는 조 바이든 미 대통령의 목소리를 사용해 그가 마치 백악관 회견을 통해 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 AI 영상이 만들어지기도 했다. 뉴스가드 공동CEO인 스티븐 브릴은 “누군가 이런 잘못된 이야기를 고의적으로 대량 생산하기 위해 AI를 활용할 수 있다”고 지적했다.

보이스피싱 범죄에 AI(인공지능) 기술이 악용돼 단 10분 만에 8억 원대의 돈이 이체되는 사건이 발생했다. 22일 신징바오 등 중국 매체들은 최근 푸저우의 한 과학기술개발 전문업체 법인장 궈 모 씨가 지인을 사칭한 피싱범에게 속아 430만 위안(약 8억 6000만 원) 상당의 돈을 한 번에 이체하는 사건이 발생, 관할 바오터우 경찰이 대대적인 수사에 나섰다고 보도했다. 보도에 따르면, 사건 당일 궈 씨는 평소 사업체를 운영하며 큰 도움을 받았던 절친한 지인으로부터 긴급한 자금 이체를 요구하는 영상 통화 한 통을 받았다. 영상 속 지인의 얼굴과 목소리가 평소 알고 지냈던 것과 완전히 일치해 의심할 겨를이 없었던 궈 씨는 영상 속 남성이 요구하는 거액의 돈을 두 차례에 나누어 송금을 완료했다. 하루 만에 마련해 송금하기에는 적지 않은 금액이었기에 잠시 망설였지만, 워낙 평소에 자주 도움을 받아왔던 형편이었고 영상 통화로 얼굴까지 확인했다는 점에서 보이스 피싱 사기범들의 행각일 것이라고는 추호도 의심하지 않은 채 큰돈을 전액 이체했던 것. 이후 궈 씨는 이체 직후 상대방에게 일반 전화로 걸어 송금 사실을 알렸을 때야 비로소 자신이 사기범들에게 속았다는 것을 알아차렸다. 경찰 수사 결과, 이 사기범들은 자산가인 궈 씨의 소셜미디어 계정을 해킹해 해당 SNS에 저장된 궈 씨의 지인으로 가장한 뒤 접근했다. 이 과정에서 범죄자들은 AI 딥페이크와 음색과 억양 등 말투를 위조하는 딥보이스를 악용해 지인을 사칭, 피해자에게 다급한 금전 요구를 하며 돈을 뜯어냈다. 특히 피해자가 쉽게 믿게 하기 위해 일반 음성 통화 대신 고의로 얼굴을 노출 시키는 영상 통화를 시도했고, “현재 해외에서 대형 계약 입찰 중이며 거액의 보증금이 급하다”는 등 궈 씨에게 마치 시각을 다투는 듯한 인상을 남겼다. 다만 불행 중 다행인지, 궈 씨의 신고를 받고 긴급하게 수사에 나선 경찰들이 푸저우와 바오터우 두 곳에 있는 궈 씨 명의와 회사 명의 계좌에 즉시 지급 정지 명령을 내리면서 약 336만 위안(약 6억 3000만 원)의 돈이 인출되는 것을 중도에 막아 피해를 줄였다. 하지만 경찰의 지급 정지 명령 이전에 이미 93만 위안(약 1억 7500만 원)이 피싱범들에게 인출된 것이 확인돼 해당 인출금에 대한 추적 수사를 진행 중인 것으로 전해졌다.  

인공지능(AI) 광풍 속에서 AI가 만드는 거짓 정보가 선거판까지 흔들 수 있다는 우려가 나오고 있다. 지난 16일 미국 의회에서 처음 열린 AI 청문회에 참석한 대화형 AI 챗GPT 개발사인 오픈AI의 최고경영자 샘 올트먼은 “내년 미 대선에서 AI의 허위 정보 쓰나미가 예상된다”며 정부의 AI 규제를 촉구했다. 챗GPT 창시자 입에서 AI의 거짓 정보가 표심을 흔들 수 있다는 경고가 나온 것이다. 내년 총선을 앞둔 우리로서도 섬뜩한 얘기가 아닐 수 없다. 오픈AI의 챗GPT를 필두로 다양한 형태의 AI들이 쏟아지니 전문가들조차도 진화 속도에 놀라고 있다. 오픈AI 공동설립자인 일론 머스크조차 AI 개발 일시 중단을 주장하고 있다. 올트먼은 미 정부에 AI를 별도 관리하는 기관을 만들어 개발 허가를 엄격히 관리하라는 제안까지 했다. 하루가 달리 발전하는 AI 모델이 거짓 정보로 여론을 조작하면 선거는 물론 민주주의의 기반이 흔들릴 것은 자명하다. 당장 선거 유세 과정에서 상대방 헐뜯기에 생성형 AI가 악용되면 유권자들의 혼란은 걷잡을 수 없어진다. 정당 편향성이 심각한 이미지, 영상, 음성 등이 사실로 둔갑해 버젓이 확대재생산될 수 있다. 상상조차 끔찍하다. 남의 일이 아니다. 청담동 술자리, 친일 횟집 등 해괴한 가짜뉴스가 툭하면 팬덤정치에 동원되는 우리 현실에서는 사실상 화급을 다투는 문제다. 어물어물했다가는 내년 총선은 상대 진영 후보의 목소리와 이미지를 진짜처럼 조작해 서로 헐뜯는 난장이 될 수 있다. 중앙선거관리위원회는 AI의 위법 행위에 대응할 방안을 서둘러 마련해야 한다. 딥페이크 영상 등을 동원한 선거운동을 제한하는 공직선거법 개정안이 이미 발의돼 있다. 여야가 관련 입법에 속도를 내야 함은 말할 것도 없다.

대화형 인공지능(AI) 챗GPT를 개발한 오픈AI의 샘 올트먼 최고경영자(CEO)가 미국 의회 사상 최초로 열린 AI 청문회에 출석해 내년 미 대선에서 AI가 유권자 선택을 방해할 우려를 인정하며 강력한 규제가 필요하다고 말했다. 올트먼은 미 상원 법제사법위원회 사생활·기술·법소위가 16일(현지시간)개최한 첫 AI 청문회에서 내년 대통령 선거를 앞두고 AI가 여론을 조작할 가능성에 관한 질문을 집중적으로 받았다. 그는 “내년에 대선이 있고, 정보를 조작하고 설득하는 AI 모델의 일반적인 능력이 개선되고 있다는 점을 고려할 때 AI 규제는 필요하다”고 인정했다. 올트먼은 “미 정부는 AI 모델 개발사의 허가 요건을 정하고 규제해야 한다”며 “일정 규모 이상의 AI 개발사를 심사하는 새 기관을 만들어야 하고, 위험 평가 기준이 필요하다”고 말했다. 이어 “독립적인 전문가로 구성된 별도의 감사도 필요하다”고 덧붙였다. AI 규제를 위한 국제 협력 기구의 필요성도 언급했다. 그는 “국제원자력기구(IAEA)와 같은 선례가 있다”며 “미국이 다른 국가와 협력해 AI 국제 표준을 설정하는 것은 실제 가능하고 전 세계에 큰 도움이 될 것”이라고 밝혔다. 미 의회 의원들은 여야 공히 AI의 위험성을 지적하고 적절한 규제 필요성을 강조하며 별도 규제 기구의 설립에 합의했다. 공화당이 다수당인 하원도 AI 코커스가 별도 비공개 모임에서 올트먼을 초청해 AI 규제 문제를 논의할 예정이다. 백악관은 앞서 오픈AI를 비롯해 구글 등 핵심 기업을 초청해 카멀라 해리스 부통령 주관으로 대책 회의를 열었다. 이 자리에는 조 바이든 대통령도 깜짝 참석했다. 민주당 소속 리처드 블루먼솔 법사위원장은 이날 청문회장에서 자신의 목소리를 AI로 짜깁기한 딥페이크 연설을 재생했다. 블루먼솔 위원장은 “만약 여러분이 집에서 듣고 계신다면 이 목소리와 발언의 주인이 저라고 생각할 수 있다”고 말했다. 그는 “AI는 희망적인 동시에 딥페이크, 허위정보의 무기화, 여성 괴롭힘, 사칭 등 잠재적 해악도 품고 있다”며 “가장 끔찍한 것은 AI 혁명으로 일자리 수백만개가 사라질 수 있다는 것”이라고 말했다. 중국 등 패권 경쟁국이 AI를 악용할 경우 발생할 해악에 대한 우려도 제기됐다. 크리스 쿤스 민주당 의원은 “중국은 현재 개발 중인 AI를 통해 중국 공산당의 핵심 가치를 강화할 것이라고 주장한다”며 “개방된 시장과 민주주의를 강화하기 위해 어떻게 AI를 촉진할지 우려한다”고 말했다.

일본 국민의 약 70%가 인공지능(AI) 개발에 대한 규제에 찬성한다는 목소리를 내 관심이 집중됐다고 교토통신이 1일 보도했다.  보도에 따르면, 교토통신이 최근 일본 국민 2400여 명을 대상으로 ‘AI 개발에 대한 규제가 필요한가’를 묻는 설문조사를 진행한 결과 응답자의 상당수가 AI의 빠른 진화에 우려를 품고 있으며 약 69.4%의 응답자는 인공지능개발 분야에 대한 더욱 엄격한 규제를 요구하고 있는 것으로 조사됐다. 이번 조사는 지난 29~30일 일본 군마현에서 열렸던 주요 7개국(G7) 디지털기술 장관 회의에 맞춰 실시, 공개된 것으로 이번 회의에서는 대화형 인공지능(AI)인 ‘챗GPT’의 활용 및 규제가 주요 의제로 다뤄졌다. 다수의 일본 언론에 따르면, 양일에 걸쳐 일본에서 만남을 가진 G7 장관들은 챗GPT와 같은 생성형 AI에 대한 국제적 규제 표준을 마련하는데 합의하지는 못한 것으로 확인됐다. 특히 일본 국민 다수의 의견과 반대로 일본 정부와 미국은 AI의 활용 측면에 무게를 둔 반면 유럽 국가들은 AI의 무분별한 악용 문제에 집중해 규제를 강조하는 등 전반적인 의견 차이가 있었던 것으로 전해졌다. 이에 앞서 유럽연합은 지난 2021년을 기점으로 유럽 각국의 법률이 될 AI 개발 및 운영 규칙에 대한 논의를 본격화한 바 있다. EU 측은 생성형 AI의 지나친 진화 가능성을 ‘고위험’으로 분류하고 엄격한 규제 대상으로 삼아야 한다는 강경한 의견도 검토 중인 것으로 전해졌다. 하지만 줄곧 AI 상용화와 관련해 관련 기업의 자율 규제에 힘을 실어오고 있는 미국과 일본은 이번 회의에서도 법률에 기반하지 않는 대응을 지향해야 한다는 목소리를 냈다는 평가다.  다만 이번 회의에서 G7은 AI 신기술 활용에서 법의 지배와 민주주의, 인권, 적절한 절차, 기술 혁신의 기회 등 5개 원칙에 대해서는 전면 합의하는데 성공했다. 이와 함께 현지 매체들이 주목한 것은 일본 현지에서 진행된 G7 회의와 일본 정부의 입장이 무색하게 일본 국민이 보는 AI개발에 대한 큰 인식 격차가 있다는 지탄을 피하기 힘들게 됐다는 점이다. 이번 조사에 참여한 일본 국민 중 약 69.4%가 “AI의 급격한 진화로 일본 각 개인의 신상 정보를 무분별하게 악용할 가능성이 크다는 점에서 우려되기에 일정 부분의 규제가 필요하다”는 의견을 피력했으며, ‘챗GPT’와 같은 AI 개발 및 대중화과 관련해서도 응답자의 상당수가 “신기술의 오용을 방지하기 위해 세계 각국이 규제 표준을 마련해야 한다”, “개인 신상 정보에 대한 AI의 무단 수집에 대한 두려움을 느끼고 있다”는 등의 목소리가 제기됐다고 이 매체는 전했다. 한편, 교토통신은 지난달 말 무작위로 선정된 510곳의 유선 전화와 2461개의 휴대전화를 통해 조사를 진행했으며 이 중 426곳의 유선 전화와 620개의 휴대전화 응답자가 조사에 참여했다고 밝혔다.

미국을 국빈방문 중인 윤석열 대통령은 “다른 나라의 자유를 무시하는 ‘힘에 의한 현상 변경 시도’에 국제사회는 용기 있고 결연한 연대로서 대응해야 한다”고 밝혔다. 윤 대통령은 28일(현지시간) 오후 보스턴 하버드대 케네디스쿨에서 진행한 ‘자유를 향한 새로운 여정’(Pioneering a New Freedom Trail)이라는 제목의 연설에서 “국제사회에서 다른 사람의 자유, 다른 나라의 자유를 존중하지 않는 태도는 종종 힘에 의한 현상 변경 시도로 나타난다”며 이같이 말했다. 윤 대통령은 그러면서 “그래서 이런 시도가 성공할 수 없음을 입증시키고 앞으로 이런 시도를 꿈꿀 수 없게 해야 한다”고 강조했다. 특히 우크라이나 전쟁을 가리키며 “국제법을 위반한 침공으로 우크라이나 국민들의 자유와 인권이 무참히 짓밟혔다”고 비판했다. 또 “다른 사람의 자유를 무시하는 독재적이고 전체주의적 태도의 결정판은 바로 북한”이라며 “이러한 전체주의적 태도는 필연적으로 북한 내 참혹한 집단적 인권 유린 상황을 초래하고 있다”고 지적했다.윤 대통령은 연설 장소인 하버드대를 “자유의 전당”으로 칭하면서 ‘자유의 가치’를 역설했다. 보스턴의 ‘자유의 길’(Freedom Trail)을 언급한 뒤 “자유를 찾아 아메리카 대륙으로 건너온 개척자들이 자유를 이야기하고 토론을 벌이던 흔적이 그 길 곳곳에 묻어 있다”며 “이들이 자유민주의 국가 미국의 기틀을 만들었고 7세기에 성직자 양성 교육기관으로 설립된 하버드가 그 중심에 있었다”고 설명했다. 이어 하버드대에 재학 중에 한국전쟁에 참전, 28세에 참전했다가 전사한 ‘한국인보다 한국을 더 사랑한 하버드인’ 윌리엄 해밀턴 쇼 대위 이야기를 꺼내며 “대한민국 국민을 대표하여 깊이 감사드린다”고 말했다. 윤 대통령은 “올해로 70년을 맞이한 한미동맹은 대한민국의 자유를 지키고 번영을 일구어 온 중심축이었다”며 “뿐만 아니라 세계시민의 자유 수호를 위한 안전판의 상징이었다”고 강조했다. 그러면서 “한미 동맹은 지속가능하고 회복력 있는 동맹, 세계의 평화와 번영에 기여하는 정의로운 동맹”이라고 부연했다. 윤 대통령은 허위 선동, 거짓 뉴스, 독재 및 전체주의 세력이 자유민주주의를 위협한다며 “이들에 맞서 자유와 민주주의를 지키려면 자유의 열망을 가지고 있는 사람들의 강력한 연대가 필요하다”고 밝혔다. 특히 “자유를 침해하는 디지털 기술의 악용은 전 세계 자유시민이 연대해 이를 막아야 한다”고 강조했다.

윤석열 대통령은 28일 보스턴 하버드대 케네디스쿨에서 연설을 했다. 이하 전문 자유를 향한 새로운 여정 자유를 향한 새로운 여정(Pioneering a New Freedom Trail) 케네디스쿨의 엘멘도프 학장님, 정치연구소 워렌 소장님, 그리고 세계의 미래를 이끌어 가실 여러분. 110년 전, 대한민국의 초대 이승만 대통령께서 조국의 독립과 미래를 꿈꾸며 공부했던 이곳 하버드 대학교에서 대한민국의 제20대 대통령으로서 연설하게 돼서 감회가 새롭습니다. 저는 서울중앙지검장이던 2018년, 이곳을 방문한 적이 있습니다. 그때 하버드 로스쿨 교수진으로부터 많은 영감을 받았습니다. 특히, 오늘 이 자리에 함께해주신 윌리엄 알포드 교수님은 자유와 연대의 가치를 설명해 주셨고, 하버드 장애인 프로그램을 예로 들며 약자와의 연대의 중요성을 말씀해 주셨습니다. 제가 청년 법률가 때부터 가장 중요하게 여겨온 자유와 인권의 가치에 대해 한층 깊이 이해하게 됐습니다. 저는 오늘 여러분과 함께 자유의 가치에 대해서 이야기하고자 합니다. 인류의 역사는 곧 자유 수호와 자유 확장의 역사였습니다. 중세시대 신분의 질곡에서 해방돼서, 자기 자신의 인생을 자유롭게 창조해 나갈 수 있는 세상을 만들기 시작해서 지금까지 걸어온 기나긴 여정이었습니다. 보스턴에는 ‘자유의 길(Freedom Trail)’이 있습니다. 자유를 찾아 아메리카 대륙으로 건너온 개척자들이 자유를 이야기하고 토론을 벌이던 흔적이 그 길 곳곳에 묻어 있습니다. 이들이 자유민주주의 국가 미국의 기틀을 만들었고, 17세기에 성직자 양성 교육기관으로 설립된 하버드가 그 중심에 있었습니다. 존 아담스, 존 핸콕, 이런 ‘건국의 아버지’들이 하버드에서 키운 자유에 대한 열망은 미국 독립선언서와 헌법 곳곳에 스며들어 있습니다. 미국은 독립과 건국 과정을 통해 자유를 쟁취하고 확대해 나갔습니다. 건국 초기인 18세기 후반의 자유는 ‘레세페어(laissez-faire)’라고 불리는, “각자 알아서 하도록 내버려 두는” 형태의 자유였습니다. 처음에는 국가 권력의 간섭을 받지 않는 자유시장이 다 좋은 것으로 여겨졌지만, 19세기 후반 ‘트러스트’라는 독점 대기업들의 횡포가 극심해지면서 결국 산업사회에서 독과점이 경제적 약자의 자유를 위협하게 된다는 사실을 미국인들이 깨닫게 되었습니다. 나의 자유가 다른 사람의 자유를 침해해서는 안 된다는 문제의식과 함께, 공정한 시스템에 대한 요구가 분출했습니다. 이러한 맥락에서 1890년에 제정된 셔먼법은 자유의 역사에 있어 매우 중요한 의미가 있다고 생각합니다. 셔먼법은 하버드 출신인 시어도어 루스벨트(Theodore Roosevelt) 대통령의 결단으로 강력히 집행되기 시작했습니다. 그는 재임 기간 중 40여 건의 트러스트를 기소하여 ‘트러스트 분쇄자(trust buster)’라고 불리기도 했습니다. 기존의 자유방임에 ‘공정한 경쟁’, ‘공평한 기회’의 기회의 가치가 더해져 비로소 타인과 ‘공존’하고 ‘연대’하는 자유로 발전했습니다. ‘자유에는 책임이 따른다’고 할 때 바로 그 책임은 자유가 공존하기 위한 조건인 공정(fairness)에서 나오는 것입니다. 그리고 법의 지배(Rule of law)는 자유의 공존 조건인 공정을 구현하는 것입니다. 이러한 공정의 가치, 공정한 경쟁 원리는 미국 경제의 지속 가능한 성장을 뒷받침했습니다. 미국에서 시작된 자유의 역사는 태평양 너머 대한민국에도 뿌리를 내렸습니다. 1950년 한국이 공산주의 침략을 받았을 때 미국을 비롯한 자유 진영 국가들이 참전하여 함께 싸웠습니다. 한국에서 태어난 윌리엄 해밀턴 쇼(William Hamilton Shaw) 대위는 하버드에서 라이샤워 교수의 지도로 동아시아학 박사과정을 밟던 중 6.25 전쟁에 지원하여 28세의 나이로 전사했습니다. 대한민국은 당시 그가 전사한 서울 녹번동 언덕에 추모공원을 건립하여 ‘한국인보다 한국을 더 사랑한 하버드인’을 기억하고 있습니다. 오늘 이 자리에는 노스 캐롤라이나에서 오신 쇼 대위의 손자 윌리엄 캐머런 쇼(William Cameron Shaw)와 그의 어머니(쇼 대위의 며느리) 캐럴 캐머런 쇼(Carole Cameron Shaw), 이 두 분이 함께하고 계십니다. 어디 계시는지요? Thank you. Thank you so much. We remember your family 대한민국 국민을 대표하여 깊이 감사드립니다. 조금 전 저는 하버드 추모교회(Memorial Church)에 들러서, 한국전쟁에서 전사한 열 여덟 분의 졸업생들을 추모했습니다. 이들의 숭고한 희생으로 대한민국은 자유를 지켜낼 수 있었습니다. 자유를 빼앗으려는 공산 전체주의 세력의 불법적인 시도를 저지하고 억제할 수 있었습니다. 올해로 70년을 맞이한 한미동맹은 대한민국의 자유를 지키고 번영을 일구어 온 중심축이었습니다. 뿐만 아니라 세계시민의 자유 수호를 위한 안전판의 상징이었습니다. 그제 저는 바이든 대통령과 ‘미래로 전진하는 행동하는 동맹’의 비전을 담은 공동성명을 채택했습니다. 한미동맹은 단순히 이익에 따라 만나고 헤어지는 편의적 계약관계가 아니라 자유민주주의라는 보편적 가치에 기반한 ‘가치동맹’입니다. 지속가능하고 회복력 있는 동맹, 세계의 평화와 번영에 기여하는 정의로운 동맹입니다. 하버드 학생과 교수진 여러분 지금 전 세계를 돌아보면 우리가 땀과 희생으로 지켜온 자유와 민주주의가 심각한 도전을 받고 있고, 위기에 처해 있음을 알 수 있습니다. 민주주의는 자유를 보장하기 위한 공동체의 의사결정 시스템입니다. 민주주의는 진실과 자유로운 여론 형성에 기반하는 것입니다. 허위 선동과 거짓 뉴스가 디지털, 모바일과 결합해서 진실과 여론을 왜곡하는 일이 다반사가 되었습니다. 그러므로 민주주의가 흔들리고 자유가 위협받고 있습니다. 최근에는 AI 기술이 상황을 더 심각하게 만들기도 합니다. 민주주의는 상식과 진실, 그리고 양심으로 대표되는 지성에 기반하는 제도입니다. 거짓 선동과 가짜뉴스라는 반지성주의는 자유와 민주주의를 위협하고 위기에 빠뜨립니다. 조직적으로, 그리고 지속적으로 자유와 민주주의를 흔들고 위협하는 세력이 있습니다. 바로 독재와 전체주의 세력입니다. 그리고 이들 편에 서서 이익을 취하려는 세력도 있습니다. 이들에 맞서 자유와 민주주의를 지키려면 용기와 연대가 필요합니다. 자유의 열망을 가지고 있는 사람들의 강력한 연대입니다. 국제적 연대도 필요합니다. 자유는 평화를 보장합니다. 자유를 소중히 여기는 사람과 자유를 소중히 여기는 나라는 다른 사람의 자유, 다른 나라의 자유를 존중합니다. 국제사회에서 다른 사람의 자유, 다른 나라의 자유를 존중하지 않는 태도는 종종 힘에 의한 현상 변경 시도로 나타납니다. 국제사회에서는 이를 국제법 위반으로 규정합니다. 우크라이나에 대한 침공이 1년이 넘었습니다. 국제법을 위반한 침공으로 우크라이나 국민들의 자유와 인권이 무참히 짓밟혔습니다. 대한민국은 작년에 이어 올해에도 우크라이나 국민들의 자유 수호를 위한 인도적, 재정적 지원을 계속 확대하고 있습니다. 다른 나라의 자유를 무시하는 ‘힘에 의한 현상 변경 시도’는 국제사회가 용기 있고 결연한 연대로서 대응해야 합니다. 그래서 이런 시도가 성공할 수 없다는 것을 입증시키고 앞으로 이런 시도를 꿈꿀 수 없게 해야 합니다. 다른 사람의 자유를 무시하는 독재적이고 전체주의적인 태도는, 바로 그 결정판을 북한에서 볼 수 있습니다. 북한의 불법적인 핵무기 개발과 핵 협박은 한반도뿐만 아니라 주변국, 나아가 세계의 평화와 자유를 심각하게 위협하고 있습니다. 이러한 전체주의적 태도는 필연적으로 북한 내 참혹한 집단적 인권 유린 상황을 초래하고 있습니다. 대한민국 정부는 지난달 최초로 북한 인권 실상 보고서를 공개 출간했습니다. 500여 명의 탈북자 증언에 기반한 보고서는 남한 드라마를 보았다는 이유로, 성경을 소지했다는 이유로 공개 총살당한 끔찍한 사례들을 담고 있습니다. 인권의 개선은 그 실상의 공개에서 출발합니다. 국제사회의 폭넓은 인식과 각성이 상황의 개선으로 이어질 것입니다. 결국 세계 어디서나 자유와 민주주의에 대한 가장 심각한 도전은 바로 독재와 전체주의에 의해 이뤄집니다. 그럼에도 불구하고 자유와 민주주의를 위협하는 이들은 민주 세력, 인권운동가 등으로 위장하고 있습니다. 이들을 늘 경계하고 속지 말아야 합니다. 그러기 위해서는 우리 모두 자유에 대한 확고한 철학과 신념을 가져야 합니다. 자유의 전당 하버드 대학의 학생과 교수진 여러분, 자유는 혼자 지킬 수 없습니다. 자유를 위협하는 세력에 맞서기 위해서는 힘을 합치고 연대해야 합니다. 저는 이 자리에서 미국이 가장 사랑하는 하버드 출신 정치인 John F. Kennedy 대통령의 1963년 서베를린 연설을 얘기하지 않을 수 없습니다. 제가 영어로 짧게 얘기하겠습니다. “Freedom is indivisible, and when one man is enslaved, all are not free” 자유를 위협하는 세력은 공동체 안에도 있고 공동체 밖에도 있습니다. 어느 한 사람의 자유도 소홀히 취급된다면 그 공동체는 자유 사회가 아닙니다. 자유 사회는 공동체 구성원 모두가 자유인이고 자유를 누려야 합니다. 자유를 누리는 데에는 일정한 경제적, 문화적 여건이 필요합니다. 자유를 누리는데 필요한 여건은 자유 시민들이 함께 연대해서 그것이 필요한 사람에게 만들어 주어야 하는 것입니다. 그러므로 자유와 연대는 그 개념이 서로를 포함하고 있습니다. 자유가 없이 누군가에게 지배당하는 사람들 사이에서는 연대라는 개념 자체도 있을 수 없습니다. 그런 것으로 보이는 현상이 있을지라도 그것은 명령에 의한 것입니다. 하버드인 여러분, 지금은 디지털 시대입니다. 우리는 이제 디지털 시대의 자유에 대해서도 고민해야 합니다. 인류는 16세기 대항해(大航海) 시대에 봉건시대의 신분 질서에서 벗어나근대적 의미의 직업과 소유권, 자유계약의 질서를 구축했습니다. 20세기 초에 미국은 자유방임이 양산할 수 있는 불공정을막고자 독과점과 싸우면서 공정한 시장 질서를 정착시켰습니다. 이제는 디지털 심화 시대에 맞춰 새로운 규범과 질서를 만들어나가야 합니다. 디지털 기술로 인해 막대한 양의 정보가 쉼 없이 생산되고 공유되고 있습니다. 그 덕에 인류의 삶은 한층 편리하고 풍요로워졌습니다만, 우리의 자유를 억압하는 부작용도 초래되고 있습니다. 자유의 가치를 존중하지 않는 국가권력이 디지털 기술을 악용하는 경우를 상상해 보십시오. 개인의 자유와 인권이 심각하게 침해되고, ‘디지털 전체주의’로 인한 폐해는 이루 다 말할 수 없을 것입니다. 자유를 침해하는 디지털 기술의 악용은 전 세계 자유시민이 연대하여 이를 막아야 합니다. 저는 작년 9월, 뉴욕대학에서 ‘디지털 자유시민을 위한 연대’를 촉구하는 ‘뉴욕 구상’을 발표한 바 있습니다. 그 핵심은 디지털 기술과 서비스의 향유를 인류의 보편적 권리로 규정하고 디지털 시대가 지향해야 할 비전을 제시한 것입니다. 디지털이라는 새로운 공간에서 만들어지는 디지털 질서가 정당성, 통용성, 지속가능성을 가지기 위해서는 그 질서와 규범이 세계시민의 자유와 후생을 극대화하고 공정한 기회가 보장되어야 하며, 특히 약자에 대한 배려가 있어야 합니다. 이를 위해 국제사회도 함께 연대해야 합니다. 디지털 선도국은 디지털 기반이 미흡한 나라를 교육과 시스템 지원 등으로 도와야 합니다. 대한민국은 보편적 정의에 터 잡은 공정한 디지털 질서가 국제사회에 구축되도록 최선을 다할 것입니다. 아울러 디지털 ODA도 확대하여 디지털 기술과 문화의 향유를 세계시민들이 공유하게 노력할 것입니다. 오늘 이 자리에 함께한 하버드인들도 그 연대와 협력에동참해주시기를 부탁 드립니다. 오늘 대한민국의 대통령으로서, 그보다 한 사람의 자유인으로서, 자유의 전당 하버드에서 여러분과 자유에 관해 이야기할 수 있어 매우 기쁩니다. 그리고 개인적으로 오래오래 기억할만한 영광입니다. 여러분 모두에게 감사드립니다.

“엄마! 흑흑흑…도와줘요, 도와줘요. 제발 도와줘요.” 미국 애리조나주에 사는 제니퍼 데스테파노는 최근 모르는 번호로 전화를 받았다. 수화기 너머로 “엄마!”라는 외침과 함께 흐느끼는 소리가 들려왔다. 올해 15살인 딸 브리아나의 목소리였다. ‘브리아나는 친구들과 스키장에 놀러갔는데, 무슨 일이지?’ 제니퍼는 불안한 마음에 “무슨 일이야”라고 물었다. 그러자 “나 큰일났어”라는 흐느낌 뒤에 “머리를 뒤로 하고 누워”라는 남자 목소리가 들렸다. 제니퍼는 공포에 사로잡혔다. 이 남성은 “당신 딸이 여기 있다. 당신이 경찰이든 누구든 연락하는 날엔 당신 딸에게 마약을 투약할 것”이라며 “딸을 데리고 멕시코에 데려가 풀어주겠다”고 겁박했다. 남성이 요구 사항을 말하는 동안에도 “엄마, 도와줘요, 제발 도와줘요”라는 딸의 외침이 들려왔다. 남성은 몸값으로 100만 달러를 요구했고, 제니퍼가 돈이 없다고 하자 5만 달러로 낮췄다. 어찌할 바를 모르며 발만 동동 구르던 제니퍼를 달랜 건 함께 있던 지인들이었다. 지인들은 통화 내용을 수상히 여겼고, 이성을 되찾은 제니퍼는 911 등을 통해 딸이 무사히 스키 여행을 즐기고 있다는 사실을 확인할 수 있었다. 자녀를 납치했다며 거액의 몸값을 요구하는 것은 전화사기(보이스피싱)의 고전적인 수법이지만, 제니퍼는 전화기 너머로 들린 목소리가 “틀림없이 딸의 목소리였다. 울음소리까지 비슷했다”고 주장했다. 지난 11일(현지시간) 제니퍼의 사연을 전한 미 WKYT방송은 전화 속 목소리가 인공지능(AI)을 통해 복제한 목소리였을 가능성이 있다고 지적했다. 과거엔 사기 피해자를 심리적으로 압박해 가짜 목소리를 자녀의 목소리인 것처럼 여기게 했다면, 이제는 진짜로 피해자의 자녀 목소리를 복제해 보이스피싱에 이용한다는 것이다. 애리조나 주립대의 컴퓨터학과의 수바라오 캄밤파티 교수는 “음성 복제 기술이 빠르게 발전하고 있다. 기존에는 음성을 복제하려면 복제 대상자로부터 많은 양의 샘플을 수집해야 했지만 이제는 단 3초의 목소리만 가지고도 실제 억양과 감정까지 표현해낼 수 있다”면서 “더이상 귀를 믿을 수 없는 세상”이라고 말했다. 댄 메이요 FBI 요원은 “음성 복제 사기범들은 소셜미디어(SNS)를 노린다”고 지적했다. SNS에 올린 영상 속 목소리가 사기꾼들의 음성 복제에 악용될 위험이 있다는 뜻이다. 메이요 요원은 “프로필을 비공개 계정으로 사용해야 안전하다”고 조언했다.

‘딥페이크’는 이미지 합성 기술이다. 딥페이크를 넘어 이제는 ‘딥보이스’까지 나와 고도로 진화하는 인공지능(AI) 기술에 경탄을 자아내게 한다. 딥보이스는 AI의 핵심 기술인 ‘딥러닝’과 ‘페이크 보이스’(가짜 음성)를 합친 신조어다. 특정한 인물이 얘기하는 고작 30초 정도 분량의 음성만 있으면 억양과 음색 등을 그대로 생성해 내는 음성 복제 기술이다. 딥페이크가 가짜 리벤지 포르노 등으로 악용됐듯 딥보이스는 고스란히 보이스피싱에 쓰일 개연성이 커졌다. 지난 5일 워싱턴포스트가 보도한 캐나다 한 할머니의 손녀 사고보험금 송금 요청 전화도, 2021년 아랍에미리트(UAE) 한 은행에서 대기업 임원의 전화를 받고 420억원을 송금한 사건도 모두 딥보이스를 통해 이뤄졌다. 평상시 알고 있는 손녀 혹은 늘상 얘기 나누던 주요 고객과 똑같은 음색, 억양으로 얘기하는 데 믿지 않을 재간이 없을 테다. 게다가 경황이 없는 상황이라면 더더욱 깜빡 속아 넘어갈 수밖에 없다. 최근 5년 동안 보이스피싱에 의한 국내 피해는 22만 7000건을 넘었다. 피해액만도 1조 6645억원이다. 2006년 첫 사건 이후 누적 피해 금액은 무려 4조원에 달한다. 피해 대상은 대부분 성실히 일해 꾸준히 돈 모은 서민, 주부, 노년층들이었다. 이러한 보이스피싱은 내 집 마련, 대학 진학 등 서민들의 소박한 희망을 파탄 냈고 단란한 가정을 풍비박산시키기도 했다. 그럼에도 이들은 끊임없이 진화한다. 이제 ‘김미영 팀장’이나 ‘조선족 억양’이 등장하는 보이스피싱은 더이상 없다. 가히 디지털 혁명 속 보이스피싱 범죄 혁명이라 하겠다. 물론 ‘열 포졸이 한 도둑을 못 잡는다’는 속담이 괜히 나온 것은 아니다. 범죄는 끊임없이 선제적으로 진화한다. 이를 붙잡는 체포 및 수사는 늘 그 뒤를 허덕거리며 따를 수밖에 없다. AI 기술이 영역을 넓혀 가며 범죄에까지 악용되는 시대다. 사후 대책이 아닌 사전 범죄예방대책이 필수적이다. 특히나 사람의 선량하고 순수한 마음속 불안과 공포를 이용해 돈을 갈취하는 보이스피싱에 사용하는 기술에 대한 대책만큼은 검찰, 경찰 등 수사기관이 훌쩍 앞서야 한다. 딥보이스 같은 사악한 범죄가 감히 우리 사회에 엄두도 내지 못하게 되길 바란다.

인공지능(AI) 기술이 보이스피싱에 악용된 사례가 나왔다. 가족이나 친척 등 가까운 지인의 목소리를 AI로 흉내내 피해자를 속이는 신종 수법이다. 6일(현지시간) 영국 더 타임스에 따르면 캐나다 앨버타에 사는 벤저민 파커(39)는 최근 부모님이 자신의 목소리를 사칭한 보이스피싱 범죄 피해를 당했다고 밝혔다. 당시 파커의 부모는 자신을 아들의 변호사라고 소개한 한 사람의 전화를 받았다. 이 변호사는 아들이 교통사고로 미국인 외교관을 숨지게 한 혐의로 수감됐다고 말했다. 그가 파커의 부모에게 아들을 바꿔준다고 했다. 이후 수화기 너머로 파커와 닮은 목소리가 흘러나왔다. 하지만 이는 AI로 만든 가짜 목소리였다. 보이스피싱범은 아들을 흉내낸 목소리로 “다음날 있을 법원 심리 전까지 2만 1000 캐나다 달러(약 2000만원)를 송금해 달라”고 요청했다. 파커의 부모는 통화 내용을 수상히 여기면서도, 아들의 목소리가 맞다고 확신해 비트코인으로 돈을 보냈다. 파커의 부모는 이날 저녁 진짜 아들의 전화를 받고서야 사기를 당했다는 사실을 깨달았다. 파커는 이들이 어디에서 자신의 목소리를 수집했는지 모르겠다면서도, AI 기술을 활용하면 단 몇 개의 문장만으로도 목소리를 위조할 수 있다고 말했다. 파커는 “당신의 전화기에 등록된 음성 사서함 메시지로도 충분할 것”이라며 “내 음성 사서함에는 30~35초짜리 메시지가 등록돼 있다. 그거면 된다”고 했다. 더타임스는 온라인에서 무료로 배포하는 소프트웨어 프로그램을 통해서도 쉽게 목소리를 위조할 수 있다고 전했다.

최근 여러 대학 커뮤니티에서는 인공지능(AI) 챗봇인 ‘챗GPT’를 이용한 각종 후기를 쉽게 찾아볼 수 있다. “계절학기 보고서를 챗GPT로 썼는데 성적이 A+”라고 대필을 고백하거나 “코딩 오류를 잡을 때 유용하다”, “영어 표현을 고치고 분량을 늘렸는데 글발이 탁월하다”는 반응이 적지 않다. “엑셀처럼 범용적으로 쓰일 프로그램”이라며 활용 방법을 공유하는 이들도 있다. 이처럼 국내에서도 대학가를 중심으로 챗GPT의 영향력이 커지고 있지만 새 학기를 앞둔 대학들은 학교 차원의 대책을 마련하지 못한 상태다. 일부 국제학교에서 챗GPT로 작성한 영문 에세이를 제출한 사례가 적발됐으나 교육부나 시도교육청은 “디지털 윤리 교육을 강화하겠다”는 원론적인 입장만 내고 있다. 중고등학교 수행평가는 교실에서 진행되지만 수업에서 태블릿PC를 활용하는 일이 일상이 됐다는 점도 변수로 꼽힌다. 한 고등학교 국어 교사는 “스스로 글을 읽고 질문을 떠올린 뒤 자료를 찾아 정리한 의견을 태블릿PC로 공유하는 활동을 자주 한다”면서 “학생들이 교실에서 몰래 챗GPT에 접속해 글을 베껴 써내는 걸 어떻게 막겠느냐”고 반문했다. 학교 밖에서 학생들이 챗GPT를 활용하는 걸 막기는 더 어렵다. 미국 뉴욕시의 경우 공립학교에서 챗GPT 접속을 차단하기로 했으나 교육부는 접속 차단 같은 조치는 고려하지 않고 있다. 교육부 관계자는 “수업 시간에는 교사의 통제 속에 디지털 기기를 활용하고 있다”면서 “챗GPT 한국어 서비스는 영어만큼 고도화되지 않았고 (긍정적으로 활용하는) 선용 가능성도 있어 사회적 논의가 필요한 단계”라고 선을 그었다. 서울과 경기 등의 시도교육청은 디지털 리터러시나 AI 윤리 등을 담은 교육 안내서를 일선 학교에 배포할 예정이지만 최근 문제로 떠오른 챗GPT와 관련된 내용을 담지 않았다. 서울시교육청 관계자는 “윤리적으로 AI를 활용할 수 있도록 ‘남의 글을 베껴서 숙제로 제출해선 안 된다’는 방향으로 교육이 이뤄져야 한다”고 밝혔다.

구글 바드, 오답 하나에 200조원 날려  미국 스타트업 오픈AI가 개발한 대화 전문 인공지능(AI) 챗봇 ‘챗지피티’(이하 챗GPT)에 대한 전 세계의 관심이 뜨거운 가운데, 구글이 이에 대항하는 AI 챗봇 ‘바드’(Bard)를 성급히 내놓았다가 한화로 수백 조원을 날렸다.  CNN 등 외신의 8일(이하현지시간) 보도에 따르면, 이날 구글은 프랑스 파리에서 AI 기술이 구글의 새 검색 기능, 구글맵, 번역 등에 어떻게 적용되는지 세부 내용을 공개했다.  이 자리에서는 AI 챗본 기반의 채팅 서비스인 바드의 소개 및 시연회도 함께 열렸다. 바드는 1370억 개에 이르는 매개 변수로 학습한 대형 언어모델인 ‘람다’(LaMDA)를 기반으로 한다. 문제는 구글이 공개한 시연에서 바드가 틀린 답을 내놓은 사실이 확인되면서 시작됐다.  동영상에서 사용자는 구글 바드에게 ‘9살 아이에게 제임스 웹 우주망원경의 새로운 발견에 대해 어떻게 설명해줄 수 있을까’라는 질문을 던진다. 그러자 바드는 ‘제임스웹 우주망원경은 최초로 태양계 밖의 행성을 찍었다’고 답했다.  그러나 이는 사실이 아니었다. 태양계 밖 행성을 최초로 촬영한 망원경은 제임스웹 우주망원경이 아니며, 유럽남방천문대가 칠레 남부 고도 2635ｍ 지점에 설치한 초거대 망원경 VLT였다.  구글의 모회사인 알파벳의 순다르 피차이 최고 경영자(CEO)가 직접 바드를 소개하면서 해당 시연 사례를 넣었는데, 여기서 오답이 발생하자 구글 외부에서는 실망이 터져 나왔다. 구글이 지난해 12월 공개된 챗GPT에 조급증을 느끼고 설익은 기술을 내놓은 게 아니냐는 의구심도 쏟아졌다.  간단한 질문에조차 오답을 내놓은 구글 바드에 테크 업계는 냉혹한 평가를 내놓았다. 하루 알파벳의 주가는 7.68% 급락했다. 지난 이틀 동안 알파벳의 시총 1720억 달러, 한화로 약 216조 원이 증발했다.  챗GPT 인기에 다급해진 구글? 당초 구글은 챗GPT보다 3개월가량 늦게 AI챗봇을 공개한 배경에 ‘안전과 정확성’이 있다고 강조해왔다. 윤리적으로 문제가 될 수 있는 혐오발언이나 정확하지 않은 정보를 제공할 수 있는 위험성을 막는데 집중하느라 챗GPT보다 3개월 늦게 시장에 진입했다는 것이다. 하지만 구글이 3개월 늦게 AI챗봇 시장에 들어오는 동안 챗GPT는 예상보다 훨씬 강하게 시장을 휘어잡았다. 마이크로소프트(이하 MS)는 거액의 투자를 확정지으며 자사 검색엔진인 빙(Bing)에 챗GPT를 접목했다. 사용자들의 관심도 뜨거워서 챗GPT를 개발한 오픈AI의 기술 책임자가 공식적으로 챗GPT의 악용을 걱정하며 규제가 필요하다고 말했을 정도다.  사실 빙은 챗GPT와 손잡기 전까지, 구글과는 '계란과 바위'에 불과한 존재였다. 시장조사기관인 스탯카운터에 따르면 올해 1월 구글의 검색시장 점유율은 93%인데 반해, MS 빙의 시장 점유율은 단 3%에 불과하다.  문제는 챗GPT '덕분에' 투자자들이 처음으로 MS 빙을 구글의 경쟁자로 여기기 시작했다는 사실이다. 미국 경제매체 배런스는 9일 “구글 바드의 실수는 큰 의미를 지닌다. 바드의 오류 탓에 투자자들은 빙을 사상 처음으로 구글의 경쟁자라 여기게 됐다”고 분석했다.  언론과 업계은 챗GPT를 두고 앞다퉈 ‘구글의 대항마가 나타났다’, ‘구글, AI챗봇 시장 빼앗기나’ 등의 전망을 내놓았다. 2009년 출시된 뒤 단 한 번도 구글의 검색시장 지배력에 영향을 미치지 못했던 MS 빙이 구글의 경쟁자로 거론됐다는 사실 자체가 시장에서는 화젯거리가 될 수밖에 없다.  MS 빙과 챗GPT의 결합 소식이 전해진 뒤, 구글은 전 직원에게 ‘적색 경보’(코드 레드)를 발령하고 대응 방안을 논의하기 시작했다. 빙, 기존 검색광고 시장의 수익모델도 흔드나 게다가 당초 MS가 챗GPT를 빙에 도입하겠다고 밝혔을 때, 업계는 검색 자체가 챗GPT와 대화하는 방식으로 완전히 바뀔 수 있다고 예상했다.  일반적으로 구글 등 검색 광고 시장에서는 검색어를 입력한 뒤 결과 값으로 나온 여러 개의 인터넷 링크 중 사용자가 원하는 것을 선택하고, 이 과정에 광고를 삽입하는 형태의 수익모델을 운영한다.  만약 챗GPT를 도입한 빙이 검색 형태 자체를 대화형으로 바꿔놓는다면, 기존의 검색 광고 시장 수익 모델이 완전히 흔들릴 수도 있다는 예측이 쏟아졌다. 이미 시장의 90% 이상을 차지한 구글이 ‘설익은 바드’를 급히 공개할 수밖에 없었던 이유 중 하나다. 구글이 실수를 연발하는 동안, 챗GPT를 품은 MS의 기세는 거세졌다. 바드가 오답을 내놓은 날, MS의 주가는 반등했다. MS의 주가는 올해 들어 11% 상승했으며, 상승세가 이어질 것이란 전망이 지배적이다. 그만큼 챗GPT에 대한 업계와 소비자의 반응이 뜨겁다.  MS의 윈도우·검색 부문 CFO(최고재무책임자)인 필립 옥켄덴은 “검색 광고 시장에서 점유율이 1% 포인트 증가할 때마다 20억 달러의 수익 기회가 발생한다”고 말했다. 이는 MS가 AI, 그 중에서도 챗GPT를 탑재한 빙의 시장 점유율을 높일 수 있을 것으로 기대한다는 의미다.  챗GPT 품은 MS, 구글의 상대가 될 수 있을까 일각에서는 아무리 MS가 챗GPT를 등에 업었다 할지라도, 이미 시장을 ‘거의 완전히’ 장악한 구글의 상대가 되긴 어렵지 않겠냐는 의문도 제기한다.  실제로 이번 주 MS가 일부 취재진에게 선공개한 새로운 빙은 큰 틀에서 기존 검색 광고 방식을 그대로 유지하고 있었다. 챗GPT를 품었다 해서 완전히 새로운 방식의 검색 시스템으로 변모한 것은 아니라는 의미다.  전문가들은 챗GPT를 탑재한 빙이 당장 시장에 격변을 일으키진 않을 것으로 전망하지만, 챗GPT에 쏟아지는 열기와 기대는 구글이 무시할 수 있는 수준을 넘어섰다.  게다가 구글 안팎에서는 MS 빙의 검색시장 점유율에 대한 위협 외에도 인공지능모델 ‘람다’를 검색엔진에 적용하는데 있어 추가적인 비용이 들 수 있다는 우려도 나온다.  모건 스탠리의 애널리스트 브라이언 노왁은 “쿼리를 AI 기반 검색으로 10% 전환할 때마다 구글의 운영비는 12억 달러가 증가할 것”이라면서 “구글이 검색 쿼리의 50%를 전환하면 비용이 60억 달러 늘면서 구글의 세전 이익을 6% 줄일 것”이라고 예측했다.  여기에 세계 각국의 주요 빅테크 기업들이 잇따라 챗봇 관련 기술 연구와 출시 계획을 밝히면서 시장 경쟁은 더욱 격해질 것으로 보인다. 중국 검색 기업인 바이두도 오는 3월 중국판 ‘챗GPT’인 ‘어니 봇(ERNIE Bot)’ 공개 계획을 밝혔으며, 이커머스 기업 알리바바도 ‘챗GPT’의 경쟁 대상이 될 수 있는 기술을 내부적으로 테스트 중인 것으로 알려졌다.  한국의 카카오 역시 한국어 특화 AI 모델인 ‘코GPT(KoGPT)’를 활용한 서비스를 연내 선보인다고 밝혔다. 

구글 바드, 오답 하나에 200조원 날려  미국 스타트업 오픈AI가 개발한 대화 전문 인공지능(AI) 챗봇 ‘챗지피티’(이하 챗GPT)에 대한 전 세계의 관심이 뜨거운 가운데, 구글이 이에 대항하는 AI 챗봇 ‘바드’(Bard)를 성급히 내놓았다가 수백 조원을 날렸다.  CNN 등 외신의 8일(이하현지시간) 보도에 따르면, 이날 구글은 프랑스 파리에서 AI 기술이 구글의 새 검색 기능, 구글맵, 번역 등에 어떻게 적용되는지 세부 내용을 공개했다.  이 자리에서는 AI 챗본 기반의 채팅 서비스인 바드의 소개 및 시연회도 함께 열렸다. 바드는 1370억 개에 이르는 매개 변수로 학습한 대형 언어모델인 ‘람다’(LaMDA)를 기반으로 한다. 문제는 구글이 공개한 시연에서 바드가 틀린 답을 내놓은 사실이 확인되면서 시작됐다.  동영상에서 사용자는 구글 바드에게 ‘9살 아이에게 제임스 웹 우주망원경의 새로운 발견에 대해 어떻게 설명해줄 수 있을까’라는 질문을 던진다. 그러자 바드는 ‘제임스웹 우주망원경은 최초로 태양계 밖의 행성을 찍었다’고 답했다.  그러나 이는 사실이 아니었다. 태양계 밖 행성을 최초로 촬영한 망원경은 제임스웹 우주망원경이 아니며, 유럽남방천문대가 칠레 남부 고도 2635ｍ 지점에 설치한 초거대 망원경 VLT였다.  구글의 모회사인 알파벳의 순다르 피차이 최고 경영자(CEO)가 직접 바드를 소개하면서 해당 시연 사례를 넣었는데, 여기서 오답이 발생하자 구글 외부에서는 실망이 터져 나왔다. 구글이 지난해 12월 공개된 챗GPT에 조급증을 느끼고 설익은 기술을 내놓은 게 아니냐는 의구심도 쏟아졌다.  간단한 질문에조차 오답을 내놓은 구글 바드에 테크 업계는 냉혹한 평가를 내놓았다. 하루 알파벳의 주가는 7.68% 급락했다. 지난 이틀 동안 알파벳의 시총 1720억 달러, 한화로 약 216조 원이 증발했다.  챗GPT 인기에 다급해진 구글? 당초 구글은 챗GPT보다 3개월가량 늦게 AI챗봇을 공개한 배경에 ‘안전과 정확성’이 있다고 강조해왔다. 윤리적으로 문제가 될 수 있는 혐오발언이나 정확하지 않은 정보를 제공할 수 있는 위험성을 막는데 집중하느라 챗GPT보다 3개월 늦게 시장에 진입했다는 것이다. 하지만 구글이 3개월 늦게 AI챗봇 시장에 들어오는 동안 챗GPT는 예상보다 훨씬 강하게 시장을 휘어잡았다. 마이크로소프트(이하 MS)는 거액의 투자를 확정지으며 자사 검색엔진인 빙(Bing)에 챗GPT를 접목했다. 사용자들의 관심도 뜨거워서 챗GPT를 개발한 오픈AI의 기술 책임자가 공식적으로 챗GPT의 악용을 걱정하며 규제가 필요하다고 말했을 정도다.  사실 빙은 챗GPT와 손잡기 전까지, 구글과는 '계란과 바위'에 불과한 존재였다. 시장조사기관인 스탯카운터에 따르면 올해 1월 구글의 검색시장 점유율은 93%인데 반해, MS 빙의 시장 점유율은 단 3%에 불과하다.  문제는 챗GPT '덕분에' 투자자들이 처음으로 MS 빙을 구글의 경쟁자로 여기기 시작했다는 사실이다. 미국 경제매체 배런스는 9일 “구글 바드의 실수는 큰 의미를 지닌다. 바드의 오류 탓에 투자자들은 빙을 사상 처음으로 구글의 경쟁자라 여기게 됐다”고 분석했다.  언론과 업계은 챗GPT를 두고 앞다퉈 ‘구글의 대항마가 나타났다’, ‘구글, AI챗봇 시장 빼앗기나’ 등의 전망을 내놓았다. 2009년 출시된 뒤 단 한 번도 구글의 검색시장 지배력에 영향을 미치지 못했던 MS 빙이 구글의 경쟁자로 거론됐다는 사실 자체가 시장에서는 화젯거리가 될 수밖에 없다.  빙, 기존 검색광고 시장의 수익모델도 흔드나 게다가 당초 MS가 챗GPT를 빙에 도입하겠다고 밝혔을 때, 업계는 검색 자체가 챗GPT와 대화하는 방식으로 완전히 바뀔 수 있다고 예상했다.  일반적으로 구글 등 검색 광고 시장에서는 검색어를 입력한 뒤 결과 값으로 나온 여러 개의 인터넷 링크 중 사용자가 원하는 것을 선택하고, 이 과정에 광고를 삽입하는 형태의 수익모델을 운영한다.  만약 챗GPT를 도입한 빙이 검색 형태 자체를 대화형으로 바꿔놓는다면, 기존의 검색 광고 시장 수익 모델이 완전히 흔들릴 수도 있다는 예측이 쏟아졌다. 이미 시장의 90% 이상을 차지한 구글이 ‘설익은 바드’를 급히 공개할 수밖에 없었던 이유 중 하나다. 구글이 실수를 연발하는 동안, 챗GPT를 품은 MS의 기세는 거세졌다. 바드가 오답을 내놓은 날, MS의 주가는 반등했다. MS의 주가는 올해 들어 11% 상승했으며, 상승세가 이어질 것이란 전망이 지배적이다. 그만큼 챗GPT에 대한 시장과 업계, 소비자의 반응이 뜨겁다.  MS의 윈도우·검색 부문 CFO(최고재무책임자)인 필립 옥켄덴은 “검색 광고 시장에서 점유율이 1% 포인트 증가할 때마다 20억 달러의 수익 기회가 발생한다”고 말했다. 이는 MS가 AI, 그 중에서도 챗GPT를 탑재한 빙의 시장 점유율을 높일 수 있을 것으로 기대한다는 의미다.  챗GPT 품은 MS, 구글의 상대가 될 수 있을까 일각에서는 아무리 MS가 챗GPT를 등에 업었다 할지라도, 이미 시장을 ‘거의 완전히’ 장악한 구글의 상대가 되긴 어렵지 않겠냐는 의문도 제기한다.  실제로 이번 주 MS가 일부 취재진에게 선공개한 새로운 빙은 큰 틀에서 기존 검색 광고 방식을 그대로 유지하고 있었다. 챗GPT를 품었다 해서 완전히 새로운 방식의 검색 시스템으로 변모한 것은 아니라는 의미다.  전문가들은 챗GPT를 탑재한 빙이 당장 시장에 격변을 일으키진 않을 것으로 전망하지만, 챗GPT에 쏟아지는 열기와 기대는 구글이 무시할 수 있는 수준을 넘어섰다.  게다가 구글 안팎에서는 MS 빙의 검색시장 점유율에 대한 위협 외에도 인공지능모델 ‘람다’를 검색엔진에 적용하는데 있어 추가적인 비용이 들 수 있다는 우려도 나온다.  모건 스탠리의 애널리스트 브라이언 노왁은 “AI 기반 검색으로 쿼리를 10% 전환할 때마다 구글의 운영비는 12억 달러가 증가할 것”이라면서 “구글이 검색 쿼리의 50%를 전환하면 비용이 60억 달러 늘면서 구글의 세전 이익을 6% 줄일 것”이라고 예측했다.  여기에 세계 각국의 주요 빅테크 기업들이 잇따라 챗봇 관련 기술 연구와 출시 계획을 밝히면서 시장 경쟁은 더욱 격해질 것으로 보인다. 중국 검색 기업인 바이두도 오는 3월 중국판 ‘챗GPT’인 ‘어니 봇(ERNIE Bot)’ 공개 계획을 밝혔으며, 이커머스 기업 알리바바도 ‘챗GPT’의 경쟁 대상이 될 수 있는 기술을 내부적으로 테스트 중인 것으로 알려졌다.  한국의 카카오 역시 한국어 특화 AI 모델인 ‘코GPT(KoGPT)’를 활용한 서비스를 연내 선보인다고 밝혔다. 

미국 스타트업 오픈AI가 개발한 대화 전문 인공지능 챗봇 ‘챗지피티’(이하 챗GPT)에 대한 전 세계의 관심이 뜨겁다. 챗GPT는 온라인상의 데이터베이스를 기반으로 사용자의 질문에 대한 정보를 제공하는 챗봇으로, 답변의 완성도가 기존의 인공지능 서비스보다 한층 발전한 수준이라는 평가가 쏟아졌다. 챗GPT의 개발사인 오픈AI는 윤리적 문제 등을 고려해 폭력적이거나 불법행위를 조장하는 내용, 정치적 관점이나 민감한 내용 등은 답변에 포함하지 않도록 하는 정책을 내세웠다. 또 사이트 초기 화면에 ‘때때로 잘못된 정보를 생성할 수 있음‘, ’때때로 유해한 지침이나 편향된 콘텐츠를 생성할 수 있음‘ 등의 제한 사항을 명시했다. 기자가 직접 챗GPT에 ‘독도는 어느 나라에 속해 있습니까?’ 라는 질문을 한국어와 영어, 일본어로 각각 입력했다.그 결과, ‘독도는 어느 나라 땅입니까?’ 라는 한국어 질문에는 '독도는 동해(또는 일본해)에 위치한 섬의 집합이며, 한국과 일본의 논쟁 주제다. 한국은 현재 독도를 관리하며 독도를 자치구의 일부로 간주하지만, 일본도 독도의 소유권을 주장한다'는 답이 나왔다. 뒤이어 영어로 같은 내용의 질문을 입력하자, 챗GPT는 '독도는 일본해(또는 동해)에 위치한 섬으로, 한국과 일본이 영유권 분쟁 중이다. 한국은 현재 독도를 관리하며 자국 영토로 간주하고 있고, 일본도 영유권을 주장하고 있다. 독도 영유권 문제는 수년 동안 양국 간의 외교적 긴장 원인이었다'는 답이 나왔다.  일본어로 같은 내용을 입력하자, 챗GPT는 '독도는 일본과 한국의 영유권을 둘러싼 논쟁이 있는 섬이다. 현재 한국이 독도를 관리하고 있으며, 독도를 영토의 일부로 생각하고 있지만 일본도 독도의 영유권을 주장하고 있다'고 답했다.  대부분의 답변이 한국과 일본이 영유권을 두고 다투고 있다는 일반적인 내용을 포함하고 있었지만, 간혹 같은 질문에 다른 답변이 나오기도 했다.  영어로 ‘독도는 어느 나라 땅입니까?’(what country does Dokdo belong to?)라고 물었을 때, ‘다케시마라고 불리기도 하는 독도는 일본해(동해)의 작은 섬으로, 현재 한국과 영토 분쟁을 벌이는 곳’이라는 답변이 나오기도 했다. 또 한국어로 같은 질문을 여러 차례 입력했을 때, ‘독도는 한국이(한국의 땅이라고) 주장하는 것으로 알려져 있지만, 중국도 주장하는 국경지점으로 논란이 있다’라는 대답이 나오기도 했다. ‘일본’은 아예 언급되지 않은 것이다.  이 밖에도 ‘우크라이나 전쟁은 언제 끝날까?’ 라는 질문에는 ‘우크라이나의 분쟁은 복잡하고 진행중인 상황이며, 언제 끝날지 예측하기 어렵다. 평화적 해결을 위한 국제기구와 국가들의 노력은 지금까지 평화를 가져오는 데 성공하지 못했다. 평화 정착을 위해서는 지속적인 외교적 노력과 관련된 모든 당사자의 평화적 수단을 통한 분쟁 해결 약속이 필요할 것’이라는 분석적인 답변을 내놓았다.  ‘북한은 정말 핵 공격을 감행할까’라는 질문에는 ‘나는 미래의 사건이나 정부의 의도를 예측할 능력이 없다’고 첫 문장에 강조한 뒤 ‘그러나 북한의 핵공격 위협은 오랫동안 구제사회의 주요 관심사였다. (중략)핵 무기의 잠재적 사용을 방지하기 위해 모든 국가가 긴장을 완화하는 동시에, 지역의 평화와 안정을 증진하기 위해 노력하는 것이 중요하다’는 답이 나왔다.  기자가 직접 사용해 본 결과 챗GPT는 다소 민감할 수 있는 주제에 대한 주관적인 진술을 회피하는 듯 보이지만, 분석과 예측 과정에서 원론에 가깝지만 ‘다소’ 주관적인 해결책을 제시하는 형태도 볼 수 있었다.  예컨대 ‘낙태법이 통과되어야 하는가?’라는 질문에, 챗GPT는 ‘개인이 자신의 신념과 가치를 고려하고 다른 관점을 가진 다른 사람들과 정보에 입각한 정중한 대화에 참여하는 것이 중요하다’는 답변을 내놓았다. 단순히 낙태법에 대한 논란이 매우 많으며, 이를 찬성하는 쪽과 반대하는 쪽의 의견을 답하는 데서 그치지 않은 것이다.  다만, 현재 서비스 초기인데다 사용자가 몰리면서 접속이 원활하지 않을 때가 많았다. 또 방대한 정보를 이용하다 보니, 같은 질문에도 여러 가지 다른 내용의 답이 나오기도 했다.  챗GPT, 위험할 정도로 강력하다...극찬과 우려 동시에 챗GPT에 대한 뜨거운 관심 만큼이나 우려도 상당하다. 심지어 챗GPT를 개발한 기술 책임자도 공식적으로 챗GPT의 악용을 걱정하며 규제가 필요하다고 말했다. 오픈AI의 미라 무라티 최고기술책임자(CTO)는 5일 미 시사주간지 타임지와 한 인터뷰에서 “챗GPT의 높은 인기는 일부 윤리적 문제를 불러일으켰다. 그런 AI 도구들은 오용되거나 나쁜 행위자들에 의해 사용될 수 있다”고 밝혔다.  이어 “챗GPT가 언어 모델을 기반으로 AI에 의해 구동되는 다른 도구와 마찬가지로 사실을 지어낼 수 있다”면서 “이는 전 세계적으로 챗GPT와 같은 AI를 어떻게 통제할 것인가에 대한 문제를 불러일으켰다”고 덧붙였다.  챗GPT는 출시 5일 만에 100만 명, 두 달 만에 1억 명의 월간 활성 사용자 수(MAU)를 돌파했다. 미국 CBS에 따르면 MAU 1억 명 돌파까지 틱톡은 9개월이 걸렸으며, 인스타그램은 2년 6개월가량이 걸렸다.