윤석열 대통령은 26일 “대한민국을 오는 2027년까지 인공지능(AI) 세계 3대 강국으로 도약시킬 것”이라고 밝혔다. 윤 대통령은 이날 서울 종로구 포시즌스 호텔에서 ‘인공지능 대전환, 도약하는 대한민국’을 주제로 한 국가인공지능위원회 출범식 및 제1차 회의를 주재하며 “AI 세계 3대 강국이라는 비전을 이루기 위한 국가 총력전을 선포한다”고 밝혔다. 포시즌스 호텔은 지난 2016년 3월 이세돌 9단과 인공지능 스타트업 ‘딥마인드’가 개발한 바둑 AI ‘알파고’가 대국을 벌여 국내를 비롯한 전 세계에 ‘알파고 쇼크’를 안긴 장소다. 윤 대통령은 “AI가 국가 역량과 경제성장을 좌우하고 경제, 안보의 핵심이 되는 시대로 전환되는 과정”이라며 “세계 주요 국가들이 디지털 패권 경쟁에서 승리하기 위한 AI 기술 및 주도권 선점에 사활을 걸고 있다”고 설명했다. 대통령 직속 국가AI위원회의 위원장을 맡은 윤 대통령은 “우리나라의 명운이 걸린 AI 전환을 국가인공지능위원회가 선두에서 이끌며 견인차 역할을 할 것”이라며 “국가 AI컴퓨팅 센터를 민·관 합작투자로 구축하고, 산업과 사회 전반에 AI 전환을 촉진해 민간의 인공지능 분야 투자 확대를 견인하겠다”고 밝혔다. 윤 대통령은 “자유민주주의를 위협하는 가짜뉴스와 딥페이크 기술을 악용한 인권침해 등 디지털 격차에 따른 여러 부작용이 등장하고 있다”고 지적했다. 그러면서 이를 해결하기 위한 2022년 ‘뉴욕 구상’과 지난 5월 AI 서울 정상회의에서의 ‘서울 선언’ 등으로 디지털 규범 정립에 앞장서왔다고 소개했다. 대통령 직속 국가AI위원회는 AI 관련 연구개발(R&D)과 투자, 전문인력 양성, 규제 개선 등 국가 AI 정책 전반을 진두지휘한다. 엄재호 태제대 총장이 부위원장을 맡으며 곽노정 SK하이닉스 대표이사, 전경훈 삼성전자 디자이스경험(DX) 부문 최고기술책임자(CTO), 김영섭 KT 대표, 김승환 아모레퍼시픽 대표, 정신아 카카오 대표, 류석영 카이스트 전산학부 교수 등 민간기업 및 학계 전문가 30명 및 장관급 정부위원 10명 등이 참여한다.

전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이라는 조사 결과가 나왔다. 미국의 사이버보안 업체 시큐리티히어로가 발표한 ‘2023 딥페이크 현황’ 보고서 내용이다. 군인은 물론 미성년자의 초상까지 제멋대로 합성한 딥페이크 성범죄가 만연해 있는 사실이 드러나 충격을 안겨준 가운데 이를 뒷받침해 주는 구체적 수치까지 제시된 것이다. 낯부끄러운 일이 아닐 수 없다. 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에 올라온 영상물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 두 번째로 많은 미국인(20%)보다 배 이상 많았다. 특히 딥페이크 성착취물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 경찰이 텔레그램 법인을 성범죄 방조 혐의를 적용해 내사에 착수했다니 엄벌로 이어지기를 바란다. 인공지능(AI) 기술 등장 이후 불법적인 영상물의 제작 및 유포는 확산하고 있다. 하지만 이를 규제할 제도 보완은 더디기만 하다. 딥페이크 가해자들에 대한 솜방망이 처벌에다 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 허위 영상물 유포를 차단할 기술 개발도 등한시했다. 이러다 보니 다수 국민이 나도 몰래 음란물 피해자가 됐다. 딥페이크 원천 기술 규제는 불가능한 만큼 유통과 배포 차단이 중요하다. 불법 영상물 삭제를 위한 딥페이크 제작물 탐지 기술 개발은 물론 허위 영상물 소지죄 신설, 제작 및 유통죄의 법정형 상향 등의 조치가 필요하다. 빅테크 규제 강화도 시급하다. 유럽연합은 플랫폼에 유해 콘텐츠 검열을 의무화했다. 미국은 AI를 활용한 콘텐츠에 워터마크 표기를 강제했다. 브라질 법원은 가짜뉴스 차단 요구를 거부한 미국의 X(옛 페이스북) 접근을 차단했다. 우리도 워터마크 표시 의무화와 사회 공공질서를 교란할 수 있는 영상 유통에 대해서는 포털의 삭제 의무를 명확히 하고 국제 공조를 통한 해외 플랫폼사업자 규제도 강화하기 바란다.

‘핀터레스트’ 앱에 합성물 수백장성착취물 피해자의 53% 한국인대부분 가수와 배우 등 연예인심우정 “운영자 법적 책임 검토”머스크의 ‘엑스’ 불법물 온상 지목 K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼에서도 기승을 부리고 있다는 게 충격적”이라고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송하다”라는 답이 돌아왔다. 계정은 곧 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 방법”이라고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 이런 피해에 대해 발 빠르게 대응한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로도 지목되고 있다. 핀터레스트 측은 “문제 계정을 확인한 뒤 조치를 취한다”고, 구글 코리아 측은 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

핀터레스트 등 해외 플랫폼서넘쳐나는 연예인 딥페이크물딥페이크 피해자 53% 한국인대부분이 가수 등 여성 연예인“플랫폼서 유포 막는 게 우선” K팝을 좋아하는 대학생 안모(21)씨는 며칠 전 이미지를 공유하는 해외 플랫폼 ‘핀터레스트’ 애플리케이션(앱)을 둘러보다 깜짝 놀랐다. 한 유명 여성 아이돌 가수의 얼굴에 다른 여성의 나체를 합성한 사진이 버젓이 올라와 있어서다. 안씨는 “12세부터 쓸 수 있는 앱인데 딥페이크(허위 영상물)가 해외 플랫폼까지 기승을 부리고 있다는 게 충격적”이라며 “유사한 이미지까지 모두 플랫폼에 신고하고 해당 연예인 소속사에도 제보했다”고 전했다. 최근 지인을 대상으로 딥페이크 음란물을 만들어 텔레그램에서 조직적으로 유포하는 범죄 양상이 사회적 문제로 대두된 가운데 해외 플랫폼에서 여성 연예인을 타깃으로 한 딥페이크 성범죄가 반복적으로 이뤄지고 있다는 지적이 제기되고 있다. 1일 서울신문이 핀터레스트 앱에서 ‘합성’, ‘딥페’, ‘19’ 등의 검색어를 입력하자 여성 아이돌이나 소셜미디어(SNS) 인플루언서 등과 음란물이 결합된 사진 수백장이 조회됐다. 서울신문이 아이돌 가수 A씨의 허위 사진 10장 등 딥페이크 사진 50여장을 올린 이용자에게 메시지를 보내 이유를 묻자 “죄송합니다”라는 답이 돌아왔다. 계정은 곧바로 삭제됐다. 심지어 엑스(X·옛 트위터)나 사진 공유 앱 텀블러 등에서는 플랫폼에 적발되지 않기 위해 해시태그나 링크, 메시지 기능 등을 이용해 이용자들끼리 이른바 ‘연능’(연예인 능욕) 딥페이크를 공유하기도 한다. 특히 우리나라는 딥페이크 피해에 취약하다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트에서 게시물 9만 5820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었다. 가장 큰 피해를 본 것은 한국인 가수로, 딥페이크 성착취물 1595건에 등장했고 총조회수는 561만회였다. 전문가들은 딥페이크 기술 자체를 막기 어려운 상황에서 불법 콘텐츠가 유포되지 않도록 플랫폼 책임을 강화하는 게 현실적인 대책이라고 꼽는다. 김명주(바른AI연구센터장) 서울여대 정보보호학과 교수는 “콘텐츠에 대한 플랫폼의 법률상 의무를 강하게 부과하는 유럽연합(EU) 등과 보조를 맞추는 것도 검토해 볼 만하다”고 했다. 심우정 검찰총장 후보자도 이날 국회에 제출한 서면 답변에서 “디지털 성범죄 전담 검사를 확대하고 텔레그램 등 보안 메신저 운영자들의 법적 책임을 검토하겠다”고 밝혔다. 해외에서는 딥페이크 성착취물이나 잘못된 정보가 퍼진 서비스를 차단하기도 한다. 텔레그램 창업자인 러시아 출신 파벨 두로프가 프랑스에서 아동 포르노 유포 방조 등의 혐의로 기소된 데 이어 일론 머스크가 인수한 엑스는 가짜뉴스와 혐오 메시지를 유포한 혐의로 브라질에서 차단당했다. 엑스의 이미지 생성 인공지능(AI)인 ‘그록’은 카멀라 해리스, 도널드 트럼프 등 미국 대선 후보 등의 딥페이크 게시물의 온상으로 지목되고 있다. 핀터레스트 측은 “이용자가 신고한 이미지를 포함해 문제가 된 계정을 확인한 뒤 조치를 취한다”고 설명했다. 구글 코리아 관계자는 “딥페이크 콘텐츠에 대한 사용자 불만을 앱에서 해결하지 못하면 단계별로 조처를 한다”고 답했다.

미국 대선 가도에서 카멀라 해리스 부통령이 민주당 후보로 등장한 이후 도널드 트럼프 전 대통령의 부진이 3주째 이어지며 공화당과 선거 캠프에 불안감이 번지고 있다. 해리스 부통령이 초반 허니문 효과로 나타난 지지율 상승세를 지속시키는 반면 앞서나갔던 트럼프 전 대통령이 막말과 인신공격, 가짜뉴스로 자충수를 반복하자 불만이 당 밖까지 터져 나왔다. 12일(현지시간) 미 언론은 트럼프 전 대통령이 이민, 경제문제 등 공화당에 유리한 현안에 초점을 맞추면 이길 수 있는데도 정반대로 행동하면서 공화당 내부에서 증폭되는 불안을 조명했다. 정치전문매체 더힐은 이날 “공화당 인사들이 트럼프에게 충동을 조절하고 정책에 집중하는 선거운동을 하라고 촉구했다”고 전했다. 온라인 매체 악시오스는 트럼프 고문들이 “새 메시지의 강력한 유세를 해 달라”고 간청하고 있지만 수용 여부는 미지수라고 보도했다. 최근 트럼프의 행보는 의도적 네거티브 공격도 있지만 분노를 표출하는 억지가 훨씬 많다. 인도계 흑인인 해리스 부통령을 향해 “갑자기 흑인이 됐다”며 인종 정체성을 문제 삼았고, 11일 1만 5000명이 운집한 디트로이트의 민주당 유세 군중이 “인공지능(AI)으로 조작됐다”고 거짓 주장을 폈다. 앞서 3일 경합주 조지아 유세에선 2020년 대선 당시 패배한 선거 결과를 뒤집으라는 자신의 지시를 따르지 않은 브라이언 켐프 주지사를 맹비난해 당내에서도 ‘정치적 자살’이라는 비판이 쏟아졌다. 대선 경합주인 조지아에서 인기 많은 주지사를 공격할 필요가 있느냐는 것이다. 이에 케빈 매카시 전 하원의장은 이날 폭스뉴스 인터뷰에서 “유세 규모에 그만 의문을 제기하고, 해리스가 (캘리포니아주) 법무장관 때 범죄 관련 무엇을 했는지, 국경 문제에서 무엇을 했는지 물어보라”고 꼬집었다. 트럼프의 경제책사인 피터 나바로 전 백악관 국장도 “경합주에서 이기려면 해리스와의 정책 차이에 초점을 맞춰야 한다”며 “해리스를 인신공격해 봤자 경합주, 특히 여성 유권자들의 해리스 지지만 올라간다”고 지적했다. 관건은 트럼프 전 대통령이 자신의 분노를 절제하고 새 유세 메시지로 전환할지 여부다. 보좌진은 그가 변하지 않을 것이라는 점도 알고 있기에 캠프 측은 “트럼프에게 ‘승리하기 위한 메시지’를 납득시키는 데 집중하고 있다”고 전했다. 한동안 유세 현장에 나오지 않던 트럼프 전 대통령은 이날 일론 머스크 테슬라 최고경영자(CEO)와 대담하면서 2시간 가까이 자신의 생각을 쏟아냈다. 엑스(X·옛 트위터)로 생중계된 대담에서 그는 “인류 최대의 위협은 지구 온난화가 아니라 핵 온난화”라고 주장했다. 핵 보유국 간 전쟁이나 북한·이란 등 핵무기 개발국들의 위험을 지칭한 것으로 보인다. 블라디미르 푸틴 러시아 대통령, 시진핑 중국 국가주석, 김정은 북한 국무위원장 등 권위주의 독재 지도자들을 “터프하고 똑똑하며 사악하고 자신들 게임의 정상에 있는 사람들”이라고도 표현했다. 해리스 부통령에 대해서는 “3년 반 동안 이민정책에 관여하지 않았다고 말하려 한다”고 공격했고, 자신의 팁 면세 공약도 베꼈다고 주장했다. 시사 주간지 ‘타임’ 표지를 장식한 해리스 일러스트를 두고는 “우리의 위대한 영부인 멜라니아(트럼프의 부인)와 매우 닮았다”고 말하기도 했다. 이날 대담은 전기차·친환경 정책에 반대하는 트럼프 전 대통령과 극우 성향이나 전기차 사업을 이끄는 머스크의 만남으로 시선이 집중됐다. 애초 미 동부 시간 기준 오후 8시에 시작할 예정이었지만 기술적 문제로 45분 정도 늦게 시작됐다. 머스크는 “대규모 디도스 공격이 발생한 것으로 보인다”고 했으나 아직 증거는 나오지 않았다. 인터뷰는 한때 최대 180만명이 접속한 것으로 집계됐다.

선문대학교 인문사회 융합인재양성사업단(단장 여영현, HUSS)은 제2회 디지털 사회문제 혁신 아이디어 경진대회를 개최했다고 4일 밝혔다. 이번 경진대회는 인문사회 계열과 공학 계열 학생이 팀을 이뤄 사회문제 해결 방안에 다양한 시각과 기술을 접목해 혁신적인 해결 방안을 도출하기 위해 마련됐다. 50명의 학생은 10팀으로 나눠 지난달 10일부터 31일까지 약 3주간 초연결사회 디지털 전환 속에 나타날 수 있는 사회문제에 대응한 해결 방법과 아이디어를 도출했다. 사회문제 사례는 개인정보 침해·가짜뉴스·사이버 범죄·사회적 고립·과도한 정보접근·디지털 소외·정보격차 등이다. 대상에는 ‘삑! 원스톱 대중교통’ 아이디어를 제시한 이세은‧조진현‧조예진‧이채령 팀이 받았다. 이들은 시각 장애인을 위한 더 나은 이동권 증진을 위한 스마트 탑승 서비스 앱 개발 아이디어로 높은 평가를 받았다. CCTV연계 주차관리 플랫폼 아이디어인 ‘Parking Paltform’을 제시한 이은채·이하경·정혜미·나희진·이수근 팀이 최우수상을 받았다. 이밖에 우수상으로 △위험감지 CCTV 통합플랫폼 ‘AI CCTV’ (우에노고홍·한지수·이민준·이은채·이하경·정혜미) △AI모델을 활용해 영상에 자동으로 나이 등급을 매기는 ‘Safe View’(김연희·남영빈·이정민·문치훈·임재원) △시각장애인을 위한 디지털 리터리시 교육 프로그램 ‘아이커넥트’(고현철·정혜미·임호진·이지원·박소현·반지연)이 차지했다. 여영현 사업단장은 “제1회 경진대회를 통해 수상한 팀들이 국내에서 개최한 공모전에서도 대상을 받고 지난 대회 참가팀은 말레이시아에서 개최한 ITEX‘2024에서 은상을 수상했다”며 “인문사회융합인재 양성을 위해 앞으로도 최선을 다하겠다”고 말했다.

윤석열 대통령은 21일 ‘인공지능(AI) 서울정상회의’에서 “대한민국도 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참하겠다”고 밝혔다. 정상 세션에서는 안전하고 혁신적이며 포용적인 AI를 위한 ‘서울선언’이 채택됐다. 윤 대통령은 이날 리시 수낵 영국 총리와 공동 주재한 AI 서울정상회의 개회사에서 “영국, 미국을 비롯한 주요국들의 AI 안전연구소 설립 노력을 환영한다”며 이렇게 밝혔다. 또 “이러한 AI 혁신은 글로벌 경제에 새로운 성장동력을 부여하고, 환경오염 등 전 지구적인 난제를 풀어 가는 데 큰 도움을 줄 것”이라고 말했다. 윤 대통령은 “지난해 11월 영국 블레츨리 파크에서 개최된 ‘AI 안전성 정상회의’에서 AI 안전을 논의했으며 혁신과 포용까지 논의의 지평을 넓히는 AI 서울정상회의를 개최하게 돼 매우 기쁘게 생각한다”고 밝혔다. 이어 “AI의 영향력이 커지는 만큼 딥페이크를 통한 가짜뉴스와 디지털 격차 등 AI 부작용에 대한 우려도 커지고 있다”고 덧붙였다. 윤 대통령은 “AI 서울정상회의는 그간의 노력을 결집해 글로벌 차원의 AI 규범과 거버넌스를 진전시키는 계기가 될 것”이라며 “AI가 미칠 수 있는 악영향을 최소화하고 민주주의가 훼손되지 않도록 AI 안전성을 확보해야 한다”고 말했다. 이어 “거주 지역과 소득수준에 관계없이 누구나 AI의 혜택을 누릴 수 있도록 AI의 포용성을 확보하는 것도 중요하다”고 했다. 정상 세션에는 G7(미국·영국·프랑스·독일·이탈리아·캐나다·일본)과 싱가포르 정상이 참석했다. 유엔, 유럽연합(EU), 경제협력개발기구(OECD)와 삼성전자, 네이버, 슈밋재단, 구글 딥마인드, 앤트로픽, xAI, 미스트랄AI, 오픈AI, 마이크로소프트, 아마존 웹 서비스, 메타 등 글로벌 빅테크 수장들도 참석했다. 정상들은 안전하고 혁신적이며 포용적인 AI를 위한 서울선언을 채택했다. 정상들은 “AI의 전례 없는 발전과 우리 경제사회에 미치는 영향을 마주해 AI 분야에서 국제 협력과 대화를 촉진하고자 하는 공동의 헌신을 확인했다”고 밝혔다. 지난해 영국에서 개최된 1차 회의가 AI의 위험성에 따른 안전성에 초점을 맞췄다면 이번 서울 2차 회의에서는 안전성에 더해 혁신과 포용성으로 의제를 확대했다. 또 “AI 안전연구소, 연구 프로그램을 포함한 유관기관을 설립하기 위해 진행하거나 계속 진행 중인 노력을 지지하고 단체 간 네트워크를 육성함으로써 안전 연구에 관한 협력을 증진하고자 노력한다”고 밝혔다. 이어 “세 번째 모임으로 프랑스가 개최하는 AI 행동 정상회의를 기대한다”고 덧붙였다. 22일에는 서울 한국과학기술연구원(KIST)에서 19개국 이상의 정부와 기업 인사가 참여하는 장관 세션이 열린다. 이종호 과학기술정보통신부 장관은 미셸 더넬런 영국 과학혁신기술부 장관과 공동으로 장관급 회의를 주재한다. 정상 세션에 불참한 중국도 참석한다.

생성형 인공지능(AI) 챗GPT를 만든 샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI)에게 전쟁을 맡겨도 되는지에 대해 ‘복잡하고 쉽지 않은 문제’라는 견해를 밝혔다. 7일(현지시간) 올트먼은 미 싱크탱크 브루킹스연구소가 ‘AI시대의 지정학적 변화’를 주제로 개최한 대담에서 북한이 서울을 기습 공격할 경우 이를 방어하기 위해 인간보다 대응 속도가 빠른 AI에 의존해도 되는지에 대해 질문을 받았다. 진행자는 북한이 서울을 향해 군 항공기 100대를 출격시키고, 한국이 AI가 통제하는 로봇을 활용해 이를 전부 격추해 북한 조종사 100명이 목숨을 잃는 상황을 가정했다. 이어 이러한 상황이 발생할 경우 AI가 사람을 죽이는 결정을 해도 되는지에 대해 질문했다. 올트먼은 “항공기가 한국에 접근했고, 인간이 의사결정에 관여할 시간이 없을 때라면 AI가 요격을 결정할 수도 있지만, 그런 상황이라고 얼마나 확신할 수 있나? 어느 정도 확실해야 AI에 맡길 수 있나? 회색지대(애매한 범위)의 어느 지점에 선을 그어야 하는가? 정말 (따져봐야 할) 질문이 많다”고 대답했다. 그는 “난 누군가 ‘AI가 핵무기 발사를 결정할 수 있어야 한다’고 주장하는 것을 들은 적이 없다”며 “또한 누군가 접근하는 미사일을 요격할 때처럼 정말 빠르게 행동해야 할 때 AI를 사용해서는 안 된다고 주장하는 것도 들은 적이 없다. 그런데 그 사이에 이런 지대도 있다”고 지적했다. 이어 그는 이러한 내용은 자신의 전문 분야가 아니라고 밝히며 “오픈AI에서 이런 결정을 하지 않아도 되길 바란다”고 덧붙였다. 이날 대담에서 올트먼 CEO는 AI를 구동하는 ‘연산력(Compute)과 반도체, 데이터센터 등의 시설이 “미래에 가장 중요한 상품이 될 것”이라고 강조했다. 그러면서 “AI 기반 시설이 저렴해져 누구나 사용할 수 있도록 민간뿐 아니라 정부가 공공재로 투자하고, 이를 사람들에게 공평하게 분배하길 바란다”고 전했다. 특히 AI 기반 시설을 확대하는 데 있어 “미국이 이끌면서도, 넓고 포용적인 연합체가 이를 주도했으면 좋겠다”며 “미국만 AI 데이터센터를 지어야 한다는 방식은 통하지 않을 것”이라고 말했다. 한편 오픈AI는 이날 자사 이미지 생성 AI인 ‘달리’를 사용해 만든 이미지인지 여부를 감지할 수 있는 도구를 공개했다. 가짜뉴스를 방지하는 데 AI가 생성한 콘텐츠를 구분하는 게 중요해진 만큼 달리로 만들어진 이미지를 역추적할 수 있게 하겠다는 취지다.

“인공지능(AI) 활용 학습 지원은 물론 인성교육도 함께 이뤄질 수 있도록 하겠습니다.”(전성수 서울 서초구청장) 서초구는 25일 ‘2024 AI 기반 공교육 비전 선포식 및 포럼’을 열고, AI를 활용한 맞춤형 교육과 AI 윤리·인성교육 프로그램을 추진한다고 밝혔다. 이날 발표자로 나선 전 구청장은 “미래 아이들에게 필요한 교육이 무엇인지를 현장 교사들과 함께 고민해 프로그램을 만들었다”면서 “AI 학습진단을 통해 개인별 맞춤형 교육과 디지털 대전환기에 가져야 할 AI 윤리, 인성교육 등을 함께 지원할 것”이라고 설명했다. 행사에선 서울대 융합과학기술대학원 권가진 교수의 ‘AI 시대의 교육’을 주제로 한 기조강연을 시작으로 ▲‘해외 AI 교육 트렌드’(건국대 임걸 교수) ▲‘서초구 AI 공교육 현장 및 발전방향’(계성초 조기성 교사) 등의 발표가 이어졌다. 구는 지난해부터 ‘서초형 스마트 교육사업’을 시범 추진해 초중고 12곳을 선정하고 학습 코스웨어 및 개인 디바이스, 전자칠판 등을 지원했다. 수학과목 AI 맞춤형 수업을 진행한 A고등학교는 학업성취도, 수업만족도, 지속지원 희망 여부에서 모두 100% 만족이란 결과를 얻었다. AI 윤리와 인성교육도 진행한다. 취학 전 아동부터 초중고생, 학부모에게 딥페이크(AI를 활용한 얼굴·목소리 합성 기술), 가짜뉴스 등 디지털 부작용 대처법을 제시한다.

지난 11일 갑작스레 세상을 떠난 가수 박보람에 대한 악의적 허위 사실이 소셜미디어(SNS) 등 온라인을 중심으로 유포되자 소속사 제나두엔터테인먼트가 법적 조처를 예고했다. 제나두엔터테인먼트는 14일 “현재 온라인 커뮤니티, 유튜브, SNS를 통해 고 박보람에 대한 악의적 게시물과 근거 없는 허위 사실 등이 포함된 명예훼손성 게시물 및 댓글이 무분별하게 유포되고 있다”며 이같이 밝혔다. 이어 “박보람은 데뷔 후부터 확인되지 않은 사실 등으로 악플에 시달려왔고 고인이 된 지금도 가해지는 이러한 가짜뉴스는 고인을 두 번 죽이는 것과 다를 바 없는 명백한 범죄 행위”라고 지적했다. 그러면서 “이를 접한 당사, 유족들, 주변 지인들 또한 정신적으로 너무나 큰 충격과 고통을 받고 있다”며 “모든 허위·억측성 영상물과 게시물을 즉각 내려달라”고 호소했다. 소속사 측은 “이후에도 이와 같은 행위가 지속되면 강력한 민·형사상의 조처를 할 것”이라며 “장례 절차 후 엄중하게 법적 대응을 이어갈 것이며, 어떠한 선처나 합의는 없을 것”이라고 경고했다. 박보람의 사망에 추모가 이어지는 가운데 일각에서는 고인을 돈벌이 수단으로 사용해 논란이 일고 있다. 일부 악성 유튜버가 추모 분위기를 악용해 가짜뉴스를 생성해 비판받고 있다. 박보람과 절친했던 가수 김그림은 SNS에 “AI 목소리로 자극적인 제목과 섬네일을 넣고 가짜뉴스 만드는 유튜버들 어떻게 조치하는 법 없나요? 떠난 사람 이용해서 돈벌이하는 정말 상종 못 할 인간들”이라며 “정말 피가 솟구친다. 적당히들 하라. 천벌 받는다”라고 분노하기도 했다. 박보람은 2010년 Mnet ‘슈퍼스타K2’로 얼굴을 알린 후 2014년 ‘예뻐졌다’로 정식 데뷔했다. 이후 ‘예쁜 사람’, ‘연애할래’, ‘애쓰지 마요’ 등 히트곡을 발매하며 많은 사랑을 받았다.

가수 박보람의 사망에 연예계 동료와 누리꾼들의 추모가 이어지고 있는 가운데, 일각에서 고인을 돈벌이 수단으로 사용해 비판이 일고 있다. 박보람은 지난 11일 지인들과 모임 중 화장실에서 쓰러진 상태로 발견돼 병원으로 옮겨졌으나 끝내 숨을 거뒀다. 박보람은 사망 당일 지인 2명과 술자리를 가졌고, 3명이 소주 1병 정도의 술을 마신 것으로 파악됐다. 경찰은 정확한 사인을 파악하기 위해 부검을 의뢰했으며 지인 등을 상대로 경위를 조사 중이다. 다만 일부 악성 유튜버들이 이 같은 추모 분위기를 악용, 가짜뉴스를 생성해 비판이 높아지고 있다. 이에 박보람과 절친했던 가수 김그림은 자신의 소셜미디어(SNS)에 “AI 목소리로 자극적인 제목과 썸네일을 넣고 가짜뉴스 만드는 유튜버들 어떻게 조치하는 법 없나요? 떠난 사람 이용해서 돈벌이하는 정말 상종 못 할 인간들”이라며 “정말 피가 솟구친다. 적당히들 하라. 천벌 받는다”라고 분노했다. 한편 박보람은 2010년 Mnet ‘슈퍼스타K2’로 얼굴을 알린 후 2014년 ‘예뻐졌다’로 정식 데뷔했다. 이후 ‘예쁜 사람’, ‘연애할래’, ‘애쓰지 마요’ 등 히트곡을 발매하며 많은 사랑을 받았다.

유튜브 창립 배경·역사 파헤쳐19금 영상 거르는 AI 흥미진진인플루언서, 시청자 확장 매몰성공 어렵고 분쟁 휘말리기도 전 세계 사람들의 하루 유튜브 시청 시간은 10억 시간 이상이고, 1분마다 유튜브에 올라오는 영상은 500시간 분량에 달한다. 인스타그램에도 매일 1억개 이상의 포스트가 올라온다. 온라인에서 팬을 거느리고 영향력을 발휘하는 ‘인플루언서’는 전 세계 5000만명 이상으로 추정되는데 이들을 후원하는 스폰서는 2020년 기준 600만곳 정도다. 온라인 제국은 어떤 곳이며 이곳의 스타들은 어떤 사람들인지 숫자로는 크게 와닿지 않을 듯하다.‘유튜브, 제국의 탄생’은 콘텐츠 소비 방식과 우리의 생활 양식을 완전히 바꿔 놓은 유튜브의 지난 10년을 쫓는다. ‘실리콘밸리에서 구글을 가장 잘 아는 기자’로 정평 난 저자가 유튜브의 역사와 함께한 300여명을 취재했다. 채드 헐리, 자베드 카림, 스티브 첸 세 명의 청년이 쥐가 들끓는 한 허름한 사무실에서 사이트를 만들기 시작한 때부터 코로나19 팬데믹 기간까지 유튜브의 분투와 성장, 그리고 그동안 벌어진 온갖 갈등과 추문을 파헤쳤다. 그에 따르면 초창기 유튜브는 금전적 보상이 동기가 되는 시스템이 아니었으며 유튜브를 하는 사람을 부르는 명칭은 ‘유저’(user)였다고 한다. 광고를 붙이면서 유튜브가 폭발적으로 성장한 건 누구나 알 터다. 동영상을 즐기는 데 충분한 시간을 보내고 광고를 틀면 인내심을 발휘한다는 점에 착안한 ‘건너뛰기 광고’ 덕분이다. “담배 회사에 다니는 것 같다”고 토로하는 직원들의 인터뷰는 유튜브의 악영향을 단적으로 보여 준다. 직원들은 회사에서는 유튜브 체류 시간을 최대화하기 위해 온갖 노력을 기울이지만 집에 돌아가서 자신의 아이들에게는 “유튜브를 그만 보라”고 말한단다. 이 밖에 구글이 유튜브를 16억 5000만 달러에 인수한 속사정, 유튜브가 인공지능(AI)을 통해 이른바 ‘19금 동영상’을 걸러내는 방법도 흥미진진하다. 유튜브 임직원들이 코로나19 당시 가짜뉴스 확산을 사실상 방관했다는 사실도 들춰낸다.인플루언서들의 세계를 다룬 ‘인플루언서 탐구’ 역시 이어서 읽어 볼 만하다. 트렌드 분석가로 유명한 저자가 유명 인플루언서들을 위한 파티와 시상식, 온라인 콘텐츠용 사진 촬영 현장, 십대 인플루언서를 위한 훈련 캠프를 찾아가 이들을 분석했다. 열 살도 되지 않은 형제가 공동 유튜브 채널에서 수천만 달러를 벌어들이고, 십대 엄마가 자신의 출산 과정을 브이로그로 기록한다. 대학생을 사칭해 온라인에서 논란을 불러일으키고, 자신의 채널을 키우기 위해 괴상한 행위를 일삼는다. 정치적 폭동 사건 현장을 찾아가 생중계하기도 한다.이런 인플루언서의 행동은 조회수와 시청자수를 늘리기 위함이다. 그래야 브랜드와의 협찬 계약과 에이전트가 달라붙는다. 100만 이상 구독자를 달성하면 현장 뒤에서 일하는 팀, 그리고 자기 이름을 단 상품 라인이 생겨난다. 저자는 여러 인플루언서들을 만나 미디어 제국의 스타가 되는 과정을 생생하게 담았다. 스타가 되더라도 콘텐츠 업로드 때문에 압박받고, 경쟁과 파벌 싸움에 휘말리고, 불매 운동의 위협을 받는 모습도 파헤쳤다. 저자가 직접 인플루언서가 되기 위해 캠프에 참석하고 컨설팅을 받아 본 결과 남은 것은 겨우 한줌 더 늘어난 팔로어뿐이었다. 스스로 자신을 상품화하고, 더 많은 구독자를 끌어들이기 위해 도덕관념까지 기꺼이 집어던져 버리게 된다고 꼬집는다. 이 세계에서의 성공은 의외로 어렵고 결국엔 그 성공의 개념조차 모호해진다는 지적이 생생하게 와닿는다.

중국이 인공지능(AI) 기술을 이용해 한국 등 여러 국가에서 선거에 개입하려는 시도를 할 것이라는 경고가 나왔다. 영국 가디언의 5일(이하 현지시간) 보도에 따르면, 이날 공개된 마이크로소프트(MS) 위협 인텔리전스 센터의 보고서에는 중국에서 국가의 지원을 받는 사이버 그룹이 2024년에 열리는 주요 선거를 목표로 삼을 것이라는 내용이 담겨 있다.해당 보고서는 “한국과 미국, 인도의 국민이 투표소로 향함에 따라 중국의 영향력 있는 사이버 공격자들을 마주할 가능성이 높으며, 북한의 해커 역시 이러한 선거를 표적으로 삼으려 노력할 것”이라고 예측했다. 또 “중국은 자국의 입지에 도움이 되는 AI 생성 콘텐츠를 제작해 소셜미디어(SNS)에 배포할 것”이라면서 “이런 콘텐츠가 청중에게 미치는 영향은 아직 적지만, 밈이나 비디오, 오디오(의 이용을)를 강화하려는 중국의 실험은 계속될 것이며, 앞으로는 그 (파급) 효과가 입증될 수 있다”고 덧붙였다. “중국 정부 지원받는 사이버 그룹, 한국 표적 삼아” 이번 보고서에는 스패무플라주(Spamouflage) 또는 드래곤브릿지(Dragonbridg) 등으로도 불리며 중국 당국의 지원을 받는 것으로 추정되는 ‘스톰-1376’(Storm-1376) 그룹이 한국을 표적 삼고 집중적으로 활동했다는 주장이 담겼다.보고서에 따르면, 스톰-1376은 일본 후쿠시마 제1원전 오염수 해양 방류와 관련해 한국 내 반대 시위와 일본 정부에 대한 비판적인 메시지를 담은 콘텐츠로 한국을 집중 공략했다. 해당 콘텐츠들은 카카오스토리, 티스토리, 벨로그(velog) 등 한국의 소셜미디어와 여러 플랫폼, 웹사이트에 한국어로 게시됐다. 보고서는 “스톰-1376은 한국 표적 활동의 일환으로 (더불어)민주당의 대표이자 지난 대선 후보였던 이재명의 발언과 행동을 자세히 전달했다”면서 “이재명 대표는 후쿠시마 원전 오염수 해양 방류와 관련해 ‘오염수 테러’라고 표현하거나, 한국 정부에 대해 일본의 결정을 뒷받침한 ‘공범’이라고 비난하며 24일간 단식을 하기도 했다”고 전했다. 이어 “스톰-1376은 현지화한 콘텐츠로 한국 내에서 불화를 조장했다”면서 후쿠시마 원전 오염수 해양 방류를 반대하는 내용의 여러 밈이 티스토리에 게재됐으며 해당 게시물을 올린 것이 스톰-1376이라고 설명했다. “스톰-1376, 대만 총통 선거에도 개입” 보고서에는 중국이 이미 지난 1월 대만 총통 선거 당시 AI를 활용한 ‘가짜뉴스’ 캠페인을 시도했었다는 내용도 담겼다. 스톰-1376은 지난 1월 대만 선거기간 동안 사퇴한 총통 후보가 다른 후보를 지지하는 내용의 가짜 오디오를 만들어 유튜브에 게시한 바 있다.MS는 보고서에서 “유튜브에 게지된 오디오 파일은 AI가 생성한 콘텐츠로 추정된다”면서 “당시 유튜브는 해당 콘텐츠가 더 많은 사용자들에게 도달하기 전에 콘텐츠를 삭제했다”고 전했다. 이어 “당시 스톰-1376은 중국이 반대하는 후보였던 반중성향의 라이칭더 후보가 국고를 횡령했다거나, 사생아가 있다는 가짜 뉴스를 퍼뜨리기도 했다”면서 “이런 가짜뉴스에 나오는 AI 뉴스앵커는 틱톡의 소유주인 중국회사 바이트댄스가 개발한 캡컷 도구로 만들어졌다”고 덧붙였다. 또 “국가가 지원하는 단체가 외국 선거에 영향을 미치기 위해 AI 생성 콘텐츠를 사용한 사실이 확인된 것은 이번이 처음”이라고 밝혔다. “북한 해커들, 암호화폐 수억 달러 훔쳐…한국 단체 대상으로도 활동” MS의 이번 보고서에는 북한의 사이버 위협에 대한 경고 메시지도 포함됐다. 보고서는 “북한의 사이버 공격자들은 2023년 한 해 동안 암호화폐 수억 달러 어치를 훔치고, 소프트웨어 공급망을 공격했으며, 국가 안보의 적이라고 인식되는 국가를 표적으로 삼았다”면서 “이들의 활동은 북한 정부, 특히 무기 (개발)을 위한 수익을 창출하고, 동시에 미국‧한국‧일본에 대한 정보를 수집한다”고 주장했다. 이어 “북한의 이러한 사이버 활동은 미국·한국·일본 간의 3국 동맹에 대항하려는 북한의 지정학적 목표를 잘 보여준다”면서 “북한의 해커 집단들은 미국과 한국의 항공우주 및 방위 기관을 표적으로 삼고, 탈북자 및 북한 인권문제에 중점을 둔 활동가들이 있는 한국 단체를 대상으로 활동 중”이라고 덧붙였다. 美·英 “중국이 악의적 사이버 공작” vs 中 “적반하장” 앞서 지난달 25일, 미국과 영국은 중국 국가안전부와 연계된 단체인 일명 ‘APT31’가 양국의 정치인, 유권자, 기업 등을 대상으로 악의적인 사이버 스파이 공작을 벌인 것으로 의심된다며 관련자들을 제재했다. 이에 중국 국가안전부는 지난 2일 “미국이 지정학적 목적으로 세계 최대 정보조직 ‘파이브 아이즈’를 부추겨 ‘중국 해킹 위협’이라는 허위사실을 유포해왔다””면서 “전형적인 적반하장식 모독이자 사이버안보 문제를 정치화하는 악의적 조작이다. 중국의 합법적 권익을 심각하게 침해하고 있다”고 반박했다. 이어 “미국은 사이버 공격의 가장 큰 원천이며 전 세계 사이버 공간 안보의 가장 큰 위협”이라면서 “오히려 미국이 대규모 감청·도청 등을 통해 다른 국가들의 데이터를 불법적으로 수집하고 있다”고 주장했다.

방송인 김용만이 비트코인 투자를 했으나 손실을 봤다고 밝혔다. 지난 2일 유튜브 채널 ‘뭉친TV’에는 ‘진실 혹은 거짓? AI가 만들어내는 가짜뉴스의 세계’라는 제목의 영상이 공개됐다. 영상에는 방송인 김성주와 김용만, 정형돈, 박성광이 대화를 나누는 모습이 담겼다. 김성주는 “마크 저커버그 메타 CEO가 얼마 전에 내한했다. 이분이 AI(인공지능)와 관련한 얘기를 했다”며 “지금 AI 관련된 주식이 난리가 났다”고 말했다. 이에 박성광이 “뭘 사면 됩니까”라고 솔깃해하자, 김용만은 “그거 하다 큰일난다. 그런 사람들 옆에 가지 마라”고 경고했다. 이에 김성주는 “(종합격투기 선수 출신) 김동현 얘기하는 거냐”고 했다. 김동현은 김용만에게 비트코인 투자를 추천한 바 있다. 김성주는 “지금 비트코인 대박 났던데 (김용만이) 아직도 본전을 못 찾았다. 얼마 떨어진 거야”라고 물었다. 김용만은 “지금 아직도 마이너스 40%짜리가 두개나 있다. 나중에 좋은 소식 있을 때 말씀드리겠다”고 답했다.

윤석열 대통령은 20일 “가짜뉴스는 국민들이 사실과 다른 정보를 바탕으로 잘못된 판단을 내리도록 선동함으로써 민주주의 근간인 선거를 위협하고 있다”고 밝혔다. ●AI 활용한 조작 정보 무차별 확산 윤 대통령은 이날 오후 화상으로 개최한 ‘제3차 민주주의 정상회의’에서 “특정 세력들이 조직적으로 제작하고 배포하는 가짜뉴스는 단순히 잘못된 정보를 전파하는 것을 넘어 사회적 갈등과 분열을 야기한다”며 이렇게 말했다. 민주주의 정상회의 마지막 날인 이날 윤 대통령은 ‘기술, 선거 및 가짜뉴스’를 주제로 한 2세션을 주재했다. 윤 대통령은 “인공지능(AI)과 인터넷 ‘봇’ 기술을 활용한 가짜뉴스와 허위 조작 정보의 무분별한 확산이 전 세계적인 문제로 대두되고 있다”며 “가짜뉴스는 민주주의에 대한 분명한 도발”이라고 규정했다. ●기시다 등과 화상으로 의견 나눠 특히 올해가 전 세계적으로 선거가 많은 ‘슈퍼 선거의 해’임을 언급한 윤 대통령은 “보편 가치를 공유하는 민주주의 국가들이 연대해 가짜뉴스에 함께 대응해야 한다”고 주문했다. 윤 대통령은 “국경을 넘어 다른 나라의 선거에 영향을 미치려는 세력에 대해서도 엄격하게 법을 집행할 수 있도록 국제사회가 함께 공조해 나가야 한다”며 “또한 민주주의를 지키기 위한 기술의 연대와 공유도 필요하다”고 했다. 윤 대통령은 기시다 후미오 일본 총리 등과 화상으로 만나 의견을 나눴다. 윤 대통령에 이어 발언에 나선 기시다 총리는 “허위정보 확산은 모든 국가의 공통 과제”라고 했다. 민주주의 정상회의는 조 바이든 미국 대통령 주도로 2021년 출범한 민주 진영 간 회의체로, 미국 외 국가에서 개최한 것은 한국이 처음이다.

민주주의 정상회의 화상 개최“민주주의 국가 연대해 가짜뉴스 대응해야”“공동 대응해 홍보전 펴나가야” 윤석열 대통령은 20일 “가짜뉴스는 국민들이 사실과 다른 정보를 바탕으로 잘못된 판단을 내리도록 선동함으로써 민주주의 근간인 선거를 위협하고 있다”고 밝혔다. 윤 대통령은 이날 오후 화상으로 개최한 ‘제3차 민주주의 정상회의’에서 “특정 세력들이 조직적으로 제작하고 배포하는 가짜뉴스는 단순히 잘못된 정보를 전파하는 것을 넘어 사회적 갈등과 분열을 야기한다”며 이렇게 말했다. 민주주의 정상회의 마지막 날인 이날 윤 대통령은 ‘기술, 선거 및 가짜뉴스’를 주제로 한 2세션을 주재했다. 윤 대통령은 “인공지능(AI)과 인터넷 ‘봇’ 기술을 활용한 가짜뉴스와 허위 조작 정보의 무분별한 확산이 전 세계적인 문제로 대두되고 있다”며 “가짜뉴스는 민주주의에 대한 분명한 도발”이라고 규정했다. 특히 올해가 전 세계적으로 선거가 많은 ‘슈퍼 선거의 해’임을 언급한 윤 대통령은 “보편 가치를 공유하는 민주주의 국가들이 연대해 가짜뉴스에 함께 대응해야 한다”고 주문했다. 윤 대통령은 “국경을 넘어 다른 나라의 선거에 영향을 미치려는 세력에 대해서도 엄격하게 법을 집행할 수 있도록, 국제사회가 함께 공조해 나가야 한다”며 “또한 민주주의를 지키기 위한 기술의 연대와 공유도 필요하다”고 강조했다. 그러면서 “이를 통해 AI와 디지털 기술을 악용해 가짜뉴스를 만들어내는 세력에 대항해 이를 찾아내고 퇴치하는 AI, 디지털 시스템을 함께 만들어야 한다”며 “악의적인 가짜뉴스와 거짓 정보가 그래도 멈추지 않는다면, 이에 공동 대응하는 강력하고도 체계적인 대응 홍보전(anti-propaganda)을 펴나가야 한다”고 제안했다. 윤 대통령은 “세계 민주주의의 증진은 어느 한 국가의 힘만으로는 결코 이룰 수 없다”며 “보편적 가치를 공유하는 민주주의 연대를 더욱 강화하고, 끊임없이 확장해 나가야 한다”고 말했다. 이어 “우리가 함께 일궈낸 세 차례의 민주주의 정상회의 성과를 계속 키워나가고 가짜뉴스로부터 우리의 민주주의를 굳건히 수호해 나가기 위해 국제사회의 파트너들과 힘을 모으겠다”고 했다. 윤 대통령은 이날 개회사에서 “우리는 민주주의라는 위대한 유산을 보다 잘 가꾸어 미래세대에 전해주어야 한다”고도 강조했다. 민주주의 정상회의는 조 바이든 미국 대통령 주도로 2021년 출범한 민주 진영간 회의체로, 미국 외 국가에서 개최한 것은 한국이 처음이다.

인공지능(AI)은 인류의 삶에 여러 가지로 영향을 미치고 있다. 일상에 사소한 영향을 미치는 것은 물론 크게는 현대 민주주의 제도의 작동에도 영향을 미치고 있다. AI가 인류의 풍요와 번영에 기여할 수 있도록 하기 위해서는 어떤 사회적 고민이 필요할지에 대해 본격적인 논의가 필요한 시점이다. 그런 점에서 이번에 서울에서 개최되는 ‘제3차 민주주의 정상회의’는 시의적절하면서도 중요한 행사다. 민주주의 정상회의는 미국에서 매년 개최되다가 이번에 처음으로 미국을 벗어나 우리나라에서 열리게 되었다. 올해 행사의 주제는 ‘AI·디지털 기술과 민주주의’로, AI를 포함한 새로운 디지털 기술이 민주주의에 어떤 영향을 미치는지 그리고 그에 대해 어떤 준비를 해야 할지를 여러 나라의 고위급 대표와 전문가들이 모여 깊이 있게 논의하는 기회가 될 것이다. AI 같은 새로운 기술은 사회적 도입 과정에서 흔히 불안감을 야기한다. AI를 이용한 가짜뉴스가 양산될 가능성이나 딥페이크 기술이 활용돼 왜곡된 이미지나 영상이 무분별하게 만들어지고 유포될 가능성을 두고 우려의 목소리가 제기되는 것이 대표적이다. 또 AI 기술이 개인 맞춤형 서비스의 고도화에 적극 활용되면서 소셜미디어(SNS) 이용자들이 극단적 시각이나 편향된 시각에 일방적이고 지속적으로 노출될 가능성에 대한 염려도 있다. 이런 문제는 AI가 민주주의 작동 과정에 악영향을 끼치는 부정적 요소로 작용할 가능성을 시사한다. 하지만 AI는 다양한 상황에 다양한 방식으로 응용되면서 민주주의가 원활하게 작동하는 데 도움을 줄 수도 있다. 예를 들어 이름이 잘 알려지지 않은 정치 신인이 자신의 정치적 견해를 유권자들에게 손쉽게 알리는 데 AI 기술이 적극 활용될 수 있다. 유권자의 시각에서는 AI 기술이 개별 정치인이나 정당의 정책적 입장에 대해 빠르고 체계적으로 파악하는 데 도움이 될 수 있고, 더 나아가 서로 다른 정치인이나 정당 사이의 입장을 명확히 비교해 판단하는 데 활용될 수도 있다. 기존의 정치인이 어떤 의정 활동을 했는지 정리해 파악하는 데에도 AI가 도움을 줄 수 있다. 정치인의 법안 발의와 관련해서도 많은 고민이 담긴 새로운 법안의 발의를 위해 진지한 노력을 했는지, 혹은 그 반대로 ‘복사해서 붙여넣기’ 수준의 법안 발의를 주로 했는지에 관해 AI가 쉽게 요약해 알려 줄 수 있다. 이처럼 AI는 민주주의적 의사 결정 과정에서 다양한 역할을 수행할 수 있다. 그리고 그 영향은 부정적인 것일 수도, 긍정적인 것일 수도 있다. 우리 사회가 어떤 준비를 하고 어떤 대응을 하는지에 따라 AI는 민주주의에 도움이 될 수도, 저해 요소로 작동할 수도 있다. 이번에 열리는 민주주의 정상회의를 계기로 AI가 유용한 역할을 하는 밝은 미래를 위한 논의가 본격화되기를 기대한다. 고학수 개인정보보호위원장

민주주의정상회의 개회식서 환영사“디지털 격차가 경제, 민주주의 격차 만들기도” 윤석열 대통령은 18일 “인공지능과 디지털 신기술이 민주주의를 증진하면서 개인과 사회의 안전을 지켜줄 수 있도록, 서로의 경험을 공유하고 지혜를 모아야 한다”고 밝혔다. 윤 대통령은 이날 오전 서울에서 개최한 제3차 민주주의 정상회의 환영사에서 이같이 말했다. 이날부터 사흘간 열리는 민주주의 정상회의에서는 장관급 회의와 시민사회 행사, 화상 정상회의 등이 열린다. 윤 대통령은 디지털 신기술과 민주주의의 상관관계를 언급하며 “인공지능과 디지털 기술의 혁신은 시간과 공간의 제약을 뛰어넘어 인류가 꿈꿔 온 상상을 현실 세계에 구현하고 있다”면서도 “한편으로 인공지능(AI)과 디지털 기술을 활용한 가짜뉴스와 거짓 정보는 개인의 자유와 인권을 침해하는 것은 물론, 민주주의 체제마저 위협하고 있다”고 우려했다. 이어 “또한 국가 간 디지털 기술의 격차가 경제 격차를 확대하고, 이는 다시 민주주의 격차를 크게 만들기도 한다”고 했다. 이어 윤 대통령은 지난해 발표한 ‘디지털 권리장전’을 언급하며 “이를 통해 인공지능을 비롯한 디지털은 어디까지나 인간의 자유를 확대하는 데 기여해야 하고, 디지털이 만드는 혜택을 누구나 골고루 향유해야 하며, 디지털 기술이 개인과 사회의 안전을 위협해서는 안 된다고 강조했다”고도 했다. 윤 대통령은 “민주주의는 어느 한 나라나, 또는 한 사람의 노력만으로 수호할 수 없다”며 “이번 민주주의 정상회의가 ‘미래 세대를 위한 민주주의’를 구현하는 굳건한 연대의 장이 되기를 진심으로 기원한다”고도 강조했다.

제3차 민주주의 정상회의가 18~20일 서울에서 열린다. 민주주의 정상회의는 2021년 12월 권위주의에 대한 방어, 인권 존중 증진 등을 주제로 미국 주도로 시작됐다. 지난해 3월 2차 회의는 미국이 우리나라와 코스타리카, 네덜란드, 잠비아와 공동 주최했고 미국이 아닌 나라에서 개최하는 건 처음이다. 외교부는 “세계 민주주의 증진에 대한 우리 정부의 기여 의지를 전 세계에 보여 주는 것”이라며 “이번 회의 개최를 통해 민주주의를 달성하고 발전시킨 한국의 경험과 성과를 공유할 것”이라고 강조했다. ‘미래 세대를 위한 민주주의’를 주제로 열리는 이번 회의는 18일 ‘인공지능(AI), 디지털 기술 및 민주주의’를 주제로 장관급 회의와 전문가 라운드 테이블로 문을 연다. 사이버 위협 등에 대응하기 위한 민주적 프로세스, 인권을 존중하는 민주사회의 기술 혁신, 자유로운 온라인 공간을 위한 민주 사회의 역할 등이 논의된다. 19일에는 국내외 시민사회가 주도하는 주제 토론과 워크숍 등이 진행된다. 각국 정상과 안토니우 구테흐스 유엔 사무총장 등이 참석하는 정상회의 본회의는 20일 오후부터 화상으로 열린다. 윤석열 대통령은 ‘기술, 선거 및 가짜뉴스’를 주제로 한 두 번째 세션을 주재한다. 토니 블링컨 미 국무장관도 17일 오후 경기 평택 오산공군기지에 도착해 1박 2일 방한 일정을 시작했다. 블링컨 장관은 18일 조태열 외교부 장관과 오찬을 겸한 회담도 갖는다. 지난달 28일 미국 워싱턴DC에서 회담한 뒤 19일 만이다. 두 장관은 양국 간 민주주의 협력 방안과 한미동맹 강화 방안, 한반도 지역과 글로벌 정세 등을 두루 논의한다. 블링컨 장관은 이날 윤 대통령도 예방할 것으로 알려졌다.

윤석열 대통령은 29일 페이스북 모회사인 메타의 마크 저커버그 최고경영자(CEO)를 만나 “메타가 상상하고 설계한 것을 한국의 (관련) 산업이 적극적으로 지원할 준비가 되어 있다”며 한국 기업과의 협력을 당부했다. 윤 대통령은 이날 저커버그 CEO와 용산 대통령실에서 30분간 인공지능(AI)과 디지털 생태계 조성 비전, 메타와 한국 기업의 협력 강화 방안 등을 논의하면서 이렇게 말했다고 성태윤 대통령실 정책실장이 브리핑에서 전했다. 이어 윤 대통령은 “대한민국이야말로 메타의 AI가 적용될 수 있는 훌륭한 플랫폼이 될 수 있다”고 강조했다. 윤 대통령은 “한미 간 긴밀한 공급망 협력 체계가 구축된 만큼 필요하다면 정부 차원에서 양국 기업의 협력을 적극 지원하겠다”고 약속했다. 또 메타가 주력하는 메타버스 사업 분야 연구개발(R&D)과 인재 양성, 확장현실(XR) 헤드셋 분야 등에서 협력을 기대한다고 했다. 대통령실 고위 관계자에 따르면 저커버그 CEO는 이 자리에서 취약성 및 휘발성이 높은 시기에 메타가 대만의 반도체 기업인 TSMC에 많은 부분을 의존하는 것에 대해 우려를 표했다. 그러면서 “파운드리 거대 기업으로 삼성이 글로벌 경제에서 매우 중요한 위치에 있다”며 “이러한 부분들이 삼성과의 협력에 있어 중요한 포인트가 될 수 있다”고 말했다. 미중 반도체 전쟁과 양안관계 악화로 공급망 위기가 커지자 TSMC 의존도를 낮추고자 하는 의중을 드러냈다는 해석이 나온다. 윤 대통령은 이에 “삼성전자 AI 반도체와 시스템 반도체의 투자 생태계 조성을 위해 서울 인근에 이미 정부 지원이 이뤄지고 있다”고 화답했다. 윤 대통령의 이 발언에 대해 고위 관계자는 “현재의 지정학적 상황에서 메타 입장에서도 TSMC에 대한 의존도를 줄여 안정화하는 데 도움이 될 수 있다는 취지”라고 해석했다. 평소 AI 기술에 맞는 디지털 규범의 중요성을 주장해 온 윤 대통령은 저커버그 CEO에게도 이와 관련된 조치를 촉구했다. 윤 대통령은 “올해는 전 세계 여러 국가에서 선거가 있는 만큼 메타와 같은 빅테크 플랫폼 기업들이 가짜 뉴스와 각종 기만행위를 신속하게 모니터링해 조치해 달라”고 말했다. 저커버그 CEO는 “적극적으로 노력하고 있다”면서 “한국 선관위를 포함해 다른 나라 정부와도 가짜 정보가 유포되는 것을 제어하기 위한 협업이 광범위하게 이뤄질 수 있다”고 답했다.