서울 강서구가 딥페이크(이미지 합성 기술) 범죄를 막기 위한 주민 강좌를 진행한다. 강서구는 ‘딥페이크 기반 디지털 성범죄 이해와 대응 방안’이라는 주제로 제186회 강서지식비타민강좌를 진행하고 있다고 2일 밝혔다. ‘딥페이크’는 딥러닝과 페이크의 합성어로, 인공 지능 기술을 활용해 만든 가짜 이미지나 영상물을 말한다. 이번 강좌는 구청 공식 유튜브 채널을 통해 25일까지 시청이 가능하다. 강사로 나선 장광호 ㈜CNAI 대표이사가 나선다. 한신대학교 연구교수를 겸하고 있는 장 대표는 경찰청 과학수사관리관실 범죄분석기획담당과 경찰대학 치안정책연구소 스마트치안지능센터 센터장을 역임했다. 그는 이번 강의에서 딥페이크 기술을 이용한 디지털 성범죄의 개념과 대응 방안에 대해 자세히 전달한다. 특히 실제 범행 사례를 통해 온라인 환경에서 악용되기 쉬운 딥페이크 기술의 특성과 위험성을 설명한다. 또 디지털 성범죄와 관련한 국·내외 처벌 기준을 논의하고 가해자의 책임을 강화하는 방향으로 법제도 정비의 필요성을 강조한다. 딥페이크 영상 생성 과정과 탐지 기술을 살펴보고, 불법합성물 피해자 지원에 대한 관심을 촉구하는 시간도 가진다. 이번 강좌는 청소년들이 딥페이크 성범죄에 노출될 우려가 큰 만큼 지역 내 초·중·고등학교에 공문과 가정통신문 등을 통해 안내될 예정이다. 구 관계자는 “최근 학생 등을 대상으로 한 딥페이크 범죄가 심각한 사회문제로 대두되어 이를 예방하고자 이번 강좌를 마련했다”며 “이번 강좌가 디지털 성범죄에 대한 심각성을 알리고 안전한 교육환경을 조성하는 데 도움이 되길 바란다”고 말했다.

가짜뉴스나 딥페이크 범죄, 사이버 공격 등 인공지능(AI) 악용에서 비롯된 잠재적 위험을 막기 위한 연구 전담 조직 ‘AI 안전연구소’가 출범했다. 과학기술정보통신부는 27일 경기 성남시 글로벌 연구개발(R&D)센터에서 ‘AI 안전연구소’ 개소식을 열었다. 지난 5월 AI 서울정상회의 당시 윤석열 대통령이 “AI안전연구소를 설립해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것”이라고 밝힌 데 따른 것이다. 연구소는 AI의 기술적 한계, 인간의 AI 기술 오용, AI 통제력 상실 등으로 일어날 수 있는 위험에 체계적·전문적으로 대응하기 위해 세워졌다. 국가 단위의 AI 안전 정책 및 기술 연구를 진행하고, 국내 기업의 해외 진출도 돕는다. 히말라야 등반자들이 셰르파의 도움을 받아 안전하게 산에 오르듯 우리 기업이 글로벌 AI 경쟁에서 정상으로 나아갈 수 있도록 돕는다는 의미다. 정부는 AI 안전연구소는 아시아태평양지역을 대표하는 글로벌 AI 안전 거점연구소로 키워갈 방침이다. ▲AI 안전 평가 ▲AI 안전 정책 연구 ▲AI 안전 글로벌 협력 ▲AI 안전 연구개발(R&D) 등이 4대 핵심과제다. 정책 협력 및 기술 연구를 위해 AI 안전연구소는 이날 삼성전자·네이버·카카오·SK텔레콤·KT·LG AI연구원 등 산학연 24곳과 ‘대한민국 AI 안전 컨소시엄’ 업무협약(MOU)을 맺었다. 김명주 AI 안전연구소장은 “규제 기관이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관 역할을 하겠다”고 말했다.

인공지능(AI) 기반 사진 합성 기술을 악용해 다른 사람의 신체나 음성을 음란물에 합성하는 ‘딥페이크 성범죄’가 급격히 확산하면서 관련 민원이 1년 새 2배가량 증가한 것으로 나타났다. 국민권익위원회가 21일 발표한 범정부 민원분석시스템 조사 결과에 따르면, 올해 1월부터 10월까지 월평균 50건의 딥페이크 성범죄 관련 민원이 접수됐다. 지난해 월평균 30건에서 약 1.7배 늘었다. 특히 올해 8월에는 대학가를 중심으로 한 딥페이크 사건으로 인해 민원이 1년 전 대비 무려 6.1배 급증한 213건에 이르렀다. 이에 권익위는 심각성을 인지하고 딥페이크 성범죄와 관련된 ‘민원주의보’를 발령하며 관계기관에 단속 및 처벌 강화와 피해자 보호 체계 마련을 긴급 권고했다. 한국은 전 세계에서 딥페이크 성범죄에 가장 취약한 국가로 알려져 있다. 미국 사이버보안 업체 ‘시큐리티 히어로’의 2023년 보고서에 따르면, 전 세계 딥페이크 성착취물 피해자의 53%가 한국인이었다. 특히나 한국 가수들이 이 범죄의 주요 표적이 됐다. 가장 큰 피해를 본 한국인 가수의 경우 약 1600건의 딥페이크 성착취물에 노출됐으며 누적 조회 수는 561만 회에 달했다. 불특정 다수에게 얼굴이 많이 알려진 걸그룹도 딥페이크 성범죄의 주요 표적이 되는 실정이다. 걸그룹 트와이스와 뉴진스 소속사는 최근 딥페이크 성범죄에 법적으로 강력 대응하겠다고 밝힌 바 있다.

AI가 만드는 새로운 사후세계고인의 아바타 복원은 시간문제AI가 표정·목소리·제스처 등 학습영화 ‘원더랜드’처럼 생생함 관건AI는 사랑이란 감정을 몰라?기술적으론 감정 이해·표현 가능일각선 자의식 가질 수 있다고 봐‘학습한 사랑’ 오히려 진솔할 수도갈수록 정교해지는 딥페이크AI는 양날의 칼 가진 핵무기 같아활용자 윤리 교육·부분 규제 필요규제·자율성 사이 균형 맞춰가야로봇이 일자리를 위협할까소송 대응 등 법조 분야 적용 가능AI 판사, 편향성까지 학습할 우려‘환각’ 현상 있어 맹신하는 건 위험 “인간의 사랑이 진짜고, 인공지능(AI)의 (학습을 통해 얻은) 사랑은 가짜라고만 할 수 있을까요. AI가 자의식을 가질 수 있다는 데까지 생각을 열어 둬야 합니다.” 2024년을 규정하는 열쇠말로 일상으로 훅 들어온 AI, 특히 사람처럼 보고 듣고 말하는 오픈AI의 새 모델 GPT-4o를 빼놓을 수 없다. 대중문화에서도 AI 바람은 거셌다. 지난 6월 개봉한 영화 ‘원더랜드’(김태용 감독, 탕웨이·수지 주연)는 AI로 복원된 망자와 소통이 가능한 미래를 그렸다. AI 머신러닝·뇌과학·휴머노이드 로봇 분야 석학인 장병탁(61) 서울대 AI 연구원장(컴퓨터공학부 교수)은 “영화에 나온 ‘원더랜드 서비스’는 머지않아 구현될 가능성이 큰 AI 기술”이라고 설명했다. 그는 “영화 ‘그녀’(HER·스파이크 존즈 감독)에서처럼 AI가 ‘학습한 사랑’이 인간이 느끼는 감정보다 더 진솔할 수도 있고, AI가 노벨상을 받는 날도 올 것”이라고 했다. 지난 8일 서울 관악구 서울대 AI연구원에서 장 원장을 만나 AI와 인류의 미래를 들어봤다. 다음은 일문일답. -영화 ‘원더랜드’처럼 AI로 망자와 소통이 가능한 날이 올까. “‘원더랜드 서비스’는 AI가 고인을 ‘회생’(복원)시킨 것인데 이미 오래전부터 연구됐다. 살아 있을 때 목소리나 표정, 제스처를 데이터화해 학습시켜 아바타의 구현이 가능하다. 돌아가신 할머니·할아버지와 대화를 주고받을 수 있다. 실제 고인의 목소리와 표정을 얼마나 사실적으로 구현할지가 관건인데 시간문제다.” -AI 하면 영화 ‘그녀’를 떠올린다. AI가 감정을 느끼고 사랑을 할 수 있을까. “철학적인 질문이다. 기술적으로 AI가 감정을 가진 것처럼 보이게 만드는 건 가능하다. AI가 진짜 나를 좋아한다는 착각에 빠지게 할 수 있다. 진짜 사랑을 느끼는 건 아닐지 모르지만, 인간은 거기에 현혹될 수 있다.” -사랑만큼은 인간의 고유 감정이 아닐까. “어느 철학과 교수의 얘기를 듣고 충격을 받은 적이 있다. 알파고는 사람이 두는 수를 계속 흉내 내면서 더 좋은 수를 뒀다. 챗GPT도 학습을 통해 인간을 흉내 낸다. 이런 AI의 학습을 본 한 철학과 교수가 ‘인간의 사랑도 그런 거 아닐까’라고 했다. AI가 상대방이 좋아하는 말을 계속해 주고 애착을 흉내 내는 것이 인간이 연애 감정을 알아가는 것과 크게 다르지 않다는 의미다. 인간의 사랑이 진짜고, AI의 사랑은 가짜라고만 하긴 어렵다. AI도 기술적으로 사랑의 감정을 이해하고 표현할 수 있다. 예컨대 직장 상사가 듣기 좋아하는 말만 골라 하면서 비위를 맞추는 건 AI도 할 수 있다. 카메라와 글로 학습한 데이터를 바탕으로 눈치를 보는 것이다. 궁극적인 질문은 ‘AI가 자의식을 가질 수 있느냐’인데 요즘 철학자들은 AI가 자의식을 가질 뿐 아니라 인간보다 더 잘할 수도 있다는 관점까지 보이며 생각을 열어 두고 있다.” -올해 노벨상의 화두도 AI였다. AI가 노벨상을 받는 날도 올까. “AI 국제학회에서 노벨 의학상을 받을 AI를 만들자는 얘기가 있었다. 의학 분야에서 새롭게 발견된 지식과 누적된 데이터가 가장 많아서다. 다만 AI가 노벨상을 받기 위한 가장 큰 벽은 아직 사람으로 인정하지 않는다는 점이다. 법적, 제도적으로 혁명적 전환이 있어야 가능하다.” -예술의 영역은 어떤가. 천재들의 예술성도 학습 가능한 영역일까. “가능하다. 하지만 예술의 정의와 평가 기준이 달라질 수밖에 없다. 카메라가 등장하면서 극사실주의 작품의 가치가 떨어졌다. AI는 소설을 잘 쓴다. 사람보다 더 창의적인 것처럼 보이기도 한다. 앞으로 예술성의 경계가 모호해질 것 같다.” -AI의 발전에 두려움을 느끼기도 한다. 가장 먼저 일자리가 줄어들 텐데. “사람이 하기 싫은 일에서 해방되는 건 장점이지만 일자리를 빼앗기는 건 위협이다. AI가 인간 실수를 보완해 주는 장점이 있으니 적절히 활용해야 한다. 무슨 일을 시켜도 잘하는 똘똘한 사원이 입사했다고 보면 된다. 언젠간 부서장 자리를 넘볼 수도 있지만 아직은 신입사원 단계여서 경륜에 차이가 있다.” -딥페이크는 대표적인 부작용으로 꼽힌다. 해결책이 있을까. “제일 큰 이슈다. AI 기술 자체는 가치중립적이며 양날의 칼이다. 핵과 비슷하다. 원전은 중요한 에너지원이지만 핵무기는 인류를 파멸시킬 수 있다. 그래서 AI 활용자에 대한 윤리 교육이 필요하다. 현재 AI 기본법 논의가 이뤄지고 있다. 위험하거나 악용 소지가 있는 부분에 대한 규제가 필요하다. AI도 규제와 시스템의 테두리에 들어와야 한다.” -아이유 버전 비비의 ‘밤양갱’처럼 음성 저작권 문제도 손봐야 할 텐데. “AI 기술 공개를 제재할 구체적인 법은 없다. 논의해야 할 부분이다. 너무 일찍 규제하면 기술 발전이 저해되고, 규제를 안 하면 프라이버시가 침해될 수 있다. 시간이 지나면 규제와 자율성 사이 균형을 맞춰 가는 지점이 생길 것이다.” -극단적이지만 영화 ‘터미네이터’처럼 AI가 인류를 위협하는 날이 올 수도 있을까. “AI의 발전은 로봇이 자율성을 얻는 과정이다. 자율성이 커질수록 통제에서 멀어진다. 악한 사람이 작심하고 AI를 조종하면 인류를 위협할 가능성은 얼마든지 있다. 자율성 부여와 통제가 최대 딜레마다.” -원장님의 관심사는 어느 쪽인가. “머신러닝을 30년 넘게 연구했다. 지금은 AI가 몸을 가진 휴머노이드 로봇을 연구하고 있다. 챗GPT는 몸이 없다. 반대로 기계공학자들이 연구하는 로봇에는 정신(AI)이 빠져 있다. 이 두 가지가 결합한 것이 ‘임보디드(체화된) AI’다. 은퇴하고 나서 집안일을 도울 AI 로봇을 만드는 게 꿈이다.” -자율주행차처럼 AI도 발전 단계가 있을 텐데. “6단계가 있다. 1단계는 사람이 지식을 넣어 주는 단계, 2단계는 스스로 지식을 만드는 머신러닝·딥러닝 단계다. 3단계는 스스로 데이터를 습득해 학습하는 단계다. 생성형 AI라 불리는 챗GPT가 여기에 해당한다. 4단계는 현재 연구 중이다. 인간이 옳고 그름에 대한 정답을 정해 주지 않아도 답을 찾는다. 5단계는 인간 수준의 AI가 구현된 단계로 인공일반지능(AGI)이라고 부른다. 6단계는 AI가 인간을 초월해 슈퍼지능을 가진 단계다.” -챗GPT의 한계는. “글로만 학습한다는 점이다. 다 이해하고 아는 것처럼 보이지만 모르면서 흉내 낸다. 인간은 다양한 감각 정보로 ‘컵’의 형상과 용도를 이해한다. 글로만 학습한 챗GPT는 사람처럼 이해하진 못한다. AI의 학습과 이해에는 일종의 환각 현상이 있다. 그래서 챗GPT를 무조건 믿는 건 위험하다. 사람처럼 의도를 갖고 잘못된 정보를 만드는 건 아니지만 정보가 허위인지 아닌지를 모른다.” -AI가 발전하면 의사 수를 늘릴 필요가 없는 것 아니냐는 얘기도 나온다. “시간이 필요하다. 의료 분야보다 법조 분야에 적용될 여지가 크다. 법률사무소에서 문서로 이뤄지는 사건 조사와 소송 대응은 AI가 더 잘한다. 100% 마음에 들지 않아도 시간을 크게 단축할 수 있다. 직원 5명이 사건 하나를 준비하는 데 한 달이 걸렸다면, AI를 쓰면 한 달에 사건 10개를 할 수 있다.” -AI가 판사를 대체할 수도 있을까. “AI가 내린 판결을 받아들일 수 있을까. AI가 하면 중립적이니까 객관적 판결을 할 거라 보는 의견이 있다. 하지만 AI가 정치적으로 편향된 판사의 데이터로 학습하면 그 성향을 닮아 더 위험하다. 기계 자체는 공정하지만 편향성을 주는 방법은 여러 가지다. 특정 정당 사람이 모여 있는 단체 메신저 방에서 오가는 글을 AI가 학습하면 무슨 말인지도 모르고 흉내 낼 수 있어 조심해야 한다.” -트럼프 2기의 AI 정책 방향은. “미국의 AI 연구는 외국인력 의존도가 높다. 트럼프 당선인은 외국인 유입에 반대하고 실리콘밸리 정보기술(IT) 업체는 유능한 유학생이 미국을 떠나길 거부한다. 다만 트럼프는 동전의 양면 같은 사람이다. 규제 완화에 열려 있어서 기회가 올 수 있다. 특히 테슬라와 구글을 위해 강력한 지원에 나설 수도 있다.” -AI와 로봇과 인간의 공존은 가능한가. “AI 연구가 인간을 이해하는 데 도움이 된다. 사람은 정말 똑똑하고 훌륭하다. 다만 인간 삶이 기계화·자동화되면서 인간다움을 잃어 가는 것도 사실이다. 그래서 강연에서 매번 인성과 사회성 교육이 중요하다고 강조한다. 아무리 AI가 발전해도 인간이 할 일은 계속 있을 거라는 데 동의하지만 앞으로 더 적극적으로 찾아내지 않으면 도태될 수밖에 없다.” ●장병탁 서울대 AI연구원장 1963년 경북 문경 출생. 서울대 컴퓨터공학과를 졸업하고 동 대학원에서 석사, 독일 본 대학에서 박사학위를 받았다. 2015년 세계 최고 권위의 AI 분야 국제학술대회(AAAI)에서 ‘상상력 기계’를 발표해 이목을 끌었다. 머신러닝 분야 연구 성과를 인정받아 2017년 정보통신 부문 홍조근정훈장을 받았다.

14일 치러진 2025학년도 대학수학능력시험(수능)에서 ‘킬러문항’(초고난도 문항)은 없었지만 수험생을 혼란스럽게 하는 이색 문제가 어김없이 등장했다. ‘노이즈’라는 단어가 한 지문에서만 40차례 이상 반복돼 이해하기 어려웠다는 반응이 나왔다. 이날 교육계에 따르면 국어 영역 공통과목인 독서에서는 10~13번 문항의 지문으로 ‘영상 생성을 위한 인공지능 확산 모델’이 제시됐다. 생성형 인공지능(AI) 모델 중 노이즈 확산 모델을 활용해 이미지를 복원하는 과정을 설명하는 게 주된 내용이다. 그런데 이 지문에서는 ‘노이즈’라는 단어가 계속 반복된다. 일례로 “노이즈 예측기를 학습시킬 때는 노이즈 생성기에서 만들어 넣어 준 노이즈가 정답에 해당하며 이 노이즈와 예측된 노이즈 사이의 차이가 작아지도록 학습시킨다”는 문장도 있었다. 한 문장에만 ‘노이즈’가 다섯 번 등장한 것이다. 이를 두고 수험생 커뮤니티에서는 ‘아파트’를 반복해 부르는 “가수 로제의 노래 ‘아파트’가 생각난다”는 글이 올라오기도 했다. 형식이 독특한 문항도 눈길을 끌었다. 국어 영역 선택과목 45번은 온라인 대화를 바탕으로 구성한 홈페이지 게시판 화면이 문제로 출제됐다. 또 국어 영역 한 지문에 나온 인터넷 주소 링크가 엉뚱하게도 ‘윤석열 대통령 퇴진 집회’를 안내하는 사이트로 연결돼 논란이 일 것으로 보인다. ‘언어와 매체’ 40~43번 지문에 적힌 사이트를 인터넷에 입력하면 ‘김건희 윤석열 국정농단 규탄·특검 촉구 제3차 국민 행동의 날’이라고 적혀 있고 집회 시간과 장소가 안내된다. 문제지가 공개된 이후 누군가가 해당 인터넷 주소의 도메인을 구매한 것으로 확인됐다. 교육부와 한국교육과정평가원은 ‘문제지 정보를 임의로 활용했다’며 수사를 의뢰했다고 밝혔다.

미국 대선일 이후 온라인에서 여성을 향한 괴롭힘과 학대·혐오 표현이 급증한 것으로 나타났다. 8일(현지시간) 미 싱크탱크 전략대화연구소(ISD)에 따르면 지난 5일 대선 직후 24시간 동안 엑스(X·옛 트위터), 틱톡, 페이스북 등 소셜미디어(SNS)에서 여성 혐오 표현이 폭발적으로 증가했다. 엑스에서 ‘너의 몸은 나의 선택’(your body, my choice), ‘주방으로 돌아가라’(get back to the kitchen)는 언급은 4600% 늘었다. 카멀라 해리스 부통령을 향해 여성을 비하하는 욕설을 써 ‘멍청이’라 부르는 등 혐오 표현도 대선 당일인 5일 하루 동안 4만 2000여개 계정에서 6만 4000회 이상 언급됐다. ‘너의 몸, 나의 선택’은 여성의 자기 결정권을 지지하는 ‘나의 몸은 나의 선택’(My body, my choice)을 조롱한 것이다. 주방을 언급한 것은 전통적인 성 역할을 강요하며 여성의 위치를 가정 내로 제한하자는 의미다. 미국 백인 민족주의 팟캐스트를 운영하는 인플루언서 닉 푸엔테스가 이러한 문구를 퍼뜨린 초기 선동가 중 한명으로 보인다고 ISD는 분석했다. ‘당신의 몸, 나의 선택. 영원히’라고 쓴 그의 엑스 게시물은 조회수 3500만회 이상을 기록했다. 페이스북에서도 ‘너의 몸은 나의 선택’ 문구는 현재 인기 키워드를 알려주는 ‘트렌딩’에 올랐고, 틱톡에서는 여성 이용자들 계정에 이 문구를 적은 댓글이 무더기로 달리기도 했다. 한 틱톡 크리에이터는 “여러 남성이 이 문구를 쓰며 성폭행을 위협해 영상을 지울 수밖에 없었다”고 말하기도 했다. 여성 혐오 표현은 온라인에 그치지 않고 학교 현장에서도 벌어지고 있다고 ISD는 밝혔다. 한 학부모는 “딸이 대학 캠퍼스에서 ‘너의 몸은 나의 선택’이라는 말을 세 번이나 들었다”고 페이스북에서 전했다. 미국 온라인 커뮤니티 레딧의 이용자는 캠퍼스에서 마가(MAGA·Make America Great Again) 복장을 한 남성 무리에게 ‘네가 속한 곳으로 돌아가라’는 말을 들었다고 적었다. ISD는 이 같은 현상과 관련해 ‘매노스피어’(Manosphere·남성 중심의 온라인 커뮤니티) 혹은 여성 혐오 온라인 커뮤니티에서 주로 활동하는 인플루언서들이 도널드 트럼프 당선인의 승리를 재생산권이나 여성의 성평등 요구에 대한 비난으로 악용하고 있다고 봤다. ISD는 “(매노스피어가) 여성 권리를 억제하는 것에 대한 서사를 더 노골적이고 공격적으로 주장할 수 있다는, 일종의 허가 구조로 선거 결과를 이용하는 것으로 보인다”고 밝혔다.

서울시의회 교육위원회 소속 이효원 의원(국민의힘·비례)이 지난 7일 제327회 정례회 서울시교육청 행정사무감사 교육정책국 질의에서 교육청의 개인정보보호 수준 및 대처 문제를 지적하고 AI 디지털교과서 도입에 있어 학생 개별 개인정보보호에 만전을 기할 것을 당부했다. 서울시교육청이 제출한 ‘최근 5년간 서울 관내 초중고 개인정보보호 수준’에 따르면 개인정보보호 수준 점수가 3년째 계속 하락 중인 것으로 나타났다. 심지어 교육청은 최근 5년간 보안 수준이 전국 평균치 미달로 많은 서울시 학생들이 정보 유출 및 그에 따른 범죄 노출 가능성을 안고 있는 것으로 드러났다. 또한 교육청은 개인정보보호 수준을 평가하는 세부 항목 중 ‘개인정보 노출 개선 조치’에서 가장 낮은 ‘매우 미흡’을 받은 것으로 나타났다. 이는 학생들의 정보 유출이 발생했음에도 교육청이 그에 대한 후속 대응을 제대로 하지 않았다는 방증이다. 개인정보 유출로 인해 발생하는 더 심각한 문제는 2차 피해까지 광범위하게 확산될 수 있다는 것이다. 스팸 발송 문자나 메일뿐 아니라 보이스피싱부터 명의도용, 개인정보 불법 매매로 악용될 위험이 있고 개인정보는 국내뿐 아니라 해외 사이트에 되팔리는 경우도 비일비재하다는 측면에서 후속 대응은 중요하다. 내년 인공지능(AI) 디지털교과서 도입을 앞두고 개인정보보호 문제는 더욱 중요해졌다. 작년 8월 교육부가 발표한 ‘AI 디지털교과서 개발 지침’에서는 데이터의 안정성 및 신뢰성을 보장해야 해야 한다고 밝히고 있다. 결국 학생의 학습 데이터 및 개인정보 보호를 위해 데이터 관리 정책이 중요하다는 것이다. 이 의원은 “학생 개인정보 유출 우려에 대한 교육 현장의 불안한 목소리들이 있다”며 “정보 유출과 안전성, 신뢰성 등 전반적인 부작용이 충분히 검토될 때 개인별 맞춤형 교육 체제인 AI 교과서의 긍정적 효과를 보장할 수 있을 것”이라고 강조했고 “학생들의 개인정보는 최근 사회적으로 문제가 된 딥페이크와 같은 디지털 성범죄의 표적이 될 수 있다”며 “딥페이크 피해자에 미성년자가 다수 포함된 만큼 학생들이 범죄의 표적이 되지 않도록 관계 기관과의 협력을 통해 학생 개인정보보호에 만전을 기해야 한다”고 역설했다. 이에주소연 서울시교육청 정책국장은 “여러 가지 개선 사항을 통해 내년에는 상황이 조금 더 나아질 거라고 기대하고 있다”며 “AI 교과서 도입에는 차질이 없도록 준비하겠다”고 답변했다. 한편, 이 의원은 지난 임시회에서 서울시교육청에 AI 디지털교과서의 효용성 극대화를 위한 맞춤형 교원 연수 체계화를 당부하고 학교 현장에 혼란이 없도록 선제적으로 대응하길 주문한 바 있다.

외국인 A씨는 지난달 한국으로 여행 간 딸이 납치됐다며 “살려달라”고 우는 영상을 받았다. 영상을 보낸 외국 범죄조직은 “딸을 살리고 싶으면 합의금을 보내라”며 A씨를 협박했다. 놀란 A씨는 영사관에 알렸고, 신고를 받고 출동한 한국 경찰은 A씨의 딸이 안전하게 지내고 있다는 사실을 확인했다. 경찰 수사 결과, A씨가 받은 딸의 영상은 딥페이크로 만든 가짜였다. 경찰청 국가수사본부는 7일 이러한 사건을 공개하면서 “국내에서도 유사한 사건이 발생할 가능성이 있으므로 유의해달라”고 밝혔다. 딥페이크나 딥보이스로 얼굴과 목소리를 실제와 흡사하게 복제해 부모나 지인 등에게 곧바로 돈을 보내라고 요구하면 당황한 피해자가 돈을 보낼 위험이 적지 않다. 경찰은 이런 피해를 예방하기 위해 소셜미디어(SNS) 등에 본인이나 가족의 영상이나 사진을 전체 공개로 올리지 않도록 유의해야 한다고 강조했다. 특히 자녀 등을 납치했다는 협박을 받은 경우 가장 먼저 경찰에 전화나 문자 등으로 신고해 도움을 요청해야 한다. 경찰청에 따르면 올해 들어 지난 9월까지 납치를 빙자한 전화 금융사기만 174건이 발생했다. 안찬수 경찰청 마약조직범죄수사과장은 “인공지능(AI) 발전이 일상생활을 더 편리하게 만들었지만, 동시에 범죄에 악용될 환경을 제공했다”고 말했다.

음식배달을 둘러싼 중개수수료 인하 협상이 진행되고 있다. 음식배달플랫폼 업체와 입점 업체 대표로 구성된 상생협의체가 9차례나 논의를 했다. 하지만 의견 차이로 합의에 도달하지 못하고 계속 논의를 이어 간다고 한다. 거대 플랫폼의 독과점 남용 행위를 규제하기 위한 논의도 본격화할 전망이다. 정부·여당의 법안이 지난달 말 국회에 제출됐다. 관련 업계는 규제가 혁신과 성장 엔진에 찬물을 끼얹을 수 있다는 이유로 반대하고 있으나, 정부는 독과점 남용 행위가 혁신과 성장의 싹을 자를 수 있다는 이유로 규제 도입의 필요성을 강조하고 있다. 하지만 플랫폼의 개인정보 수집 및 활용과 보안 문제는 상대적으로 소홀히 다루어지는 것 같다. 플랫폼에 가입하면서 개인정보를 제공하고 뉴스나 관심사를 검색하거나 영화나 동영상을 보기도 한다. 플랫폼들은 이용자가 제공하는 개인정보와 검색 기록·쿠키·캐시를 활용해 맞춤형 광고(타깃 광고)와 같이 상업적 목적에 활용한다. 이 과정에서 개인정보와 사생활 정보가 노출되거나 유출되기도 한다. 최근 필자는 이런 경험들을 했다. 좋아하는 운동기구를 컴퓨터에서 검색하고 구매는 하지 않았다. 이후 컴퓨터만 켜면 유사한 제품 광고가 끊임없이 화면에 뜬다. 나도 잊어버리고 있었는데 플랫폼은 필자의 관심 사항을 정확히 알고 있다. 또 다른 예다. 핸드폰으로 여행 숙소를 검색하고 예약하지는 않았다. 핸드폰에 수시로 유사한 숙소 광고가 뜬다. 플랫폼이 나의 여행 일자와 여행 지역을 정확히 알고 있다. 민감한 정보와 관련된 또 다른 예다. 정치적인 이슈와 관련된 사실관계를 정확히 알고 싶어 핸드폰으로 검색했는데 이후 유사한 동영상이 화면에 계속 뜬다. 마치 필자의 정치적 성향을 속속들이 알고 있는 것처럼. 위의 사례는 사소해 그냥 넘길 수도 있다. 하지만 제공한 개인정보와 검색 기록들이 차곡차곡 쌓이다 보면 ‘나보다 나를 더 잘 아는’ 플랫폼이 될 수 있다. 구글·네이버 등 플랫폼들은 이용자들의 민감한 개인정보와 비밀스러운 사생활 정보를 이용자 자신보다 훨씬 잘 알고 있다. 이용자들은 기억력 한계로 자신에 대한 정보를 일일이 다 기억할 수 없다. 하지만 인공지능(AI)이 발전할수록 플랫폼의 정보수집과 활용은 더 정교해질 것이다. 그래서 더 두려워진다. 플랫폼들은 가입 시 제공받은 개인정보와 검색 기록 심지어 중개업자를 통해 취득한 정보를 활용해 민감한 정보(종교, 정치적 신념, 재산 정도, 건강 상태, 나이, 성별, 교육 수준 등)를 타깃 광고에 이용하기도 한다. 개인 신용정보(재산 수준, 교육 수준, 직업 등)를 이용해 대출 금리 차별에 활용하기도 한다. 정보 취약계층(아동·저소득층·군인·노인·저학력층 등)에 허위·기만 광고로 이들을 착취하기도 한다. 지난 9월 미국 연방거래위원회(FTC)가 플랫폼의 과다한 정보수집 및 보관과 상업적 이용을 경계하는 보고서를 발표했다. 주요 내용은 민감한 정보를 타깃 광고 등 상업적으로 악용하지 못하도록 정보수집을 최소화하고 아동과 청소년들에 대한 노출을 금지해야 한다는 것이다. FTC는 2015년에도 사물인터넷(IoT)과 관련해 건강·의료·소득·직업·인종·종교·정치적 신념 등 민감한 개인정보의 수집·보관·활용에 대한 보고서를 발표했다. 주요 내용은 정보책임자를 임명해 개인정보 보호 관리를 철저히 하고 보안사고 발생 시 제대로 대처해야 한다는 것이다. 당연히 그래야 한다. 이용자들은 인터넷 접속 기록과 쿠키들을 삭제할 수는 있다. 하지만 대다수의 이용자 특히 정보 취약계층은 삭제 옵션이 있는 줄도 모른다. 알고 있다 하더라도 삭제 방법을 모르는 경우가 대부분이다. ‘나보다 나를 더 잘 아는 플랫폼’의 두려움에서 벗어나기 위해서라도 일정 기간이 지나면 검색한 기록과 쿠키들을 자동으로 삭제하도록 하면 어떨까. 김형배 더 킴 로펌 공정거래그룹 고문

미국 백악관이 24일(현지시간) 인공지능(AI)에 대한 첫 국가안보각서(NSM)를 발표했다. 안전하고 신뢰할 수 있는 AI 개발을 선도하고 AI의 국가 안보 활용을 위한 국제적 합의를 이끌어 내고자 주도적으로 나서겠다는 내용이 골자다. 미 정부 고위 당국자는 전날 온라인 브리핑에서 “AI가 인권과 시민권, 자유, 프라이버시 보호 등 민주 가치를 반영하고 국가 안보 임무를 발전시킬 수 있도록 AI 사용에 관한 국제 규범을 형성하고 국가 안보에 적대적인 AI 개발·사용을 추적, 대응하려는 조치”라고 설명했다. 특히 반도체칩 공급망 보안과 다양성을 개선하고 차세대 슈퍼컴퓨터 및 신기술 개발을 지원하는 데 AI를 활용하겠다고 강조했다. 이를 위해 상무부 산하 기술 전문가들로 구성된 AI 안전 연구소가 AI 개발 지휘와 개발자 연락망 역할을 한다. 연구소는 미 국방부와 에너지부 등과 협력해 AI 시스템의 대중 공개 전 안전성 테스트를 하고 적국이 AI 기술을 악용하지 못하도록 수출 통제를 유지하는 일도 한다. 여기에 미 정부기관이 AI 개발자에게 발명 보안 유지에 필요한 사이버 보안·방첩 정보를 제공할 수 있도록 했다. 이번 각서는 AI의 사생활·인권 침해에 대한 위험성, 중국 등 경쟁국을 겨냥한 다목적 포석이라고 당국자는 평가했다. 그는 미 국민의 잠재적 개인정보 유출 위험과 미국의 민감한 데이터가 데이터 브로커를 통해 대량 수집된 뒤 적의 손에 넘어갈 가능성 등에 우려를 표시했다. 이어 “중국 등이 AI를 사용해 자국의 군사·정보 역량을 현대화하고 군사작전 지원 기회를 늘릴 수 있어 앞으로도 미국이 최첨단 AI 경쟁력을 유지하는 게 필수”라고 밝혔다. 중국을 겨냥한 수출 규제 조치는 그래픽처리장치(GPU) 등 첨단 AI 칩뿐 아니라 해당 칩 제조에 필요한 장비도 포함된다는 점을 재확인했다. 이날 제이크 설리번 백악관 국가안보보좌관도 군사·정보 전문가들을 대상으로 연설에 나서 미국의 AI 안보 각서에 대한 이해를 구했다.

윤석열 대통령이 21일 서울 서대문구 경찰청 참수리홀에서 열린 ‘제79주년 경찰의날 기념식’에 참석해 경찰들과 함께 기념 촬영을 하고 있다. 윤 대통령은 “인공지능(AI)과 딥페이크 등 첨단기술을 악용한 신종 범죄와 가짜뉴스가 끊이질 않는다”며 “서민에게 고통을 주는 민생 범죄를 끝까지 추적해서 엄중하게 처벌해야 한다”고 말했다. 대통령실 제공

윤석열 대통령이 21일 “AI(인공지능)와 딥페이크 등 첨단기술을 악용한 신종 범죄와 가짜뉴스가 끊이질 않는다”고 밝혔다. 윤 대통령은 이날 서울 서대문구 경찰청 참수리홀에서 열린 ‘제79주년 경찰의날 기념식’에 참석해 “새로운 위협에 맞서기 위해 경찰이 더 빠르게 발전하고 능동적으로 변화해야 한다”며 이렇게 말했다. 또 딥페이크 식별 시스템 개발에 박차를 가하고 관계 기관과의 협업을 통해 디지털 성범죄를 뿌리 뽑고, 가짜뉴스에도 신속하고 강력하게 대응해 주길 당부했다. 윤 대통령은 취임 이후 3년 연속 경찰의날 기념식에 참석했다. 윤 대통령은 이날 불특정 다수를 위협하는 이상 동기 범죄와 조직폭력배의 민생범죄, 마약, 사이버도박 등을 ‘새로운 위협’으로 지목했다. 그러면서 서민에게 고통을 주는 민생범죄는 끝까지 추적해 엄중히 처벌하고, 범죄수익과 자금원은 빠짐없이 환수해 범죄 생태계 연결 고리를 근원적으로 끊어내야 한다고 했다. 윤 대통령은 “기존의 치안 활동 방식만 고수해서는 국민의 생명과 안전을 새로운 위협으로부터 지켜내기 어려울 것”이라며 “국민이 경찰을 믿고 의지할 수 있도록 사회적 변화와 새로운 상황에 맞춰 치안 역량을 키우고 발전시켜야 한다”고 강조했다. 스토킹·가정폭력·아동학대 같은 약자 대상 범죄에 대해선 “사건 초기부터 강력하게 법을 집행해 가해자의 범죄 의지를 꺾어야 한다”며 “꼼꼼한 모니터링으로 재범 가능성을 원천 차단하고, 보호시설 연계부터 심리 치료 지원까지 피해자를 보호하는 안전망을 더욱 촘촘히 구축해달라”고 했다. 윤 대통령은 특히 아산 경찰병원을 조속히 건립하고, 순직·공상 경찰관에 대한 지원을 더욱 확대할 것이라고 밝혔다. 또 현장 경찰들이 역량을 키울 수 있도록 교육 인프라도 대폭 확충할 것이라고 했다. 이어 “무엇보다 경찰의 정당한 법 집행이 국가의 보호를 받을 수 있도록 면책 규정 확대를 비롯한 다양한 노력을 아끼지 않을 것”이라고 강조했다. 현직 대통령의 경찰청 청사 방문은 이명박 전 대통령 이후 12년 만이다.

딥페이크(허위 합성물) 성 착취물에 대한 논란이 확산하면서 딥페이크 성 착취물 소지·시청에 대한 처벌법이 국회 문턱을 넘었습니다. 문제는 딥페이크의 악용 사례가 성범죄를 넘어 사회 전반으로 확산되고 있다는 점입니다. 특히 불특정 다수의 금융소비자를 상대로 한 딥페이크 범죄의 확산 조짐이 일면서 예방 시스템 마련을 위한 금융권의 움직임도 분주해지고 있습니다. 1일 보험연구원의 ‘미국 딥페이크 관련 법안 동향과 보험회사의 대응’ 보고서에 따르면, 딥페이크 관련 금융 사기 규모는 2023년 123억 달러에서 2027년 400억 달러로 해마다 평균 32%씩 늘어날 것으로 예상됩니다. 이에 보험업계가 딥페이크를 이용한 새로운 사기 위험에 대응하는 시스템을 마련해야 한다고 연구원은 진단했습니다. 현재 보험금 청구 과정에서 사진을 증거로 활용하는데 기존의 시스템만으로는 딥페이크 보험사기에 대응하기 한계가 있다는 겁니다. 2025년까지 보험청구의 70%가 비대면 자동처리로 이뤄질 것으로 예상되는 만큼 보험사기를 잡아내기 어렵다는 관측도 나옵니다. 특히 딥페이크 사기로 발생한 손실이 보험료에 반영되면 불필요한 사회적 비용이 발생할 수 있다는 점도 문제로 꼽힙니다. 통상 보험금이 과다 지급되면 해당 보험사의 손해율이 올라가는데, 손해율 상승은 보험료가 오르는 주요인이기 때문입니다. 해외 보험사들은 인공지능(AI) 기반의 딥페이크 탐지 기술을 도입하거나 비정상적인 패턴을 감지하는 시스템을 개발하는 중입니다. 독일의 보험사 알리안츠는 머신러닝(기계학습)을 통해 허위 데이터를 감지하는 시스템을 구축, 170만 파운드(약 31억원)의 피해를 막았습니다. 스위스의 취리히보험사는 전통적인 규칙 기반 엔진과 AI 기반 엔진을 결합해 비정상 행동을 감지하는 시스템을 가동하고 있습니다. 손민숙 보험연구원 연구원은 “딥페이크 관련 법안을 마련하고 사회적으로 교육·시스템을 구축하는 등 향후 기술적, 법적, 사회적으로 광범위한 혼합 조치와 대응이 필요하다”고 강조했습니다. 든든과 만만, 그리고 막막의 사이를 오가는 ‘보험에 따라오는 이야기들’을 보따리가 하나씩 풀어드리겠습니다.

윤석열 대통령은 26일 “대한민국을 2027년까지 인공지능(AI) 분야에서 세계 3대 강국으로 도약시키겠다”며 ‘AI 국가 총력전’을 선포했다. 윤 대통령은 이날 서울 포시즌스 호텔에서 열린 ‘국가인공지능위원회 출범식 및 제1차 회의’를 주재하면서 “AI가 국가 역량과 성장을 좌우하고 경제 안보의 핵심이 되는 시대로 지금 전환되고 있다”며 이렇게 밝혔다. 현재 한국의 AI 국가 경쟁력 순위는 6위다. 윤 대통령은 지난 4월 반도체 현안 점검회의에서 ‘AI-반도체 이니셔티브’를 발표하고 대통령 직속 AI위원회 설치 계획을 밝혔다. 대통령이 위원장을 맡고 염재호 태재대 총장이 부위원장을 맡았다. 이 밖에도 AI 전문가 등 민간위원 30명, 과학기술정보통신부 등 장관급 정부위원 10명 등으로 구성됐다. ‘AI 4대 천왕’ 중 앤드루 응 미국 스탠퍼드대 교수, 얀 르쿤 뉴욕대 교수, 요수아 벤지오 캐나다 몬트리올대 교수가 글로벌 AI 전략 그룹으로 합류한다. 윤 대통령은 “AI의 급속한 발전과 함께 많은 부작용도 발생하고 있다”며 “AI 기술로 생산된 가짜뉴스들이 민주주의를 위협하고 최근에는 딥페이크 기술을 악용해 인권을 침해하는 사례들이 빈번하게 일어나고 있다”고 지적했다. 윤 대통령은 “‘국가 AI 컴퓨팅 센터’를 민관 합작 투자로 구축하겠다”며 “AI 연구개발과 산업 육성의 핵심 인프라로 기능할 것”이라고 말했다. 이어 “산업과 사회 전반의 AI 전환을 촉진하고 민간의 AI 투자를 확대시키겠다”며 “저작권과 개인정보보호 규제가 보호하려는 핵심 가치는 지키되 이것이 AI 혁신의 걸림돌이 되지 않도록 규제를 전향적으로 개선해 나가겠다”고 덧붙였다. 윤 대통령은 “연구개발과 인프라는 물론이거니와 교육, 법제에 이르기까지 모든 분야에서 치밀한 전략을 세우고 이를 철저하게 이행할 것”이라고 했다. 이날 회의에서 과학기술정보통신부는 국가 AI 컴퓨팅 인프라 대폭 확충, 민간 부문 AI 투자 대폭 확대, 국가 AI 전환(AX) 전면화, AI 안전 및 안보 글로벌 리더십 확보 등 ‘4대 플래그십 프로젝트’를 발표했다. AI 컴퓨팅 인프라를 제공하기 위해 2조원 규모의 국가 AI 컴퓨팅 센터를 구축하고 2030년까지 최신 그래픽처리장치(GPU) 규모를 현재의 15배인 2EF(엑사플롭스·1초에 100경 번의 부동소수점 연산처리 능력) 이상으로 확충하기로 했다. 이는 AI 칩 선두주자 ‘엔비디아’의 고가 GPU인 H100 3만개 규모에 해당한다. 민간 부문에서는 4년간 AI 분야에 총 65조원 규모를 투자하기로 했다. 박상욱 대통령실 과학기술수석은 이날 용산 대통령실 브리핑에서 “정부는 민간 투자가 더 활성화될 수 있도록 조세특례 등 적극적으로 지원하기로 했다”며 “11월에 AI안전연구소를 설립하고 연내 AI기본법이 제정되도록 추진하겠다”고 밝혔다.

2조원 규모 국가AI컴퓨팅센터 구축2030년까지 GPU 15배로 확충앤드류 응 ‘AI 4대 천왕’ 전략 그룹으로 윤석열 대통령은 26일 “대한민국을 2027년까지 인공지능(AI) 분야에서 세계 3대 강국으로 도약시키겠다”며 ‘AI 국가 총력전’을 선포했다. 윤 대통령은 이날 서울 포시즌스 호텔에서 열린 ‘국가인공지능위원회 출범식 및 제1차 회의’를 주재하면서 “AI가 국가 역량과 성장을 좌우하고 경제 안보의 핵심이 되는 시대로 지금 전환되고 있다”며 이렇게 밝혔다. 현재 한국의 AI 국가 경쟁력 순위는 6위다. 윤 대통령은 지난 4월 반도체 현안 점검회의에서 ‘AI-반도체 이니셔티브’를 발표하고 대통령 직속 AI위원회 설치 계획을 밝혔다. 대통령이 위원장을 맡고 염재호 태재대 총장이 부위원장을 맡았다. 이 밖에도 AI 전문가 등 민간위원 30명, 과학기술정보통신부 등 장관급 정부위원 10명 등으로 구성됐다. ‘AI 4대 천왕’ 중 앤드류 응 미국 스탠포드 교수, 얀 르쿤 뉴욕대 교수, 요수아 벤지오 캐나다 몬트리올대 교수가 글로벌 AI 전략 그룹으로 합류한다. 윤 대통령은 “AI의 급속한 발전과 함께 많은 부작용도 발생하고 있다”며 “AI 기술로 생산된 가짜뉴스들이 민주주의를 위협하고 최근에는 딥페이크 기술을 악용해 인권을 침해하는 사례들이 빈번하게 일어나고 있다”고 지적했다. 윤 대통령은 “‘국가 AI 컴퓨팅 센터’를 민관 합작 투자로 구축하겠다”며 “AI 연구개발과 산업 육성의 핵심 인프라로 기능할 것”이라고 말했다. 이어 “산업과 사회 전반의 AI 전환을 촉진하고 민간의 AI 투자를 확대시키겠다”며 “저작권과 개인정보보호 규제가 보호하려는 핵심 가치는 지키되 이것이 AI 혁신의 걸림돌이 되지 않도록 규제를 전향적으로 개선해 나가겠다”고 덧붙였다. 윤 대통령은 “연구개발과 인프라는 물론이거니와 교육, 법제에 이르기까지 모든 분야에서 치밀한 전략을 세우고 이를 철저하게 이행할 것”이라고 했다. 이날 회의에서 과학기술정보통신부는 국가 AI 컴퓨팅 인프라 대폭 확충, 민간 부문 AI 투자 대폭 확대, 국가 AI 전환(AX) 전면화, AI 안전 및 안보 글로벌 리더십 확보 등 ‘4대 플래그십 프로젝트’를 발표했다. AI 컴퓨팅 인프라를 제공하기 위해 2조원 규모의 국가 AI 컴퓨팅 센터를 구축하고 2030년까지 최신 그래픽처리장치(GPU) 규모를 현재의 15배인 2EF(엑사플롭스·1초에 100경 번의 부동소수점 연산처리 능력) 이상으로 확충하기로 했다. 이는 AI 칩 선두주자 ‘엔비디아’의 고가 GPU인 H100 3만개 규모에 해당한다. 민간 부문에서는 4년간 AI 분야에 총 65조원 규모를 투자하기로 했다. 박상욱 대통령실 과학기술수석은 이날 용산 대통령실 브리핑에서 “정부는 민간 투자가 더 활성화될 수 있도록 조세특례 등 적극적으로 지원하기로 했다”며 “11월에 AI안전연구소를 설립하고 연내 AI기본법이 제정되도록 추진하겠다”고 밝혔다.

지난 24일 열린 2024 미스코리아 선발대회에서 딥페이크와 관련한 부적절한 질문이 나와 비판 여론이 거세지는 가운데 주최사가 “주최 측의 분명한 잘못”이라며 고개 숙였다. 26일 미스코리아 선발대회 주최사 ㈜글로벌이앤비 공식 인스타그램에 “지난 24일 서울 강남구 코엑스 오디토리움에서 진행된 ‘2024 제68회 미스코리아 선발대회’ 본선 녹화 과정에서 최종 15인에 대한 Q&A 중 하나로 ‘딥페이크 영상 속 내가 더 매력적이라면, 진짜 나와의 갭은 어떻게 줄일 수 있을까요?’라는 질문을 진행했다”며 해당 논란이 사실임을 인정했다. 주최사는 “해당 질문에서 ‘딥페이크 영상’이 표현하고자 했던 바는 ‘AI 기술을 활용해 실제 모습을 재현하는 영상’ 자체를 지칭하고자 한 것”이라며 “디지털 기술로 만들어낸 모습과 실제 자신의 모습과의 차이에 대한 생각을 묻는 말이었다”고 해명했다. 이어 “다만 ‘딥페이크’를 이용한 불법 영상물에 대한 피해가 발생하고 있는 상황에서, ‘딥페이크’라는 단어 자체를 사용한 것은 저희 주최 측의 분명한 잘못”이라며 “AI 가상 기술이 영화, 광고, 교육 등에 광범위하게 활용되는 세태에 대한 생각을 듣기 위해 질문을 제시한 것이었지만, 현재 ‘딥페이크’가 성적 불법 영상물로 악용되고 있는 현실을 감안하면 질문에 훨씬 주의를 기울여야 했다”고 전했다. 그러면서 “미스코리아 참가자들을 포함해 이로 인해 불편을 느끼셨을 모든 분께 깊이 사과드린다”며 “앞으로도 미스코리아 선발대회 운영에 있어서 더 많은 분의 생각과 이야기를 듣고 배려하도록 하겠다”고 사과했다. 앞서 전날 온라인 커뮤니티에는 “현재 논란 중인 미스코리아 질문”이라는 제목으로 ‘2024 미스코리아 선발대회’의 한 장면이 공유됐다. 사진을 보면 무대 위 스크린에 “딥페이크 영상 속 내가 더 매력적이라면, 진짜 나와의 갭은 어떻게 줄일 수 있을까요?”라는 질문이 띄워져 있다. 최근 딥페이크를 이용한 성착취물 범죄가 기승을 부리는 상황에서 적절한 질문이 아니었다는 비판이 나왔다. 네티즌들은 “딥페이크 범죄가 만연한데 저게 질문이냐”, “범죄가 아무렇지 않은 거냐”, “미스코리아는 지성도 평가하는 건데 어떻게 저런 질문을 하느냐” 등 해당 질문이 적절치 못했다는 반응을 쏟아냈다. 미스코리아 선발대회 공식 소셜미디어(SNS)에도 항의성 댓글이 이어지고 있다. 네티즌들은 “딥페이크는 범죄다. 딥페이크와 매력 대결이라니”, “성범죄가 재밌어요? 대회 수준 되게 격떨어지네”, “이 질문이 미스코리아 자질과 어떤 연관이 있길래 하신 질문인가요?”, “이 질문은 정말 자신이 피해자가 될 리 없다고 생각하는 사람만이 할 수 있는 가벼운 질문이다” 등의 댓글을 달았다. 한편 최근 딥페이크 성범죄에 대한 공포가 확산되면서 당국도 대대적인 대응에 나섰다. 지난 25일에는 딥페이크 성 착취물을 알면서도 이를 소지하거나 시청만 해도 처벌할 수 있게 하는 법안이 여야 합의로 국회 법제사법위원회 문턱을 넘었다. 해당 법안은 딥페이크 성 착취물 영상물의 소지·구입·저장·시청할 경우 3년 이하의 징역 또는 3000만원 이하의 벌금에 처할 수 있도록 규정했다.

윤석열 대통령은 26일 “대한민국을 오는 2027년까지 인공지능(AI) 세계 3대 강국으로 도약시킬 것”이라고 밝혔다. 윤 대통령은 이날 서울 종로구 포시즌스 호텔에서 ‘인공지능 대전환, 도약하는 대한민국’을 주제로 한 국가인공지능위원회 출범식 및 제1차 회의를 주재하며 “AI 세계 3대 강국이라는 비전을 이루기 위한 국가 총력전을 선포한다”고 밝혔다. 포시즌스 호텔은 지난 2016년 3월 이세돌 9단과 인공지능 스타트업 ‘딥마인드’가 개발한 바둑 AI ‘알파고’가 대국을 벌여 국내를 비롯한 전 세계에 ‘알파고 쇼크’를 안긴 장소다. 윤 대통령은 “AI가 국가 역량과 경제성장을 좌우하고 경제, 안보의 핵심이 되는 시대로 전환되는 과정”이라며 “세계 주요 국가들이 디지털 패권 경쟁에서 승리하기 위한 AI 기술 및 주도권 선점에 사활을 걸고 있다”고 설명했다. 대통령 직속 국가AI위원회의 위원장을 맡은 윤 대통령은 “우리나라의 명운이 걸린 AI 전환을 국가인공지능위원회가 선두에서 이끌며 견인차 역할을 할 것”이라며 “국가 AI컴퓨팅 센터를 민·관 합작투자로 구축하고, 산업과 사회 전반에 AI 전환을 촉진해 민간의 인공지능 분야 투자 확대를 견인하겠다”고 밝혔다. 윤 대통령은 “자유민주주의를 위협하는 가짜뉴스와 딥페이크 기술을 악용한 인권침해 등 디지털 격차에 따른 여러 부작용이 등장하고 있다”고 지적했다. 그러면서 이를 해결하기 위한 2022년 ‘뉴욕 구상’과 지난 5월 AI 서울 정상회의에서의 ‘서울 선언’ 등으로 디지털 규범 정립에 앞장서왔다고 소개했다. 대통령 직속 국가AI위원회는 AI 관련 연구개발(R&D)과 투자, 전문인력 양성, 규제 개선 등 국가 AI 정책 전반을 진두지휘한다. 엄재호 태제대 총장이 부위원장을 맡으며 곽노정 SK하이닉스 대표이사, 전경훈 삼성전자 디자이스경험(DX) 부문 최고기술책임자(CTO), 김영섭 KT 대표, 김승환 아모레퍼시픽 대표, 정신아 카카오 대표, 류석영 카이스트 전산학부 교수 등 민간기업 및 학계 전문가 30명 및 장관급 정부위원 10명 등이 참여한다.

1994년 성수대교가 무너졌을 때 가장 먼저 현장에 도착한 기자가 있습니다. 삼풍백화점이 무너졌을 때도, 세월호 참사 때도 그랬습니다. 사회부 사건팀 기자들입니다. 시대도 세대도 바뀌었지만, 취재수첩에 묻은 꼬깃한 손때는 그대롭니다. 기사에 실리지 않은 취재수첩 뒷장을 공개합니다. 우리 사회의 치안을 책임지는 경찰청은 부 단위에 버금가는 예산이 배정되는 거대 부처입니다. 경찰청이 최근 공개한 2025년 예산안을 보면 2024년 대비 4.2%(5457억원) 늘어난 13조 5364억원 규모의 예산이 편성될 거로 보입니다. 그 중 주요 사업비도 1.9%(494억원) 증가한 2조 6067억원이 될 것으로 보입니다. 내년 예산안은 아직 국회에서 심사하고 확정하는 단계가 남았지만, 경찰이 내 건 방향은 명확했는데요. 인공지능(AI) 등 신기술을 활용해 갈수록 지능화되는 범죄를 예방하고 수사에 속도를 내겠다는 것입니다. 일상을 파고든 AI가 범죄와 수사에는 어떤 영향을 끼칠까요. 유사 사건·수사 쟁점 알려주고 서식 초안 ‘AI 수사도우미’ 27억원우선 경찰청은 생성형 인공지능(AI)을 활용해 수사관에게 유사 사건과 수사 쟁점 등을 제공하고 영장 신청서 등 각종 수사서식의 초안을 만들어주는 AI 수사 도우미를 구축하는 데 27억원을 배정했습니다. 수사 기간이 단축되고 완결성을 높일 거란 기대가 나옵니다. 원격화상조사시스템과 음성인식 조서작성시스템에는 기존 11억 5000만원에서 14억 7000만원으로 예산을 늘리기로 했습니다. 실제로 검경 등이 쓰는 차세대 형사사법정보시스템(킥스·KICS)는 범죄 사실과 키워드, 죄명 정보 등을 분석해 수사 담당자에게 유사한 사건의 조서, 결정문, 판결문 등을 제공하는 처리하는 기능이 추가됐습니다. 일상에서 흔히 쓰이는 음성인식 기술을 활용한 조서 작성 기능도 들어가 음성을 문자로 변환할 수도 있습니다. 올해 개발이 끝난 ‘아동학대 영상분석’에 6억원이 배정돼 내년부터 도입됩니다. AI가 CC(폐쇄회로)TV 등 영상에 찍힌 아동의 표정과 움직임 등을 분석해 아동학대 의심 장면을 요약하고 분석하는 시스템입니다. 또 흐릿한 얼굴이나 번호판의 화질을 개선하고 영상을 요약하는 등 형사기능 영상분석(8억 6000만원)도 수사에 도움이 될 거로 보입니다. 복합형 허위조작 콘텐츠 탐지 기술 개발 3년간 91억원…기존 기술 업그레이드신종 범죄를 막기 위한 기술 개발에도 박차를 가하기로 했습니다. 딥페이크(허위 영상물)는 성범죄에 악용되거나 유명인 등을 사칭한 사기에 쓰일 수 있어 사진이나 영상의 진위를 가리는 탐지 기술의 중요성이 커지고 있습니다. 이에 경찰은 내년부터 2027년까지 3년간 총 91억원을 투입해 딥페이크와 딥보이스 등 여러 기술을 복합적으로 적용해 만든 허위조작 콘텐츠를 탐지하는 기술을 딥러닝에 기반해 개발한다는 구상입니다. 얼굴을 바꾸는 ‘페이스 스왑’ 등 시각 영상물을 가려내는 기술은 어느 정도 개발됐지만, 음성을 따라 한 딥보이스를 탐지하는 기술은 아직 미흡하다는 게 경찰의 설명입니다. 딥페이크 기술도 고도화되고 있어 더 정교한 탐지기술 개발이 필요합니다. 또한 현재 활용 중인 딥페이크 탐지 기술에 대해선 최신 AI 기술도 가려낼 수 있도록 소프트웨어를 업데이트할 계획입니다. 예산은 올해(3억원)보다 2억원 늘어난 5억원을 책정했습니다. 아울러 경찰은 시나리오별 훈련이 가능한 실감형 훈련장비(VR) 장비(4억 8000만원), 신형 전자 충격기(56억 1000만원)도 규모를 키워 투입한다는 계획입니다. 경량화된 기동대 신형방패(13억 7000만원), 차세대 외근조끼(8억원)도 투입합니다. 전국 운전면허시험장 등에서 운전능력을 자가진단할 수 있는 VR 테스트 시스템(20억 9000만원)도 시범 운영될 예정입니다. 과기부도 딥페이크 탐지 기술 개발 20억원…신종 성범죄·사기 범죄 근절될까이러한 새로운 기술들이 실제로 현장에서 얼마나 효과를 발휘할지는 어느 정도 시간이 지나야 윤곽이 드러날 것으로 보입니다. 여러 기능이 추가된 만큼 수사관들이 적응하는 기간도 필요한데다 AI가 예상만큼 정확도가 높지 않을 수도 있습니다. 각 부처마다, 각 부서마다 딥페이크 탐지 등 AI를 활용한 기술을 개발하고 도입에 뛰어드는 모습입니다. 과학기술정보통신부도 딥페이크 성범죄를 예방하기 위해 적대적 생성신경망(GAN) 방식의 탐지 고도화 및 생성 억제 기술 개발에는 10억원, 자가진화형 딥페이크 탐지 기술 개발에 10억원씩 투입하겠다고 밝혔습니다. 선의의 경쟁으로 더 나은 기술을 발굴하게 될지 아니면 예산을 중복으로 투입하는 비효율을 낳을지 꾸준한 관심이 필요해 보입니다.

윤석열 대통령은 11일 사이버안보에 있어 “공격이 최선의 방어”라며 공세적 방어의 중요성을 강조했다. 윤 대통령은 이날 서울 강남구 코엑스에서 열린 ‘사이버 서밋 코리아 2024’ 개회식에 참석해 “전체주의 국가를 배후에 둔 해킹조직과 사이버 범죄자들이 고도화된 사이버 기술을 악용해 더욱 다양하고 정교한 방식의 공격을 펼치고 있다”며 이렇게 말했다. 윤 대통령은 “대한민국은 오랫동안 북한을 비롯한 적대세력의 사이버 공격에 대응하며 방어 능력과 안보 체계를 발전시켜 온 사이버안보 강국”이라며 “이번 행사를 계기로 인도 태평양 지역을 대표하는 ‘국제 사이버 훈련 허브’로 국제적 위상을 확립해 나갈 것”이라고 강조했다. 세계 각국이 국제 연대를 바탕으로 한 ‘능동형 사이버안보’로 전환하는 분위기에 따라 우방국과의 사이버 공조에도 힘을 쏟겠다고 했다. 윤 대통령은 첨단기술·사이버 안보 전시 부스를 관람하며 이스트소프트 전시관에서는 AI(인공지능) 인간을 통한 실시간 대화 서비스 및 개인 고유식별정보를 보호하는 사이버안보 기술을, 국내 최초로 위성 시스템을 수출한 세트렉아이 전시관에서는 어떤 위성과 위성 보안 장비를 만드는지 등 설명을 들었다. 이어 지난해 7월 미국 워싱턴DC 나토(북대서양조약기구) 정상회의에서 약속한 한국 주도의 첫 국제 사이버 훈련(APEX 2024)을 참관하고 관계자들을 격려했다. 이 대회는 2017년부터 개최돼 올해는 일반부문 11팀, 공공부문 20팀, 청소년 부문 10팀 등 총 41팀 150여명이 사이버 대응 역량을 겨루는 방식으로 진행된다. 이 자리에서 윤 대통령은 “선수들이 일종의 사이버 올림픽을 하는 거군요”라며 대회 참가자들을 응원하기도 했다. 대회 참관 후 이번 행사에 참여한 마트 누르마 나토 사이버방위센터장이 “나토와 아태지역 간 협력 강화를 위해 대통령께서 보여주신 리더십에 경의를 표한다”고 말하자, 윤 대통령은 “나토와의 협력을 더욱 확대해 나가겠다”고 약속하기도 했다. 윤 대통령은 조원희 사이버작전사령관에게는 “공격이 최선의 방어다. 공세적 방어를 해야 한다”고 주문했다. 국가정보원과 국가보안기술연구소 공동 주최로 개최된 이번 행사는 ‘인공지능(AI)·우주 시대, 글로벌 사이버안보를 위한 한발 앞선 노력’을 주제로 열렸고, 참석자들은 사이버 위협에 대한 국제사회 공조 방안 등 사이버안보 이슈에 대한 논의를 진행했다. 이날 개회식에는 국회에서 신성범 정보위원장 등이, 정부에서는 유상임 과학기술정보통신부 장관 등이 참석했으며 대통령실에서는 임종인 사이버 특별보좌관, 왕윤종 국가안보실 3차장 등이 자리했다.

최근 4년 반 동안 디지털성범죄피해자지원센터(디성센터)에 ‘딥페이크 성착취물’을 비롯해 불법촬영물을 지워달라고 요청한 건수가 94만건에 달했으나 이 가운데 약 29%인 27만건이 삭제되지 못한 것으로 나타났다. 부족한 대응 인력이 주요 원인으로 꼽히지만 삭제 요청을 받은 기업이 이를 반드시 이행하도록 제도를 개선해야 한다는 목소리도 함께 커지고 있다. 4일 더불어민주당 김남희 의원이 여성가족부에서 제출받은 자료에 따르면 2020년부터 올해 6월까지 여성가족부 산하 한국여성인권진흥원 내 디성센터가 접수한 딥페이크와 성적 모욕 이미지 등 불법촬영물 삭제 요청은 93만 8651건이다. 이 가운데 삭제하지 못한 건수는 26만 9917건(28.8%)에 달한다. 디성센터는 24시간 상담과 불법촬영물 삭제 지원 서비스를 제공하는 기관이다. 피해자로부터 삭제 신청이 접수되면 불법촬영물이 발견된 플랫폼 기업에 이를 지울 것을 요청하고 이후 조치 결과를 확인한다. 삭제 요청 건수는 2021년 16만 6000여건, 2022년 20만 6000여건, 2023년 24만 3000여건으로 매년 최소 3만건 이상씩 불어났다. 올해에도 6월까지 지난해 68% 수준인 16만 5000여건의 삭제 요청이 접수됐다. 미삭제 건수는 2021년 4만 2000여건에서 2023년 7만 5000여건으로 증가해 2년 만에 79.7% 늘었다. 올해 상반기에는 전년의 56%에 달하는 4만 2000여건을 지우지 못했다. 해마다 연간 미삭제 비율은 25% 정도다. 기술의 발전으로 딥페이크 제작이 쉬워지면서 피해가 눈덩이처럼 불어나고 있다. 3일 YTN라디오 ‘이이선 최수영 이슈앤피플’에 출연한 김덕진 IT커뮤니케이션연구소장에 따르면 인공지능(AI) 툴을 활용하면 음란물 제작에 20초도 걸리지 않는다고 한다. 김 소장은 “인플루언서가 찍은 숏폼 영상에 AI가 얼굴만 딴다. 기술이 놀라운데 이런 것들이 악용되는 사이트가 있다”고 짚었다. 아이돌을 좋아하는 팬들을 위해 찍은 ‘직캠’ 영상이나 자체 홍보를 위해 찍은 숏폼 영상이 범죄의 표적이 되고 있다. 최근 트와이스의 소속사 JYP엔터테인먼트, 블랙핑크가 소속된 YG엔터테인먼트, (여자)아이들이 속한 큐브엔터테인먼트, 권은비가 있는 울림엔터테인먼트 등이 딥페이크 피해를 보고 법적 대응에 나섰다. 일반인 역시 공개된 사진에 알몸을 합성 당해 피해를 보는 경우가 많다. 한 초등학교 교사 A씨는 자신의 사진과 합성된 성착취물이 신상 정보와 함께 단톡방에서 퍼지는 끔찍한 경험을 했다. 가해자로 위장해 진범을 5일 만에 잡아낸 A씨는 서울신문과의 인터뷰에서 “2019년 임용고시를 앞두고 트위터에서 비슷한 피해를 당했다”면서 “두 번째다 보니 놀람보다는 분노가 컸고 이번엔 꼭 잡아야겠다고 다짐했다”고 말했다. 피해가 커지는 상황이지만 대책은 뾰족하지 않다. 디성센터의 인력은 부족하고 강제성도 약하다. 전날 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 이수정 경기대 범죄심리학과 교수도 “불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”고 지적했다. 김남희 의원은 “불법촬영물 10건 중 3건을 삭제하지 못하면서 재유포 문제 등이 발생하고 있다”며 “정부가 대책으로 내놓은 ‘플랫폼 자율규제 강화’에 대한 한계가 뚜렷하게 드러난 만큼 특단의 조치가 필요하다”고 강조했다.