국내 기업들 ‘아마존웹’ 이용률 높아‘빅3’ 의존 낮춘 멀티클라우드 필요 마이크로소프트(MS)의 ‘클라우드 서비스’ 오류로 세계 곳곳의 항공·은행·병원·방송 업무가 마비되는 영화에서나 보던 일이 현실에서 벌어졌다. 모든 것이 인터넷과 클라우드(가상 서버)로 묶인 ‘초연결사회’의 위험을 노출한 ‘IT 블랙아웃(정전)’이다. 다행히 국내 공공·금융기관은 MS 클라우드 서비스 이용률이 낮아 피해가 제한적이었지만 한국시장 1위 아마존 등 다른 서비스도 언제든 유사 오류가 생길 수 있어 대책 마련이 시급하다는 지적이 나온다. 지난 19일부터 전 세계를 휩쓴 이번 대란은 미국의 사이버 보안기업 크라우드 스트라이크가 MS 클라우드 ‘애저’의 보안 프로그램을 업데이트하다가 운영체계(OS) 윈도와 충돌이 빚어져 벌어진 일이다. MS는 이번에 윈도를 사용하는 기기 850만여대가 영향을 받은 것으로 추정했다. 윈도를 사용하는 전체 기기의 1%에 못 미치는 수준이다. 그럼에도 세계는 패닉에 빠졌다.대통령실 관계자는 21일 “피해 상황을 긴급 점검한 결과 해외에 비해 상대적으로 피해가 덜한 것으로 파악됐다”면서 “보안인증 제도와 보안 솔루션 등이 잘 갖춰져 있기 때문으로 분석된다”고 밝혔다. 실제로 국내에선 제주항공 등 저비용항공사(LCC)의 항공권 예약·발권 시스템에 오류가 일어나고 일부 게임업체가 통신장애 피해를 본 정도였다. MS 애저에 대한 의존도가 낮은 덕이다. 과학기술정보통신부에 따르면 지난해 국내에서 가장 많이 사용된 클라우드 서비스(중복 포함)인 아마존웹서비스(AWS)의 이용률은 60.2%였다. MS 애저는 24.0%로 2위였다. 글로벌 매출 점유율(아마존 31%·MS 25%)과는 달랐다. 특히 파장이 큰 공공·금융기관의 피해는 전혀 없었다. 해외 클라우드가 국내 공공·금융기관에 서비스를 제공하려면 과기부의 보안인증(CSAP)을 받아야 하는데 통과한 곳이 없어서다. 과기부 관계자는 “아마존과 애저, 구글 3개 사는 지난해에 CSAP 인증을 신청해 심사를 진행 중”이라고 전했다. 국내 공공·금융기관은 네이버나 KT 서비스를 이용하고 있다. 물론 한국도 안전지대는 아니다. MS에서 발생한 오류가 아마존 서비스에서 일어났다면 후폭풍을 가늠하기 어려웠을 것이란 분석이 나온다. 지난해 11월 행정전산망이 ‘셧다운’되는 초유의 사태가 벌어졌고 올해도 각종 정부 전산망이 다섯 차례 이상 먹통이 됐다. 일부는 프로그램 업데이트에서 비롯됐다. 황석진 동국대 국제정보보호대학원 교수는 “국내에서 사용하는 클라우드 서비스에서 유사한 문제가 발생하면 대란이 벌어질 수 있다”면서 “특히 민간 기업이 과하게 의존하고 있는 AWS에 차질이 생기면 그 피해는 매우 클 것”이라고 우려했다. 전문가들은 특정 클라우드에 대한 의존도를 낮추고 복수 서비스를 이용하는 ‘멀티클라우드 전략’을 펴야 한다고 말한다. 황 교수는 “빅3(아마존·MS·구글) 위주 사용은 범용성과 호환성이 높다는 장점이 있지만 문제가 발생하면 피해가 크다”면서 “서비스 공급망 다변화가 필요하다”고 짚었다. 김명주 서울여대 정보보호학과 교수는 “한 곳의 회사나 기관이라도 서비스별로 다른 클라우드를 활용해 특정 클라우드가 중단돼도 업무는 이어 갈 수 있도록 해야 한다”고 제언했다. 과기부에 따르면 국내 기업들이 2개 이상 클라우드 서비스를 이용하는 비율은 47.7%였다. 업체의 사회적 책임을 강제해야 한다는 주문도 나온다. 김승주 고려대 정보보호대학원 교수는 “클라우드 기반 구독 서비스는 점점 늘어날 것”이라면서 “문제 발생 시 복구 시간과 보상 내용이 담긴 서비스 수준 이행 약정서(SLA)를 작성해야 한다”고 제언했다. [용어 클릭] ■클라우드 서비스 각종 자료를 사용자의 PC나 스마트폰 등 내부 저장공간이 아닌 인터넷으로 연결된 외부 서버에 저장해 뒀다가 필요할 때마다 다운로드받는 서비스를 말한다. 구름처럼 네트워크로 연결돼 있다는 의미로 ‘클라우드’(구름)란 이름이 붙었다. 초창기엔 데이터와 프로그램 저장 용도였지만 최근 기업들은 각종 시스템까지 넣어 둔다.

KB국민은행이 퇴직연금 운용 파트너로 미래에셋자산운용을 선정했다. 미래에셋자산운용이 가진 ‘퇴직연금 로보어드바이저(RA)’ 기술을 활용해 400조원 규모의 퇴직연금 시장을 공략하기 위한 행보로 보인다. 1일 금융권에 따르면 지난달 11일 국민은행이 주관한 ‘퇴직연금 일임형 서비스 제휴기관 선정’ 공개 입찰에 미래에셋자산운용이 우선협상대상자로 선정됐다. 국민은행이 미래에셋자산운용을 낙점한 배경에는 미래에셋자산운용이 가진 로보어드바이저 투자 일임 서비스가 있다. 로보어드바이저는 인공지능(AI) 로봇이 개인의 투자성향에 맞게 자산을 운용해 주는 서비스를 뜻한다. 투자 일임 라이선스가 없는 은행은 로보어드바이저 투자일임업자와 제휴를 해야 로보어드바이저 기반 퇴직연금 일임 서비스를 제공할 수 있다. ●미래에셋, 퇴직연금 전용 AI 개발 로보어드바이저가 지난해 7월 기획재정부의 혁신금융 서비스(금융규제 샌드박스)로 지정되면서 올해 하반기부터는 AI에 투자를 ‘일임’할 수 있게 됐다. 현행 규정은 로보어드바이저가 이용자에게 맞춤형 포트폴리오를 ‘제안’만 할 수 있게 제한하고 있다. 미래에셋자산운용은 이미 퇴직연금 전용 알고리즘 개발을 마무리하고 지난달 금융위원회 산하 코스콤에서 테스트베드 심사를 통과한 상태다. 미래에셋자산운용은 지난해 10월 코스콤에 자산배분·테마형 등 총 14개 알고리즘에 대한 테스트베드 심사를 신청했다. 해당 알고리즘은 금융위 심사 단계를 거쳐 이르면 올해 하반기에 퇴직연금 로보어드바이저 일임 운용 서비스로 시범 도입될 예정이다. ●이르면 하반기부터 시범 서비스 업계에서는 이번 우선협상대상자 선정으로 적지 않은 퇴직연금 자금이 미래에셋자산운용 펀드로 흘러갈 것으로 보고 있다. 금융감독원 통합연금포털에 따르면 올해 1분기 기준 국민은행의 퇴직연금 적립금은 37조 9557억원으로 시중은행 중 두 번째로 많다. 로보어드바이저를 적용할 수 있는 퇴직연금 규모는 확정기여(DC)형 100조원, 개인형퇴직연금(IRP) 76조원 등 약 176조원으로 추정된다. 하나은행도 지난 2월 파운드투자자문과 퇴직연금 로보어드바이저 일임 서비스 도입을 위한 업무협약을 체결했다. 김명주 서울여대 정보보호학과 교수는 “로보어드바이저는 주식 폭락 등 변동성 높은 시장에서 수익률을 안정적으로 방어할 수 있다”면서도 “증권사마다 공개된 AI 수익률을 보고 AI 투자 여부를 신중하게 판단해야 한다”고 조언했다.

경남도가 내년 역점사업을 차질없이 시행하고자 국비 지원을 건의했다. 박완수 경남도지사는 27일 정부서울청사에서 열린 ‘2025년 국비예산 간담회’에서 최상목 경제부총리를 만나 주요 6개 사업 국비 지원을 요청했다. 경남도 김명주 경제부지사, 김기영 기획조정실장도 동석해 힘을 보탰다.경남도가 건의한 주요 사업은 ▲한·아세안 국가정원 조성 ▲미래 모빌리티 핵심 소재·부품 인증테스트필드 구축 ▲남부권 광역관광개발 사업 ▲남해안 블루카본 자원회복센터 건립 ▲부산항 신항 항만 근로자 기숙사·복지관 건립 ▲남부권 보훈휴양원 건립 등이다. 총 856억원 규모다. ‘한·아세안 국가정원 조성’은 남부내륙철도·가덕도 신공항 등 기반 시설 구축과 남해안권 관광벨트와 연계해 지역관광을 활성화하는 사업이다. 도는 기본계획 수립 용역비로 10억원 지원을 건의했다. ‘미래 모빌리티 핵심 소재·부품 인증테스트필드 구축’은 미래항공기체 핵심 세라믹 소재·부품 인증센터를 설치와 입주 기업 지원 등 기반을 구축하는 사업이다. 내년 설계용역비 20억원 확보가 도 목표다. ‘남부권 광역관광개발 사업’은 경남·부산·울산, 광주·전남 등 5개 지자체 관광자원을 관광명소로 개발해 남해안 신성장 관광벨트를 구축하는 내용이다. 남해안을 기반으로 한 관광수요 창출을 통해 지역경제 활성화와 대규모 관광거점 개발 등이 목표다. 도는 설계·공사비로 국비 800억원 지원을 요청했다. ‘남해안 블루카본 자원회복센터 건립’은 해양생태계 탄소흡수원(블루카본) 복원·확대와 자원화 기반 조성, 남해안 회유성 어종 등 자원회복·해역 수산 자원량 증대를 이루고자 센터를 건립하는 내용이다. 도는 사업비 7억원 지원을 정부에 요청했다. ‘부산항 신항 항만 노동자 기숙사·복지관 건립’은 안정적 노동·주거환경 지원으로 구인난을 해소하고 해운물류산업 경쟁력을 확보하고자 추진하는 사업이다. 도는 내년 타당성 조사 용역비로 국비 1억원 지원을 건의했다. ‘남부권 보훈휴양원 건립’은 전국에 단 1곳뿐인(충북 충주) 보훈휴양원을 경남권역에도 새로 세우려고 추진 중이다. 남부권 보훈대상자 복지증진 등이 목표로, 기본계획·설계비 18억 4000만원 확보가 도 목표다.이날 박 지사는 서울 국토발전전시관에서 박상우 국토교통부 장관을 만나 도 주요 현안을 설명하기도 했다. 박 지사는 제22대 국회 개원에 따른 입법 현안으로 우주항공복합도시 조성을 위한 특별법, 남해안권 발전 특별법 제정 등을 언급했다. 민자도로인 거가대로 고속도로 승격과 정부 주요 도로·철도망 구축계획에 경남 건설계획이 반영될 수 있도록 요청하기도 했다. 이와 함께 도는 진해신항 국제물류특구 조성과 개발제한구역 해제·제도개선, 마산자유무역지역 국가산단 지정·고시를 건의했다. 박 도지사는 두 장관에게 ‘남해안 아일랜드 하이웨이 조기 구축을 위한 국도5호선 조정(기점 연장)’과 ‘양산 상북~명동(웅상) 도로 국도 승격·제6차 국도건설계획 반영’에 관심을 기울여달라고 요청하기도 했다. 박 도지사는 “경남 미래산업이 도약하고 지역소멸 위기를 극복할 수 있도록 도 역점사업들이 내년도 정부 예산안에 반드시 반영될 수 있도록 많은 협조를 부탁드린다”며 “우주항공, 원전 등 주력산업과 남해안을 활용한 관광산업 등에 정부 관심과 지원이 필요하다”고 강조했다.

문화체육관광부가 한국저작권위원회 위원 12명을 새롭게 위촉했다. 위원장으로는 강석원 전 문체부 기획조정실장이 선임됐다. 신임 위원 임기는 3년으로, 위원장을 제외하고는 모두 비상임이다. 강 위원장을 비롯해 계승균 한국지식재산학회 부회장, 김명주 서울여대 정보보호학부 교수, 김민정 법무법인 휘명 변호사, 김병일 한양대 법학전문대학원 교수, 김원학 대구지방검찰청 부장검사, 성윤용 여주대 실용음악과 겸임교수, 윤주탁 법무법인 세종 변호사, 이상호 수원고등법원 판사, 이원복 이화여대 법학전문대학원 교수, 임형주 법무법인 율촌 변호사, 장혜원 김앤장 법률사무소 변호사 등 12명이 이번에 위촉됐다. 위원들은 앞으로 저작권 분쟁 조정, 저작권위탁관리업자의 수수료 및 사용료 요율 심의, 저작물 이용질서 확립 및 저작물의 공정이용을 위한 업무 등을 수행한다.

올해 초 투자했다면 120%, 지난해 초 투자했다면 1년간 210%의 수익을 거둘 수 있었던 종목이 있다. 국내 온라인 커뮤니티에는 5년 이상 투자했다며 2000%에 가까운 수익률을 자랑하는 인증 사진이 등장한다. 심지어 지난 주말 온라인 주식 커뮤니티에선 10년간 한 종목에 투자해 1만 7000%의 수익률을 거둔 한 일본인 개미 투자자 이야기가 화제가 됐다. 그는 결과적으로 27억원이 넘는 이익을 거뒀다. 비트코인 이야기가 아니다. 인공지능(AI) 열풍의 중심에서 어느덧 공룡기업이 돼 버린 ‘엔비디아’ 이야기다. 요즘 엔비디아는 존재 자체가 뉴스다. 주가가 떨어져도 올라도 기사가 된다. 2022년 10월 기준 100달러 초반이었던 엔비디아의 주가는 최근 1100달러 선까지 올라왔다. 시가총액은 2조 달러(약 2656조원)를 훌쩍 넘어서며 글로벌 시가총액 2위인 애플 자리를 넘보고 있다. 괴물 같은 성장은 그래픽처리장치(GPU·Graphics Processing Unit)가 이끌었다고 해도 과언이 아니다. 엔비디아는 전 세계 GPU 시장에서 점유율 90% 이상을 차지하며 독주 체제를 굳건히 하고 있다최소 6개월 줄 서야 구매 “지금 (엔비디아의) GPU는 마약보다 구하기 어렵다.” 다소 과격한 듯한 일론 머스크 테슬라 최고경영자(CEO)의 말은 팩트다. 엔비디아가 만드는 GPU는 AI 연구개발의 필수재다. 말 그대로 없어서 못 산다. 주력 AI 칩인 H100은 개당 가격이 3만 달러(약 4000만원)에 달하지만 굴지의 테크 기업들도 이 칩을 받으려면 최소 6개월은 기다려야 한다. AI 모델 개발의 3대 요소는 ▲컴퓨팅 파워 ▲빅데이터 ▲모델링(알고리즘)이다. 엔비디아의 역량이 빛을 발하는 지점은 컴퓨팅 파워다. 컴퓨터 성능이라고 할 수 있는 컴퓨팅 파워는 컴퓨터의 연산 처리 능력을 뜻한다. 오픈AI의 ‘챗GPT’ 공개 이후 AI 기술에 대한 업계의 관심이 폭발했고 자연스레 컴퓨팅 기술에 대한 수요가 크게 늘었다. 이들의 수요는 고스란히 해당 분야에 강점을 지닌 엔비디아의 매출로 이어졌다. 엔비디아가 강력한 연산 능력을 갖춘 GPU를 생산할 수 있었던 건 애초에 게임용으로 설계됐기 때문이다. 속도보다는 정확성을 중시하는 중앙처리장치(CPU)와 달리 그래픽 처리를 목적으로 만들어진 GPU는 연산을 동시다발적(병렬식)으로 처리할 수 있다. CPU가 복잡한 연산을 빠르게 처리한다면 GPU는 단순한 여러 데이터를 빠르게 처리한다고 볼 수 있다. AI 개발에는 많은 양의 연산 작업이 필요하기 때문에 단순 연산을 다중 처리하는 GPU가 효과적이다. 엔비디아는 게이밍 그래픽카드 지포스(GeForce) 시리즈로 오랜 기간 게임업계의 최강자로 군림했다. 왕좌를 지키기 위해 실감 나는 3D 그래픽 전달의 필수 능력 중 하나인 연산 처리 능력을 키우는 데 주력한 덕분에 지금과 같이 최고 수준의 GPU 개발 능력을 보유하게 됐다는 것이 업계 중론이다. 엔비디아의 이 같은 전략은 AI 부흥과 함께 맞아 들어가기 시작했다. 박영준 서울대 전기정보공학부 명예교수는 “인공지능을 활용하려면 수많은 연산을 동시에 실시해야 하는데, 이런 방식으로 결과값을 얻으려면 최소 수개월에서 길게는 1년 이상 시간이 필요하다”며 “엔비디아는 AI 계산 방식에 GPU를 적용해 연산 소요 시간을 2~3일로 줄여 냈다”고 설명했다.AI칩 넘어선 비장의 무기 이후 엔비디아는 AI 맞춤형 반도체 제작에 주력하기 시작한다. 실제로 지난해까지 최근 10년 동안 엔비디아 칩의 데이터 처리 속도는 1000배 가까이 향상됐다. 엔비디아는 AI 딥러닝을 위해 CPU의 ‘다재다능함’에 GPU의 연산 처리 능력을 덧붙인 ‘GPU의 범용 연산’(GPGPU)을 개발했다. 김명주 서울여대 정보보호학과 교수는 “CPU의 기능도 일부 병행할 수 있는 GPGPU가 개발되면서 인텔을 제치고 엔비디아의 본격적인 독주 체제가 만들어졌다”고 전했다. 엔비디아는 한 손에 ‘하드웨어 무기’ GPGPU를, 다른 한 손에 ‘소프트웨어 무기’에 해당하는 ‘CUDA’(쿠다)를 들고 본격적인 점유율 확대에 나섰다. AI와 관련한 여러 애플리케이션에서 GPU가 더 효율적으로 활용될 수 있는 소프트웨어 생태계를 만들겠다는 생각이다. 쿠다는 개발자들이 일반적으로 사용하는 프로그래밍 언어 C·C++·파이선 등을 GPU코드로 변환해 준다. GPU를 활용하기 위해 개발자들이 GPU 코드를 따로 배워야 하는 수고를 덜어 준 것이다. 이 같은 소프트웨어 생태계 조성에 힘입어 지금도 대부분의 AI 모델은 쿠다를 기반으로 개발되고 있다. 쿠다를 이용하는 개발자 수는 2020년 180만명에서 2023년 450만명으로 2배 넘게 늘었다. 사실상 엔비디아가 AI 생태계를 장악할 수 있는 원동력이 된 셈이다. 김 교수는 “다른 반도체 기업들도 노력 중이지만 새로운 헤게모니(주도권)을 구축하거나 극적으로 상황이 반전되지 않는 이상 독과점 체제는 이어질 것”이라고 밝혔다.엔비디아 질주 언제까지 최근 투자자들 사이에선 “엔비디아에 조금이라도 더 일찍 투자한 이들이 곧 승자”라는 말이 나온다. 부러움을 뜻하는 라틴어 ‘인비디아’(Invidia)에서 유래한 엔비디아라는 이름이 딱 들어맞는 대목이다. 엔비디아의 성장세는 여전히 가파르다. 2019년 최저 31달러를 찍었던 엔비디아는 1분기 실적 발표가 있었던 지난달 23일 사상 처음으로 1000달러를 돌파했다. 5년 만에 주가가 30배 이상 뛰어올랐다. 지난달 30일엔 장중 한때 1158달러까지 치솟기도 했다. 자연스레 국내 시장에 미치는 영향도 커지고 있다. 삼성전자를 중심으로 한 반도체 업계에 대한 의존도가 높았던 한국 경제가 또 한번 ‘반도체 공화국’의 면모를 확인하는 듯한 모습이다. 지난달 28일엔 최근 4년간 ‘서학개미’(해외 증시에 투자하는 개인투자자)의 주식 보유액 1위 자리를 굳건히 지켜 왔던 테슬라를 제치고 서학개미 최고 관심 종목으로 등극하기도 했다. 국내 증시 시총 1, 2위인 삼성전자와 SK하이닉스는 엔비디아 관련 소식에 웃었다 울었다를 반복 중이다. 국내 증시 엔비디아 최고 수혜주 중 하나로 꼽히는 SK하이닉스는 지난달 29일 장중 한때 20만 9000원을 터치하며 52주 만에 신고가를 경신했다. GPU에 방대한 데이터를 전달하는 데 필요한 고대역폭메모리(HBM3E) 독점적 공급이 주가 상승을 이끌었다. 반면 삼성전자는 지난달 24일 HBM이 엔비디아의 납품 테스트를 아직 통과하지 못했다는 소식이 전해지면서 전 거래일보다 3.07% 급락한 바 있다. 증권가는 엔비디아의 잠재력과 성장 가능성을 인정하면서도 조건 없는 맹신은 지양해야 한다고 입을 모은다. 가파른 상승을 이어 온 엔비디아의 단기 고점이 어느 수준에서 형성될 것인지 가늠하기 쉽지 않다는 이유에서다. 강대석 유안타증권 연구원은 “하반기에도 AI에 대한 관심은 강할 것으로 예상되지만 엔비디아의 실적이 점점 높아지는 눈높이에 언제까지 부응할 수 있을지는 지켜봐야 할 것”이라고 말했다. 미국 증시에서 엔비디아를 향한 쏠림 현상은 심화돼 있다. 올해 S&P500 시가총액은 총 4조 5000억 달러가 늘었는데 이 중 35%인 1조 6000억 달러를 엔비디아가 차지했다. 지난주 국내에서도 엔비디아는 테슬라를 제치고 국내 투자자들이 가장 많이 보유한 해외 주식 1위로 등극했다. 김석환 미래에셋증권 연구원은 “AI 열풍이 끊이지 않았는데도 지난해 8월과 10월 사이, 올해 4월 등 미국의 장기금리가 높아질 때마다 가격 조정을 받아 왔다. 최근 미국의 10년물 국채 등 금리 상승이 지속되면서 지나치게 쏠려 있는 엔비디아가 파급을 받을 우려가 커졌다”고 밝혔다.

반려견 훈련사인 강형욱 보듬컴퍼니 대표 부부가 ‘네이버웍스’를 이용해 직원들끼리 주고받은 메시지를 무단으로 감시했다고 인정하면서 업무용 메신저의 개인정보 침해 우려가 커지고 있다. 업체들은 직원들의 감시가 아닌 보안 이슈 발생 시 증거 확보를 위한 목적이라는 입장이지만 이용자들은 비공개 메시지마저 관리자가 실시간으로 확인할 수 있어 불안감이 크다. 강 대표의 아내인 수잔 엘더 이사는 남편과 함께 촬영한 해명 영상에서 직원들 대화를 무단으로 봤다고 밝혔다. 그는 “누가 어떤 방에서 누구랑 무슨 대화를 해도 그게 다 타임스탬프로 찍혔다. 처음에는 ‘직원들 대화가 이렇게까지 다 나오네?’ 하고 남의 일기장 훔쳐보는 느낌이 들고 이거는 아닌 것 같다고 나가려고 했다”면서 “눈에 갑자기 띄었던 게 아들 이름이 있더라”고 말했다. 이를 계기로 엘더 이사는 6개월 치의 다른 대화 내용까지 살피게 됐다. 대화 내용을 본 그는 “눈이 뒤집혔다”면서 “양심의 가책을 느끼면서도 놓을 수가 없었다. 제가 허락 없이 본 거 맞고 이런 일이 벌어진다는 것에 충격받았다”고 해명했다. 보듬컴퍼니가 이용한 네이버웍스는 네이버가 개발해 기업에서 사용하는 업무용 협업 도구다. 고객사의 개인정보, 영업비밀, 도메인 보호 등을 목적으로 관리자 기능을 제공한다. 주로 온라인 업무 전산망이 탄탄하게 구축되지 않은 신생 기업이나 중소기업 등에서 직원 간 업무 소통을 위해 쓰인다. 강 대표를 둘러싼 논란에서 네이버웍스가 중심에 선 이유는 구성원들이 쌓은 모든 정보를 관리자들이 여과 없이 확인할 수 있기 때문이다. 구성원 간에 나눈 대화는 물론이고, 이들이 올린 파일이나 사진, 접속 기록까지 관리자는 ‘감사 기능’으로 실시간으로 확인할 수 있다. 엘더 이사가 “혐오 표현이 등장했다”는 이유를 댔지만 애초에 대화 내용을 동의 없이 확인한 자체가 불법이라 이에 대한 의견이 분분하다. 네이버웍스에서도 동의 없는 감시는 안 된다고 여러 차례 권고하고 있다. 네이버웍스는 이용자가 개인 메모장 개념인 ‘나에게만 보이는 메시지방’에 올린 내용도 감시할 수 있는 것으로 확인됐다. 말 그대로 나에게만 보여야 하는데도 관리자가 다 살펴볼 수 있어 논란이 되고 있다. 만약 관리자 계정이 해킹당한다면 회사 보안에도 큰 타격이 될 수 있다.전문가들은 ‘본래 목적에 필요한 범위에서 최소한의 개인정보만을 적법하게 수집해야 한다’고 명시한 개인정보보호법에 근거해 관련 프로그램을 사용하는 업체가 개인정보 노출 범위나 기능 등을 구성원에게 상세하게 알리고, 업무에 필요한 정보만 확보할 필요가 있다고 입을 모은다. 김명주 서울여대 정보보호학과 교수는 연합뉴스를 통해 “관리자가 프로그램을 통해 저장되는 정보는 무엇이고, 언제까지 보관이 되는지 등을 구체적으로 구성원에게 고지하고, 본래 목적으로만 정보를 사용해야 한다”고 말했다. 그러면서 “네이버웍스의 ‘나에게만 보이는 메시지방’의 경우 서비스명에서 나(이용자)만 볼 수 있다는 함의를 줬는데, 실제로는 타인이 확인할 수 있다는 점은 문제로 볼 수 있다”고 지적했다. 신종철 연세대 법무대학원 객원교수도 “프로그램을 이용하는 기업의 올바른 사용이 중요하다”며 “이를 서비스하는 플랫폼 업체 역시 개인정보 침해 논란을 최소화하기 위한 다양한 노력이 필요하다”고 했다. 이에 대해 네이버는 ‘감사’ 기능은 다른 업무용 협업 프로그램에도 마련된 기능이며, 프로그램을 사용하는 기업이 이 사실을 구성원에게 제대로 고지해야 한다는 입장이다. 실제로 네이버웍스와 비슷한 다른 프로그램도 같은 기능이 있는 것으로 알려졌다. 네이버웍스 관계자는 “감사 기능은 관리자가 구성원의 일거수일투족을 들여다보려는 목적이 아닌, 보안 이슈 발생 시 증거 확보를 위해 마련한 것”이라며 “‘나에게만 보이는 메시지’ 기능도 모니터링 대상에 포함되는지는 확인해 보겠다”고 했다. 개인정보보호위원회 관계자는 네이버웍스를 포함한 업무 협업 프로그램 이슈와 관련해 “아직 본격적인 조사에 착수한 것은 아니다”며 “일반적으로 알려진 사실을 기초로 검토하고, 상황을 지켜보는 단계”라고 밝혔다.

①어떤 정보 빠져나갔나개인회생 관련 0.5%만 유출 확인피해 파악도 상당 시간 걸릴 듯②정부 자료도 유출?수사기관·대통령실 제출 자료도유출됐다면 범정부 대책 불가피 ③北 침입 경로·목적은해킹 시점 추정 자료 이미 지워져뭘 노렸는지 의도 찾기 쉽지 않아북한 해킹 조직 ‘라자루스’로 추정되는 집단이 법원 전산망에 침투해 탈취한 자료는 1000GB(기가바이트)인데, 자료 삭제로 99.5%는 어떤 내용인지조차 파악이 어려울 전망이다. 나머지 0.5%(4.7GB)는 개인회생 사건과 관련한 문서로 드러났지만 구체적으로 어떤 정보가 유출됐고 피해자 수가 얼마나 되는지까지 파악하려면 상당한 시간이 걸릴 전망이다. 유출된 정보로 인해 금융사기 등 2차 피해가 우려되는 만큼 대법원 법원행정처가 신속하게 피해 현황을 파악해야 한다는 지적이 나온다. 법원 전산망에는 개인정보뿐만 아니라 기업과 정부 부처 등이 제출한 자료가 모여 있어 이런 정보까지 유출됐는지도 규명돼야 한다. 재발 방지를 위해서는 해킹 조직의 침입 경로와 목적 등도 밝혀져야 할 대목이다. 12일 법조계에 따르면 법원행정처는 전날 홈페이지에 게재한 안내문을 통해 “유출된 법원 자료에는 상당한 양의 개인정보가 있는 것으로 추정되나, 구체적인 개인정보 내역과 연락처 등을 즉시 전부 파악할 수는 없다”며 “개인정보보호법에 따라 현재까지 파악된 개괄적인 사실을 공지한다”고 밝혔다. 앞서 경찰청으로부터 해킹 조직에 의해 유출된 파일 5171개(4.7GB)를 전달받았지만 구체적으로 ‘누구’의 ‘어떤’ 정보가 빠져나갔는지 확인되지 않아 일단 공지 형식의 안내문만 올린 것이다. 유출된 파일은 개인회생 사건과 관련한 자료로 주민등록번호와 금융정보, 혼인관계증명서, 병원 진단서 등의 개인정보가 다수 포함된 것으로 전해졌다. 따라서 법원행정처는 조속하게 피해자와 유출 정보를 파악하고 이들에게 2차 피해 예방책과 필요한 조치 등을 직접 알려 줘야 한다. 법원행정처 관계자는 “별도 예산과 인력을 투입해 경찰로부터 전달받은 파일에 포함된 개인정보를 추출하고 분류하는 작업을 진행할 예정”이라며 “피해자와 연락처가 파악되는 대로 최대한 신속히 개별 통지하겠다”고 말했다. 문제는 경찰로부터 건네받아 유출 당사자 등을 파악하고 있는 파일이 전체 해킹 규모(1014GB)의 0.5%에 불과하다는 것이다. 수사 착수가 늦어지면서 유출된 나머지 99.5%가 무엇인지는 미제로 남을 가능성이 크다. 법원 전산망에는 악용되면 국내외 파장이 커질 수 있는 기업과 검찰·국가정보원 등 수사기관, 대통령실과 정부 부처, 금융당국 등 각종 기관에서 제출한 자료도 있기에 실제로 빠져나갔다면 범정부 차원의 대책 마련이 필요하다. 법원행정처 관계자는 “나머지 유출 분량에 대해서도 지속적으로 내역을 확인하겠다”고 밝혔다. 북한이 회생 절차를 밟는 이들의 자료만 노렸는지, 전방위적인 정보 탈취를 목표로 했는지 파악해야 피해 예방책과 재발 방지책을 세울 수 있다. 하지만 해킹 조직의 침투 시기와 경로를 추정할 자료는 이미 지워진 상태라는 게 경찰의 설명이다. 경찰청 국가수사본부 관계자는 “유출된 자료의 실체를 0.5%만 확인했기에 정확한 해킹 의도는 알기 어렵다”고 말했다. 김명주 서울여대 정보보호학과 교수는 “과거 북한의 해킹 사례를 고려했을 때 이번 사건도 타깃을 먼저 정하고 여기에 접근하기 위해 주변 관계인들부터 단계별로 해킹하는 방식인 ‘지능형 지속위협’(APT) 공격의 일환으로 보인다”며 “정부 기관은 보통 해킹 시도가 있으면 외부망과 내부망을 분리하는데, 북한 해킹 조직은 법원 권한자에게 접근해 이 같은 망 분리가 이뤄져도 내부망 자료에 대한 접근이 유지되도록 한 것으로 보인다”고 분석했다. 법원행정처는 “사법부 정보보호 종합대책을 수립하고 보안 인력을 추가로 배치해 유사한 사례가 발생하지 않도록 하겠다”고 밝혔다.

정부가 국가전산망 장애를 ‘재난’으로 규정하고 종합대책을 내놓은 지 3개월도 채 안 돼 정부의 온라인 민원서비스 ‘정부24’에서 다른 사람의 민원서류가 발급되는 황당한 오류가 발생했다. 이번 사태는 시스템 접속 지연 등에 따른 불편에 그치지 않고 개인정보가 대량 유출됐다는 점에서 더 심각하다. 지난 1월 31일 국무조정실장을 단장으로 14개 기관이 참여한 범정부 태스크포스(TF)의 종합대책 이후에도 행정망 오류를 빚었다는 점에서 근본 처방이 시급하다는 지적이 나온다. 행정안전부는 6일 “정부24의 오발급 사태는 개발자의 프로그램 개발상 실수”라며 “현재 시스템은 정상 작동되고 있다”고 밝혔다. 행안부의 관련법 위반 여부와 유출 경위를 조사 중인 개인정보보호위 관계자는 서울신문과의 통화에서 “(행안부는) 개발자의 실수라고 했지만 관리·감독에 문제는 없었는지, 시스템 전반에 허점은 없었는지 등을 들여다볼 계획”이라고 말했다.정부 전산망 오류는 근래 들어 더욱 빈번하게 발생해 우려를 더한다. 지난해 6월 교육부의 4세대 교육행정정보시스템(NEIS)의 오류가 문제가 됐고 11월 지방행정전산망(새올) 장애로 주민센터 민원서비스가 전면 중단되는 초유의 사태를 빚었다. 올 2월 개통한 지방세와 세외수입 업무를 처리하는 ‘차세대 지방세입정보시스템’도 개통 후 한 달 넘게 오류가 반복됐다. 관련 민원만 26만건이 쏟아졌다. 그러다 3월에 정부24에서 성적증명서 646건, 4월에는 법인용 납세증명서 587건이 잘못 발급된 사실이 이번에 뒤늦게 확인된 것이다. 2017년 민원24, 대한민국정부포털, 알려드림e 등 각 부처에 흩어져 있던 시스템을 하나로 통합한 정부24에 대한 ‘종합진단’이 우선돼야 한다. 황석진 동국대 국제정보보호대학원 교수는 “방대한 양의 프로그램 설계값이 한 포털(정부24)에 들어가 있기 때문에 살피지 못한 오류가 프로그램에 남아 있을 수 있다”고 설명했다. 이어 “3월 말 정부24에서 성적증명서가 잘못 발급되고 정부가 관련 시스템을 고쳤지만 3주 뒤 납세증명서를 발급받는 과정에서 비슷한 문제가 벌어졌다”면서 “프로그램을 잘못 개발한 업체만 문제 삼을 게 아니라 시스템에 참여한 다른 업체들을 대상으로 실수가 없는지 점검하고 프로그램이 정상 작동되는지 체크해야 한다. 그러지 않으면 사고는 반복될 수밖에 없다”고 말했다. 프로그램 개발 단계부터 시스템 가동 이후까지 전산망의 취약점을 집중 분석하는 ‘디지털 감리’를 충실히 해야 한다는 게 전문가들의 공통된 지적이다. 다만 정부가 직접 감리 기능을 가질지, 전문업체에 맡기고 책임성을 강제할지에 대해서는 의견이 엇갈린다. 안문석 고려대 행정학과 명예교수는 “프로그램 개발을 민간에 맡기는 것은 당연하지만 그 기업이 끝까지 임무를 완수하는지 관리하는 컨트롤타워 기능은 정부가 해야 한다. 이걸 정보업계에서는 감리 기능이라고 한다”고 강조했다. 이어 “업체가 시스템의 밑그림을 그릴 때부터 정부가 조언하고 중간에도 오류가 없는지 확인할 필요가 있다”면서 “업무 부담이 커질 수는 있지만 전산망 오류로 인한 국민 피해를 줄이기 위해서 꼭 필요한 역할”이라고 했다. 이와 관련, 대통령 직속 디지털플랫폼정부위원회는 지난달 제5차 전체회의에서 전문성 있는 감리업체가 품질을 관리하는 책임감리 도입 등을 추진하기로 했다. 행정전산망은 특정 민원 수요가 집중되는 시기가 있는 만큼 ‘1년 주기 시나리오’를 만드는 등 중장기적 대책이 필요하다는 목소리도 나온다. 김명주 서울여대 정보보호학과 교수는 “정부24의 과부하 오류를 막기 위해 ‘1년 주기 시나리오’를 만드는 것도 방법이다. 민원 업무마다 사람들이 몰리는 시기가 다르기 때문”이라며 “5, 6, 7월에 각각 어떤 민원이 몰리는지 사전 조사하고 연결 프로그램이 몰리는 상황에도 정상 작동하는지 체크해야 한다”고 제언했다. 김명주 교수는 “민간에 발주를 주는 정부에 검증은 가장 중요한 역할”이라며 “오류는 언제든 발생할 수 있고 개발자의 수준에 따라 프로그램 질에 차이가 있지만 국민에게 선보이기 전 최종 점검하는 책임은 정부가 갖고 있다”고 말했다. 김승주 고려대 정보보호대학원 교수는 지난해 ‘새올’의 셧다운으로 주민센터가 멈췄던 사건과 이번 개인정보 유출 사건은 정부의 ‘안이한 태도’에서 비롯됐다고 지적했다. 새올 셧다운은 라우터(하드웨어) 부품 불량이 원인이었고 정부24는 프로그램(소프트웨어) 설계가 잘못됐지만 둘 다 사전 테스트를 충분히 하지 않은 탓이라는 것이다. 김승주 교수는 “부품 교체든 시스템 교체든 통상적으로 정상 작동 여부를 테스트한 뒤 현장에 적용하는 게 원칙”이라며 “오류 발생 가능성은 늘 있는데도 테스트를 소홀히 했기 때문에 전산망 문제가 끊이지 않고 있는 것”이라고 주장했다.

정부가 국가전산망 장애를 ‘재난’으로 규정하고 종합대책을 내놓은 지 3개월도 채 안 돼 정부의 온라인 민원서비스 ‘정부24’에서 다른 사람의 민원서류가 발급되는 황당한 오류가 발생했다. 이번 사태는 시스템 접속 지연 등에 따른 불편에 그치지 않고 개인정보가 대량 유출됐다는 점에서 더 심각하다. 지난 1월 31일 국무조정실장을 단장으로 14개 기관이 참여한 범정부 태스크포스(TF)의 종합대책 이후에도 행정망 오류를 빚었다는 점에서 근본 처방이 시급하다는 지적이 나온다. 행정안전부는 6일 “정부24의 오발급 사태는 개발자의 프로그램 개발상 실수”라며 “현재 시스템은 정상 작동되고 있다”고 밝혔다. 행안부의 관련법 위반 여부와 유출 경위를 조사 중인 개인정보보호위 관계자는 서울신문과의 통화에서 “(행안부는) 개발자의 실수라고 했지만 관리·감독에 문제는 없었는지, 시스템 전반에 허점은 없었는지 등을 들여다볼 계획”이라고 말했다. 정부 전산망 오류는 근래 들어 더욱 빈번하게 발생해 우려를 더한다. 지난해 6월 교육부의 4세대 교육행정정보시스템(NEIS)의 오류가 문제가 됐고 11월 지방행정전산망(‘새올’) 장애로 주민센터 민원서비스가 전면 중단되는 초유의 사태를 빚었다. 올 2월 개통한 지방세와 세외수입 업무를 처리하는 ‘차세대 지방세입정보시스템’도 개통 후 한 달 넘게 오류가 반복됐다. 관련 민원만 26만건이 쏟아졌다. 그러다 3월에 정부24에서 성적증명서 646건, 4월에는 법인용 납세증명서 587건이 잘못 발급된 사실이 이번에 뒤늦게 확인된 것이다. 2017년 민원24, 대한민국정부포털, 알려드림e 등 각 부처에 흩어져 있던 시스템을 하나로 통합한 정부24에 대한 ‘종합진단’이 우선돼야 한다. 황석진 동국대 국제정보보호대학원 교수는 “방대한 양의 프로그램 설계값이 한 포털(정부24)에 들어가 있기 때문에 살피지 못한 오류가 프로그램에 남아 있을 수 있다”고 설명했다. 이어 “3월 말 정부24에서 성적증명서가 잘못 발급되고 정부가 관련 시스템을 고쳤지만 3주 뒤 납세증명서를 발급받는 과정에서 비슷한 문제가 벌어졌다”면서 “프로그램을 잘못 개발한 업체만 문제 삼을 게 아니라 시스템에 참여한 다른 업체들을 대상으로 실수가 없는지 점검하고 프로그램이 정상 작동되는지 체크해야 한다. 그러지 않으면 사고는 반복될 수밖에 없다”고 말했다. 프로그램 개발 단계부터 시스템 가동 이후까지 전산망의 취약점을 집중 분석하는 ‘디지털 감리’를 충실히 해야 한다는 게 전문가들의 공통된 지적이다. 다만 정부가 직접 감리 기능을 가질지, 전문업체에 맡기고 책임성을 강제할지에 대해서는 의견이 엇갈린다. 안문석 고려대 행정학과 명예교수는 “프로그램 개발을 민간에 맡기는 것은 당연하지만 그 기업이 끝까지 임무를 완수하는지 관리하는 컨트롤타워 기능은 정부가 해야 한다. 이걸 정보업계에서는 감리 기능이라고 한다”고 강조했다. 이어 “업체가 시스템의 밑그림을 그릴 때부터 정부가 조언하고 중간에도 오류가 없는지 확인할 필요가 있다”면서 “업무 부담이 커질 수는 있지만 전산망 오류로 인한 국민 피해를 줄이기 위해서 꼭 필요한 역할”이라고 했다. 이와 관련, 대통령 직속 디지털플랫폼정부위원회는 지난달 제5차 전체회의에서 전문성 있는 감리업체가 품질을 관리하는 책임감리 도입 등을 추진하기로 했다. 행정전산망은 특정 민원 수요가 집중되는 시기가 있는 만큼 ‘1년 주기 시나리오’를 만드는 등 중장기적 대책이 필요하다는 목소리도 나온다. 김명주 서울여대 정보보호학과 교수는 “정부24의 과부하 오류를 막기 위해 ‘1년 주기 시나리오’를 만드는 것도 방법이다. 민원 업무마다 사람들이 몰리는 시기가 다르기 때문”이라며 “5, 6, 7월에 각각 어떤 민원이 몰리는지 사전 조사하고 연결 프로그램이 몰리는 상황에도 정상 작동하는지 체크해야 한다”고 제언했다. 김명주 교수는 “민간에 발주를 주는 정부에 검증은 가장 중요한 역할”이라며 “오류는 언제든 발생할 수 있고 개발자의 수준에 따라 프로그램 질에 차이가 있지만 국민에게 선보이기 전 최종 점검하는 책임은 정부가 갖고 있다”고 말했다. 김승주 고려대 정보보호대학원 교수는 지난해 ‘새올’의 셧다운으로 주민센터가 멈췄던 사건과 이번 개인정보 유출 사건은 정부의 ‘안이한 태도’에서 비롯됐다고 지적했다. 새올 셧다운은 라우터(하드웨어) 부품 불량이 원인이었고 정부24는 프로그램(소프트웨어) 설계가 잘못됐지만 둘 다 사전 테스트를 충분히 하지 않은 탓이라는 것이다. 김승주 교수는 “부품 교체든 시스템 교체든 통상적으로 정상 작동 여부를 테스트한 뒤 현장에 적용하는 게 원칙”이라며 “오류 발생 가능성은 늘 있는데도 테스트를 소홀히 했기 때문에 전산망 문제가 끊이지 않고 있는 것”이라고 주장했다.

생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별 표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽다는 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 제니퍼의 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다. 업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별 표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지 의무 등이 담겨 있다. 하지만 다음달 임시 국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”면서 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.

넷플 다큐에 AI 이미지 사용 논란무분별한 AI 활용에도 제한 없어“의무 규정 없다면 AI 제작 숨길듯”‘AI 기본법’ 1년 넘게 국회 계류중 생성형 인공지능(AI)을 활용한 콘텐츠들이 쏟아지면서 AI로 만든 이미지나 영상이 다큐멘터리 장르에도 활용돼 논란이 일고 있다. 실제 사건이나 현상을 다루는 다큐멘터리의 특성상 AI로 만든 ‘가짜’를 아무런 표기 없이 사용하면 실제 촬영한 것으로 혼동하거나 사실이 왜곡될 가능성도 있어서다. 게다가 최근 동영상 생성 AI ‘소라’(Sora)가 출시돼 누구나 손쉽게 AI로 영상을 만들 수 있게 되면서 사건과 무관한 영상이 사용된 콘텐츠도 늘어날 것으로 보인다. 이런 상황에서 AI로 제작한 콘텐츠에 대한 식별표시(워터마크) 의무화 등을 담은 법안이 21대 국회에서 폐기될 처지에 놓여 AI 콘텐츠의 무분별한 사용에 대한 우려가 커지고 있다. 30일 업계에 따르면 넷플릭스가 지난 10일 공개한 다큐멘터리 ‘제니퍼는 무슨 짓을 했는가’에 사용된 사진이 AI로 만들어 낸 이미지라는 의혹이 제기돼 잡음이 일었다. 제니퍼 팬이 파티를 즐기는 모습을 포착한 사진에서 손가락 모양, 치아 등이 실물과 다르고 부자연스럽단 지적이 제기됐다. 캐나다에서 2010년 부모를 청부 살인한 혐의로 체포된 실화를 다룬 다큐멘터리인 만큼 현실과 가상의 구분을 흐리는 AI 활용은 별도의 표기가 필요하다는 비판이 나왔다. AI로 만든 이미지나 영상은 유튜브에서도 빈번하게 사용된다. 범죄 사건을 다루는 유튜브 채널을 보는 직장인 하모(28)씨는 “AI로 만든 이미지를 보고 해당 사건의 범인으로 착각한 적도 있다”며 “영상에서 실제 범인을 설명하며 사진이 나오다 보니 ‘범죄자 사진을 어떻게 구한 거냐’고 묻는 다른 구독자들도 많다”고 전했다. 영상 제작업계 관계자는 “영상의 몰입감을 방해할 수 있어 의무 규정이 생기기 전까지는 굳이 AI로 제작했다는 사실을 밝히지 않을 것”이라고 전했다.업계에서는 AI를 활용한 영상이나 이미지 사용이 더 많아질 것으로 본다. 지금도 중년 배우의 청년 시절 장면을 재현하는 경우나 재연이 어려우면 다큐멘터리 등 사실성이 중요한 장르에서도 AI 기술을 활용한다. AI가 만든 콘텐츠가 일상을 파고드는 만큼 식별표시나 제작 가이드라인 등 최소한의 기준이 필요하다는 목소리가 높지만 AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)은 1년 넘게 국회에 계류 중이다. 이 법안에는 이용자 보호를 위한 규제와 고위험 AI에 대한 사전 고지의무 등이 담겨있다. 하지만 다음달 임시국회가 열려도 여러 절차가 남은 만큼 21대 국회에서는 법안 통과가 쉽지 않다. 김명주 바른AI연구센터장은 “방송통신심의위원회에서 AI 생성물에 워터마크를 의무화하기로 했지만 AI 기본법이 통과되기 전에는 자율 규제에 불과해 강제성이 없다”며 “AI가 만든 콘텐츠에 대한 제도적인 정비가 시급하다”고 말했다.

생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.

인공지능(AI) 펀드매니저의 수익률이 산전수전 다 겪은 전문 투자자보다 나을까. AI가 체스, 바둑에서 인간을 앞지른 건 오래전 일이다. AI는 인간의 전유물인 줄 알았던 예술 창작의 영역마저 넘보는 중이다. 모르는 것도 못 하는 일도 없어 보이는 AI에게 ‘성투’(성공적 투자)는 그리 어려운 숙제 같지는 않다. 머지않은 미래 AI에게 밀려 인간 펀드매니저가 사라지는 것은 아닐까.로보어드바이저 각광“아직 초기 단계지만무한 가능성 열릴 것” 미국 월가에서 AI에게 금융인들이 의자를 빼앗기고 있는 건 이미 오래된 현실이다. 일례로 미 대형 투자은행 골드만삭스는 2017년 AI 투자분석 프로그램을 도입한 뒤 애널리스트를 600명 가까이 해고했다. 회사가 도입한 분석 프로그램은 당시 애널리스트 15명이 4주에 걸쳐 할 일을 5분 만에 처리한 것으로 알려졌다. 펀드매니저는 어떨까. AI를 통한 투자가 국내에 첫선을 보인 것은 8년 전인 2016년이다. 지금과 비교하면 초보적인 수준이었지만, 로보(robo)와 자문 전문가를 뜻하는 어드바이저(advisor)를 합친 ‘로보어드바이저’라는 이름으로 서비스가 도입됐다. 실험적으로 도입됐지만 현재 로보어드바이저를 사용하지 않는 금융사는 거의 없다. 로보어드바이저가 고객에게 조언하고 돈을 굴리려면 먼저 한국거래소의 정보기술(IT) 자회사 코스콤의 안전성 평가를 통과해야 한다. 지난 15일 기준 코스콤의 심사를 통과해 서비스 중인 로보어드바이저는 356개다. 코스콤은 로보어드바이저를 투자 성향별로 ▲안정추구형 ▲위험중립형 ▲적극투자형으로 구분한다. 17일 코스콤에 따르면 지난해 4분기(9~12월) 위험중립형 로보어드바이저 수익률은 3%다. 숫자만 보면 로보어드바이저가 벤치마크하는 코스피200지수 수익률 9.57%에 크게 못 미친다. 보다 공격적인 투자를 하는 적극투자형 로보어드바이저 수익률은 4.41%, 반대로 안정추구형 로보어드바이저 수익률은 1.87%로 역시 미흡했다. 같은 기간 코스피 수익률이 7.72%, 코스닥 수익률이 3.04%였으니 로보어드바이저 성적표가 좋았다고 보기는 어렵다. 시원찮은 수익률에 투자자 반응은 차게 식었다. 로보어드바이저 계약자 수는 지난해 상반기 37만 6122명에서 지난해 말 29만 2532명으로 줄었다. 같은 기간 운용 금액도 1조 9396억원에서 7579억원으로 급감했다. 이 결과만 놓고 로보어드바이저 능력을 판단하면 오산이다. 로보어드바이저는 위기에 강한 ‘배짱 좋은 구원투수’의 모습을 보여 줬다. 글로벌 주식시장이 크게 침체했던 2022년 당시 코스피200 지수 수익률은 -26.15%, 코스피와 코스닥 수익률은 각각 -24.89%와 -34.30%를 기록했다. 반면 위험중립형 로보어드바이저 평균 수익률은 -8.95%였다. 안정추구형은 -6.09%, 적극투자형은 -11.91%로 상대적으로 선방했다.위험관리 능력 탁월수익률 방어 안정적퇴직연금 등에 적합 금융업계에선 현재 로보어드바이저는 ‘공격보다는 수비에 강하다’고 입을 모은다. 코스콤 측은 “미국 금리인하 기대감 등으로 주요국 주가지수가 대부분 상승했던 지난해 4분기 안전자산 비중이 큰 로보어드바이저의 성과는 상대적으로 부진했다”면서 “불확실성이 큰 시기에는 위험관리 능력이 뛰어난 로보어드바이저가 양호한 성과를 낼 것”이라고 밝혔다. 사람은 위기 때나 변동성이 큰 장에서 판단력이 흐려지는 경우도 많지만 AI는 다르다. 속된 말로 ‘폭락장에도 쫄지 않는다’는 이야기다. 증권업계 관계자는 “AI는 과거 데이터를 바탕으로 포트폴리오를 구성하기 때문에 일희일비하거나 시황에 휘둘리지 않는다”면서 “안정적인 수익률을 추구가 목표여서 장기 투자, 손실 방어에 강하다. 안정적인 노후 대비를 위한 퇴직연금 등을 관리하는 데 적당하다”고 말했다. 은행, 증권사, 핀테크사 등의 홈페이지나 휴대전화 애플리케이션(앱)에 접속해 로보어드바이저 상품에 가입할 수 있다. 사별로 조금씩 다르지만, 대체로 로보어드바이저 서비스에 가입하고 본인의 투자 성향을 입력하면 자신만의 AI 펀드매니저를 가질 수 있다. 로보어드바이저 역시 자신의 판단이 틀리면 궤도 수정을 한다. 시장 상황에 따라 포트폴리오 세부 종목을 리밸런싱(재조정) 하는 식이다. 재조정 주기는 로보어드바이저별로 다르다. 부자가 아니어도 프라이빗뱅킹(PB) 서비스를 누릴 수 있다는 것이 강점이다. 기존 PB 서비스를 받으려면 최소 수억원의 금융자산이 있어야 하지만 로보어드바이저의 최소 가입 금액은 10만~300만원 정도다. 로보어드바이저 서비스는 크게 투자자문형과 일임형으로 나뉜다. 자문형은 종목이나 매수·매도 타이밍 등을 추천만 한다. 투자자의 최종 승인이 없으면 실제 투자가 진행되지 않는다. 일임형은 말 그대로 AI가 알아서 돈을 굴려 준다. 투자자 대다수가 일임형을 선택했다. 자문형 가입자는 지난해 말 기준 822명에 불과하다.맞춤형 투자 제안각자 투자 성향 선택소액도 서비스 가능 오는 6월부터는 400조원에 달하는 퇴직연금 시장에서 로보어드바이저 일임 서비스가 가능해진다. 그간 퇴직연금의 경우 로보어드바이저는 투자 자문만 가능했다. 그러나 지난해 정부는 혁신금융 샌드박스를 통해 퇴직연금도 로보어드바이저에 일임할 수 있게 했다. 로보어드바이저 핀테크 기업 콴텍 관계자는 “투자에 익숙하지 않은 퇴직연금 고객들도 로보어드바이저를 통해 보다 적극적으로 자산을 운용할 수 있을 것”이라고 밝혔다. 로보어드바이저의 AI는 챗GPT가 대표하는 ‘생성형 AI’와는 다르다. 생성형 AI는 텍스트, 오디오, 이미지 등 이미 존재하는 콘텐츠를 활용해 새로운 콘텐츠를 만든다. 문제는 거짓 정보를 사실처럼 그럴듯하게 포장하는 생성형 AI 특유의 ‘할루시네이션’(환각) 현상이다. 거짓말을 할 수 있으니 투자용으로는 적합하지 않다. 로보어드바이저에 활용하는 AI는 데이터에서 ‘분석형 AI’다. 분석형 AI는 수많은 알고리즘, 방대한 빅데이터를 해석해 결론을 낸다. 분석형 AI의 답변은 일관적이다. 질문에 따라 대답이 달라지고 하나의 질문에 여러 답변이 나오는 생성형 AI와 달라 분석형 AI는 투자에 적합하다는 평가다. 전문가들은 로보어드바이저의 가능성에 주목한다. 최병호 고려대 인공지능연구소 교수는 “AI 바둑 프로그램 알파고는 인간이 가지고 있지 않은 수를 둔다”면서 “주식도 금융도 인간의 수준에서 ‘정석’이라는 것이 있다. 하지만 AI는 인간의 정석을 뛰어넘는 투자를 할 수 있을지 모른다. 무한한 가능성이 열릴 것”이라고 했다. 서울여대 바른AI연구센터장인 김명주 정보보호학과 교수는 “기술이 더 좋아지면 로보어드바이저 수익률이 실적 나쁜 인간 펀드매니저보다 높아질 수 있다”고 했다. 김 교수는 “주가에 영향을 줄 수 있는 정보를 즉각적으로 알고리즘에 반영해야 하는데 아직 우리 로보어드바이저 기술이 그 정도가 안 돼 수익률이 기대에 못 미치는 것”이라면서 “앞으로 로보어드바이저가 데이터를 습득하고 반응하는 속도가 빨라지면 얘기가 달라질 것”이라고 밝혔다. 반면 김형중 고려대 정보보호대학원 교수는 “AI가 분석과 해석의 영역에서 빠르고 정확할 수는 있다. 하지만 현실에서는 과거의 패턴과 다른 일이 수시로 발생한다. 벗어난 돌발 상황에 AI가 제대로 대처할 수 있을지는 여전히 의문”이라면서 “로보어드바이저가 인간보다 뛰어난 점은 정해진 절차를 빠르게 수행한다는 것이다. 인간을 보조하고 지원하는 정도에 그칠 것이다. 대체는 무리”라고 말했다. 돌발상황 대처 의문“패턴 벗어나면 오류인간 대체하진 못해” 서기수 서경대 금융정보공학과 교수는 “기술적으로 AI가 펀드매니저를 대신하는 것은 지금도 가능하다”면서도 “자율주행자동차 사고가 났을 때 책임 소재를 묻기 어려운 것처럼 로보어드바이저 투자 실패 때 그 책임을 두고 논란이 일 수 있다. 결국 최종 판단은 인간의 몫”이라고 했다. 최근 산업연구원 보고서에 따르면 금융업에서는 AI 때문에 일자리가 사라질 위험군의 99.1%가 경영·금융 전문가로 나타났다. AI가 인간 펀드매니저를 완벽하게 대체하는 날이 올까. 우울한 현실은 생각보다 가까울 수 있다.

경남 밀양시가 삼양식품 K-푸드 중심지로 도약한다. 경남도는 삼양식품이 3만 4576㎡ 규모 밀양 2공장을 건립하고자 6일 첫 삽을 떴다고 밝혔다. 지난해 9월 20일 경남도와 삼양식품이 맺은 투자협약이 이행된 것이다.밀양시 북부면 나노융합국가산업단지에 들어서는 삼양식품 제2공장은 사업비 1643억원을 들여 2025년 6월 준공을 목표로 한다. 2공장에서는 연 5억 6000만개 라면을 생산할 수 있다. 이미 가동 중인 밀양 1공장과 합하면 연간 12억 개 라면을 생산할 수 있는 국내 최대 규모 생산시설이 밀양에 자리 잡는 셈이다. 삼양식품은 밀양 2공장을 미주 시장을 겨냥한 기지로 활용한다는 계획이다. 150여명도 신규로 고용할 예정이다. 기존 밀양 1공장에서는 중국 시장을 기반으로 수출을 늘린다. 경남도는 삼양식품 2공장 건립으로 지역 경제 활성화, K-푸드 위상 강화, 글로벌 식품 선도 기업 육성·성장을 기대했다. 창립 이래 제2전성기를 맞은 삼양식품이 밀양에서 생산한 제품을 앞세워 세계적인 식품 기업과 경쟁하고 K-푸드 위상을 높이는 글로벌 식품 선도기업으로 성장하리라 본다. 김명주 경상남도 경제부지사는 “삼양식품과 경남이 함께 도약할 수 있는 계기를 만들어 준 것에 대해 감사하다”며 “우리 경남에 투자한 기업이 안정적인 성장과 발전을 해 나갈 수 있도록 기업애로 해소와 적극적인 지원에 노력하겠다”고 밝혔다. 삼양식품은 경남도와 2019년 12월 밀양 1공장 건립을 위한 투자협약 이후 2022년 5월 밀양나노융합국가산단에 1공장을 준공한 바 있다. 도는 삼양식품이 지자체·관계기관 지원에 힘입어 대규모 투자 결정으로 지역경제 활성화를 견인하고 있다고 평가했다.

챗GPT 개발사인 오픈AI의 샘 올트먼이 만든 새 가상화폐 ‘월드코인’의 가격이 최근 한 달새 두 배 이상 급증하면서 국내에서도 월드코인을 구하기 위해 홍채 인증을 하려는 사람들이 몰려 들고 있다. 올트먼이 설립한 월드코인재단에서 식당이나 카페 등 곳곳에 인증기기를 설치해 놓고 홍채를 인증하면 월드코인을 지급하기 때문이다. 지난 28일 기자가 월드코인을 받을 수 있는 서울 중구 을지로의 한 카페를 찾아 직접 홍채 인식을 해보니 개인정보와 관련해 여러 가지 문제점이 나타났다. 월드코인을 만든 올트먼은 앞으로 온라인에서 인공지능(AI)과 진짜 사람을 구별할 수 없게 되는 시대를 대비해 홍채 인증과 같은 신원 확인이 필요하다고 주장한다. 이를 대비해 일종의 디지털 신분증인 ‘월드 ID’를 만들었는데, 이용자가 홍채를 인증해 월드 ID를 만들면 월드코인을 지급해 주는 식이다. 현재 국내에는 월드코인 개발사인 툴포휴머니티(TFH)의 홍채 인증기기인 오브(Orb)가 설치된 카페, 식당 등이 10곳 있다. 그 중 한 곳을 방문해 기기에 눈을 대고 스캔하자 가상자산 지갑 ‘월드앱’에 코인 10개가 들어왔다. 이런 식으로 2주마다 3개씩 1년간 총 76개의 월드코인을 받을 수 있다고 기기 운영자는 설명했다. 현재 거래가로 계산하면 홍채 인증으로 80만원 상당의 새 가상자산을 받게 되는 셈이다.월드코인은 최근 오픈AI가 생성형 AI로 동영상을 제작하는 ‘소라’(Sora)를 출시한 이후 가격이 급등했다. 1일 가상자산 시황 중계 사이트 코인마켓캡에 따르면, 이날 오전 11시 월드코인의 가격은 1만 137원을 기록했다. 지난달 1일(3220원) 대비 약 214% 오른 것이다. 국내 원화 거래소인 빗썸에서도 같은 시간 1만 670원대에 거래되고 있다. 그러자 국내에서도 홍채를 등록하고 월드코인을 보유하려는 사람들이 몰리기 시작한 것이다. 언젠가 비트코인처럼 가격이 오를지 모른다는 기대감 때문인지 현장에서 만난 이용자들은 민감 정보를 등록하는 것에 대한 거부감은 크게 없어 보였다. 기자가 홍채를 등록한 을지로 카페에서 만난 김모(72·여)씨는 “같이 일하는 사람들 사이에서 공짜로 코인을 받을 수 있다는 얘기가 나와 함께 방문했다”면서 “눈만 잠시 가져다 대면 된다니 별 문제가 될 것 같진 않다”고 말했다. 서울 여의도에서 홍채를 인증하고 월드코인을 받은 직장인 이모(27)씨도 “이미 지문도 여러 금융사에 등록돼 있는데 홍채라고 별다를 게 있을까 싶다”고 말했다.월드코인 관계자는 “지점별로 하루 평균 방문객이 예전에는 5명 정도였는데 최근에는 200명씩 찾아오고 있다”면서 “방문객은 20대부터 80대 어르신까지 다양하다”고 말했다. 내 홍채 정보 어디에 쓰일지도 모르는데… 그러나 아직 검증되지 않은 가상자산을 그것도 개인의 민감한 생체정보를 등록하고 받는다는 점에서 여러 가지 문제가 제기된다. 우선 개인의 홍채 정보를 제공하면 가상자산을 지급하는 방식을 놓고 ‘개인정보 매매’ 논란이 제기된다. 김명주 서울여대 정보보호학과 교수는 “홍채는 개인의 고유 정보로 이를 수정할 수 없기 때문에 어떤 형식으로도 사고파는 것은 불법”이라고 말했다. 다만 “(돈이 아니라) 코인이라는 점에서 매매로 단정짓기는 어렵다”며 “이것이 매매행위에 해당하는 것인지를 먼저 따져본 뒤 개인정보보호법이 지켜지는지 봐야할 것”이라고 설명했다. 홍채 등록 과정에서도 개인의 등록 정보가 어디에 어떻게 쓰이는지 알기 어려웠다. 국내 개인정보보호법상 개인정보 수집 목적, 이용 기간 및 방법, 국외 이전 가능성 등을 사전 고지해야 하지만, 이런 설명은 듣기 어려웠다. 전문가들은 법 위반 소지가 있다고 지적한다. 최진홍 법무법인YK 변호사는 “사전에 알린 목적이 아닌 다른 목적으로 개인의 생체 정보들을 이용하는 경우 수집 단계부터 위법하다고 볼 수 있다”며 “해외에 있는 서버로 생체 정보를 옮겨 사용하겠다는 방침도 충분히 설명됐는지 확인할 필요가 있다”고 말했다.월드코인은 이렇게 수집한 홍채 정보를 블록체인에 데이터 형태로 저장하고 원본 데이터는 지운다고 설명한 바 있지만, 한번 정보를 이전하고 나면 어떻게 이용되는지는 사실상 확인할 길이 없다. 이러한 우려 때문에 미국에서는 월드코인 발급과 거래 자체가 불가능하며, 영국과 프랑스, 독일은 위법성 여부에 대한 조사에 착수한 상태다. 황석진 동국대 국제정보보호대학원 교수는 “금융 모바일 앱의 보안인증처럼 개인정보는 사용 목적과 용도를 명확히 하고 수집해 활용해야 한다”며 “정기적으로 개인정보 이용 현황을 제공자에게 알려야 하고 파기 기한도 정해야 하지만 월드코인의 약관에 이런 부분까지 명시돼 있을지는 확실하지 않다”고 말했다.

한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 여럿 수상했지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. #AI 화가 ‘미드저니’‘멸종위기종’ 한국 어린이 그려주최 측 “창의·기획력 등 평가” 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출산 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽게 표현되지 않은 것을 두고 AI가 그려 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 “생성형 AI 미드저니를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 프로젝트 펀딩을 받기 전 AI 활용 여부와 범위를 명확하게 밝히도록 권고한다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. #AI 제작물의 저작권단순 명령어 입력하는 것 넘어핵심 아이디어·추가 작업 필수 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 쓴 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 김명주 서울여대 정보보호학과 교수는 “AI로 손쉽게 만든 그림이나 글은 창작자들이 공들여 만든 데이터를 학습한 결과이기에, 학습 데이터를 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 자신의 저작권을 주장하지 않고 AI를 금지한 공모전도 생긴 것”이라고 설명했다. 손승우(중앙대 법학과 교수) 한국지식재산연구원장도 “예술인의 권한을 침해하지 않도록 AI를 발전시키고 공모전도 기준을 세워야 한다”고 강조했다.

한국방송광고진흥공사(코바코)가 ‘2023 대한민국 공익광고제’ 대상(대통령상)으로 선정한 포스터(인쇄물) ‘멸종위기 1급 대한민국’이 생성형 인공지능(AI)을 활용해 만든 작품이라는 사실이 뒤늦게 알려져 논란이 일고 있다. 미국 등 해외에서는 AI를 활용한 작품이 수상한 사례가 있었지만, 국내에서 이런 사례가 알려진 건 이번이 처음이다. 주최 측은 최근에야 이를 인지했지만, 수상에는 문제가 없다는 입장이다. AI를 활용하는 콘텐츠가 늘어나는 상황에서 창작자를 보호하고 작품의 의미를 제대로 감상하기 위해선 제작 과정도 투명하게 공개해야 한다는 지적이 나온다. 28일 서울신문 취재를 종합하면 지난해 11월 공익광고제 대상으로 선정된 ‘멸종위기 1급 대한민국’ 포스터는 텍스트를 통해 이미지를 생성하는 AI ‘미드저니’로 제작한 것으로 확인됐다. 해당 포스터는 동물원의 펭귄처럼 여자아이가 ‘멸종위기종’으로 표시돼 전시된 듯한 역설적 상황을 표현하고 있다. 저출생 위기의 심각성을 조명한 것이다. 그런데 아이의 손가락 관절이 잘 두드러지지 않고 귀 등을 그린 선이 매끄럽지 않아 AI가 그렸기에 그림의 완성도가 떨어진 것 아니냐는 의혹이 제기된 바 있다. 코바코 관계자는 서울신문과 통화에서 “생성형 AI ‘미드저니’를 이용해 이미지 소스를 만들고 포토샵 작업을 한 것으로 파악됐다”고 밝혔다. 앞서 2022년 미국 콜로라도 주립 박람회 미술 대회 디지털 아트 부문에서도 미드저니를 활용한 작품이 선정되면서 논란이 번지기도 했다. 국내에서는 비슷한 논쟁을 우려해 아예 AI 사용을 금지하는 공모전이 적지 않다. 네이버웹툰은 지난해 2차 ‘지상최대공모전’부터 AI를 활용하지 않아야 한다고 정했고, 카카오엔터도 같은 해 공모전 ‘인간이 웹툰을 지배함’에서 AI 활용을 금지하고 사람이 그렸다는 걸 인증할 자료를 내도록 했다. 크라우드펀딩 사이트 ‘텀블벅’은 지난해부터 프로젝트 펀딩을 받기 전에 AI 활용 여부와 범위를 명확하게 밝히도록 권고했다. 하지만 공익광고제의 경우 출품 규정에서 AI를 활용할 수 있는지를 정하지 않았다. AI 사용 여부를 별도로 심사하지 않기에 작가가 공개하지 않는다면 이를 알 수 없다. 코바코 관계자는 “법적 공백이 있는 상황에서 AI를 활용한 작품 지원을 막을 수도, 장려할 수도 없다”면서 “창의력·기획력·소구력·완성도를 기준으로 평가했고, 1·2차 예심·본심이나 대국민 검증 등에서 저작권이나 모방 등 문제도 제기되지 않아 괜찮다고 판단한다”고 밝혔다. 해당 포스터를 만든 팀이 속한 광고대행사는 유튜브에 ‘미드저니로 공모전 출품하기’라는 제목으로 수상을 홍보하기도 했다. 회사 관계자는 “그동안 촬영이나 포토샵 등 다양한 도구를 사용했는데 미드저니 등 AI를 활용한 광고가 많아졌다”면서 “많은 아이디어를 발전시키는 과정에서 반전을 줄 수 있는 안을 골랐고 펭귄과 아이 등 이미지를 포토샵으로 다시 편집했다”고 설명했다. 이를 두고 AI를 활용했더라도 아이디어의 독창성이 중요하다는 의견과 AI가 만든 콘텐츠는 기존 저작물을 학습한 결과라는 의견이 엇갈린다. 현재 저작권법상 저작물에 대한 권리는 인간만 인정받지만, 생성형 AI를 활용하더라도 인간이 얼마나 개입했는지에 따라 저작권이 인정될 수 있다. 단순히 명령을 내리는 게 아니라 핵심적인 아이디어를 내고 충분히 창의적인 추가 작업을 하면 저작권이 인정된다는 얘기다. 미국 저작권청도 미드저니를 활용해 만든 크리스 카사티노바의 만화책 ‘여명의 자리아’에 대해 스토리나 이미지를 선택하고 배치한 건 작가의 저작권을 인정했지만, AI가 만든 그림 자체는 저작권을 인정하지 않았다. 하신아 웹툰작가노조 위원장은 “인간에게만 저작권을 보장하는 건 인간이 계속 창작할 수 있도록 창작 의욕이나 생활을 보호하기 위해서다”며 “식품에 원산지를 표기하는 것처럼 AI를 얼마나 활용했는지도 밝혀야 하는 시대가 왔다”고 말했다. 김명주 서울여대 정보보호학과 교수는 “AI로 손 쉽게 만든 그림이나 글은 창작자들이 공 들여 만든 데이터를 학습한 결과이기에, 학습 데이터의 저작권도 보호해야 한다”면서 “법적 책임을 피하기 위해 AI 회사가 당장은 자신의 저작권을 주장하지 않고, AI 사용을 막는 공모전이 생긴 것”이라고 설명했다. 손승우 한국지식재산연구원장(중앙대 법학과 교수)도 “AI를 활용한 결과물이 기존 문화예술인의 권익을 침해하는 등 윤리적, 법적 문제가 발생할 수 있다”면서 “AI가 기존 저작물을 침해하지 않도록 발전시키고, 공모전도 출품작에 대한 기준을 세워야 한다”고 강조했다.

인공지능(AI)으로 만든 가짜 영상과 음성, 사진 등 딥페이크 저작물로 인한 폐해가 전 세계적으로 거세다. 특히 우리나라와 미국을 비롯해 올해 선거를 치르는 국가가 76개국에 달하면서 딥페이크 허위 조작 정보가 여론을 호도해 민주주의를 위협할 수 있다는 우려가 크다. 구글, 오픈AI, 마이크로소프트 등 글로벌 빅테크 기업 20곳이 최근 독일 뮌헨안보회의에서 유권자를 속이는 ‘선거 딥페이크’에 공동 대응한다는 협약을 발표한 것도 상황이 그만큼 심각하다는 방증이다. 챗GPT 등장 이후 상상을 초월하는 속도로 빠르게 진화하는 AI 기술을 올바르게 활용하는 방안은 무엇일까. 김명주 서울여대 바른AI연구센터장(정보보호학부 교수)은 “AI 악용과 오남용을 막는 법과 규제는 꼭 필요하지만 사후적 성격이어서 한계가 있다”며 “안전하고 신뢰할 수 있는 AI 윤리에 대한 공론화가 중요하다”고 했다. 2018년 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만드는 등 국내 AI 윤리 연구를 선도해 온 그를 지난 13일 인터뷰했다.-딥페이크 악용으로 선거의 공정성이 훼손되고 민주주의가 혼란에 빠질 수 있다는 경고음이 커지고 있다. “지난달 미국 뉴햄프셔주 예비 경선을 앞두고 조 바이든 미국 대통령의 목소리를 흉내 낸 가짜 전화가 민주당 당원들에게 돌아 충격을 줬다. 지난해 5월 튀르키예 대선에선 테러 집단이 야당 후보를 지지하는 내용의 딥페이크 영상이 유포돼 결과적으로 집권당 승리에 도움을 줬다. 딥페이크 선거운동에 대한 우려가 현실로 드러난 단적인 사례들이다. 사실에 기반한 유권자의 투표 행위라는 선거의 기본적 신뢰를 무너뜨리는 것으로, 민주주의를 흔드는 매우 심각한 위험이다.” -우리나라는 4월 총선을 앞두고 지난해 말 공직선거법을 개정해 선거 90일 전부터 딥페이크를 활용한 선거운동을 전면 금지했는데. “여야가 합의해서 선거에 AI를 사용하지 않기로 했지만 열성 지지자들이 개인적으로 제작해 유포하는 것까지 원천적으로 차단할 수는 없다. 중앙선거관리위원회가 전담팀을 구성해 단속하고 있으나 딥페이크 저작물 생성에 수분밖에 걸리지 않고 소셜미디어(SNS) 등을 통해 퍼지는 속도가 워낙 빠르기 때문에 현실적으로 대응하기가 쉽지 않다. 선거 하루 이틀 전이 가장 위험하다. 선관위가 딥페이크 여부를 확인하기 전에 투표가 끝나 버리는 상황을 노리고 상대 후보에게 타격을 주는 가짜 정보를 마구잡이로 퍼뜨릴 가능성이 높다. 가짜뉴스가 중도층의결정에 영향을 미쳐 선거판을 흔들 수 있다.” 선관위에 따르면 지난달 29일부터 지난 16일까지 적발된 딥페이크 게시물은 129건이었다. 딥페이크 선거 운동 금지법을 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 선관위 전담 인력 70여명이 3단계에 걸쳐 딥페이크 감별과 분석, 삭제 조치 등을 맡고 있다. -해외의 딥페이크 규제는 어떤가. “미국은 지난해 10월 바이든 행정부 주도로 AI로 만든 음성, 사진, 영상물에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 발표했다. 유럽연합(EU) 회원국이 이달 초 합의한 AI 규제법에도 AI 생성 표시를 의무화하는 내용이 포함돼 있다. 이 법은 2년 유예를 거쳐 2026년부터 시행된다. 글로벌 빅테크 기업들도 이런 흐름에 동참하고 있다. 다만 미국, EU를 제외한 국가 또는 중소 AI 기업은 법과 규제의 적용을 피할 수 있어 실효성이 떨어질 우려가 있다. 누구나 AI 허위 조작물을 만들 수 있을 정도로 딥페이크 기술이 대중화됐다. 규제를 너무 강하게 하면 그 규제를 따라가지 못하는 이들이 음지로 숨어 버려 부작용이 커지는 역효과가 날 수 있다. 규제의 적절한 기준을 도출하는 것이 중요하다.” -국내 AI 관련 법·규제 현황은. “과학기술정보통신부가 추진하는 AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회에 계류 중이다. 지난해 2월 과학기술정보방송통신위원회 법안소위를 통과했지만 시민단체가 반대해 멈춰 선 상태다. EU의 AI 규제법은 처음부터 만들지 말아야 하는 AI 금지 항목을 명확하게 규정하고 있는 것과 달리 우리는 AI 산업 진흥을 앞세워 규제가 느슨하다는 이유에서다. 챗GPT 등장 이후 규제론이 힘을 얻고 있는데 AI 기본법에 이를 반영해야 한다는 의견이 제기되면서 합의가 미뤄지고 있다. 미국과 유럽은 글로벌 AI 규제 주도권 경쟁이 한창이다. 지난해 11월 영국 런던에서 처음 개최된 ‘AI 안전 정상회의’의 후속 회의가 오는 5월 서울에서 열린다. 이를 계기로 우리도 글로벌 규제에 적극 대비해야 한다.” -지난해 11월 오픈AI의 샘 올트먼 CEO 사퇴 소동이 화제였다. AI 개발론자와 규제론자의 갈등이 극적으로 표출된 사건으로 주목받았는데. “오픈AI가 챗GPT를 출시했을 때 구글은 그보다 성능이 뛰어난 생성형 AI 기술을 개발한 상태였다. 다만 잠재적 위험을 제거할 수 있는 방안을 찾기 전까지 공개하지 않는다는 원칙을 지켰다. 그러나 이사진 요구에 떠밀려 바드를 출시했고 생성형 AI 개발 경쟁이 불붙었다. 그러나 AI의 급격한 발전으로 인한 부작용이 커지면서 규제론이 부상했다. AI 기술은 비가역적이다. 일단 세상에 나온 신기술은 되돌릴 수 없다. 시작 단계부터 올바른 발전 방향을 고민하고 사회적 담론을 형성하는 것이 중요하다. 오픈AI 사태로 AI 윤리에 대한 관심이 커진 것은 다행이다.” -법으로 규제하면 되는데 AI 윤리가 왜 필요한가. “법은 사후적 성격이고 정해진 조건에서만 적용되는 한계가 있다. 또한 AI 기술 발전 속도는 다른 기술보다 월등하게 빨라서 현실적으로 법이 기술의 발전 속도를 따라갈 수가 없다. 법보다는 윤리로 선제 대응해야 한다. AI는 스스로 학습할 수 있지만 윤리적 판단은 못 한다. AI에 양심이라는 코드를 넣어 준 적이 없기 때문이다. 결국 양심을 가진 사람이 AI를 잘 만들어 올바로 이용하고, 그에 따르는 책임을 져야 한다. AI 윤리가 중요한 이유다.” -AI 윤리의 핵심 원칙은. “투명성, 통제성, 책무성, 공공성 등을 꼽을 수 있다. AI의 행동과 판단 배경, 위험 가능성에 관한 정보가 투명하게 제공돼야 하고 모든 상황에서 언제든 인간이 개입해 통제할 수 있어야 한다. 또한 AI 기술이 사회와 개인에 부정적인 영향을 끼칠 경우 책임을 묻는 책무성도 기본이다. ” -AI 기술을 잘 활용하려면 어떻게 해야 하나. “비판적 시각을 갖는 게 중요하다. 이 세상에 완전한 기술은 없다. 첨단 기술이 나오면 ‘유용하기만 할까’, ‘조심해야 할 건 뭘까’ 등 질문을 해야 한다. 자신의 관점에서 기술을 소화하는 능력도 필요하다. AI 기술이 얼마나 위험한지 아무도 모른다. 누군가 문제를 발견하면 공론화하는 과정이 필요하다. 그래야 시행착오를 줄일 수 있다. AI 기술은 피할 수 없다. 그렇다면 악용이나 오남용하지 않고 목적에 맞게 잘 활용하는 방안을 지속적으로 고민해야 한다.” ● 김명주 센터장은 서울대 컴퓨터공학과 석·박사. 한국인터넷윤리학회 회장 역임. 2018년 국내 최초로 ‘인공지능 윤리 가이드라인 서울 팩트(Seoul PACT)’를 만든 공로로 근정포장 훈장 수상. 2019년 바른AI연구센터 설립. 현 인공지능윤리정책포럼 위원장, OECD 글로벌AI협의체 전문가. 저서 ‘AI는 양심이 없다’(2022).

“선관위, 영상 확인에 최소 하루선거 전날 유포 땐 대응 어려워”“딥페이크 저작물 엄격한 관리기술 발전 막는 방향은 안 돼” 중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인된 가운데 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른AI연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는 데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지, 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 애플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 총선 앞 국론 분열을 노린 북한이 딥페이크 영상을 유포하며 공격에 나설 수 있다는 의미다. 영국 옥스퍼드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업해야 한다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인되면서 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른 AI 연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니, 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만, 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 어플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수도 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 북한이 딥페이크 영상을 유포해 총선 앞 국론 분열을 노려 공격에 나설 수 있다는 의미다. 영국 옥스포드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업이 필요하다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.