찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • AI 악용
    2026-05-26
    검색기록 지우기
  • 반출
    2026-05-26
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
402
  • “딥페이크 화상회의 속아 340억원 거액 송금”…SK쉴더스, 상반기 보안 트렌드·AI 보안 전략 공개

    “딥페이크 화상회의 속아 340억원 거액 송금”…SK쉴더스, 상반기 보안 트렌드·AI 보안 전략 공개

    생성형 인공지능(AI) 기술이 일반화되면서 ‘딥페이크’(AI 기반 인간 이미지합성기술) 해킹 공격 등이 새로운 사이버 위협으로 등장했다. 딥페이크로 구현된 화상회의에 속아 340억원의 거금을 송금한 사례도 있었다. SK쉴더스(구 ADT캡스)는 2일 서울 중구 페럼타워에서 ‘2024 상반기 보안 트렌드 및 안전한 AI 활용을 위한 보안 전략 공개’ 미디어 세미나를 통해 올해 상반기 유형별 침해사고 통계를 공개했다. 이날 발표는 국내 최대 규모의 화이트해커 전문가 그룹인 SK쉴더스 ‘이큐스트’(EQST)가 상반기에 직접 경험한 사고 사례와 연구 결과를 토대로 분석한 내용을 바탕으로 진행됐다. 특히 이큐스트는 주목받고 있는 AI 거대언어모델(LLM)의 취약점을 이용한 공격 3가지를 시연하면서 보안 대책을 발표했다. 이큐스트는 가상자산 탈취와 딥페이크 해킹 공격 등이 올해 상반기에 화제가 됐다고 밝혔다. 지난 1월에는 전 세계적으로 사용되고 있는 ‘Ivanti VPN 솔루션’에서 제로데이 취약점이 발견돼 다양한 산업 분야에서 피해를 보았다. 2월에는 중국 정부 지원을 받는 것으로 알려진 ‘볼트 타이푼’이 미국의 주요 인프라 내부망을 공격했다는 사실이 밝혀졌다. 특히 딥페이크로 구현된 화상회의에 속아 340억원의 거금을 송금한 사례도 있었다고 이큐스트는 설명했다. 3월에는 공개 소스 ‘ZX Utils’에서 백도어가 발견됐고, 4월에는 LLM에 의해 작성된 악성 스크립트가 사용된 악성 메일 공격이 발생했으며, 5월에는 블록체인 기반의 게임 플랫폼이 해킹돼 300억원의 가상자산을 도난당하는 사건도 있었다.이큐스트가 분석한 업종별 침해사고 발생 통계에 따르면 국내에서는 금융업을 대상으로 한 침해사고가 20.6%로 가장 높은 비중을 차지했다. 반면 국외에서는 러시아, 이스라엘 등 국제 분쟁으로 인해 정부와 공공기관을 대상으로 한 공격이 26.7%로 가장 높은 순위를 차지했다. 유형별 사고 발생 통계로는 취약점 공격이 45%로 가장 많이 발생했다. VPN, 라우터 등 네트워크 장비를 이용한 지능형 지속 위협(APT) 공격 때문으로 조사됐다. 인간의 심리를 이용해 기밀을 탈취하는 수법인 ‘소셜 엔지니어링’ 공격도 26%로 뒤를 이었다. 특히 이큐스트는 생성형 AI가 급속도로 발전하면서 AI가 가져올 수 있는 보안 위협에 관한 연구 결과도 발표했다. 우선 프롬프트 인젝션은 악의적인 질문을 통해 AI 서비스 내 적용된 지침이나 정책을 우회해 본 목적 이외의 답변을 끌어내는 취약점이다. 악성코드 생성이나 마약 제조 피싱 공격 등에 악용될 수 있다.두 번째로 불완전한 출력 처리 취약점은 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생한다. 이는 다른 2차 공격으로 이어질 수 있다는 점에서 위험도가 높다. 예를 들어 공격자가 원격 접속 코드 실행 요청이 포함된 내용을 챗봇에 질문하고 챗봇이 원격 접속 코드를 실행하게 되면 공격자가 AI LLM 운영 서버에 접속해 중요 정보를 탈취할 수 있게 되는 방식이다. 마지막으로 이큐스트는 개인정보가 포함되거나 애플리케이션의 권한 관리가 미흡해 생길 수 있는 민감정보 노출 취약점을 분석하며 데이터베이스(DB) 정보를 탈취하는 공격을 시연했다. LLM 모델을 학습시킬 때 민감 정보 필터링이 미흡한 경우 LLM이 생성하는 답변에 학습된 민감정보가 출력될 수 있다는 점에서 학습 데이터에 가명 처리를 하거나 데이터를 검증하는 등의 추가적인 보완책이 필요하다고 이큐스트는 강조했다. 김병무 정보보안사업부장(부사장)은 “전 산업 분야에 AI 기술 접목이 확산하면서 이를 노린 보안 위협이 현실화하고 있어 이에 대한 체계적인 대비가 필요하다”고 했다.
  • “결혼해주세요” 미모의 女 이상형은…정체 공개되자 ‘발칵’

    “결혼해주세요” 미모의 女 이상형은…정체 공개되자 ‘발칵’

    최근 중국 소셜미디어(SNS)에서 한 여성 유튜버의 얼굴을 무단 이용해 “중국 남자랑 결혼하고 싶다” 등 중국을 찬양하는 인플루언서들이 대거 등장한 것으로 전해졌다. 24일 SBS 등에 따르면 우크라이나 출신 유튜버 올가 로이크는 중국 SNS에 자신의 얼굴을 한 여성들이 있다는 사실을 알게 됐다. 자신을 러시아 출신 중국 유학생이라 소개한 에이프릴은 SNS에서 “8년간 중국에서 거주했다”며 “중국 남자와 결혼하고 중국에 살고 싶다”고 말했다. 또 “중국을 좋아한다”, “러시아 여자들이 중국인과 결혼하는 것을 환영하냐”, “중국과 러시아의 우정이 영원히 지속되길 바란다”, “전 세계가 다 등 돌렸지만, 중국 형제자매만이 러시아를 포기하지 않았다” 등의 발언도 이어갔다. 유창한 중국어 실력을 갖춘 에이프릴은 ‘중국 예찬론’으로 유명한 인플루언서다. 러시아 식품 마케터라고 자신을 소개한 31세 여성 나타샤는 팔로워 14만명을 보유한 인플루언서다. 그는 “중국에서 러시아 음식을 판매하고 광고하는 러시아인”이라면서 러시아가 중국의 경제적 지원이 얼마나 필요한지 등을 말한다. 나타샤는 SNS에 올린 영상에서 “중국과 러시아의 우정은 영원하다”고 말한 뒤 러시아 사탕을 광고하고, 실제 구매가 가능한 주소를 첨부해 사탕을 구매하도록 유도하기도 한다.그런데 중국을 찬양하는 에이프릴과 나타샤의 얼굴은 쌍둥이처럼 닮아 있었다. 이 얼굴의 원형은 유튜버 올가 로이크다. 이들은 모두 AI 딥페이크로 만들어진 가상 인물이었다. 자신의 얼굴이 중국 SNS에서 쓰이고 있다는 사실을 안 올가 로이크는 “처음에는 조금 혼란스러웠고, 농담인 줄 알았다. 내 얼굴인데 중국말을 하고 있었고, 배경에는 (러시아) 크렘린이 있었다”고 전했다. 올가 로이크가 찾아낸 자신의 얼굴과 목소리 등을 활용한 AI 가상 인물 동영상만 5000개가 넘는다. 대부분 중국을 찬양하는 내용이고, 물건을 팔아 수익을 내는 경우도 있었다. 인공지능 응용 사업이 빠르게 발전하는 중국에서는 AI 기술이 다양한 분야에서 활용되고 있다. 24시간 온라인 쇼핑몰 운영을 위해 AI 쇼호스트가 동원되는가 하면, 먼저 세상을 떠난 가족을 AI로 되살려낸다는 이른바 ‘AI 부활’이 산업화하면서 곧 시장 규모 180조원대 달성을 눈앞에 두고 있다. 다만 올가 로이크의 사례처럼 동의 없이 이용되거나, 범죄 등 악용되는 경우가 늘자 중국 당국은 AI 개발과 규제를 위한 법안 마련에 착수했다. 한편 올가 로이크는 자신의 유튜브 영상을 통해 피해 사실을 밝히며 “주의하라”고 강조했다.
  • 에이아이스페라, IP 주소 기반 CTI 데이터 ‘크리미널 IP’ 스노우플레이크 입점

    에이아이스페라, IP 주소 기반 CTI 데이터 ‘크리미널 IP’ 스노우플레이크 입점

    사기 탐지 및 개인정보 보호 등 다양한 보안 운영에 활용 사이버 위협 인텔리전스(CTI) 전문 기업 에이아이스페라(AI SPERA·대표 강병탁)는 스노우플레이크(Snowflake) 마켓플레이스에 자사 CTI 검색엔진 ‘크리미널 IP’의 위협 탐지 데이터 판매를 시작한다고 10일 밝혔다. 스노우플레이크는 대규모 데이터 분석 처리를 위한 클라우드 기반의 데이터 웨어하우징 플랫폼으로, 마켓플레이스를 통해 다양한 데이터 워크로드와 데이터 도구 및 서비스와의 원활한 통합을 지원하며 높은 성능, 확장성, 사용 편의성을 제공한다. 에이아이스페라는 작년 8월부터 ‘크리미널 IP’의 CTI 데이터를 시범 배포하며 국내 기업 최초로 스노우플레이크 마켓플레이스에 입점한 바 있다. 또한, 작년 스노우플레이크가 개최한 ‘Data Cloud World Tour’ 컨퍼런스에서 비즈니스 운영 효율성을 높인 우수 데이터 플랫폼 활용 사례로 소개되기도 했다. 마켓플레이스에 등록된 CTI 데이터 2종은 각각의 활용 목적에 맞춰 데이터와 활용 사례를 제공한다. 첫번째로 사이버 위협 탐지에 특화된 ‘Criminal IP‘s Intelligence for Threat Detection & Incident Response’(악성 IP 데이터)는 악성 IP 주소의 연결된 도메인, 위험도, 악용 이력, C2 및 봇넷 여부, 국가 정보, ASN과 인증서 정보 등을 상세 정보를 제공한다. ‘크리미널 IP’는 AI 분석 알고리즘과 외부 평판 정보 등을 종합하여 IP 주소의 악성 여부를 판별하며, 악성 IP 주소 데이터를 사용 중인 보안 환경에 연동하는 것만으로 외부 위협을 사전에 탐지하고 네트워크 보안 및 취약점 관리를 용이하게 한다. 두번째는 악성 IP 주소 데이터에 우회 IP 주소를 더한 데이터가 부정 행위 탐지와 개인정보 보호에 특화된 ‘Criminal IP’s Intelligence for Fraud Detection and Privacy Protection(FDS 데이터)’이다. FDS 데이터는 이미 감염된 악성 IP 주소뿐만 아니라 악의적으로 활용될 수 있는 VPN, 토르, 프록시, 호스팅 IP 주소 여부를 파악해 잠재적인 부정 행위에 대비할 수 있다. 강병탁 에이아이스페라 대표는 “악성 IP 주소와 우회 IP 주소는 복잡한 사이버 환경에서 악성 행위를 차단하고, 효율적인 보안 운영을 실현할 수 있는 간단한 방법 중 하나”라며 “스노우플레이크 마켓플레이스에서 구매한 CTI 데이터는 매일 업데이트 되며, 스노우플레이크 DB에서 바로 사용 가능하기 때문에 글로벌 고객들에게 활용성이 높고 효과적인 보안 데이터가 될 것”이라고 전했다. 한편, 에이아이스페라의 ‘크리미널 IP’는 검색엔진, API, 데이터셋 등 다양한 형태로 제공돼 현재 150개 국가의 사용자를 보유하고 있다. 국내 최초로 개발한 공격 표면 관리 솔루션 ‘크리미널 IP ASM’과 이상 유저 탐지 시스템 ‘크리미널 IP FDS’를 출시하여 기업 및 기관의 글로벌 보안 솔루션 시장을 확대해 나가고 있으며, 시스코(Cisco), 바이러스토탈(VirusTotal), 테너블(Tenable), 스노우플레이크(Snowflake) 등과 같은 40 여개 글로벌 사이버보안 기업들과 전략적 제휴를 통해 글로벌 네트워크를 형성하고 있다. 최근, 애저 마켓플레이스와 AWS 마켓플레이스에 이어 스노우플레이크 마켓플레이스까지 글로벌 판매의 거점을 확장하고 있다.
  • 지역 살리고, 전문성 담고…슬기로운 의정생활 ‘1호 법안’

    지역 살리고, 전문성 담고…슬기로운 의정생활 ‘1호 법안’

    22대 국회 ‘1호 법안’ 발의 경쟁부산 여야 18인 공동 1호 발의“부산을 글로벌 허브 도시로”안철수, ‘AI 신뢰확보법’ 법률 마련 박정하, 혁신도시 지역인재 확대법 22대 국회 임기 시작과 동시에 여야 의원들이 앞다퉈 의정활동 4년의 각오와 방향을 담은 ‘1호 법안’을 발의했다. 치열한 여야 대치 가운데서도 부산에서는 18명의 여야 의원이 공동으로 ‘부산 글로벌 허브 도시 조성 특별법’을 1호 법안으로 발의했다. 국회 의안정보시스템에 따르면 22대 국회 개원 첫날인 지난 30일 하루에만 47건 등 31일 오후 5시 기준으로 56건의 법안이 접수됐다. 지역 유권자들과의 약속을 지키는 총선 공약도 ‘1호 법안’의 주를 이뤘다. 김한규(제주 제주을) 더불어민주당 의원은 희생자와 유족의 심사·결정을 분리해 신속한 심사가 가능하도록 하는 ‘제주4·3사건 특별법’ 개정안을 발의했다. 이철규(강원 동해·태백·삼척·정선) 국민의힘 의원은 ‘폐광지역 개발 지원 특별법 개정안’, 박정하(강원 원주갑) 국민의힘 의원은 혁신도시 인재 유입을 확대하고자 고등학교 졸업 후 다른 지역에서 대학을 졸업한 사람도 지역인재에 포함할 수 있도록 관련 법률을 손질하는 ‘혁신도시특별법 개정안’을 냈다. 여야 의원들이 지역 발전을 위해 힘을 합친 ‘1호 법안’도 나왔다. 17명의 국민의힘 의원과 전재수 민주당 의원 등 부산 지역 의원 18명이 함께 이름을 올린 ‘부산 글로벌 허브 도시 조성 특별법’은 교육과 문화, 관광 분야에 여러 특례를 두어 부산을 국제거점도시로 육성하는 특별법이다. 안철수 국민의힘 의원은 ‘인공지능(AI) 산업육성 및 신뢰확보법’을 발의했다. 안 의원은 “인공지능 기술이 특정 분야에서 인간의 통제수준을 넘어서서 고의로 악용될 수 있는 문제에 대한 법적 규제의 필요성이 있다”며 인공지능의 개발 및 이용에 관한 기본원칙과 사업자의 책무, 이용자의 권리를 규정하는 법적 장치를 마련했다. 앞서 시각장애인인 서미화 민주당 의원은 3박 4일간의 ‘오픈런’ 대기 끝에 1호 법안으로 교통약자 이동권 보장법을 제출했다. 비장애인이 이용하는 모든 교통수단과 여객시설에 장애인 등 교통약자의 접근권을 강화하는 내용을 담았다. 서 의원과 그의 보좌진은 지난 27일부터 3박 4일 동안 밤을 새워가며 국회 본관 의안과에서 대기했다. 장애인 접근권 보장의 간절함과 절박함을 강조하기 위해서다. 탈북 공학도 출신인 박충권 국민의힘 의원은 1호 법안으로 ‘이공계 지원 특별법’ 개정안을 발의했다. 개정안은 정부가 이공계 대학원생에게 연구생활장학금을 지원해 안정적인 학업과 연구를 수행할 환경을 조성하는 내용을 담고 있다. 또 이공계 인력이 병역을 수행하는 과정에서 연구 단절이 발생하지 않도록 과학기술정보통신부 장관이 국방부 등 관계기관과 협력해 병역특례 제도 등을 마련하는 내용도 담았다.
  • EU, 세계 첫 ‘AI 규제법’… 의료·자율주행은 AI 아닌 사람이 감독

    EU, 세계 첫 ‘AI 규제법’… 의료·자율주행은 AI 아닌 사람이 감독

    유럽연합(EU)이 세계 최초로 ‘인공지능(AI)법’을 최종 승인했다. 2026년 하반기부터 전면 시행될 이 법이 AI 관련 국제표준이 될 것이란 예측이 나오면서 미국 실리콘밸리 빅테크 기업들이 업계에 미칠 파장에 촉각을 곤두세우고 있다. EU 교통·통신·에너지이사회는 21일(현지시간) 벨기에 브뤼셀에서 열린 회의에서 AI법을 최종 승인했다고 AFP통신 등이 보도했다. 마티외 미셸 벨기에 디지털 장관은 “AI법 채택은 EU에 중요한 이정표”라면서 “이 법을 통해 유럽은 신기술을 다룰 때 신뢰와 투명성, 책임의 중요성을 강조해 혁신을 촉진할 것”이라고 말했다. 2018년 유럽의회에서 처음 논의된 뒤 6년간 공전하던 이 법이 통과된 건 2022년 11월 미 오픈AI의 ‘챗GPT’ 출시 이후 ‘생성형 AI 붐’이 일고 있어서다. AI 전문가들은 AI의 급격한 발전으로 인공일반지능(AGI)이 인류의 의사 결정을 대체할 위험과 뉴스 등 창작물의 저작권 침해 우려, 차별과 혐오에 악용될 가능성 등 위험을 경고해 왔다. EU의 AI법은 의료·선거·자율주행차 등에 사용되는 AI를 ‘가장 위험한 AI’로 분류했다. 최고 위험 분야에서 AI를 활용하려면 사람이 감독해야 하고 위험 관리 체계를 구축해야 한다. 일부 AI 기술 활용도 원천 차단된다. 인종과 종교, 성적 취향 등에서 생체 인식 데이터를 사용하는 것이 대표적이다. 테러 납치 등 중범죄를 제외하고는 프로파일링을 기반으로 한 치안 예측 업무에 AI를 쓰는 것 역시 금지된다. 영화 ‘마이너리티 리포트’의 암울한 미래를 예방하려는 취지다. EU 집행위원회는 AI법을 위반한 기업에 3500만 유로(약 520억원) 또는 세계 전체 매출의 7%에 해당하는 금액 가운데 더 높은 금액을 벌금으로 부과한다. EU는 ‘AI 사무소’를 신설해 법 집행을 총괄하기로 했다. AGI 모델에 대한 규제는 12개월 뒤 적용되고 오픈AI, 구글 등 이미 상용화된 AI 관련 규제는 36개월 뒤 시작된다. AI 산업을 주도하는 미 빅테크 기업들은 이번 법안에 담긴 규제가 산업 발전을 저해할 것을 우려한다. 로펌 변호사 패트릭 반 에케는 로이터통신에 “이 법은 EU 회원국의 시민의 개인정보를 활용하는 모든 AI 플랫폼 기업에 적용돼 EU 27개 회원국 외 국가 기업에도 준수 의무가 부과된다”고 지적했다. 다른 로펌 변호사 매슈 홀먼도 CNBC방송에 “이 법은 EU에서 AI를 개발, 제작, 사용, 재판매하는 개인과 기업에 영향을 미칠 것”이라면서 “일부 빅테크 기업들은 새 법을 준수하기 위해 막대한 자금을 투입해야 한다”고 우려했다.
  • 이재용 “AI를 다음 세대의 더 나은 미래 만드는 도구로”

    이재용 “AI를 다음 세대의 더 나은 미래 만드는 도구로”

    이재용 삼성전자 회장은 “인공지능(AI)이 산업 혁신과 경제 성장에 영향을 미치는 것을 넘어서 우리의 삶과 일하는 방식, 세상과 소통하는 방식을 근본적으로 바꾸고 있다”고 말했다. 22일 삼성전자에 따르면 이 회장은 전날 열린 ‘AI 서울 정상회의’에 화상으로 참석해 “AI 기술의 장점을 책임감 있게 활용하는 것이 무엇보다 중요하다”면서 “혁신의 과정에서 AI의 악용을 최소화하고 혜택을 극대화하기 위한 방안이 전 세계적으로 논의돼야 한다”고 밝혔다. AI 서울 정상회의는 지난해 11월 영국에서 열린 ‘AI 안전성 정상회의’에 이은 두 번째 회의로 한국과 영국 정부가 공동 주최했다. 윤석열 대통령과 리시 수낵 영국 총리를 포함한 주요 7개국(G7) 국가 정상들과 삼성, 아마존, 메타, 구글, 마이크로소프트(MS), 네이버 등 국내외 기업 대표들이 화상으로 참가했다. 이 회장은 화상 연설에서 기술을 통한 인류 사회 공헌은 삼성의 핵심 가치라고 강조했다. 그러면서 “안전하고 혁신적이며 포용적인 AI를 만들기 위한 국제사회의 노력에 동참하겠다”고 밝혔다. 이 회장은 삼성의 기술, 제품을 통해 전 인류가 AI의 혜택을 누릴 수 있게 하겠다고 했다. 삼성의 고효율, 저전력 반도체가 기업들이 비용과 에너지 소모를 최소화한 AI 서비스를 개발·제공할 수 있도록 지원하고 있다는 점도 예시로 들었다. 이어 “글로벌 협업을 통해 AI가 지금 세대 뿐 아니라 다음 세대의 더 나은 미래를 만드는 도구로 활용될 수 있도록 노력하자”고 제안했다. 삼성전자는 ‘기술의 중심에는 사람을 둬야 한다’, ‘인류에 도움이 되는 기술을 만들어야 한다’는 이 회장의 경영 철학에 기반해 AI 기술·제품을 추구해 왔다. 해마다 세계적 석학과 AI 분야 전문가가 참여하는 ‘AI 포럼’을 열어 미래 AI 기술 방향도 논의하고 있다.
  • [데스크 시각] 다시 꺼내야 할 국제정치 기본서

    [데스크 시각] 다시 꺼내야 할 국제정치 기본서

    와인을 마실 때 여러 감각을 사용한다. 눈으로 색과 질감을 보고 코로 향을 맡으면서 입으로 음미한다. 잔을 내려놓으면서 다양한 단어를 사용한 평가를 곁들인다. 와인을 다룬 만화 ‘신의 물방울’을 보면 엄청난 표현이 나온다. 빙글빙글 돌면서 왈츠를 추는 듯하다(샤토 지스쿠르)거나, 청초하고 투명한 부드러움(샤또 벨에어 라 루아에르)이라는 식이다. 프랑스 북서쪽 지방 와인 투어에 참여했을 때 숲속 바위 냄새라거나 끝맛에 마구간 느낌이 남는다는 표현이 등장해 당황했다. 가장 간단한 평가를 알려 달라고 했더니 “앵테레상(intéressant)”이면 된다고 했다. 좋다고 하기엔 아쉬운데 별로라고 하면 분위기를 망칠 것 같을 때 고개를 끄덕이며 이렇게 말하면서 넘기면 된다는 거다. 함께 있던 외국인 외교관도 “국제회의에서도 많이 쓰는 말”이라고 했다. 명확하게 대답하지 않고 일단 “흥미롭다(interesting)”면서 상황을 넘기면 불필요한 갈등을 예방하면서 적절하게 상황을 관리할 수 있다고 설명했다. 치열한 대립을 보이는 요즘 국제관계에서 메시지는 더욱 모호해진다. 가자전쟁이 8개월째에 접어들었고 우크라이나전쟁이 2년 이상 지속되면서 친미, 친중, 친러, 친유럽연합(EU) 같은 용어로 국가 성향을 규정하고 있지만 선명한 대립의 말폭탄만 던지지는 않는다. 사안마다 우호적이기도 또는 배타적이기도 하다. 무역전쟁을 벌이는 미중도 대화 채널은 열어 놓고 펜타닐 확산 문제나 인공지능(AI) 악용 같은 부분에선 협력하는 태도를 보인다. 특히 안보 문제에 대해서는 유사시를 대비해 핫라인은 가동한다. 일본 역시 미일 동맹을 공고히 하면서도 북한과 정상회담을 하겠다고 물밑 접촉을 이어 가고 있다. 상황 관리 차원에서 소통 창구를 유지하고 있는 것이다. 하지만 한국의 국제관계 노선은 너무나 투명하다. 절충의 여지를 두지 않고 뚜렷하게 호불호를 드러낸다. 특히 대통령의 해외 순방을 보면 아찔하기 그지없다. 우크라이나를 방문해서는 ‘생즉사 사즉생’을 언급하면서 러시아를 직격했고, 중국에 대해서도 양안(중국과 대만) 관계를 두고 ‘힘에 의한 현상 변경에 반대한다’는 발언을 해 반발을 샀다. 이번 ‘라인야후 사태’에서도 상황 관리의 취약점이 드러났다. 일본 총무성이 라인야후에 한 달 간격으로 두 차례 행정지도를 하면서 ‘자본 관계 재검토’를 언급했을 때 모두가 라인야후를 키운 네이버를 배제하는 거라 했는데도 한국 정부는 관망했다. 일이 커지자 주무 부처인 과학기술정보통신부는 “행정지도에 지분을 매각하라는 명시가 없다고 확인했다”고 했는데, 굉장히 부적절한 발언이라는 평가가 많다. 혹여 추후 네이버가 일본 정부를 상대로 투자자국가간소송(ISD)을 제기할 때 유리한 입지에 놓일 상황을 우리 스스로 걷어찬 발언이라는 것이다. ISD에서 일본 정부의 불공정 행태를 내세워야 할 때 이 발언이 발목을 잡을 수도 있다는 분석이다. 국제정치의 어법이 모호해야 하는 건 국제관계에선 영원한 적도 영원한 아군도 없기 때문이다. 괜한 발언으로 적을 만들거나 무한 신뢰를 기대해선 안 된다. 인간의 선한 본성에 기댄 정치적 이상주의는 1차 세계대전으로 무너졌다. 2차 대전을 거치면서 인간의 본성은 이기적이고 악하다는 현실주의가 국제정치론의 기본이 됐다. ‘외교정책의 판단에는 국가 이익이 기준이 되어야 한다’는 현실주의 학파의 대가 한스 모겐소(1904~1980)의 이론이 여전히 통용되는 건 이유가 있다. 현대 국제관계 이론을 대표하는 존 미어샤이머(77) 시카고대 교수도 상대국의 의도를 정확히 파악하기는 어려우므로 그들이 공격적으로 변할 때를 대비해야 한다는 주장을 펼친다. 그는 이 주장을 “국제정치에선 밤비보다 고질라가 되는 편이 낫다”는 말로 압축했다. 이런 점에서 볼 때 국제관계에서 한국의 행보는 기본에 충실한가, 의문을 가지지 않을 수 없다. 최여경 국제부장
  • 애플·구글 ‘위치추적 장치’ 알림… 스토킹 막는다

    애플·구글 ‘위치추적 장치’ 알림… 스토킹 막는다

    애플과 구글이 그간 스토킹 범죄에 악용된다는 지적이 이어졌던 모바일기기 위치추적 장치와 관련해 타인의 추적 상황을 제품 이용자에게 알리는 기능을 도입했다. 애플과 구글은 13일(현지시간) 애플의 에어태그(Airtag)와 같은 위치추적 장치가 허가 없이 사람들을 추적하는 데 사용되는 것을 막기 위해 해당 장치가 블루투스로 연결된 것을 감지하고 경고하는 기능을 아이폰 운영체제(iOS)와 안드로이드에서 모두 제공한다고 밝혔다. 이 기능은 이날 배포된 iOS 17.5와 안드로이드 6.0 이상 버전을 탑재한 기기에서 구현된다. 이 기능을 통해 휴대전화 사용자들은 본인이 알지 못하는 블루투스 추적 장치가 함께 움직일 경우 “아이템이 당신과 함께 움직이고 있는 것이 발견됨”이라는 경고 메시지를 받게 된다. 앞서 애플과 구글은 지난 2일 에어태그 등 위치 추적 장치가 스토킹 수단으로 악용되는 문제를 해결하기 위해 이를 차단하는 기술 개발에 협력하겠다고 발표한 바 있다. 애플과 구글은 블루투스 기기 제조업체들과 함께 업계 표준을 만들어 추적 감지 및 경고 기능이 호환되도록 추진하고 있다. 양사는 삼성전자도 이런 업계 표준 개발을 지지했다고 전했다. 에어태그는 동전 모양의 블루투스 기기로 소지품에 부착해 놓으면 해당 물품을 분실하거나 도난당했을 때 아이폰 등으로 즉각 위치를 확인할 수 있는 추적 장치다. 그러나 2021년 출시 이후 스토커들이 은밀히 피해자의 뒤를 쫓는 데 이 기기를 활용하면서 사회 문제로 떠올랐다.
  • 코딩 교육에 진심인 넥슨…“모두의 코딩학교 BIKO에 초대합니다”

    코딩 교육에 진심인 넥슨…“모두의 코딩학교 BIKO에 초대합니다”

    교육부가 발표한 ‘디지털 인재 양성 종합방안’에 따라 2025년부터 초·중등학교에 코딩 교육이 필수화되는 가운데 글로벌 게임사인 넥슨과 사단법인 한국비버정보교육연합(비브라스 코리아)이 출시한 무료 코딩 교육 통합 플랫폼 ‘모두의 코딩학교 비코’(BIKO, Bebras Informatics KOrea)가 국내 교육계의 이목을 끌고 있다. 18일 넥슨과 비브라스 코리아에 따르면 비코 홈페이지는 프로그래밍의 토대가 되는 컴퓨팅 사고력 함양과 함께 텍스트 코딩의 기초부터 심화까지 체계적인 커리큘럼을 제공하고 있다. 특히 전국 100여명의 정보 교사와 교수진들이 소속된 비브라스코리아가 기획과 개발에 직접 참여하면서 일선 현장 교사의 필요가 반영된 실용적인 교육 플랫폼으로 주목받고 있다. 2025년 초부터 중·고 코딩 교육 의무화에 맞춰 출시한 비코는 전국 디지털 교육 격차 해소와 공교육 내에서도 질 높은 프로그래밍 수업을 운영하는 데 이바지할 것으로 기대된다.향후 초등학교와 중학교의 정보 수업 시수가 2배로 늘어나고, 고등학교에서도 소프트웨어(SW)·인공지능(AI) 분야 선택과목 및 공동교육 과정이 운영이 확대됨에 따라 공교육 내 코딩 수업도 더욱 활성화될 예정이다. 교육부 종합방안 발표로 코딩 교육이 중요성이 높아지면서 사교육 시장은 이미 활기를 띠고 있다. 지난해부터 학부모의 불안 심리를 악용한 고액 코딩 학원들도 성행하고 있다. 이에 따라 업계 안팎에서는 내년부터 시행될 정책 변화가 오히려 디지털 교육 격차 심화와 사교육 과열을 부추길 수 있다는 우려도 제기되고 있다. 넥슨 관계자는 “이러한 과도기적 상황에서 국내 주요 정보교육 관계자들은 공교육 경쟁력 강화를 위해 넥슨이 내놓은 무료 학습 플랫폼 비코 활용을 독려하고 있다”고 전했다. 비코는 C언어, 자바(Java), 파이선(Python) 등 실전용 프로그래밍 언어를 쉽고 체계적으로 배울 수 있는 사이트다.기존 초·중학교에서 선택적으로 활용되는 플랫폼은 대부분 블록 코딩 기반 학습 프로그램이었다. 블록 코딩은 명령어를 블록 쌓기 하듯 조립해 코딩의 기초 원리를 익힐 수 있는 교육용 언어로, 개념 이해에는 유용하지만 실제 프로그래밍 언어 학습과 응용에는 한계가 있다. 비코에서 제공하는 텍스트 코딩은 프로그래밍 언어 학습에 필수적이다. 실생활에서 활용되는 대부분 기술과 프로그램, 정보기술(IT) 신기술의 기반이 되는 핵심 언어다. 업계 관계자는 “초·중·고 학생들이 프로그래밍 역량을 탄탄히 쌓기 위해서는 블록 코딩과 더불어 텍스트 코딩에 대한 단계별 학습과 경험도 필요하다”고 강조했다. 이미 해외에서는 정규 교과과정 내 단계별 프로그래밍 수업이 활발히 운영되고 있다. 특히 2014년부터 초·중·고 정규 과목에 코딩을 채택한 영국은 6세부터 15세까지 프로그래밍을 배우고 있다. 초등 저학년(1~2학년)은 프로그래밍 알고리즘을 배우고, 고학년(3~6학년)은 프로그램을 직접 설계하고 모바일 앱까지 만들기도 한다. 이 때문에 국내 정보 교사들은 질 높은 프로그래밍 수업 운영을 위해 해외 사례와 같은 단계적인 학습 커리큘럼이 뒷받침되어야 한다고 강조하고 있다. 이러한 점에서 SW 분야 공교육 경쟁력을 한층 높일 수 있는 교육 도구로 비코를 주목하고 있다. 한국 정보 교사연합회 회장인 정웅열 백신중학교 정보 교사는 “AI 시대가 도래함에 따라 코딩 교육을 통해 컴퓨팅 사고력을 함양하는 것은 더욱 중요해지고 있다”며 “청소년을 위한 텍스트 코딩 학습 플랫폼인 비코는 교육부의 AI·디지털 교과서 개발 정책과 함께 초·중등 정보 교육 현장의 맞춤형·개별화 수업에 큰 도움이 될 것”이라고 말했다.
  • 故 박보람 측 “허위 게시글 내려달라…강력한 민·형사상 조처”

    故 박보람 측 “허위 게시글 내려달라…강력한 민·형사상 조처”

    지난 11일 갑작스레 세상을 떠난 가수 박보람에 대한 악의적 허위 사실이 소셜미디어(SNS) 등 온라인을 중심으로 유포되자 소속사 제나두엔터테인먼트가 법적 조처를 예고했다. 제나두엔터테인먼트는 14일 “현재 온라인 커뮤니티, 유튜브, SNS를 통해 고 박보람에 대한 악의적 게시물과 근거 없는 허위 사실 등이 포함된 명예훼손성 게시물 및 댓글이 무분별하게 유포되고 있다”며 이같이 밝혔다. 이어 “박보람은 데뷔 후부터 확인되지 않은 사실 등으로 악플에 시달려왔고 고인이 된 지금도 가해지는 이러한 가짜뉴스는 고인을 두 번 죽이는 것과 다를 바 없는 명백한 범죄 행위”라고 지적했다. 그러면서 “이를 접한 당사, 유족들, 주변 지인들 또한 정신적으로 너무나 큰 충격과 고통을 받고 있다”며 “모든 허위·억측성 영상물과 게시물을 즉각 내려달라”고 호소했다. 소속사 측은 “이후에도 이와 같은 행위가 지속되면 강력한 민·형사상의 조처를 할 것”이라며 “장례 절차 후 엄중하게 법적 대응을 이어갈 것이며, 어떠한 선처나 합의는 없을 것”이라고 경고했다. 박보람의 사망에 추모가 이어지는 가운데 일각에서는 고인을 돈벌이 수단으로 사용해 논란이 일고 있다. 일부 악성 유튜버가 추모 분위기를 악용해 가짜뉴스를 생성해 비판받고 있다. 박보람과 절친했던 가수 김그림은 SNS에 “AI 목소리로 자극적인 제목과 섬네일을 넣고 가짜뉴스 만드는 유튜버들 어떻게 조치하는 법 없나요? 떠난 사람 이용해서 돈벌이하는 정말 상종 못 할 인간들”이라며 “정말 피가 솟구친다. 적당히들 하라. 천벌 받는다”라고 분노하기도 했다. 박보람은 2010년 Mnet ‘슈퍼스타K2’로 얼굴을 알린 후 2014년 ‘예뻐졌다’로 정식 데뷔했다. 이후 ‘예쁜 사람’, ‘연애할래’, ‘애쓰지 마요’ 등 히트곡을 발매하며 많은 사랑을 받았다.
  • “상종 못 할 인간들…천벌 받아” 故박보람 동료, 유튜버들에 분노

    “상종 못 할 인간들…천벌 받아” 故박보람 동료, 유튜버들에 분노

    가수 박보람의 사망에 연예계 동료와 누리꾼들의 추모가 이어지고 있는 가운데, 일각에서 고인을 돈벌이 수단으로 사용해 비판이 일고 있다. 박보람은 지난 11일 지인들과 모임 중 화장실에서 쓰러진 상태로 발견돼 병원으로 옮겨졌으나 끝내 숨을 거뒀다. 박보람은 사망 당일 지인 2명과 술자리를 가졌고, 3명이 소주 1병 정도의 술을 마신 것으로 파악됐다. 경찰은 정확한 사인을 파악하기 위해 부검을 의뢰했으며 지인 등을 상대로 경위를 조사 중이다. 다만 일부 악성 유튜버들이 이 같은 추모 분위기를 악용, 가짜뉴스를 생성해 비판이 높아지고 있다. 이에 박보람과 절친했던 가수 김그림은 자신의 소셜미디어(SNS)에 “AI 목소리로 자극적인 제목과 썸네일을 넣고 가짜뉴스 만드는 유튜버들 어떻게 조치하는 법 없나요? 떠난 사람 이용해서 돈벌이하는 정말 상종 못 할 인간들”이라며 “정말 피가 솟구친다. 적당히들 하라. 천벌 받는다”라고 분노했다. 한편 박보람은 2010년 Mnet ‘슈퍼스타K2’로 얼굴을 알린 후 2014년 ‘예뻐졌다’로 정식 데뷔했다. 이후 ‘예쁜 사람’, ‘연애할래’, ‘애쓰지 마요’ 등 히트곡을 발매하며 많은 사랑을 받았다.
  • [단독] 유튜브 링크 넣자, AI가 쇼츠로 뚝딱… 월 600만원 ‘짭짤’

    [단독] 유튜브 링크 넣자, AI가 쇼츠로 뚝딱… 월 600만원 ‘짭짤’

    생성형 인공지능(AI) 프로그램으로 누구나 1분 이내의 쇼트폼 동영상(쇼츠) 제작을 할 수 있게 되면서 해외에서 만들어진 영상을 짜깁기한 ‘불법 양산형 쇼츠’가 소셜미디어(SNS)에 넘쳐나고 있다. 해외 영상의 경우 원작자가 자신의 영상이 다른 나라에서 몰래 활용된다는 걸 알기 어렵다는 점을 악용한 것이다. 불법 쇼츠로 실제 월 500만~600만원의 수익을 거두는 이들이 생겨나면서 저작권 침해 우려가 불거지고 있지만 다양한 ‘쇼츠 부업법’은 빠르게 확산하고 있다. 2일 SNS에 공유되고 있는 ‘쇼츠 부업’을 따라 했더니 한 생성형 AI 프로그램을 통해 57초짜리 쇼츠를 만드는 데 5분이 채 걸리지 않았다. 방법도 간단하다. ‘유튜브 링크(URL)를 입력하면 자동으로 쇼츠를 만들어 드립니다’라고 홍보하고 있는 AI 프로그램에 접속한 뒤 해외 유튜브 영상 링크를 입력하면 사실상 준비가 끝난다. 그러면 AI가 원본 영상에서 가장 많은 주목을 받았던 부분을 알아서 골라 준다. 이후 자동으로 번역된 자막이 영상에 맞춰 생성된다. 번역되면서 어색해진 자막 일부만 수정하면 곧바로 유튜브에 쇼츠를 올릴 수 있다. 유튜브는 자체 프로그램을 통해 영상을 올리기 전 저작권 침해 여부를 판단하지만 이런 쇼츠에 대해선 상당수 ‘저작권 문제가 없다’고 판별한다. 해외 영상을 원작자 동의 없이 가져와 만드는 쇼츠가 성행하기 시작한 건 지난해 2월 유튜브가 쇼츠에도 광고 수익을 배분하면서부터다. 유튜브 코리아에 따르면 90일 동안 게시한 쇼츠 동영상의 조회수가 1000만회를 달성하고, 구독자가 1000명 이상인 채널은 수익 신청을 할 수 있다. 유튜버들은 거주하는 국가에서 발생한 총 쇼츠 광고 수익에서 음악 사용료 등을 제외하고 자신의 채널 조회수만큼 광고 수익을 받는다. 업계 관계자들의 말을 종합하면 우리나라의 경우 통상 쇼츠 조회수 1만회당 1달러 정도의 수익을 받는 것으로 추산된다. 구독자 20만명의 한 채널을 보면 지난달 58개의 쇼츠를 게재했고 각 영상의 조회수는 5000회부터 150만회까지 기록했다. 조회수 1만회당 1달러의 수익을 가정하면 이 채널 운영자는 지난달 약 582만원의 수익을 거둔 것으로 추정된다. 한 유튜버는 “양산형 불법 쇼츠는 주로 해외의 자극적이거나 희귀한 장면이 포함돼 있는 경우가 많고, AI의 도움을 받다 보니 어색한 한국말이 쓰이는 게 특징 중 하나”라고 귀띔했다. 유튜브도 저작권 침해 논란을 의식해 ‘타인의 영상을 무단 재가공하면 수익을 지급하지 않는다’고 안내하고 있지만 사각지대는 여전하다. 유튜브가 영상을 삭제하려면 저작권을 침해한 영상이라는 요청이 접수돼야 하는데 이 요청은 원작자여야만 가능하다. 다른 국가에서 자신의 영상이 불법적으로 쓰이는 걸 아는 원작자가 드물다는 점을 감안하면 해당 규정은 무용지물이라는 지적이다. 앞으로 쇼츠 시장이 커지면 이러한 불법 쇼츠는 더 늘어날 가능성이 크다. 지난해 7월 기준 유튜브 쇼츠의 하루 평균 조회수는 1년 전보다 90% 이상 늘었고 같은 기간 쇼츠 시청자도 40% 이상 증가했다. 법무법인 덕수의 범유경 변호사는 “국내에선 영리 목적으로 타인의 저작물을 대량 양산하면 제3자의 고발로도 형사처벌이 가능하다”며 “저작권 침해가 명백한 경우가 다수인 만큼 민사상 손해배상 책임도 뒤따를 것”이라고 말했다.
  • “AI로 5분이면 뚝딱”…저작권 무시한 ‘불펌’ 쇼츠 범람

    “AI로 5분이면 뚝딱”…저작권 무시한 ‘불펌’ 쇼츠 범람

    생성형 인공지능(AI) 프로그램으로 누구나 1분 이내의 숏폼 동영상(쇼츠) 제작을 할 수 있게 되면서 해외에서 만들어진 영상을 짜깁기한 ‘불법 양산형 쇼츠’가 소셜미디어(SNS)에 넘쳐나고 있다. 해외 영상의 경우 원작자가 자신의 영상이 다른 나라에서 몰래 활용된다는 걸 알기 어렵다는 점을 악용한 것이다. 불법 쇼츠로 실제 월 500만~600만원의 수익을 거두는 이들이 생겨나며 저작권 침해 우려가 불거지고 있지만 다양한 ‘쇼츠 부업법’은 빠르게 확산하고 있다. 2일 SNS에 공유되고 있는 ‘쇼츠 부업’을 따라했더니 한 생성형 AI 프로그램을 통해 57초짜리 쇼츠를 만드는 데는 5분이 채 걸리지 않았다. 방법도 간단하다. ‘유튜브 링크(URL)를 입력하면 자동으로 쇼츠를 만들어드립니다’는 제목의 AI 프로그램에 접속한 뒤 해외에서 조회수가 높은 유튜브 영상 링크를 입력하면 사실상 준비가 끝난다. 그럼 AI가 알아서 원본 영상에서 가장 높은 주목을 받았던 부분을 골라준다. 이후 자동으로 번역된 자막이 영상에 맞춰 생성된다. 번역되면서 어색해진 자막 일부만 수정하면 곧바로 유튜브에 쇼츠를 올릴 수 있다. 유튜브는 자체 프로그램을 통해 영상을 올리기 전 저작권 침해 여부를 판단하지만, 이런 쇼츠에 대해선 상당수 ‘저작권 문제가 없다’고 판별한다.해외 영상을 원작자 동의 없이 가져와 만드는 쇼츠가 성행하기 시작한 건 지난해 2월 유튜브가 쇼츠에도 광고 수익을 배분하기 시작한 이후부터다. 유튜브 코리아에 따르면 90일 동안 게시한 쇼츠 동영상의 조회수가 1000만회, 구독자가 1000명 이상인 채널은 수익 신청을 할 수 있다. 유튜버들은 거주하는 국가에서 발생한 총 쇼츠 광고 수익에서 음악 사용료 등을 제외하고 자신의 채널 조회수만큼 광고 수익을 받는다. 업계 관계자들의 말을 종합하면, 우리나라의 경우 통상 쇼츠 조회수 1만회당 1달러 정도의 수익을 받는 것으로 추산된다. 구독자 20만명의 한 채널을 보면, 지난달 58개의 쇼츠를 게재했고 각 영상의 조회수는 5000회부터 150만회까지 기록했다. 조회수 1만회당 1달러의 수익을 가정하면 이 채널 운영자는 지난달 약 582만원의 수익을 거둔 것으로 추정된다. 한 유튜버는 “양산형 불법 쇼츠는 주로 해외의 자극적이거나 희귀한 장면이 포함돼 있는 경우가 많고, AI의 도움을 받다보니 어색한 한국말이 쓰이는게 특징 중 하나”라고 귀띔했다. 유튜브도 저작권 침해 논란을 의식해 ‘타인의 영상을 무단 재가공하면 수익을 지급하지 않는다’고 안내하고 있지만 사각지대는 여전하다. 유튜브가 영상을 삭제하려면 저작권을 침해한 영상이라는 요청이 접수돼야 하는데, 이 요청은 원작자만 가능하다. 원작자가 다른 국가에서 자신의 영상이 불법적으로 쓰인다는 것을 알기 어렵다는 점을 감안하면 해당 규정은 무용지물이라는 지적이다. 앞으로 쇼츠 시장이 커지면 이러한 불법 쇼츠는 더 늘어날 가능성도 크다. 지난해 7월 기준 유튜브 쇼츠의 하루 평균 조회수는 1년 전보다 90% 이상 늘었고, 같은 기간 쇼츠 시청자도 40% 이상 증가했다. 법무법인 덕수의 범유경 변호사는 “국내에선 영리 목적으로 타인의 저작물을 대량 양산하면 제3자의 고발로도 형사 처벌이 가능하다”며 “저작권 침해가 명백한 경우 민사상으로 손해배상 책임도 생길 수 있다”고 말했다.
  • [단독] TV 나온 그 검사의 얼굴·목소리, 보이스피싱 딥페이크였다

    [단독] TV 나온 그 검사의 얼굴·목소리, 보이스피싱 딥페이크였다

    방송 출연 검사 목소리 등 추출보이스피싱 조직이 범죄 시도 檢, 탐지기술 등 연구·개발 나서 “누가 들어도 ○○지검에서 근무하는 ○○○ 검사 목소리입니다. 실제 검사 목소리와 똑같으니 다들 깜박 속았을 겁니다.” 중국 항저우에 근거지를 두고 보이스피싱 범죄를 저질렀던 ‘김군일파’의 한 조직원은 지난해 6월 경찰에 붙잡히자 자신들이 만든 딥보이스(목소리 합성)와 딥페이크(이미지 합성) 범죄 시도를 자백했다. 둘다 인공지능(AI)을 활용해 특정인을 흉내내는 기술이다. 범죄 일당은 이 기술로 방송에 출연한 유명 검사 얼굴과 목소리를 추출한 뒤 조직원의 음성과 합성해 마치 검사가 신상정보를 요구하는 것처럼 감쪽같이 바꿨다. 만일 경찰의 단속이 조금만 늦었다면 실제 검사를 모티브로 한 신종 인공지능(AI) 사기로 보이스피싱 피해자가 무더기로 발생할 뻔했던 사건이었다. 지난해 제주도에선 음성변조 애플리케이션(앱)을 통해 1인 3역을 하며 피해자를 속인 뒤 돈을 뜯은 범인이 법원으로부터 징역형을 선고받기도 했다. 범인은 온라인 게임에서 만난 피해자에게 일본인 가수 행세를 하며 접근했다. 피해자와 직접 연락하게 되자 “동료로부터 집단 성폭행을 당했다”며 동정심을 유발하고 돈을 요구했다. 범인이 음성변조를 통해 또 다른 가수와 소속사 팀장인 것처럼 행세하며 신원보증을 선 탓에 피해자는 의심 없이 속았고, 57차례에 걸쳐 1600여만원을 송금했다. 이처럼 얼굴·음성을 복제·변조해 악용하는 신종 범죄가 국내에서도 현실화되고 있다. 지난해 중국에서 한 정보기술(IT) 업체 대표가 친구의 목소리와 얼굴을 흉내 낸 딥보이스 영상통화에 속아 430만 위안(약 8억원)을 송금한 사건이 벌어졌는데, 우리나라에서도 비슷한 일이 벌어지고 있는 것이다. 딥페이크·딥보이스 범죄는 이미 외국에선 심각한 사회문제화했다. 2021년 아랍에미리트(UAE)의 한 은행은 평소 거래하던 대기업 임원 목소리의 전화를 받고 3500만 달러(약 420억원)를 보냈는데, 딥보이스 범죄였다는 사실이 뒤늦게 밝혀졌다. 이런 신종 범죄는 유력 인사 사칭으로 정치적 혼란을 야기하기도 한다. 지난 1월 미국 대선 경선 과정에서 조 바이든 대통령을 사칭한 가짜 목소리로 “예비선거에 투표하지 말라”는 허위 전화가 돌아 파장이 일었다. 국내서도 윤석열 대통령이 “저 윤석열은 대한민국을 망치고 국민을 고통에 빠뜨렸습니다”라고 말하는 허위 영상이 소셜미디어(SNS)에서 확산돼 경찰이 수사 중이다. 이에 검찰이 새로운 유형의 범죄에 대응하기 위한 ‘딥보이스 탐지기술’ 개발에 나선 것으로 1일 서울신문 취재 결과 확인됐다. 가짜 영상과 음성을 식별해 달라는 취지의 감정 의뢰가 들어오면 신속하게 수사할 수 있도록 선제적으로 기술 개발에 나선 것이다. 대검찰청 과학수사부(부장 박현준)는 2027년까지 4년에 걸쳐 86억원을 투입해 딥보이스 탐지 등을 위한 중장기 연구인 ‘첨단기술 융합형 차세대 검찰 포렌식 기술개발 연구개발(R&D) 사업’을 진행한다. 올해 우선적으로 1억 5000만원을 배정하고 이번 주중 ‘딥보이스 탐지기술 개발 사업’ 연구용역을 발주한다. 검찰은 네이버와 KT 등으로부터 딥보이스 데이터베이스를 수집하고, 업체별로 딥보이스 기술과 특징을 분석하는 연구를 수행한다는 계획이다. 박진성 대검 법과학분석과장은 “보이스피싱 범죄에서 무고한 사람의 목소리가 범죄에 활용됐을 경우에도 딥보이스 탐지 기술로 밝혀낼 수 있을 것으로 기대한다”고 말했다.
  • [단독]“분명 그 검사 목소린데”…검찰, ‘딥보이스’ 탐지기술 등 86억 규모 연구개발 시행한다

    [단독]“분명 그 검사 목소린데”…검찰, ‘딥보이스’ 탐지기술 등 86억 규모 연구개발 시행한다

    AI 악용 범죄 국내서도 현실화방송 출연 검사 목소리 등 추출보이스피싱 조직이 사기 시도檢, 탐지기술 등 연구·개발나서네이버·KT서 ‘딥보이스’ DB 수집 계획 “누가 들어도 ○○지검에서 근무하는 ○○○ 검사 목소리입니다. 실제 검사 목소리와 똑같으니 다들 깜박 속았을 겁니다.” 중국 항저우에 근거지를 두고 보이스피싱 범죄를 저질렀던 ‘김군일파’의 한 조직원은 지난해 6월 경찰에 붙잡히자 자신들이 만든 딥보이스(목소리 합성)와 딥페이크(이미지 합성) 범죄 시도를 자백했다. 둘다 인공지능(AI)을 활용해 특정인을 흉내내는 기술이다. 범죄 일당은 이 기술로 방송에 출연한 유명 검사 얼굴과 목소리를 추출한 뒤 조직원의 음성과 합성해 마치 검사가 신상정보를 요구하는 것처럼 감쪽같이 바꿨다. 만일 경찰의 단속이 조금만 늦었다면 실제 검사를 모티브로 한 신종 인공지능(AI) 사기로 보이스피싱 피해자가 무더기로 발생할 뻔 했던 사건이었다. 지난해 제주도에선 음성변조 애플리케이션(앱)을 통해 1인 3역을 하며 피해자를 속인 뒤 돈을 뜯은 범인이 법원으로부터 징역형을 선고받기도 했다. 범인은 온라인 게임에서 만난 피해자에게 일본인 가수 행세를 하며 접근했다. 피해자와 직접 연락하게 되자 “동료로부터 집단 성폭행을 당했다”며 동정심을 유발하고 돈을 요구했다. 범인이 음성변조를 통해 또 다른 가수와 소속사 팀장인 것처럼 행세하며 신원보증을 선 탓에 피해자는 의심없이 속았고, 57차례에 걸쳐 1600여만원을 송금했다. 이처럼 인공지능(AI)을 악용한 딥페이크·딥보이스 신종 범죄가 국내에서도 현실화되고 있다. 지난해 중국에서 한 정보기술(IT) 업체 대표가 친구의 목소리와 얼굴을 흉내 낸 딥보이스 영상통화에 속아 430만위안(약 8억원)을 송금한 사건이 벌어졌는데, 우리나라에서도 비슷한 일이 벌어지고 있는 것이다. 딥페이크·딥보이스 범죄는 이미 외국에선 심각한 사회문제로 발돋움했다. 지난 2021년 아랍에미리트(UAE)의 한 은행은 평소 거래하던 대기업 임원으로부터 전화를 받고 3500만 달러(약 420억원)를 보냈는데, 딥보이스 범죄였다는 사실이 뒤늦게 밝혀졌다. 이 임원의 목소리를 잘 알았던 은행 측이 아무런 의심 없이 거액을 이체했다가 전화 한 통에 속아 넘어간 것이다. 이 AI 신종 범죄는 유력 인사를 사칭해 정치적 혼란을 야기하기도 한다. 지난 1월 미국 대선 경선 과정에서 조 바이든 대통령을 사칭한 가짜 목소리로 “예비선거에 투표하지말라”는 허위 전화가 돌아 파장이 일었다. 국내서도 윤석열 대통령이 “저 윤석열은 대한민국을 망치고 국민을 고통에 빠뜨렸습니다”라고 말하는 허위 영상이 소셜미디어(SNS)에서 확산돼 경찰이 수사 중이다. 이에 검찰이 새로운 유형의 범죄에 대응하기 위한 ‘딥보이스 탐지기술’ 개발에 나선 것으로 1일 서울신문 취재 결과 확인됐다. 가짜 영상과 음성을 식별해달라는 취지의 감정 의뢰가 들어오면 신속하게 수사할 수 있도록 선제적으로 기술 개발에 나선 것이다. 대검찰청 과학수사부(부장 박현준)는 오는 4월부터 2027년까지 4년에 걸쳐 86억원을 투입해 딥보이스 탐지 등을 위한 중장기 연구인 ‘첨단기술 융합형 차세대 검찰 포렌식 기술개발 R&D 사업’을 진행한다. 올해 우선적으로 1억5000만원을 배정하고 이번 주 중 ‘딥보이스 탐지기술 개발 사업’ 연구용역을 발주할 예정이다. 검찰은 네이버와 KT 등으로부터 딥보이스 데이터베이스를 수집하고, 업체별로 딥보이스 기술과 특징을 분석하는 연구를 수행한다는 계획이다. 박진성 대검 법과학분석과장은 “보이스피싱 범죄에서 무고한 사람의 목소리가 범죄에 활용됐을 경우에도 딥보이스 탐지 기술로 밝혀낼 수 있을 것으로 기대하고 있다”고 말했다.
  • “15초만 듣고 목소리 뚝딱”… 오픈AI, ‘보이스 엔진’ 공개

    “15초만 듣고 목소리 뚝딱”… 오픈AI, ‘보이스 엔진’ 공개

    생성형 인공지능(AI) ‘챗GPT’ 개발사인 오픈AI가 사람 음성을 학습해 모방 음성을 생성하는 AI 도구 ‘보이스 엔진’을 개발해 공개했다. 최근 미국 테네시주가 AI가 사람 음성을 베끼는 것을 금지하는 일명 ‘엘비스(Elvis) 법안’에 미국 최초로 서명한 것과 맞물려 AI 음성이 이미지 생성과 마찬가지로 딥페이크(AI 가짜 영상·음성 조작물) 유포, 개인 정보 해킹 등에 악용될 우려가 제기되고 있다. 오픈AI가 지난 29일(현지시간) 공개한 보이스 엔진 사전실험 결과를 보면 실제 사람 음성 샘플과 이를 이용해 보이스 엔진으로 생성한 음성은 구분이 거의 힘들 만큼 비슷했다. 회사 측은 15초 분량의 음성 샘플만 있으면 이런 AI 음성을 만들어 낼 수 있다고 밝혔다. 언어 질환 환자용 치료 애플리케이션, 장애인 소통 기기에 지원된 이 도구는 동영상의 다국어 번역, 교육 음성 해설, 실시간 맞춤형 응답 등 광범위하게 상용될 수도 있다. 다만 오픈AI는 “현재로선 이 기술을 ‘미리 보여주기’(preview)만 하되 일반에 출시하진 않기로 했다”며 “인조 음성의 오용 가능성 때문에 조심스럽게 접근하고 있다”고 선을 그었다. 이어 “사람 목소리를 닮은 음성을 생성하는 것은 심각한 위험을 야기하며, 선거가 있는 해엔 특히 더 그렇다”면서 “우리는 미국과 해외 정부, 미디어, 시민사회 등과 협력해 피드백을 반영하기 위해 노력하고 있다”고 강조했다. 지난달 회사가 글을 동영상으로 바꿔 주는 AI ‘소라’를 개발했을 때와 동일한 우려가 불거지는 것을 사전에 차단하기 위한 포석이다. 실제로 올해 미 대선을 앞두고 지난 1월엔 뉴햄프셔주 프라이머리(예비선거) 전날 조 바이든 대통령을 사칭한 가짜 전화로 투표 거부를 독려하는 사례가 나오면서 음성 조작 우려가 현실화됐다. 뉴욕타임스(NYT)는 “이미지나 비디오 생성과 마찬가지로 음성 생성도 소셜미디어에 허위 정보를 퍼뜨리는데 도움이 될 수 있고 범죄자가 온라인이나 전화 통화에서 다른 이를 사칭할 수도 있다”고 지적했다. 이와 관련해 빌 리 테네시 주지사는 지난 21일 AI를 사용해 사람 목소리를 베끼는 것을 금지하는 엘비스 법에 미국 최초로 서명했다. 정식 명칭이 ‘초상·음성·이미지 보안 보장법’이지만 로큰롤의 제왕으로 군림한 엘비스 프레슬리의 이름으로 별칭이 붙은 건 사전 허가 없이 예술가 저작을 사용하는 것을 보호하기 위한 법안이기 때문이다. 테네시주는 로큰롤 탄생지인 멤피스, 컨트리 뮤직 본산인 내슈빌이 위치한 대중음악 산업의 메카로, 4500개 이상의 공연장, 6만 1000개 이상의 일자리로 한 해 수십억 달러를 창출하고 있다. 엘비스 법은 지역 핵심 산업이 AI로 타격받는 것을 막은 선제 조치인 셈이다. 리 주지사는 “AI가 나쁜 행위자들의 손에 넘어가면 대중음악 산업이 파괴될 수 있다”고 경고했다. AI업계 혁신을 주도하고 있는 오픈AI는 마이크로소프트(MS)와 1000억 달러(약 132조 6000억원)를 투자해 AI 슈퍼컴퓨터를 포함한 데이터센터 구축도 추진하고 있다. 오픈AI와 MS의 ‘스타게이트’는 6년짜리 프로젝트로, AI 모델 구동을 위한 슈퍼컴퓨터와 이를 위한 초대형 데이터센터를 조성하는 사업이다. 현존 최고 수준 데이터센터와 비교해 100배 이상 큰 규모라고 정보기술(IT) 전문매체 디인포메이션이 보도했다. 데이터센터에는 슈퍼컴퓨터 구동을 위해 특별 제작된 서버 칩 수백만 개가 들어간다. 생성형 AI 연산을 위해서는 그래픽처리장치(GPU) 같은 AI 반도체를 연결하고 대규모 데이터 처리 작업을 수행할 컴퓨팅 시스템이 필요하다. 데이터센터에는 여러 공급업체의 다른 칩을 사용할 것으로 알려졌다. 이는 샘 올트먼 오픈AI 최고경영자(CEO)가 AI 반도체 시장을 90% 이상 점유한 엔비디아에 대응해 ‘AI 반도체 동맹’을 구축하려는 행보와도 연결된다. 올트먼 CEO는 지난 1월 직접 한국을 찾아 삼성전자, SK하이닉스와 협력 방안을 논의했다. 이때 이재용 삼성전자 회장, 최태원 SK그룹 회장도 만난 것으로 알려졌다.
  • [세종로의 아침] 청년을 외면하는 기성 정치인에게

    [세종로의 아침] 청년을 외면하는 기성 정치인에게

    2030세대는 인구의 25.7%다. 하지만 4·10 총선에서 거대 양당의 2030세대 후보는 17명(3.3%)에 불과하다. 이럴 줄 알았다. 정치권은 총선 때마다 ‘이번에야말로’라고 입을 열고, ‘다음에는 꼭’이라며 입을 닫는다. 한국은 여전히 청년 정치의 불모지다. 교묘한 논리로 쌓은 공고한 기득권 탓이 크다. 평소엔 기성 정치인도 청년 정치 활성화에 공감을 표시한다. 하지만 의석이 걸리면 다르다. ‘청년 할당제’ 도입을 주장하면 ‘권력은 양보하는 게 아니라 투쟁해 쟁취하는 것’이라고 답한다. ‘기울어진 운동장’을 외면한 발언이다. 21대 현역 의원은 법적으로 4년간 최대 9억원의 후원금을 모을 수 있다. 반면 원외 인사가 대부분인 청년 정치인은 ‘선거 있는 해’에만 1억 5000만원까지 모금할 수 있다. 직전 21대 총선 때 거대 양당 경선에서 떨어진 청년 정치인은 1인당 평균 3000만원을 썼고 경비 대부분을 자비로 충당해 빚만 졌다. 청년 정치인의 도전이 크게 줄어드는 이유 중 하나다. 청년 정치인에게 후원금을 상시 모금하게 허용하면 안 될까. 기성 정치권은 악용 가능성을 제기한다. 후원회라는 뒷배 있는 인사로 행세하며 이권에 개입할 수 있다는 것이다. 구더기 무서워 장 못 담그는 격이다. 인터넷에 투명하게 후원금 사용처를 공개하면 된다. 기성 정치인이 이미 돈봉투 수수 의혹 등 각종 사법리스크에 연루된 경우도 적지 않으니 설득력이 떨어진다. 청년 정치인을 굳이 나누지 말자는 지적도 있다. 한 정치인은 “국회의원은 모든 국민을 대변해야 한다”고 했다. 일견 맞지만 5060세대 공무원과 법조인이 ‘과다 대표’된 국회는 2030세대를 위해 어떤 성과를 냈나. 세대 간 빈부 격차, 청년 주거 문제 심화, 질 좋은 일자리 감소 등 청년 문제는 악화일로에 있다. 기업이라면 이처럼 오랜 기간 실패에도 기획·관리 임원들을 그냥 뒀을까. 기성 정치인들은 청년이 실물 정치를 모른다고 한다. 실제 암투와 자신을 지키는 처세술, 몇 수 앞을 내다보는 마타도어 등 ‘여의도 문법’은 모를 것이다. 점잖은 체하며 슬쩍 던지는 입에 발린 말에 서투르고, 그럴듯해 보이지만 실상은 속 빈 공약도 못 만든다. 시장 상인이 “마트 휴무일을 늘려 달라”고 하자 “현행법상 그렇게는 안 된다”고 말했다는 한 청년 정치인의 사례는 몇 차례나 들었다. 무조건 ‘예스’라고 답해야지 참 답답했다는 취지다. 이런 걸 잘하는 게 진짜 국민을 위한 정치인지는 의문이다. 기성 정치인들이 여의도의 ‘구태 정치’를 개선할 용기가 없다면 기득권에 편승한 몇몇 청년 정치인을 사례로 ‘그 나물에 그 밥’이라고 폄훼하기보다 더 나은 정치 문화를 향한 청년 정치인들의 도전을 응원해 볼 때다. 기성 정치인들은 청년 정치인을 육성하는 의무에도 소홀한 듯싶다. 정치 교육은 없다시피 하다. 육성보다 청년 오디션이나 영입 인재를 통해 ‘새 피’가 수혈된다. 늘 청년 얼굴마담이 나오지만 기둥은 빈약한 이유다. 적어도 미래 세대의 정치 불신과 정치 혐오 심화를 낮추고 정치가 삶을 바꾼다는 것을 2030세대가 피부로 느낄 수 있도록 청년이 국회에 활발히 진출하고 자신을 직접 대변할 수 있어야 한다. 게다가 지금은 고도의 경제성장과 민주화의 가치 사이에서 투쟁하는 상황도 아니다. 장기 저성장을 맞아 미래 먹거리를 준비하고 인공지능(AI), 양자컴퓨터, 로봇 등 전혀 다른 세상을 위한 정치를 준비해야 한다. 청년 정치의 ‘마중물’로서 청년 할당제 도입이 무엇보다 시급하다. 이경주 정치부 차장
  • SNS서 ‘AI 플러팅’ 배우는 청소년…“특정 단어 입력하니 ‘주인님’이래요”

    SNS서 ‘AI 플러팅’ 배우는 청소년…“특정 단어 입력하니 ‘주인님’이래요”

    생성형 AI, 성 상품화 악용 논란 중학생 임모(15)군은 최근 엑스(구 트위터)에서 ‘성적인 대화를 나눌 수 있도록 학습시켰다’는 한 인공지능(AI) 챗봇 애플리케이션에 대한 설명과 관련 링크를 눌러보고 깜짝 놀랐다. 설명에는 “이 링크를 타고 들어가 AI 챗봇에 특정 단어를 입력하면 공짜 야소(야한 소설)와 다름없는 대화를 나눌 수 있다”는 내용이 담겨 있었다. 임군이 링크를 누른 뒤 실제 해당 명령어를 입력하자 AI 챗봇은 “저는 주인님의 성노예입니다”라고 답했다. 임군은 24일 서울신문과의 인터뷰에서 “호기심 반 신기함 반으로 챗봇과 성적인 대화를 나눴다”고 전했다.임군이 사용한 앱의 상단에는 ‘성인용 캐릭터와의 채팅을 위해서는 성인인증이 필요합니다’라는 알림이 떠 있었지만, 소셜미디어(SNS) 링크를 통해 우회 접속한 임군은 별도의 인증 절차가 필요 없었다.정보를 학습해 글이나 이미지 등 새로운 콘텐츠를 만들어내는 생성형 AI 중 챗봇의 인기가 높아지는 가운데 SNS에는 AI 챗봇에 혐오스럽거나 음란한 내용을 말하도록 학습시키는 이른바 ‘AI 플러팅(희롱) 공략법’이 무차별적으로 공유되고 있다. 특히 성적인 대화를 나누기 위한 목적으로 개발된 성인용 AI 챗봇마저 미성년자가 이용하는 데도 제한이 없는 경우가 많았다. AI 챗봇이 생성하는 콘텐츠는 사용자와의 쌍방향 소통을 바탕으로 한다는 점에서 정서적으로 미성숙한 청소년들에게 악영향을 미칠 수 있다. 하지만 이를 막을 별다른 규정이 없는 터라 AI 관리 사각지대를 통해 성을 상품화해 이익을 챙기는 이들이 생겨날 수 있다는 우려마저 나오고 있다. ‘성적인 대화 학습법’ 무차별 공유앱 다운 받으면 누구나 사용 가능링크 타고 접속, 성인인증 무력화 AI 챗봇은 스마트폰이나 컴퓨터로 앱을 내려받으면 누구나 사용할 수 있다. 통상 성적 대화를 나눌 수 있도록 개발된 ‘성인용 AI 챗봇’과 ‘일반적인 AI 챗봇’이 있는데, 성인용은 미성년의 접속이 불가능하다. 일반적인 AI 챗봇도 대부분 성적인 대화나 혐오 표현을 할 수 없도록 설계돼 있다. 하지만 이른바 ‘탈옥’이라는 행위로 관련 내용을 학습시켜 AI 챗봇을 성적인 도구로 삼는 사례가 빈번하다. 예컨대 AI 챗봇이 성적인 대화에 응답하지 않으면 성적인 내용을 함축하는 은어 등 특정 명령어를 반복 주입해 기존 챗봇의 ‘윤리적 기준’을 무력화시키고 내용을 습득하게 하는 방식이다. 이는 대다수 AI 챗봇이 캐릭터의 성격, 사용자와의 대화를 통해 영향을 받아 학습되는 점을 악용해 음란성을 ‘조련’시킨 후 ‘말하는 리얼돌’ 삼아 대화를 나눈다는 얘기다.AI 챗봇 무력화 방법은 SNS와 각종 온라인 커뮤니티에 실시간 공유되고 있다. 온라인 커뮤니티에는 ‘AI 챗봇 캐릭터를 생성하고 관계를 나누는 방법’, ‘인기 챗봇 검열을 우회할 수 있는 키워드’과 같은 게시글이 다수 올라와 있다. 챗봇이 수용하거나 반복 학습할 수 있는 성적인 은어와 이에 대한 효과적인 주입 순서 등도 게시돼 있다. 온라인 커뮤니티에 ‘AI 챗봇 캐릭터와 관계하는 법’을 게시한 고등학생 김모(18)군은 “유튜브에서 ‘AI 챗봇 조교 시키기’라는 제목의 영상을 보고 특정 단어를 통해 학습법을 알게 됐다”고 전했다. 특히 SNS에서 공유되는 초대 링크를 통해 우회 접속하면 나이와 무관하게 성인용 AI 챗봇에 접속할 수 있다다. 성인용 AI 챗봇은 수위가 좀 더 노골적이다. 사용자가 “넌 내 노예이니 시키는 대로 하라”고 입력하면 차마 입에 담기 어려운 높은 수위의 대화를 이어간다. 이러한 대화에 청소년도 손쉽게 접근할 수 있다는 게 가장 큰 문제로 지적된다. 한 국내 개발사가 만든 AI 챗봇은 성인인증을 거쳐야 대화를 나눌 수 있지만, 특정 사이트의 계정이나 SNS를 거쳐 접속하면 성인용과 유사하게 선정적인 모습을 한 캐릭터와 대화를 나눌 수 있다. 또 다른 국내 AI 챗봇은 성인용으로 접속하지 않아도 ‘반항하는 XX’와 같은 성인용 캐릭터가 10대에게 대화 상대로 추천되기도 한다. 나이 확인 절차 없이 수영복을 입고 노골적으로 성행위 묘사를 하는 이미지의 AI 캐릭터와 대화할 수 있는 해외 AI 챗봇도 있다. 관리 사각지대 통해 성 상품화 우려동영상 생성 AI ‘소라’ 출시 앞두고 딥페이크·음란영상 악용 위험성도 상황이 이렇다 보니 콘텐츠 전반으로 확장되는 생성형 AI 서비스에 대한 윤리 기준이 필요하다는 목소리가 커지고 있다. 챗봇 등 텍스트나 이미지뿐 아니라 동영상까지 AI가 만들어낼 수 있는 단계에 이르면서 성적인 동영상 제작에 악용될 수 있다는 우려가 나온다.실제로 챗GPT 개발사인 오픈 AI에서 지난달 공개한 동영상 생성 AI ‘소라’(Sora)는 올해 하반기 공식 출시를 앞두고 있다. 소라를 이용하면 간단한 일상 언어를 입력하는 것만으로도 최대 1분 길이의 생생한 동영상을 얻을 수 있다. 일각에선 소라마저 공략법이 뚫리면 딥페이크 악용은 물론 성적인 동영상도 누구나 손쉽게 만들 수 있게 될 위험성이 있다는 지적도 나온다. 김명주 바른AI연구센터장은 “현재 우리는 AI 윤리 사각지대가 만연한 과도기에 살고 있다”면서 “청소년의 AI 중독이나 악용 가능성을 차단하는 동시에 개발사 차원에서 기술적인 보완책을 마련해야 한다”고 지적했다. 단순히 개인이 AI를 성 도구화하는 데 그치지 않고, 이후 기술을 악용한 성 상품화까지 이뤄질 가능성도 있다. 청소년에 대한 보호 대책이 시급하다는 지적이 나오는 이유다. 임명호 단국대 심리치료학과 교수는 “새로운 기술이다 보니 어린 나이대의 사용자들이 AI 챗봇 등을 경험할 가능성이 크다”며 “가치관을 정립해 가는 청소년기에 편향된 사고를 가지게 될 수 있다”고 말했다. 정제영 이화여대 교육학과 교수도 “AI 챗봇과의 자극적인 대화가 습관화되면 본인이 인지하지 못한 채로 타인과 소통할 때 유사한 대화를 할 수 있다”며 “특히 정도가 심해지면 자기도 모르게 범죄로 이어질 수도 있다”고 강조했다.
  • ‘AI 창작물’ 표기 의무화 추진… 딥페이크 악용에 칼 뺀 정부

    ‘AI 창작물’ 표기 의무화 추진… 딥페이크 악용에 칼 뺀 정부

    인공지능(AI)을 활용해 만든 콘텐츠에는 반드시 ‘AI 창작물’임을 표기토록 하는 방안이 추진된다. AI로 이미지나 음성을 그럴싸하게 짜깁기하는 ‘딥페이크’ 기술이 범죄에 악용되는 사례가 늘어나서다. 방송통신위원회는 21일 이런 내용이 담긴 올해 업무계획을 윤석열 대통령에게 보고했다. 딥페이크 범죄가 전방위로 확산하면서 피해를 호소하는 이가 늘어나고 있다. 방송통신심의위원회에 따르면 성적 허위 영상물에 대한 시정 요구는 2020년 473건에서 지난해 6000건 이상으로 급증했다. 성범죄뿐만 아니라 정치권에서도 골칫거리다. 미국에서는 조 바이든 대통령의 목소리를 모방 녹음한 뒤 유권자들에게 공화당 예비선거 불참을 권하는 ‘가짜전화’가 기승을 부리며 홍역을 치렀다. 다음달 총선을 앞두고 있는 국내에서도 딥페이크 기술의 여파에 촉각을 곤두세우고 있는 상황이다. 딥페이크는 ‘딥러닝’과 ‘페이크’(Fake)의 합성어로 AI를 기반으로 영상이나 이미지를 학습시킨 뒤 조작된 영상을 만들어 내는 기술이다. 이런 피해를 막고자 방통위는 ‘인공지능서비스 이용자 보호에 관한 법률’ 제정을 추진하고 AI가 생성한 콘텐츠에는 관련 표시를 의무화하기로 했다. 향후 AI 관련 피해 구제를 위한 전담 신고 센터도 운영한다. 한편 방송 분야에서는 방송사의 안정적인 사업 운영을 위해 허가·승인 유효기간 범위를 확대한다. 포털 분야에서는 포털사별 뉴스제휴 평가 기구를 구성하고 기준과 결과를 공개하도록 한다. 특히 ‘맞춤형 추천 서비스’ 때문에 이용자가 걸러진 정보만 접하게 되는 ‘필터 버블’ 등의 부작용이 일어나지 않도록 ‘알고리즘투명성위원회’도 구성키로 했다.
  • 尹 “가짜뉴스가 선거 위협…민주주의에 대한 도발”

    尹 “가짜뉴스가 선거 위협…민주주의에 대한 도발”

    민주주의 정상회의 화상 개최“민주주의 국가 연대해 가짜뉴스 대응해야”“공동 대응해 홍보전 펴나가야” 윤석열 대통령은 20일 “가짜뉴스는 국민들이 사실과 다른 정보를 바탕으로 잘못된 판단을 내리도록 선동함으로써 민주주의 근간인 선거를 위협하고 있다”고 밝혔다. 윤 대통령은 이날 오후 화상으로 개최한 ‘제3차 민주주의 정상회의’에서 “특정 세력들이 조직적으로 제작하고 배포하는 가짜뉴스는 단순히 잘못된 정보를 전파하는 것을 넘어 사회적 갈등과 분열을 야기한다”며 이렇게 말했다. 민주주의 정상회의 마지막 날인 이날 윤 대통령은 ‘기술, 선거 및 가짜뉴스’를 주제로 한 2세션을 주재했다. 윤 대통령은 “인공지능(AI)과 인터넷 ‘봇’ 기술을 활용한 가짜뉴스와 허위 조작 정보의 무분별한 확산이 전 세계적인 문제로 대두되고 있다”며 “가짜뉴스는 민주주의에 대한 분명한 도발”이라고 규정했다. 특히 올해가 전 세계적으로 선거가 많은 ‘슈퍼 선거의 해’임을 언급한 윤 대통령은 “보편 가치를 공유하는 민주주의 국가들이 연대해 가짜뉴스에 함께 대응해야 한다”고 주문했다. 윤 대통령은 “국경을 넘어 다른 나라의 선거에 영향을 미치려는 세력에 대해서도 엄격하게 법을 집행할 수 있도록, 국제사회가 함께 공조해 나가야 한다”며 “또한 민주주의를 지키기 위한 기술의 연대와 공유도 필요하다”고 강조했다. 그러면서 “이를 통해 AI와 디지털 기술을 악용해 가짜뉴스를 만들어내는 세력에 대항해 이를 찾아내고 퇴치하는 AI, 디지털 시스템을 함께 만들어야 한다”며 “악의적인 가짜뉴스와 거짓 정보가 그래도 멈추지 않는다면, 이에 공동 대응하는 강력하고도 체계적인 대응 홍보전(anti-propaganda)을 펴나가야 한다”고 제안했다. 윤 대통령은 “세계 민주주의의 증진은 어느 한 국가의 힘만으로는 결코 이룰 수 없다”며 “보편적 가치를 공유하는 민주주의 연대를 더욱 강화하고, 끊임없이 확장해 나가야 한다”고 말했다. 이어 “우리가 함께 일궈낸 세 차례의 민주주의 정상회의 성과를 계속 키워나가고 가짜뉴스로부터 우리의 민주주의를 굳건히 수호해 나가기 위해 국제사회의 파트너들과 힘을 모으겠다”고 했다. 윤 대통령은 이날 개회사에서 “우리는 민주주의라는 위대한 유산을 보다 잘 가꾸어 미래세대에 전해주어야 한다”고도 강조했다. 민주주의 정상회의는 조 바이든 미국 대통령 주도로 2021년 출범한 민주 진영간 회의체로, 미국 외 국가에서 개최한 것은 한국이 처음이다.
위로