“선관위, 영상 확인에 최소 하루선거 전날 유포 땐 대응 어려워”“딥페이크 저작물 엄격한 관리기술 발전 막는 방향은 안 돼” 중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인된 가운데 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른AI연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는 데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지, 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 애플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 총선 앞 국론 분열을 노린 북한이 딥페이크 영상을 유포하며 공격에 나설 수 있다는 의미다. 영국 옥스퍼드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업해야 한다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

보름여 만에 저작물 129건 적발“위법 판단땐 징역·벌금 법적조치” #1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(생성형 AI가 만든 가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 선관위 “딥페이크 전면 금지”특별대응반 꾸려 집중 감시 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로, 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다. 우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인용 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 이에 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다고 우려했다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵고 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지 않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다.美·英 등 해외 선거판 흔들어탐지 속도보다 확산 더 빨라 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산됐다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

#1. 유튜브 채널에서 총선 입후보 예정자 A씨가 자신을 소위 ‘셀프 디스’하는 모습이 담긴 영상이 적발됐다. 분명 A씨인데, 그는 그런 말을 한 적이 없다고 했다. 검증 결과 A씨의 목소리를 영상에 입힌 ‘딥보이스’ 저작물이었다. 영상에 자막까지 삽입해 시청자들은 실제 방송뉴스와 분간하기 어려웠다. #2. 한복을 입은 총선 예비후보자 B씨가 새해를 맞아 “새해 복 많이 받으세요. 국회를 바꾸겠습니다. ○○○을 국회로 보내 주세요”라고 세배하는 영상도 문제가 됐다. ‘페이스스와프’ 기술로 기존 영상에 B씨 얼굴만 입힌 가짜였다. 음성도 B씨 목소리를 학습한 생성형 인공지능(AI)의 ‘딥보이스’였다. 중앙선거관리위원회 ‘허위사실비방 AI 딥페이크(가짜 이미지나 영상물) 특별대응 모니터링반’(특별대응반)이 4·10 총선을 50일 앞두고 19일 서울신문에 공개한 딥페이크 적발 사례다. 이곳에서 걸러낸 정치·선거 관련 딥페이크 저작물(1월 29일~2월 15일)만 129건으로 하루 평균 7건꼴이다. 우리나라도 딥페이크의 선거 개입 위협에서 더이상 무풍지대가 아닌 셈이다. 지난 16일 찾은 경기 과천시 중앙선관위의 특별대응반 사무실 입구에는 검은 연기 기둥을 내뿜는 ‘딥페이크 펜타곤’(미국 워싱턴DC 인근 국방부 청사)과 실제 펜타곤 사진을 나란히 표출한 대형 모니터가 있었다. 지난해 5월 트위터 유료 계정에서 급속히 유포돼 미국 주식시장을 출렁이게 했던 가짜 이미지다. 눈여겨보면 가짜인 게 확연하지만, 일부 주식시장 참여자들이 진위 판단보다 주식을 먼저 팔아치우면서 ‘딥페이크의 무서움’을 보여 준 대표 사례가 됐다. 손욱 주무관은 “딥페이크 기술은 하루가 다르게 정교해지고 완벽해진다. 총선이 임박해 딥페이크 기반의 가짜 영상, 음성, 사진이 기승을 부릴 가능성을 배제할 수 없다”고 말했다. 이어 “지난해 8월부터 미국, 튀르키예, 인도네시아, 대만 등 해외 선거에서 딥페이크 작업물이 발견되면서 이들의 제작 형태와 유포 경로 등을 닥치는 대로 학습했다. (총선 관련) 딥페이크 저작물의 유포 경로를 빠르게 파악하고 선거에 영향을 미치지 못하게 신속 차단하는 게 임무”라고 했다. 우리나라는 지난해 12월 ‘선거 90일 전부터 딥페이크를 활용한 선거 운동을 전면 금지’하는 내용으로 공직선거법을 개정했다. 이에 선관위도 지난해 8월부터 AI 전문 감별반 개설 준비에 착수했다. 지난달 11일엔 400여명 규모의 ‘허위사실 사이버범죄 특별대응팀’ 산하에 특별대응반(59명)을 구성했다. 사무실에서는 데이터분석 전문가 등 AI 전담 요원 5명을 포함해 17명이 모니터링에 한창이었다. 유튜브, 트위터, 페이스북 등에 선거와 관련된 특정 단어, 정치 논쟁 이슈를 입력해 선거법 위반 소지가 있는 영상, 음성, 사진을 선별한다. 요원 1명이 하루에 약 300건을 검토한다고 했다. 지금까지 적발한 129건의 딥페이크 저작물은 대부분 개인이 제작한 것으로 지지 후보의 이미지를 활용해 반대 진영 후보를 언급하는 수준이었고, 이에 선거 운동의 목적이 있는 게시물에만 단순 삭제 조처를 했다고 한다. 하지만 선관위는 악의적이거나 조직적으로 제작됐다고 판단되면 향후 고발 조치에 나설 수 있다고 했다. 공직선거법을 어기면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처한다.우리나라에서는 지난 지방선거 때 소위 ‘AI 윤석열’을 이용해 특정 남해군수 후보를 지지하는 영상이 유포된 게 대표적인 딥페이크 악용 사례로 꼽힌다. 특히 선관위는 개인이 제작한 딥페이크 저작물이라도 유권자의 일상을 교묘히 파고드는 식이면 심각한 문제가 될 수 있다고 했다. 선관위 관계자는 “딥페이크 작업물 대부분은 아직 영상이나 사진이 어색하고 내용을 조금만 보면 (가짜임을) 알 수 있다”면서도 “하지만 올해 적발된 영상들은 소름 끼치도록 정교하게 진화했다”고 했다. 딥페이크의 발전 속도가 지나치게 빨라 감별 프로그램이 따라가지 못할 수 있다는 우려다. 현재 딥페이크 적발 프로그램은 기존에 학습되지 않은 딥페이크 작업물의 경우 감별하기 어렵다. 또 악의적인 딥페이크 저작물을 찾아내도 해외 인터넷주소(IP) 등으로 유포되면 제작자를 찾아내 처벌하기 쉽지않다. 특히 저작물이 워낙 빠르게 확산되고 소비되다 보니 가짜뉴스의 확산 자체를 막는 게 더욱 힘들다. 선관위는 ‘신속한 확산 저지’를 목표로 3단계 접근법을 구축했다. 1단계는 자체 제작한 ‘AI 지능형 사이버 선거범죄 대응 시스템’으로 위법성이 의심되는 정치 관련 게시물을 자동 수집해 검토한다. 이후 범용 프로그램으로 실제 딥페이크 저작물인지 확인하고, 가짜일 확률이 높을 경우 삭제 요청을 한다. 아주 정교한 딥페이크 저작물은 생성형 AI 전문가인 전문 위원 3명에게 자문하는데, 지금까지 이런 사례는 없었다. 외국은 딥페이크를 활용한 선거 왜곡 시도가 더욱 심각하다. 지난달 미국 뉴햄프셔 유권자들에게 걸려 온 28초가량의 전화에서 조 바이든 미국 대통령의 목소리를 흉내 낸 ‘로보콜’(녹음된 음성이 재생되는 자동전화)은 실제와 똑같았다. 가짜 바이든은 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”며 민주당 경선에 참여할 필요가 없다고 해 유권자들에게 혼란을 주었다. 튀르키예의 지난 5월 대선도 딥페이크 저작물이 흔들었다. 레제프 타이이프 에르도안 튀르키예 대통령은 터키 분리주의 단체인 쿠르디스탄노동자당(PKK)이 상대 후보인 케말 클루츠다로을루를 지지하는 노래를 부르는 영상을 뿌려 지지자의 반감을 자극했다. AI로 조작한 영상이었지만, 에르도안 대통령은 이겼다. 지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 딥페이크 음성이 확산했다. 이 음성 역시 가짜로 판명됐지만 야당 패배의 주요 원인 중 하나로 지목됐다. 영국에서는 소셜미디어(SNS) 틱톡에서 사디크 칸 런던 시장이 정전협정일 행사의 중요성을 부인하는 가짜 음성이 유포돼 논란이 일었다. 해당 음성은 문법적 오류가 많았지만 칸 시장의 억양을 정확히 재현해 얼핏 듣기에 진위를 가리기 어려웠다고 한다. ■ 딥페이크(Deepfake)란 딥페이크(Deepfake)란 인공지능 기술인 딥러닝(Deep learning)과 ‘가짜’를 의미하는 단어인 페이크(Fake)의 합성어다. 딥러닝을 이용해 원본 이미지나 동영상 위에 원본과는 관련 없는 이미지를 결합해 진위를 구별하기 어렵게 만든 가짜 이미지나 영상물을 뜻한다. 딥페이크라는 단어가 등장한 것은 2017년 말로 미국 온라인 커뮤니티 레딧의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 포르노 영상을 게재한 데서 유래됐다. 이후 온라인 커뮤니티와 소셜미디어(SNS)를 중심으로 급속히 확산한 딥페이크 콘텐츠는 최근 딥페이스랩(DeepFaceLab), 페이스스와프(Faceswap) 같은 오픈 소스 형태의 영상 합성 제작 프로그램이 배포되면서 더욱 성행하고 있다.

중앙선거관리위원회 ‘딥페이크 특별대응 모니터링반’이 그간 129건의 정치·선거 관련 딥페이크 저작물을 걸러낸 것으로 확인되면서 전문가들은 네이버, 카카오 같은 대형 플랫폼이 선제적으로 딥페이크를 적발·차단해야 한다고 지적했다. 특히 딥페이크를 이용한 북한의 선거 개입 가능성에 대비하자는 제언도 있었다. 김명주 서울여대 바른 AI 연구센터장은 19일 통화에서 “(선관위가) 딥페이크 여부를 확인하는데 최소 하루 이상이 걸린다”며 “열성 지지자가 선거 하루 전에 상대 후보에게 불리한 딥페이크 저작물을 유포한다면 현재 선관위 인력으로는 이에 대응하기 힘들 것”이라고 평가했다. 이어 “(딥페이크가 실제와) 똑같지는 않지만 비슷한 정도는 되니, 유권자들이 (딥페이크 저작물을 보고) 원하는 대로 해석할 가능성이 크다”고 덧붙였다. 국가기관인 선관위로서는 딥페이크 저작물을 적발했을 때 포털에 의뢰해 삭제할 콘텐츠인지 법적 처벌을 의뢰할 저작물인지를 신중하게 판단해야 하지만, 온라인의 빠른 콘텐츠 확산 속도를 감안할 때 이미 딥페이크 소비가 끝났을 수 있다. 특히 ‘리페이스’와 같은 어플리케이션을 사용해 딥페이크 사진을 만드는 데 걸리는 시간은 1~2분, 영상도 5분이면 제작이 가능해 물량 공세에 맞닥뜨릴 수도 있다. 이성엽 고려대 기술경영전문대학원 교수는 “역정보나 허위 정보를 퍼뜨린다는 면에서 페이크 영상 같은 것을 북한에서 만들어 유포할 가능성도 배제하기 힘들다”며 “딥페이크를 감지하고 플랫폼에서 차단하는 방식으로 규제가 이뤄져야 한다”고 말했다. 북한이 딥페이크 영상을 유포해 총선 앞 국론 분열을 노려 공격에 나설 수 있다는 의미다. 영국 옥스포드대는 북한에 대해 3개 이상의 국가기관이 소셜미디어(SNS) 여론 조작에 개입하는 것으로 평가한 바 있다. 네이버나 카카오 등 대형 플랫폼의 자체 딥페이크 적발을 위해서는 딥페이크 탐지·삭제, 계정 차단, 사이트 차단 등의 권한을 쥔 공공부문과 협업이 필요하다는 제언도 있다. 딥페이크 민관 태스크포스(TF)를 구축하는 방식이다. 다만 장병탁 서울대 AI연구원장은 “똑같은 칼로 요리할 건지, 수술할 건지, 사람을 다치게 하는 데 쓸 건지를 정하는 상황”이라며 “칼 자체를 개발하지 못하도록 하면 요리 발전, 수술 발전에 도움이 되지 않는다”고 말했다. 엄격한 판단을 통해 딥페이크 저작물을 처리해야지, 딥페이크 생산 자체를 근본 차단해 기술 발전을 막아서는 안 된다는 의미다.

전성수 서울 서초구청장은 30년 넘게 서울시와 행정안전부, 청와대에서 근무하며 실력을 인정받은 엘리트 공무원이다. 이런 특성 때문에 사람들은 전 구청장이 안정적으로 서초구를 이끌어 갈 것이라고만 생각했다. 사실 30년 넘게 공직생활을 했다지만 ‘임명직’으로 살아온 그에게도 ‘선출직’은 처음이라 변화보다 안정을 택할 것으로 봤기 때문이다. 하지만 이런 예상은 보기 좋게 빗나가고 있다. 전 구청장은 ‘공무원식’으로 일하는 대신 ‘도전’과 ‘변화’의 행정을 보여 주고 있다. 대표적인 게 대형마트 의무 휴일을 주말에서 평일로 바꿔 주민들의 편의를 강화한 일이다. ‘행정이란 무엇인가’라는 질문에 ‘화답’이라고 말하는 전 구청장에게 올해 서초구가 무엇을 할 것인지를 6일 들어봤다.-대형마트 의무 휴업일을 평일로 바꾼 게 적지 않은 변화를 일으키고 있다. 서울시의회에서 휴업일을 공휴일로 지정하는 원칙을 삭제하는 조례안이 발의됐고, 0시부터 오전 10시까지 금지했던 온라인 배송도 풀리는 쪽으로 가닥이 잡히고 있다. “작은 변화라고 생각했는데 긍정적인 영향을 주는 것 같아 기분이 좋다. 1월 28일이 일요일이었는데, 서초구 내 대형마트가 모두 문을 열었다. 설 연휴를 앞두고 있는데 주민들이 편하게 장을 보고 명절 선물도 준비하고, 소상공인 등 지역 상권도 활기를 되찾고 있다. 서초구에서 시작한 작은 날갯짓이 시민들의 편의를 높이는 데 도움이 됐다니 기쁘다.” -과정이 쉽지 않았을 것 같다. “하하. 절대 쉽지 않았다. 처음에는 빠르게 될 것이라고 생각했는데 대형마트와 소상공인 간의 입장 차가 컸다. 중간에 협의가 ‘파투’가 나는 게 아닌가 조마조마하기도 했다. 처음에 주민·소상공인·대형마트 모두 윈윈할 수 있는 방안을 모색하기 위해 서초강남 슈퍼마켓협동조합, 한국체인스토어협회 측 관계자들과 머리를 맞대며 협의를 진행했다. 지난해 9월부터 4개월 동안 공식적으로는 8번, 비공식으로는 수십 차례 자리를 가졌다. 지난해 11월 말 의무 휴업일 평일 전환 관련 의견 청취를 위해 유통업 상생발전협의회 회의가 열렸는데 이 자리에서 고성이 오가며 일이 틀어지나 했다. 그때를 생각하면 지금도 아찔하다.”일요일에 문 연 대형마트관계자들과 수십차례 협의 거쳐대형마트가 물류 공급하며 물꼬장보기 편해지고 지역상권 활기작지만 큰 효과 본 정책교대역 13~14번 출구에 횡단보도양재공영주차장 등 편리한 변화‘디지털 민원창구’ 처리시간 단축인프라 확충할 지역 개발경부간선도로 입체화 추진 중정보사부지엔 수장고·공연장양재 AI특구 지정 신청할 계획-어떻게 접점을 찾았나. “대형마트가 물류를 공급하기로 하면서 물꼬를 텄다. 대형마트는 규모의 경제가 되기 때문에 좋은 물건을 싸게 들여놓을 수 있는데 소형 슈퍼는 그게 안 된다. 그 부분이 해결되면서 마트는 의무 휴업일을 바꿀 수 있게 됐고, 소형 슈퍼는 가격 경쟁력을 확보할 수 있게 됐다. 그리고 주민들은 주말에 편하게 장을 볼 수 있게 됐다. 사실 처음 서초구에서 시작됐지만, 이필형 동대문구청장도 보조를 맞췄기 때문에 할 수 있었던 일이다. 감사를 표하고 싶다.” -최근 서초구 행정을 보면 작은 것을 바꿔서 큰 효과를 내는 것들이 좀 있는 것 같다. ‘고터맵’(서울 고속터미널맵)도 정말 편하더라. “고터맵은 공모사업이라 공을 중앙부처로 돌리고 싶다. 주민들이 고속터미널에서 길을 찾기 쉬워졌다니 다행이다. 작은 것으로 큰 효과를 본 사업을 이야기하면 대표적인 게 교대역 13~14번 출구 앞 횡단보도 개통이다. 그동안 서초중앙로를 건너려면 약 500m를 우회하거나 교대역 지하보도를 이용해야 해서 불편했다. 이런 불편 때문에 무단횡단을 하다가 사고도 많이 났다. 문제 해결을 위해 서울시·서울경찰청에 지속적으로 설득했고, 결국 횡단보도가 놓이면서 안전과 편의를 동시에 잡았다. 양재1동에 ‘양재공영주차장’과 편도로 운행되던 ‘4435 지선버스 우면산터널 양방향 운행’, ‘서초역사거리 대법원에서 법원등기소 방면 횡단보도’ 등도 자랑하고 싶은 ‘작으면서 편리한 정책’이다.” -30년 넘게 행정을 했는데, 행정이 무엇이라고 생각하나. “어려운 질문이다. ‘화답’이라고 답하고 싶다. 예전에 오세훈 서울시장이 첫 임기 때 썼던 ‘시민 고객’이라는 표현을 빌리고 싶다. 구민 고객의 관점에서 가려운 곳이 어디고 힘든 부분이 무엇인지를 파악해 ‘화답’하는 게 행정이라고 생각한다. 공급자적인 생각이 아니라 수요자 입장에서 행정을 하려고 한다. 조직 내부에서도 마찬가지다. 우리 구의 직원들을 동료 공직자라고 부르는데 이들의 요청에도 최대한 화답하려고 한다.” -서초구청에 오면 제일 눈에 띄는 게 OK민원센터다. 민간 은행이나 증권사에 온 것 같은 기분이 들고 편리하다. “지난해 구청 1층 OK민원센터를 17년 만에 스마트 민원실로 바꿨다. 주민들이 민원 처리를 하러 와서 대접받는 기분이 들게 하고 싶었다. 자율주행 민원안내 로봇 ‘행복이’가 민원실을 안내하고, 스마트 존에서는 무인민원발급기, 정부24 전용PC, 팩스 등 각종 사무기기를 활용해 비대면으로 직접 원하는 서류를 발급받을 수 있게 했다. 또 전국 최초로 ‘전자민원서식 작성시스템 활용 디지털 민원창구’를 운영해 업무처리 시간을 기존 대비 50% 정도 단축했다.” -지역 개발 이야기도 짧게 해 달라. “먼저 경부간선도로 입체화 사업은 현재 국토교통부가 대심도 구간을, 서울시가 중심도와 상부공간 부분을 맡아 추진 중이다. 현재 우리 구도 상부공간과 주변 지역 활용을 위한 연구용역을 진행 중이다. 정보사 부지 문화복합시설 조성 사업으로는 ‘보이는 수장고’(가칭)와 공연장 ‘서리풀사운드’(가칭)가 들어선다. 양재·우면동 일대 ‘양재 AI 미래융합혁신지구’ 조성 사업은 올해 중소벤처기업부에 AI특구 지정서를, 서울시에 정보통신기술(ICT) 특정개발진흥지구 지정 신청서를 제출할 계획이다.”

조 바이든 미국 대통령 행세를 한 가짜 목소리로 혼란을 일으키더니 이번엔 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란한 이미지가 온라인상에 퍼져 팬들의 공분을 사고 있다. 이미지는 인공지능(AI) 도구로 생성된 것으로 추정돼 관련 규제를 강화해야 한다는 목소리가 커지고 있다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송에 따르면 최근 스위프트 얼굴이 합성된 성적 수위가 높은 이미지가 소셜미디어(SNS)에 퍼졌다가 삭제됐다. 이미지의 최초 출처는 불분명하지만 주로 X(옛 트위터)에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. 이 이미지는 삭제 전까지 조회수 4700만회를 웃돌 정도로 빠르게 확산했다. X는 성명에서 “해당 이미지를 게시한 계정에 대해 적절한 조처를 했다. 추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 이미지 공유를 한때 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 함께 관련 키워드를 더해 올리며 이미지 검색을 어렵게 만들기 위해 노력했다. 사이버보안업체 리얼리티 디펜더는 이 이미지가 AI 딥러닝을 이용한 합성기술인 딥페이크로 생성된 것으로 확신한다고 NYT에 밝혔다. 일부 전문가는 마이크로소프트(MS)의 AI 생성 프로그램인 ‘디자이너’로 만들어졌다고도 지적하면서 MS는 관련 조사를 벌이고 있다. 앞서 미국 뉴햄프셔 프라이머리(예비경선)를 하루 앞둔 22일 민주당 당원들에게 바이든 대통령의 가짜 목소리를 담은 전화가 걸려오기도 했다. 바이든 대통령 목소리를 닮은 로보콜(자동녹음 전화)은 통화 상대에게 “당신의 표를 11월(대선)을 위해 아껴 두라. 이번 투표는 도널드 트럼프 공화당 후보를 다시 선출하게 만들 뿐”이라며 투표하지 말 것을 권유했다. 특히 바이든 대통령이 즐겨 쓰는 ‘정말 말도 안 되는 소리’(What a bunch of malarkey)로 시작해 유권자들을 혼동에 빠트렸다. 이번 일로 AI를 이용한 가짜 이미지 생성에 더욱 강한 규제가 필요하다는 여론이 거세다. 현재 미국 9개 주에서는 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만 연방정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 이미지 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 “끔찍하다. 이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 사티아 나델라 MS 최고경영자(CEO)도 NBC 방송과 한 인터뷰에서 스위프트의 딥페이크 사건과 관련해 “누구도 콘텐츠 제작자와 소비자 모두에게 안전하지 않은 온라인 세상을 원하지 않는다”면서 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”고 밝혔다.

팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포됐다. 26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 노골적인 자세가 합성된 사진이 소셜미디어(SNS) X와 페이스북 등에서 확산했다. 이는 인공지능(AI)을 도구로 활용한 조작물, 즉 딥페이크로 추정된다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 현재는 스위프트 관련 음란물을 유포한 SNS 계정들이 정지됐으나, 음란물은 삭제 전까지 4700만회나 조회됐다고 NYT는 전했다. 음란물의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. X는 관련 성명에서 “확인된 모든 사진을 적극적으로 삭제하고 해당 사진을 게시한 계정에 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 살피고 있다”고 밝혔다. 하지만 스위프트의 팬들은 해당 사진 공유를 한동안 방치한 X에 분노하며 항의를 쏟아냈다. 이들은 또 “테일러 스위프트를 보호하라”는 문장과 해시태크를 포함한 게시물을 대대적으로 게시해 가짜 음란물을 밀어내고 찾기 어렵게 만들었다. AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 해당 음란물이 AI 모델을 사용해 생성된 것으로 90% 확신한다고 NYT에 밝혔다. 딥페이크를 연구하는 워싱턴대의 컴퓨터과학 교수 오런 에치오니는 “늘 인터넷의 어두운 저류에는 다양한 종류의 포르노가 존재해 왔다”며 “이제 우리는 AI가 생성한 노골적인 이미지의 쓰나미를 보게 될 것”이라고 말했다. ● AI 규제 목소리 커져…백악관 “의회도 입법 나서야” 이번 스위프트의 딥페이크 음란물을 계기로 AI를 이용한 가짜 사진 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다. 현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다. 지난해 딥페이크 사진 공유를 연방 범죄로 규정하는 법안을 발의한 민주당 조 모렐 하원의원(뉴욕)은 스위프트와 관련한 가짜 음란물 확산을 두고 “끔찍하다”며 “이런 일은 매일 모든 곳에서 여성들에게 일어나고 있다”고 SNS에 썼다. 상원 정보위원회 위원장인 마크 워너 의원(민주당)도 “AI가 합의되지 않은 은밀한 사진을 생성하는 데 사용될 수 있다고 반복해서 경고해 왔다”며 “이것은 개탄스러운 상황”이라고 말했다. 최근 미국 대선과 관련해서는 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 확산해 문제가 되기도 했다. 카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 사진이 온라인에서 확산되는 것과 관련, “매우 우려스럽다”면서 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다”고 말했다. 이어 “슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

최근 인공지능(AI)을 앞세운 마이크로소프트(MS)에 시가총액 순위 1위 자리를 내준 애플이 앞으로 앱스토어가 아니라 외부 경로를 통한 앱 결제도 허용하게 되면서 매출 타격이 불가피해졌다. 특허 소송에 휘말리면서 문제가 된 ‘애플워치’의 특정 기능을 제거해야 하는 것은 물론 아이폰 판매 부진으로 중국에서 이례적인 할인 행사까지 벌이면서 아성이 흔들리는 모습이다. ●美 대법, 앱스토어 외부 결제 허용 16일(현지시간) 월스트리트저널(WSJ) 등 외신에 따르면 이날 애플과 인기 게임 ‘포트나이트’의 개발사 에픽게임스의 긴 법적 공방이 애플 앱스토어 외부 결제를 허용하는 것으로 마무리됐다. 미 대법원의 이날 판결로 애플은 늦어도 오는 3월 초부터는 앱 개발사들이 앱스토어 외 다른 결제 시스템을 활용하는 것을 막을 수 없게 됐다. 에픽게임스는 2020년 8월 30%에 달하는 애플의 앱스토어 수수료를 우회해 자체 결제 시스템을 구축했다가 애플 앱스토어에서 퇴출당하자 애플 앱스토어 규정이 반독점법 위반이라며 소송을 제기했다. 애플이 외부 결제 시스템을 허용하면 매출 타격이 상당할 것으로 예상된다. 30%나 되던 수수료를 아낄 수 있게 된 앱 개발사들이 외부 결제를 통해 적극적으로 앱 가격을 내릴 수 있기 때문이다. 온라인 데이터 분석업체 데이터닷에이아이(data.ai)에 따르면 게임은 앱스토어 매출의 절반을 차지하는 종목이다. 이 같은 소식이 전해지자 애플 주가는 전날보다 1.23% 떨어진 183.63으로 마감됐다. 올 들어 이미 4.6% 하락한 수치다. ●애플워치 혈중산소 측정 기능 제거 애플워치에서 스마트 워치의 필수 기능인 혈중 산소 측정 기능도 제거해야 한다. 지난해 이 기능이 의료 기술 업체 마시모의 특허를 침해했다는 판결을 받은 애플은 제품 판매 금지를 피하기 위해 최근 미국 세관당국에 해당 기술을 포기하겠다고 신청했다. ●中 판매량 급감… 아이폰 5% 세일 애플은 중국 내에서 최신 기종인 ‘아이폰15’을 약 5% 할인 판매하는 ‘굴욕’도 겪고 있다. 애플의 공식 가격 인하는 최근 수년 내 없었다. 미국의 화웨이 금수 조치에 대응해 중국이 아이폰 판매를 사실상 제한했고, 이에 따라 중국 내 아이폰 판매량이 급감하면서 벌어진 일이다. 시장조사업체 IDC에 따르면 애플은 지난해 스마트폰 전체 출고량 기준으로 사상 처음 삼성전자를 누르고 1위에 올랐다. 하지만 카운터포인트리서치에 따르면 같은 기간 애플은 주종목인 프리미엄폰(약 80만원 이상 제품)에서 점유율을 4% 포인트(75%→71%)나 잃어 자존심을 구겼다. 애플은 다음달 2일 출시 예정인 혼합현실(MR) 헤드셋 ‘비전프로’로 분위기 반전을 노리고 있다. 하지만 3499달러(약 460만원)에 이르는 높은 가격, 2시간이라는 짧은 배터리 수명 등의 문제로 초기 성공 가능성에 대한 업계 전망은 별로 밝지 않다.

연예계 대표적인 ‘폴리테이너’(politainer·정치 활동을 하는 연예인)로 불리는 가수 이승환(58)이 최근 경찰 수사를 받던 중 갑작스럽게 세상을 떠난 배우 고(故) 이선균씨에 대한 진상 규명을 촉구하는 ‘문화 예술인 연대회의’의 성명서를 공개 지지했다. 이승환은 지난 오후 14일 자신의 소셜미디어(SNS)에 “고 이선균 배우의 죽음을 마주하는 문화예술인들의 요구 성명서를 이미지로 만들어 봤다”며 “지지하시는 분들은 출처 표시 없이 공유하시면 된다”고 적었다. 이어 “늦었지만 고 이선균 님의 명복을 빕니다”라고 덧붙였다. 그러면서 지난 12일 문화예술인 연대회의 측이 서울 중구 한국프레스센터에서 발표한 성명서를 이미지 파일로 만든 게시물을 공유했다.이승환은 과거에도 윤석열 대통령을 비판하는 게시물을 잇달아 올려 주목받았다. 그는 지난해 12월 20일 SNS에 “세상 사는 얘기도 잠깐”이라는 글과 함께 윤 대통령이 과거 “특검을 왜 거부합니까. 죄지었으니까 거부하는 겁니다”라고 발언하는 모습을 캡처해 올렸다. 이는 최근 야당이 제출한 김건희 여사 특검법 등에 거부권을 행사하기로 한 윤 대통령을 비판하려는 의도로 풀이된다. 그는 해시태그(#)로 윤석열 정권의 대표적인 구호인 ‘공정과 상식’도 달았다. 이승환은 또 최근 SNS에 조국 전 법무부 장관의 저서 ‘디케의 눈물’ 책 사진과 함께 “조국 가족에 대한 ‘윤석열 잣대’를 윤석열 가족과 윤 정부 인사에게 적용하라”는 조국 전 장관의 게시물을 공유하기도 했다. 한편, 봉준호 감독, 가수 윤종신, 배우 김의성 등은 ‘문화예술인 연대회의’라는 이름으로 지난 12일 기자회견을 열고 ▲수사당국 관계자들의 수사 과정에 대한 철저한 진상규명 촉구 ▲언론의 자정 노력과 함께 보도 목적에 부합하지 않는 기사 삭제 요구 ▲문화예술인의 인권 보호를 위한 현행 법령 재개정 등을 요구했다.

2023년 3월 도널드 트럼프 전 미국 대통령이 뉴욕 맨해튼에서 자신을 체포하려는 경찰과 싸우는 사진이 소셜미디어(SNS)에 광범위하게 유포됐다. 한 달쯤 지나 미 공화당 전국위원회는 조 바이든 대통령이 재선될 경우 일어날 수 있는 다양한 상상 속 재난의 모습을 보여 주는 광고를 공개했다. 지난해 11월에는 일본 SNS에 기시다 후미오 총리가 성적인 발언을 하는 영상이 유포돼 논란을 불렀다. 여름에 유튜브에 올라온 것인데 X(옛 트위터)를 타고 하루 만에 조회수 230만회를 훌쩍 넘겼다. 모두 인공지능(AI) 딥러닝을 기반으로 한 합성 기술인 딥페이크로 만든 영상과 이미지였다.문제는 세상에 없는 인물과 이미지를 만들어 내는 딥페이크가 더 방대한 정보가 투입되는 딥러닝을 통해 더 정교해지고 실존에 가까워진다는 점이다. 말하는 모양의 동영상을 만들고 실제 동영상에 입술 움직임만 바꿔 넣는 딥페이크 기술로 생성한 동영상을 X나 유튜브에 올리기만 하면 삽시간에 전 세계로 퍼져 나간다. 팩트체크를 통해 가짜뉴스로 판명되더라도 이미 누군가에게는 사실로 인식되고 있을 터. 이렇게 가짜뉴스를 퍼뜨리기 좋은 상황은 극단적인 정치 분열이 있을 때나 전쟁 상황에서 더 큰 효과를 발휘한다. 우크라이나·러시아 전쟁 초반인 2022년 3월 페이스북과 유튜브 등에 퍼진 볼로디미르 젤렌스키 우크라이나 대통령의 항복 영상이 단적인 예다. 직후 블라디미르 푸틴 러시아 대통령의 평화 선언 영상이 올라왔다. 둘 다 조작된 영상으로 밝혀지면서 메타와 유튜브 등 운영사는 원본 영상을 삭제했지만 여전히 흔적이 남아 있다.딥페이크를 이용한 가짜뉴스는 전 세계 주요 선거가 줄줄이 예정된 올해 특히 민주주의를 위태롭게 하는 요소로 꼽힌다. 미국 코넬대 세라 크렙스 교수와 더그 크리너 교수는 ‘AI는 어떻게 민주주의를 위협하는가’(민주주의 저널)라는 논문에서 한 실험 결과를 내놨다. 이들은 미국 주의원 7000여명에게 AI가 쓴 편지와 사람이 작성한 편지를 동시에 보냈는데, 사람이 직접 작성한 이메일의 응답률은 AI가 쓴 이메일보다 2% 정도 높은 수준에 불과했다. 이들은 “사람이 만든 진짜 정보와 AI가 생성한 가짜 정보를 구별할 수 없는 상황”이라면서 “허위조작정보를 받아들였다고 해서 유권자들의 선택이 반드시 바뀌는 건 아니지만 민주주의 사회 내 구성원들 간 신뢰를 저해하고 공론장을 왜곡할 수 있다”고 지적했다. 3개월 전 치러진 아르헨티나 대선에서는 상대 후보를 비방하려고 만든 홍보물에 생성형 AI가 마구잡이로 악용됐다. 당시 집권 좌파연합의 대선후보였던 세르히오 마사 경제장관은 극우 경제학자 출신 하비에르 밀레이 당시 후보(현 대통령)가 “(장기 매매 시장이 활성화되면) 아이를 낳는 것이 곧 투자가 될 수 있다”고 말하는 딥페이크 영상을 제작해 유포했다. 밀레이 후보는 마사 후보를 구소련 정치 선전 포스터의 주인공으로 만들어 마사가 공산당 지도자처럼 보이게끔 했다. 두 사람이 만든 홍보물은 AI 창작물임을 명시했음에도 유권자들에게 부정적 인상을 심어 줬다. 미국은 올해 11월 5일 예정된 대선에서 생성형 AI가 훨씬 더 강력한 영향을 미칠 수 있다고 우려하고 있다. 과거의 조악한 합성 영상물과 달리 요즘의 생성형 AI가 만들어 내는 딥페이크는 실제 사람이 만든 것과 구별하기 어려울 정도로 정교하다. 지난해 5월 SNS에서 미 국방부 청사인 펜타곤 건물에서 대형 화재가 발생한 사진이 빠르게 확산하면서 주식시장까지 출렁이는 소동을 빚었다.사안의 심각성을 인식한 미국, 유럽 등 서구 민주주의 사회는 AI를 활용한 가짜뉴스를 규제하는 방법을 끊임없이 고민하고 있다. 유럽연합(EU)은 이미 수년 전부터 가짜뉴스라는 말 대신 허위정보, 잘못된 정보라는 표현을 쓰면서 미디어 역할을 차단해 왔다. 다음달부터는 ‘디지털 서비스법’을 시행해 가입국이 허위정보, 차별적 콘텐츠, 아동 학대, 테러 선전 등의 불법 유해 콘텐츠를 의무적으로 제거하도록 했다. 이를 지속적으로 위반하면 가입국에서 퇴출하는 등 강경하게 대응한다. 미국도 SNS 사업자를 규제하는 방안을 논의하는 중이다. 특히 대선을 앞둔 상황에서 극단주의와 인종차별 등 부정적인 콘텐츠가 유통되는 것을 차단하기 위해서다. 문제가 된 콘텐츠를 제작·배포하는 것뿐만 아니라 이를 확산시킬 수 있는 플랫폼을 제공한 SNS 사업자에게도 합당한 책임을 물어 콘텐츠 규제를 강화하고 있다. 포린폴리시(FP)는 최근 “올해가 AI의 안전한 개발과 사용을 위한 규제를 부과하는 정부 거버넌스 위기를 극복할 수 있을 분수령이 될 것”이라고 평가했다. 미 플로리다, 사우스캐롤라이나, 뉴햄프셔를 비롯한 여러 주에서 선거 캠페인 영상에 AI 사용을 규제하는 법안, 특히 딥페이크 기술을 이용해 후보자의 목소리와 얼굴을 악의적인 방식으로 합성하거나 조작하는 것을 규제하는 법안을 검토하고 있다. 미 싱크탱크인 ‘브레넌 정의센터’는 지난해 11월 발표한 보고서에서 “민주주의의 실험실이라 불리는 주의회에서 AI의 위협에 대처하는 방법에 대해 영감을 줄 수 있을 것”이라고 썼다. AI 연구 선도자이자 구글 딥마인드의 공동 창업자인 무스타파 술레이만은 새 저서 ‘다가오는 물결’에서 “AI를 통제하는 것은 거의 불가능하다”고 주장했다. 술레이만은 AI의 결함이 발생하는 이유를 정부가 파악해야 하고 AI가 폭주할 때 전원을 끌 수 있는 제동장치를 마련해야 한다고 썼다.이언 브레머 스탠퍼드대 교수는 지난해 포린어페어스 기고문에서 “AI는 기존 세계 권력의 구조를 뒤흔들고 어떤 경우에는 권력을 공고히 할 수 있다”면서 “민주주의 국가에서 개인정보를 동의 없이 무분별하게 수집해 상업적으로 활용하는 속도는 더 빨라지고, 권위주의 정부가 사상과 표현의 자유를 억압하는 도구로 악용될 수 있다”고 지적했다. 이어 “AI를 규제하지 않으면 국가는 민주주의를 유지하고 공공재를 제공해야 한다는 사회적 합의의 정당성을 잃는다”고 경고했다. AI가 제멋대로 만들어 낸 ‘환각 현상’과 허위조작정보의 위협에 맞서기 위해서는 전통적으로 민주주의 사회 공론장에서 ‘팩트체커’ 구실을 해 온 레거시미디어의 역할이 강조된다. 아서 설즈버거 뉴욕타임스 발행인은 컬럼비아저널리즘리뷰 기고문 ‘저널리즘의 본질적 가치’에서 “언론은 새롭게 취재한 사실을 다양한 방식으로 교차 검증하는 게이트키핑 시스템을 지키고, 공정과 이해충돌 방지 원칙을 준수했는지, 편견과 차별의 관점을 걸러 냈는지 프로세스를 거친다”면서 “잘못된 정보가 민주주의의 근간을 흔드는 이 시대에 언론이야말로 세상에 꼭 필요한 자양분”이라고 강조했다. 크렙스·크리너 교수의 강조점은 문해력 향상이다. 이들은 “안타깝게도 인터넷 세상은 거대한 확증편향 기계”라며 “객관적 사실을 포기하거나 뉴스에서 사실을 분별하는 능력을 포기하면 민주주의 사회가 기반해야 하는 신뢰가 무너질 수 있다”고 꼬집었다. 이어 제대로 걸러진 미디어를 통한 디지털 리터러시(지식과 정보를 이해하는 능력)의 필요성을 언급하며 “시민들이 다양한 언론 매체를 ‘신뢰하되 검증하는 방식’으로 콘텐츠의 진실성을 가리는 눈과 가짜뉴스를 맹신하지 않는 비판적 사고력을 길러야 한다”고 부연했다.

‘Galaxy AI is coming’(갤럭시 AI가 온다) 삼성전자는 지난 3일 전 세계에 공개된 ‘삼성 갤럭시 언팩 2024’ 초대장을 통해 오는 17일(현지시간) 베일을 벗을 ‘갤럭시S24’ 시리즈가 세계 최초 인공지능(AI) 스마트폰임을 공식 선언했다. 2011년 ‘갤럭시노트’로 대화면 스마트폰 시장을 열고 2019년 ‘갤럭시Z폴드’를 시작으로 폴더블폰 시장을 주도한 것처럼 삼성전자는 갤럭시S24로 ‘AI폰’ 시장 선두 주자로 나선다는 전략이다. 갤럭시S24 시리즈(일반형, 플러스, 울트라)는 클라우드 기반 AI와 ‘온디바이스 AI’를 모두 지원하는 ‘하이브리드(혼합)형 AI 스마트폰’ 형태일 것으로 예상된다. 온디바이스 AI는 기기 내부 칩에 설치된 AI를 말한다. 스마트폰이 인터넷으로 클라우드에 연결되지 않아도 온디바이스 AI가 자체적으로 정보를 수집하고 연산을 처리한다.가우스·GPT-4·제미나이 등클라우드·내부 칩에 AI 지원통화 당사자에게 동시 통역 화질 개선·음성 삭제 기능도 구글 협력·애플 경쟁 고려해美 새너제이서 신제품 공개울트라 모델가 208만원 예상 이를 위해 갤럭시S24의 ‘두뇌’에 해당하는 애플리케이션프로세서(AP)로 퀄컴의 ‘스냅드래건8 3세대’와 삼성의 ‘엑시노스 2400’이 채택됐다. 스냅드래건8 3세대는 퀄컴 최초의 생성형 AI 특화 칩셋이며 엑시노스 2400 역시 AI 연산을 지원하도록 설계된 차세대 AP다. 갤럭시S24가 온디바이스 AI를 통해 제공할 기능으로는 ‘실시간 통역’이 대표적이다. 서로 다른 언어로 이야기하는 통화 내용을 기기에 탑재된 AI가 실시간으로 빠르게 통역해 통화 당사자들에게 각각의 언어로 전달한다. 서버를 거치지 않고 직접 통역하기 때문에 통화 내용이 기기 외부로 유출될 염려가 없어 보안 측면에서도 뛰어나다. 갤럭시S24는 클라우드를 기반으로 생성형 AI를 활용한 기능도 선보일 전망이다. 탑재될 기반 모델로 예상되는 것은 삼성의 ‘가우스’ 외에도 ‘챗GPT’의 기반이 된 오픈AI의 ‘GPT-4’, 구글의 ‘제미나이’가 거론된다. 특히 공개된 13초 분량의 언팩 초청장 영상에서 티타늄 상자가 열리며 나타나는 별 모양이 제미나이의 로고와 흡사하다. 이에 별 모양이 탑재되는 AI 모델을 암시한다는 해석도 나온다.생성형 AI를 활용한 기능으로는 잠금화면 이미지를 생성·편집하거나 동영상에서 화질과 노출을 개선하는 서비스, 원치 않는 음성을 빼는 편집기, 통화 정보와 연계해 이메일을 작성하는 기능 등이 제공될 것으로 예상된다. 앞으로는 모든 스마트폰 브랜드가 AI폰에 뛰어들 수밖에 없을 것으로 전망된다. 시장조사업체 카운터포인트리서치는 올해 AI를 탑재한 스마트폰 출하량이 1억대를 넘길 것으로 예상하면서 “삼성이 앞으로 2년간 거의 50%의 점유율을 차지할 것”이라고 분석했다. 카운터포인트리서치는 2027년엔 전체 스마트폰 출하량의 약 40%인 5억 2200만대까지 AI폰이 늘어날 것이라고 전망했다. 삼성전자는 AI폰 선제 출시를 통해 브랜드 이미지는 애플에 밀리고 가격 경쟁력은 중국 업체들에 치이는 글로벌 스마트폰 시장 구도를 흔들겠다는 전략이다. 특히 삼성전자가 이번 신제품 공개 행사 장소로 ‘실리콘밸리의 수도’라고 불리는 미국 캘리포니아주 새너제이를 처음 선택했다는 점은 이런 전략을 감안한 것으로 분석된다. 새너제이는 구글 등 빅테크의 본사들이 포진해 있으며 애플 본사 ‘애플파크’가 있는 쿠퍼티노 바로 옆이다. 정보기술(IT) 전문매체 샘모바일은 이를 두고 “구글과의 협력과 애플과의 경쟁을 함께 고려했다”고 분석했다.해외 매체들은 갤럭시S24 울트라 모델의 외장재도 바뀔 것으로 예측한다. 기존 갤럭시S 시리즈는 알루미늄 소재를 사용해 왔지만 S24 울트라 모델엔 애플의 신제품 ‘아이폰15’의 프로 이상 모델에 적용된 티타늄 프레임이 적용될 것으로 보인다. 후면 메인 카메라은 일반형과 플러스 모델이 최대 5000만 화소, 울트라 모델은 최대 2억 화소를 지원할 것으로 예상된다. 가격은 울트라 모델이 전작 대비 인상될 것으로 예측된다. 네덜란드 IT 매체 갤럭시클럽은 데이터 저장 공간이 256GB인 울트라 모델 기준 가격이 전작 대비 50유로 비싸진 1449유로(약 208만원)가 될 것이라고 보도했다. 일반형과 플러스 모델은 각각 256GB 기준 959유로(137만원), 1149유로(164만원)로 예상된다.

#. 경기남부경찰청은 지난해 5월 보이스피싱 범죄가 의심되는 5명을 적발했다. 경찰은 보이스피싱 음성분석 모델 ‘케이봄’(Korea-Voice Analysis Model)으로 이들의 음성을 1만 5000여개의 범죄자 음성 데이터와 비교해 보이스피싱범임을 확인했다. 통화 및 계좌 내역 조사, 폐쇄회로(CC)TV 등을 확인한 끝에 지난해 10월 일당 46명을 추가로 검거했다. #. 서울에 사는 A씨는 몇 달 전 채팅으로 알게 된 남성에게 보내 준 속옷 사진이 온라인에 유포됐다는 사실을 알게 됐다. A씨 부모는 곧 서울디지털성범죄안심지원센터에 신고했다. 센터는 ‘디지털 성범죄 AI 삭제 지원 프로그램’을 이용해 불과 1~2분 만에 수백개 사이트에 유포된 사진 파일을 없앴다. #. 지난해 4월 전 남자친구 집에서 맥주를 마시던 C씨는 다른 남자를 만난다는 이유로 폭행을 당했다. C씨는 화장실을 간다며 긴박한 상황을 모면한 뒤 ‘보이는 112’에 신고했다. 바깥으로 소리가 새어 나갈까 봐 채팅으로 정확한 위치와 상황을 알려 신속하게 구조될 수 있었다.인공지능(AI) 등 첨단 디지털 기술을 활용한 정부 부처, 지방자치단체의 혁신 노력은 이처럼 국민들의 삶을 보다 안전하게 만들고 있다. 갈수록 교묘해지지만 범인을 잡을 뾰족한 수가 없어 속수무책이던 보이스피싱 범죄에 대응하고자 행정안전부가 개발한 케이봄이 대표적이다. 음성분석 모델이란 AI를 활용해 보이스피싱범의 목소리를 수많은 범죄자 음성 데이터와 비교하는 게 기본 원리다. 그간 러시아와 영국 프로그램을 사용했지만 한국인 범죄자를 찾는 데 어려움이 있었다. 행안부는 지난해 보이스피싱 범죄자 검거를 위해 만든 케이봄은 해외 프로그램보다 판독률이 77%가량 높다고 3일 설명했다. 지난 5년간 국내에서 발생한 보이스피싱 피해 건수는 총 15만 6000여건, 피해액은 3조원에 이른다. 행안부 관계자는 “보이스피싱 피해가 커지는 상황에서 케이봄은 국민 안전 지킴이 역할을 하고 있다. 앞으로도 전세사기 등 다양한 음성범죄 수사에 활용될 예정”이라고 설명했다.서울시가 개발한 디지털 성범죄 AI 삭제 지원 프로그램도 맹활약 중이다. 온라인 성범죄 예방에 AI가 활용되면서 불법 사진과 영상을 삭제하는 데 걸리는 시간이 크게 줄었다. 사람이 삭제할 때는 파일 1개당 평균 2시간이 걸렸는데 AI는 3분이면 충분하다. 24시간 감시도 가능해졌다. 디지털 성범죄자들이 감시망을 피해 금요일 밤이나 주말에 올리고 다시 삭제하는 경우가 많아지면서 취약시간대 실시간 모니터링이 중요해졌다. 서울시의 AI 프로그램이 지난해 4월부터 7개월간 총 45만 7440건의 영상물을 모니터링했는데 사람이 할 때와 비교하면 1265% 증가했다. 서울시는 자체 AI 모델을 전국의 성범죄안심지원센터로 확대하는 것을 목표로 하고 있다.경찰청의 ‘보이는 112’는 급박한 신고 상황을 겪어 본 이들에겐 단비 같은 존재다. 범죄자를 피해 숨어 있는 상황에서 신고자는 말소리가 들릴까 봐 상황을 제대로 설명하지 못하고 포기하게 될 확률이 높다. 산속에서 길을 잃어 위치를 알기 어려운 경우에도 주변 지형을 말로 표현하기 어렵다. 음성에 의존하는 신고로는 경찰 도움을 받는 데 한계가 따른다는 데 착안해 경찰청은 ‘보이는 112’를 개발했다. 경찰관이 신고자 휴대전화로 문자를 전송하고 신고자가 문자에 담긴 인터넷주소(URL)를 누르면 신고자의 위치와 화면 등 현장 상황이 전송된다. 신고자가 위치를 모르거나 말할 수 없는 상황에도 위치 확인과 현장 대처가 원활하게 이뤄진다. 주변에 사람이 있다면 경찰과의 채팅창을 인터넷 검색창처럼 바꿔 옆 사람이 눈치채지 못하게 할 수도 있다. 실시간 영상을 보여 주기 어려운 경우에는 비밀 채팅도 가능하다. 황명석 행안부 혁신조직국장은 “정부혁신 총괄부처로서 최신 디지털 기술을 활용해 국민이 더 편안한 삶을 살 수 있도록 노력하고 있다”며 “혁신을 통해 다양한 문제를 해결하는 정부가 될 수 있도록 하겠다”고 말했다.

수천만명의 구독자와 팔로워를 거느린 인플루언서와 사귄다는 가짜뉴스와 악성 댓글에 시달린 22세 브라질 여성이 극단을 선택했다. 가짜뉴스에 대한 강력한 규제를 요구하는 목소리가 힘을 얻고 있다. 26일(현지시간) G1과 오포부 등 브라질 매체에 따르면 브라질 남동부 미나스제라이스에서 제시카 카네두란 여성이 지난 22일 세상을 떠난 사실이 친구와 유족을 통해 확인됐다. 카네두는 이달 중순쯤 브라질 인플루언서이자 복싱 선수로 활동하는 인데르송 누니스(28)의 여자친구로 알려지면서 소셜미디어(SNS)에서 갑자기 주목받았다. 누니스는 한국에는 많이 알려지지 않았으나, 유튜브 구독자 4400만명과 인스타그램 팔로워 5979만명에 이를 정도로 브라질과 라틴아메리카에서 유명하다. 진지한 복싱 선수라기 보다 미국 인플루언서 제이크 폴처럼 장난을 많이 치는 코미디언에 가깝다. 영화와 대중음악, 텔레비전, 유튜브에서 활약한다. 카네두와 누니스는 모두 열애설에 대해 “전혀 사실무근”이라고 즉각 부인했다. 현지 매체들도 두 사람 사이가 특별하지 않다고 보고 있었다. 그런데 문제는 연예인 소식과 가십을 전문적으로 전달하는 일부 SNS 계정이었다. 이 계정들을 통해 헛소문이 삽시간에 퍼져나갔다. 특히 ‘쇼케’(충격이라는 뜻)라는 이름의 SNS는 조작된 메신저 대화 캡처 화면과 카네두 지문 사진 등을 함께 게재해 큰 반향을 일으켰다고 G1은 전했다. 카네두는 자신의 SNS에 “허위 사실로 인해 엄청난 공격을 받고 있다”며 게시물 삭제를 요청하는 글을 올렸으나, 일주일 넘게 받아들여지지 않았다. 낙담한 그는 해서는 안될 선택을 했다. 카네두의 모친은 “내 딸이 무슨 잘못이 있느냐”며 경찰에 이번 사건 관련자에 대한 강력한 처벌을 요구했다고 오포부는 전했다. 특히 우울증에 시달리며 여러 차례 극단을 선택한 적이 있는 취약한 딸에게 악성 댓글 공격은 치명적인 영향을 끼쳤다고 하소연했다. 누니스 역시 “소셜미디어의 부정적 면모로 인한 새로운 ‘공공 학살’이 촉발됐다”면서 “가짜뉴스를 규제할 수 있는 법 제정이 필요하다”며 관련 활동을 펼쳐나가겠다는 뜻을 밝혔다. ‘쇼케’ 측은 뒤늦게 게시물을 삭제하고, 고인의 명복을 비는 성명을 발표했다. 허위 사실 유포와 가짜뉴스 처벌 등에 대한 여론이 비등해진 가운데 시다 곤사우베스 여성부 장관은 자신의 소셜미디어에 “제시카 카네두를 향한 거짓말이 그 젊은 여성에 대한 명예훼손 공격으로 이어졌다는 사실을 용납할 수 없다”고 분개했다. 시우비우 아우메이다 인권부 장관도 “소셜미디어를 지배하는 기업의 무책임도 한 가정의 파괴에 영향을 미쳤다”며 “소셜미디어 규제가 없다면 민주주의와 인간 존엄성에 대한 논의도 있을 수 없다”고 거들었다. 일찌감치 ‘가짜 뉴스와의 전쟁’을 선언한 루이스 이나시우 룰라 다시우바 정부는 구글과 메타 등 소셜미디어 업체 책임까지 묻는 가짜 뉴스 방지 의무를 강제하는 법안을 추진하고 있다. 한편 새해 전 세계 50개국에서 중요한 선거가 치러질 예정인 가운데, 최근 몇 년 급속히 발달한 인공지능(AI) 기술이 선거에 악영향을 미칠 수 있다는 우려가 나온다. 외신에 따르면 미국 대선을 비롯해 러시아, 인도, 멕시코 등에서 선거가 열려 20억명 이상이 투표소로 향할 예정이다. 한국에서도 제22대 국회의원 선거가 내년 4월 치러진다. 하지만 전문가들은 가짜 이미지 등을 쉽게 만들어낼 수 있는 AI 도구가 더 정교해지면서 선거를 앞두고 허위 정보가 그 어느 때보다 판칠 수 있다고 경고한다. 반면 이를 제어할 수 있는 온라인 상의 안전장치는 전보다 약해진 탓에 가짜 뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 것이다. ※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살 예방 핫라인 1577-0199, 희망의 전화 129, 생명의 전화 1588-9191, 청소년 전화 1388 등에서 24시간 전문가의 상담을 받을 수 있습니다.

가수 지드래곤(본명 권지용·35)이 마약 투약 관련 ‘혐의 없음’으로 불송치된 것에 대해 입장을 밝히며 내년 마약 퇴치 등을 위한 재단을 설립하겠다고 알렸다. 21일 권씨의 소속사 갤럭시코퍼레이션은 서울 서초구 JW메리어트 호텔에서 권씨의 마약 의혹 무혐의 처분과 향후 활동 관련 기자회견을 가졌다. 앞서 지난 19일 인천경찰청 마약범죄수사대는 마악류 관리에 관한 법률상 마약 혐의로 입건된 권씨에 대해 불송치 결정을 내렸다고 밝혔다. 이날 기자회견에 권씨는 불참했지만 친필 편지를 통해 마약·불평등·불공정을 퇴치·근절하는 재단을 만들 것이라고 예고했다.권씨는 편지에서 “이번 사태를 지나며 저는 지금까지 제가 보지 못한 곳을 보게 됐다”며 “뉴스를 보며 한해 평균 마약 사범이 2만명에 달한다는 사실과 청소년 마약류 사범이 무섭게 증가한 사실, 그리고 이들 중 치료 기관을 통해 치료받을 수 있는 사람이 500명도 되지 않는다는 가슴 아픈 사실을 알게 됐다”고 적었다. 그는 “그래서 저는 행동해야 한다고 생각하게 됐다”며 “무방비로 노출된 청소년들과 무섭고 잘못된 길인지 모르고 가는 이들을 위해 마약을 퇴치하고 근절하는 일을 적극적으로 하겠다”고 밝혔다. 권씨는 “치료의 기회를 갖지 못하는 많은 사람에게 기회를 주고자 한다”며 “힘이 없고 약한 존재가 겪는 억울한 일들이 반복되지 않도록 누군가의 오빠, 형, 동생, 동료로 보호하는 시스템적인 역할을 하고 싶다. 이 활동을 진심으로 또 지속적으로 하기 위해 재단을 만들기로 했다”고 강조했다. 또 이 재단에선 음악 예술활동을 통해 불평등·불공정과 같은 사회문제를 해결하고 기회가 없는 아티스트들에게 기회를 주는 후원을 하며 미래의 세대를 양성하는 활동을 펼치려 한다고 부연했다. ‘평화 캠페인’ ‘편견 없는 지구 캠페인’도 계획 중이라고 했다. 그는 재단에 첫 기부는 VIP(빅뱅 팬덤)의 이름으로 하겠다고도 했다.갤럭시코퍼레이션 조성해 이사는 “권씨는 그동안 많은 추측과 왜곡된 소문들로 인해 너무 힘든 시간을 보냈다”면서 “이날 공식 입장 보도를 마지막으로 아티스트로 복귀할 수 있도록, 무고했던 사람이 다시 일상으로 돌아갈 수 있도록 연예계 마약 사건 관련 연관 보도가 없기를 요청한다”고 당부했다. 조 이사는 “경찰은 수사 기관으로서 해야 할 일을 했다고 생각한다. 의혹 제기가 있었기 때문에 당연히 수사하는 것이 필요했다는 것이 권씨의 입장”이라며 “이번 사건을 계기로 권씨는 우리 사회에 낙인이라는 것이 개인에게 얼마나 큰 영향을 미치고 있는지와 마약의 심각성 등 사회적 문제에 관심을 갖게 됐다”고 말했다. 다만 권씨가 사건이 종결된 후에도 무분별한 악성 댓글 때문에 고통스러운 시간을 보내고 있다며 악플러들에게 ‘일주일’의 시간을 줬다. 조 이사는 “오늘부터 12월 28일 자정까지 일주일 내 인터넷에 떠도는 악성 댓글, 허위 사실 유포 등 명예를 훼손하는 게시물을 삭제 및 정정해달라”며 “이후에는 무관용 원칙에 따라 선처 없이 강력하게 대응할 것”이라고 경고했다. 권씨는 올해 오랜 기간 몸담은 YG엔터테인먼트와의 전속 계약을 끝내고 갤럭시코퍼레이션와 전속계약을 체결했다. 갤럭시코퍼레이션은 IP(지식재산권) 기반 AI(인공지능) 메타버스(가상세계) 기업이다. 넷플릭스 ‘피지컬 100’, TV조선 ‘아바드림’·‘미스터트롯 2’, KBS 2TV ‘1박 2일 시즌 4’ 등을 제작했다.

SK텔레콤(SKT)과 삼성전자가 인공지능(AI)을 이용한 ‘통화 중 실시간 통역’ 서비스를 잇달아 선보이면서 관련 시장이 뜨겁게 달아오르고 있다. 현재는 해외 호텔과 식당 예약, 국내 거주 외국인의 관공서, 병원 문의 전화 등 기초적 수준의 통역이 예상되지만, 향후 기술 향상에 따라 비즈니스 통역까지 영역을 확장할지 주목된다. SKT는 아이폰 사용자의 국내 통화에 한해 실시간 통역을 제공하는 ‘에이닷 통역콜’ 서비스를 출시한다고 14일 밝혔다. 네이버 파파고나 구글 번역 같은 별도의 번역 앱을 이용하거나 영상 통화상의 기능을 이용해 자막 통역이 가능했는데 실시간 통화 통역 서비스가 나온 것은 이번이 국내 최초다. 안드로이드 사용자를 위한 통역콜 서비스도 준비하고 있다는 설명이다. 서비스는 스마트폰 화면에 있는 SKT AI 앱 ‘에이닷’에서 ‘통역콜’ 아이콘을 누른 뒤 한국어, 영어, 일본어, 중국어 중 원하는 언어를 선택하면 통역이 이뤄진다. 일본어를 중국어로 변환하는 등 언어 4종의 상호 통역도 가능하다. 통화 연결 시 수신자에게 “잠시만요, 지금부터 통역을 위해 통화내용이 번역기로 전달됩니다”라는 안내가 전달된 뒤 실시간 통역이 진행된다. SKT는 향후 10개 국어 이상으로 언어 영역을 확장할 계획이다. 통역콜은 음성인식 클라우드 서버를 통해 파파고에 위탁해 번역한 음성을 제공하는 형태다. 개인정보 보안을 위해 클라우드 서버를 거친 음성정보는 즉시 삭제된다. SKT 관계자는 “기본적으로 순차 통역이 이뤄진다고 보면 되고 약 2초 정도 걸린다”고 설명했다. 해외에선 호주 옵터스가 통화 통역 서비스 ‘보이스 지니’를 지난 2019년 시연한 후 2021년 구글 클라우드 기술을 도입한 통화 통역 서비스를 정식 출시한 바 있다. 삼성전자는 온디바이스 AI를 탑재하는 갤럭시 스마트폰부터 실시간 통역 통화가 가능한 ‘AI 라이브 통역 콜’ 기능을 선보인다. 당장 내년 초에 공개할 갤럭시 S24 시리즈에서 구현된다. 삼성전자는 “서버를 거치지 않고 기기에 탑재된 AI가 직접 통역하는 만큼 별도 앱을 설치할 필요가 없어 편리하고 통화 내용이 클라우드 등 외부 서버로 새지 않아 보안 측면에서도 뛰어나다”면서 “인터넷 환경에도 구애받지 않아 지연 현상도 적을 것”이라고 설명했다. 온디바이스 형태의 통화 중 실시간 통역 서비스 출시는 세계에서 처음이라는 설명이다.

‘딥페이크(deepfake)’ 기술로 사진 속 여성의 옷을 벗기는 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있다. 딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다. 10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다. 그래피카에 따르면 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다. 딥페이크 앱과 웹사이트에 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지가 뜬다. 사진 속 인물 대부분은 여성이다. 외신은 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다.구글은 이 같은 문제에 대해 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다. 디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 말했다. AI 기술 발달이 이 같은 딥페이크 앱이 범죄에 악용될 수 있다는 우려를 심화시키고 있다. 온라인상에서 당사자의 동의 없이 사진을 가져와 나체 사진 등 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.실제 한 인터넷 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다는 내용으로 성희롱을 조장하고 있다. 우리나라에서도 최근 여성 지인의 얼굴을 음란물에 합성해 SNS에 퍼뜨린 20대 남성 A씨가 경찰에 붙잡혔다. 경찰에 따르면 A씨는 익명의 SNS 계정을 통해 피해자에게 ‘삭제를 원하면 자신의 노예가 되거나 직접 사진을 찍어 보내라’고 위협하기도 했다. 우리나라는 성폭력 처벌법 제14조의2는 허위 영상물을 편집, 합성, 가공할 경우 5년 이하, 5000만원 이하 형에 처하도록 규정하고 있고, 판매할 경우 7년 이하 징역형에 처할 수 있도록 하고 있다. 다만 딥페이크 관련 처벌법은 지난해 성폭력범죄의 처벌 등에 관한 특례법 일부개정법률로 신설되었으나 제작 또는 반포한 자에 한하여 처벌한다는 점에서 딥페이크 포르노를 소비한 ‘단순 이용자’에 대한 처벌 규정이 전무한 상황이다. 한편 2019년 네덜란드의 사이버 보안연구 회사인 딥트레이스가 발간한 보고서에 따르면 전 세계 딥페이크 영상의 96%가 포르노 영상이었다. 또 피해자의 25%는 한국 여성 연예인이었다는 사실이 드러났다.

조회수를 올리려고 경비행기를 고의 추락시켰던 유명 유튜버가 징역 6개월을 선고받았다. 4일(현지시간) 연방 검찰에 따르면 로스앤젤레스 연방법원은 이날 경비행기 고의 추락, 증거 인멸 등 혐의를 받는 미국 스노보드 국가대표 출신 유튜버 트레버 제이콥(29)에게 징역 6개월을 선고했다. 세간의 큰 관심을 모은 이번 사건은 지난 2021년 11월 제이콥이 유튜브에 “나는 내 비행기를 추락시켰다(I Crash My Airplane)”는 제목의 영상을 올리면서 시작됐다. 영상을 보면 제이콥은 경비행기인 테일러크래프트 BL6을 몰고 캘리포니아 로스 파드레스 국립공원 상공을 비행 중이었다. 그러다 갑자기 엔진 고장이 났다고 밝힌 그는 조종석 문을 활짝 열고 아래로 뛰어내렸다. 이 영상은 공개 즉시 큰 화제를 모았으나 곧 비행기를 일부러 추락시켰다는 의혹이 제기됐다. 탈출하는 그의 모습이 날개에 부착된 카메라와 손에 든 셀카봉 등에 생생하게 담겼기 때문이다. 논란이 일자 영상은 유튜브에서 삭제됐다. 조사에 나선 연방항공청(FAA)은 지난해 4월 경비행기 고의 추락 의혹이 사실이라고 결론내리고 제이콥의 개인 조종사 면허를 취소했다. FAA는 제이콥에게 보낸 서한에서 “당신은 의도적으로 추락 장면을 녹화하기 위해 비행기를 추락시켰다”며 “다른 사람의 생명과 재산을 위험에 빠뜨릴 정도의 부주의하고 무모한 행동으로 즉시 개인 조종사 면허를 취소한다”고 전했다. FAA는 고의 추락 근거로 제이콥이 엔진 재시동을 하지 않았고, 항공교통관제사와 교신을 하거나 안전하게 착륙할 지역도 찾지 않았다는 점을 꼽았다. 또한 제이콥이 사전에 비행기 내·외부에 여러 대의 카메라를 설치했으며 낙하산을 메고 조종했다는 점도 덧붙였다. 제이콥은 “나는 조회수를 위해 비행기에서 뛰어내리지 않았다”며 “비행기가 동력을 잃고 추락한 것”이라고 반박했다. 그러나 그는 사고 이후 미 국가교통안전위원회(NTSB)에 추락 장소를 모르겠다고 거짓말을 한 후 친구와 함께 현장을 찾아 잔해를 회수해 폐기했다. 이에 캘리포니아 주 연방검찰은 현장검증을 방해할 목적으로 사고 기체를 회수해 폐기한 혐의로 제이콥을 기소했다. 거짓말이 만천하에 드러난 제이콥은 자신의 혐의를 인정했다. 연방 검찰은 “(제이콥이) 소셜미디어(SNS)와 뉴스를 만들고 금전적 이득을 얻기 위해 범죄를 저질렀을 가능성이 크다”며 “이러한 무모한 행동은 용납될 수 없다”고 지적했다.

생성형 AI 발달로 그림 작업 진입장벽 낮아져가상·실존 인물 안 가려…수요·저변 확대 부작용“제작 자체는 방지 어렵고 배포 안되게 막아야” 생성형 인공지능(AI) 발달로 이미지 제작의 진입장벽이 낮아지면서, 선정적인 이미지가 무차별적으로 온라인에 유포될 수 있다는 우려가 커지고 있다. 생성형 AI는 이용자의 요구에 따라 이미지, 미술, 소설, 비디오 등 다양한 콘텐츠를 만들어내는 인공지능이다. 대부분의 이미지 제작용 AI가 기존에 있던 이미지를 데이터로 학습해 새로운 이미지를 제작하는 원리인 만큼, 실존 인물의 사진이 성적인 용도로 악용될 가능성이 있다. 지난 1일 인스타그램에서 ‘aigirl’(에이아이걸)이라는 단어를 검색하자 67만여개의 게시물이 쏟아졌다. 대부분의 게시물이 가슴 등 여성의 특정 신체 부위를 부각하거나 노출 수위가 높은 이미지를 포함하고 있었다. 최근에는 일반인이 생성형 AI를 통해 ‘돈벌이’를 하는 경우도 생겨나고 있다. 직장인 이모(27)씨는 지인이 이미지 제작 AI를 이용해 남들을 위한 ‘가상 여자친구’를 만든다는 소식을 들었다. 노출이 포함된 여성 이미지를 제작한 뒤 인스타그램 등에 게시함으로써 이용자들에게 후원금을 받는다는 것이다. 실제로 각종 SNS에는 AI로 선정적인 이미지를 생성해 올리는 채널이 우후죽순 생겨나고 있으며, 심지어 구독료를 받는 곳도 있다. 특히 심각한 문제는 대부분의 SNS가 연령 제한 없이 누구나 쉽게 접근할 수 있다는 점이다. 초등학교 교사 임모(28)씨는 연합뉴스에 “성에 관심이 커지는 고학년 학생들은 AI 프로그램에 선정적인 키워드를 입력할 가능성이 있다”며 “그런 키워드로 그림을 그려낸다면 아이들의 성 인식을 왜곡시키고 정서적으로도 좋지 않을 것 같다”고 말했다. 음란물이나 선정적 이미지가 범람하는 문제는 AI 기술의 발달로 인한 대표적인 부작용으로 꼽힌다. 가상의 캐릭터를 대상으로 한 선정적인 이미지의 유포를 넘어, 기존 동영상에 다른 사람의 얼굴을 합성하는 기술인 딥페이크를 활용해 실존 인물을 성적 대상화한 불법 허위 음란물이 만들어지는 사례도 급증하고 있다. 그러나 관계 당국의 시정 조치는 아직 많이 부족한 것이 현실이다. 방송통신심의위원회는 2020년 6월부터 지난 8월까지 불법 성적 허위 영상물에 대해 총 9천6건의 시정 요구를 했지만 실제로 삭제된 영상은 4.55％(410건)에 불과했다. 지금이라도 제도 개선이 필요하다는 주장도 나오는 이유다. 전문가들은 생성형 AI의 자체적인 윤리 판단이 어렵기 때문에 이미지를 배포·유포하는 단계에서 차단하는 것이 필요하다고 지적한다. 김주호 한국과학기술원(KAIST) 전산학부 교수는 “AI 프로그램이 실존 인물의 그림을 재료로 삼아 실사화하고, 성적 대상화하더라도 이것이 음란하거나 실존 인물의 인권을 침해했다고 단정하기는 쉽지 않다”며 “이미지의 생성 자체를 막는 기술적 요소를 강구하기보다는 유포·활용 단계에서 제재하는 것이 바람직하다”고 강조했다.

서울시는 디지털 성범죄 인공지능(AI) 삭제 지원 프로그램이 행정안전부가 개최한 ‘2023 정부 혁신 우수 사례 경진 대회’에서 대통령상 대상을 받았다고 28일 밝혔다. 디지털 성범죄 AI 삭제 지원 프로그램은 AI 기술이 24시간 실시간 모니터링을 통해 피해 영상물을 자동으로 검출해 삭제하고 재유포를 막는 시스템이다. 서울시와 서울연구원은 지난해 7월 프로그램 개발에 착수해 올해 3월 프로그램 개발을 마쳤다. AI 기술을 활용해 빠르고 정확하게 영상물을 찾아내 삭제를 지원하고, 이를 통해 피해자의 고통을 줄이고 일상 회복을 지원한다는 점에서 높은 평가를 받았다. 실제 AI 기술 도입 이후 7개월간 총 45만 건의 영상물을 모니터링했으며 AI 기술 도입 전 사람(삭제 지원관)이 직접 모니터링했을 때와 비교하면 1265% 증가했다. 사람이 키워드 입력부터 영상물 검출까지 하는데 평균 2시간 걸린 것에 비해 AI 기술은 3분이 소요돼 검출 시간이 97.5% 단축됐다. 피해 영상물 삭제 지원 건수도 2배로 늘었다. 시는 앞으로 아동·청소년 피해 예방에 주력할 계획이다. 본인이 삭제를 요청해야 지원할 수 있는 성인과 달리 아동·청소년은 ‘아동·청소년의 성보호에 관한 법률’ 등에 따라 당사자나 부모의 신고 없이 즉시 삭제가 가능한 만큼 AI 기술을 바탕으로 디지털 성범죄 피해 예방에 선제적으로 나설 방침이다. 이를 위해 시는 내년 상반기 안으로 서울연구원과 ‘AI 기반 아동·청소년 피해 영상물 삭제 지원 프로그램’도 개발할 예정이다. 해당 프로그램에는 아동·청소년 연관 게시글을 종합 분석해 성별과 나이 등을 예측하는 모델이 적용돼 아동·청소년 피해 영상물을 삭제하는 데 도움을 줄 것으로 기대된다.

지난 15일 오세훈 서울시장과 한동훈 법무부 장관이 손을 맞잡았다. 범죄로 인해 이루 말할 수 없는 피해를 입은 범죄피해자를 위한 각종 지원을 한곳에서 제공하는 ‘범죄피해자 원스톱 솔루션센터’ 1호를 서울에 만들기로 한 것이다. 범죄피해자 원스톱 솔루션센터는 성범죄나 스토킹 범죄를 비롯한 모든 범죄피해자를 위한 곳으로 신변 보호부터 수사, 심리, 의료, 법률, 고용, 복지, 금융 등 최적의 솔루션을 한곳에서 제공하는 센터다. 이를 위해 검찰, 경찰, 대한법률구조공단, 고용노동부 등 각종 기관도 힘을 모았다. 범죄피해자 원스톱 솔루션센터는 동작구 대방동 서울여성플라자에 설치돼 내년 7월부터 운영에 들어간다. 이곳은 서울시가 범죄피해자 지원을 위해 운영하는 서울디지털성범죄안심지원센터, 스토킹 피해자 원스톱지원 사업단, 다시함께상담센터 등이 집약된 ‘안심서울’의 허브다. 범죄피해자 원스톱 솔루션센터를 설치하기에 최적의 장소인 이유다. 올해는 신림역과 서현역에서 발생한 칼부림 사건, 관악산 등산로 살인 사건 같은 강력·흉악범죄가 잇따르면서 생활 속 불안감이 커지고 있어 일상 안전에 대한 시민들의 관심이 그 어느 때보다 높다. 세상을 떠들썩하게 한 ‘n번방 사건’ 이후 디지털 성범죄는 108%나 증가했고 범죄 양상도 점차 진화하고 있다. 스토킹의 경우 가해자의 76.7%가 연인, 배우자, 직장 동료처럼 가까운 관계로 평온했던 일상이 일순간 악몽으로 바뀌는 경우가 많다. 서울시는 복합적으로 발생하는 범죄 피해를 통합적으로 연계 지원하기 위해 총력을 다해 왔다. 대표적으로 디지털 성범죄 예방과 피해자 지원을 위해 지난해 문을 연 서울디지털성범죄안심지원센터는 올해 400명 가까운 피해자에게 심리 치료, 수사, 소송 지원 등을 했다. 특히 지난 3월 도입한 ‘AI 24시간 자동 추적·감시 시스템’은 7개월 만에 총 45만 7440건의 영상물을 감시하는 성과를 냈다. 사람이 직접 모니터링했을 때보다 13배 많은 규모다. 키워드 입력부터 영상물 검출까지 소요되는 시간도 사람이 했을 때 평균 2시간이 걸렸다면 AI는 단 3분밖에 걸리지 않아 검출 시간이 무려 97.5% 단축됐다. 덕분에 피해 영상물 삭제 지원 건수도 같은 기간 대비 2배로 늘었다. 9월엔 전국 최초로 ‘스토킹 피해자 원스톱지원 사업단’을 출범시켜 경찰과 공조해 한 달 만에 민간 경호, 이주비 지원 등 200건을 지원했다. 성착취 피해 청소년에게는 다시함께상담센터에서 심리·의료·법률 서비스를 제공하며, 성매매피해자 지원시설에서 퇴소했지만 집에 돌아가기 어려운 청소년에게는 1000만원의 자립정착금도 지원하고 있다. 내년 7월 범죄피해자 원스톱 솔루션센터가 문을 열게 되면 위 기관들과 연계해 모든 유형의 범죄피해자가 복합적인 피해에서 벗어나 평화로운 일상을 되찾도록 손을 잡아 드릴 것으로 기대한다. 차질 없이 개관할 수 있도록 최선을 다해 준비해 나가겠다.