‘동반 자살 모집’ 등 온라인 자살 유발·유해 정보에 대한 신고가 지난해 60만건을 넘어섰으나 10건 중 7건은 연말까지 삭제되지 않은 것으로 나타났다. 신고가 4년 새 4배 이상 급증했지만 정부의 감시 인력과 플랫폼의 삭제 조치가 이를 따라가지 못했다는 지적이 나온다. 2일 국회 보건복지위원회 소속 서미화 더불어민주당 의원이 보건복지부로부터 받은 자료에 따르면 지난해 온라인 자살 유발·유해 정보 신고 건수는 60만 2781건에 달했다. 그러나 연말까지 삭제된 정보는 17만 6163건으로 삭제율이 29.2%에 그쳤다. 신고된 정보의 70.8%인 42만 6618건은 삭제되지 않은 채 온라인에 남은 셈이다. 자살 유발·유해 정보는 함께 목숨을 끊을 사람을 모집하거나 자살을 유도하는 글·사진·영상, 자살 위해 물건의 판매·활용 정보 등 실제 행동을 부추기는 내용뿐 아니라 자살을 암시·미화하는 게시물까지 포함한다. 신고 건수는 2021년 14만 2725건에서 2024년 40만 136건, 지난해 60만 2781건으로 4년 만에 4.2배로 불어났다. 삭제가 특히 더딘 곳은 온라인 커뮤니티였다. 지난해 커뮤니티에서 신고된 7만 3036건 가운데 삭제된 것은 4132건으로 삭제율이 5.7%에 그쳤다. 신고의 대부분을 차지한 소셜미디어(SNS)에서는 52만 5643건이 접수됐으며, 이 가운데 99.9%인 52만 5107건이 엑스(X·옛 트위터)에서 발견됐다. 위험 정보는 급증했지만 대응 인프라는 턱없이 부족했다. 2024년까지 정부 전담 인력은 1명, 연간 운영예산은 3000만원에 불과했다. 지난해 9월 인력을 4명으로 늘리고 올해 예산을 2억 700만 원으로 증액하면서 올 상반기 삭제율은 45.1%로 개선됐지만 여전히 절반 이상(54.9%)은 미삭제 상태다. 정부는 오는 11월부터 인공지능(AI)을 활용한 24시간 모니터링 체계를 가동한다. 11월 12일부터는 포털과 SNS 등 정보통신 서비스 제공자가 자살 유발 정보를 발견하면 즉시 삭제·차단하고 검색과 송수신을 제한해야 한다. 조치 결과도 매달 복지부에 제출해야 한다. 서 의원은 “플랫폼에서 신속한 삭제·차단 조치가 이뤄질 수 있도록 사업자의 책임을 강화하고 정부와 플랫폼 간 협력체계도 더욱 촘촘히 구축해야 한다”고 말했다.

온라인 자살유발·유해정보 신고가 지난해 60만건을 넘어섰지만 10건 중 7건은 연말까지 삭제되지 않은 것으로 나타났다. 신고가 4년 새 4배 이상 급증했지만 정부의 감시 인력과 플랫폼의 삭제 조치가 이를 따라가지 못했다는 지적이 나온다. 2일 국회 보건복지위원회 소속 서미화 더불어민주당 의원이 보건복지부로부터 받은 자료에 따르면 지난해 온라인 자살유발·유해정보 신고 건수는 60만 2781건에 달했다. 그러나 연말까지 삭제된 정보는 17만 6163건으로 삭제율이 29.2%에 그쳤다. 신고된 정보의 70.8%인 42만 6618건은 삭제되지 않은 채 온라인에 남은 셈이다. 자살유발·유해정보는 함께 목숨을 끊을 사람을 모집하거나 자살을 유도하는 글·사진·영상, 자살위해물건의 판매·활용 정보 등 실제 행동을 부추기는 내용뿐 아니라 자살을 암시·미화하는 게시물까지 포함한다. 신고 건수는 2021년 14만 2725건에서 2024년 40만 136건, 지난해 60만 2781건으로 4년 만에 4.2배로 불어났다. 삭제가 특히 더딘 곳은 온라인 커뮤니티였다. 지난해 커뮤니티에서 신고된 7만 3036건 가운데 삭제된 것은 4132건으로 삭제율이 5.7%에 그쳤다. 신고의 대부분을 차지한 소셜미디어(SNS)에서는 52만 5643건이 접수됐으며, 이 가운데 99.9%인 52만 5107건이 엑스(X·옛 트위터)에서 발견됐다. 위험 정보는 급증했지만 대응 인프라는 턱없이 부족했다. 2024년까지 정부 전담 인력은 1명, 연간 운영 예산은 3000만원에 불과했다. 지난해 9월 인력을 4명으로 늘리고 올해 예산을 2억 700만원으로 증액하면서 올 상반기 삭제율은 45.1%로 개선됐지만 여전히 절반 이상(54.9%)은 미삭제 상태다. 정부는 오는 11월부터 인공지능(AI)을 활용한 24시간 모니터링 체계를 가동한다. 11월 12일부터는 포털과 SNS 등 정보통신서비스 제공자가 자살유발정보를 발견하면 즉시 삭제·차단하고 검색과 송수신을 제한해야 한다. 조치 결과도 매달 복지부에 제출해야 한다. 복지부 관계자는 “AI를 활용한 검색과 삭제 요청, 모니터링이 이뤄지면 자살유발·유해정보 관리 실적도 개선될 것으로 기대한다”고 말했다. 서 의원은 “자살유발정보는 온라인에서 순식간에 확산하는 만큼 무엇보다 신속한 대응이 생명”이라며 “플랫폼에서 신속한 삭제·차단 조치가 이뤄질 수 있도록 사업자의 책임을 강화하고 정부와 플랫폼 간 협력체계도 더욱 촘촘히 구축해야 한다”고 말했다.

지난달 28일 미국·이스라엘이 이란에 대한 대규모 공습을 시작한 뒤 이란이 거세게 반격하면서 중동 전역의 전운이 짙어지는 가운데, 미국 정부·국방부와 AI 기업의 갈등이 본격화하는 모양새다. 대규모 군사작전이 시작되기 불과 하루 전인 지난달 27일 미국 AI 스타트업인 앤트로픽은 국방부가 AI의 군사적 활용 범위를 전면 개방하라는 요구를 거절했다는 이유로 ‘공급망 위험 기업’으로 지정됐다. 앞서 앤트로픽은 지난해 7월 국방부와 AI 모델 클로드(Claude)와 관련한 2억 달러 규모의 계약을 맺었다. 당시 앤트로픽은 자사의 AI 모델을 국방 목적에 활용하되 ▲클로드 AI를 미국 시민에 대한 대규모 감시에 사용하지 않을 것 ▲AI가 스스로 표적을 선정하고 공격을 결정하는 완전 자율 무기 시스템(LAWS)에는 사용하지 않을 것이라는 조건을 달았다. 그러나 계약을 맺은 지 6개월이 흐른 지난 1월, 피트 헤그세스 미 국방장관은 모든 AI 관련 계약에 “모든 합법적 목적(any lawful use)”이라는 표준 문구를 넣도록 지시했다. 이는 국방부와 계약한 앤트로픽의 ‘2가지 조건’이 사실상 백지화된다는 것을 의미했다. 국방부가 ‘합법’이라고 판단하는 순간 어느 방면에서나 계약한 AI를 활용할 수 있기 때문이다. 앤트로픽이 이를 거부하자 도널드 트럼프 대통령은 앤트로픽을 향해 “재앙적 실수를 저지른 좌파 반미 집단”이라 몰아붙이며 연방 전 기관의 사용 즉시 중단을 명령했다. 이어 국방부는 앤트로픽을 ‘국가 공급망 위험 기업’으로 지정하면서 모든 연방기관이 앤트로픽의 AI 모델을 사용하지 못하도록 금지했다. 앤트로픽 측은 AI의 위험성을 고려했을 때 강력한 안전장치가 필요하며, 이에 따라 군사·감시 사용은 제한해야 한다고 주장했다. 그러나 미국 정부와 군은 국가 안보라는 합법적 목적이라면 제한해서는 안 된다고 반박했다. 결국 앤트로픽과 정부의 계약은 파기됐고 그 자리는 오픈AI가 차지했다. AI 기업이 연방 정부의 블랙리스트에 오른 이른바 ‘앤트로픽 사태’는 단순히 정부·군과 기업 간의 분쟁이 아닌 AI 철학의 충돌로 해석되면서 논란이 거세졌다. 특히 민간 AI 기업의 기술이 사실상 국방 인프라가 되는 상황, 반대로 기업이 군사 목적의 사용을 통제할 권한이 있는가 등의 논쟁으로 확산했다. 더불어 군이 표적 탐지부터 판단, 공격에 이르는 군사적 의사 결정 과정에 AI가 어디까지 관여할 수 있는지에 대한 우려의 목소리도 나온다. 앤트로픽 CEO가 밝힌 ‘찍힌 이유’앤트로픽 사태의 표면적 이유는 AI 모델을 소유한 업체가 합법적 목적으로 AI를 사용하려는 정부와 충돌한 것이지만, 앤트로픽 CEO는 또 다른 주장을 내놓은 것으로 알려졌다. 4일 IT 전문 매체 디인포메이션 등에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 국방부가 앤트로픽을 공급망 위험 기업으로 지정한 당일 직원들에게 보낸 내부 메모에서 “트럼프 대통령과 행정부가 우리를 싫어하는 진짜 이유는 (오픈AI와 달리) 우리는 그에게 기부하지 않았기 때문이며 (샘 올트먼 오픈AI CEO와 달리) 우리는 독재자식 찬사를 트럼프에게 보내지 않았기 때문”이라고 주장했다. 오픈AI가 공식적으로 트럼프 행정부에 정치 자금을 기부한 기록은 없지만, 올트먼 CEO는 2024년 트럼프 대통령 재임 확정 이후 100만 달러(현재 환율 기준 약 14억 7000만원)를, 공동 창업자인 그레그 브로크먼은 아내와 함께 트럼프 지지 슈퍼팩 등에 2500만 달러(367억 5000만원)를 기부한 것으로 알려졌다. 아모데이 CEO는 앤트로픽이 파기한 계약을 꿰찬 오픈AI에도 비판의 목소리를 냈다. 그는 “올트먼이 중재 역할을 하겠다며 국방부와 계약을 체결했지만, 사실 우리 입장을 지지하는 척하면서 실제로는 약화하고 있다”며 오픈AI가 가스라이팅(심리적 지배)을 하고 있다고 표현했다. 무엇보다 오픈AI가 국방부와의 계약에서 ‘안전장치’를 마련했다고 밝힌 데 대해 “아마도 20%만 실제이고 80%는 연극일 것”이라고 비판했다. 실제로 오픈AI가 체결한 계약에는 앤트로픽이 지키려던 2가지 원칙을 계약서에 명시하지 않은 것으로 알려졌다. 대신 ‘기술적 배포 방식’, ‘클라우드 전용 운영’ 등을 통해 간접적으로 ‘안전장치’를 보호하는 방식을 택했다. 이를 두고 일각에서는 트럼프 대통령과 국방부가 원한 것은 안전장치의 완전 폐기가 아니라 비교적 우회하는 길을 택하더라도 국가의 명령에 복종하는 태도였다는 지적이 나온다. 전쟁 중 혼란 가중된 방산업체앤트로픽 사태 이후 미 방산업계는 분주하게 돌아가고 있다. 국방부 등과 10억 달러 이상의 계약을 보유한 팔란티어는 자사 플랫폼에서 앤트로픽의 클로드 AI 모델을 제거하고 대체 기술을 도입해야 하는 상황에 놓였다. 현재 드론·위성 영상에서 표적을 자동 식별하는 팔란티어의 군사 AI 플랫폼 ‘메이븐 스마트 시스템’은 앤트로픽의 클로드 코드를 기반으로 구축됐기 때문이다. 방산 분야 투자사인 J2벤처스가 투자한 방산 스타트업 10개사 역시 클로드 사용을 중단하고 다른 AI 서비스로 전환하는 절차를 진행 중인 것으로 전해졌다. 미국 최대 방산업체인 록히드마틴 역시 “우리는 대통령과 국방부 지시를 따를 것”이라며 앤트로픽의 AI 모델 클로드 사용을 중단할 것임을 시사했다. 방산업체들은 기존에 사용하던 AI 모델을 대체하기 위해 API 등을 다시 개발하고 모델 성능 테스트와 보안 인증을 다시 받아야 하는 과정에서 추가 비용이 발생할 수 있다. 대체 모델로 변경하는 과정에서 일시적으로 성능이 떨어질 가능성도 있다. 물론 방산업체 대부분이 AI 모델 교체로 인해 시스템 붕괴를 겪을 일은 사실상 없다고 볼 수 있고 AI를 교체하고 시스템과 보안을 재검증하는 과정에서 더욱 나은 서비스를 이용할 수도 있지만, 문제는 향후 AI 기업 사이에서 앤트로픽 사태가 반복될 여지가 다분하다는 사실이다. AI 업계와 소비자의 선택은?앤트로픽 사태 이후 경쟁사인 오픈AI와 구글의 직원들이 앤트로픽에 연대하는 서명운동을 벌이고 소비자 시장에서도 앤트로픽 사용이 크게 늘어난 것으로 나타났다. 3일 기준 구글 직원 약 830명과 오픈AI 직원 약 100명 등 900여 명은 ‘우리는 분열되지 않는다’라는 제목의 온라인 공개서한에 서명했다. 이들은 서한에서 미국 국방부(전쟁부)가 요구하는 대규모 국내 감시와 자율 살상 무기에 대한 인공지능(AI) 사용 허가를 앞으로도 거부해달라고 자사 경영진에 요구했다. 또 “국방부는 경쟁사가 굴복할 것을 두려워하도록 함으로써 각 기업을 분열시키려 한다”며 “이와 같은 전략은 우리가 상대방(경쟁사)의 의사를 모를 때만 의미가 있다”고 지적했다. 실리콘밸리 기술기업의 창업자·경영진·투자자 등 180여명도 ‘전쟁부와 의회에 보내는 공개서한’을 통해 앤트로픽을 ‘공급망 위험’ 기업으로 등록한 것을 철회하라고 촉구했다. 소비자들도 앤트로픽에 기우는 분위기다. 앤트로픽의 클로드 AI 모델은 지난달 28일 미국 앱스토어 무료 앱 순위에서 챗GPT를 제치고 1위에 올랐고 이날까지 순위를 지키고 있다. 반면 시장조사업체 센서타워에 따르면 챗GPT는 앤트로픽의 퇴출 직후 오픈AI가 국방부와 계약을 맺었다는 소식이 전해지면서 하루 만에 앱 삭제율이 295% 늘어났다.

올해 영화 온라인 불법유통 저작권 보호조치로 가장 많이 삭제된 한국영화는 ‘싱크홀’이었다. ‘마녀 part2’, ‘모가디슈’가 뒤를 이었다. 유정주 더불어민주당 의원이 영화진흥위원회(영진위)에서 받아 12일 공개한 자료에 따르면 올해 3월 21일부터 7월 31일까지 개봉·유통된 한국영화는 모두 110편이었다. 온라인으로도 출시된 영화는 80편이었고, 이 가운데 95%에 이르는 76편이 불법으로 퍼졌다. 영진위는 국내와 외국 사이트를 대상으로 영화 온라인 불법유통 실태조사 및 저작권 보호조치를 하고 있다. 불법영상으로 확인되면 호스트 영상을 추적하고 삭제를 요청한다. 영진위는 2018년 5만 3105건의 불법유통을 모니터링하고 5만 856건(95.8%)을 삭제 조치했다. 그러나 지난해에는 25만 5781건을 적발하고도 삭제율이 70.7%인 18만 950건에 불과했다. 올해 9월 기준 불법유통 모니터링 건수는 24만 3241건이지만 삭제한 영화는 13만 7019건(56.3%)으로 더 떨어졌다. 이 기간 페이스북, 텔레그램, 밴드 등 폐쇄형 소셜네트워크서비스(SNS)를 통한 불법유통 모니터링 건수는 2021년 2007건에서 2022년 3075건으로 53.2% 증가했다. 폐쇄형이어서 최신작의 불법유통량이 많았다. 유 의원실은 “저작권 보호조치 사업을 신청하지 않은 제작사들은 자신들의 작품이 불법유통 중인지에 대한 모니터링 및 법적 대응이 어려운 상황”이라며 “중소 규모 제작사와 배급사를 사업 대상에 의무적으로 포함하는 등 방안을 마련해야 한다”고 지적했다.

올해 영화 온라인 불법유통 저작권 보호조치로 가장 많이 삭제된 한국영화는 ‘싱크홀’이었다. ‘마녀 part2’, ‘모가디슈’ 등이 뒤를 이었다. 외국 주요 웹사이트에서 불법유통을 적발한 한국영화는 ‘모가디슈’, ‘부산행’, ‘블랙핑크 더 무비’ 순이었다. 중화권에서는 ‘#살아있다’, ‘히트맨’, ‘부산행’ 순으로 집계됐다. 유정주 더불어민주당 의원이 영화진흥위원회(영진위)에서 받아 12일 공개한 자료에 따르면, 올해 3월 21일부터 7월 31일까지 개봉·유통된 한국영화는 모두 110편이었다. 온라인으로도 출시된 영화는 80편이었고, 이 가운데 95%에 이르는 76편이 불법유통됐다. 영진위는 국내와 외국 사이트를 대상으로 영화 온라인 불법유통 실태조사 및 저작권 보호조치를 하고 있다. 불법영상으로 확인되면 호스트 영상을 추적하고서 삭제를 요청한다. 불법유통 모니터링 횟수는 늘지만, 삭제 횟수는 매년 줄고 있다. 영진위는 2018년 5만 3105건의 불법유통을 모니터링하고 5만 856건(95.8%)을 삭제조치했다. 그러나 지난해에는 25만 5781건을 적발하고도 삭제율이 70.7%인 18만 950건에 불과했다. 올해 9월 기준 불법유통 모니터링 건수는 24만 3241건이지만 삭제한 영화는 13만 7019건(53.3%)으로 더 떨어졌다.페이스북, 텔레그램, 밴드 등 폐쇄형 소셜네트워크서비스를 통한 불법유통은 2021년 2007건이던 모니터링 건수가 2022년 같은 기간 3075건으로 53.2% 증가했다. 폐쇄형이어서 최신작의 불법유통량이 많았다. 유 의원실은 “저작권 보호조치 사업을 신청하지 않은 제작사들은 자신들의 작품이 불법유통 중인지에 대한 모니터링 및 법적 대응이 어려운 상황”이라며 “중소규모 제작사와 배급사를 사업 대상에 의무적으로 포함하는 등 방안을 마련해야 한다”고 지적했다.