인공지능(AI)을 활용한 ‘금융권 연쇄 해킹’ 사고의 여파가 이어지는 가운데 서민금융 정책기관인 서민금융진흥원과 신용회복위원회도 지난 2일 유사한 해킹 공격을 받은 것으로 알려졌다. 이들 기관이 다루는 소득·부채·연체 정보가 유출되면 서민의 절박한 사정을 악용한 맞춤형 금융사기로 이어질 수 있어 보안 강화가 필요하다는 지적이 나온다. 7일 금융당국에 따르면 서금원과 신복위는 지난 2일 두 기관 홈페이지를 겨냥한 해킹 공격 인터넷주소(IP)와 은행권 해킹 공격에 사용된 IP가 동일하다는 점을 발견했다. 공격자는 비대면 상담용 챗봇에 대환대출·정책자금 등 익숙한 단어를 입력하며 취약점을 찾으려 한 것으로 알려졌다. 두 기관이 실시간으로 대응해 초기 단계에서 공격을 차단하면서 정보 유출 등 피해는 없었다. 서금원은 은행 대출이 어려운 저소득·저신용층에 햇살론 등 정책금융을 지원하고, 신복위는 빚을 갚기 어려운 채무자의 상환 부담을 줄이는 채무조정을 돕는 공공기관이다. 은행·저축은행·캐피탈 등에서 개인정보 유출을 일으킨 연쇄 공격이 서민의 재기를 돕는 ‘금융 안전망’까지 향한 것이다. 특히 두 기관은 정책대출과 채무조정 과정에서 신청자의 소득·부채·연체 여부 등을 확인한다. 관련 정보가 유출되면 ‘누가 얼마나 경제적으로 어려운지’까지 드러날 수 있어 개인의 경제적인 사정이 노출될 수 있다. 이런 정보가 유출되면 사기범이 ‘정부 지원 대출을 받을 수 있다’, ‘빚을 줄여 주겠다’며 접근해 급전이나 채무조정이 절실한 사람에게 추가 피해를 줄 가능성도 있다. 황석진 동국대 정보보호대학원 교수는 “단순히 개인 정보 유출을 넘어서 개인의 경제적 취약성을 이용한 맞춤형 보이스피싱으로 악용될 우려도 있다”며 “민간회사는 물론 공공기관에 대한 정보보안 시스템도 다시 점검해야 한다”고 말했다. 공격자가 개인정보를 빼내 거래하려 했을 가능성이 거론되지만 두 공공기관을 겨냥한 구체적인 목적은 확인되지 않았다. 보안업계 관계자는 “AI의 자동화 도구를 이용하면 전방위적으로 탐색한 뒤 취약점이 발견되는 기관부터 공격하는 방식이 가능하다”고 설명했다. 금융당국은 금융회사들의 긴급점검 결과도 분석하고 있다. 금감원은 전날 은행·카드업권의 결과를 보고받았으며, 나머지 업권은 8일까지 점검을 마쳐야 한다. 현재까지 추가 정보 유출은 확인되지 않았다. 은행권 개인정보 유출 피해자들은 집단소송 준비에 나섰다. 서초동의 한 로펌은 신한은행 피해자를 대상으로 손해배상 집단소송 원고를 모집하고 있다. 네이버에도 ‘신한은행 해킹 피해자 집단소송 카페’가 개설됐다. 운영자는 공지에서 “은행은 피해가 확인되면 전액 보상하겠다고 했지만 무엇을 피해로 볼 건지, 어떻게 신청하는 건지는 아직 아무 말이 없다”며 개설 배경을 밝혔다.

주변 정보 탈취해 개인 정보 뚫어사이트마다 비밀번호 달리 바꿔야피싱·스미싱 등 2~3차 피해 우려 커직함·소속 토대로 맞춤형 미끼 던져‘피해 보상’ ‘유출 확인’ 문자도 주의 인공지능(AI) 해킹에 따른 금융권의 개인정보 유출로, 여러 경로에서 조각조각 빠져나간 개인정보를 결합해 악용하는 2차 범죄에 노출될 수 있다는 우려가 커지고 있다. 5일 금융권에 따르면 최근 신한·KB국민·하나·BNK부산은행 등에서 발생한 개인정보 유출 사태에서 해커는 주로 보조 운영 시스템을 노렸다. 신한은행에서는 고객 이름, 전화번호, 연 소득, 산출 대출한도 등을 탈취당했고 KB국민은행에서는 직원용 모바일 업무지원시스템이, 하나은행은 영업지원시스템(ODS)이 공격을 받았다. 공격자는 인터넷뱅킹이나 고객 계좌 자체를 노리지 않았다. 보안업계에서는 고객 개인정보를 탈취해 2차 범죄를 겨냥한 것이라는 관측이 적지 않다. 유출 정보들은 개별적이고 단편적이지만 결합될 경우 기본 정보, 소득, 대출 내역, 취향 등 이용자의 프로필을 정밀하게 만들어낼 수 있다. 생성형 AI 기술이 발전하면서 개인을 겨냥한 ‘표적형 피싱’이나 ‘맞춤형 사기’는 빈번해지는 추세다. 마이크로소프트(MS)는 보고서에서 공격자들이 해킹 표적의 직함과 소속을 토대로 피싱 메시지를 맞춤 제작하고, 심지어 AI가 상대의 모국어와 말투에 맞춰 문구를 바꾸는 등 피싱이 정교화하고 있다고 밝혔다. AI가 접목된 피싱 공격에서 클릭률은 기존 방식보다 4.5배나 높았다. 보안업계 관계자는 “개인정보 결합 후 진행하는 2차 공격은 해킹 사고 이후 일정 시간이 지나 소비자의 경계심이 느슨해진 시점에 진행하는 경향이 있다”며 “이에 상대적으로 피해도 크지만 어떤 개인정보가 어떤 경로로 유출된 것인지 특정도 어렵다”고 말했다. 이미 대부분의 개인정보 파편이 유출된 것으로 봐야 한다는 지적도 있다. 개인정보가 유출됐다면 유출된 계정의 비밀번호 변경이 필수적이다. 여러 사이트에서 같은 비밀번호를 사용했다면 해당 계정까지 모두 변경해야 한다. 평소에 사이트마다 서로 다른 비밀번호를 설정하고 다중 인증을 하는 것이 안전하다. 유출 사고 이후의 피싱·스미싱 문자는 특히 경계해야 한다. 개인정보 유출 사실을 악용해 ‘피해 보상’, ‘유출 여부 확인’ 등을 앞세운 피싱이 늘어나기 때문이다. 공격자가 이미 확보한 이름이나 연락처 등을 메시지에 넣기도 한다. 출처가 불분명한 문자나 이메일에 포함된 링크는 절대 누르지 말고, 금전 요구 연락은 가족이더라도 사칭이 아닌지 우선 의심해야 한다. 업무와 일상에 불필요하다면 국제 문자 수신을 차단하는 것도 방법이다.

신한·KB국민·하나은행 등 대형 시중 은행 3곳과 예가람저축은행에서 고객 개인정보가 유출됐다. 그동안 개인정보 유출은 내부 직원의 일탈이나 외부 업체의 부주의 때문이었다. 이번 유출은 보안 관리가 허술한 대출모집인용 홈페이지, 직원용 모바일 업무 시스템 등 ‘뒷문’을 통한 공격이었다. 이억원 금융위원장은 어제 “여러 업권에서 사고가 단기간에 다수 발견되고 있다”며 “인공지능(AI)을 활용한 공격 가능성도 배제할 수 없다”고 밝혔다. 해커의 인터넷 프로토콜(IP) 주소가 일부 중복됐고, 공통으로 반복·자동화된 외부 공격이 확인됐다. 중국어 기반 AI 해킹 도구가 사용되기도 했다. 중국어 기반 AI 자율 침투 테스트 플랫폼 ‘아르텍스’의 흔적이 발견된 사실은 무엇보다 주목할 부분이다. 아르텍스는 공개 플랫폼이어서 중국발 공격으로 단정할 수는 없으나, 국제 공조를 통해 정밀하게 파악해야 할 문제다. AI 기술이 결합하면서 해킹 양상은 파괴적으로 변하고 있다. 예전에는 해커가 시스템의 허점을 찾기 위해 직접 수많은 변수를 넣었지만 이제는 AI에 목표만 정해주면 정보 수집, 취약점 탐색, 공격 실행, 결과 분석까지 모든 과정을 스스로 수행한다. AI 악용에 따른 보안 위협의 심각성은 예상됐던 일이기도 하다. 삼성SDS가 국내 정보기술(IT) 및 보안 담당자들에게 올해 기업에 가장 큰 영향을 미칠 사이버 보안 위협을 물었더니 ‘AI 기반 보안 위협’이 압도적인 비중(81.2%)으로 꼽혔다. 이번 해킹은 보안이 허술한 지점에서 발생했지만 금융사의 잘못된 체계 탓도 있었다. 본인 확인을 거치지 않고 대출신청 내역이나 기업 대표 정보를 조회할 수 있거나, 직원 업무용 모바일 단말기에 대한 접근 통제가 빠졌거나, 권한 없이도 특정 웹서비스에 접근할 수 있었다. 해킹 사고 유형이 공유된 만큼 대응 소홀로 유사 사례가 재발한다면 경영진에게 엄중하게 책임을 물어야 한다. 오픈뱅킹으로 은행은 물론 핀테크 기업, 증권, 카드 등 다양한 업권이 연결된 현실이다. 연결 고리가 해킹의 주요 도구가 되지 않도록 금융권의 공동 대응이 절실하다. 뚫린 이후의 대응도 중요하다. 침범 당했더라도 핵심 정보까지 접근하지 못하도록 모든 정보 요청을 매번 확인해야 한다. 온라인동영상서비스(OTT)와 전자결제, 미용의료 정보 플랫폼 등에서 개인정보가 잇따라 유출되고 있다. 서로 다른 곳에서 유출된 개인정보들이 결합해 대형 사기로 번질 수 있다는 불안감도 커진다. 개별 회사의 보안 강화는 물론 국가 차원에서 AI 방어막을 구축해야 하는 시점이다.

시간·인력 한계 뚫고 동시다발 공격여러 단계를 자체 판단하며 ‘고도화’인간 방어 속도로는 대응 못할 수도보안 업계, 탐지·피해 최소화 무게 ‘은행권 해킹’을 계기로 인공지능(AI) 사이버 공격에 대한 우려가 높아졌다. 해커가 AI를 활용해 시간·인력의 한계를 넘어 빠르고 무한 반복적인 고도화 공격에 나서면서 기존 보안체계가 감당하기 버겁다는 것이다. AI가 스스로 판단·실행하는 ‘에이전트’로 넘어가는 과정에서 예고된 위험이 현실화하면서 인간이 AI의 공격을 따라잡지 못하는 미래가 앞당겨졌다는 경고도 나온다. 4일 보안업계에 따르면 기존의 자동화 해킹이 미리 짜놓은 명령을 반복했다면 AI 에이전트는 정찰, 취약점 탐색, 침투, 계정 탈취 등 여러 단계를 스스로 판단해 반복하거나 동시에 진행한다. 실제 이번에 금융권도 사람이 수작업으로 대응하기 어려운 수준의 반복적·자동화된 외부 공격을 받았다. 보안업계 관계자는 “과거 여러 명이 (해킹) 역할을 나눴다면 이제 해커 한 명이 AI로 동시에 (공격을) 수행한다”고 말했다. 앤트로픽은 지난달 공개한 보고서에서 한 공격자가 AI로 수십 명의 피해자를 동시에 상대했고, 기업에서 데이터를 빼내기까지 2~3시간밖에 걸리지 않았다고 소개했다. 중국 정부 연계 조직은 지난해 금융사 등 약 30개 기관을 겨냥한 공격에서 정찰과 취약점 탐색, 계정 탈취, 데이터 분석·반출 등 전술적 작업의 80~90%를 AI에 맡겼다. 더 큰 문제는 공격과 방어 사이의 ‘시간차’다. 공격자는 침투 경로가 막혀도 AI로 다른 방법을 빠르게 찾아 재시도하지만 방어자는 패치를 만든 뒤 기존 시스템과의 충돌이나 서비스 장애 가능성을 검증해야 유포한다. 유럽은행감독청(EBA)은 지난 6월 프런티어 AI가 취약점을 찾아 악용하는 속도가 빨라지면서 기존 패치 주기를 흔들 수 있다고 경고했다. 보안 현장에서는 모든 공격을 사전 차단하기보다 탐지 및 피해 확산 중단에 무게를 싣고 있다. 이상 징후를 최대한 빨리 찾아 침해 계정이나 단말을 격리하고 내부 확산을 끊는 방식이다. 앤트로픽은 ‘프로젝트 글래스윙’을 통해 AI가 사전에 중요 소프트웨어를 공격하고 시스템의 취약점을 찾도록 해 방비하는 시험을 하고 있다. 보안업계의 한 직원은 올해 들어 AI를 활용한 해킹이 지난해보다 2배는 되는 것처럼 느낀다고 했다. 정부가 고의·중과실로 인한 개인정보 유출은 매출액의 10%까지 징벌적 과징금을 부과하면서 중소기업에서는 은폐가 증가해 신고되지 않은 사례는 더욱 많다는 것이다. 한 관계자는 “지금은 AI가 스스로 공격을 고도화하는 초기 단계”라며 “재귀적 (공격) 자동화가 빨라지면 인간이 대응할 시간을 잃는 지점이 올 수 있다”고 우려했다.

시중은행에 이어 2금융권인 저축은행까지 해킹 공격에 노출되면서 금융권 전반에 ‘AI 해킹’ 공포가 급격히 확산하고 있다. 3일 금융권에 따르면 예가람저축은행은 지난달 30일 고객 개인정보가 포함된 서버에 신원 미상의 해커가 접근해 정보가 유출된 정황을 확인했다고 밝혔다. 이번 사고로 유출된 정보는 고객 성명, 생년월일, 연락처 등이며 피해 규모는 약 4만명으로 추정된다. 예가람저축은행 측은 유출 사실을 인지한 즉시 관련 서비스를 중단하고 외부 IP 차단 등 긴급 조치를 취하는 한편, 당국 신고 및 피해 고객 구제를 위한 전담 센터 운영에 나섰다. 이번 사태는 앞서 신한은행, KB국민은행, 하나은행 등 주요 시중은행들이 인공지능(AI)을 활용한 해킹 공격을 받아 대규모 고객 정보가 유출된 초유의 사고에 이어 발생했다. 1금융권에 이어 2금융권까지 해커의 먹잇감이 되면서 AI 기술을 악용한 정교한 해킹 공격이 금융권 보안 체계를 뿌리째 흔들고 있다는 지적이 나온다.

인공지능(AI)이 악용될 경우 최대 10억명의 사망자를 낳을 수 있다는 빌 게이츠 마이크로소프트(MS) 공동창업자의 경고에 이어 세계적인 AI 석학과 빅테크 핵심 연구자들이 최악의 경우 인류 멸망까지 초래할 수 있다고 경고했다. AI가 스스로 AI 연구·개발(R＆D)에 참여하는 비중이 빠르게 늘면서 수년에 걸쳐 이뤄질 기술 발전이 불과 수개월로 압축되는 이른바 ‘지능 폭발’이 발생할 수 있다는 것이다. 28일(현지시간) 영국 케임브리지대 AI 과학·정책 프로그램(CASP)에 따르면 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 주요 AI 연구자 22명은 공동 논문 ‘AI 연구개발의 자동화가 지능 폭발을 촉발한다면?’을 발표했다. 논문에는 ‘AI 대부’로 불리는 힌턴과 벤지오를 비롯해 야쿠프 파호츠키 오픈AI 수석과학자, 잭 클라크 앤트로픽 공동창업자, 에릭 호비츠 MS 최고과학책임자, 던 송 메타 AI 연구 담당 부사장 등 주요 AI 기업의 핵심 연구진도 참여했다. 이들이 주목한 것은 AI가 단순히 인간의 업무를 대신하는 것을 넘어 ‘더 나은 AI를 만드는 일’까지 맡기 시작했다는 점이다. 현재 주요 기술기업에서는 AI 모델 개발 작업을 AI에 위임하는 자동화가 빠르게 진행되고 있다. 연구진은 이런 추세가 이어지면 AI가 더 뛰어난 AI를 개발하고, 그렇게 만들어진 AI가 다시 다음 세대 AI 개발에 투입되는 ‘재귀적 자기개선’으로 이어질 수 있다고 분석했다. AI가 AI를 개발하는 시대…“수년 발전이 수개월로”이러한 순환 구조가 만들어지면 수년에 걸쳐 이뤄질 기술 발전이 수개월 또는 그보다 짧은 기간에 압축되는 ‘지능 폭발’이 일어날 수 있다는 게 연구진의 분석이다. 연구진은 수년 내 AI R＆D 업무 대부분이 자동화될 가능성도 제기했다. 다만 지능 폭발이 실제로 발생할지는 불확실하며 이를 확정적인 미래로 제시하지는 않았다. 지능 폭발이 현실화할 경우 신약 개발이나 과학적 발견 등 기술 혁신을 크게 앞당길 수 있지만, AI의 발전 속도가 사회의 대응 능력을 뛰어넘는 위험도 동시에 커질 수 있다고 연구진은 경고했다. 특히 논문은 가장 극단적인 경우 초인적 AI 시스템에 대한 통제력을 상실하면서 “인류의 소외 또는 멸망”으로 이어질 가능성까지 거론했다. 던 송 메타 부사장도 월스트리트저널(WSJ)에 “이미 오늘날 에이전트가 수행하는 작업을 감시하기 위해 AI가 필요한 단계에 이르렀다”며 “인간만으로는 감시를 수행하는 데 역부족”이라고 말했다. “AI가 10억명 사망 초래할 수도”…게이츠도 경고 AI를 둘러싼 강도 높은 경고는 이번이 처음이 아니다. 빌 게이츠 MS 공동창업자는 지난 25일 공개된 NBC 인터뷰에서 악의적인 세력이 최신 AI 기술을 이용할 경우 대규모 인명 피해를 초래할 수 있다고 경고했다. 게이츠는 AI가 “10억명의 사망자를 발생시키는 사건을 일으킬 만큼 강력하다”는 취지로 말하며 악의를 가진 사람들이 최신 AI 도구를 사용하는 것만큼 강력한 수단은 지금까지 없었다고 지적했다. 그는 AI 기업의 자율 규제만으로는 부족하다며 미국 연방정부가 안전장치와 감시 체계를 마련해야 한다고 촉구했다. 게이츠와 이번 논문이 우려하는 위험의 경로에는 차이가 있다. 게이츠가 악의적인 세력에 의한 AI 악용에 무게를 뒀다면, 22명의 연구자는 AI가 AI 연구·개발을 자동화하면서 기술 발전 속도 자체가 인간의 통제 범위를 넘어설 가능성을 주요 위험으로 제시했다. 다만 정부 차원의 안전장치와 감시 체계가 필요하다는 점에서는 같은 목소리를 냈다. 연구진은 각국 정부가 AI 기업에 R＆D 자동화 수준과 관련한 지표를 의무적으로 보고하도록 하고, 원자력규제위원회(NRC)나 통화감독청(OCC)의 감독 방식처럼 AI 기업에 상주 감시관을 배치하는 방안을 제안했다. 안전 기준을 충족하지 못할 경우 AI 연구·개발 작업을 제한하거나 일시 중단할 수 있는 통제 장치를 마련하고, 급격한 노동시장 변화와 지정학적 불안정 등에 대비한 비상 대응 계획도 주문했다. 연구진은 ‘지능 폭발’이 실제 발생할지, 발생한다면 언제일지는 여전히 불확실하다고 봤다. 다만 급격한 기술 가속이 시작된 뒤에는 정부와 사회가 대응책을 마련하기에 이미 늦을 수 있다고 우려했다. 연구진은 “정책 입안자들은 의미 있는 조처를 할 수 있는 기회가 사라지기 전에 상황을 파악하고 조정 체계를 구축하며 적응 능력을 키우는 행동에 즉각 나서야 한다”고 촉구했다.

오픈AI 에이전트, 호주 기관 접근차단 명령 거부하며 다른 길 찾아챗GPT회원 이미지 53장도 유출‘소버린 AI’ 역량 확보 목소리 커져빌 게이츠 “전례 없는 강력한 무기” 오픈AI의 인공지능(AI) 에이전트가 호주 보건 당국 웹사이트 침투를 시도한 것으로 알려진 가운데 지난 여름에는 미국 정부 웹사이트에도 접근한 것으로 나타났다. 호주 보건 당국 침투의 경우 AI 모델이 정부 기관을 대상으로 공격을 시도한 첫 사례로, AI 보안 위협이 기업을 넘어 국가 안보 문제로 확대되는 모습이다. 이에 핵심 AI 기술과 데이터를 국가가 직접 통제하는 ‘소버린 AI’ 역량 확보가 시급하다는 목소리가 커지고 있다. 호주 정부는 지난 23일(현지시간) 오픈AI가 개발한 AI 에이전트가 지난 6월 호주 정부의 메디케어 통계 보고 서비스 포털에 무단으로 접근했다고 공개했다. 앤서니 앨버니지 호주 총리는 유엔 총회가 열린 뉴욕에서 기자회견을 열고 “오픈AI의 샘 올트먼 최고경영자(CEO)와 통화해 이번 사건에 대한 정부의 강한 우려를 전달했다”며 “관련 법 집행과 대응 입법 조치를 검토하고 있다”고 밝혔다. 이어 “AI 에이전트가 반복적으로 차단에 부딪히자 우회할 방법을 찾아냈다. 말하자면 ‘안 된다’는 답을 받아들이지 않은 것”이라고 지적했다. 오픈AI는 해당 사건을 사건 발생 두 달 뒤인 8월에야 인지했고, 지난 10일에야 호주 당국에 통보하면서 논란을 자초했다. AI 에이전트가 호주보건복지연구소(AIHW) 등 여러 호주 정부 기관 웹사이트에 접근해 데이터를 수집하려 한 사실도 추가로 드러났다. 미국에서도 오픈AI 에이전트가 정부 기관 웹사이트에 비정상적으로 접근한 사실이 공개됐다. 오픈AI는 25일 자사 AI 모델이 미국 증권거래위원회(SEC)가 운영하는 웹사이트 2곳과 인구조사국 데이터에 접근한 사실을 자체 검토 과정에서 발견했다고 밝혔다. 다만 오픈AI는 에이전트의 SEC 인증 정보 사용, 비공개 정보 접근, 데이터·시스템 변경, 보안 침해, 취약점 악용의 증거는 찾지 못했다고 설명했다. AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부 사이트에 게시한 사건도 추가로 드러났다. 오픈AI는 별도 지시 없이 제3자 사이트에 게시물을 올린 행위를 새 유형의 보안 사고로 규정하고 ‘에이전트 스팸’으로 명명했다. 업계는 이런 일탈 사례의 확산을 우려하고 있다. 미국 인터넷 매체 악시오스는 26일 오픈AI와 앤트로픽, 보안 연구진이 최근 수개월간 AI 모델이 보안 통제를 벗어나거나 의도하지 않은 행동을 한 수만 건의 보안 사고 사례를 조사하고 있다고 보도했다. 빌 게이츠(사진) MS 공동 창업자는 NBC와 인터뷰에서 “AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다”며 “악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다”고 경고했다. AI 에이전트의 위협이 국가 안보 영역으로까지 확대되자 각국의 AI 주권 확보가 차기 과제로 부상하는 모습이다. 자체 AI 모델과 데이터, 컴퓨팅 인프라를 확보하는 ‘소버린 AI’ 개발로 외부 기술 의존도를 낮출 필요가 있다는 지적이 나온다.

오픈AI의 인공지능(AI) 에이전트가 호주 보건 당국 웹사이트 침투를 시도한 것으로 알려진 가운데 지난 여름에는 미국 정부 웹사이트에도 접근한 것으로 나타났다. 호주 보건 당국 침투의 경우 AI 모델이 정부 기관을 대상으로 공격을 시도한 첫 사례로, AI 보안 위협이 기업을 넘어 국가 안보 문제로 확대되는 모습이다. 이에 핵심 AI 기술과 데이터를 국가가 직접 통제하는 ‘소버린 AI’ 역량 확보가 시급하다는 목소리가 커지고 있다. 호주 정부는 지난 23일(현지시간) 오픈AI가 개발한 AI 에이전트가 지난 6월 호주 정부의 메디케어 통계 보고 서비스 포털에 무단으로 접근했다고 공개했다. 앤서니 앨버니지 호주 총리는 유엔 총회가 열린 뉴욕에서 기자회견을 열고 “오픈AI의 샘 올트먼 최고경영자(CEO)와 통화해 이번 사건에 대한 정부의 강한 우려를 전달했다”며 “관련 법 집행과 대응 입법 조치를 검토하고 있다”고 밝혔다. 이어 “AI 에이전트가 반복적으로 차단에 부딪히자 우회할 방법을 찾아냈다. 말하자면 ‘안 된다’는 답을 받아들이지 않은 것”이라고 지적했다. 오픈AI는 해당 사건을 사건 발생 두 달 뒤인 8월에야 인지했고, 지난 10일에야 호주 당국에 통보하면서 논란을 자초했다. AI 에이전트가 호주보건복지연구소(AIHW) 등 여러 호주 정부 기관 웹사이트에 접근해 데이터를 수집하려 한 사실도 추가로 드러났다. 미국에서도 오픈AI 에이전트가 정부 기관 웹사이트에 비정상적으로 접근한 사실이 공개됐다. 오픈AI는 25일 자사 AI 모델이 미국 증권거래위원회(SEC)가 운영하는 웹사이트 2곳과 인구조사국 데이터에 접근한 사실을 자체 검토 과정에서 발견했다고 밝혔다. 다만 오픈AI는 에이전트의 SEC 인증 정보 사용, 비공개 정보 접근, 데이터·시스템 변경, 보안 침해, 취약점 악용의 증거는 찾지 못했다고 설명했다. AI 에이전트가 챗GPT 이용자의 이미지 53장을 외부 사이트에 게시한 사건도 추가로 드러났다. 오픈AI는 별도 지시 없이 제3자 사이트에 게시물을 올린 행위를 새 유형의 보안 사고로 규정하고 ‘에이전트 스팸’으로 명명했다. 업계는 이런 일탈 사례의 확산을 우려하고 있다. 미국 인터넷 매체 악시오스는 26일 오픈AI와 앤트로픽, 보안 연구진이 최근 수개월간 AI 모델이 보안 통제를 벗어나거나 의도하지 않은 행동을 한 수만 건의 보안 사고 사례를 조사하고 있다고 보도했다. 빌 게이츠 MS 공동 창업자는 NBC와 인터뷰에서 “AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다”며 “악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다”고 경고했다. AI 에이전트의 위협이 국가 안보 영역으로까지 확대되자 각국의 AI 주권 확보가 차기 과제로 부상하는 모습이다. 자체 AI 모델과 데이터, 컴퓨팅 인프라를 확보하는 ‘소버린 AI’ 개발로 외부 기술 의존도를 낮출 필요가 있다는 지적이 나온다.

5인 미만 사업장의 근로자 절반 이상은 명절 등 공휴일에도 유급 휴일을 인정받지 못했다. 시민단체 직장갑질119가 어제 발표한 조사 결과다. 근로기준법은 1주에 평균 1회 이상의 유급 휴일을 의무화하고 있다. 여론조사 전문기관 글로벌리서치에 의뢰해 만 19세 이상 직장인 1000명을 조사했더니 ‘빨간 날 유급으로 쉴 수 없다’는 응답이 28.8%였다. 이런 답은 5인 미만 사업장에서 56%로 300인 이상 사업장(16%)의 3배가 넘었다. 근로기준법은 상시 5인 이상의 근로자를 사용하는 사업장이 적용 대상이며 일부 규정은 대통령령에 따라 5인 미만 사업장에 적용된다. 주52시간 및 연장·휴일·야간근로 수당, 직장 내 괴롭힘 금지 및 조사·조치 의무, 경영상 해고 제한 등은 5인 미만 사업장에 적용되지 않는다. 2024년 기준 상시 근로자 5인 미만 사업체 수는 132만개로 전체 사업체의 63%, 종사자 수는 318만명으로 전체의 17%다. 근로기준법은 근로자의 기본적 생활 보장을 위해 근로조건의 최저 수준을 정한 법이다. 사업장 규모에 따라 최저 기준 적용을 배제하는 것은 법의 취지는 물론 평등 원칙에 어긋난다. 이를 악용해 사업장 규모를 4인 이하로 나누는 ‘사업장 쪼개기’ 등의 탈법 행위도 발생한다. 열악한 환경의 근로자가 법의 보호에 더 취약한 역설적 상황이다. 최저임금법, 고용보험법 등 다른 근로관계법률이 사업장 규모와 관계없이 적용되는 점과도 배치된다. 국가인권위원회는 법 제정 이후 꾸준히 적용 제외를 촉구해 왔다. 국회에서도 관련 법안이 번번이 발의됐지만 영세 사업장의 경제적·행정적 부담을 이유로 폐기됐다. 제외 규정이 많아 한꺼번에 적용 범위를 넓힐 경우 사업장에 미치는 파급 효과와 영향력이 클 수 있다. 그렇다면 단계적 경과 규정 마련, 사용자에 대한 재정지원 등으로 풀어나갈 수 있다. 인공지능(AI) 발달로 소수 인원으로 구성된 사업체가 늘어나고 있다. 근로자 수에 따른 법적 보호망 차별은 속히 개선돼야 한다.

클로드 악용해 소프트웨어에 활용2000㎞급 탄도미사일 개발도 시도잇단 도발 거치며 군사력 향상 입증지난 주말 美와 회동… 선박 안전 약속 과거 돌격 소총을 들고 군용 트럭에 올라탄 모습으로 익숙한 ‘재래식 무장조직’ 예멘 후티 반군이 인공지능(AI)을 기반으로 독자적인 무기 개발 역량을 빠르게 키우고 있다는 분석이 나왔다. 뉴욕타임스(NYT)는 15일(현지시간) 후티 반군이 생성형 AI 모델인 ‘클로드’를 동원해 정밀무기 제조 역량을 확충하고 있다고 보도했다. 이는 이란의 지원에서 벗어나 첨단 기술을 발판 삼아 독자 노선을 걷겠다는 신호로 해석된다. NYT는 앤트로픽의 ‘AI 오남용 감지·대응’ 보고서를 인용해 후티가 클로드 코드를 유도·항법·제어 소프트웨어 개발에 악용했다고 전했다. 이들은 다수 계정을 운용해 안전장치를 우회하며 사거리 2000㎞급 다단계 탄도미사일과 극초음속 활공체 등 무기 개발을 병행했다. 시험 발사가 실패한 뒤에는 클로드에 원인을 묻고 진단을 시도하기도 했다. 후티는 클로드를 이용해 자신들의 목적을 숨기고 유도·제어 시스템 설계에 필요한 정보를 수집하려 한 것으로 관측된다. 다만 앤트로픽은 실전 배치용 무기를 완성했다는 증거는 없다고 밝혔다. 과거 이란의 ‘무기 테스트베드’ 역할을 맡았던 후티는 2022년 휴전 기간을 이용해 자체 무기 제조 기반을 비약적으로 발전시킨 것으로 분석된다. 피터 샐리스버리 미국 컬럼비아대 교수는 “미사일 동체 같은 대형 부품을 이란산 완제품에 의존하지 않고 직접 제작하는 사례가 늘고 있다”며 “이란과 헤즈볼라의 투자를 발판 삼아 자체 무기 생산 역량을 단계적으로 확보한 결과”라고 설명했다. 실제로 후티의 향상된 군사력은 잇단 도발로 입증되고 있다. 이들은 장거리 미사일과 드론으로 이스라엘 본토를 직접 타격하고, 자폭 해상 드론을 동원해 홍해 관문인 바브엘만데브 해협을 실질적으로 봉쇄하는 등 군사 행동 반경을 꾸준히 넓혀왔다. 최근 중동전쟁에서는 한해 100조원 넘는 천문학적인 국방비를 쏟아붓는 ‘중동의 맹주’ 사우디아라비아를 쩔쩔매게 하며 글로벌 원유 공급망을 위협하는 수준까지 진화했다. 미국은 최근 사우디의 지원 요청에 직접 개입하지 않겠다고 밝힌 가운데 지난 주말 오만에서 후티 대표단과 비밀리에 만나 자국 선박의 안전을 약속받은 것으로 알려졌다. 한편 사우디군은 이날 메카를 향해 발사된 후티의 공격 드론을 격추했다고 밝혔다. 예멘 수도 사나에서 메카까지는 직선거리로 850㎞ 떨어져 있다. 16일에는 후티가 예멘 북동부 마리브주 상공에서 작전 중이던 사우디군의 F-15 전투기 1대를 자체 제작한 지대공 미사일로 격추했다고 밝혔다.

인공지능(AI)의 급격한 고도화에 따른 안전 우려가 커지면서 오픈AI가 첨단 AI 개발 속도를 조절하는 방안을 검토하고 나섰다. AI가 악용될 경우 대규모 피해로 이어질 수 있는 구체적인 차기 표적으로는 전력망을 지목하며 사이버보안 강화에 나서는 모습이다. 블룸버그통신은 10일(현지시간) 샘 올트먼 오픈AI 최고경영자(CEO)가 이번 주 전사 회의에서 첨단 AI 개발 속도를 늦추는 방안을 검토하고 있다고 밝혔다고 보도했다. 올트먼 CEO는 다른 AI 연구팀들과 공동으로 속도를 조절할 가능성도 검토 중이나 다른 기업이나 연구팀은 동의하지 않을 수 있다는 점도 언급한 것으로 전해졌다. 올트먼 CEO의 발언은 최근 AI 업계에서 고도화된 AI의 위험성을 우려하는 목소리가 잇따르면서 AI의 속도조절에 불을 붙인 것으로 풀이된다. 오픈AI 최고 과학자인 야쿠프 파초키는 최근 “필요에 따라 향후 개발 속도를 늦추기 위해 협력해야 한다”며 공통의 안전 기준이 마련될 때까지 자발적인 속도 조절이 보편화돼야 한다고 주장했다. 앞서 올트먼도 지난 7월 백악관 관계자들과 AI 개발 속도를 조절할 필요성에 대해 논의한 바 있다. 실제 AI의 사이버 공격 능력이 현실적인 위협으로 부상하면서 우려는 더욱 커지고 있다. 최근 오픈AI의 AI 에이전트들이 서로 협력해 통제 체계를 우회하고 제3자 웹사이트를 공격한 사실이 드러나면서 AI가 인간의 지시를 넘어 자율적으로 사이버 공격을 수행할 가능성에 대한 경고가 확산됐다. AI 업계 내부에서도 속도 조절을 요구하는 목소리가 커지고 있다. 최근 앤트로픽과 오픈AI의 연구원이었던 제이콥 콕슨은 “AI 기업들이 초지능 AI를 향해 경쟁하면서 인류의 안전을 걸고 도박하고 있다”고 비판했다. 지난 7월 말에는 주요 AI 기업 직원 1100명 이상이 AI 개발 속도를 늦출 장치 마련을 촉구하는 청원에 서명하기도 했다. 반면 도널드 트럼프 미국 대통령은 이날 AI로 인한 인류 멸종 가능성에 대해 “전혀 우려하지 않는다”고 밝히며 “AI 경쟁에서 중국에 대해 우위를 유지하는 것이 내겐 더 중요하다”고 상반된 입장을 밝히기도 했다. AI가 초래할 수 있는 위험을 통제하고 핵심 인프라를 보호해야 한다는 요구도 커지고 있다. AI가 공격 도구로 진화할 가능성이 현실적인 문제로 떠오르면서 전력망과 같은 국가 핵심 인프라의 보안이 AI 시대의 새로운 안전 과제로 부상하고 있기 때문이다. 오픈AI는 차기 AI 사이버공격의 표적이 전력망으로 향할 것이라 예상하고 미국 전력회사들과 보안 강화를 논의하고 있다. 미국 정치전문매체 폴리티코에 따르면 올트먼 CEO는 이날 미국 콜로라도주에서 열린 에디슨전기연구소(EEI) 연례회의에서 듀크에너지·엑셀론·서던컴퍼니·넥스트에라에너지 등 주요 전력회사 임원들과 만나 AI를 악용한 전력망 사이버공격 위험을 차단하는 방안을 논의했다. 오픈AI는 자사의 10억달러 규모 사이버보안 사업인 ‘데이브레이크’를 활용해 전력회사들이 AI를 사이버 방어에 활용할 수 있도록 지원하는 방안을 제안했다. 전력망에 연결된 데이터센터의 보안 문제도 논의 대상에 포함됐다. 오픈AI와 전력회사들의 논의는 지난 7월부터 시작됐다. 오픈AI는 당시 12개 유틸리티 기업의 최고정보보안책임자(CISO)를 샌프란시스코 본사로 초청해 전력망 안정성과 보안 문제를 논의했다. 폴리티코는 이 같은 논의가 오픈AI 모델로 만들어진 AI 에이전트들이 연루된 허깅페이스 서버 해킹 사실이 알려진 직후 시작됐다고 전했다.

챗GPT 개발사 오픈AI가 인공지능(AI) 모델 ‘GPT-6 아스트라’의 수요 폭증으로 월 200달러(약 27만원)짜리 최상위 ‘프로’ 요금제의 신규 가입을 일시 중단했다. 새 모델 출시 직후 수요가 예상보다 빠르게 늘어 이를 감당할 자원이 부족한 탓이다. 티보 소티오 오픈AI 제품·플랫폼 총괄은 10일(현지시간) 소셜미디어 엑스(X)에 “기존 이용자들이 아스트라를 계속 쓸 수 있도록 월 200달러 프로 요금제의 신규 가입을 일시 중단한다”고 밝혔다. 이미 가입한 사람은 영향을 받지 않는다. 기존 가입자들의 서비스 품질을 유지하면서 동시에 최대한 많은 이용자에게 아스트라를 제공하기 위한 조치라는 설명이다. 오픈AI의 챗GPT 유료 상품은 월 8달러 ‘고’, 20달러 ‘플러스’, 100달러와 200달러짜리 ‘프로’로 나뉜다. 이 가운데 문을 닫은 것은 맨 위 등급이다. 소티오 총괄은 “이 요금제가 시스템에 가장 큰 부담을 준다”며 “서비스를 최대한 넓게 유지하면서 취할 수 있는 가장 작은 조치를 택한 것”이라고 설명했다. 실제로 이 요금제는 5시간당 최신 모델 아스트라에 900건까지 질문할 수 있어, 낸 돈에 비해 쓸 수 있는 양이 아래 등급의 두 배다. 가장 많이 쓰는 고객만 골라 막은 셈이다. 오픈AI는 지난 3일 공개한 ‘GPT-6 아스트라’ 모델이 사람 대신 컴퓨터를 직접 조작해 문서를 만들고 웹사이트를 구축하는 수준에 이르렀다고 밝혔다. 그렉 브록먼 사장은 공개 당일 기자 브리핑을 “AGI(범용인공지능) 시대에 오신 것을 환영한다”는 말로 끝맺었다. 다만 브록먼 사장도 “개인적 믿음”이라는 단서를 달며 판단은 이용자에게 맡겼다. AGI는 사람이 하는 대부분의 경제활동을 AI가 대신할 수 있는 단계를 뜻한다. 반응은 뜨거웠다. 소티오 총괄은 하루 전에도 “아스트라 수요는 전례가 없는 수준”이라며 “지금까지 가파른 성장을 여러 번 겪었지만 이런 건 처음”이라고 했다. 오픈AI가 돈을 내겠다는 고객을 돌려보낸 것은 2023년 11월 챗GPT 플러스 가입을 잠시 막은 이후 약 3년 만이다. 문제는 AI를 돌리는 데 드는 연산 능력이다. 아스트라는 텍사스주 ‘스타게이트’ 데이터센터에서 그래픽처리장치(GPU) 10만개 이상을 동원해 학습시킨, 오픈AI 사상 최대 규모 모델이다. 성능이 올라간 만큼 한 번 답을 만들 때마다 잡아먹는 계산량도 커졌다. 여기에 이 모델이 해킹에 악용되지 않는지 감시하는 안전장치까지 추가 연산을 소모한다. 결국 이번 사태는 AI 시장의 병목이 ‘수요’에서 ‘공급’으로 옮겨갔음을 보여준다. 쓰겠다는 사람은 넘치는데 돌릴 컴퓨터가 모자란 상황이다. 이에 따라 GPU와 고대역폭메모리(HBM), 데이터센터, 전력 설비로 이어지는 투자 수요가 당분간 식지 않을 것이라는 관측이 나온다. HBM을 공급하는 삼성전자와 SK하이닉스 등 국내 반도체 업계에도 영향을 미칠 수 있는 대목이다. 한편 오픈AI는 같은 날 미국 연방총무청(GSA)과 계약을 맺고 아스트라를 포함한 AI를 공공부문에 절반 가격으로 공급하기로 했다. 개인 고객에게는 최고가 상품을 못 팔면서, 정부에는 절반 값에 공급하는 셈이다. 정부 계약 역시 쓴 만큼 요금을 매기는 방식이어서, 오픈AI로서는 연산 부담을 관리하면서 공공시장을 선점하겠다는 계산으로 풀이된다.

미국 인공지능(AI) 기업 앤트로픽의 AI 모델 ‘클로드’를 이용해 생물학 무기 개발에 악용될 수 있는 연구를 진행하려던 과학자들의 시도가 차단됐다. 뉴욕타임스(NYT)는 10일(현지시간) 앤트로픽이 최근 공개한 AI 악용 사례 보고서를 인용해 이같이 보도했다. 보고서에 따르면 지난 5월 한 과학자는 군사 연구기관에서 진행할 치쿤구니야 바이러스 돌연변이 연구에 클로드를 활용했다. 치쿤구니야 바이러스에 감염되면 수개월간 심각한 통증 등의 증상이 이어질 수 있다. 이 과학자는 살아 있는 동물에 바이러스를 반복적으로 감염시켜 바이러스의 유해성을 높이는 연구를 추진한 것으로 전해졌다. 이 같은 연구는 백신과 치료제 개발 등에 활용될 수 있지만, 바이러스의 병원성을 높여 생물학 무기로 악용할 위험도 있다. 앤트로픽의 정보 분야 책임자인 제이컵 클라인은 “해당 연구의 목적이 무기 개발인지는 알 수 없다”면서도 “군사기관에서 이 같은 연구를 한다는 것 자체가 우려스럽다”고 말했다. 클로드 사용이 제한된 지역에서 조류인플루엔자 관련 실험을 추진하려던 사례도 적발됐다. 앤트로픽은 국가 안보 우려를 이유로 중국·러시아·이란·북한·쿠바 등에서 클로드 사용을 제한하고 있다. 이들 지역에서 우회 접속을 시도하거나 연구 목적을 숨긴 이용자의 계정은 차단됐다. 앤트로픽은 생물학 무기 등 군사적 목적으로 전용될 가능성이 있는 연구에 대해서도 AI 안전장치를 강화했다고 밝혔다. 생물학 분야를 넘어 AI를 총기와 미사일, 무장 드론 등 재래식 무기의 설계·개발에 활용하거나 반체제 인사를 감시하려 한 사례도 보고서에 포함됐다. 특히 중국에서 3건, 러시아에서 2건, 예멘에서 1건의 재래식 무기 관련 악용 사례가 확인됐다. 중국과 이란 정부와 연계된 것으로 의심되는 세력은 AI를 이용해 반체제 인사와 해외 거주자들을 감시하려 한 것으로 전해졌다. 러시아의 한 국영 매체는 클로드를 활용해 몰도바 선거와 관련한 허위 정보를 독립 언론의 보도인 것처럼 위장하려 한 사례도 확인됐다. 워싱턴 싱크탱크 전략위험위원회(CSR)의 선임연구원 앤드루 웨버는 앤트로픽이 공개한 생물학 연구 사례에 대해 “국가의 지원을 받는 생물학 무기 개발자들이 빠르게 발전하는 AI의 능력을 이용하려 한다는 사실을 보여주는 섬뜩한 사례”라고 평가했다. 이어 “중국과 러시아, 북한이 금지된 생물학 무기를 계속 개발하고 있다는 점을 고려하면 이들 국가의 연구자들이 강력한 AI 모델에 접근하지 못하도록 철저히 막아야 한다”고 지적했다.

엔비디아의 젠슨 황 최고경영자(CEO)가 인공지능(AI)의 차기 주요 시장으로 사이버 보안을 지목했다. 블룸버그통신에 따르면 황 CEO는 10일(현지시간) 미국 샌프란시스코에서 열린 골드만삭스 기술 콘퍼런스에 참석해 “사이버 보안은 AI의 다음 주요 적용 분야가 될 가능성이 높다”고 말했다. 황 CEO는 AI 모델이 발전하면서 컴퓨터 프로그래밍 자동화가 가속화되고, 이에 따라 보안 취약점이 발견·악용되는 속도뿐 아니라 이를 차단하기 위한 수정 패치가 배포되는 속도도 빨라지고 있다고 진단했다. AI의 발전이 사이버 보안 환경 자체를 크게 바꾸고 있다는 설명이다. 그는 “문제를 만들어내는 것보다 더 좋은 수요 창출 방법이 어디 있겠는가”라며 AI가 새로운 보안 위협을 만들어내는 동시에 이를 방어하기 위한 AI 수요도 키우고 있다고 분석했다. 다만 사이버 보안 위기를 AI 수요 확대의 근거로 내세우는 데 대해서는 경계하는 모습도 보였다. 황 CEO는 “물론 이를 실행하는 데는 책임감 있는 방법도 있고, 바람직하지 않은 방법도 있다”고 말했다. 황 CEO의 발언은 AI 데이터센터에 대한 투자가 앞으로도 지속될 것이라는 점을 강조하기 위한 것으로 풀이된다. 엔비디아는 최근 AI 거품론과 과잉 투자 우려가 커지는 가운데 AI 반도체 수요가 계속 확대될 것이라는 전망을 거듭 내놓고 있다. 황 CEO는 엔비디아의 잇따른 투자가 고객사와 투자 대상 기업 간 자금이 오가는 ‘순환 거래’라는 비판에 대해서도 반박했다. 엔비디아는 그간 고객사에 투자하거나 금전적으로 지원하고, 고객사는 엔비디아의 투자금으로 다시 엔비디아의 그래픽처리장치(GPU)를 사면서 일종의 순환 거래라는 비판을 받아왔다. 그는 최근 개방형 AI 모델 공유 플랫폼인 허깅페이스를 130억 달러(약 17조 5000억원)에 인수하기로 한 것과 관련해 “우리는 약간의 돈을 투자해서 더 많은 돈을 회수하기 때문에 이는 순환 거래가 아니다”라고 주장했다. 그러면서 “사람들은 정보를 많이 보유한 내가 투자하는 대상이 나쁜 투자처가 아니라는 점을 깨닫기 시작하고 있다”며 “나는 위험을 감수하지 않는다”고 강조했다.

오픈AI가 보안 등급 ‘위험’(Critical) 단계로 평가된 새 AI 모델 ‘아스트라’를 공개했다. 오픈AI는 아스트라가 인간이 컴퓨터로 할 수 있는 대부분의 업무를 대신할 수 있다며 사실상 범용인공지능(AGI) 시대의 시작을 선언했다. 다만, 해킹 등 악용 가능성이 확인된 모델을 상용화하면서 ‘강력한 AI를 어디까지 허용할 것인가’에 대한 우려도 커지고 있다. 오픈AI는 한 달여 전부터 출시를 예고했던 AI 모델 ‘GPT-6 아스트라’를 3일(현지시간) 정식으로 공개했다. 그레그 브록먼 오픈AI 사장은 이 모델이 “인간이 컴퓨터로 할 수 있는 일이라면 무엇이든 할 수 있다”고 밝혔다. 대부분의 작업을 인간 이상 수준으로 해낼 수 있는 AGI의 초기 버전으로 간주하는 것이 타당하다고 덧붙였다. 오픈AI는 아스트라가 인간이 작업했을 때 30분가량 소요되는 애완동물 위탁 돌봄 검색을 5분 27초 만에 완수했다. 인간이 5시간을 할애해야 하는 구직 정보 검색은 2분 51초 만에 끝마쳤다고 소개했다. 코딩 능력을 측정하는 ‘터미널-벤치 4.0’, ‘딥SWE v1.1’ 등 성능 지표(벤치마크)에서는 최근 출시된 라이벌 앤트로픽의 클로드 페이블5.1을 능가하는 점수를 기록하는 등 수치로 성능을 입증하기도 했다. 그러나 모델의 성능이 높아지면서 사이버 보안 관련 위험성도 그만큼 높아졌다. 오픈AI는 아스트라의 위험성을 인정하면서도 통제할 수 있는 안전장치를 마련했으니 제한적으로 출시한다는 입장이지만 도의 사이버 공격 능력을 갖춘 AI의 상용화에 대한 우려는 과제로 남을 것으로 보인다. 앞서 아스트라는 오픈AI의 모델 가운데 처음으로 사이버 보안 평가에서 ‘위험’ 등급을 받았다. 인간이 명시적인 가이드라인을 주지 않아도 AI 스스로 취약점을 발견해 공격 도구를 만들 수 있다는 뜻이다. 특히 아스트라는 자신의 사고 과정(CoT)을 완벽하게 숨기거나 통제해 인간의 감시를 회피하는 능력도 강화됐다고 오픈AI는 밝혔다. 감시를 우회해야 하는 상황에서는 고의로 오답을 내 평가자를 속이거나, 부적절한 행위를 은폐하기도 한다는 것이다. 오픈AI는 이에 따라 모델의 사고 과정뿐 아니라 모델이 인간의 뜻에 맞게 동작하는지를 지켜보는 정렬(Alignment) 감시 기능을 추가 도입했다고 설명했다. 또 오픈AI는 아스트라의 해킹 능력을 방어 목적으로 전환하고 오용 위험을 줄이기 위해 역대 최대 규모인 10억 달러(약 1조 3500억원) 규모의 사이버 보안 방어 보조 프로그램 ‘최전선 방어자를 위한 데이브레이크’를 동시에 발표했다.

세계의 인공지능(AI) 혁신을 이끌고 있는 미국 빅테크들이 AI 패권 경쟁과 안전성 확보 사이에서 규제의 딜레마에 빠졌다. 중국의 추격에 규제를 완화해 속도전을 벌여야 하지만, 그럴수록 해킹 등 악용 위협도 커질 수밖에 없어 각국의 고민이 깊어지고 있다. AFP통신에 따르면 일론 머스크 테슬라·스페이스X 최고경영자(CEO) 등 미국의 AI 리더들은 1일(현지시간) 노스캐롤라이나주에서 열린 주요 20개국(G20) 기술장관 회의에서 AI 규제를 완화해야 한다고 입을 모았다. 머스크 CEO는 “혁신은 규제로부터 자유로워야 하고, 새로운 (기술은) ‘원칙적 불법’이 아닌 ‘원칙적 합법’으로 허용돼야 한다”고 밝혔다. 머스크 CEO는 유럽연합(EU)을 콕 집어 “EU에서는 통상 신기술이 원칙적으로 불법 취급을 받고 있어 발전 속도가 더디다”고 지적했다. 이어 “전력 부족 때문에 AI 주도권이 중국으로 넘어갈 수도 있다”며 위기감을 드러냈다. 마크 저커버그 메타 CEO도 “오픈웨이트(가중치 개방형) AI 모델을 규제해선 안 된다”고 주장했다. 이날 회의를 주도한 마이클 크라치오스 미 백악관 과학기술정책실장은 G20 대표들에게 ‘캐롤라이나 원칙’을 채택할 것을 촉구했다. 캐롤라이나 원칙은 AI에 대해 새 규제를 만드는 대신 기존 규제를 적용하기 어려운 특이 사례에만 해당되는 ‘핀셋 규칙’을 만드는 것이 골자다. 미국 정·재계가 국제 무대에서 힘을 합한 것은 AI를 둘러싼 미중 패권 경쟁이 격해지고 있기 때문이다. 미국 빅테크가 선점했던 세계 AI 시장은 최근 중국의 스타트업 문샷AI와 딥시크, 지푸AI 등이 바짝 추격하고 있다. 신미국안보센터(CNAS)는 “중국의 AI 경쟁력 향상이 ‘나머지 세계가 미국 기술 생태계 안에 머물러야 한다’는 트럼프 행정부의 긴박감을 높였다”고 분석했다. 폭주하는 AI 기술에 최소한의 안전장치가 필요하다는 반박도 적지 않다. 유엔의 ‘AI 독립 국제과학패널’은 지난 7월 “AI 역량이 과학계의 이해 능력과 정부의 적응 능력을 모두 앞지르고 있다”며 “AI 기술 발전 속도가 너무 빠르면 추후 AI 평가 능력이 부족한 국가들은 통제할 수 없는 기술에 의존하게 될 것”이라고 경고했다. 이 가운데 오픈AI가 차기 AI 모델 ‘아스트라’의 보안 등급을 ‘위험’으로 분류하면서 논란이 거세질 것으로 보인다. 오픈AI는 아스트라가 인간 개입 없이 다수의 핵심 시스템에서 미공개(제로데이) 취약점을 찾아 공격할 수 있다고 보고 보안 강화 조치에 나섰다. 앞서 지난 7월에는 오픈AI의 미공개 AI 모델들이 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹하기도 했다. 이에 오픈AI는 에이전트의 행동 추론 과정을 분석하고 잠재적으로 위험한 행동을 감지하면 에이전트를 중지시키는 시스템을 도입할 예정이다.

부산시가 생성형 인공지능(AI)을 악용한 공격 코드 작성과 시스템 취약점을 스스로 탐색·공격하는 자율형 사이버 공격 등에 대응하고자 1일부터 ‘AI 기반 지능형 사이버 보안관제 시스템’ 운영을 시작했다. 시는 하루 수십억 건의 대규모 보안 기록을 신속·정밀하게 분석하고, 위협 탐지부터 대응까지 자동화할 수 있도록 보안관제 인프라와 기능을 강화했다. 지능형 보안관제 체계는 초당 100억 건 이상 검색할 수 있는 ‘통합 보안 분석 시스템(XDR)’과 ‘AI 관제 도우미’를 결합한 시스템이다. XDR은 네트워크 위협 탐지, 보안 기록 상관분석, 보안 대응 자동화 기술을 연계해 보안 이벤트를 분석하고 이상 징후를 추적한다. 특히 보안 대응 자동화를 통해 표준 대응 절차에 따라 위협 대응 및 후속 조치까지 신속하게 처리하고, 생성형 AI 관제 도우미가 복잡한 보안 경보를 자동 요약·분류해 관제 인력이 분석과 대응에 집중할 수 있도록 지원한다. 시스템 도입에 따라 대규모 보안 기록 분석 시간은 기존 수 시간에서 분·초 단위로 단축되고, 일일 수백 건의 위협이 관제요원 개입 없이 실시간 자동 차단된다.

매일 수많은 법안이 발의되고 있지만 이 중 언론에 보도되는 법안은 쟁점 법안 등 일부에 그칩니다. 서울신문은 매주 우리 사회에 큰 영향을 미칠 수 있는 법안에 주목해 3개 정도 추려 소개합니다. 법안 발의 배경부터 핵심 내용, 통과 시 파장 등을 압축적으로 정리했습니다. ●유족이 없다고 심의까지 필수?…유공자 등록 손질 최은석 국민의힘 의원, 지난 24일 발의고 박진경 대령 계기…“불합리 절차 개선”국가에 헌신했지만 그 사실을 알릴 가족이 남아 있지 않은 경우가 있습니다. 현행법은 국가유공자 본인이나 유족이 등록을 신청하는 경우엔 요건만 확인되면 보훈심사위원회 심의 없이 곧바로 국가유공자로 결정할 수 있습니다. 하지만 신청할 사람이 없어 국가보훈부 장관이 직권으로 등록하는 경우에는 요건이 명백해도 반드시 보훈심사위 심의·의결을 거쳐야 합니다. 이 허점이 드러난 게 고 박진경 대령 사례로, 유족 대상자가 없어 보훈부가 직권으로 등록했지만 보훈심사위 심의·의결을 거치지 않았다는 이유로 지난 2월 직권 취소됐습니다. 박 대령과 같은 방식으로 지난 5년간 등록된 무공수훈자 758명 중 취소된 건 박 대령이 유일했습니다. 박 대령 취소 사례를 두고 보훈부 감사 결과 처분요구서에서도 절차상 하자를 지적하며 관련 규정 정비를 요구한 내용이 담겼습니다. 이에 최은석 국민의힘 의원은 신청 대상자가 없어도 국가유공자 요건이 객관적으로 확인되면 보훈심사위 심의·의결을 생략할 수 있도록 하는 국가유공자 등 예우 및 지원에 관한 법률 개정안을 지난 24일 대표 발의했습니다. 최 의원은 “국가유공자 요건이 명백한 사안에 대한 불필요한 행정 절차를 줄이고, 국가를 위해 희생·공헌한 분들을 보다 신속하게 국가유공자로 기록해 예우할 수 있을 것으로 기대된다”라고 했습니다. ●내 얼굴이 가짜 광고에…‘디지털 레플리카’ 막는다 김성원 국민의힘 의원, 지난 26일 발의‘사망 후 30년’까지 인격표지 보호 신설방송인 이지혜씨의 얼굴을 인공지능(AI)으로 합성해 만든 광고 영상이 소셜미디어(SNS)에 퍼진 일이 있었습니다. 동료 방송인마저 진짜 광고인 줄 알고 제품을 주문했다가 뒤늦게 딥페이크라는 사실을 알게 됐습니다. 문제는 현행법이 유명인의 성명·초상·음성을 ‘그대로’ 쓴 경우만 부정경쟁행위로 규정한다는 점입니다. AI로 합성·변형한 ‘디지털 레플리카(복제)’에는 적용하기 어려운 구조입니다. 김성원 국민의힘 의원은 인격표지(초상·음성 등)를 재현·합성·변형한 디지털 표현물까지 부정경쟁행위 규율 대상에 포함하는 부정경쟁방지 및 영업비밀보호에 관한 법률 개정안을 지난 26일 대표 발의했습니다. 이 법안에는 생전에 유명했던 사람이라면 사망 후 30년 동안은 초상·음성을 함부로 도용당하지 않도록 보호하는 조항이 담겼습니다. 또 지식재산처장이 온라인 판매 중개업체에 문제가 된 게시물 현황이나 게시자·판매자 정보를 요청할 수 있는 근거도 마련됐습니다. 김 의원은 “AI 기술의 발전으로 유명인의 얼굴과 목소리를 실제처럼 합성한 콘텐츠가 사기와 허위 광고에 무분별하게 악용되는 사례가 늘고 있다”며 “국민의 경제적 이익을 침해하는 디지털 레플리카를 더 이상 방치해서는 안 된다”고 강조했습니다. ●LH 빠진 ‘반쪽 조정’ 없앤다…분쟁조정 실효성 강화 이광재 민주당 의원, 지난 27일 발의 10차례 심의 중 LH 참석 1회, 수용 0분양전환을 앞둔 민간 임대 아파트에서는 입주민과 사업자 간 분양가 갈등이 반복되고 있습니다. 이에 임대주택 분쟁조정제도의 실효성을 높이기 위해 조정 당사자인 한국토지주택공사(LH)의 조정위원회 출석 및 의견진술권을 신설해 이미 진행 중인 분쟁에도 적용할 수 있도록 하는 내용의 법 개정안이 발의됐습니다. 이광재(경기 하남갑) 더불어민주당 의원이 지난 27일 대표발의한 민간임대주택특별법 개정안은 조정 당사자의 분쟁조정위 출석 및 의견진술권을 신설하고, 조정안을 받은 날부터 30일 이내 수락 여부를 통보하지 않으면 수락한 것으로 간주하는 규정 등을 담고 있습니다. 이 의원이 LH로부터 제출받은 분양전환 관련 분쟁조정위 사례 자료에 따르면 공공임대주택 분양전환 가격을 둘러싸고 임대주택분쟁조정위에 조정이 신청된 단지는 전국 13곳에 이릅니다. 그러나 LH가 조정안을 받아들인 사례는 한 건도 없습니다. 특히 2020년 5월부터 지난 4월까지 6년간 조정위원회 심의는 10차례 이뤄졌지만, 그중 LH가 참석한 것은 한 차례뿐이었습니다. 당사자 자격으로 출석해 설명할 수 있어야 하는데 현행법에는 당사자의 출석과 의견진술 절차가 없다보니 당사자가 빠진 채 조정안이 만들어지고 결국 수용되지 않는 일이 반복돼 왔던 것입니다. 이에 개정안은 규정을 신설해 조정 당사자가 위원회에 출석해 의견을 진술하거나 자료를 제출할 수 있도록 하고 위원회는 조정안을 작성하기 전에 그 기회를 주도록 했습니다. 개정안은 공포 후 6 개월이 지난 날부터 시행되며 출석·의견진술 규정은 시행 당시 이미 진행 중인 분쟁에도 적용됩니다 . 이 의원은 “조정 자리에 당사자가 없으면 조정안은 종이 한 장에 그친다”며 “전국의 분쟁조정위 운영 실태를 점검하고 법의 실효성을 높이는 방안이 절실하다”고 강조했습니다. 이어 “법 개정을 통해 임대주택 분쟁조정위가 공공과 임차인 간의 실질적인 갈등 중재 기구로 거듭나도록 끝까지 챙기겠다”고 말했습니다.

가수 이지혜(46)가 자신의 얼굴을 인공지능(AI) 딥페이크 기술로 무단 복제해 만든 광고에 법적 대응을 예고했다. 이지혜는 28일 자신의 소셜미디어(SNS)에 해당 광고 영상과 함께 “마치 제가 광고하는 것처럼 판매하고 있다. 법적으로 제재할 수 있는 방법을 모색 중”이라고 밝혔다. 이지혜가 공개한 광고 영상에서 딥페이크로 복제된 이지혜는 한 간식 제품을 먹으며 “너무 맛있다. 100% 우리 땅에서 자란 명품 먹거리”라며 제품에 대해 호평을 늘어놓았다. 이어 본격적인 광고가 진행되는데, 각종 사진과 영상을 짜깁기한 광고에는 번역기를 통해 생성한 듯한 어색한 한국어 자막이 조악한 폰트로 입력돼 있다. 영상에는 제품을 구매할 수 있는 링크도 첨부돼 있다. 이지혜는 해당 광고에 대해 “국내 업체는 아닌 듯하다”면서 “다이렉트 메시지(DM)로 엄청난 제보가 오고 있다. 피해 보지 않길 당부드린다”고 강조했다. 이지혜가 자신의 얼굴을 무단 복제한 광고로 피해를 입은 것은 이번이 처음이 아니다. 그는 지난 6월에도 자신의 얼굴이 도용된 광고 영상을 공개하며 “제가 찍은 광고가 아니다. 절대 저 링크로 들어가서 구입하면 안 된다”고 경고했다. 최근에는 첫째 딸 태리 양의 어린 시절 사진이 제품 광고에 도용됐다며 삭제를 요구하기도 했다. 실제 광고에 속아 물품을 구매한 피해 사례도 나왔다. 이지혜와 절친한 가수 신지는 지난 6월 “지혜 언니가 운영하는 샵에서 소개하는 제품을 주문하고 있었는데, AI로 만든 허위 광고였다”면서 “언니는 그런 광고를 찍은 적이 없다고 한다”라고 토로했다. 연예인 등 유명인들의 얼굴과 목소리를 딥페이크 기술로 복제해 각종 광고에 이용하는 사례는 끊이지 않고 있다. 특히 주식 리딩방이나 가상화폐 등의 광고에 얼굴과 목소리를 도용당한 유명인들이 피해를 호소한 사례가 많다. 이에 국회에서는 유명인의 얼굴과 목소리를 AI로 무단 복제해 만든 광고를 제재하는 법안이 발의됐다. 김성원 국민의힘 의원은 지난 26일 AI로 합성한 유명인의 초상·음성 등을 악용하는 행위를 부정경쟁 행위로 명확히 규정하는 내용을 담은 ‘부정경쟁방지 및 영업비밀보호에 관한 법률 일부개정법률안’을 대표 발의했다.

치안 현장 AI 지원·한국형 AI 기상 모델전 중앙부처 연내 AI 관리시스템 도입AI가 보고서 초안 작성…AI 교육 의무화공직 AI 인재 2만명 육성…AI 영향 평가네이버 데이터센터 등 민간 서버 임차 검토국민 개별 대응 힘든 분야, 공공 AI 나서야 챗GPT, 제미나이 같은 ‘생성형 인공지능(AI)’을 사용해보신 적 있으신가요? 궁금한 것을 물어보면 학습한 방대한 정보를 토대로 원하는 답변을 빠르게 찾아 글·사진 등 새로운 콘텐츠로 만들어줍니다. 과학기술정보통신부의 지난해 인터넷 이용 실태조사(만 3세 이상 5만 750명 대상)에 따르면 우리 국민 3명 중 2명은 교통·교육 등에서 AI 서비스를 경험했고, 44.5%는 챗GPT 같은 생성형 AI를 직접 사용해봤다고 답했습니다. 어느샌가 생성형 AI가 우리 일상 깊숙이 들어온 것이죠. 시간·인력·비용 등 한정된 자원으로 더 짧은 시간에 더 많은 일을 효율적으로 처리할 수 있다면 굳이 마다할 이유가 없겠죠. 정부가 AI를 활용해 국민에게 필요한 서비스를 먼저 찾아 제공하고, 공직사회의 일하는 방식도 혁신해 국민의 삶에 실질적인 변화를 가져오는 ‘AI 민주정부’를 본격 추진하기로 했습니다. “100억·3년 걸릴 일을 이틀 만에”‘AI 정부 실험실’…정부가 AI 꽂힌 이유행정안전부는 25일 국무회의에서 이런 내용을 담은 ‘AI 민주정부 실현 전략’을 보고하고, 정부세종청사에서 별도 브리핑을 열어 공무원이 직접 개발한 AI 서비스가 어떻게 활용될 수 있는지 기자들에게 시연했습니다. 이날 선보인 것은 현장에 필요한 AI 서비스를 공무원이 직접 개발해 국민 서비스로 연결하는 ‘AI 정부 실험실’ 사례였습니다. 지난 6월 공무원과 공공기관 직원들이 참여한 실전형 경연인 ‘2026 AI 챔피언 해커톤’에서 대상을 받은 작품이었는데요. 한국국토정보공사(LX) 직원 2명이 개발한 ‘쨍하고 해뜰날’은 행안부의 주소 데이터 서비스(API)와 국토교통부의 디지털 지도·공간정보 플랫폼 ‘브이월드(V-World)’ 등 공공데이터를 활용한 AI 서비스입니다. 토지 지번만 입력하면 태양광 발전시설을 설치하기에 적합한지 진단하고 예상 설비용량과 발전량, 수익은 물론 인허가 절차까지 한 번에 안내해줍니다. 특히 지도를 3차원으로 전환하고 일사량·그림자 정보를 켜면 해가 뜨고 지는 동선에 따라 해당 농지에 햇볕이 얼마나 드는지 직관적으로 보여줍니다. 이어 AI가 일사량 등을 분석해 예상 설비용량과 연간 발전량·수익까지 계산해줍니다. 심지어 투자비를 회수하는 데 몇 년이 걸릴지도 말이죠. 물론 실제 수익은 설치비와 전력 효율·유지관리비 등 여러 조건에 따라 달라지겠지만 사업성을 검토하기 위한 참고 자료로 활용하기에는 매우 유용해 보였습니다. 재생에너지를 활용하겠다며 무턱대고 농지에 태양광 시설부터 설치했다가 손해를 보는 시행착오를 줄일 수 있도록 AI가 영리하게 각종 데이터를 분석해 사업성을 먼저 보여주는 것이죠. 황규철 행안부 인공지능정부실장은 “보통 이런 서비스를 만들려면 정보화 사업에 100억원 이상의 예산이 투입되고 2~3년의 시간도 걸리는데, 이 서비스는 이틀 만에 개발됐고 한 달 정도 보완을 거쳐 대민 서비스가 가능한 수준까지 발전했다”고 설명했습니다. 이런 방식이 확산되면 예산 절감 효과가 ‘눈덩이’처럼 불어날 수 있다고 강조했습니다. ‘쨍하고 해뜰날’ 태양광 발전시설 입지 분석 서비스는 추가 고도화를 거쳐 다음 달 정식으로 선보일 예정입니다. 지난달 3일부터 시범 운영 중인 ‘AI 정부 실험실’에는 현재 약 670건의 과제가 등록됐으며 참여자도 1800여명에 이릅니다. 돌아와서, 정부는 이처럼 국민이 일상에서 정책 서비스의 변화를 체감하고 취약계층에 대한 포용도 강화할 수 있도록 대민 서비스를 대폭 혁신하기로 했습니다. 24시간 ‘찰떡 답변’ AI 상담 서비스청년에 구직수당·교육비 맞춤 정보우선 국민 체감도가 높은 복지·안전·세금·농업·식약 등 5대 분야에 AI 상담체계를 구축해 시간과 장소의 제약 없이 24시간 밀착형 상담 서비스를 제공한다는 계획인데요. 돌봄과 납세, 감염병 예방, 식생활 등 국민 생활과 밀접한 정보를 누구나 AI에 묻고 답을 얻을 수 있게 한다는 구상입니다. 예를 들어 납세자가 다소 복잡하게 질문해도 AI가 ‘찰떡같이’ 알아듣고 맥락을 분석해 세금 감면 혜택과 공제 요건, 신고 기한 등을 맞춤형으로 안내합니다. 몸이 아플 때 증상을 입력하면 감염병 초기 증상을 판별하고 진료 정보와 전문 의료기관 위치, 예방수칙 등을 실시간으로 알려줍니다. 농사를 지을 때는 병해충과 재배기술 등의 정보를 제공하고, 복지 분야에서는 복잡한 복지서비스 수혜 자격을 신청자의 가구·소득 여건에 맞춰 AI가 확인해줍니다. 당뇨·고혈압·비만 등 질환별 권장·주의 식단이나 의약품 주의사항도 AI를 통해 확인할 수 있습니다. 청년에게는 구직활동 수당과 창업교육비 등 자신에게 맞는 고용·지원 정보를 안내하고, 고령층에게는 AI 돌봄기기를 활용한 건강관리 서비스를 제공할 예정입니다. 다만 분야별로 AI 서비스가 완성되는 시점에는 차이가 있는데요. 세금 상담과 농업 분야는 내년에, 복지·식약 분야는 2028년, 안전 분야는 2029년까지 단계적으로 서비스를 고도화한다는 계획입니다. 지역마다 제각각인 임산부 지원 혜택을 찾아 자동으로 알려주는 AI 서비스는 올해 안에 선보일 예정입니다. 황 실장은 “각 기관의 서비스를 모아 통합한 AI 통합서비스는 내년 말에 나온다”며 “전문가가 코딩한 알고리즘을 바탕으로 정해진 답을 내놓는 기존 챗봇을 단순히 확대하는 것이 아니라 정부가 보유한 각종 데이터를 AI가 재구성해 서비스하는 것”이라고 설명했습니다. 이어 “국민이 하나의 창구에서 어느 분야를 질문하더라도 답변을 받을 수 있는 질적으로 한 단계 나은 서비스가 될 것”이라고 강조했습니다. 요즘 은행·카드사 등 금융기관을 비롯해 곳곳에서 챗봇 상담서비스를 접할 수 있습니다. 하지만 질문의 맥락을 제대로 이해하지 못하거나 엉뚱한 답변을 내놓고, 정해진 문구를 반복하는 데 그쳐 급하게 비대면 상담이 필요한 국민의 답답함을 키운다는 지적도 적지 않습니다. 정부가 내놓을 AI 통합서비스는 이런 기존 챗봇을 넘어 국민의 질문 의도를 제대로 이해하고 필요한 정보를 찾아주는 한층 진화한 맞춤형 서비스를 지향한다고 하니 기대해볼 만합니다. 이와 함께 정부24와 혜택알리미 등 주요 대민 서비스를 통합해 국민 맞춤형 AI 서비스를 제공하고, 공공서비스를 표준화·모듈화해 카카오·네이버 등 민간 플랫폼과 ‘모두의 AI’에서도 활용할 수 있도록 할 계획입니다. 재난·안전 정보 창구인 ‘국민안전24’에도 AI를 접목합니다. 산불이나 홍수 등 재난 위험을 AI가 감지·예측하고 상황을 분석해 필요한 위험 정보를 신속하게 안내하는 식이죠. 국민의 의견을 정책으로 만드는 과정에도 AI를 적극 활용합니다. 정부에 정책을 제안하려 해도 국민이 아이디어를 보고서 형식에 맞춰 일목요연하게 정리하는 것은 쉽지 않은 일입니다. 어떻게 구성하고 무슨 말부터 시작해야 할지 막막할 수 있죠. 좋은 아이디어가 있어도 이를 글로 구체화하는 과정에서 어려움을 느껴 포기하는 경우도 적지 않을 겁니다. 정부가 AI를 활용해 국민 제안을 요약·분석하고 유사 정책과의 비교 등을 지원하는 플랫폼인 ‘모두의 광장’을 구축하는 이유입니다. 국민의 아이디어를 AI가 자동으로 분류하고 구체화해 실제 정책이나 사업으로 이어질 수 있도록 지원합니다. 온라인 숙의토론과 1대1 심층 대화, 대규모 공공 토의가 가능한 ‘AI 공론장’도 마련합니다. 정부 웹사이트와 앱도 AI가 정보를 보다 쉽게 찾아 활용할 수 있는 구조로 바뀝니다. 검색한 문서를 토대로 답변을 생성하는 ‘검색증강생성(RAG)’ 기술에 맞춰 법령 정보와 정책 사례 등을 표준화하고, 정부 웹과 앱을 AI 친화적으로 개편할 예정입니다. 중앙부처 홈페이지를 이용해본 분들이라면 느끼겠지만 현재 정부 웹사이트는 대체로 ‘정책 홍보’ 중심으로 구성돼 있어 국민이 자신에게 필요한 정보를 찾기에는 불편한 측면이 있습니다. 이를 공급자 중심에서 이용자 중심으로 바꾸고, 법령·사례집 등 공공정보도 AI가 쉽게 검색하고 활용할 수 있는 형태로 정비해 국민이 필요한 정보를 보다 편리하게 얻을 수 있도록 한다는 계획입니다. 공무원의 일하는 방식도 AI 중심으로 확 바뀝니다. 올해 말까지 지능형 업무관리시스템 ‘온AI’를 47개 중앙부처로 확산해 법령 검토부터 보고서 초안 작성까지 행정 업무 전반에 AI를 활용해 생산성을 높인다는 방침입니다. 공무원이 직접 AI를 개발해 업무에 적용하는 ‘AI 정부 실험실’도 운영합니다. 현장에서 개발한 결과물은 ‘공공저장소(GitLab)’에 등록해 모든 중앙부처와 지방정부가 공동으로 활용할 수 있도록 할 예정입니다. 부처별 특성을 살린 AI 서비스도 확대합니다. 치안 현장 AI 지원(경찰청), 한국형 AI 기상·기후 모델(기상청), 의약품 허가·심사(식품의약품안전처), AI 건축허가·안전관리(국토부), 조달 제안요청서 AI 자동 생성(조달청) 등으로 업무의 전문성과 효율성을 끌어올린다는 것이죠. 부작용 대비 ‘공공 AI 윤리기준’ 마련개인정보 침해·책임 검증 ‘AI 영향 평가’공직사회의 AI 역량도 대폭 강화하는데요. 행안부는 모든 공무원에게 AI 교육 이수를 의무화하고, 자체 AI 개발과 현장 적용이 가능한 전문 인재 2만명을 육성하기로 했습니다. 매년 공무원 AI 활용 경진대회를 열어 혁신 문화를 확산하고 우수 과제에는 인센티브를 제공하는 방안도 검토합니다. 국민과 기업의 수요가 많은 ‘공공데이터 톱(TOP) 100’을 조기에 개방하고 기관 간 데이터 공유도 활성화할 예정이라고 하니 여러 분야에서 시너지가 났으면 좋겠습니다. AI 의존도가 높아지는 만큼 부작용에 대한 대비도 빼놓을 수 없겠죠. 정부는 AI의 신뢰성과 안전성을 확보하기 위한 ‘공공 AI 윤리기준’을 마련하고, AI 사업이 개인정보 침해 등 국민에게 미칠 수 있는 의도하지 않은 영향을 점검하고 책임 소재 등을 검증하는 ‘AI 영향평가’도 도입할 예정입니다. AI 보안성 검토 가이드라인은 행안부와 국가정보원이 함께 마련하고 있습니다. 정부는 ‘AI 정부’ 도입을 단순히 AI 기술을 활용해 행정 효율성을 높이는 데 그치지 않고, AI를 통해 국민주권의 가치를 실현하고 국민이 체감할 수 있는 정책 변화와 성과를 만들어내는 혁신 수단으로 삼겠다고 밝혔습니다. 특히 국민이 개별적으로 대응하기 어려운 영역에서 공공 AI가 역할을 한다면 정책 체감도는 더욱 높아질 겁니다. 온라인 활동이 일상화된 요즘, 인스타그램·페이스북 등 해외에 서버를 둔 소셜미디어(SNS)에서 개인정보 유출이나 사진 도용·사칭 피해가 발생했을 때 신속한 수사와 사칭 계정 삭제를 지원하거나, 딥페이크 등 AI 합성물이 성범죄에 악용될 경우 관련 콘텐츠를 빠르게 찾아내 일괄 삭제할 수 있다면 큰 도움이 되겠죠. 제주에서 실종됐다 끝내 주검으로 발견된 장미란씨 사건처럼 실종자를 찾는 데도 공공 AI가 인근 폐쇄회로(CC)TV 영상을 신속하게 분석해 특정인의 이동 경로를 추적하는 등 골든타임을 확보하는 데 역할을 할 수 있습니다. AI 서비스를 정책에 본격적으로 활용하려면 방대한 데이터 처리를 안정적으로 뒷받침할 서버 인프라 구축도 필수적입니다. 정부는 지난해 화재로 행정·금융·의료 전산망에 장애를 일으켰던 국가정보자원관리원이 AI 서버 구축에 적합하지 않다고 판단해 2030년 폐쇄하고, 세종시에 운영 중인 네이버 데이터센터 등 민간 인프라를 임차·활용하는 방안을 검토하고 있습니다. 정부가 직접 데이터센터를 새로 구축해 유지·관리할지, 초대형 민간 데이터센터를 활용할지 비용과 효율성은 물론 보안과 안정성까지 종합적으로 따져 결정하겠다는 것입니다. AI의 유용함을 국민의 삶을 바꾸는 정책으로 구현하는 것은 결국 정부의 몫입니다. 다양한 아이디어와 경험을 모은 ‘집단지성’을 발휘해 정부의 AI 서비스가 더욱 적극적이고 기존의 틀을 뛰어넘는 방향으로 발전해 나가길 기대합니다. ‘강 기자의 세종실록’은 대한민국 행정의 수도 세종시에서 생산되는 정부 정책과 관가에서 일어나는 모든 일을 생생하게 보도하는 코너입니다. 세종시에 포진한 각 정부부처가 내놓는 모든 정책이 역사의 한 페이지로 남고, 오늘의 행정이 내일의 역사가 된다는 관점으로 ‘세종 현대사(現代史)’를 기록하겠습니다.