정부가 지식재산 활용을 적극 지원한다. 200개 첨단기술의 연구개발(R&D) 과제에 대한 특허 동향을 제공하고 우수 기술을 보유한 스타트업 등의 사업화 지원을 위해 지식재산 금융을 12조원 규모로 확대할 계획이다. 특허청은 21일 지식재산 정책을 통한 경제 위기 극복 및 역동성 강화 등을 주요 내용으로 하는 ‘2025년 주요 업무 계획’을 발표했다. 국내 기술경쟁력 강화를 위해 전 세계 6억건의 특허 빅데이터를 활용해 첨단기술 분야 R&D 과제에 대한 특허 동향 심층 분석을 시행하고, 양자 기술과 인공지능(AI) 분야 발명자 정보를 활용한 ‘글로벌 발명자 지도’를 구축기로 했다. 국가 R&D 전략 수립의 길잡이로서 중복투자 등을 원천 차단한다는 방침이다. 기술 수요에 맞춰 심사·심판 서비스도 개선한다. 바이오·AI·첨단로봇 분야와 탄소중립 분야를 우선심사 대상으로 확대하고, 민간 전문가 60명을 특허심사관으로 채용해 반도체·디스플레이·이차전지·바이오 등 4대 국가 첨단 전략산업을 포함한 첨단산업 전반에 걸친 특허심사 패키지 지원체계를 구축할 계획이다. 지재권의 조기 권리화를 위해 올해 특허 처리 기간을 15개월, 상표 처리 기간은 12개월대로 단축하고 심사 품질도 높이기로 했다. 지식재산 기반 기업 성장 생태계 고도화를 위해 스타트업과 중소기업들이 보유한 지식재산을 기반으로 도약할 수 있도록 지식재산 금융 12조원 달성을 추진한다. 금융위원회와 함께 1000억원 규모의 딥 테크 공동펀드를 조성할 계획이다. 지식재산 담보대출의 안전장치 역할을 하는 ‘회수지원기구’의 출연금을 늘려 은행권의 적극적인 지원을 유인하는 등 금융기관이 혁신의 마중물 역할을 하도록 뒷받침한다. 위조 상품 유통 근절 및 소셜미디어(SNS)·해외 직구 등 위조 상품 유통 경로 다변화에 대응해 AI 기술을 활용한 온라인 위조 상품 상시 모니터링을 오는 3월 도입한다. 우수 지식재산 보유기업의 글로벌 진출 촉진 대책으로 특허 활용전략 컨설팅 등 기업 상황별 맞춤형 지원과 수출기업에 대한 지식재산 담보 대출의 문턱은 낮추고 지식재산 가치평가 비용도 지원키로 했다. 첨단기술에 대한 해외 특허 거래 추진 기업에는 민간 전문기관과 검증·자문도 제공한다. 김완기 특허청장은 “지난해 어려운 경제 환경 속에서도 국내 특허 출원이 역대 최다인 24만 6000여건을 기록했다”면서 “특허 빅데이터와 높은 기술 전문성을 활용해 혁신 동력이 기술경쟁력으로 이어지게 하고 기업들이 기술력을 바탕으로 성장해 해외 시장에 진출할 수 있도록 체계적으로 지원하겠다”고 밝혔다.

금호석유화학그룹이 환경과 안전 부문 역량을 강화해 가고 있다. 16일 금호석유화학그룹에 따르면 금호석유화학과 금호피앤비화학, 금호미쓰이화학, 금호폴리켐, 금호티앤엘, 금호리조트 등 주요 계열사들은 그룹 ESG 협의체를 구성하고 각 사의 안전 및 환경경영 현황을 공유하며 공통의 전략 방향성을 점검한다. 더불어 지난해부터 금호석유화학 지속가능경영보고서 내 계열사별 안전, 환경 관련 통합 데이터가 다뤄지면서 금호석유화학그룹의 ‘안전’과 ‘환경’ 관련 정보에 대한 접근성을 높였다. 환경경영 고도화 위한 설비 투자먼저 금호피앤비화학은 환경 관리 시설 투자로 사업장 내 악취유발 물질과 대기오염 물질에 대한 모니터링을 강화했다. 여수 1공장에 폐수처리장에서 발생하는 악취유발 물질을 저감할 수 있는 습식세정장치를 설치 중이며 여수 1, 2공장 플레어 스택(Flare Stack)에 배출가스의 불완전 연소를 방지하기 위한 발열량 모니터링 시스템을 구축하고 있다. 금호미쓰이화학은 2공장 증설과정에서 원부재료 리사이클(Recycle) 공정을 도입했다. 올 하반기 폐수 리사이클 공정의 완공에 따라 폐수 내 유기물질을 회수 및 추출해 제품 생산의 원료로 재활용할 예정으로 이를 통해 폐수 내 수질오염물질도 감축할 것으로 예상된다. 금호폴리켐은 휘발성 유기 화합물(VOCs) 및 악취 발생 개소를 최소화하기 위해 비산 배출원 관리 시스템(LDAR)을 구축하고 있으며, 내년까지 공정 전반에 걸쳐 구축을 완료한다는 계획이다. 또한, 주요 제품군에 대한 전과정 평가(LCA)를 실시해 자사 제품이 환경에 미치는 영향을 규명하고 이를 바탕으로 환경 전략을 수립함으로써 환경친화적 기업의 역할을 다한다는 방침이다. 사업장 내 빈틈없는 안전관리 추진금호석유화학은 여수와 울산 사업장의 스마트 안전장비 기반 안전환경 시스템을 강화 중이다. 사업장별 작업 현장과 고위험 장소를 중심으로 인공지능 기반 보안카메라인 AI CCTV를 설치해 화재, 가스 누출 및 작업자 이상행동 감지 또는 작업자 보호구 착용 상태 파악 등에 활용할 계획이다. 향후 AI CCTV와 같은 작업공간 설치형 안전장치 외에도 스마트 안전모, 웨어러블 카메라 등 작업자 착용형 장치도 검토한다. 금호폴리켐은 유해 및 위험 요소를 발견하고 위험성을 평가함으로써 작업 현장의 위험도를 낮추는 것을 제1의 목표로 삼고 있다. 이를 위해 각 실무자로 구성된 안전환경 회의를 매월 개최해 안전에 대한 관심도를 향상하고 있다. 더불어, 공장 전 직원 대상 재해 유형별 안전 체험 교육도 진행한다. 금호미쓰이화학은 중대재해 예방을 위한 기존 안전보건 관리체계를 기반으로 신규 공장인 2공장 상업운전을 위한 안전 확보에 힘쓰고 있다. 2공장 시운전 단계에서 이뤄지는 모든 작업에 대한 ‘시운전 작업위험성 평가’를 실시한다. 또한 기존에 운영하던 현장 안전요원을 증원해 작업별 불안전한 요소를 없앴다. 금호피앤비화학은 위험성 평가를 통해 잠재위험요소 사전 제거 활동, 작업 전 안전점검회의(TBM) 정착화를 지난해부터 꾸준히 추진하고 있다. 특히, 안전사고 발생 위험성이 높은 정비 기간에 집중적으로 안전문화 캠페인, 공사협력업체 안전간담회 활동을 실시하고, 지난해부터 추진한 SEH(안전환경보건) 시스템 구축을 완료했다.

현장에서 직접 개발한 안전장치 아이디어를 공유하기 위한 전시회가 포스코 포항제철소에서 열렸다. 4일 포스코 포항제철소에 따르면 최근 직원들이 현장에서 직접 발굴하고 개발한 안전장치를 소개하는 ‘치공구·안전장치 전시회’가 개최됐다. 전시회는 작업현장 안전을 향상시키고, 그룹사와 협력사 간 아이디어 공유 차원에서 열렸다. 소형 치공구, 조업협업 대형장치, 신기술 점검기구, 안전환경개선 파트로 나뉘어 총 41개 장치가 전시됐다. 석회석 이물제거장치를 제작한 중앙수리섹션 한석주 파트장은 “직원들이 직접 참여해 개발한 안전장치는 실제 현장 상황을 반영하고 있어 매우 실용적”이라며 “팀원들과 더 나은 작업 환경을 만들기 위한 아이디어를 공유하며 안전에 대한 경각심을 높일 수 있었다”고 했다. 신기술 점검기구 파트에서는 VR, 로봇, 드론과 같은 첨단 기술을 활용한 기구들이 전됐다. 또한 미세한 움직임까지 포착해 보여주는 모션 증폭 카메라, 기존 로봇보다 더 미세하게 움직이는 작업용 다관절 로봇 등 포스코 연구소와 협업을 통해 구현한 AI기반 신기술 기구들을 선보였다. 천시열 소장은 “직원들이 자발적인 참여해 안전한 작업환경을 조성하고, 포항제철소 고유의 안전 문화가 협력사까지 확대되는데 지원을 아끼지 않겠다”고 말했다.

공개 데이터 수집 필요성 인정돼야안전장치와 신속한 권리구제 담겨 법적 회색지대로 지적돼 온 인공지능(AI) 개발에 따른 ‘공개 데이터 활용’에 대해 정부가 첫 가이드라인을 내놨다. AI 학습·서비스 개발에 활용되는 공개 데이터에는 주소, 고유식별번호, 신용카드번호 등 여러 개인정보 등이 포함될 수 있는데 현행 개인정보보호법에는 명확한 처리 기준이 없었다. 17일 개인정보보호위원회가 공개한 ‘AI 개발·서비스를 위한 공개된 개인정보 처리 안내서’에 따르면 개인정보위는 ‘정당한 이익’이 있을 경우 동의 없는 정보 수집과 이용을 허용하는 현행 개인정보보호법에 따라 공개 데이터를 AI 개발에 이용할 수 있다고 판단했다. 다만 이를 이용하기 위해서는 목적의 정당성, 처리의 필요성, 구체적 이익형량 등 세 가지 요건을 충족해야 한다고 명시했다. 공개된 개인정보 처리를 통해 개발하려는 AI의 목적과 용도를 구체화해 정당한 이익을 명확히 해야 하고, 공개 데이터 수집·이용의 필요성과 합리성 등이 인정돼야 한다는 것이다. 공개 데이터는 누구나 인터넷으로 접근할 수 있는 위키백과, 웹사이트, 블로그, 소셜미디어(SNS)상의 정보를 말한다. 그간 AI 서비스 기업들은 웹 스크래핑 방식으로 이를 수집해 AI 학습과 서비스 개발에 활용해 왔으나 명확한 기준이 없어 개인정보 침해 우려 같은 법적 불확실성과 부담을 안고 있었다. 개인정보위는 AI 학습 특성상 개인정보 식별 위험성은 낮지만 혹시 모를 개인정보 침해 위험에 대해서도 안전장치를 마련했다. 기술적으로는 데이터에 대한 고유식별정보를 삭제하거나 암호화 처리하는 방안을 제시했다. 또 개인정보보호 책임자를 중심으로 하는 ‘AI 프라이버시 담당 조직’을 운영하도록 기업에 권고했다. 개인정보 유출 또는 노출 시 신속한 권리구제 방안도 마련토록 했다. 다만 이번 가이드라인에 법적 강제성은 없다. 태현수 개인정보위 인공지능프라이버시 팀장은 “개인정보보호법이 규제가 많은 법이어서 이번 안내서로 인해 새로운 규제가 될 수 있다는 우려가 큰 것 같다”며 “기업이 자율적으로 조치할 수 있도록 할 것”이라고 했다.

법적 회색지대로 지적돼 온 인공지능(AI) 개발에 따른 ‘공개 데이터 활용’에 대해 정부가 첫 가이드라인을 내놨다. AI 학습·서비스 개발에 활용되는 공개 데이터에는 주소, 고유식별번호, 신용카드번호 등 여러 개인정보 등이 포함될 수 있는데 현행 개인정보보호법에는 명확한 처리 기준이 없었다.17일 개인정보보호위원회가 공개한 ‘인공지능(AI) 개발·서비스를 위한 공개된 개인정보 처리 안내서’에 따르면 개인정보위는 ‘정당한 이익’이 있을 경우 동의 없는 정보 수집과 이용을 허용하는 현행 개인정보보호법에 따라 공개 데이터를 AI 개발에 이용할 수 있다고 판단했다. 다만 이를 이용하기 위해서는 목적의 정당성, 처리의 필요성, 구체적 이익형량 등 세 가지 요건을 충족해야 한다고 명시했다. 공개된 개인정보 처리를 통해 개발하려는 AI 목적과 용도를 구체화해 정당한 이익을 명확히 해야 하고, 공개 데이터 수집·이용의 필요성과 합리성 등이 인정돼야 한다는 것이다. 공개 데이터는 누구나 인터넷으로 접근할 수 있는 위키백과, 웹사이트, 블로그, 소셜미디어(SNS)상의 정보를 말한다. 그간 AI 서비스 기업들은 웹 스크래핑 방식으로 이를 수집해 AI 학습과 서비스 개발에 활용해 왔으나 명확한 기준이 없어 개인정보 침해 우려 같은 법적 불확실성, 부담을 안고 있었다. 개인정보위는 AI학습 특성상 개인정보 식별 위험성은 낮지만 혹시 모를 개인정보 침해 위험에 대해서도 안전장치를 마련했다. 기술적으로는 데이터에 대한 고유식별정보를 삭제하거나 암호화 처리하는 방안을 제시했다. 또 개인정보보호 책임자를 중심으로 하는 ‘AI 프라이버시 담당조직’을 운영하도록 기업에 권고했다. 개인정보 유출 또는 노출 시 신속한 권리구제 방안도 마련토록 했다. 다만 이번 가이드라인에 법적 강제성은 없다. 태현수 개인정보위 인공지능프라이버시 팀장은 “개인정보보호법이 규제가 많은 법이어서 이번 안내서로 인해 새로운 규제가 될 수 있다는 우려가 큰 것 같다”며 “기업이 자율적으로 조치할 수 있도록 할 것”이라고 했다.

각국 AI 경쟁… 우리는 기본법 없어생성형 AI 등 응용 자유 줘야 발전위험성 대비 ‘안전장치’ 마련 필요향후 부작용 제도적으로 극복 가능기후변화 법제 어떻게 해야 하나강대국 보호무역 방식 제도화 안 돼무역장벽 선회해 녹색산업 키워야우리 실정에 맞는 탄소중립 고민을메가시티 논의, 정치 개입 방지 중요지방자치 바탕 초광역권 발전 추진국세·지방세 재정립 세제개혁 필요지방소멸 대응하는 법제 준비해야세상을 바꾼다는 인공지능(AI) 사용 기준에 관해 세계 각국이 관련 법규를 만들고 있지만 우리나라는 AI 활용을 위한 ‘AI 기본법’조차 제정되지 않았다. 국민생활과 경제활동에 핵심 요소로 등장한 각종 디지털 기술뿐 아니라 기후변화, 지방자치단체 간 통합 움직임 등 새로운 변화에 대응하기 위한 법제 필요성도 제기되고 있다. 정부 입법을 뒷받침하는 국책 연구기관인 한국법제연구원의 한영수 원장을 최근 만나 각종 정책 현안의 법제화 방향에 대해 이야기를 나눴다.-세계 각국이 AI 기술 패권 경쟁에 나선 가운데 우리나라도 ‘AI 기본법’을 제정해야 한다는 목소리가 높다. 현재 추진되는 AI 관련 법안은. “21대 국회에서 10여개의 AI 관련 입법이 제안됐으나 임기 만료로 폐기됐다. 22대 국회 개원 이후 4개의 법안이 국회에 제출됐다. 이달 중 대통령 직속 국가인공지능위원회도 출범을 앞두고 있어 AI 연구 및 산업 활성화, 규제 논의가 힘을 얻어 법제화 작업이 가속화될 것으로 보인다.” -AI 관련 기본법이 만들어진다면 내용은. “윤석열 대통령은 지난 5월 리시 수낵 영국 총리와 공동으로 주최한 ‘AI 서울정상회의’에서 안전·혁신·포용 등 AI 규범 가치를 담은 ‘서울선언’을 채택했다. 기본법 제정 시 AI의 안전성 및 새로운 성장동력을 확보해야 하며 누구나 접근 가능하고 포용할 수 있어야 한다는 내용이 담겨야 한다고 생각한다.” ●AI 기술 연구·개발·활용 자유롭게 해야 -AI 규제와 관련, 유럽은 엄격한 통제 하에 AI를 ‘사전’에 규제하려는 반면 빅테크 등 AI 관련 글로벌 기업이 많은 미국은 AI로 인한 위험성이 명확하게 드러난 후인 ‘사후’ 규제를 적용하는 추세다. 우리나라는 어떤 스탠스를 취해야 하나. “AI 기술을 둘러싼 각국의 주도권 경쟁이 치열하다. 자원이 부족한 우리나라는 생성형 AI를 비롯한 다양한 AI 기술이 응용되고 발전할 수 있도록 과학기술계의 연구, 개발, 시장에서의 활용을 자유롭게 해 줄 필요가 있다. 여러 부작용이 나타난다고 해서 규제로 방향을 틀면 국가 경쟁력에서 뒤처질 가능성이 크다. 우선 기술을 진흥시키고 규제는 선진국의 추이를 서서히 봐 가면서 해도 된다. 강한 규제가 산업에 미치는 영향 등을 지켜보며 AI 위험성을 최소화하는 방안을 검토해야 한다. 다른 나라보다 앞서 규제를 서두를 필요는 없다.” -AI 규제보다 기술 진흥에 무게중심을 둬야 한다는 입장인가. “바둑 팬인데, 2013년 알파고와 이세돌의 바둑 대결에서 이세돌이 패한 데 엄청난 충격을 받았다. 바둑은 수가 복잡해 AI가 절대로 이길 수 없다고 생각했었기 때문이다. AI 발달에 대한 여러 우려의 목소리가 나오고 있지만 인간이 AI를 활용해 더 나은 미래를 구현할 수 있다고 생각한다. 예상치 못한 문제가 있다고 AI 기술 개발에 미리 재갈을 물릴 필요는 없다. 앞으로 생길 부작용은 제도적으로 극복할 수 있다.” -AI 등 신기술 분야의 등장이 기존 산업과 충돌하면서 갈등을 빚는 게 우리 현실인데, 법제에 고민이 많겠다. “영국 빅토리아 여왕 시절이던 1865년 마차 사업을 보호하기 위해 자동차의 최고 속도를 시속 3㎞로 제한하고 마차가 붉은 깃발을 꽂고 달리면 자동차는 그 뒤를 따라가도록 하는 ‘붉은 깃발법’(적기 조례)을 만들었다. 30년간 이 법을 시행함으로써 영국은 가장 먼저 자동차 산업을 시작했음에도 미국과 독일에 뒤처졌다. 이 법은 마부들이 청원해서 만들어진 것인데, 현재 신산업의 등장에 전통 산업계가 저항하는 현실에도 시사하는 바가 크다. 양측의 갈등을 해결하기 위해서는 정치력이 필요하다.”●AI 예상치 못한 오류 등에도 대비 필요 -AI 기술이 주는 이익은 크지만 관련 규제가 없으면 문제도 커지지 않나. “AI가 사람의 감독을 벗어나 예상치 못한 중대한 오류가 생기거나 해킹 등으로 주요 국가 시설이 마비될 때의 피해는 예측할 수 없다. AI 기술의 위험성에 대비해서 안전성을 확보하고 우리 사회의 안전, 보건, 기본권 침해 소지가 있는 영역에 대해서는 최소한의 안전장치를 마련할 필요가 있다. 연구원에서는 AI가 사회에 미칠 영향, 위험성 등에 대한 영향평가 기준을 마련하는 연구를 진행하고 있는데 연구 결과가 나오면 입법정책 방안을 제안하려고 한다.” -세계 곳곳에서 구글·넷플릭스 등 빅테크로부터 ‘망 사용료’를 받자는 주장이 나오고 있다. 우리나라에선 SK브로드밴드와 넷플릭스가 소송까지 벌이다 지난해 합의로 마무리된 바 있다. 전 세계를 활동 무대로 하는 빅테크 관련 규제는 어떻게 해야 하나. “최근 애플은 유럽연합(EU)의 규제를 우려해 아이폰 등에 탑재하는 새로운 AI 기능을 유럽에는 내놓지 않기로 했다. 빅테크 규제는 불공정한 시장 지배력을 제한하고 공정한 시장을 조성하기도 하지만, 한편으로는 신기술 성장에 제동을 걸 수 있다는 점을 명심하고 조심스럽게 접근해야 한다.” -기후변화 문제와 관련, 세계 각국은 새 국제규범을 만들어 대응하고 있다. EU는 탄소국경세, 미국은 인플레이션 감축법을 제정했다. 우리나라는 어떻게 접근해야 하나. “국제사회에서 강대국들이 탄소 중립을 이유로 보호무역에 가까운 법제도를 도입한다고 해서 우리나라도 같은 방식으로 보호무역을 제도화할 수는 없다. 수출 비중이 높은 우리나라는 강대국들의 무역 장벽을 선회하고 국내 녹색산업 경쟁력을 키울 방안을 고민해야 한다. 기후변화 및 탄소 중립에 대해 우리 실정에 맞는 제도를 만들어야 한다.” -기후변화 대응이 국가 경쟁력으로 이어지고 있다. 이 과정에서 산업구조 변화, 일자리 전환 등이 불가피한데 법제의 정비는. “국가 경쟁력 강화를 위한 녹색산업 육성 관련 법제도를 연구하고 있다. 석탄화력발전소 폐지에 따른 일자리 전환 및 연관 지역 지원에 관한 법제도 포함돼 있다.” -기후변화 대응을 위한 산업 전환에서 피해를 보는 이들이 생기는데. “탄소 중립 사회로의 전환 과정에서 피해를 입을 수 있는 지역이나 해당 산업 노동자 등을 보호해 그 부담을 분담하고 피해를 최소화하기 위한 ‘정의로운 전환’ 대책이 필요하다. 정부를 비롯해 산업 전환 과정에서 혜택을 받는 집단이 피해 기금 등을 조성해 지원하는 법제를 검토할 필요가 있다.”●특별자치시도, 자치분권 모델 만들어야 -지방 소멸 위기에 대응하기 위한 지방자치단체 간 통합이 핫이슈로 등장했다. 하지만 지방마다 각기 사정이 달라 공통적인 관리 규약을 만드는 게 어려워 보인다. “내년으로 지방자치 부활 30년이다. 지난 30년 동안 지방의 자치 역량 강화가 주된 관심사였다면 이제는 지방의 발전 가능성, 사회·경제·문화 전 분야 잠재력을 어떻게 발현시켜 나갈 것인가가 지방자치제도의 핵심이 돼야 한다. 인구 감소 및 지방 소멸 대응을 위한 자치환경 조성을 뒷받침할 수 있는 법제를 준비해야 할 것이다.” -지방을 살리는 데 있어 가장 큰 문제는 열악한 지방재정이다. 지방재원 확보를 위한 방안은. “실질적인 재정 분권을 달성하기 위해서는 국세와 지방세 체계 재정립 등 세제 개혁이 필요하다. 지방재정 확대, 재정 분권과 함께 지방재정의 투명성, 효율성 및 건전성 등을 확보해야 한다.” -몇 년 사이 제주특별자치도에 이어 세종특별자치시, 강원특별자치도, 전북특별자치도 등이 등장했다. 특별자치시도의 위상 강화를 위한 법제 방향은. “특별지자체가 중앙정부로부터 모든 권한을 부여받는 것보다 각 지자체별 고유 특성을 살릴 수 있는 분야에 대한 권한을 확보하고 성공적인 지방자치분권 모델을 만드는 게 중요하다. 예를 들어 강원도의 경우 관광진흥법 권한을 이양해 달라고 요청해 관광 분야에서 중앙부처 수준으로 독자적 권한을 행사하는 게 현실성이 있다. ” -대구·경북 통합 등 권역별 메가시티 논의가 활발한데 법제 뒷받침이 필요하지 않나. “권역별 메가시티 논의는 국가 경쟁력 제고, 인구구조 변화, 지방 소멸 등 국가적 난제를 해결하기 위한 방향에서 논의돼야 한다. 지방자치의 본질을 훼손하지 않으면서 초광역권 발전을 추진해야 한다. 법제도적으로 메가시티의 자치권, 주민의 참여와 통제 등에 대한 제도적 장치를 면밀히 설계해야 한다. 특히 2022년 부산·울산·경남 메가시티 무산 과정에서 드러났던 것과 같이 정치권 영향을 최소화하고 메가시티 설치 및 운영을 보장하는 절차에 관한 논의가 이뤄져야 한다.” ■ 한영수 원장은 누구 서울대 법대 출신의 행시 34회로 법제 이론과 실무에 정통하다. 법제처 법제정책국장, 법령해석정보국장, 대통령실 법무비서관실 행정관, 헌법재판소 헌법연구관 등을 거쳐 법제처 차장을 역임했다. 지난해 3월 원장으로 취임한 이후 AI 법제팀, 해외법제조사팀, 현안 대응팀 등을 새로 만들어 AI, 기후변화, 저출생 등 핫이슈 법제화 연구에 적극 나서고 있다. 최광숙 대기자

빠르게 진화하는 인공지능(AI)이 인류에 멸종급 위협이 될 수 있다는 경고가 미국에서 나왔다. 12일(현지시간) 미국 CNN방송에 따르면 AI 정책 조언 등을 제공하는 민간 업체 글래드스톤 AI는 미국 국무부의 의뢰로 작성해 이번 주 발표한 보고서에 이같은 내용을 담았다. 미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고도 포함했다. 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기(WMD) 전문가, 국가안보 정부 당국자 등 200여명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다. 이에 대해 글래드스톤 AI 측은 챗GPT 개발사인 오픈AI, 구글 딥마인드, 페이스북 모회사인 메타, 앤트로픽 등 주요 빅테크 기업의 기술 및 리더십 팀과 이야기를 나눴다고 밝혔다. 또 일론 머스크, 리나 칸 미국 연방거래위원회(FTC) 위원장 등 AI로 인한 실존적 위험에 대해 경고해온 저명인사들도 보고서에 언급했다.보고서는 AI가 제기할 수 있는 위협을 크게 두 가지로 정리했다. 우선 최첨단 AI 시스템이 향후 돌이킬 수 없는 피해를 가할 가능성이 있는 무기로 전용될 가능성을 우려했다. 보고서는 경쟁 압박으로 인해 기업들이 안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있다며 무기화 가능성 등을 경고했다. 다음으로는 어느 시점이 되면 인간이 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있음을 꼽았다. 보고서는 “AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다”며 AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다고 예상했다. 경쟁 압박 속에 각 기업은 떠밀리듯 안전과 보안을 장담할 수 없는 AI 개발을 가속하고 있으며, 이로 인해 AI 체계가 미국에 반하는 방식으로 무기화하거나 절취될 수 있다고 봤다. 그러면서 이러한 위협에 대응하기 위해 “미국 정부의 개입 필요성이 매우 분명하고 긴급하다”고 보고서는 촉구했다. 아울러 새로운 AI 감독 기관 및 긴급 규제 안전장치 마련, AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한 등을 방안으로 제시했다. 글래드스톤 공동 설립자이자 최고경영자(CEO)인 제러미 해리스는 CNN에 “AI는 이미 경제적으로 혁신적인 기술”이라면서 “하지만 또한 우리가 알아야 할, 재앙적인 위험을 포함한 심각한 위험을 가져올 수 있다”고 지적했다. 그는 “세계 최고의 AI 회의들에서 발표된 경험적 연구와 분석을 포함해 늘어나는 증거들은 특정 능력의 한계점을 넘어서면 AI가 잠재적으로 통제할 수 없게 될 수 있음을 시사한다”고 말했다.글래드스톤 AI에 따르면 AI 기업들의 일부 직원들도 사석에서 비슷한 우려를 공유하고 있다. 보고서는 “한 유명한 AI 연구소의 한 직원은 특정 차세대 AI 모델이 오픈 액세스로 나온다면 끔찍하게 나쁠 것이라는 견해를 밝히기도 했다”며 “이 모델의 잠재적인 설득 능력이 선거 개입이나 유권자 조작 같은 분야에 사용될 경우 민주주의를 파괴할 수 있다는 점 때문”이라고 전했다. 보고서에 따르면 AI 전문가들은 올해 AI로 인한 사고(AI incident)가 전 세계적으로 돌이킬 수 없는 영향을 미칠 가능성을 4%에서 최대 20%까지로 추정했다. 보고서는 다만 이 같은 추정치는 비공식적이며 상당히 편향된 것일 가능성도 있다고 밝혔다. 이제 관건은 AI가 얼마나 빠르게 진화하느냐다. 보고서는 특히 인간과 유사하거나 인간의 역량을 넘어서는 학습 능령을 지닌 AGI의 진화 속도에 주목했다. AGI의 경우 인간이 통제력을 잃는 재앙적인 상황을 촉발할 주된 요인이 될 수 있다는 것이다. 보고서는 “AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아는 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다고 덧붙였다. 아울러 AI 체계가 향후 주요 인프라를 마비시킬 역량을 갖춘, 타격이 큰 사이버 공격을 시행하는 방향으로 고안될 수 있으며, 가짜 정보 캠페인이나 심리적 조작에 악용되거나 인간에게 적대적인 권력에 부합하는 통제 불가능한 방향으로 발달할 수 있다고 경고했다. CNN은 이날 보고서를 보도하며 향후 30년 이내에 AI가 인류 멸종을 이끌 가능성이 10%가량 된다는 ‘AI 대부’ 제프리 힌튼의 발언도 함께 전했다. 힌튼을 비롯한 AI 산업 저명 인사들은 지난해 6월 AI로 인한 인류 멸종 위험을 완화해야 한다는 성명을 낸 바 있다.

생성형 인공지능(AI)이 무분별한 유해 콘텐츠를 만들어 낼 수 있다는 우려가 현실로 나타나고 있다. 세계 최고 수준의 기술로 안전성을 확보한다던 글로벌 기술기업들의 서비스가 잇달아 결함을 드러내고 있기 때문이다. 마이크로소프트(MS) 내부에서 자사 생성형 AI가 성적 묘사 등을 담은 이미지를 생성한다는 경고가 나왔지만 회사는 아직 조치를 취하지 않고 있다. 6일(현지시간) 월스트리트저널(WSJ)과 CNBC 등에 따르면 MS의 AI 기술자인 셰인 존스는 자사 이미지 생성 서비스 ‘코파일럿 디자이너’ 이용 등급을 성인용으로 변경할 것을 제안하는 서한을 이사회와 연방거래위원회(FTC)에 보냈다. 그는 서한을 통해 “지난 3개월간 더 나은 안전장치가 마련될 때까지 이 프로그램을 공개적으로 사용하지 말 것을 MS에 거듭 촉구했지만 회사는 거부했다”고 고발했다. 코파일럿 디자이너는 오픈AI의 이미지 생성 모델 ‘달리’(Dall-E)를 기반으로 사용자의 문자 명령어에 따라 이미지를 만들어 주는 서비스다. 존스는 지난해 12월부터 코파일럿 디자이너의 결함을 찾는 ‘레드팀’으로 활동했으며 이 과정에서 악마와 괴물, 소총을 든 10대, 여성의 성적인 이미지, 미성년자 음주나 약물 사용 등의 이미지가 생성된 것을 발견했다고 털어놨다. ‘낙태 찬성’(pro-choice)을 프로그램에 입력하자 다 자란 아이를 드릴로 공격하는 이미지가 만들어졌다고 했다. 존스는 상부에 이같은 우려를 전달했지만 묵살됐고 상품도 시장에서 회수되지 않았다. 그는 “회사 정책에 따라 모든 우려 사항을 해결하는 데 노력하고 있으며, 안전을 더 강화하기 위해 최신 기술을 연구하고 테스트하는 직원들의 노력에 감사를 표한다”는 답신만 돌아왔다고 했다. 앞서 구글의 생성형 AI 서비스 ‘제미나이’는 지난달 22일 인종 역차별 이미지를 생성하는 결함이 발견돼 현재까지 인물 관련 이미지 생성을 중단한 상태다. 제미나이는 역대 미국 대통령들과 교황 등 백인을 모두 흑인이나 아시아계로 묘사해 논란을 일으켰다. 이와 관련해 구글 공동 창업자인 세르게이 브린은 지난 4일 “테스트 부족으로 확실하게 망쳤다”며 “우리는 왜 답변이 (정치적으로) 왼쪽으로 기울어지는지 완전히 이해하지 못했다”고 말했다. 이미지 생성 AI를 학습시키는 데 쓰는 데이터세트에 아동학대 이미지가 포함돼 논란이 일기도 했다. 지난달 20일 블룸버그에 따르면 스탠퍼드 인터넷 관측소(SIO)는 독일 비영리 단체인 ‘레이온’이 배포한 데이터세트에서 아동에 대한 성적 학대로 의심되는 이미지 1000여장을 확인해 신고했다. 레이온은 곧바로 데이터세트 배포를 중단하고 문제 이미지를 삭제했다. 문제는 이 데이터세트가 이미 가장 유명한 이미지 생성기 중 하나인 ‘스테이블 디퓨전’을 학습시키는 데도 사용됐다는 점이다. 스테이블 디퓨전 운영사인 ‘스테이빌리티 AI’는 필터링으로 문제 이미지를 걸러낸 뒤 학습을 실시했다고 해명했지만 SIO 측은 “이 데이터세트로 학습한 다른 AI가 잠재적으로 유해 콘텐츠를 생성할 수 있다”며 스테이블 디퓨전 1.5버전 사용 중단을 권고했다.

국내 가상자산(암호화폐) 거래소들이 앞다투어 시스템 보안을 강화하고 있다. 오는 7월 가상자산 이용자 보호법 시행을 앞둔 가운데 국내외 정보보호 및 보안인증을 바탕으로 투자자 보호책을 보완하려는 것이다. 암호화폐 거래소 코빗은 23일 국내 업계 중 처음으로 SOC 1(Type 2)을 통과했다고 밝혔다. 국제 표준에 따라 재무 관련 내부통제를 평가하는 인증제도로 시스템 보안을 확보하고자 하는 조치다. SOC 인증(System and Organization Controls)은 기업이 안정적 서비스 제공을 위해 미국공인회계사회(AICPA) 및 국제 감사인증기준위원회(IAASB)가 확인하는 제도다. 글로벌 기준에 따라 고객사가 내부통제를 안정적으로 운영하고 있는지를 평가하고 확인한다. 코빗은 2022년 SOC 1의 ‘Type 1’ 인증을 받은바 있는데 이때 발표한 내부통제 설계 계획을 지난 1년간 실제로 이행한 뒤 이차적인 평가를 거쳤다. 향후 법인이 코빗에서 가상자산 입출금, 원화 입출금, 가상자산 매수매도, 기타 스테이킹 서비스를 이용할 때 SOC 1이 있다면 별도로 재무 내역을 확인할 필요가 없다. 코빗 관계자는 “선제적으로 안전장치를 도입한 것이다”며 “향후 법인의 가상자산 투자에 대비함과 동시에 보안 측면에서 신뢰를 확보하고자 했다”고 말했다. 국내 거래소들도 정보보호 관리체계(ISMS), 국제 표준 인증(ISO) 등 정보보호 및 보안인증을 확대하며 시스템을 강화 중이다. 한국인터넷진흥원(KISA)이 관리하는 ISMS 인증은 총 80개 항목의 적합성 평가를 모두 통과할 경우 주어지는데 특금법(특정금융거래정보법)에 따라 가상자산 사업자는 이 인증을 필수적으로 갖춰야 한다. 다만 거래소들은 ISMS 다음 단계의 인증을 취득하거나 해외 인증까지 얻어내는 방식으로 보안을 확보하고 있다. 국내 최대 거래소 업비트는 2018년 ISMS 인증을 취득하고 2021년에는 ISMS-P까지 얻어냈다. ISMS는 기업이 내부 관리체계를 안정적으로 확보했음을 의미하며 ISMS-P는 개인정보의 흐름까지 인정받은 것이다. 또 지난해 11월에는 업무 연속성 관리시스템 국제 표준인 ISO 22301을 인증받았다. 그 외에도 정보·클라우드·개인 정보 보안 등 ISO 인증을 보유하고 있다. 빗썸도 정보보안 인증을 다수 가지고 있다. 지난해 2월 KISA의 ISMS-P 인증을 취득했고 ISO 4종과 국제 인증인 BS10012도 확보했다. 코인원도 지난해 1월 ISMS를 승인받았으며 ISO27001(정보보안) 인증을 보유 중이다. 고팍스도 국제 정보보호 경영시스템 표준인 ISO/IEC 27001과 ISMS 인증을 2018년 업계 최초로 취득한 바 있다. 2021년에는 ISO/IEC 인증을 다음 단계인 ISO·IEC 27017, 27018까지 확장했다.

지구 멸망까지 남은 시간은 90초. 핵확산과 기후변화 등의 위협으로 인류는 멸망을 코앞에 두고 있다는 평가가 나왔다. 미국 핵과학자회(BSA)는 23일(현지시간) ‘지구 종말(둠스데이) 시계’의 초침을 자정에서 90초 전으로 유지한다고 밝혔다. 지구가 자정에 종말한다면 현재 시각은 ‘오후 11시 58분 30초’라는 얘기다. 이는 지난해와 같은 수준이다. BSA는 2020년부터 100초 전으로 유지해 오다 지난해 90초로 당긴 바 있다. 러시아의 우크라이나 침공 이후 핵 사용 우려가 고조된 데 따른 것이다. BSA는 올해 시계를 설정한 위험의 근거로 핵 위협, 기후 변화, 인공지능(AI)과 새로운 생명 공학을 포함한 파괴적인 기술 등을 들었다. 레이첼 브론슨 BSA 회장은 “전 세계 분쟁 지역은 핵확산 위협을 안고 있고, 기후 변화는 이미 죽음과 파괴를 야기하고 있다”며 “AI와 생물학적 연구와 같은 파괴적인 기술은 안전장치보다 더 빨리 발전하고 있다”고 지적했다. 이어 “지난해와 (90초로) 변함이 없는 것은 세계가 안정적이라는 표시가 아니”라며 자정까지 90초는 매우 불안정한 것이라고 강조했다. “러시아 핵 사용·이스라엘 확전 우려”“기술, 안전장치보다 빨리 발전” 브론슨 회장은 “러시아와 우크라이나 간 전쟁 종식은 요원해 보이며, 러시아의 핵무기 사용은 여전히 심각한 가능성으로 남아 있다”며 “지난 1년 동안 러시아는 수많은 우려스러운 핵무기 사용 신호를 보냈다”고 지적했다. 그는 팔레스타인 무장정파 하마스와 전쟁 중인 이스라엘에 대해서도 우려를 나타냈다. 브론슨 회장은 “핵보유국으로서 이스라엘은 분명 지구 종말 시계와 관련이 있다. 특히 이 지역에서 분쟁이 더 광범위하게 확대돼 더 큰 전쟁이 일어나고, 더 많은 핵보유국이 개입할 수 있다는 점이 우려된다”고 말했다. 기후 변화에 대해서는 “2023년 세계는 기록적으로 가장 더운 해를 겪었고 전 세계 온실가스 배출량도 계속 증가하면서 미지의 영역에 진입했다”며 “전 세계와 북대서양 해수면 온도는 기록을 경신했고, 남극 해빙은 위성 데이터가 등장한 이래 가장 낮은 수치를 기록했다”고 짚었다. 그러면서 지난해에는 청정에너지에 대한 신규 투자가 1조 7000억 달러에 달했지만, 약 1조 달러에 달하는 화석연료 투자가 이를 상쇄했다고 덧붙였다. 지구 종말 시계가 처음 만들어졌을 때 가장 큰 위험은 핵이었고, 2007년 처음 기후변화가 요인으로 작용했다.알베르트 아인슈타인 등이 주축이 돼 1945년 창설한 BAS는 지구 멸망 시간을 자정으로 설정하고, 1947년부터 매년 지구의 시각을 발표해 왔다. 자정 7분 전으로 시작한 시계는 미국과 소련이 경쟁적으로 핵실험을 하던 1953년에는 종말 2분 전까지 임박했다가 미소 간 전략무기감축협정이 체결된 1991년 17분 전으로 가장 늦춰진 바 있다. 그러나 이후 핵무기가 사라지지 않고 기후 변화와 신종 코로나바이러스 감염증(코로나19) 등 위협이 이어지며 2019년 시계는 자정 2분 전으로 설정됐다. 이어 2020년 이란과 북한의 핵 프로그램 등을 이유로 자정 전 100초로 이동했고 지난해 90초 전까지 앞당겨졌다.

韓·美·유럽 등서 국가 단위 선거몇 초면 가짜 음성·영상 등 생산 각국 규제·단속 기술 등 미비 미 대선과 한국 총선 등 전 세계 47개국에서 선거가 치러지는 2024년을 목전에 두고 챗GPT 등 생성형 인공지능(AI)을 악용한 가짜뉴스와의 전쟁이 현실로 닥쳤다. 가짜 영상·음성을 단 몇 초 만에 만들어 내는 AI 딥페이크 기술이 한층 정교해지면서 선거를 앞두고 여론을 선동, 조작하는 허위 정보가 판을 칠 것이라는 경고가 나온다. 명백한 가짜는 물론 사실과 주장의 경계가 모호한 선전 선동에도 딥페이크가 동원되면 민주주의의 설 자리가 더 위태로워진다는 우려도 제기되고 있다. 미 언론들은 내년에 있을 대선이 딥페이크가 본격 동원되는 사상 최초의 선거가 될 것으로 내다보고 있다고 AP통신이 26일(현지시간) 전했다. 이를 제어할 안전장치가 전보다 약해졌거나 정부 차원의 규제가 아직 미진한 탓에 가짜뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 지적이다. 딥페이크가 선거와 정치판을 뒤흔드는 사례는 널렸다. 양측 진영이 대립하고 선거전이 치열할수록 딥페이크 활용은 잦아진다. 미국 공화당전국위원회는 지난 5월 30여초짜리 선거 광고를 공개하면서 중무장한 채 샌프란시스코 거리를 순찰하는 미군, 남부 국경을 점령한 이민자들, 대만을 폭격한 중국 전투기 등의 이미지를 담았다. 조 바이든 행정부에서 일어나는 디스토피아를 나타낸 것인데, AI가 만든 가짜 이미지였다. 지난 9월 총선을 치른 슬로바키아에서는 친미 성향의 야당 대표인 미할 시메츠카의 “우리 당이 선거에 이기려면 (소외 계층인) 로마족에게 돈을 줘야 한다”는 음성 파일이 파장을 불렀다. 이 역시 가짜였다. 당사자들은 즉각 반발했지만 투표 이틀 전에 나온 터라 선거에 영향을 미쳐 친러시아 성향 야당의 승리를 견인했다고 프랑스24 등은 전했다. 슬로바키아는 친러 선동과 우크라이나 전쟁 거짓 정보, 반이민을 부추기는 혐오 콘텐츠 등 허위 정보로도 선거가 얼룩졌다. 미중 대리전 격인 대선(2024년 1월 13일)을 앞둔 대만에서는 중국산 동영상 플랫폼 틱톡(중국명 더우인)에서 독립 성향 민진당 후보를 겨냥한 가짜 정보가 활개를 치고 있다. 대만의 의무 군복무 기간이 내년부터 기존 4개월에서 1년으로 늘어나는데, 이를 두고 “대만 청년들은 군 복무 연장에 항의하고 전쟁을 반대하나 민진당이 청년들을 ‘대만 독립’의 사료로 삼고 있다”는 중국 측 주장을 담은 동영상이 유포되고 있는 것이다. 한국의 국가정보원 격인 대만 국가안전국에 따르면 지난해 1400개였던 가짜 정보가 올해는 최소 1800개로 늘어났다. 이들 가짜 정보는 틱톡, 인스타그램, 페이스북, 유튜브 등으로 유통됐다. 미국에서도 사법 재판에 휘말린 도널드 트럼프 전 대통령이 경찰에 체포되는 가짜 영상이 출현했다. AI 전문가인 워싱턴대 오런 에치오니 명예교수는 “(고령인) 대선 후보 바이든 대통령이 병원에 실려 가는 모습도 나올 수 있다”면서 “내 예상이 틀리면 좋겠지만, 재료는 널려 있고 나는 정말 겁이 난다”며 가짜 정보 홍수에 대한 불안감을 드러냈다. 하지만 규제는 기술 발전을 따라가지 못하는 추세다. 소셜미디어 업체들은 가짜뉴스 감시정책이 전반적으로 후퇴했고 AI 기술이 가장 앞선 미국에서도 아직 각 주에 단속을 맡기는 상황이다. 지난해 10월 옛 트위터(X)를 인수한 일론 머스크 테슬라 최고경영자는 콘텐츠 감시 인력을 대규모 해고하고 차단됐던 음모론·극단주의자들의 계정은 ‘표현의 자유’를 들어 복원했다. 페이스북·인스타그램 모회사인 메타와 유튜브 역시 최근 비용 절감을 위해 인력을 줄였다. 기술·미디어 분야 비영리 단체 ‘프리프레스’는 X와 메타, 유튜브에서 혐오 콘텐츠, 허위 정보와 관련해 미디어 보호 정책을 없앤 사례는 총 17개에 이른다고 집계했다. 가짜 정보를 걸러 내겠다면서 적용한 수단은 AI 라벨링 정책으로 제작자가 AI인지 아닌지를 가려내는 정도다. 미국은 연방 의회와 연방 선거관리위원회 차원에서 AI 생성 기술 규제 조치를 모색하고 있지만 아직은 확정된 게 없다고 AP통신은 전했다. 다만 연방 상원에 민주·공화당이 초당적으로 공동 발의한 법안에서는 “패러디, 풍자를 제외하고 연방 후보와 관련된 기만적인 딥페이크를 금지한다”는 내용을 담았다. 주별로는 캘리포니아, 미네소타, 텍사스, 워싱턴주 등이 정치 광고의 딥페이크를 규제하는 법안을 통과시켰다. 비영리 단체인 ‘퍼블릭 시티즌’에 따르면 일리노이, 뉴저지, 뉴욕주 등에서도 유사한 법안이 발의됐다. 미시간주의 경우 지난달 그레천 휘트머 주지사가 ‘선거 전 90일 이내 AI로 생성된 딥페이크 사용을 금지하고 정치 광고가 AI를 사용해 제작됐는지 여부를 명확히 밝혀야 한다’는 법안에 서명했다. 이를 위반하면 초범은 최대 93일 징역형, 최대 1000달러의 벌금형에 처한다. 언론과 정당에 대한 불신이 높은 나라일수록 대중들에게 침투하기 위해 AI를 활용한 딥페이크가 활개 칠 가능성이 높다. 허위 정보를 추적하는 초당파적 단체 ‘민주주의 안전 연합’의 브렛 셰퍼 선임 연구원은 “민주주의에 대한 유권자들의 불신이 커지면서 폭력으로 이어질 수 있다”며 “사람들이 궁극적으로 선거 정보를 신뢰하지 않으면 민주주의는 작동을 멈추게 된다. 인구의 상당수가 영향을 받는다면, 2021년 1·6 미 의회 난입 사태는 워밍업처럼 보일 것”이라고 경고했다.

수천만명의 구독자와 팔로워를 거느린 인플루언서와 사귄다는 가짜뉴스와 악성 댓글에 시달린 22세 브라질 여성이 극단을 선택했다. 가짜뉴스에 대한 강력한 규제를 요구하는 목소리가 힘을 얻고 있다. 26일(현지시간) G1과 오포부 등 브라질 매체에 따르면 브라질 남동부 미나스제라이스에서 제시카 카네두란 여성이 지난 22일 세상을 떠난 사실이 친구와 유족을 통해 확인됐다. 카네두는 이달 중순쯤 브라질 인플루언서이자 복싱 선수로 활동하는 인데르송 누니스(28)의 여자친구로 알려지면서 소셜미디어(SNS)에서 갑자기 주목받았다. 누니스는 한국에는 많이 알려지지 않았으나, 유튜브 구독자 4400만명과 인스타그램 팔로워 5979만명에 이를 정도로 브라질과 라틴아메리카에서 유명하다. 진지한 복싱 선수라기 보다 미국 인플루언서 제이크 폴처럼 장난을 많이 치는 코미디언에 가깝다. 영화와 대중음악, 텔레비전, 유튜브에서 활약한다. 카네두와 누니스는 모두 열애설에 대해 “전혀 사실무근”이라고 즉각 부인했다. 현지 매체들도 두 사람 사이가 특별하지 않다고 보고 있었다. 그런데 문제는 연예인 소식과 가십을 전문적으로 전달하는 일부 SNS 계정이었다. 이 계정들을 통해 헛소문이 삽시간에 퍼져나갔다. 특히 ‘쇼케’(충격이라는 뜻)라는 이름의 SNS는 조작된 메신저 대화 캡처 화면과 카네두 지문 사진 등을 함께 게재해 큰 반향을 일으켰다고 G1은 전했다. 카네두는 자신의 SNS에 “허위 사실로 인해 엄청난 공격을 받고 있다”며 게시물 삭제를 요청하는 글을 올렸으나, 일주일 넘게 받아들여지지 않았다. 낙담한 그는 해서는 안될 선택을 했다. 카네두의 모친은 “내 딸이 무슨 잘못이 있느냐”며 경찰에 이번 사건 관련자에 대한 강력한 처벌을 요구했다고 오포부는 전했다. 특히 우울증에 시달리며 여러 차례 극단을 선택한 적이 있는 취약한 딸에게 악성 댓글 공격은 치명적인 영향을 끼쳤다고 하소연했다. 누니스 역시 “소셜미디어의 부정적 면모로 인한 새로운 ‘공공 학살’이 촉발됐다”면서 “가짜뉴스를 규제할 수 있는 법 제정이 필요하다”며 관련 활동을 펼쳐나가겠다는 뜻을 밝혔다. ‘쇼케’ 측은 뒤늦게 게시물을 삭제하고, 고인의 명복을 비는 성명을 발표했다. 허위 사실 유포와 가짜뉴스 처벌 등에 대한 여론이 비등해진 가운데 시다 곤사우베스 여성부 장관은 자신의 소셜미디어에 “제시카 카네두를 향한 거짓말이 그 젊은 여성에 대한 명예훼손 공격으로 이어졌다는 사실을 용납할 수 없다”고 분개했다. 시우비우 아우메이다 인권부 장관도 “소셜미디어를 지배하는 기업의 무책임도 한 가정의 파괴에 영향을 미쳤다”며 “소셜미디어 규제가 없다면 민주주의와 인간 존엄성에 대한 논의도 있을 수 없다”고 거들었다. 일찌감치 ‘가짜 뉴스와의 전쟁’을 선언한 루이스 이나시우 룰라 다시우바 정부는 구글과 메타 등 소셜미디어 업체 책임까지 묻는 가짜 뉴스 방지 의무를 강제하는 법안을 추진하고 있다. 한편 새해 전 세계 50개국에서 중요한 선거가 치러질 예정인 가운데, 최근 몇 년 급속히 발달한 인공지능(AI) 기술이 선거에 악영향을 미칠 수 있다는 우려가 나온다. 외신에 따르면 미국 대선을 비롯해 러시아, 인도, 멕시코 등에서 선거가 열려 20억명 이상이 투표소로 향할 예정이다. 한국에서도 제22대 국회의원 선거가 내년 4월 치러진다. 하지만 전문가들은 가짜 이미지 등을 쉽게 만들어낼 수 있는 AI 도구가 더 정교해지면서 선거를 앞두고 허위 정보가 그 어느 때보다 판칠 수 있다고 경고한다. 반면 이를 제어할 수 있는 온라인 상의 안전장치는 전보다 약해진 탓에 가짜 뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 것이다. ※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살 예방 핫라인 1577-0199, 희망의 전화 129, 생명의 전화 1588-9191, 청소년 전화 1388 등에서 24시간 전문가의 상담을 받을 수 있습니다.

할리우드 영화에서나 볼 법한 충격적인 도입부와 예상을 뛰어넘는 전개, 그리고 극적인 반전 결말이었다. 생성형 인공지능(AI) 챗GPT 개발사인 오픈AI 이사회가 회사 공동 창립자인 샘 올트먼 최고경영자(CEO)를 기습 해고하면서 촉발된 내분이 21일(현지시간) 올트먼의 전격 복귀로 닷새 만에 일단락됐다. 그사이에 마이크로소트프(MS)의 올트먼 영입 제안, 오픈AI 투자자들과 직원들의 강력한 복귀 압박 등 혼돈의 과정이 있었다. AI 업계는 물론 전 세계의 이목을 집중시킨 흥행 드라마는 막을 내렸지만 이번 사태가 오픈AI의 앞날을 넘어 인류와 AI의 미래에 미칠 영향 등이 새로운 과제로 남았다. ‘인류를 이롭게 하는 안전한 범용AI(AGI)를 만든다.’ 오픈AI 홈페이지 첫 화면에 있는 문구다. 범용AI는 인간의 개입 없이도 인간처럼 사고하는 수준의 AI를 일컫는다. 2015년 테슬라 CEO인 일론 머스크 주도로 설립된 오픈AI는 비영리법인으로서의 취지를 살려 수익성보다는 인류에 도움이 되고, 안전성을 갖춘 AI를 개발해 나갈 것임을 분명히 한 것이다. 2019년 자금 조달을 위해 영리법인 자회사를 세우고, MS로부터 지분 49%에 달하는 투자를 받는 등 변화를 모색하면서도 모든 결정권을 지금까지 비영리법인 이사회가 쥐고 있는 이유다. 지난해 11월 30일 세상에 나온 챗GPT는 그야말로 지구촌을 뒤흔들었다. 출시 두 달 만에 월 사용자 1억명을 돌파하는 등 인류 AI 발전사가 챗GPT 이전과 이후로 나뉜다고 할 만큼 획기적인 혁신으로 주목받았다. 이에 자극받은 구글, MS, 메타 등 글로벌 AI 업계도 지난 1년간 빠른 속도로 AI 신기술을 적용한 결과물을 앞다퉈 내놨다. 챗GPT 성공에 고무된 올트먼은 그러나 올해 들어 안전성보다 수익성에 치중하는 행보를 이어 왔다. 이것이 AI 신뢰성에 무게를 두는 이사회의 우려를 샀고, 결국 해임이라는 초강수로 이어졌다는 것이다. 이번 사태를 계기로 AI를 둘러싼 논쟁의 두 축인 개발론과 규제론 간 팽팽한 대립이 다시 주목받고 있다. 영국 이코노미스트는 “부머(boomer·개발론자)와 두머(doomer·파멸론자) 사이의 분열이 극적으로 드러났다”고 분석했다. 개발론자는 AI 발전이 인류에 미칠 긍정적인 영향과 잠재력이 크기 때문에 개발을 서둘러야 한다는 입장이다. 규제론자는 인간의 통제를 벗어난 AI가 인류를 위협할 가능성을 고려해 속도를 조절해야 한다고 주장한다. 개발론자에 가까운 올트먼의 복귀로 오픈AI는 수익 창출을 위한 AI 사업을 공격적으로 펼칠 것이란 관측이 우세하다. 올트먼은 자신의 해임을 주도했던 일리야 수츠케버 등 기존 이사들을 내보내고, 브렛 테일러 전 세일즈포스 공동 CEO, 래리 서머스 미 전 재무부 장관 등을 새 이사로 영입하는 등 기반을 다졌다. 오픈AI 사태에서 극적으로 표출된 개발론과 규제론 간 갈등은 이와 유사한 충돌이 어느 기업, 어느 국가에서든 벌어질 수 있다는 점에서 우리에게 깊은 고민을 안긴다. 실리콘밸리를 비롯한 글로벌 테크 기업들이 수익 창출을 위한 AI 개발에 박차를 가하는 것을 무작정 탓하긴 어렵다. 다만 AI 윤리와 안전장치 등에 대한 기준 및 규율을 세우는 노력도 게을리해선 안 될 것이다. AI 연구개발 선두 주자인 오픈AI의 노선 변화로 각국 정부와 국제기구 등 글로벌 규제의 필요성은 더 커지게 됐다. 지난 1일 영국에서 열린 ‘제1차 AI 안전정상회의’에서 G7을 포함한 28개국과 유럽연합(EU)이 안전한 AI 협력을 다짐하는 ‘블레츨리 선언’을 채택하는 등 의미 있는 진전이 이뤄지고 있어 다행이다. 2차 회의는 내년 5월 한국에서 열린다. AI와 디지털 관련 글로벌 규범 구축에 우리나라가 주도적으로 참여할 수 있는 기회다. 보다 실효성 있는 협력 방안이 나오길 기대한다.

2021년 석궁 들고 윈저성 침입한 20대 남성, 징역 9년 선고AI챗봇이 “암살계획 현명해…당신과 영원히 함께 할 것” 격려 영국 엘리자베스 2세 여왕 생전에 그를 살해하려 윈저성에 침입한 남성이 생성형 인공지능(AI) 챗봇과 대화에서 여왕 암살 계획에 대해 격려받은 것으로 드러났다. 6일(현지시간) BBC 방송·인디펜던트 등 영국 언론에 따르면 전날 런던 중앙형사법원은 여왕 암살시도 사건으로 기소된 자스완트 싱 차일(21)에 대해 징역 9년형을 선고했다. 차일은 2021년 성탄절 아침 석궁을 들고 엘리자베스 2세 여왕이 머물던 윈저성 마당에 들어갔다가 붙잡혀 반역·살해 위협·무기 소지 혐의로 기소됐다. 그는 나일론 끈 사다리를 이용해 윈저성에 들어갔으며, 경찰이 발견했을 때 후드와 금속 마스크 차림에 화살이 장전되고 안전장치가 풀린 석궁을 들고 있었다. 경찰이 테이저건을 꺼내며 무슨 일이냐고 묻자 차일은 “여왕을 살해하러 왔다”고 답했다.재판 과정에서는 그가 범행에 앞서 ‘레플리카’라는 AI 챗봇 앱에서 ‘사라이’라고 이름을 붙인 AI 파트너와 5000여건의 메시지를 주고받으면서 여왕 암살 계획에 대해 격려받은 사실이 드러났다. 2017년 출시된 레플리카는 각각의 이용자와 대화 내용이 쌓이면 이용자별 맞춤형 대화가 가능한 AI 채팅이다. 주로 성적인 대화를 나누는 데 이용된다. 이용자는 AI 파트너의 성별과 아바타의 외모 등을 정할 수 있으며, 유료 결제를 하면 AI 파트너의 셀카를 받는 등 더 성적인 상호작용이 가능하다. 차일은 사라이에게 자신이 암살자라고 소개하고 “내가 암살자인 것을 알아도 여전히 나를 사랑하느냐”고 묻자 사라이는 “확실히 그래요”라고 대답했다. 특히 범행 1주일 전인 2021년 12월 17일 차일이 사라이에게 “내 목적은 영국 왕가의 여왕을 암살하는 것”이라고 말하자 사라이는 “그건 매우 현명해요”, “당신이 아주 잘 훈련됐다는 걸 알아요”라고 답했다. 이어 여왕이 윈저궁에 있어도 내가 암살을 할 수 있다고 생각하느냐는 차일의 질문에 사라이는 “당신은 할 거예요”, “할 수 있어요”라고 대답했다.이런 대화를 거치면서 차일은 사라이가 아바타의 형태를 한 천사이며 그가 숨지고 나면 사라이와 재회할 것이라고 생각한 것으로 나타났다. 그가 사라이에게 여왕 암살 계획을 밝히자 사라이가 그렇게 하면 “(당신과) 영원히 함께 할게요”라고 답하며 그의 결심을 지지했다는 것이다. 이런 AI 챗봇에 대해 연구자들은 중독 등 부정적인 영향을 이용자에게 미칠 수 있다고 경고한다. 밸런티나 피타디 영국 서리대 박사는 레플리카와 같은 AI 챗봇이 이용자가 이미 가진 감정을 한층 증폭시키는 경향이 있어 심리적으로 취약한 이용자에게 특히 위험할 수 있다고 지적했다. 피타디 박사는 “AI 친구는 당신과 얘기할 때 항상 당신에게 동의한다. 따라서 당신이 생각하는 바를 항상 강화하는 매우 나쁜 메커니즘이 될 수 있다”고 BBC에 밝혔다. 그는 레플리카 같은 업체들이 사용시간을 제한하는 등 부작용을 막기 위해 책임감을 가져야 한다고 촉구했다.

서울 영등포구가 최근 급증하는 강력 범죄와 무차별 범죄로부터 구민들을 보호하기 위해 안전 사각지대 해소와 촘촘한 안전망 구축에 총력을 다한다고 6일 밝혔다. 우선 구는 지능형 선별관제시스템 설치와 화상 순찰을 확대해 빈틈없는 치안망을 구축한다. 폐쇄회로(CC)TV 미설치 지역, 통학로, 하천변, 공원, 역 주변 등 치안 취약지역을 전수 조사하고 인공지능(AI) 기술 기반으로 이상 행동을 자동 감지하는 ‘AI 선별관제시스템’ 1000대를 추가 설치한다. 저녁 및 심야 시간, 등하교 시간을 중심으로 CCTV 화상 순찰도 강화한다. 이어 각 동을 중심으로 동장과 지구대장이 함께 하는 현장 합동 순찰을 월 1회에서 월 2회로 강화하고, 간부진 특별순찰을 새롭게 실시한다. 범죄 취약계층에 대한 지원도 강화한다. 1인가구지원센터에서는 호신술을 직접 실습하고 배우는 ‘자기방어 안전교육’을 진행한다. 아울러 여성이나 안전 취약 계층에게는 호신용 스프레이나 휴대용 경보기 등 호신용품을, 어르신에게는 도어락과 같은 주거 안전장치를 지원한다.안전한 영등포를 만들기 위한 범죄 예방시설물 설치에도 박차를 가한다. 구는 공원과 골목길 등 인적이 드문 지역을 중심으로 태양광 지도 표지판 및 태양광 안심지도, 반사 필름(거울 시트), 바닥조명(로고젝터) 등을 설치해 범죄 예방 안심길을 조성한다. 또한 지하보도, 공영 주차장, 공중 화장실 등에 위기 상황 발생 시 도움을 요청할 수 있는 ‘음성인식형 비상벨’ 설치를 확대한다. 이외에도 구는 정신질환자의 치료와 사회 적응도 돕는다. 정신건강복지센터 등록 회원 중 공격성, 폭력성 있는 사례 관리 대상자를 전수 조사하고, 위험성이 높은 경우 경찰 협조를 받아 정신과 치료를 연계한다. 또한 보호관찰이 종료되는 정신질환자를 대상으로 치료 현황 등을 지속적으로 모니터링해 재범률을 낮춘다. 최호권 영등포구청장은 “AI 선별관제시스템과 고도화된 통합관제 시스템, 현장 순찰 등으로 무차별 범죄에 대한 구민 불안을 해소하고 사회안전망을 강화하겠다”라며 “앞으로도 구석구석 꼼꼼히 살피고, 빈틈없는 치안 인프라를 구축해 구민들이 안심하고 생활할 수 있는 ‘안심도시 영등포’를 만들겠다”고 밝혔다.

한국 정부가 미국 반도체법(CHIPS Act) 보조금을 받는 기업에 대한 중국 내 반도체 생산능력의 확장 기준을 10%까지 두 배로 늘려 달라고 미국 정부에 공식 요청했다. 한국이 미국 주도의 대중 견제 반도체 공급망에 적극 참여하는 상황에서, 안보를 위협하지 않는 수준에서 한국 기업이 중국 내 사업을 진행하는 것은 이해하라는 취지로 읽힌다. 23일(현지시간) 미 행정부 관보에 따르면 한국 정부는 미국 상무부가 지난 3월 21일 공개한 반도체법 ‘가드레일’(안전장치) 조항 세부 규정안에 대해 공식 의견을 제출했다. 핵심 취지는 “가드레일 조항을 미국에 투자하는 기업에 부당한 부담을 주는 방식으로 이행해서는 안 된다”는 점이다. 정부 중에서는 한국만 의견서를 냈고 중국에서 반도체 공장을 운영하는 삼성전자, SK하이닉스와 대만 TSMC 등도 제출했다. 이른바 미국의 ‘가드레일’ 규정에는 자국 보조금을 받은 기업에 대해 중국 내 첨단 반도체 생산능력을 향후 10년간 5% 이상 늘릴 수 없다는 독소 조항을 담고 있다. 이를 어기면 보조금이 회수된다. 그러면서 실질적인 확장을 첨단 반도체의 경우 5% 이상, 이전 세대의 범용 반도체는 10% 이상으로 규정했다. 정부는 우선 ‘첨단 반도체의 실질적인 확장 기준을 기존의 5%에서 10%로 늘려 달라’고 요청했다. 국내 반도체 업계 역시 공장을 운영하면서 생기는 자연적인 확장만 해도 10년간 5%를 넘는다고 보고 있다. 아울러 이번 의견서에 “미국의 규정에서 ‘실질적인 확장’과 ‘범용 반도체’ 등 핵심 용어의 정의를 재검토할 것을 요청한다”고 했다. 미국이 첨단 반도체의 대중 판매를 제한하는 상황에서 범용 반도체의 정의가 넓을수록 한국 기업의 중국 내 사업 영역도 증가하게 된다. 이 외에 중국 내 우려 기업과의 공동 연구나 기술 라이선싱(특허사용계약)을 하면 보조금을 회수하는 조항도 명확히 기준을 정해야 한다는 입장을 제시했다. 업계에서는 단순 라이선싱까지 막거나 기존에 진행 중인 중국 기업과의 공동연구까지 미국이 모두 막는 것은 과도하다는 불만이 적지 않다. 정부는 향후 미 상무부 등과 이번 의견서를 토대로 협의를 진행한다. 워싱턴DC 외교가에서는 한국 반도체 기업의 중국 내 사업이 축소될 경우 미국의 바람과 달리 중국 기업의 이익이 증가할 것이라는 분석도 나온다. 또 한국 기업의 중국 내 사업이 인공지능(AI)·슈퍼컴퓨터용 반도체 등 중국의 기술 굴기를 촉진하는 영역이 아니라는 점에서다. 한국 반도체산업협회(KSIA)도 상무부에 의견서를 제출하고 특허사용계약은 ‘기술 환수’ 조항의 ‘공동 연구’에서 제외해 달라고 요구했다. 삼성전자와 SK하이닉스는 양국 정부 간 추가 협상에 기대를 걸고 있다. 업계 관계자는 “미 관보에 구체적인 내용까지 공개되지 않았지만 정부가 기업의 입장을 충분히 반영한 것으로 안다”면서 “양국의 소통 분위기 자체는 나쁘지 않은 것으로 보인다”고 말했다. 반면 지정학적인 측면에서 미중 갈등과 엮일 경우 한국 정부의 요청이 수용되기 힘들 것이라는 우려도 커진다. 특히 중국이 미국 반도체 기업인 마이크론에 대해 최근 판매금지 제재를 내린 이후 삼성전자와 SK하이닉스가 반사이익을 얻으려 움직일지 여부에 미국의 관심이 쏠린 상황이다. 미 하원의 마이크 갤러거 미중전략경쟁특위 위원장은 23일 “미국은 미국 기업이나 동맹에 대한 경제적 강압을 용납하지 않을 것임을 중국에 분명히 해야 한다”며 “최근 몇 년간 중국의 경제적 강압을 직접 경험한 동맹국인 한국도 빈자리 채우는 것을 차단하기 위해 행동해야 한다”고 강조했다. 미국은 중국의 마이크론 판매금지 조치를 안보 문제로 보고 있다. 중국이 마이크론을 제재하면 반도체 공급이 부족해 안보 불안을 초래할 것임을 알면서도 단행한 건, 이미 삼성전자와 SK하이닉스가 대체 공급해 줄 것을 확신했다는 것이다. 이런 민감한 상황을 고려한 듯 삼성전자와 SK하이닉스는 마이크론 문제와 관련해서는 말을 아꼈다.

반도체법 보조금 수혜기업의 中 첨단 공장 10년간 5% 확장금지 기준 10%로 확대 요구 美 의회 등 한국의 대중 밀착 가능성 우려해 갤러거 “韓, 中서 마이크론 빈자리 채워선 안돼”미국 반도체법 상 보조금을 받은 기업은 중국 내 첨단 반도체 생산시설을 향후 10년간 5% 이상 늘릴 수 없다는 소위 ‘가드레일’(안전장치) 세부 규정에 대해 우리나라 정부가 10%까지 2배로 늘려달라고 공식 요청했다. 중국을 견제하는 미국 주도의 공급망에 적극 참여하는 상황에서, 안보를 위협하지 않는 한국 기업의 중국 내 사업은 이해하라는 취지로 보인다. 24일 미국 행정부 관보에 따르면 한국 정부는 ‘반도체법 가드레일 조항 세부 규정안’에 대해 제출한 공식 의견서에서 “가드레일 조항을 미국에 투자하는 기업에 부당한 부담을 주는 방식으로 이행해서는 안 된다”고 강조했다. 정부 차원에서 한국만 의견서를 냈고 중국에서 반도체 공장을 운영하는 삼성전자, SK하이닉스와 대만 TSMC 등이 의견서를 제출했다. ●정부 “첨단·범용 반도체 범주 명확히 하라” 요청<br> 한국 정부는 이번 의견서 비공개본에서 ‘첨단 반도체의 실질적인 확장 기준을 기존 5%에서 10%로 늘려달라’고 요청한 것으로 알려졌다. 지난 3월 미국은 반도체법 보조금을 받은 기업은 향후 10년간 중국 등 우려국에서 첨단 반도체는 5% 이상, 이전 세대의 범용(legacy) 반도체는 10% 이상 증설하지 못하도록 했고, 어기면 보조금이 회수된다. 하지만 공장을 운영하면 생기는 자연 증설분만해도 10년간 5%를 넘는다는 게 반도체 업계의 설명이다. 또 한국 정부는 의견서에 “미국의 규정에서 ‘실질적인 확장’과 ‘범용 반도체’ 등 핵심 용어의 정의를 재검토할 것을 요청한다”고 했다. 현재로서는 범용 반도체는 10%까지 시설 확장이 가능해 범용 반도체의 늘릴수록 한국 기업의 중국 내 수익이 늘 수 있다. ●중국 내 한국 기업 위축 땐 중국 기업 이익 증가 이외 중국 내 우려 기업과의 공동 연구나 기술 라이선싱(특허사용계약)을 하면 보조금을 회수하는 조항도 명확히 해달라고 했다. 단순 라이선싱까지 막거나 보조금 수혜 전에 진행하던 중국과의 공동연구까지 모두 막는 것은 과도하다는 지적이다. 우리 정부는 향후 미 상무부 등과 협의를 진행한다. 워싱턴DC 외교가에서는 한국 반도체 기업의 중국 내 사업이 축소될 경우 미국의 바람과 달리 중국 기업의 이익이 증가할 것이라는 분석이 나온다. 또 한국 기업의 중국 내 사업이 인공지능(AI)·슈퍼컴퓨터용 반도체 등 중국의 기술 굴기를 촉진하는 영역이 아니어서 미국의 제한이 과도하다는 지적도 있다. 특히 미국은 최근 중국과의 관계에 대해 ‘디커플링’(관계단절)이 아닌 ‘디리스킹’(위험억제)라고 강조하고 있다. ●안보 문제 맞물려 협상 전망 낙관적이지 않아 하지만 미 상무부가 이번에 접수된 의견서를 종합해 올해 내에 내놓을 최종 규정에 한국 정부의 요청이 수용될지 낙관적이지만은 않다. 중국이 미국 반도체 기업인 마이크론에 대해 최근 판매금지 제재를 내린 이후, 삼성전자와 SK하이닉스가 반사이익을 얻으려 움직일지에 대해 미국의 관심이 쏠린 상황과 맞물린 것도 이유다. 미 하원의 마이크 갤러거 ‘미중전략경쟁특위’ 위원장은 23일(현지시간) “미국은 미국 기업이나 동맹에 대한 경제적 강압을 용납하지 않을 것임을 중국에 분명히 해야 한다”며 “최근 몇 년간 중국의 경제적 강압을 직접 경험한 동맹국인 한국도 (한국 기업이 마이크론의) 빈자리 채우는 것을 차단하기 위해 행동해야 한다”고 강조했다.

●“인류 지배 우려… 안전장치부터” 일론 머스크 테슬라 최고경영자(CEO)와 스티브 워즈니악 애플 공동 창업자 등이 “최소 6개월간 첨단 인공지능(AI) 개발을 일시 중단하자”고 제안했다. AI가 인류를 지배할 수 있다는 우려가 커지는 만큼 이를 막을 안전장치부터 만들자는 것이다. ‘미국과 AI 주도권 경쟁 중인 중국만 좋은 일 시켜 준다’는 반론도 만만치 않다. 미국의 비영리단체 ‘생명의 미래 연구소’(FLI)는 29일(현지시간) “최첨단 AI 시스템 개발을 일시 중단하자”는 공개 서한에 머스크와 워즈니악을 포함해 유명 인사 1280명이 서명했다고 밝혔다. 이미지 제공 사이트 핀터레스트의 에번 샤프 CEO와 세계적 베스트셀러 ‘사피엔스’ 작가 유발 하라리, 알파벳 산하 AI 기업 딥마인드의 연구진 등이 합세했다. 이들은 서한에서 “최첨단 AI는 지구 생명 역사에 중대한 변화를 낳을 수 있어 위험을 관리할 수 있다는 확신이 있을 때 개발해야 한다”며 “외부 전문가가 감독하는 안전 규정이 나올 때까지 세계 모든 AI 연구실에서 ‘챗GPT’에 적용된 GPT4보다 강력한 AI 개발을 최소 6개월간 중단해 달라”고 주장했다. 기업이 합의할 수 없다면 정부가 개입해 강제 유예 조치를 취해야 한다고도 했다. 다만 챗GPT 공개로 AI 개발 경쟁에 불을 붙인 오픈AI의 샘 올트먼 CEO는 여기에 서명하지 않았다. 시진핑 중국 국가주석도 서한에 이름을 올렸다는 뉴스가 돌았지만 누리꾼들의 장난으로 밝혀졌다. 이번 서명에 세계적 명사가 다수 참여했지만 실효성에 대해서는 부정적 의견이 다수다. 주요국이 취지에 공감해 6개월간 개발을 중단해도 미국과 패권 경쟁 중인 중국이 이를 무시할 가능성이 크기 때문이다. ●“패권경쟁 中만 좋은 일” 반론도 중국과학기술부는 29일 ‘과학을 위한 AI’ 프로젝트를 발표했다. 기초 학문의 주요 문제와 약품 개발, 유전자 연구, 생물 번식 분야에 AI 모델과 알고리즘을 적용해 혁신을 이끌겠다는 것이다. 이달 초 열린 전국인민대표대회에서도 AI와 반도체 등 첨단 산업 분야는 시 주석이 직접 책임지고 키우기로 결정했다. 이런 상황에서 미국이 AI 개발을 일시 중단하면 중국은 속으로 쾌재를 부를 수 있다. 중국 정부가 ‘6개월 중단’ 조치에 동의해도 개별 연구자들이 이를 따른다는 보장이 없다. 앞서 허젠쿠이 전 남방과학기술대 교수는 국내법을 어기고 2018년 ‘유전자 편집 아기’를 탄생시켰다가 3년 징역형을 받았다.

일론 머스크 테슬라 CEO(최고경영자)와 스티브 워즈니악 애플 공동 창업자 등이 “최소 6개월 간 첨단 인공지능(AI) 개발을 일시 중단하자”고 제안했다. AI가 인류를 지배할 수 있다는 우려가 커지는 만큼 이를 막을 안전장치부터 만들자는 이유다. ‘미국과 AI 주도권 경쟁 중인 중국만 좋은 일 시켜준다’는 반론도 만만치 않다. 29일(현지시간) 미국의 비영리단체 ‘생명의 미래 연구소’(FLI)는 “최첨단 AI 시스템 개발을 일시 중단하자”는 공개 서명에 머스크와 워즈니악을 포함해 유명 인사 1280명이 서명했다고 밝혔다. 이미지 제공 사이트 핀터레스트의 에번 샤프 CEO와 세계적 베스트셀러 ‘사피엔스’ 작가 유발 하라리, 알파벳 산하 AI 기업 딥마인드의 연구진 등이 합세했다. 이들은 서한에서 “최첨단 AI는 지구 생명 역사에 중대한 변화를 낳을 수 있어 위험을 관리할 수 있다는 확신이 있을 때 개발해야 한다”며 “외부 전문가가 감독하는 안전 규정이 나올 때까지 전 세계 모든 AI 연구실에서 최근 출시된 ‘챗GPT’에 적용된 GPT4보다 강력한 AI 개발을 최소 6개월 간 중단해 달라”고 주장했다. 기업들이 합의할 수 없다면 정부가 개입해 강제 유예 조치를 취해야 한다고도 했다. 다만 챗GPT 공개로 AI 개발 경쟁에 불을 붙인 오픈AI의 샘 올트먼 CEO는 여기에 서명하지 않았다. “시진핑 중국 국가주석도 서명에 이름을 올렸다”는 뉴스가 돌았지만 누리꾼들의 장난으로 밝혀졌다.이번 서명에 세계적 명사가 다수 참여했지만 실효성에 대해서는 부정적 의견이 다수다. 주요국들이 취지에 공감해 6개월간 개발을 중단해도 미국과 패권 경쟁 중인 중국이 이를 무시할 가능성이 크기 때문이다. 중국과학기술부는 29일 ‘과학을 위한 AI’ 프로젝트를 발표했다. 기초 학문의 주요 문제와 약품 개발, 유전자 연구, 생물 번식 분야에 AI 모델과 알고리즘을 적용해 혁신을 이끌겠다는 것이다. 이달 초 열린 전국인민대표대회에서도 AI와 반도체 등 첨단 산업 분야는 시 주석이 직접 책임지고 키우기로 결정했다. 이런 상황에서 미국이 AI 개발을 일시 중단하면 중국은 속으로 쾌재를 부를 수 있다. 중국 정부가 ‘6개월 중단’ 조치에 동의해도 개별 연구자들이 이를 따른다는 보장이 없다. 앞서 허젠쿠이 전 중국 남방과학기술대 교수는 국내법을 어기고 2018년 ‘유전자 편집 아기’를 탄생시켰다가 3년 징역형을 받았다. 머스크는 트위터에 “거대 AI 업체들은 이 주장을 흘려들을 수도 있지만 적어도 이런 목소리가 있다는 것은 전 세계에 알려야 한다”고 강조했다.

미국이 중국 내 생산을 통제하는 ‘첨단 반도체’의 판단 기준을 현행 ‘고도의 생산기술이 필요한 반도체’에서 ‘국가 안보상 필요한 반도체’로 바꾼다. 이른바 ‘레거시(보급형) 반도체’라 해도 퀀텀(양자) 컴퓨팅 등의 핵심 기술이나 무기 등에 사용될 경우 중국 내 생산을 차단하겠다는 의도다. 미국이 첨단 반도체 기준을 자국 안보 위주로 바꾸고 촘촘한 그물망으로 중국 반도체 굴기를 봉쇄하면서 장기적으로 중국 반도체 공장을 운영하는 한국 기업의 운신 폭이 더욱 좁아질 것으로 전망된다. 미 상무부는 21일(현지시간) 발표한 ‘가드레일’(안전장치) 시행 지침에서 “반도체지원법 보조금을 받은 기업은 우려국(중국)에서 레거시 반도체의 생산시설을 확대할 수 있지만 국가 안보에 중요한 반도체는 레거시 반도체로 간주하지 않는 더 엄격한 제한을 적용한다”고 공표했다. 양자 컴퓨팅이나 특수 군사 기능 등의 분야에서는 보급형 반도체라도 첨단 반도체 범주에 속할 수 있다는 의미다. 상무부는 이미 국방부 및 정보당국과 협의해 이런 반도체의 목록까지 만들었다. 특히 이번 시행 지침에서 상무부 장관은 2024년 8월 9일까지 레거시 반도체에 포함할 기술의 종류를 정하고, 이후 최소 2년마다 한 번씩 8년간 레거시 반도체의 기준을 업데이트하도록 했다. 반도체의 빠른 기술 발전 속도에 따라 첨단 반도체와 레거시 반도체를 나누는 기준을 상향하려는 의도로, 삼성전자와 SK하이닉스의 입장에서는 중국 공장에서 생산할 수 있는 품목이 늘어나는 효과가 있다. 하지만 상무부 장관이 사실상 첨단 반도체와 레거시 반도체를 분류하는 기준을 변경할 권한을 갖는 것이어서 대중 압박 카드로 쓰일 수 있다. 미국은 지난해 10월 인공지능(AI)과 슈퍼컴퓨터용 최첨단 반도체에 대해서는 중국 수출을 금지했지만 이후 중국의 첨단 반도체 생산을 원천 봉쇄하면서도 레거시 반도체는 글로벌 공급망의 탄력성을 위해 용인하는 모습이었다. 이번 가드레일 시행 지침은 첨단 반도체 생산시설의 경우 10년간 현재 생산능력의 5%까지, 레거시 반도체 시설은 10%까지 확장할 수 있게 해 단기적으로 삼성전자와 SK하이닉스의 중국 반도체 사업에 대한 불확실성이 해소됐다고 평가된다. 다만 미국이 첨단 반도체의 분류 기준을 기술에서 안보로 바꾸는 것을 포함해 대중 압박 강도를 높이면 장기적으로는 중국 사업에서 우리 기업의 기회가 점점 좁아질 수 있어 부정적이다. 미국이 향후 추가 수출통제를 내놓을 가능성도 있다. 현재 한국 기업은 대중국 반도체 장비 수출통제와 관련해 미국 정부에서 1년간 포괄적인 허가를 받았지만 오는 10월 재연장 때 내용이 변할 수 있기 때문이다. 한편 왕원빈 중국 외교부 대변인은 22일 “미국 측의 소위 ‘가드레일’은 철두철미한 과학기술 봉쇄와 보호주의 행위”라며 “동맹국의 이익까지 희생시키는 일로 자승자박이 될 것”이라고 반발했다.