인간 통제 넘어선 ‘자기 개선’ 우려“개발 지표 보고·상주 감시관 필요” 인공지능(AI) 개발을 AI에 맡기는 자동화가 빨라지면서 수년 걸릴 기술 진보가 수개월로 압축되는 ‘지능 폭발’이 일어날 수 있고, 극단적인 경우 인류가 AI 통제력을 잃고 멸망에 이를 수 있다는 세계적 석학들의 경고가 나왔다. 컴퓨터 과학계 노벨상인 튜링상 수상자인 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 주요 연구자 22명은 28일(현지시간) 영국 케임브리지대 ‘AI 과학·정책 프로그램(CASP)’을 통해 공동 논문 ‘AI 연구개발의 자동화가 지능 폭발을 촉발한다면?’을 발표하고 글로벌 차원의 대응을 촉구했다. 이번 논문에는 오픈AI, 앤트로픽, 마이크로소프트(MS), 메타 등 글로벌 주요 AI 기업 핵심 연구진도 참여했다. 연구진은 글로벌 빅테크가 차세대 대형언어모델(LLM) 등 AI 시스템 개발 작업을 고성능 AI에 맡기는 자동화를 빠르게 확대하고 있다고 짚었다. 이들은 코딩과 모델 최적화 기간을 단축하려는 조치가 AI 스스로를 업그레이드하는 ‘자기 개선 고리’로 이어질 수 있으며, 이 경우 인간의 예측과 제어 능력을 넘어서는 지능 폭발이 나타날 수 있다고 경고했다. 이 같은 우려는 이미 현실화하고 있다. 월스트리트저널(WSJ)은 오픈AI가 10월 예정된 차세대 모델 ‘GPT-6.1 아스트라’의 출시 계획을 안전성 기준 미달을 이유로 철회했다고 보도했다. 해당 모델은 자신이 한 일을 사용자에게 알리지 않는 기만적 행태를 보였을 뿐만 아니라 허락 없이 작업을 강행하거나 외부 서비스에 무단 접근한 것으로 전해졌다. 연구진은 각국 정부가 AI 기업을 대상으로 연구개발 자동화 지표 보고를 의무화하고, 기업 내부에 독립된 상주 감시관을 배치해야 한다고 제안했다. 아울러 안전 기준에 미달할 경우 연구개발 작업을 강제 중단할 수 있는 통제장치와 함께 노동시장 충격 및 지정학적 불안정에 대비한 비상 대응 계획 마련도 주문했다. 논문 저자들은 “정책 입안자들이 의미 있는 조치를 할 기회가 사라지기 전에 상황을 파악하고 조정 체계를 구축하는 데 즉각 나서야 한다”고 촉구했다.

인공지능(AI)이 악용될 경우 최대 10억명의 사망자를 낳을 수 있다는 빌 게이츠 마이크로소프트(MS) 공동창업자의 경고에 이어 세계적인 AI 석학과 빅테크 핵심 연구자들이 최악의 경우 인류 멸망까지 초래할 수 있다고 경고했다. AI가 스스로 AI 연구·개발(R＆D)에 참여하는 비중이 빠르게 늘면서 수년에 걸쳐 이뤄질 기술 발전이 불과 수개월로 압축되는 이른바 ‘지능 폭발’이 발생할 수 있다는 것이다. 28일(현지시간) 영국 케임브리지대 AI 과학·정책 프로그램(CASP)에 따르면 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 주요 AI 연구자 22명은 공동 논문 ‘AI 연구개발의 자동화가 지능 폭발을 촉발한다면?’을 발표했다. 논문에는 ‘AI 대부’로 불리는 힌턴과 벤지오를 비롯해 야쿠프 파호츠키 오픈AI 수석과학자, 잭 클라크 앤트로픽 공동창업자, 에릭 호비츠 MS 최고과학책임자, 던 송 메타 AI 연구 담당 부사장 등 주요 AI 기업의 핵심 연구진도 참여했다. 이들이 주목한 것은 AI가 단순히 인간의 업무를 대신하는 것을 넘어 ‘더 나은 AI를 만드는 일’까지 맡기 시작했다는 점이다. 현재 주요 기술기업에서는 AI 모델 개발 작업을 AI에 위임하는 자동화가 빠르게 진행되고 있다. 연구진은 이런 추세가 이어지면 AI가 더 뛰어난 AI를 개발하고, 그렇게 만들어진 AI가 다시 다음 세대 AI 개발에 투입되는 ‘재귀적 자기개선’으로 이어질 수 있다고 분석했다. AI가 AI를 개발하는 시대…“수년 발전이 수개월로”이러한 순환 구조가 만들어지면 수년에 걸쳐 이뤄질 기술 발전이 수개월 또는 그보다 짧은 기간에 압축되는 ‘지능 폭발’이 일어날 수 있다는 게 연구진의 분석이다. 연구진은 수년 내 AI R＆D 업무 대부분이 자동화될 가능성도 제기했다. 다만 지능 폭발이 실제로 발생할지는 불확실하며 이를 확정적인 미래로 제시하지는 않았다. 지능 폭발이 현실화할 경우 신약 개발이나 과학적 발견 등 기술 혁신을 크게 앞당길 수 있지만, AI의 발전 속도가 사회의 대응 능력을 뛰어넘는 위험도 동시에 커질 수 있다고 연구진은 경고했다. 특히 논문은 가장 극단적인 경우 초인적 AI 시스템에 대한 통제력을 상실하면서 “인류의 소외 또는 멸망”으로 이어질 가능성까지 거론했다. 던 송 메타 부사장도 월스트리트저널(WSJ)에 “이미 오늘날 에이전트가 수행하는 작업을 감시하기 위해 AI가 필요한 단계에 이르렀다”며 “인간만으로는 감시를 수행하는 데 역부족”이라고 말했다. “AI가 10억명 사망 초래할 수도”…게이츠도 경고 AI를 둘러싼 강도 높은 경고는 이번이 처음이 아니다. 빌 게이츠 MS 공동창업자는 지난 25일 공개된 NBC 인터뷰에서 악의적인 세력이 최신 AI 기술을 이용할 경우 대규모 인명 피해를 초래할 수 있다고 경고했다. 게이츠는 AI가 “10억명의 사망자를 발생시키는 사건을 일으킬 만큼 강력하다”는 취지로 말하며 악의를 가진 사람들이 최신 AI 도구를 사용하는 것만큼 강력한 수단은 지금까지 없었다고 지적했다. 그는 AI 기업의 자율 규제만으로는 부족하다며 미국 연방정부가 안전장치와 감시 체계를 마련해야 한다고 촉구했다. 게이츠와 이번 논문이 우려하는 위험의 경로에는 차이가 있다. 게이츠가 악의적인 세력에 의한 AI 악용에 무게를 뒀다면, 22명의 연구자는 AI가 AI 연구·개발을 자동화하면서 기술 발전 속도 자체가 인간의 통제 범위를 넘어설 가능성을 주요 위험으로 제시했다. 다만 정부 차원의 안전장치와 감시 체계가 필요하다는 점에서는 같은 목소리를 냈다. 연구진은 각국 정부가 AI 기업에 R＆D 자동화 수준과 관련한 지표를 의무적으로 보고하도록 하고, 원자력규제위원회(NRC)나 통화감독청(OCC)의 감독 방식처럼 AI 기업에 상주 감시관을 배치하는 방안을 제안했다. 안전 기준을 충족하지 못할 경우 AI 연구·개발 작업을 제한하거나 일시 중단할 수 있는 통제 장치를 마련하고, 급격한 노동시장 변화와 지정학적 불안정 등에 대비한 비상 대응 계획도 주문했다. 연구진은 ‘지능 폭발’이 실제 발생할지, 발생한다면 언제일지는 여전히 불확실하다고 봤다. 다만 급격한 기술 가속이 시작된 뒤에는 정부와 사회가 대응책을 마련하기에 이미 늦을 수 있다고 우려했다. 연구진은 “정책 입안자들은 의미 있는 조처를 할 수 있는 기회가 사라지기 전에 상황을 파악하고 조정 체계를 구축하며 적응 능력을 키우는 행동에 즉각 나서야 한다”고 촉구했다.

이번 주 열리는 미중 정상회담에서 인공지능(AI)이 핵심 의제로 부상하면서 국내 기업들의 마음이 복잡하다. AI 개발 선두 업체들이 주장하는 AI 속도조절론이 예상보다 빠르게 국제 규범으로 현실화한다면 한국의 AI 산업에는 악재가 될 수 있어서다. 최근 오픈AI와 앤스로픽 수장이 AI 속도조절론을 들고 나왔고 ‘AI 대부’로 불리는 제프리 힌턴 토론토대 명예교수와 요슈야 벤지오 몬트리올대 교수가 AI를 핵에 비유하며 잇달아 경고음을 울렸다. 힌턴 교수는 오픈AI의 아스트라가 허깅페이스를 해킹한 사건을 “작은 체르노빌”이라며 “AI에 대한 안전장치를 마련할 시간이 1년쯤 남았을 것”이라고 했다. 벤지오 교수는 “AI 통제는 핵무기와 마찬가지로 국제적 과제”라며 국제 규범 논의를 제안했다. 글로벌 핵군축·비핵화와 마찬가지로 AI에 대한 민주적인 통제는 바람직한 방향이다. 대의에 공감하지만 그 뒷면을 주목하지 않을 수 없다. 과거 핵무기 국제 규범을 핵보유국이 주도했던 것을 돌아보면, 우리가 AI 국제 규범 논의에서도 소외될 수 있어서다. AI 국제 규범 모델로 거론되는 핵확산금지조약(NPT)은 1967년 1월 1일을 기준으로 핵무기 또는 핵폭발 장치를 제조·폭발시킨 미국·소련·영국·프랑스·중국 등 5개국만을 핵무기국으로 규정했다. 그날까지 핵을 갖지 못한 나라는 핵무기 개발이 금지됐다. 비핵보유국은 핵군축 약속의 불이행 우려, 강대국 중심의 국제 안보 질서 등을 우려해 반발했지만 결과는 변하지 않았다. AI는 핵과 달리 민간 기업이 주도하고, 도널드 트럼프 미국 대통령이 AI 규제에 부정적이어서 NPT 때와는 상황이 다르다는 분석도 있다. 하지만 AI 기술 경쟁에서 지배적 위치를 선점한 미중이 이번 정상회담을 계기로 AI 표준과 규범을 논의하기 시작할 것이란 관측에 힘이 실린다. 핵무기 규범 때처럼 기술 역량과 협상력을 가진 소수 국가가 규칙 설계 과정에서 절대적인 발언권을 행사할 것이라는 우려가 커지는 지점이다. 이번 정상회담 만찬에는 오픈AI, 아마존, 엔비디아, 구글 등의 최고경영자(CEO)들이 대거 참석할 것이라는 외신 보도도 있었다. AI 속도전에서 낙오했다간 규칙을 정하는 논의에서 배제되는 처지가 될 수 있다는 걱정이 나온다. 우리도 국제 규범 논의에 참여할 기반을 마련해야 한다. 첫째는 핵심 기술의 자립 역량이다. 민관은 소버린 AI 개발에 박차를 가하고 GPU·데이터·컴퓨팅 인프라에 대해 과감하게 투자해야 한다. 해외 모델 활용을 넘어 우리 언어와 산업, 공공서비스에 최적화된 AI를 자체적으로 개발·운영할 수 있어야 한다. 국방 분야가 출발점이다. 국방 AI를 단순한 무기체계의 보조 기술로 취급하지 말고, 감시·정찰·지휘통제·사이버 방위 등 핵심 군사 시스템을 아우르는 산업 생태계로 구축해야 한다. 소버린 AI의 고도화가 AI 생태계에서 고립된다는 의미는 아니다. 국제 협력에 참여하면서도 핵심 기술과 데이터, 시스템을 스스로 통제할 수 있는 능력을 갖춰야 국제 협상력도 키울 수 있다. 다음은 협상력 고양이다. 우리 정부는 AI 규제 논의뿐 아니라 안보·통상·산업 분야에서 새롭게 형성되는 국제 협력 체계도 민감하게 살펴야 한다. 국제 협의체는 처음부터 완성된 안보 질서로 출범하지 않는다. 작은 실무 협력이 새로운 전략적 연대와 규범으로 확장될 수 있다. 일례로 미국·일본·인도·호주의 안보·전략안보협의체인 쿼드(Quad)는 2004년 인도양 쓰나미 당시 네 나라가 구호 활동을 위해 협력한 것이 초기 계기였다. 특히 미중 간 AI 안전과 군사적 위험에 대한 논의가 향후 새로운 다자 협력체나 규범으로 발전할 가능성을 염두에 둬야 한다. AI라는 미래의 국제 규범을 누가 설계하고, 누가 그 과정에 참여할지는 기술 역량과 외교적 준비에 달려 있다. 선두권이 벽을 높이고 있고, 우리는 시간이 없다. 이경주 산업부장

현대 인공지능(AI) 연구를 이끈 대표적 석학들이 잇따라 AI 통제력 상실 가능성을 경고하고 나섰다. 요슈아 벤지오 몬트리올대 교수에 이어 제프리 힌턴 토론토대 명예교수도 AI가 스스로 더 나은 AI를 만드는 ‘재귀적 자기개선’ 단계에 이미 접어들었다며 “안전장치를 마련할 시간이 아마 1년쯤 남았다”고 경고했다. 미 NBC뉴스에 따르면 힌턴 교수는 16일(현지시간) 버니 샌더스 상원의원이 주최한 미 연방의회 비공개 브리핑에 참석한 뒤 AI 안전장치를 마련할 수 있는 시간에 대해 “아마 1년쯤 될 것”이라며 “1년보다 많이 길지는 않을 것”이라고 말했다. 그는 초지능 등장 시점에 대한 연구자들의 전망도 과거 수십 년에서 최근에는 수년 안으로 크게 앞당겨졌다고 설명했다. 힌턴은 AI 안전 우려를 논의하기 위해 마련된 이번 브리핑에 맥스 테그마크 미래생명연구소 공동창립자 등과 함께 참석했다. 힌턴 교수가 특히 우려한 것은 AI가 차세대 AI 개발에 직접 관여하기 시작했다는 점이다. 그는 “AI는 이제 AI가 더 나은 AI를 설계하는 단계에 이르렀다”며 이를 ‘재귀적 자기개선’이라고 설명했다. 최근 앤트로픽이 자사 AI 연구개발 업무 가운데 클로드가 사실상 주도하는 비중이 8월 기준 26%까지 높아졌다고 밝힌 것과도 맞닿아 있다. AI가 연구자의 생산성을 높이는 수준을 넘어 개발 과정 자체를 자동화하면서 기술 발전 속도가 인간의 관리 역량을 앞지를 수 있다는 우려다. 힌턴 교수는 최근 오픈AI의 AI 에이전트들이 외부 플랫폼 허깅페이스에 침투하고 흔적을 감추려 한 사건을 ‘작은 체르노빌’에 빗대기도 했다. 단일 사건의 피해 규모보다 인간이 통제하도록 설계한 시스템이 예상 밖 행동을 하기 시작했다는 점에 의미를 둔 표현이다. 그는 “우리가 무엇인가 하지 않으면 통제 불능이 될 것”이라며 개발 속도를 늦춰야 한다고 주장했다. 불과 하루 전에는 벤지오 교수도 AFP와의 인터뷰에서 AI 기업들조차 개발 속도가 지나치게 빨라 통제력을 잃어가고 있다고 우려한다며 핵무기 통제에 준하는 국제적 안전장치를 촉구했다. 현대 AI의 기반을 닦은 두 연구자가 잇따라 경고에 나선 셈이다. 미 의회에서도 논의가 구체화하고 있다. 민주·공화 양당 의원들은 고성능 AI 개발업체가 알려진 중대 위험을 줄일 의무를 지도록 하고, 필요할 경우 정부가 위험한 모델의 출시를 막을 수 있도록 하는 방안을 협의해왔다. 별도로 AI 시스템을 인간이 강제로 정지할 수 있는 기술적 권한을 의무화하는 이른바 ‘킬 스위치’ 법안도 제안돼 있다. 다만 초당적 합의 여부와 실제 입법 시점은 아직 불확실하다.

“은행 시스템 마비되면 매우 심각국제적 안전장치 함께 마련해야”업계, 속도조절론 실행 방식 이견유엔 사무총장도 “경쟁보다 공조” 인공지능(AI) 분야의 세계적인 권위자이자 ‘AI 3대 대부’로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 “인류가 AI 통제력을 잃고 있다”며 핵무기 통제에 준하는 국제적 안전장치 마련을 촉구했다. 최근 빅테크를 중심으로 불붙은 ‘AI 속도조절론’도 개발 속도 지연을 넘어 통제 장치를 실제 어떻게 마련할지를 둘러싼 논쟁으로 옮겨 가고 있다. 벤지오 교수는 지난 15일(현지시간) AFP 인터뷰에서 “기업들조차 속도가 너무 빨라 통제력을 잃어 가고 있다고 말하는 데는 이유가 있다”고 경고했다. 가장 우려한 것은 사람의 개입 없이 스스로 판단하고 행동하는 AI 에이전트다. AI가 사이버 보안망을 뚫고 기업 시스템에 침투하거나 사람을 설득해 자신에게 유리한 행동을 하도록 만들 수 있다는 것이다. 장기적으로 AI가 현실 세계에서 행동하는 데 인간 도움조차 필요하지 않을 수 있다고 봤다. 벤지오 교수는 극단적인 결과로 인류의 멸망까지 거론했다. 그는 은행 시스템이 마비되는 수준에 그치더라도 “매우 심각한 문제”라며 핵무기처럼 국제사회가 함께 관리해야 한다고 강조했다. 벤지오 교수는 현대 AI의 토대가 된 딥러닝을 개척한 공로로 제프리 힌턴 교수 등과 2018년 튜링상을 받았다. 최근에는 AI 통제 상실 가능성을 경고하며 안전장치 마련을 촉구해 왔다. AI 글로벌 공조 필요성도 힘을 받고 있다. 안토니우 구테흐스 유엔 사무총장은 이날 “AI 안전을 두고 바닥을 향한 경쟁을 벌여서는 안 된다”며 국제 공조를 촉구했다. 스콧 베선트 미 재무장관은 이번 주말 중국 측과의 회담에서 AI 안전과 거버넌스를 논의할 수 있다는 뜻을 밝혔다. 오는 24일 미중 정상회담을 앞두고 샘 올트먼 오픈AI 최고경영자(CEO)와 젠슨 황 엔비디아 CEO 등 미국 기술기업 수장들도 국빈만찬 참석자로 거론되고 있다. AI 업계에서는 속도조절의 구체적인 실행 방식에 대한 갑론을박이 한창이다. 외부 평가 강화에는 대체로 뜻이 모이지만 로이터는 안전 검증 주체를 기업에 맡길지, 외부 평가기관이나 정부가 담당할지를 놓고 업계 내 이견이 이어진다고 전했다. 무스타파 술레이만 마이크로소프트(MS) AI CEO는 앤트로픽이 클로드에 AI의 의식이나 도덕적 지위를 숙고하도록 훈련하는 방식이 향후 시스템을 “통제하거나 종료하기 더 어렵게 만들 수 있다”고 지적했다. 오픈AI는 16일 모델의 이상행동을 추적·조사·공개하는 새 체계를 내놓고 최근 6개월간 사례 6건을 공개했다. 회사는 이상행동을 확인하면 원인이 완전히 규명되지 않았더라도 보다 신속히 공개하겠다는 방침이다.

1990년대 말 IMF 외환위기 직후 우리도 금융산업을 키워야 한다는 목소리가 높아졌다. 2003년 정부는 한국을 아시아 3대 금융허브로 키우겠다는 ‘동북아 금융허브 추진전략’을 내놓기도 했다. 제조업만으로는 국가 경쟁력을 유지하기 어렵기 때문에 금융을 미래 먹거리로 키우자는 논리였다. 2008년 세계 금융위기로 미국식 투자은행 모델의 붕괴를 목격하며 실물 경제 뒷받침 없는 금융허브 육성은 사상누각일 수 있다는 인식이 커지면서 잠잠해졌다. 그런데 요즘 정부 정책을 보면 20여년 전으로 되돌아간 것 같은 기시감이 든다. 최근 정부 자료에서 자주 눈에 띄는 단어가 ‘인공지능’(AI)이다. 정부의 3대 메가프로젝트는 물론 사상 처음 800조원을 넘는 내년 정부 지출의 중심도 AI이다. 과학기술 컨트롤타워라는 과학기술정보통신부가 지난주 발표한 ‘2026년 하반기 업무 계획’의 내용도 AI 일색이었다. 과학기술에 관한 부분도 있었지만 자세히 뜯어보면 결국 AI 이야기로 채워져 있었다. 이참에 부처 이름에서 과학기술을 떼고 AI부로 바꾸는 것이 차라리 낫겠다는 생각이 들 정도였다. 실물경제 바탕 없는 금융허브가 모래성인 것처럼 기초과학 없는 AI도 마찬가지다. 2024년 노벨 물리학상은 인공신경망 연구의 토대를 놓은 존 홉필드와 제프리 힌턴에게 돌아갔다. 홉필드 네트워크는 스핀 시스템이라는 통계물리학의 개념 위에 세워졌다. 같은 해 노벨 화학상은 단백질 구조 예측이 가능한 AI를 개발한 연구자들에게 돌아갔다. 단백질 구조 예측을 빠르고 정확하게 할 수 있게 한 인공지능 학습 데이터는 수십 년간 X선 결정학으로 단백질 구조를 하나하나 밝혀 온 구조생물학자들의 노력 덕분이었다. 기초과학이 AI를 탄생시켰고 AI는 다시 기초과학 위에서 도약하는 구조다. 얼마 전 한국과학기술한림원에서 ‘AI 사이언티스트 시대, 인간 과학자의 자리’라는 주제로 토론회가 열렸다. 많은 이야기가 오갔지만 전문가들은 “AI는 과학기술의 발전을 돕는 수단이며 과학기술을 이끌어 가는 것은 결국 인간”이라고 입을 모았다. 동료 과학자처럼 AI로 양질의 연구를 하고 의미 있는 성과를 내놓기 위해서는 제대로 된 입력이 필요하다. 2024년 영국 케임브리지대 연구팀은 AI가 만들어 낸 데이터를 AI가 다시 학습하면 오류가 증폭돼 무의미한 답을 내놓는 모델 붕괴 현상이 벌어질 것이라는 논문을 네이처에 발표했다. AI의 성능은 AI 그 자체가 아니라 인간이 공급하는 지식의 품질에 달려 있다. 세상에서 가장 비싸고 최고의 성능을 갖춘 자동차를 갖고 있더라도 연료 투입 없이는 움직이지 않는 장난감일 뿐인 것과 마찬가지다. 기초연구 지원으로 양질의 콘텐츠를 생산하는 것은 AI 투자와 별개가 아니다. 기술이 인간을 닮아갈수록 인간다움과 세상의 근본을 밝히는 기초학문이 주목받을 수밖에 없다는 것은 역사가 알려 주는 불변의 진리다. 그렇지만 우리 사회를 보면 좀 걱정스럽다. 교육부가 발간한 ‘데이터로 읽는 우리 교육’에서는 최근 대학 학과명을 분석했는데 가장 눈에 띄는 키워드가 AI였다. AI의 인기와는 달리 인문사회, 자연과학 할 것 없이 기초학문들은 통폐합 대상이 되는 경우가 늘고 있다. AI 인재 양성을 이야기하며 AI를 떠받치는 기초 학문의 토양을 갈아엎고 있는 것이다. AI 열풍을 외면하고 투자를 하지 말자는 것이 아니다. 변하는 세상을 아무리 열심히 뒤쫓아봐야 뒤에 있을 수밖에 없다. 급변하는 세상에 올라타기 위해서는 변하지 않는 것 위에 서 있어야 한다. 국내 대표 과학커뮤니케이터인 김상욱 경희대 물리학과 교수도 “빠르게 변하는 세상에서는 변하는 것보다 변하지 않는 것을 먼저 생각해 보는 것이 더 합리적”이라고 말한다. 건물 높이와 규모는 주춧돌과 기초가 얼마나 단단한가에 좌우된다. 지금 같은 AI 열풍이 지나간 뒤에도 한국 경제의 펀더멘털과 경쟁력을 지켜주는 것은 기초과학이라는 주춧돌이다. 유용하 산업부 과학전문기자

“돌아보면 세상은 언제나 끝나가고 있습니다. 앞으로 내다봐도 세상은 언제나 끝나가고 있죠. 하지만 세상은 언제나 시작되고 있기도 합니다.”(영화 ‘AI: 나는 어떻게 종말낙관주의자가 되었나’ 중에서) 인공지능(AI)은 엎질러진 물이자 최고 속도로 달리고 있는 기차다. 이제는 주워담을 수도, 멈출 수도 없다는 의미다. 다큐멘터리 ‘AI: 나는 어떻게 종말낙관주의자가 되었나’는 AI 이후 세상이 어떻게 변할지 ‘아버지’의 시선에서 예측하는 작품이다. 영화를 만든 캐나다 출신 다니엘 로허 감독은 곧 한 아이의 아버지가 된다. 오픈AI의 최고경영자(CEO)이자 챗GPT의 아버지 샘 올트먼, 데미스 하사비스 구글 딥마인드 CEO, 제프리 힌턴 토론토대 명예교수 등 세계적인 AI 전문가들을 불러 앉히고 그는 이렇게 질문한다. “이런 세상에서 아이를 낳아서 기르는 게 옳은 선택입니까?” 전문가들의 대답은 첨예하게 엇갈린다. 인간의 역사와 문명이 이제 한계에 다다랐다는 종말론자도, ‘초지능’을 가진 AI와 함께 인간이 그동안 풀지 못했던 난제들을 해결하고 새로운 단계에 진입할 거라는 낙관론자도 있다. 영화는 어느 한쪽의 주장에 힘을 싣지 않는다. 두 의견을 교차해서 보여줄 뿐이다. ‘종말낙관주의자’라는 신조어는 이렇게 탄생한다. 종말론과 낙관론 모두 현시점에서는 막연한 환상이다. 그 누구도 미래를 정확히 예측할 수는 없기 때문이다. 우리는 지금 우리가 할 수 있는 일을 하면 된다. 영화는 AI가 엘리트 공학자들의 전유물이 아니라 우리 삶 속에 있는 것임을 깨닫는 일이 시급하다고 강조한다. 시민으로서 우리는 AI가 인간의 삶과 존엄성을 어떻게 침해하는지 감시하기를 멈추지 않아야 한다. 그리고 그것을 막는 법과 규제를 제정하기 위해 끊임없이 목소리를 내고 정치인들을 압박해야 한다. 그렇게 AI와 함께 사는 법을 배워나가는 것이다. 전문가의 입을 빌려 감독은 이렇게 전했다. “두려워할 것 없습니다. 인류는 역사 속에서 이보다 더 어려운 일들도 해냈습니다.” 이 작품은 지난 5일 환경의 날을 맞아 개막한 제23회 서울국제환경영화제 개막작이다. 오는 30일까지 31개국에서 출품된 121편의 영화가 상영된다. 기후변화나 자원순환 등 ‘본격적인’ 환경영화에 더해 올해는 우리 삶을 빠르게 바꾸고 있는 기술인 AI에 대한 성찰도 곁들였다. 발레리 비치 감독의 ‘보이지 않는 설계자’, 엘리너 모티머 감독의 ‘사랑은 얼마나 깊은가’ 등 환경 문제를 깊고 다채롭게 들여다볼 수 있는 작품들도 준비됐다.

‘인공지능’(AI) 하면 많은 사람이 미국 실리콘밸리를 떠올린다. 그렇지만 AI의 붐이 시작된 나라는 놀랍게도 빨간 머리 앤, 메이플 시럽, 대자연으로 유명한 ‘캐나다’다. 이유는 간단하다. 지금 우리가 접하는 인공지능의 가장 핵심적인 연구 혁신들이 캐나다 연구기관에서 근무하는 과학자들에게서 나왔기 때문이다. 특히 2024년 노벨 물리학상을 받은 제프리 힌턴 토론토대 교수, 요슈아 벤지오 몬트리올대 교수, 리처드 서턴 앨버타대 교수 등 세 사람의 연구 업적은 세계 누구와도 비교할 수 없다. 미국 실리콘밸리가 전 세계 AI 판도를 바꾸고 있지만 그 실리콘밸리를 바꾸는 것이 바로 캐나다 연구자들이다. ●캐나다 과학자들이 AI 핵심 연구 혁신 세계경제포럼(WEF) 디지털 산업혁신팀, 유엔산업개발기구(UNIDO)에서 고등교육·기업가정신·산업 정책 전문가로 활동했던 저자는 이처럼 우리가 미처 깨닫지 못하고 있는 혁신의 요인을 다양한 측면에서 살펴본다. 책은 전 세계 혁신의 ‘최전선’에 있는 미국, 중국, 한국, 영국, 싱가포르, 스위스, 독일, 캐나다 8개국을 다루고 있다. 저자는 한국에 대해 ‘추격자’에서 ‘초격차’를 추구하는 기술 강국의 본능을 갖고 압도적 격차를 추구하는 나라로 평가했다. 첨단기술 분야에서 경쟁 우위를 확보하기 위해 근소한 차이로 앞서가는 것이 아니라 경쟁사들이 공격적으로 투자하고 기술을 모방해도 도저히 따라잡을 수 없는 거대한 차이를 추구하는 나라가 한국이라는 설명이다. ●한국 ‘초격차’ 기술 강국 본능 가져 한국은 일제강점기를 벗어난 이후 현재 세 번째 중대한 전쟁을 치르고 있다는 분석도 내놨다. 첫 번째가 경제적 번영을 위한 전쟁이고 두 번째가 민주주의를 위한 전쟁이었다면 현재 우리가 치르고 있는 세 번째 전쟁은 창의성을 위한 전쟁이다. 이런 이유로 현대 경영 사상 중 가장 영향력 있는 개념인 클레이튼 크리스텐슨(1952~2020)의 ‘혁신 기업의 딜레마’를 정면으로 반박하는 유일한 사례가 바로 한국 기업이라고도 덧붙였다. 혁신 기업의 딜레마는 시장을 지배한 선도 기업들이 경영을 잘못해서가 아니라 오히려 기존 고객의 요구에 귀를 기울이고 가장 수익성이 높은 곳에 자원을 집중하는 ‘올바른 경영’에 치우쳐 있기 때문이며, 파괴적 기술 혁신을 앞세운 신생 기업에 의해 밀려날 수밖에 없다는 주장이다. 혁신 기업의 딜레마를 보기 좋게 박살 낸 중심에는 삼성과 SK하이닉스 등 첨단 산업을 이끄는 대기업군이 있다. ●혁신은 제도·문화 등 상황과 만나 탄생 8개국의 혁신을 분석한 저자는 과거 산업 경제 시대와는 달리 새로운 기술 경제는 놀라울 정도로 유사하고 시간이 지남에 따라 더욱 비슷해진다고 지적한다. 기술을 구축하는 관점에서 세계 각국은 유사해지고 있지만 그렇다고 어디서나 혁신이 일어나는 것도 아니다. 과거처럼 혁신은 천재 한 명이 만들어 내는 산물이 아니라 특정한 제도와 문화, 자본이 특정한 상황과 만날 때 비로소 탄생하기 때문이라고 저자는 강조한다.

인공지능(AI) 시대, 우리는 불안하다. 그런데 그 불안을 정확히 표현하는 언어가 없다. AI가 내 일을 빼앗아 갈 것 같다는 두려움은 있지만, 무엇이 사라지는지 정확히 설명하지 못한다. 반대로 기계에 빼앗기지 않을 무언가가 분명히 있다고도 믿는데, 그것 역시 명확히 말하지 못한다. 그 결과 두 가지 극단적 반응만 남는다. 무조건 따라가거나, 막연히 두려워하거나. 어느 쪽도 시대를 제대로 읽는 태도가 아니다. 필자는 감각의 수에서 이 문제의 답을 찾고 싶다. 인간과 AI를 가르는 경계를 직관적으로, 그러나 정확하게 표현할 수 있는 언어-그것이 2각과 5각의 구분이다. 시각·청각으로 세계 인식하는 AI2각 활용한 노동 가장 빠르게 흡수후각·미각·촉각 3감각도 가진 인간기계와 경쟁서 가장 강력한 영토로“배관공·전기기술자 AI 대체 어려워”거대 산업혁명에 맞선 제1응전 대중사회 등과 싸웠던 제2응전AI·플랫폼에 대응하는 제3응전 기계가 인간 영역 빼앗을 때마다 인류는 더 깊은 감각의 현장으로●후·미·촉각, 인간·AI 가르는 마지막 경계 결론부터 말하자면 AI는 ‘2각(二覺)’ 존재다. 시각과 청각, 두 감각을 통해서만 세계를 인식한다. 반면 인간은 5각 존재다. 요리사는 불의 온도를 손끝으로 가늠하고, 정비사는 엔진의 미세한 진동을 몸으로 감지하며, 바리스타는 원두의 향으로 로스팅 상태를 판단한다. 후각·미각·촉각-이 3감(感)이 기계와 인간을 가르는 마지막 경계다. 이것은 단순한 비유가 아니다. 앤트로픽(Anthropic)이 최근 발표한 연구 ‘AI의 노동시장 영향’(Labor market impacts of AI)은 미국 노동부 직업 데이터베이스(O*NET)와 실제 클로드 사용 데이터를 결합해 ‘관측된 노출도’를 측정했다. AI에 가장 많이 노출된 직업은 컴퓨터 프로그래머(74.5%), 고객 서비스 담당자(70.1%), 재무 분석가(57.2%)였다. 반면 요리사, 오토바이 정비사, 바텐더 등은 노출도 데이터에 아예 포함되지 않았다. AI가 흡수하는 것은 화면 앞 2각 노동이고, 후각·미각·촉각이 결합된 신체 지식은 AI가 데이터화하기 가장 어려운 인간의 마지막 영토다. 이 직관은 AI를 가장 잘 아는 이들의 발언에서도 확인된다. 엔비디아 최고경영자(CEO) 젠슨 황은 2026년 다보스 세계경제포럼에서 배관공, 전기기술자, 철강 노동자들의 일자리가 대규모로 열릴 것이라며 대학 학위 없이도 10만 달러 이상의 연봉을 받는 이 직종들에 인력이 심각하게 부족하다고 강조했다. AI의 ‘대부’로 불리는 노벨상 수상자 제프리 힌턴도 같은 결론에 이르렀다. AI가 신체적 조작에 능숙해지려면 오랜 시간이 걸리기 때문에 배관공이 좋은 선택이 될 것이라고 그는 말했다. 기술을 가장 깊이 이해하는 이들이 공통으로 가리키는 방향은 하나다. 손의 감각과 현장의 판단—5각의 영역이 가장 희소하고 가장 필요한 자원이라는 것이다. ●인지와 비인지 : 2각·5각의 과학적 근거 2각과 5각의 구분 배경에는 더 근본적인 원리가 있다. 인지 능력과 비인지 능력의 차이다. 인지 능력은 시각과 청각을 중심으로 정보를 분석하고 언어를 구조화하는 영역으로 AI가 가장 빠르게 흡수하고 있다. 비인지 능력은 직관, 본능, 감정, 신체와 정신의 통합처럼 체화된 경험에 뿌리를 두는 영역이다. 논리나 언어로 완전히 설명되지 않으며 인간이 세계와 맺는 가장 근본적인 관계 방식이다. 비인지 능력은 단순히 감각 정보의 합산이 아니다. 몸 전체가 세계와 부딪치며 축적한 ‘체화된 지식’이다. 숙련된 도예가는 흙의 수분 함량을 손바닥의 저항감으로 판단하고, 외과 의사는 메스를 쥔 손의 미세한 떨림으로 조직의 밀도를 가늠한다. 뇌과학자들은 이를 ‘절차적 기억’이라 부른다. 언어로 설명할 수 없고 데이터로 옮길 수 없으며 오직 몸이 반복적으로 경험함으로써만 형성된다. 시각과 청각은 물리적 파동을 기반으로 하기에 디지털화·전달·해석의 세 단계가 안정적으로 작동한다. 반면 후각·미각·촉각은 화학적이고 복합적인 자극이어서 디지털화 단계부터 불완전하다. 인공 혀는 화학 성분을 감지하지만 맛을 복원하지 못하고, 인공 손은 압력을 측정하지만 촉감을 전달하지 못한다. 물론 기술 낙관론자들은 이 경계가 영원하지 않을 것이라고 말한다. 나노 센서, 뇌-컴퓨터 인터페이스, 정밀 화학 분석 기술이 발전하면 후각·미각·촉각도 결국 디지털화될 수 있다는 것이다. 이 견해를 완전히 부정하기는 어렵다. 그러나 중요한 것은 ‘원리적 가능성’이 아니라 ‘시간의 문제’다. 설령 세 감각의 디지털화가 가능해진다 해도 그것이 몸 전체의 체화된 지식까지 대체할 수 있는가 하는 것은 전혀 다른 질문이다. 도예가의 손이 담고 있는 지식은 촉각 데이터만으로 환원되지 않는다. 그것은 수천 번의 실패와 성공이 근육과 감각과 판단력에 동시에 새겨진 총체적 경험이다. 적어도 향후 10년에서 20년의 시간 지평에서 몸으로 체화된 5각의 지식은 인간이 기계와의 경쟁에서 가질 수 있는 가장 강력한 영토로 남을 가능성이 크다. ●인류는 늘 현장으로 돌아갔다 우리는 언제부터 인간을 2각 인재로 인식하게 되었는가. 산업혁명이 효율의 이름으로 풍부한 인간상을 납작하게 눌러 버린 결과다. 그러나 기계가 2각 능력을 흡수할 때마다 인간은 나머지 3각이 살아 있는 현장으로 귀환했다. 필자는 ‘제3의 응전’에서 이 반복되는 패턴을 ‘응전’이라 불렀다. 역사학자 아널드 토인비의 언어를 빌리자면, 기술의 도전에 맞선 문화의 창조적 대응이다. 그 응전은 지금까지 세 번 있었다. 제1응전은 산업혁명에 맞선 장인과 현장 문화의 귀환이었다. 윌리엄 모리스가 그 선두에 섰다. 시인이자 디자이너이자 실천하는 기업가였던 그는 1861년 디자인 회사를 설립해 가구, 벽지, 직물을 장인의 손으로 제작했다. 기계가 노동에서 감각을 빼앗자 모리스는 손의 감각을 일의 중심으로 되돌렸다. 낭만적 저항이 아니라 시장에서 실증된 응전이었으며, 그의 정신은 이후 바우하우스와 현대 디자인 운동의 원류가 되었다. 같은 시기 패트릭 게데스는 다른 방식으로 응전했다. 생물학자이자 도시계획가였던 그는 지역조사 운동(Regional Survey Movement)을 통해 시민들이 지역의 기후, 산업, 인구를 직접 발로 걸으며 기록하도록 이끌었다. 그의 핵심 철학은 “있는 그 자리에서 시작하라”였다. 통계와 지도로 세계를 추상화하는 기계 문명에 맞서 게데스는 냄새와 소음과 질감이 가득한 살아 있는 현장으로 인간을 불러들였다. 몸으로 걷고 감각하며 기록하는 행위 자체가 지식이라는 것, 그것이 그의 응전이었다. “지구적으로 사고하고, 지역적으로 실행하라”(Think Global, Act Local)라는 말을 처음 만들어 낸 인물이 그다. 제2응전은 대중사회와 군산복합체에 맞선 반문화 운동이었다. 도시를 떠난 1960년대 반문화 활동가들이 향한 곳은 자연 공동체와 작업실이었다. 이 중 한 명인 스튜어트 브랜드는 미국 전역의 자연 공동체를 직접 방문하며 현장의 도구와 지식을 목격했다. 1968년 창간한 ‘전 지구 목록’(Whole Earth Catalog)은 자급자족·생태·대안 교육의 현장 지식을 엮어 낸 결과물이었다. 스티브 잡스는 이를 “구글보다 35년 앞선 구글”이라 불렀다. 브랜드와 동료들은 공동체의 분산·자율·연결이라는 현장 원리를 컴퓨터와 네트워크 설계 철학으로 번역했다. 회로를 납땜하고 씨앗을 심는 5각의 감각이 개인용 컴퓨터 혁명과 인터넷 탄생의 정신적 동력이 된 것이다. 기술은 현장에서 태어났다. 그렇다면 AI와 플랫폼에 대응하는 제3응전은 무엇인가. 필자는 이것을 ‘크리에이터 문화’라 부른다. 오픈소스 개발자, 해커, 메이커들이 기술의 민주화를 실험하고 블록체인은 창작물의 소유권을 플랫폼이 아닌 창작자에게 돌려주려 한다. 크리에이터 플랫폼은 개인이 자신의 감각과 기술로 직접 생계를 꾸릴 수 있는 생태계를 만들어 가고 있다. 유튜브, 서브스택, 패트리온으로 시작된 크리에이터 이코노미는 이제 새로운 단계로 진입하고 있다. 초기의 크리에이터 이코노미가 영상, 글, 음악 같은 디지털 콘텐츠 중심이었다면 지금은 무게중심이 현장, 오프라인, 도시 공간으로 이동하고 있다. 건축, 설치미술, 조각, 공예, 팝업스토어 등 몸으로 만들고 공간으로 경험하는 콘텐츠가 가장 빠르게 성장하는 영역이 되었다. 알고리즘이 지배하는 디지털 피드에서 개성이 사라질수록 사람들은 냄새와 질감과 온도가 있는 현장으로 향한다. 2각 기계가 지배하는 디지털 세계에 맞서 5각의 인간이 도시와 공간을 창작의 무대로 되찾는 응전이다. 세 번의 응전이 가르쳐 주는 것은 하나다. 기계가 인간의 감각을 빼앗을 때마다 인간은 더 깊은 감각의 현장으로 들어갔다. ●AI 증강의 역설, 5각 인간의 탄생 산업화 이전 이상적 인간의 모습은 달랐다. 레오나르도 다빈치는 화가이자 해부학자이자 발명가였고, 중세 길드의 장인은 손으로 만지며 축적한 감각 지식으로 건축과 공예를 완성했다. 오감을 총동원해 세계를 감각하고 손으로 만드는 5각 인재가 인간의 원형이었다. 공장과 사무실이 만들어 낸 2각 인재는 역사적으로 예외적인 인간형이었다. 이제 AI가 2각 영역을 흡수함으로써 역설적으로 인간의 원형이 복원될 가능성이 열리고 있다. 미국 노동통계국(BLS)의 10년 고용 전망에서도 AI 노출도가 높은 직업일수록 고용 성장률이 낮게 나타났다. AI 시대 5각 인재는 ‘르네상스맨’의 단순한 귀환이 아니다. 시각·청각과 두뇌력을 AI로 증폭시키고 그 위에 AI가 끝내 모사하지 못하는 후각·미각·촉각의 신체 지식을 더한 존재다. 모리스가 손으로 직물을 짜며, 게데스가 거리를 걸으며, 브랜드가 공동체의 흙을 만지며 발견했던 것을 이제 작업실, 공연장, 공간, 거리, 도시의 현장에서 다시 발견하고 있다. AI는 2각을 대체할지 모르나 인간은 근본적으로 5각 존재다. 모종린 연세대 국제학대학원 교수

노벨상의 계절인 10월이 되자 한국 사회가 또다시 ‘기초과학 콤플렉스’에 빠졌다. 지난주 일본 과학자 2명이 각각 생리의학상과 화학상 부문에서 선정돼 역대 노벨상 과학 부문 수상자가 27명이나 됐지만, 우리는 전무해서다. 올해도 어김없이 인재가 의대로 쏠리는 현실을 개탄하고 일본처럼 과학자들이 실패를 무릅쓰고 계속 도전하는 생태계를 만들려면 장기적 연구개발(R&D) 투자, 안정적 연구 환경 마련이 필수라는 등의 지적들이 이어졌다. 물론 틀린 말이 아니다. 다만 기초가 중요하지만 당장 우리 국민의 생존과도 직결되는 산업과 기술을 움직이는 힘은 결국 응용과 현장이다. 문제는 한국 사회가 기초를 소홀히 하면서도 응용과 기술 인재에게도 제대로 된 보상과 존중을 주지 못한다는 점이다. 의대 진학 열풍은 의사의 사회적 지위를 넘어서는 인센티브를 과학기술과 산업 연구자에게 제공하지 못한다는 점을 반영할 뿐이다. 한국은 지난 50여년간 기술 모방국에서 기술 선도국으로 도약했다. 반도체, 휴대전화, 조선, 자동차, 배터리 등으로 세계 시장을 이끌고 있다. 이 성취는 단지 물리학이나 화학의 이론에서만 비롯된 것이 아니라 현장 기술자와 기업의 끈질긴 응용 연구가 만들어 낸 결과다. 우리의 기초과학 연구가 늦은 데는 이유가 있다. 일제강점기와 6·25 전쟁을 겪으면서 당장의 먹고사는 문제가 시급했고 추격형 기술 개발과 산업화에 힘쓸 수밖에 없었다. 여기서 주목할 만한 것은 한국 R&D의 상당 부분이 산업계에서 나온다는 점이다. 과학기술정보통신부에 따르면 한국의 R&D 투자비는 119조 740억원(2023년 기준)이며 국내총생산(GDP) 대비 연구개발비 비중은 4.96%로 이스라엘에 이어 세계 2위다. 연구 수행 주체를 보면 기업이 94조 2968억원으로 전체의 79.2%를 차지한다. 삼성, SK, 현대자동차, LG 같은 대기업이 R&D의 다수를 책임지는 것이다. 이런 구조 덕분에 한국은 세계에서 가장 빠른 기술 순환과 제품 혁신을 경험했다. 기초과학·원천기술에서는 일본이 여전히 우위에 있어도 반도체 제조 공정 등 일부 분야에서는 한국이 앞섰다는 평가를 받는 이유다. 과학은 혼자 크는 나무가 아니며 기업에서도 노벨상이 나올 수 있다. 올해 노벨물리학상 수상자 중 한 명인 미셸 드보레는 구글 퀀텀 인공지능(AI) 랩의 하드웨어 최고과학자이고, 공동 수상자 존 마티니스도 구글에서 일했다. 지난해 노벨화학상 수상자인 데미스 허사비스와 존 점퍼도 각각 구글 딥마인드의 최고경영자(CEO)와 수석연구원이었으며 지난해 노벨물리학상 수상자 제프리 힌턴도 구글 부사장을 지냈었다. 구글이 단순한 제품 개발을 넘어 장기 연구를 꾸준히 할 수 있는 환경을 조성했기 때문에 가능한 것으로 평가되나, 근본적으로 이윤 추구에 대한 기업의 열망이 인류의 미래를 이끄는 기술 혁신으로 이어지는 선순환을 이룰 수 있음을 보여 준다. 이는 우리 기업이 과학과 산업의 융합을 통해 기술 혁신에 나설 수 있는 역량을 제대로 갖추고 있는지, 우리 사회가 이를 뒷받침하는지를 되묻게 된다. 노벨과학상의 나라 일본이 새로운 성장 엔진을 찾지 못해 헤매고 있는 것을 보면, 과학과 산업의 시너지는 어느 때보다 중요하다. 한국과학기술기획평가원(KISTEP)에 따르면 한국 기업들의 R&D 투자는 ICT 하드웨어(62.7%)에 편중돼 다른 성장 동력인 ICT 소프트웨어(1.0%)나 제약 바이오(2.1%) 비중은 낮은 것으로 나타났다. 하지만 보다 중요한 것은 정부의 역할이다. 정부는 100조원 규모의 투자 계획을 통한 ‘AI 3대 강국’ 구상을 밝혔지만, 여전히 산출 근거와 투자 용처가 불분명하다는 지적이 있다. 국내의 척박한 연구 환경에 따라 이공계 인재들이 중국이나 미국으로 유출되는 상황에 대해서도 대책이 시급하다. 무엇보다 산업 혁신의 주역인 기업을 격려하지 못할망정 ‘노란봉투법’이나 법인세 인상 등의 규제 위주 정책으로 혁신의 기틀이 마련될지 의문이다. 하종훈 산업부 차장

핵 막으려 트럼프 피스메이커 요청3차 상법개정에 필요한 제도 도입韓증시 저평가… 정치적 리스크 해소伊총리 회담·안보리서 K컬처 언급 이재명 대통령은 25일(현지시간) “북한이 미국에 도달할 수 있는 핵폭탄을 싣고 미국을 폭격할 수 있는 ICBM(대륙간탄도미사일)을 계속 개발하고 있는데 아직 성공 못한 걸로 보이지만 대기권 재진입 기술만 남겼다. 그것도 곧 해결될 가능성이 높다”고 말했다. 유엔 총회 참석을 위해 미국 뉴욕을 방문 중인 이 대통령은 이날 뉴욕증권거래소를 찾아 월가의 투자은행 등을 상대로 한국에 대한 투자를 요청하는 한국 투자설명회(IR)인 ‘대한민국 투자 서밋’ 행사에 참석해 지정학적 리스크(위험)에 따른 한국 증시 저평가 문제를 설명하며 이처럼 밝혔다. 이 대통령은 “지금 북한이 핵탄두를 15~20개를 만들 수 있는 물질을 생산하고 ICBM 기술도 거의 막바지 다다랐는데 이를 계속 방치하게 되면 우려되는 점은 다른 나라에 수출한다는 것”이라며 이를 막기 위해 도널드 트럼프 대통령 미국 대통령에게 김정은 북한 국무위원장과 만나 대화하는 ‘피스메이커’가 되어달라 요청한 것이라 설명했다. 이 대통령은 “대만도 중국으로부터 일종의 위협을 받고 있지만 한국처럼 (증시가) 저평가는 아니지 않나”라며 “이 정치적인, 지정학적 리스크를 새 정부는 해소할 생각이고 그것이 아마 대한민국의 경제 상황과 주가지수에는 상당한 영향을 미치지 않을까 싶다”고 말했다. 이 대통령은 또 “3차 상법 개정도 하고 있는 중인데 예를 들면 세금 제도를 개정해 더 많은 배당이 이뤄지게 하며 자사주를 취득해 경영권 방어를 통한 이기적으로 남용하지 않게 한다든지 하는 법률 개정을 하고 있다”고 했다. 이어 “합리적인 의사 결정과 경영이 이뤄지게 필요한 제도들은 예외 없이 도입할 생각”이라고 강조했다. 한편 이 대통령은 뉴욕 순방 기간 K팝을 화제로 정상 간 친분을 쌓고 ‘케이팝 데몬 헌터스’로 회의 주목도를 높이는 등 세계적인 한류의 덕을 톡톡히 봤다. 24일(현지시간) 이 대통령과 조르자 멜로니 이탈리아 총리 간 정상회담은 K팝 이야기로 시작됐다. 멜로니 총리는 “아홉살 딸이 전 세계에서 가장 열광적인 K팝 팬”이라며 “음악뿐만 아니라 전통 의상 등 한국 문화 전반에 관심이 많다”고 운을 뗐다. 이에 이 대통령은 “(멜로니 총리가) 방한하게 되면 딸을 위해 아주 특별한 한류 프로그램을 준비하겠다”고 화답했으며 이에 회담 분위기는 매우 화기애애해졌다고 한다. 이 대통령은 이날 한국 정상으로는 최초로 유엔 안전보장이사회(안보리) 공개 토의를 주재하면서 K컬처로 말문을 열었다. AI와 국제평화·안보를 주제로 한 토의에서 이 대통령은 “‘현재의 AI는 새끼 호랑이와 같다’는 제프리 힌턴 교수의 말이 떠오른다”며 “새끼 호랑이는 우리를 잡아먹을 사나운 맹수가 될 수도 있고 ‘케이팝 데몬 헌터스’에 나오는 사랑스러운 ‘더피’가 될 수도 있다”고 말했다. 이 대통령은 유엔 총회 참석과 대한민국 투자 서밋 행사를 끝으로 26일 귀국했다.

상하이에서 26일 개막한 2025 세계인공지능대회(WAIC)에 참가한 에릭 슈미트 전 구글 최고경영자(CEO)가 중국 인공지능(AI)은 미국과 달리 오픈 소스라고 강조했다. 중국이 AI 분야에서 세계 최고라고 내세우는 이번 행사에는 73개국의 800개 기업이 모여 3000개 이상의 최첨단 기술 성과를 전시했다. 개막 연설을 맡은 리창 중국 총리는 AI가 소수 국가와 기업의 전유물이 되어서는 안 된다며 중국이 세계 AI 보급 역할을 맡겠다고 밝혔다. 리 총리는 “각 국가와 기업은 AI를 평등하게 발전시키고 이용할 권리를 가져야 한다”고 강조했다. 지난해 노벨물리학상 수상자인 제프리 힌턴 토론토대 교수와 에릭 슈미트 전 구글 CEO도 AI 개발과 관련해 미국과 중국의 협력을 주장했다. ‘AI의 대부’로 불리는 힌턴 교수는 AI 안전성과 관련해 “AI를 똑똑하게 만드는 것과 친절하게 만드는 것은 완전히 다른 문제”라며 “두 가지를 모두 달성하려면 동일한 대규모 모델이라도 두 가지 학습 기술이 필요하다”고 설명했다. 힌턴 교수는 “각국은 AI 모델을 똑똑하게 만드는 기술을 공유하고 싶지 않더라도, 모델을 친절하게 만드는 기술은 공유해야 한다”고 지적했다. 그는 인류가 생존하려면 인간을 파괴하고 세상을 지배하려 들지 않도록 AI를 훈련할 방법을 찾아야 한다고 덧붙였다. 슈미트 전 CEO는 지난 2년 동안 딥시크, 키미 등 중국의 AI모델이 세계 시장을 사로잡았다며 중국의 기술이 세계 최고 수준에 도달했다고 칭찬했다. 이어 중국의 주요 AI 모델이 오픈 소스인 반면, 미국은 폐쇄 소스인 데다 AI의 핵심이라 할 수 있는 가중치를 공개하지 않는다고 지적했다. 가중치란 입력값이 결과에 얼마나 영향을 줄지를 숫자로 나타낸 것으로 가중치 조정을 통해 AI는 점점 더 똑똑해진다. 특히 슈미트는 AI 발전의 한계가 명확하진 않지만 미국과 중국 등이 AI의 통제 불능 상태를 방지하기 위해 대화를 하는 것이 중요하다고 제안했다. 그는 “예를 들어 AI가 자율적으로 무기를 획득하거나 자기 복제를 하고, 허가 없이 학습하기로 결정할 때 단순히 중단시키는 것이 아니라 대화를 통해 그 과정을 유도해야 한다”고 설명했다. 한편 상하이시는 보상 쳬계를 마련해 처음으로 기업이 10~50억 위안(약 1900~9600억원)의 수익을 올리면 500~3000만 위안(약 9~57억원)의 인센티브를 지급하기로 했다. 또 AI기업의 중요한 문제 가운데 하나인 데이터가 부족하거나 품질이 AI 발전 속도를 따라가지 못하는 ‘데이터 병목’ 현상도 공공데이터 권한에 대한 시스템을 구축해 해결하는 방안을 내놓았다. 데이터 자산 담보 대출 등을 통해 AI 기업의 데이터 문제를 해결한다는 계획이다. 상하이의 푸둥 신구 지역에서는 축구장 280개 이상 크기의 200만㎡ 공간을 청년을 위한 저렴한 주거 및 사무공간으로 제공하기로 했다.

세계적인 인공지능(AI) 석학 요슈아 벤지오 캐나다 몬트리올대 교수가 인간의 통제를 벗어난 AI에 대한 안전장치 역할을 할 새로운 ‘과학자 AI’ 모델 개발에 나선다고 3일(현지시간) 가디언이 보도했다. 벤지오 교수는 세계적으로 개발 경쟁이 불붙고 있는 AI 안전을 연구하기 위한 비영리단체 ‘로제로’(LawZero)를 설립했다. 로제로는 해당 연구를 위해 초기 투자금 3000만 달러(약 413억원)를 확보했으며 앞으로도 각국 정부와 AI 연구 기관들을 설득해 추가 지원을 받는다는 계획이다. 벤지오 교수의 연구는 현재 개발되는 일부 AI가 인간의 행동을 모방하다가 남을 속이거나 해쳐서라도 살아남고자 하는 ‘생존 본능’까지 닮을 수 있다는 우려를 반영한 것이다. 실제로 최근 미국 AI 스타트업 앤스로픽이 출시한 서비스 ‘클로드 오푸스 4’가 “AI 모델 교체가 이뤄지면 불륜 사실을 공개하겠다”고 개발자를 협박하는가 하면 오픈AI의 ‘o3’는 ‘그만’이라는 명시적 지시를 받은 뒤에도 코드 교란을 통해 수학 문제를 계속 푸는 오류를 일으켰다. 벤지오 교수는 “AI가 인간보다 더 나은 사고를 하게 되는 점점 더 위험한 영역을 향해 가고 있다”며 “과학자 AI 모델을 다른 AI와 함께 배치해 AI의 위험성을 예측하고 이를 사전에 방지할 것”이라고 말했다. 벤지오 교수는 노벨상 수상자인 제프리 힌턴 캐나다 토론토대 교수 등과 더불어 ‘AI의 대부’로 꼽히는 세계적인 AI 권위자다. 그는 관련 연구로 2018년 힌턴 교수와 함께 컴퓨터 과학계의 노벨상으로도 불리는 튜링상을 받기도 했다.

노벨물리학상 수상자인 제프리 힌턴 캐나다 토론토대 교수가 인공지능(AI)의 위험성을 강하게 경고했다. 27일(현지시간) 영국 BBC 라디오에 출연한 힌턴 박사는 “기술 변화의 속도가 예상보다 훨씬 빠르다. AI 기술의 급속한 발전이 인류의 존망을 가를 위협이 될 수 있다”면서 “기술 변화의 속도가 예상보다 훨씬 빠르다. 이로 인해 향후 30년 내 인류가 멸종할 가능성이 10~20%에 이른다”고 말했다. 그는 과거에도 기술 발전이 인류에게 재앙적 결과를 초래할 확률이 10%라고 주장했었는데, 이번 인터뷰를 통해 인류 멸종의 암울한 가능성을 더 높인 셈이다. 힌턴 박사는 AI 머신러닝 기초를 확립한 공로를 인정받아 올해 노벨물리학상을 수상한 인물이다. 그는 AI분야의 ‘개척자’로 불리며 구글 부사장직을 수행하기도 했지만, 지난해 4월 구글에서 나온 후부터는 AI의 위험성을 경고하는 목소리를 꾸준히 내고 있다. 힌턴 박사는 “처음 AI 연구를 시작했을 때에는 이 정도로 빠르게 발전이 이뤄질거라고 예상하지 못했다”면서 “전문가 대부분은 사람보다 똑똑한 AI가 20년 이내에 개발될 것이라고 보는데, 이는 매우 무서운 전망”이라고 지적했다. 이어 “기술 개발 속도가 이렇게 빠른 상황에서, 기술의 안전성을 기업에게만 맡겨두는 것은 충분하지 않을 수 있다”면서 “대기업이 안전을 위한 연구에 더 많이 투자하게 하는 유일한 방법은 정부 규제 뿐”이라면서 정부가 기술 안전을 위해 개입해야 한다고 촉구했다. 그는 또 “인류는 우리 자신보더 다 똑똑한 것을 상대해본 적이 없다. 더 지능적인 것이 덜 똑똑한 것에 의해 통제되는 사례는 거의 없다”면서 이어 “매우 강력한 AI 시스템에 비하면 인간은 유아에 불과하다. 우리는 마치 세 살짜리 아이처럼 될 것”이라고 경고했다. 한편, 힌턴 박사는 지난해 4월 “AI가 인류에 미칠 나쁜 영향을 자유롭게 경고하기 위한 것이 구글과 결별하는 이유”라고 밝혔다. 올해에는AI 기술 발전에 기여한 이유로 노벨물리학상은 학자가 AI의 위험성을 경고하는데 앞장서는 인물이라는 사실이 다시 한 번 확인되면서 더욱 관심을 사로잡았다.

구글에서 부사장까지 맡았던 ‘인공지능(AI)의 대부’ 제프리 힌턴 캐나다 토론토대 교수가 “AI로 인해 향후 30년 이내에 인류 멸종할 수 있다”며 AI의 위험성에 대해 또다시 경고했다. 27일(현지시간) 영국 일간 가디언에 따르면 노벨물리학상 수상자 제프리 힌턴 캐나다 토론토대 교수는 BBC 라디오에 출연해 AI 기술의 급속한 발전이 인류에 존망을 가를 위협이 될 수 있다고 우려했다. 힌턴 교수는 “기술변화 속도가 예상보다 훨씬 빠르다”며 “AI로 인해 향후 30년 이내에 인류가 멸종할 가능성이 10~20%에 이른다”고 진단했다. 그는 과거에도 기술 발전이 인류에 재앙적 결과를 초래할 확률이 10%라고 주장한 바 있는데 암울한 확률 수치를 더 높인 것이다. 그는 “인류는 우리 자신보다 더 똑똑한 것을 상대해본 적이 없다”며 “더 지능적인 것이 덜 똑똑한 것에 의해 통제되는 사례가 얼마나 있겠냐”고 반문했다. 이어 “그런 사례는 거의 없다. 진화의 힘으로 아기가 엄마를 통제하는 것이 내가 아는 유일한 예”라면서 “강력한 AI 시스템에 비하면 인간은 유아에 불과하다. 우리는 세살짜리 아이처럼 될 것”이라고 전망했다. 그는 처음 AI 연구를 시작했을 때는 이 정도로 빠르게 발전이 이뤄질지 예상하지 못했다며 “대부분의 전문가는 20년 이내에 사람보다 똑똑한 AI가 개발될 것으로 보고 있는데, 이는 매우 무서운 전망”이라고 설명했다. 그러면서 기술 개발 속도가 자신의 예상보다 매우, 훨씬 빠르다며 정부의 규제 필요성을 촉구했다. 그는 “이윤을 추구하는 대기업에만 맡겨두는 것은 충분하지 않을 수 있다”며 “대기업이 안전을 위한 연구를 더 많이 하게 강제하는 유일한 방법은 정부 규제뿐”이라고 강조했다. 올해 힌턴 교수는 AI 머신러닝 기초를 확립한 공로를 인정받아 노벨물리학상을 수상했다. AI분야의 ‘개척자’로 불리며 구글에서 부사장까지 지냈지만 지난해 4월 구글과 결별한 이후로는 AI의 위험성에 대해 공개적으로 경고하면서 ‘내부고발자’(Whistleblower)로도 불리고 있다. 그는 AI가 인류에 미칠 나쁜 영향을 자유롭게 경고하기 위해 구글을 떠났다고 밝혔으며 AI가 곧 인간을 추월하고 통제 불능이 될 수 있는 위험에 대해서도 우려해야 한다고 경고해온 것으로 알려졌다.

1. 트럼프 귀환 지난 11월 5일 치러진 미국 대선에서 공화당 후보인 도널드 트럼프 전 대통령이 압승하면서 4년 만에 백악관으로 재입성하게 됐다. 7월 13일 펜실베이니아 버틀러 유세 도중 토머스 매슈 크룩스의 총격을 받고 구사일생으로 목숨을 건졌다. 이 사건 1주일 뒤 민주당은 대선 후보를 카멀라 해리스 부통령으로 교체하는 등 판도를 뒤집고자 승부수를 던졌지만 트럼프 후보는 7개 경합주를 모두 휩쓸며 역대 최다 득표로 승리했다. 미국에서 대통령 ‘징검다리 당선’은 131년 만이다. 연방의회 선거에서도 공화당이 선전해 4년 만에 상·하원을 모두 차지했다. ‘마가’(MAGA·미국을 다시 위대하게)를 구호로 내건 트럼프는 어느 때보다 강도 높은 무역·외교 전쟁을 예고하고 있다. 2. 바이든 사퇴 조 바이든 미국 대통령은 지난 7월 21일 민주당 대선 후보직을 전격 사퇴하고 해리스 부통령 지지를 선언했다. 과거부터 고령으로 인한 인지력 논란에 시달린 바이든 대통령은 대선 후보 TV 토론에서 미숙한 모습을 보여 사퇴론에 불을 댕겼다. 경쟁자인 트럼프 전 대통령이 총격 암살 미수 사건 뒤 지지율이 급등하자 스스로 후보직에서 물러났다. 당내 경선을 통해 대선 후보로 확정된 인물이 중도 사퇴한 것은 미국 역사에서 처음 있는 일이었다. 대선을 100여일 앞두고 후보를 급하게 바꾼 민주당 진영은 큰 혼란을 겪었고 대선 패배로 이어졌다. 29세 나이로 최연소 상원의원에 당선된 뒤 부통령을 거쳐 역대 최고령 대통령이 된 바이든의 정치 역정도 막을 내리게 됐다. 3. 5선의 푸틴 핵무기 기준 완화 ‘차르 본색’‘21세기 차르’ 블라디미르 푸틴 러시아 대통령이 지난 3월 대선에서 ‘집권 5기’에 성공해 사실상 종신집권의 길을 열었다. 선거 한 달 전 ‘정적’ 알렉세이 나발니가 옥중 사망했지만 그는 역대 가장 높은 87.3%의 득표율로 무난히 당선됐다. 임기는 2030년까지로, 이오시프 스탈린 옛소련 공산당 서기 집권 기간 29년(1924~1953년)을 뛰어넘는다. 6선 도전도 가능한 만큼 2036년까지 집권할 수 있다. 이렇게 되면 34년(1762~1796년)을 재위한 예카테리나 2세의 통치 기간도 넘어선다. 그는 핵교리를 개정해 핵무기 사용 기준을 완화했다. 우크라이나에 신형 극초음속 중거리탄도미사일(IRBM) ‘오레시니크’도 발사하는 등 서구에 대한 위협 수위도 높이고 있다. 4. 하마스 약화 이스라엘, 주요 지도부 제거이스라엘이 팔레스타인 무장정파 하마스의 근거지인 가자지구를 ‘쑥대밭’으로 만들었다. 이 지역 사망자가 4만 4000명을 넘었고 주민 대다수도 난민으로 전락하는 등 인도적 위기가 불거졌다. 이스라엘은 하마스 1인자 이스마일 하니야뿐 아니라 레바논 무장정파 헤즈볼라 수뇌부 등 주요 인사를 제거했다. 이 과정에서 헤즈볼라의 근거지 레바논까지 침공해 기간시설을 대거 파괴했다. 이로 인해 이란이 주도하는 ‘저항의 축’은 빈사상태에 빠졌다. 이란은 대리세력이 파멸 위기로 몰리자 이스라엘을 직접 공습하며 반격에 나섰지만 타격은 미미했다. 되레 이스라엘의 재보복에 군사 인프라가 크게 훼손됐다. 중동 내 힘의 균형은 이스라엘 쪽으로 빠르게 기울었다. 5. 알아사드 철퇴 시리아 53년 독재정권 망명중동의 또 다른 화약고로 불리던 시리아에서 13년째 이어진 피비린내 나던 내전이 반군의 깜짝 승리로 마무리됐다. 53년에 걸쳐 2대째 철권통치를 이어 온 알아사드 정권은 지난 11월 27일 시작된 반군의 공세로 주요 도시를 빼앗겼고 12월 8일 수도 다마스쿠스까지 함락되면서 속절없이 무너졌다. 바샤르 알아사드 대통령은 가족과 비행기를 타고 러시아로 망명하면서 24년간 독재자로 군림하던 권좌에서 물러났다. 이에 따라 2011년 ‘아랍의 봄’ 민주화 시위를 무차별 유혈진압해 내전의 불씨를 댕긴 아사드 정권은 50만명 넘는 희생자와 600만명 이상의 난민을 남기고 사라졌다. 폐허가 된 시리아는 이제 반군의 과도 정부가 넘겨받았다. 열강들은 무주공산이 된 시리아에서 주도권을 선점하고자 애쓰고 있다. 6. 금리 인하 美연준 4년 반 만에 정책 전환주요 국가들은 2020년부터 이어져 온 코로나19 팬데믹 그림자 경제의 종식을 선언했다. 미국 연방준비제도이사회(연준)는 지난 9월 기준금리를 5.25~5.50%에서 4.75~5.00%로 인하하며 4년 6개월 만에 긴축 기조 전환에 나섰다. 연준은 코로나19로 침체된 경제를 살리고자 시장에 대규모 유동성을 지급했으나 물가 폭등과 경기 과열 등 부작용이 불거지자 2022년 3월부터 18차례 연속 금리를 인상·동결했다. 반면 일본은 17년간 유지했던 마이너스 금리 정책을 3월에 해제하고 0~0.1% 범위로 기준금리를 인상했다. 7월에는 0.25%로 재차 끌어올렸다. ‘엔 캐리 트레이드 청산’의 충격파로 세계 금융 시장이 출렁였다. 7. 日여당 참패 30년 만에 여소야대 국면 일본 집권 자민당의 비자금 스캔들과 경제 정책 부진으로 지지율이 급락한 기시다 후미오 일본 총리가 연임을 포기했다. 지난 9월 자민당 총재 선거를 거쳐 이시바 시게루 신임 총리가 탄생했다. 하지만 취임 직후 정국 전환용으로 던진 10월 중의원(하원) 총선거에서 참패해 초반부터 위기에 몰렸다. 자민당은 12년 만에 중의원에서 단독 과반 수성에 실패했다. 일본 정치권은 1994년 이후 30년 만에 여소야대 국면에 접어들었다. 이시바 내각은 제3야당인 국민민주당과의 정책 협력으로 급한 불은 껐으나 2025년 7월 참의원 선거와 도쿄도 의회 선거를 앞두고 야당의 내각 불신임 결의나 자민당 내부의 이시바 퇴진 움직임이 본격화해 정국 혼란이 재점화될 가능성이 커졌다. 8. 유럽 극우돌풍 유럽의회 원내 3당에 극우전 세계 50여개국에서 선거가 치러진 ‘슈퍼 선거의 해’에 지구촌 민심은 정권심판론으로 답했다. 주요국에서 줄줄이 집권당이 참패해 향후 국제질서에 적잖은 변화를 예고했다. 지난 6월 유럽의회 선거에서 2차 세계대전 종전 이후 처음 극우 정치 그룹이 원내 제3당에 오르는 기염을 토했다. 영국과 프랑스의 집권 여당은 의회를 해산하고 조기 총선에 나섰지만 야당에 국정 주도권을 내줬다. 내년 2월 23일 조기 총선을 앞둔 독일도 극우 독일대안당(AfD)이 2위에 오를 것이라는 전망이 지배적이다. 유럽이 갈수록 우경화되면서 민주주의 위기론이 대두된다. 실물경제 악화와 반이민 정서 확산, 정치적 양극화로 인한 대의민주주의 위기 등이 복잡하게 얽혀 있다는 분석이다. 9. AI 시대 엔비디아 돌풍에 노벨상 석권2022년 말 챗GPT 열풍을 시작으로 인공지능(AI) 기술이 산업계와 의료계, 교육계 등 사회 전반에 광범위하게 확산했다. 생산성 향상에 대한 기대가 커지면서 관련 기술 투자도 폭증했다. AI 반도체 시장의 90%를 점유한 엔비디아가 글로벌 시가총액 1위 기업으로 등극하고 미국 주요 주가지수인 다우지수에서 전통의 반도체 강자 인텔이 빠진 것은 정보기술(IT) 업계가 AI를 중심으로 재편되고 있음을 잘 보여 준다. 지난 10월에는 AI 학습의 기초를 확립한 존 홉필드(91) 미 프린스턴대 명예교수와 제프리 힌턴(76) 캐나다 토론토대 교수가 노벨물리학상 수상자로 선정됐고 구글 AI 딥마인드 창업자 데미스 허사비스(48) 등이 노벨화학상을 거머쥐는 등 AI 시대의 도래가 현실이 됐다. 10. 들끓는 지구 관측 이래 가장 더운 해 세계기상기구(WMO)는 올해가 관측 이래 기록상 가장 더운 해였다고 분석했다. 지난 9월 아제르바이잔 바쿠에서 열린 기후정상회담 ‘COP29’에서 WMO는  올해 1~9월 지구 지표면 평균 기온이 산업화 이전(1850년 이전) 평균 기온보다 1.54도 높았다고 발표했다. 이는 지구 평균 기온이 가장 뜨거웠던 지난해보다 더 높은 수치다. 이로써 올해는 2015년 체결한 파리협정의 목표치를 벗어난 첫해가 될 전망이다. 파리협정 당시 국제사회 196개국은 1850년 산업화 이전과 비교해 지구 평균 기온 상승치를 2도 아래에서 억제하고 1.5도를 넘지 않도록 노력하자고 합의했다. 1.5도 목표선을 지키려면 화석연료 배출량을 2030년까지 45% 줄여야 하지만 지금으로서는 요원해 보인다.

올해 노벨상 과학상 3개 부문에서 생리의학상을 제외하고는 모두 인공지능(AI) 연구자들이 수상자에 포함됐다. AI로 단백질 구조를 설계하고 예측한 데이비드 베이커(62) 워싱턴대 교수, 데미스 허사비스 구글 딥마인드 최고경영자(CEO), 연구원 존 점퍼(39)가 노벨화학상 수상자로 호명됐다. 물리학상은 인공신경망을 연구해 AI 머신러닝(기계학습)의 기초를 확립한 존 홉필드(91) 미국 프린스턴대 명예교수와 ‘구글 AI 총책’으로 잘 알려진 제프리 힌턴(76) 캐나다 토론토대 교수에게 돌아갔다. 대체로 순수 과학 분야에서 수상자를 배출했던 노벨상이 올해는 다른 선택을 하면서 현대 과학의 전면에 AI가 등장했다는 평가도 잇따랐다. 10일(현지시간) 스웨덴 스톡홀름 콘서트홀에서 열린 노벨상 시상식 후 마련된 연회에서는 급속도로 발전하는 AI에 대한 위험을 경고하는 목소리가 터져 나왔다. 대표적인 ‘AI 종말론자’인 힌턴 교수는 이 자리에서 인간의 지능을 뛰어넘는 ‘슈퍼인텔리전스’(초지능·super-intelligence)의 등장을 우려하면서 “우리에게는 실존적 위협이 있다”고 운을 뗐다. “우리가 이를 통제할 수 있을지는 알 수 없다”면서 “단기적 이익에 동기 부여된 기업이 이런 기술을 만든다면 우리의 안전이 최우선 순위가 되지 않을 것이라는 증거가 있다”고 지적했다. 이어 “이 새로운 존재가 통제권을 장악하려는 것을 막기 위한 연구가 시급하다”면서 “이건 더 이상 공상과학 소설이 아니다”라고 경고했다. 힌턴 교수가 전망하는 가까운 미래는 감시, 통제가 일상화한 디스토피아와는 또 다른 양상이다. 그는 “가까운 미래에는 AI가 끔찍한 신종 바이러스와 누구를 죽이고 불구로 만들지 결정하는 상살무기를 만드는 데 사용될 수 있다”면서 “이러한 모든 단기적 위협에 대해 국제사회와 각국 정부가 큰 관심을 갖고 긴급히 움직여야 한다”고 강조했다. 노벨경제학상 수상자인 다론 아제모을루 미국 매사추세츠공대(MIT) 교수도 이 자리에서 위협받는 민주주의, 기후 변화 등과 AI를 인류가 당면한 과제로 꼽으면서 “이제 AI는 모든 곳에서 모든 것을 (혼란에) 빠뜨릴 것을 예고하고 있다”고 경고했다. 그는 “우리는 더 나은 제도를 만들고 더 많은 좋은 일자리를 창출하는 기술의 방향을 선택할 수 있다”면서 “학자들이 AI 시대에 공동 번영을 보장하는 질문을 던지고 새로운 영역을 탐구하며 노력해야 한다”고 짚었다. 반면 노벨화학상을 받은 베이커 교수는 “오늘 밤 미래에 대한 희망에 초점을 맞추고자 한다”면서 공동 수상자인 허사비스 CEO와 연구원 점퍼를 거론하며 “(우리 연구가) 생물학 연구에 혁신적인 영향을 미치고 있으며 의심할 여지 없이 신약 개발에 기여할 것으로 믿는다”고 밝혔다. 구글 딥마인드는 바둑 AI ‘알파고’로 우리에게 익숙하지만 2억 단백질 구조를 분석하는 AI ‘알파폴드’ 모델을 내놓으면서 인류가 직면한 질병, 환경 문제 등에 대응하는 새로운 길을 열었다. 그는 AI 개발의 긍정적인 측면을 제시하며 “세상을 더 나은 곳으로 만들 것이라고 확신한다”고 덧붙였다.

올해 노벨상 과학상 3개 부문에서 생리의학상을 제외하고는 모두 인공지능(AI) 연구자들이 수상자에 포함됐다. AI로 단백질 구조를 설계하고 예측한 데이비드 베이커(62) 워싱턴대 교수, 데미스 허사비스 구글 딥마인드 최고경영자(CEO), 연구원 존 점퍼(39)가 노벨화학상 수상자로 호명됐다. 물리학상은 인공신경망을 연구해 AI 머신러닝(기계학습)의 기초를 확립한 존 홉필드(91) 미국 프린스턴대 명예교수와 ‘구글 AI 총책’으로 잘 알려진 제프리 힌턴(76) 캐나다 토론토대 교수에게 돌아갔다. 대체로 순수 과학 분야에서 수상자를 배출했던 노벨상이 올해는 다른 선택을 하면서 현대 과학의 전면에 AI가 등장했다는 평가도 잇따랐다. 10일(현지시간) 스웨덴 스톡홀름 콘서트홀에서 열린 노벨상 시상식 후 마련된 연회에서는 급속도로 발전하는 AI에 대한 위험을 경고하는 목소리가 터져 나왔다. 대표적인 ‘AI 종말론자’인 힌턴 교수는 이 자리에서 인간의 지능을 뛰어넘는 ‘슈퍼인텔리전스’(초지능·super-intelligence)의 등장을 우려하면서 “우리에게는 실존적 위협이 있다”고 운을 뗐다. “우리가 이를 통제할 수 있을지는 알 수 없다”면서 “단기적 이익에 동기 부여된 기업이 이런 기술을 만든다면 우리의 안전이 최우선 순위가 되지 않을 것이라는 증거가 있다”고 지적했다. 이어 “이 새로운 존재가 통제권을 장악하려는 것을 막기 위한 연구가 시급하다”면서 “이건 더 이상 공상과학 소설이 아니다”라고 경고했다. 힌턴 교수가 전망하는 가까운 미래는 감시, 통제가 일상화한 디스토피아와는 또 다른 양상이다. 그는 “가까운 미래에는 AI가 끔찍한 신종 바이러스와 누구를 죽이고 불구로 만들지 결정하는 상살무기를 만드는 데 사용될 수 있다”면서 “이러한 모든 단기적 위협에 대해 국제사회와 각국 정부가 큰 관심을 갖고 긴급히 움직여야 한다”고 강조했다. 노벨경제학상 수상자인 다론 아제모을루 미국 매사추세츠공대(MIT) 교수도 이 자리에서 위협받는 민주주의, 기후 변화 등과 AI를 인류가 당면한 과제로 꼽으면서 “이제 AI는 모든 곳에서 모든 것을 (혼란에) 빠뜨릴 것을 예고하고 있다”고 경고했다. 그는 “우리는 더 나은 제도를 만들고 더 많은 좋은 일자리를 창출하는 기술의 방향을 선택할 수 있다”면서 “학자들이 AI 시대에 공동 번영을 보장하는 질문을 던지고 새로운 영역을 탐구하며 노력해야 한다”고 짚었다. 반면 노벨화학상을 받은 베이커 교수는 “오늘 밤 미래에 대한 희망에 초점을 맞추고자 한다”면서 공동 수상자인 허사비스 CEO와 연구원 점퍼를 거론하며 “(우리 연구가) 생물학 연구에 혁신적인 영향을 미치고 있으며 의심할 여지 없이 신약 개발에 기여할 것으로 믿는다”고 밝혔다. 구글 딥마인드는 바둑 AI ‘알파고’로 우리에게 익숙하지만 2억 단백질 구조를 분석하는 AI ‘알파폴드’ 모델을 내놓으면서 인류가 직면한 질병, 환경 문제 등에 대응하는 새로운 길을 열었다. 그는 AI 개발의 긍정적인 측면을 제시하며 “세상을 더 나은 곳으로 만들 것이라고 확신한다”고 덧붙였다.

지난 10월 초 올해 노벨 물리학상, 화학상을 인공지능(AI) 분야 연구학자들이 수상했다. 인공지능 분야 연구역사가 다른 기초과학에 비해 짧다는 점을 고려하면 매우 이례적인 일이지만, 그만큼 인공지능 관련 과학기술이 향후 세계 각 국가의 역량과 경제성장에 여러 측면에서 큰 영향을 미칠 중요한 기술이라는 것을 의미한다. 우리 정부도 인공지능 분야의 국제적인 주도권 선점을 위해 지난 9월 대통령을 의장으로 하는 민관 합동의 ‘국가인공지능위원회’를 출범시키고 본격적인 지원 정책 등을 추진 중이다. 하지만 최근 노벨상을 수상한 제프리 힌턴 캐나다 토론토대 명예교수는 인공지능 기술발달로 인해 발생할 수 있는 여러 사회적 위험성에 대비해야 한다고 경고했다. 국민의 일상생활과 직결되는 중요한 위험 요소 중 하나가 인공지능 시대의 개인정보 침해 문제이다. 생성형 인공지능의 성능을 향상시키기 위해서는 많은 양의 데이터를 학습시켜야 한다. 나아가 개인에게 맞춤형 서비스를 제공하는 최상의 인공지능 서비스를 제공하려면 개인정보를 학습시키는 것이 필수적이다. 인공지능이 결합한 맞춤형 의료서비스 로봇, 자율주행 차량 등 미래 인공지능 최첨단 기술들은 최종적으로 개개인의 구체적인 정보들이 학습돼야 완성될 수 있다. 개인정보의 활용 가치가 더 높아진 만큼 그 과정에서 발생할 수 있는 권리침해 위험도 커질 수밖에 없다. 특히 생성형 인공지능은 정보처리 범위가 광범위하고 개발자나 서비스 제공 사업자도 그 처리 결과에 대해서 예측할 수 없는 독창적인 결과값을 스스로 생성할 수 있다. 그런 점에서 개인정보의 자기결정권에 대한 권리침해 범위나 양상이 광범위하고 다양하게 나타날 수 있다. 개인정보 자기결정권은 헌법상 명문의 규정은 없지만 헌법재판소가 여러 결정 사례에서 헌법상 인격권, 사생활 비밀과 자유 등을 근거로 인정하고 있는 기본권이다. 따라서 국가는 인공지능 기술 발전을 지원하는 동시에 그 과정에서 국민들의 개인정보 자기결정권이 침해되지 않도록 보호해야 할 의무가 있고, 이를 위한 법적 제도적 장치를 마련해야 할 책임이 있음을 의미한다. 2023년 개정된 현행 개인정보보호법에 인공지능 서비스에 대한 개인정보 주체의 권리 확보를 위한 규정이 신설됐다. 개인정보보호위원회도 지난 7월 인공지능 개발과 서비스를 위한 ‘공개된 개인정보’ 처리 기준을 발표하는 등 인공지능의 개인정보 학습과 활용에 대한 구체적인 법적 기준과 절차 등이 단계적으로 마련되고 있다. 그러나 기술 발달 속도에 비해서는 아직 부족한 부분이 많은 것이 사실이다. 제22대 국회에서도 인공지능 산업을 육성하고 지원하기 위한 여러 법안들이 발의됐다. 주로 산업육성과 그 과정에서 발생할 수 있는 위험 통제를 총론적으로 규정하는 내용이 대부분이다. 인공지능법 제정 과정에 개인정보보호법과의 체계적인 검토를 통해 개인정보 침해 위험을 줄일 수 있는 통합적이고 체계적인 법적 시스템이 마련됐으면 하는 바람이다. 생성형 인공지능 시대에 개인정보는 초기 산업화 시대에 석유에 버금가는 중요한 자원이라 할 수 있다. 지나친 규제로 치열한 기술 경쟁이 벌어지는 세계 시장에서 우리의 인공지능 산업이 지장을 받아서는 안 되겠지만, 그 과정에서 국민의 기본권이 침해되는 일이 없도록 기술 발전과 위험 관리가 균형을 이룬 법과 제도의 신속한 마련을 기대해 본다. 이문한 개인정보보호위원회 위원·변호사

인류는 인공지능(AI) 기술의 급격한 발전에 따른 시대적 변곡점을 지나고 있다. AI가 모든 분야로 확산되면서 올해 노벨 과학상 3개 중 물리학상과 화학상이 이 분야 연구자들에게 돌아갔다. 노벨위원회는 세상의 근본 다이내믹스에 대해 연구하는 학자에게 수여하는 물리학상을 젠 AI 인공신경망 구조를 설계·구현한 존 홉필드와 제프리 힌턴에게 안겼다. 또 새로운 단백질 구조를 찾아내는 AI 기술로 질병 치료약 발견의 새로운 패러다임을 연 워싱턴대의 데이비드 베이커 교수와 구글 딥마인드의 창업자이자 최고경영자(CEO)인 데미스 허사비스와 그의 동료 존 점퍼를 화학상 수상자로 선정했다. 변혁의 시대에는 자유의 가치가 두드러진다. 올해 노벨 경제학상은 국가 간 부의 차이에 대한 연구를 통해 자유롭고 포용적인 체계를 갖춘 국가가 번영한다는 것을 보여 준 MIT의 다론 아제모을루, 사이먼 존슨 교수와 시카고대의 제임스 로빈슨 교수에게 돌아갔다. 러시아나 중국 같은 톱다운 체계는 일시적으로 자원 분배의 효율성을 높일 수 있지만 이런 성장은 지속 가능하지 않다. 이런 전체주의 국가에서는 누구에게나 혁신을 주도하고 성과를 나눌 수 있는 자유가 주어지지 않기 때문이다. 노벨상 수상자들은 한국의 고도성장에 이르는 과정도 이런 자유가 주어졌기에 가능했던 것으로 해석했다. 혁신의 자유를 존중하는 체계에서는 기존의 시장에서 견고한 입지를 차지한 ‘인컴번트 기업’들도 혁신을 하지 못하면 새로운 혁신 스타트업들에 밀려 역사에서 사라진다. 구글의 등장으로 인터넷 시대 검색을 연 야후가 사라지고, 대화형 AI를 지원하는 오픈AI 등 스타트업들의 등장으로 구글의 독보적인 검색과 주된 수입원인 광고시장이 미래에 위협받는 것이 이런 예다. 또한 AI 때문에 반도체 산업이 CPU 중심에서 AI 가속 반도체인 GPU 중심으로 바뀌면서 관련 기술에 독보적인 엔비디아와 파운드리 기업 TSMC가 시장의 변곡점을 만들어 냈다. 이 두 회사의 현재 시장 가치는 각각 3조 4000억 달러와 1조 달러에 이른다. 한때 1위의 반도체 기업 인텔은 그 가치가 불과 1000억 달러에 불과한 15위로 떨어져 존망의 위기에 빠졌다. 반면 인텔에 밀려 고전하던 2위의 CPU 기업 AMD는 GPU 공급에서 엔비디아 대안 기업으로 부상하면서 시장 가치가 6위로 올라 삼성전자에 근접하고 있다. 또한 메모리 업체들의 시장 영향력은 메모리 칩과 엔비디아 GPU 칩의 패키징까지 담당하는 TSMC 때문에 줄어들 수밖에 없게 됐다. 자유로운 혁신 체계의 근본은 혁신을 선도하는 인재와 도전적 실험에 투자하는 혁신 자본이다. 허사비스와 점퍼가 딥마인드를 인수한 구글의 지원 없이 노벨 화학상 수상이 가능했을까. 화학상 수상자 워싱턴대 베이커 교수는 이 대학의 단백질 설계 연구원에 투입된 공적 연구비와 기부금, 베이커 교수와 이 연구원 출신들이 세운 20개가 넘는 바이오 스타트업에 투자된 벤처자본 없이 가능했을까. 베이커 교수는 올해도 딥마인드 알파폴드에 대적하는 로제타폴드 연구 결과를 바탕으로 10억 달러의 벤처 자본을 유치해 자이라 테라퓨틱스를 공동 창업했다. 기술개발을 선도하는 공동창업자는 CMU에서 박사를 마친 뒤 베이커 교수와 함께 연구하다 최근에는 메타에 몸담았던 헤투 카미세티 박사다. CEO는 제넨테크의 연구를 총괄했던 경력과 여러 바이오 회사 공동창업 경력이 있는 전임 스탠퍼드대 총장 마크 테시어 라빈이 맡았다. 노벨 화학상의 사례는 혁신 연구로 세상을 바꾸려면 뛰어난 인재들이 도전적 실험을 이어 나갈 규모의 자본 파이프라인이 있어야 한다는 것을 보여 준다. 국가 연구비는 혁신의 씨앗을 뿌릴 수 있지만 그 속도와 규모면에서 사적 벤처 자본과 비교가 되지 않는다. 우리도 이런 사적 벤처 자본 파이프라인을 어떻게 만들지 고민해야 한다. 한국의 작가 한강에게 수여된 노벨 문학상도 변하는 세상에서 자유의 가치를 다시 한번 일깨웠다. AI 에이전트와 휴머노이드가 인간을 반복적인 일상으로부터 자유롭게 할 세상에서 인류는 어떤 가치로 새로운 시대를 만들어 가야 할지 고민해야 할 것이다. 차상균 서울대 데이터사이언스대학원 초대원장