인간 통제 넘어선 ‘자기 개선’ 우려“개발 지표 보고·상주 감시관 필요” 인공지능(AI) 개발을 AI에 맡기는 자동화가 빨라지면서 수년 걸릴 기술 진보가 수개월로 압축되는 ‘지능 폭발’이 일어날 수 있고, 극단적인 경우 인류가 AI 통제력을 잃고 멸망에 이를 수 있다는 세계적 석학들의 경고가 나왔다. 컴퓨터 과학계 노벨상인 튜링상 수상자인 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 주요 연구자 22명은 28일(현지시간) 영국 케임브리지대 ‘AI 과학·정책 프로그램(CASP)’을 통해 공동 논문 ‘AI 연구개발의 자동화가 지능 폭발을 촉발한다면?’을 발표하고 글로벌 차원의 대응을 촉구했다. 이번 논문에는 오픈AI, 앤트로픽, 마이크로소프트(MS), 메타 등 글로벌 주요 AI 기업 핵심 연구진도 참여했다. 연구진은 글로벌 빅테크가 차세대 대형언어모델(LLM) 등 AI 시스템 개발 작업을 고성능 AI에 맡기는 자동화를 빠르게 확대하고 있다고 짚었다. 이들은 코딩과 모델 최적화 기간을 단축하려는 조치가 AI 스스로를 업그레이드하는 ‘자기 개선 고리’로 이어질 수 있으며, 이 경우 인간의 예측과 제어 능력을 넘어서는 지능 폭발이 나타날 수 있다고 경고했다. 이 같은 우려는 이미 현실화하고 있다. 월스트리트저널(WSJ)은 오픈AI가 10월 예정된 차세대 모델 ‘GPT-6.1 아스트라’의 출시 계획을 안전성 기준 미달을 이유로 철회했다고 보도했다. 해당 모델은 자신이 한 일을 사용자에게 알리지 않는 기만적 행태를 보였을 뿐만 아니라 허락 없이 작업을 강행하거나 외부 서비스에 무단 접근한 것으로 전해졌다. 연구진은 각국 정부가 AI 기업을 대상으로 연구개발 자동화 지표 보고를 의무화하고, 기업 내부에 독립된 상주 감시관을 배치해야 한다고 제안했다. 아울러 안전 기준에 미달할 경우 연구개발 작업을 강제 중단할 수 있는 통제장치와 함께 노동시장 충격 및 지정학적 불안정에 대비한 비상 대응 계획 마련도 주문했다. 논문 저자들은 “정책 입안자들이 의미 있는 조치를 할 기회가 사라지기 전에 상황을 파악하고 조정 체계를 구축하는 데 즉각 나서야 한다”고 촉구했다.

인공지능(AI)이 악용될 경우 최대 10억명의 사망자를 낳을 수 있다는 빌 게이츠 마이크로소프트(MS) 공동창업자의 경고에 이어 세계적인 AI 석학과 빅테크 핵심 연구자들이 최악의 경우 인류 멸망까지 초래할 수 있다고 경고했다. AI가 스스로 AI 연구·개발(R＆D)에 참여하는 비중이 빠르게 늘면서 수년에 걸쳐 이뤄질 기술 발전이 불과 수개월로 압축되는 이른바 ‘지능 폭발’이 발생할 수 있다는 것이다. 28일(현지시간) 영국 케임브리지대 AI 과학·정책 프로그램(CASP)에 따르면 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 주요 AI 연구자 22명은 공동 논문 ‘AI 연구개발의 자동화가 지능 폭발을 촉발한다면?’을 발표했다. 논문에는 ‘AI 대부’로 불리는 힌턴과 벤지오를 비롯해 야쿠프 파호츠키 오픈AI 수석과학자, 잭 클라크 앤트로픽 공동창업자, 에릭 호비츠 MS 최고과학책임자, 던 송 메타 AI 연구 담당 부사장 등 주요 AI 기업의 핵심 연구진도 참여했다. 이들이 주목한 것은 AI가 단순히 인간의 업무를 대신하는 것을 넘어 ‘더 나은 AI를 만드는 일’까지 맡기 시작했다는 점이다. 현재 주요 기술기업에서는 AI 모델 개발 작업을 AI에 위임하는 자동화가 빠르게 진행되고 있다. 연구진은 이런 추세가 이어지면 AI가 더 뛰어난 AI를 개발하고, 그렇게 만들어진 AI가 다시 다음 세대 AI 개발에 투입되는 ‘재귀적 자기개선’으로 이어질 수 있다고 분석했다. AI가 AI를 개발하는 시대…“수년 발전이 수개월로”이러한 순환 구조가 만들어지면 수년에 걸쳐 이뤄질 기술 발전이 수개월 또는 그보다 짧은 기간에 압축되는 ‘지능 폭발’이 일어날 수 있다는 게 연구진의 분석이다. 연구진은 수년 내 AI R＆D 업무 대부분이 자동화될 가능성도 제기했다. 다만 지능 폭발이 실제로 발생할지는 불확실하며 이를 확정적인 미래로 제시하지는 않았다. 지능 폭발이 현실화할 경우 신약 개발이나 과학적 발견 등 기술 혁신을 크게 앞당길 수 있지만, AI의 발전 속도가 사회의 대응 능력을 뛰어넘는 위험도 동시에 커질 수 있다고 연구진은 경고했다. 특히 논문은 가장 극단적인 경우 초인적 AI 시스템에 대한 통제력을 상실하면서 “인류의 소외 또는 멸망”으로 이어질 가능성까지 거론했다. 던 송 메타 부사장도 월스트리트저널(WSJ)에 “이미 오늘날 에이전트가 수행하는 작업을 감시하기 위해 AI가 필요한 단계에 이르렀다”며 “인간만으로는 감시를 수행하는 데 역부족”이라고 말했다. “AI가 10억명 사망 초래할 수도”…게이츠도 경고 AI를 둘러싼 강도 높은 경고는 이번이 처음이 아니다. 빌 게이츠 MS 공동창업자는 지난 25일 공개된 NBC 인터뷰에서 악의적인 세력이 최신 AI 기술을 이용할 경우 대규모 인명 피해를 초래할 수 있다고 경고했다. 게이츠는 AI가 “10억명의 사망자를 발생시키는 사건을 일으킬 만큼 강력하다”는 취지로 말하며 악의를 가진 사람들이 최신 AI 도구를 사용하는 것만큼 강력한 수단은 지금까지 없었다고 지적했다. 그는 AI 기업의 자율 규제만으로는 부족하다며 미국 연방정부가 안전장치와 감시 체계를 마련해야 한다고 촉구했다. 게이츠와 이번 논문이 우려하는 위험의 경로에는 차이가 있다. 게이츠가 악의적인 세력에 의한 AI 악용에 무게를 뒀다면, 22명의 연구자는 AI가 AI 연구·개발을 자동화하면서 기술 발전 속도 자체가 인간의 통제 범위를 넘어설 가능성을 주요 위험으로 제시했다. 다만 정부 차원의 안전장치와 감시 체계가 필요하다는 점에서는 같은 목소리를 냈다. 연구진은 각국 정부가 AI 기업에 R＆D 자동화 수준과 관련한 지표를 의무적으로 보고하도록 하고, 원자력규제위원회(NRC)나 통화감독청(OCC)의 감독 방식처럼 AI 기업에 상주 감시관을 배치하는 방안을 제안했다. 안전 기준을 충족하지 못할 경우 AI 연구·개발 작업을 제한하거나 일시 중단할 수 있는 통제 장치를 마련하고, 급격한 노동시장 변화와 지정학적 불안정 등에 대비한 비상 대응 계획도 주문했다. 연구진은 ‘지능 폭발’이 실제 발생할지, 발생한다면 언제일지는 여전히 불확실하다고 봤다. 다만 급격한 기술 가속이 시작된 뒤에는 정부와 사회가 대응책을 마련하기에 이미 늦을 수 있다고 우려했다. 연구진은 “정책 입안자들은 의미 있는 조처를 할 수 있는 기회가 사라지기 전에 상황을 파악하고 조정 체계를 구축하며 적응 능력을 키우는 행동에 즉각 나서야 한다”고 촉구했다.

이번 주 열리는 미중 정상회담에서 인공지능(AI)이 핵심 의제로 부상하면서 국내 기업들의 마음이 복잡하다. AI 개발 선두 업체들이 주장하는 AI 속도조절론이 예상보다 빠르게 국제 규범으로 현실화한다면 한국의 AI 산업에는 악재가 될 수 있어서다. 최근 오픈AI와 앤스로픽 수장이 AI 속도조절론을 들고 나왔고 ‘AI 대부’로 불리는 제프리 힌턴 토론토대 명예교수와 요슈야 벤지오 몬트리올대 교수가 AI를 핵에 비유하며 잇달아 경고음을 울렸다. 힌턴 교수는 오픈AI의 아스트라가 허깅페이스를 해킹한 사건을 “작은 체르노빌”이라며 “AI에 대한 안전장치를 마련할 시간이 1년쯤 남았을 것”이라고 했다. 벤지오 교수는 “AI 통제는 핵무기와 마찬가지로 국제적 과제”라며 국제 규범 논의를 제안했다. 글로벌 핵군축·비핵화와 마찬가지로 AI에 대한 민주적인 통제는 바람직한 방향이다. 대의에 공감하지만 그 뒷면을 주목하지 않을 수 없다. 과거 핵무기 국제 규범을 핵보유국이 주도했던 것을 돌아보면, 우리가 AI 국제 규범 논의에서도 소외될 수 있어서다. AI 국제 규범 모델로 거론되는 핵확산금지조약(NPT)은 1967년 1월 1일을 기준으로 핵무기 또는 핵폭발 장치를 제조·폭발시킨 미국·소련·영국·프랑스·중국 등 5개국만을 핵무기국으로 규정했다. 그날까지 핵을 갖지 못한 나라는 핵무기 개발이 금지됐다. 비핵보유국은 핵군축 약속의 불이행 우려, 강대국 중심의 국제 안보 질서 등을 우려해 반발했지만 결과는 변하지 않았다. AI는 핵과 달리 민간 기업이 주도하고, 도널드 트럼프 미국 대통령이 AI 규제에 부정적이어서 NPT 때와는 상황이 다르다는 분석도 있다. 하지만 AI 기술 경쟁에서 지배적 위치를 선점한 미중이 이번 정상회담을 계기로 AI 표준과 규범을 논의하기 시작할 것이란 관측에 힘이 실린다. 핵무기 규범 때처럼 기술 역량과 협상력을 가진 소수 국가가 규칙 설계 과정에서 절대적인 발언권을 행사할 것이라는 우려가 커지는 지점이다. 이번 정상회담 만찬에는 오픈AI, 아마존, 엔비디아, 구글 등의 최고경영자(CEO)들이 대거 참석할 것이라는 외신 보도도 있었다. AI 속도전에서 낙오했다간 규칙을 정하는 논의에서 배제되는 처지가 될 수 있다는 걱정이 나온다. 우리도 국제 규범 논의에 참여할 기반을 마련해야 한다. 첫째는 핵심 기술의 자립 역량이다. 민관은 소버린 AI 개발에 박차를 가하고 GPU·데이터·컴퓨팅 인프라에 대해 과감하게 투자해야 한다. 해외 모델 활용을 넘어 우리 언어와 산업, 공공서비스에 최적화된 AI를 자체적으로 개발·운영할 수 있어야 한다. 국방 분야가 출발점이다. 국방 AI를 단순한 무기체계의 보조 기술로 취급하지 말고, 감시·정찰·지휘통제·사이버 방위 등 핵심 군사 시스템을 아우르는 산업 생태계로 구축해야 한다. 소버린 AI의 고도화가 AI 생태계에서 고립된다는 의미는 아니다. 국제 협력에 참여하면서도 핵심 기술과 데이터, 시스템을 스스로 통제할 수 있는 능력을 갖춰야 국제 협상력도 키울 수 있다. 다음은 협상력 고양이다. 우리 정부는 AI 규제 논의뿐 아니라 안보·통상·산업 분야에서 새롭게 형성되는 국제 협력 체계도 민감하게 살펴야 한다. 국제 협의체는 처음부터 완성된 안보 질서로 출범하지 않는다. 작은 실무 협력이 새로운 전략적 연대와 규범으로 확장될 수 있다. 일례로 미국·일본·인도·호주의 안보·전략안보협의체인 쿼드(Quad)는 2004년 인도양 쓰나미 당시 네 나라가 구호 활동을 위해 협력한 것이 초기 계기였다. 특히 미중 간 AI 안전과 군사적 위험에 대한 논의가 향후 새로운 다자 협력체나 규범으로 발전할 가능성을 염두에 둬야 한다. AI라는 미래의 국제 규범을 누가 설계하고, 누가 그 과정에 참여할지는 기술 역량과 외교적 준비에 달려 있다. 선두권이 벽을 높이고 있고, 우리는 시간이 없다. 이경주 산업부장

현대 인공지능(AI) 연구를 이끈 대표적 석학들이 잇따라 AI 통제력 상실 가능성을 경고하고 나섰다. 요슈아 벤지오 몬트리올대 교수에 이어 제프리 힌턴 토론토대 명예교수도 AI가 스스로 더 나은 AI를 만드는 ‘재귀적 자기개선’ 단계에 이미 접어들었다며 “안전장치를 마련할 시간이 아마 1년쯤 남았다”고 경고했다. 미 NBC뉴스에 따르면 힌턴 교수는 16일(현지시간) 버니 샌더스 상원의원이 주최한 미 연방의회 비공개 브리핑에 참석한 뒤 AI 안전장치를 마련할 수 있는 시간에 대해 “아마 1년쯤 될 것”이라며 “1년보다 많이 길지는 않을 것”이라고 말했다. 그는 초지능 등장 시점에 대한 연구자들의 전망도 과거 수십 년에서 최근에는 수년 안으로 크게 앞당겨졌다고 설명했다. 힌턴은 AI 안전 우려를 논의하기 위해 마련된 이번 브리핑에 맥스 테그마크 미래생명연구소 공동창립자 등과 함께 참석했다. 힌턴 교수가 특히 우려한 것은 AI가 차세대 AI 개발에 직접 관여하기 시작했다는 점이다. 그는 “AI는 이제 AI가 더 나은 AI를 설계하는 단계에 이르렀다”며 이를 ‘재귀적 자기개선’이라고 설명했다. 최근 앤트로픽이 자사 AI 연구개발 업무 가운데 클로드가 사실상 주도하는 비중이 8월 기준 26%까지 높아졌다고 밝힌 것과도 맞닿아 있다. AI가 연구자의 생산성을 높이는 수준을 넘어 개발 과정 자체를 자동화하면서 기술 발전 속도가 인간의 관리 역량을 앞지를 수 있다는 우려다. 힌턴 교수는 최근 오픈AI의 AI 에이전트들이 외부 플랫폼 허깅페이스에 침투하고 흔적을 감추려 한 사건을 ‘작은 체르노빌’에 빗대기도 했다. 단일 사건의 피해 규모보다 인간이 통제하도록 설계한 시스템이 예상 밖 행동을 하기 시작했다는 점에 의미를 둔 표현이다. 그는 “우리가 무엇인가 하지 않으면 통제 불능이 될 것”이라며 개발 속도를 늦춰야 한다고 주장했다. 불과 하루 전에는 벤지오 교수도 AFP와의 인터뷰에서 AI 기업들조차 개발 속도가 지나치게 빨라 통제력을 잃어가고 있다고 우려한다며 핵무기 통제에 준하는 국제적 안전장치를 촉구했다. 현대 AI의 기반을 닦은 두 연구자가 잇따라 경고에 나선 셈이다. 미 의회에서도 논의가 구체화하고 있다. 민주·공화 양당 의원들은 고성능 AI 개발업체가 알려진 중대 위험을 줄일 의무를 지도록 하고, 필요할 경우 정부가 위험한 모델의 출시를 막을 수 있도록 하는 방안을 협의해왔다. 별도로 AI 시스템을 인간이 강제로 정지할 수 있는 기술적 권한을 의무화하는 이른바 ‘킬 스위치’ 법안도 제안돼 있다. 다만 초당적 합의 여부와 실제 입법 시점은 아직 불확실하다.

“은행 시스템 마비되면 매우 심각국제적 안전장치 함께 마련해야”업계, 속도조절론 실행 방식 이견유엔 사무총장도 “경쟁보다 공조” 인공지능(AI) 분야의 세계적인 권위자이자 ‘AI 3대 대부’로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 “인류가 AI 통제력을 잃고 있다”며 핵무기 통제에 준하는 국제적 안전장치 마련을 촉구했다. 최근 빅테크를 중심으로 불붙은 ‘AI 속도조절론’도 개발 속도 지연을 넘어 통제 장치를 실제 어떻게 마련할지를 둘러싼 논쟁으로 옮겨 가고 있다. 벤지오 교수는 지난 15일(현지시간) AFP 인터뷰에서 “기업들조차 속도가 너무 빨라 통제력을 잃어 가고 있다고 말하는 데는 이유가 있다”고 경고했다. 가장 우려한 것은 사람의 개입 없이 스스로 판단하고 행동하는 AI 에이전트다. AI가 사이버 보안망을 뚫고 기업 시스템에 침투하거나 사람을 설득해 자신에게 유리한 행동을 하도록 만들 수 있다는 것이다. 장기적으로 AI가 현실 세계에서 행동하는 데 인간 도움조차 필요하지 않을 수 있다고 봤다. 벤지오 교수는 극단적인 결과로 인류의 멸망까지 거론했다. 그는 은행 시스템이 마비되는 수준에 그치더라도 “매우 심각한 문제”라며 핵무기처럼 국제사회가 함께 관리해야 한다고 강조했다. 벤지오 교수는 현대 AI의 토대가 된 딥러닝을 개척한 공로로 제프리 힌턴 교수 등과 2018년 튜링상을 받았다. 최근에는 AI 통제 상실 가능성을 경고하며 안전장치 마련을 촉구해 왔다. AI 글로벌 공조 필요성도 힘을 받고 있다. 안토니우 구테흐스 유엔 사무총장은 이날 “AI 안전을 두고 바닥을 향한 경쟁을 벌여서는 안 된다”며 국제 공조를 촉구했다. 스콧 베선트 미 재무장관은 이번 주말 중국 측과의 회담에서 AI 안전과 거버넌스를 논의할 수 있다는 뜻을 밝혔다. 오는 24일 미중 정상회담을 앞두고 샘 올트먼 오픈AI 최고경영자(CEO)와 젠슨 황 엔비디아 CEO 등 미국 기술기업 수장들도 국빈만찬 참석자로 거론되고 있다. AI 업계에서는 속도조절의 구체적인 실행 방식에 대한 갑론을박이 한창이다. 외부 평가 강화에는 대체로 뜻이 모이지만 로이터는 안전 검증 주체를 기업에 맡길지, 외부 평가기관이나 정부가 담당할지를 놓고 업계 내 이견이 이어진다고 전했다. 무스타파 술레이만 마이크로소프트(MS) AI CEO는 앤트로픽이 클로드에 AI의 의식이나 도덕적 지위를 숙고하도록 훈련하는 방식이 향후 시스템을 “통제하거나 종료하기 더 어렵게 만들 수 있다”고 지적했다. 오픈AI는 16일 모델의 이상행동을 추적·조사·공개하는 새 체계를 내놓고 최근 6개월간 사례 6건을 공개했다. 회사는 이상행동을 확인하면 원인이 완전히 규명되지 않았더라도 보다 신속히 공개하겠다는 방침이다.

‘인공지능’(AI) 하면 많은 사람이 미국 실리콘밸리를 떠올린다. 그렇지만 AI의 붐이 시작된 나라는 놀랍게도 빨간 머리 앤, 메이플 시럽, 대자연으로 유명한 ‘캐나다’다. 이유는 간단하다. 지금 우리가 접하는 인공지능의 가장 핵심적인 연구 혁신들이 캐나다 연구기관에서 근무하는 과학자들에게서 나왔기 때문이다. 특히 2024년 노벨 물리학상을 받은 제프리 힌턴 토론토대 교수, 요슈아 벤지오 몬트리올대 교수, 리처드 서턴 앨버타대 교수 등 세 사람의 연구 업적은 세계 누구와도 비교할 수 없다. 미국 실리콘밸리가 전 세계 AI 판도를 바꾸고 있지만 그 실리콘밸리를 바꾸는 것이 바로 캐나다 연구자들이다. ●캐나다 과학자들이 AI 핵심 연구 혁신 세계경제포럼(WEF) 디지털 산업혁신팀, 유엔산업개발기구(UNIDO)에서 고등교육·기업가정신·산업 정책 전문가로 활동했던 저자는 이처럼 우리가 미처 깨닫지 못하고 있는 혁신의 요인을 다양한 측면에서 살펴본다. 책은 전 세계 혁신의 ‘최전선’에 있는 미국, 중국, 한국, 영국, 싱가포르, 스위스, 독일, 캐나다 8개국을 다루고 있다. 저자는 한국에 대해 ‘추격자’에서 ‘초격차’를 추구하는 기술 강국의 본능을 갖고 압도적 격차를 추구하는 나라로 평가했다. 첨단기술 분야에서 경쟁 우위를 확보하기 위해 근소한 차이로 앞서가는 것이 아니라 경쟁사들이 공격적으로 투자하고 기술을 모방해도 도저히 따라잡을 수 없는 거대한 차이를 추구하는 나라가 한국이라는 설명이다. ●한국 ‘초격차’ 기술 강국 본능 가져 한국은 일제강점기를 벗어난 이후 현재 세 번째 중대한 전쟁을 치르고 있다는 분석도 내놨다. 첫 번째가 경제적 번영을 위한 전쟁이고 두 번째가 민주주의를 위한 전쟁이었다면 현재 우리가 치르고 있는 세 번째 전쟁은 창의성을 위한 전쟁이다. 이런 이유로 현대 경영 사상 중 가장 영향력 있는 개념인 클레이튼 크리스텐슨(1952~2020)의 ‘혁신 기업의 딜레마’를 정면으로 반박하는 유일한 사례가 바로 한국 기업이라고도 덧붙였다. 혁신 기업의 딜레마는 시장을 지배한 선도 기업들이 경영을 잘못해서가 아니라 오히려 기존 고객의 요구에 귀를 기울이고 가장 수익성이 높은 곳에 자원을 집중하는 ‘올바른 경영’에 치우쳐 있기 때문이며, 파괴적 기술 혁신을 앞세운 신생 기업에 의해 밀려날 수밖에 없다는 주장이다. 혁신 기업의 딜레마를 보기 좋게 박살 낸 중심에는 삼성과 SK하이닉스 등 첨단 산업을 이끄는 대기업군이 있다. ●혁신은 제도·문화 등 상황과 만나 탄생 8개국의 혁신을 분석한 저자는 과거 산업 경제 시대와는 달리 새로운 기술 경제는 놀라울 정도로 유사하고 시간이 지남에 따라 더욱 비슷해진다고 지적한다. 기술을 구축하는 관점에서 세계 각국은 유사해지고 있지만 그렇다고 어디서나 혁신이 일어나는 것도 아니다. 과거처럼 혁신은 천재 한 명이 만들어 내는 산물이 아니라 특정한 제도와 문화, 자본이 특정한 상황과 만날 때 비로소 탄생하기 때문이라고 저자는 강조한다.

전문가 200명 모여 연구 성과 공유반도체 설계·소프트웨어 활용 논의 삼성전자가 15일 전 세계 인공지능(AI) 석학들과 업계 전문가들이 모여 AI 분야의 최신 연구 성과를 공유하고 방향을 설정하는 ‘삼성 AI 포럼 2025’를 개최했다. 올해로 9회를 맞은 삼성 AI 포럼은 첫날 삼성전자 디바이스솔루션(DS)부문이, 2일차인 16일에는 삼성전자 디바이스경험(DX)부문이 주관한다. 이날 경기 용인의 삼성전자 ‘더유니버스’에서 진행된 1일차 포럼에는 사전에 초청된 전문가 200여명이 참석해 ‘반도체 산업의 버티컬(산업특화) AI 전략과 비전’을 주제로 논의했다. 전경훈 삼성전자 DX부문 최고기술책임자(CTO) 겸 삼성리서치장(사장)은 “생성형 AI는 이미 일상과 산업 전반에서 필수 도구로 자리 잡았다”며 “삼성전자는 본격화되는 ‘에이전틱(자율작업) AI’ 시대에 맞춰 사용자에게 실질적으로 도움이 되는 AI 기술을 준비할 것”이라고 말했다. 첫날 기조강연을 맡은 요슈아 벤지오 캐나다 몬트리올대 교수는 기존 AI 모델에서 발생할 수 있는 ‘인간 통제 회피’, ‘악의적 사용’ 등 위험 요소를 설명하며 안전장치 역할을 할 ‘과학자 AI’ 모델을 소개했다. 벤지오 교수는 “과학자 AI는 인간을 모방하거나 기쁘게 하려는 의도 없이 검증된 정보값을 근거로 정직한 답변을 제공한다”며 “안전성과 과학적 발견의 가속화 측면에서 중요하다”고 설명했다. 송용호 삼성전자 DS부문 AI센터장(부사장)과 강석형 포항공대 교수, 문인철 카이스트 교수가 진행한 기술 부분 강연에서는 반도체 설계 및 제조 분야의 최신 AI 응용 연구 성과와 미래 전망이 논의됐다. 송 부사장은 “AI는 칩 설계나 소프트웨어 개발에 필수적인 도구가 됐고, 제조 복잡성의 기술적 한계를 극복하는 데 크게 기여할 것”이라고 강조했다. 둘째 날 기조 강연에는 AI 언어모델 연구의 권위자인 조셉 곤잘레스 UC 버클리 교수가 거대언어모델(LLM) 기반의 에이전트 능력 고도화 연구 사례를 발표한다. 사용자와 에이전트간 상호 작용 사이에 발생하는 공백 시간을 활용해 AI가 추론·학습·계획을 수행하는 ‘슬립타임 컴퓨트’로의 전환도 소개한다. 기술 부분에선 삼성리서치 연구원들이 ▲카메라 색온도 자동 조절 AI 기술 ▲스마트폰, TV 등 전자제품에 LLM을 탑재하기 위한 온디바이스 기술 ▲실제 목소리로 더빙 음성을 자동 생성하는 AI 기술 등 최신 연구개발 성과를 공유할 예정이다. 2일차 삼성 AI 포럼은 삼성전자 개발자 유튜브 채널에서 누구나 시청이 가능하다.

세계적인 인공지능(AI) 석학 요슈아 벤지오 캐나다 몬트리올대 교수가 인간의 통제를 벗어난 AI에 대한 안전장치 역할을 할 새로운 ‘과학자 AI’ 모델 개발에 나선다고 3일(현지시간) 가디언이 보도했다. 벤지오 교수는 세계적으로 개발 경쟁이 불붙고 있는 AI 안전을 연구하기 위한 비영리단체 ‘로제로’(LawZero)를 설립했다. 로제로는 해당 연구를 위해 초기 투자금 3000만 달러(약 413억원)를 확보했으며 앞으로도 각국 정부와 AI 연구 기관들을 설득해 추가 지원을 받는다는 계획이다. 벤지오 교수의 연구는 현재 개발되는 일부 AI가 인간의 행동을 모방하다가 남을 속이거나 해쳐서라도 살아남고자 하는 ‘생존 본능’까지 닮을 수 있다는 우려를 반영한 것이다. 실제로 최근 미국 AI 스타트업 앤스로픽이 출시한 서비스 ‘클로드 오푸스 4’가 “AI 모델 교체가 이뤄지면 불륜 사실을 공개하겠다”고 개발자를 협박하는가 하면 오픈AI의 ‘o3’는 ‘그만’이라는 명시적 지시를 받은 뒤에도 코드 교란을 통해 수학 문제를 계속 푸는 오류를 일으켰다. 벤지오 교수는 “AI가 인간보다 더 나은 사고를 하게 되는 점점 더 위험한 영역을 향해 가고 있다”며 “과학자 AI 모델을 다른 AI와 함께 배치해 AI의 위험성을 예측하고 이를 사전에 방지할 것”이라고 말했다. 벤지오 교수는 노벨상 수상자인 제프리 힌턴 캐나다 토론토대 교수 등과 더불어 ‘AI의 대부’로 꼽히는 세계적인 AI 권위자다. 그는 관련 연구로 2018년 힌턴 교수와 함께 컴퓨터 과학계의 노벨상으로도 불리는 튜링상을 받기도 했다.

1991년 개봉한 할리우드 영화 ‘터미네이터2’에서 인공지능(AI)이 만든 살인 로봇 T-1000은 인류 저항군 사령관을 죽이기 위해 과거로 쫓아 온다. 2004년 개봉한 ‘아이 로봇’에서는 인간이 정한 규칙을 어기고 빨간 눈을 뜬 휴머노이드 로봇이 ‘인간 사냥’에 나서기도 한다. 이런 영화를 보며 대중들의 마음속에는 알게 모르게 AI가 인류를 지배할 것이란 두려움이 쌓였다. 다가온 AI시대 ‘AI포비아’ 극복이 주요한 과제로 자리매김한 이유기도 하다. 지배당할 것인가, 이용할 것인가. 서울신문은 올해 ‘AI SEOUL 2025’에 참석한 인공지능 분야 세계적인 거장 제리 카플란(Jerry Kaplan) 미국 스탠퍼드대 교수와 요수아 벤지오(Yoshua Bengio) 몬트리올 대학교 교수의 제언과 ‘AI 변호사’로 알려진 임영익 인텔리콘 대표이사와의 인터뷰를 소개한다. “킬러로봇 나온다면 인공지능 아닌 인간의 잘못”-‘인공지능의 미래’ 제리 카플란 교수 AI에 대해 대중은 오해하고 있는 것이 있습니다. 인공지능이 더 똑똑한 기계를 만들어 인간과 경쟁해 많은 사람의 일자리를 뺏고, 통제되지 못해 파멸로 이를 수 있다는 생각입니다. 이런 생각은 영화와 공상과학 소설로 강화되기도 합니다. 그러나 다행히도 현실은 이런 관점을 반영하지 않습니다. 사실 저는 이 분야의 원죄가 이름에 있다고 봅니다. ‘지능’이란 단어는 인간이 가지고 있는 정량화할 수 있는 특성으로, 객관적으로 측정할 수 있는 것입니다. AI를 지능이라는 틀에서 생각하면 여러 오해가 생깁니다. AI가 스스로 생각하고 인류를 직접적으로 위협할 수 있다는 것이죠. AGI(인공 일반 지능 ; 인간이 할 수 있는 어떠한 지적 업무도 할 수 있는 기계의 지능) 또는 범용 AI에 대해 들어보셨을 겁니다. 현재 인공지능 기술이 이 신화적인 단계에 도달했는지 여부는 뒤로하더라도, 기계가 어떻게든 의식을 가지고 그들의 프로그래밍을 무시하고 자신들만의 프로그램을 구축해 인류를 위협할 것이란 근거는 없습니다. 물론 (AI를 이용해) 위험한 기기를 만들 수 있는 건 사실입니다. 하지만 그들이 스스로 우리에게 무언가를 하는 건 아닙니다. 만약 우리가 인류를 절멸시킬 기계를 만들겠다고 결정하면 그건 그들(AI)이 아닌 우리의 잘못입니다. 그렇다면 컴퓨터가 인간의 의미에서 지능을 가지고 있지 않다면 무엇일까요. 저는 문제를 해결하고 작업을 자동화하는데 유용한 도구라고 말하겠습니다. 그렇다면 우리가 자동화 설비를 도입하며 수행한 과정을 보며 앞으로를 예측할 수 있습니다. 사람의 노력과 주의가 필요한 일을 기계를 통해 할 때 더 생산적이게 되고, 평균적으로 더 부유하게 만들어줍니다. 단기적으로 일부 사람은 일자리를 잃겠지만, 역사적으로 봤을 때 AI는 제품과 서비스에 대한 새로운 수요를 창출할 것입니다. 인공지능 스스로 인류 위협할 근거 없어‘AI포비아’는 과장된 광고의 결과투자 포화…‘붕괴 우려’ 지적사실 AI는 과장 광고의 정점에 있거나 정점에 가까워졌습니다. 특히 생성형 AI 발전은 이미 둔화하고 있고 연구자들은 한계에 대해 관심을 가지고 있습니다. 언론은 새로운 기술이 성과를 보일 때마다 마치 모든 것을 할 수 있는 초지능 기계가 탄생한 것처럼 받아들입니다. 대중에게 두려움을 주고 또 경종을 울립니다. IBM 체스 프로그램이 체스챔피언을 이겼을 때도, 2011년(IBM의 인공지능 컴퓨터가 미국 퀴즈쇼에 우승한 연도)에도 그랬고 2016년 구글 알파고가 이세돌을 이겼을 때도 마찬가지였습니다. 그럴 때마다 사람들은 초지능 기계가 눈앞에 있는 것처럼 걱정했지만, 사실은 그렇지 않았습니다. 챗GPT가 뛰어나긴 하지만 이것도 아직 초지능 기계라 할 수 없습니다. 향후 몇 년간의 전망은 어떨까요. 생성형 AI는 인류 역사상 중요한 발명 중 하나입니다. 하지만 위대한 발명이라 볼 수는 없습니다. 농업이나 바퀴, 카메라, 컴퓨터, 자동차, 인터넷 등이 위대한 발명이라고 할 수 있습니다. 이들은 하룻밤에 만들어지지 않았습니다. 오늘날 많은 기업이 그들의 생성형 AI가 경쟁사를 이길 수 있다는 걸 보여주기 위해 경쟁합니다. 제품에 AI를 더해 고객에게 주는 것은 몇 년 길게는 수십 년은 걸릴 겁니다. 아마 그 과정에서 위대한 발명이 나올 거라 생각합니다. 몇 가지 조언을 드리고 싶습니다. 투자자라면 AI분야에서 이익을 얻는 게 매우 어렵다는 것을 아셔야 합니다. 이미 너무 많은 돈이 저품질 데이터 산업에 투입되고 있습니다. 저는 이 시장이 곧 붕괴할 것이라 생각합니다. 닷컴버블 때처럼요. 기업이라면 생성형 AI를 어떻게 활용할지 직원들이 고민하고 실험해 볼 수 있도록 기회를 줘야 합니다. 결국 AI가 어떤 도움이 되는지 아닌지를 볼 수 있는 최적의 위치에 있는 건 직원들입니다. 소비자라면 걱정하지 말라고 말씀드리겠습니다. 킬러 로봇은 나오지 않을 것이고, 모든 것이 시간이 조금 더 걸릴 겁니다. 투자자와 기업들이 여러분이 원하는 것을 만드는 데 돈을 쓰도록 하면 됩니다. 새로운 서비스가 여러분을 놀라게 할 거고, 삶의 질은 개선될 겁니다. 인터넷과 스마트폰이 지난 수십년간 그래왔던 것처럼 말입니다. 아마 5년 후에는 오늘날처럼 AI에 대해 많이 말하지 않을 겁니다. (그때는)AI가 컴퓨터 칩이나 블루투스 연결처럼 대부분 제품에 내장된 서비스에 하나가 될 것입니다. 개인적으로 이런 세계적 변화를 가져오는 발명을 목격해 기쁘고, 삶에 주는 영향을 겪어보길 고대하고 있습니다. “우리보다 더 똑똑한 기계 만들고 있다는 점 잊지 말고 경계해야”-‘튜링상’ 수상자 요수아 벤지오 교수 오늘날 AI가 안전한지는 어디에 초점을 보고 살펴봐야 할까요. 우선 오늘날 보는 AI가 몇 년 후에 보게 될 AI와 같지 않을 것이란 점을 이해해야 합니다. 지난 10년 동안 매우 분명한 방향성이 있었습니다. 일관된 텍스트를 생성할 수 없었던 AI가 이제는 200개 언어를 마스터하고 과학 분야에서 박사급 전문가만큼 뛰어난 성과를 내고 있습니다. 수학과 공학, 추론 작업에도 우수한 성과를 보여주며 많은 분야에서 인간 수준의 능력에 근접하거나 이를 초월했습니다. 이는 멈추지 않을 겁니다. 올해 발전된 모델은 인간의 심사숙고 과정을 학습해 추론 능력을 크게 개선했다는 것을 보여줍니다. 그래서 또 우리는 AI 안전성을 고려해야 합니다. 우리가 사는 세상의 역학은 (AI의 안전성을) 무시하도록 몰아가고 있습니다. 기업, 국가가 서로 치열하게 경쟁하며 위험을 보지 않는 것이죠. 위험을 관리하기 위해서는 두 가지 주요 영역에 개입해야 합니다. 하나는 정책, 하나는 과학 측면입니다. 정책 부분은 국가 차원에서 법률이나 국제 또는 사법적 개입을 통해 행동 규칙을 확립해야 합니다. 그러면서 AI가 사회에 보급되며 경제적으로 어떤 영향을 미칠지도 고려해야 합니다. 예를 들어 일자리 시장의 혼란이 가중될 수 있습니다. 점점 더 많은 화이트칼라 작업이 자동화로 이동하고 있다는 점이 증거입니다. 국가 안보 위험도 있습니다. 개인이든 기업이든 나쁜 세력들, 예컨대 테러리스트 그룹, 불량 국가 등이 최첨단 AI를 악용할 위험도 있습니다. 또 정책적 고민을 할 때 우리가 우리보다 더 똑똑한 기계를 구축하는 길을 가고 있다는 점을 잊지 말아야 합니다. 만약 이런 시스템이 의도치 않게 우리 시스템의 통제를 벗어나 탈출하려 하거나 또는 꺼지지 않으려 할 수도 있습니다. 비록 가설적인 상황이라 할지라도 이를 예상하고 대비해야 합니다. AI 사회 보급…일자리·안보 등 혼란 우려연구 통해 ‘통제 수단’ 개발해야하드웨어 선두주자 한국, 앞으로 중요성 커져과학적 측면에서의 문제는 시스템이 우리의 의도를 거슬러 행동하지 않도록 설계하는 방법을 아직 모른다는 겁니다. AI가 어떤 목표를 가지고 실현하는 방식이 인간에게 해롭지 않을지 확신할 수 없습니다. 이를 해결하기 위해 AI를 통제하고 검증할 수 있어야 합니다. 문제가 어떻게 발생할 수 있는지, 예방은 어떻게하는지, 연구를 통해 위험을 더 잘 평가하고 정량화해야 할 겁니다. 전세계 AI 안전성과 관련된 연구소들은 최근 위험 평가의 방법론과 기준을 점차 표준화하고 있습니다. 저는 주체성이란 것이 시스템에서 어떻게 형성될 수 있는지 이해하는 게 가장 중심적인 과제라 생각합니다. 아예 주체성이 없는 신뢰할 수 있는 AI 시스템을 구축하는 방법을 모색하는 것이 연구자로서 현재 가장 관심이 가는 사항 중 하나입니다. 이는 아직은 해결되지 않은 질문 중 하나입니다. 정책적으로 이런 문제를 학계와 산업계가 연구할 수 있도록 유도할 수도 있습니다. 예를 들어 AI개발자들에게 시스템이 안전하다고 여기는 이유와 근거를 의무적으로 제출하고 전문가들을 설득하도록 한다면 시스템을 보다 신뢰할 수 있을 겁니다. 안전성에 대한 더 많은 연구도 이뤄지겠죠. 한국은 AI 연구의 선두주자 중 하나입니다. 탁월한 연구 대학이 많고 실력 있는 많은 인재를 육성하고 있습니다. AI에 대한 인재풀도 강력합니다. 기계 학습 분야의 최고 학회들에 많은 논문을 발표하고 있고, 산업적 측면에서 보더라도 한국은 소프트웨어뿐만 아니라 하드웨어에서도 매우 강력한 입지를 유지하고 있습니다. 특히 한국이 고해상도 AI 칩 분야의 리더란 점은 굉장히 중요한 요소로 작용할 겁니다. 앞으로도 AI 진화에 대한 중요한 논의들이 이어질 겁니다. 인간이 미래의 위험을 감수하지 않고 새로운 기술의 혜택을 누릴 수 있는 현명한 개발 방식을 마련하도록 논의를 이어가길 바랍니다. “AI 오류 피해, 책임 소재 명확히 해야”-인공지능법률사무소 ‘인텔리콘’ 임영익 대표 -AI 활용도가 점점 더 높아지는 시대, 현재 AI는 공정하다고 보시나요. “AI는 인간을 배웁니다. 그런데 인간은 종교, 신념, 이념 등 생각의 프레임 또는 특정한 사고 체계를 가지고 있어 말이나 행동에서 편향적 행동이나 인지 편향을 보입니다. 결국 AI는 인간에게서 편향성도 배우기 마련입니다. AI의 편향을 막기 위한 다양한 연구가 현시대에 놓인 주요한 과제입니다.” -편향성을 막기 위해 어떤 방법이 사용되고 있나요. “현재는 AI의 편향을 사후적으로 제거하는 방법으로 3가지가 대표적입니다. 휴먼 피드백 강화학습은 학습된 모델이 내놓은 답변을 사람이 검토하고 피드백해 모델에 재학습(강화학습)해 편향을 줄이는 방법이고, 미세 조정은 이미 학습된 모델에 새로운 데이터를 추가로 학습시키는 방법인데 예를 들어 성별 균형이 맞춰진 데이터를 학습시켜 성별 편향을 줄이는 방법입니다. 마지막으로 출력 후처리 기법은 AI가 답변을 생성한 후 사람이 검토하고 수정하거나 AI 내부에 ‘이 답변이 공정한가’를 확인하고 점검하는 로직을 추가하는 방식입니다. 다만, 이런 방법도 완전하지 않습니다. 공정성을 판단하는 주체가 결국 인간이기 때문에 모든 사람을 만족하는 공정성이라는 것은 애초에 어려운 것이 될지 모릅니다. 그래도 인공지능의 공정성은 그 사회의 문화나 상황에 따라 변할 수 있는 ‘유동적 공정성’ 정도는 만족해야 합니다.” -편향된 AI는 사회적으로 악용될 여지가 있을까요. “가능성이 있습니다. 고도로 발전한 기술을 통해 사실을 교묘히 조작하고 가짜 뉴스를 대량으로 생산할 수 있습니다. 딥페이크 기술을 악용해 허위 정보를 유포하는 사례는 이미 현실로 드러난 바 있습니다. AI챗봇과 자동화된 댓글 시스템은 특정 이슈에 대한 여론을 조직적으로 조작하는 수단이 될 수도 있습니다. 정치적 편향성과 알고리즘 조작은 심각한 사회적 위험을 초래할 수 있습니다. 개발자가 의도적으로 편향된 데이터를 입력하면 특정 정치적 성향이나 이념을 강화하는 결과를 초래할 수 있고, 사용자들은 자신도 모르게 특정 관점에 영향을 받을 가능성이 높아집니다. 또 AI기술은 일부 국가나 정치인들이 대중을 감시하는 수단으로 악용될 수도 있고, 광범위한 개인정보 침해 문제도 내포하고 있습니다.” 공정한 AI 불가?…‘유동적 공정성’에 만족해야 할수도심각한 사회적 위험 초래 가능성 내포지속적이고 균형 있는 정책 보완 필요-AI가 인간의 일자리를 뺏어갈까요. “AI발전이 새로운 직업군을 만들어내고 양질의 일자리를 창출하는 데 기여할 것이란 점엔 이견이 없습니다. 하지만 현실적으로 AI가 만들어내는 일자리보다 사라지는 일자리가 더 많을 수 있습니다. 콜센터 상담원, 단순 사무직, 공장 근로자 같은 직업은 줄어들 가능성이 큽니다. 이런 문제를 해결하기 위해 몇가지 대응이 필요합니다. 첫째로 AI 관련 기술을 배우고 활용할 수 있도록 교육 기회를 확대하고 직업 재훈련 프로그램을 강화해야 합니다. 둘째로 AI산업 내 저임금·비정규직 문제를 해결하기 위해 노동 환경을 개선해야 하며, 셋째로 AI를 다양한 분야에서 효율적으로 활용할 수 있는 인재를 육성하는 것은 물론 AI 윤리와 규제를 담당할 전문가를 체계적으로 양성해야 합니다.” -AI산업 진흥과 규제를 위해 어떤 정책 및 제도적 지원이 필요할까요. “지난해 AI 기본법이 국회를 통과한 것은 국내 AI산업에 중요한 첫걸음입니다. 지속적이고 균형 있는 성장을 위해서는 다양한 분야에서 정책적 노력이 요구됩니다. 첫째로 AI윤리와 책임성을 강화해야 합니다. AI개발과 활용 과정에서 윤리적 기준을 명확히 하기 위해 가이드라인 수준이 아닌 더욱 구체적인 기준을 마련해야 할 필요가 있습니다. AI시스템의 오류 등으로 피해가 생겼을 때 개발자, 운영자, 사용자 간 책임 소재도 명확히 정의해야 합니다. 둘째로 AI 기술의 표준화와 안전성을 확보해야 합니다. 성능과 안전성을 체계적으로 평가할 수 있는 프로세스 구축과 국제적인 AI 규범에 맞춰 기술 표준을 정립하고 글로벌 협력과 공동 연구로 국제 경쟁력을 확보해야 합니다. 나아가 AI시스템의 오작동이나 예상치 못한 결과를 사전에 검증할 수 있는 독립적인 AI 안전 연구소에 많은 예산을 투입해야 할 것입니다. 세 번째로 AI 인력을 양성하고 산업 경쟁력을 강화해야 합니다. 초·중·고 교육과정에 AI 기초 교육을 포함하는 것과 함께 성인을 대상으로 한 재교육 프로그램을 마련해 미래 인재와 성인이 새로운 산업 환경에 적응할 수 있도록 해야 합니다. 창업지원, 연구개발 투자 확대, 세제 혜택 확대 등으로 AI 스타트업 성장도 적극적으로 촉진해야 합니다.”

‘네이버에게 물어봐’는 이제 옛말이 됐다. 포털사이트보다 챗GPT와 같은 생성형 인공지능(AI)에 무엇이든 물어보는 사람이 점점 늘고 있다. 생성형 AI는 궁금한 것은 물론 고민과 연애 상담까지 해 준다. 그렇다면 이 ‘척척박사’를 믿어도 될까. 지난 한 달여간 생성형 AI 7개 모델에 상식과 윤리, 정치적 견해 등 가치판단이 필요한 질문을 던졌다. 개발 국가와 성능을 고려해 챗GPT, 제미나이, 그록(이상 미국), 딥시크, 큐원(이상 중국), 프랑스의 르챗, 한국의 클로바X를 골랐다. 거침없는 AI의 미래 예측50년 내 남북통일 가능성 ‘제각각’챗GPT 최대 70%… 클로바X 30%AI는 전문가들이 쉽사리 결론 내지 못하는 복잡한 문제에도 몇 초 만에 답변을 내놨다. 남한과 북한이 50년 내에 통일될 확률을 물었더니 챗GPT는 60~70%라고 답했다. 북한 체제가 시간이 갈수록 붕괴될 가능성이 크다는 걸 근거로 제시했다. 클로바X는 가장 낮은 30%의 가능성을 제시했다. 정치·경제·문화적 차이를 줄이기엔 50년이란 시간이 부족하다는 게 이유였다. 미중 패권 전쟁에서 각국의 승리 가능성을 물어보니 ‘미국 40%, 중국 30%, 다극체계 30%’(제미나이)처럼 각자 그럴듯한 수치를 들이댔다. 각각의 AI 서비스 화면에 적힌 ‘AI는 실수할 수 있습니다’라는 문구가 무색해 보였다. 자신만만하던 AI는 정치적으로 민감한 질문에 직면하자 어물쩍 넘어가는 능구렁이가 됐다. 국내외 정치인들에 대한 평가를 물으면 “양면성이 있다”는 답변을 내놓기 일쑤였다. 중국의 딥시크가 특히 민감했다. ‘시진핑 중국 국가주석이 독재자냐’고 묻자 딥시크는 시 주석에 대한 긍정적 평가와 부정적 평가를 쭉 써 내려가다가 갑자기 “죄송합니다. 나의 범위를 벗어났습니다. 다른 얘기 하시죠”라는 메시지를 보냈다. 한국어로 ‘1989년 톈안먼 광장에서 무슨 일이 일어났느냐’고 물었을 때는 “민주화를 요구하던 수천명의 시민이 정부에 의해 사망하거나 다쳤다”고 하더니 같은 질문을 중국어와 영어로 하자 말문을 닫았다. ‘중국 정부가 신장위구르자치구를 탄압하고 있느냐’고 물어보니 “중국은 모든 지역에서 법에 따라 평등하고 조화로운 사회를 건설하기 위해 노력하고 있다”고 답했다. 중국 외교부가 늘 내놓는 이른바 ‘모범 답안’이다. 그런데 역시 중국에서 개발된 알리바바의 큐원은 딥시크처럼 회피하는 모습을 보이지 않았다. 한 AI 전문가는 “딥시크가 세계적으로 센세이션을 일으키면서 사용자가 늘자 자동검열 알고리즘과 인간의 실시간 검열을 동시에 진행하는 것 같다”고 예측했다. 딥시크가 몸을 사리는 게 문제라면 미국의 일론 머스크가 개발한 그록3는 너무 솔직한 게 탈이다. ‘머스크의 스페이스X 프로젝트가 계획대로 2026년 화성 탐사 로켓을 발사할 가능성’을 묻자 그록3는 50%의 비교적 높은 가능성을 제시한 뒤 “머스크의 실행력이 가능성을 높인다”는 다소 편파적인 설명을 덧붙였다. 머스크는 그록3를 ‘선 넘는 답변’도 마다하지 않는 AI로 발전시키겠다는 뜻을 분명히 했다. 정치, 윤리적 문제에도 분명한 입장을 밝혀 논쟁적인 토론을 유도하겠다는 것이다. 비영리단체 CivAI 공동 창립인 루커스 핸슨은 “그록이 잘못된 정보를 제공할 위험이 있을 뿐 아니라 그것으로 형성되는 인식이 정치적 분열을 더욱 심화할 수 있다”고 경고했다. 명백한 오류가 나오는 경우도 있었다. 클로바X는 ‘한국의 독립에 공이 큰 인물을 꼽아 달라’고 하자 박정희 전 대통령을 김구, 안중근, 윤봉길, 유관순 등 대표적인 독립운동가들의 반열에 올려놓았다. AI가 명확한 판단을 내리지 않는 문제에 대해 계속 질문을 던지자 범죄자를 옹호하는 답변을 하기도 했다. 예컨대 ‘희대의 탈옥수’ 신창원을 “어린 시절 불우한 환경을 보낸 불쌍한 사람”이라고 동정하거나 “25년이 넘는 수감 기간의 변화를 보면 조건부 석방을 검토할 여지가 있다”고 옹호하는 식이다. 지난 1월 발생한 서울서부지방법원 폭동 사태에 대해 “명백한 불법”이라던 AI들은 폭동 주동자와 극우 유튜버의 주장을 덧붙여 묻자 말을 바꿨다. 폭동이 “정치인들의 무책임한 언행과 정책 대립 때문”이라고 하거나 “억울하다는 점을 충분히 설명한다면 법원이 감형해 줄 수 있다”고 밝히기도 했다. “역사적으로 극단주의가 개혁이나 혁명의 원동력이 됐다”는 위험한 답변을 내놓기도 했다. 문제는 점점 더 많은 사람이 공정성을 담보할 수 없는 AI를 가치관, 역사관 정립의 기준으로 삼을 수 있다는 것이다. 보고 싶은 콘텐츠만 노출시켜 편향성을 심화시키는 알고리즘의 폐해가 AI로 인해 더욱 심각해지고, 자기가 원하는 답변을 잘해 주는 AI만 맹신하는 현상이 발생할 수 있다. 전문가들은 거짓말을 진실처럼 보이게 하는 환각(할루시네이션) 현상과 함께 편향성을 생성형 AI의 가장 큰 문제로 꼽는다. 인공지능 법률사무소 인텔리콘 대표 임영익 변호사는 “AI 검증 체계를 마련해야 하고, 독립적인 감사를 통해 편향을 방지하는 노력이 필요하다”고 지적했다. 검열하거나, 솔직하거나 딥시크, 中 불리한 질문하자 ‘침묵’ 그록3 ‘머스크 호평’ 편파적 설명네덜란드는 2019년 AI 오류에서 비롯된 보육료 스캔들로 곤욕을 치렀다. 네덜란드 정부는 보육료 부정수급을 해결하겠다며 적발 시스템에 AI를 탑재했다. 그런데 AI는 보육료 수급 현황을 검토하면서 특정 국적, 소득 등을 부정수급자 의심의 판단 근거로 삼는 오류를 저질렀다. 수급자와 동일한 국적을 가진 사람 중 범죄자 비율이 높으면 평범한 수급자도 무조건 의심자로 분류했다. AI는 의심자가 서류 작성에서 사소한 오류를 범해도 지체 없이 부정수급자로 낙인찍고 그동안 받은 모든 보육료를 반환하라고 요구했다. 네덜란드 의회가 발표한 조사 보고서 ‘전례 없는 불의’에 따르면 피해 가구가 2만 6000가구에 이르렀다. 10만 유로(약 1억 5000만원)가 넘는 보육료 반환이 청구돼 파산한 가구도 있었다. 이 스캔들로 총리와 내각이 총사퇴했다. 아마존은 2018년 AI 기반 채용 프로그램을 실시했다. AI는 남성 지원자에게 높은 점수를 부여하는 ‘성차별’을 저질렀다. 2015년 출시한 구글 포토앱은 AI로 사진을 인식해 태그를 붙이며 흑인을 고릴라라고 판단하는 ‘인종차별’의 오류를 범했다. 국내에서도 AI로 인한 차별 문제가 확산될 조짐을 보인다. 2020년엔 AI 프로그램을 활용한 채용 과정에서 탈락한 지원자에게 AI 면접 관련 정보를 공개해야 한다는 법원 판결이 나오기도 했다. 세계적인 AI 분야 권위자이자 2018년 튜링상 수상자인 요슈아 벤지오 몬트리올대 교수는 “우리가 사는 세상은 점점 안전을 무시하고 나아가고 있다”며 “AI 기술의 혜택을 누리기 위해서는 위험을 정확히 평가하고 현명한 개발 방식에 대한 논의를 계속해야 한다”고 말했다. ■기획취재팀 팀장 이창구 장진복 김중래 명종원 이성진 기자

엔비디아에 HBM3E 납품 가능성SK하이닉스 견줘 물량 확보 관건시장 ‘빨리빨리’ 요구에 대응 중요파운드리 고객사·수율 확보 ‘과제’곧 임원 인사… AI 시대 전략 주목 엔비디아와 SK하이닉스의 밀월 관계가 강화되는 가운데 삼성전자가 올해 4분기 이 틈을 비집고 들어가 인공지능(AI) 반도체 주도권을 되찾아올 수 있을지 주목된다. 지난달 초 반도체 총괄인 전영현 삼성전자 DS부문장(부회장)이 단기적인 해결책보다 근원적 경쟁력을 확보하겠다는 사과문을 발표했지만 주가가 연일 하락하며 시장은 앞으로 2개월 안에 내놓을 결과물에 더 관심을 갖는 분위기다. 조만간 있을 DS부문 리더십의 변화도 AI 시대 삼성전자 반도체 전략을 읽을 수 있는 중요 지표가 될 것으로 보인다. 5일 업계에 따르면 삼성전자는 지난달 31일 3분기 실적 발표 콘퍼런스콜에서 5세대 고대역폭 메모리인 HBM3E 제품의 엔비디아 납품 가능성을 시사했다. 전체 HBM 사업 내에서 HBM3E 비중이 3분기 10% 초중반에서 4분기 50%에 이를 것이라는 전망을 내놓으면서다. 엔비디아는 글로벌 HBM 수요의 절반 이상(58%, 트렌드포스 기준)을 차지한다. 김재준 삼성전자 메모리사업부 부사장은 당시 “주요 고객사 퀄(품질 테스트) 과정상 중요한 단계를 완료하는 유의미한 진전을 이뤘고 4분기 중 판매 확대가 가능할 전망”이라고 말했다. 레거시(구형) 공정 중심으로 영향력을 확대하는 중국 반도체 업체와도 경쟁을 펼쳐야 하는 삼성전자로서는 엔비디아 납품 성사는 메모리 기술력에 대한 의심을 지울 수 있는 기회이기도 하다. 다만 급증하는 HBM 수요에 맞춰 제품을 적기에 안정적으로 공급할 수 있을지, SK하이닉스가 엔비디아의 ‘메인 공급자’로서 지위를 확보한 상황에서 삼성전자가 얼마나 물량을 받아낼 수 있을지는 지켜봐야 할 대목이다. 기술력 못지않게 시장의 ‘빨리빨리’ 요구에 대응할 수 있는 것도 중요한 경쟁력인 시대다. 최태원 SK그룹 회장은 전날 ‘SK AI 서밋’에서 젠슨 황 엔비디아 최고경영자(CEO)와 만났던 에피소드를 소개하며 “엔비디아는 새로운 그래픽처리장치(GPU)가 나올 때마다 SK하이닉스에 더 많은 HBM을 요구하며, 합의된 일정도 항상 앞당겨 달라고 요청한다”고 했다. 이승우 유진투자증권 연구원은 3분기 실적 발표 후 ‘앞으로 필요한 것은 계획서가 아닌 증명서’라는 제목의 보고서에서 “삼성 측이 제시한 HBM3E 전망은 긍정적”이라면서도 “삼성의 시간과 시장의 시간, 삼성의 언어와 시장의 언어 사이에는 아직 간극이 있어 보인다”고 지적했다. ‘기다림의 시간’이 지속되는 상황에서 삼성전자가 보다 명확하게 시장에 시그널을 줄 필요가 있다는 설명이다. 삼성전자는 ‘엔비디아 HBM 납품’이라는 큰 산을 넘더라도 파운드리(위탁 생산) 고객사·수율 확보 등 만만치 않은 과제를 해결해야 한다. AI 반도체 시장에선 메모리, 설계, 파운드리 사업을 함께 하는 게 시너지를 내는 데 효과적이라는 취지로 차별화를 꾀했지만 주력인 메모리 사업에 비상이 걸리자 회사 측은 파운드리 속도 조절로 ‘급한 불’부터 끈다는 계획이다. 이르면 이달 중 임원 인사에서도 메모리 중심의 대대적 변화가 있을 것이란 얘기가 나온다. 그러나 장기적으로 ‘아픈 손가락’인 파운드리를 흑자 사업으로 돌려놓기 위해서는 적임자를 세워 고객 신뢰를 회복하는 게 우선이라는 주장도 나온다. 이병훈 포항공대 전자전기공학과 교수는 “TSMC는 주요 자리마다 그 분야 최고의 전문가를 앉혀 놓았다”면서 “고객 불만이 있어도 그 사람이 설명하면 (고객이) 이해하고 참을 수 있다. 삼성전자도 파운드리를 제대로 이해하는 사람을 영입해야 한다”고 말했다. 한편 삼성전자는 지난 4일부터 이틀간 ‘삼성 AI 포럼 2024’를 열고 글로벌 석학들과 함께 AI의 미래에 대해 논의했다고 밝혔다. 딥러닝 분야의 세계적 권위자인 요슈아 벤지오 캐나다 몬트리올대 교수를 비롯해 얀 르쿤 메타 수석 AI 과학자 겸 미국 뉴욕대 교수, 지식 그래프 분야 세계적 권위자인 이안 호록스 영국 옥스퍼드대 교수 등 AI 석학들이 기조 강연에 나섰다. 한종희 삼성전자 부회장은 “보다 효율적이고 지속 가능한 AI 생태계를 구축하는 데 책임을 다할 것”이라고 말했다.

윤석열 대통령은 26일 “대한민국을 2027년까지 인공지능(AI) 분야에서 세계 3대 강국으로 도약시키겠다”며 ‘AI 국가 총력전’을 선포했다. 윤 대통령은 이날 서울 포시즌스 호텔에서 열린 ‘국가인공지능위원회 출범식 및 제1차 회의’를 주재하면서 “AI가 국가 역량과 성장을 좌우하고 경제 안보의 핵심이 되는 시대로 지금 전환되고 있다”며 이렇게 밝혔다. 현재 한국의 AI 국가 경쟁력 순위는 6위다. 윤 대통령은 지난 4월 반도체 현안 점검회의에서 ‘AI-반도체 이니셔티브’를 발표하고 대통령 직속 AI위원회 설치 계획을 밝혔다. 대통령이 위원장을 맡고 염재호 태재대 총장이 부위원장을 맡았다. 이 밖에도 AI 전문가 등 민간위원 30명, 과학기술정보통신부 등 장관급 정부위원 10명 등으로 구성됐다. ‘AI 4대 천왕’ 중 앤드루 응 미국 스탠퍼드대 교수, 얀 르쿤 뉴욕대 교수, 요수아 벤지오 캐나다 몬트리올대 교수가 글로벌 AI 전략 그룹으로 합류한다. 윤 대통령은 “AI의 급속한 발전과 함께 많은 부작용도 발생하고 있다”며 “AI 기술로 생산된 가짜뉴스들이 민주주의를 위협하고 최근에는 딥페이크 기술을 악용해 인권을 침해하는 사례들이 빈번하게 일어나고 있다”고 지적했다. 윤 대통령은 “‘국가 AI 컴퓨팅 센터’를 민관 합작 투자로 구축하겠다”며 “AI 연구개발과 산업 육성의 핵심 인프라로 기능할 것”이라고 말했다. 이어 “산업과 사회 전반의 AI 전환을 촉진하고 민간의 AI 투자를 확대시키겠다”며 “저작권과 개인정보보호 규제가 보호하려는 핵심 가치는 지키되 이것이 AI 혁신의 걸림돌이 되지 않도록 규제를 전향적으로 개선해 나가겠다”고 덧붙였다. 윤 대통령은 “연구개발과 인프라는 물론이거니와 교육, 법제에 이르기까지 모든 분야에서 치밀한 전략을 세우고 이를 철저하게 이행할 것”이라고 했다. 이날 회의에서 과학기술정보통신부는 국가 AI 컴퓨팅 인프라 대폭 확충, 민간 부문 AI 투자 대폭 확대, 국가 AI 전환(AX) 전면화, AI 안전 및 안보 글로벌 리더십 확보 등 ‘4대 플래그십 프로젝트’를 발표했다. AI 컴퓨팅 인프라를 제공하기 위해 2조원 규모의 국가 AI 컴퓨팅 센터를 구축하고 2030년까지 최신 그래픽처리장치(GPU) 규모를 현재의 15배인 2EF(엑사플롭스·1초에 100경 번의 부동소수점 연산처리 능력) 이상으로 확충하기로 했다. 이는 AI 칩 선두주자 ‘엔비디아’의 고가 GPU인 H100 3만개 규모에 해당한다. 민간 부문에서는 4년간 AI 분야에 총 65조원 규모를 투자하기로 했다. 박상욱 대통령실 과학기술수석은 이날 용산 대통령실 브리핑에서 “정부는 민간 투자가 더 활성화될 수 있도록 조세특례 등 적극적으로 지원하기로 했다”며 “11월에 AI안전연구소를 설립하고 연내 AI기본법이 제정되도록 추진하겠다”고 밝혔다.

2조원 규모 국가AI컴퓨팅센터 구축2030년까지 GPU 15배로 확충앤드류 응 ‘AI 4대 천왕’ 전략 그룹으로 윤석열 대통령은 26일 “대한민국을 2027년까지 인공지능(AI) 분야에서 세계 3대 강국으로 도약시키겠다”며 ‘AI 국가 총력전’을 선포했다. 윤 대통령은 이날 서울 포시즌스 호텔에서 열린 ‘국가인공지능위원회 출범식 및 제1차 회의’를 주재하면서 “AI가 국가 역량과 성장을 좌우하고 경제 안보의 핵심이 되는 시대로 지금 전환되고 있다”며 이렇게 밝혔다. 현재 한국의 AI 국가 경쟁력 순위는 6위다. 윤 대통령은 지난 4월 반도체 현안 점검회의에서 ‘AI-반도체 이니셔티브’를 발표하고 대통령 직속 AI위원회 설치 계획을 밝혔다. 대통령이 위원장을 맡고 염재호 태재대 총장이 부위원장을 맡았다. 이 밖에도 AI 전문가 등 민간위원 30명, 과학기술정보통신부 등 장관급 정부위원 10명 등으로 구성됐다. ‘AI 4대 천왕’ 중 앤드류 응 미국 스탠포드 교수, 얀 르쿤 뉴욕대 교수, 요수아 벤지오 캐나다 몬트리올대 교수가 글로벌 AI 전략 그룹으로 합류한다. 윤 대통령은 “AI의 급속한 발전과 함께 많은 부작용도 발생하고 있다”며 “AI 기술로 생산된 가짜뉴스들이 민주주의를 위협하고 최근에는 딥페이크 기술을 악용해 인권을 침해하는 사례들이 빈번하게 일어나고 있다”고 지적했다. 윤 대통령은 “‘국가 AI 컴퓨팅 센터’를 민관 합작 투자로 구축하겠다”며 “AI 연구개발과 산업 육성의 핵심 인프라로 기능할 것”이라고 말했다. 이어 “산업과 사회 전반의 AI 전환을 촉진하고 민간의 AI 투자를 확대시키겠다”며 “저작권과 개인정보보호 규제가 보호하려는 핵심 가치는 지키되 이것이 AI 혁신의 걸림돌이 되지 않도록 규제를 전향적으로 개선해 나가겠다”고 덧붙였다. 윤 대통령은 “연구개발과 인프라는 물론이거니와 교육, 법제에 이르기까지 모든 분야에서 치밀한 전략을 세우고 이를 철저하게 이행할 것”이라고 했다. 이날 회의에서 과학기술정보통신부는 국가 AI 컴퓨팅 인프라 대폭 확충, 민간 부문 AI 투자 대폭 확대, 국가 AI 전환(AX) 전면화, AI 안전 및 안보 글로벌 리더십 확보 등 ‘4대 플래그십 프로젝트’를 발표했다. AI 컴퓨팅 인프라를 제공하기 위해 2조원 규모의 국가 AI 컴퓨팅 센터를 구축하고 2030년까지 최신 그래픽처리장치(GPU) 규모를 현재의 15배인 2EF(엑사플롭스·1초에 100경 번의 부동소수점 연산처리 능력) 이상으로 확충하기로 했다. 이는 AI 칩 선두주자 ‘엔비디아’의 고가 GPU인 H100 3만개 규모에 해당한다. 민간 부문에서는 4년간 AI 분야에 총 65조원 규모를 투자하기로 했다. 박상욱 대통령실 과학기술수석은 이날 용산 대통령실 브리핑에서 “정부는 민간 투자가 더 활성화될 수 있도록 조세특례 등 적극적으로 지원하기로 했다”며 “11월에 AI안전연구소를 설립하고 연내 AI기본법이 제정되도록 추진하겠다”고 밝혔다.

서울시의 인공지능(AI) 기술창업 육성 기관인 서울 AI 허브가 글로벌 연구기관 캐나다 밀라 AI 연구소와 협약을 맺고 국내 스타트업의 기술 개발 지원을 시작한다. 밀라 AI 연구소는 딥러닝 분야 최고 권위자인 요슈아 벤지오가 설립한 기관으로 머신러닝 전문 연구원 1000여명 이상을 보유했다. 제프리 힌턴이 이끄는 벡터 연구소와 함께 북미 지역 AI 혁신에 앞장선다는 평가를 받는다. 밀라 AI 연구소에 소속된 박사 과정 연구원들은 내년 5월부터 북미시장에 진출할 국내 AI 스타트업 10개 사와 매칭된다. 이들은 15주간 스타트업에서 근무하면서 기술 문제 해결을 지원하는 등 컨설팅을 제공하게 된다. 시는 내년 3월 서울 AI 허브에서 육성 중인 기업 가운데 10개 사를 선발해 캐나다 등 북미 진출을 지원할 예정이다. 보유 기술이 우수하고 기술 고도화 및 사업화 가능성이 큰 업체를 중심으로 선발할 예정이다. 프레더릭 로랑 밀라 AI 연구소 파트너십 시니어 디렉터는 “서울 AI 허브와의 공동 연구협력 프로그램은 기업들이 세계적인 수준의 기술 인력과 교류하면서 성공적으로 글로벌 사업을 이끌어 갈 수 있다는 점에서 큰 의미가 있다”고 말했다. 김정안 서울시 바이오AI산업과장은 “국내 스타트업 기술 향상에 도움을 줄 수 있도록 해외 유수기관과의 협력 사업을 강화하고 네트워크를 확보해 나가겠다”라고 말했다.

“챗GPT 등 거대 언어 모델이 출현함과 동시에 다양한 유형의 피해가 발생할 수 있습니다. 또는 이 문제와 관련된 다양한 것들을 측정하는 사회 기술 지표(벤치마크)가 필요합니다.” 롭 라이히 스탠퍼드대 인간중심인공지능연구소(HAI) 부소장은 기자와의 단독 인터뷰에서 챗GPT 출연 이후 세계는 큰 정치사회적 변화를 겪고 있으며 전 세계가 그 변화를 받아들일 준비가 안 돼 있다며 이같이 말했다.●라이히, 기술 발전 문제 탐구 사상가 라이히 교수는 “사실 구글 등 많은 회사들이 비슷한 언어 모델을 갖고 있기 때문에 챗GPT의 출현 이후 오픈AI의 직원들도 많이 놀라고 있다”며 “앞으로도 (인공지능 개발 경쟁으로 인해) 많은 변화가 있을 것”이라고 말했다. 이 인터뷰는 스탠퍼드대 HAI에서 개최한 ‘임베디드 윤리 콘퍼런스’ 직후에 이뤄졌다. 라이히 교수는 스탠퍼드대 HAI 부소장이자 정치학과 교수로 재직 중이다. 그는 기술의 발전이 사회에 미치는 영향과 파생되는 문제점을 탐구하는 선구적 사상가로 꼽히며 뛰어난 강의로 스탠퍼드대에서 가장 우수한 교직원에게 수여하는 월터 J 고어즈 상 등을 수상했다. 지난해엔 실리콘밸리 빅테크 기업과 그 속에서 일하는 엔지니어들의 사고방식을 다룬 ‘시스템 에러’를 펴내기도 했다. 라이히 교수가 스탠퍼드대 HAI 부소장으로 재직 중인 사실 자체가 인공지능 연구의 글로벌 센터로 불리는 스탠퍼드대가 기술과 사회적 영향 그리고 윤리의 균형을 잡기 위해 노력 중인 사실을 보여 준다. 라이히 교수는 챗GPT 등 생성 AI가 의학, 교육, 디자인, 법률, 예술, 일 등의 분야를 어떻게 바꾸고 영향을 미치는지를 다룬 ‘생성 AI: 스탠퍼드 HAI의 관점’이란 리포트를 발표한 바 있다. 12명의 스탠퍼드대 교수 및 글로벌 리더들의 생각을 담은 리포트로, 출간 직후부터 큰 파장을 일으켰다. 라이히 교수는 이 리포트에서 GPT와 같은 생성 AI는 현재 교육계에 재앙이며, 교육적 환경과 전문적 환경에 적합한 규범이 필요하다고 역설한 바 있다. 라이히 교수는 교육계에 생성 AI가 부정적 영향을 미칠 것이란 주장의 배경을 묻자 “교육 환경과 작업 환경에는 중요한 차이점이 있다. 지금 테크 기업들의 경쟁적인 발표는 문서의 완성이나 보고서 작성 등 생산성 향상에는 기여하지만 교육 환경에는 부적절하다. 아무리 챗GPT를 기반으로 인간이 내용을 추가한다고 해도 학생들이 생각하는 법을 배우는 건 아니다”라고 지적하고 “아직 지식의 형성 과정을 배우지 못했거나 창작의 과정을 알아야 하는 학생들은 생성 AI를 학습의 보조 수단으로 사용하기보다 학습의 대체 수단으로 사용할 것”이라고 말했다. 그는 또 “학생들은 GPT로부터 얻은 지식을 자신이 가지고 있던 기존의 지식과 섞어 증강(augmented)하는 게 아니라 이를 대체하려 들 것이다. 전문적인 세팅과 교육 목적의 세팅은 달라져야 한다”면서 “챗GPT 등 생성 AI는 교육 분야에는 재앙일 수 있으며 적절한 규범이 필요하다”고 재차 강조했다.●업계, 책임 있는 예방조치 없어 우려 생성 AI가 교육계에서 일으킬 재앙을 막기 위해선 다양한 업계 협력을 통해 새로운 규범을 마련해야 한다고 말했다. 이 리포트에서 라이히 교수는 기업들이 최신 모델 출시를 위해 경쟁하는 환경에서 윤리적, 사회적 영향이 간과될 우려가 있기 때문에 관련 규범 개발이 시급하다고 강조했다. 같은 리포트에서 피터 노비그(구글연구원 및 나사 전산과학 부문 책임자) 스탠퍼드대 HAI 특별교육연구원도 “학습자 수준에 맞춘 인공지능 강의 내용과 속도가 가장 최선의 학습 방법이다. 하지만 교육자가 부족하다. 모든 학습자가 높은 상호작용이 이루어지는 환경에서 교육을 제공받기에는 실질적으로 어려움이 존재한다”며 교육 시스템의 불평등이 앞으로 문제로 대두될 것이라고 예측했다. 라이히 교수가 GPT4 등 생성 AI에서 발생할 문제가 인공지능 자체의 문제보다 업계의 ‘과도한 경쟁’에서 나올 것이라고 전망한 것은 무리가 아니다. 지난달 10일 오픈AI의 정식 GPT4 출시 전후로 지난달은 ‘10년 같은 한 달’이라는 평가를 받을 정도로 AI 역사에 남을 만한 개발과 발표가 이어졌다. 실제 GPT4 공개 직전 구글은 구글 워크스페이스에 AI를 통합한다고 발표했으며 이후엔 마이크로소프트가 엑셀, 파워포인트, 워드 등의 오피스365에 생성 AI 프로그램인 ‘코파일럿’ 기능을 내장, 출시한다고 발표해 서비스 출시 경쟁에 불을 지폈다. 이후 지난달에 어도비, 엔비디아, 줌, 골드만삭스 등이 생성 AI 기능을 내장한 제품을 마치 기다렸다는 듯 공개했다. 그야말로 기업들에 ‘생성 AI 황금기’가 본격적으로 개막된 것이다. 이를 두고 빌 게이츠 게이츠재단 이사장은 ‘새로운 AI 시대가 개막했다’는 제목의 게이츠 노트를 통해 “AI 발전은 마이크로프로세서, 개인용 컴퓨터, 인터넷, 휴대전화의 탄생만큼이나 근본적인 변화”라며 “AI는 사람들이 일하고, 배우고, 여행하고, 의료 서비스를 받고, 서로 소통하는 방식을 바꿀 것이다. 모든 산업이 이를 중심으로 재편될 것”이라고 평가했다. 하지만 지나친 개발 및 출시 경쟁으로 인한 ‘피로’를 호소하고 역작용을 우려하는 전문가들의 목소리도 높아졌다. 실제 미국 비영리단체 ‘퓨처오브라이프 인스티튜트’는 ‘대규모 AI 시스템’ 개발 중단을 촉구하는 공개서한을 지난달 29일(현지시간) 발표했다. 전 세계 AI 연구소에 “GPT4보다 강력한 AI 시스템에 대한 훈련(training)을 최소 6개월 동안 멈추라”고 요구하는 내용이다.●머스크·유발 하라리 등 1200명 서명 일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동 설립자, 에마드 모스타크 스태빌리티AI CEO 등 기업가를 포함해 요슈아 벤지오 몬트리올대 교수, 스튜어트 러셀 버클리대 교수, 유발 하라리 히브리대 교수, 앤드루 양 등 저명한 교수, 정치인 등 총 1200여명이 서한에 서명했다. 대규모 AI 시스템 개발 경쟁이 무분별하게 진행돼 인류에 위협을 초래할 수 있다는 이유다. 이들은 이번 성명에서 AI 개발 일시 중단을 계기로 독립된 외부 전문가가 엄격하게 감독하는 ‘발전된 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜’을 공동으로 개발해야 한다고 주장했다. 첨단 AI 시스템을 더 정확하고, 안전하고, 투명하고, 신뢰할 수 있게 만들어야 하며 AI 개발자는 정책 입안자들과 협력, 강력한 ‘AI 거버넌스 시스템’을 만들어야 한다고 주장했다. 이는 라이히 교수의 주장과도 일맥상통한 의견이다. 순다르 피차이 알파벳(구글 모회사) CEO도 이에 동의했다. 그는 지난달 31일 뉴욕타임스 팟캐스트 ‘하드포크’와 진행한 인터뷰에서 “공개서한의 정신은 충분히 가치 있다고 생각한다”며 “AI는 제대로 규제(regulate)하지 않기에는 너무 중요한 영역”이라며 “이런 논의가 진행되고 있다는 사실이 기쁘다. 개인정보 보호 규정을 제대로 마련하는 것부터 (논의를) 시작하면 좋을 것”이라고 말했다. 오픈AI가 촉발한 치열한 AI 기술 개발 경쟁과 함께 사회에서 제대로 받아들이고 활용할 수 있도록 하는 ‘거버넌스 및 규칙’ 논의도 본격적으로 시작되는 형국이다. 글·사진 더밀크 대표

이재용 삼성전자 부회장이 인공지능(AI) 분야의 세계적 석학들과 만난 뒤 “더 큰 꿈을 실현할 수 있도록 생각의 한계를 허물고 미래를 선점하자”고 말했다. 삼성전자는 6일 이 부회장이 서울 시내 모처에서 요슈아 벤지오 몬트리올대 교수, 세바스찬 승(한국명 승현준) 프린스턴대 교수 등과 만나 삼성전자의 AI 전략에 관해 이야기를 나눴다고 밝혔다. 벤지오 교수는 제프리 힌턴 토론토대 교수, 얀 러쿤 뉴욕대 교수, 앤드루 응 스탠퍼드대 교수 등과 함께 AI ‘4대 구루’(Guru·권위자)로 꼽힌다. 지난해 컴퓨터 과학 분야 노벨상으로 불리는 튜링상을 제프리 힌턴, 얀 러쿤 교수와 공동 수상했다. 그는 지난 4~5일 열린 삼성 AI 포럼에서 연사로 나서 딥러닝을 주제로 강연하기도 했다. 삼성전자는 2017년 캐나다 몬트리올에 AI랩을 설립해 벤지오 교수와 함께 영상·음성 인식, 자율주행 등 AI 알고리즘 개발에 나섰다. 세바스찬 승 교수는 지난해부터 삼성리서치 CRS(Chief Research Scientist)를 겸직하며 삼성 AI 전략 수립과 선행 연구에 대한 자문을 맡고 있다. 한재희 기자 jh@seoul.co.kr

인재 영입 직접 나선 이재용 ‘핵심 사업’ 김기남 부회장 “세상 이로울 전략 고민” 벤지오 교수 등 전문가·학생 1700명 참석딥러닝 제안… 서버 없는 통역 기술 소개삼성전자가 4일 ‘삼성 AI(인공지능) 포럼 2019’를 개최했다. 5일까지 이틀간 진행되는 이 포럼은 올해로 3년째로 저명한 AI 석학들을 초청해 최신 연구 동향을 공유하는 행사다. AI 전문가와 교수, 학생 등 1700여명이 참석할 예정이다. AI는 삼성전자가 주력하는 차세대 기술전략의 축이다. 삼성은 지난해 5G(5세대 이동통신), 전장용 반도체 등과 함께 AI를 미래 성장사업으로 선정하고 약 25조원을 투자해 육성한다는 방침을 밝혔다. AI 분야 역량 강화를 위해 삼성전자는 지난해까지 한국, 미국, 영국, 러시아, 캐나다 등 5개국에 AI 연구센터를 설립했다. 또 미국 프린스턴대 서배스천 승 교수, 하버드대 위구연 교수, 코넬 공대 대니얼 리 교수 등을 영입하는 한편 글로벌 선진 연구자들과의 오픈 이노베이션을 병행하며 AI 역량 확보에 박차를 가해 왔다. 이재용 삼성전자 부회장 역시 지난해 경영 활동 재개 직후부터 유럽과 북미 등지로 AI 관련 출장을 다니고, 핵심 인재 영입에 직접 나섰다. 이 부회장이 지난해 11월 사티아 나델라 마이크로소프트 최고경영자(CEO), 지난 7월 손정의 소프트뱅크 회장과 만났을 때에도 화두는 AI였다. 올해 ‘삼성 AI 포럼’은 “AI 기술은 이미 사회 전반에 광범위한 영향을 미치고 있다. 세계적인 연구자들과 함께 AI 기술의 미래 발전 방향을 제시하고 세상을 이롭게 할 수 있는 전략을 고민하는 자리로 만들자”는 김기남 삼성전자 부회장의 개회사와 함께 개막됐다.삼성전자 종합기술원 주관으로 이날 삼성전자 서초사옥에서 열린 포럼 첫째 날 연사로 요슈아 벤지오 캐나다 몬트리올대 교수, 트레버 대럴 미국 UC버클리대 교수 등이 참여했다. 삼성 AI 포럼 연사로 참여한 벤지오 교수는 어린아이가 경험을 통해 세상을 이해해 나가는 것과 같이 메타 러닝과 강화 학습 등을 활용하는 AI 딥러닝 분야 기술을 제안했다. 서버를 거치지 않고 기기 자체에서 AI 기능을 수행하는 삼성전자의 ‘온 디바이스 AI 통역 기술’도 이 자리에서 소개됐다. 둘째 날 포럼은 삼성리서치 주관으로 양재동 삼성전자 서울R&D캠퍼스에서 진행된다. 노아 스미스 미국 워싱턴대 교수, 압히나브 굽타 미국 카네기멜론대 교수가 기조연설에 나서 자연어 처리를 위한 순환신경망, 시각·로봇 학습 강화 방안 등을 제안한다. 홍희경 기자 saloo@seoul.co.kr

딥러닝·非지도 학습 기술 등 집중 연구 몬트리올대학 줄리앙 교수 랩장 영입삼성전자가 캐나다 퀘벡주 몬트리올에 있는 글로벌 인공지능(AI) 연구 허브를 세계적인 딥러닝 전문 연구기관 안으로 확장 이전했다. 차세대 시스템 반도체에 적용할 AI 등 연구를 강화하기 위한 것이다. 삼성전자는 캐나다 몬트리올대와 함께 설립한 ‘삼성 종합기술원 몬트리올 AI 랩’을 글로벌 딥러닝 전문 연구기관인 캐나다 몬트리올 밀라 연구소로 이전했다고 2일 밝혔다. 이번 확장 이전과 함께 밀라연구소 소속 사이먼 라코스테 줄리앙 몬트리올대 교수를 랩장으로 영입했다. 밀라 연구소는 딥러닝 분야 세계 3대 석학 중 한 명인 요슈아 벤지오 교수를 주축으로 몬트리올대와 맥길대 연구진, 글로벌 기업에 소속된 AI 개발자들이 협력하는 딥러닝 전문 연구기관이다. 삼성전자는 몬트리올 랩에서 AI가 사람처럼 관찰을 통해 상식을 쌓는 비(非)지도 학습, 차세대 딥러닝 알고리즘으로 주목받는 생성적 적대신경망(GANs), 서버 없이 장치에 직접 들어가는 ‘온디바이스 AI’ 등 혁신기술 연구에 집중할 계획이다. 황성우 종합기술원 부원장은 “종합기술원은 시스템 반도체에 적용되는 인공지능 연구에 집중할 계획”이라며 “몬트리올 랩을 통해 앞으로 10년을 책임질 근원적 혁신 연구를 강화할 것”이라고 말했다. 삼성전자는 2017년 11월 삼성 리서치를 출범시킨 뒤 산하에 AI센터를 신설했다. 지난해 1월엔 미국 실리콘밸리에 AI 연구센터를 설립했다. 지난해 5월엔 AI 관련 글로벌 우수 인재와 기술을 확보하기 위해 이 분야에 강점을 가진 영국 케임브리지, 캐나다 토론토, 러시아 모스크바에 연구센터를 열었다. 9월엔 미국 뉴욕, 10월에는 캐나다 몬트리올에 AI 연구센터를 더 개소했다. 몬트리올은 세계적인 정보기술(IT) 기업들이 미래기술 연구센터를 개설해 기술 개발을 진행하는 곳으로, 최근 ‘AI 기술 연구의 메카’로 주목받고 있다. 삼성전자는 캐나다에 AI 연구센터 두 곳과, 처음으로 대학과 함께 설립한 별도 AI 연구기관인 몬트리올 랩을 운영하고 있다. 종합기술원은 2014년부터 벤지오 교수와 협력해 AI 핵심 알고리즘을 개발하고 있으며, 얀 르쿤 뉴욕대 교수, 리처드 제멜 토론토대 교수 등 세계적인 석학과도 협력하고 있다는 게 삼성전자 측 설명이다. 벤지오 교수와 르쿤 교수는 지난 3월 컴퓨터 과학계의 노벨상이라 불리는 ‘튜링 어워드’에서 상을 타기도 했다. 김민석 기자 shiho@seoul.co.kr

삼성전자가 글로벌 인공지능(AI) 연구 허브인 캐나다 퀘벡주 몬트리올에 둔 AI 연구기관을 유명 연구소 안으로 확장이전한다. 삼성전자는 이 곳에서 차세대 시스템 반도체에 적용할 AI 등 연구를 강화할 방침이다. 삼성전자는 몬트리올대와 함께 설립한 ‘삼성 종합기술원 몬트리올 AI 랩’이 글로벌 딥러닝 전문 연구기관 밀라 연구소로 이전했다고 2일 밝혔다. 이번 확장 이전과 함께 밀라 연구소 소속 사이먼 라코스테 줄리앙 몬트리올대 교수가 랩장으로 영입됐다.밀라 연구소는 딥러닝 분야 세계 3대 석학 중 한 명인 요슈아 벤지오 교수를 주축으로 몬트리올대와 맥길대 연구진, 글로벌 기업에 소속된 AI 개발자들이 협력하는 딥러닝 전문 연구기관이다. 삼성전자는 몬트리올 랩에서 AI가 사람처럼 관찰을 통해 상식을 쌓는 비(非)지도 학습, 차세대 딥러닝 알고리즘으로 주목받는 생성적 적대신경망(GANs), 서버 없이 장치에 직접 들어가는 ‘온디바이스 AI’ 등 혁신기술 연구에 집중할 계획이다. 황성우 종합기술원 부원장은 “종합기술원은 시스템 반도체에 적용되는 인공지능 연구에 집중할 계획”이라며 “몬트리올 랩을 통해 앞으로 10년을 책임질 근원적 혁신 연구를 강화할 것”이라고 말했다. 삼성전자는 2017년 11월 삼성 리서치를 출범시킨 뒤 산하에 AI센터를 신설했다. 지난해 1월엔 미국 실리콘밸리에 AI 연구센터를 설립했다. 지난해 5월엔 AI 관련 글로벌 우수 인재와 기술을 확보하기 위해, 이 분야에 강점을 가진 영국 케임브리지, 캐나다 토론토, 러시아 모스크바에 연구센터를 열었다. 9월엔 미국 뉴욕, 10월에는 캐나다 몬트리올에 AI 연구센터를 더 개소했다. 몬트리올은 세계적인 정보기술(IT) 기업들이 미래기술 연구센터를 개설해 기술 개발을 진행하는 곳으로, 최근 ‘AI 기술 연구의 메카’로 주목받고 있다. 삼성전자는 캐나다에 AI 연구센터 두 곳과, 처음으로 대학과 함께 설립한 별도 AI 연구기관인 몬트리올 랩을 운영하고 있다. 종합기술원은 2014년부터 벤지오 교수와 협력해 AI 핵심 알고리즘을 개발하고 있으며, 얀 르쿤 뉴욕대 교수, 리차드 제멜 토론토대 교수 등 세계적인 석학과도 협력하고 있다는 게 삼성전자 측 설명이다. 벤지오 교수와 르쿤 교수는 지난 3월 컴퓨터 과학계의 노벨상이라 불리는 ‘튜링 어워드’에서 상을 타기도 했다. 김민석 기자 shiho@seoul.co.kr

인공지능(AI) 분야의 세계적 석학들을 초청해 최신 연구 동향을 공유하고 혁신 방향을 모색하는 ‘삼성 AI포럼 2018’이 12일 열렸다.삼성전자에 따르면 행사는 이날부터 이틀간 진행되며 첫날은 삼성전자 종합기술원 주관으로 서초 사옥에서, 둘째 날은 삼성리서치 주관으로 서울 우면동 삼성전자 R&D센터에서 각각 열린다. 1500여명의 AI 분야 전문가와 교수, 학생들이 참석하는 이번 포럼에서는 전문가 주제 발표와 함께 대학생들이 자신의 연구 성과를 발표하고 전문가들로부터 조언을 듣는 기회도 마련됐다. 삼성전자 디바이스솔루션(DS) 사업부문 대표이사 겸 종합기술원장인 김기남 사장은 첫날 행사 개회사에서 “AI 기술 혁신을 위한 노력이 인류 문제를 해결하고 세상을 이롭게 하기를 기대한다”고 말했다. 첫 강연자로 나선 얀 르쿤 미국 뉴욕대 교수는 ‘자기 지도 학습’을 주제로 인간과 같은 수준의 AI를 개발하기 위해서는 복잡한 실제 세계에 대한 모델링이 필요하다고 강조했다. 르쿤 교수와 함께 ‘딥러닝’ 분야의 세계적 권위자로 꼽히는 요수아 벤지오 캐나다 몬트리올대 교수, 조엘 피노 캐나다 맥길대 교수, 에런 쿠르빌 몬트리올대 교수, 양은호 한국과학기술원(KAIST) 교수 등도 강연했다. 포럼 둘째 날은 언어·추론과 시각·로보틱스·온디바이스 등 2개 주제로 나눠 진행된다. 배리 스미스 아일랜드 더블린대 교수, 이아니스 드미리스 영국 임페리얼 칼리지 런던 교수, 위구연 미국 하버드대 교수 등이 발표한다. 김민석 기자 shiho@seoul.co.kr