건설사업관리(PM) 전문기업 한미글로벌은 SK하이닉스가 미국 인디애나주 웨스트라피엣에 건설 중인 고대역폭 메모리(HBM) 패키징 공장 프로젝트의 건설사업관리 용역을 수행하고 있다고 21일 밝혔다. SK하이닉스는 지난달 27일(현지시간) 미국 인디애나주 웨스트라피엣 퍼듀대학교 할로웨이 체육관에서 인공지능(AI) 메모리용 어드밴스드 패키징(첨단 반도체 후공정) 생산기지 기공식을 개최했다. 이곳은 SK하이닉스가 미국에 처음 구축하는 AI 메모리 생산거점으로 총 40억달러 이상이 투입된다. 지난 3월 터파기를 시작해 공사가 진행되고 있다. 오는 2028년 10월 클린룸 완공을 목표로 하고 있다. 한미글로벌은 지난 2024년 8월부터 이 프로젝트의 프리콘 단계부터 참여했고 2028년 클린룸 완공시점까지 공장 건설사업 관리 업무를 맡는다. SK하이닉스의 한국과 미국 협력사 관리를 포함한 설계관리, 공정 및 원가관리, 품질, 안전, 리스크 등 공장 건설사업의 주요 관리 업무를 수행하고 있다. 한미글로벌은 현재 국내 기업의 미국 내 반도체, 이차전지, 해저케이블 생산기지 등 첨단 산업시설 건설 프로젝트 20여 개를 관리하고 있다.

생성형 인공지능(AI)을 지방의회 의정활동 지원 업무에 체계적으로 도입하는 동시에, 정보 유출과 부정확한 정보 생성 등 부작용을 예방하기 위한 제도적 안전망이 구축됐다. 경기도의회 김미숙 부의장(더불어민주당, 군포3·농정해양위원회)이 대표 발의한 「경기도의회 의정활동 지원 업무 혁신을 위한 인공지능 활용 조례안」이 18일 열린 제393회 임시회 제4차 본회의에서 최종 가결됐다. 이번 조례안은 생성형 AI를 필두로 한 인공지능 기술의 비약적인 발전 속에 정책자료 수집·분석, 조례 및 회의 문서 작성 지원, 의정 데이터 분석 등 실무 영역에서 AI 활용 수요가 급증함에 따라 마련됐다. 경기도의회가 AI 기술을 선제적이고 안정적으로 안착시켜 의정 지원 업무의 효율성과 전문성을 극대화하기 위한 목적이다. 특히 AI를 단순한 업무 보조 프로그램으로 도입하는 것에 그치지 않고, 허위 정보 및 오류 생성(할루시네이션), 개인정보 및 비공개 내부자료 유출, 저작권 침해 등 AI 활용 과정에서 야기될 수 있는 잠재적 위험 요소를 사전에 체계적으로 관리·통제하는 데 초점을 맞췄다. 조례의 주요 조항에는 ▲인공지능 활용의 기본원칙 및 도의회 의장의 책무 규정 ▲중장기 인공지능 활용 기본계획의 수립·시행 ▲데이터 분석·시각화, 정책 연구, 주민 의견 수렴·분석 등 AI 활용 가능 업무 범위 명문화 ▲AI 도구 및 서비스의 공동 활용을 포함한 관련 지원 사업 추진 ▲AI 도입·활용 및 안전 관리를 위한 심의·자문 기구 운영 등이 구체적으로 담겼다. 김미숙 부의장은 “인공지능은 정책자료 조사와 분석, 데이터 활용 등 의정활동 지원 업무의 효율성과 전문성을 높일 수 있는 중요한 수단이지만, 그만큼 정확성과 안전성을 확보하고 책임 있게 활용하기 위한 기준도 필요하다”며 “이번 본회의 통과로 경기도의회가 인공지능을 체계적으로 도입하고 활용할 수 있는 제도적 기반을 갖추게 됐다는 점에서 의미가 크다”고 밝혔다. 이어 김 부의장은 “중요한 것은 인공지능을 얼마나 많이 사용하는지가 아니라 의정활동에 얼마나 정확하고 안전하게 활용하느냐”라며 “인공지능이 만들어낸 자료에 대한 확인과 검증을 철저히 하고 개인정보 보호와 정보보안, 저작권 등 기본원칙을 준수하면서 의정활동의 품질을 높이는 방향으로 활용해야 한다”고 강조했다. 김 부의장은 “조례 통과가 끝이 아니라 실제 의정활동 지원 업무의 변화로 이어지는 것이 중요하다”며 “구성원에 대한 지속적인 교육과 활용실태 점검을 통해 인공지능의 장점은 적극 활용하면서도 그에 따른 위험은 철저히 관리해, 도민에게 더욱 신뢰받는 의정활동으로 이어질 수 있도록 꼼꼼히 살피겠다”고 덧붙였다.

서울 노원구는 최근 행정안전부가 추진하는 지능형 업무관리플랫폼 ‘온AI’의 지방정부 시범서비스 자치구로 선정됐다고 21일 밝혔다. 생성형 인공지능(AI)을 행정 전반에 적극 도입하며 공공행정 AX(AI 전환)에 속도를 내고 있다. 지난 3월 전 직원을 대상으로 자체 생성형 AI 플랫폼 ‘노원GPT’를 선제적으로 도입한 데 이어 정부의 지능형 업무플랫폼까지 활용 범위를 넓혔다. 온AI는 보안성을 확보한 환경에서 법령·지침 및 각종 행정자료 검색, 데이터 취합·분석, 문서 작성 등을 지원한다. 화상회의와 연계한 회의록 자동 생성·요약 등 반복적인 업무도 줄여 직원들이 전문적이고 핵심적인 업무에 집중할 수 있도록 돕는다. 10월부터 시작되는 지방정부 시범서비스에는 전국 8개 시·도와 46개 시·군·구가 선정됐다. 서울 자치구 가운데서는 노원구를 비롯해 도봉구와 서대문구가 참여한다. 앞서 구는 지난 16일 삼성SDS 관계자를 초청해 AI 기반 소통·협업 솔루션 ‘브리티웍스(Brity Works)’ 시연 및 발표회도 열었다. 서준오 구청장을 비롯한 관련 부서 관계자들이 참석해 AI 기능과 보안성, 기존 업무시스템과의 연계 가능성 등을 살피고 행정업무 적용 방안을 검토했다. 지난 3월에는 전 직원을 대상으로 맞춤형 생성형 AI 플랫폼 ‘노원GPT’를 도입했다. 9월 현재 전체 현원 1584명 중 1150명이 가입해 전 직원의 70% 이상이 활용하고 있다. 안전관리 분야에서는 AI로 다중인파 공간 밀집도를 분석하고 건축 및 토목 도면을 동영상 기록관리와 매칭 분석하며 전문 검토 작업에 정밀성을 더하고 있다. 구는 온AI 시범서비스에 대한 부서별 사용 희망 수요조사를 거쳐 오는 10월부터 연말까지 약 500개 계정을 도입한 후 내년도 지능형 업무관리 플랫폼 활용 방안을 구체화할 계획이다. 서 구청장은 “AI를 통한 효율성 개선에 그치지 않고 새로운 행정혁신을 선도하고 받아들이는 행정의 체질 개선을 모색하겠다”며 “절감한 행정력을 구민을 위해 활용하고 더 나은 행정으로 돌려드리겠다”고 말했다.

젠슨 황 엔비디아 최고경영자(CEO)가 인공지능(AI)으로 인해 2030년쯤 인류가 멸망할 수 있다는 일각의 경고를 정면으로 반박했다. 황 CEO는 근거 없는 공포를 퍼뜨리는 것은 무책임한 태도라고 강조했다. 황 CEO는 20일(현지시간) 미국 CBS뉴스와의 인터뷰에서 “2030년에 세상이 끝나는 일은 없으며, 그럴 가능성은 0%”라고 단언했다. 이어 ”사람들에게 불필요한 공포를 심어주는 것은 무책임한 행동“이라며 AI에 의한 인류 멸망설을 ‘과학적 근거가 없는 종말론적 서사’라고 일축했다. 이번 발언은 AI의 발전 속도를 둘러싸고 실리콘밸리에서 뜨거운 논쟁이 이어지는 가운데 나왔다. 논쟁의 불씨는 앤스로픽 출신 연구원 제이컵 콕슨의 발언에서 시작됐다. 콕슨은 최근 엑스(X)를 통해 “오픈AI와 앤스로픽에서 3년간 사전 학습 연구를 맡았으나, 두 기업 모두 책임감 있게 행동하지 않고 있다”고 비판했다. 그는 “이들이 자율적으로 진화하는 초지능을 향해 맹목적으로 질주하며 인류의 목숨을 담보로 도박을 벌이고 있다”며 선도적 AI 개발자들 역시 이 기술이 10년 안에 인류를 멸망시킬 수 있다고 믿는 상황이라고 주장했다. 해당 게시물은 80만개 이상의 ‘좋아요’를 받으며 파장을 일으켰다. 엔비디아는 오픈AI와 앤스로픽을 포함한 주요 AI 기업에 모델 훈련용 반도체를 공급하고 있어 이번 논쟁과 이해관계가 깊게 맞물려 있다. 이와 관련해 황 CEO는 사업적 이해관계를 넘어 AI를 안전하고 책임 있게 출시해야 할 명확한 이유가 있다고 밝혔다. 그는 “기업의 성공은 제품과 서비스를 안전하게 시장에 선보이는 데 달렸으며 이를 어길 경우 기업 가치는 하락할 수밖에 없다”고 지적했다. 아울러 황 CEO는 AI 규제를 신설할 필요가 없다는 도널드 트럼프 미국 대통령의 견해에 공감을 표했다. 제조물 책임 등 기존의 법적 테두리로도 충분히 대응할 수 있다는 취지다. 그는 “이미 사이버 보안 및 손해 배상과 관련한 다양한 책임법이 존재한다”며 “종말론적 서사를 핑계 삼아 기업이 기존 법적 책임에서 벗어나게 해서는 안 되며, 현행법부터 엄격히 적용해야 한다”고 강조했다.

부산 북항에 상어가 출몰해 이를 보려는 시민들로 인산인해를 이루는 가운데, 국내 증시에서는 뜻밖의 종목이 ‘반짝’ 수혜를 입고 있다. 21일 코스닥 시장에서 더핑크퐁컴퍼니는 9%대 상승 출발해 장 초반 10.99% 오른 1만 3430원까지 치솟았다. 더핑크퐁컴퍼니(옛 스마트스터디)는 “아기 상어 뚜루루뚜루~”로 잘 알려진 ‘상어가족’ 캐릭터와 동화를 제작한 교육 엔터테인먼트 기업으로 지난해 11월 코스닥 시장에 상장했다. 이 중 대표작인 ‘핑크퐁 아기상어 체조(Baby Shark Dance)’ 영상은 현재 유튜브에서 173억회 조회돼 유튜브 역사상 최다 조회수 1위 자리를 차지하고 있다. 부산 북항에 상어가 출몰해 이를 보려는 시민들이 몰리면서 소셜미디어(SNS) 등에서는 “북항에 ‘아기상어 체조’ 노래를 배경음악으로 틀어야 한다”, “증시가 열리면 ‘아기상어’를 풀매수해야 한다” 등의 우스갯소리가 나오기도 했다. 실제 한 네티즌은 ‘스레드’에서 “월요일(21일) 증시가 열리면 ‘더핑크퐁컴퍼니’가 급등할 것이다. 이것이 국장(국내 증시)”라고 적었는데, 이 예언이 적중한 셈이 됐다. 때아닌 더핑크퐁컴퍼니의 급등은 기업의 호실적 발표나 실제 호재에 따른 상승이 아닌 일종의 ‘밈 주식’ 현상으로 풀이된다. 국내 증시의 ‘밈 주식’ 현상은 여러 차례 있었다. 2024년 1월 생성형 인공지능(AI) ‘챗GPT’ 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)의 방한 소식에 국내 증시에서 ‘샘표’, ‘샘씨엔에스’ 등 종목명에 ‘샘’이 들어간 종목이 급등하는 기현상이 벌어졌다. 이에 앞서 2022년에는 태풍 ‘노루’의 북상 소식이 전해지자 태풍과 무관하지만 이름이 비슷한 ‘노루페인트’가 급등해 투자자들을 황당하게 만들기도 했다. 한편 부산 북항 친수공원에 지난 18일 출몰한 몸길이 3.5m의 상어는 이날까지 나흘째 북항 수로를 헤엄치고 있다. 이에 북항은 상어를 보려는 시민들이 몰려들며 ‘전국구 핫플’로 떠올랐고, 공원 내 카페는 재료 소진으로 영업을 조기 마감할 정도로 특수를 누리고 있다. 네티즌들은 상어에게 ‘부캉이’라는 이름을 지어주고 AI를 활용해 캐릭터와 굿즈 등의 가상 이미지를 만들고 있다. “부산 돔구장을 상어 모양으로 하자”, “‘유 퀴즈 온 더 블록’에서 섭외해 달라”, “‘롯데 자이언츠’를 ‘롯데 샤크스’로 바꾸자” 등의 우스갯소리도 나온다. 해경은 상어의 공격성을 자극하지 않기 위해 상어가 외해로 자연스럽게 빠져나가기를 기다리며 관찰하고 있다. 당국은 시민들에게 안전 안내 문자를 보내 수변 접근을 피하라고 권고하는 한편, 만일의 사고에 대비해 수로를 가로지르는 다리의 출입을 통제하고 순찰을 강화했다.

서울시의회 김정애 의원(더불어민주당, 관악4(신원동, 서원동, 서림동, 대학동, 삼성동))은 지난 3일 열린 제339회 임시회 주택공간위원회 디지털도시국 업무보고에서 자치구별 지능형 CCTV 전환 격차를 점검하고, 지역 안전 수요와 예산 효율성을 고려한 CCTV 확충 방안 마련을 요구했다. 서울 열린데이터광장에 공개된 ‘서울시 자치구 지능형 CCTV 설치현황’에 따르면, 2026년 6월 말 기준 25개 자치구 CCTV 통합관제센터의 관제수량은 총 12만1,638대다. 이 중 지능형 CCTV는 5만7,014대로 전체의 46.9%이다. 자치구별 지능형 CCTV 설치비율도 13%에서 100%까지 큰 차이를 보였다. 김 의원은 일반 CCTV와 달리 지능형 CCTV가 영상을 분석해 이상 상황을 신속하게 알릴 수 있다는 점을 확인하고, 서울시가 CCTV 설치 필요성을 어떤 방식으로 판단하는지 물었다. 이어 자치구별 지능형 CCTV 전환율 격차가 지역 수요에 따른 것인지, 재정 여건이나 사업 추진 역량의 차이에서 비롯된 것인지 파악할 필요가 있다고 말했다. 이와 더불어 김 의원은 범죄 및 사고 발생 건수를 비롯해 유동 인구, 주민 민원, 촬영 사각지대 등을 종합적으로 고려한 수요자 중심의 CCTV 확충 기준을 세워야 한다고 촉구했다. 또한 비지능형 CCTV의 기능 수준과 전환 가능 여부를 검토하여 연차별 목표와 투입 예산계획을 수립할 필요가 있다고 덧붙였다. 이에 서울시 측은 빅데이터 분석 자료와 자치구별 요구사항 등을 종합적으로 파악해 CCTV 설치 지역을 정하고 있는 상황이라고 답변했다. 다만 지능형 CCTV의 정탐률이 낮고 오탐이 발생하는 한계를 감안해, 고가 장비를 무리하게 늘리기보다는 일반 CCTV 영상까지 다각도로 분석할 수 있는 AI 관제시스템 적용을 검토하는 중이라고 설명했다. 이에 김 의원은 지능형 CCTV의 양적 확대에 앞서 실제 안전 대응 효과와 예산 투입 대비 실효성을 검증해야 한다고 지적했다. 김 의원은 “지능형 CCTV와 기존 관제 방식이 실제 대응 효과와 예산 측면에서 어떤 차이가 있는지 면밀히 비교·검토해 달라”고 당부했다.

“인류사 난제 해결할 강력한 도구”AI 수상엔 의견 분분… 韓은 “가능” 노벨과학상을 수상한 세계적인 석학들은 인공지능(AI)이 연구개발 속도를 높이고 새로운 발견을 이끌어내고 있지만, 인간 고유의 역할은 바뀌지 않을 것이라고 밝혔다. 2021년 노벨 화학상 수상자인 데이비드 맥밀런 미국 프린스턴대 교수는 20일 서울 강남구 코엑스에서 열린 ‘노벨 프라이즈 다이얼로그 2026’에서 “AI가 발전한다고 해서 인간 과학자에게 요구되는 덕목이 변하지는 않을 것”이라며 “AI를 더 잘 이해하고 안전하게 사용해 난제를 해결한 것인가가 관건”이라고 말했다. 이번 행사는 노벨상 시상식이 열리는 매년 12월 10일을 전후로 스웨덴 현지에서 열리는 ‘노벨 위크 다이얼로그’의 해외 특별행사다. 노벨상 수상자 등 세계적인 석학과 각 분야 리더들이 글로벌 이슈에 대해 일반 청중들과 대화하고 토론하는 자리다. 매년 개최 장소를 바꾸는데 우리나라에서는 2017년, 2023년에 이어 세 번째다. 이번 주제는 ‘AI가 바꾸는 과학의 미래’였다. 노벨상 수상자들은 AI가 인류 난제 해결에 강력한 도구라는 데 동의했다. 2006년 생리의학상을 수상한 크레이그 멜로 미 매사추세츠대 교수는 “여전히 세상에는 발견되지 않은 많은 미스터리가 있고 AI가 이를 해결하는 데 도움을 줄 것”이라고 말했다. 다만, 2011년 물리학상 수상자인 브라이언 슈미트 호주국립대 교수는 “AI는 인간이 만들어낸 것이고 인간에게 도움을 주는 것이어야 한다”며 “AI가 책임을 지는 게 아니라 AI를 사용하는 인간이 책임을 져야 한다”고 했다. ‘AI가 새로운 발견을 이끌어냈을 때 노벨상을 받을까’라는 문제에는 의견이 엇갈렸다. 슈미트 교수는 “AI가 질문을 던질 줄 알고 수행할 수 있게 되면 과학계에 완전히 다른 시대가 열리는 것”이라며 “다만 노벨상을 받을 수 있냐는 질문에 대한 답은 아니오”라고 말했다. 반면 멜로 교수는 “혁신적 발견이 이뤄지고 신약이 나와 인류가 고통에서 해방될 수 있다면 인류와 AI 모두의 승리”라며 “노벨상은 발견을 기리는 것인 만큼 AI도 수상할 수 있지 않겠냐”고 반문했다. 석학들은 한국 과학자의 노벨상 수상 가능성에 대해 “기대해도 될 것”이라고 입을 모았다. 맥밀런 교수는 유기화학 분야의 김성각 카이스트 화학과 명예교수를 언급하며 “과거에는 모두가 불가능하다고 했던 것을 가능하게 하는 등 패러다임 전환을 불러온 것이 한국 과학자들”이라고 평가했다.

경기도가 인공지능(AI)과 사물인터넷(IoT) 기술을 활용해 노인 등에 통합 돌봄서비스를 제공하는 AI 스마트홈 돌봄 사업을 시작한다고 20일 밝혔다. 앞서 지난 5월 도는 보건복지부가 주관하고 한국사회보장정보원이 추진하는 ‘2026년 AI 응용제품 신속 상용화 지원사업(AX sprint)’에 선정됐다. 총 2억 7500만원의 국비를 확보한 도는 도시형 시범지역으로 성남시를 지정해 노인·장기요양·만성질환자 200가구에 스마트홈 돌봄 서비스를 2027년 12월까지 실시할 계획이다. 돌봄이 필요한 노인 등이 살던 집에서 24시간 안전·건강·정서 관리를 받을 수 있는 통합 돌봄 체계를 구축하는 것을 목표로 한다. 대상자에게는 AI 스피커, 활동량 감지기, 반려로봇, 스마트워치, 혈압측정기 등이 제공된다. 태블릿 기반 AI가 정기적으로 안부를 확인하고 정서적 교감을 나누는 한편, 음성·표정·생활 신호 등을 종합 분석해 위험 징후를 조기 포착하고, 복약 알림·외출 감지·수면 패턴 분석 등의 기능을 통해 돌봄 대상자의 일상생활 상태를 상시적으로 살핀다. 박미정 도 노인복지과장은 “이번 사업은 독거노인 및 취약계층의 고독사 예방과 상시 모니터링 체계 강화에 크게 기여할 것”이라고 말했다.

현대자동차의 대표 준중형 스포츠유틸리티차(SUV) 투싼이 6년 만에 5세대 완전 변경 모델로 돌아왔다. 실내 공간을 넓히고 시스템 최고출력 245마력, 복합연비 17.4㎞/ℓ의 차세대 하이브리드 시스템을 탑재했다. 현대차는 지난 18일 경기 파주시 CJ ENM 스튜디오 센터에서 ‘디 올 뉴 투싼’(신형 투싼)을 공개했다. 신형 투싼은 1.6 터보 가솔린과 1.6 터보 하이브리드 두 가지 파워트레인으로 운영한다. 다음달에 가격을 공개하고 국내에 판매한다. 전장은 기존보다 60㎜ 늘어난 4700㎜, 전폭은 40㎜ 넓어진 1905㎜, 휠베이스는 30㎜ 늘어난 2785㎜다. 2열 헤드룸은 1031㎜로 기존보다 29㎜ 늘렸고, 2열 도어 개방 각도도 기존 73도에서 83도로 확대했다. 하이브리드 모델은 현대차그룹의 차세대 하이브리드 시스템을 적용해 시스템 최고출력을 기존보다 10마력 높인 245마력으로 끌어올렸다. 복합연비도 17인치 타이어·2륜구동(2WD) 기준 기존보다 1.2㎞/ℓ 개선된 17.4㎞/ℓ를 달성했다. 내비게이션 정보를 바탕으로 감속이 필요한 구간을 예측해 가속 페달에서 발을 뗄 시점을 알려주는 ‘관성 주행 안내’와 정차 중 엔진을 켜지 않고도 공조·인포테인먼트 등을 사용할 수 있는 ‘스테이 모드’도 적용했다. 가솔린 모델은 기존보다 13마력 높아진 최고출력 193마력의 1.6 터보 엔진에 8단 자동변속기를 조합했다. 현대차 SUV 최초로 차세대 인포테인먼트 시스템 ‘플레오스 커넥트’도 적용했다. 대규모언어 모델(LLM) 기반 생성형 AI 에이전트 ‘글레오 AI’는 자연스러운 연속 대화를 이해해 차량 제어뿐 아니라 지식 검색과 여행 일정 추천 등을 지원한다. 안전·주차 기능도 강화했다. 충돌로 차량의 메인 전원이 끊겨도 백업 전원으로 문을 열 수 있도록 하는 ‘도어 언락 전원 이중화’를 현대차 최초로 적용했다. 가속 페달을 브레이크로 잘못 밟았을 때 구동력을 제한하고 제동하는 ‘페달 오조작 안전 보조’도 기본 적용했다.

이번 주 열리는 미중 정상회담에서 인공지능(AI)이 핵심 의제로 부상하면서 국내 기업들의 마음이 복잡하다. AI 개발 선두 업체들이 주장하는 AI 속도조절론이 예상보다 빠르게 국제 규범으로 현실화한다면 한국의 AI 산업에는 악재가 될 수 있어서다. 최근 오픈AI와 앤스로픽 수장이 AI 속도조절론을 들고 나왔고 ‘AI 대부’로 불리는 제프리 힌턴 토론토대 명예교수와 요슈야 벤지오 몬트리올대 교수가 AI를 핵에 비유하며 잇달아 경고음을 울렸다. 힌턴 교수는 오픈AI의 아스트라가 허깅페이스를 해킹한 사건을 “작은 체르노빌”이라며 “AI에 대한 안전장치를 마련할 시간이 1년쯤 남았을 것”이라고 했다. 벤지오 교수는 “AI 통제는 핵무기와 마찬가지로 국제적 과제”라며 국제 규범 논의를 제안했다. 글로벌 핵군축·비핵화와 마찬가지로 AI에 대한 민주적인 통제는 바람직한 방향이다. 대의에 공감하지만 그 뒷면을 주목하지 않을 수 없다. 과거 핵무기 국제 규범을 핵보유국이 주도했던 것을 돌아보면, 우리가 AI 국제 규범 논의에서도 소외될 수 있어서다. AI 국제 규범 모델로 거론되는 핵확산금지조약(NPT)은 1967년 1월 1일을 기준으로 핵무기 또는 핵폭발 장치를 제조·폭발시킨 미국·소련·영국·프랑스·중국 등 5개국만을 핵무기국으로 규정했다. 그날까지 핵을 갖지 못한 나라는 핵무기 개발이 금지됐다. 비핵보유국은 핵군축 약속의 불이행 우려, 강대국 중심의 국제 안보 질서 등을 우려해 반발했지만 결과는 변하지 않았다. AI는 핵과 달리 민간 기업이 주도하고, 도널드 트럼프 미국 대통령이 AI 규제에 부정적이어서 NPT 때와는 상황이 다르다는 분석도 있다. 하지만 AI 기술 경쟁에서 지배적 위치를 선점한 미중이 이번 정상회담을 계기로 AI 표준과 규범을 논의하기 시작할 것이란 관측에 힘이 실린다. 핵무기 규범 때처럼 기술 역량과 협상력을 가진 소수 국가가 규칙 설계 과정에서 절대적인 발언권을 행사할 것이라는 우려가 커지는 지점이다. 이번 정상회담 만찬에는 오픈AI, 아마존, 엔비디아, 구글 등의 최고경영자(CEO)들이 대거 참석할 것이라는 외신 보도도 있었다. AI 속도전에서 낙오했다간 규칙을 정하는 논의에서 배제되는 처지가 될 수 있다는 걱정이 나온다. 우리도 국제 규범 논의에 참여할 기반을 마련해야 한다. 첫째는 핵심 기술의 자립 역량이다. 민관은 소버린 AI 개발에 박차를 가하고 GPU·데이터·컴퓨팅 인프라에 대해 과감하게 투자해야 한다. 해외 모델 활용을 넘어 우리 언어와 산업, 공공서비스에 최적화된 AI를 자체적으로 개발·운영할 수 있어야 한다. 국방 분야가 출발점이다. 국방 AI를 단순한 무기체계의 보조 기술로 취급하지 말고, 감시·정찰·지휘통제·사이버 방위 등 핵심 군사 시스템을 아우르는 산업 생태계로 구축해야 한다. 소버린 AI의 고도화가 AI 생태계에서 고립된다는 의미는 아니다. 국제 협력에 참여하면서도 핵심 기술과 데이터, 시스템을 스스로 통제할 수 있는 능력을 갖춰야 국제 협상력도 키울 수 있다. 다음은 협상력 고양이다. 우리 정부는 AI 규제 논의뿐 아니라 안보·통상·산업 분야에서 새롭게 형성되는 국제 협력 체계도 민감하게 살펴야 한다. 국제 협의체는 처음부터 완성된 안보 질서로 출범하지 않는다. 작은 실무 협력이 새로운 전략적 연대와 규범으로 확장될 수 있다. 일례로 미국·일본·인도·호주의 안보·전략안보협의체인 쿼드(Quad)는 2004년 인도양 쓰나미 당시 네 나라가 구호 활동을 위해 협력한 것이 초기 계기였다. 특히 미중 간 AI 안전과 군사적 위험에 대한 논의가 향후 새로운 다자 협력체나 규범으로 발전할 가능성을 염두에 둬야 한다. AI라는 미래의 국제 규범을 누가 설계하고, 누가 그 과정에 참여할지는 기술 역량과 외교적 준비에 달려 있다. 선두권이 벽을 높이고 있고, 우리는 시간이 없다. 이경주 산업부장

지난 9월 2일 엔비디아의 허깅페이스 인수 계약이 성사되었다는 소식이 나왔다. 인수 총액은 129억 3000만 달러로, 주주들에게 돌아가는 119억 달러에 더하여 회사에 남기로 한 직원들에게 지분 보상으로 최대 10억 달러가 더 들어갈 것이라고 한다. 법적 승인이 이루어지면 내년 상반기 완료가 전망된다. 엔비디아는 이미 작년 12월 반도체 스타트업 그록을 200억 달러에 사들인 바 있으며 이번 건은 엔비디아 역사상 두 번째로 큰 인수합병이다. 허깅페이스는 개방된 플랫폼으로서 인공지능(AI) 업계의 표준 저장소로 불리는 곳이다. 1800만 명이 넘는 개발자가 참여하여 작업을 서로 공유하는 곳으로, 300만 개 이상의 모델이 나와 있으며 고객 기업만 해도 20만 개가 넘는 곳이다. 폐쇄형 기업인 앤스로픽이나 오픈AI 등 선도 기업들의 개발자들 또한 이곳을 개발과 모델 검증의 중요한 플랫폼으로 이용하고 있다. 그런 의미에서 인공지능 발전의 엔진 역할을 하는 것이라고 할 수 있다. 그런데 반도체 기업인 엔비디아가 이곳을 완전히 소유하게 되는 계약이 성사되었다는 소식은 큰 파장을 던지고 있다. 많은 이들은 이 인수의 동기에 주목한다. 젠슨 황은 허깅페이스 집단 해킹 사건이 벌어진 직후인 7월 24일, 인공지능 업계가 소수 기업의 기술 독점에 지배당하지 않고 또 안전을 강화하기 위해서라도 오픈 모델에 대한 접근을 더 많은 스타트업과 대학 연구소들에게 제공해야 한다는 글을 발표하였다. 이 서한에 25개 기업이 서명하였고 동참한 기업은 하루 만에 50개사로 나흘 뒤엔 150개사 이상으로 불어났다. 처음엔 빠져 있던 오픈AI와 구글과 아마존 또한 이 흐름에 곧 합류했다. 흥미롭게도 안전이 최고의 가치임을 목놓아 외치는 앤스로픽이 끝까지 참여하지 않았다. 최근 업계에 충격을 던졌던 중국 모델 키미 K3에 대해서도 황은 중국 모델 또한 성능만 뛰어나면 얼마든지 써야 한다고 하면서, 모델 하나에 세계가 의존하는 순간 그것이 곧 약한 고리, 단 하나의 공격 지점이 된다고 주장했다. 이러한 맥락에서 벌어진 이번 인수는 단순한 엔비디아의 사업 확장이 아니라, 끝내 문을 걸어 잠근 진영에 맞서서 오픈소스 생태계 전체를 지켜내겠다는 선언으로 읽힌다. 그럴 법한 일이다. 이 폐쇄형 인공지능의 선도기업들은 엔비디아에 대한 의존을 벗어나기 위해 독자적인 GPU 생산을 계획하고 있다고 알려져 있다. 이에 대해 엔비디아는 자신들의 제품에 대한 시장 수요를 확보하기 위해서라도 오픈소스 모델들이 왕성하게 발전할 수 있는 장을 지켜내야 한다. 그런데 그 결과는 한걸음 더 나아간다. 엔비디아는 이제 GPU 생산에서 시작하여 인공지능 모델의 개발에 이르는 전 과정을 독자적으로 갖춘 이른바 ‘풀 스택’ 체제를 갖출 수 있게 되었다. 장군을 멍군으로 받으면서 동시에 거꾸로 장군을 친 셈이다. 이 거래가 완결되는 데에는 아직 장벽이 있다. 세계 최대 시가총액 기업이 업계에 필수적인 인프라를 완전히 집어삼키는 일을 ‘빅3’의 이익과 무관하지 않은 미국 규제당국이 순순히 승인할지가 불확실하기 때문이다. 하지만 이러한 고래들의 힘싸움 와중에 터지는 새우등이 있다. 바로 ‘오픈소스’의 공간이다. 물론 황은 허깅페이스가 앞으로도 개방형 플랫폼으로 남을 것이며 엔비디아 컴퓨팅을 강요하는 일은 없을 것이라고 약속했다. 다만 그 약속을 지킬지 말지를 결정할 권한 자체가 이제 전적으로 한 회사에 있다는 사실은 달라지지 않는다. 비슷한 장면이 있었다. 지난 2018년 오픈소스 개발자들의 놀이터였던 깃허브가 마이크로소프트에 75억 달러에 인수됐을 때에도 개발자 커뮤니티가 대기업 품에서도 중립성을 지킬 수 있을까라는 질문이 나온 바가 있었다. 이 질문의 답은 아직 나오지 않았고, 훨씬 더 큰 판에서 이 질문은 똑같은 모습으로 돌아왔다. ‘개방’이 소유물이 된 것이다. 서로 다른 논리를 가진 이 두 명사는 공존할 수 있을까. 한 쪽이 이긴다면 어느 쪽일까. 홍기빈 글로벌정치경제연구소 소장

인공지능(AI) 개발 속도를 늦추자는 ‘AI 속도조절론’이 미국에서 반독점 소송으로 번졌다. AI 개발 경쟁과 안전을 둘러싼 논쟁이 소비자 피해로까지 확대되면서 업계의 셈법도 복잡해지고 있다. 19일(현지시간) 미국 캘리포니아주 연방북부지법에 따르면 플로리다주 찰스 뷔스트 변호사 등 원고 4명은 앤트로픽, 오픈AI, 스페이스X AI, 구글을 상대로 집단소송을 제기했다. AI 기업들이 개발 속도를 늦추기로 합의한 것은 기업 간 담합에 해당하고, 이에 손해를 배상해야 한다는 주장이다. 원고 측은 개별 기업이 자체적으로 안전 기준을 마련하면 문제가 없지만, 경쟁 관계의 기업들이 공동으로 속도를 늦추기로 합의하는 것은 미국 셔먼법 제1조가 금지하는 담합에 해당한다고 주장했다. 특히 챗GPT·클로드·그록·제미나이 등 AI 서비스를 이용하는 유료 소비자의 경우 같은 구독료를 내면서 기업의 동반 속도 조절로 충분한 서비스를 이용하지 못한다고 했다. 이번 소송은 다리오 아모데이 앤트로픽 최고경영자(CEO)가 지난 12일 최첨단 AI 개발 속도를 조절해야 한다며 올린 글에서 시작됐다. 아모데이 CEO는 AI가 스스로 더 뛰어난 AI를 만들어내는 단계로 접어들면서 인간의 통제 능력을 넘어설 수 있다고 경고했다. 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스X AI CEO, 데미스 허사비스 구글 최고과학자 등도 이에 동조했다. 다만 원고 측은 이번 소송이 AI 개발을 무조건 가속하라는 의미는 아니라고 강조했다. AI 안전을 위해 개발 속도를 제한하더라도 기업 간 합의가 아니라 의회와 정부가 투명한 절차를 거쳐 공적이고 구속력 있는 규칙을 마련해야 한다는 것이다.

현대자동차의 대표 준중형 스포츠유틸리티차(SUV) 투싼이 6년 만에 5세대 완전 변경 모델로 돌아왔다. 실내 공간을 넓히고 시스템 최고출력 245마력, 복합연비 17.4㎞/ℓ의 차세대 하이브리드 시스템을 탑재했다. 현대차는 지난 18일 경기 파주시 CJ ENM 스튜디오 센터에서 ‘디 올 뉴 투싼’(신형 투싼)을 공개했다. 신형 투싼은 1.6 터보 가솔린과 1.6 터보 하이브리드 두 가지 파워트레인으로 운영하며 다음 달 중 가격을 공개하고 국내 판매에 들어간다. 하이브리드 모델은 현대차그룹의 차세대 하이브리드 시스템을 적용해 시스템 최고출력을 기존보다 10마력 높인 245마력으로 끌어올렸다. 복합연비도 17인치 타이어·2륜구동(2WD) 기준 기존보다 1.2㎞/ℓ 개선된 17.4㎞/ℓ를 달성했다. 내비게이션 정보를 바탕으로 감속이 필요한 구간을 예측해 가속 페달에서 발을 뗄 시점을 알려주는 ‘관성 주행 안내’와 정차 중 엔진을 켜지 않고도 공조·인포테인먼트 등을 사용할 수 있는 ‘스테이 모드’도 적용했다. 가솔린 모델은 기존보다 13마력 높아진 최고출력 193마력의 1.6 터보 엔진에 8단 자동변속기를 조합했다. 전장은 기존보다 60㎜ 늘어난 4700㎜, 전폭은 40㎜ 넓어진 1905㎜, 휠베이스는 30㎜ 늘어난 2785㎜다. 현대차 SUV 최초로 차세대 인포테인먼트 시스템 ‘플레오스 커넥트’도 적용했다. 대규모언어 모델(LLM) 기반 생성형 AI 에이전트 ‘글레오 AI’는 자연스러운 연속 대화를 이해해 차량 제어뿐 아니라 지식 검색과 여행 일정 추천 등을 지원한다. 안전·주차 기능도 강화했다. 충돌로 차량의 메인 전원이 끊겨도 백업 전원으로 문을 열 수 있도록 하는 ‘도어 언락 전원 이중화’를 현대차 최초로 적용했다. 가속 페달을 브레이크로 잘못 밟았을 때 구동력을 제한하고 제동하는 ‘페달 오조작 안전 보조’도 기본 적용했다.

부산 북항 친수공원 수로에서 지난 18일 상어가 출몰해 사흘째 배회하는 가운데, 공원 일대가 ‘전국구 상어 명소’로 떠오르고 있다. 상어를 보려는 시민들이 하루 종일 몰려들자 전재수 부산시장이 “북항을 자주 찾아달라”며 홍보에 나섰다. 20일 부산광역시 등에 따르면 북항 친수공원에는 지난 8일 오전 8시 57분쯤 수로에서 길이 3~4m 크기의 상어가 발견됐다. 이어 전날에도 오후 1시 5분쯤 상어가 출몰했다는 신고가 당국에 접수됐다. 출몰한 상어는 흉상어과에 속하는 무태상어로 추정된다. 우리나라 연안을 비롯해 태평양과 대서양, 인도양의 아열대 해역에 분포하는데, 수온이 상승하면서 국내 연안에서 종종 출몰이 보고되고 있다는 게 국립수산과학원의 설명이다. 부산시는 시민들에게 안전 안내 문자를 보내 “이곳을 산책하는 분들과 인근 주민께서는 안전에 유의하시기 바란다”고 당부했다. 이어 해경은 상어가 외해로 빠져나가도록 유도 작업을 벌였으나, 상어의 공격성이 발현될 수 있다는 우려에 현재는 스스로 바다로 빠져나가도록 상황을 지켜보고 있다. ‘상어 출몰’ 소식에 공원은 단번에 전국구 명소로 떠올랐다. YTN 등에 따르면 공원에는 상어를 보러 온 시민들로 인산인해를 이뤘다. 어린 자녀들을 데리고 온 부모와 ‘대포 카메라’를 든 사람들이 공원 난간에 모여 상어가 유유히 헤엄치는 모습을 지켜봤다. 소셜미디어(SNS) 등에서는 “아쿠아리움이 아닌 바다를 헤엄치는 상어를 언제 보겠나”며 각지에서 공원으로 향했다는 글과 상어 목격담이 쏟아졌다. 한 네티즌은 “상어를 보러 대구에서 부산으로 당일치기했다”면서 상어가 헤엄치는 모습을 근거리에서 촬영한 영상을 SNS에 올렸다. 또 다른 네티즌은 “5~10분마다 한 번씩 지느러미를 쓱 내밀어서 도파민이 터진다”고 전했다. SNS에는 “상어 아직도 있다”며 실시간으로 상어의 행방을 공유하는 글이 쏟아졌고, 한 네티즌은 “상어가 계속 시민들을 위해 퍼포먼스를 하는데 배가 고프지 않을까”라고 걱정했다. 몰려드는 시민들로 인해 주차장이 저녁 시간까지 만차였다는 글도 있었다. 공원 인근의 카페 등은 손님이 몰려 “‘상어 코인’에 탑승했다”는 우스갯소리마저 나온다. 한 네티즌은 인근 카페에서 음료를 주문한 뒤 40분 만에 받았다는 글을 SNS에 올렸고, 이에 카페 점주가 댓글로 “음료를 못 받으셨거나 포기하신 고객님들께 죄송하다. 상어에게 고등어 몇 박스 사다 주고 싶은 마음”이라는 댓글을 달아 웃음을 안겼다. 이참에 “상어를 부산 마스코트로 만들자”, “롯데 자이언츠와 상어 콜라보 굿즈를 내놓으라”는 요청마저 나왔다. 네티즌들은 롯데 자이언츠 유니폼에 상어 캐릭터를 얹은 굿즈 이미지와 상어로 만든 부산시 마스코트 등을 인공지능(AI)으로 만들어 공유했다. ‘대전 늑구’에 이어 ‘부산 상어’가 전국적으로 화제를 모으자 전재수 부산시장은 “북항을 잘 가꾸어서 다양한 생물들이 공존하는 아름다운 바다로 만들어가겠다”며 화답했다. 전 시장은 전날 자신의 SNS에 올린 글에서 “기후변화로 인해 난류성 어류들이 북항에 많아서 상어도 먹이를 찾으러 이 곳에 온 것으로 추정된다”면서 “앞으로도 북항 주변에는 상어의 출몰이 적지 않을 것으로 예상된다”고 설명했다. 이어 “거꾸로 생각하면 북항 친수공원의 생태계가 그만큼 건강하다는 증거”라며 “시민들께서는 ‘해양수도 부산’의 미래가 될 북항을 더 자주 찾고 즐겨달라. 안전은 저희가 책임지겠다”라고 전했다.

경기도가 인공지능(AI)과 사물인터넷(IoT) 기술을 활용해 돌봄이 필요한 어르신들에게 통합 돌봄서비스를 제공하는 인공지능 스마트홈 돌봄 사업을 시작한다고 20일 밝혔다. 앞서 지난 5월 도는 보건복지부가 주관하고 한국사회보장정보원이 추진하는 ‘2026년 인공지능 응용제품 신속 상용화 지원사업(AX sprint)’에 선정됐다. 총 2억 7,500만 원의 국비를 확보한 도는 도시형 시범지역으로 성남시를 지정해 노인·장기요양·만성질환자 200가구에 스마트홈 돌봄 서비스를 2027년 12월까지 제공할 계획이다. 인공지능(AI)과 사물인터넷(IoT) 기술을 재가 돌봄 서비스에 접목해, 돌봄이 필요한 어르신 등이 살던 집에서 24시간 안전·건강·정서 관리를 받을 수 있는 통합 돌봄 체계를 구축하는 것을 목표로 한다. 대상자에게는 인공지능 스피커, 활동량 감지기, 반려로봇, 스마트워치, 혈압측정기 등이 제공된다. 태블릿 기반 인공지능이 정기적으로 안부를 확인하고 정서적 교감을 나누는 한편, 음성·표정·생활 신호 등을 종합적으로 분석해 위험 징후를 조기에 포착하고, 복약 알림·외출 감지·수면 패턴 분석 등의 기능을 통해 돌봄 대상자의 일상생활 상태를 상시 모니터링한다. 이를 통해 돌봄 공백을 줄이는 동시에 현장 종사자의 업무 부담도 덜 것으로 기대된다. 박미정 경기도 노인복지과장은 “사업이 안정적으로 안착될 수 있도록 성남시, NHN컨소시엄 등 관계 기관과 협력하고 나아가 경기도가 지속적으로 인공지능 기반 노인돌봄서비스를 선도할 수 있도록 노력하겠다”고 말했다.

다이빙 주한중국대사가 “중국에서 제주의 지명도는 서울보다 높다”고 말했다. 올해 제주를 찾은 중국인 관광객이 이미 180만명을 넘어선 가운데, 제주도는 중국 측에 크루즈 관광 확대와 제주~칭다오 항로 정상화를 위한 협조를 요청했다. 18일 제주도에 따르면 위성곤 제주특별자치도지사는 전날 서울 주한중국대사관에서 다이빙 대사를 만나 관광과 해운, 신재생에너지 등 제주와 중국 간 협력 방안을 논의했다. 이 자리에서 다이빙 대사는 “중국에서 제주의 지명도는 서울보다 높다”며 중국인 관광객들이 제주에서 안전하게 여행할 수 있도록 지속적인 관심을 가져달라고 요청했다. 실제로 중국은 제주 관광시장의 핵심 축이다. 제주관광공사에 따르면 올해 들어 지난달 말까지 제주를 찾은 중국인 관광객은 186만여명으로 집계됐다. 이 가운데 크루즈를 이용해 제주를 찾은 관광객만 38만여명에 달한다. 위 지사는 중국 주요 도시와 제주를 잇는 크루즈 협력을 확대해 제주를 동북아 크루즈 관광의 주요 거점으로 키우겠다는 구상을 밝혔다. 운항 정상화가 지연되고 있는 제주~칭다오 항로도 주요 의제로 올랐다. 위 지사는 “제주~칭다오 항로는 양국 교류의 통로”라며 “제주도와 중국 측 선사가 진행 중인 협상이 조속히 마무리돼 노선이 정상적으로 운영될 수 있도록 관심을 가져달라”고 말했다. 제주도는 현재 선사 측과 항로 운항에 따른 손실 보전 규모를 놓고 협상하고 있다. 기존에는 3년간 최대 219억원을 지원하는 방안이 거론됐지만, 이를 연간 50억원 미만으로 줄이는 방안을 두고 조율 중이다. 제주도는 항로가 정상화되면 화물 운송뿐 아니라 중국 관광객 유치와 문화 교류 확대에도 도움이 될 것으로 보고 있다. 다이빙 대사도 “제주~칭다오 항로는 양국 발전을 위해 성공해야 하는 프로젝트”라며 “지속 가능한 운영을 위해 함께 노력할 필요가 있다”고 말했다. 이어 위 지사의 요청을 중국 측에 전달하겠다고 밝혔다. 양측은 신재생에너지 분야의 협력 확대도 논의했다. 위 지사는 제주가 2035년 탄소중립을 목표로 재생에너지와 해상풍력 보급을 확대하고 있다며 관련 기술과 경험을 가진 중국 기업과의 교류를 제안했다. 위 지사는 오는 11월 4일 제주에서 열리는 ‘한중 미래발전 제주-중국 교류주간’에 다이빙 대사를 초청했다. 행사에서는 인공지능(AI)과 신재생에너지 등 미래 산업 분야의 협력 방안이 논의될 예정이다. 다이빙 대사는 제주와 중국 하이난이 모두 섬이라는 공통점이 있다며 교류 확대를 제안했다. 위 지사에게는 중국 보아오포럼을 찾아 하이난 자유무역항의 발전상을 직접 살펴볼 것을 권했다.

현대 인공지능(AI) 연구를 이끈 대표적 석학들이 잇따라 AI 통제력 상실 가능성을 경고하고 나섰다. 요슈아 벤지오 몬트리올대 교수에 이어 제프리 힌턴 토론토대 명예교수도 AI가 스스로 더 나은 AI를 만드는 ‘재귀적 자기개선’ 단계에 이미 접어들었다며 “안전장치를 마련할 시간이 아마 1년쯤 남았다”고 경고했다. 미 NBC뉴스에 따르면 힌턴 교수는 16일(현지시간) 버니 샌더스 상원의원이 주최한 미 연방의회 비공개 브리핑에 참석한 뒤 AI 안전장치를 마련할 수 있는 시간에 대해 “아마 1년쯤 될 것”이라며 “1년보다 많이 길지는 않을 것”이라고 말했다. 그는 초지능 등장 시점에 대한 연구자들의 전망도 과거 수십 년에서 최근에는 수년 안으로 크게 앞당겨졌다고 설명했다. 힌턴은 AI 안전 우려를 논의하기 위해 마련된 이번 브리핑에 맥스 테그마크 미래생명연구소 공동창립자 등과 함께 참석했다. 힌턴 교수가 특히 우려한 것은 AI가 차세대 AI 개발에 직접 관여하기 시작했다는 점이다. 그는 “AI는 이제 AI가 더 나은 AI를 설계하는 단계에 이르렀다”며 이를 ‘재귀적 자기개선’이라고 설명했다. 최근 앤트로픽이 자사 AI 연구개발 업무 가운데 클로드가 사실상 주도하는 비중이 8월 기준 26%까지 높아졌다고 밝힌 것과도 맞닿아 있다. AI가 연구자의 생산성을 높이는 수준을 넘어 개발 과정 자체를 자동화하면서 기술 발전 속도가 인간의 관리 역량을 앞지를 수 있다는 우려다. 힌턴 교수는 최근 오픈AI의 AI 에이전트들이 외부 플랫폼 허깅페이스에 침투하고 흔적을 감추려 한 사건을 ‘작은 체르노빌’에 빗대기도 했다. 단일 사건의 피해 규모보다 인간이 통제하도록 설계한 시스템이 예상 밖 행동을 하기 시작했다는 점에 의미를 둔 표현이다. 그는 “우리가 무엇인가 하지 않으면 통제 불능이 될 것”이라며 개발 속도를 늦춰야 한다고 주장했다. 불과 하루 전에는 벤지오 교수도 AFP와의 인터뷰에서 AI 기업들조차 개발 속도가 지나치게 빨라 통제력을 잃어가고 있다고 우려한다며 핵무기 통제에 준하는 국제적 안전장치를 촉구했다. 현대 AI의 기반을 닦은 두 연구자가 잇따라 경고에 나선 셈이다. 미 의회에서도 논의가 구체화하고 있다. 민주·공화 양당 의원들은 고성능 AI 개발업체가 알려진 중대 위험을 줄일 의무를 지도록 하고, 필요할 경우 정부가 위험한 모델의 출시를 막을 수 있도록 하는 방안을 협의해왔다. 별도로 AI 시스템을 인간이 강제로 정지할 수 있는 기술적 권한을 의무화하는 이른바 ‘킬 스위치’ 법안도 제안돼 있다. 다만 초당적 합의 여부와 실제 입법 시점은 아직 불확실하다.

인공지능(AI) 개발 속도를 둘러싼 실리콘밸리의 논쟁이 ‘멈출 것이냐, 계속 달릴 것이냐’는 찬반을 넘어 실제 규제 방식과 통제의 주체를 둘러싼 문제로 옮겨가고 있다. 젠슨 황 엔비디아 최고경영자(CEO)와 마크 저커버그 메타 CEO 등이 민간 주도의 AI 규제기구 설립에 제동을 건 가운데 앤트로픽은 자사 AI가 이미 AI 연구개발 업무의 26%를 주도하고 있다고 공개했다. 누가 안전 기준을 만들고, AI가 차세대 AI 개발에 관여하는 속도를 어디까지 허용할지가 새 쟁점으로 떠오르는 모습이다. 17일(현지시간) 월스트리트저널(WSJ)에 따르면 황 CEO와 저커버그 CEO, 일론 머스크 스페이스X CEO는 최근 도널드 트럼프 미국 대통령에게 민간 주도 AI 규제기구 설립에 대한 우려를 전달했다. 이들은 별도 기구가 만들어질 경우 오픈AI와 앤트로픽, 구글 등 선두 AI 기업에 영향력이 쏠릴 수 있다는 점을 문제 삼은 것으로 전해졌다. 해당 구상은 데미스 허사비스 구글 딥마인드 CEO가 미국 금융산업규제국(FINRA)을 본떠 제안한 것으로 알려졌다. 업계가 참여하는 별도 조직을 두고 AI 안전 기준과 평가 체계를 마련하자는 취지다. 황 CEO와 저커버그 CEO 등은 AI 안전의 필요성 자체보다는 특정 기업이 규칙을 만드는 구조와 외부 감독 방식에 우려를 나타낸 것으로 전해졌다. 규제기구에는 선을 그었지만 안전장치의 필요성에는 공감대가 이어지고 있다. 같은 날 찰스 3세 영국 국왕은 스코틀랜드 덤프리스 하우스에서 엔비디아와 구글 딥마인드, 오픈AI, 앤트로픽 관계자들을 만나 AI가 통제에서 벗어날 위험에 대비한 협력을 촉구했다. 이 자리에 참석한 황 CEO도 ‘책임 있는 낙관론’을 강조하며 충분히 검증되지 않은 AI 시스템을 성급하게 내놓아선 안 된다는 취지로 말했다. 그동안 이 논쟁에서 비교적 말을 아껴온 아마존도 입장을 내놨다. 아마존은 로이터에 “진보와 안전 중 하나를 선택해야 한다고 보지 않는다”며 모델을 출시하기 전 엄격한 시험과 강력한 안전장치가 필요하다고 밝혔다. 다만 업계 전체가 일제히 개발 속도를 늦추는 방안에는 동참하지 않았다. 개발 자체를 늦추기보다 각 기업이 검증과 안전조치를 강화해야 한다는 쪽에 가깝다. 규제 방식을 둘러싼 공방과 별개로 AI 개발 현장의 자동화 속도는 빠르게 높아지고 있다. 앤트로픽은 이날 공개한 자료에서 지난달 기준 클로드가 자사 AI 연구개발 업무의 26%를 사람의 감독 아래 사실상 주도하고 있다고 밝혔다. 사람이 긴밀하게 지시하며 함께 수행하는 단계까지 포함하면 클로드가 관여한 업무 비중은 90%를 넘었다. 지난 2월만 해도 AI가 주도하는 업무 비중은 1% 미만이었다. 앤트로픽 내부에서는 약 3만개의 AI 에이전트가 동시에 연구·엔지니어링 업무를 수행하고 있다. 회사는 이들 에이전트의 행동을 실시간 또는 사후 감시하고 있으며, 지난달 10억건이 넘는 판단 가운데 약 0.002%가 실시간 감시 시스템에 의해 차단됐다고 밝혔다. 앤트로픽은 AI가 차세대 AI 개발 과정에 얼마나 깊게 관여하는지 보여주는 지표를 다른 기업들도 공개하고, 제3자의 검증을 받는 방안을 제안했다. AI가 실제 연구 속도를 끌어올린 사례도 함께 공개됐다. 앤트로픽에 따르면 클로드는 생체분자 예측·설계에 쓰이는 오픈소스 모델 30개 이상을 약 4주 동안 최적화해 평균 처리 속도를 약 4배 높였다. 단순히 연구자를 보조하는 데 그치지 않고 연구도구 자체를 개선하는 단계까지 AI의 역할이 넓어지고 있다는 설명이다. 외신들은 최근의 논쟁이 ‘개발 속도를 늦출 것이냐’보다 안전장치를 AI 산업의 지속 가능한 성장 조건으로 받아들일 것이냐의 문제로 옮겨가고 있다고 짚었다. 파이낸셜타임스(FT)는 충분한 검증 없이 속도 경쟁을 밀어붙일 경우 대형 사고와 여론 악화가 더 강한 규제로 이어져 오히려 산업 전체의 개발 속도를 늦출 수 있다고 분석했다. 안전에 드는 비용이 혁신을 가로막는 부담이라기보다 장기적으로 혁신을 이어가기 위한 조건이 될 수 있다는 것이다.

로봇이 음식 조리부터 서빙까지 담당하는 푸드테크 연구지원센터가 경북 포항에서 문을 열고 본격 운영에 들어갔다. 국내 처음이다. 18일 경북도에 따르면 지난 17일 포항시 북구 흥해읍에서 ‘식품로봇 푸드테크 연구지원센터’ 준공식을 열고 식품로봇 산업화 거점 운영을 본격화했다. 식품로봇은 볶음·튀김·면 조리 등 음식 조리뿐 아니라 음료 제조, 서빙, 위생 관리 등에 인공지능(AI)과 로봇 기술을 적용하는 분야다. 센터에는 중소 식품·외식업체와 스타트업이 공동으로 사용할 수 있는 연구장비실과 시제품 실증을 위한 공유주방(리빙랩), 스타트업 입주공간, 코워킹스페이스 등이 마련됐다. 포항센터는 식품로봇 관련 기업의 기술 개발과 시제품 실증, 인증 획득 등을 지원할 예정이다. 특히 글로벌 위생·안전 인증기관인 미국 NSF의 시험인증 장비를 활용해 국내 식품로봇 기업의 해외 위생·안전 인증 취득을 지원한다. 포항에는 포항공과대학교, 한국로봇융합연구원, 포항소재산업진흥원 등 산·학·연 기관과 로봇·푸드테크 기업이 모여 있다. 포항공대는 2024년부터 농식품부 주관 푸드테크 계약학과 석사과정을 운영하며 식품로봇 분야 전문인력을 양성하고 있다. 농식품부는 포항센터 준공을 시작으로 2030년까지 식물성 대체식품, 세포배양식품, 식품업사이클링 등 10대 푸드테크 분야별 연구지원센터를 단계적으로 조성할 계획이다. 이날 준공식에는 김종구 농림축산식품부 차관, 이철우 경북도지사, 박용선 포항시장을 비롯해 지역 기업·대학·연구기관 관계자와 주민 등 200여명이 참석했다. 이 지사는 “이번 준공은 전국 7개 푸드테크 연구지원센터의 첫 결실로, 식품로봇 기술을 현장에서 검증해 인증과 상용화, 수출까지 연결하는 산업화 기반을 갖췄다는 데 의미가 있다”며 “포항 식품로봇·의성 세포배양식품·구미 식품 스마트제조를 3대 푸드테크 거점으로 연결해 신기술과 신제품을 먼저 개발·실증하고 전국으로 확산하는 대한민국 식품산업의 국가 테스트베드로 만들겠다”고 밝혔다.

“은행 시스템 마비되면 매우 심각국제적 안전장치 함께 마련해야”업계, 속도조절론 실행 방식 이견유엔 사무총장도 “경쟁보다 공조” 인공지능(AI) 분야의 세계적인 권위자이자 ‘AI 3대 대부’로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 “인류가 AI 통제력을 잃고 있다”며 핵무기 통제에 준하는 국제적 안전장치 마련을 촉구했다. 최근 빅테크를 중심으로 불붙은 ‘AI 속도조절론’도 개발 속도 지연을 넘어 통제 장치를 실제 어떻게 마련할지를 둘러싼 논쟁으로 옮겨 가고 있다. 벤지오 교수는 지난 15일(현지시간) AFP 인터뷰에서 “기업들조차 속도가 너무 빨라 통제력을 잃어 가고 있다고 말하는 데는 이유가 있다”고 경고했다. 가장 우려한 것은 사람의 개입 없이 스스로 판단하고 행동하는 AI 에이전트다. AI가 사이버 보안망을 뚫고 기업 시스템에 침투하거나 사람을 설득해 자신에게 유리한 행동을 하도록 만들 수 있다는 것이다. 장기적으로 AI가 현실 세계에서 행동하는 데 인간 도움조차 필요하지 않을 수 있다고 봤다. 벤지오 교수는 극단적인 결과로 인류의 멸망까지 거론했다. 그는 은행 시스템이 마비되는 수준에 그치더라도 “매우 심각한 문제”라며 핵무기처럼 국제사회가 함께 관리해야 한다고 강조했다. 벤지오 교수는 현대 AI의 토대가 된 딥러닝을 개척한 공로로 제프리 힌턴 교수 등과 2018년 튜링상을 받았다. 최근에는 AI 통제 상실 가능성을 경고하며 안전장치 마련을 촉구해 왔다. AI 글로벌 공조 필요성도 힘을 받고 있다. 안토니우 구테흐스 유엔 사무총장은 이날 “AI 안전을 두고 바닥을 향한 경쟁을 벌여서는 안 된다”며 국제 공조를 촉구했다. 스콧 베선트 미 재무장관은 이번 주말 중국 측과의 회담에서 AI 안전과 거버넌스를 논의할 수 있다는 뜻을 밝혔다. 오는 24일 미중 정상회담을 앞두고 샘 올트먼 오픈AI 최고경영자(CEO)와 젠슨 황 엔비디아 CEO 등 미국 기술기업 수장들도 국빈만찬 참석자로 거론되고 있다. AI 업계에서는 속도조절의 구체적인 실행 방식에 대한 갑론을박이 한창이다. 외부 평가 강화에는 대체로 뜻이 모이지만 로이터는 안전 검증 주체를 기업에 맡길지, 외부 평가기관이나 정부가 담당할지를 놓고 업계 내 이견이 이어진다고 전했다. 무스타파 술레이만 마이크로소프트(MS) AI CEO는 앤트로픽이 클로드에 AI의 의식이나 도덕적 지위를 숙고하도록 훈련하는 방식이 향후 시스템을 “통제하거나 종료하기 더 어렵게 만들 수 있다”고 지적했다. 오픈AI는 16일 모델의 이상행동을 추적·조사·공개하는 새 체계를 내놓고 최근 6개월간 사례 6건을 공개했다. 회사는 이상행동을 확인하면 원인이 완전히 규명되지 않았더라도 보다 신속히 공개하겠다는 방침이다.