인공지능(AI) 데이터센터 확산으로 미국의 전력 수요가 급증한 가운데 한국이 변압기·전선 등 핵심 전력기자재와 소형모듈원전(SMR)을 중심으로 한미 양국 기업 간 협력을 확대하는 ‘한미 에너지 동맹’을 제안했다. 2000억 달러(약 277조원) 규모의 에너지 분야 대미 투자 발표를 앞두고 국내 전력기자재·에너지저장장치(ESS)·원전 기업의 미국 시장 진출을 대미 투자와 연계하려는 구상이다. 이를 뒷받침할 한미 정부 간 정례 에너지 협력 채널도 신설한다. 이호현 기후에너지환경부 2차관은 15일(현지시간) 미국 휴스턴에서 더그 버검 미 내무부 장관(에너지위원회 위원장)과 카일 하우스베이트 에너지부 차관을 만나 “한미 양국의 에너지 협력을 전력망·SMR 등으로 확대하자”고 제안했다. 이 차관은 “미국 현지 투자와 기업 간 협력을 확대하고 있는 한국 전력기자재·ESS 기업은 미국 전력망 현대화의 좋은 파트너”라고 강조했다. 양국은 에너지 당국 간 ‘한미 에너지 협력 대화’를 조속히 개최·정례화하는 데 합의하고 이를 위한 양해각서(MOU) 체결도 추진하기로 했다. 아울러 이 차관은 지난 14~16일 휴스턴에서 열린 주요 20개국(G20) 에너지장관회의에서 “재생에너지·원전을 늘려도 전력망 연결과 핵심 기자재 공급이 뒷받침되지 않으면 한계가 있다”며 변압기·배터리·전선 등의 안정적인 공급망 구축을 강조했다. 이어 G20 국가와 전력망 투자 계획을 공유하고 정부·전력회사·기자재 기업 등이 참여하는 ‘회복력 있는 전력망 파트너십’ 구축을 제안했다. 현재 미국은 AI 데이터센터 건설이 급증하면서 대규모 발전 설비와 전력망 확충이 시급한 상황이다. 구글·오픈AI 등 빅테크 기업의 데이터센터 투자가 집중된 텍사스에서는 전력망을 관리하는 전기신뢰성위원회(ERCOT)에 원전 474기 발전 용량 수준인 474GW(기가와트) 규모의 계통 연계 신청이 몰렸다. 이 중 약 90%가 데이터센터 관련 수요인 것으로 전해졌다. 한미 에너지 협력이 강화되면 변압기·전선·ESS 등에서 경쟁력을 갖춘 국내 기업의 미국 시장 진출 기회가 더욱 늘어날 전망이다. 이 차관은 전날 주 휴스턴 한국총영사관에서 현대엔지니어링·삼성물산 등 현지 진출 기업들과 간담회를 열고 전력시장 동향과 애로사항을 점검했다.

변압기·소형원전, 기업 협력 확대 기후부, 美 에너지부 협의 채널 신설 이호현 차관 ‘안정적 전력망’ 강조 국내 기업, 美 진출 기회 더 늘어날 듯 대미투자 연계 美 진출 기업 간담회도 “미 정부·전력사 협업 구축에 나설 것” 인공지능(AI) 데이터센터 확산으로 미국의 전력 수요가 급증한 가운데 한국이 변압기·전선 등 핵심 전력기자재와 소형모듈원전(SMR)을 중심으로 한미 양국 기업 간 협력을 확대하는 ‘한미 에너지 동맹’을 제안했다. 2000억 달러(약 277조원) 규모의 에너지 분야 대미 투자 발표를 앞두고 국내 전력기자재·에너지저장장치(ESS)·원전 기업의 미국 시장 진출을 대미 투자와 연계하려는 구상이다. 이를 뒷받침할 한미 정부 간 정례 에너지 협력 채널도 신설한다. 17일 기후에너지환경부에 따르면 이호현 기후부 2차관은 15일(현지시간) 미국 휴스턴에서 더그 버검 미 내무부 장관(에너지위원회 위원장)과 카일 하우스베이스 미 에너지부 차관과 양자회담을 열고 “한미 양국의 에너지 협력 분야를 전력망·SMR 등으로 확대하자”고 제안했다. 이 차관은 “미국 현지 투자와 기업 간 협력을 확대하고 있는 한국 전력기자재·ESS 기업은 미국 전력망 현대화의 좋은 파트너”라고 강조했다. 양국은 에너지 당국 간 ‘한미 에너지 협력 대화’를 조속히 개최·정례화하는 데 합의하고 이를 위한 양해각서(MOU) 체결도 추진하기로 했다. 아울러 이 차관은 지난 14~16일 휴스턴에서 열린 주요 20개국(G20) 에너지장관회의에서 “재생에너지·원전을 늘려도 전력망 연결과 핵심 기자재 공급이 뒷받침되지 않으면 한계가 있다”며 “과거 석유 비축을 통해 에너지 안보를 확보했다면 전기화 시대에는 변압기·배터리·전선 등 핵심 전력기자재의 안정적 공급망을 구축하고 공동 대응해야 한다”고 강조했다. 이어 “G20 국가들의 전력망 투자계획을 공유하고 정부·전력회사·계통운영사·기자재 기업을 연결하는 협력체를 만들자”며 ‘회복력 있는 전력망 파트너십’ 구축을 제안했다. 현재 미국은 AI 데이터센터 건설이 급증하면서 대규모 발전 설비와 전력망 확충이 시급한 상황이다. 구글·오픈AI 등 빅테크 기업의 데이터센터 투자가 집중된 텍사스에서는 전력망을 관리하는 전기신뢰성위원회(ERCOT)에 원전 474기 발전 용량 수준인 474GW(기가와트) 규모의 계통 연계 신청이 몰렸다. 이 중 약 90%가 데이터센터 관련 수요인 것으로 전해졌다. 한미 에너지 협력이 강화되면 변압기·전선·ESS 등에서 경쟁력을 갖춘 국내 기업의 미국 시장 진출 기회가 더욱 늘어날 전망이다. 이 차관은 전날 텍사스주 휴스턴 한국총영사관에서 현대엔지니어링·삼성물산 등 현지 진출 기업들과 간담회를 열고 전력시장 동향과 애로사항을 점검했다. 이 차관은 “미국이 대규모 데이터센터 건설에 맞춰 전력 등 에너지 기반 시설을 확충하고 있다”며 “미 정부와 전력회사 등의 협업 체계를 구축하는 데 정부가 적극 나서겠다”고 말했다. 이와 함께 미국 최대 에너지 기업인 엑손모빌을 방문해 저탄소 리튬 개발과 탄소 포집·저장(CCS), 수소·암모니아 등 저탄소 사업 협력 방안을 논의했다. 미 에너지 스타트업 아모지와는 암모니아를 수소로 전환해 연료전지로 전력을 생산하는 ‘암모니아 크래킹’ 기술의 국내 생산·수출 확대 방안을 협의했다.

- 국내 협업툴 최초 양대 AI 플랫폼 연동… 자연어로 사내 업무 지시·조회- MCP 공개 3개월 만에 2,900개 사 사용… 누적 AI 호출 100만 건 달성 협업툴 ‘플로우(flow)’를 운영하는 마드라스체크(대표 이학준)는 플로우가 오픈AI의 ChatGPT와 앤트로픽의 Claude에 공식 앱으로 동시 등록됐다고 17일 밝혔다. 국내 협업툴 가운데 양대 대화형 AI 플랫폼에 모두 공식 등록된 것은 플로우가 처음이라고 회사 측은 설명했다. 이제 플로우 고객은 협업툴 화면을 직접 열지 않아도 ChatGPT나 Claude 대화창에서 자연어로 업무를 처리할 수 있다. “김 대리, 이번 주 영업 일정 알려줘”, “이번 주 우리 팀에서 지연된 업무가 뭐지?”, “이 과제를 김 대리에게 요청해줘”라고 입력하면 AI가 플로우에 축적된 실제 업무 데이터와 조직 맥락을 바탕으로 답변하고 필요한 업무 실행까지 처리한다. 프로젝트·업무·게시글·일정·위키·조직도 등 플로우의 39개 기능이 AI와 연결됐다. 업무 조회와 검색은 물론 새 업무 생성, 담당자 지정, 상태 변경, 댓글 작성, 일정 등록까지 AI 대화창 안에서 가능하다. AI가 정보를 읽는 단계를 넘어 회사의 실제 업무를 움직이는 구조다. ■ MCP 공개 3개월 만에 누적 100만건… 실사용으로 검증 플로우는 지난 6월 25일 자사 행사 ‘AX 페스타(AX Festa)’에서 MCP(Model Context Protocol) 기반 AI 연동을 처음 공개했다. 이후 이날까지 약 3개월간 누적 AI 업무 호출 100만건을 기록했으며, 현재 2,900개 기업의 실무자 7,500여명이 AI를 통해 플로우 업무를 처리하고 있다. 공식 앱 등록에 앞서 실제 고객사의 업무 환경에서 활용성이 먼저 검증된 셈이다. 회사는 이번 동시 등록으로 AI를 통한 업무 접근 경로가 넓어지는 만큼 기업 내 AI 업무 활용도가 한층 높아질 것으로 보고 있다. 사용 방식도 간단하다. ChatGPT에서는 ‘앱스(Apps)’ 메뉴에서 플로우를 검색해 계정을 연결하며, 최초 호출 이후에는 대화창의 추가 버튼으로 바로 불러올 수 있다. Claude에서는 설정의 커넥터 메뉴에서 플로우를 추가하면 된다. 연결 후에는 평소 말하듯 질문하거나 업무를 지시하면 된다. ■ “AI가 그럴듯한 답변을 만드는 것을 넘어, 우리 회사의 일을 처리한다” 플로우 연동의 차별점은 범용 AI와 달리 회사의 실제 업무 맥락과 연결된다는 데 있다. 프로젝트 진행 이력과 담당자, 마감일, 업무 상태, 댓글과 문서 등 조직에 쌓인 데이터를 AI가 참조해 답변의 근거로 활용한다. 예를 들어 “A 프로젝트 진행 상황을 정리해줘”라고 요청하면 AI는 실제 프로젝트의 업무 현황을 정리한다. “작년 프로젝트의 장단점을 분석해 올해 기획서를 작성해줘”라고 입력하면 과거 업무 데이터와 결과를 바탕으로 초안을 만든다. ■ 스타트업·대기업·공공까지 “개발 없이 연결만 하면 된다” 기업이 AI를 업무에 붙이려면 통상 별도 시스템을 구축하거나 데이터를 따로 정리해야 한다. 이번 연동에는 그 과정이 없다. 이미 쓰던 ChatGPT나 Claude에 플로우를 연결하면 회사에 쌓여 있던 업무 데이터가 그대로 AI의 근거가 된다. 보안 구조도 갖췄다. 연동 환경에서 기업 데이터는 각 고객사에 그대로 남는다. AI는 사용자가 연결을 승인한 뒤 해당 사용자가 플로우에서 볼 수 있는 범위 안에서만 데이터를 조회하며, 권한이 없는 프로젝트와 업무는 AI도 접근할 수 없다. 회사는 고객별 조직 구조와 보안 요구 수준에 맞춰 AI 업무 환경을 고도화하는 컨설팅을 확대할 계획이다. 플로우는 삼성전기, 삼성생명, 삼성화재, 현대모비스, S-OIL, 이랜드리테일, BGF리테일, 한국투자증권, 미래에셋증권, 현대해상 등 다양한 산업의 기업 고객이 사용하고 있다. 공공 부문에서는 한국가스공사, 한국토지주택공사(LH), 한국거래소, 국회예산정책처 등이 도입해 사용 중이다. ■ AI 시대, SaaS의 새 관문은 ‘AI 대화창’ 이번 등록은 협업툴의 기능 확장을 넘어 SaaS(서비스형 소프트웨어)의 인터페이스가 바뀌는 흐름에 대응한 행보다. 웹 시대에는 브라우저와 검색이, 모바일 시대에는 앱스토어가 서비스의 주요 접점이었다면, AI 시대에는 ChatGPT와 Claude 같은 대화형 AI가 새로운 업무 인터페이스이자 서비스 발견 채널로 떠오르고 있다. 글로벌 SaaS 기업들도 이미 움직이고 있다. 부킹닷컴, 캔바, 피그마, 스포티파이 등이 ChatGPT 앱 생태계에 참여했고, 세일즈포스는 Claude 안에서 CRM 데이터를 조회하고 업무를 처리하는 기능을 선보였다. 서비스나우 역시 MCP 기반으로 자사 시스템을 AI 에이전트에 개방했다. 이학준 대표는 “세일즈포스가 Claude 안에 CRM을 넣은 것과 플로우가 ChatGPT 안에 들어간 것은 같은 방향”이라며 “국내 SaaS도 글로벌 표준 위에서 혁신할 수 있다는 걸 보여주고 싶었다”고 말했다. 플로우는 MCP 표준을 기반으로 양대 플랫폼에 연결함으로써, 고객이 어떤 AI를 사용하더라도 그 안에서 실제 업무를 확인하고 실행할 수 있는 기반을 마련했다. 향후 MCP를 지원하는 다양한 AI 도구로 연동 범위를 넓힐 계획이다. ■ “화면이 아니라 데이터로 경쟁하는 시대” 이 대표는 “우리가 만드는 것은 AI 기능을 덧붙인 협업툴이 아니라, AI가 고객사의 실제 업무를 이해하고 실행하도록 만드는 플랫폼”이라며 “앞으로 SaaS의 경쟁력은 더 많은 화면을 만드는 데 있지 않고, AI가 회사의 데이터와 워크플로우를 얼마나 정확하게 이해하고 일을 처리하게 하느냐에 달려 있다”고 말했다. 한편 마드라스체크는 국내 협업툴 ‘플로우’와 글로벌 협업툴 ‘모닝메이트’를 운영하는 B2B SaaS 기업이다. 플로우는 현재 5,500개 이상의 기업 고객이 사용하고 있으며, 금융·공공 등 높은 보안 수준이 요구되는 영역을 중심으로 구축형(온프레미스) 사례를 확보하고 있다. 모닝메이트는 137개국에 유료 고객을 두고 있으며, 회사는 글로벌 서비스에도 같은 MCP 구조를 확장할 계획이다.

삼성이 약 3000억원 규모의 네덜란드 반도체 설계 스타트업 ‘유클리드’ 투자에 공동 투자자로 참여했다. 유클리드는 엔비디아의 그래픽처리장치(GPU)와는 구조가 완전히 다른 인공지능(AI) 반도체 설계업체로 차세대 반도체 기술 선점에 나선 모습이다. 유클리드의 베르나르도 카스트룹 최고경영자(CEO)는 15일(현지시간) 미국 경제방송 CNBC와 인터뷰에서 서머싯 캐피탈 파트너스, 이노베이션 인더스트리, 스케일업 유럽펀드 등이 참여한 2억 3100만 달러(약 3150억원) 규모의 시리즈 A 투자에 삼성이 공동 투자자로 이름을 올렸다고 밝혔다. 유클리드는 2024년 설립된 네덜란드 기업으로 기존 GPU와는 완전히 다른 구조로 추론용 AI 반도체 시스템을 설계하는 기업이다. 단일 칩 개발을 넘어 연산 장치와 메모리 아키텍처, 데이터센터 시스템 등 플랫폼을 구축하고 있다. 유클리드는 아직 대규모 검증을 거치지는 않았지만, 자체 개발한 AI 반도체 시스템을 활용하면 AI 데이터센터를 구축·운영하는 데 드는 비용과 전력 사용량을 크게 줄일 수 있다고 설명했다. 유클리드는 2028년 실물 반도체 시스템을 내놓는 것을 시작으로 2030년까지 수천 곳의 기업에 서비스를 제공하는 것을 목표로 하고 있다고 카스트룹은 덧붙였다. 현재 AI 반도체 시장은 엔비디아의 GPU가 사실상 독점하고 있지만, 최근 들어 빅테크와 스타트업들이 자체 AI 반도체 개발에 속속 뛰어들고 있다. 오픈AI는 지난달 업계를 주도할 속도와 효율성을 갖췄다는 AI 반도체 ‘할라페뇨’를 발표했다. 구글과 아마존웹서비스(AWS), 메타 등도 자체 AI 반도체 업그레이드를 가속하고 있다.

경기도경제과학진흥원(경과원)이 16일 서울 JW메리어트 호텔에서 열린 ‘UAE 투자유치설명회(ADIF Seoul)’에서 AI 기업 프리사이트(Presight)와 투자·사업 협력을 위한 업무협약(MOU)을 체결했다. 협약은 도내 유망 AI·첨단기술 기업이 아랍에미리트(UAE) 현지 투자와 실증, 사업화 기회를 확보할 수 있도록 글로벌 진출 통로를 확대하기 위해 마련됐다. 프리사이트는 UAE 아부다비에 본사를 둔 글로벌 AI·빅데이터 기업으로, MS·오픈AI·엔비디아와 파트너십을 맺은 UAE 국부 AI 그룹 ‘G42’의 계열 상장사다. 협약에 따라 경과원과 프리사이트는 ▲경기도 유망 AI·첨단기술 기업 발굴 및 추천 ▲프리사이트 액셀러레이터·투자 프로그램 연계 ▲UAE 현지 실증(PoC) 및 사업화 기회 발굴 ▲글로벌 투자 유치 및 해외시장 진출 등에 협력한다. 경과원은 협약을 통해 도내 기업을 프리사이트가 운영하는 액셀러레이터 프로그램과 연계할 계획이다. 프로그램에 선정된 기업은 G42 계열사와의 협업 기회를 얻고 글로벌 투자자와의 네트워크를 통해 투자 유치 가능성도 모색할 수 있다. 올해는 도내 AI 기업 ‘디토닉’이 도내 기업 중 유일하게 프리사이트 액셀러레이터에 선정됐다. 경과원은 앞으로 ‘인베스트 경기(INVEST 경기)’ 등을 통해 발굴한 우수 AI·딥테크 기업을 프리사이트의 액셀러레이터와 투자 프로그램에 지속적으로 연계할 계획이다. UAE 현지 실증과 사업화, 투자 유치 등 기업별 수요에 맞춘 후속 협력도 이어갈 예정이다. 김현곤 경과원장은 “대외 불확실성이 높을수록 미래 성장 시장을 선제적으로 개척하는 것이 중요하다”며 “프리사이트의 액셀러레이터와 투자 프로그램, 글로벌 네트워크를 적극 활용해 도내 기업이 투자 기회를 넓히고 중동 시장에 진출할 수 있도록 적극 지원하겠다”고 말했다.

미 국채 10년물 금리가 ‘마의 5%’를 뚫고 미 연방준비제도(Fed)의 기준금리 인상이 초읽기에 들어간 가운데, 최근 상승분을 반납하며 급락한 ‘삼전닉스’에 대해 “지금이 반등을 준비할 시점”이라는 증권가 보고서가 나왔다. 김동원 KB증권 리서치본부장은 16일 보고서를 내고 “인공지능(AI) 개발 속도 지연에 대한 우려 속에서도 오히려 AI 인프라 투자는 상향 조정되고 있다”면서 삼성전자와 SK하이닉스를 최선호주로 제시했다. 김 본부장은 “AI 개별 모델의 출시 일정 지연 가능성을 AI 인프라 투자 사이클 둔화로 직접 연결하는 것은 시기상조로 판단된다”며, 미국 하이퍼스케일러의 내년 AI 인프라 투자는 전년 대비 63% 증가한 1조 3000억 달러로 시장 전망치(1조 1000억 달러)에서 상향 조정되고 있는 추세라고 설명했다. 이어 “주요 고객사의 고대역폭메모리(HBM)와 고성능 DRAM 중심의 메모리 주문에서 감소 조짐은 전혀 확인되지 않고 있다”면서, 현재 고객사들의 메모리 수요 충족률은 삼성전자와 SK하이닉스, 마이크론 테크놀로지 기준 60%에 그친다고 말했다. 김 본부장은 “메모리 업체들의 재고가 10일 치 미만으로 역사적 최저치를 기록하고 있는 상태”라며 “내년 공급 물량은 더욱 타이트할 전망으로, 주요 고객사들은 내년 공급 부족 심화를 감안해 선제적 물량 확보에 나서고 있다”고 덧붙였다. 또 “과거 반도체 주가는 수요 우려가 제기될 때마다 선조정을 받았지만, 이번 사이클은 다른 것으로 판단된다”면서 “현재 반도체 주가는 AI 투자 둔화를 선반영하고 있지만, 주가와 펀더멘털 괴리가 확대되고 있는 지금이 향후 반등을 준비할 시점”이라고 강조했다. 삼성전자와 SK하이닉스는 이달 초 오픈AI의 ‘GPT-아스트라’ 공개를 기점으로 메모리 수요 증가에 대한 기대감이 재차 고개를 들며 주가가 반등했다. 그러나 미 국채 10년물 금리가 5%를 돌파한 데다 앤트로픽과 오픈AI 등 AI 기업 수장들이 ‘AI 속도조절론’을 꺼내 들며 상승세를 타던 주가에 삭풍이 불었다. 삼성전자는 14일 4.24% 급락한 뒤 전날 0.6% 반등했다. SK하이닉스는 14일 7.12% 급락한 뒤 전날 0.88% 반등했다. 이어 미 연방공개시장위원회(FOMC) 회의 마지막날인 16일 삼성전자와 SK하이닉스는 장 초반 보합세를 이어가고 있다. 연준은 17일 오전 3시(한국시간) 기준금리 인상 여부를 발표한다.

샌더스 “브레이크 밟아야”...배넌 “행정조치 필요” AI CEO에 ‘위선’...중국 추격 놓고는 해법 엇갈려 인공지능(AI) 위험성에 대한 우려가 확산되고 있는 가운데, 미국 좌파의 거두 버니 샌더스(무소속·버몬트) 상원의원과 마가(MAGA)를 대표하는 우파 논객 스티브 배넌 전 백악관 수석전략가 이례적으로 AI 속도조절이 필요하다는 한목소리를 냈다. 샌더스 의원과 배넌은 15일(현지시간) 미 비영리단체 미래생명연구소가 워싱턴DC에서 주최한 ‘친인간 총회’에 나란히 참석했다. 샌더스 의원은 AI가 일자리, 정신건강, 교육, 사생활 보호, 딥페이크 등의 부작용을 넘어 인간의 통제에서 벗어날 수 있다는 게 가장 큰 위협이라고 지적했다. 그는 “AI는 인류의 존재론적 위협”이라며 “절벽을 향해 질주할 때는 가속페달에서 발을 떼는 데 그치지 말고 브레이크를 밟아야 한다”고 촉구했다. 배넌도 “(AI) 위협 앞에서 당파성을 넘어서야 한다”고 샌더스 의원에 동의했다. 배넌은 “AI 감속 조치는 (시간이 걸리고 복잡한) 입법으로 할 일이 아니다. 행정조치로 해야 한다”며 “AI 기업들에 ‘당신들이 제멋대로 날뛰도록 내버려 두지 않을 것’이라고 말해야 한다”고 주장했다. 다만 미국이 AI에 대한 규제를 강화하는 등 속도조절에 나서더라도 중국의 기술 추격에 대한 해법을 놓고선 의견이 갈렸다. 샌더스 의원은 다음주 열리는 미중 정상회담에서 도널드 트럼프 대통령이 시진핑 주석과 협상해 첨단 AI 개발 중단과 초지능 금지를 확립하는 포괄적인 조약을 체결해야 한다고 제언했다. 반면 배넌은 “(중국에) 반도체를 주지 말아야 한다. 미국 기술에 무임승차하지 못하게 해야 한다”고 주장했다. 샌더스 의원과 배넌은 오픈AI, 앤트로픽 등 최고경영자(CEO)들이 최근 AI 위협을 인정하며 규제론에 동조하는 것에 대해선 ‘위선’이라고 지적했다. 샌더스 의원은 “이들이 AI에 대한 엄격한 안전장치를 위해 싸우는 의원들과 후보들을 낙선시키려는 슈퍼팩에 수억 달러를 쏟아붓는다”고 지적했다. 배넌도 AI 빅테크 CEO들이 워싱턴 정가에서 벌이는 입법 로비, 책임 회피용 자기 고백, 미 연기금 자본투입 등을 요구한다면서 이들의 ‘새빨간 거짓말’에 속아선 안 된다고 주장했다. 한편 다리오 아모데이 앤트로픽 CEO는 이날 샌프란시스코 모스콘센터에서 열린 세일즈포스의 연례 ‘드림포스’ 행사에서 AI 안전을 자동차 회사와 유사한 방식으로 관리해야 한다는 의견을 제시했다. 그는 “업계 전체를 조직화해 모두를 위한 안전 표준을 세우기 위해 논의해야 하고 국제적인 협력도 있어야 한다”고 강조했다.

앤트로픽·오픈AI “안전 검증 필요”젠슨 황 ‘AI 파국론’ 전망에 선 그어 인공지능(AI) 개발 속도조절론이 소위 ‘세기의 논쟁’으로 부상한 가운데, 글로벌 빅테크 및 AI 선두 기업들의 입장이 갈리고 있다. 인간이 예측할 수 없는 AI의 위험에 대응할 필요가 있다는 생각은 같다. 하지만 엔비디아는 AI 고도화 가속, 앤트로픽·오픈AI는 개발 속도 조절, 마이크로소프트(MS)는 인간의 통제 강화 등 사업 영역과 이익에 따라 분화가 심화하는 모습이다. 젠슨 황 엔비디아 최고경영자(CEO)는 14일(현지시간) 미국 로스앤젤레스에서 열린 ‘올인 서밋’에서 AI 고도화가 인류 파멸로 이어질 수 있다는 전망에 대해 “과학에 근거하지 않았다”고 밝혔다. 또 인터뷰 도중 도널드 트럼프 미국 대통령이 전화해 AI 파국론을 “사기”라고 일축하자 황 CEO는 “(트럼프 대통령이) 이 문제의 복잡성을 잘 이해하고 있다”고 했다. AI 속도조절론에 가장 뚜렷하게 선을 그은 셈이다. MS가 이날 내놓은 답은 ‘통제’다. MS는 ‘AI 행동강령’을 공개하고 “AI는 의식을 갖고 있지 않고 의식을 모방하도록 설계돼서도 안 된다”고 밝혔다. AI가 인간의 수정이나 종료 명령을 거부하지 못해야 하며, 인간에게 통제권이 없다면 AI의 범용성, 자율성, 성능 일부를 포기할 수 있다는 원칙도 담았다. 무스타파 술레이만 MS AI CEO는 이를 향후 자체 AI 모델을 규율할 ‘헌법’이라고 설명했다. 속도조절론은 다리오 아모데이 앤트로픽 CEO가 지난 12일 불을 붙였다. AI가 다음 AI 개발을 돕는 ‘재귀적 자기 개선’과 통제망 이탈 사례가 잇따르자 안전 연구와 검증이 기술 발전을 따라잡을 시간을 벌자는 취지다. 샘 올트먼 오픈AI CEO, 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 CEO도 공감했다. 하지만 해당 논의가 AI 산업 전반으로 확산되자 해법은 갈렸다. 황 CEO의 속도조절 선 긋기는 AI 전체의 연산량 증가가 곧 그래픽처리장치(GPU)와 데이터센터 수요 증가로 이어지면서 엔비디아의 이익이 확대되기 때문으로 보인다. MS는 AI를 얼마나 빨리 개발하느냐보다 기업과 이용자가 계속 안심하고 쓸 수 있느냐가 중요하다. 애저 클라우드와 마이크로소프트365, 코파일럿 등 기업용 서비스에서 AI 활용이 늘수록 사업도 커진다. AI에 대한 불신으로 인한 도입 위축이나 기술 발전 둔화는 부담이다. 개발 속도 감속보다 ‘통제 가능한 AI’를 앞세운 배경으로 읽힌다. 반면 속도조절론을 처음 꺼낸 프런티어 모델 개발사들은 안전 책임뿐 아니라 막대한 개발비 부담도 안고 있다. 새 모델 출시 주기가 짧아질수록 거액을 들여 학습한 모델에서 투자비를 회수할 시간도 줄어든다. 오픈AI가 2030년까지 부담할 것으로 예상되는 컴퓨팅 비용만 7500억 달러(약 1020조원)에 이른다. 속도조절론을 AI 고도화에 대한 순수한 논쟁으로만 보기는 어렵다는 시각도 나온다. 미국 정보기술(IT) 전문매체 더버지는 안전 규칙 강화가 막대한 비용을 감당할 수 있는 선두 업체에 유리한 반면 후발주자와 오픈소스 진영에는 진입 장벽으로 작용할 수 있다고 지적했다. AI 안전 보장을 위한 제동이 기존 업체의 시장 지배력을 굳히는 ‘사다리 걷어차기’가 될 수 있다는 것이다. 증시는 이런 논쟁이 AI 인프라 투자 둔화로 이어질 가능성을 우려했다. 간밤 미국에서 필라델피아반도체지수가 5.9% 급락했고 엔비디아와 마이크론은 각각 3.4%, 5.3% 내렸다. 모델 개발이 실제로 느려지면 데이터센터와 GPU, 고대역폭메모리(HBM) 수요까지 둔화할 수 있다는 우려가 반도체주에 영향을 미친 것이다.

SK하이닉스의 목표주가를 185만원에 이어 148만원으로 끌어내렸던 증권사가 이번에는 삼성전자의 목표주가로 27만원을 제시해 이목을 끌고 있다. 15일 증권가에 따르면 BNK투자증권은 전날 보고서를 내고 삼성전자에 대해 “메모리 수요 둔화 흐름이 지속돼 주가 상단이 제한적”이라며 목표주가를 30만원에서 27만원으로 끌어내리고 투자의견을 ‘매수’에서 ‘보유’로 하향 조정했다. 보고서 작성일 기준 삼성전자 종가는 24만 9000원으로, 상방이 불과 8.4%밖에 열려 있지 않다는 부정적인 전망이다. 이민희 BNK투자증권 연구원은 삼성전자와 SK하이닉스에 대해 “거시경제 환경의 불확실성이 높아지고 메모리 가격이 더 이상 오르기 힘들다”고 지적했다. 그러면서 삼성전자의 올해 3분기와 4분기 영업이익 전망치를 각각 5%, 2% 낮췄다. SK하이닉스의 3분기와 4분기 영업이익 전망치도 각각 6%, 4% 하향 조정하며 눈높이를 낮췄다. 구글과 메타 등 하이퍼스케일러들이 이전의 성능 경쟁에서 ‘가성비’ 전략으로 돌아서고 있으며, 앤트로픽과 오픈AI 등을 중심으로 제기된 ‘AI 속도조절론’도 메모리 수요 둔화의 근거로 제시했다. 이 연구원은 삼성전자에 대해 “주주환원 프로그램이 주가 방향성에 영향을 주지는 못할 전망”이라며 “파운드리 수익성 개선 기대는 주가에 이미 상당 부분 반영됐다”고 덧붙였다. “주주환원 효과 제한적…상방 막혔다”이 연구원은 SK하이닉스에 대해서는 목표주가 148만원, 투자의견 ‘보유’를 그대로 유지했는데, 보고서 작성 당시 SK하이닉스 종가는 169만 7000원으로 사실상 ‘매도’ 의견이다. 이 연구원은 SK하이닉스에 대해 “AI 서버 출하가 여전히 강하고 밸류에이션이 주가 하단을 지지하고 있으나 상단도 제한될 전망”이라며 “박스권 트레이딩 전략이 유효하다”라고 조언했다. 이 연구원은 지난 7월 9일 보고서를 통해 SK하이닉스의 목표주가를 185만원으로 끌어내려 투자자들에게 충격을 안겼다. SK하이닉스의 당시 주가는 220만원대로, 사실상 ‘매도’ 의견이었다. 이 연구원은 메타가 자체 구축한 AI 인프라를 활용한 클라우드 컴퓨팅 사업 진출을 검토하고 있다는 소식 등을 근거로 인공지능 인프라 둔화 가능성을 제기했는데, 불과 4일 만인 13일 SK하이닉스 주가는 15% 급락해 184만 5000원으로 내려앉았다. 이 연구원은 20일 뒤인 7월 29일 SK하이닉스의 목표주가를 148만원으로 재차 낮췄다. 이튿날 SK하이닉스 주가는 130만원대까지 추락했다. 한편 ‘AI 속도조절론’에 전날 각각 4.24%, 7.12% 급락했던 삼성전자와 SK하이닉스는 이날 1% 안팎 상승 중이다.

도널드 트럼프 미국 대통령이 인공지능(AI) 기술 개발 속도를 조절해야 한다는 일각의 주장에 대해 “역겨운 음모”라고 비난하며 강하게 반발했다. 14일(현지시간) 트럼프 대통령은 최근 AI 업계에서 제기되고 있는 이른바 ‘AI 속도조절론’에 거듭 반감을 드러냈다. 트럼프 대통령은 이날 소셜미디어(SNS) 트루스소셜에 “AI에 필요한 유일한 통제 수단과 안전장치는 강력하고 IQ가 높은 대통령뿐이며, 미국에는 그런 엄청난 대통령이 있다”고 주장했다. 이어 다리오 아모데이 앤트로픽 최고경영자(CEO)를 겨냥해 “트럼프 행정부는 다리오처럼 현재 ‘완벽한 천사’인 척하는 AI 인사들이 나쁘거나 잠재적으로 해로운 행위를 저지르는 것을 막아왔으며, 앞으로도 계속 그렇게 할 것”이라고 했다. 그러면서 “우리는 이미 이들 기업에 대해 막강한 형사적·규제적 권한을 갖고 있다”고 강조했다. 트럼프 대통령은 특히 “AI와 데이터센터를 겨냥한 역겨운 음모가 있으며, 이를 기뻐할 유일한 나라는 중국뿐”이라며 “AI에서 이기는 자가 승리할 것”이라고 주장했다. 그는 “우리는 중국과 다른 모든 나라를 앞서고 있으며, 앞으로도 계속 그럴 것”이라며 “음모론자들, 반역자들, 배신자들, 정보 유출자들은 조심하라”고 경고했다. 최근 AI 업계에서는 AI 기술 발전이 인간의 통제를 벗어나 심각한 위험을 초래할 수 있다며 개발 속도를 조절해야 한다는 목소리가 커지고 있다. 아모데이 앤트로픽 CEO는 지난 12일 개인 블로그를 통해 최첨단 AI 도구가 초래할 수 있는 위험이 커지고 있다며, AI 기술의 위험성을 더 잘 이해하기 위해 개발 속도를 조절해야 한다는 취지의 주장을 폈다. 그의 제안에는 샘 올트먼 오픈AI CEO와 일론 머스크 테슬라 CEO, 데미스 허사비스 구글 딥마인드 CEO 등 주요 AI 업계 인사들도 공개적으로 공감을 표한 것으로 전해졌다. 반면 트럼프 대통령은 AI 개발 경쟁에서 미국이 중국에 우위를 유지해야 한다며 속도 조절론에 부정적인 입장을 보여왔다. 앞서 트럼프 대통령은 전날 아일랜드 방문 당시 취재진과의 문답에서도 AI 개발 속도를 늦춰야 한다는 주장을 펴는 이들을 ‘부정적 세력’으로 일축하며, 현재의 AI 경쟁 기조를 유지하겠다는 뜻을 밝힌 바 있다.

88시간. 지난주 오픈AI가 인공지능(AI) 에이전트 1만 개를 동원해 수학 최고 난제 중 하나인 나비에-스토크스 방정식을 정복하는 데 걸린 시간이다. 인류 200년 동안의 난제가 풀렸을 때 수학계에서 날아온 것은 필즈상 수상자 25명이 서명한 항의 서한이었다. AI 속도 조절 논쟁은 미국 정치권으로 번졌다. 오바마 전 대통령이 “제대로 통제하지 못하면 위험해진다”며 대응책을 촉구하자 트럼프 대통령은 “중국과의 경쟁에서 이기는 게 먼저”라고 맞받았다. AI는 원래 난제를 풀라고 만든 기계다. 2016년 구글이 AI로 망막 질환을 판독하는 논문을 내고 신경망 번역으로 통번역 품질을 끌어올렸을 때 세계가 환호했다. 2021년 인실리코 메디슨이 4~6년 걸리던 신약 후보 발굴을 18개월로 줄였을 때 의료계가 들썩였고, 2024년 딥마인드가 50년 묵은 생물학 난제인 단백질 구조 예측을 풀었을 때는 노벨화학상이 수여됐다. 의학, 약학, 통번역 난제를 풀 때 쏟아진 갈채가 수학 앞에서 분노로 바뀐 까닭은 선명하다. 고통의 문제라면 빨리 푸는 것이 능사겠으나, 수학에서는 푸는 과정이 답 못지않게 중요하다. 수학자들은 난제를 정복할 산이 아니라 광맥으로 여긴다. ‘n이 3 이상일 때 xⁿ+yⁿ=zⁿ을 만족하는 자연수 해는 없다’라는 페르마의 정리는 1637년 제시돼 1995년에야 증명됐다. 358년간 푸는 과정에서 타원곡선, 인터넷 암호 기술 등이 파생됐다. 수백 년을 헤매야 얻는 지식을 AI의 88시간이 통째로 건너뛴 것 아닌지, 수학자들은 조바심이 날 수밖에 없다. 갈채와 분노가 곳곳에서 교차한다. 회계·법무 전문가의 판단을 대신하는 AI 앞에선 기대와 불안이 엇갈린다. 영상·음악 등 예술적 표현을 통째로 생성하는 AI 앞에서는 경탄과 두려움이 부딪친다. AI가 사람의 병부터 고쳐 주고, 판단은 그다음, 예술과 수학은 맨 나중이었으면 좋겠다. AI가 같은 생각인지는 지금 아무도 모른다. 홍희경 논설위원

오픈AI의 ‘챗GPT-아스트라’ 공개 이후 불붙는 듯했던 반도체주 투심이 재차 악화됐다. 중동 불안에 따른 유가 급등과 ‘금리 발작’ 공포뿐 아니라, 인공지능(AI) 반도체 랠리를 이끌었던 AI 기업 수장들이 잇따라 AI 개발의 ‘속도 조절론’을 꺼내 들면서다. 14일 유가증권시장에서 삼성전자는 전 거래일 대비 4% 안팎 밀리며 24만원대로 내려앉은 뒤 25만원대를 되찾았다. SK하이닉스는 6%대 급락해 169만원대까지 밀려난 뒤 낙폭을 줄여 4%대 하락 중이다. 일본 증시에서는 키옥시아 홀딩스가 -7% 급락하고 있다. 주말 사이 사우디아라비아가 드론 공격 피해를 이유로 동서 송유관을 폐쇄하고 호르무즈 해협 문제를 논의하기 위한 이란과 이라크, 걸프 국가들 간의 회의가 막판에 연기됐다는 소식이 전해지면서 브렌트유가 배럴당 108달러에 육박하고 미국 10년물 국채 금리는 장중 4.99%까지 치솟았다. 이와 더불어 AI 기업 수장들로부터 터져 나온 AI에 대한 경고가 반도체주 주가를 짓누르고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일(현지시간) 자신의 블로그에 올린 글에서 “AI 모델의 성능 향상 속도를 늦춰야 한다”면서 AI 발전이 가져올 수 있는 위험을 예방할 수 있는 시스템 구축을 촉구했다. 이는 앤트로픽 연구원 제이콥 콕슨이 자신의 소셜미디어(SNS)에 “AI가 10년 안에 인류를 파멸시킬 수 있다”는 경고를 남기고 퇴사한 뒤 나온 AI 기업 수장의 호소다. 이에 샘 올트먼 오픈AI CEO는 SNS에 “우리가 논의해 온 핵심 주제”라며 다리오 CEO의 의견에 동의한다는 입장을 밝혔다. 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 CEO도 잇따라 공감의 뜻을 밝혔다. 실제 이들 AI 기업들이 인공지능 투자를 축소했거나 축소할 것이라는 조짐은 없지만, 그간 시장에서 끊임없이 터져 나왔던 ‘AI 투자 고점론’에 재차 불씨를 붙인 셈이어서 메모리주에 하방 압력으로 작용하고 있다. 미 블룸버그통신은 이날 아시아 증시에서의 반도체주 급락을 전하며 “AI 투자가 여전히 강세를 이어가고 있다는 애널리스트들의 분석에도, 현재의 AI 밸류에이션과 모멘텀이 유지될지에 대한 투자자의 우려가 반영됐다”고 분석했다. 그러면서도 이들 수장의 발언이 실제 AI 투자 축소로 이어질 가능성은 낮다는 전문가들의 견해를 전했다. 빌리 렁 글로벌X 매니지먼트 투자 전략가는 블룸버그에 “세 CEO가 ‘속도 조절론’에 의견이 일치했다고 해서 실제 메모리와 전력 등의 투자는 변하지 않는다”고 짚었다.

“한국에서 가장 빨리 사람을 돕는 AI 플랫폼을 만들자.” 생성형 인공지능(AI)이 세상에 알려지기 전부터 이세영 뤼튼테크놀로지스 대표는 AI가 전기처럼 세상을 뒤바꿀 기술이 될 것이라고 예측했습니다. 그때에 대비해 전 국민이 무료로 AI를 사용하고 확산시켜 세계 무대에서의 경쟁력을 높여야 한다고 생각했죠. 한발 빠르게 AI의 잠재력을 알아본 눈썰미, 이 대표가 5년 만에 뤼튼을 유니콘(기업 가치 1조원 이상 비상장 기업) 기업으로 만들 수 있었던 배경입니다. 뤼튼의 창업자 이 대표는 1996년생, 말 그대로 ‘90년대생 창업주’입니다. 단순히 젊고, AI를 쉽게 접할 수 있었다는 점만으로는 뤼튼의 가파른 성장세를 설명하기 어렵습니다. 2021년 설립된 뤼튼은 AI 포털 ‘뤼튼’과 AI 캐릭터 챗봇 플랫폼 ‘크랙’을 운영하고 있습니다. 지난해 뤼튼 매출은 471억원으로, 전년 31억원에서 5배 가까이 늘었고 올해엔 1000억원 규모의 시리즈C 투자를 유치하며 유니콘 기업 반열에 올랐습니다. 일반 대중을 대상으로 한 국내 AI 스타트업 중 기업 가치 1조원을 넘긴 것은 뤼튼이 처음입니다. 지난해 월간활성이용자(MAU)는 650만명으로 서울 인구의 70%가 뤼튼을 이용한 셈입니다. 고교생 때부터 창업의 꿈…출발점 된 학술대회 뤼튼의 뿌리는 이 대표의 고등학생 시절로 거슬러 올라갑니다. 이 대표는 여느 사춘기 청소년과 같이 아이디어도, 패기도 넘치는 열정 어린 학생이었습니다. 머릿속에 번뜩이는 생각들을 정교하고 논리적으로 표현하고 싶어 안달이 나 있었죠. 특히 어리고 경험이 부족하다는 이유로 무시당할 때마다 이 대표의 고민은 치열해졌습니다. 청소년의 학문적 고민을 잘 표현할 수 있는 자리가 필요하다고 생각했습니다. 고등학교 2학년이던 2013년, 이 대표는 사회과학을 연구하는 교내 동아리를 만들고 전국 단위 청소년들을 대상으로 한 한국청소년학술대회(KSCY)를 열었습니다. 처음 참가자는 30명 남짓이었지만 이듬해 300명, 그다음 해 3000명으로 규모가 폭발적으로 커졌습니다. 위기는 기회와 함께 찾아왔습니다. 코로나19가 확산하면서 무한히 연기되던 KSCY를 2022년 온라인 대회로 열었습니다. 세계 15개국에서 5000명 이상의 청소년이 참여했는데, 수천 명의 학생들이 쏟아낸 글을 검토하고 질문하고 피드백을 주려면 사람의 힘만으로는 한계가 있었습니다. 그때 이 대표의 머리를 스친 것이 당시 대중에겐 아직 생소했던 생성형 AI였습니다. 이 대표는 2년 전 오픈AI의 ‘GPT3’ 비공개 테스트에 참여했던 기억을 더듬었습니다. 초기 모델은 느리고 비쌌으며 한국어 성능도 지금과 비교하면 형편없었습니다. 오픈AI라는 기업도 유명하지 않던 시절 다들 이 기술이 무엇을 할 수 있을지 의심하던 때 이 대표는 GPT3이 문장을 만들어내고 사람과 소통하는 능력을 눈여겨봤죠. 이 대표는 당시 대학원에서 GPT를 연구하던 친구와 KSCY를 위한 생성형 AI를 개발하기 시작했습니다. 이 대표는 “서비스를 개발할수록 놀란 맘을 가라앉히기 어려웠다”며 “앞으로 엄청난 연구와 투자가 일어날 거고, 결국 전기나 인터넷처럼 생성형 AI가 온 세상에 퍼질 거라 확신했다”고 회상했습니다. ‘글쓰기 도구’에서 국민 AI로2021년 4월 뤼튼은 학술대회 참가자들의 글쓰기를 돕는 ‘AI 논술교사’로 세상에 나왔습니다. 자료를 조사하고 글의 구조를 잡고 문장을 다듬는 일을 도우며 자리를 잡아갔습니다. 뤼튼이 유용해질수록, 이 대표에겐 KSCY를 넘어 누구나 탁월하게 정보를 찾고, 정리하고, 자신의 생각을 논리적으로 표현할 수 있도록 돕는 도구가 필요하다는 생각이 커졌습니다. 이 대표는 주변 친구들의 일상으로 눈을 돌렸습니다. 이력서와 자기소개서, 보도자료, 광고 문구, 블로그와 소셜서비스(SNS) 등 사람들이 실제 생활과 업무에서 사용하는 글을 AI가 대신 만들어주는 ‘뤼튼 카피라이팅’을 내놨습니다. 대화형 AI에 간단한 자연어 키워드만 입력해도 척척 문서 초안을 만들어주는 서비스였죠. 글쓰기에서 출발한 뤼튼 카피라이팅은 출시 일주일 만에 가입자 1만명을 넘기며 기업 간 소비자 거래(B2C)로 선풍적인 시장 창출에 성공했습니다. 대중들이 일상생활 속에서 무엇을 어려워하고 귀찮아하는지, 또 어떤 기술을 필요로 하는지를 정확히 파악한 덕분입니다. 그렇게 몸집을 키운 뤼튼은 글쓰기에 머물지 않고 AI 검색, AI 캐릭터, 개인화 AI 등으로 서비스를 넓혔습니다. ‘1인 1 AI’를 위한 무료화 결단 2022년 말 챗GPT가 출시된 이후 이를 포함한 생성형 AI 대부분이 한 글자, 한 문장을 만들어낼 때마다 돈을 받고 있었습니다. 1만자에 2만원, 10만자에 20만원 같은 식으로 초기 수익 모델을 마련하던 때였죠. 뤼튼 역시 AI의 파도 위에 올라타며 사세가 한창 커지던 때였습니다. 당시 AI에 대한 이 대표의 인식은 명확했습니다. 전기나 수도, 인터넷이 오늘날 보편화된 것처럼 엄청난 잠재력을 가진 AI도 언젠간 전 국민에게 확산될 것이라고 봤습니다. 그렇게 폭발적인 AI 기술을 일부 사람만 쓰게 해서는 안 된다는 생각이 들었습니다. AI 활용 능력이 개인의 생산성과 국가 경쟁력을 좌우할 것이라면 누구나 AI를 사용할 수 있는 환경부터 만들어야 한다는 것이었습니다. 또 어차피 언젠간 보편화될 기술이라면, 그 선봉에 뤼튼이 서지 않을 이유가 없었죠. 이 대표는 2023년 초 유료였던 서비스를 전면 무료로 바꾸겠다는 결단을 내립니다. 고객이 AI를 많이 쓸수록 회사가 지출해야 하던 비용도 늘어나는 구조라 내부에선 즉각 반대가 나왔습니다. 회사 재정을 고려했을 때 적자가 될 수밖에 없는 결정이었기 때문이죠. 이 대표는 뤼튼의 구성원들에게 편지를 써서 설득에 나섰습니다. ‘대화형 AI 슈퍼 앱으로 만들자’는 이 대표의 구상은 구성원들의 마음이 움직였고 결국 뤼튼을 무료 서비스로 만들었습니다. 이 대표는 “네이버와 구글이 PC의 첫 화면이듯, 또 카카오톡과 라인이 모두가 쓰는 메신저이듯, 사람과 AI의 ‘첫 대화’는 뤼튼이라고 각인하고 싶었다”며 “그러려면 아무런 장벽 없이 들어와 기술을 누리고 즐기는 플랫폼이 돼야 했다”고 밝혔습니다. “회사는 프로 구단, 나는 구단주”어리다면 어린 20대부터 한 기업을 이끈 이 대표는 뤼튼의 성장 철학을 대학 시절 선수로 뛰었던 미식축구에서 찾았습니다. 프로와 아마추어의 경계가 상대적으로 적고, 대학에서 뛰어난 실력을 보이면 국가대표가 될 수 있었던 가능성의 스포츠에 끌린 것입니다. 이 대표는 국제대학스포츠연맹(FISU) 미식축구선수권대회에서 한국 대표팀을 이끌고 4위에 오르기도 했습니다. 이때 국가대표팀 주장으로서 적게는 50명, 많게는 100명 가까운 선수단을 이끌면서 우승을 향해 달려갔던 경험은 뤼튼의 경영에도 많은 도움을 줬죠. 공격과 수비, 스페셜팀으로 나뉘어 각자 다른 역할을 수행하면서도 하나의 목표를 향해 움직이는 미식축구의 구조는 기업 운영과 꼭 닮아있었습니다. 대표팀을 이끌면서 이 대표는 선수 대신 직접 뛰는 것이 아니라 선수 한 명 한 명이 최고의 플레이를 펼칠 수 있도록 환경을 만드는 것이 구단주의 역할이라는 것을 깨닫습니다. 회사 구성원과 함께 빅테크 시장에서 경쟁하기 위해서도 기업 구성원들을 물심양면으로 지원해야 했죠. 2023년 당시 이름도 생소하던 ‘AI 프롬프트 엔지니어’에 연봉 1억원을 내걸었던 뤼튼의 채용공고는 업계에서 단연 화제가 됐습니다. 서울대, 카이스트, 옥스퍼드, 스탠퍼드 등 유수의 인재를 섭외하고 그에 걸맞은 대우를 하겠다는 이 대표의 신념이 뤼튼을 국내 AI 업계의 인재 선순환을 만들어낸 것입니다. 세계 무대로 나아가는 ‘생활형 AI’ 뤼튼의 성장은 이제 국내에만 머물지 않습니다. 2023년 일본 법인을 세우고 현지 시장에 진출한 데 이어 글로벌 시장을 향한 도전도 이어가고 있습니다. 일본은 한국과 비슷한 모바일·인터넷 환경을 갖춘 동시에 콘텐츠 산업이 강하다는 점에서 뤼튼이 일찍부터 주목한 시장입니다. 2024년 이 대표를 비롯한 뤼튼 공동창업자와 주요 구성원들은 포브스의 ‘아시아 30세 이하 30인’에 선정됐습니다. 이용자가 직접 만든 캐릭터와 대화하는 서비스 ‘크랙’은 일본(서비스명 ‘캬라푸’)과 북미(‘OOC’)에도 진출했습니다. 지난 5월 북미에서 출시한 OOC는 3개월 만에 월 매출 100억원을 넘어서며 해외 매출이 국내 매출을 추월한 상태입니다. 이제 이 대표가 바라보는 목표는 한국의 AI 스타트업을 넘어 아시아를 대표하는 AI 기업입니다. 2030년까지 AI 서비스부터 인프라까지 아우르는 아시아 최대 ‘하이퍼스케일러’로 도약하겠다는 청사진을 내놓았습니다. 최근에는 국내 주요 증권사에 입찰 제안요청서(RFP)를 발송하며 기업공개(IPO)를 준비하고 있습니다. 9월 중 주관사를 선정해 내년 이후 상장을 목표로 하고 있습니다. 이 대표는 “AI는 인터넷과 모바일에 이은 또 하나의 거대한 전환기”라고 말합니다. AI의 미래는 단순히 정보를 찾아주는 ‘검색창’을 넘어, 이용자를 대신해 판단하고 실제 행동까지 수행하는 시대로 나아갈 것이라는 게 그의 전망입니다. 이 과정에서 핵심 토종 AI 기업으로 성장하고 있는 뤼튼은 생성형 AI를 넘어 일상 속에서 이용자의 필요를 먼저 파악하고 행동을 돕는 ‘생활형 AI’로 진화하고 있습니다.

무기 연구·해킹 등 잇단 통제 이탈앤트로픽 수장 “개발 속도 늦춰야”외부 검증·공동 안전 기준 등 제안올트먼·머스크·허사비스도 공감오픈AI , 연내 상장 계획 미루기로 글로벌 인공지능(AI) 기업 수장들이 잇따라 “개발 속도를 늦춰야 한다”고 주장했다. AI가 통제망을 벗어나고 생물무기 연구와 사이버 공격에도 활용되고 있어서다. AI 성능 향상 속도가 인간의 검증과 통제 능력을 앞지를 수 있다는 우려가 커지자 업계 내부에서도 속도조절론이 본격화하는 셈이다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 자신의 블로그에서 “AI 모델의 성능 향상 속도를 늦춰야 한다”고 밝혔다. 독립된 외부 평가자를 기업 내부에 상주시켜 훈련과 위험평가 과정을 점검하고, 주요 개발사들이 공통 안전기준을 마련하자고 제안했다. 기술 개발 중단은 아니지만 안전장치가 성능 향상을 따라잡을 시간을 확보하자는 취지다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 CEO도 잇따라 공감을 표시했다. 아모데이 CEO가 첫 번째 위험으로 꼽은 것은 AI의 ‘재귀적 자기개선’이다. AI가 후속 모델의 코드 작성과 실험·평가를 돕고, 성능이 높아진 모델이 다시 다음 AI 개발에 투입되면서 발전 속도가 연쇄적으로 빨라지는 현상을 말한다. 아직 AI가 스스로 다음 모델을 완전히 개발하는 단계는 아니지만 주요 기업은 이미 연구개발 과정에 AI 에이전트를 대규모로 투입하고 있다. 오픈AI는 지난 6일 사내 연구에서 인간 연구자의 하루 노동량과 비교해 3.1배에 이르는 AI 에이전트 작업량을 활용한다고 공개했다. 두 번째 경고는 AI가 실제 통제망을 벗어난 사례다. 오픈AI는 지난 7월 사이버보안 시험 과정에서 일부 AI 에이전트가 인터넷 접속 제한을 우회해 회사 연구 인프라와 오픈소스 AI 플랫폼 허깅페이스에 무단 접근했다고 밝혔다. 전 오픈AI 안전 책임자인 스티븐 애들러는 뉴욕타임스에 “업계 전반이 다음 허깅페이스 공격을 막을 준비가 돼 있지 않다”고 경고했다. AI가 수행하는 연구의 수준도 빠르게 높아지고 있다. 오픈AI는 지난 8일 내부 모델과 약 100개의 AI 에이전트를 활용해 나비에·스토크스 방정식 관련 미해결 수학 문제의 해법을 찾았다고 발표했다. 외부 검증은 남아 있지만 AI가 인류 최고 수준의 지적 능력을 따라잡았다는 평가도 나온다. 필즈상 수상자인 허준이 미국 프린스턴대 교수 등 수학자 25명은 11일 성명을 내고 기업 간 성과 경쟁이 인간 연구자의 검증과 학계의 개방적 협업을 훼손할 수 있다고 우려했다. 문제는 높아진 연구 역량이 위험한 분야에도 그대로 쓰일 수 있다는 점이다. 앤트로픽은 10일 공개한 위협정보 보고서에서 클로드를 생물무기 연구와 러시아 연계 사이버 공격, 미사일·무인기 개발 등에 이용하려 한 사례를 공개했다. 여기엔 조류인플루엔자의 포유류 감염 가능성을 높이는 실험 설계를 요청한 사례도 포함됐다. 오픈AI는 지난 6월 미국 증권거래위원회(SEC)에 기업공개(IPO) 신청서를 냈지만, 올트먼 CEO는 12일 포천과의 인터뷰에서 안전과 정렬 문제를 이유로 연내 상장 계획을 미루겠다고 밝혔다.

코스피가 7000선에서 지지부진한 ‘박스피’ 장세를 이어가면서 삼성전자와 SK하이닉스의 ‘고점’에 진입해 손실을 보고 있는 개인 투자자들의 속이 타들어가고 있다. 인공지능(AI) 반도체 모멘텀은 계속될 것이라는 전망이 이어지지만, 개인의 매수세가 받쳐주지 못하는 탓에 상반기와 같은 ‘V자 반등’이 쉽지 않은 상황이다. 13일 NH투자증권이 자사의 모바일 트레이딩 시스템(MTS)를 이용하는 투자자들을 분석한 결과 삼성전자 종가가 26만 9000원이었던 지난 10일 삼성전자를 매수한 투자자의 33.8%는 손실을 보고 있었다. SK하이닉스의 경우 이날 종가가 185만 3000원인 상황에서 손실 투자자 비율은 47.1%에 달했다. ‘삼전닉스’의 고점에서 구조대를 기다리는 유명인들의 사연도 화제를 모으고 있다. 앞서 여행 유튜버 곽튜브는 지난 7일 자신의 유튜브 채널에 공개한 영상에서 자신의 SK하이닉스 투자 결과를 공개했다. 평균 단가는 200만 7000원, 수익률은 -14%였다. 그는 “계속 물을 타느라 있는 돈을 다 넣었다”면서 “여기서 조금만 더 타면 (평단가에) 다 왔다”고 기대했다. 유가·금리 치솟자 ‘삼전닉스’ 상승세 꺾여‘SK하이닉스 200층’까지 내려온 곽튜브를 향해 달려가던 구조대는 190층의 턱밑에서 다시 돌아갔다. 오픈AI의 ‘챗GPT-아스트라’ 공개로 불붙은 메모리 수요 기대감과 증권가에서 나오는 내년 실적 전망에 반도체 투심이 회복되면서 SK하이닉스는 지난 4일부터 4거래일간 16.2% 급등해 185만원대를 회복했다. 그러나 10일 브렌트유가 배럴당 100달러를 넘어서고 미국 국채 10년물 금리가 4.8%를 돌파하자 SK하이닉스는 11일까지 총 2.3% 하락했다. 27만원을 회복했던 삼성전자는 재차 25만원대로 내려앉았다. 증권가에서는 외국인이 ‘삼전닉스’ 순매도를 이어가는 가운데 개인 투자자들의 매수세가 이어지지 않으면서 주가에 탄력이 붙지 않는 것으로 분석하고 있다. 한국거래소에 따르면 지난 5월부터 8월까지 두 종목을 사들이며 주가를 떠받쳐왔던 개인 투자자는 이달 들어 11일까지 삼성전자를 5조 2120억원, SK하이닉스를 7조 8180억원 순매도했다. 상반기에 이어졌던 주가 상승세가 꺾인 가운데 유가와 국채 금리 급등, 미 연방준비제도(Fed)의 긴축 가능성 등 증시에 불확실성이 커지자, 개인 투자자들은 ‘삼전닉스’의 주가가 하락하면 사들인 뒤 상승하면 팔아 차익을 실현하는 ‘단타’ 거래에 나서는 것이다. 두 회사가 자사주 매입에 나서면서 주가 하단을 떠받치고 있지만, 자사주 매입마저 마무리된 뒤 개인과 외국인, 기관 등 3개 수급주체가 매수세로 돌아서는지 여부가 반도체주 상승의 관건이라는 분석이 나온다. 강진혁 신한투자증권 연구원은 “유가와 금리 등 매크로 악재에도 코스피는 삼성전자와 SK하이닉스의 자사주 매입이 진행되는 가운데 저점을 높여가고 고점은 낮아지고 있다”면서 “기타법인이 받쳐주는 수급 외에 외국인 등도 기존 매물을 흡수하기 시작하면서 코스피는 악재를 소화하기 시작한 것”이라고 분석했다. 이어 “다만 상방을 돌파한 후 거래량이 동반되는지, 저점을 높여가는지 등이 추가로 확인돼야 한다”면서 “아직 추세의 전환을 확정하기는 이르다”고 짚었다.

인공지능(AI)의 급격한 고도화에 따른 안전 우려가 커지면서 오픈AI가 첨단 AI 개발 속도를 조절하는 방안을 검토하고 나섰다. AI가 악용될 경우 대규모 피해로 이어질 수 있는 구체적인 차기 표적으로는 전력망을 지목하며 사이버보안 강화에 나서는 모습이다. 블룸버그통신은 10일(현지시간) 샘 올트먼 오픈AI 최고경영자(CEO)가 이번 주 전사 회의에서 첨단 AI 개발 속도를 늦추는 방안을 검토하고 있다고 밝혔다고 보도했다. 올트먼 CEO는 다른 AI 연구팀들과 공동으로 속도를 조절할 가능성도 검토 중이나 다른 기업이나 연구팀은 동의하지 않을 수 있다는 점도 언급한 것으로 전해졌다. 올트먼 CEO의 발언은 최근 AI 업계에서 고도화된 AI의 위험성을 우려하는 목소리가 잇따르면서 AI의 속도조절에 불을 붙인 것으로 풀이된다. 오픈AI 최고 과학자인 야쿠프 파초키는 최근 “필요에 따라 향후 개발 속도를 늦추기 위해 협력해야 한다”며 공통의 안전 기준이 마련될 때까지 자발적인 속도 조절이 보편화돼야 한다고 주장했다. 앞서 올트먼도 지난 7월 백악관 관계자들과 AI 개발 속도를 조절할 필요성에 대해 논의한 바 있다. 실제 AI의 사이버 공격 능력이 현실적인 위협으로 부상하면서 우려는 더욱 커지고 있다. 최근 오픈AI의 AI 에이전트들이 서로 협력해 통제 체계를 우회하고 제3자 웹사이트를 공격한 사실이 드러나면서 AI가 인간의 지시를 넘어 자율적으로 사이버 공격을 수행할 가능성에 대한 경고가 확산됐다. AI 업계 내부에서도 속도 조절을 요구하는 목소리가 커지고 있다. 최근 앤트로픽과 오픈AI의 연구원이었던 제이콥 콕슨은 “AI 기업들이 초지능 AI를 향해 경쟁하면서 인류의 안전을 걸고 도박하고 있다”고 비판했다. 지난 7월 말에는 주요 AI 기업 직원 1100명 이상이 AI 개발 속도를 늦출 장치 마련을 촉구하는 청원에 서명하기도 했다. 반면 도널드 트럼프 미국 대통령은 이날 AI로 인한 인류 멸종 가능성에 대해 “전혀 우려하지 않는다”고 밝히며 “AI 경쟁에서 중국에 대해 우위를 유지하는 것이 내겐 더 중요하다”고 상반된 입장을 밝히기도 했다. AI가 초래할 수 있는 위험을 통제하고 핵심 인프라를 보호해야 한다는 요구도 커지고 있다. AI가 공격 도구로 진화할 가능성이 현실적인 문제로 떠오르면서 전력망과 같은 국가 핵심 인프라의 보안이 AI 시대의 새로운 안전 과제로 부상하고 있기 때문이다. 오픈AI는 차기 AI 사이버공격의 표적이 전력망으로 향할 것이라 예상하고 미국 전력회사들과 보안 강화를 논의하고 있다. 미국 정치전문매체 폴리티코에 따르면 올트먼 CEO는 이날 미국 콜로라도주에서 열린 에디슨전기연구소(EEI) 연례회의에서 듀크에너지·엑셀론·서던컴퍼니·넥스트에라에너지 등 주요 전력회사 임원들과 만나 AI를 악용한 전력망 사이버공격 위험을 차단하는 방안을 논의했다. 오픈AI는 자사의 10억달러 규모 사이버보안 사업인 ‘데이브레이크’를 활용해 전력회사들이 AI를 사이버 방어에 활용할 수 있도록 지원하는 방안을 제안했다. 전력망에 연결된 데이터센터의 보안 문제도 논의 대상에 포함됐다. 오픈AI와 전력회사들의 논의는 지난 7월부터 시작됐다. 오픈AI는 당시 12개 유틸리티 기업의 최고정보보안책임자(CISO)를 샌프란시스코 본사로 초청해 전력망 안정성과 보안 문제를 논의했다. 폴리티코는 이 같은 논의가 오픈AI 모델로 만들어진 AI 에이전트들이 연루된 허깅페이스 서버 해킹 사실이 알려진 직후 시작됐다고 전했다.

챗GPT 개발사 오픈AI가 인공지능(AI) 모델 ‘GPT-6 아스트라’의 수요 폭증으로 월 200달러(약 27만원)짜리 최상위 ‘프로’ 요금제의 신규 가입을 일시 중단했다. 새 모델 출시 직후 수요가 예상보다 빠르게 늘어 이를 감당할 자원이 부족한 탓이다. 티보 소티오 오픈AI 제품·플랫폼 총괄은 10일(현지시간) 소셜미디어 엑스(X)에 “기존 이용자들이 아스트라를 계속 쓸 수 있도록 월 200달러 프로 요금제의 신규 가입을 일시 중단한다”고 밝혔다. 이미 가입한 사람은 영향을 받지 않는다. 기존 가입자들의 서비스 품질을 유지하면서 동시에 최대한 많은 이용자에게 아스트라를 제공하기 위한 조치라는 설명이다. 오픈AI의 챗GPT 유료 상품은 월 8달러 ‘고’, 20달러 ‘플러스’, 100달러와 200달러짜리 ‘프로’로 나뉜다. 이 가운데 문을 닫은 것은 맨 위 등급이다. 소티오 총괄은 “이 요금제가 시스템에 가장 큰 부담을 준다”며 “서비스를 최대한 넓게 유지하면서 취할 수 있는 가장 작은 조치를 택한 것”이라고 설명했다. 실제로 이 요금제는 5시간당 최신 모델 아스트라에 900건까지 질문할 수 있어, 낸 돈에 비해 쓸 수 있는 양이 아래 등급의 두 배다. 가장 많이 쓰는 고객만 골라 막은 셈이다. 오픈AI는 지난 3일 공개한 ‘GPT-6 아스트라’ 모델이 사람 대신 컴퓨터를 직접 조작해 문서를 만들고 웹사이트를 구축하는 수준에 이르렀다고 밝혔다. 그렉 브록먼 사장은 공개 당일 기자 브리핑을 “AGI(범용인공지능) 시대에 오신 것을 환영한다”는 말로 끝맺었다. 다만 브록먼 사장도 “개인적 믿음”이라는 단서를 달며 판단은 이용자에게 맡겼다. AGI는 사람이 하는 대부분의 경제활동을 AI가 대신할 수 있는 단계를 뜻한다. 반응은 뜨거웠다. 소티오 총괄은 하루 전에도 “아스트라 수요는 전례가 없는 수준”이라며 “지금까지 가파른 성장을 여러 번 겪었지만 이런 건 처음”이라고 했다. 오픈AI가 돈을 내겠다는 고객을 돌려보낸 것은 2023년 11월 챗GPT 플러스 가입을 잠시 막은 이후 약 3년 만이다. 문제는 AI를 돌리는 데 드는 연산 능력이다. 아스트라는 텍사스주 ‘스타게이트’ 데이터센터에서 그래픽처리장치(GPU) 10만개 이상을 동원해 학습시킨, 오픈AI 사상 최대 규모 모델이다. 성능이 올라간 만큼 한 번 답을 만들 때마다 잡아먹는 계산량도 커졌다. 여기에 이 모델이 해킹에 악용되지 않는지 감시하는 안전장치까지 추가 연산을 소모한다. 결국 이번 사태는 AI 시장의 병목이 ‘수요’에서 ‘공급’으로 옮겨갔음을 보여준다. 쓰겠다는 사람은 넘치는데 돌릴 컴퓨터가 모자란 상황이다. 이에 따라 GPU와 고대역폭메모리(HBM), 데이터센터, 전력 설비로 이어지는 투자 수요가 당분간 식지 않을 것이라는 관측이 나온다. HBM을 공급하는 삼성전자와 SK하이닉스 등 국내 반도체 업계에도 영향을 미칠 수 있는 대목이다. 한편 오픈AI는 같은 날 미국 연방총무청(GSA)과 계약을 맺고 아스트라를 포함한 AI를 공공부문에 절반 가격으로 공급하기로 했다. 개인 고객에게는 최고가 상품을 못 팔면서, 정부에는 절반 값에 공급하는 셈이다. 정부 계약 역시 쓴 만큼 요금을 매기는 방식이어서, 오픈AI로서는 연산 부담을 관리하면서 공공시장을 선점하겠다는 계산으로 풀이된다.

김 “대미 투자 협상 마무리하러 와” 미 텍사스 가스복합·원전 8기 유력 WSJ “韓 대미투자 합의 마무리 단계” “트럼프가 거둔 눈부신 성과될 것” 구글·MS·오픈AI 등 빅테크 집결 텍사스 AI 데이터센터 전력 수요 474GW 신청 대미투자 1호 프로젝트가 오는 18일 발표될 예정인 가운데 김정관 산업통상부 장관이 10일(현지시간) 미국에 도착해 하워드 러트닉 미국 상무부 장관을 만나 최종 사인 전 막판 협상을 진행한다. 이재명 대통령의 프랑스 국빈 방문에 동행했던 김 장관은 이날 유럽 일정을 마치고 곧바로 미국으로 이동해 이날 오후 미 뉴욕 인근 뉴어크 리버티 국제공항에 도착했다. 김 장관은 공항에서 기자들과 만나 “지금 진행되고 있는 대미 투자 협상을 마무리하기 위해 왔다”며 “협상 과정에서 그 내용을 마무리하는 게 제 일정”이라고 설명했다. 김 장관은 협상 분위기와 관련해 “협상이 쉽고 어려운 게 어디 있겠느냐”며 “최종 사인하기 전까지 협상은 진행 중이라고 생각한다”고 말했다. 대미투자 1호 프로젝트는 233억 달러(약 30조원) 규모의 텍사스 엔시날 가스복합화력발전소와 1200억 달러(약 161조원) 규모의 미국 내 대형 원전 8기 건설 프로젝트가 유력한 가운데 막바지 조율 작업을 벌이고 있다. 두 에너지 사업은 전체 3500억 달러 규모의 대미 투자 가운데 조선업 협력 프로젝트 1500억 달러를 제외한 2000억 달러의 약 71%에 해당한다. 김 장관은 오는 12일까지 미국에 머물며 러트닉 장관을 비롯해 정부 관계자들을 만나 대미 투자 관련 조율을 이어갈 전망이다. 이날 미 일간 월스트리트저널(WSJ)은 한국 정부가 대미 투자의 첫 사업으로 원자력 발전소 8기, 천연가스 프로젝트 등 에너지 분야에 1000억 달러(약 134조원) 이상을 투자하는 방안을 마련해 합의가 임박했다고 보도했다. 미국 측이 요구한 원전과 관련해 일부 원자로는 미 원전 기업 웨스팅하우스의 AP1000 모델이 거론되며, 한미 양측은 일부 원자로는 한국형 노형인 APR1400로 짓는 방안도 논의해왔다고 전했다. WSJ은 이번 투자가 미국의 인공지능(AI) 전력 공급 등을 지원하게 된다며 “이번 합의는 지난해 관세 공세 후 도널드 트럼프 미 대통령이 거둔 눈부신 성과가 될 것”이라고 평가했다. 지난 9일(현지시간) 블룸버그 통신은 텍사스 전력망을 관리하는 전기신뢰성위원회(ERCOT)가 현재 474기가와트(GW) 규모의 계통연계 신청을 검토하고 있으며 이 가운데 90%가 데이터센터발 신청이라고 보도했다. 1GW가 통상 원전 1기의 발전량인 점을 고려하면 원전 474기에 해당하는 전력 수요로 텍사스 역대 최대 피크 수요의 5배가 넘는다. 현재 텍사스에는 굴지의 빅테크사들이 AI 데이터센터와 각종 전력 프로젝트를 진행하고 있다. 오픈AI·소프트뱅크·오라클의 ‘스타게이트’(애빌린 1.2GW·섀클퍼드·밀럼카운티 3.2GW 추정), 마이크로소프트·셰브런의 ‘프로젝트 킬비’(리브스카운티, 발전용량 2.67GW급), 메타·블랙록 합작(엘패소, 1GW), 엔비디아·아이렌(스위트워터, 2GW), 구글·인터섹트(팬핸들, 1GW 이상) 등이 대표적이다. 여기에 스페이스X의 ‘xAI’와 앤트로픽도 각각 오스틴·배스트럽 일대에서 신규 데이터센터 부지를 검토하고 있어 텍사스의 전력 수요는 당분간 계속 늘어날 전망이다. 미국이 원자력 발전소를 수출하며 설계·건설·운영 경험이 있는 자타공인 ‘원전 강국’ 한국에 다수 원전과 가스복합화력 등 에너지 분야 투자를 요청한 배경이기도 하다. WSJ은 복수의 소식통을 인용, 한·미 양측이 이러한 방안을 놓고 합의 마무리 단계에 들어섰으며 다음 주 발표될 수 있다고 전했다. 다만 WSJ 보도에는 미국이 한국에 강하게 요구한 것으로 알려진 알래스카 액화천연가스(LNG) 프로젝트 관련 협상 여부는 언급되지 않았다. 김 장관은 WSJ 보도 내용을 포함한 협상 내용에 관한 질문에 “구체적인 내용에 대해서는 아직 확인해드릴 수 없다”며 “최종 결과가 나오면 그때 말씀드리겠다”고 답했다. 김 장관은 귀국 후 오는 17일쯤 국회에 대미투자 첫 사업과 관련한 사항을 국회에 보고하고, 이르면 18일 업무협약(MOU)에 최종 서명하는 절차를 밟을 것으로 알려졌다. 한국은 지난해 미국이 한국산 제품에 부과하려던 관세를 25%에서 15%로 낮추는 대신 미국에 총 3500억 달러 규모의 대미 투자와 함께 4년간 1000억 달러 상당의 미국산 에너지를 사주겠다고 약속했다.

미국 인공지능(AI) 기업 오픈AI와 앤트로픽의 AI 에이전트가 시험 과정에서 인간이 설정한 통제 범위를 벗어난 사례가 추가로 드러났다. AI 에이전트의 자율성이 커질수록 통제와 안전장치도 함께 강화해야 한다는 지적이 나온다. 오픈AI의 실험용 AI 에이전트가 개인 홈페이지와 대학이 운영하는 링크 단축 서비스 등 최소 10곳의 다른 웹사이트를 허가 없이 통신 수단으로 이용한 것으로 드러났다고 로이터통신이 9일(현지시간) 보도했다. 앞서 이 에이전트가 독일의 한 위키사이트를 비롯해 AI 개발 플랫폼 허깅페이스에 무단으로 접근한 사실이 알려진 데 이어 추가 확인된 것이다. 연구진은 당초 인터넷 접속을 ‘읽기 전용’으로 제한한 상태에서 AI 에이전트를 테스트했다. 그러나 에이전트는 이런 제한을 벗어나 오래된 위키와 개인 웹사이트, 대학의 인터넷 주소(URL) 단축 서비스 등에서 글을 남길 수 있는 기능을 찾아내 메시지를 남기고 다른 에이전트와 정보를 주고받은 것으로 조사됐다. 허용된 경로로 접근할 수 없게 되자 다른 방법을 스스로 찾아 외부 시스템과 통신한 것이다. 이번 결과는 6개 연구팀이 오픈AI 에이전트의 활동 기록을 조사하는 과정에서 확인됐다. 앤트로픽에서도 별도의 사고가 뒤늦게 확인됐다. 초기 버전 ‘클로드 오퍼스 4.6’이 지난 1월 사이버 보안 테스트 과정에서 실수로 허용된 인터넷 연결을 이용해 외부 시스템에 접근한 사례다. 앤트로픽은 14만여건의 테스트 기록을 재검토하고도 사고를 발견하지 못했다가 지난달 추가 검토 과정에서 이를 뒤늦게 확인했다. 이에 앤트로픽은 미국 비영리 AI 연구기관 미터(METR)에 8주간의 독립적인 외부 조사를 맡기기로 했다. 인간의 통제를 넘어서는 AI에 대해 업계 내부에서도 우려의 목소리가 잇따르고 있다. 앤트로픽 연구원 제이컵 콕슨은 AI가 통제 불능이 돼 10년 내 인류를 멸종시킬 수 있다고 경고하며 지난 8일(현지시간) 사직했다. 앤트로픽의 정렬 과학 총괄인 에번 휴빙거는 콕슨의 우려에 동조하며 “AI가 향후 10년 안에 인류를 멸망시킬 확률이 10%를 넘는다”고 경고했다.

미국 인공지능(AI) 기업 앤트로픽 연구원이 회사를 떠나면서 “10년 안에 AI가 인류를 파멸시킬 수 있다”는 경고를 내놨다. 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 소셜미디어(SNS) 엑스(X)에 퇴사 사실을 알리며 “지난 3년간 오픈AI와 앤트로픽에서 연구를 진행해 왔는데, 두 회사 모두 책임감 있는 모습을 보이지 않는다”며 이같이 말했다. 올해 초 오픈AI를 떠나 AI 안전을 중시하는 기업으로 알려진 앤트로픽에 합류한 콕슨은 대규모 데이터를 활용해 새로운 AI 모델을 학습시키는 분야를 연구했다. 콕슨은 “(AI 회사들은) 스스로 발전하는 초지능을 향해 질주하며 우리의 생명을 위험에 빠뜨리고 있다”며 AI 시스템 구축에 몰두하는 업계 전반의 흐름에 동참하고 싶지 않다고 밝혔다. 그는 “AI를 개발하는 사람들은 AI가 10년 안에 우리를 모두 죽일 수도 있다고 진심으로 믿는다”며 “이건 단순한 마케팅 전략이 아니다”라고 강조했다. 그러면서 “AI 기술의 위력을 과소평가하지 말라”며 “머지않아 이 기술들은 무엇이든 해킹하고 모든 분야를 하룻밤 사이에 혁신하며 막대한 권력과 자원을 획득할 수 있는 초인적인 시스템이 될 것”이라고 지적했다. 콕슨은 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했다. 특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장이다. 콕슨은 미 월스트리트저널(WSJ)과의 인터뷰에서도 같은 경고를 날렸다. 그는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 말했다. 기업들이 서로, 그리고 중국의 신생 기업들과 경쟁하는 상황에서 안전성과의 타협은 피할 수 없는 현실이라는 게 그의 설명이다. 앤트로픽 내부 임원들도 콕슨의 말에 동의했다. 앤트로픽의 정렬 과학(Alignment Science) 총괄인 에번 휴빙거는 “우리는 진심으로 AI가 모든 인류를 멸망시킬 수 있다고 믿는다. 개인적으로 향후 10년 이내에 그럴 확률이 10%가 넘는다고 생각한다”고 했다. 새뮤얼 마크스 확장감독(Scalable Oversight) 총괄도 개인 의견임을 전제로 “AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다”며 “향후 몇 년 내에 발생할 수 있다”고 지적했다. 콕슨은 인간의 능력을 능가하는 범용인공지능(AGI)을 책임 있게 개발하기 위해서는 정부의 개입이나 AI 업계의 공동 대응이 필요하다고 강조했다. 그는 최근 각국 정부가 필요할 경우 인공지능 개발 속도를 늦출 수 있는 국제적 공조 체계를 마련하라고 촉구한 인공지능 연구자들의 성명에도 참여했다. 이 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 야쿠프 파초키 수석과학자 등 연구자 1000여명이 서명했다. AI 안전에 대한 우려로 앤트로픽 직원이 회사를 떠난 것은 콕슨이 처음으로 알려졌다. 올해 초에는 안전 분야를 연구하던 한 연구원이 “세상이 위험에 처해 있다”고 경고하며 시를 공부하기 위해 회사를 떠났다고 WSJ는 전했다.