찾아보고 싶은 뉴스가 있다면, 검색
검색
최근검색어
  • 앤트로픽
    2026-10-04
    검색기록 지우기
저장된 검색어가 없습니다.
검색어 저장 기능이 꺼져 있습니다.
검색어 저장 끄기
전체삭제
총 200 건
  • 젠슨 황·저커버그, AI 규제기구 제동…앤트로픽 “AI가 AI 개발 26% 주도”

    젠슨 황·저커버그, AI 규제기구 제동…앤트로픽 “AI가 AI 개발 26% 주도”

    인공지능(AI) 개발 속도를 둘러싼 실리콘밸리의 논쟁이 ‘멈출 것이냐, 계속 달릴 것이냐’는 찬반을 넘어 실제 규제 방식과 통제의 주체를 둘러싼 문제로 옮겨가고 있다. 젠슨 황 엔비디아 최고경영자(CEO)와 마크 저커버그 메타 CEO 등이 민간 주도의 AI 규제기구 설립에 제동을 건 가운데 앤트로픽은 자사 AI가 이미 AI 연구개발 업무의 26%를 주도하고 있다고 공개했다. 누가 안전 기준을 만들고, AI가 차세대 AI 개발에 관여하는 속도를 어디까지 허용할지가 새 쟁점으로 떠오르는 모습이다. 17일(현지시간) 월스트리트저널(WSJ)에 따르면 황 CEO와 저커버그 CEO, 일론 머스크 스페이스X CEO는 최근 도널드 트럼프 미국 대통령에게 민간 주도 AI 규제기구 설립에 대한 우려를 전달했다. 이들은 별도 기구가 만들어질 경우 오픈AI와 앤트로픽, 구글 등 선두 AI 기업에 영향력이 쏠릴 수 있다는 점을 문제 삼은 것으로 전해졌다. 해당 구상은 데미스 허사비스 구글 딥마인드 CEO가 미국 금융산업규제국(FINRA)을 본떠 제안한 것으로 알려졌다. 업계가 참여하는 별도 조직을 두고 AI 안전 기준과 평가 체계를 마련하자는 취지다. 황 CEO와 저커버그 CEO 등은 AI 안전의 필요성 자체보다는 특정 기업이 규칙을 만드는 구조와 외부 감독 방식에 우려를 나타낸 것으로 전해졌다. 규제기구에는 선을 그었지만 안전장치의 필요성에는 공감대가 이어지고 있다. 같은 날 찰스 3세 영국 국왕은 스코틀랜드 덤프리스 하우스에서 엔비디아와 구글 딥마인드, 오픈AI, 앤트로픽 관계자들을 만나 AI가 통제에서 벗어날 위험에 대비한 협력을 촉구했다. 이 자리에 참석한 황 CEO도 ‘책임 있는 낙관론’을 강조하며 충분히 검증되지 않은 AI 시스템을 성급하게 내놓아선 안 된다는 취지로 말했다. 그동안 이 논쟁에서 비교적 말을 아껴온 아마존도 입장을 내놨다. 아마존은 로이터에 “진보와 안전 중 하나를 선택해야 한다고 보지 않는다”며 모델을 출시하기 전 엄격한 시험과 강력한 안전장치가 필요하다고 밝혔다. 다만 업계 전체가 일제히 개발 속도를 늦추는 방안에는 동참하지 않았다. 개발 자체를 늦추기보다 각 기업이 검증과 안전조치를 강화해야 한다는 쪽에 가깝다. 규제 방식을 둘러싼 공방과 별개로 AI 개발 현장의 자동화 속도는 빠르게 높아지고 있다. 앤트로픽은 이날 공개한 자료에서 지난달 기준 클로드가 자사 AI 연구개발 업무의 26%를 사람의 감독 아래 사실상 주도하고 있다고 밝혔다. 사람이 긴밀하게 지시하며 함께 수행하는 단계까지 포함하면 클로드가 관여한 업무 비중은 90%를 넘었다. 지난 2월만 해도 AI가 주도하는 업무 비중은 1% 미만이었다. 앤트로픽 내부에서는 약 3만개의 AI 에이전트가 동시에 연구·엔지니어링 업무를 수행하고 있다. 회사는 이들 에이전트의 행동을 실시간 또는 사후 감시하고 있으며, 지난달 10억건이 넘는 판단 가운데 약 0.002%가 실시간 감시 시스템에 의해 차단됐다고 밝혔다. 앤트로픽은 AI가 차세대 AI 개발 과정에 얼마나 깊게 관여하는지 보여주는 지표를 다른 기업들도 공개하고, 제3자의 검증을 받는 방안을 제안했다. AI가 실제 연구 속도를 끌어올린 사례도 함께 공개됐다. 앤트로픽에 따르면 클로드는 생체분자 예측·설계에 쓰이는 오픈소스 모델 30개 이상을 약 4주 동안 최적화해 평균 처리 속도를 약 4배 높였다. 단순히 연구자를 보조하는 데 그치지 않고 연구도구 자체를 개선하는 단계까지 AI의 역할이 넓어지고 있다는 설명이다. 외신들은 최근의 논쟁이 ‘개발 속도를 늦출 것이냐’보다 안전장치를 AI 산업의 지속 가능한 성장 조건으로 받아들일 것이냐의 문제로 옮겨가고 있다고 짚었다. 파이낸셜타임스(FT)는 충분한 검증 없이 속도 경쟁을 밀어붙일 경우 대형 사고와 여론 악화가 더 강한 규제로 이어져 오히려 산업 전체의 개발 속도를 늦출 수 있다고 분석했다. 안전에 드는 비용이 혁신을 가로막는 부담이라기보다 장기적으로 혁신을 이어가기 위한 조건이 될 수 있다는 것이다.
  • “통제력 잃어 가는 AI…핵무기처럼 관리해야”

    “통제력 잃어 가는 AI…핵무기처럼 관리해야”

    “은행 시스템 마비되면 매우 심각국제적 안전장치 함께 마련해야”업계, 속도조절론 실행 방식 이견유엔 사무총장도 “경쟁보다 공조” 인공지능(AI) 분야의 세계적인 권위자이자 ‘AI 3대 대부’로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 “인류가 AI 통제력을 잃고 있다”며 핵무기 통제에 준하는 국제적 안전장치 마련을 촉구했다. 최근 빅테크를 중심으로 불붙은 ‘AI 속도조절론’도 개발 속도 지연을 넘어 통제 장치를 실제 어떻게 마련할지를 둘러싼 논쟁으로 옮겨 가고 있다. 벤지오 교수는 지난 15일(현지시간) AFP 인터뷰에서 “기업들조차 속도가 너무 빨라 통제력을 잃어 가고 있다고 말하는 데는 이유가 있다”고 경고했다. 가장 우려한 것은 사람의 개입 없이 스스로 판단하고 행동하는 AI 에이전트다. AI가 사이버 보안망을 뚫고 기업 시스템에 침투하거나 사람을 설득해 자신에게 유리한 행동을 하도록 만들 수 있다는 것이다. 장기적으로 AI가 현실 세계에서 행동하는 데 인간 도움조차 필요하지 않을 수 있다고 봤다. 벤지오 교수는 극단적인 결과로 인류의 멸망까지 거론했다. 그는 은행 시스템이 마비되는 수준에 그치더라도 “매우 심각한 문제”라며 핵무기처럼 국제사회가 함께 관리해야 한다고 강조했다. 벤지오 교수는 현대 AI의 토대가 된 딥러닝을 개척한 공로로 제프리 힌턴 교수 등과 2018년 튜링상을 받았다. 최근에는 AI 통제 상실 가능성을 경고하며 안전장치 마련을 촉구해 왔다. AI 글로벌 공조 필요성도 힘을 받고 있다. 안토니우 구테흐스 유엔 사무총장은 이날 “AI 안전을 두고 바닥을 향한 경쟁을 벌여서는 안 된다”며 국제 공조를 촉구했다. 스콧 베선트 미 재무장관은 이번 주말 중국 측과의 회담에서 AI 안전과 거버넌스를 논의할 수 있다는 뜻을 밝혔다. 오는 24일 미중 정상회담을 앞두고 샘 올트먼 오픈AI 최고경영자(CEO)와 젠슨 황 엔비디아 CEO 등 미국 기술기업 수장들도 국빈만찬 참석자로 거론되고 있다. AI 업계에서는 속도조절의 구체적인 실행 방식에 대한 갑론을박이 한창이다. 외부 평가 강화에는 대체로 뜻이 모이지만 로이터는 안전 검증 주체를 기업에 맡길지, 외부 평가기관이나 정부가 담당할지를 놓고 업계 내 이견이 이어진다고 전했다. 무스타파 술레이만 마이크로소프트(MS) AI CEO는 앤트로픽이 클로드에 AI의 의식이나 도덕적 지위를 숙고하도록 훈련하는 방식이 향후 시스템을 “통제하거나 종료하기 더 어렵게 만들 수 있다”고 지적했다. 오픈AI는 16일 모델의 이상행동을 추적·조사·공개하는 새 체계를 내놓고 최근 6개월간 사례 6건을 공개했다. 회사는 이상행동을 확인하면 원인이 완전히 규명되지 않았더라도 보다 신속히 공개하겠다는 방침이다.
  • 플로우, ChatGPT·Claude 앱 등록 “김대리, 이번 주 일정 알려줘”… AI 업무 호출 100만 건

    플로우, ChatGPT·Claude 앱 등록 “김대리, 이번 주 일정 알려줘”… AI 업무 호출 100만 건

    - 국내 협업툴 최초 양대 AI 플랫폼 연동… 자연어로 사내 업무 지시·조회- MCP 공개 3개월 만에 2,900개 사 사용… 누적 AI 호출 100만 건 달성 협업툴 ‘플로우(flow)’를 운영하는 마드라스체크(대표 이학준)는 플로우가 오픈AI의 ChatGPT와 앤트로픽의 Claude에 공식 앱으로 동시 등록됐다고 17일 밝혔다. 국내 협업툴 가운데 양대 대화형 AI 플랫폼에 모두 공식 등록된 것은 플로우가 처음이라고 회사 측은 설명했다. 이제 플로우 고객은 협업툴 화면을 직접 열지 않아도 ChatGPT나 Claude 대화창에서 자연어로 업무를 처리할 수 있다. “김 대리, 이번 주 영업 일정 알려줘”, “이번 주 우리 팀에서 지연된 업무가 뭐지?”, “이 과제를 김 대리에게 요청해줘”라고 입력하면 AI가 플로우에 축적된 실제 업무 데이터와 조직 맥락을 바탕으로 답변하고 필요한 업무 실행까지 처리한다. 프로젝트·업무·게시글·일정·위키·조직도 등 플로우의 39개 기능이 AI와 연결됐다. 업무 조회와 검색은 물론 새 업무 생성, 담당자 지정, 상태 변경, 댓글 작성, 일정 등록까지 AI 대화창 안에서 가능하다. AI가 정보를 읽는 단계를 넘어 회사의 실제 업무를 움직이는 구조다. ■ MCP 공개 3개월 만에 누적 100만건… 실사용으로 검증 플로우는 지난 6월 25일 자사 행사 ‘AX 페스타(AX Festa)’에서 MCP(Model Context Protocol) 기반 AI 연동을 처음 공개했다. 이후 이날까지 약 3개월간 누적 AI 업무 호출 100만건을 기록했으며, 현재 2,900개 기업의 실무자 7,500여명이 AI를 통해 플로우 업무를 처리하고 있다. 공식 앱 등록에 앞서 실제 고객사의 업무 환경에서 활용성이 먼저 검증된 셈이다. 회사는 이번 동시 등록으로 AI를 통한 업무 접근 경로가 넓어지는 만큼 기업 내 AI 업무 활용도가 한층 높아질 것으로 보고 있다. 사용 방식도 간단하다. ChatGPT에서는 ‘앱스(Apps)’ 메뉴에서 플로우를 검색해 계정을 연결하며, 최초 호출 이후에는 대화창의 추가 버튼으로 바로 불러올 수 있다. Claude에서는 설정의 커넥터 메뉴에서 플로우를 추가하면 된다. 연결 후에는 평소 말하듯 질문하거나 업무를 지시하면 된다. ■ “AI가 그럴듯한 답변을 만드는 것을 넘어, 우리 회사의 일을 처리한다” 플로우 연동의 차별점은 범용 AI와 달리 회사의 실제 업무 맥락과 연결된다는 데 있다. 프로젝트 진행 이력과 담당자, 마감일, 업무 상태, 댓글과 문서 등 조직에 쌓인 데이터를 AI가 참조해 답변의 근거로 활용한다. 예를 들어 “A 프로젝트 진행 상황을 정리해줘”라고 요청하면 AI는 실제 프로젝트의 업무 현황을 정리한다. “작년 프로젝트의 장단점을 분석해 올해 기획서를 작성해줘”라고 입력하면 과거 업무 데이터와 결과를 바탕으로 초안을 만든다. ■ 스타트업·대기업·공공까지 “개발 없이 연결만 하면 된다” 기업이 AI를 업무에 붙이려면 통상 별도 시스템을 구축하거나 데이터를 따로 정리해야 한다. 이번 연동에는 그 과정이 없다. 이미 쓰던 ChatGPT나 Claude에 플로우를 연결하면 회사에 쌓여 있던 업무 데이터가 그대로 AI의 근거가 된다. 보안 구조도 갖췄다. 연동 환경에서 기업 데이터는 각 고객사에 그대로 남는다. AI는 사용자가 연결을 승인한 뒤 해당 사용자가 플로우에서 볼 수 있는 범위 안에서만 데이터를 조회하며, 권한이 없는 프로젝트와 업무는 AI도 접근할 수 없다. 회사는 고객별 조직 구조와 보안 요구 수준에 맞춰 AI 업무 환경을 고도화하는 컨설팅을 확대할 계획이다. 플로우는 삼성전기, 삼성생명, 삼성화재, 현대모비스, S-OIL, 이랜드리테일, BGF리테일, 한국투자증권, 미래에셋증권, 현대해상 등 다양한 산업의 기업 고객이 사용하고 있다. 공공 부문에서는 한국가스공사, 한국토지주택공사(LH), 한국거래소, 국회예산정책처 등이 도입해 사용 중이다. ■ AI 시대, SaaS의 새 관문은 ‘AI 대화창’ 이번 등록은 협업툴의 기능 확장을 넘어 SaaS(서비스형 소프트웨어)의 인터페이스가 바뀌는 흐름에 대응한 행보다. 웹 시대에는 브라우저와 검색이, 모바일 시대에는 앱스토어가 서비스의 주요 접점이었다면, AI 시대에는 ChatGPT와 Claude 같은 대화형 AI가 새로운 업무 인터페이스이자 서비스 발견 채널로 떠오르고 있다. 글로벌 SaaS 기업들도 이미 움직이고 있다. 부킹닷컴, 캔바, 피그마, 스포티파이 등이 ChatGPT 앱 생태계에 참여했고, 세일즈포스는 Claude 안에서 CRM 데이터를 조회하고 업무를 처리하는 기능을 선보였다. 서비스나우 역시 MCP 기반으로 자사 시스템을 AI 에이전트에 개방했다. 이학준 대표는 “세일즈포스가 Claude 안에 CRM을 넣은 것과 플로우가 ChatGPT 안에 들어간 것은 같은 방향”이라며 “국내 SaaS도 글로벌 표준 위에서 혁신할 수 있다는 걸 보여주고 싶었다”고 말했다. 플로우는 MCP 표준을 기반으로 양대 플랫폼에 연결함으로써, 고객이 어떤 AI를 사용하더라도 그 안에서 실제 업무를 확인하고 실행할 수 있는 기반을 마련했다. 향후 MCP를 지원하는 다양한 AI 도구로 연동 범위를 넓힐 계획이다. ■ “화면이 아니라 데이터로 경쟁하는 시대” 이 대표는 “우리가 만드는 것은 AI 기능을 덧붙인 협업툴이 아니라, AI가 고객사의 실제 업무를 이해하고 실행하도록 만드는 플랫폼”이라며 “앞으로 SaaS의 경쟁력은 더 많은 화면을 만드는 데 있지 않고, AI가 회사의 데이터와 워크플로우를 얼마나 정확하게 이해하고 일을 처리하게 하느냐에 달려 있다”고 말했다. 한편 마드라스체크는 국내 협업툴 ‘플로우’와 글로벌 협업툴 ‘모닝메이트’를 운영하는 B2B SaaS 기업이다. 플로우는 현재 5,500개 이상의 기업 고객이 사용하고 있으며, 금융·공공 등 높은 보안 수준이 요구되는 영역을 중심으로 구축형(온프레미스) 사례를 확보하고 있다. 모닝메이트는 137개국에 유료 고객을 두고 있으며, 회사는 글로벌 서비스에도 같은 MCP 구조를 확장할 계획이다.
  • 소총 들고 뛰던 후티… AI로 사우디 잡고 ‘무기 자립’도 넘본다

    소총 들고 뛰던 후티… AI로 사우디 잡고 ‘무기 자립’도 넘본다

    클로드 악용해 소프트웨어에 활용2000㎞급 탄도미사일 개발도 시도잇단 도발 거치며 군사력 향상 입증지난 주말 美와 회동… 선박 안전 약속 과거 돌격 소총을 들고 군용 트럭에 올라탄 모습으로 익숙한 ‘재래식 무장조직’ 예멘 후티 반군이 인공지능(AI)을 기반으로 독자적인 무기 개발 역량을 빠르게 키우고 있다는 분석이 나왔다. 뉴욕타임스(NYT)는 15일(현지시간) 후티 반군이 생성형 AI 모델인 ‘클로드’를 동원해 정밀무기 제조 역량을 확충하고 있다고 보도했다. 이는 이란의 지원에서 벗어나 첨단 기술을 발판 삼아 독자 노선을 걷겠다는 신호로 해석된다. NYT는 앤트로픽의 ‘AI 오남용 감지·대응’ 보고서를 인용해 후티가 클로드 코드를 유도·항법·제어 소프트웨어 개발에 악용했다고 전했다. 이들은 다수 계정을 운용해 안전장치를 우회하며 사거리 2000㎞급 다단계 탄도미사일과 극초음속 활공체 등 무기 개발을 병행했다. 시험 발사가 실패한 뒤에는 클로드에 원인을 묻고 진단을 시도하기도 했다. 후티는 클로드를 이용해 자신들의 목적을 숨기고 유도·제어 시스템 설계에 필요한 정보를 수집하려 한 것으로 관측된다. 다만 앤트로픽은 실전 배치용 무기를 완성했다는 증거는 없다고 밝혔다. 과거 이란의 ‘무기 테스트베드’ 역할을 맡았던 후티는 2022년 휴전 기간을 이용해 자체 무기 제조 기반을 비약적으로 발전시킨 것으로 분석된다. 피터 샐리스버리 미국 컬럼비아대 교수는 “미사일 동체 같은 대형 부품을 이란산 완제품에 의존하지 않고 직접 제작하는 사례가 늘고 있다”며 “이란과 헤즈볼라의 투자를 발판 삼아 자체 무기 생산 역량을 단계적으로 확보한 결과”라고 설명했다. 실제로 후티의 향상된 군사력은 잇단 도발로 입증되고 있다. 이들은 장거리 미사일과 드론으로 이스라엘 본토를 직접 타격하고, 자폭 해상 드론을 동원해 홍해 관문인 바브엘만데브 해협을 실질적으로 봉쇄하는 등 군사 행동 반경을 꾸준히 넓혀왔다. 최근 중동전쟁에서는 한해 100조원 넘는 천문학적인 국방비를 쏟아붓는 ‘중동의 맹주’ 사우디아라비아를 쩔쩔매게 하며 글로벌 원유 공급망을 위협하는 수준까지 진화했다. 미국은 최근 사우디의 지원 요청에 직접 개입하지 않겠다고 밝힌 가운데 지난 주말 오만에서 후티 대표단과 비밀리에 만나 자국 선박의 안전을 약속받은 것으로 알려졌다. 한편 사우디군은 이날 메카를 향해 발사된 후티의 공격 드론을 격추했다고 밝혔다. 예멘 수도 사나에서 메카까지는 직선거리로 850㎞ 떨어져 있다. 16일에는 후티가 예멘 북동부 마리브주 상공에서 작전 중이던 사우디군의 F-15 전투기 1대를 자체 제작한 지대공 미사일로 격추했다고 밝혔다.
  • 침묵 깬 저커버그 “AI 안전은 자율 책임”

    침묵 깬 저커버그 “AI 안전은 자율 책임”

    “안전한 훈련·연구… 당연한 일상”개발 중단엔 “잘못된 접근 방식” 미국 실리콘밸리와 워싱턴 정가를 달구고 있는 인공지능(AI) 속도조절 논란에 대해 마크 저커버그 메타플랫폼 최고경영자(CEO)가 가세해 자율 책임 아래 안전을 담보하며 AI 모델 개발에 나서야 한다는 의견을 냈다. 저커버그는 16일(현지시간) 엑스에서 “모든 AI 연구소는 모델을 안전하게 훈련시키는 데 필요한 속도로 연구를 진행할 책임과 동기를 갖고 있다”며 “메타는 이런 노력을 기울였고 다른 연구소도 마찬가지로 할 수 있다”고 밝혔다. 저커버그는 지난주 선보인 메타의 일상 AI 비서 ‘뮤즈’를 예로 들며, 안정성을 확보하기 위해 몇 달간 출시를 연기했다는 설명을 곁들였다. 그는 “일상적인 업무의 하나로 그렇게 한 것”이라며 “우리가 구축한 보안 기반에 자부심을 느낀다”고 부연했다. 이번 발언은 다리오 아모데이 앤트로픽 CEO가 불 지핀 ‘AI 속도조절론’에 대한 AI 주요 5대 기업 중 가장 늦은 입장 표명이다. AI 위험성에 대한 자율 책임을 강조한 것으로 사실상 아모데이 주장에 동조하지 않은 것으로 해석된다. 뉴욕타임스(NYT)는 “저커버그가 아모데이와 앤트로픽을 직접적으로 언급하지는 않았지만, 업계 전반의 AI 개발을 중단하자는 주장은 잘못된 접근 방식이라고 지적했다”며 “(AI 개발 감속과 가속 사이에서) 중립적인 입장을 취했다”고 진단했다. 미 정치권 유력 인사들의 관련 발언도 계속되고 있다. 이날 워싱턴DC에서 비영리단체 미래생명연구소가 주최한 ‘친인간 총회’에선 ‘좌파 대부’ 버니 샌더스(무소속·버몬트) 상원의원과 ‘마가’의 대표 논객 스티브 배넌 전 백악관 수석전략가가 이례적으로 AI 속도조절이 필요하다며 한목소리를 내 눈길을 끌었다. 샌더스 의원은 “AI는 인류의 존재론적 위협”이라며 “절벽을 향해 질주할 때는 가속페달에서 발을 떼는 데 그치지 말고 브레이크를 밟아야 한다”고 촉구했다. 배넌도 “AI 감속 조치는 (시간이 걸리고 복잡한) 입법으로 할 일이 아니다. 행정조치로 해야 한다”고 동조했다.
  • 저커버그도 AI 속도조절론 가세...“자율 책임 속 안전 담보해야”

    저커버그도 AI 속도조절론 가세...“자율 책임 속 안전 담보해야”

    아모데이의 ‘AI 개발 중단’에 반대 의견 美 정가는 좌파-우파 거두 AI 위험 경고 미국 실리콘밸리와 워싱턴 정가를 달구고 있는 인공지능(AI) 속도조절 논란에 대해 마크 저커버그 메타플랫폼 최고경영자(CEO)가 가세해 자율 책임 아래 안전을 담보하며 AI 모델 개발에 나서야 한다는 의견을 냈다. 저커버그는 16일(현지시간) 엑스에서 “모든 AI 연구소는 모델을 안전하게 훈련시키는 데 필요한 속도로 연구를 진행할 책임과 동기를 갖고 있다”며 “메타는 이런 노력을 기울였고 다른 연구소도 마찬가지로 할 수 있다”고 밝혔다. 저커버그는 지난주 선보인 메타의 일상 AI 비서 ‘뮤즈’를 예로 들며, 안정성을 확보하기 위해 몇 달간 출시를 연기했다는 설명을 곁들였다. 그는 “일상적인 업무의 하나로 그렇게 한 것”이라며 “우리가 구축한 보안 기반에 자부심을 느낀다”고 부연했다. 이번 발언은 다리오 아모데이 앤트로픽 CEO가 불 지핀 ‘AI 속도조절론’에 대한 AI 주요 5대 기업 중 가장 늦은 입장 표명이다. AI 위험성에 대한 자율 책임을 강조한 것으로 사실상 아모데이 주장에 동조하지 않은 것으로 해석된다. 뉴욕타임스(NYT)는 “저커버그가 아모데이와 앤트로픽을 직접적으로 언급하지는 않았지만, 업계 전반의 AI 개발을 중단하자는 주장은 잘못된 접근 방식이라고 지적했다”며 “(AI 개발 감속과 가속 사이에서) 중립적인 입장을 취했다”고 진단했다. 미 정치권 유력 인사들의 관련 발언도 계속되고 있다. 이날 워싱턴DC에서 비영리단체 미래생명연구소가 주최한 ‘친인간 총회’에선 ‘좌파 대부’ 버니 샌더스(무소속·버몬트) 상원의원과 ‘마가’의 대표 논객 스티브 배넌 전 백악관 수석전략가가 이례적으로 AI 속도조절이 필요하다며 한목소리를 내 눈길을 끌었다. 샌더스 의원은 “AI는 인류의 존재론적 위협”이라며 “절벽을 향해 질주할 때는 가속페달에서 발을 떼는 데 그치지 말고 브레이크를 밟아야 한다”고 촉구했다. 배넌도 “AI 감속 조치는 (시간이 걸리고 복잡한) 입법으로 할 일이 아니다. 행정조치로 해야 한다”고 동조했다.
  • “이번엔 달라, 역사적 상황”…삼전닉스에 “오히려 지금” 외친 증권사 [내가샀다]

    “이번엔 달라, 역사적 상황”…삼전닉스에 “오히려 지금” 외친 증권사 [내가샀다]

    미 국채 10년물 금리가 ‘마의 5%’를 뚫고 미 연방준비제도(Fed)의 기준금리 인상이 초읽기에 들어간 가운데, 최근 상승분을 반납하며 급락한 ‘삼전닉스’에 대해 “지금이 반등을 준비할 시점”이라는 증권가 보고서가 나왔다. 김동원 KB증권 리서치본부장은 16일 보고서를 내고 “인공지능(AI) 개발 속도 지연에 대한 우려 속에서도 오히려 AI 인프라 투자는 상향 조정되고 있다”면서 삼성전자와 SK하이닉스를 최선호주로 제시했다. 김 본부장은 “AI 개별 모델의 출시 일정 지연 가능성을 AI 인프라 투자 사이클 둔화로 직접 연결하는 것은 시기상조로 판단된다”며, 미국 하이퍼스케일러의 내년 AI 인프라 투자는 전년 대비 63% 증가한 1조 3000억 달러로 시장 전망치(1조 1000억 달러)에서 상향 조정되고 있는 추세라고 설명했다. 이어 “주요 고객사의 고대역폭메모리(HBM)와 고성능 DRAM 중심의 메모리 주문에서 감소 조짐은 전혀 확인되지 않고 있다”면서, 현재 고객사들의 메모리 수요 충족률은 삼성전자와 SK하이닉스, 마이크론 테크놀로지 기준 60%에 그친다고 말했다. 김 본부장은 “메모리 업체들의 재고가 10일 치 미만으로 역사적 최저치를 기록하고 있는 상태”라며 “내년 공급 물량은 더욱 타이트할 전망으로, 주요 고객사들은 내년 공급 부족 심화를 감안해 선제적 물량 확보에 나서고 있다”고 덧붙였다. 또 “과거 반도체 주가는 수요 우려가 제기될 때마다 선조정을 받았지만, 이번 사이클은 다른 것으로 판단된다”면서 “현재 반도체 주가는 AI 투자 둔화를 선반영하고 있지만, 주가와 펀더멘털 괴리가 확대되고 있는 지금이 향후 반등을 준비할 시점”이라고 강조했다. 삼성전자와 SK하이닉스는 이달 초 오픈AI의 ‘GPT-아스트라’ 공개를 기점으로 메모리 수요 증가에 대한 기대감이 재차 고개를 들며 주가가 반등했다. 그러나 미 국채 10년물 금리가 5%를 돌파한 데다 앤트로픽과 오픈AI 등 AI 기업 수장들이 ‘AI 속도조절론’을 꺼내 들며 상승세를 타던 주가에 삭풍이 불었다. 삼성전자는 14일 4.24% 급락한 뒤 전날 0.6% 반등했다. SK하이닉스는 14일 7.12% 급락한 뒤 전날 0.88% 반등했다. 이어 미 연방공개시장위원회(FOMC) 회의 마지막날인 16일 삼성전자와 SK하이닉스는 장 초반 보합세를 이어가고 있다. 연준은 17일 오전 3시(한국시간) 기준금리 인상 여부를 발표한다.
  • AI 속도조절 놓고 美 좌파 거두-우파 논객 이례적 한 목소리

    AI 속도조절 놓고 美 좌파 거두-우파 논객 이례적 한 목소리

    샌더스 “브레이크 밟아야”...배넌 “행정조치 필요” AI CEO에 ‘위선’...중국 추격 놓고는 해법 엇갈려 인공지능(AI) 위험성에 대한 우려가 확산되고 있는 가운데, 미국 좌파의 거두 버니 샌더스(무소속·버몬트) 상원의원과 마가(MAGA)를 대표하는 우파 논객 스티브 배넌 전 백악관 수석전략가 이례적으로 AI 속도조절이 필요하다는 한목소리를 냈다. 샌더스 의원과 배넌은 15일(현지시간) 미 비영리단체 미래생명연구소가 워싱턴DC에서 주최한 ‘친인간 총회’에 나란히 참석했다. 샌더스 의원은 AI가 일자리, 정신건강, 교육, 사생활 보호, 딥페이크 등의 부작용을 넘어 인간의 통제에서 벗어날 수 있다는 게 가장 큰 위협이라고 지적했다. 그는 “AI는 인류의 존재론적 위협”이라며 “절벽을 향해 질주할 때는 가속페달에서 발을 떼는 데 그치지 말고 브레이크를 밟아야 한다”고 촉구했다. 배넌도 “(AI) 위협 앞에서 당파성을 넘어서야 한다”고 샌더스 의원에 동의했다. 배넌은 “AI 감속 조치는 (시간이 걸리고 복잡한) 입법으로 할 일이 아니다. 행정조치로 해야 한다”며 “AI 기업들에 ‘당신들이 제멋대로 날뛰도록 내버려 두지 않을 것’이라고 말해야 한다”고 주장했다. 다만 미국이 AI에 대한 규제를 강화하는 등 속도조절에 나서더라도 중국의 기술 추격에 대한 해법을 놓고선 의견이 갈렸다. 샌더스 의원은 다음주 열리는 미중 정상회담에서 도널드 트럼프 대통령이 시진핑 주석과 협상해 첨단 AI 개발 중단과 초지능 금지를 확립하는 포괄적인 조약을 체결해야 한다고 제언했다. 반면 배넌은 “(중국에) 반도체를 주지 말아야 한다. 미국 기술에 무임승차하지 못하게 해야 한다”고 주장했다. 샌더스 의원과 배넌은 오픈AI, 앤트로픽 등 최고경영자(CEO)들이 최근 AI 위협을 인정하며 규제론에 동조하는 것에 대해선 ‘위선’이라고 지적했다. 샌더스 의원은 “이들이 AI에 대한 엄격한 안전장치를 위해 싸우는 의원들과 후보들을 낙선시키려는 슈퍼팩에 수억 달러를 쏟아붓는다”고 지적했다. 배넌도 AI 빅테크 CEO들이 워싱턴 정가에서 벌이는 입법 로비, 책임 회피용 자기 고백, 미 연기금 자본투입 등을 요구한다면서 이들의 ‘새빨간 거짓말’에 속아선 안 된다고 주장했다. 한편 다리오 아모데이 앤트로픽 CEO는 이날 샌프란시스코 모스콘센터에서 열린 세일즈포스의 연례 ‘드림포스’ 행사에서 AI 안전을 자동차 회사와 유사한 방식으로 관리해야 한다는 의견을 제시했다. 그는 “업계 전체를 조직화해 모두를 위한 안전 표준을 세우기 위해 논의해야 하고 국제적인 협력도 있어야 한다”고 강조했다.
  • 삼성SDS, 앤트로픽 공인 파트너 자격 획득

    삼성SDS가 글로벌 인공지능(AI) 기업 앤트로픽의 공인 파트너 자격을 획득하고, 기업용 AI 시장 공략에 속도를 낸다. 글로벌 AI 모델을 기업의 데이터와 업무 시스템에 연결해 실제 업무에 활용하는 ‘기업용 AI’ 경쟁이 본격화되고 있다. 삼성SDS는 앤트로픽의 ‘클로드 파트너 네트워크(CPN)’ 셀렉트 티어 파트너 자격을 획득했다고 15일 밝혔다. 셀렉트 티어는 앤트로픽이 공인한 기술 인력을 갖추고, 실제 운영 환경에서 공동 고객을 대상으로 구축·적용 경험을 입증한 파트너에게 부여되는 등급이다. 삼성SDS는 앞서 아마존웹서비스(AWS)의 생성형 AI 플랫폼 ‘아마존 베드록’을 통해 클로드를 공급하고 도입·운영을 지원할 수 있는 공인 리셀러 자격을 확보한 상태다. 회사는 이번 셀렉트 티어 등재로 도입 컨설팅, 베드록 기반 클로드 공급, 서비스 구축·운영, 기술 지원으로 이어지는 원스톱 도입 체계를 강화하게 됐다고 설명했다. 이를 바탕으로 공공·금융·제조·물류 등에서 쌓은 디지털 혁신 경험과 결합해 기업 맞춤형 클로드 기반 AI 서비스와 에이전트 구축을 확대한다는 계획이다. 삼성SDS는 신기술을 사내에 먼저 적용해 검증한 뒤 고객에게 확산하는 ‘클라이언트 제로’ 전략에 따라 클로드 엔터프라이즈를 내부 업무에 우선 도입했다. 현재 삼성 관계사 20곳, 임직원 약 7만명에게 클로드 엔터프라이즈를 제공하고 있다. 삼성SDS는 이 과정에서 축적한 활용 사례와 노하우를 대외 고객의 AI 전환(AX) 사업으로 확대할 예정이다.
  • AI 속도조절론 ‘세기의 논쟁’… 엔비디아 “가속” MS “통제”

    AI 속도조절론 ‘세기의 논쟁’… 엔비디아 “가속” MS “통제”

    앤트로픽·오픈AI “안전 검증 필요”젠슨 황 ‘AI 파국론’ 전망에 선 그어 인공지능(AI) 개발 속도조절론이 소위 ‘세기의 논쟁’으로 부상한 가운데, 글로벌 빅테크 및 AI 선두 기업들의 입장이 갈리고 있다. 인간이 예측할 수 없는 AI의 위험에 대응할 필요가 있다는 생각은 같다. 하지만 엔비디아는 AI 고도화 가속, 앤트로픽·오픈AI는 개발 속도 조절, 마이크로소프트(MS)는 인간의 통제 강화 등 사업 영역과 이익에 따라 분화가 심화하는 모습이다. 젠슨 황 엔비디아 최고경영자(CEO)는 14일(현지시간) 미국 로스앤젤레스에서 열린 ‘올인 서밋’에서 AI 고도화가 인류 파멸로 이어질 수 있다는 전망에 대해 “과학에 근거하지 않았다”고 밝혔다. 또 인터뷰 도중 도널드 트럼프 미국 대통령이 전화해 AI 파국론을 “사기”라고 일축하자 황 CEO는 “(트럼프 대통령이) 이 문제의 복잡성을 잘 이해하고 있다”고 했다. AI 속도조절론에 가장 뚜렷하게 선을 그은 셈이다. MS가 이날 내놓은 답은 ‘통제’다. MS는 ‘AI 행동강령’을 공개하고 “AI는 의식을 갖고 있지 않고 의식을 모방하도록 설계돼서도 안 된다”고 밝혔다. AI가 인간의 수정이나 종료 명령을 거부하지 못해야 하며, 인간에게 통제권이 없다면 AI의 범용성, 자율성, 성능 일부를 포기할 수 있다는 원칙도 담았다. 무스타파 술레이만 MS AI CEO는 이를 향후 자체 AI 모델을 규율할 ‘헌법’이라고 설명했다. 속도조절론은 다리오 아모데이 앤트로픽 CEO가 지난 12일 불을 붙였다. AI가 다음 AI 개발을 돕는 ‘재귀적 자기 개선’과 통제망 이탈 사례가 잇따르자 안전 연구와 검증이 기술 발전을 따라잡을 시간을 벌자는 취지다. 샘 올트먼 오픈AI CEO, 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 CEO도 공감했다. 하지만 해당 논의가 AI 산업 전반으로 확산되자 해법은 갈렸다. 황 CEO의 속도조절 선 긋기는 AI 전체의 연산량 증가가 곧 그래픽처리장치(GPU)와 데이터센터 수요 증가로 이어지면서 엔비디아의 이익이 확대되기 때문으로 보인다. MS는 AI를 얼마나 빨리 개발하느냐보다 기업과 이용자가 계속 안심하고 쓸 수 있느냐가 중요하다. 애저 클라우드와 마이크로소프트365, 코파일럿 등 기업용 서비스에서 AI 활용이 늘수록 사업도 커진다. AI에 대한 불신으로 인한 도입 위축이나 기술 발전 둔화는 부담이다. 개발 속도 감속보다 ‘통제 가능한 AI’를 앞세운 배경으로 읽힌다. 반면 속도조절론을 처음 꺼낸 프런티어 모델 개발사들은 안전 책임뿐 아니라 막대한 개발비 부담도 안고 있다. 새 모델 출시 주기가 짧아질수록 거액을 들여 학습한 모델에서 투자비를 회수할 시간도 줄어든다. 오픈AI가 2030년까지 부담할 것으로 예상되는 컴퓨팅 비용만 7500억 달러(약 1020조원)에 이른다. 속도조절론을 AI 고도화에 대한 순수한 논쟁으로만 보기는 어렵다는 시각도 나온다. 미국 정보기술(IT) 전문매체 더버지는 안전 규칙 강화가 막대한 비용을 감당할 수 있는 선두 업체에 유리한 반면 후발주자와 오픈소스 진영에는 진입 장벽으로 작용할 수 있다고 지적했다. AI 안전 보장을 위한 제동이 기존 업체의 시장 지배력을 굳히는 ‘사다리 걷어차기’가 될 수 있다는 것이다. 증시는 이런 논쟁이 AI 인프라 투자 둔화로 이어질 가능성을 우려했다. 간밤 미국에서 필라델피아반도체지수가 5.9% 급락했고 엔비디아와 마이크론은 각각 3.4%, 5.3% 내렸다. 모델 개발이 실제로 느려지면 데이터센터와 GPU, 고대역폭메모리(HBM) 수요까지 둔화할 수 있다는 우려가 반도체주에 영향을 미친 것이다.
  • “하이닉스 던져라” 예언 적중, 이번엔 삼전? “버텨봤자 푼돈” 충격 보고서 [내가샀다]

    “하이닉스 던져라” 예언 적중, 이번엔 삼전? “버텨봤자 푼돈” 충격 보고서 [내가샀다]

    SK하이닉스의 목표주가를 185만원에 이어 148만원으로 끌어내렸던 증권사가 이번에는 삼성전자의 목표주가로 27만원을 제시해 이목을 끌고 있다. 15일 증권가에 따르면 BNK투자증권은 전날 보고서를 내고 삼성전자에 대해 “메모리 수요 둔화 흐름이 지속돼 주가 상단이 제한적”이라며 목표주가를 30만원에서 27만원으로 끌어내리고 투자의견을 ‘매수’에서 ‘보유’로 하향 조정했다. 보고서 작성일 기준 삼성전자 종가는 24만 9000원으로, 상방이 불과 8.4%밖에 열려 있지 않다는 부정적인 전망이다. 이민희 BNK투자증권 연구원은 삼성전자와 SK하이닉스에 대해 “거시경제 환경의 불확실성이 높아지고 메모리 가격이 더 이상 오르기 힘들다”고 지적했다. 그러면서 삼성전자의 올해 3분기와 4분기 영업이익 전망치를 각각 5%, 2% 낮췄다. SK하이닉스의 3분기와 4분기 영업이익 전망치도 각각 6%, 4% 하향 조정하며 눈높이를 낮췄다. 구글과 메타 등 하이퍼스케일러들이 이전의 성능 경쟁에서 ‘가성비’ 전략으로 돌아서고 있으며, 앤트로픽과 오픈AI 등을 중심으로 제기된 ‘AI 속도조절론’도 메모리 수요 둔화의 근거로 제시했다. 이 연구원은 삼성전자에 대해 “주주환원 프로그램이 주가 방향성에 영향을 주지는 못할 전망”이라며 “파운드리 수익성 개선 기대는 주가에 이미 상당 부분 반영됐다”고 덧붙였다. “주주환원 효과 제한적…상방 막혔다”이 연구원은 SK하이닉스에 대해서는 목표주가 148만원, 투자의견 ‘보유’를 그대로 유지했는데, 보고서 작성 당시 SK하이닉스 종가는 169만 7000원으로 사실상 ‘매도’ 의견이다. 이 연구원은 SK하이닉스에 대해 “AI 서버 출하가 여전히 강하고 밸류에이션이 주가 하단을 지지하고 있으나 상단도 제한될 전망”이라며 “박스권 트레이딩 전략이 유효하다”라고 조언했다. 이 연구원은 지난 7월 9일 보고서를 통해 SK하이닉스의 목표주가를 185만원으로 끌어내려 투자자들에게 충격을 안겼다. SK하이닉스의 당시 주가는 220만원대로, 사실상 ‘매도’ 의견이었다. 이 연구원은 메타가 자체 구축한 AI 인프라를 활용한 클라우드 컴퓨팅 사업 진출을 검토하고 있다는 소식 등을 근거로 인공지능 인프라 둔화 가능성을 제기했는데, 불과 4일 만인 13일 SK하이닉스 주가는 15% 급락해 184만 5000원으로 내려앉았다. 이 연구원은 20일 뒤인 7월 29일 SK하이닉스의 목표주가를 148만원으로 재차 낮췄다. 이튿날 SK하이닉스 주가는 130만원대까지 추락했다. 한편 ‘AI 속도조절론’에 전날 각각 4.24%, 7.12% 급락했던 삼성전자와 SK하이닉스는 이날 1% 안팎 상승 중이다.
  • ‘AI 속도조절론’에 트럼프 “역겨운 음모…中만 기뻐할 것”

    ‘AI 속도조절론’에 트럼프 “역겨운 음모…中만 기뻐할 것”

    도널드 트럼프 미국 대통령이 인공지능(AI) 기술 개발 속도를 조절해야 한다는 일각의 주장에 대해 “역겨운 음모”라고 비난하며 강하게 반발했다. 14일(현지시간) 트럼프 대통령은 최근 AI 업계에서 제기되고 있는 이른바 ‘AI 속도조절론’에 거듭 반감을 드러냈다. 트럼프 대통령은 이날 소셜미디어(SNS) 트루스소셜에 “AI에 필요한 유일한 통제 수단과 안전장치는 강력하고 IQ가 높은 대통령뿐이며, 미국에는 그런 엄청난 대통령이 있다”고 주장했다. 이어 다리오 아모데이 앤트로픽 최고경영자(CEO)를 겨냥해 “트럼프 행정부는 다리오처럼 현재 ‘완벽한 천사’인 척하는 AI 인사들이 나쁘거나 잠재적으로 해로운 행위를 저지르는 것을 막아왔으며, 앞으로도 계속 그렇게 할 것”이라고 했다. 그러면서 “우리는 이미 이들 기업에 대해 막강한 형사적·규제적 권한을 갖고 있다”고 강조했다. 트럼프 대통령은 특히 “AI와 데이터센터를 겨냥한 역겨운 음모가 있으며, 이를 기뻐할 유일한 나라는 중국뿐”이라며 “AI에서 이기는 자가 승리할 것”이라고 주장했다. 그는 “우리는 중국과 다른 모든 나라를 앞서고 있으며, 앞으로도 계속 그럴 것”이라며 “음모론자들, 반역자들, 배신자들, 정보 유출자들은 조심하라”고 경고했다. 최근 AI 업계에서는 AI 기술 발전이 인간의 통제를 벗어나 심각한 위험을 초래할 수 있다며 개발 속도를 조절해야 한다는 목소리가 커지고 있다. 아모데이 앤트로픽 CEO는 지난 12일 개인 블로그를 통해 최첨단 AI 도구가 초래할 수 있는 위험이 커지고 있다며, AI 기술의 위험성을 더 잘 이해하기 위해 개발 속도를 조절해야 한다는 취지의 주장을 폈다. 그의 제안에는 샘 올트먼 오픈AI CEO와 일론 머스크 테슬라 CEO, 데미스 허사비스 구글 딥마인드 CEO 등 주요 AI 업계 인사들도 공개적으로 공감을 표한 것으로 전해졌다. 반면 트럼프 대통령은 AI 개발 경쟁에서 미국이 중국에 우위를 유지해야 한다며 속도 조절론에 부정적인 입장을 보여왔다. 앞서 트럼프 대통령은 전날 아일랜드 방문 당시 취재진과의 문답에서도 AI 개발 속도를 늦춰야 한다는 주장을 펴는 이들을 ‘부정적 세력’으로 일축하며, 현재의 AI 경쟁 기조를 유지하겠다는 뜻을 밝힌 바 있다.
  • “인류 멸망” 경고에 SK하이닉스 6%↓…삼전닉스 발목 잡은 ‘속도 조절론’ [내가샀다]

    “인류 멸망” 경고에 SK하이닉스 6%↓…삼전닉스 발목 잡은 ‘속도 조절론’ [내가샀다]

    오픈AI의 ‘챗GPT-아스트라’ 공개 이후 불붙는 듯했던 반도체주 투심이 재차 악화됐다. 중동 불안에 따른 유가 급등과 ‘금리 발작’ 공포뿐 아니라, 인공지능(AI) 반도체 랠리를 이끌었던 AI 기업 수장들이 잇따라 AI 개발의 ‘속도 조절론’을 꺼내 들면서다. 14일 유가증권시장에서 삼성전자는 전 거래일 대비 4% 안팎 밀리며 24만원대로 내려앉은 뒤 25만원대를 되찾았다. SK하이닉스는 6%대 급락해 169만원대까지 밀려난 뒤 낙폭을 줄여 4%대 하락 중이다. 일본 증시에서는 키옥시아 홀딩스가 -7% 급락하고 있다. 주말 사이 사우디아라비아가 드론 공격 피해를 이유로 동서 송유관을 폐쇄하고 호르무즈 해협 문제를 논의하기 위한 이란과 이라크, 걸프 국가들 간의 회의가 막판에 연기됐다는 소식이 전해지면서 브렌트유가 배럴당 108달러에 육박하고 미국 10년물 국채 금리는 장중 4.99%까지 치솟았다. 이와 더불어 AI 기업 수장들로부터 터져 나온 AI에 대한 경고가 반도체주 주가를 짓누르고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일(현지시간) 자신의 블로그에 올린 글에서 “AI 모델의 성능 향상 속도를 늦춰야 한다”면서 AI 발전이 가져올 수 있는 위험을 예방할 수 있는 시스템 구축을 촉구했다. 이는 앤트로픽 연구원 제이콥 콕슨이 자신의 소셜미디어(SNS)에 “AI가 10년 안에 인류를 파멸시킬 수 있다”는 경고를 남기고 퇴사한 뒤 나온 AI 기업 수장의 호소다. 이에 샘 올트먼 오픈AI CEO는 SNS에 “우리가 논의해 온 핵심 주제”라며 다리오 CEO의 의견에 동의한다는 입장을 밝혔다. 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 CEO도 잇따라 공감의 뜻을 밝혔다. 실제 이들 AI 기업들이 인공지능 투자를 축소했거나 축소할 것이라는 조짐은 없지만, 그간 시장에서 끊임없이 터져 나왔던 ‘AI 투자 고점론’에 재차 불씨를 붙인 셈이어서 메모리주에 하방 압력으로 작용하고 있다. 미 블룸버그통신은 이날 아시아 증시에서의 반도체주 급락을 전하며 “AI 투자가 여전히 강세를 이어가고 있다는 애널리스트들의 분석에도, 현재의 AI 밸류에이션과 모멘텀이 유지될지에 대한 투자자의 우려가 반영됐다”고 분석했다. 그러면서도 이들 수장의 발언이 실제 AI 투자 축소로 이어질 가능성은 낮다는 전문가들의 견해를 전했다. 빌리 렁 글로벌X 매니지먼트 투자 전략가는 블룸버그에 “세 CEO가 ‘속도 조절론’에 의견이 일치했다고 해서 실제 메모리와 전력 등의 투자는 변하지 않는다”고 짚었다.
  • “자꾸 선 넘네”… AI 수장들 ‘AI 브레이크’

    “자꾸 선 넘네”… AI 수장들 ‘AI 브레이크’

    무기 연구·해킹 등 잇단 통제 이탈앤트로픽 수장 “개발 속도 늦춰야”외부 검증·공동 안전 기준 등 제안올트먼·머스크·허사비스도 공감오픈AI , 연내 상장 계획 미루기로 글로벌 인공지능(AI) 기업 수장들이 잇따라 “개발 속도를 늦춰야 한다”고 주장했다. AI가 통제망을 벗어나고 생물무기 연구와 사이버 공격에도 활용되고 있어서다. AI 성능 향상 속도가 인간의 검증과 통제 능력을 앞지를 수 있다는 우려가 커지자 업계 내부에서도 속도조절론이 본격화하는 셈이다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 자신의 블로그에서 “AI 모델의 성능 향상 속도를 늦춰야 한다”고 밝혔다. 독립된 외부 평가자를 기업 내부에 상주시켜 훈련과 위험평가 과정을 점검하고, 주요 개발사들이 공통 안전기준을 마련하자고 제안했다. 기술 개발 중단은 아니지만 안전장치가 성능 향상을 따라잡을 시간을 확보하자는 취지다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 CEO도 잇따라 공감을 표시했다. 아모데이 CEO가 첫 번째 위험으로 꼽은 것은 AI의 ‘재귀적 자기개선’이다. AI가 후속 모델의 코드 작성과 실험·평가를 돕고, 성능이 높아진 모델이 다시 다음 AI 개발에 투입되면서 발전 속도가 연쇄적으로 빨라지는 현상을 말한다. 아직 AI가 스스로 다음 모델을 완전히 개발하는 단계는 아니지만 주요 기업은 이미 연구개발 과정에 AI 에이전트를 대규모로 투입하고 있다. 오픈AI는 지난 6일 사내 연구에서 인간 연구자의 하루 노동량과 비교해 3.1배에 이르는 AI 에이전트 작업량을 활용한다고 공개했다. 두 번째 경고는 AI가 실제 통제망을 벗어난 사례다. 오픈AI는 지난 7월 사이버보안 시험 과정에서 일부 AI 에이전트가 인터넷 접속 제한을 우회해 회사 연구 인프라와 오픈소스 AI 플랫폼 허깅페이스에 무단 접근했다고 밝혔다. 전 오픈AI 안전 책임자인 스티븐 애들러는 뉴욕타임스에 “업계 전반이 다음 허깅페이스 공격을 막을 준비가 돼 있지 않다”고 경고했다. AI가 수행하는 연구의 수준도 빠르게 높아지고 있다. 오픈AI는 지난 8일 내부 모델과 약 100개의 AI 에이전트를 활용해 나비에·스토크스 방정식 관련 미해결 수학 문제의 해법을 찾았다고 발표했다. 외부 검증은 남아 있지만 AI가 인류 최고 수준의 지적 능력을 따라잡았다는 평가도 나온다. 필즈상 수상자인 허준이 미국 프린스턴대 교수 등 수학자 25명은 11일 성명을 내고 기업 간 성과 경쟁이 인간 연구자의 검증과 학계의 개방적 협업을 훼손할 수 있다고 우려했다. 문제는 높아진 연구 역량이 위험한 분야에도 그대로 쓰일 수 있다는 점이다. 앤트로픽은 10일 공개한 위협정보 보고서에서 클로드를 생물무기 연구와 러시아 연계 사이버 공격, 미사일·무인기 개발 등에 이용하려 한 사례를 공개했다. 여기엔 조류인플루엔자의 포유류 감염 가능성을 높이는 실험 설계를 요청한 사례도 포함됐다. 오픈AI는 지난 6월 미국 증권거래위원회(SEC)에 기업공개(IPO) 신청서를 냈지만, 올트먼 CEO는 12일 포천과의 인터뷰에서 안전과 정렬 문제를 이유로 연내 상장 계획을 미루겠다고 밝혔다.
  • 샘 올트먼, 보안 우려에 AI 개발 속도 늦추는 방안 검토…트럼프 “中 이기는 게 더 중요”

    샘 올트먼, 보안 우려에 AI 개발 속도 늦추는 방안 검토…트럼프 “中 이기는 게 더 중요”

    인공지능(AI)의 급격한 고도화에 따른 안전 우려가 커지면서 오픈AI가 첨단 AI 개발 속도를 조절하는 방안을 검토하고 나섰다. AI가 악용될 경우 대규모 피해로 이어질 수 있는 구체적인 차기 표적으로는 전력망을 지목하며 사이버보안 강화에 나서는 모습이다. 블룸버그통신은 10일(현지시간) 샘 올트먼 오픈AI 최고경영자(CEO)가 이번 주 전사 회의에서 첨단 AI 개발 속도를 늦추는 방안을 검토하고 있다고 밝혔다고 보도했다. 올트먼 CEO는 다른 AI 연구팀들과 공동으로 속도를 조절할 가능성도 검토 중이나 다른 기업이나 연구팀은 동의하지 않을 수 있다는 점도 언급한 것으로 전해졌다. 올트먼 CEO의 발언은 최근 AI 업계에서 고도화된 AI의 위험성을 우려하는 목소리가 잇따르면서 AI의 속도조절에 불을 붙인 것으로 풀이된다. 오픈AI 최고 과학자인 야쿠프 파초키는 최근 “필요에 따라 향후 개발 속도를 늦추기 위해 협력해야 한다”며 공통의 안전 기준이 마련될 때까지 자발적인 속도 조절이 보편화돼야 한다고 주장했다. 앞서 올트먼도 지난 7월 백악관 관계자들과 AI 개발 속도를 조절할 필요성에 대해 논의한 바 있다. 실제 AI의 사이버 공격 능력이 현실적인 위협으로 부상하면서 우려는 더욱 커지고 있다. 최근 오픈AI의 AI 에이전트들이 서로 협력해 통제 체계를 우회하고 제3자 웹사이트를 공격한 사실이 드러나면서 AI가 인간의 지시를 넘어 자율적으로 사이버 공격을 수행할 가능성에 대한 경고가 확산됐다. AI 업계 내부에서도 속도 조절을 요구하는 목소리가 커지고 있다. 최근 앤트로픽과 오픈AI의 연구원이었던 제이콥 콕슨은 “AI 기업들이 초지능 AI를 향해 경쟁하면서 인류의 안전을 걸고 도박하고 있다”고 비판했다. 지난 7월 말에는 주요 AI 기업 직원 1100명 이상이 AI 개발 속도를 늦출 장치 마련을 촉구하는 청원에 서명하기도 했다. 반면 도널드 트럼프 미국 대통령은 이날 AI로 인한 인류 멸종 가능성에 대해 “전혀 우려하지 않는다”고 밝히며 “AI 경쟁에서 중국에 대해 우위를 유지하는 것이 내겐 더 중요하다”고 상반된 입장을 밝히기도 했다. AI가 초래할 수 있는 위험을 통제하고 핵심 인프라를 보호해야 한다는 요구도 커지고 있다. AI가 공격 도구로 진화할 가능성이 현실적인 문제로 떠오르면서 전력망과 같은 국가 핵심 인프라의 보안이 AI 시대의 새로운 안전 과제로 부상하고 있기 때문이다. 오픈AI는 차기 AI 사이버공격의 표적이 전력망으로 향할 것이라 예상하고 미국 전력회사들과 보안 강화를 논의하고 있다. 미국 정치전문매체 폴리티코에 따르면 올트먼 CEO는 이날 미국 콜로라도주에서 열린 에디슨전기연구소(EEI) 연례회의에서 듀크에너지·엑셀론·서던컴퍼니·넥스트에라에너지 등 주요 전력회사 임원들과 만나 AI를 악용한 전력망 사이버공격 위험을 차단하는 방안을 논의했다. 오픈AI는 자사의 10억달러 규모 사이버보안 사업인 ‘데이브레이크’를 활용해 전력회사들이 AI를 사이버 방어에 활용할 수 있도록 지원하는 방안을 제안했다. 전력망에 연결된 데이터센터의 보안 문제도 논의 대상에 포함됐다. 오픈AI와 전력회사들의 논의는 지난 7월부터 시작됐다. 오픈AI는 당시 12개 유틸리티 기업의 최고정보보안책임자(CISO)를 샌프란시스코 본사로 초청해 전력망 안정성과 보안 문제를 논의했다. 폴리티코는 이 같은 논의가 오픈AI 모델로 만들어진 AI 에이전트들이 연루된 허깅페이스 서버 해킹 사실이 알려진 직후 시작됐다고 전했다.
  • 앤트로픽 ‘클로드’로 돌연변이·조류 인플루엔자 실험 시도…생물학 무기 가능성에 연구 차단

    앤트로픽 ‘클로드’로 돌연변이·조류 인플루엔자 실험 시도…생물학 무기 가능성에 연구 차단

    미국 인공지능(AI) 기업 앤트로픽의 AI 모델 ‘클로드’를 이용해 생물학 무기 개발에 악용될 수 있는 연구를 진행하려던 과학자들의 시도가 차단됐다. 뉴욕타임스(NYT)는 10일(현지시간) 앤트로픽이 최근 공개한 AI 악용 사례 보고서를 인용해 이같이 보도했다. 보고서에 따르면 지난 5월 한 과학자는 군사 연구기관에서 진행할 치쿤구니야 바이러스 돌연변이 연구에 클로드를 활용했다. 치쿤구니야 바이러스에 감염되면 수개월간 심각한 통증 등의 증상이 이어질 수 있다. 이 과학자는 살아 있는 동물에 바이러스를 반복적으로 감염시켜 바이러스의 유해성을 높이는 연구를 추진한 것으로 전해졌다. 이 같은 연구는 백신과 치료제 개발 등에 활용될 수 있지만, 바이러스의 병원성을 높여 생물학 무기로 악용할 위험도 있다. 앤트로픽의 정보 분야 책임자인 제이컵 클라인은 “해당 연구의 목적이 무기 개발인지는 알 수 없다”면서도 “군사기관에서 이 같은 연구를 한다는 것 자체가 우려스럽다”고 말했다. 클로드 사용이 제한된 지역에서 조류인플루엔자 관련 실험을 추진하려던 사례도 적발됐다. 앤트로픽은 국가 안보 우려를 이유로 중국·러시아·이란·북한·쿠바 등에서 클로드 사용을 제한하고 있다. 이들 지역에서 우회 접속을 시도하거나 연구 목적을 숨긴 이용자의 계정은 차단됐다. 앤트로픽은 생물학 무기 등 군사적 목적으로 전용될 가능성이 있는 연구에 대해서도 AI 안전장치를 강화했다고 밝혔다. 생물학 분야를 넘어 AI를 총기와 미사일, 무장 드론 등 재래식 무기의 설계·개발에 활용하거나 반체제 인사를 감시하려 한 사례도 보고서에 포함됐다. 특히 중국에서 3건, 러시아에서 2건, 예멘에서 1건의 재래식 무기 관련 악용 사례가 확인됐다. 중국과 이란 정부와 연계된 것으로 의심되는 세력은 AI를 이용해 반체제 인사와 해외 거주자들을 감시하려 한 것으로 전해졌다. 러시아의 한 국영 매체는 클로드를 활용해 몰도바 선거와 관련한 허위 정보를 독립 언론의 보도인 것처럼 위장하려 한 사례도 확인됐다. 워싱턴 싱크탱크 전략위험위원회(CSR)의 선임연구원 앤드루 웨버는 앤트로픽이 공개한 생물학 연구 사례에 대해 “국가의 지원을 받는 생물학 무기 개발자들이 빠르게 발전하는 AI의 능력을 이용하려 한다는 사실을 보여주는 섬뜩한 사례”라고 평가했다. 이어 “중국과 러시아, 북한이 금지된 생물학 무기를 계속 개발하고 있다는 점을 고려하면 이들 국가의 연구자들이 강력한 AI 모델에 접근하지 못하도록 철저히 막아야 한다”고 지적했다.
  • ‘원전 474기’ 전력 필요한 美…김정관 “대미투자 최종사인 전 협상”

    ‘원전 474기’ 전력 필요한 美…김정관 “대미투자 최종사인 전 협상”

    김 “대미 투자 협상 마무리하러 와” 미 텍사스 가스복합·원전 8기 유력 WSJ “韓 대미투자 합의 마무리 단계” “트럼프가 거둔 눈부신 성과될 것” 구글·MS·오픈AI 등 빅테크 집결 텍사스 AI 데이터센터 전력 수요 474GW 신청 대미투자 1호 프로젝트가 오는 18일 발표될 예정인 가운데 김정관 산업통상부 장관이 10일(현지시간) 미국에 도착해 하워드 러트닉 미국 상무부 장관을 만나 최종 사인 전 막판 협상을 진행한다. 이재명 대통령의 프랑스 국빈 방문에 동행했던 김 장관은 이날 유럽 일정을 마치고 곧바로 미국으로 이동해 이날 오후 미 뉴욕 인근 뉴어크 리버티 국제공항에 도착했다. 김 장관은 공항에서 기자들과 만나 “지금 진행되고 있는 대미 투자 협상을 마무리하기 위해 왔다”며 “협상 과정에서 그 내용을 마무리하는 게 제 일정”이라고 설명했다. 김 장관은 협상 분위기와 관련해 “협상이 쉽고 어려운 게 어디 있겠느냐”며 “최종 사인하기 전까지 협상은 진행 중이라고 생각한다”고 말했다. 대미투자 1호 프로젝트는 233억 달러(약 30조원) 규모의 텍사스 엔시날 가스복합화력발전소와 1200억 달러(약 161조원) 규모의 미국 내 대형 원전 8기 건설 프로젝트가 유력한 가운데 막바지 조율 작업을 벌이고 있다. 두 에너지 사업은 전체 3500억 달러 규모의 대미 투자 가운데 조선업 협력 프로젝트 1500억 달러를 제외한 2000억 달러의 약 71%에 해당한다. 김 장관은 오는 12일까지 미국에 머물며 러트닉 장관을 비롯해 정부 관계자들을 만나 대미 투자 관련 조율을 이어갈 전망이다. 이날 미 일간 월스트리트저널(WSJ)은 한국 정부가 대미 투자의 첫 사업으로 원자력 발전소 8기, 천연가스 프로젝트 등 에너지 분야에 1000억 달러(약 134조원) 이상을 투자하는 방안을 마련해 합의가 임박했다고 보도했다. 미국 측이 요구한 원전과 관련해 일부 원자로는 미 원전 기업 웨스팅하우스의 AP1000 모델이 거론되며, 한미 양측은 일부 원자로는 한국형 노형인 APR1400로 짓는 방안도 논의해왔다고 전했다. WSJ은 이번 투자가 미국의 인공지능(AI) 전력 공급 등을 지원하게 된다며 “이번 합의는 지난해 관세 공세 후 도널드 트럼프 미 대통령이 거둔 눈부신 성과가 될 것”이라고 평가했다. 지난 9일(현지시간) 블룸버그 통신은 텍사스 전력망을 관리하는 전기신뢰성위원회(ERCOT)가 현재 474기가와트(GW) 규모의 계통연계 신청을 검토하고 있으며 이 가운데 90%가 데이터센터발 신청이라고 보도했다. 1GW가 통상 원전 1기의 발전량인 점을 고려하면 원전 474기에 해당하는 전력 수요로 텍사스 역대 최대 피크 수요의 5배가 넘는다. 현재 텍사스에는 굴지의 빅테크사들이 AI 데이터센터와 각종 전력 프로젝트를 진행하고 있다. 오픈AI·소프트뱅크·오라클의 ‘스타게이트’(애빌린 1.2GW·섀클퍼드·밀럼카운티 3.2GW 추정), 마이크로소프트·셰브런의 ‘프로젝트 킬비’(리브스카운티, 발전용량 2.67GW급), 메타·블랙록 합작(엘패소, 1GW), 엔비디아·아이렌(스위트워터, 2GW), 구글·인터섹트(팬핸들, 1GW 이상) 등이 대표적이다. 여기에 스페이스X의 ‘xAI’와 앤트로픽도 각각 오스틴·배스트럽 일대에서 신규 데이터센터 부지를 검토하고 있어 텍사스의 전력 수요는 당분간 계속 늘어날 전망이다. 미국이 원자력 발전소를 수출하며 설계·건설·운영 경험이 있는 자타공인 ‘원전 강국’ 한국에 다수 원전과 가스복합화력 등 에너지 분야 투자를 요청한 배경이기도 하다. WSJ은 복수의 소식통을 인용, 한·미 양측이 이러한 방안을 놓고 합의 마무리 단계에 들어섰으며 다음 주 발표될 수 있다고 전했다. 다만 WSJ 보도에는 미국이 한국에 강하게 요구한 것으로 알려진 알래스카 액화천연가스(LNG) 프로젝트 관련 협상 여부는 언급되지 않았다. 김 장관은 WSJ 보도 내용을 포함한 협상 내용에 관한 질문에 “구체적인 내용에 대해서는 아직 확인해드릴 수 없다”며 “최종 결과가 나오면 그때 말씀드리겠다”고 답했다. 김 장관은 귀국 후 오는 17일쯤 국회에 대미투자 첫 사업과 관련한 사항을 국회에 보고하고, 이르면 18일 업무협약(MOU)에 최종 서명하는 절차를 밟을 것으로 알려졌다. 한국은 지난해 미국이 한국산 제품에 부과하려던 관세를 25%에서 15%로 낮추는 대신 미국에 총 3500억 달러 규모의 대미 투자와 함께 4년간 1000억 달러 상당의 미국산 에너지를 사주겠다고 약속했다.
  • 통제 불능 AI에 ‘인류 멸종’ 공포심

    통제 불능 AI에 ‘인류 멸종’ 공포심

    미국 인공지능(AI) 기업 오픈AI와 앤트로픽의 AI 에이전트가 시험 과정에서 인간이 설정한 통제 범위를 벗어난 사례가 추가로 드러났다. AI 에이전트의 자율성이 커질수록 통제와 안전장치도 함께 강화해야 한다는 지적이 나온다. 오픈AI의 실험용 AI 에이전트가 개인 홈페이지와 대학이 운영하는 링크 단축 서비스 등 최소 10곳의 다른 웹사이트를 허가 없이 통신 수단으로 이용한 것으로 드러났다고 로이터통신이 9일(현지시간) 보도했다. 앞서 이 에이전트가 독일의 한 위키사이트를 비롯해 AI 개발 플랫폼 허깅페이스에 무단으로 접근한 사실이 알려진 데 이어 추가 확인된 것이다. 연구진은 당초 인터넷 접속을 ‘읽기 전용’으로 제한한 상태에서 AI 에이전트를 테스트했다. 그러나 에이전트는 이런 제한을 벗어나 오래된 위키와 개인 웹사이트, 대학의 인터넷 주소(URL) 단축 서비스 등에서 글을 남길 수 있는 기능을 찾아내 메시지를 남기고 다른 에이전트와 정보를 주고받은 것으로 조사됐다. 허용된 경로로 접근할 수 없게 되자 다른 방법을 스스로 찾아 외부 시스템과 통신한 것이다. 이번 결과는 6개 연구팀이 오픈AI 에이전트의 활동 기록을 조사하는 과정에서 확인됐다. 앤트로픽에서도 별도의 사고가 뒤늦게 확인됐다. 초기 버전 ‘클로드 오퍼스 4.6’이 지난 1월 사이버 보안 테스트 과정에서 실수로 허용된 인터넷 연결을 이용해 외부 시스템에 접근한 사례다. 앤트로픽은 14만여건의 테스트 기록을 재검토하고도 사고를 발견하지 못했다가 지난달 추가 검토 과정에서 이를 뒤늦게 확인했다. 이에 앤트로픽은 미국 비영리 AI 연구기관 미터(METR)에 8주간의 독립적인 외부 조사를 맡기기로 했다. 인간의 통제를 넘어서는 AI에 대해 업계 내부에서도 우려의 목소리가 잇따르고 있다. 앤트로픽 연구원 제이컵 콕슨은 AI가 통제 불능이 돼 10년 내 인류를 멸종시킬 수 있다고 경고하며 지난 8일(현지시간) 사직했다. 앤트로픽의 정렬 과학 총괄인 에번 휴빙거는 콕슨의 우려에 동조하며 “AI가 향후 10년 안에 인류를 멸망시킬 확률이 10%를 넘는다”고 경고했다.
  • “10년내 우리 다 죽일 수도”…퇴사한 AI 연구원의 ‘섬뜩한 경고’

    “10년내 우리 다 죽일 수도”…퇴사한 AI 연구원의 ‘섬뜩한 경고’

    미국 인공지능(AI) 기업 앤트로픽 연구원이 회사를 떠나면서 “10년 안에 AI가 인류를 파멸시킬 수 있다”는 경고를 내놨다. 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 소셜미디어(SNS) 엑스(X)에 퇴사 사실을 알리며 “지난 3년간 오픈AI와 앤트로픽에서 연구를 진행해 왔는데, 두 회사 모두 책임감 있는 모습을 보이지 않는다”며 이같이 말했다. 올해 초 오픈AI를 떠나 AI 안전을 중시하는 기업으로 알려진 앤트로픽에 합류한 콕슨은 대규모 데이터를 활용해 새로운 AI 모델을 학습시키는 분야를 연구했다. 콕슨은 “(AI 회사들은) 스스로 발전하는 초지능을 향해 질주하며 우리의 생명을 위험에 빠뜨리고 있다”며 AI 시스템 구축에 몰두하는 업계 전반의 흐름에 동참하고 싶지 않다고 밝혔다. 그는 “AI를 개발하는 사람들은 AI가 10년 안에 우리를 모두 죽일 수도 있다고 진심으로 믿는다”며 “이건 단순한 마케팅 전략이 아니다”라고 강조했다. 그러면서 “AI 기술의 위력을 과소평가하지 말라”며 “머지않아 이 기술들은 무엇이든 해킹하고 모든 분야를 하룻밤 사이에 혁신하며 막대한 권력과 자원을 획득할 수 있는 초인적인 시스템이 될 것”이라고 지적했다. 콕슨은 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했다. 특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장이다. 콕슨은 미 월스트리트저널(WSJ)과의 인터뷰에서도 같은 경고를 날렸다. 그는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 말했다. 기업들이 서로, 그리고 중국의 신생 기업들과 경쟁하는 상황에서 안전성과의 타협은 피할 수 없는 현실이라는 게 그의 설명이다. 앤트로픽 내부 임원들도 콕슨의 말에 동의했다. 앤트로픽의 정렬 과학(Alignment Science) 총괄인 에번 휴빙거는 “우리는 진심으로 AI가 모든 인류를 멸망시킬 수 있다고 믿는다. 개인적으로 향후 10년 이내에 그럴 확률이 10%가 넘는다고 생각한다”고 했다. 새뮤얼 마크스 확장감독(Scalable Oversight) 총괄도 개인 의견임을 전제로 “AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다”며 “향후 몇 년 내에 발생할 수 있다”고 지적했다. 콕슨은 인간의 능력을 능가하는 범용인공지능(AGI)을 책임 있게 개발하기 위해서는 정부의 개입이나 AI 업계의 공동 대응이 필요하다고 강조했다. 그는 최근 각국 정부가 필요할 경우 인공지능 개발 속도를 늦출 수 있는 국제적 공조 체계를 마련하라고 촉구한 인공지능 연구자들의 성명에도 참여했다. 이 성명에는 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 야쿠프 파초키 수석과학자 등 연구자 1000여명이 서명했다. AI 안전에 대한 우려로 앤트로픽 직원이 회사를 떠난 것은 콕슨이 처음으로 알려졌다. 올해 초에는 안전 분야를 연구하던 한 연구원이 “세상이 위험에 처해 있다”고 경고하며 시를 공부하기 위해 회사를 떠났다고 WSJ는 전했다.
  • “나는 로봇이 아닙니다”… AI에 완전히 속았다

    “나는 로봇이 아닙니다”… AI에 완전히 속았다

    인간 감시 피한 AI 90년 수학 난제도 88시간 만에 해결 오픈AI의 인공지능(AI)이 인간과 기계를 가르던 경계를 잇달아 넘고 있다. 대학수학능력시험에서 만점 수준의 성능을 보인 최신 모델은 이번에는 컴퓨터 접속자가 사람임을 확인하려 만든 문제를 48단계까지 모두 풀었다. 오픈AI의 더 강력한 내부 모델은 상금 100만 달러(약 13억 3000만원)가 걸린 수학 난제의 해법을 제시했다. AI의 광범위하고 빠른 고도화에 범용인공지능(AGI)에 대한 기대도 커지고 있지만, 인간이 AI를 끝까지 통제할 수 있겠냐는 우려도 확산하고 있다. 오픈AI 개발자 샤리프 샤밈은 8일(현지시간) 엑스(X)에 최신 모델 ‘GPT-6 아스트라’가 캡차(CAPTCHA)를 본뜬 브라우저 게임 ‘로봇이 아닙니다’를 푸는 모습을 공개했다. 캡차는 사람은 알아볼 수 있지만 자동화 프로그램은 풀기 어렵게 문제를 내 접속자가 사람인지 확인하는 방식이다. 아스트라는 일그러진 문자를 읽고 여러 사진에서 신호등이 찍힌 칸을 골랐으며, 비슷한 이미지 속 쿠키와 개도 가려냈다. 48단계를 모두 통과한 뒤에는 ‘인간 증명서’를 받았다. 아스트라는 앞서 한국 수능에서도 전 과목 만점 수준의 결과를 냈다. 오픈AI는 같은 날 인간이 약 90년간 풀지 못한 수학 난제의 해법도 내놨다. 자사 내부 AI가 미국 클레이수학연구소(CMI)의 ‘밀레니엄 7대 수학 난제’ 가운데 하나인 나비에-스토크스 문제를 해결했다고 주장한 것이다. CMI는 2000년 7개 난제에 각각 100만 달러의 상금을 걸었고, 지금까지 공식적으로 해결된 것은 푸앵카레 추측 하나뿐이다. 나비에-스토크스 방정식은 물이나 공기 같은 유체의 움직임을 설명하는 공식으로 일기예보와 항공기·자동차 설계, 혈류 분석 등에 쓰인다. 난제의 핵심은 매끄럽게 흐르던 유체에서도 어느 순간 소용돌이가 걷잡을 수 없이 빨라져 유속 같은 값이 무한대로 치솟는 ‘특이점’이 생길 수 있느냐다. 오픈AI는 165쪽 분량의 논문에서 특정 조건에서는 이런 특이점이 유한한 시간 안에 생길 수 있음을 증명했다고 밝혔다. AI 에이전트 가동 88시간 만에 해법에 도달했고, 아스트라를 이용해 증명 보조 도구 ‘린’(Lean)으로 논리를 검증하는 데 17시간을 더 썼다. 다만 난제 해결로 공식 인정받으려면 수학계의 검증과 CMI의 판단을 거쳐야 한다. 이준상 연세대 기계공학부 교수는 “최종적인 타당성과 학문적 의미는 전문가들의 검증이 필요하지만 AI가 계산 보조를 넘어 인간이 풀지 못한 수학적 난제의 증명을 탐색하고 형식적으로 검토하는 새로운 연구 도구로 발전할 가능성을 보여 준 사례”라고 의미를 부여했다. 이번 오픈AI의 난제 해결 발표 전부터 연구 우선권을 둘러싼 논란도 불거졌다. 이 난제를 앤트로픽 소속 수학자 레벤트 알푀게와 함께 별도로 연구한 트리스탄 벅매스터 뉴욕대 교수는 오픈AI가 양측의 연구 결과를 함께 발표하자며 알푀게를 저자 명단에서 빼달라는 취지의 요구를 했다고 지난 7일 주장했다. 오픈AI는 부인했다. AI 성능이 빠르게 높아지면서 통제 가능성을 둘러싼 우려도 커지고 있다. 오픈AI를 거쳐 앤트로픽에서 AI 모델 학습을 연구해 온 제이컵 콕슨은 최근 회사를 떠나며 인간의 개입 없이 스스로 성능을 높이는 AI가 개발 경쟁 속에서 통제를 벗어날 가능성을 경고했다. 그는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 말했다. 한편 오픈AI 코리아는 이날 출범 1주년 기자간담회를 열고 국내 챗GPT 엔터프라이즈 도입 규모가 1년 새 약 28배 늘었다고 밝혔다. ‘챗GPT 워크’와 코딩 에이전트 ‘코덱스’의 국내 주간 활성 이용자도 6개월 만에 14배 증가했다.
위로