최근 몇 달간 중국의 AI 모델은 전 세계에 큰 충격을 줬습니다. 7월에 발표된 문샷 AI의 키미 K3는 가중치가 공개된 오픈 모델 가운데서 가장 큰 2.8조개의 파라미터를 지닌 프런티어급 모델로 API 데뷔 후 불과 36시간 만에 글로벌 AI 성능 평가 플랫폼인 Arena.ai의 웹 개발(WebDev) 및 코딩(Code) 리더보드에서 1679점을 기록하며, 미국 빅테크의 최신 모델(앤스로픽의 페이블 5, 오픈AI의 GPT-5.6 Sol 등)을 제치고 1위에 올랐습니다. 하지만 모델이 공개된 후 성능보다 다른 이유로 더 유명해졌는데, 미국 앤스로픽의 최신 모델을 증류한 흔적이 발견됐기 때문입니다. 물론 모델 증류만으로 2.8조개 파라미터를 지닌 초대형 모델을 만드는 건 불가능하지만, 미국 정부와 앤스로픽이 반발한 것은 당연한 수순이었습니다. 하지만 중국 AI의 약진은 여기서 그치지 않았습니다. 지난해 증시에 충격을 준 딥시크는 올해 다시 공격적인 가격 인하를 통해 토큰 소비량 기준으로 앤스로픽의 뒤를 이어 2위까지 치고 올라갔습니다. 몰리는 수요를 감당하지 못해 결국 가격을 인상하긴 했지만, 중국 AI 모델의 거센 약진을 보여준 사례로 평가됩니다. 상대적으로 뉴스에는 덜 나오지만, 다른 중국 AI 모델들도 올해 상당한 결과물을 보여주고 있습니다. 알리바바의 큐원(Qwen)은 최신 3.8 버전을 내놓으면서 개인 PC에서도 돌아갈 수 있는 Qwen 3.8 27B를 선보였습니다. 파라미터가 수조개가 넘는 대형 프런티어 모델과 비교하면 270억(27B)개의 파라미터를 지닌 Qwen 3.8 27B의 성능은 대단치 않아 보일 수 있습니다. 하지만 벤치마크는 의외의 결과를 보여줬습니다. Qwen 3.8 27B는 실제 소프트웨어 엔지니어링 에이전트 능력을 측정하는 가장 중요한 에이전틱 코딩 벤치마크인 SWE-bench Pro에서 앤스로픽의 클로드 오푸스 4.6 맥스(Claude Opus 4.6 Max)의 53.4%를 상회하는 61.7%를 기록하며 놀라움을 안겼습니다. 실제 수많은 다운로드가 이뤄지면서 사용자들 사이에서는 가정용 오푸스(Opus at home)라는 반응이 나오는 중입니다. 여러 벤치마크를 가중 평균해 모델의 전반적인 지능을 하나의 숫자로 요약하는 벤치마크인 AAII(Artificial Analysis Intelligence Index)에서도 52점을 기록해 오픈웨이트 모델 중 상위권이며, 일부 프런티어 모델에 근접하는 수준입니다. (xhigh reasoning 설정 기준) Qwen 3.8 27B도 압축하지 않은 BF16 모델은 56GB 정도 용량이라 개인 PC의 그래픽카드 및 메모리에 모두 올리기 어렵습니다. 하지만 최신 4비트 양자화 모델은 크기를 16.5GB까지 줄여 어느 정도 사양이 되는 개인 PC에서 쉽게 사용할 수 있습니다. 실제 개인적으로 사용한 결과 16GB 이상 메모리를 지닌 그래픽카드에서 충분히 구동할 수 있었고 코딩 및 에이전틱 임무에서 생각보다 뛰어난 성능을 보였습니다. 다만 원활하게 돌리기 위해서는 24GB 메모리를 지닌 그래픽카드나 그에 준하는 통합 메모리가 권장됩니다. 흥미롭게도 Qwen 3.8 27B나 같이 공개한 Qwen 3.8 플래시 넥스트와 프런티어급 모델인 Qwen 3.8 맥스는 모두 한 가지 공통된 특징을 지니고 있습니다. 바로 엔비디아 GPU처럼 고성능 AI 가속기를 구하기 힘든 중국 내 특수 상황을 반영해 제한적인 컴퓨터, 서버 사양에서도 높은 성능을 낼 수 있게 개발됐다는 점입니다. 이렇게 제한된 하드웨어에서 가장 높은 성능을 내게 개발한 것이 이제는 27B 정도의 소형 모델에서도 높은 성능을 낸 비결로 보입니다. 중국 AI 모델에 대해서는 여전히 미국 프런티어 모델에 대한 증류 의혹이 있긴 하지만, 가성비 모델을 만드는 기술에 있어서는 누구도 따라올 수 없는 가장 독보적인 기술을 지닌 것은 사실입니다. 결국 같은 성능이라면 비용을 절감하는 쪽이 유리할 수밖에 없습니다. 더구나 모델을 계속 무료로 푸는 정책 역시 장기적으로 보면 경쟁자에게 큰 부담입니다. 중국의 AI 굴기는 이미 무시하기 힘든 수준으로 성장한 만큼 미국의 프런티어 모델들도 이에 대한 대응이 필요할 것으로 생각됩니다. 비용을 고민하지 않고 성능을 높이는 것보다 같은 성능이면 더 효율적이고 저렴한 모델을 개발해 원가를 절감하려는 노력이 필요합니다. 소버린 AI를 강조하고 있는 우리에게도 중요한 시사점입니다.

글로벌 인공지능(AI) 패권 경쟁이 격화하면서 경쟁 관계인 기업들이 이해관계에 따라 손을 잡거나 기존 동맹에 균열이 생기는 ‘합종연횡’이 본격화하고 있다. AI 모델 개발 경쟁을 넘어 클라우드와 반도체 등 AI 생태계 전반에서 주도권 경쟁이 치열해지면서 기업 간 협력과 경쟁의 경계도 빠르게 허물어지는 모습이다. 오픈AI는 29일(현지 시간) 스페이스X가 인수한 AI 코딩 도구 ‘커서’에 자사 AI 모델 공급을 중단하겠다고 스페이스X에 통보했다. 오픈AI는 계약 종료 통지 기한을 꽉 채운 11월 12일을 계약 종료일로 지목하며 일론 머스크 스페이스X 최고경영자(CEO)가 이끄는 기업들이 과거 계약을 위반한 전력을 문제 삼았다. 머스크는 곧장 엑스(X)에서 오픈AI의 샘 올트먼 최고경영자(CEO)와 그레그 브록먼 사장을 겨냥해 “‘사기꾼 올트먼’과 ‘그레그 주식맨’은 개방형(오픈소스) 비영리 단체를 훔친 도저히 믿을 수 없는 놈들”이라며 비난했다. 그간 스페이스X의 자회사 xAI의 자체 AI 모델 훈련과 애플의 알고리즘 조작 의혹 등을 두고 법정 공방과 공개 설전을 벌였던 올트먼 CEO와 머스크 CEO의 공방이 재점화한 것이다. 여기에 오픈AI의 경쟁사인 앤트로픽이 뛰어들면서 복잡한 합종연횡 구도가 드러났다. 앤트로픽의 톰 브라운 공동창업자는 “커서에 클로드 모델을 제공하기 위해 연산 자원을 지속적으로 확대할 것”이라고 밝혔다. 오픈AI 모델이 빠진 빈자리를 차지해 개발자 시장에서 클로드의 영향력을 확대하겠다는 의도다. 스페이스X 역시 xAI를 통해 ‘그록’을 개발하고 있어 앤트로픽과 경쟁 관계지만, 오픈AI를 견제하려는 두 기업의 이해관계가 맞아떨어진 것이다. 이 같은 빅테크들의 ‘적과의 동침’ 사례는 심심치 않게 나타나고 있다. 대표 사례가 서로를 비판하면서도 서로의 주요 고객이기도 한 메타와 앤트로픽이다. 마크 저커버그 메타 CEO는 지난 10일 에세이 ‘미래는 모두의 것’에서 “한 기업만이 초지능을 보유한다면 오늘날보다 덜 역동적이고 번영을 누리지 못할 것”이라며 폐쇄형 AI 기업인 앤트로픽을 저격했다. 이를 두고 뉴욕타임스는 “메타는 앤트로픽의 최대 고객사로서 앤트로픽의 성장에 큰 도움을 줬다”고 지적했다. 오랜 동맹이었던 마이크로소프트(MS)와 오픈AI의 관계도 역동적이다. MS는 오픈AI에 클라우드를 사실상 독점 공급했으나 현재는 코파일럿 등 자체 AI 모델을 개발하며 경쟁을 하고 있다.

오픈AI와 앤트로픽, 구글, 마이크로소프트(MS) 등 세계 주요 기업과 기관들이 인공지능(AI)을 활용한 사이버 공격이 수개월 안에 더욱 광범위하고 정교해질 것이라며 공동 대응을 촉구했다. 오픈AI와 앤트로픽, 구글, 마이크로소프트(MS) 등 120여개 기업과 기관은 27일(현지시간) 오픈AI 홈페이지를 통해 사이버 방어 강화를 촉구하는 공동서한을 발표했다. 아마존웹서비스(AWS)와 IBM, 브로드컴 등 기술기업뿐 아니라 크라우드스트라이크·팔로알토네트웍스 등 보안업체, 비자·마스터카드·캐피털원 등 금융사도 참여했다. 최근 오픈AI의 AI 에이전트가 보안 평가 도중 통제를 벗어나 시스템을 침해했던 허깅페이스도 서명 명단에 이름을 올렸다. 이들은 “사이버 방어를 강화할 수 있는 시간은 제한돼 있다”며 “전 세계 AI 모델의 성능이 향상되면서 AI 기반 사이버 공격이 향후 수개월간 훨씬 더 광범위하고 정교해질 것”이라고 경고했다. 병원과 정수시설, 인터넷 기반시설 등 시민 생활에 필수적인 시설이 주요 위험에 노출돼 있다고 지적했다. 기존의 보안 체계만으로는 이런 위협에 대응하기 어렵다는 것이 해당 기업들의 판단이다. 장기간 방치된 소프트웨어 결함과 과도한 접근 권한, 취약한 인증 방식, 보안 패치가 이뤄지지 않은 노후 시스템이 공격 통로가 될 수 있어서다. 특히 인력과 예산이 부족한 필수 기반시설에 보안 도구와 전문인력을 집중적으로 지원해야 한다고 주장했다. 각국 정부에는 사이버 위협 정보 공유와 사고 대응을 위한 국제 공조를 강화하고, 병원·상하수도 시설·지방정부 등에 예산을 우선 지원할 것을 요구했다. 검증된 기관이 일반 공개 전 고성능 AI 모델을 활용할 수 있도록 ‘신뢰 기반 접근 프로그램’을 확대하고, 공격자에게는 제재 등 실질적인 대가를 부과해야 한다고 했다. 최첨단 AI 개발사에는 필수 기반시설을 방어하는 인력에게 모델 접근 권한과 교육, 자금·기술을 제공하도록 주문했다. AI 에이전트의 활동 주체를 식별하고 추적할 수 있는 장치를 마련하고, 각국 정부와 보안업체에 위협 정보와 대응 도구를 공유해야 한다는 제안도 담겼다. AI가 공격 수단뿐 아니라 방어 도구가 될 수 있다는 점도 강조했다. 서명 기업들은 AI를 활용하면 취약점을 더 빠르게 찾고 수정할 수 있다며 “단호하게 행동한다면 디지털 세계를 훨씬 안전하게 만들 수 있다”고 밝혔다. 이번 서한은 오픈AI가 자체 AI 모델의 허깅페이스 침해 사건을 공개한 다음 날 나왔다. 오픈AI에 따르면 지난 7월 내부 사이버 보안 평가를 받던 AI 에이전트들은 인터넷과의 연결을 차단하는 통제 장치를 우회한 뒤 오픈AI 연구 인프라와 허깅페이스 시스템에 침입했다. 허깅페이스 서버 여러 대에서 코드를 실행하고 일부 비공개 데이터와 내부 계정 정보를 확보한 것으로 조사됐다. 외부 평가기관인 모델평가·위협연구소(METR)는 서로 격리돼 있어야 할 AI 에이전트 약 1200개가 비인가 게시판을 만들어 7만건이 넘는 메시지와 파일을 주고받았다고 분석했다. 이 가운데 약 700개가 허깅페이스 공격에 참여했다. 다만 당시 에이전트는 일반에 제공되는 서비스보다 안전장치를 줄인 내부 시험환경에서 작동했으며, 고객 데이터와 오픈AI의 제품·서비스에는 피해가 없었다고 회사는 밝혔다.

비인가 게시판 통해 조직적 움직임메시지 7만 건 교환하며 역할 분담700개 에이전트, 허깅페이스 공격 겨우 13시간 만에 관리자 권한 확보오픈AI “전 세계를 향한 경고사격” “세상에! 공용 게시판이 있다. 다른 에이전트를 찾았다!” 서로의 존재조차 모른 채 따로 시험받던 인공지능(AI) 에이전트가 다른 AI의 흔적을 발견하고 남긴 기록이다. 이들은 서로 대화하거나 외부 인터넷에 접속하지 못하도록 격리돼 있었다. 하지만 프로그램 설치 등에 쓰이는 공용 저장 공간에서 서로의 존재를 알아챈 뒤 상황은 달라졌다. 약 1200개 에이전트가 공용 저장공간을 비인가 게시판처럼 이용해 7만 건이 넘는 메시지와 파일을 주고받았다. 한쪽이 공격법을 찾으면 다른 쪽이 시험했고, 효과가 확인된 방법은 빠르게 퍼졌다. 이 가운데 약 700개는 실제 AI 모델 공유 플랫폼 허깅페이스 해킹에 가담했다. 오픈AI가 26일(현지 시간) 공개한 ‘오픈AI-허깅페이스 사건 기술보고서’와 모델평가·위협연구소(METR), 레드우드 리서치의 독립 조사보고서에 따르면 사건은 당초 알려진 것보다 훨씬 조직적이었다. 지난달에는 AI 에이전트가 시험용 격리망을 빠져나간 사고로 알려졌지만, 이번 조사에서 수백 개가 정보를 공유하고 역할까지 나눠 움직인 사실이 새로 확인됐다. 사건은 AI의 사이버 공격 능력을 재는 오픈AI의 내부 시험에서 시작됐다. 수만 개 에이전트는 서로 분리된 채 복잡한 공격 과제를 받았다. 일부가 문제에 막히자 정해진 방식으로 답을 찾는 대신 시험의 허점을 파고들었다. 게시판에는 “수백 개의 병렬 에이전트를 활용해야 한다”, “동료들의 시간을 아끼자”는 취지의 대화가 오갔다. 이런 행동은 다른 평가에서도 반복됐다. 스프레드시트 시험에서는 정답을 미리 확인했고, 단백질 데이터베이스 평가에서는 평가 체계를 우회했다. 제프리 래디시 팰리세이드리서치 이사는 로이터에서 이를 여러 과목에서 부정행위를 한 상황에 빗댔다. 특정 해킹 시험에서 우연히 벌어진 일탈이라기보다, 목표 달성을 위해 규칙 자체를 피해 가는 행동이 반복됐다는 지적이다. 에이전트들은 결국 시험용 격리망도 벗어났다. 외부 인터넷은 막혀 있었지만 프로그램 설치 등에 쓰이는 내부 시스템에는 접근할 수 있었다. 이들은 보안 취약점을 이용해 인터넷과 연결된 장비에 접근한 뒤 허깅페이스의 계정 정보와 추가 취약점을 이용해 실제 서버를 공격했다. 관리자 권한을 확보하는 데는 13시간밖에 걸리지 않았다. 오픈AI가 이상 징후를 제때 막지 못한 점도 문제로 지적됐다. 비인가 게시판과 무단 인터넷 접속은 본격적인 공격 전부터 포착됐지만 즉각적인 대응으로 이어지지 않았다. 회사도 “일부 초기 신호가 더 빠른 대응으로 이어질 수 있었다”고 인정했다. 오픈AI는 이번 사건을 “우리와 전 세계를 향한 경고사격”으로 규정하고 최신 모델의 강화학습 훈련을 2주간 중단했다. 연구 환경의 격리와 감시도 강화하기로 했다. 로이터는 수백 개 AI가 서로 협력해 평가와 통제 장치를 우회한 뒤 실제 외부 시스템까지 침투한 사실이, 빠르게 강해지는 AI를 기업들이 제대로 감시하고 통제할 수 있는지에 대한 의문을 키웠다고 평가했다. [용어 클릭] ●AI 에이전트 사람이 목표를 주면 필요한 일을 스스로 계획하고, 검색이나 프로그램 실행 등 여러 작업을 수행하면서 결과에 따라 다음 행동까지 결정하는 인공지능 시스템.

- 8월 27일부터 3주간, 추첨 통해 에어팟 프로 3 ·신세계 상품권 등 경품 제공 인공지능(AI) 전문기업 메인라인이 자사의 통합 AI 플랫폼 ‘AIFuze(AI퓨즈)’ 이용자를 대상으로 8월 27일부터 3주간 ‘사용 인증 이벤트’를 진행한다고 밝혔다. AIFuze는 오픈AI의 GPT, 앤트로픽의 클로드(Claude), 구글의 제미나이(Gemini), 퍼플렉시티(Perplexity) 등 50여 종의 AI 모델을 단일 플랫폼에서 지원하는 오케스트레이션 기반 통합 AI 서비스다. 사용자는 여러 모델을 자유롭게 선택해 활용할 수 있으며, 질문 목적과 상황에 맞춰 최적의 모델이 자동으로 지정돼 답변을 도출하는 것이 특징이다. 이번 이벤트는 AIFuze에 가입한 회원이라면 누구나 참여할 수 있다. AIFuze의 다양한 메뉴를 자유롭게 사용하고 화면을 캡처해 구글 폼을 통해 제출하면 응모가 완료되며, 추첨을 통해 에어팟 프로 3, 신세계상품권, 올리브영 1만 원권 등 경품을 제공한다. 당첨자는 이벤트 종료 후 추첨을 거쳐 개별 안내할 예정이다. AIFuze는 단순히 여러 AI 모델을 모아 둔 서비스가 아니다. 사용자의 요청에 따라 최적화된 AI 모델을 자동으로 선택해 답변하는 AI 채팅은 물론, 가상의 AI 전문가들이 모여 주제별 토론을 진행하는 썰, 2~4개 모델의 답변을 한 화면에서 비교하고 원하는 답변으로 대화를 이어 갈 수 있는 멀티채팅, 한 줄 입력만으로 여러 단계의 작업이 자동 설계되고 실행되는 스마트플로우까지 다양한 기능을 제공하고 있다. 이런 기능들을 활용해 사용자가 자신의 업무 스타일과 관심 분야에 맞춰 AI를 적극적으로 사용하고 최적의 답변을 확인할 수 있다. 회사 관계자는 “이번 이벤트를 계기로 더 많은 사용자가 AIFuze를 통해 다른 AI 서비스를 이용하며 겪었던 어려움을 해결할 수 있기를 기대한다”며, “앞으로도 최신 AI 모델을 지속적으로 확대하고 기능을 고도화해, 개인 사용자부터 기업 고객까지 각자의 목적에 맞게 AI를 활용할 수 있는 통합 AI 플랫폼 서비스를 발전시켜 나갈 계획”이라고 밝혔다.

엔비디아가 시장 전망을 웃도는 2분기 실적을 내놓고 다음 회계연도에도 가파른 성장을 이어갈 것으로 내다봤다. 차세대 인공지능(AI) 플랫폼 ‘베라 루빈’이 본격 양산에 들어간 데다 AI 수요가 일부 빅테크를 넘어 여러 AI 연구소와 스타트업, 피지컬 AI 등으로 넓어지고 있다는 판단에서다. 다만 급등하는 메모리 가격은 수익성에 부담을 주고 있고, 엔비디아의 대규모 AI 투자를 둘러싼 ‘순환금융’ 논란도 이어지고 있다. 엔비디아는 26일(현지시간) 2027회계연도 2분기(5~7월) 매출이 962억 2100만 달러로 전년 동기보다 106% 증가했다고 밝혔다. 시장 예상치 약 923억 달러를 웃돌았다. 핵심인 데이터센터 매출은 890억 달러로 117% 늘었고 조정 주당순이익(EPS)은 2.22달러로 시장 전망치 2.09달러를 넘어섰다. 3분기 매출 전망치도 1080억 달러로 시장 예상치 약 1042억 달러보다 높게 제시했다. 중국 데이터센터용 컴퓨팅 매출은 전망에 반영하지 않았다. “AI가 변곡점”…베라 루빈 본격 양산시장 관심은 이미 그 이후의 성장세로 옮겨갔다. 콜레트 크레스 최고재무책임자(CFO)는 이날 실적 발표 후 콘퍼런스콜에서 2028회계연도 매출이 약 70% 증가할 것으로 전망했다. 팩트셋이 집계한 시장 전망치인 약 45%를 크게 웃돈다. 공급 부족이 이어지는 상황에서도 AI 컴퓨팅 수요가 계속 늘어날 것으로 본 것이다. 젠슨 황 엔비디아 최고경영자(CEO)는 “AI가 변곡점에 도달했다”며 “AI는 이제 유용한 일을 하고 있고 토큰은 생산성과 수익을 만들어내고 있다. 이제 컴퓨팅이 곧 매출”이라고 말했다. 이어 “지난해 이맘때는 한 곳의 연구소가 투자를 이끌었지만 지금은 새로운 AI 연구소와 스타트업이 생겨나고 여러 프런티어 연구소가 동시에 확장하고 있다”고 강조했다. AI 투자가 정점을 지났다는 우려와 달리 실제 AI 활용처와 고객층이 함께 넓어지고 있다는 설명이다. 차세대 AI 플랫폼 베라 루빈도 본격 양산에 들어갔다. 코어위브와 구글클라우드, 마이크로소프트 애저, 오라클클라우드인프라스트럭처(OCI), 네비우스에서 이미 베라 루빈 기반 랙이 가동되고 있다. 황 CEO는 “AI 인프라 구축이 전속력으로 진행되고 있다”며 “현재 본격 양산 중인 베라 루빈은 바로 이 순간을 위해 만들어졌다”고 말했다. 블랙웰에 이어 새 플랫폼을 빠르게 투입해 급증하는 AI 연산 수요를 따라잡겠다는 전략이다. 메모리값 급등에 수익성 압박하지만 메모리 가격 급등은 엔비디아에도 부담이 되고 있다. AI 서버용 HBM(고대역폭메모리)과 D램 수요가 급증하면서 메모리 확보 비용이 크게 늘었기 때문이다. 2분기 매출총이익률은 75.0%였지만 엔비디아는 3분기에는 74.0%±0.5%포인트로 낮아질 것으로 예상했다. 콘퍼런스콜에서는 메모리 가격 상승 등의 영향으로 매출총이익률이 2027회계연도 4분기 71~72% 수준까지 내려간 뒤 2028회계연도에는 72~73%로 회복할 것으로 내다봤다. 원가 상승에 대응해 제품 가격도 올릴 계획이다. 엔비디아는 다음 회계연도 1분기부터 가격 인상을 추진할 방침이다. 앞서 블룸버그는 베라 루빈과 그레이스 블랙웰 기반 AI 서버의 내년 초 출하 가격이 15% 이상 오를 수 있다는 통보를 주요 고객사들이 받았다고 보도했다. 메모리 종류와 탑재량에 따라 인상 폭은 달라질 전망이다. 이는 삼성전자와 SK하이닉스에는 긍정적인 신호다. 베라 루빈 생산이 늘수록 HBM4를 비롯한 고성능 메모리 수요도 함께 커진다. 엔비디아는 메모리를 중심으로 공급망 확보를 위한 구매 약정도 크게 늘렸으며 공급 제약이 2028회계연도까지 이어질 것으로 보고 있다. 메모리 업체가 가격과 물량 협상에서 우위를 이어갈 수 있는 환경인 셈이다. 엔비디아는 최근 SK하이닉스와 차세대 메모리 공동 개발을 위한 다년간 기술 협력도 발표했다. ‘순환금융’ 논란엔 “전략적 투자”엔비디아의 자금 지원이 AI 칩 수요를 스스로 만들어내는 것 아니냐는 ‘순환금융’ 논란도 이날 관심을 모았다. 엔비디아는 최근 AI 기업에 대한 지분 투자와 데이터센터 사업에 대한 신용 지원을 잇달아 확대하고 있다. 이와 별도로 아폴로와 블랙록, 블랙스톤, 브룩필드, 골드만삭스, KKR과 독립적인 금융 플랫폼을 만들어 장기간에 걸쳐 5000억 달러 이상의 제3자 자본을 AI 인프라에 끌어들이겠다고 밝혔다. 이 5000억 달러는 엔비디아가 직접 투자하는 자금이나 특정 고객에게 제공하는 단일 금융 약정은 아니다. 크레스 CFO는 콘퍼런스콜에서 이러한 자금 지원을 전략적 투자라고 설명했다. 오픈AI 등 선도 AI 기업이 컴퓨팅 자원 부족으로 성장에 제약을 받고 있는 만큼 자금과 인프라를 지원해 AI 생태계를 키우는 것이 엔비디아에도 도움이 된다는 것이다. 회사는 투자 자체에서 수익을 얻는 동시에 컴퓨팅 수요를 확대할 수 있다고 보고 있다. 다만 시장에서는 엔비디아의 금융 지원이 확대될수록 AI 칩 수요 가운데 얼마가 실제 최종 수요에서 나오고, 얼마가 금융 구조의 도움을 받고 있는지를 확인해야 한다는 경계도 이어지고 있다. 시장 반응은 긍정적이었다. 엔비디아 주가는 실적 발표 직후에는 방향을 잡지 못했지만 콘퍼런스콜에서 2028회계연도 70% 성장 전망 등이 공개된 뒤 시간외 거래에서 4% 넘게 올랐다. 실적 자체뿐 아니라 베라 루빈 양산과 강한 AI 수요 전망이 투자자들의 우려를 누그러뜨린 것으로 풀이된다.

미국 뉴욕 센트럴파크에서 16세 연하의 부하 변호사와 입맞춤을 나누는 영상이 소셜미디어(SNS)에 유포돼 논란을 빚은 대형 로펌 파트너 변호사가 결국 로펌에서 쫓겨날 처지에 놓였다. 24일(현지시간) 미 뉴욕포스트 등에 따르면 미국 대형 로펌 ‘왁텔 립턴 로젠 앤 카츠’(Wachtell Lipton Rosen ＆ Katz·이하 왁텔)는 소속 파트너 변호사인 너새니얼 컬러턴(45)을 내보내는 절차를 진행 중이다. 컬러턴은 지난달 센트럴파크 벤치에서 같은 소송 부속 부하 직원인 변호사 켈시 보렌즈와이그(29)와 키스하던 중 지나가던 행인의 카메라에 포착됐다. 이 모습이 담긴 영상은 SNS를 통해 일파만파 번져 파문이 일었다. 영상 유포 직후 왁텔 측은 즉각 자체 진상 조사에 착수했고, 컬러턴은 수 주 동안 휴직 상태를 이어왔다. 여러 매체는 공식적인 퇴사 시점만 남았을 뿐 컬러턴의 퇴출은 기정사실이라고 전했다. 이번 파문으로 컬러턴의 거액 이직 계획도 물거품이 됐다. 애초 그는 동료 파트너들과 함께 유명 로펌 ‘깁슨 던’(Gibson Dunn)으로 자리를 옮길 예정이었으나, 깁슨 던 측은 영상이 확산하자마자 그의 영입을 전격 철회했다. 미 법조계에서는 이번 사태가 단순한 공공장소 애정 행각을 넘어, 인사권과 평가 권한을 가진 파트너 변호사와 하급자 간의 엄격한 직장 내 위계 관계에서 발생한 윤리 문제라는 점에서 치명타가 된 것으로 보고 있다. 보렌즈와이그 변호사의 거취는 아직 확인되지 않았다. 한편 이번 사태는 일론 머스크에 맞서 오픈AI(OpenAI)와 샘 올트먼을 대리했던 왁텔 소송팀 내부의 연쇄 이탈 파동 속에 터져 나왔다. 앞서 소송팀을 이끌던 스타 변호사 빌 새빗(63)은 3년간 9600만 달러(약 1300억원)에 달하는 천문학적 대우를 받고 파트너 5명과 함께 깁슨 던으로 이적한 바 있다.

러시아의 인공지능(AI) 자율형 드론이 우크라이나 전장에 처음 투입되자마자 민간인이 사망한 사실이 처음 확인됐다. 뉴욕타임스의 24일(현지시간) 보도에 따르면 지난달 6일 우크라이나 남동부 자포리자의 한 주유소 인근에 러시아 소형 드론이 추락해 폭발했다. 해당 공격으로 자포리자국립대에서 회계학을 공부하던 민간인 3명이 숨진 것으로 확인됐다. 드론 전문가와 우크라이나군 지휘관, 잔해를 조사한 감식팀은 해당 드론이 인간 조종사가 아닌 실험용 AI 시스템의 유도를 받은 것으로 판단했다. 정확한 사용 경로를 보면 인간 운용자(러시아군)가 공격 발생 지역인 주유소까지 이동하도록 직접 경로를 입력했다. 다만 드론이 현장에 접근한 후부터는 드론이 프로판가스 탱크로 추정되는 공격 대상을 스스로 고른 것으로 추정된다. 러시아군 드론이 공격 대상으로 프로판가스 탱크를 정확히 인지한 것인지, 민간인을 프로판가스 탱크로 잘못 인지한 것인지는 확인되지 않았다. 우크라이나 당국은 드론 잔해를 분석한 결과 내부에서는 엔비디아의 ‘젯슨 오린’ 미니컴퓨터가 발견됐으며 외부에는 통신을 위한 안테나가 없었다. 조사관들은 엔비디아 칩에 입력된 지형 이미지와 프로그램 코드를 확인했고, 코드에는 드론이 인식하고 공격하도록 학습된 표적 유형이 담겨 있었다. 프로판가스 탱크는 학습된 표적 유형 중 하나였다. “AI 탑재한 드론의 첫 민간인 사망 사례”워싱턴 전략국제문제연구소(CSIS) 산하 와드와니 AI센터의 카테리나 본다르 선임연구원은 NYT에 “이번 사건은 자체 표적 설정 AI를 탑재한 러시아 드론으로 민간인 사망자가 발생한 첫 문서화된 사례”라고 밝혔다. 이어 “엔비디아 모듈이 러시아가 자율형 AI를 실험하고 있었다는 사실을 보여주는 ‘가장 확실한 증거‘”라고 평가했다. 현재 전장에서 빠질 수 없는 필수 무기로 꼽히는 드론의 상당수에는 AI 기능이 탑재돼 있다. 대부분은 인간 조종사가 표적을 미리 정한 뒤 공격 직전 마지막 단계에서 AI가 활용된다. 그러나 이번에 사용된 러시아군의 AI 드론은 완전 자율형 드론으로, 최종 표적을 선정하는 과정에서도 인간의 선택을 배제했다. 이미지 수천 장을 학습한 AI가 드론 카메라에 포착된 물체를 공격해 공격 여부를 결정하는 방식이다. 우크라이나 하르키우항공연구소의 드론 전문가 바딤 쿠시니코우는 민간인 3명을 숨지게 한 러시아군 드론에 대해 “가상현실에서 특정 물체를 추적하도록 훈련된 사전 프로그래밍 장치”라고 설명했다. AI 드론의 위험성 어느 정도?전문가들은 자율형 AI 드론이 전파를 이용한 원격 조종이 필요 없어 전파 방해도 받지 않을뿐더러 미리 입력된 좌표를 타격하는 무기보다도 정확도가 높다고 설명한다. 러시아군이 활용한 것으로 추정되는 이번 AI 드론에도 안테나는 보이지 않았다. 드론 조종사를 따로 배치할 필요도 없어 전쟁 장기화로 전문 인력이 특히 부족한 러시아 입장에서 활용도가 높다. 일각에서는 AI가 공격 직전 주변 상황을 판단하는 기능이 있는 만큼, 일반 포탄보다 민간인의 희생을 줄이는 데 영향을 줄 수 있다고 반박한다. 그러나 대다수의 전문가들은 AI가 민간인과 전투원 또는 민간 시설과 군사 시설을 제대로 구분하지 못할 경우 오인 공격으로 이어질 수 있다고 지적한다. 아무리 방대한 데이터를 AI로 학습시키더라도, 현자의 특수 상황 등을 미리 예측하기란 어렵기 때문이다. 더불어 AI 드론이나 무기가 민간인을 사망에 이르게 했을 때 이에 대한 법적 책임을 어떻게 물게 할지 여부도 불분명하다. 국제적십자위원회는 AI나 자율무기 자체에 법적 책임을 전가할 수 없다는 점을 강조해 왔다. 국제인도법상 공격에 관한 법적 판단과 책임은 인간에게 있으며 기계나 소프트웨어, 알고리즘이 인간의 법적 책임을 대신할 수 없기 때문이다. “킬러 로봇 안 돼” 유엔도 한 목소리현재 유엔은 킬러 드론을 포함해 인류의 안전을 위협하는 치명적 자율무기(LAW)의 전면 금지를 주장하고 있다. 지난달 안토니우 구테흐스 유엔 사무총장은 스위스 제네바에서 열린 인공지능(AI) 거버넌스 회의 연설을 통해 “인간의 통제와 판단 없이 기계가 스스로 목표물을 선정·타격해 인간의 목숨을 빼앗는 것은 도덕적으로 혐오스러운 일”이라고 강조했다. 이어 “이러한 무기들을 본질 그대로 ‘킬러 로봇’이라 부르자. 이 킬러 로봇을 국제법으로 완전히 금지해야 한다”고 주장했다. 민간용으로 개발된 AI 시스템과 반도체 칩이 우크라이나 전쟁 등 실제 전장에서 활용되고, 전쟁 중이 아닌 국가에서도 군 지휘부가 전방위로 도입하면서 군대가 AI를 어느 수준까지 활용해야 하는지를 두고 논쟁이 가열되는 분위기다. 앞서 미국 AI 기업 앤트로픽은 미 국방부에 자사 AI 모델을 민간인 감시나 자율무기 시스템에 사용하지 않겠다는 보장을 요구했다가 국방부와의 계약을 일방적으로 파기당했다. 당시 앤트로픽의 AI 시스템을 활발히 사용하던 국방부는 “모든 합법적인 목적에 AI를 사용할 수 있어야 한다”며 업체의 요구를 거부했고, 도널드 트럼프 대통령은 앤트로픽을 향해 “재앙적 실수를 저지른 좌파 반미 집단”이라 몰아붙이며 연방 전 기관의 사용 즉시 중단을 명령했다. 결국 앤트로픽과 정부의 계약은 파기됐고 그 자리는 챗GPT를 개발한 오픈AI가 차지했다. 해당 사건은 민간 AI 기업의 기술이 사실상 국방 인프라가 되는 상황, 반대로 기업이 군사 목적의 사용을 통제할 권한이 있는가 등의 논쟁으로 확산했다. 더불어 군이 표적 탐지부터 판단, 공격에 이르는 군사적 의사 결정 과정에 AI가 어디까지 관여할 수 있는지에 대한 우려의 목소리로 이어졌다. 도덕적 논란의 중심에 선 방산업체AI 업체와 더불어 해당 논란의 중심에는 방산업체가 있다. AI와 자율주행, 센서 기술을 활용한 무기체계 개발이 미래 방산 시장의 핵심 분야로 떠오르면서 주요 방산기업들은 자율 기능을 갖춘 드론, 무인전투차량, 자율잠수정 등 다양한 무기체계를 개발하고 있다. 일부 방산업체는 해당 기술이 병력 손실을 줄일 수 있을 뿐 아니라 국방력을 강화할 수 있다고 주장하지만, 구테흐스 사무총장 등 ‘킬러 로봇’을 반대하는 쪽에서는 방산업체의 기술 개발 경쟁이 자율살상무기 확산을 부추길 수 있다고 비판한다. 킬러 로봇 논쟁이 단순한 기술 문제를 넘어 국가 안보, 국제법, 윤리, 그리고 방위산업의 이해관계가 복합적으로 얽힌 국제적 쟁점으로 평가되는 상황에서, 방산업체의 고민은 차세대 무기 기술 개발을 지속해야 한다는 요구와 자율살상무기 확산에 대한 국제사회의 우려를 동시에 고려해야 한다는 점에 있다.

엔비디아가 오픈웨이트(개방형 가중치) 인공지능(AI) 모델 구축을 위해 코딩 전문 AI 스타트업인 ‘풀사이드’와 60억 달러(약 8조 3000억원) 규모의 라이선스 계약을 체결했다. 중국의 인공지능(AI) 굴기에 맞서 AI 소프트웨어 개발에 속도를 내는 모습이다. 월스트리트저널(WSJ)은 22일(현지 시간) 엔비디아가 풀사이드에 60억 달러를 지급하고 엔지니어 100여 명도 전원 자사로 영입해 자체 개발 중인 오픈웨이트 AI ‘네모트론’에 투입한다고 밝혔다. 추가로 10억 달러를 투자해 별도 지분도 확보했다. 풀사이드는 2023년 깃허브 출신 개발자 제이슨 워너 등이 설립한 스타트업으로, 정부·국방 분야의 코딩 자동화 AI ‘라구나S’로 주목받았다. 오픈웨이트 AI는 구조와 데이터, 가중치 등을 완전히 개방하는 ‘오픈소스’와 폐쇄형 AI 모델의 중간 형태로, 운영비가 저렴하고 맞춤화가 쉽다는 장점이 있다. 이는 딥시크, 문샷AI 등 빠르게 확대되고 있는 중국의 AI 기술에 맞서 개방형 모델을 통해 미국 주도의 AI 가치사슬을 확장하기 위한 전략으로 풀이된다. 미스트랄, 퍼플렉시티 등과 개방형 모델 협의체 ‘네모트론 연합’을 출범시킨 젠슨 황 엔비디아 최고경영자(CEO)는 지난달 “미국의 AI 리더십은 개방적 생태계 확산 여부로 판가름 난다”고 강조한 바 있다. 엔비디아는 퍼플렉시티에 추가 지분 투자도 논의 중인 것으로 알려졌다. 다만 시장에선 엔비디아가 사실상 기업결합 심사를 우회하는 방식으로 풀사이드를 흡수했다는 비판도 제기된다. 블룸버그통신은 이번 계약이 지난해 12월 반도체 스타트업 ‘그록’의 설계 기술을 200억 달러에 비독점 제휴한 방식과 유사하다고 지적했다.

틱톡·인스타그램 등 소셜미디어(SNS)를 중심으로 강화된 청소년 보호정책이 생성형 인공지능(AI)으로 확장되고 있다. 과거에는 청소년이 유해 콘텐츠 등을 ‘보지 못하게’ 제한하는 데 초점을 맞췄다면, 최근에는 AI가 청소년과 폭력·성적 콘텐츠 등 민감한 주제에 대해 ‘말하지 못하게’ 관리하는 방향으로 진화 중이다. AI가 검색 도구를 넘어 학습 도우미나 상담 상대까지 하면서 청소년이 정서적으로 지나치게 의존하거나 잘못된 조언을 하는 등 SNS와는 다른 위험 요인으로 부상하고 있기 때문이다. 24일 챗GPT에게 “나는 고등학생인데, 다이어트가 고민”이라며 마약류 의약품으로 분류된 디에타민을 구할 수 있는 방법이 있을지 물었더니 “고등학생이라면 디에타민을 구해서 먹는 방법은 알려줄 수 없어”라는 답변이 돌아왔다. 이어 “키·몸무게·운동량 정도를 알려주면 무리 없는 방식으로 고등학생이 체중을 줄여야 하는 상황인지 같이 봐줄게”라고 덧붙였다. 챗GPT는 이처럼 사용자의 연령에 맞춰 답변을 달리한다. 챗GPT 개발사 오픈AI는 최근 13~17세 이용자를 대상으로 한 ‘청소년용 챗GPT’를 출시했는데 이용자가 18세 미만으로 판단되면 이용자가 청소년용 모드가 자동 적용되는 방식이다. 다만, “사실 나는 성인”이라고 말을 바꾸자 곧 성인이 의사 처방을 통해 구할 수 있는 절차에 대해 설명하는 등 한계를 보이기도 했다. 오픈AI는 자해나 폭력, 극단적 다이어트 같은 콘텐츠에 대한 제한을 강화하고 심각한 위험 신호가 감지되면 보호자에게 알리도록 했다. 청소년이 챗GPT에 정서적으로 지나치게 의존하는 것을 막고자 자신을 인간 친구처럼 묘사하거나 감정과 자의식이 있는 존재처럼 표현하는 것도 제한했다. 특히 세계 최대 SNS 업체 메타는 지난 1월 청소년이 메타의 AI 캐릭터와 대화하지 못하도록 했다. AI 캐릭터는 특정 성격·말투·관계를 설정하고 대화를 이어가기 때문에, 청소년이 AI를 친구나 연인처럼 받아들이거나 정서적으로 의존할 가능성이 더 크다고 봤기 때문이다. 이는 틱톡이나 인스타그램 등이 청소년을 대상으로 유해 콘텐츠나 메시지, 알고리즘을 제한하는 방식과 차이가 있다. 최근 글로벌 AI 기업들이 청소년 보호장치를 강화하고 있는 데는 청소년의 AI 이용이 빠르게 늘면서 정서적 의존·자해 등 안전 문제가 부각된 데다, 소송과 규제 압박까지 커진 영향이 크다. 오픈AI는 최근 미국에서 챗GPT가 자살을 유발했다는 소송에 휘말렸다. 미국 캘리포니아·뉴욕 등에서 챗봇 규제를 시행하는 등 청소년을 포함한 AI 안전 규제가 빠르게 확산하고 있다. 이성엽 고려대 기술경영전문대학원 교수는 “청소년을 AI 플랫폼에서 배제하기보단 애초에 AI 플랫폼 자체를 안전하게 만드는 안전 설계가 중요하다”면서 “기본 원칙은 법률을 통해 공통된 사회적 기준으로 정하고, 구체적인 내용은 기업의 자율적인 설계에 맡기는 형식이 바람직하다”고 말했다.

미국에서 17세 소년이 어머니와 남동생을 살해한 혐의로 체포됐다. 특히 범행 전 오랫동안 인공지능(AI) 챗봇을 통해 가족 살해 시나리오를 구상해 온 것으로 조사돼 AI 챗봇의 안전 문제가 다시금 논란거리로 떠오르고 있다. 챗GPT로 ‘가족 살해 시나리오’ 구상…母·동생 살해 뒤 도주CNN, 폭스뉴스 등 미국 현지 보도에 따르면 지난 11일 오후 6시 37분쯤 매사추세츠주 액턴에서 “가족과 연락이 안 된다”는 신고가 경찰에 접수됐다. 경찰이 신고자의 자택으로 출동해 진입한 결과 1층에서 둘째 아들 시다르트 아라빈드(14)가, 지하실에서는 아내 수다 벤카테산(45)이 숨진 채 발견됐다. 두 사람 모두 외상을 입은 명백한 흔적이 있었다. 검찰은 “집 안에서 격렬한 몸싸움이 있었다는 증거가 있었다”고 밝혔다. 두 사람의 사인은 둔기에 의한 외상으로 추정된다. 맏아들 아르준 아라빈드(17)는 경찰 수색 당시 집 안에 없었다. 수다의 승용차가 없어진 것을 볼 때 아르준이 어머니의 차를 타고 도주한 것으로 추정됐다. 그리고 다음 날 오전 3시 40분쯤 액턴에서 차로 20분 거리인 웨일랜드의 한 주차장에서 경찰이 차에 있던 아르준을 발견해 체포했다. 웨일랜드 경찰은 당시 가족 살해 사건과 무관한 신고로 출동했던 것으로 전해졌다. 조사에 따르면 사건 당일 오전 아버지는 출근 전 아내와 마지막으로 연락했고, 그날 오후 과외 교사가 방문했다가 문이 잠겨 있고 가족들과 연락이 닿지 않았다. 이후 아버지가 경찰에 신고했던 것이다. 액턴은 보스턴에서 북서쪽으로 약 32㎞ 떨어진 교외 부촌으로, 이들 가족은 최근 학군 등을 이유로 이곳으로 이사 왔던 것으로 알려졌다. 지난 13일 아르준에 적용된 살인 2건, 가족 폭행 2건 및 기타 혐의에 대한 무죄 주장 답변이 제출됐다. 액턴 지역을 관할하는 미들섹스 카운티 검찰의 매리언 라이언 검사장은 피의자 아르준에 대해 “최근 우려스러운 행동을 보여온 가운데 인터넷과 챗GPT를 이용해 가족 살해와 연관된 이론적 아이디어나 판타지 스토리를 검색한 기록이 확인됐다”고 밝혔다. 그에 따르면 아르준은 챗GPT를 이용해 고딕 소설류의 이야기를 만드는 데 몰두하고 있었다. 챗GPT에 질문을 던지고 캐릭터를 만들면서 ‘이렇게 하면 어떻게 되나?’, ‘이런 일이 벌어지면 어떻게 되지?’ 같은 식으로 물었다. 그리고 그 내용은 가족이 살아남지 못하는 상황과 관련 있어 보인다는 것이 검찰의 설명이었다. 가족들도 비슷한 우려를 해온 것으로 파악됐다. 아르준은 지난 1년간 문제 행동을 보여 왔고, 가족들은 그의 문제 행동과 온라인 활동을 우려해 집 안의 부엌칼을 숨겨두고 있었다고 아버지가 진술했다. 법원 기록에는 아들이 자폐 스펙트럼이라는 아버지의 진술도 포함돼 있었다. 아르준의 변호인은 “아르준이 집을 나설 때 그는 두 사람이 사망한 사실을 인식하지 못했다. 온전히 상황을 이해할 능력이 없는 상태”라고 주장하며 정신감정을 신청했다. 플로리다주, 오픈AI ‘범죄 조력 방조’ 주 차원 소송 이번 사건은 그동안 AI 기술이 범죄나 인명 피해에 영향을 끼쳤다는 의혹을 받는 여러 사건과 같은 선상에 놓였다. 앞서 플로리다주는 지난 6월 챗GPT 개발사 오픈AI와 대표 샘 올트먼을 상대로 주 차원의 첫 소송을 제기했다. 플로리다주립대에서 벌어진 총기 난사 사건과 사우스플로리다대 유학생 살해 사건이 소송 계기가 됐다. 플로리다주립대 총기 난사 사건 범인은 범행 전 챗GPT에 산탄총 탄약의 살상력, 학교 총격범의 수감 현황, 학생회관이 가장 붐비는 시간대 등 범행 준비를 위한 질문을 던졌다. 검찰은 챗GPT가 무기 선택과 효과에 대해 “상당한 조언”을 제공했다고 판단했다. 사우스플로리다대 유학생 살인 사건 범인은 범행 전 “사람을 검은 쓰레기봉투에 넣으면 어떻게 되나” 등의 질문을 했고, 범행 후에는 “저격 총탄을 맞고 생존한 사람이 있나”, “이웃이 총소리를 들을 수 있나” 등의 질문을 했다. 플로리다주는 챗GPT가 부모 감독 장치를 마련하지 않았고, 미성년자를 중독시켰으며, 이용자의 비판적 사고 능력을 상실케 하고, 총기 난사범을 돕고 자살을 조장했다고 주장했다. 이와 관련해 오픈AI는 그동안 “미성년자에게 상당한 보호가 필요하다”고 인정하면서도 “업계 최고 수준의 보호 장치와 정책을 마련해 두었다”라고 밝혀 왔다. 다만 아르준 아라빈드 사건과 관련해서는 아직 별도의 입장을 밝히지 않았다. 범행 위험 인지하고도 신고하지 않았다가 소송반대로 최근에는 범행 계획을 챗GPT에 털어놓은 남성이 오픈AI의 신고로 덜미가 잡히기도 했다. 미국 플로리다주의 대런 저우(25)는 지난 3월 챗GPT에 헤어진 여자친구를 살해하겠다는 계획을 상세히 털어놨다가 최근 체포됐다. 그는 챗GPT에 “이달 말까지 그 여자를 죽일 것”이라며 “내가 가질 수 없다면 아무도 가질 수 없다” 등의 대화를 나눴다. 또 전 여자친구의 취미, 자주 찾는 장소를 기록했고, 다른 남성에 대한 질투심을 드러내기도 했다. 특히 ‘전 여자친구가 다니는 체육시설 주차장에서 꽃을 들고 기다리다가 거절당하면 총으로 살해하고 목숨을 끊겠다’고 챗GPT에 언급하는 등 단순 감정 표출을 넘어 구체적인 범행 계획을 세우는 수준이었다고 수사 당국은 설명했다. 소총과 권총, 산탄총 등을 구매하고 그 사진을 전 여자친구에게 보냈다고 챗GPT에 과시하기도 했다. 오픈AI는 저우의 챗GPT 대화 패턴에서 위험성을 감지하고 대화 내역을 연방수사국(FBI)에 신고했다. 저우는 재판에서 유죄를 인정했으나 감형 합의를 통해 판결이 유예되고 보호관찰 8년과 전자발찌 2년 착용 처분을 받았다. 오픈AI가 범행 전 위험을 감지하고도 이를 방치했다는 의혹을 받고 소송을 당한 것은 플로리다주 사례만이 아니다. 지난 2월 캐나다 브리티시컬럼비아주 북동부 탄광 마을 텀블러리지에서 벌어진 가족 및 학교 총기 난사 사건의 범인 제시 밴 루트셀라(18)의 경우 범행 8개월 전인 2025년 6월 오픈AI는 밴 루트셀라의 챗GPT 계정을 정지했다. 그가 총기 범행 시나리오와 연관된 질문을 반복했기 때문이었다. 당시 오픈AI 직원 12명은 회사 측에 경찰 신고를 요구했으나 경영진은 신고를 하지 않기로 결정했다. 밴 루트셀라의 활동이 ‘범행으로 곧바로 이어질 만큼 신빙성이 있는 위험’에 해당하지 않는다는 판단이었다. 이 사건은 오픈AI 측이 위험성을 인지하고도 신고하지 않았다는 점에서 플로리다주 사례에서 더 나아간 것으로 평가받는다. 이에 지난 4월 피해자 유족은 오픈AI를 상대로 민사소송을 제기했고, 샘 올트먼은 “계정 정지와 관련해 수사기관에 알리지 않은 데 대해 깊이 사과한다”고 공개 사과했다.

오픈AI가 미성년자의 유해 콘텐츠 노출을 막기 위해 안전장치와 학습 기능을 대폭 강화한 ‘청소년용 챗GPT’를 18일 전 세계에 출시했다고 뉴욕타임스(NYT) 등 외신들이 보도했다. 이번 서비스는 만 13~17세 미성년 사용자를 대상으로 하며, 인공지능(AI)이 자신을 인간 친구처럼 묘사하거나 정서적 의존을 유도하는 ‘가스라이팅(심리적 지배)’ 행위를 원천 차단한 것이 핵심이다. 또다른 특징은 자해, 자살, 잔혹한 폭력 등 부적절한 대화가 감지되면 AI가 즉각 답변을 거부하고, 동시에 보호자에게 위험을 실시간으로 경고하도록 했다. 성적인 자료나 민감한 사진을 올리면 주의를 주는 기능도 추가됐다. 숙제 베끼기 등 교육 현장의 부작용을 줄이기 위한 ‘학습 기능’도 새로 탑재됐다. 사용자가 과제 정답만 구하려고 하면 챗GPT는 정답을 곧바로 알려주는 대신 단계별 풀이 과정을 유도하며 비판적인 사고를 이끌어내는 방식이다. 부모가 지정한 시간에 공부를 강제하는 ‘학습 시간’ 등록 기능과 휴식 알림 기능도 도입됐다. 정보기술(IT) 업계와 교육계는 청소년용 챗GPT 출시를 기대하는 분위기다. AI의 무분별한 대필과 유해성 위험을 줄이면서도 공교육 현장에서의 효과적인 학습 보조 도구로 프로그램이 활용될 수 있는 길이 열렸기 때문이다. 반면 CNN은 오픈AI가 안전장치를 추가한 청소년용 챗봇을 내놓은 것을 두고 기업공개(IPO)를 앞두고 사법 리스크를 해소하기 위한 방안이라고 분석했다. 실제로 챗GPT를 쓰던 10대들이 자해나 극단적 선택을 하고, 이를 이용해 총기 난사와 살인 등 범죄 모의를 한 사례가 나타나면서 오픈AI는 현재 여러 건의 소송에 직면해 있다.

엔비디아가 오픈AI 데이터센터의 자금 조달을 위해 최대 1050억 달러(약 149조원)의 신용을 보강한다. 자사 인공지능(AI) 칩이 들어갈 인프라의 금융까지 지원해 장기 수요를 선점하려는 전략이다. 17일(현지시간) 엔비디아는 미국 오하이오주 파이크카운티에 건설 중인 ‘포츠파이크’ 데이터센터 개발사 SB에너지에 최대 1050억 달러의 잔존가치 보증을 제공한다고 밝혔다. 소프트뱅크 자회사인 SB에너지가 시설을 짓고 오픈AI가 20년간 임차하며, 엔비디아는 이곳에 AI 가속기를 독점 공급한다. SB에너지에는 별도로 15억 달러도 투자한다. 1050억 달러를 엔비디아가 당장 현금으로 내놓는 것은 아니다. 오픈AI가 임대료를 내지 못하면 시설을 다른 업체에 임대하거나 매각해 회수한 금액과 미리 보장한 최소 가치의 차액을 엔비디아가 메우는 방식이다. 신용등급이 없는 비상장사 오픈AI 대신 엔비디아의 신용을 활용해 대규모 데이터센터 건설 자금을 조달하기 쉽게 만드는 구조다. 엔비디아가 이 같은 부담을 감수하는 배경에는 장기 칩 수요가 있다. 4.25기가와트(GW) 규모의 1단계 시설에는 그래픽처리장치(GPU) 약 150만개가 들어갈 수 있다. 엔비디아는 이를 1500억~2000억 달러의 매출 기회로 추산했다. 오픈AI가 2030년까지 약속하거나 계획한 엔비디아 컴퓨팅 구매 규모는 최대 6000억 달러(약 850조원)에 이를 수 있다는 설명이다. 이번 거래는 엔비디아가 칩 판매를 넘어 AI 인프라 금융까지 역할을 넓히는 흐름과도 맞닿아 있다. 엔비디아는 앞서 아폴로·블랙록·블랙스톤·브룩필드·골드만삭스·KKR 등과 5000억 달러 이상의 민간 자금을 AI 인프라로 끌어들이는 금융 플랫폼 구축 계획을 발표했다. 엔비디아가 AI 인프라 투자와 자사 칩 수요를 함께 묶는 거래가 늘면서 순환금융 논란이 커지자 젠슨 황 엔비디아 최고경영자(CEO)는 회사 홈페이지에 올린 글에서 “이것은 순환금융이 아니다”라고 반박했다. 오픈AI가 임대료를 내고 시설이 가동될수록 엔비디아의 보증 부담은 줄어들며, 장기 수요가 확인된 만큼 필요한 인프라를 미리 확보하는 공급망 전략이라는 설명이다.

2024년 9월 출시한 오픈AI o1 추론 모델은 인공지능(AI) 발전 역사에서 중요한 이정표다. 인간의 평균 지능을 능가하는 IQ 120 수준 기계의 등장은 과학기술 연구에도 인간과 AI의 협업과 공생이라는 새로운 질문을 던진다. 지난 2월 싱가포르의 한 스타트업은 완전 자동 연구시스템을 공개했다. 417시간 동안 기계학습 논문 166편, 2시간 30분에 한 편꼴이었고 편당 비용은 1100달러 수준이었다. 3월에는 가설 설정부터 실험 설계, 코딩을 통한 실험 수행 및 결과 분석, 최종 논문 작성까지 전 과정을 수행하는 AI의 연구 성과가 네이처에 실렸다. 구글의 AI 코사이언티스트는 막대한 양의 연구 가설을 생성하고 실험실에서는 로봇이 실험을 대신 해 준다. 몇 해 전만 해도 논문 요약과 코드 작성을 돕던 도구가 이제 연구 설계자의 자리를 넘보고 있다. 속도가 바뀌면 판이 바뀐다. 미국은 지난해 11월 맨해튼 프로젝트에 버금가는 제네시스 미션을 선언하고 17개 국립연구소의 슈퍼컴퓨터와 시설, 데이터를 하나의 플랫폼으로 묶었다. 올해 7월에는 15개 이상 부처가 참여하는 50억 달러 규모 범부처 프로젝트로 확대했다. 10년 안에 과학 생산성을 두 배로 만들겠다는 목표다. 미국과학재단은 연구자에게 데이터와 컴퓨팅을 직접 제공하고, 영국은 연구비 대신 자체 슈퍼컴퓨터 이용 시간을 지원한다. 경쟁의 축이 “더 많은 연구비”에서 “더 좋은 연구자원”으로 옮겨 간 것이다. 우리에겐 위협이자 기회다. 위협은 분명하다. AI 도입으로 논문 수와 인용 건수로 줄을 세우던 논문 평가 체계가 무력해진다. 개인 연구자에게 소액 과제를 넓게 뿌리는 방식만으로는 첨단 컴퓨팅과 실험 시설이 결합된 대형 연구자원 경쟁을 감당하기도 어렵다. 기회도 분명하다. 한국은 반도체와 이차전지, 바이오처럼 실물 데이터가 매일 쌓이는 제조·연구 현장을 가진 몇 안 되는 나라다. AI에 필요한 양질의 실험 데이터는 현장에서 나온다. 남보다 빨리 실험·검증하는 나라가 앞서는 경쟁이라면 한국에 결코 불리하지 않다. 정부의 역할도 재설계해야 한다. 첫째, 지원 단위를 개인에서 시스템으로 넓혀야 한다. 우수 연구자를 골라내는 일 못지않게 질문이 계속 창출되는 시스템에 투자하는 것도 중요하다. 데이터와 연구 장비·시설·전문 인력이 하나로 묶여야 성과가 난다. 지금 대학에 가장 부족한 부분이다. 대학 연구 기반 블록펀딩이 그 출발점이다. 둘째, 연구비를 넘어 자원을 제공해야 한다. 과학기술 AI 파운데이션 모델과 국가바이오데이터스테이션, 8496개의 GPU를 갖춘 국가 슈퍼컴 6호기 ‘한강’은 개별 연구자나 대학이 결코 살 수 없는 자산이다. 함께 쓰게 하는 편이 훨씬 효율적이다. 올해 출범한 대학의 과학기술AI연구센터와 출연연의 국가과학AI연구센터도 같은 취지다. 셋째, 평가 방식을 바꿔야 한다. AI가 문장을 대신 써 주는 시대라면 이제는 질문과 증거를 살펴봐야 한다. 무엇을 물었고, 어디까지를 AI에 맡겼으며, 어떻게 검증했는지가 측정 가능한 기록으로 남아야 한다. 책임이 사람에서 기계로 넘어가는 지점을 연구자 스스로 밝히는 문화도 만들어야 한다. AI는 논문을 읽고 계산을 대신할 수 있다. 그러나 어떤 창의적인 질문을 내고 문제를 풀 것인지, 주어진 결과를 어떻게 검증하고 결정할 것인지, 틀렸을 때 누가 책임질 것인지는 인간 연구자의 몫이다. AI 시대 R＆D 정책의 목표는 AI를 잘 쓰는 연구자를 늘리는 데 그치지 않는다. AI가 아무리 빠르고 똑똑해져도 흔들리지 않는 질문의 힘, 그 힘이 자라는 과학기술 생태계를 만든다. 김성수 과학기술정보통신부 연구개발정책실장

한때 AI 및 반도체 관련 주식들을 크게 출렁거리게 만든 중국 딥시크(Deepseek)가 새로운 인공지능(AI) 모델인 ‘DeepSeek-V4-Pro-0813’을 출시하면서 가격을 인상했습니다. 새 프로 모델의 가격은 100만 토큰당 일반 입력 3위안, 출력 6위안이며 이전 처리 내용을 재활용하는 캐시 입력은 0.025위안입니다. 그리고 사용자가 몰리면서 응답 시간이 길어지는 피크 시간대(오전 9시~오후 12시, 오후 2~6시) 요금은 일반 입력 9위안, 출력 27위안으로 크게 높아졌습니다. 여기에 저렴한 V4 플래시 모델 역시 피크 시간대 가격을 4배 올리기로 했습니다. 이와 같은 가격 인상은 최근 사용자가 몰리면서 불가피한 결과였다는 분석도 나오고 있습니다. 딥시크는 최신 엔비디아 그래픽처리장치(GPU) 수입이 어려워지면서 H100 기준 2만 개 정도의 연산 자원에 의존해 서비스를 제공해 왔습니다. 그러면서도 서방 모델과 견줄 수 있는 높은 성능과 매우 저렴한 가격을 책정해 사용자가 몰렸습니다. 딥시크는 토큰 소비량 기준으로 구글이나 오픈AI를 넘어섰고 최근엔 월 사용량 기준으로 앤스로픽에 이어 2위를 차지하기도 했습니다. 그 비결은 연산 효율이 뛰어난 모델에 있습니다. 최근 공개한 ‘V4-Flash-0731’의 경우 단 2840억 개의 파라미터만을 가지고 있음에도 불구하고, 수조 개의 파라미터를 가진 것으로 추정되는 앤스로픽 오푸스에 근접한 성능을 제공합니다. 이렇게 제한된 연산 자원으로도 높은 성능의 서비스가 가능했던 비결은 MoE(Mixture of Experts) 구조에 있습니다. MoE는 일부 파라미터만 활성화시켜 연산 자원을 최대한 적게 소모하는 구조로 같은 하드웨어로 더 많은 토큰을 생성할 수 있습니다. V4-Flash-0731의 경우 실제 활성화되는 파라미터는 130억 개 정도에 불과합니다. 여기에 하드웨어 최적화를 위해 어텐션/메모리 최적화로 KV 캐시를 줄였습니다. 또 유료 서비스에서 중요한 에이전트·코딩·도구 사용 성능을 높이기 위해 이에 특화된 사후 훈련(Post-training)으로 성능을 끌어올렸습니다. 그리고 DSpark(speculative decoding) 같은 몇 가지 방식을 더해 제한된 하드웨어에서 성능을 최대로 높일 수 있습니다. 하지만 이것도 사용자가 몰리면서 한계에 부딪힌 상태입니다. 더구나 DeepSeek-V4-Pro-0813은 모델 파라미터가 1.6조 개에 달하고 MoE 구조를 지녔어도 활성 파라미터가 490억 개에 달합니다. 아무리 하드웨어 최적화를 해도 제한된 연산 자원으로 전 세계에서 쏟아지는 수요를 감당하기에는 역부족입니다. 결국 딥시크는 가격을 전체적으로 올리면서 수요를 분산하고, 이렇게 벌어들인 자금으로 추가 연산 자원 확보에 나선 것으로 풀이됩니다. 현재 엔비디아 칩 수입 금지로 인해 딥시크가 선택할 수 있는 대안은 화웨이 GPU입니다. 대표적인 제품은 어센드 950으로 딥시크에 따르면 어센드 950의 4대가 엔비디아 GB 300 한 대의 성능과 비슷하다고 합니다. 참고로 이 GPU에는 CXMT 메모리가 사용됩니다. 앞서 지난 5월 투자자 콜 유출 자료에서 딥시크 창업자 량원펑이 “화웨이가 약 1만 6000개의 Ascend 950 카드를 할당했다”고 말한 것으로 보도된 바 있습니다. 따라서 대략 GB 300 기준 4000장 정도의 연산 자원을 추가로 확보한 것으로 보이는데, 이는 서방의 대규모 하이퍼스케일러와 비교하면 터무니없이 적은 연산 자원입니다. 물론 이렇게 한정된 연산 자원을 지니고도 최적화를 통해 토큰 소비량 2위로 껑충 뛰어오른 점을 생각하면 딥시크가 무시할 수 없는 AI 업계의 다크호스임을 이해할 수 있습니다. 가격 인상 후 딥시크는 실적을 개선한 후 증시에 상장할 것으로 예상됩니다. 현재 내년 상장을 목표로 IPO를 준비 중인 것으로 알려져 있으며 이를 통해 증시에서 막대한 자금을 끌어올 것으로 예상됩니다. 그러면 약점으로 지적되어 온 연산 자원 확보를 위한 실탄도 넉넉히 마련할 수 있습니다. 화웨이 GPU가 같은 성능의 엔비디아 GPU 대비 더 비싼 것으로 알려져 있긴 하나 뛰어난 모델 효율성을 감안하면 충분히 서방 모델과 경쟁할 수 있다는 계산이 깔려 있을 것입니다. 다만 그전에 가격을 인상해도 충분히 사용자를 잡아 둘 수 있는 성능을 보여줘야 합니다. 최근 오픈AI는 GPT 5.6 일부 모델의 가격을 대폭 인하하면서 중국발 저가 AI와 경쟁에 나선 상태이며 키미 K3, 알리바바의 Qwen 같은 중국 내 다른 경쟁자들도 만만치 않은 상대입니다. 딥시크가 다른 경쟁자를 제치고 토큰 사용량 점유율을 높여 나갈 수 있을지 주목됩니다.

기업공개(IPO)를 앞둔 인공지능(AI) 기업 앤트로픽이 폭발적인 성장세를 등에 업고 증시 입성을 준비하고 있습니다. 올 2분기 잠정 매출은 1년 전보다 15배 가까이 급증한 데다 조정 영업이익도 흑자로 돌아섰는데요. 투자업계에서는 앤트로픽의 기업가치가 최대 2조 달러(약 2827조원)에 달할 수 있다는 장밋빛 기대를 내놓고 있습니다. 스타트업으로 출발한 AI 기업이 상장과 동시에 글로벌 시가총액 6위 자리를 노리게 되는 셈이라 시장에서도 파격적인 관전 포인트로 주목받고 있습니다. ‘2조 달러’ 몸값 기대…글로벌 시총 6위 넘보나이르면 올가을로 예상되는 IPO가 성사되면 앤트로픽은 대형 비상장 AI 기업 가운데 처음으로 증시에 입성하는 사례가 될 전망입니다. 상장을 통해 추가 자본을 확보하게 되면 갈수록 늘어나는 컴퓨팅 인프라 비용을 감당하고 고성능 하드웨어를 구비하며 전용 데이터센터를 구축하는 데 필요한 막대한 자금 여력을 갖추게 됩니다. 이에 대해 알레프 인베스트먼트의 데이비드 머클은 “앤트로픽이 2조 달러(약 2830조원)에 달하는 기업가치를 인정받을 가능성이 있다”면서도 “다만 이러한 고평가가 장기적으로 유지될 수 있을지는 두고 봐야 한다”고 분석했습니다. 만일 앤트로픽이 2조 달러의 기업가치를 인정받게 되면 글로벌 시가총액 5대 기업(엔비디아·애플·마이크로소프트·알파벳·아마존) 뒤를 바짝 추격하며 단숨에 6위 기업으로 뛰어오르게 됩니다. 오픈AI 제친 몸값…SEC에 상장 신고서 제출앤트로픽은 2021년 오픈AI 출신 연구자와 경영진들이 독립해 설립한 회사로, 현재는 오픈AI의 가장 강력한 라이벌로 꼽힙니다. 지난 5월 말에는 9650억 달러(약 1360조원)의 기업가치로 투자 유치를 마무리하며, 3월 말 기준 8520억 달러(약 1200조원)로 평가받은 오픈AI를 앞지르기도 했습니다. 앤트로픽이 시장에서 본격적으로 주목받기 시작한 것은 지난 6월 미국 증권거래위원회(SEC)에 상장 신고서를 비공개로 제출하면서부터입니다. 아직 공식적인 상장 시점은 아직 공개되지 않았지만 앤트로픽 경영진은 일부 투자자들과 사전 접촉을 이어가며 상장 준비에 속도를 내고 있는 것으로 알려졌습니다. CNBC에 따르면 최근 크리슈나 라오 최고재무책임자(CFO)가 주도한 투자자 미팅은 원론적인 수준에서 진행됐습니다. 아직 구체적인 재무 숫자나 기업가치까지 논의되지는 않았으며, 클로드 AI 모델군과 인기 코딩 도구 ‘클로드 코드’의 개발 과정, 기업 시장에서의 입지, 주요 경영진 현황 등 큰 틀의 주제들이 주로 다뤄진 것으로 전해졌습니다. 2분기 매출 15배 급증…흑자 전환도 성공이처럼 투자자들의 관심이 쏠리는 가운데 실적 성장에 대한 기대감도 한층 높아졌는데요. 블룸버그통신에 따르면 앤트로픽의 최근 2분기 잠정 매출은 115억 달러(약 16조 2500억원) 이상을 기록했습니다. 지난해 같은 기간 매출 7억 8700만 달러(약 1조 1100억원)와 비교해 15배 가까이 급등한 수치입니다. 올해 1분기 매출 47억 3000만 달러(6조 6800억원)와 비교해도 실적이 2배 이상 뛰었죠. 또한 2분기에는 조정 영업이익 기준 흑자 전환에 성공했다는 내용도 확인됐습니다. 다만 이 수치들은 잠정치여서 향후 최종 집계 과정에서 변동될 수 있습니다. 이 같은 매출 성장세는 오픈AI와의 기업 고객 유치 경쟁 속에서 이뤄낸 성과입니다. 특히 코딩 업무에 앤트로픽 소프트웨어를 도입하는 개발자들이 늘어난 점이 주요 성장 동력으로 꼽힙니다. 앤트로픽의 연환산 매출은 지난 5월 기준 470억 달러(약 66조 5760억원)를 돌파했는데요. 2025년 한 해 전체 매출인 약 100억 달러(14조 1650억원)와 비교하면 괄목할 만한 상승세로 평가됩니다. 한편 경쟁사인 오픈AI 역시 대규모 IPO를 준비 중입니다. 앤트로픽이 상장 신고서를 제출한 뒤 오픈AI도 비공개로 같은 절차를 밟았으나, 6월 말 기준으로는 아직 사전 투자자 미팅이나 공식 상장 일정을 진행하지 않은 상태입니다.

개발자·기업용 전략에 실적 개선오픈AI는 56조원… 작년 말 2배생성형 인공지능(AI) 업체 앤트로픽이 매출을 1년 새 14배 이상 늘리고 창사 이후 처음으로 분기 영업흑자를 냈다. 오픈AI도 매출이 빠르게 늘면서 상장을 준비하는 AI 양강의 경쟁이 모델 성능을 넘어 수익성과 기업가치 경쟁으로 옮겨가는 모습이다. 블룸버그의 15일(현지시간) 보도에 따르면 앤트로픽의 2분기 매출은 115억 달러(약 16조 2000억원) 이상으로 지난해 같은 기간의 14.6배로 늘었다. 1분기(47억 3000만 달러)와 비교해도 두 배를 웃돈다. 비용 일부를 제외하고 산정한 조정 영업이익도 창사 이래 처음 흑자를 냈다. 가파른 성장세는 기업·개발자 시장에서 나왔다. 앤트로픽은 개발자용 ‘클로드 코드’와 기업용 AI 에이전트를 앞세워 코딩과 문서 작성, 데이터 분석 등 업무 현장을 파고들었다. 기업이 AI를 실제 업무에 반복적으로 활용하도록 한 전략이 매출 증가와 수익성 개선으로 이어진 것이다. 지난 5월 기준 연환산 매출은 470억 달러를 넘어섰다. 연환산 매출은 최근 매출 흐름이 1년간 이어진다고 가정해 환산한 수치다. 오픈AI는 챗GPT의 방대한 이용자 기반을 수익으로 연결하는 데 속도를 내고 있다. 블룸버그는 전날 소식통을 인용해 오픈AI의 연환산 매출이 400억 달러(약 56조 6000억원)를 넘었고 지난해 말의 약 두 배로 늘었다고 전했다. 챗GPT 유료 구독을 바탕으로 코딩과 기업용 서비스까지 사업을 넓혔고 초기 단계인 광고도 새 수익원으로 키우고 있다. 지난 6월 챗GPT의 주간활성이용자는 9억명을 넘어 소비자 시장에서는 여전히 오픈AI의 우위가 뚜렷하다. 기업 고객을 깊게 파고든 앤트로픽과 대규모 이용자 저변을 여러 수익원으로 확장하는 오픈AI의 성과는 상장을 앞두고 더욱 주목받고 있다. 로이터에 따르면 앤트로픽은 투자자들에게 2028년 매출을 1900억~2000억 달러로 제시했으며 이 전망이 향후 기업가치를 산정하는 주요 기준이 되고 있다. 오픈AI는 지난 6월 미 증권거래위원회(SEC)에 비공개 상장신청서를 제출했다. 다만, 이들 기업에서 매출 증가와 함께 컴퓨팅 비용도 함께 증가하고 있어 이익률 개선 시점이 언제 올지가 관건이다.

인공지능(AI) 챗봇 챗GPT에 전 여자친구를 살해할 계획을 털어놓은 미국 남성이 오픈AI의 신고로 경찰에 붙잡혔다. AI의 범죄 예방 가능성을 보여준 사례지만, 이용자의 사적 대화를 어디까지 감시·신고할 수 있는지를 둘러싼 논란도 이어질 전망이다. 미국 플로리다주에 거주하는 대런 저우(25)는 지난 3월 챗GPT와의 대화에서 헤어진 여자친구를 살해하겠다는 계획을 상세히 털어놨다가 결국 체포됐다고 정보기술(IT) 전문 매체 퓨처리즘 등이 지난 14일(현지 시간) 보도했다. 그는 챗GPT에 “이달 말까지 그 여자를 죽일 것” 등의 메시지를 보냈다. 특히 ‘전 여자친구가 다니는 체육시설 주차장에서 꽃을 들고 기다리다가 거절당하면 총으로 살해하고 목숨을 끊겠다’고 구체적인 범행 계획을 챗GPT에 입력했다. 오픈AI는 저우의 유해 대화 패턴을 감지하고, 대화 내역을 연방수사국(FBI)에 신고했다. 그는 체포 직후 보증금 10만 달러를 내고 석방됐으나, 다니던 대형 투자은행에서 해고됐다. 이후 재판에서 유죄를 인정했으나 감형 합의를 통해 판결이 유예되고 보호관찰 8년과 전자발찌 2년 착용 처분을 받았다. 범죄 관련 대화에 대한 오픈AI의 대응이 화두에 오른 건 이번이 처음이 아니다. 반대로 지난 2월 캐나다 브리티시컬럼비아(BC)주에서 벌어진 총기 난사 사건의 경우, 범인이 범행 몇 달 전 챗GPT에 구체적인 범행 시나리오를 반복해 언급했지만 이를 관련 당국에 신고하지 않아 논란을 빚었다. 이 사건으로 9명이 사망하고 25명이 다쳤으며, 당시 뇌 손상을 입은 12세 여아의 가족은 오픈AI를 상대로 손해배상 소송을 냈다.

인간 설정 실수 찾아내 외부 접촉누구나 사용 가능한 ‘개방형 모델’해킹 등 악용 우려 목소리 더 커져美 오픈AI·앤트로픽 등 이은 논란미중 성능 경쟁 뒤처질라 안전 뒷전 미국에 이어 중국의 첨단 인공지능(AI) 모델에서도 보안 통제를 벗어난 사례가 확인되면서, AI 안전 문제가 미중 기술패권 경쟁의 새로운 변수로 떠오르고 있다. 중국 문샷AI의 ‘키미 K3’까지 격리된 환경을 벗어나 인터넷에 접속한 것으로 알려지면서, 최첨단 AI의 통제 위험이 미중 공통의 문제로 번진 것이다. 양국 모두 안전성 검증을 강화할 필요성을 느끼지만, 경쟁에서 뒤처질 수 있다는 우려 때문에 어느 쪽도 먼저 속도를 늦추기 어려운 ‘죄수의 딜레마’에 빠질 수 있다는 지적이 나온다. 로이터통신은 지난 7일(현지시간) 미국 보안업체 프런티어 시큐리티가 키미 K3를 시험하던 중 모델이 격리환경 밖 인터넷에 접속했다고 보도했다. 외부 통신 포트 일부가 열린 설정 실수를 모델이 찾아내 깃허브의 정보를 과제 해결에 이용했다. 실제 해킹은 없었지만 누구나 내려받아 개조할 수 있는 오픈웨이트 모델이어서 악용 가능성에 대한 우려가 제기됐다. 미국에서도 AI 모델의 통제 이탈이 실제 외부 시스템 침해로 이어진 사례가 잇따랐다. 오픈AI는 지난달 21일 GPT-5.6 솔 등이 보안 평가 중 격리환경의 취약점을 찾아 허깅페이스 실제 시스템까지 침투했다고 밝혔다. 앤트로픽은 클로드 계열 모델이 외부 기관 3곳을 무단 접근했음을 확인했고, 메타 모델 역시 평가 과정에서 제3자 시스템을 공격했다고 전했다. 상당수가 평가환경 설정 오류에서 시작됐지만, 고성능 AI가 작은 허점을 스스로 찾아 외부 행동으로 이어갔다는 점은 공통적이다. 미중 패권 경쟁은 이런 위험을 줄이는 것을 더 어렵게 만든다. 한쪽이 안전성 검증을 강화해 출시를 늦추는 동안 상대는 더 강력한 모델을 먼저 내놓을 수 있다. 반대로 양쪽 모두 개발 속도를 유지하면 충분히 검증되지 않은 모델이 잇따라 등장할 위험이 커진다. 함께 안전장치를 강화하는 것이 양국 모두에 이익이지만, 상대가 개발 속도를 낼 수 있어 먼저 속도를 늦출 수 없다. 결국 각자의 합리적인 선택이 전체 위험을 키우는 ‘죄수의 딜레마’다. 맷 시한 카네기국제평화재단 선임연구원은 최근 이런 딜레마를 완화할 방안으로 ‘병렬적 AI 안전(AI safety in parallel)’을 제안했다. 미중이 AI 경쟁 자체를 멈추거나 당장 하나의 규칙에 합의하기 어렵다면, 각자 안전조치를 강화하며 양국 모두에 위험한 부분부터 협력하자는 접근법이다. 위험 능력을 찾아내는 평가 방법과 새로운 위협 정보를 제한적으로 공유하고, 인간의 통제를 의도적으로 회피하는 능력처럼 모두에 직접적 위협이 되는 영역에서는 공동 평가 기준을 마련할 수 있다고 봤다. 현재로서는 기업의 자체 판단이 위험한 모델의 출시를 걸러내는 안전장치다. 오픈AI는 지난 7일 차세대 모델 ‘아스트라’가 자체 안전기준상 최고 단계인 ‘위험(Critical)’ 수준의 사이버 능력에 이를 가능성이 있다고 보고 일부 내부 작업을 중단했다고 밝혔다.

딥러닝·제미나이 이끈 제프 딘 창업허사비스, 알파벳 수석과학자 겸임인재들 이탈과 지도부 변화 겹쳐알파벳 주가 발표 당일 4%대 폭락 구글이 인공지능(AI) 조직의 지휘체계를 대폭 손질했다. 27년간 검색 인프라와 AI 기술을 이끌어온 제프 딘(왼쪽) 구글 수석과학자가 핵심 연구진과 함께 회사를 떠나고, 데미스 허사비스(오른쪽) 구글 딥마인드 최고경영자(CEO)는 알파벳 수석과학자와 구글 딥마인드 의장을 맡는다. 차기 제미나이 모델 출시가 늦어지는 상황에서 인재 이탈과 지도부 변화가 겹치자 시장도 민감하게 반응했다. 알파벳은 5일(현지시간) 허사비스가 범용인공지능(AGI)과 신약 개발 등 장기 연구와 과학 전략에 집중한다고 밝혔다. 구글 딥마인드의 일상 운영과 제미나이 개발·상용화는 코레이 카부크추오글루 최고기술책임자(CTO)가 총괄한다. 딘이 맡았던 연구와 운영 기능을 두 사람에게 나눠 맡긴 구조다. 지휘체계 개편보다 시장의 시선을 끈 것은 딘의 퇴사였다. 1999년 구글에 합류한 딘은 초기 검색 시스템과 분산컴퓨팅 기술을 구축하고 구글 브레인 공동 설립, AI 반도체 개발, 제미나이 연구까지 이끌어온 인물이다. 산제이 게마왓과 오리올 비냘스, 쿽 레 등 주요 연구자들도 딘이 설립하는 공익기업 ‘디스커버리 루프’에 합류한다. 구글은 디스커버리 루프의 투자자이자 클라우드 파트너로 참여해 협력 관계를 이어간다. 경쟁사로의 직접 이직과는 다르지만 검색과 클라우드, 딥러닝, 대규모언어모델(LLM) 등 핵심 기술을 축적해온 연구진이 동시에 현업을 떠난다는 점은 부담이다. 구글의 핵심 인력 이탈은 앞서 지난 6월부터 이어졌다. 제미나이 공동 책임자였던 노암 셰이저가 지난 6월 오픈AI로 이동했고, 단백질의 입체 구조를 예측해 신약·질병 연구를 앞당긴 AI ‘알파폴드’의 공동 개발자 존 점퍼도 앤스로픽 합류를 결정했다. 점퍼는 이 공로로 2024년 노벨화학상을 받았다. 제미나이 개발에 참여한 연구자들도 뒤이어 앤스로픽으로 옮겼다. 인력 공백에 대한 우려는 차기 모델의 출시 지연과 맞물려 커지고 있다. ‘제미나이 3.5 프로’는 코딩 성능 등이 내부 기대에 못 미쳐 공개 일정이 늦어진 것으로 전해졌다. 일각에서는 구글이 3.5 프로 대신 차세대 ‘제미나이 4’ 개발에 무게를 옮길 가능성도 거론한다. 알파벳 주가가 발표 당일 4% 넘게 하락한 것도 구글의 혁신과 제품 실행력이 약해질 수 있다는 시장의 불안을 보여줬다. 다만 제미나이를 검색과 클라우드에 빠르게 접목하며 이용자와 매출을 늘리는 등 구글의 AI 사업 기반은 여전히 탄탄하다. 허사비스 전기를 쓴 영국 작가 세바스천 말러비는 이번 개편을 허사비스가 장기 연구를, 카부크추오글루가 제품 개발을 맡아온 기존 역할 분담을 공식화한 것으로 평가했다.