최근 메모리 업계의 가장 큰 이슈는 단연 HBM일 것입니다. HBM은 주로 그래픽 카드에 사용되는 GDDR 메모리보다 더 빠르고 더 용량이 큰 메모리를 목표로 개발됐습니다. HBM은 여러 개의 D램을 쌓아 올리고 TSV라는 고속 통로로 연결해 대역폭과 용량 두 마리 토끼를 잡은 차세대 메모리입니다. 사실 10년 전 HBM 개발 초기만 해도 GDDR과 비교해 속도가 그렇게 빠른 것도 아니고 가격도 비싸 수요가 많은 건 아니었습니다. 하지만 GPU로 AI 연산을 하게 되면서 대용량의 고속 메모리인 HBM이 다시 주목을 받았습니다. 그리고 올해 AI 붐으로 인해 HBM 수요가 급격히 증가하면서 주요 메모리 제조사들도 사활을 걸고 개발과 양산에 뛰어들고 있습니다. 하지만 현재 주목받는 새로운 메모리 규격이 HBM 하나만 있는 것은 아닙니다. 더 빠르고 에너지 효율이 높은 메모리를 개발하기 위해 D램 자체는 물론 메모리 모듈의 규격과 인터페이스를 바꾸려는 시도가 꾸준히 이뤄지고 있습니다. 최근 메모리 관련 규격을 정하는 국제기구인 JEDEC은 차세대 서버 메모리인 MRDIMM과 차세대 노트북 메모리인 LPCAMM2 규격 표준을 곧 마련할 것이라고 발표했습니다. MRDIMM(Multiplexed Rank DIMMs)는 2022년 SK 하이닉스가 발표한 MCR-DIMM 메모리가 그 원형으로 D램의 속도를 빠르게 하는 대신 메모리 모듈에 하나씩 들어가던 메모리 랭크(rank)가 두 개 들어가 한 번에 128bit로 데이터를 전송해 속도를 두 배 높였습니다. 아직 JEDEC 표준이 완성되기 전이지만, 마이크론은 인텔과 손잡고 최신형 제온 CPU에 사용할 수 있는 MRDIMM을 개발했습니다. 마이크론이 공개한 128/256GB MRDIMM 메모리 모듈은 8800MT/s의 속도로 DDR5 메모리 초기 제품에 두 배에 달합니다. 마이크론은 12800MT/s까지 속도를 높여 나갈 계획입니다. 물론 애당초 SK 하이닉스가 먼저 개발했고 삼성전자 역시 관련 모듈을 개발한 것으로 알려진 만큼 메모리 메이저 3사가 MRDIMM에서 치열한 경쟁을 보일 것으로 예상됩니다. MRDIMM 규격에서 또 다른 흥미로운 대목은 톨(tall) 규격도 있다는 것입니다. 톨 폼펙터의 MRDIMM은 높이가 56.9mm으로 더 많은 메모리 칩을 넣을 수도 있고 같은 용량의 메모리 칩이라도 더 많은 면적이 공기와 접촉해 냉각 효율을 높일 수 있습니다. 마이크론에 의하면 톨 규격의 MRDIMM은 24% 정도 냉각 효율이 높습니다. 메모리가 빨라지고 용량이 많아지면 발열도 무시할 수 없을 정도로 커지므로 이것 역시 필요한 기능입니다. 최근 서버 CPU의 코어 숫자가 100개를 훌쩍 넘어 점점 더 많아지는 데 반해 메모리 대역폭은 그 속도를 따라가지 못하고 있기 때문에 MRDIMM이 적당한 가격으로 제때 공급될 수 있다면, 서버 메모리 시장에서 빠르게 영역을 확대해 나갈 것으로 보입니다. 또 가격이 낮아진다면 데스크톱 PC 시장에도 진출할 가능성이 있습니다. JEDEC은 MRDIMM 표준화에 이어 아직 널리 보급이 되지 않은 노트북 메모리 규격인 LPCAMM(Low Power Compression Attached Memory Module) 혹은 CAMM의 2세대 규격 표준안 마련에도 나서고 있습니다. CAMM 규격은 주로 스마트폰이나 태블릿에 사용되는 LPDDR 메모리를 일반 노트북에서도 사용할 수 있게 만든 것으로 기존의 SO-DIMM 메모리보다 크기는 40% 작고 효율은 70%나 높였습니다.CAMM2 규격은 특이하게도 이미 출시한 LPDDR5 메모리만이 아니라 아직 나오지 않은 LPDDR6 메모리도 지원합니다. LPDDR6 CAMM2 메모리 모듈은 현재의 128bit 메모리 인터페이스 대신 50% 더 넓은 192bit 메모리 인터페이스를 사용할 수 있습니다. 따라서 현재 노트북에 사용하는 LPDDR5 CAMM 메모리나 일반 DDR5 메모리보다 50% 더 높은 14.4GT/s 대역폭을 확보할 수 있습니다. 물론 이를 위해서는 CPU가 192bit 메모리 인터페이스를 사용할 수 있어야 합니다. 따라서 LPDDR6 CAMM2 메모리 모듈은 당장에는 도입이 어렵습니다. 하지만 삼성과 SK 하이닉스 모두 LPDDR6 상용화를 준비 중이고 CPU 제조사들도 이에 맞춰 신형 CPU를 설계할 것이기 때문에 생각보다 가까운 미래에 LPDDR6 CAMM2 메모리를 볼 수 있게 될지도 모릅니다. 낮은 전력 소모와 기존의 DDR5가 넘보기 힘든 속도를 생각하면 2세대부터 CAMM 메모리 보급에 탄력이 붙을 가능성도 있습니다. 만약 LPDDR6 CAMM2 메모리가 보급된다면 가장 큰 이득을 볼 수 있는 부분은 내장 그래픽입니다. CPU에 내장된 iGPU는 CPU와 메모리를 공유하기 때문에 낮은 메모리 대역폭에 발목이 잡혀 제 속도를 내기 힘들었습니다. LPDDR6 CAMM2 메모리는 이런 성능 제약을 크게 줄여 노트북 그래픽 성능을 한 단계 높일 수 있습니다. 데스크톱 PC와 서버에 사용되는 DIMM 규격과 노트북에 사용하는 변형 규격인 SO-DIMM은 지난 수십 년간 외형에 큰 변화 없이 사용되었습니다. 하지만 이제 시대의 변화에 맞춰 오래된 규격을 바꾸고 성능을 한 단계 더 업그레이드할 때가 됐습니다. 워낙 많이 보급된 표준 규격인 DIMM이 바로 사라지진 않겠지만, 미래에는 더 다양한 메모리 규격과 제품을 볼 수 있게 될 것입니다.

대구시가 인공지능(AI) 반도체 산업 육성을 위해 전문 기업들과 손을 맞잡았다. 대구시는 24일 오후 시청 산격청사에서 퓨리오사AI, 딥엑스, 모빌린트 등 국내 AI 반도체 관련 업체 6곳과 ‘AI 반도체 산업 육성 및 대구 반도체 산업역량 강화를 위한 업무협약’을 체결했다. 협약에 참여하는 기관·기업은 국산 AI 반도체 실증에서부터 반도체 소프트웨어(SW) 개발, 반도체 SW 센터 구축, 인력 양성 등 전방위적인 협력체계 구축에 나서기로 했다. 협약에 참여한 업체들은 엔비디아가 시장을 장악하고 있는 그래픽처리장치(GPU)보다 속도는 빠르고 전력 소모는 적은 신경망처리장치(NPU) 개발하고 있다. 따라서 앞으로 해외 시장 진출을 위한 실증 레퍼런스가 조기에 확보되면 글로벌 대표 팹리스 기업으로 성장할 전망이다. 대구시는 이들 기업이 개발한 NPU가 조속히 상용화할 수 있도록 AI데이터센터 건립 등 정부지원과제를 연계할 예정이다. 또한 동대구 벤처밸리에 AI 반도체 SW 지원센터를 구축하는 등 AI 반도체 산업 육성을 적극 지원할 방침이다. 올해 하반기에는 지능형 반도체 설계지원센터를 개소할 예정이며, 반도체 마이스터고에서 특성화 대학, 대학원에 이르는 반도체 혁신인재 양성 시스템도 완비하고 있다. 홍준표 대구시장은 “대구는 반도체 수요와 기업 성장에 필요한 우수 인재를 갖춘 도시”라며 “AI 반도체 산업이 거대 남부 경제권을 견인하는 새로운 성장동력이 될 수 있도록 적극 지원하겠다”고 말했다.

기업들은 급변하는 시장 상황과 기술에 맞춰 국경 없는 경쟁을 펼치고 있습니다. 이미 우리의 일상에도 깊숙이 들어온 첨단 기술과 이를 이끄는 빅테크의 소식을 흥미롭고, 이해하기 쉽게 풀어드립니다.고대역폭메모리(HBM)를 놓고 국내 삼성전자와 SK하이닉스 간 경쟁이 한창인 상황에서 새로운 반도체 기술이 최근 눈에 띄고 있습니다. 다름 아닌 ‘컴퓨트 익스프레스 링크’(CXL)인데, 이름 그대로 ‘빠르게 연결해서 연산한다’를 의미를 갖고 있는 기술입니다. 아직 초기 단계지만 시장에선 2028년까지 CXL 시장 규모가 158억 달러(약 22조원)까지 성장할 것으로 보고 있습니다. 우선 CXL는 중앙처리장치(CPU)와 그래픽처리장치(GPU), 저장장치(스토리지) 등 다양한 장치를 연결하는 차세대 인터페이스라 할 수 있습니다. 여러 장치를 하나의 인터페이스로 통합해 한 번에 연결하기 때문에 데이터 처리 속도가 빠르고 시스템 용량과 대역폭까지 확장할 수 있다는 장점이 있습니다. CXL를 활용하면 메모리 용량을 무한대로 확장할 수 있습니다. 기존엔 데이터센터나 서버 용량을 늘리려면 추가 서버 증설이 필요했지만 CXL를 사용하면 기본 서버 내 저장장치인 SSD(솔리드스테이트드라이브)를 꽂던 자리에 CXL 기반의 D램을 꽂아 메모리 용량을 늘릴 수 있습니다. CXL 기술을 사용하면 특정 규격에 맞는 반도체만 사용할 수 있었던 한계를 넘어 종류나 용량, 성능과 관계없이 어떤 메모리든 탑재가 가능합니다. 업계에선 고용량 CXL D램을 적용하면 메인 D램과 함께 서버 1대당 메모리 용량을 8~10배가량 늘릴 수 있을 것으로 보고 있습니다. HBM이 대역폭을 늘려 속도에서 혁신을 이뤘다면, CXL는 서버의 제한된 용량을 늘릴 수 있는 기술인 셈입니다.앞서 최장석 삼성전자 메모리사업부 신사업기획팀장(상무)은 지난 18일 서울 중구 태평로빌딩에서 진행된 ‘삼성전자 CXL 솔루션’ 설명회에서 CXL에 대해 이렇게 설명했습니다. “HBM은 데이터들이 빠르게 왔다 갔다 할 수 있는 고속도로에 비유한다면, CXL는 여러 개의 도로를 (추가로) 만들어서 (차가 다닐 수 있는 전체) 도로를 확장한다는 개념에 비유할 수 있습니다”라고 말이죠. 그러면서 “물론 CXL도 성능이 올라갈 수 있지만 용량 확장에 있어 독보적”이라고 덧붙였습니다. “2028년 되면 시장 ‘개화’할 것” 최 상무는 이날 “CCM-D 관련 시장이 준비되는 2028년이 되면 시장이 개화할 것”이라는 전망도 내놓았습니다. 그때부턴 이른바 ‘하키스틱 커브’를 그릴 것이라고 했는데, 이는 특정 시점 이후 위로 가파르게 치솟는 모양이 하키스틱을 닮은 데서 따온 말입니다. 시장조사업체 욜 인텔리전스에 따르면 CXL 시장은 2022년 170만 달러(약 24억원)에서 2026년 21억 달러로 성장한 뒤 2028년엔 150억 달러에 이를 것으로 예상됩니다. 이러한 전망에 기반해 삼성전자는 HBM 시장에서 놓친 AI 메모리 시장 주도권을 선점하기 위해 애쓰고 있습니다. 2021년 5월 세계 최초로 CXL 기반 D램 기술을 개발했고, 2022년엔 업계 최초로 고용량 512GB(기가바이트) CXL D램을 선보였습니다. 지난해 5월에는 CXL 2.0을 지원하는 128GB CXL D램 개발을 완료한 데 이어 올해 6월엔 업계 최초로 미국 오픈소스 소프트웨어 기업 ‘레드햇’이 인증한 CXL 인프라를 경기 화성캠퍼스 연구시설에 구축하기도 했습니다.SK하이닉스 역시 CXL를 기반으로 한 96GB, 128GB 용량의 D램을 연내 상용화해 출시할 예정입니다. 지난달에는 미국 캘리포니아주에서 열린 CXL 컨소시엄 주최의 콘퍼런스에 참석해 각 장치끼리 메모리를 나눠 쓰도록 해 유휴 메모리를 없애고 전력 소모를 줄여주는 기술 ‘나이아가라 2.0’을 선보이기도 했습니다. 이처럼 대부분의 메모리 반도체 업체들이 CXL 2.0 D램 개발의 완료한 상태지만, CXL 2.0을 지원하는 CPU가 아직 출시되지 않았다는 점이 CXL 시장 개화의 제한 요인으로 작용하고 있는 상황입니다. AI 시대 차세대 기술로 꼽히며 반도체 업체뿐 아니라 빅테크들도 CXL 컨소시엄에 참여해 생태계 구축에 나선 상황입니다. 2019년 출범한 CXL 컨소시엄에는 240여개 기업이 참여하고 있는데, 여기엔 삼성전자, SK하이닉스, 인텔, 엔비디아 등 칩 업체뿐만 아니라 구글, 마이크로소프트(MS) 등이 포함돼 있습니다. “D램 요구량 축소되는 것 아니냐” CXL이 채택될 경우 D램에 대한 요구량이 감소할 가능성이 있습니다. 실제 MS는 현재 시스템에서 약 25%나 되는 유휴 D램이 발생하고 있는데, 초기 CXL를 사용할 경우 전체 D램의 요구량을 10% 줄일 수 있을 것으로 봤으며, 향후엔 더 빠른 속도로 D램 요구량이 줄어들 거라고 전망한 바 있습니다. 그러나 메모리 반도체 업체들은 CXL 도입에 따라 향후 D램 요구량을 줄어들 위험성보다, 현재 DDR 구조상 메모리 확장에 한계가 있어 고객들의 빠른 서버 증설이 제한될 수 있다는 점을 더 큰 리스크로 보고 있습니다.

“앞으로 2~3년 안에는 엔비디아의 적수가 없다고 봅니다. 엔비디아가 부서지지는 않을 것입니다.” 최태원 대한상공회의소 회장은 19일 제주 신라호텔에서 진행 중인 대한상의 제주포럼 3일차 토크쇼 ‘AI 시대, 우리 기업의 도전과 미래 비전’에서 미국 반도체 기업 엔비디아의 막강한 영향력이 지속될 것으로 내다봤다. 이날 토크쇼는 최 회장과 최수연 네이버 대표, 정송 카이스트 김재철AI대학원 원장이 참여하는 대담 형식으로 진행됐다.최 회장은 SK하이닉스는 물론 SK그룹 차원에서 협력 강화를 모색하고 있는 엔비디아와 관련해 “(엔비디아가) 이점을 가지고 있던 게 GPU(그래픽처리장치)인데 그래픽을 다룬다는 건 AI 연산과 같은 얘기”라면서 “소프트웨어도 상당히 발전해 있어 하드웨어를 똑같이 만든다고 하더라도 그걸 구동하는 소프트웨어를 만들 방법이 없다”고 소개했다. 최 회장은 이어 “다만 AI를 가지고 돈을 버는 모델이 뭐냐가 정확히 나오지 않고 있다”며 “개인이든 기업이든 돈을 지불하는 게 안 된다고 하면 다른 종류의 칩이나 형태가 필요하기 때문에 엔비디아가 무너질 공산도 있다”고 했다. 또한 “엔비디아의 칩을 쓰는 MS(마이크로소프트)나 구글, 아마존도 칩을 따로 만들고 있다. 그들의 경쟁력이 올라오느냐에 따라, 또 AMD 등이 싸게 만들 수 있느냐에 따라 엔비디아가 (압도적 점유율에서) 부서질 수 있을 것”이라고 설명했다. 최 회장은 또 SK와 같은 반도체, 에너지 기업이 돈을 벌기 위해서는 네이버의 성공 등 ‘AI 골드러시’가 지속해야 한다고 강조했다. 그는 “AI라는 금을 캐기 위해 골드러시 도전을 하는데 그 과정에서 청바지, 곡괭이를 파는 기업이 돈을 벌었고 그게 엔비디아와 SK하이닉스 등의 기업”이라고 비유하며 “금이 안 나오면 곡괭이를 팔지 못하고 골드러시는 사라질 수 있다. 결국, 네이버 같은 기업이 AI에 성공하고 돈을 벌어야 우리 같은 장비를 만드는 기업이 성공하는 데 그게 SK의 전략”이라고 했다. 최수연 네이버 대표는 최근 비영어권 지역에서 자체 AI 모델 구축 수요가 증가하고 있음을 언급하며 우리나라가 이를 기회로 삼아 AI 기술 리더십을 갖게 될 것이라고 전망했다. 특히 네이버가 자국어 중심의 AI 모델을 개발한 경험을 가진 만큼 주도적인 역할을 할 것이라고 강조했다. 최 대표는 “자국 언어를 중심으로 초거대 생성형 AI 모델을 ‘프롬 스크래치(맨 처음 단계부터)’로 개발해 서비스 전반 적용까지 나아간 사례는 중국을 제외하면 아시아에선 한국이 실질적으로 유일하다”고 말했다.최 대표는 이어 “네이버는 자국어 중심 모델을 개발했던 경험과 노하우를 바탕으로 세계 여러 나라들이 소버린 AI를 확보할 수 있게 지원할 것”이라며 “각 지역의 문화와 가치를 보다 강력하게 반영한 자체 소버린 AI 확산을 위해 여러 국가 및 기업들과 파트너십을 구축할 것”이라고 밝혔다. 또 “AI 인프라·데이터·서비스 등 다양한 영역에서 공통 목표를 가진 기업들과 협력관계를 구축해 글로벌 소버린 AI 생태계를 함께 확장해나갈 계획”이라고 덧붙였다. 최 대표는 최근 젠슨 황 엔비디아 최고경영자(CEO)를 만나 나눈 대화 일부도 소개했다. 그는 “각 나라의 언어와 맥락을 잘 이해하는 AI 모델이 필요하다는 점을 황 CEO도 이해하고 있다”며 “혼자 힘으로 되는 것이 아니기 때문에 칩 제조사와 국가, 통신사, 소프트웨어 기업들이 힘을 합쳐 소버린AI를 만들어보자고 했다”고 말했다. 정송 카이스트 김재철 AI대학원장은 대담에 앞선 발표에서 “과거 인공지능은 기계에 지식을 알려주는 것이었다면 지금은 인간 뇌의 신경망 구조를 수학적으로 모델링해 기계가 스스로 깨닫게 한다. 데이터 기반의 학습이자 현재 인공지능 개념으로 이게 지금의 성공을 불러왔다”고 말했다.

SK텔레콤(SKT)은 글로벌 인공지능(AI) 기업으로의 도약을 위해 사활을 걸고 있다. SKT는 최근 덴마크 코펜하겐에서 도이치텔레콤과 e&, 싱텔, 소프트뱅크 등과 ‘글로벌 텔코 AI 얼라이언스’ 합작법인 설립을 위한 본계약을 체결했다. 이 얼라이언스는 총 13억명의 가입자를 보유한 유럽과 중동, 아시아의 대표 통신사들이 협력하는 것으로, AI를 통해 통신 분야의 혁신을 목표로 하고 있다. 또 SKT는 미국 실리콘밸리에서 한국계 AI 스타트업들을 결집한 ‘K-AI 얼라이언스’를 확대했다. 현재 몰로코와 베스핀글로벌, 팬텀AI 등 총 18개 회사가 참여하고 있다. SKT는 한국의 AI 스타트업들이 글로벌 무대에서 두각을 나타낼 수 있도록 지원을 아끼지 않고 있다. 전략적 AI 투자도 활발히 진행 중이다. 미국의 생성형 AI 검색엔진 스타트업 퍼플렉시티에 1000만 달러를 투자했으며 AI 데이터센터 사업을 위한 GPU 클라우드 회사인 람다에도 투자했다. AI 데이터센터는 AI 학습과 추론에 필요한 GPU 서버와 안정적 운영을 위한 인프라를 제공한다. SKT는 이를 통해 AI 연구와 개발을 위한 최적의 환경을 조성하고 있다. SKT는 AI 인재 확보에도 적극적이다. 실리콘밸리에서 ‘SK AI 포럼 2024’에 유영상 최고경영자(CEO)를 비롯해 AI 사업부장 등 경영진 10여명이 직접 참석할 정도로 AI 인재 확보에 사활을 걸고 있다. SKT의 AI 피라미드 전략은 AI 인프라, AIX, AI 서비스 3대 영역을 중심으로 AI 기술을 고도화하고 서비스 역량을 강화해 글로벌 통신사와 협력하는 모델이다. SKT 관계자는 “우리는 글로벌 통신 산업을 혁신하고 AI 시장에서의 경쟁력을 강화하려 하고 있다”면서 “앞으로도 지속적인 투자를 통해 AI 기술을 선도하고 글로벌 AI 컴퍼니로서 입지를 확고히 다질 계획”이라고 강조했다.

2년 전 중국 저장성 항저우에서 우춘송과 천빙후이는 인공지능(AI) 스타트업 ‘탭컷’을 설립했다. 그러나 벤처 캐피털 투자 유치가 여의치 않자 올해 3월 과감하게 싱가포르로 본사를 옮겼다. 습니다. 덕분에 560만 달러(약 77억원)를 조달할 수 있었다. 우춘송은 “우리는 투자 자금이 말라가는 중국보다 자본이 풍부한 지역으로 가고 싶었다”라고 말했다. 이처럼 중국 AI 스타트업들이 세계화를 위해 싱가포르로 본사를 옮기고 있다고 30일(현지시간) 블룸버그통신이 보도했다. 미국의 대중 수출 제재와 중국의 엄격한 AI 규제를 피하기 위해서다. 중국 AI 스타트업들은 미중 패권 경쟁으로 인한 지정학적 긴장을 피하고자 ‘싱가포르 워싱’(Singapore-washing)을 선택하고 있다. ‘싱가포르 워싱’이란 중국 기업들이 해외 투자자 및 고객 유치를 위해 싱가포르로 본사를 옮기는 것을 뜻한다. 가장 큰 이유는 미국이 첨단산업 우위를 지키고자 첨단 AI 반도체 수출을 통제하면서 중국에서의 AI 스타트업 운영이 어려워졌기 때문이다. 전 세계에 생성형 AI 열풍을 일으킨 오픈AI도 중국에서 자사 AI 모델에 접속하는 것을 차단한다고 밝혔다. 블룸버그는 “중국 AI 스타트업 대부분은 글로벌 기업들의 중국 기피 현상과 미국의 수출 규제로 인한 엔비디아 반도체 구매 제한 등으로 어려움을 겪고 있다”면서 “이런 난관을 극복하고자 싱가포르행을 선택하고 있다”고 분석했다. 특히 싱가포르는 중국계가 70% 이상을 차지해 중국 본토 기업들의 정착에 부담이 상대적으로 적다. 여기에 싱가포르에서는 AI 기술 규제가 상대적으로 관대하고 회사 설립도 쉽다. 싱가포르 경제개발청(EDB)은 “중국을 포함한 많은 기업들이 싱가포르를 동남아시아 허브로 선택하고 있다”면서 “2023년 말 기준 싱가포르에는 1100개가 넘는 AI 스타트업이 있다”고 설명했다. 중국 AI 스타트업 ‘클리마인드’(Climind)의 공동 설립자 천이밍도 본사를 홍콩에서 싱가포르로 이전하려고 준비 중이다. 그는 “싱가포르 정부가 재정 및 기술 지원 등 도움을 제공하기에 굉장히 매력적”이라면서 “싱가포르는 글로벌 시장에 대한 접근이 쉽고 정주 환경이 좋으며 정치도 안정돼 있다”고 덧붙였다. 중국 내부 문제도 있다. 중국은 생성형 AI 서비스 관리 방안을 통해 생성형 AI 콘텐츠에 사회주의 핵심 가치 반영을 요구한다. 익명을 요구한 한 컨설팅업체 창립자는 “이는 AI 개발자가 중국에서는 ‘자유로운 탐색을 할 수 없다’는 것을 의미한다”고 꼬집었다. 중국 기업들의 싱가포르 이전을 돕는 루지안펑 위즈홀딩스 창립자는 “싱가포르 이주를 준비하는 중국인 기업가를 위한 온라인 단체 채팅방에 425명의 회원이 있다”면서 “다른 업계에서도 싱가포르 이주를 계획하고 있다”고 말했다. 다만 싱가포르 이전으로 미국의 규제를 완벽하게 피할 수 있는 것은 아니다. 숏폼 동영상 플랫폼인 틱톡과 중국 패스트패션 업체 쉬인의 본사는 모두 싱가포르에 있지만 미국의 압박을 받고 있다. 미국은 틱톡의 보안 문제를 문제 삼아 바이트댄스의 미국 내 사업 매각 및 금지 법안을 통과시켰다. 쉬인 역시 미국 뉴욕증시 상장을 포기하고 런던 증시로 방향을 틀었다.

2024년 PC 시장의 최대 화두는 AI PC가 될 것으로 보입니다. 당장에는 AI 서비스의 사용 비중이 높지 않지만, 마이크로소프트가 코파일럿 + PC라는 새로운 카테고리를 선보이면서 자사의 AI 기능을 차세대 PC의 표준으로 만들기 위해 노력하고 있고 제조사들도 여기에 호응해 새로운 프로세서와 노트북을 선보이고 있기 때문입니다. 우선 포문을 연 것은 퀄컴의 스냅드래곤 X 엘리트입니다. 마이크로소프트가 코파일럿+ PC의 기준으로 삼은 40TOPS의 연산 능력을 처음으로 만족시킨 프로세서로 서피스 프로와 랩톱에 x86 CPU보다 먼저 탑재되어 눈길을 끌었습니다. 본래 마이크로소프트와 끈끈한 관계를 유지해 왔지만, 당장에 AI PC의 기준에 맞는 제품을 내놓을 수 없는 인텔은 올해 3분기 출시 예정인 루나 레이크의 AI 연산 능력이 스냅드래곤 X 엘리트보다 더 우수하다면서 이에 응수했습니다. 한편 이제까지 말을 아끼던 AMD는 대만 컴퓨텍스 2024 행사에서 코드네임 스트릭스 포인트(Strix Point)로 알려진 차세대 모바일 CPU를 발표했습니다. 본래대로면 라이젠 모바일 9000 시리즈로 나와야 하지만, AMD는 라이젠 AI 300이라는 새로운 브랜드를 선보였습니다. 라이젠 AI 300은 새로운 Zen 5 및 Zen 5c 코어를 탑재했습니다. 각각 인텔의 P 코어와 E코어에 해당하는 CPU 코어이지만, Zen 5c는 E 코어와 달리 2개의 스레드를 제공합니다. 덕분에 플래그쉽 프로세서인 AMD 라이젠 AI 9 HX 370는 12 코어(4x Zen5 + 8x Zen5c)임에도 24 스레드를 지원합니다. 전 세대인 라이젠 8040보다 1.5배 늘어난 만큼 멀티스레드 성능이 상당히 높아질 것으로 예상됩니다. 싱글스레드 성능 역시 Zen 5 코어 도입으로 높아졌을 것입니다. 같은 날 AMD는 데스크톱 버전 Zen 5의 성능이 전 세대 대비 16% 정도 높아졌다고 언급했는데, 라이젠 AI 300 시리즈의 대략적인 성능 향상 폭도 이와 비슷할 것으로 추정됩니다.이보다 더 중요한 세일즈 포인트는 XDNA 아키텍처를 적용한 NPU의 성능이 50TOPS로 경쟁자인 스냅드래곤 X 엘리트나 루나 레이크보다 약간 높다는 것입니다. 물론 현재 소비자들이 체감할 수 있는 차이로 보이지는 않지만, 제조사 입장에서는 어쨌든 조금이라도 앞서니 크게 홍보할 수 있는 대목입니다. 이에 대해 루나 레이크는 GPU AI 연산 능력까지 보태면 100TOPS이 넘는다고 응수할 것으로 보이는데, 라이젠 AI의 GPU AI 연산 능력 역시 주목됩니다. 라이젠 AI 300 시리즈의 내장 GPU는 RDNA 3.5 아키텍처를 적용한 라데온 890/880M으로 인텔 메테오 레이크 대비 평균 36% 높은 성능을 지녔다는 게 AMD의 주장입니다. 다만 이 정도는 올해 하반기에 등장할 인텔 루나 레이크도 충분히 기대할 수 있는 수준이어서 지금은 누가 이길지 장담하기 어려운 상황입니다. 최근에 대폭 성능을 올린 인텔 내장 그래픽의 승리일지 오랜 세월 이 분야에서 기술을 갈고 닦은 AMD의 승리일지는 출시가 멀지 않은 만큼 곧 알게 될 것입니다. AMD 라이젠 AI는 올해 7월부터 시장에 출시됩니다. 스냅드래곤 X 엘리트보다 늦었지만, 루나 레이크보다는 빠른 셈입니다. 시간차는 약간 있지만, 세 회사에서 나온 프로세서를 탑재한 노트북은 올해 대거 쏟아져 나올 것입니다. 이들이 AI PC라는 소비자용 컴퓨터의 새로운 시대를 열게 될지 시간이 말해줄 것입니다.

미국 여야 의원 대표단이 타이베이를 방문해 라이칭더 대만 총통을 만났다. 지난 20일 라이 총통 취임 뒤 중국이 대만을 포위하는 군사 훈련을 벌여 긴장이 고조된 상황에서 워싱턴이 라이 총통에게 힘을 실어 주려는 행보다. 때마침 전 세계 인공지능(AI) 열풍을 주도하는 엔비디아의 젠슨 황 최고경영자(CEO)도 고향인 대만을 찾았다. 27일 대만 자유시보 등에 따르면 마이클 매콜(공화당) 미 하원 외교위원장이 이끄는 의원 대표단 6명은 이날 라이 총통을 만나 인도·태평양 지역 평화와 안정에 대해 의견을 나눴다. 라이 총통은 로널드 레이건 전 대통령의 ‘힘에 의한 평화’를 언급하며 국방 강화를 다짐했다. 매콜 위원장은 “중국의 대만 위협을 두고 라이 총통과 매우 직접적인 대화를 나눴다”고 밝혔다. 그는 린치아룽 대만 외교부 장관과의 공동 브리핑에서 “우리는 대만에 억제력을 제공해야 한다”면서 “대만이 구매한 무기를 가능한 한 빨리 배송받을 수 있도록 조 바이든 미 행정부에 압력을 가했다”고 전했다. 전날 타이베이에 도착한 의원 대표단은 30일까지 머물며 대만 정·재계 인사들과 교류한다. 중국은 이들의 방문을 ‘대만 독립 세력을 자극하고 지지한다’고 간주해 강력 반발했다. 앞서 중국은 라이 총통 취임 직후인 지난 23~24일 대만 주위를 둘러싸고 대규모 군사훈련을 벌였다. 양안(중국과 대만) 관계를 둘러싼 양측 간 ‘기 싸움’은 당분간 계속될 전망이다. 영국 일간 텔레그래프는 26일(현지시간) “중국이 대만 침공을 위해 상륙선과 민간 선박 함대를 준비하고 있다”고 보도했다. 미 의원 대표단과 별도로 엔비디아를 이끄는 황 CEO도 대만을 방문했다. 그는 1963년 대만 타이난에서 태어나 아홉 살 때 미 켄터키로 이주한 ‘1.5세대’ 이민자다. 그는 대만 정보기술(IT) 박람회인 ‘타이베이 컴퓨텍스 2024’에 참석해 아수스, 콴타 등 현지 반도체 기업들을 격려하고 다음달 2일 대만국립대에서 AI 시대가 글로벌 신산업 혁명을 어떻게 주도할지 연설한다. 블룸버그통신은 황 CEO가 지난 20일 “대만이 세계 기술 공급망의 핵심”이라면서 “(세계) 첨단 산업의 대만 의존도가 매우 높다. 이런 현상은 한동안 지속될 것”이라고 강조했다고 소개했다. 그는 지난해에도 타이베이 컴퓨텍스에 참석해 “앞으로도 엔비디아의 차세대 그래픽처리장치(GPU) 칩을 대만 TSMC에 위탁 생산한다”고 밝힌 바 있다.

지난 인텔 비전 2024 행사에서 인텔이 내세운 표어는 어디서든 AI(AI Everywhere)이었습니다. 팻 겔싱어 인텔 CEO는 기조연설 초반에 올해 하반기에 출시할 노트북 및 태블릿 PC CPU인 루나 레이크 실물과 함께 AI 연산 능력을 세 배나 높였다고 공개했습니다. (사진) 루나 레이크의 AI 연산 능력은 100TOPS 이상입니다. 앞서 마이크로소프트는 코파일럿 같은 AI 서비스를 클라우드 기반이 아니라 기기에서 바로 사용하기 위해서 적어도 40TOPS 이상의 AI 연산 능력이 필요하다고 언급했습니다. 이는 현재 인텔의 최신 CPU인 메테오 레이크(코어 울트라)는 물론 경쟁자인 AMD의 라이젠 모바일 호크 포인트 CPU 단독으로는 충족시키기 어려운 기준입니다. 작년 말 출시된 메테오 레이크는 소비자용 인텔 CPU로는 처음으로 인공지능 연산을 위한 NPU를 탑재했지만, NPU 자체의 연산 능력은 11TOPS로 그렇게 높지 않습니다. 18TOPS의 연산 능력을 지닌 GPU와 5TOPS의 연산 능력을 지닌 CPU를 모두 사용하면 34TOPS의 AI 연산 능력을 확보할 수 있습니다. 하지만 CPU와 GPU를 AI 연산 전용으로 자원을 할당하기 어렵기 때문에 마이크로소프트의 AI 컴퓨터 기준과 턱없이 모자라는 수준입니다. 이날 발표에서 인텔이 다른 성능과 재원은 언급하지 않으면서도, 루나 레이크의 AI 연산 능력만큼은 강조한 데는 이런 배경이 있습니다. 최근 AI에 대한 관심이 집중되면서 프로세서 업계도 결국 AI에 사활을 걸어야 한다는 위기의식이 커지고 있습니다. 특히 인텔은 AI에 남들보다 늦게 뛰어든 만큼 빠른 속도로 경쟁자를 추격하기 위해 집중적인 연구와 투자를 한 것으로 보입니다.한 가지 더 흥미로운 정보는 루나 레이크의 AI 연산 능력에서 NPU가 담당하는 부분은 45TOPS 정도라는 것입니다. 따라서 나머지 55TOPS 이상이 CPU와 GPU에서 나와야 합니다. CPU의 AI 연산 능력이 획기적으로 커지기는 어렵다는 점을 생각할 때 루나 레이크의 GPU의 AI 연산 능력도 대폭 향상되는 것으로 추정할 수 있습니다. 루나 레이크의 CPU 구조에 대해서는 알려진 바가 적지만, GPU는 2세대 Xe 아키텍처인 아크 배틀메이지(Arc battlemage)를 사용한다고 알려져 있습니다. 1세대 Xe GPU도 AI 기반 업스케일링 기술인 XeSS를 지원하기 위한 AI 연산 능력을 지니고 있기 때문에 2세대 아키텍처와 더 앞선 미세 공정을 적용했을 경우 18TOPS보다 몇 배 높은 AI 성능을 확보할 수 있을 것으로 예상할 수 있습니다. 루나 레이크의 구체적인 모습은 실물이 공개되어야 알 수 있겠지만, 인텔이 새 모바일 CPU를 공개하면서 AI 성능을 가장 먼저 부각시킨 점이 의미심장합니다. 이것 하나만으로도 현재 IT 업계의 대세가 AI라는 점을 다시 한번 느낄 수 있습니다. 세계 최대의 CPU 제조사도 AI 없이는 도태된다는 위기의식이 반영된 결과로 보입니다. 아마도 이런 위기의식은 경쟁자인 AMD도 똑같이 느끼고 있을 것입니다. 따라서 올해 새로 공개할 제품군에 더 강력한 AI 연산 유닛을 넣으려고 할 가능성이 높습니다. 애플도 새로 공개할 M4 시리즈 프로세서의 AI 성능을 대폭 높인다는 소문도 들립니다. 앞으로 수년간 프로세서의 AI 성능은 비약적으로 발전할 가능성이 높아 보입니다.

최근 글로벌 반도체 산업이 천문학적인 보조금 지급을 앞세운 ‘쩐의 전쟁’으로 격화하고 있는 가운데 우수 인재 유치를 위한 기업들의 노력도 확대되고 있다. 반도체 시장은 생성형 인공지능(AI)을 비롯한 AI 반도체 수요 급증에 따라 이를 연구·개발(R&D)할 인력 확보가 곧 기업 미래 경쟁력으로 꼽히면서 반도체·AI 분야에 강점을 보이는 주요 대학과 기업의 파트너십이 속속 이어지는 분위기다.AI 반도체 절대 강자로 꼽히는 미국 엔비디아는 미 조지아공과대학교와 협력해 AI 슈퍼컴퓨터 허브인 ‘AI 메이커스페이스’를 선보인다고 11일(현지시간) 밝혔다. 엔비디아와 조지아공대는 애초 이번 프로젝트를 학부생들이 활용할 수 있는 방향으로 개발에 착수했으나, AI 반도체와 AI 기술 전반이 급변하면서 조지아공대 전체 학생들의 AI 기술을 심화하고 차세대 AI 시스템 전문가 양성을 목표로 계획을 변경했다. 라힘 베야 조지아공대 학과장은 “AI 메이커스페이스의 출시는 조지아공대의 교육 혁신과 리더십의 또 다른 이정표다”라면서 “엔비디아의 첨단 기술과 전문성 덕분에 모든 수준의 학생들이 빠르게 진화하는 AI 분야에 기여하고 선도할 수 있는 길을 열었다”고 말했다. AI 메이커스페이스는 20개의 엔비디아 HGX H100 시스템으로 구동된다. 여기에는 고급 AI와 머신 러닝 작업을 지원하는 컴퓨팅 가속기 중 하나인 엔비디아 H100 텐서 코어 GPU가 160개 탑재된다. 엔비디아 H100 GPU의 연산 성능은 조지아공대 5만여명의 학생이 22년 동안 수행해야 하는 곱셈 연산을 단 한 대로 1초 만에 해낼 수 있는 수준이다.고대역폭 메모리(HBM)를 비롯해 AI 반도체 기술 투자를 강화하고 있는 SK하이닉스가 첫 미국 생산기지 부지를 인디애나로 결정한 배경에는도 현지 고급 인력과의 협업 및 인재 확보라는 전략이 깔려있다. SK하이닉스는 지난 3일 인디애나 북서부 교육도시 웨스트라피엣에 38억 7000만 달러(약 5조 2200억원)를 들여 어드밴스드 패키징(첨단 후공정) 공장을 신설한다고 밝혔다. SK하이닉스는 반도체 등 첨단 공학 연구 분야에서 두각을 보이고 있는 퍼듀대와는 반도체 기술 연구·개발에 협력하기로 했다. 곽노정 SK하이닉스 대표이사 사장은 투자 협약식에서 “첨단 패키징 공장을 운영하려면 물리와 화학, 재료공학, 전자공학 분야 엔지니어 수백명이 필요하다”라면서 “최종 목표는 매우 명확하다. 미국에서 성공하려면 아주 좋은 엔지니어가 필요하다”라고 강조했다. 퍼듀대는 이미 수년 전 SK하이닉스의 요청을 받고 반도체 분야에 특화한 학부와 대학원, 자격증 프로그램 등을 운영해온 것으로 전해졌다.텍사스 오스틴 제1 파운드리(위탁생산) 공장에 이어 테일러에 제2파운드리 공장을 신설하고 있는 삼성전자는 텍사스 지역 대학 두 곳에 총 470만 달러를 투자해 인재 육성을 병행하고 있다. 삼성전자는 텍사스대(UT)와 A&M대학에 각각 370만 달러와 100만 달러를 투자해 반도체 교육 및 채용 프로그램, 학부생 장학금, 대학원생의 연구 프로그램 등을 지원하고 있다. 이밖에 애리조나주에 2개 공장을 짓고 있는 세계 최대 파운드리 기업 대만 TSMC는 반도체 인재 확보를 목적으로 애리조나 주립대와 협력하고 있고, 미국 종합 반도체 기업 인텔은 미국 내 11개 주 18개 이상의 지역 대학과 파트너십을 맺고 엔지니어 양성에 힘 쏟고 있다.

생성형 인공지능(AI) ‘챗GPT’ 개발사인 오픈AI가 사람 음성을 학습해 모방 음성을 생성하는 AI 도구 ‘보이스 엔진’을 개발해 공개했다. 최근 미국 테네시주가 AI가 사람 음성을 베끼는 것을 금지하는 일명 ‘엘비스(Elvis) 법안’에 미국 최초로 서명한 것과 맞물려 AI 음성이 이미지 생성과 마찬가지로 딥페이크(AI 가짜 영상·음성 조작물) 유포, 개인 정보 해킹 등에 악용될 우려가 제기되고 있다. 오픈AI가 지난 29일(현지시간) 공개한 보이스 엔진 사전실험 결과를 보면 실제 사람 음성 샘플과 이를 이용해 보이스 엔진으로 생성한 음성은 구분이 거의 힘들 만큼 비슷했다. 회사 측은 15초 분량의 음성 샘플만 있으면 이런 AI 음성을 만들어 낼 수 있다고 밝혔다. 언어 질환 환자용 치료 애플리케이션, 장애인 소통 기기에 지원된 이 도구는 동영상의 다국어 번역, 교육 음성 해설, 실시간 맞춤형 응답 등 광범위하게 상용될 수도 있다. 다만 오픈AI는 “현재로선 이 기술을 ‘미리 보여주기’(preview)만 하되 일반에 출시하진 않기로 했다”며 “인조 음성의 오용 가능성 때문에 조심스럽게 접근하고 있다”고 선을 그었다. 이어 “사람 목소리를 닮은 음성을 생성하는 것은 심각한 위험을 야기하며, 선거가 있는 해엔 특히 더 그렇다”면서 “우리는 미국과 해외 정부, 미디어, 시민사회 등과 협력해 피드백을 반영하기 위해 노력하고 있다”고 강조했다. 지난달 회사가 글을 동영상으로 바꿔 주는 AI ‘소라’를 개발했을 때와 동일한 우려가 불거지는 것을 사전에 차단하기 위한 포석이다. 실제로 올해 미 대선을 앞두고 지난 1월엔 뉴햄프셔주 프라이머리(예비선거) 전날 조 바이든 대통령을 사칭한 가짜 전화로 투표 거부를 독려하는 사례가 나오면서 음성 조작 우려가 현실화됐다. 뉴욕타임스(NYT)는 “이미지나 비디오 생성과 마찬가지로 음성 생성도 소셜미디어에 허위 정보를 퍼뜨리는데 도움이 될 수 있고 범죄자가 온라인이나 전화 통화에서 다른 이를 사칭할 수도 있다”고 지적했다. 이와 관련해 빌 리 테네시 주지사는 지난 21일 AI를 사용해 사람 목소리를 베끼는 것을 금지하는 엘비스 법에 미국 최초로 서명했다. 정식 명칭이 ‘초상·음성·이미지 보안 보장법’이지만 로큰롤의 제왕으로 군림한 엘비스 프레슬리의 이름으로 별칭이 붙은 건 사전 허가 없이 예술가 저작을 사용하는 것을 보호하기 위한 법안이기 때문이다. 테네시주는 로큰롤 탄생지인 멤피스, 컨트리 뮤직 본산인 내슈빌이 위치한 대중음악 산업의 메카로, 4500개 이상의 공연장, 6만 1000개 이상의 일자리로 한 해 수십억 달러를 창출하고 있다. 엘비스 법은 지역 핵심 산업이 AI로 타격받는 것을 막은 선제 조치인 셈이다. 리 주지사는 “AI가 나쁜 행위자들의 손에 넘어가면 대중음악 산업이 파괴될 수 있다”고 경고했다. AI업계 혁신을 주도하고 있는 오픈AI는 마이크로소프트(MS)와 1000억 달러(약 132조 6000억원)를 투자해 AI 슈퍼컴퓨터를 포함한 데이터센터 구축도 추진하고 있다. 오픈AI와 MS의 ‘스타게이트’는 6년짜리 프로젝트로, AI 모델 구동을 위한 슈퍼컴퓨터와 이를 위한 초대형 데이터센터를 조성하는 사업이다. 현존 최고 수준 데이터센터와 비교해 100배 이상 큰 규모라고 정보기술(IT) 전문매체 디인포메이션이 보도했다. 데이터센터에는 슈퍼컴퓨터 구동을 위해 특별 제작된 서버 칩 수백만 개가 들어간다. 생성형 AI 연산을 위해서는 그래픽처리장치(GPU) 같은 AI 반도체를 연결하고 대규모 데이터 처리 작업을 수행할 컴퓨팅 시스템이 필요하다. 데이터센터에는 여러 공급업체의 다른 칩을 사용할 것으로 알려졌다. 이는 샘 올트먼 오픈AI 최고경영자(CEO)가 AI 반도체 시장을 90% 이상 점유한 엔비디아에 대응해 ‘AI 반도체 동맹’을 구축하려는 행보와도 연결된다. 올트먼 CEO는 지난 1월 직접 한국을 찾아 삼성전자, SK하이닉스와 협력 방안을 논의했다. 이때 이재용 삼성전자 회장, 최태원 SK그룹 회장도 만난 것으로 알려졌다.

엔비디아는 AI 시대에 가장 가치가 치솟은 기업입니다. 현재의 AI 기술 중 상당 부분이 이 회사가 만든 GPU에 의존하고 있기 때문입니다. 오래전부터 GPU의 병렬 연산을 위해 CUDA 코어와 소프트웨어를 공개했고 이를 AI 연산에 활용하는 생태계를 구축해 왔기 때문에 지금 와서 다른 회사의 하드웨어로 이를 대체하기 힘든 것이 현실입니다. 오랜 경쟁자인 AMD도 데이터 센터 GPU를 계속 공개하고 있고 인텔도 새로운 AI 시장 공략을 위해 GPU를 공개했지만, 시장을 먼저 선점한 엔비디아의 아성을 깨뜨리기는 쉽지 않습니다. 이런 상황에서 새로 공개한 블랙웰 GPU는 반도체 미세 공정의 한계를 극복하고 AI 연산 성능을 높여 누구도 따라잡기 쉽지 않은 경쟁력을 유지하려는 의도로 풀이됩니다. 블랙웰 GPU는 TSMC의 4nm 공정의 개량형인 4NP 공정으로 제조되었습니다. 3nm 공정을 적용하지 않은 이유는 확실치 않지만, 비용 및 공급 부족 등이 이유가 된 것으로 보입니다. 하지만 그런 만큼 트랜지스터 집적도를 전 세대인 호퍼 (Hopper)보다 더 높이기 힘든 상황입니다. 800억 개의 트랜지스터를 집적한 호퍼 H100 GPU는 4nm 공정에서 다이(die, 웨이퍼에서 잘라낸 반도체 칩) 면적이 814㎟에 달합니다. 이는 현재 반도체 제조 기술에서 이론적인 다이 크기의 한계치에 거의 근접한 것으로 더 크기를 늘리기 쉽지 않습니다. 따라서 블랙웰 B200은 두 개의 다이를 연결하는 방법으로 2080억 개의 트랜지스터를 집적했습니다. 이런 접근법은 최근 점점 일반적인 추세가 되고 있습니다. 공정 미세화의 한계에 부딪힌 반도체 제조사들은 하나의 큰 칩 대신 여러 개의 작은 칩인 칩렛을 연결해 거대한 크기의 프로세서를 만들고 있습니다. 인텔, AMD, 애플이 모두 이 방법을 사용했고 이번에는 엔비디아도 이 방식을 적용해 트랜지스터 집적도를 대폭 늘렸습니다. 블랙웰 B200은 AI 연산에서 전 세대인 H100과 비교해서 최대 5배인 20페타플롭스의 성능을 지니고 있습니다. 물론 칩을 두 개 붙인 점을 생각하면 실제 성능은 2.5배라고 할 수 있는데, 실은 FP 8 연산의 절반 정도의 자원을 소모하는 FP 4 연산에서 그렇다는 이야기로 FP 8 기준으로 보면 AI 연산 능력은 절반 수준인 10페타플롭스가 최대입니다. 결국 칩 하나의 성능은 사실 1.25배 정도로 트랜지스터 수 증가를 생각하면 딱 그 정도의 성능 증가인 셈입니다. 하지만 그렇다고 해서 블랙웰이 아무 의미 없는 꼼수에 지나지 않는 것은 아닙니다. FP 4 연산만 해도 충분한 경우 AI 연산 속도를 크게 높일 수 있고 심지어 FP 4와 FP 8 연산의 중간을 원하는 고객을 위해 FP 6까지 지원하는 기능을 갖춰 더 유연한 AI 연산이 가능합니다. 그보다 더 중요한 점은 AI 경쟁이 격화되면서 어떤 비용을 치르더라도 남들보다 앞서기를 원하는 고객을 위해 성능을 높일 수 있는 다양한 옵션을 제공하고 있다는 것입니다.예를 들어 블랙웰은 기반 GB 200은 그레이스 슈퍼칩 CPU 한 개와 두 개의 B200 GPU를 하나로 묶어 최대 40페타플롭스의 AI 연산 능력을 갖고 있습니다. 물론 그만큼 비싸고 전력 소모도 엄청나지만, AI 개발에 사활을 걸고 있는 기업이 많아 오히려 수요 대비 공급이 부족할 것으로 예상됩니다. 그리고 이 경우 HBM의 수요가 크게 늘어 우리나라 메모리 업계에도 호재가 될 것입니다. B200 GPU는 24GB HBM3e를 8개나 탑재해 192GB의 메모리 용량을 갖고 있고 GB200는 그 두 배인 384GB의 HBM3e 메모리를 지니고 있기 때문입니다. 여기서 화룡점정을 찍는 것 같은 소식은 비용에 상관없이 최강의 성능이 요구하는 고객을 위한 서버 랙 시스템인 GB 200 NVL 72 노드입니다. 하나의 서버 랙에 두 개의 GB 200을 탑재한 서버 트레이 18 유닛을 쌓아서 총 72개의 B200 GPU를 장착한 시스템으로 강력한 대규모 AI 연산을 위한 슈퍼컴퓨터라고 할 수 있습니다. 다만 이 경우 엄청난 전력을 소모하기 때문에 공랭 쿨러 대신 수랭 쿨러를 사용해야 시스템 발열을 처리할 수 있습니다.그런데 이렇게 많은 프로세서를 사용해 대규모 연산 시스템을 구축하는 경우 데이터를 공유하고 작업을 분산하는 과정이 새로운 문제로 떠오르게 됩니다. 이 과정에서 병목현상이 생기면 전체 시스템의 성능이 크게 저하되는 것입니다. 이를 해결하기 위해 엔비디아는 아예 NVLINK 스위치라는 새로운 네트워크 전용 프로세서를 만들었습니다. 그리고 NVLINK 스위치 프로세서를 서버 트레이 하나에 두 개씩 넣어서 총 14.4TB/s의 대역폭을 확보했습니다. 이런 트레이가 9개가 있기 때문에 GB 200 NVL 72 노드 한 개가 130TB/s에 달하는 거대한 프로세서 간 대역폭을 확보할 수 있습니다. 덕분에 갈수록 커지고 있는 대규모 AI 학습 데이터를 더 효과적으로 처리하고 학습을 빨리할 수 있게 됐습니다. 마지막으로 GB 200 NVL 72 노드를 여러 대 연결하면 엑사플롭스급 AI 슈퍼컴퓨터 구축이 가능합니다. 물론 비용도 에너지 소모량도 엄청나지만, 역시 수요는 충분할 것으로 예상됩니다. 블랙웰 GPU를 보면 AI 하드웨어가 본격적인 산업화 시대에 도달했다는 것을 알 수 있습니다. 과거 GPU는 게임용으로 많이 사용되었고 초기 AI 연산용 GPU도 이것과 크게 다르지 않았으나 최근 나오는 데이터 센터 GPU는 산업용 및 연구용으로 특화되어 관련 분야에 종사하는 사람이 아니라면 직접 한 번 보거나 다뤄보기 어려운 물건이 됐습니다. 블랙웰 GPU는 대규모 데이터 처리와 AI 연산에 적합한 데이터 센터 GPU로 AI 혁명을 한 단계 앞당길 제품이 될 것으로 보입니다.

“미래에 움직이는 모든 것은 로봇이 될 것입니다.” 젠슨 황 엔비디아 최고경영자(CEO)는 18일(현지시간) 미국 캘리포니아주 새너제이에서 열린 엔비디아 개발자 콘퍼런스(GTC 2024) 기조연설에서 기대를 모았던 차세대 인공지능(AI) 칩을 소개한 뒤 AI의 미래 종점인 로봇 사업에 대한 비전을 내비쳤다. AI 칩 ‘큰손’으로 떠오른 엔비디아가 자체 플랫폼을 통해 AI 생태계를 구축한 뒤 성장 가능성이 큰 휴머노이드 로봇 시장에서도 영향력을 확대하겠다는 포부를 밝힌 것이다. 검은 가죽점퍼를 입고 연단에 선 황 CEO는 이날 1만 6000여명의 관중 앞에서 엔비디아가 그리는 큰 그림의 시작점이 될 새로운 플랫폼 ‘블랙웰’ 기반의 AI 칩을 선보였다.2080억개의 트랜지스터로 가득 메운 이 칩은 현존하는 최고 AI 칩인 엔비디아 ‘H100’(호퍼 기반)에 비해 연산 처리 속도가 2.5배 더 빠르다. 두 개의 그래픽처리장치(GPU·B200)를 연결해 하나의 칩처럼 작동하는 방식이다. H100을 사용하면 생성형 AI GPT 모델을 훈련시키는 데 90일 동안 8000개의 GPU가 필요하지만 블랙웰 GPU는 같은 기간 2000개만 사용하면 된다는 게 그의 설명이다. 황 CEO는 “호퍼는 매우 환상적이었지만 우리는 더 큰 GPU를 원한다”며 “블랙웰은 이 새로운 산업 혁명을 구동하는 엔진이 될 것”이라고 강조했다. 엔비디아가 구상하는 제품은 생성형 AI의 대규모 연산이 가능한 일종의 ‘슈퍼컴퓨터’(GB200 NVL72)다. 블랙웰 GPU 2개에 중앙처리장치(CPU)를 연결한 ‘슈퍼칩’(GB200)을 36개 쌓아 올린 뒤 시스템 최적화를 통해 성능을 극대화하겠다는 계산이다. 대만 파운드리(위탁생산) 업체인 TSMC의 4㎚(나노미터·10억분의 1m) 공정으로 만들어진 뒤 올 연말부터 공급될 예정이다.엔비디아가 새 AI 칩 가격을 밝히지는 않았지만 기존 제품 가격을 감안하면 5만 달러(약 6700만원) 수준일 것이란 전망이 나온다. 황 CEO는 “(첫 제품은) 수천만 달러에 달할 것”이라고 농담을 하기도 했다. 엔비디아는 블랙웰이 최대 10조개의 매개변수(파라미터)를 가진 대규모 언어모델(LLM)에서 생성형 AI를 구축하고 실행할 수 있을 것이라 보고 있다. 파라미터는 생성형 AI가 정보를 학습하고 기억하는 신경 연결 역할을 한다. 파라미터가 많을수록 AI 성능이 뛰어나다고 평가받는다. 오픈AI가 개발한 생성형 AI GPT-4의 파라미터 수치가 공개되지 않았지만 5000억개 정도로 알려져 있다. 산술적으로는 블랙웰이 이보다 20배 뛰어난 AI 모델도 지원할 수 있다는 얘기다. AI 기술이 궁극적으로 지향하는 로봇 플랫폼을 지원하겠다는 것도 이러한 성능에 대한 자신감 때문이다. 황 CEO는 이날 무대에 자체적으로 훈련시킨 로봇 ‘오렌지’와 ‘그레이’를 등장시키고, 로봇 훈련이 가능한 ‘프로젝트 그루트’(GR00T)를 공개했다.

지난달 27일 산업통상자원부 제2차관 주재로 경기 용인 반도체 국가 첨단전략산업 특화단지 가동에 필요한 대규모 전력의 안정적 공급에 관한 TF가 발족됐다. 용인시 일대 3개 부지 총 약 13㎢의 광대한 면적에 조성될 반도체 특화단지에는 총 10GW(기가와트) 전력이 필요하다. 2036년까지 우선 필요한 3GW는 단지 내 LNG 발전소 신규 건설을 통해 공급하고 나머지 7GW는 2037년 이후 장거리 송전선로를 통해 공급할 계획이다. 반도체 산업은 고품질의 대전력이 필요한 대표적인 산업이다. 2021년 삼성전자가 사용한 전력은 184억㎾h로 이는 100만㎾, 즉 1GW 발전소 2.1기가 1년 내내 발전하는 전력량에 해당한다. 발전소 정비기간과 송전 손실 등을 고려하면 삼성전자만을 위해 3GW 정도의 발전 용량 즉 원전 3기 정도가 필요하다는 말이다. 나아가 정교한 반도체 제조 장비는 전력 주파수의 미세한 변동에도 오작동할 수 있으므로 고품질 전력이 필요하다. 전력의 품질은 주파수 변동 폭으로 결정되는데 우리나라 전력망은 허용 변동 폭인 ±0.2㎐보다 훨씬 작은 범위에서 안정적인 주파수를 유지해 왔다. 한국 반도체 산업이 세계적 수준으로 발전하는 데는 그동안 고품질 대전력을 저비용으로 공급했던 우리나라 전력 시스템 덕이 크다. 그 기저에 원자력이 있었음은 부정할 수 없는 사실이다. 인공지능(AI)이 급속도로 발전함에 따라 데이터센터의 메모리와 CPU, GPU 등 프로세서에 필요한 반도체 수요도 급증할 전망이다. 이를 위해서는 우수한 인력뿐만 아니라 고품질 전력의 확충이 필요하다. 2037년 이후 용인 반도체특화단지에 송전망을 통해 공급될 전력 7GW에는 호남 지방의 태양광과 해상풍력이 예정돼 있다. 이들 재생에너지 전력은 변동성이 크기에 안정화를 위해서는 대용량의 에너지저장장치(ESS) 설치가 필수적이다. 이런 저장장치의 운용비용은 발전비용보다 비쌀 수 있어 전력 비용이 커진다. 고비용 전력은 반도체 생산 단가의 상승을 초래해 경쟁력을 떨어뜨린다. 고품질 전력을 저비용으로 확충하려면 원자력 확대가 필수적이다. 2030년대 이후에는 탄소중립의 필요성과 AI의 본격적 활용에 따라 전력 수요가 현재 예상하는 수준보다 더 늘어날 수 있다. 이러한 전망은 안정적이고 저비용의 무탄소 대전력원인 원자력의 확대 필요성을 더욱 부각한다. 향후 원자력은 대형 원전뿐만 아니라 소형모듈원자로(SMR)를 통해 확대할 수가 있다. SMR은 수요지 인근에 설치할 수 있을 정도로 안전성이 높고, 모듈화를 통해 경제성을 확보할 수 있는 차세대 소형 원전이다. SMR을 적기에 활용하기 위해서는 현재 개발 중인 혁신형 SMR의 국내 실증을 조속히 추진해야 한다. 아울러 전력뿐만 아니라 공정열 공급 등 다양한 용도로 활용될 수 있고 조기 실물화가 가능한 다른 유형의 SMR 개발에도 적극적인 지원을 해야 한다. 주한규 한국원자력연구원 원장

인공지능(AI) 반도체 시장을 선점한 엔비디아가 미국 증시에서 아마존을 제치고 시가총액 4위에 올랐다. 시총 2조 달러를 바라보는 엔비디아의 거침없는 진격은 기술주의 위력이 얼마나 강력한지를 보여 준다. 우리 정부도 저평가된 국내 기업 주가를 끌어올리기 위한 정책을 이달 안에 내놓기로 했지만 엔비디아와 같은 ‘신데렐라’가 나오려면 기술 혁신을 할 수 있는 토양을 만들어 줘야 한다는 지적이 나온다. 엔비디아 시총은 13일(현지시간) 종가 기준 1조 7816억 달러(약 2381조원)로 아마존(1조 7517억 달러)을 따돌리고 미 상장기업 4위에 올라섰다. 엔비디아가 아마존을 넘어선 것은 2002년 이후 22년 만으로 샘 올트먼 오픈AI 최고경영자(CEO)가 2~3개월 전부터 공개적으로 탈엔비디아를 언급했음에도 주가가 상승세를 달리고 있다. 엔비디아는 AI 모델 학습과 추론에 특화된 반도체 패키지인 ‘AI 가속기’를 만드는 회사로 챗GPT의 등장과 함께 생성형 AI 시장이 본격 열리면서 기업 가치가 크게 올랐다. 그래픽처리장치(GPU) 제조업체인 엔비디아가 AI 시대 최대 수혜주로 떠오른 비결은 끊임없는 기술 혁신으로 경쟁력을 끌어올렸기 때문이다. 그 결과 엔비디아 시총은 메모리반도체 1위 기업이자 파운드리(반도체 위탁생산), 시스템반도체 사업에도 뛰어든 삼성전자 시총(448조 9276억원, 13일 종가 기준)의 다섯 배가 넘는다. 엔비디아에 고대역폭메모리(HBM)를 공급하는 SK하이닉스 시총은 109조 2004억원으로 국내 시총 2위에 해당하지만 미 대형 기술주 7인방(일명 ‘매그니피센트 7’)과는 비교가 안 된다. 코리아디스카운트(한국 증시 저평가)를 해소하기 위해 정부가 준비 중인 밸류업 프로그램이 주가 부양에 일정 부분 도움이 될 수 있지만 주가 상승의 원동력은 언제나 실적이며 이를 위해서는 기술 혁신과 산업구조 재편이 필요하다는 게 전문가들 설명이다. 김양팽 산업연구원 전문연구원은 “미국은 전통적인 팹리스(반도체 설계 전문) 강국으로 우리가 한 번에 따라가기는 어렵다”면서 “향후 10년 안에 반도체 시장이 지금의 두 배 수준까지 커질 수 있는 만큼 우리가 강점을 갖는 메모리반도체 산업을 활성화해야 한다”고 했다. 장영욱 대외경제정책연구원 부연구위원은 “공매도 등 제도 정비도 중요하지만 코리아디스카운트를 근본적으로 해소하려면 규범에 입각한 경쟁 기반을 만들면서 연구개발(R&D) 지원 규모를 늘려야 한다”고 말했다.

업스테이지·KT·콴다 공동개발매스GPT, 1점 만점에 0.488점 토종 인공지능(AI) 스타트업 업스테이지와 매스프레소(콴다), KT가 함께 만든 수학 특화 언어모델이 AI의 수학 능력을 평가하는 테스트에서 마이크로소프트(MS)와 오픈AI를 뛰어넘고 세계 1위를 차지했다. 업스테이지는 지난해 12월엔 ‘솔라’라는 경량 언어모델로 세계 성능 순위표에서 1위를 차지하기도 했다. 업스테이지는 수학 특화 언어모델 ‘매스(Math)GPT’가 고난도 수학 경시 문제 1만 2500개로 구성된 테스트에서 1점 만점에 0.488점을 받아 0.481점을 받은 MS의 ‘토라(ToRA)13B’를 제치고 역대 최고점을 기록했다고 밝혔다. 매스GPT는 업스테이지의 모델 설계, 수학 공부앱 ‘콴다’를 만든 매스프레소의 학습할 데이터 제공, KT의 그래픽처리장치(GPU)와 클라우드 등 인프라 지원으로 만들어졌다. 매스GPT와 토라13B는 AI 모델의 규모를 의미하는 매개변수가 약 130억개다. 업계가 300억 매개변수 이하를 경량 언어모델(SLM)로 구분하는 만큼 두 모델 역시 SLM에 해당한다. 그럼에도 매스GPT가 획득한 점수는 매개변수 1750억개인 오픈AI의 ‘챗GPT’(GPT-3.5, 0.355점)는 물론 조 단위 매개변수로 추정되는 같은 회사의 ‘GPT-4’(0.425점)보다도 앞섰다. 매스GPT는 초등·중학교 수학 문제 8500개로 구성된 연산 테스트 ‘GSM8K’에서도 SLM 중 최고점인 0.782점을 기록했다. 업계에 따르면 GSM8K에서 매스GPT보다 점수가 높은 모델은 매개변수가 2조~5조개로 추정되는 구글의 ‘제미나이’(0.944점)와 GPT-4(0.92점)뿐이다. MS의 토라13B는 0.758점을 기록했다. MATH와 GSM8K는 누구나 소스코드를 가져다 자신의 AI를 테스트할 수 있는 측정 도구로, 모델들이 경쟁해 순위를 매기는 플랫폼은 아니다. 업스테이지는 측정 결과를 담은 논문을 통해 매스GPT를 전 세계 개발자들과 공유할 방침이다.

인텔이 오랜 세월 준비해 온 야심작인 메테오 레이크가 세상에 모습을 드러냈습니다. 삼성 갤럭시 북4 시리즈의 두뇌로 탑재된 메테오 레이크는 한 개나 혹은 2-3개 정도의 반도체 칩으로 프로세서를 만드는 과거의 제조 방식을 버리고 각자 기능과 제조 공정이 다른 여러 개의 타일을 묶는 새로운 방식을 도입해 출시 전부터 주목을 끌었던 제품입니다. 인텔은 본래 14세대 코어 프로세서로 출시되었을 메테오 레이크에 인텔 코어 울트라(Core Ultra)라는 새로운 명칭을 도입하면서 자신감을 나타냈습니다. 현재 공개한 인텔 코어 울트라 프로세서는 28/45W TDP를 지닌 고성능 모델인 H 모델과 9/15W TDP를 지닌 저전력 주력 모델인 U 모델입니다. H 모델은 최대 6개의 고성능 코어 (P 코어)와 8개의 고효율 코어 (E 코어), 그리고 2개의 저전력 고효율 코어 (LP E 코어)를 합쳐 16개의 코어를 지니고 있습니다. 스레드 숫자는 22개입니다. U 모델은 고성능 P 코어 숫자만 2개로 줄여 최대 12개의 코어를 지니고 있습니다. 최대 24MB L3 캐시 메모리와 CPU 코어는 인텔 4 공정으로 제조한 CPU 타일에 들어 있습니다. 내장 GPU인 그래픽 타일은 최대 8개의 Xe 코어를 탑재하고 있습니다. 각각의 코어는 16개의 256비트 벡터 엔진, 레이 트레이싱 유닛을 탑재하고 있습니다. 전체적으로 연산 유닛 숫자도 30% 정도 증가하고 클럭도 높아졌기 때문에 그래픽 성능은 13세대 랩터 레이크보다 훨씬 좋아졌을 것으로 기대할 수 있습니다. 더구나 메모리도 DDR5 5600이나 LPDDR5x 7467처럼 더 빠른 메모리를 선택할 수 있어 제 성능을 발휘할 수 있습니다. 그래픽 타일은 TSMC의 5nm 공정으로 제조했습니다. 메테오 레이크의 또 다른 특징은 여러 가지 기능을 탑재한 SoC 타일이라는 독립된 타일에 있습니다. 역시 TSMC에 의해 생산된 SoC 타일에는 GPU에서 독립된 미디어 관련 기능과 LP E 코어, 그리고 AI 연산을 빠르게 할 수 있는 NPU가 탑재되어 있습니다. 덕분에 메테오 레이크는 기존의 인텔 프로세서는 물론 경쟁자인 라이젠보다도 더 빠른 AI 연산이 가능하다는 게 인텔의 주장입니다. 하지만 막상 뚜껑을 열어보니 CPU 성능은 기대에 미치지 못한다는 반응이 나오고 있습니다. 사실 이는 인텔이 공개한 벤치마크 결과에서도 볼 수 있습니다. 이에 따르면 경쟁자인 라이젠 모바일 7840U와 비교해서 코어 울트라 7 165H의 멀티스레드 성능은 11% 정도 높고 싱글스레드 성능은 12% 정도 높습니다. 그런데 스레드 숫자를 비교하면 라이젠 7840U는 16개, 코어 i7-1370P는 20개, 코어 울트라 7 165는 22개로 늘어난 코어 숫자를 생각하면 그다지 큰 변화는 없는 셈입니다. 심지어 싱글스레드 성능은 코어 i7-1370P보다 낮습니다. 일부 벤치마크 결과에서도 비슷한 결과가 얻어지면서 CPU에서는 괄목할 만한 성장이 없었다는 초기 반응이 나오고 있습니다.대신 GPU 성능은 연산 유닛을 대폭 추가하고 클럭까지 크게 높아졌기 때문에 상당한 성능 향상을 보여주고 있습니다. 인텔이 공개한 슬라이드에서도 최대 2배까지 성능 향상을 주장하고 있는데, 3D 마크 타임 스파이 같은 일부 벤치마크 결과에서도 이런 주장을 확인할 수 있습니다. 지난 몇 년간 와신상담 성능을 갈아온 인텔 아크 그래픽이 이제 빛을 보는 것 같은 느낌입니다. 앞으로 라데온 내장 그래픽과 선의의 경쟁을 통해 내장 그래픽 성능을 대폭 끌어올릴 것으로 기대됩니다.아직 사용처가 많지 않은 인텔 AI 부스트 NPU는 결국 얼마나 많은 어플리케이션이 이를 지원하고 적극적으로 활용하는지가 승패를 가를 것으로 생각됩니다. 인텔이 공개한 벤치마크를 보면 성능 면에서 경쟁자인 라이젠 AI를 쉽게 넘어서는 것 같지만, 진짜 적은 AMD 라이젠이 아니라는 게 문제입니다. 현재 AI 하드웨어 시장의 절대 강자는 엔비디아이기 때문에 엔비디아의 아성에 도전하는 것이 인텔, AMD 두 회사의 큰 과제입니다. 메테오 레이크는 타일처럼 칩을 붙여 더 복잡한 프로세서를 만드는 새로운 제조 방식을 본격적으로 시험한 무대였습니다. 첫술부터 배부를 순 없겠지만, 앞으로 최적의 제조 공정과 아키텍처를 자유롭게 결합해 더 강력한 프로세서가 나올 수 있을 것으로 기대합니다. 내년에 등장할 애로우 레이크와 루나 레이크는 인텔 3 공정을 건너 뛰고 20A 공정으로 바로 진행합니다. 아키텍처도 대대적으로 개선하고 노트북 시장뿐 아니라 데스크톱 시장에도 타일 구조를 도입합니다. 이미 인텔은 애로우 레이크의 웨이퍼를 공개하면서 자신감을 내비쳤습니다. 메테오 레이크에서 아쉬웠던 부분을 여기서 만회할 수 있을지 궁금합니다. 

세계적 수준의 국가인공지능(AI)데이터센터가 본격 서비스를 시작한다. 광주시는 첨단3지구 인공지능중심산업융합집적단지(이하 AI집적단지) 내 핵심시설인 세계적 수준의 국가인공지능 데이터센터 서비스를 15일 개시한다고 밝혔다. 인공지능데이터센터는 초거대 인공지능 모델을 개발할 수 있는 고성능 컴퓨팅 자원 등의 서비스를 지원한다. 인공지능 모델은 점점 더 복잡해지고 개발에 필요한 데이터량이 커지고 있는 상황에서, 메모리 용량과 데이터 처리 속도를 높인 초고성능 컴퓨팅 자원의 필요성이 커지고 있다. 광주시는 엔비디아의 최신 성능 가속기 ‘H100’ 등 고성능 컴퓨팅 자원을 활용, 짧은 시간 내 방대한 데이터 학습과 분석이 가능하도록 인공지능 연구개발에 최적화된 인프라를 제공한다. 이로 인해 창업 초기기업(스타트업)들도 복잡한 인공지능 서비스 개발·연구가 가능해져 인공지능 산업융합 생태계가 활성화될 것으로 기대된다. 국가인공지능 데이터센터는 20페타플롭스(PF) 규모의 고성능컴퓨팅(HPC)과 68.5페타플롭스(PF) 규모의 GPU 클라우드 혼용 방식으로 구축됐다. 전체적으로 88.5페타플롭스(PF) 연산자원과 107페타바이트(PB) 저장공간을 갖춘 세계적 수준의 규모다. 데이터센터는 연면적 3144㎡의 2층 구조로, 인공지능 개발을 위한 260랙 규모의 전산실에 6메가와트(MW)의 전력이 소요된다. 사용자가 통신 회선 사업자를 자유롭게 선택해 사용할 수 있는 망중립 데이터센터이며, 수도권과 동일한 네트워크 품질 신뢰성과 접근성을 제공한다. 광주시는 지난 10월23일 전체 구축량의 50%인 연산자원 44.3페타플롭스(PF), 저장공간 53.5페타플롭스(PF) 규모의 자원구축과 성능테스트를 마쳤다. 12월엔 추가로 가속기 24페타플롭스(PF) 그리고 2024년 1분기에 20페타플롭스(PF) 규모의 고성능컴퓨팅(HPC)자원을 구축할 예정이다. 광주시는 이를 통해 1000여 개의 인공지능 관련 기업을 지원할 수 있을 것으로 보고 있다. 기업은 인공지능 모델이나 관련 제품을 개발하는데 반드시 필요한 고비용의 연산자원과 저장공간 및 개발환경을 무료로 제공받고 개발시간도 단축할 수 있게 된다. 이에 따라 광주에는 국내외 인공지능 기업이 모여 협업하고, 기술개발과 활용을 촉진하는 인공지능 산업생태계가 구축될 것으로 기대하고 있다. 광주시는 자원이용 기관 및 기업 선발을 위해 지난 10월 공모를 진행, 10월27일 263개 기업에 가속기 21페타플롭스(PF)와 스토리지 8페타바이트(PB) 자원을 할당했다. 1페타플롭스(PF)는 초당 1000조번의 수학 연산처리를 의미하며, 1페타바이트(PB)는 6기가바이트(GB) 영화 17만4000편의 영화를 보관할 수 있는 용량이다. 정부가 추진하는 초고속·저전력 국산 인공지능 반도체 개발과 데이터센터 적용을 통해 국내 클라우드 경쟁력을 강화하기 위한 ‘K-클라우드 프로젝트’ 일환으로 데이터센터 내에 11페타플롭스(PF) 규모의 인공지능(AI)반도체(NPU)팜 실증·구축도 병행한다. 광주시는 1단계 인프라의 고도화와 도시규모의 실증을 목표로 인공지능 2단계 사업을 순차적으로 진행하기 위해 예비타당성 용역을 준비 중이다. 김용승 인공지능산업실장은 “광주시는 인공지능 관련 인프라와 도시규모의 실증환경을 조성해 기업에 제공하고, 기업은 이를 활용해 인공지능 서비스를 만들어가게 될 것”이라며 “이를 통해 대한민국의 인공지능 대표도시 광주가 명실상부한 한국의 실리콘밸리로 성장할 수 있을 것으로 기대한다”고 말했다.

지난주 약관 28세에 3억 5000만 달러 가치를 인정받은 실리콘밸리의 스텔스 벤처를 창업한 젊은이를 만났다. 스탠퍼드대 박사과정에서 대규모언어모델(LLM) 학습 연구를 했으며 구글 브레인에서 인공지능(AI)으로 데이터센터 최적화 문제를 연구했다고 한다. 지난 6월 말 모자이크 ML이라는 2년밖에 안 된 생성형 AI 벤처 기업을 13억 달러에 인수해 화제가 됐던 비상장 벤처기업 데이터브릭스의 공동창업자 마테이 자하리아가 그의 지도교수다. 이 젊은 창업자는 스파크라는 분산 인메모리 플랫폼 소프트웨어를 만들어 창업한 지도교수의 영향을 받아 생성형 AI에 대해 폭넓게 실전 경험을 쌓았다. AI 학습과 서비스에 소요되는 엄청난 수요 때문에 돈이 있어도 엔비디아의 그래픽처리장치(GPU)를 구할 수 없게 되자 실리콘밸리의 대표 벤처캐피털인 세쿼이아 캐피털과 라이트 스피드 벤처 파트너가 앞장서 그의 스텔스 모드 벤처에 투자했다. 생성형 AI에 최적화된 데이터센터 운영 소프트웨어를 만드는 것이 이 벤처의 미션이다. 아마존, 구글 등 GPU 클라우드를 운영하는 빅테크 기업들도 이 벤처의 실험을 지원하기로 했다. 실험이 성공하게 되면 클라우드 서비스 빅테크 기업에서 GPU를 할당받아 여러 고객들의 LLM 연산 서비스를 경제적으로 해주는 벤처 기업들은 존재 이유가 없어진다. 이 스텔스 회사 이외에도 올해 들어서만 실리콘밸리 벤처캐피털들과 성공한 창업가들의 통 큰 생성형 AI 투자가 줄을 잇고 있다. 마이크로소프트, 구글, 아마존 등 AI 사업을 주도하려고 하는 빅테크 대기업들도 예외는 아니다. 지난 6월 말 인플렉션 AI는 ‘모두를 위한 개인용 AI’ 챗봇 비전을 내걸었다. 구글 딥마인드 공동 창업자였던 무스타파 술레이먼이 설립한 이 회사는 40억 달러 가치로 지금까지 모두 15억 달러의 투자를 끌어냈다. 소셜미디어나 메신저를 통해 대화로 개인의 일상 문제를 풀어 주는 ‘Pi’라는 이름의 챗봇이 대표작이다. 오픈 AI와 경쟁하는 앤트로픽은 올해에만 벤처캐피털과 아마존, 구글 등에서 수십억 달러의 투자를 받았다. 지난 9월 아마존은 즉시 12억 5000만 달러를 투자하고 추가로 양사 합의에 따라 27억 5000만 달러를 추가로 투자하기로 했다. 구글은 4월에 3억 달러를 이 회사에 투자한 후 10월에 5억 달러를 더 투자했다. 서로 합의하면 15억 달러를 추가 투자할 수 있는 여지도 열어 놓았다. 미국이 주도하는 생성형 AI의 투자에 대응하기 위해 유럽에서도 통 큰 투자가 시작됐다. 지난 6월에는 설립한 지 4주밖에 안 된 프랑스의 미스트랄 AI에 1억 1300만 달러의 파격적인 종잣돈 투자가 이루어졌다. 구글 딥마인드와 메타에 소속됐던 유럽의 젊은 연구원들이 창업한 회사다. 세 창업자의 빅테크 연구개발 경력과 유럽이 민감하게 생각하는 AI 규약 준수를 위한 LLM 개발 전략만으로 뭉칫돈을 끌어낸 것이다. 이 회사의 개발전략 설명서는 7쪽에 불과했다. 실리콘밸리의 라이트 스피드가 투자를 주도했지만 유럽의 많은 기관들도 투자 대열에 합류했다. 수십조 단위의 대규모 혁신 자본을 확보한 글로벌 벤처캐피털이 구글, 아마존, 마이크로소프트 같은 빅테크 대기업과 손을 잡고 현장의 중요한 문제를 빠르게 인지하고 문제를 풀 수 있는 인재를 구해 치고 나가는 것이 생성형 AI 시대의 새로운 모습이다. 정부가 국가의 연구개발비를 나누어 주는 체계로는 이 새로운 시대를 쫓아가기도 힘든 것이 현실이다. 산업화 시대에 만들어진 국가의 공적 산업자본을 하나로 모아 싱가포르 테마섹 같은 국부펀드를 만들어 글로벌 시장에서 혁신을 선도할 수 있는 자본을 우리도 만들어야 한다.

애플이 M3, M3 프로, M 맥스와 함께 신형 맥북과 아이맥을 공개했습니다. 신형 M3 시리즈 프로세서는 3nm 공정을 도입해 전력 소모를 줄이고 성능을 높였습니다. 다만 세부적으로 보면 성능 향상만 전부가 아니라는 점을 알 수 있습니다. 가장 기본형이고 아마 앞으로 아이패드에도 들어갈 주력 프로세서인 M3의 경우 4개의 고성능 코어와 4개의 고효율 코어를 지닌 8코어 프로세서로 CPU는 M1보다 35%, M2보다 20% 빠르다는 것이 애플의 설명입니다. 작년에 나온 프로세서보다 20% 정도 빨라졌으면 겁나게 빠르다고 하긴 어려워도 요즘처럼 프로세서 성능을 높이기 어려운 시대에는 준수한 편입니다. 새로운 10코어 GPU는 다이내믹 캐싱 기술과 하드웨어 레이 트레이싱, 메시 셰이딩 기술 등 신기술을 적용해 M1 대비 65%, M2 대비 20% 빠릅니다. 역시 M2 대비 체감할 만한 차이는 아니지만, 하드웨어 레이 트레이싱 기능이 추가되었다는 점이 주목됩니다. 사실적인 광원 효과를 통해 컴퓨터 그래픽을 더 진짜 사물에 가깝게 보이게 만드는 레이 트레이싱 기술은 너무나 많은 연산 능력을 요구해 게임처럼 빠른 반응이 필요한 분야에서는 잘 사용되지 않았습니다. 게임에서 실시간 레이 트레이싱이 본격 적용된 것은 엔비디아의 RTX 2000 시리즈가 등장한 이후로 제대로 사용하기 위해서는 고가의 최신 그래픽 카드가 필요합니다. 애플은 레이 트레이싱 기능을 모바일 기기 중심인 M3에 가져온 것인데, 실제로 이를 활용한 게임이 나올 수 있을지도 주목됩니다. 사실 아이폰 15 시리즈에 들어간 A17 프로도 메시 셰이딩과 하드웨어 레이 트레이싱을 지원해 관련 게임이 나올 수 있을지 궁금증이 모아지고 있습니다. 다만 하드웨어 레이 트레이싱도 엄청난 자원을 소모하기 때문에 M3처럼 저전력 프로세서에서 원활한 게임 구동은 쉽지 않아 보입니다. 그리고 기본적으로 아이폰과 달리 맥은 게임 기능보다는 그래픽 및 전문 작업에 특화되어 있습니다. 따라서 게임보다는 그래픽 작업에서 도움을 받을 수 있을 것입니다.M3 프로는 6개의 고성능 코어와 6개의 고효율 코어를 탑재해 M3와 비교해 CPU 부분을 50% 늘리고 GPU는 18코어로 40% 늘렸습니다. 성능 차이도 딱 그 정도일 것으로 예상할 수 있는데, 흥미로운 부분은 M2 프로보다 오히려 트랜지스터 집적도가 줄어들었다는 것입니다. M2 프로는 5nm 공정에서 400억 개 이상의 트랜지스터를 집적한 반면 M3 프로는 370억 개로 오히려 줄어들었습니다. (사진 참조) M3가 전작보다 50억 개 늘어난 250억 개인 점을 생각하면 다소 의외의 구성입니다. 아무튼 이런 구성 때문인지 M3 프로의 CPU 성능은 M1 프로 대비 20% 높은 수준입니다. 뒤집어 말하면 M2 프로와 큰 차이가 없단 이야기입니다. 물론 M2 프로도 전력 소모를 생각하면 놀랄 만큼 빠르니 M3 프로 겁나게 빠르다고 해도 잘못된 이야기는 아닙니다. 고성능 코어 8 + 저전력 코어 4개의 구성에서 고성능 코어 6 + 저전력 코어 6로 바뀌었는데도 성능이 비슷하면 사실 코어 하나의 성능은 M3 프로가 더 좋아진 것으로 볼 수 있습니다. 하지만 유독 M3 프로만 트랜지스터 집적도가 역주행하면서 성능도 제자리 걸음인 데는 이유가 있지 않을까 생각됩니다. 먼저 생각할 수 있는 이유는 반도체 칩 면적인 다이(Die) 면적 감소를 통한 원가 절감입니다. 최신 미세 공정 웨이퍼 가격은 상당히 비싸기 때문에 다이 면적이 비슷해도 가격은 올라갑니다. 하지만 트랜지스터 집적도를 낮춰 다이 크기를 줄이면 가격 인상 요인을 최대한 억제할 수 있습니다. 다만 M3나 M3 맥스의 집적도 증가를 생각하면 원가 절감만이 이유의 전부는 아닐 것입니다. 다음으로 생각할 수 있는 것은 배터리 사용 시간을 늘리고 발열을 줄이는 것입니다. M3 프로는 3nm 미세 공정에도 트랜지스터 집적도를 약간 낮췄기 때문에 M2 프로와 비교해서 전력 소모를 상당히 줄일 수 있을 것으로 예상됩니다. 신형 맥북 프로의 경우 최대 22시간의 배터리 시간을 자랑하는데, 맥북 역사상 가장 배터리 사용 시간이 길다는 이야기가 허언이 아닐 가능성이 높습니다. 구체적인 건 벤치마크 결과를 봐야 알겠지만, 성능을 대폭 올리기보다는 배터리 사용 시간과 발열을 줄여 사용자들이 쾌적하게 쓸 수 있도록 한 것으로 풀이됩니다.하지만 M3 맥스는 플래그쉽 프로세서이고 나중에 이를 두 개 붙여 나올 것으로 예상되는 M3 울트라를 감안했는지 역대 가장 많은 트랜지스터 집적도인 920억 개의 트랜지스터를 집적했습니다. 전작인 M2 맥스의 670억 개보다 37%나 늘어난 숫자입니다. M3 맥스를 두 개 붙인 M3 울트라의 집적도는 1840억 개에 달할 것으로 보입니다. 덕분에 M3 맥스의 CPU 성능은 M1 맥스보다 80%, M2 맥스보다 50% 높으며 GPU 성능은 M1 맥스보다 50%, M2 맥스 보다 20%가 더 높습니다. 대신 일부 유닛을 제외한 컷칩이라도 발열량은 적지 않을 것으로 생각됩니다. M3 맥스를 탑재한 맥북 프로의 발열 및 배터리 사용 시간도 흥미로운 궁금증 중 하나입니다. 전체적으로 요약하자면, 아이패드, 맥북 에어, 아이맥, 맥북 프로에 널리 쓰이는 M3는 M2와 비교해서 적당한 수준의 트랜지스터 집적도 증가와 무난한 성능 향상을 보이고 있습니다. 제품의 포지션을 생각하면 당연한 결과라고 할 수 있습니다. M3 프로는 성능 향상보다는 배터리 사용 시간과 발열 제어에 초점을 맞춘 것 같지만, 정확한 건 벤치마크 결과를 봐야 알 수 있습니다. M3 맥스는 현재 기술 수준에서 가장 크고 강력한 M 시리즈 프로세서로 고성능 워크스테이션 시장을 겨냥한 제품으로 볼 수 있습니다. 같은 M3 패밀리라도 제각기 목적에 따라 강약을 조절했다는 점이 이번 M3 시리즈의 특징으로 보입니다.