2조원 규모 국가AI컴퓨팅센터 구축2030년까지 GPU 15배로 확충앤드류 응 ‘AI 4대 천왕’ 전략 그룹으로 윤석열 대통령은 26일 “대한민국을 2027년까지 인공지능(AI) 분야에서 세계 3대 강국으로 도약시키겠다”며 ‘AI 국가 총력전’을 선포했다. 윤 대통령은 이날 서울 포시즌스 호텔에서 열린 ‘국가인공지능위원회 출범식 및 제1차 회의’를 주재하면서 “AI가 국가 역량과 성장을 좌우하고 경제 안보의 핵심이 되는 시대로 지금 전환되고 있다”며 이렇게 밝혔다. 현재 한국의 AI 국가 경쟁력 순위는 6위다. 윤 대통령은 지난 4월 반도체 현안 점검회의에서 ‘AI-반도체 이니셔티브’를 발표하고 대통령 직속 AI위원회 설치 계획을 밝혔다. 대통령이 위원장을 맡고 염재호 태재대 총장이 부위원장을 맡았다. 이 밖에도 AI 전문가 등 민간위원 30명, 과학기술정보통신부 등 장관급 정부위원 10명 등으로 구성됐다. ‘AI 4대 천왕’ 중 앤드류 응 미국 스탠포드 교수, 얀 르쿤 뉴욕대 교수, 요수아 벤지오 캐나다 몬트리올대 교수가 글로벌 AI 전략 그룹으로 합류한다. 윤 대통령은 “AI의 급속한 발전과 함께 많은 부작용도 발생하고 있다”며 “AI 기술로 생산된 가짜뉴스들이 민주주의를 위협하고 최근에는 딥페이크 기술을 악용해 인권을 침해하는 사례들이 빈번하게 일어나고 있다”고 지적했다. 윤 대통령은 “‘국가 AI 컴퓨팅 센터’를 민관 합작 투자로 구축하겠다”며 “AI 연구개발과 산업 육성의 핵심 인프라로 기능할 것”이라고 말했다. 이어 “산업과 사회 전반의 AI 전환을 촉진하고 민간의 AI 투자를 확대시키겠다”며 “저작권과 개인정보보호 규제가 보호하려는 핵심 가치는 지키되 이것이 AI 혁신의 걸림돌이 되지 않도록 규제를 전향적으로 개선해 나가겠다”고 덧붙였다. 윤 대통령은 “연구개발과 인프라는 물론이거니와 교육, 법제에 이르기까지 모든 분야에서 치밀한 전략을 세우고 이를 철저하게 이행할 것”이라고 했다. 이날 회의에서 과학기술정보통신부는 국가 AI 컴퓨팅 인프라 대폭 확충, 민간 부문 AI 투자 대폭 확대, 국가 AI 전환(AX) 전면화, AI 안전 및 안보 글로벌 리더십 확보 등 ‘4대 플래그십 프로젝트’를 발표했다. AI 컴퓨팅 인프라를 제공하기 위해 2조원 규모의 국가 AI 컴퓨팅 센터를 구축하고 2030년까지 최신 그래픽처리장치(GPU) 규모를 현재의 15배인 2EF(엑사플롭스·1초에 100경 번의 부동소수점 연산처리 능력) 이상으로 확충하기로 했다. 이는 AI 칩 선두주자 ‘엔비디아’의 고가 GPU인 H100 3만개 규모에 해당한다. 민간 부문에서는 4년간 AI 분야에 총 65조원 규모를 투자하기로 했다. 박상욱 대통령실 과학기술수석은 이날 용산 대통령실 브리핑에서 “정부는 민간 투자가 더 활성화될 수 있도록 조세특례 등 적극적으로 지원하기로 했다”며 “11월에 AI안전연구소를 설립하고 연내 AI기본법이 제정되도록 추진하겠다”고 밝혔다.

2위 삼성 넘겠다며 3년 전 재도전2조원 적자에 15% 감원·배당 중단CPU 성공 안주하면서 패권 ‘흔들’日 상폐된 도시바 ‘관료주의’ 재현삼성 수혜 기대감… 美 인수 가능성도 1990년대 개인용 컴퓨터(PC) 시장의 비약적인 성장을 토대로 PC 중앙처리장치(CPU) 등 글로벌 반도체 시장을 호령해 온 미국 종합반도체기업(IDM) 인텔이 ‘최악의 위기’를 맞고 있다. 최근 대규모 감원에 돌입한 데 이어 ‘반도체 왕국’ 재건을 위해 3년 전 재진출한 파운드리(반도체 위탁생산) 사업 부문마저 분할·매각하는 등 종합적인 구조조정안을 검토하고 있다. 회사를 살리기 위해 수십조원을 투입했던 사업을 최우선 구조조정 대상으로 선택하는 처지에 놓인 것이다. 인텔이 두 손을 들면서 삼성전자가 반사이익을 누릴지, TSMC의 독주가 강화될지 귀추가 주목된다. 2일 블룸버그와 로이터 등 주요 외신과 반도체 업계에 따르면 인텔은 파운드리 사업부와 프로그래머블칩 사업부 매각을 검토하고 있는 것으로 전해졌다. 파운드리 시장은 올해 2분기 기준 TSMC가 점유율 62.3%로 2위 삼성전자(11.5%)를 크게 따돌리고 있는 분야로, 팻 겔싱어 인텔 최고경영자(CEO)는 2021년 취임하면서 2018년 철수했던 파운드리 분야 재도전을 선언했다. 프로그래머블칩 사업부는 반도체를 다양한 용도로 맞춤 제작하는 조직으로 2015년 인텔이 칩 제조사 알테라를 167억 달러(당시 환율 기준 약 18조 6000억원)에 인수하며 만든 사업부다. 인텔은 2010년대 초반까지 PC와 서버용 CPU 시장을 독점하며 종합반도체 판매 규모에서 1위 자리를 지켜 왔다. 하지만 2007년 애플의 아이폰 출시를 계기로 PC 시장 성장세가 꺾이기 시작했고 경쟁사 AMD가 TSMC를 파트너로 삼아 급성장하면서 인텔 독점 구조에 균열을 일으켰다. 2017년 1분기 98.6%였던 인텔의 서버용 CPU 점유율은 올해 1분기에 76.4%로 떨어졌다. 이 기간 AMD의 점유율은 1.4%에서 23.6%로 상승했다. 특히 인텔의 최고기술자였다가 떠나 있은 지 12년 만인 2021년 2월 인텔의 구원투수로 등판한 겔싱어 CEO가 ‘파운드리 사업 재건’을 외치며 단행한 투자는 회사 재무를 더 악화시켰다. TSMC와 삼성전자가 초미세 공정 경쟁을 하고 있는 파운드리는 천문학적인 초기 투자 비용에 비해 안정적인 수율(제품 양품 비율) 확보까지 상당한 시간이 걸리는 구조다. 인텔 파운드리 사업부의 시장 점유율은 자사 물량을 제외하면 1% 수준으로 알려졌다. 해당 사업부는 올해 2분기 28억 달러 적자를 기록했다. 여기에다 인공지능(AI) 시대 엔비디아의 그래픽처리장치(GPU)로 패권이 넘어가고 주력인 CPU 시장이 흔들리기 시작하면서 현재의 위기 상황을 가중시켰다는 게 업계 중론이다. 올해 2분기 순손실 16억 1000만 달러(약 2조 2000억원)를 기록한 인텔은 전체 직원의 15% 감원을 결정했으며 1992년부터 시행해 온 배당도 4분기부터 중단하기로 했다. 해고 예정 임직원 규모는 1만 5000명에 달한다. 인텔의 추락은 한때 세계 반도체 시장을 선도했지만 경영난 장기화로 지난해 12월 일본 증권시장에서 상장폐지된 도시바 사례에 비견된다. 대형 투자 실패, 경직된 관료주의 문화, 뒤늦은 시장 변화 인지 등 도시바의 쇠락 과정에서 노출된 문제점이 인텔에서 고스란히 재현되면서다. 2분기 ‘어닝 쇼크’(실적 충격) 발표 이후 사임한 립부 탄 전 인텔 이사는 “인텔이 위험 회피적이고 관료주의적인 문화에 빠져 있다”고 질타한 것으로 전해졌다. 국내 반도체 업계는 인텔이 파운드리 사업 철수를 결정할 경우 미칠 영향에 주목하고 있다. 인텔의 파운드리 물량 일부를 삼성전자가 흡수할 수 있다는 기대감과 미국 기업의 인텔 파운드리 인수 가능성 등이 제기된다. 업계 관계자는 “인텔 파운드리 물량이 크지 않다고 해도 TSMC 추격이 급한 삼성전자에는 도움이 될 수 있다”면서 “다만 미국 정부가 반도체 제조에 한국과 대만 의존 축소를 노리는 상황이어서 글로벌 파운드리와 같은 미국 기업이 인텔 파운드리를 인수할 가능성도 있다”고 말했다.

기업들은 급변하는 시장 상황과 기술에 맞춰 국경 없는 경쟁을 펼치고 있습니다. 이미 우리의 일상에도 깊숙이 들어온 첨단 기술과 이를 이끄는 빅테크의 소식을 흥미롭고, 이해하기 쉽게 풀어드립니다. 최근 인공지능(AI) 반도체 시장이 뜨거워지면서 고집적 반도체 칩을 메인보드와 연결하는 고부가 반도체 패키지 기판에 관한 관심도 높아지고 있습니다. 시장조사업체인 프리스마크에 따르면 반도체 기판 시장 규모는 2024년 4조 8000억원에서 2028년 8조원으로 연평균 약 14%로 지속 성장할 것으로 예상합니다. 반도체 기판은 반도체와 메인 기판 간 전기적 신호를 전달하고 반도체를 외부 충격 등으로부터 보호해주는 역할을 합니다. 흔히 반도체 칩을 우리 몸의 두뇌에 비유한다면 반도체 기판은 뇌를 보호해주는 뼈와 뇌에서 몸으로 전달하는 정보를 각 기관에 연결해 전달하는 신경과 혈관에 비유할 수 있습니다. 반도체 칩은 메인 기판과 서로 연결되어야 하는데 메인 기판의 회로는 반도체보다 미세하게 만드는 게 불가능합니다. 반도체 칩의 단자 사이 간격은 100㎛(마이크로미터, 0.001㎜)로 A4용지 두께 수준이지만 메인 기판의 단자 사이 간격은 약 350㎛로 4배 정도 차이가 나기 때문입니다. 이 때문에 반도체 칩과 메인 기판 사이를 연결해 주는 것이 바로 반도체 기판의 역할입니다. 반도체 기판 중 하나인 ‘플립칩 볼 그리드 어레이’(FCBGA)는 고집적 반도체 칩과 기판을 ‘플립칩 범프’로 연결해 전기 및 열적 특성을 높이는 패키지 기판입니다. 주로 PC와 서버, 네트워크, 자동차용 중앙처리장치(CPU), 그래픽처리장치(GPU)에 사용되고 있습니다. 반도체 업계에서는 AI뿐 아니라 로봇, 메타버스, 자율주행 등 반도체 성능 향상에 대응할 수 있는 기판 기술에 주목하고 있습니다. 특히 빅데이터와 AI에 적용되는 FCBGA는 대형화, 층수 확대, 미세 회로 구현, 소재 융·복합화 등 높은 기술력이 요구되는 제품입니다. 국내 부품기업인 삼성전기도 지난달 글로벌 반도체 기업인 AMD와 고성능 컴퓨팅(HPC) 서버용 FCBGA 공급 계약을 맺고 제품 양산을 시작했다고 밝힌 바 있습니다. 서버용 FCBGA는 반도체 기판 중에서도 기술적으로 어려운 제품입니다. 전 세계에서 하이엔드급 서버용 기판을 양산하는 글로벌 업체도 일부에 불과하다고 합니다. 서버용 CPU와 GPU는 연산 처리능력과 연결 신호 속도 향상 등 고성능화에 대응하기 위해 하나의 기판 위에 여러 반도체 칩을 한꺼번에 담아야 합니다. 그 때문에 서버용 FCBGA는 일반 PC용 FCBGA보다 기판 면적은 4배 이상 크고, 층수도 20층 이상으로 2배 이상 많습니다. 과거 반도체가 기판 위에 반도체 칩이 하나 올라가는 단순한 구조였다면 최신 반도체는 성능을 높이기 위해 회로의 미세화가 진행되고 트랜지스터 개수도 기하급수적으로 늘어나고 있습니다. 극자외선(EUV) 공법 등 미세화 기술이 개발되고 있지만 미세화 기술 성장 한계와 고가 설비 도입 등으로 인한 공정비용 상승으로 반도체 원가가 높아지면서 패키지 기술과 같은 후공정에서 반도체 성능 향상과 원가를 낮추려는 노력이 이어지고 있습니다. 최근에는 반도체 칩 자체를 잘 만드는 것만큼이나 잘 만들어진 제품을 조합해서 어떻게 구성하느냐 하는 멀티 패키지 기술 영역이 중요해졌습니다. 즉, 패키지 전체의 성능을 끌어올리기 위해 여러 가지 반도체 칩을 반도체 기판에 올려 기능을 향상한 멀티 패키지 형태의 제품들이 나오고 있습니다. 많은 칩이 제대로 작동하기 위해선 기판의 회로 패턴은 더 미세화되고 기판 면적도 커지고 층수도 늘어나는 등 반도체 기판의 기술 고도화가 요구되고 있습니다. 삼성전기는 반도체 기판 분야에서 기술력을 유지하기 위해 1조 9000억원에 달하는 대규모 투자를 통해 부산과 베트남 신공장을 첨단 하이엔드 제품 양산기지로 운영하고 있습니다. 삼성전기는 2022년 10월 국내 최초로 서버용 FCBGA 양산에 성공한 이후 2026년까지 서버, AI, 전장, 네트워크 등 고부가 FCBGA 제품 비중을 50% 이상 확대한다는 계획입니다. 반도체 기판을 만들기 위한 핵심 기술은 미세 가공 기술과 미세 회로 구현에 있습니다. 전자기기의 기능이 많아질수록 필요한 부품이 많아지듯이 반도체 칩의 신호 전달에 필요한 회로도 많아지고 더 복잡해집니다. 한정된 기판 면적 안에 많은 회로를 만들어야 하므로 한 면으로도 부족해 4층, 6층, 8층, 10층 등 여러 층으로 만들게 됩니다. 이때 층간에도 회로가 연결되어야 하므로 구멍을 뚫어 전기적으로 연결하기 위한 도금 과정을 거치게 됩니다. 각 층을 연결해주는 구멍을 ‘비아’(Via)라고 하는데 일반적으로 80㎛ 크기의 면적 안에 50㎛의 구멍을 오차 없이 정확히 뚫어야 하는 만큼 정교한 가공 기술력이 필요합니다. 삼성전기는 A4용지 두께의 10분의 1 수준인 10㎛ 수준의 비아를 구현할 수 있는 미세 비아 형성 기술을 가지고 있습니다. 전기신호가 지나가는 길인 회로는 단자가 많아지고 연결해야 할 신호가 많아지면서 회로 선폭과 간격도 미세화되고 있습니다. 회로 제작 과정은 원하는 회로 두께만큼을 도금한 후 남는 부분을 코팅한 다음 화학 작용인 ‘에칭’을 통해 필요한 회로를 형성하게 됩니다. 일반적으로 회로 폭과 회로 간 간격은 8~10㎛ 수준의 얇은 선폭을 구현해야 합니다. 삼성전기는 머리카락 두께의 20분의 1인 5㎛ 이하 수준의 회로 선폭을 구현할 수 있는 미세회로 형성 기술을 보유하고 있습니다. 삼성전기는 110㎜ 이상의 초대면적화 기술과 26층 이상의 초고층화 기술, 수동소자 부품을 패키지 기판 내에 내장하는 기술을 확장해 반도체의 성능을 배가시키는 EPS 기술 등 차세대 반도체 기판 시장에서 요구하는 기술을 확보해 고객과의 협력을 강화하고 있습니다. 삼성전기 관계자는 “최근 AI 기술 등에 의한 고성능 반도체 수요가 늘어나면서 FCBGA 수요도 증가할 전망”이라며 “국내 최초 서버용 FCBGA 양산 업체로써 차세대 기판 개발과 반도체 기판 사업 강화에 집중하고 있다”고 강조했습니다.

지난주 미국 실리콘밸리의 중심 팰로앨토에서 30대 중반의 미국 시카고대 인공지능(AI) 교수 부부와 저녁을 같이 했다. 두 사람은 중국인으로 AI 분야에서 떠오르는 스타 교수이자 유망한 스타트업 창업자다. 남편 세 장 교수는 AI와 데이터시스템 분야의 전문가로 그의 지도교수였던 연쇄 창업가 크리스 레 스탠퍼드대 교수 등과 투게더AI를 공동창업해 최고기술책임자(CTO)를 맡고 있다. 투게더AI는 회사 가치가 12억 5000만 달러인 유니콘기업답게 AI와 데이터시스템 최적화 기술에서 독보적 깊이가 있는 스타트업이다. 그의 아내 보 리 교수는 AI 보안의 떠오르는 전문가다. 32세이던 2020년 MIT 테크놀로지 리뷰가 미국 내 35세 미만의 이노베이터로 그녀를 선정했다. 시카고대는 특별기금을 조성해 키우는 데이터사이언스 분야 교수로 부부를 초빙했다. 두 사람은 시카고대의 교수가 되고도 창업한 회사에서의 역할을 줄일 생각이 없다. 창업 활동은 교수 활동의 20%를 넘을 수 없다는 규제에 묶인 서울대 등 국내 대학에서는 상상할 수 없는 파격이다. 두 사람이 교수와 창업을 병행할 수 있는 이유는 시카고대가 2016년 데이터사이언스 프로그램을 전략적으로 키우기 위해 책임자로 초빙한 마이클 프랭클린 교수 덕분이다. 버클리의 컴퓨터사이언스 디비전 학부장이기도 했던 그는 대학의 연구로 창업해 회사의 CTO를 맡은 적이 있다. 혁신 연구와 창업의 시너지를 누구보다 잘 이해하는 그가 시카고대의 새로운 데이터사이언스 프로그램을 맡아 창업 현장에서 축적한 경험을 바탕으로 새로운 차원의 연구 결과를 만들어 낼 젊은 교수들을 데려온 것이다. 이 젊은 교수 부부가 공동창업한 회사에는 공통된 투자자와 자문역이 많다. 실리콘밸리 안에서는 누가 어떤 연구를 했고, 누가 그 연구를 창업으로 성공시켰는지, 어떤 벤처캐피털이 자본과 노하우로 도와줬는지 안다. 보이지 않는 실리콘밸리 명예의 전당인 셈이다. 파괴적 혁신을 이끄는 스타트업이 실리콘밸리에서 많이 나오는 이유는 혁신의 본질을 이해하는 벤처캐피털과 최고의 인재들이 몰리기 때문이다. 한편 AI와 반도체, 첨단기술 경쟁에서 미국의 견제를 받고 있는 중국은 명문 칭화대를 중심으로 AI 분야의 창업 열기가 뜨겁다. 중국 정부 정책의 최우선 순위가 미국과의 기술패권 경쟁에서 중국의 우위를 확보하는 것인 만큼 AI, 반도체 등 첨단기술 분야에 대한 정부 차원의 전략적 지원이 늘었을 뿐만 아니라 창업을 지원하는 벤처캐피털도 몰리고 있다. 미국과 기술패권 경쟁을 하는 시진핑 체제에서 가장 큰 수혜자는 칭화대다. 중국 내 약 300개의 거대언어모델(LLM) 스타트업 중 10개가 칭화대 출신들이 만들었다. 대표적 기업이 오픈AI 챗GPT의 중국 버전인 키미 서비스를 제공하는 문샷AI이다. 이 회사의 창업자는 1992년생 양즈린이다. 2015년 칭화대를 나와 2019년 미국 CMU에서 LLM 연구로 박사를 마쳤다. 2023년 3월 문샷을 창업하자 그의 실력과 뚜렷한 비전에 공감한 중국 벤처 자본들이 그를 지원했다. 설립 1년여 만에 알리바바, 텐센트 등의 투자를 받아 회사 가치가 30억 달러가 됐다. 한자 200만자의 텍스트를 처리할 수 있다고 발표했다. 키미의 방문자 수는 4월 처음으로 바이두의 어니봇을 추월했다. 중국 본토에서 학부를 나와 미국의 주류에 들었던 30대의 젊은 중국 엘리트들이지만 앞의 두 사람과 양즈린의 행보는 완전히 다르다. 누가 옳다고 할 수는 없지만 세 사람 모두 인류 발전을 위해 기여하고 있는 것은 사실이다. 문샷AI 외에도 칭화대에서 창업한 주푸AI가 오픈AI의 소라 같은 서비스를 만드는 등 많은 중국의 스타트업들이 엔비디아 GPU 수출 제한과 같은 미국의 견제를 뚫고 중국 자체의 AI 기술을 만들어 가고 있다. 미국과 중국의 AI를 둘러싼 기술패권 전쟁의 와중에 한국의 AI 활동은 너무나 조용하다. 최근 앤드루 응 교수를 불러 한국이 3대 AI 강국이라는 말을 했다. 하지만 세계무대에서 바라보는 한국 AI 산업의 위상은 이와는 너무나 큰 괴리가 있다. 문과가 지배하는 대한민국의 미래가 걱정된다. 차상균 서울대 데이터사이언스대학원 초대원장

SK텔레콤이 올 초 투자한 그래픽처리장치(GPU) 클라우드 회사인 ‘람다’(Lambda)와 협력해 서울 금천구 가산 데이터센터(IDC)를 GPU 전용 인공지능(AI) 데이터센터로 바꾼다. SK텔레콤은 21일 람다가 보유한 엔비디아(NVIDIA) GPU 자원을 SK브로드밴드 가산 데이터센터에 전진 배치하는 내용의 ‘AI 클라우드 공동 사업을 위한 파트너십’을 람다와 체결했다고 밝혔다. 양사는 안정적인 GPU 공급을 바탕으로 한 ‘GPUaaS’(서비스형 GPU) 사업 확대, 람다의 한국 리전(Region) 설립 등 다양한 영역에서 전략적 협업을 강화하기로 했다. 2012년 AI 엔지니어들이 설립한 람다는 엔비디아로부터 최신 GPU를 공급받아 AI 클라우드 서비스를 제공하는 GPUaaS 기업이다. 인텔, 마이크로소프트 등 글로벌 빅테크 기업들이 주요 고객사다. SK텔레콤은 최근 미국 AI 데이터센터 통합 솔루션 기업인 스마트 글로벌 홀딩스에 2억 달러 규모의 투자를 한 데 이어 람다와의 글로벌 협력으로 AI 인프라 사업에 속도를 낼 방침이다. 양사는 오는 12월 가산 데이터센터에 엔비디아 GPU ‘H100’을 배치한다. SK텔레콤 관계자는 “AI 시장 성장에 따라 국내 GPU 수요가 급등하는 것을 고려해 3년 안으로 GPU를 수천 대 이상까지 늘리고, 최신 GPU 모델인 ‘H200’도 조기 도입을 추진 중”이라고 설명했다. SK텔레콤은 가산 데이터센터를 시작으로 엔비디아 단일 GPU로 구성된 국내 최대 규모의 ‘GPU 팜’을 확충한다는 계획이다. SK브로드밴드는 GPU 서버가 안정적으로 작동할 수 있도록 가산 데이터센터의 랙 당 전력 밀도를 국내 최고 수준인 44㎾로 구현할 예정이다. 이는 국내 데이터센터 랙 당 평균 전력 밀도인 4.8㎾의 약 9배에 달한다. 오는 12월 AI 데이터센터가 구축되면 람다의 아시아태평양 지역 최초의 한국 리전으로도 기능한다. 람다 GPU 기반 AI 클라우드 서비스를 이용하는 국내 기업의 데이터는 한국 리전에 저장되게 된다. SK텔레콤은 람다 GPU 자원을 기반으로 구독형 AI 클라우스 서비스인 GPUaaS도 오는 12월 출시할 계획이다. GPUaaS는 기업 고객이 AI 서비스 개발이나 활용에 필요한 GPU를 직접 구매하지 않고 클라우드를 통해 가상 환경에서 빌려 쓰는 개념의 서비스다. SK텔레콤 관계자는 “공급이 부족하고 가격이 높은 GPU를 직접 구매하기 부담스러운 대기업이나 중소기업, 스타트업이 상대적으로 저렴한 비용에 사용할 수 있다”고 강조했다. 시장조사기관 ‘포천 비즈니스 인사이트’에 따르면 글로벌 GPUaaS 시장은 2024년 43억 1000만 달러에서 2032년 498억 4000만 달러로 성장하며, 연평균 성장률은 35.8%에 달할 것으로 예상된다. SK텔레콤은 오는 12월 GPUaaS 출시와 함께 GPU 교체 보상 프로그램, 클라우드 비용 최적화 컨설팅, AI 스타트업 지원 프로그램 등 다양한 프로모션도 선보일 계획이다. 김경덕 SK텔레콤 엔터프라이즈 사업부장은 “람다와의 전략적 협력으로 GPU를 안정적으로 확보한 것은 국내 GPU 공급 확대 측면에서 의미가 크다”며 “향후 국내 최대 규모의 GPU 팜을 구축해 국가 AI 경쟁력을 높이고 글로벌 시장 진출의 교두보로 자리매김하도록 노력할 것”이라고 했다.

한국과학기술기획평가원이 최근 6년간 국가별 인공지능(AI) 연구자와 논문 수를 파악한 결과 한국의 논문 수는 전 세계 12위, 연구자 수는 9위였다. 연구자와 논문 수 모두 세계 최강국은 중국, 인도, 미국이었다. 정부는 불과 6년 뒤인 2030년에 AI 세계 3강으로 도약한다는 목표를 밝혔지만 이를 이루기엔 지금의 연구 경쟁력이 한참 빈약해 보인다. 국내 AI 연구자들의 열악한 연구 여건은 설문조사에서도 나타난다. 연구비가 충분하지 않다는 응답이 58.1%로 충분하다(18.3%)는 답변의 세 배를 웃돌았다. 딥러닝 학습 등을 위해 AI 분야에서 기본이 되는 고성능 그래픽처리장치(GPU) 같은 컴퓨팅 자원은 항상 모자란다는 아쉬움도 있었다. 반면 미국, 중국의 연구자들은 최근 논문 수가 급증하고 자금 조달이 활발한 연구 주제인 컴퓨터 비전, 딥페이크 등에서 가장 많은 논문을 낸 상위 500명 연구자 중 각각 31.8%, 24.2%를 차지하며 저만치 앞서가고 있었다. 한국의 이 분야 연구자는 고작 5명으로 세계 16위였다. AI 산업 육성을 위한 각국 정부의 움직임도 빨라지고 있다. 미국은 해외 AI 전문가와 학생들의 미국 체류와 활동을 촉진하는 다양한 정책을 내놓고 있다. 지금도 전 세계 최고 수준의 AI 인재 75%를 보유하고 있는데도 인재 확보에 박차를 가하고 있는 것이다. 중국은 미국과의 AI 경쟁을 겨냥, 올해 과학기술 예산을 지난해보다 10% 늘린 68조원으로 책정했다. 일본은 해외 AI 인재 유치를 위해 외국인 창업 규제를 풀고 GPU도 무상 지원한다. 세계 AI 3강 목표를 이루려면 먼저 AI 연구개발 시스템부터 개선해야 한다. AI기본법 제정은 물론 연구자들이 원하는 고성능 GPU 지원 등 국가 차원의 AI 공동활용 인프라를 구축해야 한다. 이공계 대학원생의 연구환경 조성과 의료계 등 인접학문과 산업분야의 협력모델 발굴도 필요하다. 다음달 출범하는 국가AI위원회가 AI와 관련한 국가 역량을 총결집하는 역할을 하기 바란다.

기업들은 급변하는 시장 상황과 기술에 맞춰 국경 없는 경쟁을 펼치고 있습니다. 이미 우리의 일상에도 깊숙이 들어온 첨단 기술과 이를 이끄는 빅테크의 소식을 흥미롭고, 이해하기 쉽게 풀어드립니다.‘인공지능(AI)은 과연 돈이 되는가.’ AI가 모든 산업에 스며들기 시작한 올 초만 해도 AI에 대한 낙관론이 팽배했지만 시장의 인내심은 그리 오래가지 못했습니다. AI 기술 개발에 천문학적 비용을 쏟아붓고 있는 빅테크 실적이 기대에 못 미치자 ‘AI 거품론’이 슬그머니 고개를 들기 시작했습니다. 뜨겁게 달아올랐던 시장이 이제야 냉정을 되찾은 것일까요. AI 열풍의 최고 수혜주로 꼽히는 엔비디아는 AI 반도체 시장의 ‘큰 손’으로 자리매김하면서 주가가 고공행진했고 지난 6월 18일(현지시간) 시가총액 1위 자리에 오르면서 세계에서 가장 비싼 기업이 됐습니다. 당시 시총 규모는 3조 3350억 달러로 4조 달러 달성도 시간 문제처럼 보였습니다.투자자들 사이에서 엔비디아는 ‘갓비디아’(God와 Nvidia의 합성어)로 불렸습니다. 엔비디아 설립 31년 만에 역사적 기록을 쓴 젠슨 황 최고경영자(CEO)의 성공 신화도 주목받았습니다. 그랬던 엔비디아 시총은 9일(현지시간) 2조 5769억 달러로 줄었습니다. 1년 전과 비교하면 주가가 크게 올랐지만 정점을 찍고는 하락세가 완연합니다. 영국 파이낸셜타임스(FT)는 지난 2일(현지시간) 헤지펀드 엘리엇 매니지먼트가 투자자들에게 “엔비디아는 거품에 빠져 있고, 칩 제조 기업의 주가를 움직이는 AI 기술은 과대평가됐다”는 내용의 서한을 보냈다고 보도했습니다. 엘리엇은 “엔비디아가 ‘거품의 땅’에 있다”면서 그 이유 중 하나로 빅테크가 엔비디아의 그래픽처리장치(GPU)를 계속해서 대량으로 사들일지에 대해 회의적이란 점을 꼽았습니다. AI의 많은 용도가 비용 효율적이지 않고 실제 작동하지 않을 것이며 에너지를 너무 많이 쓰거나 신뢰할 수 없을 것이란 점도 덧붙였습니다.엘리엇의 서한 내용이 알려진 이후 부정적 소식이 또 전해졌습니다. 엔비디아의 차세대 칩 블랙웰 B200 출시가 설계 결함으로 당초 예정보다 지연된다는 뉴스였습니다. 정보기술(IT) 매체 디인포메이션은 3일(현지시간) 소식통의 말을 인용해 엔비디아가 마이크로소프트(MS)와 다른 1곳의 클라우드 업체에 블랙웰 B200 생산 지연 사실을 통보했다고 전했습니다. 앞서 엔비디아는 지난 3월 연례 개발자 콘퍼런스(GTC)에서 B200이 연내 출시될 예정이라고 밝혔는데 이 내용대로라면 생산 계획에 차질이 빚어졌다는 겁니다. B200은 엔비디아의 호퍼 아키텍처 기반 H100의 성능을 뛰어넘는 차세대 AI 칩으로 주요 기업들이 이 칩을 확보하기 위해 경쟁을 벌이고 있는 것으로 알려졌습니다. 한 달 전 주당 134달러(7월 10일 종가 134.91달러)가 넘은 주가는 지난 7일 뉴욕 증시에서 100달러가 무너지며 98.91달러까지 내려 앉았습니다. 그러다 하루 만에 6.13% 급등했고 이튿날인 9일 0.21% 하락하며 104.75달러에 장 마감했습니다. 주가가 널뛰기를 하는 모양새입니다.‘AI 랠리’가 끝난 것인지, 단기 조정인지는 월가 내에서도 의견이 분분합니다. 월가 비관론자들은 엔비디아가 2000년대 초반 미국 네트워크 장비업체인 시스코의 전철을 밟을 수 있다는 우려를 하고 있습니다. 시스코는 ‘인터넷 혁명’의 수혜를 입고 무서운 속도로 주가가 급상승하면서 2000년 3월 시총 1위 자리에 올랐습니다. 그러나 닷컴 버블이 꺼지면서 재고가 쌓이고 적자가 나면서 주가가 폭락했습니다. 시스코는 최근에도 감원 소식이 전해집니다. 실적 부진으로 올해 두 번째 인력 구조조정을 추진한다는 내용입니다. 로이터통신은 9일(현지시간) “시스코가 사이버 보안과 AI와 같은 빠르게 성장하는 사업으로 초점을 옮기고 있다”고 설명했습니다. 엔비디아는 시스코와 비교하면 이익 대비 주가가 크게 부풀려진 게 아닐 뿐더러 AI 수요가 단기간에 사그라들지 않을 것이란 점에서 다른 길을 걸을 것이란 의견도 적지 않습니다. 엔비디아가 단순히 GPU만 파는 회사가 아니라 이 제품을 효율적으로 사용할 수 있는 프로그램인 ‘쿠다’를 통해 AI 생태계를 구축해 왔기 때문입니다. 한 가지 분명한 건 오는 28일 엔비디아 실적 발표가 불확실성을 어느 정도 걷어낼 수 있을 것이란 점입니다. 엘리엇 서한 내용처럼 엔비디아가 부진한 실적을 발표하면 마법이 깨질 수도 있겠지만 시장 전망치를 웃도는 2분기 실적과 3분기 전망치를 발표한다면 AI 거품 논란도 일부 해소할 수 있을 것으로 투자 전문가들은 보고 있습니다.

최근 메모리 업계의 가장 큰 이슈는 단연 HBM일 것입니다. HBM은 주로 그래픽 카드에 사용되는 GDDR 메모리보다 더 빠르고 더 용량이 큰 메모리를 목표로 개발됐습니다. HBM은 여러 개의 D램을 쌓아 올리고 TSV라는 고속 통로로 연결해 대역폭과 용량 두 마리 토끼를 잡은 차세대 메모리입니다. 사실 10년 전 HBM 개발 초기만 해도 GDDR과 비교해 속도가 그렇게 빠른 것도 아니고 가격도 비싸 수요가 많은 건 아니었습니다. 하지만 GPU로 AI 연산을 하게 되면서 대용량의 고속 메모리인 HBM이 다시 주목을 받았습니다. 그리고 올해 AI 붐으로 인해 HBM 수요가 급격히 증가하면서 주요 메모리 제조사들도 사활을 걸고 개발과 양산에 뛰어들고 있습니다. 하지만 현재 주목받는 새로운 메모리 규격이 HBM 하나만 있는 것은 아닙니다. 더 빠르고 에너지 효율이 높은 메모리를 개발하기 위해 D램 자체는 물론 메모리 모듈의 규격과 인터페이스를 바꾸려는 시도가 꾸준히 이뤄지고 있습니다. 최근 메모리 관련 규격을 정하는 국제기구인 JEDEC은 차세대 서버 메모리인 MRDIMM과 차세대 노트북 메모리인 LPCAMM2 규격 표준을 곧 마련할 것이라고 발표했습니다. MRDIMM(Multiplexed Rank DIMMs)는 2022년 SK 하이닉스가 발표한 MCR-DIMM 메모리가 그 원형으로 D램의 속도를 빠르게 하는 대신 메모리 모듈에 하나씩 들어가던 메모리 랭크(rank)가 두 개 들어가 한 번에 128bit로 데이터를 전송해 속도를 두 배 높였습니다. 아직 JEDEC 표준이 완성되기 전이지만, 마이크론은 인텔과 손잡고 최신형 제온 CPU에 사용할 수 있는 MRDIMM을 개발했습니다. 마이크론이 공개한 128/256GB MRDIMM 메모리 모듈은 8800MT/s의 속도로 DDR5 메모리 초기 제품에 두 배에 달합니다. 마이크론은 12800MT/s까지 속도를 높여 나갈 계획입니다. 물론 애당초 SK 하이닉스가 먼저 개발했고 삼성전자 역시 관련 모듈을 개발한 것으로 알려진 만큼 메모리 메이저 3사가 MRDIMM에서 치열한 경쟁을 보일 것으로 예상됩니다. MRDIMM 규격에서 또 다른 흥미로운 대목은 톨(tall) 규격도 있다는 것입니다. 톨 폼펙터의 MRDIMM은 높이가 56.9mm으로 더 많은 메모리 칩을 넣을 수도 있고 같은 용량의 메모리 칩이라도 더 많은 면적이 공기와 접촉해 냉각 효율을 높일 수 있습니다. 마이크론에 의하면 톨 규격의 MRDIMM은 24% 정도 냉각 효율이 높습니다. 메모리가 빨라지고 용량이 많아지면 발열도 무시할 수 없을 정도로 커지므로 이것 역시 필요한 기능입니다. 최근 서버 CPU의 코어 숫자가 100개를 훌쩍 넘어 점점 더 많아지는 데 반해 메모리 대역폭은 그 속도를 따라가지 못하고 있기 때문에 MRDIMM이 적당한 가격으로 제때 공급될 수 있다면, 서버 메모리 시장에서 빠르게 영역을 확대해 나갈 것으로 보입니다. 또 가격이 낮아진다면 데스크톱 PC 시장에도 진출할 가능성이 있습니다. JEDEC은 MRDIMM 표준화에 이어 아직 널리 보급이 되지 않은 노트북 메모리 규격인 LPCAMM(Low Power Compression Attached Memory Module) 혹은 CAMM의 2세대 규격 표준안 마련에도 나서고 있습니다. CAMM 규격은 주로 스마트폰이나 태블릿에 사용되는 LPDDR 메모리를 일반 노트북에서도 사용할 수 있게 만든 것으로 기존의 SO-DIMM 메모리보다 크기는 40% 작고 효율은 70%나 높였습니다.CAMM2 규격은 특이하게도 이미 출시한 LPDDR5 메모리만이 아니라 아직 나오지 않은 LPDDR6 메모리도 지원합니다. LPDDR6 CAMM2 메모리 모듈은 현재의 128bit 메모리 인터페이스 대신 50% 더 넓은 192bit 메모리 인터페이스를 사용할 수 있습니다. 따라서 현재 노트북에 사용하는 LPDDR5 CAMM 메모리나 일반 DDR5 메모리보다 50% 더 높은 14.4GT/s 대역폭을 확보할 수 있습니다. 물론 이를 위해서는 CPU가 192bit 메모리 인터페이스를 사용할 수 있어야 합니다. 따라서 LPDDR6 CAMM2 메모리 모듈은 당장에는 도입이 어렵습니다. 하지만 삼성과 SK 하이닉스 모두 LPDDR6 상용화를 준비 중이고 CPU 제조사들도 이에 맞춰 신형 CPU를 설계할 것이기 때문에 생각보다 가까운 미래에 LPDDR6 CAMM2 메모리를 볼 수 있게 될지도 모릅니다. 낮은 전력 소모와 기존의 DDR5가 넘보기 힘든 속도를 생각하면 2세대부터 CAMM 메모리 보급에 탄력이 붙을 가능성도 있습니다. 만약 LPDDR6 CAMM2 메모리가 보급된다면 가장 큰 이득을 볼 수 있는 부분은 내장 그래픽입니다. CPU에 내장된 iGPU는 CPU와 메모리를 공유하기 때문에 낮은 메모리 대역폭에 발목이 잡혀 제 속도를 내기 힘들었습니다. LPDDR6 CAMM2 메모리는 이런 성능 제약을 크게 줄여 노트북 그래픽 성능을 한 단계 높일 수 있습니다. 데스크톱 PC와 서버에 사용되는 DIMM 규격과 노트북에 사용하는 변형 규격인 SO-DIMM은 지난 수십 년간 외형에 큰 변화 없이 사용되었습니다. 하지만 이제 시대의 변화에 맞춰 오래된 규격을 바꾸고 성능을 한 단계 더 업그레이드할 때가 됐습니다. 워낙 많이 보급된 표준 규격인 DIMM이 바로 사라지진 않겠지만, 미래에는 더 다양한 메모리 규격과 제품을 볼 수 있게 될 것입니다.

대구시가 인공지능(AI) 반도체 산업 육성을 위해 전문 기업들과 손을 맞잡았다. 대구시는 24일 오후 시청 산격청사에서 퓨리오사AI, 딥엑스, 모빌린트 등 국내 AI 반도체 관련 업체 6곳과 ‘AI 반도체 산업 육성 및 대구 반도체 산업역량 강화를 위한 업무협약’을 체결했다. 협약에 참여하는 기관·기업은 국산 AI 반도체 실증에서부터 반도체 소프트웨어(SW) 개발, 반도체 SW 센터 구축, 인력 양성 등 전방위적인 협력체계 구축에 나서기로 했다. 협약에 참여한 업체들은 엔비디아가 시장을 장악하고 있는 그래픽처리장치(GPU)보다 속도는 빠르고 전력 소모는 적은 신경망처리장치(NPU) 개발하고 있다. 따라서 앞으로 해외 시장 진출을 위한 실증 레퍼런스가 조기에 확보되면 글로벌 대표 팹리스 기업으로 성장할 전망이다. 대구시는 이들 기업이 개발한 NPU가 조속히 상용화할 수 있도록 AI데이터센터 건립 등 정부지원과제를 연계할 예정이다. 또한 동대구 벤처밸리에 AI 반도체 SW 지원센터를 구축하는 등 AI 반도체 산업 육성을 적극 지원할 방침이다. 올해 하반기에는 지능형 반도체 설계지원센터를 개소할 예정이며, 반도체 마이스터고에서 특성화 대학, 대학원에 이르는 반도체 혁신인재 양성 시스템도 완비하고 있다. 홍준표 대구시장은 “대구는 반도체 수요와 기업 성장에 필요한 우수 인재를 갖춘 도시”라며 “AI 반도체 산업이 거대 남부 경제권을 견인하는 새로운 성장동력이 될 수 있도록 적극 지원하겠다”고 말했다.

“앞으로 2~3년 안에는 엔비디아의 적수가 없다고 봅니다. 엔비디아가 부서지지는 않을 것입니다.” 최태원 대한상공회의소 회장은 19일 제주 신라호텔에서 진행 중인 대한상의 제주포럼 3일차 토크쇼 ‘AI 시대, 우리 기업의 도전과 미래 비전’에서 미국 반도체 기업 엔비디아의 막강한 영향력이 지속될 것으로 내다봤다. 이날 토크쇼는 최 회장과 최수연 네이버 대표, 정송 카이스트 김재철AI대학원 원장이 참여하는 대담 형식으로 진행됐다.최 회장은 SK하이닉스는 물론 SK그룹 차원에서 협력 강화를 모색하고 있는 엔비디아와 관련해 “(엔비디아가) 이점을 가지고 있던 게 GPU(그래픽처리장치)인데 그래픽을 다룬다는 건 AI 연산과 같은 얘기”라면서 “소프트웨어도 상당히 발전해 있어 하드웨어를 똑같이 만든다고 하더라도 그걸 구동하는 소프트웨어를 만들 방법이 없다”고 소개했다. 최 회장은 이어 “다만 AI를 가지고 돈을 버는 모델이 뭐냐가 정확히 나오지 않고 있다”며 “개인이든 기업이든 돈을 지불하는 게 안 된다고 하면 다른 종류의 칩이나 형태가 필요하기 때문에 엔비디아가 무너질 공산도 있다”고 했다. 또한 “엔비디아의 칩을 쓰는 MS(마이크로소프트)나 구글, 아마존도 칩을 따로 만들고 있다. 그들의 경쟁력이 올라오느냐에 따라, 또 AMD 등이 싸게 만들 수 있느냐에 따라 엔비디아가 (압도적 점유율에서) 부서질 수 있을 것”이라고 설명했다. 최 회장은 또 SK와 같은 반도체, 에너지 기업이 돈을 벌기 위해서는 네이버의 성공 등 ‘AI 골드러시’가 지속해야 한다고 강조했다. 그는 “AI라는 금을 캐기 위해 골드러시 도전을 하는데 그 과정에서 청바지, 곡괭이를 파는 기업이 돈을 벌었고 그게 엔비디아와 SK하이닉스 등의 기업”이라고 비유하며 “금이 안 나오면 곡괭이를 팔지 못하고 골드러시는 사라질 수 있다. 결국, 네이버 같은 기업이 AI에 성공하고 돈을 벌어야 우리 같은 장비를 만드는 기업이 성공하는 데 그게 SK의 전략”이라고 했다. 최수연 네이버 대표는 최근 비영어권 지역에서 자체 AI 모델 구축 수요가 증가하고 있음을 언급하며 우리나라가 이를 기회로 삼아 AI 기술 리더십을 갖게 될 것이라고 전망했다. 특히 네이버가 자국어 중심의 AI 모델을 개발한 경험을 가진 만큼 주도적인 역할을 할 것이라고 강조했다. 최 대표는 “자국 언어를 중심으로 초거대 생성형 AI 모델을 ‘프롬 스크래치(맨 처음 단계부터)’로 개발해 서비스 전반 적용까지 나아간 사례는 중국을 제외하면 아시아에선 한국이 실질적으로 유일하다”고 말했다.최 대표는 이어 “네이버는 자국어 중심 모델을 개발했던 경험과 노하우를 바탕으로 세계 여러 나라들이 소버린 AI를 확보할 수 있게 지원할 것”이라며 “각 지역의 문화와 가치를 보다 강력하게 반영한 자체 소버린 AI 확산을 위해 여러 국가 및 기업들과 파트너십을 구축할 것”이라고 밝혔다. 또 “AI 인프라·데이터·서비스 등 다양한 영역에서 공통 목표를 가진 기업들과 협력관계를 구축해 글로벌 소버린 AI 생태계를 함께 확장해나갈 계획”이라고 덧붙였다. 최 대표는 최근 젠슨 황 엔비디아 최고경영자(CEO)를 만나 나눈 대화 일부도 소개했다. 그는 “각 나라의 언어와 맥락을 잘 이해하는 AI 모델이 필요하다는 점을 황 CEO도 이해하고 있다”며 “혼자 힘으로 되는 것이 아니기 때문에 칩 제조사와 국가, 통신사, 소프트웨어 기업들이 힘을 합쳐 소버린AI를 만들어보자고 했다”고 말했다. 정송 카이스트 김재철 AI대학원장은 대담에 앞선 발표에서 “과거 인공지능은 기계에 지식을 알려주는 것이었다면 지금은 인간 뇌의 신경망 구조를 수학적으로 모델링해 기계가 스스로 깨닫게 한다. 데이터 기반의 학습이자 현재 인공지능 개념으로 이게 지금의 성공을 불러왔다”고 말했다.

SK텔레콤(SKT)은 글로벌 인공지능(AI) 기업으로의 도약을 위해 사활을 걸고 있다. SKT는 최근 덴마크 코펜하겐에서 도이치텔레콤과 e&, 싱텔, 소프트뱅크 등과 ‘글로벌 텔코 AI 얼라이언스’ 합작법인 설립을 위한 본계약을 체결했다. 이 얼라이언스는 총 13억명의 가입자를 보유한 유럽과 중동, 아시아의 대표 통신사들이 협력하는 것으로, AI를 통해 통신 분야의 혁신을 목표로 하고 있다. 또 SKT는 미국 실리콘밸리에서 한국계 AI 스타트업들을 결집한 ‘K-AI 얼라이언스’를 확대했다. 현재 몰로코와 베스핀글로벌, 팬텀AI 등 총 18개 회사가 참여하고 있다. SKT는 한국의 AI 스타트업들이 글로벌 무대에서 두각을 나타낼 수 있도록 지원을 아끼지 않고 있다. 전략적 AI 투자도 활발히 진행 중이다. 미국의 생성형 AI 검색엔진 스타트업 퍼플렉시티에 1000만 달러를 투자했으며 AI 데이터센터 사업을 위한 GPU 클라우드 회사인 람다에도 투자했다. AI 데이터센터는 AI 학습과 추론에 필요한 GPU 서버와 안정적 운영을 위한 인프라를 제공한다. SKT는 이를 통해 AI 연구와 개발을 위한 최적의 환경을 조성하고 있다. SKT는 AI 인재 확보에도 적극적이다. 실리콘밸리에서 ‘SK AI 포럼 2024’에 유영상 최고경영자(CEO)를 비롯해 AI 사업부장 등 경영진 10여명이 직접 참석할 정도로 AI 인재 확보에 사활을 걸고 있다. SKT의 AI 피라미드 전략은 AI 인프라, AIX, AI 서비스 3대 영역을 중심으로 AI 기술을 고도화하고 서비스 역량을 강화해 글로벌 통신사와 협력하는 모델이다. SKT 관계자는 “우리는 글로벌 통신 산업을 혁신하고 AI 시장에서의 경쟁력을 강화하려 하고 있다”면서 “앞으로도 지속적인 투자를 통해 AI 기술을 선도하고 글로벌 AI 컴퍼니로서 입지를 확고히 다질 계획”이라고 강조했다.

SK텔레콤이 인공지능(AI) 분야 최대 규모 투자를 벌이며 국내외 AI 데이터센터 시장 공략에 나섰다. SK텔레콤은 미국 AI 데이터센터 통합 솔루션 업체 ‘스마트 글로벌 홀딩스’(SGH)와 2억 달러(약 2772억원) 규모의 전환우선주 투자 계약을 체결했다고 16일 밝혔다. SK텔레콤은 향후 보통주 전환을 통해 약 10% 수준의 지분을 확보할 예정이다. 미국 실리콘밸리에 본사를 둔 SGH는 대규모 그래픽처리장치(GPU) 서버로 구성된 AI 클러스터를 설계, 구축, 운영하는 AI 데이터센터 통합 솔루션 전문 기업이다. 2017년 나스닥에 상장한 SGH는 지난해 매출 약 14억 4000만 달러(2조원) 규모로 현재 GPU 누적 구축 규모는 7만 5000개에 달한다. 2023년 ‘메타’의 GPU 1만 6000개 규모의 ‘리서치 슈퍼 클러스터’ 등 글로벌 기업의 대규모 AI 클러스터를 구축했다. 양사는 올해 협력 파트너십을 추가로 체결해 AI 데이터센터와 ‘엣지 AI’, 미래 메모리 솔루션 등 AI 인프라 사업 영역 전반에 걸친 협력을 보다 구체화할 방침이다.국내외 AI 데이터센터 시장 진출을 추진 중인 SK텔레콤은 데이터센터 관리 시스템과 액침 냉각 등 솔루션에 SGH의 AI 클러스터 구축, 운영 역량을 더한 시너지 효과를 기대하고 있다. 앞서 SK텔레콤은 2023년 ‘AI 피라미드 전략’을 발표한 후 AI 밸류체인 3대 영역인 AI 반도체, AI 인프라, AI 서비스 영역에 대한 투자를 이어 왔다. 지난해부터 AI 분야에 투자한 금액만 3억 달러(4158억원)를 넘어섰다. 미국 생성형 AI 기업 ‘앤트로픽’(1억 달러), GPU 클라우드 기업 ‘람다’(2000만 달러), 생성형 AI 검색엔진 신생기업 ‘퍼플렉시티’(1000만 달러) 등이다. 유영상 SK텔레콤 최고경영자(CEO)는 “SGH에 대한 투자와 협력은 AI 인프라 밸류체인에 대한 경쟁력을 공고히 다질 기회”라면서 “AI 변혁의 시대를 맞아 선제적인 투자와 협력을 지속해 글로벌 수준의 AI 인프라 사업 리더십을 확보할 것”이라고 말했다.

우크라이나 전쟁의 향방과는 관련 없이 서방의 강력한 제재로 인해 러시아 IT 산업의 미래는 극히 어두워졌다는 것이 일반적인 평가입니다. 구소련 시절부터 IT 분야에서 서방에 크게 뒤처진 데다, 구소련 붕괴 이후 러시아 경제가 회복될 때도 석유와 천연가스처럼 풍부한 자원을 통해 경제를 성장시켜 반도체 같은 IT 산업은 크게 낙후되었기 때문입니다. 따라서 우크라이나 침공 후 서방의 강력한 제재로 반도체 수입이 중단되자 러시아 정부는 부랴부랴 자체 반도체 산업을 키우기 위해 노력하고 있습니다. 러시아에는 앙스트렘(Angstrem)이나 미크론(Mikron) 같은 자체 반도체 생산 기업이 있기는 하지만, 이들은 서방에서 들여온 장비를 이용해 90nm에서 250nm 같은 오래된 공정 제품밖에 생산할 수 없어 이제까지 수입해 온 반도체를 대체 생산하기에는 턱없이 부족합니다. 그러나 2년 전 러시아 정부는 2030년까지 4200억 루블(6조 4000억원)을 투자해 28nm 공정 팹을 확보한다는 야심 찬 계획을 발표했습니다. 삼성전자, TSMC, 인텔이 2-3nm 팹을 건설하거나 양산하는 점을 생각하면 계획대로 된다고 해도 서방보다 크게 뒤처진 셈이지만, 강력한 제재에도 굴하지 않고 자체 IT 인프라를 갖추겠다고 선언한 것입니다. 다만 러시아는 광학리소그래피 장치처럼 반도체를 만드는 데 필요한 핵심 장비 제조 기술이 없어 실현 가능성에 대해서는 많은 의구심이 있었습니다. 최근 러시아 산업 통상부의 바실리 쉬파크 차관은 타스 통신과의 인터뷰에서 러시아의 첫 리소그래피 장치가 모스크바 북서쪽에 있는 젤레노그라드에서 테스트 중이라고 언급했습니다. 참고로 젤레노그라드는 러시아 반도체 생산기업 미크론의 주요 생산 시설이 있는 곳으로 러시아의 실리콘 밸리로 불리는 도시입니다. 다만 이 리소그래피 장치는 최신 반도체 공정과는 거리가 먼 350nm 공정 장비입니다. 350nm 공정은 인텔이 1995-1997년 사이 펜티엄 MMX, 펜티엄 프로, 펜티엄 II 프로세서를 제조하는 데 사용했으며 비슷한 시기에 AMD K6 프로세서도 350nm 공정에서 양산됐습니다. 따라서 테스트를 통과해 실제 팹을 건설할 수 있다고 해도 거의 30년이나 오래된 기술인 셈입니다. 누가 이 장치를 만들었고 어떻게 연구를 진행하고 있는지에 대해서는 아무 언급이 없었지만, 과거 방식을 생각하면 기존에 수입한 리소그래피 장비 중 현재는 사용하지 않는 구형 장비를 분해한 후 이를 카피해서 복제품을 만들었을 가능성이 있습니다. 사실 과거 구소련의 CPU들이 대개 이런 역설계 방식으로 만들어졌고 현재 러시아가 생산하는 엘브루스 같은 토종 x86 CPU 역시 미국 기업의 기술에 기반해 만들어졌습니다. 아무튼 현재 러시아 미크론도 90nm에서 250nm 팹을 지니고 있는 만큼 당장 350nm 리소그래피 장치가 큰 이득을 제공할 것 같지는 않습니다. 다만 더 미세한 공정에 도전하기 위한 기초 기술을 제공할 수 있습니다. 이번에 350nm 리소그래피 장비 테스트에 성공한다면 다음엔 250nm 같은 더 현실적인 미세 공정에 도전할 것으로 보입니다. 러시아의 반도체 자력갱생 노력은 역설적으로 글로벌 경제 시대에 혼자서 독자 생존이 어렵다는 점을 보여주고 있습니다. IT 산업 역시 글로벌 경제의 분업에 따라 여러 나라의 협력으로 발전하고 있기 때문입니다. 예를 들어 우리나라는 네덜란드의 ASML이 만든 리소그래피 장치를 수입해 반도체 팹을 건설하고 여기서 만들어진 메모리 반도체는 전 세계 컴퓨터와 스마트폰에 장착됩니다. 또 AMD와 인텔 CPU는 미국과 전 세계에 있는 팹에서 생산된 후 중국과 다른 나라에 있는 생산 공장에서 노트북 및 데스크톱 컴퓨터에 장착됩니다. 엔비디아의 GPU 역시 대만 TSMC에 의해 제조된 후 중국의 공장에서 그래픽 카드에 장착되어 전 세계로 팔려 나갑니다. 이런 글로벌 공급망에서 배제된 국가가 독립적으로 비슷한 수준의 생산 능력과 기술을 갖추는 일은 매우 어렵습니다. 이는 단지 IT 산업만의 이야기가 아니기 때문에 전쟁 이후 러시아 산업의 미래는 밝지 않아 보입니다.

인공지능(AI) 시장에서 뒤처지고 있다는 평가를 받는 애플이 신형 아이패드 프로에 AI 전용의 고성능 M4칩을 탑재하면서 AI 기술 경쟁에 본격적으로 뛰어들었다. 최근엔 데이터센터용 반도체 자체 개발에도 착수한 것으로 알려지면서 AI 시장 전반에 파장이 일 것으로 보인다. 애플은 7일(현지시간) 온라인으로 ‘렛 루즈’ 행사를 열어 신형 아이패드 프로(11·13인치)와 에어를 공개했다. 새로운 아이패드가 출시된 건 2022년 10월 이후 약 18개월 만으로 아이패드 프로는 아이패드 시리즈 중 최고급형에, 에어는 고급형에 해당한다. 아이패드 프로와 에어는 이날부터 미국 등 29개 국가에서 주문할 수 있고 오는 15일부터 매장에 전시된다. 우리나라 출시 일정은 아직 알려지지 않았다. 시장에서 주목하는 건 아이패드 프로 모델에 탑재된 M4로 애플은 해당 칩에 대해 “강력한 인공지능을 위한 칩”이라고 소개했다. 2세대 3나노미터(㎚·10억분의1m) 공정으로 제작한 시스템온칩(SoC)인 M4는 기존 프로에 적용되던 M2는 물론 애플의 최근 노트북에 사용되는 M3보다 앞선 칩으로 AI 성능 향상에 방점이 찍혔다. 차세대 기계학습 가속기를 갖추고 있는 10코어 중앙처리장치(CPU) 성능은 기존 M2보다 1.5배 향상된 속도를 갖췄으며, 그래픽처리장치(GPU)의 성능도 최대 4배 빠르다는 게 애플 측의 설명이다. 전력 효율성을 높이는 데도 성공해 전력을 절반만 써도 M2와 동일한 성능을 제공할 수 있다.특히 애플의 가장 빠른 ‘뉴럴 엔진’을 탑재해 초당 38조 회에 달하는 연산 처리 기능을 갖췄는데, 이는 AI 기계 학습을 가속화한다. 뉴럴 엔진은 애플이 AI 소프트웨어를 위한 신경망을 최적으로 실행하기 위해 만든 특수 하드웨어로, 애플의 최초 뉴럴 엔진(A11 바이오닉 칩)에 비해 속도가 60배나 빠르다. 팀 밀레 애플 플랫폼 아키텍처 담당 부사장은 “뉴럴 엔진과 M4칩은 오늘날 어떤 AI PC의 신경망처리장치(NPU)보다 강력하다”고 말했으며, 조니 스루지 애플 하드웨어 기술담당 수석부사장도 “M4가 AI를 활용하는 최신 앱에 최적화된 칩으로 자리잡았다”고 설명했다. 부진했던 아이패드 판매를 늘리기 위해 AI 기능 최적화에 초점을 맞춘 제품을 내놓은 애플은 이를 통해 실현될 수 있는 AI 서비스에 대해서는 따로 언급하지 않았다. 오는 6월 10일부터 닷새 동안 열리는 세계개발자회의(WWDC)에서 차세대 아이폰 운영체제(iOS18) 등 소프트웨어에 탑재될 생성형 AI 기능 일부를 선보일 것으로 예상된다. AI 기반의 시리(Siri)를 공개하거나, 구글 혹은 오픈AI와 파트너십을 맺고 이를 공개할 가능성이 높다. 팀 쿡 CEO는 이날 영상 막바지에서 “다음달 WWDC에서 다시 만나길 기대하겠다”며 “우리 플랫폼의 미래를 논하고 앞으로 다가올 흥미진진한 일을 공유하도록 할 것”이라고 예고했다. 한편 애플은 최근 초거대 AI 서비스를 위한 데이터센터용 반도체 자체 개발에도 착수했다. 지난 6일 월스트리트저널(WSJ)에 따르면 애플은 최근 ‘ACDC’라는 이름의 프로젝트를 통해 AI 데이터센터 서버용 자체 칩을 개발 중이다. 애플이 설계하고 파운드리(반도체 위탁생산) 파트너인 대만 TSMC가 생산을 맡을 것으로 알려졌다. 애플은 이번 AI칩을 AI 학습용이 아닌 추론에 특화된 칩으로 개발할 것으로 보인다. AI칩은 학습용과 추론용으로 나뉘는데, 최근 학습에서 추론으로 무게중심이 옮겨 가고 있다. 삼성전자 역시 최근 추론용 칩 ‘마하-1’을 공개하며 추론 시장에서 빅테크 고객사를 확보하기 위해 속도를 내고 있다.

인공지능(AI) 반도체에 필수적으로 탑재되는 고대역폭 메모리(HBM)가 내년 전 세계 D램 매출의 30% 이상을 차지할 것이란 전망이 나왔다. HBM 시장을 주도하고 있는 국내 반도체 기업 실적도 고가의 HBM 덕분에 빠르게 개선될 것으로 보인다. 7일 대만 시장조사업체 트렌드포스에 따르면 HBM 판매 단가는 내년 5~10% 오를 것으로 예측됐다. 글로벌 D램 시장에서 HBM이 차지하는 비중(매출 기준)은 지난해 8%에서 올해 21%, 내년 30% 이상으로 크게 늘어날 전망이다. 트렌드포스는 “HBM의 판매 단가는 기존 D램의 몇 배, DDR(더블데이터레이트)5의 약 5배에 달한다”면서 “D램 전체 생산 능력이 제한돼 있어 공급업체들이 가격을 5~10% 인상했다”고 설명했다. 다만 현재 시장은 HBM 구매 업체들이 안정적이고 우수한 품질의 제품을 확보하기 위한 차원에서 가격 인상을 수용한 측면이 강하다. 앞으로는 공급 업체의 신뢰성, 공급 능력에 따라 HBM의 가격이 달라질 수 있다는 게 트렌스포스의 설명이다. 3분기 본격적으로 열리는 5세대 HBM(HBM3E) 시장에서 국내 업체들이 주도권을 잃지 않으면서도 수익성을 최대한 높이려면 수율(합격품 비율) 개선은 피할 수 없을 것으로 보인다. 지난해 4세대 HBM(HBM3) 시장에서 점유율 90% 이상을 차지한 SK하이닉스도 HBM3E 12단 제품을 놓고는 경쟁사인 삼성전자와 치열한 싸움이 불가피할 전망이다. HBM3E 12단 제품을 업계 최초로 개발해 기술력을 과시한 삼성전자는 AI 반도체 시장의 ‘큰손’인 엔비디아의 문을 두드리고 있다. 다음달 안에 HBM3E 12단 제품을 양산한다는 목표를 세우고 수율 향상을 위해 인력도 대거 투입했다. 엔비디아의 까다로운 품질 테스트를 통과한다면 고용량 HBM 시장에서 판을 뒤집을 수도 있다. 삼성전자가 올해 HBM 판매 수량의 3분의2 이상을 HBM3E로 채우겠다고 한 것도 이런 기대가 담긴 것으로 풀이된다. 이에 SK하이닉스는 이달 HBM3E 12단 샘플을 제공하고 양산 시점도 3분기로 앞당기면서 삼성에 주도권을 내주지 않겠다는 뜻을 분명히 했다. 내년부터는 6세대 HBM으로 불리는 HBM4를 둘러싼 경쟁도 치열할 것으로 보인다. SK하이닉스는 파운드리 1위 업체인 대만 TSMC와 손잡고 맞춤형 개발에 나서겠다는 전략이다. 이에 맞서 삼성전자는 차세대 HBM 개발을 위해 메모리, 파운드리, 시스템LSI, 어드밴스트 패키징 사업 역량을 총동원하기로 했다. HBM을 이을 제품으로 떠오른 컴퓨트 익스프레스 링크(CXL) 개발을 놓고도 두 업체 간 경쟁이 본격화됐다. CXL은 중앙처리장치(CPU)·그래픽처리장치(GPU)·메모리 등을 효율적으로 사용하기 위해 만들어진 인터페이스다. 신도시에 만들어진 8차선 도로처럼 깔끔하게 정비돼 ‘병목 현상’ 없이 대량의 데이터를 빠르게 처리할 수 있어 AI 시장의 핵심 기술로 주목받고 있다. 한편 이날 삼성전자 주가는 직전 거래일보다 4.77% 오른 8만 1300원, SK하이닉스는 3.70% 오른 17만 9600원에 마감했다.

차세대 인공지능(AI) 메모리 반도체인 6세대 고대역폭메모리 ‘HBM4’ 개발을 놓고 국내 업체 간 주도권 경쟁이 치열하다. 삼성전자는 자체 기술력, SK하이닉스는 파운드리(위탁생산) 1위인 대만 TSMC와의 협업으로 성능의 한계를 돌파한다는 전략이다. 2026년 HBM4 양산을 앞두고 두 업체가 얼마나 많은 고객사를 확보하느냐가 관건이 될 것으로 보인다. 21일 업계에 따르면 삼성전자는 지난 2월 D램 칩을 12단까지 쌓아 올린 5세대 HBM(HBM3E)을 가장 먼저 개발한 데 이어 HBM4에는 16단 기술을 도입한다는 계획이다. D램 칩을 수직으로 많이 쌓을수록 용량과 대역폭(메모리의 데이터 전송 속도)이 늘어난다. 대역폭이 높을수록 한번에 처리할 수 있는 데이터의 양이 많아지기 때문에 고성능 메모리를 요구하는 인공지능(AI) 반도체 업체로부터 선택받을 확률도 커진다. 다만 HBM 제품의 전체 두께는 고정돼 있는 상황에서 층수를 높이는 거라 조립 난도가 높아지고 열 저항이 커지는 문제가 발생한다. 메모리와 파운드리 역량을 결집해 차세대 HBM 전담팀을 구성한 삼성전자는 자체 기술력으로 이 한계를 극복하면서 수율을 극대화한다는 전략이다. 윤재윤 삼성전자 D램개발실 상무는 지난 18일 삼성전자 뉴스룸 인터뷰에서 16단 도입 계획을 밝히며 “HBM 칩 1개라도 불량이 발생하면 AI 서비스가 그 순간 멈출 수 있기 때문에 HBM의 품질을 완벽하게 보증할 수 있는 설계·테스트 기술을 확보하는 게 중요하다”고 강조했다. 이에 맞서 SK하이닉스는 파운드리 1위 업체인 대만 TSMC와의 협업 카드를 꺼내 들었다. SK하이닉스는 5세대 HBM까지는 자체 공정으로 HBM의 두뇌 역할을 하는 ‘베이스 다이’를 만들었는데, 6세대부터는 TSMC가 보유한 초미세 선단 공정을 활용한다는 것이다. 베이스 다이는 HBM 제품의 바닥 부분으로 그래픽처리장치(GPU)와 연결돼 HBM을 통제하는 역할을 한다. TSMC의 패키징 방식(CoWoS)과 SK하이닉스의 HBM 기술 결합을 최적화해 HBM 관련 고객사 요청에도 공동 대응한다는 방침이다. 업계에선 두 업체가 HBM 설계·생산부터 함께하면 맞춤형 설계 요구에 대응하기 수월해져 이들의 고객사인 엔비디아와의 공조 체제도 더 강화될 것으로 본다. 김양팽 산업연구원 전문연구원은 “메모리와 파운드리 업체 간 협력은 (기존에) 없었던 모델”이라면서 “이러한 협업으로 SK하이닉스가 TSMC의 고객사까지 확보가 용이해졌다는 점은 주목할 만하다”고 말했다.

지난 인텔 비전 2024 행사에서 인텔이 내세운 표어는 어디서든 AI(AI Everywhere)이었습니다. 팻 겔싱어 인텔 CEO는 기조연설 초반에 올해 하반기에 출시할 노트북 및 태블릿 PC CPU인 루나 레이크 실물과 함께 AI 연산 능력을 세 배나 높였다고 공개했습니다. (사진) 루나 레이크의 AI 연산 능력은 100TOPS 이상입니다. 앞서 마이크로소프트는 코파일럿 같은 AI 서비스를 클라우드 기반이 아니라 기기에서 바로 사용하기 위해서 적어도 40TOPS 이상의 AI 연산 능력이 필요하다고 언급했습니다. 이는 현재 인텔의 최신 CPU인 메테오 레이크(코어 울트라)는 물론 경쟁자인 AMD의 라이젠 모바일 호크 포인트 CPU 단독으로는 충족시키기 어려운 기준입니다. 작년 말 출시된 메테오 레이크는 소비자용 인텔 CPU로는 처음으로 인공지능 연산을 위한 NPU를 탑재했지만, NPU 자체의 연산 능력은 11TOPS로 그렇게 높지 않습니다. 18TOPS의 연산 능력을 지닌 GPU와 5TOPS의 연산 능력을 지닌 CPU를 모두 사용하면 34TOPS의 AI 연산 능력을 확보할 수 있습니다. 하지만 CPU와 GPU를 AI 연산 전용으로 자원을 할당하기 어렵기 때문에 마이크로소프트의 AI 컴퓨터 기준과 턱없이 모자라는 수준입니다. 이날 발표에서 인텔이 다른 성능과 재원은 언급하지 않으면서도, 루나 레이크의 AI 연산 능력만큼은 강조한 데는 이런 배경이 있습니다. 최근 AI에 대한 관심이 집중되면서 프로세서 업계도 결국 AI에 사활을 걸어야 한다는 위기의식이 커지고 있습니다. 특히 인텔은 AI에 남들보다 늦게 뛰어든 만큼 빠른 속도로 경쟁자를 추격하기 위해 집중적인 연구와 투자를 한 것으로 보입니다.한 가지 더 흥미로운 정보는 루나 레이크의 AI 연산 능력에서 NPU가 담당하는 부분은 45TOPS 정도라는 것입니다. 따라서 나머지 55TOPS 이상이 CPU와 GPU에서 나와야 합니다. CPU의 AI 연산 능력이 획기적으로 커지기는 어렵다는 점을 생각할 때 루나 레이크의 GPU의 AI 연산 능력도 대폭 향상되는 것으로 추정할 수 있습니다. 루나 레이크의 CPU 구조에 대해서는 알려진 바가 적지만, GPU는 2세대 Xe 아키텍처인 아크 배틀메이지(Arc battlemage)를 사용한다고 알려져 있습니다. 1세대 Xe GPU도 AI 기반 업스케일링 기술인 XeSS를 지원하기 위한 AI 연산 능력을 지니고 있기 때문에 2세대 아키텍처와 더 앞선 미세 공정을 적용했을 경우 18TOPS보다 몇 배 높은 AI 성능을 확보할 수 있을 것으로 예상할 수 있습니다. 루나 레이크의 구체적인 모습은 실물이 공개되어야 알 수 있겠지만, 인텔이 새 모바일 CPU를 공개하면서 AI 성능을 가장 먼저 부각시킨 점이 의미심장합니다. 이것 하나만으로도 현재 IT 업계의 대세가 AI라는 점을 다시 한번 느낄 수 있습니다. 세계 최대의 CPU 제조사도 AI 없이는 도태된다는 위기의식이 반영된 결과로 보입니다. 아마도 이런 위기의식은 경쟁자인 AMD도 똑같이 느끼고 있을 것입니다. 따라서 올해 새로 공개할 제품군에 더 강력한 AI 연산 유닛을 넣으려고 할 가능성이 높습니다. 애플도 새로 공개할 M4 시리즈 프로세서의 AI 성능을 대폭 높인다는 소문도 들립니다. 앞으로 수년간 프로세서의 AI 성능은 비약적으로 발전할 가능성이 높아 보입니다.

최근 글로벌 반도체 산업이 천문학적인 보조금 지급을 앞세운 ‘쩐의 전쟁’으로 격화하고 있는 가운데 우수 인재 유치를 위한 기업들의 노력도 확대되고 있다. 반도체 시장은 생성형 인공지능(AI)을 비롯한 AI 반도체 수요 급증에 따라 이를 연구·개발(R&D)할 인력 확보가 곧 기업 미래 경쟁력으로 꼽히면서 반도체·AI 분야에 강점을 보이는 주요 대학과 기업의 파트너십이 속속 이어지는 분위기다.AI 반도체 절대 강자로 꼽히는 미국 엔비디아는 미 조지아공과대학교와 협력해 AI 슈퍼컴퓨터 허브인 ‘AI 메이커스페이스’를 선보인다고 11일(현지시간) 밝혔다. 엔비디아와 조지아공대는 애초 이번 프로젝트를 학부생들이 활용할 수 있는 방향으로 개발에 착수했으나, AI 반도체와 AI 기술 전반이 급변하면서 조지아공대 전체 학생들의 AI 기술을 심화하고 차세대 AI 시스템 전문가 양성을 목표로 계획을 변경했다. 라힘 베야 조지아공대 학과장은 “AI 메이커스페이스의 출시는 조지아공대의 교육 혁신과 리더십의 또 다른 이정표다”라면서 “엔비디아의 첨단 기술과 전문성 덕분에 모든 수준의 학생들이 빠르게 진화하는 AI 분야에 기여하고 선도할 수 있는 길을 열었다”고 말했다. AI 메이커스페이스는 20개의 엔비디아 HGX H100 시스템으로 구동된다. 여기에는 고급 AI와 머신 러닝 작업을 지원하는 컴퓨팅 가속기 중 하나인 엔비디아 H100 텐서 코어 GPU가 160개 탑재된다. 엔비디아 H100 GPU의 연산 성능은 조지아공대 5만여명의 학생이 22년 동안 수행해야 하는 곱셈 연산을 단 한 대로 1초 만에 해낼 수 있는 수준이다.고대역폭 메모리(HBM)를 비롯해 AI 반도체 기술 투자를 강화하고 있는 SK하이닉스가 첫 미국 생산기지 부지를 인디애나로 결정한 배경에는도 현지 고급 인력과의 협업 및 인재 확보라는 전략이 깔려있다. SK하이닉스는 지난 3일 인디애나 북서부 교육도시 웨스트라피엣에 38억 7000만 달러(약 5조 2200억원)를 들여 어드밴스드 패키징(첨단 후공정) 공장을 신설한다고 밝혔다. SK하이닉스는 반도체 등 첨단 공학 연구 분야에서 두각을 보이고 있는 퍼듀대와는 반도체 기술 연구·개발에 협력하기로 했다. 곽노정 SK하이닉스 대표이사 사장은 투자 협약식에서 “첨단 패키징 공장을 운영하려면 물리와 화학, 재료공학, 전자공학 분야 엔지니어 수백명이 필요하다”라면서 “최종 목표는 매우 명확하다. 미국에서 성공하려면 아주 좋은 엔지니어가 필요하다”라고 강조했다. 퍼듀대는 이미 수년 전 SK하이닉스의 요청을 받고 반도체 분야에 특화한 학부와 대학원, 자격증 프로그램 등을 운영해온 것으로 전해졌다.텍사스 오스틴 제1 파운드리(위탁생산) 공장에 이어 테일러에 제2파운드리 공장을 신설하고 있는 삼성전자는 텍사스 지역 대학 두 곳에 총 470만 달러를 투자해 인재 육성을 병행하고 있다. 삼성전자는 텍사스대(UT)와 A&M대학에 각각 370만 달러와 100만 달러를 투자해 반도체 교육 및 채용 프로그램, 학부생 장학금, 대학원생의 연구 프로그램 등을 지원하고 있다. 이밖에 애리조나주에 2개 공장을 짓고 있는 세계 최대 파운드리 기업 대만 TSMC는 반도체 인재 확보를 목적으로 애리조나 주립대와 협력하고 있고, 미국 종합 반도체 기업 인텔은 미국 내 11개 주 18개 이상의 지역 대학과 파트너십을 맺고 엔지니어 양성에 힘 쏟고 있다.

최근 IT 업계의 최대 화두는 AI입니다. 주요 프로세서 제조사와 빅테크들은 너도나도 AI 기반 서비스, 플랫폼, 하드웨어를 선보이면서 시장을 선점하기 위해 노력하고 있습니다. 하지만 AI 하드웨어 시장에서는 초반부터 기세를 장악한 엔비디아의 강세가 계속 이어지고 있습니다. 인텔은 엔비디아의 AI GPU의 대항마로 가우디 AI 가속기를 내놓고 반전을 모색하고 있습니다. 하지만 이를 위해서는 AI 하드웨어만이 아니라 이 하드웨어를 사용하는 개발자와 개발 생태계가 필요합니다. 인텔의 비전 2024 행사에서는 차세대 AI 가속기인 가우디 3(Gaudi 3)의 공개와 함께 깜짝 손님으로 한국의 네이버가 초대됐습니다. 네이버는 가우디 2를 인텔 클라우드에서 테스트해 거대 언어 모델 (LLM) 성능을 검증하고 개발했습니다. 네이버 개발팀에 따르면 가우디 2는 전력 대 성능비가 우수하고 LLM에 강점을 지닌 AI 가속 하드웨어입니다. 네이버 클라우드와 인텔은 AI 공동연구센터(NICL, NAVER Cloud·Intel·Co-Lab)를 설립하고 카이스트, 서울대, 포스텍 등 국내 대학 및 스타트업과 함께 AI 생태계 구축에 나서기로 했습니다. 다만 가우디 2가 네이버의 AI 서비스에 바로 활용되는 것은 아닙니다. 가우디는 최근에야 시장에 합류한 신참으로 이미 시장에서 견고한 위치를 차지하고 있는 엔비디아 GPU처럼 바로 서비스에 투입할 만큼 생태계가 구축되어 있지 않습니다. 여기에 엔비디아가 계속해서 차세대 GPU를 개발하면서 경쟁자를 저 멀리 따돌리려고 하고 있기 때문에 이를 추격하기 위해서는 가우디 2의 상용화보다 후속 모델 개발에 집중해야 할 형편입니다. 따라서 이날 행사에서 인텔은 차세대 AI 가속기인 가우디 3를 공개하고 올해 하반기에 출시한다고 발표했습니다. 가우디 3는 TSMC의 5nm 공정으로 제조되며 128GB의 HBM2e 메모리를 탑재하고 있습니다. 트랜지스터 집적도를 비롯한 더 구체적인 정보는 공개하지 않았지만, 가우디 2와 비교해서 텐서 코어를 24개에서 64개로 늘리고 연산 능력도 865 TFLOPS에서 1835 TFLOPS로 두 배 이상 대폭 늘렸다는 것이 인텔의 설명입니다.비전 2024 행사에서 인텔은 가우디 3가 엔비디아의 H100보다 더 빠르다고 주장했습니다. 예를 들어 Llama2-13B 훈련 기준으로 1.7배 빠르고 GPT 3 – 175B에서는 1.5배 빠릅니다. 그리고 다른 AI 연산에서도 전력 대 성능비로 우위에 있다는 것이 인텔의 주장입니다. 하지만 이 주장이 맞다고 해도 인텔의 도전은 쉽지 않은 게 사실입니다. H100은 이제 출시된 지 2년이 지난 제품이고 엔비디아는 이미 그 후속작인 블랙웰 GPU를 공개했기 때문입니다. 블랙웰 B200의 AI 연산 능력은 FP 8 기준으로 4.5페타플롭스로 단순 수치만 봐도 가우디 3보다 몇 배 뛰어납니다. 여기에 AI 서비스 기업과 개발자들이 사용하기 쉬운 생태계가 이미 구축된 점은 엔비디아 AI 하드웨어의 넘볼 수 없는 장점입니다. 이런 점을 봤을 때 가우디 3가 시장에서 의미 있는 성과를 거둘 수 있을지는 아직 미지수입니다. 하지만 엔비디아의 AI 하드웨어가 공급 부족에 시달리는 점이 한 가지 변수가 될 수 있습니다. 공급난을 타개하기 위해 엔비디아 GPU 이외에 다른 대안에 눈을 돌리는 기업이 많아질 수 있기 때문입니다. 한국과 손잡은 인텔의 가우디 AI 가속기가 치열한 경쟁 속에서 자신의 입지를 확보할지, 아니면 경쟁에서 밀려나 사라질지는 아직 말하기 이릅니다. 하지만 발전 속도가 매우 빠르고 한 번 뒤처지면 따라잡기 어려운 IT 분야의 속성을 생각할 때 결론이 나오는 것은 먼 미래가 아닐 것으로 생각합니다.

엔비디아는 AI 시대에 가장 가치가 치솟은 기업입니다. 현재의 AI 기술 중 상당 부분이 이 회사가 만든 GPU에 의존하고 있기 때문입니다. 오래전부터 GPU의 병렬 연산을 위해 CUDA 코어와 소프트웨어를 공개했고 이를 AI 연산에 활용하는 생태계를 구축해 왔기 때문에 지금 와서 다른 회사의 하드웨어로 이를 대체하기 힘든 것이 현실입니다. 오랜 경쟁자인 AMD도 데이터 센터 GPU를 계속 공개하고 있고 인텔도 새로운 AI 시장 공략을 위해 GPU를 공개했지만, 시장을 먼저 선점한 엔비디아의 아성을 깨뜨리기는 쉽지 않습니다. 이런 상황에서 새로 공개한 블랙웰 GPU는 반도체 미세 공정의 한계를 극복하고 AI 연산 성능을 높여 누구도 따라잡기 쉽지 않은 경쟁력을 유지하려는 의도로 풀이됩니다. 블랙웰 GPU는 TSMC의 4nm 공정의 개량형인 4NP 공정으로 제조되었습니다. 3nm 공정을 적용하지 않은 이유는 확실치 않지만, 비용 및 공급 부족 등이 이유가 된 것으로 보입니다. 하지만 그런 만큼 트랜지스터 집적도를 전 세대인 호퍼 (Hopper)보다 더 높이기 힘든 상황입니다. 800억 개의 트랜지스터를 집적한 호퍼 H100 GPU는 4nm 공정에서 다이(die, 웨이퍼에서 잘라낸 반도체 칩) 면적이 814㎟에 달합니다. 이는 현재 반도체 제조 기술에서 이론적인 다이 크기의 한계치에 거의 근접한 것으로 더 크기를 늘리기 쉽지 않습니다. 따라서 블랙웰 B200은 두 개의 다이를 연결하는 방법으로 2080억 개의 트랜지스터를 집적했습니다. 이런 접근법은 최근 점점 일반적인 추세가 되고 있습니다. 공정 미세화의 한계에 부딪힌 반도체 제조사들은 하나의 큰 칩 대신 여러 개의 작은 칩인 칩렛을 연결해 거대한 크기의 프로세서를 만들고 있습니다. 인텔, AMD, 애플이 모두 이 방법을 사용했고 이번에는 엔비디아도 이 방식을 적용해 트랜지스터 집적도를 대폭 늘렸습니다. 블랙웰 B200은 AI 연산에서 전 세대인 H100과 비교해서 최대 5배인 20페타플롭스의 성능을 지니고 있습니다. 물론 칩을 두 개 붙인 점을 생각하면 실제 성능은 2.5배라고 할 수 있는데, 실은 FP 8 연산의 절반 정도의 자원을 소모하는 FP 4 연산에서 그렇다는 이야기로 FP 8 기준으로 보면 AI 연산 능력은 절반 수준인 10페타플롭스가 최대입니다. 결국 칩 하나의 성능은 사실 1.25배 정도로 트랜지스터 수 증가를 생각하면 딱 그 정도의 성능 증가인 셈입니다. 하지만 그렇다고 해서 블랙웰이 아무 의미 없는 꼼수에 지나지 않는 것은 아닙니다. FP 4 연산만 해도 충분한 경우 AI 연산 속도를 크게 높일 수 있고 심지어 FP 4와 FP 8 연산의 중간을 원하는 고객을 위해 FP 6까지 지원하는 기능을 갖춰 더 유연한 AI 연산이 가능합니다. 그보다 더 중요한 점은 AI 경쟁이 격화되면서 어떤 비용을 치르더라도 남들보다 앞서기를 원하는 고객을 위해 성능을 높일 수 있는 다양한 옵션을 제공하고 있다는 것입니다.예를 들어 블랙웰은 기반 GB 200은 그레이스 슈퍼칩 CPU 한 개와 두 개의 B200 GPU를 하나로 묶어 최대 40페타플롭스의 AI 연산 능력을 갖고 있습니다. 물론 그만큼 비싸고 전력 소모도 엄청나지만, AI 개발에 사활을 걸고 있는 기업이 많아 오히려 수요 대비 공급이 부족할 것으로 예상됩니다. 그리고 이 경우 HBM의 수요가 크게 늘어 우리나라 메모리 업계에도 호재가 될 것입니다. B200 GPU는 24GB HBM3e를 8개나 탑재해 192GB의 메모리 용량을 갖고 있고 GB200는 그 두 배인 384GB의 HBM3e 메모리를 지니고 있기 때문입니다. 여기서 화룡점정을 찍는 것 같은 소식은 비용에 상관없이 최강의 성능이 요구하는 고객을 위한 서버 랙 시스템인 GB 200 NVL 72 노드입니다. 하나의 서버 랙에 두 개의 GB 200을 탑재한 서버 트레이 18 유닛을 쌓아서 총 72개의 B200 GPU를 장착한 시스템으로 강력한 대규모 AI 연산을 위한 슈퍼컴퓨터라고 할 수 있습니다. 다만 이 경우 엄청난 전력을 소모하기 때문에 공랭 쿨러 대신 수랭 쿨러를 사용해야 시스템 발열을 처리할 수 있습니다.그런데 이렇게 많은 프로세서를 사용해 대규모 연산 시스템을 구축하는 경우 데이터를 공유하고 작업을 분산하는 과정이 새로운 문제로 떠오르게 됩니다. 이 과정에서 병목현상이 생기면 전체 시스템의 성능이 크게 저하되는 것입니다. 이를 해결하기 위해 엔비디아는 아예 NVLINK 스위치라는 새로운 네트워크 전용 프로세서를 만들었습니다. 그리고 NVLINK 스위치 프로세서를 서버 트레이 하나에 두 개씩 넣어서 총 14.4TB/s의 대역폭을 확보했습니다. 이런 트레이가 9개가 있기 때문에 GB 200 NVL 72 노드 한 개가 130TB/s에 달하는 거대한 프로세서 간 대역폭을 확보할 수 있습니다. 덕분에 갈수록 커지고 있는 대규모 AI 학습 데이터를 더 효과적으로 처리하고 학습을 빨리할 수 있게 됐습니다. 마지막으로 GB 200 NVL 72 노드를 여러 대 연결하면 엑사플롭스급 AI 슈퍼컴퓨터 구축이 가능합니다. 물론 비용도 에너지 소모량도 엄청나지만, 역시 수요는 충분할 것으로 예상됩니다. 블랙웰 GPU를 보면 AI 하드웨어가 본격적인 산업화 시대에 도달했다는 것을 알 수 있습니다. 과거 GPU는 게임용으로 많이 사용되었고 초기 AI 연산용 GPU도 이것과 크게 다르지 않았으나 최근 나오는 데이터 센터 GPU는 산업용 및 연구용으로 특화되어 관련 분야에 종사하는 사람이 아니라면 직접 한 번 보거나 다뤄보기 어려운 물건이 됐습니다. 블랙웰 GPU는 대규모 데이터 처리와 AI 연산에 적합한 데이터 센터 GPU로 AI 혁명을 한 단계 앞당길 제품이 될 것으로 보입니다.