지난 인텔 비전 2024 행사에서 인텔이 내세운 표어는 어디서든 AI(AI Everywhere)이었습니다. 팻 겔싱어 인텔 CEO는 기조연설 초반에 올해 하반기에 출시할 노트북 및 태블릿 PC CPU인 루나 레이크 실물과 함께 AI 연산 능력을 세 배나 높였다고 공개했습니다. (사진) 루나 레이크의 AI 연산 능력은 100TOPS 이상입니다. 앞서 마이크로소프트는 코파일럿 같은 AI 서비스를 클라우드 기반이 아니라 기기에서 바로 사용하기 위해서 적어도 40TOPS 이상의 AI 연산 능력이 필요하다고 언급했습니다. 이는 현재 인텔의 최신 CPU인 메테오 레이크(코어 울트라)는 물론 경쟁자인 AMD의 라이젠 모바일 호크 포인트 CPU 단독으로는 충족시키기 어려운 기준입니다. 작년 말 출시된 메테오 레이크는 소비자용 인텔 CPU로는 처음으로 인공지능 연산을 위한 NPU를 탑재했지만, NPU 자체의 연산 능력은 11TOPS로 그렇게 높지 않습니다. 18TOPS의 연산 능력을 지닌 GPU와 5TOPS의 연산 능력을 지닌 CPU를 모두 사용하면 34TOPS의 AI 연산 능력을 확보할 수 있습니다. 하지만 CPU와 GPU를 AI 연산 전용으로 자원을 할당하기 어렵기 때문에 마이크로소프트의 AI 컴퓨터 기준과 턱없이 모자라는 수준입니다. 이날 발표에서 인텔이 다른 성능과 재원은 언급하지 않으면서도, 루나 레이크의 AI 연산 능력만큼은 강조한 데는 이런 배경이 있습니다. 최근 AI에 대한 관심이 집중되면서 프로세서 업계도 결국 AI에 사활을 걸어야 한다는 위기의식이 커지고 있습니다. 특히 인텔은 AI에 남들보다 늦게 뛰어든 만큼 빠른 속도로 경쟁자를 추격하기 위해 집중적인 연구와 투자를 한 것으로 보입니다.한 가지 더 흥미로운 정보는 루나 레이크의 AI 연산 능력에서 NPU가 담당하는 부분은 45TOPS 정도라는 것입니다. 따라서 나머지 55TOPS 이상이 CPU와 GPU에서 나와야 합니다. CPU의 AI 연산 능력이 획기적으로 커지기는 어렵다는 점을 생각할 때 루나 레이크의 GPU의 AI 연산 능력도 대폭 향상되는 것으로 추정할 수 있습니다. 루나 레이크의 CPU 구조에 대해서는 알려진 바가 적지만, GPU는 2세대 Xe 아키텍처인 아크 배틀메이지(Arc battlemage)를 사용한다고 알려져 있습니다. 1세대 Xe GPU도 AI 기반 업스케일링 기술인 XeSS를 지원하기 위한 AI 연산 능력을 지니고 있기 때문에 2세대 아키텍처와 더 앞선 미세 공정을 적용했을 경우 18TOPS보다 몇 배 높은 AI 성능을 확보할 수 있을 것으로 예상할 수 있습니다. 루나 레이크의 구체적인 모습은 실물이 공개되어야 알 수 있겠지만, 인텔이 새 모바일 CPU를 공개하면서 AI 성능을 가장 먼저 부각시킨 점이 의미심장합니다. 이것 하나만으로도 현재 IT 업계의 대세가 AI라는 점을 다시 한번 느낄 수 있습니다. 세계 최대의 CPU 제조사도 AI 없이는 도태된다는 위기의식이 반영된 결과로 보입니다. 아마도 이런 위기의식은 경쟁자인 AMD도 똑같이 느끼고 있을 것입니다. 따라서 올해 새로 공개할 제품군에 더 강력한 AI 연산 유닛을 넣으려고 할 가능성이 높습니다. 애플도 새로 공개할 M4 시리즈 프로세서의 AI 성능을 대폭 높인다는 소문도 들립니다. 앞으로 수년간 프로세서의 AI 성능은 비약적으로 발전할 가능성이 높아 보입니다.

엔비디아는 AI 시대에 가장 가치가 치솟은 기업입니다. 현재의 AI 기술 중 상당 부분이 이 회사가 만든 GPU에 의존하고 있기 때문입니다. 오래전부터 GPU의 병렬 연산을 위해 CUDA 코어와 소프트웨어를 공개했고 이를 AI 연산에 활용하는 생태계를 구축해 왔기 때문에 지금 와서 다른 회사의 하드웨어로 이를 대체하기 힘든 것이 현실입니다. 오랜 경쟁자인 AMD도 데이터 센터 GPU를 계속 공개하고 있고 인텔도 새로운 AI 시장 공략을 위해 GPU를 공개했지만, 시장을 먼저 선점한 엔비디아의 아성을 깨뜨리기는 쉽지 않습니다. 이런 상황에서 새로 공개한 블랙웰 GPU는 반도체 미세 공정의 한계를 극복하고 AI 연산 성능을 높여 누구도 따라잡기 쉽지 않은 경쟁력을 유지하려는 의도로 풀이됩니다. 블랙웰 GPU는 TSMC의 4nm 공정의 개량형인 4NP 공정으로 제조되었습니다. 3nm 공정을 적용하지 않은 이유는 확실치 않지만, 비용 및 공급 부족 등이 이유가 된 것으로 보입니다. 하지만 그런 만큼 트랜지스터 집적도를 전 세대인 호퍼 (Hopper)보다 더 높이기 힘든 상황입니다. 800억 개의 트랜지스터를 집적한 호퍼 H100 GPU는 4nm 공정에서 다이(die, 웨이퍼에서 잘라낸 반도체 칩) 면적이 814㎟에 달합니다. 이는 현재 반도체 제조 기술에서 이론적인 다이 크기의 한계치에 거의 근접한 것으로 더 크기를 늘리기 쉽지 않습니다. 따라서 블랙웰 B200은 두 개의 다이를 연결하는 방법으로 2080억 개의 트랜지스터를 집적했습니다. 이런 접근법은 최근 점점 일반적인 추세가 되고 있습니다. 공정 미세화의 한계에 부딪힌 반도체 제조사들은 하나의 큰 칩 대신 여러 개의 작은 칩인 칩렛을 연결해 거대한 크기의 프로세서를 만들고 있습니다. 인텔, AMD, 애플이 모두 이 방법을 사용했고 이번에는 엔비디아도 이 방식을 적용해 트랜지스터 집적도를 대폭 늘렸습니다. 블랙웰 B200은 AI 연산에서 전 세대인 H100과 비교해서 최대 5배인 20페타플롭스의 성능을 지니고 있습니다. 물론 칩을 두 개 붙인 점을 생각하면 실제 성능은 2.5배라고 할 수 있는데, 실은 FP 8 연산의 절반 정도의 자원을 소모하는 FP 4 연산에서 그렇다는 이야기로 FP 8 기준으로 보면 AI 연산 능력은 절반 수준인 10페타플롭스가 최대입니다. 결국 칩 하나의 성능은 사실 1.25배 정도로 트랜지스터 수 증가를 생각하면 딱 그 정도의 성능 증가인 셈입니다. 하지만 그렇다고 해서 블랙웰이 아무 의미 없는 꼼수에 지나지 않는 것은 아닙니다. FP 4 연산만 해도 충분한 경우 AI 연산 속도를 크게 높일 수 있고 심지어 FP 4와 FP 8 연산의 중간을 원하는 고객을 위해 FP 6까지 지원하는 기능을 갖춰 더 유연한 AI 연산이 가능합니다. 그보다 더 중요한 점은 AI 경쟁이 격화되면서 어떤 비용을 치르더라도 남들보다 앞서기를 원하는 고객을 위해 성능을 높일 수 있는 다양한 옵션을 제공하고 있다는 것입니다.예를 들어 블랙웰은 기반 GB 200은 그레이스 슈퍼칩 CPU 한 개와 두 개의 B200 GPU를 하나로 묶어 최대 40페타플롭스의 AI 연산 능력을 갖고 있습니다. 물론 그만큼 비싸고 전력 소모도 엄청나지만, AI 개발에 사활을 걸고 있는 기업이 많아 오히려 수요 대비 공급이 부족할 것으로 예상됩니다. 그리고 이 경우 HBM의 수요가 크게 늘어 우리나라 메모리 업계에도 호재가 될 것입니다. B200 GPU는 24GB HBM3e를 8개나 탑재해 192GB의 메모리 용량을 갖고 있고 GB200는 그 두 배인 384GB의 HBM3e 메모리를 지니고 있기 때문입니다. 여기서 화룡점정을 찍는 것 같은 소식은 비용에 상관없이 최강의 성능이 요구하는 고객을 위한 서버 랙 시스템인 GB 200 NVL 72 노드입니다. 하나의 서버 랙에 두 개의 GB 200을 탑재한 서버 트레이 18 유닛을 쌓아서 총 72개의 B200 GPU를 장착한 시스템으로 강력한 대규모 AI 연산을 위한 슈퍼컴퓨터라고 할 수 있습니다. 다만 이 경우 엄청난 전력을 소모하기 때문에 공랭 쿨러 대신 수랭 쿨러를 사용해야 시스템 발열을 처리할 수 있습니다.그런데 이렇게 많은 프로세서를 사용해 대규모 연산 시스템을 구축하는 경우 데이터를 공유하고 작업을 분산하는 과정이 새로운 문제로 떠오르게 됩니다. 이 과정에서 병목현상이 생기면 전체 시스템의 성능이 크게 저하되는 것입니다. 이를 해결하기 위해 엔비디아는 아예 NVLINK 스위치라는 새로운 네트워크 전용 프로세서를 만들었습니다. 그리고 NVLINK 스위치 프로세서를 서버 트레이 하나에 두 개씩 넣어서 총 14.4TB/s의 대역폭을 확보했습니다. 이런 트레이가 9개가 있기 때문에 GB 200 NVL 72 노드 한 개가 130TB/s에 달하는 거대한 프로세서 간 대역폭을 확보할 수 있습니다. 덕분에 갈수록 커지고 있는 대규모 AI 학습 데이터를 더 효과적으로 처리하고 학습을 빨리할 수 있게 됐습니다. 마지막으로 GB 200 NVL 72 노드를 여러 대 연결하면 엑사플롭스급 AI 슈퍼컴퓨터 구축이 가능합니다. 물론 비용도 에너지 소모량도 엄청나지만, 역시 수요는 충분할 것으로 예상됩니다. 블랙웰 GPU를 보면 AI 하드웨어가 본격적인 산업화 시대에 도달했다는 것을 알 수 있습니다. 과거 GPU는 게임용으로 많이 사용되었고 초기 AI 연산용 GPU도 이것과 크게 다르지 않았으나 최근 나오는 데이터 센터 GPU는 산업용 및 연구용으로 특화되어 관련 분야에 종사하는 사람이 아니라면 직접 한 번 보거나 다뤄보기 어려운 물건이 됐습니다. 블랙웰 GPU는 대규모 데이터 처리와 AI 연산에 적합한 데이터 센터 GPU로 AI 혁명을 한 단계 앞당길 제품이 될 것으로 보입니다.

지난달 27일 산업통상자원부 제2차관 주재로 경기 용인 반도체 국가 첨단전략산업 특화단지 가동에 필요한 대규모 전력의 안정적 공급에 관한 TF가 발족됐다. 용인시 일대 3개 부지 총 약 13㎢의 광대한 면적에 조성될 반도체 특화단지에는 총 10GW(기가와트) 전력이 필요하다. 2036년까지 우선 필요한 3GW는 단지 내 LNG 발전소 신규 건설을 통해 공급하고 나머지 7GW는 2037년 이후 장거리 송전선로를 통해 공급할 계획이다. 반도체 산업은 고품질의 대전력이 필요한 대표적인 산업이다. 2021년 삼성전자가 사용한 전력은 184억㎾h로 이는 100만㎾, 즉 1GW 발전소 2.1기가 1년 내내 발전하는 전력량에 해당한다. 발전소 정비기간과 송전 손실 등을 고려하면 삼성전자만을 위해 3GW 정도의 발전 용량 즉 원전 3기 정도가 필요하다는 말이다. 나아가 정교한 반도체 제조 장비는 전력 주파수의 미세한 변동에도 오작동할 수 있으므로 고품질 전력이 필요하다. 전력의 품질은 주파수 변동 폭으로 결정되는데 우리나라 전력망은 허용 변동 폭인 ±0.2㎐보다 훨씬 작은 범위에서 안정적인 주파수를 유지해 왔다. 한국 반도체 산업이 세계적 수준으로 발전하는 데는 그동안 고품질 대전력을 저비용으로 공급했던 우리나라 전력 시스템 덕이 크다. 그 기저에 원자력이 있었음은 부정할 수 없는 사실이다. 인공지능(AI)이 급속도로 발전함에 따라 데이터센터의 메모리와 CPU, GPU 등 프로세서에 필요한 반도체 수요도 급증할 전망이다. 이를 위해서는 우수한 인력뿐만 아니라 고품질 전력의 확충이 필요하다. 2037년 이후 용인 반도체특화단지에 송전망을 통해 공급될 전력 7GW에는 호남 지방의 태양광과 해상풍력이 예정돼 있다. 이들 재생에너지 전력은 변동성이 크기에 안정화를 위해서는 대용량의 에너지저장장치(ESS) 설치가 필수적이다. 이런 저장장치의 운용비용은 발전비용보다 비쌀 수 있어 전력 비용이 커진다. 고비용 전력은 반도체 생산 단가의 상승을 초래해 경쟁력을 떨어뜨린다. 고품질 전력을 저비용으로 확충하려면 원자력 확대가 필수적이다. 2030년대 이후에는 탄소중립의 필요성과 AI의 본격적 활용에 따라 전력 수요가 현재 예상하는 수준보다 더 늘어날 수 있다. 이러한 전망은 안정적이고 저비용의 무탄소 대전력원인 원자력의 확대 필요성을 더욱 부각한다. 향후 원자력은 대형 원전뿐만 아니라 소형모듈원자로(SMR)를 통해 확대할 수가 있다. SMR은 수요지 인근에 설치할 수 있을 정도로 안전성이 높고, 모듈화를 통해 경제성을 확보할 수 있는 차세대 소형 원전이다. SMR을 적기에 활용하기 위해서는 현재 개발 중인 혁신형 SMR의 국내 실증을 조속히 추진해야 한다. 아울러 전력뿐만 아니라 공정열 공급 등 다양한 용도로 활용될 수 있고 조기 실물화가 가능한 다른 유형의 SMR 개발에도 적극적인 지원을 해야 한다. 주한규 한국원자력연구원 원장

세계적 수준의 국가인공지능(AI)데이터센터가 본격 서비스를 시작한다. 광주시는 첨단3지구 인공지능중심산업융합집적단지(이하 AI집적단지) 내 핵심시설인 세계적 수준의 국가인공지능 데이터센터 서비스를 15일 개시한다고 밝혔다. 인공지능데이터센터는 초거대 인공지능 모델을 개발할 수 있는 고성능 컴퓨팅 자원 등의 서비스를 지원한다. 인공지능 모델은 점점 더 복잡해지고 개발에 필요한 데이터량이 커지고 있는 상황에서, 메모리 용량과 데이터 처리 속도를 높인 초고성능 컴퓨팅 자원의 필요성이 커지고 있다. 광주시는 엔비디아의 최신 성능 가속기 ‘H100’ 등 고성능 컴퓨팅 자원을 활용, 짧은 시간 내 방대한 데이터 학습과 분석이 가능하도록 인공지능 연구개발에 최적화된 인프라를 제공한다. 이로 인해 창업 초기기업(스타트업)들도 복잡한 인공지능 서비스 개발·연구가 가능해져 인공지능 산업융합 생태계가 활성화될 것으로 기대된다. 국가인공지능 데이터센터는 20페타플롭스(PF) 규모의 고성능컴퓨팅(HPC)과 68.5페타플롭스(PF) 규모의 GPU 클라우드 혼용 방식으로 구축됐다. 전체적으로 88.5페타플롭스(PF) 연산자원과 107페타바이트(PB) 저장공간을 갖춘 세계적 수준의 규모다. 데이터센터는 연면적 3144㎡의 2층 구조로, 인공지능 개발을 위한 260랙 규모의 전산실에 6메가와트(MW)의 전력이 소요된다. 사용자가 통신 회선 사업자를 자유롭게 선택해 사용할 수 있는 망중립 데이터센터이며, 수도권과 동일한 네트워크 품질 신뢰성과 접근성을 제공한다. 광주시는 지난 10월23일 전체 구축량의 50%인 연산자원 44.3페타플롭스(PF), 저장공간 53.5페타플롭스(PF) 규모의 자원구축과 성능테스트를 마쳤다. 12월엔 추가로 가속기 24페타플롭스(PF) 그리고 2024년 1분기에 20페타플롭스(PF) 규모의 고성능컴퓨팅(HPC)자원을 구축할 예정이다. 광주시는 이를 통해 1000여 개의 인공지능 관련 기업을 지원할 수 있을 것으로 보고 있다. 기업은 인공지능 모델이나 관련 제품을 개발하는데 반드시 필요한 고비용의 연산자원과 저장공간 및 개발환경을 무료로 제공받고 개발시간도 단축할 수 있게 된다. 이에 따라 광주에는 국내외 인공지능 기업이 모여 협업하고, 기술개발과 활용을 촉진하는 인공지능 산업생태계가 구축될 것으로 기대하고 있다. 광주시는 자원이용 기관 및 기업 선발을 위해 지난 10월 공모를 진행, 10월27일 263개 기업에 가속기 21페타플롭스(PF)와 스토리지 8페타바이트(PB) 자원을 할당했다. 1페타플롭스(PF)는 초당 1000조번의 수학 연산처리를 의미하며, 1페타바이트(PB)는 6기가바이트(GB) 영화 17만4000편의 영화를 보관할 수 있는 용량이다. 정부가 추진하는 초고속·저전력 국산 인공지능 반도체 개발과 데이터센터 적용을 통해 국내 클라우드 경쟁력을 강화하기 위한 ‘K-클라우드 프로젝트’ 일환으로 데이터센터 내에 11페타플롭스(PF) 규모의 인공지능(AI)반도체(NPU)팜 실증·구축도 병행한다. 광주시는 1단계 인프라의 고도화와 도시규모의 실증을 목표로 인공지능 2단계 사업을 순차적으로 진행하기 위해 예비타당성 용역을 준비 중이다. 김용승 인공지능산업실장은 “광주시는 인공지능 관련 인프라와 도시규모의 실증환경을 조성해 기업에 제공하고, 기업은 이를 활용해 인공지능 서비스를 만들어가게 될 것”이라며 “이를 통해 대한민국의 인공지능 대표도시 광주가 명실상부한 한국의 실리콘밸리로 성장할 수 있을 것으로 기대한다”고 말했다.

애플이 M3, M3 프로, M 맥스와 함께 신형 맥북과 아이맥을 공개했습니다. 신형 M3 시리즈 프로세서는 3nm 공정을 도입해 전력 소모를 줄이고 성능을 높였습니다. 다만 세부적으로 보면 성능 향상만 전부가 아니라는 점을 알 수 있습니다. 가장 기본형이고 아마 앞으로 아이패드에도 들어갈 주력 프로세서인 M3의 경우 4개의 고성능 코어와 4개의 고효율 코어를 지닌 8코어 프로세서로 CPU는 M1보다 35%, M2보다 20% 빠르다는 것이 애플의 설명입니다. 작년에 나온 프로세서보다 20% 정도 빨라졌으면 겁나게 빠르다고 하긴 어려워도 요즘처럼 프로세서 성능을 높이기 어려운 시대에는 준수한 편입니다. 새로운 10코어 GPU는 다이내믹 캐싱 기술과 하드웨어 레이 트레이싱, 메시 셰이딩 기술 등 신기술을 적용해 M1 대비 65%, M2 대비 20% 빠릅니다. 역시 M2 대비 체감할 만한 차이는 아니지만, 하드웨어 레이 트레이싱 기능이 추가되었다는 점이 주목됩니다. 사실적인 광원 효과를 통해 컴퓨터 그래픽을 더 진짜 사물에 가깝게 보이게 만드는 레이 트레이싱 기술은 너무나 많은 연산 능력을 요구해 게임처럼 빠른 반응이 필요한 분야에서는 잘 사용되지 않았습니다. 게임에서 실시간 레이 트레이싱이 본격 적용된 것은 엔비디아의 RTX 2000 시리즈가 등장한 이후로 제대로 사용하기 위해서는 고가의 최신 그래픽 카드가 필요합니다. 애플은 레이 트레이싱 기능을 모바일 기기 중심인 M3에 가져온 것인데, 실제로 이를 활용한 게임이 나올 수 있을지도 주목됩니다. 사실 아이폰 15 시리즈에 들어간 A17 프로도 메시 셰이딩과 하드웨어 레이 트레이싱을 지원해 관련 게임이 나올 수 있을지 궁금증이 모아지고 있습니다. 다만 하드웨어 레이 트레이싱도 엄청난 자원을 소모하기 때문에 M3처럼 저전력 프로세서에서 원활한 게임 구동은 쉽지 않아 보입니다. 그리고 기본적으로 아이폰과 달리 맥은 게임 기능보다는 그래픽 및 전문 작업에 특화되어 있습니다. 따라서 게임보다는 그래픽 작업에서 도움을 받을 수 있을 것입니다.M3 프로는 6개의 고성능 코어와 6개의 고효율 코어를 탑재해 M3와 비교해 CPU 부분을 50% 늘리고 GPU는 18코어로 40% 늘렸습니다. 성능 차이도 딱 그 정도일 것으로 예상할 수 있는데, 흥미로운 부분은 M2 프로보다 오히려 트랜지스터 집적도가 줄어들었다는 것입니다. M2 프로는 5nm 공정에서 400억 개 이상의 트랜지스터를 집적한 반면 M3 프로는 370억 개로 오히려 줄어들었습니다. (사진 참조) M3가 전작보다 50억 개 늘어난 250억 개인 점을 생각하면 다소 의외의 구성입니다. 아무튼 이런 구성 때문인지 M3 프로의 CPU 성능은 M1 프로 대비 20% 높은 수준입니다. 뒤집어 말하면 M2 프로와 큰 차이가 없단 이야기입니다. 물론 M2 프로도 전력 소모를 생각하면 놀랄 만큼 빠르니 M3 프로 겁나게 빠르다고 해도 잘못된 이야기는 아닙니다. 고성능 코어 8 + 저전력 코어 4개의 구성에서 고성능 코어 6 + 저전력 코어 6로 바뀌었는데도 성능이 비슷하면 사실 코어 하나의 성능은 M3 프로가 더 좋아진 것으로 볼 수 있습니다. 하지만 유독 M3 프로만 트랜지스터 집적도가 역주행하면서 성능도 제자리 걸음인 데는 이유가 있지 않을까 생각됩니다. 먼저 생각할 수 있는 이유는 반도체 칩 면적인 다이(Die) 면적 감소를 통한 원가 절감입니다. 최신 미세 공정 웨이퍼 가격은 상당히 비싸기 때문에 다이 면적이 비슷해도 가격은 올라갑니다. 하지만 트랜지스터 집적도를 낮춰 다이 크기를 줄이면 가격 인상 요인을 최대한 억제할 수 있습니다. 다만 M3나 M3 맥스의 집적도 증가를 생각하면 원가 절감만이 이유의 전부는 아닐 것입니다. 다음으로 생각할 수 있는 것은 배터리 사용 시간을 늘리고 발열을 줄이는 것입니다. M3 프로는 3nm 미세 공정에도 트랜지스터 집적도를 약간 낮췄기 때문에 M2 프로와 비교해서 전력 소모를 상당히 줄일 수 있을 것으로 예상됩니다. 신형 맥북 프로의 경우 최대 22시간의 배터리 시간을 자랑하는데, 맥북 역사상 가장 배터리 사용 시간이 길다는 이야기가 허언이 아닐 가능성이 높습니다. 구체적인 건 벤치마크 결과를 봐야 알겠지만, 성능을 대폭 올리기보다는 배터리 사용 시간과 발열을 줄여 사용자들이 쾌적하게 쓸 수 있도록 한 것으로 풀이됩니다.하지만 M3 맥스는 플래그쉽 프로세서이고 나중에 이를 두 개 붙여 나올 것으로 예상되는 M3 울트라를 감안했는지 역대 가장 많은 트랜지스터 집적도인 920억 개의 트랜지스터를 집적했습니다. 전작인 M2 맥스의 670억 개보다 37%나 늘어난 숫자입니다. M3 맥스를 두 개 붙인 M3 울트라의 집적도는 1840억 개에 달할 것으로 보입니다. 덕분에 M3 맥스의 CPU 성능은 M1 맥스보다 80%, M2 맥스보다 50% 높으며 GPU 성능은 M1 맥스보다 50%, M2 맥스 보다 20%가 더 높습니다. 대신 일부 유닛을 제외한 컷칩이라도 발열량은 적지 않을 것으로 생각됩니다. M3 맥스를 탑재한 맥북 프로의 발열 및 배터리 사용 시간도 흥미로운 궁금증 중 하나입니다. 전체적으로 요약하자면, 아이패드, 맥북 에어, 아이맥, 맥북 프로에 널리 쓰이는 M3는 M2와 비교해서 적당한 수준의 트랜지스터 집적도 증가와 무난한 성능 향상을 보이고 있습니다. 제품의 포지션을 생각하면 당연한 결과라고 할 수 있습니다. M3 프로는 성능 향상보다는 배터리 사용 시간과 발열 제어에 초점을 맞춘 것 같지만, 정확한 건 벤치마크 결과를 봐야 알 수 있습니다. M3 맥스는 현재 기술 수준에서 가장 크고 강력한 M 시리즈 프로세서로 고성능 워크스테이션 시장을 겨냥한 제품으로 볼 수 있습니다. 같은 M3 패밀리라도 제각기 목적에 따라 강약을 조절했다는 점이 이번 M3 시리즈의 특징으로 보입니다.

최근 인공지능 하드웨어의 핵심인 GPU 시장을 거머쥔 엔비디아에 대한 관심이 뜨겁습니다. 엔비디아는 반도체 업계 최초로 시총 1조 달러를 달성한 후 최근 계속 어닝 서프라이즈를 기록하면서 승승장구하고 있습니다. 그런데 사실 인공지능 이전에 GPU는 본래 게임이 주목적이었습니다. 전문 그래픽 작업을 위한 쿼드로 같은 별도의 시장이 있기는 했지만, 엔비디아의 젠슨 황 CEO가 연산 목적의 GPGPU와 CUDA에 힘을 주기 전까지 엔비디아는 게임 하드웨어 회사라고 해도 과언이 아니었습니다.  그렇기 때문에 엔비디아가 게임 성능 향상을 위해 인공지능을 적극적으로 활용한다는 사실은 지극히 당연해 보입니다. 엔비디아는 2018년 RTX 2000 시리즈를 공개할 때 GPU와 통합된 인공지능 연산 유닛인 텐서 코어를 이용한 DLSS (Deep Learning Super-Sampling, 딥 러닝 슈퍼 샘플링)을 대대적으로 홍보했습니다.  인공지능을 이용해서 저해상도 이미지를 고해상도 이미지처럼 업스케일링 하는 기술은 이미 당시에도 개발되어 있었습니다. DLSS는 게임에서 인공지능으로 고해상도 이미지를 학습한 다음 실제로는 저해상도로 그래픽을 출력한 후 여기에 인공지능 학습으로 추론한 고해상도 이미지를 추가하는 방식으로 이뤄집니다. 영상이나 사진의 인공지능 이미지 품질 향상 기능을 게임에서 활용한 것입니다.  이 작업은 GPU 연산 유닛이 아니라 텐서 코어라는 별도의 연산 유닛에서 이뤄지기 때문에 GPU에 부하가 없고 저해상도로 이미지를 출력하므로 게임 화면의 초당 프레임을 높일 수 있습니다. 예를 들어 본래는 4K 해상도에서 초당 20 프레임도 안 되는 답답한 화면이 나오는데 DLSS를 적용하면 이보다 해상도가 25%인 풀HD 영상으로 60 프레임으로 출력한 후 마치 4K 해상도처럼 보이게 할 수 있습니다.  하지만 실제로 DLSS는 1.0 버전까지 불안정한 기술이었고 지원하는 게임도 제한적이었습니다. 일부 지원하는 게임에서도 이미지 품질 향상 기술인 안티 앨리어싱과 충돌하거나 이미지가 뭉개지거나 깨지는 현상이 나타났습니다. 그러다가 DLSS 2.0에서 보다 쓸만한 기술이 되어 이미지 품질이 상당히 높아졌습니다. 저해상도에서 4K 고해상도 이미지를 추론하는 DLSS 슈퍼 레졸루션 (SR, Super Resolution) 기능이 RTX 3000 그래픽 카드에서 지원하는 DLSS 2.0에서 어느 정도 완성이 된 것입니다. 하지만 엔비디아는 여기서 한 가지 더 트릭을 생각해 냈습니다.  RTX 4000 시리즈와 함께 공개된 DLSS 3.0은 프레임 생성 (FG, Frame Generation)이라는 신기술을 도입했는데, 이는 인공지능으로 각 영상 프레임 간의 중간 이미지를 넣어 더 부드러운 움직임과 화면 전환을 구현한 것입니다. 예를 들어 30 초당 화면이 30번 바뀌는 영상 사이사이에 인공지능으로 만든 중간 화면을 넣어 초당 60회 화면이 바뀌면 인간의 눈으로 봤을 때 영상이 훨씬 부드러워 보입니다.  여기에 더해 엔비디아는 최근 게임스컴 2023에서 DLSS 3.0을 더 개선한 DLSS 3.5를 공개했습니다. DLSS 3.5의 핵심은 GPU의 자원을 덜 소모하면서 현실적인 광원 효과를 보여주는 광선 재구성 (RR, Ray Reconstruction) 기술입니다.  사물이나 환경이 진짜처럼 보이기 위해서는 빛에 따른 반사나 그림자, 광원에 따른 명암 등이 실제처럼 표현되어야 합니다. 엔비디아의 RTX GPU들은 실시간 레이 트레이싱을 지원해 게임에서 현실적인 사물의 질감과 주변 환경을 보여줍니다. 하지만 이는 엄청난 GPU 성능을 요구해 게임 프레임을 떨어뜨리는 원인이었습니다.  DLSS는 광선 효과의 인공지능 처리를 위해서 과거엔 수작업으로 처리하는 노이즈 제거 (Denoiser) 방식을 사용했습니다. 하지만 이 방법은 일부 픽셀을 잃어버려 이미지가 뭉개지거나 반대로 존재하는 사물이 나타나는 고스팅 현상을 일으킬 수 있었습니다. 광선 재구성 기술은 레이 트레이싱을 완벽히 보완하는 인공지능 이미지 품질 향상 기술로 게임 프레임을 희생시키지 않으면서 고품질의 레이 트레이싱 영상을 실시간으로 보여줄 수 있습니다.  엔비디아는 사이버펑크 2077을 기준으로 DLSS를 적용하지 않았을 때, DLSS 슈퍼 레졸루션 (SR) 적용, DLSS 슈펴 레졸루션 (SR) + 프레임 생성 (FG), DLSS 슈펴 레졸루션 (SR) + 프레임 생성 (FG) + 광선 재구성 (RR) 기능을 적용한 결과물을 차례로 보여줬습니다. 그 결과 본래 초당 20프레임에 불과한 영상이 5배가 넘는 초당 108프레임으로 증가하고 이미지 품질도 개선되는 결과를 보여줬습니다. 레이 트레이싱까지 확장한 DLSS 3.5를 인공지능 게임 성능 향상의 화룡점정이라고 불러도 손색이 없는 이유입니다.  물론 DLSS 3.5를 지원하는 게임은 초기엔 사이버펑크 2077를 포함해 몇 개 없습니다. 하지만 대부분의 게이밍 그래픽 카드가 엔비디아 제품인 점을 생각하면 DLSS이 표준으로 보급되는 것은 시간문제입니다.  DLSS 3.5 지원 게임이 늘어나면 인공지능 적용 전 게임 성능에서도 엔비디아의 적수가 되기 어려운 AMD의 라데온이나 인텔 아크와의 성능 차이는 더 벌어질 가능성이 높아졌습니다. 하지만 이렇게 한 회사가 시장을 장악하는 것은 사실 소비자에게 좋지 못한 결과를 가져옵니다. 독점 기업은 대부분 가격을 인상하기 때문입니다. 실제 엔비디아 GPU의 가격은 인공지능 및 데이터 센터 부분만이 아니라 게이밍 부분도 치솟고 있습니다. 두 회사가 DLSS를 견제할 비장의 무기를 선보여야 하는 이유입니다. 

서울특별시의회 ‘웰니스 서울 정책 연구 포럼’ 대표의원으로 활동 중인 김춘곤 의원(국민의힘, 강서4) 주관으로 지난 19일 개최된 ‘서울 웰니스 산업 활성화를 위한 정책토론회’가 분산된 서울 웰니스 산업 융합의 촉매제 역할을 하고 성황리에 끝났다. 첫 번째 발제자로 한국웰니스산업협회 이우람 부회장은 “웰니스는 건강한 신체와 정신을 유지하고 향상시키는 것”이라고 정의하고 세계웰니스협회 2020년 발표 자료에 따르면 세계시장 규모는 5800조 원이며 대한민국은 세계 8위에 있다고 했다. 발제를 마무리하면서 K-웰니스 도시 브랜딩을 통한 서울형 웰니스 모델을 제언했고 협회 차원에서는 2024 K-웰니스 푸드&투어리즘, 플랫폼 웰라, 치유 농업사 민간자격증 사업을 추진 중이라고 소개했다. 두 번째 발제자로 나선 서울대학교 의료정보학 김주한 교수는 “웰니스는 질병이 없을 뿐만 아니라 신체적 정신적 사회적 영적으로 건강한 상태를 말한다”고 하며 모든 시민이 자신의 필수 데이터를 저장할 수 있는 최소한의 저장 공간과 로그인할 수 있는 컴퓨팅 파워, 통신환경이 제공되는 디지털시민기본권에 대해 설명하고 지자체 단위의 시범사업을 제안했다. 세 번째 발제자인 경희대학교 동서의학연구소 고성규 소장은 “예방학 차원에서 웰니스는 건강하고 행복하게 주변 환경과 조화롭게 늙어가는 것”이라고 하며 실제 질환 상태에 가지 않았는데 본인이 어딘가 아픈 것 같다고 생각하는 ‘미병’현상을 설명하고 우리나라가 건강염려증이 다소 높은 편이라고 했다. 또한 한의학적으로 웰니스를 위해서는 음양의 균형을 통해 신체 밸런스를 맞출 수 있다고 하며 Health life를 위해 피해야 하는 40가지에 대해 소개했다. 네 번째 발제자인 네이버 헬스케어 연구소 나군호 소장은 ChatGPT 시대에 웰니스 산업은 어떻게 나갈 수 있을까라는 주제로 하이퍼클로버를 소개했다. 하이퍼클로버는 매개변수 2040억 개, 1024개의 GPU, 한국어 데이터세트 1.6테라 바이트로 구성되어 사회복지가 필요한 주민에게 AI가 자동으로 전화를 걸어 긴급조치 등 다양한 서비스를 제공한다고 설명했다. 향후에는 코딩, 마케팅, 물류, 의료, 건강 등에 집중하여 활용할 계획이라고 했다. 다섯 번째 발제자인 카카오헬스케어 황희 대표는 “웰니스란 건강한 상태에서 해피니스를 추구하는 일련의 여러 가지 행위들과 상태”라고 정의하며 디지털헬스케어의 가장 큰 가치는 기본적으로 제한된 자원으로 지속적인 헬스 서비스를 유지할 수 없다고 할 때 보편적 의료혜택을 위한 공평한 리소스의 분배라고 했다. 여섯 번째 발제를 맡은 서울관광재단 탁정삼 본부장은 관광사업을 하기 어려운 여건에서도 ‘2022 서울의료관광 국제트래블마트(SITMMT)’를 개최해 국내 305개 업체 참가, B2B 상담 944건, 계약 협의 263건(약 123억 원)의 실적이 있었으며 국가별 의료관광객 특성을 분석해 홍보마케팅을 추진하고 있다고 했다. 향후에는 서울의료관광 협력기관 네트워킹 활성화, 서울 메디컬&웰니스 센터 운영, 통역 코디네이터 운영 및 전문 인력 양성에 집중하겠다고 했다. 발제를 마치고 첫 번째 토론자인 서울시 관광산업과 과장은 웰니스 관련 조례 마련, 서울메디컬센터를 정보제공 중심에서 체험 중심으로의 전환, 하반기 ‘서울 웰니스 관광 페스타’를 준비하고 있으며 실질적으로 수효를 창출할 수 있는 마케팅과 서울 웰니스의 세계적 홍보에 집중하고 있다고 했다. 두 번째 토론자인 서울시 바이오AI과 과장은 서울의 디지털헬스케어 성장을 위해 물리적 공간과 성장지원 프로그램 그리고 인력을 스타트업 기업에게 지원하고 있다고 설명했다. 홍릉강소특구는 현재 6개 동의 물리적인 공간이 있고 2028년까지 10개 동으로 확장할 계획이고 고가의 바이오 장비 구입 및 활용을 지원하며 향후에는 지방, 국제 클러스터와도 연계하는 계획을 가지고 있다고 했다. 세 번째 토론자로 경인여자대학교 김정하 교수는 서울시 특성에 맞는 웰니스 핵심자원의 선정, 콘텐츠 개발, 관광산업 육성, 관광인력 양성이 요구된다고 했다. 또한 인바운드 중심의 정책에서 벗어나 서울시민과 국내·외 관광시장 전체에 대한 균형적인 시각을 가지고 추진할 필요가 있다고 제언했다. 서울 웰니스 산업 활성화를 위한 정책토론회는 3시간 동안 다양한 분야의 발제와 토론으로 진행됐으며 웰니스 산업의 융복합을 만드는 촉매제 역할을 했다. 전체 토론회는 유튜브(youTube) ‘서울특별시의회 토론회 공청회’에서 다시 볼 수 있다.

서울과학기술대학교가 지난해 12월말 서울 공릉동 교내에 ‘슈퍼컴퓨터 데이터센터’를 구축하고, 사전 테스트 기간을 거쳐 최근 개소식을 했다고 10일 밝혔다. 서울과기대는 2021년 인공지능응용학과를 개설한 뒤 이번 슈퍼컴퓨터 데이터센터 구축을 위해 교육부와 함께 40억 9000만원의 실험·실습 기자재 확충사업 예산을 투입했다. 완성된 서울과기대 슈퍼컴퓨터 데이터센터는 초거대 AI 챗GPT 분야 글로벌 최고 인재교육 양성을 선도하는 핵심 인프라로 활용될 예정이다. 슈퍼컴퓨터 데이터센터에는 OpenAI가 챗GPT의 학습에 사용한 것과 같은 GPU 모델인 엔비디아의 ‘DGX A100’이 적용됐다. DGX A100은 대용량 AI 학습·추론 처리에 고성능을 발휘해 최적의 AI 컴퓨팅 클러스터 구현이 가능하다. 또한 GPU 활용 능력을 극대화하는 씨이랩의 솔루션 ‘우유니(Uyuni)’가 탑재됐다. 우유니는 간단한 입력으로 GPU 자원을 할당한 컨테이너를 생성하고 현재 작업 상태와 이력을 지속 추적한다.

구축에도 운영에도 막대한 돈·인프라·에너지카카오브레인 ‘다다음’ 베타버전에 1만명 몰려 중단챗GPT에 2000만원 육박하는 GPU 1만여대 지난 20일 카카오브레인이 카카오톡채널에서 인공지능(AI) 챗봇 ‘다다음’ 베타테스트를 시작한 지 하루 만에 서비스를 일시 중단한 이유, 챗GPT 유료 구독 서비스가 출시된 이유는 같은 곳에 있다. 모두 ‘컴퓨팅 인프라’, 즉 연산 능력과 데이터센터, 클라우드 등을 아우르는 자원 때문이다. 초거대 AI 서비스가 속속 출시되며 컴퓨팅 자원의 중요성이 아주 빠른 속도로 높아지고 있다. 우리가 챗GPT에 접속해 자판을 두드려 질문을 입력하고 답변을 받는 단순해 보이는 과정은, 실은 엄청난 수의 연산을 통해 이뤄지고 있다. 대화창을 통해 주고받는 채팅이지만, 클라우드 환경에서 수만개의 그래픽처리장치(GPU)가 적용된 AI 구동 인프라와 연결되는 셈이다. 안정적인 초거대 AI 서비스를 제공할 수 있는 컴퓨팅 인프라 구축은 쉬운 일이 아니다. 애초에 AI를 학습시키는 과정부터 천문학적인 돈과 자원이 필요하다. 오픈AI의 최신 초거대 언어모델 ‘GPT4’의 머신러닝엔 엔비디아의 최신 GPU ‘A100’ 1만여대가 사용된 것으로 알려졌는데, 1대 당 2000만원에 육박한다. 애초 GPT3 교육에만 무려 1200만 달러(약 144억 7000만원)이 들어간 것으로 알려졌다. AI 서비스 운영에도 엄청난 에너지와 돈이 들어간다. 챗GPT의 경우 출시 한달 만에 사용자 1억명을 넘어섰는데, 이들이 입력한 각각의 질문에 무수한 연산을 수행하려면 GPU를 풀가동해야 하는데, A100의 경우 대당 전력량은 시간당 300~400Wh(와트시)로, 믹서기나 소형 전열기 등과 맞먹는다. 대부분 초거대 AI 운영 기반 시설인 데이터센터는 국내 한 곳 당 평균 연간 전력 사용량이 25GWh(기가와트시)인데, 이는 4인가족 6000가구와 같은 수준이다. 그러다보니 카카오브레인의 경우, 내부 개발 과정의 하나인 베타테스트 차원에서 공개했던 다다음에 충분한 컴퓨팅 인프라를 할당하지 않았을 테고, 여기에 짧은 시간 1만명 이상이 몰리니 정상적으로 AI 서비스를 제공할 수 없었을 것으로 보인다. MS의 천문학적인 투자와 컴퓨팅 인프라를 사용하는 오픈AI가 챗GPT 성공을 확인한 즉시 유료 구독 서비스를 출시한 것도 이런 이유에서다. 거꾸로 말하면 MS처럼 초거대 AI 모델을 돈이 되는 기존 서비스에 즉시 적용할 수 있으며, 글로벌 2위 규모 클라우드 회사로서 인프라를 확보한 기업이 오픈AI에 투자하고 협력하지 않았으면 지금의 챗GPT는 등장하지 않았을 수도 있는 셈이다. 기업이 GPT4를 서비스에 적용하려면 이전 버전인 GPT3.5보다 훨씬 높은 가격을 지불해야 한다. 카카오톡채널에 출시한 챗봇 서비스 ‘아숙업(AskUp)’에 GPT4를 적용한 업스테이지에 따르면, 오픈AI는 GPT4를 통해 제공하는 영어 단어 750개 정도에 3센트(약 39원)를 받는다. 본격 AI 시대를 맞아 기술 경쟁에 뒤처지지 않기 위해서는 컴퓨팅 인프라 확충과 동시에 컴퓨팅 자원 소비를 획기적으로 줄이는 기술 개발이 중요하다. 정부와 국내 업체들이 GPU를 대체할 AI 전용 반도체인 신경망처리장치(NPU) 개발을 서두르는 것도 이와 같은 맥락이다. 정보통신산업진흥원(NIPA)을 중심으로 고성능 컴퓨팅 자원을 지원하는 사업도 시행 중이다. GPU 클라우드 시스템을 임차해 중소∙벤처기업, 공공기관, 대학 등에 지원하는 것으로, 대규모 병렬연산 처리를 위한 고성능컴퓨팅(HPC) 자원, 개발 프레임워크, 개발언어 등을 지원한다.

최근 고성능 PC 시장은 갈수록 전기를 많이 먹는 CPU와 GPU의 각축장이 되고 있습니다. 전기를 많이 먹는다는 이야기는 발열량이 많다는 이야기입니다. 따라서 더 많은 전류를 다룰 수 있는 전원부와 기판이 필요합니다. 제조 공정이 복잡해지고 여러 가지 소재가 사용되기 때문에 점점 더 재활용하기 어려워지는 것은 물론입니다. 쿨러의 크기 역시 엄청나게 커지면서 이미 하이엔드 게이밍 PC에는 3개의 냉각팬과 라디에이터를 지닌 3열 수랭 쿨러가 장착되고 있습니다. 물론 이 쿨러도 전기를 먹고 최종적으로 열의 형태로 에너지를 방출합니다. 이렇게 만든 고성능 PC는 당연히 강력한 성능을 자랑하긴 하지만, 최근 강조되는 환경과 지속 가능성에 대한 배려는 상당히 부족한 편입니다. 전기를 많이 먹어 탄소 발자국이 매우 큰 것은 물론 폐기 과정에서 재활용하기도 매우 어렵기 때문입니다. 언뜻 생각하기엔 금속 제품이 많은 IT 기기가 재활용하기 쉬울 것 같지만, 사실 현대적인 컴퓨터의 PCB 기판과 수많은 부품들은 금속은 물론, 유리 섬유, 합성수지 등 여러 가지 소재를 사용하고 있기 때문에 재활용이 매우 까다롭습니다. 여기에 IT 기기의 수명이 짧은 편이라서 끊임없이 처치 곤란한 쓰레기를 만들어 낸다는 것도 문제입니다. 사정이 이렇다 보니 컴퓨터의 제조부터 사용 중, 그리고 사용 후 폐기까지 환경친화적이고 지속 가능한 대안에 대한 요구가 커지고 있습니다. 인텔은 베이징에서 중국 내 파트너인 칭화 통팡(Tsinghua Tongfang) 및 대만 컴퓨터 제조사 에이서(Acer) 등과 함께 에너지 소모량과 재활용할 수 있는 부품 비율을 획기적으로 높인 그린 PC의 데모를 공개했습니다. 이 그린 PC는 인텔 12세대 코어 프로세서인 앨더 레이크 기반으로 정확히 어떤 제품을 사용했는지는 밝히지 않았으나 제품의 목적이나 쿨러의 크기를 생각할 때 35W TDP를 지닌 저전력 제품이나 혹은 적어도 65W TDP를 지닌 제품으로 보입니다. 미니 PC에 많이 사용되는 ITX 규격 메인보드보다 더 단순한 메인보드에는 노트북용 메모리를 장착할 수 있는 SO-DIMM 슬롯 2개와 M.2 SSD를 장착할 수 있는 슬롯 한 개, PCIe x16 슬롯 한 개만 보입니다. 따라서 일반적인 노트북 PC보다 더 많은 전력을 소모하지는 않을 것으로 보입니다.하지만 저전력 PC라면 지금도 드물지 않게 나와 있고 경량 노트북이나 태블릿 가운데는 전력 소모가 상당히 적은 제품도 존재하기 때문에 전기를 적게 먹는다는 것이 차별점이 될 순 없습니다. 이 그린 PC의 진짜 차별점은 재활용 가능한 부품의 비율이 90%나 된다는 것입니다. 그린 PC의 메인보드 기판 크기는 정확히 공개하지 않았으나 7리터에 불과한 작은 케이스 안에 들어가는 작은 메인보드로 생산에 필요한 자원 자체가 적으며 금속과 유리 섬유 소재는 95%, 유기물 소재는 90% 정도 재활용이 가능하게 제조되었습니다. 최대한 단순하게 만든 PCB 덕분에 가능한 일로 생각됩니다. 컴퓨터 전원 공급 장치인 파워 서플라이 역시 재활용 가능성은 물론 탄소 중립 목표에 가까이 다가가기 위해 기존의 파워 서플라이 규격이 아닌 새로운 규격을 사용하고 있습니다. 그린 PC의 파워 서플라이는 일반적인 ATX 파워 서플라이보다 70% 작은 팬리스 파워 서플라이로 질화 갈륨(Gallium nitride, GaN) 소재로 만들어졌습니다. 작은 크기에 12V 출력 단지 하나 밖에 없어 매우 저렴한 파워 서플라이처럼 보이지만, 사실은 파워 서플라이 가운데 최고 등급인 80 플러스 티타늄 등급의 제품입니다. 따라서 50% 로드에 94% 이상의 에너지 효율과 모든 구간에서 90% 이상의 효율을 지닌 제품이라고 할 수 있습니다. 통상 티타늄 등급의 고성능 파워 서플라이의 경우 여러 개의 복잡한 전선과 내부 구조를 지녀 재활용이 까다로운 부품이지만, 그린 PC의 티타늄 등급 파워 서플라이는 작고 단순한 구조로 재활용도 쉬울 것으로 보입니다. 하지만 인텔은 이 제품의 구체적인 출시 일정이나 가격에 대한 정보는 공개하지 않았습니다. 당장 양산을 염두에 둔 제품보다는 기술 데모에 더 가까운 제품이기 때문으로 풀이됩니다. 컴퓨터 제조업이 수많은 제조사의 협업으로 이뤄지고 있어 짧은 시간 내로 산업 구조를 바꾸기 어려운 것도 이유일 것입니다. 하지만 대세가 어느 방향인지는 분명합니다. 자동차 산업처럼 IT 산업도 친환경의 요구를 피할 순 없습니다. 전 세계는 수많은 개인용 컴퓨터, 서버, 스마트폰 같은 IT 기기로 연결되어 있으며 이제 우리는 그것 없이는 살 수 없습니다. 불행히도 이런 제품들의 제품 수명이 짧기 때문에 수많은 전자 폐기물을 만들어 내는 것이 현실입니다. 지속 가능한 미래를 위해서 재활용이 가능한 컴퓨터는 선택이 아닌 필수인 이유입니다. 

챗GPT의 등장으로 인공지능(AI)은 디지털 시대에 거스를 수 없는 대세가 됐다. AI는 스스로 판단해 작업을 최적화, 효율화하고 많은 분야에서 에너지를 절감할 것으로 예상된다. 하지만 AI 스스로는 개발, 구축, 운영에 천문학적인 비용이 들어가며, 전력 소모가 극심하다. 모든 업계가 환경·사회·지배구조(ESG) 경영을 부르짖는 시대를 이끄는 AI가, 정작 엄청난 에너지를 소비하는 역설적인 상황이다. ●SKT ‘에이닷’ GPU 1040개 사용 초거대 AI는 복잡한 연산을 동시다발로 하기에 고성능 처리장치를 필요로 한다. 그런데 고성능 처리장치는 전기를 많이 쓴다. 초거대 AI 운용엔 대체로 중앙처리장치(CPU)가 아닌 그래픽처리장치(GPU)가 쓰인다. AI반도체 시장점유율 90% 이상을 차지하는 엔비디아의 최신 GPU ‘A100’의 소비전력은 모델에 따라 300~400W(와트)이며 시간당 전력 소비량은 300~400Wh(와트시)이다. 초거대 AI 운용엔 GPU가 수백~수천개 사용된다. SK텔레콤의 초거대 AI 서비스 ‘에이닷’의 기반인 슈퍼컴퓨터 ‘타이탄’엔 A100이 1040개 들어간다. 챗GPT 구동엔 A100 1만개가 사용되는 것으로 알려졌다. 초거대 AI 운용에 필수인 인터넷데이터센터(IDC)도 대표적인 고전력 시설이다. 산업통상자원부의 지난달 자료에 따르면 IDC 한 개당 평균 연간 전력 사용량은 25GWh(기가와트시)로, 4인가구 기준 6000가구가 사용하는 전력량과 같은 수준이다. 애초에 AI 연산용이 아니라 그래픽 처리 속도를 높이기 위해 만들어진 GPU는 데이터를 한 번에 대량으로 처리할 수 있지만, 값이 비싸고 전력도 많이 소비한다. 이에 신경망처리장치(NPU)라는 AI 전용 반도체 개발이 GPU의 문제를 해결할 대안으로 주목받았다. SK텔레콤이 지분 50%를 보유한 사피온이 2020년 발표한 NPU ‘X220’은 지난해 AI 구동 성능 테스트에서 엔비디아의 ‘A2’를 뛰어넘은 바 있다. 그러면서도 65W에 불과한 소비전력은 고성능 CPU들과 비교해도 적은 축에 들어간다. 사피온은 올해 전작 대비 성능을 약 4배 향상시킨 신제품 ‘X330’을 출시할 예정이다. KT와 ‘AI 드림팀’을 이룬 반도체 회사 리벨리온도 ‘아톰’이라는 NPU를 개발했다. 아톰 역시 소비전력이 60~150W에 불과하며 챗GPT의 원천 기술인 ‘트랜스포머’ 계열 자연어 처리 기술을 지원한다. 개발 환경 등 현재 AI 생태계 자체가 GPU 체제에서 세워진 만큼 NPU 시장이 짧은 시일 내에 활성화되긴 어려울 것으로 보인다. 이에 GPU와 함께 칩셋을 이루며 방대한 데이터를 빠르게 처리하는 고성능 D램인 고대역폭메모리(HBM)가 AI 반도체의 효율을 극대화할 수 있는 방책으로 떠올랐다. ●침체된 반도체 시장 훈풍 기대감 SK하이닉스의 3세대 ‘HBM3’ 제품은 A100에 탑재되고 있으며, 엔비디아의 차기 GPU 신제품에 4세대 ‘HBM4’가 적용될 전망이다. 삼성전자는 HBM에 AI 프로세서를 결합한 지능형메모리(HBM-PIM) 제품을 AMD의 최신 GPU 제품에 공급하고 있다. 삼성전자에 따르면 HBM-PIM을 활용하면 기존 GPU 가속기 대비 평균 성능이 2배 증가하고 에너지 소모는 50% 감소한다. 업계에선 이런 고성능 D램이 얼어붙은 메모리반도체 시장의 ‘구원투수’ 역할을 할 수 있다고 보고 있다.

국내 연구진이 개인정보 보호 기술이 적용된 반도체 하드웨어를 개발했다. 카이스트 전기및전자공학부 연구팀은 세계 최초로 개인정보 보호 기술이 적용된 인공지능(AI) 반도체를 개발했다고 19일 밝혔다. 이번 연구 결과는 오는 10월에 열리는 컴퓨터 구조 분야 국제학술대회인 ‘MICRO 2022’에서 발표될 예정이다. 구글, 애플, 마이크로소프트 등 클라우드 서비스를 제공하는 기업들은 AI 기술을 기반으로 여러 서비스를 제공한다. 이를 위해서는 사용자 정보를 대량으로 수집해 AI 알고리즘 정확도와 성능을 개선해야 한다. 이 과정에서 많은 양의 사용자 정보가 서비스 제공 기업의 데이터 센터로 전송되고 민감한 개인정보나 파일들이 저장되고 사용되는 과정에서 정보가 유출되기도 한다. 대형 인공지능 모델에서 정보유출은 더 쉽게 발생하는 경향이 있기 때문에 빅테크 기업들은 차등 프라이버시 기술에 주목하고 있다. 차등 프라이버시 기술은 학습에 사용되는 정보에 잡음을 섞음으로써 AI 모델에서 사용자의 개인정보를 유출하는 모든 종류의 공격을 방어할 수 있다. 그럼에도 불구하고 차등 프라이버시 기술을 적용하면 기존 어플리케이션(앱) 속도와 성능이 크게 하락하기 때문에 적용되지 못하고 있다. 이에 연구팀은 차등 프라이버시 기술의 성능 병목 구간을 분석해 앱 성능을 개선시킬 수 있는 인공지능 반도체 칩을 개발했다. 연구팀이 개발한 AI 반도체는 현재 널리 사용되는 AI 반도체 프로세서인 구글 TPUv3와 비교했을 때 차등 프라이버시 인공지능 학습 과정을 3.6배 빠르게 실행시킬 수 있는 것으로 확인됐다. 또 엔디비아의 최신 그래픽처리장치(GPU) A100 대비 10분의 1 수준의 자원으로 대등한 성능을 보인다고 연구팀은 설명했다. 연구를 이끈 유민수 카이스트 교수는 “이번 연구는 지금까지 없었던 차등 프라이버스가 적용된 인공지능 반도체를 처음 개발했다는 점에서 의미가 크다”며 “하드웨어 한계로 쓰이지 못했던 차등 정보보호 기술의 대중화에 도움을 줄 수 있을 것”이라고 말했다.

반도체에 이미 천문학적 비용을 투자했지만, 중국의 반도체 굴기는 아직 미국, 한국, 대만을 따라잡기는 어려운 상황입니다. 메모리나 파운드리 부분에서는 막대한 투자를 진행한 덕분에 그래도 조금씩 결과물을 내놓고 있으나 경쟁자들은 더 앞서 가고 있으며 중국 내수 시장은 물론 세계 반도체 시장에서도 비중은 미미한 편입니다. 반도체 굴기의 배경 중 하나는 껄끄러운 관계인 미국에 핵심 IT 자원을 의존하고 있다는 것입니다. 예를 들어 중국 역시 다른 나라와 마찬가지로 CPU와 GPU는 인텔, 엔비디아, AMD 같은 미국 기업에 의존하고 있습니다. 이 한계를 극복하기 위해 중국 정부는 당장 결과물이 미미한 수준이라도 지속적인 투자를 통해 자체 반도체 생태계를 구축하기 위해 노력하고 있습니다. 상하이 자오신 반도체 역시 이런 프로세서 제조사 가운데 하나로 x86 CPU 라이선스를 지닌 대만 비아와 협업해 카이샨 (KaiXian) 시리즈 CPU를 제작하고 있습니다. 물론 그 성능은 최신 x86 CPU과 비교해 매우 낮은 편입니다. 별도 판매량이나 점유율은 공개된 적이 없지만, 중국 내수 시장에서조차 비중이 미미한 수준으로 보입니다. 하지만 CPU는 x86 호환 프로세서도 개발했고 ARM, RISC-V 같은 다른 대안도 있습니다. 중국의 반도체 굴기에 더 큰 걸림돌은 바로 GPU입니다. 인공지능 및 고성능 컴퓨팅 분야에서 갈수록 GPU의 중요성이 커지고 있지만, 아직 중국의 자체 GPU 관련 기술은 걸음마 단계를 벗어나지 못하고 있기 때문입니다. 물론 걸음마 단계라도 시도는 이어지고 있습니다. 자오신의 자회사 중 하나인 글렌플라이 (Glenfly)는 최근 어라이즈 (Arise) GT-10C0 그래픽 카드를 공개했습니다. (사진) 이 그래픽 카드는 28nm 공정으로 제조되었으며 500MHz의 속도로 작동합니다. FP32 기준 1.5TFLOPS급 연산 능력을 지녀 성능이나 공정 모두 2014년 출시된 지포스 GTX 750 Ti와 유사해 보이지만, 실제 성능은 베일에 가려 있습니다.이 그래픽 카드의 성능을 짐작할 수 있는 단서는 같은 계열의 제품으로 보이는 어라이즈 1020 GPU의 벤치마크 결과입니다. 최근 등록된 긱벤치 5 점수는 579점으로 10년 전 내장 그래픽과 견줄 수 있는 수준입니다. 상세한 벤치마크 결과가 공개되지 않아 섣불리 판단하기는 어렵지만, 독립 그래픽 카드는 고사하고 최신 내장 그래픽과도 경쟁이 되기 힘든 수준입니다. 출처가 확실치 않은 벤치마크 결과와 별개로 실제 성능이 매우 낮을 것이라는 추측에는 나름의 이유가 있습니다. 어라이즈 GT 10C0은 메모리로 DDR4 1200 2GB/4GB (64/128bit)를 사용하고 있는데, 이는 최근 등장하는 시스템 메모리보다 느립니다. 이렇게 느린 메모리를 사용하는 경우 GPU의 성능이 아무리 빨라도 제 성능을 내기 어렵습니다. 마치 고성능 스포츠카가 제한 속도 30km인 도로를 달리는 것과 같은 상황이 되기 때문입니다. 따라서 고성능 GPU 메모리는 시스템 메모리보다 훨씬 빠른 GDDR 메모리나 HBM 메모리를 사용하는데, 어라이즈 GT 10C0은 반대로 더 느린 메모리를 사용하고 있습니다. 게임 성능에 대한 의구심에는 호환성 문제도 있습니다. 오랜 세월 그래픽 감속기라는 이야기를 들었던 인텔 내장 그래픽도 오랜 세월 사용되면서 게임과 여러 가지 프로그램에 대한 호환성과 성능을 개선했습니다. 더 오래 사용된 엔비디아의 지포스와 AMD의 라데온은 말할 것도 없습니다. 그런데 새로 들어온 신생 GPU의 경우 호환성에 상당한 문제가 생길 가능성이 높습니다. 성능을 둘째 치고 제대로 실행되지 않거나 다양한 충돌을 일으킬 가능성이 있다는 이야기입니다. 따라서 자오신의 x86 호환 CPU와 마찬가지로 GPU 역시 시장에서 초기 반응은 매우 나쁠 것으로 예상됩니다. 자오신이 만든 중국 자체 CPU와 GPU로 윈도우나 리눅스 PC를 만들 순 있겠지만, 성능과 호환성 모두 시장에서 받아들이기 힘든 수준일 것입니다. 물론 그럼에도 이런 과정을 거쳐 기술력을 축적하면 10년, 20년 후에는 어떤 결과가 나올지 누구도 장담할 순 없습니다. 하지만 당장에는 중국의 GPU 굴기 역시 상당한 험로가 예상됩니다.

2010년대 초 중국은 미국산 CPU와 GPU를 이용해 세계 최고 성능의 슈퍼컴퓨터를 선보였습니다. 이에 자극받은 미국 정부는 2015년 오바마 행정부 시절 국가 전략 컴퓨팅 구상(National Strategic Computing Initiative, NSCI)을 발표했습니다. 미국 에너지부, 국방부, 국립 과학 재단(NSF)가 주도해 인텔, 엔비디아, AMD, IBM 등 주요 IT 제조사들과 함께 슈퍼컴퓨터 분야에서 미국의 우위를 지킬 차세대 슈퍼컴퓨터를 만들기로 합의한 것입니다.  2016년 국가 전략 컴퓨팅 구상에 참여한 기관 및 기업들은 2022년에 첫 엑사플롭스(ExaFlops)급 슈퍼컴퓨터를 만들 수 있을 것으로 예측했습니다. 그리고 우선 오크리지 국립 연구소와 로렌스 리버모어 국립 연구소에 서밋 (Summit)과 시에라 (Sierra)라는 100-300 페타플롭스급 슈퍼컴퓨터를 만들기로 계획했습니다. 이 슈퍼컴퓨터는 IBM의 파워 CPU와 엔비디아의 볼타 GPU를 사용한 것이었습니다.  하지만 두 회사에만 의존하는 경우 슈퍼컴퓨터 시장 독점 우려와 함께 실패할 경우 목표 달성이 힘들어지는 문제가 있습니다. 따라서 미국 정부는 인텔과 AMD에도 비슷한 조건으로 슈퍼컴퓨터를 개발하게 했습니다. 이들은 각각 독자 CPU + GPU 플랫폼을 이용해 슈퍼컴퓨터를 개발하기로 했습니다. 2016년 독자 CPU를 기반으로 세계 최고 성능 슈퍼컴퓨터를 개발한 중국에 대응하기 위해서는 미국이 가진 모든 자원과 최고의 회사들을 다 동원해야 한다는 절박함도 있었습니다.  그리고 행정부가 두 번 바뀐 2022년에 미국은 세계 최초의 엑사플롭스급 슈퍼컴퓨터를 선보였습니다. 정확히 예상한 시점에 목표에 도달한 것입니다. 첫 번째 타자는 AMD가 개발한 프런티어 (Frontier) 슈퍼컴퓨터입니다. AMD의 트렌토 (Trento) 64 코어 CPU와 라데온 인스팅트 MI250X GPU를 이용한 슈퍼컴퓨터로 최근 1.102 ExaFlop/s의 연산 속도를 기록해 세계에서 가장 빠른 컴퓨터이자 사상 최초로 엑사플롭스급 연산 능력을 지닌 슈퍼컴퓨터로 기록됐습니다.  프런티어는 한 개의 CPU와 네 개의 GPU가 기본 구조로 각 CPU마다 512GB DDR4 메모리를 탑재하고 GPU마다 128GB의 HBM2e 메모리를 탑재해 하나의 노드 (node)를 구성합니다. 그리고 128개의 노드가 하나의 올림푸스 랙 (Olympus Rack)이라는 거대한 냉장고 같은 구조를 만듭니다. 최종적으로 74개의 랙이 모여 프런티어 슈퍼컴퓨터를 구성하는 것입니다. 노드의 숫자만 9,408개로 같은 수의 CPU와 네 배나 되는 GPU가 탑재되어 있습니다. 메모리 용량만 HBM2e 메모리 4.6PB, DDR4 메모리 4.6PB이며 700PB가 넘는 거대한 저장 장치를 갖고 있습니다. 소비하는 전력은 웬만한 발전소 한 개에 해당하는 29MW입니다. 프런티어의 성과는 오바마 시절부터 시작된 슈퍼컴퓨터 투자가 정권이 바뀌어도 지속적으로 이뤄진 덕분입니다. 슈퍼컴퓨터는 미국처럼 관련 기술이 많이 축적된 국가에서도 개발부터 실제 가동까지 오랜 시간이 걸리는 분야입니다. 당연히 그사이 행정부가 바뀌는 경우가 비일비재합니다. 하지만 정치적 상황과 관계없이 슈퍼컴퓨터처럼 미국의 국력과 직접 연관되는 분야에는 아낌없는 투자가 이뤄졌기 때문에 지금의 성과가 나왔다고 할 수 있습니다.  하지만 1등은 하는 것보다 지키는 것이 더 어렵습니다. 중국은 말할 것도 없고 슈퍼컴퓨터 분야에서 상당한 독자 기술력을 지닌 일본도 다시 1위 타이틀을 차지하기 위해 연구를 계속하고 있습니다. 따라서 이미 미국은 2엑사플롭스 이상의 연산이 가능한 차세대 슈퍼컴퓨터 개발과 투자를 동시에 진행하고 있습니다. AMD는 프런티어 이외에도 Zen 4 기반의 최신 CPU와 최신 GPU를 사용한 엘 카피탄 (El Capitan)을 2023년 선보일 예정으로 목표 성능은 2엑사플롭스입니다. 인텔 역시 오로라(Aurora)라는 엑사플롭스급 슈퍼컴퓨터를 개발 중인데, 인텔의 사파이어 래피즈 제온 CPU와 폰테 베키오 GPU를 이용해 곧 모습을 드러낼 예정입니다.  엔비디아는 역시 최근 로스 알라모스 국립 연구소에 공급할 AI 슈퍼컴퓨터인 버나도 (Venado)를 추가로 공개했습니다. 엔비디아가 자체 개발한 Arm 기반 서버 프로세서인 그레이스 슈퍼칩과 호퍼 GPU를 이용한 슈퍼컴퓨터로 특히 AI 관련 연산에 특화되어 10 엑사플롭스 AI 연산이 가능합니다. 엔비디아는 그레이스 슈퍼칩을 이용한 차세대 슈퍼컴퓨터 프로젝트를 몇 개 공개했으며 첫 제품은 2023년에 볼 수 있을 것이라고 언급했습니다. 과거 인텔, AMD, IBM 같은 다른 회사 CPU를 이용해 자사 GPU와 같이 사용했던 데서 벗어나 CPU 독립을 이룰 수 있을지 결과가 주목되는 상황입니다.  미국의 엑사스케일 슈퍼컴퓨터 개발 성공은 정파를 떠나 장기적이고 일관성 있는 정책이 과학기술 발전에 중요하다는 것을 보여주는 또 다른 사례입니다. 다음 미국 대선에 누가 당선될지는 알 수 없지만, 현재 진행 중인 미국의 슈퍼컴퓨터 육성 정책은 크게 달라지지 않을 것으로 예상됩니다.

KT는 클라우드 기반 GPU(그래픽처리장치) 인프라 제공 서비스 ‘하이퍼스케일 AI(인공지능) 컴퓨팅’을 출시했다고 10일 밝혔다.하이퍼스케일 AI 컴퓨팅은 GPU 인프라를 동적 할당 방식으로 제공하는 사용량 기반 종량제 서비스다. AI 서비스 전문기업이나 AI 개발자 등은 원하는 시점에 원하는 만큼만 GPU 자원을 할당받아 사용한 후 반납하면 된다. 이 서비스는 한 개의 서버에서 구동할 수 있는 GPU 수량 이상을 클러스터링해 연산 활용에 제공한다. 대규모의 GPU 자원이 필요할 경우 요청을 자동으로 대기시키고 순차적으로 처리하는 방식으로 서비스 안정성을 높였다. KT는 2022년 ‘초대규모 GPU팜’을 구축하고 2023년에는 전용 AI 반도체 칩을 제작해 GPU 기술 국산화를 추진할 계획이다. KT Cloud/IDC사업추진실장 윤동식 부사장은 “앞으로도 AI 전문 기업들과의 협력을 강화해 대한민국 AI 개발자들이 활발하게 활동할 수 있는 생태계를 구현하기 위해 노력하겠다”고 말했다.

장광호 스마트치안지능센터장 인터뷰현실판 ‘마이너리티 리포트’ 구현 노력올해 안 전화사기 대응 플랫폼 구현될 듯현장 경찰 지원 ‘치안 비서’ 현실될 것 범죄 발생은 불규칙적이다. 인간이 범죄를 저지를 과정이 결코 합리적일 수 없어서다. 그렇기에 영화 ‘마이너리티 리포트’처럼 범죄 발생을 예측하고 막아내는 건 현실세계에선 불가능에 가깝다. 영화의 배경이었던 2054년 역시 범죄를 예측해낸 건 3명의 예지자였다. 첨단기술은 그저 그들의 뇌파를 분석해 영상으로 보여줄 뿐이었다. 그럼에도 경찰에 있어 범죄를 예측하고 이를 예방하는 건 매우 중요하다. 범죄가 발생하고 나면 그 피해는 되돌릴 수 없기 때문이다. 김창룡 경찰청장 역시 취임 이후부터 선제·예방적 경찰활동을 줄곧 강조해 왔다. 서울신문은 지난 17일 충남 아산의 경찰대학 치안정책연구소에서 장광호 스마트치안지능센터장을 만났다. 2018년 7월 설립된 스마트치안지능센터는 범죄를 예방하고 일선 수사관들에게 범인 찾는 기술을 제공하기 위해 여러 데이터들을 분석하고 도구를 만들고 있다. 지난해부터 ▲전화사기 키워드-계좌-전화번호 분석 ▲차량번호 식별 기술 등을 개발해 제공하고 있으며 올해 안에는 ‘전화사기 대응 플랫폼’도 개발이 완료될 것으로 보인다. 장 센터장은 “수사구조개혁을 통해 수사 주체는 경찰이 된 만큼 수사역량을 높이는 기술력을 갖춰야 한다”며 “앞으로 범죄는 ‘스마트폰에서 시작해서 비트코인으로 끝날 것’이라는 말도 나오는 만큼 사이버공간에서 위험에 대응할 수 있는 기술을 만들어 현장에 지원해주고 싶다”고 말했다.아래는 일문일답. -스마트치안지능센터는 어떤 일을 하는 곳인가. 2018년 7월에 만들어졌다. 경찰과 민간, 공공의 데이터들을 모아서 분석하고 프로그램을 개발한다. 112신고데이터, 경찰수사데이터 등을 인구, 소득, 도시 환경, 인터넷 데이터와 결합해서 분석한다. 범죄를 예방하고, 범인을 찾는 기술을 개발하기 위함이다. 현직 경찰관 6명 등 약 30명의 동료와 같이 일한다. 이 조직이 경찰청이 아닌 연구소에 있어서 갖는 장점도 있다. 경찰청은 데이터를 가진 부서나 의사결정자들과 가깝지만, 업무 호흡이 급하고, 직원들이 거의 1년마다 이동한다. 분석과 개발은 몇 달 동안 데이터를 모으고, 장비와 소프트웨어를 시험하며, 전문가들을 모아 협력하는 과정을 거쳐야 한다. 며칠 뚝딱 나오는 게 아니다. 우리 연구소는 뛰어난 동료들과 협업 파트너들과 길게 호흡을 맞출 수 있다. -경찰 데이터 분석이라는 게 구체적으로 어떤 일인가? 영화 마이너리티 리포트 같이 범죄를 미리 예측하나. 마이너리티 리포트는 이 분야의 설명을 쉽게 하도록 해줬지만, 불안감도 주는 애증의 영화다. 아무리 데이터 기술이 발전하더라도 현실이 되기 어렵다고 생각한다. 인간이 범죄를 저지르는 과정이 합리적이고 평균적인 일이 아니기 때문이다. 일종의 비정규적 이벤트이다. 실제 영화에서도 데이터 분석으로 범죄를 예측하는 것이 아니라, 예지력을 가진 초인들이 꿈처럼 예언한다. 기술로서 범죄발생 확률이나 용의자 유형 분석을 할 수 있겠지만, 인간의 판단과 증거를 모아서 경찰 활동에 나서게 하는 일은 사람의 영역이다.-어떤 분석을 하는지 예를 들어 설명해 달라. 112신고 데이터를 많이 활용한다. 어느 지역에서 주로 신고가 일어나고 언제 늘어나는지, 거기에 영향을 미치는 요인이 무엇인지 찾는다. 순찰차가 미리 대기하고 있으면 좋을 지도를 만들거나, 순찰 인력을 지원해줘야 할 시간대의 그래프를 만들어주기도 한다. 수사 데이터를 분석해서 범인이 사용한 전화번호나 계좌번호, 사기 수법으로 예전 저지른 범죄목록을 찾는 분석도 한다. 예전 범행에 대한 처벌을 받도록 자료를 찾아주는 의미도 있다. 최근에는 영상 데이터 분석 기술도 연마하고 있다. 인공지능으로 차량번호판 영상을 분석하는 기술을 이용해 CCTV에 흐릿하게 찍힌 차량 번호를 찾아주는 일도 하고 있다. -경찰청 내 다른 부서에서도 비슷한 업무를 하고 있다. 차이는 뭔가. 세 가지 측면에서 차이점이 있다. 첫째 우리는 핵심 영역에 대해 직접 분석·개발한다. 경찰청 다른 부서는 주로 외주 업체에 분석?개발을 의뢰한다. 그 방식으로는 앞으로 빅데이터?인공지능 역량을 쌓을 수 없다. 둘째, 기술력의 차이다. 최신 기술은 어제와 오늘이 다르다. 우리는 기술을 연구하는 부서다. 최신 기술을 스스로 공부하고 실험해보면서 높은 성능의 프로그램을 개발하고 있다. 셋째, 통합이다. 경찰청 각각의 부서는 각자 분야의 전문성이 높지만, 서로의 데이터를 연결하는 건 부족하다. 우리 연구소는 경찰 각 부서는 물론 다른 기관의 데이터도 결합해 분석하고 개발하고 있다. -현재 주력으로 개발하는 기술이 있다면 소개해달라. 전화사기 대응기술이 대표적이다. 우리 부서는 전화사기에 대한 112신고 및 수사 데이터 등을 결합해서 분석하고 있다. 범죄 발생 지역을 예측해서 경고하고, 전화사기범의 계좌번호나 전화번호, ID를 찾아내 수사 단서를 찾을 수 있는 시스템을 만들고 있다. 아울러 실제 재난 문자처럼 전화사기가 빈발하는 지역을 알려주고, 실시간 전화사기 피해를 인근 경찰관에게 알려줘 출동을 지원하는 시스템을 만들고 있다. 스마트치안빅데이터 플랫폼도 있는데, 경찰과 지방자치단체, 민간기업의 치안에 대한 데이터를 모아서 공개하는 플랫폼이다. 이 플랫폼 안에서 데이터를 유통하고 있다. 지자체의 범죄통계와 인구·소득·위험지역을 한 눈에 볼 수 있도록 지도 서비스를 만들고자 한다.-경찰의 수사 데이터를 협조받기가 어려웠을 것 같다. 힘든 점은 무엇인가. (경찰 내) 데이터를 자유롭게 활용할 수 있다면 비약적으로 발전했을 것이다. 그러나 데이터의 공개 범위, 개발을 위한 활용 등에 대해 아직 합의된 규정이 없어 동의받는 것은 쉽지 않다. 경찰 내부에 데이터 분석 개발 전문 부서를 만든 건 전향적으로 분석·연구 해보라는 취지였다. 이런 취지와 효과가 조금씩 알려지는 것 같다. 앞으로 스마트치안이 현실화되려면 자원이 절실하다. 인공지능(AI)을 이용한 범죄 분석·연구는 슈퍼컴퓨터라 불리는 GPU 서버들이 수백 대가 필요하다. 그래서 경찰청에는 데이터를 얻으러 과학기술과 예산을 다루는 부처에는 자원을 구하고자 돌아다니고 있다. -현재 상상할 수 있는 스마트치안의 최대치는 어디까지인가? 영화 마이너리티 리포트처럼 어디에서 어떤 범죄가 일어날 것이라는 기술적 예측은 가능할 거다. 그리고 출동하는 경찰관들에게 지금 일어난 범죄가 어떤 유형이고, 어떻게 대응해야 하는지 법규와 매뉴얼, 현장 대응 방법을 가르쳐 주는 ‘치안 비서’같은 상상도 현실이 될 거다. 물론 최고로 발전한 기술 단계는 아주 편안하고 안락해서 이게 특별한 기술인가처럼 느껴지지도 않을 것이다. 현장에서 순찰을 돌고 범인을 쫓는 동료 경찰들이 반복적인 일을 덜 할 수 있도록 경찰 행정사무들이 자동화되고, 국민과 경찰관들이 불행한 사고를 겪지 않도록 미리 정보와 장비를 대비할 수 있게끔 하는 게 궁극적 목표다. 스마트치안은 기술이 열쇠가 아니라, 협력이 열쇠다. 노고를 함께 하는 우리 부서 동료들과 데이터를 지원해주는 부서들, 협업을 함께 해주는 전문가들에게 감사하다.

우리가 아침부터 저녁까지 접속하는 모든 인터넷 서비스와 웹 사이트는 서버를 통해 이뤄집니다. 서버에도 여러 가지 형태가 있지만, 현재 가장 일반적으로 사용되는 서버는 인텔의 x86 프로세서(제온 CPU)와 대용량의 메모리, 스토리지(SSD, HDD 등)를 탑재한 것입니다. 운영체제로는 각 회사에 최적화된 리눅스 기반 OS가 주로 사용됐습니다. 그런데 최근 서버 시장에는 큰 변화가 있었습니다. 본래 한 자릿수 점유율도 버거워 보였던 AMD가 서버 시장에서 급성장하면서 이미 두 자릿수 점유율을 확보해 인텔을 크게 위협하고 있습니다. 그런가 하면 본래 인텔의 주요 고객이었던 아마존은 AWS에 사용되는 클라우드 서비스 전용 ARM 서버칩인 그라비톤(Graviton) 시리즈를 개발했습니다. 아마존에 의하면 최신 그라비톤 2 프로세서의 성능은 인텔과 AMD의 최신 서버 CPU를 능가합니다. AMD의 급성장과 더불어 서버 시장의 큰 손들이 자체 프로세서를 개발하고 있다는 소식은 인텔에 큰 악재입니다. 그런데 최근 이 대열에 구글도 참여했습니다. 엄밀히 말해 CPU는 아니지만, CPU 의존도를 낮춰주는 비디오 코딩 유닛(video (trans)coding unit, VCU) 프로세서를 개발했기 때문입니다. 현재 유튜브에는 분당 500시간 이상의 영상이 업로드되고 있습니다. 그런데 이 영상들의 포맷은 모두 제각각입니다. 이를 다양한 서비스 해상도에 맞춰 압축 효율이 높은 동영상 포맷인 H.264, VP9, AV1으로 바꿔줘야 안정적인 동영상 서비스가 가능합니다. 지금까지 이 작업은 인텔 CPU와 그래픽 카드를 통해 이뤄졌습니다. 그런데 최신 CPU와 GPU의 성능으로도 현재 작업량을 해결하기 위해서는 막대한 자원이 필요합니다. 구글이 자체 주문 제작형 반도체인 아르고스 VCU (Argos VCU) 개발에 나서게 된 이유입니다. 아르고스 VCU 칩은 10개의 인코더 코어(Encoder core)와 몇 개의 디코더 코어(Decoder core), 자체 CPU와 메모리 컨트롤러, PCIe 유닛 등으로 이뤄져 있습니다. 구글이 공개한 반도체 다이 (die) 이미지를 보면 사실상 인코더 코어만 무식하게 밀어 넣은 프로세서라는 사실을 알 수 있습니다. 동영상 인코딩만이 이 프로세서의 유일한 목적인 셈입니다. 바로 이런 점 때문에 아르고스 VCU는 CPU나 GPU보다 인코딩 성능이 훨씬 우수할 수밖에 없습니다.CPU는 여러 가지 명령을 수행할 수 있지만, 대신 그래픽 처리 같은 특수 임무를 빠르게 수행하지 못합니다. 따라서 빠른 그래픽 연산 처리를 위해 GPU의 도움을 받습니다. 그러나 그래픽 처리에 특화된 GPU 역시 동영상 인코딩과 관련이 없는 3D 그래픽 처리 관련 로직이 너무 많아 인코딩에 효율적인 구조는 아닙니다. 아르고스 VCU가 왜 동영상 인코딩 성능에 뛰어난지 쉽게 유추할 수 있는 대목입니다. 물론 아르고스 VCU 자체로 컴퓨터를 구성할 순 없기 때문에 구글은 PCIe 인터페이스 기반 인코딩 가속 카드로 개발했습니다. 카드 하나에 2개의 아르고스 VCU가 있고 2소켓 서버에 최대 10개의 카드를 탑재할 수 있습니다. 따라서 서버 한 개에 최대 20개의 아르고스 VCU가 들어가는 것입니다. 구글에 의하면 아르고스 VCU 서버는 스카이레이크 CPU 기반 서버보다 H.264 인코딩 성능이 7배 뛰어나고 VP9 인코딩 성능은 33.3배나 뛰어납니다. 구글은 아르고스 VCU 같은 주문 제작형 반도체를 통해 수백만 개의 인텔 CPU를 대체할 수 있을 것으로 기대했습니다. 사실 이 정도 수요가 없다면 자체 프로세서를 개발하고 생산하는 비용을 회수하긴 힘들 것입니다. 구글은 이미 1세대 아르고스 VCU를 자체 데이터 센터에 보급했으며 2세대 아르고스 VCU 개발에 들어간 상태입니다. 물론 아무리 구글이라도 해도 모든 서비스를 자체 프로세서로 해결할 순 없으며 사실 유튜브 역시 인텔 CPU가 탑재된 막대한 수의 서버를 통해 운영되고 있습니다. 하지만 이렇게 자체 서비스 효율화와 에너지 절약을 위해 주문 제작형 프로세서를 제조하는 IT 기업이 늘어날수록 인텔의 입지도 좁아지는 것이 사실입니다. 다만 인텔도 반격의 카드는 있습니다. 우선 인텔의 제품군을 CPU에서 GPU나 다른 주문 설계 반도체로 확장하는 것입니다. 이는 현재 적극적으로 시도하고 있으며 이미 GPU에서는 하나씩 성과가 나오고 있습니다. 또 파운드리를 통해 아예 다른 회사의 프로세서를 제조하고 수익을 얻는 방법도 있습니다. 그런데 이 두 가지 모두 인텔의 근본적인 변화를 가져올 것입니다. 주요 고객인 구글, 애플, 마이크로소프트, 아마존 등 거대 IT 회사가 큰 변화를 시도하는 만큼 인텔 역시 그에 맞는 변화를 이룩해야 생존할 수 있습니다. 앞으로 자체 주문 프로세서 확산과 함께 서버 생태계가 어떻게 변할지 주목됩니다. 고든 정 칼럼니스트 jjy0501@naver.com

미국의 반도체 기업인 인텔이 2023년에도 주요 제품의 상당수를 자체 생산하겠다고 밝혔다. 첨단 공정 개발에서 뒤쳐진 상황이지만 아직까진 경쟁력을 유지할 수 있다는 판단에서다. 다만 일부 제품에 대해서는 반도체 위탁생산(파운드리) 업체에 맡기는 ‘투트랙 기조’가 확대될 전망이다. 인텔의 차기 최고경영자(CEO)로 내정된 펫 겔싱어는 21일(현지시간) 실적 발표 콘퍼런스콜에서 “우리의 2023년 제품 대다수가 내부적으로 생산될 것”이라며 “우리 관심은 기술 격차를 좁히는 것이 아니라 프로세서 기술에서 명백한 선두 자리를 되찾는 것”이라고 말했다. 과거 수십년 동안 반도체를 자체 설계하고 생산했던 인텔은 최근 몇 년간 첨단 공정에서 뒤쳐지고 있단 평가를 받았다. 아직까지도 14나노미터(nm·10억분의 1m) 공정에 머물면서 7나노 공정에 진입한 AMD를 따라잡지 못하고 있다. 지난해 7월에는 7나노 프로세서 출시와 관련해 기존 전망인 2021년 말보다 6개월 미뤄질 것이라고 설명했다. 심지어 지난해 10월에는 인텔이 “2021년 초 7나노 장비를 추가 구비할지, 파운드리를 맡겨야 할지 결정할 것”이라고 밝히자 업계에선 TSMC나 삼성전자가 외주 생산을 맡을 것이란 관측이 흘러나왔다.하지만 인텔은 결국 7나노 중앙처리장치(CPU)의 자체 생산을 선언했다. 오는 7월부터 본격화해 2023년 첫 제품을 출시하겠단 계획이다. 최근 7나노 공정을 살펴봤다는 겔싱어 차기 CEO는 “7나노 프로그램에서 이뤄진 진전에 만족한다”고 강조했다. 밥 스완 현재 인텔 CEO는 “인텔은 지난해 7월 밝혔던 문제를 해결했고 6개월간 7나노 공정을 회복하려 노력했다”면서 “2023년 예정된 일정으로 되돌리는 데 성공했다”고 말했다. 이를 놓고서 우려의 시선도 있다. 이제라도 하루빨리 칩 생산을 파운드리 업체로 넘기는 것이 나을 수 있는데 괜한 고집을 부리고 있는 것 아니냐는 것이다. AMD의 7나노 칩이 TSMC에서 생산되듯 인텔도 위탁생산을 맡겨야 한다는 것이다. 현재 TSMC와 삼성전자는 5나노 이하 초미세공정까지 가능한데 인텔이 7나노 제품을 내놓을 2023년에는 이들과의 격차가 더 벌어질 수 있다. 다만 엄청난 인력과 자원을 투입해 7나노 칩 개발에 힘을 쏟았는데 이를 포기하다면 회사 내외부에 있을 충격파가 엄청났을 것이라는 평가도 있다.그렇지만 일부 제품에 대해서는 위탁생산 기조를 확대할 것으로 보인다. 스완 CEO는 “생산 물량 중 일부에 외부 파운드리를 활용할 계획”이라며 “우리 계획에 중요한 부분이지만 주요 내용은 오늘 밝히지 않을 것”이라고 말했다. 파운드리를 어떻게 활용할 것인지에 대해서는 겔싱어 차기 CEO가 정식 취임하는 다음달 15일 이후 상세한 내용을 밝힐 예정이다. 업계에서는 인텔의 차세대 그래픽처리장치(GPU)나 PC 메인보드에 탑재되는 칩셋 등의 생산을 TSMC나 삼성전자에 맡길 수 있을 것이라 보고 있다. 현재 파운드리 업체들은 주문 물량이 넘쳐나는 호황을 누리고 있는데 인텔도 위탁생산을 확대하게 되면 TSMC나 삼성전자의 몸값이 높아질 것으로 보인다. 한편 인텔의 지난해 매출액은 779억 달러(약 85조 8000억원)로 역대 최고치를 달성했다. 전년도 기록했던 720억달러를 훌쩍 넘겼다. 그러나 순이익은 209억달러(약 23조원)로 1년전 기록했던 211억달러를 하회했다. 한재희 jh@seoul.co.kr

광주 북구 오룡·대촌동과 전남 장성군 남면 일대 등 ‘광주 첨단3지구’에 인공지능 중심 산업융합 집적단지(AI 집적단지) 조성 계획이 확정됐다. 19일 광주시에 따르면 과학기술정보통신부는 전날 제33차 연구개발특구위원회에서 광주 연구개발특구 미개발지인 첨단 3지구에 인공지능 기반 과학기술 창업 단지 중심의 연구산업복합단지 조성 계획을 심의·의결했다. 개발 계획이 확정된 AI 집적단지는 광주 연구개발특구 첨단 3지구 4만6200㎡에 3939억원을 들여 2024년까지 조성된다. 예산 항목별로 건축 974억5000여만원, 데이터센터 900억4000여만원, 실증 장비 127억8000여만원, 창업지원 543억2000여만원, 인력양성 308억7000여만원, 연구개발(R&D) 508억4000여만원 등이 책정됐다. 이 사업은 인공지능과 광주 주력산업을 융합해 AI 산업 생태계를 조성하는 것이 핵심 과제다. 데이터·기술·인력 등 자원, 데이터센터·실증 시설 등 인프라를 집약해 생태계를 조성하고 자동차·에너지·헬스케어 등 지역 주력 산업을 AI 데이터를 기반으로 육성하는 것이다. 핵심 시설은 AI 특화 데이터센터, AI 제품·서비스 실증동, 창업·교육동 등이다. 특히 연내 착공 예정인 데이터센터는 그래픽처리장치(GPU) 연산량 88.5페타플롭스, 저장 용량 107페타바이트 규모로 설계됐다. 국내 최고인 한국과학기술정보연구원의 슈퍼컴퓨터 5호기 누리온(25.7페타플롭스) 보다 뛰어나 세계 10위권 성능이다.집적단지는 자동차·에너지·헬스케어 등 모두 77종의 장비를 구축해 AI 제품과 서비스 실증을 지원한다.올해 안에 관련 기관, 전문가가 참여하는 AI 인력양성 기획위원회를 구성해 추진계획을 수립한 뒤 2021년부터 인력 양성 사업도 본격적으로 추진한다. 이용섭 시장은 “슈퍼 컴퓨팅 시스템을 갖춘 데이터 센터, 연구소 등이 집적화되면 이를 활용하기 위한 기업들이 몰려올 것”이라며 “이에 대비해 젊은층 인력 양성에 행정력을 모으겠다”고 말했다. 광주 최치봉 기자 cbchoi@seoul.co.kr

엔비디아가 코로나19로 인해 사상 최초로 온라인으로 진행된 GTC 2020 컨퍼런스에서 차세대 아키텍처인 암페어(Ampere)와 이를 적용한 고성능 GPU인 A100을 공개했습니다. A100의 첫인상은 한마디로 ‘거대하다’입니다. 12nm 공정에서 더 미세한 7nm 공정으로 이전하면 트랜지스터 집적도가 증가하는 게 당연하지만, 전 세대의 2.5배가 넘는 542억 개는 예상을 뛰어넘는 수준입니다. GPU 다이 크기는 826㎟인데 이전 세대인 볼타(Volta) GV100이 815㎟ 크기의 다이에 211억 개의 트랜지스터를 집적한 것과 비교하면 정말 빽빽하게 트랜지스터를 담아 넣은 셈입니다. 하지만 이렇게 늘어난 크기에도 불구하고 A100의 배정밀도 연산 능력은 9.7 TFLOPs로 GV100의 7.8 TFLOPs과 비교해 큰 차이가 없습니다. 그 이유는 시대의 요구에 따라 고성능 컴퓨팅보다 인공지능에 관련 연산 유닛을 대거 집어넣었기 때문입니다. 사실 엔비디아는 2017년에 나온 볼타 GV100부터 GPU에 인공지능 기술을 대거 도입해 이 시장에서 승승장구했습니다. 암페어 A100은 아예 올인했다고 해도 좋을 정도로 인공 신경망 관련 신기술에 집중했습니다. 암페어 A100은 인공지능과 관련된 특수 연산인 텐서 연산을 가속하기 위해 3세대 텐서 코어를 탑재했습니다. 3세대 텐서 코어는 TensorFloat-32 (TF32) 텐서 연산 유닛을 새로 탑재해 FP32 데이터 연산과 입출력 속도를 10배 정도 끌어올렸습니다. 기존의 볼타에서도 지원했던 FP16 연산 속도도 2.5배 빨라졌습니다. 이것만으로도 인공지능 관련 연산 속도를 크게 높일 수 있지만, 엔비디아는 희소성 가속(Sparsity Acceleration)이라는 신기술을 도입해 인공 신경망 연산 속도를 다시 두 배 높였습니다. 따라서 실제 체감 속도는 최대 20배 빨라졌습니다. 엔비디아가 공개한 벤치마크 결과에 의하면 암페어 A100은 일반적으로 많이 사용되는 고성능 컴퓨팅 (HPC) 연산에서는 볼타 대비 1.5-2.1배 정도 빠르며 인공지능 연산은 방식에 따라 3-7배 정도 더 빠릅니다.(그래프 참조) 고성능 컴퓨팅 분야에서도 더 빨라지긴 했지만, 인공지능 관련 기능을 대폭 강화해 AI에 대한 요구가 많아지는 데이터 센터 및 기업 시장을 정조준한 것으로 풀이될 수 있습니다.암페어 아키텍처의 또 다른 장점은 인공지능 연산에서도 학습(training)에 특화된 볼타 아키텍처와 추론(inference)에 특화된 튜링 아키텍처의 장점을 포괄해 학습과 추론 모두에 사용할 수 있다는 것입니다. 볼타 아키텍처에서는 FP16 텐서 연산만 지원했고 나중에 등장한 튜링 아키텍처에서는 추론 연산에 중요한 INT4/8을 지원해 두 가지 제품이 각각의 용도에 사용되었습니다.(후자는 T4 가속기) 기업 입장에서는 작업에 따라 두 가지 인공지능 가속기를 도입해야 하는 문제점이 있었습니다. 암페어 A100에서는 300억 개 이상 늘어난 트랜지스터에 이 기능을 집중적으로 할당해 통합 인공지능 가속기로 거듭났습니다. 엔비디아가 같이 공개한 A100의 재미있는 부가 기능 중 하나는 하나의 GPU를 7개의 가상 GPU로 활용할 수 있는 Multi-Instance GPU(MIG) 기술입니다. A100처럼 큰 자원을 지닌 GPU를 모두 사용하는 인공지능 작업도 있을 수 있지만, 사실 전체가 필요하지 않을 수도 있습니다. 이 경우 GPU의 자원을 쪼개 여러 사용자가 같이 쓰거나 한 사용자라도 여러 작업을 동시에 수행할 수 있다면 작업 효율을 높일 수 있습니다.A100은 공개와 더불어 이미 고객에서 첫 제품이 인도된 상태입니다. 8개의 A100이 사용된 DGX A100은 미국 아르곤 국립 연구소에서 설치가 시작되었습니다. 19만9000달러의 가격표를 달고 나온 DGX A100은 두 개의 64코어 AMD 에픽 CPU와 1TB 메모리, 15TB 스토리지를 탑재했습니다. 전 세대와 달리 인텔 제온 대신 AMD 에픽 CPU를 채택한 점이 눈에 띄는데, 그만큼 에픽 CPU의 성능이 좋아졌기 때문으로 풀이됩니다. 두 회사가 라이벌 관계라는 점을 생각하면 재미있지만, 에픽 CPU의 성능도 좋고 PCIe 4.0도 지원하니까 사실 합리적인 선택입니다. 본래 엔비디아는 게임용 그래픽 카드인 지포스 제조사로 시작해서 전문가용 그래픽 카드인 쿼드로와 고성능 컴퓨팅 GPU인 테슬라로 영역을 점점 넓혀왔습니다. 최근에는 GPU 기반 인공지능 가속기로 IT 업계를 선도한다는 평가를 받고 있습니다. 물론 그와 동시에 엔비디아가 공개하는 최신 기술과 고성능 GPU는 일반 소비자에게 점점 더 생소한 물건이 되고 있습니다. 본체 가격만 수억 원에 달하는 DGX A100 서버를 집에 구비할 개인 소비자는 극히 드물 것입니다. 그러나 점점 발전하는 인공지능 기술은 이미 우리 삶에 큰 영향을 주고 있고 앞으로는 그 영향력이 더 커질 것입니다. 역사상 가장 큰 프로세서로 등장한 A100은 더 강력한 인공지능에 대한 기업들의 수요가 얼마나 큰지 보여주는 증거입니다. 하지만 인공지능을 비즈니스에 접목한 기업이나 연구에 활용하는 과학자 모두 여기에 만족하지 않을 것입니다. 분명 몇 년 안에 이보다 더 강력한 인공지능 하드웨어가 탄생하게 될 것입니다. 이렇게 발전한 인공지능이 인간을 위협하지 않고 인간을 위해서만 사용되기를 기대합니다. 고든 정 칼럼니스트 jjy0501@naver.com