엔비디아, 차세대 베라 ARM CPU 공개…기존 x86 대비 80% 더 빠르다

엔비디아가 RTX 스파크를 발표했다. 이는 AI 서버 기술을 소비자 영역으로 확장한 제품으로, 20코어 Grace CPU와 6,144개의 CUDA 코어를 갖춘 Blackwell GPU, 그리고 128GB의 LPDDR5X 메모리가 탑재됐다. 새로운 Vera CPU는 Vera Rubin 플랫폼의 핵심 구성 요소다. 이 플랫폼은 Vera CPU와 Rubin GPU로 이루어져 있으며, Vera는 기존 주요 x86 CPU 대비 평균 1.8배의 속도 향상을 약속한다. Vera는 ARM 명령어 세트를 기반으로 한 88개의 Olympus 코어를 탑재해 소켓당 176개의 스레드를 처리할 수 있는 공간적 멀티스레딩 기능을 갖췄다. 또한 최대 1.5TB의 LPDDR5X RAM과 결합할 수 있으며, AI 추론에 필수적인 1.2TB/s의 대역폭을 제공한다. Vera는 에이전트 AI 워크로드, 강화 학습, 데이터 처리 및 분석을 위한 단독 CPU로 사용 가능하다. 엔비디아는 256개의 CPU를 수용해 22,528개의 코어와 45,056개의 스레드를 구현한 Vera CPU 랙도 설계했다. 또는 Rubin GPU와 함께 사용하는 호스트 CPU로도 활용될 수 있다. 예를 들어 엔비디아 Vera Rubin NVL72는 36개의 Vera CPU와 72개의 Rubin GPU를 포함하며, NVLink-C2C 인터커넥트를 통해 1.8TB/s의 속도로 데이터를 주고받을 수 있다. 엔비디아는 이미 주요 고객사를 확보했다. 앤스로픽(Claude), 오픈AI(챗GPT), 스페이스X AI(Grok)가 Vera CPU를 사용할 예정이며, 바이트댄스, 코어위브, 오라클 클라우드 인프라와 같은 하이퍼스케일러들도 도입을 확정했다. 델, HP, 레노버, 슈퍼마이크로는 단독 Vera CPU 시스템을 구축할 계획이다. 에이수스, 컴팔, 폭스콘, 기가바이트, 페가트론, 퀀타 클라우드 테크놀로지, 위스트론, 위윈 등도 참여한다. 하루 1.1조 개의 메시지를 처리하는 뉴욕증권거래소(NYSE) 또한 레드판다, HP와 협력해 새로운 인프라 구축에 관심을 보이고 있다.