클라우드 및 데이터센터 솔루션
NVIDIA CPU 플랫폼
AI 팩토리를 위해 설계되다.
개요
차세대 데이터센터의 엔진
NVIDIA CPU 플랫폼은 최신 AI 인프라와 AI 팩토리를 위한 기반을 제공합니다. NVIDIA Vera는 에이전틱 AI와 강화 학습을 위해 특별히 설계되었으며, 대규모 AI 팩토리를 지속적으로 운영하기 위한 도구 호출, 샌드박스 코드 실행, 데이터 파이프라인, 분석 및 오케스트레이션을 실행합니다. NVIDIA Grace™는 NVIDIA의 CPU 플랫폼을 가속 컴퓨팅, 하이퍼스케일 클라우드, 엣지 및 통신 환경 전반으로 확장하며, AI 팩토리를 위한 CPU 기반을 제공합니다.
NVIDIA Vera CPU
NVIDIA Vera는 에이전틱 AI와 AI 팩토리의 CPU 집약적 작업(도구 호출, 샌드박스 코드 실행, 오케스트레이션, 분석, 클라우드 서비스 및 스토리지)을 위해 특별히 설계된 시스템입니다. Vera는 가속 시스템에서는 NVIDIA GPU와 함께 호스트 CPU로 동작하거나, 데이터센터 전반에서 독립적으로 실행되어 AI 파이프라인이 지속적으로 운영되도록 지원합니다.
장점
기술 혁신
NVIDIA NVLink-C2C로 CPU-GPU 연결 가속화
NVIDIA Vera는 2세대 NVIDIA NVLink™ 칩 간 칩(C2C)을 사용하여 CPU와 GPU를 초당 1.8테라바이트(TB/s)의 양방향 대역폭으로 연결하며, PCIe Gen 6보다 7배 빠른 속도로 효율적인 데이터 전송을 가능하게 하고 메모리 관리 복잡성을 줄입니다.
LPDDR5X를 통해 에너지 효율적인 CPU 메모리 활용
NVIDIA CPU는 오류 정정 코드를 지원하는 LPDDR5X 메모리를 사용하여 서버급 신뢰성과 에너지 효율적인 데이터 이동을 결합합니다. NVIDIA Vera에서 LPDDR5X는 최대 1.2테라바이트/초의 메모리 대역폭을 제공하여 에이전틱 AI, 분석 및 오케스트레이션 워크로드를 지원하고, AI 팩토리 인프라 전반의 메모리 전력 소비를 줄입니다.
고성능 CPU 아키텍처를 통한 성능 및 효율성 향상
NVIDIA Vera는 맞춤형 NVIDIA Olympus Arm® 호환 CPU 코어와 2세대 NVIDIA Scalable Coherency Fabric(SCF)을 통해 높은 싱글 스레드 성능, 대규모 데이터 이동 및 로드 하에서도 예측 가능한 처리량을 제공합니다. NVIDIA Grace는 고성능 Arm 기반 CPU 코어와 NVIDIA SCF를 사용하여 가속 컴퓨팅, 클라우드, 엣지 및 데이터센터 워크로드에 효율적인 성능을 제공합니다.
가속 및 CPU 워크로드를 위한 다양한 구성
NVIDIA CPU 플랫폼은 NVIDIA Vera Rubin 및 NVIDIA Grace Blackwell과 같은 긴밀하게 통합된 CPU-GPU 아키텍처부터 독립형 싱글 및 듀얼 소켓 CPU 서버에 이르기까지 유연한 AI 팩토리 설계를 지원합니다. Vera는 에이전틱 AI, 강화 학습, 분석, 오케스트레이션 및 스토리지 전반에 걸쳐 플랫폼을 확장하는 반면, Grace는 가속 컴퓨팅과 전력 효율적인 컴퓨팅을 위한 검증된 CPU 기반을 제공합니다.
제품군
CPU 라인업 살펴보기
NVIDIA Grace CPU
최신 데이터센터를 위한 획기적인 CPU 성능 및 효율성.
NVIDIA CPU 및 GPU
대규모 AI 및 HPC 애플리케이션을 위한 NVIDIA CPU와 GPU를 연결하세요.
리소스
NVIDIA CPU 플랫폼에 대해 자세히 알아보기
-
새로운 소식
-
세션
-
비디오
다음 단계
NVIDIA 뉴스레터 구독하기
등록하여 NVIDIA의 최신 뉴스, 업데이트 등을 받아보세요.