가상 GPU를 통해
가장 집약적인 서버 워크로드 지원
NVIDIA 가상 연산 서버(vCS)는 데이터 센터가 NVIDIA A100 Tensor 코어 GPU¹ 를
비롯한 최신 NVIDIA 데이터 센터
GPU를 통해 서버 가상화를 가속화함으로써
인공지능, 딥러닝 ,데이터 사이언스 등 가장 연산 집약적인
워크로드를 가상 머신(VM)에서 실행할 수 있도록 합니다.
-
- GPU 공유
- GPU 공유(일부)는 NVIDIA vGPU 기술을 통해 서만 가능합니다. GPU 공유를 통해 여러 VM에서 GPU를 공유하여 GPU 가속화가 필요한 경량 워크로드의 활용률을 극대화 할 수 있습니다.
-
- GPU 어그리게이션
- GPU 어그리게이션을 통해 VM은 컴퓨팅 집약 적인 워크로드에 필요한 두 개 이상의 GPU에 액세스할 수 있습니다. vCS는 멀티 vGPU 및 피어 투 피어 컴퓨팅을 모두 지원 합니다. 멀티 vGPU를 통해 GPU가 직접 연결되지 않고 피어 투 피어에서 NVLink를 통해 더 높은 대역폭을 지원합니다.
-
- 관리 및 모니터링
- vCS는 앱, 게스트 및 호스트 수준 모니터링을 지원합니다. 또한 예방적 관리 기능을 사용하면 실시간 마이그레이션, 중지 및 다시 시작을 수행하고 vGPU 관리 SDK를 통해 사용자 환경에 영향을 미치는 소비 추세를 드러내는 임계값을 생성할 수 있습니다.
-
- NGC
- NVIDIA GPU Cloud(NGC)는 딥 러닝, 머신 러닝 및 HPC를 위한 워크플로우를 간소화하는 GPU 최적화 소프트웨어용 허브로, NVIDIA vCS를 사용하는 가상화된 환경을 지원합니다.
-
- 피어 투 피어 컴퓨팅
- NVIDIA® NVLink™는 멀티 GPU 시스템 구성을 위해 더 높은 대역폭, 더 많은 링크 및 향상된 확장성을 제공하는 고속의 GPU간 직접적인 상호 연결이며 NVIDIA 가상 GPU(vGPU) 기술을 통해 가상으로 지원됩니다.
-
- ECC 및 페이지 폐기
- 오류 수정 코드(ECC) 및 페이지 폐기기능은 데이터 손상에 민감한 컴퓨팅 애플리케이션에 높은 안정성을 제공합니다. 특히 GPU가 매우 큰 데이터 세트를 처리하거나 장기간 동안 애플리케이션을 실행하는 대규모 클러스터 컴퓨팅 환경에서 매우 중요합니다.
-
- MIG (Multi-Instance GPU)
- MIG(Multi-Instance GPU)는 데이터센터의 기능을 확장할 수 있는 혁신적인 기술로 각 NVIDIA A100 Tensor Core GPU가 자체 고대역폭 메모리, 캐시, 컴퓨팅 코어로 하드웨어 수준에서 완전히 격리되고 보호 되는 최대 7개의 인스턴스로 분할될 수 있습니다. vCS 소프트웨어를 사용하는 VM은 이러한 각 MIG 인스턴스에서 실행될 수 있어, 조직이 하이퍼바이저 기반 서버 가상 화의 관리, 모니터링, 운영 혜택의 이점을 누릴 수 있습니다.
GPU 권장사양
| Qudaro RTX 8000 | Qudaro RTX 6000 | |
|---|---|---|
| 메모리 | 48 GB GDDR6 | 24 GB GDDR6 |
| 최고 FP 32 | 14.9 TFLOPS | 14.9 TFLOPS |
| 최고 FP 64 | - | - |
| NVLin : VM 당 GPU | 2 | 2 |
| ECC와 페이지 회수 | ||
| VM 당 멀티 GPU | 최대 16개 | 최대 16개 |
